25小说网 通过搜索各大小说站为您自动抓取各类小说的最快更新供您阅读!

他当初刚写第一篇论文的时候,就拟好了这个题目,只是由于数学基础不够,一直停留在构思阶段。

这两天他利用碎片时间,稍微补了补高数知识,这才真正动笔。

江寒将近期一些想法整理了一下,罗列了个大纲出来。

很多机器学习分类算法,都要求假设数据线性可分,“感知机”也不例外。

如果数据不是线性可分的,就必须采用一些特殊的方法,把数据非线性地投射到更高的维度上。

在高维空间里,数据更有可能变成线性可分的,这就是所谓的Cover定理。

对于感知机来说,处理线性不可分的问题,有个最简单的解决办法,那就是把单层感知机拓展为多层感知机。

多层感知机的关键,在于如何训练各层之间的连接权值。

一种常用的办法是只训练某两层间的连接权值,而将其它连接权值进行固定。

可以从数学上证明,对于所有非线性可分的样本集,这种方法都是收敛的。

也可以采用BP技术,也就是另一个世界里,大名鼎鼎的“反向传播神经网络”。

当然,这个世界里,“感知机”都还没正式登场,说这些还有点早。

至于BP技术什么时候问世,基本上是江寒自己说了算……

此外,还可以将数据带到核空间,再进行分类。

在另一个世界里,有很多着名的算法,例如支持向量机(SVM)、径向基神经网络(RBFNN)等等,都采用了所谓的“核方法”。

核方法的核心,是核函数。

工业生产中,常用的核函数有线形核、多项式核、高斯核等等。

所谓核空间,百度百科上说:“核型空间是一类局部凸空间。”

具体来说:如果对零元的任何均衡凸邻域V,存在另一零元的均衡凸邻域U?V,使得典型映射T:XV→XU是核映射,则局部凸空间X称为核型空间。

这里,XU是商空间(X,PU(·)){x|PU(x)=0},而XV是商空间(X,PV(·)){x|PV(x)=0}的完备化空间,PU(·)及PV(·)是由U和V各自产生的闵可夫斯基泛函。

嗯,江寒刚开始看到这个的时候,还真有点懵逼。

所以,再加强一点数学素养,还是很有必要的说……

当然,就算不懂上面的数学表达,一样可以理解核函数的功能。

核函数主要做的事情,就是将样本映射到更高维的空间。

但是,这样做虽然能使样本变得可分,但却会造成维数过高,使得计算量急遽增大。

这就是“高维NP难”问题。

所谓NP难(NP-hard),是指:非确定性多项式问题的大型实例,不能用精确算法求解,只能寻求有效的近似算法。

而解决的办法,也有很多……

好吧,先回到一开始的问题:如何判断数据是线性可分的?

最简单的情况,比如数据向量是一维、二维或者三维的,只要把图像画出来,直观上就能判断出来。

但如果数据向量的维度变得很高,又该怎么办?

答案是检查凸包(convexhull)是否相交。

所谓凸包,简单的说,就是一个凸的闭合曲线(曲面),它刚好包住了所有的数据。

以二维的情况为例,如果我们的数据训练集有两类:M+和M-。

当我们画出两个类的凸包,如果两者不重叠,那么两者线性可分,反之则线性不可分。

靠画出图形,然后用眼睛来判断是否线性可分,虽然比直接看数据更加容易了些……

但好像依然没有解决高维数据的问题?

其实不是这样的。

判断两个凸包是不是有重叠,可以通过判断两个凸包(M+和M-)的边是否相交来实现,而无需把凸包画出来。

要想高效地找到一组数据的凸包,在计算几何中有很多现成的算法:

穷举法、分治法、Jarvis步进法、Graham扫描法、Melkman算法……

江寒在这篇论文中选择的算法,称之为快速凸包算法(quickhull)。

第二个问题,如何高效地判断出,两个凸包的边缘是否相交?

也有许多可选的算法,江寒使用了所谓的扫描线算法(sweepline)。

Quickhull和sweepline的时间复杂度,都是O(nlogn),这是它们被选中的前提条件。

时间复杂度越低,实践中就越有可行性。

但写论文不能这么简单的直接扔出来结论,必须将各种算法的效率和优缺点,全都分析一下。

有必要的时候,还要逐一测试N遍,收集到足够的数据,然后进行横向比较,最后才能得出结论。

江寒理清了思路后,开始打草稿。

首先写下标题,然后是摘要,接下来是正文……

(此处省略2300字。)

江寒正奋笔疾书,黄光明忽然溜溜达达地走了过来。

“江寒,都下课了,还在做题啊?”

黄大学霸说着,探头探脑地瞅了一眼。

结果一看草稿纸上书写的标题,顿时就有点傻眼。

“《如何高效判断数据是否线性可分》……”

这什么玩意?

高中课程里有这种东西吗?

再一看正文,就更加怀疑人生了。

沉默了半天,黄光明还是忍不住问了一句:“你这写的什么东西?”

“偶有所感,随便写写。”江寒笑着回答了一句,然后继续奋笔疾书。

黄光明研究了半天,最终还是放弃了,摇了摇头,转身就走。

他忽然发觉,自己这个传统型学霸,和江寒这种怪物相比,好像已经不在一个频道了……

江寒瞥了眼黄光明的背影,发现他似乎……有点落寞?

忍不住摇了摇头。

好像不小心打击到了别人了,但这次真的是误伤……

又是两节课带课间过去,终于在第四节下课十来分钟后,写完了初稿。

将东西收拾好,就赶往食堂吃饭。

下午,江寒也没浪费时间,写了大半篇“感知机应用”方向的论文,然后在晚自习的时间里,写完了另外一半。

充实的一天就这样过去。

下了晚自习,江寒先找宿管老李,把自己的手机拿了回来。

回到403寝,打开手机,好几条短信跳了出来。

江寒翻看着短信。

最新的一条,赫然是来自银行平台的提醒:【您卡号621xxxxxxxxxxxx的银行卡,存入资金8.4万元。】

“啧,还挺及时的。”江寒赞了一声,放下了手机。

夏如虹按照约定,把专利授权费打过来了。

第一笔资金总共是10万块,到账却只有8万4。

剩余的部分,自然是为国家做了贡献,扣除了应缴纳的税款。

这钱来的正是时候。

江寒的手头正好有点紧,而且还有许多比较急迫的预算。

在江寒的计划里,最近一两个月里,最重要的事情,就是数据实验室。

因为等他出完“多层感知机”的论文,再想搞机器学习方面的研究,就必须大量算力的支持了。

打造数据实验室,硬件设备不能少。

有些不急需的东西,可以等手里活钱多了,再慢慢地置办,但最基本的硬件设施,越快到手越好。

江寒先做了张EXCEL表格,将所需的东西罗列了出来,然后在网上一顿搜寻,找准了采购目标,再按照重要程度,一样样下单。

等过几天有空,就去夏如虹借给自己的车库,看看情况。

然后抓紧时间,把场地收拾出来。

等硬件一到位,就立即把实验室置办起来……

25小说网推荐阅读:四合院:我何雨柱,誓不做吸血包四合院:农场主的美好生活四合院:这个住户恐怖如斯九龙至尊四合院:开局奖励神级厨艺重生1983:从夺回家产开始手握购物app:年代女配赢麻了穿成灾星小村姑,把全村都带歪了卷飞全家后我躺平了四合院:从返还技能开始美妇村情一天一个补偿包,反手打爆商业圈猛男诞生记四合院:开局拒绝一大爷换房婚礼现场,我和全家断绝关系!重生皇妃之不争宠武纵八荒我一个中介,会点风水很正常吧荒野求生之我的运气有亿点好山村最强小农民四合院:老子农场在国外重生1960,带着亿万食品仓库四合院:傻兄傻弟邢先生的冷面女友下乡知青:直接跟全家断绝关系赤胆特工四合院:我找傻柱报仇,全院慌了最强战神四合院:一人纵横万古神帝穿越古代:悍妇当家每月一首成名曲,打爆娱乐圈四合院:刚得系统,贾家逼我接济无敌升级王年代:随身农场被曝光了80年代剽悍土着女开局当替身,真千金在豪门杀疯了大佬媳妇甜又野救命!大佬她又开始反向许愿了!神魂丹帝人家采蘑菇,你采百年野山参全职中医万界交易,破产小老板的崛起之路邪御天娇携带亿万物资穿越七零四合院:我在四合院看我火爆全网四合院:这一家子惹不起年代1960:穿越南锣鼓巷,四合院:我真不想收拾你们60年代,饥荒年,赶山挖百年参
25小说网搜藏榜:斗罗大陆4终极斗罗(斗罗大陆IV终极斗罗)变身:武道女帝抗战:我觉醒杀星系统重生皇妃之不争宠武纵八荒我和女神的荒岛生涯重生八零从知青回城开始古玩街直播:你管这叫捡漏?求生综艺爆火后,我成了全民团宠年代:从大山开始仙门弃婿皇上,本宫很会撩校草恋上小丫头狂妻要翻天:沈爷,娶我步步沦陷重生1983,从卖小龙虾开始我一个中介,会点风水很正常吧[穿越]龙小六星际逆袭记女监狱男管教他比火光更耀眼盛少,又又又发狗粮了边种田边炒股,我是村里的首富穿成反派大佬的黑月光是谁劫走了我的初恋弃妃拒承欢本宫娇养的小奶狗被宠野了重生之农女太子妃非黑即白?不,我是商业巨擘!吾家淘妻不好惹爱妃别跑,本王要以身相许神级提示:开局举报行走的五十万手握超市穿年代,糙汉福妻美又飒直播盗墓游戏,呆妹周姐人麻了!舞动娱乐圈身价万亿,校花被我骗光生活费最强少年医圣绝色风华:腹黑召唤师逆天妖妃撩君心凤鸾九霄环佩锁情仇绝世神医开局麒麟肾,吓哭九个绝色娇妻重生从遇到小富婆开始重生七五:王牌娇妻有灵泉重生明星路为动画制作献上美好祝福趁兄弟憨萌,忽悠她做老婆相婿出山你好,我是人间执剑者纨绔江湖:重生公主惹邪王
25小说网最新小说:我的同学都是妖为爱让我放弃编制?我走你哭啥末代厂长穿越逆袭记穿成反派只想苟,不料女主成为我舔狗人生这几年祸害闯天下列车长的升迁之路我收捡垃圾成为顶级批发商夜幕无梦变身:被逼入死角的我不装了债务迷局都市异能:破晓之怒焰财阀的快乐你不懂转职:一柄魔刀千刃杀穿全校!女总裁倒追,前妻追夫火葬场了逆流港湾含冤入狱:陷害我的校花没想到我重生了重生60:分家后我把妻儿宠上天炮灰:女友前世是病娇小男娘重生九零年代,被迫再做资本大鳄高考落榜,听劝的我成了首富出山后,我的身份瞒不住了地幔战记开局获得141,成立巨神集团官场无痕:平民子弟逆袭世家名门重生:风流学霸,创造神话离婚吧爱人,妻子上综艺人设崩塌害我女儿我化为灭世僵王手握封神榜:一个能打的都没有华娱从2014开始村美人凡人修仙之童心问道重生1954,靠打猎发家致富!转职神级辅助,转身上报国家!年少如龙高武:开局抽中概念级异能老婆:我重生归来,许你灿烂人生民国从小混混开始无法无天诸天旅客迷糊先生野人岛上情未了穿越十年,影后要和我离婚请叫我洞虚观主!年代60从深山打猎开始逆袭都市异能传奇穿越文化断层世界,我直接杀疯了重生后,我在寝室卖灵兽万般皆是我,我为奇迹的化身御兽:我的契约不对劲谍战:我是螺丝刀,卧底76号