重生之AI教父

CloseAI

首页 >> 重生之AI教父 >> 重生之AI教父最新章节(目录)
大家在看渔港春夜 明星系列多肉小说 学生会长和小干事 四合院之这货有点彪 神明降世,看见血条的我杀疯了! 四合院:卖掉工作考中专 四合院:何雨柱的平凡一生 四合院:从1958开始 穿越第一件事,截胡秦淮茹! 我的1949从长白山开始 
重生之AI教父 CloseAI - 重生之AI教父全文阅读 - 重生之AI教父txt下载 - 重生之AI教父最新章节 - 好看的都市言情小说

第14章 万事俱备

上一章书 页下一章阅读记录

“妈,今年我就不回去了,顺利的话明年年初回去看望你们。”

“我不是在外面瞎玩,休学也不是退学,您二位别紧张哈,我知道我在做什么。”

“也不用给我打钱,我也不是在创业,只是这段时间需要集中精力解决一些问题。就今年底,您放心,就今年底。如果不成功,您说什么我都听您的。”

“好,好嘞,记得叫老爸多出去运动,你们注意身体哈!”

“回,回去。过年的时候一定回去。”

挂了电话,孟繁岐靠在墙上,长长地叹了一口气。

这些事情实在跟父母解释不清楚,若不是因为担心付院长会出手相助,他原本是不打算去办休学的。

现在父母了解到如今的情况,肯定是忧心忡忡。最近几次通话,不管自己怎么说,父母总是没法放下心来。

孟繁岐只能靠着年底的期限安抚他们一下,承诺只要今年不能取得杰出的成果,就什么都听他们的。

看着房间里幸灾乐祸在调参的唐璜,孟繁岐没好气道,“笑什么笑。”

唐璜瞬间做出一个严肃认真的表情,但不论怎么看都带着三分阴阳怪气的感觉,让人很是不爽。

------------------------

这天的迟些时候,孟繁岐收到了阿里克斯的回复,看了眼时间点,阿里克斯应该是一起床就回复了邮件,可以说是相当勤奋了。

这个时间点已近临近今年赛事快要开始的时刻,不过阿里克斯本人其实没有计划继续组队参与本次的赛事。

只是哥虽然不在江湖,江湖却到处都是哥的传说。

13年的微软研究院队伍,新加坡国立大学队伍,和贾扬清领衔的decaf,Uc伯克利等队伍,都深受阿里克斯去年思想的影响。

根据阿里克斯介绍的办法,孟繁岐很快调试完成,顺利将批归一化,Adam优化器等操作从自己实验的环境迁移到cuda-convnet框架上,做了一些调整和适配。

没过过久,便已经在cIFAR-10上运行了起来。

接下来便是本次参赛的最核心竞争力,残差网络在这个框架上的实现。

“今年的ImAGENEt挑战赛其实没有什么太多的新想法,大家基本上都是以复现阿里克斯的算法为主。”

孟繁岐当然不准备和其他队伍一样,基于阿里克斯的框架去重新实现阿里克斯去年的参赛算法,早期的许多算法在参数量和计算量上都有很大的冗余。

“谷歌的GoogleNet和牛津的VGGNet原本要明年才能研究出来,不过我今年参赛之后,这两个AI历史上的重要网络恐怕就要胎死腹中了吧?”

别说是现在了,截止到14年末,多余的设计仍旧大量存在与谷歌和牛津大学的算法当中。

直到15年,那个男人以残差网络ResNet夺冠ImageNet-2015,铸就了深度学习时代的AI模型的神格。

残差思想是孟繁岐此时此刻的最佳选择,一方面它会成为深度学习时代的里程碑,因为它的核心思想,就是如何把深度网络做得更加‘深’。

另一方面,它的实现和结构简洁,抛弃了大量人类看来很有道理和价值,但实际上其实用处不大的设计。

将简洁好用的结构反复重复,这也大大地降低了孟繁岐所需要的开发工程量。

AlexNet是八层的结构,各自有一些独立的设计,在此时,8层已经是革命性的深度网络了。

更深的网络特别难以训练,因此原本直到14年,谷歌和牛津才分别把这个深度推进到22层和19层。

而ResNet的思想,彻底从根本上解决了网络变深就没法顺利训练的问题。它让50,100,150,甚至1000层网络的训练成为可能。

“从去年的8,到今年的100+层,甚至1000层也可以训练。在2013年的视角来看,这一剂猛药应该够劲了。”

不仅是深度上取得了开创性的突破,ResNet的性能也同样惊人。它是第一个top-5错误率低于人类能力的结构,单模型达到了4.6%左右。

如果综合几个不同方式训练的ResNet,平均他们的输出再去预测的话,其top-5错误率甚至低至3.7%。

“其实在ImAGENEt上做得太准了反而是一件怪事。”考虑到后世的研究中,该数据集中的标签其实有不小的比例是错误的,越贴近百分之百的准确率反而越有一些荒诞的感觉。

ResNet的Res指residual,正经点说是残差,说得明白一些是一种短路或者是跳跃链接。

再说的浅显一点,假设原本的操作为f(x),ResNet就是把计算过程从f(x)改为f(x)+x。

这也是孟繁岐最早与付院长讨论的内容之一。

这种不带任何参数的支路链接,直接把操作前的内容加到操作后的内容上,是深度网络突然能够在上千层的深度下收敛的秘密所在。

在此之后的几乎所有AI文章,都很难绕得开这个思路。恺明本人单就这一篇文章,就在六七年的时间内收获了十五六万的文章引用。

不得不说这是一个天文数字。要知道即便是Nature cell Science三大世界级顶刊常客,着名华国美国双料科学院士抽出一个来,至今为止所有文章的总引用数量加在一起五万多都算是多的了。

当然了,单以论文被引用的次数来评价文章的水平和作者的水平是有失偏颇的。

很多基本学科曲高和寡,看得人少写得人也少。引用自然就上不去。

但就AI这个实用性实验性比较强的学科来说,内部去对比的话,引用的多少含金量还是相当之高的。

大家只会用代码投票,有价值的东西会一直迭代下去。有利于自己模型在任务上性能提升的技术,则会被一直引用下去。

学术界一直有这样的说法,搞理论的和搞实验的两边相互看不起。这倒也不是无中生有。

恺明凭借几篇代表作奠定自己历史地位后,就总有个别人喜欢说什么“ResNet的思想早就有人提过了”,“几十年前的东西不算什么新东西”,“这篇文章也就是流量大罢了,和流量明星是一样的”。

酸味都要溢出屏幕了。

孟繁岐不是没读过一些理论类的文章,但他个人觉得新时代的AI,p话谁都会说,代码写出来才是本事。你说几十年前就有的东西,怎么不写一个ResNet突破人类水准呢?

ResNet的核心代码难写吗?不难的。

基于阿里克斯的框架,只需几个小时的时间,他就可以基本复现出ResNet论文中的所有结构。

弱小和无知不是生存的障碍,傲慢才是。

上一章目 录下一章存书签
站内强推小妻太水嫩:陆教授花式宠 逆天剑帝 渔港春夜 凡人策 都市偷心龙爪手 福艳之都市后宫 开创观想法的我,凭武道横推诸天 武侠:我在大明皇宫炼阴化阳 惊!天降老公竟是首富 我本无意成仙 全职法师 逍遥人生 我,大明长生者,历经十六帝 逼我下乡?科研军嫂搬空你全家 都市花缘梦 六零海岛,大力女混的风生水起 四合院之无敌签到系统 暗河长明 人在港综,你管这叫卧底? 四合院之我也来凑热闹 
经典收藏穿越豪门之娱乐后宫 明星系列多肉小说 动漫之后宫之旅 我在长白山赶山狩猎 官场:救了女领导后,我一路飞升 都市花缘梦 四合院:开局一把枪,禽兽全发慌 重生之官路商途 被辞退后,我在股市杀疯了! 四合院小市民 宋檀记事 穿越四合院,开局入赘娶寡妇 四合院之感受年代气息 道德绑架?笑死,我根本没有好吗 做医生,没必要太正常 回府后,世子妃马甲快藏不住了! 重回1982小渔村 四合院从1953开始 四合院:爆杀四合院禽兽,无敌了 重生六零年代,从中医开始 
最近更新相士之梦行者 让你写热血,你写八佰,保卫上沪 我,地星人道,成就多元! 别洗了,你就是娱乐圈大渣男 地球原来可以修仙,我在地球修仙 雾隐魔界 诸天:从万界盆开始走向人间巅峰 深渊入侵:从莽牛劲开始无敌 横财成就人生 世界大融合:我身旁全是主角 我有宇宙黑洞之世界之战 重生断绝关系,她们陆续重生回来 逆鳞重归 高武之止戈 重生08年金融危机前夕 分完又婚 开局就带帽,我崛起!前妻破防了 罪恶都市的平凡人 世间恶魔皆为我所创 父母被杀后,我化身恶魔复仇 
重生之AI教父 CloseAI - 重生之AI教父txt下载 - 重生之AI教父最新章节 - 重生之AI教父全文阅读 - 好看的都市言情小说