手机浏览器扫描二维码访问
第14章 万事俱备（第2页）
a1exnet是八层的结构，各自有一些独立的设计，在此时，8层已经是革命性的深度网络了。
更深的网络特别难以训练，因此原本直到14年，谷歌和牛津才分别把这个深度推进到22层和19层。……
更深的网络特别难以训练，因此原本直到14年，谷歌和牛津才分别把这个深度推进到22层和19层。
而Resnet的思想，彻底从根本上解决了网络变深就没法顺利训练的问题。它让5o，1oo，15o，甚至1ooo层网络的训练成为可能。
“从去年的8，到今年的1oo+层，甚至1ooo层也可以训练。在2o13年的视角来看，这一剂猛药应该够劲了。”
不仅是深度上取得了开创性的突破，Resnet的性能也同样惊人。它是第一个Top-5错误率低于人类能力的结构，单模型达到了4.6%左右。
如果综合几个不同方式训练的Resnet，平均他们的输出再去预测的话，其Top-5错误率甚至低至3.7%。
“其实在ImageneT上做得太准了反而是一件怪事。”考虑到后世的研究中，该数据集中的标签其实有不小的比例是错误的，越贴近百分之百的准确率反而越有一些荒诞的感觉。
Resnet的Res指residua1，正经点说是残差，说得明白一些是一种短路或者是跳跃链接。
再说的浅显一点，假设原本的操作为f（x），Resnet就是把计算过程从f（x）改为f（x）+x。
这也是孟繁岐最早与付院长讨论的内容之一。
这种不带任何参数的支路链接，直接把操作前的内容加到操作后的内容上，是深度网络突然能够在上千层的深度下收敛的秘密所在。
在此之后的几乎所有aI文章，都很难绕得开这个思路。kaiming本人单就这一篇文章，就在六七年的时间内收获了十五六万的文章引用。
不得不说这是一个天文数字。要知道即便是naturenetce三大世界级顶刊常客，著名华国美国双料科学院士抽出一个来，至今为止所有文章的总引用数量加在一起五万多都算是多的了。
当然了，单以论文被引用的次数来评价文章的水平和作者的水平是有失偏颇的。
很多基本学科曲高和寡，看得人少写得人也少。引用自然就上不去。
但就aI这个实用性实验性比较强的学科来说，内部去对比的话，引用的多少含金量还是相当之高的。
大家只会用代码投票，有价值的东西会一直迭代下去。有利于自己模型在任务上性能提升的技术，则会被一直引用下去。
学术界一直有这样的说法，搞理论的和搞实验的两边相互看不起。这倒也不是无中生有。
kaiming凭借几篇代表作奠定自己历史地位后，就总有个别人喜欢说什么“Resnet的思想早就有人提过了”，“几十年前的东西不算什么东西”，“这篇文章也就是流量大罢了，和流量明星是一样的”。
酸味都要溢出屏幕了。
孟繁岐不是没读过一些理论类的文章，但他个人觉得时代的aI，ta1kischeap，shomethecode。你说几十年前就有的东西，怎么不写一个Resnet突破人类水准呢？
Resnet的核心代码难写吗？不难的。
基于a1ex的框架，只需几个小时的时间，他就可以基本复现出Resnet论文中的所有结构。
弱小和无知不是生存的障碍，傲慢才是。
本章完
痞子爱我
简介关于痞子爱我林知意，整个南福城有名的名门大小姐，知书达礼，明理能干。十七岁父母车祸意外去世，一手担起家里的茶叶生意，照顾年幼的弟弟妹妹，抚养弟妹长大，十年如一日。人人都唏嘘这么一个好姑娘，最后嫁给了整个南福城最痞的那个痞子。＊婚后，赵霆川不负他痞子本色，作天作地，让林知意不得安生。直到一次他烂醉着在酒吧跟别的女人花天酒地，被赶过来的林知意掀了桌子。在场的人从没见过好脾气的林知意这么失态过。赵霆川却高兴地爬起来一把将林知意拉到怀里你再说不喜欢老子！...
我的七个师姐国色天香
作品简介和我比剑法？我大师父当代剑仙，一手修罗剑法镇压当世！和我比邪性？我二师父邪道修士第一人，门徒十万众！和我比医术？我三师父神医门当代医仙，妙手回春，活死人肉白骨！...
我一只狸花猫吊打鬼神很合理啊！
简介关于我一只狸花猫吊打鬼神很合理啊！狸华投胎时出了点意外，孟婆汤还没喝就转世了。成为了农村的一只狸花猫。本以为这辈子只能抓抓老鼠，揍揍路过的狗，当个村霸度过此生。可偶然间，和村里的猫狗杀死了一条红蛇，体质进化，抢到了一个破商城。于是，崛起路上，多出了一位又一位的受害者。某位不愿透露姓名的鬼王谁懂啊，我就口嗨一句，那只狸花猫晚上带千只黑狗玄猫堵我。某位僵王我就练练嗓音多吼了两下，那猫开着装满道士血的洒水车浇我！严重贫血的茅山道士们天天被狗妖鸡妖打上门不说，还要定期供血，这日子没法过了！一对大花臂在云雾中显露的那一刻。众生为之而胆颤。惹猫爷的，晚上睡觉眼最好睁一只！狸华！...
护肤网红在古代
建议当原创观看，爽文一朝穿越到古代武侠世界，号称天然护肤古法养人的网红牧遥决定继续干自己的老本行。踏月而来，去而留香说的就是这种香香帅同款香水，打九折给你日光影下，冰肌玉骨，这是...
一个蛮子的传说
简介关于一个蛮子的传说一位向往美好生活，只为了能活着的大山孩子。被人逼得一步一步踏上了修真成仙的道路上。当所有人都在嘲讽他像只蛮牛一样只会横冲直撞时那便用这一身蛮力，击碎所有人的偏见。构造一个只属于蛮子的传说！...
重生后，夫人养成黑莲花心机！
简介关于重生后，夫人养成黑莲花心机！重生以前，堂堂沈氏集团掌上明珠沈清榆为了给心脏深处的白月光报仇，带着仇恨嫁给了顾时聿。她装作贤妻和他三年夫妻，最终却没有成功报仇，反而被白莲花所害，家人最终为了她将沈氏拱手让人。重生之后沈清榆打算偷偷报仇计划让顾时聿爱上她然后抛弃他，让他体会一遍那个人受过的伤。最后沈清榆我确实没有喜欢过你，你确实是他的替身。顾时聿怎么来两次你都不爱我？替身也可以，清榆爱爱我，好不好？。顾时聿从来就不是她的选，她就算将那个人从心底生生剜了出来，但她还是不爱他。顾时聿不知道自己爱了沈清榆多久，他只知道他羡慕嫉妒甚至是恨沈清榆在那个人面前笑魇如花的样子，可是他不敢将一丝一毫的爱意流露，他恨她不爱自己，却爱她难以自拔。所以，在有机会做替身时，他亲自设计成为了沈清榆老公，可是他又贪心了。最后的最后，沈清榆才现原来真正令人心疼得痉挛的人一直是顾时聿，所以的一切都是假的，她血红着眼握着刀柄的手无声颤抖，男人腰腹处猩红色的血晕染又晕染...