呱呱小说

手机浏览器扫描二维码访问

第86章 视觉新范式(第2页)

至于分割网络,则是这两天随着dreamnet的论文一起放出的u-net工作。至此,可以说视觉类几大任务的基础范式已经被孟繁岐奠基。

今后不论是识别分类,分割检测,还是迁移生成,都很难绕得开这些轻便又好用的办法了。

“可以看到,这种思想席卷视觉领域之后,使得目前主要的研究方向都有了颠覆性的突破。”

孟繁岐将这几篇论文的主要试验结论摆在了幻灯片的第二页,就是要先以结果震撼众人。

“显然,这些算法在诸多领域都与第二名拉开了巨大的差距,而相当一部分的功劳应当属于残差思想对网络深度的革命。”

“在1o年11年,我们仍在使用人工设计的sift,hog还有svm,12年,阿里克斯的八层a1exnet取得了巨大的突破。”

“而今年,残差思想引的深度革命,使得训练15o+层的神经网络成为可能。”

“深度神经网络是很多任务场景,尤其是视觉任务场景的基础引擎和骨干,这也是为什么它能够迅影响几个主流的任务。”

“从结构上看,dreamnet并没有什么特别的,比起之前每一层都单独设计的网络,我其实故意希望它变得简单,重复。”

孟繁岐身后的幻灯片展示了一个极其细长的图案,这就是一百多层深的dreamnet结构图。

放大展示它的基本设计,众人现,它的单层设计非常简洁朴素,只采用了最常规的算子操作。

长长的结构图滚动了起来,观众们都现,原来每一层并没有任何区别,只是单纯在重复。

由于一百多层的滚动需要太久,在这个严肃的场合显得有些喜感,场内出了一阵阵笑声。

“那么这里就引出了一个问题,那就是是否单纯地把网络做大作深,就总是可以取得更好的结果呢?”

孟繁岐的这个问题,直到2o23年也没有一个理论上的答复,但很显然,巨大的模型还在持续地创造一个个奇迹。

不管是绘画,对话,还是图像操作,都还远没有到达极限。

“我非常希望自己能够清楚地从理论上告诉大家这个答案,但由于能力有限,我也只能给出自己的猜测,那就是yes。”

“我相信,只要更多更好的gpu,更多更好的数据,以及更大大模型和更好的优化办法,我们就可以持续地创造奇迹。”

“而之前的网络在深度上遇到的阻碍,我认为并不是网络的能力问题,而是我们没有找到合适的办法去优化好它。”

让网络多重复几次,这是很多人都试过的事情,很显然,得到的结果是比原本要差的。

这在传统方法中,不是什么奇怪的现象,很多人都将这个现象解释为维度灾难或者过拟合,没有进行足够深度的探索。

“稍加思索,这显然是一个反直觉的现象,对于更深的网络,我们完全可以将小版本网络的所有参数复制进来,而多出来的部分只要什么事情都不做,这个模型就至少不会更差。”

“但事实上,却并非如此,我相信很多人都观察到了这样的普遍现象,那就是更深的模型反而变差了不少。”

热门小说推荐
痞子爱我

痞子爱我

简介关于痞子爱我林知意,整个南福城有名的名门大小姐,知书达礼,明理能干。十七岁父母车祸意外去世,一手担起家里的茶叶生意,照顾年幼的弟弟妹妹,抚养弟妹长大,十年如一日。人人都唏嘘这么一个好姑娘,最后嫁给了整个南福城最痞的那个痞子。*婚后,赵霆川不负他痞子本色,作天作地,让林知意不得安生。直到一次他烂醉着在酒吧跟别的女人花天酒地,被赶过来的林知意掀了桌子。在场的人从没见过好脾气的林知意这么失态过。赵霆川却高兴地爬起来一把将林知意拉到怀里你再说不喜欢老子!...

我的七个师姐国色天香

我的七个师姐国色天香

作品简介和我比剑法?我大师父当代剑仙,一手修罗剑法镇压当世!和我比邪性?我二师父邪道修士第一人,门徒十万众!和我比医术?我三师父神医门当代医仙,妙手回春,活死人肉白骨!...

我一只狸花猫吊打鬼神很合理啊!

我一只狸花猫吊打鬼神很合理啊!

简介关于我一只狸花猫吊打鬼神很合理啊!狸华投胎时出了点意外,孟婆汤还没喝就转世了。成为了农村的一只狸花猫。本以为这辈子只能抓抓老鼠,揍揍路过的狗,当个村霸度过此生。可偶然间,和村里的猫狗杀死了一条红蛇,体质进化,抢到了一个破商城。于是,崛起路上,多出了一位又一位的受害者。某位不愿透露姓名的鬼王谁懂啊,我就口嗨一句,那只狸花猫晚上带千只黑狗玄猫堵我。某位僵王我就练练嗓音多吼了两下,那猫开着装满道士血的洒水车浇我!严重贫血的茅山道士们天天被狗妖鸡妖打上门不说,还要定期供血,这日子没法过了!一对大花臂在云雾中显露的那一刻。众生为之而胆颤。惹猫爷的,晚上睡觉眼最好睁一只!狸华!...

护肤网红在古代

护肤网红在古代

建议当原创观看,爽文一朝穿越到古代武侠世界,号称天然护肤古法养人的网红牧遥决定继续干自己的老本行。踏月而来,去而留香说的就是这种香香帅同款香水,打九折给你日光影下,冰肌玉骨,这是...

一个蛮子的传说

一个蛮子的传说

简介关于一个蛮子的传说一位向往美好生活,只为了能活着的大山孩子。被人逼得一步一步踏上了修真成仙的道路上。当所有人都在嘲讽他像只蛮牛一样只会横冲直撞时那便用这一身蛮力,击碎所有人的偏见。构造一个只属于蛮子的传说!...

重生后,夫人养成黑莲花心机!

重生后,夫人养成黑莲花心机!

简介关于重生后,夫人养成黑莲花心机!重生以前,堂堂沈氏集团掌上明珠沈清榆为了给心脏深处的白月光报仇,带着仇恨嫁给了顾时聿。她装作贤妻和他三年夫妻,最终却没有成功报仇,反而被白莲花所害,家人最终为了她将沈氏拱手让人。重生之后沈清榆打算偷偷报仇计划让顾时聿爱上她然后抛弃他,让他体会一遍那个人受过的伤。最后沈清榆我确实没有喜欢过你,你确实是他的替身。顾时聿怎么来两次你都不爱我?替身也可以,清榆爱爱我,好不好?。顾时聿从来就不是她的选,她就算将那个人从心底生生剜了出来,但她还是不爱他。顾时聿不知道自己爱了沈清榆多久,他只知道他羡慕嫉妒甚至是恨沈清榆在那个人面前笑魇如花的样子,可是他不敢将一丝一毫的爱意流露,他恨她不爱自己,却爱她难以自拔。所以,在有机会做替身时,他亲自设计成为了沈清榆老公,可是他又贪心了。最后的最后,沈清榆才现原来真正令人心疼得痉挛的人一直是顾时聿,所以的一切都是假的,她血红着眼握着刀柄的手无声颤抖,男人腰腹处猩红色的血晕染又晕染...

每日热搜小说推荐