《重生之AI教父》转载请注明来源:369小说网(369book.cc)
已经成名的孟繁岐,如今在研发技术又或者是写作论文的时候,是否具备理论解释已经不在考虑的范围当中。
在这个比较特殊的领域,算法的实际效果和应用范围才是他关注的重点。
虽然学界接受这一现象可能还需要一定的时间。
但这已经不是孟繁岐关心的事情了,在人工智能技术上面,他一直都是实践派。
结构重参数化虽然在数学上反直觉,但实际的效果确实相当惊艳。
它的主要提升来自两方面,一当然是分支合并带来的提升,原本复杂的支路在推理的时候被合并了起来,节约了计算量。
二却是来自一般人想不到的性能提升。
结构的重参数化,既然可以合并复杂分支,那为什么不在训练的时候,把分支设计得更加复杂一点呢?
反正最后都可以合并起来。
遵循这个思路,重参数化还允许相同的最终结构,通过复杂训练的方式获得更高的性能。
作为最终的结果,重参数化在轻量级网络上,大概取得了1.8倍左右的速度提升。
这个数字看起来没有先前8-9倍那么夸张,但这是在已经优化的高速网络上取得的结果。
在已经优化得很好的结果之上,继续优化的难度当然是更大的,同样是一秒钟的速度提升,后面的那一秒含金量当然不可与前面的同日而语。
就像是百米长跑,原本只能30秒跑完,提升一秒没什么大不了的。
可若是你能跑到10秒左右,再快一秒那可就不得了了,博尔特看了都得给你跪下。
博尔特跪不跪下不知道,马斯克确实是差点跪下了。
他上次与孟繁岐的沟通,一定程度上算是鸡同鸭讲。
从相当程度上,他只是在单纯客观地分析一个现实情况,那就是目前的模型计算量,对特斯拉来说很难负担。
后来特斯拉初版的自动驾驶还是使用了传感器,就是因为计算量负担不起,马斯克也不得不向现实低头。
如果要说他原本的计划,其实是打算从硬件方面解决这个问题的,没有指望孟繁岐能够继续优化。
面对已经比较夸张的提升,马斯克怎么也想不到,还能有什么手段可以继续简化模型的结构。
可偏偏孟繁岐就做到了,而且一共也没用到多久的时间。
不仅精简了计算量,甚至还删掉了网络的分支,现在连内存容量也给他省了下来。
“我..我不得不说,我被你的技术实力所折服,这让我太惊讶了。”视频当中,马斯克罕见地露出了笑容,言语之间稍微有一些口吃。
私底下,他是个没那么外向的人,说话的时候,如果有强烈的情绪,经常会有些口吃反复的现象。
“我原本只是在进行分析,确认当前的主要难点到底在哪里,完全没有想过你把它当成了一个任务,并且完成得这么好。”
“我还以为那是来自钢铁侠的高要求呢。”孟繁岐听到这里最开始两眼一黑,敢情自己自作多情了。
但早些继续推动网络的轻量化倒也不是坏事,一方面能加速人工智能技术落地,另一方面也会转移大家的视线,使得业界专注于小模型,而不大会发现大模型的威力。
“并且,如果你想要打造纯视觉自动驾驶系统,优化得再好的小模型也只是门槛中的门槛罢了,距离成型还差很远。”
本章未完,请点击下一页继续阅读!
关于从行星总督开始:帝国的疆域囊括了无尽的繁星,在这黑暗恐怖的遥远未来,只有无尽的战争。……当上行星总督的顾航,成为一颗废土行星的主人。他之前的三任总督都因为无法按时缴纳帝国税而被处决。变异怪物和废能风暴肆虐、幸存者势力勾心斗角内讧不断、科技落后、生产力低下、邪神复苏、绿皮生根发芽……“先别慌,让我看下面板。”【兵牌】、【英雄】、【科技】、【事件】……从行星总督开始,打造纵横星海的军团与舰队,镇
游戏 133万字 4天前
关于穿越成反派炮灰,我被迫征战沙场:从末世穿越而来的叶娇,成为了宋国武将叶家的团宠小娇娇。有着大将军父亲,武将一家的大哥,二哥,温柔且飒爽的军师母亲,青梅竹马的小侯爷。母亲是当朝皇帝的妹妹,皇帝舅舅全部生的都是儿子,所以对叶娇娇特别喜爱。温馨且美好的生活本以为是上天给自己重活一生的补偿,却没想到是穿越到一本书里。长到三岁的叶娇娇才知道,原来自己穿越到一本书里。自己一家子都是反派,还是反派炮灰的那
其他 38万字 1天前
关于在古代做个小县官:论在古代做个小县官是什么感受?架空/种田/基建/无CP孟长青穿越古代,为保家产,自幼女扮男装。又因殴打太子得罪后妃,被发配至最北地做个小官。皇帝因为不得不做的处罚,愧疚到难以入眠。孟长青却高兴到连夜收拾东西,天不亮就出了京。太好了,真是太好了!在京都当了十三年孙子,总算解放了!从今以后她孟长青自由了!她要到北山县做个土皇帝!但是在马车进到县城的那一刻,她傻了。什么情况?这里
玄幻 43万字 1天前
关于蝙蝠侠能有什么坏心思:陈韬万万没有想到,自己穿越了就算了,居然穿越成了蝙蝠侠本人。众所周知,蝙蝠侠聪明绝顶,智慧超群,格斗水平超凡入圣,但是——这一切和我这个穿越者有啥关系呢?哦!没事,我能继承蝙蝠侠的力量和记忆……?!?等等,为什么都是平行宇宙版本的?—————大都会,正义联盟在黑暗君主达克赛德面前躺了一地。【警告!已检测到“超人破碎的披风”“神奇女侠的烂盾牌”“绿灯侠损坏的绿灯戒”……】
武侠 168万字 6天前
关于天宇奇幻:(末世+升级+无系统+慢热+势力+主角不犯花痴)人类的大脑为何无法完全开发?危机时刻爆发出的潜能平时又在哪里?灵魂究竟是什么?到底灵魂是我,还是肉体是我?随着人类赖以生存的星球步入宇宙中一片高强度的能量带,一切都变了。残酷的环境铸就真正的强者,人类即将复苏,往日的荣光即将重现……
游戏 29万字 2天前
关于扮演岩王帝君多年后,我穿回来了:无cp我遇到个打算创世的神,祂捡了些湮灭世界的碎片练手。但搓出来的部分世界,总有重要人物刷新不出。祂打算请人来扮演,并承诺,只要完成扮演,就能获得扮演人物的能力。我跟被下了降智光环似的,甚至没问要扮演谁、扮演多长时间,二话不说就和祂签订了劳动合同。祂被我感动的泪流满面,说要不是自己化身太多,已经分不动。底下员工掰成两半,人手还不够,也不会出此下策。并给了我一个
游戏 108万字 4天前