第232章 开始筹备GPT！（2 / 3）

《重生之AI教父》转载请注明来源：369小说网(369book.cc)

的最终版和方法的代码在整理结束后直接开源，干脆利落。

这个内部消息传出，让此前偏听偏信了cNN那套说辞的人顿时觉得十分羞愧，这完全是小人之心度君子之腹了。

“毕竟就连阿尔法围棋都还没开源呢...那个工作都已经做完半年了，谁能想到他开源t方法如此干脆利落！”

阿尔法围棋孟繁岐虽然是核心贡献者，但撑死了也就只能占个三四成的功劳，还占不到一半。

主体控制权仍旧是deepmind，孟繁岐不好越过戴密斯和席尔瓦等人去宣布开源。

约定在年底，也是几人商讨之后，权衡了利弊才最终决定的。

“这小子不会又在憋下一个大招了吧？？”

“我怎么有种不祥的预感？？”

“这情况好吓人啊，我现在都不敢做研究了，生怕忙活大半年又被他直接掀翻了，全白干！”

孟繁岐此时的形象，已经差不多成为了领域终结者。

论文一发，生死难料。

谁都不知道哪个领域会是下一个受害者。

吃瓜群众们没有猜错，既然马斯克有自己的小算盘，孟繁岐已经转移重心在紧锣密鼓地继续t方法的后续技术道路了。

初版的t方法并没有那么成熟，取得发布会上的那些成绩，需要大量的数据和计算资源才能做到，孟繁岐认为开源它并无大碍。

一般人根本玩不起这东西。

就在大家还在仔细琢磨论文，研究代码的这段时间，就足够孟繁岐准备好后续三大方向的框架了。

等这群人还忙于复现，调整参数，在训练过程中持续踩坑阶段的时候，孟繁岐后续的实验都能做一半了。

等他们真的能够有一些什么不够成熟的发现时，孟繁岐基于t方法的后续：Gpt、bERt和t5三大路线的论文，说不好都已经整装待发了。

“我就是要故意漏出一些破绽，给学界一些希望和曙光，然后在他们觉得自己行了的时候，狠狠地掏出更强的方法，给他们致命一击！”

不得不说，他实在有点恶趣味。

但另一方面，这也是为了孟繁岐私人的利益。

只有开源放出t方法，让更多的人提前采用它、认可它，英伟达才能够更早地对这个方法有充分的信心，对t方法做硬件的专门适配，双方的合作关系更加紧密。

此举能够大大加深他与英伟达之间的羁绊，自然是需要大力推动的。

“bERt方法和Gpt方法名字里面都有一个t，这个transformer便是两者的基础。bERt的全称是来自t方法的双向编码器表示，而Gpt的全称是预训练生成式t方法。”

“这两个名字虽然听起来让人觉得云里雾里的，但可以用一种很好记的方式去理解。基础的t方法与此前经典的循环网络一样使用了编码器和解码器组合的结构，bERt专精于编码器，而Gpt专精于解码器。”

t方法提出一段时间之后，学者们发现，这种全新的结构并不一定非要遵循原本的那种编码器解码器结合的模式，而是可以仅仅只使用一种格式就取得很优秀的结果。

“其实自然语言处理的任务，核心是一个有关概率的游戏。这些模型在大量的文本和数据上进行训练之后，模型就会非常擅长做填空游戏。它会根据上下文，在文字的空白处填写答案。比如：我今天股票【空格】了。AI就会发现，赚和赔这两个字拥

本章未完，请点击下一页继续阅读！