第323章 ChatGPT核心技术（合）（2 / 4）

《重生之AI教父》转载请注明来源：369小说网(369book.cc)

重要性，因而从两年前开始收集数据的时候，早就规定了收集数据需要的格式。

一步到位，为后面省了不少事情。

上一次AI医生，之所以能用数亿的参数量做到那么好的效果，指令微调策略是贡献很大的。

他使得AI模型能够显得非常自信专业，很像是具备特定领域专业知识的老医生。

并且时刻知道自己的身份，会提醒患者去医院确认情况，不会过于自信。

“这一次的主要挑战在于我们要打造一个通用的语言大模型智能，因此多个方面和领域都需要微调，任务种类可能达到数千的级别。”

“我留给大家的时间并不多，可能只允许你们失败一次。有任何问题及时跟我联络协调，不要硬着头皮耗，到最后耽误了整体的进度，奖金扣光！”

孟繁岐平时对于薪水发放很好说话，但关键时刻也不会容许有人掉链子。

想做chatGpt这样的通用模型，这一整套流程需要大家齐心协力完成，单只靠几个已经熟悉了这个过程的小团体就显得不够了。

【指令微调】需要用量来堆，前世大家的总结是，【对没有见过的指令也能做出正确反馈】这种奇特的智能能力，是在模型训练的指令数量超过一定程度之后，自动出现的。

很多家机构和模型，都在自己的训练过程中，发现了这样的现象。

说难听点就是，大力出奇迹了，量变产生了质变，并没有谁提前预料到了这个结果。

而另一个关键因素【代码训练】，则是大模型产生了【思维链】的一大主要原因。

Gpt3的训练阶段，数据中没有包含任何代码，它基本不具备【思维链】能力。

谷歌的paLm，含有大约百分之5左右的代码数据，最终得出的模型具备【思维链】的能力。

达芬奇系列分出两支，其中一个对代码做了特训之后，发觉这一系列和后续变体，都获得了【思维链推理】的能力。

2022年，有人就对市面上的大模型都进行了广泛的评估，发现所有针对代码进行过学习的语言模型，都具备很强的语言推理能力。

这一发现，同样暂时没有得到比较合理的解释。

前世大模型火了之后，孟繁岐原本的项目直接被砍，因而读这类的技术和论文很多。

但读来读去，并没有读到任何确凿的证据和理论可以证明又或者是解释，代码就是大模型能够形成思维链又或者是进行复杂推理的原因。

大家也只是发现了这样的观察结果，这两者之间存在相关性，不过未必就是因果关系。

“目前我还没有看到谁将各种代码也加入到模型训练当中...”孟繁岐极大地加速了AI技术的发展，等到他推出350亿参数的chatGpt之后，有这个能力入场玩一玩的公司就不剩下多少了。

对大多数人来说，光是把这个大小的模型塞进自己的服务器里，运行在显卡上，就已经是要了老命的事情了。

如此大的模型规模，大家连训练比较常用的数据都难以负担，恐怕很难能够想到要把将代码也加入到文本当中来。

这个小秘密，可能要等孟繁岐推出专门的代码大模型之后，才会有人注意到。

“所以到底为什么让模型学习代码会有助于它的逻辑推理能力，以至于它在处理人类语言的时候也会有这么大的提升呢？”孟繁岐并不知道答案，这件事情在2023年也是未解之谜。

本章未完，请点击下一页继续阅读！