第 8 节 做一个听话的 AI（1 / 1）

《第 8 节 做一个听话的 AI》转载请注明来源：369小说网(369book.cc)

https://picx.zhimg.com/v2-fd62cf2aa8f8e0bd99f52db0921ba555.png?source=6a64a727

在贯穿整个专栏的案例中，你或许能够发现一个关键点：训练数据的组织方式决定了模型的实际行为。

之所以训练出的模型会一首接一首地写诗，是因为我们的训练数据就是这样设计的。在我们的数据集中，所有诗首尾相连串在一起，模型学习这些文本中的表述方式，自然也就学会了不停写诗。我们曾在第 2 节中提及，这种行为被称为文本补全（completion）。来源wx ’胡巴*士‘ 免费看

对于 OpenAI 的 GPT 系列模型来说，预训练的结果也是不停地输出文字。假如你提出一个问题，模型大概率不会回答你这个问题，而是尝试模仿你提问的方式无休止地提出其它问题。当然，你可能说，ChatGPT 可不是这样。的确，那是因为 ChatGPT 并不属于预训练模型，而是经过了指令微调（Instruction Fine-tune）的结果。这正是本节将要关注的内容。

现在，我们有了一个只会文本补全的预训练模型，如何才能把它变成能回答问题乃至对话的聊天模型呢？

其实，问答或聊天本质上也是文本，是双方各自讲话的集合。我们可以借鉴作家如何在小说里描写对话。通常，先提及说话者的名字，比如「某某说」，然后用引号引用说话的内容。如果对谈的双方很明确且一人一句，作者往往会忽略指示代词，直接展示对话内容。这种灵活的做法依赖于读者对上下文的了解，有能力分辨出每句话出自哪位角色。但实际上，有时候我在读某些作品时，对话的发起人并不那么明确，时常需要从头数一遍哪句话是谁说的。一旦认错了，很可能会曲解作者的原意。可见，对话的标识非常重要，无论隐式或显式存在。

考虑到 AI 的能力，让它自己判断每句话出自谁似乎有些为难。假如我们有了一个对话的数据，如果想让 AI 扮演其中一方，让它学会与另一方对话，我们就应该给每段话添加明确的标记，指明那句话出自谁。这样，当数据作为训练语料输入的时候，模型就有可能认清自己的角色，从而学会站在对话者的角度说话，而不是像之前那样自顾自地说个不停。为了更加清晰地说明这个过程，我们拿 ChatGPT 来举例。

我在 ChatGPT 的聊天窗口中问它：

「我最近很郁闷，能告诉我该怎么办吗？」

它回复说：

「很抱歉听到你最近感到郁闷。如果你愿意分享一下原因，我可以试着帮你分析，或者提供一些缓解情绪的建议。无论是工作上的压力，还是其他方面的困扰