第 8 节 做一个听话的 AI（1 / 1）
《第 8 节 做一个听话的 AI》转载请注明来源：369小说网(369book.cc)
https://picx.zhimg.com/v2-fd62cf2aa8f8e0bd99f52db0921ba555.png?source=6a64a727
在贯穿整个专栏的案例中，你或许能够发现一个关键点：训练数据的组织方式决定了模型的实际行为。
之所以训练出的模型会一首接一首地写诗，是因为我们的训练数据就是这样设计的。在我们的数据集中，所有诗首尾相连串在一起，模型学习这些文本中的表述方式，自然也就学会了不停写诗。我们曾在第 2 节中提及，这种行为被称为文本补全（completion）。
对于 OpenAI 的 GPT 系列模型来说，预训练的结果也是不停地输出文字。假如你提出一个问题，模型大概率不会回答你这个问题，而是尝试模仿你提问的方式无休止地提出其它问题。当然，你可能说，ChatGPT 可不是这样。的确，那是因为 ChatGPT 并不属于预训练模型，而是经过了指令微调（Instruction Fine-tune）的结果。这正是本节将要关注的内容。
现在，我们有了一个只会文本补全的预训练模型，如何才能把它变成能回答问题乃至对话的聊天模型呢？
其实，问答或聊天本质上也是文本，是双方各自讲话的集合。我们可以借鉴作家如何在小说里描写对话。通常，先提及说话者的名字，比如「某某说」，然后用引号引用说话的内容。如果对谈的双方很明确且一人一句，作者往往会忽略指示代词，直接展示对话内容。这种灵活的做法依赖于读者对上下文的了解，有能力分辨出每句话出自哪位角色。但实际上，有时候我在读某些作品时，对话的发起人并不那么明确，时常需要从头数一遍哪句话是谁说的。一旦认错了，很可能会曲解作者的原意。可见，对话的标识非常重要，无论隐式或显式存在。
考虑到 AI 的能力，让它自己判断每句话出自谁似乎有些为难。假如我们有了一个对话的数据，如果想让 AI 扮演其中一方，让它学会与另一方对话，我们就应该给每段话添加明确的标记，指明那句话出自谁。这样，当数据作为训练语料输入的时候，模型就有可能认清自己的角色，从而学会站在对话者的角度说话，而不是像之前那样自顾自地说个不停。为了更加清晰地说明这个过程，我们拿 ChatGPT 来举例。
我在 ChatGPT 的聊天窗口中问它：
「我最近很郁闷，能告诉我该怎么办吗？」
它回复说：
「很抱歉听到你最近感到郁闷。如果你愿意分享一下原因，我可以试着帮你分析，或者提供一些缓解情绪的建议。无论是工作上的压力，还是其他方面的困扰
相关小说推荐
魔王在异界搞文娱
49万字 1天前
病弱的我拥有四个未婚夫
《病弱的我拥有四个未婚夫》 宋初雪是公认的病弱美人，出行甚至需要乘坐轮椅。 她漂亮但孱弱，美丽又温柔，眉间出现最多的便是那一抹牵动人心的哀绪。 由于npc空缺，她需要分别扮演四本漫画里的男主未婚妻，宋初雪要做的就是等女主上线就麻溜的解除婚约滚蛋。 黑暗复仇漫里，男主是刚刚回归大家族的私生子，他阴暗自私，精于算计，野心勃勃，讨厌不食人间烟火的漂亮废物。 宋初雪：太好了，我就是。 青春校园漫里，男主
其他 35万字 5天前
禁庭春夜
《禁庭春夜》 纵有倾国之色，甄华漪却并不受宠，她知晓，皇帝的心中唯有她姐姐一人。 但仍有许多深夜，他总似爱似恨，不知疲倦。 甄华漪以为，这大约是皇帝难以启齿的癖好。 直到某天夜里，她嗅到了另一个人的熏香气息。 ——权势赫赫的晋王殿下李重焌。 她暗自心惊之时，泛红的手指被一根一根分开抵入，李重焌的声音幽幽响起：“皇兄有我做得好吗？” * 晋王李重焌年少功高，是多少长安娘子的深闺梦里人。 偏偏他高傲
其他 31万字 5天前
画像师在八零[刑侦]
《画像师在八零[刑侦]》 钰佳佳前世缠绵病榻，娇养的像朵富贵花；睁眼到了70末年，成了一名公安新妇； 丈夫公差，路上被抢了包，钰佳佳到警局报警，有人认出是陆队媳妇，又想起溜街子，忙让人叫他！ 钰佳佳掏出张纸递上，纸上赫然是一比一还原的肖像“小黄毛”众人震惊，陆队赶到后，也看愣了。接着听她轻柔道：“能抓吗？” 陆俊华觉得他媳妇不太对劲，强的过分，美术老师都这么厉害？ 能摸骨画像、头骨复原、以子画母
其他 39万字 5天前
全校传我们不合
《全校传我们不合》 【哭包宠老婆攻×口嫌体直声控受】 高中毕业的暑假，江景舟在酒吧认识个帅哥。 影帝颜值，八块腹肌，声音好听的堪比顶流cv，江景舟可耻的心动了。 第二天一早，江景舟看向旁边，想起昨天边干活边哭的某人……嘴角一抽，跑路了。 直到暑假结束。 他在大学操场看见某个身穿军训服、高别人足足高一头的男生。 在对方转身的瞬间，江景舟猛地低头，心里骂了不下三百字的脏话。 - 全校都知道两位出了名
女生 16万字 5天前
主角攻很不对劲[快穿]
《主角攻很不对劲[快穿]》 主攻文，明澈是攻 【每个世界风味不同，很难说清，不算强攻也不算弱攻，只能说情感关系里占上风】 系统：看见那个主角攻了吗，去虐他去做他的踏脚石 明澈：好的 系统：等等，他们最后为什么都爱上你了！ 世界一【已完结】：富家少爷流落在外过穷苦日子 明澈接近他取得他的信任，然后狠狠翻脸逼迫他让他知道人心险恶，多年后再度重逢，主角攻找上了门。 主角攻：如果我说我愿意呢。 明澈：？
女生 28万字 5天前