《 序言》转载请注明来源:369小说网(369book.cc)
2022 年底至今,大模型席卷了 AI(人工智能)的几乎所有领域。不懂点大模型知识,彷佛就和 AI 脱了节。
如果你曾尝试过搜索大模型入门教程,会发现大部分在教你如何用大模型,而不是如何制作大模型。这倒合情合理,因为当下的市场需要广大开发者利用国内外领先的大模型 API 构建应用,而不是另起炉灶训练自己的大模型。2023 年开始,中国大模型厂家百花齐放,但真正能撑到泡沫褪去的可能并不多。
不过,这并不意味着我们不需要学习大模型的内部原理。作为开发者,你应该明白了解技术的底层机制才能更好地运用它。但由于大模型本身的复杂度,以及训练所需的昂贵代价,网上系统介绍大模型底层原理的教程很少。仅有的一些文章和博客理论性较强,对初学者不甚友好。在我转型学习大模型的过程中,这些困难让我决心编写这个教程,希望能帮助到更多人。
如果你也想知道:
那么本专栏将是你的最佳选择。
本专栏的内容面向广大初学者,只要具备一定数学和编程基础,阅读本文就不会有任何障碍。即便不懂编程、讨厌数学,你也仍然能从中获得极大收获。在整个过程中,我会以第一性原理为指导,用最通俗的语言引导读者从零开始一步步设计出大模型的所有模块。为了紧密结合理论和实践,我们将使用一个微缩版的大模型,它可以运行在任何一台电脑上。文中使用的案例专为中国读者设计,保证所有人一看就能明白我们在做什么。
需要强调的是,本专栏并不包含任何实用性的大模型训练技巧,也不会过于深入细节。我希望用通俗易懂的语言,结合实际可运行的程序,让大家对大模型的工作原理有一个全面的体会。本专栏的配套源代码位于 GitHub 的TutorialLLM 仓库,供读者免费取用。
源代码地址:https://github.com/jingedawang/TutorialLLM
王金戈
2024.12
备案号:YXXBqEaJL5jPZpTG78N38s670
49万字 1天前
《病弱的我拥有四个未婚夫》 宋初雪是公认的病弱美人,出行甚至需要乘坐轮椅。 她漂亮但孱弱,美丽又温柔,眉间出现最多的便是那一抹牵动人心的哀绪。 由于npc空缺,她需要分别扮演四本漫画里的男主未婚妻,宋初雪要做的就是等女主上线就麻溜的解除婚约滚蛋。 黑暗复仇漫里,男主是刚刚回归大家族的私生子,他阴暗自私,精于算计,野心勃勃,讨厌不食人间烟火的漂亮废物。 宋初雪:太好了,我就是。 青春校园漫里,男主
其他 35万字 5天前
《禁庭春夜》 纵有倾国之色,甄华漪却并不受宠,她知晓,皇帝的心中唯有她姐姐一人。 但仍有许多深夜,他总似爱似恨,不知疲倦。 甄华漪以为,这大约是皇帝难以启齿的癖好。 直到某天夜里,她嗅到了另一个人的熏香气息。 ——权势赫赫的晋王殿下李重焌。 她暗自心惊之时,泛红的手指被一根一根分开抵入,李重焌的声音幽幽响起:“皇兄有我做得好吗?” * 晋王李重焌年少功高,是多少长安娘子的深闺梦里人。 偏偏他高傲
其他 31万字 5天前
《画像师在八零[刑侦]》 钰佳佳前世缠绵病榻,娇养的像朵富贵花;睁眼到了70末年,成了一名公安新妇; 丈夫公差,路上被抢了包,钰佳佳到警局报警,有人认出是陆队媳妇,又想起溜街子,忙让人叫他! 钰佳佳掏出张纸递上,纸上赫然是一比一还原的肖像“小黄毛”众人震惊,陆队赶到后,也看愣了。接着听她轻柔道:“能抓吗?” 陆俊华觉得他媳妇不太对劲,强的过分,美术老师都这么厉害? 能摸骨画像、头骨复原、以子画母
其他 39万字 5天前
《全校传我们不合》 【哭包宠老婆攻×口嫌体直声控受】 高中毕业的暑假,江景舟在酒吧认识个帅哥。 影帝颜值,八块腹肌,声音好听的堪比顶流cv,江景舟可耻的心动了。 第二天一早,江景舟看向旁边,想起昨天边干活边哭的某人……嘴角一抽,跑路了。 直到暑假结束。 他在大学操场看见某个身穿军训服、高别人足足高一头的男生。 在对方转身的瞬间,江景舟猛地低头,心里骂了不下三百字的脏话。 - 全校都知道两位出了名
女生 16万字 5天前
《主角攻很不对劲[快穿]》 主攻文,明澈是攻 【每个世界风味不同,很难说清,不算强攻也不算弱攻,只能说情感关系里占上风】 系统:看见那个主角攻了吗,去虐他去做他的踏脚石 明澈:好的 系统:等等,他们最后为什么都爱上你了! 世界一【已完结】:富家少爷流落在外过穷苦日子 明澈接近他取得他的信任,然后狠狠翻脸逼迫他让他知道人心险恶,多年后再度重逢,主角攻找上了门。 主角攻:如果我说我愿意呢。 明澈:?
女生 28万字 5天前