AI之Books：《语言之舞：大语言模型代码实战与部署应用》新书预告—我把 3 年的技术笔记熬成了一本书——《语言之舞》与那些你需要知道的事
导读：写书像调参，反复试错；写代码像写诗，只有跑通才算完工。7月下旬，《语言之舞：大语言模型应用实战全书》终于和大家见面了。下面，我想以一个“处女座程序猿”的身份，和你聊聊这本书为什么值得你翻开。
目录
相关文章
AI：新书预告—从机器学习避坑指南(分类/回归/聚类/可解释性)到大语言模型落地手记(RAG/Agent/MCP)，一场耗时5+3年的技术沉淀—“代码可跑，经验可抄”—【一个处女座的程序猿】携两本AI实战书终于正式来了！
我把 3 年的技术笔记熬成了一本书——《语言之舞》与那些你需要知道的事
写在前面
这本书里你能拿到什么（干货清单）
给不同读者的友情提示（如何读这本书）
写这本书时我犯过的 3 个常见错误（也给你省点时间）
一本书后的承诺（与读者的约定）
轻松一刻（处女座小碎语）
结语
购买方式与社群
相关文章
AI：新书预告—从机器学习避坑指南(分类/回归/聚类/可解释性)到大语言模型落地手记(RAG/Agent/MCP)，一场耗时5+3年的技术沉淀—“代码可跑，经验可抄”—【一个处女座的程序猿】携两本AI实战书终于正式来了！
https://yunyaniu.blog.csdn.net/article/details/149370861
我把 3 年的技术笔记熬成了一本书——《语言之舞》与那些你需要知道的事
一、LLMs的发展史7
1.1、NLP技术发展的四波浪潮8
1.1.1、SLMs(统计语言模型)11
1.1.2、NLMs(神经语言模型)13
1.1.3、PLMs(预训练语言模型)18
1.1.4、LLMs(大语言模型)20
1.1.5、NLP领域的多种技术对比26
1.1.6、代码实战31
1.2、LLMs发展的重要历史节点33
1.2.1、2017年诞生Transformer架构(NLMs新的里程碑)33
1.2.2、2017至今基于Transformer系列的PLMs列表34
1.2.3、2019年以来的LLMs(B级以上)35
1.2.4、两大代表性模型对比：GPT-1和BERT38
1.2.5、LLMs能力发展的三个阶段：基础→涌现→增强40
1.3、LLMs家族的简介41
1.3.1、GPT家族42
1.3.2、LLaMA家族52
1.3.3、PaLM家族61
1.3.4、GLM家族63
1.3.5、Qwen家族69
二、LLMs的核心要素69
2.1、大规模数据70
2.1.1、常用的预训练数据72
2.1.2、常用的微调数据78
2.1.3、现有LLM预训练数据中各种数据源的比例87
2.2、模型架构88
2.2.1、Transformer结构88
2.2.2、基于Transformer的三大主流LLMs架构91
2.2.3、代码实战113
2.3、模型评估体系—指标与基准114
2.3.1、模型评估指标116
2.3.2、大模型评估基准130
2.3.3、评估维度的分类137
2.3.4、内容安全的评估143
2.4、模型优化148
2.4.1、Transformer架构本身优化148
2.4.2、新的模型架构—超越传统注意力机制的新型架构163
2.4.3、模型集成或合并164
2.5、模型解码机制173
2.6、模型训练与使用的四大阶段对比176
三、LLMs构建流程179
3.1、数据准备并初步清洗181
3.1.1、数据采集182
3.1.2、数据过滤184
3.1.3、实战案例191
3.2、数据预处理192
3.2.1、数据精洗193
3.2.2、分词及其预处理193
3.2.3、分词器208
3.2.4、定义模型的输入213
3.2.5、案例理解本章节的核心思路216
3.3、模型预训练与评估217
3.3.1、模型搭建217
3.3.2、模型预训练与优化222
3.3.3、预训练后评估257
3.4、模型微调与策略264
3.4.1、LLMs知识更新的概述264
3.4.2、模型微调266
3.4.3、微调策略291
3.5、模型推理与优化324
3.5.1、模型推理概述324
3.5.2、推理阶段可调参数327
3.5.3、模型推理加速主流技术328
四、LLMs的模型部署与监控346
4.1、模型部署347
4.1.1、模型部署的概述347
4.1.2、分布式训练环境中服务器的软硬配置348
4.1.3、Docker部署350
4.2、模型监控与维护351
4.3、实战案例352
(1)、基于多台服务器进行分布式训练的设计思路352
(2)、基于多台服务器进行分布式训练的python代码示例353
五、LLMs的微调与推理部署实战案例353
5.1、基于LLaMA-3模型实战354
5.1.1、微调实战354
5.1.2、推理部署实战359
5.1.3、在线测试使用实战369
5.2、基于ChatGLM-3模型实战372
5.2.1、微调实战372
5.2.2、推理部署实战379
5.2.3、在线测试使用实战383
5.3、基于GPT-4o模型实战384
5.3.1、基于官方API在线推理测试384
5.3.2、基于官方Web界面在线测试385
5.4、基于GLM-4模型实战389
5.4.1、微调实战389
5.4.2、推理部署实战391
5.4.3、在线使用实战395
5.5、基于Qwen-2系列模型实战397
5.5.1、微调实战397
5.5.2、推理部署实战398
5.5.3、在线测试使用实战400
六、LLMs项目的构建与应用401
6.1、生成式AI项目生命周期的流程402
6.2、企业级LLMs构建与实现的通用流程406
6.2.1、如何选择优质的应用场景407
6.2.2、如何实现企业级ChatGPT411
6.3、基于LLM(作为技术手段)的研究方向418
6.3.1、自然语言处理（NLP）任务418
6.3.2、信息检索和推荐系统418
6.3.3、多模态和知识图谱增强419
6.3.4、基于LLM的智能体419
6.4、基于LLM(作为工具)的领域应用420
6.5、基于LLM的企业级需求和应用场景420
6.5.1、LLM的结构化输出421
七、LLMs的基础用法423
7.1、提示工程的概述423
7.2、提示的设计要素和策略427
7.2.1、提示的设计要素427
7.2.2、提示词内容的设计策略428
7.3、提示设计的方法论431
7.3.1、ICL上下文学习431
7.3.2、CoT思路链提示433
7.3.3、PaS/PCTS规划复杂任务解决436
7.3.4、对比ICL、CoT、PCTaS437
7.3.5、提示设计方法论分类438
7.4、提示设计实践指南和优秀框架441
7.4.1、主流大模型企业推荐的提示词示例441
7.4.2、引导LLMs提示的一些官方内嵌示例450
7.4.3、提示设计的优秀框架454
八、LLMs的进阶与增强用法455
8.1、LLM的局限性及其解决方案456
8.1.1、LLMs中幻觉现象的简介与解决457
8.1.2、LLMs中毒性现象的简介与解决459
8.1.3、LLMs中虚假信息现象的简介与解决460
8.2、RAG460
8.2.1、RAG的概述460
8.2.2、RAG的失败案例及其优化471
8.2.3、RAG的发展及其挑战496
8.2.4、RAG的最新研究497
8.2.5、RAG案例实战502
8.3、ETA509
8.3.1、ETA的概述509
8.3.2、ETA实战515
8.3.3、工具调用排行榜518
8.4、Agent519
8.4.1、Agent概述519
8.4.2、Agent常用能力528
8.4.3、Agent设计的思想和主流模式531
8.4.4、Agent应用的分类540
8.4.5、Agent实战(规划+使用工具+交互)541
8.5、长上下文建模543
8.5.1、大窗口技术的概述：关心输入端543
8.5.2、长上下文建模实战案例546
8.5.3、长文本生成技术的概述：侧重输出端547
8.6、技术探讨与分析547
8.6.1、RAG技术与大窗口技术的争论—冲突还是共生547
8.6.2、Agent技术的自主性与ETA技术的可控性权衡的争论549
九、LLMs的训练/推理框架、部署工具和提示库551
9.1、LLMs的开发框架551
9.1.1、侧重数据处理的库或框架551
9.1.2、侧重模型构建的库或框架552
9.2、LLMs的训练、评估、微调和推理框架554
9.2.1、侧重训练的库或框架554
9.2.2、侧重评估的库或框架557
9.2.3、侧重微调的库或框架557
9.2.4、侧重推理的库或框架559
9.3、LLMs的部署和应用工具562
9.3.1、Web框架和API服务562
9.3.2、请求和并发处理563
9.3.3、用户和界面库563
9.3.4、实验跟踪和可视化564
9.3.5、容器化和编排564
9.3.6、高级的LLM部署和服务工具565
9.4、LLMs的向量数据库566
十、挑战与未来方向567
10.1、数据的偏见与公平性567
10.2、模型的可解释性和透明度568
10.3、模型的规模与资源消耗569
10.4、模型的多模态能力570
10.5、知识的整合与更新571
10.6、内容安全和道德伦理572
10.7、与其他AI技术的集成574
十一、附录：资源和工具575
写在前面
写书的过程有点像把一个复杂系统从黑箱拆成零件，然后再告诉你每一颗螺丝应该怎么拧。我做这本书花了 3 年时间，原稿累积约 68 万字，出书稿定稿后是一本面向实战的指南书。写它的初衷很简单：把我折腾过、踩过坑、反复调优、能当场跑通的东西，呈现给想真正把 LLMs 用起来的人——程序员、AI 工程师、企业管理者和学生。
这本书里你能拿到什么（干货清单）
从历史到落地，一条线把大语言模型（LLMs）的“来龙去脉”讲清楚，帮助你搭建完整认知框架。 代码为王：每章配套实战示例，包含微调、推理部署、RAG、Agent 等场景，所有代码遵循可读性与可复现性。 企业级落地指南：如何选场景、做数据、做评估、做监控，避免上线后“模型孤岛”或“黑盒炸裂”。 前沿技术解析：参数高效微调（PEFT）、分布式训练策略、多模型联动等，都有实战笔记与成本权衡建议。
给不同读者的友情提示（如何读这本书）
程序员/工程师：从第3章和第5章入手，跟着代码跑一遍；遇到不懂的概念再回到第2章打牢理论。 企业管理者：看第6章与第4章，了解项目从概念到部署的完整路径与常见风险。 学生/初学者：第1章到第3章顺序读，结合第7章的提示工程练习，能把抽象概念变成可操作技能。
写这本书时我犯过的 3 个常见错误（也给你省点时间）
一开始以为“更多数据＝更好”，实际上优质数据 + 清晰目标效率更高； 忽视部署与监控，导致线上模型变成“会说话的黑匣子”； 把提示工程当成小技巧，结果在复杂任务里崩掉——提示设计也需要系统方法论。 书里我把这些错误与真实案例都写清楚了，不装逼，只讲能用的。
一本书后的承诺（与读者的约定）
我不信“读完书就能当专家”，但我承诺：书里的每一段代码、每一个实战步骤，都经过我和我的测试环境跑通；遇到读者复现问题，我会尽力在社群里答疑（如果你愿意把问题带来，我们一起 debug）。这是一本脚踏实地的工具书，而不是学术论文或空中楼阁。
轻松一刻（处女座小碎语）
处女座写书的好处是：如果有错字，我会反复改到满意；坏处是：书快要出的时候我几乎没睡好几天。若你翻到书中某个注释里写着“凌晨三点修复”，那就别太羞愧——那是真的。�
结语
如果你正在考虑把 LLMs 应用到产品、研究或学位项目里，这本《语言之舞》能为你节省大量摸索时间。书已经在各大渠道上架——如果愿意，请把它带回你的桌面，把书中的代码跑起来，然后告诉我你跑的第一个模型是什么。我们一起把“语言”跳成一支可复现的舞蹈。
购买方式与社群
线下/线上书店（京东/当当/天猫等）已上架；电子书与配套代码扫码获取。
—— 一个处女座的程序猿
