第10课：大语言模型基础

一、课程信息

• 课程主题：大语言模型基础
• 适合对象：人工智能零基础学习者
• 预计学习时长：2小时
• 学习方式建议：先用“根据上下文接着说”的直觉理解大语言模型，再逐步理解训练语料、参数、Prompt和幻觉问题

二、学习目标

学完本课后，你应该能够：

三、课程导入：为什么大语言模型突然这么受关注

近几年，很多人第一次真正感受到AI的能力，是从大语言模型开始的。

它们可以：

• 回答问题
• 写文章
• 总结资料
• 翻译文本
• 改写文案
• 生成代码
• 解释概念
• 制定学习计划
• 扮演客服、老师、助手等角色

这让很多人产生一个疑问：

它为什么好像什么都会？

要理解这个问题，需要先明确一点：

大语言模型并不是一个真正无所不知的大脑。

更准确地说，它是在大量文本数据上训练出来的语言模型，能够根据上下文生成看起来合理、连贯、有用的文字。

本课会帮助你从零开始理解大语言模型的基本原理和边界。

四、什么是大语言模型

1. 通俗定义

大语言模型，英文是 Large Language Model，简称 LLM。

可以这样理解：

大语言模型是一种在海量文本数据上训练出来的AI模型，能够理解和生成自然语言。

它的核心能力是处理语言。

例如：

• 理解用户的问题
• 根据要求生成回答
• 总结长文本
• 翻译不同语言
• 改写表达方式
• 根据上下文继续写内容

2. 为什么叫“大”

“大”主要体现在几个方面：

• 训练数据规模大
• 模型参数规模大
• 计算资源消耗大
• 能处理的任务范围大
• 生成内容能力强

这里的“大”不只是文件大小，而是指模型背后包含大量学习到的语言规律和知识关联。

3. 为什么叫“语言模型”

语言模型的基本目标是学习语言规律。

它要学习：

• 词语之间如何组合
• 句子如何表达意思
• 上下文如何影响后续内容
• 问题通常如何回答
• 不同风格的文本如何写
• 常见知识如何表达

简单说：

语言模型学习的是“在某个上下文之后，接下来最可能出现什么内容”。

五、大语言模型的核心任务：根据上下文预测后续内容

1. 先看一个接话例子

请看这句话：

今天天气很好，我想出去

你可能会自然地接：

散步。

或者：

晒太阳。

再看这句话：

人工智能的三大基础是数据、算法和

你很可能会接：

算力。

这是因为你根据前文判断了后续最合理的内容。

大语言模型也有类似能力。

它根据输入上下文，预测接下来应该生成什么。

2. 大模型不是简单背诵

大语言模型不是只会机械复制训练文本。

它在大量文本中学习到了很多语言模式和知识关联。

例如：

• 问答通常如何组织
• 文章结构如何展开
• 代码语法如何排列
• 翻译如何对应
• 总结应该保留哪些信息

所以它可以处理很多没完全见过的新问题。

3. 预测不是“真正知道”

需要注意：

根据上下文生成合理内容，不等于它真正像人一样理解世界。

模型生成的内容可能很流畅，但仍然可能是错的。

例如它可能编造一个不存在的书名、论文、法律条文或数据来源。

这就是后面会讲的幻觉问题。

六、大语言模型为什么能回答问题

1. 它学习了大量问答模式

训练数据中包含大量类似问答的文本。

例如：

• 百科知识
• 教程资料
• 论坛讨论
• 文档说明
• 问答网站
• 代码注释
• 文章和书籍

模型从这些文本中学习到：

• 问题通常如何表达
• 回答通常如何组织
• 哪些概念之间有关联
• 什么样的回答更连贯

2. 它能根据上下文组织回答

例如用户问：

什么是机器学习？请用小学生能听懂的话解释。

模型不仅要知道“机器学习”相关内容，还要注意“用小学生能听懂的话”这个要求。

因此，它可能会使用更简单的表达和生活类比。

这说明大模型不仅看问题本身，也会看用户给出的格式、语气、对象和限制条件。

3. 它能组合已有规律

大模型能够把不同信息组合起来。

例如：

请用做菜的例子解释数据、算法、算力。

模型需要把AI概念和做菜类比结合起来。

这类能力来自它在大量文本中学到的表达方式和概念关联。

七、大语言模型为什么能写文章

1. 它学习了文章结构

大模型在大量文章中学习了常见结构。

例如：

• 标题
• 引言
• 分段
• 论点
• 例子
• 过渡
• 总结

所以当你要求它写一篇文章时，它可以生成结构完整的内容。

2. 它能按风格生成

你可以要求它：

• 通俗易懂
• 正式专业
• 适合小学生
• 适合商务邮件
• 适合短视频口播
• 适合课程讲义

不同要求会影响输出风格。

例如：

请用通俗语言解释人工智能。

和：

请用正式学术风格解释人工智能。

生成结果会明显不同。

3. 它擅长生成初稿

大模型很适合帮人生成初稿。

例如：

• 文章大纲
• 演讲稿
• 邮件草稿
• 学习计划
• 会议总结
• 产品说明

但初稿不等于最终稿。

事实、逻辑、风格和细节仍需要人工检查。

八、大语言模型为什么能写代码

1. 代码也是一种语言

代码虽然不是自然语言，但它也是一种有规则的符号系统。

例如：

• Python
• JavaScript
• Java
• Go
• SQL

代码有语法、结构、函数、变量和注释。

大模型在大量代码和技术文档上训练后，可以学习代码模式。

2. 它能生成常见代码结构

例如用户说：

请写一个Python函数，判断一个数字是否为偶数。

模型可能生成：

def is_even(number):
return number % 2 == 0

因为它学到了很多类似代码结构。

3. 写代码仍然需要验证

大模型生成代码可能存在问题。

例如：

• 语法错误
• 逻辑错误
• 边界条件遗漏
• 安全风险
• 性能问题
• 使用过时接口
• 与当前项目不兼容

所以AI生成代码后，必须阅读、测试和审查。

AI可以提高效率，但不能替代工程验证。

九、训练语料：大模型的学习材料

1. 什么是训练语料

训练语料就是模型学习语言时使用的大量文本数据。

可以把它理解成：

大模型读过的学习材料。

训练语料可能包括：

• 书籍
• 网页
• 新闻
• 百科
• 论文
• 代码
• 技术文档
• 问答内容
• 对话数据

2. 训练语料决定模型学到什么

模型从语料中学习语言规律和知识关联。

如果训练语料中某类内容很多，模型可能更熟悉这类内容。

如果某类内容很少，模型可能掌握得不稳定。

如果语料中存在错误或偏见，模型也可能学到错误或偏见。

这和前面讲过的“垃圾进，垃圾出”一致。

3. 训练语料不等于实时知识库

大模型训练完成后，通常不会自动知道训练之后发生的新事情。

例如：

• 最新新闻
• 最新政策
• 最新产品价格
• 今天的天气
• 某个公司刚发布的新公告

如果模型没有联网、没有接入检索工具或没有更新知识库，它可能不知道最新信息。

这也是为什么问大模型实时信息时需要谨慎。

4. 训练语料不一定可追溯

大模型生成回答时，通常不是像搜索引擎一样直接返回某个网页。

它更多是根据学到的语言规律生成内容。

所以它不一定能准确说出某句话来自哪里。

如果需要可靠来源，应该使用权威资料、搜索、数据库或文档检索系统验证。

十、参数：模型内部保存规律的方式

1. 什么是参数

参数可以理解为模型内部保存学习结果的数字。

训练模型的过程，就是不断调整这些数字，让模型更擅长预测和生成。

对初学者来说，不需要理解复杂数学。

先记住：

参数是模型内部用来保存语言规律和知识关联的数字。

2. 参数像什么

可以把参数类比为一个学生长期学习后形成的经验。

学生看过很多题目后，脑子里会形成某些解题习惯和知识结构。

大模型看过大量文本后，参数中也保存了大量语言模式。

当然，这只是类比。

模型参数不是人类记忆，也不是数据库记录。

3. 参数多就一定好吗

不一定。

参数更多，通常意味着模型有更强表达能力，但也会带来：

• 训练成本更高
• 使用成本更高
• 响应速度可能更慢
• 部署更复杂
• 仍然可能出错

实际应用中，不一定总要使用最大的模型。

要根据任务难度、成本、速度和可靠性选择合适模型。

十一、上下文窗口：模型一次能看多少内容

1. 什么是上下文

上下文是模型当前能参考的信息。

例如一次对话中，模型会参考：

• 用户当前问题
• 前面的对话内容
• 系统给出的要求
• 用户提供的资料
• 已经生成的部分内容

2. 什么是上下文窗口

上下文窗口可以理解为：

模型一次能“看见”和处理的内容范围。

如果内容太长，超过模型上下文窗口，模型可能无法完整参考所有内容。

3. 上下文不足会带来什么问题

如果上下文不足，模型可能：

• 忘记前面要求
• 忽略关键限制
• 总结长文时遗漏细节
• 对话中前后不一致
• 误解代词指代

例如用户说：

请按刚才那个格式继续。

如果模型已经无法看到“刚才那个格式”，就可能续写错误。

4. 如何改善上下文问题

使用大模型时，可以：

• 把关键要求重新说明
• 分段处理长文档
• 让模型先总结再继续
• 明确输出格式
• 对重要内容反复确认

十二、Prompt：给模型的指令

1. 什么是Prompt

Prompt可以理解为你给大模型的输入指令。

它可以是一句话，也可以是一段完整任务说明。

例如：

请用通俗语言解释什么是人工智能。

这就是一个Prompt。

2. Prompt为什么重要

大模型会根据Prompt来理解任务。

Prompt越清楚，模型越容易生成符合需求的结果。

Prompt模糊时，模型只能猜你的意图。

例如：

帮我写一下。

这个指令太模糊。

模型不知道：

• 写什么
• 写给谁
• 写多长
• 用什么风格
• 输出什么格式
• 有哪些限制

3. 一个好的Prompt通常包含什么

一个较好的Prompt通常包含：

• 角色：让模型以什么身份回答
• 任务：要完成什么
• 背景：相关上下文是什么
• 受众：写给谁看
• 格式：输出成列表、表格还是段落
• 约束：字数、风格、不能包含什么
• 标准：什么样的结果算好

4. Prompt示例

模糊Prompt：

帮我写学习计划。

清晰Prompt：

请为一名人工智能零基础学习者制定7天入门学习计划。
要求：
1. 每天学习1小时。
2. 每天包含学习主题、学习目标和练习任务。
3. 语言通俗易懂。
4. 输出为Markdown表格。

第二个Prompt更容易得到可用结果。

十三、模糊Prompt和清晰Prompt的对比

1. 模糊Prompt的问题

模糊Prompt：

介绍一下大模型。

模型可能不知道：

• 介绍给谁
• 要多详细
• 是否需要案例
• 是否要避免术语
• 是否要输出大纲
• 是否要强调风险

所以结果可能泛泛而谈。

2. 清晰Prompt的优势

清晰Prompt：

请面向AI零基础学习者，用通俗语言介绍大语言模型。
内容包括：定义、工作原理直觉、常见能力、局限和使用建议。
要求每部分不超过150字，并使用生活案例解释。

这个Prompt告诉模型：

• 面向谁
• 用什么语言风格
• 包含哪些内容
• 每部分多长
• 是否需要案例

输出质量通常会更稳定。

3. Prompt不是魔法

Prompt很重要，但不是万能。

即使Prompt写得很好，模型仍可能：

• 回答错误
• 编造事实
• 忽略部分要求
• 对专业问题理解不准
• 生成不符合实际的建议

所以Prompt能提升结果质量，但不能消除所有风险。

十四、大语言模型的常见能力

1. 问答

大模型可以回答各种问题。

例如：

• 什么是深度学习？
• 如何制定学习计划？
• 这段代码是什么意思？
• 如何准备一次面试？

但回答需要核查，尤其是专业和实时信息。

2. 总结

大模型可以把长内容压缩成重点。

例如：

• 会议纪要
• 文章摘要
• 课程笔记
• 报告重点

需要注意：总结可能遗漏关键条件。

3. 改写

大模型可以调整表达方式。

例如：

• 改得更正式
• 改得更口语
• 改得更简洁
• 改得更适合小白

4. 翻译

大模型可以完成多语言翻译。

但合同、法律、医学等重要文本仍需要人工校对。

5. 写作

大模型可以辅助生成：

• 文案
• 邮件
• 文章
• 讲稿
• 方案
• 标题

它适合生成初稿，但最终内容仍要人工判断。

6. 代码辅助

大模型可以：

• 解释代码
• 生成代码片段
• 提供调试思路
• 写注释
• 生成测试思路

但代码必须运行、测试和审查。

7. 角色扮演和对话

大模型可以模拟不同角色的表达方式。

例如：

• 面试官
• 老师
• 客服
• 产品经理
• 学习伙伴

但它的角色扮演只是语言模拟，不代表真实身份和专业资质。

十五、大语言模型的局限

1. 可能产生幻觉

幻觉是大模型最重要的局限之一。

它指的是：

模型生成了看似合理、语气自信，但实际错误或不存在的内容。

例如：

• 编造不存在的书籍
• 编造论文标题
• 编造法律条文
• 编造数据来源
• 给出错误医学建议
• 写出不能运行的代码

2. 可能不了解最新信息

如果模型没有联网或没有更新知识，它可能不知道最新信息。

例如：

• 最新政策
• 最新价格
• 最新版本API
• 今天发生的新闻
• 公司刚发布的公告

3. 可能忽略上下文

如果对话很长，模型可能遗漏前面的要求。

如果用户问题不清楚，模型可能误解任务。

4. 可能存在偏见

模型从大量文本中学习。

如果训练数据中存在偏见，模型输出也可能体现偏见。

5. 可能不具备真实专业责任

大模型可以生成医疗、法律、金融等领域文字。

但它不承担专业责任，也不能替代专业人员判断。

6. 可能缺少真实世界经验

模型可以描述很多事情，但它并不真正亲身经历现实世界。

它的回答来自训练数据和上下文生成，不等于真实观察和验证。

十六、什么是幻觉问题

1. 幻觉的通俗解释

幻觉不是说模型真的“看见幻象”。

它是指模型生成了不可靠内容。

例如你问：

请列出某某教授2025年发表的三篇论文。

如果模型不知道真实答案，它可能仍然生成三个看起来很像论文标题的内容。

这就是幻觉。

2. 为什么会有幻觉

大模型的目标是生成上下文中看起来合理的内容。

当它缺少可靠信息时，仍可能根据语言模式补全答案。

通俗理解：

它擅长“接着说”，但不总是知道自己说得对不对。

3. 幻觉为什么危险

因为幻觉内容往往看起来很可信。

它可能：

• 语气自信
• 结构完整
• 表达流畅
• 看起来专业
• 甚至带有伪造来源

这会让用户误以为内容可靠。

4. 如何减少幻觉影响

可以采取：

• 要求模型说明不确定性
• 要求引用来源
• 使用权威资料核查
• 对实时信息进行搜索验证
• 对专业建议咨询专业人员
• 让模型基于给定材料回答
• 不让模型编造未知信息

例如Prompt可以写：

如果资料中没有答案，请直接说“不确定”，不要编造。

十七、哪些场景必须人工核查

大模型输出在很多场景中都需要核查。

尤其是以下场景。

1. 医疗健康

例如：

• 疾病诊断
• 用药建议
• 检查报告解读
• 治疗方案

这些内容必须咨询医生或专业机构。

2. 法律合规

例如：

• 合同条款解释
• 法律责任判断
• 诉讼策略
• 政策合规建议

法律问题需要专业律师或合规人员确认。

3. 金融投资

例如：

• 股票买卖建议
• 投资组合建议
• 贷款风险判断
• 税务规划

金融决策涉及风险，不能只听AI回答。

4. 实时信息

例如：

• 今天的天气
• 当前价格
• 最新新闻
• 最新政策
• 最新版本文档

如果模型没有实时数据源，回答可能过时。

5. 学术引用

例如：

• 论文引用
• 作者信息
• 出版年份
• 研究结论

模型可能编造引用，因此必须查原文。

6. 代码和系统操作

例如：

• 删除文件命令
• 数据库操作
• 生产环境部署
• 安全配置
• 金融交易脚本

代码和命令必须理解后再执行。

7. 重要工作文档

例如：

• 合同
• 报告
• 公告
• 客户邮件
• 对外声明

AI可以辅助起草，但不能直接无审核发布。

十八、大模型和搜索引擎有什么不同

1. 搜索引擎更像找资料

搜索引擎根据关键词或语义，在网页中查找相关结果。

它通常返回：

• 网页链接
• 摘要
• 来源
• 发布时间

你需要自己阅读和判断。

2. 大模型更像生成回答

大模型根据上下文直接生成一段回答。

它通常更方便，但也更容易让人忽视来源核查。

3. 简单对比

4. 更好的使用方式

搜索引擎和大模型可以配合使用。

例如：

十九、大模型和普通聊天机器人有什么不同

1. 传统聊天机器人

传统聊天机器人常依赖预设规则或固定问答库。

例如：

如果用户问“怎么退款”，就返回退款流程。

这种系统在固定场景中稳定，但灵活性有限。

2. 大语言模型

大语言模型可以理解更开放的问题，并生成更自然的回答。

例如用户可以问：

我买的东西还没到，而且明天要送人，怎么办？

大模型可以理解用户焦虑、物流问题和送礼场景，然后组织更自然的回复。

3. 但大模型也需要约束

大模型太灵活，也可能带来风险。

企业使用大模型做客服时，通常需要：

• 接入知识库
• 限制回答范围
• 设置转人工条件
• 记录和监控回答质量
• 避免编造政策

二十、大模型的典型使用方式

1. 直接对话

用户直接提问，模型直接回答。

适合：

• 概念解释
• 写作辅助
• 学习辅导
• 简单问答

2. 基于资料回答

用户提供一段资料，让模型基于资料回答。

适合：

• 文档总结
• 合同要点提取
• 会议记录整理
• 学习资料问答

建议明确要求：

请只根据我提供的资料回答，资料中没有的信息请说明“不确定”。

3. 接入知识库

企业常把大模型和内部知识库结合。

例如：

• 客服知识库
• 产品文档
• 公司制度
• 技术文档
• 课程资料

模型先检索相关内容，再生成回答。

这样可以减少幻觉，提高可追溯性。

4. 接入工具

大模型还可以调用工具。

例如：

• 搜索
• 计算器
• 数据库
• 日历
• 文件系统
• 代码执行环境

这让大模型不仅能说，还能做一部分操作。

但工具调用涉及权限和安全，需要严格控制。

二十一、如何写出更好的Prompt

1. 明确角色

例如：

请你作为一名AI入门课程老师…

角色可以帮助模型选择合适表达方式。

2. 明确任务

例如：

请解释什么是大语言模型。

不要让模型猜任务。

3. 明确受众

例如：

面向完全没有技术背景的学习者。

受众不同，解释深度和术语使用不同。

4. 明确格式

例如：

请用Markdown表格输出。

或：

请分为定义、例子、风险三部分。

5. 明确约束

例如：

避免复杂数学公式。
每个例子不超过100字。
如果不确定，请说明不确定。

6. 提供背景

例如：

这是给公司内部非技术同事看的培训材料。

背景能帮助模型调整内容重点。

二十二、Prompt模板

下面是一个通用Prompt模板。

请你作为【角色】，
面向【目标读者】，
完成【具体任务】。

背景信息：
【补充背景】

输出要求：
1. 【格式要求】
2. 【长度要求】
3. 【风格要求】
4. 【限制条件】

如果信息不足，请说明缺少什么，不要编造。

示例：学习计划Prompt

请你作为一名AI入门课程老师，
面向人工智能零基础学习者，
制定一份7天AI入门学习计划。

背景信息：
学习者每天只有1小时，目标是理解AI基础概念，不需要写代码。

输出要求：
1. 用Markdown表格输出。
2. 每天包含学习主题、学习目标和练习任务。
3. 语言通俗易懂。
4. 不使用复杂数学公式。

如果某些安排需要前置知识，请额外说明。

二十三、案例一：用大模型解释概念

1. 模糊Prompt

解释一下机器学习。

可能问题：

• 不知道面向谁
• 不知道讲多深
• 不知道是否需要例子
• 不知道是否要避免术语

2. 清晰Prompt

请面向AI零基础学习者，用生活案例解释什么是机器学习。
要求：
1. 不使用复杂数学公式。
2. 用“教小朋友识别苹果”的例子说明。
3. 最后用3句话总结重点。

3. 为什么更好

它明确了：

• 受众
• 表达方式
• 案例
• 输出结构
• 限制条件

二十四、案例二：用大模型总结资料

1. 不推荐的Prompt

总结一下。

问题是模型不知道：

• 总结多长
• 保留哪些信息
• 给谁看
• 输出什么格式
• 是否要提取待办事项

2. 推荐的Prompt

请总结下面的会议记录。
要求：
1. 输出三部分：会议结论、待办事项、风险点。
2. 待办事项包含负责人和截止时间；如果原文没有，请写“未提及”。
3. 不要添加原文没有的信息。
4. 用简洁中文输出。

3. 为什么要强调“不添加原文没有的信息”

因为大模型可能根据常见会议模式补充内容。

明确约束可以降低编造风险。

二十五、案例三：用大模型辅助写代码

1. 可以这样提问

请用Python写一个函数，输入一个字符串列表，返回其中长度最长的字符串。
要求：
1. 如果列表为空，返回None。
2. 添加简短中文注释。
3. 给出2个测试示例。

2. 为什么这个Prompt较好

它说明了：

• 编程语言
• 输入是什么
• 输出是什么
• 边界条件
• 注释要求
• 测试示例

3. 代码仍要验证

AI生成代码后要检查：

• 是否能运行
• 边界条件是否处理
• 是否符合项目规范
• 是否存在安全问题
• 性能是否可接受

二十六、初学者常见误区

误区1：大模型回答流畅就一定正确

不对。

流畅只说明语言生成自然，不代表事实可靠。

误区2：大模型什么都知道

不对。

它可能不知道最新信息，也可能对专业知识回答错误。

误区3：Prompt写好就不会出错

不对。

Prompt能提升质量，但不能完全消除幻觉和误解。

误区4：大模型等于搜索引擎

不对。

搜索引擎主要查资料，大模型主要生成回答。

误区5：大模型可以替代所有专业人员

不对。

它可以辅助专业人员提高效率，但不能承担专业责任。

误区6：模型越大越适合所有任务

不对。

简单任务可能用小模型、规则或传统系统更合适。

二十七、课堂活动：比较模糊Prompt和清晰Prompt

活动目标

理解Prompt清晰程度如何影响大模型输出。

活动任务

请为下面任务分别写一个模糊Prompt和一个清晰Prompt。

任务：

让AI帮你制定一周AI入门学习计划。

填写模板

清晰Prompt应包含

• 学习对象
• 学习时长
• 学习目标
• 输出格式
• 每天内容
• 练习要求
• 语言风格

二十八、课堂活动：识别幻觉风险

活动目标

理解哪些问题容易引发大模型幻觉。

活动任务

请判断下面问题是否需要人工核查，并说明原因。

判断提示

以下情况通常需要核查：

• 实时信息
• 医疗健康
• 法律金融
• 学术引用
• 重要代码
• 对外发布内容

二十九、课堂活动：改写Prompt

活动目标

练习把模糊需求改写成清晰Prompt。

活动任务

请把下面模糊Prompt改写成更清晰的版本。

帮我写个总结。

你可以补充：

• 总结对象
• 输出结构
• 字数限制
• 重点内容
• 是否允许扩展
• 语言风格

示例答案

请总结下面这段课程讲义。
要求：
1. 输出为三部分：核心概念、重要例子、课后复习重点。
2. 每部分不超过5条。
3. 面向AI零基础学习者，语言通俗易懂。
4. 只基于原文总结，不添加原文没有的信息。

三十、本课小结

本课我们学习了大语言模型的基础知识。

需要重点记住：

三十一、课后练习

练习1：解释大语言模型

请用自己的话回答：

练习2：比较模糊Prompt和清晰Prompt

请分别写一个模糊Prompt和清晰Prompt。

任务：

让AI帮你制定一周学习计划。

练习3：判断是否需要核查

请判断下面场景是否需要人工核查。

练习4：识别幻觉风险

请回答：

练习5：设计一个高质量Prompt

请设计一个Prompt，让AI帮你解释“深度学习”。

要求包含：

• 目标读者
• 解释风格
• 内容范围
• 生活案例
• 输出格式
• 不确定时如何处理

三十二、参考答案与提示

练习1参考提示

大语言模型是在大量文本上训练出来的AI模型，能够根据上下文生成自然语言。

它的核心任务可以理解为“接着说”：根据前面的内容预测后面更可能出现什么。

它能回答问题和写文章，是因为它从训练语料中学习了大量问答模式、文章结构、语言表达和知识关联。

练习2参考示例

练习3参考答案

练习4参考提示

大模型幻觉是指模型生成看似合理但实际错误或不存在的内容。

它危险是因为表达流畅、自信，容易让人误信。

降低影响的方法包括：

• 要求模型说明不确定性
• 基于给定资料回答
• 核查权威来源
• 不让模型编造引用
• 重要场景请专业人员确认

最不能直接相信的场景包括医疗、法律、金融、实时信息、学术引用、代码和高风险决策。

练习5参考示例

请面向人工智能零基础学习者，用通俗语言解释“深度学习”。
要求：
1. 先给出一句话定义。
2. 用“多级流水线加工”的生活案例解释。
3. 说明它为什么适合处理图片、语音和文本。
4. 列出2个优势和2个局限。
5. 输出为Markdown格式。
6. 不使用复杂数学公式。
7. 如果涉及不确定内容，请明确说明，不要编造。

三十三、下一课预告

下一课我们将学习：

生成式AI的能力边界

你将了解：

• 生成式AI能做什么
• 生成式AI不能做什么
• 文本生成、图像生成、代码生成有哪些典型场景
• 内容创作和知识问答有什么区别
• 如何更理性地使用AI工具

如果说本课帮助你理解大语言模型的基础原理，那么下一课会进一步帮助你建立负责任使用生成式AI的判断力。