TellerU 官方课 · 核心原理 · 零基础

大语言模型是怎么“说话”的?

token、预训练、对齐、上下文窗口,拆开 ChatGPT 的黑盒

你将从零基础出发,掌握大语言模型的基本原理,包括文本如何切成 token、预测下一个词、Transformer 与注意力的直觉、预训练与微调/对齐、上下文窗口及其限制,产出个人 AI 使用指南。

  • 📚 3 个单元 · 9 节课
  • ⏱ 约 4 小时
  • 🧑‍🏫 AI 老师白板讲解 + 随堂练习
大模型LLMAI原理大语言模型零基础
免费开始学这门课 →
大语言模型是怎么“说话”的? 课程封面

适合谁学

零基础学习者,第一次系统了解 AI,无需数学或编程背景。

课程目录

第 1 单元:单元一:语言模型的基础——从文字到预测

学习目标:本单元用生活化类比讲解语言模型的核心概念:文本如何被切成 token、模型如何预测下一个词,以及上下文窗口的作用。这些是理解大语言模型“说话”原理的基石,为课程项目产出“概念图解”部分。

拆解文字:为什么 AI 要把句子切成小块?

本讲用“乐高积木”类比,解释 token 是文本处理的基本单位,并展示一句话如何被切成 token,以及 token 与字符、词的区别。

  1. 拆解文字:为什么 AI 要把句子切成小块?(综合)(约 27 分钟)

预测游戏:AI 如何猜下一个词?

本讲用“完形填空”和“接龙”类比,解释语言模型如何根据上文预测下一个词,并引入概率和温度的概念。

  1. 预测游戏:AI 如何猜下一个词?(综合)(约 26 分钟)

记忆有限:上下文窗口是什么?

本讲用“短期记忆”类比,解释上下文窗口是模型能同时处理的 token 数量限制,并讨论这对对话的影响。

  1. 上下文窗口:为什么 AI 会忘记刚才说的话?(约 27 分钟)

第 2 单元:单元二:Transformer 与注意力——AI 的“大脑”如何工作

学习目标:本单元用生活化类比讲解 Transformer 和注意力机制的核心思想,让你理解 AI 如何同时考虑句子中所有词的关系。这是理解大语言模型能力的关键,为课程项目产出“注意力图解”部分。

注意力机制:AI 如何抓住重点?

本讲用“聚光灯”和“划重点”类比,解释注意力机制让模型在处理每个词时,能关注句子中其他相关的词,从而理解上下文。

  1. 自注意力:为什么 AI 能看懂“苹果”是指水果还是公司?(约 30 分钟)
  2. 多头注意力:AI 如何同时关注多个重点?(约 27 分钟)

Transformer 架构:组装 AI 的“流水线”

本讲用“工厂流水线”类比,介绍 Transformer 的基本组件(编码器、解码器、前馈网络等),并说明它们如何协同工作。

  1. Transformer 流水线:从输入到输出要经过哪些步骤?(约 28 分钟)

第 3 单元:单元三:训练与对齐——AI 如何学会“好好说话”

学习目标:本单元用生活化类比讲解大语言模型的训练过程:预训练、微调与对齐,让你理解 AI 如何从海量文本中学习,并变得有用且安全。这是理解 AI 行为的关键,为课程项目产出“训练阶段图解”和“使用建议”部分。

预训练:AI 的“通识教育”

本讲用“读万卷书”类比,解释预训练是模型在海量文本上学习语言规律的过程,并讨论其规模与成本。

  1. 预训练:为什么 AI 能上知天文下知地理?(约 26 分钟)

微调与对齐:AI 的“职业培训”

本讲用“岗前培训”和“礼仪课”类比,解释微调让模型适应特定任务,对齐让模型符合人类价值观,并讨论其重要性。

  1. 微调:如何让通用 AI 变成专业助手?(约 27 分钟)
  2. 对齐:为什么 AI 会拒绝回答某些问题?(约 28 分钟)

在 TellerU 怎么学这门课

  1. AI 老师在白板上边讲边画,一节课讲透 3 个知识点;
  2. 讲到的结论都标注出处,点一下就能核对原文;
  3. 每节有随堂快测和练习,系统按你的掌握度安排复习;
  4. 听不懂随时提问,老师按你的进度换个讲法再讲一遍。

参考资料

同类课程

大语言模型是怎么“说话”的?|免费 AI 课程 · 零基础|TellerU