AI 简明手册大语言模型怎样生成回答
目标
大语言模型每次只做一件事：根据前文预测下一个词元（Token）。聊天是把这个生成过程包装成一轮轮对话；理解这一点，才能分清语言流畅与事实可靠不是一回事。
操作步骤
AI 生成文本时按词元（Token）接续
词元可能是一个字、一个词或词的片段。模型根据此前上下文计算下一批候选的概率，再选出一个接到末尾，如此反复生成完整回答；这个过程本身不等于查资料或执行逻辑运算。
回答每次不一样
回答每次不一样，是因为模型可能按概率采样，不一定总选概率最高的候选。候选分布越集中、采样设置越保守，结果通常越稳定；只要仍在采样，就不能把某个高概率候选理解为必然固定。
语言生成不等于精确计算
语言模型擅长生成形式合理的表达，但算式需要精确执行步骤，不能只靠预测下一个词元。许多 AI 产品会为数学任务调用计算器或代码工具。
完成检查
AI 写作时是逐字思考吗： 不是。它每次生成的是一个词元，这个词元可能是一个字、一个词或一个片段，不是像打字那样逐字拼出来。
为什么同一个问题每次回答可能不同： 在几个候选概率差不多的地方，模型按概率采样，不一定总选概率最高的那个。只有当分布高度集中且采样设置足够保守时，结果才会更稳定。
AI 为什么算不好少见的数学题： 它对常见算式形式很熟悉，遇到少见题目时可能只生成一个形式上像答案的结果。许多产品会调用计算器或代码工具，把语言生成与精确计算分开。