课程 / 第三阶段 · 大模型篇 / 第 12 课

预训练:用整个互联网玩文字接龙

“预测下一个词”这个朴素游戏,重复上万亿次后发生了什么?大模型九成的能力来自这一步。

基础约 25 分钟