一、从一个最简单的函数说起

在中学数学里，我们都见过这样一个函数：

y = kx + b

只要给定 k 和 b 的值，输入一个 x，就能算出对应的 y。比如 k=2, b=1，那么 x=3 时，y=7。

这里，k 和 b 就是参数。如果我们有一堆 (x, y) 的观测数据，想找到一条直线来“拟合”这些点，本质上就是在找最合适的 k 和 b——这个过程就叫拟合。

二、大模型的“函数”长什么样

大模型并没有跳出这个框架，只是函数形式复杂了上亿倍。

我们可以把大模型看作一个超级复杂的函数：

输出 = F(输入, 参数)

• 输入：一段文本被切分成 Token 序列，并转换成向量。
• 输出：下一个 Token 的概率分布，或者生成的完整回答。
• 参数：模型内部所有可学习的权重和偏置，比如注意力机制里的 Q、K、V 变换矩阵，前馈网络中的全连接层权重。

以 GPT-3 为例，它有 1750 亿个参数。所谓“1750 亿”，就是有 1750 亿个像 k 和 b 这样等待被确定的数字。

三、参数不是写死的，是“喂”数据喂出来的

就像我们要用观测点来求 k 和 b，大模型的参数也是用海量数据“拟合”出来的。

• 训练数据：互联网上的网页、书籍、代码……
• 目标：给定前文，预测下一个 Token 是什么。
• 拟合方法：定义一个损失函数（比如 交叉熵），衡量预测结果和真实下一个 Token 的差距，然后通过反向传播和梯度下降，不断调整那 1750 亿个参数，让损失值越来越小。

这和你用最小二乘法求一条最符合散点的直线，在思想上没有任何区别。只不过直线的参数只有两个，大模型的参数多到需要成千上万块 GPU 跑上几个月。

四、“输入 + 参数/拟合方法 = 输出”的直观解读

如果要把大模型的工作原理浓缩成一句话，就是：

给定输入 + 经过数据拟合好的参数 + 确定的解码策略 → 生成输出

• 输入：“帮我写一首关于秋天的诗”
• 参数：预训练阶段从万亿 Token 中学到的语言规律、知识、推理模式
• 输出：一首格律工整、意境优美的诗

注意，“参数/拟合方法”中的“拟合方法”，指的是训练时如何让参数逼近最优解（比如 AdamW 优化器、学习率调度等）。一旦训练完成，这些方法就退居幕后，留下的只有固定下来的参数值。此时模型对外暴露的就是一个确定性的数学函数：你给定输入，它按一套固定的矩阵乘法 + 激活函数，逐层计算出输出。

五、为什么需要这么多参数？因为数据太复杂了

你可能想问：为什么非要上千亿个参数？用几千个不行吗？

因为人类语言所蕴含的模式、事实、逻辑极其复杂，根本不是一条直线或一个简单曲面能“拟合”下来的。想要让模型记住“巴黎是法国的首都”，同时还能进行类比推理、代码生成，就需要一个维度极高的参数空间，在里面拟合出一个巨大的“知识曲面”。

参数越多，模型的“容量”越大，能够捕获的规律就越精细。但同时也越容易“过拟合”——也就是死记硬背训练数据，泛化能力变差。所以现代大模型还要配合海量数据、正则化技术（如 Dropout）和精心设计的训练流程，才能达到既准确又泛化的效果。

六、结语

所谓“大模型的智能”，其本质就是一个用海量数据和超强算力拟合出来的超大规模数学函数。

它和你用 Excel 添加一条趋势线没有本质区别，只是函数形式从 y = kx + b 变成了包含上千亿个参数、数百层 Transformer 的复杂网络。理解了这一点，你对 AI 的敬畏会褪去一层神秘感，多出一层清晰的逻辑——你面对的不是魔法，而是一个被数学公式雕琢出来的、概率世界里的超级拟合机器。