两个向量的点积，衡量的是它们的"方向一致性"。方向越一致，点积越大。所以Query和Key越相似（方向越接近），注意力分数就越高。但这里有一个问题：如果向量维度很大，点积的值也会很大。值一大，softmax就趋向于"赢者通吃"——最大的那个分数接近1，其他全部接近0。这不是我们想要的。所以论文里除了一个根号d_k（Key的维度），相当于把分数拉回来。这个细节虽小，但很关键。没有这个缩放，注意力分布

如果你问一个AI从业者：今天的大模型时代是怎么来的？答案通常会指向一个起点：2017年的Transformer。但从Transformer到ChatGPT，中间还有几步关键的跳跃。今天这篇文章，我们把阶段一的五篇论文串起来看，讲清楚每一步为什么重要，以及它们之间怎么互相呼应。

如果你问一个AI从业者：今天的大模型时代是怎么来的？答案通常会指向一个起点：2017年的Transformer。但从Transformer到ChatGPT，中间还有几步关键的跳跃。今天这篇文章，我们把阶段一的五篇论文串起来看，讲清楚每一步为什么重要，以及它们之间怎么互相呼应。

如果你问一个AI从业者：今天的大模型时代是怎么来的？答案通常会指向一个起点：2017年的Transformer。但从Transformer到ChatGPT，中间还有几步关键的跳跃。今天这篇文章，我们把阶段一的五篇论文串起来看，讲清楚每一步为什么重要，以及它们之间怎么互相呼应。

安装后默认的目录：/var/lib/pgsql/{version}/data1，哪儿启动的数据库？数据库服务一般开机自动启动，那么就可以顺藤摸瓜找到相关的service。对于postgresql10，它的服务名为postgresql-10.service，该文件的路径为：/usr/lib/systemd/system/postgresql-10.service