本文介绍了连续词袋模型(CBOW)的工作原理。CBOW通过上下文词预测中心词，包含三个关键层：1)embeddings层将词索引转换为词向量并求平均；2)线性层将向量映射到词汇表大小；3)Softmax层输出概率分布。损失函数采用负对数似然，通过反向传播更新嵌入矩阵和线性层权重。重点分析了前向传播的计算过程和各层梯度推导，阐明了CBOW不设激活函数的原因。该模型通过上下文词的平均向量预测中心词，能