Softmax函数作用：Softmax函数的核心作用是将一组任意实数转换为总和为1、取值在0到1之间的概率分布，它通过指数运算放大数值间的差距，让较大数值对应的概率更突出、较小数值对应的概率被压缩，从而清晰呈现每个类别的置信度；用100维、300维表示数据就是把一个原本复杂的事物（比如一个词、一张图、一个人）抽象成由100个或300个数字组成的列表（数学上叫“向量”），每一个数字都代表这个事物的某

传统PCA是一种无监督线性降维算法，先对原始多维数据去中心化，通过协方差矩阵求解特征值与特征向量，依照特征值大小筛选信息量最高的主成分，将原始数据线性投影到低维空间，在保留大部分数据方差信息的同时剔除冗余相关特征，缺点是线性映射无法捕捉非线性关联、降维后的合成特征没有实际业务语义。

今天看完了cs224n的lecture3，对前向传播、反向传播、神经网络的训练过程等加深了理解。如果没有损失函数，模型就没有优化目标，无法判断自己的预测是好是坏，更无法通过反向传播更新参数。如果没有激活函数，无论神经网络有多少层，最终都只能表示线性关系，这大大限制了模型的表达能力。取一批数据->前向传播->计算损失->反向传播->调整参数->前向传播...：常用于分类任务，衡量两个概率分布之间的差

听了lecture4，感觉讲了很多不同语言使用过程中的歧义。RNN和n元语言模型在生成文本上的区别是什么？模型训练过程中的正则化是什么意思？听了一部分lecture5。

这两天看完了RNN、GRU和LSTM，下面给出一个使用PyTorch实现的、不同神经网络实现简单直观的项目，用于MNIST手写数字识别，同样作为一个深度学习模板进行学习记忆。

主播之前属于工程Java，刷题c++选手，现在打算all in python，此贴用于记录刷题或做项目中对python基础的学习，主要起备忘作用，内容可能较简单，大佬勿喷。python中没有char这个数据类型，ch=input()等于一次读入一个字符串，如果要取第一个字符，可以用ch=input()[0]

Softmax函数作用：Softmax函数的核心作用是将一组任意实数转换为总和为1、取值在0到1之间的概率分布，它通过指数运算放大数值间的差距，让较大数值对应的概率更突出、较小数值对应的概率被压缩，从而清晰呈现每个类别的置信度；用100维、300维表示数据就是把一个原本复杂的事物（比如一个词、一张图、一个人）抽象成由100个或300个数字组成的列表（数学上叫“向量”），每一个数字都代表这个事物的某

传统PCA是一种无监督线性降维算法，先对原始多维数据去中心化，通过协方差矩阵求解特征值与特征向量，依照特征值大小筛选信息量最高的主成分，将原始数据线性投影到低维空间，在保留大部分数据方差信息的同时剔除冗余相关特征，缺点是线性映射无法捕捉非线性关联、降维后的合成特征没有实际业务语义。

【代码】简单dropout代码 2026.7.9。

这两天看完了RNN、GRU和LSTM，下面给出一个使用PyTorch实现的、不同神经网络实现简单直观的项目，用于MNIST手写数字识别，同样作为一个深度学习模板进行学习记忆。