我已经很满意了，至少这个东西是可以去预测的，至于预测为什么不正确，我目前猜测主要还是跟词频有关。在结果中，and和the、a的预测准确率较高，经过打印词频，确实词频高。但其中，预测准确的，也有一些低词频的词汇，所以这个方式目前是可用的。至于预测效果是否好，主要还是看调参了，比如迭代次数、比如学习率等等。基于矩阵的CBOW基础算法，其实是负采样的前提算法。我只要模型流程是正确的，能跑的通。预测准确率

行吧，花了几个小时，才知道要把torch版本降级，连同torchvision降级、torchaudio也降级。在github上随便找的一个补救贴，也就随便试了一下，就不再报错了，稀里糊涂就好了。安装comfyui的时候，comfyui默认的是最新版的torch 2.5.1版本。稍显麻烦，要先查看自己电脑里的cuda版本，去找对应的torch版本下载。原以为是tensorrt版本跟onnx版本不同，

最后拉格朗日对偶问题，是要求解MAXλL(λ)=∑λi−∑i=1n∑j=1nλiλjxixjyiyj2MAX_λL(λ)=∑λ_i-\frac{∑_{i=1}^n∑_{j=1}^nλ_iλ_jx_ix_jy_iy_j}{2}MAXλ​L(λ)=∑λi​−2∑i=1n​∑j=1n​λi​λj​xi​xj​yi​yj​​即，通过调整λ值，求解L函数极大值而Max:LMax: LMax:L可以转化为求M

刚做完正则化训练的课，有个很惊奇的发现，之后有时间了，再抽空去梳理吧。

看了几篇，总感觉这个XGBoost不仅仅是对GBDT的改进版，还包含了对CART决策树的改进。书上说，XGBoost有很好的性能，在各大比赛中大放异彩，行吧，冲这句，好好看看！划水一整天，模型看了仨！不错，虽然现在在打哈欠，还是很想把XGBoost梳理梳理。这仨都是前k-1轮的，相当于常数。

这是我看下来，最简单的内容，哭了，K-means，so niceK-means，由于太过简单，不需要数学推导时，一时间甚至无从下指首先，K-means需要提前锚定几个点，然后让所有数据样本根据与这几个点的距离，将分别选择最短距离凑成一簇有那么点近水楼台先得月，兔子硬吃窝边草的意思然后所有样本分别站队分组后，每个组再重新选出新的锚定点：计算出所有特征各自的均值，作为新锚定点重复分组与计算新锚点，直到

刚做完正则化训练的课，有个很惊奇的发现，之后有时间了，再抽空去梳理吧。

如果是按句取上下文，那么一个句子开头和末尾单词的下文就是None，语料文件有很多个句子，就会有很多个None。：毕竟CBOW是获取关键词的前c个和后c个单词来训练的，但开头单词没有前c个单词，末尾单词没有后c个单词。如果按所有句取上下文，那整个语料文件就只有开头有None，末尾有None，None数量很少。只希望，CBOW案例，不要太难，不然我根本寸步难行，只能天天打游戏聊以自慰。：不行，因为中文

下边这篇，让我大致理解了训练过程数据的变化，嗷。。。太牛了举例说明CBOW训练时的数据变化直到我看到这篇NLP笔记之word2vec算法（2）–Hierarchical Softmax原理+数学推导 - 张小彬的文章 - 知乎我天呐。。。瞬间有种顿悟的通透感！虽然还是有一些不明确的地方，但是朦胧之中，抓住了一丝丝的脉络看别人总结的关系，很清晰了。为了更方便自己理解，且减少工作量，只梳理【基于Hie

信息量、信息熵、条件熵、信息增益、基尼系数...通俗理解