不会类比，不懂共情(这两点一向是被计算机背景的理工群体鄙视的)，没有泛化能力，无法举一反三，不会归纳演绎，这才是 AI 的瓶颈，而不是铺天盖地的算力，以及那些以为 scale 就够了的能力，但在本质上，只要 AI 仍然是个概率预测机器，那些 scale up 也好，scale out 也好，都仍然在做概率预测，正如它们名字一样，规模扩大了而已。这个过程最精妙的结果是，在交叉熵损失和 Softmax

(buffer 的平方反比律)，我是三句话不离本行，AIMD 对 buffer 的占用就是按 n 缩放，所以它随 n 越来越小，与本文结论一致，非常公平地使 “权重会趋近于均匀分布”，公平性是 AIMD 特征，但 softmax 恰恰需要 “选择性聚焦”，而不是公平。通过缩放点积，将 softmax 函数的输入控制在一个合理的动态范围，防止了梯度消失，确保了训练过程的稳定和高效，缩放后的注意力权重

ecc的过程与rsa相比有很大的不同，ecc涉及到了很多额外的概念，比如group等等，另外ecc包含两套截然不同的机制，这就是ecdsa和ecdh，这两套机制统一于ecc，在非ecc算法中，这两套机制是由两个独立的算法实现的，比如对于加密/解密以及签名/验证这一类需求来说使用的是rsa，dsa，对于密钥协商这一类需求来说使用的是dh，如何把这两类算法统一到一个结构中是类似openssl等框架需要

突然发现一场战争刚刚过去，自己没有来得及参战，战利品当然就没有机会了，不过观战也是不错的选择。这篇帖子讨论的非常不错，大家都阐述了自己的观点，值得一看前面写过一些文章来讨论人工智能，我的观点就是以当前纯算法的努力实现真正的人工智能几乎不可能，突然发现一个帖子，里面阐述的更加具体了一些，大家都发表了自己的意见，很激烈。本贴子主要的观点有随机和进化，我也比较认同这二者，因此我更有必要收藏它了。

最近一直在分析数据包。同时也一直想学python。凑一块儿了...于是，便开工了。座椅爆炸！正文首先要说的是，我知道python有很多解析pcap文件的库，这里不使用它们的原因是为了理解pcap文件的格式细节。使用tcpdump你可以很容易抓取到一系列的数据包，然而tcpdump并没有分析数据包的功能，如果想从这个抓包文件中分析出一些端倪，比如重传情况，你必须使用wireshark之类的软件，用w

最近看大模型相关的论文和书籍，发现了宝藏，这里面全都是我感兴趣的单点，概率统计学，非线性，GPU 并行的切割方向，负反馈，矩阵，函数图像…当模型对某个类别的预测概率高于真实概率时，梯度为正，提示应该降低相应的 logit，当预测不足时，梯度为负，提示应该增加 logit。影响更大，两者偏离越大，损失越大，直观上看，交叉熵更重视出类拔萃者，而忽略了卑微者，这就是一种有意义的 “拔优”，涌现正基于这种

最近看大模型相关的论文和书籍，发现了宝藏，这里面全都是我感兴趣的单点，概率统计学，非线性，GPU 并行的切割方向，负反馈，矩阵，函数图像…当模型对某个类别的预测概率高于真实概率时，梯度为正，提示应该降低相应的 logit，当预测不足时，梯度为负，提示应该增加 logit。影响更大，两者偏离越大，损失越大，直观上看，交叉熵更重视出类拔萃者，而忽略了卑微者，这就是一种有意义的 “拔优”，涌现正基于这种

在做法上，我可能会用实际流量样本训练 DCN 本身，在它能为拥塞控制给出建议之前，实际的流量或人为注入的流量(例如 incast)最为输入，人工的，传统算法的或 SDN 的决策作为目标，都是该 AI DCN 的学习样本，该 AI DCN 就像一个神经网络本身一样收敛，涌现出应对任何流量模式的即时应对措施，在我看来这就算一种即时的 “在线推理”。不管怎样，信息守恒，只是难以暴露，依赖大模型的涌现能力

在做法上，我可能会用实际流量样本训练 DCN 本身，在它能为拥塞控制给出建议之前，实际的流量或人为注入的流量(例如 incast)最为输入，人工的，传统算法的或 SDN 的决策作为目标，都是该 AI DCN 的学习样本，该 AI DCN 就像一个神经网络本身一样收敛，涌现出应对任何流量模式的即时应对措施，在我看来这就算一种即时的 “在线推理”。不管怎样，信息守恒，只是难以暴露，依赖大模型的涌现能力

遇到一个迟来的case，用scp在长链路上传输文件竟然慢到无法忍受！100～200毫秒往返时延的链路，wget下载文件吞吐可达40MBps，scp却只有9MBps。我开始以为这是加密带宽损耗所致，然而用HTTPS测试却正常。为了避免pacing平滑掉边沿事件，设置CC为CUIBIC，抓包抓到如下trace波形：这要么是一个rwnd limited的场景，要么是app limited的场景，肯定不是