numactl是一个用于控制策略的 Linux 工具集。它允许你查看系统的 NUMA 拓扑结构，并将进程或共享内存绑定到特定的 CPU 节点和内存节点，从而优化应用程序的性能，尤其是在多路服务器上。

项目网址：OpenNMT - Open-Source Neural Machine Translationlogo：参考：《The Annotated Transformer》翻译——注释和代码实现《Attention Is All You Need》_神洛华的博客-CSDN博客

ThunderKittens摘要将AI架构映射到GPU硬件的挑战正成为AI发展的关键瓶颈。尽管付出了巨大努力，手工编写的定制内核仍无法达到其理论性能阈值，即使在线性注意力等成熟操作上也是如此。GPU多样化的硬件能力可能意味着我们需要大量技术来实现高性能。然而，我们的研究探索了是否可以通过少量关键抽象大幅简化这一过程。我们提出了ThunderKittens（TK），一个用于编写高性能AI内核的框架，

Blackwell 和 Hopper 架构通过 TMA、集群共享内存、增强的 FP8 支持等功能，显著提升了 GPU 的计算能力和效率。这些新特性特别适合现代 AI 和高性能计算工作负载，能够提供更高的性能和能效比。开发者可以通过合理利用这些新功能来优化现有应用程序或开发新的高性能计算解决方案。请注意，要运行这些示例代码，需要:支持 Hopper 或 Blackwell 架构的 GPUCUDA 1

git add .git push。

安装 sklearn1. 安装 numpy scipy matplotpip3 install numpy scipy matplotlib -i https://pypi.tuna.tsinghua.edu.cn/simple2. 安装 sklearnpip3 install scikit-learn -i https://pypi.tuna.tsinghua.edu.cn/simple只为当前

给定一个浮点数向量，其精确和为【注，数学精确和】，我们提出一种算法来计算的忠实舍入，即结果是的紧挨着的浮点邻居之一。若和本身是浮点数【注，计算机能表示的浮点数集合double 类型的】，我们证明该算法的结果就是。该算法能去适应求和的条件数，即对于条件数适中的求和，算法速度很快，且计算时间随条件数的对数增长而成比例地缓慢增加。所有结论在存在下溢的情况下仍然成立【注，正规数区间，相邻两个正规数之间的步

cd nccl/cd cupygit branchgit branch。

我们需要弄清楚，其中的变量 __thread struct ncclComm* ncclGroupCommHead = nullptr;这次希望看一下，ncclAllReduce()中的 ncclSum 是如何转换成 对应的 cuda Kernel来被执行到的。是如何关联到fn上的。

https://hub.docker.com/r/almalinux/8-base/tags下载镜像：创建一个容器：1. Alma 安装软件以安装 wget 为例：2.安装软件时报 Error: GPG check FAILED在 AlmaLinux 8 中使用安装软件包时遇到 GPG 检查失败（）的问题，通常是由于软件源的 GPG 密钥未正确导入或已过期。在 AlmaLinux（及其他基于 RP