为什么要了解内核的调度策略呢？呵呵，因为它值得我们学习，不算是废话吧。内核调度程序很先进很强大，管理你的LINUX上跑的大量的乱七八糟的进程，同时还保持着对用户操作的高灵敏响应，如果可能，为什么不把这种思想放到自己的应用程序里呢？或者，有没有可能更好的实现自己的应用，使得操作系统能够以自己的意志来分配资源给自己的进程？带着这两个问题来看看KERNEL。首先回顾上我们开发应用程序，基本上

多核CPU现在很常见，那么问题来了，一个程序在运行时，只在一个CPU核上运行？还是交替在多个CPU核上运行呢？LINUX内核是如何在多核间调度进程的呢？又是内核又是CPU核，两个核有点绕，下面称CPU处理器来代替CPU核。实际上，如果你没有对你的进程做过特殊处理的话，LINUX内核是有可能把它放到多个CPU处理器上运行的，这是内核的负载均衡。上文说过，每个处理器上有一个runqueue

内核在微观上，把CPU的运行时间分成许多分，然后安排给各个进程轮流运行，造成宏观上所有的进程仿佛同时在执行。双核CPU，实际上最多只能有两个进程在同时运行，大家在top、vmstat命令里看到的正在运行的进程，并不是真的在占有着CPU哈。所以，一些设计良好的高性能进程，比如nginx，都是实际上有几颗CPU，就配几个工作进程，道理就在这。比如你的服务器有8颗CPU，那么nginx worker

nginx是什么？可能很多人不是很了解，除非是做WEB服务器开发的朋友才可能涉猎，而且如果不懂C语言，又或者对WEB SERVER性能要求不高，也是没必要去研究它的。说到这里，大家想必已经知道，nginx就是一个高性能的WEB SERVER，它的工作就像apache, tomcat一样。那么已经有apache这样的成熟产品了，nginx又有何存在必要呢？下面说下它的特点，各位就明白为何ng

本文描述fabric快速部署的步骤，及演示基于官方example02的智能合约进行CLI命令行体验。区块链涉及服务很多，且大量使用docker容器技术，所以请严格遵守以下步骤去部署，以减少各种问题的出现，方便我们先对联盟链有个大概的感觉。本文描述环境是centos7操作系统，请其他版本更正相关的安装工具（如ubuntu操作系统请把yum命令换成apt-get）。1、搭建e2e_cli环境快速部署f

上周末参加了一个区块链技术培训班，大致搞明白了以下问题：1、比特币为什么会衍生出挖矿、矿机这套产业链？为什么那么多人炒币？2、公有链、联盟莲、私有链的区别在此做个简单分享。1、比特币这种公有区块链的技术支撑实际上大量做服务器端开发的程序员，都对zookeeper有些熟悉，当我们为一个分布式集群寻找一致性解决方案时都会想到它。zookeeper实际使用了paxos的简化版算法（如果试图说清楚这个算法

hyperledger fabric是区块链中联盟链的优秀实现，主要代码由IBM、Intel、各大银行等贡献，目前v1.1版的kafka共识方式可达到1000/s次的吞吐量。本文中我们依次讨论：区块链的共通特性、fabric核心概念、fabric的交易执行流程。本文来源于笔者欲对公司部分业务上链而进行培训的PPT，故图多文字少，不要怕太长。1、区块链解决方案的特性1.1 分布式帐本区块...

《基于GPU的性能建模与分布式深度学习框架评价》是在GPU训练性能上讨论了benchmark分析方法。从CPU到GPU后，训练时间降低了一些，但能降得更多些吗？换成多块GPU显卡，可以再下降吗？应当采购什么样的显卡，性价比最好？这场分享回答了以上问题。我们如何设计网络模型，以使得GPU可以满载呢？这里要引入一个指标OI（operational insensity），它表示计算量除以带宽FLOPS/

本文探讨了AI时代下语义路由的技术演进，分析了传统反向代理和负载均衡算法在大语言模型(LLM)集群调度中的局限性。文章详细解构了三种主流解决方案：Kong基于嵌入模型的向量相似度路由、Higress基于生成模型的文本分类路由，以及vLLM-SR基于分布式LoRA的多维信号路由。每种方案都有其优缺点，其中vLLM-SR通过在路由运行时原生内嵌轻量分类器，实现了性能与准确性的最佳平衡。文章还展望了语义

本文探讨了AI时代下语义路由的技术演进，分析了传统反向代理和负载均衡算法在大语言模型(LLM)集群调度中的局限性。文章详细解构了三种主流解决方案：Kong基于嵌入模型的向量相似度路由、Higress基于生成模型的文本分类路由，以及vLLM-SR基于分布式LoRA的多维信号路由。每种方案都有其优缺点，其中vLLM-SR通过在路由运行时原生内嵌轻量分类器，实现了性能与准确性的最佳平衡。文章还展望了语义