前提准备     node1:192.168.1.100 haproxy前段调度器     node2、node3是后端真实服务器     node2:192.168.1.101     node3:192.168.1.102一：先在node2和node3上准备好web服务，并保障可以访问         node2：yum  install -y httpd #安装httpd...

显存占用(支持FP16)=671x2GB+30x(2048+2048)x2x61x7168x2Bytes=1342 GB+ 200.16GB=1542.16GB。KV Cache 内存=并发数 x (输入Token+输出Token) x 2 x层数 x hidden_size x Sizeof(精度)DS 671B 采用精度FP16，输入输出2048Token，61层，7168hidden_siz

Newbie wang Xen安装部署和基本原理Refer to : http://www.178linux.com/14764目录：   1. Xen的简介   1.1  Xen的大体结构   1.2 Xen对VM的称呼   1.3 Xen对CPU和内存的虚拟化过程   1.4 Xen对IO设备的虚拟化过程   1.5 Linux Kernel对Xen的支持  ...