logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

大模型/GPU

显存占用(支持FP16)=671x2GB+30x(2048+2048)x2x61x7168x2Bytes=1342 GB+ 200.16GB=1542.16GB。KV Cache 内存=并发数 x (输入Token+输出Token) x 2 x层数 x hidden_size x Sizeof(精度)DS 671B 采用精度FP16,输入输出2048Token,61层,7168hidden_siz

#人工智能#gru#语言模型
XEN虚拟机简述

Newbie wang Xen安装部署和基本原理Refer to : http://www.178linux.com/14764目录:   1. Xen的简介   1.1  Xen的大体结构   1.2 Xen对VM的称呼   1.3 Xen对CPU和内存的虚拟化过程   1.4 Xen对IO设备的虚拟化过程   1.5 Linux Kernel对Xen的支持  ...

到底了