大模型推理引擎vLLM(18): vLLM中的SBO(single batch overlapping)功能代码实现分析

大模型推理引擎vLLM(17): vllm/vllm/model_executor/layers/fused_moe/modular_kernel.py代码简单阅读笔记

大模型推理引擎vLLM(17): vllm/vllm/model_executor/layers/fused_moe/modular_kernel.py代码简单阅读笔记

网上搜到的方法都是说用snap方法进行安装，命令如下，sudo apt install snapdsudo snap install p3x-onenote但是上面的命令安装p3x-onenote网速特别慢，而且中间过程基本上都会失败，因此尝试直接下载app的方法进行下载；https://download.csdn.net/download/u013171226/12684639下载完2020-0

在ubuntu上面安装了某软件之后，打开该软件之后提示ubuntu18.04上 /lib/x86_64-linux-gnu/libc.so.6: version `GLIBC_2.28' not found然后发现自己电脑里面本来是GLIBC_2.27版本，于是要安装 libc-2.28.socurl -O http://ftp.gnu.org/gnu/glibc/glibc-2.28.tar.g

有时候在windows中的文件上传到linux之后文件名或文件内容乱码，采用如下博客的做法之后，文件名正常了，但是文件内容还是乱码，因此下面说一下转换方法。https://blog.csdn.net/u013171226/article/details/107680286目录一.安装iconv1.首先下载libiconv2.解压3.cinfigure配置4.编译安装5.创建软连接二，编码转换一.安

输入流的继承关系：ios_base <- ios <- istream <- ifstreamC++ 使用标准库类来处理面向流的输入和输出：iostream 处理控制台 IOfstream 处理命名文件 IOstringstream 完成内存 string 的IO每个IO 对象都维护一组条件状态 flags (eofbit, failbit and badbit)，用来指出此对象

ctrl + shift + F7：把某个单词高亮()， ESC：退出高亮。

一：apt方式安装sudo apt install cmake这种方式最方便，但是这种方式安装的cmake往往版本比较低，不能满足要求，一般都要用自己源码安装二：源码安装当我们编译提示cmake版本较低时就要用这种方式手动安装，1.首先卸载掉ubutnu原来的cmakesudo apt-get remove cmake2.下载cmake源码包去 https://cmake.org/download

一.在centos端安装xrdp1.配置源yum installepel* -y2.安装xrdpyum --enablerepo=epel -y install xrdp3.启动xrdp并设置开机启动systemctl start xrdpsystemctl enable xrdp4.安装好了之后将防火墙关闭,或者开放3389端口//开放3389端口firewall-cmd --permanent