logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

ChatGLM2-6B模型推理流程和模型架构详解

因为本人在做大模型优化方面的研究,之前拆了ChatGLM2的源代码,看看能从哪些地方深入。结果刚拆完没多久,昨天,也就是10 月 27 日,智谱 AI 在 2023 中国计算机大会(CNCC)上发布了自研第三代对话大模型 ChatGLM3,这是智谱 AI 在今年内第三次对 ChatGLM 基座模型进行了深度优化。目前还没去拆它的源代码,所以也不太清楚和2代之间有什么区别。但2代的结构我觉得可以先发

#架构
Nginx 配置前端后端服务

在配置Nginx以支持前端和后端服务时,需要了解Nginx的基本配置语法和结构,并依次设置Nginx作为前端静态资源服务器和反向代理服务器以连接后端应用。

#nginx#前端#运维
Spring集成kafka的最佳方式

对于springboot 1.5版本之前的话,需要自己去配置java configuration,而1.5版本以后则提供了auto config,具体详见org.springframework.boot.autoconfigure.kafka这个包,主要有。基于Spring Integration构建,在spring cloud环境中又稍作加工,也稍微有点封装了. 具体详见spring cloud

#spring#kafka#linq
冯诺依曼架构与哈佛架构的对比与应用

冯诺依曼架构和哈佛架构代表了计算机体系结构的两种基本设计理念。冯诺依曼架构由于其简洁性和灵活性,广泛应用于通用计算机中,而哈佛架构则通过分离程序存储和数据存储,在实时计算和数据处理要求较高的领域(如嵌入式系统、数字信号处理器等)表现出更高的性能。冯诺依曼架构的冯诺依曼瓶颈限制了其在某些高性能应用中的应用,而哈佛架构通过并行数据访问和指令访问,避免了这一瓶颈。在现代计算机系统中,虽然冯诺依曼架构仍占

#架构
Redis的优势和特点

Remote DIctionary Server(Redis) 是一个由 Salvatore Sanfilippo 写的 key-value 存储系统,是跨平台的非关系型数据库。Redis 是一个开源的使用 ANSI C 语言编写、遵守 BSD 协议、支持网络、可基于内存、分布式、可选持久性的键值对(Key-Value)存储数据库,并提供多种语言的 API。

#redis#数据库#缓存
Nginx 安装及配置教程(Windows)【安装】

只需要启动一个 Nginx 服务器,将 server_name 设置为 font_server,然后设置相应的 location 以拦截前端需要跨域的请求,最后将请求代理回 github.com。现在 http://domain 对 http://font_server发起请求一定会出现跨域。# 设置gzip所需的http协议最低版本 (HTTP/1.1, HTTP/1.0)如果两个页面的协议,端

#nginx#windows#运维
解决no main manifest attribute错误

程序运行的入口是main方法,当我们使用java Hello命令,虚拟机就可以根据Hello.class文件中的main方法,来运行程序。JAR(Java Archive)文件是一种打包文件格式,它允许你将多个 Java 类文件、相关的元数据和资源(如文本、图片等)打包到一个单一的文件中,以便于分发和部署。元数据主要指的是清单文件(MANIFEST.MF) ,这是一个可选文件,用来提供关于jar文

#pycharm#ide#python
到底了