logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

LLM视角下的矩阵乘法

在 LLM 的推理过程中经常设计到矩阵乘法操作,这里我将给出一个矩阵乘法计算的新视角。矩阵是由向量构成的,行向量,列向量,而两个矩阵相乘就是两个矩阵的向量两两做内积,所有的内积结果放在一个表里作为结果。

文章图片
#矩阵#线性代数
个人周报--山大公历第15周

本周完成了会议内AI框架的核心交互功能,实现了历史对话管理的统一化和流式对话交互的优化。整体实现进度符合预期。

文章图片
个人周报--山大公历第12周

本周完成了DeepSeek RAG增强:将所有知识库及chunk元数据集中存储于MongoDB,将768维向量存入Milvus,并在检索前动态加载集合,实现Top-3快速检索;前端新增知识库下拉选择并完善接口联调,优化参数传递与错误日志;统一使用mpnet-base-v2模型与Milvus集合,解决了维度不匹配和集合未加载问题,实现了端到端响应。

到底了