
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
Ollama 是一个开源的本地大模型部署工具,旨在简化大型语言模型(LLM)的运行和管理。通过简单命令,用户可以在消费级设备上快速启动和运行开源模型(如 Llama、DeepSeek 等),无需复杂配置。它提供 OpenAI 兼容的 API,支持 GPU 加速,并允许自定义模型开发。

《开源大模型食用指南》项目应运而生。它旨在为开源 LLM 的使用者提供一份详尽、易懂且实用的指南,帮助他们跨越技术门槛,快速上手并高效利用这些工具。

MaxKB 是一款基于 LLM 大语言模型的知识库问答系统。MaxKB = Max Knowledge Base,旨在成为企业的最强大脑。

大家好,最近两年大语言模型风靡全球,最近,不少开源大模型,将模型部署到自己的电脑上,用个性化的数据微调想必是不少人的愿望,这次,让我来分享从hugging face上下载部署chatglm3-6b中的经验。

本文就来分享下我的安装部署经验,包括本地和租用云服务器的方式,以及如何通过API调用大模型开发自己的AI应用,希望能解决一些下不去手的问题。

中国信息通信研究院、北京人形机器人创新中心有限公司联合发布了《具身智能发展报告(2024年)》报告。

【大模型部署】vLLM 部署 Qwen2-VL 踩坑记 03 - 多图支持和输入格式问题

虽然也有其他的开源AI大语言模型,但是部署到本地流程太多,容易给人整不会了。没关系,今天介绍一个开源项目,帮你一键本地免费、无限用AI大模型聊天。

2024年8月30日,阿里云重磅发布Qwen2-VL!Qwen2-VL是Qwen模型系列中最新版本的视觉语言模型。Qwen2-VL是由阿里云qwen2团队开发的多模态大型语言模型系列。

【大模型部署】vLLM 部署 Qwen2-VL 踩坑记 02 - 推理加速








