logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

大模型部署工具 Ollama 使用指南:技巧与问题解决全攻略

Ollama 是一个开源的本地大模型部署工具,旨在简化大型语言模型(LLM)的运行和管理。通过简单命令,用户可以在消费级设备上快速启动和运行开源模型(如 Llama、DeepSeek 等),无需复杂配置。它提供 OpenAI 兼容的 API,支持 GPU 加速,并允许自定义模型开发。

文章图片
#人工智能#知识图谱
标星 19k Star,为中国宝宝量身打造的 Ai 开源大模型部署微调教程项目火了

《开源大模型食用指南》项目应运而生。它旨在为开源 LLM 的使用者提供一份详尽、易懂且实用的指南,帮助他们跨越技术门槛,快速上手并高效利用这些工具。

文章图片
#人工智能#自然语言处理
【大模型部署】本地源码方式部署启动MaxKB知识库问答系统,一篇文章搞定!

MaxKB 是一款基于 LLM 大语言模型的知识库问答系统。MaxKB = Max Knowledge Base,旨在成为企业的最强大脑。

文章图片
#人工智能#RAG
大模型部署:windows系统从零开始本地部署大模型全记录

大家好,最近两年大语言模型风靡全球,最近,不少开源大模型,将模型部署到自己的电脑上,用个性化的数据微调想必是不少人的愿望,这次,让我来分享从hugging face上下载部署chatglm3-6b中的经验。

文章图片
#windows#人工智能
AI大模型部署:手把手教你大模型部署并使用清华智谱6B大模型

本文就来分享下我的安装部署经验,包括本地和租用云服务器的方式,以及如何通过API调用大模型开发自己的AI应用,希望能解决一些下不去手的问题。

文章图片
#人工智能#自然语言处理
《具身智能大模型发展报告(2024年)》发布,中国信通院重磅推荐54页pdf

中国信息通信研究院、北京人形机器人创新中心有限公司联合发布了《具身智能发展报告(2024年)》报告。

文章图片
#AI#科技
【大模型部署】vLLM 部署 Qwen2-VL 踩坑记 03 - 多图支持和输入格式问题

【大模型部署】vLLM 部署 Qwen2-VL 踩坑记 03 - 多图支持和输入格式问题

文章图片
#人工智能#知识图谱
一键本地部署类GPT大模型,大模型部署并没有那么难(文末福利)

虽然也有其他的开源AI大语言模型,但是部署到本地流程太多,容易给人整不会了。没关系,今天介绍一个开源项目,帮你一键本地免费、无限用AI大模型聊天。

文章图片
#自然语言处理#人工智能#RAG
【大模型部署】vLLM 部署 Qwen2-VL 踩坑记 01 - 环境安装

2024年8月30日,阿里云重磅发布Qwen2-VL!Qwen2-VL是Qwen模型系列中最新版本的视觉语言模型。Qwen2-VL是由阿里云qwen2团队开发的多模态大型语言模型系列。

文章图片
#自然语言处理#人工智能
【大模型部署】vLLM 部署 Qwen2-VL 踩坑记 02 - 推理加速

【大模型部署】vLLM 部署 Qwen2-VL 踩坑记 02 - 推理加速

文章图片
#人工智能#知识图谱
    共 2622 条
  • 1
  • 2
  • 3
  • 263
  • 请选择