logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

LM Studio本地部署DeepSeek

由于deepseek r1有不同尺寸的量化模型,本地运行成功与否跟你电脑自身的硬件配置有关,所以需要根据你的显存来选择,如果大家不知道自己的显存可以在任务管理器里面看,注意是。接下来就回到初始界面点击左边栏第三个选项,如下图的①,在模型目录里面设置模型目录,可以在一个空间大一点的盘里新建模型目录(如图②),选择模型之后,调整模型的参数,上下文长度参数不建议调整,会占用较大的显存,其他参数可以自己研

文章图片
#经验分享
关于Graphrag调用阿里云embedding API出错的解决办法分享

【代码】关于Graphrag调用阿里云embedding API出错的解决办法分享。

RAG 检索后处理:重排与压缩的核心方法全解析

检索后处理是指在完成初步检索后、送入 LLM 之前,对检索结果进行的一系列优化操作。用户查询↓【检索阶段】向量检索 / BM25 / 混合检索↓【检索后处理】← 我们在这里├─ 重排(Rerank)└─ 压缩(Compression)└─ 其他↓【生成阶段】LLM 生成答案所以,检索后处理不是为了增加召回提升信息质量- 去除噪声,保留关键内容优化排序- 让最相关的内容排在最前面减少幻觉- 给 LL

#python#RAG#人工智能
AgentScope01:重新定义智能体开发的未来

在人工智能快速发展的今天,大型语言模型(LLM)已经展现出强大的能力,但如何将这些能力转化为实用的智能体应用,仍然是开发者面临的重大挑战。传统的智能体开发往往需要处理复杂的API调用、状态管理和系统集成等技术细节,这使得许多有创意的想法难以快速落地。正是在这样的背景下,AgentScope应运而生,为智能体开发带来了全新的思路。

#人工智能
LM Studio本地部署DeepSeek

由于deepseek r1有不同尺寸的量化模型,本地运行成功与否跟你电脑自身的硬件配置有关,所以需要根据你的显存来选择,如果大家不知道自己的显存可以在任务管理器里面看,注意是。接下来就回到初始界面点击左边栏第三个选项,如下图的①,在模型目录里面设置模型目录,可以在一个空间大一点的盘里新建模型目录(如图②),选择模型之后,调整模型的参数,上下文长度参数不建议调整,会占用较大的显存,其他参数可以自己研

文章图片
#经验分享
到底了