logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

使用 LangChain 搭建本地大模型 RAG 问答应用

Hailo-Ollama 的底层用的是 oatpp HTTP 框架,它对请求体的 JSON 字段类型要求很严。LangChain 官方的ChatOllama会往请求里附加optionskeep_alive等额外字段,oatpp 碰到未知字段直接报类型解析错误。解决方案是继承model: str@propertyreturn [self,self,) as resp:continueif token

初探:用 FastAPI 搭建你的第一个 AI Agent 接口

她先是卡在“怎么把每次的提问包装成 API”,然后又纠结“返回的结果该用啥格式”,最后看着一堆手动拼的 JSON schema 叹了口气。都得装,一会儿我们要用它去异步调 Ollama 的 API,这时候就别用 requests 同步请求了,我喜欢把这事儿交给 Pydantic,比手写字典强一万倍——自动校验,还能直接喂给 Swagger。今天我们先把基础路走通,让“大厨”先能出餐,后面再加“工具

#fastapi
初探:用 FastAPI 搭建你的第一个 AI Agent 接口

她先是卡在“怎么把每次的提问包装成 API”,然后又纠结“返回的结果该用啥格式”,最后看着一堆手动拼的 JSON schema 叹了口气。都得装,一会儿我们要用它去异步调 Ollama 的 API,这时候就别用 requests 同步请求了,我喜欢把这事儿交给 Pydantic,比手写字典强一万倍——自动校验,还能直接喂给 Swagger。今天我们先把基础路走通,让“大厨”先能出餐,后面再加“工具

#fastapi
到底了