
简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
在本地部署一套几乎免费的大模型环境3:让本地IDE(vscode)连上本地大模型环境
本文介绍了在VS Code中集成本地大模型环境Continue插件的配置过程,以实现A股量化开发场景下的智能代码辅助功能。主要内容包括: 需求分析:在IDE中实现对话式编码建议和代码补全功能 环境架构:利用现有Mac Mini和Windows开发机的分布式环境 配置步骤: 跨机网络连通性验证 LiteLLM接口测试 Continue插件安装与config.yaml配置 功能验证:展示代码补全和对话

在本地部署一套几乎免费的大模型环境1:基础环境搭建
本文探讨了本地部署大模型的必要性、成本考量及实现方案。核心要点如下: 本地部署的三大驱动力: 数据安全:避免敏感数据外流 定制化需求:可针对特定领域深度优化 学习研究:深入了解技术栈 隐性成本分析: 硬件投入(显存、内存等) 电力与维护成本 机会成本(算力资源分配) 实践方案: 推荐架构:Ollama(模型)+ LiteLLM(网关)+ Open WebUI(前端) 硬件配置示例:RTX 4070
到底了







