
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
本文详细介绍了Windows平台下Claude Code的安装配置与优化全流程,主要内容包括:1)三种安装方式(WinGet、PowerShell脚本、自定义目录部署);2)对接国内云端模型(如阿里云百炼)的核心配置方法;3)实现界面与输出全中文的设置技巧;4)权限优化方案以取消频繁确认弹窗;5)针对卡顿停滞问题的性能优化策略;6)JSON配置文件的注释与参数屏蔽技巧;7)VSCode插件的配套配

本文详细介绍了如何在本地部署Ollama+Llama3.1 8B模型,实现离线AI编程助手功能。主要内容包括:Ollama安装及模型存储路径优化(避免占用C盘空间)、Llama3.1 8B模型下载和基础测试、VSCode Continue插件配置对接本地模型(含yaml文件关键配置),以及常见问题解决方案。文章特别强调16G内存的硬件门槛,并提供了低配环境优化方案和替代模型推荐。该方案完全免费、离

一、到底什么是大模型?二、大模型为什么会横空出世?不是偶然,是三方合力1. 数据够多:从人工标注到自监督学习2. 算力够强:硬件迭代+分布式训练成熟3. 架构合理:Transformer 成为底层基石简单小结三、大模型三大计量单位,入门必懂避坑1. 参数规模:B为单位2. 训练数据集规模:Token 为核心3. 计算规模:FLOPS 浮点运算四、大模型完整分类体系1. 按模态分类2. 按功能与输出
就像我刚开始只知道用现成模型聊天,却完全分不清训练和推理的区别,看不懂GPU、NPU、TPU的差异,也不知道为啥大模型永远缺算力、为啥动不动就爆显存。大模型参数本身占用海量显存,再加上对话上下文的KV Cache缓存,很容易触发爆显存,只能靠量化、模型拆分解决。一旦显存装不下,数据会被调度到内存甚至硬盘,IO阻塞严重,训练速度直接腰斩,也就是常说的「爆显存」。当显存、通信都没问题,单卡自身的浮点运
摘要: 大模型工程落地主要依赖5种实现方式:提示词工程、RAG、微调、续训和智能体开发。AIGC(生成内容工具)与AGI(通用人工智能)需明确区分,当前应用以AIGC为主。模型幻觉(事实错误、虚构内容)是普遍难题,需通过工程方案缓解。5种方案按复杂度排序: 提示词工程(优化指令,零成本); RAG(检索增强生成,解决知识滞后与私有数据); 微调(固化专业风格与指令); 续训(补充领域底层知识,成本
本文介绍了一个纯离线单文件实现的VSCode本地大模型对话界面方案。该方案具备以下特点: 完全离线运行:单个HTML文件,无任何外部依赖,适合内网开发环境 VSCode零侵入:无需安装插件,拷贝即用 标准API兼容:适配OpenAI标准接口,支持Ollama/vLLM等本地模型 持久化存储:利用LocalStorage保存会话历史,数据不丢失 开发友好:支持上传文本/代码文件和图片,适合代码审阅等

文章摘要 本文针对Roo Code调用本地AI模型卡顿问题,分析了五大根源:代码索引开销、上下文处理逻辑过重、保守请求策略、VSCode资源争抢和参数不匹配。通过三步定位法(基准测试、资源监控、API直测)确认问题后,提出六级优化方案:关闭代码索引(大型项目首推)、对齐模型参数(避免盲目拉满)、优化通信配置、精简日志遥测、VSCode环境瘦身及本地模型调优。实测显示,优化后首Token延迟可从12
本文详细介绍了Windows平台下Claude Code的安装配置与优化全流程,主要内容包括:1)三种安装方式(WinGet、PowerShell脚本、自定义目录部署);2)对接国内云端模型(如阿里云百炼)的核心配置方法;3)实现界面与输出全中文的设置技巧;4)权限优化方案以取消频繁确认弹窗;5)针对卡顿停滞问题的性能优化策略;6)JSON配置文件的注释与参数屏蔽技巧;7)VSCode插件的配套配

本文介绍了一个纯离线单文件实现的VSCode本地大模型对话界面方案。该方案具备以下特点: 完全离线运行:单个HTML文件,无任何外部依赖,适合内网开发环境 VSCode零侵入:无需安装插件,拷贝即用 标准API兼容:适配OpenAI标准接口,支持Ollama/vLLM等本地模型 持久化存储:利用LocalStorage保存会话历史,数据不丢失 开发友好:支持上传文本/代码文件和图片,适合代码审阅等

本文详细介绍了如何在本地部署Ollama+Llama3.1 8B模型,实现离线AI编程助手功能。主要内容包括:Ollama安装及模型存储路径优化(避免占用C盘空间)、Llama3.1 8B模型下载和基础测试、VSCode Continue插件配置对接本地模型(含yaml文件关键配置),以及常见问题解决方案。文章特别强调16G内存的硬件门槛,并提供了低配环境优化方案和替代模型推荐。该方案完全免费、离








