
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
Ollama服务出现GPU识别问题导致对话无响应。日志显示系统检测到CPU计算资源(62.7GiB内存)但未正确识别GPU设备,警告信息提示用户可能覆盖了可见设备设置(CUDA_VISIBLE_DEVICES=0)。服务尝试使用CPU运行模型,加载了25层架构为gptoss的模型,采用MXFP4量化格式,最终在无GPU加速的情况下完成了模型加载和内存分配。建议检查GPU驱动设置或尝试重置环境变量重

本文介绍专为macOS优化的oMLX框架,可大幅提升本地模型运行速度。教程包含:1)推荐Mac mini作为运行设备;2)下载安装Ollama本地环境;3)16G内存实测千问3.5(9B)模型;4)通过Homebrew安装Node.js等依赖环境;5)一键安装开源客户端面板OpenClaw。最后展示了OpenClaw安装成功的界面,提供完整的macOS本地模型部署方案。

本文介绍了在Ubuntu系统上安装和配置vLLM环境的完整步骤。首先将系统源更换为阿里云镜像并更新系统,然后安装必要的开发工具和CUDA 12.1工具包。接着创建Python虚拟环境并安装vLLM(支持CUDA 12.1),验证安装成功后,通过阿里云镜像源安装ModelScope工具包。最后演示了如何使用ModelScope下载GPT-OSS-20B模型到本地目录,包括下载模型配置文件和权重文件的
摘要: DeepSeek V4针对长文本处理的计算瓶颈,通过混合专家模型(MoE)架构优化、混合注意力机制(CSA/HCA)和创新的内存管理技术(Muon & mHC),实现了百万级上下文窗口的高效处理。该模型将KV Cache内存占用降低90%,推理计算量减少73%,在保持强大推理能力的同时显著降低了长文本处理的成本。这一系统级优化使大模型在知识密集型任务中的商业化应用成为可能,标志着L
摘要: DeepSeek V4作为高性能基础模型,其核心价值在于与现有生态系统的深度集成。本文从三大应用范式(流程编排、知识增强RAG、自定义训练)切入,探讨V4与LangChain、LlamaIndex等工具的耦合策略:利用V4的百万级上下文窗口构建Agent持久化记忆,优化RAG的语义检索精度,并通过微调实现领域专家能力。同时提出分阶段落地流程——从MVP验证到生产级部署,强调将V4的上下文优
摘要: DeepSeek V4等大型语言模型的崛起标志着技术范式的转变,其伦理风险与社会影响远超技术本身。模型需嵌入安全机制,包括偏见审查、幻觉规避(如RAG架构)和隐私保护(差分隐私),确保输出透明可控。社会层面,AI将重塑劳动力结构,推动人类转向高阶决策、系统协调与道德审查角色,同时暴露监管滞后问题,亟需跨国分级治理框架。技术本质是解放人类创造力,未来发展需兼顾创新与人文责任,实现人机共生。
**摘要:**智能工具正在重塑工作流程,推动从代码到数据再到模型的自动化革命。三大核心工具——智能编码工具(如GitHub Copilot)实现“意图预填充”,提升开发效率;数据标注工具通过半自动化流程优化数据治理,提升数据质量;模型训练平台(MLOps)加速实验与部署,缩短商业化周期。三者协同形成闭环,将人类角色从执行者升级为工作流协调者,推动行业从探索期进入竞争期。未来稀缺能力将是管理和优化A
《Claude Cookbooks实用指南》提供了使用Claude AI的全面资源,包含代码示例和教程。主要内容包括:功能展示(分类、摘要生成等)、工具集成(客户服务代理、SQL查询)、第三方数据源整合(Pinecone、维基百科)以及多模态处理能力(图像、图表解读)。项目要求Python基础和Claude API密钥,适合各层次开发者。还推荐了OpenAI Cookbook等同类项目作为补充资源
文章摘要: agentmemory是一款支持持久记忆的AI编程代理工具,解决了会话结束后上下文丢失的问题。它能自动捕获交互内容,通过高效压缩和检索技术保存记忆,支持实时查看和会话回放。兼容多种编码代理(如Claude Code、Cursor等),在检索精度(95.2% R@5)和成本节省(年耗代币低于170K)上表现优异。相比mem0、Letta/MemGPT等竞品,agentmemory具备更强
本文介绍了一种完全本地化、零成本的私有AI工作流构建方案,通过部署Hermes Agent(提供自动化执行能力)和Qwen3.6(提供核心大模型能力)实现。该方案具有三大优势:1)零成本无限扩展;2)数据完全本地处理保障隐私;3)高度灵活可靠。部署流程分为五个阶段:1)配置WSL2环境;2)安装Python依赖;3)编译llama.cpp框架;4)下载Qwen3.6模型并启动服务(提供思考/高速两







