logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

一文读懂 LLM 的 MoE 架构:为什么 GPT-4 和 DeepSeek 都用稀疏专家

如果你关注 2026 年的 LLM 进展,会发现一个绕不开的技术关键词——MoE(Mixture of Experts,混合专家)。GPT-4、DeepSeek-V3、Gemini 1.5、Mistral Large 2……几乎所有头部大模型都选择了 MoE 架构。为什么?它到底解决了什么问题?本文从核心原理 → 数学推导 → 工程实现 → 对比实验四个维度,带你彻底搞懂 MoE。每次只激活 To

#架构
7 个Prompt 框架汇总:从 Chain of Thought 到 ReAct + PoT

同样是问 AI,“帮我写个排序算法"和"用 Python 实现一个快速排序函数,要求原地排序、时间复杂度 O(n log n)”,得到的答案质量天差地别。差距在哪?Prompt 设计。2026 年,Prompt Engineering 已经从"聊聊天"进化为一门系统工程学科。本文不灌水,直接带你搞懂7 个核心 Prompt 框架,每个都附可复制的模板和实测对比。│ Prompt 工程进阶要点 ││

#react.js#前端#AI
本地跑 LLM 哪家强?Llama / Qwen / DeepSeek 全方位对比

随着 Ollama、llama.cpp 等工具的成熟,在本地运行大语言模型已经不再是极客专属游戏。数据隐私:代码、文档不出本机,企业敏感数据无泄露风险零延迟:局域网调用,无网络往返,响应速度更稳定零费用:一次部署,无限调用,不再担心 API 账单可定制:可以微调、量化、魔改,随心所欲显存是瓶颈。本文的测评场景聚焦在消费级 GPU(RTX 3090/4090 24GB)和 Mac M 系列(32GB

#DeepSeek#Ollama
2026 年 AI Agent 技术全景:12 大主流框架深度对比

2026年AI Agent框架全景横评:从架构设计、多Agent协作、工具调用、记忆管理、部署方式、生态成熟度6维度对比AutoGen/CrewAI/LangGraph/Dify/Coze/MetaGPT等12大框架,附选型决策树与实战代码对比

#人工智能
2026 年 AI Agent 技术全景:12 大主流框架深度对比

2026年AI Agent框架全景横评:从架构设计、多Agent协作、工具调用、记忆管理、部署方式、生态成熟度6维度对比AutoGen/CrewAI/LangGraph/Dify/Coze/MetaGPT等12大框架,附选型决策树与实战代码对比

#人工智能
2026 年 AI Agent 技术全景:12 大主流框架深度对比

2026年AI Agent框架全景横评:从架构设计、多Agent协作、工具调用、记忆管理、部署方式、生态成熟度6维度对比AutoGen/CrewAI/LangGraph/Dify/Coze/MetaGPT等12大框架,附选型决策树与实战代码对比

#人工智能
本地跑 LLM 哪家强?Llama / Qwen / DeepSeek 全方位对比

随着 Ollama、llama.cpp 等工具的成熟,在本地运行大语言模型已经不再是极客专属游戏。数据隐私:代码、文档不出本机,企业敏感数据无泄露风险零延迟:局域网调用,无网络往返,响应速度更稳定零费用:一次部署,无限调用,不再担心 API 账单可定制:可以微调、量化、魔改,随心所欲显存是瓶颈。本文的测评场景聚焦在消费级 GPU(RTX 3090/4090 24GB)和 Mac M 系列(32GB

#DeepSeek#Ollama
混合检索:向量检索 + BM25 双重保险实战

维度要点核心思想向量擅长语义,BM25 擅长关键词,双路互补才能覆盖所有查询类型融合策略优先用 RRF(无需归一化,效果稳定),加权打分适合有调参能力的团队技术选型轻量方案:LangChain EnsembleRetriever + 内存 BM25;生产方案:Milvus 2.4 原生混合检索权重经验技术文档 50:50,通用问答 30:70,电商搜索 60:40性能要求混合检索 P99 ≤ 20

#机器学习#算法#人工智能 +1
混合检索:向量检索 + BM25 双重保险实战

维度要点核心思想向量擅长语义,BM25 擅长关键词,双路互补才能覆盖所有查询类型融合策略优先用 RRF(无需归一化,效果稳定),加权打分适合有调参能力的团队技术选型轻量方案:LangChain EnsembleRetriever + 内存 BM25;生产方案:Milvus 2.4 原生混合检索权重经验技术文档 50:50,通用问答 30:70,电商搜索 60:40性能要求混合检索 P99 ≤ 20

#机器学习#算法#人工智能 +1
Reranker 模型实战:让 RAG 检索精度再提升 20%

维度总结定位粗检索(Bi-Encoder)之后的精排环节核心价值利用 Cross-Encoder 捕捉 query-doc 细粒度交互,提升 Top-N 精度推荐模型BAAI/bge-reranker-v2-m3(中文开源首选)效果提升额外开销每个候选对 ~10-30ms(GPU),可控最佳实践粗检索 Top-30 + Reranker Top-5 + 阈值过滤RAG 检索质量 = 好的 Embe

#RAG
    共 24 条
  • 1
  • 2
  • 3
  • 请选择