
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
本文用通俗易懂的方式梳理了Transformer、BERT、GPT和LLaMA四个关键概念的关系与应用场景。文章将Transformer比作地基,其核心的自注意力机制让模型能全局理解文本;BERT和GPT是基于Transformer的两种典型路线,前者(Encoder-only)擅长文本理解任务如分类和抽取,后者(Decoder-only)专注文本生成;而LLaMA则是开源领域Decoder路线的

上周有个读者在评论区留了句话,我盯着看了好久。他说:"小刘,我按你 Day02 讲的 Prompt 技巧写了个客服 AI,上线三天,就被用户用一句话骗着骂了客户。老板让我明天解释。一句话。不是模型不行,不是 prompt 写得差——是Prompt 注入(Prompt Injection)。这是大模型应用最容易翻车的安全漏洞,没有之一。说白了:你的 AI 助手有一套系统指令(System Promp

凌晨一点,你第一次用 GPT 做企业内部问答系统。你输了一行字:"我们公司的退货政策是什么?模型秒回:"本公司支持7天无理由退货,15天内可换货。看起来很专业。但有一个问题——你们公司根本没有"7天无理由退货"这个政策。你们的规定是"签收后48小时内申请,特殊商品不支持退货"。模型编的。而且编得信心十足,语气专业,格式工整。如果你不是碰巧知道答案,你可能就信了。这就是大模型的幻觉(Hallucin

摘要: 本文探讨如何为大模型构建三层记忆系统(短期、中期、长期),解决AI对话中的“失忆”问题。短期记忆保留最近对话原文(FIFO滑动窗口),中期记忆压缩历史对话为摘要(LRU淘汰),长期记忆提取用户画像并动态更新(避免过时信息)。通过FIFO机制和分层策略,系统平衡了记忆的实时性与存储效率,并提供了可运行的Python示例。文章还总结了工程实践中的常见问题(如事实提取偏差、摘要丢细节)及优化方案

先甩一个可能反直觉的数字。多年业界调研都指向同一件事:数据团队 / 数据科学家60%~80% 的时间,花在"找数据、洗数据"上,而不是建模。AI 项目失败,根因也大多落在数据质量,而不是模型不够强。这个数字我第一次看到时是不信的。直到我第一次给公司搭企业 RAG,自信满满上了线——结果用户一问,AI 一本正经地引用了一份 2018 年的过期表格,而那份表格,藏在一个扫描件 PDF 的第三页。先洗数

《大模型微调入门:场景选择与LoRA应用》摘要:本文针对大模型微调的常见误区进行解析,指出90%的场景并不需要微调。关键决策点在于区分知识问题(用RAG解决实时数据)和行为问题(用微调调整输出风格)。对于确实需要微调的场景,推荐使用LoRA技术而非全参微调,前者通过低秩适配仅训练0.08%参数即可达到近似效果,且支持单卡运行。文章提供了三步实践指南:准备指令数据、LoRA训练和效果评估,并强调应先

本文探讨了RNN、LSTM和GRU在序列建模中的核心价值,指出它们并非过时技术而是理解现代AI的基础。文章通过类比和代码示例解析了三者的工作原理:RNN通过隐藏状态传递历史信息但存在长期依赖问题;LSTM引入门控机制(遗忘门/输入门/输出门)和细胞状态实现选择性记忆;GRU作为轻量版精简为更新门和重置门。作者强调,技术选择应基于场景需求(序列长度/资源限制等),这些"老模型"揭

文章摘要:本文探讨了大模型应用从Demo到生产环境的关键治理问题,通过一个"换模型改代码"的事故案例,提出AIGateway和AINacos两个解决方案。AIGateway作为统一入口负责鉴权、路由、限流等流量管理,而AINacos作为控制面管理配置、服务和工具的动态发现。文章建议分三个阶段推进治理:先治理配置,再统一模型入口,最后治理工具和Agent,强调架构应随复杂度自然演

《大模型MCP实战:AI工具集成的"USB-C接口"》摘要 MCP(Model Context Protocol)是一种解决AI与工具集成痛点的标准协议。传统方式下,N个模型对接M个工具需要N×M份适配代码,而MCP通过引入协议层,将复杂度降为N+M。文章详细介绍了MCP的三大能力:Resources(读取数据)、Tools(执行操作)和Prompts(交互模板),并解析了其四

凌晨两点,你盯着屏幕。隔壁老王用着同一个 ChatGPT,三分钟搞定周报。你问了半小时,它还答非所问——要么写得太虚,要么格式乱七八糟。你心里那个鼓点开始敲:是模型偏心?是我智商不够?都不是。差距不在模型,在 Prompt。同一颗大脑,你给它清晰指令还是含糊问题,出来的东西天差地别。我踩过太多坑,把市面上的 Prompt 技巧翻了一遍,发现真正高频管用的,就 3 个。今天我不光给你这 3 个名字,








