
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
摘要:本文深入解析 x86 架构在嵌入式领域的独特价值。尽管 ARM 与 RISC-V 常占据话题中心,x86 凭借高性能计算能力、庞大软件生态与成熟的工业级产品线,在工业控制与边缘计算场景中依然不可替代。文章从架构特性、应用场景与选型逻辑三个维度展开:在工业控制中,x86 广泛用于高端 PLC、运动控制、工业网关与 HMI;在边缘计算中,其统一开发部署、虚拟化容器化支持与 AI 推理能力优势明显
摘要:传统 MLOps 以“特征工程 + 离线训练 + 模型上线”为核心,交付单元是单个模型;AI Native 应用的交付单元则变成“模型 + 上下文 + 工具 + 评测”的组合能力。本文从特征存储与模型部署管线两条主线对比两者的根本差异:特征存储要从“值的一致性”升级为“证据的一致性”,演化为上下文仓库;模型部署要从“部署一个模型”升级为“部署一套能力”,以能力包为版本单元;评测则要从训练阶段
摘要:本文聚焦大模型推理服务中的连续批处理(Continuous Batching)调度环节,系统对比 FCFS、Sorted、Dynamic Batching 三类调度策略的机制差异,分析它们对吞吐量、首 Token 延迟(TTFT)与 Token 间延迟(TPOT)的影响。文章先拆解三类策略的调度逻辑与各自代价,再用对比表格归纳实现复杂度、吞吐、平均延迟、尾延迟与公平性等维度,随后给出可运行的
摘要:本文是「AI Native 原理与实践」系列第十九篇。文章从 Copilot 到 Agent 的十年演进视角出发,把 2018—2027 划分为 Copilot 雏形、Chat 与 RAG、Tool Use 与工作流、Agent 自主执行四个阶段,拆解「AI Native 吃掉软件」这一判断背后的技术逻辑、产品形态与商业结构变化;同时梳理模型能力、工具生态、记忆与状态、执行环境四条技术主线,
摘要:AI Native 应用把大模型放进业务主链路后,安全边界变得模糊,输入、上下文、模型、工具、输出五个环节都可能成为攻击面。本文先梳理直接与间接提示注入、敏感信息泄露、工具越权、模型滥用等威胁模型,再围绕三条核心防线展开:用输入规范化、注入特征检测、上下文隔离与输出兜底对抗提示注入;用入站出站双向过滤、正则与语义识别、可逆脱敏保护敏感信息;用身份认证、配额限流、角色授权、高危工具审批与多租户
摘要:本文是「AI Native 原理与实践」系列第十三篇,聚焦大模型应用中最难回避的“幻觉”问题。文章把幻觉视为系统级工程问题而非单纯的模型缺陷,先剖析知识缺失、上下文污染、指令漂移三类典型来源,再给出事实校验、置信度打分、拒答与兜底、可观测与回流四层治理框架,并附 Java 实现示例、工程落地清单与常见误区,帮助团队把“不确定”变成可度量、可拦截、可迭代的系统能力。
摘要:本文围绕 AI Native 应用中的 Prompt Engineering 展开,说明为什么概率性的大模型输出需要被工程化约束,并给出从「自然语言提示」到「结构化提示词」的演进路径。文章拆解了结构化提示词的核心组成(角色、任务、上下文、约束、输出格式、示例),总结了实现可控输出的关键手段,包括明确角色与任务边界、显式声明输出格式、用 Few-shot 示例锚定行为、分步推理约束以及约束优先
摘要:本文是「AI Native 原理与实践」系列的第五篇,聚焦 AI Native 应用的系统架构设计。文章提出由基础设施层、数据管道层、模型服务层、智能编排层构成的四层架构,并以可观测与治理体系纵向贯穿全局:数据管道层负责数据接入、清洗、切分向量化与增量更新,让模型「有据可依」;模型服务层通过统一接入、能力抽象、模型路由与缓存限流,让模型能力「可用可治理」;智能编排层以固定流程、动态 Agen
摘要:“AI Native”正在成为继“互联网+”“数字化”之后最容易被滥用的标签。本文给出一句话定义:AI Native 不是“产品里接了大模型”,而是让 AI 成为产品能力、组织流程和决策方式的第一性构成要素。围绕这一判断,本文拆出三个可验证的标准——能力内生、流程重构、数据闭环,并给出自检清单与落地路径,帮助团队判断自己究竟处在“AI 加持”还是“AI Native”阶段。
摘要:很多团队把“接入了大模型 API”当成“AI Native”,结果做出来的仍是一套流程固定、规则写死、AI 只负责点缀的传统软件。本文从架构、交互、数据、组织四个维度拆解 AI Native 与传统软件的本质差异,提出四层成熟度模型(L1 接口调用、L2 流程增强、L3 模型驱动、L4 自进化),并结合客服工单系统对比传统做法与 AI Native 做法,最后给出把“AI 皮”换成“AI 骨







