logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

LLM 选择指南:什么场景用小模型,什么场景上大模型

近年来,语言模型的规模呈现出爆炸式增长。从2018年的BERT(1.1亿参数)到2020年的GPT-3(1750亿参数),再到后来的PaLM(5400亿参数)和GPT-4(据估计超过1万亿参数),模型规模每几个月就会翻一番。这种规模的快速增长带来了显著的性能提升,使模型能够处理更复杂的任务,展现出令人惊叹的推理和创造能力。计算资源需求巨大:训练和推理大模型需要昂贵的GPU集群,只有少数大型科技公司

基于大模型的智能体开发框架比较

在比较各种框架之前,我们必须建立一个共同的认知基础。究竟什么是基于大模型的智能体?它由哪些部分构成?在AI领域,智能体是指一个能够感知环境、做出决策并采取行动的自主实体。当我们将大模型作为智能体的“大脑”时,我们就得到了一个。著名的AI研究者吴恩达曾提出,“相比让LLM直接生成答案,更好的模式是让LLM进行‘推理’(Reasoning)和‘行动’(Acting)。”这就是ReAct (Reason

#搜索引擎
Agent 的错误恢复机制设计:优雅降级的艺术

如果你做过AI Agent开发,肯定遇到过这种让人崩溃的场景:线上用户反馈「你们的机器人是不是傻了?我问个问题半天没反应」,后台排查发现要么是OpenAI限流导致大模型调用超时,要么是第三方天气/快递API挂了导致工具调用失败,要么是RAG检索结果为空触发了大模型幻觉,要么是大模型输出的JSON格式不符合要求导致解析直接失败——整个Agent链路直接崩掉,用户只能看到冷冰冰的「服务暂时不可用」,转

#算法#人工智能#机器学习
用 eCDN 优化 Harness 到 Agent 的大模型权重分发

随着大模型迭代周期从周级压缩到日级甚至小时级,单权重文件体积从几十GB跃升到数百GB甚至TB级,传统Harness平台直接向边缘Agent节点分发权重的模式已经完全无法满足业务需求:中心出口带宽100%占满、跨地域分发耗时超10小时、传输成功率不足85%、运维成本居高不下等问题成为了大模型落地的核心瓶颈。

打造“永不停机”的后台运营智能体

半夜3点被告警电话炸醒、冻得瑟瑟发抖排查线上故障、一不留神误操作导致业务停服、大促期间连续24小时守在监控前不敢合眼——相信每一个做过后台运维的同学都经历过这些噩梦。今天我就带大家从0到1打造一款能自动响应告警、分析根因、故障自愈、完成日常运营任务的后台运营智能体,把运维同学从重复劳动和深夜值班中解放出来,真正实现业务后台的“永不停机”。

#运维
AI Agent Harness模型推理缓存淘汰策略

推理结果的生成成本差异巨大:一条10000 Token的长文档生成结果成本是10 Token短回复的1000倍,理应优先保留语义相似的请求可以复用结果:不需要完全匹配Prompt,语义相似度超过阈值即可命中,大幅提升命中率推理结果有不同的有效期:问“地球半径”的结果永久有效,问“今天北京天气”的结果有效期只有24小时语义簇大小决定复用概率:一个包含100个相似查询的语义簇的缓存项,复用概率是单个独

#人工智能#缓存#spring
游戏AI:NPC的智能进化之路

NPC的进化之路本质上是“开发者预设内容越来越少,AI自主决策越来越多”的过程:从最早的完全硬编码的脚本傀儡,到现在可以自主理解玩家输入、生成行为的大模型驱动NPC,技术的发展一直在提升游戏的沉浸感和可玩性。未来的游戏一定会因为智能NPC变得更加精彩,甚至会成为我们的另一个人生。

#游戏#人工智能#pygame
干货!AI应用架构师的智能化教育平台构建优化方案

多维优化目标:需同时优化学习效果、参与度、公平性、可访问性等多个相互制约的目标数据质量困境:学习数据往往是异构、稀疏且噪声大的,标注成本高昂冷启动问题:新用户缺乏历史数据,难以实现即时个性化解释性需求:教育决策需要透明度,黑盒AI模型难以被教育工作者接受伦理敏感性:算法偏见可能加剧教育不平等,影响学习者发展机会问题复杂度量化DU×C×K×TDU×C×K×TU:用户特征维度(人口统计学、学习风格、认

#人工智能
超燃干货:AI应用架构师构建企业级AI治理框架指南

在AI技术迅猛发展的今天,企业正以前所未有的速度拥抱人工智能,但随之而来的是日益复杂的伦理、法律和风险管理挑战。本文作为AI应用架构师的实战指南,深入剖析了企业级AI治理框架的构建方法。我们将从AI治理的核心概念出发,通过"六支柱模型"详细阐述治理框架的技术实现,并提供分阶段实施路线图、行业案例分析以及应对新兴挑战的策略。

#人工智能
数据分析自动化时代,AI应用架构师如何用工具链领跑?

随着大数据、AI技术的普及,企业对数据分析的需求从“事后总结”转向“实时决策”,从“人工分析”转向“自动输出”。如何用工具链将数据从“ raw 材料”转化为“ AI 产品”,实现端到端的自动化。本文将覆盖工具链的“组成逻辑”“选型策略”“整合方法”“实战案例”四大核心范围,帮助架构师掌握工具链的设计与优化技巧。用“小明的烦恼”故事引出工具链的必要性;解释“数据分析自动化”“AI应用架构”“工具链”

#数据分析#自动化#人工智能
    共 638 条
  • 1
  • 2
  • 3
  • 64
  • 请选择