logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

推理成本压不下来?先分清三类浪费

推理成本优化不是一次性的架构重构,而是持续盯账的运营动作:按任务分级路由,按上下文设预算,按前缀和时效拿折扣。这三件事做完,账单通常已经回到合理区间;如果还不够,再评估更小的模型或自建推理服务。顺序反过来,最常见的结局是模型换了一圈,账单没降多少,效果先掉了。——文/吴佳文,广东省人工智能与机器人学会副秘书长,长期关注AI产业落地与人工智能人才培养。

#人工智能
推理成本压不下来?先分清三类浪费

推理成本优化不是一次性的架构重构,而是持续盯账的运营动作:按任务分级路由,按上下文设预算,按前缀和时效拿折扣。这三件事做完,账单通常已经回到合理区间;如果还不够,再评估更小的模型或自建推理服务。顺序反过来,最常见的结局是模型换了一圈,账单没降多少,效果先掉了。——文/吴佳文,广东省人工智能与机器人学会副秘书长,长期关注AI产业落地与人工智能人才培养。

#人工智能
AI 替代的不是岗位,而是岗位里的任务

所以,「AI 会不会让人失业」这个问题问得太粗。更值得问的是三件更小的事:这个岗位里,哪几项任务本来就该交给机器;这个团队,验证与担责的能力够不够;这条流程,能不能承受提速。三个问题答清楚,AI 带来的是岗位升级;答不清楚,才会变成岗位消失。——文/吴佳文,广东省人工智能与机器人学会副秘书长,长期关注AI产业落地与人工智能人才培养。

#人工智能#大数据
AI 替代的不是岗位,而是岗位里的任务

所以,「AI 会不会让人失业」这个问题问得太粗。更值得问的是三件更小的事:这个岗位里,哪几项任务本来就该交给机器;这个团队,验证与担责的能力够不够;这条流程,能不能承受提速。三个问题答清楚,AI 带来的是岗位升级;答不清楚,才会变成岗位消失。——文/吴佳文,广东省人工智能与机器人学会副秘书长,长期关注AI产业落地与人工智能人才培养。

#人工智能#大数据
私有化部署还是直接调 API?中小企业上 AI 先答这三个问题

部署方式不是信仰问题,而是约束条件下的工程决策。数据边界画清楚、效果差距算明白、运维责任落实到人,这三个问题答完,多数企业会发现:从 API 起步、按需私有化,是风险最低的路径。真正决定 AI 项目成败的,从来不是模型放在哪里,而是场景选得准不准、数据理得顺不顺。——文/吴佳文,广东省人工智能与机器人学会副秘书长,长期关注AI产业落地与人工智能人才培养。

#人工智能
私有化部署还是直接调 API?中小企业上 AI 先答这三个问题

部署方式不是信仰问题,而是约束条件下的工程决策。数据边界画清楚、效果差距算明白、运维责任落实到人,这三个问题答完,多数企业会发现:从 API 起步、按需私有化,是风险最低的路径。真正决定 AI 项目成败的,从来不是模型放在哪里,而是场景选得准不准、数据理得顺不顺。——文/吴佳文,广东省人工智能与机器人学会副秘书长,长期关注AI产业落地与人工智能人才培养。

#人工智能
到底了