logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

多模型路由实战:如何在一个系统里调度Qwen/DeepSeek/Kimi

摘要: 随着大模型生态多样化,单一模型难以满足所有场景需求,智能路由架构应运而生。该架构通过三层策略动态选择最优模型:意图路由分类任务类型,质量感知路由监控响应质量并自动切换模型,成本驱动路由优化非关键任务的开销。统一接入层抽象了模型差异,便于管理API密钥和计费,同时解决输出格式、对话状态同步等挑战。聚合平台(如器灵模型广场)进一步简化流程,集成主流模型并自动调度,降低开发复杂度,让开发者更专注

文章图片
#人工智能#github#语言模型 +3
微信开放平台接入AI智能体:超级App变身Agent平台

【150字摘要】微信等超级App正成为AI智能体分发新入口,开发者面临多平台模型适配难题。大模型API聚合平台通过统一接口、智能路由和负载均衡,帮助开发者低成本管理多模型调用。以法律咨询Agent为例,规模化时需动态匹配不同模型以平衡性能与成本。超级App生态催生了模型调度层这一新基础设施机会,未来AI应用将依赖此类平台解决多模型管理复杂性。工具价值在于让开发者聚焦产品而非技术适配。

文章图片
#微信开放平台#人工智能#dubbo +1
DeepSeek V4 Pro宣称:超GPT-5.5+永久降价75%

摘要: DeepSeek V4-Pro 宣布 API 永久降价 75%,输入/输出价格分别降至 3 元/百万 Tokens 和 6 元/百万 Tokens,性价比远超国际一线模型。作为全球最大开源模型(1.6 万亿参数),其 Agent 能力、推理速度(响应时间 <500ms)和 100 万 Token 上下文窗口表现优异,可对标顶级闭源模型。然而,多模型切换的复杂接口和计费规则增加了接入门

文章图片
#阿里云#语言模型#人工智能 +1
Kimi开源≠DeepSeek开源:差了一个量级

6 月 15 号,月之暗面宣布 Kimi K2.7 Code 开源。技术群里都在转,但仔细看了开源协议和发布内容之后,我发现很多人理解的"开源"和实际开放的东西之间,差了一个量级。国内大模型圈的"开源"这个词,已经被用得面目模糊了。同样说"开源",不同厂商给出来的东西完全不一样。纯 API 调用者,两者对你的实际影响都接近零;做私有化部署或研究微调,这两个"开源"之间有巨大的实用性差距。

文章图片
#开源#阿里云#人工智能 +3
Claude 断供之后,我的代码是怎么跑起来的

这个月初,Anthropic 发布了 Claude Fable 5,SWE-Pro 编程基准 80.3%,整个 AI 圈都在刷"神话级"。6 月 12 号下午 5 点 21 分,美国商务部一纸出口管制令,Fable 5 从全球所有 API 端点同时消失。从巅峰到下架,76 小时。这件事的影响远不止"少了一个模型可选"。如果你的答案不确定,这篇文章是写给你的。

文章图片
#开发语言#人工智能#java +1
怎么用DeepSeek写出一集不尬的剧本

本文指出直接让大语言模型生成短剧剧本效果不佳,关键在于生成方法不当。作者提出三个核心问题:转折生硬、情绪断层、对白书面化,并强调分层生成比一次性生成质量高十倍。解决方案分三步:1)先建立包含行为逻辑的角色档案,再给剧情框架;2)按6-8个场景逐段生成,保持情绪连贯;3)单独润色对白使其口语化。建议多模型协作(如DeepSeek写大纲、千问写对白、Kimi审连贯性),通过API聚合工具高效切换模型。

文章图片
#microsoft#阿里云#人工智能 +1
电视台开始播AI剧了!安徽卫视《桃花潭记》上星,全AI制作标注上屏

7月22日起,安徽卫视每晚21:50在播一部特殊的剧。20集,每集10分钟,片头明确标注"AI制作"“AIGC导演”。这部剧叫《桃花潭记》,以安徽泾县宣纸古法造纸108道工序为叙事基底,讲明代万历年间御前侍卫与女匠人守护宣纸技艺的故事。更重要的是,它是,安徽卫视也因此成为国内首个播出AI剧集的上星卫视。AI短剧,正式从小屏走向大屏。

文章图片
#人工智能#阿里云#开发语言 +1
周末速报:AI圈大事盘点

5 月 30 日 Anthropic 官宣 650 亿美元 H 轮融资落地,投后估值 9650 亿美元,正式超越 OpenAI 成为全球估值最高 AI 初创公司。同期发布 Claude Opus4.8 大模型,代码与多模态能力升级,四大会计师事务所批量接入落地办公场景,同时创始人团队披露启动美股 IPO 筹备工作。

#人工智能
大模型“内部赛马“:谁跑出来了?谁被整合了?

2023年,大厂们还在炫耀"我有几个大模型团队"。2026年,他们开始悄悄合并部门、关停项目。不是不想赛了,是赛不动了。

文章图片
#语言模型#阿里云
大模型成本暴降50%:Token缓存、批量推理与模型降级策略实战

摘要:针对大模型API成本高企问题,提出三位一体优化策略:1)Token缓存通过精确/语义匹配复用历史回答,可减少30-40%调用;2)批量推理合并请求摊薄固定开销,降低成本30%;3)模型降级按任务复杂度分级调用不同规格模型。这些方法可在效果损失<5%前提下降低50%以上成本,聚合平台已将其内置为标准化服务。该方案特别适用于日请求量超百万的高频场景,能显著提升产品经济性。(149字)

文章图片
#缓存
    共 95 条
  • 1
  • 2
  • 3
  • 10
  • 请选择