本文将以 Bloom7B1 模型为样例，分享在阿里云容器服务 ACK 上，进行大语言模型分布式推理的具体实践。

本文将以 Bloom7B1 模型为样例，分享在阿里云容器服务 ACK 上，进行大语言模型分布式推理的具体实践。

这是一次面向生产级智能体应用的基建大升级，让智能体从“实验室原型”走向“业务落地”。让 Java 开发者轻松构建企业级 Agentic 应用。

这是一次面向生产级智能体应用的基建大升级，让智能体从“实验室原型”走向“业务落地”。让 Java 开发者轻松构建企业级 Agentic 应用。

通过这套自建的网关服务，使用配置即可实现零代码扩展 Tool，新应用的注册、应用下面工具的扩展、工具 prompt 更新验证都能通过服务集成的可视化控制台，更新发布配置快速完成，接入方式极其简单！更新验证极其快速！同时利用 Nacos 的命名空间能力可以做到服务和工具集的隔离，给不同的用户提供不同的 MCP 工具集。

在 AI Agent 应用加速落地时，开发者和企业面临部署成本高、运维复杂、资源利用率低等痛点。为此，AgentScope 正式集成函数计算 FC，推出 Serverless 运行时，为多智能体应用打造“按需启动、毫秒弹性、零运维”的新一代运行底座！

在 AI Agent 应用加速落地时，开发者和企业面临部署成本高、运维复杂、资源利用率低等痛点。为此，AgentScope 正式集成函数计算 FC，推出 Serverless 运行时，为多智能体应用打造“按需启动、毫秒弹性、零运维”的新一代运行底座！

Dify 是时下热门的低代码 LLM 应用开发平台，其丰富的模型支持、Prompt 编排、RAG 引擎、Workflow/Agent 框架以及插件生态大大便利了 Agentic 应用的开发。

Dify 是时下热门的低代码 LLM 应用开发平台，其丰富的模型支持、Prompt 编排、RAG 引擎、Workflow/Agent 框架以及插件生态大大便利了 Agentic 应用的开发。

当前吉利汽车研究院人工智能团队承担了吉利汽车座舱 AI 智能化的方案建设，在和阿里云的合作中，基于星睿智算中心 2.0 的 23.5EFLOPS 强大算力，构建 AI 混合云架构，面向百万级用户的实时推理计算引入阿里云函数计算的 Serverless GPU 算力集群，共同为智能座舱的交互和娱乐功能提供大模型推理业务服务，涵盖的场景如针对模糊指令的复杂意图解析、文生图、情感 TTS 等。