这些项目提供了构建AI应用所需的全套工具，从模型加载、预处理到部署。LangChain ◦ 简介：当前最流行的用于开发由大语言模型驱动的应用程序的框架。它提供了“链”的概念，可以将大模型、外部数据源、工具（如计算器、搜索引擎）等连接起来，构建复杂的应用（如智能客服、高级问答机器人）。◦ 应用场景：聊天机器人、智能文档问答、代理（Agents）应用。LlamaIndex ◦ 简介：专注于数据索引，帮

这些项目提供了构建AI应用所需的全套工具，从模型加载、预处理到部署。LangChain ◦ 简介：当前最流行的用于开发由大语言模型驱动的应用程序的框架。它提供了“链”的概念，可以将大模型、外部数据源、工具（如计算器、搜索引擎）等连接起来，构建复杂的应用（如智能客服、高级问答机器人）。◦ 应用场景：聊天机器人、智能文档问答、代理（Agents）应用。LlamaIndex ◦ 简介：专注于数据索引，帮

AIBrix使用Envoy的扩展机制实现智能路由:✅请求拦截: 在请求到达后端前拦截✅智能路由: 基于KV缓存、负载等因素选择最优Pod✅透明代理: 对客户端完全透明✅指标收集: 收集响应指标用于后续决策✅错误处理: 统一的错误响应机制这种架构实现了控制平面(Go)与数据平面(Envoy)的解耦,提供了灵活的扩展能力。// Router 只是一个接口,不是服务// QueueRouter 也是接口