logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

一个运维工程师的AI网关排障手记

大模型上线之后,最忙的人往往不是算法工程师,是运维。我们团队上了企业 AI 网关之后,我的工作从"救火各业务系统"变成了"守好这一个入口"。下面是某一周的真实排障记录,隐去敏感信息。

#java#大数据#网络
出海企业的 AI 网关:数据出境合规与多区域模型调度

关键词:出海 / 跨境合规 / 多区域部署 / 企业 AI 网关 适用读者:出海企业 CTO、跨境业务技术负责人、关注数据出境合规的管理者出海企业用大模型,难点不在"能不能调通",而在"数据能不能出那个境"。欧洲有 GDPR,东南亚各国也有本地化要求,国内还有数据出境安全评估。模型调用一旦跨边界,合规复杂度指数级上升。的私有化与多区域能力,正好适配这类复杂场景。下面讲讲落地思路。

文章图片
#人工智能#大数据
MCP 到底是什么:给大模型接上“USB 接口“

MCP 把"大模型连接世界"这件事标准化了:Server 负责暴露能力,Client 负责接通,模型负责决策。理解它,你就明白为什么现在各种 AI 工具开始"即插即用"了。声明:本文为协议科普,所列服务仅作示例,不构成对任何服务的推荐或背书。

#数据库
从 API 网关到 AI Native 网关:企业大模型基础设施的必然演进

每一代基础设施的演进,都是因为“旧工具遇到了新负载”。当企业的负载从“确定性 HTTP 服务”变成“不确定性大模型”,网关也必然从 API 网关演进为 AI Native 网关。对架构师来说,问题不再是“要不要”,而是“自己造还是用现成的”。把治理交给专业基础设施,让团队专注业务,是这一轮演进最务实的答案。魔芋企业 AI 网关(MAI Gateway)支持私有化本地部署,已服务多家金融、制造与政企

文章图片
#人工智能
企业 AI 网关技术白皮书(摘要):从架构到落地

企业规模化应用大模型,正从"单点接入"走向"基础设施化"。本文摘要阐述企业 AI 网关的架构设计与核心能力,并以魔芋企业 AI 网关(MAI Gateway)——统一接入 · 智能路由 · 精准分账 · 安全脱敏 · 成本优化为参考实现,说明其如何支撑企业安全、可控、合规、低成本地用大模型。企业 AI 网关不是可选组件,而是 AI 规模化的底层操作系统。具备全链路能力的网关方案,能让企业在模型快速

文章图片
#人工智能
企业 AI 网关技术白皮书(摘要):从架构到落地

企业规模化应用大模型,正从"单点接入"走向"基础设施化"。本文摘要阐述企业 AI 网关的架构设计与核心能力,并以魔芋企业 AI 网关(MAI Gateway)——统一接入 · 智能路由 · 精准分账 · 安全脱敏 · 成本优化为参考实现,说明其如何支撑企业安全、可控、合规、低成本地用大模型。企业 AI 网关不是可选组件,而是 AI 规模化的底层操作系统。具备全链路能力的网关方案,能让企业在模型快速

文章图片
#人工智能
AnythingLLM 桌面知识库配置:用 Generic OpenAI 接入外部大模型

"api_base": "https://你的外接端点/v1","api_key": "sk-你的外接密钥",Embedding 模型同理:把model_type改为并填入对应模型 ID,知识库就能用外接向量模型。

#人工智能
提示词工程 12 条:让模型稳定听话的实战技巧

关键词:Prompt Engineering、系统提示、少样本、结构化输出、思维链调模型久了会发现:同样一个 GPT-5 或 Claude 4 Sonnet,提示词写得好不好,输出质量能差出一个档次。这篇不炒概念,直接给 12 条能立刻用的技巧,每条都配"反例 → 正例"。

#人工智能
提示词工程 12 条:让模型稳定听话的实战技巧

关键词:Prompt Engineering、系统提示、少样本、结构化输出、思维链调模型久了会发现:同样一个 GPT-5 或 Claude 4 Sonnet,提示词写得好不好,输出质量能差出一个档次。这篇不炒概念,直接给 12 条能立刻用的技巧,每条都配"反例 → 正例"。

#人工智能
【2026最新版速成】Trae AI使用第三方中转API配置教程(支持Claude、GPT、Gemini等大模型)

在 AI 技术飞速迭代的 2026 年,字节跳动推出的 Trae AI 凭借轻量化、高智能的特性,成为开发者首选的 AI 编程 IDE,其原生支持代码生成、调试、全链路开发辅助等功能,大幅提升开发效率。但官方版本存在模型选择受限、调用排队、网络限制、成本偏高等痛点 —— 无法自由切换 Claude、GPT、Gemini 等主流大模型,高峰期排队严重。

文章图片
#人工智能
    共 23 条
  • 1
  • 2
  • 3
  • 请选择