
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
哲学和语文将成为软件工程师最重要的底层能力!

微服务流量网关在设计理念上和企业服务总线ESB存在本质的差异,并不存在ESB的复杂性高、可扩展性差、升级难度高等问题

推理成本暴涨,传统网关已到极限,AI 网关正在成为新的控制中枢

Gateway API 解决的是声明方式,而不是能力边界。大规模K8s场景需要的是全局流量基础设施,而不是集群内组件。网算分离,正在重新定义七层网关的位置。

云原生、微服务、服务网格,这些是大家耳熟能详的技术。然而,对于这些技术,我们真的理解吗?在我们的生产实践中用好了吗?在2024年底,我花费了几个月的时间把云原生、微服务、服务网格这几个概念好好的研究了一下,最终得出了《微服务架构演进的思考》这个分享材料。

在 Agent 时代,真正需要被检查的,往往不是用户输入,而是 Agent 最终生成并发送给大模型的内容。因此,Guardrail 最重要的位置,不是用户入口,而是模型入口。而随着 AI Gateway 成为企业统一的大模型流量入口,Guardrail 也正在从应用能力演进为基础设施能力。

在 Agent 时代,真正需要被检查的,往往不是用户输入,而是 Agent 最终生成并发送给大模型的内容。因此,Guardrail 最重要的位置,不是用户入口,而是模型入口。而随着 AI Gateway 成为企业统一的大模型流量入口,Guardrail 也正在从应用能力演进为基础设施能力。

目前Envoy+Go WASM是AI网关的主流方案。但是基于对AI网关的场景分析,Envoy+Go WASM方案在性能、延迟、稳定性等方面存在比较明显的隐患,基于Native Go的BFE更适合用于支持AI网关场景。

Gateway API 解决的是声明方式,而不是能力边界。大规模K8s场景需要的是全局流量基础设施,而不是集群内组件。网算分离,正在重新定义七层网关的位置。

B站网关事故已经过去数年,但它留下的警示依然鲜活:对于基础设施,"不可预测"比"不够灵活"更致命。OpenResty 用 Lua 的动态性重新定义了网关的灵活性,但也让我们看到了动态语言在基础设施中的脆弱一面。这不是 Lua 的错,也不是 OpenResty 的错,而是我们在享受灵活性带来的便利时,往往低估了防御性编程和边界校验的必要性。








