logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

在大模型时代对软件工程能力的反思

哲学和语文将成为软件工程师最重要的底层能力!

文章图片
#软件工程#职场和发展
对比研究:微服务流量网关 vs 企业服务总线ESB

微服务流量网关在设计理念上和企业服务总线ESB存在本质的差异,并不存在ESB的复杂性高、可扩展性差、升级难度高等问题

文章图片
#微服务#架构#云原生
大模型推理场景下的 AI 网关:定位、职责与架构演进

推理成本暴涨,传统网关已到极限,AI 网关正在成为新的控制中枢

文章图片
#人工智能#架构
网算分离:比 Gateway API 更适合大规模K8s场景的七层网关架构

Gateway API 解决的是声明方式,而不是能力边界。大规模K8s场景需要的是全局流量基础设施,而不是集群内组件。网算分离,正在重新定义七层网关的位置。

文章图片
#gateway#kubernetes#架构 +4
微服务架构演进的思考

云原生、微服务、服务网格,这些是大家耳熟能详的技术。然而,对于这些技术,我们真的理解吗?在我们的生产实践中用好了吗?在2024年底,我花费了几个月的时间把云原生、微服务、服务网格这几个概念好好的研究了一下,最终得出了《微服务架构演进的思考》这个分享材料。

文章图片
#架构#微服务#云原生
大模型安全最大的误区:你检查了用户,却没检查Agent

在 Agent 时代,真正需要被检查的,往往不是用户输入,而是 Agent 最终生成并发送给大模型的内容。因此,Guardrail 最重要的位置,不是用户入口,而是模型入口。而随着 AI Gateway 成为企业统一的大模型流量入口,Guardrail 也正在从应用能力演进为基础设施能力。

文章图片
#安全#人工智能#大数据
大模型安全最大的误区:你检查了用户,却没检查Agent

在 Agent 时代,真正需要被检查的,往往不是用户输入,而是 Agent 最终生成并发送给大模型的内容。因此,Guardrail 最重要的位置,不是用户入口,而是模型入口。而随着 AI Gateway 成为企业统一的大模型流量入口,Guardrail 也正在从应用能力演进为基础设施能力。

文章图片
#安全#人工智能#大数据
AI 网关选型:Envoy(Go WASM )还是 BFE(Native Go)?

目前Envoy+Go WASM是AI网关的主流方案。但是基于对AI网关的场景分析,Envoy+Go WASM方案在性能、延迟、稳定性等方面存在比较明显的隐患,基于Native Go的BFE更适合用于支持AI网关场景。

文章图片
#人工智能
网算分离:比 Gateway API 更适合大规模K8s场景的七层网关架构

Gateway API 解决的是声明方式,而不是能力边界。大规模K8s场景需要的是全局流量基础设施,而不是集群内组件。网算分离,正在重新定义七层网关的位置。

文章图片
#gateway#kubernetes#架构 +4
B站网关事故背后:OpenResty 与 Lua 的稳定性代价

B站网关事故已经过去数年,但它留下的警示依然鲜活:对于基础设施,"不可预测"比"不够灵活"更致命。OpenResty 用 Lua 的动态性重新定义了网关的灵活性,但也让我们看到了动态语言在基础设施中的脆弱一面。这不是 Lua 的错,也不是 OpenResty 的错,而是我们在享受灵活性带来的便利时,往往低估了防御性编程和边界校验的必要性。

文章图片
#openresty#lua#负载均衡 +2
    共 14 条
  • 1
  • 2
  • 请选择