logo
publist
写文章

简介

欢迎交流

擅长的技术栈

架构量化交易AI 应用创新

可提供的服务

技术咨询,含密码学,区块链,vibe coding,agent 开发,大模型等

LLM 网关是什么,为什么每个多模型团队都绕不开它

一年前接大模型很简单:拿一个 OpenAI 的 key,写几行调用代码,上线。现在再看这套代码,负责 AI 集成的工程师大概都眼熟:调用逻辑里塞了三个供应商的分支判断,key 直接写在各个微服务的环境变量里,成本没人算清楚,出了敏感数据也不知道拦在哪一层。想从 GPT-4o 切一半流量到 Claude,改动牵扯到七八个文件。问题不在于谁代码写得差,而在于大模型调用早就不只是"调一个 API"了——

文章图片
#多模态
LLM 网关是什么,为什么每个多模型团队都绕不开它

一年前接大模型很简单:拿一个 OpenAI 的 key,写几行调用代码,上线。现在再看这套代码,负责 AI 集成的工程师大概都眼熟:调用逻辑里塞了三个供应商的分支判断,key 直接写在各个微服务的环境变量里,成本没人算清楚,出了敏感数据也不知道拦在哪一层。想从 GPT-4o 切一半流量到 Claude,改动牵扯到七八个文件。问题不在于谁代码写得差,而在于大模型调用早就不只是"调一个 API"了——

文章图片
#多模态
LLM 网关是什么,为什么每个多模型团队都绕不开它

一年前接大模型很简单:拿一个 OpenAI 的 key,写几行调用代码,上线。现在再看这套代码,负责 AI 集成的工程师大概都眼熟:调用逻辑里塞了三个供应商的分支判断,key 直接写在各个微服务的环境变量里,成本没人算清楚,出了敏感数据也不知道拦在哪一层。想从 GPT-4o 切一半流量到 Claude,改动牵扯到七八个文件。问题不在于谁代码写得差,而在于大模型调用早就不只是"调一个 API"了——

文章图片
#多模态
Function Calling:让大模型连接真实世界

工具描述(Tool Schema)的质量直接决定模型能否正确调用。# ❌ 差的工具描述"description": "搜索",# ✅ 好的工具描述"description": "在公司内部知识库中搜索信息。适用于查询公司政策、产品文档、技术规范等内部资料。不适用于查询外部网页内容。","query": {"description": "搜索关键词或自然语言问题,如'年假政策'或'产品 A 的技术规

文章图片
#人工智能#网络协议
AI Agent 协议全景:A2A、AP2、x402 如何拼出智能体经济的完整拼图

2025年AI Agent领域迎来三大协议突破:Google开源的A2A协议解决Agent间通信问题,Coinbase推出的x402协议实现链上微支付,Google联合支付巨头发布的AP2协议建立Agent支付框架。这三个协议分别对应AI经济中的通信断裂、Crypto支付断裂和法币支付断裂,形成完整的协议栈:MCP协议连接外部工具(Layer1),AP2和x402构成支付层(Layer2),A2A

文章图片
#人工智能
Prompt Engineering:与大模型高效对话的艺术

五要素:角色、任务、上下文、格式、约束——好 Prompt 的基本框架五种策略:Zero-shot → Few-shot → CoT → ToT → ReAct,按复杂度递增选用:定义对话的"合同",用结构化 Markdown 编写结构化输出:用 JSON Mode / Structured Output 控制格式,告别格式不稳定失败诊断:幻觉、遗忘、格式问题都有对应的修复策略工程化:Prompt

文章图片
#人工智能
AI IDE 的 Plan、Agent、Ask、Edit、Builder……到底在搞什么?一文讲透模式战争

2025 到 2026 年,每个 AI IDE 都在疯狂发明新"模式"。Cursor 有 Ask、Edit、Agent 三件套,还加了 Background Agent。Copilot 也搞了一套 Ask、Edit、Agent,外加 Coding Agent。Claude Code 用 Plan Mode 和 Auto Accept 做权限开关。Trae 推出了 IDE 模式和 SOLO 模式两大

文章图片
#人工智能#ide
大模型基础:从 Transformer 到 GPT

预测下一个 Token。你给它一句话 “今天天气真”,它算出下一个最可能的 Token 是 “好”,概率 0.72;“不错” 0.15;“热” 0.08……然后从中采样一个输出。就这么简单。ChatGPT 能写文章、能编代码、能翻译、能推理,底层都是在一个 Token 一个 Token 地往外蹦。本质:大模型的核心就是 Next Token Prediction——预测下一个 Token架构。

文章图片
#transformer#深度学习
多模态与模型评测:拓展 AI 的边界

多模态(Multimodal)= 模型能处理多种类型的输入和输出:文本、图像、音频、视频。模型文本图像理解图像生成语音视频GPT-4o✅✅✅(DALL·E)✅✅✅✅❌❌❌✅✅✅(Imagen)✅✅Llama 4✅✅❌❌❌多模态GPT-4o/Gemini 已原生支持视觉+语音,Claude 支持视觉视觉理解的典型应用:OCR、文档解析、图表分析、设计稿转代码语音流水线:ASR(Whisper) →

文章图片
#人工智能#计算机视觉
Claude Code 黑客马拉松:5 个获奖项目,没有一个是“纯码农“做的

我一直觉得,黑客马拉松是观察技术趋势最好的窗口。因为它不像论文那么抽象,也不像产品发布那么包装。它是一群人在有限时间里,用真实的工具解决真实的问题。AI 正在把"造软件"这件事从一个专业技能变成一个通用能力。就像 Excel 把"做财务报表"从会计师的专属技能变成了每个上班族的基本操作一样,Claude Code 正在把"写软件"从程序员的专属技能变成——嗯,至少是任何有想法的人都能尝试的事情。这

文章图片
#人工智能
    共 61 条
  • 1
  • 2
  • 3
  • 7
  • 请选择