logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Java 程序员第 46 阶段04:大模型调用链路追踪,SkyWalking 排查线上性能,Spring Boot接入实战

SkyWalking 提供 `org.apache.skywalking.apm.toolkit.trace.Trace` 注解,标注的方法会被当作一个 Local Span。多为插件冲突,精简 `plugins/` 目录,只保留实际使用的插件(如只留 `spring-mvc`、`httpclient`、`jdbc`、`redis`)。> 最佳实践:启动参数用于"环境相关"的地址/服务名,`age

文章图片
#gateway#skywalking
Java 程序员第 46 阶段03:大模型调用链路追踪,SkyWalking 排查线上性能,Agent探针原理与字节码增强

Java Agent 是一种运行在 JVM 上的"旁路程序",它能在**类加载前**或**运行时**对字节码进行拦截与改写。链路要"连起来",靠的是 `ContextCarrier`:上游把 TraceId/SpanId 序列化进请求头(如 `sw8` 头),下游 Agent 解析后**续接**同一个 Trace。"无侵入"的本质:**在方法进入与退出时,由拦截器代劳创建/结束 Span,并把上下

文章图片
#java#skywalking#开发语言
Java 程序员第 46 阶段02:大模型调用链路追踪,SkyWalking 排查线上性能,核心架构剖析

Apache SkyWalking 采用经典的「采集—分析—存储—展示」四层架构,由四个核心组件构成:**Agent(探针)、OAP(Observability Analysis Platform,后端分析平台)、Storage(存储)、UI(界面)**。本篇我们剖析了 SkyWalking 四大组件的职责与协作:Agent 负责无侵入采集,OAP 负责中心化分析与 OAL 指标,Storage

文章图片
#服务发现#安全
Java 程序员第 46 阶段01:大模型调用链路追踪,SkyWalking 排查线上性能,链路追踪全景与可观测性体系

最终通过链路追踪平台看到:故障根因不在业务代码,而在 `vector-search-service` 的一次慢查询(向量索引未命中,退化成全表扫描),把 RAG 检索时延从 50ms 拉到了 9s,进而阻塞了整条对话链路。如果不做特殊建模,整条链路会被统计为一个"超长 Span",无法区分"首字时延(TTFT)"和"完整生成时延(TPOT)"。对 Java 微服务 + 大模型场景,SkyWalki

文章图片
#java#skywalking#开发语言
大模型返回结果乱码、格式异常?一文搞定所有格式问题

*编码问题永远先在请求端声明 UTF-8,JSON 异常永远先做截断修复,SSE 断流永远先加心跳和重连。"messages": [{"role": "user", "content": "你好"}],"X-Accel-Buffering": "no"# 禁用 Nginx 缓冲。print(content)# 输出: "\u4f60\u597d" 而非 "你好"chunks = ["你好", ",

文章图片
#语言模型
Codex汉化 + 国产模型配置保姆级教程用 Codex++ 一键接入 DeepSeek,告别 OpenAI 依赖

Codex++ 的核心价值,是打破 Codex 对 OpenAI 账号与原生模型的绑定限制。国内开发者无需高额订阅、不用复杂代理中转,凭借国产大模型 API 低成本使用 Codex 强大的代码编写、文件处理能力。整套流程总结为五步下载安装Codex 桌面端 + Codex++汉化界面彻底退出原版 Codex配置国产模型→ 添加供应商 → 填写参数 → 选 Chat Completions 协议通过

文章图片
#AIGC
Java 程序员第 29 阶段-01:大模型微调入门:小样本业务适配方案

在人工智能领域,大语言模型(Large Language Model,LLM)已经成为了推动技术进步的核心力量。从 GPT 系列到 LLaMA,从 ChatGPT 到国内的通义千问、文心一言,通用大模型展现了令人惊叹的语言理解、逻辑推理和内容生成能力。然而,通用大模型虽然强大,但在处理特定垂直领域的专业问题时,往往表现不如预期——回答泛泛而谈、缺乏行业深度认知、无法精准遵循企业业务规则等问题屡见不

文章图片
#java#人工智能#开发语言
Java 程序员第 29-06 阶段:大模型微调入门:小样本业务适配方案

图1:大模型微调方法分类全景图问题类型具体表现------------------**领域知识不足**在医疗、法律、金融等专业领域,可能给出不够准确甚至错误的答案**企业认知缺失**不了解特定企业的产品、服务、内部流程**输出格式不稳定**难以严格遵循业务要求的输出格式(如 JSON、XML)**幻觉问题**对不确定的问题可能编造看似合理但实际错误的答案**推理成本高**通用模型参数量巨大,部署和

文章图片
#人工智能#算法
Java 程序员第 34 阶段大模型权限与安全设计:接口鉴权与访问控制落地

大模型(Large Language Model,LLM)正在成为企业智能化转型的核心基础设施。从客服机器人、内容生成到代码辅助开发,大模型 API 已经成为现代应用架构中不可或缺的组件。然而,随着大模型 API 的大规模接入,一个严峻的问题浮出水面:如何确保大模型接口的安全?2023 年至 2024 年间,国内外多个大模型平台相继曝出 API Key 泄露、Token 盗刷、异常并发等安全事件。

文章图片
#java#安全#flask
Java 程序员第 35 阶段大模型高并发调优:解决 Java 项目调用性能瓶颈

这个数字的考量是:OpenAI API 本身支持很高的并发(据官方文档,单个 API Key 的限速为 60 requests/min for RPM),同时浏览器等客户端通常使用 6-10 个并发连接,但服务器端应用的连接生命周期更长,复用率更高。**HTTP/2 的工作原理**是:将每个 HTTP 请求/响应封装为一个 Stream,使用 Stream ID 进行标识,多个 Stream 在同

文章图片
#java#开发语言
    共 237 条
  • 1
  • 2
  • 3
  • 24
  • 请选择