logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

基于 LSTM 的 GPU 利用率异常检测——时序预测在推理集群运维中的落地实践

多维特征建模:不仅仅预测 GPU 利用率数值,还输入 QPS、显存、KV Cache 命中率等协变量,提高对"假正常"的识别能力。预测误差驱动检测:利用 LSTM 对历史模式的学习能力,当新模式显著偏离预测值时触发告警,早于静态阈值 2~8 分钟发现问题。动态阈值校准:基于训练集 P99 误差的阈值比固定值更适应不同时间段的基线变化。工程配套:模型漂移 → 每周重训,冷启动 → 统计回退,计算成本

#人工智能
计算机视觉驱动的羽毛球动作分析:基于 YOLOv8-Pose 与 3D 骨架重建的击球技术诊断

计算机视觉技术在羽毛球动作分析中展现了独特的价值——将教练肉眼无法量化的毫秒级时序偏差转化为精确的数字指标。发力链条的时序分析(髋→肩→肘→腕的峰值角速度间隔)和击球点的空间位置偏差,是过往只能凭经验感知、现在可以精确计算的诊断维度。但技术永远是工具。AI 分析提供的数据参考,必须与教练的专业判断相结合。关键点检测在遮挡场景下的精度衰减、个体差异化导致的「标准动作」失真、以及数据隐私问题,都是需要

#人工智能
推理性能回归检测:从 CI 自动化 benchmark 到统计学显著的劣化判断

可靠重复测量-count=20+ 固定 CI 环境 + CPU 性能模式)、统计显著性判断趋势持久化(InfluxDB/SQLite 长期存储历史数据)。检测目标是"在 PR 合并前以 95% 的置信度判定是否存在 > 5% 的性能劣化"。落地路径:在 Go 项目中集成benchstat和 GitHub Actions 的,配置专属物理 Runner,设置 20 次重复测量。

#人工智能
TCP BBR vs Cubic 拥塞控制:数据中心内网高带宽环境对比实测

在 Linux 操作系统的高性能网络协议栈调优中,是决定系统在复杂网络拓扑下数据传输吞吐量(Throughput)与端到端排队延迟(Queueing Delay)的核心灵魂。长久以来,Linux 官方内核将作为默认的拥塞控制算法。Cubic 属于典型的的控制模型;而在 2016 年,Google 提出了颠覆性的算法,开创了的全新调控体系。在很多技术论坛和博客中,经常能看到“BBR 在任何场景下都能

文章图片
#人工智能#语言模型#后端 +1
GPU 频率锁定与基准复现性:避免动态调频干扰压测结果

在进行大模型推理引擎或 CUDA Kernel 的微基准测试(Micro-benchmarking)时,很多性能工程师都经历过一种令人抓狂的困境:在代码和输入完全没有任何变动的情况下,性能测试指标居然出现了高达 15%~25% 的剧烈波动。很多团队误以为这是操作系统调度抖动或 Python GC 导致的随机误差,甚至在错误的基准数据上得出了南辕北辙的算法优化结论。实际上,导致基准测试无法精确复现的

文章图片
#人工智能#语言模型#后端 +1
操作系统 内核调优与网络协议栈性能优化:复盘记录怎样真正派上用场

在万兆网卡(10GbE)和高并发 RPC 场景下,运维团队经常遭遇一个幽灵般的故障:系统 CPU 整体利用率不足 30%,但上游微服务却频繁遭遇 500ms 以上的 TCP 请求超时。登录跳板机敲下top -hp 1查看 CPU 分布,眼前的景象非常典型:CPU0 的si(softirq) 这一项直接锁定在 100%,而 CPU1 到 CPU31 却闲得发慌。再翻看文件的输出,发现第一列(处理的数

文章图片
#人工智能#语言模型#后端 +1
Go 调用大模型 API 的性能深坑:从连接池泄漏到流式响应的完整优化记录

http.Client 必须复用:全局单例,连接池参数按场景精调resp.Body 必须读完:用排干剩余数据context 必须带超时:没有超时的 goroutine 就是定时炸弹优化后的效果:P99 延迟从 8200ms 回到 500ms,内存从 2.1GB 稳定在 220MB。数据不骗人。先看数据,再讲故事。

文章图片
#人工智能
探秘 Go 动态数组:大数据切片触发 GC 瞬间停顿的 pprof 排查实战

上周二凌晨 2:37,告警群突然炸了——线上知识库检索服务的 P99 延迟从 12ms 飙到了 780ms,持续了大约 6 秒后自动恢复。查看监控大盘,CPU 和内存都没有明显尖刺,但 GC 暂停时间(GCPause)曲线出现了一个陡峭的尖峰:单次 STW 停顿达到了 1.8s。经过几轮排查,根因指向了一个看似人畜无害的切片操作——某个定时任务每次加载 500MB 的 Embedding 向量到内

文章图片
#人工智能
Go 切片与数组内存分配底层差异:大数据量场景下的性能对比

上个月在做特征工程平台的向量化改造时,遇到一个很有意思的选择题:一批用户画像 Embedding 数据(约 500 万条,每条 128 维 float32),应该用数组还是[]float32切片存储?团队内部分成了两派——「数组派」认为数组在栈上分配,性能更好;「切片派」认为切片灵活,且 Go 的 runtime 对切片做了优化。为了终结争论,我写了一个完整的 Benchmark,用数据说话。结果

文章图片
#人工智能
    共 262 条
  • 1
  • 2
  • 3
  • 27
  • 请选择