
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
本系统构建了面向青少年心理辅导的实时对话转录平台,融合WebAudio前端VAD、FastAPI后端与FunASR离线语音识别,创新采用“实时声纹分配+会话结束全局聚类”两段式说话人分离策略,实现边对话边生成带角色标注的转录文本。通过WebSocket实时推送、人工修正、风险分级、情绪标签、审计留痕及会话快照存档等业务功能,满足心理咨询记录可追溯、可复核需求。系统轻量部署,支持流式收录与完整音频上

本文聚焦大模型黑盒运维难题,详解**OpenTelemetry+Prometheus+Grafana**开源监控体系落地实践。文章先剖析传统监控适配 LLM 的短板与 AI 专属运维痛点,再拆解三大核心组件分工、四层架构与数据流转逻辑,提供 Docker Compose 完整部署、OTel 埋点实操案例。同时细化 LLM 专属性能、缓存、资源监控指标,讲解 Grafana 看板搭建、PromQL

本文深度解析AgentScope大模型多智能体开发框架,厘清其轻量化、高解耦、可分布式部署的核心定位,区别于 LangChain、AutoGen 等同类工具。文章从基础概念、分层架构、核心特性逐层讲解,剖析消息机制、智能体生命周期、任务编排、容错调试等关键技术,清晰阐述其 “一切交互皆消息、智能体独立自治、环境解耦” 的设计思想。

本文深入浅出讲解 Semantic Kernel 大模型工程化框架,厘清其衔接大模型语义能力与传统代码的核心定位,对比主流框架明确适配场景。文章逐层拆解 Kernel 内核、插件、函数、记忆、规划器等核心组件,阐明语义函数与原生函数的协同逻辑。同时通过翻译调用、插件工具、简易 RAG、智能规划四大实战案例,落地提示词管理、API 调用、知识库检索、Agent 任务编排等核心能力。最后梳理工程化优化

本文探讨了AI医疗大模型应用中的数据合规挑战与解决方案。随着AI技术在医疗领域的应用普及,数据合规性成为关键问题。文章分析了医疗数据的分类风险,包括直接标识信息、间接健康敏感信息等,并指出数据泄露可能带来的严重后果。重点解读了等保2.0、HIPAA和GDPR三大合规框架的核心要求,对比了各自侧重点。在技术层面,详细介绍了医疗数据脱敏技术,区分了掩码、去标识化和匿名化的差异,并提供了代码示例。文章还

本文聚焦大模型工程化落地,详解可观测追踪、Prompt 实验、自动化评测、反馈标注闭环全链路体系。对比 Langfuse、LangSmith 两款 LLM 追踪工具的适配场景,讲解 OpenTelemetry 通用可观测标准的融合落地方案。同时详解 Prompt A/B 测试的线上流量分流实操,介绍多源自动化评测集构建方法与 LLM 裁判评测逻辑。结合人工标注、用户线上反馈,搭建从链路追踪、实验验

本文聚焦大模型 AI 服务工程化部署与运维,针对大模型服务算力消耗高、并发弱、无监控等线上痛点,搭建完整生产级落地体系。文章先阐明工程化核心目标,再分步讲解模型推理优化、标准化 API 服务开发、全维度监控告警运维三大核心模块,配套可落地实战代码与问题调优方案。通过量化压缩、缓存加速、异步限流、指标监控、异常告警等手段,解决服务延迟高、显存溢出、并发阻塞、运维黑盒等问题,形成部署、优化、运维一体化

本文探讨了大模型如何革新传统数据处理Pipeline,实现AI项目数据处理的智能化升级。文章指出传统数据处理存在效率低、成本高、适配性差等痛点,而大模型凭借语义理解、泛化推理等能力,可对数据采集、清洗、标注和特征工程全流程进行智能化改造。具体而言:1)在数据采集环节,大模型实现从"格式匹配"到"语义筛选"的转变,支持多源异构数据的智能抓取;2)在数据清洗环节

文章摘要:本文提出规范驱动开发(SDD)作为解决大模型辅助编程质量问题的方案。SDD通过"先定规范后编码"的范式,将业务规则、边界场景等前置定义,约束AI编码的随机性。相比传统开发模式,SDD具有流程前置、规范唯一性、问题拦截三大特点,能有效解决需求歧义、迭代混乱、评审低效等痛点。文章详细阐述了SDD四步落地流程(规范定义、方案规划、任务拆解、落地校验),并以手机验证码登录功能

本文聚焦大模型智能体核心机制 AgentLoop,拆解其**思考 - 行动 - 观测 - 迭代终止**的完整运行闭环。文章先阐释 AgentLoop 的定义、应用价值与五大核心构成,分步解析初始化、决策执行、观测回写、终止判断的全流程逻辑,并提供原生手写实现代码。同时梳理工程落地四大核心难题,给出轻量化处理、格式约束、迭代检测等优化方案,对比 LangGraph、AutoGPT 等主流框架的循环实








