logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Ollama模型服务代理中间件:构建高可用、可观测的本地LLM应用

在微服务架构中,API网关和反向代理是常见的服务治理组件,它们通过统一的入口管理流量,实现认证、限流、负载均衡等核心功能。其原理是在客户端与服务端之间插入一个中间层,对请求进行拦截、处理和转发。这种模式的技术价值在于解耦了业务逻辑与服务治理,提升了系统的可维护性、可观测性和安全性。在本地大语言模型(LLM)应用开发场景中,Ollama虽然简化了开源模型的本地运行,但其原生API缺乏企业级所需的治理

#Ollama
Pytorch炼丹笔记:用SHAP的DeepExplainer给你的神经网络模型做一次‘X光’(附解决‘masker‘报错)

本文详细介绍了如何使用SHAP的DeepExplainer工具对PyTorch神经网络模型进行可解释性分析,帮助开发者理解模型决策逻辑。文章包含解决常见'masker'报错的实用技巧,以及SHAP值计算和可视化的实战示例,适用于回归预测模型等场景,提升AI模型的可信度和透明度。

#神经网络
别再死记硬背注意力公式了!用PyTorch手把手实现加性注意力(Additive Attention),附完整代码与避坑指南

本文详细介绍了如何使用PyTorch从零实现加性注意力(Additive Attention)机制,包括核心原理拆解、完整代码实现与常见问题解决方案。通过实战示例和避坑指南,帮助开发者深入理解注意力机制的工作原理,避免死记硬背公式,提升在自然语言处理等领域的应用能力。

#机器学习
保姆级教程:在Windows 10上用CUDA 10.0和PyTorch 1.2.0跑通pytorch-openpose人体姿态检测

本文提供了一份详细的Windows 10深度学习环境配置指南,涵盖CUDA 10.0、PyTorch 1.2.0的安装与配置,并最终成功运行pytorch-openpose人体姿态检测项目。通过逐步指导,帮助开发者克服环境配置难题,实现高效的人体姿态检测应用。

#深度学习
MLflow Tracking深度实践:构建可追溯、可复现的机器学习实验体系

机器学习实验管理是MLOps落地的第一道关卡,其核心在于解决模型开发过程中的不可见性、不可复现性与不可审计性问题。MLflow Tracking通过标准化协议实现参数、指标、代码、模型和环境的统一记录,其底层原理基于REST API通信与元数据-工件分离存储架构,技术价值体现在轻量集成、开放格式与供应商中立。典型应用场景包括跨团队实验协同、生产环境模型归因分析、合规审计支持及CI/CD流水线嵌入。

LoRA微调实战手册:从原理到RTX 4090实操全流程

大模型微调不是黑箱调参,而是基于低秩近似与语义空间约束的工程化优化过程。其核心在于理解LoRA的数学本质——在冻结主干网络上搜索低维流形,通过秩(r)控制表达能力边界,以alpha调节新旧知识融合强度。QLoRA进一步引入4-bit量化,在显存受限场景下实现精度与效率的再平衡。该技术已广泛应用于法律文书生成、医疗问诊摘要、工业故障诊断等垂直领域,尤其适配单卡24G显存(如RTX 4090)的中小规

大模型推理优化:4sapi架构与成本控制实战

大模型推理技术正面临规模化运营的挑战,核心问题在于如何提升GPU利用率和降低推理成本。异步计算架构通过解耦推理流程的各阶段,结合动态批处理策略,能显著提升硬件利用率。4sapi架构采用四阶段异步流水线设计,包括请求预处理、动态批处理、核心推理和后处理,通过无锁队列连接实现高并发。关键技术如强化学习驱动的自适应批处理策略,能动态优化batch size,将吞吐量提升3倍以上。在工程实践中,混合精度计

GRPO、PPO与DPO:大模型微调对齐算法工程选型指南

大语言模型对齐(Alignment)是将模型输出与人类意图、安全规范及业务约束保持一致的关键技术,其核心在于通过偏好学习或强化学习优化策略分布。PPO(近端策略优化)、DPO(直接偏好优化)和GRPO(梯度正则化策略优化)代表了三种主流范式:PPO依赖奖励模型与Critic网络实现多目标平衡;DPO绕过显式奖励建模,将偏好学习转化为分类任务,提升训练效率;GRPO则在PPO基础上引入自适应梯度正则

基于深度学习的运动动作识别系统设计与实现

动作识别是计算机视觉中的关键技术,通过分析视频序列中的人体运动模式实现智能识别。其核心原理是将视频帧通过人体检测、姿态估计等模块处理,最终由时序模型(如LSTM)完成分类。深度学习技术的引入使系统能够端到端学习动作特征,摆脱了传统手工特征工程的限制。在实际应用中,模块化设计显著提升了系统的可维护性和扩展性,便于单独优化检测器(如YOLO)或姿态估计算法。这类技术已广泛应用于体育训练分析、健康监测等

#深度学习
YOLO与Darknet官方文档全解析:从入门到实践

目标检测是计算机视觉的核心任务之一,YOLO(You Only Look Once)系列算法以其高效的单阶段检测架构著称。通过分析网络前向传播、IOU计算和非极大值抑制(NMS)等底层原理,可以深入理解实时目标检测的技术本质。Ultralytics维护的YOLO文档和Darknet框架源码为开发者提供了权威的技术参考,涵盖从模型训练、数据增强到ONNX导出等全流程实践要点。特别是在边缘计算场景下,

#目标检测
    共 97 条
  • 1
  • 2
  • 3
  • 10
  • 请选择