logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Jetson边缘设备部署Llama2-7B:MLC LLM量化实战与性能优化

模型量化是一种通过降低模型参数精度(如从FP32到INT8)来压缩模型大小、提升推理效率的核心模型压缩技术。其原理在于减少数据存储位数和计算复杂度,从而在硬件上实现更快的运算速度和更低的内存占用。这项技术的核心价值在于让大规模神经网络模型能够在资源受限的边缘计算设备上高效运行,极大地拓展了AI模型在离线、低功耗、高隐私要求场景下的应用潜力,例如智能物联网设备、移动端AI应用和工业边缘计算盒子。本文

#边缘计算#Jetson
机器学习工程师实习真相:从Notebook到生产环境的12个生死关卡

机器学习工程师不是调参者,而是贯通数据、模型、工程与业务的闭环实践者。其核心能力始于对真实数据分布的直觉判断,成于在特征工程、模型验证、服务部署等环节中持续权衡鲁棒性、性能与业务价值。尤其在工业级落地中,‘能跑通’不等于‘敢上线’——标准化可能引发线上延迟飙升,one-hot编码或导致内存溢出,时间切分错误会让AUC失去业务意义。本文聚焦ML工程师能力拼图中的关键断层,结合真实实习场景,解析数据直

机器学习模型生产化落地:从Notebook到高可用服务的系统实践

机器学习模型部署不是简单的代码迁移,而是从开发环境到生产环境的系统性重构。其核心在于建立确定性运行时契约、显式资源边界与原生可观测性,解决模型线上效果劣化、预测不一致、服务OOM等高频问题。关键技术包括特征服务轻量化设计、模型与数据版本强绑定、CI/CD驱动的金丝雀发布闭环,以及基于Prometheus+OpenTelemetry的三级穿透式监控。本文聚焦真实场景下的工程落地方案,覆盖Triton

AI编程工具实战指南:从入门到进阶

AI编程工具正逐步改变传统软件开发流程,其核心原理是基于大语言模型的代码生成与理解能力。这类工具通过自然语言处理技术,将开发者意图转化为可执行代码,显著提升开发效率。在工程实践中,AI编程助手可应用于代码补全、文档生成、错误调试等场景,如GitHub Copilot和Cursor等工具已展现出强大的生产力提升效果。掌握提示词工程和上下文管理等技巧,能进一步优化AI工具的输出质量。对于开发者而言,合

#自然语言处理
Claude Code智能编程助手实战优化指南

AI编程助手作为现代软件开发的重要工具,通过自然语言处理与机器学习技术实现代码智能生成与调试。其核心原理是基于大规模代码库训练的语言模型,能够理解开发者意图并生成符合语法的代码片段。在工程实践中,这类工具显著提升开发效率,尤其适用于原型设计、测试用例生成和复杂问题调试等场景。以Claude Code为代表的先进工具更具备上下文感知能力,通过优化提示词工程和环境配置,可解决企业级开发中的性能调优、安

Agentic AI生产成本优化实战:四层漏斗与17个落地卡点

Agentic AI不是传统LLM的简单延伸,而是一种具备自主规划、工具调用与状态管理的新型智能体架构。其成本结构呈现显著的非线性放大特征——单次用户请求可能触发多次LLM推理、多轮外部API调用、高频状态读写及复杂编排开销。理解‘Agentic AI部署成本优化’的关键,在于跳出‘压缩token’或‘换小模型’的单一思维,转而系统解构LLM推理、工具调用、状态持久化与编排监控这四层成本漏斗。真实

SICK LMS4000激光雷达点云采集实战:从SOPAS软件配置到C++ TCP通信避坑全记录

本文详细介绍了SICK LMS4000激光雷达的点云采集实战,从SOPAS软件配置到C++ TCP通信的全过程。通过解析通信协议和数据帧结构,提供高效的C++实现方案,解决工业自动化中长时间连续采集的难题,适用于机器人导航和三维重建等高精度应用场景。

vscode python 自动导入_python vscode import unsolved import 终极解决方案

重要事情说三遍kindle文件推送功能文件大小不能超过50M。 自己要给kindle推送PDF文件,文件大小限制为50M(为什么要推送而不是USB手动拷贝呢,因为推送时可以进行自动格式转换,看起来更方便)。直接办法就是百度了下PDF文件分割工具。网络上时有很多离线或在线分割工具,但是试用版本的都不能分割大文件,想来功能比较简单就准备自己做一个简单工具。 开发语言准备选择go 或者python, 这

cnn风格迁移_用Python深度学习来快速实现图片的风格迁移

文:辉小宝同学源:R语言和Python学堂先来看下效果:上图是小编在甘南合作的米拉日巴佛阁外面拍下的一张照片,采用风格迁移技术后的效果为:一些其它效果图:下面进入正题。近年来,由深度学习所引领的人工智能(AI)技术浪潮,开始越来越广泛地应用到生活各个领域。这其中,人工智能与艺术的交叉碰撞,在相关技术领域和艺术领域引起了高度关注。就在上个月,由电脑生成的艺术品在佳士得(Christie’s)的拍卖价

手把手教你用DW_apb_i2c驱动TMP75温度传感器(附完整代码解析)

本文详细介绍了如何使用DW_apb_i2c驱动TMP75温度传感器,包括硬件连接、寄存器配置和完整代码解析。通过I2C接口实现高精度温度监测,适用于嵌入式系统开发,提供0.0625°C的分辨率和可编程报警功能。

    共 25 条
  • 1
  • 2
  • 3
  • 请选择