logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Llama-Factory适配国产显卡:昇腾、寒武纪也可运行

Llama-Factory实现对华为昇腾和寒武纪MLU芯片的支持,可在非NVIDIA平台上完成大模型微调全流程。通过设备抽象层设计,框架实现硬件无关性,降低国产AI芯片使用门槛,推动全国产化AI生态发展。

昇腾910B部署DeepSeek-R1-Distill-Qwen-32B

基于华为昇腾910B国产算力平台,使用vllm-ascend镜像在ARM架构下部署DeepSeek-R1-Distill-Qwen-32B大模型,详细说明了镜像拉取、Ascend Docker环境配置、模型挂载及通过docker run与docker-compose两种方式启动服务,并完成接口验证。

音诺ai翻译机运用RK3566与神经网络推理加速优化AI算力分配

本文探讨基于RK3566芯片的AI翻译机技术演进,涵盖模型轻量化、NPU推理优化、多模态融合及端侧部署实践,提出动态算力调度与分布式协同架构,构建高效低功耗的端侧翻译系统。

vLLM支持模型权重加密加载,防止泄露

本文介绍vLLM如何通过PagedAttention提升推理性能,并结合模型权重加密加载技术,在保证高性能的同时实现模型安全防护。涵盖加密流程、运行时解密、内存保护及生产环境部署架构,展现‘又快又安全’的AI推理解决方案。

RC低通滤波抑制噪声提升麦克风信噪比

本文介绍RC低通滤波器在麦克风前端信号链中的关键作用,通过抑制高频噪声和防止混叠,有效提升音频信噪比与语音识别准确性,结合设计要点与仿真验证方法,帮助嵌入式系统实现更可靠的音频采集。

Llama-Factory与vLLM结合使用:实现高性能微调+高速推理

本文介绍如何结合Llama-Factory与vLLM实现大模型的高效微调与高速推理。Llama-Factory简化了QLoRA等微调流程,支持多种模型一键训练;vLLM通过PagedAttention和持续批处理显著提升推理吞吐量。二者结合可实现低资源训练与高并发部署,适用于医疗、法律等垂直领域模型落地。

OpenCV实现RGB色道分离与颜色分析实战

从传统图像处理到深度学习时代,RGB通道分离的角色经历了从“核心特征提取器”向“辅助预处理器”的转变。但在轻量级模型部署、数据增强、注意力机制中,它依然发挥着重要作用。掌握RGB通道分离不仅是理解底层图像结构的钥匙,更是构建高效、可解释视觉系统的基石。下次当你面对一张奇怪的彩色图像时,不妨先问问自己:我是不是又忘了BGR这回事?😉本文还有配套的精品资源,点击获取简介:在计算机视觉中,RGB色道分

SQLPrompt:提升SQL Server开发效率的集成插件

SQLPrompt是一款针对SQL Server开发人员设计的集成开发环境(IDE)扩展工具,旨在提高开发效率、增强代码质量和简化日常的SQL编码任务。它通过一系列实用的功能,如智能代码感知、代码格式化、模板和片段管理以及性能分析等,为开发者提供一个更加直观和高效的编码体验。在本章中,我们将介绍SQLPrompt的核心功能,并概述这些功能如何帮助开发者在编写、测试和优化SQL代码时节省时间和减少错

昇腾910B部署DeepSeek-R1-Distill-Qwen-32B

基于华为昇腾910B国产算力平台,使用vllm-ascend镜像在ARM架构下部署DeepSeek-R1-Distill-Qwen-32B大模型,详细说明了镜像拉取、Ascend Docker环境配置、模型挂载及通过docker run与docker-compose两种方式启动服务,并完成接口验证。

STM32F0微控制器开发实战手册

STM32F0微控制器系列是STMicroelectronics(意法半导体)生产的一系列基于ARM® Cortex®-M0内核的32位微控制器。它们具有出色的性能,广泛的外设集成以及极高的性价比,特别适合预算有限但需要高性能处理能力的应用场景。随着物联网(IoT)、嵌入式系统和消费电子设备的不断普及,STM32F0成为了许多开发者的首选。SPI(串行外设接口)是一种高速、全双工、同步串行通信接口

    共 70 条
  • 1
  • 2
  • 3
  • 7
  • 请选择