logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

机器学习模型部署与性能优化策略

本文针对机器学习模型的部署安全措施、版本控制、测试和CI/CD流程进行了介绍,并详细阐述了优化机器学习算法性能的策略,包括数据预处理、算法选择、超参数优化、模型复杂度调整、使用优化库、批处理、并行化、模型压缩、缓存机制、硬件加速、监控分析和部署优化等。

边缘计算赋能天外客AI翻译机低延迟体验

天外客AI翻译机通过边缘计算与本地AI推理实现低延迟翻译,利用模型量化、知识蒸馏和共享编码器等技术,在设备端完成语音识别、翻译与合成,确保实时性、隐私安全与离线可用性,92%的日常对话可独立处理,兼顾性能与功耗。

#边缘计算
MWC通信展看点:5G+TensorFlow边缘计算方案

在工业质检等高实时性场景中,5G的低时延特性与TensorFlow Lite的轻量化推理能力结合,构建了高效、安全的边缘AI系统。数据就近处理,响应更快,带宽压力小,且保障核心信息不外泄,已在智能制造中实现分钟级百件检测的突破。

Qwen3-VL支持MoE架构!边缘计算与云端部署全适配

Qwen3-VL首次将混合专家系统(MoE)引入视觉语言模型,通过稀疏激活实现高性能与低延迟的平衡,支持从云端到边缘设备的灵活部署。具备视觉代理、空间感知和多轮交互能力,推动AI从识别走向自主操作。

Youtu-VL-4B-Instruct开源大模型部署:轻量40亿参数+GGUF低显存占用+RTX 4090D实测

本文介绍了如何在星图GPU平台上自动化部署Youtu-VL-4B-Instruct-GGUF腾讯优图实验室开源的40亿参数轻量级多模态指令模型。该平台简化了部署流程,用户可快速搭建图文对话环境。该模型的核心应用场景是视觉问答,例如上传一张图片后,AI能准确识别其中的物体、文字并回答相关问题,实现高效的“看图说话”。

SiameseUIE镜像免配置:开箱即用的中文UIE模型部署解决方案

本文介绍了如何在星图GPU平台上自动化部署SiameseUIE模型部署镜像,实现开箱即用的中文信息抽取能力。该镜像专为受限云环境优化,用户无需复杂配置即可快速启动,典型应用场景包括从新闻稿、历史文献或用户评论中自动、准确地抽取人名、地名等关键实体信息。

#自然语言处理
AI边缘计算新选择:YOLOv8 CPU版部署趋势深度分析

本文介绍了基于星图GPU平台自动化部署“鹰眼目标检测 - YOLOv8”镜像的完整方案,聚焦于无GPU环境下的边缘计算应用。该系统依托YOLOv8 Nano轻量模型,结合ONNX Runtime实现CPU端高效推理,支持工业检测、安防监控等场景的实时目标识别与数据统计,具备高通用性与开箱即用优势。

Nanbeige4.1-3B镜像免配置方案:开箱即用的3B级开源语言模型部署

本文介绍了如何在星图GPU平台上自动化部署Nanbeige4.1-3B 3B参数级通用小语言模型镜像,实现开箱即用的AI助手。该方案免除了复杂的环境配置,用户可快速启动模型,并将其应用于智能问答、代码生成、长文本处理等多种场景,例如快速生成代码片段或总结长文档要点,极大提升了开发与内容创作效率。

5个开源大模型部署教程:DeepSeek-R1-Distill-Qwen-1.5B免配置镜像推荐

本文介绍了如何在星图GPU平台上自动化部署DeepSeek-R1-Distill-Qwen-1.5B文本生成模型 二次开发构建by113小贝镜像,快速搭建高效文本生成环境。基于该平台的免配置镜像方案,用户可轻松实现代码生成、数学推理等典型应用场景,显著提升开发与内容创作效率。

DamoFD模型部署教程:Jupyter+Python双模式调用,支持自定义图片路径

本文介绍了如何在星图GPU平台自动化部署DamoFD人脸检测关键点模型-0.5G镜像,实现高效人脸检测与关键点定位。该镜像支持Jupyter和Python双模式调用,可灵活处理自定义图片路径,适用于图片内容分析、视频处理预处理等计算机视觉应用场景,提升开发效率。

#计算机视觉
    共 749 条
  • 1
  • 2
  • 3
  • 75
  • 请选择