logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

AI应用开发:从模型部署到容器化技术

本章节详细介绍了在AI应用开发中进行深度学习Web应用程序部署的方法,包括如何使用Flask、Streamlit等库进行Web应用程序的创建和部署。同时,也探讨了如何将代码打包为可执行文件以便分享和保护源代码。此外,本章还涵盖了容器化技术Kubernetes的基本概念,及其在软件部署中的优势和架构。

AI智能棋盘集成OpenMV Cam完成机器视觉识别

本文介绍如何利用OpenMV Cam实现机器视觉识别,构建低成本、高效率的AI智能棋盘。通过透视变换、网格划分、颜色阈值分割与帧间差分技术,系统可精准识别棋子位置与变化,并结合主控MCU实现规则判断与联网功能,适用于教学、养老、赛事记录等场景。

vLLM镜像支持模型蒸馏后的轻量模型部署吗?实测反馈

本文实测验证vLLM对知识蒸馏后的轻量模型具备优秀支持能力。通过PagedAttention提升显存利用率,连续批处理提高吞吐,结合OpenAI兼容API实现零代码迁移,显著降低推理成本并提升服务效率,是轻量模型部署的理想选择。

#vLLM
mT5中文-base零样本增强模型开源大模型部署:中小企业低成本NLP数据增强方案

本文介绍了如何在星图GPU平台自动化部署全任务零样本学习-mT5分类增强版-中文-base镜像,实现中文文本的零样本数据增强。该方案特别适合中小企业低成本生成多样化的训练数据,可应用于电商评论增强、智能客服对话样本生成等NLP任务,有效提升模型效果并降低数据准备成本。

Qwen3.5-9B开源模型部署:GPU显存优化与高利用率实测分享

本文介绍了如何在星图GPU平台上自动化部署Qwen3.5-9B 90亿参数开源大语言模型镜像,实现高效AI文本生成与多模态理解。该模型特别适用于代码生成、逻辑推理等复杂任务,通过8-bit量化等优化技术可显著降低显存需求,使单卡部署更加便捷。

树莓派5安装ROS2依赖库解决完整示例

详细演示树莓派5安装ROS2过程中的依赖库配置与常见问题解决,覆盖系统环境搭建与关键命令操作,帮助开发者高效完成树莓派5安装ros2的全流程配置,提升开发效率。

RexUniNLU开源大模型部署实战:低成本GPU环境10分钟启动指南

本文介绍了如何在星图GPU平台上自动化部署中文 NLP 综合分析系统 (RexUniNLU零样本通用自然语言理解) 镜像,快速构建本地化中文语义理解服务。用户可一键启动后直接进行事件抽取、命名实体识别等任务,典型应用于电商评论分析、新闻结构化处理等场景,显著降低NLP工程门槛。

StructBERT中文Large模型部署教程:模型权重自动下载+校验MD5哈希值防损坏机制

本文介绍了如何在星图GPU平台上自动化部署nlp_structbert_sentence-similarity_chinese-large镜像,实现中文句子相似度计算。该镜像通过先进的自然语言处理技术,可应用于智能客服、文本去重和语义搜索等场景,帮助用户快速准确地分析和匹配中文文本语义。

#自然语言处理
轻量模型部署新范式:CosyVoice-300M推动AI边缘化落地

本文介绍了基于星图GPU平台自动化部署🎙️ CosyVoice-300M Lite: 轻量级语音合成引擎的实践方案。该镜像通过精简依赖与ONNX Runtime优化,可在纯CPU环境高效运行,适用于智能客服、无障碍阅读等边缘化AI应用场景,显著降低语音合成技术落地门槛。

5个开源大模型部署推荐:MGeo地址匹配镜像开箱即用实测

本文介绍了基于星图GPU平台自动化部署“MGeo地址相似度匹配实体对齐-中文-地址领域”镜像的实测过程,该镜像专用于中文地址语义匹配与实体对齐。通过预置环境可快速实现地址去重、归一化及模糊匹配,适用于城市计算、位置服务等AI应用开发场景,显著提升数据清洗效率与模型精度。

    共 776 条
  • 1
  • 2
  • 3
  • 78
  • 请选择