logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

WeKnora效果展示:招投标文件问答——评分标准、资质要求、废标条款精准定位

本文介绍了如何在星图GPU平台上自动化部署WeKnora - 知识库问答系统镜像,专用于招投标文件中评分标准、资质要求与废标条款的精准定位与零幻觉问答,显著提升投标合规性审查效率。

Baichuan-M2-32B模型蒸馏实践:基于医疗FAQ的知识压缩

本文介绍了如何在星图GPU平台上自动化部署【vllm】Baichuan-M2-32B-GPTQ-Int4镜像,高效支撑基层医疗智能问诊场景。该量化镜像经GPTQ优化,在消费级显卡上实现低延迟、高稳定性的医疗FAQ实时问答,显著提升社区卫生服务中心的居民健康咨询响应效率。

#vLLM
CLAP模型小样本学习效果展示:10样本下的迁移学习

本文介绍了如何在星图GPU平台自动化部署🎵 CLAP Zero-Shot Audio Classification Dashboard镜像,实现高效的音频分类任务。该镜像通过小样本学习技术,仅需10个标注样本即可微调模型,典型应用于智能家居中的环境声音识别,如准确检测门铃、烟雾报警等声音,大幅降低数据收集成本并提升分类准确率。

DASD-4B-Thinking模型持续学习:在线微调与知识更新

本文介绍了如何在星图GPU平台上自动化部署【vllm】 DASD-4B-Thinking镜像,实现大语言模型的持续学习和在线微调。该镜像支持通过少量新数据对模型进行高效知识更新,可应用于智能问答系统的实时信息升级,确保AI模型能够紧跟最新技术动态和行业发展趋势。

Qwen3.5-9B真实效果:对微信聊天截图进行意图识别+信息抽取+摘要生成

本文介绍了如何在星图GPU平台上自动化部署Qwen3.5-9B镜像,实现微信聊天截图的智能处理。该多模态大模型能够自动完成意图识别、关键信息抽取和摘要生成,显著提升商务沟通、团队协作等场景下的信息处理效率。通过统一视觉-语言架构,模型可直接理解截图内容并输出结构化结果。

Qwen3-Reranker-4B环境部署:Docker镜像免配置启动vLLM重排序API服务

本文介绍了如何在星图GPU平台上自动化部署Qwen3-Reranker-4B Docker镜像,快速启动vLLM重排序API服务。该服务能深度理解查询与文档语义,为搜索结果进行智能重排序,典型应用于提升搜索引擎、问答系统或知识库的答案相关性与准确性。

鸿蒙系统开发者如何快速接入大模型API赋能应用开发

鸿蒙系统开发者如何快速接入大模型API赋能应用开发 1. 鸿蒙应用开发与大模型集成概述 鸿蒙系统作为新一代智能终端操作系统,为开发者提供了丰富的分布式能力与高效的开发框架。在应用开发过程中,集成大模型API能够显著增强应用的智能化水平,例如实现智能对话、内容生成、语义理解等功能。Taotoken平台通过提供OpenAI兼容的HTTP API接口,简化了鸿蒙开发者对接多模型服务的流程。 对于鸿蒙开发

PyTorch-CUDA镜像运行Baichuan大模型的性能测试报告

本文介绍如何使用PyTorch-CUDA Docker镜像高效运行Baichuan大模型,涵盖环境搭建、推理实现、性能优化及多卡分布式训练实战,显著提升部署效率与显存利用率,适用于教学、企业应用和国产模型推广。

构建NLP大模型?先选对PyTorch-CUDA基础环境

在NLP大模型开发中,正确的PyTorch-CUDA-cuDNN基础环境是性能与稳定性的关键。本文详解三者协同机制,强调容器化镜像在多卡训练、混合精度和环境一致性中的核心作用,避免因版本不匹配导致的训练失败与资源浪费。

#cuDNN
构建生产级大模型API服务?试试vLLM OpenAI兼容接口

本文介绍如何使用vLLM构建高性能、生产级的大模型API服务,重点解析其PagedAttention和连续批处理技术,显著提升显存利用率与推理吞吐,并支持OpenAI兼容接口,实现私有化部署的无缝迁移。

#vLLM
    共 860 条
  • 1
  • 2
  • 3
  • 86
  • 请选择