logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

高效接入多种大模型!LobeChat让你自由切换AI引擎

LobeChat是一个支持多种大模型接入的通用AI交互平台,通过抽象化架构实现OpenAI、Ollama、HuggingFace等引擎的无缝切换。其核心包含模型注册中心、协议适配层和运行时路由机制,兼顾安全性、成本控制与企业级扩展能力,适用于本地部署、混合推理与离线场景。

Linly-Talker讯飞星火大模型对接测试成功

Linly-Talker成功接入讯飞星火大模型,实现从语音识别、智能回复到口型同步的全链路数字人交互。通过低门槛集成大模型与多模态技术,让一张照片即可驱动会说会想的数字分身,广泛适用于教育、客服与内容创作场景。

Qwen3-32B大模型GPU部署指南:RTX4090D下8bit量化推理显存占用对比

本文介绍了如何在星图GPU平台上自动化部署Qwen3-32B-Chat私有部署镜像(RTX4090D 24G显存CUDA12.4优化版),实现高效的大语言模型推理。该镜像支持8bit量化技术,显著降低显存占用,适用于智能客服、文本生成等场景,帮助用户快速搭建高性能AI应用环境。

BGE-Large-Zh开源大模型实践:社区贡献Fine-tune脚本与LoRA适配方案

本文介绍了如何在星图GPU平台自动化部署BGE-Large-Zh语义向量化工具,实现高效的中文文本语义编码。该工具支持本地化部署与GPU加速,可广泛应用于企业知识库检索、智能问答匹配等场景,帮助用户快速构建基于语义相似度的智能应用。

深度学习项目训练环境开发者案例:个人科研项目快速复现实验的高效工具链

本文介绍了如何在星图GPU平台上自动化部署深度学习项目训练环境镜像,为个人科研项目提供高效复现工具链。该镜像预置了PyTorch、CUDA等核心框架与依赖,用户可快速启动环境,专注于模型训练与调优,典型应用于计算机视觉、自然语言处理等领域的算法实验与论文复现。

#深度学习
Qwen3-Reranker-8B部署教程:Docker镜像免配置+GPU资源自动适配

本文介绍了如何在星图GPU平台上自动化部署Qwen3-Reranker-8B镜像,快速搭建AI重排序服务。该方案通过预置Docker镜像免除了复杂的环境配置,用户可轻松启动服务,并将其应用于智能客服、文档检索等场景,以提升搜索结果的相关性与准确性。

春节福利放送:注册即送大模型调用额度

从实验室到生产环境,TensorFlow凭借其稳定的计算图机制、完整的部署生态和强大的分布式能力,成为企业级AI应用的首选框架。无论是云端服务还是边缘设备,它都提供了端到端的解决方案,让模型真正实现高效、可靠、可扩展的落地。

YOLO模型支持Vaex大数据集处理,减少内存占用

通过将Vaex引入YOLO训练流程,实现对亿级标注数据的毫秒级查询与低内存处理,突破传统Pandas在大规模图像元数据管理中的性能瓶颈,构建轻量、可扩展的目标检测数据链路。

PyTorch-CUDA-v2.9镜像发布:支持主流NVIDIA显卡,适配大模型训练

推出专为大模型训练优化的PyTorch-CUDA-v2.9容器镜像,开箱支持主流NVIDIA显卡,集成混合精度、分布式训练与性能剖析工具,解决环境配置痛点,提升AI研发效率。

PyTorch-CUDA-v2.9镜像如何量化大模型节省显存?bitsandbytes

借助PyTorch-CUDA Docker镜像与bitsandbytes库,通过4位和8位量化技术显著降低大模型显存占用,使Llama、Qwen等数十亿参数模型可在RTX 3090/4090等消费级显卡上高效运行。结合LoRA微调与容器化部署,实现低成本、可复现的本地大模型开发方案。

    共 665 条
  • 1
  • 2
  • 3
  • 67
  • 请选择