logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Docker+NVIDIA Container Toolkit+Ray+双3090容器transformer数据并行模式分布式联合运行Qwen3-4B-Instruct-2507模型

Docker+NVIDIA Container Toolkit+Ray+双3090容器transformer数据并行模式分布式联合运行Qwen3-4B-Instruct-2507模型

文章图片
#docker#transformer#分布式
大模型分布式推理:Ray 与 vLLM/Transformers 的协同架构深度解析

大模型分布式推理:Ray 与 vLLM/Transformers 的协同架构深度解析

#分布式#架构#transformer
大模型分布式推理:Ray 与 vLLM/Transformers 的协同架构深度解析

大模型分布式推理:Ray 与 vLLM/Transformers 的协同架构深度解析

#分布式#架构#transformer
Docker+NVIDIA Container Toolkit+Ray+vLLM单卡3090单容器分布式联合运行Qwen3-4B-Instruct-2507模型

Docker+NVIDIA Container Toolkit+Ray+vLLM单卡3090单容器分布式联合运行Qwen3-4B-Instruct-2507模型

文章图片
#docker#分布式#容器
Docker+NVIDIA Container Toolkit+Ray+vLLM单卡3090单容器分布式联合运行Qwen3-4B-Instruct-2507模型

Docker+NVIDIA Container Toolkit+Ray+vLLM单卡3090单容器分布式联合运行Qwen3-4B-Instruct-2507模型

文章图片
#docker#分布式#容器
vLLM 生产实践:从极简上手到多 GPU 分布式部署

vLLM 生产实践:从极简上手到多 GPU 分布式部署

小白使用OpenManus的一些体验总结(Window环境)

深入学习者需要好好研究。体验人员体验体验得了,目前并没有你想的那么好用,而且你遇到的问题比你配置需要的环境还要多推荐有能力者可以研究【实战踩坑】我的OpenManus使用血泪史:常见问题解决方案与避坑指南。

文章图片
企业级规模化AI模型训练实践参考指南

企业级规模化AI模型训练实践参考指南

大模型微调框架全景解析:从七大主流工具的多维博弈到 Unsloth 多卡并行的破局之道

大模型微调框架全景解析:从七大主流工具的多维博弈到 Unsloth 多卡并行的破局之道

LangChain【4】之多模态数据传输:构建智能交互的未来

LangChain之多模态数据传输:构建智能交互的未来

文章图片
#交互#人工智能
    共 258 条
  • 1
  • 2
  • 3
  • 26
  • 请选择