
简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
华为昇腾910B拉起MinerU2.5-Pro-2605-1.2B示例
昇腾910B拉起模型MinerU2.5-Pro-2605-1.2B
华为昇腾910B拉起MinerU2.5-Pro-2605-1.2B示例
昇腾910B拉起模型MinerU2.5-Pro-2605-1.2B
vllm bench serve 压测大模型DeepSeek-V3.2或其他系列模型(脚本也支持)
vllm bench serve 压测大模型,方便了解各个模型性能。
基于昇腾910B部署Qwen3-embedding-8B模型(通过vllm 推理引擎部署)
国产卡910B基于vllm 拉起Qwen3-embedding-8B 嵌入模型

从0到1手把手搭建dify(基于centos7.9)
手动部署dify包含docker /docker-compose/dify 三个服务部署

基于昇腾910B部署Qwen3-embedding-8B模型(通过vllm 推理引擎部署)
国产卡910B基于vllm 拉起Qwen3-embedding-8B 嵌入模型

一文讲解大模型格式后缀有.safetensors /.ckpt/.gguf/.pth/.bin的含义
在深度学习语境下,它通常被 Hugging Face Transformers 库用作 PyTorch 模型权重文件的扩展名,其本质与只保存了 state dict 的 .pth文件完全相同。加载速度极快:由于张量数据在磁盘上的布局与在内存(尤其是GPU内存)中的布局非常相似,可以实现零拷贝加载,速度比 pickle 快得多(官方称可达快100倍)。在 TensorFlow 1.x 时代,它通常指
一看就懂的知识库RAG全流程的讲解分析
本文讲解RAG 知识库的流程讲解,针对全流程各个模块的详细讲解,让用户一看就明白。

从0到1手把手搭建dify(基于centos7.9)
手动部署dify包含docker /docker-compose/dify 三个服务部署

基于昇腾910B部署Qwen3-embedding-8B模型(通过vllm 推理引擎部署)
国产卡910B基于vllm 拉起Qwen3-embedding-8B 嵌入模型

到底了







