logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

【vllm】Qwen2.5-VL-72B-AWQ 部署记录

【代码】【vllm】Qwen2.5-VL-AWQ 部署记录。

文章图片
#python#开发语言
vLLM 启动 GGUF 模型踩坑记:从报错到 100% GPU 占用的原因解析

本文记录了使用 vLLM 部署本地 GGUF 格式大模型的踩坑过程。从最初的路径格式错误,到参数解析问题,再到 NumPy 版本兼容性引发的。

#linux
【cuda】Nsight System 下载,安装与使用

nsys是 NVIDIA Nsight Systems 的命令行工具,可以用于分析 CUDA 应用程序的性能和行为。以下是在 Linux 上安装nsys。

文章图片
#linux#python#运维
【多模态】DALL·E 2 笔记

《Hierarchical Text-Conditional Image Generation with CLIP Latents》(使用CLIP特征的 层次文本条件图像生成)

#计算机视觉#人工智能#深度学习
【Linux】proxychain4 Linux 下的网络代理工具

ProxyChains-NG(Next Generation)是 ProxyChains 的改进版本,它允许你在 Linux 系统中通过 SOCKS4、SOCKS5 或 HTTP 代理服务器来转发应用程序的网络流量。通过使用 ProxyChains-NG,你可以轻松地绕过网络限制、隐藏真实 IP 地址,或者在测试环境中模拟不同的网络环境。ProxyChains-NG 是一款功能强大的网络代理工具,

文章图片
#linux#网络#运维
【Docker】使用Dev Container进行开发

新建一个文件夹然后下面放然后安装 vscode dev container 插件,然后 Ctrl+Shift+P 启动 Container。

文章图片
#docker#容器#运维
【Windows】解决Windows Terminal 在nvidia驱动更新之后打不开的问题

更新nvidia驱动之后,Windows terminal 打不开,但是powershell和cmd可以正常使用。

文章图片
#windows
【NLP】keras Transformer 进行机器翻译

目标:参考进行 中文 -> 英文 的机器翻译,使用 CMN 微型中英数据集。使用 keras-Transformer 第三方库进行搭建模型和训练以下仅仅展示和不同的部分代码。

#nlp
    共 27 条
  • 1
  • 2
  • 3
  • 请选择