logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Claude本地python独立运行环境的解决

Claude Code在执行代码时需要系统中有可用的Python解释器,但个人习惯了用 uv + venv 的方式管理项目的python环境,且因为uv的缓存磁盘设在D盘,如果使用system方式或默认位置创建环境,venv可能落在C盘,与uv缓存不在同一磁盘而导致无法使用硬链接提升包管理效率。故需要手动在D盘创建一个供Claude使用的python独立环境。位置),让Claude能读取该配置引入

#python#linux#开发语言
Claude本地python独立运行环境的解决

Claude Code在执行代码时需要系统中有可用的Python解释器,但个人习惯了用 uv + venv 的方式管理项目的python环境,且因为uv的缓存磁盘设在D盘,如果使用system方式或默认位置创建环境,venv可能落在C盘,与uv缓存不在同一磁盘而导致无法使用硬链接提升包管理效率。故需要手动在D盘创建一个供Claude使用的python独立环境。位置),让Claude能读取该配置引入

#python#linux#开发语言
nano-vllm tech analysis

nano-vllm 是一个从零构建的轻量级大语言模型推理框架,以约1,200 行纯 Python 代码实现了工业级推理引擎 vLLM 的核心功能,并在某些场景下取得了超越 vLLM 的吞吐量。工程可读性:完整的高性能推理引擎实现精简至千行量级,非常适合学习和研究性能对标:在 RTX 4070 Laptop(8GB)上运行 Qwen3-0.6B 模型,吞吐量达,对标 vLLM 的 1,362 tok

文章图片
#人工智能#语言模型#架构 +1
nano-vllm tech analysis

nano-vllm 是一个从零构建的轻量级大语言模型推理框架,以约1,200 行纯 Python 代码实现了工业级推理引擎 vLLM 的核心功能,并在某些场景下取得了超越 vLLM 的吞吐量。工程可读性:完整的高性能推理引擎实现精简至千行量级,非常适合学习和研究性能对标:在 RTX 4070 Laptop(8GB)上运行 Qwen3-0.6B 模型,吞吐量达,对标 vLLM 的 1,362 tok

#人工智能#语言模型#架构 +1
调用DataLoader时采用num_workers>0导致数据加载出现阻塞问题的解决方法

本文仅就我在程序debug过程中遇到的数据加载阻塞问题寻找解决方法,不涉及原理性探究,文章内容源于网络搜索,仅作为工作记录,希望能对读者的debug有所帮助。问题描述测试程序时发现,当DataLoader函数中加载数据时线程数设定大于0时,程序会卡住,但当设定线程数为1(num_workers=0即将用主进程加载数据)时,程序能正常运行,但由于仅单线程的加载致使神经网络在训练时会花将近一半的时间在

#神经网络#pytorch#人工智能
到底了