摘要：作者分享了RTX 5080笔记本(16G显存/64G内存/U9 CPU)的大模型开发使用体验。测试显示，使用lmdeploy加载7B模型时需CUDA 12.8编译包，相比vllm可节省1/3显存，但16G显存限制上下文token约5000。微调测试中，在未突破硬件上限时，5080笔记本比云端5090慢3-4倍；突破上限后预计差距达6-8倍。同时发现相同参数下，不同GPU训练效果存在差异。本文