logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

2013 款 intel mac pro (垃圾桶) 跑可用的LLM 大模型

解释: 1. /Users/mac/llama/llama.cpp/build/bin/llama-server这是编译完后的llama-server的绝对路径。2. /Volumes/1T980pro/data/llm-model/Qwen3.5-9B-Q4_K_M.gguf你下载和保持大模型的路径。众所周知, 老款的intel 的苹果电脑 想跑大模型 基本没戏 ,因为显卡的原因,基本不能被利用

#macos
如何在老的mac pro 上跑 gemma-4-26B-A4B-it-UD-Q4_K_S.gguf 多模态 ,可以图像识别 (纯cpu方式)

踏坑过程1. 安装llama 的方法由于我的mac pro 2013 版本很老了 , 很多安装方式都不兼容, 最终考虑通过编译源代码的方式进行安装按照该方式。

#macos
到底了