LLaMA-Factory 入门：Mac 系统权限对大模型部署的影响及解决方案

Mac 系统权限问题的背景

在 Mac 系统上部署大语言模型（如 LLaMA-Factory）时，系统权限可能成为阻碍。MacOS 的安全机制（如 Gatekeeper、SIP 和文件访问限制）可能阻止模型文件的读取或写入，导致部署失败。

常见权限错误及排查方法

• “Permission denied”错误：通常因文件或目录的读写权限不足导致。
• “Operation not permitted”错误：可能与 SIP（System Integrity Protection）相关。
• “无法加载模型权重”：模型文件可能被隔离或未正确解压。

解决方案

检查并修改文件权限
使用终端运行以下命令，确保模型文件可读可写：

chmod -R 755 /path/to/llama-factory  

若模型文件位于受保护目录（如 /usr/local），需使用 sudo 提权。

关闭文件隔离属性
MacOS 可能对下载的模型文件添加隔离属性，导致无法加载：

xattr -r -d com.apple.quarantine /path/to/model  

临时禁用 SIP（谨慎操作）

1. 重启 Mac，按住 Command + R 进入恢复模式。
2. 打开终端，输入：

csrutil disable  

1. 重启后再次尝试部署。完成后建议重新启用 SIP（csrutil enable）。

使用虚拟环境或容器部署
通过 Conda 或 Docker 隔离环境，避免系统权限干扰：

conda create -n llama-env python=3.10  
conda activate llama-env  
pip install -r requirements.txt  

或使用 Docker：

docker run -it --rm -v /path/to/models:/models llama-factory  

验证部署成功

运行示例推理脚本，确认模型加载正常：

from transformers import AutoModelForCausalLM  
model = AutoModelForCausalLM.from_pretrained("/path/to/model")  

其他注意事项

• 确保磁盘空间充足（LLaMA 模型通常需要 10GB+）。
• 使用 Homebrew 安装依赖时，可能需配置环境变量：

export PATH="/opt/homebrew/bin:$PATH"  

通过以上步骤，可系统性解决 MacOS 权限问题，顺利完成 LLaMA-Factory 的部署。