笔者目前在licheepi 4a（th1520 8+32）上成功进行了1.5b大模型和7b大模型的试验，1.5b的生成速度大概一秒半一个字符，7b大概五秒一个字符；然后又在milkv pioneer（sg2042 128G+2T）上成功进行了7b大模型和14b大模型的试验，7b的生成速度大概3秒一个字符，14b大概五秒一个字符。两块开发板上均使用纯cpu计算，理论上，只要内存够大，能跑所有的大模型