
简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
在树莓派5上本地部署端到端智能语音聊天项目
项目总体采用_STT模型+本地大语言模型+TTS模型_三步进行实现,为了能够实现在树莓派等算力资源有限的边缘端设备部署,并使项目延迟尽可能降低,只能选择轻量化的TTS模型与参数较少或者经过量化后的大语言模型进行实现。本项目中每一次问答的处理时间可以控制在十秒以内。

解决树莓派5下载llama-cpp-python失败
在树莓派上成功安装llama-cpp-python库

解决树莓派5下载llama-cpp-python失败
在树莓派上成功安装llama-cpp-python库

到底了