logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

在树莓派5上本地部署端到端智能语音聊天项目

项目总体采用_STT模型+本地大语言模型+TTS模型_三步进行实现,为了能够实现在树莓派等算力资源有限的边缘端设备部署,并使项目延迟尽可能降低,只能选择轻量化的TTS模型与参数较少或者经过量化后的大语言模型进行实现。本项目中每一次问答的处理时间可以控制在十秒以内。

文章图片
#边缘计算#人工智能#python
解决树莓派5下载llama-cpp-python失败

在树莓派上成功安装llama-cpp-python库

文章图片
#python#开发语言
解决树莓派5下载llama-cpp-python失败

在树莓派上成功安装llama-cpp-python库

文章图片
#python#开发语言
到底了