logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

星睿O6-基于MNN的LLM与VLM部署

本文介绍了在瑞莎星睿O6开发板上基于MNN框架部署语言大模型和多模态模型的实践。文章详细阐述了软硬件环境配置,包括MNN引擎特性、开发板规格以及项目构建过程。重点解决了模型转换中的常见问题,提供了完整的编译配置方案,并展示了LLM模型的导出和基准测试方法。通过OpenCL和CPU两种计算方式的性能对比,验证了端侧AI部署的可行性,为边缘设备上的大模型应用提供了实用参考。

文章图片
#mnn#人工智能#深度学习
AI大模型之——Agent

AI Agent(人工智能代理)是一种能够感知环境、进行决策和执行动作的智能实体。AI Agent也可以称为“智能体”,也可理解为“智能业务助理”,指在大模型技术驱动下,让人们以自然语言为交互方式高自动化地执行和处理专业或繁复的工作任务,从而极大程度释放人员精力。举个通俗的比喻,你有一个魔法机器人朋友,它叫做“小助手”。这个“小助手”非常特别,因为它能够听你说话,看你周围的环境,然后根据它看到和听

文章图片
#人工智能
AG32+开发环境搭建

AG32开发环境的搭建。

文章图片
#单片机#嵌入式
AI大模型之——Agent

AI Agent(人工智能代理)是一种能够感知环境、进行决策和执行动作的智能实体。AI Agent也可以称为“智能体”,也可理解为“智能业务助理”,指在大模型技术驱动下,让人们以自然语言为交互方式高自动化地执行和处理专业或繁复的工作任务,从而极大程度释放人员精力。举个通俗的比喻,你有一个魔法机器人朋友,它叫做“小助手”。这个“小助手”非常特别,因为它能够听你说话,看你周围的环境,然后根据它看到和听

文章图片
#人工智能
AI大模型之——Agent

AI Agent(人工智能代理)是一种能够感知环境、进行决策和执行动作的智能实体。AI Agent也可以称为“智能体”,也可理解为“智能业务助理”,指在大模型技术驱动下,让人们以自然语言为交互方式高自动化地执行和处理专业或繁复的工作任务,从而极大程度释放人员精力。举个通俗的比喻,你有一个魔法机器人朋友,它叫做“小助手”。这个“小助手”非常特别,因为它能够听你说话,看你周围的环境,然后根据它看到和听

文章图片
#人工智能
AI大模型之——Agent

AI Agent(人工智能代理)是一种能够感知环境、进行决策和执行动作的智能实体。AI Agent也可以称为“智能体”,也可理解为“智能业务助理”,指在大模型技术驱动下,让人们以自然语言为交互方式高自动化地执行和处理专业或繁复的工作任务,从而极大程度释放人员精力。举个通俗的比喻,你有一个魔法机器人朋友,它叫做“小助手”。这个“小助手”非常特别,因为它能够听你说话,看你周围的环境,然后根据它看到和听

文章图片
#人工智能
    共 16 条
  • 1
  • 2
  • 请选择