logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

SNPE SDK用户手册(三)

Qualcomm®神经处理SDK在x86主机平台上的Windows 10和Windows 11操作系统以及在Snapdragon平台上的Windows 11操作系统上经过验证。工具位于${SNPE_ROOT}/bin/x86_64-linux-clang。工具位于${SNPE_ROOT}/bin/x86_64-linux-clang。SNPE API头文件位于${SNPE_ROOT}/includ

文章图片
#人工智能
高通AI效率神器QAIRT Visualizer(3): 深度解读QHAS报告与子图优化实战

当复杂的QHAS数据与上万层的大模型摆在面前,如何从中快速洞察本质?本篇将带你化身“AI模型诊断专家”,深入解读硬件报告,运用子图功能精准狙击大模型瓶颈,并完成一个从分析到优化的完整实战。

文章图片
#人工智能#深度学习#网络
解锁高通Profiler(6):应用程序和支持的芯片组

摘要: profilerUtilityApp是一款设备性能分析工具,支持基准测试和时钟管理功能。可通过命令行执行多种标准算法测试(如conv3x3),并支持Q6处理器时钟的动态调整。兼容多平台芯片组,包括QNX、Android和Linux环境(如SC8380X、SM8650等)。该工具提供详细的性能指标文档,存放路径因操作系统而异(Windows/Linux/Snapdragon)。典型应用场景包

#微服务#人工智能
高通自推测解码(SSD)技术解析(3): 从零训练Forecast模块的完整指南

本文详细介绍了SSD(自推测解码)模型的训练过程。主要内容包括:1)数据准备阶段,通过特殊的数据增强策略和预测点插入算法模拟推理场景;2)采用双重损失函数结构(基础语言建模损失+预测损失)和损失掩码机制进行优化;3)实施渐进式训练策略,分阶段增加预测难度,并动态调整多任务权重;4)模型架构扩展,在基础模型上集成Forecast模块。整个训练过程采用课程学习方式,从简单任务逐步过渡到复杂任务,最终实

#边缘计算
高通跃龙:服务定义 Wi-Fi 革新网络体验

在数字时代,Wi-Fi 已成为连接个人设备、支撑企业业务、赋能沉浸式体验的核心基础设施。然而,随着设备数量爆发式增长(据 IDC 预测,2025 年全球联网设备将超 750 亿台)、应用场景不断丰富(从 4K/8K 流媒体到 XR 沉浸式交互,从云游戏到企业级视频协作),传统 Wi-Fi 的 “尽力而为” 模式逐渐暴露出短板:高密度环境下的网络拥堵、不同应用 QoS(服务质量)需求难以兼顾、多设备

#网络
自定义和构建微服务(5):构建硬件加速的Qualcomm IM SDK docker容器

摘要:本文介绍了在Docker容器中构建Qualcomm IM SDK的完整流程。IM SDK是一个支持物联网设备多媒体和AI应用开发的统一工具包。指南详细说明了所需组件(平台eSDK、源代码、微服务等)的获取方法,并提供了构建Docker镜像的具体步骤,包括环境配置、镜像生成和部署到边缘设备(如Dragonwing RB3 Gen 2)的方法。最后还介绍了通过docker run和docker-

#微服务#人工智能#物联网
解锁高通AI推理套件SDK(4):Litellm、CrewAI与自动生成

作家的任务是使用研究员的成果,用 Markdown 语言撰写一篇博客文章。如需在使用 Qualcomm AI On-Prem Appliance 解决方案时使用工具调用,请确保设备盒具备与相关外部 API 通信的功能,以实现工具调用。是一个使用 OpenAI 格式调用 LLM API 的流行框架,许多框架正在使用它来抽象 API 调用。是一个流行的人工智能框架,用于创建自定义代理团队,旨在使用大型

#python#前端#javascript
SNPE SDK用户手册(一)

本文档提供 Qualcomm® 神经处理软件开发套件 (SDK) 用户指南和 API 参考指南。Qualcomm® 神经处理 SDK 在源代码和文档中也称为 Snapdragon 神经处理引擎 (SNPE)。

文章图片
#人工智能
QAI AppBuilder快速上手(4):用户指南

摘要:Qualcomm® AI Runtime SDK为AI开发提供统一的API支持,支持在Snapdragon X Elite设备上运行模型。开发人员可通过高通软件中心或QPM下载SDK,并根据不同平台架构(x64/ARM64)选择对应的运行时库。Python项目可使用QNNContext等API进行模型初始化和推理,C++项目则通过libappbuilder.dll提供的接口实现。文档详细说明

#嵌入式硬件#人工智能#物联网
高通 Gen AI 推理扩展 (GENIE)(3):前缀匹配和查询

KV$ Rewind功能通过重用缓存值提升查询效率,支持前缀匹配查询。在Genie对话系统中,可使用GENIE_DIALOG_SENTENCE_REWIND代码实现此功能,与SMART_MASK KV更新方法兼容。同时,系统提供动态更新停止序列的API(GenieDialog_setStopSequence)和直接使用token进行查询的功能(GenieDialog_tokenQuery)。此外,

#人工智能#微服务#物联网
    共 222 条
  • 1
  • 2
  • 3
  • 23
  • 请选择