
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
本文探讨了信号处理与深度学习的关系,指出二者在技术链条上是上下游关系,思维方式上都涉及变换、处理不确定性和优化问题,并能互为工具。作者认为信号处理为深度学习提供先验知识,而深度学习为信号处理带来新方法。文章总结了一年写作内容涵盖的信号处理基础、雷达应用、深度学习理论和嵌入式AI四个领域,并提出了AI与传统方法融合程度的未解问题。作者最终认为这两者是互补的工具集,底层逻辑相通,打通两者将拓展更多可能
本文系统解析了NLP参数高效迁移学习中的Adapter方法。该方法通过在Transformer层中插入少量可训练参数(仅占原模型3.6%),实现了接近全微调的性能(99.5%)。关键创新包括:1)瓶颈架构设计,将高维特征压缩到低维空间;2)近恒等初始化策略,确保训练稳定性;3)模块化插入方式,在注意力层和前馈层后双重集成。实验表明,Adapter在GLUE等任务上显著优于传统微调方法,参数效率提升

Stable Video Diffusion (SVD) 是Stability AI团队开发的创新性视频生成模型,通过系统化的数据筛选策略和三阶段训练流程,显著提升了文本到视频和图像到视频的生成质量。该研究首次揭示了预训练数据质量对最终模型性能的持续影响,具有重要的方法论意义。论文采用连续时间扩散模型框架和EDM预条件技术,开发了包括级联切分检测、运动评估、文本过滤等在内的多层级数据筛选方法。三阶

本文探讨了边缘计算环境下实现通用智能的新范式——多大语言模型(Multi-LLM)系统。传统边缘AI依赖专用窄域模型,存在任务单一、泛化不足等局限。而大语言模型展现出类人智能的通用能力,但其边缘部署面临计算资源、能耗等挑战。研究提出通过多LLM协作架构,结合合作、竞争和集成三种机制,形成优势互补。数学建模显示,该系统能分解任务、优化响应质量,并通过博弈论框架减少偏见和幻觉。实验证明,Multi-L

模型量化技术通过降低数值精度(如FP32→INT8)来减少深度学习模型的内存占用和计算成本,同时保持性能。其核心是线性映射过程,利用缩放因子和零点将浮点值转换为整数。量化带来显著优势:内存占用减少75%,推理速度提升3-4倍,能效比改善4-10倍。主要方法包括训练后量化(PTQ)和量化感知训练(QAT),前者简单快速,后者通过训练补偿精度损失。关键技术细节涉及对称/非对称量化策略选择、校准过程优化

本文系统阐述了嵌入式AI中神经网络量化的理论基础,重点关注信息论和优化理论。第一部分详细推导了量化过程的信息损失度量,包括互信息和率失真理论,给出了高斯源的闭式解。第二部分深入分析了最优量化器设计,证明了Lloyd算法的收敛性,并推导了非均匀量化的最优分配方案。第三部分探讨了量化感知训练的理论基础,解释了直通估计器的变分原理,并分析了训练收敛性。全文通过严格的数学推导,为嵌入式AI的模型压缩提供了

EdgeMark:嵌入式AI工具的自动化基准测试系统 本文提出EdgeMark系统,旨在解决嵌入式人工智能工具选择和部署中的关键挑战。研究分析了TensorFlow Lite Micro、Edge Impulse等主流eAI工具的核心架构和优化技术,包括内存管理、量化算法和硬件特定优化。EdgeMark采用模块化设计,通过自动化工作流程实现从模型生成到部署的全过程,并创新性地开发了Arena Si

本文介绍了AI-ANNE框架,它将深度学习模型迁移到资源受限的微控制器上。研究使用MicroPython在Raspberry Pi Pico上实现了神经网络核心组件,包括神经元、层和激活函数。通过IRIS数据集的实验验证,较小规模的网络(6-8个神经元)在二分类任务中能达到90%的准确率。该框架为嵌入式系统提供了本地化AI解决方案,具有数据隐私保护、低延迟和低能耗等优势,特别适合物联网和边缘计算应

摘要 Edge Impulse是一个面向微型机器学习(TinyML)的MLOps平台,旨在解决嵌入式机器学习开发中的核心挑战。该平台通过云端服务简化了从数据收集到模型部署的全流程,特别针对资源受限的微控制器设备。文章分析了TinyML领域的三大主要挑战:严格的设备资源约束(如有限的计算能力和内存)、硬件的高度异构性(包括各类处理器架构),以及软件栈的碎片化问题。Edge Impulse采用端到端集

TensorFlow Lite Micro (TFLM) 是一个专为嵌入式系统设计的轻量级机器学习推理框架,针对微控制器和DSP的资源约束进行了深度优化。本文系统分析了TFLM的设计哲学和技术创新,包括:1) 采用极简主义设计原则,去除动态内存分配和文件系统依赖;2) 提出双栈内存分配策略和装箱算法,实现60%的内存优化;3) 模块化架构支持硬件厂商提供特定优化;4) 解释器执行模型兼顾灵活性和效








