logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

(2024|CVPR|北大)超越文本:在视觉信号理解中冻结大型语言模型

本研究提出了一种无须微调的视觉信号理解方法,即 视觉到语言分词器,它将图像转换为 LLM 词汇表中的离散标记,从而使冻结的 LLM 能够直接理解视觉信号,实现图像识别、视觉问答、图像恢复(去噪、修复等)等任务。

文章图片
#语言模型#人工智能#深度学习
(2024|JAMIA|上交,知识注入,指令微调,数据集构建,LLaMA)PMC-LLaMA:构建面向医学的开源语言模型

PMC-LLaMA 是针对医学领域的开源语言模型。研究贡献包括:医学知识注入:整合 480 万篇生物医学论文和 3 万本医学教材,以增强医学专业知识的理解能力。医学指令微调:构建了一个包含 202M tokens 的医学指令数据集,涵盖医学问答、推理和对话。

文章图片
#语言模型#人工智能
(2024,LLaVA-Bench (Wilder),LLaVA-NeXT,LLaMA3,Qwen-1.5,语言模型扩展)

本文引入更强大的LLM扩展了LLaVA-NeXT,使多模态模型能够更好地展示来自 LLM 继承的视觉世界知识和逻辑推理能力。本文收集并开发了LLaVA-Bench (Wilder),聚焦日常生活中的视觉对话,并扩大数据规模以进行更全面的评估

文章图片
#语言模型#人工智能#自然语言处理
(2024,SD3,整流流,定制的采样器,DiT)扩展整流流 transformer 以实现高分辨率图像合成

本文改进现有的噪音采样技术,用于训练整流流模型,使其偏向感知上相关的尺度。还提出了一种基于 DiT 的 T2I 结构,它为两种模态使用独立权重,并实现了图像和文本 token 之间的双向信息流。

文章图片
#transformer#人工智能#深度学习
(2026|康奈尔,图像/视频分割,滑动窗口剪枝,BiLSTM 分类器,身份嵌入池重识别)用于边缘部署的基于 SAM 3 和 DINOv3 的轻量级蒸馏技术

本文将计算密集型的流水线(SAM 3 + DINOv3)压缩到边缘设备可部署的程度,同时最大程度保留其在个体牲畜监控中的高精度。核心是对 SAM 3 的 backbone 蒸馏,并直接采用 DINOv3 的预蒸馏版本,同时辅以专门设计的损失函数和内存管理策略。

文章图片
(2025|Nature|UC Davis,脑机接口,语音合成,Transformer)即时语音合成神经假体

本研究提出一种 “即时脑-语音” 神经假体系统,通过实时解码肌萎缩性侧索硬化症患者大脑中的神经活动,实现语音合成和音频反馈,恢复交流能力。不同于此前仅将神经信号转译为文字的方式,该系统可直接合成语音,包含语调、重音、旋律等副语言特征,即便缺乏训练用的真实语音数据,仍可实现较高质量的合成结果

文章图片
#人工智能#深度学习
(2024|ECCV|NVIDIA)Dolphins: 多模态语言模型在自动驾驶中的应用

Dolphins 是一个新型的视觉语言模型(VLM),它能够处理多模态输入(视频、图像、文本指令和历史控制信号),并结合情境指令微调和接地链式推理,提高对驾驶场景的理解和适应能力

文章图片
#人工智能#自动驾驶#语言模型 +1
(2024,时控交叉注意力(T-GATE),缓存和复用交叉注意力图)交叉注意力使文本到图像扩散模型的推理变得麻烦

T-GATE 发现​推断过程可分为依赖交叉注意力来使用文本引导的语义生成阶段和增强保真度阶段。在后一阶段忽略文本,可在保持模型性能的同时降低计算复杂度。基于此,T-GATE 在交叉注意力输出收敛后将其缓存,并在剩余的推理步骤中保持不变。

文章图片
#人工智能
(2024,预训练和微调扩散,图编码器,图特征与CLIP特征对齐)场景图到图像合成:集成 CLIP 指导与扩散模型中的场景图条件

本文提出无需预测布局的场景图生成图像。首先预训练场景图编码器,然后使用基于对象嵌入和关系嵌入创建 CLIP 引导的调节信号来微调预训练的扩散模型。

文章图片
#深度学习#人工智能#计算机视觉
(2024,初始化原型嵌入,扩散模型微调,类别特征正则化,对象特定损失)使用原型嵌入对文本到图像扩散进行对象驱动的单样本微调

本文基于对象的外观和其类别初始化一个原型嵌入,然后对扩散模型进行微调。微调时使用类别特征正则化保留对对象类别的先验知识,并引入对象特定的损失来进一步提高保真度。这也可以用于植入多个对象。

文章图片
#计算机视觉#人工智能
    共 186 条
  • 1
  • 2
  • 3
  • 19
  • 请选择