logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

【论文阅读24】-利用大型语言模型进行免训练的视频异常检测

窗口采样:在目标帧前后定义一个时长为 T(如10秒)的时间窗口,并均匀采样N个帧的描述组成序列。LLM 总结:将这些描述输入给大语言模型(如Llama-2),并使用提示词(Prompt)引导其生成一段时序摘要。意义:这一步将原本孤立的静态帧描述转化为包含“动作演变”和“场景动态”的文本,这是识别视频异常的关键。

#论文阅读#语言模型
【论文阅读19】-用于PHM的大型语言模型:优化技术与应用综述

一种基于海量文本数据训练的、拥有数十亿甚至更多参数的深度学习模型,能够理解、生成和处理自然语言。

#语言模型#人工智能#自然语言处理
【论文阅读04】-面向工业信息物理系统故障预测和健康管理的大规模基础模型综述

LFMs​在本文中的主要应用任务:​​​故障诊断:实现更高精度、更强泛化能力的智能诊断。​剩余寿命预测:更早、更准地预测设备失效时间。​面临的挑战:​​​数据质量与安全​​模型可信度与验证​ ​高昂的开发与计算成本。

#论文阅读
【论文阅读32】-利用大数据对用于工业故障诊断的大型语言模型进行半监督前缀调整

摘要:本文提出一种半监督前缀微调方法(Semi-Supervised Prefix Tuning),用于解决工业大数据环境下标签稀缺和计算资源受限的故障诊断问题。通过辅助任务生成(特征识别、SGP筛选、伪标签生成)构建训练数据,采用冻结大语言模型参数、仅微调前缀嵌入层的策略,结合混合提示模板设计(软提示+硬提示),显著提升了模型在有限标注数据下的诊断性能。该方法在计算效率和诊断准确率方面均表现出优

#论文阅读
【论文阅读17】-结合大模型与小模型的类脑认知驱动模型工厂在工业物联网故障诊断中的应用

用户向LLM提出问题后,LLM采用类脑思维链提示工程方法进行初步诊断首先提取出问题的关键词;然后LLM在知识库中根据关键词进行检索,找到相关知识,并生成提示;LLM根据提示完成初步诊断;初步诊断后,通过生成式纵向联邦学习进行精确诊断首先根据初步诊断的结果,通过动态节点激活机制,选择适合的节点激活,然后超网络根据激活的节点信息和初步诊断生成解决这次问题的专属小模型,由小模型得出精确的诊断结果,最后再

#语言模型#人工智能#自然语言处理
大模型:微调和提示工程

本文系统梳理了大模型训练的三个阶段(预训练、微调、推理应用),重点对比了提示工程与微调技术的区别。提示工程通过优化输入文本引导模型输出,不改变参数;微调则通过调整模型参数适配特定任务。文章详细介绍了7种微调方法:按参数规模分为全量微调与参数高效微调(LoRA、Adapter等);按训练目标分为有监督微调、RLHF和DPO;按场景分为指令微调、领域微调和对齐微调。同时阐述了提示词工程的定义、分类(硬

#深度学习#机器学习#人工智能
【机器学习】监督学习、无监督学习、半监督学习、自监督学习、弱监督学习、强化学习

机器学习主要包含六种学习范式:监督学习依赖标注数据进行分类和回归;无监督学习通过聚类和降维挖掘未标注数据的隐藏模式;半监督学习结合少量标注和大量未标注数据提升泛化能力;自监督学习通过构造伪标签实现无监督预训练;弱监督学习利用不精确标签完成精细任务;强化学习通过环境交互学习最优策略。这些方法各有特点,当前主流趋势是采用自监督预训练+监督微调+强化学习对齐的组合范式,但也面临数据依赖、评估困难、能耗高

#机器学习#学习#人工智能
大模型理解语言的三部曲:Tokenization、Token和Embedding

摘要:Token是机器学习中处理文本的基本单位,指通过分词(Tokenization)将长文本切分成的独立单元,每个Token被赋予唯一数字ID。这些ID作为索引,通过嵌入(Embedding)过程转化为富含语义的高维向量,向量间的数学关系反映词语的语义关联。整个过程类似于将文本拆解为"积木块"(Token),再根据编号(ID)查询其"三维设计图"(语义向量),最终模型会加入位置编码以保留序列信息

【论文阅读06】-大语言模型在复杂系统中的可解释故障诊断集成

​:一种利用深度学习技术,在海量文本数据上训练而成的,能够理解、生成和处理自然语言的机器学习模型。​。

#语言模型#人工智能#自然语言处理
深度解析大语言模型LLM原理

两篇文章系统介绍了大语言模型(LLM)的原理与应用。第一篇3万字长文从技术层面深入解析LLM的核心原理,包括Transformer架构、预训练方法等关键技术。第二篇文章以入门指南形式,重点讲解了LLM的基础知识到进阶内容(前五章),涵盖模型架构、训练流程等核心概念。两文互为补充,既提供了专业深度解析,又包含适合初学者的系统介绍,是理解大语言模型的重要参考资料。

#语言模型#人工智能#自然语言处理
    共 50 条
  • 1
  • 2
  • 3
  • 4
  • 5
  • 请选择