
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
窗口采样:在目标帧前后定义一个时长为 T(如10秒)的时间窗口,并均匀采样N个帧的描述组成序列。LLM 总结:将这些描述输入给大语言模型(如Llama-2),并使用提示词(Prompt)引导其生成一段时序摘要。意义:这一步将原本孤立的静态帧描述转化为包含“动作演变”和“场景动态”的文本,这是识别视频异常的关键。
一种基于海量文本数据训练的、拥有数十亿甚至更多参数的深度学习模型,能够理解、生成和处理自然语言。
LFMs在本文中的主要应用任务:故障诊断:实现更高精度、更强泛化能力的智能诊断。剩余寿命预测:更早、更准地预测设备失效时间。面临的挑战:数据质量与安全模型可信度与验证 高昂的开发与计算成本。
摘要:本文提出一种半监督前缀微调方法(Semi-Supervised Prefix Tuning),用于解决工业大数据环境下标签稀缺和计算资源受限的故障诊断问题。通过辅助任务生成(特征识别、SGP筛选、伪标签生成)构建训练数据,采用冻结大语言模型参数、仅微调前缀嵌入层的策略,结合混合提示模板设计(软提示+硬提示),显著提升了模型在有限标注数据下的诊断性能。该方法在计算效率和诊断准确率方面均表现出优
用户向LLM提出问题后,LLM采用类脑思维链提示工程方法进行初步诊断首先提取出问题的关键词;然后LLM在知识库中根据关键词进行检索,找到相关知识,并生成提示;LLM根据提示完成初步诊断;初步诊断后,通过生成式纵向联邦学习进行精确诊断首先根据初步诊断的结果,通过动态节点激活机制,选择适合的节点激活,然后超网络根据激活的节点信息和初步诊断生成解决这次问题的专属小模型,由小模型得出精确的诊断结果,最后再
本文系统梳理了大模型训练的三个阶段(预训练、微调、推理应用),重点对比了提示工程与微调技术的区别。提示工程通过优化输入文本引导模型输出,不改变参数;微调则通过调整模型参数适配特定任务。文章详细介绍了7种微调方法:按参数规模分为全量微调与参数高效微调(LoRA、Adapter等);按训练目标分为有监督微调、RLHF和DPO;按场景分为指令微调、领域微调和对齐微调。同时阐述了提示词工程的定义、分类(硬
机器学习主要包含六种学习范式:监督学习依赖标注数据进行分类和回归;无监督学习通过聚类和降维挖掘未标注数据的隐藏模式;半监督学习结合少量标注和大量未标注数据提升泛化能力;自监督学习通过构造伪标签实现无监督预训练;弱监督学习利用不精确标签完成精细任务;强化学习通过环境交互学习最优策略。这些方法各有特点,当前主流趋势是采用自监督预训练+监督微调+强化学习对齐的组合范式,但也面临数据依赖、评估困难、能耗高
摘要:Token是机器学习中处理文本的基本单位,指通过分词(Tokenization)将长文本切分成的独立单元,每个Token被赋予唯一数字ID。这些ID作为索引,通过嵌入(Embedding)过程转化为富含语义的高维向量,向量间的数学关系反映词语的语义关联。整个过程类似于将文本拆解为"积木块"(Token),再根据编号(ID)查询其"三维设计图"(语义向量),最终模型会加入位置编码以保留序列信息
:一种利用深度学习技术,在海量文本数据上训练而成的,能够理解、生成和处理自然语言的机器学习模型。。
两篇文章系统介绍了大语言模型(LLM)的原理与应用。第一篇3万字长文从技术层面深入解析LLM的核心原理,包括Transformer架构、预训练方法等关键技术。第二篇文章以入门指南形式,重点讲解了LLM的基础知识到进阶内容(前五章),涵盖模型架构、训练流程等核心概念。两文互为补充,既提供了专业深度解析,又包含适合初学者的系统介绍,是理解大语言模型的重要参考资料。







