logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

AI基础概念之十三:Transformer 算法结构相比传统神经网络的改进

Transformer 本质上是用注意力机制重构了神经网络的隐藏层,同时通过位置编码补全了输入层的信息,最终实现了 “全局关联 + 并行计算” 的核心优势。相比传统神经网络如RNN的 “串行局部传递”,Transformer 的结构改动,直接解决了长序列依赖建模难、训练效率低的痛点,这也是它能支撑大模型发展的根本原因。

#transformer#神经网络#深度学习
具身智能技术架构发展简介

具身智能技术架构历经三代演进,从早期模块化规则控制,到数据驱动的感知-动作映射,再到当前前沿的具身大模型+世界模型,核心是逐步实现“自主化、通用化”;每一代均有明确的典型成果支撑,从早期固定逻辑设备,到当前主流灵活适配设备,再到前沿通用化研发原型,逐步推动具身智能从理论走向应用,未来随着技术突破,将实现更广泛的场景落地。三代时间划分的核心逻辑的是“关键技术突破+标志性成果落地”,结合行业演进共识划

#架构
具身智能技术架构发展简介

具身智能技术架构历经三代演进,从早期模块化规则控制,到数据驱动的感知-动作映射,再到当前前沿的具身大模型+世界模型,核心是逐步实现“自主化、通用化”;每一代均有明确的典型成果支撑,从早期固定逻辑设备,到当前主流灵活适配设备,再到前沿通用化研发原型,逐步推动具身智能从理论走向应用,未来随着技术突破,将实现更广泛的场景落地。三代时间划分的核心逻辑的是“关键技术突破+标志性成果落地”,结合行业演进共识划

#架构
具身智能技术架构发展简介

具身智能技术架构历经三代演进,从早期模块化规则控制,到数据驱动的感知-动作映射,再到当前前沿的具身大模型+世界模型,核心是逐步实现“自主化、通用化”;每一代均有明确的典型成果支撑,从早期固定逻辑设备,到当前主流灵活适配设备,再到前沿通用化研发原型,逐步推动具身智能从理论走向应用,未来随着技术突破,将实现更广泛的场景落地。三代时间划分的核心逻辑的是“关键技术突破+标志性成果落地”,结合行业演进共识划

#架构
AI基础概念之十三:Transformer 算法结构相比传统神经网络的改进

Transformer 本质上是用注意力机制重构了神经网络的隐藏层,同时通过位置编码补全了输入层的信息,最终实现了 “全局关联 + 并行计算” 的核心优势。相比传统神经网络如RNN的 “串行局部传递”,Transformer 的结构改动,直接解决了长序列依赖建模难、训练效率低的痛点,这也是它能支撑大模型发展的根本原因。

#transformer#神经网络#深度学习
AI基础概念之十二:RNN算法的基本原理

核心特征:隐藏层自循环 + 时间步权重共享,实现时序记忆;三层结构:输入层(接收序列)→ 隐藏层(存储记忆)→ 输出层(任务输出);关键公式:隐藏状态 ht​ 是连接历史与当前的核心,决定了 RNN 的记忆能力;变体延伸:LSTM/GRU 是基础 RNN 的隐藏层增强版,结构框架完全兼容。

#dnn#人工智能#神经网络
AI基础概念之十一:CNN算法的基本原理

(如 28×28→784×1),完全破坏了像素的空间位置关系 —— 它无法区分 “左上角的像素和相邻像素” 与 “左上角的像素和右下角的像素” 的差异,只能学习到无结构的特征。每个卷积核对应一个可学习的偏置值,在步骤 2 的点积结果上加上偏置,公式:output=点积结果+b偏置的作用是调整特征图的整体数值范围,提升模型的拟合能力。计算:0×1+0×0+0×(−1)+0×1+1×0+2×(−1)+

#人工智能#cnn#算法
HarmonyOS基础概念

OpenHarmony是由开放原子开源基金会(OpenAtom Foundation)孵化及运营的开源项目,开放原子开源基金会由华为、阿里、腾讯、百度、浪潮、招商银行、360等十家互联网企业共同发起组建。目标是面向全场景、全连接、全智能时代,基于开源的方式,搭建一个智能终端设备操作系统的框架和平台,促进万物互联产业的繁荣发展。

#harmonyos#华为
AI基础概念之十:多层感知机的基本原理

x1​x2​ytrue​000011101110对比维度单层感知机多层感知机网络结构输入层 + 输出层(无隐藏层)输入层 + 隐藏层 + 输出层激活函数阶跃函数(硬非线性、不可导)Sigmoid/ReLU 等(软非线性、可导)优化算法感知机学习规则(局部更新)反向传播 + 梯度下降(全局优化)解决问题仅线性可分问题(与门、或门)线性 / 非线性可分问题(异或门、复杂分类)核心能力简单线性分类特征提

#人工智能
AI基础概念之九:神经网络单层感知机的基本原理

十多年前曾经在学校选修过一门神经网络的课程,使用神经网络的算法实现阿拉伯数字0-9的识别。没有想到今天人工智能能发展到这个程度,甚至两三年前感觉还可能马上会遇到下一个瓶颈。希望后续能逐步回顾下部分人工智能的经典算法,更好的理解神经网络的内在机制。

#人工智能#神经网络#cnn
    共 21 条
  • 1
  • 2
  • 3
  • 请选择