logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

AI笔记第三节:Transformer的注意力机制和多头注意力

本文分析了Transformer模型中的单头注意力与多头注意力机制。单头注意力通过除以√dk来缓解梯度消失/爆炸问题,使点积值保持稳定。多头注意力则将Q、K、V矩阵拆分为多个头,每个头学习不同的注意力模式,通过"和而不同"的设计增强模型处理复杂语义的能力。文章还详细解析了FFN(前馈网络)层的作用:通过ReLU激活函数引入非线性变换,对Attention输出进行升维(4倍经验值

#人工智能#transformer
AI笔记第二节:RNN 循环神经网络

本文系统介绍了向量与文本处理的基础概念及应用。首先阐述了向量的定义及其与矩阵的关系,指出向量是矩阵的特殊形式,并通过分量确定方向。其次详细讲解了向量的运算方法,包括点积、模和范数,以及余弦相似度的计算原理。在文本处理部分,介绍了文本预处理的步骤、向量化方法(如Word2Vec)和归一化技术(最小-最大、Z-score、L2归一化)。最后探讨了词向量、嵌入矩阵和潜空间的概念,说明词向量将语义关系转化

#人工智能#rnn
AI笔记第一节:基础部分(向量、余弦相似度、神经网络)

本文摘要:文章系统梳理了机器学习中的核心数学概念与算法原理,重点讲解了支持向量机(SVM)和KNN算法的前置知识。主要内容包括:1)向量运算、余弦相似度等基础数学工具;2)神经网络核心组件(sigmoid函数、反向传播、注意力机制);3)Transformer架构及其对RNN/CNN的改进;4)最小二乘法与代价函数的数学推导;5)梯度下降算法的详细解释(含学习率、偏导数等概念)。文章通过大量图示和

#学习#神经网络#人工智能
黑马2021最新版 SpringCloud基础篇全技术栈导学(RabbitMQ+Docker+Redis+搜索+分布式)

基础篇全部代码和资料已上传到gitee,大家需要可自取: https://gitee.com/da-ji/spring-cloud-learning-notes点个Star,后续更新高级篇和面试篇不迷路 ⚆_⚆本笔记基于:1、 尚硅谷 2020.3 SpringCloud(H版&alibaba)框架开发教程2、 黑马 2021.8 SpringCloud*+RabbitMQ+Docker+Redi

文章图片
#spring cloud#java
go debug vscode 断点调试

非常简单,直接上解决方案(就两步),亲测可用。先安装……

#vscode#golang
总结一个非常有用的框架学习方法(非常有效!)

文章目录前言一、编写Readme.md二、科学编写注释第一步:在注释中编写需求(应用场景)第二步:在注释中编写关联文件第三步:在注释中编写解决方案总结前言学习框架以来,虽然代码量,耦合度大大减少,但是框架都有轻代码,重配置的特点,导致各种配置纷繁复杂,就算使用了注解开发,前后端互相传递数据,接收参数,也容易让初学者搞混。如果你是看网上的视频自学,跟着视频写Demo,调用关系更是让人头大,很多种情况

#java#编程语言
基于PreparedStatement抓取带参最终SQL(oracle,mysql,PostgreSQL等通用)

在日志中打印所有数据库通用的不带?的原生SQL,放在navicat就能直接执行

文章图片
#sql#oracle#mysql
Linux(Manjaro)开启ssh端口,和公司服务器内网互联,scp文件互传

官网开端口的方法链接:修改配置文件开端口https://blog.csdn.net/zhangwenchao0814/article/details/108437631Arch系统启动某服务,查看服务状态确保你安装了某服务,下面以sshd服务为例:systemctl status sshd查看服务状态systemctl enable sshd.service 开机启动systemctl start

#ssh#linux
【分页查询】在SSM环境中使用PageHelper

文章目录前言一、导入jar包二、使用步骤三、常用配置order by 啥意思总结前言本文只讨论SSM框架下PageHelper的使用,不讨论SpringBoot提供的starter方式。一、导入jar包<!--pagehelper--><dependency><groupId>com.github.pagehelper</groupId><ar

#数据库#html#mybatis
SpringBoot模块中,resources目录下各文件夹作用

文章目录前言1.public目录:2.resources目录:3.static目录:4.templates目录:5.src/main/resources目录(根目录):6.META/INF/resources目录:7.classpath路径解释:前言顾名思义,就是整理下图所示的目录下各个文件夹的作用,以及通常习惯把哪些资源放在哪个路径下。先说一下它们的优先级: resources > sta

#maven#spring boot
    共 15 条
  • 1
  • 2
  • 请选择