目录
- 前言
- 一、Trsnsform
-
- 1.为什么编解码
- 2.矩阵和空间变换基础
- 3.神经网络基础
- 4.词嵌入
- 5.Word2Vec
- 6.注意力机制计算过程
- 7.理解Q和V
- 8.交叉注意力
- 9.位置编码
-
- ①绝对位置编码
- ②相对位置编码
- 9.多头注意力机制计算过程
- 11.其他知识
-
- ①掩码
- ②Add&Norm
- ③前馈神经网络（FFN）
- 二、小波变换
- 二、离散小波变换
前言
关于Trsnsform&小波变换&离散小波变换的原理学习记录
一、Trsnsform
1.为什么编解码
2.矩阵和空间变换基础
3.神经网络基础
4.词嵌入
5.Word2Vec
6.注意力机制计算过程
7.理解Q和V
8.交叉注意力
9.位置编码
①绝对位置编码
②相对位置编码
9.多头注意力机制计算过程
11.其他知识
①掩码
②Add&Norm
③前馈神经网络（FFN）
二、小波变换
二、离散小波变换
