本文学习自Unist的论文实现，源码地址：https://github.com/tsinghua-fib-lab/UniST/tree/main，本内容为个人理解整理。首先是初始化部分，对一下变量进行定义：num_memory(M): 记忆槽数量；memory_dim( C ): 每个槽的维度；memMatrix: [M, C]，值矩阵（Value）；keyMatrix: [M, C]，键矩阵（K

本文学习自Unist的论文实现，源码地址：https://github.com/tsinghua-fib-lab/UniST/tree/main，本内容为个人理解整理。参考UniST代码中Embed.py的内容，接下来详细讲解一下如何将栅格数据与时间embedding结合转变为Transformer可以接收的token。这部分Embedding主要分成三个部分：TokenEmbedding + T

本文学习自Unist的论文实现，源码地址：https://github.com/tsinghua-fib-lab/UniST/tree/main，本内容为个人理解整理。