本视频主要介绍前馈全连接层FeedForward,包括原理、实现代码解析等 全文先分成四部分介绍:输入部分、encoder部分、decoder部分、输出部分 最后介绍整体的transformer类、封装的构建函数、测试与查询模型结构 完整部分会包括以下内容: 1、输入部分 # 词嵌入 class Embeddings(nn.Module): # 位置编码器 class PositionalEncoding(nn.Module): 2、encoder部分 # 多头注意力 class MultiHead
www.bilibili.com