算法优化 —— 注意力机制篇

文章目录

• 前言
• 一、EMA 高效多尺度注意力机制（ICASSP2023）
• 二、BiFormer: 基于动态稀疏注意力构建高效金字塔网络架构（2023CVPR）

前言

���示：这里可以添加本文要记录的大概内容：

一、EMA 高效多尺度注意力机制（ICASSP2023）

原论文链接

代码如下：

class EMA(nn.Module