YOLOv10模型改进-注意力机制-第35篇:YOLOv10改进策略【注意力机制】| NL注意力机制

一、本文介绍

本文记录的是利用NL(Non-Local)注意力机制改进YOLOv10的特征提取部分。NL注意力通过建模全局依赖关系,实现高效的特征增强。

二、NL注意力机制介绍

2.1 设计出发点

传统卷积操作只能捕获局部依赖关系,NL注意力通过自注意力机制捕获全局依赖关系。

2.2 模块结构

NL块:

  1. 特征变换:将输入特征变换为查询、键、值
  2. 相似度计算:计算特征间的相似度
  3. 加权求和:根据相似度加权求和

三、NL注意力机制的实现代码

importtorchimporttorch.nnasnnclassNonLocalAttention