YOLOv10模型改进-注意力机制-第35篇:YOLOv10改进策略【注意力机制】| NL注意力机制
一、本文介绍
本文记录的是利用NL(Non-Local)注意力机制改进YOLOv10的特征提取部分。NL注意力通过建模全局依赖关系,实现高效的特征增强。
二、NL注意力机制介绍
2.1 设计出发点
传统卷积操作只能捕获局部依赖关系,NL注意力通过自注意力机制捕获全局依赖关系。
2.2 模块结构
NL块:
- 特征变换:将输入特征变换为查询、键、值
- 相似度计算:计算特征间的相似度
- 加权求和:根据相似度加权求和
三、NL注意力机制的实现代码
importtorchimporttorch.nnasnnclassNonLocalAttention