一、本文介绍
🔥本文给大家介绍使用 RPAttention代表性注意力模块 改进YOLO26网络模型，增强模型对全局语义上下文和目标级结构的建模能力，避免传统注意力或固定空间压缩方法只按照坐标邻域聚合特征。RPAttention通过“聚合—交互—分发”的代表性token机制，将空间特征按表示相似性聚合为少量语义代表，再在代表空间中进行全局交互，最后把增强后的语义信息分发回各个空间位置；用于YOLO26时，可提升Neck特征融合或检测头前特征的语义一致性，使相距较远但属于同一目标或相似类别的区域建立联系。
🔥欢迎订阅我的专栏、带你学习使用最新-最前沿-独家YOLO26创新改进！🔥
YOLO26专栏改进目录：全新YOLO26改进专栏包含卷积、主干网络、各种注意力机制、检测头、损失函数、Neck改进、小目标检测、二次创新模块、多种组合创新改进、全网独家创新等创新点改进
全新YOLO26专栏订阅链接：全新YOLO26创新改进高效涨点+永久更新中（至少500+改进）+高效跑实验发论文
本文目录
一、本文介绍
二、RPAttention代表性注意力模块介绍
2.1 RPAttention代表性注意力模块结构图
2.2 RPAttention代表性注意力模块的作用：
2.3 RPAttention代表性注意力模块的原理
2.4 RPAttention代表性注意力模块的优势
三、完整核心代码
四、手把手教你配置模块和修改tasks.py文件
1.首先在ultralytics/nn/newsAddmodules创建一个.py文件
2.在ultralytics/nn/newsAddmodules/__init__.py中引用
3.修改tasks.py文件
五、创建涨点yaml配置文件
🚀 创新改进1🔥: yolo26_RPAttention.yaml
🚀 创新改进2🔥: yolo26_RPAttention-2.yaml
🚀 创新改进3🔥: yolo26_C2RPAttention.yaml
🚀 创新改进4🔥: yolo26_C3k2_RPAttention.yaml
六、正常运行
二、RPAttention代表性注意力模块介绍
摘要：线性注意力机制已成为推动视觉变换器性能超越密集自注意力机制二次成本增长的有力方向。主流策略是将空间标记压缩为一组紧凑的中间代理，以促进全局信息交换。然而现有方法通常从预定义的空间布局中提取这些代理标记，导致标记压缩仍依赖于图像坐标而非视觉内容的语义结构。为克服这一局限，我们提出代表注意力（RPAttention）——一种直接在表示空间中进行标记压缩的线性全局注意力机制。该机制不依赖固定空间划分来构建中间标记，而是通过轻量级的聚合-交互-分布范式动态生成一组紧凑的学习型代表标记，使语义相关的区域能够跨越空间距离进行通信。具体流程如下：首先通过基于相似度的竞争性路由将空间标记软性聚合为代表标记；随后这些代表标记在紧凑的潜在空间内进行全局交互；最后通过查询驱动的交叉注意力将优化后的信息反馈至所有空间标记。通过用表征驱动的压缩替代协调驱动的聚合方式，RPAttention既能保持全局感受野特性，又能自适应地使标
