欢迎光临
我们一直在努力

YOLO系列算法改进 | C3k2改进篇 | 融合RepMBConv重参数化卷积与LIA注意力模块 | 助力模型保持高效推理,增强局部重要信息交互能力 | ACCV2024

 0. 前言

本文介绍了PlainUSR中的核心RepMBConv卷积与LIA(Local Importance-based Attention)注意力机制,并将其集成到ultralytics最新发布的YOLO26目标检测算法中的C3k2模块,构建C3k2_RepMBConv_LIA创新模块,改进Backbon与Neck部分。将RepMBConv和LIA嵌入 YOLO 的 C3k2 模块中,能以重参数化技术将训练时的复杂结构等价转换为推理时的单层卷积,同时通过局部重要性注意力以 1 阶注意力的延迟实现 2 阶信息交互,助力模型在保持高精度的同时显著降低内存访问和推理延迟。

专栏链接:YOLO系列算法改进专栏链接

专栏文章:YOLO26改进系列 | 卷积篇、轻量化、注意力、损失函数、Backbone、SPPF、C2PSA、Neck、检测头全方面保姆级优化合集 | 同样适配YOLOv11改进!!!

目录

 0. 前言

1. LIA注意力模块简介

2. LIA注意力原理与创新点

🧠 LIA注意力基本原理

🎯 LIA注意力创新点

3. 具体改进步骤

🍀🍀步骤1:创建C3k2_RMBC_LIA.py文件

🍀🍀步骤2:tasks.py文件修改

🍀🍀步骤3:创建YAML配置文件

🍀🍀步骤4:新建train.py文件训练模型

🍀🍀步骤5:模型结构打印结果


1. LIA注意力模块简介

降低延迟是近期超分辨率研究中一个快速发展的趋势。虽然最近的进展利用各种卷积块、注意力模块和骨干网络来释放卷积神经网络的全部潜力,但实现实时性能仍然是一个挑战。为此,我们提出了 PlainUSR,一个新颖的框架,它包含三个相关的改进以加速 ConvNet 实现高效 SR。对于卷积块,我们通过重参数化技巧将更轻但更慢的 MobileNetv3 块压缩为更重但更快的普通卷积,以平衡内存访问和计算。对于注意力模块,通过用区域重要性图和门控调制输入,我们引入基于局部重要性的注意力,以 1 阶注意力的延迟实现高阶信息交互。至于骨干网络,我们提出了一种简单的 U-Net,它在通道维度执行判别性分割和拼接。在实验阶段,PlainUSR 表现出令人印象深刻的低延迟、良好的可扩展性,以及与最先进的面向延迟和面向质量的方法相比具有竞争力的性能。特别地,与最近的 NGSwin 相比,PlainUSR-L 快 16.4 倍,同时性能具有竞争力。

赞(0)
未经允许不得转载:171主机测评 » YOLO系列算法改进 | C3k2改进篇 | 融合RepMBConv重参数化卷积与LIA注意力模块 | 助力模型保持高效推理,增强局部重要信息交互能力 | ACCV2024
分享到: 更多 (0)

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址