注意力机制+特征提取又火了！无痛涨点！一区稳了！
注意力机制+特征提取又火了！无痛涨点！一区稳了！
在深度学习领域，注意力机制与特征提取的结合已成为提升模型性能的关键技术。本文精选15篇相关论文，涵盖目标检测、图像分割等多个任务，旨在帮助读者紧跟领域前沿，获取更多创新灵感。
循环神经网络中的自适应历史保留机制
文章提出循环神经网络（RNN）在处理序列数据时，能够利用历史信息来预测当前输出，但传统RNN在处理长序列时容易出现梯度消失或梯度爆炸的问题，导致对历史信息的保留不够有效。而注意力机制（Attention Mechanism）可以动态地分配权重，使得模型能够更好地关注重要信息。脉冲卷积块注意力模块结合了脉冲神经网络的特性，通过模拟生物神经元的脉冲信号传递方式，增强模型对历史信息的自适应处理能力。
MAFormer：多尺度注意力融合的视觉识别网络
这篇论文介绍了一种名为 MAFormer 的新型视觉识别网络，它通过引入多尺度注意力融合模块，结合局部聚合和全局特征提取，在双流框架中动态融合细粒度和粗粒度特征，从而提升视觉任务的性能。MAFormer 在 ImageNet 图像分类任务上取得了 85.9% 的 Top-1 准确率，并在 COCO 目标检测和实例分割任务中超越了之前的最佳模型，展现出作为通用视觉骨干网络的潜力。
Graph-Segmenter：语义分割中的图注意力机制
论文介绍了一种名为 Graph-Segmenter 的新型语义分割网络，它通过Graph Transformer和边界感知注意力模块，实现了对图像中不同区域之间全局关系和局部像素关系的建模，并对目标对象的边界进行优化调整。该方法在 Cityscapes、ADE-20k 和 PASCAL Context 三个标准语义分割数据集上取得了最先进的性能。
DEA-Net：基于细节增强卷积和内容引导注意力的单图像去雾
这篇论文介绍了一种名为 DEA-Net的单图像去雾网络。该网络通过设计细节增强卷积和内容引导注意力模块，显著提升了特征学习能力和去雾性能。DEConv 通过引入差异卷积将局部描述符整合到普通卷积层中，增强了特征的表达和泛化能力，同时通过重参数化技术将其等效转换为普通卷积，不增加额外参数和计算成本。