问小白 wenxiaobai
资讯
历史
科技
环境与自然
成长
游戏
财经
文学与艺术
美食
健康
家居
文化
情感
汽车
三农
军事
旅行
运动
教育
生活
星座命理

YOLO已经悄悄来到v12,首个以Attention为核心的YOLO框架问世

创作时间:
作者:
@小白创作中心

YOLO已经悄悄来到v12,首个以Attention为核心的YOLO框架问世

引用
1
来源
1.
https://m.php.cn/faq/1229737.html

近日,由纽约州立大学布法罗分校和中国科学院大学的研究人员合作完成的最新研究——YOLOv12,该模型在保持实时性的前提下,显著提升了目标检测精度。

YOLO系列模型一直以其速度著称,但以往版本对Transformer中高效的注意力机制应用有限,主要原因是注意力机制的高计算复杂度难以满足实时性要求。YOLOv12突破了这一瓶颈,在性能上取得了显著提升。

核心改进

YOLOv12的核心改进在于引入了高效的区域注意力模块(Area Attention, A2)和残差高效层聚合网络(R-ELAN),并对传统注意力机制架构进行了优化。

A2模块通过简单的特征图划分,有效降低了注意力机制的计算复杂度,提升了计算速度,同时保持了较大的感受野。

R-ELAN则在原始ELAN的基础上,加入了残差连接和缩放技术,优化了梯度流动,并重新设计了特征聚合方法,提高了模型的优化效率。

此外,YOLOv12还采用了FlashAttention解决内存访问问题,移除位置编码以简化模型,并调整了MLP ratio,减少了堆叠块的深度,从而提升整体效率。

实验结果

在COCO数据集上的实验结果显示,YOLOv12在不同规模的模型(N、S、M、L、X)上均取得了优于现有YOLO系列模型和RT-DETR的性能,同时保持了极高的推理速度。 YOLOv12在参数量和CPU推理速度方面也实现了显著突破,在精度-参数量平衡方面表现出色。

结论

YOLOv12通过巧妙地结合注意力机制和高效的网络结构设计,在实时目标检测领域取得了显著进展,为未来实时目标检测器的研究提供了新的方向。

© 2023 北京元石科技有限公司 ◎ 京公网安备 11010802042949号