郑纬民院士揭秘：清华AI内存技术突破与未来趋势

郑纬民院士揭秘：清华AI内存技术突破与未来趋势

引用

CSDN

等

11

来源

1.

https://blog.csdn.net/zhuzongpeng/article/details/136083346

2.

https://blog.csdn.net/zhuzongpeng/article/details/139868537

3.

https://www.sohu.com/a/791438001_115565

4.

https://new.qq.com/rain/a/20241031A061FY00

5.

https://www.qbitai.com/2024/11/226353.html

6.

https://www.tsinghua.edu.cn/info/1182/114959.htm

7.

https://www.jiqizhixin.com/articles/2024-12-26-4

8.

https://docs.pingcode.com/baike/162158

9.

https://www.naipo.com/Portals/11/web_cn/Knowledge_Center/IP_and_Industries/IPND_250115_0401.htm

10.

https://blog.hjc.im/apple-uma-for-llms-problems.html

11.

https://www.mittrchina.com/news/detail/13949

在近日举行的中国电子工业标准化技术协会数据存储专业委员会成立大会上，中国工程院院士、清华大学教授郑纬民发表主题演讲，指出AI存储是人工智能大模型的关键基座。他强调，随着人工智能进入大模型时代，基础大模型已从单纯文本扩展到多模态语料信息的综合应用，并在金融、医疗、智能制造等多个领域得到实际应用。

清华大学在AI内存技术领域取得了重要突破。该校研究团队提出了一种基于忆阻器的随机梯度Langevin动力学原位学习方法，用于实现深度贝叶斯主动学习（DBAL）。这一创新方案在性能和能效方面展现出显著优势。

与传统的基于互补金属氧化物半导体（CMOS）的硬件实现相比，该方案实现了44%的速度提升，并且可以节省153倍的能源。这一研究成果已发表在国际权威期刊《自然·计算科学》上。

AI内存技术在多个应用场景中发挥着重要作用。在深度学习训练平台中，需要采用高性能并行文件系统来支持大规模数据的高效读写；在实时推理服务中，内存数据库和闪存存储等技术被广泛应用以实现低延迟响应；而在高密度视频监控与分析领域，则需要部署能够提供大容量、持久性和可靠性的存储方案。

尽管AI内存技术已取得显著进展，但仍面临一些挑战。例如，如何在带宽与容量之间实现最佳平衡，以及如何进一步降低能耗等。目前，高带宽内存（HBM）在训练和峰值推理中仍占据重要地位，但不同应用场景需要多样化的内存技术。

未来，3D DRAM等新型内存技术有望突破现有技术瓶颈。通过将存储单元垂直堆叠，3D DRAM可以在不大幅改变单个单元尺寸的情况下显著增加单位体积内的存储比特数，从而克服2D缩放的局限。尽管该技术尚处于早期研发阶段，但已引起业界广泛关注。

总体而言，AI内存技术的创新正在为人工智能的发展提供强大支撑。随着研究的不断深入和技术的持续演进，我们有理由相信，未来的AI系统将在性能、能效和可靠性等方面实现更大突破。