MIT突破性研究：用百年数学定理优化机器学习

MIT突破性研究：用百年数学定理优化机器学习

引用

mit.edu

等

5

来源

1.

https://news.mit.edu/2024/how-symmetry-can-aid-machine-learning-0205

2.

https://www.eecs.mit.edu/academics/subject-updates/special-subjects-spring-2025/

3.

https://www.neurreps.org/

4.

https://www.sciencedirect.com/science/article/pii/S0092867424009802

5.

https://www.neurreps.org/speaker-series

麻省理工学院（MIT）电气工程与计算机科学系博士生贝赫鲁兹·塔马塞比（Behrooz Tahmasebi）在2021年的一堂微分方程课程中，偶然发现了一个百年数学定理与现代机器学习之间的惊人联系。这个发现最终演变成了一项突破性研究，为机器学习领域开辟了新的研究方向。

2021年，塔马塞比在MIT的一堂数学课上首次接触到了魏尔定律（Weyl's law）。这个由德国数学家赫尔曼·魏尔（Hermann Weyl）在110年前提出的定理，原本用于描述鼓面或吉他弦等物理系统的基本频率所包含的谱数据复杂性。然而，塔马塞比敏锐地意识到，这个古老的数学定理可能与他正在研究的机器学习问题存在某种联系。

在与导师斯特凡妮·耶格尔卡（Stefanie Jegelka）教授讨论后，塔马塞比开始尝试将魏尔定律应用于机器学习领域。他们发现，通过考虑数据集固有的对称性，可以显著降低神经网络输入数据的复杂性。这种降低不仅能够简化机器学习过程，还能加速模型训练。

塔马塞比和耶格尔卡教授成功地修改了魏尔定律，使其能够评估数据集的复杂性，并将对称性纳入考量。这一创新性的修改在2023年12月的神经信息处理系统会议（NeurIPS）上获得了“焦点”（Spotlight）称号，该会议被认为是全球机器学习领域的顶级盛会。

约翰斯·霍普金斯大学的应用数学家索莱达德·维拉（Soledad Villar）评价道：“这项研究表明，满足问题对称性的模型不仅正确，而且可以使用少量数据产生更小误差的预测。”

这一突破性研究的意义在于，它为机器学习提供了一种新的优化方法。通过利用数据集的对称性，研究人员可以减少所需的数据量，降低计算复杂性，从而提高模型的训练效率和泛化能力。这种方法有望在图像识别、自然语言处理、生物信息学等多个领域发挥重要作用。

这项研究的成功也展示了跨学科思维的重要性。一个看似与机器学习无关的数学定理，经过创新性的改造，竟然能够为人工智能领域带来重大突破。正如塔马塞比所说：“魏尔定律与数据复杂性评估之间的联系，在表面上看起来非常薄弱，但最终却带来了如此重要的发现。”

这一突破不仅为机器学习研究提供了新的方向，也展示了数学理论在解决实际问题中的强大威力。随着研究人员进一步探索对称性在机器学习中的应用，我们有理由相信，这一发现将为人工智能的发展开启新的篇章。