PNAS：基于机器学习从湍流结构预测统计数据：以循环流动模式作为二维湍流的基础

PNAS：基于机器学习从湍流结构预测统计数据：以循环流动模式作为二维湍流的基础

湍流是流体力学中一个长期存在的难题，其统计特性的预测一直是研究的重点。本文通过将二维湍流表示为在流动中瞬时实现的精确不稳定周期轨道之间的马尔可夫链，建立了湍流结构与统计特性之间的联系。研究团队开发了一种基于标量损失函数优化的方法，克服了以往算法的限制，并在高雷诺数下具有良好的效果。随后，使用神经网络根据最近的不稳定解对湍流快照进行标记，实现了马尔可夫表示，其不变测度可以重现混沌流动的完整概率密度函数（PDFs）。

研究背景与意义

湍流领域的一个长期挑战是将个别的相干结构与流动的更为众所周知的统计特性联系起来。在本文中，我们通过将二维湍流表示为在流动中瞬时实现的精确不稳定周期轨道之间的马尔可夫链，建立了这一联系。为了找到动态相关的解，我们开发了一种基于标量损失函数优化的方法，这种方法克服了以往算法的限制，并在高雷诺数下具有良好的效果。随后，我们使用神经网络根据最近的不稳定解对湍流快照进行标记，从而实现马尔可夫表示，其不变测度可以重现混沌流动的完整概率密度函数（PDFs）。

研究方法与创新

动力系统方法将湍流视为在高维状态空间中的轨迹运动。混沌动力学由填充惯性流形的不稳定简单不变解所塑造。研究的希望是将这种图景转化为一种预测框架，在其中流动的统计特性可以通过各个简单不变解的统计量的加权和来得到。然而，两个突出的障碍阻碍了这一目标的实现：1）已知解的匮乏，以及2）缺乏预测所需权重的合理理论。在本文中，我们描述了一种方法，可以实质性地解决这些问题，从而提供有力的证据，证明可以通过一组不稳定的周期轨道来重建完全发展的湍流流动的概率密度函数（PDFs）。

我们寻找解的方法使用了自动微分技术，通过最小化与轨迹相关的损失函数构建高质量的初始猜测。我们利用这种方法在湍流的二维Kolmogorov流中找到了数百个解。随后，通过将湍流轨迹转化为马尔可夫链来学习权重，并利用深度卷积自编码器确定给定快照的最近解，从而计算出稳健的统计预测。在本研究中，我们成功地用一组简单的不变状态重现了时空混沌系统的PDFs，并且我们提供了一个自维持动力学过程与湍流更为人熟知的统计特性之间的有趣联系。

关键发现与突破

在研究中，我们提出了解决这一问题的计算方法，这些方法克服了许多早期的限制，介绍了用于寻找和收敛不稳定周期轨道（UPOs）以及通过标记湍流数据来定义权重的方法，该标记基于在状态空间中哪个解最接近。与早期工作相比，我们的UPO检测方法不需要精心构建初始猜测，并且能够产生大量动态相关的UPOs。为此，我们改进了最近开发的完全可微分流动求解器，通过对涉及整个解轨迹的损失函数执行梯度下降，我们能够找到UPO的高质量猜测。这使得我们能够显式搜索具有某些特性（例如高耗散率）的周期轨道，并且能够成功地从任意的湍流快照开始收敛大量的UPOs。

随后，我们训练了深度神经网络，以学习湍流的精确低阶表示，我们可以利用这些表示来测量在任何时刻湍流轨道最接近哪个UPO。结果是一个马尔可夫湍流动力学，它不仅允许我们通过链的不变测度定义UPOs的权重，还提供了对极端事件路径的洞察。从不变测度中发现的权重可以稳健地再现湍流吸引子的统计特性，包括完整的耗散概率密度函数（PDF），实现了Hopf的原始设想。

结论与展望

在本文中，我们汇集了令人信服的证据，支持湍流是一种在不稳定简单不变集 合之间弹跳的高维“弹球”的观点（这一观点通常归功于Hopf）。为此，我们设计了一个方法来找到大量动态相关的不稳定周期轨道（UPO）——这是该领域长期存在的局限性——并提出了一种方法，通过最近的UPO对湍流快照进行准确标记，其中距离在深度卷积自动编码器的潜在空间中测量。结果是湍流的马尔可夫图景，这在适中的雷诺数下不仅提供了对动态路径和极端事件路径的洞察，还提供了对混沌动力学的稳健统计预测。

尽管收敛了大量新解，仍然有一些重要的状态在 Re=40 时缺失，而在 Re=100 时则缺失了大量解。这些空白中的一些（例如 Re=40 时的低耗散事件）可能会从改进的快照选择过程受益。在当前配置中，改进可能涉及诸如仅选择返回到状态空间相似区域的快照——不是近似重现，而是更弱的要求，例如通过这里训练的自动编码器确定——或者通过搜索离散对称性。这在研究更复杂的三维流动时可能是一个重要的考虑因素。

尽管如此，在 Re=100 时状态空间覆盖中的大范围空白，结合组装解时不断增加的计算成本，自然会引起一些关于“UPO-弹球”概念适用性的担忧，以分解二维和三维多尺度湍流的高雷诺数流动的统计数据。例如，在 Re=100 时使用 T≈2.5 的新解收敛，网格点数为 Nx×Ny=512×512 时，平均需要约24小时的GPU计算时间（使用Nvidia V100显卡，此计算假设从随机湍流快照开始的成功率为5%）。此外，还有用于标记快照的自动编码器训练成本（在约105个快照的训练数据集上需要约48小时的GPU时间）以及构建稳健的马尔可夫链所需的长参考轨迹成本——这本身就产生了准确的统计数据，UPOs用于重构这些数据。

即使完全的统计覆盖具有挑战性，寻找具有特定物理特性的精确循环流动的能力也非常有用，如果目标是理解个别动态事件在诸如能量级联等众所周知的统计现象中的重要性。同样值得注意的是，三维情况可能与本文研究的二维流动有很大不同：在二维情况下，我们预计在高雷诺数下获得的一些解可能会在 Re→∞ 时连接到欧拉方程的解，这些解预计会形成充满域的涡旋，而有壁湍流预计需要更复杂的多尺度描述，具有附着于边界的不同大小的涡旋。早期对三维最小流动单元中弱瞬态湍流的研究表明，个别UPOs的统计数据有时可能与湍流本身非常相似，这为三维情况提供了谨慎的乐观态度。

本文概述的UPO搜索方法使我们能够明确针对我们迄今为止构建的PDF中的空白进行搜索，我们相信这一能力意味着尽管目前所需的计算时间似乎很极端，但仍有可能通过UPOs实现稳健的统计覆盖。方法的许多方面都有改进的空间，这些改进可能会加速搜索过程，包括i) 更加考虑的初始快照选择和ii) 修改优化（例如通过改变范数）以提高收敛率。这种表示的潜力远远超出简单的统计重构：UPO表示允许计算混沌系统的敏感性，而通常统计量的梯度是不可计算的，而最大的希望是在一个雷诺数下的构建可以用来评估个别动态事件在更高雷诺数下的统计中的作用，通过延续解及其权重。

图表说明

图1. （左图）所有在 Re=40时周期 T<8 的收敛轨道的耗散与周期的关系（平均耗散率以白色方框表示）。参考文献16中列出的四个已知解以蓝色标识，平均耗散率以圆圈表示，周期为 T∈{2.83,2.92,5.38,6.72}（周期为 T=7.16 的解也可能在参考文献27中被发现）。用十字标识的解稍后将在图2中展示。（右图）在 Re=40 时所有收敛解的能量产生与耗散的关系，包括左图未显示的一些较长周期的轨道（所有收敛的UPOs在附录中列出）。湍流状态的概率密度（从长时间计算运行 tlong=2.5×105 得出）以灰色显示。等高线级数以对数间隔，最小值为 10−6。所有数值均以层流值 Dl=Re/(2n2) 归一化。

图2. 面外涡量在𝑅𝑒=40下的三个不稳定周期轨道（UPOs）上以时间等间隔提取的四个点处的快照。（顶部）在𝑅𝑒=40时最短的轨道——已知的𝑇=2.83解，平均耗散率⟨𝐷/𝐷𝑙⟩=0.095。（中间）一个新的高耗散UPO，周期为𝑇=2.90，平均耗散率⟨𝐷/𝐷𝑙⟩=0.246。（底部）一个新的高耗散UPO，周期为𝑇=3.27，平均耗散率⟨𝐷/𝐷𝑙⟩=0.285。在所有情况下，等高线的范围为−10到10。这些解都在图1中用十字标识。

图3. 在Re=100时能量产生率与耗散率的关系。灰色背景是从长时间湍流计算tlong=2.5×105得出的概率密度函数（PDF）。等高线级数以对数间隔，最小值为 10−6。闭合环是151个收敛UPO的二维投影。所有数值均以层流值 Dl=Re/(2n2)归一化。所有周期轨道及相关属性（周期、位移、Floquet指数）均列在附录中。

图4. 面外涡量在 Re=100下的四个UPOs上以时间等间隔提取的四个点处的快照。从上到下，UPOs的周期和平均耗散率分别为：(T,⟨D/Dl⟩)=(1.424,0.057)、(1.794,0.053)、(4.212,0.027)和(1.164,0.078)。涡量等高线级数在 ±10之间。

图5. (A) 在 Re=40 时耗散率的示例时间演化，颜色根据方程6确定的最近UPO进行标记。在此区间内最频繁访问的五个UPO在图例中突出显示，并以其周期 TTT 进行标注。(B) 涡量的快照（顶部）来自用于生成(A)中耗散图的直接数值模拟 (DNS)，快照对应的时间在(A)中用方框/数字标识，同时也展示了最接近的UPO的快照（底部），其中我们选择了水平位移s和轨道上的时间τ，以最小||ω−Tsfτ(ωPO||2。

图6. (A)在Re=40时的不变测度π和转移矩阵P（显示为转移概率的对数，快照间隔为 δt=1）。状态按平均耗散率从低到高排序（最低在顶部/最左侧）。红色水平线标识了文中讨论的网 关或“混合”状态。红色垂直线强调了具有有限转移概率进入该混合区域的广泛状态范围，涵盖了高耗散和低耗散事件，而虚线垂直线表示文中讨论的 D/Dl=0.15的“阈值” 。(B) 展开式 [7] 中的权重（也是马尔可夫链的不变测度wj=πj）与每个UPO的增长Floquet指数之和（取其实部）∑jσj,σj>0的关系图。

图7. 基于UPO的统计预测，这些预测是根据马尔可夫链的不变测度计算的，定义了UPO展开中的权重（方程7），适用于(A) Re=40 和(B) Re=100（转移矩阵在附录中报告）。从左到右的前三个面板显示了耗散率、产生率和能量的概率密度函数（PDF）：虚线蓝色曲线是通过长时间湍流计算（tlong=2.5×105）获得的“真实”PDF，而填充的灰色曲线是基于UPO的重构。最后两个面板比较了平均速度剖面和均方根速度波动（左侧为u，右侧为v））——在流向、离散对称性和时间上取平均值。蓝色和橙色曲线分别表示u和v的DNS真实值，黑色曲线表示基于UPO的重构。