基于组合模型的公交交通客流预测研究

创作时间:

作者:

@小白创作中心

基于组合模型的公交交通客流预测研究

引用

CSDN

https://blog.csdn.net/weixin_47723732/article/details/142823873

本研究通过融合随机森林、XGBoost和LightGBM等机器学习模型，构建了一个公交客流预测系统。研究采用堆叠回归方法作为元模型，显著提升了预测精度。实验结果表明，组合模型在预测公交客流量方面具有明显优势，为城市公交系统的优化运营提供了科学依据。

研究背景与意义

在城市交通系统中，公交作为主要的公共交通工具，承载了大量的人流，其运行效率和服务质量直接关联着城市的动脉。随着城市化进程的加快，公交客流量日益增长，公交系统面临着巨大的运营压力。准确预测公交客流对于优化公交资源分配、提高运营效率、缓解交通拥堵等具有重要的实际意义。

数据准备与预处理

本研究采用的数据集是明尼阿波里斯都会区州际公路的交通流量数据，该数据集涵盖了2012年至2018年间的详细交通流量记录，以小时为单位记录。数据来源于加利福尼亚大学欧文分校机器学习存储库（UCI Machine Learning Repository），该存储库是一个广泛收集和共享机器学习和数据挖掘领域数据集的著名平台。

数据集包含了多种影响因素，包括天气情况、节假日等。具体变量如下：

假期（Holiday）：标识所记录时间是否为美国的公共假期，如国庆日、感恩节等，非假期时间则标记为"None"。
温度（Temp）：以开尔文为单位记录的温度，这对于理解不同温度下的交通流量变化十分关键。
降雨量（Rain_1h）：过去一小时内的降雨量，以毫米计，影响道路条件和驾驶者的出行选择。
降雪量（Snow_1h）：过去一小时内的降雪量，以毫米计，降雪对交通流量的影响尤为显著。
云量（Clouds_all）：天空云量的百分比，反映了天气状况对交通的潜在影响。
主要天气（Weather_main）：描述天气的主要类别，如晴天、多云、雨天等。
天气描述（Weather_description）：对主要天气的进一步描述，如“散云”、“破云”等，提供了更详细的天气信息。
日期和时间（Date_time）：记录的具体日期和时间，精确到小时，为研究提供了时间序列分析的可能性。
交通流量（Traffic_volume）：目标变量，记录每小时的车流量，为研究交通模式和预测交通流量提供了基础。

单一模型的选择与构建

在本研究中，我们关注于构建和优化单一模型来预测给定的时间序列数据。特别地，我们集中在三种流行的机器学习算法上：随机森林、XGBoost和LightGBM。这些模型因其在处理复杂数据集时表现出的高效性和准确性而被广泛采用。

随机森林模型是以决策树为基础构建的集成学习模型，它通过创建多个决策树并综合它们的预测结果来提高预测的准确性和稳定性。我们初始化了一个随机森林回归器，并设置了100棵树作为模型的基础。通过在训练数据上训练该模型，我们能够得到对测试集的预测结果。进一步，我们计算了模型在测试集上的均方误差（MSE）、均方根误差（RMSE）、平均绝对误差（MAE）和R²值，以全面评估模型的性能。结果显示，随机森林模型在测试集上的R²值接近0.78，表明模型能够较好地解释目标变量的方差。

接下来，我们采用XGBoost和LightGBM两种基于梯度提升的算法。XGBoost是一种优化的分布式梯度提升库，能够有效地处理大规模数据，而LightGBM则是一种基于梯度提升的轻量级框架，特别适合处理大数据集。与随机森林模型相同，我们分别初始化了XGBoost和LightGBM模型，并在训练集上进行了训练。通过在测试集上的预测，我们发现这两种模型的性能与随机森林模型相似，R²值均接近0.78，这表明它们同样能够有效地预测时间序列数据。

为了进一步提升模型性能，我们对每种模型进行了参数优化。通过网格搜索方法，我们探索了模型的关键参数，如随机森林的树的数量、最大深度、最小样本分割数和最小样本叶节点数；XGBoost的树的数量、最大深度、学习率和子样本比例；以及LightGBM的树的数量、最大深度、学习率、叶子数量和子样本比例。网格搜索在指定的参数范围内尝试所有可能的参数组合，以找到最优化模型性能的参数设置。通过在训练集上进行交叉验证，我们能够确定每个模型的最佳参数组合，并使用这些参数重新训练模型。

组合模型的设计与实现

在本研究中，我们采用了堆叠回归（StackingRegressor）作为组合模型的核心框架，以整合随机森林、XGBoost和LightGBM三种不同的单一模型，目的是利用各个模型的优势，提高整体预测性能。堆叠模型的设计思路是在原有基模型的预测基础上，引入一个元模型（Meta Model），通过元模型学习如何最优地结合各个基模型的预测结果。

在构建堆叠模型时，首先定义了三个基模型：优化后的随机森林、XGBoost和LightGBM。这三个模型在许多回归问题上已经证明了它们的有效性，分别代表了基于树的集成学习、梯度提升机和轻量级梯度提升框架的不同算法。通过将这些强大的模型作为基模型，我们能够捕获数据中的不同模式和关系，从而提高预测的准确性和鲁棒性。

接下来，我们选用线性回归作为元模型。线性回归是一种简单而有效的模型，它的主要优点在于模型解释性强和计算效率高。在堆叠模型中，元模型的作用是学习如何根据基模型的预测结果来生成最终的预测值。具体而言，它将各个基模型的预测结果作为输入特征，通过训练过程来确定每个基模型预测的权重。这种方法允许元模型自动学习到最佳的结合方式，即在最终预测中各个基模型应该占据多少比重。

模型评估与比较

在本研究中，我们通过对单一模型和组合模型的性能进行比较，揭示了集成学习策略的优势和潜力。参数优化后的基础模型，即随机森林、XGBoost和LightGBM，在测试集上的性能指标表明，这些单一模型已经表现出了相当的预测能力，其中随机森林和LightGBM的R²值均为0.78，XGBoost稍低，为0.77。这些模型的均方误差（MSE）和均方根误差（RMSE）也相差不大，展现了它们在处理时间序列数据上的有效性。

然而，当我们转向组合模型——特别是我们构建的堆叠模型时，我们观察到一个细微但重要的性能提升。堆叠模型的R²值仍然保持在0.78，与单一模型相当，但其均方误差（MSE）和均方根误差（RMSE）略有下降，平均绝对误差（MAE）也有所降低。尽管这些改进看似微小，但它们揭示了组合模型在预测性能上的稳定性和鲁棒性。

组合模型之所以展现出这种优势，主要归因于其能够整合多个模型的预测并从中学习的能力。在堆叠回归的框架下，不同基模型的预测结果被用作元模型的输入特征。这种方法允许元模型捕捉到各个基模型在特定情况下的强项和弱点，从而更加智能地结合它们的预测。例如，某个基模型可能在特定类型的数据分布上表现得更好，而另一个模型则可能在处理异常值时更为出色。通过堆叠模型，我们能够利用这些互补的特性，实现更加准确和稳健的预测。

此外，堆叠模型通过引入一个元模型增加了额外的学习层次，这为预测任务引入了更高级别的抽象。元模型的训练过程本质上是在学习如何最优化地组合基模型的预测，这一过程可以被视为一种自动的权重分配机制，其中权重是基于基模型在特定任务上的表现而确定的。

图4 组合模型的预测值与真实值对比

实际应用与案例分析

将理论模型转化为实际应用，解决现实问题，是公交客流预测研究的最终目的。在本研究中，所构建的组合模型不仅在理论上具有坚实基础，而且在多个实际应用场景中显示出了卓越的效果。通过对一个具体城市公交系统的案例进行分析，展示了模型的实际效果和应用潜力。本案例涉及该城市的主要公交线路，通过应用组合模型，成功预测了不同时间段和天气条件下的客流量变化，为公交调度和资源分配提供了科学依据。