SHAP可解释性与聚类分析结合的11个创新方案

SHAP可解释性与聚类分析结合的11个创新方案

引用

CSDN

1.

https://blog.csdn.net/weixin_42645636/article/details/145480683

SHAP可解释性与聚类分析的结合是当前机器学习可解释性研究的热门方向之一。这种结合不仅能深入理解模型的决策过程，还能通过聚类揭示数据中的潜在模式，进一步提升模型的可解释性和性能，在医疗、金融风控、电子商务等领域应用超级广泛，是个研究价值高、创新空间大的方向，非常适合我们做创新。目前，这方向主要围绕基于SHAP值的监督聚类、聚类辅助的SHAP解释增强、交互式特征分析与模式发现等核心思路进行研究，如果大家想发论文，也建议从这些角度入手。

K-shap: Policy clustering algorithm for anonymous multi-agent state-action pairs

论文通过结合SHAP可解释性和聚类分析，提出了一种新的方法来处理匿名多智能体系统中的策略识别问题，不仅能够解释智能体的行为，还能通过聚类分析将不同的行为模式分组，为理解复杂多智能体系统提供了新的视角。

创新点：

• K-SHAP算法是第一个在匿名状态-动作对下进行策略聚类的方法。
• K-SHAP (Z)通过应用UMAP对SHAP值进行2维嵌入，显著提升了聚类性能。
• K-SHAP算法在使用多种状态特征决策的潜在策略下最为有效，即使只使用少量特征也能区分策略。

Beyond explaining: XAI-based Adaptive Learning with SHAP Clustering for Energy Consumption Prediction

论文提出了一种基于SHAP聚类的自适应学习方法（SCAL），用于处理数据分布偏移问题，并通过解释模型预测来动态调整模型，以提高模型的预测性能和可解释性。

创新点：

• 提出了一种结合可解释人工智能（XAI）技术与自适应学习的方法，以增强能源消耗预测模型的性能。
• 该研究通过利用从SHAP聚类中获得的信息，迭代优化模型，避免过拟合，并提高模型的泛化能力。
• 提出了一个三阶段过程：（1）获取SHAP值以解释模型预测，（2）聚类SHAP值以识别不同模式和异常值，（3）根据SHAP聚类特征优化模型。

Interpretable clustering of spatio-temporal data by using SHAP method

论文通过提出一个可解释特征选择框架，利用聚类方法对纽约出租车数据进行时空信息分析，旨在提升聚类结果的可解释性和效率，并通过实验验证了SHAP算法在提高特征选择阶段表现方面的优势。

创新点：

• 提出了一种创新的“可解释特征选择框架”，结合了时空数据的聚类方法。
• 通过分析出租车移动数据，优化了出行行为和需求的理解，从而提高了出租车服务的效率和效能。
• 针对时空数据中的不确定性和噪声问题，提出了一种选择最佳聚类数量的框架，既避免了信息丢失，又防止了数据过拟合。

Shapley-based explainable ai for clustering applications in fault diagnosis and prognosis

论文探讨了将Shapley值用于半监督学习中的可解释性聚类框架，以解决制造业中常见的故障诊断和健康管理问题，其理论框架基于Shapley值的特征贡献分析，通过两项案例研究验证了此方法对不平衡和弱标记数据集的有效性。

创新点：

• 开发了一种新的基于Shapley值的聚类框架，适用于无监督、半监督和全监督的场景。
• 通过利用Shapley值解释在故障诊断和预后的背景下，得出了有用的高精度决策规则。
• 在N-CMAPSS数据集上开发的Shapley值XAI方法展示了同时检测健康状态、预测故障部件及其剩余使用寿命（RUL）的潜力。