熵权法：基于信息熵的多指标综合评价方法详解

创作时间:

作者:

@小白创作中心

熵权法：基于信息熵的多指标综合评价方法详解

引用

CSDN

https://m.blog.csdn.net/blog_programb/article/details/145585268

熵权法是一种基于信息论中的熵概念来确定各评价指标权重的方法。该方法通过衡量各个指标值之间的差异程度，自动赋予不同重要性的权重给各项指标，在多属性决策分析中具有广泛应用。

熵权法概述

熵权法是一种基于信息论中的熵概念来确定各评价指标权重的方法。该方法通过衡量各个指标值之间的差异程度，自动赋予不同重要性的权重给各项指标，在多属性决策分析中具有广泛应用。

特点

客观性强：依据数据本身特性而非主观判断分配权重；
适应面广：适用于多种类型的定量评估场景；

计算步骤详解

为了利用熵权法进行数据分析并辅助决策制定，通常遵循如下几个主要阶段：

数据预处理

对于原始数据矩阵 (X) ，首先需要对其进行标准化处理以消除量纲影响。常用的方式是对每一列的数据减去最小值再除以其极差范围得到无量纲化的新数值
$$Z_{ij}=\frac{X_{ij}-\min(X_j)}{\max(X_j)-\min(X_j)}$$

构建概率分布矩阵

接着构建一个反映相对优势的概率分布矩阵 P 。其中每个元素表示第 i 行样本在 j 列特征上的占比情况。
$$P_{ij}= \begin{cases}
\dfrac {z_{ij}} {\sumk z{kj}}, & 若 \sum_k Z_{kj}>0 \
\dfrac {1}{n},& 否则\
\end{cases}$$

计算熵值 e 和冗余度 d

根据上述概率分布计算每项指标对应的熵值 e 及其冗余度 d ：
$$e_j=-K\sum_i p_{ij}\ln(p_{ij}) , K= \frac{1}{\ln(n)},j=1,2,\cdots,m$$
$$d_j=1-e_j$$

权重向量 w 的求解

最后按照下述公式得出最终的加权系数
$$w_j=\frac{d_j}{\sum_k d_k}$$

Python 实现案例展示

下面给出一段简单的Python代码片段用于演示如何运用熵权法完成一次完整的评分过程:

import numpy as np

def entropy_weight(data):
    """Calculate the weights using Entropy Method."""
    
    # Step 1: Normalize data (Min-Max Scaling)
    norm_data = (data - data.min(axis=0)) / (data.max(axis=0) - data.min(axis=0))
    
    # Step 2: Compute probability matrix P
    row_sum = norm_data.sum(axis=0)
    prob_matrix = np.where(row_sum != 0, norm_data/row_sum, 1/data.shape[0])
    
    # Step 3: Calculate entropies and redundancies
    k = 1./np.log(prob_matrix.shape[0])
    entropies = (-prob_matrix * np.ma.log(prob_matrix)).filled(0).sum(axis=0)*k
    redunancy = 1 - entropies
    
    # Step 4: Derive weight vector W
    weights = redunancy/redunancy.sum()
    
    return weights

if __name__ == "__main__":
    # Example dataset with three attributes
    example_dataset = np.array([[79., 86., 95.],
                                [85., 92., 88.],
                                [88., 80., 90.]])
                                
    calculated_weights = entropy_weight(example_dataset)
    print(f"Calculated Weights are : {calculated_weights}")

这段程序实现了从输入数据到输出最优权重的一系列操作，并打印出了针对特定实例所获得的结果。

熵权法是一种在多指标综合评价中用于确定各指标权重的客观方法。以下是对熵权法的介绍：

基本原理

信息熵的概念：信息熵是度量信息无序程度的一个概念，由香农提出，其基本思想是信息的不确定性越大，熵就越大，包含的信息量也就越多。在熵权法中，用来衡量各个指标的信息熵，以确定指标的重要性。
熵权法的核心思想：通过计算各个指标的信息熵，根据信息熵的大小来确定每个指标的权重。一般来说，若某个指标的信息熵越小，表明该指标的变异程度越大，提供的信息量越多，在综合评价中所起的作用也越大，其权重也应越大；反之，指标的信息熵越大，表明其变异程度越小，提供的信息量越少，作用越小，权重也越小。

算法步骤

数据标准化：由于不同指标的数据可能具有不同的单位和量级，为了避免因量纲不同而造成的比较误差，需要对原始数据进行标准化处理，使所有指标都在同一量纲上，以便公平地比较和计算。
计算指标的比重：计算每个指标在各个评价对象中的取值比重，即第j项指标在第i个方案中占该指标的比重，这是为了计算该指标的变异大小。
求各指标的信息熵：根据信息论中信息熵的定义，计算各个指标的信息熵。对于给定的m个评价指标和n个评价对象，先计算第j项指标下第i个评价对象的特征比重，然后根据公式计算第j项指标的信息熵。
确定各指标的权重：根据信息熵的计算公式，计算出各个指标的信息熵后，再通过特定的公式计算各指标的权重。例如，一种常见的方法是先计算信息冗余度，然后用1减去信息冗余度得到差异系数，最后根据差异系数计算权重，并进行归一化处理，使所有权重之和为1。
计算综合评价结果：将各指标的权重与相应的标准化数据相乘，并求和得到综合评价结果，从而得出最终的评估结论。