一篇文章搞定克拉美罗界（CRB）

一篇文章搞定克拉美罗界（CRB）

引用

CSDN

1.

https://blog.csdn.net/a6333230/article/details/131982735

克拉美罗界（CRB）是统计学中一个重要的概念，用于衡量无偏估计量的方差下界。本文通过一个研究者的视角，详细介绍了CRB的定义、计算方法以及在多数据组合情况下的应用。文章内容深入浅出，适合对统计学和信号处理感兴趣的读者阅读。

起因

研究者最近在研究长基线（LBL）定位技术，发现大部分论文都提到算法获得的方差接近CRB，以此说明算法性能较好。因此，研究者开始深入学习CRB的相关知识。

经过

1. 查文档

克拉美罗界（CRB）为无偏估计量的方差确定一个下界，衡量无偏估计的性能。无偏估计是指估计方法获得结果的平均值和真实值的差为0，即估计结果在真实结果附近波动，且平均误差为0。方差用于描述数据的波动程度，可以反映计算或测量结果的稳定性。下界一般认为是能达到的最好结果，即输出结果的波动程度不会小于这个下界。无偏估计的性能包括准确性（偏差）和稳定性（方差）。

2. 存在问题

研究者在初步了解CRB后，提出了以下疑问：

• 输入数据的方差如何获得？
• CRB是否只需要知道输入数据的方差就能得到整个定位算法的CRB？是否完全不需要考虑数据使用方式和最终结果的关系？

对于第一个问题，研究者推断方差可以通过实测和理论两种方式获得：

• 实测：利用设备测量大量数据，获得设备测量的方差。如果有真实值，还可以判断是否是无偏。
• 理论：学术上或工程上，有很多人分享了不同测量设备获得的数据方差范围，在研究中可以直接使用。

对于第二个问题，研究者发现CRB确实与估计方法无关，只需要通过已有数据获得最好的估计结果。

3. 似然函数与对数似然函数

为了更好地理解CRB，研究者学习了两个重要概念：似然函数和对数似然函数。

似然函数对于给定的观测数据，表示在不同参数值条件下观测数据的概率密度或概率质量。例如，高斯分布就是一种似然函数，其参数包括均值和方差。

对数似然函数是似然函数的对数形式，通过求导可以找到函数的极值点。对于高斯函数而言，其拐点在x=μ（均值）处。通过对对数似然函数进行求导，发现函数的二阶导数是一个固定值，只与σ（标准差）有关。二阶导数绝对值越大，证明曲率越大，越陡峭。似然函数（高斯函数）的负的二阶导数越大，函数越陡峭，利用符合这样分布的一组数据估计出的结果越准确。

4. 多数据组合的CRB

在实际应用中，往往需要多个数据来估计最终结果。如果这些数据独立，最终结果的方差是所有方差的累加。但是，这里有一个误区：这并不是简单的数据方差相加，而是数据方差乘以对应的系数平方后再相加。

例如，对一个数据进行多次测量并取平均：

因此，最终结果的方差为σ²/n，对应的CRB也为σ²/n。

5. 费希尔信息

费希尔信息（Fisher Information）是一种测量可观察随机变量X携带的关于模型X的分布的未知参数θ的信息量的方法。高斯函数的参数θ包括均值μ和方差σ²。费希尔信息是高斯函数对μ求二阶导的结果，与对x求二阶导一致。CRB是Fisher信息的倒数。

6. 贝叶斯统计

贝叶斯统计用于处理不确定性和随机性的问题，将主观先验知识与数据相结合，从而得出关于参数的后验概率分布。具体步骤包括：

1. 先验概率分布：在收集数据之前，用一个概率分布描述参数的不确定性。
2. 似然函数：通过收集实验或观测数据，得到似然函数，描述在给定参数下观察到数据的可能性。
3. 后验概率分布：利用贝叶斯定理，将先验概率分布和似然函数相结合，得出关于参数的后验概率分布。
4. 贝叶斯估计：从后验概率分布中提取有关参数的信息，例如计算均值、中位数、最大似然估计等，用于参数估计和推断。