基于深度学习的微电流测量
基于深度学习的微电流测量
在微电流测量中，抑制噪声干扰是重点问题。针对目前消除噪声干扰多集中在装置设计阶段，提出一种借助深度学习技术在数据处理阶段消除噪声干扰的测量方法。以微电流测量装置的输出电压值和计量所高精度万用表的微电流相对真值构成数据样本，选用Tensorflow实验平台，利用1500个数据样本训练“最优神经网络”以对微电流值进行预测，并利用剩余的27个样本检验。实验结果表明，较传统最小二乘法解得的“最佳函数”，深度学习方法能较好消除噪声干扰，平均相对误差更小、预测精度更高。
随着现代电子技术和测量技术的不断发展，微弱电流的测量已经变得越来越重要。目前微电流在电力工业检测、无机化工、现代医学与健康、畜牧养殖等领域应用广泛。本实验尝试将深度学习方法引入微电流测量中消除噪声干扰，以提高测量精度。
总体设计
如图1所示，微电流测量装置由I-V转换模块、数据采集模块、电源模块组成。在高精度低温飘的1MΩ电阻上加载一个稳定激励电压，产生稳定的微电流，输入I-V转换模块（其工作电压由电源模块提供），将微电流转换为电压，再由数据采集模块采集电压数据，传输至PC机进行一系列数字滤波处理得到输出电压值。将输出电压与计量所高精度万用表的微电流相对真值构成数据样本，采集1527个数据样本。在PC机上借助深度学习方法，消除噪声干扰，找到输出电压值与微电流真值的对应关系，从而完成微电流测量。
硬件设计
I-V转换模块
I-V转换模块（包括KW_TLC2201跨阻放大器）的作用是将微电流转换为可测量电压，工作原理如图2所示，包括两级集成运放电路：第一级集成运放电路是负反馈放大电路，将微电流放大为反向电压，起放大作用的是反馈电阻R1，（R1可以更换为其他阻值的电阻以改变实验装置的测量量程）；第二级集成运放电路是一个反向电压跟随器，对第一级集成运放电路的输出电压反向跟随，得到一个可测量电压VOUT，即I-V转换模块的输出电压。由原理图可知，在理想状态下：VOUT = I×R1（I为输入的微电流，R1为反馈电阻）。
数据采集模块
数据采集模块包括STM32F103C8T6型单片机和ADS1115型AD芯片，工作原理分别如图3、图4所示。AD芯片将I-V转换模块的输出电压数模转换后发送至单片机，单片机通过RS232串口向PC机传输十进制电压值。
PC机
每输入一个微电流便在PC机使用STC-ISP软件打开串口接收2000个左右的输出电压值，并在Matlab进行高斯滤波、中值滤波、均值滤波得到输出电压值VOUT。一个输出电压值与一个微电流相对真值构成一个数据样本，采集1527个数据样本。
搭建微电流测量装置、采集微电流相对真值
将I-V转换模块、数据采集模块、电源模块搭建微电流测量装置（图5中虚框部分），利用安徽省长江计量所校准器、高精度万用表对其定标，如图5所示。5520A型多产品校准器提供准确的激励电压，加载到高精度低温飘的1MΩ电阻上，产生微电流；KEYSIGHT 3458A高精度万用表用于测量输入微电流值，为微电流测量装置定标提供微电流的相对真值；GPS-3303C直流电压源为数据采集模块提供工作电压。
深度学习优化算法
深度学习是机器学习领域内的研究方向之一，它通过提取低层次特征向高层次特征转变来为数据进行建模，得到一种深层非线性网络结构的最优模型，从而实现复杂函数逼近，展现了强大的从少数样本集中学习数据集本质特征的能力。
在各种深度学习框架中采用的算法主要分为两类：动量型算法和自适应步长型算法。
最早的自适应型步长算法是AdaGrad，它独立地适应所有模型参数的学习率，缩放每个参数反比于其所有历史梯度平方值总和的平方根。RMSProp算法将AdaGrad中梯度积累求算术平均的方式改变为指数加权的移动平均（EMA），这样做的目的使其在目标函数非凸的情况下表现更好从而更加适应深度学习环境。
2015年OpenAI在深度表示学习顶级会议ICLR中提出的Adam（adaptive moment estimation）是目前流形的优化算法之一。Adam本质上结合了AdaGrad和RMSProp算法，设置两个辅助矩估计变量s和r，从而为不同的参数设计独立的步长。
其中一阶矩估计s以指数加权移动平均的形式积累历史梯度的信息
s = ρ1s + (1-ρ1) g
二阶矩估计r以指数加权移动平均的形式积累历史平方梯度的信息
r = ρ2r + (1-ρ2) g ⊙ g
其中g表示当前梯度，ρ1、ρ2一般分别取值为0.9和0.999。Adam算法中一阶矩估计将积累的历史梯度信息和当前梯度结合作为参数更新的总体方向，使得算法能够大概率向着目标函数值最小的方向运行，从而减少震荡。运用二阶矩估计能够根据历史平方梯度的信息对不同参数设置不同的学习率大小，在训练初期以较大数值的学习率实现对稀疏参数快速学习的目的，随着迭代次数增加到训练后期学习率数值减小使算法收敛，又因为引入EMA策略丢弃遥远的历史信息，算法不会出现学习率太小而提前终止训练的情况。
相比RMSprop算法，Adam算法偏差修正令其在梯度变得稀疏时更加快速。Adam在实验中可以快速收敛，追求计算效率，并且只需要较小调参成本。经验性结果证明了Adam算法相对于其他种类的随机优化算法具有很大的优势，也是深度学习中训练神经网络最常用的算法之一。另外，Adam还可以解决稀疏梯度和噪声问题。
数据处理
采用最小二乘法、深度学习方法分别处理微电流实测数据，为比较其优劣，定义相对误差E=｜I模型预测值 - I相对真值｜/ I相对真值。
首先在1527个数据样本中随机抽取1500个数据样本纳入训练集，采用最小二乘法拟合微电流相对真值与输出电压值，得到最佳函数，将余下的27个数据样本纳入测试集，检验预测效果，并计算平均相对误差。
搭建神经网络架构训练微电流实测数据。利用训练集的1500个数据样本训练神经网络，利用测试集的27个样本测试训练所得模型的性能，并计算平均相对误差。
深度学习实验平台选用Tensorflow，如前所述，深度学习方法的核心是训练神经网络，本文通过搭建一个5层全连接神经网络来训练数据，其中第一个隐藏层节点数为10000，输入维度为1，对应1个数据特征（微电流相对真值）；第二个隐藏层节点数为500；第三个隐藏层节点数为500；第四个隐藏层节点数为500；最后一个输出层。优化算法使用Adam，激活函数选择ReLU。1527数据样本进行标准统计学交叉试验，随机抽取1500个样本，选用上述网络架构，通过基于梯度下降的自适应动量算法优化更新神经网络各层节点的权值，训练迭代10次，得到适应该数据集的最优神经网络模型。
对比深度学习方法和最小二乘法模型的预测效果，将剩余27个样本的实测输出电压值分别带入两种模型求得微电流预测值，再与27个微电流相对真值比较，计算相对误差，其结果如表1所示。计算二者的平均相对误差，
表1显示27个测试样本中，除第13、15、16、18、19、21、26、27测试样本外，其余测试样本的深度学习预测值与微电流相对真值的相对误差小于最小二乘法预测值与微电流相对真值的相对误差，且小于，由此可知深度学习预测效果优于最小二乘法预测效果。
针对余下27个样本，实测数据与深度学习方法、最小二乘法计算结果比较如图6所示。其中横坐标为微电流测量装置输出电压值，纵坐标为微电流相对真值。灰色圆点代表实测数据，即该点处输出电压值对应的微电流相对真值；深色线段代表用深度学习方法对训练集上实测数据建模后，在测试集上得到的微电流相对真值与输出电压值间的函数关系；浅色线段代表用最小二乘法对训练集上实测数据建模后，在测试集上得到的微电流相对真值与输出电压值间的函数关系。
图6显示，深色线段较浅色线段更贴近灰色实测数据点，即深度学习方法在图6实测数据与最小二乘法、深度学习方法计算结果的比较测试集上得到的微电流相对真值与输出电压值间的函数关系优于最小二乘法在测试集上得到的微电流相对真值与输出电压值间的函数关系。
结语
在上述实验中，对1500个训练数据进行建模，就是试图消除随机误差对微电流测量值的影响，或者消除噪声干扰。不管是深度学习方法还是最小二乘法都用了全部训练集1500个样本学习数据，都用了余下的27个样本进行检验。表1显示深度学习方法对应的平均相对误差更小；图6显示深度学习方法对未知数据的预测精度更高。以上两点对比可知深度学习方法具有以下优点：
（1）对已有数据能较好消除噪声对于微电流测量的干扰；
（2）对不可见数据具有较好的预测性；
（3）效果比最小二乘法好。
上述第三条优点，理论上讲有如下原因：
（1）最小二乘法只适用于线性回归。若拟合函数非线性，则需将拟合函数转换为线性函数后才能使用。而深度学习是一种基于梯度下降的迭代求解方法，非线性条件下仍可使用。对于本质上反映非线性关系的数据来说，深度学习方法预测结果无疑更贴近真实情况；
（2）深度学习本质上是一种端到端的特征学习过程，在计算回归损失之前，需要输入数据让网络模型感知特征，此过程由反向传播机制自动完成。因此深度学习方法比最小二乘法多一个自动提取样本特征的环节，其所得模型参数更加庞大，容纳信息更多，所以预测结果更为准确。
注：“一种微电流测量装置”实用新型专利已授权。