㊀２０２１年㊀第１期
仪表技术与传感器
Ｉｎｓｔｒｕｍｅｎｔ㊀Ｔｅｃｈｎｉｑｕｅ㊀ａｎｄ㊀Ｓｅｎｓｏｒ
２０２１㊀Ｎｏ １㊀
基金项目：国家自然科学基金项目（６１６７２３６９）收稿日期：２０２０－０１－１３
周㊀欣，王宜怀，姚望舒，葛新越
（苏州大学计算机科学与技术学院，江苏苏州㊀２１５００６）
㊀㊀摘要：针对嵌入式系统中传感器测量模拟量与采样值之间的非线性关系难以寻确定公式进行表达的问题，提出使用ＢＰ神经网络对非线性模拟量进行回归拟合㊂并针对ＢＰ神经网络易陷入局部极小值的缺陷，采用遗传算法进行优化㊂实验表明，与最小二乘法与三次样条插值法相比，ＢＰ神经网络对曲线拟合程度优于其余两种方法，且具有较高的准确度㊂遗传算法优化后的ＢＰ神经网络，能够更加快速 收敛，准确度也进一步提升㊂同时将网络模型应用在ＭＣＵ端，实现在ＭＣＵ端的预测与参数更新，具有一定的实用性和适应性㊂
关键词：嵌入式系统；模拟量；非线性；回归拟合；ＢＰ神经网络；遗传算法
中图分类号：ＴＰ２７３㊀㊀㊀文献标识码：Ａ㊀㊀㊀文章编号：１００２－１８４１（２０２１）０１－００８４－０５
ＮｏｎｌｉｎｅａｒＡｎａｌｏｇＲｅｇｒｅｓｓｉｏｎＢａｓｅｄｏｎＧＡ－ＢＰＮｅｕｒａｌＮｅｔｗｏｒｋ
ＺＨＯＵＸｉｎ，ＷＡＮＧＹｉ⁃ｈｕａｉ，ＹＡＯＷａｎｇ⁃ｓｈｕ，ＧＥＸｉｎ⁃ｙｕｅ
（ＳｃｈｏｏｌｏｆＣｏｍｐｕｔｅｒＳｃｉｅｎｃｅａｎｄＴｅｃｈｎｏｌｏｇｙ，ＳｏｏｃｈｏｗＵｎｉｖｅｒｓｉｔｙ，Ｓｕｚｈｏｕ２１５００６，Ｃｈｉｎａ）
Ａｂｓｔｒａｃｔ：Ａｉｍｉｎｇａｔｔｈｅｐｒｏｂｌｅｍｔｈａｔｔｈｅｎｏｎ⁃ｌｉｎｅａｒｒｅｌａｔｉｏｎｓｈｉｐｂｅｔｗｅｅｎｔｈｅａｎａｌｏｇｑｕａｎｔｉｔｙｍｅａｓｕｒｅｄｂｙｔｈｅｓｅｎｓｏｒａｎｄｔｈｅｓａｍｐｌｅｄｖａｌｕｅｉｎｔｈｅｅｍｂｅｄｄｅｄｓｙｓｔｅｍｗａｓｄｉｆｆｉｃｕｌｔｔｏｆｉｎｄａｃｅｒｔａｉｎｆｏｒｍｕｌａｔｏｅｘｐｒｅｓ
ｓ，ａｒｅｇｒｅｓｓｉｏｎｆｉｔｔｉｎｇｕｓｉｎｇＢＰｎｅｕｒａｌｎｅｔ⁃ｗｏｒｋｗａｓｐｒｏｐｏｓｅｄ．ＡｎｄｉｎｏｒｄｅｒｔｏｓｏｌｖｅｔｈｅｐｒｏｂｌｅｍｔｈａｔｔｈｅＢＰｎｅｕｒａｌｎｅｔｗｏｒｋｉｓｅａｓｙｔｏｆａｌｌｉｎｔｏｔｈｅｌｏｃａｌｍｉｎｉｍｕｍ，ｔｈｅｇｅｎｅｔｉｃａｌｇｏｒｉｔｈｍｗａｓｕｓｅｄｆｏｒｏｐｔｉｍｉｚａｔｉｏｎ．Ｅｘｐｅｒｉｍｅｎｔｓｓｈｏｗｔｈａｔｃｏｍｐａｒｅｄｗｉｔｈｔｈｅｔｒａｄｉｔｉｏｎａｌｌｅａｓｔｓｑｕａｒｅｍｅｔｈｏｄａｎｄｃｕｂｉｃｓｐｌｉｎｅｉｎ⁃ｔｅｒｐｏｌａｔｉｏｎｍｅｔｈｏｄ，ｔｈｅＢＰｎｅｕｒａｌｎｅｔｗｏｒｋｗａｓｂｅｔｔｅｒｔｈａｎｔｈｅｏｔｈｅｒｔｗｏｍｅｔｈｏｄｓｉｎｃｕｒｖｅｆｉｔｔｉｎｇ，ａｎｄｈａｓｈｉｇｈｅｒａｃｃｕｒａｃｙ．Ａｎｄｔｈｅｇｅｎｅｔｉｃａｌｇｏｒｉｔｈｍ⁃ｏｐｔｉｍｉｚｅｄＢＰｎｅｕｒａｌｎｅｔｗｏｒｋｃａｎｃｏｎｖｅｒｇｅｍｏｒｅｑｕｉｃｋｌｙａｎｄｔｈｅａｃｃｕｒａｃｙｗａｓｆｕｒｔｈｅｒｉｍｐｒｏｖｅｄ．ＡｎｄａｐｐｌｙｉｎｇｔｈｅｎｅｔｗｏｒｋｍｏｄｅｌｔｏｔｈｅＭＣＵｔｏａｃｈｉｅｖｅｐｒｅｄｉｃｔｉｏｎａｎｄｐａｒａｍｅｔｅｒｕｐｄａｔｅｏｎｔｈｅＭＣＵｈａｓｃｅｒｔａｉｎｐｒａｃｔｉｃａｌｉｔｙａｎｄａｄａｐｔａｂｉｌｉｔｙ．Ｋｅｙｗｏｒｄｓ：ｅｍｂｅｄｄｅｄｓｙｓｔｅｍ；ａｎａｌｏｇ；ｎｏｎｌｉｎｅａｒ；ｒｅｇｒｅｓｓｉｏｎｆｉｔｔｉｎｇ；ＢＰｎｅｕｒａｌｎｅｔｗｏｒｋ；ｇｅｎｅｔｉｃａｌｇｏｒｉｔｈｍ
０㊀引言
在嵌入式测控系统中，控制终端通过传感器对外界信息进行检测，经由放大电路㊁模数转换模块（ａｎａｌｏｇｔｏｄｉｇｉｔａｌｃｏｎｖｅｒｔｍｏｄｕｌｅ，Ａ／Ｄ转换模块）等，转换成能被终端识别的数字信号（又称为Ａ／Ｄ值）㊂为便于测控系统使用，需将Ａ／Ｄ值与实际外界信息对应，此对应过程可称之为物理量回归㊂
目前常见的物理量回归方法［１］有公式法，查表法，分段直线法，最小二乘法及三次样条插值法等㊂但受采样过程中传感器自身采样特性，放大电路与Ａ／Ｄ转换模块转换过程中所具有的非线性变换等因素的影响，待回归Ａ／Ｄ值与回归后的物理量之间成非线性关系㊂上述方法虽可用于解决物理量回归问题，但存在一定的缺陷㊂如公式法利用固定数字公式进行转换，速度快，但准确度不高；查表法根据输入输出表
格进行查，占用空间过大；分段直线法的分段越多，精度越高，但其复杂性也不断增加；而最小二乘法和三次样条插值法是通过采样数据确定相应的匹配函数，针对不同情况需重新确认公式，且非线性关系较为复杂，不易确定合适公式㊂
针对上述情况，本文提出以Ａ／Ｄ值作为输入，传感器测量的实际模拟量作为输出，使用ＢＰ神经网络进行回归拟合㊂并针对ＢＰ神经网络易陷入局部极小值的问题，选择使用遗传算法进行参数优化㊂将遗传算法优化后的ＢＰ神经网络与最小二乘法㊁三次样条插值法及传统ＢＰ神经网络进行比较，实
验表明，通过ＧＡ－ＢＰ算法能够有效的提高物理量回归的精度㊂同时提出一种回归模型在ＭＣＵ端应用的方法，该方法能够较好地在ＭＣＵ进行物理量回归及参数更新，具有一定的实用性和适应性㊂１㊀ＧＡ－ＢＰ神经网络回归模型１．１㊀ＢＰ神经网络
反向传播（ｂａｃｋｐｒｏｐａｇａｔｉｏｎ，ＢＰ）学习算法，是一
㊀㊀
㊀
㊀
㊀第１期周欣等：基于ＧＡ－ＢＰ神经网络的非线性模拟量回归
８５㊀㊀
种基于误差反向传播的前向多层反馈的人工神经网络算法㊂通过梯度下降法，寻实际输出值和目标值之间误差平方的极小值，从而对网络的连接权值进行调整，达到在调整过的网络模型中，对于每一组输入都能得到期望输出的目的［２］㊂
以Ａ／Ｄ值作为输入，传感器测量模拟量作为输
出，可构建单输入输出的神经网络模型㊂理论与实践表明，含有一个隐藏层的ＢＰ神经网络具有逼近任何闭区间内一个连续函数的能力［３］，因此使用３层神经网络模型进行训练和预测㊂其３层ＢＰ神经网络模型如图１所示 ㊂
图１㊀ＢＰ神经网络模型
在此网络模型中，设训练样例个数为Ｄ，网络由１个输入层单元，Ｑ个隐藏层单元，１个输出层单元构成㊂
输入层仅进行数据的输入，表示为ａｄ＝Ｘ，ｄ＝１，２，３， ，Ｄ为训练样本编号㊂隐藏层使用ｓｉｇｍｏｉｄ函数作为激活函数，提供非
线性变换过程，其输出为
ｈｄｉ＝ｓｉｇ（ｗｉａｄ＋ｏｉ）
（１）
式中：ｗｉ为输入层与隐藏层之间的权值；ｏｉ为输入层与输出层的权值，ｉ＝１，２，３， ，Ｑ为隐藏层单元数㊂
输出层同样使用ｓｉｇｍｏｉｄ函数，其输出为
Ｙ＝ｙｄ＝ｓｉｇ（ðＱ
ｉｖｉｈｄｉ＋ｒ）
（２）
式中：ｒ为隐藏层与输出层的阈值；ｖｉ为隐藏层节点与输出节点的权值，ｉ＝１，２，３， ，Ｑ为隐藏层单元数㊂１．２㊀遗传算法
遗传算法（ｇｅｎｅｔｉｃａｌｇｏｒｉｔｈｍ，ＧＡ）是一种模拟自然生存和遗传机制的最优解搜索算法［４］㊂通过选择㊁交叉和变异对种进行多次迭代优化，选择符合当前问题的最优解，其进化过程如图２所示
㊂
图２㊀遗传算法种进化过程电子涡轮增压器
该算法提供了一种求解复杂系统问题的通用框架，其全局搜索策略和优化搜索方法的计算不依赖问题的具体领域，只需要确定影响搜索方向的目标函数和适应度函数，便可以实现最优解搜索㊂１．３㊀ＧＡ－ＢＰ神经网络算法流程
针对传统ＢＰ神经网络训练过程易陷入局部极小值的问题，使用遗传算法进行优化㊂将随机生成的初始权值与阈值作为种的个体，经遗传算法筛选出较为合适的解作为ＢＰ神经网络的权值与阈值；由ＢＰ神经网络模型进行权值与阈值的进一步调整，得到能够较好反映输入输出非线性关系的训练模型，其训练过程如图３所示
㊂
图３㊀ＧＡ－ＢＰ神经网络训练过程
其具体执行步骤如下：
（１）训练样本归一化㊂使用最大最小值归一化对
训练样本进行数据压缩，保留数据特性的同时，加快训练速度㊂
（２）确定网络拓扑结构㊂根据训练样本确定隐藏层单元数㊁学习速率与激活函数等网络参数，生成相应的网络拓扑结构㊂
（３）生成初始种㊂随机生成权值与阈值的初始值，并将其作为种的个体，进行实数编码㊂
（４）计算适应度㊂适应度函数为
㊀㊀
㊀
㊀
㊀８６
㊀ＩｎｓｔｒｕｍｅｎｔＴｅｃｈｎｉｑｕｅａｎｄＳｅｎｓｏｒ
Ｊａｎ ２０２１㊀
ｆ＝１
Ｅ
（３）
式中：Ｅ为遗传算法的目标函数，是ＢＰ神经网络训练后实际输出值和目标值之间误差平方和㊂（５）选择父代㊂按适应度大小对个体进行排序，并使用赌算法［５］筛选出２个个体作为父代㊂十进制加法器
（６）随机交叉㊂父代以每层网络的权值与阈值作为基因，采用随机交叉算法，对基因进行组合生成
新的子代㊂
（７）变异㊂生成子代中，存在一部分个体发生变异，变异概率为０．０１㊂变异个体的权值和阈值将重新赋值，生成新的基因㊂
（８）是否满足停止条件㊂在不满足停止条件时，
从原始种中选择部分适应度高的个体与新生成子代组成新的种，重复（４） （７）的步骤继续求解满足情况的权值与阈值㊂
（９）权值与阈值的赋值㊂将遗传算法求解的权值
与阈值赋值给ＢＰ神经网络，通过网络训练进一步实现参数的更新㊂（１０）权值与阈值的更新㊂通过网络训练比较全
局误差极小值
［６］
来判断是否生成满足需求的权值与
阈值，并使用误差反向传播方法对权值与阈值进行更新，直到满足目标训练次数或目标误差㊂（１１）模型生成㊂保存最终权值与阈值及相关参
数，生成相应的回归模型㊂２㊀ＧＡ－ＢＰ的非线性回归实验分析
２．１㊀数据的获取
本文针对传感器模拟量的非线性问题进行回归分析，故选择随光照强度变化，而阻值成非线性变化的光敏电阻获取训练样本㊂此处选用光敏电阻的型号为ＧＭ５５０６，其阻值随光照强度的升高而降低，使用如图４所示的采样电路，其对应电压范围为［０．５５Ｖ（亮），３．２８Ｖ（暗）］，可测得［０ｌｕｘ，１５０００ｌｕｘ］区间内的光照强度
㊂
图４㊀光敏电阻采样电路
控制终端的１６位Ａ／Ｄ模块与采样点连接，测试获得一组光照强度和对应Ａ／Ｄ采样值的训练样本，该训练样本数据能够较好地涵盖测量范围及其变化情
况，其数据如表１所示，其中１ １８为训练数据，１９ ２６
为测试数据㊂
表１㊀训练样本 光照强度与Ａ／Ｄ值样本
为了对不同方法进行比较，引入均方根误差与决定系数对预测效果进行评判㊂均方根误差（ｒｏｏｔｍｅａｎｓｑｕａｒｅｄｅｒｒｏｒ，ＲＭＳＥ）计算观测值与真实值之间的偏差，其值越小，预测效果越好㊂
ＲＭＳＥ（ｏ，ｔ）＝麻元友
１
Ｎ－２ðＮ
ｉ＝１
（ｏ－ｔ）２（４）
式中：ｏ为观测值；ｔ为真实值㊂实际使用中使用ＲＭＳＥ／ｏ（ｏ为输出均值）进行判断㊂
决定系数又称为拟合优度，通常使用Ｒ表示，反映的是回归的拟合程度，其值越大，拟合程度越好，预测性能也就越优㊂
Ｒ＝
１－
ð（ｏ－ｔ）２
ð（ｏ－ｏ）２
（５）
２．３㊀实验方案与结果
本文实验模型使用Ｃ＃语言编程实现，具有训练与验证功能㊂通过对模型的分析可知，其输入与输出神经元个数均为１㊂采用ｓｉｇｍｏｉｄ型函数作为激活函数的神经网络具有对任意连续函数的逼近能力［７］，故选取ｓｉｇｍｏｉｄ函数作为激活函数，使用梯度下降法进行
权值与阈值的更新㊂隐藏层单元个数的范围可依据经验公式［８］计算得出：
ｑ＝ｐ＋ｍ＋α
（６）
式中：ｑ为隐藏层单元数；ｐ为输入层单元数；ｍ为输出
㊀㊀㊀㊀㊀第１期周欣等：基于ＧＡ－ＢＰ神经网络的非线性模拟量回归８７㊀㊀
层单元数；α为１ １０之间的常数㊂
对于回归模型，其隐藏层单元数范围在３ １１之间㊂经多次实验验证得出隐藏层单元数为８时，具有更好的拟合效果㊂设定学习速率为０．１，目标误差精度为０．０００００１，初始权值和阈值随机生成㊂淤泥固化剂
在此网络结构基础上，使用遗传算法对初始权值与阈值进行优化，初始种大小为１００，变异概率为０．０１，迭代次数为１０００㊂
在上述网络中，使用样本中的训练数据进行训练，得到对应的权值与阈值参数如表２所示㊂
表２㊀ＢＰ神经网络各层参数
输入层与隐藏层权值
ｗｉ输入层与隐藏层阈值
ｏｉ
隐藏层与输出层权值
ｖｉ
隐藏层与输出层阈值
ｒ
６８．８１０４８６６０１０５５６－０．６６００３０７７５７９７４５７４６．７３３２１８１３９３３９２
２．７３０６７７６２７６４５１８－１．４６１３３８２６４３１６４－１１．８５４８７９７８３６０９３
８９．３０５３９９９５２６３１５－２．４２６８９７３９８０２７０３－２１．１０９０１７０
８７８１８３
３２．３３０９１６４７９３５４１３．４２６９６３７２０９８９３４１９．１６０９１１５３２４７１４３２．７３０２３０４００００４６２１．０１９６２２４０５２８１５６．１６０２７４６９２４０７３５－２．２５４５６００６４８７１２５
１８．７４７２１３３２８３４１６０．１６１９４９８５２０００８８４－６．８４３７７９６８７８０１４８蒸汽消音器
１７２．０５０３３０７７７７８５０．９５０８２４７１０７６４６０４－７０．２２５６０７３８４１３２３
１７．１２６２３７２７８８５０５４．７２１１１１７５１１１０４９０．８２５０３４６５８５３１２５９
㊀㊀权值与阈值以及网络相关参数共同构成一个ＧＡ－ＢＰ网络模型㊂使用该网络模型对测试数据进行验证分析，由表３可以看出，光照强度的预测值与实际值误差基本能控制在可接受范围以内㊂
表３㊀测试样例输出测试
Ａ／Ｄ目标输出实际输出误差
５０４５９２．４２．１０．３
３７００７８．９９．７０．８
２５０４２４３．４４４．１０．７
１６４５２１２７．２１２６．９０．３
１１３６９２６１．３２６０．５０．８
８０３６５０１．６５００．６１．０
４３８８１１５９．２１１５８．４０．８
１１１７１２９２４．５１２９２５．００．５２．４㊀方法对比
２．４．１㊀传统方法与神经网络的对比
传统的非线性回归方法有最小二乘法和三次样条插值法㊂最小二乘法通过最小化误差平方和寻最佳函数匹配［９］，三次样条插值法通过三弯矩法并结合边界条件推导系数方程确定对应的回归函数［１０］，实际是在相邻数据点之间确定一个三次样条函数㊂针对本文使用的训练样本，使用最小二
乘法和三次样条插值法进行回归拟合，并使用测试样例与ＢＰ神经网络进行验证对比，图５给出各方法的预测结果的回归曲线，并列出各方法的均方根误差和决定系数，如表４所示
㊂
图５㊀光照强度与Ａ／Ｄ值的物理量回归曲线
表４㊀传统方法与神经网络的对比
回归方法ＲＲＭＳＥ
最小二乘法０．９６４９７０．８３１９７
三次样条插值０．９７１０５０．７５７５０
ＢＰ神经网络０．９９７２５０．２３５０８㊀㊀综合图５和表４可以看出ＢＰ神经网络的预测准确度优于其余２种方法㊂最小二乘法与三次样条插值法的拟合是确定具体公式及其系数，ＢＰ神经网络确定网络相关参数㊂３种方法在回归形式上存在一定的区别，但都可转换为使用一定的回归公式进行回归预测㊂不同在于对不同的训练样本，最小二乘法与三次样条插值法需要重新确认公式，而ＢＰ神经网络模型的回归公式可不改变，仅需校正权值与阈值㊂同时ＢＰ神经网络可以通过不断提升训练次数来减小误差，达到更好的拟合效果，是一种具有较好拟合能力的非线性回归方法㊂２．４．２㊀ＢＰ神经网络优化对比
由上述对比实验可知，ＢＰ神经网络对于传感器
㊀㊀㊀㊀㊀８８㊀ＩｎｓｔｒｕｍｅｎｔＴｅｃｈｎｉｑｕｅａｎｄＳｅｎｓｏｒＪａｎ ２０２１㊀
模拟量的非线性回归问题具有较好的拟合能力㊂但ＢＰ神经网络存在易陷入局部极小值的特点，针对此问题使用遗传算法进行优化㊂分别记录下ＢＰ神经网络与ＧＡ－ＢＰ神经网络训练过程中每１００００次训练实际值与目标值之间的误差平方和，绘制成如图６所示的曲线㊂并计算相应的均方根误差和决定系数，如表５所示㊂
图６㊀ＧＡ－ＢＰ与ＢＰ误差状态
表５㊀ＧＡ－ＢＰ与ＢＰ对比
回归方法ＲＲＭＳＥ
ＢＰ神经网络０．９９７２５０．２３５０８
ＧＡ－ＢＰ神经网络０．９９９２２０．１２５５３
㊀㊀从图６可以看出，ＧＡ－ＢＰ神经网络模型在训练过程中的收敛速度明显优于传统ＢＰ神经网络㊂同时结合表５可以看出，在训练相同次数的情况下对ＧＡ－ＢＰ的拟合程度优于传统ＢＰ算法，具有更好的预测准确度㊂
３㊀ＢＰ神经网络在ＭＣＵ上的应用
模型训练过程在ＰＣ端完成，而生成的网络模型则应用于ＭＣＵ端㊂图７为训练模型在ＭＣＵ端的应用过程㊂
针对上述流程，将ＢＰ神经网络在ＭＣＵ端回归预测功能封装成构件，构件中各函数及功能如表６所示㊂按图８所示的结构类型将网络参数存储在固定Ｆｌａｓｈ区域；芯片启动后，使用ＢＰｉｎｉｔ函数读取位于Ｆｌａｓｈ区域的存储参数，构建神经网络模型；实时使用Ａ／Ｄ转换模块读取传感器Ａ／Ｄ采样值后，利用ＢＰｐｒｅ⁃ｄｉｃｔ函数进行转换到传感器的实际输出值；同时包含参数更新功能，当计算结果存在误差时，可重新采集训练样本在ＰＣ端训练，并将训练结果利用ＢＰＵｐｄａｔｅ函数将网络模型重新写入相应Ｆｌａｓｈ区域㊂
以ＭＫＬ３６Ｚ６４［１１］（简称ＫＬ３６）芯片和Ｓ３２Ｋ１４４［１２］（简称Ｓ３２Ｋ）芯片为例进行ＭＣＵ端预测实验㊂ＫＬ３６属于ＡＲＭＣｏｒｔｅｘ－Ｍ０＋内核，其对应的Ｆｌａｓｈ为６４
ＫＢ，
图７㊀神经网络在ＭＣＵ端应用
表６㊀ＢＰ神经网络预测构件
函数名称功能
ＢＰｉｎｉｔＢＰ网络模型初始化读取位于Ｆｌａｓｈ的参数，并
生成网络模型
ＢＰｐｒｅｄｉｃｔ预测函数Ａ／Ｄ值回归预测计数继电器
ＢＰＵｐｄａｔｅ参数更新解析更新后的参数并重新
写入Ｆｌａｓｈ
ＲＡＭ大小为８ＫＢ；而Ｓ３２Ｋ属于ＡＲＭＣｏｒｔｅｘ－Ｍ４内核，其对应的Ｆｌａｓｈ为５１２ＫＢ，ＲＡＭ大小为６０ＫＢ；其内置Ａ／Ｄ转换模块精度均为１６位㊂使用该构件进行光照强度的采样与回归，在ＫＬ３６与Ｓ３２Ｋ上均能按照如图７所示的流程进行回归预测
㊂
图８㊀网络参数存储结构体
４㊀结束语
本文针对非线性传感器Ａ／Ｄ值与模拟量之间存在的非线性关系难以确定回归公式进行表达的问题，提出使用ＢＰ神经网络对传感器Ａ／Ｄ值与模拟量进行回归拟合㊂实验表明，使用ＢＰ神经网络能够对两者之间的非线性关系进行良好表达，和最小二乘法与三次样条插值法相比，ＢＰ神经网络的拟合程度明显优于其余２种方法，具有较高的准确（下转第１０１页）
