一种基于空间遗忘通道注意力卷积神经网络的生活垃圾分类方法

阅读: 评论:0



1.本发明在真实垃圾图像数据的基础上,利用基于空间遗忘通道注意力卷积神经网络充分学习类内复杂垃圾样本的特征,使得分类模型学习更多样本局部特征,并利用梯度下降法更新模型参数,对类内样式复杂的生活垃圾进行准确分类。在生后垃圾回收过程中,类内样本往往包含诸多样式的垃圾,这种基于空间遗忘通道注意力卷积神经网络可以有效学习更多样式繁杂的生后垃圾特征信息,增加模型捕获特征能力,实现高精度生活垃圾分类,为垃圾回收行业提供技术支持。本方法属于图像识别领域的重要分支,又属于固体废物的处理领域。


背景技术:



2.随着城市生活垃圾产量的逐步增加,已对环境产生了严重的负面影响,因此垃圾资源的回收和循环利用已成为当下环境保护的热点问题。垃圾分类作为回收过程中的关键环节,已成为人们关注的焦点。目前常用的垃圾分类主要采用人工分类,既繁琐又低效,难以广泛推广。此外,由于垃圾分类种类繁多,居民对垃圾分类的认知度较低,垃圾分类的有效实施不容乐观。开发一种智能化、自动化的生活垃圾分类方法是实现环境资源回收目标的关键。基于深度学习的生活垃圾分类方法有效提高了垃圾分类的自动化水平。然而,在实际垃圾分类过程中,同一类的垃圾往往包含样式复杂的样本,基于深度学习的视觉识别网络难以有效捕获这些复杂样本的特征。在实际垃圾分类模型中,增强模型捕获更多局部特征的能力,对生活垃圾分类具有显著的应用和经济效益。因此,本发明的研究成果在生活垃圾回收领域具有广阔的应用前景。
3.随着我国人民生活水平提高,生活垃圾的产量日益剧增。传统的机器学习算法难以应对海量数据的分类识别问题。随着基于深度学习视觉分类模型的飞速发展、计算机处理能力的不断提升,生活垃圾的自动化分类已转变成图像数据化驱动的模型分类问题。基于数据驱动的视觉分类模型可以自适应的学习垃圾样本特征,通过模型的多次训练学习,最终实现正确的垃圾样本分类。在实际垃圾分类过程中,常常伴随着大量而样式繁多的生活垃圾样本,同一类的生活垃圾往往含有多种多样的垃圾样式,这在一定程度上会增加模型学习的难度,模型难以捕获样式繁多垃圾样本的特征,由此导致传统卷积网络模型在生活垃圾分类上精度欠佳。
4.本发明设计了一种基于空间遗忘通道注意力卷积神经网络的生活垃圾精准分类方法,首先通过卷积提取多层次特征,其次通过对多层次特征进行空间遗忘,迫使网络学习更多局部特征,最后利用通道注意力将学习到的更多局部特征以一种更有序的方式让网络进行学习。从而提高网络的分类准确性,满足垃圾回收需求,实现生活垃圾的精准分类,为垃圾回收行业提供强有力的技术支持。


技术实现要素:



5.本发明获得了一种基于空间遗忘通道注意力卷积神经网络的生活垃圾分类方法,该方法通过卷积提取多层次特征,并对多层次特征进行空间遗忘,迫使网络学习更多局部特征,基于此,利用通道注意力将学习到的更多局部特征以一种更有序的方式让网络进行学习,最终利用梯度下降法更新模型参数,实现生活垃圾的精准分类。该方法可以在实际生活垃圾回收过程中,应对类内繁杂样式的垃圾样本,实现高精度生活垃圾分类,在自动化生后垃圾回收领域具有广阔的应用前景。
6.本发明采用了如下的技术方案及实现步骤:
7.1.一种基于空间遗忘通道注意力卷积神经网络的生活垃圾分类方法,通过设计空间遗忘通道注意力卷积神经网络结构实现生活垃圾精准分类,其特征在于,包括以下步骤:
8.(1)生活垃圾数据采集及预处理
9.①
获取生活垃圾分类图像数据集,共6类生活垃圾图像,分别为塑料类,玻璃类,纸质类,金属类,厨余类,混合厨余类;其中,塑料类生活垃圾包括:塑料水瓶,塑料餐盒,塑料袋,塑料盒,保鲜膜;玻璃类生活垃圾包括:玻璃瓶子,玻璃罐子,玻璃杯子;纸质类生活垃圾包括:纸箱,报纸,纸杯,纸盒;金属类生活垃圾包括:金属罐头,易拉罐,金属餐盘,锡纸;厨余类生活垃圾包括:剩饭、小骨头、动物内脏、茶渣、果壳;混合厨余类生活垃圾包括:厨余类生活垃圾以及塑料类、玻璃类、金属类的生活垃圾;
10.②
垃圾图像数据集中的图像数据矩阵为i,选用rgb颜空间作为空间遗忘通道注意力卷积神经网络模型的输入变量,ir(t)表示在第t次迭代时的红通道像素矩阵,ig(t)表示在第t次迭代时的绿通道像素矩阵,ib(t)表示在第t次迭代时的蓝通道像素矩阵;
11.③
将ir(t),ig(t),ib(t)三通道像素矩阵的各元素归一化至[0,1],分别得到在第t次迭代时归一化后的红通道像素矩阵在第t次迭代时归一化后的绿通道像素矩阵在第t次迭代时归一化后的蓝通道像素矩阵基于此,空间遗忘通道注意力卷积神经网络模型的输入图像数据矩阵
[0012]
(2)建立空间遗忘注意力的卷积神经网络分类模型
[0013]

构建以空间遗忘注意力模块为基础的卷积神经网络分类模型:空间遗忘注意力卷积神经网络分类模型由q个空间遗忘注意力模块和一个全连接层构成,q=1,2,3,4;其中单个空间遗忘注意力模块由一个输入层,一个卷积激活层,一个归一化处理层,一个空间遗忘层,一个通道注意力层;
[0014]

第q个空间遗忘注意力模块输入层的计算公式如下:
[0015]
pq(t)=rq(t)
ꢀꢀꢀ
(1)
[0016]
其中,pq(t)表示在第t次迭代时,第q个空间遗忘注意力模块中输入层的输出;pq(t)表示在第t次迭代时,第q个空间遗忘注意力模块中输入层的输入;当q=1时,第1个空间遗忘注意力模块输入层的输入为即当q=2,3,4时,第q个空间遗忘注意力模块输入层的输入rq(t)为第q-1个空间遗忘注意力模块的输出o
q-1
(t),即rq(t)=o
q-1
(t);
[0017]

第q个空间遗忘注意力模块激活层的计算公式如下:
[0018]qq
(t)=f(ωq(t)pq(t)+βq)
ꢀꢀꢀ
(2)
[0019]
其中,qq(t)表示在第t次迭代时,第q个空间遗忘注意力模块中网络pq(t)通过卷积激活操作得到的特征矩阵;f(
·
)是激活函数;ωq(t)表示在第t次迭代时,第q个空间遗忘注意力模块的卷积激活层权值矩阵,βq表示在第t次迭代时,第q个空间遗忘注意力模块的卷积激活层输出偏置参数,网络初始阶段β可取介于0到1之间的任意常数;
[0020]

第q个空间遗忘注意力模块归一化处理层的计算公式如下:
[0021][0022]
其中,e(
·
)表示期望操作;d(
·
)表示方差操作;表示在第t次迭代时,第q个空间遗忘注意力模块qq(t)归一化处理后的输出矩阵;ε可取介于0.001和0.0001之间的任意常数;
[0023]

第q个空间遗忘注意力模块的特征空间遗忘层的特征空间遗忘大小为sb=3;设以大小为sb的特征空间中心点遗忘概率为ρ,设网络总迭代次数为t,ρ从0开始以步长t/8随网络迭代次数递增0.025;
[0024]
特征空间遗忘区域0-1二值掩码的计算公式如下:
[0025][0026]
其中,表示在第t次迭代时,第q个空间遗忘注意力模块的特征空间遗忘区域二值掩码;i表示特征空间水平位置坐标,j表示特征空间垂直位置坐标;
[0027]
特征空间遗忘的计算公式如下:
[0028][0029]
其中,vq(t)表示在第t次迭代时,第q个空间遗忘注意力模块的特征空间遗忘输出矩阵;*表示哈达玛积运算;
[0030]

第q个空间遗忘注意力模块中,通道注意的全局平局池化计算公式如下:
[0031][0032]
其中,gq(t)表示在第t次迭代时,第q个空间遗忘注意力模块的通道注意全局平局池化输出矩阵;
[0033]
通道注意的注意力权重计算公式如下:
[0034][0035]
其中,aq(t)表示在第t次迭代时第q个空间遗忘注意力模块的注意力权重矩阵;f(
·
)是激活函数;表示在第t次迭代时第q个空间遗忘注意力模块的第一层权值矩阵,表示在第t次迭代时第q个空间遗忘注意力模块的第二层权值矩阵;
[0036]
通道注意的计算公式如下:
[0037]
oq(t)=vq(t)*aq(t)
ꢀꢀꢀ
(8)
[0038]
其中,oq(t)表示在第t次迭代时,第q个空间遗忘注意力模块的注意力输出矩阵;*表示哈达玛积运算;
[0039]

空间遗忘通道注意力卷积神经网络的全连接层将第4个空间遗忘注意力模块的注意力输出矩阵o4(t)映射成六个特征向量构成的输出矩阵:
[0040][0041]
其中,表示在第t次迭代时空间遗忘通道注意力卷积神经网络的全连接层输出矩阵;
[0042]

空间遗忘通道注意力卷积神经网络损失函数的表达公式如下:
[0043][0044]
其中,l(t)表示在第t次迭代时,空间遗忘通道注意力卷积神经网络损失函数输出矩阵;α(t)描述实际概率分布;表示第c个全连接层输出向量,c=1,2,

,6;
[0045]
利用梯度下降算法训练空间遗忘通道注意力卷积神经网络模型参数,更新表达式如下所示:
[0046][0047][0048][0049]
其中,ωq(t)表示在第t+1次迭代时,第q个空间遗忘注意力模块的卷积激活层权值矩阵;ωq(t)表示在第t次迭代时,第q个空间遗忘注意力模块的卷积激活层权值矩阵,ωq(t)的初始值ω(1)各元素为介于0到1之间的常数;表示在第t+1次迭代时,第q个空间遗忘注意力模块的第一层权值矩阵,的初始值各元素为介于0到1之间的常数;表示在第t+1次迭代时,第q个空间遗忘注意力模块的第一层权值矩阵,的初始值各元素为介于0到1之间的常数;η为梯度下降算法的学习率,在区间[0.001,0.1]中随机取值;
[0050]
(3)生活垃圾分类过程
[0051]
使用基于空间遗忘通道注意力卷积神经网络的进行生活垃圾分类的过程具体为:
[0052]
1)利用采集到的生活垃圾图像作为训练数据,从中选取图像矩阵i,通过对rgb三通道像素矩阵进行归一化操作,得到空间遗忘通道注意力卷积神经网络的输入数据
[0053]
2)通过公式(1)~(9)所示的空间遗忘通道注意力卷积特征提取模型的网络结构,计算网络结构的每一层,并得到空间遗忘通道注意力卷积神经网络输出矩阵;再通过全连
接层得到六个特征向量构成的输出矩阵
[0054]
3)通过公式(10)所示的空间遗忘通道注意力卷积神经网络损失函数,计算出损失函数输出矩阵;
[0055]
4)通过公式(11)~(13)所示的梯度下降算法,更新网络权重参数ωq(t),
[0056]
5)将生活垃圾图像样本随机输入到空间遗忘通道注意力卷积神经网络的分类模型中,并设置模型的权重参数,将模型输出的特征矩阵输入到损失函数中进行分类识别,得到该样本的类别标签值,该标签值即为生活垃圾的类别。
[0057]
本发明的创造性主要体现在:
[0058]
(1)本发明针对实际垃圾分类过程中,同一类的生活垃圾往往包含样式复杂的样本特征,导致网络特征学习不充分的问题,本文提出一种特征空间遗忘注意力模块,可以让网络关注更多局部特征,从而使得网络学习到更多不同垃圾样式的复杂特征信息,有效提高网络对生活垃圾的分类精度。
[0059]
(2)本发明提出了一种基于空间遗忘通道注意力卷积神经网络的生活垃圾分类方法,可以对样式繁多的生活垃圾进行高精度类别分类,实现了生活垃圾回收过程中智能自动化垃圾分类,提高了生活垃圾的回收效率,同时也能够减少人工成本,提高全社会面的资源回收效益。
附图说明
[0060]
图1是本发明生活垃圾分类精度混淆矩阵图
具体实施方式
[0061]
本发明采用了如下的技术方案及实现步骤:
[0062]
2.一种基于空间遗忘通道注意力卷积神经网络的生活垃圾分类方法,通过设计空间遗忘通道注意力卷积神经网络结构实现生活垃圾精准分类,其特征在于,包括以下步骤:
[0063]
(1)生活垃圾数据采集及预处理
[0064]

获取生活垃圾分类图像数据集,共6类生活垃圾图像,分别为塑料类,玻璃类,纸质类,金属类,厨余类,混合厨余类;其中,塑料类生活垃圾包括:塑料水瓶,塑料餐盒,塑料袋,塑料盒,保鲜膜;玻璃类生活垃圾包括:玻璃瓶子,玻璃罐子,玻璃杯子;纸质类生活垃圾包括:纸箱,报纸,纸杯,纸盒;金属类生活垃圾包括:金属罐头,易拉罐,金属餐盘,锡纸;厨余类生活垃圾包括:剩饭、小骨头、动物内脏、茶渣、果壳;混合厨余类生活垃圾包括:厨余类生活垃圾以及塑料类、玻璃类、金属类的生活垃圾;
[0065]

垃圾图像数据集中的图像数据矩阵为i,选用rgb颜空间作为空间遗忘通道注意力卷积神经网络模型的输入变量,ir(t)表示在第t次迭代时的红通道像素矩阵,ig(t)表示在第t次迭代时的绿通道像素矩阵,ib(t)表示在第t次迭代时的蓝通道像素矩阵;
[0066]

将ir(t),ig(t),ib(t)三通道像素矩阵的各元素归一化至[0,1],分别得到在第t次迭代时归一化后的红通道像素矩阵在第t次迭代时归一化后的绿通道像素矩
阵在第t次迭代时归一化后的蓝通道像素矩阵基于此,空间遗忘通道注意力卷积神经网络模型的输入图像数据矩阵
[0067]
(2)建立空间遗忘注意力的卷积神经网络分类模型
[0068]

构建以空间遗忘注意力模块为基础的卷积神经网络分类模型:空间遗忘注意力卷积神经网络分类模型由q个空间遗忘注意力模块和一个全连接层构成,q=1,2,3,4;其中单个空间遗忘注意力模块由一个输入层,一个卷积激活层,一个归一化处理层,一个空间遗忘层,一个通道注意力层;
[0069]

第q个空间遗忘注意力模块输入层的计算公式如下:
[0070]
pq(t)=rq(t)
ꢀꢀꢀ
(1)
[0071]
其中,pq(t)表示在第t次迭代时,第q个空间遗忘注意力模块中输入层的输出;pq(t)表示在第t次迭代时,第q个空间遗忘注意力模块中输入层的输入;当q=1时,第1个空间遗忘注意力模块输入层的输入为即当q=2,3,4时,第q个空间遗忘注意力模块输入层的输入rq(t)为第q-1个空间遗忘注意力模块的输出o
q-1
(t),即rq(t)=o
q-1
(t);
[0072]

第q个空间遗忘注意力模块激活层的计算公式如下:
[0073]qq
(t)=f(ωq(t)pq(t)+βq)
ꢀꢀꢀ
(2)
[0074]
其中,qq(t)表示在第t次迭代时,第q个空间遗忘注意力模块中网络pq(t)通过卷积激活操作得到的特征矩阵;f(
·
)是激活函数;ωq(t)表示在第t次迭代时,第q个空间遗忘注意力模块的卷积激活层权值矩阵,βq表示在第t次迭代时,第q个空间遗忘注意力模块的卷积激活层输出偏置参数,网络初始阶段β可取介于0到1之间的任意常数;
[0075]

第q个空间遗忘注意力模块归一化处理层的计算公式如下:
[0076][0077]
其中,e(
·
)表示期望操作;d(
·
)表示方差操作;表示在第t次迭代时,第q个空间遗忘注意力模块qq(t)归一化处理后的输出矩阵;
[0078]

第q个空间遗忘注意力模块的特征空间遗忘层的特征空间遗忘大小为sb=3;设以大小为sb的特征空间中心点遗忘概率为ρ,设网络总迭代次数为t,ρ从0开始以步长t/8随网络迭代次数递增0.025;
[0079]
特征空间遗忘区域0-1二值掩码的计算公式如下:
[0080][0081]
其中,表示在第t次迭代时,第q个空间遗忘注意力模块的特征空间遗忘区域二值掩码;i表示特征空间水平位置坐标,j表示特征空间垂直位置坐标;
[0082]
特征空间遗忘的计算公式如下:
[0083]
[0084]
其中,vq(t)表示在第t次迭代时,第q个空间遗忘注意力模块的特征空间遗忘输出矩阵;*表示哈达玛积运算;
[0085]

第q个空间遗忘注意力模块中,通道注意的全局平局池化计算公式如下:
[0086][0087]
其中,gq(t)表示在第t次迭代时,第q个空间遗忘注意力模块的通道注意全局平局池化输出矩阵;
[0088]
通道注意的注意力权重计算公式如下:
[0089][0090]
其中,aq(t)表示在第t次迭代时第q个空间遗忘注意力模块的注意力权重矩阵;f(
·
)是激活函数;表示在第t次迭代时第q个空间遗忘注意力模块的第一层权值矩阵,表示在第t次迭代时第q个空间遗忘注意力模块的第二层权值矩阵;
[0091]
通道注意的计算公式如下:
[0092]
oq(t)=vq(t)*aq(t)
ꢀꢀꢀ
(8)
[0093]
其中,oq(t)表示在第t次迭代时,第q个空间遗忘注意力模块的注意力输出矩阵;*表示哈达玛积运算;
[0094]

空间遗忘通道注意力卷积神经网络的全连接层将第4个空间遗忘注意力模块的注意力输出矩阵o4(t)映射成六个特征向量构成的输出矩阵:
[0095][0096]
其中,表示在第t次迭代时空间遗忘通道注意力卷积神经网络的全连接层输出矩阵;
[0097]

空间遗忘通道注意力卷积神经网络损失函数的表达公式如下:
[0098][0099]
其中,l(t)表示在第t次迭代时,空间遗忘通道注意力卷积神经网络损失函数输出矩阵;α(t)描述实际概率分布;表示第c个全连接层输出向量,c=1,2,

,6;
[0100]
利用梯度下降算法训练空间遗忘通道注意力卷积神经网络模型参数,更新表达式如下所示:
[0101][0102][0103][0104]
其中,ωq(t)表示在第t+1次迭代时,第q个空间遗忘注意力模块的卷积激活层权
值矩阵;ωq(t)表示在第t次迭代时,第q个空间遗忘注意力模块的卷积激活层权值矩阵,ωq(t)的初始值ω(1)各元素为介于0到1之间的常数;表示在第t+1次迭代时,第q个空间遗忘注意力模块的第一层权值矩阵,的初始值各元素为介于0到1之间的常数;表示在第t+1次迭代时,第q个空间遗忘注意力模块的第一层权值矩阵,的初始值各元素为介于0到1之间的常数;η为梯度下降算法的学习率,在区间[0.001,0.1]中随机取值;
[0105]
(3)生活垃圾分类过程
[0106]
使用基于空间遗忘通道注意力卷积神经网络的进行生活垃圾分类的过程具体为:
[0107]
1)利用采集到的生活垃圾图像作为训练数据,从中选取图像矩阵i,通过对rgb三通道像素矩阵进行归一化操作,得到空间遗忘通道注意力卷积神经网络的输入数据
[0108]
2)通过公式(1)~(9)所示的空间遗忘通道注意力卷积特征提取模型的网络结构,计算网络结构的每一层,并得到空间遗忘通道注意力卷积神经网络输出矩阵;再通过全连接层得到六个特征向量构成的输出矩阵
[0109]
3)通过公式(10)所示的空间遗忘通道注意力卷积神经网络损失函数,计算出损失函数输出矩阵;
[0110]
4)通过公式(11)~(13)所示的梯度下降算法,更新网络权重参数ωq(t),
[0111]
5)将生活垃圾图像样本随机输入到空间遗忘通道注意力卷积神经网络的分类模型中,并设置模型的权重参数,将模型输出的特征矩阵输入到损失函数中进行分类识别,得到该样本的类别标签值,该标签值即为生活垃圾的类别。

技术特征:


1.一种基于空间遗忘通道注意力卷积神经网络的生活垃圾分类方法其特征在于,包括以下步骤:(1)生活垃圾数据采集及预处理

获取生活垃圾分类图像数据集,共6类生活垃圾图像,分别为塑料类,玻璃类,纸质类,金属类,厨余类,混合厨余类;

垃圾图像数据集中的图像数据矩阵为i,选用rgb颜空间作为空间遗忘通道注意力卷积神经网络模型的输入变量,i
r
(t)表示在第t次迭代时的红通道像素矩阵,i
g
(t)表示在第t次迭代时的绿通道像素矩阵,i
b
(t)表示在第t次迭代时的蓝通道像素矩阵;

将i
r
(t),i
g
(t),i
b
(t)三通道像素矩阵的各元素归一化至[0,1],分别得到在第t次迭代时归一化后的红通道像素矩阵在第t次迭代时归一化后的绿通道像素矩阵在第t次迭代时归一化后的蓝通道像素矩阵基于此,空间遗忘通道注意力卷积神经网络模型的输入图像数据矩阵(2)建立空间遗忘注意力的卷积神经网络分类模型

构建以空间遗忘注意力模块为基础的卷积神经网络分类模型:空间遗忘注意力卷积神经网络分类模型由q个空间遗忘注意力模块和一个全连接层构成,q=1,2,3,4;其中单个空间遗忘注意力模块由一个输入层,一个卷积激活层,一个归一化处理层,一个空间遗忘层,一个通道注意力层;

第q个空间遗忘注意力模块输入层的计算公式如下:p
q
(t)=r
q
(t)(1)其中,p
q
(t)表示在第t次迭代时,第q个空间遗忘注意力模块中输入层的输出;p
q
(t)表示在第t次迭代时,第q个空间遗忘注意力模块中输入层的输入;当q=1时,第1个空间遗忘注意力模块输入层的输入为即当q=2,3,4时,第q个空间遗忘注意力模块输入层的输入r
q
(t)为第q-1个空间遗忘注意力模块的输出o
q-1
(t),即r
q
(t)=o
q-1
(t);

第q个空间遗忘注意力模块激活层的计算公式如下:q
q
(t)=f(ω
q
(t)p
q
(t)+β
q
)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(2)其中,q
q
(t)表示在第t次迭代时,第q个空间遗忘注意力模块中网络p
q
(t)通过卷积激活操作得到的特征矩阵;f(
·
)是激活函数;ω
q
(t)表示在第t次迭代时,第q个空间遗忘注意力模块的卷积激活层权值矩阵,β
q
表示在第t次迭代时,第q个空间遗忘注意力模块的卷积激活层输出偏置参数,网络初始阶段β可取介于0到1之间的任意常数;

第q个空间遗忘注意力模块归一化处理层的计算公式如下:其中,e(
·
)表示期望操作;d(
·
)表示方差操作;表示在第t次迭代时,第q个空间遗忘注意力模块q
q
(t)归一化处理后的输出矩阵;ε取介于0.001和0.0001之间的任意常数;

第q个空间遗忘注意力模块的特征空间遗忘层的特征空间遗忘大小为s
b
=3;设以大小为s
b
的特征空间中心点遗忘概率为ρ,设网络总迭代次数为t,ρ从0开始以步长t/8随网络迭代次数递增0.025;特征空间遗忘区域0-1二值掩码的计算公式如下:其中,表示在第t次迭代时,第q个空间遗忘注意力模块的特征空间遗忘区域二值掩码;i表示特征空间水平位置坐标,j表示特征空间垂直位置坐标;特征空间遗忘的计算公式如下:其中,v
q
(t)表示在第t次迭代时,第q个空间遗忘注意力模块的特征空间遗忘输出矩阵;*表示哈达玛积运算;

第q个空间遗忘注意力模块中,通道注意的全局平局池化计算公式如下:其中,g
q
(t)表示在第t次迭代时,第q个空间遗忘注意力模块的通道注意全局平局池化输出矩阵;通道注意的注意力权重计算公式如下:其中,a
q
(t)表示在第t次迭代时第q个空间遗忘注意力模块的注意力权重矩阵;f(
·
)是激活函数;表示在第t次迭代时第q个空间遗忘注意力模块的第一层权值矩阵,表示在第t次迭代时第q个空间遗忘注意力模块的第二层权值矩阵;通道注意的计算公式如下:o
q
(t)=v
q
(t)*a
q
(t)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(8)其中,o
q
(t)表示在第t次迭代时,第q个空间遗忘注意力模块的注意力输出矩阵;*表示哈达玛积运算;

空间遗忘通道注意力卷积神经网络的全连接层将第4个空间遗忘注意力模块的注意力输出矩阵o4(t)映射成六个特征向量构成的输出矩阵:其中,表示在第t次迭代时空间遗忘通道注意力卷积神经网络的全连接层输出矩阵;

空间遗忘通道注意力卷积神经网络损失函数的表达公式如下:其中,l(t)表示在第t次迭代时,空间遗忘通道注意力卷积神经网络损失函数输出矩
阵;α(t)描述实际概率分布;表示第c个全连接层输出向量,c=1,2,

,6;利用梯度下降算法训练空间遗忘通道注意力卷积神经网络模型参数,更新表达式如下所示:所示:所示:其中,ω
q
(t)表示在第t+1次迭代时,第q个空间遗忘注意力模块的卷积激活层权值矩阵;ω
q
(t)表示在第t次迭代时,第q个空间遗忘注意力模块的卷积激活层权值矩阵,ω
q
(t)的初始值ω(1)各元素为介于0到1之间的常数;表示在第t+1次迭代时,第q个空间遗忘注意力模块的第一层权值矩阵,的初始值各元素为介于0到1之间的常数;表示在第t+1次迭代时,第q个空间遗忘注意力模块的第一层权值矩阵,的初始值各元素为介于0到1之间的常数;η为梯度下降算法的学习率,在区间[0.001,0.1]中随机取值;(3)生活垃圾分类过程使用基于空间遗忘通道注意力卷积神经网络的进行生活垃圾分类的过程具体为:1)利用采集到的生活垃圾图像作为训练数据,从中选取图像矩阵i,通过对rgb三通道像素矩阵进行归一化操作,得到空间遗忘通道注意力卷积神经网络的输入数据2)通过公式(1)~(9)所示的空间遗忘通道注意力卷积特征提取模型的网络结构,计算网络结构的每一层,并得到空间遗忘通道注意力卷积神经网络输出矩阵;再通过全连接层得到六个特征向量构成的输出矩阵3)通过公式(10)所示的空间遗忘通道注意力卷积神经网络损失函数,计算出损失函数输出矩阵;4)通过公式(11)~(13)所示的梯度下降算法,更新网络权重参数ω
q
(t),5)将生活垃圾图像样本随机输入到空间遗忘通道注意力卷积神经网络的分类模型中,并设置模型的权重参数,将模型输出的特征矩阵输入到损失函数中进行分类识别,得到该样本的类别标签值,该标签值即为生活垃圾的类别。

技术总结


本发明提出了一种基于空间遗忘通道注意力卷积神经网络的生活垃圾分类方法,解决实际生活垃圾分类过程中垃圾种类样式繁多难以精准分类的问题。本发明设计特征空间遗忘注意力模块,可以让网络关注更多局部特征,从而使得网络学习到更多不同垃圾样式的复杂特征信息,有效提高网络对生活垃圾的分类精度。本发明应用在智能自动化视觉技术的生活垃圾回收过程,提高了生活垃圾的回收效率,同时也能够减少人工成本,提高全社会面的资源回收效益。提高全社会面的资源回收效益。提高全社会面的资源回收效益。


技术研发人员:

韩红桂 张奇宇 李方昱 杜永萍 吴玉锋

受保护的技术使用者:

北京工业大学

技术研发日:

2022.08.31

技术公布日:

2022/12/9

本文发布于:2022-12-14 11:18:55,感谢您对本站的认可!

本文链接:https://patent.en369.cn/patent/1/33659.html

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。

标签:注意力   卷积   空间   矩阵
留言与评论(共有 0 条评论)
   
验证码:
Copyright ©2019-2022 Comsenz Inc.Powered by © 369专利查询检索平台 豫ICP备2021025688号-20 网站地图