介绍一种神经网络系统的构建方法、系统及相关装置与流程

这篇文章提供的介绍一种神经网络系统的构建方法、系统及相关装置与流程,相信小伙伴们一定很好奇,下面小编为大家带来了。


本申请涉及深度学习领域,特别涉及一种神经网络系统的构建方法、系统及相关装置。



背景技术:

现有的深度学习模型在计算机视觉领域一般是用卷积神经网络,其构成包括卷积层,规则化层,池化层,线性层等,在维持一定性能的条件下,一般其线性层会具有较多的参数,训练和实际应用时耗时和能耗都不低。因此,如何降低深度学习训练的训练成本是本领域技术人员亟需解决的技术问题。



技术实现要素:

本申请的目的是提供一种神经网络系统的构建方法、构建系统、计算机可读存储介质和终端,能够降低深度学习训练的训练成本。

为解决上述技术问题,本申请提供一种神经网络系统的构建方法,具体技术方案如下:

获取卷积神经网络的池化层输出;

根据所述池化层输出中的特征图参数确定像素点;

将每个所述像素点作为图节点,建立图节点之间的相邻连接,得到图数据;其中,所述图节点包含所述像素点的通道特征;

将所述图数据作为输入数据在池化层后构建图卷积层,根据规则化层、激活层、所述池化层和所述图卷积层构建神经网络系统。

其中,每个所述图节点与相邻图节点形成邻接矩阵,所述邻接矩阵为同阶矩阵。

其中,所述邻接矩阵的权重表示连接距离;其中,所述连接距离为0时对应最大权重值。

其中,根据所述池化层输出中的特征图参数确定像素点包括:

根据所述池化层输出中的特征图参数中的长和宽确定像素点的位置。

其中,所述图卷积层的输出数据为指定类型特征、分类置信度、预测回归值中的一种或任意几种的组合。

本申请还提供一种神经网络系统的构建系统,包括:

获取模块,用于获取卷积神经网络的池化层输出;

像素点确定模块,用于根据所述池化层输出中的特征图参数确定像素点;

图数据确定模块,将每个所述像素点作为图节点,建立图节点之间的相邻连接,得到图数据;其中,所述图节点包含所述像素点的通道特征;

系统构建模块,用于将所述图数据作为输入数据在池化层后构建图卷积层,根据规则化层、激活层、所述池化层和所述图卷积层构建神经网络系统。

其中,所述像素点确定模块为根据所述池化层输出中的特征图参数中的长和宽确定像素点的位置的模块。

本申请还提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如上所述的方法的步骤。

本申请还提供一种终端,包括存储器和处理器,所述存储器中存有计算机程序,所述处理器调用所述存储器中的计算机程序时实现如上所述的方法的步骤。

本申请提供一种神经网络系统的构建方法,包括:获取卷积神经网络的池化层输出;根据所述池化层输出中的特征图参数确定像素点;将每个所述像素点作为图节点,建立图节点之间的相邻连接,得到图数据;其中,所述图节点包含所述像素点的通道特征;将所述图数据作为输入数据在池化层后构建图卷积层,根据规则化层、激活层、所述池化层和所述图卷积层构建神经网络系统。

本申请通过在池化层的基础上添加图卷积层,利用池化层输出生成图数据,从而建立图卷积网络,利用图数据减少深度学习过程中的参数量,从而降低深度学习的训练成本。本申请还提供一种神经网络系统的构建系统、计算机可读存储介质和终端,具有上述有益效果,此处不再赘述。

附图说明

为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。

图1为本申请实施例所提供的一种神经网络系统的构建方法的流程图;

图2为本申请实施例所提供的一种神经网络系统的构建系统结构示意图。

具体实施方式

为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。

请参考图1,图1为本申请实施例所提供的一种神经网络系统的构建方法的流程图,该构建方法包括:

s101:获取卷积神经网络的池化层输出;

s102:根据所述池化层输出中的特征图参数确定像素点;

s103:将每个所述像素点作为图节点,建立图节点之间的相邻连接,得到图数据;其中,所述图节点包含所述像素点的通道特征;

s104:将所述图数据作为输入数据在池化层后构建图卷积层,根据规则化层、激活层、所述池化层和所述图卷积层构建神经网络系统。

步骤s101旨在现有的骨干卷积神经网络的基础上,获取池化层输出,通常获取骨干卷积神经网络的最后一个池化层输出即可。

在获得池化层输出后,根据其输出的特征图张量确定像素点。具体的,特征图的长和宽确定像素点的位置,通道为像素点的特征向量,如(n,c,h,w),其中n为批量特征图的张数,c为通道数,h为高,w为宽。

特别的,每个像素可以视为一个图节点,各图节点的属性就是像素的通道特征,每个图节点与相邻图节点连接,连接的属性为表示连接距离的权重,其中,自连接距离为0时对应最大权重值,所有图节点连接形成邻接矩阵,邻接矩阵为同阶矩阵。

假设某个骨干卷积神经网络最后一个池化层为24@16×16,表示特征图为24×16×16的张量数据,其中24为通道数,16×16为图的大小,则共有256个像素点,每个像素有24个特征值,将每个像素看成一个图中的节点,每个节点存在由24个特征组成的特征向量,每个节点与相邻节点连接,包括该节点自身可构建出9×9或25×25等的邻接矩阵,在此对于邻接矩阵的大小不作限定,可以视任务需求而定。而相同大小的特征图的邻接矩阵大小相同。邻接矩阵中包含权重表示连接距离,其中自连接距离为0,权重最大,由此组成了一个具有256个小图,每个小图有9或25个节点,将小图组成的图数据输入到图卷积网络,即可输出需要的结果。而输出数据可以为指定类型特征、分类置信度、预测回归值中的一种或任意几种的组合,在此不作具体限定。

特别的,图卷积层的公式如下:

a*g*w,其中a为邻接矩阵,g为小图节点特征集合,w为该层可学习参数。

其中,g的张量维度为(m,feat),m为图的节点数,feat为节点属性向量长度,亦即池化后的通道特征数。

w的张量维度为(feat,o),feat对应前置矩阵g的特征数,o为输出向量长度,根据场合为正整数。

图卷积层与线性层相比,多了一个前置的邻接矩阵,其张量维度为(m,m),m为图的节点数,由于邻接矩阵包含节点间距离信息,在输出时能更准确地表征图像局部特征,从而提高模型性能,而且邻接矩阵中连接属性为常量,不参与梯度更新,即减少了可学习参数量。

当前的神经网络模型主要包括由卷积层、规则化层、激活层和池化层构成的视觉模块和线性层,视觉模块经过堆叠后输出特征图,线性层对特征图进行特征变换,分类或预测回归值。在得到图数据后,可以利用图卷积层代替线性层参与构建神经网络系统。需要注意的是,本申请并不限定图卷积层具体在哪一个池化层后,其可以在任意池化层后面替换线性层。

本申请实施例将图卷积融合至传统卷积网络中,用特征像素点和其邻接点构建图数据,邻接矩阵包含表示距离的权重。

本申请实施例在保持原骨干网络性能的前提下,减少了可学习参数量,同时提高了模型的性能。在引入含权邻接矩阵后,扩展了模型对图像局部特征的几何特征的表征能力。通过在池化层的基础上添加图卷积层,利用池化层输出生成图数据,从而建立图卷积网络,利用图数据减少深度学习过程中的参数量,从而降低深度学习的训练成本。

下面对本申请实施例提供的一种神经网络系统的构建系统进行介绍,下文描述的构建系统与上文描述的一种神经网络系统的构建方法可相互对应参照。

参见图2,本申请还提供一种神经网络系统的构建系统,包括:

获取模块100,用于获取卷积神经网络的池化层输出;

像素点确定模块200,用于根据所述池化层输出中的特征图参数确定像素点;

图数据确定模块300,将每个所述像素点作为图节点,建立图节点之间的相邻连接,得到图数据;其中,所述图节点包含所述像素点的通道特征;

系统构建模块400,用于将所述图数据作为输入数据在池化层后构建图卷积层,根据规则化层、激活层、所述池化层和所述图卷积层构建神经网络系统。

基于上述实施例,作为优选的实施例,所述像素点确定模块200为根据所述池化层输出中的特征图参数中的长和宽确定像素点的位置的模块。

本申请还提供了一种计算机可读存储介质,其上存有计算机程序,该计算机程序被执行时可以实现上述实施例所提供的步骤。该存储介质可以包括:u盘、移动硬盘、只读存储器(read-onlymemory,rom)、随机存取存储器(randomaccessmemory,ram)、磁碟或者光盘等各种可以存储程序代码的介质。

本申请还提供了一种终端,可以包括存储器和处理器,所述存储器中存有计算机程序,所述处理器调用所述存储器中的计算机程序时,可以实现上述实施例所提供的步骤。当然所述终端还可以包括各种网络接口,电源等组件。

说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对于实施例提供的系统而言,由于其与实施例提供的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。

本文中应用了具体个例对本申请的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本申请的方法及其核心思想。应当指出,对于本技术领域的普通技术人员来说,在不脱离本申请原理的前提下,还可以对本申请进行若干改进和修饰,这些改进和修饰也落入本申请权利要求的保护范围内。

还需要说明的是,在本说明书中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。


技术特征:

1.一种神经网络系统的构建方法,其特征在于,包括:

获取卷积神经网络的池化层输出;

根据所述池化层输出中的特征图参数确定像素点;

将每个所述像素点作为图节点,建立图节点之间的相邻连接,得到图数据;其中,所述图节点包含所述像素点的通道特征;

将所述图数据作为输入数据在池化层后构建图卷积层,根据规则化层、激活层、所述池化层和所述图卷积层构建神经网络系统。

2.根据权利要求1所述的构建方法,其特征在于,每个所述图节点与相邻图节点形成邻接矩阵,所述邻接矩阵为同阶矩阵。

3.根据权利要求2所述的构建方法,其特征在于,所述邻接矩阵的权重表示连接距离;其中,所述连接距离为0时对应最大权重值。

4.根据权利要求1所述的构建方法,其特征在于,根据所述池化层输出中的特征图参数确定像素点包括:

根据所述池化层输出中的特征图参数中的长和宽确定像素点的位置。

5.根据权利要求1所述的构建方法,其特征在于,所述图卷积层的输出数据为指定类型特征、分类置信度、预测回归值中的一种或任意几种的组合。

6.一种神经网络系统的构建系统,其特征在于,包括:

获取模块,用于获取卷积神经网络的池化层输出;

像素点确定模块,用于根据所述池化层输出中的特征图参数确定像素点;

图数据确定模块,将每个所述像素点作为图节点,建立图节点之间的相邻连接,得到图数据;其中,所述图节点包含所述像素点的通道特征;

系统构建模块,用于将所述图数据作为输入数据在池化层后构建图卷积层,根据规则化层、激活层、所述池化层和所述图卷积层构建神经网络系统。

7.根据权利要求6所述的构建系统,其特征在于,所述像素点确定模块为根据所述池化层输出中的特征图参数中的长和宽确定像素点的位置的模块。

8.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1-5任一项所述的构建方法的步骤。

9.一种终端,其特征在于,包括存储器和处理器,所述存储器中存有计算机程序,所述处理器调用所述存储器中的计算机程序时实现如权利要求1-5任一项所述的构建方法的步骤。

技术总结
本申请提供一种神经网络系统的构建方法,包括:获取卷积神经网络的池化层输出;根据所述池化层输出中的特征图参数确定像素点;将每个所述像素点作为图节点,建立图节点之间的相邻连接,得到图数据;其中,所述图节点包含所述像素点的通道特征;将所述图数据作为输入数据在池化层后构建图卷积层,根据规则化层、激活层、所述池化层和所述图卷积层构建神经网络系统。本申请通过在池化层的基础上添加图卷积层,利用池化层输出生成图数据,从而建立图卷积网络,利用图数据减少深度学习过程中的参数量,从而降低深度学习的训练成本。本申请还提供一种神经网络系统的构建系统、计算机可读存储介质和终端,具有上述有益效果。

技术研发人员:吴子平;曾真;曹杨
受保护的技术使用者:湖南莱博赛医用机器人有限公司
技术研发日:2020.03.11
技术公布日:2020.06.26

介绍一种神经网络系统的构建方法、系统及相关装置与流程的相关内容如下: