首页  专利技术  电子电路装置的制造及其应用技术

基于一次性自动化网络剪枝的分类方法及系统与流程

2026-03-24 10:00:01 9次浏览
基于一次性自动化网络剪枝的分类方法及系统与流程

本发明涉及人工智能,具体为基于一次性自动化网络剪枝的分类方法及系统。


背景技术:

1、图像识别是神经网络在现实世界中应用的一个重要领域,通过对图像进行分类、检测和分割,广泛应用于自动驾驶、医疗诊断、安防监控等领域。然而,现有图像的分辨率越来越高,数据量越来越庞大,因此,对图像数据的分类越来越困难,存在效率低的问题。


技术实现思路

1、本发明的目的是:针对现有技术对图像数据进行分类,存在效率低的问题,提出基于一次性自动化网络剪枝的分类方法及系统。

2、本发明为了解决上述技术问题采取的技术方案是:

3、基于一次性自动化网络剪枝的分类方法,所述方法包括以下步骤:

4、获取待分类的多类别图像,并将多类别图像输入训练好的分类网络,得到分类结果,所述训练好的分类网络通过以下步骤得到:

5、步骤一:利用训练好的剪枝网络对分类网络进行参数重要性预测,设定稀疏度程度,并以设定的稀疏度程度为阈值,剪除预测重要性分数低于该阈值的参数,保留重要性不低于该阈值的参数,进而得到剪枝后的分类网络;

6、步骤二:获取多类别图像及图像中每个类别对应的标签,以此构建训练集;

7、步骤三:利用训练集训练剪枝后的分类网络,得到训练好的分类网络;

8、所述训练好的剪枝网络通过以下步骤得到:

9、步骤1:对神经网络进行迭代剪枝,进而得到神经网络中每个参数的重要性分数;

10、步骤2:利用每个参数及其对应的梯度作为输入,将参数重要性分数作为输出,训练剪枝网络,得到训练好的剪枝网络。

11、进一步的,所述步骤二中多类别图像为标准化处理后的图像,所述标准化处理包括缩放、裁剪、灰度化、归一化以及数据增强。

12、进一步的,所述分类网络为resnet、vggnet或mobilenet。

13、进一步的,所述迭代剪枝通过snip方法进行。

14、进一步的,所述迭代剪枝具体为:

15、将神经网络中每个参数分配一个二进制掩码,并将每一个二进制掩码初始化为1,设定稀疏度程度∈和剪枝过程的稀疏迭代次数n,之后进行剪枝迭代,并将迭代过程中移除的参数对应的二进制掩码的值更新为0,最终得到每个参数的重要性

16、进一步的,所述参数的重要性表示为:

17、

18、其中,mi表示第i次剪枝后,该参数的掩码值。

19、基于一次性自动化网络剪枝的分类系统,所述系统包括剪枝网络训练模块、分类网络训练模块以及分类模块;

20、所述剪枝网络训练模块具体执行如下步骤:

21、步骤1:对神经网络进行迭代剪枝,进而得到神经网络中每个参数的重要性分数;

22、步骤2:利用每个参数及其对应的梯度作为输入,将参数重要性分数作为输出,训练剪枝网络,得到训练好的剪枝网络;

23、所述分类网络训练模块具体执行如下步骤:

24、步骤一:利用训练好的剪枝网络对分类网络进行参数重要性预测,设定稀疏度程度,并以设定的稀疏度程度为阈值,剪除预测重要性分数低于该阈值的参数,保留重要性不低于该阈值的参数,进而得到剪枝后的分类网络;

25、步骤二:获取多类别图像及图像中每个类别对应的标签,以此构建训练集;

26、步骤三:利用训练集训练剪枝后的分类网络,得到训练好的分类网络;

27、所述分类模块具体执行如下步骤:

28、获取待分类的多类别图像,并将多类别图像输入训练好的分类网络,得到分类结果。

29、进一步的,所述多类别图像为标准化处理后的图像,所述标准化处理包括缩放、裁剪、灰度化、归一化以及数据增强;

30、所述分类网络为resnet、vggnet或mobilenet;

31、所述迭代剪枝通过snip方法进行。

32、进一步的,所述迭代剪枝具体为:

33、将神经网络中每个参数分配一个二进制掩码,并将每一个二进制掩码初始化为1,设定稀疏度程度∈和剪枝过程的稀疏迭代次数n,之后进行剪枝迭代,并将迭代过程中移除的参数对应的二进制掩码的值更新为0,最终得到每个参数的重要性

34、进一步的,所述参数的重要性表示为:

35、

36、其中,mi表示第i次剪枝后,该参数的掩码值。

37、本发明的有益效果是:

38、本申请通过引入数据驱动的初始化剪枝方法,可以在图像分类任务中有效减少神经网络的参数和计算需求,提升网络在资源受限环境中的应用性能。本申请能够在保持高识别准确性的同时,提升图像分类处理的效率。



技术特征:

1.基于一次性自动化网络剪枝的分类方法,其特征在于所述方法包括以下步骤:

2.根据权利要求1所述的面向图像识别网络的一次性自动化网络剪枝方法,其特征在于所述步骤二中多类别图像为标准化处理后的图像,所述标准化处理包括缩放、裁剪、灰度化、归一化以及数据增强。

3.根据权利要求1所述的面向图像识别网络的一次性自动化网络剪枝方法,其特征在于所述分类网络为resnet、vggnet或mobilenet。

4.根据权利要求1所述的面向图像识别网络的一次性自动化网络剪枝方法,其特征在于所述迭代剪枝通过snip方法进行。

5.根据权利要求4所述的面向图像识别网络的一次性自动化网络剪枝方法,其特征在于所述迭代剪枝具体为:

6.根据权利要求5所述的面向图像识别网络的一次性自动化网络剪枝方法,其特征在于所述参数的重要性表示为:

7.基于一次性自动化网络剪枝的分类系统,其特征在于所述系统包括剪枝网络训练模块、分类网络训练模块以及分类模块;

8.根据权利要求7所述的面向图像识别网络的一次性自动化网络剪枝系统,其特征在于所述多类别图像为标准化处理后的图像,所述标准化处理包括缩放、裁剪、灰度化、归一化以及数据增强;

9.根据权利要求8所述的面向图像识别网络的一次性自动化网络剪枝系统,其特征在于所述迭代剪枝具体为:

10.根据权利要求9所述的面向图像识别网络的一次性自动化网络剪枝系统,其特征在于所述参数的重要性表示为:


技术总结
基于一次性自动化网络剪枝的分类方法及系统,涉及人工智能技术领域,针对现有技术对图像数据进行分类,存在效率低的问题,本申请通过引入数据驱动的初始化剪枝方法,可以在图像分类任务中有效减少神经网络的参数和计算需求,提升网络在资源受限环境中的应用性能。本申请能够在保持高识别准确性的同时,提升图像分类处理的效率。

技术研发人员:查富生,刘晟凯,程耀锋,张森,郭伟,孙立宁,王鹏飞
受保护的技术使用者:哈工大苏州研究院
技术研发日:
技术公布日:2024/11/26
文档序号 : 【 40123512 】

技术研发人员:查富生,刘晟凯,程耀锋,张森,郭伟,孙立宁,王鹏飞
技术所有人:哈工大苏州研究院

备 注:该技术已申请专利,仅供学习研究,如用于商业用途,请联系技术所有人。
声 明此信息收集于网络,如果你是此专利的发明人不想本网站收录此信息请联系我们,我们会在第一时间删除
查富生刘晟凯程耀锋张森郭伟孙立宁王鹏飞哈工大苏州研究院
一种提高预约单播单效率的方法与流程 一种基于物联网的产后护理数据智能管理方法
相关内容