基于联邦学习与知识蒸馏结合的滚动轴承故障诊断方法

专利2026-08-06  20


本发明属于联邦机器学习与轴承故障诊断,尤其涉及基于联邦学习与知识蒸馏结合的滚动轴承故障诊断方法。


背景技术:

1、滚动轴承作为机械的核心部件之一,又被称为机械工业的“关节”。早期的调查研究显示,30%的机械故障是由轴承故障引起的,这一比例在旋转设备中更是高达40%-50%。故障的滚动轴承不仅会直接影响机械设备的整体性能,而且还会加快机械设备的退化进程,情况严重时甚至会威胁到操作人员的生命安全。因而在机械设备的运行过程中,对设备中的滚动轴承实现准确的故障诊断,不仅能增强机械设备性能的稳定性并延长机械设备的整体生命期,而且还能减少经济损失并有效保证员工的生命安全。

2、目前,采用深度学习方法进行轴承故障诊断已经成为一个热门的研究方向。深度学习方法可以对信号进行高效处理,并自动学习高层次的特征表示,从而提高轴承故障诊断的准确性和鲁棒性。近年来,研究人员采用了各种深度学习模型,在大量数据的基础上进行轴承故障诊断的研究和探索,从最初简单的神经网络到复杂的深度卷积神经网络,都取得了很好的效果。然而,研究发现,应用这些方法的前提是需要以中心化的方式收集数据、训练模型。但是在实际工程中数据通常是分布式的,个体状态检测数据是动态采集的,数据量大,难以集中。而且在各个终端独立训练模型也是不可取的,主要基于以下两个原因:1)个体终端数据通常不充分,故障模式少,有的故障不出现,数据量少导致统计特征不显著,模型过拟合。2)个体数据偏差性强,数据严重不均衡。因此,我们需要考虑多设备集群来丰富数据,通过多用户协同建模来解决分布式个体数据不足的问题。直接集中数据训练会导致如下两个问题:1)目前传感器被广泛使用在工业上,数据采集周期长,采样频率高,数据量大,数据传输慢。2)数据隐私性:数据敏感性高,数据是核心竞争力,个体数据不能共享,中心化管理可能导致数据泄漏与滥用。

3、因此,在现实生活中,绝大多数企业都存在数据量少、数据质量差、不愿意分享数据等问题,不足以支撑人工智能技术的实现;同时国内外监管环境也在逐步加强数据隐私保护,陆续出台相关政策。基于以上不足以支撑实现、不允许粗暴交换、不愿意贡献价值三点,导致现在存在数据孤岛、数据隐私安全等问题。为解决以上问题,联邦学习应运而生,联邦学习可在分布式机器学习中加入加密,解密传输等手段,并且不需要各个用户的本地私有数据,只需传输训练模型的梯度等参数信息,所以能够在保证数据隐私安全的前提下,突破计算资源瓶颈,实现大规模机器学习。联邦学习可以结合多个不同的轴承设备数据,将不同地点、不同设备的数据进行汇总和综合分析,获得更全面、更具代表性的数据样本,提供更准确的模型训练和诊断结果。


技术实现思路

1、为解决上述技术问题,本发明提出了基于联邦学习与知识蒸馏结合的滚动轴承故障诊断方法,提高了诊断精度,降低了通信成本。

2、为实现上述目的,本发明提供了基于联邦学习与知识蒸馏结合的滚动轴承故障诊断方法,包括:

3、获取轴承振动数据,对所述轴承振动数据进行跨负载处理,获取跨负载的振动数据,对所述跨负载的振动数据进行基于比例周期的滑动窗口样本采样,构造出带标签的源域样本集合和无标签的目标域样本集合;

4、对所述带标签的源域样本集合和所述无标签的目标域样本集合进行特征提取得到分类向量,其中对所述无标签的目标域样本集合标注伪标签;

5、定义教师模型和学生模型,采用所述教师模型对所述轴承振动数据进行推理生成软标签,计算所述教师模型和所述学生模型之间的知识蒸馏损失,计算知识蒸馏前的传统损失,优化本地模型;

6、初始化全局模型,获取本地用户端上传的模型参数,并评估用户端的通信效率和计算能力,根据加权策略计算各个本地用户端的权重,对各个用户端的本地模型更新进行加权聚合获得全局模型,将所述全局模型更新应用到当前的全局模型参数上,更新所述全局模型,获得训练好的全局模型;

7、获取待测轴承振动数据,将所述待测轴承振动数据输入所述训练好的全局模型,完成对滚动轴承的故障诊断。

8、进一步的,对所述跨负载的振动数据进行基于比例周期的滑动窗口样本采样的方法包括:

9、t=rpm/60

10、nt=f/t

11、l=α×nt

12、其中,t为轴承旋转周期,rpm为轴承每分钟的转数,nt为一个旋转周期内的样本点数量,f为采样频率,l为每个样本的采样长度,α为不同样本的比例。

13、进一步的,对所述带标签的源域样本集合和所述无标签的目标域样本集合进行特征提取获得分类向量的方法包括:

14、输入对所述带标签的源域样本集合和所述无标签的目标域样本集合经过一维卷积、批量正则化以及relu函数激活获得第一次卷积处理后的特征图conv1;

15、对所述第一次卷积处理后的特征图conv1执行一维最大值池化max-pool1d操作,获得特征图pool1;

16、对所述特征图pool1连续两次执行一维卷积、批量正则化以及relu函数激活操作,分别获得第二次卷积处理后的特征图conv2和第三次卷积处理后的特征图conv3;

17、对所述第三次卷积处理后的特征图conv3执行一维最大值池化获得关键特征图pool2;

18、将所述关键特征图pool2拉平成一维特征向量后输入一个全连接层执行relu函数激活后获得分类向量fc1。

19、进一步的,对所述无标签的目标域样本集合标注伪标签的方法为:

20、

21、其中,fc1表示分类向量,a表示fc1中最大值的索引,ya表示一个新的向量,是一个独热编码,长度和fc1一致。

22、进一步的,采用所述教师模型对所述轴承振动数据进行推理生成软标签的方法为:

23、soft_labels=teachermodel(local_data)

24、其中,soft_labels为生成的软标签,teachermodel(local_data)为教师模型对数据集的输出概率分布,local_data为本地轴承故障数据。

25、进一步的,计算所述教师模型和所述学生模型之间的知识蒸馏损失的方法为:

26、

27、kd_los=kl(studentmodel(local_data)||soft_labels)

28、其中,p和q为两个概率分布,p(i)和q(i)分别为在两个概率分布的第i个类别上的概率,kd_loss为知识蒸馏损失,studentmodel(local_data)为学生模型对数据集的输出概率分布,kl为计算散度的函数,soft_labels为软标签。

29、进一步的,优化本地模型的方法为:

30、loss=αtotal×jtotal+βkd×kd_loss

31、其中,αtotal为传统损失的权重,βkd为知识蒸馏损失的权重,kd_loss为知识蒸馏损失,jtotal为传统损失,loss为优化后的总损失。

32、进一步的,对各个用户端的本地模型更新进行加权聚合获得全局模型的方法为:

33、

34、其中,δθglobal为全局模型的参数更新,wi为第i个用户端的权重,δθi为第i个用户端的本地模型更新,n为用户端的总数。

35、进一步的,将所述全局模型更新应用到当前的全局模型参数上,更新所述全局模型的方法为:

36、

37、其中,为更新后的全局模型参数,为更新前的全局模型参数,δθglobal为全局模型的参数更新。

38、本发明技术效果:

39、(1)模型有更好的泛化能力,考虑在工业生产的过程中,同一设备的运行负载会根据生产需求在多个固定负载之间进行转换,本地数据集包含的数据往往是跨负载的,该模型在跨负载的场景下也能有很好的诊断效果。使用基于比例周期的滑动窗口采样方法进行高质量的样本采样,得到数量更多的样本数据来增强模型的通用性。

40、(2)在模型训练的过程中使用了伪标签技术,从而让无标签样本也参与到模型的训练中,帮助模型更好的学到公共特征。

41、(3)使用联邦学习的方法进行轴承故障诊断,允许用户在本地设备上训练模型,无需将原始数据传输到中央服务器,保护了用户的敏感数据。通过联邦学习,丰富了模型的训练样本,提高了模型的泛化能力,使模型可以更好地适应各种不同的轴承故障情况,提高故障诊断的准确性和可靠性。联邦学习充分利用了分布式计算的优势,允许在多个设备并行训练模型,不仅加快了训练速度,还降低了单个设备的计算负担,提高了整体系统的效率和可扩展性。同时,在轴承故障诊断中,可能会遇到数据分布不平衡的问题,即某些类型的故障数据相对较多,而其他类型的故障数据较少。联邦学习可以通过结合多个用户的数据进行训练,有助于解决这种非平衡数据的问题,使模型对各种故障类型都有很好的识别能力。联邦学习还允许模型在本地进行持续学习和更新,而无需重新收集或传输大量数据。这对于轴承故障诊断这样的应用场景非常有利,因为随着设备的使用和时间的推移,新的故障模式可能会不断出现。通过联邦学习,模型可以不断吸收新的故障数据,提高其故障诊断能力。

42、(4)提出了一种本地用户参与联邦学习全局模型训练的策略,考虑本地用户端的通信效率和计算能力,让通信效率高,计算能力强的用户更多的参与全局模型的训练,并使用mmd(最大均值差异)计算本地用户模型和全局模型的差异,让与全局模型越相似的用户更多的参与全局模型的训练。

43、(5)提出了知识蒸馏的方法来优化本地模型的训练,帮助提升本地模型的性能。本地模型的损失通过使用mmd考虑源域样本和目标域样本差异来更好的监督神经网络高效学习到理想的模型。

44、(6)设计的诊断模型简单,所需的计算资源和存储空间相对较少,有利于资源有限的用户设备部署和集成。


技术特征:

1.基于联邦学习与知识蒸馏结合的滚动轴承故障诊断方法,其特征在于,包括:获取轴承振动数据,对所述轴承振动数据进行跨负载处理,获取跨负载的振动数据,对所述跨负载的振动数据进行基于比例周期的滑动窗口样本采样,构造出带标签的源域样本集合和无标签的目标域样本集合;

2.如权利要求1所述的基于联邦学习与知识蒸馏结合的滚动轴承故障诊断方法,其特征在于,对所述跨负载的振动数据进行基于比例周期的滑动窗口样本采样的方法包括:

3.如权利要求1所述的基于联邦学习与知识蒸馏结合的滚动轴承故障诊断方法,其特征在于,对所述带标签的源域样本集合和所述无标签的目标域样本集合进行特征提取获得分类向量的方法包括:

4.如权利要求1所述的基于联邦学习与知识蒸馏结合的滚动轴承故障诊断方法,其特征在于,对所述无标签的目标域样本集合标注伪标签的方法为:

5.如权利要求1所述的基于联邦学习与知识蒸馏结合的滚动轴承故障诊断方法,其特征在于,采用所述教师模型对所述轴承振动数据进行推理生成软标签的方法为:

6.如权利要求1所述的基于联邦学习与知识蒸馏结合的滚动轴承故障诊断方法,其特征在于,计算所述教师模型和所述学生模型之间的知识蒸馏损失的方法为:

7.如权利要求1所述的基于联邦学习与知识蒸馏结合的滚动轴承故障诊断方法,其特征在于,优化本地模型的方法为:

8.如权利要求1所述的基于联邦学习与知识蒸馏结合的滚动轴承故障诊断方法,其特征在于,对各个用户端的本地模型更新进行加权聚合获得全局模型的方法为:

9.如权利要求1所述的基于联邦学习与知识蒸馏结合的滚动轴承故障诊断方法,其特征在于,将所述全局模型更新应用到当前的全局模型参数上,更新所述全局模型的方法为:


技术总结
本发明公开了基于联邦学习与知识蒸馏结合的滚动轴承故障诊断方法,包括:获取轴承振动数据,基于比例周期的滑动窗口样本采样,构造出带标签的源域样本集合和无标签的目标域样本集合;对带标签的源域样本集合和无标签的目标域样本集合进行特征提取得到分类向量;定义教师模型和学生模型,采用教师模型对轴承振动数据进行推理生成软标签,优化本地模型;初始化全局模型,获取本地用户端上传的模型参数,并评估用户端的通信效率和计算能力,根据加权策略计算各个本地用户端的权重,对各个用户端的本地模型更新进行加权聚合获得全局模型,更新全局模型,获得训练好的全局模型;将待测轴承振动数据输入训练好的全局模型,完成对滚动轴承的故障诊断。

技术研发人员:杨科华,曾宏辉
受保护的技术使用者:湖南大学
技术研发日:
技术公布日:2024/6/26
转载请注明原文地址:https://doc.8miu.com/read-1832525.html

最新回复(0)