特征提取网络训练方法、图像处理方法及装置与流程

专利2022-05-10  2



1.本公开涉及图像处理领域,尤其涉及特征提取网络训练方法、图像处理方法及装置。


背景技术:

2.在图像处理领域,能够通过网络对两个图像进行处理,以确定出两个图像的之间的相似度,以此来确定两个图像是否相关,以此来作为图像检索的依据。
3.目前,特征提取网络训练方法的关注点通常在于图像的嵌入表示的学习,训练时特征提取网络能够对样本图像的图像特征进行处理得到嵌入表示,然后基于嵌入表示对特征提取网络进行训练,以使得特征提取网络训练后能够准确提取图像的嵌入表示。
4.上述基于嵌入表示训练网络的方式有个基本前提:假设样本图像周围的邻域结构非常均匀。但是其实样本图像的邻域结构一般不像假设的那么均匀,因而上述方式确定的嵌入表示并没有那么准确,自然地,该特征提取网络确定出图像之间的相似度也就不够准确,该特征提取网络用于图像检索时得到的检索结果不够准确。


技术实现要素:

5.本公开提供一种特征提取网络训练方法、图像处理方法及装置,能够提高特征提取网络的准确性。本公开的技术方案如下:
6.根据本公开实施例的第一方面,提供一种特征提取网络训练方法,包括:
7.基于第一特征提取网络对样本图像进行处理,得到所述样本图像的第一特征,所述第一特征用于表征所述样本图像的内容特征;
8.基于第二特征提取网络对所述样本图像进行处理,得到所述样本图像的第二特征,第二特征用于表征目标类别图像的内容特征分布状况,所述目标类别为所述样本图像所属的类别;
9.基于所述样本图像的第一特征、第二特征以及所述样本图像所属类别,确定第一样本图像集合中样本图像之间的预测相似度关系,所述第一样本图像集合包括属于同一类别的样本图像和属于不同类别的样本图像,所述预测相似度关系用于表征两个样本图像之间是否属于同一类别;
10.基于所述预测相似度关系与目标相似度关系之间的差异,对所述第一特征提取网络和所述第二特征提取网络进行训练。
11.在一些实施例中,所述基于所述样本图像的第一特征、第二特征以及所述样本图像所属类别,确定第一样本图像集合中样本图像之间的预测相似度关系,包括:
12.基于所述样本图像以及所述第一样本图像集合中第一样本图像的第一特征,确定所述样本图像与所述第一样本图像之间的第一相似度,所述第一样本图像为所述样本图像集合中与所述样本图像属于相同类别的图像;
13.基于所述样本图像以及与所述第一样本图像集合中第二样本图像的第一特征,确
定所述样本图像与所述第二样本图像之间的第二相似度,第二样本图像为所述第一样本图像集合中与所述样本图像属于不同类别的图像;
14.基于所述样本图像的第二特征、所述样本图像与所述第二样本图像集合中样本图像的第一特征,确定所述样本图像和所述第二样本图像集合中样本图像之间的第三相似度,所述第二样本图像集合包括所述第一样本图像和所述第二样本图像;
15.基于所述第一相似度、第二相似度和第三相似度,确定第一样本图像集合中样本图像之间的第一预测相似度关系;
16.基于所述第三相似度,确定第一样本图像集合中样本图像之间的第二预测相似度关系;
17.所述基于所述预测相似度关系与目标相似度关系之间的差异,对所述第一特征提取网络和所述第二特征提取网络进行训练,包括:
18.基于所述第一预测相似度关系与目标相似度关系之间的差异,对所述第一特征提取网络进行训练;
19.基于所述第二预测相似度关系与目标相似度关系之间的差异,对所述第二特征提取网络进行训练。
20.在一些实施例中,所述基于所述样本图像的第二特征、所述样本图像与所述第二样本图像集合中样本图像的第一特征,确定所述样本图像和所述第二样本图像集合中样本图像之间的第三相似度,包括:
21.根据所述第一相似度和所述第二相似度,从所述第二样本图像集合中,确定所述样本图像对应的第三样本图像集合,所述第三样本图像集合包括所述第一相似度或所述第二相似度满足条件的图像;
22.以所述样本图像的第二特征作为系数,获取所述样本图像的第一特征和所述第三样本图像集合中样本图像的第一特征之间的距离;
23.对所述距离进行归一化,得到所述样本图像和所述第三样本图像集合中样本图像之间的第三相似度。
24.在一些实施例中,所述基于所述第一相似度、第二相似度和第三相似度,确定第一样本图像集合中样本图像之间的第一预测相似度关系,包括:
25.基于所述第一相似度和所述第二相似度,确定第一损失值,所述第一损失值与所述第一相似度正相关,所述第一损失值与所述第二相似度负相关;
26.基于所述样本图像与所述第三样本图像集合中样本图像之间的第三相似度,对所述第三样本图像集合中样本图像进行排序,得到预测排序结果;
27.所述基于所述第一预测相似度关系与目标相似度关系之间的差异,对所述第一特征提取网络进行训练,包括:
28.基于所述样本图像与所述第三样本图像集合中样本图像之间的第一相似度,对所述第三样本图像集合中样本图像进行排序,得到目标排序结果;
29.基于所述预测排序结果与目标排序结果,确定第二损失值,所述第二损失值用于指示所述排序结果和所述目标排序结果之间的差异;
30.基于所述第一损失值和所述第二损失值,对所述第一特征提取网络进行训练。
31.在一些实施例中,所述基于所述样本图像的第二特征、所述样本图像与所述第二
样本图像集合中样本图像的第一特征,确定所述样本图像和所述第二样本图像集合中样本图像之间的第三相似度,包括:
32.以所述样本图像的第二特征作为系数,获取所述样本图像的第一特征与所述第二样本图像集合中样本图像的第一特征之间的距离,所述距离为所述样本图像与所述第二样本图像集合中样本图像之间的第三相似度。
33.在一些实施例中,所述基于所述第一相似度、第二相似度和第三相似度,确定第一样本图像集合中样本图像之间的第一预测相似度关系;基于所述第一预测相似度关系与目标相似度关系之间的差异,对所述第一特征提取网络进行训练,包括:
34.基于所述第一相似度和所述第二相似度,确定第一损失值,所述第一损失值与所述第一相似度正相关,所述第一损失值与所述第二相似度负相关;
35.根据所述样本图像与所述第二样本图像集合中样本图像之间的第三相似度,确定所述第二样本图像集合中样本图像中所述第一样本图像的第一中心,以及所述第二样本图像的第二中心;
36.根据所述样本图像和所述第二样本图像集合中样本图像分别与所述第一中心以及所述第二中心之间的距离,获取第二损失值;
37.基于所述第一损失值和所述第二损失值,对所述第一特征提取网络进行训练。
38.在一些实施例中,所述第二特征提取网络包括两个全连接层和激活层;
39.所述基于第二特征提取网络对所述样本图像进行处理,得到所述样本图像的第二特征,包括:
40.基于所述第二特征提取网络中的所述两个全连接层,对所述样本图像进行前向计算,由所述第二特征提取网络的激活层对最后一个全连接层的输出进行处理,输出所述样本图像的第二特征。
41.根据本公开实施例的第二方面,提供一种图像处理方法,包括:
42.对所述图像进行处理,得到所述图像的第一特征,所述第一特征用于表征所述图像的内容特征;
43.对所述图像进行处理,得到所述图像的第二特征,所述第二特征用于表征目标类别图像的内容特征分布状况,所述目标类别为所述图像所属的类别;
44.基于所述图像的所述第一特征和所述第二特征,确定所述图像所匹配的目标图像;
45.基于所述目标图像进行图像推送。
46.在一些实施例中,所述对所述图像进行处理,得到所述图像的第一特征,包括:
47.基于第一特征提取网络对所述图像进行处理,得到所述第一特征;
48.所述对所述图像进行处理,得到所述图像的第二特征,包括:
49.基于第二特征提取网络,对所述图像进行处理,得到所述图像的第二特征;
50.其中,所述第一特征提取网络和所述第二特征提取网络分别基于第一样本图像集合中样本图像之间的预测相似度关系与目标预测相似度关系之间的差异训练得到,所述预测相似度关系基于样本图像的第一特征、第二特征以及所述样本图像所属类别确定,且所述预测相似度关系用于表征两个样本图像之间是否属于同一类别。
51.在一些实施例中,所述基于所述图像的所述第一特征和所述第二特征,确定所述
图像所匹配的目标图像,包括:
52.基于所述图像的第一特征与候选图像集合中候选图像的第一特征之间的第四相似度,从所述候选图像集合中,确定所述图像所匹配的目标图像,所述目标图像的所述第四相似度符合条件;
53.基于所述图像的第二特征与所述目标图像的第二特征之间的第五相似度,对所述目标图像进行排序,得到所述目标图像的排序结果;
54.所述基于所述目标图像进行图像推送,包括:
55.按照所述排序结果对所述目标图像进行图像推送。
56.在一些实施例中,所述第二特征提取网络包括两个全连接层和激活层;
57.所述对所述图像进行处理,得到所述图像的第二特征,包括:
58.基于第二特征提取网络中的两个全连接层,对所述图像进行前向计算,由所述第二特征提取网络的激活层对最后一个全连接层的输出进行处理,输出所述图像的第二特征。
59.根据本公开实施例的第三方面,提供一种特征提取网络训练装置,包括:
60.处理单元,被配置为执行基于第一特征提取网络对样本图像进行处理,得到所述样本图像的第一特征,所述第一特征用于表征所述样本图像的内容特征;
61.所述处理单元,还被配置为执行基于第二特征提取网络对所述样本图像进行处理,得到所述样本图像的第二特征,第二特征用于表征目标类别图像的内容特征分布状况,所述目标类别为所述样本图像所属的类别;
62.确定单元,被配置为执行基于所述样本图像的第一特征、第二特征以及所述样本图像所属类别,确定第一样本图像集合中样本图像之间的预测相似度关系,所述第一样本图像集合包括属于同一类别的样本图像和属于不同类别的样本图像,所述预测相似度关系用于表征两个样本图像之间是否属于同一类别;
63.训练单元,被配置为执行基于所述预测相似度关系与目标相似度关系之间的差异,对所述第一特征提取网络和所述第二特征提取网络进行训练。
64.在一些实施例中,所述确定单元被配置为执行:
65.基于所述样本图像以及所述第一样本图像集合中第一样本图像的第一特征,确定所述样本图像与所述第一样本图像之间的第一相似度,所述第一样本图像为所述样本图像集合中与所述样本图像属于相同类别的图像;
66.基于所述样本图像以及与所述第一样本图像集合中第二样本图像的第一特征,确定所述样本图像与所述第二样本图像之间的第二相似度,第二样本图像为所述第一样本图像集合中与所述样本图像属于不同类别的图像;
67.基于所述样本图像的第二特征、所述样本图像与所述第二样本图像集合中样本图像的第一特征,确定所述样本图像和所述第二样本图像集合中样本图像之间的第三相似度,所述第二样本图像集合包括所述第一样本图像和所述第二样本图像;
68.基于所述第一相似度、第二相似度和第三相似度,确定第一样本图像集合中样本图像之间的第一预测相似度关系;
69.基于所述第三相似度,确定第一样本图像集合中样本图像之间的第二预测相似度关系;
70.所述训练单元被配置为执行:
71.基于所述第一预测相似度关系与目标相似度关系之间的差异,对所述第一特征提取网络进行训练;
72.基于所述第二预测相似度关系与目标相似度关系之间的差异,对所述第二特征提取网络进行训练。
73.在一些实施例中,所述确定单元被配置为执行:
74.根据所述第一相似度和所述第二相似度,从所述第二样本图像集合中,确定所述样本图像对应的第三样本图像集合,所述第三样本图像集合包括所述第一相似度或所述第二相似度满足条件的图像;
75.以所述样本图像的第二特征作为系数,获取所述样本图像的第一特征和所述第三样本图像集合中样本图像的第一特征之间的距离;
76.对所述距离进行归一化,得到所述样本图像和所述第三样本图像集合中样本图像之间的第三相似度。
77.在一些实施例中,所述确定单元被配置为执行:
78.基于所述第一相似度和所述第二相似度,确定第一损失值,所述第一损失值与所述第一相似度正相关,所述第一损失值与所述第二相似度负相关;
79.基于所述样本图像与所述第三样本图像集合中样本图像之间的第三相似度,对所述第三样本图像集合中样本图像进行排序,得到预测排序结果;
80.所述训练单元被配置为执行:基于所述样本图像与所述第三样本图像集合中样本图像之间的第一相似度,对所述第三样本图像集合中样本图像进行排序,得到目标排序结果;
81.基于所述预测排序结果与目标排序结果,确定第二损失值,所述第二损失值用于指示所述排序结果和所述目标排序结果之间的差异;
82.基于所述第一损失值和所述第二损失值,对所述第一特征提取网络进行训练。
83.在一些实施例中,所述确定单元被配置为执行:
84.以所述样本图像的第二特征作为系数,获取所述样本图像的第一特征与所述第二样本图像集合中样本图像的第一特征之间的距离,所述距离为所述样本图像与所述第二样本图像集合中样本图像之间的第三相似度。
85.在一些实施例中,所述确定单元和所述训练单元被配置为执行:
86.基于所述第一相似度和所述第二相似度,确定第一损失值,所述第一损失值与所述第一相似度正相关,所述第一损失值与所述第二相似度负相关;
87.根据所述样本图像与所述第二样本图像集合中样本图像之间的第三相似度,确定所述第二样本图像集合中样本图像中所述第一样本图像的第一中心,以及所述第二样本图像的第二中心;
88.根据所述样本图像和所述第二样本图像集合中样本图像分别与所述第一中心以及所述第二中心之间的距离,获取第二损失值;
89.基于所述第一损失值和所述第二损失值,对所述第一特征提取网络进行训练。
90.在一些实施例中,所述第二特征提取网络包括两个全连接层和激活层;
91.所述处理单元被配置为执行基于所述第二特征提取网络中的所述两个全连接层,
对所述样本图像进行前向计算,由所述第二特征提取网络的激活层对最后一个全连接层的输出进行处理,输出所述样本图像的第二特征。
92.根据本公开实施例的第四方面,提供一种图像处理装置,包括:
93.处理单元,被配置为执行对所述图像进行处理,得到所述图像的第一特征,所述第一特征用于表征所述图像的内容特征;
94.所述处理单元,还被配置为执行对所述图像进行处理,得到所述图像的第二特征,所述第二特征用于表征目标类别图像的内容特征分布状况,所述目标类别为所述图像所属的类别;
95.确定单元,被配置为执行基于所述图像的所述第一特征和所述第二特征,确定所述图像所匹配的目标图像;
96.推送单元,被配置为执行基于所述目标图像进行图像推送。
97.在一些实施例中,所述处理单元被配置为执行:
98.基于第一特征提取网络对所述图像进行处理,得到所述第一特征;
99.所述处理单元被配置为执行:
100.基于第二特征提取网络,对所述图像进行处理,得到所述图像的第二特征;
101.其中,所述第一特征提取网络和所述第二特征提取网络分别基于第一样本图像集合中样本图像之间的预测相似度关系与目标预测相似度关系之间的差异训练得到,所述预测相似度关系基于样本图像的第一特征、第二特征以及所述样本图像所属类别确定,且所述预测相似度关系用于表征两个样本图像之间是否属于同一类别。
102.在一些实施例中,所述确定单元被配置为执行:
103.基于所述图像的第一特征与候选图像集合中候选图像的第一特征之间的第四相似度,从所述候选图像集合中,确定所述图像所匹配的目标图像,所述目标图像的所述第四相似度符合条件;
104.基于所述图像的第二特征与所述目标图像的第二特征之间的第五相似度,对所述目标图像进行排序,得到所述目标图像的排序结果;
105.所述推送单元被配置为执行:
106.按照所述排序结果对所述目标图像进行图像推送。
107.在一些实施例中,所述第二特征提取网络包括两个全连接层和激活层;
108.所述处理单元被配置为执行:
109.基于第二特征提取网络中的两个全连接层,对所述图像进行前向计算,由所述第二特征提取网络的激活层对最后一个全连接层的输出进行处理,输出所述图像的第二特征。
110.根据本公开实施例的第五方面,提供一种电子设备,电子设备包括:
111.一个或多个处理器;
112.用于存储所述一个或多个处理器可执行指令的一个或多个存储器;
113.其中,所述一个或多个处理器被配置为执行所述指令,以实现第一方面任一项所述的特征提取网络训练方法或第二方面所述的图像处理方法。
114.根据本公开实施例的第六方面,提供一种计算机可读存储介质,当所述计算机可读存储介质中的指令由电子设备的处理器执行时,使得所述电子设备能够执行第一方面任
一项所述的特征提取网络训练方法或第二方面所述的图像处理方法。
115.根据本公开实施例的第七方面,提供一种计算机程序产品,包括一条或多条计算机指令,所述一条或多条计算机指令存储在计算机可读存储介质中。电子设备的一个或多个处理器能够从计算机可读存储介质中读取所述一条或多条计算机指令,所述一个或多个处理器执行所述一条或多条计算机指令,使得电子设备能够执行上述第一方面任一项所述的特征提取网络训练方法或第二方面所述的图像处理方法。
116.本公开的实施例提供的技术方案至少带来以下有益效果:
117.本公开实施例,新增了一种用于提取第二特征的第二特征提取网络,第二特征用于表征目标类别图像的内容特征分布状况,也即是该样本图像的邻域结构,结合用于提取样本图像本身特征的第一特征提取网络,从两个角度来对样本图像的图像特征进行处理,考虑到了不同样本图像的邻域结构可能不均匀的情况,在训练过程中不仅学习样本图像本身的特征,还能够自适应地学习到样本图像的邻域结构,以此训练得到的特征提取网络在特征提取方面的准确性更好,这样提取到的特征能够更加准确地体现出图像所属的类别,基于训练后的特征提取网络进行图像检索也能够得到更加准确的检索结果。
118.应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
119.此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理,并不构成对本公开的不当限定。
120.图1是本技术实施例提供的一种特征提取网络训练方法和图像处理方法的实施环境的示意图。
121.图2是根据一示例性实施例示出的一种特征提取网络训练方法的流程图。
122.图3是根据一示例性实施例示出的一种特征提取网络训练方法的流程图。
123.图4是根据一示例性实施例示出的一种特征提取网络训练方法的流程图。
124.图5是根据一示例性实施例示出的一种图像的邻域结构的示意图。
125.图6是根据一示例性实施例示出的一种特征提取网络训练方法的流程图。
126.图7是根据一示例性实施例示出的一种特征提取网络训练方法的流程图。
127.图8是根据一示例性实施例示出的一种样本图像的距离分布的示意图。
128.图9是根据一示例性实施例示出的一种图像处理方法的流程图。
129.图10是根据一示例性实施例示出的特征提取网络训练方法在cub

200

2011数据集上的表现示意图。
130.图11是根据一示例性实施例示出的一种特征提取网络训练装置框图。
131.图12是根据一示例性实施例示出的一种特征提取网络训练装置框图。
132.图13是根据一示例性实施例示出的一种电子设备的结构示意图。
133.图14是根据一示例性实施例示出的一种终端的结构框图。
134.图15是根据一示例性实施例示出的一种服务器的结构示意图。
具体实施方式
135.为了使本领域普通人员更好地理解本公开的技术方案,下面将结合附图,对本公开实施例中的技术方案进行清楚、完整地描述。
136.需要说明的是,本公开的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本公开的实施例能够以除了在这里图示或描述的那些以外的顺序实施。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
137.本公开所涉及的用户信息可以为经用户授权或者经过各方充分授权的信息。
138.下面针对本公开实施例涉及到的名词进行解释说明。
139.在拓扑学和相关的数学领域中,邻域是拓扑空间中的基本概念。直觉上说,一个点的邻域是包含这个点的集合。
140.拓扑流形的数学定义可以表述为:设m是豪斯多夫空间,若对任意一点x∈m,都有x在m中的一个邻域u同胚于m维欧几里得空间r
m
的一个开集,就称m是一个m维流形或m维拓扑流形。
141.相关技术中,都是假设样本图像周围的邻域结构非常均匀,但是样本图像的邻域结构一般不像假设的那么均匀,以下通过两个示例来对邻域结构不均匀进行详细解释说明。
142.示例一:在对抗学习中,对抗样本在某些输入维度上的小扰动可能会导致输出空间的较大偏差,而在其他维度上的扰动则不会,在其他维度上的扰动不会影响输出空间的原因是神经网络具有一定的鲁棒性。通过对抗样本在不同输入维度上的扰动的不同表现,正可以证明嵌入的邻域结构不像假设的那么均匀。
143.示例二:如图1所示,包括两种图像,每种图像的图像数量为多个。对于其中一种图像,每个图像中包括猫,这些图像的类别为猫。对于另一种图像,每个图像中包括虎,这些图像的类别为虎。不同图像里包括的猫在外观或者品种上可能不同。对于类别为猫的一种图像,由于猫的纹理图案非常不同,因此这些图像在嵌入空间中其邻居可以在“纹理”维度上分布得很宽。相比之下,对于老虎来说,因为所有种类的老虎都具有相似的纹理,因而类别为虎的图像的邻居应该分布在狭窄的范围内。由图可知,在“纹理”维度上,猫和老虎应具有不同的分布形状,不同类别的样本图像应有自适应的邻域结构。
144.通过上述两个示例能够充分说明样本图像的邻域结构其实并不均匀,正是考虑到这一点,本技术实施例中新增了一种第二特征提取网络,该第二特征提取网络能够提取到表示邻域结构的第二特征,以此来辅助第一特征提取网络训练,从而能够使得特征提取网络提取到更加准确的特征。具体内容可以参见下述实施例,在此先不作过多介绍。
145.图2是本技术实施例提供的一种特征提取网络训练方法和图像处理方法的实施环境的示意图。该实施环境包括终端101,或者该实施环境包括终端101和图像处理平台102。终端101通过无线网络或有线网络与图像处理平台102相连。
146.终端101是智能手机、游戏主机、台式计算机、平板电脑、电子书阅读器、mp3(moving picture experts group audio layer iii,动态影像专家压缩标准音频层面3)
播放器或mp4(moving picture experts group audio layer iv,动态影像专家压缩标准音频层面4)播放器,膝上型便携计算机,智能机器人,自助支付设备中的至少一种。终端101安装和运行有支持图像处理的应用程序,例如,该应用程序是系统应用、即时通讯应用、新闻推送应用、购物应用、在线视频应用、社交应用。
147.示例性地,该终端101具有图像采集功能和图像处理功能,对采集到的图像进行处理,并根据处理结果执行相应的功能。该终端101独立完成该工作,也通过图像处理平台102为其提供数据服务,本技术实施例对此不作限定。对于特征提取网络的训练,可以由终端101执行,也可以由图像处理平台102执行,或者由终端101和图像处理平台102协作执行,本技术实施例对此不作限定。
148.图像处理平台102包括一台服务器、多台服务器、云计算平台和虚拟化中心中的至少一种。图像处理平台102用于为支持图像处理的应用程序提供后台服务。可选地,图像处理平台102承担主要处理工作,终端101承担次要处理工作;或者,图像处理平台102承担次要处理工作,终端101承担主要处理工作;或者,图像处理平台102或终端101分别单独承担处理工作。或者,图像处理平台102和终端101两者之间采用分布式计算架构进行协同计算。
149.可选地,该图像处理平台102包括至少一台服务器1021以及数据库1022,该数据库1022用于存储数据,在本技术实施例中,该数据库1022中存储有样本图像,为至少一台服务器1021提供数据服务。
150.服务器是独立的物理服务器,也是多个物理服务器构成的服务器集群或者分布式系统,还是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、cdn、以及大数据和人工智能平台等基础云计算服务的云服务器。终端是智能手机、平板电脑、笔记本电脑、台式计算机、智能音箱、智能手表等,但并不局限于此。
151.本领域技术人员知晓,上述终端101、服务器1021的数量更多或更少。比如上述终端101、服务器1021仅为一个,或者上述终端101、服务器1021为几十个或几百个,或者更多数量,本技术实施例对终端或服务器的数量和设备类型不加以限定。
152.图3是根据一示例性实施例示出的一种特征提取网络训练方法的流程图,如图3所示,特征提取网络训练方法可以由电子设备执行,包括以下步骤。
153.在步骤s21中,基于第一特征提取网络对样本图像进行处理,得到该样本图像的第一特征,该第一特征用于表征该样本图像的内容特征。
154.在步骤s22中,基于第二特征提取网络对该样本图像进行处理,得到该样本图像的第二特征,第二特征用于表征目标类别图像的内容特征分布状况,该目标类别为该样本图像所属的类别。
155.在步骤s13中,基于该样本图像的第一特征、第二特征以及该样本图像所属类别,确定第一样本图像集合中样本图像之间的预测相似度关系,该第一样本图像集合包括属于同一类别的样本图像和属于不同类别的样本图像,该预测相似度关系用于表征两个样本图像之间是否属于同一类别。
156.在步骤s24中,基于该预测相似度关系与目标相似度关系之间的差异,对该第一特征提取网络和该第二特征提取网络进行训练。
157.本公开实施例,新增了一种用于提取第二特征的第二特征提取网络,第二特征用于表征目标类别图像的内容特征分布状况,也即是该样本图像的邻域结构,结合用于提取
样本图像本身特征的第一特征提取网络,从两个角度来对样本图像的图像特征进行处理,考虑到了不同样本图像的邻域结构可能不均匀的情况,在训练过程中不仅学习样本图像本身的特征,还能够自适应地学习到样本图像的邻域结构,以此训练得到的特征提取网络在特征提取方面的准确性更好,这样提取到的特征能够更加准确地体现出图像所属的类别,基于训练后的特征提取网络进行图像检索也能够得到更加准确的检索结果。
158.在一些实施例中,该基于该样本图像的第一特征、第二特征以及该样本图像所属类别,确定第一样本图像集合中样本图像之间的预测相似度关系,包括:
159.基于该样本图像以及该第一样本图像集合中第一样本图像的第一特征,确定该样本图像与该第一样本图像之间的第一相似度,该第一样本图像为该样本图像集合中与该样本图像属于相同类别的图像;
160.基于该样本图像以及与该第一样本图像集合中第二样本图像的第一特征,确定该样本图像与该第二样本图像之间的第二相似度,第二样本图像为该第一样本图像集合中与该样本图像属于不同类别的图像;
161.基于该样本图像的第二特征、该样本图像与该第二样本图像集合中样本图像的第一特征,确定该样本图像和该第二样本图像集合中样本图像之间的第三相似度,该第二样本图像集合包括该第一样本图像和该第二样本图像;
162.基于该第一相似度、第二相似度和第三相似度,确定第一样本图像集合中样本图像之间的第一预测相似度关系;
163.基于该第三相似度,确定第一样本图像集合中样本图像之间的第二预测相似度关系;
164.该基于该预测相似度关系与目标相似度关系之间的差异,对该第一特征提取网络和该第二特征提取网络进行训练,包括:
165.基于该第一预测相似度关系与目标相似度关系之间的差异,对该第一特征提取网络进行训练;
166.基于该第二预测相似度关系与目标相似度关系之间的差异,对该第二特征提取网络进行训练。
167.在一些实施例中,该基于该样本图像的第二特征、该样本图像与该第二样本图像集合中样本图像的第一特征,确定该样本图像和该第二样本图像集合中样本图像之间的第三相似度,包括:
168.根据该第一相似度和该第二相似度,从该第二样本图像集合中,确定该样本图像对应的第三样本图像集合,该第三样本图像集合包括该第一相似度或该第二相似度满足条件的图像;
169.以该样本图像的第二特征作为系数,获取该样本图像的第一特征和该第三样本图像集合中样本图像的第一特征之间的距离;
170.对该距离进行归一化,得到该样本图像和该第三样本图像集合中样本图像之间的第三相似度。
171.在一些实施例中,该基于该第一相似度、第二相似度和第三相似度,确定第一样本图像集合中样本图像之间的第一预测相似度关系,包括:
172.基于该第一相似度和该第二相似度,确定第一损失值,该第一损失值与该第一相
似度正相关,该第一损失值与该第二相似度负相关;
173.基于该样本图像与该第三样本图像集合中样本图像之间的第三相似度,对该第三样本图像集合中样本图像进行排序,得到预测排序结果;
174.该基于该第一预测相似度关系与目标相似度关系之间的差异,对该第一特征提取网络进行训练,包括:
175.基于该样本图像与该第三样本图像集合中样本图像之间的第一相似度,对该第三样本图像集合中样本图像进行排序,得到目标排序结果;
176.基于该预测排序结果与目标排序结果,确定第二损失值,该第二损失值用于指示该排序结果和该目标排序结果之间的差异;
177.基于该第一损失值和该第二损失值,对该第一特征提取网络进行训练。
178.在一些实施例中,该基于该样本图像的第二特征、该样本图像与该第二样本图像集合中样本图像的第一特征,确定该样本图像和该第二样本图像集合中样本图像之间的第三相似度,包括:
179.以该样本图像的第二特征作为系数,获取该样本图像的第一特征与该第二样本图像集合中样本图像的第一特征之间的距离,该距离为该样本图像与该第二样本图像集合中样本图像之间的第三相似度。
180.在一些实施例中,该基于该第一相似度、第二相似度和第三相似度,确定第一样本图像集合中样本图像之间的第一预测相似度关系;基于该第一预测相似度关系与目标相似度关系之间的差异,对该第一特征提取网络进行训练,包括:
181.基于该第一相似度和该第二相似度,确定第一损失值,该第一损失值与该第一相似度正相关,该第一损失值与该第二相似度负相关;
182.根据该样本图像与该第二样本图像集合中样本图像之间的第三相似度,确定该第二样本图像集合中样本图像中该第一样本图像的第一中心,以及该第二样本图像的第二中心;
183.根据该样本图像和该第二样本图像集合中样本图像分别与该第一中心以及该第二中心之间的距离,获取第二损失值;
184.基于该第一损失值和该第二损失值,对该第一特征提取网络进行训练。
185.在一些实施例中,该第二特征提取网络包括两个全连接层和激活层;
186.该基于第二特征提取网络对该样本图像进行处理,得到该样本图像的第二特征,包括:
187.基于该第二特征提取网络中的该两个全连接层,对该样本图像进行前向计算,由该第二特征提取网络的激活层对最后一个全连接层的输出进行处理,输出该样本图像的第二特征。
188.图4是根据一示例性实施例示出的一种特征提取网络训练方法的流程图,如图4所示,特征提取网络训练方法可以由电子设备执行,包括以下步骤。
189.在步骤s31中,对该图像进行处理,得到该图像的第一特征,该第一特征用于表征该图像的内容特征。
190.在步骤s32中,对该图像进行处理,得到该图像的第二特征,该第二特征用于表征目标类别图像的内容特征分布状况,该目标类别为该图像所属的类别。
191.在步骤s33中,基于该图像的该第一特征和该第二特征,确定该图像所匹配的目标图像。
192.在步骤s34中,基于该目标图像进行图像推送。
193.本公开实施例在进行图像检索时,不仅利用到了直接通过图像特征得到了第一特征,该第一特征用于表示图像本身内容的特征,还利用到了用于表示该图像的邻域结构的第二特征,结合两种特征,从两个角度来对对图像进行描述,以此匹配到的目标图像与图像在图像内容方面和所属类别方面等均能够更加贴近,以此进行图像推送更加准确,效果更好。
194.在一些实施例中,所述对所述图像进行处理,得到所述图像的第一特征,包括:
195.基于第一特征提取网络对所述图像进行处理,得到所述第一特征;
196.所述对所述图像进行处理,得到所述图像的第二特征,包括:
197.基于第二特征提取网络,对所述图像进行处理,得到所述图像的第二特征;
198.其中,所述第一特征提取网络和所述第二特征提取网络分别基于第一样本图像集合中样本图像之间的预测相似度关系与目标预测相似度关系之间的差异训练得到,所述预测相似度关系基于样本图像的第一特征、第二特征以及所述样本图像所属类别确定,且所述预测相似度关系用于表征两个样本图像之间是否属于同一类别。
199.在一些实施例中,所述第一特征提取网络和所述第二特征提取网络的训练过程包括:
200.基于所述样本图像以及所述第一样本图像集合中第一样本图像的第一特征,确定所述样本图像与所述第一样本图像之间的第一相似度,所述第一样本图像为所述样本图像集合中与所述样本图像属于相同类别的图像;
201.基于所述样本图像以及与所述第一样本图像集合中第二样本图像的第一特征,确定所述样本图像与所述第二样本图像之间的第二相似度,第二样本图像为所述第一样本图像集合中与所述样本图像属于不同类别的图像;
202.基于所述样本图像的第二特征、所述样本图像与所述第二样本图像集合中样本图像的第一特征,确定所述样本图像和所述第二样本图像集合中样本图像之间的第三相似度,所述第二样本图像集合包括所述第一样本图像和所述第二样本图像;
203.基于所述第一相似度、第二相似度和第三相似度,确定第一样本图像集合中样本图像之间的第一预测相似度关系;
204.基于所述第三相似度,确定第一样本图像集合中样本图像之间的第二预测相似度关系;
205.基于所述第一预测相似度关系与目标相似度关系之间的差异,对所述第一特征提取网络进行训练;
206.基于所述第二预测相似度关系与目标相似度关系之间的差异,对所述第二特征提取网络进行训练。
207.在一些实施例中,所述基于所述样本图像的第二特征、所述样本图像与所述第二样本图像集合中样本图像的第一特征,确定所述样本图像和所述第二样本图像集合中样本图像之间的第三相似度,包括:
208.根据所述第一相似度和所述第二相似度,从所述第二样本图像集合中,确定所述
样本图像对应的第三样本图像集合,所述第三样本图像集合包括所述第一相似度或所述第二相似度满足条件的图像;
209.以所述样本图像的第二特征作为系数,获取所述样本图像的第一特征和所述第三样本图像集合中样本图像的第一特征之间的距离;
210.对所述距离进行归一化,得到所述样本图像和所述第三样本图像集合中样本图像之间的第三相似度。
211.在一些实施例中,所述基于所述第一相似度、第二相似度和第三相似度,确定第一样本图像集合中样本图像之间的第一预测相似度关系,包括:
212.基于所述第一相似度和所述第二相似度,确定第一损失值,所述第一损失值与所述第一相似度正相关,所述第一损失值与所述第二相似度负相关;
213.基于所述样本图像与所述第三样本图像集合中样本图像之间的第三相似度,对所述第三样本图像集合中样本图像进行排序,得到预测排序结果;
214.所述基于所述第一预测相似度关系与目标相似度关系之间的差异,对所述第一特征提取网络进行训练,包括:
215.基于所述样本图像与所述第三样本图像集合中样本图像之间的第一相似度,对所述第三样本图像集合中样本图像进行排序,得到目标排序结果;
216.基于所述预测排序结果与目标排序结果,确定第二损失值,所述第二损失值用于指示所述排序结果和所述目标排序结果之间的差异;
217.基于所述第一损失值和所述第二损失值,对所述第一特征提取网络进行训练。
218.在一些实施例中,所述基于所述样本图像的第二特征、所述样本图像与所述第二样本图像集合中样本图像的第一特征,确定所述样本图像和所述第二样本图像集合中样本图像之间的第三相似度,包括:
219.以所述样本图像的第二特征作为系数,获取所述样本图像的第一特征与所述第二样本图像集合中样本图像的第一特征之间的距离,所述距离为所述样本图像与所述第二样本图像集合中样本图像之间的第三相似度。
220.在一些实施例中,所述第一特征提取网络和所述第二特征提取网络的训练过程包括:
221.基于所述第一相似度和所述第二相似度,确定第一损失值,所述第一损失值与所述第一相似度正相关,所述第一损失值与所述第二相似度负相关;
222.根据所述样本图像与所述第二样本图像集合中样本图像之间的第三相似度,确定所述第二样本图像集合中样本图像中所述第一样本图像的第一中心,以及所述第二样本图像的第二中心;
223.根据所述样本图像和所述第二样本图像集合中样本图像分别与所述第一中心以及所述第二中心之间的距离,获取第二损失值;
224.基于所述第一损失值和所述第二损失值,对所述第一特征提取网络进行训练。
225.在一些实施例中,该基于该图像的该第一特征和该第二特征,确定该图像所匹配的目标图像,包括:
226.基于该图像的第一特征与候选图像集合中候选图像的第一特征之间的第四相似度,从该候选图像集合中,确定该图像所匹配的目标图像,该目标图像的该第四相似度符合
条件;
227.基于该图像的第二特征与该目标图像的第二特征之间的第五相似度,对该目标图像进行排序,得到该目标图像的排序结果;
228.该基于该目标图像进行图像推送,包括:
229.按照该排序结果对该目标图像进行图像推送。
230.在一些实施例中,所述第二特征提取网络包括两个全连接层和激活层;
231.该对该图像进行处理,得到该图像的第二特征,包括:
232.基于第二特征提取网络中的两个全连接层,对该图像进行前向计算,由该第二特征提取网络的激活层对最后一个全连接层的输出进行处理,输出该图像的第二特征。
233.图5是根据一示例性实施例示出的一种特征提取网络训练方法的流程图,如图5所示,该方法包括以下步骤。
234.在步骤s41中,电子设备获取第一样本图像集合,该第一样本图像集合包括属于同一类别的样本图像和属于不同类别的样本图像。
235.电子设备获取该第一样本图像集合,通过该第一样本图像集合中的多个样本图像对特征提取网络进行训练,使得该特征提取网络能准确提取到对图像的特征,以便于后续能够基于提取到的特征进行图像检索等。
236.该第一样本图像集合可以存储于不同位置,相应地,该电子设备可以通过不同的方式获取该样本图像集合。
237.在一些实施例中,该第一样本图像集合可以存储于图像数据库中,相应地,电子设备可以从图像数据库中提取该第一样本图像集合。例如,该图像数据库可以为语料库。
238.在另一些实施例中,该第一样本图像集合也可以存储于该电子设备中,相应地,电子设备可以从本地存储中提取该第一样本图像集合。
239.本技术对该第一样本图像集合的存储位置以及获取方式不作具体限定。
240.在步骤s42中,电子设备对第一样本图像集合中样本图像进行特征提取,得到样本图像的图像特征。
241.电子设备获取到样本图像后,可以对样本图像进行特征提取,得到样本图像的图像特征。图像特征能够表征图像中内容的特点。
242.具体的,电子设备获取到第一样本图像集合后,该第一样本图像集合中包括多个样本图像。电子设备可以对第一样本图像集合中每个样本图像进行特征提取,得到每个样本图像的图像特征。
243.对于特征提取,电子设备可以通过多种方式来进行特征提取。
244.在一些实施例中,电子设备可以通过特征提取网络进行特征提取。在一些实施例中,该特征提取网络可以包括一个或多个卷积层,该一个或多个卷积层用于对输入的图像进行卷积处理。相应地,该特征提取网络能够对输入的图像进行卷积处理,得到该图像的图像特征。
245.对于该特征提取网络,该特征提取网络可以为cnn网络,也可以为其他网络,本技术实施例对此不作限定。在一个具体示例中,该特征提取网络可以为图像处理网络的骨干网络(backbone),比如resnet的骨干网络。
246.该步骤s41和步骤s42为获取第一样本图像集合中样本图像的图像特征的过程,该
图像特征是指对样本图像的像素值进行处理得到的图像特征,通过该图像特征,能够较好地对该样本图像的图像内容进行表征。
247.在步骤s43中,电子设备基于第一特征提取网络对该样本图像的图像特征进行处理,得到该样本图像的第一特征。
248.电子设备获取到样本图像的图像特征后,还可以进一步对图像特征进行处理,以提取到更准确的特征。该第一特征用于表征该样本图像的内容特征,也即是指用于体现该样本图像本身的图像内容的特征。
249.在该步骤s43中,通过第一特征提取网络对图像特征进行处理,得到该样本图像的图像内容方面的第一特征。
250.在一些实施例中,通常用于表示图像内容的特点的特征称为嵌入特征或嵌入。样本图像的第一特征则可以称为样本嵌入z,该第一特征提取网络也可以称为样本嵌入网络(sample embedding network)。假设上述步骤s42提取到的图像特征用h来表示。样本嵌入网络则用于提取样本嵌入z。
251.对于第一特征提取网络,该第一特征提取网络包括一个或多个全连接层。通过第一特征提取网络可以对图像特征h进行卷积处理,以得到第一特征z。
252.该步骤s41至s43是基于第一特征提取网络对样本图像进行处理,得到该样本图像的第一特征的一种可能实现方式,上述仅以先获取到样本图像的图像特征后,将图像特征输入至第一特征提取网络,由第一特征提取网络对图像特征进行处理,得到第一特征为例。在另一些实施例中,可以直接将样本图像输入第一特征提取网络中,由第一特征提取网络对其进行处理,得到第一特征。本公开实施例对具体采用哪种实现方式不作限定。
253.在步骤s44中,电子设备基于第二特征提取网络对该样本图像的图像特征进行处理,得到该样本图像的第二特征,该第二特征用于表征目标类别图像的内容特征分布状况,该目标类别为该样本图像所属的类别。
254.在对图像特征进行处理,以提取更准确的特征时,除了用于表示图像内容的第一特征之外,还可以对该样本图像的邻域结构进行分析,以此来为样本图像进行特征表示。
255.可以理解地,对于图像内容相似的图像,这些图像会聚集在一起,因而对于一个图像,该图像的邻域是与该图像的图像内容相似的图像。
256.例如,如图1所示,包括两种图像,每种图像的图像数量为多个。对于其中一种图像,每个图像中包括猫,这些图像的类别为猫。对于另一种图像,每个图像中包括虎,这些图像的类别为虎。不同图像里包括的猫在外观或者品种上可能不同。对于类别为猫的一种图像,由于猫的纹理图案非常不同,因此这些图像在嵌入空间中其邻居可以在“纹理”维度上分布得很宽。相比之下,对于老虎来说,因为所有种类的老虎都具有相似的纹理,因而类别为虎的图像的邻居应该分布在狭窄的范围内。由图可知,在“纹理”维度上,猫和老虎应具有不同的分布形状,不同类别的样本图像应有自适应的邻域结构。
257.本公开即考虑到这一点,因而,通过分析与该样本图像属于同一类别的样本图像的分布,来为该样本图像提供第二特征,通过第二特征能够对样本图像在邻域结构上的特点进行表示。
258.在一些实施例中,该第二特征用于表征目标类别图像的内容特征分布状况,该目标类别为该样本图像所属的类别。该第二特征用于表征目标类别图像的分布情况或者说目
标类别图像的拓扑结构,或者也可以说,第二特征用于从图像分布的角度来描述该目标类别图像。也即是,第二特征用于表示样本图像的邻域结构。因而,也可以称第二特征为邻域结构特征或结构嵌入。第二特征提取网络为结构嵌入网络(structure embedding network)。
259.在一些实施例中,该第二特征提取网络包括两个全连接层和激活层。
260.在本公开实施例中,该全连接层用于将该样本图像的全局特征来映射到邻域分布空间中,得到该样本图像的邻域结构表示。
261.激活层用于将输入映射到输出,该激活层用于引入非线性因素,以逼近任何非线性函数。
262.相应地,该步骤s44中,电子设备基于该第二特征提取网络中的该两个全连接层,对该样本图像的图像特征进行前向计算,由该第二特征提取网络的激活层对最后一个全连接层的输出进行处理,输出该样本图像的第二特征。
263.通过两个全连接层,使得第二特征提取网络能够学习提取到嵌入的局部自适应邻域结构,得到用于表示该局部自适应邻域结构的第二特征,通过该第二特征对第一特征进行微调,能够得到样本图像更好的表征。
264.上述步骤s41、s42和步骤s44是基于第二特征提取网络对该样本图像进行处理,得到该样本图像的第二特征的一种可能实现方式,上述仅以先获取到样本图像的图像特征后,将图像特征输入至第二特征提取网络,由第二特征提取网络对图像特征进行处理,得到第二特征为例。在另一些实施例中,可以直接将样本图像输入第二特征提取网络中,由第二特征提取网络对其进行处理,得到第二特征。
265.相应的,在第二特征提取网络包括两个全连接层和激活层的实施例中,该步骤s44中,电子设备基于该第二特征提取网络中的该两个全连接层,对该样本图像进行前向计算,由该第二特征提取网络的激活层对最后一个全连接层的输出进行处理,输出该样本图像的第二特征。本公开实施例对具体采用哪种实现方式不作限定。
266.在步骤s45中,电子设备基于该样本图像以及该第一样本图像集合中第一样本图像的第一特征,确定该样本图像与该第一样本图像之间的第一相似度,该第一样本图像为该样本图像集合中与该样本图像属于相同类别的图像。
267.在得到样本图像的第一特征和第二特征后,电子设备可以进一步确定二者是否足够准确,以衡量第一特征提取网络和第二特征提取网络的网络参数是否合适。该步骤s45即为基于第一特征来分析第一特征提取网络的性能的过程。
268.在确定样本图像的第一特征是否准确时,可以采用自监督学习的方式。在对样本图像进行分析时,可以认为该样本图像为锚样本。与该样本图像属于相同类别的图像为正样本,也即是第一样本图像为正样本。与该样本图像属于不同类别的图像为负样本,也即是第二样本图像为负样本。则样本图像和第一样本图像可以组成正样本对,样本图像和第二样本图像可以组成负样本对。该步骤s45则针对正样本对来进行分析。
269.在一些实施例中,上述在确定样本图像的第一特征和第二特征时,也可以确定第一样本图像和第二样本图像的第一特征和第二特征。后续分析样本图像与第一样本图像或第二样本图像之间的相似度时,可以通过各自的第一特征或第二特征来实现。
270.具体地,在确定该样本图像与该第一样本图像之间的第一相似度时,电子设备可
以获取样本图像的第一特征和第一样本图像的第一特征之间的相似度作为第一相似度。
271.在步骤s46中,电子设备基于该样本图像以及与该第一样本图像集合中第二样本图像的第一特征,确定该样本图像与该第二样本图像之间的第二相似度,第二样本图像为该第一样本图像集合中与该样本图像属于不同类别的图像。
272.在得到样本图像的第一特征和第二特征后,电子设备可以进一步确定二者是否足够准确,以衡量第一特征提取网络和第二特征提取网络的网络参数是否合适。该步骤s46即为基于第二特征来分析第二特征提取网络的性能的过程。
273.在确定样本图像的第二特征是否准确时,可以采用自监督学习的方式。在对样本图像进行分析时,可以认为该样本图像为锚样本。与该样本图像属于不同类别的图像为负样本,也即是第二样本图像为负样本。样本图像和第二样本图像可以组成负样本对。该步骤s45则针对负样本对来进行分析。
274.在一些实施例中,上述在确定样本图像的第一特征和第二特征时,也可以确定第一样本图像和第二样本图像的第一特征和第二特征。后续分析样本图像与第一样本图像或第二样本图像之间相似度时,可以通过各自的第一特征或第二特征来实现。
275.具体地,在确定该样本图像与该第二样本图像之间的第二相似度时,电子设备可以获取样本图像的第一特征和第二样本图像的第一特征之间的相似度作为第二相似度。
276.例如,在一个具体示例中,对于上述第一相似度和第二相似度,可以理解为两个图像之间的距离,具体可以通过下述公式一获取得到。
[0277][0278]
其中,所有的样本图像可以通过表示,x
i
,x
j
分别表示样本图像x
i
和第一样本图像x
j
,或者x
i
,x
j
分别表示样本图像x
i
和第二样本图像x
j
。d(
·
,
·
)是嵌入空间中的距离度量函数,例如汉明距离,欧式距离和余弦距离。
[0279]
在步骤s47中,电子设备基于该样本图像的第二特征、该样本图像与该第二样本图像集合中样本图像的第一特征,确定该样本图像和该第二样本图像集合中样本图像之间的第三相似度,该第二样本图像集合包括该第一样本图像和该第二样本图像。
[0280]
通过上述步骤s45和步骤s46,电子设备通过第一特征,获取到了正样本对和负样本对的图像之间的相似度进行了分析。考虑到第二特征仅用于表示图像的邻域结构,在应用该第二特征确定图像之间相似度时,还需要借助第一特征。电子设备可以再综合第一特征和第二特征,获取正样本对和负样本对的图像之间的相似度。
[0281]
这样针对第一特征,获取到了一个相似度,又根据第一特征和第二特征,获取到了另一个相似度。针对第一特征则可以通过前一个相似度来确定第一特征提取网络的性能。针对第二特征,则可以通过后一个相似度来确定第二特征提取网络的性能。
[0282]
在一些实施例中,在确定第三相似度时,可以通过不同方式来实现。下面提供两种不同的方式,可以由相关技术人员根据图像处理需求自由选择采用哪种方式,本公开实施例对具体采用哪种方式不作限定。
[0283]
方式一、根据该第一相似度和该第二相似度,从该第二样本图像集合中,确定该样本图像对应的第三样本图像集合,该第三样本图像集合包括该第一相似度或该第二相似度满足条件的图像;以该样本图像的第二特征作为系数,获取该样本图像的第一特征和该第三样本图像集合中样本图像的第一特征之间的距离;对该距离进行归一化,得到该样本图
像和该第三样本图像集合中样本图像之间的第三相似度。
[0284]
在该方式一中,电子设备可以先根据第一相似度和第二相似度,对第一样本图像集合中所有除样本图像之外的样本图像进行排序。其中,第二样本图像集合即为第一样本图像集合中除了该样本图像之外的其他样本图像所组成的集合。
[0285]
可以理解地,如果是降序排列,则第二样本图像集合中越靠前的样本图像与样本图像越相似。如果是升序排列,则第二样本图像集合中越靠后的样本图像与样本图像越相似。在此,根据排序情况,从第二样本图像集合中筛选出与样本图像最相似的一些样本图像,在此将筛选出来的样本图像所组成的集合称为第三样本图像集合。后续再基于第三样本图像集合中样本图像进行训练。
[0286]
通常,具有高度相似性的样本对被视为高置信度监督信号。在这种情况下,可以认为与样本图像更相似的一些样本图像对邻域结构学习有利,而不太相似的那些样本图像则对邻域结构学习作用不大,甚至会影响学习结果,因而,通过基于相似度对第二样本图像集合中样本图像进行筛选,能够有效减少后续的训练计算量,提高训练效率,并能够保证训练结果足够准确。
[0287]
例如,在一个具体示例中,对于样本图像(锚样本),首先可以根据第一相似度和第二相似度,对第二样本图像集合中样本图像按照相似性降序排列,然后提取第二样本图像集合中前k个样本图像n1,

,n
k
,也即是第三样本图像集合中包含有该k个样本图像。对于第三样本图像集合中k个样本图像,电子设备可以基于第二特征ω
i
和第一特征z
i
,确定样本图像与第三样本图像集合中样本图像之间的第三相似度。
[0288]
在一些实施例中,该第三相似度可以理解为自适应距离d
strc
(z
i
,n
k
)。具体可以通过下述公式二实现:
[0289][0290]
其中,为第二特征ω
i
的转置。d
strc
(.,.)是自适应距离函数,是异或操作。
[0291]
假设上述通过相似性降序排列,则对于满足下述公式三:
[0292][0293]
在另一些实施例中,也可以不将上述自适应距离作为第三相似度,而是对其进行进一步映射处理,得到第三相似度。例如,可以将l2归一化后的第一特征的内积作为第三相似度,具体通过下述公式四,将自适应距离为自适应相似度。
[0294][0295]
其中,s
strc
(z
i
,n
k
)为第三相似度,和为归一化后的第一特征。
[0296]
方式二、以该样本图像的第二特征作为系数,获取该样本图像的第一特征与该第二样本图像集合中样本图像的第一特征之间的距离,该距离为该样本图像与该第二样本图像集合中样本图像之间的第三相似度。
[0297]
在该方式二中,电子设备并未根据第一相似度对第二样本图像集合中样本图像进行筛选,将第二样本图像集合中所有样本图像均作为训练依据,后续基于第二样本图像集合中所有样本图像均进行后续的损失值获取以及训练过程。具体确定相似度的过程与上述
方式一同理,只是不对第二样本图像集合中样本图像进行筛选,在此不多做赘述。
[0298]
省去了基于相似度进行筛选的步骤,能够减少因筛选而增加的计算量和耗时,将第二样本图像集合中所有样本图像均考虑在内,能够得到更加全面的相似度比较,后续训练时,能够使得网络学习到对更多种数据的处理,能够提高网络的处理性能。
[0299]
在步骤s48中,电子设备基于该第一相似度、第二相似度和第三相似度,确定第一样本图像集合中样本图像之间的第一预测相似度关系,基于该第一预测相似度关系与目标相似度关系之间的差异,对该第一特征提取网络进行训练。
[0300]
电子设备获取到第一相似度、第二相似度以及第三相似度后,该第一相似度基于属于相同类别的两个样本图像的第一特征确定,该第二相似度基于属于不同类别的两个样本图像的第一特征确定,该第三相似度基于该样本图像的第二特征、该样本图像与其他样本图像的第一特征确定。
[0301]
也即是,第一相似度和第二相似度为基于第一特征得到的,第三相似度基于第一特征和第二特征得到,这样通过第一相似度、第二相似度和第三相似度,对第一特征提取网络进行训练,不仅仅是基于第一特征进行训练,还考虑到了样本图像的邻域结构,这样考虑到了不同样本图像的邻域结构可能不均匀的情况,能够使得训练后第一特征提取网络在进行特征提取时也考虑到该邻域结构,从而得到更加准确的第一特征。
[0302]
在第三相似度确定方式不同时,基于得到的相似度对第一特征提取网络进行训练的方式也可以不同。
[0303]
对应于上述方式一,电子设备可以采用点排序学习的方式进行训练。具体地,可以通过下述步骤一至步骤五实现。
[0304]
步骤一、电子设备可以基于该第一相似度和该第二相似度,确定第一损失值,该第一损失值与该第一相似度正相关,该第一损失值与该第二相似度负相关。
[0305]
在训练过程中,可以通过该第一损失值,使得样本图像和第一样本图像之间的第一相似度越来越大,样本图像和第二样本图像之间的第二相似度越来越小,从而使得特征提取得到的第一特征能够明确将正负样本分开,且使得正样本之间越发靠近,负样本之间越发靠近。
[0306]
例如,在一个具体示例中,电子设备可以基于下述公式五获取第一损失值l1。
[0307]
l1=d
i,j

d
i,p
α,公式五
[0308]
其中,l1为第一损失值,d
i,j
为样本图像x
i
与第一样本图像x
j
之间的第一相似度,d
i,p
为样本图像x
i
与第二样本图像x
p
之间的第二相似度,α为目标间隔。该目标间隔为预设置的嵌入空间中正负样本之间的间隔。在此仅以该第一损失值的获取过程通过三元组损失函数来表示为例进行说明,还可以通过其他损失函数获取该第一损失值,比如,多相似度损失函数,本公开实施例对此不作限定。
[0309]
步骤二、电子设备基于该样本图像与每个该第三样本图像集合中样本图像之间的第三相似度,对该多个第三样本图像集合中样本图像进行排序,得到预测排序结果。
[0310]
该预测排序结果也即为一种第一预测相似度关系,在此将基于第一相似度排序的目标排序结果作为训练目标,然后通过步骤二中基于第三相似度排序得到的预测排序结果作为网络预测的结果,通过训练过程,使得预测排序结果接近目标排序结果,能够使得基于第三相似度排序的结果更加准确,这样可以使得特征提取网络提取到的第一特征和第二特
征均比较准确。
[0311]
步骤三、电子设备基于该样本图像与该第三样本图像集合中样本图像之间的第一相似度,对该第三样本图像集合中样本图像进行排序,得到目标排序结果。
[0312]
结构嵌入能够从嵌入空间中样本的局部流形中学习。由于流形可以完全通过其子区域之间的相对邻近度来表征,则距离之间的比较信息(例如,排序)就足以表征流形。在此则针对样本邻居的排序信息来指导结构嵌入的学习。
[0313]
步骤四、电子设备基于该预测排序结果与目标排序结果,确定第二损失值,该第二损失值用于指示该排序结果和该目标排序结果之间的差异。
[0314]
对于上述公式五,由于对于锚样本来说是常数,因此保留s
strc
(z
i
,n
k
)的顺序,等价于维持d
strc
(z
i
,n
k
)的顺序。在一个具体示例中,电子设备可以通过下述公式六,来确定第二损失值。
[0315][0316]
其中,为第二损失值。β为目标间隔。
[0317]
步骤五、电子设备基于该第一损失值和该第二损失值,对该第一特征提取网络进行训练。
[0318]
获取到第一损失值和第二损失值后,第一损失值可以体现第一特征的准确性,第二损失值可以体现第二特征的准确性,通过两个损失值对第一特征提取网络进行训练,能够使得第一特征提取网络考虑图像内容和邻域结构两个因素,提取到更加准确的第一特征。
[0319]
在一些实施例中,电子设备可以对第一损失值和第二损失值进行加权,得到目标损失值,基于目标损失值对第一特征提取网络进行训练。具体加权所采用的权重,可以由相关技术人员根据需求进行设置,例如,权重均为1,则该加权步骤也即是求和步骤。本公开实施例对此不作限定。
[0320]
在一个具体示例中,电子设备可以通过下述公式七,对第一损失值和第二损失值进行加权,得到目标损失值。
[0321][0322]
其中,λ是平衡因子,也即是第二损失值的权重。
[0323]
例如,如图6所示,对于小批图像,可以输入骨干网络中,由骨干网络进行特征提取,得到图像特征后,分别输入到样本嵌入网络和结构嵌入网络中,样本嵌入网络能够对图像特征进行处理得到第一特征,结构嵌入网络能够对图像特征进行处理得到第二特征,然后基于第一特征和第二特征,可以分别获取第一损失值(度量学习损失)和第二损失值(结构学习损失),进而对两个网络进行训练。图6中输入的小批图像仅以方框示意,其具体用于表示图像。在此提供了图7,图7提供了一种输入图像的示意,输入的小批图像中针对所属类别组成不同的图像对输入骨干网络中。
[0324]
针对上述方式二,电子设备可以采用组排序学习进行训练。该组排序学习可以通过下述步骤一至步骤五实现。
[0325]
步骤一、电子设备基于该第一相似度和该第二相似度,确定第一损失值,该第一损失值与该第一相似度正相关,该第一损失值与该第二相似度负相关。
[0326]
该步骤一与上述点排序学习中的步骤一同理,在此不多做赘述。
[0327]
步骤二、电子设备根据该样本图像与该第二样本图像集合中样本图像之间的第三相似度,确定该第二样本图像集合中样本图像中该第一样本图像的第一中心,以及该第二样本图像的第二中心。
[0328]
在步骤二中,可以分别将正样本的分布中心作为第一中心,负样本的分布中心为第二中心。该第一中心和第二中心可以基于第三相似度确定。
[0329]
步骤三、电子设备根据该样本图像和该第二样本图像集合中样本图像分别与该第一中心以及该第二中心之间的距离,获取第二损失值。
[0330]
在确定出正样本的第一中心和负样本的第二中心之后,针对第二样本图像集合中样本图像,可以基于该第二样本图像集合中样本图像与两个中心之间的距离来确定出第二损失值。
[0331]
可以理解地,训练的初衷是使得正样本更加靠近第一中心,远离第二中心;负样本更加靠近第二中心,远离第一中心。对于一个锚点z
i
,为了大幅度地分离其两个组距离分布,我们为其正负样本组设置两个较远的分布中心。然后,通过将每个分布压缩到各自设定的中心,可以使最小化分布的重叠。
[0332]
在一个具体示例中,对于正样本对和负样本对,电子设备可以基于下述公式八,确定第三相似度。
[0333]
其中,公式八其中,

是哈达玛积。
[0334]
然后通过下述公式九确定第二损失值:
[0335][0336]
其中,对于分布中心的软分配c
ij
,可以通过下述公式十表示。
[0337][0338]
其中,η1和η2分别是第一中心和第二中心。
[0339]
例如,将距离分布可视化可以如图8所示,(a)中采用了未针对正负样本中心进行训练的图像之间距离分布情况,(b)中采用了正负样本中心进行训练的图像之间距离分布情况。通过训练,确保正样本和负样本之间的间隔较大且分布重叠较小,并改善了特征的鉴别性和泛化性。
[0340]
步骤四、电子设备基于该第一损失值和该第二损失值,对该第一特征提取网络进行训练。
[0341]
该步骤四与上述点排序学习中的步骤五同理,在此不多做赘述。
[0342]
通过组排序学习,将正样本、负样本一起进行训练,最终使得正样本和负样本之间的距离越来越大,正样本和负样本各自集中,这样也就说明第一特征提取网络和第二特征提取网络能够准确地提取到用于表示图像内容和邻域结构的第一特征和第二特征。
[0343]
在步骤s49中,电子设备基于该第三相似度,确定第一样本图像集合中样本图像之间的第二预测相似度关系,基于该第二预测相似度关系与目标相似度关系之间的差异,对该第二特征提取网络进行训练。
[0344]
除了第一特征提取网络,电子设备也可以对第二特征提取网络进行训练,在对第二特征提取网路进行训练时,可以使用第二特征得到的第三相似度进行训练即可。
[0345]
在一些实施例中,电子设备无需获取第一损失值,直接使用上述第二损失值,对该第二特征提取网络进行训练。第二损失值的获取过程同理,在此不多做赘述。
[0346]
该步骤s45至步骤s49为基于该样本图像的第一特征、第二特征以及该样本图像所属类别,确定第一样本图像集合中样本图像之间的预测相似度关系,基于该预测相似度关系与目标相似度关系之间的差异,对该第一特征提取网络和该第二特征提取网络进行训练的过程,不仅考虑到了样本图像本身的特征,还考虑到了该样本图像的邻域结构,从两个角度来对样本图像的图像特征进行处理,考虑到了不同样本图像的邻域结构可能不均匀的情况,在训练过程中不仅学习样本图像本身的特征,还能够自适应地学习到样本图像的邻域结构,以此训练得到的特征提取网络在特征提取方面的准确性更好,基于训练后的特征提取网络进行图像检索也能够得到更加准确的检索结果。
[0347]
在一些实施例中,上述第一特征提取网络和第二特征提取网络训练完成后,还可以用于图像处理。具体地,图像处理过程可以为:电子设备响应于任一账号对图像的检索指令,基于训练得到的该第一特征提取网络对该图像进行处理,得到该图像的第一特征,基于该图像的第一特征确定该图像所匹配的目标图像,然后基于目标图像进行图像推送。
[0348]
在另一些实施例中,电子设备可以响应于任一账号对图像的检索指令,基于训练得到的该第一特征提取网络对该图像进行处理,得到该图像的第一特征,基于训练得到的该第二特征提取网络对该图像进行处理,得到该图像的第二特征,然后基于该图像的第一特征和第二特征,确定该图像所匹配的目标图像,然后基于目标图像进行图像推送。
[0349]
在一个具体的可能实施例中,电子设备响应于任一账号对图像的检索指令,获取该图像的图像特征,基于训练得到的该第一特征提取网络对该图像的图像特征进行处理,得到该图像的第一特征,基于该图像的第一特征与多个候选图像的第一特征之间的第三相似度,从该多个候选图像中,确定该第三相似度符合条件的多个第一目标图像,然后电子设备向该账号推送该多个第一目标图像。该第一特征提取网络训练时考虑到了样本图像的邻域结构的特征,因而网络参数更加准确,提取到的第一特征也就更加准确,基于此进行图像检索,能够有效提高检索结果的准确性。
[0350]
在一些实施例中,电子设备还可以再基于图像的邻域结构的特征进一步对图像检索结果进行重排序。具体地,电子设备可以基于训练得到的该第二特征提取网络对该图像的图像特征进行处理,得到该图像的第二特征,然后基于该图像的第二特征与每个该第一目标图像的第二特征之间的第四相似度,对该多个第一目标图像进行排序,得到该多个第一目标图像的排序结果,然后电子设备可以按照该排序结果向该账号推送该多个第一目标图像。
[0351]
本公开实施例,新增了一种用于提取第二特征的第二特征提取网络,第二特征用于表征目标类别图像的内容特征分布状况,也即是该样本图像的邻域结构,结合用于提取样本图像本身特征的第一特征提取网络,从两个角度来对样本图像的图像特征进行处理,
考虑到了不同样本图像的邻域结构可能不均匀的情况,在训练过程中不仅学习样本图像本身的特征,还能够自适应地学习到样本图像的邻域结构,以此训练得到的特征提取网络在特征提取方面的准确性更好,这样提取到的特征能够更加准确地体现出图像所属的类别,基于训练后的特征提取网络进行图像检索也能够得到更加准确的检索结果。
[0352]
上述图5所示实施例,对特征提取网络的训练方法进行了重点说明,下面通过图9所示,对图像处理方法进行说明。图9是根据一示例性实施例示出的一种图像处理方法的流程图,如图9所示,该方法用于电子设备中,包括以下步骤。
[0353]
在步骤s81中,电子设备获取图像。
[0354]
在步骤s82中,电子设备对图像进行特征提取,得到该图像的图像特征。
[0355]
该步骤s81和步骤s82为获取图像的图像特征的过程,该过程与上述步骤s41和步骤s42同理,在此不多做赘述。
[0356]
在步骤s83中,电子设备对该图像的图像特征进行处理,得到该图像的第一特征,该第一特征用于表征该图像的内容特征。
[0357]
需要说明的是,该步骤s81至步骤s83为对该图像进行处理,得到该图像的第一特征的一种可能实现方式,在此仅以先获取图像,然后获取到图像的图像特征后,将其输入到第一特征提取网络中进行处理为例。在另一些实施例中,可以直接将图像输入第一特征提取网络中,由第一特征提取网络对其进行处理,得到第一特征。本公开实施例对具体采用哪种实现方式不作限定。
[0358]
在步骤s84中,电子设备对该图像的图像特征进行处理,得到该图像的第二特征,该第二特征用于表征目标类别图像的内容特征分布状况,该目标类别为该图像所属的类别。
[0359]
需要说明的是,该步骤s81、s82和步骤s84为对该图像进行处理,得到该图像的第二特征的一种可能实现方式,在此仅以先获取图像,然后获取到图像的图像特征后,将其输入到第二特征提取网络中进行处理为例。在另一些实施例中,可以直接将图像输入第二特征提取网络中,由第二特征提取网络对其进行处理,得到第二特征。本公开实施例对具体采用哪种实现方式不作限定。
[0360]
对于上述步骤s83和步骤s84可以分别通过第一特征提取网络和第二特征提取网络实现。也即是,电子设备可以基于第一特征提取网络对所述图像进行处理,得到所述第一特征,基于第二特征提取网络,对所述图像进行处理,得到所述图像的第二特征。
[0361]
其中,所述第一特征提取网络和所述第二特征提取网络分别基于第一样本图像集合中样本图像之间的预测相似度关系与目标预测相似度关系之间的差异训练得到,所述预测相似度关系基于样本图像的第一特征、第二特征以及所述样本图像所属类别确定,且所述预测相似度关系用于表征两个样本图像之间是否属于同一类别。
[0362]
该第一特征提取网络和第二特征提取网络的训练过程具体可以参见上述图5所示实施例。在此对训练过程进行简单说明。
[0363]
在一些实施例中,所述第一特征提取网络和所述第二特征提取网络的训练过程可以通过下述步骤一至步骤七实现。
[0364]
步骤一、基于所述样本图像以及所述第一样本图像集合中第一样本图像的第一特征,确定所述样本图像与所述第一样本图像之间的第一相似度,所述第一样本图像为所述
样本图像集合中与所述样本图像属于相同类别的图像。
[0365]
步骤二、基于所述样本图像以及与所述第一样本图像集合中第二样本图像的第一特征,确定所述样本图像与所述第二样本图像之间的第二相似度,第二样本图像为所述第一样本图像集合中与所述样本图像属于不同类别的图像。
[0366]
步骤三、基于所述样本图像的第二特征、所述样本图像与所述第二样本图像集合中样本图像的第一特征,确定所述样本图像和所述第二样本图像集合中样本图像之间的第三相似度,所述第二样本图像集合包括所述第一样本图像和所述第二样本图像。
[0367]
步骤四、基于所述第一相似度、第二相似度和第三相似度,确定第一样本图像集合中样本图像之间的第一预测相似度关系。
[0368]
步骤五、基于所述第三相似度,确定第一样本图像集合中样本图像之间的第二预测相似度关系。
[0369]
步骤六、基于所述第一预测相似度关系与目标相似度关系之间的差异,对所述第一特征提取网络进行训练。
[0370]
步骤七、基于所述第二预测相似度关系与目标相似度关系之间的差异,对所述第二特征提取网络进行训练。
[0371]
在一些实施例中,上述步骤三可以包括多种实现方式。
[0372]
实现方式一:根据所述第一相似度和所述第二相似度,从所述第二样本图像集合中,确定所述样本图像对应的第三样本图像集合,所述第三样本图像集合包括所述第一相似度或所述第二相似度满足条件的图像;以所述样本图像的第二特征作为系数,获取所述样本图像的第一特征和所述第三样本图像集合中样本图像的第一特征之间的距离;对所述距离进行归一化,得到所述样本图像和所述第三样本图像集合中样本图像之间的第三相似度。
[0373]
在该实现方式一中,相应的,步骤四可以通过下述方式确定第一样本图像集合中样本图像之间的第一预测相似度关系:基于所述第一相似度和所述第二相似度,确定第一损失值,所述第一损失值与所述第一相似度正相关,所述第一损失值与所述第二相似度负相关;基于所述样本图像与所述第三样本图像集合中样本图像之间的第三相似度,对所述第三样本图像集合中样本图像进行排序,得到预测排序结果。进而步骤六中在对第一特征提取网络进行训练时,电子设备可以基于所述样本图像与所述第三样本图像集合中样本图像之间的第一相似度,对所述第三样本图像集合中样本图像进行排序,得到目标排序结果;基于所述预测排序结果与目标排序结果,确定第二损失值,所述第二损失值用于指示所述排序结果和所述目标排序结果之间的差异;基于所述第一损失值和所述第二损失值,对所述第一特征提取网络进行训练。
[0374]
上述步骤三的实现方式二:以所述样本图像的第二特征作为系数,获取所述样本图像的第一特征与所述第二样本图像集合中样本图像的第一特征之间的距离,所述距离为所述样本图像与所述第二样本图像集合中样本图像之间的第三相似度。
[0375]
相应的,上述步骤四和步骤六中,电子设备可以基于所述第一相似度和所述第二相似度,确定第一损失值,所述第一损失值与所述第一相似度正相关,所述第一损失值与所述第二相似度负相关;根据所述样本图像与所述第二样本图像集合中样本图像之间的第三相似度,确定所述第二样本图像集合中样本图像中所述第一样本图像的第一中心,以及所
述第二样本图像的第二中心;根据所述样本图像和所述第二样本图像集合中样本图像分别与所述第一中心以及所述第二中心之间的距离,获取第二损失值;基于所述第一损失值和所述第二损失值,对所述第一特征提取网络进行训练。
[0376]
该步骤s83和步骤s84可与上述步骤s43和步骤s44同理,对于第二特征,在一些实施例中,电子设备可以基于第二特征提取网络中的两个全连接层,对该图像进行前向计算,由该第二特征提取网络的激活层对最后一个全连接层的输出进行处理,输出该图像的第二特征。本公开实施例在此不做过多赘述。
[0377]
在步骤s85中,电子设备基于该图像的第一特征与候选图像集合中候选图像的第一特征之间的第四相似度,从该候选图像集合中,确定该图像所匹配的目标图像,该目标图像的该第四相似度符合条件。
[0378]
基于上述过程提取到图像的第一特征之后,则可以与候选图像进行匹配,匹配过程通过比较图像与候选图像之间的第四相似度来确定。该第四相似度的获取过程与上述第一相似度的获取过程同理,在此不作过多赘述。
[0379]
该第四相似度符合条件可以由相关技术人员根据需求进行设置,比如,该第四相似度符合条件为第四相似度大于相似度阈值,或者目标图像为第四相似度最大的目标数量的候选图像。
[0380]
在步骤s86中,电子设备基于该图像的第二特征与该目标图像的第二特征之间的第五相似度,对目标图像进行排序,得到该目标图像的排序结果。
[0381]
基于第一特征进行图像检索后,电子设备还可以考虑到图像的邻域结构特征,进行重新排序,以重新排序后的结果进行推荐。
[0382]
该步骤s85和步骤s86为基于该图像的该第一特征和该第二特征,确定该图像所匹配的目标图像的过程。在一些实施例中,上述目标图像匹配过程也可以无需确定第四相似度和第五相似度,而是直接基于第一特征和第二特征进行处理,得到第三特征,基于第三特征与候选图像集合中候选图像进行匹配,得到匹配的目标图像。
[0383]
在步骤s87中,电子设备按照该排序结果对该目标图像进行图像推送。
[0384]
需要说明的是,上述步骤s87为基于该目标图像进行图像推送的一种可能实现方式,上述仅以通过第一特征选出目标图像并基于第二特征对目标图像进行重排序的方式实现为例。在一些实施例中,上述目标图像匹配过程也可以无需确定第四相似度和第五相似度,而是直接基于第一特征和第二特征进行处理,得到第三特征,基于第三特征与候选图像集合中候选图像进行匹配,得到匹配的目标图像,然后基于目标图像进行推送。本公开实施例对具体采用哪种方式不作限定。
[0385]
上述图像处理过程中,使用了用于表示图像内容和邻域结构的特征,进行了二次图像检索,相较于仅通过图像内容进行检索的方式,还考虑到了图像的邻域结构,这样图像推送结果更加准确,更加符合用户需求。本公开实施例,新增了一种用于提取第二特征的第二特征提取网络,第二特征用于表示与样本图像属于同一类别的样本图像的分布,也即是该样本图像的邻域结构,结合用于提取样本图像本身特征的第一特征提取网络,从两个角度来对样本图像的图像特征进行处理,考虑到了不同样本图像的邻域结构可能不均匀的情况,在训练过程中不仅学习样本图像本身的特征,还能够自适应地学习到样本图像的邻域结构,以此训练得到的特征提取网络在特征提取方面的准确性更好,基于训练后的特征提
取网络进行图像检索也能够得到更加准确的检索结果。
[0386]
下面提供一个具体示例,该具体示例示出了本公开提供的方法应用于不同的数据集上的实验结果。
[0387]
具体地,针对二值样本嵌入,分别在cifar

10,nus

wide和flickr25k三个大规模数据集上进行了实验。下面针对每个数据集以及实验设置进行介绍。
[0388]
数据集一:cifar

10
[0389]
cifar

10是一个用于识别物体的十类别数据集。十个类别分别为:飞机、汽车、鸟类、猫、鹿、狗、蛙类、马、船和卡车。每个图片的尺寸为32
×
32,每个类别有6000个图像,数据集中一共有50000张训练图片和10000张测试图片。采用5000张图像用于训练,1000张图像用于测试。
[0390]
数据集二:nus

wide
[0391]
nus

wide是大规模的图像数据集,包含81个语义概念和269648幅网络图像。在实验时,选择了其中最大的21个语义概念,以及21个语义概念对应的186577幅图像进行实验。然后在其中随机选择了2100个样本图像作为测试集,其他作为检索集,并从检索集中抽取10500个样本图像作为训练集。
[0392]
数据集三:flickr25k
[0393]
flickr25k是从flickr中收集的25000个图像。类似于nus

wide,在实验时,随机选择了2000个样本图像作为测试集,其他作为检索集,并从检索集中抽取5000个样本图像作为训练集。
[0394]
对于实值样本嵌入,采用的数据集分别是cub

200

2011,cars

196和stanford online products。
[0395]
数据集一:cub

200

2011拥有200种鸟类的11788张图像。使用前100种(5864张图像)进行训练,其余100种(5924张图像)进行测试。
[0396]
数据集二:cars

196有196辆汽车的16185张图像。将最初的98辆汽车(8054张图像)进行了训练,将其余100辆汽车(8131张图像)进行了测试。
[0397]
数据集三:stanford online products包含22634个在线产品的120053张图像。使用第一批11318产品(59551张图像)进行培训,并使用11316产品(60502张图像)进行测试。
[0398]
对于二值嵌入,我们在四个有代表性的二值度量方法上做了实验,分别是:sgh,ssdh,greedyhash和tbh。对于实值嵌入,我们在三个有代表性的度量学习方法上做了实验,分别是:triplet loss,margin loss和ms loss。
[0399]
在测试阶段,我们直接使用样本嵌入(nasa)来检索粗粒度结果。然后,为进一步证明结构嵌入的有效性(nasa),我们对召回的前n个结果进行重新排序,其中cifar

10为n=2000,nus

wide和flickr25k为n=10000,cub

200

2011和cars

196为n=32,stanford online products为n=2000。值得注意的是,由于n的值很小,我们的重新排序仅引入了很少的计算开销。
[0400]
最终实验结果如下表一、表二和表三所示,通过六个数据集实验表明,本公开提出的方法可以显著提升检索模型的效果。其中,本公开的方法在cub

200

2011数据集上的表现可以如图10所示,相同类别的图像分布在一个邻域中。
[0401]
表一
[0402][0403][0404]
如表一所示,表一中的数值均为map(mean average precision,平均检索精度),map越高则说明越准确。
[0405]
表二
[0406][0407][0408]
如表二所示,表二中的数值均为召回率,本技术提供的方法的召回率,明显要高于其他方法的召回率。
[0409]
表三
[0410][0411][0412]
表三中的数值均为召回率,本技术提供的方法的召回率,明显要高于其他方法的召回率。
[0413]
需要说明的是,本公开提供的图像处理模型的确定方法能够用于任意图像检索场景。例如,可以以软件的方式安装于用户的工作电脑,提供实时哈希检索,也可以将其安装于后台服务器,提供大批量后台检索。该图像检索场景可以为商品图像检索、医学图像检索等等,当然,也可以为对包含有其他搜索目标的图像的检索场景,例如,在商品图像检索场景中,可以用于日常生活中对未知商品的快速检索。这样无需寻找专家,用户可以为商品拍照,通过本公开提供的方法,就可以立即检索到商品的精准信息。又例如,在一种图像检索场景中,比如城市管理场景中,能够通过上述方式对采集到包含有任一目标的图像进行精确分析,快速搜索到搜索目标。借助城市大规模信息采集系统,让计算机根据采集数据快速搜索到搜索目标在何时何地出现。该搜索目标可以为满足搜索条件的人员,也可以为其他生物或物品,比如,进行过某种行为的人员、走失人员、走失宠物、符合条件的车辆等,从而为保障城市管理和安全提供精准的数据参考。又例如,在医学图像检索场景中,能够用于医学诊断辅助,医院每天都会产生大量的医学图像数据。高效的组织、管理和检索大规模的医学图像数据,能够辅助医师对不同疾病进行精确的诊断,有着重要的临床价值和商业前景。通过上述方式能够对医学图像进行分析,以确定出医学图像中的人体组织分布等,为疾病诊断提供辅助。
[0414]
图11是根据一示例性实施例示出的一种特征提取网络训练装置框图。参照图11,该装置包括:
[0415]
处理单元1001,被配置为执行基于第一特征提取网络对样本图像进行处理,得到该样本图像的第一特征,该第一特征用于表征该样本图像的内容特征;
[0416]
该处理单元1001,还被配置为执行基于第二特征提取网络对该样本图像进行处理,得到该样本图像的第二特征,该第二特征用于表征目标类别图像的内容特征分布状况,该目标类别为该样本图像所属的类别;
[0417]
确定单元1002,被配置为执行基于该样本图像的第一特征、第二特征以及该样本图像所属类别,确定第一样本图像集合中样本图像之间的预测相似度关系,该第一样本图像集合包括属于同一类别的样本图像和属于不同类别的样本图像,该预测相似度关系用于表征两个样本图像之间是否属于同一类别;
[0418]
训练单元1003,被配置为执行基于该预测相似度关系与目标相似度关系之间的差异,对该第一特征提取网络和该第二特征提取网络进行训练。
[0419]
在一些实施例中,该确定单元1002被配置为执行:
[0420]
基于该样本图像以及该第一样本图像集合中第一样本图像的第一特征,确定该样本图像与该第一样本图像之间的第一相似度,该第一样本图像为该样本图像集合中与该样本图像属于相同类别的图像;
[0421]
基于该样本图像以及与该第一样本图像集合中第二样本图像的第一特征,确定该样本图像与该第二样本图像之间的第二相似度,第二样本图像为该第一样本图像集合中与该样本图像属于不同类别的图像;
[0422]
基于该样本图像的第二特征、该样本图像与该第二样本图像集合中样本图像的第一特征,确定该样本图像和该第二样本图像集合中样本图像之间的第三相似度,该第二样本图像集合包括该第一样本图像和该第二样本图像;
[0423]
基于该第一相似度、第二相似度和第三相似度,确定第一样本图像集合中样本图
像之间的第一预测相似度关系;
[0424]
基于该第三相似度,确定第一样本图像集合中样本图像之间的第二预测相似度关系;
[0425]
该训练单元1003被配置为执行:
[0426]
基于该第一预测相似度关系与目标相似度关系之间的差异,对该第一特征提取网络进行训练;
[0427]
基于该第二预测相似度关系与目标相似度关系之间的差异,对该第二特征提取网络进行训练。
[0428]
在一些实施例中,该确定单元1002被配置为执行:
[0429]
根据该第一相似度和该第二相似度,从该第二样本图像集合中,确定该样本图像对应的第三样本图像集合,该第三样本图像集合包括该第一相似度或该第二相似度满足条件的图像;
[0430]
以该样本图像的第二特征作为系数,获取该样本图像的第一特征和该第三样本图像集合中样本图像的第一特征之间的距离;
[0431]
对该距离进行归一化,得到该样本图像和该第三样本图像集合中样本图像之间的第三相似度。
[0432]
在一些实施例中,该确定单元1002被配置为执行:
[0433]
基于该第一相似度和该第二相似度,确定第一损失值,该第一损失值与该第一相似度正相关,该第一损失值与该第二相似度负相关;
[0434]
基于该样本图像与该第三样本图像集合中样本图像之间的第三相似度,对该第三样本图像集合中样本图像进行排序,得到预测排序结果;
[0435]
该训练单元1003被配置为执行:基于该样本图像与该第三样本图像集合中样本图像之间的第一相似度,对该第三样本图像集合中样本图像进行排序,得到目标排序结果;
[0436]
基于该预测排序结果与目标排序结果,确定第二损失值,该第二损失值用于指示该排序结果和该目标排序结果之间的差异;
[0437]
基于该第一损失值和该第二损失值,对该第一特征提取网络进行训练。
[0438]
在一些实施例中,该确定单元1002被配置为执行:
[0439]
以该样本图像的第二特征作为系数,获取该样本图像的第一特征与该第二样本图像集合中样本图像的第一特征之间的距离,该距离为该样本图像与该第二样本图像集合中样本图像之间的第三相似度。
[0440]
在一些实施例中,该确定单元1002和该训练单元1003被配置为执行:
[0441]
基于该第一相似度和该第二相似度,确定第一损失值,该第一损失值与该第一相似度正相关,该第一损失值与该第二相似度负相关;
[0442]
根据该样本图像与该第二样本图像集合中样本图像之间的第三相似度,确定该第二样本图像集合中样本图像中该第一样本图像的第一中心,以及该第二样本图像的第二中心;
[0443]
根据该样本图像和该第二样本图像集合中样本图像分别与该第一中心以及该第二中心之间的距离,获取第二损失值;
[0444]
基于该第一损失值和该第二损失值,对该第一特征提取网络进行训练。
[0445]
在一些实施例中,该第二特征提取网络包括两个全连接层和激活层;
[0446]
该处理单元1001被配置为执行基于该第二特征提取网络中的该两个全连接层,对该样本图像进行前向计算,由该第二特征提取网络的激活层对最后一个全连接层的输出进行处理,输出该样本图像的第二特征。
[0447]
图12是根据一示例性实施例示出的一种图像处理装置框图。参照图12,该装置包括:
[0448]
处理单元1101,被配置为执行对该图像进行处理,得到该图像的第一特征,该第一特征用于表征该图像的内容特征;
[0449]
该处理单元1101,还被配置为执行对该图像进行处理,得到该图像的第二特征,该第二特征用于表征目标类别图像的内容特征分布状况,该目标类别为该图像所属的类别;
[0450]
确定单元1102,被配置为执行基于该图像的该第一特征和该第二特征,确定该图像所匹配的目标图像;
[0451]
推送单元1103,被配置为执行基于该目标图像进行图像推送。
[0452]
在一些实施例中,该确定单元1102被配置为执行:
[0453]
基于该图像的第一特征与候选图像集合中候选图像的第一特征之间的第四相似度,从该候选图像集合中,确定该图像所匹配的目标图像,该目标图像的该第四相似度符合条件;
[0454]
该推送单元1103被配置为执行:
[0455]
基于该图像的第二特征与该目标图像的第二特征之间的第五相似度,对该目标图像进行排序,得到该目标图像的排序结果;
[0456]
按照该排序结果对该目标图像进行图像推送。
[0457]
在一些实施例中,所述处理单元1101被配置为执行:
[0458]
基于第一特征提取网络对所述图像进行处理,得到所述第一特征;
[0459]
所述处理单元1101被配置为执行:
[0460]
基于第二特征提取网络,对所述图像进行处理,得到所述图像的第二特征;
[0461]
其中,所述第一特征提取网络和所述第二特征提取网络分别基于第一样本图像集合中样本图像之间的预测相似度关系与目标预测相似度关系之间的差异训练得到,所述预测相似度关系基于样本图像的第一特征、第二特征以及所述样本图像所属类别确定,且所述预测相似度关系用于表征两个样本图像之间是否属于同一类别。
[0462]
在一些实施例中,该处理单元1101被配置为执行:
[0463]
基于第二特征提取网络中的两个全连接层,对该图像进行前向计算,由该第二特征提取网络的激活层对最后一个全连接层的输出进行处理,输出该图像的第二特征。
[0464]
关于上述实施例中的装置,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。
[0465]
图13是根据一示例性实施例示出根据一示例性实施例示出的一种电子设备的结构示意图,该电子设备1200可因配置或性能不同而产生比较大的差异,包括一个或一个以上处理器(central processing units,cpu)1201和一个或一个以上的存储器1202,其中,该存储器1202中存储有至少一条指令,该至少一条指令由该处理器1201加载并执行以实现上述各个方法实施例提供的特征提取网络训练方法或图像处理方法。该电子设备还包括其
他用于实现设备功能的部件,例如,该电子设备还具有有线或无线网络接口以及输入输出接口等部件,以便进行输入输出。本技术实施例在此不做赘述。
[0466]
上述方法实施例中的电子设备实现为终端。例如,图14是根据一示例性实施例示出的一种终端的结构框图。该终端1300可以是便携式移动终端,比如:智能手机、平板电脑、mp3(moving picture experts group audio layer iii,动态影像专家压缩标准音频层面3)播放器、mp4(moving picture experts group audio layer iv,动态影像专家压缩标准音频层面4)播放器、笔记本电脑或台式电脑。终端1300还可能被称为用户设备、便携式终端、膝上型终端、台式终端等其他名称。
[0467]
通常,终端1300包括有:处理器1301和存储器1302。
[0468]
处理器1301可以包括一个或多个处理核心,比如4核心处理器、8核心处理器等。处理器1301可以采用dsp(digital signal processing,数字信号处理)、fpga(field-programmable gate array,现场可编程门阵列)、pla(programmable logic array,可编程逻辑阵列)中的至少一种硬件形式来实现。处理器1301也可以包括主处理器和协处理器,主处理器是用于对在唤醒状态下的数据进行处理的处理器,也称cpu(central processing unit,中央处理器);协处理器是用于对在待机状态下的数据进行处理的低功耗处理器。在一些实施例中,处理器1301可以集成有gpu(graphics processing unit,图像处理器),gpu用于负责显示屏所需要显示的内容的渲染和绘制。一些实施例中,处理器1301还可以包括ai(artificial intelligence,人工智能)处理器,该ai处理器用于处理有关机器学习的计算操作。
[0469]
存储器1302可以包括一个或多个计算机可读存储介质,该计算机可读存储介质可以是非暂态的。存储器1302还可包括高速随机存取存储器,以及非易失性存储器,比如一个或多个磁盘存储设备、闪存存储设备。在一些实施例中,存储器1302中的非暂态的计算机可读存储介质用于存储至少一个指令,该至少一个指令用于被处理器1301所执行以实现本技术中方法实施例提供的特征提取网络训练方法或图像处理方法。
[0470]
在一些实施例中,终端1300还可选包括有:外围设备接口1303和至少一个外围设备。处理器1301、存储器1302和外围设备接口1303之间可以通过总线或信号线相连。各个外围设备可以通过总线、信号线或电路板与外围设备接口1303相连。具体地,外围设备包括:射频电路1304、显示屏1305、摄像头组件1306、音频电路1307、定位组件1308和电源1309中的至少一种。
[0471]
外围设备接口1303可被用于将i/o(input/output,输入/输出)相关的至少一个外围设备连接到处理器1301和存储器1302。在一些实施例中,处理器1301、存储器1302和外围设备接口1303被集成在同一芯片或电路板上;在一些其他实施例中,处理器1301、存储器1302和外围设备接口1303中的任意一个或两个可以在单独的芯片或电路板上实现,本实施例对此不加以限定。
[0472]
射频电路1304用于接收和发射rf(radio frequency,射频)信号,也称电磁信号。射频电路1304通过电磁信号与通信网络以及其他通信设备进行通信。射频电路1304将电信号转换为电磁信号进行发送,或者,将接收到的电磁信号转换为电信号。可选地,射频电路1304包括:天线系统、rf收发器、一个或多个放大器、调谐器、振荡器、数字信号处理器、编解码芯片组、用户身份模块卡等等。射频电路1304可以通过至少一种无线通信协议来与其它
终端进行通信。该无线通信协议包括但不限于:万维网、城域网、内联网、各代移动通信网络(2g、3g、4g及5g)、无线局域网和/或wifi(wireless fidelity,无线保真)网络。在一些实施例中,射频电路1304还可以包括nfc(near field communication,近距离无线通信)有关的电路,本技术对此不加以限定。
[0473]
显示屏1305用于显示ui(user interface,用户界面)。该ui可以包括图形、文本、图标、视频及其它们的任意组合。当显示屏1305是触摸显示屏时,显示屏1305还具有采集在显示屏1305的表面或表面上方的触摸信号的能力。该触摸信号可以作为控制信号输入至处理器1301进行处理。此时,显示屏1305还可以用于提供虚拟按钮和/或虚拟键盘,也称软按钮和/或软键盘。在一些实施例中,显示屏1305可以为一个,设置在终端1300的前面板;在另一些实施例中,显示屏1305可以为至少两个,分别设置在终端1300的不同表面或呈折叠设计;在另一些实施例中,显示屏1305可以是柔性显示屏,设置在终端1300的弯曲表面上或折叠面上。甚至,显示屏1305还可以设置成非矩形的不规则图形,也即异形屏。显示屏1305可以采用lcd(liquid crystal display,液晶显示屏)、oled(organic light

emitting diode,有机发光二极管)等材质制备。
[0474]
摄像头组件1306用于采集图像或视频。可选地,摄像头组件1306包括前置摄像头和后置摄像头。通常,前置摄像头设置在终端的前面板,后置摄像头设置在终端的背面。在一些实施例中,后置摄像头为至少两个,分别为主摄像头、景深摄像头、广角摄像头、长焦摄像头中的任意一种,以实现主摄像头和景深摄像头融合实现背景虚化功能、主摄像头和广角摄像头融合实现全景拍摄以及vr(virtual reality,虚拟现实)拍摄功能或者其它融合拍摄功能。在一些实施例中,摄像头组件1306还可以包括闪光灯。闪光灯可以是单色温闪光灯,也可以是双色温闪光灯。双色温闪光灯是指暖光闪光灯和冷光闪光灯的组合,可以用于不同色温下的光线补偿。
[0475]
音频电路1307可以包括麦克风和扬声器。麦克风用于采集用户及环境的声波,并将声波转换为电信号输入至处理器1301进行处理,或者输入至射频电路1304以实现语音通信。出于立体声采集或降噪的目的,麦克风可以为多个,分别设置在终端1300的不同部位。麦克风还可以是阵列麦克风或全向采集型麦克风。扬声器则用于将来自处理器1301或射频电路1304的电信号转换为声波。扬声器可以是传统的薄膜扬声器,也可以是压电陶瓷扬声器。当扬声器是压电陶瓷扬声器时,不仅可以将电信号转换为人类可听见的声波,也可以将电信号转换为人类听不见的声波以进行测距等用途。在一些实施例中,音频电路1307还可以包括耳机插孔。
[0476]
定位组件1308用于定位终端1300的当前地理位置,以实现导航或lbs(location based service,基于位置的服务)。定位组件1308可以是基于美国的gps(global positioning system,全球定位系统)、中国的北斗系统或俄罗斯的伽利略系统的定位组件。
[0477]
电源1309用于为终端1300中的各个组件进行供电。电源1309可以是交流电、直流电、一次性电池或可充电电池。当电源1309包括可充电电池时,该可充电电池可以是有线充电电池或无线充电电池。有线充电电池是通过有线线路充电的电池,无线充电电池是通过无线线圈充电的电池。该可充电电池还可以用于支持快充技术。
[0478]
在一些实施例中,终端1300还包括有一个或多个传感器1310。该一个或多个传感
器1310包括但不限于:加速度传感器1311、陀螺仪传感器1312、压力传感器1313、指纹传感器1314、光学传感器1315以及接近传感器1316。
[0479]
加速度传感器1311可以检测以终端1300建立的坐标系的三个坐标轴上的加速度大小。比如,加速度传感器1311可以用于检测重力加速度在三个坐标轴上的分量。处理器1301可以根据加速度传感器1311采集的重力加速度信号,控制显示屏1305以横向视图或纵向视图进行用户界面的显示。加速度传感器1311还可以用于游戏或者用户的运动数据的采集。
[0480]
陀螺仪传感器1312可以检测终端1300的机体方向及转动角度,陀螺仪传感器1312可以与加速度传感器1311协同采集用户对终端1300的3d动作。处理器1301根据陀螺仪传感器1312采集的数据,可以实现如下功能:动作感应(比如根据用户的倾斜操作来改变ui)、拍摄时的图像稳定、游戏控制以及惯性导航。
[0481]
压力传感器1313可以设置在终端1300的侧边框和/或显示屏1305的下层。当压力传感器1313设置在终端1300的侧边框时,可以检测用户对终端1300的握持信号,由处理器1301根据压力传感器1313采集的握持信号进行左右手识别或快捷操作。当压力传感器1313设置在显示屏1305的下层时,由处理器1301根据用户对显示屏1305的压力操作,实现对ui界面上的可操作性控件进行控制。可操作性控件包括按钮控件、滚动条控件、图标控件、菜单控件中的至少一种。
[0482]
指纹传感器1314用于采集用户的指纹,由处理器1301根据指纹传感器1314采集到的指纹识别用户的身份,或者,由指纹传感器1314根据采集到的指纹识别用户的身份。在识别出用户的身份为可信身份时,由处理器1301授权该用户执行相关的敏感操作,该敏感操作包括解锁屏幕、查看加密信息、下载软件、支付及更改设置等。指纹传感器1314可以被设置在终端1300的正面、背面或侧面。当终端1300上设置有物理按键或厂商logo时,指纹传感器1314可以与物理按键或厂商logo集成在一起。
[0483]
光学传感器1315用于采集环境光强度。在一个实施例中,处理器1301可以根据光学传感器1315采集的环境光强度,控制显示屏1305的显示亮度。具体地,当环境光强度较高时,调高显示屏1305的显示亮度;当环境光强度较低时,调低显示屏1305的显示亮度。在另一个实施例中,处理器1301还可以根据光学传感器1315采集的环境光强度,动态调整摄像头组件1306的拍摄参数。
[0484]
接近传感器1316,也称距离传感器,通常设置在终端1300的前面板。接近传感器1316用于采集用户与终端1300的正面之间的距离。在一个实施例中,当接近传感器1316检测到用户与终端1300的正面之间的距离逐渐变小时,由处理器1301控制显示屏1305从亮屏状态切换为息屏状态;当接近传感器1316检测到用户与终端1300的正面之间的距离逐渐变大时,由处理器1301控制显示屏1305从息屏状态切换为亮屏状态。
[0485]
本领域技术人员可以理解,图14中示出的结构并不构成对终端1300的限定,可以包括比图示更多或更少的组件,或者组合某些组件,或者采用不同的组件布置。
[0486]
上述方法实施例中的电子设备实现为服务器。例如,图15是根据一示例性实施例示出的一种服务器的结构示意图,该服务器1400可因配置或性能不同而产生比较大的差异,包括一个或一个以上处理器(central processing units,cpu)1401和一个或一个以上的存储器1402,其中,所述存储器1402中存储有至少一条指令,所述至少一条指令由所述处
理器1401加载并执行以实现上述各个方法实施例提供的特征提取网络训练方法或图像处理方法。当然,该服务器还具有有线或无线网络接口以及输入输出接口等部件,以便进行输入输出,该服务器还包括其他用于实现设备功能的部件,在此不做赘述。
[0487]
在示例性实施例中,还提供了一种计算机可读存储介质,例如包括至少一条指令的存储器,上述至少一条指令由可由电子设备的处理器执行以完成上述实施例中的特征提取网络训练方法或图像处理方法。可选地,计算机可读存储介质是只读存储器(read

only memory,简称:rom)、随机存取存储器(random access memory,简称:ram)、只读光盘(compact disc read

only memory,简称:cd

rom)、磁带、软盘和光数据存储设备等。
[0488]
在示例性实施例中,还提供了一种计算机程序产品,所述计算机程序产品或所述计算机程序包括一条或多条指令,所述一条或多条指令存储在计算机可读存储介质中。电子设备的一个或多个处理器从计算机可读存储介质中读取所述一条或多条指令,所述一个或多个处理器执行所述一条或多条指令,使得电子设备执行上述特征提取网络训练方法或图像处理方法。
[0489]
在一些实施例中,本技术实施例所涉及的计算机程序可被部署在一个电子设备上执行,或者在位于一个地点的多个电子设备上执行,又或者,在分布在多个地点且通过通信网络互连的多个电子设备上执行,分布在多个地点且通过通信网络互连的多个电子设备可以组成区块链系统。
[0490]
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本公开的其它实施方案。本技术旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由下面的权利要求指出。
[0491]
应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。
转载请注明原文地址: https://doc.8miu.com/read-1350237.html

最新回复(0)