本技术涉及多模态数据处理领域,特别是涉及一种基于动静态目标分离的多源多模态数据有效信息提取方法、系统、计算机设备和计算机可读存储介质。
背景技术:
1、元宇宙虚拟现实技术的发展,近年来逐渐成为数字科技和互联网行业的热门话题,通过将现实空间物理信息和实体信息进行提取,实现现实空间的虚拟呈现和虚实融合。
2、虚实融合是元宇宙技术推广的一大难题,虚实融合的难点主要体现在如何实现低延时的虚实叠加,如何实现对重点关注目标的精细化效果展示,以及如何对多源多模态数据进行处理。
3、传统实时感知方法是通过算法对采集端获取到多模态数据进行统一的全局目标特征提取,该过程需要按照统一标准逐个遍历场景中的全部目标,信息提取的过程计算耗时;并且,由于没有关注重心,导致利用提取到的信息进行虚拟融合呈现时,存在较高延时和核心关注目标细节缺失的问题。
技术实现思路
1、本技术实施例提供了一种基于动静态目标分离的多源多模态数据有效信息提取方法、系统、计算机设备和计算机可读存储介质,以至少解决相关技术中信息提取计算耗时的问题。
2、第一方面,本技术实施例提供了一种基于动静态目标分离的多源多模态数据有效信息提取方法,所述方法包括:
3、接收线下场景的多源多模态数据,其中,所述多源多模态数据是通过多个异构采集终端获取的不同模态数据组成的数据集合;
4、通过动态目标感知算法,确定所述多源多模态数据中的动态目标和静态目标;
5、根据预设核心关注目标分类信息,将所述动态目标和所述静态目标添加至核心关注目标队列或非核心关注目标队列,提取所述非核心关注目标队列中目标的基础信息,并根据不同模态数据的信息提取复杂度,提取所述核心关注目标队列中目标的精细化信息。
6、在其中一些实施例中,基于预设核心关注目标分类信息,将所述动态目标和所述静态目标添加至核心关注目标队列或非核心关注目标队列包括:
7、在初始化状态下,根据预设核心关注目标分类信息,构建核心关注目标队列和非核心关注目标队列;
8、在动态更新状态下,通过目标匹配算法实时遍历所述多源多模态数据,判断是否存在新目标,
9、若是,对所述新目标进行基础信息提取,并根据所述基础信息与所述预设核心关注目标分类信息的匹配关系,将所述新目标更新至所述核心关注队列或非核心关注队列。
10、在其中一些实施例中,通过目标匹配算法实时遍历所述多源多模态数据,判断是否存在新目标包括:
11、确定所述多源多模态数据中的任意一个待处理目标;
12、通过所述目标匹配算法,获取所述目标对象,与所述核心关注队列或所述非核心关注队列中已存在的目标的前后帧位置之间的iou重叠度;
13、根据所述iou重叠度,判断所述待处理目标是否为新目标。
14、在其中一些实施例中,所述方法还包括:
15、响应核心关注目标更新指令,更新所述预设核心关注目标分类信息和所述目标匹配算法,
16、根据所述更新之后的预设核心关注目标分类信息和目标匹配算法,基于目标与队列中已存在目标的前后帧匹配关系,将所述实时更新的目标添加至核心关注目标队列或非核心关注目标队列,
17、其中,所述核心关注目标变更指令是根据用户需求自定义编辑的用于确定核心关注目标的指令。
18、在其中一些实施例中,在根据不同模态数据的信息提取复杂度,提取所述核心关注目标队列中目标的精细化信息包括:
19、确定各个模态数据对应的信息提取复杂度;
20、根据各个模态数据对应的信息提取复杂度,从存在空间关联的多个模态数据中,选择运算复杂度最小的第一模态数据以及信息提取复杂度最大的第二模态数据;
21、基于所述第一模态数据和所述第二模态数据,通过目标三维坐标的空间坐标映射,提取所述核心关注目标队列中目标的精细化信息。
22、在其中一些实施例中,通过目标三维坐标的空间坐标映射,提取对应在所述非核心关注目标队列中目标的精细化信息包括:
23、基于所述第一模态数据,提取所述非核心关注目标队列中目标的第一基础信息;
24、通过将所述第一基础信息中的目标的三维坐标,还原至所述运算复杂度最大的第二模态数据中,在所述第二模态数据中确定关联区域;
25、基于所述关联区域,提取所述非核心关注目标队列中目标的精细化信息。
26、第二方面,本技术实施例提供了一种基于动静态目标分离的多源多模态数据虚实融合方法,所述方法包括:
27、将所述核心关注目标队列和所述非核心关注目标队列中的目标,进行三维空间坐标还原;
28、基于所述三维空间坐标还原的结果,以及通过第一方面提取得到的所述精细化信息和所述基础信息,得到场景空间建模结果;
29、响应虚实叠加指令,在所述空间建模结果中叠加虚拟特效,生成虚实融合场景。
30、第三方面,本技术实施例提供了一种基于动静态目标分离的多源多模态数据有效信息提取系统,所述系统包括采集模块、预处理模块和信息提取模块,其中:
31、所述采集模块用于,接收线下场景的多源多模态数据,其中,所述多源多模态数据是通过多个异构采集终端获取的不同模态数据组成的数据集合;
32、所述预处理模块用于,通过动态目标感知算法,确定所述多源多模态数据中的动态目标和静态目标;
33、所述信息提取模块用于,根据预设核心关注目标分类信息,将所述动态目标和所述静态目标添加至核心关注目标队列或非核心关注目标队列,提取所述非核心关注目标队列中目标的基础信息,并根据不同模态数据的信息提取复杂度,提取所述核心关注目标队列中目标的精细化信息。
34、第四方面,本技术实施例提供了一种计算机设备,包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如上述第一方面所述的方法。
35、第五方面,本技术实施例提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如上述第一方面所述的方法。
36、相比于相关技术,本技术实施例提供的基于动静态目标分离的多源多模态数据有效信息提取方法,接收线下场景的多源多模态数据,通过动态目标感知算法,确定多源多模态数据中的动态目标和静态目标;进一步的,根据预设核心关注目标分类信息,将动态目标和静态目标添加至核心关注目标队列或非核心关注目标队列,提取非核心关注目标队列中目标的基础信息;并根据不同模态数据的信息提取复杂度,对核心关注目标的实时精细化信息提取。
37、通过本技术,实现了一种软定义的多模态有效信息提取技术,无需对数据进行统一的全局目标特征提取,可以根据用户需求和场景特点,针对性的对核心关注区域进行精细化的信息提取并对非核心关注区域提取粗略的基础信息,从而提升线下场景信息提取的整体效率,减少了元宇宙空间中虚实叠加的延时;另外,本技术方案利用重点关注目标的精细化信息进行元宇宙空间的虚实融合,解决了传统方式对核心关注目标细节缺失的问题,提升核心关注目标虚拟叠加的效果丰富度。
1.一种基于动静态目标分离的多源多模态数据有效信息提取方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,基于预设核心关注目标分类信息,将所述动态目标和所述静态目标添加至核心关注目标队列或非核心关注目标队列包括:
3.根据权利要求2所述的方法,其特征在于,通过目标匹配算法实时遍历所述多源多模态数据,判断是否存在新目标包括:
4.根据权利要求3所述的方法,其特征在于,所述方法还包括:
5.根据权利要求1所述的方法,其特征在于,在根据不同模态数据的信息提取复杂度,提取所述核心关注目标队列中目标的精细化信息包括:
6.根据权利要求5所述的方法,其特征在于,通过目标三维坐标的空间坐标映射,提取对应在所述非核心关注目标队列中目标的精细化信息包括:
7.一种基于动静态目标分离的多源多模态数据虚实融合方法,其特征在于,所述方法包括:
8.一种基于动静态目标分离的多源多模态数据有效信息提取系统,其特征在于,所述系统包括采集模块、预处理模块和信息提取模块,其中:
9.一种计算机设备,包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至7中任一项所述的方法。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1至7中任一项所述的方法。