本申请涉及人脸识别技术领域,特别是涉及门禁场景下确定热成像上人脸坐标的方法、系统、电子设备和存储介质。
背景技术:
使用红外热成像方法来测量体温,具有快速、便捷、无人值守等优点。热成像图片上的每一个像素点都包含有温度信息。测温的过程是在热力图上检索出该人的温度,但由于整张热力图包含整个环境,其中可能有高温物体、周围其它人等等干扰因素,所以如果使用整张热力图进行检索,会受这些干扰因素影响。为了对人精准测温,需要识别出这个人在热力图里的位置和大小。
在相关技术中,一般检测人脸的做法为采集大量图片,对图片中的人脸进行标定,再使用深度学习算法训练出人脸检测模型,然后使用该模型对图片进行检测,以确定人脸位置和大小。但用户使用环境千差万别,采集用户各种场景下的热力图较为困难。并且,门禁作为一种嵌入式设备,算力有限,如果在现有功能上采用人脸检测模型对热力图做人脸检测,会造成cpu负载过重,导致画面卡顿。
技术实现要素:
本申请实施例提供了一种门禁场景下确定热成像上人脸坐标的方法、系统、电子设备和存储介质,以至少解决相关技术中如何精准识别出人脸在热力图上的位置和大小的技术问题。
第一方面,本申请实施例提供了一种门禁场景下确定热成像上人脸坐标的方法,所述方法包括:获取由门禁摄像头拍摄的成像图以及由热成像摄像头拍摄的热力图;获取所述热成像摄像头和所述门禁摄像头视场角重合区域的第一人脸坐标,其中,所述第一人脸坐标由门禁设备对所述成像图识别得到;将所述第一人脸坐标带入预设的公式计算出所述热力图上的第二人脸坐标。
在其中一些实施例中,所述公式为:
x′=a′ k1*(270-a′-d′)*((x-a)/(720-a-d))
y′=b′ k2*(360-b′-c′)*((y-b)/(1280-b-c))
其中,x′为所述第二人脸坐标的横坐标,y′为所述第二人脸坐标的纵坐标;x为所述第一人脸坐标的横坐标,y为所述第一人脸坐标的纵坐标;
a为所述热成像摄像头左侧视角盲区的宽度,b为所述热成像摄像头上方视角盲区的宽度,
c为所述热成像摄像头下方视角盲区的宽度,d为所述热成像摄像头右侧视角盲区的宽度,
a′为所述门禁摄像头左侧视角盲区的宽度,b′为所述门禁摄像头上方视角盲区的宽度,
c′为所述门禁摄像头下方视角盲区的宽度,d′为所述门禁摄像头右侧视角盲区的宽度,
k1,k2为常数。
在其中一些实施例中,所述视角盲区的各所述宽度是在目标物体的移动过程中通过photoshop测量得到。
在其中一些实施例中,在将所述第一人脸坐标带入预设的公式计算出所述热力图上的第二人脸坐标之后,所述方法包括:根据所述第二人脸坐标,检索出所述热力图上人脸区域的最高温度点;以所述最高温度点为中心,计算规定区域的平均温度以作为人体温度。
第二方面,本申请实施例提供了一种门禁场景下确定热成像上人脸坐标的系统,包括:门禁摄像头、热成像摄像头和计算模块,门禁摄像头用于拍摄成像图;热成像摄像头用于拍摄热力图;计算模块用于获取所述成像图和所述热力图;获取所述热成像摄像头和所述门禁摄像头视场角重合区域的第一人脸坐标,其中,所述第一人脸坐标由门禁设备对所述成像图识别得到;将所述第一人脸坐标带入预设的公式计算出所述热力图上的第二人脸坐标。
在其中一些实施例中,所述公式为:
x′=a′ k1*(270-a′-d′)*((x-a)/(720-a-d))
y′=b′ k2*(360-b′-c′)*((y-b)/(1280-b-c))
其中,x′为所述第二人脸坐标的横坐标,y′为所述第二人脸坐标的纵坐标;x为所述第一人脸坐标的横坐标,y为所述第一人脸坐标的纵坐标;
a为所述热成像摄像头左侧视角盲区的宽度,b为所述热成像摄像头上方视角盲区的宽度,
c为所述热成像摄像头下方视角盲区的宽度,d为所述热成像摄像头右侧视角盲区的宽度,
a′为所述门禁摄像头左侧视角盲区的宽度,b′为所述门禁摄像头上方视角盲区的宽度,
c′为所述门禁摄像头下方视角盲区的宽度,d′为所述门禁摄像头右侧视角盲区的宽度,
k1,k2为常数。
在其中一些实施例中,所述视角盲区的各所述宽度是在目标物体的移动过程中通过photoshop测量得到。
在其中一些实施例中,在将所述第一人脸坐标带入预设的公式计算出所述热力图上的第二人脸坐标之后,所述计算模块还用于根据所述第二人脸坐标,检索出所述热力图上人脸区域的最高温度点;以所述最高温度点为中心,计算规定区域的平均温度以作为人体温度。
第三方面,本申请实施例提供了一种电子设备,包括存储器和处理器,所述存储器中存储有计算机程序,所述处理器被设置为运行所述计算机程序以执行上述任一项所述的方法。
第四方面,本申请实施例提供了一种存储介质,所述存储介质中存储有计算机程序,其中,所述计算机程序被设置为运行时执行上述任一项所述的方法。
相比于相关技术,本申请实施例提供的门禁场景下确定热成像上人脸坐标的方法,包括:获取由门禁摄像头拍摄的成像图以及由热成像摄像头拍摄的热力图;获取热成像摄像头和门禁摄像头视场角重合区域的第一人脸坐标,其中,第一人脸坐标由门禁设备对成像图识别得到;将第一人脸坐标带入预设的公式计算出热力图上的第二人脸坐标。根据本申请实施例,通过较小的算力能快速定位到热力图上的人脸坐标,计算过程中cpu负载很小,门禁设备的识别画面流畅。
附图说明
此处所说明的附图用来提供对本申请的进一步理解,构成本申请的一部分,本申请的示意性实施例及其说明用于解释本申请,并不构成对本申请的不当限定。在附图中:
图1是根据本申请实施例的门禁场景下确定热成像上人脸坐标的方法的流程图;
图2是根据本申请实施例的热成像摄像头和门禁摄像头视场角重合区域的表达示意图;
图3是根据本申请实施例的成像图与热力图的表达示意图;
图4是根据本申请实施例的成像图上的人脸位置及大小的表达示意图;
图5是根据本申请实施例的包含测温步骤的流程示意图;
图6是根据本申请实施例的门禁场景下确定热成像上人脸坐标的系统的结构框图;
图7是根据本申请实施例的电子设备的内部结构示意图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行描述和说明。应当理解,此处所描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。基于本申请提供的实施例,本领域普通技术人员在没有作出创造性劳动的前提下所获得的所有其他实施例,都属于本申请保护的范围。此外,还可以理解的是,虽然这种开发过程中所作出的努力可能是复杂并且冗长的,然而对于与本申请公开的内容相关的本领域的普通技术人员而言,在本申请揭露的技术内容的基础上进行的一些设计,制造或者生产等变更只是常规的技术手段,不应当理解为本申请公开的内容不充分。
在本申请中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域普通技术人员显式地和隐式地理解的是,本申请所描述的实施例在不冲突的情况下,可以与其它实施例相结合。
除非另作定义,本申请所涉及的技术术语或者科学术语应当为本申请所属技术领域内具有一般技能的人士所理解的通常意义。本申请所涉及的“一”、“一个”、“一种”、“该”等类似词语并不表示数量限制,可表示单数或复数。本申请所涉及的术语“包括”、“包含”、“具有”以及它们任何变形,意图在于覆盖不排他的包含;例如包含了一系列步骤或模块(单元)的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元,而是可以还包括没有列出的步骤或单元,或可以还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。本申请所涉及的“连接”、“相连”、“耦接”等类似的词语并非限定于物理的或者机械的连接,而是可以包括电气的连接,不管是直接的还是间接的。本申请所涉及的“多个”是指大于或者等于两个。“和/或”描述关联对象的关联关系,表示可以存在三种关系,例如,“a和/或b”可以表示:单独存在a,同时存在a和b,单独存在b这三种情况。本申请所涉及的术语“第一”、“第二”、“第三”等仅仅是区别类似的对象,不代表针对对象的特定排序。
本申请实施例提供一种门禁场景下确定热成像上人脸坐标的方法,图1是根据本申请实施例的门禁场景下确定热成像上人脸坐标的方法的流程图,如图1所示,该方法包括以下步骤:
s101:获取由门禁摄像头拍摄的成像图以及由热成像摄像头拍摄的热力图;
s102:获取热成像摄像头和门禁摄像头视场角重合区域的第一人脸坐标,其中,该第一人脸坐标由门禁设备对成像图识别得到;
s103:将第一人脸坐标带入预设的公式计算出热力图上的第二人脸坐标。
根据上述内容,通过较小的算力能快速定位到热力图上的人脸坐标,计算过程中cpu负载很小,门禁设备的识别画面流畅,能够保障用户良好的体验。
为了更清楚的对本申请进行说明,下文对上述步骤进行详细的阐述。
步骤s101:获取由门禁摄像头拍摄的成像图以及由热成像摄像头拍摄的热力图。例如,将红外测温仪器固定于门禁设备的上方,当门禁设备做人脸识别时,被识别人员与门禁设备的距离相对固定,此时,门禁设备的摄像头(可称为“门禁摄像头”)拍摄成像图,并且,红外测温仪器的热成像摄像头拍摄热力图。
步骤s102:获取热成像摄像头和门禁摄像头视场角重合区域的第一人脸坐标,其中,该第一人脸坐标由门禁摄像头对成像图识别得到。
例如,当红外测温仪器和人脸识别门禁设备以上下叠放的形式固定之后,热成像摄像头与门禁摄像头的视场角(fov,fieldofview)是有一定重合区域的,在实际使用中,上述两个摄像头的相对位置是不变的。
图2是根据本申请实施例的热成像摄像头和门禁摄像头视场角重合区域的表达示意图,如图2所示,网格区域为上述两个摄像头视场角交叉的重合区域;视场角交叉的空白区域为非重叠区域,该非重叠区域是上述两个摄像头视角不能同时看到的区域,其原因是因为上述两个摄像头的位置不同导致两者的视场角不同。
由小孔成像原理可知,物体大小及位置和它的成像大小及位置是等比例的。本申请实施例中,通过人脸识别门禁设备检测出成像图上的人脸位置和大小,然后换算成热力图上的人脸位置和大小。
图3是根据本申请实施例的成像图与热力图的表达示意图,如图3所示,rgb是由门禁摄像头拍摄的成像图(例如格式为yuv),ir是由热成像摄像头拍摄的热力图。上述成像图可以是黑白的,但为了提高识别的准确度,可以优选为彩色的。
图4是根据本申请实施例的成像图上的人脸位置及大小的表达示意图,如图4所示,成像图上人脸的位置和大小表示为(x,y,w,h),其中w为成像图上的人脸的宽度,h为成像图上的人脸的长度,(x,y)为成像图上的人脸的位置(例如人脸左上角的坐标)。然后,将成像图上的人脸坐标带入预设的公式,可以换算出热力图上的人脸位置和大小(x′,y′,w′,h′),其中,w′为热力图上的人脸的宽度,h′为热力图上的人脸的长度,(x′,y′)为热力图上的人脸的位置。需要说明的是,为了清楚的区别成像图上的人脸坐标和热力图上的人脸坐标,将前者称为“第一人脸坐标”,将后者称为“第二人脸坐标”。
步骤s103:将第一人脸坐标带入预设的公式计算出热力图上的第二人脸坐标。请继续参阅图3所示,假设成像图(即rgb)的尺寸为720*1280像素,热力图(即ir)的尺寸为270*360像素。就视场角重合区域而言,成像图上任意一点的坐标(x,y),与热力图上相应的点的坐标(x′,y′),具有以下关系:
k1*((x-a)/(720-a-d))=(x'-a')/(270-a'-d')
k2*((y-b)/(1280-b-c))=(y'-b')/(360-b'-c')
转换后可以得到:
x'=a' k1*(270-a'-d')*((x-a)/(720-a-d))
y'=b' k2*(360-b'-c')*((y-b)/(1280-b-c))
其中,x'为第二人脸坐标的横坐标,y'为第二人脸坐标的纵坐标;x为第一人脸坐标的横坐标,y为第一人脸坐标的纵坐标;
a为热成像摄像头左侧视角盲区的宽度,b为热成像摄像头上方视角盲区的宽度,
c为热成像摄像头下方视角盲区的宽度,d为热成像摄像头右侧视角盲区的宽度,
a′为门禁摄像头左侧视角盲区的宽度,b′为门禁摄像头上方视角盲区的宽度,
c′为门禁摄像头下方视角盲区的宽度,d′为门禁摄像头右侧视角盲区的宽度,
k1,k2为常数。
根据以上内容,针对处于视场角重合区域中的人脸来说,由门禁设备识别出成像图上的人脸坐标之后,可以根据上述公式推导出热力图上的人脸坐标。
下文针对k1,k2的计算方式进行详细说明。
作为一个示例,上述视角盲区的各宽度a,b,c,d,a’,b’,c’,d’具体的值可以在目标物体的移动过程中通过photoshop测量得到。例如,使目标物体分别从左向右移动,从右向左移动,从上往下移动,从下往上移动,在上述过程中,采集若干帧rgb和ir图像,通过photoshop工具找到rgb和ir图像重叠区域,以此得到a,b,c,d,a′,b′,c′,d′的值。接着,让目标物体同时出现在rgb和ir图像里,通过photoshop查看该目标物体在成像图的像素坐标值(x,y)以及在热成像的像素坐标值(x’,y’)。
然后,将a,d,a′,d′x,x’的值带入以下公式,能够计算出k1的值:
k1*((x-a)/(720-a-d))=(x’-a’)/(270-a’-d’);
将b,c,b′,c′,y,y’的值带入以下公式,能够计算出k2的值:
k2*((y-b)/(1280-b-c))=(y’-b’)/(360-b’-c’)。
作为一个示例,在求a和a’的值时,首先在目标物体上选中一个目标点,使目标点在视场角中从左往右移动,当目标点到达视场角重合区域的起始点时采集图像(包括rgb和ir图像),使用画笔(例如photoshop)打开图像,画笔会报出此时目标点的坐标,例如在rgb图像上的像素坐标为(335,470),在本次采样中,a=335,a′=0;
采用同样的方法:
使目标点在视场角中从右往左移动,当目标点到达视场角重合区域的起始点时采集图像,根据采集的图像,例如得到d=93,d'=0
使目标点在视场角中从上往下移动,当目标点到达视场角重合区域的起始点时采集图像,根据采集的图像,例如得到b=0,b'=118
使目标点在视场角中从下往上移动,当目标点到达视场角重合区域的起始点时采集图像,根据采集的图像,例如得到c=0,c'=32。
作为一个示例,将得到的参数(包括a,b,c,d,a’,b’,c’,d’,k1,k2)保存到人脸识别门禁设备上,在有测温需求的时刻,检测出成像图上的第一人脸坐标,再通过上述公式计算出对应热力图上的第二人脸坐标,由于热力图上每个坐标(即像素点)都包含有温度信息,所以可以得到第二人脸坐标上的温度信息。因此,本申请实施例搭建了一种有红外测温功能的门禁应用场景,当门禁设备对人脸识别完成后,可以快速对人脸进行测温。
进一步的,为了减小数据误差,提高测温结果的准确性,在将第一人脸坐标带入预设的公式计算出热力图上的第二人脸坐标之后,根据第二人脸坐标,检索出热力图上人脸区域的最高温度点,该人脸区域可以根据第二人脸坐标得到;然后,以最高温度点为中心计算规定区域的平均温度以作为人体温度。
举例来说,在将第一人脸坐标带入预设的公式计算出热力图上的第二人脸坐标之后,根据第二人脸坐标,检索出热力图上人脸区域的最高温度点;以最高温度点为中心计算2*2像素区域的平均温度以作为人体温度的结果输出。
下文举出一个具体的例子以对本申请实施例做进步的描述。
图5是根据本申请实施例的包含测温步骤的流程示意图,如图5所示,该流程包括以下步骤:
步骤s501:同时开启门禁摄像头和热成像摄像头,门禁摄像头拍摄彩色的成像图,热成像摄像头是红外测温仪器的一个构件。
步骤s502:从门禁摄像头中取一帧成像图,将该成像图数据送给人脸检测算法模块检测。
步骤s503:人脸检测算法模块检测是否有人脸。
步骤s504:从人脸检测算法模块获取到人脸坐标后,根据预设的公式转换得到热成像的人脸坐标。
步骤s505:根据热成像的人脸坐标检索出人脸区域的最高温度点,以最高温度点为中心,计算2*2像素区域的平均温度以作为人体温度的结果输出。
综上所述,本申请实施例具有以下优势:通过较小的算力能快速定位到热力图上的人脸坐标,计算过程中cpu负载很小,门禁设备的识别画面流畅,能够保障用户良好的体验。
本申请实施例还提供一种门禁场景下确定热成像上人脸坐标的系统,图6是根据本申请实施例的门禁场景下确定热成像上人脸坐标的系统的结构框图,如图6所示,该系统包括门禁摄像头1、热成像摄像头2和计算模块3,门禁摄像头1用于拍摄成像图,热成像摄像头2用于拍摄热力图,计算模块3用于获取上述成像图和上述热力图;获取热成像摄像头2和门禁摄像头1视场角重合区域的第一人脸坐标,其中,该第一人脸坐标由门禁设备对成像图识别得到;将第一人脸坐标带入预设的公式计算出热力图上的第二人脸坐标。
优选的,本申请实施例中,可以将计算模块3设于门禁设备中,以提高整个系统的易用性。
作为一个示例,上述公式为:
x′=a′ k1*(270-a′-d′)*((x-a)/(720-a-d))
y′=b′ k2*(360-b′-c′)*((y-b)/(1280-b-c))
其中,x′为第二人脸坐标的横坐标,y′为第二人脸坐标的纵坐标;x为第一人脸坐标的横坐标,y为第一人脸坐标的纵坐标;
a为热成像摄像头2左侧视角盲区的宽度,b为热成像摄像头2上方视角盲区的宽度,
c为热成像摄像头2下方视角盲区的宽度,d为热成像摄像头2右侧视角盲区的宽度,
a′为门禁摄像头1左侧视角盲区的宽度,b′为门禁摄像头1上方视角盲区的宽度,
c′为门禁摄像头1下方视角盲区的宽度,d′为门禁摄像头1右侧视角盲区的宽度,
k1,k2为常数。
作为一个示例,视角盲区的各宽度是在目标物体的移动过程中通过photoshop测量得到。
作为一个示例,在将第一人脸坐标带入预设的公式计算出热力图上的第二人脸坐标之后,计算模块3还用于根据第二人脸坐标,检索出热力图上人脸区域的最高温度点;以最高温度点为中心,计算规定区域的平均温度以作为人体温度。
需要说明的是,本申请实施例中各个模块可以是功能模块也可以是程序模块,既可以通过软件来实现,也可以通过硬件来实现。对于通过硬件来实现的模块而言,各个模块可以位于同一处理器中;或者各个模块还可以按照任意组合的形式分别位于不同的处理器中。
另外,结合实施例中的一种门禁场景下确定热成像上人脸坐标的方法,本申请实施例可提供一种存储介质来实现。该存储介质上存储有计算机程序;该计算机程序被处理器执行时实现实施例中的任意一种门禁场景下确定热成像上人脸坐标的方法。
在一个实施例中,图7是根据本申请实施例的电子设备的内部结构示意图,如图7所示,提供了一种电子设备,该电子设备可以是服务器,其内部结构图可以如图7所示。该电子设备包括通过内部总线连接的处理器、网络接口、内存储器和非易失性存储器,其中,该非易失性存储器存储有操作系统、计算机程序和数据库。处理器用于提供计算和控制能力,网络接口用于与外部的终端通过网络连接通信,内存储器用于为操作系统和计算机程序的运行提供环境,计算机程序被处理器执行时以实现一种门禁场景下确定热成像上人脸坐标的方法,数据库用于存储数据。
本领域技术人员可以理解,图7中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的电子设备的限定,具体的电子设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,该计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(rom)、可编程rom(prom)、电可编程rom(eprom)、电可擦除可编程rom(eeprom)或闪存。易失性存储器可包括随机存取存储器(ram)或者外部高速缓冲存储器。作为说明而非局限,ram以多种形式可得,诸如静态ram(sram)、动态ram(dram)、同步dram(sdram)、双数据率sdram(ddrsdram)、增强型sdram(esdram)、同步链路(synchlink)dram(sldram)、存储器总线(rambus)直接ram(rdram)、直接存储器总线动态ram(drdram)、以及存储器总线动态ram(rdram)等。
本领域的技术人员应该明白,以上所述实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请专利的保护范围应以所附权利要求为准。