本发明涉及非视域成像,尤其是一种基于fpga的非视域成像装置及成像方法。
背景技术:
1、非视域成像技术在如今某些特定应用场景下具有无法替代的作用,如自然灾害之后的对被遮挡目标的救援行动、军事行动中对被遮挡目标的跟踪和观测、对天然环境下被遮蔽目标的遥感图像绘制等,对于这些应用场景中无法直接捕捉到的光信息,非视域成像技术可以利用透射或者散射的部分光信息对目标对象的位置、形状等信息进行预测和重建。
2、现有的非视域成像装置及方法大多是通过coms图像传感器或者深度相机等对漫反射信息进行视频图像采集,将像素数据通过神经网络算法进行训练得到网络隐藏层参数和权重,依靠cpu指令和具有强大并行计算功能的gpu来进行后向传播和前向传播的交替神经网络算法的训练过程,最后根据采集到的图像得到预测图像信息,达到对被遮挡目标物体的捕捉成像效果。
3、上述技术虽然可以有效实现对视觉域外的目标物体的重建,但是由于现阶段非视域成像相关算法的硬件部署主要使用gpu,导致其使用场景有一定的限制,并不具备适应不同环境和随场景变化而调正相关参数的可调控性和便携性。此外,在前向传播输出预测结果时,保证一定的成像速率的前提下具有较高的功耗。
技术实现思路
1、本发明所要解决的技术问题在于,提供一种基于fpga的非视域成像装置及成像方法,提高了算法在硬件上部署的可调控性,提升了各类应用场景的适用性,降低了现有装置的功耗,优化了现有方法的成像速率以及改善了现有装置的便携性。
2、为解决上述技术问题,本发明提供一种基于fpga的非视域成像装置,包括:cmos图像传感器、fpga非视域成像系统、静态随机存储器件sram以及hdmi显示器;cmos图像传感器用于捕捉被遮挡目标物体的漫反射图像信息,fpga非视域成像系统用于处理捕捉到的图像信息,预测并重建目标物体的图像形成视频信息,随机存储器件sram用于存储前向传播预测结果数据,hdmi显示器用于成像显示。
3、优选的,fpga非视域成像系统包括iic接口模块、图像采集模块、w_fifo写入像素数据模块、ahb总线协议控制模块、r_fifo读出像素数据模块、非视域成像算法模块和显示驱动模块;iic接口模块用于配置和控制cmos图像传感器,图像采集模块用于采集捕捉到的视频图像信息,并将数据写入w_fifo写入像素数据模块,ahb总线协议控制模块用于控制多片sram,输出数据到非视域成像算法模块,非视域成像算法模块用于对存储器中采集到的图像信息进行前向传播,得到预测结果,并将预测结果存储到sram中,r_fifo读出像素数据模块用于缓冲数据,输出到显示驱动模块,用于缓冲数据,输出到显示驱动模块。
4、优选的,ahb总线协议控制模块包括ahb主机模块、ahb从机模块和内存地址管理模块;ahb主机模块向ahb从机模块传输读写控制、数据位宽、突发长度控制信号,通过ahb从机模块向sram传递写入地址信息,ahb从机模块对多片sram进行片选,传输地址、使能以及bank控制信号以及数据的读写,内存地址管理模块对多片sram的地址进行分配控制,实现sram的随机存储作用。
5、相应的,一种基于fpga的非视域成像方法,包括如下步骤:
6、步骤1、设计流水线级ahb总线协议模块的寄存器传输级硬件描述语言rtl,包括ahb主机模块、ahb从机模块和内存地址管理模块,使得能够控制多片sram;
7、步骤2、利用深度相机或coms图像传感器进行对被遮挡目标物体的图像采集,在gpu中使用搭建完善的非视域成像算法对图像进行后向传播计算训练,得到神经网络隐藏层参数;
8、步骤3、根据神经网络隐藏层参数设计非视域成像算法模块rtl;
9、步骤4、使用iic接口协议和相关参数控制cmos图像传感器,使用图像采集模块进行对被遮挡目标物体进行图像采集;
10、步骤5、使用显示驱动模块控制hdmi显示器;
11、步骤6、连接集成上述步骤提到的各个模块,建立基于fpga的非视域成像系统及装置;
12、步骤7、将采集到的图像数据输入非视域成像系统,通过非视域成像算法的前向传播计算模块,进行m次下采样和n次上采样过程,得到目标物体的预测重建图像;
13、步骤8、根据同一时间段下的gpu训练优化得到的参数,对fpga上的非视域成像算法模块中的前向传播参数进行即时调控,得到目标物体的预测重建图像。
14、优选的,步骤2中,非视域成像算法具体包括反卷积过程和卷积、归一化处理、池化操作,反卷积过程通过上采样模块完成,卷积、归一化处理、池化操作通过下采样模块完成。
15、优选的,步骤8中,对fpga上的非视域成像算法模块中的前向传播参数进行即时调控,得到目标物体的预测重建图像具体包括如下步骤:
16、步骤81、接收输入图像数据;
17、步骤82、量化步骤2中gpu的训练得到的神经网络参数;
18、步骤83、对上采样和下采样过程中的算法包括激活函数进行对应的rtl级设计;
19、步骤84、前向计算得到重建的预测图像。
20、本发明的有益效果为:(1)采用fpga搭建非视域成像系统,代替gpu前向传播过程,大大提升了非视域成像系统及装置的可调控性和即时调整性;(2)用rtl设计并在fpga上实现非视域成像算法的前向传播过程,以及使用ahb总线协议控制多片读写速度更快的静态随机存储器sram,显著提升了计算成像的速度;(3)采用fpga搭建非视域成像装置,相比较cpu和gpu更具便携性,能够明显降低功耗。
1.一种基于fpga的非视域成像装置,其特征在于,包括:cmos图像传感器、fpga非视域成像系统、静态随机存储器件sram以及hdmi显示器;cmos图像传感器用于捕捉被遮挡目标物体的漫反射图像信息,fpga非视域成像系统用于处理捕捉到的图像信息,预测并重建目标物体的图像形成视频信息,随机存储器件sram用于存储前向传播预测结果数据,hdmi显示器用于成像显示。
2.如权利要求1所述的基于fpga的非视域成像装置,其特征在于,fpga非视域成像系统包括iic接口模块、图像采集模块、w_fifo写入像素数据模块、ahb总线协议控制模块、r_fifo读出像素数据模块、非视域成像算法模块和显示驱动模块;iic接口模块用于配置和控制cmos图像传感器,图像采集模块用于采集捕捉到的视频图像信息,并将数据写入w_fifo写入像素数据模块,ahb总线协议控制模块用于控制多片sram,输出数据到非视域成像算法模块,非视域成像算法模块用于对存储器中采集到的图像信息进行前向传播,得到预测结果,并将预测结果存储到sram中,r_fifo读出像素数据模块用于缓冲数据,输出到显示驱动模块,用于缓冲数据,输出到显示驱动模块。
3.如权利要求2所述的基于fpga的非视域成像装置,其特征在于,ahb总线协议控制模块包括ahb主机模块、ahb从机模块和内存地址管理模块;ahb主机模块向ahb从机模块传输读写控制、数据位宽、突发长度控制信号,通过ahb从机模块向sram传递写入地址信息,ahb从机模块对多片sram进行片选,传输地址、使能以及bank控制信号以及数据的读写,内存地址管理模块对多片sram的地址进行分配控制,实现sram的随机存储作用。
4.一种应用于如权利要求1所述的基于fpga的非视域成像装置的成像方法,其特征在于,包括如下步骤:
5.如权利要求4所述的基于fpga的非视域成像方法,其特征在于,非视域成像算法具体包括反卷积过程和卷积、归一化处理、池化操作。
6.如权利要求5所述的基于fpga的非视域成像方法,其特征在于,反卷积过程通过上采样模块完成。
7.如权利要求5所述的基于fpga的非视域成像方法,其特征在于,卷积、归一化处理、池化操作通过下采样模块完成。
8.如权利要求4所述的基于fpga的非视域成像方法,其特征在于,步骤8中,对fpga上的非视域成像算法模块中的前向传播参数进行即时调控,得到目标物体的预测重建图像具体包括如下步骤:
