一种带回环检测的视网膜血管定位与建图的方法

专利2026-07-10  13


本发明涉及医学图像处理领域,特别涉及一种视网膜血管在动态环境下带回环检测的同步定位与建图方法。


背景技术:

1、眼内显微手术是一项复杂度和精确度要求十分高的眼科手术,如图1所示。常见的眼内显微手术包括玻璃体切除术、视网膜静脉血管插管术和视网膜静脉血管搭桥术等,外科医生需要经过多年的手术动作的训练和临床实践,克服生理性震颤对其手术操作的干扰,实现精确的眼内手术操作。近年来,高精度的手术辅助机器人在眼内显微手术中广泛使用。对视网膜血管进行精确的定位与建图有效地帮助了手术辅助机器人识别血管相对于仪器尖端的位置,为外科医生提供全方位的操作引导。

2、典型的基于监督学习的视网膜血管识别系统包括训练阶段和测试阶段两个阶段。在训练阶段利用图像分割方法进行可靠的血管提取,自动学习训练得到分类器,在测试阶段,基于已经训练好的分类器对新的图片进行分类判决。此类系统通常更注重血管识别的准确性,并不适合实时操作;在面对非均匀照明或手术工具遮挡等情况时,以及眼球快速的抖动运动下,此类系统视网膜眼底血管结构的检测变得困难,容易导致误判。

3、braun等人于2018年提出 “eyeslam”算法,该算法引入了一种动态地图机制,其能够根据场景变化自适应地调整大小,在地图更新过程中,算法会计算摄像机的当前视角,并对处于当前观测范围之外的栅格进行概率衰减处理。然而,eyeslam算法存在一些显著的不足:系统仅依赖相邻帧之间的关联进行位姿估计,误差会不可避免地累积到下一个时刻,系统累积误差会导致构建的地图和估计的轨迹逐渐偏离真实情况,特别是在长时间运行或大范围移动时,这种偏离会变得尤为显著,该系统缺乏有效的回环检测来减少这些误差。此外,随着eyeslam算法的动态地图的不断扩张,历史帧数据会不断积累,导致算法中描述的多分辨率搜索算法的计算量急剧上升,影响系统的响应速度。


技术实现思路

1、本发明的目的是提供一种带回环检测的视网膜血管定位与建图的方法,以解决现有算法存在的累积误差与计算量大等问题。

2、为了实现上述任务,本发明采用以下技术方案:

3、一种带回环检测的视网膜血管定位与建图的方法,包括:

4、通过显微镜视觉系统获取视网膜血管的图像帧,针对当前图像帧中的图像进行预处理,得到对应的灰度图像;利用线条网格来划分灰度图像并确定图像中的血管种子点,定义卷积模板用于计算模板响应;

5、在血管种子点处旋转卷积模板,计算每个旋转位置对应的模板响应,利用模板响应的最大值来确定初始方向用以开启血管追踪;

6、启动血管追踪,将血管走向的左右边缘位置的中点定义为血管中心点,相邻的血管中心点的连线为一段血管中心线;选择血管种子点作为初始位置,所述的初始方向为血管中心点的方向,在血管中心点的两侧应用卷积模板,利用两侧卷积模板所计算的最大响应值与血管中心线的距离,以及修正向量来预测下一血管中心点的位置;

7、对血管追踪得到的所有血管中心点进行有效性检测以进行误差剔除;

8、创建一个与灰度图像的像素相同且初始值为零的整数数组用来描述中心线图像,在血管追踪过程中,将每个新追踪到的血管中心点的像素在数组中标记为非零值,同时确定血管的交叉点,并记录血管中心点和交叉点的坐标;如血管追踪过程中出现交叉点或者满足预设灵敏度条件,则停止血管追踪;使用链表结构存储每一段血管中心线对应的血管中心点,完成血管的特征提取;

9、建立全局地图、全局坐标系、子图坐标系以及当前图像帧坐标系,确定当前图像帧中的血管中心点转换到子图坐标系下的转换矩阵;通过不断扫描匹配当前图像帧与子图坐标系来逐步完善和更新子图;扫描匹配的过程是找到当前图像帧与子图最匹配的一个位姿,使得当前图像帧的血管中心点通过转换矩阵投影到子图后,在子图中与已有的血管中心点最大程度地重合;进行当前图像帧与子图的扫描匹配,确定最大候选解;对最大候选解进行优化,得到最优位姿解,利用最优位姿解和转换矩阵将当前图像帧加入到子图中;

10、在子图更新过程中,通过预设的平移、旋转阈值筛选当前图像帧,并利用分支定界算法进行回环检测,同时进行全局位姿优化,经过全局位姿优化后的子图共同构成了全局地图。

11、进一步地,所述卷积模板定义为:

12、。

13、进一步地,所述模板响应为卷积模板与输入的灰度图像相交区域的元素的卷积,即把灰度图像每一个元素与其对应模板的值加权求和;

14、在旋转方向s上的右侧的卷积模板响应定义为,左侧的卷积模板响应定义为:

15、,

16、,

17、其中 n, m为卷积运算的坐标变量,表示模板的像素偏移量;表示图像数据在位置处的灰度值;和是旋转方向s上的右侧的卷积模板和左侧的卷积模板。

18、进一步地,所述利用模板响应的最大值来确定初始方向,包括:

19、在血管种子点处旋转卷积模板,分别计算卷积模板在每个旋转方向上的模板响应,筛选出模板响应最高的两个旋转方向,如这两个旋转方向满足相差180°±22.5°,则认为这两个旋转方向为初始方向,从初始方向开始开启血管追踪;如血管种子点不满足该条件,则舍弃该血管种子点。

20、进一步地,所述利用左右两侧卷积模板所计算的最大响应值与血管中心线的距离,以及修正向量来预测下一血管中心点的位置,包括:

21、在血管中心点处应用卷积模板,沿初始方向向左侧90度范围内按照固定间隔逆时针旋转卷积模板,沿方向向右侧90度范围内按照固定间隔顺时针旋转卷积模板,在每一侧的每个旋转位置计算对应的卷积模板响应;记右侧的模板响应和左侧的模板响应达到最大值时与血管中心线的距离分别为和,初始方向所对应的单位方向向量定义为:

22、,

23、其中为单位方向向量在x方向上的分量,单位方向向量在y方向上的分量,x,y分别为灰度图像x轴、y轴方向;

24、定义修正向量,用于根据左右边缘的位置对当前位置进行修正:

25、,

26、其中表示修正向量在x方向上的分量,表示修正向量在y方向上的分量;

27、遍历所有旋转方向上所有左侧卷积模板响应和右侧卷积模板响应,找到其中最大值所对应的卷积模板,该卷积模板的方向就是下一血管中心点方向;

28、预测下一血管中心点位置:

29、,

30、其中,和为在下一血管中心点方向上的修正向量和单位方向变量,表示步长。

31、进一步地,在血管追踪过程中,如果某个血管中心点的像素在数组中的值已被标记为非零值,说明该血管中心点的像素不是第一次被记录,此时认为当前的血管中心点为血管交叉点;

32、所述预设灵敏度条件为:

33、在血管追踪过程中,如某位置的左右两侧的所有旋转方向的卷积模板最大响应低于预设的灵敏度阈值b时,表示已跟踪到血管的尽头,则停止该血管的跟踪;其中,灵敏度阈值b通过以下公式来确定:

34、,

35、式中,是网格线上所有血管种子点的灰度平均值,是网格线所有行列方向上除血管种子点外其他点的平均灰度值,是取值范围为0到1的比例因子。

36、进一步地,所述进行当前图像帧与子图的扫描匹配,确定最大候选解,包括:

37、当前图像帧坐标系在子图坐标系的位姿定义为,其中代表平移量,代表旋转量;

38、搜索匹配时,使用上一帧的位姿作为当前帧的初始位姿估计值,将旋转量置于最外层搜索,两个平移量置于内层,当前图像帧根据不同的更新到子图中,把子图对所有状态概率值相加作为得分,并引入惩罚机制,其中离初始值越远的解受到更重的惩罚,得分最高的解为当前图像帧与子图最匹配的位姿解,称为最大候选解。

39、进一步地,对最大候选解进行优化,包括:

40、记当前图像帧中的血管中心点集合为, k为血管中心点的数量;把经过最大候选解对应的转换矩阵投影到子图下,当前图像帧的血管中心点与子图中已有的血管中心点对齐的问题转化成一个非线性最小二乘优化问题:

41、,

42、其中为当前图像帧坐标系在子图坐标系的位姿,是使用位姿将点从当前图像帧坐标系变换到子地图坐标系,为三次样条插值函数,是栅格的状态概率最大值。

43、进一步地,所述全局位姿优化包括:

44、首先把自变量定义所有待优化的变量,其中表示第i个子图在全局坐标系下的位姿,其中上角标m表示这一共有m个子图,表示第j个图像帧的在全局坐标系下的位姿,其中上角标n表示一共有m个图像帧,和通过把连续的子图和图像帧的位姿转换到相机视点起始位置获得;表示第j个图像帧加入第i个子图更新时位姿,对应最优位姿解;是信息矩阵,表示第j个图像帧加入第i个子图更新的质量,描述数据的可信度;

45、当检测到回环时,把作为约束加入优化中,定义误差为:

46、,

47、其中和分别表示子图和图像帧位姿中的平移量,表示子图坐标系在全局坐标系下的位姿变换矩阵,通过求逆得到的是全局坐标系相对于子图坐标系的位姿变换矩阵,因此表示图像帧在子图的位姿的平移量。和分别表示了图像帧和子图的旋转量;把定义的误差输入ceres优化器,使用ceres求解器进行全局优化,消除系统累计位姿误差,经过全局优化后的子图共同构成了全局地图。

48、与现有技术相比,本发明具有以下技术特点:

49、1.实时性与效率提升

50、引入子图与全局地图机制,使得当前图像帧仅需与子图进行特征匹配,而非全局地图,这大大加快了匹配速度,提升了算法的实时性。使用直接探索算法进行血管中心点特征提取,该算法只在血管所在的像素种子点开始探索,缩小了搜索范围。

51、2.全局地图的构建与应用

52、构建的视网膜血管全局地图可应用于手术辅助机器人重定位,为医疗领域提供了新的应用场景。本发明通过优化所有帧和子图的位姿,确保了全局地图的质量。

53、3.回环检测的引入

54、加入了回环检测机制,回环检测可以有效识别当前帧是否回到先前位置,从而消除累积误差,构建了全局约束,提高系统的收敛精度和鲁棒性。在长时间运行的手术器具尖端不断进出的动态环境中,以及眼球的快速抖动的运动情况,回环检测能够确保系统保持对血管脉络结构的准确识别。


技术特征:

1.一种带回环检测的视网膜血管定位与建图的方法,其特征在于,包括:

2.根据权利要求1所述的带回环检测的视网膜血管定位与建图的方法,其特征在于,所述模板响应为卷积模板与输入的灰度图像相交区域的元素的卷积,即把灰度图像每一个元素与其对应模板的值加权求和;

3.根据权利要求1所述的带回环检测的视网膜血管定位与建图的方法,其特征在于,所述利用模板响应的最大值来确定初始方向,包括:

4.根据权利要求1所述的带回环检测的视网膜血管定位与建图的方法,其特征在于,所述利用两侧卷积模板所计算的最大响应值与血管中心线的距离,以及修正向量来预测下一血管中心点的位置,包括:

5.根据权利要求1所述的带回环检测的视网膜血管定位与建图的方法,其特征在于,在血管追踪过程中,如果某个血管中心点的像素在数组中的值已被标记为非零值,说明该血管中心点的像素不是第一次被记录,此时认为当前的血管中心点为血管交叉点;

6.根据权利要求1所述的带回环检测的视网膜血管定位与建图的方法,其特征在于,所述进行当前图像帧与子图的扫描匹配,确定最大候选解,包括:

7.根据权利要求1所述的带回环检测的视网膜血管定位与建图的方法,其特征在于,对最大候选解进行优化,包括:

8.根据权利要求1所述的带回环检测的视网膜血管定位与建图的方法,其特征在于,所述全局位姿优化包括:


技术总结
本发明公开了一种带回环检测的视网膜血管定位与建图的方法,通过引入子图与全局地图机制,当前图像帧只与子图进行特征匹配,匹配速度更快;构建的视网膜血管全局地图可用于手术辅助机器人重定位,加入了回环检测提高了系统的收敛精度和鲁棒性,面对手术器具尖端不断进出的动态环境,系统也能保持血管脉络结构。该方法能有效解决现有算法存在的累积误差与计算量大等问题。

技术研发人员:罗宝才,赵乐乐,吴元清
受保护的技术使用者:广东工业大学
技术研发日:
技术公布日:2024/6/26
转载请注明原文地址:https://doc.8miu.com/read-1831300.html

最新回复(0)