用于内窥镜的组织腔体定位方法、装置、介质及设备与流程

1.本公开涉及图像处理领域，具体地，涉及一种用于内窥镜的组织腔体定位方法、装置、介质及设备。


背景技术：

2.近年来由于深度学习的出现，人工智能技术得到了飞速的发展，在许多领域人工智能可以替代人类的工作，如执行重复性的繁琐的工作，可以大大减轻人类工作的负担。
3.在内窥镜检查，如肠镜检查通常分为进镜和退镜两个阶段，其中退镜为医生对病情的检查阶段，但进境往往需要花费医生更多的精力和时间，盲目的进镜可能导致损坏肠道粘膜，造成穿孔。相关技术中，可以通过自动化导航以节省进镜时间，节省医生工作量。相关技术中，然而进镜过程中可能存在很多复杂的情况，例如污物的遮挡、肠道的蠕动、不同人的不同肠道等，当肠腔不可见的情况下，通常需要医生参与自动化设备控制，通过医生人工控制将肠镜倒退一段距离，然后手动进镜。


技术实现要素：

4.提供该发明内容部分以便以简要的形式介绍构思，这些构思将在后面的具体实施方式部分被详细描述。该发明内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征，也不旨在用于限制所要求的保护的技术方案的范围。
5.第一方面，本公开提供一种用于内窥镜的组织腔体定位方法，所述方法包括：接收待识别的腔体图像序列，其中，所述腔体图像序列包含有多张连续的图像，所述腔体图像序列中的最后一张图像为内窥镜在其当前所处位置获得的；根据所述腔体图像序列和关键点识别模型，确定所述腔体图像序列对应的组织腔体相对于所述最后一张图像的目标方向点，其中，所述目标方向点用于指示所述内窥镜在其当前所处位置的下一目标移动方向；其中，所述关键点识别模型包括卷积子网络、时间循环子网络和解码子网络，所述卷积子网络用于获取所述腔体图像序列的空间特征，所述时间循环子网络用于获取所述腔体图像序列的时间特征，所述解码子网络用于基于所述空间特征和所述时间特征进行解码，以获得所述目标方向点。
6.第二方面，本公开提供一种用于内窥镜的组织腔体定位装置，所述装置包括：接收模块，用于接收待识别的腔体图像序列，其中，所述腔体图像序列包含有多张连续的图像，所述腔体图像序列中的最后一张图像为内窥镜在其当前所处位置获得的；第一确定模块，用于根据所述腔体图像序列和关键点识别模型，确定所述腔体图像序列对应的组织腔体相对于所述最后一张图像的目标方向点，其中，所述目标方向点用于指示所述内窥镜在其当前所处位置的下一目标移动方向；其中，所述关键点识别模型包括卷积子网络、时间循环子网络和解码子网络，所述卷积子网络用于获取所述腔体图像序列的空间特征，所述时间循环子网络用于获取所述腔
体图像序列的时间特征，所述解码子网络用于基于所述空间特征和所述时间特征进行解码，以获得所述目标方向点。
7.第三方面，本公开提供一种计算机可读介质，其上存储有计算机程序，该程序被处理装置执行时实现第一方面所述方法的步骤。
8.第四方面，提供一种电子设备，包括：存储装置，其上存储有计算机程序；处理装置，用于执行所述存储装置中的所述计算机程序，以实现第一方面所述方法的步骤。
9.通过上述技术方案，可以结合多张历史腔体图像对当前时刻下的组织腔体的目标方向点进行预测，并且在基于关键点识别模型进行方向预测的过程中，可以同时可以该多张腔体图像所包含的空间特征以及时间特征，一方面可以有效提高预测出的目标方向点的准确性，为内窥镜的自动进镜导航提供数据支持；另一方面可以使得该方法适用于更加复杂的体内环境，提高该组织腔体定位方法的适用范围。并且，通过上述技术方案，可以基于该腔体图像序列对组织腔体的移动方向进行预测，从而可以应用于从腔体图像中未识别出腔体中心点的场景，无需用户手动操作，提高内窥镜进镜的自动化水平，提升用户使用体验。
10.本公开的其他特征和优点将在随后的具体实施方式部分予以详细说明。
附图说明
11.结合附图并参考以下具体实施方式，本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中，相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的，原件和元素不一定按照比例绘制。在附图中：图1是根据本公开的实现方式提供的用于内窥镜的组织腔体定位方法的流程图；图2是根据本公开的实现方式提供的关键点识别模型的结构示意图；图3是根据本公开的实现方式提供的关键点识别模型进行训练的流程图；图4是标准的convlstm网络的示意图；图5是根据本公开的实现方式提供的用于内窥镜的组织腔体定位装置的框图；图6其示出了适于用来实现本公开实施例的电子设备的结构示意图。
具体实施方式
12.下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例，然而应当理解的是，本公开可以通过各种形式来实现，而且不应该被解释为限于这里阐述的实施例，相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是，本公开的附图及实施例仅用于示例性作用，并非用于限制本公开的保护范围。
13.应当理解，本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行，和/或并行执行。此外，方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。
14.本文使用的术语“包括”及其变形是开放性包括，即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”；术语“另一实施例”表示
“
至少一个另外的实施例”；术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。
15.需要注意，本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分，并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
16.需要注意，本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的，本领域技术人员应当理解，除非在上下文另有明确指出，否则应该理解为“一个或多个”。
17.本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的，而并不是用于对这些消息或信息的范围进行限制。
18.图1所示，为根据本公开的实现方式提供的用于内窥镜的组织腔体定位方法的流程图，如图1所示，所述方法包括：在步骤11中，接收待识别的腔体图像序列，其中，所述腔体图像序列包含有多张连续的图像，所述腔体图像序列中的最后一张图像为内窥镜在其当前所处位置获得的。
19.其中，在医疗内窥镜图像识别中，内窥镜在生物体，例如人体内部拍摄医疗内窥镜视频流。示例性的，在内窥镜的进镜过程即从人体与外界相通的腔道或者密闭体腔进入人体的目标位置的过程中进行图像拍摄，从而可以基于拍摄的图像或视频确定其当前所处的位置，以为其进镜过程提供导航。示例地，与外界相通的腔道可以是消化道、呼吸道等，密闭体腔可以是胸腔、腹腔等可以通过切口来送入内窥镜的腔体。
20.在该实施例中，可以对内窥镜移动过程中拍摄的视频流中的图像进行采样，从而可以获得该腔体图像序列，因此，可以基于内窥镜获得的最近的n张图像，预测n时刻下的移动方向，提高获得的移动方向的准确性。
21.在步骤12中，根据腔体图像序列和关键点识别模型，确定腔体图像序列对应的组织腔体相对于所述最后一张图像的目标方向点，其中，所述目标方向点用于指示所述内窥镜在其当前所处位置的下一目标移动方向。
22.其中，所述腔体图像序列对应的组织腔体即为该腔体图像序列中的显示图像应对应的组织腔体。示例地，该组织腔体可以为肠腔、胃腔等，以肠腔为例，在内窥镜进入肠腔后，其可以在其所述位置拍摄图像从而获得腔体图像序列，则其应对应的组织腔体即为肠腔。
23.以肠镜为例，肠镜的自动化导航主要是基于腔体图像确定出肠道中的肠腔，以使肠镜按照肠腔的方向进行移动，到达回盲区域完成进镜。而由于肠道的环境复杂，例如肠道的蠕动、不同肠段的不同外观等，以及肠道中污物的遮挡、肠道弯曲过大、肠壁黏连、镜头离肠壁过近等可能会导致当前拍摄到的腔体图像中看不到肠腔，从而无法确定肠镜的移动位置。因此，在本公开实施例中，组织腔体相对于所述最后一张图像的目标方向点为用于表示该组织腔体所处位置的方向的点，即若腔体图像序列中识别出该组织腔体，则该目标方向点可以是该组织腔体的中心点，即组织腔体内壁所包围空间截面的中心，若腔体图像序列未识别出组织腔体，则该目标方向点为预测出的组织腔体的中心点相对于最后一张腔体图像的相对位置点，表示内窥镜应该朝该目标方向点的方向偏移，以为内窥镜的前进提供方向引导。
24.其中，如图2所示，所述关键点识别模型包括卷积子网络101、时间循环子网络102和解码子网络103，所述卷积子网络101用于获取所述腔体图像序列im的空间特征，所述时
间循环子网络102用于获取所述腔体图像序列的时间特征，所述解码子网络103用于基于所述空间特征和所述时间特征进行解码，以获得所述目标方向点。
25.由此，通过上述技术方案，可以结合多张历史腔体图像对当前时刻下的组织腔体的目标方向点进行预测，并且在基于关键点识别模型进行方向预测的过程中，可以同时利用多张腔体图像所包含的空间特征以及时间特征，一方面可以有效提高预测出的目标方向点的准确性，为内窥镜的自动进镜导航提供数据支持；另一方面可以使得该方法适用于更加复杂的体内环境，提高该组织腔体定位方法的适用范围。并且，通过上述技术方案，可以基于该腔体图像序列对组织腔体的移动方向进行预测，从而可以应用于从腔体图像中未识别出腔体中心点的场景，无需用户手动操作，提高内窥镜进镜的自动化水平，提升用户使用体验。
26.在一种可能的实施例中，所述方法还可以包括：向所述内窥镜的驱动装置发送所述目标方向点，以使所述内窥镜向所述目标方向点移动；并重新返回执行所述接收待识别的腔体图像序列的步骤，直至所述内窥镜到达目标位置点。
27.其中，所述内窥镜的驱动装置用于控制所述内窥镜移动，可以采用本领域中常用的驱动装置，本公开对此不进行限定。在确定出目标方向点后，则可以控制该内窥镜向该目标方向点偏移，以使得内窥镜实现进镜移动。之后，则可以在内窥镜移动的过程中再次获取腔体图像，并结合历史腔体图像获得内窥镜移动后的当前位置对应的腔体图像序列，并通过上述步骤11和步骤12，进一步确定内窥镜的目标移动方向。
28.示例地，该目标位置点可以为根据检测部位确定出的目标位置点，如进行肠道检测时，该目标位置点可以为肠道中的回盲区域的位置点，从而在基于腔体图像序列确定到达该目标位置点时结束移动操作，实现内窥镜的自动进镜操作。
29.由此，通过上述技术方案，可以基于该目标方向点和驱动装置实现内窥镜的自动进镜导航，从而可以有效降低内窥镜进镜操作对检测人员的技术和经验要求，便于检测人员使用，提升用户使用体验。
30.为了使本领域技术人员能够更加理解本发明实施例提供的技术方案，下面对上述步骤及相关内容进行较为详细的说明。
31.在一种可能的实施例中，所述关键点识别模型可以通过如下方式进行训练，如图3所示，其可以包括以下步骤：在步骤21中，获取多组训练样本，其中，每组训练样本中包含训练图像序列以及与所述训练图像序列对应的标签图像。
32.其中，训练图像序列中包含的训练图像的数量可以根据实际使用场景进行限定，例如，该训练图像序列中可以包含5张训练图像，即可以基于最近的5张训练图像预测当前状态下的组织腔体的位置。其中，该训练图像序列对应的标签图像用于指示基于该多张图像预测出的最后一张图像中的腔体的方向点的位置。
33.在步骤22中，将目标输入图像序列输入卷积子网络，获得目标输入图像序列对应的空间特征图像，并将目标输入图像序列输入时间循环子网络，获得目标输入图像序列对应的时间特征图像，其中，所述目标输入图像序列包含所述训练图像序列。
34.其中，在该步骤中可以获取训练样本，将该训练样本中的训练图像序列输入卷积子网络，以通过该卷积子网络对该训练图像序列进行特征提取。示例地，该卷积子网络可以采用删除全连接层和池化层的resnet18网络结构。
35.示例地，该卷积子网络的输入可以为该训练图像序列中各个训练图像在通道维度上叠加的结果，如训练图像为rgb图像，则该训练图像可以表示为3通道的图像，因此，该卷积子网络的输入为3n通道维度的图像，其中n为训练图像序列中包含的训练图像的数量。之后，将该训练图像序列通过上述方式输入该卷积子网络，从而可以在该卷积子网络中同时对该n张训练图像进行体征提取。其中，在该卷积子网络中的每一层网络中都会基于n张训练图像进行特征融合处理，以获得该卷积子网络输出的空间特征图像。
36.并且，同时可以将该训练样本中的训练图像序列输入时间循环子网络，以通过该时间循环子网络对该训练图像序列进行特征提取。示例地，该时间循环子网络可以是lstm（long short
‑
term memory，长短期记忆）网络，在该时间循环子网络中，基于先后次序的关系每次只处理一张训练图像，即针对该训练图像中对应时间最早的训练图像，对该训练图像进行特征提取，获得特征图，之后可以基于该特征图与下一训练图像进行特征提取，进而获得下一特征图，即在该网络中每次只处理一张训练图像，在处理当前训练图像是，是基于历史的训练图像的特征图和当前训练图像进行处理，由此可以使得在图像特征提取的过程中，时间越晚的训练图像的特征权重越大，使得提取出的特征与当前时刻的特征更加匹配。
37.如图4所示，为标准的convlstm网络的示意图。其中x
t
代表t时刻的输入，h
(t
‑
1)
代表t
‑
1时刻的隐藏单元的输入，c
(t
‑
1)
代表该网络的主线记忆的输入，f
t
代表遗忘门输出，i
t
代表输入门输出，g
t
代表对主线记忆的补给，o
t
代表输出门的输出。在该示例中，lstm中可以统一使用3
×
3的卷积，padding为1，步长stride为1。输入通过h
(t
‑
1)
和x
t
的融合得到f
t
控制历史c
(t
‑
1)
的遗忘程度，通过i
t
为g
t
加权来确定该从该单元输入获得的信息量，通过o
t
来得到从主线记忆中获得的信息作为该单元的输出h
t
，其中的计算公式如下，其中
ϕ
代表tanh，σ代表sigmoid，w代表网络中的对应的卷积权重，ε代表网络平移量，
⊙
为矩阵对应元素相乘，对应的计算方式如下：在步骤23中，对空间特征图像和时间特征图像进行融合，获得融合特征图像。
38.其中可以通过concatenate函数对空间特征图像和时间特征图像进行特征拼接，从而获得该融合特征图像。
39.在步骤24中，将融合特征图像输入解码子网络，获得方向特征图像。
40.在一种可能的实施例中，所述解码子网络可以通过包含卷积块、自注意力模块和上采样模块的多个解码层实现。作为示例，向自注意力模块中输入该融合特征图，通过3个
1*1的卷积核f(x)、g(x)、h(x)进行变换。其中经过f(x)的特征图m1通过转置得到特征图m1’，和通过g(x)的特征图m2进行矩阵乘法计算获得特征相关性表示，之后可以基于softmax将特征相关性表示映射为0~1的概率形式得出概率矩阵p，最后将该概率矩阵p和经过h(x)的特征图m3进行矩阵乘法获得自注意力模块输出的特征图s。
41.之后将该特征图s通过卷积块convblock进行卷积操作，以改变该特征图s的通道数，并将进行卷积操作后获得的特征图输入到上采样模块upsample中进行上采样。在对输入的特征图上采样后，得到输出的特征图u。之后，基于该特征图u进行下一解码层的处理，其计算方式与上文所述类型，在此不再赘述。经过最后一层解码层的输出，获得与原始图像尺寸相同的特征图，即该方向特征图像。
42.在步骤25中，根据方向特征图像和目标输入图像序列对应的标签图像，确定关键点识别模型的目标损失。
43.其中，可以基于该方向特征图像和输入的训练图像序列对应的标签图像，计算均方误差（mse）以获得该目标损失。其中，该均方误差的计算方式为本领域中的常用方式，在此不再赘述。
44.在步骤26中，在满足更新条件的情况下，根据所述目标损失对所述关键点识别模型的参数进行更新。
45.作为示例，该更新条件可以为目标损失大于预设的损失阈值，此时表示关键点识别模型的识别准确性不足。作为另一示例，该更新条件可以是迭代次数小于预设的次数阈值，此时认为关键点识别模型迭代次数较少，其识别准确性不足。
46.相应地，在满足更新条件的情况下，可以根据该目标损失对关键点识别模型的参数进行更新。其中，基于确定出的目标损失对参数进行更新的方式可以采用本领域中常用的更新方式，在此不再赘述。
47.在不满足该更新条件的情况下，则可以认为该关键点识别模型的识别精确性达到训练要求，此时可以停止训练过程，获得训练完成的关键点识别模型。
48.由此，通过上述技术方案，可以基于训练图像序列对关键点识别模型进行训练，从而使得在该关键点识别模型中可以结合多张训练图像对应的空间特征，同时还可以结合该多张训练图像基于时间序列的关系进行预测，提高该关键点识别模型的识别准确性，使得该组织腔体定位方法可以适用于更复杂更广泛的应用场景。同时在该训练过程中，可以基于时间次序进行特征提取，使得该序列化数据特征提取更加符合人类主观认知，贴合用户本身的识别经验，从而可以在一定程度上进一步保证预测出的方向点的准确性，为内窥镜的移动进行准确导航提供数据支持。
49.相应地，在步骤12中，根据腔体图像序列和关键点识别模型，确定腔体图像序列对应的组织腔体相对于所述最后一张图像的目标方向点，可以包括：将所述腔体图像序列输入所述关键点识别模型，获得所述关键点识别模型输出的方向特征图像，并将所述方向特征图像中对应特征值最大的点确定为所述目标方向点。
50.由此，可以基于该关键点识别模型输出的特征快速且准确地确定出腔体图像序列对应的目标方向点，以为内窥镜的自动导航提供移动方向的引导。
51.在一种可能的实施例中，所述目标输入图像序列还包括处理图像序列，所述处理图像序列为基于所述训练图像序列进行预处理所得的图像序列，所述处理图像序列对应的
标签图像为对所述训练图像序列对应的标签图像进行相同的预处理所得的图像。
52.示例地，该示例地，该预处理方式可以是数据增强，例如可以是颜色、亮度、色度、饱和度变换、以及仿射变换等。
53.作为示例，为了提高图像处理的准确性，可以在进行数据增强之前对训练图像进行标准化处理，即将该训练图像标准化至预设尺寸，以便于对训练图像的标准化处理。
54.相应地，在该实施例中可以通过对训练图像序列中的训练图像进行预处理，从而对该训练图像序列进行变换，获得处理图像序列，以增加训练样本的多样性，可以有效提高训练所得的关键点识别模型的泛化性，使得该组织腔体定位方法可以适用于更复杂更广泛的应用场景。在本公开实施例中，为了保证训练图像序列和标签图像的一致性，可以基于相同的预处理方式对标签图像进行变换，从而获得处理图像序列对应的标签图像，进而基于该处理后所得的标签图像对处理图像序列对应的输出图像进行预测误差的识别，从而可以进一步提高训练图像的多样性，在一定程度上提高关键点识别模型的训练效率，提高该关键点识别模型的稳定性，为内窥镜的进镜导航提供准确的数据支持。
55.在一种可能的实施例中，根据方向特征图像和目标输入图像序列对应的标签图像，确定关键点识别模型的目标损失的示例性实现方式如下，该步骤可以包括：根据所述标签图像中各点与所述标签图像中的标注方向点的位置，将所述标签图像转换为高斯特征图，其中，所述标签图像中的标注方向点即该训练图像序列中的组织腔体的方向点。
56.其中，该标签图像中该标注方向点为数量为一个，其余位置特征值为0，而在解码子网络输出的方向特征图像为全0的图像时，则会使得该方向特征图像与标签图像之间的目标损失较小，不便于模型的参数更新。因此，在本公开实施例中，可以对标签图像进行处理，通过该标签图像中各点与所述标签图像中的标注方向点的位置的关系，将该标签图像转换为高斯特征图，其中，标签图像中的点与标注方向点越远，则该点的高斯特征值越小。
57.示例地，通过以下公式根据所述标签图像中各点与所述标签图像中的标注方向点的位置，将所述标签图像转换为高斯特征图：征图：用于表示高斯特征图中坐标的特征值；用于表示所述标签图像中的元素坐标值；用于表示所述标签图像中标注方向点的坐标值；用于表示高斯变换的超参数，其中该超参数的取值可以基于实际应用场景进行设置，本公开对此不进行限定。
58.由此，可以使得标签图像中的非标注方向点的各点也可以通过特征值进行表征，为后续准确计算模型预测的目标损失提供数据支持。
59.根据所述方向特征图像和所述高斯特征图，确定所述目标损失。
60.示例地，可以基于该方向特征图像和该高斯特征图计算均方误差（mse）以获得该目标损失。
61.由此，通过上述技术方案，在确定目标损失时，可以通过将标签图像转化成高斯图像进行计算，从而可以保证确定出的目标损失的准确性，以保证对关键点识别模型的参数调整的准确性，提高该模型训练的效率，同时可以提高基于训练完成的关键点识别模型对待识别的腔体图像序列进行方向点预测的准确性，为内窥镜的进镜导航提供决策数据。
62.可选地，所述解码子网络包含多层特征解码网络，每层特征解码网络输出的特征图尺寸不同；所述根据所述方向特征图像和所述目标输入图像序列对应的标签图像，确定所述关键点识别模型的目标损失的示例性实现方式如下，该步骤可以包括：针对每层特征解码网络，对该层特征解码网络输出的特征图或该标签图像进行标准化处理，以获得该层特征解码网络对应的尺寸相同的目标特征图和目标标签图像。
63.其中，在对输入的图像序列进行特征提取编码的过程中，通常是采用增加通道数并降低特征图的宽和高的方式进行编码的，因此，在基于该多层特征解码网络进行解码的过程中，通常是降低通道数并增加特征图的宽和高的方式，以使得最终输出的特征图与原始输入图像的尺寸相同。
64.作为示例，可以对每层特征解码网络输出的特征图进行标准化处理，以将每层输出的特征图标准化至与标签图像的尺寸相同的特征图，则可以将每层进行标准化处理后所得的特征图作为该层对应的目标特征图，并将该标签图像确定为目标标签图像。
65.作为另一示例，可以对标签图像进行标准化处理。如，针对每层特征处理网络，将该标签图像标准化为该层特征解码网络输出的特征图尺寸相同的标签图像，则可以将每层进行标准化处理后所得的标签图像作为该层对应的目标标签图像，并将该层输出的特征图确定为目标特征图。
66.其中，需要说明的是，针对每层特征处理网络其进行标准化处理的对象相同，即每层均对标签图像进行标准化处理，获得每层均对特征图进行标准化处理。
67.针对每层特征解码网络，根据该层特征解码网络对应的目标特征图与所述目标标签图像，确定该层特征解码网络对应的损失。其中，计算损失的方式与上文所述损失计算方式类似，在此不再赘述。由此，可以在解码的过程中关注该解码子网络中每一层预测的组织腔体的目标方向点的准确性，以提高最终确定出的目标方向点的准确性。
68.根据每层特征解码网络对应的损失确定所述关键点识别模型的目标损失。
69.其中，可以将每层特征解码网络对应的损失之和确定为目标损失，也可以将每层特征解码网络对应的损失的平均值确定出该目标损失，可以根据实际使用场景进行设置。
70.通过上述技术方案，可以对该解码子网络中的每一层特征解码网络输出的特征图进行损失计算，从而可以结合每层对应的损失确定该关键点识别模型的目标损失，一方面可以基于多尺度的预测提高确定出的目标损失的准确性，另一方面可以提高基于该目标损失进行模型参数调整的效率和准确性，从而提高关键点识别模型的训练效率。并且可以针对解码子网络中的每一层特征解码网络的预测准确性进行提高，在一定程度上避免多层解码特征网络对应的解码误差累计，进一步提高该关键点识别模型的识别准确率，保证内窥镜的进镜导航。
71.本公开还提供一种用于内窥镜的组织腔体定位装置，如图5所示，所述装置50包括：
接收模块51，用于接收待识别的腔体图像序列，其中，所述腔体图像序列包含有多张连续的图像，所述腔体图像序列中的最后一张图像为内窥镜在其当前所处位置获得的；第一确定模块52，用于根据所述腔体图像序列和关键点识别模型，确定所述腔体图像序列对应的组织腔体相对于所述最后一张图像的目标方向点，其中，所述目标方向点用于指示所述内窥镜在其当前所处位置的下一目标移动方向；其中，所述关键点识别模型包括卷积子网络、时间循环子网络和解码子网络，所述卷积子网络用于获取所述腔体图像序列的空间特征，所述时间循环子网络用于获取所述腔体图像序列的时间特征，所述解码子网络用于基于所述空间特征和所述时间特征进行解码，以获得所述目标方向点。
72.可选地，所述关键点识别模型通过训练装置进行训练，所述训练装置包括：获取模块，用于获取多组训练样本，其中，每组训练样本中包含训练图像序列以及与所述训练图像序列对应的标签图像；第一处理模块，用于将目标输入图像序列输入所述卷积子网络，获得所述目标输入图像序列对应的空间特征图像，并将所述目标输入图像序列输入所述时间循环子网络，获得所述目标输入图像序列对应的时间特征图像，其中，所述目标输入图像序列包含所述训练图像序列；融合模块，用于对所述空间特征图像和所述时间特征图像进行融合，获得融合特征图像；第二处理模块，用于将所述融合特征图像输入所述解码子网络，获得方向特征图像；第二确定模块，用于根据所述方向特征图像和所述目标输入图像序列对应的标签图像，确定所述关键点识别模型的目标损失；更新模块，用于在满足更新条件的情况下，根据所述目标损失对所述关键点识别模型的参数进行更新。
73.可选地，所述目标输入图像序列还包括处理图像序列，所述处理图像序列为基于所述训练图像序列进行预处理所得的图像序列，所述处理图像序列对应的标签图像为对所述训练图像序列对应的标签图像进行相同的预处理所得的图像。
74.可选地，所述第二确定模块包括：转换子模块，用于根据所述标签图像中各点与所述标签图像中的标注方向点的位置，将所述标签图像转换为高斯特征图；第一确定子模块，用于根据所述方向特征图像和所述高斯特征图，确定所述目标损失。
75.可选地，通过以下公式根据所述标签图像中各点与所述标签图像中的标注方向点的位置，将所述标签图像转换为高斯特征图：征图：用于表示高斯特征图中坐标的特征值；用于表示所述标签图像中的元素坐标值；
用于表示所述标签图像中标注方向点的坐标值；用于表示高斯变换的超参数。
76.可选地，所述解码子网络包含多层特征解码网络，每层特征解码网络输出的特征图尺寸不同；所述第二确定模块包括：处理子模块，用于针对每层特征解码网络，对该层特征解码网络输出的特征图或该标签图像进行标准化处理，以获得该层特征解码网络对应的尺寸相同的目标特征图和目标标签图像；第二确定子模块，用于针对每层特征解码网络，根据该层特征解码网络对应的目标特征图与所述目标标签图像，确定该层特征解码网络对应的损失；第三确定子模块，用于根据每层特征解码网络对应的损失确定所述关键点识别模型的目标损失。
77.可选地，所述装置还包括：发送模块，用于向所述内窥镜的驱动装置发送所述目标方向点，以使所述内窥镜向所述目标方向点移动，并触发所述接收模块接收待识别的腔体图像序列，直至所述内窥镜到达目标位置点。
78.下面参考图6，其示出了适于用来实现本公开实施例的电子设备600的结构示意图。本公开实施例中的终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、pda（个人数字助理）、pad（平板电脑）、pmp（便携式多媒体播放器）、车载终端（例如车载导航终端）等等的移动终端以及诸如数字tv、台式计算机等等的固定终端。图6示出的电子设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。
79.如图6所示，电子设备600可以包括处理装置（例如中央处理器、图形处理器等）601，其可以根据存储在只读存储器（rom）602中的程序或者从存储装置608加载到随机访问存储器（ram）603中的程序而执行各种适当的动作和处理。在ram 603中，还存储有电子设备600操作所需的各种程序和数据。处理装置601、rom 602以及ram 603通过总线604彼此相连。输入/输出（i/o）接口605也连接至总线604。
80.通常，以下装置可以连接至i/o接口605：包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置606；包括例如液晶显示器（lcd）、扬声器、振动器等的输出装置607；包括例如磁带、硬盘等的存储装置608；以及通信装置609。通信装置609可以允许电子设备600与其他设备进行无线或有线通信以交换数据。虽然图6示出了具有各种装置的电子设备600，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
81.特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在非暂态计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信装置609从网络上被下载和安装，或者从存储装置608被安装，或者从rom 602被安装。在该计算机程序被处理装置601执行时，执行本公开实施例的方法中限定的上述功能。
82.需要说明的是，本公开上述的计算机可读介质可以是计算机可读信号介质或者计
算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器（ram）、只读存储器（rom）、可擦式可编程只读存储器（eprom或闪存）、光纤、便携式紧凑磁盘只读存储器（cd
‑
rom）、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、rf（射频）等等，或者上述的任意合适的组合。
83.在一些实施方式中，客户端、服务器可以利用诸如http（hypertext transfer protocol，超文本传输协议）之类的任何当前已知或未来研发的网络协议进行通信，并且可以与任意形式或介质的数字数据通信（例如，通信网络）互连。通信网络的示例包括局域网（“lan”），广域网（“wan”），网际网（例如，互联网）以及端对端网络（例如，ad hoc端对端网络），以及任何当前已知或未来研发的网络。
84.上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。
85.上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：接收待识别的腔体图像序列，其中，所述腔体图像序列包含有多张连续的图像，所述腔体图像序列中的最后一张图像为内窥镜在其当前所处位置获得的；根据所述腔体图像序列和关键点识别模型，确定所述腔体图像序列对应的组织腔体相对于所述最后一张图像的目标方向点，其中，所述目标方向点用于指示所述内窥镜在其当前所处位置的下一目标移动方向；其中，所述关键点识别模型包括卷积子网络、时间循环子网络和解码子网络，所述卷积子网络用于获取所述腔体图像序列的空间特征，所述时间循环子网络用于获取所述腔体图像序列的时间特征，所述解码子网络用于基于所述空间特征和所述时间特征进行解码，以获得所述目标方向点。
86.可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码，上述程序设计语言包括但不限于面向对象的程序设计语言—诸如java、smalltalk、c ，还包括常规的过程式程序设计语言——诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网（lan）或广域网（wan）——连接到用户计算机，或者，可以连接到外部计算机（例如利用因特网服务提供商来通过因特网连接）。
87.附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程
序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
88.描述于本公开实施例中所涉及到的模块可以通过软件的方式实现，也可以通过硬件的方式来实现。其中，模块的名称在某种情况下并不构成对该模块本身的限定，例如，接收模块还可以被描述为“接收待识别的腔体图像序列的模块”。
89.本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：现场可编程门阵列（fpga）、专用集成电路（asic）、专用标准产品（assp）、片上系统（soc）、复杂可编程逻辑设备（cpld）等等。
90.在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器（ram）、只读存储器（rom）、可擦除可编程只读存储器（eprom或快闪存储器）、光纤、便捷式紧凑盘只读存储器（cd
‑
rom）、光学储存设备、磁储存设备、或上述内容的任何合适组合。
91.根据本公开的一个或多个实施例，示例1提供了一种用于内窥镜的组织腔体定位方法，其中，所述方法包括：接收待识别的腔体图像序列，其中，所述腔体图像序列包含有多张连续的图像，所述腔体图像序列中的最后一张图像为内窥镜在其当前所处位置获得的；根据所述腔体图像序列和关键点识别模型，确定所述腔体图像序列对应的组织腔体相对于所述最后一张图像的目标方向点，其中，所述目标方向点用于指示所述内窥镜在其当前所处位置的下一目标移动方向；其中，所述关键点识别模型包括卷积子网络、时间循环子网络和解码子网络，所述卷积子网络用于获取所述腔体图像序列的空间特征，所述时间循环子网络用于获取所述腔体图像序列的时间特征，所述解码子网络用于基于所述空间特征和所述时间特征进行解码，以获得所述目标方向点。
92.根据本公开的一个或多个实施例，示例2提供了示例1的方法，其中，所述关键点识别模型通过如下方式进行训练：获取多组训练样本，其中，每组训练样本中包含训练图像序列以及与所述训练图像序列对应的标签图像；将目标输入图像序列输入所述卷积子网络，获得所述目标输入图像序列对应的空
间特征图像，并将所述目标输入图像序列输入所述时间循环子网络，获得所述目标输入图像序列对应的时间特征图像，其中，所述目标输入图像序列包含所述训练图像序列；对所述空间特征图像和所述时间特征图像进行融合，获得融合特征图像；将所述融合特征图像输入所述解码子网络，获得方向特征图像；根据所述方向特征图像和所述目标输入图像序列对应的标签图像，确定所述关键点识别模型的目标损失；在满足更新条件的情况下，根据所述目标损失对所述关键点识别模型的参数进行更新。
93.根据本公开的一个或多个实施例，示例3提供了示例2的方法，其中，所述目标输入图像序列还包括处理图像序列，所述处理图像序列为基于所述训练图像序列进行预处理所得的图像序列，所述处理图像序列对应的标签图像为对所述训练图像序列对应的标签图像进行相同的预处理所得的图像。
94.根据本公开的一个或多个实施例，示例4提供了示例2的方法，其中，所述根据所述方向特征图像和所述目标输入图像序列对应的标签图像，确定所述关键点识别模型的目标损失，包括：根据所述标签图像中各点与所述标签图像中的标注方向点的位置，将所述标签图像转换为高斯特征图；根据所述方向特征图像和所述高斯特征图，确定所述目标损失。
95.根据本公开的一个或多个实施例，示例5提供了示例4的方法，其中，通过以下公式根据所述标签图像中各点与所述标签图像中的标注方向点的位置，将所述标签图像转换为高斯特征图：征图：用于表示高斯特征图中坐标的特征值；用于表示所述标签图像中的元素坐标值；用于表示所述标签图像中标注方向点的坐标值；用于表示高斯变换的超参数。
96.根据本公开的一个或多个实施例，示例6提供了示例2的方法，其中，所述解码子网络包含多层特征解码网络，每层特征解码网络输出的特征图尺寸不同；所述根据所述方向特征图像和所述目标输入图像序列对应的标签图像，确定所述关键点识别模型的目标损失，包括：针对每层特征解码网络，对该层特征解码网络输出的特征图或该标签图像进行标准化处理，以获得该层特征解码网络对应的尺寸相同的目标特征图和目标标签图像；针对每层特征解码网络，根据该层特征解码网络对应的目标特征图与所述目标标签图像，确定该层特征解码网络对应的损失；根据每层特征解码网络对应的损失确定所述关键点识别模型的目标损失。
97.根据本公开的一个或多个实施例，示例7提供了示例1的方法，其中，所述方法还包
括：向所述内窥镜的驱动装置发送所述目标方向点，以使所述内窥镜向所述目标方向点移动；并重新返回执行所述接收待识别的腔体图像序列的步骤，直至所述内窥镜到达目标位置点。
98.根据本公开的一个或多个实施例，示例8提供了一种用于内窥镜的组织腔体定位装置，其中，所述装置包括：接收模块，用于接收待识别的腔体图像序列，其中，所述腔体图像序列包含有多张连续的图像，所述腔体图像序列中的最后一张图像为内窥镜在其当前所处位置获得的；第一确定模块，用于根据所述腔体图像序列和关键点识别模型，确定腔体图像序列对应的组织腔体相对于所述最后一张图像的目标方向点，其中，所述目标方向点用于指示所述内窥镜在其当前所处位置的下一目标移动方向；其中，所述关键点识别模型包括卷积子网络、时间循环子网络和解码子网络，所述卷积子网络用于获取所述腔体图像序列的空间特征，所述时间循环子网络用于获取所述腔体图像序列的时间特征，所述解码子网络用于基于所述空间特征和所述时间特征进行解码，以获得所述目标方向点。
99.根据本公开的一个或多个实施例，示例9提供了一种计算机可读介质，其上存储有计算机程序，其中，该程序被处理装置执行时实现示例1
‑
7中任一示例所述方法的步骤。
100.根据本公开的一个或多个实施例，示例10提供了一种电子设备，其中，包括：存储装置，其上存储有计算机程序；处理装置，用于执行所述存储装置中的所述计算机程序，以实现示例1
‑
7中任一示例所述方法的步骤。
101.以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开中所涉及的公开范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述公开构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的（但不限于）具有类似功能的技术特征进行互相替换而形成的技术方案。
102.此外，虽然采用特定次序描绘了各操作，但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下，多任务和并行处理可能是有利的。同样地，虽然在上面论述中包含了若干具体实现细节，但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地，在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
103.尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题，但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反，上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。关于上述实施例中的装置，其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述，此处将不做详细阐述说明。