CN118968206A - 关键点检测方法、装置、设备、存储介质和程序产品 - Google Patents
关键点检测方法、装置、设备、存储介质和程序产品 Download PDFInfo
- Publication number
- CN118968206A CN118968206A CN202411204109.7A CN202411204109A CN118968206A CN 118968206 A CN118968206 A CN 118968206A CN 202411204109 A CN202411204109 A CN 202411204109A CN 118968206 A CN118968206 A CN 118968206A
- Authority
- CN
- China
- Prior art keywords
- key points
- medical image
- key point
- probability
- key
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/771—Feature selection, e.g. selecting representative features from a multi-dimensional feature space
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/54—Extraction of image or video features relating to texture
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- Evolutionary Computation (AREA)
- Software Systems (AREA)
- Quality & Reliability (AREA)
- Radiology & Medical Imaging (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Image Analysis (AREA)
Abstract
本申请涉及一种关键点检测方法、装置、设备、存储介质和程序产品。该方法包括:获取目标部位的医学图像和目标部位中参考关键点之间的拓扑关系;将医学图像和参考关键点之间的拓扑关系输入至预设的关键点检测模型中,基于参考关键点之间的拓扑关系识别医学图像中多个关键点,得到医学图像中多个关键点的坐标信息。采用本方法能够提高关键点检测的准确度。
Description
技术领域
本申请涉及图像处理技术领域,特别是涉及一种关键点检测方法、装置、设备、存储介质和程序产品。
背景技术
随着人工智能技术的不断发展,医学图像的处理过程也越来越朝着智能化的方向发展。
相关技术中,在对医学图像进行关键点检测时,通常是医生利用自己的经验对医学图像进行观测,将最有可能出现关键点的位置标注为关键点。
然而,相关技术的方法存在关键点检测的准确度较低的问题。
发明内容
基于此,有必要针对上述技术问题,提供一种关键点检测方法、装置、设备、存储介质和程序产品,能够提高关键点检测的准确度。
第一方面,本申请提供了一种关键点检测方法,该方法包括:
获取目标部位的医学图像和目标部位中参考关键点之间的拓扑关系;
将医学图像和参考关键点之间的拓扑关系输入至预设的关键点检测模型中,基于参考关键点之间的拓扑关系识别医学图像中多个关键点,得到医学图像中多个关键点的坐标信息。
在其中一个实施例中,关键点检测模型包括特征识别模型、第一调整模型和第二调整模型,基于参考关键点之间的拓扑关系识别医学图像中多个关键点,获得医学图像中多个关键点的坐标信息,包括:
利用特征识别模型提取医学图像的纹理特征信息和像素点概率图;像素点概率图中的概率表示像素点是关键点的概率;
利用第一调整模型对纹理特征信息和像素点概率图进行分析,获取医学图像中多个关键点的初始坐标信息;
通过参考关键点之间的拓扑关系和第二调整模型,对各初始坐标信息进行调整,得到各关键点的坐标信息。
在其中一个实施例中,利用第一调整模型对纹理特征信息和像素点概率图进行分析,获取医学图像中多个关键点的初始坐标信息,包括:
根据像素点概率图和预设的概率阈值,获取医学图像中的多个关键点;
将各关键点在医学图像中的位置和对应的偏移值作为各关键点的坐标特征信息;
基于各坐标特征信息和各纹理特征信息,对像素点概率图进行更新,并从更新后的像素点概率图中提取各关键点的初始坐标信息。
在其中一个实施例中,通过参考关键点之间的拓扑关系和第二调整模型,对各初始坐标信息进行调整,得到各关键点的坐标信息,包括:
基于各关键点的特征信息获取任意两个参考关键点之间的权重;
将任意两个参考关键点的拓扑关系与对应的权重的乘积作为拓扑关系概率图;
从拓扑关系概率图中提取每一个像素点的概率,并将大于预设的概率阈值的像素点的坐标信息作为各关键点的坐标信息。
在其中一个实施例中,基于各关键点的特征信息获取任意两个参考关键点之间的权重,包括:
针对任意两个参考关键点,获取两个参考关键点的初始权重;
利用两个参考关键点的特征信息对初始权重进行调整,得到参考关键点的权重。
在其中一个实施例中,关键点检测模型的训练过程包括:
获取目标部位的样本医学图像、参考关键点之间的样本拓扑关系和对应的多个关键点的坐标信息;
将样本医学图像和样本拓扑关系输入至初始关键点检测模型中,得到多个关键点的预测坐标信息;
基于多个关键点的预测坐标信息对初始关键点检测模型的参数进行调整,得到关键点检测模型。
第二方面,本申请还提供了一种关键点检测装置,该装置包括:
获取模块,用于获取目标部位的医学图像和目标部位中参考关键点之间的拓扑关系;
识别模块,用于将医学图像和参考关键点之间的拓扑关系输入至预设的关键点检测模型中,基于参考关键点之间的拓扑关系识别医学图像中多个关键点,得到医学图像中多个关键点的坐标信息。
第三方面,本申请还提供了一种计算机设备。计算机设备包括存储器和处理器,存储器存储有计算机程序,处理器执行计算机程序时实现上述第一方面中关键点检测方法的任意一项实施例的内容。
第四方面,本申请还提供了一种计算机可读存储介质。计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现上述第一方面中关键点检测方法的任意一项实施例的内容。
第五方面,本申请还提供了一种计算机程序产品。计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现上述第一方面中关键点检测方法的任意一项实施例的内容。
上述关键点检测方法、装置、设备、存储介质和程序产品,获取目标部位的医学图像和目标部位中参考关键点之间的拓扑关系;将医学图像和参考关键点之间的拓扑关系输入至预设的关键点检测模型中,基于参考关键点之间的拓扑关系识别医学图像中多个关键点,得到医学图像中多个关键点的坐标信息。该方法在对医学图像的关键点进行检测的过程中,引入了参考关键点之间的拓扑关系,该拓扑关系是一个参考关键点与其他参考关键点的连接关系,也就是说,检测过程中不仅考虑到关键点自身的特征信息,也考虑到了周围的关键点的影响,这样,关键点的检测过程考虑的特征更加全面,得到的关键点的检测结果也会更准确。
附图说明
图1为一个实施例中关键点检测方法的应用环境图;
图2为一个实施例中关键点检测方法的流程示意图;
图3为一个实施例中医学图像的示意图;
图4为一个实施例中参考关键点之间的拓扑关系的示意图;
图5为一个实施例中关键点检测方法的流程示意图;
图6为一个实施例中医学图像中多个关键点的示意图;
图7为一个实施例中关键点检测方法的流程示意图;
图8为一个实施例中关键点检测方法的流程示意图;
图9为一个实施例中关键点检测方法的流程示意图;
图10为一个实施例中关键点检测方法的流程示意图;
图11为一个实施例中关键点检测方法的流程示意图;
图12为一个实施例中关键点检测方法的流程示意图;
图13为一个实施例中关键点检测方法的流程示意图;
图14为一个实施例中关键点检测方法的流程示意图;
图15为一个实施例中关键点检测方法的流程示意图;
图16为一个实施例中关键点检测方法的流程示意图;
图17为一个实施例中关键点检测方法的流程示意图;
图18为一个实施例中关键点检测装置的结构框图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
在对本申请的技术方案进行详细介绍之前,先对本申请的技术背景进行简单介绍。
医学图像分析是一种数字图像处理与人工智能相结合的交叉分析手段,通过医学图像的分析结果,可以为多种疾病的临床治疗提供辅助参考依据,以提高临床诊断的效率。
以医学图像分析是对医学图像进行关键点检测为例进行说明,医学图像中的关键点是指具有标志性特征的坐标位置。在一种场景下,全膝关节置换术后的下肢力线测量十分关键,下肢力线的准确度与假体安放是否成功至关重要。如果假体位置不当,会导致关节活动受限,甚至出现松动、磨损和关节不稳定的情况。因此,医学图像可以是下肢图像,对下肢图像进行关键点检测可以对下肢力线进行测量,下肢力线可以包括下肢的长度、角度等各个力学参数。在另一种场景下,眼底血管拓扑结构的变化可用于增殖性糖尿病视网膜病变,高血压性视网膜病变等视网膜疾病的诊断。因此,医学图像可以是视网膜图,对视网膜图进行关键点检测,有助于血管结构的配准和血管病变的进展检测和治疗。或者,医学图像还可以是腰椎图像或者足踝图像,对应的关键点检测是腰椎关键点检测和足踝关键点检测。
相关技术中,一种方式可以是医生利用自己的经验对医学图像进行观测,将最有可能出现关键点的位置标注为关键点。然而,由于医学影像的复杂性,该方法检测关键点所需的时间较长,导致关键点的检测效率低。且人工在检测过程中,检测结果的准确性也较低,这就无法满足高通量医学图像分析的要求。
一种方式中,还可以通过构建对关键点位置构建高斯分布来设置网络训练的金标准,通过神经网络输出关键点的特征热图,寻找热图中最大值即关键点出现概率最大的坐标,将概率最大的坐标作为关键点的坐标。或者,还可以通过全连接方式直接回归关键点坐标,将人工标注的关键点坐标作为金标准,通过神经网络直接输出关键点的坐标。然而,模型和回归的方式均关注的是单个关键点的位置特征,只有局部的特征,并没有将全局关键点之间的拓扑结构引入神经网络计算中,缺少关键点和关键点之间的连接关系的信息,从而使得关键点识别过程中出现大范围识别坐标的偏移等问题,影响后续计算的准确率。
针对上述问题,本申请提供了一种关键点检测方法、装置、设备、存储介质和程序产品,该方法能够提高关键点检测的准确度。当然,本申请实施例中提供的技术方案不局限于仅解决上述问题,还存在其他技术效果,具体可参见下述实施例说明。接下来对本申请的技术方案进行详细介绍。
本申请实施例提供的关键点检测方法,可以应用于如图1所示的应用环境中。该应用环境中的计算机设备可以是服务器、个人计算机、笔记本电脑、智能手机、平板电脑、智能移动电话等。该计算机设备可包括通过系统总线连接或通过无线方式连接的处理器、存储器和网络接口。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器可包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统、计算机程序和数据库。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的数据库用于存储关键点检测过程中的数据。该计算机设备的网络接口用于与外部的终端通过网络连接通信,该计算机程序被处理器执行时以实现一种关键点检测方法。
在一个实施例中,如图2所示,提供了一种关键点检测方法,以该方法应用于图1中的计算机设备为例进行说明,包括以下步骤:
S201,获取目标部位的医学图像和目标部位中参考关键点之间的拓扑关系。
其中,目标部位是指进行医学扫描的部位,例如,该部位可以是腰椎部位、下肢部位、足踝部位以及眼底视网膜部位等等。医学图像可以是计算机断层扫描(ComputedTomography,CT)图像、磁共振(Magnetic Resonance Imaging,MRI)图像、正电子发射计算机断层扫描(Positron Emission Tomography,PET)图像、功能磁共振(functionalMagnetic Resonance Imaging,fMRI)图像等等。图3为医学图像的示意图,从图中可以看出,该医学图像对应的目标部位是下肢。
在本申请实施例中,计算机设备可以向医疗设备发送图像采集指令,该图像采集指令中携带图像采集的部位,即目标部位。医疗设备接收到该图像采集指令后,对目标部位进行扫描,得到目标部位的医学图像,并将该目标部位的医学图像发送给计算机设备。或者,计算机设备还可以从影像归档和通信系统(Picture Archiving and CommunicationSystems,PACS)中获取目标部位的医学图像。本申请实施例对于获取目标部位的医学图像的方式不做限制。
上述参考关键点是指目标部位的标准参考点,例如,目标部位是股骨,标准参考点是指标准的外侧踝、股骨内侧踝以及踝间窝,参考关键点之间的拓扑关系是指标准的外侧踝、股骨内侧踝以及踝间窝之间的连接关系。图4是参考关键点之间的拓扑关系的示意图,右侧图中深色像素点是指多个参考关键点,左侧是指多个参考关键点之间的相互连线,即多个参考点之间的拓扑关系。
示例性的,以医学图像是数字化X射线摄影(Digital Radiography,DR)图像,目标部位是下肢为例,DR图像数据集为,其中,H和W表示DR图像的输入尺寸;K为DR图像中关键点的个数;关键点的坐标可以表示为。DR图像的尺寸可以是768*256*3,对应的关键点的个数为20,这些关键点包括:左右侧的股骨头、大转子、股骨外侧踝、股骨内侧踝、踝间窝、胫骨外侧踝、胫骨内侧踝、踝间隆起、踝关节外侧点以及踝关键内侧点各10个特征点。
在本申请实施例中,计算机设备可以基于目标部位的标识信息,从拓扑关系数据库中查找该标识信息对应的参考关键点之间的拓扑关系。或者,计算机设备还可以基于先验知识,对目标部位的参考图像中的参考关键点进行连接,将参考关键点之间的连接关系作为拓扑关系。
S202,将医学图像和参考关键点之间的拓扑关系输入至预设的关键点检测模型中,基于参考关键点之间的拓扑关系识别医学图像中多个关键点,得到医学图像中多个关键点的坐标信息。
其中,关键点检测模型是用于对医学图像进行关键点检测的模型,该模型可以是深度神经网络模型(Dynamic Neural Network,DNN)、循环神经网络模型(RecurrentNeural Network,RNN)或者卷积神经网络模型(Convolutional Neural Networks,CNN)等等。CNN的网络可以是残差(ResNet)系列网络、CPN网络、对偶传播(SimpleBaseline)网络、Posefix网络、高分辨率(High-Resolution Network,HRNet)网络或者基于深度学习的人体姿态估计算法(HigherHRNet)网络等等。关键点检测模型可以是由一个网络组成的模型,也可以是由多个网络组合形成的模型。
在本申请实施例中,在获取到医学图像和关键点之间的拓扑关系后,计算机设备可以将医学图像和关键点之间的拓扑关系作为关键点检测模型的输入信号,输入至关键点检测模型中。关键点检测模型可以先对医学图像中的多个关键点进行识别,确定出多个关键点的初始坐标信息。并通过参考关键点之间的拓扑关系对多个关键点的初始坐标信息进行调整,得到医学图像中多个关键点的坐标信息。或者,关键点检测模型还可以提取参考关键点之间的拓扑关系中的拓扑特征,以及,提取医学图像中多个关键点的特征,并将拓扑特征和多个关键点的特征进行融合。并根据融合后的特征,确定多个关键点的坐标信息。本申请实施例对于基于参考关键点之间的拓扑关系识别医学图像中多个关键点的方式不做限制。
上述关键点检测方法中,获取目标部位的医学图像和目标部位中参考关键点之间的拓扑关系;将医学图像和参考关键点之间的拓扑关系输入至预设的关键点检测模型中,基于参考关键点之间的拓扑关系识别医学图像中多个关键点,得到医学图像中多个关键点的坐标信息。该方法在对医学图像的关键点进行检测的过程中,引入了参考关键点之间的拓扑关系,该拓扑关系是一个参考关键点与其他参考关键点的连接关系,也就是说,检测过程中不仅考虑到关键点自身的特征信息,也考虑到了周围的关键点的影响,这样,关键点的检测过程考虑的特征更加全面,得到的关键点的检测结果也会更准确。
上述实施例从整体的角度对关键点检测模型进行关键点检测的过程进行介绍。假设关键点检测模型是由三个模型组成形成的一个大模型,且该大模型包括特征识别模型、第一调整模型和第二调整模型,那么,在一个实施例中,如图5所示,上述基于参考关键点之间的拓扑关系识别医学图像中多个关键点获得医学图像中多个关键点的坐标信息的具体过程包括:
S301,利用特征识别模型提取医学图像的纹理特征信息和像素点概率图;像素点概率图中的概率表示像素点是关键点的概率。
由于人体不同位置的表面性质不同,纹理特征信息是指一个关键点所在位置的表面特征信息。像素点概率图是指医学图像中每一个像素点是关键点的概率。例如,像素点是关键点的概率可以是20%、50%或者90%。图6为医学图像中多个关键点的示意图,每一个下肢图像中均包含一个关键点,不同下肢图像中所包含的关键点是不同的,图中所体现出的关键点的概率值较大。
在本申请实施例中,计算机设备可以将医学图像输入至特征识别模型中,通过特征识别模型可以识别医学图像中每一个像素点的纹理特征信息和像素特征信息。根据每一个像素点的像素特征,预测每一个像素点为关键点的概率,并将所有像素点为关键点的概率组合成为像素点概率图。
在提取纹理特征信息的过程中,若特征识别模型是以HRNet网络为基础的卷积神经网络,那么,特征提取过程包括四个阶段,每一个阶段包括多个标准卷积核和逐通道卷积核。具体的,将医学图像输入至第一阶段的卷积操作后,得到第二阶段的输入特征。将第二通道的输入特征进行卷积操作得到第三阶段的输入特征。以此类推,分别可以得到第一阶段、第二阶、第三阶段以及第四阶段的特征,将四个阶段的特征进行特征融合,得到最终的关键点的纹理特征向量,其中,、表示卷积得到的纹理特征向量的尺寸,d表示特征向量的通道数,R表示医学图像中所有像素点的纹理特征集合。再对纹理特征向量进行卷积操作,得到纹理特征信息。该纹理特征信息可以表示为:
其中,表示卷积操作,表示卷积之后的纹理特征向量尺寸。
S302,利用第一调整模型对纹理特征信息和像素点概率图进行分析,获取医学图像中多个关键点的初始坐标信息。
其中,多个关键点的初始坐标信息是指每一个关键点在医学图像坐标系中的坐标信息。医学图像坐标系可以是以医学图像中心点为坐标原点,也可以以医学图像四个顶点为坐标原点,本申请实施例对此不做限制。
在本申请实施例中,由于像素点概率图中仅包含像素点的坐标特征信息,基于该坐标特征信息确定的坐标信息可能不准确。因此,需要将各个关键点的纹理特征信息进行融合,以获取到更准确的多个关键点的初始坐标信息。
具体的,计算机设备可以将各纹理特征信息和像素点概率图均输入至第一调整模型中,第一调整模型可以基于各关键点的纹理特征信息,对像素点概率图进行更新。之后,根据更新后的像素点概率图,从医学图像的所有像素点中筛选出多个关键点,并获取多个关键点的初始坐标信息。
S303,通过参考关键点之间的拓扑关系和第二调整模型,对各初始坐标信息进行调整,得到各关键点的坐标信息。
在本申请实施例中,在通过纹理特征信息和坐标特征信息确定初始坐标信息的基础上,还可以从全局的角度出发,将多个关键点之间的拓扑关系融合,这样,通过综合考虑全局特征和局部特征,得到的坐标信息会更加准确。
具体的,计算机设备可以将参考关键点之间的拓扑关系和多个关键点的初始坐标信息均输入至第二调整模型中,第二调整模型可以将参考关键点之间的拓扑关系融入至关键点检测过程中,以对多个关键点的初始坐标信息进行调整,得到多个关键点的坐标信息。
上述关键点检测方法中,利用特征识别模型提取医学图像的纹理特征信息和像素点概率图;像素点概率图中的概率表示像素点是关键点的概率;利用第一调整模型对纹理特征信息和像素点概率图进行分析,获取医学图像中多个关键点的初始坐标信息;通过参考关键点之间的拓扑关系和第二调整模型,对各初始坐标信息进行调整,得到各关键点的坐标信息。该方法在关键点检测的过程中,通过纹理特征信息和参考关键点之间的拓扑关系进行了两次调整,使得关键点检测过程引入了纹理特征和拓扑关系,考虑的特征信息更加全面、更加细节,得到的多个关键点的坐标信息也更加准确。
上述实施例对于两次调整过程均进行了简单的介绍,接下来对于第一调整模型和第二调整模型的具体过程进行介绍。
先对第一调整模型的具体过程进行说明,在一个实施例中,如图7所示,上述第一调整模型中的具体调整过程包括如下步骤:
S401,根据像素点概率图和预设的概率阈值,获取医学图像中的多个关键点。
在本申请实施例中,对于医学图像中的任意一个像素点来说,计算机设备可以将该像素点在概率图中的概率与预设的概率阈值进行比较,若大于预设的概率阈值,则说明该像素点是关键点的概率较大,将该像素点作为关键点;若小于或者等于预设的概率阈值,则说明该像素点是关键点的概率较小,该像素点为背景点,忽略该像素点。将所有像素点比较完成后,可以确定医学图像中的关键点。
S402,将各关键点在医学图像中的位置和对应的偏移值作为各关键点的坐标特征信息。
其中,偏移值是指该关键点的坐标信息与医学图像中心的差值。该插值包括X方向的插值和Y方向的插值。例如,关键点的坐标信息与医学图像中心的差值可以表示为()。
在本申请实施例中,当获取到医学图像中的关键点后,计算机设备可以确定每一个关键点在医学图像坐标系下的坐标,并将该坐标作为该关键点在医学图像中的位置。
另外,计算机设备可以获取医学图像的中心点在医学图像坐标系下的位置。对于每一个关键点来说,计算机设备可以计算该关键点与中心点位置之间的差值,并将该差值作为该关键点与医学图像中心的偏移值。需要强调的是,若医学图像坐标系的原点为医学图像的中心点,则关键点的坐标就是该关键点与医学图像中心的偏移值。
进一步的,计算机设备获取到每一个关键点的位置和对应的偏移值后,可以构建该关键点的位置信息向量。例如,关键点的位置信息向量可以表示为,其中,表示关键点的位置。再通过第一调整模型对该位置信息向量进行卷积运算,将其转换为维度为的特征向量,即坐标特征信息。该坐标特征信息可以表示为:
其中,表示卷积操作,表示卷积后的特征向量尺寸。
S403,基于各坐标特征信息和各纹理特征信息,对像素点概率图进行更新,并从更新后的像素点概率图中提取各关键点的初始坐标信息。
在本申请实施例中,针对任意一个关键点来说,计算机设备可以将该关键点的坐标特征信息与对应的纹理特征信息进行融合,得到该关键点的融合后的特征信息。并基于每一个关键点的融合后的特征信息,预测该关键点的新的概率。并从像素点概率图中确定该关键点对应的历史概率,将历史概率与新的概率进行比较,若历史概率与新的概率相同,则继续下一个关键点的识别。若历史概率与新的概率不同,则利用新的概率替换像素点概率图中的历史概率,并继续下一个关键点的识别,直至所有关键点均替换完成后,得到更新后的像素点概率图。
进一步地,当获取到更新后的像素点概率图后,计算机设备可以将像素点概率图中每一个像素点的概率与预设的概率阈值进行比较,将大于预设的概率阈值的像素点作为关键点。并确定出每一个关键点在医学图像坐标系下的坐标位置,将医学图像坐标系下的坐标位置作为多个关键点的初始坐标信息。
上述关键点检测方法中,根据像素点概率图和预设的概率阈值,获取医学图像中的多个关键点;将各关键点在医学图像中的位置和对应的偏移值作为各关键点的坐标特征信息;基于各坐标特征信息和各纹理特征信息,对像素点概率图进行更新,并从更新后的像素点概率图中提取各关键点的初始坐标信息。该方法通过对像素点概率图和预设的概率阈值进行分析,确定关键点的坐标特征信息,并综合考虑坐标特征信息和纹理特征信息,能够准确地确定关键点的坐标特征信息,从而可以更准确地对像素点概率图进行更新,使得到的关键点的初始坐标信息更加准确。
在一个实施例中,如图8所示,对于上述基于各坐标特征信息和各纹理特征信息对像素点概率图进行更新的具体内容进行介绍,该具体内容包括如下步骤:
S501,将各坐标特征信息和各纹理特征信息转换至相同维度,得到各关键点的特征信息。
在本申请实施例中,计算机设备可以对各坐标特征信息和纹理特征信息进行维度转换,以将各坐标特征信息和纹理特征信息转换至相同维度。并将相同维度下每一个坐标特征信息和对应的纹理特征信息进行融合,得到各关键点的特征信息。各关键点的特征信息可以表示为:
其中,表示各关键点的纹理特征信息,表示各关键点的坐标特征信息。
也就是说,每一个关键点的特征信息均包括坐标特征信息和纹理特征信息。需要说明的是,可以将各坐标特征信息转换至各纹理特征信息的维度,或者,也可以将各纹理特征信息转换至各坐标特征信息的维度,或者,还可以将各坐标特征信息和各纹理特征信息转换至一个预设维度。
S502,通过各特征信息确定医学图像中各个像素点是关键点的概率。
在本申请实施例中,计算机设备可以将各关键点的特征信息输入至概率识别模型中,通过概率识别模型对各关键点的特征信息进行分析,输出新的像素概率图。并从新的像素概率图确定出各个像素点是关键点的概率。其中,新的像素概率图可以表示为:
其中,表示新的像素概率图,表示概率识别模型,表示概率识别模型的参数。
S503,基于各像素点是关键点的概率替换像素点概率图中的概率,得到更新后的像素点概率图。
在本申请实施例中,对于每一个像素点来说,计算机设备可以将该像素点是关键点的概率与像素点概率图中对应的概率进行比较,若两者相同,则无需替换;若两者不同,则利用该像素点的概率替换像素点概率图中对应位置的概率,得到更新后的像素点概率图。
上述关键点检测方法中,将各坐标特征信息和各纹理特征信息转换至相同维度,得到各关键点的特征信息;通过各特征信息确定医学图像中各个像素点是关键点的概率;基于各像素点是关键点的概率替换像素点概率图中的概率,得到更新后的像素点概率图。该方法基于坐标特征信息与纹理特征信息的融合结果,使得获取到的各个像素点是关键点的概率更加准确,那么,通过该概率对像素点概率图进行更新,得到的更新后的像素点概率图更加准确。
接下来对第二调整模型的具体过程进行说明,在一个实施例中,如图9所示,上述第二调整模型中的具体调整过程包括如下步骤:
S601,基于各关键点的特征信息获取任意两个参考关键点之间的权重。
在本申请实施例中,对于任意两个关键点来说,计算机设备可以利用改进的S型(sigmoid)函数对两个关键点的特征信息进行分析,以确定这两个关键点之间的联系紧密程度。并基于两个关键点之间的联系紧密程度,确定出两个参考关键点之间的权重。任意两个参考关键点之间的权重可以表示为:
其中,表示超参数,可以设置为100;表示任意两个参考关键点之间的初始权重;表示意两个参考关键点之间的权重;表示sigmoid函数;K表示关键点的数量;D表示特征向量的维度;R表示两个参考关键点的特征集合。
S602,将任意两个参考关键点的拓扑关系与对应的权重的乘积作为拓扑关系概率图。
其中,参考关键点之间的拓扑关系可以表示为:,其中,表示K个关键点,表示L个连边,E表示所有关键点以及连边的集合,包括两个参考关键点之间的连接关系。
在本申请实施例中,任意两个参考关键点的拓扑关系可以通过邻接矩阵表示,该邻接矩阵可以表示为:。计算机设备可以将任意两个参考关键点的拓扑关系与对应的权重相乘,再对相乘的结果进行卷积操作,得到拓扑关系概率图。具体过程可以表示为:
其中,表示关键点之间的拓扑关系。
接下来对进行多次非线性卷积操作,得到:
其中,表示经过多次非线性卷积操作后的拓扑关系,表示LeakyReLu非线性激活函数,和表示多次非线性卷积操作过程的参数。
再将各关键点的特征信息与多次非线性卷积操作过程进行结合,得到:
其中,表示各关键点的特征信息与多次非线性卷积操作过程进行结合后的特征向量,表示卷积操作,表示各关键点的特征信息,、表示各关键点的特征信息与多次非线性卷积操作过程进行结合后的特征向量的尺寸,D表示特征向量的通道数。
最后对上述结合的结果进行反卷积计算,得到拓扑关系概率图。该过程可以表示为:
其中,表示拓扑关系概率图,表示特征编码模型,表示特征编码模型的参数。
S603,从拓扑关系概率图中提取每一个像素点的概率,并将大于预设的概率阈值的像素点的坐标信息作为各关键点的坐标信息。
由于拓扑关系概率图就是包含关键点连接关系的概率图,拓扑关系概率图包括医学图像中每一个像素点的概率,且拓扑关系概率图的概率与医学图像中每一个像素点相互对应。因此,计算机设备可以直接从拓扑关系概率图中提取每一个像素点的概率。
在本申请实施例中,计算机设备可以将每一个像素点在拓扑关系概率图中的概率与预设的概率阈值进行比较,若大于预设的概率阈值,则获取大于预设的概率阈值的像素点的坐标信息,并将该坐标信息作为各关键点的坐标信息;若小于或等于预设的概率阈值,则忽略小于或等于预设的概率阈值的像素点。
上述关键点检测方法中,通过第二调整模型对参考关键点之间的拓扑关系进行分析,得到拓扑关系概率图;从拓扑关系概率图中提取每一个像素点的概率;将大于预设的概率阈值的像素点的坐标信息作为各关键点的坐标信息。该方法在确定概率的过程中引入了参考关键点之间的拓扑关系,这样,就可以将关键点的特征和周围关键点的影响进行融合,得到的拓扑关系概率图的准确度更高,通过该拓扑概率图得到的各关键点的坐标信息也更准确。
在对拓扑关系分析的过程中,还可以引入权重进行分析。在一个实施例中,如图10所示,接下来对引入权重进行分析的具体内容进行介绍。
S701,针对任意两个参考关键点,获取两个参考关键点的初始权重。
在本申请实施例中,计算机设备可以接收用户对多个参考关键点的权重标注,并将标注的权重作为医学图像中多个参考关键点的初始权重。或者,计算机设备还可以将医学图像中的多个关键点输入至权重确定模型中,通过权重确定模型对多个关键点进行分析,确定任意两个参考关键点之间的初始权重。
S702,利用两个参考关键点的特征信息对初始权重进行调整,得到参考关键点的权重。
其中,两个关键点的特征信息表示两个关键点之间的联系紧密程度,例如,两个关键点的纹理越接近,表示两个关键点的联系越紧密;以及,两个关键点的坐标差值越小,表示两个关键点的联系越紧密。两个关键点之间联系越紧密,则参考关键点的权重值越高,此时需要将初始权重调高;两个关键点之间联系越不紧密,则参考关键点的权重值越低,此时需要将初始权重调低。
在本申请实施例中,当获取到任意两个参考关键点的初始权重后,计算机设备可以基于两个参考关键点的联系紧密程度,对两个参考关键点之间的权重进行预测,得到两个参考关键点的预测权重。并基于预测权重与初始权重之间的权重差值,对初始权重进行调整,得到参考关键点的权重。
上述关键点检测方法中,针对任意两个参考关键点,获取两个参考关键点的初始权重;利用两个参考关键点的特征信息对初始权重进行调整,得到参考关键点的权重。该方法在对于任意两个参考关键点来说,都是通过两个参考关键点的特征信息,对于这两个参考关键点的初始权重进行调整,以准确地获取参考关键点的权重。
前述所有实施例均是对关键点检测模型的实际应用过程进行介绍,接下来通过几个实施例对于关键点检测模型的训练过程进行介绍。
在一个实施例中,如图11所示,关键点检测模型的训练过程包括:
S801,获取目标部位的样本医学图像、参考关键点之间的样本拓扑关系和对应的多个关键点的坐标信息。
在本申请实施例中,计算机设备可以根据目标部位的标识信息,从PACS中获取与该标识信息相同的样本医学图像,并获取与样本医学图像对应的坐标信息。另外,计算机设备可以基于目标部位的标识信息,从拓扑关系数据库中查找该标识信息对应的参考关键点之间的样本拓扑关系。
S802,将样本医学图像和样本拓扑关系输入至初始关键点检测模型中,得到多个关键点的预测坐标信息。
在本申请实施例中,计算机设备可以将样本医学图像和样本拓扑关系同时输入至初始关键点检测模型中,初始关键点检测模型可以基于样本拓扑关系识别样本医学图像中多个关键点的坐标信息,并将识别到的多个关键点的坐标信息作为多个关键点的预测坐标信息。
S803,基于多个关键点的预测坐标信息对初始关键点检测模型的参数进行调整,直至预测关键点坐标信息与对应的坐标信息之间的误差小于预设误差阈值,得到关键点检测模型。
在本申请实施例中,在获取到多个关键点的预测坐标信息后,计算机设备可以获取多个关键点的预测坐标信息与对应的坐标信息之间的误差值,并将该误差值与预设误差阈值进行比较。若误差值大于预设误差阈值,说明预测得到的坐标信息不准确,需要对模型参数进行调整,再利用参数调整后的初始关键点检测模型继续进行预测,得到新的预测坐标信息。并继续将新的预测坐标信息与对应的坐标信息之间的误差值与预设的概率阈值进行比较,若误差值仍大于预设误差阈值,则继续进行模型参数调整。若误差值小于预设误差阈值,则说明训练过程完成,得到训练好的关键点检测模型。
需要说明的是,在关键点检测模型的训练过程中,是通过样本纹理特征信息与样本拓扑关系构建目标函数。目标函数L可以表示为:
其中,表示超参数,可以设置为0.01,表示均方误差损失函数,BCE表示二值交叉熵损失函数;K表示关键点的数量;表示预测得到的关键点的像素点概率图;表示金标准的关键点的像素点概率图;表示预测得到样本拓扑关系;表示金标准的样本拓扑关系;表示关键点的损失函数;表示样本拓扑关系的损失函数。在上述训练过程中,可以设置初始化学习率为0.001,训练次数可以设置为200,一次训练的样本量为3。
上述关键点检测方法中,获取目标部位的样本医学图像、参考关键点之间的样本拓扑关系和对应的多个关键点的坐标信息;将样本医学图像和样本拓扑关系输入至初始关键点检测模型中,得到多个关键点的预测坐标信息;基于多个关键点的预测坐标信息对初始关键点检测模型的参数进行调整,直至预测关键点坐标信息与对应的坐标信息之间的误差小于预设误差阈值,得到关键点检测模型。该方法在对初始关键点检测模型进行训练的过程中,是通过样本医学图像和样本拓扑关系同时进行训练的,也就是说,训练过程中,模型不仅可以学习到关键点的局部特征,也可以学到受到其他关键点影响的全局特征。通过局部特征和全局特征的结合进行模型训练,使得训练得到的关键点检测模型更加准确,通过训练好的关键点检测模型进行关键点检测,得到的检测结果也会更加准确。
在一个实施例中,如图12所示,上述将样本医学图像和样本拓扑关系输入至初始关键点检测模型中得到多个关键点的预测坐标信息的具体内容包括如下步骤:
S901,利用初始特征识别模型提取样本医学图像的特征,得到样本医学图像中多个关键点的样本纹理特征信息和样本像素点概率图。
在本申请实施例中,计算机设备可以将样本医学图像输入至初始特征识别模型中,通过初始特征识别模型可以识别样本医学图像中每一个像素点的样本纹理特征信息和样本像素特征信息。根据每一个像素点的样本像素特征,预测每一个像素点为关键点的概率,并将所有像素点为关键点的概率组合成为样本像素点概率图。并将样本像素点概率图中概率较大的像素点作为关键点,从所有像素点的样本纹理特征信息中确定出多个关键点的样本纹理特征信息。
S902,将各样本纹理特征信息和样本像素点概率图输入至第一初始调整模型中,获取各关键点的初始预测坐标信息。
在本申请实施例中,计算机设备可以将各样本纹理特征信息和样本像素点概率图均输入至第一初始调整模型中,第一初始调整模型可以基于各关键点的样本纹理特征信息,对样本像素点概率图进行更新。之后,根据更新后的样本像素点概率图,从样本医学图像的所有像素点中筛选出多个关键点,并获取多个关键点的初始预测坐标信息。
S903,基于参考关键点之间的样本拓扑关系和第二初始调整模型,对初始预测坐标信息进行调整,得到各关键点的预测坐标信息。
具体的,计算机设备可以将参考关键点之间的样本拓扑关系和多个关键点的初始坐标信息均输入至第二初始调整模型中,第二初始调整模型可以将参考关键点之间的样本拓扑关系融入至第二调整模型的训练过程中,以对多个关键点的初始坐标信息进行调整,得到多个关键点的预测坐标信息。
上述关键点检测方法中,利用初始特征识别模型提取样本医学图像的特征,得到样本医学图像中多个关键点的样本纹理特征信息和样本像素点概率图;将各样本纹理特征信息和样本像素点概率图输入至第一初始调整模型中,获取各关键点的初始预测坐标信息;基于参考关键点之间的样本拓扑关系和第二初始调整模型,对初始预测坐标信息进行调整,得到各关键点的预测坐标信息。该方法在进行模型训练的过程中,通过样本纹理特征信息和参考关键点之间的样本拓扑关系进行了两次调整,使得模型训练过程引入了样本纹理特征和样本拓扑关系,考虑的样本特征信息更加全面、更加细节,得到的预测坐标信息也更加准确。
上述实施例中涉及到两个初始调整模型的训练过程,接下来分别对第一初始调整模型的训练过程和第二初始调整模型的训练过程进行说明。
首先对第一初始调整模型的训练过程进行说明。在一个实施例中,如图13所示,第一初始调整模型的训练过程可以包括如下步骤:
S1001,从样本像素点概率图中获取各关键点的样本坐标特征信息。
在本申请实施例中,计算机设备可以将样本像素点概率图中每一个像素点的概率与预设的概率阈值进行比较,并将大于预设的概率阈值的像素点作为关键点。并对每一个关键点的位置进行分析,确定出每一个关键点的样本坐标特征信息。
S1002,基于各样本纹理特征信息和各样本坐标特征信息的融合结果,对样本像素点概率图进行更新。
在本申请实施例中,针对任意一个关键点来说,计算机设备可以将该关键点的样本坐标特征信息与对应的样本纹理特征信息进行融合,得到该关键点的融合后的样本特征信息。并基于每一个关键点的融合后的样本特征信息,预测该关键点的新的概率。并从样本像素点概率图中确定该关键点对应的历史概率,将历史概率与新的概率进行比较,若历史概率与新的概率相同,则继续下一个关键点的识别。若历史概率与新的概率不同,则利用新的概率替换样本像素点概率图中的历史概率,并继续下一个关键点的识别,直至所有关键点均替换完成后,得到更新后的样本像素点概率图。
S1003,从更新后的样本像素点概率图中提取各关键点的初始预测坐标信息。
在本申请实施例中,当获取到更新后的样本像素点概率图后,计算机设备可以将样本像素点概率图中每一个像素点的概率与预设的概率阈值进行比较,将大于预设的概率阈值的像素点作为关键点。并确定出每一个关键点在医学图像坐标系下的坐标位置,将医学图像坐标系下的坐标位置作为多个关键点的初始预测坐标信息。
上述关键点检测方法中,从样本像素点概率图中获取各关键点的样本坐标特征信息;基于各样本纹理特征信息和各样本坐标特征信息的融合结果,对样本像素点概率图进行更新。从更新后的样本像素点概率图中提取各关键点的初始预测坐标信息。该方法通过对像素点概率图进行分析,确定关键点的坐标特征信息,并综合考虑坐标特征信息和纹理特征信息,能够准确地对像素点概率图进行更新,使得到的关键点的初始预测坐标信息更加准确。
接下来对第二初始调整模型的训练过程进行说明,在一个实施例中,如图14所示,第二初始调整模型的训练过程可以包括如下步骤:
S1101,将任意两个参考关键点的权重与对应的样本拓扑关系相乘,得到样本拓扑关系概率图。
在本申请实施例中,计算机设备可以将任意两个参考关键点的拓扑关系与对应的权重相乘,再对相乘的结果进行卷积操作,得到样本拓扑关系概率图。
S1102,从样本拓扑关系概率图中提取每一个像素点的概率。
由于样本拓扑关系概率图就是包含样本医学图像中关键点连接关系的概率图,样本拓扑关系概率图包括样本医学图像中每一个像素点的概率,且样本拓扑关系概率图的概率与样本医学图像中每一个像素点相互对应。因此,计算机设备可以直接从样本拓扑关系概率图中提取每一个像素点的概率。
S1103,将大于预设的概率阈值的像素点的坐标信息作为各关键点的预测坐标信息。
在本申请实施例中,计算机设备可以将每一个像素点在样本拓扑关系概率图中的概率与预设的概率阈值进行比较,若大于预设的概率阈值,则获取大于预设的概率阈值的像素点的坐标信息,并将该坐标信息作为各关键点的预测坐标信息;若小于或等于预设的概率阈值,则忽略小于或等于预设的概率阈值的像素点。
上述关键点检测方法中,将任意两个参考关键点的权重与对应的样本拓扑关系相乘,得到样本拓扑关系概率图;从样本拓扑关系概率图中提取每一个像素点的概率;将大于预设的概率阈值的像素点的坐标信息作为各关键点的预测坐标信息。该方法在确定概率的过程中引入了参考关键点之间的样本拓扑关系,这样,就可以将关键点的特征和周围关键点的影响进行融合,得到的样本拓扑关系概率图的准确度更高,通过该样本拓扑概率图得到的各关键点的预测坐标信息也更准确。
图15为关键点检测方法的流程示意图,该关键点检测过程包括如下步骤:
S1201:利用特征识别模型提取医学图像的纹理特征信息和像素点概率图;
参见图16中的关键点特征提取模型提取特征的过程。
S1202:根据像素点概率图和预设的概率阈值,获取医学图像中的多个关键点;
S1203:将各关键点在医学图像中的位置和对应的偏移值作为各关键点的坐标特征信息;
参见图16中从像素点概率图到坐标特征信息的过程。
S1204:基于各坐标特征信息和各纹理特征信息,对像素点概率图进行更新,并从更新后的像素点概率图中提取各关键点的初始坐标信息;
参见图16中根据纹理特征信息和坐标特征信息确定初始坐标信息的过程。
S1205:基于各关键点的特征信息获取任意两个参考关键点之间的权重;
S1206:将任意两个参考关键点的拓扑关系与对应的权重的乘积作为拓扑关系概率图;
参见图16中从纹理特征信息与权重到拓扑关系概率图的过程。
S1207:从拓扑关系概率图中提取每一个像素点的概率,并将大于预设的概率阈值的像素点的坐标信息作为各关键点的坐标信息。
图16表示关键点检测方法的流程示意图,该方法包括:利用特征识别模型对医学图像进行特征识别,得到纹理特征信息和像素点概率图;再基于像素点概率图,确定医学图像的坐标特征信息;根据纹理特征信息和坐标特征信息确定初始坐标信息;再基于纹理特征信息、权重、初始坐标信息,生成拓扑关系概率图;再根据拓扑关系图,确定医学图像中多个关键点的坐标信息。
图17表示关键点检测方法的流程示意图,从图中可以看出,医学图像中的目标部位是下肢,通过特征识别模型对包含下肢的医学图像进行特征识别,得到特征信息Ec,该特征信息Ec包括坐标特征信息be和纹理特征信息fe。将坐标特征信息be和纹理特征信息fe输入至关键点特征提取器中,得到关键点的初始坐标信息。再利用坐标特征信息be和纹理特征信息fe对拓扑关系图中的参考关键点之间的权重进行调整,并利用图卷积特征提取器对调整后的拓扑关系图graph进行特征提取,得到拓扑关系概率图。再根据拓扑关系图,对初始坐标信息进行调整,得到医学图像中多个关键点的坐标信息。
应该理解的是,虽然如上的各实施例所涉及的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,如上的各实施例所涉及的流程图中的至少一部分步骤可以包括多个步骤或者多个阶段,这些步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤中的步骤或者阶段的至少一部分轮流或者交替地执行。
基于同样的发明构思,本申请实施例还提供了一种用于实现上述所涉及的关键点检测方法的关键点检测装置。该装置所提供的解决问题的实现方案与上述方法中所记载的实现方案相似,故下面所提供的一个或多个关键点检测装置实施例中的具体限定可以参见上文中对于关键点检测方法的限定,在此不再赘述。
在一个实施例中,如图18所示,提供了一种关键点检测装置,包括:获取模块11和识别模块12,其中:
获取模块11,用于获取目标部位的医学图像和目标部位中参考关键点之间的拓扑关系;
识别模块12,用于将医学图像和参考关键点之间的拓扑关系输入至预设的关键点检测模型中,基于参考关键点之间的拓扑关系识别医学图像中多个关键点,得到医学图像中多个关键点的坐标信息。
在一个实施例中,上述识别模块12包括:特征提取单元、信息获取单元和信息调整单元,其中:
特征提取单元,用于利用特征识别模型提取医学图像的纹理特征信息和像素点概率图;像素点概率图中的概率表示像素点是关键点的概率;
信息获取单元,用于利用第一调整模型对纹理特征信息和像素点概率图进行分析,获取医学图像中多个关键点的初始坐标信息;
信息调整单元,用于通过参考关键点之间的拓扑关系和第二调整模型,对各初始坐标信息进行调整,得到各关键点的坐标信息。
在一个实施例中,上述信息获取单元还用于根据像素点概率图和预设的概率阈值,获取医学图像中的多个关键点;将各关键点在医学图像中的位置和对应的偏移值作为各关键点的坐标特征信息;基于各坐标特征信息和各纹理特征信息,对像素点概率图进行更新,并从更新后的像素点概率图中提取各关键点的初始坐标信息。
在一个实施例中,上述信息调整单元还用于基于各关键点的特征信息获取任意两个参考关键点之间的权重;将任意两个参考关键点的拓扑关系与对应的权重的乘积作为拓扑关系概率图;从拓扑关系概率图中提取每一个像素点的概率,并将大于预设的概率阈值的像素点的坐标信息作为各关键点的坐标信息。
在一个实施例中,上述信息调整单元还用于针对任意两个参考关键点,获取两个参考关键点的初始权重;利用两个参考关键点的特征信息对初始权重进行调整,得到参考关键点的权重。
在一个实施例中,上述关键点检测装置还包括:样本获取模块、坐标预测模块和参数调整模块,其中:
样本获取模块,用于获取目标部位的样本医学图像、参考关键点之间的样本拓扑关系和对应的多个关键点的坐标信息;
坐标预测模块,用于将样本医学图像和样本拓扑关系输入至初始关键点检测模型中,得到多个关键点的预测坐标信息;
参数调整模块,用于基于多个关键点的预测坐标信息对初始关键点检测模型的参数进行调整,直至预测关键点坐标信息与对应的坐标信息之间的误差小于预设误差阈值,得到关键点检测模型。
上述关键点检测装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
在一个实施例中,提供了一种计算机设备,包括存储器和处理器,存储器中存储有计算机程序,该处理器执行计算机程序时实现上述关键点检测方法的任意一项实施例的内容。
在一个实施例中,提供了一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现上述关键点检测方法的任意一项实施例的内容。
在一个实施例中,提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现上述关键点检测方法的任意一项实施例的内容。
需要说明的是,本申请所涉及的用户信息(包括但不限于用户设备信息、用户个人信息等)和数据(包括但不限于用于分析的数据、存储的数据、展示的数据等),均为经用户授权或者经过各方充分授权的信息和数据。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、数据库或其它介质的任何引用,均可包括非易失性和易失性存储器中的至少一种。非易失性存储器可包括只读存储器(Read-Only Memory,ROM)、磁带、软盘、闪存、光存储器、高密度嵌入式非易失性存储器、阻变存储器(ReRAM)、磁变存储器(Magnetoresistive Random Access Memory,MRAM)、铁电存储器(FerroelectricRandom Access Memory,FRAM)、相变存储器(Phase Change Memory,PCM)、石墨烯存储器等。易失性存储器可包括随机存取存储器(Random Access Memory,RAM)或外部高速缓冲存储器等。作为说明而非局限,RAM可以是多种形式,比如静态随机存取存储器(StaticRandom Access Memory,SRAM)或动态随机存取存储器(Dynamic Random Access Memory,DRAM)等。本申请所提供的各实施例中所涉及的数据库可包括关系型数据库和非关系型数据库中至少一种。非关系型数据库可包括基于区块链的分布式数据库等,不限于此。本申请所提供的各实施例中所涉及的处理器可为通用处理器、中央处理器、图形处理器、数字信号处理器、可编程逻辑器、基于量子计算的数据处理逻辑器等,不限于此。
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本申请专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请的保护范围应以所附权利要求为准。
Claims (10)
1.一种关键点检测方法,其特征在于,所述方法包括:
获取目标部位的医学图像和所述目标部位中参考关键点之间的拓扑关系;
将所述医学图像和所述参考关键点之间的拓扑关系输入至预设的关键点检测模型中,基于所述参考关键点之间的拓扑关系识别所述医学图像中多个关键点,得到所述医学图像中多个关键点的坐标信息。
2.根据权利要求1所述的方法,其特征在于,所述关键点检测模型包括特征识别模型、第一调整模型和第二调整模型,所述基于所述参考关键点之间的拓扑关系识别所述医学图像中多个关键点,获得所述医学图像中多个关键点的坐标信息,包括:
利用所述特征识别模型提取所述医学图像的纹理特征信息和像素点概率图;所述像素点概率图中的概率表示像素点是关键点的概率;
利用所述第一调整模型对所述纹理特征信息和所述像素点概率图进行分析,获取所述医学图像中多个关键点的初始坐标信息;
通过所述参考关键点之间的拓扑关系和所述第二调整模型,对各所述初始坐标信息进行调整,得到各所述关键点的坐标信息。
3.根据权利要求2所述的方法,其特征在于,所述利用所述第一调整模型对所述纹理特征信息和所述像素点概率图进行分析,获取所述医学图像中多个关键点的初始坐标信息,包括:
根据所述像素点概率图和预设的概率阈值,获取所述医学图像中的多个关键点;
将各所述关键点在所述医学图像中的位置和对应的偏移值作为各所述关键点的坐标特征信息;
基于各所述坐标特征信息和各所述纹理特征信息,对所述像素点概率图进行更新,并从更新后的像素点概率图中提取各所述关键点的初始坐标信息。
4.根据权利要求2或3所述的方法,其特征在于,所述通过所述参考关键点之间的拓扑关系和所述第二调整模型,对各所述初始坐标信息进行调整,得到各所述关键点的坐标信息,包括:
基于各所述关键点的特征信息获取任意两个参考关键点之间的权重;
将所述任意两个参考关键点的拓扑关系与对应的权重的乘积作为拓扑关系概率图;
从所述拓扑关系概率图中提取每一个像素点的概率,并将大于预设的概率阈值的像素点的坐标信息作为各所述关键点的坐标信息。
5.根据权利要求4所述的方法,其特征在于,所述基于各所述关键点的特征信息获取任意两个参考关键点之间的权重,包括:
针对任意两个参考关键点,获取所述两个参考关键点的初始权重;
利用所述两个参考关键点的特征信息对所述初始权重进行调整,得到所述参考关键点的权重。
6.根据权利要求1-3任一项所述的方法,其特征在于,所述关键点检测模型的训练过程包括:
获取目标部位的样本医学图像、参考关键点之间的样本拓扑关系和对应的多个关键点的坐标信息;
将所述样本医学图像和所述样本拓扑关系输入至初始关键点检测模型中,得到所述多个关键点的预测坐标信息;
基于所述多个关键点的预测坐标信息对所述初始关键点检测模型的参数进行调整,得到所述关键点检测模型。
7.一种关键点检测装置,其特征在于,所述装置包括:
获取模块,用于获取目标部位的医学图像和所述目标部位中参考关键点之间的拓扑关系;
识别模块,用于将所述医学图像和所述参考关键点之间的拓扑关系输入至预设的关键点检测模型中,基于所述参考关键点之间的拓扑关系识别所述医学图像中多个关键点,得到所述医学图像中多个关键点的坐标信息。
8.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至6中任一项所述的方法的步骤。
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至6中任一项所述的方法的步骤。
10.一种计算机程序产品,包括计算机程序,其特征在于,该计算机程序被处理器执行时实现权利要求1至6中任一项所述的方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202411204109.7A CN118968206A (zh) | 2024-08-29 | 2024-08-29 | 关键点检测方法、装置、设备、存储介质和程序产品 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202411204109.7A CN118968206A (zh) | 2024-08-29 | 2024-08-29 | 关键点检测方法、装置、设备、存储介质和程序产品 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN118968206A true CN118968206A (zh) | 2024-11-15 |
Family
ID=93397964
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202411204109.7A Pending CN118968206A (zh) | 2024-08-29 | 2024-08-29 | 关键点检测方法、装置、设备、存储介质和程序产品 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN118968206A (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN119228861A (zh) * | 2024-12-03 | 2024-12-31 | 苏州大学 | 一种多模态视网膜眼底图像配准方法及系统 |
-
2024
- 2024-08-29 CN CN202411204109.7A patent/CN118968206A/zh active Pending
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN119228861A (zh) * | 2024-12-03 | 2024-12-31 | 苏州大学 | 一种多模态视网膜眼底图像配准方法及系统 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110752028B (zh) | 一种图像处理方法、装置、设备以及存储介质 | |
| US20220058446A1 (en) | Image processing method and apparatus, terminal, and storage medium | |
| JP2021530061A (ja) | 画像処理方法及びその装置、電子機器並びにコンピュータ可読記憶媒体 | |
| WO2019178702A9 (en) | Systems and methods for polygon object annotation and a method of training an object annotation system | |
| CN101341514A (zh) | 基于点的自适应弹性图像配准 | |
| CN113129418B (zh) | 基于三维影像的目标表面重建方法、装置、设备和介质 | |
| CN111080573A (zh) | 肋骨图像检测方法、计算机设备和存储介质 | |
| CN112967235B (zh) | 图像检测方法、装置、计算机设备和存储介质 | |
| US11763468B2 (en) | Structured landmark detection via topology-adapting deep graph learning | |
| CN112950684B (zh) | 基于表面配准的目标特征提取方法、装置、设备和介质 | |
| CN113963037B (zh) | 图像配准方法、装置、计算机设备和存储介质 | |
| CN113962957A (zh) | 医学图像处理方法、骨骼图像处理方法、装置、设备 | |
| CN118968206A (zh) | 关键点检测方法、装置、设备、存储介质和程序产品 | |
| Ding et al. | Combining feature correspondence with parametric chamfer alignment: hybrid two-stage registration for ultra-widefield retinal images | |
| CN115689966A (zh) | 医学对象识别方法、装置、计算机设备和存储介质 | |
| CN115345928A (zh) | 关键点的获取方法、计算机设备和存储介质 | |
| CN115049596A (zh) | 模板影像库的生成方法、目标定位方法、装置和存储介质 | |
| CN111145152A (zh) | 图像检测方法、计算机设备和存储介质 | |
| CN114881930A (zh) | 基于降维定位的3d目标检测方法、装置、设备和存储介质 | |
| CN119991756B (zh) | 基于医学图像的多模态配准方法与装置 | |
| CN113160199B (zh) | 影像识别方法、装置、计算机设备和存储介质 | |
| CN115049615A (zh) | 基于深度学习和磁共振影像的盆底量化评估方法和系统 | |
| CN117115068A (zh) | 医学图像处理方法、装置、计算机设备和存储介质 | |
| CN115546089A (zh) | 医学图像分割方法、病理图像处理方法、装置、设备 | |
| CN114093462A (zh) | 医学影像处理方法、图像处理方法、计算机设备、存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |