有效
三维血管造影图像中解剖学关键点的检测方法和装置
冯建江、谭子萌、杨光明、印胤、卢旺盛、秦岚、刘文哲、周杰
清华大学
摘要
本申请提出了一种三维血管造影图像中解剖学关键点的检测方法,涉及医学图像处理技术领域,其中,该方法包括:获取三维血管造影图像作为测试图像;对测试图像进行预处理,并将预处理后的图像输入到预先训练的多任务深度学习网络中,输出解剖学关键点预测概率图,其中,多任务深度学习模型是以包含与所述测试图像同一血管类型的三维血管造影训练图像以及三维血管造影训练图像的标注结果作为训练数据集训练得到的;根据解剖学关键点预测概率图中体素位置的预测概率,生成解剖学关键点的检测结果。采用上述方案的本申请能够充分利用不同任务间的协同作用,显式建模血管拓扑变异类型,结合空间先验信息,实现良好的检测性能。
1.一种三维血管造影图像中解剖学关键点的检测方法,其特征在于,包括以下步骤:获取三维血管造影图像作为测试图像;对所述测试图像进行预处理,并将预处理后的图像输入到预先训练的多任务深度学习网络中,输出解剖学关键点预测概率图、血管段语义分割多通道概率图、血管段缺失分类向量、关键点局部分叉特征分类向量,其中,所述多任务深度学习网络是以包含与所述测试图像同一血管类型的三维血管造影训练图像以及所述三维血管造影训练图像的标注结果作为训练数据集训练得到的;根据所述解剖学关键点预测概率图中体素位置的预测概率,生成解剖学关键点的检测结果;其中,血管段是否缺失与其两端关键点是否具有局部分叉特征一一对应,当血管段语义分割标注中某一血管段缺失时,该血管段两端的解剖学关键点失去局部分叉特征;当某一血管段存在时,该血管段两端的解剖学关键点具有局部分叉特征;在训练时,血管段缺失分类与关键点局部分叉特征分类的预测目标的生成过程包括:将血管段缺失分类和关键点局部分叉特征分类处理为多个相互独立的二分类任务,对预定义的N个解剖学关键点和S个血管段,关键点局部分叉特征分类和血管段缺失分类的预测目标分别为长度为N和S的向量y N 和y S ,向量中各元素的值反映了各关键点是否具有局部分叉特征、各血管段是否存在;所述多任务深度学习网络的损失函数表示为:L=L 1 +αL 2 +β(L 3 +L 4 )+γL self (0<α,β<1)其中,L 1 、L 2 、L 3 、L 4 分别为解剖学关键点检测、血管段语义分割、血管段缺失分类和关键点局部分叉特征分类任务的损失函数,L 3 、L 4 为交叉熵损失函数,α、β、γ为超参数,L self 为一致性损失函数,其中,上标i表示向量中第i个元素,θ为所有可能因血管变异而造成局部分叉特征变化的关键点序号集合, 表示由血管段缺失分类的预测结果 推导出的相对应的关键点局部分叉特征类别, 为关键点局部分叉特征分类预测结果。
2.如权利要求1所述的方法,其特征在于,所述对所述测试图像进行预处理,包括统一分辨率、裁剪至预设尺寸、体素灰度值归一化。
3.如权利要求1所述的方法,其特征在于,预先训练所述多任务深度学习网络,包括:获取包含与所述测试图像同一血管类型的三维血管造影图像作为原始数据集;对所述原始数据集进行所述预处理,并获取预处理后的数据集对应的标注结果,其中,所述标注结果包括血管解剖学关键点标注结果、血管二值分割标注结果和血管段语义分割标注结果;根据预处理后的数据集和对应的标注结果生成训练数据集;构建所述多任务深度学习网络,并使用所述训练数据集对所述多任务深度学习网络进行训练,得到训练后的多任务深度学习网络。
4.如权利要求3所述的方法,其特征在于,所述获取预处理后的数据集对应的标注结果,包括:使用医学图像处理软件,通过人工对预处理后的数据集中的每张图像标注预定义的血管解剖学关键点和血管二值分割两部分,其中,血管解剖学关键点标注结果为各关键点对应的三维坐标,血管二值分割标注结果为与图像相同大小的逐体素二值图;基于所述血管解剖学关键点和血管二值分割的标注结果,使用自动化方法生成数据集中每张图像对应的血管段语义分割标注结果。
5.如权利要求4所述的方法,其特征在于,所述基于所述血管解剖学关键点和血管二值分割标注结果,使用自动化方法生成数据集中每张图像对应的血管段语义分割标注结果,包括:使用细化算法由所述血管二值分割标注结果得到对应的管腔中心线,并依据解剖学关键点标注将中心线划分为不同的语义段;对血管二值分割标注中的各个血管体素,依据最近的中心线体素确定其语义标签;在医学图像处理软件中对各张图像所得的语义分割自动化标注结果进行手工修正,从而得到最终的语义分割标注结果,其中,所述语义分割自动化标注结果包括所述语义段和所述语义标签。
6.如权利要求3所述的方法,其特征在于,所述根据预处理后的数据集和对应的标注结果生成训练数据集,包括:根据标注结果,对预处理后的数据集中的每张图像进行处理,得到解剖学关键点多通道概率热图、血管段语义分割多通道概率图、血管段缺失分类向量、关键点局部分叉特征分类向量作为图像对应的预测目标;将预处理后的数据集中的每张图像和对应的预测目标构成一个训练数据对,所有的训练数据对共同构成训练数据集。
7.如权利要求6所述的方法,其特征在于,所述根据标注结果,对预处理后的数据集中的每张图像进行处理,得到解剖学关键点多通道概率热图、血管段语义分割多通道概率图、血管段缺失分类向量、关键点局部分叉特征分类向量作为图像对应的预测目标,包括:对数据集中每张预处理后的图像,根据所述血管解剖学关键点的标注结果对各预定义的关键点分别输出一张和输入图像尺寸相等的解剖学关键点多通道概率热图,其中,对各目标关键点,其对应的概率热图以该关键点为中心呈三维高斯分布;根据所述血管段语义分割标注结果生成血管段语义分割多通道概率图,其中,所述血管段语义分割多通道概率图的最后一个通道为背景通道,其余通道分别反映了输入图像中各血管段的位置分布;根据血管段语义分割的标注结果得到血管段缺失分类向量、关键点局部分叉特征分类向量,其中,当血管段语义分割标注结果中某一血管段缺失时,该血管段两端的解剖学关键点失去局部分叉特征,否则该血管段两端的解剖学关键点具有局部分叉特征。
8.如权利要求3所述的方法,其特征在于,所述多任务深度学习网络包括主干部分和四个分支部分,其中,所述主干部分,用于对输入的图像进行特征提取,输出特征图;第一分支,用于对所述特征图进行处理,生成解剖学关键点多通道概率热图的预测结果;第二分支,用于对所述特征图进行处理,生成血管段语义分割多通道概率图的预测结果;第三分支,用于对所述特征图进行处理,生成血管段缺失分类向量的预测结果;第四分支,用于对所述特征图进行处理,生成关键点局部分叉特征分类向量的预测结果。
9.如权利要求6所述的方法,其特征在于,所述使用所述训练数据集训练初始化后的网络,包括:步骤S1:从所述训练数据集中随机选取一个训练数据对,将训练数据对中的经过预处理后的三维血管造影图像输入构建的多任务深度学习网络中,获取网络各分支的输出结果为预测结果;步骤S2:将所述预测结果和所述训练数据对中的预测目标输入到损失函数中,得到损失函数值;步骤S3:基于计算得到的损失函数值使用梯度下降法最小化损失函数,调整网络参数;步骤S4:重复进行步骤S1、步骤S2、步骤S3、步骤S4,不断调整网络参数,当训练次数超过设定的上限次数时,完成训练,确定多任务深度学习网络参数,得到训练好的多任务深度学习网络。
10.一种三维血管造影图像中解剖学关键点的检测装置,其特征在于,包括获取模块、处理模块、结果生成模块,其中,所述获取模块,用于获取三维血管造影图像作为测试图像;所述处理模块,用于对所述测试图像进行预处理,并将预处理后的图像输入到预先训练的多任务深度学习网络中,输出解剖学关键点预测概率图、血管段语义分割多通道概率图、血管段缺失分类向量、关键点局部分叉特征分类向量,其中,所述多任务深度学习网络是以包含与所述测试图像同一血管类型的三维血管造影训练图像以及所述三维血管造影训练图像的标注结果作为训练数据集训练得到的;所述结果生成模块,用于根据所述解剖学关键点预测概率图中体素位置的预测概率,生成解剖学关键点的检测结果;其中,血管段是否缺失与其两端关键点是否具有局部分叉特征一一对应,当血管段语义分割标注中某一血管段缺失时,该血管段两端的解剖学关键点失去局部分叉特征;当某一血管段存在时,该血管段两端的解剖学关键点具有局部分叉特征;在训练时,血管段缺失分类与关键点局部分叉特征分类的预测目标的生成过程包括:将血管段缺失分类和关键点局部分叉特征分类处理为多个相互独立的二分类任务,对预定义的N个解剖学关键点和S个血管段,关键点局部分叉特征分类和血管段缺失分类的预测目标分别为长度为N和S的向量y N 和y S ,向量中各元素的值反映了各关键点是否具有局部分叉特征、各血管段是否存在;所述多任务深度学习网络的损失函数表示为:L=L 1 +αL 2 +β(L 3 +L 4 )+γL self (0<α,β<1)其中,L 1 、L 2 、L 3 、L 4 分别为解剖学关键点检测、血管段语义分割、血管段缺失分类和关键点局部分叉特征分类任务的损失函数,L 3 、L 4 为交叉熵损失函数,α、β、γ为超参数,L self 为一致性损失函数,其中,上标i表示向量中第i个元素,θ为所有可能因血管变异而造成局部分叉特征变化的关键点序号集合, 表示由血管段缺失分类的预测结果 推导出的相对应的关键点局部分叉特征类别, 为关键点局部分叉特征分类预测结果。



