CN116309428A - 一种感兴趣区域确定方法、装置、存储介质及电子设备 - Google Patents
一种感兴趣区域确定方法、装置、存储介质及电子设备 Download PDFInfo
- Publication number
- CN116309428A CN116309428A CN202310240486.5A CN202310240486A CN116309428A CN 116309428 A CN116309428 A CN 116309428A CN 202310240486 A CN202310240486 A CN 202310240486A CN 116309428 A CN116309428 A CN 116309428A
- Authority
- CN
- China
- Prior art keywords
- interest
- region
- medical image
- point
- points
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/20—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Theoretical Computer Science (AREA)
- Medical Informatics (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Biomedical Technology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Radiology & Medical Imaging (AREA)
- Multimedia (AREA)
- Quality & Reliability (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Pathology (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Epidemiology (AREA)
- Primary Health Care (AREA)
- Apparatus For Radiation Diagnosis (AREA)
Abstract
本说明书公开了一种感兴趣区域确定方法、装置、存储介质及电子设备。在本说明书提供的感兴趣区域确定方法中,获取包含病灶的医学图像,并将医学图像展示给用户;响应于用户在医学图像上的初始指定操作,确定初始指定操作在医学图像上对应的初始位置,并根据初始位置确定初始感兴趣区域;根据医学图像与初始感兴趣区域,通过预先训练的预测模型输出待定感兴趣区域;响应于用户在医学图像上的后续指定操作,确定后续指定操作在医学图像上对应的后续位置,并将后续位置在医学图像上对应的点确定为特征点;通过预测模型根据特征点对待定感兴趣区域进行调整,并将调整后的待定感兴趣区域确定为预测感兴趣区域。
Description
技术领域
本说明书涉及计算机技术领域,尤其涉及一种感兴趣区域确定方法、装置、存储介质及电子设备。
背景技术
在医学领域中,对医学图像中的病灶区域进行确定,也就是确定出医学图像中的感兴趣区域是一种常见的辅助医疗手段。通常情况下,由于疾病的复杂程度较高,往往需要具有专业知识的技术人员对医学图像进行人工标注。
不难想到,现有的人工标注的方式需要消耗大量的时间与精力,人力成本较高;同时,不同技术人员之间不可避免地存在个体差异,很难保证不同技术人员的标注的一致性。
因此,如何减少标注感兴趣区域时的人工操作是一个亟待解决的问题。
发明内容
本说明书提供一种感兴趣区域确定方法、装置、存储介质及电子设备,以部分的解决现有技术存在的上述问题。
本说明书采用下述技术方案:
本说明书提供了一种感兴趣区域确定方法,包括:
获取包含病灶的医学图像,并将所述医学图像展示给用户;
响应于所述用户在所述医学图像上的初始指定操作,确定所述初始指定操作在所述医学图像上对应的初始位置,并根据所述初始位置确定初始感兴趣区域;
根据医学图像与所述初始感兴趣区域,通过预先训练的预测模型输出待定感兴趣区域;
响应于所述用户在所述医学图像上的后续指定操作,确定所述后续指定操作在所述医学图像上对应的后续位置,并将所述后续位置在所述医学图像上对应的点确定为特征点;
通过所述预测模型根据所述特征点对所述待定感兴趣区域进行调整,并将调整后的待定感兴趣区域确定为预测感兴趣区域。
可选地,所述特征点包括正例点或负例点,其中,正例点用于表征用户确定包含在感兴趣区域内的点,负例点用于表征用户确定不包含在感兴趣区域内的点。
可选地,将所述后续位置在所述医学图像上对应的点确定为特征点,具体包括:
向用户展示输入界面,接收用户的输入信息,并根据所述输入信息将所述用户在医学图像上后续指定的位置对应的点确定为正例点或负例点。
可选地,在通过所述预测模型根据所述特征点对所述待定感兴趣区域进行调整之前,所述方法还包括:
根据在所述医学图像上确定出的正例点,确定包含所有正例点的包络框;
当所述用户在所述医学图像上指定的点为负例点时,若所述负例点位于所述包络框内,则返回错误提示。
可选地,预先训练预测模型,具体包括:
获取包含病灶的样本医学图像,以及所述样本医学图像的标注感兴趣区域;
在所述样本医学图像中选择一个初始样本正例点,并确定包含所述初始样本正例点的样本待定感兴趣区域;其中,样本正例点为所述标注感兴趣区域中包含的点,样本负例点为所述标注感兴趣区域中未包含的点;
在所述样本医学图像中确定出若干后续样本正例点,根据所有后续样本正例点生成正例点总特征图,并在所述样本医学图像中确定出若干后续样本负例点,根据所有后续样本负例点生成负例点总特征图;
将所述样本待定感兴趣区域、所述正例点总特征图、所述负例点总特征图输入待训练的预测模型,得到所述预测模型输出的预测感兴趣区域;
以所述预测感兴趣区域与所述标注感兴趣区域之间的差异最小为优化目标,对所述预测模型进行训练。
可选地,在所述医学图像中确定出的后续样本正例点的数量与后续样本负例点的数量之和为指定数量。
可选地,根据所有后续样本正例点生成正例点总特征图,具体包括:
针对每个后续样本正例点,确定该后续样本正例点在所述样本医学图像上的特征图;
根据各后续样本正例点的特征图,生成正例点总特征图;
根据所有后续样本负例点生成负例点总特征图,具体包括:
针对每个后续样本负例点,确定该后续样本负例点在所述样本医学图像上的特征图;
根据各后续样本负例点的特征图,生成负例点总特征图。
可选地,以特征图的形式表示所述正例点总特征图以及所述负例点总特征图;
针对正例点总特征图中的每个像素点,该像素点的像素值为:该像素点在各正例点对应的特征图中的最大像素值;
针对负例点总特征图中的每个像素点,该像素点的像素值为:该像素点在各负例点对应的特征图中的最大像素值。
本说明书提供了一种感兴趣区域确定装置,包括:
获取模块,用于获取包含病灶的医学图像,并将所述医学图像展示给用户;
第一响应模块,用于响应于所述用户在所述医学图像上的初始指定操作,确定所述初始指定操作在所述医学图像上对应的初始位置,并根据所述初始位置确定初始感兴趣区域;
输出模块,用于根据医学图像与所述初始感兴趣区域,通过预先训练的预测模型输出待定感兴趣区域;
第二响应模块,用于响应于所述用户在所述医学图像上的后续指定操作,确定所述后续指定操作在所述医学图像上对应的后续位置,并将所述后续位置在所述医学图像上对应的点确定为特征点;
调整模块,用于通过所述预测模型根据所述特征点对所述待定感兴趣区域进行调整,并将调整后的待定感兴趣区域确定为预测感兴趣区域。
本说明书提供了一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述感兴趣区域确定方法。
本说明书提供了一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现上述感兴趣区域确定方法。
本说明书采用的上述至少一个技术方案能够达到以下有益效果:
在本说明书提供的感兴趣区域确定方法中,获取包含病灶的医学图像,并将所述医学图像展示给用户;响应于所述用户在所述医学图像上的初始指定操作,确定所述初始指定操作在所述医学图像上对应的初始位置,并根据所述初始位置确定初始感兴趣区域;根据医学图像与所述初始感兴趣区域,通过预先训练的预测模型输出待定感兴趣区域;响应于所述用户在所述医学图像上的后续指定操作,确定所述后续指定操作在所述医学图像上对应的后续位置,并将所述后续位置在所述医学图像上对应的点确定为特征点;通过所述预测模型根据所述特征点对所述待定感兴趣区域进行调整,并将调整后的待定感兴趣区域确定为预测感兴趣区域。
在采用本说明书提供的感兴趣区域确定方法时,可首先根据用户的初始指定操作确定出初始感兴趣区域,并通过预测模型根据初始感兴趣区域输出待定感兴趣区域;随后根据用户的后续指定操作确定出特征点,并通过预测根据特征点对待定感兴趣区域进行调整,得到预测感兴趣区域。结合用户操作与预先训练的预测模型,实现了对感兴趣区域的半自动化确定;在本方法的实现过程中,用户只需要做出简单的操作,即可确定出感兴趣区域,大大减少了用户在标注感兴趣区域的过程中的工作量。
附图说明
此处所说明的附图用来提供对本说明书的进一步理解,构成本说明书的一部分,本说明书的示意性实施例及其说明用于解释本说明书,并不构成对本说明书的不当限定。在附图中:
图1为本说明书中提供的一种感兴趣区域确定方法的流程示意图;
图2为本说明书提供的一种根据正例点对待定感兴趣区域进行扩大调整的过程示意图;
图3为本说明书提供的一种根据负例点对待定感兴趣区域进行缩小调整的过程示意图;
图4为本说明书提供的一种感兴趣区域确定装置的示意图;
图5为本说明书提供的一种对应于图1的电子设备示意图。
具体实施方式
为使本说明书的目的、技术方案和优点更加清楚,下面将结合本说明书具体实施例及相应的附图对本说明书技术方案进行清楚、完整地描述。显然,所描述的实施例仅是本说明书一部分实施例,而不是全部的实施例。基于本说明书中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本说明书保护的范围。
以下结合附图,详细说明本说明书各实施例提供的技术方案。
图1为本说明书中提供的一种感兴趣区域确定方法的流程示意图,包括以下步骤:
S100:获取包含病灶的医学图像,并将所述医学图像展示给用户。
在本说明书中,用于实现感兴趣区域确定方法的执行主体,可以指服务器等设置于业务平台的指定设备,为了便于描述,本说明书仅以服务器是执行主体为例,对本说明书提供的一种代码感兴趣区域预测方法进行说明。
在本申请提供的感兴趣区域确定方法中,感兴趣区域可以是一个在图像中需要重点关注的目标物及其周围的区域。其中,目标物可以是任意实体。为便于理解,在本说明书中以医学领域中确定医学图像中的感兴趣区域的应用场景为例进行说明。在本说明书提供的实施例中,目标物可以是病灶,感兴趣区域即为病灶及病灶周围的区域,也就是医学领域中的病灶框。
通常情况下,病灶框是以医学图像为基础,在医学图像上确定出的感兴趣区域。因此,在此步骤中,可首先获取包含病灶的医学图像,并将医学图像展示给用户。其中,医学图像可以是在医学领域中使用的任何包含病灶的图像,包括但不限于X射线成像、电子计算机断层扫描成像(Computed Tomography,CT)、核磁共振成像(Magnetic Resonance Imaging,MRI)、超声图像、放射性核素显像等;用户可以是任何具有能力对医学图像中的病灶框进行标注的人员,通常为具有专业医学知识的医生、教授等。
S102:响应于所述用户在所述医学图像上的初始指定操作,确定所述初始指定操作在所述医学图像上对应的初始位置,并根据所述初始位置确定初始感兴趣区域。
本说明书所提供的感兴趣区域确定方法主要用于实现对感兴趣区域的半人工半自动标注,也就是通过少量的人工操作辅助预测模型输出感兴趣区域。因此在采用模型确定出感兴趣区域前,需要响应于用户操作在医学图像上给出一个初始的区域,用以辅助模型去更好地确定出感兴趣区域。
基于此,可在此步骤中,首先响应于用户在医学图像上的初始指定操作,确定出初始指定操作在医学图像上对应的初始位置。其中,用户的初始指定操作可包括但不限于单击、双击、长按等任意能够在医学图像上确定出一个位置的操作。将初始指定操作在医学图像上对应的位置作为初始位置,即可根据初始位置确定出初始感兴趣区域。
根据初始位置确定初始感兴趣区域的方法可存在多种,本说明书在此给出一种实施例以供参考。具体的,可以将初始位置为中心,确定出一个指定大小、指定形状的初始感兴趣区域。其中,指定大小和指定形状均可根据具体需求进行确定,指定形状可以是规则形状,也可以是不规则形状。不难想到,虽然每个不同的病灶的大小、形状可能都不相同,但对于许多同一种病症下对应的病灶,其每个病例中病灶的大小和性状可能不会相差太多,因此可根据不同类型的病症确定出不同的指定大小和指定形状。额外的,初始位置也可不作为中心,而是只要包含在确定出的初始感兴趣区域内即可。
在此步骤中,基于用户的初始指定操作确定出的初始感兴趣区域,其作用为帮助预测模型确定需要重点关注的病灶区域,也就是人为地告知预测模型病灶所在的位置。当前,仅通过初始位置来帮助预测模型确定病灶所在的位置也是可行的,但为了提高预测模型的预测效果,在本说明书提供的感兴趣区域确定方法中,选择了效果较好的通过初始感兴趣区域辅助模型对包含病灶的感兴趣区域进行预测的方法。
S104:根据医学图像与所述初始感兴趣区域,通过预先训练的预测模型输出待定感兴趣区域。
根据医学图像和步骤S102中确定出的初始感兴趣区域,可在此步骤中通过预先训练的预测模型输出待定感兴趣区域。
将初始感兴趣区域以及医学图像输入到预测模型中,预测模型可经过处理与计算后输出预测出的待定感兴趣区域。其中,待定感兴趣区域的大小与医学图像中病灶的大小相关,而为了能够较为直观地给出待定感兴趣区域,待定感兴趣区域的形状通常为常见的规则形状,并且根据训练时的不同需求,形状可以是二维的形状,例如长方形、正方形、圆形等,也可以是三维的形状,例如长方体、正方体、球体等,本说明书对此不做具体限制。在医学图像固定不变的情况下,可采用一组数据的形式来表示出待定感兴趣区域,数据中可包括待定感兴趣区域的中心点在医学图像中的位置坐标,以及待定感兴趣区域的大小。同时,在医学图像中也可以高亮区域或边框的形式表示出待定感兴趣区域。
S106:响应于所述用户在所述医学图像上的后续指定操作,确定所述后续指定操作在所述医学图像上对应的后续位置,并将所述后续位置在所述医学图像上对应的点确定为特征点。
正如背景技术中提到的,在医学领域中,由于病灶区域对于机器来说识别较为困难,因此即使在专业人员的辅助下,预测模型也很难根据初始感兴趣区域直接非常准确地预测出感兴趣区域。因此,在步骤S104中预测模型输出待定感兴趣区域后,仍需要用户进一步辅助预测模型确定出更加准确的感兴趣区域。
首先,可响应于用户在医学图像上的后续指定操作,确定出后续指定操作在医学图像上对应的后续位置。与步骤S102中确定初始位置时相似的,在此步骤中,用户在医学图像上的后续指定操作也同样可以是单击、双击、长按等任意能够在医学图像中确定出一个位置的操作。将根据用户的后续指定操作在医学图像上确定出的位置确定为后续位置。
对于确定出的后续位置,可将后续位置在医学图像上对应的点确定为特征点。特征点可用于帮助预测模型进一步确定出更加准确的感兴趣区域。
具体的,所述特征点可包括正例点或负例点,其中,正例点用于表征用户确定包含在感兴趣区域内的点,负例点用于表征用户确定不包含在感兴趣区域内的点。
对于根据用户的后续指定操作确定出的任何一个特征点,都可分为正例点或负例点中的其中一种。其中,正例点为用户确定包含在感兴趣区域内的点,负例点为用户确定不包含在感兴趣区域内的点。换句话说,如果让用户自身去划分感兴趣区域,那么正例点一定会在用户划分出的感兴趣区域内,负例点一定会在用户划分出的感兴趣区域外。
在实际应用中,可通过多种方式确定出一个特征点为正例点还是负例点,本说明书在此给出一种具体实施例以供参考。具体的,在将所述后续位置在所述医学图像上对应的点确定为特征点时,可向用户展示输入界面,接收用户的输入信息,并根据所述输入信息将所述用户在医学图像上后续指定的位置对应的点确定为正例点或负例点。
在确定出一个特征点后,可向用户展示输入界面并接收用户的输入信息,根据输出信息确定特征点为正例点或负例点。其中,输入界面中向用户展示的输入方式可存在多种,包括但不限于文本输入、语音输入,或是选择形式的按键输入等方式。其中,文本或语音等能够获取到用户输入的文本内容的输入方式,可采用预先设置输入规则的方式,例如用户输入“1”代表正例点,输入“0”代表负例点,其他内容则输入无效,通知用户重新输入;还可采用识别用户的输入内容是否包含关键字的方式,例如若用户的输入内容中包含“正”则确定为正例点,包含“负”则确定为负例点,都包含或都不包含则输入无效。而选择形式的按键输入可以在展示的输入界面中给出分别表示“正例点”与“负例点”的两个选项的按键,根据用户的选择将特征点对应地确定为正例点或负例点。
S108:通过所述预测模型根据所述特征点对所述待定感兴趣区域进行调整,并将调整后的待定感兴趣区域确定为预测感兴趣区域。
在此步骤中,可通过预测模型,根据步骤S106中确定出的特征点,对待定感兴趣区域进行调整,得到最终的预测感兴趣区域。
进一步的,在将特征点确定为正例点或负例点的情况下,可通过预测模型根据正例点和负例点对待定感兴趣区域进行调整。具体的,当确定出的特征点为正例点时,预测模型可根据正例点在医学图像中的位置,对待定感兴趣区域进行扩大;当确定出的特征点为负例点时,预测模型可根据负例点在医学图像中的位置,对待定感兴趣区域进行缩小。
举例来说,图2为预测模型根据正例点对待定感兴趣区域进行扩大调整的过程示意图。如图2所示,图中十字线交叉位置处较小的点表示根据用户初始指定操作确定的初始位置,长方形边框表示感兴趣区域的边框,其内部为感兴趣区域,较大的实心圆点表示感兴趣区域的中心点,空心圆点表示确定出的为正例点的特征点。在图2中左侧的医学图像中,边框内的区域为预测模型根据初始感兴趣区域生成的待定感兴趣区域,边框外的特征点为根据用户后续指定操作确定出的为正例点的特征点,根据上述信息,预测模型可对待定感兴趣区域进行扩大调整,调整后的结果为图2右侧的医学图像中长方形边框所示的预测感兴趣区域。
再例如,图3为预测模型根据负例点对待定感兴趣区域进行缩小调整的过程示意图。如图3所示,图中十字线交叉位置处较小的点表示根据用户初始指定操作确定的初始位置,长方形边框表示感兴趣区域的边框,其内部为感兴趣区域,较大的浅色实心圆点表示感兴趣区域的中心点,较大的深色实心圆点表示确定出的为负例点的特征点。在图3中左侧的医学图像中,边框内的区域为预测模型根据初始感兴趣区域生成的待定感兴趣区域,边框内的特征点为根据用户后续指定操作确定出的为负例点的特征点,根据上述信息,预测模型可对待定感兴趣区域进行缩小调整,调整后的结果为图3右侧的医学图像中长方形边框所示的预测感兴趣区域。
根据确定出的特征点以及待定感兴趣区域,便能够通过预测模型对待定感兴趣区域进行调整,得到最终的预测感兴趣区域。
实际上,当预测模型根据特征点对待定感兴趣区域进行一次调整后,依然无法保证得到的感兴趣区域是最准确的,因此,可进一步的,在调整的过程中可多次确定特征点,并进行多次调整,直到用户确定调整完毕。
具体的,在对待定感兴趣区域进行调整后,可向用户展示询问界面,并询问用户是否结束调整。当用户选择“是”时,可将本次调整后的感兴趣区域确定为最终的预测感兴趣区域,并结束对感兴趣区域的预测;当用户选择“否”时,则将调整后的待定感兴趣区域展示在医学图像中,并重新响应于用户在医学图像上的后续指定操作,确定特征点并根据特征点调整待定感兴趣区域,也就是重新执行步骤S106~S108,直到用户选择“是”,结束对待定感兴趣区域的调整。
在上述对待定感兴趣区域进行多次调整的情况下,不得不考虑到的一点是,用户给出的的每个特征点应符合基本逻辑,不存在错误。因此,当每一次确定出特征点后,对待定感兴趣区域进行调整之前,可根据在所述医学图像上确定出的正例点,确定包含所有正例点的包络框;当所述用户在所述医学图像上指定的点为负例点时,若所述负例点位于所述包络框内,则返回错误提示。其中,包含所有正例点的包络框可以是能够将已经确定出的所有正例点全部包括在内的面积最小的图形的边框。
可以想到,在正常情况下,一个病灶应是一个单独的完整且连续的目标物,不会出现空心或部分分离的情况。当一个病例下存在两个完全分离的部分的病灶时,应当做两个病灶来处理,确定出两个相应的感兴趣区域。因此,在一个病灶对应的感兴趣区域中,也不会出现分离或空心的感兴趣区域。在上述情况下,包含已经确定出的所有正例点的包络框内的区域应该全部为感兴趣区域的一部分,如果在包络框内的区域中出现了负例点,那么可以认为是用户出现了误操作,向用户返回错误提示。
在采用本说明书提供的感兴趣区域确定方法时,可首先根据用户的初始指定操作确定出初始感兴趣区域,并通过预测模型根据初始感兴趣区域输出待定感兴趣区域;随后根据用户的后续指定操作确定出特征点,并通过预测根据特征点对待定感兴趣区域进行调整,得到预测感兴趣区域。结合用户操作与预先训练的预测模型,实现了对感兴趣区域的半自动化确定;在本方法的实现过程中,用户只需要做出简单的操作,即可确定出感兴趣区域,大大减少了用户在标注感兴趣区域的过程中的工作量。
额外的,在本说明书提供的感兴趣区域确定方法中采用的预测模型可预先进行训练。其训练过程,可具体的,获取包含病灶的样本医学图像,以及所述样本医学图像的标注感兴趣区域;在所述样本医学图像中选择一个初始样本正例点,并确定包含所述初始样本正例点的样本待定感兴趣区域;其中,样本正例点为所述标注感兴趣区域中包含的点,样本负例点为所述标注感兴趣区域中未包含的点;在所述样本医学图像中确定出若干后续样本正例点,根据所有后续样本正例点生成正例点总特征图,并在所述样本医学图像中确定出若干后续样本负例点,根据所有后续样本负例点生成负例点总特征图;将所述样本待定感兴趣区域、所述正例点总特征图、所述负例点总特征图输入待训练的预测模型,得到所述预测模型输出的预测感兴趣区域;以所述预测感兴趣区域与所述标注感兴趣区域之间的差异最小为优化目标,对所述预测模型进行训练。
在训练时,可将历史中已经完成过对感兴趣区域进行标注的医学图像,或是医生在实际工作中确定出了感兴趣区域的医学图像,作为包含病灶的样本医学图像以及对应的标注感兴趣区域进行使用。在训练过程中,样本正例点为样本医学图像上标注感兴趣区域中包含的点,样本负例点为样本医学图像上标注感兴趣区域中不包含的点。
其中,初始样本正例点可以是样本待定感兴趣区域中的任一点。样本待定感兴趣区域的大小可以根据具体需求进行预先设置,本说明书对此不做具体限制。为了保证预测模型的训练效果,并防止过拟合的产生,在训练时确定出的后续样本正例点的数量与后续样本负例点的数量之和可以为指定数量。其中,根据对预测模型的不同需求,指定数量可以任意进行设置,本说明书对此不做具体限制。
根据所有的后续样本正例点可确定出正例点总特征图,同样的,根据所有的后续样本负例点可确定出负例点总特征图。其中,正例点总特征图和负例点总特征图分别表示所有后续样本正例点在医学图像上的特征图,以及所有后续样本负例点在医学图像上的特征图。在根据所有后续样本正例点生成正例点总特征图时,可具体的,针对每个后续样本正例点,确定该后续样本正例点在所述样本医学图像上的特征图;根据各后续样本正例点的特征图,生成正例点总特征图。同样的,在根据所有后续样本负例点生成负例点总特征图时,可具体的,针对每个后续样本负例点,确定该后续样本负例点在所述样本医学图像上的特征图;根据各后续样本负例点的特征图,生成负例点总特征图。其中,一个正例点或者负例点产生的特征图是由其位置以及特征图的大小决定的,计算过程中利用高斯核函数,正例点或者负例点为高斯核函数的中心,计算得到特征图上每一个点的像素值。特征图上的最大值在正例点或者负例点在医学图像中所处的位置上取得,其值接近于1。这种特征图可以体现出正例点或者负例点在所述样本医学图像上的位置分布,因此正例点总特征图可以是各正例点在医学图像上的总分布,负例点总特征图可以是各负例点在医学图像上的总分布。
在上述情况下,针对正例点总分布中的每个像素点,该像素点的像素值为:该像素点在各正例点对应的特征图中的最大像素值;针对负例点总分布中的每个像素点,该像素点的像素值为:该像素点在各负例点对应的特征图中的最大像素值。
当特征图上的像素点的取值范围在(0,1)时,可将特征点的特征图看作为一种概率分布。正例点总分布可根据每个单独正例点的概率分布得到,负例点总分布可根据每个单独负例点的概率分布得到。其中,概率分布可以是通过高斯核函数得到的分布,且每个特征点的概率分布以及总分布均可采用特征图的形式来表示。在一个特征点的特征图中,特征图上的一个像素点的像素值可理解为该特征点位于该像素点上的概率。而在正例点或负例点的总特征图中,特征图上的一个像素点的像素值可理解为该像素点上存在特征点的概率。而无论是一个特征点的特征图还是一种特征点的总特征图,都是在样本医学图像的基础上生成的,也就是说,各特征图中的像素点的位置都是相互对应的,一个像素点在各特征图中所处的位置固定不变。
因此,可在确定正例点总特征图时,将每个像素点的像素值确定为该像素点在各正例点的概率分布对应的特征图中的最大像素值,也就是该像素点上可能存在正例点的最大概率;同理,在确定负例点总分不时,将每个像素点的像素值确定为该像素点在各负例点的概率分布对应的特征图中的最大像素值,也就是该像素点上可能存在负例点的最大概率。
需要注意的是,当特征图中的每个像素点的取值范围不为(0,1)时,特征图中每个像素点的像素值就不再能够表示概率,仅能够表示该点的像素值本身。此时,可将特征图看作为一种热度图。但是,特征图中的每个像素点的像素值依然可通过高斯核函数计算得到,可将通过高斯核函数得到的特征图中每个位置的概率映射到像素值可取值范围的最大值上,得到该位置上的像素点的像素值。
以上为本说明书提供的一个或多个实施感兴趣区域确定的方法,基于同样的思路,本说明书还提供了相应的感兴趣区域确定装置,如图4所示。
图4为本说明书提供的一种感兴趣区域确定装置的示意图,包括:
获取模块200,用于获取包含病灶的医学图像,并将所述医学图像展示给用户;
第一响应模块202,用于响应于所述用户在所述医学图像上的初始指定操作,确定所述初始指定操作在所述医学图像上对应的初始位置,并根据所述初始位置确定初始感兴趣区域;
输出模块204,用于根据医学图像与所述初始感兴趣区域,通过预先训练的预测模型输出待定感兴趣区域;
第二响应模块206,用于响应于所述用户在所述医学图像上的后续指定操作,确定所述后续指定操作在所述医学图像上对应的后续位置,并将所述后续位置在所述医学图像上对应的点确定为特征点;
调整模块208,用于通过所述预测模型根据所述特征点对所述待定感兴趣区域进行调整,并将调整后的待定感兴趣区域确定为预测感兴趣区域。
可选地,所述特征点包括正例点或负例点,其中,正例点用于表征用户确定包含在感兴趣区域内的点,负例点用于表征用户确定不包含在感兴趣区域内的点。
可选地,所述第二响应模块206,具体用于向用户展示输入界面,接收用户的输入信息,并根据所述输入信息将所述用户在医学图像上后续指定的位置对应的点确定为正例点或负例点。
可选地,所述装置还包括提示模块210,具体用于根据在所述医学图像上确定出的正例点,确定包含所有正例点的包络框;当所述用户在所述医学图像上指定的点为负例点时,若所述负例点位于所述包络框内,则返回错误提示。
可选地,所述装置还包括训练模块212,具体用于获取包含病灶的样本医学图像,以及所述样本医学图像的标注感兴趣区域;在所述样本医学图像中选择一个初始样本正例点,并确定包含所述初始样本正例点的样本待定感兴趣区域;其中,样本正例点为所述标注感兴趣区域中包含的点,样本负例点为所述标注感兴趣区域中未包含的点;在所述样本医学图像中确定出若干后续样本正例点,根据所有后续样本正例点生成正例点总特征图,并在所述样本医学图像中确定出若干后续样本负例点,根据所有后续样本负例点生成负例点总特征图;将所述样本待定感兴趣区域、所述正例点总特征图、所述负例点总特征图输入待训练的预测模型,得到所述预测模型输出的预测感兴趣区域;以所述预测感兴趣区域与所述标注感兴趣区域之间的差异最小为优化目标,对所述预测模型进行训练.
可选地,在所述医学图像中确定出的后续样本正例点的数量与后续样本负例点的数量之和为指定数量。
可选地,所述训练模块212,具体用于针对每个后续样本正例点,确定该后续样本正例点在所述样本医学图像上的特征图;根据各后续样本正例点的特征图,生成正例点总特征图;针对每个后续样本负例点,确定该后续样本负例点在所述样本医学图像上的特征图;根据各后续样本负例点的特征图,生成负例点总特征图。
可选地,以特征图的形式表示所述特征图、所述正例点总特征图以及所述负例点总特征图;针对正例点总特征图中的每个像素点,该像素点的像素值为:该像素点在各正例点对应的特征图中的最大像素值;针对负例点总特征图中的每个像素点,该像素点的像素值为:该像素点在各负例点对应的特征图中的最大像素值。
本说明书还提供了一种计算机可读存储介质,该存储介质存储有计算机程序,计算机程序可用于执行上述图1提供的一种感兴趣区域确定方法。
本说明书还提供了图5所示的一种对应于图1的电子设备的示意结构图。如图5所述,在硬件层面,该电子设备包括处理器、内部总线、网络接口、内存以及非易失性存储器,当然还可能包括其他业务所需要的硬件。处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行,以实现上述图1所述的感兴趣区域确定方法。当然,除了软件实现方式之外,本说明书并不排除其他实现方式,比如逻辑器件抑或软硬件结合的方式等等,也就是说以下处理流程的执行主体并不限定于各个逻辑单元,也可以是硬件或逻辑器件。
在20世纪90年代,对于一个技术的改进可以很明显地区分是硬件上的改进(例如,对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而,随着技术的发展,当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此,不能说一个方法流程的改进就不能用硬件实体模块来实现。例如,可编程逻辑器件(Programmable Logic Device,PLD)(例如现场可编程门阵列(Field Programmable GateArray,FPGA))就是这样一种集成电路,其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上,而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且,如今,取代手工地制作集成电路芯片,这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现,它与程序开发撰写时所用的软件编译器相类似,而要编译之前的原始代码也得用特定的编程语言来撰写,此称之为硬件描述语言(Hardware Description Language,HDL),而HDL也并非仅有一种,而是有许多种,如ABEL(Advanced Boolean Expression Language)、AHDL(Altera Hardware DescriptionLanguage)、Confluence、CUPL(Cornell University Programming Language)、HDCal、JHDL(Java Hardware Description Language)、Lava、Lola、MyHDL、PALASM、RHDL(RubyHardware Description Language)等,目前最普遍使用的是VHDL(Very-High-SpeedIntegrated Circuit Hardware Description Language)与Verilog。本领域技术人员也应该清楚,只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中,就可以很容易得到实现该逻辑方法流程的硬件电路。
控制器可以按任何适当的方式实现,例如,控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit,ASIC)、可编程逻辑控制器和嵌入微控制器的形式,控制器的例子包括但不限于以下微控制器:ARC625D、Atmel AT91SAM、Microchip PIC18F26K20以及Silicone Labs C8051F320,存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道,除了以纯计算机可读程序代码方式实现控制器以外,完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件,而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至,可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
上述实施例阐明的系统、装置、模块或单元,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的,计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便,描述以上装置时以功能分为各种单元分别描述。当然,在实施本说明书时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白,本说明书的实施例可提供为方法、系统、或计算机程序产品。因此,本说明书可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书是参照根据本说明书实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白,本说明书的实施例可提供为方法、系统或计算机程序产品。因此,本说明书可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本说明书的实施例而已,并不用于限制本说明书。对于本领域技术人员来说,本说明书可以有各种更改和变化。凡在本说明书的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本说明书的权利要求范围之内。
Claims (10)
1.一种感兴趣区域确定方法,其特征在于,包括:
获取包含病灶的医学图像,并将所述医学图像展示给用户;
响应于所述用户在所述医学图像上的初始指定操作,确定所述初始指定操作在所述医学图像上对应的初始位置,并根据所述初始位置确定初始感兴趣区域;
根据医学图像与所述初始感兴趣区域,通过预先训练的预测模型输出待定感兴趣区域;
响应于所述用户在所述医学图像上的后续指定操作,确定所述后续指定操作在所述医学图像上对应的后续位置,并将所述后续位置在所述医学图像上对应的点确定为特征点;
通过所述预测模型根据所述特征点对所述待定感兴趣区域进行调整,并将调整后的待定感兴趣区域确定为预测感兴趣区域。
2.如权利要求1所述的方法,其特征在于,所述特征点包括正例点或负例点,其中,正例点用于表征用户确定包含在感兴趣区域内的点,负例点用于表征用户确定不包含在感兴趣区域内的点。
3.如权利要求2所述的方法,其特征在于,将所述后续位置在所述医学图像上对应的点确定为特征点,具体包括:
向用户展示输入界面,接收用户的输入信息,并根据所述输入信息将所述用户在医学图像上后续指定的位置对应的点确定为正例点或负例点。
4.如权利要求2所述的方法,其特征在于,在通过所述预测模型根据所述特征点对所述待定感兴趣区域进行调整之前,所述方法还包括:
根据在所述医学图像上确定出的正例点,确定包含所有正例点的包络框;
当所述用户在所述医学图像上指定的点为负例点时,若所述负例点位于所述包络框内,则返回错误提示。
5.如权利要求1所述的方法,其特征在于,预先训练预测模型,具体包括:
获取包含病灶的样本医学图像,以及所述样本医学图像的标注感兴趣区域;
在所述样本医学图像中选择一个初始样本正例点,并确定包含所述初始样本正例点的样本待定感兴趣区域;其中,样本正例点为所述标注感兴趣区域中包含的点,样本负例点为所述标注感兴趣区域中未包含的点;
在所述样本医学图像中确定出若干后续样本正例点,根据所有后续样本正例点生成正例点总特征图,并在所述样本医学图像中确定出若干后续样本负例点,根据所有后续样本负例点生成负例点总特征图;
将所述样本待定感兴趣区域、所述正例点总特征图、所述负例点总特征图输入待训练的预测模型,得到所述预测模型输出的预测感兴趣区域;
以所述预测感兴趣区域与所述标注感兴趣区域之间的差异最小为优化目标,对所述预测模型进行训练。
6.如权利要求5所述的方法,其特征在于,在所述医学图像中确定出的后续样本正例点的数量与后续样本负例点的数量之和为指定数量。
7.如权利要求5所述的方法,其特征在于,根据所有后续样本正例点生成正例点总特征图,具体包括:
针对每个后续样本正例点,确定该后续样本正例点在所述样本医学图像上的特征图;
根据各后续样本正例点的特征图,生成正例点总特征图;
根据所有后续样本负例点生成负例点总特征图,具体包括:
针对每个后续样本负例点,确定该后续样本负例点在所述样本医学图像上的特征图;
根据各后续样本负例点的特征图,生成负例点总特征图。
8.如权利要求7所述的方法,其特征在于,针对正例点总特征图中的每个像素点,该像素点的像素值为:该像素点在各正例点对应的特征图中的最大像素值;
针对负例点总特征图中的每个像素点,该像素点的像素值为:该像素点在各负例点对应的特征图中的最大像素值。
9.一种计算机可读存储介质,其特征在于,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述权利要求1~8任一项所述的方法。
10.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现上述权利要求1~8任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310240486.5A CN116309428A (zh) | 2023-03-10 | 2023-03-10 | 一种感兴趣区域确定方法、装置、存储介质及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310240486.5A CN116309428A (zh) | 2023-03-10 | 2023-03-10 | 一种感兴趣区域确定方法、装置、存储介质及电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116309428A true CN116309428A (zh) | 2023-06-23 |
Family
ID=86802655
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310240486.5A Pending CN116309428A (zh) | 2023-03-10 | 2023-03-10 | 一种感兴趣区域确定方法、装置、存储介质及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116309428A (zh) |
-
2023
- 2023-03-10 CN CN202310240486.5A patent/CN116309428A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112784857B (zh) | 一种模型训练以及图像处理方法及装置 | |
CN116187448B (zh) | 一种信息展示的方法、装置、存储介质及电子设备 | |
CN117409466B (zh) | 一种基于多标签控制的三维动态表情生成方法及装置 | |
CN116030247B (zh) | 一种医学图像样本生成方法、装置、存储介质及电子设备 | |
CN116342888B (zh) | 一种基于稀疏标注训练分割模型的方法及装置 | |
CN116167431B (zh) | 一种基于混合精度模型加速的业务处理方法及装置 | |
CN116309428A (zh) | 一种感兴趣区域确定方法、装置、存储介质及电子设备 | |
CN116152246B (zh) | 一种图像识别方法、装置、设备及存储介质 | |
CN116309924B (zh) | 一种模型训练的方法、图像展示的方法及装置 | |
CN116229218B (zh) | 一种模型训练、图像配准方法及装置 | |
CN118570245A (zh) | 一种图像处理的方法、装置、存储介质及电子设备 | |
CN118397435B (zh) | 基于图像识别模型的任务执行方法、装置、介质及设备 | |
CN116188469A (zh) | 一种病灶检测方法、装置、可读存储介质及电子设备 | |
CN117726760B (zh) | 一种用于视频的三维人体重建模型的训练方法及装置 | |
CN117726907B (zh) | 一种建模模型的训练方法、三维人体建模的方法以及装置 | |
CN118037745A (zh) | 一种血栓图像的生成方法、装置、存储介质及电子设备 | |
CN117974503A (zh) | 一种图像处理的方法、装置、存储介质及电子设备 | |
CN118365578A (zh) | 一种ct图像重建的方法及装置、存储介质及电子设备 | |
CN117522799A (zh) | 一种医学图像分析方法、装置、存储介质及电子设备 | |
CN116864064A (zh) | 一种医学影像报告的生成方法、装置及存储介质 | |
CN116309430A (zh) | 一种管状器官的检测方法、装置、存储介质及设备 | |
CN118096638A (zh) | 一种部位识别方法、装置、存储介质及电子设备 | |
CN118587197A (zh) | 一种骨密度的预测方法、装置、存储介质及电子设备 | |
CN118840641A (zh) | 一种多波段图像融合方法、装置、存储介质及设备 | |
CN118195029A (zh) | 一种任务执行方法、装置、存储介质及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |