CN110956633B - 一种基于虚拟立体定位像的快速ct扫描方法及系统 - Google Patents

一种基于虚拟立体定位像的快速ct扫描方法及系统 Download PDF

Info

Publication number
CN110956633B
CN110956633B CN202010118433.2A CN202010118433A CN110956633B CN 110956633 B CN110956633 B CN 110956633B CN 202010118433 A CN202010118433 A CN 202010118433A CN 110956633 B CN110956633 B CN 110956633B
Authority
CN
China
Prior art keywords
image
patient
virtual
scanning
positioning
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010118433.2A
Other languages
English (en)
Other versions
CN110956633A (zh
Inventor
曾凯
傅鹏
何健
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing Anke Medical Technology Co ltd
Original Assignee
Nanjing Anke Medical Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing Anke Medical Technology Co ltd filed Critical Nanjing Anke Medical Technology Co ltd
Priority to CN202010118433.2A priority Critical patent/CN110956633B/zh
Publication of CN110956633A publication Critical patent/CN110956633A/zh
Priority to PCT/CN2020/108845 priority patent/WO2021169191A1/zh
Application granted granted Critical
Publication of CN110956633B publication Critical patent/CN110956633B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/751Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10081Computed x-ray tomography [CT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Medical Informatics (AREA)
  • Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Evolutionary Computation (AREA)
  • Databases & Information Systems (AREA)
  • Multimedia (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Quality & Reliability (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种基于虚拟立体定位像的快速CT扫描方法及系统,方法包括步骤:输入不同角度拍摄的包括待扫描区域在内的病人图像,对病人图像进行关键点检测;输入定位像数据模板并标记出关键点;根据病人图像和定位像数据模板中的关键点,进行匹配计算,获得立体虚拟定位像;根据所述立体虚拟定位像确定病人的CT扫描区域,输出最终的CT图像。本发明利用光学图像生成的虚拟定位像替代传统定位像,减少扫描定位像所需要的时间,进而减少了病人所接受的辐射剂量,而且能够清晰地显示病人的解剖结构,使得医生能够更加精确地定位扫描区域,减轻了医生的工作量。

Description

一种基于虚拟立体定位像的快速CT扫描方法及系统
技术领域
本发明涉及医学成像技术领域,具体涉及一种基于虚拟立体定位像的快速CT扫描方法及系统。
背景技术
目前在CT扫描流程中,为了更加准确的选定扫描区域,需要首先扫描定位像,然后在定位像中选择扫描区域。如图5所示,一般CT流程包括:病人登记;根据扫描需要,采集水平和/或垂直方向的定位像;CT扫描。医生通常根据经验判断病人定位像扫描区域,此方法获得的定位像并不准确。公开号为CN110338835A的中国专利“一种智能扫描立体监测方法及系统”,公开了一种在有辅助相机的场景下,通过相机拍摄待扫描病人位于检测台上的图像、然后对图像进行处理,实现快速准确判断病人定位像扫描区域的方法。其根据不同患者类别信息不同的特点,准确地定位特征点,提高了图像中体位信息的准确性,并进一步判断各部位的移动信息,获得较为准确的定位像,但是其并没有解决如下技术问题:
1、定位像扫描也存在一定的辐射剂量,尤其是对于低剂量CT筛查的协议,定位像扫描的剂量占比达到30-50%左右,对患者极为不利;所以如果能够减少或省略低剂量扫描,就能够大幅度减少患者接受的辐射剂量。
2、正常CT扫描时,机架是连续旋转的,准备时间很短。但是扫描定位像需要机架从运动到停止,直到定位在指定角度后再进行扫描,整个机架的加速、减速和定位均需要时间,因此扫描的准备时间比较长,影响了扫描效率,尤其是在应用双定位像的条件下,不能适应体检、筛查等大规模筛查的需求。
3、在常规的CT扫描中,由于扫描效率和剂量等因素的制约,常常只应用一个定位像,而根据一个定位像来精确确定扫描范围,对医生临床经验要求较高,欠缺临床经验的医生选择的定位像区域可能不够准确,如果重复做定位像扫描,病人可能遭受过多的辐射。
发明内容
技术目的:为解决上述技术问题,本发明提供了一种基于虚拟立体定位像的快速CT扫描方法及系统,利用光学图像生成的虚拟定位像替代传统定位像,减少扫描定位像所需要的时间,进而减少了病人所接受的辐射剂量,而且能够清晰地显示病人的解剖结构,使得医生能够更加精确地定位扫描区域,减轻了医生的工作量。
技术方案:为实现这一技术目的,本发明采用了如下技术方案:
一种基于虚拟立体定位像的快速CT扫描方法,其特征在于,包括步骤:
S1、输入不同角度拍摄的包括待扫描区域在内的病人图像,并对病人图像进行人体部位的关键点检测;
S2、输入人体数据的定位像数据模板,在定位像数据模板中标记出人体部位的关键点;
S3、根据病人图像和定位像数据模板中的关键点,将对应相同部位的关键点作为匹配点,根据匹配点的位置信息进行匹配计算,获得立体虚拟定位像;
S4、根据所述立体虚拟定位像确定病人的CT扫描区域,输出最终的CT图像。
优选地,所述步骤S1中病人图像包括俯视和侧面视角拍摄的图像,步骤S2中定位像数据模板采用CT扫描的人体数据,分别沿冠状面和矢状面对人体数据取平均,冠状面和矢状面方向分别对应俯视和侧面视角。
优选地,所述步骤S3中,匹配计算时,建立用于匹配处理CT图像的变换函数如下:
Figure GDA0002637958050000021
其中,xpic、ypic为病人图像中关键点的横坐标、纵坐标,xct、yct为定位像数据模板中关键点的横坐标、纵坐标,将若干个匹配点的横坐标和纵坐标分别带入变换函数中,使得均方误差最小,计算得到系数k11、k12、k13、k21、k22、k23的值,确定变换函数。
优选地,所述步骤S1中将病人图像输入训练好的神经网络进行关键点检测,方法为:输入病人图像、通过卷积网络提取病人图像中的特征,然后通过上采样输出人体关键部位掩膜。
优选地,所述步骤S1中将病人图像输入训练好的神经网络进行关键点检测,方法为:输入病人图像、通过特征提取网络提取病人图像中的特征,粗略回归计算输出第一关键点坐标;然后对第一关键点坐标根据人体部位进行分类和修正,输出第二关键点坐标。
优选地,所述病人图像包括光学图像和深度图像。
优选地,所述关键点包括双眼、鼻子、嘴角、颈部、双肩、胯部、膝盖、双脚。
本发明还公开了一种基于虚拟立体定位像的快速CT扫描系统,其特征在于,包括:
图像获取模块,用于不同角度拍摄的包括待扫描区域在内的病人图像;
图像处理模块,用于对病人图像进行关键点检测;
CT扫描模块,用于扫描目标对像并获得对应的CT数据;
CT数据标注模块,用于对定位像数据模板进行关键点标记;
虚拟定位像生成模块,用于对病人图像和定位像数据模板中的关键点进行匹配运算,并生成虚拟定位像。
优选地,所述图像获取模块采用双目视觉系统,同时采集两个不同角度的病人图像。
技术效果:由于采用了上述技术方案,本发明具有如下技术效果:
(1)、本发明利用光学图像生成的虚拟定位像替代传统定位像,减少扫描定位像所需要的时间,减少单个病人的扫描时间,提升扫描效率,减轻医生的工作量;而且能够清晰地显示病人的解剖结构,使得医生能够更加精确地定位扫描区域。
(2)、利用光学采集图像,可以采用双目视觉的系统来同时实时地采集光学图像和深度图像(rgb-d图像),节省了机械运动的时间;根据rgb-d图像来生成虚拟的立体定位像,快速的为CT扫描选择扫描区域。此方法节省了定位像的扫描的辐射剂量和扫描时间,大幅度加快了扫描流程,同时提供立体定位像,能够更加精确的进行扫描定位。
(3)、本发明的方法将能够在相机拍摄的图像上展示病人的解剖结构,使得医生能够更加精准定位扫描区域,且本发明方法生成的虚拟立体定位像可以避免病人扫描定位像,减少病人所接受的辐射剂量。
(4)、本发明的方法充分利用现有CT产品硬件,最终将算法集成在影像链中。
附图说明
图1为本发明的虚拟立体双定位像方法的流程图;
图2中,图(a)为俯视视角从病床上方拍摄病人图像的示意图;
图(b)为侧视视角从病床侧面拍摄病人图像的示意图;
图3中,图(c)和图(d)分别为两种关键点检测方法的流程图;
图4是采用本发明的虚拟立体双定位像方法的CT扫描的流程图;
图5为常规的双定位像的CT扫描的流程图。
具体实施方式
如图1至图4所示,本发明提供一种基于虚拟立体定位像的快速CT扫描方法及系统,其利用rgb-d图像生成虚拟定位像,具体包括步骤1)~5)。
1)、病人图像输入:
如图2所示,输入病人图像为两个方向拍摄的病人图像。利用光学采集图像,可以采用双目视觉的系统来同时实时的采集光学图像和深度图像(rgb-d图像),节省了机械运动的时间。
2)、关键点检测:
本发明可采用如图3所示的两种网络图像关键点检测方法对病人图像进行处理。图3中的(c)所示,输入图像、通过卷积网络提取特征,然后通过上采样输出人体关键部位掩膜。图3中的(d)所示,输入图像、通过特征提取网络提取特征,粗略回归输出关键点坐标,然后将关键点坐标根据部位进行分类和修正,最终输出人体关键点部位和坐标。特征提取网络为DenseNet、ResNet等网络框架。两种网络结构采用类似的训练方法。
以图3中的(c)所示方法中的网络为例,对其进行网络训练:从临床数据中选取10000多图像,图像大小为640*480,手动标记人体关键点坐标,其中关键点包括不限于双眼、鼻子、嘴角、颈部、双肩、胯部、膝盖和双脚等,通过tensorflow框架训练网络。网络输入数据大小为1*640*480,网络输出数据形状为nkp+1*640*480,其中nkp为人体关键点数量,网络损失函数为交叉熵函数,如下:
Loss=yt*logyp+(1-yt)*log(1-yp)
其中,yt为真实数据标记,yp为网络预测概率。
3)、定位像数据模板以及关键点标记
定位像数据模板采用CT扫描的人体数据,分别沿冠状面和矢状面对数据取平均,分别对应俯视视角拍摄的图像和侧面拍摄的图像。然后在定位像数据模板中标记出关键点,其中关键点部位包括不限于双眼、鼻子、嘴角、颈部、双肩、胯部、膝盖和双脚等。
4)、图像和定位像数据模板匹配
根据图像关键点和定位像数据模板的关键点将图像和定位像数据模板匹配。通过图像和定位像模板数据中相同部位的关键点计算图像匹配的结果。
具体计算匹配关键点的方法如下:
x方向变换函数参数,其函数为:
xpic=xct*(1+k11*r2+k12*r4+k13*r6)
y方向变换函数参数,其函数为:
ypic=yct*(1+k21*r2+k22*r4+k23*r6)
其中,xpic、ypic为拍摄图像中关键点的横坐标、纵坐标,xct、yct为CT图像中关键点横坐标、纵坐标,r2=x2+y2
将匹配点的x,y对分别带入上面两个公式中,使得均方误差最小,计算参数k11、k12、k13、k21、k22、k23
5)、输出匹配的虚拟定位像图像
将定位像数据模板根据上述两个公式进行变换,输出与拍摄图像匹配的虚拟定位像数据。医生可以根据匹配后的虚拟定位像数据判断病人的解剖结构,从而能够更加精确定位病人的扫描区域。
以上所述仅是本发明的优选实施方式,应当指出:对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本发明的保护范围。

Claims (8)

1.一种基于虚拟立体定位像的快速CT扫描方法,其特征在于,包括步骤:
S1、输入不同角度拍摄的包括待扫描区域在内的病人图像,并对病人图像进行人体部位的关键点检测;
S2、输入人体数据的定位像数据模板,在定位像数据模板中标记出人体部位的关键点;
S3、根据病人图像和定位像数据模板中的关键点,将对应相同部位的关键点作为匹配点,根据匹配点的位置信息进行匹配计算,获得立体虚拟定位像;
S4、根据所述立体虚拟定位像确定病人的CT扫描区域,输出最终的CT图像;
所述步骤S3中,匹配计算时,建立用于匹配处理CT图像的变换函数如下:
Figure FDA0002637958040000011
其中,xpic、ypic为病人图像中关键点的横坐标、纵坐标,xct、yct为定位像数据模板中关键点的横坐标、纵坐标,将若干个匹配点的横坐标和纵坐标分别带入变换函数中,使得每个(xpic、ypic)与对应的经过所述变换得到的(xct、yct)之间的均方误差最小,计算得到系数k11、k12、k13、k21、k22、k23的值,确定变换函数。
2.根据权利要求1所述的一种基于虚拟立体定位像的快速CT扫描方法,其特征在于:所述步骤S1中病人图像包括俯视和侧面视角拍摄的图像,步骤S2中定位像数据模板采用CT扫描的人体数据,分别沿冠状面和矢状面对人体数据取平均,冠状面和矢状面方向分别对应俯视和侧面视角。
3.根据权利要求1所述的一种基于虚拟立体定位像的快速CT扫描方法,其特征在于,所述步骤S1中进行关键点检测的方法为,将病人图像输入训练好的神经网络进行关键点检测:输入病人图像、通过卷积网络提取病人图像中的特征,然后通过上采样输出人体关键部位掩膜。
4.根据权利要求1所述的一种基于虚拟立体定位像的快速CT扫描方法,其特征在于,所述步骤S1中进行关键点检测的方法为,将病人图像输入训练好的神经网络进行关键点检测:输入病人图像、通过特征提取网络提取病人图像中的特征,粗略回归计算输出第一关键点坐标;然后对第一关键点坐标根据人体部位进行分类和修正,输出第二关键点坐标。
5.根据权利要求1所述的一种基于虚拟立体定位像的快速CT扫描方法,其特征在于:所述病人图像包括光学图像和深度图像。
6.根据权利要求1所述的一种基于虚拟立体定位像的快速CT扫描方法,其特征在于:所述关键点包括双眼、鼻子、嘴角、颈部、双肩、胯部、膝盖、双脚。
7.用于实现权利要求1至6任一所述方法的一种基于虚拟立体定位像的快速CT扫描系统,其特征在于,包括:
图像获取模块,用于不同角度拍摄的包括待扫描区域在内的病人图像;
图像处理模块,用于对病人图像进行关键点检测;
CT扫描模块,用于扫描目标对像并获得对应的CT数据;
CT数据标注模块,用于对定位像数据模板进行关键点标记;
虚拟定位像生成模块,用于对病人图像和定位像数据模板中的关键点进行匹配运算,并生成虚拟定位像。
8.根据权利要求7所述的一种基于虚拟立体定位像的快速CT扫描系统,其特征在于:所述图像获取模块采用双目视觉系统,同时采集两个不同角度的病人图像。
CN202010118433.2A 2020-02-26 2020-02-26 一种基于虚拟立体定位像的快速ct扫描方法及系统 Active CN110956633B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202010118433.2A CN110956633B (zh) 2020-02-26 2020-02-26 一种基于虚拟立体定位像的快速ct扫描方法及系统
PCT/CN2020/108845 WO2021169191A1 (zh) 2020-02-26 2020-08-13 一种基于虚拟立体定位像的快速ct扫描方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010118433.2A CN110956633B (zh) 2020-02-26 2020-02-26 一种基于虚拟立体定位像的快速ct扫描方法及系统

Publications (2)

Publication Number Publication Date
CN110956633A CN110956633A (zh) 2020-04-03
CN110956633B true CN110956633B (zh) 2020-11-24

Family

ID=69985759

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010118433.2A Active CN110956633B (zh) 2020-02-26 2020-02-26 一种基于虚拟立体定位像的快速ct扫描方法及系统

Country Status (2)

Country Link
CN (1) CN110956633B (zh)
WO (1) WO2021169191A1 (zh)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110956633B (zh) * 2020-02-26 2020-11-24 南京安科医疗科技有限公司 一种基于虚拟立体定位像的快速ct扫描方法及系统
CN112700844B (zh) * 2020-12-23 2023-05-23 中国人民解放军总医院 一种通过图像识别ct关键环节的方法及装置
CN112741643A (zh) * 2020-12-31 2021-05-04 苏州波影医疗技术有限公司 一种可自动定位和扫描的ct系统及其定位和扫描方法
CN112862869A (zh) * 2020-12-31 2021-05-28 上海联影智能医疗科技有限公司 图像扫描处理方法、成像扫描设备、电子设备及可读介质
CN112932522A (zh) * 2021-02-03 2021-06-11 上海联影医疗科技股份有限公司 医学图像获取方法、装置和计算机设备
CN113645307A (zh) * 2021-08-18 2021-11-12 中国人民解放军东部战区总医院 核磁共振系统网络共享定位数据库系统及建立使用方法
CN113520443A (zh) * 2021-08-19 2021-10-22 上海联影医疗科技股份有限公司 Pet系统参数推荐方法以及pet系统
KR102459888B1 (ko) * 2021-12-15 2022-10-31 성균관대학교산학협력단 최적 스캔 방법 및 이를 적용한 스캔 시스템
CN116643505B (zh) * 2023-07-21 2023-11-03 深圳视腾达科技有限公司 一种智能家居用交互控制方法及系统

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9480439B2 (en) * 2012-11-01 2016-11-01 Virginia Commonwealth University Segmentation and fracture detection in CT images
KR102054680B1 (ko) * 2013-01-23 2020-01-22 삼성전자주식회사 영상 처리 장치, 초음파 영상 장치 및 영상 처리 방법
CN104274196B (zh) * 2013-07-09 2016-10-05 上海西门子医疗器械有限公司 计算机断层扫描设备
WO2017205351A1 (en) * 2016-05-23 2017-11-30 Mako Surgical Corp. Systems and methods for identifying and tracking physical objects during a robotic surgical procedure
WO2019084331A1 (en) * 2017-10-25 2019-05-02 Verma Nikhil N GUIDE TO SPECIFIC SURGICAL INSTRUMENT OF PATIENT
CN108831235A (zh) * 2018-06-12 2018-11-16 苏州敏行医学信息技术有限公司 虚拟医学影像检查训练方法及医学影像检查训练系统
CN108670286A (zh) * 2018-06-13 2018-10-19 上海联影医疗科技有限公司 一种ct系统和ct扫描方法
CN110544285B (zh) * 2019-10-30 2020-02-04 南京安科医疗科技有限公司 一种矫正头部ct图像中头部位置的方法
CN110956633B (zh) * 2020-02-26 2020-11-24 南京安科医疗科技有限公司 一种基于虚拟立体定位像的快速ct扫描方法及系统

Also Published As

Publication number Publication date
WO2021169191A1 (zh) 2021-09-02
CN110956633A (zh) 2020-04-03

Similar Documents

Publication Publication Date Title
CN110956633B (zh) 一种基于虚拟立体定位像的快速ct扫描方法及系统
US20200229737A1 (en) System and method for patient positionging
WO2021017297A1 (zh) 基于人工智能的脊柱影像处理方法及相关设备
CN107909622B (zh) 模型生成方法、医学成像的扫描规划方法及医学成像系统
US10821301B2 (en) Treatment assistance system and operation method therefor, and storage medium for storing treatment assistance program
US10881353B2 (en) Machine-guided imaging techniques
EP3406196A1 (en) X-ray system and method for standing subject
CN103829966B (zh) 用于自动确定侦测图像中的定位线的方法和系统
CN110246580B (zh) 基于神经网络和随机森林的颅侧面影像分析方法和系统
CN113826143A (zh) 特征点检测
CN113808106B (zh) 一种基于深度学习的超低剂量pet图像重建系统及方法
KR102461343B1 (ko) 금속 인공 음영이 포함된 의료영상에서 치아 랜드마크 자동 검출 방법 및 시스템
JP6345468B2 (ja) 医用画像診断装置
US20230169666A1 (en) Methods and systems for image registration
US10078906B2 (en) Device and method for image registration, and non-transitory recording medium
CN108806776A (zh) 一种基于深度学习的多模态医学影像的方法
CN112258593A (zh) 单目相机下ct或pet-ct智能定位扫描方法
US11195262B2 (en) Body region identification device and method
CN116883471B (zh) 面向胸腹部经皮穿刺的线结构光无接触点云配准方法
CN116958443A (zh) 基于smplx重建数字人可量化检测模型、方法及应用
CN115844436A (zh) 一种基于计算机视觉的ct扫描方案自适应制定方法
CN114529502A (zh) 用于进行自动化受检者解剖结构和取向识别的基于深度学习的方法和系统
EP4291127A1 (en) Systems and methods for registration between patient space and image space using registration frame apertures
JP2004038860A (ja) 画像処理方法および装置
CN115880469B (zh) 一种表面点云数据与三维影像的配准方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant