CN108765577A - 一种实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪方法 - Google Patents

一种实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪方法 Download PDF

Info

Publication number
CN108765577A
CN108765577A CN201810312600.XA CN201810312600A CN108765577A CN 108765577 A CN108765577 A CN 108765577A CN 201810312600 A CN201810312600 A CN 201810312600A CN 108765577 A CN108765577 A CN 108765577A
Authority
CN
China
Prior art keywords
limbs
real
time
farming animals
point cloud
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201810312600.XA
Other languages
English (en)
Other versions
CN108765577B (zh
Inventor
李吉平
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
South China Agricultural University
Original Assignee
South China Agricultural University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by South China Agricultural University filed Critical South China Agricultural University
Priority to CN201810312600.XA priority Critical patent/CN108765577B/zh
Publication of CN108765577A publication Critical patent/CN108765577A/zh
Application granted granted Critical
Publication of CN108765577B publication Critical patent/CN108765577B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • G06T19/006—Mixed reality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/10—Constructive solid geometry [CSG] using solid primitives, e.g. cylinders, cubes

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Graphics (AREA)
  • Software Systems (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Geometry (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Processing Or Creating Images (AREA)

Abstract

本发明公开了一种实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪方法，该方法首先建立四肢畜牧动物标准三维模型和绑定的该动物标准关节骨架系统；再实时采集的四肢畜牧动物点云数据，利用上一时刻的四肢畜牧动物实时动态三维模型向当前时刻采集的动物点云数据进行拟合计算，生成当前时刻的四肢畜牧动物实时动态三维模型；根据上一时刻和当前时刻的四肢畜牧动物实时动态三维模型在几何外形上的差异，由上一时刻该动物的实时关节动态骨架系统，按照四肢畜牧动物的解剖学约束，生成当前时刻的实时关节动态骨架虚拟图形信息；将四肢畜牧动物运动过程中当前时刻的实时关节动态骨架虚拟图形信息叠加到四肢畜牧动物运动身体上，进行增强现实跟踪显示。

Description

一种实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪 方法
技术领域
本发明属于计算机图形学、虚拟现实与增强现实技术、畜禽行为学领域，更具体地，涉及一种实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪方法。
背景技术
动物行为往往表现异常，监控畜牧动物行为变化是评估畜牧动物健康状况的常用技术手段，可为精准畜牧养殖提供依据。现有四肢畜牧动物行为监控方法包括：
(1)人工评估方法：通过饲养员观察进行评估，评估精度高度依赖于饲养员经验，费时费力，评估结论不稳定，无法实现连续监控，不能满足畜牧业精准、大规模的发展要求；
(2)基于传感器的接触方法：需要将传感器佩戴在动物身上，动物容易产生应激反应，需要消耗大量人力、物力进行传感器维护，不能满足畜牧养殖规模化发展要求；
(3)基于相机的非接触方法：可以避免方法(1)和(2)所面临的问题，代表了动物行为监控方法的技术方向。基于骨架的动物行为分析是其中的一类重要方法，相关方法的主要问题表现在：利用标准RGB图像，通过动物轮廓中轴线计算得到动物骨架，这种基于轮廓中轴线的骨架不具有解刨学意义，不利于动物行为的直观分析；利用RGB-D深度图像，采用结构支持向量机SSVM(Structural Support Vector Machine)等机器学习方法训练身体部位分类器，用于对头、躯干、尾和四肢等7个不同身体部位的识别与分类，依据不同身体部位之间的解刨学约束，生成包括颈部关节、臀部关节在内的两关节骨架系统，膝关节的缺乏导致无法实现四肢运动的精确行为分析，如：猪、牛的跛足分析；由于不同身体部位之间缺乏明确的边界区分，基于机器学习的不同身体部位的分类精度难以稳定提高，影响了四肢畜牧动物骨架的生成质量。
发明内容
为了解决上述现有技术中存在的不足之处，提供一种实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪方法。利用实时采集的动物点云数据驱动四肢畜牧动物标准三维模型动态变化，实现与四肢畜牧动物标准三维模型绑定的标准关节骨架的实时动态更新，将动态变化的关节骨架虚拟图形信息叠加到真实动物身体上进行显示，达到四肢畜牧动物骨架增强现实跟踪的目的。
本发明的目的通过下述技术方案来实现：
一种实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪方法，包括具体步骤如下：
S1.建立四肢畜牧动物标准三维模型和绑定的该动物标准关节骨架系统；
S2.实时采集的四肢畜牧动物点云数据，包括上一时刻采集的动物点云数据和当前时刻采集的动物点云数据；
S3.利用上一时刻的四肢畜牧动物实时动态三维模型向当前时刻采集的动物点云数据进行拟合计算，即将当前时刻采集的动物点云数据作为约束条件，利用迭代，查找确定约束点云与上一时刻动物实时动态三维模型之间的对应点对，使上一时刻动物实时动态三维模型拟合约束点云数据，迭代生成当前时刻的四肢畜牧动物实时动态三维模型；
S4.根据上一时刻和当前时刻的四肢畜牧动物实时动态三维模型在几何外形上的差异，由上一时刻该动物的实时关节动态骨架系统，按照四肢畜牧动物的解剖学约束，生成当前时刻的实时关节动态骨架虚拟图形信息；
S5.将四肢畜牧动物运动过程中当前时刻的实时关节动态骨架虚拟图形信息叠加到四肢畜牧动物运动身体上，进行增强现实跟踪显示。
优选地，步骤S1中所述四肢畜牧动物为猪、牛、羊、马、驴、骡、兔、骆驼、梅花鹿、鹿、貂、麝或水獭。
进一步地，步骤S1中还包括利用三维建模和动画软件制作四肢畜牧动物静止站立时的标准三维模型和绑定的该动物标准关节骨架系统。
优选地，所述动物标准关节骨架系统包括4个膝关节、1个颈部关节和1个臀部关节。
进一步地，步骤S3还包括以下方法：初始时刻的四肢畜牧动物实时动态三维模型的建立是利用步骤S1中的四肢畜牧动物标准三维模型向步骤S2中的当前时刻采集的动物点云数据进行拟合计算，即将步骤S2中当前时刻采集的动物点云数据作为约束条件，利用迭代查找约束点云与步骤S1中的动物标准三维模型之间的对应点对，使动物标准三维模型拟合约束点云数据，生成初始时刻的四肢畜牧动物实时动态三维模型。
进一步地，步骤S4还包括以下方法：初始时刻的四肢畜牧动物实时关节动态骨架虚拟图形信息是根据步骤S1中的四肢畜牧动物标准三维模型和步骤S3中的当前时刻的四肢畜牧动物实时动态三维模型在几何外形上的差异，由该动物标准关节骨架按照四肢畜牧动物的解剖学约束，生成初始时刻的实时关节动态骨架虚拟图形信息。
与现有技术相比，本发明具有以下有益效果：
1.本发明提供了一种实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪方法，利用实时采集的动物点云数据驱动四肢畜牧动物标准三维模型动态变化，实现与四肢畜牧动物标准三维模型绑定的标准关节骨架的实时动态更新，将动态变化的关节骨架虚拟图形信息叠加到真实动物身体上进行显示，达到四肢畜牧动物骨架增强现实跟踪的目的。
2.与基于机器学习的骨架生成方法相比，本发明避免了机器学习需准备大量手工标记数据集和训练身体不同部位分类器的负担，不会出现身体部位分类错误对骨架生成造成的影响；与基于轮廓中轴线的骨架生成方法相比，确保生成的骨架具有严格的解剖学意义。
3.与传统的骨架系统从无到有的生成过程相比，本发明采用预设四肢畜牧动物骨架的方法，有利于四肢畜牧动物骨架系统生成与跟踪效率的提高；采用增强现实技术，将动态变化的关节骨架图形信息叠加到真实动物个体上，更便于观察、分析动物运动过程中的骨架系统变化和异常行为之间的关系。
4.本发明以猪、牛等典型四肢畜牧动物为对象，从畜牧养殖规模化、精准化的发展需求出发，将数据驱动的三维物体变形方法与增强现实技术相结合，实现四肢畜牧动物骨架实时可视跟踪，可为四肢畜牧动物异常行为分析提供更加直观的技术手段，为四肢畜牧动物非接触实时自动健康监控诊断提供新方法。
附图说明
图1为本发明的一种实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪方法的流程图。
图2为四肢畜牧动物标准三维模型和绑定的标准关节骨架示意图。
图3为四肢畜牧动物标准三维模型示意图。
图4为四肢畜牧动物标准关节骨架示意图。
图5为四肢畜牧动物骨架增强现实显示示意图。
图6为四肢畜牧动物骨架跟踪增强现实显示示意图。
具体实施方式
下面结合具体实施例进一步说明本发明的内容，但不应理解为对本发明的限制。若未特别指明，实施例中所用的技术手段为本领域技术人员所熟知的常规手段。
畜牧养殖主要包括猪、牛、羊、马、驴、骡、兔、骆驼、梅花鹿等家畜家禽饲养，和鹿、貂、麝、水獭等野生经济动物驯养。
如图1所示，本发明的一种实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪方法，包括利用点云数据获取设备实时采集动物点云(点云是指多个点的集合，每个点有三个坐标值)数据的步骤。
首先，建立四肢畜牧动物标准三维模型和绑定的标准6关节骨架(图2)。所述四肢畜牧动物标准三维模型和绑定的标准6关节骨架是指猪、牛等四肢畜牧动物静止站立时的三维模型和6关节骨架，分别称为四肢畜牧动物标准三维模型(图3)和四肢畜牧动物标准骨架(图4)。其中，标准6关节骨架是一个具有解剖学约束的四肢畜牧动物骨架系统，由1个颈部关节、1个臀部关节和由4个膝关节构成，如图4所示。其中1为颈部关节，2为臀部关节，3、4、5、6为膝关节。
本发明实施例对三维建模和动画软件不做限定，优选地，可以是Maya、3DMax等三维建模和动画软件中的一种或几种。四肢畜牧动物标准三维模型还可以利用三维重建系统得到。
其次，生成四肢畜牧动物运动过程中的实时动态三维模型。在实时采集的四肢畜牧动物点云数据的驱动下，当上一时刻动物实时动态三维模型不存在时(即初始时刻的实时动态三维模型的建立)，是利用动物标准三维模型向当前时刻的动物点云数据进行拟合计算，即将当前时刻动物点云数据作为约束条件，利用迭代，查找确定约束点云与动物标准三维模型之间的对应点对，使动物标准三维模型拟合约束点云数据，迭代生成初始时刻的四肢畜牧动物实时动态三维模型；当上一时刻动物实时动态三维模型存在时，利用上一时刻的动物实时动态三维模型向当前时刻的目标动物点云数据进行拟合计算，即将当前时刻目标动物点云数据作为约束条件，利用迭代，查找确定约束点云与上一时刻动物实时动态三维模型之间的对应点对，使上一时刻动物实时动态三维模型拟合约束点云数据，迭代生成当前时刻四肢畜牧动物实时动态三维模型。
接着，生成四肢畜牧动物运动过程中的实时动态骨架虚拟图形信息。当上一时刻动物实时动态三维模型不存在时(即初始时刻的实时关节动态骨架虚拟图形信息的获取)，根据动物标准三维模型和当前时刻动物实时动态三维模型在几何外形上的差异，由四肢畜牧动物标准6关节骨架系统按照四肢畜牧动物的解剖学约束生成初始时刻的实时6关节动态骨架虚拟图形信息；当上一时刻动物实时动态三维模型存在时，根据上一时刻和当前时刻动物实时动态三维模型在几何外形上的差异，由上一时刻动物实时6关节动态骨架按照四肢畜牧动物的解剖学约束生成当前时刻实时6关节动态骨架虚拟图形信息。
本发明的骨架生成方法利用事先预制的一个四肢畜牧动物标准6关节骨架，根据动物实时点云提供的约束信息，实现骨架系统的动态更新，避免了骨架从无到有的生成过程，不但有利于提高骨架生成与跟踪效率，而且可以确保生成的骨架具有严格的解剖学意义。
最后，将四肢畜牧动物实时动态骨架图形叠加到真实动物运动影像上，进行增强现实显示。利用增强现实设备，将实时6关节动态骨架图形信息叠加到真实动物个体上，如图5和图6所示。图5为四肢畜牧动物骨架增强现实显示示意图；图6为四肢畜牧动物骨架跟踪增强现实显示示意图。由此可知该方法更便于观察、分析动物运动过程中的骨骼系统变化和异常行为之间的关系。
本发明对增强现实设备不做限定，优选地，可以是头戴式增强现实设备和基于智能手机的增强现实系统中的一种或几种。
本发明从畜牧养殖规模化、精准化的发展需求出发，将数据驱动的三维物体变形方法与增强现实技术相结合，实现四肢畜牧动物骨架实时可视跟踪，为四肢畜牧动物异常行为分析提供更加直观的技术手段，为四肢畜牧动物非接触实时自动健康监控诊断提供新方法。
上述实施例为本发明较佳的实施方式，但本发明的实施方式并不受上述实施例的限制，其他的任何未背离本发明的精神实质与原理下所作的改变、修饰、替代、组合和简化，均应为等效的置换方式，都包含在本发明的保护范围之内。

Claims (6)

1.一种实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪方法，其特征在于，包括具体步骤如下：
S1.建立四肢畜牧动物标准三维模型和绑定的该动物标准关节骨架系统；
S2.实时采集的四肢畜牧动物点云数据，包括上一时刻采集的动物点云数据和当前时刻采集的动物点云数据；
S3.利用上一时刻的四肢畜牧动物实时动态三维模型向当前时刻采集的动物点云数据进行拟合计算，即将当前时刻采集的动物点云数据作为约束条件，利用迭代，查找确定约束点云与上一时刻动物实时动态三维模型之间的对应点对，使上一时刻动物实时动态三维模型拟合约束点云数据，迭代生成当前时刻的四肢畜牧动物实时动态三维模型；
S4.根据上一时刻和当前时刻的四肢畜牧动物实时动态三维模型在几何外形上的差异，由上一时刻该动物的实时关节动态骨架系统，按照四肢畜牧动物的解剖学约束，生成当前时刻的实时关节动态骨架虚拟图形信息；
S5.将四肢畜牧动物运动过程中当前时刻的实时关节动态骨架虚拟图形信息叠加到四肢畜牧动物运动身体上，进行增强现实跟踪显示。
2.根据权利要求1所述的实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪方法，其特征在于，步骤S1中所述四肢畜牧动物为猪、牛、羊、马、驴、骡、兔、骆驼、梅花鹿、鹿、貂、麝或水獭。
3.根据权利要求1所述的实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪方法，其特征在于，步骤S1中还包括利用三维建模和动画软件制作四肢畜牧动物静止站立时的标准三维模型和绑定的该动物标准关节骨架系统。
4.根据权利要求3所述的实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪方法，其特征在于，所述动物标准关节骨架系统包括4个膝关节、1个颈部关节和1个臀部关节。
5.根据权利要求1所述的实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪方法，其特征在于，步骤S3还包括以下方法：初始时刻的四肢畜牧动物实时动态三维模型的建立是利用步骤S1中的四肢畜牧动物标准三维模型向步骤S2中的当前时刻采集的动物点云数据进行拟合计算，即将步骤S2中当前时刻采集的动物点云数据作为约束条件，利用迭代查找约束点云与步骤S1中的动物标准三维模型之间的对应点对，使动物标准三维模型拟合约束点云数据，生成初始时刻的四肢畜牧动物实时动态三维模型。
6.根据权利要求1所述的实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪方法，其特征在于，步骤S4还包括以下方法：初始时刻的四肢畜牧动物实时关节动态骨架虚拟图形信息是根据步骤S1中的四肢畜牧动物标准三维模型和步骤S3中的当前时刻的四肢畜牧动物实时动态三维模型在几何外形上的差异，由该动物标准关节骨架按照四肢畜牧动物的解剖学约束，生成初始时刻的实时关节动态骨架虚拟图形信息。
CN201810312600.XA 2018-04-09 2018-04-09 一种实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪方法 Active CN108765577B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810312600.XA CN108765577B (zh) 2018-04-09 2018-04-09 一种实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810312600.XA CN108765577B (zh) 2018-04-09 2018-04-09 一种实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪方法

Publications (2)

Publication Number Publication Date
CN108765577A true CN108765577A (zh) 2018-11-06
CN108765577B CN108765577B (zh) 2021-07-09

Family

ID=63981420

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810312600.XA Active CN108765577B (zh) 2018-04-09 2018-04-09 一种实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪方法

Country Status (1)

Country Link
CN (1) CN108765577B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114303987A (zh) * 2021-12-02 2022-04-12 东北农业大学 一种适用于感知家畜运动的rfid标签的布放方法

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101154289A (zh) * 2007-07-26 2008-04-02 上海交通大学 基于多目相机的三维人体运动跟踪的方法
CN101789125A (zh) * 2010-01-26 2010-07-28 北京航空航天大学 一种无标记单目视频人体骨架运动跟踪方法
CN103544700A (zh) * 2013-10-11 2014-01-29 中国科学院深圳先进技术研究院 运动植物点云数据一致性骨架提取方法及系统
US20140334670A1 (en) * 2012-06-14 2014-11-13 Softkinetic Software Three-Dimensional Object Modelling Fitting & Tracking
US20150212585A1 (en) * 2010-12-21 2015-07-30 Microsoft Technology Licensing, Llc Skeletal control of three-dimensional virtual world
CN105069423A (zh) * 2015-07-29 2015-11-18 北京格灵深瞳信息技术有限公司 一种人体姿态检测方法及装置
CN107357427A (zh) * 2017-07-03 2017-11-17 南京江南博睿高新技术研究院有限公司 一种用于虚拟现实设备的手势识别控制方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101154289A (zh) * 2007-07-26 2008-04-02 上海交通大学 基于多目相机的三维人体运动跟踪的方法
CN101789125A (zh) * 2010-01-26 2010-07-28 北京航空航天大学 一种无标记单目视频人体骨架运动跟踪方法
US20150212585A1 (en) * 2010-12-21 2015-07-30 Microsoft Technology Licensing, Llc Skeletal control of three-dimensional virtual world
US20140334670A1 (en) * 2012-06-14 2014-11-13 Softkinetic Software Three-Dimensional Object Modelling Fitting & Tracking
CN103544700A (zh) * 2013-10-11 2014-01-29 中国科学院深圳先进技术研究院 运动植物点云数据一致性骨架提取方法及系统
CN105069423A (zh) * 2015-07-29 2015-11-18 北京格灵深瞳信息技术有限公司 一种人体姿态检测方法及装置
CN107357427A (zh) * 2017-07-03 2017-11-17 南京江南博睿高新技术研究院有限公司 一种用于虚拟现实设备的手势识别控制方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
ANDREA TAGLIASACCHI 等: "Curve Skeleton Extraction from Incomplete Point Cloud", 《PUBLICATION_ACM TRANSACTIONS ON GRAPHICS》 *
车武军 等: "动态骨架算法", 《软件学报》 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114303987A (zh) * 2021-12-02 2022-04-12 东北农业大学 一种适用于感知家畜运动的rfid标签的布放方法

Also Published As

Publication number Publication date
CN108765577B (zh) 2021-07-09

Similar Documents

Publication Publication Date Title
Song et al. Automated body weight prediction of dairy cows using 3-dimensional vision
Hutchinson et al. Musculoskeletal modelling of an ostrich (Struthio camelus) pelvic limb: influence of limb orientation on muscular capacity during locomotion
Bates et al. Estimating mass properties of dinosaurs using laser imaging and 3D computer modelling
Nieuwenhuys Topological analysis of the brain stem: a general introduction
Van der Stuyft et al. Development and application of computer vision systems for use in livestock production
Rueegg et al. BARC: Learning to regress 3D dog shape from images by exploiting breed information
CN116507286A (zh) 超声图像数据采集分析识别一体化机器人，平台
Ruchay et al. A depth camera-based system for automatic measurement of live cattle body parameters
Tscharke et al. Review of methods to determine weight and size of livestock from images
Mu et al. Robotic 3D vision-guided system for half-sheep cutting robot
CN108765577A (zh) 一种实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪方法
Lautenschlager Digital reconstruction of soft-tissue structures in fossils
Ramalingasetty et al. A whole-body musculoskeletal model of the mouse
Beylot et al. 3D interactive topological modeling using visible human dataset
CN109840592B (zh) 一种机器学习中快速标记训练数据的方法
Pomikal et al. Four‐dimensional analysis of early pelvic girdle development in Rana temporaria
CN113643401B (zh) 基于机器学习的生猪胴体分割方法及系统
CN115530762A (zh) 一种cbct颞下颌关节自动定位方法和系统
Frost et al. The development and evaluation of image analysis procedures for guiding a livestock monitoring sensor placement robot
Kramer et al. Hip width and metabolic energy expenditure of abductor muscles
Lima et al. Artificial intelligence in support of welfare monitoring of dairy cattle: a systematic literature review
CN113095268A (zh) 一种基于视频流的机器人步态学习方法、系统及存储介质
CN111898326A (zh) 一种基于移动视角的猪的体重和膘情变化检测方法
Boudon et al. Bio-inspired topological skeleton for the analysis of quadruped kinematic gait
Tillett Model-based image processing to locate pigs within images

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant