CN117095002A - 轮毂缺陷的检测方法及装置、存储介质 - Google Patents

轮毂缺陷的检测方法及装置、存储介质 Download PDF

Info

Publication number
CN117095002A
CN117095002A CN202311358727.2A CN202311358727A CN117095002A CN 117095002 A CN117095002 A CN 117095002A CN 202311358727 A CN202311358727 A CN 202311358727A CN 117095002 A CN117095002 A CN 117095002A
Authority
CN
China
Prior art keywords
camera
matrix
defect
point
center
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202311358727.2A
Other languages
English (en)
Other versions
CN117095002B (zh
Inventor
杨超
黄雪峰
蔡恩祥
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Xinrun Fulian Digital Technology Co Ltd
Original Assignee
Shenzhen Xinrun Fulian Digital Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Xinrun Fulian Digital Technology Co Ltd filed Critical Shenzhen Xinrun Fulian Digital Technology Co Ltd
Priority to CN202311358727.2A priority Critical patent/CN117095002B/zh
Publication of CN117095002A publication Critical patent/CN117095002A/zh
Application granted granted Critical
Publication of CN117095002B publication Critical patent/CN117095002B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional objects
    • G06V20/653Three-dimensional objects by matching three-dimensional models, e.g. conformal mapping of Riemann surfaces
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/06Recognition of objects for industrial automation

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Software Systems (AREA)
  • Evolutionary Computation (AREA)
  • Geometry (AREA)
  • Quality & Reliability (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

本发明提供了一种轮毂缺陷的检测方法及装置、存储介质,其中,该方法包括:采用2D相机采集目标轮毂的2D图像,以及采用3D相机采集所述目标轮毂的3D点云,其中,所述2D相机和所述3D相机的位置固定,所述2D相机和所述3D相机的视野区域相同;计算所述2D相机和所述3D相机之间的变换矩阵;采用深度学习算法检测所述2D图像中的缺陷位置,采用所述变换矩阵将所述缺陷位置的缺陷像素点对齐至所述3D点云;截取所述3D点云中所述缺陷像素点覆盖的缺陷点云,基于所述缺陷点云计算所述缺陷位置的缺陷尺寸。通过本发明实施例,解决了相关技术中采用2D相机检测轮毂误检率高的技术问题。

Description

轮毂缺陷的检测方法及装置、存储介质
技术领域
本发明涉及计算机领域,具体而言,涉及一种轮毂缺陷的检测方法及装置、存储介质。
背景技术
相关技术中,轮毂外观成像通过架设相机进行拍照2D图片,运用深度学习算法训练轮毂外观缺陷识别模型,对轮毂外观进行AI缺陷识别。由于轮毂表面并非平整的平面,存在起伏不定的造型,因此从2D图像检出的缺陷无法给出精确的缺陷尺寸(面积、长度、宽度)信息,容易造成误检。
针对相关技术中存在的上述问题,暂未发现高效且准确的解决方案。
发明内容
本发明提供了一种轮毂缺陷的检测方法及装置、存储介质,以解决相关技术中存在的上述技术问题。
根据本发明的一个实施例,提供了一种轮毂缺陷的检测方法,包括:采用2D相机采集目标轮毂的2D图像,以及采用3D相机采集所述目标轮毂的3D点云,其中,所述2D相机和所述3D相机的位置固定,所述2D相机和所述3D相机的视野区域相同;计算所述2D相机和所述3D相机之间的变换矩阵;采用深度学习算法检测所述2D图像中的缺陷位置,采用所述变换矩阵将所述缺陷位置的缺陷像素点对齐至所述3D点云;截取所述3D点云中所述缺陷像素点覆盖的缺陷点云,基于所述缺陷点云计算所述缺陷位置的缺陷尺寸。
可选地,计算所述2D相机和所述3D相机之间的变换矩阵包括:采用所述2D相机采集标定板的2D参考图像,以及采用所述3D相机采集所述标定板的3D参考点云,其中,所述标定板上开设有多个均匀分布的标定圆,每个标定圆上贴有标定图案;读取所述2D参考图像中每个标定图案的圆心坐标,并为每个圆心坐标添加单位长度的深度值,得到第一圆心点集,以及读取所述3D参考点云中每个标定图案的圆心坐标,得到第二圆心点集;计算所述第一圆心点集变换至所述第二圆心点集的旋转矩阵和平移矩阵;将所述旋转矩阵和所述平移矩阵确定为所述2D相机和所述3D相机之间的变换矩阵。
可选地,计算所述第一圆心点集变换至所述第二圆心点集的旋转矩阵和平移矩阵包括:计算所述第一圆心点集的第一质心坐标,以及计算所述第二圆心点集的第二质心坐标;采用所述第一圆心点集除以所述第一质心坐标,得到第三圆心点集,采用所述第二圆心点集除以所述第二质心坐标,得到第四圆心点集;基于所述第三圆心点集和所述第四圆心点集构建旋转矩阵计算和平移矩阵的误差函数;对所述误差函数进行求迹运算,得到协方差矩阵;对所述协方差矩阵进行奇异值分解SVD,计算得到旋转矩阵;基于所述第一质心坐标和所述第二质心坐标构建所述旋转矩阵与所述平移矩阵之间的变换表达式,并将所述旋转矩阵代入所述变换表达式得到平移矩阵。
可选地,基于所述第三圆心点集和所述第四圆心点集构建旋转矩阵计算和平移矩阵/>的误差函数包括:采用以下公式构建旋转矩阵/>计算和平移矩阵/>的误差函数:;其中,/>为第i个点的权重,/>为旋转矩阵,/>为平移矩阵,为所述第三圆心点集/>中的第i个点,/>为所述第四圆心点集/>中的第i个点,/>为转置符,n为所述第三圆心点集或所述第四圆心点集中的点的总数。
可选地,对所述误差函数进行求迹运算,得到协方差矩阵包括:对所述误差函数进行求迹运算,得到以下等式:,其中,/>,/>;将等式中的XWY T配置为协方差矩阵S
可选地,对所述协方差矩阵进行奇异值分解SVD,计算得到旋转矩阵包括:对所述协方差矩阵S进行SVD分解,得到以下公式:,其中,U、V均为分解得到的已知量;将U、V代入以下公式,计算得到旋转矩阵/>:/>
可选地,基于所述第一质心坐标和所述第二质心坐标构建所述旋转矩阵与所述平移矩阵之间的变换表达式包括:基于所述第一圆心点集和所述第二圆心点集构建旋转矩阵和平移矩阵/>的初始误差函数/>,其中,/>为第i个点的权重,/>为所述第一圆心点集中的第i个点,/>为所述第二圆心点集中的第i个点,n为所述第一圆心点集或所述第二圆心点集中的点的总数;采用所述初始误差函数对平移矩阵/>求偏导,得到误差偏导函数/>;将所述第一质心坐标和所述第二质心坐标代入所述误差偏导函数,得到所述旋转矩阵与所述平移矩阵之间的变换表达式:/>,其中,为第一质心坐标,/>为第二质心坐标。
根据本发明的另一个实施例,提供了一种轮毂缺陷的检测装置,包括:采集模块,用于采用2D相机采集目标轮毂的2D图像,以及采用3D相机采集所述目标轮毂的3D点云,其中,所述2D相机和所述3D相机的位置固定,所述2D相机和所述3D相机的视野区域相同;第一计算模块,用于计算所述2D相机和所述3D相机之间的变换矩阵;对齐模块,用于采用深度学习算法检测所述2D图像中的缺陷位置,采用所述变换矩阵将所述缺陷位置的缺陷像素点对齐至所述3D点云;第二计算模块,用于截取所述3D点云中所述缺陷像素点覆盖的缺陷点云,基于所述缺陷点云计算所述缺陷位置的缺陷尺寸。
可选地,所述第一计算模块包括:采集单元,用于采用所述2D相机采集标定板的2D参考图像,以及采用所述3D相机采集所述标定板的3D参考点云,其中,所述标定板上开设有多个均匀分布的标定圆,每个标定圆上贴有标定图案;读取单元,用于读取所述2D参考图像中每个标定图案的圆心坐标,并为每个圆心坐标添加单位长度的深度值,得到第一圆心点集,以及读取所述3D参考点云中每个标定图案的圆心坐标,得到第二圆心点集;计算单元,用于计算所述第一圆心点集变换至所述第二圆心点集的旋转矩阵和平移矩阵;配置单元,用于将所述旋转矩阵和所述平移矩阵确定为所述2D相机和所述3D相机之间的变换矩阵。
可选地,所述计算单元包括:计算子单元,用于计算所述第一圆心点集的第一质心坐标,以及计算所述第二圆心点集的第二质心坐标;第一运算子单元,用于采用所述第一圆心点集除以所述第一质心坐标,得到第三圆心点集,采用所述第二圆心点集除以所述第二质心坐标,得到第四圆心点集;构建子单元,用于基于所述第三圆心点集和所述第四圆心点集构建旋转矩阵计算和平移矩阵的误差函数;第二运算子单元,用于对所述误差函数进行求迹运算,得到协方差矩阵;分解子单元,用于对所述协方差矩阵进行奇异值分解SVD,计算得到旋转矩阵;处理子单元,用于基于所述第一质心坐标和所述第二质心坐标构建所述旋转矩阵与所述平移矩阵之间的变换表达式,并将所述旋转矩阵代入所述变换表达式得到平移矩阵。
可选地,所述构建子单元还用于:采用以下公式构建旋转矩阵计算和平移矩阵的误差函数:/>;其中,/>为第i个点的权重,/>为旋转矩阵,/>为平移矩阵,/>为所述第三圆心点集/>中的第i个点,/>为所述第四圆心点集/>中的第i个点,/>为转置符,n为所述第三圆心点集或所述第四圆心点集中的点的总数。
可选地,所述第二运算子单元还用于:对所述误差函数进行求迹运算,得到以下等式:,其中,/>,/>;将等式中的XWY T配置为协方差矩阵S
可选地,所述分解子单元还用于:对所述协方差矩阵S进行SVD分解,得到以下公式:,其中,U、V均为分解得到的已知量;将U、V代入以下公式,计算得到旋转矩阵:/>
可选地,所述处理子单元还用于:基于所述第一圆心点集和所述第二圆心点集构建旋转矩阵和平移矩阵/>的初始误差函数/>,其中,/>为第i个点的权重,/>为所述第一圆心点集中的第i个点,/>为所述第二圆心点集中的第i个点,n为所述第一圆心点集或所述第二圆心点集中的点的总数;采用所述初始误差函数对平移矩阵/>求偏导,得到误差偏导函数/>;将所述第一质心坐标和所述第二质心坐标代入所述误差偏导函数,得到所述旋转矩阵与所述平移矩阵之间的变换表达式:,其中,/>为第一质心坐标,/>为第二质心坐标。
可选地,所述对齐模块包括:对齐单元,用于针对所述缺陷位置中每个二维的缺陷像素点(u,v),采用以下公式将(u,v)对齐转换为所述3D点云中的三维点(x,y,z):;其中,所述变换矩阵包括旋转矩阵R和平移矩阵/>
根据本申请实施例的另一方面,还提供了一种存储介质,该存储介质包括存储的程序,其中,程序运行时执行上述的方法步骤。
根据本申请实施例的另一方面,还提供了一种电子设备,包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;其中:存储器,用于存放计算机程序;处理器,用于通过运行存储器上所存放的程序来执行上述的方法步骤。
本申请实施例还提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述方法中的步骤。
通过本发明实施例,采用2D相机采集目标轮毂的2D图像,以及采用3D相机采集目标轮毂的3D点云,其中,2D相机和3D相机的位置固定,2D相机和3D相机的视野区域相同,计算2D相机和3D相机之间的变换矩阵,采用深度学习算法检测2D图像中的缺陷位置,采用变换矩阵将缺陷位置的缺陷像素点对齐至3D点云,截取3D点云中缺陷像素点覆盖的缺陷点云,基于缺陷点云计算缺陷位置的缺陷尺寸,通过采用变换矩阵将2D图片中的像素点对齐映射至3D点云中,实现2D图像和3D点云之间的高精度匹配,从而判定同一个位置识别的缺陷是否为伪缺陷,或者提取更详细的缺陷3D信息,同时数据对齐后还能做数据实时同步刷新,解决了相关技术中采用2D相机检测轮毂误检率高的技术问题。
附图说明
此处所说明的附图用来提供对本发明的进一步理解,构成本申请的一部分,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。在附图中:
图1是本发明实施例的一种计算机的硬件结构框图;
图2是根据本发明实施例的轮毂缺陷的检测方法的流程图;
图3是本发明实施例中标定板的示意图;
图4是根据本发明实施例的一种轮毂缺陷的检测装置的结构框图。
具体实施方式
为了使本技术领域的人员更好地理解本申请方案,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请的一部分的实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本申请保护的范围。需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。
需要说明的是,本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
实施例1
本申请实施例一所提供的方法实施例可以在控制器、计算机、工业机器人或者类似的运算装置中执行。以运行在计算机上为例,图1是本发明实施例的一种计算机的硬件结构框图。如图1所示,计算机可以包括一个或多个(图1中仅示出一个)处理器102(处理器102可以包括但不限于微处理器MCU或可编程逻辑器件FPGA等的处理装置)和用于存储数据的存储器104,可选地,上述计算机还可以包括用于通信功能的传输设备106以及输入输出设备108。本领域普通技术人员可以理解,图1所示的结构仅为示意,其并不对上述计算机的结构造成限定。例如,计算机还可包括比图1中所示更多或者更少的组件,或者具有与图1所示不同的配置。
存储器104可用于存储计算机程序,例如,应用软件的软件程序以及模块,如本发明实施例中的一种轮毂缺陷的检测方法对应的计算机程序,处理器102通过运行存储在存储器104内的计算机程序,从而执行各种功能应用以及数据处理,即实现上述的方法。存储器104可包括高速随机存储器,还可包括非易失性存储器,如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中,存储器104可进一步包括相对于处理器102远程设置的存储器,这些远程存储器可以通过网络连接至计算机。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
传输设备106用于经由一个网络接收或者发送数据。上述的网络具体实例可包括计算机的通信供应商提供的无线网络。在一个实例中,传输设备106包括一个网络适配器(Network Interface Controller,简称为NIC),其可通过基站与其他网络设备相连从而可与互联网进行通讯。在一个实例中,传输设备106可以为射频(Radio Frequency,简称为RF)模块,其用于通过无线方式与互联网进行通讯。
在本实施例中提供了一种轮毂缺陷的检测方法,图2是根据本发明实施例的轮毂缺陷的检测方法的流程图,如图2所示,该流程包括如下步骤:
步骤S202,采用2D相机采集目标轮毂的2D图像,以及采用3D相机采集目标轮毂的3D点云,其中,2D相机和3D相机的位置固定,2D相机和3D相机的视野区域相同;
本实施例的3D相机可以是线激光扫描装置,2D相机与3D相机间相对位置固定不变,视野区域相同。
步骤S204,计算2D相机和3D相机之间的变换矩阵;
可选的,变换矩阵由旋转矩阵和平移矩阵组成。
步骤S206,采用深度学习算法检测2D图像中的缺陷位置,采用变换矩阵将缺陷位置的缺陷像素点对齐至3D点云;
步骤S208,截取3D点云中缺陷像素点覆盖的缺陷点云,基于缺陷点云计算缺陷位置的缺陷尺寸。
通过以上步骤,采用2D相机采集目标轮毂的2D图像,以及采用3D相机采集目标轮毂的3D点云,其中,2D相机和3D相机的位置固定,2D相机和3D相机的视野区域相同,计算2D相机和3D相机之间的变换矩阵,采用深度学习算法检测2D图像中的缺陷位置,采用变换矩阵将缺陷位置的缺陷像素点对齐至3D点云,截取3D点云中缺陷像素点覆盖的缺陷点云,基于缺陷点云计算缺陷位置的缺陷尺寸,通过采用变换矩阵将2D图片中的像素点对齐映射至3D点云中,实现2D图像和3D点云之间的高精度匹配,从而判定同一个位置识别的缺陷是否为伪缺陷,或者提取更详细的缺陷3D信息,同时数据对齐后还能做数据实时同步刷新,解决了相关技术中采用2D相机检测轮毂误检率高的技术问题。
在本实施例的一个实施方式中,计算2D相机和3D相机之间的变换矩阵包括:
S11,采用2D相机采集标定板的2D参考图像,以及采用3D相机采集标定板的3D参考点云,其中,标定板上开设有多个均匀分布的标定圆,每个标定圆上贴有标定图案;
本实施例结合轮毂生产产线的实际情况,选取一块平整度良好且没有缺陷的钢板来制作标定板,图3是本发明实施例中标定板的示意图,包括9个标定圆,在其边缘贴上9个专用圆形定位贴纸(如直径1mm)构成标定图案,无需严格等距对称粘贴,只需尽量对称即可。
S12,读取2D参考图像中每个标定图案的圆心坐标,并为每个圆心坐标添加单位长度的深度值,得到第一圆心点集,以及读取3D参考点云中每个标定图案的圆心坐标,得到第二圆心点集;
在一个实施场景中,标定板有9个标定图案,将钢制标定板放置于轮毂产线的轨道上,同时采集其2D图像和3D点云,设当前采集的图像为P,对应点云为S。在图片P中通过选取圆心的方式获得图片中9个圆的圆心坐标(u_i,v_i ),i为圆心的标识,u对应水平方向坐标,v对应竖直方向的坐标,并给每个圆心坐标添加z值(对应垂直方向/深度方向的坐标)为l,使每个圆心坐标变为(u_i,v_i,l),则9个圆心坐标可构成包含9个点的点集A,A={a1,a2,…,a9}。同时,获得点云S中9个圆的圆心坐标(x_i,y_i,z_i ),则9个圆心坐标可构成包含9个点的点集B,点集B={b1,b2,…,b9}。
S13,计算第一圆心点集变换至第二圆心点集的旋转矩阵和平移矩阵;
在一个示例中,计算第一圆心点集变换至第二圆心点集的旋转矩阵和平移矩阵包括:计算第一圆心点集的第一质心坐标,以及计算第二圆心点集的第二质心坐标;采用第一圆心点集除以第一质心坐标,得到第三圆心点集,采用第二圆心点集除以第二质心坐标,得到第四圆心点集;基于第三圆心点集和第四圆心点集构建旋转矩阵计算和平移矩阵的误差函数;对误差函数进行求迹运算,得到协方差矩阵;对协方差矩阵进行奇异值分解(Singular Value Decomposition,SVD),计算得到旋转矩阵;基于第一质心坐标和第二质心坐标构建旋转矩阵与平移矩阵之间的变换表达式,并将旋转矩阵代入变换表达式得到平移矩阵。
可选的,基于第三圆心点集和第四圆心点集构建旋转矩阵计算和平移矩阵/>的误差函数包括:采用以下公式构建旋转矩阵/>计算和平移矩阵/>的误差函数:;其中,/>为第i个点的权重,/>为旋转矩阵,/>为平移矩阵,为第三圆心点集/>中的第i个点,/>为第四圆心点集/>中的第i个点,/>为转置符,n为第三圆心点集或第四圆心点集中的点的总数。
可选的,对误差函数进行求迹运算,得到协方差矩阵包括:对误差函数进行求迹运算,得到以下等式:,其中,/>,/>;将等式中的XWY T配置为协方差矩阵S
可选的,对协方差矩阵进行奇异值分解SVD,计算得到旋转矩阵包括:对协方差矩阵S进行SVD分解,得到以下公式:,其中,U、V均为分解得到的已知量;将U、V代入以下公式,计算得到旋转矩阵/>:/>
可选的,基于第一质心坐标和第二质心坐标构建旋转矩阵与平移矩阵之间的变换表达式包括:基于第一圆心点集和第二圆心点集构建旋转矩阵和平移矩阵/>的初始误差函数/>,其中,/>为第i个点的权重,/>为第一圆心点集中的第i个点,/>为第二圆心点集中的第i个点,n为第一圆心点集或第二圆心点集中的点的总数;采用初始误差函数对平移矩阵/>求偏导,得到误差偏导函数/>;将第一质心坐标和第二质心坐标代入误差偏导函数,得到旋转矩阵与平移矩阵之间的变换表达式:,其中,/>为第一质心坐标,/>为第二质心坐标。
S14,将旋转矩阵和平移矩阵确定为2D相机和3D相机之间的变换矩阵。
在一个实施方式中,以第一圆心点集为点集A,第二圆心点集为点集B,每个点集中点的数量为9为例进行说明,计算从点集A变换到点集B的旋转矩阵R和平移矩阵,计算和推导过程如下:
构建初始误差函数:
式(1)中:f为误差函数,为第i个点的权重,可取值为1,R为待求取的3×3旋转矩阵,/>为待求取的3×1平移矩阵。
初始误差函数对求偏导,得到:
(2)
求取点集A的质心坐标,点集B的质心坐标/>分别为:
(3)
将式(3)代入式(2),得到变换表达式:(4);
将式(4)代入式(1),得到:(5)
点集A和B除以质心坐标,得到和/>,那么初始误差函数可以重写为:/>(6)
对式(6)误差函数表达式中的进行化简,得到:
(7)
将式(7)代入式(6)得:(8)
根据矩阵迹的性质,进行求迹运算:
(9)
式(9)中:,/>,/>
定义协方差矩阵S=XWYT,对S进行SVD分解,得到(由于X W Y均为已知量,所以V U也均为SVD分解后的已知量),那么可以推导得到:
(10)
由于V,R,U均为已知的正交矩阵,据此可以推导出:(11)
通过式(11)求得R,R代入至式(4),求得,完成旋转矩阵R和平移矩阵/>的求解。
在本实施例中,采用变换矩阵将缺陷位置的缺陷像素点对齐至3D点云包括:针对缺陷位置中每个二维的缺陷像素点(u,v),采用以下公式将(u,v)对齐转换为3D点云中的三维点(x,y,z):;其中,变换矩阵包括旋转矩阵R和平移矩阵/>
对于轮毂2D图像上缺陷位置的任意像素点(u,v),采用标定得到的变换矩阵R和,完成其到3D点云上对应点(x,y,z)的映射:
,其中,R=/>,/>=/>
通过深度学习算法检测出2D图像上的缺陷,通过上述步骤将缺陷像素映射到3D点云,在点云数据上可以精确计算出缺陷的面积、长度、宽度等更详细精确的缺陷尺寸数据,从而完成缺陷的深度检测和校验。
本实施例的方案提出了一种轮毂缺陷检测2D图像3D点云数据对齐方法,使得在2D图像上检出缺陷后,借助3D点云来算出对应缺陷精确的尺寸信息。产线上设备运行时,2D相机与3D相机间相对位置固定不变,因此可以通过双目标定获得二者之间的空间变换关系,即旋转矩阵R和平移矩阵,借助该变换关系实现二维图像的像素点到三维点云的映射,最终实现更深层次的缺陷检测。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到根据上述实施例的方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,控制器,或者网络设备等)执行本发明各个实施例所述的方法。
实施例2
在本实施例中还提供了一种轮毂缺陷的检测装置,该装置用于实现上述实施例及优选实施方式,已经进行过说明的不再赘述。如以下所使用的术语“模块”可以实现预订功能的软件和硬件的组合。尽管以下实施例所描述的装置较佳地以软件实现,但是硬件,或者软件和硬件的组合的实现也是可以被构想的。
图4是本发明实施例的一种轮毂缺陷的检测装置的结构框图,如图4所示,该装置包括:
采集模块40,用于采用2D相机采集目标轮毂的2D图像,以及采用3D相机采集所述目标轮毂的3D点云,其中,所述2D相机和所述3D相机的位置固定,所述2D相机和所述3D相机的视野区域相同;
第一计算模块42,用于计算所述2D相机和所述3D相机之间的变换矩阵;
对齐模块44,用于采用深度学习算法检测所述2D图像中的缺陷位置,采用所述变换矩阵将所述缺陷位置的缺陷像素点对齐至所述3D点云;
第二计算模块46,用于截取所述3D点云中所述缺陷像素点覆盖的缺陷点云,基于所述缺陷点云计算所述缺陷位置的缺陷尺寸。
可选地,所述第一计算模块包括:采集单元,用于采用所述2D相机采集标定板的2D参考图像,以及采用所述3D相机采集所述标定板的3D参考点云,其中,所述标定板上开设有多个均匀分布的标定圆,每个标定圆上贴有标定图案;读取单元,用于读取所述2D参考图像中每个标定图案的圆心坐标,并为每个圆心坐标添加单位长度的深度值,得到第一圆心点集,以及读取所述3D参考点云中每个标定图案的圆心坐标,得到第二圆心点集;计算单元,用于计算所述第一圆心点集变换至所述第二圆心点集的旋转矩阵和平移矩阵;配置单元,用于将所述旋转矩阵和所述平移矩阵确定为所述2D相机和所述3D相机之间的变换矩阵。
可选地,所述计算单元包括:计算子单元,用于计算所述第一圆心点集的第一质心坐标,以及计算所述第二圆心点集的第二质心坐标;第一运算子单元,用于采用所述第一圆心点集除以所述第一质心坐标,得到第三圆心点集,采用所述第二圆心点集除以所述第二质心坐标,得到第四圆心点集;构建子单元,用于基于所述第三圆心点集和所述第四圆心点集构建旋转矩阵计算和平移矩阵的误差函数;第二运算子单元,用于对所述误差函数进行求迹运算,得到协方差矩阵;分解子单元,用于对所述协方差矩阵进行奇异值分解SVD,计算得到旋转矩阵;处理子单元,用于基于所述第一质心坐标和所述第二质心坐标构建所述旋转矩阵与所述平移矩阵之间的变换表达式,并将所述旋转矩阵代入所述变换表达式得到平移矩阵。
可选地,所述构建子单元还用于:采用以下公式构建旋转矩阵计算和平移矩阵的误差函数:/>;其中,/>为第i个点的权重,/>为旋转矩阵,/>为平移矩阵,/>为所述第三圆心点集/>中的第i个点,/>为所述第四圆心点集/>中的第i个点,/>为转置符,n为所述第三圆心点集或所述第四圆心点集中的点的总数。
可选地,所述第二运算子单元还用于:对所述误差函数进行求迹运算,得到以下等式:,其中,/>,/>;将等式中的XWY T配置为协方差矩阵S
可选地,所述分解子单元还用于:对所述协方差矩阵S进行SVD分解,得到以下公式:,其中,U、V均为分解得到的已知量;将U、V代入以下公式,计算得到旋转矩阵:/>
可选地,所述处理子单元还用于:基于所述第一圆心点集和所述第二圆心点集构建旋转矩阵和平移矩阵/>的初始误差函数/>,其中,/>为第i个点的权重,/>为所述第一圆心点集中的第i个点,/>为所述第二圆心点集中的第i个点,n为所述第一圆心点集或所述第二圆心点集中的点的总数;采用所述初始误差函数对平移矩阵/>求偏导,得到误差偏导函数/>;将所述第一质心坐标和所述第二质心坐标代入所述误差偏导函数,得到所述旋转矩阵与所述平移矩阵之间的变换表达式:,其中,/>为第一质心坐标,/>为第二质心坐标。
可选地,所述对齐模块包括:对齐单元,用于针对所述缺陷位置中每个二维的缺陷像素点(u,v),采用以下公式将(u,v)对齐转换为所述3D点云中的三维点(x,y,z):;其中,所述变换矩阵包括旋转矩阵R和平移矩阵/>
需要说明的是,上述各个模块是可以通过软件或硬件来实现的,对于后者,可以通过以下方式实现,但不限于此:上述模块均位于同一处理器中;或者,上述各个模块以任意组合的形式分别位于不同的处理器中。
实施例3
本发明的实施例还提供了一种存储介质,该存储介质中存储有计算机程序,其中,该计算机程序被设置为运行时执行上述任一项方法实施例中的步骤。
可选地,在本实施例中,上述存储介质可以被设置为存储用于执行的计算机程序:
S1,采用2D相机采集目标轮毂的2D图像,以及采用3D相机采集所述目标轮毂的3D点云,其中,所述2D相机和所述3D相机的位置固定,所述2D相机和所述3D相机的视野区域相同;
S2,计算所述2D相机和所述3D相机之间的变换矩阵;
S3,采用深度学习算法检测所述2D图像中的缺陷位置,采用所述变换矩阵将所述缺陷位置的缺陷像素点对齐至所述3D点云;
S4,截取所述3D点云中所述缺陷像素点覆盖的缺陷点云,基于所述缺陷点云计算所述缺陷位置的缺陷尺寸。
可选地,在本实施例中,上述存储介质可以包括但不限于:U盘、只读存储器(Read-Only Memory,简称为ROM)、随机存取存储器(Random Access Memory,简称为RAM)、移动硬盘、磁碟或者光盘等各种可以存储计算机程序的介质。
本发明的实施例还提供了一种电子装置,包括存储器和处理器,该存储器中存储有计算机程序,该处理器被设置为运行计算机程序以执行上述任一项方法实施例中的步骤。
可选地,上述电子装置还可以包括传输设备以及输入输出设备,其中,该传输设备和上述处理器连接,该输入输出设备和上述处理器连接。
可选地,在本实施例中,上述处理器可以被设置为通过计算机程序执行以下步骤:
S1,采用2D相机采集目标轮毂的2D图像,以及采用3D相机采集所述目标轮毂的3D点云,其中,所述2D相机和所述3D相机的位置固定,所述2D相机和所述3D相机的视野区域相同;
S2,计算所述2D相机和所述3D相机之间的变换矩阵;
S3,采用深度学习算法检测所述2D图像中的缺陷位置,采用所述变换矩阵将所述缺陷位置的缺陷像素点对齐至所述3D点云;
S4,截取所述3D点云中所述缺陷像素点覆盖的缺陷点云,基于所述缺陷点云计算所述缺陷位置的缺陷尺寸。
可选地,本实施例中的具体示例可以参考上述实施例及可选实施方式中所描述的示例,本实施例在此不再赘述。
上述本申请实施例序号仅仅为了描述,不代表实施例的优劣。
在本申请的上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
在本申请所提供的几个实施例中,应该理解到,所揭露的技术内容,可通过其它的方式实现。其中,以上所描述的装置实施例仅仅是示意性的,例如单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,单元或模块的间接耦合或通信连接,可以是电性或其它的形式。
作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机课读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可为个人计算机、控制器或者网络设备等)执行本申请各个实施例方法的全部或部分步骤。而前述的存储介质包括:U盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。
以上仅是本申请的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本申请原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本申请的保护范围。

Claims (10)

1.一种轮毂缺陷的检测方法,其特征在于,包括:
采用2D相机采集目标轮毂的2D图像,以及采用3D相机采集所述目标轮毂的3D点云,其中,所述2D相机和所述3D相机的位置固定,所述2D相机和所述3D相机的视野区域相同;
计算所述2D相机和所述3D相机之间的变换矩阵;
采用深度学习算法检测所述2D图像中的缺陷位置,采用所述变换矩阵将所述缺陷位置的缺陷像素点对齐至所述3D点云;
截取所述3D点云中所述缺陷像素点覆盖的缺陷点云,基于所述缺陷点云计算所述缺陷位置的缺陷尺寸。
2.根据权利要求1所述的方法,其特征在于,计算所述2D相机和所述3D相机之间的变换矩阵包括:
采用所述2D相机采集标定板的2D参考图像,以及采用所述3D相机采集所述标定板的3D参考点云,其中,所述标定板上开设有多个均匀分布的标定圆,每个标定圆上贴有标定图案;
读取所述2D参考图像中每个标定图案的圆心坐标,并为每个圆心坐标添加单位长度的深度值,得到第一圆心点集,以及读取所述3D参考点云中每个标定图案的圆心坐标,得到第二圆心点集;
计算所述第一圆心点集变换至所述第二圆心点集的旋转矩阵和平移矩阵;
将所述旋转矩阵和所述平移矩阵确定为所述2D相机和所述3D相机之间的变换矩阵。
3.根据权利要求2所述的方法,其特征在于,计算所述第一圆心点集变换至所述第二圆心点集的旋转矩阵和平移矩阵包括:
计算所述第一圆心点集的第一质心坐标,以及计算所述第二圆心点集的第二质心坐标;
采用所述第一圆心点集除以所述第一质心坐标,得到第三圆心点集,采用所述第二圆心点集除以所述第二质心坐标,得到第四圆心点集;
基于所述第三圆心点集和所述第四圆心点集构建旋转矩阵计算和平移矩阵的误差函数;
对所述误差函数进行求迹运算,得到协方差矩阵;
对所述协方差矩阵进行奇异值分解SVD,计算得到旋转矩阵;
基于所述第一质心坐标和所述第二质心坐标构建所述旋转矩阵与所述平移矩阵之间的变换表达式,并将所述旋转矩阵代入所述变换表达式得到平移矩阵。
4.根据权利要求3所述的方法,其特征在于,基于所述第三圆心点集和所述第四圆心点集构建旋转矩阵计算和平移矩阵/>的误差函数包括:
采用以下公式构建旋转矩阵计算和平移矩阵/>的误差函数:
其中,为第i个点的权重,/>为旋转矩阵,/>为平移矩阵,/>为所述第三圆心点集/>中的第i个点,/>为所述第四圆心点集/>中的第i个点,/>为转置符,n为所述第三圆心点集或所述第四圆心点集中的点的总数。
5.根据权利要求4所述的方法,其特征在于,对所述误差函数进行求迹运算,得到协方差矩阵包括:
对所述误差函数进行求迹运算,得到以下等式:
其中,,/>,/>
将等式中的XWY T配置为协方差矩阵S
6.根据权利要求5所述的方法,其特征在于,对所述协方差矩阵进行SVD,计算得到旋转矩阵包括:
对所述协方差矩阵S进行SVD分解,得到以下公式:
,其中,U、V均为分解得到的已知量;
将U、V代入以下公式,计算得到旋转矩阵:/>
7.根据权利要求5所述的方法,其特征在于,基于所述第一质心坐标和所述第二质心坐标构建所述旋转矩阵与所述平移矩阵之间的变换表达式包括:
基于所述第一圆心点集和所述第二圆心点集构建旋转矩阵和平移矩阵/>的初始误差函数/>,其中,/>为第i个点的权重,/>为所述第一圆心点集中的第i个点,/>为所述第二圆心点集中的第i个点,n为所述第一圆心点集或所述第二圆心点集中的点的总数;
采用所述初始误差函数对平移矩阵求偏导,得到误差偏导函数/>
将所述第一质心坐标和所述第二质心坐标代入所述误差偏导函数,得到所述旋转矩阵与所述平移矩阵之间的变换表达式:,其中,/>为第一质心坐标,/>为第二质心坐标。
8.根据权利要求1所述的方法,其特征在于,采用所述变换矩阵将所述缺陷位置的缺陷像素点对齐至所述3D点云包括:
针对所述缺陷位置中每个二维的缺陷像素点(u,v),采用以下公式将(u,v)对齐转换为所述3D点云中的三维点(x,y,z):
其中,所述变换矩阵包括旋转矩阵R和平移矩阵
9.一种轮毂缺陷的检测装置,其特征在于,包括:
采集模块,用于采用2D相机采集目标轮毂的2D图像,以及采用3D相机采集所述目标轮毂的3D点云,其中,所述2D相机和所述3D相机的位置固定,所述2D相机和所述3D相机的视野区域相同;
第一计算模块,用于计算所述2D相机和所述3D相机之间的变换矩阵;
对齐模块,用于采用深度学习算法检测所述2D图像中的缺陷位置,采用所述变换矩阵将所述缺陷位置的缺陷像素点对齐至所述3D点云;
第二计算模块,用于截取所述3D点云中所述缺陷像素点覆盖的缺陷点云,基于所述缺陷点云计算所述缺陷位置的缺陷尺寸。
10.一种存储介质,其特征在于,所述存储介质包括存储的程序,其中,所述程序运行时执行上述权利要求1至8中任一项所述的方法的步骤。
CN202311358727.2A 2023-10-19 2023-10-19 轮毂缺陷的检测方法及装置、存储介质 Active CN117095002B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202311358727.2A CN117095002B (zh) 2023-10-19 2023-10-19 轮毂缺陷的检测方法及装置、存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202311358727.2A CN117095002B (zh) 2023-10-19 2023-10-19 轮毂缺陷的检测方法及装置、存储介质

Publications (2)

Publication Number Publication Date
CN117095002A true CN117095002A (zh) 2023-11-21
CN117095002B CN117095002B (zh) 2024-02-06

Family

ID=88777280

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202311358727.2A Active CN117095002B (zh) 2023-10-19 2023-10-19 轮毂缺陷的检测方法及装置、存储介质

Country Status (1)

Country Link
CN (1) CN117095002B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117506919A (zh) * 2023-12-01 2024-02-06 广州创之力智能科技有限公司 一种手眼标定方法、装置、终端设备及存储介质

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111080627A (zh) * 2019-12-20 2020-04-28 南京航空航天大学 一种基于深度学习的2d+3d大飞机外形缺陷检测与分析方法
CN113792645A (zh) * 2021-09-10 2021-12-14 黄明 一种融合图像和激光雷达的ai眼球
CN113808096A (zh) * 2021-09-14 2021-12-17 成都主导软件技术有限公司 一种非接触式的螺栓松动检测方法及其系统
CN114419038A (zh) * 2022-03-28 2022-04-29 深圳市信润富联数字科技有限公司 轮毂表面缺陷的识别方法及装置、存储介质、电子设备
CN114952809A (zh) * 2022-06-24 2022-08-30 中国科学院宁波材料技术与工程研究所 工件识别和位姿检测方法、系统及机械臂的抓取控制方法
CN115886053A (zh) * 2021-08-25 2023-04-04 埃视森智能科技(上海)有限公司 一种基于视觉引导的猪肉肥肉切割系统及切割方法
CN116213306A (zh) * 2023-02-27 2023-06-06 中国科学院深圳先进技术研究院 一种自动视觉识别方法及分拣系统
CN116894829A (zh) * 2023-07-21 2023-10-17 盛景智能科技(嘉兴)有限公司 焊缝缺陷检测的方法、装置、计算机设备及存储介质

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111080627A (zh) * 2019-12-20 2020-04-28 南京航空航天大学 一种基于深度学习的2d+3d大飞机外形缺陷检测与分析方法
CN115886053A (zh) * 2021-08-25 2023-04-04 埃视森智能科技(上海)有限公司 一种基于视觉引导的猪肉肥肉切割系统及切割方法
CN113792645A (zh) * 2021-09-10 2021-12-14 黄明 一种融合图像和激光雷达的ai眼球
CN113808096A (zh) * 2021-09-14 2021-12-17 成都主导软件技术有限公司 一种非接触式的螺栓松动检测方法及其系统
CN114419038A (zh) * 2022-03-28 2022-04-29 深圳市信润富联数字科技有限公司 轮毂表面缺陷的识别方法及装置、存储介质、电子设备
CN114952809A (zh) * 2022-06-24 2022-08-30 中国科学院宁波材料技术与工程研究所 工件识别和位姿检测方法、系统及机械臂的抓取控制方法
CN116213306A (zh) * 2023-02-27 2023-06-06 中国科学院深圳先进技术研究院 一种自动视觉识别方法及分拣系统
CN116894829A (zh) * 2023-07-21 2023-10-17 盛景智能科技(嘉兴)有限公司 焊缝缺陷检测的方法、装置、计算机设备及存储介质

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
曾鹏;: "单目视觉引导机器人在视觉检测中的应用", 电子技术与软件工程, no. 10 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117506919A (zh) * 2023-12-01 2024-02-06 广州创之力智能科技有限公司 一种手眼标定方法、装置、终端设备及存储介质
CN117506919B (zh) * 2023-12-01 2024-05-24 广州创之力智能科技有限公司 一种手眼标定方法、装置、终端设备及存储介质

Also Published As

Publication number Publication date
CN117095002B (zh) 2024-02-06

Similar Documents

Publication Publication Date Title
CN108732582B (zh) 车辆定位方法和装置
CN113592989B (zh) 一种三维场景的重建系统、方法、设备及存储介质
CN1954342B (zh) 参数推定方法、参数推定装置及对照方法
CN104173054B (zh) 基于双目视觉技术的人体身高测量方法及其装置
JP5924862B2 (ja) 情報処理装置、情報処理方法及びプログラム
CN101673397B (zh) 一种基于lcd的数码相机非线性标定方法
CN104567727B (zh) 利用立体靶标对线结构光轮廓传感器的全局统一校准方法
CN102589530B (zh) 基于二维相机和三维相机融合的非合作目标位姿测量方法
CN117095002B (zh) 轮毂缺陷的检测方法及装置、存储介质
CN104781849A (zh) 单眼视觉同时定位与建图(slam)的快速初始化
CN105021124A (zh) 一种基于深度图的平面零件三维位置和法向量计算方法
CN103983186B (zh) 双目视觉系统校正方法及校正设备
CN110458865A (zh) 平面自然特征目标的原位形成
CN104665836A (zh) 长度量测方法与长度量测装置
CN110276774B (zh) 物体的绘图方法、装置、终端和计算机可读存储介质
CN106323286B (zh) 一种机器人坐标系与三维测量坐标系的变换方法
CN111459269B (zh) 一种增强现实显示方法、系统及计算机可读存储介质
CN116721203A (zh) 一种用于测量三维模型的方法、装置和存储介质
CN104766309A (zh) 一种平面特征点导航定位方法与装置
CN102072706A (zh) 一种多相机定位与跟踪方法及系统
CN106470478B (zh) 一种定位数据处理方法、装置和系统
CN114862973B (zh) 基于固定点位的空间定位方法、装置、设备及存储介质
CN105574812A (zh) 多角度三维数据配准方法及装置
CN113763478B (zh) 无人车相机标定方法、装置、设备、存储介质及系统
CN106296650B (zh) 一种激光点云配准方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant