CN107667520B - 具有运动补偿的图像捕捉系统 - Google Patents

具有运动补偿的图像捕捉系统 Download PDF

Info

Publication number
CN107667520B
CN107667520B CN201680030439.6A CN201680030439A CN107667520B CN 107667520 B CN107667520 B CN 107667520B CN 201680030439 A CN201680030439 A CN 201680030439A CN 107667520 B CN107667520 B CN 107667520B
Authority
CN
China
Prior art keywords
edge
image
described image
sensor
distance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201680030439.6A
Other languages
English (en)
Other versions
CN107667520A (zh
Inventor
理查德·弗朗西斯·莱恩
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Google LLC
Original Assignee
Google LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Google LLC filed Critical Google LLC
Publication of CN107667520A publication Critical patent/CN107667520A/zh
Application granted granted Critical
Publication of CN107667520B publication Critical patent/CN107667520B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/64Imaging systems using optical elements for stabilisation of the lateral and angular position of the image
    • G02B27/646Imaging systems using optical elements for stabilisation of the lateral and angular position of the image compensating for small deviations, e.g. due to vibration or shake
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/54Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/689Motion occurring during a rolling shutter mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/72Combination of two or more compensation controls
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/53Control of the integration time
    • H04N25/531Control of the integration time by controlling rolling shutters in CMOS SSIS
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/768Addressed sensors, e.g. MOS or CMOS sensors for time delay and integration [TDI]

Abstract

示例图像系统(210)可以包括产生图像的透镜(220)、图像传感器(230)、图像稳定器、以及控制器(310)。所述图像传感器(230)具有第一边缘和相对的第二边缘。所述第一边缘被放置为距离透镜(210)更近,使得透镜聚焦在更远的物体上。所述图像稳定器在所述图像传感器处提供随着时间变化的图像运动的补偿。所述控制器(310)在重复周期中操作所述图像捕捉系统(210),在所述重复周期中,所述传感器(230)从一个边缘到相对的边缘渐进地曝光并且读出图像。所述控制器(310)操作所述图像稳定器以提供随着时间变化的图像运动补偿,使得与曝光并且读取所述传感器(230)的所述第一边缘时相比,所述图像运动补偿在曝光并且读取所述传感器(230)的所述第二边缘时更大。

Description

具有运动补偿的图像捕捉系统
相关申请的交叉引用
本申请是于2015年8月21日提交的美国专利申请No.14/832,335的继续申请,该专利申请的公开内容在此通过引用全部并入本文。
背景技术
由低光照水平下的短时间曝光导致的散焦模糊、运动模糊以及噪声往往限制相机在运动时捕捉图像。另外,相机通常聚焦在较浅的深度范围内。
发明内容
本公开的各个方面提供了一种图像捕捉系统。该图像捕捉系统包括:透镜,该透镜产生图像;图像传感器,该图像传感器具有第一边缘以及与第一边缘相对的第二边缘,第一边缘被放置为距离透镜更近,使得透镜聚焦在更远的物体上;图像稳定器,该图像稳定器被配置为在图像传感器处提供随着时间变化的图像运动的补偿;以及控制器,该控制器被配置为:(1)在重复周期中操作图像捕捉系统,其中,在每个周期期间,控制器操作传感器以从一个边缘到相对的边缘渐进地曝光并且读出图像,并且(2)操作图像稳定器以提供随着时间变化的图像运动补偿,使得与曝光并且读取传感器的第一边缘时相比,图像运动补偿在曝光并且读取传感器的第二边缘时更大。
在一个示例中,图像稳定器包括图像捕捉系统的振荡,该图像捕捉系统的振荡是围绕与图像运动的方向垂直的轴的旋转振荡。在该示例中,图像捕捉系统的旋转振荡是围绕垂直轴的。同样在该示例中,相对于透镜对图像传感器的放置不受图像捕捉系统的振荡的影响。
在进一步的示例中,控制器也被配置为操作图像稳定器以提供一定量的图像运动补偿,该一定量的图像运动补偿在曝光并且读取传感器的第一边缘时为处于第一距离的物体补偿图像运动,并且在曝光并且读取传感器的第二边缘时为处于第二距离的物体补偿图像运动,第一距离大于第二距离。在该示例中,控制器也被配置为操作图像稳定器以提供一定量的图像运动补偿,该一定量的图像运动补偿在曝光并且读取图像传感器的在第一边缘和第二边缘之间的部分时为处于第一距离和第二距离之间的物体补偿图像运动。
在再一示例中,控制器也被配置为处理合成图像以从合成图像中的物体提取文本信息。在进一步的示例中,图像传感器是行被垂直定向并且读出时间从后往前进展的卷帘快门图像传感器。在另一示例中,图像稳定器补偿包括图像传感器围绕与图像运动的方向垂直的轴的旋转振荡。在该示例中,一个或多个传感器的振荡包括10度或者更小的旋转。
本公开的其他方面提供一种方法。该方法包括:使用一个或多个控制器在重复周期中操作图像捕捉系统以捕捉多个图像,该图像捕捉系统具有透镜、图像传感器以及图像稳定器,其中,图像传感器具有第一边缘以及与第一边缘相对的第二边缘,第一边缘被放置为距离透镜更近,使得透镜聚焦在更远的物体上;在每个周期期间,使用一个或多个控制器操作传感器以从一个边缘到相对的边缘渐进地曝光并且读出图像;并且使用一个或多个控制器操作图像稳定器以提供随着时间变化的图像运动补偿,使得与曝光并且读取传感器的第一边缘时相比,运动补偿在曝光并且读取传感器的第二边缘时更大。
在一个示例中,图像稳定器包括图像捕捉系统的振荡,该图像捕捉系统的振荡是围绕与图像运动的方向垂直的轴的旋转振荡。在该示例中,图像捕捉系统的旋转振荡是围绕垂直轴的。同样在该示例中,图像传感器的角度相对于透镜是固定的。
在另一示例中,操作图像稳定器以提供随着时间变化的图像运动补偿还包括在曝光并且读取传感器的第一边缘时为处于第一距离的物体补偿图像运动,在曝光并且读取传感器的第二边缘时为处于第二距离的物体补偿图像运动,第一距离大于第二距离,以及在曝光并且读取图像传感器的在第一边缘和第二边缘之间的部分时为处于第一距离和第二距离之间的物体补偿图像运动。在再一示例中,该方法还包括通过一个或多个控制器处理多个图像以从图像中的物体提取文本信息。在进一步的示例中,图像传感器是行被垂直定向并且读出时间从后往前进展的卷帘快门图像传感器。
本公开的进一步方面提供了一种储存指令的非暂时性计算机可读介质,该指令在由一个或多个控制器执行时使该一个或多个控制器执行一种方法。该方法包括:在重复周期中操作图像捕捉系统以捕捉多个图像,该图像捕捉系统具有透镜、图像传感器以及图像稳定器,其中,图像传感器具有第一边缘以及与第一边缘相对的第二边缘,第一边缘被放置为距离透镜更近,使得透镜聚焦在更远的物体上;在每个周期期间,操作传感器以从一个边缘到相对的边缘渐进地曝光并且读出图像;并且操作图像稳定器以提供随着时间变化的图像运动补偿,使得与曝光并且读取传感器的第一边缘时相比,运动补偿在曝光并且读取传感器的第二边缘时更大。
在一个示例中,操作图像稳定器以提供随着时间变化的图像运动补偿还包括在曝光并且读取传感器的第一边缘时为处于第一距离的物体补偿图像运动,在曝光并且读取传感器的第二边缘时为处于第二距离的物体补偿图像运动,第一距离大于第二距离,以及在曝光并且读取图像传感器的在第一边缘和第二边缘之间的部分时为处于第一距离和第二距离之间的物体补偿图像运动。在另一示例中,该方法还包括处理多个图像以从图像中的物体提取文本信息。
附图说明
图1是根据本公开的方面的示例性传统图像捕捉系统的功能图。
图2是根据本公开的方面的示例图像捕捉系统的功能图。
图3是根据本公开的方面的图2的图像捕捉系统的直观图。
图4是根据本公开的方面的图像捕捉系统的功能图。
图5A是表示根据本公开的方面的图像捕捉系统的示例操作的曲线图。
图5B是表示根据本公开的方面的图像捕捉系统的示例操作的曲线图。
图6是根据示例性实施例的示例系统的功能图。
图7是根据示例性实施例的示例系统的功能图。
图8是根据本公开的方面的图2的系统的直观图。
图9是根据本公开的方面的示例方法的流程图。
具体实施方式
本技术涉及一种图像捕捉系统,该图像捕捉系统在车辆处于运动时能够捕捉具有不同对焦距离范围的图像。图像捕捉系统可以被安装或可安装在车辆上。
典型的相机系统可以利用与透镜平面平行定向的图像传感器。在图像传感器与透镜平行的系统中,物体对焦的距离跨越图像传感器是相同的。这些系统可以利用相机稳定器系统、液体楔形棱镜透镜、传感器位移或者后处理调节,以试图补偿由用户的手部移动导致的微小的移动和晃动。然而,在试图适应车辆的移动时,这些技术具有易于理解的局限性,这些局限性使这些技术在处理质量问题(诸如,由低光照水平下的短时间曝光导致的散焦模糊、运动模糊以及噪声)时不太有效。当这种图像是模糊的或者嘈杂的时候,这使得在使用技术(诸如,光学字符识别(OCR))时难以识别图像中的某些特征(诸如,在标志上的文本)。因此,为了捕捉OCR所需的各种镜头,典型相机系统可能需要多次捕捉或者多个相机。
为了改善在车辆处于运动时由图像捕捉系统捕捉的图像的质量,图像捕捉系统可以利用图像传感器,该图像传感器安装在相对于透镜的倾斜面上,而不是平行于透镜。在图像捕捉系统中的图像传感器可以倾斜一定角度,与最佳地聚焦在近距物体上的、与第一边缘相对的第二边缘相比,第一边缘略微更靠近透镜以最佳地聚焦在远距物体上。覆盖物体距离的范围所需的倾斜量与物体距离的倒数大致呈线性关系。i=f+f2/o,其中,图像距离i(从图像传感器到透镜所处位置)略微大于焦距f,相差的量与物体距离o的倒数成比例。因此,与图像传感器的第二边缘聚焦的物体相比,图像传感器的第一边缘可以聚焦在离相机更远的物体上,使得出现在一个以上的图像中的不同位置处的物体可能在其中一个图像中比在另一个图像中更好地被对焦。
图像传感器可以是卷帘快门图像传感器,该卷帘快门图像传感器的行被垂直定向或者处于纵向模式,并且读出时间从后往前进展或者反之亦然。卷帘快门从图像传感器的一个边缘开始并且向相对的边缘进展地读出图像,使得在略微不同的时间读取图像的不同部分。通过应用与车辆速度相关的随着时间变化的图像稳定,可以为在图像的不同部分中处于不同距离的物体补偿由车辆运动导致的运动模糊。可以通过各种已知手段来应用图像稳定,包括:将图像传感器移到透镜后、使整个相机旋转、或者使用液体楔形棱镜移动图像。
系统可以围绕与车辆行进方向以及相机指向方向垂直的轴旋转,以便补偿车辆移动;例如,如果相机正朝向正在移动的汽车的侧面,则该轴是纵轴。该旋转可以是扭转振荡,还可以是正弦振荡或者任何其他类型的振荡。换言之,系统可以围绕轴来回旋转,先朝行进方向摆动透镜,然后朝行进方向的反方向摆动透镜。在系统的振荡期间,图像传感器相对于透镜的定向可以保持固定。在朝行进方向的反方向旋转时,系统可以补偿车辆移动。这种补偿可以允许系统捕捉静止物体更清晰的图像,否则,由于车辆移动,这些图像会是模糊的。由此,为了获得更高质量的最多图像,可以将系统设置为仅在系统正朝车辆行进方向的反方向旋转时捕捉图像。
倾斜的图像传感器和旋转的系统的组合可以允许系统补偿多个焦点平面的不同角速度。因为离正在移动的车辆的距离较短,与离车辆更远的物体相比,靠近车辆的物体具有更大的角速度。在无穷远处的物体角速度为零。物体的角速度相对于物体离系统的距离的倒数以线性的方式变化。在使倾斜的图像传感器旋转时,与第二边缘的角速度相比,图像传感器的第一边缘的角速度可能更快。这种布置可以补偿在离车辆不同距离处的角速度差异,并且允许系统捕捉图像的部分,这些部分针对在图像的不同部分中处于不同距离处的物体既得到了很好的对焦也得到了很好的运动补偿。
为了进一步补偿角速度差异,可以使系统的旋转与卷帘快门曝光和读出同步,并且可以将旋转速度的量调节为与车辆速度成比例,使得对于对焦在图像传感器的每个区域中的物体,大致停止在图像传感器上的图像运动。
系统可以以足够高的速率捕捉图像,使得感兴趣的物体出现在多个连续图像中,但是,这些物体在一个图像或者另一个图像中更清晰或者对焦更好,这取决于其距离以及其在图像内的位置。因为倾斜的图像传感器可以跨越单个图像提供对焦距离梯度,所以,邻近的图像可以在具有不同最佳焦距的不同图像位置处捕捉相同的物体或者位置。
可以对捕捉的图像进行处理以从图像中的物体提取文本信息。已经从具有不同对焦距离并且如上所述地进行了运动补偿的图像得以生成,可以应用传统的机器读取方法。
示例系统
图1是传统图像捕捉系统的功能图。图像捕捉系统110可以具有相互平行布置的透镜120和图像传感器130。因此,焦点平面140也平行于透镜。
图像捕捉系统可以利用图像传感器,该图像传感器安装在相对于透镜的倾斜面上,而不是平行于透镜,以便改善在车辆处于运动中时由图像捕捉系统捕捉的图像的质量。如图2所示,图像捕捉系统210可以具有透镜220和图像传感器230。图像传感器230可以倾斜角度α,与最佳地聚焦在近距物体上的、与第一边缘相对的第二边缘相比,第一边缘略微更靠近透镜以最佳地聚焦在远距物体上。覆盖物体距离的范围所需的倾斜量与物体距离的倒数大致呈线性关系。i=f+f2/o,其中,图像距离i(从图像传感器到透镜所处位置)略微大于焦距f,相差的量与物体距离o的倒数成比例。
例如,透镜220的焦距为0.010m(10mm),在无穷远的远距离,图像传感器230的较近边缘可以放置在透镜平面后0.010m处;在4m的近物体距离,图像传感器230的相对边缘可以放置在透镜平面后0.010025m处。如果图像传感器的边缘相距10mm,则从一个边缘到其他边缘的25微米(0.000025m)的这种略微倾斜对应于25毫弧度(大约0.14度)的角度。因此,与图像传感器230的第二边缘聚焦的物体相比,图像传感器的第一边缘可以聚焦在离相机更远的物体上,使得出现在一个以上的图像中的不同位置处的物体可能在其中一个图像中比在另一个图像中更好地被对焦。
可以将具体的倾斜量确定为最佳覆盖要成像的物体距离的范围的倾斜量。如上文提到的,倾斜的方向可以围绕垂直于车辆行进方向的轴(诸如,纵轴),还可以是在任何其他方向上。
图像传感器230可以是卷帘快门图像传感器,该卷帘快门图像传感器的行被垂直定向或者处于纵向模式,并且读出时间从后往前进展或者反之亦然。卷帘快门从图像传感器的一个边缘开始并且向相对的边缘进展地读出图像,使得在略微不同的时间读取图像的不同部分。图像还可以是在一个芯片或多个芯片上的单个阵列中的像素感光器的集合。另外地或者可替代地,系统可以利用在透镜后呈角度放置的多个图像传感器。与在透镜第二边缘处的图像传感器相比,在透镜第一边缘处的图像传感器与透镜的距离可以更小。多个图像传感器中的每一个都可以如上所述地倾斜。多个图像传感器可以被配置为起到单个卷帘快门图像传感器的作用;换言之,从透镜的一个边缘开始并且向透镜的相对边缘进展地曝光并且读出图像。每个图像传感器都可以是卷帘快门图像传感器,但是并非必然如此。
图3是图2的图像捕捉系统的直观图。除了透镜220和一个或多个图像传感器230之外,图像捕捉系统210还可以具有一个或多个控制器310。该一个或多个控制器310可以控制图像捕捉系统的操作。例如,该一个或多个控制器310可以使图像捕捉系统210移动或者捕捉图像。该一个或多个控制器还可以单独地控制图像捕捉系统210的组件(诸如,透镜220或者图像传感器230)。在一些示例中,图像捕捉系统可以包括存储数据的存储器、以及在被执行时可以用于操作系统的指令。
除了具有倾斜的图像传感器之外,系统还可以被配置为围绕与车辆行进方向以及相机指向方向垂直的轴旋转,以便补偿车辆移动。该旋转可以是扭转振荡,还可以是正弦振荡。换言之,系统可以围绕轴来回旋转,先朝行进方向摆动透镜,然后朝行进方向的反方向摆动透镜。如图4所示,图像捕捉系统210可以围绕轴420来回旋转,覆盖角距离β。
在系统的振荡期间,图像传感器相对于透镜的定向可以保持固定。换言之,图像传感器可以连同透镜一起旋转。例如,系统可以在10度的角距离内来回旋转。系统因此可以补偿在系统朝行进方向的反方向旋转在时间段中的系统的位移。换言之,系统可以通过在图像运动方向上旋转来补偿跨越传感器的图像运动。系统可以被配置为在系统朝位移方向的反方向(或者在图像运动方向上)旋转并且位移得到最佳补偿时捕捉图像。
根据本发明的示例实施例,图5A和5B示出了通过图像捕捉系统的图像捕捉周期的随着时间变化的角速度和相机旋转角度,该图像捕捉系统被校准以聚焦在从4米到无穷远的物体距离上。图5A用图形描绘了图像捕捉系统的旋转的示例,作为随着时间变化的角速度,用实线510表示。虚线512表示按照弧度的旋转量。线514表示图像的曝光和读出间隔,并且线段516表示具有基于图像传感器的倾斜和系统的角速度的最佳运动补偿的距离。符号“+”518表示用于补偿在4米和8米距离处的行进速度的理想角速度。在图5A中,图像捕捉率是每秒8帧(fps),具有1/48秒的读出,并且车辆速度为10m/s。因此,系统在正弦运动的1/6(用粗线520突显)期间按照8fps进行成像,其中,系统旋转最佳地补偿从4米到无穷远范围的距离。
图5B用图形描绘了图像捕捉系统的旋转的另一示例,作为随时间变化的角速度,用实线530表示。虚线532表示按照弧度的旋转量。线534表示图像的曝光和读出间隔,并且线段536表示具有基于图像传感器的倾斜和系统的角速度的最佳运动补偿的距离。符号“+”538表示用于补偿在4米和8米距离处的行进速度的理想角速度。在图5B中,图像捕捉率是每秒12帧,具有1/48秒的读出,并且车辆速度为10m/s。使用更接近锯齿波形的运动来获得更大的帧速率(使用高达12赫兹周期的五次谐波,在一个方向的斜升比在另一个方向上的斜升慢)。系统在1/4周期期间按照12fps的速率进行成像,如粗线540所突显的。
除了或者作为旋转的替代,系统可以作为平移振荡器在平行于车辆行进方向的平面中从一边到另一边地振荡。在再一示例中,可以相对于透镜仅振荡图像传感器以补偿图像运动,而不是旋转或者振荡整个系统。
倾斜的图像传感器和旋转的系统的组合可以允许系统补偿多个焦点平面的不同角速度。因为离正在移动的车辆的距离较短,与离车辆更远的物体相比,靠近车辆的物体具有更大的角速度。例如,对于10m/s的车辆速度,在4米远处的物体的角速度是每秒2.5弧度,或者每毫秒2.5毫弧度。在无穷远处的物体角速度为0。物体的角速度相对于物体离系统的距离的倒数以线性的方式变化。在使倾斜的图像传感器旋转时,与第二边缘的角速度相比,图像传感器的第一边缘的角速度可能更快。换言之,具有近焦点的图像传感器的边缘可以具有更快的角速度。这种布置可以补偿在离车辆不同距离处的角速度差异,并且允许系统捕捉图像的部分,这些部分针对在图像的不同部分中处于不同距离处的物体既得到了很好的对焦也得到了很好的运动补偿。
为了进一步补偿角速度差异,可以使系统的旋转与卷帘快门曝光和读出同步,并且可以将旋转速度的量调节为与车辆速度成比例,使得对于对焦在图像传感器的每个区域中的物体,大致停止在图像传感器上的图像运动。
系统可以以足够高的速率捕捉图像,使得感兴趣的物体出现在多个连续图像中,但是,这些物体在一个图像或者另一个图像中更清晰,这取决于其距离以及其在图像内的位置。换言之,物体可以出现在一个以上的图像中并且可以出现在不同图像中的不同点处。例如,系统可以每个振荡周期捕捉一个镜头,每个振荡在10度的旋转范围内。这种1/6周期的曝光和读出可以对应于等于读出时间的大约6倍或者等于图像传感器的最大帧速率的1/6的帧间隔。对于能够在1/48秒内读取的图像传感器,每秒可以捕捉总共8张图像,或者,如果车辆正以10m/s的速度行进,则每1.25米捕捉一张图像,这样可以捕捉离车辆超过几米处的物体的多个视图(取决于相机的视野)。
因为倾斜的图像传感器可以跨越单个图像提供对焦距离梯度,所以,邻近的图像可以在具有不同最佳焦距的不同图像位置处捕捉相同的物体或者位置。例如,位于8米距离的物体可能会出现在3个或更多个不同的图像中(取决于视野),并且在这些图像中的至少一个图像中,物体出现在接近图像的中心处,其中,最佳对焦距离是8米(就倒数距离来说,在无穷远处和4米边缘之间的一半距离)。如果运动补偿被调节为在无穷远边缘处不旋转并且补偿在其他边缘处的位于4米距离处的物体的10m/s的车辆运动(每秒2.5弧度的旋转),并且在这些数值之间以大致线性的方式变化,则大致会消除在接近图像中心8米距离处的物体的运动模糊。同样地,在4米与无穷远之间的距离处的其他物体在大致对应的图像位置处既得到了很好的聚焦,也得到了很好的运动补偿,使得如果它们出现在多个图像中,则它们将会在至少一个图像中是清晰的。
如图6所示,图像捕捉系统210可以被并入车辆600中。虽然本公开的特定方面特别适用于特定类型的车辆,但是车辆可以是任何类型的车辆,包括但不限于,汽车、卡车、摩托车、公共汽车、休闲车等。车辆可以具有一个或多个计算装置,诸如计算装置610,其包括一个或多个处理器620、存储器630、以及一般存在于通用计算装置中的其他组件。图像捕捉系统210可以连接到计算装置610并且安装到车辆600上。
存储器630存储可由一个或多个处理器620访问的信息,包括可以由处理器620执行或者使用的数据632和指令634。一个或多个处理器620可以是任何传统的处理器,诸如市售CPU。可替代地,一个或多个处理器可以是专用装置,诸如ASIC或者其他基于硬件的处理器。存储器630可以是任何能够存储通过处理器访问的信息的类型,包括存储可以在电子装置辅助下读取的数据的计算装置可读介质或者其他介质,所述电子装置诸如为硬盘驱动器、存储器卡、ROM、RAM、DVD或者其他光盘和其他可写的以及只读的存储器。系统和方法可以包括不同的上述的组合,借以将指令以及数据的不同部分存储在不同类型的介质上。
根据指令634,可以通过处理器620检索、存储或者修改数据632。例如,尽管所要求的主题不受任何特定数据结构的限制,但是数据可以存储在计算装置寄存器中,在相关的数据库中作为具有多个不同字段以及记录、XML文档或者平面文件的表格。数据还可以以任何计算装置可读格式进行格式化。
指令634可以是通过处理器直接地(诸如,机器代码)或者间接地(诸如,脚本)执行的任何指令集。例如,指令可以作为计算装置代码存储在计算装置可读介质上。在这一点上,术语“指令”以及“程序”在本文中可以可交换地使用。指令可以为了通过处理器直接处理而以目标代码格式存储,或者以任何其他计算装置语言存储,该任何其他计算装置语言包括脚本或者独立源代码模块的集合,其根据需要进行解译或者提前编译。下面将更详细地解释指令的功能、方法以及例程。
尽管图6在同一框内在功能上图示了处理器、存储器以及计算装置610的其他元件,但是本领域技术人员应理解,处理器、计算装置或者存储器实际上可以包括多个处理器、计算装置或者存储器,其可以或者不可以存储在同一物理壳体内。例如,存储器可以是硬盘驱动器或者其他存储介质,其设置于不同于计算装置610的壳体中。相应地,处理器或者计算装置的引用也应理解为包括处理器或者计算装置或者存储器的集合的引用,其可以或者不可以并行操作。
计算装置610可以具有结合计算装置通常使用的所有组件,诸如上述的处理器和存储器、以及用户输入650(例如,鼠标、键盘、触摸屏和/或麦克风)以及各种电子显示器(例如,具有屏幕的监视器或者可操作用于显示信息的任何其他电子装置)。在该示例中,车辆包括内部电子显示器652和一个或多个扬声器654以提供信息或者视听体验。在这一点上,内部电子显示器652可以设置于车辆600的座舱内,并且可以通过计算装置610进行使用以为车辆600内的乘客提供信息。
计算装置610还可以包括一个或多个无线网络连接654以促进与其他计算装置(诸如,下面将详细说明的客户端计算装置以及服务器计算装置)的通信。无线网络连接可以包括短程通信协议,诸如蓝牙、低功耗蓝牙(LE)、蜂窝连接和各种配置以及协议,该各种配置以及协议包括互联网、万维网、内联网、虚拟专用网、广域网、本地网络、一个或多个公司专有的使用通信协议的私有网络、以太网、WiFi和HTTP、以及上述的各种组合。
除了图像捕捉系统210之外,计算装置610也可以与车辆600的一个或多个车辆操作系统660通信。车辆操作系统660可以包括车辆的操作中涉及的系统,车辆的操作诸如是减速、加速、转向、发信号、导航、定位、检测等中的一个或多个。尽管一个或多个车辆操作系统660被示出为在计算装置610之外,但是系统也可以被并入计算装置610中。
图像捕捉系统210也可以接收或者传送来自其他计算装置以及去往其他计算装置的信息(诸如,捕捉的图像)。图7和图8分别是示例系统700的直观图和功能图,该示例系统700包括经由网络760连接的多个计算装置710、720、730、740以及存储系统750。系统700还包括图像捕捉系统210。尽管为了简单起见只描绘了一些计算装置,但是典型的系统可以包括更多计算装置。另外地或者可替代地,一个或多个车辆(诸如,车辆600)可以被包括在系统700中。
如图8所示,计算装置710、720、730、740中的每一个都可以包括一个或多个处理器、存储器、数据和指令。这些处理器、存储器、数据和指令可以被配置为类似于计算装置610的一个或多个处理器620、存储器630、数据632和指令634。
网络760以及中间节点可以包括各种配置和协议,该各种配置和协议包括短程通信协议(诸如蓝牙、蓝牙LE、互联网、万维网、内联网、虚拟专用网、广域网、本地网络、一个或多个公司专有的使用通信协议的私有网络、以太网、WiFi和HTTP)、以及上述的各种组合。可以通过能够向其他计算装置(诸如,调制解调器和无线接口)传输数据和从其他计算装置传输数据的任何装置来促进这种通信。
另外,服务器计算装置710可以使用网络760向用户(诸如,用户722、732、742)传输信息并且将信息呈现在显示器(诸如,计算装置720、730、740的显示器724、734、742)上。在这一点上,计算装置720、730、740可以认为是客户端计算装置。
如图8所示,每个客户端计算装置720、730、740可以是供用户722、732、742使用的个人计算装置,并且具有结合个人计算装置通常使用的所有组件,包括:一个或多个处理器(例如,中央处理单元(CPU))、存储数据和指令的存储器(例如,RAM和内部硬盘驱动器)、诸如显示器724、734、744的显示器(例如,具有屏幕的监视器、触摸屏、投影仪、电视机、或者可操作用于显示信息的其他装置)、以及用户输入装置726、736、746(例如,鼠标、键盘、触摸屏或者麦克风)。客户端计算装置还可以包括用于记录视频流的相机、扬声器、网络接口装置、以及用于将这些元件相互连接的所有组件。
另外,客户端计算装置720和730还可以包括组件728和738以确定客户端计算装置的位置和定向。例如,这些组件可以包括用于确定装置的纬度、经度和/或高度的GPS接收器、以及加速度计、陀螺仪或者另一方向/速度检测装置。
尽管客户端计算装置720、730和740每个都可以包括全尺寸的个人计算装置,但是它们可以可替代地包括能够通过网络(诸如,互联网)与服务器无线交换数据的移动计算装置。仅举例说明,客户端计算装置720可以是移动电话或者诸如支持无线功能的PDA、平板PC、可穿戴式计算装置或者系统的装置,或者是能够通过互联网或者其他网络获得信息的上网本。在另一示例中,客户端计算装置730可以是可穿戴式计算系统,在图7中被示出为头戴式计算系统。作为示例,用户可以使用小键盘、小型键盘、麦克风、利用相机或者触摸屏使用视觉信号来输入信息。
存储系统750可以存储各种类型的信息,可以通过服务器计算装置(诸如,一个或多个服务器计算装置710)检索或者访问该各种类型的信息,以便执行本文说明的一些或者所有特征。该存储系统750可以存储由图像捕捉系统210捕捉的图像。与图像相关的信息(诸如,位置信息和姿势信息)可以与图像相关联地被存储。
正如存储器730一样,存储系统750可以是能够存储可由服务器计算装置710访问的信息的任何类型的计算机化的存储,诸如硬盘驱动器、记忆卡、ROM、RAM、DVD、CD-ROM、可写的以及只读的存储器。另外,存储系统750可以包括分布式存储系统,在这种分布式存储系统中,数据被存储在多个不同的存储装置中,这些存储装置在物理上位于相同的或者不同的地理位置。存储系统750可以如图7所示通过网络760连接至计算装置和/或可以直接连接至或者被并入计算装置710、720、730、740、图像捕捉装置210等中的任何一个。
示例方法
图9是根据如上所述的一些方面的示例流程图900,该示例流程图900由系统中的一个或多个控制器执行。在该示例中,在框910中,可以将一个或多个图像传感器以一定角度配置在图像捕捉系统的透镜后。然后,在框920中,可以基于图像捕捉系统的运动方向使图像捕捉系统振荡。例如,可以将图像捕捉系统安装在车辆上,在这种情况下,车辆行进的方向将会是图像捕捉系统的运动方向。在框930中,图像捕捉系统可以从系统中的透镜的第一边缘开始并且向透镜的与第一边缘相对的第二边缘进展地曝光并且读取图像。为了按照这种方式曝光并且读取图像,图像捕捉系统的传感器可以是卷帘快门图像传感器。
可以对捕捉的图像进行处理以从图像中的物体提取文本信息。已经从具有不同对焦距离并且如上所述地进行了运动补偿的图像得以生成,可以应用传统的机器读取方法。例如,可以通过OCR的使用来读取在标志上的文字。可以在图像捕捉装置210上处理捕捉的图像。在其他示例中,可以经由网络760将捕捉的图像发送到一个或多个计算装置710、720、730、740并且在该一个或多个计算装置处处理捕捉的图像。可以经由网络760将捕捉的图像和/或提取的信息从图像捕捉系统210或者一个或多个计算装置710、720、730、740发送到存储系统750。响应于用户请求,可以从存储系统750检索捕捉的图像或者提取的信息。
在一些示例中,可以通过将捕捉的图像的所选部分拼接在一起来生成合成图像,这些部分是对焦最好的并且是经过处理的,以便从图像提取信息。该合成图像可以是全景图。为了选择捕捉的图像的对焦最好的部分,可以将捕捉到特定位置的不同图像的部分进行比较。可以选择捕捉的图像的描绘了最清晰的特定位置或者最靠近对焦距离的位置的部分,以被包括在合成图像中。系统可以使用LIDAR来检测特定位置与车辆之间的距离。可以选择捕捉的图像的在聚焦于与检测到的距离相匹配的距离上的图像传感器部分处捕捉到特定位置的部分,以被包括在合成图像中。然后可以处理生成的合成图像以从图像中的物体提取文本信息。
上述特征允许捕捉在以高速度行进时(诸如,在开车时)在宽距离范围内对焦的图像。虽然,如上所述,倾斜的传感器、旋转或者振荡、或者重叠图像中的每一种都提供了优于典型图像捕捉系统的个体优势,但是其组合可以为生成上述合成图像提供最好的捕捉图像源。因此,合成图像可以包含比通常在从移动车辆拍摄的图像中捕捉的信息更多的信息。例如,合成图像可以用于后处理以提取文本信息,比如标志上的文字,如果是通过典型的图像捕捉系统捕捉,则这些字会太过模糊或者离焦而无法被读取。另外,倾斜的图像传感器和图像传感器的运动允许利用一个相机一次高效捕捉图像,其中,这些图像是以各种对焦距离和运动补偿程度被捕捉的。同样地,上文所公开的特征允许使用更大的光圈和更慢的快门速度,使得图像捕捉系统能够得到足够的光以高速地形成清晰的图像。
尽管已经在此参照特定实施例对本发明进行了说明,但是应理解,这些实施例仅仅是图示了本发明的原理和应用。因此,应理解,可以对图示的实施例进行许多修改,并且,在不脱离由随附权利要求书限定的本发明的精神和范围的情况下,可以设想其他布置。

Claims (20)

1.一种图像捕捉系统,包括:
透镜,所述透镜产生图像;
图像传感器,所述图像传感器具有第一边缘以及与所述第一边缘相对的第二边缘,所述第一边缘被放置为距离透镜更近,使得所述透镜聚焦在更远的物体上;
图像稳定器,所述图像稳定器被配置为在所述图像传感器处提供随着时间变化的图像运动补偿;以及
控制器,所述控制器被配置为:
在重复周期中操作所述图像捕捉系统,其中,在每个周期期间,所述控制器操作所述图像传感器以从一个边缘到相对的边缘渐进地曝光并且读出图像,并且
操作所述图像稳定器以提供随着时间变化的图像运动补偿,使得与曝光并且读取所述传感器的所述第一边缘时相比,所述图像运动补偿在曝光并且读取所述传感器的所述第二边缘时更大。
2.根据权利要求1所述的系统,其中,所述图像运动补偿包括所述图像捕捉系统的振荡,所述图像捕捉系统的振荡是围绕与图像运动的方向垂直的轴的旋转振荡。
3.根据权利要求2所述的系统,其中,所述图像捕捉系统的所述旋转振荡是围绕垂直轴的。
4.根据权利要求1所述的系统,其中,所述控制器进一步被配置为操作所述图像稳定器以提供一定量的图像运动补偿,所述一定量的图像运动补偿在曝光并且读取所述传感器的所述第一边缘时为处于第一距离的物体补偿所述图像运动,并且在曝光并且读取所述传感器的所述第二边缘时为处于第二距离的物体补偿所述图像运动,所述第一距离大于所述第二距离。
5.根据权利要求4所述的系统,其中,所述控制器进一步被配置为操作所述图像稳定器以提供一定量的图像运动补偿,所述一定量的图像运动补偿在曝光并且读取所述图像传感器的在所述第一边缘和所述第二边缘之间的部分时为处于所述第一距离和所述第二距离之间的物体补偿所述图像运动。
6.根据权利要求1所述的系统,其中,所述控制器进一步被配置为处理合成图像以从所述合成图像中的物体提取文本信息。
7.根据权利要求1所述的系统,其中,所述图像传感器是行被垂直定向并且读出时间从后往前进展的卷帘快门图像传感器。
8.根据权利要求2所述的系统,其中,相对于所述透镜对所述图像传感器的放置不受所述图像捕捉系统的所述振荡影响。
9.根据权利要求1所述的系统,其中,所述图像运动补偿包括所述图像传感器围绕与所述图像运动的方向垂直的轴的旋转振荡。
10.根据权利要求9所述的系统,其中,一个或多个传感器的所述振荡包括10度或者更小的旋转。
11.一种方法,包括:
使用一个或多个控制器在重复周期中操作图像捕捉系统以捕捉多个图像,所述图像捕捉系统具有透镜、图像传感器以及图像稳定器,其中,所述图像传感器具有第一边缘以及与所述第一边缘相对的第二边缘,所述第一边缘被放置为距离透镜更近,使得所述透镜聚焦在更远的物体上;
在每个周期期间,使用所述一个或多个控制器操作所述图像传感器以从一个边缘到相对的边缘渐进地曝光并且读出图像;以及
使用所述一个或多个控制器操作所述图像稳定器以提供随着时间变化的图像运动补偿,使得与曝光并且读取所述传感器的所述第一边缘时相比,所述运动补偿在曝光并且读取所述传感器的所述第二边缘时更大。
12.根据权利要求11所述的方法,其中,所述图像运动补偿包括所述图像捕捉系统的振荡,所述图像捕捉系统的振荡是围绕与图像运动的方向垂直的轴的旋转振荡。
13.根据权利要求12所述的方法,其中,所述图像捕捉系统的所述旋转振荡是围绕垂直轴的。
14.根据权利要求11所述的方法,其中,操作所述图像稳定器以提供随着时间变化的图像运动补偿进一步包括在曝光并且读取所述传感器的所述第一边缘时为处于第一距离的物体补偿所述图像运动,在曝光并且读取所述传感器的所述第二边缘时为处于第二距离的物体补偿所述图像运动,所述第一距离大于所述第二距离,以及在曝光并且读取所述图像传感器的在所述第一边缘和所述第二边缘之间的部分时为处于所述第一距离和所述第二距离之间的物体补偿所述图像运动。
15.根据权利要求11所述的方法,进一步包括通过所述一个或多个控制器处理所述多个图像以从所述图像中的物体提取文本信息。
16.根据权利要求11所述的方法,其中,所述图像传感器是行被垂直定向并且读出时间从后往前进展的卷帘快门图像传感器。
17.根据权利要求12所述的方法,其中,所述图像传感器的角度相对于所述透镜是固定的。
18.一种存储计算机程序的非暂时性计算机可读介质,所述计算机程序在由一个或多个控制器执行时使所述一个或多个控制器执行一种方法,所述方法包括:
在重复周期中操作图像捕捉系统以捕捉多个图像,所述图像捕捉系统具有透镜、图像传感器以及图像稳定器,其中,所述图像传感器具有第一边缘以及与所述第一边缘相对的第二边缘,所述第一边缘被放置为距离透镜更近,使得所述透镜聚焦在更远的物体上;
在每个周期期间,所述图像传感器从一个边缘到相对的边缘渐进地曝光并且读出图像,并且
操作所述图像稳定器以提供随着时间变化的图像运动补偿,使得与曝光并且读取所述传感器的所述第一边缘时相比,所述运动补偿在曝光并且读取所述传感器的所述第二边缘时更大。
19.根据权利要求18所述的介质,其中,操作所述图像稳定器以提供随着时间变化的图像运动补偿进一步包括:在曝光并且读取所述传感器的所述第一边缘时为处于第一距离的物体补偿所述图像运动,在曝光并且读取所述传感器的所述第二边缘时为处于第二距离的物体补偿所述图像运动,所述第一距离大于所述第二距离,以及在曝光并且读取所述图像传感器的在所述第一边缘和所述第二边缘之间的部分时为处于所述第一距离和所述第二距离之间的物体补偿所述图像运动。
20.根据权利要求18所述的介质,其中,所述方法进一步包括处理所述多个图像以从所述图像中的物体提取文本信息。
CN201680030439.6A 2015-08-21 2016-08-12 具有运动补偿的图像捕捉系统 Active CN107667520B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US14/832,335 2015-08-21
US14/832,335 US9596419B1 (en) 2015-08-21 2015-08-21 Image capture system with motion compensation
PCT/US2016/046757 WO2017034832A1 (en) 2015-08-21 2016-08-12 Image capture system with motion compensation

Publications (2)

Publication Number Publication Date
CN107667520A CN107667520A (zh) 2018-02-06
CN107667520B true CN107667520B (zh) 2019-04-30

Family

ID=56801808

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201680030439.6A Active CN107667520B (zh) 2015-08-21 2016-08-12 具有运动补偿的图像捕捉系统

Country Status (9)

Country Link
US (1) US9596419B1 (zh)
EP (1) EP3275173B1 (zh)
JP (1) JP6346716B1 (zh)
KR (1) KR101887600B1 (zh)
CN (1) CN107667520B (zh)
AU (1) AU2016312297B2 (zh)
DE (2) DE112016001832T5 (zh)
GB (1) GB2554579A (zh)
WO (1) WO2017034832A1 (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3346693B1 (en) * 2017-01-10 2021-03-24 Veoneer Sweden AB An imaging device for a motor vehicle, and a method of mounting an imaging device in a motor vehicle
JP7271132B2 (ja) 2018-10-26 2023-05-11 キヤノン株式会社 撮像装置および監視システム
US10999507B2 (en) * 2018-10-30 2021-05-04 Qualcomm Incorporated Optical image stabilization techniques
US10681277B1 (en) * 2019-03-07 2020-06-09 Qualcomm Incorporated Translation compensation in optical image stabilization (OIS)
KR20230023506A (ko) * 2021-08-10 2023-02-17 삼성전자주식회사 이미지 안정화를 수행하는 전자 장치 및 그의 동작 방법

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0984319A1 (en) * 1998-07-08 2000-03-08 Hewlett-Packard Company Camera with keystone distortion correction
CN101233440A (zh) * 2005-06-24 2008-07-30 诺基亚公司 利用滚动快门的自适应光平面形成

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US2899882A (en) 1959-08-18 Camera system for image motion compensation
US1953304A (en) 1933-05-31 1934-04-03 Fairchild Aerial Camera Corp Mount for aerial cameras and method of aerial photography
US6351288B1 (en) 1997-06-27 2002-02-26 Eastman Kodak Company Sensor tilt control for a digital camera
US6304284B1 (en) 1998-03-31 2001-10-16 Intel Corporation Method of and apparatus for creating panoramic or surround images using a motion sensor equipped camera
JP4433575B2 (ja) * 2000-06-16 2010-03-17 株式会社豊田中央研究所 車載撮像装置
JP4546781B2 (ja) * 2004-07-16 2010-09-15 日本放送協会 撮像装置及び色ずれ補正プログラム
JP4789722B2 (ja) * 2006-07-13 2011-10-12 Hoya株式会社 像ブレ補正装置
US8054335B2 (en) * 2007-12-20 2011-11-08 Aptina Imaging Corporation Methods and system for digitally stabilizing video captured from rolling shutter cameras
JP2012049892A (ja) * 2010-08-27 2012-03-08 Honda Elesys Co Ltd 撮像装置
JP2015219754A (ja) * 2014-05-19 2015-12-07 株式会社リコー 撮像装置および撮像方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0984319A1 (en) * 1998-07-08 2000-03-08 Hewlett-Packard Company Camera with keystone distortion correction
CN101233440A (zh) * 2005-06-24 2008-07-30 诺基亚公司 利用滚动快门的自适应光平面形成

Also Published As

Publication number Publication date
DE112016001832T5 (de) 2018-01-25
JP6346716B1 (ja) 2018-06-20
AU2016312297A1 (en) 2017-10-26
EP3275173A1 (en) 2018-01-31
WO2017034832A1 (en) 2017-03-02
DE202016007844U1 (de) 2017-01-18
JP2018518898A (ja) 2018-07-12
KR101887600B1 (ko) 2018-08-10
US20170054927A1 (en) 2017-02-23
GB201717735D0 (en) 2017-12-13
CN107667520A (zh) 2018-02-06
AU2016312297B2 (en) 2018-08-09
EP3275173B1 (en) 2019-04-10
US9596419B1 (en) 2017-03-14
GB2554579A (en) 2018-04-04
KR20170131608A (ko) 2017-11-29

Similar Documents

Publication Publication Date Title
CN107667520B (zh) 具有运动补偿的图像捕捉系统
US8605202B2 (en) Motion of image sensor, lens and/or focal length to reduce motion blur
CN103412616B (zh) 装置照相机角度
JP4776690B2 (ja) デジタル画像形成における動き歪みを低減させるための方法及び装置
JP5111088B2 (ja) 撮像装置及び画像再生装置
Okumura et al. 1 ms auto pan-tilt–video shooting technology for objects in motion based on saccade mirror with background subtraction
US10129477B2 (en) Smart image sensor having integrated memory and processor
US20180041709A1 (en) Multishot tilt optical image stabilization for shallow depth of field
WO2020060731A1 (en) Systems and methods for stabilizing videos
EP3777121A1 (en) Camera area locking
US11671707B2 (en) Systems and methods for dynamic stabilization adjustment
JP2012114809A (ja) 撮像装置及び電子機器
JP2014068336A (ja) 撮像装置および画像処理装置
JP5143172B2 (ja) 撮像装置及び画像再生装置
EP3474535B1 (en) Image synthesis method and device for mobile terminal
CN108668074A (zh) 图像模糊校正装置及其控制方法、摄像设备和存储介质
Lee et al. Fast-rolling shutter compensation based on piecewise quadratic approximation of a camera trajectory
US20170091905A1 (en) Information Handling System Defocus Tracking Video
JP2010193475A (ja) 撮像装置及び画像再生装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant