CN111942981A - 图像处理装置 - Google Patents

图像处理装置 Download PDF

Info

Publication number
CN111942981A
CN111942981A CN202010410378.4A CN202010410378A CN111942981A CN 111942981 A CN111942981 A CN 111942981A CN 202010410378 A CN202010410378 A CN 202010410378A CN 111942981 A CN111942981 A CN 111942981A
Authority
CN
China
Prior art keywords
camera
car
image
mark
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010410378.4A
Other languages
English (en)
Inventor
木村纱由美
田村聪
野田周平
横井谦太朗
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Elevator and Building Systems Corp
Original Assignee
Toshiba Elevator Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Elevator Co Ltd filed Critical Toshiba Elevator Co Ltd
Publication of CN111942981A publication Critical patent/CN111942981A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B66HOISTING; LIFTING; HAULING
    • B66BELEVATORS; ESCALATORS OR MOVING WALKWAYS
    • B66B5/00Applications of checking, fault-correcting, or safety devices in elevators
    • B66B5/0006Monitoring devices or performance analysers
    • B66B5/0012Devices monitoring the users of the elevator system
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B66HOISTING; LIFTING; HAULING
    • B66BELEVATORS; ESCALATORS OR MOVING WALKWAYS
    • B66B5/00Applications of checking, fault-correcting, or safety devices in elevators
    • B66B5/0006Monitoring devices or performance analysers
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B66HOISTING; LIFTING; HAULING
    • B66BELEVATORS; ESCALATORS OR MOVING WALKWAYS
    • B66B5/00Applications of checking, fault-correcting, or safety devices in elevators
    • B66B5/0006Monitoring devices or performance analysers
    • B66B5/0037Performance analysers
    • FMECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F16ENGINEERING ELEMENTS AND UNITS; GENERAL MEASURES FOR PRODUCING AND MAINTAINING EFFECTIVE FUNCTIONING OF MACHINES OR INSTALLATIONS; THERMAL INSULATION IN GENERAL
    • F16MFRAMES, CASINGS OR BEDS OF ENGINES, MACHINES OR APPARATUS, NOT SPECIFIC TO ENGINES, MACHINES OR APPARATUS PROVIDED FOR ELSEWHERE; STANDS; SUPPORTS
    • F16M13/00Other supports for positioning apparatus or articles; Means for steadying hand-held apparatus or articles
    • F16M13/02Other supports for positioning apparatus or articles; Means for steadying hand-held apparatus or articles for supporting on, or attaching to, an object, e.g. tree, gate, window-frame, cycle

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Indicating And Signalling Devices For Elevators (AREA)
  • Cage And Drive Apparatuses For Elevators (AREA)
  • Image Analysis (AREA)

Abstract

本发明的图像处理装置能提高摄像机的安装位置的偏移的检测精度。图像处理装置能够检测摄像机的安装位置的偏移,该摄像机设置在乘用轿厢的门附近,拍摄包含乘用轿厢内以及候梯厅的图像。图像处理装置包括获取单元、设定单元、调整单元以及检测单元。获取单元从摄像机获取在设置有能够与乘用轿厢的地板面及候梯厅的地板面区分开的标记的状态下拍摄到的图像。设定单元根据与摄像机的安装相关的规格值,在获取到的图像上设定推测为映出标记的关心区域。调整单元根据与关心区域中包含的像素群相关的统计量,来调整摄像机的参数。检测单元从摄像机获取在参数调整后拍摄到的图像,从该图像中识别标记,并根据识别出的标记来检测摄像机的安装位置的偏移。

Description

图像处理装置
本申请以日本专利申请2019-093079(申请日:5/16/2019)为基础,基于该申请而享有优先权。本申请通过参照该申请,包括该申请的全部内容。
技术领域
本发明的实施方式涉及一种图像处理装置。
背景技术
近年来,为了防止人、物体被电梯的轿厢门夹住,提出了各种技术。例如,提出了使用摄像机检测正朝向电梯移动的使用者,延长该电梯的门的开门时间的技术。
在这样的技术中,需要根据由摄像机拍摄的图像,高精度地检测正朝向电梯移动的使用者。但是,在摄像机的安装位置产生了偏移的情况下,摄像机所拍摄的图像会旋转,或在左右方向上偏移,所以有可能使上述使用者的检测精度降低。
因此,开发了在摄像机的安装位置产生偏移的情况下能够检测该偏移的技术,期望提高该技术的精度。
发明内容
本发明的实施方式要解决的问题是提供一种能够提高摄像机的安装位置的偏移的检测精度的图像处理装置。
根据一实施方式,图像处理装置能够检测摄像机的安装位置的偏移,该摄像机设置在轿厢的门附近,拍摄包含轿厢内以及候梯厅的图像。所述图像处理装置包括获取单元、设定单元、调整单元以及检测单元。所述获取单元从所述摄像机获取在设置有能够与所述轿厢的地板面以及所述候梯厅的地板面区分开的标记的状态下拍摄到的图像。所述设定单元根据与所述摄像机的安装相关的规格值,在获取到的所述图像上设定推测为映出所述标记的关心区域。所述调整单元根据与设定好的所述关心区域中包含的像素群相关的统计量,来调整所述摄像机的参数。所述检测单元从所述摄像机获取在所述参数调整后拍摄到的图像,从该获取到的图像中识别所述标记,并根据该识别出的标记来检测所述摄像机的安装位置的偏移。
根据上述构成的图像处理装置,能够提高摄像机的安装位置的偏移的检测精度。
附图说明
图1是表示实施方式的电梯系统的概略构成例的图。
图2是表示电梯系统所包含的图像处理装置的硬件构成例的图。
图3是表示在摄像机的安装位置没有偏移的情况下拍摄到的图像的图。
图4是表示在摄像机的安装位置存在偏移的情况下拍摄到的图像的图。
图5是表示设置在摄像机的拍摄范围内的标记的一例的图。
图6是表示图像处理装置的功能构成例的框图。
图7是表示校准功能中的图像处理装置的处理顺序的一例的流程图。
图8是用于补充说明图7所示的流程图的图,是表示由摄像机拍摄到的图像的图。
图9是表示在摄像机的曝光调整前拍摄到的图像的一例的图。
图10是表示曝光调整功能中的图像处理装置的处理顺序的一例的流程图。
图11是表示在摄像机的曝光调整后拍摄到的图像的一例的图。
具体实施方式
以下,参照附图对实施方式进行说明。公开的仅仅是一个例子,本发明不受以下实施方式中记载的内容的限定。本领域技术人员能够容易想到的变形当然包含在公开的范围内。为了使说明更加明确,在附图中,有时将各部分的尺寸、形状等相对于实际的实施方式进行变更而性示意地表示。在多个附图中,对对应的要素标注相同的参照数字,有时省略详细的说明。
图1是表示实施方式的电梯系统的概略构成例的图。
在轿厢11的出入口上部设置有摄像机12。具体而言,在覆盖轿厢11的出入口上部的门楣板11a中,朝向轿厢11内以及候梯厅15都拍摄到的方向设置摄像机12的镜头部分。摄像机12是例如车载摄像机等小型监视用摄像机,具有广角镜头,在1秒钟内连续拍摄数帧(例如30帧/秒)的图像。
摄像机12可以始终开启,始终进行拍摄,也可以在规定的时刻开启,开始拍摄,在规定的时刻关闭,结束拍摄。例如,摄像机12也可以在轿厢11的移动速度小于规定值时开启,在轿厢11的移动速度为规定值以上时关闭。在该情况下,在轿厢11为了停止在规定楼层而开始减速,移动速度小于规定值时,摄像机12开启而开始拍摄,在轿厢11为了朝向与该规定楼层不同的楼层而开始加速,移动速度为规定值以上时,摄像机12关闭而结束拍摄。即,摄像机12的拍摄从轿厢11为了停止在规定楼层而开始减速,移动速度小于规定值起,也包括轿厢11停止在该规定楼层的期间,到轿厢11为了从该规定楼层朝向其他楼层而开始加速,移动速度为规定值以上为止持续进行。
摄像机12的拍摄范围被设定为L1+L2(L1≥L2)。L1是候梯厅15侧的拍摄范围,从轿厢门13朝向候梯厅15设定。L2是轿厢11侧的拍摄范围,从轿厢门13朝向轿厢背面设定。此外,L1、L2是进深方向的范围,宽度方向(与进深方向正交的方向)的范围至少比轿厢11的横宽大。
在各层的候梯厅15中,在轿厢11的到达口开闭自如地设置有候梯厅门14。候梯厅门14在轿厢11到达时与轿厢门13卡合而进行开闭动作。此外,动力源(门机)位于轿厢11侧,候梯厅门14仅是跟随着轿厢门13进行开闭。在以下的说明中,假定轿厢门13打开时候梯厅门14也打开,关闭轿厢门13时候梯厅门14也关闭。
由摄像机12连续拍摄的各图像(影像)由图像处理装置20实时地进行图像处理。具体而言,图像处理装置20根据预先设定的区域(以下,记为检测区域)中的图像的亮度值的变化,检测离轿厢门13最近的使用者(的运动),进行检测到的使用者是否具有乘坐轿厢11的意图的判定、检测到的使用者的手、手臂是否有被拉进门暗箱中的可能性的判定等。图像处理装置20的图像处理的结果根据需要反映在电梯控制装置30的控制处理(主要是门开闭控制处理)中。
电梯控制装置30控制轿厢11到达候梯厅15时的轿厢门13的门开闭。详细而言,电梯控制装置30在轿厢11到达候梯厅15时打开轿厢门13,在经过规定时间后关门。
但是,在由图像处理装置20检测到具有乘坐轿厢11的意图的使用者的情况下,电梯控制装置30禁止轿厢门13的关门动作,维持开门状态(延长轿厢门13的开门时间)。另外,在由图像处理装置20检测到手、手臂有可能被拉进门暗箱中的使用者的情况下,电梯控制装置30禁止轿厢门13的开门动作或者使轿厢门13的开门速度比通常时慢,或者在轿厢11内播放催促从轿厢门13离开的消息等,并向该使用者通知手、手臂有被拉进门暗箱中的可能性。
此外,在图1中,为了方便,将图像处理装置20从轿厢11中取出来进行表示,但实际上图像处理装置20与摄像机12一起被收纳在门楣板11a中。另外,在图1中,例示了摄像机12和图像处理装置20分别设置的情况,但摄像机12和图像处理装置20也可以作为一个装置一体化地设置。进一步地,在图1中,例示了图像处理装置20和电梯控制装置30分别设置的情况,但图像处理装置20的功能也可以搭载在电梯控制装置30中。
图2是表示图像处理装置20的硬件构成的一例的图。
如图2所示,在图像处理装置20中,总线21上连接有非易失性存储器22、CPU23、主存储器24、以及通信设备25等。
非易失性存储器22存储包括例如操作系统(OS)等的各种程序。此外,存储在非易失性存储器22中的程序包括用于执行上述图像处理(更具体来说为后述的使用者检测处理)的程序、用于实现后述的校准功能的程序(以下,记为校准程序)。
CPU23例如是执行存储在非易失性存储器22中的各种程序的处理器。此外,CPU23执行图像处理装置20整体的控制。
主存储器24例如被用作CPU23执行各种程序时所需的工作区域等。
通信设备25具有对通过有线或无线与例如摄像机12、电梯控制装置30等外部装置执行的通信(信号的收发)进行控制的功能。
这里,如上所述,图像处理装置20根据预先设定的检测区域中的图像的亮度值的变化,执行检测距离轿厢门13最近的使用者的使用者检测处理。在该使用者检测处理中,为了关注预先设定的检测区域中的图像的亮度值的变化,需要将该检测区域始终设定在图像上的决定好的位置。
但是,在电梯系统的运用中,例如如果摄像机12的安装位置(安装角度)由于对轿厢11、摄像机12的冲击等而产生偏移,则上述检测区域也产生偏移,因此图像处理装置20会关注与实际想要关注的区域不同的区域的图像的亮度值的变化,其结果,有可能无法检测本来需要检测的使用者(物体),或者误检测本来不需要检测的使用者(物体)等。
图3表示在摄像机12的安装位置没有偏移的情况下拍摄到的图像的一例。另外,虽然在图1中未示出,但在轿厢11侧设置有用于引导轿厢门13的开闭的门槛(门坎)(以下,记为轿厢门槛)13a。同样,在候梯厅15侧设置有用于引导候梯厅门14的开闭的门槛(以下,记为候梯厅门槛)14a。另外,图3中的斜线部分表示在图像上设定的检测区域e1。在此,作为一例,假定为了检测处于候梯厅15的使用者,检测区域e1被设定成从长方形的轿厢门槛13a的长边中的轿厢11侧的长边起朝向候梯厅15侧具有规定的范围。此外,为了抑制手、手臂被拉进门暗箱中,检测区域可以设定在轿厢11侧,也可以在候梯厅15侧及轿厢11侧的双方设定多个。
另一方面,图4表示在摄像机12的安装位置存在偏移的情况下拍摄到的图像的一例。另外,图4中的斜线部分与图3同样地表示在图像上设定的检测区域e1。
如图4所示,当摄像机12的安装位置存在偏移时,由摄像机12拍摄到的图像与图3所示的情况相比,例如成为旋转后的图像(倾斜的图像)。但是,由于检测区域e1与图3同样地被设定在图像上的决定好的位置上,因此本来如图3所示,被设定成从长方形的轿厢门槛13a的长边中的轿厢11侧的长边起朝向候梯厅15侧具有规定的范围,但却如图4所示,被设定成从与长方形的轿厢门槛13a的长边完全没有关系的位置起具有规定的范围。由此,如上所述,有可能无法检测到本来需要检测的使用者,或者误检测到不需要检测的使用者。此外,在图4中,例示了因摄像机12的安装位置的偏移而导致图像旋转的情况,但在因摄像机12的安装位置的偏移而导致图像在左右方向上偏移的情况下,也有同样的可能性。
因此,本实施方式的图像处理装置20具有校准功能,该校准功能检测摄像机12的安装位置是否产生了偏移,在产生了偏移的情况下,能够与该偏移对应地在适当的位置设定检测区域。以下,对该校准功能进行详细说明。
此外,在实现校准功能时,例如需要将图5所示的标记m设置在摄像机12的拍摄范围内。标记m例如由进行电梯系统的维护检查的维护人员设置。在此,标记m为正方形状,包含4个黑色圆形记号作为图案,但标记m只要是4个角全部为直角的四边形,包含能够与摄像机12的拍摄范围内所包含的其他物体(例如,轿厢11、候梯厅15的地板面)区分开的图案的标记,就可以是任意的标记。
图6是表示本实施方式的图像处理装置20的功能构成的一例的框图。这里,主要说明与上述校准功能相关的功能构成。
如图6所示,图像处理装置20包括存储部201、图像获取部202、偏移检测部203、设定处理部204、以及通知处理部205等。如图6所示,偏移检测部203还包括识别处理部231、算出处理部232、以及检测处理部233等。
在本实施方式中,对这些各部202~205例如通过图2所示的CPU23(即,图像处理装置20的计算机)执行存储在非易失性存储器22中的校准程序(即,软件)来实现进行了说明,但上述各部202~205既可以通过硬件来实现,也可以通过软件及硬件的组合来实现。另外,在本实施方式中,存储部201例如由图2所示的非易失性存储器22或其他存储装置等构成。
在存储部201中存储有与校准功能相关的设定值。与校准功能相关的设定值包括表示标记相对于基准点的相对位置的值(以下,记为第1设定值)。基准点是指成为用于检测摄像机12的安装位置是否发生了偏移的指标的位置,例如,长方形的轿厢门槛13a的长边中的轿厢11侧的长边的中央相当于该基准点。此外,基准点也可以不是上述长方形的轿厢门槛13a的长边中的轿厢11侧的长边的中央,只要是在摄像机12的安装位置没有产生偏移的情况下包含在该摄像机12的拍摄范围内的位置,则可以将任意的位置设定为基准点。
另外,与校准相关的设定值包括表示摄像机12相对于包含在摄像机12的安装位置未产生偏移的情况下的图像(基准图像)中的基准点的相对位置的值(以下,记为第2设定值)。
进一步地,与校准相关的设定值包含表示轿厢门槛13a的各顶点(四角)相对于基准点的相对位置的值(以下,记为第3设定值)。此外,在本实施方式中,由于假定检测区域被设定成从长方形的轿厢门槛13a的长边中的轿厢11侧的长边起朝向候梯厅15侧具有规定的范围的情况,因此作为上述的第3设定值,包含表示轿厢门槛13a的各顶点相对于基准点的相对位置的值,但不限于此,第3设定值中设定有与应设定检测区域的区域对应的值。例如,在以抑制手、手臂被拉进门暗箱中为目的而将检测区域设定在门暗箱附近的情况下,作为第3设定值,也可以包含表示门暗箱的各特征点相对于基准点的相对位置的值。
另外,与校准相关的设定值包括表示从轿厢11的地板面到摄像机12为止的高度和该摄像机12的视场角(焦距)的值(以下,记为摄像机设定值)。
此外,存储部201中也可以存储有在摄像机12的安装位置没有偏移的情况下拍摄到的图像(基准图像)。
图像获取部202获取在轿厢11内的地板面上设置有多个标记m的状态下由摄像机12拍摄到的图像(以下,记为拍摄图像)。另外,在本实施方式中,假定多个标记m分别沿着长方形的轿厢门槛13a的长边中的乘用轿厢11侧的长边的两端部而设置在乘用轿厢11内的地板面上(以下,仅表述为设置在轿厢门槛13a的两端部)的情况,但只要多个标记m是能够确定与基准点(在本实施方式的情况下为轿厢门槛13a的中央)的相对位置的位置,则也可以设置在候梯厅15侧的地板面上,还可以设置在轿厢门槛13a、候梯厅门槛14a上。另外,图像获取部202只要是在设置有多个标记m的状态下获取由摄像机12拍摄到的图像即可,轿厢门13的状态可以是任意的状态。例如,图像获取部202可以将在设置有多个标记m且轿厢门13为全开的状态下拍摄到的图像作为拍摄图像进行获取,也可以将在设置有多个标记m且轿厢门13为全闭的状态下拍摄到的图像作为拍摄图像进行获取,还可以将在设置有多个标记m且轿厢门13为半开(或半闭)的状态下拍摄到的图像作为拍摄图像进行获取。
偏移检测部203对由图像获取部202获取到的拍摄图像执行识别处理,识别(提取)该拍摄图像中包含的多个标记m。拍摄图像中包含的标记m的识别,例如可以通过预先设定将标记m中包含的图案、在本实施方式的情况下是将包含正方形中含有的4个黑色圆圈作为图案的物体识别为标记m来实现,也可以使用其他公知的图像识别技术来实现。
另外,在本实施方式中,所谓识别多个标记m,包括算出多个标记m在拍摄图像上的坐标值。在本实施方式中,假设如下情况:将通过连接被识别为标记m的物体中所包含的4个黑色圆圈的中心点而形成的四边形的中心点(重心)视为标记m,来算出多个标记m在拍摄图像上的坐标值。另外,在此,是将通过连接被识别为标记m的物体中所包含的4个黑色圆圈的中心点而形成的四边形的重心视为标记m,但也可以任意地设定将被识别为标记m的物体的哪个部分视为标记m。
偏移检测部203根据上述识别处理的结果,检测摄像机12的安装位置的偏移。另外,关于偏移检测部203所包含的识别处理部231、算出处理部232以及检测处理部233的功能,将与流程图的说明一起在下文进行说明,因此在此省略它们的详细说明。
在由偏移检测部203检测到摄像机12的安装位置发生了偏移的情况下,设定处理部204在由图像获取部202获取到的拍摄图像中的与该偏移对应的适当的位置上设定检测区域。由此,在拍摄图像上设定考虑了摄像机12的安装位置的偏移的检测区域。此外,也可以将与偏移对应地设定在适当的位置上的检测区域的坐标值存储在存储部201中。
在由偏移检测部203检测到摄像机12的安装位置发生了偏移的情况下,通知处理部205对监视电梯系统的运用状态等的监视中心(的管理者)、设置标记m以进行电梯系统的维护检查的维护人员(所持的终端)通知摄像机12的安装位置发生偏移的情况(发生异常的情况)。此外,该通知例如经由通信设备25来进行。
接着,参照图7的流程图,对本实施方式中的校准功能中的图像处理装置20的处理顺序进行说明。此外,图7所示的一系列处理除了例如在定期维护时执行以外,也可以在电梯系统的运用前等执行。
首先,图像获取部202从摄像机12获取在轿厢11内的地板面上设置有多个标记m的状态下拍摄到的图像(拍摄图像)(步骤S1)。这里,作为一例,假定由图像获取部202获取到图8所示的拍摄图像i1的情况。如图8所示,在拍摄图像i1中包含设置在轿厢门槛13a的两端部的两个标记m1、m2。
接着,偏移检测部203所包含的识别处理部231对由图像获取部202获取到的拍摄图像执行识别处理,识别(提取)该拍摄图像中包含的多个标记m(步骤S2)。如上所述,在步骤S1中获取到拍摄图像i1的情况下,识别处理部231对图8所示的拍摄图像i1执行识别处理,识别(提取)该拍摄图像i1中包含的标记m1、m2。
接着,识别处理部231根据作为设定值存储在存储部201中的摄像机设定值(摄像机12的高度和摄像机12的视场角),算出摄像机12相对于作为步骤S2的识别处理的结果而得到的多个标记m的各相对位置、和摄像机12的3轴的角度(摄像机12的安装角度)(步骤S3)。如上所述,在步骤S2中从拍摄图像i1中识别出标记m1、m2的情况下,识别处理部231分别算出摄像机12相对于标记m1的相对位置和摄像机12相对于标记m2的相对位置作为摄像机12相对于多个标记m的相对位置。另外,在图8中,点p1相当于被视为标记m1的部分,点p2相当于被视为标记m2的部分。
偏移检测部203所包含的算出处理部232根据由识别处理部231算出的摄像机12相对于多个标记m的各相对位置、和作为设定值存储在存储部201中的第1设定值,算出摄像机12相对于基准点的相对位置(步骤S4)。
如上所述,在步骤S3中算出摄像机12相对于标记m1、m2的相对位置的情况下,算出处理部232通过合成摄像机12相对于标记m1的相对位置、和作为第1设定值的标记m1相对于基准点的相对位置,来算出摄像机12相对于基准点的相对位置。同样地,算出处理部232通过合成摄像机12相对于标记m2的相对位置、和作为第1设定值的标记m2相对于基准点的相对位置,来算出摄像机12相对于基准点的相对位置。此外,在图8中,点p3相当于基准点。
接着,偏移检测部203所包含的检测处理部233根据由算出处理部232算出的摄像机12相对于基准点的相对位置和作为设定值存储在存储部201中的第2设定值,来判定摄像机12的安装位置是否产生偏移(步骤S5)。具体而言,检测处理部233判定由算出处理部232算出的摄像机12相对于基准点的相对位置与作为第2设定值的摄像机12相对于基准点的相对位置是否一致,来检测摄像机12的安装位置是否产生偏移。
在判定为摄像机12相对于基准点的相对位置一致、摄像机12的安装位置没有产生偏移的情况下(步骤S5的“是”),检测处理部233判定为摄像机12的安装位置没有偏移、不需要重新设定检测区域,结束这里的一系列处理。
另一方面,在判定为摄像机12相对于基准点的相对位置不一致、摄像机12的安装位置产生了偏移的情况下(步骤S5的“否”),设定处理部204根据由算出处理部232算出的摄像机12相对于基准点的相对位置、作为设定值存储在存储部201中的第3设定值以及摄像机设定值,在由图像获取部202获取到的拍摄图像中的与摄像机12的安装位置的偏移对应的适当的位置上设定检测区域(步骤S6)。
在本实施方式中,由于假定的是设定从轿厢门槛13a向候梯厅15侧具有规定的范围的检测区域的情况,因此,首先,设定处理部204通过合成由算出处理部232算出的摄像机12相对于基准点的相对位置、和作为第3设定值的轿厢门槛13a的各顶点相对于基准点的相对位置,来算出轿厢门槛13a的各顶点相对于摄像机12的相对位置。此外,在图8中,点p4~点p7相当于轿厢门槛13a的各顶点。
之后,设定处理部204根据算出的轿厢门槛13a的各顶点相对于摄像机12的相对位置、由识别处理部231算出的摄像机12的3轴的角度、作为摄像机设定值存储在存储部201中的摄像机12的视场角,来设定检测区域。
由此,在由图像获取部202获取到的拍摄图像i1中,如图8的斜线部分所示,设定与摄像机12的安装位置的偏移对应的检测区域e1,即,设定从轿厢门槛13a的长边中的轿厢11侧的长边朝向候梯厅15侧具有规定的范围的检测区域e1。
然后,通知处理部205经由通信设备25向监视中心(的管理者)或维护人员(的终端)通知摄像机12的安装位置发生了偏移的情况(步骤S7),结束这里的一系列处理。
另外,在图7所示的步骤S5中,根据摄像机12相对于拍摄图像中包含的基准点的相对位置、和摄像机12相对于基准图像中包含的基准点的相对位置是否一致,来判定(检测)摄像机12的安装位置是否产生了偏移,但也可以是如下构成:即使在摄像机12的安装位置产生了偏移的情况下,只要该偏移是不会对上述使用者检测处理的精度造成影响的程度,就不进行检测区域的重新设定。即,也可以根据摄像机12相对于拍摄图像中包含的基准点的相对位置与摄像机12相对于基准图像中包含的基准点的相对位置之差(偏移度)是否在预先设定的范围内,来执行步骤S5的处理,在该偏移度不在预先设定的范围内的情况下,判定为摄像机12的安装位置产生了偏移。
另外,本实施方式中的检测区域的设定是指已设定的检测区域的重新设定的情况,检测区域的设定也可以表现为检测区域的校正。在该情况下,摄像机12相对于基准点的相对位置与上述摄像机12的3轴的角度均是为了实现检测区域的校正而需要的值,因此也可以表现为校正值。
根据以上说明的校准功能,能够对拍摄图像i 1设定与摄像机12的安装位置的偏移对应的检测区域e1,另一方面,在执行该校准功能时,需要消除以下所示的问题。
在上述的校准功能中,如图7的步骤S1、S2所示,需要从摄像机12获取在乘用轿厢11内的地板面上设置有标记m的状态的拍摄图像,从该拍摄图像中识别标记m。但是,根据拍摄时的周围环境,如图9所示,在拍摄图像中发生过曝、欠曝,由于该过曝、欠曝的产生,可能无法识别设置在轿厢门槛13a的两端部的标记m。由此,存在上述校准功能不能正常发挥作用的可能性。另外,作为对拍摄图像产生影响(即,发生过曝、欠曝)的周围环境的一例,可以举出从候梯厅15侧入射的外部光、设置在乘用轿厢11内的照明设计的光等作为一例。
因此,作为校准功能之一,本实施方式的图像处理装置20还具有曝光调整功能,该曝光调整功能能够抑制在标记m的设置位置附近的拍摄图像上的过曝、欠曝的发生。以下,对该曝光调整功能进行详细说明。
在实现曝光调整功能时,在存储部201中,除了上述的第1设定值~第3设定值以及摄像机设定值之外,还包含有表示假设摄像机12的安装位置没有产生偏移的情况下的摄像机12的3轴的角度(摄像机12的安装角度)、和摄像机12相对于标记m的相对位置(摄像机12与标记m的位置关系)的值(换言之,与摄像机12的安装相关的规格值,以下简称为规格值),作为与校准相关的设定值(详细而言,与曝光调整相关的设定值)。另外,在本实施方式中,由于假设标记m设置在轿厢门槛13a的两端部的情况,因此摄像机12相对于标记m的相对位置与摄像机12相对于轿厢门槛13a的两端部的相对位置意思相同。
图像获取部202在执行图7所示的一系列处理之前,执行与曝光调整功能相关的处理。详细情况与流程图的说明一起在后文叙述,将推测为在拍摄图像上映出标记m的区域设定为关心区域(ROI:Region Of Interest),根据该关心区域中包含的像素群的统计量,调整摄像机12固有的摄像机参数。
在此,参照图10的流程图,对本实施方式中的曝光调整功能中的图像处理装置20的处理顺序进行说明。另外,图10所示的一系列处理例如在执行图7所示的一系列处理之前执行。即,图10所示的一系列处理例如作为图7所示的一系列处理的预处理来执行。
首先,图像获取部202从摄像机12获取在乘用轿厢11内的地板面上设置有多个标记m的状态下拍摄到的图像(拍摄图像)(步骤S11)。如上所述,在本实施方式中,假设标记m1、m2分别设置在轿厢门槛13a的两端部的情况。另外,这里,假设由图像获取部202获取到执行步骤S11的结果即图9所示的拍摄图像i2的情况。即,在该时刻,如图9所示,在拍摄图像i2中发生过曝、欠曝,偏移检测部203(识别处理部231)处于不能识别分别设置在轿厢门槛13a的两端部的标记m1、m2的状态。
接着,图像获取部202根据作为设定值存储在存储部201中的规格值及摄像机设定值,设定推测为映出多个标记m的关心区域r(步骤S12)。如上所述,在标记m1、m2设置在轿厢门槛13a的两端部的情况下,图像获取部202根据摄像机12相对于标记m1、m2的相对位置(换言之,摄像机12相对于轿厢门槛13a的两端部的相对位置)、摄像机12的3轴的角度、以及摄像机12的视场角,在拍摄图像i2上设定关心区域r。
由此,在由图像获取部202获取到的拍摄图像i2中,如图9的点划线所示,推测为映出拍摄标记m1的关心区域r1和推测为映出拍摄标记m2的关心区域r2被设定。另外,在此,是分别设定推测为映出拍摄标记m1的关心区域r1和推测为映出拍摄标记m2的关心区域r2,但不限于此,例如,也可以设定推测为映出拍摄标记m1、m2双方的一个关心区域r。
接着,图像获取部202算出与关心区域r中包含的像素群相关的统计量(步骤S13)。如上所述,在步骤S12中设定有两个关心区域r1、r2的情况下,图像获取部202分别算出与关心区域r1中包含的像素群相关的统计量和与关心区域r2中包含的像素群相关的统计量。另外,这里,假设算出关心区域r中包含的像素群的平均亮度值(像素值的平均值)作为与关心区域r中包含的像素群相关的统计量的情况。但是,与关心区域r中包含的像素群相关的统计量不限于像素值的平均值,例如,也可以算出像素值的中位数、众数、最大值、最小值等作为与关心区域r中包含的像素群相关的统计量。
然后,图像获取部202调整(设定)摄像机12固有的摄像机参数(步骤S14),以使计算出的与关心区域r中包含的像素群相关的统计量成为预先设定好的基准值(目标值),结束这里的一系列处理。该调整例如通过将用于设定摄像机参数的指示信号经由通信设备25从图像获取部202发送到摄像机12来进行。
如上所述,在步骤S13中针对两个关心区域r1、r2计算出与像素群相关的统计量的情况下,图像获取部202调整摄像机12固有的摄像机参数,以使任一统计量都成为基准值。此外,作为调整对象的摄像机参数包括摄像机12的快门速度(曝光时间)以及摄像机12的增益(灵敏度)中的至少一个。
另外,针对与关心区域r中包含的像素群相关的统计量而预先设定的基准值作为与上述曝光调整相关的设定值之一,被预先存储在存储部201中。如上所述,在与关心区域r中包含的像素群相关的统计量是关心区域r中包含的像素群的平均亮度值,且摄像机12的拍摄图像i2是用灰度表现颜色的浓淡的图像的情况下,上述的基准值是灰度的0(黑:最小亮度值)和灰度的255(白:最大亮度值)的平均值即127。在这种情况下,图像获取部202调整摄像机12固有的摄像机参数,使得关心区域r中包含的像素群的平均亮度值成为127。
根据以上说明的曝光调整功能,能够在拍摄图像上设定推测为映出标记m的关心区域r,进行摄像机12的曝光调整,以抑制该关心区域r中的过曝、欠曝的发生。
图11示出了在执行图10所示的一系列处理之后拍摄到的图像,即,表示在执行曝光调整之后拍摄到的图像的一例。在图11所示的曝光调整后的拍摄图像i3中,与图9所示的曝光调整前的拍摄图像i2不同,由于在标记m1、m2的设置位置附近没有发生过曝、欠曝,所以识别处理部231处于能够识别分别设置在轿厢门槛13a的两端部的标记m1、m2的状态。由此,得以正常地执行图7的步骤S2,能够使上述的校准功能正常地发挥功能。
另外,由于调整了摄像机参数以抑制在标记m1、m2的设置位置附近的过曝、欠曝的发生的影响,在图11所示的拍摄图像i3中,在标记m1、m2的设置位置附近以外的部分(图11中的斜线部分)发生了过曝、欠曝。但是,在上述的校准功能中,识别标记m1、m2是重要的,不能识别其他部分不是什么大问题,因此,即使在标记m1、m2的设置位置附近以外的部分发生了过曝、欠曝,也能够使上述的校准功能正常地发挥功能。
另外,在本实施方式中,说明了将图10所示的一系列处理作为图7所示的一系列处理的预处理来执行的情况,但执行图10所示的一系列处理的时刻不限于此,例如,也可以在图7所示的步骤S2中,在识别处理部231不能正常识别标记m的情况下,使用不能正常识别标记m的拍摄图像来执行图10所示的一系列处理。
图10所示的一系列处理是为了使利用了标记m的校准功能正常地发挥功能而执行的。因此,优选在图10的步骤S11中获取的拍摄图像中包含有标记m。即,优选在校准时,获取在设置标记m的位置设置了标记m的状态下的拍摄图像。由此,能够执行考虑到构成标记m的像素的亮度值的曝光调整,所以能够实现遵照利用了标记m的校准功能的曝光调整。
在本实施方式中,是从摄像机12获取拍摄图像,在获取到的拍摄图像上设定关心区域r,根据与该关心区域r中包含的像素群相关的统计量来调整摄像机参数,但摄像机参数的调整也可以通过以下所示的方法来执行。
如上所述,在拍摄图像中产生过曝、欠曝的主要原因是从候梯厅15侧入射的外部光或设置在乘用轿厢11内的照明设计的光,乘用轿厢11内的亮度(设置有标记m的位置附近的亮度)与过曝或欠曝的产生有关系。因此,也可以预先准备包含乘用轿厢11内的亮度与摄像机12固有的摄像机参数的调整表,该摄像机12固有的摄像机参数在与乘用轿厢11内的亮度对应的亮度的情况下,能够抑制标记m的设置位置附近的过曝、欠曝的发生,由此,图像获取部202实现摄像机参数的调整。
在该方法的情况下,由于需要高精度地推测乘用轿厢11内的亮度,所以优选轿厢门13为全闭状态。由此,能够防止来自候梯厅15侧的外部光的入射,能够高精度地抑制过曝、欠曝的发生。
因此,首先,图像处理装置20通过电梯控制装置30确认轿厢门13的状态,在轿厢门13处于打开着的状态(例如全开状态或半开状态)的情况下,指示电梯控制装置30使轿厢门13成为全闭状态。
接着,当确认轿厢门13成为全闭状态时,图像处理装置20在将摄像机12的设定变更为自动曝光(AE:Automatic Exposure)模式之后,使摄像机12执行拍摄。所谓自动曝光模式,是摄像机12能够根据拍摄环境自动调整该摄像机12固有的摄像机参数(快门速度及增益)而进行拍摄的模式。另外,在即使不执行拍摄也能够获取自动曝光模式时的摄像机参数的情况下,在此不执行拍摄,只要将摄像机12的设定变更为自动曝光模式即可。
接着,图像处理装置20获取由自动曝光模式调整后的摄像机参数的值(拍摄时的摄像机参数的值),根据获取到的摄像机参数的值,推测乘用轿厢11内的当前的亮度。然后,图像处理装置20根据推测出的乘用轿厢11内的当前的亮度和预先准备在存储部201中的调整表,决定适合于乘用轿厢11内的当前的亮度的摄像机参数。更详细地说,图像处理装置20在预先准备好的调整表中,将与推测出的乘用轿厢11内的当前的亮度对应的摄像机参数决定为适合于乘用轿厢11内的当前的亮度的摄像机参数。
接着,图像处理装置20将摄像机12固有的摄像机参数调整为所决定的摄像机参数。然后,图像处理装置20从摄像机12获取利用调整后的摄像机参数拍摄到的、能够适当识别所设置的标记m的状态的图像,并执行上述校准功能中的一系列处理。根据该方法,即使不执行关心区域r的设定、与关心区域r中包含的像素群相关的统计量的计算等,也能够根据预先存储在存储部201中的调整表和乘用轿厢11内的当前的亮度,来调整摄像机12固有的摄像机参数,以抑制在标记m的设置位置附近的过曝、欠曝的发生,能够得到与执行图10所示的一系列处理的情况相同的效果。另外,根据该方法,由于能够根据自动曝光模式时的快门速度及增益来推测乘用轿厢11内的当前的亮度,所以不需要安装用于测定乘用轿厢11内的当前的亮度的照度传感器等,能够削减安装照度传感器所花费的工夫、成本。
在以上说明的本实施方式中,图像处理装置20从摄像机12获取在设置有标记m的状态下拍摄到的图像,该标记m能够与轿厢11的地板面以及候梯厅15的地板面区分开,从获取到的图像中识别标记m,根据识别出的标记m检测摄像机12的安装位置的偏移,在检测到摄像机12的安装位置的偏移的情况下,设定与图像处理(使用者检测处理)相关的设定值。与该图像处理相关的设定值包括对拍摄图像设定的用于检测离轿厢门13最近的使用者的检测区域(的坐标值)。
根据这样的构成,即使在摄像机12的安装位置产生偏移的情况下,也能够对由该摄像机12拍摄的图像(例如旋转后的图像、在左右方向上偏移的图像)设定适当的检测区域,因此能够抑制使用者的检测精度的降低。
进而,在本实施方式中,图像处理装置20从摄像机12获取在设置有标记m的状态下拍摄到的图像,该标记m能够与乘用轿厢11的地板面以及候梯厅15的地板面区分开,根据与摄像机12的安装相关的规格值,在获取到的图像上设定关心区域r,根据与关心区域r中包含的像素群相关的统计量,调整摄像机12固有的摄像机参数,根据该调整后的图像,检测摄像机12的安装位置的偏移。
根据这样的构成,能够抑制在标记m的设置位置附近的过曝、欠曝的发生,进而,在检测摄像机12的安装位置的偏移时,能够抑制不能识别标记m而不能使校准功能正常地发挥功能的事态的发生。
根据以上说明的一实施方式,能够提供能够提高摄像机12的安装位置的偏移的检测精度的图像处理装置20。
此外,虽然对本发明的几个实施方式进行了说明,但这些实施方式是作为例子而提示的,并不意图限定发明的范围。这些新的实施方式能够以其他各种方式实施,在不脱离发明的主旨的范围内,能够进行各种省略、替换、变更。这些实施方式、其变形包含在发明的范围、主旨内,并且包含在权利要求书所记载的发明及其等同的范围内。

Claims (7)

1.一种图像处理装置,其能够检测摄像机的安装位置的偏移,该摄像机设置在乘用轿厢的门附近,拍摄包含乘用轿厢内以及候梯厅的图像,该图像处理装置的特征在于,具备:
获取单元,其从所述摄像机获取在设置有标记的状态下拍摄到的图像,所述标记能够与所述乘用轿厢的地板面及所述候梯厅的地板面区分开;
设定单元,其根据与所述摄像机的安装相关的规格值,在获取到的图像上设定推测为映出所述标记的关心区域;
调整单元,其根据与设定好的所述关心区域中包含的像素群相关的统计量,来调整所述摄像机的参数;以及
检测单元,其从所述摄像机获取在所述参数调整后拍摄到的图像,从该获取到的图像中识别所述标记,并根据该识别出的标记来检测所述摄像机的安装位置的偏移。
2.根据权利要求1所述的图像处理装置,其特征在于,
所述规格值包括所述摄像机的安装角度和所述摄像机与所述标记的位置关系。
3.根据权利要求1所述的图像处理装置,其特征在于,
所述标记沿着用于引导所述乘用轿厢的门的开闭的门槛的两端部而设置在所述乘用轿厢内的地板面上。
4.根据权利要求1所述的图像处理装置,其特征在于,
所述调整单元调整所述摄像机的参数,以使所述统计量成为预先设定好的基准值。
5.根据权利要求1所述的图像处理装置,其特征在于,
与所述像素群相关的统计量是所述像素群的平均亮度值。
6.根据权利要求1所述的图像处理装置,其特征在于,
所述摄像机的参数包括所述摄像机的快门速度及增益中的至少一方。
7.一种图像处理装置,其能够检测摄像机的安装位置的偏移,该摄像机设置在乘用轿厢的门附近,拍摄包含乘用轿厢内以及候梯厅的图像,该图像处理装置的特征在于,具备:
存储单元,其存储对应有所述乘用轿厢内的亮度与所述摄像机的参数的调整表,所述乘用轿厢内设置有能够与所述乘用轿厢的地板面以及所述候梯厅的地板面区分开的标记;
获取单元,其获取在所述乘用轿厢的门为全闭状态时设定为自动曝光模式的所述摄像机的参数;
推测单元,其根据获取到的所述参数,来推测所述乘用轿厢内的当前的亮度;
调整单元,其根据推测出的所述乘用轿厢内的当前的亮度和所述调整表,来调整所述摄像机的参数;以及
检测装置,在所述参数的调整后,所述检测装置从所述摄像机获取在设置有所述标记的状态下拍摄到的图像,从该获取到的图像中识别所述标记,并根据该识别出的标记来检测所述摄像机的安装位置的偏移。
CN202010410378.4A 2019-05-16 2020-05-15 图像处理装置 Pending CN111942981A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2019093079A JP6693627B1 (ja) 2019-05-16 2019-05-16 画像処理装置
JP2019-093079 2019-05-16

Publications (1)

Publication Number Publication Date
CN111942981A true CN111942981A (zh) 2020-11-17

Family

ID=70549779

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010410378.4A Pending CN111942981A (zh) 2019-05-16 2020-05-15 图像处理装置

Country Status (2)

Country Link
JP (1) JP6693627B1 (zh)
CN (1) CN111942981A (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6968943B1 (ja) * 2020-07-15 2021-11-24 東芝エレベータ株式会社 エレベータの利用者検知システム
JP7009583B1 (ja) * 2020-09-15 2022-01-25 東芝エレベータ株式会社 エレベータ遠隔監視システム
WO2022254629A1 (ja) * 2021-06-02 2022-12-08 三菱電機株式会社 エレベーターのカメラの調整支援システム
CN115477211B (zh) * 2021-06-15 2023-10-27 中移(成都)信息通信科技有限公司 一种电梯停靠方法、装置、设备及存储介质

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009046253A (ja) * 2007-08-20 2009-03-05 Mitsubishi Electric Corp エレベーターの防犯カメラ装置及びその撮影方法
CN102316347A (zh) * 2010-07-06 2012-01-11 夏普株式会社 3d摄影机模块的摄像检查装置及其摄像检查方法、3d摄影机模块及其摄像补正方法
JP2012057967A (ja) * 2010-09-06 2012-03-22 Nippon Signal Co Ltd:The カメラ校正装置
CN102710894A (zh) * 2011-03-28 2012-10-03 株式会社日立制作所 摄像机设置支援方法、图像识别方法
CN102801918A (zh) * 2011-05-24 2012-11-28 佳能株式会社 摄像设备和用于控制该摄像设备的方法
US20130250106A1 (en) * 2012-03-21 2013-09-26 Wen-Yan Chang License plate image-pickup device and image exposure adjustment method thereof
CN104247394A (zh) * 2012-04-04 2014-12-24 京瓷株式会社 校正操作装置、摄像机装置、摄像机系统和摄像机校正方法
JP6046286B1 (ja) * 2016-01-13 2016-12-14 東芝エレベータ株式会社 画像処理装置
CN106506953A (zh) * 2016-10-28 2017-03-15 山东鲁能智能技术有限公司 基于指定区域聚焦和曝光伺服的变电站设备图像采集方法
CN106966275A (zh) * 2016-01-13 2017-07-21 东芝电梯株式会社 电梯系统
JP6367411B1 (ja) * 2017-03-24 2018-08-01 東芝エレベータ株式会社 エレベータシステム
JP6377797B1 (ja) * 2017-03-24 2018-08-22 東芝エレベータ株式会社 エレベータの乗車検知システム

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4664394B2 (ja) * 2008-05-23 2011-04-06 株式会社日立製作所 エレベーター扉の安全装置と安全制御方法

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009046253A (ja) * 2007-08-20 2009-03-05 Mitsubishi Electric Corp エレベーターの防犯カメラ装置及びその撮影方法
CN102316347A (zh) * 2010-07-06 2012-01-11 夏普株式会社 3d摄影机模块的摄像检查装置及其摄像检查方法、3d摄影机模块及其摄像补正方法
JP2012057967A (ja) * 2010-09-06 2012-03-22 Nippon Signal Co Ltd:The カメラ校正装置
CN102710894A (zh) * 2011-03-28 2012-10-03 株式会社日立制作所 摄像机设置支援方法、图像识别方法
CN102801918A (zh) * 2011-05-24 2012-11-28 佳能株式会社 摄像设备和用于控制该摄像设备的方法
US20130250106A1 (en) * 2012-03-21 2013-09-26 Wen-Yan Chang License plate image-pickup device and image exposure adjustment method thereof
CN104247394A (zh) * 2012-04-04 2014-12-24 京瓷株式会社 校正操作装置、摄像机装置、摄像机系统和摄像机校正方法
JP6046286B1 (ja) * 2016-01-13 2016-12-14 東芝エレベータ株式会社 画像処理装置
CN106966275A (zh) * 2016-01-13 2017-07-21 东芝电梯株式会社 电梯系统
CN107055238A (zh) * 2016-01-13 2017-08-18 东芝电梯株式会社 图像处理装置
CN106506953A (zh) * 2016-10-28 2017-03-15 山东鲁能智能技术有限公司 基于指定区域聚焦和曝光伺服的变电站设备图像采集方法
JP6367411B1 (ja) * 2017-03-24 2018-08-01 東芝エレベータ株式会社 エレベータシステム
JP6377797B1 (ja) * 2017-03-24 2018-08-22 東芝エレベータ株式会社 エレベータの乗車検知システム

Also Published As

Publication number Publication date
JP2020186114A (ja) 2020-11-19
JP6693627B1 (ja) 2020-05-13

Similar Documents

Publication Publication Date Title
CN111942981A (zh) 图像处理装置
JP6377797B1 (ja) エレベータの乗車検知システム
JP6367411B1 (ja) エレベータシステム
JP6657167B2 (ja) 利用者検知システム
JP6317004B1 (ja) エレベータシステム
JP6377795B1 (ja) エレベータの乗車検知システム
CN110294391B (zh) 使用者检测系统
CN113428752B (zh) 电梯的使用者探测系统
JP2018158842A (ja) 画像解析装置及びエレベータシステム
CN111717768A (zh) 图像处理装置
TWI834003B (zh) 列車位置判定裝置及列車位置判定方法
CN111689324B (zh) 图像处理装置及图像处理方法
JP6270948B1 (ja) エレベータの利用者検出システム
CN106534660A (zh) 一种自适应图像拍摄方法及装置
CN113942905B (zh) 电梯的使用者检测系统
JP2001357396A (ja) 画像処理装置および画像認識装置
CN111960206B (zh) 图像处理装置及标记
CN112340581B (zh) 电梯的使用者探测系统
CN111717742B (zh) 图像处理装置
CN111717738B (zh) 电梯系统
JP7135144B1 (ja) エレベータの利用者検知システム
JP6646169B1 (ja) エレベータシステム
JP2023135189A (ja) 撮影装置、および撮影方法
CN118220936A (zh) 电梯系统
CN112551292A (zh) 电梯的使用者探测系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20201117

RJ01 Rejection of invention patent application after publication