CN110072078A - 监控摄像机、监控摄像机的控制方法和存储介质 - Google Patents
监控摄像机、监控摄像机的控制方法和存储介质 Download PDFInfo
- Publication number
- CN110072078A CN110072078A CN201910018367.9A CN201910018367A CN110072078A CN 110072078 A CN110072078 A CN 110072078A CN 201910018367 A CN201910018367 A CN 201910018367A CN 110072078 A CN110072078 A CN 110072078A
- Authority
- CN
- China
- Prior art keywords
- camera
- unit
- camera unit
- image
- shooting
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B13/00—Burglar, theft or intruder alarms
- G08B13/18—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
- G08B13/189—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
- G08B13/194—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
- G08B13/196—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
- G08B13/19639—Details of the system layout
- G08B13/19641—Multiple cameras having overlapping views on a single scene
- G08B13/19643—Multiple cameras having overlapping views on a single scene wherein the cameras play different roles, e.g. different resolution, different camera type, master-slave camera
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B13/00—Burglar, theft or intruder alarms
- G08B13/18—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
- G08B13/189—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
- G08B13/194—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
- G08B13/196—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
- G08B13/19602—Image analysis to detect motion of the intruder, e.g. by frame subtraction
- G08B13/19608—Tracking movement of a target, e.g. by detecting an object predefined as a target, using target direction and or velocity to predict its new position
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B13/00—Burglar, theft or intruder alarms
- G08B13/18—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
- G08B13/189—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
- G08B13/194—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
- G08B13/196—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
- G08B13/19617—Surveillance camera constructional details
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/45—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/61—Control of cameras or camera modules based on recognised objects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/71—Circuitry for evaluating the brightness variation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/72—Combination of two or more compensation controls
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/181—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/183—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B13/00—Burglar, theft or intruder alarms
- G08B13/18—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
- G08B13/189—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
- G08B13/194—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
- G08B13/196—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
- G08B13/19617—Surveillance camera constructional details
- G08B13/19626—Surveillance camera constructional details optical details, e.g. lenses, mirrors or multiple lenses
- G08B13/19628—Surveillance camera constructional details optical details, e.g. lenses, mirrors or multiple lenses of wide angled cameras and camera groups, e.g. omni-directional cameras, fish eye, single units having multiple cameras achieving a wide angle view
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B13/00—Burglar, theft or intruder alarms
- G08B13/18—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
- G08B13/189—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
- G08B13/194—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
- G08B13/196—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
- G08B13/19617—Surveillance camera constructional details
- G08B13/1963—Arrangements allowing camera rotation to change view, e.g. pivoting camera, pan-tilt and zoom [PTZ]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/69—Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Studio Devices (AREA)
- Closed-Circuit Television Systems (AREA)
Abstract
本发明公开一种监控摄像机、监控摄像机的控制方法和存储介质。一种监控摄像机,其具有能够变更追踪拍摄的摄像范围第一摄像单元和能够比第一摄像单元拍摄更广的角度的第二摄像单元,从第二摄像单元拍摄的图像获取与第一摄像单元在下一帧中的摄像范围对应的图像区域的亮度信息。监控摄像机基于亮度信息控制第一摄像单元的曝光。
Description
技术领域
本发明涉及一种监控摄像机、监控摄像机的控制方法和存储介质,尤其涉及一种监控技术。
背景技术
通常,存在一种使用两个摄像机(具有拍摄整个监控区域的广角透镜的广角摄像机和具有详细拍摄被摄体的变焦机构的变焦摄像机)执行监控以有效地监控广阔的监控区域的监控装置。用户能够通过查看广角摄像机拍摄的图像查看整个监控区域,并且能够通过变焦摄像机拍摄的图像详细查看他们期望给予特别关注的目标被摄体。
例如,日本专利特开第2002-247424号公报公开了如下一种监控装置:其在同一相机外壳中包含用于获取检测所使用的监控图像的图像输入摄像机以及用于对检测到的被摄体执行追踪拍摄的监控摄像机。通过图像输入摄像机监控整个监控区域,监控摄像机能够检测侵入监控区域的目标被摄体。此外,通过在此时将诸如位置、大小或亮度等信息作为侵入被摄体信息输出到摄像机控制单元,监控摄像机还能够在追踪检测到的目标被摄体的同时执行摄像。
在执行追踪拍摄时,可以考虑在被摄体移动期间诸如从阳光充足区域到阴影区等亮度大大改变的场景。然而,如果亮度在追踪期间大大改变,则有可能跟丢被摄体。即使被摄体没有丢失,由于针对被摄体发生了亮度变化,也存在拍摄结果与追踪视频图像不合适的情况。通过上述日本专利特开第2002-247424号公报公开的传统技术,从图像输入摄像机将被摄体的亮度信息发送到监控摄像机,但在被摄体很远时,使用视角必然广阔的图像输入摄像机则难以检测被摄体。此外,在考虑具有使用多个摄像机配置了广阔视角的图像输入摄像机时,认为发送的亮度信息会由于例如各摄像机的变化而变化,并且监控摄像机的被摄体亮度会基于此信息变化。
发明内容
本发明提供一种在追踪拍摄中,即使摄像范围大大改变也会适当控制曝光的技术。
根据本发明的第一方面,提供一种监控摄像机,所述监控摄像机包括:第一摄像单元,其能够变更追踪拍摄的摄像范围;第二摄像单元,其能够比所述第一摄像单元拍摄更广的角度;获取单元,其被配置为从所述第二摄像单元拍摄的图像获取与所述第一摄像单元下一帧中的摄像范围对应的图像区域的亮度信息;以及控制单元,其被配置为基于所述亮度信息控制所述第一摄像单元的曝光。
根据本发明的第二方面,提供一种监控摄像机的控制方法,所述监控摄像机具有所述监控摄像机的控制方法具有第一摄像单元,其能够变更追踪拍摄的摄像范围,以及第二摄像单元,其能够比所述第一摄像单元拍摄更广的角度,所述方法包括:从所述第二摄像单元拍摄的图像获取与所述第一摄像单元在下一帧中的摄像范围对应的图像区域的亮度信息;以及基于所述亮度信息控制所述第一摄像单元的曝光。
根据本发明的第三方面,提供一种存储介质,其存储用于使计算机用作以下功能的程序:第一获取单元,其被配置为从能够变更追踪拍摄的摄像范围的第一摄像单元和能够比所述第一摄像单元拍摄更广角度的第二摄像单元获取拍摄图像;以及第二获取单元,其被配置为从所述第二摄像单元拍摄的图像获取与所述第一摄像单元在下一帧中的摄像范围对应的图像区域的亮度信息;以及控制单元,其被配置为基于所述亮度信息控制所述第一摄像单元的曝光。
根据以下参照附图对示例性实施例的详细描述,本发明的其他特征将变得清楚。
附图说明
图1是例示监控装置的外观示例的示意图。
图2是例示监控装置100的功能配置示例的框图。
图3是例示根据第二变型例的监控装置100的配置示例的框图。
图4是例示变焦摄像机102和广角摄像机101的操作示例图。
图5是例示根据多个广角摄像机的拍摄图像的亮度分布图。
图6是监控装置100执行的处理的流程图。
图7是监控装置100执行的处理的流程图。
图8是例示系统配置的示例的框图。
具体实施方式
下文将参照附图对本发明的实施例进行说明。请注意,下文描述的实施例仅例示具体实施本发明的示例,并且仅是权力要求范围内定义的配置的具体实施例。
【第一实施例】
首先,使用图1的示意图描述根据实施例的监控装置(监控摄像机)的外观示例。如图1所示,根据本实施例的监控装置100包括广角摄像机101和变焦摄像机102。广角摄像机101是监控(拍摄)整个监控区域(广阔视野)的摄像装置的示例,并且包括广角透镜。变焦摄像机102是能够进行追踪被摄体的拍摄的摄像装置的示例,并且是能够改变摇摄(pan)(P)、倾斜(T)和变焦(Z)的摄像机。具体地,变焦摄像机102能够通过执行变焦操作放大到局部区域来拍摄根据广角摄像机101的摄像范围(监控区域)的局部区域的详情。此外,通过执行摇摄操作或倾斜操作,变焦摄像机102能够在广角摄像机101的摄像范围内改变变焦摄像机102的摄像范围,并且能够拍摄监控区域的全部区域或监控区域内的任意部分区域。
接下来,使用图2的框图描述监控装置100的功能配置的示例。首先,描述广角摄像机101的功能配置的示例。来自外界的光经由广角透镜201进入图像传感器202,并且图像传感器202将与光对应的电信号输出到信号处理单元203。信号处理单元203具有图像处理单元204、控制单元205和通信单元206。图像处理单元204基于来自图像传感器202的电信号生成拍摄图像,并且,在对生成的拍摄图像执行包括各种校正处理的图像处理后,将拍摄图像输出到通信单元206。每当从图像传感器202接收到电信号,图像处理单元204就执行此一系列处理,并依次生成多帧的拍摄图像,并将它们输出到通信单元206。控制单元205具有一个或更多处理器以及存储器,并且处理器使用数据和存储器中存储的计算机程序执行处理,以对广角摄像机101执行整体操作控制。例如,控制单元205控制广角透镜201或图像传感器202,以使从图像处理单元204输出的拍摄图像适当(例如,使得适当曝光)。通信单元206经由网络向外部设备发送从图像处理单元204输出的拍摄图像。此外,通信单元206在必要时与变焦摄像机102执行数据通信。
接下来,描述变焦摄像机102的功能配置的示例。根据控制单元215的控制,变焦透镜211执行用于放大的变焦操作以便在变焦摄像机102的摄像范围内拍摄被摄体的详情,或者进行缩小以便拍摄更广的范围。来自外界的光经由变焦透镜211进入图像传感器212,并且图像传感器212将与光对应的电信号输出到信号处理单元213。信号处理单元213具有图像处理单元214、控制单元215以及通信单元216。图像处理单元214基于来自图像传感器212的电信号生成拍摄图像,并且,在对生成的拍摄图像执行包括各种校正处理的图像处理后,将拍摄图像输出到通信单元216。每当从图像传感器212接收到电信号,图像处理单元214就执行此一系列处理,并依次生成多帧的拍摄图像,并将它们输出到通信单元216。控制单元215具有一个或更多处理器以及存储器,并且处理器使用数据和存储器中存储的计算机程序执行处理,以对变焦摄像机102执行整体操作控制。例如,控制单元215控制广角透镜211或图像传感器212,以使从图像处理单元214输出的拍摄图像适当(例如,使得适当曝光)。摇摄驱动单元217根据控制单元215的控制执行摇摄操作来改变变焦摄像机102的摇摄方向上的角度。倾斜驱动单元218根据控制单元215的控制执行倾斜操作来改变变焦摄像机102的倾斜方向上的角度。换言之,控制单元215对变焦透镜211、摇摄驱动单元217或倾斜驱动单元218执行驱动控制以使得能够拍摄任意的摄像范围。此外,通过这样的配置,广角摄像机101和变焦摄像机102能够同时进行摄像。通信单元216经由网络向外部设备发送从图像处理单元214输出的拍摄图像。通过通信单元216拍摄的图像的发送目的地可以与通过通信单元206拍摄的图像的发送目的地相同或者不同。此外,通信单元206和通信单元216经由网络向外部设备发送的信息并不限于拍摄图像,并且可以是诸如与摄像日期-时间、摇摄角、倾斜角、缩放值相关的信息以及从拍摄图像识别的被摄体的信息等的附加信息。此外,通信单元216在必要时与广角摄像机101执行数据通信。
接下来,以图4为示例描述为使得在适当控制变焦摄像机102的曝光的同时能够通过变焦摄像机102对被摄体进行追踪拍摄而由变焦摄像机102和广角摄像机101进行的操作。
变焦摄像机102(控制单元215)识别当前帧的拍摄图像401中出现的被摄体400,并确定所识别的被摄体400在拍摄图像401中的诸如移动方向、大小和位置等的被摄体信息。控制单元215从确定的被摄体信息计算针对变焦摄像机102的摇摄角、倾斜角和缩放值的各控制量(控制信息),以使被摄体400适合下一帧的拍摄图像。针对摇摄角、倾斜角和缩放值的各控制量的计算处理能够通过用于执行被摄体的追踪拍摄的已知功能来实现。控制单元215从针对摇摄角、倾斜角和缩放值的各控制量确定(预估)下一帧中的变焦摄像机102的摄像范围(预估的摄像范围)402。更具体地说,在根据获得的摇摄角、倾斜角和缩放值的控制量分别变更变焦摄像机102的摇摄角、倾斜角和缩放值的情况下,控制单元215确定(估计)变焦摄像机102的摄像范围作为预估的摄像范围402。控制单元215控制通信单元216向广角摄像机101输出表示预估的摄像范围402的信息(预估摄像范围信息)。
广角摄像机101(控制单元205)控制通信单元206接收从变焦摄像机102输出的预估摄像范围信息。控制单元205收集在根据广角摄像机101的拍摄图像403中与通过接收的预估摄像范围信息表示的预估摄像范围对应的图像区域404中的各像素的亮度值(亮度信息)。根据这样的配置,即使拍摄图像中的被摄体小到不能检测,控制单元205也能够收集与包括被摄体的预估摄像范围对应的区域的亮度信息。控制单元205控制通信单元206向变焦摄像机102输出收集的亮度信息。
控制单元215控制通信单元216,并且在获取从广角摄像机101输出的亮度信息后,通过已知技术从获取的亮度信息获得诸如快门速度、光圈和灵敏度(增益)等曝光信息以具有适当曝光状态。控制单元215控制变焦透镜211(严格地说是用于对变焦透镜211执行驱动控制的控制单元)和图像传感器212以将变焦摄像机102的当前曝光信息变更为基于从广角摄像机101输出的亮度信息获得的曝光信息。由此,控制单元215能够通过适当的曝光改变下一帧中用于拍摄被摄体的曝光量,并且能够适当地控制曝光。
此外,控制单元215控制摇摄驱动单元217按照算出的摇摄角的控制量变更变焦摄像机102的摇摄角,并控制倾斜驱动单元218按照算出的倾斜角的控制量变更变焦摄像机102的倾斜角。此外,控制单元215控制变焦透镜211(严格地说是用于对变焦透镜211执行驱动控制的控制单元)按照算出的缩放值的控制量变更变焦摄像机102的缩放。这样,控制单元215能够通过对摇摄驱动单元217、倾斜驱动单元218和变焦透镜211执行驱动控制来改变摄像范围。
接下来,根据图6的流程图描述为使得在适当控制变焦摄像机102的曝光的同时能够通过变焦摄像机102对被摄体进行追踪拍摄而由监控装置100执行的处理。请注意,因为上文描述了图6的各步骤中的处理的详细内容,所以这里简单地进行描述。
在步骤S602中,控制单元215计算变焦摄像机102的摇摄角、倾斜角和缩放值的各控制量,以使被摄体400适合下一帧的拍摄图像。控制单元215从摇摄角、倾斜角和缩放值的各控制量确定(预估)下一帧中变焦摄像机102的摄像范围的预估摄像范围402。控制单元215控制通信单元216向广角摄像机101输出表示预估摄像范围402的预估摄像范围信息。
在步骤S603中,控制单元205收集拍摄图像403中与预估摄像范围信息表示的预估摄像范围对应的图像区域404中的各像素的亮度值(亮度信息)。控制单元205控制通信单元206向变焦摄像机102输出收集的亮度信息。在步骤S604中,控制单元215通过已知技术从亮度信息获得使得具有适当曝光状态的诸如快门速度、光圈和敏感度(增益)等的曝光信息。
在步骤S605中,控制单元215控制变焦透镜211(严格地说是用于对变焦透镜211执行驱动控制的控制单元)和图像传感器212将变焦摄像机102的当前曝光信息变更为基于从广角摄像机101获取的亮度信息获得的曝光信息。此外,控制单元215控制摇摄驱动单元217按照算出的摇摄角的控制量变更变焦摄像机102的摇摄角,并控制倾斜驱动单元218按照算出的倾斜角的控制量变更变焦摄像机102的倾斜角。此外,控制单元215控制变焦透镜211(严格地说是用于对变焦透镜211执行驱动控制的控制单元)按照算出的缩放值的控制量变更变焦摄像机102的缩放。然后,变焦摄像机102和广角摄像机101执行下一帧的摄像。
因为即使摄像范围的亮度在追踪拍摄期间大大改变,也能够通过适合下一帧的曝光执行拍摄,由此凭借本实施例能够以更高的精确度执行下一帧的拍摄图像中的被摄体识别(它的位置、大小等的识别)。由此,例如能够解决诸如“在被摄体的亮度突然改变时丢失被摄体”等的传统问题。
请注意,图1中例示的广角摄像机101和变焦摄像机102的各功能单元可以作为硬件来实施,并且除控制单元205(215)之外的各功能单元可以作为软件(计算机程序)来实施。在后者的情况中,软件存储在控制单元205(215)具有的存储器中,并由控制单元205(215)具有的处理器执行。
<第一变型例>
如果变焦摄像机102的当前曝光量与基于从广角摄像机101输出的亮度信息获得的曝光信息的曝光量相比较而大大不同,则存在曝光信息改变之后拍摄的拍摄图像由于亮度变化而变得难以看到的情况。因此,在变焦摄像机102的当前曝光量和基于从广角摄像机101输出的亮度信息获得的曝光信息的曝光量之间的差分D比预定值大时,控制单元215可以通过诸如如下的处理变更控制信息。例如,控制单元215变更控制信息,以使曝光量在从变焦摄像机102的当前曝光量的固定范围R内。请注意,固定范围R可以随差分D变化,诸如随着差分D越大而使固定范围R越大。
<第二变型例>
在图1和图2中,广角摄像机101的数量为1,但它可以为2或更多。在这种情况下,如图3所示,监控装置100具有与广角摄像机101配置相同的广角摄像机101a、101b、101c……和变焦摄像机102,并且监控装置100能够比图1和图2的监控装置100有效地拍摄更广的摄像范围。各广角摄像机101a、101b、101c……执行与广角摄像机101相似的操作。这里,多个广角摄像机通过围绕垂直方向上的轴360度区分并拍摄而获取与全方向摄像范围对应的图像。例如,在使用四个广角摄像机的情况中,针对摇摄方向各个拍摄大约90度的摄像范围。不考虑例如被摄体的距离,为了拍摄整个监控区域,广角摄像机101a、101b、101c……具有彼此稍微重叠的摄像范围是可取的。
使用图5描述多个广角摄像机的拍摄图像中的亮度分布。在图5中,区域502和区域503是第一广角摄像机的摄像范围,区域502和区域504是第二广角摄像机的摄像范围,换言之,区域502是第一广角摄像机的摄像范围和第二广角摄像机的摄像范围重叠的重叠范围。此外,在图5的左下曲线图和图5的右下曲线图中,横坐标表示按从左的顺序的区域503、502和504在水平方向上的位置,纵坐标表示亮度。曲线551表示第一广角摄像机的摄像范围在水平方向上的亮度分布,曲线552表示第二广角摄像机的摄像范围在水平方向上的亮度分布。
在各广角摄像机的视角边缘附近(拍摄图像的边缘附近),由于诸如透镜边缘处的光衰减等的影响而使得亮度的不可靠性增加。除了上述之外,还会由于各透镜或图像传感器的性能变化而使得难以将拍摄图像整体校正为统一的敏感度。因此,在从一个广角摄像机获取亮度信息时,由于被摄体的移动和广角摄像机的附带转换,则会产生亮度层次差。
因此,如图5的左上所例示,在预估的摄像范围501位于区域502时,控制单元215获得从第一广角摄像机获取的亮度信息和从第二广角摄像机获取的亮度信息的平均亮度信息,并从平均亮度信息获得曝光信息。由此,能够减少诸如透镜边缘处的光衰减等的影响。
此外,如图5的右上所例示,预估的摄像区域501跨越区域502和区域503。此时,控制单元215获得预估摄像范围501占第一广角摄像机的摄像范围的比例W1(0≤W1≤1)以及预估摄像范围501占第二广角摄像机的摄像范围的比例W2(0≤W2≤1)。控制单元215获得通过比例W1对从第一广角摄像机获取的亮度信息的加权结果和通过比例W2对从第二广角摄像机获取的亮度信息的加权结果的平均亮度信息(加权的平均亮度信息),并从平均亮度信息获得曝光信息。由此,能够减少诸如透镜边缘处的光衰减等的影响。
这样,在多个广角摄像机用作广角摄像机101时,存在各种方法来基于针对各广角摄像机获取的亮度信息获得曝光信息。
<第三变型例>
在图1到图3的监控装置100中,在各摄像机中安装信号处理单元。然而,可以采用在监控装置100中安装用于接收和处理来自各摄像机的图像传感器的电信号的一个或多个信号处理单元的配置来代替在各摄像机中安装信号处理单元。具体地说,执行拍摄的功能单元和基于拍摄获得的图像执行处理的功能单元可以是如图1到图3的摄像机所有,或者可以是不同的装置。
<第四变型例>
在第一实施例中,描述了从摇摄角、倾斜角和缩放值的各控制量确定(估计)预估摄像范围,但预估摄像范围的确定(估计)方法并不限于此方法。例如,可以采用如下配置:从当前帧的拍摄图像中的被摄体区域(包括被摄体的区域)的位置或移动方向确定(估计)下一帧中的被摄体区域,并将包括确定的(估计的)被摄体区域的摄像范围设置为预估摄像范围。
【第二实施例】
下文将针对与第一实施例的差异进行描述,并且如果没有在下文中特定说明,则假定第二实施例与第一实施例相同。本实施例应用于图3中例示的监控装置100。根据图7的流程图描述根据本实施例的监控装置100的操作。在图7的流程图中,向与图6相同的处理步骤添加相同的步骤序号,并且不再对此处理步骤进行描述。
在步骤S703中,广角摄像机101a、101b、101c……的各广角摄像机的控制单元205如下进行操作。换言之,关注的广角摄像机的控制单元205确定从变焦摄像机102接收的预估摄像范围信息表示的预估摄像范围是否属于此广角摄像机的摄像范围与另一个广角摄像机的摄像范围重叠的重叠范围。如果广角摄像机101a、101b、101c……中存在广角摄像机确定“预估的摄像范围属于此广角摄像机的摄像范围与另一个广角摄像机的摄像范围重叠的重叠范围”,则处理进入步骤S704。相比之下,如果广角摄像机101a、101b、101c……中不存在广角摄像机确定“预估的摄像范围属于此广角摄像机的摄像范围与另一个广角摄像机的摄像范围重叠的重叠范围”,则处理进入步骤S706。
在步骤S704中,仅将确定“预估的摄像范围属于此广角摄像机的摄像范围与另一个广角摄像机的摄像范围重叠的重叠范围”的广角摄像机的亮度信息输出到变焦摄像机102。
在步骤S705中,控制单元215获得步骤S704中输出的亮度信息的平均亮度信息,并从平均亮度信息获得曝光信息。请注意,在此步骤中,可以这样配置:针对图5的右上实例,控制单元215根据上述加权的平均值获得亮度信息,并从根据加权的平均值的亮度信息获得曝光信息。
同时,在步骤S706中,仅将确定“预估的摄像范围属于此广角摄像机的摄像范围(不包括重叠范围)”的广角摄像机的亮度信息输出到变焦摄像机102。在步骤S707中,控制单元215从步骤S704中输出的亮度信息与第一实施例中相似地获得曝光信息。
在步骤S708中,控制单元215控制变焦透镜211(严格的说是用于执行变焦透镜211的驱动控制的控制单元)以及图像传感器212将变焦摄像机102的当前曝光信息变更为步骤S705或步骤S707中获得的曝光信息。此外,在步骤S708中执行与上述步骤S605相似的处理。
这样,凭借本实施例,即使采用使用多个广角摄像机的监控装置,即使在追踪拍摄期间被摄体或其附近的亮度发生大的变化,也能够继续进行被摄体的追踪拍摄(监控)。
【第三实施例】
在本实施例中,描述具有监控装置100和用于处理监控装置100拍摄的图像的终端设备的系统。使用图8的框图描述根据本实施例的系统的配置的示例。如图8所例示,根据本实施例的系统具有监控装置100和终端设备850,并且监控装置100和终端设备850经由网络860连接。网络860是由诸如因特网或LAN等的网络配置的,并且是通过无线、有线或无线和有线的组合配置的网络。
首先,描述监控装置100。如图1例示了监控装置100的配置,但图8例示了控制单元205和控制单元215的详细配置,并且省略其他功能单元的例示。
控制单元205具有CPU 801、RAM 802和ROM 803。CPU 801使用RAM 802中存储的数据和计算机程序执行处理,从而对广角摄像机101执行整体的操作控制,并且还分别执行或控制上述由广角摄像机101执行的处理。RAM 802具有用于存储从ROM 803加载的计算机程序或数据,以及从变焦摄像机102或终端设备850接收的数据的区域。此外,RAM 802具有CPU801在执行各种处理时使用的工作区。由此,RAM 802能够适当地提供各种区域。ROM 803存储用于使CPU 801执行或控制上述由广角摄像机101执行的各处理的计算机程序和数据。根据CPU 801的控制将ROM 803中存储的计算机程序和数据加载到RAM 802中,并由CPU 801进行处理。CPU 801、RAM 802和ROM 803分别与总线804连接。
控制单元215具有CPU 811、RAM 812和ROM 813。CPU 811使用RAM 812中存储的数据和计算机程序执行处理,从而对变焦摄像机102执行整体的操作控制,并且还分别执行或控制上述由广角摄像机101执行的处理。RAM 812具有用于存储从ROM 813加载的计算机程序或数据,以及从变焦摄像机102或终端设备850接收的数据的区域。此外,RAM 812具有CPU811在执行各种处理时使用的工作区。由此,RAM 812能够适当地提供各种区域。ROM 813存储用于使CPU 811执行或控制上述由变焦摄像机102执行的各处理的计算机程序和数据。根据CPU 811的控制将ROM 813中存储的计算机程序和数据加载到RAM 812中,并由CPU 811进行处理。CPU 811、RAM 812和ROM 813分别与总线814连接。
接下来描述终端设备850。终端设备850是诸如智能手机、平板电脑或PC(个人计算机)等的信息处理装置。CPU 851使用RAM 852或ROM 853中存储的数据和计算机程序执行处理,从而对终端设备850执行整体的操作控制,并且还分别执行或控制上述由终端设备850执行的处理。
RAM 852具有用于存储从ROM 853或外部存储设备857加载的计算机程序或数据,以及从监控装置100经由I/F 854(接口)接收的数据的区域。此外,RAM 852具有CPU 851在执行各种处理时使用的工作区。由此,RAM 852能够适当地提供各种区域。
ROM 853存储终端设备850不需要写入的数据或计算机程序。I/F 854用作经由网络860与监控装置100执行数据通信的接口。
操作单元855由诸如鼠标或键盘等的用户接口构成,并且用户能够通过操作操作单元855向CPU 851输入各种指令。
显示单元856由CRT、液晶显示画面等构成,并且能够通过图像、文本等显示CPU851进行的处理的结果。例如,显示单元856可以显示从监控装置100发送的拍摄图像,或上述附加信息。此外,显示单元856可以由触摸板画面构成。
外部存储设备857是以硬盘驱动设备为代表的大容量信息存储装置。外部存储设备857存储OS(操作系统),以及由终端设备850作为已知信息处理的信息。此外,终端存储设备857存储用于使CPU 851执行或控制由终端设备850执行的各种处理的计算机程序或数据。根据CPU 851的控制将外部存储设备857中存储的计算机程序和数据适当地加载到RAM852中,并由CPU 851进行处理。
CPU 851、RAM 852、ROM 853、I/F 854、操作单元855、显示单元856和外部存储设备857都与总线858连接。请注意,能够应用于监控装置100的硬件配置以及能够应用于终端设备850的硬件配置并不限于图8中例示的配置。
上述部分或所有变型例或实施例可以适当地组合使用。此外,上述实施例和变型例可以部分地或全部地以可选地方式进行使用。
其他实施例
本发明的实施例还可以通过如下的方法来实现,即,通过网络或者各种存储介质将执行上述实施例的功能的软件(程序)提供给系统或装置,该系统或装置的计算机或是中央处理单元(CPU)、微处理单元(MPU)读出并执行程序的方法。
虽然参照示例性实施例描述了本发明,但是应当理解,本发明并不限于所公开的示例性实施例。应当对权利要求的范围赋予最宽的解释,以使其涵盖所有这些变型例以及等同的结构及功能。
Claims (10)
1.一种监控摄像机,所述监控摄像机包括:
第一摄像单元,其能够变更追踪拍摄的摄像范围;
第二摄像单元,其能够比所述第一摄像单元拍摄更广的角度;
获取单元,其被配置为从所述第二摄像单元拍摄的图像获取与所述第一摄像单元在下一帧中的摄像范围对应的图像区域的亮度信息;以及
控制单元,其被配置为基于所述亮度信息控制所述第一摄像单元的曝光。
2.根据权利要求1所述的监控摄像机,其中,所述获取单元基于所述第一摄像单元在当前帧中的拍摄图像中的被摄体,确定所述第一摄像单元在下一帧中的摄像范围,并从所述第二摄像单元拍摄的图像获取与所确定的摄像范围对应的图像区域的亮度信息。
3.根据权利要求1所述的监控摄像机,其中,所述控制单元根据所述亮度信息获得关于所述第一摄像单元的曝光的信息,并根据所获得的关于曝光的信息来控制所述第一摄像单元的曝光。
4.根据权利要求3所述的监控摄像机,其中,所述控制单元根据基于所述亮度信息获得的关于所述第一摄像单元的曝光的信息和关于所述第一摄像单元的曝光的当前信息之间的差分,控制所述第一摄像单元的曝光。
5.根据权利要求1所述的监控摄像机,其中,
所述获取单元获取多个第二摄像单元中摄像范围包括被摄体的第二摄像单元的亮度信息;以及
所述控制单元基于所述获取单元获取的亮度信息控制所述第一摄像单元的曝光。
6.根据权利要求1所述的监控摄像机,其中,
所述获取单元获取多个第二摄像单元中摄像范围包括被摄体的第二摄像单元的亮度信息;以及
所述控制单元基于所述获取单元获取的亮度信息的平均亮度信息控制所述第一摄像单元的曝光。
7.根据权利要求1所述的监控摄像机,其中,所述第一摄像单元是能够改变摇摄、倾斜和缩放的摄像装置。
8.根据权利要求1所述的监控摄像机,其中,所述第二摄像单元是具有广角透镜的一个或多个摄像装置。
9.一种监控摄像机的控制方法,所述监控摄像机的控制方法具有
第一摄像单元,其能够变更追踪拍摄的摄像范围;
第二摄像单元,其能够比所述第一摄像单元拍摄更广的角度;
所述方法包括:
从所述第二摄像单元拍摄的图像获取与所述第一摄像单元在下一帧中的摄像范围对应的图像区域的亮度信息;以及
基于所述亮度信息控制所述第一摄像单元的曝光。
10.一种存储介质,其存储用于使计算机用作以下功能的程序:
第一获取单元,其被配置为从能够变更追踪拍摄的摄像范围的第一摄像单元和能够比所述第一摄像单元拍摄更广角度的第二摄像单元获取拍摄图像;以及
第二获取单元,其被配置为从所述第二摄像单元拍摄的图像获取与所述第一摄像单元在下一帧中的摄像范围对应的图像区域的亮度信息;以及
控制单元,其被配置为基于所述亮度信息控制所述第一摄像单元的曝光。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018009940A JP7197981B2 (ja) | 2018-01-24 | 2018-01-24 | カメラ、端末装置、カメラの制御方法、端末装置の制御方法、およびプログラム |
JP2018-009940 | 2018-01-24 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110072078A true CN110072078A (zh) | 2019-07-30 |
CN110072078B CN110072078B (zh) | 2021-11-30 |
Family
ID=67300295
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910018367.9A Active CN110072078B (zh) | 2018-01-24 | 2019-01-09 | 监控摄像机、监控摄像机的控制方法和存储介质 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20190230269A1 (zh) |
JP (1) | JP7197981B2 (zh) |
CN (1) | CN110072078B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110493539A (zh) * | 2019-08-19 | 2019-11-22 | Oppo广东移动通信有限公司 | 自动曝光处理方法、处理装置和电子设备 |
CN111432143A (zh) * | 2020-04-10 | 2020-07-17 | 展讯通信(上海)有限公司 | 摄像头模组切换的控制方法、系统、介质及电子设备 |
CN116034586A (zh) * | 2020-05-08 | 2023-04-28 | Oppo广东移动通信有限公司 | 曝光水平控制方法和装置,以及存储有用于实现该方法的软件的计算机可用介质 |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102470465B1 (ko) * | 2018-02-19 | 2022-11-24 | 한화테크윈 주식회사 | 영상 처리 장치 및 방법 |
CN112399093B (zh) * | 2019-08-19 | 2022-03-18 | 比亚迪股份有限公司 | 闸机及其控制方法 |
CN112945015B (zh) * | 2019-12-11 | 2023-08-22 | 杭州海康威视数字技术股份有限公司 | 一种无人机监测系统、方法、装置及存储介质 |
WO2022168481A1 (ja) * | 2021-02-02 | 2022-08-11 | ソニーグループ株式会社 | 画像処理装置、画像処理システム |
WO2024028871A1 (en) * | 2022-08-01 | 2024-02-08 | Magna Bsp Ltd | A smart wall for fence protection |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20110063446A1 (en) * | 2009-09-14 | 2011-03-17 | Mcmordie David | Saccadic dual-resolution video analytics camera |
JP2014123914A (ja) * | 2012-12-21 | 2014-07-03 | Canon Inc | 撮像装置及びその制御方法、プログラム並びに記憶媒体 |
CN104702824A (zh) * | 2013-12-10 | 2015-06-10 | 佳能株式会社 | 摄像装置及摄像装置的控制方法 |
US9578257B2 (en) * | 2010-10-24 | 2017-02-21 | Linx Computational Imaging Ltd. | Geometrically distorted luminance in a multi-lens camera |
CN106462766A (zh) * | 2014-06-09 | 2017-02-22 | 高通股份有限公司 | 在预览模式中进行图像捕捉参数调整 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3838881B2 (ja) * | 2001-02-21 | 2006-10-25 | 株式会社日立国際電気 | 監視カメラ装置 |
JP2002281379A (ja) * | 2001-03-21 | 2002-09-27 | Ricoh Co Ltd | 撮像システム |
JP4706466B2 (ja) * | 2005-12-16 | 2011-06-22 | 株式会社日立製作所 | 撮像装置 |
JP4717701B2 (ja) * | 2006-04-24 | 2011-07-06 | キヤノン株式会社 | 撮像システム、撮影方向制御方法、及びプログラム |
JP2008187393A (ja) * | 2007-01-29 | 2008-08-14 | Sony Corp | 露出制御システム、露出制御方法、そのプログラムと記録媒体およびカメラ制御システムとカメラ |
JP5499853B2 (ja) * | 2010-04-08 | 2014-05-21 | 株式会社ニコン | 電子カメラ |
JP6065474B2 (ja) * | 2012-09-11 | 2017-01-25 | 株式会社リコー | 撮像制御装置、撮像制御方法およびプログラム |
JP2015014672A (ja) * | 2013-07-04 | 2015-01-22 | 住友電気工業株式会社 | カメラ制御装置、カメラシステム、カメラ制御方法、及びプログラム |
-
2018
- 2018-01-24 JP JP2018009940A patent/JP7197981B2/ja active Active
-
2019
- 2019-01-09 CN CN201910018367.9A patent/CN110072078B/zh active Active
- 2019-01-16 US US16/249,070 patent/US20190230269A1/en not_active Abandoned
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20110063446A1 (en) * | 2009-09-14 | 2011-03-17 | Mcmordie David | Saccadic dual-resolution video analytics camera |
US9578257B2 (en) * | 2010-10-24 | 2017-02-21 | Linx Computational Imaging Ltd. | Geometrically distorted luminance in a multi-lens camera |
JP2014123914A (ja) * | 2012-12-21 | 2014-07-03 | Canon Inc | 撮像装置及びその制御方法、プログラム並びに記憶媒体 |
CN104702824A (zh) * | 2013-12-10 | 2015-06-10 | 佳能株式会社 | 摄像装置及摄像装置的控制方法 |
CN106462766A (zh) * | 2014-06-09 | 2017-02-22 | 高通股份有限公司 | 在预览模式中进行图像捕捉参数调整 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110493539A (zh) * | 2019-08-19 | 2019-11-22 | Oppo广东移动通信有限公司 | 自动曝光处理方法、处理装置和电子设备 |
CN110493539B (zh) * | 2019-08-19 | 2021-03-23 | Oppo广东移动通信有限公司 | 自动曝光处理方法、处理装置和电子设备 |
CN111432143A (zh) * | 2020-04-10 | 2020-07-17 | 展讯通信(上海)有限公司 | 摄像头模组切换的控制方法、系统、介质及电子设备 |
CN116034586A (zh) * | 2020-05-08 | 2023-04-28 | Oppo广东移动通信有限公司 | 曝光水平控制方法和装置,以及存储有用于实现该方法的软件的计算机可用介质 |
Also Published As
Publication number | Publication date |
---|---|
JP2019129410A (ja) | 2019-08-01 |
JP7197981B2 (ja) | 2022-12-28 |
CN110072078B (zh) | 2021-11-30 |
US20190230269A1 (en) | 2019-07-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110072078A (zh) | 监控摄像机、监控摄像机的控制方法和存储介质 | |
US8175336B2 (en) | Target tracker | |
TW201020972A (en) | System and method to generate depth data using edge detection | |
CN110572636B (zh) | 摄像头脏污检测方法、装置、存储介质及电子设备 | |
CN113891072B (zh) | 基于亿级像素数据的视频监测与异常分析系统与方法 | |
CN114466129A (zh) | 图像处理方法、装置、存储介质及电子设备 | |
WO2020014864A1 (zh) | 位姿确定方法、设备、计算机可读存储介质 | |
CN114125268A (zh) | 对焦方法及装置 | |
JP6912890B2 (ja) | 情報処理装置、情報処理方法、システム | |
CN115965653A (zh) | 一种光斑追踪方法、装置、电子设备及存储介质 | |
JP5177068B2 (ja) | 目標追尾装置、目標追尾方法 | |
US9906724B2 (en) | Method and device for setting a focus of a camera | |
KR101529384B1 (ko) | 피사체 검출 장치, 피사체 검출 방법 및 기록 매체 | |
CN108734066A (zh) | 一种手势图像获取设备及方法 | |
CN108600628B (zh) | 图像抓拍方法、装置、终端及可读介质 | |
CN110677580A (zh) | 拍摄方法、装置、存储介质及终端 | |
CN112637587B (zh) | 坏点检测方法及装置 | |
JP6483661B2 (ja) | 撮像制御装置、撮像制御方法およびプログラム | |
CN116208842A (zh) | 视频处理方法、装置、设备和计算机可读存储介质 | |
US9749524B1 (en) | Methods and systems for determining a direction of a sweep motion | |
CN110012208B (zh) | 拍照对焦方法、装置、存储介质及电子设备 | |
CN107197155B (zh) | 一种拍照后对焦的方法、系统、移动终端及存储装置 | |
JP2014142696A (ja) | 解析処理制御システム | |
CN113132645B (zh) | 图像采集方法、装置、设备及存储介质 | |
JP7483352B2 (ja) | 撮影装置及びその制御方法並びにプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |