CN103686131B - 使用图像的3d信息的监控设备和系统以及监控方法 - Google Patents

使用图像的3d信息的监控设备和系统以及监控方法 Download PDF

Info

Publication number
CN103686131B
CN103686131B CN201310426387.2A CN201310426387A CN103686131B CN 103686131 B CN103686131 B CN 103686131B CN 201310426387 A CN201310426387 A CN 201310426387A CN 103686131 B CN103686131 B CN 103686131B
Authority
CN
China
Prior art keywords
information
image
ptz camera
ptz
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201310426387.2A
Other languages
English (en)
Other versions
CN103686131A (zh
Inventor
金昌洙
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hanhua Vision Co ltd
Original Assignee
Samsung Techwin Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from KR1020120103420A external-priority patent/KR20140036824A/ko
Priority claimed from KR1020130099097A external-priority patent/KR102046043B1/ko
Application filed by Samsung Techwin Co Ltd filed Critical Samsung Techwin Co Ltd
Publication of CN103686131A publication Critical patent/CN103686131A/zh
Application granted granted Critical
Publication of CN103686131B publication Critical patent/CN103686131B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/285Analysis of motion using a sequence of stereo image pairs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • H04N23/661Transmitting camera control signals through networks, e.g. control via the Internet
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/695Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • G06T2207/10021Stereoscopic video; Stereoscopic image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20224Image subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30232Surveillance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30244Camera pose
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19602Image analysis to detect motion of the intruder, e.g. by frame subtraction
    • G08B13/19608Tracking movement of a target, e.g. by detecting an object predefined as a target, using target direction and or velocity to predict its new position
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)

Abstract

提供了一种使用图像的3D信息的监控设备和系统以及监控方法。使用3D信息的监控设备包括:图像获取单元,被配置为获得由PTZ相机捕捉的2D图像;信息提取单元,被配置为基于PTZ相机的水平/垂直角度来提取对象的2D坐标信息,并且基于PTZ相机的缩放比例来提取PTZ相机与对象之间的距离信息;操作单元,被配置为通过比较由图像获取单元获得的2D图像的当前帧和先前帧来操作2D坐标信息和距离信息的变化;位置跟踪单元,被配置为通过基于2D坐标信息和距离信息的变化控制PTZ相机来跟踪对象的位置。

Description

使用图像的3D信息的监控设备和系统以及监控方法
技术领域
本发明涉及一种使用图像的三维(3D)信息的监控设备和系统以及使用图像的3D信息的监控方法,更具体地,涉及一种使用图像的3D信息的监控设备和系统以及使用图像的3D信息的监控方法,其中,所述监控设备和系统以及监控方法可根据使用PTZ(水平垂直缩放)相机的水平/垂直转动角度和图像的3D信息(即,根据缩放比例的对象与相机之间的距离信息)来获得对象的二维(2D)坐标,并且通过计算根据对象的移动的3D信息的变化来连续地监控和跟踪移动对象。
背景技术
根据用于获得作为立体图像的3D场景的一般方法,提供了用于捕捉左图像和右图像的两个相机,并且将根据相机之间的角度差的两幅不同图像进行合成以完成最终的3D场景。
此外,在跟踪移动物体(例如,观察者)的过程中,通过计算关于2D场景的图像的变化来抓取被跟踪的身体的位置,并且PTZ相机的焦点移动至抓取的位置。例如,接收捕捉到的图像帧,使用接收到的图像帧来检测观察者的位置,使用检测到的观察者的位置和先前检测到的观察者的位置中的至少一个来计算观察者的移动速度。随后,使用检测到的观察者的位置和计算出的移动速度来估计当过去预定时间时观察者的位置,并且基于估计出的观察者的位置来计算立体图像的变化。随后,基于计算出的立体图像的变化来显示立体图像。
根据上述现有技术,聚焦于在提供立体图像显示的环境中计算观察者的位置,以及在显示立体图像的过程中使用所述图像。在操作用于3D图像的两个相机的过程中,不提供PTZ(水平垂直缩放)功能,因此难以自由地实现立体图像。
具体地,注册号为20-0350161的韩国实用新型公开了一种通过感测接近的对象的移动并防止对象的接近来提供安全功能的立体图像安全控制装置。以下,将参照图1来描述所述装置的细节。
图1是注册号为20-0350161的韩国实用新型所公开的现有技术中的立体图像安全控制装置的配置图。
参照图1,立体图像安全控制装置1被配置为通过立体图像相机9、被连接至驱动电机10的安全装置11和扬声器12的连接来执行自动安全管理,其中,通过通信模块7和8将上述部件安装在多个地方的安全警备区(securitycompound)。在此,在通信模块7和8的情况下,所述通信模块各自的接口是专用的,因此不能通过通用接口来连接通信模块7和8。此外,应该安装专用的立体图像相机9,并且由于所述立体图像相机不是能够连续地跟踪在相机前面的对象的PTZ相机,因此不可能在广阔的地方对全方向的对象进行跟踪。
此外,现有技术中的对象跟踪装置的理论算法是用于通过计算在2D(静止图像)状态下先前场景与当前场景之间的图像中的不同来搜索移动对象的方法。例如,通过计算图像的变化(通过检测先前图像与当前图像的改变)以及更新作为跟踪目标的对象的水平坐标和垂直坐标,现有技术中的对象跟踪装置连续地捕捉移动对象的图像。当另一对象遮掩了对应的对象或者对应的对象与另一目标交错而过时,这种方法频繁地丢失对象。也就是说,在自动对象跟踪的成功率大幅降低的环境中,所述方法丢失正在跟踪的目标。
发明内容
因此,已经做出本发明以解决上述在现有技术中发生的问题,并且本发明所要解决的一个目标是提供一种使用图像的3D信息的监控设备和系统以及使用图像的3D信息的监控方法,其中,所述监控设备和系统以及监控方法可通过使用PTZ(水平垂直缩放)相机的所有PTZ功能计算对象的距离/高度信息来获得图像的3D信息,基于3D信息来更准确地获得移动对象的坐标,并且使用移动对象的坐标来更准确地监控和跟踪移动对象。
本发明所要解决的另一目标是提供一种使用图像的3D信息的监控设备和系统以及使用图像的3D信息的监控方法,其中,所述监控设备和系统以及监控方法可使用通过网络链接的PTZ相机来获得3D图像,并且在通过网络与其他相机共享获得的图像的同时全方位地监控和跟踪移动对象。
将在下面的说明书中部分阐述本发明的另外的优点、目标和特征,而且部分说明书对于审查了以下说明书后的本领域的普通技术人员而言将会变得清楚或者可以从对本发明的实践中学到。
根据本发明的一方面,提供一种使用图像的3D信息的监控设备,包括:图像获取单元,被配置为获得由PTZ相机捕捉的2D图像;信息提取单元,被配置为基于PTZ相机的水平/垂直角度来提取对象的2D坐标信息,并且基于PTZ相机的缩放比例来提取PTZ相机与对象之间的距离信息;操作单元,被配置为通过比较由图像获取单元获得的2D图像的当前帧和先前帧来操作2D坐标信息和距离信息的变化;位置跟踪单元,被配置为通过基于2D坐标信息和距离信息的变化控制PTZ相机来跟踪对象的位置。
根据本发明的一方面,提供一种使用图像的3D信息的监控系统,所述监控系统通过经由多个PTZ相机的链接获得图像的3D信息来跟踪对象,其中,PTZ相机中的每个包括:接口单元,被配置为通过网络来连接到其他PTZ相机;图像捕捉单元,被配置为捕捉对象的图像;图像转换单元,被配置为将由图像捕捉单元捕捉到的2D图像与通过网络传输的其他PTZ相机的2D图像进行合成,并将合成的2D图像转换为3D图像;信息提取单元,被配置为基于PTZ相机的水平/垂直角度来提取对象的2D坐标信息,并且从3D图像中提取对象的高度信息;操作单元,被配置为通过比较3D图像的当前帧和先前帧来操作2D坐标信息和高度信息的变化;位置跟踪单元,被配置为通过基于2D坐标信息和高度信息控制PTZ相机来跟踪对象的位置。
根据本发明的一方面,提供一种使用图像的3D信息的监控方法,包括:通过使用PTZ相机进行捕捉来获得2D图像;基于PTZ相机的水平/垂直角度来提取对象的2D坐标信息,并且基于PTZ相机的缩放比例来提取PTZ相机与对象之间的距离信息;通过比较2D图像的当前帧和先前帧来操作2D坐标信息和距离信息的变化;基于2D坐标信息和距离信息的变化来控制PTZ相机;跟踪对象的位置。
根据本发明,使用固定型PTZ相机,而不安装昂贵的可移动型3D相机,从而可节省安装费。
此外,在将获得的图像用作用于刑事鉴定的证据数据的情况下,可通过距离信息和覆盖对象的识别来辨别多个对象,其中,在现有的2D场景中会丢失覆盖对象,并且具有自动跟踪装置的功能的PTZ相机可以以这种方法来高成功率地执行无缝对象跟踪。
可使用多个使用IP(因特网协议)的网络PTZ相机来获得立体图像,因此可显著提升现有对象跟踪装置的性能。
此外,由于甚至可通过添加从立体图像(其中,使用多个图像输入装置来获得所述立体图像)计算出的对象的高度信息来识别对象,因此可使自动跟踪装置的性能最大化。
如果期望在改变的立体图像中跟踪对象,则由于使用对应的对象的高度信息,因此与基于现有2D类型图像变化测量方法的自动对象跟踪装置相比可实现卓越的性能。
通过参照附图详细描述本发明的示例性实施例,本发明的以上和其他特征或优点将变得更加清楚。
附图说明
通过下面结合附图的详细描述,本发明的上述和其它目标、特征和优点将更加清楚,其中:
图1是现有技术中立体图像安全控制装置的配置图;
图2是根据本发明的实施例的使用图像的3D信息的监控设备的配置图;
图3是示出根据PTZ相机的焦距的PTZ相机与对象之间的距离关系的示图;
图4是根据本发明的实施例的使用图像的3D信息的监控系统的配置图;
图5是根据本发明的实施例的使用图像的3D信息的监控方法的流程图。
具体实施方式
现在将参照附图在下文中更充分地描述本发明,其中,附图示出了本发明的优选实施例。然而,可按照不同形式来实施本发明,并且不应该将本发明解释为限于在此阐述的实施例。相反地,提供这些实施例使得本发明将是彻底且完全的,并将充分地向本领域的普通技术人员传达本发明的范围。贯穿说明书,同样的标号表示同样的部件。在附图中,为清楚起见,夸大了层和区域的厚度。
除非另有定义,否则在此使用的所有技术和科学术语的含义与本发明所属的领域的普通技术人员通常所理解的含义相同。应注意的是,除非另有说明,否则任何和所有示例的使用或者在此提供的示例性术语仅意在更好地示出本发明,而并非对本发明的范围的限制。此外,除非另有定义,否则可不必过度解释在通常使用的词典中定义的所有术语。
以下,将参照附图来详细描述本发明的优选实施例。
图2是根据本发明的实施例的使用图像的3D信息的监控设备的配置图。此外,图3是示出根据PTZ相机的焦距的PTZ相机与对象之间的距离关系的示图。
参照图2,根据本发明的实施例的使用图像的3D信息的监控设备200用于基于能够从PTZ相机100获得的水平/垂直角度和缩放比例来提取对象的3D信息,以及用于使用3D信息的变化来跟踪移动对象。此外,根据本发明的实施例的使用图像的3D信息的监控设备200用于获得从多个PTZ相机捕捉到的图像,对所述图像进行处理,并且将所述图像转换为3D立体图像,以及用于使用3D立体图像来跟踪移动对象。此外,将通过使用图像的3D信息的监控设备200获得的信息和数据以及由使用图像的3D信息的监控设备200处理的信息和数据存储在数据库300中。此处,3D信息表示指示对象在立体空间中的位置的三要素。
使用图像的3D信息的监控设备200包括图像获取单元220、信息提取单元240、操作单元250和位置跟踪部分260。监控设备200还可包括接口单元210和图像转换单元230。
接口单元210用于链接多个PTZ相机100。此处,接口单元210使用网络来链接多个PTZ相机100,具体地,可使用IP(互联网协议)来链接多个PTZ相机。因此,不需要单独的专用通信模块或方法,因此能够克服由于现有技术的专用设计所导致的仅限于系统中的链接的设计而造成的缺点,灵活的接口设计成为降低可扩展性的阻碍。
具体地,将多个PTZ相机100被布置为固定在特定位置。也就是说,由于PTZ相机100包括多个彼此面对的PTZ相机100-1至100-n,从而可将死角最小化,并且与用于简单地通过计算当前图像与先前图像之间的变量来搜索对应的位置的方法相比可极大地提升准确性。此时,可通过接口单元210从PTZ相机100获得数据,诸如,水平角度、垂直角度、缩放比例和焦距。通常,在PTZ相机100的情况下,存储捕捉到的图像。因此,可将在预定时间段内进入存储空间的帧和帧的相机参数(即,水平角度、垂直角度、缩放比例和焦距)存储在一起。
图像获取单元220通过接口单元210获得通过至少一个PTZ相机100获得的2D图像。此外,除了2D图像之外,图像获取单元220可通过接口单元210来获得与2D图像相关的PTZ相机100的参数值。由于PTZ相机100执行放大/缩小和水平/垂直操作,因此能够获得与相机的3D运动相对应的相机参数。具体地,固定在特定位置并且能够执行水平/垂直操作的监控PTZ相机100可实时识别相机参数,从而更有效。此外,PTZ相机100在固定位置获得图像,从而具有图像输入(场景改变等)不是不规则的优点。可将获得的图像转换为图像被压缩以便于数据传输的压缩格式。压缩格式的图像数据可具有多种格式,诸如MPEG(运动图像专家组)-1和MPEG-4。将通过图像获取单元220获得的2D图像发送至图像转换单元230和/或信息提取单元240。此时,将通过多个PTZ相机100捕捉到的各个2D图像发送至图像转换单元230。此外,可将相机参数(诸如PTZ相机100的水平角度、垂直角度和缩放比例)与通过PTZ相机100捕捉到的2D图像一起发送至信息提取单元240。作为示例,相机参数可以是水平角度、垂直角度、缩放比例和焦距的集合。在此,通过PTZ相机100的3D运动(诸如放大/缩小、水平和垂直)来获得相机参数。
图像转换单元230对通过图像获取单元220获得的各个2D图像之中的至少两个图像进行合成,以将2D图像转换为3D图像。例如,在合成两个图像的情况下,可通过各个相机来获得2D图像中的对象的平面坐标信息(即,2D坐标信息),也可获得各个相机之间的距离。通过这样,可将通过IP相互交换的2D图像信息改变为作为立体图像的3D图像。
具体地,被固定在特定地点且可执行水平/垂直操作的监控PTZ相机100可实时识别出上述相机参数,从而更有效。此外,由于PTZ相机100在固定的位置获得图像,因此具有图像输入(场景改变等)不是不规则的优点。通过PTZ相机100的3D运动(诸如放大/缩小、水平、垂直)来获得相机参数(诸如水平角度、垂直角度、缩放比例和焦距)。通过所述3D运动,可获得图像的3D信息。此外,可使用相机的水平/垂直角度、缩放比例和焦距来获得2D图像合成的3D图像。
信息提取单元240从2D图像中提取作为对象的位置信息的2D坐标信息,提取PTZ相机100与对象之间的距离信息,并且从3D图像中提取对象的高度信息。此处,可在相机参数(水平、垂直和缩放参数)和从各个PTZ相机100获得的2D图像的帧的基础上提取2D坐标信息和距离信息。具体地,信息提取单元240可基于PTZ相机100的水平/垂直角度来提取对象的2D坐标信息,并且可基于PTZ相机100的缩放比例来提取距离信息。此外,信息提取单元240可从通过合成至少两个2D图像获得的3D图像中提取对象的高度信息。2D坐标信息和距离信息可形成图像的3D信息,或者2D坐标信息和高度信息可形成图像的3D信息。将对象的3D信息(以下,第一3D信息包括2D坐标信息和距离信息,第二3D信息包括2D坐标信息和高度信息)存储在数据库300中。通过这样,在用于通过计算2D(静止图像)状态下的先前场景与当前场景之间的图像区别来搜索移动对象的方法中,能够防止当另一对象遮掩了对应的对象或对应的对象与另一对象交错而过时丢失对象。此时,对象的3D信息在被存储在外部数据库300中之前,被存储在使用图像的3D信息的监控设备200的临时缓冲存储器(未示出)中,从而可被直接用作用于跟踪对象的位置的信息。
此外,如上所述,信息提取单元240可基于缩放比例来提取图像中的对象与PTZ相机100之间的距离信息。可如上所述地提取距离信息的原因是能够抓取根据PTZ相机100的特性的缩放功能和根据缩放比例的焦点位置。也就是说,信息提取单元240基于根据缩放比例的焦距来提取对象与PTZ相机100之间的距离信息。在这种情况下,可通过在不使用立体图像相机的情况下在屏幕上显示PTZ相机100与对象之间的距离信息或者处理所述信息来跟踪而不丢失对象。
具体地,参照图3,在使用PTZ相机100来捕捉对象的图像的情下,如果假设对象(即,作为图像捕捉目标的对象)与PTZ相机100的镜头之间的外部距离为Do,PTZ相机100的镜头与PTZ相机100的图像传感器之间的内部距离为Di,并且焦距为f,则建立下面的公式1的关系。此处,指示PTZ相机100的镜头之间的距离的外部距离Do变为距离信息。
【公式1】
1 Do + 1 Di = 1 f
在这种情况下,由于内部距离Di是固定值,而焦距f是根据PTZ相机100的缩放比例来确定的值,因此可通过下面的公式2来获得外部距离Do。
【公式2】
Do = Di × f Di - f
因此,信息提取单元240从图像获取单元220接收2D图像以及包括至少水平角度、垂直角度、缩放比例和焦距的相机参数,并且提取通过2D坐标信息获得的距离信息,其中,通过水平/垂直角度和由缩放比例确定的焦距来获得2D坐标信息。此外,信息提取单元240从通过水平/垂直角度获得的2D坐标信息和通过合成多个2D图像获得的3D图像中提取高度信息,其中,通过多个PTZ相机100来捕捉所述2D图像,并且通过图像获取单元220来获得所述2D图像。
操作单元250通过将通过图像获取单元220获得的2D图像的当前帧与先前帧进行比较来操作2D坐标信息和距离信息的变化。也就是说,操作单元250可通过将可从2D图像的当前帧和先前帧获得的图像的第一3D信息(2D坐标信息和距离信息)进行比较来操作第一3D信息的变化(即,2D坐标信息和距离信息的变化),其中,通过图像获取单元220来获得所述2D图像。
此外,操作单元250通过将3D图像的当前帧与先前帧进行比较来操作2D坐标信息和高度信息的变化。也就是说,操作单元250可通过将可从3D图像的当前帧和先前帧获得的图像的第二3D信息(2D坐标信息和高度信息)进行比较来操作第二3D信息的变化(即,2D坐标信息和高度信息的变化),其中,通过图像转换单元230来获得所述3D图像。
位置跟踪单元260可通过基于2D坐标信息和距离信息的变化(第一3D信息的变化)控制PTZ相机100来跟踪对象的位置。也就是说,通过根据2D坐标信息和距离信息的变化来更新PTZ相机100的水平/垂直角度和缩放比例,可连续地捕捉对象的图像。通过这样,即使根据缩放比例更新了焦距,也自动地更新距离信息以提升对象的跟踪准确性。
此外,位置跟踪单元260可通过基于对象的2D坐标信息和高度信息的变化控制PTZ相机100来跟踪对象的位置。通过获得使用至少两个链接类型PTZ相机的立体图像,可获得对象的高度信息和图像变化,从而更准确的对象跟踪成为可能。在这种情况下,由于链接类型PTZ相机100被安装得彼此面对,因此能够将死角最小化,而且与用于通过使用获得的立体图像计算先前图像的变化来搜索对应位置的方法相比可极大地提升准确性。也就是说,由于甚至通过添加从立体图像(其中,使用多个图像输入装置来获得所述立体图像)计算出的对象的的高度信息来识别对象,因此可使自动跟踪装置的性能最大化。
使用上述图像的3D信息的监控设备200与PTZ相机100物理地分离,而且被配置为单独的模块。当然,本领域的技术人员应该清楚的是,可将使用图像的3D信息的监控设备200的各个构成元件配置在PTZ相机100内部。以下,将描述在相机内部执行使用3D图像的监控处理的实施例。
图4是根据本发明的实施例的使用图像的3D信息的监控系统的配置图。
参照图4,使用图像的3D信息的监控系统50通过经由链接多个PTZ相机500获得的图像的3D信息来跟踪对象。此处,各个PTZ相机500通过网络55来彼此发送/接收信息和数据。如上所述,网络55可使用IP(互联网协议)。也就是说,PTZ相机500可以是IP网络相机。
PTZ相机500中的每个包括接口单元510、图像捕捉单元520、图像转换单元530、信息提取单元540、操作单元550和位置跟踪单元560。PTZ相机500还可包括存储单元570。
接口单元510用于通过网络55来链接多个PTZ相机500。如上所述,不需要单独的专用通信模块或方法,从而能够克服由于现有技术的专用设计所导致的仅限于系统中的链接的设计而造成的缺点,灵活的接口设计成为降低可扩展性的阻碍。
图像捕捉单元520通过捕捉对象的图像来获得2D图像。图像捕捉单元520通过对预定区域进行捕捉来获得所述图像。此处,CCD(电荷耦合器件)图像传感器或CMOS(互补金属氧化物半导体)图像传感器可用作图像捕捉元件。具体地,构成图像捕捉单元520的相机模块可以是可执行夜间拍摄以在夜间感测准确位置的相机单元。也就是说,相机模块可包括感测红外线的红外传感器。优选的是,红外传感器是感测近红外线的近红外传感器,但不限于此。红外传感器也可以是感测远红外线的远红外传感器。可将获得的图像转换为图像被压缩以便于数据传输的压缩格式。压缩格式的图像数据可具有多种格式,诸如MPEG(运动图像专家组)-1或MPEG-4。将通过图像捕捉单元520捕捉到的图像传输至图像转换单元530。
图像转换单元530将通过图像捕捉单元520捕捉到的2D图像与通过网络55传输的另一PTZ相机500的2D图像进行合成,以将2D图像转换为3D图像。此外,可通过特定相机500的图像转换单元530将通过多个网络PTZ相机500获得的2D图像处理为立体图像,并且随后可再次将对象的距离和高度信息传输至相对的相机。通过这样,使用立体图像而不是2D场景的变化来执行移动对象的位置跟踪,从而可实现更高的准确性。
信息提取单元540基于PTZ相机的水平/垂直角度来提取对象的2D坐标信息,并且从3D图像提取对象的高度信息。此外,信息提取单元540基于PTZ相机500自身的缩放比例来提取PTZ相机500与对象之间的距离信息。具体地,确定了根据PTZ相机的缩放比例的焦距,并且通过上述的公式2来提取PTZ相机500与对象之间的距离信息。由于信息提取单元540的详细功能与上述使用3D信息的监控设备的信息提取单元240的详细功能是相同的,因此将省略对此的详细描述。
操作单元550通过比较将3D的当前帧和先前帧来操作2D坐标信息和高度信息的变化。也就是说,操作单元550可计算上述第二3D信息的变化。此外,操作单元550通过比较2D图像的当前帧和先前帧来操作2D坐标信息和距离信息的变化。也就是说,操作单元550可计算上述第一3D信息的变化。由于操作单元550的详细功能与上述使用图像的3D信息的监控设备200的操作单元250的详细功能是相同的,因此将省略对此的详细描述。
位置跟踪单元560可基于包括高度信息和距离信息中的一个以及对象的位置信息(所述位置信息在由信息提取单元540提取出的对象位置信息、高度信息和距离信息之中)的3D信息来跟踪的对象的位置。具体地,位置跟踪单元可通过基于2D坐标信息和高度信息的变化(第二3D信息的变化)控制PTZ相机500来跟踪对象的位置,或者可通过基于2D坐标信息和距离信息的变化(第一3D信息的变化)控制PTZ相机500来跟踪对象的位置。例如,如果将多个PTZ相机500安装在相同的空间而不考虑它们的高度,而且各个相机500彼此交换所获得的信息并且跟踪相同的对象,则可使用高度信息和距离信息中的至少一个以及2D坐标信息来准确地获得对象在3D坐标系统中的位置。
存储单元570存储对象的高度信息、相机500与对象之间的距离信息和由信息提取单元540提取出的对象的2D坐标信息。此外,存储单元570可存储通过PTZ相机500的3D运动(例如,诸如放大/缩小、水平和垂直的3D运动)的相机参数,诸如水平角度、垂直角度、缩放比例和焦距。此处,本领域的技术人员应该清楚的是,存储单元570可以是包括在PTZ相机500中的构成元件,或者可被外部存储介质替代。如果存储单元570被外部存储介质替代,则存储单元570可以是暂时地存储由PTZ相机500获得和处理的各种类型的信息的缓冲器。
由于通过网络55来链接多个PTZ相机500,因此使用图像的3D信息的监控系统50可将由图像转换单元530转换的3D图像、由信息提取单元540提取的2D坐标信息、高度信息和距离信息与相机参数(诸如水平角度、垂直角度、缩放比例和焦距)一起发送至其他PTZ相机500。具体地,监控系统50可通过计算相机焦距和缩放比例来计算对象与相机之间的距离,通过与相对的相机实时交换信息来跟踪对象,在特定相机中将通过多个网络PTZ相机500获得的2D图像处理为立体图像,并且将对象的距离和高度信息重新发送至相对的相机以跟踪对象。如果将多个PTZ相机500安装在相同的空间而不考虑它们的高度,则各个相机500彼此交换获得的信息并且跟踪相同的目标。因此,由于不使用单独的立体图像相机,因此可节省安装费。此外,可使用通常安装的PTZ相机500来容易地配置监控系统,可容易地连接和操作具有IP接口510的网络PTZ相机500,并且可使用立体图像来以更高的精确性执行位置跟踪,而不是仅通过2D场景的变化来执行位置跟踪。
图5是根据本发明的实施例的使用图像的3D信息的监控方法的流程图。
参照图5,根据本发明的实施例的使用图像的3D信息的监控方法通过使用PTZ相机进行捕捉来获得2D图像(S10),基于水平/垂直角度来提取对象的2D坐标信息,基于PTZ相机的缩放比例来提取PTZ相机与对象之间的距离信息(S20),并且通过比较2D图像的当前帧和先前帧来操作2D坐标信息和距离信息的变化(S30)。以下,监控方法基于2D坐标信息和距离信息的变化来控制PTZ相机(S40),并且跟踪对象的位置(S50)。
通过这样,在安装PTZ相机之后,使用PTZ相机自身的相机参数来提取对象的3D信息。基于提取出的3D信息,可连续地跟踪移动对象。因此,使用固定型PTZ相机,而不安装昂贵的可移动型3D相机,从而可节省安装费。此外,在将获得的图像用作用于刑事鉴定的证据数据的情况下,可通过距离信息和覆盖对象的识别来辨别多个对象,其中,在现有的2D场景中会丢失覆盖对象,并且期望的是,具有自动跟踪装置的功能的PTZ相机可以以这种方法来高成功率地执行无缝对象跟踪。
另一方面,可通过软件和硬件将根据本发明的实施例的使用图像的3D信息的监控方法实现为一个模块,并且可将上述本发明的实施例准备为可在计算机中执行并且可在使用记录介质来操作程序的通用计算机中实现的程序。可以磁介质(诸如ROM)、软盘或硬盘、光介质(诸如CD或DVD)和载波(诸如通过互联网传输)的形式来实现计算机可读记录介质。此外,在计算机可读记录介质中,可存储和运行分布在通过网络连接的计算机系统中的代码以及可由计算机以分布式方式读出的代码。
尽管已经为了示意性目的而描述了本发明的优选实施例,但本领域的技术人员将清楚的是,在不脱离由权利要求公开的本发明的范围和精神的情况下,各种修改、添加和代替是可能的。

Claims (10)

1.一种使用图像的3D信息的监控设备,包括:
图像获取单元,被配置为获得由PTZ相机捕捉的2D图像;
信息提取单元,被配置为基于PTZ相机的水平/垂直角度来提取2D图像中的对象的2D坐标信息,并且基于根据PTZ相机的缩放比例的焦距来提取PTZ相机与对象之间的距离信息;
操作单元,被配置为通过比较由图像获取单元获得的2D图像的当前帧和先前帧来操作2D坐标信息和距离信息的变化;
位置跟踪单元,被配置为通过基于2D坐标信息和距离信息的变化来更新PTZ相机的水平/垂直角度和缩放比例,以控制PTZ相机来跟踪对象的位置从而防止丢失对象,
其中,PTZ相机与另一PTZ相机彼此交换信息并跟踪相同的对象,
其中,位置跟踪单元还被配置为使用距离信息以及2D坐标信息来获得对象在3D坐标系统中的位置。
2.如权利要求1所述的监控设备,其中,将多个PTZ相机布置为固定在特定位置。
3.如权利要求2所述的监控设备,还包括:接口单元,被配置为使用互联网协议(IP)来链接多个PTZ相机。
4.如权利要求3所述的监控设备,还包括:图像转换单元,被配置为合成由多个PTZ相机捕捉到并且由图像获取单元获得的2D图像之中的至少两个图像,并且将合成的图像转换为3D图像。
5.如权利要求4所述的监控设备,其中,信息提取单元从3D图像中提取对象的高度信息。
6.如权利要求5所述的监控设备,其中,操作单元通过彼此比较3D图像的当前帧和先前帧来操作2D坐标信息和高度信息的变化,
位置跟踪单元通过基于2D坐标信息和高度信息的变化控制多个PTZ相机来跟踪对象的位置。
7.一种使用图像的3D信息的监控系统,所述监控系统通过经由多个相机的链接获得图像的3D信息来跟踪对象,其中,PTZ相机中的每个包括:
接口单元,被配置为通过网络来连接到其他PTZ相机;
图像捕捉单元,被配置为捕捉对象的2D图像;
图像转换单元,被配置为将由图像捕捉单元捕捉到的2D图像与通过网络传输的其他PTZ相机的2D图像进行合成,并将合成的2D图像转换为3D图像;
信息提取单元,被配置为基于PTZ相机的水平/垂直角度来提取对象的2D坐标信息,基于根据PTZ相机的缩放比例的焦距来提取PTZ相机和对象之间的距离信息,并且从3D图像中提取对象的高度信息;
操作单元,被配置为通过比较3D图像的当前帧和先前帧来操作2D坐标信息和高度信息的变化;
位置跟踪单元,被配置为通过基于2D坐标信息和高度信息的变化来更新PTZ相机的水平/垂直角度和缩放比例,以控制PTZ相机来跟踪对象的位置从而防止丢失对象,
其中,PTZ相机彼此交换信息并跟踪相同的对象,
其中,位置跟踪单元还被配置为使用高度信息和距离信息中的至少一个以及2D坐标信息来获得对象在3D坐标系统中的位置。
8.如权利要求7所述的监控系统,其中,PTZ相机中的每个还包括:存储单元,被配置为存储2D坐标信息、高度信息和距离信息。
9.如权利要求7所述的监控系统,其中,PTZ相机中的每个通过网络将由图像转换单元转换的3D图像以及由信息提取单元提取的2D坐标信息、高度信息和距离信息传输至其他PTZ相机。
10.一种使用图像的3D信息的监控方法,包括:
通过使用PTZ相机进行捕捉来获得2D图像;
基于PTZ相机的水平/垂直角度来提取2D图像中的对象的2D坐标信息,并且基于根据PTZ相机的缩放比例的焦距来提取PTZ相机与对象之间的距离信息;
通过比较2D图像的当前帧和先前帧来操作2D坐标信息和距离信息的变化;
基于2D坐标信息和距离信息的变化来更新PTZ相机的水平/垂直角度和缩放比例,以控制PTZ相机跟踪对象的位置从而防止丢失对象,
其中,PTZ相机与另一PTZ相机彼此交换信息并跟踪相同的对象,
其中,位置跟踪单元还被配置为使用距离信息以及2D坐标信息来获得对象在3D坐标系统中的位置。
CN201310426387.2A 2012-09-18 2013-09-18 使用图像的3d信息的监控设备和系统以及监控方法 Active CN103686131B (zh)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
KR1020120103420A KR20140036824A (ko) 2012-09-18 2012-09-18 3d 영상을 이용한 감시 장치 및 시스템, 그리고 이를 이용한 방법
KR10-2012-0103420 2012-09-18
KR10-2013-0099097 2013-08-21
KR1020130099097A KR102046043B1 (ko) 2013-08-21 2013-08-21 영상의 3차원 정보를 이용한 감시 장치 및 시스템, 그리고 이를 이용한 방법

Publications (2)

Publication Number Publication Date
CN103686131A CN103686131A (zh) 2014-03-26
CN103686131B true CN103686131B (zh) 2016-07-20

Family

ID=50274056

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201310426387.2A Active CN103686131B (zh) 2012-09-18 2013-09-18 使用图像的3d信息的监控设备和系统以及监控方法

Country Status (2)

Country Link
US (1) US9898829B2 (zh)
CN (1) CN103686131B (zh)

Families Citing this family (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101970197B1 (ko) * 2012-10-29 2019-04-18 에스케이 텔레콤주식회사 복수의 카메라 제어 방법과 그를 위한 카메라 제어 장치
US9667948B2 (en) 2013-10-28 2017-05-30 Ray Wang Method and system for providing three-dimensional (3D) display of two-dimensional (2D) information
CN105100577B (zh) * 2014-04-21 2019-03-26 浙江大华技术股份有限公司 一种图像处理方法及装置
USD780777S1 (en) 2014-04-22 2017-03-07 Google Inc. Display screen with graphical user interface or portion thereof
USD781317S1 (en) 2014-04-22 2017-03-14 Google Inc. Display screen with graphical user interface or portion thereof
US9934222B2 (en) 2014-04-22 2018-04-03 Google Llc Providing a thumbnail image that follows a main image
USD781318S1 (en) 2014-04-22 2017-03-14 Google Inc. Display screen with graphical user interface or portion thereof
US9972121B2 (en) 2014-04-22 2018-05-15 Google Llc Selecting time-distributed panoramic images for display
EP3283843B1 (en) 2015-04-01 2024-01-10 Vayavision Sensing Ltd. Generating 3-dimensional maps of a scene using passive and active measurements
US20170348479A1 (en) 2016-06-03 2017-12-07 Bryan Choate Adhesive system for drug delivery device
US10999602B2 (en) 2016-12-23 2021-05-04 Apple Inc. Sphere projected motion estimation/compensation and mode decision
US10970915B2 (en) * 2017-01-06 2021-04-06 Canon Kabushiki Kaisha Virtual viewpoint setting apparatus that sets a virtual viewpoint according to a determined common image capturing area of a plurality of image capturing apparatuses, and related setting method and storage medium
US10445928B2 (en) 2017-02-11 2019-10-15 Vayavision Ltd. Method and system for generating multidimensional maps of a scene using a plurality of sensors of various types
US11259046B2 (en) 2017-02-15 2022-02-22 Apple Inc. Processing of equirectangular object data to compensate for distortion by spherical projections
US10924747B2 (en) 2017-02-27 2021-02-16 Apple Inc. Video coding techniques for multi-view video
USD872733S1 (en) * 2017-03-14 2020-01-14 Insulet Corporation Display screen with a graphical user interface
USD872734S1 (en) * 2017-03-14 2020-01-14 Insulet Corporation Display screen with a graphical user interface
US11093752B2 (en) * 2017-06-02 2021-08-17 Apple Inc. Object tracking in multi-view video
US10754242B2 (en) 2017-06-30 2020-08-25 Apple Inc. Adaptive resolution and projection format in multi-direction video
CN107507231A (zh) * 2017-09-29 2017-12-22 智造未来(北京)机器人系统技术有限公司 三目视觉识别追踪装置及方法
CN109118517B (zh) * 2018-07-13 2021-02-05 南京航空航天大学 基于几何估计的多尺度跟踪方法
WO2020018642A1 (en) 2018-07-17 2020-01-23 Insulet Corporation Low force valves for drug delivery pumps
CN111815672B (zh) * 2019-04-12 2023-10-24 浙江宇视科技有限公司 动态跟踪控制方法、装置及控制设备
CN110278382B (zh) * 2019-07-22 2020-12-08 浙江大华技术股份有限公司 一种聚焦方法、装置、电子设备及存储介质
US11305333B2 (en) 2020-03-31 2022-04-19 Insulet Corporation Methods for forming low stress component for medical devices
WO2022016277A1 (en) 2020-07-21 2022-01-27 Leddartech Inc. Systems and methods for wide-angle lidar using non-uniform magnification optics
CA3125623C (en) 2020-07-21 2023-06-27 Leddartech Inc. Beam-steering device particularly for lidar systems
CA3125718C (en) 2020-07-21 2023-10-03 Leddartech Inc. Beam-steering devices and methods for lidar applications
AU2021333768A1 (en) 2020-08-27 2023-04-20 Insulet Corporation Wearable micro-dosing drug delivery device
CN112511740B (zh) * 2020-11-23 2022-04-19 浙江大华技术股份有限公司 摄像方法、摄像装置、电子设备及存储介质
CN115190237B (zh) * 2022-06-20 2023-12-15 亮风台(上海)信息科技有限公司 一种确定承载设备的转动角度信息的方法与设备

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001245322A (ja) 2000-03-01 2001-09-07 Inst Of Physical & Chemical Res 立体画像の入出力方法と装置
US6778207B1 (en) 2000-08-07 2004-08-17 Koninklijke Philips Electronics N.V. Fast digital pan tilt zoom video
US7460130B2 (en) * 2000-09-26 2008-12-02 Advantage 3D Llc Method and system for generation, storage and distribution of omni-directional object views
WO2004004320A1 (en) * 2002-07-01 2004-01-08 The Regents Of The University Of California Digital processing of video images
KR200341237Y1 (ko) 2003-11-26 2004-02-11 (주)플렛디스 이동통신 단말기의 입체영상 촬영 및 디스플레이 장치
KR200350161Y1 (ko) 2004-02-25 2004-05-12 송완주 입체영상보안콘트롤장치
JP2006215939A (ja) 2005-02-07 2006-08-17 Kumamoto Univ 自由視点画像合成方法および自由視点画像合成装置
JP4722537B2 (ja) 2005-04-21 2011-07-13 パナソニック株式会社 監視装置
KR101081538B1 (ko) 2009-02-25 2011-11-08 주식회사 고영테크놀러지 3차원 형상 측정장치 및 측정방법
KR100945307B1 (ko) 2008-08-04 2010-03-03 에이알비전 (주) 스테레오스코픽 동영상에서 이미지를 합성하는 방법 및장치
CN101493979B (zh) * 2008-12-03 2012-02-08 郑长春 智能网络视觉目标检测分析方法及仪器
JP2011077982A (ja) 2009-10-01 2011-04-14 Panasonic Corp 監視カメラシステム
US8090251B2 (en) 2009-10-13 2012-01-03 James Cameron Frame linked 2D/3D camera system
KR101594048B1 (ko) 2009-11-09 2016-02-15 삼성전자주식회사 카메라들의 협력을 이용하여 3차원 이미지를 생성하는 방법 및 상기 방법을 위한 장치
KR20110065785A (ko) 2009-12-10 2011-06-16 박경환 두 대의 카메라를 이용한 삼차원영상 취득 장치
KR101729556B1 (ko) 2010-08-09 2017-04-24 엘지전자 주식회사 입체영상 디스플레이 시스템, 입체영상 디스플레이 장치 및 입체영상 디스플레이 방법, 그리고 위치 추적 장치
CN102006461B (zh) 2010-11-18 2013-01-02 无锡中星微电子有限公司 摄像机联合跟踪检测系统
JP5516363B2 (ja) 2010-11-22 2014-06-11 ソニー株式会社 立体表示装置および方法
US9497388B2 (en) * 2010-12-17 2016-11-15 Pelco, Inc. Zooming factor computation

Also Published As

Publication number Publication date
US9898829B2 (en) 2018-02-20
US20140078263A1 (en) 2014-03-20
CN103686131A (zh) 2014-03-26

Similar Documents

Publication Publication Date Title
CN103686131B (zh) 使用图像的3d信息的监控设备和系统以及监控方法
Senior et al. Acquiring multi-scale images by pan-tilt-zoom control and automatic multi-camera calibration
CN107396080B (zh) 产生深度信息的方法及系统
US7583815B2 (en) Wide-area site-based video surveillance system
JP6355052B2 (ja) 撮像装置、画像処理装置、撮像方法および記録媒体
CN103024350B (zh) 一种双目ptz视觉系统的主从跟踪方法及应用该方法的系统
US8289392B2 (en) Automatic multiscale image acquisition from a steerable camera
KR101172747B1 (ko) 열화상 좌표를 이용한 보안용 카메라 추적 감시 시스템 및 방법
KR101248054B1 (ko) 물체의 이동 경로를 추적하는 물체 추적 시스템 및 그 방법
CN110910460B (zh) 一种获取位置信息的方法、装置及标定设备
JP4910312B2 (ja) 撮像装置および撮像方法
JP3800217B2 (ja) 監視システム
EP1560160A2 (en) A multiple camera system for obtaining high resolution images of objects
US20120242787A1 (en) Monitoring camera for generating 3-dimensional image and method of generating 3-dimensional image using the same
EP2867873B1 (en) Surveillance process and apparatus
KR20160078724A (ko) 카메라 감시 영역 표시 방법 및 장치
KR101290782B1 (ko) 지능적 다중 객체 추적 알고리즘 기반의 다중 ptz 카메라 제어 시스템 및 방법
CN110991306B (zh) 自适应的宽视场高分辨率智能传感方法和系统
CN102955929A (zh) 超广角图像处理方法与其系统
JP2019036213A (ja) 画像処理装置
JP2003329448A (ja) 現場の3次元情報生成システム
KR20140036824A (ko) 3d 영상을 이용한 감시 장치 및 시스템, 그리고 이를 이용한 방법
KR101738514B1 (ko) 어안 열상 카메라를 채용한 감시 시스템 및 이를 이용한 감시 방법
CN111800605A (zh) 基于枪球联动的车形、车牌传输的方法及系统、设备
JP7369623B2 (ja) 情報処理システムおよび情報処理方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C53 Correction of patent of invention or patent application
CB02 Change of applicant information

Address after: Gyeongnam Changwon City, South Korea

Applicant after: HANWHA TECHWIN Co.,Ltd.

Address before: Gyeongnam Changwon City, South Korea

Applicant before: Samsung Techwin Co.,Ltd.

COR Change of bibliographic data

Free format text: CORRECT: APPLICANT; FROM: SAMSUNG TAI KEWEI CO., LTD. TO: HANWHA TECHWIN CO., LTD.

Free format text: CORRECT: ADDRESS; FROM:

C14 Grant of patent or utility model
GR01 Patent grant
CP01 Change in the name or title of a patent holder
CP01 Change in the name or title of a patent holder

Address after: Gyeongnam Changwon City, South Korea

Patentee after: HANWHA AEROSPACE Co.,Ltd.

Address before: Gyeongnam Changwon City, South Korea

Patentee before: HANWHA TECHWIN Co.,Ltd.

TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20190222

Address after: Gyeonggi Do city of South Korea

Patentee after: HANWHA TECHWIN Co.,Ltd.

Address before: Gyeongnam Changwon City, South Korea

Patentee before: HANWHA AEROSPACE Co.,Ltd.

CP01 Change in the name or title of a patent holder
CP01 Change in the name or title of a patent holder

Address after: Gyeonggi Do city of South Korea

Patentee after: Hanhua Vision Co.,Ltd.

Address before: Gyeonggi Do city of South Korea

Patentee before: HANWHA TECHWIN Co.,Ltd.