KR101047150B1 - Compensation device and method for physical convenience between laser scanner and video camera, Compensation measurement device and method for physical convenience - Google Patents

Compensation device and method for physical convenience between laser scanner and video camera, Compensation measurement device and method for physical convenience Download PDF

Info

Publication number
KR101047150B1
KR101047150B1 KR1020090047965A KR20090047965A KR101047150B1 KR 101047150 B1 KR101047150 B1 KR 101047150B1 KR 1020090047965 A KR1020090047965 A KR 1020090047965A KR 20090047965 A KR20090047965 A KR 20090047965A KR 101047150 B1 KR101047150 B1 KR 101047150B1
Authority
KR
South Korea
Prior art keywords
cluster
physical
image
video camera
scan data
Prior art date
Application number
KR1020090047965A
Other languages
Korean (ko)
Other versions
KR20100129410A (en
Inventor
양현승
채영남
김영호
Original Assignee
한국과학기술원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국과학기술원 filed Critical 한국과학기술원
Priority to KR1020090047965A priority Critical patent/KR101047150B1/en
Publication of KR20100129410A publication Critical patent/KR20100129410A/en
Application granted granted Critical
Publication of KR101047150B1 publication Critical patent/KR101047150B1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/40Analysis of texture
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/255Detecting or recognising potential candidate objects based on visual cues, e.g. shapes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3141Constructional details thereof
    • H04N9/315Modulator illumination systems
    • H04N9/3161Modulator illumination systems using laser light sources
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence

Abstract

이 발명은 레이저스캐너와 비디오카메라를 융합하여 대상체(사람)의 행동을 추적하고 인식하는 추적시스템에서, 레이저스캐너와 비디오카메라간 물리적 편의를 보정하는 장치 및 방법과, 물리적편의보정치를 측정하는 장치 및 방법에 관한 것이다.The present invention is a tracking system for fusing a laser scanner and a video camera to track and recognize the behavior of an object (person), an apparatus and method for correcting the physical convenience between the laser scanner and the video camera, an apparatus for measuring a physical bias correction value and It is about a method.

이 발명의 한 실시예에 따른 추적시스템의 레이저스캐너와 비디오카메라간 물리적 편의 보정장치는, 영상이미지에서 배경영역이 제거된 전경영상이미지로부터 후보영역을 추출하는 후보경계결정부와, 상기 후보영역 내에 포함되는 레이저스캔데이터를 다수의 군집으로 분류하는 군집화부와, 상기 군집화부에서 분류된 다수의 군집 중 대상체일 가능성이 가장 높은 군집을 선택하는 군집선택부와, 상기 후보영역과 상기 군집선택부에서 선택된 군집의 오차가 줄어들도록 상기 영상이미지와 상기 레이저스캔데이터 중 적어도 하나의 위치를 이동하여 상기 물리적 편의를 보정하는 물리적편의보정부를 포함한다.An apparatus for compensating physical convenience between a laser scanner and a video camera of a tracking system according to an embodiment of the present invention includes a candidate boundary determining unit for extracting a candidate region from a foreground image image from which a background region is removed from an image image, and within the candidate region. A clustering unit for classifying the laser scan data included into a plurality of clusters, a cluster selecting unit for selecting a cluster most likely to be an object among the plurality of clusters classified by the clustering unit, the candidate region and the cluster selecting unit And a physical convenience correction unit configured to correct the physical bias by moving at least one position of the image image and the laser scan data so as to reduce an error of the selected cluster.

추적, 대상체, 레이저스캐너, 비디오카메라, 물리적 편의, 군집, 실시간 Tracking, Objects, Laser Scanners, Video Cameras, Physical Convenience, Clusters, Real Time

Description

레이저스캐너와 비디오카메라간 물리적 편의 보정장치 및 방법과, 물리적편의보정치 측정장치 및 방법{a calibration of compensate horizonal bias between a laser scanner and a video camera}Apparatus and method for compensating physical convenience between laser scanner and video camera and measuring apparatus and method for measuring physical comfort value {a calibration of compensate horizonal bias between a laser scanner and a video camera}

이 발명은 레이저스캐너와 비디오카메라를 융합하여 대상체(사람)의 행동을 추적하고 인식하는 추적시스템에서 레이저스캐너와 비디오카메라간 물리적 편의를 보정하는 장치 및 방법에 관한 것이다. 또한, 이 발명은 레이저스캐너와 비디오카메라간 물리적편의보정치를 측정하는 장치 및 방법에 관한 것이기도 하다.The present invention relates to an apparatus and method for correcting physical convenience between a laser scanner and a video camera in a tracking system in which a laser scanner and a video camera are fused to track and recognize an object (person) 's behavior. The invention also relates to an apparatus and method for measuring the physical bias correction between a laser scanner and a video camera.

지능형 비디오 감시시스템 등과 같은 보안관련분야, 인간과의 상호교류 수행능력을 지닌 지능형 로봇, 지능형 가전제품 등 많은 분야에서 사람을 추적하거나 사람의 행동을 인식하는 기술이 적용된다.In many fields, such as security-related fields such as intelligent video surveillance systems, intelligent robots capable of interacting with humans, and intelligent home appliances, technology for tracking people or recognizing human behavior is applied.

종래의 행동인식 기술로서, Bobick, A. F외 1인이 발표한 논문 ["The Recognition of Human Movement Using Temporal Templates", IEEE Transactions on pattern Analysis and Machine Intelligence, 2001]이 있다. 이 논문에서는 시간 에 따라 정면에 있는 사람의 실루엣을 가중 누적한 MHI(motion history image)를 이용하여 행동을 인식하는 기술이 개시된다. 그러나, 이 기술은 고정된 한 대의 비디오카메라를 이용하기 때문에, 비디오카메라가 촬영한 영상에서의 인간의 움직임 방향이 행동인식기가 학습한 방향과 일치하지 않으면 행동인식을 수행할 수 없는 문제점이 있다.As a conventional behavior recognition technique, there is a paper published by Bobick, A.F et al. ["The Recognition of Human Movement Using Temporal Templates", IEEE Transactions on pattern Analysis and Machine Intelligence, 2001). In this paper, a technique for recognizing behavior using a motion history image (MHI) that weights a person's silhouette in front over time is disclosed. However, since this technique uses a fixed video camera, behavior recognition cannot be performed unless the direction of human movement in the image captured by the video camera coincides with the direction learned by the behavior recognizer.

이러한 문제점을 해결하기 위한 종래의 행동인식 기술로서, Weinland, D.외 2인이 발표한 논문 ["Free Viewpoint Action Recognition using Motion History Volumes", Computer Vision and Image Understanding, 2006]이 있다. 이 논문에 개시된 기술은 4대의 카메라로부터 입력되는 영상을 정합하여 3차원 모델을 생성하기 때문에, 시점으로부터 자유로운 행동인식이 가능하다. 그러나, 4대의 카메라 데이터를 정합하는 과정은 복잡한 계산을 필요로 하므로 실시간 동작이 불가능한 문제점이 있다. 또한, 이 종래기술은 4대의 카메라가 모두 대상체를 포착하여야만 행동인식이 가능하고, 한 대의 카메라라도 대상체를 포착하지 못한 상태에서는 행동인식을 수행할 수 없는 문제점이 있다. 또한, 행동인식을 하고자 하는 모든 공간마다 4대의 카메라를 설치해야 하므로 행동인식 시스템을 구축하는데 너무 많은 비용이 소요되는 문제점이 있다.As a conventional behavior recognition technique for solving this problem, a paper published by Weinland, D. et al. ["Free Viewpoint Action Recognition using Motion History Volumes", Computer Vision and Image Understanding, 2006). The technique disclosed in this paper generates a three-dimensional model by matching images input from four cameras, so that behavior recognition is free from viewpoint. However, since the process of matching the four camera data requires a complicated calculation, there is a problem that real-time operation is impossible. In addition, the prior art has a problem that the behavior recognition is possible only when all four cameras capture the object, and even one camera cannot perform the action recognition in the state of not capturing the object. In addition, since four cameras must be installed in all spaces to be perceived, there is a problem that it takes too much cost to build a behavior recognition system.

이에 이 발명의 발명자들은 레이저스캐너와 비디오카메라를 융합하여 사람의 위치를 추적하고 행동을 인식하는 기술을 개발하여 대한민국특허청에 10-2009-0022584호로 출원하였다. 이와 같은 레이저스캐너와 비디오카메라를 융합한 추적시스템 기술은 서로 다른 위치에 설치된 레이저스캐너(통상적으로 바닥쪽에 설치) 와 비디오카메라(통상적으로 천장쪽에 설치)에서 각각 획득된 레이저스캔데이터와 영상이미지를 이용하여 대상체(사람)를 추적함으로써 행동을 인식한다. 이때, 레이저스캐너와 비디오카메라가 동일한 각도로 설치되어야만 레이저스캔데이터와 영상이미지가 동기될 수 있는데, 사용자가 레이저스캐너와 비디오카메라를 각각 설치하는 과정에서 물리적으로 그 수평적 각도가 틀어지는 편의(偏倚)가 발생한다. 이 물리적 편의로 인해 종래의 추적시스템은 계산시 오차가 발생하고 그로 인해 대상체(사람)의 위치를 강인하게 추적할 수 없는 문제점이 발생한다.Accordingly, the inventors of the present invention developed a technology for tracking a person's position and recognizing a behavior by fusing a laser scanner and a video camera and applying it to the Korean Patent Office as 10-2009-0022584. This tracking system technology, which combines a laser scanner and a video camera, uses laser scan data and video images acquired from laser scanners (usually installed on the floor) and video cameras (commonly installed on the ceiling) installed at different locations. To recognize the behavior by tracking the subject (person). At this time, the laser scan data and the video image can be synchronized only when the laser scanner and the video camera are installed at the same angle. The horizontal angle of the user is physically distorted during the process of installing the laser scanner and the video camera, respectively. Occurs. Due to this physical bias, a conventional tracking system causes an error in calculation, thereby causing a problem that the position of the object (person) cannot be tracked robustly.

이러한 문제의 해결방법으로서, Q.Zhang과 R.Pless가 논문["Extrinsic calibration of a camera and laser range finder", International Conference on Intelligent Robots, 2004, pp.2301-2306]에서 제안한 외부 보조체를 이용한 방법을 이용할 수 있다. 그러나, 이러한 종래기술은 체커보드와 같은 외부 보조체를 설치해야만 물리적 편의의 보정이 가능하고, 레이저스캐너와 비디오카메라 사이에 물리적 편의가 발생할 때마다 사용자가 수동으로 보정해야 하기 때문에, 실제 상용화 제품에는 적용하기 곤란한 문제점이 있다.As a solution to this problem, Q.Zhang and R.Pless used an external assistant, which was proposed in the paper ["Extrinsic calibration of a camera and laser range finder", International Conference on Intelligent Robots, 2004, pp.2301-2306]. The method can be used. However, such a prior art can be calibrated for physical convenience only by installing an external aid such as a checker board, and the user must manually calibrate each time a physical bias occurs between the laser scanner and the video camera. There is a problem that is difficult to apply.

이 발명의 목적은 레이저스캐너와 비디오카메라를 융합하여 사람이나 물체 등과 같은 대상체의 위치를 추적하는 추적시스템에서, 별도의 외부 보조물없이도 레이저스캐너와 비디오카메라 사이에서 물리적으로 발생하는 수평적 편의를 자동으로 보정하는 장치 및 방법을 제공하기 위한 것이다.An object of the present invention is to fuse a laser scanner and a video camera to automatically track the horizontal position of a physically generated object between the laser scanner and the video camera without a separate external aid in a tracking system that tracks the position of an object such as a person or an object. An apparatus and method for calibrating are provided.

또한, 이 발명의 다른 목적은 레이저스캐너와 비디오카메라 사이에서 물리적으로 발생하는 수평적 편의 보정치를 측정하는 장치 및 방법을 제공하기 위한 것이기도 하다.Another object of the present invention is to provide an apparatus and method for measuring a horizontal bias correction value physically generated between a laser scanner and a video camera.

이 발명의 한 실시예에 따른 추적시스템의 레이저스캐너와 비디오카메라간 물리적 편의 보정장치는, 대상체와 배경을 포함한 영상이미지를 연속적으로 획득하는 비디오카메라와, 상기 대상체와 배경에 대해 각도에 따른 거리를 측정하여 레이저스캔데이터를 연속적으로 획득하는 레이저스캐너를 구비한 추적시스템의 상기 레이저스캐너와 비디오카메라간 물리적 편의 보정장치에 있어서, 상기 영상이미지에서 배경영역이 제거된 전경영상이미지로부터 후보영역을 추출하는 후보경계결정부와, 상기 후보영역 내에 포함되는 상기 레이저스캔데이터를 다수의 군집으로 분류하는 군집화부와, 상기 군집화부에서 분류된 다수의 군집 중 상기 대상체일 가능성이 가장 높은 군집을 선택하는 군집선택부와, 상기 후보영역과 상기 군집선택부에 서 선택된 군집의 오차가 줄어들도록 상기 영상이미지와 상기 레이저스캔데이터 중 적어도 하나의 위치를 이동하여 상기 물리적 편의를 보정하는 물리적편의보정부를 포함한 것을 특징으로 한다.An apparatus for compensating physical convenience between a laser scanner and a video camera of a tracking system according to an embodiment of the present invention includes a video camera that continuously acquires an image image including an object and a background, and a distance according to an angle with respect to the object and a background. A physical convenience correction device between a laser scanner and a video camera of a tracking system having a laser scanner that continuously acquires laser scan data by measuring a candidate region from a foreground image image from which the background region is removed from the image image. A candidate boundary determination unit, a clustering unit for classifying the laser scan data included in the candidate area into a plurality of clusters, and a cluster selection for selecting a cluster most likely to be the object among a plurality of clusters classified in the clustering unit; And selected from the candidate area and the cluster selection unit. Moving at least one of the position of the video image and the laser scan data so as to reduce the error of the house and is characterized in that parts including physical comfort correction to correct the physical convenience.

또한, 이 발명의 한 실시예에 따른 추적시스템의 레이저스캐너와 비디오카메라간 물리적 편의 보정방법은, 대상체와 배경을 포함한 영상이미지를 연속적으로 획득하는 비디오카메라와, 상기 대상체와 배경에 대해 각도에 따른 거리를 측정하여 레이저스캔데이터를 연속적으로 획득하는 레이저스캐너를 구비한 추적시스템의 상기 레이저스캐너와 비디오카메라간 물리적 편의 보정방법에 있어서, 상기 영상이미지에서 배경영역이 제거된 전경영상이미지로부터 후보영역을 추출하는 후보경계결정단계와, 상기 후보영역 내에 포함되는 상기 레이저스캔데이터를 다수의 군집으로 분류하는 군집화단계와, 상기 군집화단계에서 분류된 다수의 군집 중 상기 대상체일 가능성이 가장 높은 군집을 선택하는 군집선택단계와, 상기 후보영역과 상기 군집선택단계에서 선택된 군집의 오차가 줄어들도록 상기 영상이미지와 상기 레이저스캔데이터 중 적어도 하나의 위치를 이동하여 상기 물리적 편의를 보정하는 물리적편의보정단계를 포함한 것을 특징으로 한다.In addition, the physical convenience correction method between the laser scanner and the video camera of the tracking system according to an embodiment of the present invention, a video camera that continuously acquires the image image including the object and the background, the angle according to the object and the background A physical convenience correction method between a laser scanner and a video camera of a tracking system having a laser scanner that continuously acquires laser scan data by measuring a distance, wherein the candidate region is selected from a foreground image image from which the background region is removed from the image image. A candidate boundary determination step of extracting, a clustering step of classifying the laser scan data included in the candidate area into a plurality of clusters, and a selection of a cluster most likely to be the object among the plurality of clusters classified in the clustering step; A cluster selection step, the candidate region and the cluster selection group And a physical convenience correction step of correcting the physical bias by moving at least one position of the image image and the laser scan data so as to reduce an error of a selected cluster in the system.

이 발명의 한 실시예에 따른 추적시스템의 레이저스캐너와 비디오카메라간 물리적편의보정치 측정장치는, 대상체와 배경을 포함한 영상이미지를 연속적으로 획득하는 비디오카메라와, 상기 대상체와 배경에 대해 각도에 따른 거리를 측정하여 레이저스캔데이터를 연속적으로 획득하는 레이저스캐너를 구비한 추적시스템의 상기 레이저스캐너와 비디오카메라간 물리적편의보정치 측정장치에 있어서, 상기 영상이미지에서 배경영역이 제거된 전경영상이미지와 설정 물리적편의보정치로부터 후보영역을 추출하는 후보경계결정부와, 상기 후보영역 내에 포함되는 상기 레이저스캔데이터를 다수의 군집으로 분류하는 군집화부와, 상기 군집화부에서 분류된 다수의 군집 중 상기 대상체일 가능성이 가장 높은 군집을 선택하는 군집선택부와, 상기 후보영역과 상기 군집선택부에서 선택된 군집의 오차가 줄어들도록 상기 설정 물리적편의보정치를 업데이트하여 상기 후보경계결정부에 전달하는 보정치계산부를 포함한 것을 특징으로 한다.An apparatus for measuring physical convenience correction values between a laser scanner and a video camera of a tracking system according to an embodiment of the present invention includes a video camera that continuously acquires an image image including an object and a background, and a distance according to an angle with respect to the object and a background. An apparatus for measuring a physical convenience correction value between a laser scanner and a video camera of a tracking system having a laser scanner that continuously acquires laser scan data by measuring a measured value of the image, the foreground image image of which the background area is removed from the image image, A candidate boundary determination unit for extracting candidate regions from the correction values, a clustering unit for classifying the laser scan data included in the candidate regions into a plurality of clusters, and a plurality of clusters classified in the clustering unit, most likely to be the object. A cluster selection unit for selecting a high cluster, and the candidate And a correction value calculator which updates the set correction value of the set physical piece so as to reduce an error of a region selected by the cluster selector and transmits the correction value of the set physical piece to the candidate boundary determiner.

또한, 이 발명의 한 실시예에 따른 추적시스템의 레이저스캐너와 비디오카메라간 물리적편의보정치 측정방법은, 대상체와 배경을 포함한 영상이미지를 연속적으로 획득하는 비디오카메라와, 상기 대상체와 배경에 대해 각도에 따른 거리를 측정하여 레이저스캔데이터를 연속적으로 획득하는 레이저스캐너를 구비한 추적시스템의 상기 레이저스캐너와 비디오카메라간 물리적편의보정치 측정방법에 있어서, 상기 영상이미지에서 배경영역이 제거된 전경영상이미지와 설정 물리적편의보정치로부터 후보영역을 추출하는 후보경계결정단계와, 상기 후보영역 내에 포함되는 상기 레이저스캔데이터를 다수의 군집으로 분류하는 군집화단계와, 상기 군집화단계에서 분류된 다수의 군집 중 상기 대상체일 가능성이 가장 높은 군집을 선택하는 군집선택단계와, 상기 후보영역과 상기 군집선택단계에서 선택된 군집의 오차가 줄어들도록 상기 설정 물리적편의보정치를 업데이트하여 상기 후보경계결정단계부터 반복 수행하는 보정치계산단계를 포함한 것을 특징으로 한다.In addition, the method for measuring the physical convenience correction value between the laser scanner and the video camera of the tracking system according to an embodiment of the present invention, a video camera that continuously acquires the image image including the object and the background, and at an angle to the object and the background A method of measuring physical correction value between a laser scanner and a video camera of a tracking system having a laser scanner that continuously acquires laser scan data by measuring a distance according to a distance, the foreground image image having a background region removed from the image image, and a setting A candidate boundary determination step of extracting a candidate region from a physical convenience correction value, a clustering step of classifying the laser scan data included in the candidate area into a plurality of clusters, and a possibility of the object among the plurality of clusters classified in the clustering step A cluster selector that selects this highest cluster And will be in the candidate region and the cluster selecting step characterized by updating the correction value setting physical comfort to reduce the error of the selected cluster, including a correction value calculation step of performing repeat determining the candidate boundary.

이상과 같이 이 발명에 따르면 레이저스캐너와 비디오카메라간 위치 편차가 실시간 보정되어 사람의 위치를 강인하게 추적할 수 있는 잇점이 있다.As described above, according to the present invention, the positional deviation between the laser scanner and the video camera is corrected in real time, so that the position of the person can be strongly tracked.

이하, 첨부된 도면을 참조하며 이 발명의 한 실시예에 따른 레이저스캐너와 비디오카메라간 물리적 편의 보정장치 및 방법과, 물리적편의보정치 측정장치 및 방법을 상세하게 설명한다.Hereinafter, an apparatus and method for calibrating physical convenience between a laser scanner and a video camera, and an apparatus and method for measuring physically corrected values according to an embodiment of the present invention will be described in detail.

도 1은 이 발명이 적용되는 비디오카메라와 레이저스캐너를 융합한 추적시스템의 일 예를 도시한 구성 블록도이다. 이 추적시스템은 대상체와 배경을 포함한 영상이미지를 연속적으로 획득하는 비디오카메라(11)와, 대상체와 배경에 대해 각도에 따른 거리를 측정하여 레이저스캔데이터를 연속적으로 획득하는 레이저스캐너(12)와, 영상이미지로부터 배경 영역을 제거하여 전경영상이미지를 추출하는 전경영상추출부(13)와, 레이저스캔데이터로부터 배경 영역을 제거하여 전경거리데이터를 추출하는 전경스캔데이터추출부(14)와, 전경영상이미지와 전경스캔데이터로부터 대상체의 움직임을 추적하는 움직임추적부(15)를 포함한다.FIG. 1 is a block diagram showing an example of a tracking system in which a video camera and a laser scanner are fused to which the present invention is applied. The tracking system includes a video camera 11 for continuously acquiring an image image including an object and a background, a laser scanner 12 for continuously obtaining laser scan data by measuring a distance according to an angle with respect to the object and a background, A foreground image extractor 13 extracting the foreground image image by removing the background region from the image image, a foreground scan data extractor 14 extracting the foreground distance data by removing the background region from the laser scan data, and a foreground image It includes a motion tracker 15 for tracking the movement of the object from the image and the foreground scan data.

이 발명의 레이저스캐너와 비디오카메라간 물리적 편의 보정장치은, 전경영상이미지와 스캔데이터를 이용하여 레이저스캐너와 비디오카메라간 물리적 편의를 보정한 후 움직임추적부(15)에 제공한다.The physical bias correction device between the laser scanner and the video camera of the present invention is provided to the motion tracking unit 15 after correcting the physical bias between the laser scanner and the video camera by using the foreground image image and the scan data.

도 2는 이 발명의 레이저스캐너와 비디오카메라간 물리적 편의 보정장치(20) 을 도시한 구성 블록도이다.FIG. 2 is a block diagram showing a device 20 for calibrating the physical convenience between the laser scanner and the video camera of the present invention.

먼저, 도 1의 추적시스템의 동작을 설명한다. 비디오카메라(11)는 연속하여 영상이미지를 촬영한다. 전경영상추출부(13)는 촬영된 영상이미지로부터 배경 영역을 제거하여 전경영상이미지를 추출하는데, 촬영된 영상이미지와 기저장된 배경 영상을 비교하여 촬영된 영상이미지 중 배경영상과 동일한 영역을 제거하여 전경영상이미지만 남긴다. 도 3은 영상이미지(a)와, 영상이미지(a)로부터 배경 영역이 제거된 전경영상이미지(b)를 도시한 도면이다.First, the operation of the tracking system of FIG. 1 will be described. The video camera 11 continuously photographs video images. The foreground image extracting unit 13 extracts the foreground image image by removing the background region from the photographed image image, and compares the photographed image image with a previously stored background image to remove the same region as the background image from the photographed image image. Only the foreground image is left. 3 is a view showing an image image a and a foreground image image b from which a background area is removed from the image image a.

레이저스캐너(12)는 각도에 따른 거리데이터를 연속적으로 스캔하여 레이저스캔데이터를 출력한다. 전경스캔데이터추출부(14)는 레이저스캔데이터로부터 배경 영역을 제거하여 전경스캔데이터를 추출한다. 전경스캔데이터추출부(14)가 레이저스캔데이터로부터 배경 영역을 제거하는 원리는 앞서 설명한 전경영상추출부(13)가 영상이미지로부터 배경 영역을 제거하는 원리와 동일하다.The laser scanner 12 continuously scans the distance data according to the angle and outputs the laser scan data. The foreground scan data extracting unit 14 extracts the foreground scan data by removing the background area from the laser scan data. The principle that the foreground scan data extractor 14 removes the background area from the laser scan data is the same as the principle of the foreground image extractor 13 removing the background area from the image image.

이 발명의 레이저스캐너와 비디오카메라간 물리적 편의 보정장치(20)은 전경영상이미지와 레이저스캔데이터를 이용하여 레이저스캐너와 비디오카메라간 물리적 편의를 보정한다.The physical bias correction device 20 between the laser scanner and the video camera of the present invention corrects the physical bias between the laser scanner and the video camera by using the foreground image image and the laser scan data.

이 발명의 레이저스캐너와 비디오카메라간 물리적 편의 보정장치(20)은 전경영상이미지로부터 후보영역의 경계를 결정하는 후보경계결정부(21)와, 후보영역 내에 위치한 레이저스캔데이터를 다수의 군집으로 분류하는 군집화부(22)와, 군집화부(22)에서 분류된 다수의 군집들 중 기설정된 조건에 맞는 군집을 선택하는 군집선택부(23)와, 후보영역과 선택된 군집의 영역의 오차를 줄이는 방향으로 전경영상 이미지 또는 전경거리데이터의 각도를 보정하는 물리적편의보정부(24)를 포함한다.The physical bias correction device 20 between the laser scanner and the video camera of the present invention classifies a candidate boundary determination unit 21 for determining the boundary of the candidate region from the foreground image image, and classifies the laser scan data located in the candidate region into a plurality of clusters. The clustering unit 22, a cluster selecting unit 23 for selecting a cluster that meets a predetermined condition among a plurality of clusters classified in the clustering unit 22, and a direction for reducing an error between the candidate region and the region of the selected cluster. It includes a physical convenience correction unit 24 for correcting the angle of the foreground image image or the foreground distance data.

후보경계결정부(21)는 전경영상이미지의 물체나 사람 등과 같은 대상체의 위치정보로부터 레이저스캔데이터 상에서 물체가 있을만한 후보영역을 결정하는데, 후보영역의 왼쪽 경계각(

Figure 112009032822101-pat00001
)은 수학식 1과 같고 후보영역의 오른쪽 경계각(
Figure 112009032822101-pat00002
)은 수학식 2와 같다.The candidate boundary determiner 21 determines a candidate region in which the object exists in the laser scan data from the position information of the object such as an object or a person in the foreground image image.
Figure 112009032822101-pat00001
) Is the same as Equation 1, and the right boundary angle (
Figure 112009032822101-pat00002
) Is the same as Equation 2.

Figure 112009032822101-pat00003
Figure 112009032822101-pat00003

Figure 112009032822101-pat00004
Figure 112009032822101-pat00004

여기서, fov는 비디오카메라의 시야각이고,

Figure 112009032822101-pat00005
는 비디오카메라에서 촬영된 영상이미지의 폭이고
Figure 112009032822101-pat00006
은 전경영상이미지의 물체의 왼쪽 픽셀 위치값이고
Figure 112009032822101-pat00007
은 해당 물체의 오늘쪽 픽셀 위치값이다.
Figure 112009032822101-pat00008
는 후보영역을 확장하기 위한 확장인자로서, 전경영상이미지로부터 얻어진 물체의 왼쪽 경계와 오른쪽 경계를 각각 확장하여 후보영역이 결정되도록 한다. bias는 설정 물리적편의보정치로서, 초기값은 0으로 설정되고 후술하는 물리적편의보정치 측정방법에 따라 실제 물리적 편의를 보정하기 위한 보정값으로 수렴된다.Where fov is the viewing angle of the video camera,
Figure 112009032822101-pat00005
Is the width of the image taken by the video camera
Figure 112009032822101-pat00006
Is the left pixel position value of the object in the foreground image.
Figure 112009032822101-pat00007
Is the pixel position of today's object.
Figure 112009032822101-pat00008
Is an extension factor for extending the candidate region, and the candidate region is determined by extending the left boundary and the right boundary of the object obtained from the foreground image image, respectively. The bias is a set physical bias correction value. The initial value is set to 0 and converged to a correction value for correcting the actual physical bias according to the method for measuring the physical bias correction value described later.

도 4는 이 발명의 후보경계결정부(21)에 의해 결정된 후보영역을 도시한 도면이다. 전경영상이미지에 2명 사람이 존재하는 경우, 2개의 후보영역이 검출되는데, 도 4는 그 2개의 후보영역이 겹쳐있는 상태를 도시한다.4 is a diagram showing candidate areas determined by the candidate boundary determination unit 21 of the present invention. When two people exist in the foreground image image, two candidate areas are detected, and FIG. 4 illustrates a state in which the two candidate areas overlap.

군집화부(22)는 후보영역 내에서 레이저스캔데이터를 최근접이웃군집화기법(nearest neighborhood clustering algorithm)을 이용하여 다수의 군집으로 분류한다. 이 최근접이웃군집화기법에 사용되는 근접이웃설정경계 조건은 아래의 수학식 3과 같다.The clustering unit 22 classifies the laser scan data into a plurality of clusters using a neighbor neighborhood clustering algorithm in the candidate area. The neighbor setting boundary condition used in this nearest neighbor clustering technique is shown in Equation 3 below.

Figure 112009032822101-pat00009
Figure 112009032822101-pat00009

여기서,

Figure 112009032822101-pat00010
는 각도 (
Figure 112009032822101-pat00011
)에서의 레이저스캔데이터로서 거리값을 의미한다.
Figure 112009032822101-pat00012
Figure 112009032822101-pat00013
Figure 112009032822101-pat00014
Figure 112009032822101-pat00015
사이의 임의의 각도값이다.
Figure 112009032822101-pat00016
는 근접이웃설정경계값으로서, 이 발명의 실시예에서는 사람의 평균 보폭인 2.5피드(feet)로 설정한다.here,
Figure 112009032822101-pat00010
Is the angle (
Figure 112009032822101-pat00011
Means distance value.
Figure 112009032822101-pat00012
and
Figure 112009032822101-pat00013
Is
Figure 112009032822101-pat00014
and
Figure 112009032822101-pat00015
Any angle value in between.
Figure 112009032822101-pat00016
Is the neighborhood setting boundary value, which is set to 2.5 feet, which is the average stride length of a person in the embodiment of the present invention.

즉, 수학식 3과 최근접이웃군집화기법에 따르면, 후보영역 중 레이저스캔데이터로부터 얻어지는 임의의 두 각도에서의 레이저스캔데이터의 차이가 근접이웃설정경계값보다 작은 영역끼리 군집으로 분류됨으로써, 이 군집화부(22)를 통해 다수의 군집들이 생성된다.That is, according to Equation 3 and the nearest neighbor clustering technique, this clustering is performed by classifying the regions in which the difference between the laser scan data at any two angles obtained from the laser scan data among candidate regions is smaller than the neighboring neighbor set boundary value. Through the section 22 a plurality of clusters are created.

군집선택부(23)는 군집화부(22)에서 묶여진 다수의 군집들 중 대상체(물체 및/또는 사람)일 가능성이 가장 높은 군집을 선택한다. 군집화부(22)에서 묶여진 다수의 군집들 중에는 배경이 하나의 군집으로 포함될 수도 있다. 따라서, 군집선택부(23)는 다수의 군집들을 군집의 개체수, 배경모델과의 상이도, 후보영역의 중심각으로부터의 차이 등과 같은 기준에 적용하여, 대상체(물체 및/또는 사람)일 가능성이 가장 높은 군집을 선택한다.The cluster selector 23 selects a cluster most likely to be an object (object and / or human) among the plurality of clusters bundled in the clusterer 22. Among the plurality of clusters bound by the clustering unit 22, the background may be included as one cluster. Therefore, the cluster selector 23 applies the plurality of clusters to criteria such as the population number of the cluster, the difference from the background model, the difference from the center angle of the candidate region, and the like, and is most likely the object (object and / or person). Choose a high cluster

즉, 다수의 군집들 중 가장 적합한 군집을 선택하는 판별함수는 수학식 4와 같다.That is, the discrimination function for selecting the most suitable cluster among the plurality of clusters is shown in Equation 4.

Figure 112009032822101-pat00017
Figure 112009032822101-pat00017

여기서, k는 군집의 개수를 의미하고, Ci는 i번째 군집을 의미하며,

Figure 112009032822101-pat00018
는 수학식 5와 같다. arg는
Figure 112009032822101-pat00019
가 최대인 i값을 m값으로 리턴한다. 즉, 군집을 구성하는 개체수가 많을수록 그 군집이 채택될 가능성이 높다.Here, k means the number of clusters, Ci means the i th cluster,
Figure 112009032822101-pat00018
Is the same as Equation 5. arg is
Figure 112009032822101-pat00019
Returns the maximum value of i as m. In other words, the larger the number of individuals constituting a cluster, the more likely that cluster is to be adopted.

Figure 112009032822101-pat00020
Figure 112009032822101-pat00020

수학식 5에서,

Figure 112009032822101-pat00021
는 각도에 따른 배경 모델(
Figure 112009032822101-pat00022
) 중 가장 먼 거리값을 의미하는 바, 이를 수식으로 표현하면 수학식 6과 같다.
Figure 112009032822101-pat00023
는 각 각도(θ)에서 측정된 레이저스캔데이터(
Figure 112009032822101-pat00024
)와 배경모델(
Figure 112009032822101-pat00025
) 간 차이값을 의미하는 바, 이를 수식으로 표현하면 수학식 7과 같다.
Figure 112009032822101-pat00026
는 후보영역의 경계각의 폭을 의미하는 바, 이를 수식으로 표현하면 수학식 8과 같다.
Figure 112009032822101-pat00027
는 후보영역의 경계각의 중심각을 의미하는 바, 이를 수식으로 표현하면 수학식 9와 같다.In Equation 5,
Figure 112009032822101-pat00021
Is the background model based on the angle (
Figure 112009032822101-pat00022
) Means the farthest distance value, which is expressed by Equation 6 below.
Figure 112009032822101-pat00023
Is the laser scan data measured at each angle
Figure 112009032822101-pat00024
) And background model (
Figure 112009032822101-pat00025
) Means a difference value, and it is expressed by Equation 7 below.
Figure 112009032822101-pat00026
Denotes the width of the boundary angle of the candidate region, which is expressed by Equation (8).
Figure 112009032822101-pat00027
Denotes the center angle of the boundary angle of the candidate region, which is expressed by Equation (9).

Figure 112009032822101-pat00028
Figure 112009032822101-pat00028

Figure 112009032822101-pat00029
Figure 112009032822101-pat00029

Figure 112009032822101-pat00030
Figure 112009032822101-pat00030

Figure 112009032822101-pat00031
Figure 112009032822101-pat00031

즉, 수학식 5의

Figure 112009032822101-pat00032
에 따르면 군집에 포함된 각도(θ)가 후보영역의 경계각의 중심각에 가까울수록
Figure 112009032822101-pat00033
는 커지고, 군집에 포함된 각도(θ)가 후보영역의 경계각의 중심각으로부터 멀수록
Figure 112009032822101-pat00034
는 작아진다.That is, the equation (5)
Figure 112009032822101-pat00032
According to, the closer the angle θ to the center angle of the boundary angle of the candidate region is,
Figure 112009032822101-pat00033
Becomes larger, and the angle θ included in the cluster is farther from the center angle of the boundary angle of the candidate region.
Figure 112009032822101-pat00034
Becomes smaller.

아울러,

Figure 112009032822101-pat00035
이 δ 이상이면
Figure 112009032822101-pat00036
Figure 112009032822101-pat00037
가 곱해지기 때문에
Figure 112009032822101-pat00038
는 매우 커지고,
Figure 112009032822101-pat00039
이 δ 이상이 아니면
Figure 112009032822101-pat00040
Figure 112009032822101-pat00041
가 곱해지기 때문에
Figure 112009032822101-pat00042
는 작다. 즉,
Figure 112009032822101-pat00043
는 레이저스캔데이터가 배경과의 거리가 일정거리 이상 떨어지면 그 값은 커진다.together,
Figure 112009032822101-pat00035
Is greater than or equal to δ
Figure 112009032822101-pat00036
on
Figure 112009032822101-pat00037
Is multiplied by
Figure 112009032822101-pat00038
Is getting very large,
Figure 112009032822101-pat00039
Is not greater than δ
Figure 112009032822101-pat00040
on
Figure 112009032822101-pat00041
Is multiplied by
Figure 112009032822101-pat00042
Is small. In other words,
Figure 112009032822101-pat00043
The value increases when the laser scan data drops more than a certain distance from the background.

배경모델(

Figure 112009032822101-pat00044
)은 가구들에 의해 변화될 수 있으며, 따라서 배경모델을 학습할 필요가 있다. 배경모델은 전통적인 흑백영상 배경모델을 생성하는 기법 과 유사하게 생성되는 바, 배경모델의 학습을 위한 수식은 아래의 수학식 10과 같다.Background model
Figure 112009032822101-pat00044
) Can be changed by the households, so it is necessary to learn the background model. The background model is generated similarly to the method for generating a background image of a traditional black and white image. The equation for learning the background model is expressed by Equation 10 below.

Figure 112009032822101-pat00045
Figure 112009032822101-pat00045

위의 수학식 10에서, α는 전경데이터의 학습률이고, β는 배경데이터의 학습률로서, 통상적으로 β가 α보다 100배 더 큰 값으로 설정된다.In Equation 10, α is a learning rate of foreground data, β is a learning rate of background data, and β is generally set to a value 100 times larger than α.

도 4의 2개의 점선표시 삼각형 내의 두 쌍의 발자국들(41, 42)은 각각의 후보영역(a, b) 내에서 수학식 4 내지 수학식 9의 판별함수를 통해 선택된 군집을 의미한다. 이 발명에 따르면 후보영역이 겹쳐지더라도 적절한 군집을 선택할 수 있게 된다.Two pairs of footprints 41 and 42 in the two dashed triangles in FIG. 4 mean a cluster selected through the discriminant functions of Equations 4 to 9 in the candidate areas a and b. According to the present invention, even if candidate regions overlap, an appropriate cluster can be selected.

물리적편의보정부(24)는 하나의 후보영역에 판별함수를 적용하여 물체에 가장 적합한 군집을 판별한 결과를 이용하여 레이저스캐너와 비디오카메라간 수평방향의 물리적 편의를 적응적으로 보정한다. 도 5는 물리적편의보정부(24)가 물리적편의를 보정하는 원리를 도시한 도면이다.The physical convenience correction unit 24 adaptively corrects the physical bias in the horizontal direction between the laser scanner and the video camera by using a result of determining a cluster most suitable for an object by applying a discrimination function to one candidate area. 5 is a diagram showing the principle of the physical convenience correction unit 24 to correct the physical convenience.

후보경계결정부(21)에서 결정된 후보영역의 중심각(Center of candidate)과, 군집선택부(23)에 의해 선택된 군집의 중심각(Center of cluster)의 차이를 줄이는 방향으로 전경영상이미지 또는 레이저스캔데이터를 이동시킨다. 도 6은 전경영상이미지를 이동시켜 레이저스캐너와 비디오카메라간 수평방향의 물리적 편의를 보정 하는 과정을 도시한 도면으로서, (a)는 영상이미지를 도시하고, (b)는 전경영상이미지를 도시하고, (c)는 전경영상이미지에 대해 물리적 편의를 보정한 후를 도시한 도면이다.The foreground image image or the laser scan data in a direction of reducing the difference between the center angle of the candidate area determined by the candidate boundary determiner 21 and the center angle of the cluster selected by the cluster selector 23. Move it. 6 is a diagram illustrating a process of correcting a physical bias in a horizontal direction between a laser scanner and a video camera by moving a foreground image image, (a) shows an image image, and (b) shows a foreground image image. , (c) is a diagram illustrating the correction of the physical bias with respect to the foreground image image.

도 7은 이 발명에 따른 레이저스캐너와 비디오카메라간 물리적편의보정치 측정장치을 도시한 도면이다.FIG. 7 is a diagram illustrating an apparatus for measuring correction values of physical pieces between a laser scanner and a video camera according to the present invention.

물리적편의보정치 측정장치은 전경영상이미지와 설정 물리적편의보정치를 이용하여 후보영역의 경계를 결정하는 후보경계결정부(71)와, 후보영역 내에 위치한 레이저스캔데이터를 다수의 군집으로 분류하는 군집화부(72)와, 군집화부(72)에서 분류된 다수의 군집들 중 기설정된 조건에 맞는 군집을 선택하는 군집선택부(73)와, 후보영역과 선택된 군집의 영역의 오차를 이용하여 상기 물리적편의보정치를 업데이트한 후 상기 후보경계결정부에 제공하는 보정치계산부(74)를 포함한다.The physical convenience correction value measuring apparatus includes a candidate boundary determination unit 71 that determines the boundary of the candidate region using the foreground image image and the set physical convenience correction value, and a clustering unit 72 that classifies the laser scan data located in the candidate region into a plurality of clusters. ), And a cluster selection unit 73 for selecting a cluster that meets a predetermined condition among a plurality of clusters classified by the clustering unit 72, and using the error between the candidate region and the region of the selected cluster. And a correction value calculator 74 provided to the candidate boundary determiner after the update.

후보경계결정부(71)와 군집화부(72)와 군집선택부(73)의 기능은 각각 도 2의 후보경계결정부(21)와 군집화부(22)와 군집선택부(23)의 기능과 동일하다.The functions of the candidate boundary determination unit 71, the clustering unit 72, and the cluster selecting unit 73 are the functions of the candidate boundary determining unit 21, the clustering unit 22, and the cluster selecting unit 23 of FIG. 2, respectively. same.

보정치계산부(74)는 후보영역의 중심각과 선택된 군집의 중심각을 줄이는 방향으로 설정 물리적편의보정치(bias)를 업데이트하는 바, 이를 수식으로 정리하면 수학식 11과 같다.The correction value calculator 74 updates the set physical bias value in the direction of reducing the center angle of the candidate region and the center angle of the selected cluster.

Figure 112009032822101-pat00046
Figure 112009032822101-pat00046

여기서, ρ는 학습률이고, MidAng(m)은 선택된 군집의 중심각으로서, 이를 수식으로 표현하면 수학식 12와 같다.Where ρ is the learning rate and MidAng (m) is the center angle of the selected cluster.

Figure 112009032822101-pat00047
Figure 112009032822101-pat00047

여기서,

Figure 112009032822101-pat00048
는 군집을 이루는 각도(θ) 중 최소값이고,
Figure 112009032822101-pat00049
는 군집을 이루는 각도(θ) 중 최대값이다.here,
Figure 112009032822101-pat00048
Is the minimum of the clustering angles θ,
Figure 112009032822101-pat00049
Is the maximum value of the angle θ of the cluster.

이렇게 보정치계산부(74)가 설정 물리적편의보정치를 업데이트하여 후보경계결정부(71)에게 제공하고, 다음 프레임의 전경영상이미지에 대해 후보경계결정부(71) 내지 보정치계산부(74)의 동작을 반복 수행하면, 설정 물리적편의보정치는 실제 물리적 편의 보정값으로 수렴된다.In this way, the correction value calculator 74 updates the correction value of the set physical convenience and provides it to the candidate boundary determination unit 71, and the operation of the candidate boundary determination unit 71 to the correction value calculation unit 74 for the foreground image image of the next frame. Repeatedly, the set physical bias correction value converges to the actual physical bias correction value.

[실험결과][Experiment result]

이 발명에서 제안된 시스템의 성능을 평가하기 위하여 비디오카메라의 수평각도를 3도씩 회전시켜가며 원점으로부터의 상대적인 물리적 편의 보정치를 측정하였으며, 그 실험 결과를 표 1에 나타내었다. 이 실험에서 측정은 5차례씩 수행되었으며, 아래의 표 1은 그 평균값을 기록한 것이다.In order to evaluate the performance of the proposed system, relative physical bias corrections from the origin were measured by rotating the horizontal angle of the video camera by 3 degrees, and the experimental results are shown in Table 1. In this experiment, measurements were performed five times, and Table 1 below records the average values.

학습률(ρ)Learning rate (ρ) 각도(Angle)Angle 66 33 -3-3 -6-6 0.10.1 6.0136.013 2.9512.951 -3.139-3.139 -6.178-6.178 0.50.5 5.9815.981 2.9862.986 -3.080-3.080 -6.186-6.186

표 1에서 알 수 있는 바와 같이, 이 발명에 따르면 설정 물리적편의보정치(bias)와 실제 물리적 편의 보정값과의 평균 오차는 0.085도이다. 설정 물리적편의보정치의 시간에 따른 수렴정도는 도 8에 도시된 바와 같다. 도 8에서 LR은 학습률(ρ)을 의미한다. 학습률이 0.5인 경우, 수렴시간은 10 프레임보다 적음을 알 수 있다.As can be seen from Table 1, according to the present invention, the average error between the set bias of the set physical bias and the correction value of the actual physical bias is 0.085 degrees. The degree of convergence with time of the correction value of the set physical convenience is shown in FIG. 8. In FIG. 8, LR means a learning rate ρ. When the learning rate is 0.5, it can be seen that the convergence time is less than 10 frames.

따라서, 설정 물리적편의보정치(bias)의 변동량이 임계값 이하인 경우, 설정 물리적편의보정치를 실제 물리적 편의 보정값으로 설정하며, 이를 이용하여 비디오카메라와 레이저스캐너간 물리적 편의를 보정할 수 있다.Therefore, when the variation amount of the set physical bias correction value (bias) is less than or equal to the threshold value, the set physical bias correction value is set as the actual physical bias correction value, and the physical bias between the video camera and the laser scanner can be corrected using this.

이상에서 본 발명에 대한 기술사상을 첨부도면과 함께 서술하였지만, 이는 본 발명의 가장 양호한 실시예를 예시적으로 설명한 것이지 본 발명을 한정하는 것은 아니다. 또한, 이 기술분야의 통상의 지식을 가진 자라면 누구나 본 발명의 기술사상의 범주를 이탈하지 않는 범위 내에서 다양한 변형 및 모방이 가능함은 명백한 사실이다.The technical spirit of the present invention has been described above with reference to the accompanying drawings, but this is by way of example only for describing the best embodiment of the present invention and not for limiting the present invention. In addition, it is a matter of course that various modifications and variations are possible without departing from the scope of the technical idea of the present invention by anyone having ordinary skill in the art.

도 1은 이 발명이 적용되는 비디오카메라와 레이저스캐너를 융합한 추적시스템의 일 예를 도시한 구성 블록도,1 is a block diagram showing an example of a tracking system incorporating a video camera and a laser scanner to which the present invention is applied;

도 2는 이 발명의 레이저스캐너와 비디오카메라간 물리적 편의 보정장치을 도시한 구성 블록도,2 is a block diagram showing a device for compensating physical convenience between the laser scanner and the video camera of the present invention;

도 3은 영상이미지(a)와, 영상이미지(a)로부터 배경 영역이 제거된 전경영상이미지(b)를 도시한 도면,3 is a view showing an image image (a) and a foreground image image (b) from which a background area is removed from the image image (a);

도 4는 이 발명의 후보경계결정부(21)에 의해 결정된 후보영역을 도시한 도면,4 is a diagram showing candidate areas determined by the candidate boundary determination unit 21 of the present invention;

도 5는 물리적편의보정부(24)가 물리적편의를 보정하는 원리를 도시한 도면,5 is a diagram showing the principle of the physical convenience correction unit 24 to correct the physical convenience,

도 6은 전경영상이미지를 이동시켜 레이저스캐너와 비디오카메라간 수평방향의 물리적 편의를 보정하는 과정을 도시한 도면,6 is a diagram illustrating a process of correcting a physical bias in a horizontal direction between a laser scanner and a video camera by moving a foreground image image;

도 7은 이 발명에 따른 레이저스캐너와 비디오카메라간 물리적편의보정치 측정장치을 도시한 도면,7 is a view showing an apparatus for measuring correction value of physical convenience between a laser scanner and a video camera according to the present invention;

도 8은 이 발명에 따른 설정 물리적편의보정치의 시간에 따른 수렴정도를 도시한 그래프이다.8 is a graph showing the degree of convergence over time of the correction value of the set physical convenience according to the present invention.

Claims (20)

대상체와 배경을 포함한 영상이미지를 연속적으로 획득하는 비디오카메라와, 상기 대상체와 배경에 대해 각도에 따른 거리를 측정하여 레이저스캔데이터를 연속적으로 획득하는 레이저스캐너를 구비한 추적시스템의 상기 레이저스캐너와 비디오카메라간 물리적 편의 보정장치에 있어서,The laser scanner and the video of the tracking system having a video camera for continuously acquiring an image image including the object and the background, and a laser scanner for continuously acquiring laser scan data by measuring a distance according to an angle with respect to the object and the background. In the compensation device for physical convenience between cameras, 상기 영상이미지에서 배경영역이 제거된 전경영상이미지로부터 상기 대상체의 후보영역을 추출하는 후보경계결정부와,A candidate boundary determination unit extracting a candidate region of the object from the foreground image image from which the background region is removed from the image image; 상기 후보영역 내에 포함되는 상기 레이저스캔데이터를 다수의 군집으로 분류하는 군집화부와,A clustering unit classifying the laser scan data included in the candidate area into a plurality of clusters; 상기 군집화부에서 분류된 다수의 군집 중 상기 대상체일 가능성이 가장 높은 군집을 선택하는 군집선택부와,A cluster selection unit for selecting a cluster most likely to be the object among a plurality of clusters classified in the clustering unit; 상기 후보영역과 상기 군집선택부에서 선택된 군집의 오차가 줄어들도록 상기 영상이미지와 상기 레이저스캔데이터 중 적어도 하나의 위치를 이동하여 상기 물리적 편의를 보정하는 물리적편의보정부를 포함한 것을 특징으로 하는 레이저스캐너와 비디오카메라간 물리적 편의 보정장치.A laser scanner comprising a physical convenience correction unit for correcting the physical bias by moving at least one of the image image and the laser scan data so as to reduce an error between the candidate region and the cluster selected by the cluster selector; Physical convenience compensation device between video cameras. 제 1 항에 있어서, 상기 군집화부는 상기 후보영역에 속하는 임의의 두 각도에서의 레이저스캔데이터의 거리 차이가 임계값보다 작은 영역끼리 군집으로 묶는 것을 특징으로 하는 레이저스캐너와 비디오카메라간 물리적 편의 보정장치.2. The apparatus of claim 1, wherein the clustering unit groups the regions in which the distance difference between the laser scan data at any two angles belonging to the candidate region is smaller than a threshold value into clusters. . 제 1 항에 있어서, 상기 군집선택부는 상기 다수의 군집들에 대해 군집의 개체수, 배경모델과의 상이도, 및 후보영역의 중심각으로부터의 차이 중 적어도 하나 이상의 선택 척도를 적용하여 상기 대상체일 가능성이 가장 높은 군집을 선택하는 것을 특징으로 하는 레이저스캐너와 비디오카메라간 물리적 편의 보정장치. The method of claim 1, wherein the cluster selection unit is likely to be the object by applying a selection measure of at least one of the population of the cluster, the difference from the background model, and the difference from the center angle of the candidate region. Physical convenience correction device between the laser scanner and the video camera, characterized in that the selection of the highest cluster. 제 3 항에 있어서, 상기 군집선택부는 상기 배경모델과 상기 레이저스캔데이터의 거리 차이를 이용하여 상기 배경모델을 학습하는 것을 특징으로 하는 레이저스캐너와 비디오카메라간 물리적 편의 보정장치.The apparatus of claim 3, wherein the cluster selector learns the background model by using a distance difference between the background model and the laser scan data. 5. 제 1 항에 있어서, 상기 물리적편의보정부는 상기 후보영역의 경계의 중심각과, 상기 선택된 군집의 경계의 중심각의 차이각이 줄어들도록 상기 영상이미지와 상기 레이저스캔데이터 중 적어도 하나의 위치를 이동하는 것을 특징으로 하는 레이저스캐너와 비디오카메라간 물리적 편의 보정장치.The method of claim 1, wherein the physical convenience correction unit moves the position of at least one of the image image and the laser scan data such that a difference angle between the center angle of the boundary of the candidate region and the center angle of the boundary of the selected cluster is reduced. Features correction device between the laser scanner and the video camera. 대상체와 배경을 포함한 영상이미지를 연속적으로 획득하는 비디오카메라와, 상기 대상체와 배경에 대해 각도에 따른 거리를 측정하여 레이저스캔데이터를 연속적으로 획득하는 레이저스캐너를 구비한 추적시스템의 상기 레이저스캐너와 비디오카메라간 물리적 편의 보정방법에 있어서,The laser scanner and the video of the tracking system having a video camera for continuously acquiring an image image including the object and the background, and a laser scanner for continuously acquiring laser scan data by measuring a distance according to an angle with respect to the object and the background. In the method for correcting physical bias between cameras, 상기 영상이미지에서 배경영역이 제거된 전경영상이미지로부터 상기 대상체의 후보영역을 추출하는 후보경계결정단계와,A candidate boundary determination step of extracting a candidate region of the object from the foreground image image from which the background region is removed from the image image; 상기 후보영역 내에 포함되는 상기 레이저스캔데이터를 다수의 군집으로 분류하는 군집화단계와,A clustering step of classifying the laser scan data included in the candidate area into a plurality of clusters; 상기 군집화단계에서 분류된 다수의 군집 중 상기 대상체일 가능성이 가장 높은 군집을 선택하는 군집선택단계와,A cluster selection step of selecting a cluster most likely to be the object among a plurality of clusters classified in the clustering step; 상기 후보영역과 상기 군집선택단계에서 선택된 군집의 오차가 줄어들도록 상기 영상이미지와 상기 레이저스캔데이터 중 적어도 하나의 위치를 이동하여 상기 물리적 편의를 보정하는 물리적편의보정단계를 포함한 것을 특징으로 하는 레이저스캐너와 비디오카메라간 물리적 편의 보정방법.And a physical convenience correction step of correcting the physical bias by moving at least one of the image image and the laser scan data to reduce the error between the candidate region and the cluster selected in the cluster selection step. Physical convenience correction method between video camera and video camera. 제 6 항에 있어서, 상기 군집화단계는 상기 후보영역에 속하는 임의의 두 각도에서의 레이저스캔데이터의 거리 차이가 임계값보다 작은 영역끼리 군집으로 묶는 것을 특징으로 하는 레이저스캐너와 비디오카메라간 물리적 편의 보정방법.The method of claim 6, wherein in the clustering step, physical bias correction between the laser scanner and the video camera is characterized by grouping the regions in which the distance difference between the laser scan data at any two angles belonging to the candidate region is smaller than a threshold value. Way. 제 6 항에 있어서, 상기 군집선택단계는 상기 다수의 군집들에 대해 군집의 개체수, 배경모델과의 상이도, 및 후보영역의 중심각으로부터의 차이 중 적어도 하나 이상의 선택 척도를 적용하여 상기 대상체일 가능성이 가장 높은 군집을 선택하는 것을 특징으로 하는 레이저스캐너와 비디오카메라간 물리적 편의 보정방법. The method of claim 6, wherein the cluster selection step is the possibility of being the object by applying at least one selection measure of the population, the difference from the background model, and the difference from the center angle of the candidate region to the plurality of clusters. A method of correcting physical convenience between a laser scanner and a video camera, characterized by selecting the highest cluster. 제 8 항에 있어서, 상기 군집선택단계는 상기 배경모델과 상기 레이저스캔데 이터의 거리 차이를 이용하여 상기 배경모델을 학습하는 것을 특징으로 하는 레이저스캐너와 비디오카메라간 물리적 편의 보정방법.10. The method of claim 8, wherein the cluster selection step trains the background model using a distance difference between the background model and the laser scan data. 제 6 항에 있어서, 상기 물리적편의보정단계는 상기 후보영역의 경계의 중심각과, 상기 선택된 군집의 경계의 중심각의 차이각이 줄어들도록 상기 영상이미지와 상기 레이저스캔데이터 중 적어도 하나의 위치를 이동하는 것을 특징으로 하는 레이저스캐너와 비디오카메라간 물리적 편의 보정방법.The method of claim 6, wherein the correcting of the physical piece comprises moving at least one of the image image and the laser scan data such that a difference angle between the center angle of the boundary of the candidate region and the center angle of the boundary of the selected cluster is reduced. A physical convenience correction method between the laser scanner and the video camera, characterized in that. 대상체와 배경을 포함한 영상이미지를 연속적으로 획득하는 비디오카메라와, 상기 대상체와 배경에 대해 각도에 따른 거리를 측정하여 레이저스캔데이터를 연속적으로 획득하는 레이저스캐너를 구비한 추적시스템의 상기 레이저스캐너와 비디오카메라간 물리적편의보정치 측정장치에 있어서,The laser scanner and the video of the tracking system having a video camera for continuously acquiring an image image including the object and the background, and a laser scanner for continuously acquiring laser scan data by measuring a distance according to an angle with respect to the object and the background. In the measurement device of the correction value of physical convenience between cameras, 상기 영상이미지에서 배경영역이 제거된 전경영상이미지와 설정 물리적편의보정치로부터 상기 대상체의 후보영역을 추출하는 후보경계결정부와,A candidate boundary determination unit extracting a candidate region of the object from the foreground image image from which the background region is removed from the image image and the set physical convenience correction value; 상기 후보영역 내에 포함되는 상기 레이저스캔데이터를 다수의 군집으로 분류하는 군집화부와,A clustering unit classifying the laser scan data included in the candidate area into a plurality of clusters; 상기 군집화부에서 분류된 다수의 군집 중 상기 대상체일 가능성이 가장 높은 군집을 선택하는 군집선택부와,A cluster selection unit for selecting a cluster most likely to be the object among a plurality of clusters classified in the clustering unit; 상기 후보영역과 상기 군집선택부에서 선택된 군집의 오차가 줄어들도록 상기 설정 물리적편의보정치를 업데이트하여 상기 후보경계결정부에 전달하는 보정치계산부를 포함한 것을 특징으로 하는 레이저스캐너와 비디오카메라간 물리적편의보정치 측정장치.Compensation value measurement between the laser scanner and the video camera, characterized in that it comprises a correction value calculation unit for updating the set physical deviation correction value to be transmitted to the candidate boundary determination unit so that the error between the candidate region and the cluster selected by the cluster selection unit is reduced. Device. 제 11 항에 있어서, 상기 군집화부는 상기 후보영역에 속하는 임의의 두 각도에서의 레이저스캔데이터의 거리 차이가 임계값보다 작은 영역끼리 군집으로 묶는 것을 특징으로 하는 레이저스캐너와 비디오카메라간 물리적편의보정치 측정장치.12. The method of claim 11, wherein the clustering unit measures physically corrected correction values between the laser scanner and the video camera, characterized in that the areas of the laser scan data at any two angles belonging to the candidate area are smaller than a threshold. Device. 제 11 항에 있어서, 상기 군집선택부는 상기 다수의 군집들에 대해 군집의 개체수, 배경모델과의 상이도, 및 후보영역의 중심각으로부터의 차이 중 적어도 하나 이상의 선택 척도를 적용하여 상기 대상체일 가능성이 가장 높은 군집을 선택하는 것을 특징으로 하는 레이저스캐너와 비디오카메라간 물리적편의보정치 측정장치. 12. The method of claim 11, wherein the cluster selector is likely to be the object by applying at least one selection measure of the population, the difference from the background model, and the difference from the center angle of the candidate region to the plurality of clusters. A device for measuring the correction value of physical convenience between a laser scanner and a video camera, characterized by selecting the highest cluster. 제 13 항에 있어서, 상기 군집선택부는 상기 배경모델과 상기 레이저스캔데이터의 거리 차이를 이용하여 상기 배경모델을 학습하는 것을 특징으로 하는 레이저스캐너와 비디오카메라간 물리적편의보정치 측정장치.The apparatus of claim 13, wherein the cluster selector learns the background model by using a distance difference between the background model and the laser scan data. 제 11 항에 있어서, 상기 보정치계산부는 상기 후보영역의 경계의 중심각과, 상기 선택된 군집의 경계의 중심각의 차이각이 줄어들도록 상기 설정 물리적편의보정치를 업데이트하는 것을 특징으로 하는 레이저스캐너와 비디오카메라간 물리적편의보정치 측정장치.12. The laser scanner and the video camera of claim 11, wherein the correction value calculator updates the set physical piece correction value such that a difference angle between the center angle of the boundary of the candidate region and the center angle of the boundary of the selected cluster is reduced. Measurement device for correction of physical convenience. 대상체와 배경을 포함한 영상이미지를 연속적으로 획득하는 비디오카메라와, 상기 대상체와 배경에 대해 각도에 따른 거리를 측정하여 레이저스캔데이터를 연속적으로 획득하는 레이저스캐너를 구비한 추적시스템의 상기 레이저스캐너와 비디오카메라간 물리적편의보정치 측정방법에 있어서,The laser scanner and the video of the tracking system having a video camera for continuously acquiring an image image including the object and the background, and a laser scanner for continuously acquiring laser scan data by measuring a distance according to an angle with respect to the object and the background. In the method of measuring the correction value of physical convenience between cameras, 상기 영상이미지에서 배경영역이 제거된 전경영상이미지와 설정 물리적편의보정치로부터 상기 대상체의 후보영역을 추출하는 후보경계결정단계와,A candidate boundary determination step of extracting a candidate region of the object from the foreground image image from which the background region is removed from the image image and the set physical convenience correction value; 상기 후보영역 내에 포함되는 상기 레이저스캔데이터를 다수의 군집으로 분류하는 군집화단계와,A clustering step of classifying the laser scan data included in the candidate area into a plurality of clusters; 상기 군집화단계에서 분류된 다수의 군집 중 상기 대상체일 가능성이 가장 높은 군집을 선택하는 군집선택단계와,A cluster selection step of selecting a cluster most likely to be the object among a plurality of clusters classified in the clustering step; 상기 후보영역과 상기 군집선택단계에서 선택된 군집의 오차가 줄어들도록 상기 설정 물리적편의보정치를 업데이트하여 상기 후보경계결정단계부터 반복 수행하는 보정치계산단계를 포함한 것을 특징으로 하는 레이저스캐너와 비디오카메라간 물리적편의보정치 측정방법.And a correction value calculation step of updating the set physical piece correction value so as to reduce the error between the candidate region and the cluster selected in the cluster selection step, and repeatedly performing the candidate boundary determination step. How to measure the correction value. 제 16 항에 있어서, 상기 군집화단계는 상기 후보영역에 속하는 임의의 두 각도에서의 레이저스캔데이터의 거리 차이가 임계값보다 작은 영역끼리 군집으로 묶는 것을 특징으로 하는 레이저스캐너와 비디오카메라간 물리적편의보정치 측정방법.17. The physical convenience correction value of claim 16, wherein the clustering step groups the regions in which the distance difference between the laser scan data at any two angles belonging to the candidate region is smaller than a threshold value. How to measure. 제 16 항에 있어서, 상기 군집선택단계는 상기 다수의 군집들에 대해 군집의 개체수, 배경모델과의 상이도, 및 후보영역의 중심각으로부터의 차이 중 적어도 하나 이상의 선택 척도를 적용하여 상기 대상체일 가능성이 가장 높은 군집을 선택하는 것을 특징으로 하는 레이저스캐너와 비디오카메라간 물리적편의보정치 측정방법. 17. The method of claim 16, wherein the cluster selection step is a possibility of being the object by applying at least one selection measure of the population, the difference from the background model, and the difference from the center angle of the candidate region to the plurality of clusters. A method for measuring the correction value of physical convenience between a laser scanner and a video camera, characterized by selecting the highest cluster. 제 18 항에 있어서, 상기 군집선택단계는 상기 배경모델과 상기 레이저스캔데이터의 거리 차이를 이용하여 상기 배경모델을 학습하는 것을 특징으로 하는 레이저스캐너와 비디오카메라간 물리적편의보정치 측정방법.19. The method of claim 18, wherein in the cluster selection step, the background model is trained using a distance difference between the background model and the laser scan data. 제 16 항에 있어서, 상기 보정치계산단계는 상기 후보영역의 경계의 중심각과, 상기 선택된 군집의 경계의 중심각의 차이각이 줄어들도록 상기 설정 물리적편의보정치를 업데이트하는 것을 특징으로 하는 레이저스캐너와 비디오카메라간 물리적편의보정치 측정방법.The laser scanner and the video camera of claim 16, wherein the calculating of the correction value comprises updating the correction value of the set physical piece so that a difference angle between the center angle of the boundary of the candidate region and the center angle of the boundary of the selected cluster is reduced. How to measure the correction value of liver liver.
KR1020090047965A 2009-06-01 2009-06-01 Compensation device and method for physical convenience between laser scanner and video camera, Compensation measurement device and method for physical convenience KR101047150B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020090047965A KR101047150B1 (en) 2009-06-01 2009-06-01 Compensation device and method for physical convenience between laser scanner and video camera, Compensation measurement device and method for physical convenience

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020090047965A KR101047150B1 (en) 2009-06-01 2009-06-01 Compensation device and method for physical convenience between laser scanner and video camera, Compensation measurement device and method for physical convenience

Publications (2)

Publication Number Publication Date
KR20100129410A KR20100129410A (en) 2010-12-09
KR101047150B1 true KR101047150B1 (en) 2011-07-07

Family

ID=43506022

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020090047965A KR101047150B1 (en) 2009-06-01 2009-06-01 Compensation device and method for physical convenience between laser scanner and video camera, Compensation measurement device and method for physical convenience

Country Status (1)

Country Link
KR (1) KR101047150B1 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20170031901A (en) * 2015-09-14 2017-03-22 한화테크윈 주식회사 Scanning Method Using High Speed Scanning Device

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20090021724A (en) * 2007-08-28 2009-03-04 주식회사 만도 Apparatus for discriminating forward objects of vehicle by using camera and laser scanner

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20090021724A (en) * 2007-08-28 2009-03-04 주식회사 만도 Apparatus for discriminating forward objects of vehicle by using camera and laser scanner

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
B. Jung and G. S. Sukhatme, "Tracking Multiple Moving Targets using a Camera and Laser Rangefinder", IRIS Technical Report IRIS-01-397, USC, 2001.
D. Scaramuzza et al., "Extrinsic self calibration of a camera and a 3D laser range finder from natural scenes", IROS 2007, pp.4164-4169, Oct. 29 2007-Nov. 2 2007.

Also Published As

Publication number Publication date
KR20100129410A (en) 2010-12-09

Similar Documents

Publication Publication Date Title
US8385595B2 (en) Motion detection method, apparatus and system
Levinson et al. Automatic online calibration of cameras and lasers.
KR101766603B1 (en) Image processing apparatus, image processing system, image processing method, and computer program
CN107077743A (en) System and method for the dynamic calibration of array camera
JP2019079487A (en) Parameter optimization device, parameter optimization method and program
Conrad et al. Homography-based ground plane detection for mobile robot navigation using a modified em algorithm
JP6891873B2 (en) Image processing equipment and methods
KR100651034B1 (en) System for detecting targets and method thereof
CN105335955A (en) Object detection method and object detection apparatus
CN103460248B (en) Image processing method and device
JP6444283B2 (en) Posture determination device
US8531505B2 (en) Imaging parameter acquisition apparatus, imaging parameter acquisition method and storage medium
US10386930B2 (en) Depth determining method and depth determining device of operating body
JP6694281B2 (en) Stereo camera and imaging system
Wang et al. A modular approach to the analysis and evaluation of particle filters for figure tracking
JP6799325B2 (en) Image correction device, image correction method, attention point recognition device, attention point recognition method and abnormality detection system
JP6977337B2 (en) Site recognition method, device, program, and imaging control system
JP7156511B2 (en) OBJECT DETECTION DEVICE, OBJECT DETECTION SYSTEM, OBJECT DETECTION METHOD AND PROGRAM
KR101047150B1 (en) Compensation device and method for physical convenience between laser scanner and video camera, Compensation measurement device and method for physical convenience
KR20170072491A (en) Apparatus and method for detecting entity in pen
JP2006148442A (en) Mobile monitoring apparatus
US11625836B2 (en) Trajectory calculation device, trajectory calculating method, and trajectory calculating program
JP3864491B2 (en) Disparity calculating device, distance calculating device, and methods thereof
JP2016042639A (en) Camera posture controller, method and program
JP6074198B2 (en) Image processing apparatus and image processing method

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20140521

Year of fee payment: 4

LAPS Lapse due to unpaid annual fee