KR101047150B1 - Compensation device and method for physical convenience between laser scanner and video camera, Compensation measurement device and method for physical convenience - Google Patents
Compensation device and method for physical convenience between laser scanner and video camera, Compensation measurement device and method for physical convenience Download PDFInfo
- Publication number
- KR101047150B1 KR101047150B1 KR1020090047965A KR20090047965A KR101047150B1 KR 101047150 B1 KR101047150 B1 KR 101047150B1 KR 1020090047965 A KR1020090047965 A KR 1020090047965A KR 20090047965 A KR20090047965 A KR 20090047965A KR 101047150 B1 KR101047150 B1 KR 101047150B1
- Authority
- KR
- South Korea
- Prior art keywords
- cluster
- physical
- image
- video camera
- scan data
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/40—Analysis of texture
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/255—Detecting or recognising potential candidate objects based on visual cues, e.g. shapes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/12—Picture reproducers
- H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
- H04N9/3141—Constructional details thereof
- H04N9/315—Modulator illumination systems
- H04N9/3161—Modulator illumination systems using laser light sources
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
Abstract
이 발명은 레이저스캐너와 비디오카메라를 융합하여 대상체(사람)의 행동을 추적하고 인식하는 추적시스템에서, 레이저스캐너와 비디오카메라간 물리적 편의를 보정하는 장치 및 방법과, 물리적편의보정치를 측정하는 장치 및 방법에 관한 것이다.The present invention is a tracking system for fusing a laser scanner and a video camera to track and recognize the behavior of an object (person), an apparatus and method for correcting the physical convenience between the laser scanner and the video camera, an apparatus for measuring a physical bias correction value and It is about a method.
이 발명의 한 실시예에 따른 추적시스템의 레이저스캐너와 비디오카메라간 물리적 편의 보정장치는, 영상이미지에서 배경영역이 제거된 전경영상이미지로부터 후보영역을 추출하는 후보경계결정부와, 상기 후보영역 내에 포함되는 레이저스캔데이터를 다수의 군집으로 분류하는 군집화부와, 상기 군집화부에서 분류된 다수의 군집 중 대상체일 가능성이 가장 높은 군집을 선택하는 군집선택부와, 상기 후보영역과 상기 군집선택부에서 선택된 군집의 오차가 줄어들도록 상기 영상이미지와 상기 레이저스캔데이터 중 적어도 하나의 위치를 이동하여 상기 물리적 편의를 보정하는 물리적편의보정부를 포함한다.An apparatus for compensating physical convenience between a laser scanner and a video camera of a tracking system according to an embodiment of the present invention includes a candidate boundary determining unit for extracting a candidate region from a foreground image image from which a background region is removed from an image image, and within the candidate region. A clustering unit for classifying the laser scan data included into a plurality of clusters, a cluster selecting unit for selecting a cluster most likely to be an object among the plurality of clusters classified by the clustering unit, the candidate region and the cluster selecting unit And a physical convenience correction unit configured to correct the physical bias by moving at least one position of the image image and the laser scan data so as to reduce an error of the selected cluster.
추적, 대상체, 레이저스캐너, 비디오카메라, 물리적 편의, 군집, 실시간 Tracking, Objects, Laser Scanners, Video Cameras, Physical Convenience, Clusters, Real Time
Description
이 발명은 레이저스캐너와 비디오카메라를 융합하여 대상체(사람)의 행동을 추적하고 인식하는 추적시스템에서 레이저스캐너와 비디오카메라간 물리적 편의를 보정하는 장치 및 방법에 관한 것이다. 또한, 이 발명은 레이저스캐너와 비디오카메라간 물리적편의보정치를 측정하는 장치 및 방법에 관한 것이기도 하다.The present invention relates to an apparatus and method for correcting physical convenience between a laser scanner and a video camera in a tracking system in which a laser scanner and a video camera are fused to track and recognize an object (person) 's behavior. The invention also relates to an apparatus and method for measuring the physical bias correction between a laser scanner and a video camera.
지능형 비디오 감시시스템 등과 같은 보안관련분야, 인간과의 상호교류 수행능력을 지닌 지능형 로봇, 지능형 가전제품 등 많은 분야에서 사람을 추적하거나 사람의 행동을 인식하는 기술이 적용된다.In many fields, such as security-related fields such as intelligent video surveillance systems, intelligent robots capable of interacting with humans, and intelligent home appliances, technology for tracking people or recognizing human behavior is applied.
종래의 행동인식 기술로서, Bobick, A. F외 1인이 발표한 논문 ["The Recognition of Human Movement Using Temporal Templates", IEEE Transactions on pattern Analysis and Machine Intelligence, 2001]이 있다. 이 논문에서는 시간 에 따라 정면에 있는 사람의 실루엣을 가중 누적한 MHI(motion history image)를 이용하여 행동을 인식하는 기술이 개시된다. 그러나, 이 기술은 고정된 한 대의 비디오카메라를 이용하기 때문에, 비디오카메라가 촬영한 영상에서의 인간의 움직임 방향이 행동인식기가 학습한 방향과 일치하지 않으면 행동인식을 수행할 수 없는 문제점이 있다.As a conventional behavior recognition technique, there is a paper published by Bobick, A.F et al. ["The Recognition of Human Movement Using Temporal Templates", IEEE Transactions on pattern Analysis and Machine Intelligence, 2001). In this paper, a technique for recognizing behavior using a motion history image (MHI) that weights a person's silhouette in front over time is disclosed. However, since this technique uses a fixed video camera, behavior recognition cannot be performed unless the direction of human movement in the image captured by the video camera coincides with the direction learned by the behavior recognizer.
이러한 문제점을 해결하기 위한 종래의 행동인식 기술로서, Weinland, D.외 2인이 발표한 논문 ["Free Viewpoint Action Recognition using Motion History Volumes", Computer Vision and Image Understanding, 2006]이 있다. 이 논문에 개시된 기술은 4대의 카메라로부터 입력되는 영상을 정합하여 3차원 모델을 생성하기 때문에, 시점으로부터 자유로운 행동인식이 가능하다. 그러나, 4대의 카메라 데이터를 정합하는 과정은 복잡한 계산을 필요로 하므로 실시간 동작이 불가능한 문제점이 있다. 또한, 이 종래기술은 4대의 카메라가 모두 대상체를 포착하여야만 행동인식이 가능하고, 한 대의 카메라라도 대상체를 포착하지 못한 상태에서는 행동인식을 수행할 수 없는 문제점이 있다. 또한, 행동인식을 하고자 하는 모든 공간마다 4대의 카메라를 설치해야 하므로 행동인식 시스템을 구축하는데 너무 많은 비용이 소요되는 문제점이 있다.As a conventional behavior recognition technique for solving this problem, a paper published by Weinland, D. et al. ["Free Viewpoint Action Recognition using Motion History Volumes", Computer Vision and Image Understanding, 2006). The technique disclosed in this paper generates a three-dimensional model by matching images input from four cameras, so that behavior recognition is free from viewpoint. However, since the process of matching the four camera data requires a complicated calculation, there is a problem that real-time operation is impossible. In addition, the prior art has a problem that the behavior recognition is possible only when all four cameras capture the object, and even one camera cannot perform the action recognition in the state of not capturing the object. In addition, since four cameras must be installed in all spaces to be perceived, there is a problem that it takes too much cost to build a behavior recognition system.
이에 이 발명의 발명자들은 레이저스캐너와 비디오카메라를 융합하여 사람의 위치를 추적하고 행동을 인식하는 기술을 개발하여 대한민국특허청에 10-2009-0022584호로 출원하였다. 이와 같은 레이저스캐너와 비디오카메라를 융합한 추적시스템 기술은 서로 다른 위치에 설치된 레이저스캐너(통상적으로 바닥쪽에 설치) 와 비디오카메라(통상적으로 천장쪽에 설치)에서 각각 획득된 레이저스캔데이터와 영상이미지를 이용하여 대상체(사람)를 추적함으로써 행동을 인식한다. 이때, 레이저스캐너와 비디오카메라가 동일한 각도로 설치되어야만 레이저스캔데이터와 영상이미지가 동기될 수 있는데, 사용자가 레이저스캐너와 비디오카메라를 각각 설치하는 과정에서 물리적으로 그 수평적 각도가 틀어지는 편의(偏倚)가 발생한다. 이 물리적 편의로 인해 종래의 추적시스템은 계산시 오차가 발생하고 그로 인해 대상체(사람)의 위치를 강인하게 추적할 수 없는 문제점이 발생한다.Accordingly, the inventors of the present invention developed a technology for tracking a person's position and recognizing a behavior by fusing a laser scanner and a video camera and applying it to the Korean Patent Office as 10-2009-0022584. This tracking system technology, which combines a laser scanner and a video camera, uses laser scan data and video images acquired from laser scanners (usually installed on the floor) and video cameras (commonly installed on the ceiling) installed at different locations. To recognize the behavior by tracking the subject (person). At this time, the laser scan data and the video image can be synchronized only when the laser scanner and the video camera are installed at the same angle. The horizontal angle of the user is physically distorted during the process of installing the laser scanner and the video camera, respectively. Occurs. Due to this physical bias, a conventional tracking system causes an error in calculation, thereby causing a problem that the position of the object (person) cannot be tracked robustly.
이러한 문제의 해결방법으로서, Q.Zhang과 R.Pless가 논문["Extrinsic calibration of a camera and laser range finder", International Conference on Intelligent Robots, 2004, pp.2301-2306]에서 제안한 외부 보조체를 이용한 방법을 이용할 수 있다. 그러나, 이러한 종래기술은 체커보드와 같은 외부 보조체를 설치해야만 물리적 편의의 보정이 가능하고, 레이저스캐너와 비디오카메라 사이에 물리적 편의가 발생할 때마다 사용자가 수동으로 보정해야 하기 때문에, 실제 상용화 제품에는 적용하기 곤란한 문제점이 있다.As a solution to this problem, Q.Zhang and R.Pless used an external assistant, which was proposed in the paper ["Extrinsic calibration of a camera and laser range finder", International Conference on Intelligent Robots, 2004, pp.2301-2306]. The method can be used. However, such a prior art can be calibrated for physical convenience only by installing an external aid such as a checker board, and the user must manually calibrate each time a physical bias occurs between the laser scanner and the video camera. There is a problem that is difficult to apply.
이 발명의 목적은 레이저스캐너와 비디오카메라를 융합하여 사람이나 물체 등과 같은 대상체의 위치를 추적하는 추적시스템에서, 별도의 외부 보조물없이도 레이저스캐너와 비디오카메라 사이에서 물리적으로 발생하는 수평적 편의를 자동으로 보정하는 장치 및 방법을 제공하기 위한 것이다.An object of the present invention is to fuse a laser scanner and a video camera to automatically track the horizontal position of a physically generated object between the laser scanner and the video camera without a separate external aid in a tracking system that tracks the position of an object such as a person or an object. An apparatus and method for calibrating are provided.
또한, 이 발명의 다른 목적은 레이저스캐너와 비디오카메라 사이에서 물리적으로 발생하는 수평적 편의 보정치를 측정하는 장치 및 방법을 제공하기 위한 것이기도 하다.Another object of the present invention is to provide an apparatus and method for measuring a horizontal bias correction value physically generated between a laser scanner and a video camera.
이 발명의 한 실시예에 따른 추적시스템의 레이저스캐너와 비디오카메라간 물리적 편의 보정장치는, 대상체와 배경을 포함한 영상이미지를 연속적으로 획득하는 비디오카메라와, 상기 대상체와 배경에 대해 각도에 따른 거리를 측정하여 레이저스캔데이터를 연속적으로 획득하는 레이저스캐너를 구비한 추적시스템의 상기 레이저스캐너와 비디오카메라간 물리적 편의 보정장치에 있어서, 상기 영상이미지에서 배경영역이 제거된 전경영상이미지로부터 후보영역을 추출하는 후보경계결정부와, 상기 후보영역 내에 포함되는 상기 레이저스캔데이터를 다수의 군집으로 분류하는 군집화부와, 상기 군집화부에서 분류된 다수의 군집 중 상기 대상체일 가능성이 가장 높은 군집을 선택하는 군집선택부와, 상기 후보영역과 상기 군집선택부에 서 선택된 군집의 오차가 줄어들도록 상기 영상이미지와 상기 레이저스캔데이터 중 적어도 하나의 위치를 이동하여 상기 물리적 편의를 보정하는 물리적편의보정부를 포함한 것을 특징으로 한다.An apparatus for compensating physical convenience between a laser scanner and a video camera of a tracking system according to an embodiment of the present invention includes a video camera that continuously acquires an image image including an object and a background, and a distance according to an angle with respect to the object and a background. A physical convenience correction device between a laser scanner and a video camera of a tracking system having a laser scanner that continuously acquires laser scan data by measuring a candidate region from a foreground image image from which the background region is removed from the image image. A candidate boundary determination unit, a clustering unit for classifying the laser scan data included in the candidate area into a plurality of clusters, and a cluster selection for selecting a cluster most likely to be the object among a plurality of clusters classified in the clustering unit; And selected from the candidate area and the cluster selection unit. Moving at least one of the position of the video image and the laser scan data so as to reduce the error of the house and is characterized in that parts including physical comfort correction to correct the physical convenience.
또한, 이 발명의 한 실시예에 따른 추적시스템의 레이저스캐너와 비디오카메라간 물리적 편의 보정방법은, 대상체와 배경을 포함한 영상이미지를 연속적으로 획득하는 비디오카메라와, 상기 대상체와 배경에 대해 각도에 따른 거리를 측정하여 레이저스캔데이터를 연속적으로 획득하는 레이저스캐너를 구비한 추적시스템의 상기 레이저스캐너와 비디오카메라간 물리적 편의 보정방법에 있어서, 상기 영상이미지에서 배경영역이 제거된 전경영상이미지로부터 후보영역을 추출하는 후보경계결정단계와, 상기 후보영역 내에 포함되는 상기 레이저스캔데이터를 다수의 군집으로 분류하는 군집화단계와, 상기 군집화단계에서 분류된 다수의 군집 중 상기 대상체일 가능성이 가장 높은 군집을 선택하는 군집선택단계와, 상기 후보영역과 상기 군집선택단계에서 선택된 군집의 오차가 줄어들도록 상기 영상이미지와 상기 레이저스캔데이터 중 적어도 하나의 위치를 이동하여 상기 물리적 편의를 보정하는 물리적편의보정단계를 포함한 것을 특징으로 한다.In addition, the physical convenience correction method between the laser scanner and the video camera of the tracking system according to an embodiment of the present invention, a video camera that continuously acquires the image image including the object and the background, the angle according to the object and the background A physical convenience correction method between a laser scanner and a video camera of a tracking system having a laser scanner that continuously acquires laser scan data by measuring a distance, wherein the candidate region is selected from a foreground image image from which the background region is removed from the image image. A candidate boundary determination step of extracting, a clustering step of classifying the laser scan data included in the candidate area into a plurality of clusters, and a selection of a cluster most likely to be the object among the plurality of clusters classified in the clustering step; A cluster selection step, the candidate region and the cluster selection group And a physical convenience correction step of correcting the physical bias by moving at least one position of the image image and the laser scan data so as to reduce an error of a selected cluster in the system.
이 발명의 한 실시예에 따른 추적시스템의 레이저스캐너와 비디오카메라간 물리적편의보정치 측정장치는, 대상체와 배경을 포함한 영상이미지를 연속적으로 획득하는 비디오카메라와, 상기 대상체와 배경에 대해 각도에 따른 거리를 측정하여 레이저스캔데이터를 연속적으로 획득하는 레이저스캐너를 구비한 추적시스템의 상기 레이저스캐너와 비디오카메라간 물리적편의보정치 측정장치에 있어서, 상기 영상이미지에서 배경영역이 제거된 전경영상이미지와 설정 물리적편의보정치로부터 후보영역을 추출하는 후보경계결정부와, 상기 후보영역 내에 포함되는 상기 레이저스캔데이터를 다수의 군집으로 분류하는 군집화부와, 상기 군집화부에서 분류된 다수의 군집 중 상기 대상체일 가능성이 가장 높은 군집을 선택하는 군집선택부와, 상기 후보영역과 상기 군집선택부에서 선택된 군집의 오차가 줄어들도록 상기 설정 물리적편의보정치를 업데이트하여 상기 후보경계결정부에 전달하는 보정치계산부를 포함한 것을 특징으로 한다.An apparatus for measuring physical convenience correction values between a laser scanner and a video camera of a tracking system according to an embodiment of the present invention includes a video camera that continuously acquires an image image including an object and a background, and a distance according to an angle with respect to the object and a background. An apparatus for measuring a physical convenience correction value between a laser scanner and a video camera of a tracking system having a laser scanner that continuously acquires laser scan data by measuring a measured value of the image, the foreground image image of which the background area is removed from the image image, A candidate boundary determination unit for extracting candidate regions from the correction values, a clustering unit for classifying the laser scan data included in the candidate regions into a plurality of clusters, and a plurality of clusters classified in the clustering unit, most likely to be the object. A cluster selection unit for selecting a high cluster, and the candidate And a correction value calculator which updates the set correction value of the set physical piece so as to reduce an error of a region selected by the cluster selector and transmits the correction value of the set physical piece to the candidate boundary determiner.
또한, 이 발명의 한 실시예에 따른 추적시스템의 레이저스캐너와 비디오카메라간 물리적편의보정치 측정방법은, 대상체와 배경을 포함한 영상이미지를 연속적으로 획득하는 비디오카메라와, 상기 대상체와 배경에 대해 각도에 따른 거리를 측정하여 레이저스캔데이터를 연속적으로 획득하는 레이저스캐너를 구비한 추적시스템의 상기 레이저스캐너와 비디오카메라간 물리적편의보정치 측정방법에 있어서, 상기 영상이미지에서 배경영역이 제거된 전경영상이미지와 설정 물리적편의보정치로부터 후보영역을 추출하는 후보경계결정단계와, 상기 후보영역 내에 포함되는 상기 레이저스캔데이터를 다수의 군집으로 분류하는 군집화단계와, 상기 군집화단계에서 분류된 다수의 군집 중 상기 대상체일 가능성이 가장 높은 군집을 선택하는 군집선택단계와, 상기 후보영역과 상기 군집선택단계에서 선택된 군집의 오차가 줄어들도록 상기 설정 물리적편의보정치를 업데이트하여 상기 후보경계결정단계부터 반복 수행하는 보정치계산단계를 포함한 것을 특징으로 한다.In addition, the method for measuring the physical convenience correction value between the laser scanner and the video camera of the tracking system according to an embodiment of the present invention, a video camera that continuously acquires the image image including the object and the background, and at an angle to the object and the background A method of measuring physical correction value between a laser scanner and a video camera of a tracking system having a laser scanner that continuously acquires laser scan data by measuring a distance according to a distance, the foreground image image having a background region removed from the image image, and a setting A candidate boundary determination step of extracting a candidate region from a physical convenience correction value, a clustering step of classifying the laser scan data included in the candidate area into a plurality of clusters, and a possibility of the object among the plurality of clusters classified in the clustering step A cluster selector that selects this highest cluster And will be in the candidate region and the cluster selecting step characterized by updating the correction value setting physical comfort to reduce the error of the selected cluster, including a correction value calculation step of performing repeat determining the candidate boundary.
이상과 같이 이 발명에 따르면 레이저스캐너와 비디오카메라간 위치 편차가 실시간 보정되어 사람의 위치를 강인하게 추적할 수 있는 잇점이 있다.As described above, according to the present invention, the positional deviation between the laser scanner and the video camera is corrected in real time, so that the position of the person can be strongly tracked.
이하, 첨부된 도면을 참조하며 이 발명의 한 실시예에 따른 레이저스캐너와 비디오카메라간 물리적 편의 보정장치 및 방법과, 물리적편의보정치 측정장치 및 방법을 상세하게 설명한다.Hereinafter, an apparatus and method for calibrating physical convenience between a laser scanner and a video camera, and an apparatus and method for measuring physically corrected values according to an embodiment of the present invention will be described in detail.
도 1은 이 발명이 적용되는 비디오카메라와 레이저스캐너를 융합한 추적시스템의 일 예를 도시한 구성 블록도이다. 이 추적시스템은 대상체와 배경을 포함한 영상이미지를 연속적으로 획득하는 비디오카메라(11)와, 대상체와 배경에 대해 각도에 따른 거리를 측정하여 레이저스캔데이터를 연속적으로 획득하는 레이저스캐너(12)와, 영상이미지로부터 배경 영역을 제거하여 전경영상이미지를 추출하는 전경영상추출부(13)와, 레이저스캔데이터로부터 배경 영역을 제거하여 전경거리데이터를 추출하는 전경스캔데이터추출부(14)와, 전경영상이미지와 전경스캔데이터로부터 대상체의 움직임을 추적하는 움직임추적부(15)를 포함한다.FIG. 1 is a block diagram showing an example of a tracking system in which a video camera and a laser scanner are fused to which the present invention is applied. The tracking system includes a
이 발명의 레이저스캐너와 비디오카메라간 물리적 편의 보정장치은, 전경영상이미지와 스캔데이터를 이용하여 레이저스캐너와 비디오카메라간 물리적 편의를 보정한 후 움직임추적부(15)에 제공한다.The physical bias correction device between the laser scanner and the video camera of the present invention is provided to the
도 2는 이 발명의 레이저스캐너와 비디오카메라간 물리적 편의 보정장치(20) 을 도시한 구성 블록도이다.FIG. 2 is a block diagram showing a device 20 for calibrating the physical convenience between the laser scanner and the video camera of the present invention.
먼저, 도 1의 추적시스템의 동작을 설명한다. 비디오카메라(11)는 연속하여 영상이미지를 촬영한다. 전경영상추출부(13)는 촬영된 영상이미지로부터 배경 영역을 제거하여 전경영상이미지를 추출하는데, 촬영된 영상이미지와 기저장된 배경 영상을 비교하여 촬영된 영상이미지 중 배경영상과 동일한 영역을 제거하여 전경영상이미지만 남긴다. 도 3은 영상이미지(a)와, 영상이미지(a)로부터 배경 영역이 제거된 전경영상이미지(b)를 도시한 도면이다.First, the operation of the tracking system of FIG. 1 will be described. The
레이저스캐너(12)는 각도에 따른 거리데이터를 연속적으로 스캔하여 레이저스캔데이터를 출력한다. 전경스캔데이터추출부(14)는 레이저스캔데이터로부터 배경 영역을 제거하여 전경스캔데이터를 추출한다. 전경스캔데이터추출부(14)가 레이저스캔데이터로부터 배경 영역을 제거하는 원리는 앞서 설명한 전경영상추출부(13)가 영상이미지로부터 배경 영역을 제거하는 원리와 동일하다.The
이 발명의 레이저스캐너와 비디오카메라간 물리적 편의 보정장치(20)은 전경영상이미지와 레이저스캔데이터를 이용하여 레이저스캐너와 비디오카메라간 물리적 편의를 보정한다.The physical bias correction device 20 between the laser scanner and the video camera of the present invention corrects the physical bias between the laser scanner and the video camera by using the foreground image image and the laser scan data.
이 발명의 레이저스캐너와 비디오카메라간 물리적 편의 보정장치(20)은 전경영상이미지로부터 후보영역의 경계를 결정하는 후보경계결정부(21)와, 후보영역 내에 위치한 레이저스캔데이터를 다수의 군집으로 분류하는 군집화부(22)와, 군집화부(22)에서 분류된 다수의 군집들 중 기설정된 조건에 맞는 군집을 선택하는 군집선택부(23)와, 후보영역과 선택된 군집의 영역의 오차를 줄이는 방향으로 전경영상 이미지 또는 전경거리데이터의 각도를 보정하는 물리적편의보정부(24)를 포함한다.The physical bias correction device 20 between the laser scanner and the video camera of the present invention classifies a candidate
후보경계결정부(21)는 전경영상이미지의 물체나 사람 등과 같은 대상체의 위치정보로부터 레이저스캔데이터 상에서 물체가 있을만한 후보영역을 결정하는데, 후보영역의 왼쪽 경계각()은 수학식 1과 같고 후보영역의 오른쪽 경계각()은 수학식 2와 같다.The candidate boundary determiner 21 determines a candidate region in which the object exists in the laser scan data from the position information of the object such as an object or a person in the foreground image image. ) Is the same as
여기서, fov는 비디오카메라의 시야각이고, 는 비디오카메라에서 촬영된 영상이미지의 폭이고 은 전경영상이미지의 물체의 왼쪽 픽셀 위치값이고 은 해당 물체의 오늘쪽 픽셀 위치값이다. 는 후보영역을 확장하기 위한 확장인자로서, 전경영상이미지로부터 얻어진 물체의 왼쪽 경계와 오른쪽 경계를 각각 확장하여 후보영역이 결정되도록 한다. bias는 설정 물리적편의보정치로서, 초기값은 0으로 설정되고 후술하는 물리적편의보정치 측정방법에 따라 실제 물리적 편의를 보정하기 위한 보정값으로 수렴된다.Where fov is the viewing angle of the video camera, Is the width of the image taken by the video camera Is the left pixel position value of the object in the foreground image. Is the pixel position of today's object. Is an extension factor for extending the candidate region, and the candidate region is determined by extending the left boundary and the right boundary of the object obtained from the foreground image image, respectively. The bias is a set physical bias correction value. The initial value is set to 0 and converged to a correction value for correcting the actual physical bias according to the method for measuring the physical bias correction value described later.
도 4는 이 발명의 후보경계결정부(21)에 의해 결정된 후보영역을 도시한 도면이다. 전경영상이미지에 2명 사람이 존재하는 경우, 2개의 후보영역이 검출되는데, 도 4는 그 2개의 후보영역이 겹쳐있는 상태를 도시한다.4 is a diagram showing candidate areas determined by the candidate
군집화부(22)는 후보영역 내에서 레이저스캔데이터를 최근접이웃군집화기법(nearest neighborhood clustering algorithm)을 이용하여 다수의 군집으로 분류한다. 이 최근접이웃군집화기법에 사용되는 근접이웃설정경계 조건은 아래의 수학식 3과 같다.The
여기서, 는 각도 ()에서의 레이저스캔데이터로서 거리값을 의미한다. 과 는 과 사이의 임의의 각도값이다. 는 근접이웃설정경계값으로서, 이 발명의 실시예에서는 사람의 평균 보폭인 2.5피드(feet)로 설정한다.here, Is the angle ( Means distance value. and Is and Any angle value in between. Is the neighborhood setting boundary value, which is set to 2.5 feet, which is the average stride length of a person in the embodiment of the present invention.
즉, 수학식 3과 최근접이웃군집화기법에 따르면, 후보영역 중 레이저스캔데이터로부터 얻어지는 임의의 두 각도에서의 레이저스캔데이터의 차이가 근접이웃설정경계값보다 작은 영역끼리 군집으로 분류됨으로써, 이 군집화부(22)를 통해 다수의 군집들이 생성된다.That is, according to
군집선택부(23)는 군집화부(22)에서 묶여진 다수의 군집들 중 대상체(물체 및/또는 사람)일 가능성이 가장 높은 군집을 선택한다. 군집화부(22)에서 묶여진 다수의 군집들 중에는 배경이 하나의 군집으로 포함될 수도 있다. 따라서, 군집선택부(23)는 다수의 군집들을 군집의 개체수, 배경모델과의 상이도, 후보영역의 중심각으로부터의 차이 등과 같은 기준에 적용하여, 대상체(물체 및/또는 사람)일 가능성이 가장 높은 군집을 선택한다.The
즉, 다수의 군집들 중 가장 적합한 군집을 선택하는 판별함수는 수학식 4와 같다.That is, the discrimination function for selecting the most suitable cluster among the plurality of clusters is shown in
여기서, k는 군집의 개수를 의미하고, Ci는 i번째 군집을 의미하며, 는 수학식 5와 같다. arg는 가 최대인 i값을 m값으로 리턴한다. 즉, 군집을 구성하는 개체수가 많을수록 그 군집이 채택될 가능성이 높다.Here, k means the number of clusters, Ci means the i th cluster, Is the same as
수학식 5에서, 는 각도에 따른 배경 모델() 중 가장 먼 거리값을 의미하는 바, 이를 수식으로 표현하면 수학식 6과 같다. 는 각 각도(θ)에서 측정된 레이저스캔데이터()와 배경모델() 간 차이값을 의미하는 바, 이를 수식으로 표현하면 수학식 7과 같다. 는 후보영역의 경계각의 폭을 의미하는 바, 이를 수식으로 표현하면 수학식 8과 같다. 는 후보영역의 경계각의 중심각을 의미하는 바, 이를 수식으로 표현하면 수학식 9와 같다.In
즉, 수학식 5의 에 따르면 군집에 포함된 각도(θ)가 후보영역의 경계각의 중심각에 가까울수록 는 커지고, 군집에 포함된 각도(θ)가 후보영역의 경계각의 중심각으로부터 멀수록 는 작아진다.That is, the equation (5) According to, the closer the angle θ to the center angle of the boundary angle of the candidate region is, Becomes larger, and the angle θ included in the cluster is farther from the center angle of the boundary angle of the candidate region. Becomes smaller.
아울러, 이 δ 이상이면 에 가 곱해지기 때문에 는 매우 커지고, 이 δ 이상이 아니면 에 가 곱해지기 때문에 는 작다. 즉, 는 레이저스캔데이터가 배경과의 거리가 일정거리 이상 떨어지면 그 값은 커진다.together, Is greater than or equal to δ on Is multiplied by Is getting very large, Is not greater than δ on Is multiplied by Is small. In other words, The value increases when the laser scan data drops more than a certain distance from the background.
배경모델()은 가구들에 의해 변화될 수 있으며, 따라서 배경모델을 학습할 필요가 있다. 배경모델은 전통적인 흑백영상 배경모델을 생성하는 기법 과 유사하게 생성되는 바, 배경모델의 학습을 위한 수식은 아래의 수학식 10과 같다.Background model ) Can be changed by the households, so it is necessary to learn the background model. The background model is generated similarly to the method for generating a background image of a traditional black and white image. The equation for learning the background model is expressed by Equation 10 below.
위의 수학식 10에서, α는 전경데이터의 학습률이고, β는 배경데이터의 학습률로서, 통상적으로 β가 α보다 100배 더 큰 값으로 설정된다.In Equation 10, α is a learning rate of foreground data, β is a learning rate of background data, and β is generally set to a value 100 times larger than α.
도 4의 2개의 점선표시 삼각형 내의 두 쌍의 발자국들(41, 42)은 각각의 후보영역(a, b) 내에서 수학식 4 내지 수학식 9의 판별함수를 통해 선택된 군집을 의미한다. 이 발명에 따르면 후보영역이 겹쳐지더라도 적절한 군집을 선택할 수 있게 된다.Two pairs of
물리적편의보정부(24)는 하나의 후보영역에 판별함수를 적용하여 물체에 가장 적합한 군집을 판별한 결과를 이용하여 레이저스캐너와 비디오카메라간 수평방향의 물리적 편의를 적응적으로 보정한다. 도 5는 물리적편의보정부(24)가 물리적편의를 보정하는 원리를 도시한 도면이다.The physical
후보경계결정부(21)에서 결정된 후보영역의 중심각(Center of candidate)과, 군집선택부(23)에 의해 선택된 군집의 중심각(Center of cluster)의 차이를 줄이는 방향으로 전경영상이미지 또는 레이저스캔데이터를 이동시킨다. 도 6은 전경영상이미지를 이동시켜 레이저스캐너와 비디오카메라간 수평방향의 물리적 편의를 보정 하는 과정을 도시한 도면으로서, (a)는 영상이미지를 도시하고, (b)는 전경영상이미지를 도시하고, (c)는 전경영상이미지에 대해 물리적 편의를 보정한 후를 도시한 도면이다.The foreground image image or the laser scan data in a direction of reducing the difference between the center angle of the candidate area determined by the
도 7은 이 발명에 따른 레이저스캐너와 비디오카메라간 물리적편의보정치 측정장치을 도시한 도면이다.FIG. 7 is a diagram illustrating an apparatus for measuring correction values of physical pieces between a laser scanner and a video camera according to the present invention.
물리적편의보정치 측정장치은 전경영상이미지와 설정 물리적편의보정치를 이용하여 후보영역의 경계를 결정하는 후보경계결정부(71)와, 후보영역 내에 위치한 레이저스캔데이터를 다수의 군집으로 분류하는 군집화부(72)와, 군집화부(72)에서 분류된 다수의 군집들 중 기설정된 조건에 맞는 군집을 선택하는 군집선택부(73)와, 후보영역과 선택된 군집의 영역의 오차를 이용하여 상기 물리적편의보정치를 업데이트한 후 상기 후보경계결정부에 제공하는 보정치계산부(74)를 포함한다.The physical convenience correction value measuring apparatus includes a candidate
후보경계결정부(71)와 군집화부(72)와 군집선택부(73)의 기능은 각각 도 2의 후보경계결정부(21)와 군집화부(22)와 군집선택부(23)의 기능과 동일하다.The functions of the candidate
보정치계산부(74)는 후보영역의 중심각과 선택된 군집의 중심각을 줄이는 방향으로 설정 물리적편의보정치(bias)를 업데이트하는 바, 이를 수식으로 정리하면 수학식 11과 같다.The
여기서, ρ는 학습률이고, MidAng(m)은 선택된 군집의 중심각으로서, 이를 수식으로 표현하면 수학식 12와 같다.Where ρ is the learning rate and MidAng (m) is the center angle of the selected cluster.
여기서, 는 군집을 이루는 각도(θ) 중 최소값이고, 는 군집을 이루는 각도(θ) 중 최대값이다.here, Is the minimum of the clustering angles θ, Is the maximum value of the angle θ of the cluster.
이렇게 보정치계산부(74)가 설정 물리적편의보정치를 업데이트하여 후보경계결정부(71)에게 제공하고, 다음 프레임의 전경영상이미지에 대해 후보경계결정부(71) 내지 보정치계산부(74)의 동작을 반복 수행하면, 설정 물리적편의보정치는 실제 물리적 편의 보정값으로 수렴된다.In this way, the
[실험결과][Experiment result]
이 발명에서 제안된 시스템의 성능을 평가하기 위하여 비디오카메라의 수평각도를 3도씩 회전시켜가며 원점으로부터의 상대적인 물리적 편의 보정치를 측정하였으며, 그 실험 결과를 표 1에 나타내었다. 이 실험에서 측정은 5차례씩 수행되었으며, 아래의 표 1은 그 평균값을 기록한 것이다.In order to evaluate the performance of the proposed system, relative physical bias corrections from the origin were measured by rotating the horizontal angle of the video camera by 3 degrees, and the experimental results are shown in Table 1. In this experiment, measurements were performed five times, and Table 1 below records the average values.
표 1에서 알 수 있는 바와 같이, 이 발명에 따르면 설정 물리적편의보정치(bias)와 실제 물리적 편의 보정값과의 평균 오차는 0.085도이다. 설정 물리적편의보정치의 시간에 따른 수렴정도는 도 8에 도시된 바와 같다. 도 8에서 LR은 학습률(ρ)을 의미한다. 학습률이 0.5인 경우, 수렴시간은 10 프레임보다 적음을 알 수 있다.As can be seen from Table 1, according to the present invention, the average error between the set bias of the set physical bias and the correction value of the actual physical bias is 0.085 degrees. The degree of convergence with time of the correction value of the set physical convenience is shown in FIG. 8. In FIG. 8, LR means a learning rate ρ. When the learning rate is 0.5, it can be seen that the convergence time is less than 10 frames.
따라서, 설정 물리적편의보정치(bias)의 변동량이 임계값 이하인 경우, 설정 물리적편의보정치를 실제 물리적 편의 보정값으로 설정하며, 이를 이용하여 비디오카메라와 레이저스캐너간 물리적 편의를 보정할 수 있다.Therefore, when the variation amount of the set physical bias correction value (bias) is less than or equal to the threshold value, the set physical bias correction value is set as the actual physical bias correction value, and the physical bias between the video camera and the laser scanner can be corrected using this.
이상에서 본 발명에 대한 기술사상을 첨부도면과 함께 서술하였지만, 이는 본 발명의 가장 양호한 실시예를 예시적으로 설명한 것이지 본 발명을 한정하는 것은 아니다. 또한, 이 기술분야의 통상의 지식을 가진 자라면 누구나 본 발명의 기술사상의 범주를 이탈하지 않는 범위 내에서 다양한 변형 및 모방이 가능함은 명백한 사실이다.The technical spirit of the present invention has been described above with reference to the accompanying drawings, but this is by way of example only for describing the best embodiment of the present invention and not for limiting the present invention. In addition, it is a matter of course that various modifications and variations are possible without departing from the scope of the technical idea of the present invention by anyone having ordinary skill in the art.
도 1은 이 발명이 적용되는 비디오카메라와 레이저스캐너를 융합한 추적시스템의 일 예를 도시한 구성 블록도,1 is a block diagram showing an example of a tracking system incorporating a video camera and a laser scanner to which the present invention is applied;
도 2는 이 발명의 레이저스캐너와 비디오카메라간 물리적 편의 보정장치을 도시한 구성 블록도,2 is a block diagram showing a device for compensating physical convenience between the laser scanner and the video camera of the present invention;
도 3은 영상이미지(a)와, 영상이미지(a)로부터 배경 영역이 제거된 전경영상이미지(b)를 도시한 도면,3 is a view showing an image image (a) and a foreground image image (b) from which a background area is removed from the image image (a);
도 4는 이 발명의 후보경계결정부(21)에 의해 결정된 후보영역을 도시한 도면,4 is a diagram showing candidate areas determined by the candidate
도 5는 물리적편의보정부(24)가 물리적편의를 보정하는 원리를 도시한 도면,5 is a diagram showing the principle of the physical
도 6은 전경영상이미지를 이동시켜 레이저스캐너와 비디오카메라간 수평방향의 물리적 편의를 보정하는 과정을 도시한 도면,6 is a diagram illustrating a process of correcting a physical bias in a horizontal direction between a laser scanner and a video camera by moving a foreground image image;
도 7은 이 발명에 따른 레이저스캐너와 비디오카메라간 물리적편의보정치 측정장치을 도시한 도면,7 is a view showing an apparatus for measuring correction value of physical convenience between a laser scanner and a video camera according to the present invention;
도 8은 이 발명에 따른 설정 물리적편의보정치의 시간에 따른 수렴정도를 도시한 그래프이다.8 is a graph showing the degree of convergence over time of the correction value of the set physical convenience according to the present invention.
Claims (20)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020090047965A KR101047150B1 (en) | 2009-06-01 | 2009-06-01 | Compensation device and method for physical convenience between laser scanner and video camera, Compensation measurement device and method for physical convenience |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020090047965A KR101047150B1 (en) | 2009-06-01 | 2009-06-01 | Compensation device and method for physical convenience between laser scanner and video camera, Compensation measurement device and method for physical convenience |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20100129410A KR20100129410A (en) | 2010-12-09 |
KR101047150B1 true KR101047150B1 (en) | 2011-07-07 |
Family
ID=43506022
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020090047965A KR101047150B1 (en) | 2009-06-01 | 2009-06-01 | Compensation device and method for physical convenience between laser scanner and video camera, Compensation measurement device and method for physical convenience |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR101047150B1 (en) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20170031901A (en) * | 2015-09-14 | 2017-03-22 | 한화테크윈 주식회사 | Scanning Method Using High Speed Scanning Device |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20090021724A (en) * | 2007-08-28 | 2009-03-04 | 주식회사 만도 | Apparatus for discriminating forward objects of vehicle by using camera and laser scanner |
-
2009
- 2009-06-01 KR KR1020090047965A patent/KR101047150B1/en not_active IP Right Cessation
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20090021724A (en) * | 2007-08-28 | 2009-03-04 | 주식회사 만도 | Apparatus for discriminating forward objects of vehicle by using camera and laser scanner |
Non-Patent Citations (2)
Title |
---|
B. Jung and G. S. Sukhatme, "Tracking Multiple Moving Targets using a Camera and Laser Rangefinder", IRIS Technical Report IRIS-01-397, USC, 2001. |
D. Scaramuzza et al., "Extrinsic self calibration of a camera and a 3D laser range finder from natural scenes", IROS 2007, pp.4164-4169, Oct. 29 2007-Nov. 2 2007. |
Also Published As
Publication number | Publication date |
---|---|
KR20100129410A (en) | 2010-12-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8385595B2 (en) | Motion detection method, apparatus and system | |
Levinson et al. | Automatic online calibration of cameras and lasers. | |
KR101766603B1 (en) | Image processing apparatus, image processing system, image processing method, and computer program | |
CN107077743A (en) | System and method for the dynamic calibration of array camera | |
JP2019079487A (en) | Parameter optimization device, parameter optimization method and program | |
Conrad et al. | Homography-based ground plane detection for mobile robot navigation using a modified em algorithm | |
JP6891873B2 (en) | Image processing equipment and methods | |
KR100651034B1 (en) | System for detecting targets and method thereof | |
CN105335955A (en) | Object detection method and object detection apparatus | |
CN103460248B (en) | Image processing method and device | |
JP6444283B2 (en) | Posture determination device | |
US8531505B2 (en) | Imaging parameter acquisition apparatus, imaging parameter acquisition method and storage medium | |
US10386930B2 (en) | Depth determining method and depth determining device of operating body | |
JP6694281B2 (en) | Stereo camera and imaging system | |
Wang et al. | A modular approach to the analysis and evaluation of particle filters for figure tracking | |
JP6799325B2 (en) | Image correction device, image correction method, attention point recognition device, attention point recognition method and abnormality detection system | |
JP6977337B2 (en) | Site recognition method, device, program, and imaging control system | |
JP7156511B2 (en) | OBJECT DETECTION DEVICE, OBJECT DETECTION SYSTEM, OBJECT DETECTION METHOD AND PROGRAM | |
KR101047150B1 (en) | Compensation device and method for physical convenience between laser scanner and video camera, Compensation measurement device and method for physical convenience | |
KR20170072491A (en) | Apparatus and method for detecting entity in pen | |
JP2006148442A (en) | Mobile monitoring apparatus | |
US11625836B2 (en) | Trajectory calculation device, trajectory calculating method, and trajectory calculating program | |
JP3864491B2 (en) | Disparity calculating device, distance calculating device, and methods thereof | |
JP2016042639A (en) | Camera posture controller, method and program | |
JP6074198B2 (en) | Image processing apparatus and image processing method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant | ||
FPAY | Annual fee payment |
Payment date: 20140521 Year of fee payment: 4 |
|
LAPS | Lapse due to unpaid annual fee |