KR20180077865A - Online apparatus and method for Multiple Camera Multiple Target Tracking Based on Multiple Hypothesis Tracking - Google Patents

Online apparatus and method for Multiple Camera Multiple Target Tracking Based on Multiple Hypothesis Tracking Download PDF

Info

Publication number
KR20180077865A
KR20180077865A KR1020160182665A KR20160182665A KR20180077865A KR 20180077865 A KR20180077865 A KR 20180077865A KR 1020160182665 A KR1020160182665 A KR 1020160182665A KR 20160182665 A KR20160182665 A KR 20160182665A KR 20180077865 A KR20180077865 A KR 20180077865A
Authority
KR
South Korea
Prior art keywords
track
unit
tracklet
candidate
tracking
Prior art date
Application number
KR1020160182665A
Other languages
Korean (ko)
Other versions
KR101878390B1 (en
Inventor
유한주
김승훈
최상일
최진영
Original Assignee
단국대학교 산학협력단
서울대학교산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 단국대학교 산학협력단, 서울대학교산학협력단 filed Critical 단국대학교 산학협력단
Priority to KR1020160182665A priority Critical patent/KR101878390B1/en
Publication of KR20180077865A publication Critical patent/KR20180077865A/en
Application granted granted Critical
Publication of KR101878390B1 publication Critical patent/KR101878390B1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/292Multi-camera tracking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N5/225
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources

Abstract

The present invention relates to an online apparatus and method for multi-camera multi-target tracking based on multiple hypothesis tracking (MHT), which adopts an MHT frame work based on delay determination and is for using a tracklet (partial fragment of estimated target trajectory) in two-dimensional (2D) image coordinates to reduce an operation load of the MHT for multiple cameras. The online apparatus for multi-camera multi-target tracking based on MHT comprises: a tracklet generation unit for converting detection results detected through a frame for each camera of multiple cameras into tracklets; a candidate track generation unit for generating candidate tracks which can result in tracking in a three-dimensional space through all possible temporal and spatial combinations with the tracklets converted in the tracklet generation unit; a track selection unit for selecting a candidate track with high probability of being trajectory of a target as an optimal track on the basis of probability among the candidate tracks generated in the candidate track generation unit, and continuously selecting an optimal track while feeding back the selected optimal track; and a track removal unit for checking a track by using an approximation of global track probability (AGTP) or an N scan back scheme using the length of a track, the estimated height of a detected object and the like based on the candidate tracks generated in the candidate track generation unit and the optimal track selected in the track selection unit so as to remove an unchecked track and transmit a result to the candidate track generation unit.

Description

다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 장치 및 방법{Online apparatus and method for Multiple Camera Multiple Target Tracking Based on Multiple Hypothesis Tracking}TECHNICAL FIELD [0001] The present invention relates to an on-line apparatus and method for multi-camera tracking based on multiple hypothesis tracking,

본 발명은 카메라 트래킹 장치 및 방법에 관한 것으로, 특히 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 장치 및 방법에 관한 것이다.The present invention relates to a camera tracking apparatus and method, and more particularly, to an online apparatus and method for multi-camera multi-target tracking based on multiple hypothesis tracking.

다중 표적 트래킹은 컴퓨터 비전에서 필수적인 기술로서 집중적으로 연구되어왔으며, 표적의 외관과 동적인 정보를 활용하는 온라인 및 묶음 방법이 최근 제안되었다.Multi-target tracking has been intensively studied as an indispensable technology in computer vision, and online and bundling methods utilizing the appearance of the target and dynamic information have recently been proposed.

그러나 이런한 방법은 단일 카메라를 사용한 영상 추적을 위해 제안되었다. 단일 카메라를 사용할 경우, 주변 장애물이나 추적 대상끼리의 가려짐에 의해 시각적 차단이 빈번히 일어나게 되고, 이는 감시 대상의 밀도가 높거나 환경이 복잡한 경우 전체적인 추적 성능의 하락으로 귀결된다. 특히 교실이나 상점과 같이 인구 밀도가 높고 다양한 장애로 인해 교착 상태가 많은 복잡한 환경에서는 성능이 떨어지게 된다. However, such a method is proposed for image tracking using a single camera. When a single camera is used, visual obstacles frequently occur due to surrounding obstacles or obstructions between the objects to be tracked. This results in a deterioration of the overall tracking performance when the density of the monitored object is high or the environment is complicated. Especially in complex environments where population density is high, such as classrooms or shops, and many obstacles lead to many deadlocks.

이러한 문제를 극복하기 위해, Possegger et al.(H. Possegger, T. Mauthner, P. M. Roth, and H. Bischof, "Occlusion geodesics for online multi-object tracking," in Computer ision and Pattern Recognition (CVPR), 2014 IEEE Conference on. IEEE, 2014, pp. 1306.1313.)은 감시 환경 내에 존재하는 장애물에 대한 사전 정보를 사용하여 가려짐을 추론하고 이를 추적 단계에서 활용하는 방법을 제안하였다. 이를 통해 고정된 장애물 환경 하에서 견고한 성능을 보여주었으나, 동적인 장애물이 존재하거나 장애물에 대한 사전정보가 없는 상황에서는 적절한 성능을 보장할 수 없다는 문제점이 있었다.To overcome this problem, Possegger et al. (H. Possegger, T. Mauthner, PM Roth, and H. Bischof, "Occlusion geodesics for online multi-object tracking, IEEE Conference on IEEE, 2014, pp. 1306.1313.) Inferred that the obstacles existing in the surveillance environment were covered by prior information, and proposed a method of using them in the tracking stage. In this way, robust performance is shown under fixed obstacle environments, but there is a problem in that proper performance can not be guaranteed in the absence of dynamic obstacles or prior information about obstacles.

이러한 다중 표적 트래킹에서 가려짐 문제를 해결하기 위해, 겹쳐지는 시야를 가진 다중 카메라를 사용하는 방법이 제안되었다. 이러한 다중 카메라 다중 표적 트래킹 (MCMTT) 문제에서는 서로 다른 시각, 서로 다른 카메라에서 탐지된 결과들 중 같은 대상으로부터 탐지된 것을 찾아야 한다. 때문에 시간적, 공간적 결합의 문제를 동시에 해결해야한다.In order to solve the problem of occlusion in such multi-target tracking, a method using a multi-camera with overlapping field of view has been proposed. In such a multi-camera multi-target tracking (MCMTT) problem, it is necessary to find a detection from the same object among the results detected by different cameras at different times. Therefore, the problem of temporal and spatial combination must be solved at the same time.

공간적 결합에서는 동일 표적에 대해 서로 다른 카메라에서 관측된 결과를 결합하고, 시간적 결합에서는 동일 표적이 시간이 흐름에 따라 서로 다른 프레임에서 출현하는 것들을 결합한다. In spatial combination, we combine observed results from different cameras for the same target, and in temporal combination, the same target combines those that appear in different frames over time.

따라서 MCMTT는 시간적 결합만을 고려하는 단일 카메라 추적보다 복잡하다. 이러한 이유로 최근 MCMTT 알고리즘의 대부분은 우수한 성능을 보장하기 위해 배치 방식에 기반하고 있다. 하지만 이러한 배치 기반 알고리즘들은 실시간으로 추적을 처리해야 하는 많은 실제 응용 시스템들에서 사용할 수 없다는 큰 문제점이 있다.Thus, MCMTT is more complex than single camera tracking, which considers temporal combining only. For this reason, most of the recent MCMTT algorithms are based on a placement scheme to ensure good performance. However, there is a big problem that these batch-based algorithms can not be used in many practical application systems that need to process the trace in real time.

등록특허공보 제10-1208427호 (등록일자 2012.11.29)Patent Registration No. 10-1208427 (Registration date 2012.11.29) 등록특허공보 제10-1195942호 (등록일자 2012.10.23)Patent Registration No. 10-1195942 (registered on October 23, 2012)

따라서 본 발명은 상기와 같은 문제점을 해결하기 위해 안출한 것으로서, 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 장치 및 방법으로, 지연 결정에 기반한 다중 가설 트레킹(Multiple Hypothesis Tracking, 이하 MHT) 프레임 워크를 채택하였다. 또한, 다중 카메라에 대한 MHT의 연산 부하를 줄이기 위해 2 차원(2D) 이미지 좌표에서 트랙렛(추정된 목표 궤적의 부분 파편)을 사용하는데 그 목적이 있다.SUMMARY OF THE INVENTION Accordingly, it is an object of the present invention to provide an on-line device and method for multi-camera multi-target tracking based on multiple hypothesis tracking, and a multiple hypothesis tracking (MHT) Work. It is also intended to use the tracklets (partial fragments of the estimated target trajectory) in two-dimensional (2D) image coordinates to reduce the computational load of the MHT on multiple cameras.

본 발명의 다른 목적은 최첨단 MCMTT 방법들이 공간적 결합에 있어 기하정보만 고려하기 때문에 갖게 되는 한계점을 해결하기 위한 것으로서, 본 발명의 점수는 기하정보 뿐 아니라 표적의 모양 및 동작 정보를 고려하여 보다 높은 결합 정확도를 갖는 것을 목적으로 한다.Another object of the present invention is to solve the limitations of the state-of-the-art MCMTT methods due to considering only geometric information in spatial combination. The score of the present invention is a combination of geometric information, It is aimed to have accuracy.

본 발명의 또 다른 목적은 MHT 기반 방식의 높은 연산량을 해결하기 위한 것으로서, 본 발명의 확률 문제 해결 솔류선은 이전 프레임의 솔루션 중 K최고들을 이용하는 분할 및 정복 방식을, 최신의 휴리스틱 알고리즘과 결합하는 것을 목적으로 한다.Another object of the present invention is to solve the high computational load of the MHT-based scheme. The probability problem solving line of the present invention combines the partitioning and conquering method using the K highest of the solutions of the previous frame with the latest heuristic algorithm .

본 발명의 다른 목적들은 이상에서 언급한 목적으로 제한되지 않으며, 언급되지 않은 또 다른 목적들은 아래의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.Other objects of the present invention are not limited to the above-mentioned objects, and other objects not mentioned can be clearly understood by those skilled in the art from the following description.

상기와 같은 목적을 달성하기 위한 본 발명에 따른 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 장치의 특징은 다중 카메라의 각 카메라별로 프레임을 통해 탐지되는 탐지 결과를 트랙렛(tracklet)으로 변환하는 트랙렛 생성부와, 상기 트랙렛 생성부에서 변환된 트랙렛들을 가지고 가능한 모든 시간적·공간적 결합을 통해 3차원 공간 상 추적 결과가 될 수 있는 후보트랙을 생성하는 후보트랙 생성부와, 상기 후보트랙 생성부에서 생성된 후보트랙 중 확률 상으로 표적의 경로(trajectory)일 확률이 높은 후보트랙을 최적 트랙으로 선별하고, 선별된 최적 트랙을 피드백하면서 연속하여 최적 트랙을 선별하는 트랙 선별부와, 상기 후보트랙 생성부에서 생성된 후보들 및 상기 트랙 선별부에서 선별된 최적 트랙을 기반으로 트랙의 길이 및 탐지된 개체의 예상 높이 등을 이용하여 근사 글로벌 확률(AGTP) 또는 N 스캔 백 방식을 이용하여 추적 결과가 될 수 있는 가능성을 진단하여 그 가능성이 설정된 임계치보다 낮은 트랙을 제거하고, 그 결과를 상기 후보트랙 생성부로 전달하는 트랙 제거부를 포함하여 구성되는데 있다.According to an aspect of the present invention, there is provided an on-line device for multi-camera multi-target tracking based on multiple hypothesis tracking according to the present invention, comprising: A candidate track generating unit for generating a candidate track that can be a tracing result in three-dimensional space through all possible temporal / spatial combinations with the tracklets transformed by the tracklet generating unit; A track selector for selecting a candidate track having a high probability of a target trajectory on the probability among the candidate tracks generated by the track generating unit as an optimum track and successively selecting an optimum track while feeding back the selected optimum track, A candidate track generated by the candidate track generating unit, and an optimum track selected by the track selecting unit, (AGTP) or an N scan back method using the estimated height of the detected object and the like, thereby removing a track whose probability is lower than the set threshold, To the candidate track generating unit.

바람직하게 상기 트랙렛은 연속적인 프레임들로부터의 검출들 간의 시간적 결합을 통해 생성되며, 상기 후보트랙 생성부는 생성되는 트랙렛들의 움직임 정보 및 모양 정보를 고려한 연결 과정을 통해 후보 트랙을 생성하는 것을 특징으로 한다.Preferably, the tracklet is generated through a temporal combination between detections from successive frames, and the candidate track generating unit generates a candidate track through a linking process considering motion information and shape information of the generated tracklets .

바람직하게 상기 트랙렛 생성부는 각 탐지 결과 및 기존에 이미 생성된 트랙렛들 사이의 유사도를 산출하는 매칭 스코어 산출부와, 상기 매칭 스코어 산출부에서 산출된 유사도를 기반으로 물리적으로 같은 표적으로부터 기인한 탐지 결과 및 트랙렛인지 여부를 최종적으로 환인 및 판단하는 매치 확인부와, 상기 매치 확인부에서 검출되는 트랙렛을 관리하는 트랙렛 관리부를 포함하여 구성되는 것을 특징으로 한다.Preferably, the tracklet generator includes a matching score calculator for calculating the detection result and the similarity between tracklets that have already been generated, and a matching score calculator for calculating the similarity between the tracklets based on the similarity calculated physically from the same target based on the similarity calculated by the matching score calculator And a tracklet management unit for managing the tracklets detected by the match confirmation unit. The track checking unit may be configured to detect a result of the detection and a tracklet.

바람직하게 상기 후보트랙 생성부는 트랙렛 생성부에서 도출되어 3차원 좌표계 상으로 변환된 트랙렛들 중 새로운 트랙렛으로 생성하거나 일치하는 결과가 있는 기존 트랙렛을 업데이트하는 트랙 업데이트부와, 상기 트랙 업데이트부의 결과를 이용하여 트랙렛 생성부(100)에서 변환된 트랙렛들 중 같은 사람에게서 생성된 트랙렛들끼리 적어도 하나 이상의 묶음으로 결합하는 트랙렛 결합부와, 상기 트랙렛 결합부에서 결합된 묶음별로 3차원 공간상에 3차원 좌표를 갖는 트랙을 생성하고, 생성된 트랙에 스코어를 부여하는 트랙 생성부와, 상기 트랙 업데이트부의 결과 및 트랙 생성부에서 생성된 트랙 스코어를 적용하여 추적 결과가 될 수 있는 후보들을 확립하는 후보트랙 확립부를 포함하여 구성되는 것을 특징으로 한다.Preferably, the candidate track generating unit includes a track updater for generating a new tracklet among the tracklets derived from the tracklet generator and transformed into a three-dimensional coordinate system, or updating an existing tracklet having a matching result, A tracklet combining unit that combines the tracklets generated by the same person among at least one of the converted tracklets in the tracklet generating unit 100 using at least one bundle, A track generating unit for generating a track having three-dimensional coordinates on a three-dimensional space and assigning a score to the generated track; and a track generating unit for applying the track score generated by the track updating unit and the track generating unit, And a candidate track establishing unit for establishing candidates that can be selected from the candidate tracks.

바람직하게 상기 트랙 선별부는 피드백되는 최적 트랙 정보를 이용하여 일치하는 그룹을 갖는 트랙들을 서브-그룹으로 분류하는 MWCP 구조부와, 상기 MWCP 구조부에서 분류된 서브-그룹별 실제 표적의 경로일 정의된 임계치를 갖는 확률보다 높은 트랙을 선별하고, 선별된 트랙을 상기 MWCP 구조부로 피드백하는 글로벌 가설 형성부를 포함하여 구성되는 것을 특징으로 한다.Preferably, the track selection unit comprises: an MWCP structure unit for classifying tracks having a matching group into sub-groups by using the optimum track information to be fed back; and a threshold value determination unit for determining a threshold defined as a path of an actual target for each sub- And a global hypothesis forming unit for selecting a track having a probability higher than the probability of having the selected track and feeding back the selected track to the MWCP structure unit.

바람직하게 상기 트랙 제거부는 트랙 선별부에서 선별된 최적 트랙들을 제거하기 위한 글로벌 가설을 설정하는 AGTP(Approximation of Global Track Probability)부와, 상기 AGTP부에서 설정된 글로벌 가설을 기준으로 검출된 트랙들 중 근사 글로벌 확률(AGTP)이 없는 트랙을 제거하는 미확인 트랙 제거부와, 상기 AGTP부에서 설정된 글로벌 가설을 기준으로 N 프레임을 스캔하여 상기 글로벌 가설에 따라 대상의 위치를 수정하고, 고정된 위치의 대상과 호환되지 않는 모든 트랙을 제거하는 N 스캔 백 제거부를 포함하여 구성되는 것을 특징으로 한다.Preferably, the track remover includes an Approximation of Global Track Probability (AGTP) unit for setting a global hypothesis for eliminating optimal tracks selected by the track selection unit, and an Approximation of Global Track Probability An unidentified track removing unit for removing a track having no global probability (AGTP); an N frame scanning unit for scanning an N frame based on a global hypothesis set by the AGTP unit to correct a position of an object according to the global hypothesis, And an N scan back removing unit for removing all incompatible tracks.

상기와 같은 목적을 달성하기 위한 본 발명에 따른 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 방법의 특징은 (A) 다중 카메라의 각 카메라에서 이미지를 받아온 매 프레임에서 보행자를 탐지하고, 이러한 탐지 결과를 시간별로 짝을 지어 한 사람에 대한 트랙렛(tracklet)으로 변환하는 단계와, (B) 후보트랙 생성부를 통해 상기 변환된 트랙렛들을 가지고 가능한 모든 시간적·공간적 결합을 통해 3차원 상 추적 결과가 될 수 있는 후보트랙을 생성하는 단계와, (C) 트랙 선별부를 통해 생성된 후보트랙 중 확률 상으로 표적의 경로(trajectory)일 확률이 설정된 임계치 보다 높은 후보트랙을 최적 트랙으로 선별하고, 선별된 최적 트랙을 피드백하면서 연속하여 최적 트랙을 선별하는 단계와, (D) 트랙 제거부를 통해 생성된 후보들 및 상기 트랙 선별부에서 선별된 최적 트랙을 기반으로 트랙의 길이 및 탐지된 개체의 예상 높이 등을 이용하여 근사 글로벌 확률(AGTP) 또는 N 스캔 백 방식을 이용하여 추적 결과가 될 수 있는 가능성을 진단하여 그 가능성이 설정된 임계치보다 낮은 트랙을 제거하고, 그 결과를 상기 후보트랙 생성부로 피드백하는 단계를 포함하여 이루어지는데 있다.According to the present invention, there is provided an on-line method for multi-camera multi-target tracking based on multiple hypothesis tracking according to the present invention, comprising the steps of: (A) detecting a pedestrian in each frame, Converting the detection results into a tracklet for a person by pairing in time; and (B) performing a three-dimensional tracking through all possible temporal / spatial combinations with the transformed tracklets through a candidate track generator (C) selecting a candidate track having a probability that a probability of a trajectory of a target is higher than a preset threshold value among the candidate tracks generated through the track selector as an optimal track, Selecting optimal tracks successively while feeding back the selected optimum tracks; (D) The possibility of becoming a tracking result by using the approximate global probability (AGTP) or the N scan back method using the track length and the expected height of the detected object on the basis of the optimal track selected by the track selection unit is diagnosed Removing a track whose probability is lower than a set threshold value, and feeding back the result to the candidate track generating unit.

바람직하게 상기 (A) 단계는 매칭 스코어 산출부를 통해 각 탐지 결과 및 기존에 이미 생성된 트랙렛들 사이의 유사도를 산출하는 단계와, 매치 확인부를 통해 상기 산출된 유사도를 기반으로 물리적으로 같은 트랙렛 여부를 확인하여 매치되는 트랙렛을 검출하는 단계로 이루어지는 것을 특징으로 한다.Preferably, the step (A) includes the steps of: calculating a result of the detection through the matching score calculator and the similarity between the tracklets already generated; and a step of calculating, based on the calculated similarity, And detecting the tracklet to be matched.

바람직하게 상기 트랙렛의 검출은 트랙렛 관리부를 통해 유효한 일치 항목으로 트랙렛을 업데이트하고, 트랙렛에 대해 일치하는 탐지가 없으면 오탐지로 간주하여 추적 렛이 종료하며, 현재 탐지와 일치하는 트랙렛이 없을 때는 새로운 트랙렛으로 생성하는 단계를 더 포함하는 것을 특징으로 한다.Preferably, the detection of the tracklet updates the tracklet with a valid match through the tracklet management section, and if there is no coincidence detection for the tracklet, the trackinglet is regarded as false detection and the tracklet And generating a new tracklet if there is no new tracklet.

바람직하게 상기 (B) 단계는 트랙렛 결합부를 통해 상기 업데이트 결과를 이용하여 트랙렛 생성부에서 변환된 트랙렛들 중 같은 사람에게서 생성된 트랙렛들끼리 적어도 하나 이상의 묶음으로 결합하는 단계와, 트랙 생성부를 통해 결합된 묶음별로 3차원 공간상에 3차원 좌표를 갖는 트랙을 생성하는 단계와, 상기 생성된 트랙에 스코어를 부여한 후, 후보트랙 확립부를 통해 업데이트 결과 및 생성된 트랙 스코어를 적용하여 추적 결과가 될 수 있는 후보들을 확립하는 단계를 포함하여 이루어지는 것을 특징으로 한다.Preferably, the step (B) includes the steps of: combining the tracklets generated by the same person among at least one of the tracklets transformed by the tracklet generator using the update result through the tracklet combining unit into at least one bundle; Generating a track having three-dimensional coordinates on a three-dimensional space on a bundle-to-bundle basis through a generation unit, applying a score to the generated track, applying an update result and a generated track score through a candidate track establishment unit And establishing candidates that can be the result.

바람직하게 상기 결합 단계에서 결합은 공간적 결합(Spatial Association), 시간적 결합(temporal association), 그리고 상기 공간적 결합 및 시간적 결합의 병합(merge) 중 어느 하나로 이루어지며, 상기 공간적 결합은 시간적으로 겹치는 트랙렛 사이의 결합성에 의해 정의되며, 상기 시간적 결합은 시간적 결합성이 동일한 카메라의 연속적인 트랙렛 사이의 결합성에 의해 정의되는 것을 특징으로 한다.Preferably, in the combining step, the combining is performed by any one of a spatial association, a temporal association, and a merge of the spatial combination and the temporal combination, and the spatial combination is a time- Wherein the temporal coupling is defined by the coupling between successive tracklets of the camera with the same temporal coupling.

바람직하게 상기 생성된 트랙에 스코어를 부여는 다섯 가지 요소를 고려하면서 각 트랙에 대해 스코어를 부여하며, 첫 번째 것은 트랙의 위치가 탐지와 동일한지를 나타내는 재구성 스코어

Figure pat00001
, 두 번째는 트랙의 연속 위치의 기하학적 적합성을 고려한 연결 스코어
Figure pat00002
, 세 번째와 네 번째는 시작 스코어
Figure pat00003
와 종료 스코어
Figure pat00004
, 마지막 하나는 트랙과 관련된 탐지 간의 시각적 유사도를 나타내는 시각적 스코어
Figure pat00005
인 것을 특징으로 한다.Preferably, a score is given for each track, taking into consideration the five factors that are to be awarded to the generated track, the first being a reconstruction score < RTI ID = 0.0 >
Figure pat00001
, The second is the connection score taking into account the geometric fit of the consecutive positions of the track
Figure pat00002
, The third and fourth start score
Figure pat00003
And end score
Figure pat00004
, And the last one is a visual score indicating the visual similarity between the detections associated with the track
Figure pat00005
.

바람직하게 상기 (C) 단계는 MWCP 구조부를 통해 피드백되는 최적 트랙 정보를 이용하여 일치하는 그룹을 갖는 트랙들을 서브-그룹으로 분류하는 단계와, 글로벌 가설 형성부를 통해 상기 분류된 서브-그룹별 실제 표적의 경로일 확률이 높은 최적 트랙을 선별하는 단계와, 상기 선별된 최적 트랙을 상기 MWCP 구조부로 피드백하는 단계를 포함하여 이루어지는 것을 특징으로 한다.Preferably, the step (C) includes the steps of: classifying tracks having a coincident group into sub-groups using optimal track information fed back through the MWCP structure section; Selecting an optimal track having a high probability of being a path of the MWCP structure section; and feeding back the selected optimal track to the MWCP structure section.

바람직하게 상기 (D) 단계는 AGTP(Approximation of Global Track Probability)부를 통해 선별된 최적 트랙들을 제거하기 위한 글로벌 가설을 설정하는 단계와, 미확인 트랙 제거부를 통해 설정된 글로벌 가설을 기준으로 상기 검출된 트랙들 중 근사 글로벌 확률(AGTP)이 없는 트랙을 제거하는 단계와, N 스캔 백 제거부를 통해 설정된 글로벌 가설을 기준으로 N 프레임을 스캔하여 상기 글로벌 가설에 따라 대상의 위치를 수정하고, 고정된 위치의 대상과 호환되지 않는 모든 트랙을 제거하는 단계를 포함하여 이루어지는 것을 특징으로 한다.Preferably, the step (D) includes the steps of setting a global hypothesis for eliminating optimal tracks selected through an Approximation of Global Track Probability (AGTP) unit, determining a global hypothesis based on a global hypothesis set through an unidentified track removal unit, Scanning the N frames based on the global hypothesis set by the N scan back removing unit to correct the position of the target according to the global hypothesis, And removing all tracks that are incompatible with the track.

바람직하게 상기 글로벌 가설은 트랙렛의 파티션에 의해 생성된 트랙 집합으로, 호환 가능한 트랙 세트로 정의되어 트랙들 간의 호환성에 따라 생성되며, 이전 섹션에서 정의한 트랙 점수에 따라 글로벌 가설 중에서 트랙 점수가 가장 높은 글로벌 가설

Figure pat00006
을 검출하는 것을 특징으로 한다.Preferably, the global hypothesis is a set of tracks generated by a partition of a tracklet, which is defined as a compatible set of tracks and is generated according to compatibility between the tracks, and the track score of the global hypothesis is the highest Global hypothesis
Figure pat00006
Is detected.

이상에서 설명한 바와 같은 본 발명에 따른 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 장치 및 방법은 성능뿐만 아니라 계산상의 복잡도를 완화시키는 효과가 있다. 즉, 각 반복마다 높은 점수를 얻은 트랙을 찾고 K 반복 동안 K 개의 트랙을 얻는 단일 카메라 케이스에 대한 배치 모드 K-best 접근법과 달리, 본 발명에 따른 온라인 체계는 K 개의 호환 트랙 세트를 찾도록 설계되어 여러 카메라 설정의 각 프레임에서 여러 대상 추적을 가장 잘 설명한다.The on-line device and method for multi-camera multi-target tracking based on multiple hypothesis tracking according to the present invention as described above has the effect of alleviating not only performance but also computational complexity. That is, unlike the batch mode K-best approach to a single camera case that finds tracks with high scores for each iteration and obtains K tracks over K iterations, the online system according to the present invention is designed to find K compatible track sets Which best describes multiple object tracking in each frame of multiple camera settings.

또한 본 발명은 우리의 계획이 피드백 정보를 기반으로 한 분할 및 정복 알고리즘을 사용하여 제안된 온라인 체계에 의해 거의 최적의 해를 찾을 수 있도록 도와준다. 즉, 과거 프레임의 결과에 대한 피드백 정보는 트랙렛 구성, 후보 트랙 생성 및 MWCP 구성 분할 / 정복에 크게 기여한다.The present invention also allows our scheme to find a near optimal solution by the proposed on-line system using a partitioning and conquering algorithm based on feedback information. That is, the feedback information on the result of the past frame greatly contributes to the configuration of the tracklet, the generation of the candidate track, and the division / conquest of the MWCP configuration.

또한 트랙렛을 구성하기 위해 결합 조건은 현재 탐지와 과거 트랙렛을 연결하도록 설계됨에 따라, 후보 트랙을 생성하기 위해, 현재의 트랙렛을 과거의 후보 트랙과 링크시키는 트랙 트리가 제안되고, MWCP는 이전 프레임의 추적 솔루션을 기반으로 여러 하위 문제로 재구성하여 계산을 줄이는 효과가 있다.Also, since the combining condition is designed to link the current detection to the past tracklet in order to construct the tracklet, a track tree is proposed that links the current tracklet with the past candidate track to create a candidate track, and the MWCP Based on the tracking solution of the previous frame, it is effective to reduce the calculation by reconstructing it into several sub-problems.

또한 MWCP를 위한 최첨단 휴리스틱 알고리즘인 BSL(Breakout Local Search) 이라는 반복적 휴리스틱 알고리즘을 적용함으로써, 각 하위 문제를 해결할 때의 계산량을 줄이는 효과가 있다. 즉, BLS는 거의 최적의 솔루션을 신속하게 찾아낼 뿐만 아니라 약간 수정 된 온라인 전략에 대해 여러 지역 최적 솔루션을 생성한다. 이러한 하위 문제를 해결 한 후에 결과 솔루션을 신뢰할 수 없는 트랙을 제거하기 위해 잘라내기 계획에 활용한다.In addition, by applying a recursive heuristic algorithm called Breakout Local Search (BSL), which is a state-of-the-art heuristic algorithm for MWCP, it is possible to reduce the amount of computation required to solve each sub-problem. In other words, BLS not only quickly finds the nearest optimal solution, but also creates multiple regional optimal solutions for a slightly modified online strategy. After resolving these sub-problems, use the resulting solution in your cut plan to remove unreliable tracks.

도 1 은 본 발명의 실시예에 따른 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 장치의 구성을 나타낸 구성도
도 2 는 본 발명의 실시예에 따른 설명에 앞서 기재된 기호들을 정의한 도면
도 3 은 본 발명의 실시예에 따른 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 방법을 설명하기 위한 흐름도
도 4 및 도 5 는 도 3에서 트랙렛 생성부를 통해 보행자를 탐지하고, 탐지 결과를 시간별로 짝을 지어 한 사람에 대한 트랙렛(tracklet)으로 변환하는 과정을 설명하기 위한 도면
도 6 및 도 7 은 도 3에서 후보트랙 생성부를 통해 3차원 상 추적 결과가 될 수 있는 후보트랙을 생성하는 과정을 설명하기 위한 도면
도 8 은 도 3에서 미확인 트랙 제거부를 통해 설정된 글로벌 가설을 기준으로 트랙을 제거하는 과정을 설명하기 위한 도면
FIG. 1 is a block diagram illustrating a configuration of an online apparatus for multi-camera multi-target tracking based on multiple hypothesis tracking according to an embodiment of the present invention.
2 is a drawing that defines the symbols described before the description according to the embodiment of the present invention
3 is a flow chart illustrating an on-line method for multi-camera multi-target tracking based on multiple hypothesis tracking in accordance with an embodiment of the present invention.
FIGS. 4 and 5 are diagrams for explaining a process of detecting a pedestrian through the tracklet generator in FIG. 3 and converting the detection result into a tracklet for a person by pairing in time
FIGS. 6 and 7 are diagrams for explaining a process of generating a candidate track that can be a three-dimensional tracking result through the candidate track generating unit in FIG.
FIG. 8 is a view for explaining a process of removing a track based on a global hypothesis set through an unidentified track remover in FIG. 3; FIG.

본 발명의 다른 목적, 특성 및 이점들은 첨부한 도면을 참조한 실시예들의 상세한 설명을 통해 명백해질 것이다.Other objects, features and advantages of the present invention will become apparent from the detailed description of the embodiments with reference to the accompanying drawings.

본 발명에 따른 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 장치 및 방법의 바람직한 실시예에 대하여 첨부한 도면을 참조하여 설명하면 다음과 같다. 그러나 본 발명은 이하에서 개시되는 실시예에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예는 본 발명의 개시가 완전하도록하며 통상의 지식을 가진자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것이다. 따라서 본 명세서에 기재된 실시예와 도면에 도시된 구성은 본 발명의 가장 바람직한 일 실시예에 불과할 뿐이고 본 발명의 기술적 사상을 모두 대변하는 것은 아니므로, 본 출원시점에 있어서 이들을 대체할 수 있는 다양한 균등물과 변형예들이 있을 수 있음을 이해하여야 한다.A preferred embodiment of an on-line apparatus and method for multi-camera multi-target tracking based on multiple hypothesis tracking according to the present invention will be described with reference to the accompanying drawings. The present invention may, however, be embodied in many different forms and should not be construed as limited to the embodiments set forth herein. Rather, these embodiments are provided so that this disclosure will be thorough and complete, and will fully convey the scope of the invention to those skilled in the art. It is provided to let you know. Therefore, the embodiments described in the present specification and the configurations shown in the drawings are merely the most preferred embodiments of the present invention and are not intended to represent all of the technical ideas of the present invention. Therefore, various equivalents It should be understood that water and variations may be present.

한편, 본 발명에서 각 뷰 내의 트랙렛은 지상 평면 가정에 기초한 역 투영에 의해 3차원(3D) 공간에서 조립된다. 지면 평면 가정에서, 모든 표적은 지면 평면이라 불리는 3D 가상 평면상에서 움직이는 것으로 가정된다. 이 가정과 카메라 네트워크 보정 정보를 사용하여 삼각 측량없이 각 트랙렛에 대한 3D 위치를 얻을 수 있음에 따라 3D 결합 문제는 접지 평면에서 2D 결합 문제로 단순화된다. Meanwhile, in the present invention, the tracklets in each view are assembled in a three-dimensional (3D) space by back projection based on the ground plane assumption. In the ground plane assumption, all targets are assumed to move on a 3D virtual plane called the ground plane. Because this home and camera network correction information can be used to obtain the 3D position for each tracklet without triangulation, the 3D coupling problem is simplified to a 2D coupling problem in the ground plane.

도 1 은 본 발명의 실시예에 따른 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 장치의 구성을 나타낸 구성도이다.1 is a block diagram illustrating a configuration of an online device for multi-camera multi-target tracking based on multiple hypothesis tracking according to an embodiment of the present invention.

도 1에서 도시하고 있는 것과 같이, 다중 카메라의 각 카메라별로 프레임을 통해 탐지되는 탐지 결과를 트랙렛(tracklet)으로 변환하는 트랙렛 생성부(100)와, 상기 트랙렛 생성부(100)에서 변환된 트랙렛들을 가지고 가능한 모든 시간적·공간적 결합을 통해 3차원 공간 상 추적 결과가 될 수 있는 후보트랙을 생성하는 후보트랙 생성부(200)와, 상기 후보트랙 생성부(200)에서 생성된 후보트랙 중 확률 상으로 표적의 경로(trajectory)일 확률이 높은 후보트랙을 최적 트랙으로 선별하고, 선별된 최적 트랙을 피드백하면서 연속하여 최적 트랙을 선별하는 트랙 선별부(300)와, 상기 후보트랙 생성부(200)에서 생성된 후보들 및 상기 트랙 선별부(300)에서 선별된 최적 트랙을 기반으로 트랙의 길이 및 탐지된 개체의 예상 높이 등을 이용하여 근사 글로벌 확률(AGTP) 또는 N 스캔 백 방식을 이용하여 추적 결과가 될 수 있는 가능성을 진단하여 그 가능성이 설정된 임계치보다 낮은 트랙을 제거하고, 이때의 정보를 상기 후보트랙 생성부(200)로 전달하는 트랙 제거부(400)로 구성된다.As shown in FIG. 1, a tracklet generator 100 converts a detection result detected through a frame into a tracklet for each camera of multiple cameras. The tracklet generator 100 converts A candidate track generating unit 200 for generating a candidate track that can be a tracing result in a three-dimensional space through all possible temporal and spatial combinations with the tracklets generated by the candidate track generating unit 200, A track selecting unit 300 for selecting a candidate track having a high probability of being a target trajectory on the basis of a probability of an optimum track and selecting an optimum track successively while feeding back the selected optimum track, (AGTP) or N (N) using the track length and the estimated height of the detected object based on the candidates generated in the track selection unit 200 and the optimum track selected by the track selector 300, A track removal unit 400 for diagnosing a possibility of being a tracking result by using a cancellation method, removing a track lower than a threshold value at which the possibility is determined, and transmitting the information to the candidate track generation unit 200 .

이때, 상기 트랙렛은 연속적인 프레임들로부터의 검출들 간의 시간적 결합을 통해 생성되며, 후보트랙 생성부(200)는 생성되는 트랙렛의 모션 및 모양 정보와 연결하여 후보 트랙을 생성한다.At this time, the tracklet is generated through a temporal combination between detections from consecutive frames, and the candidate track generating unit 200 generates a candidate track in connection with motion and shape information of the generated tracklet.

상기 트랙렛 생성부(100)는 각 탐지 결과 및 기존에 이미 생성된 트랙렛들 사이의 유사도를 산출하는 매칭 스코어 산출부(110)와, 상기 매칭 스코어 산출부(110)에서 산출된 유사도를 기반으로 물리적으로 같은 트랙렛 여부를 확인하여 매치되는 트랙렛을 검출하는 매치 확인부(120)와, 상기 매치 확인부(120)에서 검출되는 트랙렛을 관리하는 트랙렛 관리부(130)로 구성된다.The tracklet generation unit 100 includes a matching score calculation unit 110 for calculating the detection results and the similarity between tracklets that have already been generated and the similarity calculated based on the similarity calculated by the matching score calculation unit 110 And a tracklet management unit 130 for managing the tracklets detected by the match confirmation unit 120. The tracklet management unit 130 manages the tracklets detected by the match confirmation unit 120. The tracklet management unit 130 manages the tracklets,

상기 후보트랙 생성부(200)는 트랙렛 생성부(100)에서 변환된 트랙렛들 중 새로운 트랙렛으로 생성하거나 일치하는 결과가 있는 기존 트랙렛을 업데이트하는 트랙 업데이트부(210)와, 상기 트랙 업데이트부(210)의 결과를 이용하여 트랙렛 생성부(100)에서 변환된 트랙렛들 중 같은 사람에게서 생성된 트랙렛들끼리 적어도 하나 이상의 묶음으로 결합하는 트랙렛 결합부(220)와, 상기 트랙렛 결합부(220)에서 결합된 묶음별로 3차원 공간상에 3차원 좌표를 갖는 트랙을 생성하고, 생성된 트랙에 스코어를 부여하는 트랙 생성부(230)와, 상기 트랙 업데이트부(210)의 결과 및 트랙 생성부(230)에서 생성된 트랙 스코어를 적용하여 추적 결과가 될 수 있는 후보들을 확립하는 후보트랙 확립부(240)로 구성된다.The candidate track generating unit 200 includes a track updater 210 for generating a new tracklet among the tracklets transformed by the tracklet generator 100 or updating an existing tracklet having a matching result, A tracklet combining unit 220 for combining the tracklets generated by the same person among at least one of the tracklets converted by the tracklet generator 100 using the result of the update unit 210, A track generating unit 230 for generating a track having three-dimensional coordinates on a three-dimensional space for each bundle combined in the tracklet combining unit 220 and giving a score to the generated track; And a candidate track establishing unit 240 for establishing candidates that can be tracked by applying the track score generated by the track generating unit 230.

상기 트랙 선별부(300)는 피드백되는 최적 트랙 정보를 이용하여 일치하는 그룹을 갖는 트랙들을 서브-그룹으로 분류하는 MWCP 구조부(310)와, 상기 MWCP 구조부(310)에서 분류된 서브-그룹별 실제 표적의 경로일 확률이 높은 최적 트랙을 선별하고, 선별된 최적 트랙을 상기 MWCP 구조부(310)로 피드백하는 글로벌 가설 형성부(320)로 구성된다.The track selector 300 includes an MWCP structure unit 310 for classifying tracks having a matching group into sub-groups by using the optimum track information to be fed back, and an MWCP structure unit 310 for sub- And a global hypothesis forming unit 320 that selects an optimal track having a high probability of a target path and feeds back the selected optimum track to the MWCP structure unit 310.

상기 트랙 제거부(400)는 트랙 선별부(300)에서 선별된 최적 트랙들을 제거하기 위한 글로벌 가설을 설정하는 AGTP(Approximation of Global Track Probability)부(410)와, 상기 AGTP부(410)에서 설정된 글로벌 가설을 기준으로 검출된 트랙들 중 근사 글로벌 확률(AGTP)이 없는(AGTP는 KH 최상의 글로벌 가설에 의해 정의되기 때문에 KH 최고의 글로벌 가설에 속하지 않는) 트랙을 제거하는 미확인 트랙 제거부(420)와, 상기 AGTP부(410)에서 설정된 글로벌 가설을 기준으로 N 프레임을 스캔하여 상기 글로벌 가설에 따라 대상의 위치를 수정하고, 고정된 위치의 대상과 호환되지 않는 모든 트랙을 제거하는 N 스캔 백 제거부(430)로 구성된다.The track removal unit 400 includes an Approximation of Global Track Probability (AGTP) unit 410 for setting a global hypothesis for removing the optimal tracks selected by the track selection unit 300, An unidentified track removing unit 420 for removing tracks having no approximate global probability (AGTP) among the tracks detected on the basis of the global hypothesis (AGTP is not included in the KH best global hypothesis because AGTP is defined by the KH best global hypothesis) Scanning the N frames based on the global hypothesis set by the AGTP unit 410 to correct the position of the target according to the global hypothesis and removing all tracks incompatible with the target of the fixed position, (430).

이때, 상기 AGTP부(410)에서의 트랙 제거의 경우, 동일한 트랙 트리에서 확인되지 않은 트랙은 측정이 거의 동일하기 때문에 비슷합니다. 따라서 모든 트랙을 확인되지 않은 트랙 트리에 보관하는 것은 비효율적입니다. At this time, in the case of track removal in the AGTP unit 410, unidentified tracks in the same track tree are similar because the measurements are almost the same. Therefore, it is inefficient to keep all tracks in an unrecognized track tree.

즉, 상기 AGTP부(410)는 미확인 트랙 제거부(420)를 통해 AGTP(Approximation of Global Track Probability)에 따라 각 트리의 베스트 트랙을 제외하고 미확인 트랙 트리에서 모든 트랙을 삭제한다. 그러나 최선의 글로벌 가설을 유지하기 위해 미확인 궤도가 최고의 트랙에 포함되지 않더라도 최상의 글로벌 가설을 유지한다. 이때, 확인된 트랙 트리의 경우, 각 트리의 트랙 수가 기하급수적으로 증가하기 때문에 각 트리에 모든 트랙을 유지하는 것은 어렵습니다. That is, the AGTP unit 410 deletes all the tracks in the unacknowledged track tree except for the best track of each tree according to an Approximation of Global Track Probability (AGTP) through the unidentified track removal unit 420. However, in order to maintain the best global hypothesis, we maintain the best global hypothesis even if unspecified trajectories are not included in the best tracks. At this time, it is difficult to keep all the tracks in each tree because the number of tracks in each tree grows exponentially in the case of the confirmed track tree.

따라서 확인된 트랙 트리에 N 스캔 백 접근법을 적용하여 지연된 결정을 기반으로 하는 트랙을 제거하여야 한다. 이를 위해, 상기 AGTP부(410)는 N 스캔 백 제거부(430)를 통해 가장 좋은 글로벌 가설을 찾은 후 N 프레임을 스캔하여 현재 가장 좋은 글로벌 가설에 따라 대상의 위치를 수정한다. 그런 다음 고정된 위치의 대상과 호환되지 않는 모든 트랙을 잘라낸다. 한편, 상기 N 스캔 백 제거부(430)는 트리 구조의 관점에서 볼 때 현재 최상의 글로벌 가설에서 트랙을 포함하는 분기를 제외하고 이전에 N 개의 프레임에서 각 트랙 트리의 분기를 잘라낸다.Therefore, an N scan back approach should be applied to the identified track tree to remove tracks based on the delayed decision. For this, the AGTP unit 410 finds the best global hypothesis through the N scan back removal unit 430 and then scans N frames and corrects the position of the target according to the current best global hypothesis. It then cuts out all tracks that are incompatible with the destination in the fixed location. Meanwhile, the N scan back removal unit 430 cuts the branch of each track tree from the N frames previously except for the branch including the track in the current best global hypothesis in view of the tree structure.

이와 같이 구성된 본 발명에 따른 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 장치의 동작을 첨부한 도면을 참조하여 상세히 설명하면 다음과 같다. 도 1과 동일한 참조부호는 동일한 기능을 수행하는 동일한 부재를 지칭한다. 그리고 설명에 앞서 기재된 기호들을 다음 도 2에서 정의한다.The operation of the on-line device for multi-camera multi-target tracking based on multiple hypothesis tracking according to the present invention will be described in detail with reference to the accompanying drawings. The same reference numerals as those in Fig. 1 designate the same members performing the same function. The symbols described before the description are defined in the following FIG. 2.

도 3 은 본 발명의 실시예에 따른 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 방법을 설명하기 위한 흐름도이다.3 is a flowchart illustrating an on-line method for multi-camera multi-target tracking based on multiple hypothesis tracking according to an embodiment of the present invention.

도 3을 참조하여 설명하면, 먼저 트랙렛 생성부(100)를 통해 도 4 및 도 5에서 도시하고 있는 것과 같이, 다중 카메라의 각 카메라에서 이미지를 받아온 매 프레임에서 보행자를 탐지하고, 이러한 탐지 결과를 시간별로 짝을 지어 한 사람에 대한 트랙렛(tracklet)으로 변환한다(S10). 이는 각 카메라별로 독립적으로 수행된다.Referring to FIG. 3, as shown in FIGS. 4 and 5, a pedestrian is detected in each frame received by each camera of the multiple cameras through the tracklet generator 100, Into a tracklet for a person in pairs by time (S10). This is performed independently for each camera.

상기 S10 단계를 상세히 설명하면, 매칭 스코어 산출부(110)를 통해 각 탐지 결과 및 기존에 이미 생성된 트랙렛들 사이의 유사도를 산출한 후, 매치 확인부(120)를 통해 상기 산출된 유사도를 기반으로 물리적으로 같은 트랙렛 여부를 확인하여 매치되는 트랙렛을 검출한다. 그리고 트랙렛 관리부(130)를 통해 상기 검출되는 트랙렛을 관리한다.The matching score calculation unit 110 calculates the similarity between the detection results and the tracklets that have already been generated, and then outputs the calculated similarity through the match verification unit 120 Based on whether or not the same tracklet is physically detected, thereby detecting the tracklet that is matched. And manages the detected tracklets through the tracklet management unit 130. [

상기 매칭 스코어 산출부(110)를 통해 유사도를 산출하는 방법을 상세히 설명하면 다음과 같다.A method of calculating the degree of similarity through the matching score calculation unit 110 will be described in detail.

시간 t에서 새롭게 검출된 검출로서

Figure pat00007
를 정의하고, 마지막 검출이 시간 인덱스 t-1을 갖는 모든 트랙렛의 세트로서의
Figure pat00008
는 다음 수학식 1과 같다.As a newly detected detection at time t
Figure pat00007
As the set of all tracklets whose last detection has a time index t-1
Figure pat00008
Is expressed by the following equation (1).

Figure pat00009
Figure pat00009

이때, 트랙렛

Figure pat00010
과 검출
Figure pat00011
사이의 매칭 스코어는 다음 수학식 2 및 수학식 3과 같이 정의된다.At this time,
Figure pat00010
And detection
Figure pat00011
Is defined by the following equations (2) and (3). &Quot; (3) "

Figure pat00012
Figure pat00012

Figure pat00013
Figure pat00013

여기서, 상기

Figure pat00014
는 트랙렛
Figure pat00015
에 의해 포함된 시간 t에서의 검출이다. 그리고 상기
Figure pat00016
는 비교 간격의 길이이다. 또한 상기
Figure pat00017
Figure pat00018
은 후술하는 움직임 추정 기술에 기초한 양방향(순방향 및 역방향) 추적 결과이다. Here,
Figure pat00014
The tracklet
Figure pat00015
Lt; RTI ID = 0.0 > t. ≪ / RTI > And
Figure pat00016
Is the length of the comparison interval. Further,
Figure pat00017
And
Figure pat00018
(Forward and backward) tracking results based on a motion estimation technique described later.

Figure pat00019
는 시간
Figure pat00020
(+1 : 순방향, -1 : 역방향)에서
Figure pat00021
의 추정치로서, 여기서 목표의 크기가 연속 프레임 사이에서 갑자기 변하지 않는다고 가정하면,
Figure pat00022
는 다음 수학식 4와 같이 정의된다.
Figure pat00019
Time
Figure pat00020
(+1: forward, -1: reverse)
Figure pat00021
Assuming here that the size of the target does not suddenly change between consecutive frames,
Figure pat00022
Is defined by the following equation (4).

Figure pat00023
Figure pat00023

여기서

Figure pat00024
는 다음에서 설명하는 모션 추정에서
Figure pat00025
Figure pat00026
사이의 주요 불일치를 나타낸다. here
Figure pat00024
In the motion estimation described below
Figure pat00025
Wow
Figure pat00026
Lt; / RTI >

모션 추정에서 매칭 스코어 산출부(110)는

Figure pat00027
로부터 특징점을 추출하고 시간
Figure pat00028
에서 프레임상의 KLT 특징 추적 알고리즘으로 추적한다. In the motion estimation, the matching score calculation unit 110 calculates
Figure pat00027
And extracts feature points from time
Figure pat00028
With a KLT feature tracking algorithm on the frame.

시각

Figure pat00029
에서 성공적으로 추적된 j번째(
Figure pat00030
) 시점과 시간
Figure pat00031
에서의 추적 결과 사이의 불일치로
Figure pat00032
를 정의하면, 불일치 세트
Figure pat00033
는 다음 수학식 5와 같이 정의된다.Time
Figure pat00029
Lt; RTI ID = 0.0 > j < / RTI >
Figure pat00030
Time and time
Figure pat00031
As a result of discrepancies between
Figure pat00032
, The inconsistency set
Figure pat00033
Is defined by the following equation (5).

Figure pat00034
Figure pat00034

여기서 상기

Figure pat00035
는 정적 특징 점으로부터의 불일치를 거부하는 설계 매개 변수이고,
Figure pat00036
의 관계수(cardinality)가 모든 추적된 특징 지점의 수 절반보다 작은 경우
Figure pat00037
는 이동하지 않으므로
Figure pat00038
으로 결정합니다.Here,
Figure pat00035
Is a design parameter that rejects mismatches from static feature points,
Figure pat00036
Of cardinality is less than half the number of all tracked feature points
Figure pat00037
Does not move
Figure pat00038
.

그렇지 않으면, 매칭 스코어 산출부(110)는 다음 수학식 6과 같이 가장 큰 이웃 집합을 갖는 큰 불일치를 찾는다.Otherwise, the matching score calculation unit 110 finds a large mismatch with the largest neighbor set as shown in Equation (6).

Figure pat00039
Figure pat00039

여기서

Figure pat00040
Figure pat00041
에 비례하는 이웃 윈도우 크기를 나타낼 때, 다음 수학식 7과 같다.here
Figure pat00040
end
Figure pat00041
Is expressed by Equation (7). &Quot; (7) "

Figure pat00042
Figure pat00042

상기에서 순방향 추적을 사용함으로써,

Figure pat00043
Figure pat00044
, 즉 이전 프레임에서의 트랙렛의 최종 검출로부터 얻어진다.By using forward tracking in the above,
Figure pat00043
The
Figure pat00044
, I.e. the final detection of the tracklet in the previous frame.

다음으로 매치 확인부(120)를 통해 산출된 유사도를 기반으로 도 6에서 도시하고 있는 것과 같이, 물리적으로 같은 트랙렛 여부를 확인하여 매치되는 트랙렛을 검출하는 방법을 상세히 설명하면 다음과 같다.Next, as shown in FIG. 6 based on the similarity calculated through the match checking unit 120, a method for detecting whether a tracklet is physically identical and detecting a matching tracklet will be described in detail.

각 프레임에서, 상기 수학식 2에서 정의된 점수로 기존의 Hungarian 방법(H. W. Kuhn, "The hungarian method for the assignment problem,"Naval research logistics quarterly, vol. 2, no. 1-2, pp. 83. 97, 1955.)에 의한 탐지와 추적을 매치한다.In each frame, the existing Hungarian method (HW Kuhn, " The hungarian method for the assignment problem, " Naval research logistics quarterly, vol. 97, 1955.) Matches detection and tracking.

이때, 트랙렛의 강건성을 높이기 위해 다음과 같은 두 가지 3D 기하 조건을 사용하여 각 일치를 확인한다.At this time, to improve the robustness of the tracklet, the following two 3D geometric conditions are used to confirm each match.

첫 번째 조건은 일치하는 탐지와 일치하는 추적의 마지막 탐지 사이의 3D 공간에서의 거리이다. 이는 매치가 유효 할 때 거리가 충분히 가깝다고 가정한다. 탐지 간의 3D 거리를 측정하려면 탐지된 각 보행자의 3D 위치를 단일 탐지로 알아야한다. 이에 따라 모든 보행자가 특정 3D 평면으로 이동한다고 가정하여 단일 탐지에서 발생하는 심도 모호성을 해결한다.The first condition is the distance in 3D space between the matching detection and the last detection of the matching trace. This assumes that the distance is close enough when the match is valid. To measure the 3D distance between detections, you need to know the 3D position of each detected pedestrian with a single detection. This solves the depth ambiguity arising from single detection assuming that all pedestrians are moving to a specific 3D plane.

가정 및 Tsai 카메라 보정 모델을 사용하여 카메라

Figure pat00045
의 이미지 좌표
Figure pat00046
를 3D 지면 평면의 좌표로 전송하는 역 투영 함수
Figure pat00047
를 정의 할 수 있다. 이때, 검출
Figure pat00048
와 트랙렛
Figure pat00049
사이의 일치가 유효하면,
Figure pat00050
Figure pat00051
, 마지막 검출
Figure pat00052
는 다음 수학식 8의 조건을 만족해야 한다.Using the Home and Tsai camera calibration model,
Figure pat00045
Image coordinates of
Figure pat00046
To the coordinates of the 3D ground plane
Figure pat00047
Can be defined. At this time,
Figure pat00048
And tracklet
Figure pat00049
Lt; / RTI > is valid,
Figure pat00050
Wow
Figure pat00051
, Final detection
Figure pat00052
Must satisfy the condition of the following equation (8).

Figure pat00053
Figure pat00053

여기서

Figure pat00054
는 동일한 트랙렛에서 연속 탐지 간의 허용 가능한 최대 3D 거리이며, 입력 비디오의 프레임 속도 및 대상의 평균 이동 속도와 관련된 설계 매개 변수이다.here
Figure pat00054
Is the maximum allowable 3D distance between consecutive detections on the same tracklet and is a design parameter related to the frame rate of the input video and the average moving speed of the object.

두 번째 조건은 탐지된 개체의 예상 높이에 대한 것이다. 이는 표적의 높이가 갑자기 변하지 않는다고 가정 할 때,

Figure pat00055
Figure pat00056
는 그들 사이의 일치가 유효 할 때 유사한 높이를 가질 것이다. 이에 따라, 검출된 물체의 높이를 추정하는 함수로
Figure pat00057
을 정의할 때,
Figure pat00058
Figure pat00059
는 다음 수학식 9의 조건을 만족 시켜서
Figure pat00060
Figure pat00061
사이의 일치 유효성을 보장해야 한다.The second condition is the expected height of the detected object. Assuming that the height of the target does not suddenly change,
Figure pat00055
Wow
Figure pat00056
Will have a similar height when the agreement between them is valid. Accordingly, as a function of estimating the height of the detected object
Figure pat00057
When you define,
Figure pat00058
Wow
Figure pat00059
Satisfies the following condition (9)
Figure pat00060
Wow
Figure pat00061
The validity of the agreement between the two should be guaranteed.

Figure pat00062
Figure pat00062

여기서

Figure pat00063
는 연속 프레임 사이의 목표 높이의 최대 허용 변화량에 대한 설계 매개 변수이다.here
Figure pat00063
Is a design parameter for the maximum allowable variation in target height between consecutive frames.

이처럼, 유효성 검사가 끝나면 트랙렛 관리부(130)를 통해 유효한 일치 항목으로 트랙렛을 업데이트하고, 트랙렛에 대해 일치하는 탐지가 없으면 오탐지로 간주하여 추적 렛이 종료된다. 그리고 현재 탐지와 일치하는 트랙렛이 없을 때는 새로운 트랙렛으로 생성된다.When the validation is completed, the tracklet is updated as a valid match item through the tracklet management unit 130, and if there is no matching detection for the tracklet, the trackinglet is terminated as a false detection. If no tracklet matches the current detection, it is created as a new tracklet.

이어 후보트랙 생성부(200)를 통해 상기 변환된 트랙렛들을 가지고 가능한 모든 시간적·공간적 결합을 통해 3차원 상 추적 결과가 될 수 있는 후보트랙을 생성한다(S20).The candidate track generating unit 200 generates a candidate track that can be a three-dimensional tracking result through all possible temporal / spatial combinations of the converted tracklets (S20).

상기 S20 단계를 상세히 설명하면, 트랙 업데이트부(210)를 통해 변환된 트랙렛들 중 새로운 트랙렛으로 생성하거나 일치하는 결과가 있는 기존 트랙렛을 업데이트하고, 트랙렛 결합부(220)를 통해 상기 업데이트 결과를 이용하여 트랙렛 생성부(100)에서 변환된 트랙렛들 중 같은 사람에게서 생성된 트랙렛들끼리 적어도 하나 이상의 묶음으로 결합한다. 그리고 트랙 생성부(230)를 통해 결합된 묶음별로 3차원 공간상에 3차원 좌표를 갖는 트랙을 생성하고, 생성된 트랙에 스코어를 부여한 후, 후보트랙 확립부(240)를 통해 업데이트 결과 및 생성된 트랙 스코어를 적용하여 추적 결과가 될 수 있는 후보들을 확립한다.In step S20, the track updater 210 generates a new tracklet by updating the existing tracklet with the same result or updates the existing tracklet with the same result, And combines the tracklets generated by the same person among the converted tracklets into at least one bundle by using the update result. Then, a track having three-dimensional coordinates is generated on the three-dimensional space for each combined bundle through the track generating unit 230, a score is given to the generated track, and an update result and generation Lt; RTI ID = 0.0 > track scores < / RTI >

상기 트랙렛 결합부(220)를 통해 트랙렛들끼리 묶음으로 결합하는 방법을 상세히 설명하면 다음과 같다.A method of bundling tracklets through the tracklet engaging part 220 will be described in detail.

트랙렛 간의 데이터 연결은 동일한 대상에서 생성 된 트랙렛을 결정하는 것이다. 즉, 연계를 통해 전체 트랙렛은 여러 개의 하위 집합으로 분할된다. 각 하위 집합은 대상 또는 거짓 경보와 관련되어 있다고 가정하며, 거짓 경보는 비 표적 클러터(clutter)에 의해 생성된 트랙렛이다.The data connection between the tracklets determines the tracklets generated on the same target. In other words, the entire tracklet is divided into several sub-sets through association. Each subset is assumed to be associated with a target or false alarm, and a false alarm is a tracklet generated by a non-target clutter.

Figure pat00064
는 전체 트랙 세트
Figure pat00065
의 모든 가능한 파티션의 집합이라고 하면, MCMTT 문제의 목표는 표적 추적을 가장 잘 설명하는 파티션
Figure pat00066
를 찾는 것이다.
Figure pat00064
The entire track set
Figure pat00065
, The goal of the MCMTT problem is to partition the partitions that best describe the target tracking
Figure pat00066
.

i번째(

Figure pat00067
) 파티션은
Figure pat00068
로 정의되고, 이때, 상기
Figure pat00069
는 잘못된 경보 집합이라고 하는 잘못된 경보 집합이고, 상기
Figure pat00070
는 i번째(
Figure pat00071
) 파티션에서 k번째(
Figure pat00072
) 목표로부터 추정된 트랙렛의 집합이며 결합 집합이라고 부른다.i th (
Figure pat00067
) The partition
Figure pat00068
, ≪ / RTI >
Figure pat00069
Is a false alarm set called a false alarm set,
Figure pat00070
Is the i-th (
Figure pat00071
) Partition to the kth (
Figure pat00072
) A set of estimated tracklets from a target and is called a join set.

대응하는 결합 집합이 주어질 때 결정적 방식으로 트랙을 생성 할 수 있음에 유의하여야 한다. 따라서 가능한 모든 결합 집합을 열거하는 것은 가능한 모든 트랙을 나열하는 것과 같다.It should be noted that a track can be generated in a deterministic manner given a corresponding combination set. Therefore, enumerating all possible join sets is like listing all possible tracks.

파티션 인덱스 없이 가능한 모든 결합 집합의 모든(universe) 집합을 다음 수학식 10과 같이 정의한다.(Universe) set of all possible combinations without partition index is defined as Equation (10).

Figure pat00073
Figure pat00073

여기서는 편의를 위해 인수

Figure pat00074
를 생략한다. 그리고
Figure pat00075
의 해당 트랙을
Figure pat00076
로 표기하고
Figure pat00077
와 결합된 검출 세트를
Figure pat00078
로 표기한다. 또한 결합 집합의 생성 방식을 설명하기 위해 공간적 결합(Spatial Association), 시간적 결합(temporal association) 및 병합(merge)으로 세 가지 연산을 정의한다.Here, for convenience,
Figure pat00074
. And
Figure pat00075
The corresponding track of
Figure pat00076
And
Figure pat00077
Lt; RTI ID = 0.0 >
Figure pat00078
. In addition, three operations are defined as Spatial Association, Temporal Association, and Merge to describe how to create a binding set.

상기 첫 번째의 공간적 결합은 도 7(b)의

Figure pat00079
Figure pat00080
에 도시 된 바와 같이, 공간적 결합성은 시간적으로 겹치는 트랙렛 사이의 결합성에 의해 정의된다. 트랙렛
Figure pat00081
Figure pat00082
이 같은 표적인지 아닌지를 결정하기 위해, 트랙렛에서 동시 검출 사이의 거리가 섹트(Sect)에 기술된 역 투영 함수
Figure pat00083
를 갖는
Figure pat00084
에 의해 한정되는지를 검사하는 다음 수학식 11의 공간 결합성 조건을 나타낸다.The first spatial combination is the same as that of FIG. 7 (b)
Figure pat00079
And
Figure pat00080
The spatial associativity is defined by the coupling between the temporally overlapping tracklets. Tracklet
Figure pat00081
and
Figure pat00082
In order to determine whether or not such a target is present, the distance between simultaneous detections in the tracklet is determined by the inverse projection function
Figure pat00083
Having
Figure pat00084
Lt; RTI ID = 0.0 > (11) < / RTI >

Figure pat00085
Figure pat00085

그리고 두 번째의 시간적 결합은 시간적 결합성이 동일한 카메라의 연속적인 트랙렛 사이의 결합성에 의해 정의되며, 동일한 트랙렛은 동일한 표적에서 나온 것으로 간주된다. 즉, 시간 결합을 위해, 선행하는 트랙렛

Figure pat00086
및 후속하는 트랙렛
Figure pat00087
은 다음의 두 조건을 만족해야한다.And the temporal combination of the second is defined by the coupling between successive tracklets of the same camera with temporal associativity, and the same tracklet is considered to come from the same target. That is, for time combining, the preceding tracklet
Figure pat00086
And the following tracklet
Figure pat00087
Shall satisfy the following two conditions.

조건 1 : 각 표적이 각 뷰에서 최대 하나의 검출을 생성 할 수 있다는 사실에 따라,

Figure pat00088
Figure pat00089
은 일시적으로 중첩되지 않아야한다. 그건, 다음 수학식 12에서 나타낸다.Condition 1: Depending on the fact that each target can generate at most one detection in each view,
Figure pat00088
And
Figure pat00089
Should not be temporarily overlapped. This is expressed by the following equation (12).

Figure pat00090
Figure pat00090

조건 2 : 대상이 갑자기 위치를 변경할 수 없기 때문에

Figure pat00091
,
Figure pat00092
의 마지막 감지 및
Figure pat00093
의 첫 번째 감지인
Figure pat00094
은 3D 공간에서 충분히 근접하다. 따라서
Figure pat00095
가 한 프레임 동안 대상이 움직일 수 있는 최대 거리로 정의되는 경우, 다음 수학식 13의 조건을 갖는다.Condition 2: Because the target can not change position suddenly
Figure pat00091
,
Figure pat00092
Last detection of
Figure pat00093
The first detection of
Figure pat00094
Are close enough in 3D space. therefore
Figure pat00095
Is defined as the maximum distance the object can move during one frame, it has the following condition (13).

Figure pat00096
Figure pat00096

마지막으로 세 번째 병합은 두 결합관계 집합의 결합 집합이 모든 공간적 및 시간적 결합조건을 충족시키는 경우 이 집합도 결합 집합이다. 이 두 결합 집합을 병합 가능이라고 한다. 이를 토대로, 이들 간의 병합 연산

Figure pat00097
는 다음 수학식 14와 같이 정의된다.Finally, the third merge is a conjunctive set where the combined set of two associative relations satisfies all spatial and temporal combining conditions. These two sets are called mergeable. Based on this,
Figure pat00097
Is defined by the following equation (14).

Figure pat00098
Figure pat00098

Figure pat00099
Figure pat00100
의 트랙렛은 이미 모든 연결 조건을 만족하므로
Figure pat00101
의 트랙렛과
Figure pat00102
의 트랙렛 사이의 조건 만족을 검사하여 두 결합성 집합이 병합 가능한지 여부를 결정하면 된다.bracket
Figure pat00099
Wow
Figure pat00100
Tracklet already meets all the connection requirements
Figure pat00101
With a tracklet
Figure pat00102
It is only necessary to determine whether the two sets of associativity can be merged.

그리고 트랙 생성부(230)를 통해 트랙을 생성하는 방법을 상세히 설명하면 다음과 같다.A method of generating a track through the track generating unit 230 will now be described in detail.

결합 집합

Figure pat00103
가 주어 졌을 때, 트랙 생성부(230)는 시간 t에서의
Figure pat00104
의 검출 집합
Figure pat00105
Figure pat00106
을 결정할 수 있다. 그리고
Figure pat00107
를 사용하면 시간 t에서의 트랙
Figure pat00108
의 위치
Figure pat00109
는 재구성 및 평활화의 두 단계로 추정된다.Bond set
Figure pat00103
The track generating unit 230 generates the track < RTI ID = 0.0 >
Figure pat00104
Detection set
Figure pat00105
Figure pat00106
Can be determined. And
Figure pat00107
The track at time t
Figure pat00108
Location of
Figure pat00109
Is estimated to be two stages of reconstruction and smoothing.

이 섹션에서, 재구성의 정의는 시간

Figure pat00110
에서 트랙
Figure pat00111
의 추정된 3D 위치
Figure pat00112
를 생성하는 것이다. 그리고
Figure pat00113
가 공집합이 아닌 경우
Figure pat00114
Figure pat00115
의 기하학적 중심점으로 다음 수학식 15와 같이 정의된다.In this section, the definition of reorganization is time
Figure pat00110
Track in
Figure pat00111
Estimated 3D position of
Figure pat00112
. And
Figure pat00113
Is not an empty set
Figure pat00114
The
Figure pat00115
Is defined as the following equation (15).

Figure pat00116
Figure pat00116

목표물이 시간

Figure pat00117
에 임의의 카메라에 의해 검출되지 않으면,
Figure pat00118
이다. 이 경우에, 인접한 두 개의 재구성된 위치의 보간에 의해
Figure pat00119
를 추정한다. 즉,
Figure pat00120
Figure pat00121
은 각각 비어 있지 않은 감지 집합을 가진 t에서 가장 가까운 선행 시간과 다음 시간을 나타내면, 다음 시간 t에서 재구성된 3D 위치는 다음 수학식 16과 같이 정의된다.Target Time
Figure pat00117
If it is not detected by any camera,
Figure pat00118
to be. In this case, by interpolation of two adjacent reconstructed positions
Figure pat00119
. In other words,
Figure pat00120
Wow
Figure pat00121
Represents the nearest preceding time and next time in t with a nonempty detection set, the reconstructed 3D position at the next time t is defined as: < EMI ID = 16.0 >

Figure pat00122
Figure pat00122

재구성 단계에서 발견된

Figure pat00123
는 다른 시간에
Figure pat00124
의 다른 3D 위치와는 독립적이다. 그러나 인접한 위치는 대상이 특정 동작에서 움직이기 때문에 상호 결합성이 높다.Found in the reconstruction phase
Figure pat00123
At another time
Figure pat00124
Lt; / RTI > 3D position. However, the adjacent positions are highly mutually connected because the object moves in a specific motion.

이러한 종속성을 고려하기 위해 재구성된 3D 위치를 부드럽게 처리하기 위해,

Figure pat00125
의 모든 개개의 재구성된 3D 위치가 발견되면, 시간 t에서
Figure pat00126
의 최종 3D 위치인
Figure pat00127
는 다음 수학식 17에 의해 얻어진다.To smoothly process the reconstructed 3D position to account for this dependency,
Figure pat00125
≪ / RTI >< RTI ID = 0.0 >
Figure pat00126
3D position of
Figure pat00127
Is obtained by the following equation (17).

Figure pat00128
Figure pat00128

여기서

Figure pat00129
는 시간 t에서 평활화된 위치를 반환하는 함수이다.here
Figure pat00129
Is a function that returns the smoothed position at time t.

한편, 생성된 트랙에 스코어를 부여는 다섯 가지 요소를 고려하면서 각 트랙에 대해 스코어를 제안한다. On the other hand, assigning a score to a generated track suggests a score for each track, considering the five factors.

첫 번째 것은 트랙의 위치가 탐지와 동일한지를 나타내는 재구성 스코어

Figure pat00130
이다. 두 번째는 트랙의 연속 위치의 기하학적 적합성을 고려한 연결 스코어
Figure pat00131
이다. 세 번째와 네 번째는 시작 스코어
Figure pat00132
와 종료 스코어
Figure pat00133
이다. 이때, 각 트랙은 트랙의 시작 또는 끝 위치의 적합성을 평가합니다. 그리고 트랙이 보이는 영역 또는 입구의 경계에서 시작하거나 끝나면 트랙의 시작 또는 종료 스코어가 낮습니다. 마지막 하나는 트랙과 관련된 탐지 간의 시각적 유사도를 나타내는 시각적 스코어
Figure pat00134
이다.The first is a reconstruction score that indicates whether the track's position is the same as the detection
Figure pat00130
to be. The second is the connection score considering the geometric fit of the continuous position of the track
Figure pat00131
to be. The third and fourth are starting scores
Figure pat00132
And end score
Figure pat00133
to be. At this time, each track evaluates the suitability of the start or end position of the track. And when the track starts or ends at the boundary of the visible area or entrance, the track's start or end score is low. The last one is a visual score that represents the visual similarity between the detections associated with the track
Figure pat00134
to be.

그런 다음 트랙 점수는 다음 수학식 18에 의해 정의된다.The track score is then defined by the following equation (18).

Figure pat00135
Figure pat00135

다음으로 트랙 선별부(300)를 통해 생성된 후보트랙 중 확률 상으로 표적의 경로(trajectory)일 확률이 높은 후보트랙을 최적 트랙으로 선별하고, 선별된 최적 트랙을 피드백하면서 연속하여 최적 트랙을 선별한다(S30).Next, a candidate track having a high probability of being a target trajectory is selected as an optimum track on the basis of the probability among the candidate tracks generated through the track selection unit 300, and the optimal track is selected successively while feeding back the selected optimum track (S30).

상기 S30 단계를 상세히 설명하면, MWCP 구조부(310)를 통해 피드백되는 최적 트랙 정보를 이용하여 일치하는 그룹을 갖는 트랙들을 서브-그룹으로 분류한다. 그리고 글로벌 가설 형성부(320)를 통해 상기 분류된 서브-그룹별 실제 표적의 경로일 확률이 높은 최적 트랙을 선별하고, 선별된 최적 트랙을 상기 MWCP 구조부(310)로 피드백한다.In step S30, tracks having matching groups are classified into sub-groups using optimal track information fed back through the MWCP structure unit 310. [ Then, an optimal track having a high probability of being a path of an actual target for each of the classified sub-groups is selected through the global hypothesis forming unit 320, and the selected optimum track is fed back to the MWCP structure unit 310.

이때, 상기 글로벌 가설 형성부(320)를 통해 최적 트랙을 선별하는 방법은 이미 공지되어 있는 BLS(Breakout Local Search) 알고리즘을 사용한다. 그러나 이는 하나의 일 실시예일 뿐, 혼합 정수 프로그래밍(Mixed Integer Programming)이 가능한 임의의 해석(solving) 알고리즘은 모두 이용이 가능하다. 즉 상기 S3 단계는 해석(solving) 알고리즘의 형식에 특장점이 있다고 보기보다 매 프레임을 해석할 때, BLS 알고리즘을 사용하기 이전에, 피드백을 통해 전 프레임에서의 해설 결과를 토대로 나타나는 문제의 크기를 줄이는데 그 특징이 있다.At this time, a method of selecting an optimal track through the global hypothesis forming unit 320 uses a BLS (Breakout Local Search) algorithm which is already known. However, this is only one embodiment, and any arbitrary solving algorithm capable of Mixed Integer Programming is available. That is, in step S3, the size of the problem based on the interpretation result in the previous frame is reduced through the feedback before using the BLS algorithm when interpreting each frame rather than having a feature in the format of the solving algorithm There are features.

이처럼, 피드백을 이용함에 따라 다음과 같은 효용성을 가지게 된다. 첫째는 해당 형식(Formulation)의 경우, 문제를 푸는데 드는 연산량은 한 번에 고려되는 트랙의 개수에 지수적으로 비례하고, 둘째, 피드백 정보를 이용하여 하나의 큰 문제를 N 개의 작은 문제로 쪼갤 수 있다. 즉, 본디 하나만 풀어도 되는 문제를 N개의 문제로 변환하였으나, 각 문제의 크기가 원래의 문제 크기에 비해 매우 작기 때문에, 속도가 훨씬 빨라진다. 셋째, 풀고자하는 문제가 트랙킹(Tracking) 문제이기 때문에, 피드백 정보를 활용하여 서브 그룹(sub-group)으로 나누어 풀어도 본래 문제를 푼 것과 성능 차이가 거의 없게 된다.Thus, by using feedback, it has the following advantages. First, in the case of the formulation, the amount of computation to solve the problem is exponentially proportional to the number of tracks considered at one time. Second, one large problem can be divided into N small problems using feedback information. have. In other words, although the original problem can be solved only into N problems, the speed is much faster because the size of each problem is very small compared to the original problem size. Third, since the problem to be solved is a tracking problem, even if the feedback information is divided into sub-groups, there is almost no performance difference from the original problem.

이어 트랙 제거부(400)를 통해 생성된 후보들 및 상기 트랙 선별부(300)에서 선별된 최적 트랙을 기반으로 트랙의 길이 및 탐지된 개체의 예상 높이 등을 이용하여 근사 글로벌 확률(AGTP) 또는 N 스캔 백 방식을 이용하여 추적 결과가 될 수 있는 가능성을 진단하여 그 가능성이 설정된 임계치보다 낮은 트랙을 제거하고, 이때의 정보를 상기 후보트랙 생성부(200)로 전달한다(S40).An approximate global probability (AGTP) or an approximate global probability (NTP) using the track length and the estimated height of the detected entity based on the candidates generated through the track remover 400 and the optimum track selected by the track selector 300, In operation S40, the possibility of the tracking result is diagnosed using the scan back method, the track having a probability lower than the threshold value is removed, and the information is transmitted to the candidate track generating unit 200.

상기 S40 단계를 상세히 설명하면, AGTP(Approximation of Global Track Probability)부(410)를 통해 선별된 최적 트랙들을 제거하기 위한 글로벌 가설을 설정한다. 이때, 상기 글로벌 가설은 트랙렛의 파티션에 의해 생성된 트랙 집합이므로, 호환 가능한 트랙 세트로 정의 될 수도 있다. 따라서 특정 트랙 세트로부터, 여러 글로벌 가설들은 트랙들 간의 호환성에 따라 생성 될 수 있다. 그리고 추적 방법의 목표는 이전 섹션에서 정의한 트랙 점수에 따라 글로벌 가설 중에서 가장 좋은 글로벌 가설

Figure pat00136
을 찾는 것이다.In step S40, a global hypothesis for eliminating the optimal tracks selected through the Approximation of Global Track Probability (AGTP) unit 410 is set. At this time, since the global hypothesis is a set of tracks generated by a partition of a tracklet, it may be defined as a compatible track set. Thus, from a particular set of tracks, several global hypotheses can be generated according to compatibility between tracks. The goal of the tracking method is to determine the best global hypothesis among the global hypotheses
Figure pat00136
.

상기 후보트랙 생성부(200)는

Figure pat00137
를 빠르게 찾는 온라인 체계를 제시한다. 이를 위해, 모든 프레임에서, t번째(
Figure pat00138
) 프레임의 전체 트랙 세트인
Figure pat00139
로부터 모든 가능한 글로벌 가설 중에서
Figure pat00140
를 찾는 최적화 문제로서 MWCP를 공식화한다.The candidate track generation unit 200 generates
Figure pat00137
The online system that quickly finds you. To do this, in every frame, the t-th (
Figure pat00138
) The entire track set of the frame
Figure pat00139
From all possible global hypotheses from
Figure pat00140
MWCP is formulated as an optimization problem.

상기 후보트랙 생성부(200)는 계산을 줄이고 성능을 향상시키기 위해 이전 프레임의 최적 솔루션인

Figure pat00141
을 사용한다. 그러나 최상의 솔루션만 현재 프레임까지 전파 할 때 로컬 최적 조건에 갇히기 쉽다. 이 문제를 해결하기 위해 최상의 솔루션뿐만 아니라 각 프레임에서
Figure pat00142
최선의 솔루션
Figure pat00143
를 찾아 다음 프레임에서 여러 MWCP를 구성하는데 사용한다.In order to reduce the calculation and improve the performance, the candidate track generating unit 200 generates an optimal solution of the previous frame
Figure pat00141
Lt; / RTI > However, only the best solution is likely to get stuck in local optimality when propagating to the current frame. To solve this problem, as well as the best solution,
Figure pat00142
The best solution
Figure pat00143
Is used to construct multiple MWCPs in the next frame.

상기 후보트랙 생성부(200)는 MWCP를 해결하기 위한 최첨단 발견적 BLS인 BLS를 아래와 같이 수정하고 이를 다중 솔루션의 신속한 생성을 위한 온라인 체계에 적용한다. The candidate track generating unit 200 corrects BLS, which is a state-of-the-art heuristic BLS for solving an MWCP, as follows and applies it to an on-line system for rapidly generating a multiple solution.

먼저 MCMTT를 위한 MWCP를 설명하면, t 번째(

Figure pat00144
) 프레임에서 높은 스코어와 호환 가능한 트랙으로 구성된 글로벌 가설을 찾는
Figure pat00145
MWCPs를 구성한다. 각 MWCP는
Figure pat00146
,
Figure pat00147
Figure pat00148
로 구성되어, 이전 최상의 글로버 가설이
Figure pat00149
이라는 가정 하에 현재 최고의 글로벌 가설의 후보인 트랙 세트이다. 본 명세서에서는
Figure pat00150
Figure pat00151
의 관련 트랙 세트라고 부른다.First, we explain the MWCP for MCMTT,
Figure pat00144
) Find a global hypothesis that consists of high scores and compatible tracks in the frame
Figure pat00145
Configure MWCPs. Each MWCP
Figure pat00146
,
Figure pat00147
Figure pat00148
, The previous best global hypothesis
Figure pat00149
It is a track set that is currently the best global hypothesis candidate. In this specification
Figure pat00150
of
Figure pat00151
Is referred to as an associated track set.

여기에는 트랙의 3타입을 포함한다. (i)

Figure pat00152
의 트랙, (ii) (ii)의, 즉
Figure pat00153
의 자식 중 현재 프레임에서 새로 생성된 트랙, 그리고 (iii) 확인되지 않은 트랙을 포함한다.This includes three types of tracks. (i)
Figure pat00152
(Ii) (ii), that is,
Figure pat00153
A newly created track in the current frame among the children of the current frame, and (iii) an unidentified track.

상기 확인되지 않은 트랙은

Figure pat00154
프레임보다 짧은 트랙으로, 미확인 트랙은 너무 짧아 가양성 여부를 판단 할 수 없다. 따라서 미확인 트랙이 이전 솔루션에 없는 경우에도 미확인 트랙을 관련 트랙 세트에 지속적으로 삽입한다. 그러면
Figure pat00155
은 다음 수학식 19과 같이 주어진다.The unidentified track
Figure pat00154
For a track shorter than the frame, the unidentified track is too short to judge false positives. Therefore, even if the unidentified track is not in the previous solution, the unidentified track is continuously inserted into the related track set. then
Figure pat00155
Is given by the following equation (19).

Figure pat00156
Figure pat00156

그리고

Figure pat00157
에 대한 각
Figure pat00158
에 대한 MWCP는 다음 수학식 20과 같이 공식화된다.And
Figure pat00157
For each
Figure pat00158
Is formulated as: " (20) "

Figure pat00159
Figure pat00159

이때, 상기

Figure pat00160
Figure pat00161
의 접합성(compatibility) 집합이다. 문제의 솔루션은
Figure pat00162
Figure pat00163
과 같은 선택 변수
Figure pat00164
로 나타낼 수 있다.At this time,
Figure pat00160
silver
Figure pat00161
And a set of compatibility of the two. The solution in question
Figure pat00162
Figure pat00163
Optional variables such as
Figure pat00164
.

상기 후보트랙 생성부(200)는 각 MWCP를 확장된 BLS로 풀어내며, 단일 MWCP에서 여러 개의 로컬 최적 솔루션을 신속하게 생성한다. 이에

Figure pat00165
Figure pat00166
에 대한 MWCP를 푸는 과정을 통해, 현재 프레임의 모든 MWCP에서 발견 할 수 있는 전체 솔루션을
Figure pat00167
으로 구할 수 있다.The candidate track generating unit 200 extracts each MWCP into an expanded BLS and quickly generates a plurality of local optimal solutions from a single MWCP. Therefore
Figure pat00165
of
Figure pat00166
Through the process of unpacking the MWCP for the entire frame, all the solutions that can be found in all the MWCPs
Figure pat00167
.

즉, 총 트랙 점수에 따라

Figure pat00168
에서
Figure pat00169
최적 솔루션
Figure pat00170
를 선택한다. 그러면 현재 프레임의 추적 솔루션이
Figure pat00171
에서 가장 좋은 추적 솔루션이며, 다음 수학식 21로 산출된다.That is, depending on the total track score
Figure pat00168
in
Figure pat00169
Optimal solution
Figure pat00170
. Then the tracking solution for the current frame
Figure pat00171
And is calculated by the following equation (21).

Figure pat00172
Figure pat00172

입력 비디오 시퀀스의 시작 프레임에서

Figure pat00173
일 때, 전체 트랙 집합
Figure pat00174
를 갖는 단일 MWCP를 구성하고 풀 수 있다. 그리고 MWCP를 해결하는 계산은 그것을 해결할 때 트랙 수에 기하급수적으로 비례한다.At the start frame of the input video sequence
Figure pat00173
, The entire track set
Figure pat00174
Can be configured and solved. And the calculations that solve MWCP are exponentially proportional to the number of tracks when solving them.

보통의 경우,

Figure pat00175
Figure pat00176
보다 훨씬 작다. 따라서 일반적으로 온라인 체계는 여러 MWCP를 해결해야만 원래 문제를 해결하는 것보다 빠르다.Usually,
Figure pat00175
The
Figure pat00176
. Therefore, online systems are generally faster than solving the original problem by solving multiple MWCPs.

다음으로 MCMTT를 위한 BLS를 설명하면, BLS는 최첨단 휴리스틱 알고리즘으로 표적이 없는(undirected) 그래프에서 최대 가중 클릭(clique)을 찾는다. 또한 BLS는 지역 탐색과 랜덤 혼란(random perturbation)으로 구성된 반복을 기반으로 한다. 따라서 로컬 검색에서 로컬 최적 솔루션을 얻으면 현재 솔루션을 임의로 교란하여 다른 로컬 최적 솔루션을 찾는다. 또한 지역 검색이 연속적으로 같은 해결책으로 끝나면 BLS는 지역 분지에서 벗어나기 위해 점차 교란 강도를 증가시킨다. 이것을 적응 혼란(adaptive perturbation)이라고 하며 BLS의 핵심 개념이다. Next, we describe BLS for MCMTT. BLS finds the maximum weighted clique in undirected graph with state-of-the-art heuristic algorithm. BLS is also based on iterations consisting of local search and random perturbation. Thus, if you obtain a local optimal solution from a local search, you randomly disturb the current solution to find another local optimal solution. Also, when the local search finishes with the same solution in succession, the BLS gradually increases the disturbance intensity to escape from the local branch. This is called adaptive perturbation and is the core concept of BLS.

온라인 체계에서 BLS는 각 MWCP를 해결하기 위해 다음 세 가지 변화(variants)를 적용합니다.In the online system, BLS applies the following three variants to solve each MWCP:

1) 여러 솔루션 : 원래 BLS는 현재로서는 최적의 솔루션만 유지한다. 대조적으로, 본 발명은 알고리즘이 종료 조건을 만족시킬 때까지 발견된 모든 지역적 최적 솔루션을 유지한다. 그 다음, 그 해를

Figure pat00177
으로 묶어 n 번째 MWCP의 해결 결과로 반환한다.1) Multiple solutions: Original BLS currently only maintains the optimal solution. In contrast, the present invention maintains all locally optimal solutions found until the algorithm satisfies the termination condition. Then,
Figure pat00177
And returns it as the solution result of the nth MWCP.

2) 종료 조건 : 발견된 솔루션의 글로벌 최적성을 보장할 방법이 없기 때문에 BLS는 종료 조건으로 최대 반복 횟수만 사용한다. 따라서 반복의 최대 횟수는 더 나은 해결책을 찾을 수 있는 더 많은 기회를 갖기 위해 거대한 상수로 설정된다. 그러나 실시간 요구 사항을 요구하는 실용적인 알고리즘은 다루기가 어렵다. 따라서 적절한 반복 수는 그래프의 복잡성에 비례한다고 가정한다. 그리고 호환성 세트의 크기인

Figure pat00178
은 그래프의 복잡성을 반영한다고 가정한다. 그래서 본 명세서에서는 최대 반복 횟수
Figure pat00179
를 다음 수학식 22와 같이 제안한다.2) Termination condition: Since there is no way to guarantee the global optimality of the solution found, the BLS uses the maximum number of iterations as a termination condition. So the maximum number of iterations is set to a huge constant to give you more opportunities to find a better solution. However, practical algorithms that require real-time requirements are difficult to handle. Therefore, it is assumed that the appropriate number of iterations is proportional to the complexity of the graph. And the size of the compatibility set
Figure pat00178
Are assumed to reflect the complexity of the graph. Therefore, in the present specification,
Figure pat00179
Is expressed by the following equation (22).

Figure pat00180
Figure pat00180

여기에서

Figure pat00181
는 미리 결정된 매개 변수이며, 여기서는 모든 실험 중에 10으로 설정한다. 그러나 수학식 22는 실용적인 애플리케이션에 국한되어야 한다. 따라서 미리 정한 매개 변수인
Figure pat00182
를 사용하여 최대 반복 횟수를 적용한다.From here
Figure pat00181
Is a predetermined parameter, and is set here to 10 during all experiments. However, equation (22) should be limited to practical applications. Therefore,
Figure pat00182
The maximum number of iterations is applied.

3) 초기 해법 : BLS는 호환 가능한 트랙의 랜덤 선택에 의해 초기 솔루션을 생성하여 사전 정보가 없을 때 자연스럽다. 그러나 온라인 MCMTT에서 대상이 연속 프레임 간에 원활하게 이동하기 때문에 이전 프레임의 솔루션은 현재 MWCP에 대한 강력한 사전 정보가 될 수 있다. 따라서

Figure pat00183
Figure pat00184
으로 설정하고 로컬 검색을 수행하여 초기 솔루션을 개선한다. 그러나 추적이 진행됨에 따라 트랙 간의 호환성이 변경 될 수 있으므로 실행 불가능할 때 로컬 검색 전에
Figure pat00185
을 복구해야 한다.3) Initial solution: BLS creates an initial solution by random selection of compatible tracks and is natural when there is no prior information. However, since the object moves smoothly between consecutive frames in the online MCMTT, the solution of the previous frame can be a powerful advance information about the current MWCP. therefore
Figure pat00183
of
Figure pat00184
And perform a local search to improve the initial solution. However, as the track progresses, compatibility between tracks may change, so if it is not feasible,
Figure pat00185
.

Figure pat00186
의 복구는 다음과 같은 방식으로 수행된다.
Figure pat00186
Recovery is performed in the following manner.

첫째, 초기 솔루션의 후보 트랙인

Figure pat00187
Figure pat00188
으로 설정한다. 그런 다음
Figure pat00189
에서 가장 높은 트랙 스코어를 가진 트랙을
Figure pat00190
에 삽입하고
Figure pat00191
Figure pat00192
로 업데이트 한다. 그리고
Figure pat00193
가 빈 세트가 될 때까지 이러한 삽입 및 업데이트를 반복한다.First, the candidate track of the initial solution
Figure pat00187
To
Figure pat00188
. after that
Figure pat00189
Tracks with the highest track score in
Figure pat00190
And
Figure pat00191
To
Figure pat00192
. And
Figure pat00193
≪ / RTI > repeats these inserts and updates until it becomes an empty set.

이어 미확인 트랙 제거부(420)를 통해 설정된 글로벌 가설을 기준으로 도 8에서 도시하고 있는 것과 같이, 상기 검출된 트랙들 중 근사 글로벌 확률(AGTP)이 없는(AGTP는 KH 최상의 글로벌 가설에 의해 정의되기 때문에 KH 최고의 글로벌 가설에 속하지 않는) 트랙을 제거한다. 또한 N 스캔 백 제거부(430)를 통해 설정된 글로벌 가설을 기준으로 N 프레임을 스캔하여 상기 글로벌 가설에 따라 대상의 위치를 수정하고, 고정된 위치의 대상과 호환되지 않는 모든 트랙을 제거한다. 이때, 상기 근사 글로벌 확률(AGTP) 및 N 스캔 백 제거는 이미 공지되어 있는 기술내용으로 이에 따른 상세한 설명은 생략한다.As shown in FIG. 8 based on the global hypothesis set through the unconfirmed track removal unit 420, it is assumed that there is no approximate global probability (AGTP) among the detected tracks (AGTP is defined by the KH best global hypothesis Because it does not belong to the KH best global hypothesis). Also, N frames are scanned on the basis of the global hypothesis set through the N scan back removal unit 430 to correct the position of the object according to the global hypothesis, and all tracks incompatible with the object of the fixed position are removed. At this time, the approximate global probability (AGTP) and N scan back cancellation are already known contents, and detailed description thereof will be omitted.

상기에서 설명한 본 발명의 기술적 사상은 바람직한 실시예에서 구체적으로 기술되었으나, 상기한 실시예는 그 설명을 위한 것이며 그 제한을 위한 것이 아님을 주의하여야 한다. 또한, 본 발명의 기술적 분야의 통상의 지식을 가진자라면 본 발명의 기술적 사상의 범위 내에서 다양한 실시예가 가능함을 이해할 수 있을 것이다. 따라서 본 발명의 진정한 기술적 보호 범위는 첨부된 특허청구범위의 기술적 사상에 의해 정해져야 할 것이다. While the present invention has been particularly shown and described with reference to exemplary embodiments thereof, it is to be understood that the invention is not limited to the disclosed exemplary embodiments. It will be apparent to those skilled in the art that various modifications may be made without departing from the scope of the present invention. Accordingly, the true scope of the present invention should be determined by the technical idea of the appended claims.

Claims (15)

다중 카메라의 각 카메라별로 프레임을 통해 탐지되는 탐지 결과를 트랙렛(tracklet)으로 변환하는 트랙렛 생성부와,
상기 트랙렛 생성부에서 변환된 트랙렛들을 가지고 가능한 모든 시간적·공간적 결합을 통해 3차원 공간 상 추적 결과가 될 수 있는 후보트랙을 생성하는 후보트랙 생성부와,
상기 후보트랙 생성부에서 생성된 후보트랙 중 확률 상으로 표적의 경로(trajectory)일 확률이 높은 후보트랙을 최적 트랙으로 선별하고, 선별된 최적 트랙을 피드백하면서 연속하여 최적 트랙을 선별하는 트랙 선별부와,
상기 후보트랙 생성부에서 생성된 후보들 및 상기 트랙 선별부에서 선별된 최적 트랙을 기반으로 트랙의 길이 및 탐지된 개체의 예상 높이 등을 이용하여 근사 글로벌 확률(AGTP) 또는 N 스캔 백 방식을 이용하여 추적 결과가 될 수 있는 가능성을 진단하여 그 가능성이 설정된 임계치보다 낮은 트랙을 제거하고, 그 결과를 상기 후보트랙 생성부로 전달하는 트랙 제거부를 포함하여 구성되는 것을 특징으로 하는 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 장치.
A tracklet generator for converting a detection result detected through a frame into a tracklet for each camera of the multiple cameras,
A candidate track generating unit for generating a candidate track that can be traced in three-dimensional space through all possible temporal / spatial combinations with the tracklets transformed by the tracklet generating unit;
A track selecting unit for selecting a candidate track having a high probability of being a target trajectory on the probability among the candidate tracks generated by the candidate track generating unit as an optimum track and continuously selecting an optimum track while feeding back the selected optimum track, Wow,
(AGTP) or an N scan back method using the track length and the expected height of the detected object based on the candidates generated by the candidate track generating unit and the optimal track selected by the track selecting unit And a track eliminating unit for diagnosing a possibility of being a tracking result, removing a track lower than a threshold value at which the possibility is set, and transmitting the result to the candidate track generating unit. On-line device for multi-target tracking.
제 1 항에 있어서,
상기 트랙렛은 연속적인 프레임들로부터의 검출들 간의 시간적 결합을 통해 생성되며, 상기 후보트랙 생성부는 생성되는 트랙렛의 모션 및 모양 정보와 연결하여 후보 트랙을 생성하는 것을 특징으로 하는 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 장치.
The method according to claim 1,
Wherein the tracklet is generated through a temporal combination between detections from successive frames and the candidate track generator generates a candidate track in connection with motion and shape information of the generated tracklet. Multi - camera based on - line device for multi - target tracking.
제 1 항에 있어서, 상기 트랙렛 생성부는
각 탐지 결과 및 기존에 이미 생성된 트랙렛들 사이의 유사도를 산출하는 매칭 스코어 산출부와,
상기 매칭 스코어 산출부에서 산출된 유사도를 기반으로 물리적으로 같은 트랙렛 여부를 확인하여 매치되는 트랙렛을 검출하는 매치 확인부와,
상기 매치 확인부에서 검출되는 트랙렛을 관리하는 트랙렛 관리부를 포함하여 구성되는 것을 특징으로 하는 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 장치.
2. The apparatus of claim 1, wherein the tracklet generator
A matching score calculation unit for calculating a result of each detection and the similarity between already existing tracklets,
A match check unit for checking whether a tracklet is physically the same based on the similarity calculated by the matching score calculator and detecting a matching tracklet,
And a tracklet management unit for managing the tracklets detected by the match verification unit. The on-line apparatus for multiple camera multi-target tracking based on multiple hypothesis tracking.
제 1 항에 있어서, 상기 후보트랙 생성부는
트랙렛 생성부에서 변환된 트랙렛들 중 새로운 트랙렛으로 생성하거나 일치하는 결과가 있는 기존 트랙렛을 업데이트하는 트랙 업데이트부와,
상기 트랙 업데이트부의 결과를 이용하여 트랙렛 생성부에서 변환된 트랙렛들 중 같은 사람에게서 생성된 트랙렛들끼리 적어도 하나 이상의 묶음으로 결합하는 트랙렛 결합부와,
상기 트랙렛 결합부에서 결합된 묶음별로 3차원 공간상에 3차원 좌표를 갖는 트랙을 생성하고, 생성된 트랙에 스코어를 부여하는 트랙 생성부와,
상기 트랙 업데이트부의 결과 및 트랙 생성부에서 생성된 트랙 스코어를 적용하여 추적 결과가 될 수 있는 후보들을 확립하는 후보트랙 확립부를 포함하여 구성되는 것을 특징으로 하는 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 장치.
The apparatus of claim 1, wherein the candidate track generating unit
A track updater for generating a new tracklet among the transformed tracklets in the tracklet generating unit or updating an existing tracklet having a matching result,
A tracklet combining unit for combining the tracklets generated by the same person among at least one of the tracklets converted by the tracklet generating unit using the result of the track updating unit,
A track generating unit for generating a track having three-dimensional coordinates on a three-dimensional space for each bundle combined at the tracklet combining unit and giving a score to the generated track;
And a candidate track establishment unit for establishing candidates that can be tracked by applying the track score generated by the track update unit and the track update unit. The multi-camera multi-target tracking based multi- On-line device for.
제 1 항에 있어서, 상기 트랙 선별부는
피드백되는 최적 트랙 정보를 이용하여 일치하는 그룹을 갖는 트랙들을 서브-그룹으로 분류하는 MWCP 구조부와,
상기 MWCP 구조부에서 분류된 서브-그룹별 실제 표적의 경로일 정의된 임계치를 갖는 확률보다 높은 트랙을 선별하고, 선별된 트랙을 상기 MWCP 구조부로 피드백하는 글로벌 가설 형성부를 포함하여 구성되는 것을 특징으로 하는 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 장치.
The apparatus of claim 1, wherein the track selector
An MWCP structure unit for classifying tracks having coincident groups into sub-groups using optimum track information to be fed back,
And a global hypothesis forming unit for selecting a track higher than a probability having a threshold defined as a path of an actual target per sub-group classified by the MWCP structure unit and feeding back the selected track to the MWCP structure unit Multi - camera based on multiple hypothesis tracking On - line device for multi - target tracking.
제 1 항에 있어서, 상기 트랙 제거부는
트랙 선별부에서 선별된 최적 트랙들을 제거하기 위한 글로벌 가설을 설정하는 AGTP(Approximation of Global Track Probability)부와,
상기 AGTP부에서 설정된 글로벌 가설을 기준으로 검출된 트랙들 중 근사 글로벌 확률(AGTP)이 없는 트랙을 제거하는 미확인 트랙 제거부와,
상기 AGTP부에서 설정된 글로벌 가설을 기준으로 N 프레임을 스캔하여 상기 글로벌 가설에 따라 대상의 위치를 수정하고, 고정된 위치의 대상과 호환되지 않는 모든 트랙을 제거하는 N 스캔 백 제거부를 포함하여 구성되는 것을 특징으로 하는 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 장치.
The apparatus of claim 1, wherein the track removing unit
An Approximation of Global Track Probability (AGTP) unit for setting a global hypothesis for eliminating the optimum tracks selected by the track selection unit,
An unidentified track removal unit for removing a track having no approximate global probability (AGTP) among tracks detected based on a global hypothesis set by the AGTP unit;
And an N scan back removing unit for scanning N frames based on the global hypothesis set by the AGTP unit and correcting the position of the object according to the global hypothesis and removing all tracks incompatible with the object at the fixed position And an on-line device for multi-camera multi-target tracking based on multiple hypothesis tracking.
(A) 다중 카메라의 각 카메라에서 이미지를 받아온 매 프레임에서 보행자를 탐지하고, 이러한 탐지 결과를 시간별로 짝을 지어 한 사람에 대한 트랙렛(tracklet)으로 변환하는 단계와,
(B) 후보트랙 생성부를 통해 상기 변환된 트랙렛들을 가지고 가능한 모든 시간적·공간적 결합을 통해 3차원 상 추적 결과가 될 수 있는 후보트랙을 생성하는 단계와,
(C) 트랙 선별부를 통해 생성된 후보트랙 중 확률 상으로 표적의 경로(trajectory)일 확률이 설정된 임계치 보다 높은 후보트랙을 최적 트랙으로 선별하고, 선별된 최적 트랙을 피드백하면서 연속하여 최적 트랙을 선별하는 단계와,
(D) 트랙 제거부를 통해 생성된 후보들 및 상기 트랙 선별부에서 선별된 최적 트랙을 기반으로 트랙의 길이 및 탐지된 개체의 예상 높이 등을 이용하여 근사 글로벌 확률(AGTP) 또는 N 스캔 백 방식을 이용하여 추적 결과가 될 수 있는 가능성을 진단하여 그 가능성이 설정된 임계치보다 낮은 트랙을 제거하고, 그 결과를 상기 후보트랙 생성부로 피드백하는 단계를 포함하여 이루어지는 것을 특징으로 하는 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 방법.
(A) detecting a pedestrian in each frame of an image received from each camera of the multiple cameras, and converting the detected result into a tracklet for a person in pairs by time;
(B) generating a candidate track that can be a three-dimensional tracking result through all possible temporal / spatial combinations with the transformed tracklets through a candidate track generation unit;
(C) a candidate track having a probability that a trajectory of a target is higher than a set threshold value is selected as an optimum track on the basis of the probability among the candidate tracks generated through the track selection unit, and the optimal track is selected successively while feeding back the selected optimum track , ≪ / RTI &
(D) an approximate global probability (AGTP) or an N scan back method using the track length and the expected height of the detected object based on the candidates generated through the track eliminating unit and the optimum track selected by the track selecting unit And a step of diagnosing a possibility of becoming a tracking result, removing a track lower than a threshold value at which the possibility is set, and feeding back the result to the candidate track generating unit. An on-line method for target tracking.
제 7 항에 있어서, 상기 (A) 단계는
매칭 스코어 산출부를 통해 각 탐지 결과 및 기존에 이미 생성된 트랙렛들 사이의 유사도를 산출하는 단계와,
매치 확인부를 통해 상기 산출된 유사도를 기반으로 물리적으로 같은 트랙렛 여부를 확인하여 매치되는 트랙렛을 검출하는 단계로 이루어지는 것을 특징으로 하는 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 방법.
8. The method of claim 7, wherein step (A)
Calculating a result of each detection and similarity between already existing tracklets through the matching score calculator,
And checking whether the same tracklet is physically the same based on the calculated similarity through a match check unit and detecting a tracklet matched with the tracklet. The on-line method for multiple camera multi-target tracking based on multiple hypothesis tracking.
제 8 항에 있어서,
상기 트랙렛의 검출은 트랙렛 관리부를 통해 유효한 일치 항목으로 트랙렛을 업데이트하고, 트랙렛에 대해 일치하는 탐지가 없으면 오탐지로 간주하여 추적 렛이 종료하며, 현재 탐지와 일치하는 트랙렛이 없을 때는 새로운 트랙렛으로 생성하는 단계를 더 포함하는 것을 특징으로 하는 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 방법.
9. The method of claim 8,
The detection of the tracklet updates the tracklet as a valid match through the tracklet management section, and if there is no coincidence detection for the tracklet, the trackinglet is regarded as a false detection and there is no tracklet matching the current detection And generating the new tracklet as a new tracklet. ≪ RTI ID = 0.0 > [0002] < / RTI >
제 7 항에 있어서, 상기 (B) 단계는
트랙렛 결합부를 통해 상기 업데이트 결과를 이용하여 트랙렛 생성부에서 변환된 트랙렛들 중 같은 사람에게서 생성된 트랙렛들끼리 적어도 하나 이상의 묶음으로 결합하는 단계와,
트랙 생성부를 통해 결합된 묶음별로 3차원 공간상에 3차원 좌표를 갖는 트랙을 생성하는 단계와,
상기 생성된 트랙에 스코어를 부여한 후, 후보트랙 확립부를 통해 업데이트 결과 및 생성된 트랙 스코어를 적용하여 추적 결과가 될 수 있는 후보들을 확립하는 단계를 포함하여 이루어지는 것을 특징으로 하는 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 방법.
8. The method of claim 7, wherein step (B)
Combining the tracklets generated by the same person among at least one of the transformed tracklets in the tracklet generating unit using the update result through the tracklet combining unit;
Generating a track having three-dimensional coordinates on a three-dimensional space for each bundle through the track generating unit;
Generating a score for the generated track, and applying the update result and the generated track score to the candidate track establishment unit through the candidate track establishment unit to establish candidates that can be tracked results. An on-line method for camera multi-target tracking.
제 10 항에 있어서,
상기 결합 단계에서 결합은 공간적 결합(Spatial Association), 시간적 결합(temporal association), 그리고 상기 공간적 결합 및 시간적 결합의 병합(merge) 중 어느 하나로 이루어지며,
상기 공간적 결합은 시간적으로 겹치는 트랙렛 사이의 결합성에 의해 정의되며, 상기 시간적 결합은 시간적 결합성이 동일한 카메라의 연속적인 트랙렛 사이의 결합성에 의해 정의되는 것을 특징으로 하는 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 방법.
11. The method of claim 10,
In the combining step, the combining is performed by any one of a spatial association, a temporal association, and a merge of the spatial combination and the temporal combination,
Wherein the temporal combination is defined by the coupling between consecutive tracklets of the same camera with temporal connectivity, wherein the temporal combination is defined by the temporal coupling between the temporal overlapping tracklets. ≪ RTI ID = 0.0 > An on-line method for multi-target tracking.
제 10 항에 있어서,
상기 생성된 트랙에 스코어를 부여는 다섯 가지 요소를 고려하면서 각 트랙에 대해 스코어를 부여하며,
첫 번째 것은 트랙의 위치가 탐지와 동일한지를 나타내는 재구성 스코어
Figure pat00194
, 두 번째는 트랙의 연속 위치의 기하학적 적합성을 고려한 연결 스코어
Figure pat00195
, 세 번째와 네 번째는 시작 스코어
Figure pat00196
와 종료 스코어
Figure pat00197
, 마지막 하나는 트랙과 관련된 탐지 간의 시각적 유사도를 나타내는 시각적 스코어
Figure pat00198
인 것을 특징으로 하는 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 방법.
11. The method of claim 10,
Assigning a score to the generated track gives a score for each track, taking into account the five factors,
The first is a reconstruction score that indicates whether the track's position is the same as the detection
Figure pat00194
, The second is the connection score taking into account the geometric fit of the consecutive positions of the track
Figure pat00195
, The third and fourth start score
Figure pat00196
And end score
Figure pat00197
, And the last one is a visual score indicating the visual similarity between the detections associated with the track
Figure pat00198
Wherein the multiple tracking target tracking is based on multiple hypothesis tracking.
제 7 항에 있어서, 상기 (C) 단계는
MWCP 구조부를 통해 피드백되는 최적 트랙 정보를 이용하여 일치하는 그룹을 갖는 트랙들을 서브-그룹으로 분류하는 단계와,
글로벌 가설 형성부를 통해 상기 분류된 서브-그룹별 실제 표적의 경로일 확률이 높은 최적 트랙을 선별하는 단계와,
상기 선별된 최적 트랙을 상기 MWCP 구조부로 피드백하는 단계를 포함하여 이루어지는 것을 특징으로 하는 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 방법.
8. The method of claim 7, wherein step (C)
Grouping the tracks having a matching group into a sub-group using optimal track information fed back through the MWCP structure section;
Selecting an optimal track having a high probability of a path of an actual target for each of the classified sub-groups through a global hypothesis forming unit;
And feedbacking the selected optimal track to the MWCP structure. ≪ Desc / Clms Page number 21 >
제 7 항에 있어서, 상기 (D) 단계는
AGTP(Approximation of Global Track Probability)부를 통해 선별된 최적 트랙들을 제거하기 위한 글로벌 가설을 설정하는 단계와,
미확인 트랙 제거부를 통해 설정된 글로벌 가설을 기준으로 상기 검출된 트랙들 중 근사 글로벌 확률(AGTP)이 없는 트랙을 제거하는 단계와,
N 스캔 백 제거부를 통해 설정된 글로벌 가설을 기준으로 N 프레임을 스캔하여 상기 글로벌 가설에 따라 대상의 위치를 수정하고, 고정된 위치의 대상과 호환되지 않는 모든 트랙을 제거하는 단계를 포함하여 이루어지는 것을 특징으로 하는 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 방법.
8. The method of claim 7, wherein step (D)
Setting a global hypothesis for eliminating optimal tracks selected through an Approximation of Global Track Probability (AGTP)
Removing tracks having no approximate global probability (AGTP) among the detected tracks based on a global hypothesis set through an unidentified track remover;
Scanning the N frames based on the global hypothesis set through the N scan back removing unit to correct the position of the object according to the global hypothesis and removing all tracks incompatible with the object at the fixed position Multi - camera based on multiple hypothesis tracking with on - line tracking for multi - target tracking.
제 14 항에 있어서,
상기 글로벌 가설은 트랙렛의 파티션에 의해 생성된 트랙 집합으로, 호환 가능한 트랙 세트로 정의되어 트랙들 간의 호환성에 따라 생성되며,
이전 섹션에서 정의한 트랙 점수에 따라 글로벌 가설 중에서 트랙 점수가 가장 높은 글로벌 가설
Figure pat00199
을 검출하는 것을 특징으로 하는 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 방법.
15. The method of claim 14,
The global hypothesis is a set of tracks generated by a partition of a tracklet, defined as a set of compatible tracks, generated according to compatibility between tracks,
Based on the track score defined in the previous section, the global hypothesis with the highest track score
Figure pat00199
Based tracking for multi-camera multi-target tracking based on multiple hypothesis tracking.
KR1020160182665A 2016-12-29 2016-12-29 Online apparatus and method for Multiple Camera Multiple Target Tracking Based on Multiple Hypothesis Tracking KR101878390B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020160182665A KR101878390B1 (en) 2016-12-29 2016-12-29 Online apparatus and method for Multiple Camera Multiple Target Tracking Based on Multiple Hypothesis Tracking

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020160182665A KR101878390B1 (en) 2016-12-29 2016-12-29 Online apparatus and method for Multiple Camera Multiple Target Tracking Based on Multiple Hypothesis Tracking

Publications (2)

Publication Number Publication Date
KR20180077865A true KR20180077865A (en) 2018-07-09
KR101878390B1 KR101878390B1 (en) 2018-08-17

Family

ID=62919161

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020160182665A KR101878390B1 (en) 2016-12-29 2016-12-29 Online apparatus and method for Multiple Camera Multiple Target Tracking Based on Multiple Hypothesis Tracking

Country Status (1)

Country Link
KR (1) KR101878390B1 (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20200061118A (en) * 2018-11-23 2020-06-02 인하대학교 산학협력단 Tracking method and system multi-object in video
CN112711055A (en) * 2020-12-08 2021-04-27 重庆邮电大学 Indoor and outdoor seamless positioning system and method based on edge calculation
CN114240997A (en) * 2021-11-16 2022-03-25 南京云牛智能科技有限公司 Intelligent building online cross-camera multi-target tracking method
CN117455958A (en) * 2023-12-22 2024-01-26 武汉以彼古罗咨询服务有限公司 Track tracking method and device for sperm identification

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101195942B1 (en) 2006-03-20 2012-10-29 삼성전자주식회사 Camera calibration method and 3D object reconstruction method using the same
KR101208427B1 (en) 2008-12-22 2012-12-05 한국전자통신연구원 Multiple Camera control and image storing apparatus and method for synchronized multiple image acquisition
WO2013072401A2 (en) * 2011-11-15 2013-05-23 Swiss Timing Ltd Tracklet-based multi-commodity network flow for tracking multiple people
KR101372390B1 (en) * 2013-03-29 2014-03-19 한양대학교 에리카산학협력단 Target tracking method using multi-tracking scheme based on markov chain, and target tracking apparatus using the same
US20160132728A1 (en) * 2014-11-12 2016-05-12 Nec Laboratories America, Inc. Near Online Multi-Target Tracking with Aggregated Local Flow Descriptor (ALFD)

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101195942B1 (en) 2006-03-20 2012-10-29 삼성전자주식회사 Camera calibration method and 3D object reconstruction method using the same
KR101208427B1 (en) 2008-12-22 2012-12-05 한국전자통신연구원 Multiple Camera control and image storing apparatus and method for synchronized multiple image acquisition
WO2013072401A2 (en) * 2011-11-15 2013-05-23 Swiss Timing Ltd Tracklet-based multi-commodity network flow for tracking multiple people
KR101372390B1 (en) * 2013-03-29 2014-03-19 한양대학교 에리카산학협력단 Target tracking method using multi-tracking scheme based on markov chain, and target tracking apparatus using the same
US20160132728A1 (en) * 2014-11-12 2016-05-12 Nec Laboratories America, Inc. Near Online Multi-Target Tracking with Aggregated Local Flow Descriptor (ALFD)

Non-Patent Citations (6)

* Cited by examiner, † Cited by third party
Title
변문섭 외 4명. 다중 카메라에서 다 개체 추적을 위한 온라인 데이터 연관 기법. 영상처리 및 이해에 관한 워크샵, 2015년 2월, pp. 1-4. *
변문섭 외 4명. 다중 카메라에서 다 개체 추적을 위한 온라인 데이터 연관 기법. 영상처리 및 이해에 관한 워크샵, 2015년 2월, pp. 1-4. 1부. *
변문섭 외 4명. 다중 카메라에서 다 개체 추적을 위한 온라인 데이터 연관 기법. 영상처리 및 이해에 관한 워크샵, 2015년 2월, pp. 1-4.* *
유한주 외 4명. 추적 세류와 다중 가정 추적을 이용한 다중 카메라 다중 물체 추적 알고리즘, 영상처리 및 이해에 관한 워크샵, 2015년 2월, pp. 1-7. *
유한주 외 4명. 추적 세류와 다중 가정 추적을 이용한 다중 카메라 다중 물체 추적 알고리즘, 영상처리 및 이해에 관한 워크샵, 2015년 2월, pp. 1-7. 1부. *
유한주 외 4명. 추적 세류와 다중 가정 추적을 이용한 다중 카메라 다중 물체 추적 알고리즘, 영상처리 및 이해에 관한 워크샵, 2015년 2월, pp. 1-7.* *

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20200061118A (en) * 2018-11-23 2020-06-02 인하대학교 산학협력단 Tracking method and system multi-object in video
CN112711055A (en) * 2020-12-08 2021-04-27 重庆邮电大学 Indoor and outdoor seamless positioning system and method based on edge calculation
CN112711055B (en) * 2020-12-08 2024-03-19 重庆邮电大学 Indoor and outdoor seamless positioning system and method based on edge calculation
CN114240997A (en) * 2021-11-16 2022-03-25 南京云牛智能科技有限公司 Intelligent building online cross-camera multi-target tracking method
CN114240997B (en) * 2021-11-16 2023-07-28 南京云牛智能科技有限公司 Intelligent building online trans-camera multi-target tracking method
CN117455958A (en) * 2023-12-22 2024-01-26 武汉以彼古罗咨询服务有限公司 Track tracking method and device for sperm identification
CN117455958B (en) * 2023-12-22 2024-03-08 武汉以彼古罗咨询服务有限公司 Track tracking method and device for sperm identification

Also Published As

Publication number Publication date
KR101878390B1 (en) 2018-08-17

Similar Documents

Publication Publication Date Title
US10672131B2 (en) Control method, non-transitory computer-readable storage medium, and control apparatus
KR101878390B1 (en) Online apparatus and method for Multiple Camera Multiple Target Tracking Based on Multiple Hypothesis Tracking
JP6421510B2 (en) Target detection method and target detection system
US11113526B2 (en) Training methods for deep networks
US20090252423A1 (en) Controlled human pose estimation from depth image streams
JPH1114741A (en) Target pursuit method and device thereof
CN112154481B (en) Target tracking based on multiple measurement hypotheses
Yoo et al. Online scheme for multiple camera multiple target tracking based on multiple hypothesis tracking
CN109697393A (en) Person tracking method, device, electronic device and computer-readable medium
CN107728612A (en) Identify that different crowd carries out method, storage device and the mobile terminal of advertisement pushing
Zeng et al. Lookup: Vision-only real-time precise underground localisation for autonomous mining vehicles
JP7055867B2 (en) Human body recognition method, equipment and storage medium
GB2578721A (en) Method and system for processing image data utilizing deep neural network
KR101916573B1 (en) Method for tracking multi object
JP7224592B2 (en) Information processing device, information processing method, and program
Linder et al. Towards a robust people tracking framework for service robots in crowded, dynamic environments
CN107948721B (en) Method and device for pushing information
Singh et al. Fast semantic-aware motion state detection for visual slam in dynamic environment
Leung et al. Evaluating set measurement likelihoods in random-finite-set slam
Gao et al. Asynchronous collaborative localization by integrating spatiotemporal graph learning with model-based estimation
Tissainayagam et al. Visual tracking with automatic motion model switching
KR20120008211A (en) Method for object recognition and pose estimation at robot
US11393069B2 (en) Image processing apparatus, image processing method, and computer readable recording medium
Li et al. Labeled multi-Bernoulli filter based group target tracking using SDE and graph theory
Gu et al. An augmented-reality interface for telerobotic applications

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant