KR20180077865A - Online apparatus and method for Multiple Camera Multiple Target Tracking Based on Multiple Hypothesis Tracking - Google Patents
Online apparatus and method for Multiple Camera Multiple Target Tracking Based on Multiple Hypothesis Tracking Download PDFInfo
- Publication number
- KR20180077865A KR20180077865A KR1020160182665A KR20160182665A KR20180077865A KR 20180077865 A KR20180077865 A KR 20180077865A KR 1020160182665 A KR1020160182665 A KR 1020160182665A KR 20160182665 A KR20160182665 A KR 20160182665A KR 20180077865 A KR20180077865 A KR 20180077865A
- Authority
- KR
- South Korea
- Prior art keywords
- track
- unit
- tracklet
- candidate
- tracking
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/292—Multi-camera tracking
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
-
- H04N5/225—
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/181—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
Abstract
Description
본 발명은 카메라 트래킹 장치 및 방법에 관한 것으로, 특히 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 장치 및 방법에 관한 것이다.The present invention relates to a camera tracking apparatus and method, and more particularly, to an online apparatus and method for multi-camera multi-target tracking based on multiple hypothesis tracking.
다중 표적 트래킹은 컴퓨터 비전에서 필수적인 기술로서 집중적으로 연구되어왔으며, 표적의 외관과 동적인 정보를 활용하는 온라인 및 묶음 방법이 최근 제안되었다.Multi-target tracking has been intensively studied as an indispensable technology in computer vision, and online and bundling methods utilizing the appearance of the target and dynamic information have recently been proposed.
그러나 이런한 방법은 단일 카메라를 사용한 영상 추적을 위해 제안되었다. 단일 카메라를 사용할 경우, 주변 장애물이나 추적 대상끼리의 가려짐에 의해 시각적 차단이 빈번히 일어나게 되고, 이는 감시 대상의 밀도가 높거나 환경이 복잡한 경우 전체적인 추적 성능의 하락으로 귀결된다. 특히 교실이나 상점과 같이 인구 밀도가 높고 다양한 장애로 인해 교착 상태가 많은 복잡한 환경에서는 성능이 떨어지게 된다. However, such a method is proposed for image tracking using a single camera. When a single camera is used, visual obstacles frequently occur due to surrounding obstacles or obstructions between the objects to be tracked. This results in a deterioration of the overall tracking performance when the density of the monitored object is high or the environment is complicated. Especially in complex environments where population density is high, such as classrooms or shops, and many obstacles lead to many deadlocks.
이러한 문제를 극복하기 위해, Possegger et al.(H. Possegger, T. Mauthner, P. M. Roth, and H. Bischof, "Occlusion geodesics for online multi-object tracking," in Computer ision and Pattern Recognition (CVPR), 2014 IEEE Conference on. IEEE, 2014, pp. 1306.1313.)은 감시 환경 내에 존재하는 장애물에 대한 사전 정보를 사용하여 가려짐을 추론하고 이를 추적 단계에서 활용하는 방법을 제안하였다. 이를 통해 고정된 장애물 환경 하에서 견고한 성능을 보여주었으나, 동적인 장애물이 존재하거나 장애물에 대한 사전정보가 없는 상황에서는 적절한 성능을 보장할 수 없다는 문제점이 있었다.To overcome this problem, Possegger et al. (H. Possegger, T. Mauthner, PM Roth, and H. Bischof, "Occlusion geodesics for online multi-object tracking, IEEE Conference on IEEE, 2014, pp. 1306.1313.) Inferred that the obstacles existing in the surveillance environment were covered by prior information, and proposed a method of using them in the tracking stage. In this way, robust performance is shown under fixed obstacle environments, but there is a problem in that proper performance can not be guaranteed in the absence of dynamic obstacles or prior information about obstacles.
이러한 다중 표적 트래킹에서 가려짐 문제를 해결하기 위해, 겹쳐지는 시야를 가진 다중 카메라를 사용하는 방법이 제안되었다. 이러한 다중 카메라 다중 표적 트래킹 (MCMTT) 문제에서는 서로 다른 시각, 서로 다른 카메라에서 탐지된 결과들 중 같은 대상으로부터 탐지된 것을 찾아야 한다. 때문에 시간적, 공간적 결합의 문제를 동시에 해결해야한다.In order to solve the problem of occlusion in such multi-target tracking, a method using a multi-camera with overlapping field of view has been proposed. In such a multi-camera multi-target tracking (MCMTT) problem, it is necessary to find a detection from the same object among the results detected by different cameras at different times. Therefore, the problem of temporal and spatial combination must be solved at the same time.
공간적 결합에서는 동일 표적에 대해 서로 다른 카메라에서 관측된 결과를 결합하고, 시간적 결합에서는 동일 표적이 시간이 흐름에 따라 서로 다른 프레임에서 출현하는 것들을 결합한다. In spatial combination, we combine observed results from different cameras for the same target, and in temporal combination, the same target combines those that appear in different frames over time.
따라서 MCMTT는 시간적 결합만을 고려하는 단일 카메라 추적보다 복잡하다. 이러한 이유로 최근 MCMTT 알고리즘의 대부분은 우수한 성능을 보장하기 위해 배치 방식에 기반하고 있다. 하지만 이러한 배치 기반 알고리즘들은 실시간으로 추적을 처리해야 하는 많은 실제 응용 시스템들에서 사용할 수 없다는 큰 문제점이 있다.Thus, MCMTT is more complex than single camera tracking, which considers temporal combining only. For this reason, most of the recent MCMTT algorithms are based on a placement scheme to ensure good performance. However, there is a big problem that these batch-based algorithms can not be used in many practical application systems that need to process the trace in real time.
따라서 본 발명은 상기와 같은 문제점을 해결하기 위해 안출한 것으로서, 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 장치 및 방법으로, 지연 결정에 기반한 다중 가설 트레킹(Multiple Hypothesis Tracking, 이하 MHT) 프레임 워크를 채택하였다. 또한, 다중 카메라에 대한 MHT의 연산 부하를 줄이기 위해 2 차원(2D) 이미지 좌표에서 트랙렛(추정된 목표 궤적의 부분 파편)을 사용하는데 그 목적이 있다.SUMMARY OF THE INVENTION Accordingly, it is an object of the present invention to provide an on-line device and method for multi-camera multi-target tracking based on multiple hypothesis tracking, and a multiple hypothesis tracking (MHT) Work. It is also intended to use the tracklets (partial fragments of the estimated target trajectory) in two-dimensional (2D) image coordinates to reduce the computational load of the MHT on multiple cameras.
본 발명의 다른 목적은 최첨단 MCMTT 방법들이 공간적 결합에 있어 기하정보만 고려하기 때문에 갖게 되는 한계점을 해결하기 위한 것으로서, 본 발명의 점수는 기하정보 뿐 아니라 표적의 모양 및 동작 정보를 고려하여 보다 높은 결합 정확도를 갖는 것을 목적으로 한다.Another object of the present invention is to solve the limitations of the state-of-the-art MCMTT methods due to considering only geometric information in spatial combination. The score of the present invention is a combination of geometric information, It is aimed to have accuracy.
본 발명의 또 다른 목적은 MHT 기반 방식의 높은 연산량을 해결하기 위한 것으로서, 본 발명의 확률 문제 해결 솔류선은 이전 프레임의 솔루션 중 K최고들을 이용하는 분할 및 정복 방식을, 최신의 휴리스틱 알고리즘과 결합하는 것을 목적으로 한다.Another object of the present invention is to solve the high computational load of the MHT-based scheme. The probability problem solving line of the present invention combines the partitioning and conquering method using the K highest of the solutions of the previous frame with the latest heuristic algorithm .
본 발명의 다른 목적들은 이상에서 언급한 목적으로 제한되지 않으며, 언급되지 않은 또 다른 목적들은 아래의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.Other objects of the present invention are not limited to the above-mentioned objects, and other objects not mentioned can be clearly understood by those skilled in the art from the following description.
상기와 같은 목적을 달성하기 위한 본 발명에 따른 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 장치의 특징은 다중 카메라의 각 카메라별로 프레임을 통해 탐지되는 탐지 결과를 트랙렛(tracklet)으로 변환하는 트랙렛 생성부와, 상기 트랙렛 생성부에서 변환된 트랙렛들을 가지고 가능한 모든 시간적·공간적 결합을 통해 3차원 공간 상 추적 결과가 될 수 있는 후보트랙을 생성하는 후보트랙 생성부와, 상기 후보트랙 생성부에서 생성된 후보트랙 중 확률 상으로 표적의 경로(trajectory)일 확률이 높은 후보트랙을 최적 트랙으로 선별하고, 선별된 최적 트랙을 피드백하면서 연속하여 최적 트랙을 선별하는 트랙 선별부와, 상기 후보트랙 생성부에서 생성된 후보들 및 상기 트랙 선별부에서 선별된 최적 트랙을 기반으로 트랙의 길이 및 탐지된 개체의 예상 높이 등을 이용하여 근사 글로벌 확률(AGTP) 또는 N 스캔 백 방식을 이용하여 추적 결과가 될 수 있는 가능성을 진단하여 그 가능성이 설정된 임계치보다 낮은 트랙을 제거하고, 그 결과를 상기 후보트랙 생성부로 전달하는 트랙 제거부를 포함하여 구성되는데 있다.According to an aspect of the present invention, there is provided an on-line device for multi-camera multi-target tracking based on multiple hypothesis tracking according to the present invention, comprising: A candidate track generating unit for generating a candidate track that can be a tracing result in three-dimensional space through all possible temporal / spatial combinations with the tracklets transformed by the tracklet generating unit; A track selector for selecting a candidate track having a high probability of a target trajectory on the probability among the candidate tracks generated by the track generating unit as an optimum track and successively selecting an optimum track while feeding back the selected optimum track, A candidate track generated by the candidate track generating unit, and an optimum track selected by the track selecting unit, (AGTP) or an N scan back method using the estimated height of the detected object and the like, thereby removing a track whose probability is lower than the set threshold, To the candidate track generating unit.
바람직하게 상기 트랙렛은 연속적인 프레임들로부터의 검출들 간의 시간적 결합을 통해 생성되며, 상기 후보트랙 생성부는 생성되는 트랙렛들의 움직임 정보 및 모양 정보를 고려한 연결 과정을 통해 후보 트랙을 생성하는 것을 특징으로 한다.Preferably, the tracklet is generated through a temporal combination between detections from successive frames, and the candidate track generating unit generates a candidate track through a linking process considering motion information and shape information of the generated tracklets .
바람직하게 상기 트랙렛 생성부는 각 탐지 결과 및 기존에 이미 생성된 트랙렛들 사이의 유사도를 산출하는 매칭 스코어 산출부와, 상기 매칭 스코어 산출부에서 산출된 유사도를 기반으로 물리적으로 같은 표적으로부터 기인한 탐지 결과 및 트랙렛인지 여부를 최종적으로 환인 및 판단하는 매치 확인부와, 상기 매치 확인부에서 검출되는 트랙렛을 관리하는 트랙렛 관리부를 포함하여 구성되는 것을 특징으로 한다.Preferably, the tracklet generator includes a matching score calculator for calculating the detection result and the similarity between tracklets that have already been generated, and a matching score calculator for calculating the similarity between the tracklets based on the similarity calculated physically from the same target based on the similarity calculated by the matching score calculator And a tracklet management unit for managing the tracklets detected by the match confirmation unit. The track checking unit may be configured to detect a result of the detection and a tracklet.
바람직하게 상기 후보트랙 생성부는 트랙렛 생성부에서 도출되어 3차원 좌표계 상으로 변환된 트랙렛들 중 새로운 트랙렛으로 생성하거나 일치하는 결과가 있는 기존 트랙렛을 업데이트하는 트랙 업데이트부와, 상기 트랙 업데이트부의 결과를 이용하여 트랙렛 생성부(100)에서 변환된 트랙렛들 중 같은 사람에게서 생성된 트랙렛들끼리 적어도 하나 이상의 묶음으로 결합하는 트랙렛 결합부와, 상기 트랙렛 결합부에서 결합된 묶음별로 3차원 공간상에 3차원 좌표를 갖는 트랙을 생성하고, 생성된 트랙에 스코어를 부여하는 트랙 생성부와, 상기 트랙 업데이트부의 결과 및 트랙 생성부에서 생성된 트랙 스코어를 적용하여 추적 결과가 될 수 있는 후보들을 확립하는 후보트랙 확립부를 포함하여 구성되는 것을 특징으로 한다.Preferably, the candidate track generating unit includes a track updater for generating a new tracklet among the tracklets derived from the tracklet generator and transformed into a three-dimensional coordinate system, or updating an existing tracklet having a matching result, A tracklet combining unit that combines the tracklets generated by the same person among at least one of the converted tracklets in the
바람직하게 상기 트랙 선별부는 피드백되는 최적 트랙 정보를 이용하여 일치하는 그룹을 갖는 트랙들을 서브-그룹으로 분류하는 MWCP 구조부와, 상기 MWCP 구조부에서 분류된 서브-그룹별 실제 표적의 경로일 정의된 임계치를 갖는 확률보다 높은 트랙을 선별하고, 선별된 트랙을 상기 MWCP 구조부로 피드백하는 글로벌 가설 형성부를 포함하여 구성되는 것을 특징으로 한다.Preferably, the track selection unit comprises: an MWCP structure unit for classifying tracks having a matching group into sub-groups by using the optimum track information to be fed back; and a threshold value determination unit for determining a threshold defined as a path of an actual target for each sub- And a global hypothesis forming unit for selecting a track having a probability higher than the probability of having the selected track and feeding back the selected track to the MWCP structure unit.
바람직하게 상기 트랙 제거부는 트랙 선별부에서 선별된 최적 트랙들을 제거하기 위한 글로벌 가설을 설정하는 AGTP(Approximation of Global Track Probability)부와, 상기 AGTP부에서 설정된 글로벌 가설을 기준으로 검출된 트랙들 중 근사 글로벌 확률(AGTP)이 없는 트랙을 제거하는 미확인 트랙 제거부와, 상기 AGTP부에서 설정된 글로벌 가설을 기준으로 N 프레임을 스캔하여 상기 글로벌 가설에 따라 대상의 위치를 수정하고, 고정된 위치의 대상과 호환되지 않는 모든 트랙을 제거하는 N 스캔 백 제거부를 포함하여 구성되는 것을 특징으로 한다.Preferably, the track remover includes an Approximation of Global Track Probability (AGTP) unit for setting a global hypothesis for eliminating optimal tracks selected by the track selection unit, and an Approximation of Global Track Probability An unidentified track removing unit for removing a track having no global probability (AGTP); an N frame scanning unit for scanning an N frame based on a global hypothesis set by the AGTP unit to correct a position of an object according to the global hypothesis, And an N scan back removing unit for removing all incompatible tracks.
상기와 같은 목적을 달성하기 위한 본 발명에 따른 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 방법의 특징은 (A) 다중 카메라의 각 카메라에서 이미지를 받아온 매 프레임에서 보행자를 탐지하고, 이러한 탐지 결과를 시간별로 짝을 지어 한 사람에 대한 트랙렛(tracklet)으로 변환하는 단계와, (B) 후보트랙 생성부를 통해 상기 변환된 트랙렛들을 가지고 가능한 모든 시간적·공간적 결합을 통해 3차원 상 추적 결과가 될 수 있는 후보트랙을 생성하는 단계와, (C) 트랙 선별부를 통해 생성된 후보트랙 중 확률 상으로 표적의 경로(trajectory)일 확률이 설정된 임계치 보다 높은 후보트랙을 최적 트랙으로 선별하고, 선별된 최적 트랙을 피드백하면서 연속하여 최적 트랙을 선별하는 단계와, (D) 트랙 제거부를 통해 생성된 후보들 및 상기 트랙 선별부에서 선별된 최적 트랙을 기반으로 트랙의 길이 및 탐지된 개체의 예상 높이 등을 이용하여 근사 글로벌 확률(AGTP) 또는 N 스캔 백 방식을 이용하여 추적 결과가 될 수 있는 가능성을 진단하여 그 가능성이 설정된 임계치보다 낮은 트랙을 제거하고, 그 결과를 상기 후보트랙 생성부로 피드백하는 단계를 포함하여 이루어지는데 있다.According to the present invention, there is provided an on-line method for multi-camera multi-target tracking based on multiple hypothesis tracking according to the present invention, comprising the steps of: (A) detecting a pedestrian in each frame, Converting the detection results into a tracklet for a person by pairing in time; and (B) performing a three-dimensional tracking through all possible temporal / spatial combinations with the transformed tracklets through a candidate track generator (C) selecting a candidate track having a probability that a probability of a trajectory of a target is higher than a preset threshold value among the candidate tracks generated through the track selector as an optimal track, Selecting optimal tracks successively while feeding back the selected optimum tracks; (D) The possibility of becoming a tracking result by using the approximate global probability (AGTP) or the N scan back method using the track length and the expected height of the detected object on the basis of the optimal track selected by the track selection unit is diagnosed Removing a track whose probability is lower than a set threshold value, and feeding back the result to the candidate track generating unit.
바람직하게 상기 (A) 단계는 매칭 스코어 산출부를 통해 각 탐지 결과 및 기존에 이미 생성된 트랙렛들 사이의 유사도를 산출하는 단계와, 매치 확인부를 통해 상기 산출된 유사도를 기반으로 물리적으로 같은 트랙렛 여부를 확인하여 매치되는 트랙렛을 검출하는 단계로 이루어지는 것을 특징으로 한다.Preferably, the step (A) includes the steps of: calculating a result of the detection through the matching score calculator and the similarity between the tracklets already generated; and a step of calculating, based on the calculated similarity, And detecting the tracklet to be matched.
바람직하게 상기 트랙렛의 검출은 트랙렛 관리부를 통해 유효한 일치 항목으로 트랙렛을 업데이트하고, 트랙렛에 대해 일치하는 탐지가 없으면 오탐지로 간주하여 추적 렛이 종료하며, 현재 탐지와 일치하는 트랙렛이 없을 때는 새로운 트랙렛으로 생성하는 단계를 더 포함하는 것을 특징으로 한다.Preferably, the detection of the tracklet updates the tracklet with a valid match through the tracklet management section, and if there is no coincidence detection for the tracklet, the trackinglet is regarded as false detection and the tracklet And generating a new tracklet if there is no new tracklet.
바람직하게 상기 (B) 단계는 트랙렛 결합부를 통해 상기 업데이트 결과를 이용하여 트랙렛 생성부에서 변환된 트랙렛들 중 같은 사람에게서 생성된 트랙렛들끼리 적어도 하나 이상의 묶음으로 결합하는 단계와, 트랙 생성부를 통해 결합된 묶음별로 3차원 공간상에 3차원 좌표를 갖는 트랙을 생성하는 단계와, 상기 생성된 트랙에 스코어를 부여한 후, 후보트랙 확립부를 통해 업데이트 결과 및 생성된 트랙 스코어를 적용하여 추적 결과가 될 수 있는 후보들을 확립하는 단계를 포함하여 이루어지는 것을 특징으로 한다.Preferably, the step (B) includes the steps of: combining the tracklets generated by the same person among at least one of the tracklets transformed by the tracklet generator using the update result through the tracklet combining unit into at least one bundle; Generating a track having three-dimensional coordinates on a three-dimensional space on a bundle-to-bundle basis through a generation unit, applying a score to the generated track, applying an update result and a generated track score through a candidate track establishment unit And establishing candidates that can be the result.
바람직하게 상기 결합 단계에서 결합은 공간적 결합(Spatial Association), 시간적 결합(temporal association), 그리고 상기 공간적 결합 및 시간적 결합의 병합(merge) 중 어느 하나로 이루어지며, 상기 공간적 결합은 시간적으로 겹치는 트랙렛 사이의 결합성에 의해 정의되며, 상기 시간적 결합은 시간적 결합성이 동일한 카메라의 연속적인 트랙렛 사이의 결합성에 의해 정의되는 것을 특징으로 한다.Preferably, in the combining step, the combining is performed by any one of a spatial association, a temporal association, and a merge of the spatial combination and the temporal combination, and the spatial combination is a time- Wherein the temporal coupling is defined by the coupling between successive tracklets of the camera with the same temporal coupling.
바람직하게 상기 생성된 트랙에 스코어를 부여는 다섯 가지 요소를 고려하면서 각 트랙에 대해 스코어를 부여하며, 첫 번째 것은 트랙의 위치가 탐지와 동일한지를 나타내는 재구성 스코어 , 두 번째는 트랙의 연속 위치의 기하학적 적합성을 고려한 연결 스코어 , 세 번째와 네 번째는 시작 스코어 와 종료 스코어 , 마지막 하나는 트랙과 관련된 탐지 간의 시각적 유사도를 나타내는 시각적 스코어 인 것을 특징으로 한다.Preferably, a score is given for each track, taking into consideration the five factors that are to be awarded to the generated track, the first being a reconstruction score < RTI ID = 0.0 > , The second is the connection score taking into account the geometric fit of the consecutive positions of the track , The third and fourth start score And end score , And the last one is a visual score indicating the visual similarity between the detections associated with the track .
바람직하게 상기 (C) 단계는 MWCP 구조부를 통해 피드백되는 최적 트랙 정보를 이용하여 일치하는 그룹을 갖는 트랙들을 서브-그룹으로 분류하는 단계와, 글로벌 가설 형성부를 통해 상기 분류된 서브-그룹별 실제 표적의 경로일 확률이 높은 최적 트랙을 선별하는 단계와, 상기 선별된 최적 트랙을 상기 MWCP 구조부로 피드백하는 단계를 포함하여 이루어지는 것을 특징으로 한다.Preferably, the step (C) includes the steps of: classifying tracks having a coincident group into sub-groups using optimal track information fed back through the MWCP structure section; Selecting an optimal track having a high probability of being a path of the MWCP structure section; and feeding back the selected optimal track to the MWCP structure section.
바람직하게 상기 (D) 단계는 AGTP(Approximation of Global Track Probability)부를 통해 선별된 최적 트랙들을 제거하기 위한 글로벌 가설을 설정하는 단계와, 미확인 트랙 제거부를 통해 설정된 글로벌 가설을 기준으로 상기 검출된 트랙들 중 근사 글로벌 확률(AGTP)이 없는 트랙을 제거하는 단계와, N 스캔 백 제거부를 통해 설정된 글로벌 가설을 기준으로 N 프레임을 스캔하여 상기 글로벌 가설에 따라 대상의 위치를 수정하고, 고정된 위치의 대상과 호환되지 않는 모든 트랙을 제거하는 단계를 포함하여 이루어지는 것을 특징으로 한다.Preferably, the step (D) includes the steps of setting a global hypothesis for eliminating optimal tracks selected through an Approximation of Global Track Probability (AGTP) unit, determining a global hypothesis based on a global hypothesis set through an unidentified track removal unit, Scanning the N frames based on the global hypothesis set by the N scan back removing unit to correct the position of the target according to the global hypothesis, And removing all tracks that are incompatible with the track.
바람직하게 상기 글로벌 가설은 트랙렛의 파티션에 의해 생성된 트랙 집합으로, 호환 가능한 트랙 세트로 정의되어 트랙들 간의 호환성에 따라 생성되며, 이전 섹션에서 정의한 트랙 점수에 따라 글로벌 가설 중에서 트랙 점수가 가장 높은 글로벌 가설 을 검출하는 것을 특징으로 한다.Preferably, the global hypothesis is a set of tracks generated by a partition of a tracklet, which is defined as a compatible set of tracks and is generated according to compatibility between the tracks, and the track score of the global hypothesis is the highest Global hypothesis Is detected.
이상에서 설명한 바와 같은 본 발명에 따른 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 장치 및 방법은 성능뿐만 아니라 계산상의 복잡도를 완화시키는 효과가 있다. 즉, 각 반복마다 높은 점수를 얻은 트랙을 찾고 K 반복 동안 K 개의 트랙을 얻는 단일 카메라 케이스에 대한 배치 모드 K-best 접근법과 달리, 본 발명에 따른 온라인 체계는 K 개의 호환 트랙 세트를 찾도록 설계되어 여러 카메라 설정의 각 프레임에서 여러 대상 추적을 가장 잘 설명한다.The on-line device and method for multi-camera multi-target tracking based on multiple hypothesis tracking according to the present invention as described above has the effect of alleviating not only performance but also computational complexity. That is, unlike the batch mode K-best approach to a single camera case that finds tracks with high scores for each iteration and obtains K tracks over K iterations, the online system according to the present invention is designed to find K compatible track sets Which best describes multiple object tracking in each frame of multiple camera settings.
또한 본 발명은 우리의 계획이 피드백 정보를 기반으로 한 분할 및 정복 알고리즘을 사용하여 제안된 온라인 체계에 의해 거의 최적의 해를 찾을 수 있도록 도와준다. 즉, 과거 프레임의 결과에 대한 피드백 정보는 트랙렛 구성, 후보 트랙 생성 및 MWCP 구성 분할 / 정복에 크게 기여한다.The present invention also allows our scheme to find a near optimal solution by the proposed on-line system using a partitioning and conquering algorithm based on feedback information. That is, the feedback information on the result of the past frame greatly contributes to the configuration of the tracklet, the generation of the candidate track, and the division / conquest of the MWCP configuration.
또한 트랙렛을 구성하기 위해 결합 조건은 현재 탐지와 과거 트랙렛을 연결하도록 설계됨에 따라, 후보 트랙을 생성하기 위해, 현재의 트랙렛을 과거의 후보 트랙과 링크시키는 트랙 트리가 제안되고, MWCP는 이전 프레임의 추적 솔루션을 기반으로 여러 하위 문제로 재구성하여 계산을 줄이는 효과가 있다.Also, since the combining condition is designed to link the current detection to the past tracklet in order to construct the tracklet, a track tree is proposed that links the current tracklet with the past candidate track to create a candidate track, and the MWCP Based on the tracking solution of the previous frame, it is effective to reduce the calculation by reconstructing it into several sub-problems.
또한 MWCP를 위한 최첨단 휴리스틱 알고리즘인 BSL(Breakout Local Search) 이라는 반복적 휴리스틱 알고리즘을 적용함으로써, 각 하위 문제를 해결할 때의 계산량을 줄이는 효과가 있다. 즉, BLS는 거의 최적의 솔루션을 신속하게 찾아낼 뿐만 아니라 약간 수정 된 온라인 전략에 대해 여러 지역 최적 솔루션을 생성한다. 이러한 하위 문제를 해결 한 후에 결과 솔루션을 신뢰할 수 없는 트랙을 제거하기 위해 잘라내기 계획에 활용한다.In addition, by applying a recursive heuristic algorithm called Breakout Local Search (BSL), which is a state-of-the-art heuristic algorithm for MWCP, it is possible to reduce the amount of computation required to solve each sub-problem. In other words, BLS not only quickly finds the nearest optimal solution, but also creates multiple regional optimal solutions for a slightly modified online strategy. After resolving these sub-problems, use the resulting solution in your cut plan to remove unreliable tracks.
도 1 은 본 발명의 실시예에 따른 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 장치의 구성을 나타낸 구성도
도 2 는 본 발명의 실시예에 따른 설명에 앞서 기재된 기호들을 정의한 도면
도 3 은 본 발명의 실시예에 따른 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 방법을 설명하기 위한 흐름도
도 4 및 도 5 는 도 3에서 트랙렛 생성부를 통해 보행자를 탐지하고, 탐지 결과를 시간별로 짝을 지어 한 사람에 대한 트랙렛(tracklet)으로 변환하는 과정을 설명하기 위한 도면
도 6 및 도 7 은 도 3에서 후보트랙 생성부를 통해 3차원 상 추적 결과가 될 수 있는 후보트랙을 생성하는 과정을 설명하기 위한 도면
도 8 은 도 3에서 미확인 트랙 제거부를 통해 설정된 글로벌 가설을 기준으로 트랙을 제거하는 과정을 설명하기 위한 도면FIG. 1 is a block diagram illustrating a configuration of an online apparatus for multi-camera multi-target tracking based on multiple hypothesis tracking according to an embodiment of the present invention.
2 is a drawing that defines the symbols described before the description according to the embodiment of the present invention
3 is a flow chart illustrating an on-line method for multi-camera multi-target tracking based on multiple hypothesis tracking in accordance with an embodiment of the present invention.
FIGS. 4 and 5 are diagrams for explaining a process of detecting a pedestrian through the tracklet generator in FIG. 3 and converting the detection result into a tracklet for a person by pairing in time
FIGS. 6 and 7 are diagrams for explaining a process of generating a candidate track that can be a three-dimensional tracking result through the candidate track generating unit in FIG.
FIG. 8 is a view for explaining a process of removing a track based on a global hypothesis set through an unidentified track remover in FIG. 3; FIG.
본 발명의 다른 목적, 특성 및 이점들은 첨부한 도면을 참조한 실시예들의 상세한 설명을 통해 명백해질 것이다.Other objects, features and advantages of the present invention will become apparent from the detailed description of the embodiments with reference to the accompanying drawings.
본 발명에 따른 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 장치 및 방법의 바람직한 실시예에 대하여 첨부한 도면을 참조하여 설명하면 다음과 같다. 그러나 본 발명은 이하에서 개시되는 실시예에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예는 본 발명의 개시가 완전하도록하며 통상의 지식을 가진자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것이다. 따라서 본 명세서에 기재된 실시예와 도면에 도시된 구성은 본 발명의 가장 바람직한 일 실시예에 불과할 뿐이고 본 발명의 기술적 사상을 모두 대변하는 것은 아니므로, 본 출원시점에 있어서 이들을 대체할 수 있는 다양한 균등물과 변형예들이 있을 수 있음을 이해하여야 한다.A preferred embodiment of an on-line apparatus and method for multi-camera multi-target tracking based on multiple hypothesis tracking according to the present invention will be described with reference to the accompanying drawings. The present invention may, however, be embodied in many different forms and should not be construed as limited to the embodiments set forth herein. Rather, these embodiments are provided so that this disclosure will be thorough and complete, and will fully convey the scope of the invention to those skilled in the art. It is provided to let you know. Therefore, the embodiments described in the present specification and the configurations shown in the drawings are merely the most preferred embodiments of the present invention and are not intended to represent all of the technical ideas of the present invention. Therefore, various equivalents It should be understood that water and variations may be present.
한편, 본 발명에서 각 뷰 내의 트랙렛은 지상 평면 가정에 기초한 역 투영에 의해 3차원(3D) 공간에서 조립된다. 지면 평면 가정에서, 모든 표적은 지면 평면이라 불리는 3D 가상 평면상에서 움직이는 것으로 가정된다. 이 가정과 카메라 네트워크 보정 정보를 사용하여 삼각 측량없이 각 트랙렛에 대한 3D 위치를 얻을 수 있음에 따라 3D 결합 문제는 접지 평면에서 2D 결합 문제로 단순화된다. Meanwhile, in the present invention, the tracklets in each view are assembled in a three-dimensional (3D) space by back projection based on the ground plane assumption. In the ground plane assumption, all targets are assumed to move on a 3D virtual plane called the ground plane. Because this home and camera network correction information can be used to obtain the 3D position for each tracklet without triangulation, the 3D coupling problem is simplified to a 2D coupling problem in the ground plane.
도 1 은 본 발명의 실시예에 따른 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 장치의 구성을 나타낸 구성도이다.1 is a block diagram illustrating a configuration of an online device for multi-camera multi-target tracking based on multiple hypothesis tracking according to an embodiment of the present invention.
도 1에서 도시하고 있는 것과 같이, 다중 카메라의 각 카메라별로 프레임을 통해 탐지되는 탐지 결과를 트랙렛(tracklet)으로 변환하는 트랙렛 생성부(100)와, 상기 트랙렛 생성부(100)에서 변환된 트랙렛들을 가지고 가능한 모든 시간적·공간적 결합을 통해 3차원 공간 상 추적 결과가 될 수 있는 후보트랙을 생성하는 후보트랙 생성부(200)와, 상기 후보트랙 생성부(200)에서 생성된 후보트랙 중 확률 상으로 표적의 경로(trajectory)일 확률이 높은 후보트랙을 최적 트랙으로 선별하고, 선별된 최적 트랙을 피드백하면서 연속하여 최적 트랙을 선별하는 트랙 선별부(300)와, 상기 후보트랙 생성부(200)에서 생성된 후보들 및 상기 트랙 선별부(300)에서 선별된 최적 트랙을 기반으로 트랙의 길이 및 탐지된 개체의 예상 높이 등을 이용하여 근사 글로벌 확률(AGTP) 또는 N 스캔 백 방식을 이용하여 추적 결과가 될 수 있는 가능성을 진단하여 그 가능성이 설정된 임계치보다 낮은 트랙을 제거하고, 이때의 정보를 상기 후보트랙 생성부(200)로 전달하는 트랙 제거부(400)로 구성된다.As shown in FIG. 1, a
이때, 상기 트랙렛은 연속적인 프레임들로부터의 검출들 간의 시간적 결합을 통해 생성되며, 후보트랙 생성부(200)는 생성되는 트랙렛의 모션 및 모양 정보와 연결하여 후보 트랙을 생성한다.At this time, the tracklet is generated through a temporal combination between detections from consecutive frames, and the candidate
상기 트랙렛 생성부(100)는 각 탐지 결과 및 기존에 이미 생성된 트랙렛들 사이의 유사도를 산출하는 매칭 스코어 산출부(110)와, 상기 매칭 스코어 산출부(110)에서 산출된 유사도를 기반으로 물리적으로 같은 트랙렛 여부를 확인하여 매치되는 트랙렛을 검출하는 매치 확인부(120)와, 상기 매치 확인부(120)에서 검출되는 트랙렛을 관리하는 트랙렛 관리부(130)로 구성된다.The
상기 후보트랙 생성부(200)는 트랙렛 생성부(100)에서 변환된 트랙렛들 중 새로운 트랙렛으로 생성하거나 일치하는 결과가 있는 기존 트랙렛을 업데이트하는 트랙 업데이트부(210)와, 상기 트랙 업데이트부(210)의 결과를 이용하여 트랙렛 생성부(100)에서 변환된 트랙렛들 중 같은 사람에게서 생성된 트랙렛들끼리 적어도 하나 이상의 묶음으로 결합하는 트랙렛 결합부(220)와, 상기 트랙렛 결합부(220)에서 결합된 묶음별로 3차원 공간상에 3차원 좌표를 갖는 트랙을 생성하고, 생성된 트랙에 스코어를 부여하는 트랙 생성부(230)와, 상기 트랙 업데이트부(210)의 결과 및 트랙 생성부(230)에서 생성된 트랙 스코어를 적용하여 추적 결과가 될 수 있는 후보들을 확립하는 후보트랙 확립부(240)로 구성된다.The candidate
상기 트랙 선별부(300)는 피드백되는 최적 트랙 정보를 이용하여 일치하는 그룹을 갖는 트랙들을 서브-그룹으로 분류하는 MWCP 구조부(310)와, 상기 MWCP 구조부(310)에서 분류된 서브-그룹별 실제 표적의 경로일 확률이 높은 최적 트랙을 선별하고, 선별된 최적 트랙을 상기 MWCP 구조부(310)로 피드백하는 글로벌 가설 형성부(320)로 구성된다.The
상기 트랙 제거부(400)는 트랙 선별부(300)에서 선별된 최적 트랙들을 제거하기 위한 글로벌 가설을 설정하는 AGTP(Approximation of Global Track Probability)부(410)와, 상기 AGTP부(410)에서 설정된 글로벌 가설을 기준으로 검출된 트랙들 중 근사 글로벌 확률(AGTP)이 없는(AGTP는 KH 최상의 글로벌 가설에 의해 정의되기 때문에 KH 최고의 글로벌 가설에 속하지 않는) 트랙을 제거하는 미확인 트랙 제거부(420)와, 상기 AGTP부(410)에서 설정된 글로벌 가설을 기준으로 N 프레임을 스캔하여 상기 글로벌 가설에 따라 대상의 위치를 수정하고, 고정된 위치의 대상과 호환되지 않는 모든 트랙을 제거하는 N 스캔 백 제거부(430)로 구성된다.The
이때, 상기 AGTP부(410)에서의 트랙 제거의 경우, 동일한 트랙 트리에서 확인되지 않은 트랙은 측정이 거의 동일하기 때문에 비슷합니다. 따라서 모든 트랙을 확인되지 않은 트랙 트리에 보관하는 것은 비효율적입니다. At this time, in the case of track removal in the
즉, 상기 AGTP부(410)는 미확인 트랙 제거부(420)를 통해 AGTP(Approximation of Global Track Probability)에 따라 각 트리의 베스트 트랙을 제외하고 미확인 트랙 트리에서 모든 트랙을 삭제한다. 그러나 최선의 글로벌 가설을 유지하기 위해 미확인 궤도가 최고의 트랙에 포함되지 않더라도 최상의 글로벌 가설을 유지한다. 이때, 확인된 트랙 트리의 경우, 각 트리의 트랙 수가 기하급수적으로 증가하기 때문에 각 트리에 모든 트랙을 유지하는 것은 어렵습니다. That is, the
따라서 확인된 트랙 트리에 N 스캔 백 접근법을 적용하여 지연된 결정을 기반으로 하는 트랙을 제거하여야 한다. 이를 위해, 상기 AGTP부(410)는 N 스캔 백 제거부(430)를 통해 가장 좋은 글로벌 가설을 찾은 후 N 프레임을 스캔하여 현재 가장 좋은 글로벌 가설에 따라 대상의 위치를 수정한다. 그런 다음 고정된 위치의 대상과 호환되지 않는 모든 트랙을 잘라낸다. 한편, 상기 N 스캔 백 제거부(430)는 트리 구조의 관점에서 볼 때 현재 최상의 글로벌 가설에서 트랙을 포함하는 분기를 제외하고 이전에 N 개의 프레임에서 각 트랙 트리의 분기를 잘라낸다.Therefore, an N scan back approach should be applied to the identified track tree to remove tracks based on the delayed decision. For this, the
이와 같이 구성된 본 발명에 따른 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 장치의 동작을 첨부한 도면을 참조하여 상세히 설명하면 다음과 같다. 도 1과 동일한 참조부호는 동일한 기능을 수행하는 동일한 부재를 지칭한다. 그리고 설명에 앞서 기재된 기호들을 다음 도 2에서 정의한다.The operation of the on-line device for multi-camera multi-target tracking based on multiple hypothesis tracking according to the present invention will be described in detail with reference to the accompanying drawings. The same reference numerals as those in Fig. 1 designate the same members performing the same function. The symbols described before the description are defined in the following FIG. 2.
도 3 은 본 발명의 실시예에 따른 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 방법을 설명하기 위한 흐름도이다.3 is a flowchart illustrating an on-line method for multi-camera multi-target tracking based on multiple hypothesis tracking according to an embodiment of the present invention.
도 3을 참조하여 설명하면, 먼저 트랙렛 생성부(100)를 통해 도 4 및 도 5에서 도시하고 있는 것과 같이, 다중 카메라의 각 카메라에서 이미지를 받아온 매 프레임에서 보행자를 탐지하고, 이러한 탐지 결과를 시간별로 짝을 지어 한 사람에 대한 트랙렛(tracklet)으로 변환한다(S10). 이는 각 카메라별로 독립적으로 수행된다.Referring to FIG. 3, as shown in FIGS. 4 and 5, a pedestrian is detected in each frame received by each camera of the multiple cameras through the
상기 S10 단계를 상세히 설명하면, 매칭 스코어 산출부(110)를 통해 각 탐지 결과 및 기존에 이미 생성된 트랙렛들 사이의 유사도를 산출한 후, 매치 확인부(120)를 통해 상기 산출된 유사도를 기반으로 물리적으로 같은 트랙렛 여부를 확인하여 매치되는 트랙렛을 검출한다. 그리고 트랙렛 관리부(130)를 통해 상기 검출되는 트랙렛을 관리한다.The matching
상기 매칭 스코어 산출부(110)를 통해 유사도를 산출하는 방법을 상세히 설명하면 다음과 같다.A method of calculating the degree of similarity through the matching
시간 t에서 새롭게 검출된 검출로서 를 정의하고, 마지막 검출이 시간 인덱스 t-1을 갖는 모든 트랙렛의 세트로서의 는 다음 수학식 1과 같다.As a newly detected detection at time t As the set of all tracklets whose last detection has a time index t-1 Is expressed by the following equation (1).
이때, 트랙렛 과 검출 사이의 매칭 스코어는 다음 수학식 2 및 수학식 3과 같이 정의된다.At this time, And detection Is defined by the following equations (2) and (3). &Quot; (3) "
여기서, 상기 는 트랙렛 에 의해 포함된 시간 t에서의 검출이다. 그리고 상기 는 비교 간격의 길이이다. 또한 상기 및 은 후술하는 움직임 추정 기술에 기초한 양방향(순방향 및 역방향) 추적 결과이다. Here, The tracklet Lt; RTI ID = 0.0 > t. ≪ / RTI > And Is the length of the comparison interval. Further, And (Forward and backward) tracking results based on a motion estimation technique described later.
는 시간 (+1 : 순방향, -1 : 역방향)에서 의 추정치로서, 여기서 목표의 크기가 연속 프레임 사이에서 갑자기 변하지 않는다고 가정하면, 는 다음 수학식 4와 같이 정의된다. Time (+1: forward, -1: reverse) Assuming here that the size of the target does not suddenly change between consecutive frames, Is defined by the following equation (4).
여기서 는 다음에서 설명하는 모션 추정에서 와 사이의 주요 불일치를 나타낸다. here In the motion estimation described below Wow Lt; / RTI >
모션 추정에서 매칭 스코어 산출부(110)는 로부터 특징점을 추출하고 시간 에서 프레임상의 KLT 특징 추적 알고리즘으로 추적한다. In the motion estimation, the matching
시각 에서 성공적으로 추적된 j번째() 시점과 시간 에서의 추적 결과 사이의 불일치로 를 정의하면, 불일치 세트 는 다음 수학식 5와 같이 정의된다.Time Lt; RTI ID = 0.0 > j < / RTI > Time and time As a result of discrepancies between , The inconsistency set Is defined by the following equation (5).
여기서 상기 는 정적 특징 점으로부터의 불일치를 거부하는 설계 매개 변수이고, 의 관계수(cardinality)가 모든 추적된 특징 지점의 수 절반보다 작은 경우 는 이동하지 않으므로 으로 결정합니다.Here, Is a design parameter that rejects mismatches from static feature points, Of cardinality is less than half the number of all tracked feature points Does not move .
그렇지 않으면, 매칭 스코어 산출부(110)는 다음 수학식 6과 같이 가장 큰 이웃 집합을 갖는 큰 불일치를 찾는다.Otherwise, the matching
여기서 가 에 비례하는 이웃 윈도우 크기를 나타낼 때, 다음 수학식 7과 같다.here end Is expressed by Equation (7). &Quot; (7) "
상기에서 순방향 추적을 사용함으로써, 는 , 즉 이전 프레임에서의 트랙렛의 최종 검출로부터 얻어진다.By using forward tracking in the above, The , I.e. the final detection of the tracklet in the previous frame.
다음으로 매치 확인부(120)를 통해 산출된 유사도를 기반으로 도 6에서 도시하고 있는 것과 같이, 물리적으로 같은 트랙렛 여부를 확인하여 매치되는 트랙렛을 검출하는 방법을 상세히 설명하면 다음과 같다.Next, as shown in FIG. 6 based on the similarity calculated through the
각 프레임에서, 상기 수학식 2에서 정의된 점수로 기존의 Hungarian 방법(H. W. Kuhn, "The hungarian method for the assignment problem,"Naval research logistics quarterly, vol. 2, no. 1-2, pp. 83. 97, 1955.)에 의한 탐지와 추적을 매치한다.In each frame, the existing Hungarian method (HW Kuhn, " The hungarian method for the assignment problem, " Naval research logistics quarterly, vol. 97, 1955.) Matches detection and tracking.
이때, 트랙렛의 강건성을 높이기 위해 다음과 같은 두 가지 3D 기하 조건을 사용하여 각 일치를 확인한다.At this time, to improve the robustness of the tracklet, the following two 3D geometric conditions are used to confirm each match.
첫 번째 조건은 일치하는 탐지와 일치하는 추적의 마지막 탐지 사이의 3D 공간에서의 거리이다. 이는 매치가 유효 할 때 거리가 충분히 가깝다고 가정한다. 탐지 간의 3D 거리를 측정하려면 탐지된 각 보행자의 3D 위치를 단일 탐지로 알아야한다. 이에 따라 모든 보행자가 특정 3D 평면으로 이동한다고 가정하여 단일 탐지에서 발생하는 심도 모호성을 해결한다.The first condition is the distance in 3D space between the matching detection and the last detection of the matching trace. This assumes that the distance is close enough when the match is valid. To measure the 3D distance between detections, you need to know the 3D position of each detected pedestrian with a single detection. This solves the depth ambiguity arising from single detection assuming that all pedestrians are moving to a specific 3D plane.
가정 및 Tsai 카메라 보정 모델을 사용하여 카메라 의 이미지 좌표 를 3D 지면 평면의 좌표로 전송하는 역 투영 함수 를 정의 할 수 있다. 이때, 검출 와 트랙렛 사이의 일치가 유효하면, 와 , 마지막 검출 는 다음 수학식 8의 조건을 만족해야 한다.Using the Home and Tsai camera calibration model, Image coordinates of To the coordinates of the 3D ground plane Can be defined. At this time, And tracklet Lt; / RTI > is valid, Wow , Final detection Must satisfy the condition of the following equation (8).
여기서 는 동일한 트랙렛에서 연속 탐지 간의 허용 가능한 최대 3D 거리이며, 입력 비디오의 프레임 속도 및 대상의 평균 이동 속도와 관련된 설계 매개 변수이다.here Is the maximum allowable 3D distance between consecutive detections on the same tracklet and is a design parameter related to the frame rate of the input video and the average moving speed of the object.
두 번째 조건은 탐지된 개체의 예상 높이에 대한 것이다. 이는 표적의 높이가 갑자기 변하지 않는다고 가정 할 때, 와 는 그들 사이의 일치가 유효 할 때 유사한 높이를 가질 것이다. 이에 따라, 검출된 물체의 높이를 추정하는 함수로 을 정의할 때, 와 는 다음 수학식 9의 조건을 만족 시켜서 와 사이의 일치 유효성을 보장해야 한다.The second condition is the expected height of the detected object. Assuming that the height of the target does not suddenly change, Wow Will have a similar height when the agreement between them is valid. Accordingly, as a function of estimating the height of the detected object When you define, Wow Satisfies the following condition (9) Wow The validity of the agreement between the two should be guaranteed.
여기서 는 연속 프레임 사이의 목표 높이의 최대 허용 변화량에 대한 설계 매개 변수이다.here Is a design parameter for the maximum allowable variation in target height between consecutive frames.
이처럼, 유효성 검사가 끝나면 트랙렛 관리부(130)를 통해 유효한 일치 항목으로 트랙렛을 업데이트하고, 트랙렛에 대해 일치하는 탐지가 없으면 오탐지로 간주하여 추적 렛이 종료된다. 그리고 현재 탐지와 일치하는 트랙렛이 없을 때는 새로운 트랙렛으로 생성된다.When the validation is completed, the tracklet is updated as a valid match item through the
이어 후보트랙 생성부(200)를 통해 상기 변환된 트랙렛들을 가지고 가능한 모든 시간적·공간적 결합을 통해 3차원 상 추적 결과가 될 수 있는 후보트랙을 생성한다(S20).The candidate
상기 S20 단계를 상세히 설명하면, 트랙 업데이트부(210)를 통해 변환된 트랙렛들 중 새로운 트랙렛으로 생성하거나 일치하는 결과가 있는 기존 트랙렛을 업데이트하고, 트랙렛 결합부(220)를 통해 상기 업데이트 결과를 이용하여 트랙렛 생성부(100)에서 변환된 트랙렛들 중 같은 사람에게서 생성된 트랙렛들끼리 적어도 하나 이상의 묶음으로 결합한다. 그리고 트랙 생성부(230)를 통해 결합된 묶음별로 3차원 공간상에 3차원 좌표를 갖는 트랙을 생성하고, 생성된 트랙에 스코어를 부여한 후, 후보트랙 확립부(240)를 통해 업데이트 결과 및 생성된 트랙 스코어를 적용하여 추적 결과가 될 수 있는 후보들을 확립한다.In step S20, the
상기 트랙렛 결합부(220)를 통해 트랙렛들끼리 묶음으로 결합하는 방법을 상세히 설명하면 다음과 같다.A method of bundling tracklets through the
트랙렛 간의 데이터 연결은 동일한 대상에서 생성 된 트랙렛을 결정하는 것이다. 즉, 연계를 통해 전체 트랙렛은 여러 개의 하위 집합으로 분할된다. 각 하위 집합은 대상 또는 거짓 경보와 관련되어 있다고 가정하며, 거짓 경보는 비 표적 클러터(clutter)에 의해 생성된 트랙렛이다.The data connection between the tracklets determines the tracklets generated on the same target. In other words, the entire tracklet is divided into several sub-sets through association. Each subset is assumed to be associated with a target or false alarm, and a false alarm is a tracklet generated by a non-target clutter.
는 전체 트랙 세트 의 모든 가능한 파티션의 집합이라고 하면, MCMTT 문제의 목표는 표적 추적을 가장 잘 설명하는 파티션 를 찾는 것이다. The entire track set , The goal of the MCMTT problem is to partition the partitions that best describe the target tracking .
i번째() 파티션은 로 정의되고, 이때, 상기 는 잘못된 경보 집합이라고 하는 잘못된 경보 집합이고, 상기 는 i번째() 파티션에서 k번째() 목표로부터 추정된 트랙렛의 집합이며 결합 집합이라고 부른다.i th ( ) The partition , ≪ / RTI > Is a false alarm set called a false alarm set, Is the i-th ( ) Partition to the kth ( ) A set of estimated tracklets from a target and is called a join set.
대응하는 결합 집합이 주어질 때 결정적 방식으로 트랙을 생성 할 수 있음에 유의하여야 한다. 따라서 가능한 모든 결합 집합을 열거하는 것은 가능한 모든 트랙을 나열하는 것과 같다.It should be noted that a track can be generated in a deterministic manner given a corresponding combination set. Therefore, enumerating all possible join sets is like listing all possible tracks.
파티션 인덱스 없이 가능한 모든 결합 집합의 모든(universe) 집합을 다음 수학식 10과 같이 정의한다.(Universe) set of all possible combinations without partition index is defined as Equation (10).
여기서는 편의를 위해 인수 를 생략한다. 그리고 의 해당 트랙을 로 표기하고 와 결합된 검출 세트를 로 표기한다. 또한 결합 집합의 생성 방식을 설명하기 위해 공간적 결합(Spatial Association), 시간적 결합(temporal association) 및 병합(merge)으로 세 가지 연산을 정의한다.Here, for convenience, . And The corresponding track of And Lt; RTI ID = 0.0 > . In addition, three operations are defined as Spatial Association, Temporal Association, and Merge to describe how to create a binding set.
상기 첫 번째의 공간적 결합은 도 7(b)의 및 에 도시 된 바와 같이, 공간적 결합성은 시간적으로 겹치는 트랙렛 사이의 결합성에 의해 정의된다. 트랙렛 과 이 같은 표적인지 아닌지를 결정하기 위해, 트랙렛에서 동시 검출 사이의 거리가 섹트(Sect)에 기술된 역 투영 함수 를 갖는 에 의해 한정되는지를 검사하는 다음 수학식 11의 공간 결합성 조건을 나타낸다.The first spatial combination is the same as that of FIG. 7 (b) And The spatial associativity is defined by the coupling between the temporally overlapping tracklets. Tracklet and In order to determine whether or not such a target is present, the distance between simultaneous detections in the tracklet is determined by the inverse projection function Having Lt; RTI ID = 0.0 > (11) < / RTI >
그리고 두 번째의 시간적 결합은 시간적 결합성이 동일한 카메라의 연속적인 트랙렛 사이의 결합성에 의해 정의되며, 동일한 트랙렛은 동일한 표적에서 나온 것으로 간주된다. 즉, 시간 결합을 위해, 선행하는 트랙렛 및 후속하는 트랙렛 은 다음의 두 조건을 만족해야한다.And the temporal combination of the second is defined by the coupling between successive tracklets of the same camera with temporal associativity, and the same tracklet is considered to come from the same target. That is, for time combining, the preceding tracklet And the following tracklet Shall satisfy the following two conditions.
조건 1 : 각 표적이 각 뷰에서 최대 하나의 검출을 생성 할 수 있다는 사실에 따라, 및 은 일시적으로 중첩되지 않아야한다. 그건, 다음 수학식 12에서 나타낸다.Condition 1: Depending on the fact that each target can generate at most one detection in each view, And Should not be temporarily overlapped. This is expressed by the following equation (12).
조건 2 : 대상이 갑자기 위치를 변경할 수 없기 때문에 , 의 마지막 감지 및 의 첫 번째 감지인 은 3D 공간에서 충분히 근접하다. 따라서 가 한 프레임 동안 대상이 움직일 수 있는 최대 거리로 정의되는 경우, 다음 수학식 13의 조건을 갖는다.Condition 2: Because the target can not change position suddenly , Last detection of The first detection of Are close enough in 3D space. therefore Is defined as the maximum distance the object can move during one frame, it has the following condition (13).
마지막으로 세 번째 병합은 두 결합관계 집합의 결합 집합이 모든 공간적 및 시간적 결합조건을 충족시키는 경우 이 집합도 결합 집합이다. 이 두 결합 집합을 병합 가능이라고 한다. 이를 토대로, 이들 간의 병합 연산 는 다음 수학식 14와 같이 정의된다.Finally, the third merge is a conjunctive set where the combined set of two associative relations satisfies all spatial and temporal combining conditions. These two sets are called mergeable. Based on this, Is defined by the following equation (14).
각 와 의 트랙렛은 이미 모든 연결 조건을 만족하므로 의 트랙렛과 의 트랙렛 사이의 조건 만족을 검사하여 두 결합성 집합이 병합 가능한지 여부를 결정하면 된다.bracket Wow Tracklet already meets all the connection requirements With a tracklet It is only necessary to determine whether the two sets of associativity can be merged.
그리고 트랙 생성부(230)를 통해 트랙을 생성하는 방법을 상세히 설명하면 다음과 같다.A method of generating a track through the
결합 집합 가 주어 졌을 때, 트랙 생성부(230)는 시간 t에서의 의 검출 집합 을 결정할 수 있다. 그리고 를 사용하면 시간 t에서의 트랙 의 위치 는 재구성 및 평활화의 두 단계로 추정된다.Bond set The
이 섹션에서, 재구성의 정의는 시간 에서 트랙 의 추정된 3D 위치 를 생성하는 것이다. 그리고 가 공집합이 아닌 경우 는 의 기하학적 중심점으로 다음 수학식 15와 같이 정의된다.In this section, the definition of reorganization is time Track in Estimated 3D position of . And Is not an empty set The Is defined as the following equation (15).
목표물이 시간 에 임의의 카메라에 의해 검출되지 않으면, 이다. 이 경우에, 인접한 두 개의 재구성된 위치의 보간에 의해 를 추정한다. 즉, 와 은 각각 비어 있지 않은 감지 집합을 가진 t에서 가장 가까운 선행 시간과 다음 시간을 나타내면, 다음 시간 t에서 재구성된 3D 위치는 다음 수학식 16과 같이 정의된다.Target Time If it is not detected by any camera, to be. In this case, by interpolation of two adjacent reconstructed positions . In other words, Wow Represents the nearest preceding time and next time in t with a nonempty detection set, the reconstructed 3D position at the next time t is defined as: < EMI ID = 16.0 >
재구성 단계에서 발견된 는 다른 시간에 의 다른 3D 위치와는 독립적이다. 그러나 인접한 위치는 대상이 특정 동작에서 움직이기 때문에 상호 결합성이 높다.Found in the reconstruction phase At another time Lt; / RTI > 3D position. However, the adjacent positions are highly mutually connected because the object moves in a specific motion.
이러한 종속성을 고려하기 위해 재구성된 3D 위치를 부드럽게 처리하기 위해, 의 모든 개개의 재구성된 3D 위치가 발견되면, 시간 t에서 의 최종 3D 위치인 는 다음 수학식 17에 의해 얻어진다.To smoothly process the reconstructed 3D position to account for this dependency, ≪ / RTI >< RTI ID = 0.0 > 3D position of Is obtained by the following equation (17).
여기서 는 시간 t에서 평활화된 위치를 반환하는 함수이다.here Is a function that returns the smoothed position at time t.
한편, 생성된 트랙에 스코어를 부여는 다섯 가지 요소를 고려하면서 각 트랙에 대해 스코어를 제안한다. On the other hand, assigning a score to a generated track suggests a score for each track, considering the five factors.
첫 번째 것은 트랙의 위치가 탐지와 동일한지를 나타내는 재구성 스코어 이다. 두 번째는 트랙의 연속 위치의 기하학적 적합성을 고려한 연결 스코어 이다. 세 번째와 네 번째는 시작 스코어 와 종료 스코어 이다. 이때, 각 트랙은 트랙의 시작 또는 끝 위치의 적합성을 평가합니다. 그리고 트랙이 보이는 영역 또는 입구의 경계에서 시작하거나 끝나면 트랙의 시작 또는 종료 스코어가 낮습니다. 마지막 하나는 트랙과 관련된 탐지 간의 시각적 유사도를 나타내는 시각적 스코어 이다.The first is a reconstruction score that indicates whether the track's position is the same as the detection to be. The second is the connection score considering the geometric fit of the continuous position of the track to be. The third and fourth are starting scores And end score to be. At this time, each track evaluates the suitability of the start or end position of the track. And when the track starts or ends at the boundary of the visible area or entrance, the track's start or end score is low. The last one is a visual score that represents the visual similarity between the detections associated with the track to be.
그런 다음 트랙 점수는 다음 수학식 18에 의해 정의된다.The track score is then defined by the following equation (18).
다음으로 트랙 선별부(300)를 통해 생성된 후보트랙 중 확률 상으로 표적의 경로(trajectory)일 확률이 높은 후보트랙을 최적 트랙으로 선별하고, 선별된 최적 트랙을 피드백하면서 연속하여 최적 트랙을 선별한다(S30).Next, a candidate track having a high probability of being a target trajectory is selected as an optimum track on the basis of the probability among the candidate tracks generated through the
상기 S30 단계를 상세히 설명하면, MWCP 구조부(310)를 통해 피드백되는 최적 트랙 정보를 이용하여 일치하는 그룹을 갖는 트랙들을 서브-그룹으로 분류한다. 그리고 글로벌 가설 형성부(320)를 통해 상기 분류된 서브-그룹별 실제 표적의 경로일 확률이 높은 최적 트랙을 선별하고, 선별된 최적 트랙을 상기 MWCP 구조부(310)로 피드백한다.In step S30, tracks having matching groups are classified into sub-groups using optimal track information fed back through the
이때, 상기 글로벌 가설 형성부(320)를 통해 최적 트랙을 선별하는 방법은 이미 공지되어 있는 BLS(Breakout Local Search) 알고리즘을 사용한다. 그러나 이는 하나의 일 실시예일 뿐, 혼합 정수 프로그래밍(Mixed Integer Programming)이 가능한 임의의 해석(solving) 알고리즘은 모두 이용이 가능하다. 즉 상기 S3 단계는 해석(solving) 알고리즘의 형식에 특장점이 있다고 보기보다 매 프레임을 해석할 때, BLS 알고리즘을 사용하기 이전에, 피드백을 통해 전 프레임에서의 해설 결과를 토대로 나타나는 문제의 크기를 줄이는데 그 특징이 있다.At this time, a method of selecting an optimal track through the global
이처럼, 피드백을 이용함에 따라 다음과 같은 효용성을 가지게 된다. 첫째는 해당 형식(Formulation)의 경우, 문제를 푸는데 드는 연산량은 한 번에 고려되는 트랙의 개수에 지수적으로 비례하고, 둘째, 피드백 정보를 이용하여 하나의 큰 문제를 N 개의 작은 문제로 쪼갤 수 있다. 즉, 본디 하나만 풀어도 되는 문제를 N개의 문제로 변환하였으나, 각 문제의 크기가 원래의 문제 크기에 비해 매우 작기 때문에, 속도가 훨씬 빨라진다. 셋째, 풀고자하는 문제가 트랙킹(Tracking) 문제이기 때문에, 피드백 정보를 활용하여 서브 그룹(sub-group)으로 나누어 풀어도 본래 문제를 푼 것과 성능 차이가 거의 없게 된다.Thus, by using feedback, it has the following advantages. First, in the case of the formulation, the amount of computation to solve the problem is exponentially proportional to the number of tracks considered at one time. Second, one large problem can be divided into N small problems using feedback information. have. In other words, although the original problem can be solved only into N problems, the speed is much faster because the size of each problem is very small compared to the original problem size. Third, since the problem to be solved is a tracking problem, even if the feedback information is divided into sub-groups, there is almost no performance difference from the original problem.
이어 트랙 제거부(400)를 통해 생성된 후보들 및 상기 트랙 선별부(300)에서 선별된 최적 트랙을 기반으로 트랙의 길이 및 탐지된 개체의 예상 높이 등을 이용하여 근사 글로벌 확률(AGTP) 또는 N 스캔 백 방식을 이용하여 추적 결과가 될 수 있는 가능성을 진단하여 그 가능성이 설정된 임계치보다 낮은 트랙을 제거하고, 이때의 정보를 상기 후보트랙 생성부(200)로 전달한다(S40).An approximate global probability (AGTP) or an approximate global probability (NTP) using the track length and the estimated height of the detected entity based on the candidates generated through the
상기 S40 단계를 상세히 설명하면, AGTP(Approximation of Global Track Probability)부(410)를 통해 선별된 최적 트랙들을 제거하기 위한 글로벌 가설을 설정한다. 이때, 상기 글로벌 가설은 트랙렛의 파티션에 의해 생성된 트랙 집합이므로, 호환 가능한 트랙 세트로 정의 될 수도 있다. 따라서 특정 트랙 세트로부터, 여러 글로벌 가설들은 트랙들 간의 호환성에 따라 생성 될 수 있다. 그리고 추적 방법의 목표는 이전 섹션에서 정의한 트랙 점수에 따라 글로벌 가설 중에서 가장 좋은 글로벌 가설 을 찾는 것이다.In step S40, a global hypothesis for eliminating the optimal tracks selected through the Approximation of Global Track Probability (AGTP)
상기 후보트랙 생성부(200)는 를 빠르게 찾는 온라인 체계를 제시한다. 이를 위해, 모든 프레임에서, t번째() 프레임의 전체 트랙 세트인 로부터 모든 가능한 글로벌 가설 중에서 를 찾는 최적화 문제로서 MWCP를 공식화한다.The candidate
상기 후보트랙 생성부(200)는 계산을 줄이고 성능을 향상시키기 위해 이전 프레임의 최적 솔루션인 을 사용한다. 그러나 최상의 솔루션만 현재 프레임까지 전파 할 때 로컬 최적 조건에 갇히기 쉽다. 이 문제를 해결하기 위해 최상의 솔루션뿐만 아니라 각 프레임에서 최선의 솔루션 를 찾아 다음 프레임에서 여러 MWCP를 구성하는데 사용한다.In order to reduce the calculation and improve the performance, the candidate
상기 후보트랙 생성부(200)는 MWCP를 해결하기 위한 최첨단 발견적 BLS인 BLS를 아래와 같이 수정하고 이를 다중 솔루션의 신속한 생성을 위한 온라인 체계에 적용한다. The candidate
먼저 MCMTT를 위한 MWCP를 설명하면, t 번째() 프레임에서 높은 스코어와 호환 가능한 트랙으로 구성된 글로벌 가설을 찾는 MWCPs를 구성한다. 각 MWCP는 , 로 구성되어, 이전 최상의 글로버 가설이 이라는 가정 하에 현재 최고의 글로벌 가설의 후보인 트랙 세트이다. 본 명세서에서는 을 의 관련 트랙 세트라고 부른다.First, we explain the MWCP for MCMTT, ) Find a global hypothesis that consists of high scores and compatible tracks in the frame Configure MWCPs. Each MWCP , , The previous best global hypothesis It is a track set that is currently the best global hypothesis candidate. In this specification of Is referred to as an associated track set.
여기에는 트랙의 3타입을 포함한다. (i) 의 트랙, (ii) (ii)의, 즉 의 자식 중 현재 프레임에서 새로 생성된 트랙, 그리고 (iii) 확인되지 않은 트랙을 포함한다.This includes three types of tracks. (i) (Ii) (ii), that is, A newly created track in the current frame among the children of the current frame, and (iii) an unidentified track.
상기 확인되지 않은 트랙은 프레임보다 짧은 트랙으로, 미확인 트랙은 너무 짧아 가양성 여부를 판단 할 수 없다. 따라서 미확인 트랙이 이전 솔루션에 없는 경우에도 미확인 트랙을 관련 트랙 세트에 지속적으로 삽입한다. 그러면 은 다음 수학식 19과 같이 주어진다.The unidentified track For a track shorter than the frame, the unidentified track is too short to judge false positives. Therefore, even if the unidentified track is not in the previous solution, the unidentified track is continuously inserted into the related track set. then Is given by the following equation (19).
그리고 에 대한 각 에 대한 MWCP는 다음 수학식 20과 같이 공식화된다.And For each Is formulated as: " (20) "
이때, 상기 은 의 접합성(compatibility) 집합이다. 문제의 솔루션은 과 같은 선택 변수 로 나타낼 수 있다.At this time, silver And a set of compatibility of the two. The solution in question Optional variables such as .
상기 후보트랙 생성부(200)는 각 MWCP를 확장된 BLS로 풀어내며, 단일 MWCP에서 여러 개의 로컬 최적 솔루션을 신속하게 생성한다. 이에 을 에 대한 MWCP를 푸는 과정을 통해, 현재 프레임의 모든 MWCP에서 발견 할 수 있는 전체 솔루션을 으로 구할 수 있다.The candidate
즉, 총 트랙 점수에 따라 에서 최적 솔루션 를 선택한다. 그러면 현재 프레임의 추적 솔루션이 에서 가장 좋은 추적 솔루션이며, 다음 수학식 21로 산출된다.That is, depending on the total track score in Optimal solution . Then the tracking solution for the current frame And is calculated by the following equation (21).
입력 비디오 시퀀스의 시작 프레임에서 일 때, 전체 트랙 집합 를 갖는 단일 MWCP를 구성하고 풀 수 있다. 그리고 MWCP를 해결하는 계산은 그것을 해결할 때 트랙 수에 기하급수적으로 비례한다.At the start frame of the input video sequence , The entire track set Can be configured and solved. And the calculations that solve MWCP are exponentially proportional to the number of tracks when solving them.
보통의 경우, 는 보다 훨씬 작다. 따라서 일반적으로 온라인 체계는 여러 MWCP를 해결해야만 원래 문제를 해결하는 것보다 빠르다.Usually, The . Therefore, online systems are generally faster than solving the original problem by solving multiple MWCPs.
다음으로 MCMTT를 위한 BLS를 설명하면, BLS는 최첨단 휴리스틱 알고리즘으로 표적이 없는(undirected) 그래프에서 최대 가중 클릭(clique)을 찾는다. 또한 BLS는 지역 탐색과 랜덤 혼란(random perturbation)으로 구성된 반복을 기반으로 한다. 따라서 로컬 검색에서 로컬 최적 솔루션을 얻으면 현재 솔루션을 임의로 교란하여 다른 로컬 최적 솔루션을 찾는다. 또한 지역 검색이 연속적으로 같은 해결책으로 끝나면 BLS는 지역 분지에서 벗어나기 위해 점차 교란 강도를 증가시킨다. 이것을 적응 혼란(adaptive perturbation)이라고 하며 BLS의 핵심 개념이다. Next, we describe BLS for MCMTT. BLS finds the maximum weighted clique in undirected graph with state-of-the-art heuristic algorithm. BLS is also based on iterations consisting of local search and random perturbation. Thus, if you obtain a local optimal solution from a local search, you randomly disturb the current solution to find another local optimal solution. Also, when the local search finishes with the same solution in succession, the BLS gradually increases the disturbance intensity to escape from the local branch. This is called adaptive perturbation and is the core concept of BLS.
온라인 체계에서 BLS는 각 MWCP를 해결하기 위해 다음 세 가지 변화(variants)를 적용합니다.In the online system, BLS applies the following three variants to solve each MWCP:
1) 여러 솔루션 : 원래 BLS는 현재로서는 최적의 솔루션만 유지한다. 대조적으로, 본 발명은 알고리즘이 종료 조건을 만족시킬 때까지 발견된 모든 지역적 최적 솔루션을 유지한다. 그 다음, 그 해를 으로 묶어 n 번째 MWCP의 해결 결과로 반환한다.1) Multiple solutions: Original BLS currently only maintains the optimal solution. In contrast, the present invention maintains all locally optimal solutions found until the algorithm satisfies the termination condition. Then, And returns it as the solution result of the nth MWCP.
2) 종료 조건 : 발견된 솔루션의 글로벌 최적성을 보장할 방법이 없기 때문에 BLS는 종료 조건으로 최대 반복 횟수만 사용한다. 따라서 반복의 최대 횟수는 더 나은 해결책을 찾을 수 있는 더 많은 기회를 갖기 위해 거대한 상수로 설정된다. 그러나 실시간 요구 사항을 요구하는 실용적인 알고리즘은 다루기가 어렵다. 따라서 적절한 반복 수는 그래프의 복잡성에 비례한다고 가정한다. 그리고 호환성 세트의 크기인 은 그래프의 복잡성을 반영한다고 가정한다. 그래서 본 명세서에서는 최대 반복 횟수 를 다음 수학식 22와 같이 제안한다.2) Termination condition: Since there is no way to guarantee the global optimality of the solution found, the BLS uses the maximum number of iterations as a termination condition. So the maximum number of iterations is set to a huge constant to give you more opportunities to find a better solution. However, practical algorithms that require real-time requirements are difficult to handle. Therefore, it is assumed that the appropriate number of iterations is proportional to the complexity of the graph. And the size of the compatibility set Are assumed to reflect the complexity of the graph. Therefore, in the present specification, Is expressed by the following equation (22).
여기에서 는 미리 결정된 매개 변수이며, 여기서는 모든 실험 중에 10으로 설정한다. 그러나 수학식 22는 실용적인 애플리케이션에 국한되어야 한다. 따라서 미리 정한 매개 변수인 를 사용하여 최대 반복 횟수를 적용한다.From here Is a predetermined parameter, and is set here to 10 during all experiments. However, equation (22) should be limited to practical applications. Therefore, The maximum number of iterations is applied.
3) 초기 해법 : BLS는 호환 가능한 트랙의 랜덤 선택에 의해 초기 솔루션을 생성하여 사전 정보가 없을 때 자연스럽다. 그러나 온라인 MCMTT에서 대상이 연속 프레임 간에 원활하게 이동하기 때문에 이전 프레임의 솔루션은 현재 MWCP에 대한 강력한 사전 정보가 될 수 있다. 따라서 을 으로 설정하고 로컬 검색을 수행하여 초기 솔루션을 개선한다. 그러나 추적이 진행됨에 따라 트랙 간의 호환성이 변경 될 수 있으므로 실행 불가능할 때 로컬 검색 전에 을 복구해야 한다.3) Initial solution: BLS creates an initial solution by random selection of compatible tracks and is natural when there is no prior information. However, since the object moves smoothly between consecutive frames in the online MCMTT, the solution of the previous frame can be a powerful advance information about the current MWCP. therefore of And perform a local search to improve the initial solution. However, as the track progresses, compatibility between tracks may change, so if it is not feasible, .
의 복구는 다음과 같은 방식으로 수행된다. Recovery is performed in the following manner.
첫째, 초기 솔루션의 후보 트랙인 를 으로 설정한다. 그런 다음 에서 가장 높은 트랙 스코어를 가진 트랙을 에 삽입하고 를 로 업데이트 한다. 그리고 가 빈 세트가 될 때까지 이러한 삽입 및 업데이트를 반복한다.First, the candidate track of the initial solution To . after that Tracks with the highest track score in And To . And ≪ / RTI > repeats these inserts and updates until it becomes an empty set.
이어 미확인 트랙 제거부(420)를 통해 설정된 글로벌 가설을 기준으로 도 8에서 도시하고 있는 것과 같이, 상기 검출된 트랙들 중 근사 글로벌 확률(AGTP)이 없는(AGTP는 KH 최상의 글로벌 가설에 의해 정의되기 때문에 KH 최고의 글로벌 가설에 속하지 않는) 트랙을 제거한다. 또한 N 스캔 백 제거부(430)를 통해 설정된 글로벌 가설을 기준으로 N 프레임을 스캔하여 상기 글로벌 가설에 따라 대상의 위치를 수정하고, 고정된 위치의 대상과 호환되지 않는 모든 트랙을 제거한다. 이때, 상기 근사 글로벌 확률(AGTP) 및 N 스캔 백 제거는 이미 공지되어 있는 기술내용으로 이에 따른 상세한 설명은 생략한다.As shown in FIG. 8 based on the global hypothesis set through the unconfirmed
상기에서 설명한 본 발명의 기술적 사상은 바람직한 실시예에서 구체적으로 기술되었으나, 상기한 실시예는 그 설명을 위한 것이며 그 제한을 위한 것이 아님을 주의하여야 한다. 또한, 본 발명의 기술적 분야의 통상의 지식을 가진자라면 본 발명의 기술적 사상의 범위 내에서 다양한 실시예가 가능함을 이해할 수 있을 것이다. 따라서 본 발명의 진정한 기술적 보호 범위는 첨부된 특허청구범위의 기술적 사상에 의해 정해져야 할 것이다. While the present invention has been particularly shown and described with reference to exemplary embodiments thereof, it is to be understood that the invention is not limited to the disclosed exemplary embodiments. It will be apparent to those skilled in the art that various modifications may be made without departing from the scope of the present invention. Accordingly, the true scope of the present invention should be determined by the technical idea of the appended claims.
Claims (15)
상기 트랙렛 생성부에서 변환된 트랙렛들을 가지고 가능한 모든 시간적·공간적 결합을 통해 3차원 공간 상 추적 결과가 될 수 있는 후보트랙을 생성하는 후보트랙 생성부와,
상기 후보트랙 생성부에서 생성된 후보트랙 중 확률 상으로 표적의 경로(trajectory)일 확률이 높은 후보트랙을 최적 트랙으로 선별하고, 선별된 최적 트랙을 피드백하면서 연속하여 최적 트랙을 선별하는 트랙 선별부와,
상기 후보트랙 생성부에서 생성된 후보들 및 상기 트랙 선별부에서 선별된 최적 트랙을 기반으로 트랙의 길이 및 탐지된 개체의 예상 높이 등을 이용하여 근사 글로벌 확률(AGTP) 또는 N 스캔 백 방식을 이용하여 추적 결과가 될 수 있는 가능성을 진단하여 그 가능성이 설정된 임계치보다 낮은 트랙을 제거하고, 그 결과를 상기 후보트랙 생성부로 전달하는 트랙 제거부를 포함하여 구성되는 것을 특징으로 하는 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 장치.A tracklet generator for converting a detection result detected through a frame into a tracklet for each camera of the multiple cameras,
A candidate track generating unit for generating a candidate track that can be traced in three-dimensional space through all possible temporal / spatial combinations with the tracklets transformed by the tracklet generating unit;
A track selecting unit for selecting a candidate track having a high probability of being a target trajectory on the probability among the candidate tracks generated by the candidate track generating unit as an optimum track and continuously selecting an optimum track while feeding back the selected optimum track, Wow,
(AGTP) or an N scan back method using the track length and the expected height of the detected object based on the candidates generated by the candidate track generating unit and the optimal track selected by the track selecting unit And a track eliminating unit for diagnosing a possibility of being a tracking result, removing a track lower than a threshold value at which the possibility is set, and transmitting the result to the candidate track generating unit. On-line device for multi-target tracking.
상기 트랙렛은 연속적인 프레임들로부터의 검출들 간의 시간적 결합을 통해 생성되며, 상기 후보트랙 생성부는 생성되는 트랙렛의 모션 및 모양 정보와 연결하여 후보 트랙을 생성하는 것을 특징으로 하는 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 장치.The method according to claim 1,
Wherein the tracklet is generated through a temporal combination between detections from successive frames and the candidate track generator generates a candidate track in connection with motion and shape information of the generated tracklet. Multi - camera based on - line device for multi - target tracking.
각 탐지 결과 및 기존에 이미 생성된 트랙렛들 사이의 유사도를 산출하는 매칭 스코어 산출부와,
상기 매칭 스코어 산출부에서 산출된 유사도를 기반으로 물리적으로 같은 트랙렛 여부를 확인하여 매치되는 트랙렛을 검출하는 매치 확인부와,
상기 매치 확인부에서 검출되는 트랙렛을 관리하는 트랙렛 관리부를 포함하여 구성되는 것을 특징으로 하는 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 장치.2. The apparatus of claim 1, wherein the tracklet generator
A matching score calculation unit for calculating a result of each detection and the similarity between already existing tracklets,
A match check unit for checking whether a tracklet is physically the same based on the similarity calculated by the matching score calculator and detecting a matching tracklet,
And a tracklet management unit for managing the tracklets detected by the match verification unit. The on-line apparatus for multiple camera multi-target tracking based on multiple hypothesis tracking.
트랙렛 생성부에서 변환된 트랙렛들 중 새로운 트랙렛으로 생성하거나 일치하는 결과가 있는 기존 트랙렛을 업데이트하는 트랙 업데이트부와,
상기 트랙 업데이트부의 결과를 이용하여 트랙렛 생성부에서 변환된 트랙렛들 중 같은 사람에게서 생성된 트랙렛들끼리 적어도 하나 이상의 묶음으로 결합하는 트랙렛 결합부와,
상기 트랙렛 결합부에서 결합된 묶음별로 3차원 공간상에 3차원 좌표를 갖는 트랙을 생성하고, 생성된 트랙에 스코어를 부여하는 트랙 생성부와,
상기 트랙 업데이트부의 결과 및 트랙 생성부에서 생성된 트랙 스코어를 적용하여 추적 결과가 될 수 있는 후보들을 확립하는 후보트랙 확립부를 포함하여 구성되는 것을 특징으로 하는 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 장치.The apparatus of claim 1, wherein the candidate track generating unit
A track updater for generating a new tracklet among the transformed tracklets in the tracklet generating unit or updating an existing tracklet having a matching result,
A tracklet combining unit for combining the tracklets generated by the same person among at least one of the tracklets converted by the tracklet generating unit using the result of the track updating unit,
A track generating unit for generating a track having three-dimensional coordinates on a three-dimensional space for each bundle combined at the tracklet combining unit and giving a score to the generated track;
And a candidate track establishment unit for establishing candidates that can be tracked by applying the track score generated by the track update unit and the track update unit. The multi-camera multi-target tracking based multi- On-line device for.
피드백되는 최적 트랙 정보를 이용하여 일치하는 그룹을 갖는 트랙들을 서브-그룹으로 분류하는 MWCP 구조부와,
상기 MWCP 구조부에서 분류된 서브-그룹별 실제 표적의 경로일 정의된 임계치를 갖는 확률보다 높은 트랙을 선별하고, 선별된 트랙을 상기 MWCP 구조부로 피드백하는 글로벌 가설 형성부를 포함하여 구성되는 것을 특징으로 하는 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 장치.The apparatus of claim 1, wherein the track selector
An MWCP structure unit for classifying tracks having coincident groups into sub-groups using optimum track information to be fed back,
And a global hypothesis forming unit for selecting a track higher than a probability having a threshold defined as a path of an actual target per sub-group classified by the MWCP structure unit and feeding back the selected track to the MWCP structure unit Multi - camera based on multiple hypothesis tracking On - line device for multi - target tracking.
트랙 선별부에서 선별된 최적 트랙들을 제거하기 위한 글로벌 가설을 설정하는 AGTP(Approximation of Global Track Probability)부와,
상기 AGTP부에서 설정된 글로벌 가설을 기준으로 검출된 트랙들 중 근사 글로벌 확률(AGTP)이 없는 트랙을 제거하는 미확인 트랙 제거부와,
상기 AGTP부에서 설정된 글로벌 가설을 기준으로 N 프레임을 스캔하여 상기 글로벌 가설에 따라 대상의 위치를 수정하고, 고정된 위치의 대상과 호환되지 않는 모든 트랙을 제거하는 N 스캔 백 제거부를 포함하여 구성되는 것을 특징으로 하는 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 장치.The apparatus of claim 1, wherein the track removing unit
An Approximation of Global Track Probability (AGTP) unit for setting a global hypothesis for eliminating the optimum tracks selected by the track selection unit,
An unidentified track removal unit for removing a track having no approximate global probability (AGTP) among tracks detected based on a global hypothesis set by the AGTP unit;
And an N scan back removing unit for scanning N frames based on the global hypothesis set by the AGTP unit and correcting the position of the object according to the global hypothesis and removing all tracks incompatible with the object at the fixed position And an on-line device for multi-camera multi-target tracking based on multiple hypothesis tracking.
(B) 후보트랙 생성부를 통해 상기 변환된 트랙렛들을 가지고 가능한 모든 시간적·공간적 결합을 통해 3차원 상 추적 결과가 될 수 있는 후보트랙을 생성하는 단계와,
(C) 트랙 선별부를 통해 생성된 후보트랙 중 확률 상으로 표적의 경로(trajectory)일 확률이 설정된 임계치 보다 높은 후보트랙을 최적 트랙으로 선별하고, 선별된 최적 트랙을 피드백하면서 연속하여 최적 트랙을 선별하는 단계와,
(D) 트랙 제거부를 통해 생성된 후보들 및 상기 트랙 선별부에서 선별된 최적 트랙을 기반으로 트랙의 길이 및 탐지된 개체의 예상 높이 등을 이용하여 근사 글로벌 확률(AGTP) 또는 N 스캔 백 방식을 이용하여 추적 결과가 될 수 있는 가능성을 진단하여 그 가능성이 설정된 임계치보다 낮은 트랙을 제거하고, 그 결과를 상기 후보트랙 생성부로 피드백하는 단계를 포함하여 이루어지는 것을 특징으로 하는 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 방법.(A) detecting a pedestrian in each frame of an image received from each camera of the multiple cameras, and converting the detected result into a tracklet for a person in pairs by time;
(B) generating a candidate track that can be a three-dimensional tracking result through all possible temporal / spatial combinations with the transformed tracklets through a candidate track generation unit;
(C) a candidate track having a probability that a trajectory of a target is higher than a set threshold value is selected as an optimum track on the basis of the probability among the candidate tracks generated through the track selection unit, and the optimal track is selected successively while feeding back the selected optimum track , ≪ / RTI &
(D) an approximate global probability (AGTP) or an N scan back method using the track length and the expected height of the detected object based on the candidates generated through the track eliminating unit and the optimum track selected by the track selecting unit And a step of diagnosing a possibility of becoming a tracking result, removing a track lower than a threshold value at which the possibility is set, and feeding back the result to the candidate track generating unit. An on-line method for target tracking.
매칭 스코어 산출부를 통해 각 탐지 결과 및 기존에 이미 생성된 트랙렛들 사이의 유사도를 산출하는 단계와,
매치 확인부를 통해 상기 산출된 유사도를 기반으로 물리적으로 같은 트랙렛 여부를 확인하여 매치되는 트랙렛을 검출하는 단계로 이루어지는 것을 특징으로 하는 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 방법.8. The method of claim 7, wherein step (A)
Calculating a result of each detection and similarity between already existing tracklets through the matching score calculator,
And checking whether the same tracklet is physically the same based on the calculated similarity through a match check unit and detecting a tracklet matched with the tracklet. The on-line method for multiple camera multi-target tracking based on multiple hypothesis tracking.
상기 트랙렛의 검출은 트랙렛 관리부를 통해 유효한 일치 항목으로 트랙렛을 업데이트하고, 트랙렛에 대해 일치하는 탐지가 없으면 오탐지로 간주하여 추적 렛이 종료하며, 현재 탐지와 일치하는 트랙렛이 없을 때는 새로운 트랙렛으로 생성하는 단계를 더 포함하는 것을 특징으로 하는 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 방법.9. The method of claim 8,
The detection of the tracklet updates the tracklet as a valid match through the tracklet management section, and if there is no coincidence detection for the tracklet, the trackinglet is regarded as a false detection and there is no tracklet matching the current detection And generating the new tracklet as a new tracklet. ≪ RTI ID = 0.0 > [0002] < / RTI >
트랙렛 결합부를 통해 상기 업데이트 결과를 이용하여 트랙렛 생성부에서 변환된 트랙렛들 중 같은 사람에게서 생성된 트랙렛들끼리 적어도 하나 이상의 묶음으로 결합하는 단계와,
트랙 생성부를 통해 결합된 묶음별로 3차원 공간상에 3차원 좌표를 갖는 트랙을 생성하는 단계와,
상기 생성된 트랙에 스코어를 부여한 후, 후보트랙 확립부를 통해 업데이트 결과 및 생성된 트랙 스코어를 적용하여 추적 결과가 될 수 있는 후보들을 확립하는 단계를 포함하여 이루어지는 것을 특징으로 하는 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 방법.8. The method of claim 7, wherein step (B)
Combining the tracklets generated by the same person among at least one of the transformed tracklets in the tracklet generating unit using the update result through the tracklet combining unit;
Generating a track having three-dimensional coordinates on a three-dimensional space for each bundle through the track generating unit;
Generating a score for the generated track, and applying the update result and the generated track score to the candidate track establishment unit through the candidate track establishment unit to establish candidates that can be tracked results. An on-line method for camera multi-target tracking.
상기 결합 단계에서 결합은 공간적 결합(Spatial Association), 시간적 결합(temporal association), 그리고 상기 공간적 결합 및 시간적 결합의 병합(merge) 중 어느 하나로 이루어지며,
상기 공간적 결합은 시간적으로 겹치는 트랙렛 사이의 결합성에 의해 정의되며, 상기 시간적 결합은 시간적 결합성이 동일한 카메라의 연속적인 트랙렛 사이의 결합성에 의해 정의되는 것을 특징으로 하는 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 방법.11. The method of claim 10,
In the combining step, the combining is performed by any one of a spatial association, a temporal association, and a merge of the spatial combination and the temporal combination,
Wherein the temporal combination is defined by the coupling between consecutive tracklets of the same camera with temporal connectivity, wherein the temporal combination is defined by the temporal coupling between the temporal overlapping tracklets. ≪ RTI ID = 0.0 > An on-line method for multi-target tracking.
상기 생성된 트랙에 스코어를 부여는 다섯 가지 요소를 고려하면서 각 트랙에 대해 스코어를 부여하며,
첫 번째 것은 트랙의 위치가 탐지와 동일한지를 나타내는 재구성 스코어 , 두 번째는 트랙의 연속 위치의 기하학적 적합성을 고려한 연결 스코어 , 세 번째와 네 번째는 시작 스코어 와 종료 스코어 , 마지막 하나는 트랙과 관련된 탐지 간의 시각적 유사도를 나타내는 시각적 스코어 인 것을 특징으로 하는 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 방법.11. The method of claim 10,
Assigning a score to the generated track gives a score for each track, taking into account the five factors,
The first is a reconstruction score that indicates whether the track's position is the same as the detection , The second is the connection score taking into account the geometric fit of the consecutive positions of the track , The third and fourth start score And end score , And the last one is a visual score indicating the visual similarity between the detections associated with the track Wherein the multiple tracking target tracking is based on multiple hypothesis tracking.
MWCP 구조부를 통해 피드백되는 최적 트랙 정보를 이용하여 일치하는 그룹을 갖는 트랙들을 서브-그룹으로 분류하는 단계와,
글로벌 가설 형성부를 통해 상기 분류된 서브-그룹별 실제 표적의 경로일 확률이 높은 최적 트랙을 선별하는 단계와,
상기 선별된 최적 트랙을 상기 MWCP 구조부로 피드백하는 단계를 포함하여 이루어지는 것을 특징으로 하는 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 방법.8. The method of claim 7, wherein step (C)
Grouping the tracks having a matching group into a sub-group using optimal track information fed back through the MWCP structure section;
Selecting an optimal track having a high probability of a path of an actual target for each of the classified sub-groups through a global hypothesis forming unit;
And feedbacking the selected optimal track to the MWCP structure. ≪ Desc / Clms Page number 21 >
AGTP(Approximation of Global Track Probability)부를 통해 선별된 최적 트랙들을 제거하기 위한 글로벌 가설을 설정하는 단계와,
미확인 트랙 제거부를 통해 설정된 글로벌 가설을 기준으로 상기 검출된 트랙들 중 근사 글로벌 확률(AGTP)이 없는 트랙을 제거하는 단계와,
N 스캔 백 제거부를 통해 설정된 글로벌 가설을 기준으로 N 프레임을 스캔하여 상기 글로벌 가설에 따라 대상의 위치를 수정하고, 고정된 위치의 대상과 호환되지 않는 모든 트랙을 제거하는 단계를 포함하여 이루어지는 것을 특징으로 하는 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 방법.8. The method of claim 7, wherein step (D)
Setting a global hypothesis for eliminating optimal tracks selected through an Approximation of Global Track Probability (AGTP)
Removing tracks having no approximate global probability (AGTP) among the detected tracks based on a global hypothesis set through an unidentified track remover;
Scanning the N frames based on the global hypothesis set through the N scan back removing unit to correct the position of the object according to the global hypothesis and removing all tracks incompatible with the object at the fixed position Multi - camera based on multiple hypothesis tracking with on - line tracking for multi - target tracking.
상기 글로벌 가설은 트랙렛의 파티션에 의해 생성된 트랙 집합으로, 호환 가능한 트랙 세트로 정의되어 트랙들 간의 호환성에 따라 생성되며,
이전 섹션에서 정의한 트랙 점수에 따라 글로벌 가설 중에서 트랙 점수가 가장 높은 글로벌 가설 을 검출하는 것을 특징으로 하는 다중 가설 트래킹에 기반한 다중 카메라 다중 표적 트래킹을 위한 온라인 방법.
15. The method of claim 14,
The global hypothesis is a set of tracks generated by a partition of a tracklet, defined as a set of compatible tracks, generated according to compatibility between tracks,
Based on the track score defined in the previous section, the global hypothesis with the highest track score Based tracking for multi-camera multi-target tracking based on multiple hypothesis tracking.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020160182665A KR101878390B1 (en) | 2016-12-29 | 2016-12-29 | Online apparatus and method for Multiple Camera Multiple Target Tracking Based on Multiple Hypothesis Tracking |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020160182665A KR101878390B1 (en) | 2016-12-29 | 2016-12-29 | Online apparatus and method for Multiple Camera Multiple Target Tracking Based on Multiple Hypothesis Tracking |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20180077865A true KR20180077865A (en) | 2018-07-09 |
KR101878390B1 KR101878390B1 (en) | 2018-08-17 |
Family
ID=62919161
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020160182665A KR101878390B1 (en) | 2016-12-29 | 2016-12-29 | Online apparatus and method for Multiple Camera Multiple Target Tracking Based on Multiple Hypothesis Tracking |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR101878390B1 (en) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20200061118A (en) * | 2018-11-23 | 2020-06-02 | 인하대학교 산학협력단 | Tracking method and system multi-object in video |
CN112711055A (en) * | 2020-12-08 | 2021-04-27 | 重庆邮电大学 | Indoor and outdoor seamless positioning system and method based on edge calculation |
CN114240997A (en) * | 2021-11-16 | 2022-03-25 | 南京云牛智能科技有限公司 | Intelligent building online cross-camera multi-target tracking method |
CN117455958A (en) * | 2023-12-22 | 2024-01-26 | 武汉以彼古罗咨询服务有限公司 | Track tracking method and device for sperm identification |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101195942B1 (en) | 2006-03-20 | 2012-10-29 | 삼성전자주식회사 | Camera calibration method and 3D object reconstruction method using the same |
KR101208427B1 (en) | 2008-12-22 | 2012-12-05 | 한국전자통신연구원 | Multiple Camera control and image storing apparatus and method for synchronized multiple image acquisition |
WO2013072401A2 (en) * | 2011-11-15 | 2013-05-23 | Swiss Timing Ltd | Tracklet-based multi-commodity network flow for tracking multiple people |
KR101372390B1 (en) * | 2013-03-29 | 2014-03-19 | 한양대학교 에리카산학협력단 | Target tracking method using multi-tracking scheme based on markov chain, and target tracking apparatus using the same |
US20160132728A1 (en) * | 2014-11-12 | 2016-05-12 | Nec Laboratories America, Inc. | Near Online Multi-Target Tracking with Aggregated Local Flow Descriptor (ALFD) |
-
2016
- 2016-12-29 KR KR1020160182665A patent/KR101878390B1/en active IP Right Grant
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101195942B1 (en) | 2006-03-20 | 2012-10-29 | 삼성전자주식회사 | Camera calibration method and 3D object reconstruction method using the same |
KR101208427B1 (en) | 2008-12-22 | 2012-12-05 | 한국전자통신연구원 | Multiple Camera control and image storing apparatus and method for synchronized multiple image acquisition |
WO2013072401A2 (en) * | 2011-11-15 | 2013-05-23 | Swiss Timing Ltd | Tracklet-based multi-commodity network flow for tracking multiple people |
KR101372390B1 (en) * | 2013-03-29 | 2014-03-19 | 한양대학교 에리카산학협력단 | Target tracking method using multi-tracking scheme based on markov chain, and target tracking apparatus using the same |
US20160132728A1 (en) * | 2014-11-12 | 2016-05-12 | Nec Laboratories America, Inc. | Near Online Multi-Target Tracking with Aggregated Local Flow Descriptor (ALFD) |
Non-Patent Citations (6)
Title |
---|
변문섭 외 4명. 다중 카메라에서 다 개체 추적을 위한 온라인 데이터 연관 기법. 영상처리 및 이해에 관한 워크샵, 2015년 2월, pp. 1-4. * |
변문섭 외 4명. 다중 카메라에서 다 개체 추적을 위한 온라인 데이터 연관 기법. 영상처리 및 이해에 관한 워크샵, 2015년 2월, pp. 1-4. 1부. * |
변문섭 외 4명. 다중 카메라에서 다 개체 추적을 위한 온라인 데이터 연관 기법. 영상처리 및 이해에 관한 워크샵, 2015년 2월, pp. 1-4.* * |
유한주 외 4명. 추적 세류와 다중 가정 추적을 이용한 다중 카메라 다중 물체 추적 알고리즘, 영상처리 및 이해에 관한 워크샵, 2015년 2월, pp. 1-7. * |
유한주 외 4명. 추적 세류와 다중 가정 추적을 이용한 다중 카메라 다중 물체 추적 알고리즘, 영상처리 및 이해에 관한 워크샵, 2015년 2월, pp. 1-7. 1부. * |
유한주 외 4명. 추적 세류와 다중 가정 추적을 이용한 다중 카메라 다중 물체 추적 알고리즘, 영상처리 및 이해에 관한 워크샵, 2015년 2월, pp. 1-7.* * |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20200061118A (en) * | 2018-11-23 | 2020-06-02 | 인하대학교 산학협력단 | Tracking method and system multi-object in video |
CN112711055A (en) * | 2020-12-08 | 2021-04-27 | 重庆邮电大学 | Indoor and outdoor seamless positioning system and method based on edge calculation |
CN112711055B (en) * | 2020-12-08 | 2024-03-19 | 重庆邮电大学 | Indoor and outdoor seamless positioning system and method based on edge calculation |
CN114240997A (en) * | 2021-11-16 | 2022-03-25 | 南京云牛智能科技有限公司 | Intelligent building online cross-camera multi-target tracking method |
CN114240997B (en) * | 2021-11-16 | 2023-07-28 | 南京云牛智能科技有限公司 | Intelligent building online trans-camera multi-target tracking method |
CN117455958A (en) * | 2023-12-22 | 2024-01-26 | 武汉以彼古罗咨询服务有限公司 | Track tracking method and device for sperm identification |
CN117455958B (en) * | 2023-12-22 | 2024-03-08 | 武汉以彼古罗咨询服务有限公司 | Track tracking method and device for sperm identification |
Also Published As
Publication number | Publication date |
---|---|
KR101878390B1 (en) | 2018-08-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10672131B2 (en) | Control method, non-transitory computer-readable storage medium, and control apparatus | |
KR101878390B1 (en) | Online apparatus and method for Multiple Camera Multiple Target Tracking Based on Multiple Hypothesis Tracking | |
JP6421510B2 (en) | Target detection method and target detection system | |
US11113526B2 (en) | Training methods for deep networks | |
US20090252423A1 (en) | Controlled human pose estimation from depth image streams | |
JPH1114741A (en) | Target pursuit method and device thereof | |
CN112154481B (en) | Target tracking based on multiple measurement hypotheses | |
Yoo et al. | Online scheme for multiple camera multiple target tracking based on multiple hypothesis tracking | |
CN109697393A (en) | Person tracking method, device, electronic device and computer-readable medium | |
CN107728612A (en) | Identify that different crowd carries out method, storage device and the mobile terminal of advertisement pushing | |
Zeng et al. | Lookup: Vision-only real-time precise underground localisation for autonomous mining vehicles | |
JP7055867B2 (en) | Human body recognition method, equipment and storage medium | |
GB2578721A (en) | Method and system for processing image data utilizing deep neural network | |
KR101916573B1 (en) | Method for tracking multi object | |
JP7224592B2 (en) | Information processing device, information processing method, and program | |
Linder et al. | Towards a robust people tracking framework for service robots in crowded, dynamic environments | |
CN107948721B (en) | Method and device for pushing information | |
Singh et al. | Fast semantic-aware motion state detection for visual slam in dynamic environment | |
Leung et al. | Evaluating set measurement likelihoods in random-finite-set slam | |
Gao et al. | Asynchronous collaborative localization by integrating spatiotemporal graph learning with model-based estimation | |
Tissainayagam et al. | Visual tracking with automatic motion model switching | |
KR20120008211A (en) | Method for object recognition and pose estimation at robot | |
US11393069B2 (en) | Image processing apparatus, image processing method, and computer readable recording medium | |
Li et al. | Labeled multi-Bernoulli filter based group target tracking using SDE and graph theory | |
Gu et al. | An augmented-reality interface for telerobotic applications |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant |