JP6336935B2 - Moving object tracking device - Google Patents

Moving object tracking device Download PDF

Info

Publication number
JP6336935B2
JP6336935B2 JP2015049665A JP2015049665A JP6336935B2 JP 6336935 B2 JP6336935 B2 JP 6336935B2 JP 2015049665 A JP2015049665 A JP 2015049665A JP 2015049665 A JP2015049665 A JP 2015049665A JP 6336935 B2 JP6336935 B2 JP 6336935B2
Authority
JP
Japan
Prior art keywords
tracking
moving object
likelihood
person
candidate
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015049665A
Other languages
Japanese (ja)
Other versions
JP2016170603A (en
Inventor
豪二 水戸
豪二 水戸
黒川 高晴
高晴 黒川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Secom Co Ltd
Original Assignee
Secom Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Secom Co Ltd filed Critical Secom Co Ltd
Priority to JP2015049665A priority Critical patent/JP6336935B2/en
Publication of JP2016170603A publication Critical patent/JP2016170603A/en
Application granted granted Critical
Publication of JP6336935B2 publication Critical patent/JP6336935B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Description

本発明は時系列の画像における移動物体を追跡する移動物体追跡装置に関する。   The present invention relates to a moving object tracking device that tracks a moving object in a time-series image.

警備などの目的で、監視カメラによって周期的に撮影した時系列の画像にて人物を追跡することが行われる。その場合、人物の一部が隠れるオクルージョンや人物の運動急変などが追跡の継続性を低下させる要因となる。   For the purpose of security or the like, a person is tracked with time-series images periodically taken by a surveillance camera. In that case, occlusion where a part of the person is hidden, sudden movement of the person's movement, etc. are factors that reduce the continuity of the tracking.

そのため、下記特許文献1に記載の移動物体追跡装置においては、各人物に対して当該人物像に占める部分(パーツ)が異なる複数のテンプレートを生成し、各テンプレートを追跡する。こうすることで、オクルージョンによって一部のパーツを見失ったとしても、残りのパーツを用いて移動物体の追跡することができる。   Therefore, in the moving object tracking device described in Patent Document 1 below, a plurality of templates having different parts (parts) in the person image are generated for each person, and each template is tracked. In this way, even if some parts are lost due to occlusion, the remaining parts can be used to track a moving object.

また、下記特許文献2に記載の移動物体追跡装置においては、パーティクルフィルタを用いて各人物を追跡する。パーティクルフィルタによれば、人物の移動先であると予測される位置の周辺に当該人物の予測位置を表す多数の仮説を拡散させ、実際の撮影画像において当該人物の特徴が最も現れていた予測位置を当該人物の位置と判定する。この仮説の拡散によって、人物の運動の急変があっても高精度な追跡を維持できる。   Moreover, in the moving object tracking device described in Patent Document 2 below, each person is tracked using a particle filter. According to the particle filter, a large number of hypotheses representing the predicted position of the person are diffused around the position where the person is predicted to be moved, and the predicted position where the characteristic of the person appears most in the actual captured image Is determined as the position of the person. By spreading this hypothesis, high-precision tracking can be maintained even if there is a sudden change in the movement of a person.

特開2008−250772号公報JP 2008-250772 A 特開2010−49296号公報JP 2010-49296 A

特許文献1,2の技術から、人物に複数のパーツを設定し、パーティクルフィルタによって各パーツを同時追跡することによって、転倒のようにパーツのオクルージョンや運動急変などを伴う大きな姿勢変動が生じた人物の追跡継続性の低下を防止できる。   From the techniques of Patent Documents 1 and 2, by setting multiple parts to a person and tracking each part simultaneously with a particle filter, a person who has undergone a large posture change accompanying part occlusion or sudden movement change like a fall It is possible to prevent a decrease in tracking continuity.

しかしながら、各人物に複数のパーツを設定すると処理対象が増えるため計算コストと追跡精度のバランスが問題となる。すなわち、実時間で人物を追跡するには撮影周期内に全パーツのパーティクルについて処理を完了させる必要があるため、設定可能なパーティクルの総数は制限される。そして、設定可能なパーティクル数が制限される条件下で、オクルージョン等によって追跡困難となったパーツに一定数のパーティクルを設定し続ければ追跡に有効なパーティクルが減少し、人物全体での追跡精度を低下させる問題があった。   However, if a plurality of parts are set for each person, the number of objects to be processed increases, so the balance between calculation cost and tracking accuracy becomes a problem. That is, in order to track a person in real time, it is necessary to complete the processing for all parts of particles within the shooting period, so the total number of particles that can be set is limited. And, if the number of particles that can be set is limited, if you keep setting a certain number of particles in parts that are difficult to track due to occlusion etc., the number of particles that are effective for tracking will decrease, and the tracking accuracy of the whole person will be improved There was a problem to lower.

本発明は上記課題を解消するためになされたものであり、計算コストを増大させずに大きな姿勢変動を伴う移動物体を高精度に追跡できる移動物体追跡装置を提供することを目的とする。   The present invention has been made to solve the above-described problems, and an object of the present invention is to provide a moving object tracking device that can accurately track a moving object with a large posture change without increasing the calculation cost.

本発明に係る移動物体追跡装置は時系列の画像における移動物体を追跡するものであって、前記移動物体を構成する複数のパーツごとにその画像特徴、過去位置、及び当該過去位置の尤もらしさを表す過去追跡信頼度を記憶する記憶手段と、前記パーツごとに、前記過去位置から現時刻における1つ以上の候補位置を算出する候補位置算出手段と、前記パーツの前記候補位置ごとに、現時刻の前記画像における画像特徴と前記記憶手段に記憶された前記画像特徴とを比較して当該候補位置の尤度を算出する尤度算出手段と、前記パーツごとに、前記尤度を用いて重み付けした前記候補位置を用いて現時刻における前記移動物体の位置を算出する位置算出手段と、を有し、前記候補位置算出手段は、前記移動物体の前記各パーツの現時刻における前記候補位置の個数を、当該パーツの前記過去追跡信頼度に応じて定める。   The moving object tracking device according to the present invention is for tracking a moving object in a time-series image, and for each of a plurality of parts constituting the moving object, the image feature, the past position, and the likelihood of the past position are displayed. Storage means for storing past tracking reliability, candidate position calculating means for calculating one or more candidate positions at the current time from the past position for each part, and current time for each candidate position of the part A likelihood calculating means for calculating the likelihood of the candidate position by comparing the image feature in the image and the image feature stored in the storage means, and weighting using the likelihood for each part Position calculating means for calculating the position of the moving object at the current time using the candidate position, the candidate position calculating means at the current time of each part of the moving object. The number of the candidate positions, determined in accordance with the past tracking reliability of the parts.

他の本発明に係る移動物体追跡装置においては、前記候補位置算出手段は、前記各移動物体に対して算出する前記候補位置の総数を予め定められ、前記各パーツの前記過去追跡信頼度に応じて当該総数を前記各パーツに配分する。   In the moving object tracking device according to another aspect of the present invention, the candidate position calculation means determines in advance the total number of candidate positions to be calculated for each moving object, and depends on the past tracking reliability of each part. The total number is distributed to each part.

別の本発明に係る移動物体追跡装置は、前記パーツごとに、前記各候補位置に前記尤度を用いて重み付けして求めた当該候補位置のばらつき度合いと前記尤度の空間的な分布のピークの高さとを用いて尤度分布の鋭さ度合いを定め、当該鋭さ度合いに応じて前記過去追跡信頼度を求める追跡信頼度算出手段をさらに有し、前記候補位置算出手段は、前記複数のパーツ間における前記候補位置の個数の配分比を前記過去追跡信頼度の比に応じて定める。   In another moving object tracking device according to the present invention, for each of the parts, a variation degree of the candidate position obtained by weighting each candidate position using the likelihood and a peak of the spatial distribution of the likelihood And a tracking reliability calculation means for determining the past tracking reliability according to the degree of the sharpness distribution, and further determining the likelihood distribution between the plurality of parts. The distribution ratio of the number of candidate positions in is determined in accordance with the ratio of the past tracking reliability.

さらに別の本発明に係る移動物体追跡装置は、前記記憶手段に登録された前記複数のパーツのうち前記過去追跡信頼度が予め定めた下限値を下回るロストパーツを削除し、前記位置算出手段により算出された前記移動物体の位置に対応して前記ロストパーツとは異なる新規パーツを定義し前記記憶手段に登録するパーツ設定手段をさらに有し、前記候補位置算出手段は、前記新規パーツに対し、予め定めた初期個数の候補位置を設定する。   Further, the moving object tracking device according to another aspect of the present invention deletes a lost part whose past tracking reliability is lower than a predetermined lower limit value among the plurality of parts registered in the storage unit, and the position calculating unit The system further comprises a part setting means for defining a new part different from the lost part corresponding to the calculated position of the moving object and registering the new part in the storage means, and the candidate position calculation means for the new part, A predetermined initial number of candidate positions are set.

本発明によれば、限られた数のパーティクルを移動物体の複数のパーツのうち追跡に有効なパーツに多く配分できるため、計算コストを増大させずに移動物体を高精度に追跡することができる。   According to the present invention, since a limited number of particles can be allocated to a part that is effective for tracking among a plurality of parts of a moving object, the moving object can be tracked with high accuracy without increasing the calculation cost. .

本発明の実施形態に係る移動物体追跡装置の概略の構成を示すブロック図である。1 is a block diagram showing a schematic configuration of a moving object tracking device according to an embodiment of the present invention. 本発明の実施形態に係る移動物体追跡装置における記憶部及び追跡部の機能を説明するブロック図である。It is a block diagram explaining the function of the memory | storage part and tracking part in the moving object tracking apparatus which concerns on embodiment of this invention. 撮像部の配置例を示す模式図である。It is a schematic diagram which shows the example of arrangement | positioning of an imaging part. 追跡人物情報を説明する模式図である。It is a schematic diagram explaining tracking person information. 追跡中の或る時刻にて第1の人物Hに設定される追跡パーツの例を示す模式図である。Is a schematic diagram showing an example of tracking parts at some time during the tracking is set to the first person H 1. 図5に示す追跡パーツに対応した追跡パーツ情報の例を示す模式図である。It is a schematic diagram which shows the example of the tracking part information corresponding to the tracking part shown in FIG. 追跡中の或る時刻におけるパーティクル情報の例を示す模式図である。It is a schematic diagram which shows the example of the particle information in a certain time during tracking. パーティクルの配分例を示す説明図である。It is explanatory drawing which shows the example of distribution of a particle. 尤度分布と追跡信頼度との関係性の例を示す模式図である。It is a schematic diagram which shows the example of the relationship between likelihood distribution and tracking reliability. 本発明の実施形態に係る移動物体追跡装置の動作の概略の全体フロー図である。FIG. 5 is an overall flowchart showing an outline of the operation of the moving object tracking device according to the embodiment of the present invention. 本発明の実施形態に係る移動物体追跡装置における追跡処理の概略のフロー図である。It is a general | schematic flowchart of the tracking process in the moving object tracking device which concerns on embodiment of this invention. 本発明の実施形態に係る移動物体追跡装置における新規追跡人物設定処理の概略のフロー図である。It is a general | schematic flowchart of the new tracking person setting process in the moving object tracking device which concerns on embodiment of this invention.

以下、本発明の好適な実施形態の一例として、固定設置したカメラにより移動物体として人物の追跡を行う移動物体追跡装置1を説明する。   Hereinafter, as an example of a preferred embodiment of the present invention, a moving object tracking device 1 that tracks a person as a moving object using a fixed camera will be described.

[移動物体追跡装置1の構成]
図1は移動物体追跡装置1の概略の構成を示すブロック図である。移動物体追跡装置1は、撮像部2、記憶部3、追跡部4及び出力部5からなる。図2は記憶部3及び追跡部4の機能を説明するブロック図である。
[Configuration of Moving Object Tracking Device 1]
FIG. 1 is a block diagram showing a schematic configuration of the moving object tracking device 1. The moving object tracking device 1 includes an imaging unit 2, a storage unit 3, a tracking unit 4, and an output unit 5. FIG. 2 is a block diagram illustrating the functions of the storage unit 3 and the tracking unit 4.

撮像部2はいわゆる監視カメラであり、CCD素子又はC−MOS素子等の撮像素子、光学系部品、A/D変換器等を含んで構成される。図3は撮像部2の配置例を示す模式図であり、例えば、監視空間の人物H,Hを上方から臨むように設置される。撮像部2は追跡部4と接続され、監視空間を所定の時間間隔で撮影し、撮影した時系列の監視画像を順次、追跡部4へ出力する。以下、上記所定時間間隔で刻まれる時間の単位を時刻と称する。 The imaging unit 2 is a so-called monitoring camera, and includes an imaging element such as a CCD element or a C-MOS element, an optical system component, an A / D converter, and the like. FIG. 3 is a schematic diagram illustrating an arrangement example of the imaging unit 2. For example, the imaging unit 2 is installed so as to face the persons H 1 and H 2 in the monitoring space from above. The imaging unit 2 is connected to the tracking unit 4, images the monitoring space at predetermined time intervals, and sequentially outputs the captured time-series monitoring images to the tracking unit 4. Hereinafter, the unit of time recorded at the predetermined time interval is referred to as time.

記憶部3はROM(Read Only Memory)、RAM(Random Access Memory)等のメモリ装置からなる記憶手段であり、各種プログラムや各種データを記憶し、追跡部4との間でこれらの情報を入出力する。記憶部3に記憶される各種データには、追跡人物情報20、追跡パーツ情報21及びパーティクル情報22が含まれる。   The storage unit 3 is a storage unit composed of a memory device such as a ROM (Read Only Memory) or a RAM (Random Access Memory). The storage unit 3 stores various programs and various data, and inputs and outputs such information to and from the tracking unit 4. To do. Various data stored in the storage unit 3 includes tracking person information 20, tracking part information 21, and particle information 22.

図4は追跡人物情報20を説明する模式図である。図4(a)は追跡中の或る時刻における監視画像の例であり、追跡対象として2人の人物H,Hが写っている。ちなみに図に示すように監視画像の水平方向、垂直方向をそれぞれx軸,y軸とし、監視画像における位置をx座標,y座標の組(x,y)で表す。図4(b)は図4(a)の監視画像に対応した追跡人物情報20を示しており、追跡人物情報20は追跡対象の人物の識別番号(ID)と監視画像内での人物の推定位置200とを対応付けたテーブル形式で記憶されている。具体的には人物H,Hの追跡人物IDがそれぞれ1,2であり、推定位置は例えば、人物像の重心位置や頭頂部などに定義することができる。 FIG. 4 is a schematic diagram for explaining the tracking person information 20. FIG. 4A is an example of a monitoring image at a certain time during tracking, and two persons H 1 and H 2 are shown as tracking targets. Incidentally, as shown in the figure, the horizontal direction and the vertical direction of the monitoring image are the x-axis and y-axis, respectively, and the position in the monitoring image is represented by a set (x, y) of x-coordinate and y-coordinate. FIG. 4B shows the tracking person information 20 corresponding to the monitoring image of FIG. 4A. The tracking person information 20 is the identification number (ID) of the person to be tracked and the estimation of the person in the monitoring image. The table 200 is stored in association with the position 200. Specifically, the tracking person IDs of the persons H 1 and H 2 are 1 and 2, respectively, and the estimated position can be defined, for example, at the position of the center of gravity of the person image or the top of the head.

図5は追跡中の或る時刻にて人物Hに設定される追跡パーツの例を示す模式図であり、図6は図5に示す追跡パーツに対応した追跡パーツ情報21の例を示す模式図である。例えば、人物Hには追跡パーツIDをjとして追跡パーツR(j=1〜10)が設定され、図5にはその一部が示されている。追跡パーツ情報21は追跡パーツごとにその画像特徴、過去位置、及び当該過去位置の尤もらしさを表す過去追跡信頼度などを対応付け、例えばテーブル形式で記憶されている。図6ではテンプレート画像は追跡パーツの画像特徴の一例であり、テンプレート画像に代えて、又はそれと併せて、テンプレート画像から算出される色ヒストグラムや輝度勾配等の特徴量などを画像特徴として追跡パーツ情報21に格納することができる。なお、追跡パーツのテンプレート画像は、監視画像から追跡パーツに対応する領域を切り出した画像である。図6に示す「位置」は過去の時刻、例えば、現時刻より1時刻前の時刻におけるパーツの追跡位置(過去位置)であり、監視画像における座標(x,y)で表される。また、「追跡人物との相対位置」は人物の基準点(例えば人物像の重心)に対する追跡パーツの基準点の座標であり、「追跡信頼度」は過去追跡信頼度である。 Figure 5 is a schematic view showing an example of tracking parts are set on the person H 1 at a certain time during the tracking, Figure 6 is a schematic illustrating an example of a tracking part information 21 that corresponds to the track parts shown in FIG. 5 FIG. For example, the tracking part R j (j = 1 to 10) is set for the person H 1 with the tracking part ID as j, and a part thereof is shown in FIG. The tracking part information 21 is associated with the image feature, the past position, the past tracking reliability indicating the likelihood of the past position, and the like for each tracking part, and is stored in a table format, for example. In FIG. 6, the template image is an example of the image feature of the tracking part, and instead of or in addition to the template image, the tracking histogram information such as a color histogram calculated from the template image or a feature amount such as a luminance gradient is used as the image feature. 21 can be stored. The template image of the tracking part is an image obtained by cutting out an area corresponding to the tracking part from the monitoring image. The “position” shown in FIG. 6 is a part tracking position (past position) at a past time, for example, one time before the current time, and is represented by coordinates (x, y) in the monitoring image. The “relative position with the tracking person” is the coordinates of the reference point of the tracking part with respect to the reference point of the person (for example, the center of gravity of the person image), and the “tracking reliability” is the past tracking reliability.

図7は追跡中の或る時刻におけるパーティクル情報22の例を示す模式図である。パーティクル情報22は追跡人物ID、パーティクルID、追跡パーツID、並びにパーティクルの位置(x,y)、速度(vx,vy)及び尤度などを対応付け、例えばテーブル形式で記憶されている。   FIG. 7 is a schematic diagram showing an example of the particle information 22 at a certain time during tracking. The particle information 22 correlates the tracking person ID, particle ID, tracking part ID, particle position (x, y), velocity (vx, vy), likelihood, and the like, and is stored in, for example, a table format.

追跡部4はCPU(Central Processing Unit)、DSP(Digital Signal Processor)、MCU(Micro Control Unit)等の演算装置である。追跡部4は記憶部3からプログラムを読み出して当該プログラムを実行することで後述する追跡人物設定手段40、追跡パーツ設定手段41、候補位置算出手段42、位置算出手段43、尤度算出手段44、追跡信頼度算出手段45、追跡終了手段46などとして機能し、撮像部2から入力された監視画像を処理して監視空間中の人物を検出し、検出された人物をパーティクルフィルタにより追跡し、追跡結果を出力部5へ出力する。   The tracking unit 4 is an arithmetic device such as a CPU (Central Processing Unit), a DSP (Digital Signal Processor), or an MCU (Micro Control Unit). The tracking unit 4 reads out a program from the storage unit 3 and executes the program, whereby a tracking person setting unit 40, a tracking part setting unit 41, a candidate position calculation unit 42, a position calculation unit 43, a likelihood calculation unit 44, which will be described later, It functions as a tracking reliability calculation unit 45, a tracking end unit 46, etc., processes a monitoring image input from the imaging unit 2 to detect a person in the monitoring space, tracks the detected person with a particle filter, and tracks The result is output to the output unit 5.

出力部5は例えばディスプレイ装置などの表示装置であり、追跡部4から出力された人物追跡結果を表示する。   The output unit 5 is a display device such as a display device, and displays the person tracking result output from the tracking unit 4.

追跡人物設定手段40は、監視画像においてまだ追跡が開始されていない人物を検出し、新たに追跡対象に加え追跡人物情報20の推定位置として検出位置を記憶する。人物の検出は、画像の変化領域をラベリングする方法や、輝度勾配情報を用い機械学習により行う方法など、公知の手法を用いれば良いため詳細の説明は省略する。   The tracking person setting unit 40 detects a person who has not yet started tracking in the monitoring image, and newly stores the detected position as an estimated position of the tracking person information 20 in addition to the tracking target. The person detection may be performed by using a known method such as a method of labeling a change area of an image or a method of performing machine learning using luminance gradient information, and thus detailed description thereof is omitted.

追跡パーツ設定手段41(パーツ設定手段)は、追跡人物設定手段40により追跡対象に設定された人物に対し、パーティクルフィルタでの追跡を行うパーツを決定し、各パーツについて追跡パーツ情報21を生成し記憶部3に格納する。パーツの選択は、頭部、左肩、右肩、左腰、右腰、腹部というように予め定めたものを用いる方法や、人物領域に対しブロッブ検出やコーナー検出を行い追跡に適した領域を抽出し決定する方法を用いることができる。なお、追跡信頼度は追跡パーツ設定直後においては定まっておらず、追跡開始後に追跡信頼度算出手段45により算出され記憶部3に格納される(後述する図11のステップS23)。   The tracking part setting unit 41 (part setting unit) determines parts to be tracked by the particle filter for the person set as the tracking target by the tracking person setting unit 40, and generates tracking part information 21 for each part. Store in the storage unit 3. Parts can be selected by using a predetermined method such as the head, left shoulder, right shoulder, left hip, right hip, and abdomen. The method of determining can be used. The tracking reliability is not determined immediately after setting the tracking parts, but is calculated by the tracking reliability calculation means 45 after the start of tracking and stored in the storage unit 3 (step S23 in FIG. 11 described later).

また追跡パーツ設定手段41は追跡パーツ情報21に記憶されている追跡信頼度に基づいて追跡パーツのうち追跡継続が困難なロストパーツを判定し、ロストパーツを追跡対象から除外する追跡パーツ削除手段の機能を有する。例えば、当該判定は追跡信頼度に対する閾値処理により行うことができ、追跡パーツ設定手段41は複数のパーツのうち追跡信頼度が予め定めた下限値を下回るものをロストパーツとして削除する。具体的には、追跡パーツ設定手段41はロストパーツに関するパーティクル群を、パーティクル情報22にて各パーティクルの追跡パーツIDから判定し、パーティクル情報22から削除する。また、追跡パーツ設定手段41はロストパーツに関する情報を追跡パーツ情報21から削除する。   Further, the tracking part setting unit 41 determines a lost part that is difficult to continue tracking among the tracking parts based on the tracking reliability stored in the tracking part information 21, and the tracking part deleting unit excludes the lost part from the tracking target. It has a function. For example, the determination can be performed by threshold processing for the tracking reliability, and the tracking part setting unit 41 deletes a plurality of parts whose tracking reliability is lower than a predetermined lower limit value as a lost part. Specifically, the tracking part setting unit 41 determines the particle group related to the lost part from the tracking part ID of each particle in the particle information 22 and deletes the particle group from the particle information 22. Further, the tracking part setting unit 41 deletes information on the lost part from the tracking part information 21.

さらに追跡パーツ設定手段41は追跡人物に対して、状況に応じて追跡パーツの追加を行う追跡パーツ追加手段の機能を有する。上述のように追跡継続が困難と判定されたパーツは削除される。その結果、人物の追跡を継続していくうちに追跡パーツの数が減少し、この追跡パーツ数の減少が姿勢変動や隠蔽に対するロバスト性を低下させる要因となり得る。そこで、追跡パーツ数が極端に減らないように、追跡パーツ設定手段41は追跡パーツの数が一定数より下回った場合は追跡パーツの追加を行う。追加する追跡パーツは、現在追跡が行われているパーツを考慮し、人物に対しまんべんなく配置されるよう選ぶことが好ましい。追加された追跡パーツに対応してパーティクル群が生成される。当該パーティクル群についてのパーティクル情報22は、追跡パーツ情報21などに基づいて初期登録される。なお、パーティクルの速度については人物位置の移動速度に設定することができる。   Further, the tracking part setting unit 41 has a function of a tracking part adding unit that adds a tracking part to a tracking person according to a situation. As described above, the parts determined to be difficult to continue tracking are deleted. As a result, the number of tracking parts decreases as the tracking of the person continues, and this decrease in the number of tracking parts can be a factor that reduces the robustness against posture fluctuation and concealment. Therefore, the tracking part setting means 41 adds tracking parts when the number of tracking parts falls below a certain number so that the number of tracking parts does not decrease extremely. The tracking parts to be added are preferably selected so as to be arranged evenly with respect to the person in consideration of the parts currently being tracked. Particle groups are generated corresponding to the added tracking parts. The particle information 22 for the particle group is initially registered based on the tracking part information 21 and the like. The particle speed can be set to the movement speed of the person position.

候補位置算出手段42は、追跡人物設定手段40で設定された新規の追跡人物に対し、固定数のパーティクル(候補位置)を生成するパーティクル生成処理を行う。本実施形態では、追跡人物当たりのパーティクル数を500個とする。候補位置算出手段42は各パーティクルに対し、追跡パーツ設定手段41で設定された追跡パーツの割り当てを行うと共に、各パーティクルの状態変数の初期化を行う。パーティクルの状態変数は、位置、速度、尤度、追跡パーツIDで構成される。この初期化ではパーティクル情報22に、割り当てられた追跡パーツのIDと位置とが設定され、速度についてはまだ不明のため0が設定される。また、尤度については、パーティクル生成の直後は求まっておらず、後述する尤度算出手段44により算出されパーティクル情報22に格納される。新規の追跡人物におけるパーティクルへの追跡パーツの割り当ては、ランダムに行う方法や、頭部30%、腹部20%、左肩20%、右肩20%というようにパーツごとに予め定めた割合にする方法としても良い。ここで、パーティクル数は追跡人物に対して固定としているため、追跡パーツの数にかかわらず計算コストは一定となる。   The candidate position calculation unit 42 performs particle generation processing for generating a fixed number of particles (candidate positions) for the new tracking person set by the tracking person setting unit 40. In this embodiment, the number of particles per tracking person is 500. The candidate position calculation means 42 assigns the tracking parts set by the tracking part setting means 41 to each particle and initializes the state variables of each particle. The particle state variable includes position, velocity, likelihood, and tracking part ID. In this initialization, the ID and position of the assigned tracking part are set in the particle information 22, and 0 is set because the speed is still unknown. In addition, the likelihood is not obtained immediately after the particle generation, but is calculated by the likelihood calculating means 44 described later and stored in the particle information 22. Allocating tracking parts to particles in a new tracking person is a random method, or a method of setting a predetermined ratio for each part such as 30% head, 20% abdomen, 20% left shoulder, and 20% right shoulder. It is also good. Here, since the number of particles is fixed for the tracking person, the calculation cost is constant regardless of the number of tracking parts.

また候補位置算出手段42は追跡パーツごとに、過去位置から現時刻における1つ以上のパーティクルを算出する。すなわち、候補位置算出手段42はサンプリング手段として機能し、入力画像に対し、パーティクルごとに追跡パーツの過去の位置を用いて動き予測を行い現在の時刻における位置を算出し、予測した結果を用いて状態変数の位置・速度を更新しパーティクル情報22に記憶する。動き予測には例えば、等速直線運動等の運動モデルによる推定を行った後、ランダムノイズを付加するといった方法を用いることができる。   In addition, the candidate position calculation unit 42 calculates one or more particles at the current time from the past position for each tracking part. That is, the candidate position calculation unit 42 functions as a sampling unit, performs motion prediction on the input image using the past position of the tracking part for each particle, calculates the position at the current time, and uses the predicted result. The position / velocity of the state variable is updated and stored in the particle information 22. For example, a method of adding random noise after performing estimation using a motion model such as constant velocity linear motion can be used for motion prediction.

さらに、候補位置算出手段42は配分調整手段420としての機能を有する。配分調整手段420は、追跡人物の各パーツの現時刻におけるパーティクルの個数を、当該パーツの追跡信頼度に応じて定める。例えば、配分調整手段420は各追跡人物に対して算出するパーティクルの総数を予め定められ、各パーツの追跡信頼度に応じて当該総数を各パーツに配分する。具体的には追跡信頼度が高いパーツほどパーティクルを多く割り当てる。例えば、複数のパーツ間におけるパーティクルの個数の配分比を追跡信頼度の比に応じて設定することができ、本実施形態では追跡人物あたり500個のパーティクルを、追跡パーツ相互間にて追跡信頼度の比率とパーティクル数の比率とが等しくなるように配分する。図8はパーティクルの配分例を示す説明図である。図8に例示されるように、各パーツの追跡信頼度の比率と配分調整後のパーティクル数の比率とが等しくなるよう配分が行われる。   Further, the candidate position calculation unit 42 has a function as the distribution adjustment unit 420. The distribution adjusting means 420 determines the number of particles at the current time of each part of the tracking person according to the tracking reliability of the part. For example, the distribution adjusting unit 420 determines in advance the total number of particles to be calculated for each tracking person, and distributes the total number to each part according to the tracking reliability of each part. Specifically, more particles are assigned to parts with higher tracking reliability. For example, the distribution ratio of the number of particles among a plurality of parts can be set according to the ratio of tracking reliability. In this embodiment, 500 particles per person to be tracked are tracked reliability between tracking parts. Are distributed so that the ratio of particles and the ratio of the number of particles are equal. FIG. 8 is an explanatory diagram showing an example of particle distribution. As illustrated in FIG. 8, the distribution is performed such that the ratio of the tracking reliability of each part is equal to the ratio of the number of particles after the distribution adjustment.

なお、追跡パーツ設定手段41により追跡パーツが追加された場合には、パーティクルの総数を追跡パーツの総数で除した値に相当する数のパーティクルを、新規追加したパーツに配分し、残りのパーティクルを上述した追跡信頼度の比率に応じて配分することができる。例えばパーツ数が10個になる場合は、新規パーツに全パーティクル数の10%を割り当てる。また別の例として、新規パーツには予め定めた固定数のパーティクルを割り当てることにしても良い。   When tracking parts are added by the tracking part setting means 41, the number of particles corresponding to the value obtained by dividing the total number of particles by the total number of tracking parts is distributed to the newly added parts, and the remaining particles are allocated. Distribution can be made according to the ratio of the tracking reliability described above. For example, when the number of parts is 10, 10% of the total number of particles is assigned to the new part. As another example, a predetermined fixed number of particles may be assigned to a new part.

また候補位置算出手段42は尤度算出手段44で求めた各パーティクルの尤度と配分調整手段420で配分された追跡パーツごとのパーティクル数とに基づき、追跡パーツごとにパーティクルのリサンプリングを行うリサンプリング手段として機能する。リサンプリングは、尤度の低いパーティクルを削除する一方、尤度の高いパーティクルを複製することで、追跡対象が存在する可能性が高い位置の付近に多くのパーティクルを残すことを目的とした処理である。候補位置算出手段42は追跡パーツごとに配分されたパーティクル数だけ、現在のパーティクル群から尤度に基づき選択し複製することで実現される。尤度に基づくパーティクルの選択には遺伝的アルゴリズムにおける選択操作手法を用いることができ例えば、ルーレット選択といった方法を用いることができる。候補位置算出手段42はリサンプリング終了後、リサンプリングされたパーティクル群でパーティクル情報22を更新する。   Further, the candidate position calculation unit 42 performs resampling of particles for each tracking part based on the likelihood of each particle obtained by the likelihood calculation unit 44 and the number of particles for each tracking part allocated by the distribution adjustment unit 420. It functions as a sampling means. Resampling is a process aimed at removing many particles with low likelihood and duplicating particles with high likelihood to leave many particles near the position where the tracking target is likely to exist. is there. Candidate position calculation means 42 is realized by selecting and duplicating from the current particle group based on the likelihood for the number of particles allocated to each tracking part. For selection of particles based on likelihood, a selection operation method in a genetic algorithm can be used. For example, a method such as roulette selection can be used. The candidate position calculation means 42 updates the particle information 22 with the resampled particle group after the resampling is completed.

位置算出手段43は追跡人物の現時刻における位置を推定する。位置算出手段43はまず追跡パーツごとに追跡人物の位置を推定する。追跡パーツごとの人物位置推定は当該追跡パーツに関するパーティクル群を用いて行う。例えば、位置算出手段43は各追跡パーツについて、追跡パーツ情報21に記憶されている当該追跡パーツと追跡人物との相対位置情報を用いて、パーティクルごとに人物位置を算出し、当該人物位置についてパーティクルの尤度を重みとした加重平均を行い追跡パーツごとの人物の推定位置を算出する。   The position calculation means 43 estimates the position of the tracking person at the current time. The position calculation means 43 first estimates the position of the tracking person for each tracking part. The person position estimation for each tracking part is performed using particles related to the tracking part. For example, for each tracking part, the position calculation means 43 calculates the person position for each particle using the relative position information between the tracking part and the tracking person stored in the tracking part information 21, and the particle position is determined for the person position. The estimated position of the person for each tracking part is calculated by performing a weighted average with the likelihood of.

次いで位置算出手段43は、追跡パーツごとの推定位置を統合し、追跡人物の最終的な推定位置とする。例えば、位置算出手段43は追跡パーツごとの推定位置について各追跡パーツの追跡信頼度を重みとした加重平均を行い、追跡人物の最終的な推定位置を算出する。位置算出手段43は最終的に求まった追跡人物の推定位置を追跡人物情報20に記憶する。   Next, the position calculation means 43 integrates the estimated positions for each tracking part to obtain the final estimated position of the tracking person. For example, the position calculation means 43 performs a weighted average with the tracking reliability of each tracking part as a weight for the estimated position for each tracking part, and calculates the final estimated position of the tracking person. The position calculation means 43 stores the estimated position of the tracked person finally obtained in the tracked person information 20.

尤度算出手段44は各パーティクルの尤度を計算する。尤度算出手段44はパーティクルの位置での現時刻の入力画像の特徴量を算出し、当該パーティクルに割り当てられた追跡パーツについて追跡パーツ情報21に記憶されたテンプレートの特徴量と比較することで尤度を算出する。具体的には特徴量として色ヒストグラムや輝度勾配の類似度などを用いることができる。算出された尤度はパーティクル情報22に記憶される。   The likelihood calculating means 44 calculates the likelihood of each particle. The likelihood calculating means 44 calculates the feature amount of the input image at the current time at the position of the particle, and compares the tracking part assigned to the particle with the feature amount of the template stored in the tracking part information 21. Calculate the degree. Specifically, a color histogram, a luminance gradient similarity, or the like can be used as the feature amount. The calculated likelihood is stored in the particle information 22.

追跡信頼度算出手段45は各追跡パーツの信頼度(追跡信頼度)を算出する。追跡信頼度算出手段45は追跡パーツごとに、各パーティクルに尤度を用いて重み付けして求めたパーティクル群における位置のばらつき度合いと、尤度の空間的な分布のピークの高さとに基づいて尤度分布の鋭さ度合いを評価し、当該鋭さ度合いに応じて過去追跡信頼度を定める。すなわち、追跡信頼度の算出は、追跡パーツのパーティクル群の位置と尤度により近似される尤度分布に基づき行われる。尤度の空間的な分布が単峰性で高い分布となっていれば、追跡が正しく行われている可能性が高いと考えることができる。したがって、追跡信頼度は尤度分布が単峰性で高いピークを持つ分布となっている場合に高くなるように定義することが望ましい。尤度分布が単峰性となっているかどうかは、重みとして尤度値を加味したパーティクル群のばらつき度合により評価することができる。また尤度分布の高さは、分布のピーク付近でのパーティクルの尤度値により評価することができる。   The tracking reliability calculation means 45 calculates the reliability (tracking reliability) of each tracking part. For each tracking part, the tracking reliability calculation means 45 estimates the likelihood based on the degree of variation in position in the particle group obtained by weighting each particle using the likelihood and the peak height of the spatial distribution of likelihood. The degree of sharpness of the degree distribution is evaluated, and the past tracking reliability is determined according to the degree of sharpness. That is, the tracking reliability is calculated based on the likelihood distribution approximated by the position and likelihood of the particle group of the tracking part. If the spatial distribution of likelihood is unimodal and high, it can be considered that there is a high possibility that tracking is performed correctly. Therefore, it is desirable to define the tracking reliability so as to be high when the likelihood distribution is a distribution having a single peak and a high peak. Whether or not the likelihood distribution is unimodal can be evaluated based on the degree of variation of the particle group in which the likelihood value is added as a weight. The height of the likelihood distribution can be evaluated from the likelihood value of the particles near the distribution peak.

図9は尤度分布と追跡信頼度との関係性の例を示す模式図である。パーティクル群の位置は実際には監視画像に対応して2次元座標で定義されるが、図9では水平方向を座標軸とする1次元座標に単純化している。また図の垂直方向が尤度値に対応し、上に行くほど尤度値が高くなる。図9(a)に示す尤度分布450aは単峰性でピーク値が高い分布の例であり、このような場合に追跡信頼度は高く設定される。一方、図9(b)に示す尤度分布450bは単峰性であるがピーク値が低い分布の例であり、図9(c)に示す尤度分布450cは多峰性の分布の例であり、これらのような場合に追跡信頼度は低く設定される。   FIG. 9 is a schematic diagram showing an example of the relationship between the likelihood distribution and the tracking reliability. The position of the particle group is actually defined by two-dimensional coordinates corresponding to the monitoring image, but in FIG. 9, it is simplified to one-dimensional coordinates with the horizontal direction as the coordinate axis. The vertical direction in the figure corresponds to the likelihood value, and the likelihood value increases as it goes upward. A likelihood distribution 450a shown in FIG. 9A is an example of a distribution having a single peak and a high peak value. In such a case, the tracking reliability is set high. On the other hand, the likelihood distribution 450b shown in FIG. 9B is an example of a distribution that is unimodal but has a low peak value, and the likelihood distribution 450c shown in FIG. 9C is an example of a multimodal distribution. Yes, the tracking reliability is set low in such cases.

具体的には、追跡信頼度の決め方として例えば、(方法1)追跡パーツの推定位置周囲のパーティクル群の尤度合計値を用いる方法や、(方法2)重み付きの分散と全パーティクルの尤度の合計値とを用いる方法がある。   Specifically, as a method of determining the tracking reliability, for example, (Method 1) a method using the total likelihood value of particles around the estimated position of the tracking part, or (Method 2) weighted variance and the likelihood of all particles There is a method using the total value of.

(方法1)まず尤度を重みとした加重平均により追跡パーツの推定位置を算出し、推定位置の周囲一定範囲内(例えば、所定半径の円内)に含まれるパーティクル群の尤度の合計値ωの、追跡パーツの全パーティクルの尤度合計値ωに対する割合ω/ωを単峰性に対する評価値とする。単峰性が高い分布となっている場合には、上述の推定位置にて尤度分布はピークとなり、その近傍の尤度値が高くなることから、尤度合計値の比の値ω/ωが大きくなる。さらに、推定位置の周囲一定範囲内の尤度の合計値は尤度分布のピークの高さを示す評価値とする。最終的に追跡信頼度を、単峰性に対する評価値と、ピークの高さを示す評価値との積とする。当該追跡信頼度は、尤度分布が単峰性で、且つ尤度分布のピークが高くなっていることを示す評価値となる。周囲一定範囲の大きさは追跡パーツの大きさに基づき決定し、追跡パーツの半径の30%といった形に決定すれば良い。 (Method 1) First, an estimated position of the tracking part is calculated by a weighted average using the likelihood as a weight, and the total value of the likelihood of the particle group included in a certain range around the estimated position (for example, within a circle of a predetermined radius) omega and C, the ratio omega C / omega relative likelihood total value of all the particles of tracking parts omega and evaluation values for unimodal. When the distribution is high in unimodality, the likelihood distribution has a peak at the above-described estimated position, and the likelihood value in the vicinity thereof becomes high. Therefore, the value of the ratio of the likelihood total value ω C / ω increases. Further, the total value of likelihood within a certain range around the estimated position is an evaluation value indicating the height of the peak of the likelihood distribution. Finally, the tracking reliability is the product of the evaluation value for the single peak and the evaluation value indicating the peak height. The tracking reliability is an evaluation value indicating that the likelihood distribution is unimodal and the peak of the likelihood distribution is high. The size of the surrounding area is determined based on the size of the tracking part, and may be determined to be 30% of the radius of the tracking part.

(方法2)単峰性に対する評価値を、尤度を重みとしたパーティクルの位置に対する重み付き分散値に基づく評価値とし、ピークの高さを示す評価値を全パーティクルの尤度の合計値とし、追跡信頼度を単峰性に対する評価値と、ピークの高さを示す評価値との積とする。分散値が低く、全パーティクルの尤度の合計値が高い場合は、一カ所に尤度の高いパーティクルが集中している、すなわち単峰性でピークの高さが高くなっていると考えることができる。   (Method 2) The evaluation value for unimodality is set as an evaluation value based on a weighted variance value with respect to the position of the particle having the likelihood as a weight, and the evaluation value indicating the peak height is set as the total value of the likelihood of all particles. The tracking reliability is the product of the evaluation value for the single peak and the evaluation value indicating the height of the peak. If the variance value is low and the total likelihood value of all particles is high, it can be considered that particles with high likelihood are concentrated in one place, that is, the peak height is high with unimodality. it can.

または、上述した方法の変形として、一定値以上の尤度値を持つパーティクルのみを選別し(すなわち、閾値切りを行った上で)、選別されたパーティクル群の位置の分散、およびパーティクルの合計数を用いて追跡信頼度を定義しても良い。一定値以上の尤度を持つパーティクル群の分散値が低く、合計数が多い場合は、一カ所に尤度の高いパーティクルが集まっていると考えることができ、尤度分布は単峰性でピークの高さが高いと考えることができる。   Alternatively, as a modification of the above-described method, only particles having a likelihood value equal to or greater than a certain value are selected (that is, after threshold cutting), and the distribution of the positions of the selected particles and the total number of particles The tracking reliability may be defined using When the variance of particles with a certain likelihood or higher is low and the total number is large, it can be considered that particles with high likelihood are gathered in one place, and the likelihood distribution is unimodal and peaks. Can be considered high.

あるいは、計算コストの削減や、処理を簡単化する場合には、単純に全パーティクル群の尤度値の合計を追跡信頼度としても良い。ただし、この場合は単峰性であることが評価されていないため、その分精度が低下し得る。   Alternatively, when the calculation cost is reduced or the processing is simplified, the total likelihood value of all the particle groups may be simply set as the tracking reliability. However, in this case, since it is not evaluated to be unimodal, the accuracy can be reduced accordingly.

追跡信頼度算出手段45は上述のようにして求めた追跡信頼度を追跡パーツ情報21に記憶する。   The tracking reliability calculation means 45 stores the tracking reliability calculated as described above in the tracking part information 21.

追跡終了手段46は、人物が画面外への移動や構造物等の隠蔽によりカメラに映らなくなった場合、あるいは追跡が失敗した場合など、これ以上、追跡することが不可能である状況を判定し、その人物に対する追跡処理を終了する。追跡不可の判定には、追跡信頼度が一定値以上の追跡パーツがなくなったことにより判定する方法およびパーティクルの主な位置が画面外となったことにより判定する方法を組み合わせて用いる。追跡不可と判定された場合、その人物に関する情報を追跡人物情報20、追跡パーツ情報21、パーティクル情報22から削除する。   The tracking end means 46 determines a situation in which further tracking is impossible, such as when a person is no longer reflected on the camera due to movement outside the screen or concealment of structures, or when tracking fails. The tracking process for the person is terminated. The determination that tracking is impossible uses a combination of a method of determining when there is no tracking part having a tracking reliability of a certain value or more and a method of determining when the main position of the particle is outside the screen. If it is determined that tracking is not possible, information regarding the person is deleted from the tracking person information 20, the tracking part information 21, and the particle information 22.

[移動物体追跡装置1の動作]
以下、移動物体追跡装置1の動作を説明する。図10は移動物体追跡装置1の動作の概略の全体フロー図である。移動物体追跡装置1の動作が開始されると、撮像部2は予め規定したフレームレート(例えば7fps)で監視画像を取得し、追跡部4に監視画像を出力する。追跡部4は監視画像が入力されるたびに(ステップS1)、ステップS1〜S5の一連の処理を繰り返す。
[Operation of Moving Object Tracking Device 1]
Hereinafter, the operation of the moving object tracking device 1 will be described. FIG. 10 is a schematic overall flowchart of the operation of the moving object tracking device 1. When the operation of the moving object tracking device 1 is started, the imaging unit 2 acquires a monitoring image at a predetermined frame rate (for example, 7 fps) and outputs the monitoring image to the tracking unit 4. The tracking unit 4 repeats a series of processes in steps S1 to S5 each time a monitoring image is input (step S1).

追跡部4は追跡人物情報20に記録された人物ごとに、入力された監視画像上にて追跡処理を行い現在の位置の推定を行う(ステップS2)。追跡部4は追跡人物情報20に記録された追跡対象の人物を順次、追跡処理S2の対象として選択し、全ての追跡対象人物について追跡処理S2が完了した場合は追跡部4は処理をステップS4に進め、一方、未処理の追跡対象人物が存在する場合は追跡処理S2を継続する(ステップS3)。   The tracking unit 4 performs a tracking process on the input monitoring image for each person recorded in the tracking person information 20, and estimates the current position (step S2). The tracking unit 4 sequentially selects the tracking target person recorded in the tracking person information 20 as the target of the tracking process S2, and when the tracking process S2 is completed for all the tracking target persons, the tracking unit 4 performs the process in step S4. On the other hand, if there is an unprocessed person to be tracked, the tracking process S2 is continued (step S3).

図11は追跡処理S2の概略のフロー図であり、図11を用いて当該処理をさらに詳しく説明する。   FIG. 11 is a schematic flowchart of the tracking process S2, and the process will be described in more detail with reference to FIG.

追跡部4は候補位置算出手段42によるサンプリング手段として機能し、各追跡人物についてパーティクルのサンプリングを行う(ステップS21)。追跡部4はステップS21でのサンプリング結果に基づき、尤度算出手段44により各パーティクルの尤度の算出を行う(ステップS22)。さらに、追跡部4はステップS22で求めたパーティクル群の尤度に基づき、追跡信頼度算出手段45により各追跡パーツの追跡信頼度を算出する(ステップS23)。   The tracking unit 4 functions as a sampling unit by the candidate position calculation unit 42 and samples particles for each tracking person (step S21). The tracking unit 4 calculates the likelihood of each particle by the likelihood calculating means 44 based on the sampling result in step S21 (step S22). Further, the tracking unit 4 calculates the tracking reliability of each tracking part by the tracking reliability calculation means 45 based on the likelihood of the particle group obtained in step S22 (step S23).

追跡終了手段46はステップS23にて算出されたパーツの追跡信頼度およびパーティクル群の位置に基づき、追跡の継続が可能かどうかを判定し(ステップS24)、不可と判断した場合は追跡終了処理を行う(ステップS25)。これにより、追跡不可と判定された人物についての追跡が終了され、追跡終了手段46は追跡人物情報20から当該人物に関する情報を削除する。   The tracking end means 46 determines whether or not the tracking can be continued based on the tracking reliability of the parts and the position of the particle group calculated in step S23 (step S24). This is performed (step S25). As a result, the tracking of the person who is determined not to be tracked is terminated, and the tracking end unit 46 deletes the information related to the person from the tracked person information 20.

一方、ステップS24にて追跡可能と判定された人物については、まず追跡継続が困難な追跡パーツがあればその削除が行われる(ステップS26)。すなわち、追跡部4は追跡パーツ設定手段41による追跡パーツ削除手段として機能し、追跡パーツ情報21に記憶されている追跡信頼度に基づいて追跡パーツのうち追跡継続が困難なロストパーツを判定し、ロストパーツを追跡対象から除外する。   On the other hand, with respect to the person determined to be traceable in step S24, first, if there is a tracking part that is difficult to keep track of, it is deleted (step S26). That is, the tracking unit 4 functions as a tracking part deleting unit by the tracking part setting unit 41, and determines a lost part that is difficult to continue tracking among the tracking parts based on the tracking reliability stored in the tracking part information 21, Exclude lost parts from tracking.

その後、追跡部4は位置算出手段43として機能し、ステップS21でサンプリングされたパーティクル群の位置およびステップS23で算出された各追跡パーツの追跡信頼度に基づいて追跡人物の位置推定を行う(ステップS27)。   Thereafter, the tracking unit 4 functions as the position calculating unit 43 and estimates the position of the tracking person based on the position of the particle group sampled in Step S21 and the tracking reliability of each tracking part calculated in Step S23 (Step S21). S27).

また、追跡部4は追跡パーツ設定手段41による追跡パーツ追加手段として機能し、追跡パーツの状況に応じて追跡パーツを追加する(ステップS28)。   The tracking unit 4 functions as a tracking part adding unit by the tracking part setting unit 41, and adds a tracking part according to the status of the tracking part (step S28).

そして、追跡部4は配分調整手段420により、ステップS23で算出された各追跡パーツの追跡信頼度に基づいて追跡パーツごとのパーティクル数の配分を決定する(ステップS29)。この配分されたパーティクル数に基づき、追跡部4は候補位置算出手段42により、追跡パーツごとにパーティクルのリサンプリングを行う(ステップS30)。ただし、ステップS28において新たに追加された追跡パーツに関するパーティクルに関しては、初回のためリサンプリングは不要である。   Then, the tracking unit 4 determines the distribution of the number of particles for each tracking part based on the tracking reliability of each tracking part calculated in step S23 by the distribution adjusting unit 420 (step S29). Based on the distributed number of particles, the tracking unit 4 resamples particles for each tracking part by the candidate position calculation means 42 (step S30). However, resampling is not necessary for particles relating to the tracking part newly added in step S28 because it is the first time.

上述の追跡処理S2が追跡人物情報20に登録された全ての人物に対して行われると、既に述べたように追跡部4は処理を図10のステップS4に進め、追跡人物設定手段40により、監視画像にてまだ追跡設定されていない人物の検出を行い、検出された場合は追跡人物として追加する(ステップS4)。   When the tracking process S2 described above is performed for all the persons registered in the tracked person information 20, the tracking unit 4 proceeds to step S4 in FIG. A person who has not been set for tracking in the monitoring image is detected, and if it is detected, it is added as a tracking person (step S4).

図12は新規追跡人物設定処理S4の概略のフロー図であり、図12を用いて当該処理をさらに詳しく説明する。   FIG. 12 is a schematic flowchart of the new tracking person setting process S4. This process will be described in more detail with reference to FIG.

追跡人物設定手段40は、監視画像にてまだ追跡対象として追跡人物情報20に登録されていない人物の検出を行い、当該人物を追跡人物情報20に追加する(ステップS41)。追跡人物設定手段40は新たに検出された人物ごとに、追跡パーツの設定(ステップS42)と、パーティクル群の生成(ステップS43)とを行い、全ての新規人物について追跡パーツ設定処理S42及びパーティクル生成処理S43が完了した場合は、追跡部4は新規追跡人物設定処理を終了し、処理を図10のステップS5に進める(ステップS44)。なお、ステップS42では追跡パーツ設定手段41の追跡パーツ設定機能により、新たに追跡対象となった人物に対して追跡を行うパーツの設定が行われ、ステップS43では、候補位置算出手段42のパーティクル生成機能により、新たに追跡対象となった人物に対して、ステップS42で設定された追跡パーツ情報を用いてパーティクルフィルタによる追跡を行うためのパーティクル群の生成が行われる。   The tracking person setting unit 40 detects a person who has not yet been registered in the tracking person information 20 as a tracking target in the monitoring image, and adds the person to the tracking person information 20 (step S41). The tracking person setting means 40 performs tracking part setting (step S42) and particle group generation (step S43) for each newly detected person, and tracking part setting processing S42 and particle generation for all new persons. When the process S43 is completed, the tracking unit 4 ends the new tracked person setting process and advances the process to step S5 in FIG. 10 (step S44). In step S42, the tracking part setting function of the tracking part setting unit 41 sets a part to be tracked for a person to be newly tracked. In step S43, the candidate position calculation unit 42 generates particles. The function generates a particle group for tracking by the particle filter using the tracking part information set in step S42 for the person who is newly tracked.

ステップS1で入力された監視画像に対し上述した処理S2〜S4により人物の追跡が完了すると、追跡部4は追跡結果を出力部5へ出力する(ステップS5)。例えば、追跡部4は追跡結果として全人物の推定位置を出力部5の表示装置等に表示させる。   When the tracking of the person is completed by the above-described processes S2 to S4 for the monitoring image input in step S1, the tracking unit 4 outputs the tracking result to the output unit 5 (step S5). For example, the tracking unit 4 displays the estimated positions of all persons on the display unit of the output unit 5 as a tracking result.

以上述べたように、本発明は移動物体に複数のパーツを設定して各パーツをパーティクルフィルタを用いて追跡することによって移動物体を追跡するにあたり、1つの移動物体当たりの総数が予め定められているパーティクル群を、各追跡パーツにその尤度に応じて配分する。つまり、リアルタイムでの追跡を実現するには、監視画像の比較的短いフレーム周期の間に当該画像についての追跡処理を完了する必要があるので、1フレーム当たりに設定できるパーティクルの数は制限される。そこで本発明では移動物体に設定されるパーツに同じ数のパーティクルを割り当てるのでなく、追跡困難なパーツへの割り当てを減らし、その分を追跡継続見込みの高いパーツに割り当てる。ここで、いずれかのパーツが追跡できていれば移動物体の追跡精度は維持できる。よって、本発明によれば、計算量を増大させずに高精度に移動物体を追跡することができる。   As described above, in the present invention, when tracking a moving object by setting a plurality of parts on a moving object and tracking each part using a particle filter, the total number per moving object is determined in advance. A particle group is distributed to each tracking part according to its likelihood. In other words, in order to realize real-time tracking, it is necessary to complete the tracking process for the monitoring image during a relatively short frame period, so the number of particles that can be set per frame is limited. . Therefore, in the present invention, instead of assigning the same number of particles to the parts set as moving objects, the number of assignments to difficult-to-follow parts is reduced, and that part is assigned to parts that are likely to continue tracking. Here, if any part can be tracked, the tracking accuracy of the moving object can be maintained. Therefore, according to the present invention, it is possible to track a moving object with high accuracy without increasing the amount of calculation.

1 移動物体追跡装置、2 撮像部、3 記憶部、4 追跡部、5 出力部、20 追跡人物情報、21 追跡パーツ情報、22 パーティクル情報、40 追跡人物設定手段、41 追跡パーツ設定手段、42 候補位置算出手段、43 位置算出手段、44 尤度算出手段、45 追跡信頼度算出手段、46 追跡終了手段、420 配分調整手段。   DESCRIPTION OF SYMBOLS 1 Moving object tracking device, 2 Imaging part, 3 Storage part, 4 Tracking part, 5 Output part, 20 Tracking person information, 21 Tracking part information, 22 Particle information, 40 Tracking person setting means, 41 Tracking part setting means, 42 Candidate Position calculation means, 43 Position calculation means, 44 Likelihood calculation means, 45 Tracking reliability calculation means, 46 Tracking end means, 420 Distribution adjustment means

Claims (4)

時系列の画像における移動物体を追跡する移動物体追跡装置であって、
前記移動物体を構成する複数のパーツごとにその画像特徴、過去位置、及び当該過去位置の尤もらしさを表す過去追跡信頼度を記憶する記憶手段と、
前記パーツごとに、前記過去位置から現時刻における1つ以上の候補位置を算出する候補位置算出手段と、
前記パーツの前記候補位置ごとに、現時刻の前記画像における画像特徴と前記記憶手段に記憶された前記画像特徴とを比較して当該候補位置の尤度を算出する尤度算出手段と、
前記パーツごとに、前記尤度を用いて重み付けした前記候補位置を用いて現時刻における前記移動物体の位置を算出する位置算出手段と、
を有し、
前記候補位置算出手段は、前記移動物体の前記各パーツの現時刻における前記候補位置の個数を、当該パーツの前記過去追跡信頼度に応じて定めること、
を特徴とした移動物体追跡装置。
A moving object tracking device for tracking a moving object in a time-series image,
Storage means for storing the image feature, the past position, and the past tracking reliability representing the likelihood of the past position for each of a plurality of parts constituting the moving object;
Candidate position calculating means for calculating one or more candidate positions at the current time from the past position for each part;
For each candidate position of the part, likelihood calculating means for calculating the likelihood of the candidate position by comparing the image feature in the image at the current time with the image feature stored in the storage means;
Position calculating means for calculating the position of the moving object at the current time using the candidate position weighted using the likelihood for each part;
Have
The candidate position calculating means determines the number of candidate positions at the current time of each part of the moving object according to the past tracking reliability of the part;
A moving object tracking device.
請求項1に記載の移動物体追跡装置において、
前記候補位置算出手段は、前記各移動物体に対して算出する前記候補位置の総数を予め定められ、前記各パーツの前記過去追跡信頼度に応じて当該総数を前記各パーツに配分すること、を特徴とする移動物体追跡装置。
The moving object tracking device according to claim 1,
The candidate position calculating means is configured to determine in advance a total number of the candidate positions to be calculated for each moving object, and to distribute the total number to each part according to the past tracking reliability of each part; Feature moving object tracking device.
請求項1又は請求項2に記載の移動物体追跡装置において、
前記パーツごとに、前記各候補位置に前記尤度を用いて重み付けして求めた当該候補位置のばらつき度合いと前記尤度の空間的な分布のピークの高さとを用いて尤度分布の鋭さ度合いを定め、当該鋭さ度合いに応じて前記過去追跡信頼度を求める追跡信頼度算出手段をさらに有し、
前記候補位置算出手段は、前記複数のパーツ間における前記候補位置の個数の配分比を前記過去追跡信頼度の比に応じて定めること、
を特徴とする移動物体追跡装置。
In the moving object tracking device according to claim 1 or 2,
The degree of sharpness of the likelihood distribution using the degree of variation of the candidate position obtained by weighting each candidate position using the likelihood and the height of the peak of the spatial distribution of the likelihood for each part. Further comprising tracking reliability calculation means for determining the past tracking reliability according to the degree of sharpness,
The candidate position calculating means determines a distribution ratio of the number of candidate positions among the plurality of parts according to a ratio of the past tracking reliability;
A moving object tracking device.
請求項1から請求項3のいずれか1つに記載の移動物体追跡装置において、
前記記憶手段に登録された前記複数のパーツのうち前記過去追跡信頼度が予め定めた下限値を下回るロストパーツを削除し、前記位置算出手段により算出された前記移動物体の位置に対応して前記ロストパーツとは異なる新規パーツを定義し前記記憶手段に登録するパーツ設定手段をさらに有し、
前記候補位置算出手段は、前記新規パーツに対し、予め定めた初期個数の候補位置を設定すること、
を特徴とする移動物体追跡装置。
In the moving object tracking device according to any one of claims 1 to 3,
Of the plurality of parts registered in the storage unit, the lost part whose past tracking reliability is lower than a predetermined lower limit value is deleted, and the part corresponding to the position of the moving object calculated by the position calculation unit is deleted. It further has a part setting means for defining a new part different from the lost part and registering it in the storage means,
The candidate position calculating means sets a predetermined initial number of candidate positions for the new part;
A moving object tracking device.
JP2015049665A 2015-03-12 2015-03-12 Moving object tracking device Active JP6336935B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015049665A JP6336935B2 (en) 2015-03-12 2015-03-12 Moving object tracking device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015049665A JP6336935B2 (en) 2015-03-12 2015-03-12 Moving object tracking device

Publications (2)

Publication Number Publication Date
JP2016170603A JP2016170603A (en) 2016-09-23
JP6336935B2 true JP6336935B2 (en) 2018-06-06

Family

ID=56983895

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015049665A Active JP6336935B2 (en) 2015-03-12 2015-03-12 Moving object tracking device

Country Status (1)

Country Link
JP (1) JP6336935B2 (en)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2021153207A1 (en) * 2020-01-27 2021-08-05
JP7488673B2 (en) 2020-03-19 2024-05-22 セコム株式会社 MOVING OBJECT TRACKING DEVICE, MOVING OBJECT TRACKING METHOD, AND MOVING OBJECT TRACKING PROGRAM
JP7402721B2 (en) * 2020-03-24 2023-12-21 株式会社フジタ speech control device
WO2023112658A1 (en) * 2021-12-13 2023-06-22 Necソリューションイノベータ株式会社 Object collation system, object collation method, and object collation program

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4991595B2 (en) * 2008-02-21 2012-08-01 株式会社東芝 Tracking system using particle filter
JP5786879B2 (en) * 2013-02-21 2015-09-30 カシオ計算機株式会社 Subject tracking device, subject tracking method and program

Also Published As

Publication number Publication date
JP2016170603A (en) 2016-09-23

Similar Documents

Publication Publication Date Title
JP6755713B2 (en) Tracking device, tracking method and program
JP6977730B2 (en) People flow estimation device, people flow estimation method and program
KR101071352B1 (en) Apparatus and method for tracking object based on PTZ camera using coordinate map
JP2016099941A (en) System and program for estimating position of object
JP6336935B2 (en) Moving object tracking device
CN112703533A (en) Object tracking
EP2570992A1 (en) Image processing apparatus, image processing method, and program
JP4662142B2 (en) Moving object detection apparatus and method
EP2309454A2 (en) Apparatus and method for detecting motion
KR20180020123A (en) Asynchronous signal processing method
JP6503079B2 (en) Specific person detection system, specific person detection method and detection device
JPWO2014010203A1 (en) Fall detection device, fall detection method, fall detection camera, and computer program
JP6283008B2 (en) Tracking device
KR102295183B1 (en) object tracking method for CCTV video by use of CCTV projection model
KR101469099B1 (en) Auto-Camera Calibration Method Based on Human Object Tracking
JP2010049297A (en) Image monitoring device
JP4821355B2 (en) Person tracking device, person tracking method, and person tracking program
US11544926B2 (en) Image processing apparatus, method of processing image, and storage medium
JP2007058674A (en) Object recognition device
JP6977337B2 (en) Site recognition method, device, program, and imaging control system
KR101542206B1 (en) Method and system for tracking with extraction object using coarse to fine techniques
JP2019096062A (en) Object tracking device, object tracking method, and object tracking program
JP7243372B2 (en) Object tracking device and object tracking method
WO2020217368A1 (en) Information processing device, information processing method, and information processing program
WO2020217369A1 (en) Object feature quantity extraction device, object feature quantity extraction method, and non-transitory computer-readable medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170424

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180411

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180424

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180507

R150 Certificate of patent or registration of utility model

Ref document number: 6336935

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250