JP6336935B2 - Moving object tracking device - Google Patents
Moving object tracking device Download PDFInfo
- Publication number
- JP6336935B2 JP6336935B2 JP2015049665A JP2015049665A JP6336935B2 JP 6336935 B2 JP6336935 B2 JP 6336935B2 JP 2015049665 A JP2015049665 A JP 2015049665A JP 2015049665 A JP2015049665 A JP 2015049665A JP 6336935 B2 JP6336935 B2 JP 6336935B2
- Authority
- JP
- Japan
- Prior art keywords
- tracking
- moving object
- likelihood
- person
- candidate
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000009826 distribution Methods 0.000 claims description 44
- 238000004364 calculation method Methods 0.000 claims description 42
- 238000003860 storage Methods 0.000 claims description 19
- 239000002245 particle Substances 0.000 description 114
- 238000000034 method Methods 0.000 description 42
- 238000012544 monitoring process Methods 0.000 description 23
- 230000008569 process Effects 0.000 description 21
- 238000010586 diagram Methods 0.000 description 15
- 230000006870 function Effects 0.000 description 14
- 238000011156 evaluation Methods 0.000 description 10
- 238000003384 imaging method Methods 0.000 description 10
- 238000012545 processing Methods 0.000 description 6
- 230000008859 change Effects 0.000 description 5
- 230000007423 decrease Effects 0.000 description 5
- 238000012952 Resampling Methods 0.000 description 4
- 238000005070 sampling Methods 0.000 description 4
- 210000001015 abdomen Anatomy 0.000 description 2
- 238000005520 cutting process Methods 0.000 description 2
- 230000005484 gravity Effects 0.000 description 2
- 238000001514 detection method Methods 0.000 description 1
- 230000002068 genetic effect Effects 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000007480 spreading Effects 0.000 description 1
- 238000003892 spreading Methods 0.000 description 1
Images
Landscapes
- Closed-Circuit Television Systems (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Description
本発明は時系列の画像における移動物体を追跡する移動物体追跡装置に関する。 The present invention relates to a moving object tracking device that tracks a moving object in a time-series image.
警備などの目的で、監視カメラによって周期的に撮影した時系列の画像にて人物を追跡することが行われる。その場合、人物の一部が隠れるオクルージョンや人物の運動急変などが追跡の継続性を低下させる要因となる。 For the purpose of security or the like, a person is tracked with time-series images periodically taken by a surveillance camera. In that case, occlusion where a part of the person is hidden, sudden movement of the person's movement, etc. are factors that reduce the continuity of the tracking.
そのため、下記特許文献1に記載の移動物体追跡装置においては、各人物に対して当該人物像に占める部分(パーツ)が異なる複数のテンプレートを生成し、各テンプレートを追跡する。こうすることで、オクルージョンによって一部のパーツを見失ったとしても、残りのパーツを用いて移動物体の追跡することができる。
Therefore, in the moving object tracking device described in
また、下記特許文献2に記載の移動物体追跡装置においては、パーティクルフィルタを用いて各人物を追跡する。パーティクルフィルタによれば、人物の移動先であると予測される位置の周辺に当該人物の予測位置を表す多数の仮説を拡散させ、実際の撮影画像において当該人物の特徴が最も現れていた予測位置を当該人物の位置と判定する。この仮説の拡散によって、人物の運動の急変があっても高精度な追跡を維持できる。
Moreover, in the moving object tracking device described in
特許文献1,2の技術から、人物に複数のパーツを設定し、パーティクルフィルタによって各パーツを同時追跡することによって、転倒のようにパーツのオクルージョンや運動急変などを伴う大きな姿勢変動が生じた人物の追跡継続性の低下を防止できる。
From the techniques of
しかしながら、各人物に複数のパーツを設定すると処理対象が増えるため計算コストと追跡精度のバランスが問題となる。すなわち、実時間で人物を追跡するには撮影周期内に全パーツのパーティクルについて処理を完了させる必要があるため、設定可能なパーティクルの総数は制限される。そして、設定可能なパーティクル数が制限される条件下で、オクルージョン等によって追跡困難となったパーツに一定数のパーティクルを設定し続ければ追跡に有効なパーティクルが減少し、人物全体での追跡精度を低下させる問題があった。 However, if a plurality of parts are set for each person, the number of objects to be processed increases, so the balance between calculation cost and tracking accuracy becomes a problem. That is, in order to track a person in real time, it is necessary to complete the processing for all parts of particles within the shooting period, so the total number of particles that can be set is limited. And, if the number of particles that can be set is limited, if you keep setting a certain number of particles in parts that are difficult to track due to occlusion etc., the number of particles that are effective for tracking will decrease, and the tracking accuracy of the whole person will be improved There was a problem to lower.
本発明は上記課題を解消するためになされたものであり、計算コストを増大させずに大きな姿勢変動を伴う移動物体を高精度に追跡できる移動物体追跡装置を提供することを目的とする。 The present invention has been made to solve the above-described problems, and an object of the present invention is to provide a moving object tracking device that can accurately track a moving object with a large posture change without increasing the calculation cost.
本発明に係る移動物体追跡装置は時系列の画像における移動物体を追跡するものであって、前記移動物体を構成する複数のパーツごとにその画像特徴、過去位置、及び当該過去位置の尤もらしさを表す過去追跡信頼度を記憶する記憶手段と、前記パーツごとに、前記過去位置から現時刻における1つ以上の候補位置を算出する候補位置算出手段と、前記パーツの前記候補位置ごとに、現時刻の前記画像における画像特徴と前記記憶手段に記憶された前記画像特徴とを比較して当該候補位置の尤度を算出する尤度算出手段と、前記パーツごとに、前記尤度を用いて重み付けした前記候補位置を用いて現時刻における前記移動物体の位置を算出する位置算出手段と、を有し、前記候補位置算出手段は、前記移動物体の前記各パーツの現時刻における前記候補位置の個数を、当該パーツの前記過去追跡信頼度に応じて定める。 The moving object tracking device according to the present invention is for tracking a moving object in a time-series image, and for each of a plurality of parts constituting the moving object, the image feature, the past position, and the likelihood of the past position are displayed. Storage means for storing past tracking reliability, candidate position calculating means for calculating one or more candidate positions at the current time from the past position for each part, and current time for each candidate position of the part A likelihood calculating means for calculating the likelihood of the candidate position by comparing the image feature in the image and the image feature stored in the storage means, and weighting using the likelihood for each part Position calculating means for calculating the position of the moving object at the current time using the candidate position, the candidate position calculating means at the current time of each part of the moving object. The number of the candidate positions, determined in accordance with the past tracking reliability of the parts.
他の本発明に係る移動物体追跡装置においては、前記候補位置算出手段は、前記各移動物体に対して算出する前記候補位置の総数を予め定められ、前記各パーツの前記過去追跡信頼度に応じて当該総数を前記各パーツに配分する。 In the moving object tracking device according to another aspect of the present invention, the candidate position calculation means determines in advance the total number of candidate positions to be calculated for each moving object, and depends on the past tracking reliability of each part. The total number is distributed to each part.
別の本発明に係る移動物体追跡装置は、前記パーツごとに、前記各候補位置に前記尤度を用いて重み付けして求めた当該候補位置のばらつき度合いと前記尤度の空間的な分布のピークの高さとを用いて尤度分布の鋭さ度合いを定め、当該鋭さ度合いに応じて前記過去追跡信頼度を求める追跡信頼度算出手段をさらに有し、前記候補位置算出手段は、前記複数のパーツ間における前記候補位置の個数の配分比を前記過去追跡信頼度の比に応じて定める。 In another moving object tracking device according to the present invention, for each of the parts, a variation degree of the candidate position obtained by weighting each candidate position using the likelihood and a peak of the spatial distribution of the likelihood And a tracking reliability calculation means for determining the past tracking reliability according to the degree of the sharpness distribution, and further determining the likelihood distribution between the plurality of parts. The distribution ratio of the number of candidate positions in is determined in accordance with the ratio of the past tracking reliability.
さらに別の本発明に係る移動物体追跡装置は、前記記憶手段に登録された前記複数のパーツのうち前記過去追跡信頼度が予め定めた下限値を下回るロストパーツを削除し、前記位置算出手段により算出された前記移動物体の位置に対応して前記ロストパーツとは異なる新規パーツを定義し前記記憶手段に登録するパーツ設定手段をさらに有し、前記候補位置算出手段は、前記新規パーツに対し、予め定めた初期個数の候補位置を設定する。 Further, the moving object tracking device according to another aspect of the present invention deletes a lost part whose past tracking reliability is lower than a predetermined lower limit value among the plurality of parts registered in the storage unit, and the position calculating unit The system further comprises a part setting means for defining a new part different from the lost part corresponding to the calculated position of the moving object and registering the new part in the storage means, and the candidate position calculation means for the new part, A predetermined initial number of candidate positions are set.
本発明によれば、限られた数のパーティクルを移動物体の複数のパーツのうち追跡に有効なパーツに多く配分できるため、計算コストを増大させずに移動物体を高精度に追跡することができる。 According to the present invention, since a limited number of particles can be allocated to a part that is effective for tracking among a plurality of parts of a moving object, the moving object can be tracked with high accuracy without increasing the calculation cost. .
以下、本発明の好適な実施形態の一例として、固定設置したカメラにより移動物体として人物の追跡を行う移動物体追跡装置1を説明する。
Hereinafter, as an example of a preferred embodiment of the present invention, a moving
[移動物体追跡装置1の構成]
図1は移動物体追跡装置1の概略の構成を示すブロック図である。移動物体追跡装置1は、撮像部2、記憶部3、追跡部4及び出力部5からなる。図2は記憶部3及び追跡部4の機能を説明するブロック図である。
[Configuration of Moving Object Tracking Device 1]
FIG. 1 is a block diagram showing a schematic configuration of the moving
撮像部2はいわゆる監視カメラであり、CCD素子又はC−MOS素子等の撮像素子、光学系部品、A/D変換器等を含んで構成される。図3は撮像部2の配置例を示す模式図であり、例えば、監視空間の人物H1,H2を上方から臨むように設置される。撮像部2は追跡部4と接続され、監視空間を所定の時間間隔で撮影し、撮影した時系列の監視画像を順次、追跡部4へ出力する。以下、上記所定時間間隔で刻まれる時間の単位を時刻と称する。
The
記憶部3はROM(Read Only Memory)、RAM(Random Access Memory)等のメモリ装置からなる記憶手段であり、各種プログラムや各種データを記憶し、追跡部4との間でこれらの情報を入出力する。記憶部3に記憶される各種データには、追跡人物情報20、追跡パーツ情報21及びパーティクル情報22が含まれる。
The
図4は追跡人物情報20を説明する模式図である。図4(a)は追跡中の或る時刻における監視画像の例であり、追跡対象として2人の人物H1,H2が写っている。ちなみに図に示すように監視画像の水平方向、垂直方向をそれぞれx軸,y軸とし、監視画像における位置をx座標,y座標の組(x,y)で表す。図4(b)は図4(a)の監視画像に対応した追跡人物情報20を示しており、追跡人物情報20は追跡対象の人物の識別番号(ID)と監視画像内での人物の推定位置200とを対応付けたテーブル形式で記憶されている。具体的には人物H1,H2の追跡人物IDがそれぞれ1,2であり、推定位置は例えば、人物像の重心位置や頭頂部などに定義することができる。
FIG. 4 is a schematic diagram for explaining the
図5は追跡中の或る時刻にて人物H1に設定される追跡パーツの例を示す模式図であり、図6は図5に示す追跡パーツに対応した追跡パーツ情報21の例を示す模式図である。例えば、人物H1には追跡パーツIDをjとして追跡パーツRj(j=1〜10)が設定され、図5にはその一部が示されている。追跡パーツ情報21は追跡パーツごとにその画像特徴、過去位置、及び当該過去位置の尤もらしさを表す過去追跡信頼度などを対応付け、例えばテーブル形式で記憶されている。図6ではテンプレート画像は追跡パーツの画像特徴の一例であり、テンプレート画像に代えて、又はそれと併せて、テンプレート画像から算出される色ヒストグラムや輝度勾配等の特徴量などを画像特徴として追跡パーツ情報21に格納することができる。なお、追跡パーツのテンプレート画像は、監視画像から追跡パーツに対応する領域を切り出した画像である。図6に示す「位置」は過去の時刻、例えば、現時刻より1時刻前の時刻におけるパーツの追跡位置(過去位置)であり、監視画像における座標(x,y)で表される。また、「追跡人物との相対位置」は人物の基準点(例えば人物像の重心)に対する追跡パーツの基準点の座標であり、「追跡信頼度」は過去追跡信頼度である。
Figure 5 is a schematic view showing an example of tracking parts are set on the person H 1 at a certain time during the tracking, Figure 6 is a schematic illustrating an example of a
図7は追跡中の或る時刻におけるパーティクル情報22の例を示す模式図である。パーティクル情報22は追跡人物ID、パーティクルID、追跡パーツID、並びにパーティクルの位置(x,y)、速度(vx,vy)及び尤度などを対応付け、例えばテーブル形式で記憶されている。
FIG. 7 is a schematic diagram showing an example of the
追跡部4はCPU(Central Processing Unit)、DSP(Digital Signal Processor)、MCU(Micro Control Unit)等の演算装置である。追跡部4は記憶部3からプログラムを読み出して当該プログラムを実行することで後述する追跡人物設定手段40、追跡パーツ設定手段41、候補位置算出手段42、位置算出手段43、尤度算出手段44、追跡信頼度算出手段45、追跡終了手段46などとして機能し、撮像部2から入力された監視画像を処理して監視空間中の人物を検出し、検出された人物をパーティクルフィルタにより追跡し、追跡結果を出力部5へ出力する。
The
出力部5は例えばディスプレイ装置などの表示装置であり、追跡部4から出力された人物追跡結果を表示する。
The output unit 5 is a display device such as a display device, and displays the person tracking result output from the
追跡人物設定手段40は、監視画像においてまだ追跡が開始されていない人物を検出し、新たに追跡対象に加え追跡人物情報20の推定位置として検出位置を記憶する。人物の検出は、画像の変化領域をラベリングする方法や、輝度勾配情報を用い機械学習により行う方法など、公知の手法を用いれば良いため詳細の説明は省略する。
The tracking
追跡パーツ設定手段41(パーツ設定手段)は、追跡人物設定手段40により追跡対象に設定された人物に対し、パーティクルフィルタでの追跡を行うパーツを決定し、各パーツについて追跡パーツ情報21を生成し記憶部3に格納する。パーツの選択は、頭部、左肩、右肩、左腰、右腰、腹部というように予め定めたものを用いる方法や、人物領域に対しブロッブ検出やコーナー検出を行い追跡に適した領域を抽出し決定する方法を用いることができる。なお、追跡信頼度は追跡パーツ設定直後においては定まっておらず、追跡開始後に追跡信頼度算出手段45により算出され記憶部3に格納される(後述する図11のステップS23)。
The tracking part setting unit 41 (part setting unit) determines parts to be tracked by the particle filter for the person set as the tracking target by the tracking
また追跡パーツ設定手段41は追跡パーツ情報21に記憶されている追跡信頼度に基づいて追跡パーツのうち追跡継続が困難なロストパーツを判定し、ロストパーツを追跡対象から除外する追跡パーツ削除手段の機能を有する。例えば、当該判定は追跡信頼度に対する閾値処理により行うことができ、追跡パーツ設定手段41は複数のパーツのうち追跡信頼度が予め定めた下限値を下回るものをロストパーツとして削除する。具体的には、追跡パーツ設定手段41はロストパーツに関するパーティクル群を、パーティクル情報22にて各パーティクルの追跡パーツIDから判定し、パーティクル情報22から削除する。また、追跡パーツ設定手段41はロストパーツに関する情報を追跡パーツ情報21から削除する。
Further, the tracking
さらに追跡パーツ設定手段41は追跡人物に対して、状況に応じて追跡パーツの追加を行う追跡パーツ追加手段の機能を有する。上述のように追跡継続が困難と判定されたパーツは削除される。その結果、人物の追跡を継続していくうちに追跡パーツの数が減少し、この追跡パーツ数の減少が姿勢変動や隠蔽に対するロバスト性を低下させる要因となり得る。そこで、追跡パーツ数が極端に減らないように、追跡パーツ設定手段41は追跡パーツの数が一定数より下回った場合は追跡パーツの追加を行う。追加する追跡パーツは、現在追跡が行われているパーツを考慮し、人物に対しまんべんなく配置されるよう選ぶことが好ましい。追加された追跡パーツに対応してパーティクル群が生成される。当該パーティクル群についてのパーティクル情報22は、追跡パーツ情報21などに基づいて初期登録される。なお、パーティクルの速度については人物位置の移動速度に設定することができる。
Further, the tracking
候補位置算出手段42は、追跡人物設定手段40で設定された新規の追跡人物に対し、固定数のパーティクル(候補位置)を生成するパーティクル生成処理を行う。本実施形態では、追跡人物当たりのパーティクル数を500個とする。候補位置算出手段42は各パーティクルに対し、追跡パーツ設定手段41で設定された追跡パーツの割り当てを行うと共に、各パーティクルの状態変数の初期化を行う。パーティクルの状態変数は、位置、速度、尤度、追跡パーツIDで構成される。この初期化ではパーティクル情報22に、割り当てられた追跡パーツのIDと位置とが設定され、速度についてはまだ不明のため0が設定される。また、尤度については、パーティクル生成の直後は求まっておらず、後述する尤度算出手段44により算出されパーティクル情報22に格納される。新規の追跡人物におけるパーティクルへの追跡パーツの割り当ては、ランダムに行う方法や、頭部30%、腹部20%、左肩20%、右肩20%というようにパーツごとに予め定めた割合にする方法としても良い。ここで、パーティクル数は追跡人物に対して固定としているため、追跡パーツの数にかかわらず計算コストは一定となる。
The candidate position calculation unit 42 performs particle generation processing for generating a fixed number of particles (candidate positions) for the new tracking person set by the tracking
また候補位置算出手段42は追跡パーツごとに、過去位置から現時刻における1つ以上のパーティクルを算出する。すなわち、候補位置算出手段42はサンプリング手段として機能し、入力画像に対し、パーティクルごとに追跡パーツの過去の位置を用いて動き予測を行い現在の時刻における位置を算出し、予測した結果を用いて状態変数の位置・速度を更新しパーティクル情報22に記憶する。動き予測には例えば、等速直線運動等の運動モデルによる推定を行った後、ランダムノイズを付加するといった方法を用いることができる。
In addition, the candidate position calculation unit 42 calculates one or more particles at the current time from the past position for each tracking part. That is, the candidate position calculation unit 42 functions as a sampling unit, performs motion prediction on the input image using the past position of the tracking part for each particle, calculates the position at the current time, and uses the predicted result. The position / velocity of the state variable is updated and stored in the
さらに、候補位置算出手段42は配分調整手段420としての機能を有する。配分調整手段420は、追跡人物の各パーツの現時刻におけるパーティクルの個数を、当該パーツの追跡信頼度に応じて定める。例えば、配分調整手段420は各追跡人物に対して算出するパーティクルの総数を予め定められ、各パーツの追跡信頼度に応じて当該総数を各パーツに配分する。具体的には追跡信頼度が高いパーツほどパーティクルを多く割り当てる。例えば、複数のパーツ間におけるパーティクルの個数の配分比を追跡信頼度の比に応じて設定することができ、本実施形態では追跡人物あたり500個のパーティクルを、追跡パーツ相互間にて追跡信頼度の比率とパーティクル数の比率とが等しくなるように配分する。図8はパーティクルの配分例を示す説明図である。図8に例示されるように、各パーツの追跡信頼度の比率と配分調整後のパーティクル数の比率とが等しくなるよう配分が行われる。 Further, the candidate position calculation unit 42 has a function as the distribution adjustment unit 420. The distribution adjusting means 420 determines the number of particles at the current time of each part of the tracking person according to the tracking reliability of the part. For example, the distribution adjusting unit 420 determines in advance the total number of particles to be calculated for each tracking person, and distributes the total number to each part according to the tracking reliability of each part. Specifically, more particles are assigned to parts with higher tracking reliability. For example, the distribution ratio of the number of particles among a plurality of parts can be set according to the ratio of tracking reliability. In this embodiment, 500 particles per person to be tracked are tracked reliability between tracking parts. Are distributed so that the ratio of particles and the ratio of the number of particles are equal. FIG. 8 is an explanatory diagram showing an example of particle distribution. As illustrated in FIG. 8, the distribution is performed such that the ratio of the tracking reliability of each part is equal to the ratio of the number of particles after the distribution adjustment.
なお、追跡パーツ設定手段41により追跡パーツが追加された場合には、パーティクルの総数を追跡パーツの総数で除した値に相当する数のパーティクルを、新規追加したパーツに配分し、残りのパーティクルを上述した追跡信頼度の比率に応じて配分することができる。例えばパーツ数が10個になる場合は、新規パーツに全パーティクル数の10%を割り当てる。また別の例として、新規パーツには予め定めた固定数のパーティクルを割り当てることにしても良い。 When tracking parts are added by the tracking part setting means 41, the number of particles corresponding to the value obtained by dividing the total number of particles by the total number of tracking parts is distributed to the newly added parts, and the remaining particles are allocated. Distribution can be made according to the ratio of the tracking reliability described above. For example, when the number of parts is 10, 10% of the total number of particles is assigned to the new part. As another example, a predetermined fixed number of particles may be assigned to a new part.
また候補位置算出手段42は尤度算出手段44で求めた各パーティクルの尤度と配分調整手段420で配分された追跡パーツごとのパーティクル数とに基づき、追跡パーツごとにパーティクルのリサンプリングを行うリサンプリング手段として機能する。リサンプリングは、尤度の低いパーティクルを削除する一方、尤度の高いパーティクルを複製することで、追跡対象が存在する可能性が高い位置の付近に多くのパーティクルを残すことを目的とした処理である。候補位置算出手段42は追跡パーツごとに配分されたパーティクル数だけ、現在のパーティクル群から尤度に基づき選択し複製することで実現される。尤度に基づくパーティクルの選択には遺伝的アルゴリズムにおける選択操作手法を用いることができ例えば、ルーレット選択といった方法を用いることができる。候補位置算出手段42はリサンプリング終了後、リサンプリングされたパーティクル群でパーティクル情報22を更新する。
Further, the candidate position calculation unit 42 performs resampling of particles for each tracking part based on the likelihood of each particle obtained by the
位置算出手段43は追跡人物の現時刻における位置を推定する。位置算出手段43はまず追跡パーツごとに追跡人物の位置を推定する。追跡パーツごとの人物位置推定は当該追跡パーツに関するパーティクル群を用いて行う。例えば、位置算出手段43は各追跡パーツについて、追跡パーツ情報21に記憶されている当該追跡パーツと追跡人物との相対位置情報を用いて、パーティクルごとに人物位置を算出し、当該人物位置についてパーティクルの尤度を重みとした加重平均を行い追跡パーツごとの人物の推定位置を算出する。
The position calculation means 43 estimates the position of the tracking person at the current time. The position calculation means 43 first estimates the position of the tracking person for each tracking part. The person position estimation for each tracking part is performed using particles related to the tracking part. For example, for each tracking part, the position calculation means 43 calculates the person position for each particle using the relative position information between the tracking part and the tracking person stored in the
次いで位置算出手段43は、追跡パーツごとの推定位置を統合し、追跡人物の最終的な推定位置とする。例えば、位置算出手段43は追跡パーツごとの推定位置について各追跡パーツの追跡信頼度を重みとした加重平均を行い、追跡人物の最終的な推定位置を算出する。位置算出手段43は最終的に求まった追跡人物の推定位置を追跡人物情報20に記憶する。
Next, the position calculation means 43 integrates the estimated positions for each tracking part to obtain the final estimated position of the tracking person. For example, the position calculation means 43 performs a weighted average with the tracking reliability of each tracking part as a weight for the estimated position for each tracking part, and calculates the final estimated position of the tracking person. The position calculation means 43 stores the estimated position of the tracked person finally obtained in the tracked
尤度算出手段44は各パーティクルの尤度を計算する。尤度算出手段44はパーティクルの位置での現時刻の入力画像の特徴量を算出し、当該パーティクルに割り当てられた追跡パーツについて追跡パーツ情報21に記憶されたテンプレートの特徴量と比較することで尤度を算出する。具体的には特徴量として色ヒストグラムや輝度勾配の類似度などを用いることができる。算出された尤度はパーティクル情報22に記憶される。
The likelihood calculating means 44 calculates the likelihood of each particle. The likelihood calculating means 44 calculates the feature amount of the input image at the current time at the position of the particle, and compares the tracking part assigned to the particle with the feature amount of the template stored in the
追跡信頼度算出手段45は各追跡パーツの信頼度(追跡信頼度)を算出する。追跡信頼度算出手段45は追跡パーツごとに、各パーティクルに尤度を用いて重み付けして求めたパーティクル群における位置のばらつき度合いと、尤度の空間的な分布のピークの高さとに基づいて尤度分布の鋭さ度合いを評価し、当該鋭さ度合いに応じて過去追跡信頼度を定める。すなわち、追跡信頼度の算出は、追跡パーツのパーティクル群の位置と尤度により近似される尤度分布に基づき行われる。尤度の空間的な分布が単峰性で高い分布となっていれば、追跡が正しく行われている可能性が高いと考えることができる。したがって、追跡信頼度は尤度分布が単峰性で高いピークを持つ分布となっている場合に高くなるように定義することが望ましい。尤度分布が単峰性となっているかどうかは、重みとして尤度値を加味したパーティクル群のばらつき度合により評価することができる。また尤度分布の高さは、分布のピーク付近でのパーティクルの尤度値により評価することができる。 The tracking reliability calculation means 45 calculates the reliability (tracking reliability) of each tracking part. For each tracking part, the tracking reliability calculation means 45 estimates the likelihood based on the degree of variation in position in the particle group obtained by weighting each particle using the likelihood and the peak height of the spatial distribution of likelihood. The degree of sharpness of the degree distribution is evaluated, and the past tracking reliability is determined according to the degree of sharpness. That is, the tracking reliability is calculated based on the likelihood distribution approximated by the position and likelihood of the particle group of the tracking part. If the spatial distribution of likelihood is unimodal and high, it can be considered that there is a high possibility that tracking is performed correctly. Therefore, it is desirable to define the tracking reliability so as to be high when the likelihood distribution is a distribution having a single peak and a high peak. Whether or not the likelihood distribution is unimodal can be evaluated based on the degree of variation of the particle group in which the likelihood value is added as a weight. The height of the likelihood distribution can be evaluated from the likelihood value of the particles near the distribution peak.
図9は尤度分布と追跡信頼度との関係性の例を示す模式図である。パーティクル群の位置は実際には監視画像に対応して2次元座標で定義されるが、図9では水平方向を座標軸とする1次元座標に単純化している。また図の垂直方向が尤度値に対応し、上に行くほど尤度値が高くなる。図9(a)に示す尤度分布450aは単峰性でピーク値が高い分布の例であり、このような場合に追跡信頼度は高く設定される。一方、図9(b)に示す尤度分布450bは単峰性であるがピーク値が低い分布の例であり、図9(c)に示す尤度分布450cは多峰性の分布の例であり、これらのような場合に追跡信頼度は低く設定される。
FIG. 9 is a schematic diagram showing an example of the relationship between the likelihood distribution and the tracking reliability. The position of the particle group is actually defined by two-dimensional coordinates corresponding to the monitoring image, but in FIG. 9, it is simplified to one-dimensional coordinates with the horizontal direction as the coordinate axis. The vertical direction in the figure corresponds to the likelihood value, and the likelihood value increases as it goes upward. A
具体的には、追跡信頼度の決め方として例えば、(方法1)追跡パーツの推定位置周囲のパーティクル群の尤度合計値を用いる方法や、(方法2)重み付きの分散と全パーティクルの尤度の合計値とを用いる方法がある。 Specifically, as a method of determining the tracking reliability, for example, (Method 1) a method using the total likelihood value of particles around the estimated position of the tracking part, or (Method 2) weighted variance and the likelihood of all particles There is a method using the total value of.
(方法1)まず尤度を重みとした加重平均により追跡パーツの推定位置を算出し、推定位置の周囲一定範囲内(例えば、所定半径の円内)に含まれるパーティクル群の尤度の合計値ωCの、追跡パーツの全パーティクルの尤度合計値ωに対する割合ωC/ωを単峰性に対する評価値とする。単峰性が高い分布となっている場合には、上述の推定位置にて尤度分布はピークとなり、その近傍の尤度値が高くなることから、尤度合計値の比の値ωC/ωが大きくなる。さらに、推定位置の周囲一定範囲内の尤度の合計値は尤度分布のピークの高さを示す評価値とする。最終的に追跡信頼度を、単峰性に対する評価値と、ピークの高さを示す評価値との積とする。当該追跡信頼度は、尤度分布が単峰性で、且つ尤度分布のピークが高くなっていることを示す評価値となる。周囲一定範囲の大きさは追跡パーツの大きさに基づき決定し、追跡パーツの半径の30%といった形に決定すれば良い。 (Method 1) First, an estimated position of the tracking part is calculated by a weighted average using the likelihood as a weight, and the total value of the likelihood of the particle group included in a certain range around the estimated position (for example, within a circle of a predetermined radius) omega and C, the ratio omega C / omega relative likelihood total value of all the particles of tracking parts omega and evaluation values for unimodal. When the distribution is high in unimodality, the likelihood distribution has a peak at the above-described estimated position, and the likelihood value in the vicinity thereof becomes high. Therefore, the value of the ratio of the likelihood total value ω C / ω increases. Further, the total value of likelihood within a certain range around the estimated position is an evaluation value indicating the height of the peak of the likelihood distribution. Finally, the tracking reliability is the product of the evaluation value for the single peak and the evaluation value indicating the peak height. The tracking reliability is an evaluation value indicating that the likelihood distribution is unimodal and the peak of the likelihood distribution is high. The size of the surrounding area is determined based on the size of the tracking part, and may be determined to be 30% of the radius of the tracking part.
(方法2)単峰性に対する評価値を、尤度を重みとしたパーティクルの位置に対する重み付き分散値に基づく評価値とし、ピークの高さを示す評価値を全パーティクルの尤度の合計値とし、追跡信頼度を単峰性に対する評価値と、ピークの高さを示す評価値との積とする。分散値が低く、全パーティクルの尤度の合計値が高い場合は、一カ所に尤度の高いパーティクルが集中している、すなわち単峰性でピークの高さが高くなっていると考えることができる。 (Method 2) The evaluation value for unimodality is set as an evaluation value based on a weighted variance value with respect to the position of the particle having the likelihood as a weight, and the evaluation value indicating the peak height is set as the total value of the likelihood of all particles. The tracking reliability is the product of the evaluation value for the single peak and the evaluation value indicating the height of the peak. If the variance value is low and the total likelihood value of all particles is high, it can be considered that particles with high likelihood are concentrated in one place, that is, the peak height is high with unimodality. it can.
または、上述した方法の変形として、一定値以上の尤度値を持つパーティクルのみを選別し(すなわち、閾値切りを行った上で)、選別されたパーティクル群の位置の分散、およびパーティクルの合計数を用いて追跡信頼度を定義しても良い。一定値以上の尤度を持つパーティクル群の分散値が低く、合計数が多い場合は、一カ所に尤度の高いパーティクルが集まっていると考えることができ、尤度分布は単峰性でピークの高さが高いと考えることができる。 Alternatively, as a modification of the above-described method, only particles having a likelihood value equal to or greater than a certain value are selected (that is, after threshold cutting), and the distribution of the positions of the selected particles and the total number of particles The tracking reliability may be defined using When the variance of particles with a certain likelihood or higher is low and the total number is large, it can be considered that particles with high likelihood are gathered in one place, and the likelihood distribution is unimodal and peaks. Can be considered high.
あるいは、計算コストの削減や、処理を簡単化する場合には、単純に全パーティクル群の尤度値の合計を追跡信頼度としても良い。ただし、この場合は単峰性であることが評価されていないため、その分精度が低下し得る。 Alternatively, when the calculation cost is reduced or the processing is simplified, the total likelihood value of all the particle groups may be simply set as the tracking reliability. However, in this case, since it is not evaluated to be unimodal, the accuracy can be reduced accordingly.
追跡信頼度算出手段45は上述のようにして求めた追跡信頼度を追跡パーツ情報21に記憶する。
The tracking reliability calculation means 45 stores the tracking reliability calculated as described above in the
追跡終了手段46は、人物が画面外への移動や構造物等の隠蔽によりカメラに映らなくなった場合、あるいは追跡が失敗した場合など、これ以上、追跡することが不可能である状況を判定し、その人物に対する追跡処理を終了する。追跡不可の判定には、追跡信頼度が一定値以上の追跡パーツがなくなったことにより判定する方法およびパーティクルの主な位置が画面外となったことにより判定する方法を組み合わせて用いる。追跡不可と判定された場合、その人物に関する情報を追跡人物情報20、追跡パーツ情報21、パーティクル情報22から削除する。
The tracking end means 46 determines a situation in which further tracking is impossible, such as when a person is no longer reflected on the camera due to movement outside the screen or concealment of structures, or when tracking fails. The tracking process for the person is terminated. The determination that tracking is impossible uses a combination of a method of determining when there is no tracking part having a tracking reliability of a certain value or more and a method of determining when the main position of the particle is outside the screen. If it is determined that tracking is not possible, information regarding the person is deleted from the tracking
[移動物体追跡装置1の動作]
以下、移動物体追跡装置1の動作を説明する。図10は移動物体追跡装置1の動作の概略の全体フロー図である。移動物体追跡装置1の動作が開始されると、撮像部2は予め規定したフレームレート(例えば7fps)で監視画像を取得し、追跡部4に監視画像を出力する。追跡部4は監視画像が入力されるたびに(ステップS1)、ステップS1〜S5の一連の処理を繰り返す。
[Operation of Moving Object Tracking Device 1]
Hereinafter, the operation of the moving
追跡部4は追跡人物情報20に記録された人物ごとに、入力された監視画像上にて追跡処理を行い現在の位置の推定を行う(ステップS2)。追跡部4は追跡人物情報20に記録された追跡対象の人物を順次、追跡処理S2の対象として選択し、全ての追跡対象人物について追跡処理S2が完了した場合は追跡部4は処理をステップS4に進め、一方、未処理の追跡対象人物が存在する場合は追跡処理S2を継続する(ステップS3)。
The
図11は追跡処理S2の概略のフロー図であり、図11を用いて当該処理をさらに詳しく説明する。 FIG. 11 is a schematic flowchart of the tracking process S2, and the process will be described in more detail with reference to FIG.
追跡部4は候補位置算出手段42によるサンプリング手段として機能し、各追跡人物についてパーティクルのサンプリングを行う(ステップS21)。追跡部4はステップS21でのサンプリング結果に基づき、尤度算出手段44により各パーティクルの尤度の算出を行う(ステップS22)。さらに、追跡部4はステップS22で求めたパーティクル群の尤度に基づき、追跡信頼度算出手段45により各追跡パーツの追跡信頼度を算出する(ステップS23)。
The
追跡終了手段46はステップS23にて算出されたパーツの追跡信頼度およびパーティクル群の位置に基づき、追跡の継続が可能かどうかを判定し(ステップS24)、不可と判断した場合は追跡終了処理を行う(ステップS25)。これにより、追跡不可と判定された人物についての追跡が終了され、追跡終了手段46は追跡人物情報20から当該人物に関する情報を削除する。
The tracking end means 46 determines whether or not the tracking can be continued based on the tracking reliability of the parts and the position of the particle group calculated in step S23 (step S24). This is performed (step S25). As a result, the tracking of the person who is determined not to be tracked is terminated, and the tracking
一方、ステップS24にて追跡可能と判定された人物については、まず追跡継続が困難な追跡パーツがあればその削除が行われる(ステップS26)。すなわち、追跡部4は追跡パーツ設定手段41による追跡パーツ削除手段として機能し、追跡パーツ情報21に記憶されている追跡信頼度に基づいて追跡パーツのうち追跡継続が困難なロストパーツを判定し、ロストパーツを追跡対象から除外する。
On the other hand, with respect to the person determined to be traceable in step S24, first, if there is a tracking part that is difficult to keep track of, it is deleted (step S26). That is, the
その後、追跡部4は位置算出手段43として機能し、ステップS21でサンプリングされたパーティクル群の位置およびステップS23で算出された各追跡パーツの追跡信頼度に基づいて追跡人物の位置推定を行う(ステップS27)。
Thereafter, the
また、追跡部4は追跡パーツ設定手段41による追跡パーツ追加手段として機能し、追跡パーツの状況に応じて追跡パーツを追加する(ステップS28)。
The
そして、追跡部4は配分調整手段420により、ステップS23で算出された各追跡パーツの追跡信頼度に基づいて追跡パーツごとのパーティクル数の配分を決定する(ステップS29)。この配分されたパーティクル数に基づき、追跡部4は候補位置算出手段42により、追跡パーツごとにパーティクルのリサンプリングを行う(ステップS30)。ただし、ステップS28において新たに追加された追跡パーツに関するパーティクルに関しては、初回のためリサンプリングは不要である。
Then, the
上述の追跡処理S2が追跡人物情報20に登録された全ての人物に対して行われると、既に述べたように追跡部4は処理を図10のステップS4に進め、追跡人物設定手段40により、監視画像にてまだ追跡設定されていない人物の検出を行い、検出された場合は追跡人物として追加する(ステップS4)。
When the tracking process S2 described above is performed for all the persons registered in the tracked
図12は新規追跡人物設定処理S4の概略のフロー図であり、図12を用いて当該処理をさらに詳しく説明する。 FIG. 12 is a schematic flowchart of the new tracking person setting process S4. This process will be described in more detail with reference to FIG.
追跡人物設定手段40は、監視画像にてまだ追跡対象として追跡人物情報20に登録されていない人物の検出を行い、当該人物を追跡人物情報20に追加する(ステップS41)。追跡人物設定手段40は新たに検出された人物ごとに、追跡パーツの設定(ステップS42)と、パーティクル群の生成(ステップS43)とを行い、全ての新規人物について追跡パーツ設定処理S42及びパーティクル生成処理S43が完了した場合は、追跡部4は新規追跡人物設定処理を終了し、処理を図10のステップS5に進める(ステップS44)。なお、ステップS42では追跡パーツ設定手段41の追跡パーツ設定機能により、新たに追跡対象となった人物に対して追跡を行うパーツの設定が行われ、ステップS43では、候補位置算出手段42のパーティクル生成機能により、新たに追跡対象となった人物に対して、ステップS42で設定された追跡パーツ情報を用いてパーティクルフィルタによる追跡を行うためのパーティクル群の生成が行われる。
The tracking
ステップS1で入力された監視画像に対し上述した処理S2〜S4により人物の追跡が完了すると、追跡部4は追跡結果を出力部5へ出力する(ステップS5)。例えば、追跡部4は追跡結果として全人物の推定位置を出力部5の表示装置等に表示させる。
When the tracking of the person is completed by the above-described processes S2 to S4 for the monitoring image input in step S1, the
以上述べたように、本発明は移動物体に複数のパーツを設定して各パーツをパーティクルフィルタを用いて追跡することによって移動物体を追跡するにあたり、1つの移動物体当たりの総数が予め定められているパーティクル群を、各追跡パーツにその尤度に応じて配分する。つまり、リアルタイムでの追跡を実現するには、監視画像の比較的短いフレーム周期の間に当該画像についての追跡処理を完了する必要があるので、1フレーム当たりに設定できるパーティクルの数は制限される。そこで本発明では移動物体に設定されるパーツに同じ数のパーティクルを割り当てるのでなく、追跡困難なパーツへの割り当てを減らし、その分を追跡継続見込みの高いパーツに割り当てる。ここで、いずれかのパーツが追跡できていれば移動物体の追跡精度は維持できる。よって、本発明によれば、計算量を増大させずに高精度に移動物体を追跡することができる。 As described above, in the present invention, when tracking a moving object by setting a plurality of parts on a moving object and tracking each part using a particle filter, the total number per moving object is determined in advance. A particle group is distributed to each tracking part according to its likelihood. In other words, in order to realize real-time tracking, it is necessary to complete the tracking process for the monitoring image during a relatively short frame period, so the number of particles that can be set per frame is limited. . Therefore, in the present invention, instead of assigning the same number of particles to the parts set as moving objects, the number of assignments to difficult-to-follow parts is reduced, and that part is assigned to parts that are likely to continue tracking. Here, if any part can be tracked, the tracking accuracy of the moving object can be maintained. Therefore, according to the present invention, it is possible to track a moving object with high accuracy without increasing the amount of calculation.
1 移動物体追跡装置、2 撮像部、3 記憶部、4 追跡部、5 出力部、20 追跡人物情報、21 追跡パーツ情報、22 パーティクル情報、40 追跡人物設定手段、41 追跡パーツ設定手段、42 候補位置算出手段、43 位置算出手段、44 尤度算出手段、45 追跡信頼度算出手段、46 追跡終了手段、420 配分調整手段。
DESCRIPTION OF
Claims (4)
前記移動物体を構成する複数のパーツごとにその画像特徴、過去位置、及び当該過去位置の尤もらしさを表す過去追跡信頼度を記憶する記憶手段と、
前記パーツごとに、前記過去位置から現時刻における1つ以上の候補位置を算出する候補位置算出手段と、
前記パーツの前記候補位置ごとに、現時刻の前記画像における画像特徴と前記記憶手段に記憶された前記画像特徴とを比較して当該候補位置の尤度を算出する尤度算出手段と、
前記パーツごとに、前記尤度を用いて重み付けした前記候補位置を用いて現時刻における前記移動物体の位置を算出する位置算出手段と、
を有し、
前記候補位置算出手段は、前記移動物体の前記各パーツの現時刻における前記候補位置の個数を、当該パーツの前記過去追跡信頼度に応じて定めること、
を特徴とした移動物体追跡装置。 A moving object tracking device for tracking a moving object in a time-series image,
Storage means for storing the image feature, the past position, and the past tracking reliability representing the likelihood of the past position for each of a plurality of parts constituting the moving object;
Candidate position calculating means for calculating one or more candidate positions at the current time from the past position for each part;
For each candidate position of the part, likelihood calculating means for calculating the likelihood of the candidate position by comparing the image feature in the image at the current time with the image feature stored in the storage means;
Position calculating means for calculating the position of the moving object at the current time using the candidate position weighted using the likelihood for each part;
Have
The candidate position calculating means determines the number of candidate positions at the current time of each part of the moving object according to the past tracking reliability of the part;
A moving object tracking device.
前記候補位置算出手段は、前記各移動物体に対して算出する前記候補位置の総数を予め定められ、前記各パーツの前記過去追跡信頼度に応じて当該総数を前記各パーツに配分すること、を特徴とする移動物体追跡装置。 The moving object tracking device according to claim 1,
The candidate position calculating means is configured to determine in advance a total number of the candidate positions to be calculated for each moving object, and to distribute the total number to each part according to the past tracking reliability of each part; Feature moving object tracking device.
前記パーツごとに、前記各候補位置に前記尤度を用いて重み付けして求めた当該候補位置のばらつき度合いと前記尤度の空間的な分布のピークの高さとを用いて尤度分布の鋭さ度合いを定め、当該鋭さ度合いに応じて前記過去追跡信頼度を求める追跡信頼度算出手段をさらに有し、
前記候補位置算出手段は、前記複数のパーツ間における前記候補位置の個数の配分比を前記過去追跡信頼度の比に応じて定めること、
を特徴とする移動物体追跡装置。 In the moving object tracking device according to claim 1 or 2,
The degree of sharpness of the likelihood distribution using the degree of variation of the candidate position obtained by weighting each candidate position using the likelihood and the height of the peak of the spatial distribution of the likelihood for each part. Further comprising tracking reliability calculation means for determining the past tracking reliability according to the degree of sharpness,
The candidate position calculating means determines a distribution ratio of the number of candidate positions among the plurality of parts according to a ratio of the past tracking reliability;
A moving object tracking device.
前記記憶手段に登録された前記複数のパーツのうち前記過去追跡信頼度が予め定めた下限値を下回るロストパーツを削除し、前記位置算出手段により算出された前記移動物体の位置に対応して前記ロストパーツとは異なる新規パーツを定義し前記記憶手段に登録するパーツ設定手段をさらに有し、
前記候補位置算出手段は、前記新規パーツに対し、予め定めた初期個数の候補位置を設定すること、
を特徴とする移動物体追跡装置。 In the moving object tracking device according to any one of claims 1 to 3,
Of the plurality of parts registered in the storage unit, the lost part whose past tracking reliability is lower than a predetermined lower limit value is deleted, and the part corresponding to the position of the moving object calculated by the position calculation unit is deleted. It further has a part setting means for defining a new part different from the lost part and registering it in the storage means,
The candidate position calculating means sets a predetermined initial number of candidate positions for the new part;
A moving object tracking device.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015049665A JP6336935B2 (en) | 2015-03-12 | 2015-03-12 | Moving object tracking device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015049665A JP6336935B2 (en) | 2015-03-12 | 2015-03-12 | Moving object tracking device |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2016170603A JP2016170603A (en) | 2016-09-23 |
JP6336935B2 true JP6336935B2 (en) | 2018-06-06 |
Family
ID=56983895
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015049665A Active JP6336935B2 (en) | 2015-03-12 | 2015-03-12 | Moving object tracking device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6336935B2 (en) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPWO2021153207A1 (en) * | 2020-01-27 | 2021-08-05 | ||
JP7488673B2 (en) | 2020-03-19 | 2024-05-22 | セコム株式会社 | MOVING OBJECT TRACKING DEVICE, MOVING OBJECT TRACKING METHOD, AND MOVING OBJECT TRACKING PROGRAM |
JP7402721B2 (en) * | 2020-03-24 | 2023-12-21 | 株式会社フジタ | speech control device |
WO2023112658A1 (en) * | 2021-12-13 | 2023-06-22 | Necソリューションイノベータ株式会社 | Object collation system, object collation method, and object collation program |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4991595B2 (en) * | 2008-02-21 | 2012-08-01 | 株式会社東芝 | Tracking system using particle filter |
JP5786879B2 (en) * | 2013-02-21 | 2015-09-30 | カシオ計算機株式会社 | Subject tracking device, subject tracking method and program |
-
2015
- 2015-03-12 JP JP2015049665A patent/JP6336935B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2016170603A (en) | 2016-09-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6755713B2 (en) | Tracking device, tracking method and program | |
JP6977730B2 (en) | People flow estimation device, people flow estimation method and program | |
KR101071352B1 (en) | Apparatus and method for tracking object based on PTZ camera using coordinate map | |
JP2016099941A (en) | System and program for estimating position of object | |
JP6336935B2 (en) | Moving object tracking device | |
CN112703533A (en) | Object tracking | |
EP2570992A1 (en) | Image processing apparatus, image processing method, and program | |
JP4662142B2 (en) | Moving object detection apparatus and method | |
EP2309454A2 (en) | Apparatus and method for detecting motion | |
KR20180020123A (en) | Asynchronous signal processing method | |
JP6503079B2 (en) | Specific person detection system, specific person detection method and detection device | |
JPWO2014010203A1 (en) | Fall detection device, fall detection method, fall detection camera, and computer program | |
JP6283008B2 (en) | Tracking device | |
KR102295183B1 (en) | object tracking method for CCTV video by use of CCTV projection model | |
KR101469099B1 (en) | Auto-Camera Calibration Method Based on Human Object Tracking | |
JP2010049297A (en) | Image monitoring device | |
JP4821355B2 (en) | Person tracking device, person tracking method, and person tracking program | |
US11544926B2 (en) | Image processing apparatus, method of processing image, and storage medium | |
JP2007058674A (en) | Object recognition device | |
JP6977337B2 (en) | Site recognition method, device, program, and imaging control system | |
KR101542206B1 (en) | Method and system for tracking with extraction object using coarse to fine techniques | |
JP2019096062A (en) | Object tracking device, object tracking method, and object tracking program | |
JP7243372B2 (en) | Object tracking device and object tracking method | |
WO2020217368A1 (en) | Information processing device, information processing method, and information processing program | |
WO2020217369A1 (en) | Object feature quantity extraction device, object feature quantity extraction method, and non-transitory computer-readable medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170424 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180411 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180424 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180507 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6336935 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |