JP7026868B2 - 目標追尾装置および目標追尾方法 - Google Patents

目標追尾装置および目標追尾方法 Download PDF

Info

Publication number
JP7026868B2
JP7026868B2 JP2021562312A JP2021562312A JP7026868B2 JP 7026868 B2 JP7026868 B2 JP 7026868B2 JP 2021562312 A JP2021562312 A JP 2021562312A JP 2021562312 A JP2021562312 A JP 2021562312A JP 7026868 B2 JP7026868 B2 JP 7026868B2
Authority
JP
Japan
Prior art keywords
light emitting
unit
emitting point
light
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021562312A
Other languages
English (en)
Other versions
JPWO2021124524A1 (ja
Inventor
将成 中村
洋志 亀田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of JPWO2021124524A1 publication Critical patent/JPWO2021124524A1/ja
Application granted granted Critical
Publication of JP7026868B2 publication Critical patent/JP7026868B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Optical Communication System (AREA)

Description

本開示は、単一または複数の目標の追尾処理を行う目標追尾装置および目標追尾方法に関する。
目標追尾装置には、識別情報に対応付けられた点滅パターンの光源を用いて目標の追尾処理を行うものがある。例えば、特許文献1には、カメラとともに移動する目標の位置および姿勢を推定する光学マーカシステムが記載されている。この光学マーカシステムは、複数のLEDマーカ、カメラ、候補点検出部、発光状態検出部、マーカ特定部およびカメラ位置姿勢推定部を備える。
複数のLEDマーカは、予め定められた位置に取り付けられ、各LEDマーカに一意に割り付けられた識別情報に対応した点滅パターンで点滅する。カメラは、LEDマーカの発光点および特徴点を含む画像を撮影する。特徴点は、常に一定値以上の明るさを有しているため、LEDマーカの発光点が消灯している間であっても撮影可能である。
候補点検出部は、カメラによって撮影された画像に含まれる発光点および特徴点を候補点として検出し、発光状態検出部は、各候補点を追跡して点滅パターンを検出し、マーカ特定部は、発光状態検出部によって検出された点滅パターンに基づいて、LEDマーカを特定する。カメラ位置姿勢推定部は、マーカ特定部によって特定された複数のLEDマーカの3次元位置に基づいて、カメラとともに移動する目標の位置および姿勢を推定する。
特開2009-33366号公報
特許文献1に記載されたシステムは、識別情報を送信するために光源(発光点)を点滅させているので、発光点が消灯している間でも撮影可能な特徴点が必要であるという課題があった。
本開示は上記課題を解決するものであり、識別情報を送信する発光点以外を用いることなく、目標の追尾処理を行うことができる目標追尾装置および目標追尾方法を得ることを目的とする。
本開示に係る目標追尾装置は、個々に一意に割り当てられた識別情報の変調信号を生成する信号生成部と、変調信号に対応した発光状態の変化によって識別情報の変調信号を送信する光源部とをそれぞれ有した複数の送信部と、光源部の発光点を含む画像を撮影し、撮影した画像から発光点の発光状態および画像中の発光点の位置を検出する受光部と、受光部によって検出された発光点の発光状態および画像中の発光点の位置に基づいて、送信部の追尾処理を行う追尾処理部とを有した受信部を備え、光源部は、受光部によって発光点を含む画像の撮影が可能な範囲内で発光状態が変化し、信号生成部は、識別情報を振幅偏移変調した変調信号を生成し、送信部は、光源部の発光状態の変化による変調信号の送信を繰り返し、光源部は、変調信号に応じて発光状態を変化させる間隔をランダムに変更し、受信部は、変調信号から識別情報が復調されるまで画像の検出を行うことを特徴とする。
本開示によれば、光源部の発光状態の変化によって識別情報の変調信号が送信され、受光部によって光源部の発光点を含む画像が撮影され、撮影された画像から発光点の発光状態および画像中の発光点の位置が検出される。検出された発光点の発光状態および発光点の位置に基づいて、目標の追尾処理が行われる。光源部は、受光部によって発光点を含む画像の撮影が可能な範囲内で発光状態が変化する。これにより、受光部によって発光点を含む画像が常に撮影可能であるので、本開示に係る目標追尾装置は、識別情報を送信する発光点以外を用いることなく、目標の追尾処理を行うことができる。
実施の形態1に係る目標追尾装置の構成を示すブロック図である。 実施の形態1に係る目標追尾方法を示すフローチャートである。 実施の形態1における光信号の受信処理の例を示す概要図である。 図2のステップST3の詳細な処理を示すフローチャートである。 図5Aは、実施の形態1に係る目標追尾装置の機能を実現するハードウェア構成を示すブロック図であり、図5Bは、実施の形態1に係る目標追尾装置の機能を実現するソフトウェアを実行するハードウェア構成を示すブロック図である。 実施の形態2に係る目標追尾装置の構成を示すブロック図である。
実施の形態1.
図1は、実施の形態1に係る目標追尾装置の構成を示すブロック図である。目標追尾装置1は、複数の目標の動きを追尾する装置であり、複数の送信部2、受信部3、識別IDデータベース4および表示部5を備える。送信部2は、例えば目標ごとに設けられ、目標とともに移動する。目標は、人間であってもよいし、人間以外の移動体であってもよい。識別IDデータベース4には、個々の送信部2に対して一意に割り当てられた識別ID(識別情報)が登録されている。識別IDは、自然数である。
複数の送信部2のそれぞれは、信号生成部21および光源部22を備える。信号生成部21は、自身を備える送信部2に対して一意に割り当てられた識別IDを、識別IDデータベース4から読み出し、読み出した識別IDに変調処理を施すことにより、識別IDの変調信号を生成する。例えば、信号生成部21は、識別IDに対して変調を施すことにより、識別IDを電気信号(変調信号)に変換する。
光源部22は、信号生成部21によって生成された識別IDの変調信号を光信号に変換し、変換した光信号を出力する。すなわち、光源部22は、識別IDの変調信号に対応した発光状態の変化によって当該変調信号を送信する。光源部22の発光状態は、例えば、輝度成分または色成分がある。光源部22が発光する光は、例えば、赤外光である。受信部3は、光源部22の発光点を一定のフレームレートで連続して撮影し、連続して撮影した複数の画像に含まれる光源部22の発光状態の変化に基づいて変調信号が受信される。
光源部22は、受信部3によって発光点を含む画像の撮影が可能な範囲内で発光状態が変化する。例えば、光源部22は、受信部3によって撮影された全てのフレームの画像に光源部22の発光点が含まれるように、一定値以上の輝度で発光する。識別IDの変調信号は、識別IDをn進数で表現し、各桁の値に対して輝度ないしは色を割り当てた系列である。ここで、各桁の値に割り当てられた輝度のうち、最小のものは、受光部3によって撮影が可能な一定値以上の輝度である。これにより、識別情報を送信する発光点以外を用いなくても、受信部3は、光源部22の発光点を含む画像を常に撮影可能である。
受信部3は、受光部31、追尾処理部32および航跡決定部33を備える。受光部31は、光源部22の発光点を含む画像を撮影し、撮影した画像から光源部22の発光状態と当該画像中の発光点の位置を検出する。受光部31は、撮影部311および検出部312を備える。撮影部311は、光源部22の発光点を一定のフレームレートで連続して撮影する。検出部312は、撮影部311によって連続して撮影された複数の画像に含まれる発光点の発光状態および画像中の発光点の位置を検出する。
追尾処理部32は、検出部312によって検出された発光点の発光状態および画像中の発光点の位置に基づいて、送信部2の追尾処理を行う。送信部2の追尾処理とは、送信部2が設けられた移動体の位置および速度を継続的に予測していく処理である。以下、送信部2が設けられた移動体を目標と記載する。また、検出部312によって複数の発光点の位置および発光状態が検出された場合に、追尾処理部32は、これらの検出値がいずれの目標に対応するのかを判定する相関処理を行う。
追尾処理部32は、図1に示すように、航跡予測部321、相関仮説生成部322、相関仮説評価部323、航跡更新部324、ID識別部325および相関仮説保存部326を備える。航跡予測部321は、相関仮説保存部326に保存された相関仮説を入力し、相関仮説に含まれる全ての航跡に対する予測処理を行い、相関仮説に含まれる航跡を予測後の航跡に置き換える。
相関仮説とは、受光部31によって検出された発光点の発光状態および画像中の発光点の位置が、航跡予測部321から出力された相関仮説に含まれる既存の航跡のうち、いずれの航跡と相関があるかを示す仮説データである。相関仮説には、例えば、目標ごとに予測された1つ以上の航跡、航跡ごとに対応するキューデータ、航跡ごとに対応する識別IDおよび相関仮説の評価値が含まれる。
航跡は、目標の時間的な移動状態を示すデータであり、各時刻における発光点の位置と速度の予測値を表す確率変数であり、ベクトルを用いて表される。キューデータは、航跡に相関がある発光点の位置および発光状態(例えば、輝度)の検出値からなるベクトル(検出値ベクトル)の時系列である。相関仮説に含まれる識別IDは、発光点の発光状態の変化の時系列を用いて復調されたデジタルデータである。
相関仮説生成部322は、航跡予測部321から入力した1つ以上の相関仮説と、検出部312によって検出された発光点の位置および発光状態とに基づいて、新たな相関仮説を生成する。例えば、相関仮説生成部322は、検出部312によって検出された発光点の位置および発光状態によって構成される検出値ベクトルを、相関仮説に含まれるキューデータに追加することで、新たな相関仮説を生成する。
相関仮説評価部323は、相関仮説生成部322から入力した1つ以上の相関仮説の尤もらしさの評価値を算出し、算出した評価値を用いて相関仮説に含まれる評価値を更新する。航跡更新部324は、相関仮説評価部323から入力した1つ以上の相関仮説に含まれる航跡を、相関がある発光点の位置の検出値を用いて更新し、相関仮説に含まれる航跡を更新後の航跡に置き換える。
ID識別部325は、航跡更新部324から入力した1つ以上の相関仮説に含まれるキューデータから、航跡に相関がある発光点の発光状態(例えば、輝度)の変化の時系列を取得し、発光点の発光状態の変化の時系列に基づいて特定した変調信号から、識別IDを復調する。相関仮説保存部326には、航跡更新部324によって航跡が更新された相関仮説が保存される。航跡決定部33は、ID識別部325から入力した1つ以上の相関仮説から、相関仮説に含まれる評価値に基づいて表示部5に表示する相関仮説を決定する。
図2は、実施の形態1に係る目標追尾方法を示すフローチャートである。
複数の送信部2のそれぞれにおいて、光源部22が、発光状態の変化によって、個々の送信部2に一意に割り当てられた識別IDの変調信号を送信する(ステップST1)。
例えば、信号生成部21が、識別IDデータベース4から読み出した識別IDに対して変調処理を施すことにより、識別IDの変調信号を生成する。光源部22は、変調信号のシンボルごとに異なる輝度で発光する。ただし、光源部22の輝度は、撮影部311によって撮影が可能な一定値以上の輝度である。
変調信号のシンボルごとのビットレートであるシンボルレートは、撮影部311による画像撮影におけるフレームレートと同一であるものとする。光源部22は、シンボルごとに対応する輝度で発光する。目標追尾装置1においては、光源部22の発光状態の変化によって、識別IDの変調信号に対応する光信号が送信される。
受光部31が、光源部22の発光点を含む画像を撮影し、撮影した画像から、発光点の発光状態および画像中の発光点の位置を検出する(ステップST2)。撮影部311が、光源部22の発光点を、識別IDの変調信号のシンボルレートと同一のフレームレートで連続して撮影する。検出部312は、撮影部311によって連続して撮影された複数の画像に含まれる発光点の発光状態および画像中の発光点の位置を逐次検出する。
図3は、実施の形態1における光信号の受信処理の例を示す概要図である。光源部22の発光点の輝度22Aは、識別IDの変調信号のシンボルの時間変化に伴って変化する。符号10を付した枠は、撮影部311による画像撮影におけるフレーム10である。図3において、シンボルレートとフレームレートとが一致しているため、シンボルごとに対応した輝度22Aで光源部22が発光している時間は、個々のフレーム10の時間と同じである。
しかしながら、目標追尾装置1において、光源部22の発光点の輝度22Aがシンボルごとに切り替わるタイミングと、撮影部311による画像撮影でフレーム10が切り替わるタイミングとが、一致しているとは限らない。このため、期間T1に示すように、光源部22の発光点の輝度22Aが切り替わるタイミングが、撮影部311による画像撮影で次のフレーム10に切り替わるタイミングからずれる可能性がある。この場合、撮影部311は、変調信号のシンボルに対応した輝度22Aの発光点を正しく撮影できない。これにより、受信部3は、光源部22の発光点を含む画像から変調信号を正確に特定できず、識別IDを正しく復調できない。
そこで、目標追尾装置1において、送信部2は、光源部22の輝度22Aの変化による変調信号の送信を繰り返す。変調信号の送信の繰り返しにおいて、光源部22は、変調信号に応じて輝度22Aを変化させる間隔をランダムに変更する。例えば、図3に示すように、光源部22は、期間T1における変調信号に応じた輝度22Aの変化が完了すると、ランダムに変更された間隔T2を空けた後に、再び、変調信号に応じて輝度22Aを変化させる。これにより、期間T3に示すように、光源部22の発光点の輝度22Aが切り替わるタイミングと、撮影部311による画像撮影で次のフレーム10に切り替わるタイミングとが一致する状態が発生する頻度を確率的に高めることができる。
なお、識別IDの変調信号が送信されない時間間隔において、信号生成部21は、光源部22の発光出力が最大となる電気信号を光源部22へ出力する。光源部22は、信号生成部21から入力した電気信号に応じて、変調信号を送信している時間よりも大きな出力で発光する。これにより、受信部3は、光源部22の発光点を含む画像を常に撮影可能である。
続いて、追尾処理部32が、検出部312によって検出された発光点の発光状態および画像中の発光点の位置に基づいて、目標の追尾処理を行う(ステップST3)。例えば、追尾処理部32は、多数の目標の位置および速度を継続的に予測する。同一のサンプリング時刻において、発光点の発光状態および位置についての多数の検出値が得られるので、追尾処理部32は、これらの検出値がいずれの目標に対応するのかを判定する相関処理を行う。
航跡決定部33は、目標の航跡の予測の尤もらしさに基づいて、追尾処理部32による追尾処理で得られた航跡を選別し、選別した航跡を含む情報を表示部5に出力する。表示部5は、航跡決定部33から入力した情報を表示する。
図4は、図2のステップST3の詳細な処理を示すフローチャートであり、追尾処理部32による一連の処理を示している。航跡予測部321は、相関仮説保存部326に保存された1つ以上の相関仮説を入力し、相関仮説に含まれる全ての航跡に対して予測処理を行う(ステップST1a)。例えば、航跡予測部321は、カルマンフィルタを用いて、相関仮説に含まれる既存の航跡に対応する、現在時刻における目標の位置と速度の予測値を含む予測航跡を算出する。航跡予測部321は、相関仮説に含まれる既存の航跡を予測航跡に置き換える。
相関仮説生成部322は、航跡予測部321から入力した1つ以上の相関仮説と、検出部312によって検出された発光点の位置および発光状態とに基づいて、新たな相関仮説を生成する(ステップST2a)。例えば、相関仮説生成部322は、航跡予測部321から現在時刻よりも1単位時間前の時刻(前時刻)における全ての相関仮説を入力し、検出部312から現在時刻における発光点の検出値を入力する。単位時間は、検出部312による発光点の検出間隔である。相関仮説生成部322は、相関仮説に含まれる航跡と、発光点の発光状態および位置の検出値とを組み合わせて、発光点の発光状態および位置の検出値から得られる検出値ベクトルを、相関仮説に含まれるキューデータに追加することにより、新たな相関仮説を生成する。
また、相関仮説生成部322は、MHT(Multiple Hypothesis Tracking)アルゴリズムを用いて、相関仮説に含まれる航跡と発光点の検出値との組み合わせを決定してもよい。MHTアルゴリズムでは、組み合わせの中に、発光点の検出値と相関がない航跡があってもよい。この場合、相関仮説生成部322は、相関がある発光点の検出値がないことを示すシンボルをキューデータに追加する。
次に、相関仮説評価部323が、相関仮説生成部322から1つ以上の相関仮説を入力し、相関仮説を評価する(ステップST3a)。例えば、相関仮説評価部323は、航跡予測部321によって算出された現在時刻で航跡に相関のある発光点の位置の予測値と、検出部312によって検出された発光点の位置との距離を指標として相関仮説の尤もらしさの評価値を算出する。相関仮説評価部323は、相関仮説に含まれる評価値を、新たに算出した評価値で更新する。相関仮説の評価値の更新には、例えば、MHTアルゴリズムが用いられる。
次に、航跡更新部324は、相関仮説評価部323から1つ以上の相関仮説を入力し、入力した相関仮説に含まれる航跡を更新する(ステップST4a)。例えば、航跡更新部324は、相関仮説に含まれるキューデータから、現在時刻で航跡に相関がある発光点の位置の検出値を取得し、取得した発光点の位置の検出値を用いて、当該航跡を更新する。航跡の更新処理には、例えばカルマンフィルタが用いられる。航跡更新部324は、相関仮説に含まれる航跡を、更新後の航跡に置き換える。
次に、ID識別部325は、航跡更新部324から1つ以上の相関仮説を入力し、相関仮説ごとに対応する識別IDを復調する(ステップST5a)。例えば、ID識別部325は、相関仮説に含まれるキューデータから、航跡に相関がある発光点の発光状態の変化の時系列を取得し、発光点の発光状態の変化の時系列に基づいて特定した変調信号から、識別IDを復調する。
続いて、ID識別部325は、復調した識別IDが識別IDデータベース4に存在するか否かを確認する。復調した識別IDが識別IDデータベース4に存在すれば、ID識別部325は、相関仮説において、復調した識別IDに対応する航跡について既存の識別IDを、復調した識別IDに置き換える。
復調した識別IDが識別IDデータベース4に存在しなければ、ID識別部325は、航跡に対応する識別IDの復調に失敗したものとみなして、復調に失敗したことを示すデジタルデータである失敗データを生成する。そして、ID識別部325は、相関仮説において、識別IDの復調に失敗した航跡について既存の識別IDを、失敗データに置き換える。
相関仮説保存部326は、航跡更新部324から出力された1つ以上の相関仮説を保存する(ステップST6a)。また、航跡更新部324が、相関仮説評価部323によって更新された相関仮説の評価値に基づいて相関仮説保存部326へ出力する相関仮説を選別してもよい。例えば、航跡更新部324が、相関仮説評価部323から入力した相関仮説のうち、評価値が一定値よりも高い相関仮説を選別する。航跡更新部324によって選別された相関仮説は、相関仮説保存部326に保存される。
航跡決定部33は、ID識別部325から入力した相関仮説のうち、相関仮説に含まれる評価値が最も高いものを表示対象の相関仮説に決定する。表示部5は、航跡決定部33によって決定された相関仮説に含まれる航跡を表示する。
図5Aは、目標追尾装置1の機能を実現するハードウェア構成を示すブロック図であり、図5Bは、目標追尾装置1の機能を実現するソフトウェアを実行するハードウェア構成を示すブロック図である。図5Aおよび図5Bにおいて、入力インタフェース100は、例えば、送信部2が備える信号生成部21に対して識別IDデータベース4から入力される識別IDを中継するインタフェースである。また、入力インタフェース100は、受信部3において、検出部312に対して撮影部311から入力される画像情報を中継する。出力インタフェース101は、受信部3が備える航跡決定部33から表示部5へ出力される追尾結果(相関仮説)を中継するインタフェースである。
目標追尾装置1における送信部2および受信部3の機能は、処理回路によって実現される。すなわち、目標追尾装置1は、図2に示したステップST1からステップST3までの処理を実行するための処理回路を備える。処理回路は、専用のハードウェアであってもよいが、メモリに記憶されたプログラムを実行するCPU(Central Processing Unit)であってもよい。
処理回路が図5Aに示す専用のハードウェアの処理回路102である場合、処理回路102は、例えば、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)、または、これらを組み合わせたものが該当する。目標追尾装置1における送信部2および受信部3の機能は、別々の処理回路で実現されてもよく、これらの機能がまとめて1つの処理回路で実現されてもよい。
処理回路が図5Bに示すプロセッサ103である場合、目標追尾装置1における送信部2および受信部3の機能は、ソフトウェア、ファームウェアまたはソフトウェアとファームウェアとの組み合わせにより実現される。なお、ソフトウェアまたはファームウェアは、プログラムとして記述されてメモリ104に記憶される。
プロセッサ103は、メモリ104に記憶されたプログラムを読み出して実行することにより目標追尾装置1における送信部2および受信部3の機能を実現する。例えば、目標追尾装置1は、プロセッサ103によって実行されるときに、図2に示したフローチャートにおけるステップST1からステップST3の処理が結果的に実行されるプログラムを記憶するためのメモリ104を備える。これらのプログラムは、送信部2および受信部3の手順または方法をコンピュータに実行させる。メモリ104は、コンピュータを、送信部2および受信部3として機能させるためのプログラムが記憶されたコンピュータ可読記憶媒体であってもよい。
メモリ104は、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ、EPROM(Erasable Programmable Read Only Memory)、EEPROM(Electrically-EPROM)などの不揮発性または揮発性の半導体メモリ、磁気ディスク、フレキシブルディスク、光ディスク、コンパクトディスク、ミニディスク、DVDなどが該当する。
目標追尾装置1における送信部2および受信部3の機能の一部が、専用のハードウェアで実現され、一部がソフトウェアまたはファームウェアで実現されてもよい。例えば、送信部2は、専用のハードウェアである処理回路102により機能を実現し、受信部3は、プロセッサ103がメモリ104に記憶されたプログラムを読み出して実行することにより機能を実現する。このように、処理回路は、ハードウェア、ソフトウェア、ファームウェアまたはこれらの組み合わせにより、上記機能を実現することができる。
以上のように、実施の形態1に係る目標追尾装置1において、光源部22の発光状態の変化によって識別IDの変調信号が送信され、受光部31によって光源部22の発光点を含む画像が撮影され、撮影された画像から発光点の発光状態および画像中の発光点の位置が検出される。検出された発光点の発光状態および発光点の位置に基づいて、目標の追尾処理が行われる。光源部22は、受光部31によって発光点を含む画像の撮影が可能な範囲内で発光状態が変化する。受光部31によって発光点を含む画像が常に撮影可能であるので、目標追尾装置1は、識別IDを送信する発光点以外を用いることなく、目標の追尾処理を行うことができる。
実施の形態2.
図6は、実施の形態2に係る目標追尾装置1Aの構成を示すブロック図である。図6において、図1と同一の構成要素には、同一の符号が付されて説明が省略される。目標追尾装置1Aは、図6に示すように、複数の送信部2、受信部3A、識別IDデータベース4および表示部5を備える。受信部3Aは、受光部31、追尾処理部32Aおよび航跡決定部33を備える。追尾処理部32Aは、航跡予測部321、相関仮説生成部322、相関仮説評価部323A、航跡更新部324、ID識別部325、相関仮説保存部326および輝度予測部327を備える。
輝度予測部327は、相関仮説に含まれる航跡に相関がある発光点の次時刻における輝度を予測する。次時刻とは、現在時刻から1単位時間先の時刻である。例えば、輝度予測部327は、航跡予測部321から1つ以上の相関仮説を入力し、入力した相関仮説に含まれる航跡に対応する識別IDが失敗データではない場合、この航跡に対応するキューデータから、現在時刻までの発光点の輝度の変化の時系列を取得する。そして、輝度予測部327は、取得した時系列と、ID識別部325によって復調される前の発光点の輝度の変化の時系列とを照合することにより、次時刻における発光点の輝度を予測する。
輝度予測部327は、発光点の輝度の予測値を、この発光点と相関がある航跡に対応付けて相関仮説に含める。また、相関仮説に含まれる航跡の識別IDが失敗データであった場合、輝度予測部327は、発光点の予測不能ラベルデータを生成し、この発光点と相関がある航跡に対応付けて予測不能ラベルデータを相関仮説に含める。
相関仮説評価部323Aは、相関仮説生成部322から1つ以上の相関仮説を入力し、発光点の位置および発光点の発光状態の予測値に基づいて相関仮説の尤もらしさの評価値を算出し、算出した評価値を用いて相関仮説に含まれる評価値を更新する。
例えば、相関仮説評価部323Aは、航跡予測部321によって算出された現在時刻における発光点の位置の予測値と、検出部312によって検出された当該発光点の位置との距離に加えて、発光点の輝度の予測が可能であったか否かを指標として、相関仮説の尤もらしさの評価値を算出する。そして、相関仮説評価部323Aは、新たに算出した評価値で相関仮説に含まれる評価値を更新する。相関仮説の評価値の更新には、例えば、振幅情報を利用するMHTアルゴリズムが用いられる。
航跡更新部324は、相関仮説評価部323Aによって更新された相関仮説の評価値に基づいて、相関仮説保存部326へ出力する相関仮説を選別する。例えば、航跡更新部324は、相関仮説評価部323Aから入力した相関仮説のうち、評価値が一定値より高い相関仮説を選別する。航跡更新部324によって選別された相関仮説は、相関仮説保存部326に保存される。
例えば、複数の目標が狭い範囲に近接して存在する場合、発光点の位置の予測値のみに基づいて相関仮説が評価されると、航跡と発光点との相関が誤って判断される虞がある。これに対して、目標追尾装置1Aは、発光点の位置の予測値に加え、発光点の輝度の予測結果に基づいて、相関仮説の尤もらしさが評価され、この評価結果に基づいて、保存する相関仮説が選別される。これにより、航跡と発光点との誤相関の発生が低減される。
実施の形態2に係る目標追尾装置1Aは、発光点の輝度を予測する輝度予測部327を備える。ただし、実施の形態2に係る目標追尾装置1Aは、発光点の輝度を予測するものに限定されない。実施の形態2に係る目標追尾装置1Aは、発光点の位置の予測値に加えて、発光点の発光状態の予測結果に基づいて、相関仮説を評価するものであり、発光点の発光状態は、例えば、光の色成分であってもよい。
目標追尾装置1Aにおける送信部2および受信部3Aの機能は、処理回路によって実現される。処理回路は、専用のハードウェアであってもよいし、メモリに記憶されたプログラムを実行するCPUであってもよい。
以上のように、実施の形態2に係る目標追尾装置1Aにおいて、追尾処理部32Aが、受光部31によって検出された発光点の発光状態および画像中の発光点の位置が、既存の航跡のいずれの航跡に相関があるかを示す相関仮説を生成し、発光点の位置の予測値に加え、発光点の発光状態の予測結果に基づいて相関仮説の尤もらしさを評価し、評価結果に基づいて、保存する相関仮説を選別する。
なお、各実施の形態の組み合わせまたは実施の形態のそれぞれの任意の構成要素の変形もしくは実施の形態のそれぞれにおいて任意の構成要素の省略が可能である。
本開示に係る目標追尾装置は、例えば、多数の目標の追尾に利用可能である。
1,1A 目標追尾装置、2 送信部、3,3A 受信部、4 識別IDデータベース、5 表示部、10 フレーム、21 信号生成部、22 光源部、22A 輝度、31 受光部、32,32A 追尾処理部、33 航跡決定部、100 入力インタフェース、101 出力インタフェース、102 処理回路、103 プロセッサ、104 メモリ、311 撮影部、312 検出部、321 航跡予測部、322 相関仮説生成部、323,323A 相関仮説評価部、324 航跡更新部、325 ID識別部、326 相関仮説保存部、327 輝度予測部。

Claims (8)

  1. 個々に一意に割り当てられた識別情報の変調信号を生成する信号生成部と、前記変調信号に対応した発光状態の変化によって前記識別情報の前記変調信号を送信する光源部とをそれぞれ有した複数の送信部と、
    前記光源部の発光点を含む画像を撮影し、撮影した前記画像から前記発光点の発光状態および前記画像中の前記発光点の位置を検出する受光部と、前記受光部によって検出された前記発光点の発光状態および前記画像中の前記発光点の位置に基づいて、前記送信部の追尾処理を行う追尾処理部とを有した受信部と、を備え、
    前記光源部は、前記受光部によって前記発光点を含む前記画像の撮影が可能な範囲内で発光状態が変化し、
    前記信号生成部は、前記識別情報を振幅偏移変調した前記変調信号を生成し、
    前記送信部は、前記光源部の発光状態の変化による前記変調信号の送信を繰り返し、
    前記光源部は、前記変調信号に応じて発光状態を変化させる間隔をランダムに変更し、
    前記受信部は、前記変調信号から前記識別情報が復調されるまで前記画像の検出を行う
    ことを特徴とする目標追尾装置。
  2. 前記光源部は、前記受光部によって前記発光点を含む前記画像の撮影が可能な範囲内で輝度が変化すること
    を特徴とする請求項1に記載の目標追尾装置。
  3. 前記信号生成部は、前記識別情報を振幅偏移変調した前記変調信号を生成すること
    を特徴とする請求項1または請求項2に記載の目標追尾装置。
  4. 個々に一意に割り当てられた識別情報の変調信号を生成する信号生成部と、前記変調信号に対応した発光状態の変化によって前記識別情報の前記変調信号を送信する光源部とをそれぞれ有した複数の送信部と、
    前記光源部の発光点を含む画像を撮影し、撮影した前記画像から前記発光点の発光状態および前記画像中の前記発光点の位置を検出する受光部と、前記受光部によって検出された前記発光点の発光状態および前記画像中の前記発光点の位置に基づいて、前記送信部の追尾処理を行う追尾処理部とを有した受信部と、を備え、
    前記光源部は、前記受光部によって前記発光点を含む前記画像の撮影が可能な範囲内で発光状態が変化し、
    前記追尾処理部は、複数の前記送信部の各航跡に相関があった前記発光点の発光状態を逐次保存し、前記発光点の発光状態の時系列に基づいて複数の前記送信部の各航跡に対応する前記識別情報を復調する
    ことを特徴とする目標追尾装置。
  5. 前記追尾処理部は、前記受光部によって検出された前記発光点の発光状態および前記画像中の前記発光点の位置が、既存の航跡のいずれの航跡に相関があるかを示す相関仮説を生成し、前記発光点の位置の予測値に基づいて前記相関仮説の尤もらしさを評価し、評価結果に基づいて、保存する前記相関仮説を選別すること
    を特徴とする請求項4に記載の目標追尾装置。
  6. 前記追尾処理部は、前記受光部によって検出された前記発光点の発光状態および前記画像中の前記発光点の位置が、既存の航跡のいずれの航跡に相関があるかを示す相関仮説を生成し、前記発光点の位置の予測値に加え、前記発光点の発光状態の予測結果に基づいて前記相関仮説の尤もらしさを評価し、評価結果に基づいて、保存する前記相関仮説を選別すること
    を特徴とする請求項4に記載の目標追尾装置。
  7. 複数の送信部が、個々に一意に割り当てられた識別情報の変調信号を生成し、前記変調信号に対応した光源部の発光状態の変化によって前記識別情報の前記変調信号を送信するステップと、
    受光部が、前記光源部の発光点を含む画像を撮影し、撮影した前記画像から前記発光点の発光状態および前記画像中の前記発光点の位置を検出するステップと、
    追尾処理部が、前記受光部によって検出された前記発光点の発光状態および前記画像中の前記発光点の位置に基づいて、前記送信部の追尾処理を行うステップと、を備え、
    前記光源部は、前記受光部によって前記発光点を含む前記画像の撮影が可能な範囲内で発光状態が変化し、
    前記送信部は、前記識別情報を振幅偏移変調した前記変調信号を生成して、前記光源部の発光状態の変化による前記変調信号の送信を繰り返し、
    前記光源部は、前記変調信号に応じて発光状態を変化させる間隔をランダムに変更し、
    前記受光部は、前記変調信号から前記識別情報が復調されるまで前記画像の検出を行う
    ことを特徴とする目標追尾方法。
  8. 複数の送信部が、個々に一意に割り当てられた識別情報の変調信号を生成し、前記変調信号に対応した光源部の発光状態の変化によって前記識別情報の前記変調信号を送信するステップと、
    受信部が、前記光源部の発光点を含む画像を撮影し、撮影した前記画像から前記発光点の発光状態および前記画像中の前記発光点の位置を検出し、検出した前記発光点の発光状態および前記画像中の前記発光点の位置に基づいて、前記送信部の追尾処理を行うステップと、を備え、
    前記光源部は、前記受信部によって前記発光点を含む前記画像の撮影が可能な範囲内で発光状態が変化し、
    前記受信部は、複数の前記送信部の各航跡に相関があった前記発光点の発光状態を逐次保存し、前記発光点の発光状態の時系列に基づいて複数の前記送信部の各航跡に対応する前記識別情報を復調する
    ことを特徴とする目標追尾方法。
JP2021562312A 2019-12-19 2019-12-19 目標追尾装置および目標追尾方法 Active JP7026868B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2019/049895 WO2021124524A1 (ja) 2019-12-19 2019-12-19 目標追尾装置および目標追尾方法

Publications (2)

Publication Number Publication Date
JPWO2021124524A1 JPWO2021124524A1 (ja) 2021-06-24
JP7026868B2 true JP7026868B2 (ja) 2022-02-28

Family

ID=76477381

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021562312A Active JP7026868B2 (ja) 2019-12-19 2019-12-19 目標追尾装置および目標追尾方法

Country Status (2)

Country Link
JP (1) JP7026868B2 (ja)
WO (1) WO2021124524A1 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003179556A (ja) 2001-09-21 2003-06-27 Casio Comput Co Ltd 情報伝送方式、情報伝送システム、撮像装置、および、情報伝送方法
JP2004101616A (ja) 2002-09-05 2004-04-02 Sony Corp 移動撮影システム、移動撮影方法、移動体、及び信号発生装置
JP2009296037A (ja) 2008-06-02 2009-12-17 Nec Corp 点滅信号検出回路、点滅信号検出方法およびプログラム
JP2016158100A (ja) 2015-02-24 2016-09-01 カシオ計算機株式会社 発光ユニット、受光ユニット、発光制御方法及びプログラム
JP2016178608A5 (ja) 2015-03-23 2018-04-12

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6500535B2 (ja) * 2015-03-23 2019-04-17 カシオ計算機株式会社 画像処理装置、画像処理方法及びプログラム
JP6604509B2 (ja) * 2015-12-17 2019-11-13 カシオ計算機株式会社 撮像装置、被写体追尾方法、及びプログラム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003179556A (ja) 2001-09-21 2003-06-27 Casio Comput Co Ltd 情報伝送方式、情報伝送システム、撮像装置、および、情報伝送方法
JP2004101616A (ja) 2002-09-05 2004-04-02 Sony Corp 移動撮影システム、移動撮影方法、移動体、及び信号発生装置
JP2009296037A (ja) 2008-06-02 2009-12-17 Nec Corp 点滅信号検出回路、点滅信号検出方法およびプログラム
JP2016158100A (ja) 2015-02-24 2016-09-01 カシオ計算機株式会社 発光ユニット、受光ユニット、発光制御方法及びプログラム
JP2016178608A5 (ja) 2015-03-23 2018-04-12
JP2017112504A5 (ja) 2015-12-17 2018-11-29 撮像装置、被写体追尾方法、及びプログラム

Also Published As

Publication number Publication date
JPWO2021124524A1 (ja) 2021-06-24
WO2021124524A1 (ja) 2021-06-24

Similar Documents

Publication Publication Date Title
US11483521B2 (en) Information processing system, information processing method, and program
US10782688B2 (en) Method, control apparatus, and system for tracking and shooting target
US11232583B2 (en) Device for and method of determining a pose of a camera
JP2020107349A (ja) 物体追跡システム、物体追跡方法、プログラム
CN109145678B (zh) 信号灯检测方法及装置和计算机设备及可读存储介质
JP2011055288A (ja) 可視光通信装置及びデータ受信方法
EP2757771A2 (en) Image pickup apparatus, remote control apparatus, and methods of controlling image pickup apparatus and remote control apparatus
KR20150110697A (ko) 타깃 오브젝트를 추적 및 검출하기 위한 시스템들 및 방법들
EP3665510A1 (en) Positioning system, positioning method and storage medium
JP2007060093A (ja) 情報処理装置及び情報処理システム
CN111091739B (zh) 自动驾驶场景的生成方法、装置和存储介质
JP2008236642A (ja) 物体追跡装置
TW201926141A (zh) 影像目標追蹤方法及裝置
EP3761629B1 (en) Information processing device, autonomous mobile body, information processing method, and program
WO2014103673A1 (ja) 情報処理システム、情報処理方法及びプログラム
JP2019100817A (ja) 位置推定装置、位置推定方法及び端末装置
US20180006724A1 (en) Multi-transmitter vlc positioning system for rolling-shutter receivers
CN110914867A (zh) 位姿确定方法、设备、计算机可读存储介质
JP7026868B2 (ja) 目標追尾装置および目標追尾方法
WO2020213099A1 (ja) オブジェクト検出・追跡装置、方法、およびプログラム記録媒体
JP2012054689A (ja) 可視光データ処理装置、可視光通信システム、可視光データ処理方法及びそのプログラム
JP4607836B2 (ja) 画像領域へのメタデータ自動付与装置,メタデータ自動付与方法およびメタデータ自動付与プログラム
CN112514376B (zh) 图像处理装置、图像处理方法、记录介质和成像装置
KR20150137698A (ko) 농장에서의 움직임 개체의 이동 궤적 트래킹 방법 및 장치
CN107292916B (zh) 目标关联方法、存储设备、直录播互动终端

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211020

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211020

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20211020

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220118

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220215

R150 Certificate of patent or registration of utility model

Ref document number: 7026868

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150