JP2018005474A - Mobile entity identification device, mobile entity identification system, mobile entity identification method and program - Google Patents
Mobile entity identification device, mobile entity identification system, mobile entity identification method and program Download PDFInfo
- Publication number
- JP2018005474A JP2018005474A JP2016130184A JP2016130184A JP2018005474A JP 2018005474 A JP2018005474 A JP 2018005474A JP 2016130184 A JP2016130184 A JP 2016130184A JP 2016130184 A JP2016130184 A JP 2016130184A JP 2018005474 A JP2018005474 A JP 2018005474A
- Authority
- JP
- Japan
- Prior art keywords
- moving
- moving body
- time
- moving image
- movement
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Image Processing (AREA)
- Closed-Circuit Television Systems (AREA)
- Image Analysis (AREA)
Abstract
Description
本発明は、移動体識別装置、移動体識別システム、移動体識別方法及びプログラムに関する。 The present invention relates to a mobile object identification device, a mobile object identification system, a mobile object identification method, and a program.
移動している複数の移動体の位置を追跡したり運動を解析したりするために、複数の移動体を撮像し、撮像された動画から複数の移動体を識別する技術が知られている。動画を用いることは、複数の移動体の位置及び周囲の状況を容易に把握できるというメリットがある。その反面、複数の移動体の外観が似ている場合や、移動体同士が重なったり移動体が障害物に隠れたりする場合のように、移動体個々の特定が難しい場合があるというデメリットがある。 In order to track the positions of a plurality of moving bodies and analyze the motion, a technique is known in which a plurality of moving bodies are imaged and the plurality of moving bodies are identified from the captured moving images. The use of a moving image has an advantage that the positions of a plurality of moving bodies and surrounding conditions can be easily grasped. On the other hand, there is a demerit that it is difficult to identify individual moving objects, such as when the appearance of multiple moving objects is similar, or when moving objects overlap each other or the moving objects are hidden by obstacles. .
このようなデメリットを補うために、複数の移動体のそれぞれに測定装置を装着し、測定装置による測定と動画の撮像とを組み合わせて複数の移動体を識別する手法が知られている。装着型の測定装置を用いることで、対応する移動体が特定されており、移動体の定量的な移動情報を取得することができる。 In order to compensate for these disadvantages, a technique is known in which a measuring device is attached to each of a plurality of moving bodies, and the plurality of moving bodies are identified by combining measurement by the measuring device and imaging of a moving image. By using the wearable measurement device, the corresponding moving body is specified, and quantitative movement information of the moving body can be acquired.
例えば特許文献1は、幼稚園又は保育園等において、移動体である幼児の位置を検出するシステムを開示している。特許文献1に開示された位置検出システムは、カメラの撮影によって各幼児の位置を検出し、且つ、各幼児に装着された加速度センサによって各幼児の移動量を検出する。そして、この位置検出システムは、加速度センサによって検出された各幼児の移動量とカメラの撮影によって検出された各幼児の位置とを照合し、各幼児の位置を、各幼児を個々に特定しつつ検出する。
For example,
また、特許文献2は、移動体である幼児の位置を、幼児が誰であるのかを認識しつつ追跡する移動体識別システムを開示している。特許文献2に開示された移動体識別システムは、2台のカメラによって移動体の上下方向の動きと水平方向の動きとを検出し、且つ、移動体に取り付けられたセンサによって移動体の上下方向及び水平方向の加速度を検出する。そして、この移動体識別システムは、上下方向と水平方向とのそれぞれについて、センサにより得られた加速度とカメラにより得られた移動体の動きとを照合して、最も一致度の高い移動体を選別する。
前記のような、動画における複数の移動体と複数の移動体にそれぞれ装着された複数の測定装置とを対応付けることによって複数の移動体を識別する技術において、対応付けを誤ることがある。そのため、対応付けの誤りを減らすことが望まれている。 In the technique for identifying a plurality of moving bodies by associating the plurality of moving bodies in the moving image and the plurality of measuring devices respectively attached to the plurality of moving bodies as described above, the association may be erroneous. Therefore, it is desired to reduce association errors.
本発明は、以上のような課題を解決するためのものであり、動画における少なくとも1つの移動体と少なくとも1つの移動体に装着された少なくとも1つの測定装置とを対応付ける際に、対応付けの誤りを減らすことが可能な移動体識別装置、移動体識別システム、移動体識別方法及びプログラムを提供することを目的とする。 The present invention is to solve the above-described problems, and an error in association occurs when associating at least one moving body in a moving image with at least one measuring device attached to at least one moving body. It is an object of the present invention to provide a moving body identification device, a moving body identification system, a moving body identification method, and a program.
前記目的を達成するため、本発明に係る移動体識別装置の一態様は、
撮像装置によって撮像された動画から得られた、少なくとも1つの移動体の移動に関する第1の時系列的特徴と、前記少なくとも1つの移動体に装着された少なくとも1つの測定装置から得られた、前記少なくとも1つの移動体の移動に関する第2の時系列的特徴と、に基づいて、前記動画における前記少なくとも1つの移動体と前記少なくとも1つの測定装置との対応関係を、前記動画における1つのみの移動体と前記1つのみの移動体に装着された1つのみの測定装置との対応関係を除いて特定する特定手段、
を備え、
前記特定手段は、前記少なくとも1つの測定装置のうちのいずれかの測定装置によって測定された移動情報が予め定められた条件を満たした時間区間においては、前記いずれかの測定装置によって測定された前記移動情報を対応関係を特定するために用いない、
ことを特徴とする。
In order to achieve the above object, one aspect of the mobile object identification device according to the present invention is:
Obtained from a moving image captured by the imaging device, the first time-series feature relating to the movement of at least one moving body, and the at least one measuring device mounted on the at least one moving body, Based on the second time-series characteristic relating to the movement of at least one moving object, the correspondence relationship between the at least one moving object and the at least one measuring device in the moving image is changed to only one in the moving image. A specifying means for specifying a moving body and a correspondence relationship between only one measuring apparatus mounted on the one moving body;
With
In the time interval in which the movement information measured by any one of the at least one measuring devices satisfies a predetermined condition, the specifying unit is measured by any one of the measuring devices. Do not use movement information to identify correspondences,
It is characterized by that.
また、前記目的を達成するため、本発明に係る移動体識別システムの一態様は、
前記に記載の移動体識別装置と、前記撮像装置と、前記少なくとも1つの測定装置と、を備える、
ことを特徴とする。
In order to achieve the above object, one aspect of the mobile object identification system according to the present invention is:
The mobile object identification device described above, the imaging device, and the at least one measurement device,
It is characterized by that.
また、前記目的を達成するため、本発明に係る移動体識別方法の一態様は、
撮像装置によって撮像された動画から得られた、少なくとも1つの移動体の移動に関する第1の時系列的特徴と、前記少なくとも1つの移動体に装着された少なくとも1つの測定装置から得られた、前記少なくとも1つの移動体の移動に関する第2の時系列的特徴と、に基づいて、前記動画における前記少なくとも1つの移動体と前記少なくとも1つの測定装置との対応関係を、前記動画における1つのみの移動体と前記1つのみの移動体に装着された1つのみの測定装置との対応関係を除いて特定する特定ステップと、
を含み、
前記特定ステップでは、前記少なくとも1つの測定装置のうちのいずれかの測定装置によって測定された移動情報が予め定められた条件を満たした時間区間においては、前記いずれかの測定装置によって測定された前記移動情報を対応関係を特定するために用いない、
ことを特徴とする。
In order to achieve the above object, one aspect of the mobile object identification method according to the present invention includes:
Obtained from a moving image captured by the imaging device, the first time-series feature relating to the movement of at least one moving body, and the at least one measuring device mounted on the at least one moving body, Based on the second time-series characteristic relating to the movement of at least one moving object, the correspondence relationship between the at least one moving object and the at least one measuring device in the moving image is changed to only one in the moving image. A specific step of specifying a moving body and a single measuring device attached to only one moving body, excluding a correspondence relationship;
Including
In the specifying step, in the time interval in which the movement information measured by any one of the at least one measuring devices satisfies a predetermined condition, the measuring information measured by any one of the measuring devices is used. Do not use movement information to identify correspondences,
It is characterized by that.
また、前記目的を達成するため、本発明に係るプログラムの一態様は、
移動体識別装置のコンピュータを、
撮像装置によって撮像された動画から得られた、少なくとも1つの移動体の移動に関する第1の時系列的特徴と、前記少なくとも1つの移動体に装着された少なくとも1つの測定装置から得られた、前記少なくとも1つの移動体の移動に関する第2の時系列的特徴と、に基づいて、前記動画における前記少なくとも1つの移動体と前記少なくとも1つの測定装置との対応関係を、前記動画における1つのみの移動体と前記1つのみの移動体に装着された1つのみの測定装置との対応関係を除いて特定する特定手段、
として機能させ、
前記特定手段は、前記少なくとも1つの測定装置のうちのいずれかの測定装置によって測定された移動情報が予め定められた条件を満たした時間区間においては、前記いずれかの測定装置によって測定された前記移動情報を対応関係を特定するために用いない、
ことを特徴とする。
In order to achieve the above object, one aspect of the program according to the present invention is as follows:
The computer of the mobile object identification device
Obtained from a moving image captured by the imaging device, the first time-series feature relating to the movement of at least one moving body, and the at least one measuring device mounted on the at least one moving body, Based on the second time-series characteristic relating to the movement of at least one moving object, the correspondence relationship between the at least one moving object and the at least one measuring device in the moving image is changed to only one in the moving image. A specifying means for specifying a moving body and a correspondence relationship between only one measuring apparatus mounted on the one moving body;
Function as
In the time interval in which the movement information measured by any one of the at least one measuring devices satisfies a predetermined condition, the specifying unit is measured by any one of the measuring devices. Do not use movement information to identify correspondences,
It is characterized by that.
本発明によれば、動画における少なくとも1つの移動体と少なくとも1つの移動体に装着された少なくとも1つの測定装置とを対応付ける際に、対応付けの誤りを減らすことが可能な移動体識別装置、移動体識別システム、移動体識別方法及びプログラムを提供することができる。 ADVANTAGE OF THE INVENTION According to this invention, when associating at least 1 moving body and at least 1 measuring device with which at least 1 moving body in a moving image was matched, the moving body identification device and movement which can reduce a matching error A body identification system, a moving body identification method, and a program can be provided.
以下、本発明の実施形態について、図面を参照して説明する。なお、図中同一又は相当する部分には同一符号を付す。 Hereinafter, embodiments of the present invention will be described with reference to the drawings. In the drawings, the same or corresponding parts are denoted by the same reference numerals.
(実施形態1)
図1に、実施形態1に係る移動体識別システム1の概要を示す。移動体識別システム1は、撮像装置200によって撮像された複数の移動体10a,10b,10c…の動画において、複数の移動体10a,10b,10c…を識別するシステムである。複数の移動体10a,10b,10c…のそれぞれは、現実世界の空間内において移動可能な物体であって、図1の例では人間である。
(Embodiment 1)
In FIG. 1, the outline | summary of the mobile
図1に示すように、移動体識別システム1は、複数の測定装置100a,100b,100c…と、撮像装置200と、移動体識別装置300と、を備える。複数の測定装置100a,100b,100c…は、それぞれ複数の移動体10a,10b,10c…に装着されるウェアラブル型の測定装置であって、複数の移動体10a,10b,10c…の移動及び運動を測定するモーションセンサを備える。
As shown in FIG. 1, the moving
なお、以下では、複数の移動体10a,10b,10c…のそれぞれを区別せずに称する場合には、移動体10と総称し、複数の測定装置100a,100b,100c…のそれぞれを区別せずに称する場合には、測定装置100と総称する。
In the following, when each of the plurality of moving
図2に、移動体識別システム1が適用される場面の例を示す。図2の例では、それぞれ移動体10a〜10fである6人の選手が、コート内において運動競技をしている。運動競技は、例えば、バスケットボール、ハンドボール、バレーボール又はフットサル等、屋内でプレイされるスポーツである。これら6人の選手(移動体10a〜10f)には、それぞれ測定装置100a〜100fが1台ずつ装着されている。測定装置100a〜100fのそれぞれは、測定装置100が装着された選手(移動体10)の競技中における動きを測定する。測定装置100a〜100fのそれぞれは、選手の移動及び運動を的確に測定できるように、各選手(各移動体10a〜10f)の体幹に取り付けられる。
In FIG. 2, the example of the scene where the mobile
撮像装置200は、移動している複数の移動体10a〜10fを撮像して、複数の移動体10a〜10fの動画を生成する。撮像装置200は、例えばビデオカメラ、又はスマートフォン等の携帯端末に内蔵されたカメラ等である。撮像装置200によって生成される動画は、フレーム単位で撮像された複数の画像を含んでいる。撮像装置200は、複数の移動体10a〜10fの全部が視野に入るように、複数の移動体10a〜10fに対して斜め上方の位置(図2の例では観客席)に設置される。撮像装置200は、斜め上方から俯瞰して撮像することによって、複数の移動体10a〜10fの水平方向における動きと鉛直方向における動きとのどちらも捉えることができる。
The
なお、図2に示すように、複数の移動体10a〜10fが移動する空間において、xy平面が水平面に相当し、且つ、z方向が鉛直方向に相当するように、世界座標系が設定されている。
As shown in FIG. 2, in the space where the plurality of moving
次に、図3を参照して、移動体識別システム1の構成について説明する。複数の測定装置100のそれぞれは、制御部101と、記憶部102と、測定部103と、通信部104と、を備える。
Next, the configuration of the moving
制御部101は、CPU(Central Processing Unit)を備え、様々な処理や演算を実行する中央演算処理部である。制御部101は、命令やデータを転送するための伝送経路であるシステムバスを介して測定装置100の各部と接続され、測定装置100全体を制御する。
The
記憶部102は、制御部101のワークメモリとして機能するRAM(Random Access Memory)、及び、ROM(Read Only Memory)又はフラッシュメモリ等のような不揮発性メモリを備える。記憶部102は、制御部101が各種処理を行うために使用する各種プログラム及びデータを記憶する。また、記憶部102は、制御部101が各種処理を行うことにより生成又は取得する各種データを記憶する。
The
測定部103は、測定対象である、測定装置100が装着された移動体10の移動情報を測定する。ここで、移動情報とは、移動体10の移動に関する情報であって、移動体10の速度、加速度又は角速度等の情報である。具体的に説明すると、測定部103は、加速度センサ(慣性センサ)を備え、測定装置100に付与された加速度を検出することによって、移動体10の動き及び振動を測定する。また、加速度センサは、重力を検出してその向き(鉛直下向き)を特定することによって、測定装置100の傾きを測定する。測定部103は、方角を検出する地磁気センサと、測定装置100の回転(角速度)を検出する角速度センサ(ジャイロセンサ)と、更に備える。
The
通信部104は、制御部101の制御のもと、移動体識別装置300と有線又は無線で通信するためインタフェースを備える。通信部104は、例えばWi−Fi(Wireless Fidelity)等の無線LAN(Local Area Network)、Bluetooth(登録商標)、又はUSB(Universal Serial Bus)等を介して、移動体識別装置300と通信する。具体的に説明すると、通信部104は、測定部103が測定して得られた、測定装置100が装着された移動体10の移動情報を、移動体識別装置300に送信する。
The
次に、撮像装置200の構成の説明に移る。図3に示すように、撮像装置200は、制御部201と、記憶部202と、撮像部203と、画像処理部204と、通信部205と、を備える。
Next, a description of the configuration of the
制御部201は、CPUを備え、様々な処理や演算を実行する中央演算処理部である。制御部201は、命令やデータを転送するための伝送経路であるシステムバスを介して撮像装置200の各部と接続され、撮像装置200全体を制御する。
The
記憶部202は、制御部201のワークメモリとして機能するRAM、及び、ROM又はフラッシュメモリ等のような不揮発性メモリを備える。記憶部202は、制御部201が各種処理を行うために使用する各種プログラム及びデータを記憶する。また、記憶部202は、制御部201が各種処理を行うことにより生成又は取得する各種データを記憶する。
The
撮像部203は、撮像によって静止画及び動画を取得する機能を備える。撮像部203は、被写体(オブジェクト)から射出された光束を集光するレンズ、及び、レンズによる集光位置に配置され、光電変換によって被写体の光学像を電気信号として取得する撮像素子(イメージセンサ)等を備える。撮像素子は、例えばCCD(Charge Coupled Device)又はCMOS(Complementary Metal Oxide Semiconductor)等である。
The
画像処理部204は、撮像素子から電気信号として送られた被写体の撮像画像を示すデータをデジタルデータに変換するA/D(Analog/Digital)変換器を備える。画像処理部204は、制御部201の制御のもと、撮像部203によって撮像された動画のデジタルデータを生成する。また、画像処理部204は、VRAM(Video RAM)等のフレームメモリ、及び、GPU(Graphics Processing Unit)等の画像処理用のプロセッサ(画像処理エンジン)等を備える。画像処理部204は、制御部201の制御のもと、撮像部203によって撮像された動画に対して加工処理を実行する機能、及び、動画に対してオブジェクト認識処理及び顔認識処理等の画像認識処理を実行する機能を備える。
The
通信部205は、制御部201の制御のもと、移動体識別装置300と有線又は無線で通信するためインタフェースを備える。通信部205は、例えばWi−Fi等の無線LAN、Bluetooth(登録商標)、又はUSB等を介して、移動体識別装置300と通信する。具体的に説明すると、通信部205は、撮像部203が複数の移動体(選手)10を撮像して得られた動画データを、移動体識別装置300に送信する。
The
図4に、撮像装置200によって撮像された動画5の例を示す。具体的には図4は、撮像装置200によって撮像された動画5に含まれる1つのフレームの画像を示している。撮像装置200は、コート内で運動競技をプレイしている複数の移動体10a〜10fを斜め上方から撮像することによって、図4に示すような、複数の移動体10a〜10fの全体の動きを捉えた動画5を生成する。
FIG. 4 shows an example of the moving
次に、移動体識別装置300の構成の説明に移る。図3に示すように、移動体識別装置300は、制御部301と、記憶部302と、画像処理部303と、操作部304と、表示部305と、通信部306と、を備える。
Next, the description of the configuration of the mobile
制御部301は、CPUを備え、様々な処理や演算を実行する中央演算処理部である。制御部301は、命令やデータを転送するための伝送経路であるシステムバスを介して移動体識別装置300の各部と接続され、移動体識別装置300全体を制御する。
The
記憶部302は、制御部301のワークメモリとして機能するRAM、及び、ROM又はフラッシュメモリ等のような不揮発性メモリを備える。記憶部302は、制御部301が各種処理を行うために使用する各種プログラム及びデータを記憶する。また、記憶部302は、制御部301が各種処理を行うことにより生成又は取得する各種データを記憶する。
The
画像処理部303は、VRAM等のフレームメモリ、及び、GPU等の画像処理用のプロセッサ(画像処理エンジン)等を備える。画像処理部303は、制御部301の制御のもと、撮像装置200によって撮像された動画5に対して、背景差分法又は特徴点追跡等の画像処理を実行する。
The
操作部304は、例えば入力キー、ボタン、スイッチ、タッチパッド、又は、タッチパネル等のような入力デバイスを備える。操作部304は、ユーザから入力された各種の操作指示を受け付け、受け付けた操作指示を制御部301に送信する。
The
表示部305は、例えば液晶ディスプレイ又は有機EL(Electro Luminescence)ディスプレイ等のような表示デバイスを備える。表示部305は、例えば撮像装置200から受信した動画データ等、各種の情報を制御部301から取得して、取得した情報を示す画像を表示する。なお、表示部305は、操作部304と互いに重畳して配置され、表示部305と操作部304とでいわゆるタッチパネル(タッチスクリーン)を構成してもよい。表示部305は、撮像装置200によって撮像された動画5を表示する表示手段として機能する。
The
通信部306は、制御部301の制御のもと、複数の測定装置100のそれぞれ及び撮像装置200と有線又は無線で通信するためインタフェースを備える。通信部306は、例えばWi−Fi等の無線LAN又はBluetooth(登録商標)等を介して、複数の測定装置100のそれぞれ及び撮像装置200と通信する。具体的に説明すると、通信部306は、複数の測定装置100から複数の移動体(選手)10の移動情報を受信し、撮像装置200から複数の移動体(選手)10の動画データを受信する。
The
次に、図5を参照して、移動体識別装置300の機能的な構成について説明する。図5に示すように、移動体識別装置300は、機能的に、受信部311と、第1の特徴取得部312と、第2の特徴取得部313と、算出部314と、位置推定部315と、特定部316と、表示制御部317と、を備える。制御部301は、ROMに記憶されたプログラムをRAMに読み出して、そのプログラムを実行して制御することにより、これら各部として機能する。
Next, a functional configuration of the mobile
受信部311は、複数の測定装置100のそれぞれから移動情報を受信するとともに、撮像装置200から動画5を受信する。受信部311が受信する移動情報は、複数の移動体10a〜10fにそれぞれ装着された複数の測定装置100a〜100fによって測定された、複数の移動体10a〜10fの移動情報である。受信部311が受信する動画5は、移動している複数の移動体10a〜10fを撮像装置200が撮像することによって得られた動画5である。
The receiving
複数の測定装置100のそれぞれは、ユーザから受け付けられた指示に従って、或いは移動体識別装置300からの要求に応じて、測定装置100において測定された移動情報を移動体識別装置300に送信する。受信部311は、このようにして複数の測定装置100のそれぞれから送信された移動情報を、通信部306を介して受信する。また、撮像装置200は、ユーザから受け付けられた指示に従って、或いは移動体識別装置300からの要求に応じて、撮像装置200が撮像した動画5を移動体識別装置300に送信する。受信部311は、このようにして撮像装置200から送信された動画5を示す動画データを、通信部306を介して受信する。受信部311は、制御部301が通信部306と協働することによって実現される。受信部311は、受信手段として機能する。
Each of the plurality of
第1の特徴取得部312は、受信部311によって受信された、複数の移動体10a〜10fが撮像された動画5から、複数の移動体10a〜10fの移動に関する第1の時系列的特徴を取得する。第1の時系列的特徴とは、動画5における複数の移動体10a〜10fの位置、速度、加速度及びそれらの向き等が時間と共にどのように変化するかを示す指標である。第1の特徴取得部312は、制御部301が画像処理部303と協働することによって実現される。第1の特徴取得部312は、第1の特徴取得手段として機能する。
The first
第1の時系列的特徴を取得するために、第1の特徴取得部312は、背景差分法を用いて、動画5における複数の移動体10a〜10fの位置を検出する。具体的に説明すると、第1の特徴取得部312は、動画5に含まれる複数の画像のそれぞれについて、予め用意された背景画像との差分をとることで、各画像における複数の移動体10a〜10fの領域の候補となる前景物体領域を抽出する。背景画像は、複数の移動体10a〜10fがいずれも視野に入らない状態において、撮像装置200によって撮像された画像である。
In order to acquire the first time-series feature, the first
第1の特徴取得部312は、抽出した前景物体領域に対して膨張収縮処理及びラベリング処理を実行することで、前景物体領域をいくつかの領域にまとめる。第1の特徴取得部312は、このようにしてまとめられた複数の領域を、移動体領域として検出する。移動体領域は、各画像において移動体10が位置していることが推定される領域である。第1の特徴取得部312は、このような移動体領域を検出する処理を、動画5に含まれる各フレームの画像について実行する。
The first
移動体領域を検出することにより、各フレームにおける複数の移動体10a〜10fの位置を検出すると、第1の特徴取得部312は、連続するフレーム間で移動体10を対応付ける。具体的に説明すると、第1の特徴取得部312は、第(n−1)フレームの画像(nは2以上の自然数)において検出された複数の移動体領域のうちの、第nフレームの画像において検出された移動体領域の位置から最も近くに位置する移動体領域を特定する。そして、第1の特徴取得部312は、特定した第(n−1)フレームの画像における移動体領域を、第nフレームの画像におけるこの移動体領域に対応する移動体領域として、これら2つの移動体領域を連結する。
When the positions of the plurality of moving
第1の特徴取得部312は、このような連結処理を、第nフレームの画像において検出された複数の移動体領域のそれぞれについて、及び、動画5に含まれる先頭のフレームから末尾のフレームまでの各画像について、実行する。これにより、第1の特徴取得部312は、複数の移動体10a〜10fのそれぞれについて、動画5中の位置の変化を示す軌跡を取得する。
The first
なお、撮像装置200は複数の移動体10a〜10fを斜め上方から撮像しているため、動画5内の座標系は、世界座標系に対して傾いている。そのため、第1の特徴取得部312は、取得した軌跡の動画5内における位置情報を、予め用意された撮像装置200のキャリブレーション情報により、水平面(図2におけるxy平面)に投影する。このキャリブレーション情報は、撮像装置200が設置された位置と視線方向によって定められる、動画5内の座標系を世界座標系に変換するための情報である。
In addition, since the
このように動画5中の移動体領域の軌跡を取得すると、第1の特徴取得部312は、第1の時系列的特徴として、以下の(1)から(3)の特徴を取得する。
(1)動画5における複数の移動体10a〜10fの速度。
(2)動画5における複数の移動体10a〜10fの鉛直方向以外の方向における加速度。
(3)動画5における複数の移動体10a〜10fの移動の向き。
When the trajectory of the moving object region in the moving
(1) The speed of the plurality of moving
(2) Acceleration in a direction other than the vertical direction of the moving
(3) Direction of movement of the plurality of moving
第1に、第1の特徴取得部312は、動画5から検出された複数の移動体領域の位置を微分することによって、動画5における複数の移動体10a〜10fの速度を取得する。具体的に説明すると、第1の特徴取得部312は、第nフレームの画像における移動体領域の位置と、第(n−1)フレームの画像における対応する移動体領域の位置と、の差(距離)を算出し、算出した差を1フレーム分の時間で除算する。これにより、第1の特徴取得部312は、第nフレームの画像における移動体領域の速度を取得する。第1の特徴取得部312は、このような処理を、第nフレームの画像において検出された複数の移動体領域のそれぞれについて、及び、動画5に含まれる先頭のフレームから末尾のフレームまでの各画像について、実行する。これにより、第1の特徴取得部312は、複数の移動体10a〜10fのそれぞれについて、動画5中の速度の大きさを取得する。
First, the first
第2に、第1の特徴取得部312は、動画5から検出された複数の移動体領域の位置を2回微分することによって、動画5における複数の移動体10a〜10fの加速度を取得する。そのために、第1の特徴取得部312は、前記のようにして取得した複数の移動体領域の速度を更に微分する。具体的に説明すると、第1の特徴取得部312は、第nフレームの画像における移動体領域の速度と、第(n−1)フレームの画像における対応する移動体領域の速度と、の差(速度差)を1フレーム分の時間で除算する。これにより、第1の特徴取得部312は、第nフレームの画像における移動体領域の加速度を取得する。第1の特徴取得部312は、このような処理を、第nフレームの画像において検出された複数の移動体領域のそれぞれについて、及び、動画5に含まれる先頭のフレームから末尾のフレームまでの各画像について、実行する。これにより、第1の特徴取得部312は、複数の移動体10a〜10fのそれぞれについて、動画5中の加速度の大きさを取得する。
Secondly, the first
なお、撮像装置200は、水平方向(真横)からではなく、複数の移動体10a〜10fを斜め上方から撮像している。そのため、前記のようにして動画5から取られた複数の移動体10a〜10fの加速度は、鉛直方向における加速度ではなく、鉛直方向以外の方向(具体的には鉛直方向と水平方向との間の斜めの方向)における加速度である。
Note that the
第3に、第1の特徴取得部312は、動画5から検出された複数の移動体領域の速度の向きを取得することによって、動画5における複数の移動体10a〜10fの移動の向きを取得する。具体的に説明すると、第1の特徴取得部312は、第(n−1)フレームの画像における移動体領域の位置から第nフレームの画像における対応する移動体領域の位置への向きを算出する。これにより、第1の特徴取得部312は、第nフレームの画像における移動体領域の移動の向きを取得する。第1の特徴取得部312は、このような処理を、第nフレームの画像において検出された複数の移動体領域のそれぞれについて、及び、動画5に含まれる先頭のフレームから末尾のフレームまでの各画像について、実行する。これにより、第1の特徴取得部312は、複数の移動体10a〜10fのそれぞれについて、動画5中の移動の向きを取得する。
Third, the first
図6(a)、図7(a)及び図8(a)に、複数の移動体10a〜10fのうちの1つである選手Aの、動画5から得られた速度、加速度及び移動の向きの時間変化を示す。図6(a)からは、選手Aが走っている時間区間では、選手Aが歩いている時間区間に比べて速度が増大することが見て取れる。また、図7(a)からは、選手Aが走っている時間区間では加速度が大きく変化することが見て取れ、図8(a)からは、選手Aが様々に向きを変えていることが見て取れる。
6 (a), 7 (a), and 8 (a), the speed, acceleration, and direction of movement of the player A, one of the moving
なお、図6(a)及び図8(a)に示すように、時間区間によっては、動画5から移動体10の軌跡の取得に失敗することがある。これは、複数の選手が動画5内で重なったり、又は選手が障害物に隠れたりすること等によって、動画5内における移動体10の位置を推定できない時間区間があることが原因である。また、このように移動体10の軌跡が断片化されると、フレーム間での移動体10の対応付けを誤ることがある。例えば、2人の選手が重なった後で離れた場合、この2人の選手が入れ替わったのか入れ替わっていないのかを正しく判別できない場合等である。
In addition, as shown to Fig.6 (a) and FIG.8 (a), acquisition of the locus | trajectory of the moving body 10 from the moving
図5に戻って、第2の特徴取得部313は、受信部311によって受信された、複数の測定装置100a〜100fによって測定された複数の移動体10a〜10fの移動情報から、複数の移動体10a〜10fの移動に関する第2の時系列的特徴を取得する。第2の時系列的特徴とは、移動情報から得られた複数の移動体10a〜10fの位置、速度、加速度及びそれらの向き等が時間と共にどのように変化するかを示す指標である。第2の特徴取得部313は、制御部301が画像処理部303と協働することによって実現される。第2の特徴取得部313は、第2の特徴取得手段として機能する。
Returning to FIG. 5, the second
第2の特徴取得部313は、第2の時系列的特徴を取得する前に、複数の測定装置100a〜100fのそれぞれから受信された移動情報を、世界座標系における移動情報に変換する。具体的に説明すると、第2の特徴取得部313は、加速度センサによって検出された重力の方向から、鉛直方向(図2におけるz方向)を判別する。また、第2の特徴取得部313は、地磁気センサによって検出された方角から、水平面(図2におけるxy平面)におけるx方向及びy方向を判別する。第2の特徴取得部313は、このような重力及び地磁気の情報によって世界座標系を判別する。そして、第2の特徴取得部313は、様々に向きを変えて移動する複数の移動体10a〜10fのそれぞれの速度又は加速度の向きを、世界座標系における向きにキャリブレーションする。
The second
第2の特徴取得部313は、受信部311によって受信された移動情報から、加速度センサによって測定された複数の移動体10a〜10fのそれぞれの加速度を取得する。そして、第2の特徴取得部313は、第2の時系列的特徴として、以下の(1)から(3)の特徴を取得する。
(1)移動情報における複数の移動体10a〜10fの加速度の分散。
(2)移動情報における複数の移動体10a〜10fの鉛直方向における加速度。
(3)移動情報における複数の移動体10a〜10fの移動の向き。
The second
(1) Dispersion of accelerations of a plurality of moving
(2) The acceleration in the vertical direction of the plurality of moving
(3) Direction of movement of the plurality of moving
第1に、第2の特徴取得部313は、撮像装置200が動画5を撮像している最中の複数の時点における加速度の分散を、複数の移動体10a〜10fのそれぞれについて算出する。加速度の分散とは、加速度の大きさが時間と共にどれだけばらついているかを示す指標である。第2の特徴取得部313は、加速度の分散を、例えば複数の時点のそれぞれを中心に幅1秒の時間区間において算出する。加速度の分散を算出する複数の時点は、例えば、第1の特徴取得部312が動画5から速度を取得するタイミングと同じに設定される。
First, the second
第2に、第2の特徴取得部313は、撮像装置200が動画5を撮像している最中の複数の時点における鉛直方向の加速度を、複数の移動体10a〜10fのそれぞれについて算出する。具体的に説明すると、第2の特徴取得部313は、移動情報に含まれる加速度情報のうちから、加速度の大きさの鉛直方向における成分を抽出する。鉛直方向は、加速度センサによって重力を検出することで判別することができる。加速度の分散を算出する複数の時点は、例えば、第1の特徴取得部312が動画5から加速度を取得するタイミングと同じに設定される。
Second, the second
第3に、第2の特徴取得部313は、複数の移動体10a〜10fのそれぞれについて、撮像装置200が動画5を撮像している最中の複数の時点における加速度を積分することで、複数の時点における速度を算出する。そして、第2の特徴取得部313は、複数の移動体10a〜10fのそれぞれの移動の向きとして、複数の時点における速度の向きを取得する。加速度の分散を算出する複数の時点は、例えば、第1の特徴取得部312が動画5から移動の向きを取得するタイミングと同じに設定される。
Third, the second
図6(b)、図7(b)及び図8(b)に、複数の移動体10a〜10fのうちの1つである選手Aの、測定装置100から得られた加速度の分散、鉛直方向の加速度及び移動の向きの時間変化を示す。また、図6(c)、図7(c)及び図8(c)に、複数の移動体10a〜10fのうちの1つである選手Bの、測定装置100から得られた加速度の分散、鉛直方向の加速度及び移動の向きの時間変化を示す。これらの図に示すように、測定装置100の測定から取得される第2の時系列的特徴は、動画5から取得される第1の時系列的特徴のように、断片化することはない。また、測定装置100は移動体10に装着されているため、複数の測定装置100a〜100fのそれぞれが複数の移動体10a〜10fのうちのどの移動情報を測定しているかを正確に特定することができる。
FIG. 6B, FIG. 7B, and FIG. 8B show the dispersion of acceleration obtained from the measuring
図5に戻って、算出部314は、第1の特徴取得部312によって取得された第1の時系列的特徴と、第2の特徴取得部313によって取得された第2の時系列的特徴と、の相関を示す指標を算出する。算出部314は、制御部301によって実現される。算出部314は、算出手段として機能する。
Returning to FIG. 5, the calculation unit 314 includes the first time-series feature acquired by the first
具体的に説明すると、算出部314は、以下のような3つの相関値を算出する。
(1)動画5における移動体10の速度と、測定装置100によって測定された加速度の分散と、の相関を示す第1の相関値。
(2)動画5における移動体10の鉛直方向以外の方向における加速度と、測定装置100によって測定された鉛直方向における加速度と、の相関を示す第2の相関値。
(3)動画5における移動体10の移動の向きと、測定装置100によって測定された移動の向きと、の相関を示す第3の相関値。
Specifically, the calculation unit 314 calculates the following three correlation values.
(1) A first correlation value indicating a correlation between the speed of the moving object 10 in the moving
(2) A second correlation value indicating a correlation between acceleration in a direction other than the vertical direction of the moving body 10 in the moving
(3) A third correlation value indicating a correlation between the moving direction of the moving body 10 in the moving
第1に、算出部314は、動画5における移動体10の速度と、測定装置100によって測定された加速度の分散と、の相関を示す第1の相関値(相関係数)を算出する。加速度の分散が大きい場合には移動速度が大きくなり、加速度の分散が小さい場合には移動速度が小さくなる、という傾向がある。第1の相関値は、このような傾向を反映した指標である。
First, the calculation unit 314 calculates a first correlation value (correlation coefficient) indicating a correlation between the speed of the moving body 10 in the moving
具体的には図6(d)に示すように、動画5から得られた選手Aの速度と選手Aの測定装置100から得られた加速度の分散との相関値は、相対的に大きな値になる。これに対して、動画5から得られた選手Aの速度と選手Bの測定装置100から得られた加速度の分散との相関値は、0に近い値になる。第1の相関値は、例えば単独の選手のみが走っている場合のように、複数の移動体10a〜10fの中で単独の移動体10のみが移動している場合に有効な指標である。
Specifically, as shown in FIG. 6D, the correlation value between the velocity of the player A obtained from the moving
第2に、算出部314は、動画5における移動体10の鉛直方向以外の方向における加速度と、測定装置100によって測定された鉛直方向における加速度と、の相関を示す第2の相関値(相関係数)を算出する。移動体10が歩行又は走行する場合、上下運動を伴うことが多い。そのため、移動体10の鉛直方向における加速度は、移動体10の鉛直方向以外の方向(例えば水平方向、又は水平方向と鉛直方向との間の斜め方向)における加速度と相関を持つ傾向がある。第2の相関値は、このような傾向を反映した指標である。
Second, the calculation unit 314 has a second correlation value (correlation) indicating a correlation between acceleration in a direction other than the vertical direction of the moving body 10 in the moving
具体的には図7(d)に示すように、動画5から得られた選手Aの加速度と選手Aの測定装置100から得られた鉛直方向における加速度との相関値は、相対的に大きな値になる。これに対して、動画5から得られた選手Aの加速度と選手Bの測定装置100から得られた鉛直方向における加速度との相関値は、0に近い値になる。第2の相関値は、例えば選手が走行している場合のように、移動している移動体10の速度リズムが顕著である場合に有効な指標である。
Specifically, as shown in FIG. 7D, the correlation value between the acceleration of the player A obtained from the moving
第3に、算出部314は、動画5における移動体10の移動の向きと、測定装置100によって測定された移動の向きと、の相関を示す第3の相関値を算出する。具体的に説明すると、算出部314は、第3の相関値として、動画5における移動体10の移動の向きと、測定装置100によって測定された移動の向きと、の差(具体的には角度の差)を時間的に平均した値を算出する。
Third, the calculation unit 314 calculates a third correlation value indicating a correlation between the moving direction of the moving body 10 in the moving
具体的には図8(d)に示すように、動画5から得られた選手Aの移動の向きと選手Aの測定装置100から得られた移動の向きとの差の平均値は、相対的に小さな値になる。これに対して、動画5から得られた選手Aの移動の向きと選手Bの測定装置100から得られた移動の向きとの差の平均値は、相対的に大きな値になる。第3の相関値は、異なる向きに複数の選手が走り出している場合のように、複数の移動体10が異なる向きに移動している場合に有効な指標である。
Specifically, as shown in FIG. 8D, the average value of the difference between the moving direction of the player A obtained from the moving
算出部314は、このように算出された第1の相関値と第2の相関値と第3の相関値とに基づいて、第1の時系列的特徴と第2の時系列的特徴との相関を示す指標を算出する。具体的に説明すると、算出部314は、このような指標として、第1の相関値と第2の相関値と第3の相関値との重み付き和を算出する。3つの相関値の重みは、自由に定めることができる。例えば、3つの相関値の重みは、一定値であっても良いし、状況に応じて変化する値であっても良い。このようにして算出された指標は、最終的な指標として特定部316での特定処理に用いられる。 The calculation unit 314 calculates the first time-series feature and the second time-series feature based on the first correlation value, the second correlation value, and the third correlation value calculated in this way. An index indicating correlation is calculated. Specifically, the calculation unit 314 calculates a weighted sum of the first correlation value, the second correlation value, and the third correlation value as such an index. The weights of the three correlation values can be freely determined. For example, the weights of the three correlation values may be constant values or values that change according to the situation. The index calculated in this way is used for the specifying process in the specifying unit 316 as a final index.
位置推定部315は、複数の移動体10a〜10fのそれぞれの鉛直方向における位置を推定する。具体的に説明すると、位置推定部315は、複数の測定装置100a〜100fのそれぞれから受信した移動情報に基づいて、撮像装置200が動画5を撮像している最中の複数の時点における鉛直方向の加速度を、複数の移動体10a〜10fのそれぞれについて算出する。そして、位置推定部315は、算出した鉛直方向における加速度を二重積分することにより、得られた値を、複数の移動体10a〜10fのそれぞれの、複数の時点における鉛直方向の位置と推定する。位置推定部315は、制御部301によって実現される。位置推定部315は、位置推定手段として機能する。
The
移動体10の鉛直方向における位置は、この移動体10がジャンプしたり屈んだりすることによって変化する。具体的に図9に、移動体10がジャンプした場合における鉛直方向の加速度の時間変化を示す。図9に示すように、移動体10が走っている場合には、この移動体10に装着された測定装置100によって測定された加速度は一定の周期で増減を繰り返す。これに対して、移動体10がジャンプをした場合には、比較的長い時間をかけて加速度が増えるため、移動体10の位置は鉛直上向きに増える。移動体10の鉛直方向における位置は、変化する範囲が限られていること、及び、長時間の平均値は移動体10が基本的な姿勢をとっている場合の値に安定するため、比較的精度良く推定することができる。
The position of the moving body 10 in the vertical direction changes when the moving body 10 jumps or bends. Specifically, FIG. 9 shows a temporal change in acceleration in the vertical direction when the moving body 10 jumps. As shown in FIG. 9, when the moving body 10 is running, the acceleration measured by the measuring
算出部314は、複数の測定装置100a〜100fのうちのいずれかの測定装置100によって測定された移動情報が予め定められた条件を満たした時間区間においては、この移動情報からは前記の指標を算出せず、移動情報が予め定められた条件を満たしていない時間区間において、この移動情報から前記の指標を算出する。予め定められた条件が満たされる場合とは、本来は対応するはずの測定装置100と移動体10との間で相関が悪くなって、測定装置100と移動体10との対応付けを誤る確率が高いことが想定される場合である。そのため、算出部314は、このような対応付けを誤り易い時間区間を、前述した3つの相関値、及びそれらから定められる最終的な指標を算出する時間区間から除外する。
The calculation unit 314 calculates the index from the movement information in a time section in which the movement information measured by any one of the plurality of
具体的に説明すると、予め定められた条件は、移動体10の鉛直方向における位置と、移動体10の鉛直方向における平均位置と、の差の絶対値が許容値を超えた場合に、満たされる。移動体10の鉛直方向における位置とその平均位置との差の絶対値が許容値を超えた場合とは、例えば選手がジャンプしたり屈んだりすることによって、移動体10の鉛直方向における位置が大きく変化した場合である。このように移動体10の鉛直方向における位置が変化すると、移動体10を斜め上方から撮像した動画5からは、移動体10が水平方向における奥側又は手前側に移動したのか、又は鉛直方向に移動したのか、を判別することができない。そのため、第1の時系列的特徴と第2の時系列的特徴との対応付けを誤る確率が高くなる。
More specifically, the predetermined condition is satisfied when the absolute value of the difference between the position of the moving body 10 in the vertical direction and the average position of the moving body 10 in the vertical direction exceeds an allowable value. . The case where the absolute value of the difference between the position of the moving body 10 in the vertical direction and the average position thereof exceeds the allowable value means that the position of the moving body 10 in the vertical direction is increased by, for example, a player jumping or bending. This is the case. When the position of the moving body 10 in the vertical direction changes in this way, from the moving
このような問題を回避するため、位置推定部315は、複数の移動体10a〜10fのうちのいずれかの移動体10の鉛直方向における位置とその平均位置との差の絶対値が許容値を超えた場合、この移動体10がジャンプした又は屈んだと推定する。そして、位置推定部315によって移動体10がジャンプした又は屈んだ時間区間においては、その移動体10の移動情報から得られた第2の時系列的特徴からは、第1の時系列的特徴との相関を示す指標を算出しない。言い換えると、算出部314は、移動情報から推定された移動体10の鉛直方向における位置とその平均位置との差の絶対値が許容値内に収まっている時間区間に限って、その移動情報から得られた第2の時系列的特徴を用いて、第1の時系列的特徴との相関を示す指標を算出する。
In order to avoid such a problem, the
なお、移動体10の鉛直方向における平均位置は、位置推定部315によって推定された移動体10の鉛直方向における位置を、例えば動画5が撮像された全体の時間区間において平均したものである。許容値は、移動体10がジャンプした又は屈んだことを検出することができる大きさの値に予め設定され、ROM又は記憶部302等に記憶されている。
In addition, the average position in the vertical direction of the moving body 10 is obtained by averaging the position in the vertical direction of the moving body 10 estimated by the
図5に戻って、特定部316は、算出部314によって算出された指標に基づいて、撮像装置200によって撮像された動画5における複数の移動体10a〜10fと、複数の測定装置100a〜100fと、の対応関係を特定する。この対応関係を特定するとは、動画5に撮像された複数の移動体10a〜10fのそれぞれが、複数の測定装置100a〜100fのうちのどの測定装置100を装着しているかを特定することである。言い換えると、特定部316は、動画5に撮像された複数の移動体10a〜10fのそれぞれが装着している測定装置100が、複数の測定装置100a〜100fのうちのどの測定装置100であるのかを特定する。特定部316は、制御部301によって実現される。特定部316は、特定手段として機能する。
Returning to FIG. 5, the specifying unit 316 includes a plurality of moving
具体的に説明すると、特定部316は、複数の測定装置100a〜100fのうちの、1つの移動体10との間で算出された最終的な指標が最も大きい測定装置100を、この移動体10に対応する測定装置100であると特定する。特定部316は、このような処理を、動画5において移動体領域として検出された複数の移動体10a〜10fのそれぞれについて、及び、断片化された軌跡のそれぞれについて、繰り返し実行する。これにより、特定部316は、動画5に撮像された複数の移動体10a〜10fと、複数の測定装置100a〜100fと、をそれぞれ対応付ける。
More specifically, the specifying unit 316 selects the measuring
なお、複数の測定装置100a〜100fのうちのいずれかの測定装置100によって測定された移動情報が予め定められた条件を満たした時間区間は、算出部314が指標を算出する時間区間から除外されている。そのため、特定部316は、この時間区間においては、この測定装置100によって測定された移動情報を、動画5における複数の移動体10a〜10fと複数の測定装置100a〜100fとの対応関係を特定するためには用いない。
Note that the time interval in which the movement information measured by any one of the plurality of
表示制御部317は、受信部311によって撮像装置200から受信された動画5を表示部305に表示する。このとき、表示制御部317は、特定部316によって特定された対応関係を参照して、複数の測定装置100a〜100fのうちの、複数の移動体10a〜10fのそれぞれに対応する測定装置100を識別する識別情報を、表示部305に表示する。表示制御部317は、制御部301が画像処理部303及び表示部305と協働することによって実現される。表示制御部317は、表示制御手段として機能する。
The
具体的には図10に示すように、表示制御部317は、動画5における複数の移動体10a〜10fのそれぞれの位置に、対応する測定装置100の数字を表示する。表示制御部317は、このような測定装置100の識別情報を、時間と共に様々な位置に移動する移動体10に追従させて表示する。これにより、動画5を見るユーザは、動画5に写っている複数の移動体10a〜10fのそれぞれが、複数の測定装置100a〜100fのうちのどの測定装置100を装着しているのかを容易に認識することができる。特に、複数の移動体10a〜10fが密集又は交差した場合、又は移動体10が障害物に隠れた場合等であっても、ユーザは、移動体10と測定装置100との対応関係を誤ることなく、複数の移動体10a〜10fのそれぞれを正確に識別することができる。
Specifically, as illustrated in FIG. 10, the
以上のような移動体識別装置300において実行される移動体識別処理の流れについて、図11及び図12に示すフローチャートを参照して、説明する。
The flow of the mobile object identification process performed in the above mobile
図11のフローチャートに示す移動体識別処理は、移動体識別装置300において、移動体識別処理を実行する旨の指示が、操作部304を介してユーザから受け付けられると、開始する。このとき、識別対象となる複数の移動体10a〜10fの移動情報と、その複数の移動体10a〜10fを撮像した動画5とは、それぞれ複数の測定装置100と撮像装置200とから、受信部311によって既に受信されている。
The mobile object identification process shown in the flowchart of FIG. 11 starts when the mobile
移動体識別処理が開始すると、移動体識別装置300の制御部301は、動画5に含まれる各フレームの画像において、複数の移動体10a〜10fの位置を検出する(ステップS1)。具体的に説明すると、制御部301は、動画5に含まれる各フレームの画像について、背景差分法により背景画像との差分をとり、前景物体領域を抽出する。そして、制御部301は、抽出した前景物体領域に対して膨張収縮処理及びラベリング処理を実行することで、移動体領域を検出する。制御部301は、このように検出した移動体領域の位置を、動画5における複数の移動体10a〜10fの位置と推定する。
When the moving body identification process starts, the
動画5における複数の移動体10a〜10fの位置を検出すると、制御部301は、フレーム間で移動体10を対応付ける(ステップS2)。具体的に説明すると、制御部301は、隣り合うフレーム間において距離が近い移動体領域同士を連結することで、動画5の先頭から末尾までにおける複数の移動体10a〜10fの位置の変化を示す軌跡を取得する。
When the positions of the plurality of moving
複数の移動体10a〜10fの軌跡を取得すると、制御部301は、動画5と測定装置100との間で座標系を合わせる(ステップS3)。具体的に説明すると、制御部301は、複数の移動体10a〜10fを斜め上方から撮像して得られた動画5内の位置情報を水平面に投影することで、世界座標系における位置情報に変換する。また、制御部301は、複数の測定装置100a〜100fのそれぞれから受信された移動情報に含まれる加速度の向きを、重力及び地磁気の情報に基づいて方向を判別し、世界座標系における向きに変換する。これにより、制御部301は、動画5と測定装置100との間で座標系を合わせる。
When the trajectories of the plurality of moving
動画5と測定装置100との間で座標系を合わせると、制御部301は、移動体10と測定装置100との対応関係を特定する処理に移行する。まず、制御部301は、識別対象となる移動体10と識別時間区間とを指定する(ステップS4)。具体的に説明すると、制御部301は、識別対象となる移動体10として、動画5における複数の移動体10a〜10fのうちからいずれか1つを指定する。また、識別時間区間は、動画に含まれる先頭フレームから末尾フレームまでのうちの時間区間であって、指定した移動体10について対応する測定装置100を特定する時間区間である。制御部301は、識別時間区間として、例えば、動画5における指定した移動体10の軌跡が断片化していないひと続きの時間区間(すなわち連続した軌跡が得られた時間区間)を指定する。
When the coordinate system is matched between the moving
識別対象となる移動体10と識別時間区間とを指定すると、制御部301は、指定した識別時間区間において、指定した移動体10に対応する測定装置100を特定する(ステップS5)。ステップS5における特定処理の詳細については、図12に示すフローチャートを参照して説明する。
When the mobile object 10 to be identified and the identification time interval are designated, the
図12に示す特定処理が開始すると、制御部301は、複数の測定装置100a〜100fのうちから、指標を算出する測定装置100を指定する(ステップS51)。そして、制御部301は、指定した測定装置100によって測定された移動情報が予め定められた条件を満たした時間区間を、指標を算出する時間区間から除外する(ステップS52)。
When the specific process illustrated in FIG. 12 is started, the
具体的に説明すると、制御部301は、位置推定部315として機能し、移動情報に含まれる鉛直方向における加速度を二重積分することによって、指定した測定装置100を装着している移動体10の鉛直方向における位置を推定する。そして、制御部301は、指定した識別時間区間の中に、推定した位置と平均位置との差の絶対値が許容値を超えている時間区間が含まれているか否かを判定する。判定の結果、指定した識別時間区間の中にそのような時間区間が含まれている場合には、制御部301は、指定した識別時間区間からその時間区間を除外した時間区間を、指標を算出する時間区間として設定する。これに対して、指定した識別時間区間の中にそのような時間区間が含まれていない場合には、制御部301は、指定した識別時間区間全体を、指標を算出する時間区間として設定する。
More specifically, the
このようにして指標を算出する時間区間を設定すると、制御部301は、指定した移動体10と測定装置100との間の、指定した識別時間区間における相関を示す第1の相関値、第2の相関値及び第3の相関値を算出する(ステップS53〜S55)。
When the time interval for calculating the index is set in this way, the
具体的に説明すると、制御部301は、第1の特徴取得部312として機能し、撮像装置200によって撮像された複数の移動体10a〜10fの動画から、指定した移動体10の指定した識別時間区間における第1の時系列的特徴を取得する。また、制御部301は、第2の特徴取得部313として機能し、指定した測定装置100によって測定された移動情報から、指定した識別時間区間における第2の時系列的特徴を取得する。そして、制御部301は、算出部314として機能し、前述したように、(1)動画5における移動体10の速度と、測定装置100によって測定された加速度の分散と、の相関を示す第1の相関値と、(2)動画5における移動体10の鉛直方向以外の方向における加速度と、測定装置100によって測定された鉛直方向における加速度と、の相関を示す第2の相関値と、(3)動画5における移動体10の移動の向きと、測定装置100によって測定された移動の向きと、の相関を示す第3の相関値と、を算出する。
More specifically, the
これら3つの相関値を算出すると、制御部301は、特定部316として機能し、指定した移動体10と測定装置100との間の、指定した識別時間区間における相関を示す最終的な指標を算出する(ステップS56)。具体的に説明すると、制御部301は、3つの相関値の重み付き和をとることで、最終的な指標を算出する。
When these three correlation values are calculated, the
最終的な指標を算出すると、制御部301は、全ての測定装置100を指定し終えたか否かを判定する(ステップS57)。全ての測定装置100を指定し終えていない場合(ステップS57;NO)、制御部301は、処理をステップS51に戻す。そして、制御部301は、複数の測定装置100a〜100fのうちから未指定の測定装置100を新たに指定し、新たに指定した測定装置100に対して、ステップS51〜S57の処理を実行する。このように、制御部301は、全ての測定装置100を指定し終えるまでステップS51〜S57の処理を繰り返し、全ての測定装置100について、指定した移動体10との指定した識別時間区間における相関を示す指標を算出する。
When the final index is calculated, the
最終的に、全ての測定装置100を指定し終えると(ステップS57;YES)、制御部301は、指標を算出した測定装置100のうちの指標が最大の測定装置100を、指定した識別時間区間において指定した移動体10に対応する測定装置100と特定する(ステップS58)。ステップS58の処理を終えると、制御部301は、図12に示した特定処理を終了する。
Finally, when all the measuring
指定した識別時間区間において、指定した移動体10に対応する測定装置100を特定すると、制御部301は、全ての移動体10の全ての識別時間区間を指定し終えたか否かを判定する(ステップS6)。全ての移動体10の全ての識別時間区間を指定し終えていない場合(ステップS6;NO)、制御部301は、処理をステップS4に戻す。そして、制御部301は、動画に撮像された複数の移動体10a〜10fと識別時間区間との組み合わせのうちの未指定の組み合わせを新たに指定し、新たに指定した組み合わせにおける移動体10及び識別時間区間に対して、ステップS4〜S6の処理を実行する。このように、制御部301は、全ての移動体10の全ての識別時間区間を指定し終えるまでステップS4〜S6の処理を繰り返し、全ての移動体10の全ての識別時間区間について、対応する測定装置100を特定する。
When the measuring
最終的に、全ての移動体10の全ての識別時間区間を指定し終えると(ステップS6;YES)、制御部301は、表示制御部317として機能し、特定結果を表示する(ステップS7)。具体的に説明すると、制御部301は、例えば図10に示したように、複数の移動体10a〜10fのそれぞれに対応する測定装置100を識別する識別情報を、動画5とともに、表示部305に表示する。以上によって、図11に示した移動体識別処理は終了する。
Finally, when all the identification time intervals of all the moving bodies 10 have been specified (step S6; YES), the
以上説明したように、実施形態1に係る移動体識別システム1及び移動体識別装置300は、撮像装置200によって撮像された複数の移動体10a〜10fの動画5から第1の時系列的特徴を取得し、複数の移動体10a〜10fにそれぞれ装着された複数の測定装置100a〜100fによって測定された移動情報から第2の時系列的特徴を取得する。そして、移動体識別システム1及び移動体識別装置300は、第1の時系列的特徴と第2の時系列的特徴との相関を示す指標を算出し、算出した指標に基づいて、動画5における複数の移動体10a〜10fと複数の測定装置100a〜100fとの対応関係を特定する。
As described above, the mobile
その際に、移動体識別システム1及び移動体識別装置300は、複数の測定装置100a〜100fのうちのいずれかの測定装置100によって測定された移動情報が予め定められた条件を満たした時間区間においては、この移動情報からは前記の指標を算出しない。言い換えると、移動体識別システム1及び移動体識別装置300は、測定装置100と移動体10との対応付けを誤る確率が高いことが想定される時間区間を、指標を算出する時間区間から除外する。その結果、対応付けの誤りを減らすことができ、動画5に撮像された複数の移動体10a〜10fを精度良く識別することができる。
At that time, the mobile
また、実施形態1に係る移動体識別システム1及び移動体識別装置300は、前記の指標として、(1)動画5における移動体10の速度と、測定装置100によって測定された加速度の分散と、の相関を示す第1の相関値と、(2)動画5における移動体10の鉛直方向以外の方向における加速度と、測定装置100によって測定された鉛直方向における加速度と、の相関を示す第2の相関値と、(3)動画5における移動体10の移動の向きと、測定装置100によって測定された移動の向きと、の相関を示す第3の相関値と、を算出し、これら3つの相関値の重み付き和を指標として算出する。このように、移動体識別システム1及び移動体識別装置300は、第1の時系列的特徴と第2の時系列的特徴として高い相関が出やすい特徴同士を組み合わせて、相関値を算出する。その結果、動画5における複数の移動体10a〜10fと複数の測定装置100a〜100fとを精度良く対応付けることができる。
In addition, the mobile
特に、例えば屋内競技をプレイしている場合のように、複数の移動体10a〜10fが屋内で移動している場合、外部からの電波が届きにくいためGPS(Global Positioning System)等では移動体10の位置を精度良く検出することが難しい。そのような場合であっても、実施形態1に係る移動体識別システム1及び移動体識別装置300は、動画5に撮像された複数の移動体10a〜10fを精度良く識別することができる。
In particular, when a plurality of
(変形例)
以上に本発明の実施形態について説明したが、前記実施形態は一例であり、本発明の適用範囲はこれに限られない。すなわち、本発明の実施形態は種々の応用が可能であり、あらゆる実施の形態が本発明の範囲に含まれる。
(Modification)
Although the embodiment of the present invention has been described above, the embodiment is an example, and the scope of application of the present invention is not limited to this. That is, the embodiments of the present invention can be applied in various ways, and all the embodiments are included in the scope of the present invention.
例えば、前記実施形態では、動画5における複数の移動体10a〜10fと複数の移動体10a〜10fにそれぞれ装着された複数の測定装置100a〜100fとを対応付ける例を示したが、動画5における少なくとも1つの移動体10と少なくとも1つの移動体10に装着された少なくとも1つの測定装置100とを対応付けてもよい。この場合、動画5における1つのみの移動体10と1つのみの移動体10に装着された1つのみの測定装置100との対応関係は自明であるため除外する。すなわち、本発明は、動画5における複数の移動体10a〜10fと複数の移動体10a〜10fにそれぞれ装着された複数の測定装置100a〜100fとを対応付けることに限定されず、例えば、動画5における1つの移動体10と複数の移動体10a〜10fに装着された複数の測定装置100a〜10fとを対応付けることや、動画5における複数の移動体10a〜10fと複数の移動体10a〜10fのうちの1つの移動体10に装着された1つの測定装置100とを対応付けることも含む。
For example, in the embodiment, the example in which the plurality of moving
また、特定部316は、複数の測定装置100a〜100fのうちのいずれかの測定装置100によって測定された移動情報が予め定められた条件を満たした時間区間においては、この測定装置100によって測定された移動情報を、前述した対応関係を特定するためには用いなかった。しかしながら、特定部316は、移動情報が予め定められた条件を満たした時間区間において、撮像装置200によって撮像された動画5から得られた、少なくとも1つの移動体10の移動に関する情報を、前述した対応関係を特定するためには用いなくても良い。少なくとも1つの移動体10の移動に関する情報とは、例えば第1の時系列的特徴である。言い換えると、特定部316は、移動情報が予め定められた条件を満たした時間区間においては、動画5における少なくとも1つの移動体10の全てについて、動画5から得られた移動に関する情報を、特定部316が対応関係を特定するために用いなくても良い。
In addition, the specifying unit 316 is measured by the
また、例えば、前記実施形態では、算出部314は、第1の相関値と第2の相関値と第3の相関値とを算出し、これら3つの相関値の重み付き和を、第1の時系列的特徴と第2の時系列的特徴との相関を示す指標として算出した。しかしながら、本発明において、算出部314は、これら3つの相関値を全て算出せず、これら3つの相関値のうちのいずれか1つのみを、第1の時系列的特徴と第2の時系列的特徴との相関を示す指標として算出しても良い。或いは、算出部314は、これら3つの相関値のうちのいずれか2つを用いて、第1の時系列的特徴と第2の時系列的特徴との相関を示す指標を算出しても良い。また、算出部314は、重み付き和以外の算出方法を用いても良い。 Further, for example, in the embodiment, the calculation unit 314 calculates the first correlation value, the second correlation value, and the third correlation value, and calculates the weighted sum of these three correlation values as the first correlation value. It was calculated as an index indicating the correlation between the time series feature and the second time series feature. However, in the present invention, the calculation unit 314 does not calculate all of these three correlation values, and only one of these three correlation values is used as the first time-series feature and the second time-series. You may calculate as a parameter | index which shows the correlation with a characteristic. Alternatively, the calculation unit 314 may calculate an index indicating the correlation between the first time-series feature and the second time-series feature using any two of these three correlation values. . The calculation unit 314 may use a calculation method other than the weighted sum.
前記実施形態では、第1の特徴取得部312は、背景差分法を用いて動画5における複数の移動体10a〜10fの位置を検出し、それらの位置を追跡した。しかしながら、本発明において、第1の特徴取得部312は、背景差分法に限らず、他の手法を用いても良い。例えば、第1の特徴取得部312は、特徴点追跡(オプティカルフロー)の手法を用いて、動画5中の特徴点を検出及び追跡することができる。
In the embodiment, the first
前記実施形態では、特定部316は、移動体10の鉛直方向における位置と移動体10の鉛直方向における平均位置との差の絶対値が許容値を超えた場合に、その移動体10に装着された測定装置100を対応付けから除外した。しかしながら、本発明において、対応付けから除外するための予め定められた条件は、このような場合以外の場合に満たされても良い。例えば、予め定められた条件は、移動体10の水平方向における位置が撮像装置200の視野の外に出たと判別された場合に、満たされても良い。この場合、移動体10の水平方向における位置は、その移動体10に装着された測定装置100によって測定された移動情報から推定することができる。このように、特定部316は、測定装置100と移動体10との対応付けを誤る確率が高いことが想定される様々な条件が満たされた場合に、動画5における複数の移動体10a〜10fのうちからその測定装置100に対応する移動体10を特定しないと定めることができる。
In the embodiment, the specifying unit 316 is attached to the moving body 10 when the absolute value of the difference between the position of the moving body 10 in the vertical direction and the average position of the moving body 10 in the vertical direction exceeds an allowable value. The measuring
前記実施形態では、表示制御部317は、測定装置100を識別する識別情報として、動画5における複数の移動体10a〜10fのそれぞれの位置に、対応する測定装置100の数字を表示した。しかしながら、表示制御部317は、識別情報として、数字の代わりに文字、記号又は図形を表示しても良い。また、表示制御部317は、識別情報を、移動体10の近傍に表示しても良いし、移動体10に重畳させて表示しても良い。
In the embodiment, the
或いは、表示制御部317は、識別情報として、背景差分法又は特徴点追跡等の手法によって動画5から得られた複数の移動体10a〜10fの軌跡を、表示部305に表示しても良い。この場合、表示制御部317は、複数の移動体10a〜10fの軌跡のそれぞれを、対応する測定装置100を識別できるように、互いに異なる表示態様で表示する。例えば、表示制御部317は、対応する測定装置100に応じて軌跡の色を変える、軌跡の太さを変える、又は、実線と点線とによって軌跡の描画方法を変える等によって、対応する測定装置100を識別できるように軌跡を表示する。
Alternatively, the
前記実施形態では、移動体識別装置300が第1の特徴取得部312と第2の特徴取得部313とを備えていた。しかしながら、本発明において、移動体識別装置300は第1の時系列的特徴と第2の時系列的特徴とを取得する機能を備えておらず、撮像装置200が第1の特徴取得部312を備えており、複数の測定装置100のそれぞれが第2の特徴取得部313を備えていても良い。この場合、撮像装置200は、複数の移動体10を撮像して得られた動画5を解析して第1の時系列的特徴を取得し、取得した第1の時系列的特徴を示す情報を移動体識別装置300に送信する。また、複数の測定装置100のそれぞれは、測定された移動情報を解析して第2の時系列的特徴を取得し、取得した第2の時系列的特徴を示す情報を移動体識別装置300に送信する。移動体識別装置300は、第1の時系列的特徴を示す情報と第2の時系列的特徴を示す情報とを受信すると、第1の時系列的特徴と第2の時系列的特徴との相関を示す指標を算出して、複数の移動体10と複数の測定装置100との対応関係を特定する。
In the embodiment, the mobile
前記実施形態では、移動体10として人間を例にとって説明した。しかしながら、本発明において、移動体10は、人間以外の動物であっても良いし、自動車又はロボット等の人工物であっても良い。また、前記実施形態では、移動体識別システム1が適用される場面として、屋内でプレイされるスポーツを例にとって説明した。しかしながら、本発明において、移動体識別システム1は、屋外でプレイされるスポーツに適用することもできる。また、スポーツに限らず、複数の移動体が移動する場面であれば、どのような場面に対しても適用することができる。例えば、移動体識別システム1は、保育園又は幼稚園における幼児の識別、学校における生徒の識別、及び、映画館又は競技場における入場者の識別等にも適用することができる。
In the above-described embodiment, the moving body 10 has been described taking a human as an example. However, in the present invention, the moving body 10 may be an animal other than a human being, or may be an artificial object such as an automobile or a robot. Moreover, in the said embodiment, the sport played indoors was demonstrated to the example as a scene where the mobile
また、前記実施形態では、複数の測定装置100、撮像装置200及び移動体識別装置300は、それぞれCPUを備えていた。しかし、本発明において、複数の測定装置100、撮像装置200及び移動体識別装置300は、CPUの代わりに、ASIC(Application Specific Integrated Circuit)等の専用の制御回路を備えていてもよい。例えば、前記実施形態では、CPUが、受信部311、第1の特徴取得部312、第2の特徴取得部313、算出部314、位置推定部315、特定部316及び表示制御部317のそれぞれとして機能したが、これら各部は、それぞれ個別の制御回路によって実現されてもよい。
Moreover, in the said embodiment, the some
なお、本発明に係る機能を実現するための構成を予め備えた移動体識別装置、測定装置及び撮像装置して提供できることはもとより、プログラムの適用により、既存の情報処理装置等を、本発明に係る移動体識別装置、測定装置及び撮像装置のそれぞれとして機能させることもできる。すなわち、前記実施形態で例示した複数の測定装置100、撮像装置200及び移動体識別装置300による各機能構成を実現させるためのプログラムを、既存の情報処理装置等を制御するCPU等が実行できるように適用することで、本発明に係る移動体識別装置、測定装置及び撮像装置として機能させることができる。また、本発明に係る表示方法は、移動体識別装置、測定装置及び撮像装置を用いて実施できる。
It should be noted that, in addition to being able to be provided as a mobile object identification device, a measurement device, and an imaging device provided with a configuration for realizing the functions according to the present invention, an existing information processing device or the like is applied to the present invention by applying a program. It can also function as each of the moving body identification device, measurement device, and imaging device. That is, it is possible for a CPU or the like that controls an existing information processing apparatus or the like to execute a program for realizing each functional configuration of the plurality of
また、このようなプログラムの適用方法は任意である。プログラムを、例えば、フレキシブルディスク、CD(Compact Disc)−ROM、DVD(Digital Versatile Disc)−ROM、メモリカード等のコンピュータ読み取り可能な記憶媒体に格納して適用できる。さらに、プログラムを搬送波に重畳し、インターネットなどの通信媒体を介して適用することもできる。例えば、通信ネットワーク上の掲示板(BBS:Bulletin Board System)にプログラムを掲示して配信してもよい。そして、このプログラムを起動し、OS(Operating System)の制御下で、他のアプリケーションプログラムと同様に実行することにより、前記の処理を実行できるように構成してもよい。 Moreover, the application method of such a program is arbitrary. The program can be applied by being stored in a computer-readable storage medium such as a flexible disk, a CD (Compact Disc) -ROM, a DVD (Digital Versatile Disc) -ROM, or a memory card. Furthermore, the program can be superimposed on a carrier wave and applied via a communication medium such as the Internet. For example, the program may be posted on a bulletin board (BBS: Bulletin Board System) on a communication network and distributed. The program may be activated and executed in the same manner as other application programs under the control of an OS (Operating System) so that the above-described processing can be executed.
以上、本発明の好ましい実施形態について説明したが、本発明は係る特定の実施形態に限定されるものではなく、本発明には、特許請求の範囲に記載された発明とその均等の範囲とが含まれる。以下に、本願出願の当初の特許請求の範囲に記載された発明を付記する。 The preferred embodiments of the present invention have been described above. However, the present invention is not limited to the specific embodiments, and the present invention includes the invention described in the claims and the equivalent scope thereof. included. Hereinafter, the invention described in the scope of claims of the present application will be appended.
(付記1)
撮像装置によって撮像された動画から得られた、少なくとも1つの移動体の移動に関する第1の時系列的特徴と、前記少なくとも1つの移動体に装着された少なくとも1つの測定装置から得られた、前記少なくとも1つの移動体の移動に関する第2の時系列的特徴と、に基づいて、前記動画における前記少なくとも1つの移動体と前記少なくとも1つの測定装置との対応関係を、前記動画における1つのみの移動体と前記1つのみの移動体に装着された1つのみの測定装置との対応関係を除いて特定する特定手段、
を備え、
前記特定手段は、前記少なくとも1つの測定装置のうちのいずれかの測定装置によって測定された移動情報が予め定められた条件を満たした時間区間においては、前記いずれかの測定装置によって測定された前記移動情報を対応関係を特定するために用いない、
ことを特徴とする移動体識別装置。
(Appendix 1)
Obtained from a moving image captured by the imaging device, the first time-series feature relating to the movement of at least one moving body, and the at least one measuring device mounted on the at least one moving body, Based on the second time-series characteristic relating to the movement of at least one moving object, the correspondence relationship between the at least one moving object and the at least one measuring device in the moving image is changed to only one in the moving image. A specifying means for specifying a moving body and a correspondence relationship between only one measuring apparatus mounted on the one moving body;
With
In the time interval in which the movement information measured by any one of the at least one measuring devices satisfies a predetermined condition, the specifying unit is measured by any one of the measuring devices. Do not use movement information to identify correspondences,
A mobile object identification device characterized by the above.
(付記2)
前記少なくとも1つの測定装置によって測定された前記移動情報から、前記少なくとも1つの移動体のそれぞれの鉛直方向における位置を推定する位置推定手段、
を更に備え、
前記予め定められた条件は、前記少なくとも1つの移動体のうちのいずれかの移動体の前記鉛直方向における位置と、前記いずれかの移動体の前記鉛直方向における平均位置と、の差の絶対値が許容値を超えた場合に、満たされる、
ことを特徴とする付記1に記載の移動体識別装置。
(Appendix 2)
Position estimating means for estimating a position in the vertical direction of each of the at least one moving body from the movement information measured by the at least one measuring device;
Further comprising
The predetermined condition is that an absolute value of a difference between a position in the vertical direction of any one of the at least one moving bodies and an average position in the vertical direction of any of the moving bodies. Satisfied if the value exceeds the tolerance
The mobile object identification device according to
(付記3)
前記少なくとも1つの測定装置のそれぞれから前記移動情報を受信するとともに、前記撮像装置から前記動画を受信する受信手段と、
前記受信手段によって受信された前記動画から前記第1の時系列的特徴を取得する第1の特徴取得手段と、
前記受信手段によって受信された前記移動情報から前記第2の時系列的特徴を取得する第2の特徴取得手段と、
を更に備える、
ことを特徴とする付記1又は2に記載の移動体識別装置。
(Appendix 3)
Receiving means for receiving the movement information from each of the at least one measuring device and receiving the moving image from the imaging device;
First feature obtaining means for obtaining the first time-series feature from the moving image received by the receiving means;
Second feature acquisition means for acquiring the second time-series feature from the movement information received by the reception means;
Further comprising
The mobile object identification device according to
(付記4)
前記第1の特徴取得手段は、前記第1の時系列的特徴として、前記動画における前記少なくとも1つの移動体の速度を取得し、
前記第2の特徴取得手段は、前記第2の時系列的特徴として、前記移動情報から前記少なくとも1つの移動体の加速度の分散を取得する、
ことを特徴とする付記3に記載の移動体識別装置。
(Appendix 4)
The first feature acquisition means acquires the speed of the at least one moving body in the moving image as the first time-series feature,
The second feature acquisition means acquires a variance of acceleration of the at least one moving body from the movement information as the second time-series feature.
The mobile object identification device according to
(付記5)
前記第1の特徴取得手段は、前記第1の時系列的特徴として、前記動画における前記少なくとも1つの移動体の鉛直方向以外の方向における加速度を取得し、
前記第2の特徴取得手段は、前記第2の時系列的特徴として、前記移動情報から前記少なくとも1つの移動体の前記鉛直方向における加速度を取得する、
ことを特徴とする付記3又は4に記載の移動体識別装置。
(Appendix 5)
The first feature acquisition unit acquires an acceleration in a direction other than a vertical direction of the at least one moving body in the moving image as the first time-series feature,
The second feature acquisition means acquires acceleration in the vertical direction of the at least one moving body from the movement information as the second time-series feature.
The mobile object identification device according to
(付記6)
前記第1の特徴取得手段は、前記第1の時系列的特徴として、前記動画における前記少なくとも1つの移動体の移動の向きを取得し、
前記第2の特徴取得手段は、前記第2の時系列的特徴として、前記移動情報から前記少なくとも1つの移動体の移動の向きを取得する、
ことを特徴とする付記3から5のいずれか1つに記載の移動体識別装置。
(Appendix 6)
The first feature acquisition means acquires the movement direction of the at least one moving body in the moving image as the first time-series feature,
The second feature acquisition means acquires a direction of movement of the at least one moving body from the movement information as the second time-series feature.
The mobile object identification device according to any one of
(付記7)
前記第1の時系列的特徴と前記第2の時系列的特徴との相関を示す指標を算出する算出手段を更に備え、
前記第1の特徴取得手段は、前記第1の時系列的特徴として、前記動画における前記少なくとも1つの移動体の速度と、前記動画における前記少なくとも1つの移動体の鉛直方向以外の方向における加速度と、前記動画における前記少なくとも1つの移動体の移動の向きと、を取得し、
前記第2の特徴取得手段は、前記第2の時系列的特徴として、前記移動情報から、前記少なくとも1つの移動体の加速度の分散と、前記少なくとも1つの移動体の前記鉛直方向における加速度と、前記少なくとも1つの移動体の移動の向きと、を取得し、
前記算出手段は、前記第1の特徴取得手段によって取得された前記速度と前記第2の特徴取得手段によって取得された前記分散との相関を示す第1の相関値と、前記第1の特徴取得手段によって取得された前記加速度と前記第2の特徴取得手段によって取得された前記加速度との相関を示す第2の相関値と、前記第1の特徴取得手段によって取得された前記移動の向きと前記第2の特徴取得手段によって取得された前記移動の向きとの相関を示す第3の相関値と、に基づいて、前記指標を算出する、
ことを特徴とする付記3から6のいずれか1つに記載の移動体識別装置。
(Appendix 7)
A calculation means for calculating an index indicating a correlation between the first time-series feature and the second time-series feature;
The first feature acquisition means includes, as the first time-series feature, a speed of the at least one moving body in the moving image and an acceleration in a direction other than the vertical direction of the at least one moving body in the moving image. , Obtaining the direction of movement of the at least one moving object in the video,
The second feature acquisition means, as the second time-series feature, from the movement information, a dispersion of acceleration of the at least one moving body, acceleration in the vertical direction of the at least one moving body, Obtaining the direction of movement of the at least one moving object;
The calculation means includes a first correlation value indicating a correlation between the velocity acquired by the first feature acquisition means and the variance acquired by the second feature acquisition means, and the first feature acquisition. A second correlation value indicating a correlation between the acceleration acquired by the means and the acceleration acquired by the second feature acquisition means; the direction of the movement acquired by the first feature acquisition means; Calculating the index based on a third correlation value indicating a correlation with the direction of movement acquired by the second feature acquisition means;
The mobile object identification device according to any one of
(付記8)
前記算出手段は、前記指標として、前記第1の相関値と前記第2の相関値と前記第3の相関値との重み付き和を算出する、
ことを特徴とする付記7に記載の移動体識別装置。
(Appendix 8)
The calculation means calculates a weighted sum of the first correlation value, the second correlation value, and the third correlation value as the index.
The mobile object identification device according to appendix 7, wherein:
(付記9)
前記少なくとも1つの測定装置のうちの、前記少なくとも1つの移動体のそれぞれに対応する測定装置を識別する識別情報を、前記動画とともに表示手段に表示する表示制御手段、
を更に備える、
ことを特徴とする付記1から8のいずれか1つに記載の移動体識別装置。
(Appendix 9)
Display control means for displaying, on the display means together with the moving image, identification information for identifying a measurement apparatus corresponding to each of the at least one moving body of the at least one measurement apparatus;
Further comprising
The mobile object identification device according to any one of
(付記10)
前記撮像装置は、屋内において移動している前記少なくとも1つの移動体を撮像することによって、前記動画を生成する、
ことを特徴とする付記1から9のいずれか1つに記載の移動体識別装置。
(Appendix 10)
The imaging device generates the moving image by imaging the at least one moving body that is moving indoors.
The mobile object identification device according to any one of
(付記11)
前記撮像装置は、前記少なくとも1つの移動体を斜め上方から撮像することによって、前記動画を生成する、
ことを特徴とする付記1から10のいずれか1つに記載の移動体識別装置。
(Appendix 11)
The imaging device generates the moving image by imaging the at least one moving body from obliquely above.
The mobile object identification device according to any one of
(付記12)
前記少なくとも1つの測定装置は、加速度センサを含む、
ことを特徴とする付記1から11のいずれか1つに記載の移動体識別装置。
(Appendix 12)
The at least one measuring device includes an acceleration sensor;
The mobile object identification device according to any one of
(付記13)
前記差の絶対値が前記許容値を超えた場合、前記位置推定手段は、前記いずれかの移動体がジャンプした又は屈んだと推定する、
ことを特徴とする付記2に記載の移動体識別装置。
(Appendix 13)
When the absolute value of the difference exceeds the allowable value, the position estimation means estimates that any one of the moving bodies has jumped or bent,
The mobile object identification device according to
(付記14)
前記特定手段は、前記時間区間においては、前記撮像装置によって撮像された前記動画から得られた、前記少なくとも1つの移動体の移動に関する情報を対応関係を特定するために用いない、
ことを特徴とする付記1から13のいずれか1つに記載の移動体識別装置。
(Appendix 14)
In the time interval, the specifying unit does not use information about movement of the at least one moving body obtained from the moving image captured by the imaging device to specify a correspondence relationship.
14. The mobile object identification device according to any one of
(付記15)
付記1から14のいずれか1つに記載の移動体識別装置と、前記撮像装置と、前記少なくとも1つの測定装置と、を備える、
ことを特徴とする移動体識別システム。
(Appendix 15)
The mobile object identification device according to any one of
A mobile object identification system characterized by the above.
(付記16)
撮像装置によって撮像された動画から得られた、少なくとも1つの移動体の移動に関する第1の時系列的特徴と、前記少なくとも1つの移動体に装着された少なくとも1つの測定装置から得られた、前記少なくとも1つの移動体の移動に関する第2の時系列的特徴と、に基づいて、前記動画における前記少なくとも1つの移動体と前記少なくとも1つの測定装置との対応関係を、前記動画における1つのみの移動体と前記1つのみの移動体に装着された1つのみの測定装置との対応関係を除いて特定する特定ステップと、
を含み、
前記特定ステップでは、前記少なくとも1つの測定装置のうちのいずれかの測定装置によって測定された移動情報が予め定められた条件を満たした時間区間においては、前記いずれかの測定装置によって測定された前記移動情報を対応関係を特定するために用いない、
ことを特徴とする移動体識別方法。
(Appendix 16)
Obtained from a moving image captured by the imaging device, the first time-series feature relating to the movement of at least one moving body, and the at least one measuring device mounted on the at least one moving body, Based on the second time-series characteristic relating to the movement of at least one moving object, the correspondence relationship between the at least one moving object and the at least one measuring device in the moving image is changed to only one in the moving image. A specific step of specifying a moving body and a single measuring device attached to only one moving body, excluding a correspondence relationship;
Including
In the specifying step, in the time interval in which the movement information measured by any one of the at least one measuring devices satisfies a predetermined condition, the measuring information measured by any one of the measuring devices is used. Do not use movement information to identify correspondences,
A moving body identification method characterized by the above.
(付記17)
移動体識別装置のコンピュータを、
撮像装置によって撮像された動画から得られた、少なくとも1つの移動体の移動に関する第1の時系列的特徴と、前記少なくとも1つの移動体に装着された少なくとも1つの測定装置から得られた、前記少なくとも1つの移動体の移動に関する第2の時系列的特徴と、に基づいて、前記動画における前記少なくとも1つの移動体と前記少なくとも1つの測定装置との対応関係を、前記動画における1つのみの移動体と前記1つのみの移動体に装着された1つのみの測定装置との対応関係を除いて特定する特定手段、
として機能させ、
前記特定手段は、前記少なくとも1つの測定装置のうちのいずれかの測定装置によって測定された移動情報が予め定められた条件を満たした時間区間においては、前記いずれかの測定装置によって測定された前記移動情報を対応関係を特定するために用いない、
ことを特徴とするプログラム。
(Appendix 17)
The computer of the mobile object identification device
Obtained from a moving image captured by the imaging device, the first time-series feature relating to the movement of at least one moving body, and the at least one measuring device mounted on the at least one moving body, Based on the second time-series characteristic relating to the movement of at least one moving object, the correspondence relationship between the at least one moving object and the at least one measuring device in the moving image is changed to only one in the moving image. A specifying means for specifying a moving body and a correspondence relationship between only one measuring apparatus mounted on the one moving body;
Function as
In the time interval in which the movement information measured by any one of the at least one measuring devices satisfies a predetermined condition, the specifying unit is measured by any one of the measuring devices. Do not use movement information to identify correspondences,
A program characterized by that.
1…移動体識別システム、5…動画、10,10a,10b,10c,10d,10e,10f…移動体、100,100a,100b,100c,100d,100e、100f…測定装置、101…制御部、102…記憶部、103…測定部、104…通信部、200…撮像装置、201…制御部、202…記憶部、203…撮像部、204…画像処理部、205…通信部、300…移動体識別装置、301…制御部、302…記憶部、303…画像処理部、304…操作部、305…表示部、306…通信部、311…受信部、312…第1の特徴取得部、313…第2の特徴取得部、314…算出部、315…位置推定部、316…特定部、317…表示制御部
DESCRIPTION OF
Claims (17)
を備え、
前記特定手段は、前記少なくとも1つの測定装置のうちのいずれかの測定装置によって測定された移動情報が予め定められた条件を満たした時間区間においては、前記いずれかの測定装置によって測定された前記移動情報を対応関係を特定するために用いない、
ことを特徴とする移動体識別装置。 Obtained from a moving image captured by the imaging device, the first time-series feature relating to the movement of at least one moving body, and the at least one measuring device mounted on the at least one moving body, Based on the second time-series characteristic relating to the movement of at least one moving object, the correspondence relationship between the at least one moving object and the at least one measuring device in the moving image is changed to only one in the moving image. A specifying means for specifying a moving body and a correspondence relationship between only one measuring apparatus mounted on the one moving body;
With
In the time interval in which the movement information measured by any one of the at least one measuring devices satisfies a predetermined condition, the specifying unit is measured by any one of the measuring devices. Do not use movement information to identify correspondences,
A mobile object identification device characterized by the above.
を更に備え、
前記予め定められた条件は、前記少なくとも1つの移動体のうちのいずれかの移動体の前記鉛直方向における位置と、前記いずれかの移動体の前記鉛直方向における平均位置と、の差の絶対値が許容値を超えた場合に、満たされる、
ことを特徴とする請求項1に記載の移動体識別装置。 Position estimating means for estimating a position in the vertical direction of each of the at least one moving body from the movement information measured by the at least one measuring device;
Further comprising
The predetermined condition is that an absolute value of a difference between a position in the vertical direction of any one of the at least one moving bodies and an average position in the vertical direction of any of the moving bodies. Satisfied if the value exceeds the tolerance
The mobile object identification device according to claim 1.
前記受信手段によって受信された前記動画から前記第1の時系列的特徴を取得する第1の特徴取得手段と、
前記受信手段によって受信された前記移動情報から前記第2の時系列的特徴を取得する第2の特徴取得手段と、
を更に備える、
ことを特徴とする請求項1又は2に記載の移動体識別装置。 Receiving means for receiving the movement information from each of the at least one measuring device and receiving the moving image from the imaging device;
First feature obtaining means for obtaining the first time-series feature from the moving image received by the receiving means;
Second feature acquisition means for acquiring the second time-series feature from the movement information received by the reception means;
Further comprising
The mobile object identification device according to claim 1 or 2, characterized in that
前記第2の特徴取得手段は、前記第2の時系列的特徴として、前記移動情報から前記少なくとも1つの移動体の加速度の分散を取得する、
ことを特徴とする請求項3に記載の移動体識別装置。 The first feature acquisition means acquires the speed of the at least one moving body in the moving image as the first time-series feature,
The second feature acquisition means acquires a variance of acceleration of the at least one moving body from the movement information as the second time-series feature.
The mobile object identification device according to claim 3.
前記第2の特徴取得手段は、前記第2の時系列的特徴として、前記移動情報から前記少なくとも1つの移動体の前記鉛直方向における加速度を取得する、
ことを特徴とする請求項3又は4に記載の移動体識別装置。 The first feature acquisition unit acquires an acceleration in a direction other than a vertical direction of the at least one moving body in the moving image as the first time-series feature,
The second feature acquisition means acquires acceleration in the vertical direction of the at least one moving body from the movement information as the second time-series feature.
The mobile object identification device according to claim 3 or 4, characterized by the above.
前記第2の特徴取得手段は、前記第2の時系列的特徴として、前記移動情報から前記少なくとも1つの移動体の移動の向きを取得する、
ことを特徴とする請求項3から5のいずれか1項に記載の移動体識別装置。 The first feature acquisition means acquires the movement direction of the at least one moving body in the moving image as the first time-series feature,
The second feature acquisition means acquires a direction of movement of the at least one moving body from the movement information as the second time-series feature.
The mobile object identification device according to any one of claims 3 to 5, wherein
前記第1の特徴取得手段は、前記第1の時系列的特徴として、前記動画における前記少なくとも1つの移動体の速度と、前記動画における前記少なくとも1つの移動体の鉛直方向以外の方向における加速度と、前記動画における前記少なくとも1つの移動体の移動の向きと、を取得し、
前記第2の特徴取得手段は、前記第2の時系列的特徴として、前記移動情報から、前記少なくとも1つの移動体の加速度の分散と、前記少なくとも1つの移動体の前記鉛直方向における加速度と、前記少なくとも1つの移動体の移動の向きと、を取得し、
前記算出手段は、前記第1の特徴取得手段によって取得された前記速度と前記第2の特徴取得手段によって取得された前記分散との相関を示す第1の相関値と、前記第1の特徴取得手段によって取得された前記加速度と前記第2の特徴取得手段によって取得された前記加速度との相関を示す第2の相関値と、前記第1の特徴取得手段によって取得された前記移動の向きと前記第2の特徴取得手段によって取得された前記移動の向きとの相関を示す第3の相関値と、に基づいて、前記指標を算出する、
ことを特徴とする請求項3から6のいずれか1項に記載の移動体識別装置。 A calculation means for calculating an index indicating a correlation between the first time-series feature and the second time-series feature;
The first feature acquisition means includes, as the first time-series feature, a speed of the at least one moving body in the moving image and an acceleration in a direction other than the vertical direction of the at least one moving body in the moving image. , Obtaining the direction of movement of the at least one moving object in the video,
The second feature acquisition means, as the second time-series feature, from the movement information, a dispersion of acceleration of the at least one moving body, acceleration in the vertical direction of the at least one moving body, Obtaining the direction of movement of the at least one moving object;
The calculation means includes a first correlation value indicating a correlation between the velocity acquired by the first feature acquisition means and the variance acquired by the second feature acquisition means, and the first feature acquisition. A second correlation value indicating a correlation between the acceleration acquired by the means and the acceleration acquired by the second feature acquisition means; the direction of the movement acquired by the first feature acquisition means; Calculating the index based on a third correlation value indicating a correlation with the direction of movement acquired by the second feature acquisition means;
The mobile object identification device according to any one of claims 3 to 6, characterized in that:
ことを特徴とする請求項7に記載の移動体識別装置。 The calculation means calculates a weighted sum of the first correlation value, the second correlation value, and the third correlation value as the index.
The mobile object identification device according to claim 7.
を更に備える、
ことを特徴とする請求項1から8のいずれか1項に記載の移動体識別装置。 Display control means for displaying, on the display means together with the moving image, identification information for identifying a measurement apparatus corresponding to each of the at least one moving body of the at least one measurement apparatus;
Further comprising
The mobile object identification device according to any one of claims 1 to 8, characterized in that:
ことを特徴とする請求項1から9のいずれか1項に記載の移動体識別装置。 The imaging device generates the moving image by imaging the at least one moving body that is moving indoors.
The mobile object identification device according to any one of claims 1 to 9, wherein:
ことを特徴とする請求項1から10のいずれか1項に記載の移動体識別装置。 The imaging device generates the moving image by imaging the at least one moving body from obliquely above.
The mobile object identification device according to any one of claims 1 to 10, wherein:
ことを特徴とする請求項1から11のいずれか1項に記載の移動体識別装置。 The at least one measuring device includes an acceleration sensor;
The mobile object identification device according to any one of claims 1 to 11, characterized in that:
ことを特徴とする請求項2に記載の移動体識別装置。 When the absolute value of the difference exceeds the allowable value, the position estimation means estimates that any one of the moving bodies has jumped or bent,
The mobile object identification device according to claim 2, wherein:
ことを特徴とする請求項1から13のいずれか1項に記載の移動体識別装置。 In the time interval, the specifying unit does not use information about movement of the at least one moving body obtained from the moving image captured by the imaging device to specify a correspondence relationship.
The mobile object identification device according to any one of claims 1 to 13,
ことを特徴とする移動体識別システム。 The mobile object identification device according to claim 1, the imaging device, and the at least one measurement device.
A mobile object identification system characterized by the above.
を含み、
前記特定ステップでは、前記少なくとも1つの測定装置のうちのいずれかの測定装置によって測定された移動情報が予め定められた条件を満たした時間区間においては、前記いずれかの測定装置によって測定された前記移動情報を対応関係を特定するために用いない、
ことを特徴とする移動体識別方法。 Obtained from a moving image captured by the imaging device, the first time-series feature relating to the movement of at least one moving body, and the at least one measuring device mounted on the at least one moving body, Based on the second time-series characteristic relating to the movement of at least one moving object, the correspondence relationship between the at least one moving object and the at least one measuring device in the moving image is changed to only one in the moving image. A specific step of specifying a moving body and a single measuring device attached to only one moving body, excluding a correspondence relationship;
Including
In the specifying step, in the time interval in which the movement information measured by any one of the at least one measuring devices satisfies a predetermined condition, the measuring information measured by any one of the measuring devices is used. Do not use movement information to identify correspondences,
A moving body identification method characterized by the above.
撮像装置によって撮像された動画から得られた、少なくとも1つの移動体の移動に関する第1の時系列的特徴と、前記少なくとも1つの移動体に装着された少なくとも1つの測定装置から得られた、前記少なくとも1つの移動体の移動に関する第2の時系列的特徴と、に基づいて、前記動画における前記少なくとも1つの移動体と前記少なくとも1つの測定装置との対応関係を、前記動画における1つのみの移動体と前記1つのみの移動体に装着された1つのみの測定装置との対応関係を除いて特定する特定手段、
として機能させ、
前記特定手段は、前記少なくとも1つの測定装置のうちのいずれかの測定装置によって測定された移動情報が予め定められた条件を満たした時間区間においては、前記いずれかの測定装置によって測定された前記移動情報を対応関係を特定するために用いない、
ことを特徴とするプログラム。 The computer of the mobile object identification device
Obtained from a moving image captured by the imaging device, the first time-series feature relating to the movement of at least one moving body, and the at least one measuring device mounted on the at least one moving body, Based on the second time-series characteristic relating to the movement of at least one moving object, the correspondence relationship between the at least one moving object and the at least one measuring device in the moving image is changed to only one in the moving image. A specifying means for specifying a moving body and a correspondence relationship between only one measuring apparatus mounted on the one moving body;
Function as
In the time interval in which the movement information measured by any one of the at least one measuring devices satisfies a predetermined condition, the specifying unit is measured by any one of the measuring devices. Do not use movement information to identify correspondences,
A program characterized by that.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016130184A JP6772593B2 (en) | 2016-06-30 | 2016-06-30 | Mobile identification device, mobile identification system, mobile identification method and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016130184A JP6772593B2 (en) | 2016-06-30 | 2016-06-30 | Mobile identification device, mobile identification system, mobile identification method and program |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2018005474A true JP2018005474A (en) | 2018-01-11 |
JP2018005474A5 JP2018005474A5 (en) | 2019-07-25 |
JP6772593B2 JP6772593B2 (en) | 2020-10-21 |
Family
ID=60947959
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016130184A Active JP6772593B2 (en) | 2016-06-30 | 2016-06-30 | Mobile identification device, mobile identification system, mobile identification method and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6772593B2 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022249269A1 (en) * | 2021-05-25 | 2022-12-01 | 日本電気株式会社 | Data processing device, data processing method, and non-transitory computer-readable medium |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016186740A (en) * | 2015-03-27 | 2016-10-27 | Kddi株式会社 | Object tracking apparatus for identifying object by use of partial deletion of flow, program, and method |
-
2016
- 2016-06-30 JP JP2016130184A patent/JP6772593B2/en active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016186740A (en) * | 2015-03-27 | 2016-10-27 | Kddi株式会社 | Object tracking apparatus for identifying object by use of partial deletion of flow, program, and method |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022249269A1 (en) * | 2021-05-25 | 2022-12-01 | 日本電気株式会社 | Data processing device, data processing method, and non-transitory computer-readable medium |
Also Published As
Publication number | Publication date |
---|---|
JP6772593B2 (en) | 2020-10-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11348255B2 (en) | Techniques for object tracking | |
CN108028902B (en) | Integrated sensor and video motion analysis method | |
US9448067B2 (en) | System and method for photographing moving subject by means of multiple cameras, and acquiring actual movement trajectory of subject based on photographed images | |
US20100194879A1 (en) | Object motion capturing system and method | |
US20210166479A1 (en) | Program, information processor, and information processing method | |
US20190108391A1 (en) | Information processing device, information processing method, and program | |
JP6444813B2 (en) | Analysis system and analysis method | |
US20140125806A1 (en) | Sports Apparatus and Method | |
CN111353355B (en) | Motion tracking system and method | |
CN104870941A (en) | Display of separate computer vision based pose and inertial sensor based pose | |
CN105850109A (en) | Information processing device, recording medium, and information processing method | |
US20180028861A1 (en) | Information processing device and information processing method | |
JP6690622B2 (en) | Information processing apparatus, information processing system, information processing method, and program | |
JP6772593B2 (en) | Mobile identification device, mobile identification system, mobile identification method and program | |
US20200226787A1 (en) | Information processing apparatus, information processing method, and program | |
CN110169045A (en) | Information processing equipment, information processing method and information processing system | |
JP6705316B2 (en) | MOBILE BODY IDENTIFICATION DEVICE, MOBILE BODY IDENTIFICATION SYSTEM, MOBILE BODY IDENTIFICATION METHOD AND PROGRAM | |
SE1950724A1 (en) | System for analyzing movement in sport | |
JP6710961B2 (en) | Golf swing analysis method | |
JP7054950B1 (en) | Position measurement system and position measurement method | |
KR102547347B1 (en) | A method for tracking a trajectory of an object | |
KR102329785B1 (en) | Method for estimating head direction of terminal for position measurement | |
EP2894603A1 (en) | Sports system and method | |
US20220339496A1 (en) | Ball position identification system, ball position identification method and information storage medium | |
WO2023056524A1 (en) | Systems and methods for generating a biomechanical model of a subject in motion |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190621 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190621 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200421 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200528 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200623 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200818 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200901 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200914 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6772593 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |