JP6852673B2 - センサ装置、センサシステム及び情報処理装置 - Google Patents

センサ装置、センサシステム及び情報処理装置 Download PDF

Info

Publication number
JP6852673B2
JP6852673B2 JP2017538900A JP2017538900A JP6852673B2 JP 6852673 B2 JP6852673 B2 JP 6852673B2 JP 2017538900 A JP2017538900 A JP 2017538900A JP 2017538900 A JP2017538900 A JP 2017538900A JP 6852673 B2 JP6852673 B2 JP 6852673B2
Authority
JP
Japan
Prior art keywords
sensor device
sensor
information
unit
information code
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017538900A
Other languages
English (en)
Other versions
JPWO2017043181A1 (ja
Inventor
功誠 山下
功誠 山下
象 村越
象 村越
卓 青木
卓 青木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPWO2017043181A1 publication Critical patent/JPWO2017043181A1/ja
Application granted granted Critical
Publication of JP6852673B2 publication Critical patent/JP6852673B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01PMEASURING LINEAR OR ANGULAR SPEED, ACCELERATION, DECELERATION, OR SHOCK; INDICATING PRESENCE, ABSENCE, OR DIRECTION, OF MOVEMENT
    • G01P21/00Testing or calibrating of apparatus or devices covered by the preceding groups
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B21/00Measuring arrangements or details thereof, where the measuring technique is not covered by the other groups of this subclass, unspecified or not relevant
    • G01B21/16Measuring arrangements or details thereof, where the measuring technique is not covered by the other groups of this subclass, unspecified or not relevant for measuring distance of clearance between spaced objects
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B21/00Measuring arrangements or details thereof, where the measuring technique is not covered by the other groups of this subclass, unspecified or not relevant
    • G01B21/22Measuring arrangements or details thereof, where the measuring technique is not covered by the other groups of this subclass, unspecified or not relevant for measuring angles or tapers; for testing the alignment of axes
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/10Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration
    • G01C21/12Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning
    • G01C21/16Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning by integrating acceleration or speed, i.e. inertial navigation
    • G01C21/165Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning by integrating acceleration or speed, i.e. inertial navigation combined with non-inertial navigation instruments
    • G01C21/1656Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning by integrating acceleration or speed, i.e. inertial navigation combined with non-inertial navigation instruments with passive imaging devices, e.g. cameras
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01PMEASURING LINEAR OR ANGULAR SPEED, ACCELERATION, DECELERATION, OR SHOCK; INDICATING PRESENCE, ABSENCE, OR DIRECTION, OF MOVEMENT
    • G01P13/00Indicating or recording presence, absence, or direction, of movement

Description

本開示は、センサ装置、センサシステム及び情報処理装置に関する。
近年、身体の動きを可視化(即ち、数値化)するための技術が盛んに開発されている。例えば、スポーツの分野においては、身体の至るところにセンサ装置を取り付けて、測定結果に基づいて身体の動きを可視化し、フォーム改善等に資する技術が開発されている。
例えば、下記特許文献1では、スポーツをプレイするユーザの挙動を示すセンサ情報に基づいて、スポーツに関する情報を生成する技術が開示されている。
特開2013−188426号公報
しかし、センサ装置により測定されるセンサ情報には誤差が含まれ得る。例えば本技術の主センサである慣性センサにはドリフト誤差が含まれるため、センサ情報に基づく計算過程で致命的な累積誤差に繋がり得る。そこで、センサの累積誤差を簡易に低減可能な仕組みが提供されることが望ましい。
本開示によれば、第1の慣性センサと、外部から撮像可能に形成された第1の情報コードと、他のセンサ装置に形成された第2の情報コードを撮像可能な第1の撮像部と、を備えるセンサ装置が提供される。
また、本開示によれば、センサ装置を複数備え、前記センサ装置は、慣性センサと、外部から撮像可能に形成された情報コードと、他の前記センサ装置に設けられた前記情報コードを撮像可能な撮像部と、を有する、センサシステムが提供される。
また、本開示によれば、センサ、外部から撮像可能に形成された情報コード、及び他のセンサ装置に設けられた前記情報コードを撮像可能な撮像部を有する複数のセンサ装置から取得された、センサ情報及び撮像画像を処理する処理部、を備える情報処理装置が提供される。
以上説明したように本開示によれば、センサの累積誤差を簡易に低減可能な仕組みが提供される。なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握され得る他の効果が奏されてもよい。
第1の実施形態に係るセンサシステムの概要を説明するための図である。 同実施形態に係るセンサシステムによる位置情報及び姿勢情報の累積誤差を低減させるための仕組みを説明するための説明図である。 同実施形態に係るセンサ装置の論理的な構成の一例を示すブロック図である。 同実施形態に係る情報コードの一例を示す図である。 同実施形態に係るセンサ装置の論理的な構成の一例を示すブロック図である。 同実施形態に係るセンサシステムによる補正処理の一例を説明するための説明図である。 同実施形態に係るセンサシステムにおいて実行される処理の流れの一例を示すシーケンス図である。 同実施形態に係るセンサ装置において実行される撮像タイミングの制御処理の流れの一例を示すフローチャートである。 同実施形態に係るセンサシステムによる補正処理により累積誤差が低減される様子の一例を示している。 第2の実施形態に係るセンサ装置の論理的な構成の一例を示すブロック図である。 同実施形態に係るサーバの論理的な構成の一例を示すブロック図である。 同実施形態に係るセンサシステムにおいて実行される処理の流れの一例を示すシーケンス図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
また、本明細書及び図面において、実質的に同一の機能構成を有する要素を、同一の符号の後に異なるアルファベットを付して区別する場合もある。例えば、実質的に同一の機能構成を有する複数の要素を、必要に応じてセンサ装置10A、10B及び10Cのように区別する。ただし、実質的に同一の機能構成を有する複数の要素の各々を特に区別する必要がない場合、同一符号のみを付する。例えば、センサ装置10A、10B及び10Cを特に区別する必要が無い場合には、単にセンサ装置10と称する。
なお、説明は以下の順序で行うものとする。
1.はじめに
1.1.慣性航法
1.2.技術的課題
2.第1の実施形態
2.1.センサシステムの概要
2.2.スレーブとして動作するセンサ装置の構成例
2.3.マスタとして動作するセンサ装置の構成例
2.4.処理の流れ
2.5.他の方式との比較
3.第2の実施形態
3.1.センサ装置の構成例
3.2.サーバの構成例
3.3.処理の流れ
4.まとめ
<<1.はじめに>>
<1.1.慣性航法>
慣性センサにより測定されたセンサ情報の利用方法のひとつに、慣性航法(INS:Inertial Navigation System)がある。慣性航法は、角速度及び加速度を複数回積分することで自身の位置を計算することができる技術であり、例えば船舶又は航空機等に採用される。以下、慣性航法を採用するセンサ装置による処理の内容を説明する。
センサ装置は、まず角速度を積分(1回目の積分)することで、自身の姿勢(即ち、実空間における姿勢角度)を計算する。次いで、センサ装置は、加速度を積分(2回目の積分)することで、自身の速度(speed)を計算する。次に、センサ装置は、速度を積分(3回目の積分)することで、自身の移動距離を計算する。そして、センサ装置は、移動距離と姿勢(即ち、移動方向)のベクトルを細分点ごとに合成していくことにより、初期位置を起点とした相対的な位置情報を計算する。初期位置が既知であれば、センサ装置は上記計算により自身の絶対的な位置情報(即ち、実空間における三次元座標)を計算することができる。
慣性航法においては、位置情報の計算のために合計3回の積分計算が行われている。積分計算を経るごとに、積分される対象に含まれる誤差が累積されるので、計算結果に含まれる累積誤差は増大していく。そのため、3回の積分計算を経る位置情報に含まれる累積誤差は、指数関数的に増大することとなる。生のセンサ情報(即ち、角速度及び加速度)に含まれる誤差が微小であったとしても、位置情報に含まれる累積誤差は膨大なものとなり、無視できるものではない。他方、1回の積分計算を経る姿勢情報は、位置情報と比較して累積誤差は小さい。
<1.2.技術的課題>
上述した累積誤差を低減するために、船舶又は航空機等においては、高精度なセンサ装置が利用されている。以下の表に、ウェアラブル機器等に一般的に使用されている民生用MEMS(Micro Electro Mechanical Systems)センサと、船舶又は航空機等に一般的に使用されている工業用リングレーザージャイロ装置及び工業用加速度センサとの、精度の比較例を示した。表1は、姿勢情報の累積誤差が時間経過と共に増大する様子の比較である。表2は、位置情報の累積誤差が時間経過と共に増大する様子の比較である。
Figure 0006852673
Figure 0006852673
上記表1及び表2を参照すると、民生用MEMSセンサの累積誤差は、工業用リングレーザージャイロ装置及び加速度センサの累積誤差と比較して膨大なものとなっている。また、表1と表2とを比較すると、姿勢情報の累積誤差はゆっくりと増加していくのに対し、位置情報の累積誤差は爆発的に増加している。
工業用リングレーザージャイロ装置及び加速度センサにも依然として含まれる累積誤差に関し、船舶又は航空機は、GPS等を用いて絶対的な位置情報を適宜取得し、位置情報の計算結果を補正している。このように、船舶又は航空機においては、高精度なセンサ装置を利用すること、及び外部情報により位置情報を適宜補正することで、累積誤差の低減を実現している。
しかし、ウェアラブル機器に関しては、船舶又は航空機と同様の手段をとることは困難である。高精度なセンサ装置は、高価で大きく且つ重いので、人の身体に装着するような用途には向いていない。また、GPSでは誤差が数メートルに及び得ることを考慮すれば、人の身体の動きをセンシングするウェアラブル機器のための補正手段としては適切ではない。長時間のGPS信号の受信により精密な測定も可能となるが、人の身体が動くことを考慮すれば、やはりウェアラブル機器のための補正手段としては適切ではない。
<<2.第1の実施形態>>
<2.1.センサシステムの概要>
図1は、本実施形態に係るセンサシステム1の概要を説明するための図である。図1に示すように、センサシステム1は、センサ装着用装備20に取り付けられた複数のセンサ装置10(即ち、10A〜10C)を含む。
センサ装置10は、各種データをセンシングする装置である。センサ装置10は、センサ装着用装備20が有するセンサ取付具21に取り付けられ、対象物の動きを対象としたセンシングを行う。対象物は、人間、犬、猫その他の生物であってもよいし、ロボット等の無生物であってもよい。図1に示した例では、対象物はユーザ(即ち、人間)である。また、対象物は、生物により使用される物体であってもよい。例えば、対象物は、ゴルフクラブやテニスラケット、ボール、スキー板、スキーブーツ、ゴール、バット等の競技のために使用される道具であってもよい。また、対象物は、義手や車椅子等の生活のために使用される道具であってもよい。また、対象物は、首輪や馬蹄等の動物に使用される装具であってもよい。
センサ装置10は、単体で又は他のセンサ装置10との組み合わせにより、多様なデータを測定することが可能である。センサ装置10は、例えば慣性センサを含み得る。そのため、慣性航法により各々のセンサ装置10の位置情報及び姿勢情報を計算することができる。また、複数のセンサ装置10の位置情報及び姿勢情報の組み合わせにより、体の動き(例えば、2つのセンサ装置10で挟まれた関節の曲がり度合い、腕を振る速度、ゴルフクラブの軌跡等)を計算することできる。なお、センサ装置10によるセンシング結果(即ち、センサ情報)からこれらの情報を計算する処理は、センサ装置10自身により行われてもよいし、サーバ等の他の装置により行われてもよい。
センサ装着用装備20は、対象物にセンサ装置10を固定するための装備である。図1に示すように、センサ装着用装備20は、センサ装置10を着脱可能に取り付けるための取り付け位置(センサ取付具21)をひとつ以上備え、その一部又は全部にセンサ装置10を取り付け可能である。センサ装着用装備20は、ユーザの体幹や手足等の一部又は全部を覆う形状であってもよく、その場合はユーザの動きを妨げないために伸縮可能な素材により形成されることが望ましい。また、取り付けられたセンサ装置10が対象物と離隔していてもよく、センサ装着用装備20は、例えばヘルメットやプロテクター等のような厚みを持っていてもよい。他にも、センサ装着用装備20は、ゴルフクラブやテニスラケット、スキー板等の物体に装着され、又は物体と一体的に形成されてもよい。ユーザは、測定したい部位に位置するセンサ取付具21に、センサ装置10を取り付けることができる。
図2は、このようなセンサシステム1における、上記説明した位置情報及び姿勢情報の累積誤差を低減させるための仕組みを説明するための説明図である。図2に示すように、センサ装置10の形状は立方体であり、その個々の面には、外部から撮像可能に情報コード30が形成されている。情報コードは、例えば2次元コード、バーコード、QRコード(登録商標)又はARマーカー等であってもよい。また、他のセンサ装置10に形成された情報コードを撮像可能なカメラ40が設けられている。例えば、センサ装置10Aのカメラ40Aは、センサ装置10Bの情報コード30B及びセンサ装置10Cの情報コード30Cを、それぞれが画角に入ったタイミングで撮像可能である。
つまり、各々のセンサ装置10は、慣性センサによりセンサ情報を測定することに加えて、互いに他のセンサ装置10の情報コードの撮像画像を撮像することとなる。情報コードの撮像画像を画像認識することで、撮像したセンサ装置10と被写体の他のセンサ装置10との相対的な位置関係(即ち、相対距離)及び姿勢関係(即ち、相対角度)が認識可能となる。本実施形態に係るセンサシステム1は、この相対的な位置関係及び姿勢関係に基づいて、慣性航法により計算された姿勢情報及び位置情報を補正する。このような仕組みにより、センサの累積誤差を低減することが可能となる。
なお、補正処理は、各々のセンサ装置10において行われてもよいし、サーバ等の他の装置により行われてもよい。本実施形態では、一例として、ひとつのセンサ装置10(例えば、センサ装置10A)がマスタとして一括的に補正処理を行い、他のセンサ装置10(例えば、センサ装置10B及び10C)がスレーブとして動作する例を説明する。
なお、立方体はセンサ装置10の形状の一例であり、他の任意の形状であってもよい。また、情報コード及びカメラは別箇に形成されていてもよいし、ひとつのセンサ装置10に設けられる各々の数は任意である。
<2.2.スレーブとして動作するセンサ装置の構成例>
図3は、スレーブとして動作するセンサ装置10B及び10Cの論理的な構成の一例を示すブロック図である。以下では、スレーブとして動作するセンサ装置10B及び10Cを、単にスレーブ10とも称する。図3に示すように、スレーブ10は、慣性センサ110、撮像部120、通信部130、表示部140、記憶部150及び処理部160を有する。
慣性センサ110は、慣性を利用して測定を行う装置である。慣性センサ110は、加速度センサ、ジャイロセンサ、及び地磁気センサ等を含み、測定したセンサ情報(例えば、加速度及び角速度)を処理部160へ出力する。慣性センサ110は、例えばMEMSセンサであってもよい。
撮像部120は、レンズ系、レンズ系を駆動する駆動系、及びレンズ系により得られる撮像光を光電変換して撮像信号を生成する個体撮像素子アレイ等を有し、撮像画像を撮像する装置である。撮像部120は、図2に示したカメラ40に相当する。即ち、撮像部120は、他のセンサ装置(例えば、他のスレーブ又はマスタ)10に形成された情報コードを撮像可能である。
通信部130は、有線/無線により他のセンサ装置10との間でデータの送受信を行うための通信モジュールである。通信部130は、例えばLAN(Local Area Network)、無線LAN、Wi−Fi(登録商標)、Bluetooth(登録商標)又は赤外線通信等の任意の通信方式に準拠した通信を行い得る。通信部130は、スレーブ10により測定、撮像又は計算された情報を他のセンサ装置10へ送信し、他のセンサ装置10により測定、撮像又は計算された情報を受信する。
表示部140は、画像の表示を行う表示装置である。表示部140は、例えば情報コードを表示する。情報コードは、固定的に形成(即ち、表示)されてもよいし、可変に形成されてもよい。表示部140は、LCD(Liquid Crystal Display)、OLED(Organic Light-Emitting Diode)、又は電子ペーパーなどにより実現され得る。
記憶部150は、スレーブ10の動作のためのプログラム及び様々なデータを一時的に又は恒久的に記憶する。例えば、記憶部150は、他のセンサ装置10へ送信すべき情報を一時的に記憶する。また、記憶部150は、スレーブ10の移動軌跡を示す情報を記憶する。
処理部160は、CPU又はDSPなどに相当し、スレーブ10の様々な機能を提供するための処理を行う。図3に示すように、処理部160は、センサ情報取得部161、運動状態計算部162、外部情報取得部163、撮像画像取得部164、認識部165、表示制御部166、慣性航法部167及び通知部168を有する。なお、処理部160は、これらの構成要素以外の他の構成要素をさらに含み得る。即ち、処理部160は、これらの構成要素の動作以外の動作も行い得る。
センサ情報取得部161は、慣性センサ110により測定されたセンサ情報を取得する。センサ情報取得部161は、取得されたセンサ情報に測定時刻を対応付けて、運動状態計算部162及び慣性航法部167へ出力する。
運動状態計算部162は、センサ情報に基づいて運動状態を示す運動状態情報を計算する。運動状態情報は、例えば加速度を積分することで得られる速度であってもよいし、角速度を積分することで得られる姿勢であってもよいし、加速度又は角速度そのものであってもよい。運動状態計算部162は、運動状態情報を、センサ情報の測定時刻に対応付けて、撮像画像取得部164、表示制御部166及び通知部168へ出力する。
外部情報取得部163は、通信部130により受信された情報を取得する。例えば、外部情報取得部163は、他のセンサ装置10の運動状態情報、及びマスタによる補正結果を示す情報を取得する。外部情報取得部163は、他のセンサ装置10の運動状態情報を、撮像画像取得部164へ出力する。また、外部情報取得部163は、マスタによる補正結果を示す情報を慣性航法部167へ出力する。
撮像画像取得部164は、撮像部120から撮像画像を取得する。撮像画像取得部164は、撮像部120による撮像タイミングを制御し得る。例えば、撮像画像取得部164は、他のセンサ装置10の情報コードが画角に入ったタイミングで撮像させる。さらに、撮像画像取得部164は、スレーブ10の運動状態情報及び/又は他のセンサ装置10の運動状態情報に基づいて撮像タイミングを制御してもよい。例えば、撮像画像取得部164は、スレーブ10若しくは他のセンサ装置10の運動の大きさ(例えば、個々の速度)又はスレーブ10と他のセンサ装置10との相対的な運動の大きさ(例えば、相対速度)が、閾値を下回る場合に、他のセンサ装置10に形成された情報コードを撮像させる。これにより、カメラブレ又は被写体ブレに起因する撮像画像のぼやけを軽減することが可能となり、後述する認識部165による認識精度の低下を防止することができる。撮像画像取得部164は、取得した撮像画像を認識部165へ出力する。
認識部165は、スレーブ10及び他のセンサ装置10に関する、相対的な距離又は姿勢の少なくともいずれかを示す相対関係情報を取得する。例えば、認識部165は、撮像部120により撮像された他のセンサ装置10の(即ち、他のセンサ装置10の表示部140に表示された)情報コードの撮像画像に基づいて、スレーブ10と他のセンサ装置10との相対関係を認識する。具体的には、認識部165は、撮像画像に含まれる情報コードの大きさから相対的な距離を認識し、撮像画像に含まれる情報コードの姿勢から相対的な姿勢を認識する。例えば、情報コードは、ARマーカーであってもよく、ARマーカーの位置及び姿勢を推定するためのアルゴリズムは、例えば「加藤博一,Mark Billinghurst,浅野浩一,橘啓八郎:マーカー追跡に基づく拡張現実感システムとそのキャリブレーション,TVRSJ,Vol.4,No.4,1999」で詳しく説明されている。情報コードには、各々のセンサ装置10を識別するための識別情報が含まれており、認識部165は、認識した相対関係情報が、他のどのセンサ装置10との相対関係を示すかを特定することが可能である。なお、相対関係情報のうち相対的な距離は、センサ装置10と他のセンサ装置10との間の通信結果(例えば、電波の到達時間)に基づいて認識されてもよい。そのような電波としては、例えばUWB(Ultra Wide Band)が利用され得る。その場合、各々のセンサ装置10に含まれる通信部130は、UWBに準拠した電波の送受信を行う。認識部165は、認識した相対関係情報を表示制御部166及び通知部168へ出力する。なお、UWB以外にも、例えば802.11azも測距可能な無線技術として規格が検討されているように、無線信号を用いた相対的な距離の認識手段はUWBを使用するものに限定されない。
表示制御部166は、表示部140による表示を制御する。例えば、表示制御部166は、表示部140により表示される情報コードを、他のセンサ装置10にとって認識容易となるよう、運動状態情報及び/又は相対関係情報に基づいて制御する。具体的には、表示制御部166は、スレーブ10が動く方向と同一の方向に空間周波数が小さく、他の方向に空間周波数が大きい情報コードを、表示部140に表示させる。図4は、このような制御により表示される情報コードの一例を示す図である。例えば、スレーブ10がX方向に動いている場合、表示部140は、X方向に空間周波数が小さく、Y方向に空間周波数が大きい情報コード30Dを表示する。これにより、他のセンサ装置10が情報コード30Dを撮像した際に生じ得るX方向のブレの影響が軽減される。一方で、スレーブ10がY方向に動いている場合、表示部140は、Y方向に空間周波数が小さく、X方向に空間周波数が大きい情報コード30Eを表示する。同様の観点で、表示制御部166は、他のセンサ装置10を基準として相対的にスレーブ10が動く方向と同一の方向に空間周波数が小さく、他の方向に空間周波数が大きい情報コードを、表示部140に表示させてもよい。この場合、他のセンサ装置10の動きも加味される。また、センサ装置10を装着したユーザの挙動が予測可能である場合、表示制御部166は、ユーザの挙動の予測に合わせて情報コードの表示制御を行ってもよい。例えば、表示制御部166は、ユーザがテニスをプレイしている場合に、スイングの軌跡と同一の方向に空間周波数が小さい情報コードを表示させてもよい。ユーザの挙動予測のために、例えばスポーツの種類等がユーザにより入力されてもよいし、予測モデルの学習が行われてもよい。
慣性航法部167は、センサ情報に基づいて、慣性航法によりスレーブ10の位置情報及び姿勢情報を計算する。ここで、外部情報取得部163からマスタによる補正結果を示す情報が出力された場合、慣性航法部167は、この補正結果を示す情報を反映する。具体的には、慣性航法部167は、スレーブ10自身の位置情報及び姿勢情報を、補正された位置情報及び姿勢情報により上書きする。これにより、以降の計算結果に含まれる累積誤差は低減されることとなる。慣性航法部167は、計算した位置情報及び姿勢情報を通知部168へ出力する。
通知部168は、慣性センサ110により測定されたセンサ情報、撮像部120により撮像された撮像画像又はこれらに基づく計算結果を示す情報の少なくともいずれかを、測定時刻又は撮像時刻に対応付けて、他のセンサ装置10へ通知する。通知部168は、通信部130を介してこの通知を行う。なお、センサ情報又は撮像画像に基づく計算結果を示す情報とは、相対関係情報、運動状態情報、位置情報又は姿勢情報の少なくともいずれかである。これらの通知により、マスタにおける補正処理が可能になる。また、これらの通知により、他のセンサ装置10において、スレーブ10の動きに基づく撮像タイミングの制御、及び情報コードの表示制御が可能となる。
<2.3.マスタとして動作するセンサ装置の構成例>
図5は、マスタとして動作するセンサ装置10Aの論理的な構成の一例を示すブロック図である。以下では、マスタとして動作するセンサ装置10Aを、単にマスタ10とも称する。図5に示すように、マスタ10は、慣性センサ110、撮像部120、通信部130、表示部140、記憶部150及び処理部160を有する。
なお、慣性センサ110、撮像部120、通信部130、表示部140及び記憶部150の機能は、スレーブ10と同様である。スレーブ10に関してした上記説明の、スレーブ10をマスタ10に読み替え、他のセンサ装置10をスレーブとして動作するセンサ装置10に読み替えればよい。
処理部160は、CPU又はDSPなどに相当し、マスタ10の様々な機能を提供するための処理を行う。図5に示すように、処理部160は、センサ情報取得部161、運動状態計算部162、外部情報取得部163、撮像画像取得部164、認識部165、表示制御部166、慣性航法部167、通知部168及び補正部169を有する。なお、処理部160は、これらの構成要素以外の他の構成要素をさらに含み得る。即ち、処理部160は、これらの構成要素の動作以外の動作も行い得る。
なお、センサ情報取得部161、運動状態計算部162、外部情報取得部163、撮像画像取得部164、認識部165、表示制御部166、慣性航法部167及び通知部168の機能は、スレーブ10と同様である。スレーブ10に関してした上記説明の、スレーブ10をマスタ10に読み替え、他のセンサ装置10をスレーブとして動作するセンサ装置10に読み替えればよい。以下では、スレーブ10と相違する部分について説明する。
外部情報取得部163は、他のセンサ装置10の運動状態情報、相対関係情報、位置情報及び姿勢情報を取得する。ここで、他のセンサ装置10から取得される相対関係情報は、他のセンサ装置10により撮像されたマスタ10の情報コードの撮像画像に基づいて認識される、他のセンサ装置10及びマスタ10に関する相対関係情報であってもよい。また、他のセンサ装置10から取得される相対関係情報は、他のセンサ装置10により撮像されたさらに他のセンサ装置10の情報コードの撮像画像に基づいて認識される、他のセンサ装置10同士に関する相対関係情報であってもよい。外部情報取得部163は、他のセンサ装置10の運動状態情報を撮像画像取得部164へ出力する。また、外部情報取得部163は、他のセンサ装置10の相対関係情報、位置情報及び姿勢情報を補正部169へ出力する。
認識部165は、認識した相対関係情報を表示制御部166及び補正部169へ出力する。
慣性航法部167は、センサ情報に基づいて、慣性航法によりスレーブ10の位置情報及び姿勢情報を計算する。また、慣性航法部167は、補正部169による補正結果を示す情報を反映する。具体的には、慣性航法部167は、マスタ10自身の位置情報及び姿勢情報を、補正された位置情報及び姿勢情報により上書きする。これにより、以降の計算結果に含まれる累積誤差は低減されることとなる。慣性航法部167は、計算した位置情報及び姿勢情報を補正部169へ出力する。
通知部168が通知する情報のうち、センサ情報又は撮像画像に基づく計算結果を示す情報には、補正部169による補正結果を示す情報が含まれる。これにより、他のセンサ装置10において、補正結果の反映が可能となる。
補正部169は、センサ情報から算出された積分値を、相対関係情報に基づいて補正する。この積分値は、角速度及び加速度に基づいて算出される位置情報であってもよい。この場合、位置情報に含まれる累積誤差を低減することが可能となる。また、この積分値は、角速度に基づいて算出される姿勢情報であってもよい。この場合、姿勢情報に含まれる累積誤差を低減することが可能となる。補正部169は、第1に、慣性センサ110により測定されたセンサ情報から算出された積分値、即ちマスタ10自身の慣性航法部167による計算結果を補正する。これにより、マスタ10自身の位置情報及び姿勢情報に含まれる累積誤差を低減することが可能となる。補正部169は、この補正結果を示す情報を慣性航法部167へ出力する。また、補正部169は、第2に、他のセンサ装置10により測定されたセンサ情報から算出された積分値、即ち他のセンサ装置10の慣性航法部167による計算結果を補正する。これにより、他のセンサ装置10の位置情報及び姿勢情報に含まれる累積誤差を低減することが可能となる。補正部169は、この補正結果を示す情報を通知部168へ出力する。以下、図6を参照して、補正処理を具体的に説明する。
図6は、本実施形態に係るセンサシステム1による補正処理の一例を説明するための説明図である。図6に示した例は、3つのセンサ装置10から成る三角形に基づく補正の例である。
ユーザは、複数のセンサ装置を装着する。センサシステム1(例えば、補正部169)は、ユーザに装着された複数のセンサ装置10のうち、任意の3つのセンサ装置10により形成される空間上の三角形配置を利用して、補正処理を行う。本手法では、センサシステム1は、2つの三角形を利用する。1つ目は、慣性センサを用いて時々刻々連続的に形成される三角形である。2つ目は、画像センサを用いて断続的に形成される三角形である。センサシステム1は、慣性センサによる連続的な三角形を、画像センサによる断続的な三角形で補正することで累積誤差を補正する。
まず、1つ目の慣性センサを使った三角形の形成方法について述べる。まず、センサシステム1は、最初に初期設定を行う。ユーザは、センサ装置10を装着後に静止状態をとる。センサシステム1は、この静止状態で、三角形の各頂点に配置されている3つのセンサ装置10の空間座標の初期位置を決める。これについては、ユーザが手動で空間座標設定してもよいし、センサシステム1がその他の画像処理などの既知手法で空間座標を決めてもよい。
センサシステム1は、モーションキャプチャー動作を開始したあとは、時々刻々得られる慣性センサのセンサ情報から、三角形の各頂点のセンサ装置10の位置及び姿勢角度を算出して、時々刻々更新していく。この場合、例えばセンサ装置10Aを基準点と決めることで、その点を基点とした三角形が常に連続的に形成され続ける。
次に、2つ目の画像センサを使った三角形の形成方法について述べる。画像センサにより、センサ装置10Aと10Bとを結ぶ辺50ABの長さ(即ち、相対距離)は、センサ装置10A及び10Bに関する相対関係情報としても得られる。センサ装置10Bと10Cとを結ぶ辺50BCの長さは、センサ装置10B及び10Cに関する相対関係情報によっても得られる。センサ装置10Aと10Cとを結ぶ辺50ACの長さは、センサ装置10A及び10Cに関する相対関係情報よっても得られる。このように、三角形の三辺の長さが得られる。もちろん三辺の長さの取得には、UWBなどの無線測距技術が用いられてもよい。また、同様に画像認識結果から、角度60A、60B及び60Cが得られる。センサシステム1は、三辺の長さと相対角度とに基づいて、空間上に三角形を形成することができる。例えばセンサ装置10Aを基準点と決めることで、その点を基点とした三角形が得られる。情報コードが隠れることもあるため、この三角形は、断続的に得られる情報である。
画像センサから得られる三角形は断続的ではあるが、画像認識の性質上、誤差が累積するものではない。一方で、慣性センサから得られる三角形は連続的ではあるが、慣性センサの性質上、誤差が累積する。よって、センサシステム1は、慣性センサから得られる三角形情報を、断続的に画像センサから得られる三角形情報で上書き更新することで、連続モーションキャプチャー動作を継続しつつ、誤差の累積を断続的にリセットすることができる。
また、センサシステム1は、内角の和が180度であるという条件から、角度60A、60B及び60Cが求まるという性質を利用して、慣性センサから得られる連続的な三角形の姿勢角度情報の一部を補正してもよい。
要約すると、補正部169は、センサ装置10A、10B又は10Cのいずれかを基準点として固定し(即ち、位置情報及び姿勢情報を補正しない)、上記判明した三角形の各辺の長さ及び角度が実現される位置に他のセンサ装置10が位置するものとする(即ち、位置情報及び姿勢情報を補正する)。なお、上記では相対関係情報から三角形の三辺の長さを採用して三角形を形成したが、例えば二辺の長さとその間の角度(即ち、相対角度)、又は1辺の長さとその両端の角度が相対関係情報から採用されて、三角形が形成されてもよい。
なお、慣性センサの性質上、単位時間当たりの累積誤差は位置情報の方が姿勢角度情報よりもはるかに大きいため、センサシステム1の用途が短時間のモーションキャプチャーである場合、位置情報のみ補正すれば十分である、とも言える。その場合、センサシステム1は、慣性センサにより連続的に形成される三角形の3辺の長さを、UWB等の無線測距技術により得られる3辺の長さに基づいて制約する又は補正をかけることで、各頂点の座標位置を短時間であれば補正することができる。この場合、センサ装置10は、撮像部120及び表示部140を有さなくてもよく、それに代えて、通信部130がUWB等の測距可能な無線インタフェースを有していればよい。
また、センサ装置10を装着したユーザの挙動が予測可能である場合、補正部169は、予測したユーザの挙動に応じて補正してもよい。例えば、補正部169は、事前に構築された各スポーツに特化した人体骨格の動作モデルに基づき、当該動作モデルから大きく外れないよう位置情報及び姿勢情報を補正する。この動きモデルには、例えば各々のスポーツの各種動作における関節位置、関節の動き、手足の動き、身体の捻り、及び重心の移動等の時系列変化を示す情報が含まれ得る。このような動作モデルは、例えば各々の関節位置にセンサ装置10を装着したユーザの動作の測定結果の蓄積に基づいて、学習され得る。
<2.4.処理の流れ>
(1)全体的な処理の流れ
図7は、本実施形態に係るセンサシステム1において実行される処理の流れの一例を示すシーケンス図である。本シーケンスには、マスタ10及び複数のスレーブ10が関与する。
まず、マスタ10及びスレーブ10は、慣性航法における位置及び姿勢を初期化する(ステップS102)。次いで、マスタ10及びスレーブ10は、それぞれセンサ情報を取得して(ステップS104)、運動状態情報を計算し(ステップS106)、共有する(ステップS108)。ここで、スレーブ10間でも運動状態情報は共有される。
次に、マスタ10及びスレーブ10は、撮像画像を取得して(ステップS110)、取得した撮像画像に基づいて相対関係情報を計算する(ステップS112)。スレーブ10は、計算した相対関係情報をマスタ10へ通知する(ステップS114)。このとき、マスタ10へ通知される相対関係情報は、スレーブ10及びマスタ10に関する相対関係情報、並びにスレーブ10同士に関する相対関係情報を含む。なお、本シーケンスでは省略されているが、マスタ10及びセンサ装置10においては、運動状態情報及び/又は相対関係情報に基づいて、情報コードの表示制御、及び撮像タイミングの制御が行われる。
次いで、マスタ10及びスレーブ10は、センサ情報に基づいて、慣性航法により各々の位置情報及び姿勢情報を計算する(ステップS116)。スレーブ10は、計算した位置情報及び姿勢情報をマスタ10へ通知する(ステップS118)。
そして、マスタ10は、自身で計算した又はスレーブ10から収集した位置情報及び姿勢情報を、相対関係情報に基づいて補正する(ステップS120)。マスタ10は、補正結果を示す情報のフィードバックを行い(ステップS122)、各々のスレーブ10は、フィードバックを自身の位置情報及び姿勢情報に反映する(ステップS124)。
以上により処理は終了する。なお、上記説明したステップS104〜S124に係る処理は繰り返し行われてもよく、非同期的に行われてもよい。
(2)撮像タイミングの制御処理
図8は、本実施形態に係るセンサ装置10において実行される撮像タイミングの制御処理の流れの一例を示すフローチャートである。なお、ここで説明する処理は、図7を参照して上記説明したシーケンスにおけるステップS110の処理をより詳細にしたものである。
まず、撮像画像取得部164は、センサ装置10自身の速度は閾値未満であるか否かを、センサ装置10自身の運動状態情報に基づいて判定する(ステップS202)。また、撮像画像取得部164は、速度が閾値未満である他のセンサ装置10が有るか否かを、他のセンサ装置10の運動状態情報に基づいて判定する(ステップS204)。これらの各ステップにおける閾値は、一致していてもよいし異なっていてもよい。
センサ装置10自身の速度が閾値未満であり、且つ速度が閾値未満の他のセンサ装置10が有ると判定された場合(ステップS202/YES且つステップS204/YES)、撮像画像取得部164は、速度が閾値未満と判定された他のセンサ装置10の撮像画像を取得する。例えば、撮像画像取得部164は、速度が閾値未満と判定された他のセンサ装置10が画角に入ったタイミングで撮像部120に撮像指示を出力し、撮像部120から撮像画像を取得する。
センサ装置10自身の速度が閾値未満でないと判定された場合、又は速度が閾値未満の他のセンサ装置10が無いと判定された場合(ステップS202/NO又はステップS204/NO)、撮像画像取得部164は、撮像画像の取得は行わない。
以上により処理は終了する。
<2.5.他の方式との比較>
以上、本実施形態に係るセンサシステム1について詳細に説明した。上記説明したように、本実施形態に係るセンサシステム1は、慣性航法における累積誤差を、別途計算したセンサ装置10同士の相対関係に基づく補正処理により低減することが可能である。図9は、このような補正処理により累積誤差が低減される様子の一例を示している。図9の左図(符号71)は、補正処理が行われない場合における、位置情報の累積誤差が指数的に増大する様子を示している。図9の右図(符号72)は、補正処理が行われる場合における、位置情報の累積誤差が適宜低減される様子を示している。この低減されるタイミングは、例えば複数のセンサ装置10に関する相対関係情報が揃うタイミングである。図9に示したように、本技術によれば、累積誤差を適宜低減することが可能となるので、安価で低精度な民生用のMEMSセンサを用いたとしても、精度を維持した測定が可能となる。
ユーザの身体の動きを可視化するための技術は、例えばモーションキャプチャー技術として知られている。その一方式として、ユーザが全身スーツを着用し、工業用センサを関節の各々に装着して、既知なセンサ間の距離と累積誤差が比較的少ない姿勢情報とに基づいて身体の動きを可視化(即ち、センサの位置情報を推定)する技術がある。そのような技術には、例えば順運動学(Forward kinematics)方式、及び逆運動学(Inverse kinematics)方式等がある。しかし、このような方式では、すべての関節に関する角度の情報が要される上に、重いスーツを着用することが要される。これに対し、本実施形態に係る技術は、これらの要求は課されないので、上記モーションキャプチャー技術と比較して簡易な仕組みであると言える。他にも、固定的に設置された赤外線センサを用いる方式もあるが、設備設定が煩雑であるし、赤外線を利用しているため屋外での利用が困難であった。これに対し、本実施形態に係る技術は、固定的な設備は不要であるし、撮像画像を利用するので屋外での利用も可能である。また、赤外線センサを用いる場合、速度応答性は赤外線センサ(例えば、赤外線カメラ)のフレームレートに依存することとなる。これに対し、本実施形態に係る技術は、補正こそ撮像部120のフレームレートに依存し得るものの、位置情報及び姿勢情報は慣性センサによる測定結果に基づいて計算されるので、赤外線センサを用いる場合と比較して速度応答性は高い。即ち、本実施形態に係る技術は、スポーツの早い動きも適切に測定可能である。
<<3.第2の実施形態>>
本実施形態は、センサ情報に基づく計算がセンサ装置以外の他の情報処理装置において行われる形態である。ここでは、後述するサーバ80において計算が行われるものとして説明する。
<3.1.センサ装置の構成例>
図10は、本実施形態に係るセンサ装置10の論理的な構成の一例を示すブロック図である。図10に示すように、センサ装置10は、慣性センサ110、撮像部120、通信部130、表示部140、記憶部150及び処理部160を有する。
慣性センサ110、撮像部120、通信部130、表示部140及び記憶部150の機能は、第1の実施形態において説明した通りである。
処理部160は、CPU又はDSPなどに相当し、マスタ10の様々な機能を提供するための処理を行う。図10に示すように、処理部160は、センサ情報取得部161、外部情報取得部163、撮像画像取得部164、表示制御部166及び通知部168を有する。なお、処理部160は、これらの構成要素以外の他の構成要素をさらに含み得る。即ち、処理部160は、これらの構成要素の動作以外の動作も行い得る。
処理部160が含む各構成要素の機能は、第1の実施形態において説明した通りである。以下では、第1の実施形態と相違する部分について説明する。
センサ情報取得部161は、センサ情報に測定時刻を対応付けて、通知部168へ出力する。
外部情報取得部163は、サーバ80からの情報を取得する。例えば、外部情報取得部163は、センサ装置10自身の運動状態情報及び相対関係情報を取得する。また、外部情報取得部163は、他のセンサ装置10の運動状態情報を取得する。外部情報取得部163は、センサ装置10自身及び他のセンサ装置10の運動状態情報を撮像画像取得部164へ出力する。また、外部情報取得部163は、センサ装置10自身の運動状態情報、並びにセンサ装置10自身の相対関係情報を表示制御部166へ出力する。
撮像画像取得部164は、外部情報取得部163から得たセンサ装置10自身の運動状態情報及び/又は他のセンサ装置10の運動状態情報に基づいて、撮像タイミングを制御する。撮像画像取得部164は、取得した撮像画像を通知部168へ出力する。
表示制御部166は、外部情報取得部163から得た運動状態情報及び/又は相対関係情報に基づいて、表示部140により表示される情報コードを制御する。
通知部168は、センサ情報取得部161から得たセンサ情報を測定時刻に対応付けて、及び撮像画像取得部164から得た撮像画像を撮像時刻に対応付けて、サーバ80へ通知する。
<3.2.サーバの構成例>
図11は、本実施形態に係るサーバ80の論理的な構成の一例を示すブロック図である。図11に示すように、サーバ80は、通信部810、記憶部820及び処理部830を有する。
通信部810は、有線/無線によりセンサ装置10との間でデータの送受信を行うための通信モジュールである。通信部810は、例えばLAN、無線LAN、Wi−Fi、Bluetooth、又は赤外線通信等の任意の通信方式に準拠した通信を行い得る。通信部810は、センサ装置10からセンサ情報及び撮像画像を受信し、それらに基づく計算結果を示す情報をセンサ装置10へ送信する。
記憶部820は、サーバ80の動作のためのプログラム及び様々なデータを一時的に又は恒久的に記憶する。例えば、記憶部820は、センサ装置10へ送信すべき情報を一時的に記憶する。また、記憶部150は、センサ装置10の移動軌跡を示す情報を記憶する。
処理部830は、CPU又はDSPなどに相当し、サーバ80の様々な機能を提供するための処理を行う。図11に示すように、処理部830は、外部情報取得部163、運動状態計算部162、認識部165、慣性航法部167、通知部168及び補正部169を有する。なお、処理部830は、これらの構成要素以外の他の構成要素をさらに含み得る。即ち、処理部830は、これらの構成要素の動作以外の動作も行い得る。
処理部830が含む各構成要素の機能は、第1の実施形態において説明した通りである。以下では、第1の実施形態と相違する部分について説明する。
外部情報取得部163は、センサ装置10からの情報を取得する。例えば、外部情報取得部163は、各々のセンサ装置10において測定されたセンサ情報、及び撮像された撮像画像を取得する。外部情報取得部163は、センサ情報を運動状態計算部162及び慣性航法部167へ出力し、撮像画像を認識部165へ出力する。
運動状態計算部162は、各々のセンサ装置10において測定されたセンサ情報に基づいて、各々のセンサ装置10の運動状態情報を計算する。運動状態計算部162は、運動状態情報を通知部168へ出力する。
認識部165は、各々のセンサ装置10において撮像された撮像画像に基づいて、各々のセンサ装置10について相対関係情報を計算する。認識部165は、相対関係情報を通知部168及び補正部169へ出力する。
通知部168は、運動状態情報及び相対関係情報を各々のセンサ装置10へ通知する。
慣性航法部167は、各々のセンサ装置10において測定されたセンサ情報に基づいて、慣性航法により各々のセンサ装置10の位置情報及び姿勢情報を計算する。また、慣性航法部167は、各々のセンサ装置10に関し、補正部169による補正結果を示す情報を反映する。慣性航法部167は、計算した位置情報及び姿勢情報を補正部169へ出力する。
補正部169は、各々のセンサ装置10の位置情報及び姿勢情報を、相対関係情報に基づいて補正する。補正部169は、補正結果を示す情報を慣性航法部167へ出力する。
<3.3.処理の流れ>
図12は、本実施形態に係るセンサシステム1において実行される処理の流れの一例を示すシーケンス図である。本シーケンスには、サーバ80及び複数のセンサ装置10が関与する。
まず、サーバ80は、各々のセンサ装置10の慣性航法における位置及び姿勢を初期化する(ステップS302)。
次いで、センサ装置10は、それぞれセンサ情報を取得し(ステップS304)、撮像画像を取得し(ステップS306)、センサ情報及び撮像画像をサーバ80へ通知する(ステップS308)。
次に、サーバ80は、各々のセンサ装置10から通知された撮像画像に基づいて、各々のセンサ装置10の相対関係情報を計算する(ステップS310)。次いで、サーバ80は、各々のセンサ装置10から通知されたセンサ情報に基づいて、各々のセンサ装置10の運動状態情報を計算する(ステップS312)。次に、サーバ80は、運動状態情報及び相対関係情報を各々のセンサ装置10へ通知する(ステップS314)。本シーケンスでは省略されているが、各々のセンサ装置10においては、これらの情報に基づいて情報コードの表示制御、及び撮像タイミングの制御が行われる。
次いで、サーバ80は、各々のセンサ装置10から通知されたセンサ情報に基づいて、慣性航法により各々の位置情報及び姿勢情報を計算する(ステップS316)。そして、サーバ80は、各々のセンサ装置10の位置情報及び姿勢情報を、各々の相対関係情報に基づいて補正する(ステップS318)。
以上により処理は終了する。なお、上記説明したステップS304〜S318に係る処理は繰り返し行われてもよく、非同期的に行われてもよい。
<<4.まとめ>>
以上、図1〜図12を参照して、本開示の一実施形態について詳細に説明した。上記説明したように、本実施形態に係るセンサ装置10は、慣性センサと、外部から撮像可能に形成された情報コードと、他のセンサ装置10に形成された情報コードを撮像可能な撮像部と、を有する。各々のセンサ装置10は、慣性センサにより測定すると共に、互いに情報コードを撮像する。これにより、慣性センサにより得られたセンサ情報から慣性航法により計算される姿勢情報及び位置情報を、撮像画像により得られる相対関係情報に基づいて補正することが可能となる。このように、センサの累積誤差を簡易に低減可能な仕組みが提供される。
本技術は様々な分野に応用可能である。例えば、スポーツ選手にセンサ装置10を装着させることで、被写体(例えば、装着したスポーツ選手自身又は対戦相手)の動きブレが少ないタイミングで、自動的に撮像するカメラを実現することができる。また、複数の自動運転体(例えば、ドローン又は車)の各々にセンサ装置10を装着させることで、互いに適切な距離を保ち、衝突を回避することが可能なシステムを実現することができる。また、スポーツ選手及びカメラを搭載したドローンの各々にセンサ装置10を装着させることで、被写体の動きブレが少ないタイミングで、自動的にスポーツ選手の写真を撮像するカメラを搭載したドローンを実現することができる。また、ロボットの各可動部位にセンサ装置10を装着させることで、ロボットの姿勢を制御するシステムを実現することができる。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
なお、本明細書において説明した各装置による一連の処理は、ソフトウェア、ハードウェア、及びソフトウェアとハードウェアとの組合せのいずれを用いて実現されてもよい。ソフトウェアを構成するプログラムは、例えば、各装置の内部又は外部に設けられる記憶媒体(非一時的な媒体:non-transitory media)に予め格納される。そして、各プログラムは、例えば、コンピュータによる実行時にRAMに読み込まれ、CPUなどのプロセッサにより実行される。
また、本明細書においてフローチャート及びシーケンス図を用いて説明した処理は、必ずしも図示された順序で実行されなくてもよい。いくつかの処理ステップは、並列的に実行されてもよい。また、追加的な処理ステップが採用されてもよく、一部の処理ステップが省略されてもよい。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
第1の慣性センサと、
外部から撮像可能に形成された第1の情報コードと、
他のセンサ装置に形成された第2の情報コードを撮像可能な第1の撮像部と、
を備えるセンサ装置。
(2)
前記センサ装置及び前記他のセンサ装置に関する、相対的な距離又は姿勢の少なくともいずれかを示す相対関係情報を取得する取得部をさらに備える、前記(1)に記載のセンサ装置。
(3)
前記第1の慣性センサにより測定されたセンサ情報から算出された積分値を、前記相対関係情報に基づいて補正する補正部をさらに備える、前記(2)に記載のセンサ装置。
(4)
前記補正部は、前記他のセンサ装置が有する第2の慣性センサにより測定されたセンサ情報から算出された積分値を補正する、前記(3)に記載のセンサ装置。
(5)
前記積分値は、角速度及び加速度に基づいて算出される位置情報である、前記(3)又は(4)に記載のセンサ装置。
(6)
前記積分値は、角速度に基づいて算出される姿勢情報である、前記(3)〜(5)のいずれか一項に記載のセンサ装置。
(7)
前記センサ装置及び前記他のセンサ装置に関する前記相対関係情報は、前記第1の撮像部により撮像された前記第2の情報コードの撮像画像、又は前記他のセンサ装置が有する第2の撮像部により撮像された前記第1の情報コードの撮像画像に基づいて認識される、前記(2)〜(6)のいずれか一項に記載のセンサ装置。
(8)
前記取得部は、前記他のセンサ装置同士に関する前記相対関係情報を取得する、前記(2)〜(7)のいずれか一項に記載のセンサ装置。
(9)
前記第1の撮像部は、前記センサ装置若しくは前記他のセンサ装置の運動の大きさ又は前記センサ装置と前記他のセンサ装置との相対的な運動の大きさが、閾値を下回る場合に前記第2の情報コードを撮像する、前記(1)〜(8)のいずれか一項に記載のセンサ装置。
(10)
前記第1の情報コードを可変に表示する表示部をさらに備える、前記(1)〜(9)のいずれか一項に記載のセンサ装置。
(11)
前記表示部は、前記センサ装置が動く方向と同一の方向に空間周波数が小さく、他の方向に空間周波数が大きい前記第1の情報コードを表示する、前記(10)に記載のセンサ装置。
(12)
前記表示部は、前記他のセンサ装置を基準として相対的に前記センサ装置が動く方向と同一の方向に空間周波数が小さく、他の方向に空間周波数が大きい前記第1の情報コードを表示する、前記(10)に記載のセンサ装置。
(13)
前記第1の慣性センサにより測定されたセンサ情報、第1の撮像部により撮像された撮像画像又はこれらに基づく計算結果を示す情報の少なくともいずれかを、測定時刻又は撮像時刻に対応付けて、他の装置へ通知する通知部をさらに備える、前記(1)〜(12)のいずれか一項に記載のセンサ装置。
(14)
センサ装置を複数備え、
前記センサ装置は、
慣性センサと、
外部から撮像可能に形成された情報コードと、
他の前記センサ装置に設けられた前記情報コードを撮像可能な撮像部と、
を有する、センサシステム。
(15)
慣性センサ、外部から撮像可能に形成された情報コード、及び他のセンサ装置に設けられた前記情報コードを撮像可能な撮像部を有する複数のセンサ装置から取得された、センサ情報及び撮像画像を処理する処理部、
を備える情報処理装置。
(16)
第1の慣性センサと、
他のセンサ装置との間で無線信号を送受信する第1の通信部と、
を備えるセンサ装置。
(17)
前記センサ装置及び前記他のセンサ装置に関する、相対的な距離を示す相対関係情報を取得する取得部をさらに備え、
前記相対関係情報は、前記第1の通信部による通信結果に基づいて認識される、前記(16)に記載のセンサ装置。
1 センサシステム
10 センサ装置
20 装着用装備
21 センサ取付具
110 慣性センサ
120 撮像部
130 通信部
140 表示部
150 記憶部
160 処理部
161 センサ情報取得部
162 運動状態計算部
163 外部情報取得部
164 撮像画像取得部
165 認識部
166 表示制御部
167 慣性航法部
168 通知部
169 補正部
80 サーバ
810 通信部
820 記憶部
830 処理部

Claims (12)

  1. 第1の慣性センサと、
    外部から撮像可能に形成された第1の情報コードと、
    他のセンサ装置に形成された第2の情報コードを撮像可能な第1の撮像部と、
    を備えるセンサ装置であって、
    前記センサ装置は、
    前記第1の情報コードを可変に表示する表示部
    を備え、
    前記表示部は、前記他のセンサ装置を基準として相対的に前記センサ装置が動く方向と同一の方向における空間周波数が他の方向における空間周波数よりも小さい前記第1の情報コードを表示するセンサ装置
  2. 前記センサ装置及び前記他のセンサ装置に関する、相対的な距離又は姿勢の少なくともいずれかを示す相対関係情報を取得する取得部をさらに備える、請求項1に記載のセンサ装置。
  3. 前記第1の慣性センサにより測定されたセンサ情報から算出された積分値を、前記相対関係情報に基づいて補正する補正部をさらに備える、請求項2に記載のセンサ装置。
  4. 前記補正部は、前記他のセンサ装置が有する第2の慣性センサにより測定されたセンサ情報から算出された積分値を補正する、請求項3に記載のセンサ装置。
  5. 前記積分値は、角速度及び加速度に基づいて算出される位置情報である、請求項3に記載のセンサ装置。
  6. 前記積分値は、角速度に基づいて算出される姿勢情報である、請求項3に記載のセンサ装置。
  7. 前記センサ装置及び前記他のセンサ装置に関する前記相対関係情報は、前記第1の撮像部により撮像された前記第2の情報コードの撮像画像、又は前記他のセンサ装置が有する第2の撮像部により撮像された前記第1の情報コードの撮像画像に基づいて認識される、請求項2に記載のセンサ装置。
  8. 前記取得部は、前記他のセンサ装置同士に関する前記相対関係情報を取得する、請求項2に記載のセンサ装置。
  9. 前記第1の撮像部は、前記センサ装置若しくは前記他のセンサ装置の運動の大きさ又は前記センサ装置と前記他のセンサ装置との相対的な運動の大きさが、閾値を下回る場合に前記第2の情報コードを撮像する、請求項1に記載のセンサ装置。
  10. 前記第1の慣性センサにより測定されたセンサ情報、前記第1の撮像部により撮像された撮像画像又はこれらに基づく計算結果を示す情報の少なくともいずれかを、測定時刻又は撮像時刻に対応付けて、他の装置へ通知する通知部をさらに備える、請求項1に記載のセンサ装置。
  11. センサ装置を複数備え、
    前記センサ装置は、
    慣性センサと、
    外部から撮像可能に形成された情報コードと、
    他の前記センサ装置に設けられた前記情報コードを撮像可能な撮像部と、
    前記情報コードを可変に表示する表示部と、
    を有し、
    前記表示部は、前記他のセンサ装置を基準として相対的に前記センサ装置が動く方向と同一の方向における空間周波数が他の方向における空間周波数よりも小さい前記情報コードを表示する、センサシステム。
  12. 慣性センサ、外部から撮像可能に形成された情報コード、他のセンサ装置に設けられた前記情報コードを撮像可能な撮像部、および前記情報コードを可変に表示する表示部を有する複数のセンサ装置から取得された、センサ情報及び撮像画像を処理する処理部、
    を備え
    前記表示部は、前記他のセンサ装置を基準として相対的に前記センサ装置が動く方向と同一の方向における空間周波数が他の方向における空間周波数よりも小さい前記情報コードを表示する情報処理装置。
JP2017538900A 2015-09-09 2016-07-15 センサ装置、センサシステム及び情報処理装置 Active JP6852673B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2015177603 2015-09-09
JP2015177603 2015-09-09
PCT/JP2016/071092 WO2017043181A1 (ja) 2015-09-09 2016-07-15 センサ装置、センサシステム及び情報処理装置

Publications (2)

Publication Number Publication Date
JPWO2017043181A1 JPWO2017043181A1 (ja) 2018-06-21
JP6852673B2 true JP6852673B2 (ja) 2021-03-31

Family

ID=58239380

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017538900A Active JP6852673B2 (ja) 2015-09-09 2016-07-15 センサ装置、センサシステム及び情報処理装置

Country Status (5)

Country Link
US (1) US10976343B2 (ja)
JP (1) JP6852673B2 (ja)
CN (1) CN107923740B (ja)
DE (1) DE112016004079T5 (ja)
WO (1) WO2017043181A1 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7027745B2 (ja) * 2017-09-12 2022-03-02 住友ゴム工業株式会社 打具の挙動の解析装置
US10863469B2 (en) * 2017-10-11 2020-12-08 Google Llc System and method for accurate timestamping of virtual reality controller data
EP3782549A4 (en) 2018-04-17 2021-11-10 Sony Group Corporation PROGRAM, INFORMATION PROCESSING DEVICE, AND INFORMATION PROCESSING PROCESS
WO2020031659A1 (ja) * 2018-08-06 2020-02-13 国立研究開発法人産業技術総合研究所 位置姿勢推定システム及び位置姿勢推定装置と位置姿勢推定方法
CN109282816B (zh) * 2018-09-25 2022-03-08 电子科技大学 一种利用三角形约束的测距定位误差抑制方法
JPWO2020110659A1 (ja) * 2018-11-27 2021-10-14 ソニーグループ株式会社 情報処理装置、情報処理方法、およびプログラム
CN114562993A (zh) * 2022-02-28 2022-05-31 联想(北京)有限公司 一种轨迹处理方法、装置及电子设备

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5889550A (en) 1996-06-10 1999-03-30 Adaptive Optics Associates, Inc. Camera tracking system
DE19918705A1 (de) * 1999-04-26 2000-11-23 Deutsch Zentr Luft & Raumfahrt System zum verbesserten Versorgen eines Reisenden mit Reiseinformationen
JP4785416B2 (ja) * 2005-05-11 2011-10-05 キヤノン株式会社 位置姿勢計測方法及び装置
TWI284193B (en) * 2006-07-06 2007-07-21 Sin Etke Technology Co Ltd A display correction of vehicle navigation system and the correction and display method thereof
JP5036260B2 (ja) 2006-09-14 2012-09-26 キヤノン株式会社 位置姿勢算出方法及び装置
US8608026B1 (en) * 2008-03-23 2013-12-17 Capton, Inc. Methods, apparatuses, and systems for measuring the amount of material dispensed from a container using an accelerometer
JP5029531B2 (ja) 2008-08-08 2012-09-19 株式会社島津製作所 モーショントラッカシステム及びその座標系設定方法
JPWO2010027015A1 (ja) * 2008-09-05 2012-02-02 国立大学法人 東京大学 モーションキャプチャ装置
US9261526B2 (en) * 2010-08-26 2016-02-16 Blast Motion Inc. Fitting system for sporting equipment
US8322622B2 (en) 2010-11-09 2012-12-04 Metrologic Instruments, Inc. Hand-supportable digital-imaging based code symbol reading system supporting motion blur reduction using an accelerometer sensor
JP5994306B2 (ja) 2012-03-15 2016-09-21 ソニー株式会社 情報処理装置、情報処理システムおよびプログラム
US9410827B2 (en) * 2012-10-09 2016-08-09 Pixameter Corp. Measurement using a calibration pattern
JP5787099B2 (ja) * 2012-11-06 2015-09-30 コニカミノルタ株式会社 案内情報表示装置
US10444845B2 (en) * 2012-12-21 2019-10-15 Qualcomm Incorporated Display of separate computer vision based pose and inertial sensor based pose
US20140302774A1 (en) * 2013-04-04 2014-10-09 General Motors Llc Methods systems and apparatus for sharing information among a group of vehicles
JP6054331B2 (ja) * 2013-04-16 2016-12-27 アクシュネット カンパニーAcushnet Company ゴルフクラブ用の改善されたフィッティングシステム
CN104848858B (zh) * 2015-06-01 2018-07-20 北京极智嘉科技有限公司 二维码以及用于机器人的视觉-惯性组合导航系统及方法

Also Published As

Publication number Publication date
US20180203034A1 (en) 2018-07-19
WO2017043181A1 (ja) 2017-03-16
CN107923740A (zh) 2018-04-17
US10976343B2 (en) 2021-04-13
DE112016004079T5 (de) 2018-06-07
JPWO2017043181A1 (ja) 2018-06-21
CN107923740B (zh) 2020-08-11

Similar Documents

Publication Publication Date Title
JP6852673B2 (ja) センサ装置、センサシステム及び情報処理装置
RU2746686C2 (ru) Носимая система отслеживания движения
KR101214227B1 (ko) 동작 추적 방법.
US20100194879A1 (en) Object motion capturing system and method
CN104197987A (zh) 一种组合式运动捕捉系统
KR20160020065A (ko) 트랙킹 시스템 및 이를 이용한 트랙킹 방법
US11460912B2 (en) System and method related to data fusing
CN105184268B (zh) 手势识别设备、手势识别方法及虚拟现实系统
KR20210093866A (ko) 정보 처리 장치, 정보 처리 방법 및 프로그램
WO2011016302A1 (ja) モーションキャプチャ用のマーカ
Li et al. Visual-Inertial Fusion-Based Human Pose Estimation: A Review
US20180216959A1 (en) A Combined Motion Capture System
Callejas-Cuervo et al. Capture and analysis of biomechanical signals with inertial and magnetic sensors as support in physical rehabilitation processes
CN112486331A (zh) 基于imu的三维空间手写输入方法和装置
US11449130B2 (en) Visual and inertial motion tracking
JP6205387B2 (ja) 仮想マーカーの位置情報の取得方法及び装置、動作計測方法
JP2005345161A (ja) モーションキャプチャーシステム及びモーションキャプチャー方法
JP2020119024A (ja) 情報処理装置、情報処理方法、及び、記録媒体
KR20200069218A (ko) 인체 무게 중심의 이동을 이용한 모션 캡쳐 장치 및 그 방법
Parnian Integration of local positioning system & strapdown inertial navigation system for hand-held tool tracking
WO2022269985A1 (ja) 情報処理装置、および情報処理方法、並びにプログラム
EP4016252A1 (en) System and method related to motion tracking
US20240112421A1 (en) System and method of object tracking for extended reality environment
JP2020201183A (ja) カメラ位置調整方法
JP2022133212A (ja) 位置推定センサを基準とした慣性計測センサによるモーションキャプチャ・キャリブレーション方法。

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190208

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20190214

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190222

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20190515

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190522

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190621

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200804

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200928

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210209

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210222

R151 Written notification of patent or utility model registration

Ref document number: 6852673

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151