JP6335413B2 - 情報処理装置、情報処理方法及び情報処理プログラム - Google Patents
情報処理装置、情報処理方法及び情報処理プログラム Download PDFInfo
- Publication number
- JP6335413B2 JP6335413B2 JP2018511185A JP2018511185A JP6335413B2 JP 6335413 B2 JP6335413 B2 JP 6335413B2 JP 2018511185 A JP2018511185 A JP 2018511185A JP 2018511185 A JP2018511185 A JP 2018511185A JP 6335413 B2 JP6335413 B2 JP 6335413B2
- Authority
- JP
- Japan
- Prior art keywords
- orientation
- absolute position
- absolute
- altitude
- estimation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000010365 information processing Effects 0.000 title claims description 27
- 238000003672 processing method Methods 0.000 title claims description 6
- 238000000034 method Methods 0.000 claims description 63
- 230000004927 fusion Effects 0.000 claims description 62
- 238000003384 imaging method Methods 0.000 claims description 42
- 238000006073 displacement reaction Methods 0.000 claims description 25
- 238000004364 calculation method Methods 0.000 claims description 24
- 238000012545 processing Methods 0.000 claims description 21
- 238000012937 correction Methods 0.000 claims description 9
- 238000007499 fusion processing Methods 0.000 claims description 8
- 238000005259 measurement Methods 0.000 claims description 8
- 230000001133 acceleration Effects 0.000 description 18
- 230000006870 function Effects 0.000 description 7
- 238000010586 diagram Methods 0.000 description 6
- 238000011960 computer-aided design Methods 0.000 description 5
- 230000000694 effects Effects 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
Description
例えば、特許文献1には、ARシステムが開示されている。特許文献1のARシステムは、三次元CAD(Computer−Aided Design)データと撮影装置の撮影画像とを比較する。また、特許文献1のARシステムは、絶対座標系での撮影装置の位置及び姿勢を求め、求めた撮影装置の位置及び姿勢を元に付加画像を生成する。そして、特許文献1のARシステムは、撮影画像に付加画像を重畳して表示する。
絶対座標系での撮影装置の位置及び姿勢である絶対位置姿勢が推定される度に、絶対位置姿勢の推定の成否を判定し、推定の成功を判定した場合に、絶対位置姿勢を記憶する記憶領域である絶対位置記憶領域に、推定の成功を判定した絶対位置姿勢を格納する絶対位置判定部と、
相対座標系での前記撮影装置の位置及び姿勢である相対位置姿勢が推定される度に、前記絶対位置記憶領域に記憶されている絶対位置姿勢と、推定された相対位置姿勢とを足し合わせる位置融合部と、
前記絶対位置判定部により絶対位置姿勢の推定の成功が判定された場合に、前記絶対位置記憶領域に記憶されている絶対位置姿勢を選択し、前記絶対位置判定部により絶対位置姿勢の推定の失敗が判定された場合に、前記位置融合部による足し合わせにより得られた融合位置姿勢を選択する位置選択部とを有する。
***構成の説明***
図1は、実施の形態1に係るAR表示装置100のハードウェア構成例を示す。
AR表示装置100は、コンピュータである。また、AR表示装置100は情報処理装置の例である。更に、AR表示装置100により行われる動作は情報処理方法の例である。
図1に示すように、AR表示装置100は、演算装置11、記憶装置12、センサ装置13、撮影装置14及びディスプレイ15から構成される。演算装置11、記憶装置12、センサ装置13、撮影装置14及びディスプレイ15はバスにより接続されている。
演算装置11は、図2に示す「〜部」(「〜記憶部」を除く、以下も同様)の機能を実現するプログラムを実行する。
記憶装置12は、例えばRAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ、HDD(Hard Disk Drive)等である。
記憶装置12は、演算装置11が実行する「〜部」の機能を実現するプログラムを記憶している。
センサ装置13は、加速度センサ、角速度センサ及び地磁気センサである。
撮影装置14は、例えばカメラである。AR表示装置100は、撮影装置14の位置及び姿勢をセンサ装置13の値を用いて求めるため、センサ装置13と撮影装置14の位置関係は固定されている。
ディスプレイ15は、例えば液晶ディスプレイである
なお、絶対位置推定データ101のデータの形式は絶対位置推定部102の推定方式に依存する。
絶対位置姿勢とは、絶対位置推定データ101の座標系(以下、絶対座標系と言う)に基づく位置姿勢である。絶対座標系は三次元の座標系である。
絶対座標系は、例えばある点を原点として、X、Y、Z軸をメートル等の単位で表すことや、XとY軸を経緯度で、Z軸をメートル単位で表すことなどが考えられる。絶対座標系は、三次元の座標系であればよく、上記の座標系に限定するものではない。また、X、Y、Z軸の定義として、地球を元にしてXを東西、Yを南北、Zを天地としてもよいし、建物の屋内を元にして決めてもよい。
撮影装置14の絶対位置は、X、Y、Z軸の直交座標で表現する。また、撮影装置14の絶対姿勢は、回転行列や回転ベクトルで表現する。
位置姿勢の推定方法は、例えば特許文献1で例示されるように、CADデータと撮影画像とを比較して求める方法が考えられる。もしくは、例えば屋外であれば、交通標識、看板、街灯、信号機、道路上の白線、マンホールの蓋、建物等の被写体を撮影画像に対する画像処理により検出し、当該被写体を絶対位置推定データ101から探索して、撮影装置14の位置姿勢を求める方法が考えられる。但し、位置姿勢の推定方法は、撮影画像から撮影装置14の絶対位置姿勢を推定できればよく、前述した方法に限定するものではない。
相対位置推定部112は、後述の相対位置記憶部107から前回の相対位置姿勢である前回相対位置姿勢を取得する。前回相対位置姿勢は、相対位置推定部112の前回の相対位置姿勢の推定で得られた相対位置姿勢である。相対位置推定部112は、取得した前回相対位置姿勢に前回からの差分(変位)を足し合わせた位置姿勢を新たな相対位置姿勢として推定する。そして、相対位置推定部112は、推定した新たな相対位置姿勢を相対位置記憶部107に格納する。
この相対位置推定部112が用いる座標系を、相対座標系と呼ぶ。相対座標系は絶対座標系と同様の単位系(例えばメートル)を使用する。また、相対座標系のX、Y、Z軸の向きは、絶対座標系の向きと同じである。
相対位置推定部112は、相対座標系での撮影装置14の位置及び姿勢である相対位置姿勢を繰り返し推定する。
絶対位置判定部104の判定結果は、判定結果記憶部105で記憶される。
また、絶対位置判定部104は、今回の判定結果と前回の判定結果とが同じであるか否かを判定する。前回の判定結果は、判定結果記憶部105に記憶されている判定結果である。そして、今回の判定結果と前回の判定結果とが異なる場合(すなわち、今回が成功で前回が失敗、もしくは、今回が失敗で前回が成功)に、絶対位置判定部104は、相対位置記憶部107に記憶されている前回相対位置姿勢を初期値に変更する。より具体的には、絶対位置判定部104は、相対位置初期化部103に初期化を指示して前回相対位置姿勢を初期値に変更させる。
また、絶対位置判定部104は、推定の成功を判定した場合に、絶対位置姿勢を記憶する記憶領域である絶対値記憶部108(絶対位置記憶領域)に、推定の成功を判定した絶対位置姿勢を格納する。より具体的には、絶対位置判定部104は、絶対位置姿勢の推定の成功を判定した場合に、絶対値記憶部108に記憶されている絶対位置姿勢を、推定の成功を判定した絶対位置姿勢で更新する。
なお、位置融合部113による足し合わせにより得られた位置姿勢を融合位置姿勢という。
一方、絶対位置判定部104により絶対位置姿勢の推定の失敗が判定された場合に、位置選択部109は、融合位置姿勢(融合位置記憶部114に記憶されている位置姿勢)を選択する。
位置選択部109は、選択した位置姿勢(絶対位置姿勢又は融合位置姿勢)を後述のグラフィックス生成部110に出力する。
また、判定結果記憶部105、相対位置記憶部107、絶対位置記憶部108、融合位置記憶部114は、図1の記憶装置12により実現される。
なお、図2に示す構成はあくまで一例であって、例えば絶対位置推定データ101又は表示データ106はAR表示装置100の外部で記憶され、ネットワーク等を通じてAR表示装置100に転送されるようにしてもよい。
次に、図3、図4及び図5のフローチャートを使用し、AR表示装置100の動作例を説明する。
図3は、絶対位置推定スレッドにおけるAR表示装置100の動作例を示す。
図4は、相対位置推定スレッドにおけるAR表示装置100の動作例を示す。
図5は、表示スレッドにおけるAR表示装置100の動作例を示す。
AR表示装置100は、絶対位置推定スレッド、相対位置推定スレッド及び表示スレッドを並行して行う。
次に、絶対位置推定部102が撮影画像を使用して絶対位置姿勢を推定する(ステップS3−1−2)。
次に、絶対位置判定部104が絶対位置姿勢の推定に成功したかどうかを判定する(ステップS3−1−3)。
次に、絶対位置判定部104が判定結果記憶部105に記憶された前回の判定結果と今回の判定結果を比較する(ステップS3−1−4)。
今回の判定結果が前回の判定結果と異なるのであれば、相対位置初期化部103が相対位置記憶部107の相対位置を初期化する(ステップS3−1−5)。
絶対位置判定部104が今回の判定結果を判定結果記憶部105に格納する(ステップS3−1−6)。
今回の判定結果が成功であれば、絶対位置判定部104が絶対位置姿勢を絶対位置記憶部108に記憶する(ステップS3−1−7)。
そして、処理がステップS3−1−1に戻り、同様の手順が繰り返される。
次に、相対位置推定部112が相対位置記憶部107から前回相対位置姿勢を取得する(ステップS3−2−2)。
次に、相対位置推定部112が前回相対位置姿勢からの変位を推定し、推定した変位を前回相対位置姿勢に足し合わせる(ステップS3−2−3)。足し合わせた結果が現在の相対位置姿勢である。
次に、相対位置推定部112が相対位置記憶部107に現在の相対位置姿勢を格納する(ステップS3−2−4)。
次に、位置融合部113が絶対位置記憶部108から現在の絶対位置姿勢を取得する(ステップS3−2−5)。
次に、位置融合部113が現在の絶対位置姿勢に対して、現在の相対位置姿勢を足し合わせることにより、位置姿勢を融合する(ステップS3−2−6)。
次に、位置融合部113が融合位置記憶部114に融合位置姿勢を格納する(ステップS3−2−7)。
そして、処理がステップS3−2−1に戻り、同様の手順が繰り返される。
次に、グラフィックス生成部110が、位置姿勢と表示データ106とを元に、三次元グラフィックスを生成する(ステップS3−3−2)。
次に、重畳部111が、三次元グラフィックスと撮影画像とを重畳する(ステップS3−3−3)。
次に、ディスプレイ15が重畳画像を表示する(ステップS3−3−4)。
そして、処理がステップS3−3−1に戻り、同様の手順が繰り返される。
実施の形態1によれば、AR表示装置100が絶対位置姿勢を推定できない場面に陥ったとしても、最後に推定に成功した絶対位置姿勢からの変位を、相対位置姿勢の推定により補完することで、位置姿勢をリアルタイムに求め、従ってARの表示を継続することができる。
***構成の説明***
次に、実施の形態2に係るAR表示装置100を説明する。
本実施の形態でも、AR表示装置100のハードウェア構成例は図1と同様であるため、説明を割愛する。
図2から追加された構成要素を以下にて説明する。
例えば、推定結果比較部115は、絶対位置姿勢が推定できる状態になってから、推定できない状態になるまでの間の、絶対位置姿勢の変位と、相対位置姿勢の変位とを比較する。例えば、絶対位置姿勢の変位が10メートルであり、相対位置姿勢の変位が5メートルであれば、推定結果比較部115は、10÷5の結果である2を係数として算出する。また、推定結果比較部115は、算出した係数を、後述の係数記憶部116に記憶する。
そして、推定結果比較部115は、絶対位置判定部104により指定された第1の指定絶対位置姿勢と第2の指定絶対位置姿勢との変位を算出し、第1の指定絶対位置姿勢と第2の指定絶対位置姿勢との変位と相対位置記憶部107に記憶されている相対位置姿勢とを比較する。そして、推定結果比較部115は、第1の指定絶対位置姿勢と第2の指定絶対位置姿勢との変位と相対位置記憶部107に記憶されている相対位置姿勢との誤差を補正する係数を算出する。
例えば、係数が2であり、相対位置姿勢の位置のX、Y、Z軸の値が(3,2,0)であれば、相対位置補正部117は、係数を(3,2,0)に乗算して(6,4,0)を求める。そして、相対位置補正部117は、補正後の(6,4,0)を位置融合部113に出力する。
次に、図7、図8及び図9のフローチャートを使用し、実施の形態2に係るAR表示装置100の動作例を説明する。
図7は、本実施の形態に係る絶対位置推定スレッドにおけるAR表示装置100の動作例を示す。
図8は、本実施の形態に係る相対位置推定スレッドにおけるAR表示装置100の動作例を示す。
図9は、本実施の形態に係る位置比較スレッドにおけるAR表示装置100の動作例を示す。
本実施の形態でも表示スレッドでのAR表示装置100の動作例は図5に示したものと同じである。
絶対位置判定部104による今回の絶対位置姿勢の判定結果が、前回の判定結果と異なり、かつ、判定結果が成功であった場合、絶対位置判定部104は位置比較スレッドの動作を開始させる(ステップS5−1−1)。その後、相対位置初期化部103が相対位置記憶部107の相対位置を初期化する(ステップS3−1−5)。
一方、判定結果が失敗であった場合、絶対位置判定部104は位置比較スレッドに対し、動作を終了するように命令する(ステップS5−1−2)。その後、相対位置初期化部103が相対位置記憶部107の相対位置を初期化する(ステップS3−1−5)。なお、相対位置初期化部103は、後述の図9のステップS5−4−4での相対位置取得が完了した後に、相対位置記憶部107の相対位置を初期化する
ステップS3−1−6からステップS3−1−7は実施の形態1と同様である。
相対位置補正部117が係数記憶部116から係数を取得する(ステップS5−2−1)。
次に、相対位置補正部117が、相対位置記憶部107が記憶している相対位置姿勢の位置に対し、係数を乗算することで相対位置姿勢を補正する(ステップS5−2−2)。
ステップS3−2−5からステップS3−2−7は実施の形態1と同様である。
推定結果比較部115が、位置比較スレッドが終了するように命令されるまで待機する(ステップS5−4−2)。
位置比較スレッドが終了するように命令されると、位置比較スレッドが再開し、推定結果比較部115が絶対位置記憶部108から現在の絶対位置姿勢を取得する(ステップS5−4−3)。この絶対位置姿勢は第2の指定絶対位置姿勢に相当する。
推定結果比較部115が相対位置記憶部107から現在の相対位置姿勢を取得する(ステップS5−4−4)。
推定結果比較部115が、位置比較スレッドが開始した時点(ステップS5−4−1)の絶対位置姿勢(第1の指定絶対位置姿勢)と、位置比較スレッドが再開した時点(ステップS5−4−3)の絶対位置姿勢(第2の指定絶対位置姿勢)とから、絶対位置姿勢の変位を算出する。また、推定結果比較部115は、絶対位置姿勢の変位と相対位置姿勢の変位とを比較し、係数を算出する(ステップS5−4−5)。
なお、位置比較スレッドが開始された時点で、絶対位置推定スレッドによって相対位置記憶部107が記憶している相対位置姿勢が原点に初期化されているため、相対位置姿勢の変位は相対位置記憶部107からの1回の取得で算出できる。
最後に、推定結果比較部115が係数を係数記憶部116に記憶させる(ステップS5−4−6)。
本実施の形態によれば、相対位置推定部112による推定誤差の校正を、運用中に行うことが可能になる。一般的に歩行者自律航法に代表されるセンサを使用する航法は、センサ装置13の精度や、利用者の身長、歩幅等の因子によって誤差が発生する。誤差は歩行距離が長いほど累積する。理想的には、あらかじめこれらの因子を元に、誤差を抑えるための校正(キャリブレーション)を行う必要があるが、センサ装置13や利用者ごとにあらかじめ校正を行うことは、時間を要し不便である。
しかし、実施の形態2では、絶対位置推定が可能である間、絶対位置姿勢の推定結果と相対位置姿勢の推定結果を比較することで、相対位置姿勢の誤差を表す係数を求めることで、相対位置姿勢の推定結果の誤差を抑えることを可能にしている。
絶対位置姿勢推定は撮影画像を利用して絶対位置姿勢を推定するため、相対位置姿勢推定に比べて誤差は少ない。そのため、絶対位置姿勢推定の結果を真値として扱うことで、相対位置姿勢推定の校正が可能である。
なお、上記では、推定結果比較部115は、例として、絶対位置姿勢が推定できるようになってから、絶対位置姿勢が推定できないようになるまでの期間の、絶対位置姿勢の変位と相対位置姿勢の変位とを比較する方法を挙げたが、比較する期間はこれに限るものではない。
例えば、10秒間連続して絶対位置姿勢が推定できているという状態を検知し、その10秒間の絶対位置姿勢の変位と相対位置姿勢の変位を比較するという方法でもよい。また、相対位置姿勢を調整する係数は、歩行量が多いほどより正確になるため、例えば、絶対位置姿勢推定によって10m以上歩行していないと係数を反映させないようにするという方法も考えられる。
***構成の説明***
次に、実施の形態3に係るAR表示装置100を説明する。
本実施の形態でも、AR表示装置100のハードウェア構成例は図1と同様であるため、説明を割愛する。
図2から追加された構成要素を以下に説明する。
次に、図11及び図12のフローチャートを使用し、実施の形態3に係るAR表示装置100の動作例を説明する。
図11は、本実施の形態に係る絶対位置推定スレッドにおけるAR表示装置100の動作例を示す。
図12は、本実施の形態に係る相対位置推定スレッドにおけるAR表示装置100の動作例を示す。
本実施の形態でも表示スレッドでのAR表示装置100の動作例は図5に示したものと同じである。
絶対位置判定部104によって絶対位置姿勢が推定できていると判定された場合、仰俯角高度計測部118が絶対位置姿勢から仰俯角と高度を算出し、仰俯角高度記憶部119に仰俯角と高度を記憶させる(S7−1−1)。
高度調整部120が、位置融合部113の融合結果である融合位置姿勢と、仰俯角高度記憶部119が記憶する仰俯角と高度の関係性とを元に、仰俯角に対応する高度を取得する(S7−2−1)。
高度調整部120が、取得した高度を元に、融合位置姿勢の高度を調整し、高度が調整された後の融合位置姿勢を出力する(S7−2−2)。
ステップS3−2−7は実施の形態1と同様である。
なお、図5のS3−3−1では、位置選択部109は、判定結果が失敗の場合に融合位置記憶部114から融合位置姿勢を取得するが、本実施の形態では、位置選択部109は、高度調整部120により高度が調整された後の融合位置姿勢を取得する。
本実施の形態によれば、相対位置姿勢推定時のAR表示装置100の高度をより正確に推定でき、従って、より正確にARを表示できる。
人間がAR表示装置100を手に持って使用する場合を考えると、図13に示すように、AR表示装置100で撮影する方向、すなわちAR表示装置100の仰俯角に応じて、AR表示装置100の高度が変化する。撮影画像による絶対位置姿勢推定であれば、高度も含めて正確な位置姿勢を推定できるが、歩行者自律航法による相対位置姿勢推定では困難である。
一般的に歩行者自律航法技術は、前後左右の2次元平面に対してのみ測位可能である。近年、気圧センサ等を使用することで、高度も測位可能にする技術が研究なされているが、建物のフロア間の移動等を検知することに留まり、数cm程度のわずかな変化を検知することは難しい。この、仰俯角が変わることによる高度の変化を無視してしまうと、ARの表示に誤差が生じる。
そこで、実施の形態3では、絶対位置姿勢推定可能な場合に、AR表示装置100の仰俯角と高度の関係性を記憶しておくことで、相対位置姿勢推定中に仰俯角と高度の関係性を元に、高度を調整する。
前述したように、仰俯角と高度には、図14に示すように相関関係が存在する。本実施の形態では、相対位置姿勢推定中であっても、仰俯角高度関係情報を参照することで、仰俯角を変えることによる高度の変化をAR表示に反映させることができる。
***構成の説明***
次に、実施の形態4に係るAR表示装置100を説明する。
本実施の形態でも、AR表示装置100のハードウェア構成例は図1と同様であるため、説明を割愛する。
図2から追加された構成要素を以下に説明する。
換言すると、位相算出部126は、歩行状態判定部123により利用者が歩行中であると判定された場合に、歩行状態判定部123により利用者が歩行中であると判定された時点での、利用者の歩行に伴う撮影装置14の高度の変動周期における位相を算出する。
つまり、変動付加部125は、位相算出部126により算出された位相と、利用者の歩行に伴う撮影装置14の高度の変動幅とに基づき、融合位置姿勢の高度を調整する。
次に、図16及び図17のフローチャートを使用し、実施の形態4に係るAR表示装置100の動作例を説明する。
図16は、本実施の形態に係る絶対位置推定スレッドにおけるAR表示装置100の動作例を示す。
図17は、本実施の形態に係る相対位置推定スレッドにおけるAR表示装置100の動作例を示す。
本実施の形態でも表示スレッドでのAR表示装置100の動作例は図5に示したものと同じである。
歩行状態判定部123が、現在利用者が歩行しているか否かを判定する(ステップS11−1−1)。
歩行状態判定部123により利用者が歩行していると判定された場合に、変動量算出部121が歩行中の高度の変動量を算出し(ステップS11−1−2)、変動量記憶部124に高度の変動量を記憶させる(ステップS11−1−3)。
歩行状態判定部123が、現在利用者が歩行しているか否かを判定する(ステップS11−2−1)。
歩行状態判定部123により利用者が歩行していると判定された場合に、位相算出部126が、現在の加速度の時系列値を元に、現在の歩行状態の位相を算出する(ステップS11−2−3)。
変動付加部125が変動量記憶部124から高度の変動量を取得する(ステップS11−2−2)。
そして、変動付加部125が、取得した高度の変動量と、位相算出部126によって算出された位相を元に、融合位置姿勢の高度を調整して出力する(ステップS11−2−4)。
ステップS3−2−7は実施の形態1と同様である。
なお、図5のS3−3−1では、位置選択部109は、判定結果が失敗の場合に融合位置記憶部114から融合位置姿勢を取得するが、本実施の形態では、位置選択部109は、変動付加部125により高度が調整された後の融合位置姿勢を取得する。
歩行している場合、図18に示すように、加速度に周期性のある値が出力されることが知られている。この加速度の値に対して、例えばフーリエ変換により周波数領域解析を行うと、図19に示すように歩行の間隔を示すピーク値を得ることができる。従って、ピークの振幅が一定値以上であれば、歩行状態判定部123は、利用者が歩行していると判定できる。
変動量算出部121は、絶対位置推定部102によって推定された絶対位置姿勢を元に、高度の変動を算出する。
高度の変動は、例えば一定期間の高度の最小値と最大値を探索することで求める。
または一定期間の高度の時系列値をヒストグラムにプロットし、例えばヒストグラム中の下位及び上位10%の平均値を、それぞれ高度の最小値と最大値とみなし、高度の変動を求めてもよい。
位相算出部126は、センサ値記憶部122で記憶された一定期間の加速度の時系列値を解析し、歩行状態の加速度値における現在の位相を算出する。
図20に算出方法の一例を示す。
過去一定期間の加速度値の最小を−1、最大を+1と正規化することで、位相算出部126は、現在の加速度値の位相を求める(図中では0.7が位相となる)。
変動付加部125は、変動量記憶部124によって記憶された高度の変動量と、位相算出部126によって算出された位相とを元に、位置融合部113が出力した位置姿勢の高度に変動を加える。
例えば、高度の変動量が0.5メートルであり、位相が0.7である場合、変動付加部125は、0.5÷2×0.7=0.175メートルを元の高度に加算する。
本実施の形態では、相対位置姿勢推定時においても、人間の歩行に伴う高度の変動を再現でき、従ってより違和感のないARを表示できる。
人間がAR表示装置100を手に持って使用する場合を考えると、当然のことながら歩行に伴う高さ方向の周期的な変動が発生する。一方で、実施の形態3で述べたように、一般的な歩行者自律航法技術は高さ方向の変位を測位できない。従って、実施の形態4による手法を実施しなければ、相対位置姿勢推定時には高さが固定となり、歩行による高さの変動が発生しない違和感のあるARの表示になってしまう。
そこで、実施の形態4では、絶対位置姿勢推定可能な場合に、AR表示装置100の高度の変動量を算出し、高度の変動量と加速度の位相を元に、高度に変動を加えることで、違和感の少ないARを実現する。
以上、本発明の実施の形態について説明したが、これらの実施の形態のうち、2つ以上を組み合わせて実施しても構わない。あるいは、これらの実施の形態のうち、1つを部分的に実施しても構わない。あるいは、これらの実施の形態のうち、2つ以上を部分的に組み合わせて実施しても構わない。
最後に、AR表示装置100のハードウェア構成の補足説明を行う。
図1に示す演算装置11は、プロセッシングを行うIC(Integrated Circuit)である。
演算装置11は、CPU(Central Processing Unit)、DSP(Digital Signal Processor)等である。
図1に示す記憶装置12は、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ、HDD(Hard Disk Drive)等である。
そして、OSの少なくとも一部が演算装置11により実行される。
演算装置11はOSの少なくとも一部を実行しながら、図2、図6、図10の「〜部」の機能を実現するプログラムを実行する。
演算装置11がOSを実行することで、タスク管理、メモリ管理、ファイル管理、通信制御等が行われる。
また、AR表示装置100は、演算装置11を代替する複数の演算装置を備えていてもよい。これら複数の演算装置11は、「〜部」の機能を実現するプログラムの実行を分担する。それぞれの演算装置は、演算装置11と同じように、プロセッシングを行うICである。
また、「〜部」の処理の結果を示す情報やデータや信号値や変数値が、記憶装置12、演算装置11内のレジスタ及びキャッシュメモリの少なくともいずれかに記憶される。
また、「〜部」の機能を実現するプログラムは、磁気ディスク、フレキシブルディスク、光ディスク、コンパクトディスク、ブルーレイ(登録商標)ディスク、DVD等の可搬記憶媒体に記憶されてもよい。
また、AR表示装置100は、ロジックIC(Integrated Circuit)、GA(Gate Array)、ASIC(Application Specific Integrated Circuit)、FPGA(Field−Programmable Gate Array)といった電子回路により実現されてもよい。
この場合は、「〜部」は、それぞれ電子回路の一部として実現される。
なお、プロセッサ及び上記の電子回路を総称してプロセッシングサーキットリーともいう。
Claims (14)
- 絶対座標系での撮影装置の位置及び姿勢である絶対位置姿勢が推定される度に、絶対位置姿勢の推定の成否を判定し、今回の判定結果と前回の判定結果とが同じであるか否かを判定し、今回の判定結果と前回の判定結果とが異なり、今回の判定結果で推定の成功と判定している場合に、今回の判定結果で推定の成功と判定している絶対位置姿勢を第1の指定絶対位置姿勢として指定し、今回の判定結果と前回の判定結果とが異なり、今回の判定結果で推定の失敗と判定している場合に、絶対位置姿勢を記憶する記憶領域である絶対位置記憶領域に記憶されている絶対位置姿勢を第2の指定絶対位置姿勢として指定する絶対位置判定部と、
相対座標系での前記撮影装置の位置及び姿勢である相対位置姿勢を推定し、推定した相対位置姿勢を、相対位置姿勢を記憶する記憶領域である相対位置記憶領域に格納する相対位置推定部と、
前記絶対位置判定部により指定された前記第1の指定絶対位置姿勢と前記第2の指定絶対位置姿勢との変位を算出し、前記第1の指定絶対位置姿勢と前記第2の指定絶対位置姿勢との変位と前記相対位置記憶領域に記憶されている相対位置姿勢とを比較し、前記第1の指定絶対位置姿勢と前記第2の指定絶対位置姿勢との変位と前記相対位置記憶領域に記憶されている相対位置姿勢との誤差を補正する係数を算出する推定結果比較部とを有する情報処理装置。 - 前記情報処理装置は、更に、
前記推定結果比較部により算出された係数を用いて、相対位置姿勢を補正する相対位置補正部を有する請求項1に記載の情報処理装置。 - 前記情報処理装置は、更に、
前記絶対位置記憶領域に記憶されている絶対位置姿勢と、前記相対位置補正部による補正後の相対位置姿勢とを足し合わせる位置融合部を有する請求項2に記載の情報処理装置。 - 前記相対位置推定部は、
前記相対位置記憶領域から、前回の相対位置姿勢の推定で得られた相対位置姿勢である前回相対位置姿勢を取得し、取得した前記前回相対位置姿勢を用いて、新たな相対位置姿勢を推定し、推定した新たな相対位置姿勢を前記相対位置記憶領域に格納し、
前記絶対位置判定部は、
今回の判定結果と前回の判定結果とが異なる場合に、前記相対位置記憶領域に記憶されている前記前回相対位置姿勢を初期値に変更する請求項1に記載の情報処理装置。 - 絶対座標系での撮影装置の位置及び姿勢である絶対位置姿勢が推定される度に、絶対位置姿勢の推定の成否を判定し、推定の成功を判定した場合に、絶対位置姿勢を記憶する記憶領域である絶対位置記憶領域に、推定の成功を判定した絶対位置姿勢を格納する絶対位置判定部と、
相対座標系での前記撮影装置の位置及び姿勢である相対位置姿勢が推定される度に、前記絶対位置記憶領域に記憶されている絶対位置姿勢と、推定された相対位置姿勢とを足し合わせる位置融合部と、
前記絶対位置記憶領域に記憶されている絶対位置姿勢を用いて、前記撮影装置の仰俯角及び高度を算出する仰俯角高度計測部と、
前記仰俯角高度計測部により算出された前記撮影装置の仰俯角及び高度と、前記撮影装置の仰俯角と前記撮影装置の高度との関係を示す仰俯角高度関係情報とを用いて、前記位置融合部による足し合わせにより得られた融合位置姿勢の高度を調整する高度調整部と、
前記絶対位置判定部により絶対位置姿勢の推定の成功が判定された場合に、前記絶対位置判定部により推定の成功が判定された絶対位置姿勢を選択し、前記絶対位置判定部により絶対位置姿勢の推定の失敗が判定された場合に、前記高度調整部による高度の調整後の融合位置姿勢を選択する位置選択部とを有する情報処理装置。 - 利用者に保持される撮影装置の絶対座標系での位置及び姿勢である絶対位置姿勢が推定される度に、絶対位置姿勢の推定の成否を判定し、推定の成功を判定した場合に、絶対位置姿勢を記憶する記憶領域である絶対位置記憶領域に、推定の成功を判定した絶対位置姿勢を格納する絶対位置判定部と、
相対座標系での前記撮影装置の位置及び姿勢である相対位置姿勢が推定される度に、前記絶対位置記憶領域に記憶されている絶対位置姿勢と、推定された相対位置姿勢とを足し合わせる位置融合部と、
前記利用者が歩行中であるか否かを判定する歩行状態判定部と、
前記歩行状態判定部により前記利用者が歩行中であると判定された場合に、前記歩行状態判定部により前記利用者が歩行中であると判定された時点での、前記利用者の歩行に伴う前記撮影装置の高度の変動周期における位相を算出する位相算出部と、
前記位相算出部により算出された前記位相と、前記利用者の歩行に伴う前記撮影装置の高度の変動幅とに基づき、前記位置融合部による足し合わせにより得られた融合位置姿勢の高度を調整する変動付加部と、
前記絶対位置判定部により絶対位置姿勢の推定の成功が判定された場合に、前記絶対位置判定部により推定の成功が判定された絶対位置姿勢を選択し、前記絶対位置判定部により絶対位置姿勢の推定の失敗が判定された場合に、前記変動付加部による高度の調整後の融合位置姿勢を選択する位置選択部とを有する情報処理装置。 - 前記絶対位置判定部は、
絶対位置姿勢の推定の成功を判定した場合に、前記絶対位置記憶領域に記憶されている絶対位置姿勢を、推定の成功を判定した絶対位置姿勢で更新する請求項5又は6に記載の情報処理装置。 - 前記情報処理装置は、更に、
前記位置選択部により選択された絶対位置姿勢及び融合位置姿勢のいずれかに基づき、三次元グラフィックスを生成するグラフィックス生成部を有する請求項5又は6に記載の情報処理装置。 - コンピュータが、絶対座標系での撮影装置の位置及び姿勢である絶対位置姿勢が推定される度に、絶対位置姿勢の推定の成否を判定し、今回の判定結果と前回の判定結果とが同じであるか否かを判定し、今回の判定結果と前回の判定結果とが異なり、今回の判定結果で推定の成功と判定している場合に、今回の判定結果で推定の成功と判定している絶対位置姿勢を第1の指定絶対位置姿勢として指定し、今回の判定結果と前回の判定結果とが異なり、今回の判定結果で推定の失敗と判定している場合に、絶対位置姿勢を記憶する記憶領域である絶対位置記憶領域に記憶されている絶対位置姿勢を第2の指定絶対位置姿勢として指定する絶対位置判定処理と、
前記コンピュータが、相対座標系での前記撮影装置の位置及び姿勢である相対位置姿勢を推定し、推定した相対位置姿勢を、相対位置姿勢を記憶する記憶領域である相対位置記憶領域に格納する相対位置推定処理と、
前記コンピュータが、前記絶対位置判定処理により指定された前記第1の指定絶対位置姿勢と前記第2の指定絶対位置姿勢との変位を算出し、前記第1の指定絶対位置姿勢と前記第2の指定絶対位置姿勢との変位と前記相対位置記憶領域に記憶されている相対位置姿勢とを比較し、前記第1の指定絶対位置姿勢と前記第2の指定絶対位置姿勢との変位と前記相対位置記憶領域に記憶されている相対位置姿勢との誤差を補正する係数を算出する推定結果比較処理とを有する情報処理方法。 - コンピュータが、絶対座標系での撮影装置の位置及び姿勢である絶対位置姿勢が推定される度に、絶対位置姿勢の推定の成否を判定し、推定の成功を判定した場合に、絶対位置姿勢を記憶する記憶領域である絶対位置記憶領域に、推定の成功を判定した絶対位置姿勢を格納する絶対位置判定処理と、
前記コンピュータが、相対座標系での前記撮影装置の位置及び姿勢である相対位置姿勢が推定される度に、前記絶対位置記憶領域に記憶されている絶対位置姿勢と、推定された相対位置姿勢とを足し合わせる位置融合処理と、
前記コンピュータが、前記絶対位置記憶領域に記憶されている絶対位置姿勢を用いて、前記撮影装置の仰俯角及び高度を算出する仰俯角高度計測処理と、
前記コンピュータが、前記仰俯角高度計測処理により算出された前記撮影装置の仰俯角及び高度と、前記撮影装置の仰俯角と前記撮影装置の高度との関係を示す仰俯角高度関係情報とを用いて、前記位置融合処理による足し合わせにより得られた融合位置姿勢の高度を調整する高度調整処理と、
前記コンピュータが、前記絶対位置判定処理により絶対位置姿勢の推定の成功が判定された場合に、前記絶対位置判定処理により推定の成功が判定された絶対位置姿勢を選択し、前記絶対位置判定処理により絶対位置姿勢の推定の失敗が判定された場合に、前記高度調整処理による高度の調整後の融合位置姿勢を選択する位置選択処理とを有する情報処理方法。 - コンピュータが、利用者に保持される撮影装置の絶対座標系での位置及び姿勢である絶対位置姿勢が推定される度に、絶対位置姿勢の推定の成否を判定し、推定の成功を判定した場合に、絶対位置姿勢を記憶する記憶領域である絶対位置記憶領域に、推定の成功を判定した絶対位置姿勢を格納する絶対位置判定処理と、
前記コンピュータが、相対座標系での前記撮影装置の位置及び姿勢である相対位置姿勢が推定される度に、前記絶対位置記憶領域に記憶されている絶対位置姿勢と、推定された相対位置姿勢とを足し合わせる位置融合処理と、
前記コンピュータが、前記利用者が歩行中であるか否かを判定する歩行状態判定処理と、
前記歩行状態判定処理により前記利用者が歩行中であると判定された場合に、前記コンピュータが、前記歩行状態判定処理により前記利用者が歩行中であると判定された時点での、前記利用者の歩行に伴う前記撮影装置の高度の変動周期における位相を算出する位相算出処理と、
前記コンピュータが、前記位相算出処理により算出された前記位相と、前記利用者の歩行に伴う前記撮影装置の高度の変動幅とに基づき、前記位置融合処理による足し合わせにより得られた融合位置姿勢の高度を調整する変動付加処理と、
前記コンピュータが、前記絶対位置判定処理により絶対位置姿勢の推定の成功が判定された場合に、前記絶対位置判定処理により推定の成功が判定された絶対位置姿勢を選択し、前記絶対位置判定処理により絶対位置姿勢の推定の失敗が判定された場合に、前記変動付加処理による高度の調整後の融合位置姿勢を選択する位置選択処理とを有する情報処理方法。 - 絶対座標系での撮影装置の位置及び姿勢である絶対位置姿勢が推定される度に、絶対位置姿勢の推定の成否を判定し、今回の判定結果と前回の判定結果とが同じであるか否かを判定し、今回の判定結果と前回の判定結果とが異なり、今回の判定結果で推定の成功と判定している場合に、今回の判定結果で推定の成功と判定している絶対位置姿勢を第1の指定絶対位置姿勢として指定し、今回の判定結果と前回の判定結果とが異なり、今回の判定結果で推定の失敗と判定している場合に、絶対位置姿勢を記憶する記憶領域である絶対位置記憶領域に記憶されている絶対位置姿勢を第2の指定絶対位置姿勢として指定する絶対位置判定処理と、
相対座標系での前記撮影装置の位置及び姿勢である相対位置姿勢を推定し、推定した相対位置姿勢を、相対位置姿勢を記憶する記憶領域である相対位置記憶領域に格納する相対位置推定処理と、
前記絶対位置判定処理により指定された前記第1の指定絶対位置姿勢と前記第2の指定絶対位置姿勢との変位を算出し、前記第1の指定絶対位置姿勢と前記第2の指定絶対位置姿勢との変位と前記相対位置記憶領域に記憶されている相対位置姿勢とを比較し、前記第1の指定絶対位置姿勢と前記第2の指定絶対位置姿勢との変位と前記相対位置記憶領域に記憶されている相対位置姿勢との誤差を補正する係数を算出する推定結果比較処理とをコンピュータに実行させる情報処理プログラム。 - 絶対座標系での撮影装置の位置及び姿勢である絶対位置姿勢が推定される度に、絶対位置姿勢の推定の成否を判定し、推定の成功を判定した場合に、絶対位置姿勢を記憶する記憶領域である絶対位置記憶領域に、推定の成功を判定した絶対位置姿勢を格納する絶対位置判定処理と、
相対座標系での前記撮影装置の位置及び姿勢である相対位置姿勢が推定される度に、前記絶対位置記憶領域に記憶されている絶対位置姿勢と、推定された相対位置姿勢とを足し合わせる位置融合処理と、
前記絶対位置記憶領域に記憶されている絶対位置姿勢を用いて、前記撮影装置の仰俯角及び高度を算出する仰俯角高度計測処理と、
前記仰俯角高度計測処理により算出された前記撮影装置の仰俯角及び高度と、前記撮影装置の仰俯角と前記撮影装置の高度との関係を示す仰俯角高度関係情報とを用いて、前記位置融合処理による足し合わせにより得られた融合位置姿勢の高度を調整する高度調整処理と、
前記絶対位置判定処理により絶対位置姿勢の推定の成功が判定された場合に、前記絶対位置判定処理により推定の成功が判定された絶対位置姿勢を選択し、前記絶対位置判定処理により絶対位置姿勢の推定の失敗が判定された場合に、前記高度調整処理による高度の調整後の融合位置姿勢を選択する位置選択処理とをコンピュータに実行させる情報処理プログラム。 - 利用者に保持される撮影装置の絶対座標系での位置及び姿勢である絶対位置姿勢が推定される度に、絶対位置姿勢の推定の成否を判定し、推定の成功を判定した場合に、絶対位置姿勢を記憶する記憶領域である絶対位置記憶領域に、推定の成功を判定した絶対位置姿勢を格納する絶対位置判定処理と、
相対座標系での前記撮影装置の位置及び姿勢である相対位置姿勢が推定される度に、前記絶対位置記憶領域に記憶されている絶対位置姿勢と、推定された相対位置姿勢とを足し合わせる位置融合処理と、
前記利用者が歩行中であるか否かを判定する歩行状態判定処理と、
前記歩行状態判定処理により前記利用者が歩行中であると判定された場合に、前記歩行状態判定処理により前記利用者が歩行中であると判定された時点での、前記利用者の歩行に伴う前記撮影装置の高度の変動周期における位相を算出する位相算出処理と、
前記位相算出処理により算出された前記位相と、前記利用者の歩行に伴う前記撮影装置の高度の変動幅とに基づき、前記位置融合処理による足し合わせにより得られた融合位置姿勢の高度を調整する変動付加処理と、
前記絶対位置判定処理により絶対位置姿勢の推定の成功が判定された場合に、前記絶対位置判定処理により推定の成功が判定された絶対位置姿勢を選択し、前記絶対位置判定処理により絶対位置姿勢の推定の失敗が判定された場合に、前記変動付加処理による高度の調整後の融合位置姿勢を選択する位置選択処理とをコンピュータに実行させる情報処理プログラム。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2016/064564 WO2017199325A1 (ja) | 2016-05-17 | 2016-05-17 | 情報処理装置、情報処理方法及び情報処理プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP6335413B2 true JP6335413B2 (ja) | 2018-05-30 |
JPWO2017199325A1 JPWO2017199325A1 (ja) | 2018-07-19 |
Family
ID=60325051
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018511185A Active JP6335413B2 (ja) | 2016-05-17 | 2016-05-17 | 情報処理装置、情報処理方法及び情報処理プログラム |
Country Status (3)
Country | Link |
---|---|
JP (1) | JP6335413B2 (ja) |
TW (1) | TW201741815A (ja) |
WO (1) | WO2017199325A1 (ja) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH09152342A (ja) * | 1995-12-01 | 1997-06-10 | Fujitsu Ten Ltd | 車両位置検出装置 |
JP2001264076A (ja) * | 2000-03-21 | 2001-09-26 | Clarion Co Ltd | カーナビゲーション装置 |
US20110285842A1 (en) * | 2002-06-04 | 2011-11-24 | General Electric Company | Mobile device positioning system and method |
-
2016
- 2016-05-17 WO PCT/JP2016/064564 patent/WO2017199325A1/ja active Application Filing
- 2016-05-17 JP JP2018511185A patent/JP6335413B2/ja active Active
- 2016-07-27 TW TW105123704A patent/TW201741815A/zh unknown
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH09152342A (ja) * | 1995-12-01 | 1997-06-10 | Fujitsu Ten Ltd | 車両位置検出装置 |
JP2001264076A (ja) * | 2000-03-21 | 2001-09-26 | Clarion Co Ltd | カーナビゲーション装置 |
US20110285842A1 (en) * | 2002-06-04 | 2011-11-24 | General Electric Company | Mobile device positioning system and method |
Non-Patent Citations (1)
Title |
---|
牧田孝嗣, 外6名: ""カメラトラッキングと歩行者デッドレコニングの連携に基づく広域屋内測位を用いた複合現実感メンテナンス", ヒューマンインタフェース学会 研究報告集, vol. 第16巻, 第4号, JPN6018010930, 1 July 2014 (2014-07-01), JP, pages 85 - 90 * |
Also Published As
Publication number | Publication date |
---|---|
WO2017199325A1 (ja) | 2017-11-23 |
TW201741815A (zh) | 2017-12-01 |
JPWO2017199325A1 (ja) | 2018-07-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
TWI574223B (zh) | 運用擴增實境技術之導航系統 | |
EP2434256B1 (en) | Camera and inertial measurement unit integration with navigation data feedback for feature tracking | |
EP3309751B1 (en) | Image processing device, method, and program | |
CN102289804B (zh) | 通过合并方向传感器读数和图像配准估计实现3d视频稳定的系统和方法 | |
KR100855657B1 (ko) | 단안 줌 카메라를 이용한 이동로봇의 자기위치 추정 시스템및 방법 | |
US20060256200A1 (en) | Method and system for improving video metadata through the use of frame-to-frame correspondences | |
KR20190098003A (ko) | 장치의 자세 추정 방법 및 그 장치 | |
JP2003222509A (ja) | 位置姿勢決定方法および装置並びに記憶媒体 | |
CN110954134B (zh) | 陀螺仪偏差校正方法、校正系统、电子设备及存储介质 | |
JP7107166B2 (ja) | 床面検出プログラム、床面検出方法及び端末装置 | |
JP6334927B2 (ja) | 付加情報表示装置および付加情報表示プログラム | |
Tomažič et al. | Fusion of visual odometry and inertial navigation system on a smartphone | |
US20140286537A1 (en) | Measurement device, measurement method, and computer program product | |
KR102559203B1 (ko) | 포즈 정보를 출력하는 방법 및 장치 | |
WO2011048497A2 (en) | Computer vision based hybrid tracking for augmented reality in outdoor urban environments | |
US11361455B2 (en) | Systems and methods for facilitating the identifying of correspondences between images experiencing motion blur | |
TWM560099U (zh) | 運用擴增實境技術之室內精確導航系統 | |
KR20220122287A (ko) | 증강 현실 제공 장치의 포즈 결정 방법 및 장치 | |
JP6335413B2 (ja) | 情報処理装置、情報処理方法及び情報処理プログラム | |
JP2022190173A (ja) | 位置推定装置 | |
CN113160221B (zh) | 图像处理方法、装置、计算机设备和存储介质 | |
CN112633043A (zh) | 一种车道线确定方法、装置、电子设备及存储介质 | |
CN111133274A (zh) | 用于估计在环境和磁场中运动的对象的运动的方法 | |
CN116934829B (zh) | 无人机目标深度估计的方法、装置、存储介质及电子设备 | |
US20150092985A1 (en) | Updating filter parameters of a system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180227 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180227 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20180227 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20180319 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180403 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180427 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6335413 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |