JP5981371B2 - 姿勢によって拡張現実感の表示を制御する情報端末、システム、プログラム及び方法 - Google Patents

姿勢によって拡張現実感の表示を制御する情報端末、システム、プログラム及び方法 Download PDF

Info

Publication number
JP5981371B2
JP5981371B2 JP2013055376A JP2013055376A JP5981371B2 JP 5981371 B2 JP5981371 B2 JP 5981371B2 JP 2013055376 A JP2013055376 A JP 2013055376A JP 2013055376 A JP2013055376 A JP 2013055376A JP 5981371 B2 JP5981371 B2 JP 5981371B2
Authority
JP
Japan
Prior art keywords
annotation
information
information terminal
posture
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013055376A
Other languages
English (en)
Other versions
JP2014182479A (ja
Inventor
渉 土井
渉 土井
井戸上 彰
彰 井戸上
野垣内 出
出 野垣内
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
KDDI Corp
Original Assignee
KDDI Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by KDDI Corp filed Critical KDDI Corp
Priority to JP2013055376A priority Critical patent/JP5981371B2/ja
Publication of JP2014182479A publication Critical patent/JP2014182479A/ja
Application granted granted Critical
Publication of JP5981371B2 publication Critical patent/JP5981371B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • User Interface Of Digital Computer (AREA)
  • Processing Or Creating Images (AREA)
  • Position Input By Displaying (AREA)

Description

本発明は、拡張現実感の技術に関する。
拡張現実感(又は強化現実感、Augmented Reality)とは、視覚的な現実空間映像に、仮想的なアノテーション(annotation)を重畳した映像を、ユーザに視認させる技術をいう。アノテーションとは、一般に、あるデータに、そのデータに関する注釈を付与するメタデータを付与することをいう。拡張現実感におけるアノテーションとは、ユーザが視認している対象物に関連する情報(例えば文字、画像、映像)をいう。この技術に適用される装置としては、例えばヘッドマウントディスプレイがある。ユーザは、この装置を目の前に装着することによって、オブジェクトが見える現実空間に、アノテーションの補足情報を視覚的に重畳して見ることができる。具体的な応用例としては、手術中の医師が、ヘッドマウントディスプレイを装着することによって、患者の現実の手術状態を視認すると共に、身体状態や患部の関連情報も視認することができる。
近年、携帯電話機やスマートフォンに適用した拡張現実感(AR)ソフトウェアが提供されている。代表的には、頓智ドット株式会社によって提供されるセカイカメラ(Sekai Camera)(登録商標)がある(例えば非特許文献1参照)。この技術によれば、iPhone(登録商標)やAndroid(登録商標)のスマートフォンを用いて、ユーザが目の前の景色をディスプレイに映し出した際に、その場所・対象物(建物・看板など)に関連する「エアタグ」と称されるアノテーション(文字・画像・音声のような付加情報)を重畳的に表示する。スマートフォンは、現在位置を測位するGPS(Global Positioning System)機能と、カメラの向いている方位角を取得する電子コンパス(地磁気センサ)とを有する。そして、スマートフォンは、これら情報をサーバへ送信し、サーバから、メタデータを受信する。スマートフォンは、受信したメタデータに基づくエアタグコンテンツを、ディスプレイの現実空間に重畳して表示する。
従来、撮像装置で取得した画像からオブジェクト(検索対象)を検出し、そのオブジェクトの姿勢に合わせて、アノテーションを重畳表示させる技術がある(例えば特許文献1参照)。この技術によれば、事前に登録されているオブジェクトの形状又は特徴点と、検出されたオブジェクトの形状又は特徴点とを比較し、撮像装置とオブジェクトとの位置関係に応じて、アノテーションを表示することができる。
また、サーバが、位置情報に基づいたアノテーションを蓄積した技術がある(例えば特許文献2参照)。この技術によれば、情報端末が、GPS機能によって取得された位置情報を、そのサーバへ送信する。これに対し、サーバは、その情報端末の位置周辺に登録されているアノテーションを検索し、そのアノテーションを情報端末へ送信する。これによって、情報端末は、そのアノテーションをディスプレイに表示することができる。また、サーバは、位置情報に基づいたオブジェクトの画像特徴データを蓄積したものものある。情報端末は、位置情報に基づいた画像特徴データをサーバから取得し、撮像装置に写る映像から当該画像特徴データに類似するオブジェクトを検出することもできる。
尚、配信された情報に含まれるメタデータの緯度経度及び情報端末の姿勢に応じて、端末が、情報表示方法を計算する技術もある(例えば特許文献3参照)。
特開2009−110304号公報 特開2010−191813号公報 特開2010−238096号公報
頓智ドット株式会社、「Sekai Camera Support Center」、[online]、[平成24年3月12日検索]、インターネット<http://support.sekaicamera.com/ja/how-to>
従来技術によれば、情報端末の現在位置及び方位角に基づいて、現実空間の映像にアノテーションを重畳して表示するものである。即ち、情報端末自体の姿勢については何ら注目していない。そのために、現在位置及び方位角が同じであれば、情報端末のカメラを上方に向けた場合であっても下方に向けた場合であっても(姿勢が異なる場合であっても)、同じアノテーションを表示することとなる。これは、ユーザは、情報端末のカメラを常に地上に対して水平方向に向けることを前提としている。
しかしながら、情報端末のカメラを上方に向けた場合と下方に向けた場合とでは、即ち、姿勢が異なる場合には、現在位置及び方位角が同じであっても、表示すべきアノテーションも異なるべきである。情報端末のカメラが地上に対して水平方向に向けられている際に表示すべきアノテーションは、その情報端末が上方又は下方に向けられた際には表示すべきでない。一方で、現在位置及び方位角が同じであっても、その情報端末が上方又は下方に向けられた際には、情報端末のカメラが地上に対して水平方向に向けられている際に表示すべきアノテーションとは別のアノテーションを表示すべきである。
そこで、本発明は、情報端末のカメラの写る現実空間の映像に、当該情報端末の姿勢に応じたアノテーションを重畳的に表示することができる情報端末、システム、プログラム及び拡張現実感表示方法を提供することを目的とする。
本発明によれば、現実空間を撮影するカメラと、姿勢情報を計測するセンサと、カメラによって撮影された映像を表示するディスプレイと、現在位置情報を取得する測位部とを有する情報端末において、
カメラは、当該情報端末に対して、その撮影方向と、当該情報端末を把持するユーザから見た視線方向とが一致するように固定的に搭載されており、
現実空間映像に重畳表示すべきアノテーション毎に、当該情報端末の位置情報及び姿勢範囲情報を対応付けて蓄積するアノテーション蓄積手段と、
アノテーション蓄積手段を用いて、現在位置情報をキーとして、アノテーションを検索するアノテーション検索手段と、
検索されたアノテーションの姿勢範囲情報に、センサによって取得された姿勢情報が含まれるか否かを判定する姿勢判定手段と、
姿勢判定手段によって真と判定された場合にのみ、ディスプレイに、現実空間映像にアノテーションを重畳表示するべく制御する表示制御手段と
を有することを特徴とする。
本発明の情報端末における他の実施形態によれば、
センサは、3軸の加速度データを出力する加速度センサであり、
姿勢情報は、加速度センサによって取得される重力ベクトルに対する姿勢角であり、
アノテーションの姿勢範囲情報は、姿勢角の範囲であることも好ましい。
本発明の情報端末における他の実施形態によれば、姿勢角は、重力ベクトルに対するピッチ角であることも好ましい。
本発明の情報端末における他の実施形態によれば、
センサは、3軸の地磁気データを出力する地磁気センサを更に含み、
姿勢情報は、地磁気センサによって取得される北に対する方位角を更に含み、
アノテーションの姿勢範囲情報に、方位角の範囲を更に含み、
姿勢判定手段は、検索されたアノテーションの方位角に、センサによって取得された方位が含まれるか否かを更に判定することも好ましい。
本発明の情報端末における他の実施形態によれば、方位角は、北に対するヨー角であることも好ましい。
本発明の情報端末における他の実施形態によれば、表示制御手段は、センサによって取得された姿勢情報が、アノテーションの姿勢範囲情報に中央値から上限下限値へ近づくに従って当該アノテーションの表示色を透明に近づけるべく制御することも好ましい。
本発明によれば、前述した情報端末から、ネットワークを介してアクセスさせるサーバとを有するシステムであって、
サーバは、
位置に応じて、情報端末に関する姿勢範囲情報を対応付けたアノテーションを蓄積するアノテーション蓄積手段と、
情報端末から現在位置情報を受信した際に、アノテーション及び姿勢範囲情報を返信するアノテーション検索手段と
を有し、
情報端末のアノテーション検索手段は、現在位置情報をサーバへ送信し、該サーバから、アノテーション及び姿勢範囲情報を取得する
を更に有することを特徴とする。
本発明によれば、現実空間を撮影するカメラと、姿勢情報を計測するセンサと、カメラによって撮影された映像を表示するディスプレイと、現在位置情報を取得する測位部とを有する情報端末に搭載されたコンピュータを機能させるプログラムにおいて、
カメラは、当該情報端末に対して、その撮影方向と、当該情報端末を把持するユーザから見た視線方向とが一致するように固定的に搭載されており、
現実空間映像に重畳表示すべきアノテーション毎に、当該情報端末の位置情報及び姿勢範囲情報を対応付けて蓄積するアノテーション蓄積手段と、
アノテーション蓄積手段を用いて、現在位置情報をキーとして、アノテーションを検索するアノテーション検索手段と、
検索されたアノテーションの姿勢範囲情報に、センサによって取得された姿勢情報が含まれるか否かを判定する姿勢判定手段と、
姿勢判定手段によって真と判定された場合にのみ、ディスプレイに、現実空間映像にアノテーションを重畳表示するべく制御する表示制御手段と
してコンピュータを機能させることを特徴とする。
本発明によれば、現実空間を撮影するカメラと、姿勢情報を計測するセンサと、カメラによって撮影された映像を表示するディスプレイと、現在位置情報を取得する測位部とを有する情報端末における拡張現実感表示方法において、
カメラは、当該情報端末に対して、その撮影方向と、当該情報端末を把持するユーザから見た視線方向とが一致するように固定的に搭載されており、
現実空間映像に重畳表示すべきアノテーション毎に、当該情報端末の位置情報及び姿勢範囲情報を対応付けて蓄積するアノテーション蓄積部を有し、
アノテーション蓄積を用いて、現在位置情報をキーとして、アノテーションを検索する第1のステップと、
検索されたアノテーションの姿勢範囲情報に、センサによって取得された姿勢情報が含まれるか否かを判定する第2のステップと、
第2のステップによって真と判定された場合にのみ、ディスプレイに、現実空間映像にアノテーションを重畳表示するべく制御する第3のステップと
を有することを特徴とする。
本発明の情報端末、システム、プログラム及び拡張現実感表示方法によれば、情報端末のカメラの写る現実空間の映像に、当該情報端末の姿勢に応じたアノテーションを重畳的に表示することができる。
本発明における情報端末の機能構成図である。 本発明における情報端末の向きを表す説明図である。 アノテーション蓄積部に蓄積されたテーブルを表す説明図である。 ピッチ角を表すユーザ座標系である。 ヨー角を表すユーザ座標系である。 アノテーションにおける第1の実施形態の表示形式を表す説明図である。 アノテーションにおける第2の実施形態の表示形式を表す説明図である。 情報端末及びPOIサーバがネットワークを介して接続されたシステム構成図である。
以下では、本発明の実施の形態について、図面を用いて詳細に説明する。
図1は、本発明における情報端末の機能構成図である。
情報端末1は、ユーザに所持されるものであって、例えば携帯電話機又はスマートフォンのようなものである。図1によれば、情報端末1は、カメラ101と、ディスプレイ102と、加速度センサ103と、地磁気センサ104と、測位部105とを有する。
カメラ101は、その撮影方向と、当該情報端末1を把持するユーザから見た視線方向とが一致するように固定的に搭載される。ここで、カメラ101のファインダが、ディスプレイ102である場合、カメラ101によって撮影された現実空間の映像は、ディスプレイ102に写像される。この場合、カメラ101とディスプレイ102とが、視認方向に対して逆向きに配置される。即ち、ユーザの視認の角度が、情報端末1の姿勢と一致することとなる。
また、本発明におけるディスプレイ102には、カメラ101によって撮影された現実空間の映像に、アノテーションが重畳して表示される。アノテーションは、ユーザの興味を持つ位置に拡張現実感情報を重畳するオブジェクトであって、一般にPOI(Point Of Interest)とも称される。例えば、ユーザが、スマートフォンのカメラでコーヒー店の店頭を撮影した場合、その現実空間の店頭の映像に、その店のメッセージ(テキスト)が重畳的に浮かんで表示される。ユーザが、そのPOIを指し示すことによって、その店のURL(Uniform Resource Locator)に基づくWebサイトへアクセスすることができる。
加速度センサ103は、加速度、即ち単位時間当たりの速度の変化を検出する。情報端末1の傾きを検出することができる3軸タイプの場合、3次元の加速度を検出でき、地球の重力(静的加速度)の計測にも対応できる。加速度センサ103は、姿勢情報として、重力ベクトルに対する姿勢角を出力する。その姿勢情報は、姿勢判定部113へ出力される。
地磁気センサ104は、3軸方向(前後方向、左右方向及び上下方向)の地磁気の方向を測定する。地磁気センサ104は、ホール素子を分離し、分離したホール素子からそれぞれ検出された値を出力する。地磁気センサ104は、姿勢情報として、北に対する方位角を出力する。その姿勢情報は、姿勢判定部113へ出力される。
測位部105は、現在位置情報を測位する。測位部105は、例えば、GPS(Global Positioning System)衛星から配信された測位電波を受信し、絶対位置となる緯度経度情報を測位するものであってもよい。また、複数の周辺基地局からの通信電波を受信し、複数基地局測位機能によって現在位置情報を測位するものであってもよい。現在位置情報は、アノテーション検索部112へ出力される。
図2は、本発明における情報端末の向きを表す説明図である。
図2によれば、情報端末1について、前方となるカメラ101の向きと、後方となるディスプレイ102の向きとを結ぶ方向を、x軸とする。また、情報端末1の加速度センサ103から得られた重力ベクトルの方向を、z軸とする。更に、x軸及びz軸から、情報端末1におけるy軸が決定される。尚、情報端末1のカメラの向きをx軸正方向、情報端末1の左手向きをy軸正方向、情報端末1の下向きをz軸正方向とする。
また、図2よれば、地磁気が、南方位の上方から到来し、情報端末1の北方位の下方へ向かっている。角度は、北から時計回りで表される。
ここで、y軸回りの回転角は、「ピッチ角(pitch)」と称される。ピッチ角は、情報端末1のカメラ101の向きを斜め上又は斜め下に向けた場合の角度となる。例えば、ビルの下からビルの上階を見上げるように、情報端末1のカメラを向けた場合、ピッチ角が大きくなる。
カメラを水平方向へ向けた場合 :ピッチ角=0°(x−z平面と平行)
カメラを斜め上方へ向けた角度 :ピッチ角=正(0<ピッチ角<90°)
カメラを斜め下方へ向けた角度 :ピッチ角=負(0>ピッチ角>−90°)
重力ベクトル=−90°
一方で、z軸回りの回転角は、「ヨー角(yaw)」と称される。ヨー角は、情報端末1のカメラ101の向きを斜め左又は斜め右に向けた場合の角度となる。情報端末1のカメラ101が、北向きの場合にヨー角=0°となる。ヨー角は、北向きを基準に、時計回りに大きくなる。
カメラを北向きへ向けた場合 :ヨー角=0°
カメラを北から時計回り向けた角度 :ヨー角=正
カメラを北から反時計回り向けた角度:ヨー角=負
図1に戻って、情報端末1は、アノテーション蓄積部111と、アノテーション検索部112と、姿勢判定部113と、表示制御部114とを有する。これら機能構成部は、情報端末1に搭載されたコンピュータを機能させるプログラムを実行することによって実現される。尚、これら機能構成部の処理の流れは、拡張現実感表示方法としても理解できる。
[アノテーション蓄積部111]
アノテーション蓄積部111は、現実空間映像に重畳表示すべきアノテーション毎に、当該情報端末に関する姿勢範囲情報を対応付けて蓄積する。
図3は、アノテーション蓄積部に蓄積されたテーブルを表す説明図である。
図3によれば、アノテーション(POI-ID)毎に、以下の情報が登録されている。
位置情報(緯度・経度)
テキスト
URL
姿勢範囲情報(ピッチ角の範囲、ヨー角の範囲)
特に、本発明によれば「姿勢範囲情報」を含むことに特徴がある。図3によれば、緯度経度情報が同じPOIであっても、異なる姿勢範囲情報を登録することができる。
[アノテーション検索部112]
アノテーション検索部112は、アノテーション蓄積部111を用いて、現在位置情報をキーとして、現実空間映像に重畳すべきアノテーションを検索する。例えば、現在位置情報を中心として、所定位置範囲に含まれる緯度経度情報を検索する。
例えば、情報端末1が緯度39.91837及び経度139.7728に位置する場合、図3によれば、以下の3つのアノテーションが検索される。
POI-ID1:「IT企業A」
POI-ID2:「お勧めコーヒー」
POI-ID3:「携帯基地局」
検索されたアノテーション毎の情報は、姿勢判定部113へ出力される。
[姿勢判定部113]
姿勢判定部113は、検索されたアノテーションの姿勢範囲情報に、センサによって取得された姿勢方位情報が含まれるか否かを判定する。
[表示制御部114]
表示制御部114は、姿勢判定部113によって真と判定された場合にのみ、ディスプレイに、現実空間映像にアノテーションを重畳表示するべく制御する。
図4は、ピッチ角を表すユーザ座標系である。
図4(a)は、情報端末のカメラが、y軸の斜め上向きに向けられた場合のユーザ座標系である。このとき、加速度センサ103によってピッチ角=50°が検出されたとする。この場合、姿勢範囲情報のピッチ角が30°〜60°となっているPOI-ID1「IT企業A」のみが、アノテーションとして表示される。
図4(b)は、情報端末のカメラが、図4(a)と同様に、y軸の斜め上向きに向けられた場合のユーザ座標系である。このとき、ピッチ角=35°が検出されたとする。この場合、姿勢範囲情報のピッチ角が30°〜60°となっているPOI-ID1「IT企業A」と、姿勢範囲情報のピッチ角が−5°〜40°となっているPOI-ID2「お薦めコーヒー」とが、アノテーションとして表示される。
図5は、ヨー角を表すユーザ座標系である。
図5によれば、情報端末のカメラのz軸は、図4(a)と同様に、ピッチ角=50°であるとする。
図5(a)は、情報端末のカメラが、z軸の右向きに向けられた場合のユーザ座標系である。このとき、ヨー角=120°が検出されたとする。この場合、姿勢範囲情報のヨー角が100°〜140°となっているPOI-ID3「携帯基地局」のみが、アノテーションとして表示される。
図5(b)は、情報端末のカメラが、z軸の左向きに向けられた場合のユーザ座標系である。このとき、ヨー角=20°が検出されたとする。この場合、姿勢範囲情報が0°〜40°となっているPOI-ID1「IT企業A」のみが、アノテーションとして表示される。
図4及び図5によれば、緯度経度情報が同じPOIであっても、当該情報端末1におけるピッチ角及びヨー角の姿勢角に応じて、異なるPOIを、ディスプレイに重畳的に表示することとなる。
図6は、アノテーションにおける第1の実施形態の表示形式を表す説明図である。
図6によれば、表示制御部114は、センサによって取得された姿勢情報が、アノテーションの姿勢範囲情報に中央値から上限下限値へ近づくに従って当該アノテーションの表示色を透明に近づけるべく制御する。
情報端末1がピッチ角aの状態に向けられている場合、アノテーションの姿勢範囲情報の上限値に近いために、「IT企業A」のアノテーションが比較的薄く表示される。ディスプレイを視認するユーザにとっては、比較的注目度が低くなる。
情報端末1がピッチ角bの状態に向けられている場合、アノテーションの姿勢範囲情報の中央値に近いために、「IT企業A」のアノテーションが濃く表示される。ディスプレイを視認するユーザにとっては、比較的注目度が高くなる。
情報端末1がピッチ角cの状態に向けられている場合、アノテーションの姿勢範囲情報の下限値に近いために、「IT企業A」のアノテーションが比較的薄く表示される。ディスプレイを視認するユーザにとっては、比較的注目度が低くなる。
図7は、アノテーションにおける第2の実施形態の表示形式を表す説明図である。
図7によれば、表示制御部114は、姿勢判定部113によって真と判定されたアノテーションの位置情報と、測位部105によって取得された現在位置情報との間の距離を算出し、その距離に基づいてアノテーションの表示を制御する。
情報端末1と被写体との距離が遠い(位置a)場合、「IT企業A」のアノテーションが比較的小さく表示される。ディスプレイを視認するユーザにとっては、比較的注目度が低くなる。
情報端末1と被写体との距離が中程度(位置b)場合、「IT企業A」のアノテーションが比較的中程度に表示される。ディスプレイを視認するユーザにとっては、比較的注目度が中程度となる。
情報端末1と被写体との距離が近い(位置c)場合、「IT企業A」のアノテーションが比較的大きく表示される。ディスプレイを視認するユーザにとっては、比較的注目度が高くなる。
図8は、情報端末及びPOIサーバがネットワークを介して接続されたシステム構成図である。
図8によれば、情報端末1は、図1と比較して、通信インタフェース106を更に有する。また、図8によれば、図1と比較して、POI(アノテーション蓄積)サーバ2を更に有する。POIサーバ2は、アノテーション蓄積部20と、アノテーション提供部21とを有する。
情報端末1の通信インタフェース106は、無線を介してPOIサーバ2と通信する。POIサーバ2がインターネットに接続されている場合、通信インタフェース106は、無線を介してインターネットに接続する機能を有する。情報端末1のアノテーション検索部112は、現在位置情報をPOIサーバ2へ送信する。
POIサーバ2のアノテーション蓄積部20は、前述した図3と同様のPOIテーブル(情報端末1のアノテーション蓄積部111と同様)を蓄積している。
POIサーバ2のアノテーション提供部21は、情報端末1から現在位置情報を受信する。そして、アノテーション提供部21は、アノテーション蓄積部20を用いて、現在位置情報をキーとして、アノテーションを検索する(情報端末1のアノテーション検索部112と同様)。検索されたアノテーションの「位置情報」「テキスト」「姿勢範囲情報」「URL」は、情報端末1へ返信される。
そして、情報端末1のアノテーション検索部112は、POIサーバ2から通信インタフェース106を介して、アノテーション(位置情報、テキスト、URL及び姿勢範囲情報)を取得することができる。
以上、詳細に説明したように、本発明の情報端末、システム、プログラム及び拡張現実感表示方法によれば、情報端末のカメラの写る現実空間の映像に、当該情報端末の姿勢に応じたアノテーションを重畳的に表示することができる。
特に、本発明によれば、現実空間に、地面に鉛直に存在する人物やキャラクタのようなオブジェクトを重畳して表示する場合、現実空間におけるオブジェクトを撮影するカメラの姿勢を限定して表示することができる。また、ビルや看板のように固定されている現実空間の被写体に対して、情報端末のカメラが見る方向によって、重畳すべきオブジェクトを変更することもできる。更に、このようなPOI情報を、POIサーバへ集中させることによって、POI情報の更新も容易になり、情報端末1がPOI情報を予め蓄積しておく必要もない。更に、情報端末のカメラが見る方向に応じて、落下や移動などの重力を意識させるオブジェクトを重畳的に表示することもでき、情報の表現力や現実感を向上させることもできる。
また、本発明によれば、情報端末の位置(緯度経度)が全く同じであっても、その向き(上方、下方、方位)によって異なるアノテーションを表示することができる。逆に、不要なアノテーションを表示しないようにすることができる。特に、広告や標識等のアノテーションを、意図せぬ方向から見られるないようにすることができる。更に、他の実施形態として、特定の位置について、多くのユーザが見る角度と、逆にユーザがあまり見ない角度とによって、広告としてのアノテーションの表示を、オークション形式で切り替えることもできる。
前述した本発明の種々の実施形態について、本発明の技術思想及び見地の範囲の種々の変更、修正及び省略は、当業者によれば容易に行うことができる。前述の説明はあくまで例であって、何ら制約しようとするものではない。本発明は、特許請求の範囲及びその均等物として限定するものにのみ制約される。
1 情報端末
101 カメラ
102 ディスプレイ
103 加速度センサ
104 地磁気センサ
105 測位部
106 通信インタフェース
111 アノテーション蓄積部
112 アノテーション検索部
113 姿勢判定部
114 表示制御部
2 POIサーバ
20 アノテーション蓄積部
21 アノテーション提供部

Claims (9)

  1. 現実空間を撮影するカメラと、姿勢情報を計測するセンサと、前記カメラによって撮影された現実空間映像を表示するディスプレイと、現在位置情報を取得する測位部とを有する情報端末において、
    前記カメラは、当該情報端末に対して、その撮影方向と、当該情報端末を把持するユーザから見た視線方向とが一致するように固定的に搭載されており、
    前記現実空間映像に重畳表示すべきアノテーション毎に、当該情報端末の位置情報及び姿勢範囲情報を対応付けて蓄積するアノテーション蓄積手段と、
    前記アノテーション蓄積手段を用いて、前記現在位置情報をキーとして、前記アノテーションを検索するアノテーション検索手段と、
    検索された前記アノテーションの姿勢範囲情報に、前記センサによって取得された姿勢情報が含まれるか否かを判定する姿勢判定手段と、
    前記姿勢判定手段によって真と判定された場合にのみ、前記ディスプレイに、前記現実空間映像に前記アノテーションを重畳表示するべく制御する表示制御手段と
    を有することを特徴とする情報端末。
  2. 前記センサは、3軸の加速度データを出力する加速度センサであり、
    前記姿勢情報は、前記加速度センサによって取得される重力ベクトルに対する姿勢角であり、
    前記アノテーションの前記姿勢範囲情報は、前記姿勢角の範囲である
    ことを特徴とする請求項1に記載の情報端末。
  3. 前記姿勢角は、前記重力ベクトルに対するピッチ角であることを特徴とする請求項2に記載の情報端末。
  4. 前記センサは、3軸の地磁気データを出力する地磁気センサを更に含み、
    前記姿勢情報は、前記地磁気センサによって取得される北に対する方位角を更に含み、
    前記アノテーションの前記姿勢範囲情報に、前記方位角の範囲を更に含み、
    前記姿勢判定手段は、検索されたアノテーションの方位角に、前記センサによって取得された方位が含まれるか否かを更に判定する
    ことを特徴とする請求項1から3のいずれか1項に記載の情報端末。
  5. 前記方位角は、北に対するヨー角であることを特徴とする請求項4に記載の情報端末。
  6. 前記表示制御手段は、前記センサによって取得された姿勢情報が、前記アノテーションの姿勢範囲情報に中央値から上限下限値へ近づくに従って当該アノテーションの表示色を透明に近づけるべく制御する
    ことを特徴とする請求項1から5のいずれか1項に記載の情報端末。
  7. 請求項1からのいずれか1項に記載の情報端末から、ネットワークを介してアクセスさせるサーバとを有するシステムであって、
    前記サーバは、
    位置に応じて、情報端末に関する姿勢範囲情報を対応付けた前記アノテーションを蓄積するアノテーション蓄積手段と、
    前記情報端末から現在位置情報を受信した際に、前記アノテーション及び前記姿勢範囲情報を返信するアノテーション検索手段と
    を有し、
    前記情報端末の前記アノテーション検索手段は、前記現在位置情報を前記サーバへ送信し、該サーバから、前記アノテーション及び前記姿勢範囲情報を取得する
    を更に有することを特徴とするシステム。
  8. 現実空間を撮影するカメラと、姿勢情報を計測するセンサと、前記カメラによって撮影された現実空間映像を表示するディスプレイと、現在位置情報を取得する測位部とを有する情報端末に搭載されたコンピュータを機能させるプログラムにおいて、
    前記カメラは、当該情報端末に対して、その撮影方向と、当該情報端末を把持するユーザから見た視線方向とが一致するように固定的に搭載されており、
    前記現実空間映像に重畳表示すべきアノテーション毎に、当該情報端末の位置情報及び姿勢範囲情報を対応付けて蓄積するアノテーション蓄積手段と、
    前記アノテーション蓄積手段を用いて、前記現在位置情報をキーとして、前記アノテーションを検索するアノテーション検索手段と、
    検索されたアノテーションの姿勢範囲情報に、前記センサによって取得された姿勢情報が含まれるか否かを判定する姿勢判定手段と、
    前記姿勢判定手段によって真と判定された場合にのみ、前記ディスプレイに、前記現実空間映像に前記アノテーションを重畳表示するべく制御する表示制御手段と
    してコンピュータを機能させることを特徴とする情報端末用のプログラム。
  9. 現実空間を撮影するカメラと、姿勢情報を計測するセンサと、前記カメラによって撮影された現実空間映像を表示するディスプレイと、現在位置情報を取得する測位部とを有する情報端末における拡張現実感表示方法において、
    前記カメラは、当該情報端末に対して、その撮影方向と、当該情報端末を把持するユーザから見た視線方向とが一致するように固定的に搭載されており、
    前記現実空間映像に重畳表示すべきアノテーション毎に、当該情報端末の位置情報及び姿勢範囲情報を対応付けて蓄積するアノテーション蓄積部を有し、
    前記アノテーション蓄積を用いて、前記現在位置情報をキーとして、前記アノテーションを検索する第1のステップと、
    検索されたアノテーションの姿勢範囲情報に、前記センサによって取得された姿勢情報が含まれるか否かを判定する第2のステップと、
    第2のステップによって真と判定された場合にのみ、前記ディスプレイに、前記現実空間映像に前記アノテーションを重畳表示するべく制御する第3のステップと
    を有することを特徴とする拡張現実感表示方法。
JP2013055376A 2013-03-18 2013-03-18 姿勢によって拡張現実感の表示を制御する情報端末、システム、プログラム及び方法 Active JP5981371B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013055376A JP5981371B2 (ja) 2013-03-18 2013-03-18 姿勢によって拡張現実感の表示を制御する情報端末、システム、プログラム及び方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013055376A JP5981371B2 (ja) 2013-03-18 2013-03-18 姿勢によって拡張現実感の表示を制御する情報端末、システム、プログラム及び方法

Publications (2)

Publication Number Publication Date
JP2014182479A JP2014182479A (ja) 2014-09-29
JP5981371B2 true JP5981371B2 (ja) 2016-08-31

Family

ID=51701155

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013055376A Active JP5981371B2 (ja) 2013-03-18 2013-03-18 姿勢によって拡張現実感の表示を制御する情報端末、システム、プログラム及び方法

Country Status (1)

Country Link
JP (1) JP5981371B2 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10366290B2 (en) 2016-05-11 2019-07-30 Baidu Usa Llc System and method for providing augmented virtual reality content in autonomous vehicles
TWI611307B (zh) * 2016-08-24 2018-01-11 李雨暹 適地性空間物件資料建立方法、顯示方法與應用系統
TWI617931B (zh) * 2016-09-23 2018-03-11 李雨暹 適地性空間物件遠距管理方法與系統
JP6828508B2 (ja) * 2017-02-27 2021-02-10 富士ゼロックス株式会社 情報処理装置及び情報処理プログラム
JP7181724B2 (ja) * 2018-08-09 2022-12-01 古野電気株式会社 携帯端末、システム、文字情報取得方法、及びプログラム
JP7157871B2 (ja) * 2019-03-08 2022-10-20 株式会社Nttドコモ 関連情報出力装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5244012B2 (ja) * 2009-03-31 2013-07-24 株式会社エヌ・ティ・ティ・ドコモ 端末装置、拡張現実感システム及び端末画面表示方法

Also Published As

Publication number Publication date
JP2014182479A (ja) 2014-09-29

Similar Documents

Publication Publication Date Title
US9699375B2 (en) Method and apparatus for determining camera location information and/or camera pose information according to a global coordinate system
KR101356192B1 (ko) 영상매칭 기반의 스마트폰의 위치자세 결정 방법 및 시스템
US9240074B2 (en) Network-based real time registered augmented reality for mobile devices
JP5981371B2 (ja) 姿勢によって拡張現実感の表示を制御する情報端末、システム、プログラム及び方法
EP3095092B1 (en) Method and apparatus for visualization of geo-located media contents in 3d rendering applications
US8797353B2 (en) Augmented media message
US9558559B2 (en) Method and apparatus for determining camera location information and/or camera pose information according to a global coordinate system
CN104750969B (zh) 智能机全方位增强现实信息叠加方法
US20140267234A1 (en) Generation and Sharing Coordinate System Between Users on Mobile
KR101212636B1 (ko) 증강 현실에서 위치 정보를 표시하는 방법 및 장치
US10672149B2 (en) Head mounted display device and processing method of head mounted display device
US20210217210A1 (en) Augmented reality system and method of displaying an augmented reality image
JP6093841B2 (ja) システム、情報処理方法及びプログラム
JP5951465B2 (ja) 道路情報に基づいて見通しエリアを決定するプログラム、情報端末、サーバ及び方法
KR20190047922A (ko) 혼합현실을 이용한 정보 공유 시스템
KR101601726B1 (ko) 복수의 영상 획득 장치를 포함하는 모바일 단말기의 위치 및 자세 결정 방법 및 시스템
KR102010252B1 (ko) 증강 현실 서비스 제공 장치 및 방법
US20230215098A1 (en) Method and system for creating and storing map target
JP2011164701A (ja) オブジェクト表示制御装置及びオブジェクト表示制御方法
US20140316905A1 (en) System and method for three-dimensional advertising
CN115967796A (zh) Ar对象共享方法、装置及设备
EP2733970A1 (en) An indoor mobile augmented reality application

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150804

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160420

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160426

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160606

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160628

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160628

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160720

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160728

R150 Certificate of patent or registration of utility model

Ref document number: 5981371

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150