JP5963325B2 - マーカに基づいて特定される情報を提示する装置、方法およびプログラム - Google Patents

マーカに基づいて特定される情報を提示する装置、方法およびプログラム Download PDF

Info

Publication number
JP5963325B2
JP5963325B2 JP2014165336A JP2014165336A JP5963325B2 JP 5963325 B2 JP5963325 B2 JP 5963325B2 JP 2014165336 A JP2014165336 A JP 2014165336A JP 2014165336 A JP2014165336 A JP 2014165336A JP 5963325 B2 JP5963325 B2 JP 5963325B2
Authority
JP
Japan
Prior art keywords
marker
information
image
display
terminal device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2014165336A
Other languages
English (en)
Other versions
JP2016042246A (ja
Inventor
伸光 的場
伸光 的場
康孝 西村
康孝 西村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
International Business Machines Corp
Original Assignee
International Business Machines Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by International Business Machines Corp filed Critical International Business Machines Corp
Priority to JP2014165336A priority Critical patent/JP5963325B2/ja
Priority to US14/745,602 priority patent/US9836651B2/en
Publication of JP2016042246A publication Critical patent/JP2016042246A/ja
Application granted granted Critical
Publication of JP5963325B2 publication Critical patent/JP5963325B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/20Scenes; Scene-specific elements in augmented reality scenes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30204Marker
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/24Aligning, centring, orientation detection or correction of the image
    • G06V10/245Aligning, centring, orientation detection or correction of the image by locating a pattern; Special marks for positioning

Description

本発明は、撮影手段によりマーカを写し、写されたマーカに基づいて特定される情報を提示する技術に関する。
撮影機能を有する端末装置により幾何学的な特徴が特定されたマーカを写し、写されたマーカの画像に基づいて端末装置とマーカとの相対位置を特定する従来技術がある。この種の従来技術では、マーカに関連付けられた情報をマーカとの相対位置が特定された端末装置に提供することも行われる(例えば、特許文献1参照)。
特開2005−182350号公報
写されたマーカに関連付けられた情報を取得する技術では、マーカに関連付けられた情報を取得しようとするたびに、対象のマーカを端末装置により写す手間を要していた。
また、この種の技術では、端末装置により撮影可能な範囲にあるマーカに関連付けられた情報しか取得することができない。
そこで本発明は、端末装置によりマーカを写して情報を取得するシステムの利便性を高めることを目的とする。
上記の目的を達成するため、本発明は、次のようなシステムとして実現される。このシステムは、マーカに基づいて特定される情報を提示するシステムであって、マーカを管理するサーバと、このサーバからマーカに関する情報を取得して表示する端末装置と、を備える。サーバは、マーカを特定するために用いられる情報である定義情報、マーカにより指定される位置に関連付けて設定された情報である付加情報および複数のマーカの間の関係を示す情報である関連情報を格納する格納部と、少なくとも一つのマーカが特定されると、関連情報に基づいてこの一つのマーカと関連付けられている他のマーカを特定し、このマーカおよび他のマーカの付加情報を格納部から読み出すデータ処理部と、端末装置から少なくとも一つのマーカを特定する情報を受信し、特定されたマーカに基づいてデータ処理部により格納部から読み出された付加情報を端末装置へ送信する送受信部と、を備える。端末装置は、画像を取得する画像取得部と、画像を表示する表示部と、画像取得部により取得された画像からマーカの画像を抽出し、このマーカを特定する画像処理を行う画像処理部と、画像処理部により特定されたマーカに関して、マーカを特定する情報をサーバへ送信し、このマーカの付加情報、このマーカと複数のマーカのうちのこのマーカに関連付けられた他のマーカとの関係を示す関連情報、および、このマーカに関連付けられた他のマーカの付加情報をサーバから受信する送受信部と、画像取得部により取得されたマーカの画像に基づき、自装置とこのマーカとの間の相対的な位置関係を計算し、このマーカの位置情報とこのマーカに関連付けられた他のマーカの位置情報とに基づき、自装置と他のマーカとの間の相対的な位置関係を計算する位置計算部と、マーカに関する情報を提示するための画像に、位置計算部により計算された位置関係に基づいて、画像処理部により特定されたマーカに付加された付加情報およびこのマーカに関連付けられた他のマーカに付加された付加情報に基づく情報表示を付加した情報提示画像を生成し、表示部に表示させる表示制御部と、を備える。
より好ましくは、表示制御部は、マーカに関する情報を提示するための画像として画像取得部により取得された画像を用い、情報提示画像を生成する。
さらに好ましくは、表示制御部は、表示制御部により生成される情報提示画像において、画像処理部により特定されたマーカの付加情報に基づく情報表示と、このマーカに関連付けられた他のマーカの付加情報に基づく情報表示とを異なる態様で付加する。また、表示制御部は、表示制御部により生成される情報提示画像において、情報提示画像に示される範囲に設置されていないマーカの付加情報に基づく情報表示と、この情報提示画像に示される範囲に設置されているマーカの付加情報に基づく情報表示とを異なる態様で付加する。また、表示制御部は、複数のマーカの付加情報に基づいて、各マーカに対する情報表示の表示優先度を設定し、この表示優先度が一定以上の情報表示を、表示優先度の高い情報表示が優先して表示されるように情報提示画像に付加する。また、表示制御部は、画像処理部により特定されたマーカの付加情報と、このマーカに関連付けられた他のマーカの付加情報および関連情報とに基づき、マーカの一覧画像を生成し、表示部に表示させ、この一覧画像に表示されたマーカの中から選択されたマーカの付加情報に基づく情報表示を付加した情報提示画像を生成する。
さらにまた、上記の端末装置において、位置計算部は、画像処理部により特定されたマーカの位置情報と、操作者により選択された他のマーカの位置情報とに基づき、自装置と他のマーカとの間の相対的な位置関係を計算し、表示制御部は、位置計算部により計算された位置関係に基づいて、少なくとも他のマーカに付加された付加情報に基づく情報表示を付加した情報提示画像を生成するように構成しても良い。そして、表示制御部は、操作者により複数の他のマーカが選択された場合に、これら複数の他のマーカの位置に基づいて特定される代表位置を情報提示画像に表示させるように構成しても良い。
また、上記の目的を達成する他の本発明は、次のような方法としても実現される。この方法は、マーカに基づいて特定される情報を提示する方法であって、マーカを含む画像を取得するステップと、取得された画像からマーカの画像を抽出し、このマーカを特定する画像処理を行うステップと、このマーカの画像に基づき、自装置とこのマーカとの間の相対的な位置関係を計算するステップと、画像処理により特定されたマーカの付加情報と、複数のマーカのうちのこのマーカに関連付けられた他のマーカの付加情報とを取得するステップと、取得した付加情報に含まれる特定されたマーカの位置情報および他のマーカの位置情報に基づき、自装置と他のマーカとの間の相対的な位置関係を計算するステップと、マーカに関する情報を提示するための画像に、計算された自装置と各マーカとの間の相対的な位置関係に基づいて、画像処理により特定されたマーカに付加された付加情報およびこのマーカに関連付けられた他のマーカに付加された付加情報に基づく情報表示を付加した情報提示画像を生成し、表示装置に表示させるステップと、を含む。
さらにまた、本発明は、コンピュータを制御して上述した装置の各機能を実現するプログラム、あるいは、コンピュータに上記の各ステップに対応する処理を実行させるプログラムとしても実現される。このプログラムは、磁気ディスクや光ディスク、半導体メモリ、その他の記録媒体に格納して配布したり、ネットワークを介して配信したりすることにより、提供することができる。
本発明によれば、端末装置によりマーカを写してマーカに関連付けられた情報を取得するシステムにおいて、マーカに関するより多くの情報が得られ、システムの利便性を高めることができる。
本実施形態が適用される情報提示システムの構成例を示す図である。 マーカの構成例を示す図である。 端末装置の機能構成を示す図である。 端末装置の画像取得部により写された画像においてマーカの画像が歪む様子を示す図である。 マーカと端末装置との間の相対的な位置関係を説明する図であり、図5(a)は端末装置に対するマーカの姿勢を示す図、図5(b)はマーカに対する端末装置の姿勢を示す図である。 センター・サーバの機能構成を示す図である。 端末装置と複数のマーカとの関係を示す図であり、図7(a)は、端末装置と指定マーカとの関係を示す図、図7(b)は、端末装置と指定マーカおよび関連マーカとの関係を示す図である。 複数のマーカの関係の例を示す図である。 端末装置の表示部に表示される情報提示画像の例を示す図である。 オブジェクトの表示優先度の設定例を示す図である。 本実施形態の端末装置による処理の流れを示すフローチャートである。 表示部に表示されたマーカの一覧画像の例を示す図である。 情報提示画像の他の構成例を示す図である。 情報提示画像のさらに他の構成例を示す図である。 本実施形態による情報提示システムの応用例を示す図である。 本実施形態による情報提示システムの他の応用例を示す図である。 図16に示した応用例の変形例を示す図である。 本実施形態による情報提示システムのさらに他の応用例を示す図であり、図18(a)は、グループや品目を選択するための大分類のインデックス画像の例を示す図、図18(b)は、グループや品目を選択するための細分類のインデックス画像の例を示す図である。 情報提示画像の例を示す図である。 情報提示画像の他の例を示す図である。 本実施形態の端末装置を構成するのに好適なハードウェア構成例を示す図である。 本実施形態のセンター・サーバを構成するのに好適なハードウェア構成例を示す図である。
以下、添付図面を参照して、本発明の実施形態について詳細に説明する。
<システム構成>
図1は、本実施形態が適用される情報提示システムの構成例を示す図である。図1に示す情報提示システム100は、マーカ110と、端末装置120と、センター・サーバ130と、を備える。端末装置120とセンター・サーバ130とは、コンピュータ・ネットワーク200を介して接続されている。本実施形態における端末装置120は、撮影機能と表示機能とを備えた携帯型情報端末(情報処理装置)である。端末装置120からコンピュータ・ネットワーク200への接続は、例えば、携帯電話等の移動体通信システムにおけるデータ通信回線や無線LAN(Local Area Network)等を介して行われる。
本実施形態の端末装置120は、撮影機能を用いてマーカ110の画像を取得し、表示機能を用いてマーカ110の画像と共にマーカ110に付加されている付加情報を表示する。言い換えると、端末装置120は、撮影機能により取り込まれたマーカ110の画像に付加情報を付加して表示機能の表示画面に写す。なお、図1にはマーカ110および端末装置120が一つのみ図示されているが、本実施形態の情報提示システム100において、マーカ110および端末装置120は、複数設けることができる。
<マーカの構成>
マーカ110は、付加情報が設定された位置を指定するための標識である。すなわち、例えば画像認識型AR(Augmented Reality:拡張現実)システムにおけるARマーカ等のように用いられる。マーカ110には、決まったパターンの画像(言い換えれば、形状やサイズが特定された画像)が用いられる。例えば、辺の長さが定められた四角形等の単純な図形等が用いられる。また、本実施形態で用いられるマーカ110としては、本実施形態に用いるために設定される固有のパターンによる画像のほか、規格が予め定められた既存の標識類を流用することもできる。例えば、QRコード(登録商標)等のような形状およびサイズの特定されたコード画像を用いても良い。さらに、形状やサイズが特定された画像であればマーカ110として用いることができるので、例えば、道路標識、規格が統一された案内板や看板等をマーカ110として利用することも可能である。なお、マーカ110としては、2次元画像を用いることが好適であるが、これに限定されず、3次元形状のパターンを用いることも可能である。
マーカ110の構成について、さらに説明する。後述するように、マーカ110は、端末装置120の撮影手段により画像として取り込まれる。そして、端末装置120が取得したマーカ110の画像を解析することにより、マーカ110の種類が識別され、マーカ110と端末装置120との相対的な位置関係が算出される。そのため、マーカ110には、端末装置120に取り込まれたマーカ110の画像に基づいてマーカ110と端末装置120との相対的な位置関係を算出可能とするための特徴が設けられる。具体的には、マーカ110であることを特定可能な幾何学的な特徴(以下、幾何学的要素)が設定される。また、マーカ110の種類を識別可能とするための特徴(以下、象徴要素)が設定される。
図2は、マーカ110の構成例を示す図である。図2に示す例では、四角形の枠と、枠内に記載された文字(図示の例ではアルファベット「M」)によりマーカ110が構成されている。図2に示す例において、四角形の枠を形成する四隅の頂点111a〜111dおよび四辺の線分112a〜112dが幾何学的要素である。すなわち、四つの頂点111a〜111dおよび線分112a〜112dを識別することで、画像がマーカ110であることを特定できる。画像から幾何学的要素を抽出してマーカ110を特定する手法としては、既存の種々の画像解析手法を用いることができる。
また、四角形の枠内に記載された文字「M」がマーカ110の象徴要素である。すなわち、文字「M」を読み取ることにより、マーカ110の種類を識別することができる。画像から象徴要素を抽出して読み取る手法としては、既存の種々の画像解析手法を用いることができる。
<端末装置の機能構成>
図3は、端末装置120の機能構成を示す図である。端末装置120は、マーカ110の画像を取得するための撮影手段(カメラ機能)を備え、例えば、タブレット型端末装置や携帯電話、ノート型PC(パーソナル・コンピュータ)等の携帯型情報端末装置により実現される。図3に示す端末装置120は、画像取得部121と、画像処理部122と、位置計算部123と、記憶部124と、送受信部125と、表示制御部126と、表示部127とを備える。
画像取得部121は、例えばマーカ110の画像を取得するためのカメラにより実現される。実際の操作では、マーカ110が設置された場所の画像(マーカ110を含む画像)が取り込まれる。画像取得部121の実現手段としては、例えば、端末装置120を実現する携帯電話等のカメラ機能を用いることができる。
画像処理部122は、画像取得部121により取得された画像を解析処理する。これにより、画像取得部121により取得された画像から、マーカ110の画像が抽出される。具体的には、画像処理部122は、画像取得部121により取得された画像のうちで、マーカ110の幾何学的要素に対応する箇所を有する部分(領域)を抽出し、マーカ110の画像とする。例えば、図2に示した例によるマーカ110の画像の場合、幾何学的要素である頂点111a〜111dおよび線分112a〜112dに対応する画像要素が検出されると、これらを含む画像上の部分(領域)がマーカ110として抽出される。幾何学的要素の検出は、既存の画像解析手法を用いて行うことができる。
また、画像処理部122は、抽出されたマーカ110の画像から、マーカ110の象徴要素を検出する。マーカ110に付与される象徴要素は、マーカ110の種類に応じてマーカ110に対する位置や形状が特定されているので、例えば、予め用意された象徴要素のデータベースを用いて該当する象徴要素を特定することにより検出することができる。なお、抽出されたマーカ110の画像は、後述するようにマーカ110の実際の形状に対して歪みを有しているが、既存の画像解析手法を用いて補正することにより、高い精度で正しい象徴要素を特定することができる。
画像取得部121により取得された画像からマーカ110の画像を抽出し、抽出した画像に対応するマーカ110の象徴要素を検出することにより、取得されたマーカ110を特定することができる。すなわち、画像処理部122は、マーカ特定手段として機能する。なお、比較的狭い範囲に複数のマーカ110が設置されている場合、画像取得部121により取り込まれた画像に、同時に複数のマーカ110が含まれることがある。このような場合、画像取得部121により取り込まれた画像を解析して、複数のマーカ110を特定することができる。また、本実施形態のシステムが適用される態様によっては、画像のサイズが最も大きいマーカ110等、一つのマーカ110を選択して特定するようにしても良い。
マーカ110の幾何学的要素および象徴要素の情報は、例えば、本実施形態の情報提示システム100によるサービスを利用する際の初期動作として、端末装置120から外部装置であるセンター・サーバ130にアクセスし、センター・サーバ130から取得するように構成することができる。また、インターネット等のネットワーク上にマーカ110の幾何学的特徴および象徴要素の情報を登録したサイトを設けておき、サービスを利用しようとする本実施形態の情報提示システム100で採用されているマーカ110の幾何学的要素および象徴要素の情報を事前に取得するように構成しても良い。
位置計算部123は、画像処理部122により抽出されたマーカ110の画像を解析することにより、マーカ110と端末装置120との間の相対的な位置関係を算出する。上記の画像処理部122により抽出されたマーカ110の画像は、通常、マーカ110と端末装置120との間の相対的な位置関係に起因する歪みを有しているため、マーカ110の実際の形状やサイズとは異なっている。そこで、位置計算部123が、マーカ110の実際の形状およびサイズと抽出されたマーカ110の画像との差異に基づき、マーカ110と端末装置120との間の距離、端末装置120に対するマーカ110の姿勢、マーカ110に対する端末装置120の姿勢を計算する。なお、位置計算部123は、マーカ110の実際の形状およびサイズを、上述した幾何学的要素の情報および後述する定義情報に基づいて認識することができる。
図4は、端末装置120の画像取得部121により取得された画像においてマーカ110の画像が歪む様子を示す図である。ここでは、マーカ110は、図2に示した2次元画像とする。また、図4には、画像取得部121の撮像面に対応する仮想的な面121aが示されている。すなわち、図4に示す面121aには、画像取得部121により取り込まれた、マーカ110を含む画像が示されている。画像取得部121によりマーカ110を含む画像を取り込む場合、マーカ110が画像取得部121の正面に存在し、かつ、マーカ110自体も画像取得部121の方向を正確に向いている場合以外は、画像取得部121により取得された画像(面121a参照)上に現れるマーカ110の像113には歪みが生じる。そこで、像113の歪みを補正してマーカ110を識別する必要がある。画像取得部121により取得された像113の歪を補正してマーカ110を識別する手法としては、例えば、AR技術において用いられている既存の手法を適用することができる。
図5は、マーカ110と端末装置120との間の相対的な位置関係を説明する図である。図5(a)は端末装置120に対するマーカ110の姿勢を示し、図5(b)はマーカ110に対する端末装置120の姿勢を示す。図5に示す例において、マーカ110と端末装置120との間の距離はLである。図5(a)に示すように、端末装置120に対するマーカ110の姿勢とは、マーカ110の形状に基づいて一意に特定される基準方向(図5(a)中、一点鎖線で表示)と、マーカ110から見た端末装置120の方向(図5(a)中の破線参照)との間の角度θで表される。基準方向としては、例えば、マーカ110が2次元画像である場合、その法線方向とすることができる。また、図5(b)に示すように、マーカ110に対する端末装置120の姿勢とは、端末装置120の画像取得部121の光軸方向(図5(b)中、一点鎖線で表示)と、端末装置120から見たマーカ110の方向(図5(b)中の破線参照)との間の角度φで表される。画像取得部121で取得された画像に基づいて、上記の距離L、角度θ、角度φ等の値を含む、マーカ110と端末装置120との間の相対的な位置関係の計算手法としては、例えば、AR技術において用いられている既存の手法を適用することができる。
端末装置120の記憶部124は、マーカ110の幾何学的要素および象徴要素の情報と、マーカ110を特定するために用いられる定義情報とを記憶する。また、互いに関連する複数のマーカ110の関連情報と、表示部127に表示される各マーカ110の付加情報とを記憶する。定義情報とは、例えば、マーカ110の形状およびサイズ、位置、設置態様等の情報である。定義情報における位置の情報とは、例えば、緯度と経度、床面からの高さ、地上からの高さ、マーカ110が設置されている構造物や敷地に基づく局地的な位置情報等のマーカ110の位置を特定する情報である。局地的な位置情報は、例えば、建物の識別情報、階数、フロア内で定義された位置、敷地内で定義された位置等とすることができる。また、定義情報における設置態様の情報は、例えば、マーカ110の向きや傾き等の情報である。これらの定義情報は、センター・サーバ130から取得して記憶部124に保持するようにしても良い。関連除法および付加情報の詳細については後述する。
上記の位置計算部123は、記憶部124に記憶されている幾何学的要素の情報および定義情報から得られるマーカ110の形状およびサイズの情報と、画像処理部122により抽出されたマーカ110の画像とに基づいて、マーカ110と端末装置120との位置関係を算出する。例えば、マーカ110の位置情報に緯度と経度が含まれる場合は、かかる情報に基づき、端末装置120の緯度と経度が算出される。また、マーカ110の位置情報に床面からの高さや地上からの高さが含まれる場合は、かかる情報に基づき、端末装置120の床面からの高さや地上からの高さが算出される。また、マーカ110の位置情報に構造物や敷地に基づく局地的な位置情報が含まれる場合は、かかる情報に基づき、その構造物や敷地における端末装置120の位置が算出される。なお、画像処理部122により複数のマーカ110の画像が抽出された場合、位置計算部123は、各画像に基づいて、各マーカ110と端末装置120との位置関係を算出する。
送受信部125は、各マーカ110と端末装置120との間の位置関係を算出する。この送受信部125は、ネットワーク200を介してセンター・サーバ130に接続するためのネットワーク・インターフェイスである。マーカ110の定義情報、付加情報および関連情報の要求、画像処理部122により特定されたマーカ110の情報等が、送受信部125によりセンター・サーバ130に送信される。そして、端末装置120から要求されたマーカ110の定義情報、付加情報および関連情報等が、センター・サーバ130から返送され、送受信部125により受信される。
表示制御部126は、画像取得部121により取得された画像を表示部127に表示させる。また、表示制御部126は、センター・サーバ130から送られたマーカ110の付加情報を含む情報提示画像を生成し、生成した情報提示画像を表示部127に表示させる。情報提示画像とは、マーカ110に付加された付加情報を端末装置120の使用者に提示するための画像であり、例えば、画像取得部121により取得された画像に、センター・サーバ130から送られたマーカ110の付加情報に基づくオブジェクト(画像やテキストを表示要素とする情報表示)を付加して生成される。このような構成の情報提示画像とする場合、情報提示画像に表示されるオブジェクトには、画像処理部122により特定されたマーカ110に関連する他のマーカ110の付加情報に基づくオブジェクトも含まれる。また、本実施形態では、予め定められた規則に基づいて、情報提示画像に表示されるオブジェクトを選択したり、オブジェクトの表示態様を制御したりすることも可能である。表示制御部126による制御の詳細については後述する。
表示部127は、液晶ディスプレイ等により実現される表示装置であり、表示制御部126の制御により画像を表示する。
また、特に図示しないが、端末装置120は、操作者が入力操作を行うための入力デバイスを有する。入力デバイスとしては、例えば、表示部127の画面に重ねて設けられ、操作者によるタッチ操作を検出して入力として受け付けるタッチパネル、マウスやトラックボール等のポインティングデバイス、キーボード等を用いることができる。
<センター・サーバの機能構成>
図6は、センター・サーバ130の機能構成を示す図である。センター・サーバ130は、マーカ110の情報を管理するサーバ・コンピュータである。図6に示すセンター・サーバ130は、送受信部131と、マーカ情報格納部132と、データ処理部133とを備える。
送受信部131は、端末装置120から、マーカ110を特定する情報と、端末装置120と特定されたマーカ110との間の位置関係の情報とを受信する。また、後述する処理により得られたマーカ110の付加情報と、このマーカ110に関連付けられている他のマーカ110の付加情報とを端末装置120へ返送する。
マーカ情報格納部132は、本実施形態の情報提示システム100において管理される各マーカ110の定義情報および付加情報と、マーカ110間の関連情報とを格納したデータベースである。定義情報とは、上述したように、マーカ110を特定するために用いられる情報である。具体的には、例えば、マーカ110の形状およびサイズ、位置、設置態様等の情報である。
付加情報とは、端末装置120に表示される情報提示画像においてオブジェクトとして表示される、マーカ110が設置された場所に関連付けて付加された情報である。付加情報の具体的な内容は、本実施形態の情報提示システム100が適用される対象や態様に応じて適宜設定することができる。例えば、マーカ110が設置された場所や設備の名称や属性、マーカ110が設置された場所に配置される物品の名称や属性、これらの場所、設備、物品等に対する担当者や管理者の情報等が考えられる。また、適用対象によっては、マーカ110が設置された場所に配置される物品の種類、価格、在庫数等を付加情報とすることもできる。さらに、詳しくは後述するが、情報の重要度を指定する情報を付加情報とすることもできる。
関連情報とは、各マーカ110の間の関係を示す情報である。具体的には、各マーカ110について、そのマーカ110に関連づけられている他のマーカ110を特定する情報と、マーカ110と他のマーカ110とがどのような関係かを示す情報とを含む。本実施形態では、複数のマーカ110をグループ分けしたり、階層関係を持たせたりすることにより関係づけ、そのようなマーカ110どうしの関係を、各マーカ110に関する情報(関連情報)として扱う。
データ処理部133は、端末装置120とのデータ交換により、マーカ情報格納部132に格納されているマーカ110に関する情報を読み出して、端末装置120へ送る。具体的には、端末装置120から定義情報の要求を受け付けると、管理対象の各マーカ110の定義情報を端末装置120へ返送する。また、端末装置120から一つのマーカ110を特定する情報を受け付けると、特定されたマーカ110の付加情報および関連情報を端末装置120へ返送する。
<端末装置とマーカとの関係>
上述したように、本実施形態では、画像取得部121により画像が取得されたマーカ110を示す情報が端末装置120からセンター・サーバ130へ送られ、センター・サーバ130において端末装置120において特定されたマーカ110に関連付けられた他のマーカ110が検索される。そして、端末装置120において特定されたマーカ110および検索された他のマーカ110の付加情報がセンター・サーバ130から端末装置120へ送られる。以下、端末装置120において特定されたマーカ110を指定マーカ110aと呼ぶ。また、指定マーカ110aに関連付けられており、センター・サーバ130において検索されるマーカ110を関連マーカ110bと呼ぶ。
ここで、指定マーカ110aと端末装置120との間の位置関係は、位置計算部123により特定されている。そして、各マーカ110の付加情報と共にセンター・サーバ130から端末装置120へ送られる関連情報に基づいて関連マーカ110bが特定され、位置計算部123により関連マーカ110bと端末装置120との間の位置関係も特定される。したがって、これらの情報に基づき、指定マーカ110aおよび関連マーカ110bが配置された空間における端末装置120の位置が特定される。
図7は、端末装置120と複数のマーカ110との関係を示す図である。図7(a)は、端末装置120と指定マーカ110aとの関係を示し、図7(b)は、端末装置120と指定マーカ110aおよび関連マーカ110bとの関係を示す。図7(a)、(b)に示す空間には、複数のマーカ110が配置されている。ここで、図7(a)に示すように、端末装置120の操作者が、これらのマーカ110の一つについて端末装置120の画像取得部121により画像を取得する。画像の取得対象となったマーカ110を指定マーカ110aとする。すると、端末装置120の位置計算部123により、端末装置120と指定マーカ110aとの間の位置関係が特定される。そして、端末装置120は、センター・サーバ130へ指定マーカ110aの情報を送り、センター・サーバ130から指定マーカ110aに関連する関連マーカ110bの関連情報を取得する。この関連情報に基づき、指定マーカ110aに対する関連マーカ110bが特定されるので、特定された関連マーカ110bの定義情報に含まれる位置情報を用いて、図7(b)に示すように、端末装置120と関連マーカ110bとの間の位置関係が特定される。この結果、端末装置120は、図7(a)、(b)に示す空間における指定マーカ110aおよび関連マーカ110bの位置を認識する。
<マーカどうしの関係>
次に、センター・サーバ130のマーカ情報格納部132に格納された関連情報により管理される各マーカ110の関係について説明する。本実施形態では、マーカ110をグループに分類して管理する。同じグループに所属するマーカ110は、互いに関連付けられたマーカ110である。すなわち、あるグループに所属する一つのマーカ110を指定マーカ110aとすると、同じグループに所属する他のマーカ110が関連マーカ110bとなる。グループの構成は、単に一つまたは複数のマーカ110が所属するグループが一つまたは複数存在するような単純な構成であっても良いし、グループやグループに所属するマーカ110どうしの間に序列や階層構造を有する構成であっても良い。
図8は、複数のマーカ110の関係の例を示す図である。図8に示す例において、各マーカ110には、個々のマーカ110を識別するための象徴要素として、「α」、「A」、「A−1」〜「A−4」、「B」、「B−1」〜「B−2」、「C」の文字が記載されている。また、図8に示す例において、マーカ「A−1」〜マーカ「A〜4」は、マーカ「A」を親とするグループ(グループA)を構成している。また、マーカ「B−1」とマーカ「B−2」は、マーカ「B」を親とするグループ(グループB)を構成している。さらに、グループAに所属するマーカ「A−3」とグループBに所属するマーカ「B−1」とは、マーカ「C」を親とする別のグループ(グループC)を構成している。そして、グループA〜グループCに所属する全てのマーカは、マーカ「α」を親とするグループαを構成している。
図8に示された関係を表す関連情報がマーカ情報格納部132に格納されている場合、あるマーカ110を指定マーカ110aとすると、関連情報を参照することにより、指定マーカ110aに対する関連マーカ110bを検索することができる。例えば、マーカ「A−1」を指定マーカ110aとすると、マーカ「A−1」と同じグループAに所属するマーカ「A−2」、「A−3」、「A−4」と、グループAの親であるマーカ「A」が関連マーカ110bである。
同様に、マーカ「A−3」を指定マーカ110aとすると、マーカ「A−3」と同じグループAに所属するマーカ「A−1」、「A−2」、「A−4」と、グループAの親であるマーカ「A」が関連マーカ110bである。また、マーカ「A−3」はグループCにも所属しているので、グループCに所属するマーカ「B−1」と、グループCの親であるマーカ「C」も関連マーカ110bである。
一方、グループAの親であるマーカ「A」を指定マーカ110aとすると、グループAに所属する全てのマーカ「A−1」〜マーカ「A−4」およびマーカ「A」が所属するグループαの親であるマーカ「α」が関連マーカ110bとなる。また、グループαの親であるマーカ「α」を指定マーカ110aとすると、グループαに所属する全てのマーカが関連マーカ110bとなる。また、各グループの親でないマーカ110を指定マーカ110aとした場合に、グループの親であるマーカ110が所属する上位グループの親であるマーカ110を関連マーカ110bに含めても良い(例えば、グループAのマーカ「A−1」を指定マーカ110aとした場合に、マーカ「α」を関連マーカ110bとする)。
なお、図8に示すマーカ110のグループ構成は例示に過ぎず、各マーカ110の関係は、図示のグループ構成に限定されない。本実施形態では、マーカ110を様々なグループに分類して管理することができる。個々のマーカ110は、一つのグループにのみ所属しても良いし、図8に示したマーカ「A−3」およびマーカ「B−1」のように複数のグループに所属しても良い。また、上述したように、各グループの構成も、様々な構成を採り得る。そして、個々のマーカ110が指定マーカ110aとして指定された場合に、どのグループに所属するどの範囲までのマーカ110を、関連マーカ110bとして選択するかについても、種々の規則を設定することができる。本実施形態の情報提示システム100において、具体的なマーカ110のグループ構成および関連マーカ110bの範囲は、本実施形態の情報提示システムが適用される対象の具体的な仕様、構成、目的、規模等の種々の要因に応じて設定される。
<端末装置の表示制御部によるオブジェクトの表示制御の例>
次に、端末装置120の表示制御部126によるオブジェクトの表示制御について説明する。上述したように、端末装置120は、画像処理部122により特定されたマーカ110の情報をセンター・サーバ130に送る。そして、このマーカ110の付加情報と、このマーカ110を指定マーカ110aとして検索された関連マーカ110bの付加情報および関連情報とをセンター・サーバ130から取得する(以下、画像処理部122により特定されたマーカ110を指定マーカ110aとする)。表示制御部126は、取得した指定マーカ110aの付加情報と関連マーカ110bの付加情報および関連情報とに基づき、画像取得部121により取得された画像に、各マーカ110の付加情報に基づくオブジェクトを付加して情報提示画像を生成し、表示部127に表示させる。
端末装置120は、図7を参照して説明したように、指定マーカ110aおよび関連マーカ110bが配置された空間における端末装置120の位置を認識することができる。これにより、端末装置120は、端末装置120の位置から見た関連マーカ110bの位置を特定することができる。したがって、端末装置120の向きを変えて画像取得部121による画像の取得領域が変更されても、変更後の取得領域に存在する指定マーカ110aや関連マーカ110bに対するオブジェクトが情報提示画像に表示される。
ここで、端末装置120は、画像取得部121で指定マーカ110aの画像を取得し、取得した指定マーカ110aの画像を解析することにより、指定マーカ110aと端末装置120との間の位置関係を特定し、さらに関連マーカ110bと端末装置120との間の位置関係を特定する。したがって、端末装置120の画像取得部121が指定マーカ110aを捉えた状態(画像取得部121による画像の取得領域に指定マーカ110aが入っている状態)である場合に、指定マーカ110aおよび関連マーカ110bに対する端末装置120の位置が特定され、これらのマーカ110に対するオブジェクトを情報提示画像に表示することが可能となる。
ただし、各マーカ110が建物の構内のような限定的な空間に配置されている場合、特定された端末装置120と指定マーカ110aとの位置関係に基づいて、その空間内における端末装置120の位置を特定することができる。そして、その空間内における指定マーカ110aおよび端末装置120の位置に基づいて、その空間内における各関連マーカ110bの位置も特定される。この場合は、マーカ110が配置された空間を表す構内図等の上で、その空間における各マーカ110の位置を示すことができる。そのため、指定マーカ110aが画像取得部121による画像の取得領域から外れて各マーカ110に対する端末装置120の位置が特定できなくなったとしても、マーカ110が配置された空間を表す構内図等を表示部127に表示し、その構内図等の上でマーカ110の位置を示すことにより、端末装置120の使用者は、各マーカ110の位置を継続して認識することができる。
また、端末装置120が指定マーカ110aおよび関連マーカ110bの位置を特定した後に、端末装置120の位置や向きが変わって画像取得部121による画像の取得領域から指定マーカ110aが外れた場合、上述したように、端末装置120は指定マーカ110aおよび関連マーカ110bに対する端末装置120の位置を認識できなくなる。そのため、原則的には、端末装置120は、各マーカ110に対するオブジェクトを表示部127に表示し続けることができなくなる。しかしながら、端末装置120が一度、各マーカ110の付加情報および関連情報を取得した後は、これらの情報は端末装置120の記憶部124に保持される。そのため、画像取得部121により何れかの関連マーカ110bの画像を取得し、その関連マーカ110bを新たな指定マーカ110aとすれば、端末装置120は、センター・サーバ130から改めて各マーカ110の付加情報および関連情報を取得しなくても、記憶部124に保持されている情報に基づいて、直ちに新たな指定マーカ110aおよび関連マーカ110bと端末装置120との間の位置関係を特定することができる。したがって、例えば端末装置120の操作者が、特定の関連マーカ110bに関する情報(設置位置等)を知りたい場合、元の指定マーカ110aが画像取得部121による画像の取得領域から外れても、適当な関連マーカ110b(上記の特定の関連マーカ110b以外の関連マーカ110b)を画像取得部121で捉えて新たな指定マーカ110aとすることにより、継続して特定の関連マーカ110bに対するオブジェクトを表示部127に表示させることが可能となる。
なお、端末装置120から見た指定マーカ110aおよび関連マーカ110bの位置が特定されているので、マーカ110が端末装置120の位置から見える状態でなくても(マーカ110自体が写っていなくても)、そのマーカ110が存在する位置に、そのマーカ110に対するオブジェクトを表示することができる。さらに、画像取得部121による画像の取得領域から外れた位置に存在するマーカ110に関しても、後述する重要度等の条件に応じて、オブジェクトを情報提示画像に表示することができる。
ここで、表示制御部126は、情報提示画像を生成する場合に、情報提示画像に表示されるオブジェクトの表示態様を、表示されるオブジェクトに対応するマーカ110の状態や種類等に応じて制御することができる。例えば、指定マーカ110aに対するオブジェクトと関連マーカ110bに対するオブジェクトとを異なる表示態様で表示しても良い。また、画像取得部121による画像の取得領域から外れた位置に存在するマーカ110に対するオブジェクトを、画像取得部121による画像の取得領域内に存在するマーカ110に対するオブジェクトとは異なる表示態様で表示しても良い。
図9は、端末装置120の表示部127に表示される情報提示画像の例を示す図である。図9に示す例では、端末装置120の画像取得部121により取得された画像と、その画像の領域内に存在する指定マーカ110aに対するオブジェクトおよび指定マーカ110aに関連する関連マーカ110bに対するオブジェクトとが合成された情報提示画像が表示部127に表示されている。図9に示す例において、オブジェクト301は、指定マーカ110aの付加情報に基づくオブジェクトであり、四角形の吹き出しによって表現されている。オブジェクト302は、関連マーカ110bの付加情報に基づくオブジェクトであり、丸型の吹き出しによって表現されている。また、オブジェクト303は、情報提示画像に示される、画像取得部121による画像の取得領域から外れた位置(例えば、後方や別の階のフロア)に存在するマーカ110の付加情報に基づくオブジェクトであり、雲形の吹き出しによって表現されている。なお、図示していないが、各オブジェクト301、302、303の吹き出しの中には、各オブジェクト301、302、303に対応するマーカ110の付加情報が表示される。
また、図9に示す例において、太枠で示された二つのオブジェクト302、303は、重要度の高い付加情報に基づくオブジェクトであることを示す。特に、太枠のオブジェクト303は、画像取得部121による画像の取得領域から外れた位置に存在するマーカ110に対するオブジェクトでありながら、重要度が高いために、情報提示画像に表示されている。
<オブジェクトの表示優先度>
次に、オブジェクトの表示優先度について説明する。画像取得部121による画像の取得領域内に多数のマーカ110が存在する場合、全てのマーカ110に対してオブジェクトを表示すると、情報提示画像が煩雑になり、却って情報を利用し難くなることがあり得る。また、マーカ110の位置によっては、複数のオブジェクトが重なってしまい、視認し難くなる場合もある。そこで、本実施形態では、表示対象となる各オブジェクトに関して表示優先度を設定する。
図10は、オブジェクトの表示優先度の設定例を示す図である。図10に示す例では、表示優先度を決めるために用いられる値として、指定マーカおよび関連マーカA〜Dの5個のマーカ110に対して、「端末装置までの距離」、「端末装置に対する向き」、「重要度」、「表示順特定値」の4項目の値が示されている。
「端末装置までの距離」には、端末装置120の位置計算部123により計算された端末装置120と指定マーカとの間の距離および端末装置120と各関連マーカA〜Dとの間の距離が登録される。図10に示す例において、距離の単位は示されていないが、本実施形態の情報提示システム100が適用される対象の具体的な構成や規模等に応じて適当に設定することができる。また、端末装置120と指定マーカとの間の距離を単位長さ(値「1」)として、端末装置120と各関連マーカA〜Dとの間の距離を単位長さとの比で示しても良い。
「端末装置に対する向き」には、端末装置120の画像取得部121の撮影方向(光軸方向)に対する端末装置120から各マーカ110へ向かう方向の角度が登録される。撮影方向に対する角度が小さいほど、画像取得部121の正面に近い位置にマーカ110が存在することを意味するので、端末装置120の操作者が画像取得部121で写そうと意図した対象である可能性が高いことを考慮して、表示優先度の計算に用いられる。
「重要度」には、各マーカ110の付加情報の内容に基づいて設定された重要度の値が設定される。この重要度の値は、例えば、「クリティカル」、「緊急」、「正常」等のように、マーカ110が設けられた位置やその位置に配置された物品等の状況に応じた値を設定することができる。そして、その位置や物品の状況が変化する場合は、重要度の値も動的に変動するようにしても良い。この場合、例えば、センター・サーバ130が、本実施形態の情報提示システム100が適用される対象の管理システムから、マーカ110が設けられた位置や物品の状況に関する情報を取得する。そして、状況の変化に応じて、各マーカ110の重要度の値を変動させる。
「表示順特定値」は、上記の「端末装置までの距離」、「端末装置に対する向き」、「重要度」の値をパラメータとして計算される値であり、各マーカ110に対するオブジェクトを情報提示画像に表示する際の優先度を特定する値である。表示順特定値の計算方法は、表示優先度を決定するために適当な手法を適宜採用すればよく、特に限定はしない。図10に示す例では、「端末装置までの距離」の値をx、「端末装置に対する向き」の値をy、「重要度」の値をz、「表示順特定値」をsとして、式:s=x+(y×10)+zにより計算されている。
端末装置120は、上記のようにして計算された表示順特定値に基づいて各マーカ110に対するオブジェクトの表示順を決定する。図10に示した設定例では、表示順特定値の小さい方から順に表示対象とする。情報提示画像において複数のオブジェクトが重なる場合は、表示順特定値の小さい方を優先して(上になるように)表示する。
また、表示順特定値に対して閾値を設定しておき、表示順特定値が閾値よりも小さいマーカ110に対するオブジェクトのみを情報提示画像に表示するようにしても良い。例えば、図10に示した設定例において、閾値を「27」に設定すると、表示順特定値が「13」である指定マーカ、表示順特定値が「16」である関連マーカC、表示順特定値が「26」である関連マーカDの3個のマーカに対するオブジェクトが情報提示画像に表示される。閾値により表示対象から外れたオブジェクトに対しては、情報提示画像において、表示されていないオブジェクトがあることを示す表示を行い、表示されていないオブジェクトを表示させる操作を受け付けるようにしても良い。
また、上記の閾値とは別に、画像取得部121による画像の取得領域から外れた位置に存在するマーカ110に対するオブジェクトを情報提示画像に表示するための閾値を設定しても良い。例えば、表示順特定値が閾値よりも小さいマーカ110に対するオブジェクトは、そのマーカ110が画像取得部121による画像の取得領域から外れた位置に存在する場合であっても、情報提示画像に表示する。また、画像取得部121による画像の取得領域から外れた位置に存在するマーカ110に対するオブジェクトを情報提示画像に表示するのは、そのマーカ110の付加情報の重要度が高い場合であると考え、この場合の閾値を、表示順特定値ではなく、重要度に対して設定しても良い。
<端末装置による処理の流れ>
図11は、本実施形態の端末装置120による処理の流れを示すフローチャートである。本動作において、端末装置120は、マーカ110の幾何学的要素および象徴要素の情報を事前に取得し、保持しているものとする。図11に示すように、まず、端末装置120の操作者は、適当なマーカ110を選択し、選択したマーカ110を端末装置120の画像取得部121の撮影範囲に捉える。すると、画像処理部122が、画像取得部121により取り込まれたマーカ110を含む画像を解析してマーカ110の画像を抽出する(ステップ1101)。そして、画像処理部122は、抽出されたマーカ110の画像に含まれる象徴要素に基づき、マーカ110の種類を特定する(ステップ1102)。
次に、端末装置120の操作者の操作により、端末装置120は、ステップ1102で特定されたマーカ110(指定マーカ110a)の定義情報の送信要求をセンター・サーバ130に対して行い、要求した定義情報を取得する(ステップ1103)。端末装置120が指定マーカ110aの定義情報を取得すると、位置計算部123は、取得された定義情報に含まれる指定マーカ110aの位置情報に基づき、端末装置120と指定マーカ110aとの間の位置関係を算出する(ステップ1104)。
次に、端末装置120は、指定マーカ110aの付加情報と、関連マーカ110bの定義情報および付加情報と、関連情報の送信要求をセンター・サーバ130に対して行い、要求した各情報を取得する(ステップ1105)。そして、端末装置120の位置計算部123が、ステップ1105で取得した情報のうち、関連マーカ110bの定義情報に含まれる関連マーカ110bの位置情報に基づき、端末装置120と関連マーカ110bとの間の位置関係を算出する(ステップ1106)。
次に、端末装置120の表示制御部126が、ステップ1105で取得した情報のうち、各マーカ110の付加情報および関連情報に基づいてオブジェクトの表示優先度を特定する(ステップ1107)。そして、表示制御部126は、ステップ1104およびステップ1106で位置計算部123により算出された端末装置120と各マーカ110との位置関係に基づき、ステップ1107で特定した表示優先度にしたがって、画像取得部121により取得された画像と各マーカ110の付加情報に基づくオブジェクトとを合成した情報提示画像を生成し、表示部127に表示させる(ステップ1108)。
なお、上記の動作例では、端末装置120は、まず指定マーカ110aの定義情報のみを取得し、端末装置120と指定マーカ110aとの間の位置関係を算出した後に、残りの情報を取得したが、情報を取得する手順は上記の例には限定されない。例えば、端末装置120が指定マーカ110aの定義情報を取得する際に、指定マーカ110aの付加情報も一緒に取得する構成としても良い。定義情報を取得するために指定マーカ110aが特定されているので、センター・サーバ130は、この指定マーカ110aの付加情報を定義情報と共に端末装置120へ送信することができる。この場合、端末装置120は、端末装置120と指定マーカ110aとの間の位置関係を算出した後に、関連マーカ110bの定義情報および付加情報と、関連情報とを取得する。
また、端末装置120が指定マーカ110aの定義情報を取得する際に、指定マーカ110aに関連する関連マーカ110bの定義情報も一緒に取得する構成としても良い。定義情報を取得するために指定マーカ110aが特定されているので、センター・サーバ130は、この指定マーカ110aに関連する関連マーカ110bを特定することが可能であり、指定マーカ110aの定義情報と共に関連マーカ110bの定義情報を端末装置120へ送信することができる。この場合、端末装置120は、取得した指定マーカ110aおよび関連マーカ110bの定義情報に基づき、端末装置120と指定マーカ110aおよび関連マーカ110bとの間の位置関係を一緒に算出することが可能となる。そして、端末装置120は、端末装置120と指定マーカ110aおよび関連マーカ110bとの間の位置関係を算出した後に、指定マーカ110aおよび関連マーカ110bの付加情報と、関連情報とを取得する。
さらに、端末装置120が指定マーカ110aの定義情報を取得する際に、指定マーカ110aの付加情報、関連マーカ110bの定義情報および付加情報、関連情報の全てを一緒に取得する構成としても良い。定義情報を取得するために指定マーカ110aが特定されているので、センター・サーバ130は、この指定マーカ110aに関連する関連マーカ110bを特定し、各マーカ110の定義情報および付加情報と、関連情報とを端末装置120へ送信することができる。この場合、端末装置120は、取得した情報のうち、各マーカ110の定義情報に基づき、端末装置120と各マーカ110との間の位置関係を一緒に算出することができる。また、端末装置120は、取得した情報のうち、各マーカ110の付加情報と関連情報とに基づき、情報提示画像を生成し、表示部127に表示させることができる。
また、端末装置120が指定マーカ110aを特定しない段階で(すなわち、マーカ110の画像を抽出していない段階で)、各マーカ110の定義情報を先に取得する構成としても良い。この場合、端末装置120は、マーカ110どうしの関係に関わらず、本実施形態の情報提示システムにより管理される全てのマーカ110に関する定義情報を取得する。この定義情報にマーカ110の幾何学的要素および象徴要素の情報が含まれるようにすれば、端末装置120が初期的に各マーカ110の定義情報を取得する際にマーカ110の幾何学的要素および象徴要素の情報を得ることができる。そのため、ショッピング・センターや倉庫等の特定の領域でのみ使用される特殊な形状のマーカ110により本実施形態の情報提示システムによるサービスを提供する場合であっても、端末装置120が、特殊な形状のマーカ110の画像を抽出し、マーカ110の種類を特定することが可能となる。
<端末装置の移動に伴う表示制御>
さて、端末装置120は、指定マーカ110aおよび関連マーカ110bが配置された空間における端末装置120の位置を認識しており、端末装置120は、端末装置120の位置から見た関連マーカ110bの位置を特定することができることを先に述べた。しかしながら、端末装置120が移動すると、端末装置120と各マーカ110との相対位置が変化するため、そのままでは、情報提示画像に表示されるオブジェクトの位置がずれてしまう。そこで、端末装置120は、所定のタイミングで(例えば定期的に)センター・サーバ130から各マーカ110に関する情報を取得して、認識する各マーカ110の位置を修正し、情報提示画像におけるオブジェクトの表示を随時更新しても良い。この場合、端末装置120と各マーカ110との間の位置関係が変化するため、各マーカ110の優先度特定値も変化する。したがって、変化した優先度特定値に基づいて、表示対象とするオブジェクトや各オブジェクトの表示対象も更新される。
<表示対象として指定したマーカに対するオブジェクトの表示>
本実施形態において、図10を参照して説明した表示優先度に基づくオブジェクトの表示とは異なり、端末装置120の操作者が所望のマーカ110を指定して、指定したマーカ110に対するオブジェクトを情報提示画像に表示させることができる。この場合、例えば、センター・サーバ130からマーカ110の付加情報と関連情報を取得した後、表示制御部126が、付加情報が取得されたマーカ110の一覧画像を表示部127に表示させる。
図12は、表示部127に表示されたマーカ110の一覧画像の例を示す図である。例えば、図8に示したマーカ110の分類のうち、マーカ「A−1」に関して端末装置120の画像取得部121により画像が取得され、指定マーカ110aとして扱われたものとする。すると、マーカ「A−1」が所属するグループAの他のマーカ110が関連マーカ110bとなり、端末装置120は、センター・サーバ130からグループAに所属する各マーカ110の付加情報を取得する。そして、図12に示すように、図8に示したグループAに含まれるマーカ110の一覧画像が表示部127に表示される。図12に示す例において、指定マーカ110aであるマーカ「A−1」には、目印(「◎」)が付されている。また、グループAの親であるマーカ「A」は、一覧の先頭に記載されている。
端末装置120の操作者は、表示部127に表示されたマーカ110の一覧の中から付加情報を参照して所望のマーカ110を選択する。次に、表示制御部126は、選択されたマーカ110に対するオブジェクトを含む情報提示画像を生成し、表示部127に表示させる。操作者は、表示された情報提示画像を参照することにより、選択したマーカ110の位置、付加情報等を確認することができる。上述したように、端末装置120は、端末装置120から見た各マーカ110の位置を認識しているので、選択したマーカ110が操作者から見えない位置に設置されている場合でも、情報提示画像にはマーカ110の位置が表示される。
<情報提示画像の他の例>
ここで、情報提示画像の他の例について説明する。これまでの説明では、情報提示画像として、端末装置120の画像取得部121により取得された画像とマーカ110の付加情報に基づくオブジェクトとを合成した画像を作成することとした。しかしながら、情報提示画像は、マーカ110の位置と共にマーカ110の付加情報を端末装置120の操作者に提示することができれば良く、上記のような画像取得部121により取得された画像とオブジェクトとの合成画像という画像構成には限定されない。
図13は、情報提示画像の他の構成例を示す図である。図13に示す例では、マーカ110が配置されている場所の周辺の地図やフロア案内図とマーカ110の付加情報に基づくオブジェクト301、302とを合成した画像を情報提示画像として表示部127に表示している。すなわち、画像取得部121により取得された画像を情報提示画像に用いていない。この例において情報提示画像に用いられる地図やフロア案内図は、例えば、センター・サーバ130から取得するように構成することができる。このような画像構成とすれば、オブジェクト301、302の表示により各マーカ110の位置を俯瞰的に把握することができるので、操作者が、各マーカ110の相対的な位置関係を把握するのが容易となる。また、端末装置120とマーカ110との間に障害物がある場合でも、操作者が、マーカ110が設置されている場所へ移動するための道筋を認識することが容易となる。なお、このような構成の情報提示画像を採用する場合、端末装置120の位置を表すオブジェクト(不図示)を情報提示画像に表示しても良い。マーカ110が存在する空間における端末装置120の位置は分かっているので、この位置を、情報提示画像に示される地図やフロア案内図における端末装置120の位置に変換することは容易である。
図14は、情報提示画像のさらに他の構成例を示す図である。図14に示す例では、現在の端末装置120の位置から見た、マーカ110が設置されている場所の方向と距離とが表示部127に表示される。図14に示す例では、現在位置を表す標識127a(図中、目印「◎」で表示)からの方向が矢印127bで表示され、距離がテキスト127c(図中、「あと10.51m」の文字)で表示されている。すなわち、画像取得部121により取得された画像やマーカ110に対するオブジェクトを情報提示画像に用いていない。上記の操作者が選択したマーカ110に関する情報を提示する場合のように、特定のマーカ110のみを対象とする場合は、情報提示画像の情報量を減らし、不要な情報を表示しないことにより、特定のマーカ110に関する必要な情報を認識し易くすることができる。
<本実施形態の応用例>
図15は、本実施形態による情報提示システム100の応用例を示す図である。この応用例では、端末装置120の操作者である検査員の点検対象の場所にマーカ110が設置されている。各マーカ110は、関連情報により関連付けられている。そして、各マーカ110の付加情報には、点検すべき各々の場所に設置されている各マーカ110の情報と、点検順の情報とが含まれている。
このような構成において、検査員は、まず任意のマーカ110の画像を取得し、マーカ110の付加情報と関連情報とをセンター・サーバ130から取得する。この付加情報および関連情報に基づき、最初に点検すべき場所に設置されたマーカ110と、画像が取得されたマーカ110が設置された場所の次に点検すべき場所に設置されたマーカ110とがわかる。端末装置120の表示部127に表示される情報提示画像には、これらのマーカ110が設置された場所および点検順を示すオブジェクト301、302が示される。図15(a)、(b)において、オブジェクト301、302に記載した数字は、点検順を示す。
ここで、図15(a)に示すように、画像が取得されたマーカ110が設置された場所が最初に点検すべき場所であった場合、検査員は、その場所の点検を行った後、マーカ110の関連情報に含まれる検査順の情報にしたがって、次に点検すべき場所へ移動する。そして、検査順の最後のマーカ110が設置された場所に到達するまで関連情報に従って移動し、順次点検していく。
一方、図15(b)に示すように、画像が取得されたマーカ110が設置された場所が最初に点検すべき場所でない場合、検査員は、マーカ110の関連情報に含まれる検査順の情報にしたがって、最初に点検すべき場所へ移動する。そして、検査員は、その場所から点検を開始し、検査順の最後のマーカ110が設置された場所に到達するまで関連情報に従って移動し、順次点検していく。
上記の応用例において、点検対象の点検順は、点検対象の場所に設置されたマーカ110の付加情報により決定される。したがって、センター・サーバ130においてマーカ情報格納部132に格納されている各マーカ110の付加情報を更新することにより、点検順を適宜調整することが可能である。
図16は、本実施形態による情報提示システム100の他の応用例を示す図である。この応用例では、同じ敷地に配置された複数の管理系統による管理対象の場所に、管理系統に対応させてグループ分けしたマーカ110が設置されている。図16(a)、(b)において、表示部127に表示されるマーカ110は、図8を参照して説明したグループAとグループBに分類されている。図示の例において、グループAの親であるマーカ110には、所属グループを示す「A」の文字が記述され、グループBの親であるマーカ110には、所属グループを示す「B」の文字が記述されている。また、各グループに属する他のマーカ110には、所属グループを示す「A」、「B」の文字と枝番が記述されている。
端末装置120の操作者である管理者は、端末装置120の画像取得部121により、自身の管理対象が属する管理系統に対応付けられたグループの親であるマーカ110の画像を取得し、画像が取得されたマーカ110を指定マーカ110aとする。これにより、指定マーカ110aと同じグループに所属する関連マーカ110bとして特定され、指定マーカ110aに対するオブジェクト301および関連マーカ110bに対するオブジェクト302が情報提示画像に表示され、管理者は、自身の管理対象を確認することができる。
図16(a)に示すように、マーカ「A」を指定マーカ110aとすると、グループAに所属するマーカ「A−1」〜「A−4」が、関連マーカ110bとして特定される。そして、表示部127において、指定マーカ110a(マーカ「A」)に対するオブジェクト301および関連マーカ110b(マーカ「A−1」〜「A−4」)に対するオブジェクト302が情報提示画像に表示される。図16(a)において、グループAとは異なる管理系統に対応付けられたグループBに属するマーカ110は、破線で示されている。
一方、図16(b)に示すように、マーカ「B」を指定マーカ110aとすると、グループBに所属するマーカ「B−1」〜「B−2」が、関連マーカ110bとして特定される。そして、表示部127において、指定マーカ110a(マーカ「B」)に対するオブジェクト301および関連マーカ110b(マーカ「B−1」〜「B−2」)に対するオブジェクト302が情報提示画像に表示される。図16(b)において、グループBとは異なる管理系統に対応付けられたグループAに属するマーカ110は、破線で示されている。
次に、図16を参照して説明した応用例の変形例を説明する。図16を参照して説明した応用例では、各グループの親であるマーカ110を指定マーカ110aとすることにより、指定マーカ110aと同じグループに所属するマーカ110を関連マーカ110bとした。そして、各マーカ110および各マーカ110に対するオブジェクト301、302を情報提示画像に表示した。これに対し、端末装置120の使用者の属性に応じて、同一のマーカ110を指定マーカ110aとした場合であっても、異なるグループのマーカ110を情報提示画像に表示させるように制御することが考えられる。
図17は、図16に示した応用例の変形例を示す図である。図17に示す変形例では、図16に示した例と同様に、同じ敷地に配置された複数の管理系統による管理対象の場所に、管理系統に対応させてグループ分けしたマーカ110が設置されている。図16(a)、(b)において、表示部127に表示されるマーカ110は、図8を参照して説明したグループAとグループBに分類されている。各グループに属する他のマーカ110には、所属グループを示す「A」、「B」の文字と枝番が記述されている。また、図17に示す例において、グループAおよびグループBを含む全体の親であるマーカ110には、「α」の文字が記述されている。
端末装置120の操作者である管理者は、端末装置120の画像取得部121により、全体の親であるマーカ110(マーカ「α」)の画像を取得し、画像が取得されたマーカ「α」を指定マーカ110aとする。そして、指定マーカ110aの情報と共に、端末装置120の使用者の属性の情報が、端末装置120からセンター・サーバ130へ送られる。ここで、使用者の属性は、使用者である管理者の管理対象に対応付けられている。例えば、使用者(管理者)が電気設備の点検者であれば、管理対象は電気系統検査対象物品となる。また、使用者(管理者)が機械設備の点検者であれば、管理対象は検査対象機器となる。ここでは、電気系統検査対象物品の配置位置にはグループAに所属するマーカ110が設置されており、検査対象機器の配置位置にはグループBに所属するマーカ110が設置されているものとする。
例えば、端末装置120の使用者が電気設備の点検者である場合、指定マーカ110a(マーカ「α」)の情報と共に使用者の属性の情報が、端末装置120からセンター・サーバ130へ送られると、センター・サーバ130は、受信した情報に基づき、使用者の属性がグループAに所属するマーカ110に対応すると判断する。そして、センター・サーバ130は、グループAに所属するマーカ「A−1」〜「A−4」が指定マーカ110a(マーカ「α」)に関連する関連マーカ110bであると認識する。この後、指定マーカ110aであるマーカ「α」の付加情報と共に、関連マーカ110bであるグループAに所属するマーカ「A−1」〜「A−4」の定義情報および付加情報が、センター・サーバ130から端末装置120へ送られる。これにより、図17(a)に示すように、表示部127において、指定マーカ110a(マーカ「α」)に対するオブジェクト301および関連マーカ110b(マーカ「A−1」〜「A−4」)に対するオブジェクト302が情報提示画像に表示される。
一方、端末装置120の使用者が機械設備の点検者である場合、指定マーカ110a(マーカ「α」)の情報と共に使用者の属性の情報が、端末装置120からセンター・サーバ130へ送られると、センター・サーバ130は、受信した情報に基づき、使用者の属性がグループBに所属するマーカ110に対応すると判断する。そして、センター・サーバ130は、グループBに所属するマーカ「B−1」〜「B−2」が指定マーカ110a(マーカ「α」)に関連する関連マーカ110bであると認識する。この後、指定マーカ110aであるマーカ「α」の付加情報と共に、関連マーカ110bであるグループBに所属するマーカ「B−1」〜「B−2」の定義情報および付加情報が、センター・サーバ130から端末装置120へ送られる。これにより、図17(b)に示すように、表示部127において、指定マーカ110a(マーカ「α」)に対するオブジェクト301および関連マーカ110b(マーカ「B−1」〜「B−2」)に対するオブジェクト302が情報提示画像に表示される。
図18乃至図20は、本実施形態による情報提示システム100のさらに他の応用例を示す図である。図18(a)、(b)は、グループや品目を選択するためのインデックス画像の例を示す図である。図19および図20は、情報提示画像の例を示す図である。この応用例では、マーカ110が設置された場所に配置される物品に関する情報が、マーカ110の付加情報に含まれる。ここでは、ショッピング・センターの食品売り場において、商品の位置を提示するために本実施形態を適用する具体例を示す。
この具体例において、マーカ110は、食品売り場のフロアにおける場所(例えば、商品棚やコーナーごと)に設置される。そして、食品売り場に配置された商品(食品)と商品が配置された場所に設置されているマーカ110とが関連付けられる。また、商品は、「野菜」、「肉」、「魚」等のように食品の種類に応じて分類されているものとする。なお、この商品の分類は、図8等を参照して説明したマーカ110のグループ分けに対応している必要はない。この具体例では、後述するように、端末装置120の操作者により商品等の指定が行われる。そして、指定された商品に関連付けられているマーカ110が関連マーカ110bとして扱われる。言い換えれば、この具体例においては、画像が取得された指定マーカ110aに対する関連マーカ110bが、操作者の選択により決定される。なお、商品の分類の情報は、センター・サーバ130が保持しても良いし、センター・サーバ130とは別に設けられた商品管理用のサーバが保持しても良い。以下では、センター・サーバ130が商品の分類の情報を保持している場合を例として説明する。
端末装置120の操作者である買い物客は、まず、端末装置120を操作して表示部127に商品のインデックス画像を表示させる。本実施形態において、インデックス画像には、上述した商品の分類に基づいて作成される大分類の画像と、商品の個々の品目に基づく細分類の画像とがあるものとする。そして、初期的に大分類の画像が表示され、大分類の画像において一つの項目(食品の種類)が選択されると、その項目に属する商品(品目)の細分類の画像が表示される。なお、商品の分類の情報を保持するサーバ(センター・サーバ130や上記の商品管理用のサーバ)に予め作成されたインデックス画像を保持しておき、端末装置120が、このサーバからインデックス画像を取得して表示する構成としても良い。また、端末装置120が、サーバから商品の分類の情報を取得し、インデックス画像を作成して表示部127に表示する構成としても良い。
具体例を示すと、図18(a)に示すように、表示部127において、大分類のインデックス画像には、食品の種類に応じて設定された分類項目である「野菜」、「肉」、「魚」等が表示される。次に、操作者が一つの分類項目を選択すると、その分類の細分類が表示される。ここでは「野菜」が選択されたものとする。そして、図18(b)に示すように、表示部127において、インデックス画像には「野菜」の細分類(「1:キャベツ」、「2:きゅうり」、「3:人参」、……)が表示される。図18(b)のインデックス画像において、操作者は、自身が所望する対象を指定する。指定対象は、細分類に示される個々の商品の品目でも良いし、大分類の分類項目に相当する商品の種類であっても良い。また、指定対象として、複数の品目や複数の種類を指定しても良いし、特定の種類の品目と他の種類とを組み合わせて指定(例えば、「野菜」に属する「キャベツ」と「肉」との組み合わせ等)しても良い。
次に、端末装置120の操作者である買い物客は、端末装置120の画像取得部121により、近くに設置されている適当なマーカ110の画像を取り込む。そして、端末装置120は、画像を取り込んだマーカ110を特定し、特定したマーカ110を指定マーカ110aとして、指定マーカ110aおよび関連マーカ110bの各種の情報をセンター・サーバ130に要求する。このとき、端末装置120は、インデックス画像で指定した対象(商品等)の情報もセンター・サーバ130へ送る。センター・サーバ130は、指定された対象に関連付けられているマーカ110を関連マーカ110bとして、各マーカ110の定義情報および付加情報を端末装置120へ送る。ここで、指定対象が商品の品目である場合は、その品目に関連付けられたマーカ110を関連マーカ110bとすることができる。また、指定対象が商品の種類である場合は、その種類に含まれる各商品に関連付けられた各マーカ110を関連マーカ110bとすることができる。
ところで、この具体例において、マーカ110は、商品の品目ごとに設定されている必要はない。マーカ110は、本来、マーカ110が設置される場所に対応付けられるものであり、個々の商品等に対応付けられるものではない。この具体例においては、商品が配置される位置を介して、商品とマーカ110とが関連付けられる。したがって、例えば、「キャベツ」と「人参」が隣接して配置されており、「人参」の配置位置にのみマーカ110が設置されている場合、このマーカ110を「キャベツ」および「人参」の両方に関連付けて良い。さらに、マーカ110に対する「キャベツ」の配置位置が特定されていれば、「キャベツ」の位置の情報をマーカ110の付加情報に含めても良い。
端末装置120がセンター・サーバ130から各マーカ110の定義情報および付加情報を取得すると、位置計算部123は、指定マーカ110a(画像取得部121により画像が取り込まれたマーカ110)の定義情報を用いて、指定マーカ110aと端末装置120との間の位置関係を算出する。また、位置計算部123は、関連マーカ110b(指定対象に関連付けられたマーカ110)の定義情報を用いて、関連マーカ110bと端末装置120との間の位置関係を算出する。そして、表示制御部126が、位置計算部123により算出された位置関係の情報に基づき、センター・サーバ130から取得した各マーカ110の付加情報に基づくオブジェクトを合成した情報提示画像を表示部127に表示させる。
図19は、一つの表示態様による情報提示画像を示す図である。図19に示す情報提示画像は、ショッピング・センターのフロア案内図と指定マーカ110aおよび関連マーカ110bに対するオブジェクト301、302とを合成した画像として構成されている。ここでは、指定対象として商品の種類である「野菜」を指定したものとする。したがって、図19に示す情報提示画像では、「野菜」に関連付けられた関連マーカ110bに対するオブジェクト302により、フロア全体における「野菜」の位置が示されている。さらに、図19に示す情報提示画像において、図14に示したような標識127a、矢印127bおよび距離を示すテキスト127cを表示し、現在位置から見た「野菜」の位置の方向および現在位置から「野菜」の位置までの距離を示しても良い。なお、図19に示す例のように、複数のマーカ110が関連マーカ110bとなっている場合、矢印127bにより示される方向は、各関連マーカ110bが設置された位置により特定される代表位置の方向としても良い。代表位置は、例えば、各関連マーカ110bが設置された領域の中央とすることができる。
図20は、他の表示態様による情報提示画像を示す図である。図20に示す情報提示画像は、画像取得部121により取得された食品売り場の画像と指定マーカ110aおよび指定対象である商品(品目)に関連づけられた関連マーカ110bに対するオブジェクト301、302とを合成した画像として構成されている。ここでは、指定対象として商品「キャベツ」を指定したものとする。したがって、図20に示す情報提示画像では、「キャベツ」に関連付けられた関連マーカ110bに対するオブジェクト302により、「キャベツ」が配置された位置が示されている。なお、図20に示す情報提示画像では、必ずしも「キャベツ」が配置された位置に関連マーカ110bが設置されていなくても良い。「キャベツ」が配置された位置の近く(例えば、棚の上下の段の同じ位置や同じ段の別の位置)に関連マーカ110bが設置されており、関連マーカ110bに対する「キャベツ」の位置が関連マーカ110bの付加情報として登録されていれば、この付加情報に基づいて、情報提示画像における「キャベツ」が配置された位置に、「キャベツ」の位置を示すオブジェクト302を表示させることができる。
上記の説明では、インデックス画像で商品の種類を指定した場合に図19に示した情報提示画像を表示し、インデックス画像で商品の品目を指定した場合に図20に示した情報提示画像を表示する例を示した。しかし、図19に示した情報提示画像と図20に示した情報提示画像の選択は、上記の例に限定されない。例えば、端末装置120と指定対象に関連付けられた関連マーカ110bとの間の距離が予め設定された閾値よりも大きい場合は図19に示した情報提示画像を表示し、閾値よりも小さい場合は図20に示した情報提示画像を表示するようにしても良い。さらに、予め定められた入力操作に応じて、図19に示した情報提示画像と図20に示した情報提示画像とを切り替え可能としても良い。
また、指定対象が商品の品目であり、図19に示した情報提示画像を表示する場合に、指定対象の商品に関連付けられた関連マーカ110bに対するオブジェクト302を表示するのではなく、指定対象の商品が含まれる種類(大分類の分類項目)に関連付けられた関連マーカ110bの位置を表示するようにしても良い。この場合、情報提示画像には、オブジェクト302ではなく、図14に示したような標識127a、矢印127bおよび距離を示すテキスト127cを表示し、現在位置から見た指定対象の位置の方向および現在位置から指定対象の位置までの距離を示しても良い。またこの場合、指定対象の商品が含まれる種類に関連付けられた関連マーカ110bは、通常、複数存在するので、図19を参照して説明したように、矢印127bにより示される方向を、各関連マーカ110bが設置された領域の中央(代表位置)の方向としても良い。このようにすれば、例えば、指定対象として「キャベツ」や「人参」等の具体的な品目を指定した場合であっても、指定対象である「キャベツ」や「人参」が含まれる大分類である「野菜」の配置位置(すなわち、野菜売り場)の大まかな位置がフロア案内図で示されるので、端末装置120の操作者は、大まかにどちらの方向へ向かって移動すれば良いかを判断することが容易となる。なお、商品の種類(例えば、「野菜」)に対応付けたマーカ110を用意して、その種類に該当する商品が配置された領域(例えば、野菜売り場)の中央付近に設置し、商品の配置位置を矢印等で指示する場合に、商品の種類に対応付けたマーカ110の位置を指示するようにしても良い。
<ハードウェア構成例>
図21は、本実施形態の端末装置120を構成するのに好適なハードウェア構成例を示す図である。ここでは、タブレット型コンピュータに適用する場合について説明する。図21に示すコンピュータは、CPU(Central Processing Unit)21、ブリッジ回路22、メモリ23、不揮発性メモリ24、ネットワーク・インターフェイス25、操作入力デバイス26、表示パネル27、操作パネル28、カメラ29を備える。これらの構成要素は、ブリッジ回路22を介して演算手段であるCPU21と接続される。
図21において、メモリ23は、CPU21の処理における作業メモリや処理結果を保持する保持手段として用いられる。また、不揮発性メモリ24には、OS(Operating System)やアプリケーション・プログラムが格納されている。そして、これらのプログラムがCPU21に実行されることにより、端末装置120における画像処理部122、位置計算部123、表示制御部126の各機能が実現される。また、メモリ23および不揮発性メモリ24により、記憶部124が実現される。また、ネットワーク・インターフェイス25により、送受信部125が実現される。また、表示パネル27により表示部127が実現され、カメラ29により画像取得部121が実現される。
なお、図21は、本実施形態の端末装置120を実現するのに好適なコンピュータのハードウェア構成を例示するに過ぎない。本実施形態の端末装置120は、画像取得部121により取得したマーカ110の画像を解析することによりマーカ110を特定し、特定したマーカ110に基づいてセンター・サーバ130からマーカ110の付加情報および関連情報を取得し、取得した付加情報および関連情報に基づいて各マーカ110に対するオブジェクトを含む情報提示画像を表示するものであり、これらを実現するための具体的な手段は、図示の構成のみに限定されるものではない。その他、上記の実施形態に、種々の変更または改良を加えたものも、本発明の技術的範囲に含まれる。
図22は、本実施形態のセンター・サーバ130を構成するのに好適なハードウェア構成例を示す図である。ここでは、コンピュータに適用する場合について説明する。図22に示すコンピュータは、演算手段であるCPU(Central Processing Unit)10aと、主記憶手段であるメモリ10cを備える。また、外部デバイスとして、磁気ディスク装置(HDD:Hard Disk Drive)10g、ネットワーク・インターフェイス10f、ディスプレイ装置を含む表示機構10d、キーボードやマウス等の入力デバイス10i等を備える。
図22に示す構成例では、メモリ10cおよび表示機構10dは、システム・コントローラ10bを介してCPU10aに接続されている。また、ネットワーク・インターフェイス10f、磁気ディスク装置10gおよび入力デバイス10iは、I/Oコントローラ10eを介してシステム・コントローラ10bと接続されている。各構成要素は、システム・バスや入出力バス等の各種のバスによって接続される。
図22において、磁気ディスク装置10gにはOSのプログラムやアプリケーション・プログラムが格納されている。そして、これらのプログラムがメモリ10cに読み込まれてCPU10aに実行されることにより、センター・サーバ130におけるデータ処理部133の機能が実現される。また、メモリ10cおよび磁気ディスク装置10gにより、マーカ情報格納部132が実現される。また、ネットワーク・インターフェイス10fにより、送受信部131が実現される。
なお、図22は、本実施形態のセンター・サーバ130を実現するのに好適なコンピュータのハードウェア構成を例示するに過ぎない。本実施形態のセンター・サーバ130は、予め設定された分類によりグループ分けされたマーカ110の付加情報および関連情報を保持し、端末装置120から取得した指定マーカ110aの情報に基づいて指定マーカ110aに関連付けられている関連マーカ110bを特定し、指定マーカ110aおよび関連マーカ110bの付加情報および関連情報を端末装置120へ返送するものであり、これらを実現するための具体的な手段は、図示の構成のみに限定されるものではない。その他、上記の実施形態に、種々の変更または改良を加えたものも、本発明の技術的範囲に含まれる。
100…情報提示システム、110…マーカ、120…端末装置、121…画像取得部、122…画像処理部、123…位置計算部、124…記憶部、125…送受信部、126…表示制御部、127…表示部、130…センター・サーバ、131…送受信部、132…マーカ情報格納部、133…データ処理部

Claims (14)

  1. マーカに基づいて特定される情報を提示する装置であって、
    画像を取得する画像取得部と、
    画像を表示する表示部と、
    前記画像取得部により取得された画像から前記マーカの画像を抽出し、当該マーカを特定する画像処理を行う画像処理部と、
    前記画像取得部により取得された前記マーカの画像に基づき、自装置と当該マーカとの間の相対的な位置関係を計算し、当該マーカの位置情報と複数のマーカのうちの当該マーカに関連付けられた他のマーカの位置情報とに基づき、自装置と当該他のマーカとの間の相対的な位置関係を計算する位置計算部と、
    マーカに関する情報を提示するための画像に、前記位置計算部により計算された位置関係に基づいて、前記画像処理部により特定されたマーカに付加された付加情報および当該マーカに関連付けられた前記他のマーカに付加された付加情報に基づく情報表示を付加した情報提示画像を生成し、前記表示部に表示させる表示制御部と、
    を備える、装置。
  2. 前記表示制御部は、前記マーカに関する情報を提示するための前記画像として前記画像取得部により取得された画像を用い、前記情報提示画像を生成する、請求項1に記載の装置。
  3. 前記表示制御部は、前記表示制御部により生成される前記情報提示画像において、前記画像処理部により特定されたマーカの付加情報に基づく前記情報表示と、当該マーカに関連付けられた前記他のマーカの付加情報に基づく前記情報表示とを異なる態様で付加する、請求項1に記載の装置。
  4. 前記表示制御部は、前記表示制御部により生成される前記情報提示画像において、当該情報提示画像に示される範囲に設置されていないマーカの付加情報に基づく前記情報表示と、当該情報提示画像に示される範囲に設置されているマーカの付加情報に基づく前記情報表示とを異なる態様で付加する、請求項1に記載の装置。
  5. 前記表示制御部は、複数の前記マーカの付加情報に基づいて、各マーカに対する前記情報表示の表示優先度を設定し、当該表示優先度の高い当該情報表示が優先して表示されるように前記情報提示画像に付加する、請求項1に記載の装置。
  6. 前記表示制御部は、前記表示優先度が一定以上の前記情報表示を前記情報提示画像に付加する、請求項5に記載の装置。
  7. 前記画像処理部により特定されたマーカの付加情報と、当該マーカに関連付けられた前記他のマーカの付加情報とを外部装置から受信する受信部をさらに備える、請求項1に記載の装置。
  8. 前記表示制御部は、前記画像処理部により特定されたマーカの付加情報と、当該マーカに関連付けられた前記他のマーカの付加情報とに基づき、マーカの一覧画像を生成し、前記表示部に表示させ、当該一覧画像に表示されたマーカの中から選択されたマーカの付加情報に基づく前記情報表示を付加した前記情報提示画像を生成する、請求項1に記載の装置。
  9. 前記位置計算部は、前記画像処理部により特定されたマーカの位置情報と、操作者により選択された他のマーカの位置情報とに基づき、自装置と当該他のマーカとの間の相対的な位置関係を計算し、
    前記表示制御部は、前記位置計算部により計算された位置関係に基づいて、少なくとも前記他のマーカに付加された付加情報に基づく前記情報表示を付加した前記情報提示画像を生成する、
    請求項1に記載の装置。
  10. 前記表示制御部は、操作者により複数の他のマーカが選択された場合に、当該複数の他のマーカの位置に基づいて特定される代表位置を前記情報提示画像に表示させる、請求項9に記載の装置。
  11. マーカに基づいて特定される情報を提示する装置であって、
    画像を取得する画像取得部と、
    画像を表示する表示部と、
    前記画像取得部により取得された画像から前記マーカの画像を抽出し、当該マーカを特定する画像処理を行う画像処理部と、
    前記画像処理部により特定されたマーカの付加情報、当該マーカと複数のマーカのうちの当該マーカに関連付けられた他のマーカとの関係を示す関連情報、および、当該他のマーカの付加情報を外部装置から受信する送受信部と、
    前記画像取得部により取得された前記マーカの画像に基づき、自装置と当該マーカとの間の相対的な位置関係を計算し、当該マーカの位置情報と前記他のマーカの位置情報とに基づき、自装置と当該他のマーカとの間の相対的な位置関係を計算する位置計算部と、
    マーカに関する情報を提示するための画像に、前記位置計算部により計算された位置関係に基づいて、前記画像処理部により特定されたマーカに付加された付加情報および当該マーカに関連付けられた前記他のマーカに付加された付加情報に基づく情報表示を付加した情報提示画像を生成し、当該情報提示画像において、当該画像処理部により特定されたマーカの付加情報に基づく当該情報表示と、当該マーカに関連付けられた当該他のマーカの付加情報に基づく当該情報表示とを異なる態様で付加し、当該情報提示画像に示される範囲に設置されていないマーカの付加情報に基づく当該情報表示と、当該情報提示画像に示される範囲に設置されているマーカの付加情報に基づく当該情報表示とを異なる態様で付加し、各マーカに対する当該情報表示の表示優先度を設定し、当該表示優先度が一定以上の当該情報表示を、当該表示優先度の高い当該情報表示が優先して表示されるように付加して、当該情報提示画像を前記表示部に表示させる表示制御部と、
    を備える、装置。
  12. マーカに基づいて特定される情報を提示するシステムであって、
    前記マーカを管理するサーバと、
    前記サーバから前記マーカに関する情報を取得して表示する端末装置と、を備え、
    前記サーバは、
    前記マーカを特定するために用いられる情報である定義情報、当該マーカにより指定される位置に関連付けて設定された情報である付加情報および複数のマーカの間の関係を示す情報である関連情報を格納する格納部と、
    少なくとも一つのマーカが特定されると、前記関連情報に基づいて当該一つのマーカと関連付けられている他のマーカを特定し、当該マーカおよび当該他のマーカの前記付加情報を前記格納部から読み出すデータ処理部と、
    前記端末装置から少なくとも一つのマーカを特定する情報を受信し、特定された当該マーカに基づいて前記データ処理部により前記格納部から読み出された当該マーカおよび前記他のマーカの前記付加情報を当該端末装置へ送信する送受信部と、を備え、
    前記端末装置は、
    画像を取得する画像取得部と、
    画像を表示する表示部と、
    前記画像取得部により取得された画像から前記マーカの画像を抽出し、当該マーカを特定する画像処理を行う画像処理部と、
    前記画像処理部により特定されたマーカに関して、当該マーカを特定する情報を前記サーバへ送信し、当該マーカの付加情報、当該マーカと複数のマーカのうちの当該マーカに関連付けられた他のマーカとの関係を示す前記関連情報、および、当該他のマーカの付加情報を前記サーバから受信する送受信部と、
    前記画像取得部により取得された前記マーカの画像に基づき、自装置と当該マーカとの間の相対的な位置関係を計算し、当該マーカの位置情報と前記他のマーカの位置情報とに基づき、自装置と当該他のマーカとの間の相対的な位置関係を計算する位置計算部と、
    マーカに関する情報を提示するための画像に、前記位置計算部により計算された位置関係に基づいて、前記画像処理部により特定されたマーカに付加された付加情報および当該マーカに関連付けられた前記他のマーカに付加された付加情報に基づく情報表示を付加した情報提示画像を生成し、前記表示部に表示させる表示制御部と、
    を備える、システム。
  13. マーカに基づいて特定される情報を提示する方法であって、
    前記マーカを含む画像を取得するステップと、
    取得された画像から前記マーカの画像を抽出し、当該マーカを特定する画像処理を行うステップと、
    前記マーカの画像に基づき、自装置と当該マーカとの間の相対的な位置関係を計算するステップと、
    前記画像処理により特定されたマーカの付加情報と、複数のマーカのうちの当該マーカに関連付けられた他のマーカの付加情報とを取得するステップと、
    取得した前記付加情報に含まれる前記特定されたマーカの位置情報および前記他のマーカの位置情報に基づき、自装置と当該他のマーカとの間の相対的な位置関係を計算するステップと、
    マーカに関する情報を提示するための画像に、計算された自装置と各マーカとの間の相対的な位置関係に基づいて、前記画像処理により特定されたマーカに付加された付加情報および当該マーカに関連付けられた前記他のマーカに付加された付加情報に基づく情報表示を付加した情報提示画像を生成し、表示装置に表示させるステップと、
    を含む、方法。
  14. 撮影機能と表示機能とを備えた情報処理装置を、
    画像を取得する画像取得手段と、
    画像を表示する表示手段と、
    前記画像取得手段により取得された画像からマーカの画像を抽出し、当該マーカを特定する画像処理を行う画像処理手段と、
    前記画像取得手段により取得された前記マーカの画像に基づき、自装置と当該マーカとの間の相対的な位置関係を計算し、当該マーカの位置情報と複数のマーカのうちの当該マーカに関連付けられた他のマーカの位置情報とに基づき、自装置と当該他のマーカとの間の相対的な位置関係を計算する位置計算手段と、
    マーカに関する情報を提示するための画像に、前記位置計算手段により計算された位置関係に基づいて、前記画像処理手段により特定されたマーカに付加された付加情報および当該マーカに関連付けられた前記他のマーカに付加された付加情報に基づく情報表示を付加した情報提示画像を生成し、前記表示手段に表示させる表示制御手段として、
    機能させる、プログラム。
JP2014165336A 2014-08-14 2014-08-14 マーカに基づいて特定される情報を提示する装置、方法およびプログラム Expired - Fee Related JP5963325B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2014165336A JP5963325B2 (ja) 2014-08-14 2014-08-14 マーカに基づいて特定される情報を提示する装置、方法およびプログラム
US14/745,602 US9836651B2 (en) 2014-08-14 2015-06-22 Displaying information relating to a designated marker

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014165336A JP5963325B2 (ja) 2014-08-14 2014-08-14 マーカに基づいて特定される情報を提示する装置、方法およびプログラム

Publications (2)

Publication Number Publication Date
JP2016042246A JP2016042246A (ja) 2016-03-31
JP5963325B2 true JP5963325B2 (ja) 2016-08-03

Family

ID=55302403

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014165336A Expired - Fee Related JP5963325B2 (ja) 2014-08-14 2014-08-14 マーカに基づいて特定される情報を提示する装置、方法およびプログラム

Country Status (2)

Country Link
US (1) US9836651B2 (ja)
JP (1) JP5963325B2 (ja)

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10196088B2 (en) * 2011-04-19 2019-02-05 Ford Global Technologies, Llc Target monitoring system and method
JP6421670B2 (ja) * 2015-03-26 2018-11-14 富士通株式会社 表示制御方法、表示制御プログラム、及び情報処理装置
US10339713B2 (en) * 2015-08-12 2019-07-02 International Business Machines Corporation Marker positioning for augmented reality overlays
JP6801263B2 (ja) * 2016-06-30 2020-12-16 富士通株式会社 表示制御プログラム、表示制御方法および表示制御装置
JP2018005091A (ja) * 2016-07-06 2018-01-11 富士通株式会社 表示制御プログラム、表示制御方法および表示制御装置
JP6895598B2 (ja) * 2016-08-08 2021-06-30 株式会社パスコ 設備点検システム、サーバ、設備点検方法、及び制御プログラム
JP6395012B1 (ja) * 2017-03-17 2018-09-26 ラスパンダス株式会社 コンピュータプログラム
WO2018189820A1 (ja) 2017-04-12 2018-10-18 株式会社日立物流 物品管理支援装置、物品管理支援システムおよび物品管理支援方法
US10552978B2 (en) * 2017-06-27 2020-02-04 International Business Machines Corporation Dynamic image and image marker tracking
CN109587188B (zh) * 2017-09-28 2021-10-22 阿里巴巴集团控股有限公司 确定终端设备之间相对位置关系的方法、装置及电子设备
US11847773B1 (en) 2018-04-27 2023-12-19 Splunk Inc. Geofence-based object identification in an extended reality environment
JP7110738B2 (ja) * 2018-06-05 2022-08-02 大日本印刷株式会社 情報処理装置、プログラム及び情報処理システム
WO2020071057A1 (ja) * 2018-10-01 2020-04-09 ソニー株式会社 情報処理装置、情報処理方法、及び記録媒体
JP7156688B2 (ja) * 2018-11-13 2022-10-19 NeoX株式会社 不動産物件情報提供システム
US10956740B1 (en) * 2018-12-07 2021-03-23 Katherine Vanderdrift Animated augmented and virtual reality and other functions in response to triggers
US11875675B2 (en) * 2018-12-28 2024-01-16 Aichi Steel Corporation Vehicle and vehicular diagnostic system
JP2021012124A (ja) 2019-07-08 2021-02-04 株式会社シーピーアイテクノロジーズ 温度計測装置、温度計測プログラムおよび温度計測方法
US11315326B2 (en) * 2019-10-15 2022-04-26 At&T Intellectual Property I, L.P. Extended reality anchor caching based on viewport prediction
US11615254B2 (en) 2019-11-19 2023-03-28 International Business Machines Corporation Content sharing using address generation
JP2021125053A (ja) * 2020-02-06 2021-08-30 エヌ・ティ・ティ・コムウェア株式会社 情報処理装置、プログラム、情報処理システム、および情報処理方法
US11922691B2 (en) * 2022-04-20 2024-03-05 Adobe Inc. Augmented reality systems for comparing physical objects

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3890825B2 (ja) 1999-09-13 2007-03-07 株式会社デンソー ナビゲーション装置
JP2004048674A (ja) * 2002-05-24 2004-02-12 Olympus Corp 視野一致型情報呈示システム、並びに、それに用いられる携帯情報端末及びサーバ
JP2004258928A (ja) * 2003-02-25 2004-09-16 Toppan Printing Co Ltd 商品情報提供装置、ショッピングカート、サーバ、商品情報提供システム、商品情報提供方法および商品情報提供プログラム
JP4418225B2 (ja) 2003-12-18 2010-02-17 オリンパス株式会社 情報呈示システム
US20060210192A1 (en) * 2005-03-17 2006-09-21 Symagery Microsystems Inc. Automatic perspective distortion detection and correction for document imaging
JP4819891B2 (ja) * 2006-06-22 2011-11-24 富士通株式会社 施設案内プログラム、施設案内方法および施設案内装置
JP4998024B2 (ja) 2007-03-13 2012-08-15 富士通株式会社 作業支援システム、作業支援装置および作業支援方法
JP2008250801A (ja) 2007-03-30 2008-10-16 Tokyo Metropolitan Univ サービス提供システム
RU2463663C2 (ru) * 2007-05-31 2012-10-10 Панасоник Корпорэйшн Устройство захвата изображения, сервер обеспечения дополнительной информации и система фильтрации дополнительной информации
JP5235767B2 (ja) 2009-04-21 2013-07-10 三菱電機株式会社 位置取得送信装置
US8682879B2 (en) * 2010-04-16 2014-03-25 Bizmodeline Co., Ltd. Marker search system for augmented reality service
JP5704962B2 (ja) * 2011-02-25 2015-04-22 任天堂株式会社 情報処理システム、情報処理方法、情報処理装置、及び情報処理プログラム
US20120232976A1 (en) * 2011-03-08 2012-09-13 Bank Of America Corporation Real-time video analysis for reward offers
US9007364B2 (en) * 2011-10-12 2015-04-14 Salesforce.Com, Inc. Augmented reality display apparatus and related methods using database record data
JP5988563B2 (ja) * 2011-10-25 2016-09-07 キヤノン株式会社 画像処理装置と画像処理装置の制御方法およびプログラムと、情報処理装置と情報処理装置の制御方法およびプログラム
US9946963B2 (en) * 2013-03-01 2018-04-17 Layar B.V. Barcode visualization in augmented reality
US9070227B2 (en) * 2013-03-04 2015-06-30 Microsoft Technology Licensing, Llc Particle based visualizations of abstract information
JP6348741B2 (ja) * 2014-03-18 2018-06-27 任天堂株式会社 情報処理システム、情報処理装置、情報処理プログラム、および情報処理方法

Also Published As

Publication number Publication date
JP2016042246A (ja) 2016-03-31
US9836651B2 (en) 2017-12-05
US20160048732A1 (en) 2016-02-18

Similar Documents

Publication Publication Date Title
JP5963325B2 (ja) マーカに基づいて特定される情報を提示する装置、方法およびプログラム
KR101357260B1 (ko) 증강 현실 사용자 인터페이스 제공 장치 및 방법
AU2020202551A1 (en) Method for representing points of interest in a view of a real environment on a mobile device and mobile device therefor
JP5983540B2 (ja) メディアもしくは機能識別方法及びプログラム、マーカを含む物品、及びマーカ配置方法
CN105247465B (zh) 用于对项目选择消歧的系统和方法
US11134193B2 (en) Information processing system, information processing method, and non-transitory computer-readable storage medium
US9529925B2 (en) Method of displaying search results
CN107438853A (zh) 在上载之前区域描述文件的隐私过滤
CN110096929A (zh) 基于神经网络的目标检测
EP3740736A1 (en) Augmented reality, computer vision, and digital ticketing systems
CN104965887A (zh) 信息获取方法和装置
CN110462337A (zh) 使用传感器可读标签自动生成地图地标
US20180234819A1 (en) Method of displaying location of a device
JPWO2015189972A1 (ja) 情報重畳画像表示装置および情報重畳画像表示プログラム
US20180247122A1 (en) Method and system of providing information pertaining to objects within premises
CN105408917B (zh) 用于便利对象的手动分类的系统和方法
CN109901988A (zh) 一种用于自动化测试的页面元素定位方法和装置
US10650788B2 (en) Mapping the position of multiple paired display screens
EP3671410B1 (en) Method and device to control a virtual reality display unit
KR20170000287A (ko) 지오 태깅 방법, 지오 태깅 장치 및 이를 수행하는 프로그램을 기록하는 기록매체
CN112200190B (zh) 兴趣点的位置确定方法、装置、电子设备和存储介质
US8902252B2 (en) Digital image selection in a surface computing device
JP5638589B2 (ja) 位置表示制御装置、位置表示制御方法および位置表示制御プログラム
CN111724195B (zh) 台位布局生成、展示方法及装置
US11935207B2 (en) Spacing guides for objects in perspective views

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160112

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20160323

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20160331

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160426

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160517

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160531

RD14 Notification of resignation of power of sub attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7434

Effective date: 20160531

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160624

R150 Certificate of patent or registration of utility model

Ref document number: 5963325

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees