JP2013238987A - 情報表示装置、情報入力装置、情報表示プログラム及び情報入力プログラム - Google Patents
情報表示装置、情報入力装置、情報表示プログラム及び情報入力プログラム Download PDFInfo
- Publication number
- JP2013238987A JP2013238987A JP2012110844A JP2012110844A JP2013238987A JP 2013238987 A JP2013238987 A JP 2013238987A JP 2012110844 A JP2012110844 A JP 2012110844A JP 2012110844 A JP2012110844 A JP 2012110844A JP 2013238987 A JP2013238987 A JP 2013238987A
- Authority
- JP
- Japan
- Prior art keywords
- information
- image
- aiming
- detecting
- embedded
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- User Interface Of Digital Computer (AREA)
Abstract
【課題】画像の位置に応じて異なる情報を表示することができる情報表示装置を提供する。
【解決手段】画像の関連情報を画像の埋め込み情報に関係付けて記憶した記憶手段と、入力画像の中から埋め込み情報検出対象となる領域を検出する領域検出手段と、入力画像の領域内において、画像の埋め込み情報を検出する情報検出手段と、検出した埋め込み情報に関係付けられている関連情報を記憶手段から検索する情報検索手段と、検索した検索した関連情報を表示する情報表示手段とを備えた。
【選択図】図1
【解決手段】画像の関連情報を画像の埋め込み情報に関係付けて記憶した記憶手段と、入力画像の中から埋め込み情報検出対象となる領域を検出する領域検出手段と、入力画像の領域内において、画像の埋め込み情報を検出する情報検出手段と、検出した埋め込み情報に関係付けられている関連情報を記憶手段から検索する情報検索手段と、検索した検索した関連情報を表示する情報表示手段とを備えた。
【選択図】図1
Description
本発明は、情報表示装置、情報入力装置、情報表示プログラム及び情報入力プログラムに関する。
従来から画像等の情報に対して別の情報を電子透かしとして埋め込んでおき、端末により電子透かしとして埋め込まれた情報を検出し、画像に関連する情報を表示するサービスが検討されている。従来の電子透かしの方法は、次のような方法がある。
特許文献1に記載の方法は、静止画像に電子透かしを埋め込む方法である。この方法は、擬似乱数によって生成された埋め込み系列を画像の直交変換領域(例えばフーリエ変換領域)の実部および虚部に埋め込んでおき、埋め込み系列と検出系列の相関を用いて検出を行うスペクトル拡散型の電子透かしである。また、非特許文献1に記載の方法は、擬似乱数によって生成された埋め込み系列の値を、画像をブロック領域に分割した各位置に対して、二つの周波数成分で埋め込み系列の値を表現するように埋め込みを行うものである。
また、特許文献2に記載の方法は、映像信号に電子透かしを埋め込むものである。特許文献2に記載の方法においては、擬似乱数によって生成された埋め込み系列を時間方向周期信号で変調して映像に重畳しておき、埋め込み系列と検出系列の複素相関を用いて検出を行うことが記載されている。特許文献2に記載されている動画電子透かし技術を用いると、映像のシーン毎に異なる情報を埋め込んでおき、ユーザがカメラを映像にかざしたシーンに応じて、それぞれ異なる関連情報を表示させることができる。
また、電子透かしとは別に、カメラで撮影した画像にどのようなものが映っているのかを識別するための画像認識の手法も用いられている。例えば特許文献3に記載の方法においては、学習画像と入力画像を固有空間上の特徴点に投影して比較することで物体を認識することが記載されている。
また、電子透かしの検出や画像認識に先立ち、カメラで撮影した画像の中で、電子透かし検出の対象とする画像領域を特定するために、画像の中の四辺形領域を検出する手法も用いられている。例えば特許文献4や非特許文献2に記載の方法においては、画像の中からエッジ成分を探索し、辺候補を検出し、それを組み合わせた四辺形候補を検出することで、高速に四辺形を検出することが記載されている。
中村高雄,片山淳,山室雅司,曽根原登,カメラ付き携帯電話機を用いたアナログ画像からの高速電子透かし検出方式,信学論D−II,Vol.J87−D−II,No.12,pp.2145−2155,2004.
北原,中村,片山,安野,"携帯端末上における幾何補正のためのリアルタイム矩形追跡手法",電気情報通信学会技術研究報告,OIS,オフィスインフォメーションシステム106(353),pp.1−6(2006)
しかしながら、従来の電子透かしの方法では、画像の画面全体(空間的位置全体)でひとつの情報を埋め込むことしかできないという問題がある。従来の電子透かしの方法を用いて、画面の部位ごとに別々に異なる情報を埋め込んだ場合は、検出の性能が低く、コンテンツを再撮影した状況では検出ができないため、ひとつの画面内に複数の物体が存在しても、それぞれに異なる関連情報を表示することができないという問題がある。
図21は、空間位置に応じた情報表示ができない例を示す図である。図21に示すように、例えばテレビ番組中に現れたタレントの衣装に関する情報を提供するサービスにおいては、画面全体でひとつの情報しか埋め込むことができず、どのタレントの衣装に関する情報を提示するかを判断することができないため、情報提示後にユーザが選択するといった手間が必要となる。また、画像認識を用いる方法においても、画像に映る位置ごとにそれぞれ認識を行うには、画像を分割して特徴量を抽出しなければならず、認識精度や計算量の問題から、同時に複数の物体を認識することは実現が難しいという問題がある。
本発明は、このような事情に鑑みてなされたもので、画像の位置に応じて異なる情報を表示することができる情報表示装置及び情報表示プログラムと、情報表示装置において表示する情報の登録を行うことができる情報入力装置及び情報入力プログラムを提供することを目的とする。
本発明は、画像上の位置情報と、前記画像の関連情報とを前記画像の埋め込み情報に関係付けて記憶した記憶手段と、入力画像の中から埋め込み情報検出対象となる領域を検出する領域検出手段と、前記入力画像の前記領域内において、前記画像の埋め込み情報を検出する情報検出手段と、前記検出した埋め込み情報に関係付けられている前記画像上の位置情報と、前記関連情報との組を前記記憶手段から検索する情報検索手段と、前記検索した画像上の位置情報に基づく前記画像上の位置に、前記検索した関連情報を表示する情報表示手段とを備えたことを特徴とする。
本発明は、画像上の位置情報と、前記画像の関連情報とを前記画像の埋め込み情報に関係付けて記憶した記憶手段と、前記関連情報を表示するべき前記画像上の位置を示す照準位置情報を取得する照準位置取得手段と、入力画像の中から埋め込み情報検出対象となる領域を検出する領域検出手段と、前記入力画像の前記領域内において、前記画像の埋め込み情報を検出する情報検出手段と、前記検出した埋め込み情報に関係付けられている前記画像上の位置情報と、前記関連情報のうち、前記照準位置情報に基づく前記照準位置に近い位置情報に関係付けられている前記関連情報を前記記憶手段から検索する情報検索手段と、前記検索した関連情報を表示する情報表示手段とを備えたことを特徴とする。
本発明は、画像上の照準方向情報と、前記画像の関連情報とを前記画像の埋め込み情報に関係付けて記憶した記憶手段と、前記関連情報を表示するべき前記照準方向情報を取得する照準方向取得手段と、入力画像の中から埋め込み情報検出対象となる領域を検出する領域検出手段と、前記入力画像の前記領域内において、前記画像の埋め込み情報を検出する情報検出手段と、前記検出した埋め込み情報に関係付けられている前記画像上の照準方向情報と、前記関連情報のうち、前記取得した照準方向情報に基づく前記照準方向に近い照準情報方向に関係付けられている前記関連情報を前記記憶手段から検索する情報検索手段と、前記検索した関連情報を表示する情報表示手段とを備えたことを特徴とする。
本発明は、画像の関連情報を前記画像中の認識対象の識別情報に関係付けて記憶した記憶手段と、入力画像の中から画像認識対象となる領域を検出する領域検出手段と、前記入力画像の前記領域内において、前記画像認識を行うことにより前記認識対象の前記識別情報を検出する情報検出手段と、前記検出した識別情報に関係付けられている前記関連情報を前記記憶手段から検索する情報検索手段と、前記検索した関連情報を表示する情報表示手段とを備えたことを特徴とする。
本発明は、画像上において関連情報を表示するべき前記画像上の位置を示す照準位置情報と、前記画像の関連情報とを前記画像の埋め込み情報に関係付けて記憶する記憶手段と、前記関連情報を表示するべき前記画像上の位置を示す照準位置情報を取得する照準位置取得手段と、前記関連情報を入力する関連情報入力手段と、入力画像の中から埋め込み情報検出対象となる領域を検出する領域検出手段と、前記入力画像の前記領域内において、前記画像の埋め込み情報を検出する情報検出手段と、前記検出した画像の埋め込み情報と、前記照準位置情報と、前記入力した関連情報とを関係付けて、前記記憶手段に記憶する情報登録手段とを備えたことを特徴とする。
本発明は、画像上において関連情報を表示するべき前記画像上の位置を示す照準位置情報を取得する照準位置取得手段と、前記関連情報を入力する関連情報入力手段と、入力画像の中から埋め込み情報検出対象となる領域を検出する領域検出手段と、前記入力画像の前記領域内において、前記画像の埋め込み情報を検出する情報検出手段と、前記検出した画像の埋め込み情報と、前記照準位置情報と、前記入力した関連情報とを関係付けて、外部の装置に対して出力する情報出力手段とを備えたことを特徴とする。
本発明は、画像上において関連情報を表示するべき前記画像上の位置を示す照準位置情報と、前記画像の関連情報とを前記画像中の認識対象の識別情報に関係付けて記憶する記憶手段と、前記関連情報を表示するべき前記画像上の位置を示す照準位置情報を取得する照準位置取得手段と、前記関連情報を入力する関連情報入力手段と、入力画像の中から画像認識対象となる領域を検出する領域検出手段と、前記入力画像の前記領域内において、前記画像認識を行うことにより前記認識対象の前記識別情報を検出する情報検出手段と、前記検出した画像の埋め込み情報と、前記照準位置情報と、前記入力した関連情報とを関係付けて、前記記憶手段に記憶する情報登録手段とを備えたことを特徴とする。
本発明は、画像上の位置または前記画像に対する方向を示す照準情報を取得する照準情報取得手段と、入力画像の中から識別情報を検出する領域を検出する領域検出手段と、前記入力画像の前記領域内において、前記画像の識別情報を検出する情報検出手段と、前記検出した画像の識別情報と、前記照準位置または前記照準方向を示す情報と入力情報として出力する情報出力手段とを備えたことを特徴とする。
本発明は、コンピュータを、前記情報表示装置として機能させるための情報表示プログラムである。
本発明は、コンピュータを、前記情報入力装置として機能させるための情報入力プログラムである。
本発明によれば、画像の位置に応じて異なる関連情報を表示することができるという効果が得られる。また、画像の位置に応じて異なる関連情報の登録を容易に行うことができるという効果も得られる。
<第1の実施形態>
以下、図面を参照して、本発明の第1の実施形態による情報表示装置を説明する。第1の実施形態は、コンテンツ上の位置に応じて異なる情報をユーザに対して提示するものである。図1は同実施形態の構成を示すブロック図である。情報表示装置1は、撮影部11と、関連情報記憶部12と、領域検出部13と、埋め込み情報検出部14と、情報検索部15と、座標変換部16と、情報表示部17とから構成される。撮影部11は、カメラ等で構成し、画像を撮影し、撮影画像を出力する。関連情報記憶部12は、埋め込み情報と画面内の空間位置に対応付けて関連情報を記憶する。領域検出部13は、撮影画像を入力し、撮影画像の中で埋め込み情報検出の対象とする領域を検出し、対象領域座標を出力する。
以下、図面を参照して、本発明の第1の実施形態による情報表示装置を説明する。第1の実施形態は、コンテンツ上の位置に応じて異なる情報をユーザに対して提示するものである。図1は同実施形態の構成を示すブロック図である。情報表示装置1は、撮影部11と、関連情報記憶部12と、領域検出部13と、埋め込み情報検出部14と、情報検索部15と、座標変換部16と、情報表示部17とから構成される。撮影部11は、カメラ等で構成し、画像を撮影し、撮影画像を出力する。関連情報記憶部12は、埋め込み情報と画面内の空間位置に対応付けて関連情報を記憶する。領域検出部13は、撮影画像を入力し、撮影画像の中で埋め込み情報検出の対象とする領域を検出し、対象領域座標を出力する。
埋め込み情報検出部14は、撮影画像を入力し、撮影画像から埋め込まれている情報を検出し、検出情報を出力する。情報検索部15は、検出情報を入力し、検出情報に基づき、空間位置と関連情報の対応を検索し、空間位置と、関連情報とを出力する。座標変換部16は、空間位置と、対象領域座標とを入力し、空間位置を撮影画像上の表示位置に変換し、表示位置を出力する。情報表示部17は、表示位置と、関連情報とを入力し、関連情報を撮影画像に重畳して表示する。
次に、図2を参照して、図1に示す関連情報記憶部12のテーブル構造を説明する。図2は、図1に示す関連情報記憶部12のテーブル構造を示す図である。関連情報記憶部12には、情報表示装置1を用いた情報表示を行うのに先立って、予め対象とするコンテンツに関連する情報を記憶しておく。このとき、図2に示すように、コンテンツに予め埋め込まれている「埋め込み情報」と、コンテンツの中で関連情報を結び付けたい「空間位置」と、関連付ける「関連情報」とが対応付けられて記憶される。
なお、一つの埋め込み情報に対して、複数の空間位置が対応するように構成してもよい。この例では、埋め込み情報“0001”に対して、X座標が20、Y座標が50である位置には関連情報「ああああ」を対応付け、X座標が80、Y座標が50である位置には関連情報「いいいい」を対応付けている。また、埋め込み情報“0002”に対しては、X座標が50、Y座標が50である位置には関連情報「うううう」を対応付けている。
埋め込み情報の表現はここでは番号であらわされる識別子の形式をとったが、コンテンツから検出できる情報形式であれば、これ以外の形式であってもかまわない。例えば、文字列が電子透かしとしてコンテンツに埋め込まれ、これを検出することができるのであれば、文字列を埋め込み情報として記憶していてもかまわない。
また、空間位置の表現は、ここでは、X座標とY座標の組を用いて、例えば、図3(a)に示すように、コンテンツの空間座標系が100×100の空間で表される場合に、関連情報を対応づけたい空間位置の座標を表現する形式をとったが、コンテンツ上の位置を表現できる情報形式であればこれ以外の形式であってもかまわない。例えば、コンテンツの空間領域を、図3(b)のように、コンテンツの領域をA〜Dに4分割し、そのA〜Dの記号で表現するようにしてもよいし、領域を表す4隅の座標で表現するようにしてもよい。映像コンテンツに対する情報表示の場合に、時間方向の位置を合わせて表現するようにしてもかまわない。
関連情報記憶部12は、情報表示装置1の内部に搭載された記憶領域に予め記憶しておくようにしてもよいし、情報表示装置1とは別なデータベースサーバに情報を記憶しておき、情報表示装置1がネットワークを介して問合せを行うように構成しても構わない。
次に、図4を参照して、図1に示す情報表示装置1の処理動作を説明する。図4は、図1に示す情報表示装置1の処理動作を示すフローチャートである。まず、撮影部11は、対象となるコンテンツを撮影し、得られた撮影画像を出力する(ステップS1)。撮影画像は静止画であってもよいし、動画像であってもかまわない。また、動画像としてキャプチャされた1枚1枚のフレームを扱うようにしてもかまわない。ここでは、カメラを用いて撮影する例を示したが、これ以外の入力手段を用いていてもかまわない。例えば、予め撮影された画像を入力するように構成してもかまわない。この場合は、以降の説明で撮影画像としているものの代わりに、入力された画像を扱うことになることは言うまでもない。
次に、領域検出部13は、撮影画像から対象のコンテンツ領域を検出する(ステップS2)。領域の検出は、例えば特許文献4や非特許文献2に記載の公知の手法を用いて行う。このとき、特許文献4や非特許文献2のように、対象とする四辺形領域を検出することで、撮影画像の中での対象領域の位置を表す対象領域座標を得ることができる。具体的には、例えば、特許文献4のように撮影画像の中から辺候補を検出し、その組み合わせで構成される四辺形の中から最も四辺形らしいものを検出する場合、検出四辺形の四隅点の座標(x1,y1),(x2,y2),(x3,y3),(x4,y4)を得ることができる。ここで、(x1,y1)が左上、(x2,y2)が右上、(x3,y3)が左下、(x4,y4)が右下の隅点の座標であるとする。
ここでは対象領域として四辺形を検出する例を示したが、この他の形状の領域、例えば多角形や円や楕円の形の領域を検出するようにしてもよい。これらの場合は、例えば、多角形の各頂点や、円、楕円の中心、焦点の座標、半径、長径、短径やその角度、扁平率などを用いて対象領域を表現すればよい。
次に、埋め込み情報検出部14は、撮影画像から電子透かしを検出する(ステップS3)。電子透かしの検出は、例えば、非特許文献1や特許文献2に記載の公知の方法を用いて検出を行う。電子透かしの検出の結果、検出情報が得られる。このとき、領域検出部13で得られた対象領域座標を用いて、撮影画像を射影変換し、コンテンツの対象領域を正規化することで、検出を容易にすることができる。
また、例えば、特許文献1に記載の方法の様な、対象コンテンツの変形に対して耐性のある電子透かし検出方法を用いることで、領域検出部13で得られた対象領域座標を利用することなしに、電子透かしの検出を行うように構成してもよい。
次に、情報検索部15は、関連情報記憶部12に記憶されている情報を検索し、関連情報を得る(ステップS4)。関連情報記憶部12の検索は、埋め込み情報検出によって得られた検出情報をキーにして行い、関連情報記憶部12に記憶されている埋め込み情報が、検出情報に一致する情報を抽出する。例えば、埋め込み情報検出(ステップS3)において、検出情報として「0001」が得られていた場合に、図2の情報を検索した場合、空間位置(20,50)−関連情報「ああああ」と、空間位置(80,50)−関連情報「いいいい」との二つの情報が得られる。
また、動画像などのコンテンツを対象にしていて、埋め込み情報が時間方向で変化して、動画像のシーン毎に異なる関連情報を記憶しているような場合に、検出情報が対応する時間よりも少し先の(後の)時間の動画像領域に対応する埋め込み情報に一致する情報項目を、合わせて抽出するようにしてもよい。このように構成することで、電子透かしの検出に時間がかかる場合や、情報検索の処理に時間がかかり、実際の情報表示までの間に遅延がある場合にも、実際の動画像の表示内容に合った関連情報を表示することができる。
また、関連情報記憶部12を情報表示装置1とは別の情報検索サーバ上に配置するように構成し、情報検索部15において、情報表示装置1から情報検索サーバに検出情報を送信し、検索結果として関連情報と空間位置を得るように構成してもかまわない。
次に、座標変換部16は、情報検索により得られた空間位置を領域検出により得られた対象領域座標を用いて変換し、コンテンツの空間位置に対応する、撮影画像上の座標を得、これを表示位置とする(ステップS5)。具体的には、次のように変換を行うことができる。
まず、コンテンツの空間位置を撮影画像上の座標に変換するための変換パラメータを計算する。これは、例えば、コンテンツの四隅の座標を、撮影画像上の対象領域座標(対象領域の4隅点の座標)に写す、射影変換行列を計算することで求める。具体例を図5を参照して説明する。撮影画像上で、対象領域座標が、4隅点(x1,y1),(x2,y2),(x3,y3),(x4,y4)が得られているとし、コンテンツの空間位置のX座標、Y座標がそれぞれ0〜100で表されているとする。このとき、コンテンツの座標系の4隅点(0,0)(100,0)(0,100)(100,100)を(x1,y1),(x2,y2),(x3,y3),(x4,y4)に写す射影変換パラメータは、例えば文献「「ディジタル画像処理」,CG−ARTS協会,ISBN4−906665−47−02.」などに記載の射影変換を表す以下の関係式に4つの頂点座標を代入して得られる方程式を解き、行列Hを求めることで計算することができる。
但し、〜x(〜はxの頭に付く、以下同様)は変換前の頂点を表す同次座標、〜x’は変換後の頂点を表す同次座標、Hは、射影変換パラメータを表す3×3の行列である。
次に、情報検索により得られた空間位置を、先に得られた射影変換パラメータを用いて撮影画像上の座標に変換する。すなわち、コンテンツ上での相対的な位置で表される空間位置を、撮影画像上の絶対的な座標に変換する。別の言い方をすれば、コンテンツ上での相対的な位置を、撮影部と撮影対象の位置関係によって生じる撮影画像上での相対的な位置に変換するとも言える。
また、例えば、関連情報記憶部12に記憶されている空間位置が、図3(b)のように領域の記号で記憶されている場合には、前述した処理と同じように変換パラメータを求めた後、次のように変換を行うことで、撮影画像上での対応する領域を得ることができる。
図6に示すように、コンテンツの座標系上の領域Aの四隅の座標をそれぞれ前述した処理によって得られた変換パラメータを用いて撮影画像上の座標に変換し、変換後の座標を四隅とする四辺形領域が、領域Aに対応する領域となる。ここでは空間位置の表現例として四辺形の領域を用いて説明したが、多角形や円、その他任意の図形領域であっても、同様に変換を行うことができることは言うまでもない。
次に、情報表示部17は、座標変換により得られた表示位置に、情報検索により得られた関連情報を対応づけるようにして、元の撮影画像に重畳させて表示する(ステップS6)。例えば、各々の関連情報に対応して得られた撮影画像上の表示位置に、関連情報の文字列を重畳表示するようにしてもよいし、図7に示すように、吹き出しを付けるように関連情報を重畳表示するようにしてもよい。また、各表示位置には関連情報が存在することを表すタグを表示し、そのタグをユーザが選択した場合に、関連情報の詳細を表示するようにしてもよい。また、空間位置、表示位置が、図3(b)のように領域で表現されている場合には、対応する領域の中心や重心の座標を求め、これを表示位置とするようにしてもよい。また、元の撮影画像に重畳して表示をした方がユーザの理解度は高いが、元の撮影画像に重畳せず、図8のように、撮影画像の横に位置を合わせて表示するようにしても構わない。
以上のように、第1の実施形態では、検出情報を用いて、検出情報に対応する空間位置と関連情報の対応関係を検索した上で、対象領域座標を用いて空間位置を撮影画像上の表示位置に変換し、表示位置に関連情報を表示することで、画面全体では一つの情報しか埋め込むことのできない状況においても、コンテンツ上の位置に応じて異なる関連情報をユーザに提示することが可能となり、ユーザにとって利便性の高い情報表示装置を構成することができる。
<第2の実施形態>
次に、本発明の第2の実施形態による情報表示装置を説明する。第2の実施形態では、ユーザが狙っている撮影画像上の位置に応じて異なる情報をユーザに提示するものである。図9は、本発明の第2の実施形態による情報表示装置の構成を示すブロック図である。情報表示装置1は、撮影部21と、関連情報記憶部22と、領域検出部23と、埋め込み情報検出部24と、座標変換部25と、情報検索部26と、情報表示部27とから構成される。撮影部21は、画像を撮影し、撮影画像と、照準座標とを出力する。関連情報記憶部22は、埋め込み情報と画面内の空間位置に対応付けて関連情報を記憶する。領域検出部23は、撮影画像を入力し、撮影画像の中で埋め込み情報検出の対象とする領域を検出し、対象領域座標を出力する。埋め込み情報検出部24は、撮影画像を入力し、撮影画像から埋め込み情報を検出し、検出情報を出力する。
次に、本発明の第2の実施形態による情報表示装置を説明する。第2の実施形態では、ユーザが狙っている撮影画像上の位置に応じて異なる情報をユーザに提示するものである。図9は、本発明の第2の実施形態による情報表示装置の構成を示すブロック図である。情報表示装置1は、撮影部21と、関連情報記憶部22と、領域検出部23と、埋め込み情報検出部24と、座標変換部25と、情報検索部26と、情報表示部27とから構成される。撮影部21は、画像を撮影し、撮影画像と、照準座標とを出力する。関連情報記憶部22は、埋め込み情報と画面内の空間位置に対応付けて関連情報を記憶する。領域検出部23は、撮影画像を入力し、撮影画像の中で埋め込み情報検出の対象とする領域を検出し、対象領域座標を出力する。埋め込み情報検出部24は、撮影画像を入力し、撮影画像から埋め込み情報を検出し、検出情報を出力する。
座標変換部25は、対象領域座標と、照準座標とを入力し、撮影画像上の照準座標を照準位置に変換し、照準位置を出力する。情報検索部26は、検出情報と、照準位置とを入力し、検出情報と照準位置に基づき、関連情報を検索し、関連情報を出力する。情報表示部27は、関連情報を入力し、関連情報を表示する。図9に示す情報表示装置1は、図1に示す情報表示装置1とよく似ているが、一部の構成要素の動作が異なっている。なお、図9に示す関連情報記憶部22に記憶する情報の構成は、図1に示す関連情報記憶部12に記憶する情報の構成(図2に示すテーブル構造)と同様であるので、ここでは詳細な説明を省略する。
次に、図10を参照して、図9に示す情報表示装置1の処理動作を説明する。図10は、図9に示す情報表示装置1の処理動作を示すフローチャートである。まず、撮影部11は、対象となるコンテンツを撮影し、得られた撮影画像を出力する(ステップS11)。この撮影処理は、図4に示すステップS1と類似しているが、撮影画像を出力するのに加えて、照準座標を出力する点が異なっている。ここで照準座標とは、情報表示装置1を利用しているユーザが情報を得たい部位の撮影画像上での座標を表すものである。例えば、単に撮影画像の中心座標を自動的に照準座標とするようにしてもよいし、カメラでの撮影画像をプレビューしているときに、予め定められた照準座標の位置に、図11に示すように照準画像を重畳表示するようにして、ユーザが照準座標の位置を容易に確認できるようにしてもよい。
また、表示されている画像の中で、ユーザが情報を得たい位置を、ユーザに明示的に指定させるようにしてもよい。これは例えば、タッチパネルディスプレイの様な表示装置を用いて画像を表示しておいて、ユーザが当該位置をタッチもしくはタップするようにしてもよいし、単にマウスのようなポインティング装置を用いて位置を指定するのであってもかまわない。
次に、領域検出部23は、撮影画像から対象のコンテンツ領域を検出する(ステップS12)。この領域検出は、図4に示す処理動作(ステップS2)と同様であるので、ここでは詳細な説明を省略する。続いて、埋め込み情報検出部24は、撮影画像から電子透かしを検出する(ステップS13)。この埋め込み情報検出は、図4に示す処理動作(ステップS3)と同様であるので、ここでは詳細な説明を省略する。
次に、座標変換部25は、逆向きの変換のパラメータを求め、空間位置に対応する表示位置を求める代わりに、撮影により得られた照準座標に対応するコンテンツの空間座標系の上での照準位置を求める(ステップS14)。具体的には、次のように変換を行う。
まず、撮影画像上の座標をコンテンツの空間座標に変換するための変換パラメータを計算する。これは、図4に示す座標変換処理(ステップS5)の場合と逆に、撮影画像上の対象領域座標(対象領域の4隅点の座標)を、コンテンツの四隅の座標に写す、射影変換行列を計算することで求める。図12にこの処理動作を示す。これは、以下の関係式に頂点座標を代入して得られる方程式を解きHを求めることで計算できる。
但し、〜xは変換前の頂点を表す同次座標、〜x’は変換後の頂点を表す同次座標、Hは、射影変換パラメータを表す3×3の行列である。
次に、撮影により得られた照準座標を、先に得られた変換パラメータを用いてコンテンツの座標系上の座標に変換する。すなわち、撮影画像上の絶対的な照準座標を、コンテンツ(領域検出ステップで検出された領域)上での相対的な位置で表される照準位置に変換する。別の言い方をすれば、撮影部と撮影対象の位置関係によって生じる撮影画像上での相対的な位置を、コンテンツ上での相対的な位置に変換するとも言える。図12に示す例では、撮影画像上の照準座標(xp,yp)が、コンテンツ上の照準位置(ξp,ηp)に変換さる。
次に、情報検索部26は、関連情報記憶部22に記憶されている情報を検索し、関連情報を得る(ステップS15)。関連情報記憶部22の検索は、埋め込み情報検出により得られた検出情報と、座標変換により得られた照準位置とをキーにして行い、関連情報記憶部22に記憶されている埋め込み情報が、検出情報に一致し、かつ関連情報記憶部22に記憶されている空間位置が照準位置に近い情報を抽出する。例えば、埋め込み情報検出において、検出情報として「0001」が得られていて、座標変換において、照準位置として(30,30)が得られているとき、図2に示す情報を検索した場合は、埋め込み情報「0001」に対応する「ああああ」、「いいいい」の関連情報のうち、空間位置が(30,30)により近い(20,50)となっている「ああああ」の情報を得る。ここで、空間位置と照準位置の近さの判定は、次の様な方法で行ってもよい。
単に埋め込み情報と検出情報が一致する情報の中で空間位置と照準位置との距離が最も小さいものを選択する。または、各空間位置に対して、所定の距離の閾値Lを定めておき、照準位置が空間位置からの距離L以内に入っているものを抽出する。
また、逆に、照準位置側に距離の閾値Lを定めておき、照準位置からの距離がL以内に入っている空間位置の情報を抽出するようにしてもよい。適切な距離の範囲内に対応する情報がない場合は、検索結果なしとしてもよい。距離の計算は、二つの座標の類似具合を評価できる値であればどのような距離の定義を用いてもかまわない。例えば、ユークリッド距離であってもよいし、市街地距離であってもよい。
また、照準位置の時間的な変化を考慮し、2の距離の閾値を可変にするようにしてもよい。すなわち、照準位置がある関連情報の空間位置に近づく方向に動いているときと、離れる方向に動いている時とで、許容する距離の閾値Lを変更するようにしてもよい。例えば、近づく方向に動いている時よりも離れる方向に動いているときの方がLが大きくなるようにすることで、手ぶれ等で照準位置がぶれてしまった場合にも、関連情報の表示が頻繁に非表示にならず、安定して表示されるようにすることができる。
また、関連情報記憶部22に記憶されている空間位置が、図3(b)のように領域の記号で記憶されている場合は、照準位置が対象の領域の中に入っているかどうかを判定し、入っている場合に近いと判定するようにしてもよい。
また、関連情報記憶部22を情報表示装置1とは別の情報検索サーバ上に配置するように構成し、情報検索部26において情報表示装置1から情報検索サーバに検出情報と照準位置を送信し、検索結果として関連情報を得るように構成しても構わない。
次に、情報表示部27は、情報検索により得られた関連情報を表示する(ステップS16)。これは、例えば、元の撮影画像の照準位置に重畳させて表示してもよいし、関連情報記憶部22に記憶されていた対応する空間位置を撮影画像上の表示位置に変換し、その表示位置に重畳させて表示するようにしてもよい。撮影画像とは別に、関連情報を表示するようにしてもよい。また、照準位置や表示位置には関連情報が存在することを表すタグを表示し、そのタグをユーザが選択した場合に、関連情報の詳細を表示するようにしてもよい。
次に、照準方向の算出処理について説明する。座標変換処理(ステップS14)では、撮影により得られた照準座標に対応するコンテンツの空間座標系の上での照準位置を求めるため、座標の変換パラメータを求めたが、これとは別に、撮影をしている実際の三次元空間上での、コンテンツが表示されている平面に対して撮影部21が向いている方向、角度を計算で求めることができる。関連情報記憶部22に空間位置に加えて、撮影方向を合わせて記憶しておき、情報検索部26において、求めた撮影部21の方向、角度(照準方向)を照準位置と合わせて用いて、記憶している撮影方向に照準方向が近い情報を検索するようにしてもよい。また、空間位置を用いずに、検出情報と照準方向を用いて情報検索を行い、照準方向によって異なる関連情報を提供するように構成してもかまわない。例えば、コンテンツ画面を右側から覗いた場合と、左側から覗いた場合で、異なる情報を提供したり、異なる処理を行うように構成してもよい。
照準方向の算出は、具体的には、例えば、次のように計算する。文献「ディジタル画像処理,CG−ARTS協会,ISBN4−906665−47−02.」に記載されているように、一般に三次元空間上での座標とカメラで撮影された撮影画像の座標との間には、以下の関係が成り立つ。
ここで、〜mは撮影画像上の同次座標、〜Xwは三次元空間上の同次座標、Pは透視投影行列である。
今、実際の三次元空間上で、コンテンツが表示されている平面をZw=0とし、コンテンツの空間座標系をXw−Yw平面上にとり、カメラの内部パラメータAが既知とすれば、領域検出により得られた対象領域座標(対象領域の4隅点)の座標を〜m、コンテンツの空間座標系上の4隅点の座標(例えば(0,0)(100,0)(0,100)(100,100))をZw=0である三次元の座標として〜Xwに代入すれば、Pの各要素について8本の方程式が得られる。方程式の数が8本であるため、Pの全ての要素を求めることはできないが、Zw=0であることを利用するとtの値は求めることができる。tは、三次元空間の座標系におけるカメラ座標系の原点の座標を表しており、tからコンテンツ上の照準位置を結んだ直線が、コンテンツが表示されている平面(Xw−Yw平面)に対してなす角を求めることができ、これは、コンテンツに対してどのような方向から撮影されているかを表す。
また同様に、対象領域座標の座標について、三次元空間の座標系からカメラ座標系に再投影した場合の再投影誤差を最小にするようにPを推定することで、照準方向や照準位置を含むカメラの姿勢推定を行うようにしてもよい。その場合、領域検出部23で検出する対象のコンテンツ領域が四辺形以外の領域であって、対象領域座標が4点以外の場合でも照準方向や照準位置を求めることができる。
また例えば、照準方向の算出は、より簡易に次の様な方法を用いても構わない。領域検出部23で検出する対象のコンテンツ領域が、元々長方形であり、撮影画像上の四辺形領域を検出する様な場合、検出した四辺形の左辺より右辺が長い場合は右側、逆に右辺より左辺が長い場合は左側の照準方向から撮影されているものと判断することができる。また同様に、上辺より下辺が長い場合には下側、逆に下辺より上辺が長い場合は上側の照準方向から撮影されているものと判断することができる。
また例えば、領域検出部23で検出する対象のコンテンツ領域が、元々円であり、撮影画像上の楕円領域を検出する様な場合、検出した楕円の短径が上下方向にある場合は上もしくは下側、検出した楕円の短径が左右方向にある場合は左もしくは右側の照準方向から撮影されているものと判断することもできる。このように、照準方向の算出を、元のコンテンツ領域の形状と撮影画像から検出された領域の形状の対応関係を用いて判断するようにしてもよい。
以上のように、第2の実施形態では、対象領域座標を用いて照準座標をコンテンツ上の照準位置に変換し、検出情報と照準位置を用いて、対応する関連情報を検索して表示することで、画面全体では一つの情報しか埋め込むことのできない状況においても、ユーザが狙っている撮影画像上の照準座標に応じて異なる関連情報をユーザに提示することが可能となり、ユーザにとって利便性の高い情報表示装置を構成することができる。また、検出情報と照準方向を用いて、対応する関連情報を検索して表示することで、ユーザがコンテンツを狙っている方向に応じて異なる関連情報をユーザに提示することが可能となり、ユーザにとって利便性の高い情報表示装置を構成することができる。
<第3の実施形態>
次に、本発明の第3の実施形態による情報表示装置を説明する。第3の実施形態では、電子透かしを用いる代わりに画像認識を用いたものである。図13は、本発明の第3の実施形態による情報表示装置の構成を示すブロック図である。情報表示装置1は、撮影部31と、関連情報記憶部32と、領域検出部33と、画像認識部34と、情報検索部35と、座標変換部36と、情報表示部37とから構成される。
次に、本発明の第3の実施形態による情報表示装置を説明する。第3の実施形態では、電子透かしを用いる代わりに画像認識を用いたものである。図13は、本発明の第3の実施形態による情報表示装置の構成を示すブロック図である。情報表示装置1は、撮影部31と、関連情報記憶部32と、領域検出部33と、画像認識部34と、情報検索部35と、座標変換部36と、情報表示部37とから構成される。
撮影部31は、画像を撮影し、撮影画像を出力する。関連情報記憶部32は、識別情報と画面内の空間位置に対応付けて関連情報を記憶する。領域検出部33は、撮影画像を入力し、撮影画像の中で画像認識の対象とする領域を検出し、対象領域座標を出力する。画像認識部34は、撮影画像を入力し、撮影画像にどのような対象が映っているか認識し、識別情報を出力する。
情報検索部35は、識別情報を入力し、識別情報に基づき、空間位置と関連情報の対応を検索し、空間位置と、関連情報とを出力する。座標変換部36は、空間位置と、対象領域座標とを入力し、空間位置を撮影画像上の表示位置に変換し、表示位置を出力する。情報表示部37は、表示位置と、関連情報とを入力し、関連情報を撮影画像に重畳して表示する。
次に、図14を参照して、図13に示す関連情報記憶部32に記憶する情報の構成を説明する。関連情報記憶部32に記憶する情報の構成は、図1に示す関連情報記憶部12に記憶する情報の構成とほぼ同様である。ただし、関連情報記憶部12では電子透かしとして埋め込まれている埋め込み情報を記憶していた代わりに、関連情報記憶部32では画像認識の結果得られる「識別情報」を記憶している。
次に、図15を参照して、図13に示す情報表示装置1の処理動作を説明する。図15は、図13に示す情報表示装置1の処理動作を示すフローチャートである。まず、撮影部31は、対象となるコンテンツを撮影し、得られた撮影画像を出力する(ステップS21)。次に、領域検出部33は、撮影画像から対象のコンテンツ領域を検出する(ステップS22)。ステップS21、S22の処理動作は、図1に示すステップS1、S2と同様であるので、ここでは詳細な説明を省略する。
次に、画像認識部34は、撮影画像が予め登録されている画像のうち、いずれの画像であるかを認識し、識別情報を得る(ステップS23)。画像の認識は、どのような方法で行ってもかまわない。例えば、特許文献3に記載の方法を用いて行うことができる。また、画像の認識は、撮影画像全体から行ってもよいが、このとき、領域検出部33により得られた対象領域座標を用いて、撮影画像を射影変換し、コンテンツの対象領域を正規化した上で画像認識を行うことで、認識をより容易にすることができる。
画像認識の処理は、情報表示装置1の内部で完結して処理するようにしてもよいが、例えば、撮影画像そのものや、撮影画像を対象領域座標を用いて射影変換して正規化した画像、あるいは画像認識部34において取得した画像の特徴量などを画像認識サーバに送信し、画像認識サーバにおいて予め登録されている特徴量データベースと比較、検索を行うことで、識別情報を得るように構成しても構わない。
また、さらに関連情報記憶部32が情報検索サーバ上に構成されている場合には、画像認識サーバと情報検索サーバを連携させ、画像認識部34において情報表示装置1から撮影画像や撮影画像を正規化した画像、あるいは画像の特徴量などをサーバに送信して、サーバ上で画像認識と情報検索とを行って、サーバからは情報検索部35に対して空間位置と関連情報が返却されるように構成しても構わない。
次に、情報検索部35は、画像認識により得られた識別情報を用いて検索を行う(ステップS24)。関連情報記憶部32の検索は、画像認識により得られた識別情報をキーにして行い、関連情報記憶部32に記憶されている識別情報が、画像認識により得られた識別情報と一致する情報を抽出する。
次に、座標変換部16は、情報検索により得られた空間位置を領域検出により得られた対象領域座標を用いて変換し、コンテンツの空間位置に対応する、撮影画像上の座標を得、これを表示位置とする(ステップS25)。続いて、情報表示部17は、座標変換により得られた表示位置に、情報検索により得られた関連情報を対応づけるようにして、元の撮影画像に重畳させて表示する(ステップS26)。ステップS25、S26の処理動作は、図1に示すステップS5、S6と同様であるので、ここでは詳細な説明を省略する。
なお、関連情報記憶部32を情報表示装置1とは別の情報検索サーバ上に配置するように構成してもよい。また、本実施形態では、第1の実施形態の情報表示装置1と同様の構成を画像認識を用いて行う例を説明したが、第2の実施形態の情報表示装置1と同様の構成を画像認識を用いて行うようにしてもよい。この場合は、情報表示装置1の埋め込み情報検出部14の代わりに画像認識部34と同様の画像認識手段を用い、検出情報の代わりに識別情報を得て、これを元に座標変換部25で求めた照準位置や照準方向を用いた情報検索部26と同様の検索を、検出情報の代わりに識別情報を用いて行うように構成してもよい。
以上のように、本実施形態では、画像認識を行った結果を用いて、識別情報に対応する空間位置と関連情報の対応関係を検索した上で、対象領域座標を用いて空間位置を撮影画像上の表示位置に変換し、表示位置に関連情報を表示することで、画面全体で一つのコンテンツとしてしか認識ができない状況においても、コンテンツ上の位置に応じて異なる関連情報をユーザに提示することが可能となり、ユーザにとって利便性の高い情報表示装置を構成することができる。
また、対象領域座標を用いて照準座標をコンテンツ上の照準位置に変換し、検出情報と照準位置を用いて、対応する関連情報を検索して表示することで、画面全体で一つのコンテンツとしてしか認識ができない状況においても、ユーザが狙っている撮影画像上の照準座標に応じて異なる関連情報をユーザに提示することが可能となり、ユーザにとって利便性の高い情報表示装置を構成することができる。また、検出情報と照準方向を用いて、対応する関連情報を検索して表示することで、ユーザがコンテンツを狙っている方向に応じて異なる関連情報をユーザに提示することが可能となり、ユーザにとって利便性の高い情報表示装置を構成することができる。さらに、画像認識を用いることで、予めコンテンツに電子透かしを埋め込んでおくことのできない運用形態においても、同様の効果を得ることができる。
<第4の実施形態>
次に、本発明の第4の実施形態による情報入力装置を説明する。第4の実施形態は、情報表示を行う代わりに情報登録を行うものである。図16は、本発明の第4の実施形態の情報入力装置2の構成を示すブロック図である。情報入力装置2は、撮影部41と、関連情報記憶部42と、領域検出部43と、埋め込み情報検出部44と、座標変換部45と、情報入力部46と、情報登録部47から構成される。
次に、本発明の第4の実施形態による情報入力装置を説明する。第4の実施形態は、情報表示を行う代わりに情報登録を行うものである。図16は、本発明の第4の実施形態の情報入力装置2の構成を示すブロック図である。情報入力装置2は、撮影部41と、関連情報記憶部42と、領域検出部43と、埋め込み情報検出部44と、座標変換部45と、情報入力部46と、情報登録部47から構成される。
撮影部41は、画像を撮影し、撮影画像と、照準座標とを出力する。関連情報記憶部42は、埋め込み情報と画面内の空間位置に対応付けた入力情報を記憶する。領域検出部43は、撮影画像を入力し、撮影画像の中で埋め込み情報検出の対象とする領域を検出し、対象領域座標を出力する。埋め込み情報検出44部は、撮影画像を入力し、撮影画像から埋め込み情報を検出し、検出情報を出力する。座標変換部45は、対象領域座標と、照準座標とを入力し、撮影画像上の照準座標を照準位置に変換し、照準位置を出力する。情報入力部46は、情報を入力し、入力した入力情報を出力する。情報登録部47は、検出情報と、照準位置とを入力し、検出情報と照準位置と入力情報を対応付けて登録する。関連情報記憶部42に記憶する情報の構成は、第2の実施形態の関連情報記憶部22に記憶する情報の構成と同様である。ただし、記憶されている情報は、情報入力装置2を用いて登録される情報を含む。
次に、図17を参照して、図16に示す情報入力装置2の処理動作を説明する。図17は、図16に示す情報入力装置2の処理動作を示すフローチャートである。図17に示す、撮影処理(ステップS31)、領域検出処理(ステップS32)、埋め込み情報検出処理(ステップS33)、座標変換処理(ステップS34)は、図10に示す撮影処理(ステップS11)、領域検出処理(ステップS12)、埋め込み情報検出処理(ステップS13)、座標変換処理(ステップS14)と同様であるので、ここでは詳細な説明を省略する。
情報入力部46は、指定した照準位置に対応付けてユーザが登録したい情報を入力する(ステップS35)。続いて、情報登録部47は、埋め込み情報検出処理で検出された検出情報、座標変換部45により得られた照準位置、情報入力部46において入力された入力情報とを対応付けて、それぞれ、関連情報記憶部42に埋め込み情報、空間位置、関連情報として登録する(ステップ36)。登録された情報は、第1の実施形態や第2の実施形態の情報表示装置1を用いた情報表示に利用してもよい。情報の登録は例えば、専用の情報サーバを用いるようにしてもよいし、また例えば、埋め込み情報と空間位置をtwitterのハッシュタグで表現するようにして、一つのtweetとして登録するようにしてもよい。
前述した説明では照準位置を用いるように構成したが、第2の実施形態で説明したように、照準方向を算出し、これを用いて、検出情報と照準方向と入力情報とを対応付けて登録するようにしてもかまわない。照準位置と照準方向の両方を組み合わせて利用してもよいことは言うまでもない。
以上のように、本実施形態では、対象領域座標を用いて照準座標をコンテンツ上の照準位置に変換し、検出情報と照準位置を用いて、入力情報を埋め込み情報と空間位置に対応付けて登録することで、画面全体で一つのコンテンツとしてしか認識ができない状況においても、ユーザが狙っている撮影画像上の照準座標に応じて異なる情報を登録することが可能となり、他の実施形態の情報表示装置と組み合わせて、ユーザにとってより利便性の高い情報交換の手段を提供することができる。また、検出情報と照準方向を用いて、入力情報を埋め込み情報と照準方向に対応付けて登録することで、ユーザがコンテンツを狙っている方向に応じて異なる情報を登録することが可能となり、他の実施形態の情報表示装置と組み合わせて、ユーザにとってより利便性の高い情報交換の手段を提供することができる。また、本実施形態では、第1の実施形態、第2の実施形態と同様に電子透かしを利用した例を示したが、第3の実施形態のように画像認識を用いることで、予めコンテンツに電子透かしを埋め込んでおくことのできない運用形態においても、同様の効果を得ることができる。
なお、第1の実施形態、第2の実施形態、第4の実施形態では電子透かしの埋め込み情報検出部、第3の実施形態では画像認識部を用いる構成を例に説明したが、これは、対象領域に映っているコンテンツがどのようなコンテンツであるかを識別することのできる識別手段であれば、どのような手段を用いてもかまわない。例えば、電子透かしと画像認識を組み合わせて識別を行うようにしてもかまわないし、コンテンツ中に、例えばQRコード(登録商標)やバーコードの様なマーカを表示しておき、これを検出することで識別を行うようにしてもかまわない。
また、各実施形態で示した関連情報は文字列以外の情報であってもよい。例えば画像や3Dオブジェクトなどであっても構わない。具体的には、例えば、第1の実施形態において、関連情報記憶部12に関連情報として画像が記憶されている場合に、座標変換により得られた撮影画像上の表示位置に、画像を重畳表示するようにしてもよい。これは例えば、男優が一人だけ映っているTV番組コンテンツを情報表示装置で撮影すると、撮影画像の男優の隣に別な女優やアニメキャラクター画像が重畳表示されるようなAR(拡張現実感)コンテンツを構成することができる。また、関連情報として3Dオブジェクトが記憶されていれば、撮影画像のコンテンツの手前に3Dオブジェクトが飛び出して表示されるように構成することもできる。また、第2の実施形態において、照準方向に応じて3Dオブジェクトの裏側が見える様なコンテンツを構成することもできる。
第4の実施形態では、照準位置を用いて入力情報を登録する構成を例に説明したが、照準位置を識別した上で、情報を登録する代わりに、情報を送信することでユーザインタラクションに使うこともできる。例えば、情報の送信側で検出情報もしくは識別情報と、照準位置と、入力情報とを、それぞれ埋め込み情報もしくは識別情報と、空間位置と、関連情報として他の情報表示装置に送信し、他の情報表示装置では受信した埋め込み情報もしくは識別情報、空間位置とに合わせて、関連情報を表示するように構成してもよい。
また、例えば、第4の実施形態の撮影部41、領域検出部43、埋め込み情報検出部44、座標変換部45のみから構成されるような情報入力装置を用い、検出情報もしくは識別情報と、照準位置もしくは照準方向とを求め、これらに対して任意の処理を行った上で、処理結果をユーザに提示するように構成してもよい。具体的には例えば、予めコンテンツとして、図18の選択肢1〜4に示すように、ユーザが選択を行う対象物を表示する様な画面を用意しておき、これをユーザが撮影をして、選択対象を照準に合わせることにより、検出された検出情報もしくは識別情報と、照準位置とから、ユーザがコンテンツ中のどの対象物を選択したかを判断して、それに応じて処理を変更するように構成してもよい。これは、時間で変化していく様な、例えば動画像の様なコンテンツにおいて、画面内に複数の対象物が映っている場合に、対象物を選択させる場合に効果的である。
また、他の具体例として、ゲームやコンピュータにおいて、撮影している対象のコンテンツと座標とを同時に入力できる入力手段として用いてもよい。例えば、図19のように、ゲームにおいて模型銃を模した、対象のコンテンツに対する照準を指示する入力手段として用いてもよい。この場合、斜めの方向から照準を指定することもできるし、照準方向を算出することで、照準位置に加え、照準を狙っている方向(対象のコンテンツの平面に対する実際の三次元空間上での角度)を指示する入力手段として用いることもできる。また、ここでは情報入力装置の内部で処理を行う例を示したが、検出情報もしくは識別情報と照準位置とをサーバに送信し、サーバ上で処理を行うように構成してもかまわない。
以上説明したように、情報表示装置を用いて情報表示を行うことで、図20に示すように、画面全体では一つの情報しか埋め込むことのできない状況においても、コンテンツ上の位置に応じて異なる関連情報をユーザに提示することが可能となり、ユーザにとって利便性の高い情報表示装置を構成することができる。また、ユーザが狙っている撮影画像上の照準座標や、照準の角度・方向に応じて異なる関連情報をユーザに提示することが可能となり、ユーザにとって利便性の高い情報表示装置を構成することができる。
また、画面全体で一つのコンテンツとしてしか認識・識別ができない状況においても、コンテンツ上の位置に応じて異なる関連情報をユーザに提示したり、ユーザが狙っている撮影画像上の照準座標や、照準の角度・方向に応じて異なる関連情報をユーザに提示することが可能となり、ユーザにとって利便性の高い情報表示装置を構成することができる。また、画像認識を用いることで、予めコンテンツに電子透かしを埋め込んでおくことのできない運用形態においても、同様の効果を得ることができる。さらに、ユーザが狙っている撮影画像上の照準座標や照準の角度・方向に応じて、コンテンツに関連した情報を登録することや、撮影している対象のコンテンツと座標とを同時に入力して処理を変更することが可能となり、ユーザにとって利便性の高い情報入力装置を構成することができる。
なお、図1、図9、図13、図16における処理部の機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより情報表示処理、情報入力処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータシステム」は、ホームページ提供環境(あるいは表示環境)を備えたWWWシステムも含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(RAM)のように、一定時間プログラムを保持しているものも含むものとする。
また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)や電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。また、上記プログラムは、前述した機能の一部を実現するためのものであってもよい。さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であってもよい。
以上、図面を参照して本発明の実施の形態を説明してきたが、上記実施の形態は本発明の例示に過ぎず、本発明が上記実施の形態に限定されるものではないことは明らかである。したがって、本発明の技術思想及び範囲を逸脱しない範囲で構成要素の追加、省略、置換、その他の変更を行っても良い。
画像に映っている被写体に関連する情報を表示することが不可欠な用途に適用できる。
1・・・情報表示装置、11、21、31、41・・・撮影部、12、22、32、42・・・関連情報記憶部、13、23、33、43・・・領域検出部、14、24、44・・・埋め込み情報検出部、15、26、35・・・情報検索部、16、25、37、45・・・座標変換部、17、27、37・・・情報表示部、34・・・画像認識部、46・・・情報入力部、47・・・情報登録部
Claims (10)
- 画像上の位置情報と、前記画像の関連情報とを前記画像の埋め込み情報に関係付けて記憶した記憶手段と、
入力画像の中から埋め込み情報検出対象となる領域を検出する領域検出手段と、
前記入力画像の前記領域内において、前記画像の埋め込み情報を検出する情報検出手段と、
前記検出した埋め込み情報に関係付けられている前記画像上の位置情報と、前記関連情報との組を前記記憶手段から検索する情報検索手段と、
前記検索した画像上の位置情報に基づく前記画像上の位置に、前記検索した関連情報を表示する情報表示手段と
を備えたことを特徴とする情報表示装置。 - 画像上の位置情報と、前記画像の関連情報とを前記画像の埋め込み情報に関係付けて記憶した記憶手段と、
前記関連情報を表示するべき前記画像上の位置を示す照準位置情報を取得する照準位置取得手段と、
入力画像の中から埋め込み情報検出対象となる領域を検出する領域検出手段と、
前記入力画像の前記領域内において、前記画像の埋め込み情報を検出する情報検出手段と、
前記検出した埋め込み情報に関係付けられている前記画像上の位置情報と、前記関連情報のうち、前記照準位置情報に基づく前記照準位置に近い位置情報に関係付けられている前記関連情報を前記記憶手段から検索する情報検索手段と、
前記検索した関連情報を表示する情報表示手段と
を備えたことを特徴とする情報表示装置。 - 画像上の照準方向情報と、前記画像の関連情報とを前記画像の埋め込み情報に関係付けて記憶した記憶手段と、
前記関連情報を表示するべき前記照準方向情報を取得する照準方向取得手段と、
入力画像の中から埋め込み情報検出対象となる領域を検出する領域検出手段と、
前記入力画像の前記領域内において、前記画像の埋め込み情報を検出する情報検出手段と、
前記検出した埋め込み情報に関係付けられている前記画像上の照準方向情報と、前記関連情報のうち、前記取得した照準方向情報に基づく前記照準方向に近い照準情報方向に関係付けられている前記関連情報を前記記憶手段から検索する情報検索手段と、
前記検索した関連情報を表示する情報表示手段と
を備えたことを特徴とする情報表示装置。 - 画像の関連情報を前記画像中の認識対象の識別情報に関係付けて記憶した記憶手段と、
入力画像の中から画像認識対象となる領域を検出する領域検出手段と、
前記入力画像の前記領域内において、前記画像認識を行うことにより前記認識対象の前記識別情報を検出する情報検出手段と、
前記検出した識別情報に関係付けられている前記関連情報を前記記憶手段から検索する情報検索手段と、
前記検索した関連情報を表示する情報表示手段と
を備えたことを特徴とする情報表示装置。 - 画像上において関連情報を表示するべき前記画像上の位置を示す照準位置情報と、前記画像の関連情報とを前記画像の埋め込み情報に関係付けて記憶する記憶手段と、
前記関連情報を表示するべき前記画像上の位置を示す照準位置情報を取得する照準位置取得手段と、
前記関連情報を入力する関連情報入力手段と、
入力画像の中から埋め込み情報検出対象となる領域を検出する領域検出手段と、
前記入力画像の前記領域内において、前記画像の埋め込み情報を検出する情報検出手段と、
前記検出した画像の埋め込み情報と、前記照準位置情報と、前記入力した関連情報とを関係付けて、前記記憶手段に記憶する情報登録手段と
を備えたことを特徴とする情報入力装置。 - 画像上において関連情報を表示するべき前記画像上の位置を示す照準位置情報を取得する照準位置取得手段と、
前記関連情報を入力する関連情報入力手段と、
入力画像の中から埋め込み情報検出対象となる領域を検出する領域検出手段と、
前記入力画像の前記領域内において、前記画像の埋め込み情報を検出する情報検出手段と、
前記検出した画像の埋め込み情報と、前記照準位置情報と、前記入力した関連情報とを関係付けて、外部の装置に対して出力する情報出力手段と
を備えたことを特徴とする情報入力装置。 - 画像上において関連情報を表示するべき前記画像上の位置を示す照準位置情報と、前記画像の関連情報とを前記画像中の認識対象の識別情報に関係付けて記憶する記憶手段と、
前記関連情報を表示するべき前記画像上の位置を示す照準位置情報を取得する照準位置取得手段と、
前記関連情報を入力する関連情報入力手段と、
入力画像の中から画像認識対象となる領域を検出する領域検出手段と、
前記入力画像の前記領域内において、前記画像認識を行うことにより前記認識対象の前記識別情報を検出する情報検出手段と、
前記検出した画像の埋め込み情報と、前記照準位置情報と、前記入力した関連情報とを関係付けて、前記記憶手段に記憶する情報登録手段と
を備えたことを特徴とする情報入力装置。 - 画像上の位置または前記画像に対する方向を示す照準情報を取得する照準情報取得手段と、
入力画像の中から識別情報を検出する領域を検出する領域検出手段と、
前記入力画像の前記領域内において、前記画像の識別情報を検出する情報検出手段と、
前記検出した画像の識別情報と、前記照準位置または前記照準方向を示す情報と入力情報として出力する情報出力手段と
を備えたことを特徴とする情報入力装置。 - コンピュータを、請求項1から4のいずれか1項に記載の情報表示装置として機能させるための情報表示プログラム。
- コンピュータを、請求項5〜8のいずれか1項に記載の情報入力装置として機能させるための情報入力プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012110844A JP2013238987A (ja) | 2012-05-14 | 2012-05-14 | 情報表示装置、情報入力装置、情報表示プログラム及び情報入力プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012110844A JP2013238987A (ja) | 2012-05-14 | 2012-05-14 | 情報表示装置、情報入力装置、情報表示プログラム及び情報入力プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2013238987A true JP2013238987A (ja) | 2013-11-28 |
Family
ID=49763966
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012110844A Pending JP2013238987A (ja) | 2012-05-14 | 2012-05-14 | 情報表示装置、情報入力装置、情報表示プログラム及び情報入力プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2013238987A (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5671671B1 (ja) * | 2013-12-09 | 2015-02-18 | 株式会社Pumo | 視聴者用インタフェース装置及びコンピュータプログラム |
JP2015177348A (ja) * | 2014-03-14 | 2015-10-05 | 日本放送協会 | 電子透かし埋め込み装置、表示装置、放送システム、およびプログラム |
JP7373780B1 (ja) | 2022-10-12 | 2023-11-06 | ソノー電機工業株式会社 | 情報処理プログラム及び情報処理端末 |
-
2012
- 2012-05-14 JP JP2012110844A patent/JP2013238987A/ja active Pending
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5671671B1 (ja) * | 2013-12-09 | 2015-02-18 | 株式会社Pumo | 視聴者用インタフェース装置及びコンピュータプログラム |
JP2015115663A (ja) * | 2013-12-09 | 2015-06-22 | 株式会社Pumo | 視聴者用インタフェース装置及びコンピュータプログラム |
JP2015177348A (ja) * | 2014-03-14 | 2015-10-05 | 日本放送協会 | 電子透かし埋め込み装置、表示装置、放送システム、およびプログラム |
JP7373780B1 (ja) | 2022-10-12 | 2023-11-06 | ソノー電機工業株式会社 | 情報処理プログラム及び情報処理端末 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10964108B2 (en) | Augmentation of captured 3D scenes with contextual information | |
JP5905540B2 (ja) | 画像の少なくとも1つの特徴として記述子を提供する方法及び特徴をマッチングする方法 | |
US9361731B2 (en) | Method and apparatus for displaying video on 3D map | |
JP2013141049A (ja) | 世界座標系データベースを利用したサーバ及び端末 | |
JP2011008687A (ja) | 画像処理装置 | |
JP6017343B2 (ja) | データベース生成装置、カメラ姿勢推定装置、データベース生成方法、カメラ姿勢推定方法、およびプログラム | |
JP2015135641A (ja) | 撮影動画像に指示画像を同期して重畳する映像指示同期方法、システム、端末、及びプログラム | |
WO2012135220A2 (en) | Real-time depth extraction using stereo correspondence | |
CN107430498A (zh) | 扩展照片的视场 | |
KR20100065918A (ko) | 사진의 촬영 위치 및 방향 정보 태깅 방법과 그 장치 | |
KR102464271B1 (ko) | 포즈 획득 방법, 장치, 전자 기기, 저장 매체 및 프로그램 | |
JP6420605B2 (ja) | 画像処理装置 | |
KR101176743B1 (ko) | 객체 인식 장치 및 방법과 이를 이용한 정보 컨텐츠 제공 장치 및 정보 컨텐츠 관리 서버 | |
JP2014102746A (ja) | 被写体認識装置及び被写体認識プログラム | |
JP2015036841A (ja) | 画像処理装置、距離計測装置、撮像装置、画像処理方法 | |
JP6192107B2 (ja) | 撮影動画像に指示画像を重畳することができる映像指示方法、システム、端末及びプログラム | |
KR101586071B1 (ko) | 마커리스 증강현실 서비스 제공 장치 및 이를 위한 촬영 위치 추정 방법 | |
JP2013238987A (ja) | 情報表示装置、情報入力装置、情報表示プログラム及び情報入力プログラム | |
CN104871179A (zh) | 用于图像捕捉和便于注解的方法和系统 | |
KR101039298B1 (ko) | 다수의 특징점 기반 마커를 인식하기 위한 순차 검색 방법 및 이를 이용한 증강현실 구현 방법 | |
JP5748355B2 (ja) | 3次元座標算出装置、3次元座標算出方法、及びプログラム | |
Ha et al. | Embedded panoramic mosaic system using auto-shot interface | |
JP6304815B2 (ja) | 画像処理装置ならびにその画像特徴検出方法、プログラムおよび装置 | |
JP2015022631A (ja) | 情報処理装置、情報処理システム及びプログラム | |
JP6146869B2 (ja) | 撮影動画像に指示画像を同期して重畳する映像指示表示方法、システム、端末、及びプログラム |