JP5619885B2 - 情報表示装置、表示制御用集積回路、及び表示制御方法 - Google Patents

情報表示装置、表示制御用集積回路、及び表示制御方法 Download PDF

Info

Publication number
JP5619885B2
JP5619885B2 JP2012519221A JP2012519221A JP5619885B2 JP 5619885 B2 JP5619885 B2 JP 5619885B2 JP 2012519221 A JP2012519221 A JP 2012519221A JP 2012519221 A JP2012519221 A JP 2012519221A JP 5619885 B2 JP5619885 B2 JP 5619885B2
Authority
JP
Japan
Prior art keywords
information
light source
transmission source
priority
cache memory
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012519221A
Other languages
English (en)
Other versions
JPWO2011155130A1 (ja
Inventor
幸司 中西
幸司 中西
山田 和範
山田  和範
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Corp of America
Original Assignee
Panasonic Intellectual Property Corp of America
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Corp of America filed Critical Panasonic Intellectual Property Corp of America
Publication of JPWO2011155130A1 publication Critical patent/JPWO2011155130A1/ja
Application granted granted Critical
Publication of JP5619885B2 publication Critical patent/JP5619885B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04BTRANSMISSION
    • H04B10/00Transmission systems employing electromagnetic waves other than radio-waves, e.g. infrared, visible or ultraviolet light, or employing corpuscular radiation, e.g. quantum communication
    • H04B10/11Arrangements specific to free-space transmission, i.e. transmission through air or vacuum
    • H04B10/114Indoor or close-range type systems
    • H04B10/1141One-way transmission
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04BTRANSMISSION
    • H04B10/00Transmission systems employing electromagnetic waves other than radio-waves, e.g. infrared, visible or ultraviolet light, or employing corpuscular radiation, e.g. quantum communication
    • H04B10/11Arrangements specific to free-space transmission, i.e. transmission through air or vacuum
    • H04B10/114Indoor or close-range type systems
    • H04B10/116Visible light communication
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • Electromagnetism (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Indication In Cameras, And Counting Of Exposures (AREA)

Description

本発明は、時系列的に撮像される画像に表示用の情報を重ねて表示させる情報表示装置に関し、より特定的には、キャッシュメモリを有効に活用し、装置全体のパフォーマンスを上げるための技術に関する。
イメージセンサを用いて、撮像範囲内の情報発信源(光源)から、可視光通信で得た情報を撮像画像に重畳してユーザに表示する装置が知られている。特許文献1には、店頭に並べられた商品の陳列棚や市中の広告看板などに併設された情報発信源から、輝度変化による商品や広告看板に適合した内容の提示情報が発信され、撮像装置が、画像を時系列的に撮像し、画像領域毎の輝度変化からそれぞれ提示情報を抽出し、抽出した提示情報を撮像した画像に重畳して表示することにより、情報提示対象品とその提示情報との対応関係を明確にして情報把握の誤解をなくすことができると記載されている。
しかし、このような撮像装置は、撮影範囲に入った情報発信源(光源)からしか情報取得できない。そのため、光源からの情報が大きいと、撮影してから情報を重畳表示するまでに一定時間待つ必要がある。撮影者が移動しながら撮影を行っているような場合には、撮影範囲が変化し、情報発信源の入れ替わりが頻繁に発生する。ここで撮影範囲が変化して、新しい情報発信源が撮影されたときには通信処理が発生し、当然ながらこの処理が完了するまでは新しい情報発信源に関する提示情報を表示することができない。
ところが、同じ情報発信源が撮影範囲に入ったり撮影範囲から外れたりといったことが頻繁に起こると、情報発信源が撮影範囲に入る度に同じ情報を取得するために通信処理が発生して待ち時間が生じることになり、装置全体のパフォーマンスを下げてしまうという問題が発生する。このような問題を解決するには、例えば撮影範囲に入ったときに情報発信源から取得した提示情報を撮影範囲から外れてもキャッシュメモリに保存しておき、再び同じ情報発信源が撮影範囲に入ったときには、キャッシュメモリから提示情報を読み出して再利用するという方法が知られている。
また、高速且つ高精度にて光軸調整することができる光無線伝送システムが特許文献2に開示されている。特許文献2には、天井などに設置された親機が信号伝送用の狭指向性光と光軸合わせ用の広指向性光とを同軸で制御して送信し、デスクなどに置かれた光無線伝送装置が第1の方向検出部により高速に親機の位置を特定し、第2の方向検出部により高精度に親機の位置を特定することにより、コストアップを招くことなく装置の小型化をはかることができ、光通信における光軸調整を高速且つ高精度に行うことができると記載されている。
特開2001−245253号公報 特開2004−349797号公報
上記キャッシュメモリを用いる方法においては、一般にキャッシュに用いるメモリの容量が決まっているので、キャッシュメモリを有効に活用するために、キャッシュされた時間が最も古い情報やアクセス回数の最も少ない情報が記憶された領域から順に、新しい情報が上書きされて記録され、以前の情報は順次消去される。ユーザが移動しながら撮影すると、撮影範囲の変化に伴って撮影される光源も変化し、同じ光源も繰り返し撮影される。一度撮影した光源をキャッシュすることで再取得時の表示時間短縮や通信コスト削減が可能だが、従来のようなキャッシュ方法(FIFOやLILOなど)では、一定方向への移動などの特定の条件下でしか効力がない。
例えば、キャッシュされた情報のうちの、時間が古い情報ほど優先度を低く(キャッシュから消去されやすく)する場合、撮影者が右方向に移動しながら市中を撮影している途中で撮影を一時停止した状態にすると、一時停止した場所から左方向に離れた情報発信源であるほどその情報発信源に関する情報の優先度が低くなる。そこで引き続き一時停止前に撮影した箇所よりも左側から撮影を再開し、再び右方向に移動しながら撮影すると、撮影範囲に近い情報発信源に関する情報の優先度が、撮影範囲から遠い情報発信源に関する情報の優先度よりも低い状態となる。
従って、撮影範囲に近い情報発信源に関する情報であっても撮影された順番が古い場合は、すぐにでも撮影範囲に入るかもしれないにもかかわらず、真っ先にキャッシュメモリから消去されてしまい、再度撮影範囲に入っても情報表示まで初回撮影時と同等の通信時間およびコストがかかるという大変望ましくない状態となる。このように一時停止をはさみながら近辺で撮影を繰り返すような場合には、キャッシュメモリを有効に活用することができない状態となることがある。
そしてこのような状態になると、一度取得した情報を再度取得するために通信処理が発生して待ち時間が生じる可能性が高くなり、応答性やメモリ効率が低下し装置全体のパフォーマンスが下がってしまう。そしてこのような状態においても十分なパフォーマンスを確保しようとすれば、処理速度が速い高性能な構成を備える必要が生じ、コストが増大してしまうという問題がある。
また、特許文献2の光無線伝送システムにおいては、ユーザが手に持って歩きながら使用するようなモバイル機器に適用する場合を想定すると、受光部の方向や位置がダイナミックに変動するため、段階的に光軸を合わせることが大変難しくなるので実用的ではない。
それ故に、本発明は、一度撮影された光源のキャッシュヒット率を上げてユーザの表示待ち時間及び通信コストを削減することができる情報表示装置、表示制御用集積回路、及び表示制御方法を提供することを目的とする。
本発明は、情報表示装置、表示制御用集積回路、及び表示制御方法に向けられている。そして上記課題を解決するために、本発明の情報表示装置は、可視光通信を行って、時系列的に撮像される画像に、光源から送られてきた光源情報を重畳して画面に表示する情報表示装置であって、撮影範囲内の画像を撮像する撮像部と、画像内にある光源から送られてくる光源情報を逐次キャッシュするキャッシュメモリと、キャッシュメモリにキャッシュされている光源情報を、現在の撮影範囲に近い光源の順に、優先度を高く設定していく優先度設定部と、キャッシュメモリにキャッシュされている光源情報の中で、優先度の低い光源情報から順に削除していく通信情報処理部とを備える。
好ましくは、情報表示装置において、優先度設定部は、現在の撮影範囲に近い光源か否かを、現在の撮影範囲の中心から光源の中心までの距離の値、又は、距離を量子化した値が小さいか否かで判断するとよい。
好ましくは、情報表示装置は、さらに、画像内にある光源の座標と面積の変化から移動特性を予測する移動特性予測部を備え、優先度設定部は、移動特性に基づいて光源の中心の座標を補正し、現在の撮影範囲の中心から補正した光源の中心の座標までの距離が近いか否かで、現在の撮影範囲に近い光源か否かを判断するとよい。
好ましくは、情報表示装置は、キャッシュメモリにキャッシュされている光源の中で優先度が高く、かつ、現在の撮影範囲外にある光源の光源情報についても、画面に表示するとよい。
また上記課題を解決するために、本発明の情報表示方法は、可視光通信を行って、時系列的に撮像される画像に、光源から送られてきた光源情報を重畳して画面に表示する情報表示方法であって、撮影範囲内の画像を撮像するステップと、画像内にある光源から送られてくる光源情報を逐次キャッシュメモリにキャッシュするステップと、キャッシュメモリにキャッシュされている光源情報を、現在の撮影範囲に近い光源の順に、優先度を高く設定していくステップと、キャッシュメモリにキャッシュされている光源情報の中で、優先度の低い光源情報から順に削除していくステップとを備える。
また上記課題を解決するために、本発明の集積回路は、可視光通信を行って、時系列的に撮像される画像に、光源から送られてきた光源情報を重畳して画面に表示する情報表示装置に用いられる集積回路であって、撮影範囲内の画像内にある光源から送られてくる光源情報を逐次キャッシュするキャッシュメモリと、キャッシュメモリにキャッシュされている光源情報を、現在の撮影範囲に近い光源の順に、優先度を高く設定していく優先度設定部と、キャッシュメモリにキャッシュされている光源情報の中で、優先度の低い光源情報から順に削除していく通信情報処理部とを備える。
以上のように、本発明によれば、一度撮影された光源のキャッシュヒット率を上げてユーザの表示待ち時間及び通信コストを削減することができる情報表示装置、表示制御用集積回路、表示制御プログラム、及び表示制御方法を提供できる。
図1は、第1の実施形態における情報表示システム1の機能構成の概要を示す図である。 図2は、情報発信源100から情報表示装置200へ向けて光の強弱により発信される、通信情報のデータフォーマットの一例を示す図である。 図3は、本実施形態における、発信源領域検出処理から、発信源領域情報処理、及び、表示用の情報を撮影した画像に重畳して表示させる表示用処理までの一連の手順を示す図である。 図4は、ステップS7の発信源領域情報処理を行うサブルーチンの一連の手順を示す図である。 図5は、ステップS18のキャッシュメモリの優先度算出処理を行うサブルーチンの一連の手順を示す図である。 図6は、ステップS34の優先度算出処理の概要を示す図である。 図7は、キャッシュ優先度の利用例の概略を示す図(その1)である。 図8は、キャッシュ優先度の利用例の概略を示す図(その2)である。 図9は、キャッシュ優先度の利用例の概略を示す図(その3)である。 図10は、キャッシュ優先度の利用例の概略を示す図(その4)である。 図11は、キャッシュ優先度の利用例の概略を示す図(その5)である。 図12は、キャッシュ優先度の利用例の概略を示す図(その6)である。 図13は、第2の実施形態における情報表示システム2の機能構成の概要を示す図である。 図14は、図3におけるステップS7の発信源領域情報処理を行うサブルーチンの一連の手順を示す図である。 図15は、図14におけるステップS42の発信源移動特性予測処理を行うサブルーチンの一連の手順を示す図である。 図16は、撮像部210により撮像された画像の枠外に、通信情報処理部226により抽出された撮像範囲外の発信源に関連する表示用情報を合成して、表示デバイス300に表示させた画面の例を示す図である。
[第1の実施形態]
<概要>
第1の実施形態における情報表示装置200は、光源の位置(撮影画角中心からの相対距離を算出)と光源からの通信内容、撮影条件(撮影角度、撮影方向、移動方向、移動量)をキャッシュしておき、常に、光源の位置を更新しつつ、一度撮影された発信源の中で、撮影範囲からは外れているが撮影範囲に容易に再入する位置にある撮影画角に近い発信源に関する情報に対して高いキャッシュ優先度を付与するものである。第1の実施形態によれば、表示画像に重畳される情報の応答性の向上や、キャッシュ利用率の向上を図ることができる。
<構成>
図1は、第1の実施形態における情報表示システム1の機能構成の概要を示す図である。
図1に示す情報表示システム1は、情報発信源100、情報表示装置200、及び表示デバイス300から構成されている。
情報発信源100は、店頭に並べられた商品の陳列棚や市中の広告看板などに併設された据え置き型の電子機器であり、表示用の情報を光源情報として発信する機能を有し、識別情報記録部110、通信データ生成部120、変調器130、及び発信用光源140を含む。
情報表示装置200は、例えば、デジタルカメラやカメラ付き携帯電話などの撮像機能を備えた携帯電子機器であり、光無線通信で表示用の情報を得て、撮影した映像に表示用の情報を重畳して表示させる機能を有し、撮像部210、情報処理部220、表示制御部230、位置座標取得部240、及び方位角度取得部250を備える。
表示デバイス300は、液晶モニタ等の画像表示装置である。
識別情報記録部110は、情報発信源を一意に特定する固体識別情報を記録する。ここで、隣接する複数の情報発信源100の識別情報記録部110がそれぞれ同一の固体識別情報を記録する場合があり、このような場合には、同一の固体識別情報を記録する複数の情報発信源100は、同じタイミングで同一の情報を発信し、これらを同一の情報発信源として取り扱うことができるものとする。
通信データ生成部120は、情報表示装置200において表示させるべき、表示用の情報を生成する。
変調器130は、識別情報記録部110に記録された固体識別情報と、通信データ生成部120により生成された表示用の情報とを電気信号に変換する。
発信用光源140は、LEDや蛍光灯などの、ある程度以上の比較的強度のある光を発信できるデバイスであり、変調器130により変換された電気信号を用いて、情報表示装置200に向けて、光の強弱により固体識別情報と表示用の情報とを含む通信情報を発信する。
撮像部210は、画像を時系列的に撮像するものであり、入力する光の結像状態を調整するレンズ211と、レンズ211を通して取得した光の強弱を電気信号に変換して光電変換情報を生成し、これを順次情報処理部220へ向けて出力することによって画像を撮像するイメージセンサ212とを含む。なお、ここでは光電変換素子としてイメージセンサを用いたが、これに限られるものではなく、光の強弱を輝度情報として電気信号に変換することができれば何であってもよい。例えば、撮像部210は、イメージセンサ212の代わりに、2次元平面に配列されたフォトダイオードを含んでいてもよい。
情報処理部220は、撮像部210により撮像された画像の中から、時間の経過とともに輝度が所定のパターンで変化する発信源領域を全て特定し、ここで特定した1又は複数の発信源領域から、発信源領域毎の輝度の変化に基づいて、発信源領域毎に通信情報を抽出するものであり、取得情報処理部221、画像情報処理部222、キャッシュメモリ223、識別情報抽出部224、存在判定部225、通信情報処理部226、及び優先度設定部227を含む。
表示制御部230は、情報処理部220により抽出された領域毎の通信情報に含まれる表示用の情報を、撮像部210により撮像された画像に重畳して、輝度やサイズなどを調整して外部の表示デバイス300に表示させるものであり、表示用情報生成部231、及び画像重畳部232を含む。
位置座標取得部240は、例えばGPSなどの絶対位置を取得することができる機能を備え、現在の撮影座標を取得する。
方位角度取得部250は、例えばジャイロなどの方位や角度等を取得することができる機能を備え、現在の撮影方向を取得する。
取得情報処理部221は、撮像部210のイメージセンサ212により生成された光電変換情報に基づいて、画像解析に用いるための画像情報を抽出して、これを画像情報処理部222へ向けて出力する。また取得情報処理部221は、情報発信源の光源を特定して光源毎に発信源領域を設定し、ここで設定した発信源領域毎に、対応する時系列的な輝度の変化を示す輝度情報を抽出して、設定した発信源領域を示す領域情報と、抽出した輝度情報とを対応付けて識別情報抽出部224、及び通信情報処理部226へ向けて出力する。
画像情報処理部222は、取得情報処理部221により抽出された画像情報に対して、画像を画面に出力するために必要な色空間変換や画角調整などの画像情報処理を施して表示用の調整を施し、これを画像重畳部232へ向けて出力する。
キャッシュメモリ223は、過去に撮像された画像中の情報発信源に対応する表示用の情報と、当該情報発信源を一意に特定する固体識別情報との組を保持する。
識別情報抽出部224は、取得情報処理部221により抽出された領域情報が示す発信源領域毎に、取得情報処理部221により抽出された輝度情報が示す時系列的な輝度の変化を、‘0’と‘1’のいずれかのビットとして認識することによって、発信源領域毎に固体識別情報を抽出する。
存在判定部225は、識別情報抽出部224により抽出された固体識別情報毎に、当該固体識別情報がキャッシュメモリ223に存在するか否かを判定する。
通信情報処理部226は、存在判定部225により存在しないと判定された固体識別情報に関しては、取得情報処理部221により抽出された領域情報が示す発信源領域毎に、取得情報処理部221により抽出された輝度情報が示す時系列的な輝度の変化を、‘0’と‘1’のいずれかのビットとして認識することによって、対応する表示用の情報を抽出し、当該表示情報を対応する識別情報と組にしてキャッシュメモリ223に保存し、存在判定部225により存在すると判定された固体識別情報に関しては、キャッシュメモリ223から対応する表示用の情報を抽出する。
また存在判定部225は、識別情報抽出部224により抽出された固体識別情報以外の固体識別情報がキャッシュメモリ223に存在するか否かを判定する。
優先度設定部227は、識別情報抽出部224により抽出された固体識別情報以外の固体識別情報がキャッシュメモリ223に存在すると、存在判定部225において判定された場合にキャッシュメモリ223に保持されている組毎に、対応する発信源領域が、撮影画角に近いか否かの度合いに応じて、当該組を消去する順序を決める際の指標となるキャッシュ優先度を設定する。詳細は以下の動作の欄、及び使用例の欄において説明する。
表示用情報生成部231は、通信情報処理部226により抽出された発信源領域毎の表示用の情報に基づいて、重畳用の情報とその表示態様とを決定し、これを画像重畳部232に向けて出力する。
画像重畳部232は、画像情報処理部222により画像情報処理を施された画像情報に、表示用情報生成部231により決定された重畳用の情報を重畳し、これを表示デバイス300へ向けて出力して、画像を表示させる。
なお画像重畳部232は、発信源領域毎の表示用の情報を、それぞれの発信源領域の位置に関連付けて重畳してもよい。より具体的には、例えば発信源領域の位置に重ねて対応する表示用の情報を重畳したり、発信源領域の位置と対応する表示用の情報とを矢印付きの線等で繋いだり、あるいは発信源領域の位置から吹き出しを出してその中に対応する表示用の情報を記載する。
図2は、情報発信源100から情報表示装置200へ向けて光の強弱により発信される、通信情報のデータフォーマットの一例を示す図である。ここで図中の“→”は時間Tの進行方向を表している。
図2に示すように、通信情報のデータフォーマットは、プリアンブルデータ部D10とデータ部D20とにより構成され、情報発信源100から繰り返し巡回的に出力される。
プリアンブルデータ部D10に格納されるデータは、情報表示装置200において、表示用の情報を含む通信情報であることを認識するためのデータであり、データ部D20の始点を表す固定のデータであるプリアンブルパターンを含んでいる。
データ部D20に格納されるデータは、固体識別情報格納部D21、及び表示用情報格納部D22により構成されている。
固体識別情報格納部D21に格納されるデータは、識別情報抽出部224により抽出される固体識別情報である。
表示用情報格納部D22に格納されるデータは、通信情報処理部226により抽出される表示用の情報である。
<動作>
図3は、本実施形態における、発信源領域検出処理から、発信源領域情報処理、及び、表示用の情報を撮影した画像に重畳して表示させる表示用処理までの一連の手順を示す図である。
ステップS1〜ステップS7は、発信源領域検出処理の手順である。
(1)取得情報処理部221が、イメージセンサ212により撮像された画像のイメージをフレームデータとして、プリアンブルデータ部D10のビット数に相当する複数のフレームデータをバッファリングする(ステップS1)。
(2)ステップS1においてバッファリングした複数のフレームデータにおいて、輝度変化している光源が有るか否かを判断する(ステップS2)。
(3)輝度変化している光源が有る場合に(ステップS2:YES)、取得情報処理部221が、バッファリングしたフレームデータとプリアンブルデータ部D10中のプリアンブルパターンとを比較して、これらが一致するか否かを判断する(ステップS3)。
(4)輝度変化している光源が無い場合(ステップS2:NO)、及び一致しない場合に(ステップS3:NO)、取得情報処理部221が、通信情報はないと判断して、バッファリングしたフレームデータを破棄し、フレームデータのバッファリング(ステップS1)へ戻る(ステップS4)。
(5)一致する場合に(ステップS3:YES)、取得情報処理部221が、輝度変化をしている光源が、表示用の情報を含む通信情報を発信する光源であると特定し、画像解析に用いるための画像情報を抽出する。また、フレームデータを発信している現在の発信源領域の画像平面上における中心座標(Px,Py)を計算して、輝度情報と共に一時格納する(ステップS5)。
(6)画像情報処理部222が、ここで抽出された画像情報に対して表示用の調整を施す(ステップS6)。
(7)発信源領域毎に発信源領域情報処理を行い、表示用の情報を出力する(ステップS7)。なお、ステップS7は、発信源領域情報処理を行うサブルーチンであり、詳細は図4において別途記載する。
ステップS8〜ステップS10は、画像情報に表示用の情報を重畳して表示させる重畳処理の手順である。
(8)表示用情報生成部231が、ステップS7において出力された発信源領域毎の表示用の情報に基づいて、重畳用の情報とその表示態様とを決定する(ステップS8)。
(9)画像重畳部232が、ステップS6において表示用の調整を施された画像情報に、ステップS8により決定された重畳用の情報を重畳する(ステップS9)。
(10)ステップS9において情報を重畳した画像情報を表示デバイス300へ向けて出力して、画像を表示させる(ステップS10)。
図4は、ステップS7の発信源領域情報処理を行うサブルーチンの一連の手順を示す図である。
(1)識別情報抽出部224が、取得情報処理部221により抽出された領域情報が示す発信源領域毎に、図2に示した識別情報格納部D21に相当するビット数のデータを順次取得して、固体識別情報(ID)を復元して抽出する(ステップS11)。なお、本明細書において記載した復元処理は一例であり、光通信のプロトコルが異なれば、これに応じた復元処理が行われる。
(2)存在判定部225が、ステップS11において識別情報抽出部224により抽出された固体識別情報以外の固体識別情報がキャッシュメモリ223に存在するか否かを判定する。(ステップS12)。
(3)抽出された固体識別情報以外の固体識別情報が存在する場合(ステップS12:YES)は、キャッシュメモリの優先度算出処理を行う(ステップS13)。
なお、ステップS13は、キャッシュメモリの優先度算出処理を行うサブルーチンであり、詳細は図5において別途記載する。
(4)キャッシュメモリの優先度算出処理(ステップS13)の終了後、あるいは、抽出された固体識別情報以外の固体識別情報が存在しない場合(ステップS12:NO)は、存在判定部225が、ステップS11において識別情報抽出部224により抽出された固体識別情報毎に、当該固体識別情報がキャッシュメモリ223に存在するか否かを判定する(ステップS14)。
(5)固体識別情報が存在する場合(ステップS14:YES)は、キャッシュメモリ223から、当該固体識別情報に対応付けられた過去の発信源領域の中心座標を取得して、図3のステップS5において計算した現在の発信源領域の中心座標との差分から、発信源の画像平面上における移動量(x軸方向dx,y軸方向dy)を算出する(ステップS15)。
(6)方位角度取得部250から撮影向きの角速度情報(水平方向角速度ωx、垂直方向角速度ωy)を取得し、当該角速度情報と撮影間隔「t」とに基づいて撮影向きの変動量(水平方向角度θx=ωx×t、垂直方向角度θy=ωy×t)を算出する(ステップS16)。
ここで「撮影向き」とは、情報表示装置200に搭載されているレンズ211の法線ベクトルの方向を意味している。ステップS16では、過去に撮影したときの法線ベクトルを基準とした移動角度(変動量)を水平方向角度θxと垂直方向角度θyで表している。
(7)ステップS15において算出した画像平面上における移動量と、ステップS16において算出した撮影向きの変動量とに基づいて、三角測量方式を用いて、撮影位置から発信源までの仮距離D(=dx÷tanθx=dy÷tanθy)を算出する(ステップS17)。
(8)キャッシュメモリ223から、当該固体識別情報に対応付けられた表示用の情報を取得する(ステップS18)。
なお、ここで位置座標取得部240から撮影座標(緯度X、経度Y、高度Z)を取得して、これを用いて過去の撮影座標からの位置変動を算出することにより、撮影位置から発信源までの仮距離Dを修正して距離精度を高めることもできる。
(9)固体識別情報が存在しない場合(ステップS14:NO)は、識別情報抽出部224が図2に示した表示用情報格納部D22に相当するビット数のデータを順次取得して、表示用の情報を復元して抽出する(ステップS19)。
(10)通信情報処理部226が、位置座標取得部240から撮影座標(緯度X、経度Y、高度Z)を取得する(ステップS20)。
(11)通信情報処理部が、ステップS11において抽出された固体識別情報と、ステップS19において抽出した表示用の情報と、図3のステップS5において計算した現在の発信源領域の中心座標と、ステップS20において取得した撮影座標との組を、新たな発信源に関する情報としてキャッシュメモリ223に書き込む(ステップS21)。
ここで、通信情報処理部は、キャッシュメモリ223に空きがある場合には、空き領域に新たな発信源に関する情報を書き込み、キャッシュメモリ223に空きが無い場合には、ステップS18において設定されたキャッシュ優先度が低い組から順に、キャッシュメモリから消去されるように書き込みを行う。例えば、キャッシュ優先度が低い組から高い組まで順番に、キャッシュメモリの実領域、あるいは仮想領域上に並べて記憶しておき、キャッシュ優先度が最も低い組が記憶された領域から、順に新しい情報を上書きする。
図5は、ステップS18のキャッシュメモリの優先度算出処理を行うサブルーチンの一連の手順を示す図である。
(1)優先度設定部227が、キャッシュメモリ223から、ステップS14における判定の対象となる発信源領域を撮影したときの仮距離Dと過去の発信源領域中心座標とを取得する(ステップS31)。
(2)優先度設定部227が、方位角度取得部250から現在の撮影向きの角速度を取得し、撮影間隔「t」を用いて撮影向きの変動角度(=角速度×撮影間隔)を算出する(ステップS32)。
(3)優先度設定部227が、仮距離Dと撮影向きの変動角度から三角測量方式を用いて、発信源の画像平面上における移動量(=仮距離×tan(変動角度))を算出し、当該移動量をキャッシュメモリ223から取得した過去の発信源領域中心座標に加算することにより、現在の発信源領域中心座標を推定する(ステップS33)。
なお、ここで位置座標取得部240から撮影座標(緯度X、経度Y、高度Z)を取得して、これを用いて、過去の撮影からの位置変動を算出し、撮影位置から発信源までの仮距離Dに修正を加えて距離精度を高めることにより、現在の発信源領域中心座標の推定精度を高めることもできる。
(4)ここで求めた現在の発信源領域の推定中心座標と情報表示装置200の撮像範囲の関係からキャッシュメモリ223に保存された情報のキャッシュ優先度を算出する。詳細は図6において説明する(ステップS34)。
なお、本実施形態では、撮影向きの変動量と画像平面上の過去の発信源領域中心座標とを用いて、三角測量方式を適用することにより現在の発信源領域の推定中心座標を求めているが、処理手順や組み合わせの変更、仰角・俯角情報、及び連続的な移動情報などの情報を追加して現在の発信源領域中心座標を推定してもよい。
図6は、ステップS34の優先度算出処理の概要を示す図である。
以下に、図6を用いて優先度算出処理の概要を説明する。
優先度設定部227は、ステップS33で求めた発信源領域の推定中心座標が撮像領域から離れている程度に応じて、対応する情報に対してキャッシュ優先度を付与する。より具体的には、例えば、図6に示すように、撮像領域10を中心に、X方向、Y方向のそれぞれについて撮像領域10の2倍の大きさの第1優先度領域11を仮想的に設定し、第1優先度領域11内、且つ撮像領域10外にある発信源A1に関する情報に対して、最も高いキャッシュ優先度を付与する。
また、撮像領域10を中心に、X方向、Y方向のそれぞれについて撮像領域10の3倍の大きさの第2優先度領域12を仮想的に設定し、第2優先度領域12内、且つ第1優先度領域11外にある発信源A2に関する情報に対して、2番目に高いキャッシュ優先度を付与する。
また、撮像領域10を中心に、X方向、Y方向のそれぞれについて撮像領域10の4倍の大きさの第3優先度領域13を仮想的に設定し、第3優先度領域13内、且つ第2優先度領域12外にある発信源A3に関する情報に対して、3番目に高いキャッシュ優先度を付与する。
また、第3優先度領域13外にある発信源A4に関する情報に対して、最も低いキャッシュ優先度を付与する。
なおここでは、キャッシュ優先度を4段階としているが、段階数は実施状況に応じて適宜変更することもできる。
実際の動作時には、各発信源領域の推定中心座標が、撮像領域から基準距離分離れる毎にキャッシュ優先度を下げていき、逆に撮像領域に距離分近づく毎にキャッシュ優先度を上げていく。すなわち、画角からの距離を基準距離単位で量子化した値に基づいてキャッシュ優先度を定める。なお、基準距離は実施状況に応じて適宜変更することもできる。
より詳細には、継続して撮影が行われる場合には、時間t0秒において撮像領域10内に写っている発信源のうちのいずれかが、時間t1秒後の撮影で撮像領域から外れ、対応する発信源領域の推定中心座標がA1の位置になったときに、その発信源の情報に、最も高いキャッシュ優先度「4」を付与する。さらに時間t2秒後の撮影で、その発信源領域の推定中心座標が第1優先度領域11の枠を越え、A1の位置からA2の位置に移動したときに、キャッシュ優先度をデクリメントして「3」に更新する。このように、撮影の度に発信源領域の推定中心座標がA1の位置からA2の位置へ、A2の位置からA3の位置へ、A3の位置からA4の位置へと、優先度領域の枠を越えて撮像領域から離れる度に、対応する発信源の情報のキャッシュ優先度をデクリメントする。また逆に、発信源領域の推定中心座標がA4の位置からA3の位置へ、A3の位置からA2の位置へ、A2の位置からA1の位置へと、優先度領域の枠を越えて撮像領域に近づく度に、対応する発信源の情報のキャッシュ優先度をインクリメントする。また、発信源領域が、撮像領域10内にあるA0の位置からA1の位置へ移動したときには、キャッシュメモリ223に実データが保持され、最も高いキャッシュ優先度が付与される。また、発信源領域が、A1の位置から撮像領域10内にあるA0の位置へ移動したときには、キャッシュメモリ223から実データが呼び出される。
また、一時停止後に撮影を再開する際などに、キャッシュメモリ223に発信源に関する情報が記憶された状態で撮影を再開する場合には、撮影の再開時に、キャッシュメモリ223に保持された各発信源に関する情報の全てについて、一時停止中に優先度領域の境界を越えたであろう回数を計算するか、あるいは、発信源領域の推定中心座標が、どの優先度領域に属するかを求める等して、キャッシュ優先度を更新する。
このようにして付与されたキャッシュ優先度は、キャッシュメモリ223に記憶された各発信源に関する情報が再度撮像され易いか否かの度合いを表している。本実施形態によれば、撮影済みの発信源に関する情報の中で、撮影範囲の近傍等の操作者が容易に撮影しやすい位置に存在する発信源に関する情報のキャッシュ優先度は高く保たれる。
従って、キャッシュ優先度は、図4のステップS21における新たな発信源に関する情報をキャッシュメモリ223へ書き込む際に、キャッシュメモリ223に記憶されている発信源に関する情報の消去順序を決めるための有効な指標と成り得る。
<利用例>
キャッシュ優先度は、以下のように利用することができる。
図7〜12は、キャッシュ優先度の利用例の概略を示す図である。
図7〜12においては、撮影者が定位置で情報表示装置200を用いて周辺を撮影した場合における、撮影領域と発信源との位置関係、及びキャッシュメモリに保持されている発信源に関する情報のキャッシュ優先度の時系列的な変動の様子を示している。
ここで、撮像領域20は1920×1080pix(ピクセル)であり、キャッシュ優先度変動枠21は撮像領域を中心とした3840×2160pix、キャッシュ優先度変動枠22は撮像領域を中心とした5760×3240pixである。ここでキャッシュ優先度は3段階とし、発信源に関する情報を4つまで保持できるものとする。また、撮像領域20の周辺には、7つの発信源A〜Gが存在し、各発信源は不動とする。
(1)図7に撮影開始状態を示している。図7では、撮影領域20内に発信源Aと発信源Bとが存在し、キャッシュメモリ30は空である。ここで発信源Aから発信源Aに関する情報aが取得され、発信源Bから発信源Bに関する情報bが取得される。
(2)次に、撮影者が情報表示装置200を右方向にスライドさせた場合の状態を、図8に示している。図8では、撮影領域20内に発信源Aと発信源Cとが存在している。ここで発信源Cが新たに撮影領域20内に入ったので、発信源Cから発信源Cに関する情報cが取得される。また図7において撮影領域20内に存在していた発信源Bが撮影領域から外れたため、図8に示すように、キャッシュメモリ30に発信源Bから取得した発信源Bに関する情報bが保存される。また情報bの保存の際には、最も高いキャッシュ優先度となるキャッシュ優先度「3」が付与される。
(3)さらに撮影者が情報表示装置200を上方向にスライドさせた場合の状態を、図9に示している。図9では、撮影領域20内に発信源Dのみが存在している。ここで発信源Dが新たに撮影領域20内に入ったので、発信源Dから発信源Dに関する情報dが取得される。また図8において撮影領域20内に存在していた発信源Aと発信源Cとが撮影領域から外れたため、図9に示すように、キャッシュメモリ30に、発信源Aから取得した発信源Aに関する情報aと、発信源Cから取得した発信源Cに関する情報cとが保存される。また情報a、及び情報cの保存の際には、発信源B、及び発信源Cの推定中心座標はキャッシュ優先度変動枠21内に収まっているので、それぞれにキャッシュ優先度「3」が付与される。一方、発信源Aの推定中心座標はキャッシュ優先度変動枠21内に収まってなく、かつキャッシュ優先度変動枠22内に収まっているので、キャッシュ優先度「2」が付与される。
(4)さらに撮影者が情報表示装置200を左方向にスライドさせた場合の状態を、図10に示している。図10では、撮影領域20内に発信源Eと発信源Fとが存在している。ここで発信源Eと発信源Fとが新たに撮影領域20内に入ったので、発信源Eから発信源Eに関する情報eが取得され、発信源Fから発信源Fに関する情報fが取得される。また図9において撮影領域20内に存在していた発信源Dが撮影領域から外れたため、図10に示すように、キャッシュメモリ30に発信源Dから取得した発信源Dに関する情報dが保存される。また情報dの保存の際には、発信源B、及び発信源Dの推定中心座標はキャッシュ優先度変動枠21内に収まっているので、それぞれにキャッシュ優先度「3」が付与される。一方、発信源Aの推定中心座標はキャッシュ優先度変動枠21内に収まってなく、かつキャッシュ優先度変動枠22内に収まっているので、キャッシュ優先度「2」が付与され、発信源Cの推定中心座標はキャッシュ優先度変動枠22内に収まっていないので、キャッシュ優先度「1」が付与される。
(5)さらに、撮影者が情報表示装置200を下方向にスライドさせた場合の状態を図11に示している。図11では、撮影領域20内に発信源Fと発信源Gとが存在している。ここで発信源Gが新たに撮影領域20内に入ったので、発信源Gから発信源Gに関する情報gが取得される。また図10において撮影領域20内に存在していた発信源Eが撮影領域から外れたため、図11に示すように、キャッシュメモリ30に発信源Eから取得した発信源Eに関する情報eが保存される。しかしここで、キャッシュメモリ30にはすでに4つの発信源に関する情報が保存され、空いている領域がないので、最も低い優先度が付与されている発信源の検索処理を行い、消去すべき情報を決定する。発信源Bの推定中心座標はキャッシュ優先度変動枠21内に収まっているので、キャッシュ優先度「3」が付与される。一方、発信源A、発信源D、及び発信源Eの推定中心座標はキャッシュ優先度変動枠21内に収まってなく、かつキャッシュ優先度変動枠22内に収まっているので、キャッシュ優先度「2」が付与され、発信源Cの推定中心座標はキャッシュ優先度変動枠22内に収まっていないので、キャッシュ優先度「1」が付与される。従って、最も優先度の低い発信源Cに関する情報cが消去すべき情報に決定し、キャッシュメモリ30上の情報cが保存されている領域に対して、情報eが上書きされる。
(6)さらに、撮影者が情報表示装置200を右方向にスライドさせた場合の状態を図12に示している。図12では、撮影領域20内に発信源Fと発信源Gと発信源Bとが存在している。ここで発信源Bが新たに撮影領域20内に入ったが、発信源Bに関する情報bはキャッシュメモリ30内に保存されているので、キャッシュメモリ30から情報bが取得される。一方、発信源A、及び発信源Dの推定中心座標が、キャッシュ優先度変動枠21A内に入ったので、それぞれのキャッシュ優先度がインクリメントされてキャッシュ優先度「3」が付与される。
なお、取得情報処理部221、画像情報処理部222、キャッシュメモリ223、識別情報抽出部224、存在判定部225、通信情報処理部226、優先度設定部227、表示用情報生成部231、画像重畳部232、位置座標取得部240、及び方位角度取得部250などの各機能ブロックは典型的には集積回路であるLSIとして実現される。これらは個別に1チップ化されても良いし、一部又は全てを含むように1チップ化されても良い。ここではLSIとしたが、集積度の違いにより、IC,システムLSI、スーパーLSI、ウルトラLSIと呼称されることもある。また、集積回路化の手法はLSIに限るものではない、専用回路又は汎用プロセッサで実現してもよい。LSI製造後に、プログラムすることが可能なFPGA(Field ProgrammableGate Array)や、LSI内部の回路セルの接続や設定を再構成可能なリコンフィギャラブル・プロセッサーを利用しても良い。さらには、半導体技術の進歩又は派生する別技術によりLSIに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適応などが可能性としてありえる。
<まとめ>
本実施形態の情報表示システムによれば、撮影範囲、撮影座標、及び撮影向きの変化の関係に基づいてキャッシュ優先度の付与を行うことにより、一度撮影された発信源の中で、撮影範囲からは外れているが撮影範囲に容易に再入する位置にある撮影画角に近い発信源に関する情報に対して高いキャッシュ優先度を付与することができる。従って、表示画像に重畳される情報の応答性の向上や、キャッシュ利用率の向上を図ることにより再度情報源が撮像範囲に入った場合の情報表示時間を短縮でき、ひいてはコストを低減することができる。
[第2の実施形態]
<概要>
第2の実施形態は、第1の実施形態におけるキャッシュ優先度の付与の判断に、さらに、撮影範囲内にある発信源の移動特性予測を組み合わせたものである。第2の実施形態によれば、撮影範囲内にある発信源の移動特性予測に従って補正した発信源の座標を用いて、発信源のキャッシュ優先度を付与することができる。
<構成>
図13は、第2の実施形態における情報表示システム2の機能構成の概要を示す図である。
図13に示す情報表示システム2は、情報発信源100、情報表示装置400、及び表示デバイス300から構成されている。
なお、図1の情報表示システム1と同様の構成には同一番号を付し、その説明を省略する。
情報表示装置400は、第1の実施形態における情報表示装置200の構成に、移動特性予測部428を追加したものである。また、移動特性予測部428の追加に伴い、情報処理部220が情報処理部420に置き換わっている。
移動特性予測部428は、撮影範囲内にある発信源の移動特性を予測するものであり、取得情報処理部221から入力された発信源領域と固体識別情報とが、キャッシュメモリ223に既に保存されている固体識別情報と一致する場合に、発信源の座標と面積の変化から移動特性を予測する。詳細は以下の動作の欄において説明する。
<動作>
発信源領域検出処理から、信号復元処理、及び、表示用の情報を撮影した画像に重畳して表示させる重畳処理までの一連の手順は、第1の実施形態において図3を用いて説明したものと同様である。
図14は、図3におけるステップS7の発信源領域情報処理を行うサブルーチンの一連の手順を示す図である。
ここで、第1の実施形態における図4の手順と同様のステップには同一番号を付し、その説明を省略する。
(1)〜(2)図4の説明における(1)〜(2)と同様である(ステップS11〜S12)。
(3)発信源移動特性予測処理により算出された移動特性に対して、存在判定部225から入力された発信源の撮影時間とキャッシュメモリ223から取得した発信源の撮影時間との差分を掛けることで、現在の発信源の位置を予測し、この予測値に基づいて、キャッシュメモリ223に保存されている対応する固体識別情報を有する発信源の座標を補正する(ステップS41)。さらに、ここで補正した発信源の座標を用いてステップS13の優先度算出処理を行う。
(4)〜(8)図4の説明における(3)〜(7)と同様である(ステップS13〜S17)。
(9)発信源移動特性予測処理を行い、キャッシュメモリ223から該当する固体識別情報を持つ発信源に関する表示用データを取得し、表示用情報生成部231へ発信源領域と表示用情報とを出力する(ステップS42)。
図15は、図14におけるステップS42の発信源移動特性予測処理を行うサブルーチンの一連の手順を示す図である。
(1)移動特性予測部428が、取得情報処理部221から入力された固体識別情報を有する発信源領域の座標と面積とをキャッシュメモリ223から取得する(ステップS51)。
(2)取得情報処理部221から入力された発信源領域の面積と、キャッシュメモリ223から取得した発信源領域の面積との増減比率を算出して、前後方向の移動方向を判定し、移動特性予測部428が予め保持している面積の増減比率と移動量の基準値と、ここで求めた発信源領域の面積の増減比率とを比較することにより、前後方向の移動量を算出する(ステップS52)。
(3)取得情報処理部221から入力された発信源領域の座標と、キャッシュメモリ223から取得した発信源領域の座標との差分から、画像平面上方向の移動方向と移動量とを算出する(ステップS53)。
(4)移動特性予測部428が、ここで得られた前後方向の移動方向と、画像平面上方向の移動方向と移動量とを、それぞれ、取得情報処理部221から入力された発信源領域の撮影時間と、キャッシュメモリ223から取得した発信源領域の撮影時間との差分で割ることにより、単位時間当たりの発信源の仮移動方向と仮移動量とを、発信源の仮移動特性として算出する(ステップS54)。
(5)移動特性予測部428が、取得情報処理部221から入力された固体識別情報を有する発信源が撮影されたときの撮影座標と撮影方向とを、キャッシュメモリ223から取得する(ステップS55)。
(6)位置座標取得部240、及び方位角度取得部250から、それぞれ現在の撮影座標、及び撮影方向を取得する(ステップS56)。
(7)キャッシュメモリ223から取得した撮影方向と現在の撮影方向との差分から、回転方向と回転量とを算出し、キャッシュメモリ223から取得した撮影座標と現在の撮影座標との差分から移動方向と移動量とを算出する。続いて、ここで求めた回転方向と回転量と移動方向と移動量とをそれぞれ加算し、さらにこれを、取得情報処理部221から入力された発信源領域の撮影時間とキャッシュメモリ223から取得した発信源領域の撮影時間との差分で割ることにより、単位時間当たりの情報表示装置400の仮移動方向と仮移動量とを、情報表示装置400の仮移動特性として算出する(ステップS57)。
(8)移動特性予測部428が、ステップS54において算出した該当発信源の仮移動特性にステップS57において算出した情報表示装置400の仮移動特性を加算することによって補正し、発信源の単位時間当たりの移動方向と移動量とを予測し、これを発信源の移動特性とする(ステップS58)。
(9)移動特性予測部428が、ここで予測した該当発信源の移動特性を用いて、キャッシュメモリ223の該当発信源情報を更新する(ステップS59)。
なお、本実施形態における移動特性の予測方法は一例であり、例えば三角測法、及び連続的な移動情報を用いて移動特性を予測しても良いし、外部(発信源から発信された情報)から移動特性を取得してもよい。
<まとめ>
第2の実施形態の情報表示システムによれば、撮影範囲内にある発信源の移動特性予測に従って補正した発信源の座標を用いて、発信源のキャッシュ優先度を付与することができる。これにより、移動する発信源が撮影範囲から外れた後の予測移動位置に、撮影座標と撮影方向とが追従している場合にキャッシュ優先度が高くなるため、移動する対象の発信源が再度撮影範囲に入った場合に、表示画像に重畳される情報の応答性の向上や、キャッシュ利用率の向上を図ることができ、ひいてはコストを低減することができる。
なお、第1の実施形態、及び第2の実施形態において、通信情報処理部226は、撮像範囲内にある発信源に関連する情報だけでなく、撮像範囲外にある発信源に関連する情報を処理することも可能である。例えば、優先度設定部227によって付与されたキャッシュ優先度を基に、情報表示装置と当該発信源の位置関係を、キャッシュ優先度が高いほど近いものとして処理する等して、表示用情報生成部231に出力することが可能である。
このとき、表示用情報生成部231は、通信情報処理部221から入力された情報に基づいてリスト形式の表示用情報を生成する等して、表示用情報と発信源領域の情報とを画像重畳部232に出力する。
また画像重畳部232は、表示用情報生成部231から入力された発信源領域の情報から、同時に入力された表示用情報が撮像範囲外の発信源に関連する表示用情報であることを判別する。そして、画像重畳部232は、画像情報処理部222から入力された画像処理済みの画像情報の枠外のリスト上に、表示用情報生成部231から入力された撮像範囲外の発信源に関連する表示用情報を合成する等して表示部18に出力する。
表示デバイス300は、画像重畳部232から入力された合成画像を、画像処理済み画像情報と、枠外のリスト上に配置された撮像範囲外の発信源に関連する表示用情報との双方が表示できるような輝度やサイズに調整して表示する。このように、通信情報処理部226、表示用情報生成部231、画像重畳部232、及び表示デバイス300は、撮像範囲外にある発信源の情報を、優先度設定部227が付与したキャッシュ優先度に基づいて表示することも可能である。
図16は、撮像部210により撮像された画像の枠外に、通信情報処理部226により抽出された撮像範囲外の発信源に関連する表示用情報を合成して、表示デバイス300に表示させた画面の例を示す図である。
図16に示す画面には、画像処理済みの画像情報による画像41と、画像41の枠外のリスト上に、撮像範囲外の発信源に関連する表示用情報42が表示されている。
また、第1の実施形態1、及び、第2の実施形態2では、情報発信源100から発信される情報のデータフォーマットの一例として、プリアンブルデータ部D10とデータ部D20が巡回的に送信されていることを示した。
ここで、1つの発信源に関する表示制御に必要な情報が、複数の(例えば3つの)分割情報にされ、それぞれが図2に示すデータ部D20に、同一のプリアンブルデータ部D10と共にパケット化されて、異なるタイミングで送信される場合を想定する。このような場合には、実際に各分割情報が格納されるのは図2に示す表示用情報格納部D22であり、それぞれの固体識別情報格納部D21には同一の固体識別情報が格納される。また、各パケットには元の情報のどの位置に該当するかを示す分割位置データが含まれている。
このような場合において、キャッシュメモリ223は、さらに、表示情報と識別情報と分割位置情報との組を保持する。また識別情報抽出部224は、さらに、分割位置データを抽出する。また存在判定部225は、さらに、識別情報抽出部224により抽出された分割位置データ毎に、分割位置データがキャッシュメモリ223に存在するか否かを判定する。
また、通信情報処理部226は、識別情報抽出部224により抽出された分割位置データを用いて、輝度の変化に基づいて、不足する分割情報を格納するパケットのみを受信して、不足していた分割情報を抽出し、分割前の元の情報を復元する。
例えば、キャッシュメモリ223から取得した表示用情報が3つの分割情報のうちの1つのみであったときには、通信情報処理部226は、分割位置データを用いて不足する分割情報を格納する2つのパケットのみを受信して、不足していた2つの分割情報を取得し、3つの分割情報から分割前の元の情報を復元することが可能である。
このように、通信情報処理部226は、分割位置データによって、キャッシュメモリ223から取得できる情報が、1つの発信源から取得できる情報全体の一部に相当する分割情報であることを知ることができ、キャッシュメモリ223に保持していない分割情報のみを当該発信源から取得し、キャッシュメモリ223に保持していた分割情報と、発信源から新たに取得した分割情報とをつなぎ合わせることも可能である。
本発明の情報表示装置、表示制御用集積回路、及び表示制御方法は、撮影した画像を表示する機能を有するデジタルカメラ、携帯電話、ノートPC等に利用可能であり、表示画像に重畳される情報の応答性の向上や、キャッシュ利用率の向上を図ることができるので、その産業的利用価値は極めて高い。
100 情報発信源
110 識別情報記録部
120 通信データ生成部
130 変調器
140 発信用光源
200 情報表示装置
210 撮像部
211 レンズ
212 イメージセンサ
220 情報処理部
221 取得情報処理部
222 画像情報処理部
223 キャッシュメモリ
224 識別情報抽出部
225 存在判定部
226 通信情報処理部
227 優先度設定部
230 表示制御部
231 表示用情報生成部
232 画像重畳部
240 位置座標取得部
250 方位角度取得部
300 表示デバイス
400 情報表示装置
428 移動特性予測部

Claims (6)

  1. 可視光通信を行って、時系列的に撮像される画像に、光源から送られてきた光源情報を重畳して画面に表示する情報表示装置であって、
    撮影範囲内の画像を撮像する撮像部と、
    前記画像内にある光源から送られてくる光源情報を逐次キャッシュするキャッシュメモリと、
    前記キャッシュメモリにキャッシュされている光源情報を、現在の撮影範囲に近い光源の順に、優先度を高く設定していく優先度設定部と、
    前記キャッシュメモリにキャッシュされている光源情報の中で、優先度の低い光源情報から順に削除していく通信情報処理部とを備える、情報表示装置。
  2. 前記優先度設定部は、現在の撮影範囲に近い光源か否かを、前記現在の撮影範囲の中心から光源の中心までの距離の値、又は、前記距離を量子化した値が小さいか否かで判断することを特徴とする、請求項1に記載の情報表示装置。
  3. 前記情報表示装置は、さらに、
    前記画像内にある光源の座標と面積の変化から移動特性を予測する移動特性予測部を備え、
    前記優先度設定部は、
    前記移動特性に基づいて前記光源の中心の座標を補正し、
    前記現在の撮影範囲の中心から前記補正した光源の中心の座標までの距離が近いか否かで、現在の撮影範囲に近い光源か否かを判断することを特徴とする、請求項2に記載の情報表示装置。
  4. 前記情報表示装置は、前記キャッシュメモリにキャッシュされている光源の中で優先度が高く、かつ、現在の撮影範囲外にある光源の光源情報についても、画面に表示することを特徴とする、請求項1に記載の情報表示装置。
  5. 可視光通信を行って、時系列的に撮像される画像に、光源から送られてきた光源情報を重畳して画面に表示する情報表示方法であって、
    撮影範囲内の画像を撮像するステップと、
    前記画像内にある光源から送られてくる光源情報を逐次キャッシュメモリにキャッシュするステップと、
    前記キャッシュメモリにキャッシュされている光源情報を、現在の撮影範囲に近い光源の順に、優先度を高く設定していくステップと、
    前記キャッシュメモリにキャッシュされている光源情報の中で、優先度の低い光源情報から順に削除していくステップとを備える、情報表示方法。
  6. 可視光通信を行って、時系列的に撮像される画像に、光源から送られてきた光源情報を重畳して画面に表示する情報表示装置に用いられる集積回路であって、
    撮影範囲内の画像内にある光源から送られてくる光源情報を逐次キャッシュするキャッシュメモリと、
    前記キャッシュメモリにキャッシュされている光源情報を、現在の撮影範囲に近い光源の順に、優先度を高く設定していく優先度設定部と、
    前記キャッシュメモリにキャッシュされている光源情報の中で、優先度の低い光源情報から順に削除していく通信情報処理部とを備える、集積回路。
JP2012519221A 2010-06-08 2011-05-17 情報表示装置、表示制御用集積回路、及び表示制御方法 Active JP5619885B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2010131477 2010-06-08
JP2010131477 2010-06-08
PCT/JP2011/002743 WO2011155130A1 (ja) 2010-06-08 2011-05-17 情報表示装置、表示制御用集積回路、及び表示制御方法

Publications (2)

Publication Number Publication Date
JPWO2011155130A1 JPWO2011155130A1 (ja) 2013-08-01
JP5619885B2 true JP5619885B2 (ja) 2014-11-05

Family

ID=45097751

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012519221A Active JP5619885B2 (ja) 2010-06-08 2011-05-17 情報表示装置、表示制御用集積回路、及び表示制御方法

Country Status (4)

Country Link
US (1) US8941686B2 (ja)
JP (1) JP5619885B2 (ja)
CN (1) CN102474570B (ja)
WO (1) WO2011155130A1 (ja)

Families Citing this family (37)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9787397B2 (en) 2011-07-26 2017-10-10 Abl Ip Holding Llc Self identifying modulated light source
US9287976B2 (en) 2011-07-26 2016-03-15 Abl Ip Holding Llc Independent beacon based light position system
US8416290B2 (en) 2011-07-26 2013-04-09 ByteLight, Inc. Method and system for digital pulse recognition demodulation
US9444547B2 (en) 2011-07-26 2016-09-13 Abl Ip Holding Llc Self-identifying one-way authentication method using optical signals
US8334898B1 (en) 2011-07-26 2012-12-18 ByteLight, Inc. Method and system for configuring an imaging device for the reception of digital pulse recognition information
US9723676B2 (en) 2011-07-26 2017-08-01 Abl Ip Holding Llc Method and system for modifying a beacon light source for use in a light based positioning system
US9870517B2 (en) * 2011-12-08 2018-01-16 Excalibur Ip, Llc Image object retrieval
ES2668904T3 (es) * 2012-05-24 2018-05-23 Panasonic Intellectual Property Corporation Of America Procedimiento de comunicación de información
EP2910019A4 (en) * 2012-10-19 2016-08-24 Daniel Ryan SELF-IDENTIFICATING UNIDIRECTIONAL AUTHENTICATION PROCEDURE USING OPTICAL SIGNALS
US8988574B2 (en) 2012-12-27 2015-03-24 Panasonic Intellectual Property Corporation Of America Information communication method for obtaining information using bright line image
US10303945B2 (en) 2012-12-27 2019-05-28 Panasonic Intellectual Property Corporation Of America Display method and display apparatus
US10523876B2 (en) 2012-12-27 2019-12-31 Panasonic Intellectual Property Corporation Of America Information communication method
US9088360B2 (en) 2012-12-27 2015-07-21 Panasonic Intellectual Property Corporation Of America Information communication method
US8922666B2 (en) 2012-12-27 2014-12-30 Panasonic Intellectual Property Corporation Of America Information communication method
US9262954B2 (en) 2012-12-27 2016-02-16 Panasonic Intellectual Property Corporation Of America Visible light communication signal display method and apparatus
US9085927B2 (en) 2012-12-27 2015-07-21 Panasonic Intellectual Property Corporation Of America Information communication method
US8913144B2 (en) 2012-12-27 2014-12-16 Panasonic Intellectual Property Corporation Of America Information communication method
EP2940901B1 (en) 2012-12-27 2019-08-07 Panasonic Intellectual Property Corporation of America Display method
WO2014103161A1 (ja) 2012-12-27 2014-07-03 パナソニック株式会社 情報通信方法
US9608725B2 (en) 2012-12-27 2017-03-28 Panasonic Intellectual Property Corporation Of America Information processing program, reception program, and information processing apparatus
US10530486B2 (en) 2012-12-27 2020-01-07 Panasonic Intellectual Property Corporation Of America Transmitting method, transmitting apparatus, and program
US9560284B2 (en) 2012-12-27 2017-01-31 Panasonic Intellectual Property Corporation Of America Information communication method for obtaining information specified by striped pattern of bright lines
US9608727B2 (en) 2012-12-27 2017-03-28 Panasonic Intellectual Property Corporation Of America Switched pixel visible light transmitting method, apparatus and program
US10951310B2 (en) 2012-12-27 2021-03-16 Panasonic Intellectual Property Corporation Of America Communication method, communication device, and transmitter
US9087349B2 (en) 2012-12-27 2015-07-21 Panasonic Intellectual Property Corporation Of America Information communication method
JP5715301B2 (ja) 2012-12-27 2015-05-07 パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America 表示方法および表示装置
US9705600B1 (en) 2013-06-05 2017-07-11 Abl Ip Holding Llc Method and system for optical communication
US9136813B2 (en) * 2013-11-25 2015-09-15 Texas Instruments Incorporated Wireless network receiver
US9509402B2 (en) 2013-11-25 2016-11-29 Abl Ip Holding Llc System and method for communication with a mobile device via a positioning system including RF communication devices and modulated beacon light sources
CN104410845B (zh) * 2014-11-10 2019-08-06 北京智谷睿拓技术服务有限公司 光通信发送方法和装置、接收方法和装置、光通信系统
US10198838B2 (en) * 2016-03-31 2019-02-05 Qualcomm Incorporated Geometric work scheduling with dynamic and probabilistic work trimming
CN109313267B (zh) * 2016-06-08 2023-05-02 新唐科技日本株式会社 测距系统及测距方法
CN109792472B (zh) * 2016-10-12 2020-11-03 富士通株式会社 信号调整程序、信号调整装置以及信号调整方法
JP7128723B2 (ja) * 2018-11-12 2022-08-31 本田技研工業株式会社 画像管理装置、路面情報管理システム、車両、プログラム、及び、画像管理方法
CN109783453B (zh) * 2019-01-14 2021-08-17 哈皮尼思(北京)文化科技有限公司 一种文件浏览方法及装置
DE102019007311B3 (de) 2019-10-21 2020-09-24 SEW-EURODRlVE GmbH & Co. KG Empfänger für ein System zur Lichtübertragung, System zur Lichtübertragung und Verfahren zum Betrieb eines Systems zur Lichtübertragung
JP7447768B2 (ja) * 2020-11-12 2024-03-12 トヨタ自動車株式会社 車載中継装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0974504A (ja) * 1995-09-05 1997-03-18 Canon Inc 撮像装置
JPH10108114A (ja) * 1996-09-27 1998-04-24 Sharp Corp 情報伝送システム
JP2007295446A (ja) * 2006-04-27 2007-11-08 Kyocera Corp 情報処理装置およびデータ記録保存方法
JP2008066818A (ja) * 2006-09-05 2008-03-21 Canon Inc 画像再生システム、画像再生装置の制御方法及び画像再生装置
JP2009017540A (ja) * 2007-05-31 2009-01-22 Panasonic Corp 画像撮影装置、付加情報提供サーバ及び付加情報フィルタリングシステム

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5587800A (en) * 1992-01-29 1996-12-24 Canon Kabushiki Kaisha Image processing method and apparatus
JP3750132B2 (ja) 2000-03-01 2006-03-01 カシオ計算機株式会社 撮像装置
JP2004349797A (ja) 2003-05-20 2004-12-09 Victor Co Of Japan Ltd 光無線伝送装置及び光無線伝送装置の光軸調整方法
JP4478510B2 (ja) * 2004-06-03 2010-06-09 キヤノン株式会社 カメラシステム、カメラ、及びカメラの制御方法
JP2007028555A (ja) * 2005-07-21 2007-02-01 Sony Corp カメラシステム,情報処理装置,情報処理方法,およびコンピュータプログラム
WO2008087974A1 (ja) * 2007-01-16 2008-07-24 Panasonic Corporation データ処理装置、方法、記録媒体
JP2009093294A (ja) * 2007-10-04 2009-04-30 Victor Co Of Japan Ltd 画像情報管理システムおよび画像登録閲覧装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0974504A (ja) * 1995-09-05 1997-03-18 Canon Inc 撮像装置
JPH10108114A (ja) * 1996-09-27 1998-04-24 Sharp Corp 情報伝送システム
JP2007295446A (ja) * 2006-04-27 2007-11-08 Kyocera Corp 情報処理装置およびデータ記録保存方法
JP2008066818A (ja) * 2006-09-05 2008-03-21 Canon Inc 画像再生システム、画像再生装置の制御方法及び画像再生装置
JP2009017540A (ja) * 2007-05-31 2009-01-22 Panasonic Corp 画像撮影装置、付加情報提供サーバ及び付加情報フィルタリングシステム

Also Published As

Publication number Publication date
WO2011155130A1 (ja) 2011-12-15
JPWO2011155130A1 (ja) 2013-08-01
CN102474570B (zh) 2016-07-06
CN102474570A (zh) 2012-05-23
US8941686B2 (en) 2015-01-27
US20120133815A1 (en) 2012-05-31

Similar Documents

Publication Publication Date Title
JP5619885B2 (ja) 情報表示装置、表示制御用集積回路、及び表示制御方法
ES2784905T3 (es) Método y dispositivo de procesamiento de imágenes, medio de almacenamiento legible por computadora y dispositivo electrónico
JP2021060590A (ja) 取込まれた像のパススルー表示
US20210390765A1 (en) Output of virtual content
CN111052727A (zh) 用于根据使用图像获得的深度信息的属性结合图像存储深度信息的电子装置及其控制方法
JP2018513640A (ja) パンニングショットの自動生成
JP2004318823A (ja) 情報表示システム、情報処理装置、ポインティング装置および情報表示システムにおけるポインタマーク表示方法
JP2019030007A (ja) 複数のカメラを用いて映像を取得するための電子装置及びこれを用いた映像処理方法
WO2005124594A1 (en) Automatic, real-time, superimposed labeling of points and objects of interest within a view
CN108141540B (zh) 具有移动检测的全向相机
CN111064895B (zh) 一种虚化拍摄方法和电子设备
CN107710736A (zh) 辅助用户捕获图像或视频的方法和系统
WO2017112800A1 (en) Macro image stabilization method, system and devices
US9843724B1 (en) Stabilization of panoramic video
JP2019080226A (ja) 撮像装置、撮像装置の制御方法、及びプログラム
KR102592745B1 (ko) 자세 추정 장치, 자세 추정 방법 및 기록 매체에 저장된 컴퓨터 프로그램
JP5847591B2 (ja) 情報処理装置、情報処理装置の情報処理方法およびプログラム
JP6952456B2 (ja) 情報処理装置、制御方法、及びプログラム
US11128814B2 (en) Image processing apparatus, image capturing apparatus, video reproducing system, method and program
TWI726536B (zh) 影像擷取方法及影像擷取設備
JP6039471B2 (ja) 撮像装置およびその制御方法
JP4210955B2 (ja) 撮像装置、撮像制御方法、及び、撮像制御プログラム
CN111263115B (zh) 用于呈现图像的方法、装置、电子设备和计算机可读介质
KR20080006925A (ko) 이동체에 부착된 카메라를 통하여 영상 프레임 데이터정보와 위치정보와 방향정보를 실시간 수집하는 방법과이용 시스템
JP4774857B2 (ja) 画像処理装置及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140121

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20140603

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140901

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140917

R150 Certificate of patent or registration of utility model

Ref document number: 5619885

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150