JP2007514356A - オブジェクトの画像に関連する付加情報を表示するための装置、システム、方法及びコンピュータソフトウェア製品 - Google Patents

オブジェクトの画像に関連する付加情報を表示するための装置、システム、方法及びコンピュータソフトウェア製品 Download PDF

Info

Publication number
JP2007514356A
JP2007514356A JP2006543568A JP2006543568A JP2007514356A JP 2007514356 A JP2007514356 A JP 2007514356A JP 2006543568 A JP2006543568 A JP 2006543568A JP 2006543568 A JP2006543568 A JP 2006543568A JP 2007514356 A JP2007514356 A JP 2007514356A
Authority
JP
Japan
Prior art keywords
image
information
display
image information
displayed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2006543568A
Other languages
English (en)
Inventor
バーハー−シピラー,アンティ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nokia Oyj
Original Assignee
Nokia Oyj
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nokia Oyj filed Critical Nokia Oyj
Publication of JP2007514356A publication Critical patent/JP2007514356A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/20Instruments for performing navigational calculations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S5/00Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations
    • G01S5/02Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations using radio waves
    • G01S5/0284Relative positioning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality

Landscapes

  • Engineering & Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Automation & Control Theory (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)

Abstract

本発明は、少なくとも1つのオブジェクト(14)を含む装置(2)の環境に関する画像情報を形成する画像センサ(3)を備えた装置(2)に関し、上記画像情報には上記オブジェクトの画像(14’)が含まれる。装置(2)はまた、該装置の環境の光景を表示する表示手段(3.5、5)と、装置(2)の位置を決定する位置決定手段(11)と、さらに、少なくとも1組の通信手段(4、9)も具備している。通信手段(4、9)は、前記少なくとも1つのオブジェクト(14)に関連する情報を受信する受信装置(4.2、9.2)を具備し、この情報には、少なくとも、オブジェクト(14)の位置に関する情報が含まれる。装置(2)は、表示手段(3.5、5)によって表示するようになっている画像情報から上記オブジェクトの画像(14’)位置を決定し、表示手段(3.5、5)によって上記オブジェクトの画像(14’)と関連して表示される上記画像情報内のオブジェクト(14)に関連する情報のうちの少なくとも一部を表示するための制御ブロック(8)を具備する。

Description

本発明は、装置環境に関する画像情報を形成するための、画像センサを備えた装置であって、上記環境は少なくとも1つのオブジェクトを含み、上記画像情報には上記オブジェクトの画像が含まれる装置において、上記装置環境の光景を表示する表示手段と、上記装置の位置を決定する位置決定手段と、少なくとも1組の通信手段とを具備する装置に関するものである。本発明はまた、少なくとも1つのオブジェクトを含む装置の環境を示す画像情報であって、上記オブジェクトの画像を含む画像情報を形成する画像センサと、上記装置の環境の光景を表示する表示手段とを備えた装置を具備するシステムにも関し、上記システムはまた、上記装置の位置を決定する位置決定手段と、少なくとも1組の通信手段と、上記オブジェクトの位置を決定する手段も具備する。さらに、本発明は、装置内の画像情報を表示する方法に関し、上記装置の環境に関する画像情報を形成するために画像センサを用いるステップであって、上記環境には少なくとも1つのオブジェクトが含まれ、上記画像情報には上記オブジェクトの画像が含まれるステップと、上記装置の環境の光景を表示するステップと、上記装置と上記オブジェクトとの位置を決定するステップとを具備するものである。最後に、本発明は、装置内の画像情報を表示する機械で実行可能なプログラム命令を有するコンピュータソフトウェア製品に関するものであり、少なくとも1つのオブジェクトが含まれる装置の環境に関する画像情報を形成するために画像センサが用いられ、その場合、上記画像情報には上記オブジェクトの画像が含まれ、上記装置の環境の光景の表示、及び、上記装置と上記オブジェクトとの位置データの決定が行われる。
見知らぬ場所で移動し、ターゲットを発見しようとするとき、どの方向へ進むべきか、そして、ターゲットまでさらにどのくらい距離があるかということで戸惑うことがある。地図と、ターゲットへのアクセスを容易にするのに利用できる測位用受信機とを携帯することもできる。
さらに、1以上の他の人と会う約束をしている状況では、特に、多くの他の人々が待ち合わせ場所にいる場合には、会う約束をしている人に気がつくことが困難な場合がある。このような状況では、人は、例えば携帯電話機などを用いて電話をかけることによりお互い同士の位置を見つけ出そうと試みることも可能である。しかし、前記の人と連絡をとるには携帯電話機及びその人の電話番号に関する情報を利用できる必要がある。また、これは一般に発呼者に電話コストが生じることになる。
さらに、ディスプレイの画像情報上へ補助情報を追加できるシステムが知られている。この追加情報として、例えばビデオ画像やテキストフォーマットの形の情報のような別の画像ソースから得られる画像がある。これは拡張リアリティシステムとして知られているものである。このようなシステムを利用して、例えばコンピュータに格納された設計情報で実際の画像情報を補足する、部分的にバーチャルな環境の実現などが可能となる。このようにして、設計中のビルのその環境での適合性を視覚化することが可能となる。
例えば車輌内で計器盤の光景、又はその一部がフロントガラスの表面に表示される構成も知られている。この構成によって、車輌のドライバは計器盤上へ頻繁に自分の目を移動させる必要がなく、最も重要な計測データを見ることが可能となる。これはヘッドアップ・ディスプレイ(HUD)として知られているものである。
如上のシステムにおける問題点として、追加すべき情報が予め装置に格納されているということが挙げられる。追加すべき情報においては、例えばその時点における装置又は車輌の位置、若しくは位置の環境及びこの位置環境内で生じる可能性のある変化は、全く考慮に入れなくてもよい。前記車輌用の適用例では、フロントガラスの表面上へ投影される情報は同じ車輌内の別の装置から検索されるものである。したがって、この情報は車輌専用の情報であり、補助情報の内容は車輌の所在位置と移動方向とにかかわりなく同じである。
装置のディスプレイに提示すべき情報の中に情報を含めるようにすることが可能な構成を提供することが本発明の目的である。装置のディスプレイに提示すべき情報としては、例えばリアルタイムのカメラ画像やファインダから得られる環境を示す画像がある。したがって、本発明に準拠する構成では、画像化する対象オブジェクトがどの方向にあるかを考慮に入れること、及び、このことに基づいてオブジェクトを特定することが可能となる。次いで、オブジェクトからそのオブジェクトに関連する情報をダウンロードして、装置のディスプレイにその情報を示すようにすることが可能となる。さらに正確に述べれば、本発明に準拠する装置は、データ送信手段が、前記少なくとも1つのオブジェクトに関連する情報を受信する受信装置を具備し、上記情報が、少なくとも、オブジェクトの所在位置に関する情報を含み、上記装置が、表示手段によって表示されるようになっている画像情報からオブジェクトの画像位置を決定し、さらに、上記オブジェクトの画像と関連して表示手段によって表示すべき、画像情報内のオブジェクトに関する情報のうちの少なくとも一部を表示するための制御ブロックを具備することを主たる特徴とするものである。
本発明に準拠するシステムは、少なくとも1つのオブジェクトに関連する情報を受信する手段であって、情報が、少なくともオブジェクトの位置に関する情報を含む手段と、表示手段によって表示されるようになっている画像情報からオブジェクトの画像位置を決定する手段と、オブジェクトの画像と関連して表示手段によって表示される画像情報内のオブジェクトに関連する情報のうちの少なくとも一部を表示する手段と、を具備することを主たる特徴とするものである。
本発明による方法は、装置内の前記少なくとも1つのオブジェクトに関する情報を受信するステップであって、該情報が、少なくとも上記オブジェクトの位置に関する前記情報を含むステップと、表示手段によって表示するようになっている上記画像情報から上記オブジェクトの画像位置を決定するステップと、上記オブジェクトの画像と関連して、表示手段によって表示される上記画像情報内の上記オブジェクトに関連する情報をさらに具備することを主たる特徴とするものである。
最後に、本発明に準拠するコンピュータソフトウェア製品は、装置内の上記少なくとも1つのオブジェクトに関連する情報を受信し、該情報が、少なくとも上記オブジェクトの位置に関する情報を含み、表示手段によって表示するようになっている画像情報から上記オブジェクトの画像位置を決定し、上記オブジェクトの画像と関連して上記表示手段によって表示される上記画像情報内の上記オブジェクトに関連する情報のうちの少なくとも一部を表示する機械で実行可能なプログラム命令も具備することを主たる特徴とするものである。
本発明は従来技術の解決方法に優る利点を示すものである。本発明に準拠する構成では、ディスプレイ上の情報の位置が当該オブジェクトを示すように画像化を行う対象オブジェクトに情報を与えることができる。このようにして、人やターゲットを探している人のような装置のユーザは、装置のディスプレイを見ることによって、そして、必要に応じて、装置内のカメラ、又は、装置と接続されたカメラを様々な方向に向けることによってさらに簡単に所望の人やターゲットの発見が可能となる。したがって、所望のターゲットがディスプレイに現れたとき、探索している人が使用している装置のディスプレイ上にオブジェクトが送信する情報を表示することが可能となる。このようにして、特に、人ごみの中で人を発見することがさらに簡単になる。さらに、画像に表示されるオブジェクトに関連する情報を装置のディスプレイに提示することが可能となる。例えばオブジェクトが自動飲料販売機であれば、オブジェクトの中に含まれる飲料などの選択結果、価格データなどをユーザの装置のディスプレイ上に表示することが可能である。本発明に準拠する構成によって、装置のユーザは、画像を記録する前にすでにディスプレイ上に及び/又はファインダの中に表示された画像の形で情報を得ることが可能となる。この情報は選択すべき画像と関連して格納することが可能であり、その場合、例えば画像を発見するために、及び、画像を記録した時点におけるイベントを表示するためにアルバムなどの中でこの情報を利用することが可能である。
本発明の1つの実施形態に準拠する構成では、さらに詳細にもっと大きなオブジェクト(アトラクションなど)の一部を表示することができる。レンズの角度、装置の所在位置及び位置がわかっているとき、ディスプレイ上で又はファインダの中でオブジェクトのどの部分が目に見えるかを計算することが可能となる。したがって、例えば様々な場所の中へ歩いて入っていくことによって、又は、そのオブジェクトに接近することによってさらに大きなオブジェクトを容易に観察することが可能となる。観察される対象オブジェクトと関連して、その時点において装置のユーザがどこにいるかに従って情報を変更し、拡張することが可能となる。
以下、添付図面を参照しながら本発明についてさらに詳細に説明する。
図1は、本発明の1つの実施形態に準拠する装置2を示す簡略なブロック図である。装置2は画像を記録する画像センサ3、又はその類似物を具備する。又は、画像を記録する画像センサ又はデジタルカメラは装置2と接続することができる。さらに、装置2は送信機4.1と受信装置4.2とを備える少なくとも1組の通信手段4を具備する。装置2は視覚情報を表示するディスプレイ5も具備する。さらに、装置2は、データ入力用、画像の記録制御用などのキーパッド6を具備する。装置2はイヤホン7.1及びマイク7.2などのようなオーディオ手段7を具備することも可能であり、さらに、必要に応じて、オーディオ情報の符号化と復号とを行うコーデックもおそらく具備することが可能である。装置2は装置2の機能を制御する制御ブロック8も具備する。制御ブロック8は例えば1以上のプロセッサ(CPU、DSP)を具備する。さらに、図1の装置2は、Bluetooth(登録商標)システム、WLANシステム又は別の通信システムに準拠するローカルな通信手段のような第2の通信手段9を具備し、このようなローカルな通信手段は上記目的に適するものであり、特に、別の対応する装置とのデータ送信接続を設定するためのローカルな利用を意図するものである。さらに、装置2は情報、プログラムなどを格納するためのメモリ10を具備する。装置2の位置を決定するために、装置は、全地球測位システム(GPS)の受信装置のような測位用受信機11を具備することも可能である。最後に、装置の方向(コンパスヘディング)を決定するために、装置2には電子コンパス12、又はその類似物を設けることが可能であり、この電子コンパス12を用いて、各時刻の装置2の方向及びおそらくはまた装置2の、例えば水平方向に対する傾斜の角度も決定することが可能となる。
次に、図5のフローチャートを参照しながら図2のシステム1における装置2の機能について説明することにする。装置2のユーザは、例えばファインダ機能を起動し、画像センサ3によって撮影された画像がほぼリアルタイムでディスプレイ5に表示される。ディスプレイ上に提示されるこの画像は、カメラのファインダに表示される類の画像情報に対応する。一方、従来型の光学式ファインダ3.5(図6)をファインダとして利用することが可能であり、その場合、ディスプレイ5はファインダ機能の実行に必ずしも必要なものでない。例えばシャッタ・ボタン3.8をわずかに、例えば半分下へ押してシャッタ・ボタン3.8をこの位置に保持することなどによってファインダ機能は起動される。この後、装置2は、例えば、第2の通信手段9の受信装置9.2を用いて監視することによって、対応するローカルな通信手段を持つ別の装置が近くに存在するかどうかの判定501と、このような装置のローカルな通信手段によって送信された信号の受信502の試行とを開始する。このような装置が発見された場合、信号の受信が開始される。この受信信号は復調され、この信号で送信された情報は装置2のメモリ10に格納される。この受信情報には、例えば装置識別子データ(例えば装置名)、及び、位置座標のような装置の位置データも含まれる。上記位置座標は、例えば3次元で、すなわち2つの座標(x,y)及び例えば海面からの高度で示されるオブジェクトに関する所在位置で与えられる。装置2は、例えば測位用受信機11によってそれ自身の装置位置の決定503も行う。場合によっては、装置2の位置を移動体通信ネットワーク15などによって決定することも可能である。この場合、装置2又は移動体通信ネットワーク15のいずれかで位置を決定することができる。
図2はまた画像センサの画像の形で目に見える複数のオブジェクト14.1、14.2、14.2が存在する状況も例示する図である。図2には、画像センサによって見られる画像領域のエッジが破線3.2で図示されている。これらのエッジ3.2間のオブジェクトは画像領域内にある。
必要な位置データが装置2の中で利用可能となった後、装置2から近傍にある相手方装置14への方向ベクトルを決定する505ことが可能となる。しかし、このデータは上記オブジェクトに対する画像センサ3の位置を十分に示すものではない。すなわち、第2の装置14が画像センサ13の画像領域内にあるかどうか、そして、これが肯定の場合、上記画像領域のどの部分にあるかについては十分に示さない。したがって、装置2は画像センサ3のコンパスヘディング、すなわち画像センサのレンズ3.1が指し示すコンパスの位置を発見しようと努めることも可能となる。このコンパスヘディングは視方向とも呼ぶことができる。というのは、ファインダを通して、中心がほぼコンパスヘディングの方向にある視界がユーザの目に映るからである。例えば、装置2の電子コンパス12によって視方向を決定することができる。電子コンパス12は画像センサのコンパスヘディングに関するデータを制御ブロック8へ送信する。収集されたデータに基づいて、例えば、画像センサ3によって撮影された画像の中のどの位置が第2の装置14の所在位置であるかを制御ブロック8において決定する506ことが可能である。この位置は、例えば画像領域の中心に対する方向角として決定することができる。x,y座標に加えて、装置2と第2の装置14との間の高さの差、及び、画像センサ3の傾斜の角度、すなわち水平方向に対する画像センサ3の位置も分かっていれば、画像センサによって形成された画像内の第2の装置14の画像の高さをある程度の精度で決定する504ことも可能である。これは、第2の装置14によって与えられる位置座標と、装置2の位置自体の座標と、方向データとを用いて計算によって可能である。
装置2は、例えば電子コンパス12と関連して、傾斜計13などを具備することも可能であり、この傾斜計は、例えば、水平方向に対する装置2などの傾斜と、画像センサ3の目に見える画像領域の中心線のずれ、あるいは、水平面に対する傾斜の角度を示すものである。したがって、コンパスヘディングに加えて、高さ方向で装置2の方位の決定が可能となり、その場合、コンパスヘディング、及び、画像センサ3の目に見える画像領域の中心線(視方向)の傾斜の角度を決定することが可能であり、オブジェクト14のこのデータを用いて、装置2のディスプレイ5に表示される画像情報から画像領域3.4に形成される画像14’の位置を決定することが可能である。ここでは、画像センサ3は装置2に対して静止するように固定されたものとして仮定されているが、装置2から分離した画像センサ装置も同様に利用可能であることは言うまでもない。このような場合、上記データを用いて、画像センサ3内の画像情報の中にオブジェクトの画像を発見できるように画像センサ3に関連して傾斜の角度及び視方向が測定される。
図3は、画像領域3.4においてオブジェクト14から形成される画像14’の位置の決定を例示する図である。図3で、角度αは、視方向からの、すなわち、画像センサ3から見た画像領域3.4の中心線3.3からの、画像14から形成される画像14’の方向偏差を表わす。したがって、角度βは、画像領域3.4の中心線3.3からの、オブジェクト14から形成される画像14’の垂直方向のずれを表わすことになる。
オブジェクト14の画像14’の位置を決定した後、オブジェクト14すなわち第2の装置に関連する情報を装置2のディスプレイ5に表示する507ことが可能となる。この情報、又は、この情報の一部は、オブジェクト14の画像14’が発見された位置に近接して装置2のディスプレイ5に表示される。例えばこの情報は、図4aに図示のようにオブジェクトの画像14上に表示される。上記情報は、例えばオブジェクト14の名称、第2の装置のユーザ名、オブジェクトの座標データなどであってもよい。この情報は、例えばオブジェクト14、通信ネットワーク16と接続されたサーバ17、移動体交換センタ15.1、又はその類似物から受信されたものである。
対応するローカルな通信手段を備えた複数の他のオブジェクト14が装置2の近傍に存在する場合、装置2を用いて、2以上のこのようなオブジェクトが送信した信号を、及び、これらの信号で送信された情報を受信することが可能であり、その場合、上に提示した測定値を個々のこのようなオブジェクト14用として選択することが可能である。したがって、オブジェクト名や、オブジェクト内の装置のユーザ名のような、装置2の近傍にある複数のオブジェクト14に関する情報も装置2のディスプレイ5に同時に表示することが可能となる。このような機能は、例えば、装置2を利用しているある人が、待ち合わせ場所で会う約束をしている一人又は複数の人を人ごみ中で見つけようとする状況などで利用することができる。したがって、装置2のユーザは装置2の画像センサ3を用いることによって環境を観察し、様々な方向に画像センサ3を向けることが可能となり、その場合、装置2へ情報を送信したオブジェクト14の画像がディスプレイ5に現れると、上記装置が送信した情報が装置2のディスプレイ5に表示されることになる。したがって、この情報を検討することによって、ユーザは人ごみから所望の人を見つけることが可能となる。
本発明の如上の実施形態は、装置2の位置データ、及び、視方向に関する情報を装置2からサーバ17などへ送信するように適用することが可能である。サーバ17は、オブジェクト14が送信した位置データを含む情報を受信したり、又はオブジェクト14の位置を決定したりする。この情報に基づいて、サーバ17は、オブジェクトが装置2の画像センサ3の画像領域3.4内に存在するかどうかの判定を行い、これらのオブジェクトの情報を装置2へ送信することができる。上記に基づいて、上記情報又はこの情報の一部を装置2のディスプレイ5に表示することができる。使用するサーバは、移動体交換センタ15.1、又は装置2及びオブジェクト14と通信できるように構成可能な別のサーバ装置であってもよい。
本発明のさらに別の応用例では、オブジェクト14の位置データ及び他の情報を必ずしも受信する必要はなく、この位置データはサーバ17に格納される。これは特に、オブジェクト14が移動していないで、ある位置に静止するように配置されている状況に適している。
図4aと図4bとは、本発明に準拠する情報を提示する1つの可能な実施形態を示す図である。人が装置2の画像センサ3を用いて環境を画像化していて、装置2のローカルな通信手段9に対応するローカルな通信手段を備えたオブジェクトが画像の中に現れたとき、装置2は該装置が送信した信号を受信する。この信号の中には、例えば、オブジェクト14.1の名称に関する送信済みの情報、並びに、オブジェクト14.1の中の飲料及びそれら飲料の価格のようなオブジェクト14.1の中に含まれる製品選択に関する送信済みの情報も含まれている。オブジェクトの画像14.1が比較的小さなものである場合、名称や、オブジェクト(例えば自動飲料販売機、飲料など)の機能について説明するテキストなどのその状況で適切な情報項目を選択することが可能である。ユーザは移動して、そのオブジェクトの方へもっと近づくことができるし、又は、装置2がズーミング機能を有していれば、さらに大きなサイズへオブジェクトの画像14.1をズームすることができる。オブジェクトの画像がさらに大きくなると、装置のディスプレイ5に情報の一部を表示することができるが、この情報表示は、必要に応じてオブジェクトの画像上に表示されたり、オブジェクトのすぐ近傍に表示されたりすることになる。図4aでは、ユーザがオブジェクト14.1(本例では自動飲料販売機)から比較的遠いところにいて、テキスト“飲料”のみが表示されているということがわかる。図4bでは、オブジェクトの画像はさらに拡大されて、オブジェクト14.1の内容に関する情報、すなわち本発明を限定するものではないこの事例では、オブジェクト14.1の中に含まれる飲料に関する情報及びそれら飲料の価格の表示も可能になっている。この情報に基づいて、装置2のユーザは、自動飲料販売機が、ユーザの購買したい飲料を含むものであるかどうかを判断することが可能となる。いくつかのこのようなオブジェクトが近傍に存在していてもよい。その場合個々のオブジェクトは装置2と通信を行い、オブジェクトに関する情報をユーザの装置2へ送信することができる。
目に見えるものに従って情報量を変える別の例として、装置2を利用して国会議事堂のようなオブジェクトをディスプレイ5上で見る、及び/又は、テキスト“国会議事堂”のような情報がディスプレイ5に及び/又はファインダ3.5の中に表示される状況がある。ユーザがそのオブジェクトの方へもっと近づいたり、オブジェクトをさらに大きなサイズにズームしたりして、国会議事堂の建築上の特徴のようなオブジェクト内の特徴を見たとき、ディスプレイ5及び/又はファインダ3.5は、例えば以下のタイプの情報:“国会議事堂:<建築上の特徴の記述>”が表示されることになる。
図4aには数人の人も示されているが、そのうちの2人の人14.2、14.3は装置2と通信できる装置を携帯している。したがって、装置のディスプレイ2はこれらの人14.2、14.3の名前(メアリ、ヘンリ)も示すことになり、これらの名前はそれぞれの人が携帯している装置に格納されることになる。これに対応して、図4bはただ一人の人14.2を示し、この人に関する情報が装置2で受信される。
本発明はまた、自動飲料販売機以外の別のサービス拠点について通知を行うのにも適用可能である。例えばレストランの座標データに併せて、例えば1日のメニュー、開店時間、空席に関する情報などを情報として装置2へ送信することによってレストランの宣伝を行うことができる。本発明を適用する別の可能なサービス拠点にはサービスステーション、店舗、劇場などが含まれる。
図4cと図4dとは本発明のさらに別の応用例を示す図である。図4cで、装置2のユーザは比較的広い視野で環境を画像化している。この場合オブジェクト14は必ずしもディスプレイ5に非常にはっきりと目に見える必要はなく、あるオブジェクトは別のオブジェクトの後ろに存在するかも知れない。例えば図4cの状況では、メアリという名前の人はビル14.4の後ろにいるが、この人に関する情報は装置2で受信されている。したがって、オブジェクト14に関する情報を収集することが可能となり、たとえオブジェクトが画像の形で目に見えなくても、画像センサ3によって形成され、ディスプレイ5に表示された画像の中で人14の位置の決定が可能となる。したがって、情報の表示位置に基づいて、ユーザは例えばオブジェクト14.2、例えばメアリという名前の人の方へ向かう画像への正しい移動方向を結論付けることが可能となる。ユーザが情報19によって指示された方向に移動し、その方向に接近するとき、オブジェクト14.2の周辺の光景はより鮮明になり、必要に応じて移動方向を修正して、さらに鮮明になるようにすることが可能である。これが図4dに例示されていて、ビル14.4の後ろにいる探索対象の人の姿が見えるようになっている。
図4cはまた他の人々も示しているが、これらの人々は情報を装置2へ送信する装置を携帯していない。これは、例えば上記の人々が携帯している装置がおそらく本発明を利用していないという事実に起因していることも考えられるし、又は人々が情報の送信を禁止しているという事実に起因していることも考えられるし、又は装置の識別子(名称)が所定の許された識別子に属している装置2のみへ情報の送信が定義によって許されているということに起因していることも考えられる。
如上のファインダ機能に加えて、画像の記録と関連して本発明を利用することができる。この場合、必要に応じてファインダ機能を利用して、ディスプレイ上に及び/又はファインダの中に画像の記録と関連する情報を表示することができる。そして、画像と関連して格納すべき画像仕様としてこの情報の格納を行うことができる。画像を撮影するために、例えばシャッタ・ボタン3.8が最も低い位置まで押下される。上記情報は必ずしも画像に関して永久に格納する必要はなく、この情報を伴うか、情報を伴わないかにかかわらず画像表示を行うことが可能である。ユーザは、画像の記録場所及び記録時刻に関する情報のような画像に関連する可視情報、並びに、人名、サービスポイント名などのような画像内の可視オブジェクトと共に格納された画像からなるアルバムを作成することができる。このようにして、例えば、画像に添付された情報を利用することによって格納済み画像のサーチはさらに簡単なものになる。
すでに上述したように、本発明では、装置2とオブジェクト14との間での通信時の短距離データ送信以外の別の方法を適用することも可能である。例えば、移動体通信ネットワーク15及び/又はインターネットデータネットワーク16の利用が可能であり、その場合、移動体通信ネットワーク15、インターネットデータネットワーク17及び/又は別の遠隔通信ネットワークを介して装置2とオブジェクト14との間で情報の送信が行われる。したがって、装置2において及び/又はオブジェクト14において短距離データ送信を目的とする第2の通信手段9は必ずしも必要とはかぎらない。
本発明では、例えば、装置2のディスプレイ5に光景を表示することによってファインダ機能の実現が可能となり、その場合、ディスプレイ5にも情報が表示される。別の可能性として、ファインダ機能における従来方式の光学式ファインダ3.5の利用があり、その場合、この光学式ファインダ3.5には手段3.7が設けられて、あたかもファインダで見えるオブジェクト上に情報が存在するかのように装置2のユーザの目に見えるようにファインダ内の所望のポイント内に情報が反映される。これは、例えば、ファインダ3.5内のレンズ3.6の表面上へ情報を投影することによって実現可能である。図6にこの実施形態が原理的に例示されている。このコンテキストでは、いくつかの車輌で計器盤の光景をフロントガラスに表示するのに利用するのと同じ技術の適用がある程度まで可能である。ファインダのレンズ3.6の代わりに装置2のユーザの人間の目18へ情報を投影して、あたかもオブジェクト14上に情報があるかのように人間の目に見えるようにすることも可能である。
近傍のオブジェクト14を発見するために、オブジェクト14内の別の装置が送信した信号を装置2の第2の通信手段9の受信装置9.2が受信することは前に本説明で提示した。したがって、例えば規則的な間隔などで、装置2で受信できる信号を送信するようにオブジェクト14内の装置が構成され、オブジェクト14が近傍に存在するという結論をこの信号の存在から下すことが可能となる。上記送信信号が情報を含む場合もあれば、例えば装置2やサーバ17からの要求時にまず信号に情報を与える場合もある。装置2が、例えば第2の通信手段の送信機9.1によって問合せ信号などを送信することにより、これらのオブジェクトの探索を実装することも可能であり、その場合近くのオブジェクト14の装置は、このような信号の存在を監視し、上記装置がこの信号を検出したとき、装置2へ情報を送信するのに必要なステップがとられることになる。
本発明による方法の様々な機能は、主として、装置2の制御ブロック8においてプログラミングを行うことによって実現することができる。したがって、装置2のメモリ10には、格納された機械で実行可能なプログラム命令が含まれ、オブジェクト14の画像14’の位置等の決定に必要な計算ステップのような、上記プログラム命令の必要なステップが制御ブロック8によって制御されるようになっている。
本発明は、種々の装置2及びシステム1において利用可能である。このような装置2について述べるべき、発明を限定するものではないいくつかの例の中には、移動体通信手段、デジタルカメラ及びビデオカメラのような携帯用通信手段が含まれる。
本発明が如上の実施形態のみに限定されるものではなく、本願の請求項の範囲内で変更可能であることは明らかである。
本発明の1つの実施形態に準拠する装置を簡略図で示す。 本発明の実施形態に基づくシステム簡略図である。 装置によって表示される画像でオブジェクトの測位を例示する。 本発明のいくつかの適用例を示す。 本発明のいくつかの適用例を示す。 本発明のいくつかの適用例を示す。 本発明のいくつかの適用例を示す。 本発明の1つの実施形態に準拠する方法の動作を簡略なフローチャートで示す。 本発明の別の実施形態と関連して用いられるデータ表示用アプリケーションを示す簡略図である。

Claims (14)

  1. 装置であって、
    少なくとも1つのオブジェクト(14)を含む前記装置(2)の環境を示す画像情報を形成する画像センサ(3)であって、前記画像情報が前記オブジェクトの画像(14’)を含む画像センサ(3)と、
    前記装置の環境の光景を表示する表示手段(3.5、5)と、
    前記装置(2)の位置を決定する位置決定手段(11)と、
    少なくとも1組の通信手段(4、9)と、を具備する装置において、
    前記通信手段(4、9)が、前記少なくとも1つのオブジェクト(14)に関係する情報を受信する受信装置(4.2、9.2)を具備し、前記情報が少なくとも前記オブジェクト(14)の位置に関する情報を含み、さらに、前記装置(2)が、前記表示手段(3.5、5)によって表示するようになっている画像情報から、前記オブジェクトの画像(14’)の位置を決定し、前記オブジェクトの画像(14’)と関連して前記表示手段(3.5、5)が表示すべき前記画像情報内の、前記オブジェクト(14)に関連づけられた情報のうちの少なくとも一部を表示するための制御ブロック(8)を具備することを特徴とする装置。
  2. 前記画像センサ(3)の視方向を決定するコンパス(12)を具備する装置(2)であって、前記装置(2)と前記オブジェクト(14)との位置データに加えて、前記表示手段(3.5、5)によって表示するようになっている前記画像情報から前記オブジェクトの画像(14’)の位置を決定するために、前記視方向を利用するように構成されることを特徴とする請求項1に記載の装置(2)。
  3. 前記画像センサ(3)の位置を決定する傾斜測定ブロック(12)を具備する装置(2)であって、前記ディスプレイ(5)に表示するようになっている前記画像情報から前記オブジェクトの画像(14’)の位置を決定するために、前記装置(2)と前記オブジェクト(14)との位置データ並びに前記視方向に加えて、前記画像センサ(3)の位置データを利用するように構成されることを特徴とする請求項2に記載の装置(2)。
  4. ファインダ機能を実行するための手段(3、3.5、3.8、8)を具備し、前記ファインダ機能の実行に関連してほぼ継続的に画像情報を更新するように構成されることを特徴とする請求項1乃至3のいずれか一項に記載の装置(2)。
  5. 前記表示手段(3.5、5)がディスプレイ(5)を具備し、情報が添付された前記画像情報を前記ディスプレイ(5)に表示するように構成されることを特徴とする請求項1乃至4のいずれか一項に記載の装置(2)。
  6. 前記表示手段(3.5、5)が光学式ファインダ(3.5)を具備し、前記情報を前記画像情報の中へ追加して、前記光学式ファインダ(3.5)の中に該情報を表示するように構成されることを特徴とする請求項1乃至4のいずれか一項に記載の装置(2)。
  7. 少なくとも1つのオブジェクト(14)を含む装置(2)の環境を示す画像情報であって、前記オブジェクトの画像(14’)を含む画像情報を形成する画像センサ(3)と、前記装置の環境の光景を表示する表示手段(3.5、5)と、を備えた装置(2)を具備するシステム(1)であって、前記装置(2)の位置を決定する位置決定手段(11)と、少なくとも1組の通信手段(4、9)と、前記オブジェクト(14)の位置を決定する手段も具備するシステム(1)において、
    前記少なくとも1つのオブジェクト(14)に関連する情報であって、前記オブジェクト(14)の位置に関する少なくとも前記情報を含む情報を受信する手段(4.2、9.2)と、
    前記表示手段(3.5、5)が表示するようになっている画像情報から、前記オブジェクトの画像(14’)の位置を決定する手段(8、17)と、
    前記オブジェクトの画像(14’)に関連して前記表示手段(3.5、5)が表示する前記画像情報内の前記オブジェクト(14)に関連する情報のうちの少なくとも一部を表示するための手段(8)と、を具備することを特徴とするシステム(1)。
  8. 前記画像センサ(3)の視方向を決定するコンパス(12)を具備するシステム(1)であって、前記表示手段(3.5、5)によって表示するようになっている前記画像情報から前記オブジェクトの画像(14’)の位置を決定するために、前記装置(2)と前記オブジェクト(14)との位置データに加えて、前記視方向を利用するように構成されることを特徴とする請求項7に記載のシステム(1)。
  9. 前記画像センサ(3)の位置を決定する傾斜測定ブロック(12)を具備するシステム(1)であって、前記装置(2)と前記オブジェクト(14)との位置データ及び前記視方向に加えて、前記ディスプレイ(5)に表示するようになっている前記画像情報から前記オブジェクトの画像(14’)の位置を決定するために前記位置データを利用するように構成されることを特徴とする請求項8に記載のシステム(1)。
  10. ファインダ機能を実行するための手段(3、3.5、3.8、8)を具備し、さらに、前記ファインダ機能の実行に関連してほぼ継続的に画像情報を更新するように構成されることを特徴とする請求項7乃至9のいずれか一項に記載のシステム(1)。
  11. 前記表示手段(3.5、5)がディスプレイ(5)を具備し、情報が添付された前記画像情報を前記ディスプレイ(5)に表示するように構成されることを特徴とする請求項7乃至10のいずれか一項に記載のシステム(1)。
  12. 前記表示手段(3.5、5)が光学式ファインダ(3.5)を具備し、前記情報を前記画像情報の中へ追加して、前記光学式ファインダ(3.5)の中に該情報を表示するように構成されることを特徴とする請求項7乃至10のいずれか一項に記載のシステム(1)。
  13. 装置内の画像情報を表示する方法であって、
    画像センサ(3)を用いて、前記装置(2)の環境に関する画像情報を形成し、前記環境が少なくとも1つのオブジェクト(14)を含み、前記画像情報が前記オブジェクトの画像(14’)を含むステップと、
    前記装置の環境の光景を表示するステップと、
    を具備する方法において、
    前記装置(2)と前記オブジェクト(14)との位置を決定するステップと、を具備する方法において、
    前記装置(2)内の前記少なくとも1つのオブジェクト(14)に関係する情報を受信するステップであって、該情報が、前記オブジェクトの位置に関する少なくとも前記情報を含むステップと、
    表示手段を用いて表示するようになっている画像情報から前記オブジェクトの画像(14’)の位置を決定するステップと、
    前記オブジェクトの画像(14’)と関連して前記表示手段(3.5、5)によって表示される前記画像情報内の前記オブジェクト(14)に関連する情報のうちの少なくとも一部を表示するステップと、をさらに具備することを特徴とする方法。
  14. コンピュータソフトウェア製品であって、
    画像センサ(3)を用いて、少なくとも1つのオブジェクト(14)を含む前記装置(2)の環境に関する画像情報であって、前記オブジェクトの画像(14’)を含む画像情報を形成するために、装置(2)内の画像情報を表示し、
    前記装置の環境の光景を表示し、
    前記装置(2)と前記オブジェクト(14)とに関する位置情報を決定する機械で実行可能なプログラム命令を具備するコンピュータソフトウェア製品において、
    さらに、
    前記装置(2)内の前記少なくとも1つのオブジェクト(14)に関連する情報であって、前記オブジェクト(14)の位置に関する少なくとも前記情報を含む情報を受信し、
    前記表示手段(3.5、5)が表示するようになっている画像情報から前記オブジェクトの画像(14’)の位置を決定し、
    前記オブジェクトの画像(14’)に関連して前記表示手段(3.5、5)によって表示する前記画像情報内の、前記オブジェクト(1)に関連する情報のうちの少なくとも一部を表示する、機械で実行可能なプログラム命令も具備することを特徴とするコンピュータソフトウェア製品。
JP2006543568A 2003-12-12 2004-12-10 オブジェクトの画像に関連する付加情報を表示するための装置、システム、方法及びコンピュータソフトウェア製品 Pending JP2007514356A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
FI20035236A FI115943B (fi) 2003-12-12 2003-12-12 Järjestely informaation esittämiseksi näytöllä
PCT/FI2004/050184 WO2005057913A1 (en) 2003-12-12 2004-12-10 Device, system, method and computer software product for displaying additional information in association with the image of an object

Publications (1)

Publication Number Publication Date
JP2007514356A true JP2007514356A (ja) 2007-05-31

Family

ID=29763636

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006543568A Pending JP2007514356A (ja) 2003-12-12 2004-12-10 オブジェクトの画像に関連する付加情報を表示するための装置、システム、方法及びコンピュータソフトウェア製品

Country Status (5)

Country Link
US (1) US8629904B2 (ja)
EP (1) EP1692863B1 (ja)
JP (1) JP2007514356A (ja)
FI (1) FI115943B (ja)
WO (1) WO2005057913A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011176599A (ja) * 2010-02-24 2011-09-08 Oki Networks Co Ltd 空間情報可視化システム及び関連情報提供装置
JP2012503228A (ja) * 2008-09-17 2012-02-02 ノキア コーポレイション 拡張現実のためのユーザインターフェース
KR101750339B1 (ko) * 2010-08-16 2017-06-23 엘지전자 주식회사 증강현실정보의 표시 방법 및 이를 이용하는 이동 단말기

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7565008B2 (en) 2000-11-06 2009-07-21 Evryx Technologies, Inc. Data capture and identification system and process
US9310892B2 (en) 2000-11-06 2016-04-12 Nant Holdings Ip, Llc Object information derived from object images
US7680324B2 (en) 2000-11-06 2010-03-16 Evryx Technologies, Inc. Use of image-derived information as search criteria for internet and other search engines
US8224078B2 (en) 2000-11-06 2012-07-17 Nant Holdings Ip, Llc Image capture and identification system and process
US7899243B2 (en) 2000-11-06 2011-03-01 Evryx Technologies, Inc. Image capture and identification system and process
US8769437B2 (en) 2007-12-12 2014-07-01 Nokia Corporation Method, apparatus and computer program product for displaying virtual media items in a visual media
US9582937B2 (en) * 2008-01-02 2017-02-28 Nokia Technologies Oy Method, apparatus and computer program product for displaying an indication of an object within a current field of view
JP4556146B2 (ja) * 2008-04-11 2010-10-06 ソニー株式会社 情報処理装置および方法、プログラム、並びに情報処理システム
US8243097B2 (en) * 2009-10-21 2012-08-14 Apple Inc. Electronic sighting compass
US20110115671A1 (en) * 2009-11-17 2011-05-19 Qualcomm Incorporated Determination of elevation of mobile station
DE102009058142A1 (de) 2009-12-12 2011-06-16 Volkswagen Ag Verfahren, Vorrichtung und Computerprogrammprodukt zum Ausgeben von Bedieninformationen über Objekte eines Fahrzeugs
US20120038668A1 (en) * 2010-08-16 2012-02-16 Lg Electronics Inc. Method for display information and mobile terminal using the same
KR101708303B1 (ko) * 2010-08-18 2017-02-20 엘지전자 주식회사 정보 전송 방법 및 이를 이용하는 이동 단말기
AT13366U1 (de) * 2010-12-15 2013-11-15 Mkw Electronics Gmbh Verfahren zum Anzeigen einer einem Tier zugeordneten Information
JP5942456B2 (ja) * 2012-02-10 2016-06-29 ソニー株式会社 画像処理装置、画像処理方法及びプログラム
CN103105993B (zh) * 2013-01-25 2015-05-20 腾讯科技(深圳)有限公司 基于增强现实技术实现互动的方法和系统
KR102518534B1 (ko) * 2016-11-30 2023-04-07 현대자동차주식회사 차량 위치 인식 장치 및 방법
US10969583B2 (en) * 2017-02-24 2021-04-06 Zoll Medical Corporation Augmented reality information system for use with a medical device
WO2019040539A1 (en) 2017-08-21 2019-02-28 Flow Immersive, Inc. INCREASED VIRTUAL REALITY
JP7056500B2 (ja) * 2018-10-04 2022-04-19 トヨタ自動車株式会社 画像生成装置、画像生成方法、およびプログラム

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05232372A (ja) 1992-02-18 1993-09-10 Olympus Optical Co Ltd 視線検出装置付きカメラ
US5341435A (en) * 1992-03-17 1994-08-23 Corbett Technology Company, Inc. System for detection and recognition of an object by video imaging means
US5790085A (en) * 1994-10-19 1998-08-04 Raytheon Company Portable interactive heads-up weapons terminal
US6282362B1 (en) * 1995-11-07 2001-08-28 Trimble Navigation Limited Geographical position/image digital recording and display system
US6023241A (en) * 1998-11-13 2000-02-08 Intel Corporation Digital multimedia navigation player/recorder
US6166679A (en) * 1999-01-13 2000-12-26 Lemelson Jerome H. Friend or foe detection system and method and expert system military action advisory system and method
US6766528B1 (en) * 1999-01-27 2004-07-20 Lg Electronics Inc. Apparatus and method for displaying additional information
US8429005B2 (en) * 1999-09-23 2013-04-23 Activ8Now, Llc Method for determining effectiveness of display of objects in advertising images
FR2801158B1 (fr) 1999-11-17 2002-03-08 Sagem Appareil portable comportant des moyens d'orientation procede d'utilisation d'un tel appareil et procede d'orientation correspondant
JP4274656B2 (ja) 1999-12-08 2009-06-10 カシオ計算機株式会社 カメラ装置及び被写体名称表示方法
JP2001211364A (ja) 2000-01-25 2001-08-03 Fuji Photo Film Co Ltd デジタルカメラ
EP1128629A1 (en) 2000-02-22 2001-08-29 TELEFONAKTIEBOLAGET L M ERICSSON (publ) A method of transmitting digital information from an electronic utility device to a server
EP3147759B1 (en) * 2000-05-16 2019-06-26 Nokia Technologies Oy A method and apparatus to browse and access downloaded contextual information
DE20021899U1 (de) 2000-12-15 2002-02-07 Runge Bernd Mobilteil für Informations- und Navigationssysteme
US7151524B2 (en) * 2001-08-21 2006-12-19 Eastman Kodak Company Electronic communication, and user interface kit
JP2003078785A (ja) 2001-08-30 2003-03-14 Olympus Optical Co Ltd カメラのファインダ装置
JP4158376B2 (ja) 2001-12-07 2008-10-01 株式会社ニコン 電子カメラおよび画像表示装置および画像表示方法
EP1349363B1 (en) 2002-03-29 2014-01-08 FUJIFILM Corporation Digital camera connected to a navigation device and to an external storage information system

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012503228A (ja) * 2008-09-17 2012-02-02 ノキア コーポレイション 拡張現実のためのユーザインターフェース
JP2011176599A (ja) * 2010-02-24 2011-09-08 Oki Networks Co Ltd 空間情報可視化システム及び関連情報提供装置
KR101750339B1 (ko) * 2010-08-16 2017-06-23 엘지전자 주식회사 증강현실정보의 표시 방법 및 이를 이용하는 이동 단말기

Also Published As

Publication number Publication date
US20050206654A1 (en) 2005-09-22
EP1692863B1 (en) 2019-01-23
EP1692863A1 (en) 2006-08-23
US8629904B2 (en) 2014-01-14
WO2005057913A1 (en) 2005-06-23
FI20035236A0 (fi) 2003-12-12
FI115943B (fi) 2005-08-15

Similar Documents

Publication Publication Date Title
JP2007514356A (ja) オブジェクトの画像に関連する付加情報を表示するための装置、システム、方法及びコンピュータソフトウェア製品
US11776185B2 (en) Server, user terminal, and service providing method, and control method thereof for displaying photo images within a map
US9596414B2 (en) Provision of target specific information
US7088389B2 (en) System for displaying information in specific region
US9310209B2 (en) Terminal and method for controlling the same
JP4207941B2 (ja) 画像表示装置及び画像生成装置
WO2011158639A1 (ja) 位置関連表示システム、携帯機器及び携帯機器用プログラム
US20110006977A1 (en) System and method for converting gestures into digital graffiti
JP2009271732A (ja) 情報提示装置及び情報提示方法、撮像装置、並びにコンピュータ・プログラム
JPWO2015145544A1 (ja) 表示制御装置、制御方法、プログラム及び記憶媒体
KR20050078136A (ko) 증강현실을 이용한 지역 정보 제공 방법 및 이를 위한지역 정보 서비스 시스템
JP2004534963A (ja) 強化現実のための方法、システム及び装置
EP2413104A1 (en) Apparatus and method for providing road view
JP2010238100A (ja) 携帯情報端末、情報配信システム、情報閲覧制御方法、及び情報閲覧制御プログラム
WO2015125210A1 (ja) 情報表示装置及び情報表示プログラム
JP4710217B2 (ja) 情報提示装置及び情報提示方法、情報提示システム、並びにコンピュータ・プログラム
JP2018200699A (ja) 表示制御装置、制御方法、プログラム及び記憶媒体
JP2010171664A (ja) 携帯情報端末、情報表示制御方法、及び、情報表示制御プログラム
CN112055034B (zh) 基于光通信装置的交互方法和系统
KR101899465B1 (ko) 위치 정보를 활용한 여행지 정보 제공 장치
JP2014021802A (ja) 検索システム、検索サーバ及び携帯型端末用プログラム
WO2021200187A1 (ja) 携帯端末および情報処理方法、並びに記憶媒体
KR20200083747A (ko) Vr 영상 구동 방법
JP2022535793A (ja) 光通信装置に基づく相互作用方法及び電子デバイス
KR20180019860A (ko) 휴대 단말기용 거리뷰 기반 네비게이션 제공장치 및 제공방법

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080820

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080826

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20081125

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20081202

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20090421