JP4211097B2 - 受像機、その位置認識装置、その位置認識方法及び仮想画像立体合成装置 - Google Patents
受像機、その位置認識装置、その位置認識方法及び仮想画像立体合成装置 Download PDFInfo
- Publication number
- JP4211097B2 JP4211097B2 JP30617098A JP30617098A JP4211097B2 JP 4211097 B2 JP4211097 B2 JP 4211097B2 JP 30617098 A JP30617098 A JP 30617098A JP 30617098 A JP30617098 A JP 30617098A JP 4211097 B2 JP4211097 B2 JP 4211097B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- receiver
- light source
- display
- virtual
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Controls And Circuits For Display Device (AREA)
- Processing Or Creating Images (AREA)
- Image Processing (AREA)
- Studio Circuits (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
Description
【発明の属する技術分野】
この発明は、TV番組のキャラクタを仮想空間上に飛び出させる、いわゆる「飛び出すテレビ」などに適用して好適な受像機、その位置認識装置、その位置認識方法及び仮想画像立体合成装置に関する。
【0002】
詳しくは、点滅パターンの異なる光源画像を受像機の特定位置に表示して、その光源画像の位置から受像機の位置を画像処理系で容易に認識できるようにすると共に、観察者の視聴するTV画像に仮想体の画像を再現性良く立体的に合成できるようにしたものである。
【0003】
【従来の技術】
近年、バーチャル・リアリティ(仮想現実感)に基づく表示技術の向上に伴い、複数の画像表示面に跨って仮想現実感を観察者に提供するための仮想画像立体合成装置が出現している。
【0004】
この種の立体表示装置は、特開平9−237353号の技術文献に見られる。この技術文献によれば、縦横数m程度の大きさの映写空間が設けられ、各々の面に表示装置が配置され、各々の表示装置から恐竜、怪獣や武器などの仮想体の画像が立体表示される。そして、観察者は液晶シャッター付きの眼鏡をかけ、その映写空間に立つと、あたかも、各々の表示装置で表示された仮想体と同じ場所に居るようなされる。
【0005】
また、観察者が仮想空間上で手にする武器がカメラによって撮像され、その武器の動きによって仮想体が反応するように画像処理されている。これにより、観察者は数千年前の原始時代にタイムスリップして、恐竜退治などをゲーム感覚で行うことができる。
【0006】
【発明が解決しようとする課題】
ところで、従来方式の物体の位置認識方法によれば、観察者が実空間上で手にする武器などの物体の位置を画像処理系に認識させようとした場合に、その物体を含む背景画像を撮像してその物体の輪郭部を抽出し、予め格納されたその物体に関する基準パターンとその物体の輪郭パターンとを比較している。
【0007】
従って、その物体の位置だけを画像処理系で認識させて、仮想空間上の物体に仮想体画像などの合成しようとした場合に、その画像処理系のパターン認識に係る計算量が多くなったり、その演算器の負担が重くなる。
【0008】
これにより、例えば、観察者の視聴する受像機の受信画面上に、TV番組のキャラクタなどを仮想的に飛び出させ、その仮想空間上の観察者の手のひらでそのキャラクタを遊ばせるような仮想画像立体合成装置を構成しようとしたときに、従来方式のパターン認識方法をそのまま適用すると、画像処理系でその受像機の位置を容易に認識することが困難なことから、そのパターン認識処理が大がかりとなったり、TV画面を認識するための画像処理が複雑になったり、その時の計算量が多くなったりして、仮想画像立体合成装置などのコストアップにつながるという問題がある。
【0009】
そこで、本発明は上記の課題に鑑み創作されたものであり、撮像可能な任意の表示画面の位置を画像処理系で容易に認識できるようにすると共に、観察者の視聴するTV画像に仮想体の画像を立体的に合成するためのシステムを再現性よく構築できるようにした受像機、その位置認識装置、その位置認識方法及び仮想画像立体合成装置を提供することを目的とする。
【0010】
【課題を解決するための手段】
上述した課題は、撮像可能な任意の画面内の特定の位置に、少なくとも、3点以上の光源画像を表示する表示手段と、この表示手段に表示された光源画像を各々点滅パターンが異なるように点滅制御する制御手段とを備える受像機によって解決される。
【0011】
この発明に係る受像機によれば、当該表示画面内の特定の位置に表示された3点以上の光源画像が、制御手段によってその点滅パターンが異なるように点滅制御されるので、流し撮りCCD装置のような特殊撮影装置で当該受像機を撮像した場合に、複数の光源画像を一律に点灯した場合に比べてその光源画像の位置を容易に特定することができる。従って、その光源画像の位置から当該受像機の位置を仮想画像立体合成装置などの画像処理系に容易に認識させることができる。
【0012】
本発明に係る受像機の位置認識装置は、各画素を構成する複数の光電変換素子を有した二次元撮像デバイスが使用され、光電変換素子から得られた信号電荷を所定の方向に転送するとき、少なくとも、同一フィールド期間中に複数回、光電変換素子から信号電荷を読み出す撮影モードを流し撮りとしたとき、点滅パターンが異なる複数の光源画像を画面内の特定の位置に表示した受像機を流し撮りする撮像手段と、この撮像手段による光源画像の輝度信号を画像処理して光源画像の各々の位置を求める演算手段とを備え、受像機の位置を認識するものである。
【0013】
この発明の受像機の位置認識装置によれば、所定の撮像方向に流すように撮像された光源画像の点滅パターンに関して、その点滅パターンに係る輝度情報が画像処理されてその光源画像の位置が演算手段によって求められるので、その光源画像の位置を容易に特定することができる。従って、その光源画像の位置から受像機の位置を画像処理系に容易に認識させることができる。
【0014】
本発明に係る受像機の第1の位置認識方法は、撮像可能な任意の画面内の特定の位置に点滅パターンが異なる3点以上の光源画像を表示し、点滅パターンの異なった光源画像を所定の撮像方向に流すように撮像し、ここで撮像された光源画像の輝度情報を画像処理して光源画像の各々の位置情報を求めるものである。
【0015】
この発明の第1の位置認識方法によれば、光源画像の位置を容易に特定することができるので、その光源画像の位置から受像機の位置を画像処理系で容易に認識することができる。従って、受像機の表示画面を精度良く認識させることができるので、この位置認識方法を仮想画像立体合成装置の面認識手段などに十分に応用することができる。
【0016】
本発明に係る受像機の第2の位置認識方法は、受像機の表示画面内に、少なくとも、白地に黒で表示されたn行×n列の白黒マトリクスから成る2次元マトリクスコード画像を表示し、その二次元マトリクスコード画像を撮像し、ここで撮像された二次元マトリクスコード画像による輝度信号を画像処理して二次元マトリクスコード画像の四隅の位置情報を求めるものである。
【0017】
この発明の第2の位置認識方法によれば、二次元マトリクスコード画像の四隅の位置情報から受像機の位置を画像処理系に容易に認識させることできる。従って、受像機の表示画面を精度良く認識させることができるので、この位置認識方法を仮想画像立体合成装置の面認識手段などに十分に応用することができる。
【0018】
本発明の第1の仮想画像立体合成装置は、各画素を構成する複数の光電変換素子を有した二次元撮像デバイスが使用され、光電変換素子から得られた信号電荷を所定の方向に転送するとき、少なくとも、同一フィールド期間中に複数回、光電変換素子から信号電荷を読み出す撮影モードを流し撮りとしたとき、観察者の視聴する受像機の表示画面上で任意の基準面を認識する面認識手段と、この面認識手段により認識された仮想空間の基準面上に仮想体の画像を合成する合成手段とを備え、
面認識手段は、点滅パターンが異なるように点滅する3点以上の光源画像を画面内の特定の位置に表示した受像機であって、仮想体の画像を合成しようとする受像機を流し撮りする撮像手段と、この撮像手段による光源画像の点滅パターンの輝度信号を画像処理して光源画像の3点の位置を求め、その後、3点の光源画像の位置を結んで基準面を求める演算手段とを有し、観察者の視聴するTV画像に仮想体の画像を立体的に合成するものである。
【0019】
この発明の第1の仮想画像立体合成装置によれば、本発明に係る受像機の第1の位置認識方法が応用されるので、光源画像の位置から受像機の位置を画像処理系に容易に認識させることができる。従って、受像機の表示画面を精度良く認識させることができるので、観察者の視聴するTV画像に仮想体の画像を再現性良く立体的に合成することができる。例えば、受像機に表示されたTV画像から、あたかも、仮想体が飛び出すような立体画像システムを構築することができる。
【0020】
本発明の第2の仮想画像立体合成装置は、観察者の視聴する受像機の表示画面上で任意の基準面を認識する面認識手段と、この面認識手段により認識された仮想空間の基準面上に仮想体の画像を合成する合成手段とを備え、面認識手段は、仮想体の画像を合成しようとする受像機の表示画面内に表示される、白地に黒で表示されたn行×n列の白黒マトリクスから成る二次元マトリクスコード画像を撮像する撮像手段と、この撮像手段により撮像された二次元マトリクスコード画像の輝度信号を画像処理して二次元マトリクスコード画像の四隅の位置情報を求める演算手段を有し、観察者の視聴するTV画像に仮想体の画像を立体的に合成するものである。
【0021】
この発明の第2の仮想画像立体合成装置によれば、本発明に係る受像機の第2の位置認識方法が応用されるので、二次元マトリクスコード画像の四隅の位置情報から受像機の位置を画像処理系に容易に認識させることができる。従って、受像機の表示画面を精度良く認識させることができるので、第1の仮想画像立体合成装置と同様にして観察者の視聴するTV画像に仮想体の画像を再現性良く立体的に合成することができる。
【0022】
【発明の実施の形態】
以下、図面を参照しながら、この発明の実施形態としての受像機、その位置認識装置、その位置認識方法及び仮想画像立体表示装置について説明をする。
(1)実施形態としての受像機
図1は本発明に係る実施形態としての受像機100の構成例を示す正面図である。この実施形態では、点滅パターンの異なる光源画像を受像機の特定位置に表示し、その光源画像の位置から受像機の位置を仮想画像立体合成装置などの画像処理系で容易に認識できるようにしたものである。
【0023】
図1に示す受像機100は撮像可能な任意の画面を有した表示手段1を備えている。この表示手段1には陰極線管(以下CRT1’という)、液晶表示パネル、プラズマ・ディスプレイパネル及び平面表示パネルなどが使用される。もちろん、受像機100はカラー表示形式又は白黒表示形式であり、TV放送を受信して画像を表示したり、ビデオ信号を受けて画像を表示するものである。これらの受像機100の画面内であって、少なくとも、その画面内の特定の位置に3点以上の光源画像が表示される。
【0024】
この例では、表示手段1の表示映像画面の四隅に矩形状の光源画像LP1〜LP4が表示される。この光源画像LP1〜LP4は予めTV放送局側で送信画像に重畳して送る方法が考えられるが、受信機側でそのカラー映像信号に重畳する方法も考えられる。ここでは、後者の場合であって表示手段1にCRT1’を使用する場合について説明をする。
【0025】
図2に示す受像機100はCRT1’、画像処理手段9及び制御手段6を有している。例えば、画像処理手段9には映像検波回路91が設けられ、図示しない前段の映像中間増幅回路から出力されたカラー映像中間信号Sinからカラー映像信号SCが検出される。この映像検波回路91の出力段には加算回路92が接続され、カラー映像信号SCの所定表示期間に点滅パターンの異なる光源画像信号SPi(i=1〜4)を加算するようになされる。
【0026】
つまり、加算回路92の入力段には制御手段6が接続され、CRT1’の画面内に表示される光源画像LP1〜LP4を各々点滅パターンが異なるように点滅制御される。この例の制御手段6は光源画像発生部61を有しており、所定周波数のパルス状の光源画像信号SP1が発生される。光源画像信号SP1は30〜50Hzを除いた低域の周波数が好ましい。これは、30〜50Hzで点滅する光では、観察者が光てんかん発作を引き起こすおそれがあるからである。
【0027】
この光源画像発生部61には1/2分周回路62、1/3分周回路63、1/4分周回路64が接続されており、所定周波数の光源画像信号SP1と、この光源画像信号SP1を1/2分周回路62で1/2分周した光源画像信号SP2と、1/3分周回路63で1/3分周した光源画像信号SP3と、1/4分周回路64で1/4分周した光源画像信号SP4とが出力される。
【0028】
この光源画像発生部61、1/2分周回路62、1/3分周回路63及び1/4分周回路64の出力段には出力回路65が接続され、垂直同期信号SV及び水平同期信号SHに基づいて、各々の光源画像信号SP1〜4を選択して加算回路92に出力するようになされている。
【0029】
この加算回路92の出力段には、映像増幅回路93が接続され、カラー映像信号SCの所定表示期間に加算された点滅パターンの異なる光源画像信号SPiが増幅される。この加算回路92は図2の破線で示すように映像増幅回路93の出力段に接続してもよい。映像増幅回路93の出力段にはカラー処理回路94及び走査処理回路95が接続されている。カラー処理回路94では、カラー映像信号SC及び光源画像信号SPiが所定の階調処理などが施された後に、CRT1’のカソード及びグリッドに駆動電圧VK、VGとなって供給される。
【0030】
また、映像増幅回路93に接続された走査処理回路95では同期信号SSが検出され、1周期が16.6msecの垂直同期信号SV及び1周期63μsecが水平同期信号SHが上述の出力回路65に出力される。更に、この垂直同期信号SV及び水平同期信号SHに基づいて発生した水平偏向電圧VV、垂直偏向電圧VHが偏水平・垂直向コイルに供給され、同様にして発生した高電圧VHHがCRT1’のアノードに供給される。
【0031】
これにより、CRT1’に表示された任意の受信画面上に光源画像PLiを合成表示することができ、光源画像PLiを点滅させることができる。この例では、特定の波長Xの可視光が光源画像PLiから放出される状態、又は、それが放出されない状態を作ることができる。
【0032】
この可視光は人間の目では認識できないような色差にすることが好ましい。例えば、光源画像PLiが点滅される位置に、x,yマトリクスフィルムを貼るようにする。このフィルムにはガルバゾール及びその誘導体などから成る透過域変動高分子材料を使用するよい。例えば、この種の緑色のフィルムを通った特定の波長の光は、人間の目には緑一色に見えるが、流し撮りCCD装置のような特殊は撮像装置で特定の透過帯域の薄膜フィルタ37を通すと、この光を検出することができる(図9参照)。従って、光源画像を30〜50Hzで点滅させても、上述の光てんかん発作を防止することができる。
【0033】
続いて、受像機100の光源画像信号の挿入時の動作例を説明する。図3は光源画像信号SPiの発生例を示す波形図であり、図4はカラー映像信号SCに対する光源画像信号SPi、SPjの重畳例を示す波形図である。
【0034】
この例では、受像機100のCRT1’で表示される上下の5ラインの左右数画素を使用して光源画像LPiを表示する場合であって、カラー映像信号SCの1水平期間の両縁に光源画像信号SPi(i=1,3)、SPj(j=2,4)を重畳する場合を想定する。例えば、NTCS方式で走査線が525本の場合であって、飛越走査方式の場合に、奇数フレームの第1、第3及び第5ラインの左端部に光源画像LP1を表示し、同じラインの右端部に光源画像LP2を表示する。その第521、第523及び第525ラインの左端部に光源画像LP3を表示し、同じラインの右端部に光源画像LP4を表示する。
【0035】
また、偶数フレームのラインの第2及び第4ラインの左端部に光源画像LP1を表示し、同じラインの右端部に光源画像LP2を表示する。その第522及び第524ラインの左端部に光源画像LP3を表示し、同じラインの右端部に光源画像LP4を表示する。
【0036】
この前提条件の下に、上述の制御手段6では、1垂直期間の奇数フレームにおいて、第1、第3及び第5ラインに関して、走査処理回路95からの垂直同期信号SV及び水平同期信号SHに基づいて、数画素の表示に対応した時間間隔で光源画像信号SP1を選択した後に、その1水平期間の終了直前に光源画像信号SP2を選択する。この結果で、図4に示すカラー画像信号SCの1水平期間の左縁側に光源画像信号SP1を重畳することができ、その右縁側に光源画像信号SP2を重畳することができる。従って、図1に示す表示画面の左上端に光源画像LP1を表示することができ、その右上端に光源画像LP1を表示することができる。
【0037】
また、その奇数フレームの第521、第523及び第525ラインに関して、走査処理回路95からの垂直同期信号SV及び水平同期信号SHに基づいて、上述したように光源画像信号SP3を選択した後に光源画像信号SP4を選択する。この結果で、図4に示すカラー画像信号SCの1水平期間の左縁側に光源画像信号SP3を重畳することができ、その右縁側に光源画像信号SP4を重畳することができる。従って、図1に示す表示画面の左下端に光源画像LP3を表示することができ、その右下端に光源画像LP4を表示することができる。
【0038】
更に、1垂直期間の偶数フレームにおいて、第2及び第4ラインに関して、走査処理回路95からの垂直同期信号SV及び水平同期信号SHに基づいて、光源画像信号SP1を選択した後に光源画像信号SP2を選択するので、図4に示すカラー画像信号SCの1水平期間の左縁側に光源画像信号SP1を重畳することができ、その右縁側に光源画像信号SP2を重畳することができる。従って、図1に示す表示画面の左上端に光源画像LP1を表示することができ、その右上端に光源画像LP1を表示することができる。
【0039】
また、その偶数フレームの第522及び第524ラインに関して、走査処理回路95からの垂直同期信号SV及び水平同期信号SHに基づいて、光源画像信号SP3を選択した後に光源画像信号SP4を選択するので、図4に示すカラー画像信号SCの1水平期間の左縁側に光源画像信号SP3を重畳することができ、その右縁側に光源画像信号SP4を重畳することができる。従って、図1に示す表示画面の左下端に光源画像LP3を表示することができ、その右下端に光源画像LP4を表示することができる。
【0040】
このように、本実施の形態に係る受像機100によれば、CRT1’の表示画面内の四隅に表示された光源画像LPiが、制御手段6によってその点滅パターンを異ならせるように点滅制御されるので、その光源画像PL1〜4の位置を容易に特定することができる。
【0041】
従って、当該受像機100で、観察者の視聴する任意の受信画面上に予め光源画像PL1〜4を合成表示するようになされたときに、その受像機100に表示された光源画像PL1〜4を流し撮りCCDのような特殊撮影装置で所定の撮像方向に流すように撮像した場合に、その4つの光源画像PL1〜4を一律に点灯した場合に比べてその光源画像PL1〜4の位置を容易に特定することができる。
これにより、その光源画像PL1〜4の位置から当該受像機100の表示画面の位置を仮想画像立体合成装置などの画像処理系に容易に認識させることができる。
【0042】
(2)第1の実施形態
図5は第1の実施形態としての受像機の位置認識装置を応用した仮想画像立体合成装置200の構成例を示す斜視図である。この実施形態では、点滅パターンの異なる光源画像を受像機100の特定位置に表示し、その光源画像の位置から受像機100の位置を画像処理系に認識させて、観察者の視聴するTV画像に仮想体の画像を再現性良く立体的に合成できるようにしたものである。
【0043】
図5に示す仮想画像立体合成装置200は観察者の聴取するテレビ画像に、TV番組のキャラクタなどの仮想体画像を立体的に合成表示する装置である。この仮想画像立体合成装置200は基準面設定用の受像機100及び特殊グラストロン2を有している。この受像機100は例えば観察者が視聴できる位置であって、特殊グラストロン2の撮影範囲内に入るように配置される。この受像機100は仮想体の画像を合成しようとする基準面を提供するために、図1で説明したように画面内の四隅に予め光源画像LPiが表示される。
【0044】
この例では、3Dポリゴン10を飛び出せようとするTV画面の4つの点P1〜P4の座標として(x1,y1)、(x2,y2)、(x3,y3)、(x4,y4)が与えられる(仮想空間上では画像を合成しようとするTV画面の位置に相当する)。この4個の光源画像PL1〜4は、そのマーク部としての機能を発揮するために、つまり、受像機100で表示位置が明らかになるように、図3で説明したように点滅パターンが異なるように表示される。
【0045】
この光源画像PL1〜4は特殊グラストロン2内の流し撮りCCD装置23により、所定の流し撮像方向に流すように撮像される。この流し撮りは4個の光源画像PL1〜4の表示位置からTV画面を特定するためである。このTV画面の特定については図11及び図12で説明をする。
【0046】
この特殊グラストロン2の本体部21内には画像処理装置3が設けられ、流し撮りCCD装置23から出力された画像データに基づいて光源画像LPiを含んだTV画面などを認識する画像処理がなされる。この本体部21にはベルト22が取付けられ、眼鏡をかけるように本体部21が観察者の顔面に装着されると共に、その観察者の頭部外周部に沿ってベルト22が固定される。
【0047】
特殊グラストロン2には画像処理装置3の他に流し撮りCCD装置23及び表示手段24が設けられている。特殊グラストロン2の機種によっては通常のCCD撮像装置25が設けられる。この基準面設定用の受像機100に表示された4個の光源画像PLi、流し撮りCCD装置23及び画像処理装置3によって面認識手段が構成され、観察者の視聴する受像機100の表示画面を認識できるようになされている。この面認識手段には本発明に係る受像機100の位置認識装置(以下位置認識機構4という)が適用される。
【0048】
この位置認識機構4の主要部を成す流し撮りCCD装置23では、受像機100の画面内の四隅で、点滅パターンが異なるように表示された光源画像LPiを所定の撮像方向に流すように撮像される。ここで、流し撮りとは、流し撮りCCD装置23において、同一フィールド期間中に複数回、光電変換素子(フォトダイオードなど)から信号電荷を読み出す撮影モードをいう。
【0049】
この例で流し撮りCCD装置23として垂直転送部を有するインターライン転送方式の二次元撮像デバイスを使用した場合には、同一フィールド期間中に複数回、光電変換素子から垂直転送部に信号電荷が読み出される。また、流し撮りCCD装置23として電荷蓄積部を有するフレーム転送方式の二次元撮像デバイスを使用した場合には、同一フィールド期間中に複数回、光電変換素子から電荷蓄積部に信号電荷が読み出される。
【0050】
上述の画像処理装置3には表示手段24が接続され、位置認識機構4により認識されたTV画面が表示される。この特殊グラストロン2内には偏光ビームスプリッタなどの光学手段が設けられる場合があり、表示手段24によって表示された仮想空間のTV画面上で仮想体の画像が合成される。この例では、実空間上のTV画面の属する位置に、あたかも、仮想体としての3Dポリゴン(雪だるま)10が存在するようになされている。
【0051】
図6に示す特殊グラストロン2は非透過型のヘッドマウントディスプレイを構成しており、通常のCCD撮像装置25と、上述した流し撮りCCD装置23と、第1の画像表示素子としての右眼表示用の液晶表示装置(以下LCDという)26と、第2の画像表示素子としての左眼表示用のLCD27とを有している。
【0052】
つまり、観察者の眉間に相当する位置には、通常のCCD撮像装置25と、流し撮りCCD装置23とが並べて配置され、前者によって観察者の視聴する受像機100のテレビ画像が撮像され、後者によって受像機100の4個の光源画像PL1〜4が流し撮りされる。従って、観察者が基準面設定用の受像機100に目を向けると、そのTV画面の方向に流し撮りCCD装置23が向くようになる。
【0053】
そして、特殊グラストロン2内の観察者の右目に相対する位置にはLCD26が取付けられ、例えば、通常のCCD撮像装置25により撮影した観察者の受像機100による受信画像と、予め準備された映像ソフトによる3Dポリゴン10の画像とを合成したステレオ画像の一方が表示される。
【0054】
また、その観察者の左目に相対する位置にはLCD27が取付けられ、上述の受像機100と、3Dポリゴン10の画像と合成したステレオ画像の他方が表示される。この特殊グラストロン2は観察者の顔面又は頭部に装着され、上述のLCD26のステレオ画像と、LCD27のステレオ画像とが観察者の眼球に導くようになされている。これにより、観察者の属する背景像と3Dポリゴン10とは頭の中で合成される。
【0055】
図7に示す特殊グラストロン20は透過型のヘッドマウントディスプレイを構成しており、通常のCCD撮像装置25は搭載されていない。従って、透過型のヘッドマウントディスプレイは、流し撮りCCD装置23と、外界像取り込み用の液晶シャッタ28と、画像表示素子としてのLCD29を有している。
【0056】
例えば、観察者の眉間に相当する位置には、流し撮りCCD装置23が配置され、観察者が基準面設定用の受像機100に目を向けると、受像機100の4個の光源画像PL1〜4が流し撮りされる。そして、観察者の左目及び右目に相当する位置には液晶シャッタ28が設けられ、例えば、液晶シャッタ28が開かれると、その液晶シャッタ28を通過した観察者が視聴する受像機100の受信画像(実像)が直接眼球に導かれる。
【0057】
また、特殊グラストロン2内の観察者の左目又は右目の脇に位置する部分には、LCD29が取付けられ、上述の特殊グラストロン2と同様にしてキャラクタ画像が表示される。図示しないが、液晶シャッタ28と、LCD29との間には偏光ビームスプリッタなどの光学手段が設けられ、観察者の受像機100の実像と、3Dポリゴン10の画像とが観察者の眼球に導くようになされている。これにより、観察者の属する背景像と3Dポリゴン10とが頭の中で合成される。
【0058】
続いて、インターライン転送方式の流し撮りCCD装置23の内部構成について説明する。図8に示す流し撮りCCD装置23は基板31を有している。その基板31上には、1画素を構成する光電変換素子としてフォトダイオードPHij(i=1〜n、j=1〜m)がn列×m行のマトリクス状に配置されている。
【0059】
この基板の列方向には電荷転送部としてm本の垂直転送部32が設けられ、フォトダイオードPHijから読み出した信号電荷が垂直読み出し信号S1に基づいて垂直方向(流し撮り方向)に転送される。この垂直転送部32には水平転送部33が接続され、その信号電荷が水平読み出し信号S2に基づいて水平方向に転送されるので、出力端子34に流し撮り信号SOUTが出力される。この例では、流し撮りをするために、少なくとも、同一フィールド期間中に複数回、フォトダイオードPHijから垂直転送部32に信号電荷が読み出される。
【0060】
また、流し撮りCCD装置23は図9に示す魚眼レンズ35を有している。魚眼レンズ35は例えばCCD撮像素子36の光軸上に設けられる。この魚眼レンズ35によって、観察者が視聴する基準面設定用の受像機100などを広範囲に撮像できるようになされている。もちろん、通常のレンズでも構わないが、視野が狭くなるので、観察者は受像機100に向けてより多く頭部を傾けなければならない。
【0061】
この例では、魚眼レンズ35の前面に薄膜フィルタ37が取付けられ、CRT1’の表示画面の4つの光源画像PL1〜4から放出される特定波長Xの光が取り込まれ、CCD撮像素子36に導くようになされる。このフィルタ37はIRフィルタのようなものである。フィルタ37はTiO2膜又はSiO2膜を多層に積み上げた構造を有しており、その一層の厚みを制御することで、赤色、緑色、青色などを通す光透過帯域(透過率対波長)を自由に設定できるようになされている。
【0062】
実際のテレビではCRT1’の表面から微細ながら赤外線や紫外線が放出されている。この赤外線や紫外線によって光源画像PLiから放出される光の波長帯域が変動する。この例では、光源画像PLiが点滅される位置に、x,yマトリクスフィルムを貼って使用される。このx,yマトリクスフィルムには上述した透過域変動高分子材料が使用される。この材料は電圧及び電流が変化することで波長帯域が変動するものである。
【0063】
上述の流し撮りCCD装置23に薄膜フィルタを使用したり、CRT1’にx,yマトリクスフィルムを使用する場合には、CRT1’(又はLCD)の色調誤差と薄膜フィルタの製造バラツキによるフィルタ特性との色のキャリブレーションを行う必要がある。この合わせ込みには、例えば、光源画像PLiをデフォルト色で表示して、流し撮りCCD装置23で光源画像PLiによる光を受光できるか否かを検出する。
【0064】
その光源画像PLiによる光が受光できる場合には、そのデフォルト色による光を撮像し、この光源画像PLiによる光が受光できない場合には、そのデフォルト色を変更する。そして、変更した色の光を撮像し、その光源画像PLiによる光が受光できた場合には、その変更後の色による光を撮像するようにする。
【0065】
これにより、人間の目では認識できないような色差の可視光であって上述の特定の波長Xに近い波長の光で、流し撮りCCD装置に取り付けられた薄膜フィルタの透過帯域から外れた光を光源画像PLiから放出させることができる。観察者の光てんかん発作を防止できる。
【0066】
続いて、非透過型の特殊グラストロン2の回路構成について説明する。図10に示す特殊グラストロン2は上述した流し撮りCCD装置23、通常のCCD撮像装置25、右眼表示用のLCD26、左眼表示用のLCD27及び画像処理装置3を有している。
【0067】
この画像処理装置3は内部バス41を有している。内部バス41には内部インタフェース(I/O)42、画像キャプチャ部43、画像処理部44、CPU45、ROM46、RAM47、E2PROM(電気的な書き込み及び消去が可能な読み出し専用メモリ)48及び外部インタフェース49が接続されている。流し撮りCCD装置23、通常のCCD撮像装置25、右眼表示用のLCD26及び左眼表示用のLCD27は内部インタフェース42を介して内部バス41に接続される。
【0068】
この内部バス41には記録媒体としてE2PROM48が接続され、観察者の聴取するテレビ画像に3Dポリゴン10の画像を立体的に合成するアルゴリズムが格納されている。例えば、E2PROM48には、観察者の視聴する表示画面上で任意に設定されたTV画面を撮像して仮想空間上にそのTV画面を表示すると共に、その仮想空間上に3Dポリゴン10の画像を重ね合わせて合成するアルゴリズムが格納される。従って、このアルゴリズムを実行することによって、簡易に、しかも、少ない計算量で実空間上のTV画面を認識することができる。
【0069】
これにより、実空間上のTV画面の属する位置に、あたかも、3Dポリゴン10が存在するように画像処理することができるので、バーチャルキャラクタ育成ゲーム装置などの仮想画像立体合成装置200を再現性良く構成することができる。
【0070】
この例では、内部バス41に外部インタフェース49が接続されている。この外部インタフェース49には外部入力端子410が設けられ、RS−232C通信プロトコルによるビデオ信号やデジタル放送信号などが入力できるようになされている。この外部入力端子410の他には、他の機能装置、例えば、3D映像処理装置などに接続できる外部入力端子411が設けられ、E2PROM48などには格納されていない、例えば、TV放送時のキャラクタ画像を3D映像加工処理した後のステレオ画像が供給される。
【0071】
更に、内部バス41にはROM46が接続され、この仮想画像立体合成装置200を制御するためのシステムプログラムや、メモリの読み出し手順などの制御情報などが格納される。内部バス41にはワーキング用のRAM47が接続され、システムプログラムやキャラクタ画像を表示する表示情報が一時記録される。また、内部バス41にはCPU45が接続され、内部インタフェース42、画像キャプチャ部43、画像処理部44、ROM46、RAM47及びE2PROM48の入出力の制御や、流し撮りCCD装置23、CCD撮像装置25、LCD26及びLCD27の入出力の制御が行われる。
【0072】
この内部インタフェース42には演算手段として画像処理部44が接続され、例えば、図1に示したTV画面認識用の4つの光源画像PL1〜4を含む受像機100の受信画面が通常のCCD撮像装置25で撮像されると、この撮像装置25から得られた画像データが、CPU45の制御命令と共に内部インタフェース42を介して、画像処理部44に取り込まれる。この画像処理部44で所定の画像処理がなされ、再び、内部インタフェース42を介して特殊グラストロン2内のLCD26及びLCD27などに転送される。
【0073】
また、内部インタフェース42には画像キャプチャ部43が接続され、CPU45の制御命令を受けて、流し撮りCCD装置23から入力した4つの光源画像PL1〜4に係る点滅パターンの画像データを獲得する所定のキャプチャ処理がなされる。この点滅パターンの画像データは時間経過に対応する輝度の変化として表現されている。
【0074】
この画像キャプチャ部43には内部バス41を介して画像処理部44が接続され、所定の画像処理が施された画像データに関して、点滅パターンの同期ずれが補正されたり、観察者の視聴するTV画面が求められる。これにより、所定の撮像方向に流すように撮像された光源画像PL1〜4の点滅パターンに関して、その点滅パターンに係る輝度信号SOUTが画像処理部44で画像処理され、その光源画像PL1〜4の位置が求められるので、その光源画像PL1〜4の位置を容易に特定することができる。
【0075】
例えば、画像処理部44では流し撮りCCD装置23から出力された流し撮り信号(輝度信号)SOUTの点滅パターンに関して、図11に示すウインドウWにより画定された画像領域内で、4つの流し撮り輝点P1〜P4を含むXY平面を成す空間的な配置パターンに変換される。その後、その配置パターン上を走査して、少なくとも、4つの輝点P1〜P4の位置座標(X1,Y1)、(X2,Y2)、(X3,Y3)、(X4,Y4)が求められる。この4つの輝点P1〜P4は観察者が視聴する受像機100の基準面設定用の4つの光源画像PL1〜4である。実空間上の受像機100の4つの光源画像PL1〜4の位置座標は既知であり、その位置座標は(x1,y1)、(x2,y2)、(x3,y3)、(x4,y4)である。
【0076】
従って、上述の実空間上のTV画面は4つの光源画像PL1〜4の取付け位置に射影する変換行列を演算することにより得られる。ここで実空間の平面上の点(xi,yi,0)をある並進・回転運動によって移動し、それを透視変換で画像座標系に射影した点を(Xi,Yi)で示すと、両者の間には(1)式なる関係がある。
【0077】
【数1】
【0078】
但し、a1・・・・a8は未知の係数でCCD撮像装置25などの外部パラメータ(位置と方向)及び焦点距離などの内部パラメータである。これらのパラメータは実空間の既知の点の位置座標(x1,y1)、(x2,y2)、(x3,y3)、(x4,y4)と、それらに対応する4組の画像処理系の位置座標(X1,Y1)、(Y2,Y2)、(X3,Y3)、(X4,Y4)が存在すれば、(2)式の方程式を解くことにより得られる。
【0079】
【数2】
【0080】
ここで得られた4点の位置座標(X1,Y1)、(X2,Y2)、(X3,Y3)、(X4,Y4)を結ぶことにより、図11に示した実空間上のTV画面が認識される。
【0081】
具体的には、図12に示す配置パターン上で流し撮像方向をY軸とし、そのY軸に直交する方向をX軸としたときに、画像処理部44によって流し撮像方向と同一方向又はその反対方向に輝度信号値が加算される。この加算値がX軸上にプロットされると、そのX軸にプロットされた輝度信号値が最大となる4つの位置が検出され、この4つの位置に対応するX座標値X1、X2、X3、X4が求められる。また、その配置パターン上で取得画像をY方向に走査したときに、そのY方向に並んだ複数の輝点のうち、最初に発光した輝点位置が各々X座標値に対応したY座標値Y1、Y2、Y3、Y4として求められる。
【0082】
ここで、実空間上の4つの光源画像PL1〜4の位置座標をwi(i=1〜4)とし、その4つの光源画像PL1〜4の位置座標wiのカメラ座標系上での表現ベクトルをCiとし、その4つの光源画像PL1〜4のLCD画面上での位置座標をPiとし、流し撮りCCD装置23の回転マトリクスをR、その移動ベクトルをTとすると、(3)式、すなわち、
Ci=R・wi+T ・・・(3)
但し、Ci=Pi・ki(kiはスカラー)
という関係がある。従って、通常のCCD撮像装置25の回転マトリクスRとその移動ベクトルTとを演算し、これをパラメータとして実空間と仮想空間との間で座標変換を容易に行うことができるので、仮想空間上のTV画面にキャラクタ画像を合成することができる。
【0083】
次に、本発明に係る受像機100の第1の位置認識方法に関して仮想画像立体合成装置200の動作を説明する。この例では、観察者の聴取する受像機100のテレビ画像(3Dポリゴンの二次元画像表示)に3Dポリゴン10の画像を立体的に合成する場合であって、その受像機100の表示画面内に4つの光源画像PL1〜4が所定の点滅パターンで表示されている場合を想定する。
【0084】
例えば、観察者は図6に示した特殊グラストロン2を頭部に装着する。そして、図13に示すフローチャートのステップA1で観察者は受像機100をオンし、特殊グラストロン2の流し撮りCCD装置23を受像機100の表示画面に向けることで、3Dポリゴン10の画像を合成しようとする基準面(TV画面)が設定される。
【0085】
次に、ステップA2において、一方で通常のCCD撮像装置25を使用して実空間上のTV画面を撮影してLCD26及びLCD27にステレオ画像を表示する。他方で、流し撮りCCD装置23を使用して実空間上のTV画面を流し撮りする。例えば、3Dポリゴン10の画像を合成させようとするTV画面の四隅に表示された4つの光源画像PL1〜4が、点滅パターンを異ならせるように表示されているので、その点滅パターンが所定の撮像方向に流すように撮像される。
【0086】
その後、ステップA3で観察者の視聴する受像機100のTV画面を認識するために画像処理する。画像処理部44では、例えば、図14に示すサブルーチンをコールしてステップB1でビデオキャプチャ処理を実行する。その後、ステップB2で受像機100の四隅の光源画像PL1〜4を認識する。具体的には、流し撮りCCD装置23で撮像された4つの光源画像PL1〜4による輝度信号の点滅パターンが、4つの輝点P1〜P4を含むXY平面を成す空間的な配置パターンに変換される。
【0087】
その後、その配置パターン上を走査して、少なくとも、4つの輝点P1〜P4の位置座標(X1,Y1)、(X2,Y2)、(X3,Y3)、(X4,Y4)が求められ、上述した(1)式及び(2)式が演算され、実空間上の4つの光源画像PL1〜4の取付け位置と、画像処理系の4点の位置座標(X1,Y1)、(X2,Y2)、(X3,Y3)、(X4,Y4)との関係が求められ、この4点を結ぶことによりTV画面の位置が求められる。そして、ステップB3で画像処理部44では上述の(3)式に基づいて演算処理が行われ、流し撮りCCD装置23とTV画面との位置関係が検出される。
【0088】
その後、図13に示すメインルーチンのステップA4にリターンして仮想空間のTV画面上に3Dポリゴン10の画像を重ね合わせて合成する。このとき、観察者が装着した特殊グラストロン2では、LCD26による受像機100の受信画像と3Dポリゴン10の画像とを合成したステレオ画像の一方が観察者の右の眼球に導くようになされる。LCD27による受像機100の受信画像と3Dポリゴン10の画像とを合成したステレオ画像の他方が観察者の左の眼球に導くようになされる。
【0089】
従って、図15に示す観察者30の視聴する受像機100の受信画面上では3Dポリゴン10’の二次元画像が表示されているだけであるのに、図16に示す仮想空間ではその受信画面から外部へ3Dポリゴン10を出現させることができる。この例では、雪だるまの3Dポリゴン10の他に、雪の3Dポリゴン10Aなども観察者30に降り注ぐようになされる。
【0090】
つまり、観察者30の視聴する受像機100の受信画像と、仮想空間上に出現した雪だるまなどの3Dポリゴン10が頭の中で合成されるので、実空間上のTV画面の中に二次元表示されている雪だるまが、3Dポリゴン10の雪だるまとなって画面外へ、あたかも、飛び出すような画像を立体的に合成することができる。
【0091】
このように、本実施形態としての受像機100の位置認識方法を応用した仮想画像立体合成装置200によれば、観察者の聴取するテレビ画像に3Dポリゴン10の画像を立体的に合成する際に、4つの光源画像PL1〜4による点滅パターンを位置認識機構4により流し撮りすることによって、観察者の視聴する受像機100のTV画面を容易に、しかも、少ない計算量で画像処理装置3に認識させることができる。
【0092】
従って、観察者の視聴する受像機100のTV画面上に、あたかも、TV番組のキャラクタなどを飛び出させ、観察者の手のひらで遊ばせるような「飛び出すテレビシステム」や、「バーチャルキャラクタ育成ゲーム装置」などの立体画像システムを再現性よく構成することができる。これと共に、これらの立体画像システムのコストダウンを図ることができる。
【0093】
また、光源画像PL1〜4の発光位置にx,yマトリクスフィルムを取り付けることにより、通常のTV映像に関する情報とは別に、光源画像PL1〜4の点滅パターンを制御することができる。
【0094】
(3)第2の実施形態
図17は第2の実施形態の仮想画像立体合成装置で使用する受像機300の構成例を示す正面図である。この実施形態では、4つの光源画像PL1〜4に代わって、図17に示す二次元バーコード画像50を表示手段1に表示して受像機300のTV画面の位置が認識されるものである。もちろん、観察者は図6又は図7に示した特殊グラストロン2又は20を装着することが前提となる。
【0095】
この例の受像機300は飛越走査方式で、1フレーム(1/30sec)毎に、図17に示す2次元マトリクスコード画像50を表示するものである。この2次元マトリクスコード画像50は実空間上の受像機100のTV画面の位置を認識するために使用される。2次元バーコード画像50は少なくとも、白地に黒で表示されたn行×m列の白黒マトリクスから成る。
【0096】
この二次元バーコード画像50は流し撮りCCD装置23に代わって図6に示した通常のCCD撮像装置25で撮像される。この撮像装置25の出力段には、図10で説明したような画像処理装置3が接続される。その画像処理装置3には演算手段が設けられ、CCD撮像装置25から出力された撮像信号(輝度信号)を画像処理して二次元マトリクスコード画像50から受像機300のTV画面の位置が求められる。
【0097】
例えば、画像処理部44では前処理が施される。この処理では、まず、取得画像が適当な閾値で2値化される。バーコード画像部分は白と黒の市松模様状に表示されているので、固定閾値によって、かなり安定的に背景画像とコード画像領域とを分離することができる。次に、黒ピクセルの連結領域毎にラベル付けが施される。2次元バーコード画像50はラベル付けされた連結領域のいずれかに含まれることとなる。従って、連結領域の外接四角形の大きさと縦横比を考慮して、コード画像領域部が含まれている可能性の低い背景画像(領域)は除去するようになされる。
【0098】
その後、前処理の結果得られた連結領域の各要素に対してバーコード画像枠の当てはめを行う。例えば、外接四角形の各辺から内側に向かって、市松模様の領域を探索し、その市松模様の輪郭部の点列を得る。この点列に対して最小二乗法で線分を当てはめることにより、当該二次元バーコード画像50を認識する。
【0099】
上述のTV画面は長方形の二次元バーコード画像50の四隅の4頂点を、正方形の頂点に射影する変換行列を演算することにより得られる。ここで実空間の受像機300の表示画面上の点(xi,yi,0)をある並進・回転運動によって移動し、それを透視変換で画像座標系に射影した点を(Xi,Yi)で示すと、両者の間には第1の実施形態で説明した(1)式と同様な関係がある。
【0100】
従って、これらのパラメータは実空間の既知の点の位置座標(x1,y1)、(x2,y2)、(x3,y3)、(x4,y4)と、それらに対応する4組の画像処理系の位置座標(X1,Y1)、(Y2,Y2)、(X3,Y3)、(X4,Y4)が存在すれば、先に説明した(2)式の方程式を解くことにより得られる。
【0101】
ここで得られた位置座標(x1,y1)、(x2,y2)、(x3,y3)、(x4,y4)に関して、一辺の長さを「1」とする正方形の4頂点とすると、この4頂点を結ぶ面が実空間上の受像機300のTV画面の位置となる。これにより、二次元マトリクスコード画像50の四隅の位置情報から受像機300の位置を画像処理装置3などに容易に認識させることができる(第2の位置認識方法)。
【0102】
なお、受像機300の二次元バーコード画像50はCCD撮像装置25の姿勢や、透視投影によって歪んでいるが、外部パラメータ及び内部パラメータによって、画面上の矩形頂点を正方形の各頂点に射影することができる。従って、図18に示す仮想空間上の二次元バーコード画像50の四隅の位置座標から正立方体51を作成することができるので、その正立方体51に3Dポリゴン10などを合成することができる(第2の仮想画像立体合成装置)。
【0103】
このように、本実施形態としての受像機300によれば、CRT1’の表示画面内に表示された二次元バーコード画像50が通常の撮像装置25で撮像されるので、観察者の聴取するテレビ画像に3Dポリゴン10の画像を立体的に合成する際に、二次元バーコード画像50を通常撮影することによっても、第1の実施形態と同様に観察者の視聴する受像機300のTV画面の位置を容易に、しかも、少ない計算量で認識することができる。
【0104】
従って、第1の実施形態と同様に観察者の属する実空間上のTV画面の属する位置に、あたかも、TV番組のキャラクタなどを飛び出させ、観察者の手のひらで遊ばせるような「飛び出すテレビシステム」や、「バーチャルキャラクタ育成ゲーム装置」などの立体画像システムを再現性よく構築することができる。
【0105】
この実施形態では、受像機300の画面全体に二次元バーコード画像50を表示する場合について説明したが、これに限られることはなく、その表示画面内の任意の位置であって、輪郭部が最初から正方形に形成されたn×n列の市松模様状の二次元バーコード画像を1フレーム毎に表示するようにしてもよい。
【0106】
この実施形態では、受像機100及び受像機300上に雪だるまの3Dポリゴン10を出現させる場合について説明したが、これに限られることはなく、台座ポリゴンや、光、炎、あるいは、氷のポリゴンであっても、更に、鎧のようなポリゴンを出現させる場合であってもよい。
【0107】
また、図17に示す二次元バーコード画像50をx,yマトリクスフィルムで出力すると、通常のTV映像に関する情報とは別に画像処理することができる。
【0108】
(4)飛び出すテレビシステムの構成例
図19A〜図19Cは各実施形態の仮想画像立体合成装置が適用される「飛び出すテレビシステム」の構成例を示すブロック図である。このシステムはTV放送画像に基づいてステレオ画像を作成し、特殊グラストロン2に出力するものである。
【0109】
図19Aに示す第1の飛び出すテレビシステム401では受像機100に3D映像処理装置70が接続され、TV放送局から受信した映像を受像機100で表示すると共に、受像機100で表示された画像と同じ画像に関する映像信号Dinが3D映像処理装置70に出力される。
【0110】
この3D映像処理装置70では、その受像機100から飛び出させようとする3Dポリゴンなどのキャラクタ映像に関して、特殊グラストロン2の右眼及び左眼表示用のLCDに供給するためのステレオ画像が映像信号Dinに基づいて生成される。この例では、3D映像処理装置70と特殊グラストロン2とは、RSー232通信プロトコルに基づく通信線で接続して使用される。これにより、通常のCCD撮像装置により撮影した受像機100による受信画像と、3D映像処理装置70による3Dポリゴンなどのキャラクタ画像とを特殊グラストロン2によって合成することができる。
【0111】
図19Bに示す第2の飛び出すテレビシステム402では、受像機100に接続された3D映像処理装置70に赤外線送信部71が設けられ、その受像機100から飛び出させようとする3Dポリゴンなどのステレオ画像が、赤外線によって、特殊グラストロン2に伝送するようになされている。従って、この特殊グラストロン2には赤外線受信部72が設けられ、3D映像処理装置70からのステレオ画像が受信される。
【0112】
これにより、第1の飛び出すテレビシステム401と同様にして受像機100による受信画像と、3D映像処理装置70による3Dキャラクタ画像とを特殊グラストロン2によって合成することができる。これに加えて、煩わしい通信線などが不要となる。
【0113】
図19Cに示す第3の飛び出すテレビシステム403では、受像機100に接続された3D映像処理装置70に無線送信部73が設けられ、その受像機100から飛び出させようとする3Dポリゴンなどのステレオ画像が、無線電波によって、特殊グラストロン2に伝送するようになされている。従って、無線送信部73にはアンテナ74が取付けられ、特殊グラストロン2には受信アンテナ75及び無線受信部76が設けられ、3D映像処理装置70からのステレオ画像が受信される。
【0114】
これにより、第1及び第2の飛び出すテレビシステム401、402と同様にして受像機100による受信画像と、3D映像処理装置70による3Dキャラクタ画像とを特殊グラストロン2によって合成することができる。これに加えて、第2の飛び出すテレビシステム402と同様にして煩わしい通信線などが不要となる。
【0115】
(5)飛び出すテレビシステムの他の構成例
図20A〜図20Cは各実施形態の仮想画像立体合成装置が適用される「飛び出すテレビシステム」の他の構成例を示すブロック図である。このシステムは各種の映像ソフトを受像機100に出力すると共に、この映像ソフトに基づいてステレオ画像を作成し、特殊グラストロン2に出力するものである。
【0116】
図20Aに示す第1の飛び出すテレビシステム501では受像機100に映像再生装置400が接続され、アニメーション映画、戦闘映画などの各種の映像ソフトを記録したCD−ROMが再生される。映像再生装置400にはプレイ・ステーション(ソニー(株):商標名)などを使用する。この映像再生装置400から受像機100へ再生情報Din1が出力されて戦闘映画などが表示される。
【0117】
また、映像再生装置400には3D映像処理装置80が接続され、受像機100で表示されている戦闘映画と同じ再生情報(信号形式が異なる場合がある)Din2を得て、その受像機100から飛び出させようとする戦闘機などの3D映像に関して、特殊グラストロン2の右眼及び左眼表示用のLCDに供給するためのステレオ画像が生成される。
【0118】
この例では、3D映像処理装置80と特殊グラストロン2とは、上述した飛び出すテレビシステム401と同様にして、RS−232通信プロトコルに基づく通信線で接続して使用される。これにより、通常のCCD撮像装置により撮影した受像機100による戦闘画像と、3D映像処理装置80による戦闘機の3D画像とを特殊グラストロン2によって合成することができる。これにより、仮想空間上で、あたかも、戦闘機が観察者に襲いかかるような映像効果を得ることができる。
【0119】
図20Bに示す第2の飛び出すテレビシステム502では、映像再生装置400に接続された3D映像処理装置80に赤外線送信部81が設けられ、その受像機100から飛び出させようとする戦闘機の3D映像などのステレオ画像が、上述した飛び出すテレビシステム402と同様にして赤外線によって、特殊グラストロン2に伝送するようになされている。従って、この特殊グラストロン2には赤外線受信部82が設けられ、3D映像処理装置80からのステレオ画像が受信される。
【0120】
これにより、第1の飛び出すテレビシステム501と同様にして受像機100による戦闘画像と、3D映像処理装置80による戦闘機の3D画像とを特殊グラストロン2によって合成することができる。これに加えて、煩わしい通信線などが不要となる。
【0121】
図20Cに示す第3の飛び出すテレビシステム503では、映像再生装置400に接続された3D映像処理装置80に無線送信部83が設けられ、その受像機100から飛び出させようとする戦闘機などの3D画像のステレオ画像が、無線電波によって、特殊グラストロン2に伝送するようになされている。従って、無線送信部83にはアンテナ84が取付けられ、特殊グラストロン2には受信アンテナ85及び無線受信部86が設けられ、3D映像処理装置80からのステレオ画像が受信される。
【0122】
これにより、第1及び第2の飛び出すテレビシステム501、502と同様にして受像機100による戦闘画像と、3D映像処理装置80による戦闘機の3D画像とを特殊グラストロン2によって合成することができる。これに加えて、第2の飛び出すテレビシステム502と同様にして煩わしい通信線などが不要となる。
【0123】
なお、各実施形態では非透過型の特殊グラストロン2又は透過型の特殊グラストロン20を使用する場合について説明したが、これに限られることはなく、透過型と非透過型を切換え可能な兼用タイプの特殊グラストロンを用いても、もちろん構わない。
【0124】
また、各実施形態では、単に3Dポリゴン10又は戦闘機の3D映像をTV画面上に仮想的に飛び出させる場合について説明したが、これに限られることはなく、特殊グラストロン2、又は、特殊グラストロン20にスピーカーを取り付け、3Dポリゴン10又は戦闘機がTV画面上に飛び出すときに擬声音などを鳴らしたり、その後、3Dポリゴン10又は戦闘機の搭乗員が何かを喋るようにしてもよい。
【0125】
この実施形態の仮想画像立体合成装置200は、特開平10−123453号、特開平9−304727号、特開平9−304730号、特開平9−211374号、特開平8−160348号、特開平8−94960号、特開平7−325265号、特開平7−270714号及び特開平7−67055号に記載される透過型のヘッドマウントディスプレイに適用することができる。
【0126】
この実施形態では流し撮りCCD23に関してインターライン転送方式の二次元撮像デバイスを使用する場合について説明したが、これに限られることはなく、フレーム転送方式の二次元撮像デバイスを使用する場合であっても同様な効果が得られる。
【0127】
【発明の効果】
以上説明したように、本発明に係る受像機によれば、当該画面内の特定の位置に表示された3点以上の光源画像を点滅表示制御する制御手段が設けられるものである。
【0128】
この構成によって、流し撮りCCDのような特殊撮影装置で当該画面を撮像した場合に、複数の光源画像の点灯パターンを同一にした場合に比べてその光源画像の位置を容易に特定することができる。従って、その光源画像の位置から当該受像機の位置を画像処理系に容易に認識させることができる。
【0129】
本発明の受像機の位置認識装置によれば、所定の撮像方向に流すように撮像された光源画像の点滅パターンに関して、その点滅パターンに係る輝度情報を画像処理して光源画像の位置を求める演算手段が設けられるものである。
【0130】
この構成によって、その光源画像の位置を容易に特定することができるので、その光源画像の位置から受像機の位置を画像処理系で容易に認識することができる。
【0131】
本発明の受像機の第1の位置認識方法によれば、点滅パターンの異なった光源画像を所定の撮像方向に流すように撮像した後に、その光源画像の輝度情報を画像処理して光源画像の各々の位置情報を求めるものである。
【0132】
この構成によって、光源画像の位置を容易に特定することができるので、その光源画像の位置から受像機の位置を画像処理系で容易に認識することができる。従って、受像機を精度良く認識することができるので、この位置認識方法を仮想画像立体合成装置の面認識手段などに十分に応用することができる。
【0133】
本発明の受像機の第2の位置認識方法によれば、受像機の任意の表示画像の特定の表示期間内に表示された二次元マトリクスコード画像を撮像した後に、その二次元マトリクスコード画像の輝度情報を画像処理してその二次元マトリクスコード画像の四隅の位置情報を求めるものである。
【0134】
この構成によって、二次元マトリクスコード画像の四隅の位置情報から受像機の位置を画像処理系に容易に認識させることできる。従って、受像機を精度良く認識することができるので、この位置認識方法を仮想画像立体合成装置の面認識手段などに十分に応用することができる。
【0135】
本発明の第1の仮想画像立体合成装置によれば、本発明に係る第1の位置認識方法が応用されるので、当該受像機に表示された光源画像の位置を容易に特定することができる。従って、この光源画像の位置から受像機の位置を画像処理系に容易に認識させることができる。これにより、受像機の表示画面を精度良く認識させることができるので、観察者の視聴するTV画像に仮想体の画像を再現性良く立体的に合成することができる。
【0136】
本発明の第2の仮想画像立体合成装置によれば、本発明に係る第2の位置認識方法が応用されるので、当該受像機に表示された二次元マトリクスコード画像の四隅の位置情報を容易に取得することができる。従って、この二次元マトリクスコード画像の四隅の位置情報から受像機の位置を画像処理系に容易に認識させることができる。これにより、受像機の表示画面を精度良く認識させることができるので、第1の仮想画像立体合成装置と同様にして観察者の視聴するTV画像に仮想体の画像を再現性良く立体的に合成することができる。
【0137】
この発明は、TV番組のキャラクタを仮想空間上に飛び出させる、いわゆる「飛び出すテレビ」などに適用して極めて好適である。
【図面の簡単な説明】
【図1】本発明に係る実施形態としての受像機100の構成例を示す正面図である。
【図2】その受像機100の内部構成例を示すブロック図である。
【図3】その制御手段6で発生する光源画像信号SP1〜4の波形例を示すイメージ図である。
【図4】映像信号SCに対する光源画像信号SPi、SPjの重畳例を示す波形図である。
【図5】第1の実施形態としての受像機の位置認識装置を応用した仮想画像立体合成装置200の構成例を示す斜視図である。
【図6】仮想画像立体合成装置200で使用する特殊グラストロン2の構成例を示す正面から見た概念図である。
【図7】仮想画像立体合成装置200で使用する他の特殊グラストロン20の構成例を示す正面から見た概念図である。
【図8】その特殊グラストロン2の流し撮りCCD装置23の内部構成例を示す平面図である。
【図9】その流し撮りCCD装置23の光学系の構成例を示す断面図である。
【図10】その特殊グラストロン2の内部構成例を示すブロック図である。
【図11】その受像機100のTV画面の通常画像例を示すイメージ図である。
【図12】その受像機100のTV画面の位置座標の算出例を示す模式図である。
【図13】仮想画像立体合成装置200の動作例(その1)を示すメインルーチンのフローチャートである。
【図14】仮想画像立体合成装置200の動作例(その2)を示すサブルーチンのフローチャートである。
【図15】実空間上の受像機100を視聴する観察者(特殊グラストロン2の非装着時)30の実像例を示すイメージ図である。
【図16】仮想空間上の受像機100を視聴する観察者(特殊グラストロン2の装着時)30の仮想画像例を示すイメージ図である。
【図17】第2の実施形態で使用する受像機300の2次元バーコード画像50の一例を示す正面図である。
【図18】その2次元バーコード画像50上の3Dポリゴン10の合成例を示す斜視図である。
【図19】Aは飛び出すテレビシステム401の構成例、Bは飛び出すテレビシステム402の構成例、Cは飛び出すテレビシステム403の構成例を各々示すブロック図である。
【図20】Aは飛び出す他のテレビシステム501の構成例、Bは飛び出す他のテレビシステム502の構成例、Cは飛び出す他のテレビシステム503の構成例を各々示すブロック図である。
【符号の説明】
1,24・・・表示手段、2,20・・・特殊グラストロン(合成手段)、3・・・画像処理装置、4・・・位置認識機構(面認識手段)、6・・・制御手段、9・・・画像処理手段、10・・・3Dポリゴン、23・・・流し撮りCCD装置(撮像手段)、25・・・CCD撮像装置、26・・・右眼表示用のLCD(第1の画像表示素子)、27・・・左眼表示用のLCD(第2の画像表示素子)、32・・・垂直転送部(電荷転送部)、33・・・水平転送部、44・・・画像処理部(演算手段)、50・・・2次元バーコード画像、80・・・3D映像処理装置、100,300・・・受像機、200・・仮想画像立体表示装置、400・・・映像再生装置、401〜403,501〜503・・・飛び出すテレビシステム
Claims (20)
- 撮像可能な任意の画面内の特定の位置に、少なくとも、3点以上の光源画像を表示する表示手段と、
前記表示手段に表示された光源画像を各々点滅パターンが異なるように点滅制御する制御手段とを備える受像機。 - 前記表示手段が設けられる場合であって、
前記表示手段に表示された任意の受信画面上に前記光源画像を合成表示する画像処理手段が設けられる請求項1に記載の受像機。 - 前記表示手段に光源画像を表示する場合であって、
前記光源画像の表示部分の画面上に任意の透過特性のフィルムが取付けられ、
前記光源画像から放出される光の特定の波長を通すようになされた請求項1に記載の受像機。 - 各画素を構成する複数の光電変換素子を有した二次元撮像デバイスが使用され、前記光電変換素子から得られた信号電荷を所定の方向に転送するとき、少なくとも、同一フィールド期間中に複数回、前記光電変換素子から前記信号電荷を読み出す撮影モードを流し撮りとしたとき、
点滅パターンが異なる複数の光源画像を画面内の特定の位置に表示した受像機を前記流し撮りする撮像手段と、
前記撮像手段による前記光源画像の輝度信号を画像処理して前記光源画像の各々の位置を求める演算手段とを備え、
前記受像機の位置を認識する受像機の位置認識装置。 - 前記受像機の画面を撮像する撮像手段が設けられる場合であって、
前記撮像手段は、
前記受像機の任意の受信画面上に前記光源画像を合成表示するようになされたときに、
前記受像機に表示された前記光源画像を流し撮りする請求項4に記載の受像機の位置認識装置。 - 前記撮像手段及び演算手段が設けられる場合であって、
前記演算手段は、
前記撮像手段による輝度信号の点滅パターンに関して、複数の輝点を含むXY平面を成す空間的な配置パターンに変換し、
前記配置パターン上を走査して、少なくとも、複数の位置座標を求めるようになされた請求項4に記載の受像機の位置認識装置。 - 前記演算手段は、
複数の輝点を含むXY平面を成す配置パターン上で流し撮像方向をY軸とし、該Y軸に直交する軸をX軸としたときに、
前記流し撮像方向に輝度信号値を加算してX軸上にプロットし、
前記X軸上にプロットされた輝度信号値が最大となる位置を検出して複数のX座標値を求め、かつ、
前記配置パターン上でY軸方向に走査したときに、
前記流し撮像方向に並んだ複数の輝点のうち、最初に発光した輝点位置を各々X座標値に対応したY座標値として求める請求項4に記載の受像機の位置認識装置。 - 前記光源画像を撮像する撮像手段が設けられる場合であって、
前記撮像手段の受光面側に任意の透過特性の薄膜フィルタが取付けられ、
前記光源画像から放出された光を前記薄膜フィルタを通して撮像するようになされた請求項4に記載の受像機の位置認識装置。 - 撮像可能な任意の画面内の特定の位置に点滅パターンが異なる3点以上の光源画像を表示し、
前記点滅パターンの異なった光源画像を所定の撮像方向に流すように撮像し、
撮像された前記光源画像の輝度情報を画像処理して前記光源画像の各々の位置情報を求める受像機の位置認識方法。 - 受像機の表示画面内に、少なくとも、白地に黒で表示されたn行×n列の白黒マトリクスから成る2次元マトリクスコード画像を表示し、
前記二次元マトリクスコード画像を撮像し、
撮像された前記二次元マトリクスコード画像による輝度信号を画像処理して前記二次元マトリクスコード画像の四隅の位置情報を求める受像機の位置認識方法。 - 各画素を構成する複数の光電変換素子を有した二次元撮像デバイスが使用され、前記光電変換素子から得られた信号電荷を所定の方向に転送するとき、少なくとも、同一フィールド期間中に複数回、前記光電変換素子から前記信号電荷を読み出す撮影モードを流し撮りとしたとき、
観察者の視聴する受像機の表示画面上で任意の基準面を認識する面認識手段と、
前記面認識手段により認識された仮想空間の基準面上に仮想体の画像を合成する合成手段とを備え、
前記面認識手段は、
点滅パターンが異なるように点滅する3点以上の光源画像を画面内の特定の位置に表示した受像機であって、仮想体の画像を合成しようとする受像機を前記流し撮りする撮像手段と、
前記撮像手段による光源画像の点滅パターンの輝度信号を画像処理して前記光源画像の3点の位置を求め、その後、前記3点の光源画像の位置を結んで基準面を求める演算手段とを有し、
観察者の視聴するTV画像に仮想体の画像を立体的に合成する仮想画像立体合成装置。 - 前記合成手段は、
観察者の視聴する受像機のTV画像を撮像する撮像手段と、
前記撮像手段によるTV画像と予め準備された仮想体の画像と合成した右眼表示用のステレオ画像を表示する第1の画像表示素子と、
前記撮像手段によるTV画像と予め準備された仮想体の画像と合成した左眼表示用のステレオ画像を表示する第2の画像表示素子とを有したヘッドマウントディスプレイであり、
前記ヘッドマウントディスプレイは、観察者の顔面又は頭部に装着され、
前記第1の画像表示素子による右眼表示用のステレオ画像と、前記第2の画像表示素子による左眼表示用のステレオ画像とを重ね合わせて観察者の眼球に導くようになされた請求項11に記載の仮想画像立体合成装置。 - 前記合成手段は、
観察者の視聴する受像機のTV画像を取り込むために入射光の開閉をする液晶シャッタと、
前記外界像に合成するための仮想体の画像を表示する画像表示素子と、
前記画像表示素子による仮想体の画像と、前記液晶シャッタを通過した前記受像機のTV画像とをその観察者の眼球に導く光学手段とを有したヘッドマウントディスプレイであり、
前記ヘッドマウントディスプレイは、観察者の顔面又は頭部に装着され、
前記液晶シャッタを開いたときは、
前記液晶シャッタを通過した前記受像機のTV画像に、前記画像表示素子による仮想体の画像を重ね合わせて観察者の眼球に導くようになされた請求項11に記載の仮想画像立体合成装置。 - 前記受像機及び合成手段が設けられる場合であって、
前記受像機で受信した映像に基づいてステレオ画像を発生する3D映像処理装置が設けられ、
前記受像機から外部へ仮想的に飛び出させるためのステレオ画像が前記3D映像処理装置から前記合成手段へ出力するようになされた請求項11に記載の仮想画像立体合成装置。 - 前記受像機、合成手段が設けられる場合であって、
各種映像情報を再生する映像再生装置と、
前記映像再生装置による再生映像情報に基づいて前記受像機から外部へ仮想的に飛び出させるためのステレオ画像を発生する3D映像処理装置が設けられ、
前記3D映像処理装置から合成手段へ前記ステレオ画像を出力するようになされた請求項11に記載の仮想画像立体合成装置。 - 観察者の視聴する受像機の表示画面上で任意の基準面を認識する面認識手段と、
前記面認識手段により認識された仮想空間の基準面上に仮想体の画像を合成する合成手段とを備え、
前記面認識手段は、
前記仮想体の画像を合成しようとする受像機の表示画面内に表示される、白地に黒で表示されたn行×n列の白黒マトリクスから成る二次元マトリクスコード画像を撮像する撮像手段と、
前記撮像手段により撮像された二次元マトリクスコード画像の輝度信号を画像処理して前記二次元マトリクスコード画像の四隅の位置情報を求める演算手段を有し、
観察者の視聴するTV画像に仮想体の画像を立体的に合成する仮想画像立体合成装置。 - 前記合成手段は、
観察者の視聴する受像機のTV画像を撮像する撮像手段と、
前記撮像手段によるTV画像と予め準備された仮想体の画像と合成した右眼表示用のステレオ画像を表示する第1の画像表示素子と、
前記撮像手段によるTV画像と予め準備された仮想体の画像と合成した左眼表示用のステレオ画像を表示する第2の画像表示素子とを有したヘッドマウントディスプレイであり、
前記ヘッドマウントディスプレイは、観察者の顔面又は頭部に装着され、
前記第1の画像表示素子による右眼表示用のステレオ画像と、前記第2の画像表示素子による左眼表示用のステレオ画像とを重ね合わせて観察者の眼球に導くようになされた請求項16に記載の仮想画像立体合成装置。 - 前記合成手段は、
観察者の視聴する受像機のTV画像を取り込むために入射光の開閉をする液晶シャッタと、
前記外界像に合成するための仮想体の画像を表示する画像表示素子と、
前記画像表示素子による仮想体の画像と、前記液晶シャッタを通過した前記受像機のTV画像とをその観察者の眼球に導く光学手段とを有したヘッドマウントディスプレイであり、
前記ヘッドマウントディスプレイは、観察者の顔面又は頭部に装着され、
前記液晶シャッタを開いたときは、
前記液晶シャッタを通過した前記受像機のTV画像に、前記画像表示素子による仮想体の画像を重ね合わせて観察者の眼球に導くようになされた請求項16に記載の仮想画像立体合成装置。 - 前記受像機及び合成手段が設けられる場合であって、
前記受像機で受信した映像に基づいてステレオ画像を発生する3D映像処理装置が設けられ、
前記受像機から外部へ仮想的に飛び出させるためのステレオ画像が前記3D映像処理装置から前記合成手段へ出力するようになされた請求項16に記載の仮想画像立体合成装置。 - 前記受像機、合成手段が設けられる場合であって、
各種映像情報を再生する映像再生装置と、
前記映像再生装置による再生映像情報に基づいて前記受像機から外部へ仮想的に飛び出させるためのステレオ画像を発生する3D映像処理装置が設けられ、
前記3D映像処理装置から合成手段へ前記ステレオ画像を出力するようになされた請求項16に記載の仮想画像立体合成装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP30617098A JP4211097B2 (ja) | 1998-10-27 | 1998-10-27 | 受像機、その位置認識装置、その位置認識方法及び仮想画像立体合成装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP30617098A JP4211097B2 (ja) | 1998-10-27 | 1998-10-27 | 受像機、その位置認識装置、その位置認識方法及び仮想画像立体合成装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2000134640A JP2000134640A (ja) | 2000-05-12 |
JP4211097B2 true JP4211097B2 (ja) | 2009-01-21 |
Family
ID=17953891
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP30617098A Expired - Fee Related JP4211097B2 (ja) | 1998-10-27 | 1998-10-27 | 受像機、その位置認識装置、その位置認識方法及び仮想画像立体合成装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4211097B2 (ja) |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4348576B2 (ja) * | 1999-07-08 | 2009-10-21 | ソニー株式会社 | 画像処理装置および方法、並びに記録媒体 |
JP2005172851A (ja) * | 2003-12-05 | 2005-06-30 | Sony Corp | 画像表示装置 |
JP4621214B2 (ja) * | 2007-01-17 | 2011-01-26 | 日本放送協会 | 立体画像撮像位置調整装置、立体画像撮像位置調整方法およびそのプログラムならびに立体画像撮影システム |
JP5391224B2 (ja) * | 2011-03-28 | 2014-01-15 | 日本電信電話株式会社 | 映像付加情報表示制御装置およびその動作方法 |
JP5691802B2 (ja) * | 2011-04-28 | 2015-04-01 | コニカミノルタ株式会社 | 投影システム、投影装置、投影方法、および制御プログラム |
JP2013174642A (ja) * | 2012-02-23 | 2013-09-05 | Toshiba Corp | 映像表示装置 |
JP5773036B2 (ja) * | 2014-06-11 | 2015-09-02 | コニカミノルタ株式会社 | 投影システム、投影装置、投影方法、および制御プログラム |
WO2017104089A1 (ja) * | 2015-12-18 | 2017-06-22 | 日立マクセル株式会社 | ヘッドマウントディスプレイ連携表示システム、及び、表示装置とヘッドマウントディスプレイとを含むシステム、及び、その表示装置 |
KR102086012B1 (ko) * | 2018-06-21 | 2020-03-06 | 전자부품연구원 | 증강현실 시뮬레이터의 콘텐츠 표현 방법 |
CN118235162A (zh) * | 2021-11-18 | 2024-06-21 | 索尼集团公司 | 信息处理装置、信息处理方法和程序 |
-
1998
- 1998-10-27 JP JP30617098A patent/JP4211097B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2000134640A (ja) | 2000-05-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7567271B2 (en) | Shared color sensors for high-resolution 3-D camera | |
US7224382B2 (en) | Immersive imaging system | |
JP4153146B2 (ja) | カメラアレイの画像制御方法、及びカメラアレイ | |
US20160191891A1 (en) | Video capturing and formatting system | |
JP2011151798A (ja) | 多眼撮像装置および多眼撮像方法 | |
KR20060039896A (ko) | 왜곡없는 실시간 이미징을 구현하는 파노라마 비디오시스템 | |
US7224392B2 (en) | Electronic imaging system having a sensor for correcting perspective projection distortion | |
WO2019082820A1 (ja) | カメラシステム | |
WO2020170454A1 (ja) | 画像生成装置、ヘッドマウントディスプレイ、および画像生成方法 | |
JP2020517183A (ja) | 部分視野を撮像するための装置、多開口撮像装置およびそれらを提供する方法 | |
WO2020170455A1 (ja) | ヘッドマウントディスプレイおよび画像表示方法 | |
JP4211097B2 (ja) | 受像機、その位置認識装置、その位置認識方法及び仮想画像立体合成装置 | |
JP2006515128A (ja) | 立体パノラマ画像取り込み装置 | |
JPH08186845A (ja) | 焦点距離制御式立体テレビ | |
CN109428987A (zh) | 一种头戴式全景360度立体摄像装置及摄像处理方法 | |
JP2005065051A (ja) | 撮像装置 | |
JP7261642B2 (ja) | 画像処理方法、画像処理装置、およびヘッドマウントディスプレイ | |
WO2020170456A1 (ja) | 表示装置および画像表示方法 | |
JPH07240945A (ja) | 仮想空間生成提示装置 | |
JP4250814B2 (ja) | 3次元映像の送受信システム及びその送受信方法 | |
JP2000222116A (ja) | 表示画像の位置認識方法とその位置認識装置および仮想画像立体合成装置 | |
JP3676916B2 (ja) | 立体撮像装置および立体表示装置 | |
JPH11164292A (ja) | 画像生成装置,画像呈示装置,画像生成方法及び画像合成方法 | |
JPH11308608A (ja) | 動画像生成方法,動画像生成装置及び動画像呈示装置 | |
JP3205552B2 (ja) | 立体映像撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20051027 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20060418 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20080627 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080708 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080908 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20081007 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20081020 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111107 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111107 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111107 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121107 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121107 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131107 Year of fee payment: 5 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |