JP4049738B2 - 立体映像表示装置及び立体映像撮像装置 - Google Patents

立体映像表示装置及び立体映像撮像装置 Download PDF

Info

Publication number
JP4049738B2
JP4049738B2 JP2003412921A JP2003412921A JP4049738B2 JP 4049738 B2 JP4049738 B2 JP 4049738B2 JP 2003412921 A JP2003412921 A JP 2003412921A JP 2003412921 A JP2003412921 A JP 2003412921A JP 4049738 B2 JP4049738 B2 JP 4049738B2
Authority
JP
Japan
Prior art keywords
group
convex lens
imaging
image
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003412921A
Other languages
English (en)
Other versions
JP2005173190A (ja
Inventor
誠人 奥井
淳 洗井
真樹 小林
文男 岡野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Broadcasting Corp
Original Assignee
Japan Broadcasting Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Japan Broadcasting Corp filed Critical Japan Broadcasting Corp
Priority to JP2003412921A priority Critical patent/JP4049738B2/ja
Publication of JP2005173190A publication Critical patent/JP2005173190A/ja
Application granted granted Critical
Publication of JP4049738B2 publication Critical patent/JP4049738B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Description

本発明は、インテグラルフォトグラフィを利用した立体映像表示装置及び立体映像撮像装置に関する。
眼鏡を用いない立体映像方式として、いわゆるインテグラルフォトグラフィ(Integral Photography、以下「IP」と略称する)が知られている。以下、図9を用いて、従来のIPを用いた立体映像表示装置によって立体映像が表示される様子を説明する。
図9は、従来のIPによる立体映像の撮像及び表示方式を示した概略平面図であり、(a)は撮像時、(b)は表示時の状態を示している。
まず、被写体Aを撮像する際は、図9(a)に示すように、同一平面上に配列された多数の微小凸レンズ111からなるレンズ群110とフィルム120を用意し、これらを平行に配置する。微小凸レンズ111は焦点距離が等しいものを使用し、レンズ群110とフィルム120の間隔は、微小凸レンズ111の焦点距離近傍とする。そして、レンズ群110で被写体Aを撮像すると、それぞれの微小凸レンズ111によってフィルム120上に、被写体Aの縮小画像(以下、「要素画像」という。)131がそれぞれ撮像される。
つぎに、立体映像Bを表示する際は、図9(b)に示すように、要素画像131を撮像したフィルム120とレンズ群110を撮像時と同じ位置関係で設置し、フィルム120の後方から投光器140等により光を照射する。
各要素画像131を透過した光線群(再生光線群150)は、撮像時の光線の経路を逆に辿り、対応する微小凸レンズ111を透過して、被写体Aがあったはずの位置で互いに交差する。交差した後の光線は、実物の被写体Aから出る光線と同一の光線となるため、この光線が目(視点C)に入ると、そこにないはずの被写体Aがあたかもそこにあるように見える。換言すれば、立体映像Bが元の被写体Aの位置に表示される。そして、立体映像Bを回り込むように視点を変えると、目に入る光線が変わり、立体映像Bの異なる面を見ることができる。
なお、図9(a)のように撮像した要素画像群130に対して、図9(b)のようにそのまま反対側から(フィルム120の後方から)光をあてて立体映像Bを再生すると、立体映像Bはいわゆる逆奥行き像となる。かかる逆奥行き像化に対しては、撮像した要素画像群130に対して、再度、図9(a)に示す撮像を行い、この再撮像した要素画像を用いることにより、逆奥行き像化を解消して正しい立体像を再生することができる。また、図9(a)において、微小凸レンズ111に代えて、要素画像が正立像となるように位相を調節した屈折率分布レンズ等の光学ファイバー系を用いれば、再撮像を行う必要がない。
このようなIPを利用した立体映像表示装置は、例えば以下に示す特許文献1又は特許文献2等に記載されている。
特開2002−10294号公報(段落0023〜0025、段落0032〜0034、図2、図4) 特開平10−150675号公報(段落0025〜0038、図6、図8)
ところで、インテグラルフォトグラフィによって表示される立体映像において充分な解像度を確保するためには各要素画像の解像度を充分に確保することが必要になる。以下、これについて図10を参照して説明する。
図10は、立体映像の表示時の様子を示した図であり、(a)はレンズ群に近い位置に表示した場合、(b)はレンズ群から離れた位置に表示した場合を示している。
図10(a)に示すように、レンズ群110から距離D1の位置に立体映像Baを表示するには、まず、前記した立体映像の撮像方法(図9(a)参照)により要素画像群130aを撮像する。このとき、フィルム120の代わりにCCD素子(CCDカメラ)を利用するとよい。そして、撮像した要素画像群130aを、レンズ群110に対して撮像時と同じ位置関係となるように液晶パネル160に表示する。これにより、各要素画像131aは、観察者側(視点C側)に投影される。観察者側に投影された再生光線群150aは、レンズ群110から距離D1の位置で交差し、立体映像Baを形成する。なお、レンズ群110から距離D1の位置に拡散板をおくと、各要素画像131aの投影像がこの位置で重畳して結像していることがわかる。
かかる立体映像Baは、レンズ群110を構成する微小凸レンズ111aの作用によって、各微小凸レンズ111aに対応する要素画像131aがD1/g倍(g:レンズ群110と液晶パネル160との間隔)の拡大率で拡大投影されて結像したものである。したがって、立体映像Baの解像度は、この拡大率に応じて低下する。例えば、液晶パネル160の解像度をα(pixels/m)とすると、立体映像Baの解像度βaは、βa=α×g/D1(pixels/m)となり、レンズ群110から離れた位置に立体映像Bを表示するほど(立体映像Bとレンズ群110の間隔が大きくなるほど)立体映像Bの解像度が低下してしまう。以下、これについて図10(b)を参照して説明する。
図10(b)は、立体映像Bbとレンズ群110との間隔が、図10(a)に比べて2倍(2×D1)となる位置に、立体映像Bbを表示する場合を示した図である。表示する方法については、図10(a)と同様であるためここでは省略する。レンズ群110から距離2×D1の位置に立体映像Bbが表示された場合、立体映像Bbの解像度βbは、βb=α×g/(2×D1)(pixels/m)となり、図10(a)の場合に比べて立体映像Bbの解像度βbは1/2に低下する。
一方、TVのディスプレイに目を近づけると画像が粗く見えるのと同じように、立体映像Bと視点Cとの間隔が小さくなるほど立体映像Bは観察者に粗く見える。以下、これを見かけの解像度β’(βa’、βb’)として説明する。
図10(a)の場合、観察者(視点C)から見た立体映像Baの見かけの解像度βa’(pixels/rad)は、βa’=α×g×D2/D1(D2:立体映像Baと視点Cとの間隔)で表わされる。一方、図10(b)の場合、レンズ群110と視点Cの間隔が一定であるとすれば、観察者(視点C)から見た立体映像Bbの見かけの解像度βb’(pixels/rad)は、βb’=α×g×(D2−D1)/(2×D1)となり、立体映像Baの見かけの解像度βa’に比べて1/2倍以下に低下する。すなわち、立体映像Bと視点Cとの間隔が小さくなると、立体画像Bの見かけの解像度β’が急激に低くなり、解像度の低下が目立つこととなる。例えば、立体映像Bと観察者の距離が、観察者の手元距離のように小さい場合には、液晶パネル160の画素密度が高い場合であっても、最終的に観察される立体映像の解像度はかなり低下する。
このため、従来は、表示した立体映像の解像度を一定以上の水準に確保すべく、液晶パネルの解像度を高めるとともに、立体映像の表示位置をレンズ群から遠くない位置に制限するなどの手段を講じていた。
本発明は、これらの問題を解決するためになされたものであり、レンズ群から遠くて観察者に近い位置に立体映像を表示しても、立体映像の解像度が著しく低下することがない立体映像表示装置を提供することを目的とする。
請求項1に係る立体映像表示装置は、被写体の要素画像群を平面上に表示する要素画像群表示手段と、前記要素画像群が表示された平面と平行に配置され、前記要素画像群表示手段に表示された要素画像群をそれぞれ拡大投影する拡大投影手段群と、前記拡大投影手段群からみて前記要素画像群表示手段とは反対側に、前記拡大投影手段群が配置された平面に対して光軸が直交するように配置された表示用凸レンズと、からなり、前記拡大投影手段群と前記表示用凸レンズとの間隔は、前記表示用凸レンズの焦点距離よりも大である立体映像表示装置であって、前記要素画像群は、平面上に配置された結像手段群と、前記結像手段群と平行に配置され、当該結像手段群により結像された被写体の要素画像群を撮像する要素画像群撮像手段と、前記結像手段群からみて前記要素画像群撮像手段とは反対側に、前記結像手段群が配置された平面に対して光軸が直行するように配置された撮像用凸レンズと、からなる立体映像撮像装置によって撮像され、前記結像手段群と前記撮像用凸レンズとの間隔は、前記撮像用凸レンズの焦点距離よりも小であり、前記撮像用凸レンズの焦点距離と前記表示用凸レンズの焦点距離との合計は、前記結像手段群と前記撮像用凸レンズとの間隔と、前記拡大投影手段群と前記表示用凸レンズとの間隔との合計に等しい、ことを特徴とする。
ここで、「要素画像」とは、立体映像を表示する光線の元となる画像であり、立体映像を表示させたい位置から光線の経路を逆に辿って求めた要素画像表示手段上の所定領域に表示される。要素画像は、光線経路を計算してCGなどによって作製してもよいし、後記する請求項2に係る立体映像撮像装置によって撮像してもよい。
また、「要素画像群表示手段」としては、例えば、要素画像が映し出される液晶パネルや、要素画像を撮像したフィルムなどを用いることができる。
かかる立体映像表示装置によれば、拡大投影手段群と表示用凸レンズとの間隔は、表示用凸レンズの焦点距離よりも大であることから、一の拡大投影手段から拡大投影された要素画像は、表示用凸レンズの結像作用によって、この一の拡大投影手段と共役の関係にある一の集束点に集束される。換言すれば、一の拡大投影手段から拡大投影された要素画像は、表示用凸レンズによって、この一の拡大投影手段と共役の関係にある一の集束点に縮小投影される。
そして、それぞれの集束点に縮小投影される要素画像は、立体映像を表示させたい位置で交差することから、そこに被写体が実際にある場合と同じ光線が再現される。
このように、本発明に係る立体映像表示装置によって表示される立体映像は、集束点に縮小投影されていく要素画像が合成されて形成される映像であるため、観察者の目に映る立体映像は、集束点に近いほど、すなわち、表示用凸レンズから遠い位置であるほど、小さく縮小された要素画像によって合成された立体映像となる。そのため、表示用凸レンズから遠くて観察者に近い位置に立体映像を表示する場合であっても、解像度の低下が目立つことがない。
なお、「拡大投影手段群」としては、焦点距離の等しい多数の微小凸レンズを用いることができる。かかる場合には、要素画像群表示手段と微小凸レンズ群との間隔は、微小凸レンズの焦点距離と略等しくするのが望ましい。拡大投影手段として微小凸レンズを用いることにより、比較的明るい投影像を得ることができる。
また、「拡大投影手段群」としては、多数のピンホールが形成された板状部材(以下、「ピンホール板」と適宜略称する)を用いることもできる。ピンホールは微小凸レンズよりも小さく形成することができるため、ボケの少ない投影像を得ることができる。
さらに、「拡大投影手段群」としては、焦点距離の等しい多数の微小凸レンズと、ピンホール板を組み合わせたものを用いることもできる。ここで、微小凸レンズ群とピンホール板との間隔は微小凸レンズの焦点距離に略等しく、ピンホールは、一の微小凸レンズの主点と表示用凸レンズの主点とを通る直線と板状部材との交点に形成されているものとする。また、これらを用いる場合には、平行光又は平行光成分を多く含んだ拡散光を出射する要素画像群表示手段を用いるのが好適である。かかる立体映像表示装置によれば、ピンホールと微小凸レンズの主点を結んだ方向と平行に、要素画像群表示手段から微小凸レンズに向かって要素画像を投影することにより、比較的明るく、かつ、ボケの少ない投影像を得ることができる。
また、「表示用凸レンズ」としては、入射した要素画像を集束点に縮小投影可能である限り、一枚の凸レンズを単独で使用してもよいし、複数のレンズを組み合わせた光学ユニット(光学系)を使用してもよい。
請求項2に係る立体映像撮像装置は、被写体の要素画像群を平面上に表示する要素画像群表示手段と、前記要素画像群が表示された平面と平行に配置され、前記要素画像群表示手段に表示された要素画像群をそれぞれ拡大投影する拡大投影手段群と、前記拡大投影手段群からみて前記要素画像群表示手段とは反対側に、前記拡大投影手段群が配置された平面に対して光軸が直交するように配置された表示用凸レンズと、からなり、前記拡大投影手段群と前記表示用凸レンズとの間隔は、前記表示用凸レンズの焦点距離よりも大である立体映像表示装置に用いる要素画像群を撮像する立体映像撮像装置であって、平面上に配置された結像手段群と、結像手段群と平行に配置され、該結像手段群により結像された被写体の要素画像群を撮像する要素画像群撮像手段と、結像手段群からみて要素画像群撮像手段とは反対側に、結像手段群が配置された平面に対して光軸が直行するように配置された撮像用凸レンズとからなり、結像手段群と撮像用凸レンズとの間隔は、撮像用凸レンズの焦点距離よりも小であり、撮像用凸レンズの焦点距離と表示用凸レンズの焦点距離との合計は、結像手段群と撮像用凸レンズとの間隔と、拡大投影手段群と表示用凸レンズとの間隔との合計に等しい、ことを特徴とする。
かかる立体映像撮像装置によれば、結像手段群と撮像用凸レンズとの間隔は、撮像用凸レンズの焦点距離よりも小であることから、撮像用凸レンズを透過した光線は、撮像用凸レンズの焦点に集光する前に、結像手段群によって要素画像群撮像手段上に要素画像群として結像され、一旦記録されることとなる。
そして、かかる要素画像を結像手段の主点を中心にして180度回転させて、請求項1に係る立体映像表示装置において、これらの要素画像を表示させると、撮像用凸レンズの焦点に集光する光線群が再生される。このとき、撮像用凸レンズの焦点距離と表示用凸レンズの焦点距離との合計は、結像手段群と撮像用凸レンズとの間隔と、拡大投影手段群と表示用凸レンズとの間隔との合計に等しいように調節されていることから、立体映像撮像装置の撮像側凸レンズと、立体映像表示装置の表示側凸レンズとは、焦点位置が一致した2つの凸レンズとなり、いわゆるアフォーカル系が構成される。したがって、立体映像の再生が行われることとなる。
ここで、「結像手段群」としては、焦点距離の等しい多数の微小凸レンズを用いることができる。この場合、微小凸レンズ群と要素画像群撮像手段との間隔は、微小凸レンズの焦点距離に略等しくなるように調節する。結像手段として微小凸レンズを用いた場合には、比較的明るい要素画像を得ることができる。
また、「結像手段群」としては、ピンホール板を用いることができる。かかる場合には、ボケの少ない要素画像を得ることができる。ピンホール板と要素画像群撮像手段との間隔は、隣接する要素画像同士が干渉しないように調整する。
また、「要素画像群撮像手段」としては、例えばCCD等の撮像素子や写真用のフィルム等を用いることができる。CCDを用いる場合には、要素画像群の反転処理等を電子的に行うことが容易となる。
本発明に係る立体映像表示装置によれば、立体映像をレンズ群から遠くて観察者に近い位置に表示しても、立体映像の解像度が著しく低下することがない立体映像表示装置を提供することができる。
また、本発明に係る立体映像撮像装置によれば、前記立体映像表示装置に用いる要素画像を容易に撮像することができる。
<第1の実施形態>
本発明の第1の実施形態について図面を参照して詳細に説明する。参照する図面において、図1は、第1の実施形態に係る立体映像表示装置を示した概略平面図である。また、図2は、立体映像が観察される様子を示した概念図である。また、図3は、電子計算機の仮想空間内に設定された立体映像表示装置を概念的に示した平面図である。
はじめに、立体映像表示装置1の構成について、図1を参照して説明する。
立体映像表示装置1は、一の平面上に配列された多数の微小凸レンズ11からなるレンズ群10と、このレンズ群10と平行な他の平面上に配列された多数の液晶パネル21からなる液晶パネル群20と、前記レンズ群10から見て前記液晶パネル群20とは反対側に設置された一枚の凸レンズ30とからなる。立体映像表示装置1は、液晶パネル群20に表示した要素画像群をレンズ群10によって凸レンズ30に拡大投影し、さらに、この拡大投影された要素画像群を凸レンズ30によって集束点41に縮小投影することにより、立体映像を表示する装置である。
レンズ群10は、焦点距離の等しい微小凸レンズ11を縦横に数百、数千個配列して構成されている。図1では説明を簡略化するため、15個の微小凸レンズ11のみを示す。微小凸レンズ11は、微小凸レンズ11が配列された平面と、それぞれの微小凸レンズ11の光軸とが垂直になるように配列されている。また、微小凸レンズ11の直径は凸レンズ30に比べて充分に小さいものとする。微小凸レンズ11は、液晶パネル21に表示された要素画像を後記する凸レンズ30に拡大投影する役割を果たすものである。
なお、かかるレンズ群10が、「拡大投影手段群」に相当する。
液晶パネル群20は、一つ一つの微小凸レンズ11に要素画像を投影できるように、微小凸レンズ11と同数の液晶パネル21を縦横に配列して構成されている。図1では、微小凸レンズ11と同じく15個の液晶パネル21のみを示す。各液晶パネル21は、後記する凸レンズ30の主点30aと各微小凸レンズ11の主点11aとを通る直線上に中心点21aが位置するように配置される。
なお、かかる液晶パネル群20が、「要素画像群表示手段」に相当する。各液晶パネル21は、立体映像を表示させたい位置から光線の経路を逆算して求めた液晶パネル21上の所定領域に要素画像を表示するようになっている。これについては、図3を参照して後に詳しく説明する。
凸レンズ30は、微小凸レンズ11の光軸と凸レンズ30の光軸が平行になるように設置される。凸レンズ30は、各微小凸レンズ11によって拡大投影された要素画像を、各微小凸レンズ11に対応する集束点41に集束するように縮小投影する。
なお、かかる凸レンズ30が、「表示用凸レンズ」に相当する。
立体映像表示装置1において、レンズ群10、液晶パネル群20及び凸レンズ30の寸法及び間隔は、以下に示す(1)式を満足するように設定されている。
a/b=p/q ・・・・・・・・・・・・・・・・(1)式
ここで、a:レンズ群10と液晶パネル群20との間隔、b:レンズ群10と凸レンズ30との間隔、p:液晶パネル21の幅、q:凸レンズ30の幅(直径)である。
このように設定することにより、各液晶パネル21の中心点21aを中心とした直径pの円形領域に表示された要素画像を含む映像が、凸レンズ30の大きさに拡大投影される。なお、レンズ群10と液晶パネル群20との間隔aは、微小凸レンズ11の焦点距離f1と等しいか、やや大きく設定する。
液晶パネル21からは、無数の拡散光が発せられている。このため、間隔aが微小凸レンズ11の焦点距離f1に略等しい場合は、液晶パネル21上の一点から出射した拡散光のうち、当該液晶パネル21の中心点21aと凸レンズ30の主点30aとを結ぶ直線上に位置する微小凸レンズ11(以下、「当該液晶パネル21に対応する微小凸レンズ11」という)に入射した光線は、当該微小凸レンズ11の主点11aと当該光線の出射点とを結ぶ直線と平行な方向に屈折する(いわゆる平行光)。そして、液晶パネル21上の全ての点から出射した光線が同様に屈折することにより、液晶パネル21に表示された要素画像は、凸レンズ30上にq/p倍(=b/a倍)に拡大投影される。そして、全ての液晶パネル21に表示された要素画像が、それぞれの液晶パネル21に対応する微小凸レンズ11によって、凸レンズ30上に拡大投影される。
そして、レンズ群10によって拡大投影されて凸レンズ30を透過した要素画像群は、凸レンズ30の結像作用により、各微小凸レンズ11に対応する集束点41にそれぞれ集束する。一の微小凸レンズ11に対応する集束点41は、図1に示すように、この微小凸レンズ11の主点11aと凸レンズ30の主点30aとを通る直線と、凸レンズ30からレンズ群10とは反対側に所定距離はなれた平面(集束面40)との交点に位置する。レンズ群10と凸レンズ30との間隔をb、凸レンズ30と集束面40との間隔をc、凸レンズ30の焦点距離をf2とすると、これらは(2)式に示す関係を満足する。
1/b+1/c=1/f2 ・・・・・・・・・・・・・・・・(2)式
ここで、立体映像は、後記するように凸レンズ30と集束面40との間において観察されることから、間隔cが観察するのに適当な間隔になるように、凸レンズ30の焦点距離f2を調節する。また、凸レンズ30を透過した要素画像が集束点41に集束(縮小投影)されるためには、0<f2<bであるように凸レンズ30の焦点距離を設定する必要がある。
次に、立体映像が観察される様子について、図2を参照して説明する。
レンズ群10は、通常、焦点距離の等しい微小凸レンズ11を縦横に数百、数千個配列して構成されるが、本実施形態では、説明の便宜上、図2に示すように、15個の微小凸レンズ11(11−1〜15)が直列に配列されているものとする。また、液晶パネル群20も、図2に示すように、15個の液晶パネル21(21−1〜15)が直列に配列されているものとする。
液晶パネル21−1〜15の所定の領域に予め作製しておいた要素画像がそれぞれ表示されると、かかる要素画像は、図2に示すように、それぞれの液晶パネル21−1〜15に対応する微小凸レンズ11−1〜15によって、凸レンズ30上へq/p倍に拡大投影された後、各微小凸レンズ11−1〜15に対応した集束点41−1〜15に縮小投影される。
要素画像は、図3を参照して後に詳しく説明するが、立体映像Rを表示させたい位置から光線の経路を逆算して求めた液晶パネル21上の所定領域に表示されていることから、液晶パネル群20に表示された各要素画像からの光線は、立体映像Rを表示させたい位置で交差する。これにより、被写体が本当にそこに存在するのと同じ光線が再生されることとなり、視点を変えると再生画像の異なる面を観察することができる。すなわち、立体映像Rが表示されることとなる。
表示される立体映像Rは、集束面40に近づくに連れて縮小されていく要素画像が合成されて構成されているため、凸レンズ30に近い像に比べて画素密度は高くなる。このため、観察者に近い位置に立体映像を表示してもボケや荒さが目立たない。
ここで、立体映像Rが視点C1において観察される様子を、図2を参照して説明する。
液晶パネル21−6に表示された要素画像は、図2に示すように、微小凸レンズ11−6によって凸レンズ30上に拡大投影され、集束点41−6に集束する。このとき、液晶パネル21−6に表示された要素画像を構成する再生光線の一部である光線K1は、立体映像R上の点R1を通り、集束点41−6へ向かう途中で視点C1に入射する。これにより、視点C1に立体映像R上の点R1付近の像が観察される。
同様に、液晶パネル21−7、21−8、21−9に表示された要素画像を構成する再生光線の一部である光線K2、K3、K4は、立体映像R上の点R2、R3、R4をそれぞれ通り、集束点41−7、41−8、41−9へ向かう途中で視点C1に入射する。これにより、視点C1に立体映像R上の点R2、R3、R4付近の像が観察される。そして、これらの光線K1〜K4によって全体として立体映像Rが形成され、観察者は立体映像Rを観察することができる。このように、本実施形態に係る立体映像表示装置1によって観察される立体映像Rは、集束点41の密度に応じて離散化された像となる。
この立体映像表示装置1によれば、立体映像は、集束点41に縮小投影される要素画像が合成されて形成されることとなる。したがって、例えば観察者の手元位置等のように、観察者(視点C1)に近い場所に立体映像Rを表示した場合でも解像度が急激に低下することがない。
(要素画像の表示領域)
つづいて、液晶パネル21に表示する要素画像rの表示領域について、図3を参照して説明する。ここでは、コンピュータグラフィックス(以下、「CG」と適宜略称する。)により作成した3次元映像を立体映像Rとして表示する場合を例にして説明する。
図3は、電子計算機の仮想空間内に設定された立体映像表示装置を概念的に示した平面図である。
はじめに、立体映像表示装置1の構成要素であるレンズ群10、液晶パネル群20及び凸レンズ30の寸法、位置関係、焦点等の情報を空間座標として電子計算機に入力する。また、CGにより作成した3次元映像を立体映像Rとして表示したい位置の座標を設定して電子計算機に入力する。これにより、電子計算機の仮想空間内に、図3に示す立体映像表示装置1と立体映像Rが設定される。
つぎに、各液晶パネル21に表示する要素画像rの表示領域を求めるために、各液晶パネル21に対応する集束点41を求める。ここでは、液晶パネル21−9を例にとって説明する。
液晶パネル21−9に対応する集束点41−9は、液晶パネル21−9の中心点21a−9と凸レンズ30の主点30aとを通る直線と、前記(2)式より定まる間隔cだけ凸レンズ30から離れた集束面40との交点である。電子計算機は、予め入力されている液晶パネル21−9や凸レンズ30の座標に基づいて、かかる交点(集束点)41−9の位置座標を計算する。なお、かかる座標計算は、公知の座標計算プログラムを用いて行うことができる。
つぎに、立体映像R上の点R1に対応する液晶パネル21−9上の点r1の座標を求めるために、点R1を通って集束点41−9に入射する光線k5の軌跡を逆にトレースする。具体的には、まず、集束点41−9と点R1とを通る直線と、凸レンズ30の主点30aにおいて光軸と垂直に交わる平面30dとの交点30cを求める。そして、この点30cと微小凸レンズ11−9の主点11a−9とを通る直線と液晶パネル21−9の表面との交点r1を求める。
また、立体映像R上の点R4に対応する液晶パネル上の点r4の座標を、前記と同様に、集束点41−9、立体映像R上の点R4、凸レンズ30上の点30b、微小凸レンズ11−9の主点11a−9、液晶パネル21−9上の点r4、という順序で、点R4を通って集束点41−9に入射する光線k4の軌跡を逆にトレースして求める。
そして、集束点41−9側に面する立体映像R上のすべての点について、前記計算を繰り返して行うことにより、液晶パネル21−9に表示する要素画像rの表示領域(点r1、r4等の集合)を求めることができる。
また、電子計算機は、これらの表示領域(点r1、r4等)に表示すべき立体映像Rの輝度情報や色情報を、CGで作成した3次元映像から抽出して記憶する。ここで、これらの輝度情報や色情報は、集束点41−9から点R1、R4等を観察したときの輝度情報や色情報とする。
そして、この手順をすべての液晶パネル21に適用することにより、液晶パネル群20に表示する要素画像群とその表示領域を得ることができる。
さらに、このようにして得た要素画像群を現実の立体映像表示装置1の液晶パネル群21に表示することにより、立体映像Rを表示することができる。また、各要素画像rは、対応する集束点41から観察したときの輝度、色彩で表示されていることから、観察者が視点を変えると、立体映像Rの異なる面が見えるとともに立体映像Rの影の付き具合や色合いが変化して、より一層立体的に観察される。
<第2の実施形態>
続いて、本発明の第2の実施形態について図面を参照して詳細に説明する。参照する図面において、図4は、第2の実施形態にかかる立体映像表示装置を示した概略平面図である。なお、第1の実施形態と同一の構成については、同一の符号を付し、重複する説明は省略する。
第2の実施形態にかかる立体映像表示装置2は、前記レンズ群10に代えて多数のピンホール51が形成された板状部材50が配置されている点が、前記立体映像表示装置1と異なっている。
板状部材50は、第1の実施形態におけるレンズ群10の代わりに配置されたものであり、微小凸レンズ11の主点11aに対応する位置にピンホール51が設けられている。すなわち、ピンホール51は、液晶パネル21の中心点21aと凸レンズ30の主点30aを通る直線と液晶パネル群20から距離aだけ離間した平面(板状部材50)との交点に設けられている。
また、液晶パネル群20と板状部材50の間隔をa、板状部材50と凸レンズ30の間隔をb、液晶パネル21の幅をp、凸レンズ30の幅(直径)をqとすると(図1参照)、第1の実施形態と同様に、前記(1)式の関係を満足するようにa、bを設定する。このとき、間隔aは、隣接する液晶パネル21の映像が互いに干渉しないように調節する。
液晶パネル21は、図示しないバックライトを備えており、液晶パネル21の表面からは無数の拡散光が発射されている。この拡散光のうちピンホール51に入射した光線は、そのまま直進して凸レンズ30に入射する。これにより、各液晶パネル21に表示された要素画像が凸レンズ30上に拡大投影される。
このとき、ピンホール51は、点と考えて問題ない程度に充分小さいことから、微小凸レンズ11を用いた場合に比べてボケの少ない投影像を得ることができる。
また、板状部材50と凸レンズ30の間隔をb、凸レンズ30と集束面40との間隔をc、凸レンズ30の焦点距離をf2とすると、これらは、第1の実施形態と同様に、前記(2)式の関係を満足する。そして、拡大投影された要素画像は、各ピンホール51に対応する集束点41にそれぞれ縮小投影される。
前記立体映像表示装置1では、レンズ群10を構成する微小凸レンズ11は、凸レンズ30に比べて充分に小さいとしたが、その最小寸法はレンズである以上限界がある。そのため、前記立体映像表示装置1では、集束点41は実際には点ではなく、微小凸レンズ11の直径と同じ大きさとなる。したがって、拡大投影手段としてレンズ群10を用いる場合において、立体映像Rの表示位置が観察者側の焦点距離付近であるときは、比較的明るく、かつ、ボケのない立体映像Rを得ることができるが、立体映像Rの表示位置が凸レンズ30から離れるにしたがって、ボケたものになってしまう。
一方、図4に示すように、レンズ群10の代わりにピンホール51が形成された板状部材50を用いた立体映像表示装置2によれば、ピンホール51は微小凸レンズ11に比べて充分に小さく成形することが可能であるため、集束点41を充分に小さくすることができる。このため、拡大投影手段としてピンホール51を用いた場合には、凸レンズ30によって縮小投影された要素画像は、奥行き位置によってボケが拡大することがない。したがって、これら要素画像により合成される立体映像もボケが少ない。また、ピンホール板は、レンズ群10よりも容易に作成できる。
<第3の実施形態>
続いて、本発明の第3の実施形態について図面を参照して詳細に説明する。参照する図面において、図5は、第3の実施形態にかかる立体映像表示装置を示した概略平面図である。なお、第1及び第2の実施形態と同一の構成については、同一の符号を付し、重複する説明は省略する。
第3の実施形態にかかる立体映像表示装置3は、図5に示すように、液晶パネル群60と、レンズ群10と、板状部材50と、凸レンズ30とを、所定の間隔を空けて互いに平行にこの順序で配置して構成されている。立体映像表示装置3は、液晶パネル群60からの平行光をレンズ群10によって板状部材50のピンホール51に集光して凸レンズ30に拡大投影した後に、凸レンズ30によって集束面40に縮小投影するものである。
液晶パネル群60は、強い平行光あるいは平行光成分を多く含む拡散光を発する多数の液晶パネル61から構成されている。液晶パネル61は、図5に示すように、凸レンズ30の主点30aと微小凸レンズ11の主点11aとを通る直線上に液晶パネル61の中心点61aが位置するように配置される。
レンズ群10は、第1及び第2の実施形態と同様に、焦点距離の等しい多数の微小凸レンズ11を整列配置したものである。かかる微小凸レンズ11に液晶パネル61から平行光が入射すると、この平行光は、微小凸レンズ11から光軸方向に焦点距離f1だけ離れた平面と、液晶パネル61の中心点61aと微小凸レンズ11の主点11aとを通る直線との交点(以下、かかる交点を「集光点」と呼ぶ。)に集光される。
板状部材50は、レンズ群10から微小凸レンズ11の焦点距離f1だけ離間して配置されており、前記集光点に相当する位置にピンホール51が形成されている。これにより、前記平行光以外の光線は板状部材50によって遮断される。
ピンホール51を通り抜けた光線は、凸レンズ30に入射し、集束点41に集束する。かかる作用は、前記した第1の実施形態及び第2の実施形態と同様であるため、その説明は省略する。
立体映像表示装置3によれば、要素画像を拡大投影する光線として平行光を利用するため、投影像の明るさを確保することができる。また、ピンホールを透過させるため、立体映像のボケを抑えることができる。
<立体映像撮像装置>
次に、立体映像撮像装置について図6、図7、図8を参照して説明する。ここで、図6は、立体映像撮像装置の概略平面図である。また、図7は、要素画像の反転処理を説明するための概念図である。また、図8は、立体映像撮像装置で撮像した立体映像を立体映像表示装置で表示する様子を示した図であり、(a)は撮像時、(b)は表示時の様子を示した図である。なお、前記第1〜第3の実施形態と同一の構成については、同一の符号を付し、重複する説明は省略する。
立体映像撮像装置4は、図6に示すように、凸レンズ70と、この凸レンズ70からみて被写体Aとは反対側に配置された多数の微小凸レンズ81からなるレンズ群80と、さらに、このレンズ群80からみて凸レンズ70とは反対側に配置されたCCD素子からなる撮像面90とから構成されている。被写体Aから出射された光線は、凸レンズ70とレンズ群80を透過した後に撮像面90に撮像される。以下、これらの構成要素について詳しく説明する。
凸レンズ70は、前記した第1の実施形態に係る立体映像表示装置1の凸レンズ30と、いわゆるアフォーカル系(無限焦点系)を構成するレンズである(図8参照)。これについては後に詳しく説明する。
被写体Aから出射して凸レンズ70に入射した光線のうち、凸レンズ70の光軸と平行な光線は、図6に示すように、凸レンズ70の焦点71に向かう方向に屈折する。なお、凸レンズ70は、後記するレンズ群80と同等、あるいはそれよりも大きな口径であるのが望ましい。
なお、かかる凸レンズ70が、「撮像用凸レンズ」に相当する。
レンズ群80は、焦点距離の等しい多数の微小凸レンズ81を平面上に整列配置して構成されている。レンズ群80は、凸レンズ70の光軸と直交する平面上に配置されている。また、レンズ群80を構成する微小凸レンズ81は、その光軸が凸レンズ70の光軸と平行になるように配置されている。
なお、かかるレンズ群80が、「結像手段群」に相当する。
凸レンズ70とレンズ群80との間隔は、以下の関係式を満足するように定める。
d<f3 ・・・・・・・・・・・・・・・・・・・・・・・・・(3)式
d=f2+f3−b ・・・・・・・・・・・・・・・・・(4)式
ここで、d:凸レンズ70とレンズ群80の間隔、f3:凸レンズ70の焦点距離、b:立体映像表示装置1における凸レンズ30とレンズ群10の間隔、f2:凸レンズ30の焦点距離、をそれぞれ示している。
このように、凸レンズ70とレンズ群80の間隔dが凸レンズ70の焦点距離f3よりも短いことから、被写体Aから出射して凸レンズ70を透過した光線は、凸レンズ70の焦点71に集光する前に、レンズ群80に入射する。
なお、微小凸レンズ81の焦点距離は、立体映像表示装置1におけるレンズ群10(拡大投影手段)と液晶パネル群20(要素画像群表示手段)との間隔aに略等しくなるように設定する。また、微小凸レンズ81の径も、立体映像表示装置1における微小凸レンズ11の径と等しくする。このようにすることにより、立体映像表示装置1において、被写体Aから出射された光線を再現することが可能となる。
撮像面90は、例えば平面上に密集して配置されたCCD素子等からなり、レンズ群80と平行に配置されている。撮像面90とレンズ群80との間隔は、微小凸レンズ81の焦点距離に等しくなるように設定する。これにより、凸レンズ70を透過した被写体Aの画像が、レンズ群80によって、撮像面90上に結像される。このようにして撮像された要素画像は、CCD素子によって光電変換されて、メモリ等(図示省略)に電気的に記憶される。
なお、本実施形態では撮像面90をCCD素子で構成したが、要素画像を記録できるものであれば、フィルムやカメラ等を用いてもよい。
撮像した要素画像を立体映像表示装置1の液晶パネル21(図8(b)参照)にそのまま表示すると、光線の向きが撮像時と逆向きに再生され、立体映像が逆奥行き像となってしまう。これを防止するために、以下に説明する手順によって要素画像を加工する。
まず、図7(a)に示すように、レンズ群80によって被写体Aの画像(要素画像)が撮像面90に撮像される。
次に、得られた要素画像の一つ一つを、図7(b)に示すように、微小凸レンズ81の主点81aを中心として180度回転させる処理を行う。この処理は、要素画像が電子データとして取得されている場合には電子計算機を用いて座標計算によって行ってもよいし、フィルム等に記録されている場合には、レンズ群80を挟んで反対側に別の撮像面90’を設置して要素画像を再撮像してもよい。
上記処理により逆奥行き像は解消されるが、アフォーカル系によって再生される像は倒立像となるため、これを解消すべく、図7(c)に示すように、前記処理した要素画像群をレンズ群80の中心軸(凸レンズ70の光軸に一致)を中心として一括して180度回転させる。この処理についても、電子計算機を用いて計算して行ってもよいし、要素画像を表示するフィルムや液晶パネル(20)を物理的に回転させて行ってもよい。これにより、アフォーカル系によって再生される像は正立像となる。
このようにして、図8(b)に示す立体映像表示装置1の液晶パネル21に、前記処理を施した要素画像を表示すると、立体映像撮像装置4のレンズ群80の位置における光線の状態が、レンズ群10の位置に再生される。このとき、再生された光線の中には、凸レンズ70の焦点71に集光する光線、すなわち、凸レンズ70の光軸と平行に凸レンズ70に入射した光線も含まれている。かかる光線群は、凸レンズ70の焦点71があったはずの位置に向かう。
立体映像撮像装置4における凸レンズ70とレンズ群80の間隔dは、上記(4)式に示す関係を満足することから、図8(b)に示すように、凸レンズ70と凸レンズ30の光軸を一致させ、かつ、レンズ群80とレンズ群10の位置を一致させると、凸レンズ70の焦点71と凸レンズ30の焦点31は一致する。したがって、レンズ群10の位置にレンズ群80によって一旦記録した光線を立体映像表示装置1で再生すると、これらの光線のうち凸レンズ70の光軸と平行に凸レンズ70に入射した光線は、凸レンズ30の焦点31を通って凸レンズ30に入射し、凸レンズ30の光軸と平行に出射する。このように、いわゆるアフォーカル系が構成されることから、被写体Aの立体映像Rが再生されることとなる。とくに、凸レンズ30と凸レンズ70の焦点距離が等しい場合には、歪みのない立体映像Rを得ることができる。
以上、本発明の好適な実施形態について説明したが、本発明はこれらの実施形態に限定されるものではなく、本発明の趣旨を逸脱しない範囲で適宜変更が可能であることはいうまでもない。
例えば、液晶パネル群20は、小さな液晶パネルを多数配列して構成したものとしたが、大きな一枚の液晶パネルを分割表示させることにより、所定の位置に要素画像をそれぞれ表示させるようにしてもよい。
また、第1〜第3の実施形態において、凸レンズ30の幅(直径)qは、(1)式を満足するように、すなわち、q=p×b/aとなるように設定すると、各液晶パネル21の中心点21aを中心とした直径pの円形領域に表示された要素画像を含む映像が、ちょうど凸レンズ30の大きさに拡大投影されることとなるため、隣接する液晶パネル21に表示された映像が干渉することがなく、最も好ましい。しかし、q>p×b/aであっても、要素画像が干渉することがあるが、立体映像Rを表示することは可能である。また、q<p×b/aであっても、立体映像Rを観察できる角度は狭くなるが、立体映像Rを表示することは可能である。
また、立体映像撮像装置4において、微小凸レンズ81の代わりに、正立像が得られるように調節した屈折率分布レンズ等のファイバー光学系を使用してもよい。このようにした場合には、一つ一つの要素画像を180度反転させる処理が不要となり、より簡易に立体映像を再生することが可能となる。なお、かかる技術については特開平10−150675号に詳しく開示されている。
第1の実施形態に係る立体映像表示装置を示した概略平面図である。 立体映像が観察される様子を示した概念図である。 電子計算機の仮想空間内に設定された立体映像表示装置を概念的に示した平面図である。 第2の実施形態にかかる立体映像表示装置を示した概略平面図である。 第3の実施形態にかかる立体映像表示装置を示した概略平面図である。 立体映像撮像装置の概略平面図である。 要素画像の反転処理を説明するための概念図である。 立体映像撮像装置で撮像した立体映像を立体映像表示装置で表示する様子を示した図である。 従来のIPによる立体映像の撮像及び表示方式を示した概略平面図であり、(a)は撮像時、(b)は投影時を示す。 従来の立体映像表示装置を示す概略平面図であり、(a)はレンズ群に近い位置に立体映像を表示する場合、(b)はレンズ群から遠い位置に立体映像を表示する場合を示す。
符号の説明
1、2、3 立体映像表示装置
4 立体映像撮像装置
10 レンズ群(拡大投影手段群)
11 微小凸レンズ
20 液晶パネル群(要素画像群表示手段)
21 液晶パネル
30 凸レンズ(表示用凸レンズ)
40 集束面
41 集束点

Claims (2)

  1. 被写体の要素画像群を平面上に表示する要素画像群表示手段と、
    前記要素画像群が表示された平面と平行に配置され、前記要素画像群表示手段に表示された要素画像群をそれぞれ拡大投影する拡大投影手段群と、
    前記拡大投影手段群からみて前記要素画像群表示手段とは反対側に、前記拡大投影手段群が配置された平面に対して光軸が直交するように配置された表示用凸レンズと、からなり、
    前記拡大投影手段群と前記表示用凸レンズとの間隔は、前記表示用凸レンズの焦点距離よりも大である立体映像表示装置であって、
    前記要素画像群は、
    平面上に配置された結像手段群と、前記結像手段群と平行に配置され、当該結像手段群により結像された被写体の要素画像群を撮像する要素画像群撮像手段と、前記結像手段群からみて前記要素画像群撮像手段とは反対側に、前記結像手段群が配置された平面に対して光軸が直行するように配置された撮像用凸レンズと、からなる立体映像撮像装置によって撮像され、
    前記結像手段群と前記撮像用凸レンズとの間隔は、前記撮像用凸レンズの焦点距離よりも小であり、
    前記撮像用凸レンズの焦点距離と前記表示用凸レンズの焦点距離との合計は、前記結像手段群と前記撮像用凸レンズとの間隔と、前記拡大投影手段群と前記表示用凸レンズとの間隔との合計に等しい、ことを特徴とする立体映像表示装置。
  2. 被写体の要素画像群を平面上に表示する要素画像群表示手段と、前記要素画像群が表示された平面と平行に配置され、前記要素画像群表示手段に表示された要素画像群をそれぞれ拡大投影する拡大投影手段群と、前記拡大投影手段群からみて前記要素画像群表示手段とは反対側に、前記拡大投影手段群が配置された平面に対して光軸が直交するように配置された表示用凸レンズと、からなり、前記拡大投影手段群と前記表示用凸レンズとの間隔は、前記表示用凸レンズの焦点距離よりも大である立体映像表示装置に用いる前記要素画像群を撮像する立体映像撮像装置であって、
    平面上に配置された結像手段群と、
    前記結像手段群と平行に配置され、当該結像手段群により結像された被写体の要素画像群を撮像する要素画像群撮像手段と、
    前記結像手段群からみて前記要素画像群撮像手段とは反対側に、前記結像手段群が配置された平面に対して光軸が直行するように配置された撮像用凸レンズとからなり、
    前記結像手段群と前記撮像用凸レンズとの間隔は、前記撮像用凸レンズの焦点距離よりも小であり、
    前記撮像用凸レンズの焦点距離と前記表示用凸レンズの焦点距離との合計は、前記結像手段群と前記撮像用凸レンズとの間隔と、前記拡大投影手段群と前記表示用凸レンズとの間隔との合計に等しい、ことを特徴とする立体映像撮像装置。
JP2003412921A 2003-12-11 2003-12-11 立体映像表示装置及び立体映像撮像装置 Expired - Fee Related JP4049738B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003412921A JP4049738B2 (ja) 2003-12-11 2003-12-11 立体映像表示装置及び立体映像撮像装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003412921A JP4049738B2 (ja) 2003-12-11 2003-12-11 立体映像表示装置及び立体映像撮像装置

Publications (2)

Publication Number Publication Date
JP2005173190A JP2005173190A (ja) 2005-06-30
JP4049738B2 true JP4049738B2 (ja) 2008-02-20

Family

ID=34733198

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003412921A Expired - Fee Related JP4049738B2 (ja) 2003-12-11 2003-12-11 立体映像表示装置及び立体映像撮像装置

Country Status (1)

Country Link
JP (1) JP4049738B2 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4866121B2 (ja) * 2006-03-23 2012-02-01 日本放送協会 要素画像群撮像装置及び立体像表示装置
JP5004269B2 (ja) * 2006-05-16 2012-08-22 国立大学法人東京農工大学 三次元画像表示方法及び三次元画像表示装置
JP4660769B2 (ja) * 2006-07-05 2011-03-30 国立大学法人 筑波大学 多視点立体ディスプレイ装置
JP2016001326A (ja) * 2010-06-16 2016-01-07 株式会社ニコン 画像表示装置
JP6149339B2 (ja) 2010-06-16 2017-06-21 株式会社ニコン 表示装置
JP2013113997A (ja) * 2011-11-28 2013-06-10 Nikon Corp 三次元画像表示装置
JP6641138B2 (ja) * 2015-09-18 2020-02-05 日本放送協会 拡散特性取得装置及び拡散特性再現装置
JP6832064B2 (ja) * 2016-01-13 2021-02-24 日本放送協会 立体像表示装置

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3394149B2 (ja) * 1997-02-27 2003-04-07 科学技術振興事業団 立体像再生装置
JP2001215444A (ja) * 2000-02-02 2001-08-10 Konica Corp 三次元画像表示装置
JP2001238229A (ja) * 2000-02-21 2001-08-31 Nippon Hoso Kyokai <Nhk> 立体画像撮影装置及び立体画像表示装置並びに立体画像撮影表示システム
JP3713446B2 (ja) * 2001-03-30 2005-11-09 株式会社東芝 立体像表示装置

Also Published As

Publication number Publication date
JP2005173190A (ja) 2005-06-30

Similar Documents

Publication Publication Date Title
US8106940B2 (en) Stereoscopic image display apparatus and stereoscopic image producing method
JP4147188B2 (ja) 観測者追跡を備えた自動立体ディスプレイ
US20090079762A1 (en) Method for producing multi-viewpoint image for three-dimensional image display and program therefor
CN110012286B (zh) 一种高视点密度的人眼追踪立体显示装置
JP4764624B2 (ja) 立体視表示装置及び立体視用画像生成方法
CN102404598A (zh) 用于体视三维显示图像生成系统及方法
JP4049738B2 (ja) 立体映像表示装置及び立体映像撮像装置
JP2007336002A (ja) 多視点映像表示装置
JP4741395B2 (ja) 立体映像表示装置
US20080259281A1 (en) Apparatus and method for displaying three-dimensional image
JP4729011B2 (ja) 要素画像群変換装置、立体像表示装置及び要素画像群変換プログラム
JP3676916B2 (ja) 立体撮像装置および立体表示装置
JPH0934037A (ja) 立体画像撮像装置
CN114967215B (zh) 显示装置和虚拟现实装置
JP2007264261A (ja) 投射型立体表示装置
JP2008046525A (ja) 立体像撮影装置と表示装置
JPH08262371A (ja) 立体像再生装置及びその方法
JP3966753B2 (ja) 立体像再生装置
JP2012177756A (ja) 立体画像取得装置
JP2002300609A (ja) 立体撮像装置
JP2006510953A (ja) 対象物の3次元画像情報を取得するための装置および再生するための装置
JP2008292736A (ja) 三次元画像表示方法及び三次元画像表示装置
JP6832064B2 (ja) 立体像表示装置
JP2744478B2 (ja) 立体表示装置
JP2000201359A (ja) 3次元画像撮影装置および方法ならびに3次元画像表示装置および方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060328

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070813

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070905

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071024

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20071121

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20071127

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101207

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101207

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111207

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121207

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131207

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees