JP2006338181A - 立体表示装置 - Google Patents

立体表示装置 Download PDF

Info

Publication number
JP2006338181A
JP2006338181A JP2005160118A JP2005160118A JP2006338181A JP 2006338181 A JP2006338181 A JP 2006338181A JP 2005160118 A JP2005160118 A JP 2005160118A JP 2005160118 A JP2005160118 A JP 2005160118A JP 2006338181 A JP2006338181 A JP 2006338181A
Authority
JP
Japan
Prior art keywords
shape model
dimensional shape
image
dimensional
surface texture
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005160118A
Other languages
English (en)
Other versions
JP4274154B2 (ja
Inventor
Osamu Nishikawa
修 西川
Atsushi Miyazaki
宮崎  淳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd filed Critical Fuji Xerox Co Ltd
Priority to JP2005160118A priority Critical patent/JP4274154B2/ja
Priority to US11/251,871 priority patent/US7852333B2/en
Publication of JP2006338181A publication Critical patent/JP2006338181A/ja
Application granted granted Critical
Publication of JP4274154B2 publication Critical patent/JP4274154B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/388Volumetric displays, i.e. systems where the image is built up from picture elements distributed through a volume

Abstract

【課題】 立体形状モデルに物体の表面テクスチャを効果的に表現することができる立体表示装置を提供する。
【解決手段】 立体表示装置は、角柱(形状可変素子)7により構成された立体形状モデル1と、立体形状モデル1の側面に配置された反射ミラー2a〜2dと、立体形状モデル1の形状情報並びに立体形状モデル1の上面および側面の表面テクスチャの画像情報を格納する制御装置3と、前記形状情報に基づいて角柱7を駆動する形状可変素子駆動装置5と、前記画像情報に基づいて立体形状モデル1の上面の表面テクスチャ画像を立体形状モデル1の上面に投影し、また立体形状モデル1の側面の表面テクスチャ画像を反射ミラー2a〜2dを介して立体形状モデル1の側面に投影するプロジェクタ4とを備える。制御装置3には入力装置6が接続される。
【選択図】 図1

Description

本発明は立体表示装置に係り、特に立体形状モデルの表面テクスチャ画像を立体形状モデルに投影して立体表示を行う立体表示装置に関するものである。
複数人でひとつのテーマについて討議するとき、互いの情報、意図あるいは思いなどを共有することで議論を深め、より良い結論を出すというコラボレーションによる会議形態が盛んになってきた。その際、見やすく、また理解しやすい形でデータを提示する目的で立体ディスプレイ(立体表示装置)を用いる機会が増加している。
立体表示技術は現在までにさまざまな形式が提案されている。代表的な例として、偏光メガネとレンチキュラ方式を次に示す。
偏光メガネは主にプロジェクションタイプの立体ディスプレイに適用されるものである。2台のプロジェクタを用い、片方のプロジェクタから左視差画像を縦偏向状態でスクリーンに投影し、もう一方のプロジェクタから右視差画像を横偏向状態で同一スクリーン上に投影する。右側のレンズに横偏向光を透過し縦偏向光を遮断する偏向フィルタを、左側のレンズに縦偏向光を透過し横偏向光を遮断する偏向フィルタを取り付けたメガネを装着する。これにより左目に左視差画像が右目に右視差画像がそれぞれ入射するため立体視することができる。この方式では、まず偏光メガネという特殊なメガネを装着する必要があり、自然なワークスタイルを損なうという問題点がある。また、表示されるのはある視点(ビューポイント)から見たステレオ画像だけであり、眼の位置(アイポジション)を変えても運動視差が生じないため違和感のある立体表示として観測されるという問題点がある。
また、レンチキュラ方式は主に立体表示液晶パネルに適用されるものである。液晶パネルの手前に2画素をカバーするレンチキュラレンズをアレイ状にして設置し、左視差画像を表示する画素を左目の位置に、右視差画像を表示する画素を右目の位置にそれぞれ入射させることによって立体視するものである。この方式では特殊なメガネを装着する必要がないというメリットはあるものの、運動視差が生じないため違和感のある立体表示として観測されるという、上記偏光メガネの場合と同様の問題点がある。立体視できる地点(アイポジション)が最適位置から±10mm程度と非常に狭いため、常にある位置に眼を固定しなければならなず眼精疲労だけでなく肉体疲労を生じやすい。また、同時に立体視できるのはひとりに限られ、データの情報を参加者で共有することができないという問題点がある。
このように、上記偏光メガネやレンチキュラ方式は、複数人で行うコラボレーションに対しては立体表示方式として適切ではない。これに対して、どこからみてもあたかもそこに物体があるような表示をすることができる空間表示方式(Volumetric Display)方式が提唱されている。その代表的な例を以下にいくつか示す。
まず、積層断面投影方式(特許文献1)は、電気的駆動により透明状態または散乱状態となる液晶セルを積層し、表示対象物の断面画像を投射装置により順次投射するものである。1枚の液晶セルのみを散乱状態としその他の液晶セルを透明状態とする。散乱状態の液晶セルを電気的に順次スキャンさせ、該当する断面画像を投射装置から走査に同期させて投影することで立体表示を行う。この方式では、投影する画像自体が断面画像であるため、表面のテクスチャを表現することができないという大きな問題点がある。また、表示される立体画像は内部の画像が透けて見えるいわゆるファントム画像となり実物とはかけ離れた立体表示となってしまうという問題点がある。
また、複数のピンで三次元形状を表示する方式(特許文献2)は、上下に摺動させるためのアクチュエータを取り付けた複数個のピンをマトリクス状に並べ、コンピュータ制御により複数のピンを上下させ三次元形状を表示するものである。また、ピンを透明材料で構成し、形状を表示したピンマトリクスの基板下方からディスプレイにより図形をピン基板に結像させ、上方からピンマトリックスを見て図形を認識するものである。この方式では物体の表面テクスチャを効果的に表現することができないという問題点がある。
さらに、多数の画像表示素子を垂直に移動させる方式(特許文献3)は、三次元情報に基づいて、二次元状に配列した多数の画像表示素子をその配列面に垂直に移動させ、その配列面を変化させるとともに所望の色・輝度でその表面を発光させるものである。また、画像表示素子の表示面をスクリーンで覆い、各画像表示素子毎の色・輝度信号をスクリーン上に投影するものである。この方式も物体の表面テクスチャを効果的に表現することができないという問題点がある。
特開2002−139700公報 特許第2736908号公報 特許第3127447号公報
従って本発明の目的は、立体形状モデルに物体の表面テクスチャを効果的に表現することができる立体表示装置を提供することにある。
上記目的は、立体形状モデルと、前記立体形状モデルの側面に配置された反射ミラーと、前記立体形状モデルの上面および側面の表面テクスチャの画像情報を格納する制御装置と、前記制御装置からの画像情報に基づいて前記立体形状モデルの上面の表面テクスチャ画像を前記立体形状モデルの上面に投影し、前記立体形状モデルの側面の表面テクスチャ画像を前記反射ミラーを介して前記立体形状モデルの側面に投影するプロジェクタとを備えた立体表示装置により、達成される。
ここで、前記立体形状モデルは、高さ制御可能な複数のピンをマトリクス状に配列して構成され、前記各ピンの高さが前記制御装置により制御可能とされたものとすることができる。前記複数のピンは、光を拡散反射する材料で構成されていることが好ましい。また、前記立体形状モデルは成型された造形モデルとすることができる。また、前記反射ミラーはハーフミラーで構成されていることが好ましい。前記反射ミラーは反射面を鉛直方向に対して角度をつけて前記立体形状モデルのまわりに複数設置することができる。前記反射ミラーの反射面は鉛直方向に対して45度未満に設置されることが好ましい。前記反射ミラーは前記立体形状モデルと所定の間隔を空けて設置することが好ましい。
さらに、前記プロジェクタにより投影される画像は、前記立体形状モデルの上面の表面テクスチャ画像と、前記上面の表面テクスチャ画像のまわりに配置された前記立体形状モデルの側面の表面テクスチャ画像とを含むことができる。この場合、前記プロジェクタにより投影される画像の、前記上面の表面テクスチャ画像および側面の表面テクスチャ画像以外の部分は、黒くされていることが好ましい。前記プロジェクタはテレセントリック投影光学レンズを備えることができる。この場合、前記反射ミラーの反射面は鉛直方向に対して45度に設置される。
また、本発明に係る立体表示装置は、形状可変素子により構成された立体形状モデルと、前記立体形状モデルの側面に配置された反射ミラーと、前記立体形状モデルの形状情報並びに前記立体形状モデルの上面および側面の表面テクスチャの画像情報を格納する制御装置と、前記形状情報に基づいて前記形状可変素子を駆動する形状可変素子駆動装置と、前記画像情報に基づいて前記立体形状モデルの上面の表面テクスチャ画像を前記立体形状モデルの上面に投影し、前記立体形状モデルの側面の表面テクスチャ画像を前記反射ミラーを介して前記立体形状モデルの側面に投影するプロジェクタとを備えたものである。ここで、前記制御装置は入力装置を備え、前記入力装置により前記立体形状モデルの形状情報および表面テクスチャの画像情報を変化させることにより、前記立体形状モデルの形状および表面テクスチャ画像を動的に変化させることができる。
さらに、本発明に係る立体表示装置は、立体形状モデルと、前記立体形状モデルの側面に配置された反射ミラーと、前記立体形状モデルの形状情報並びに前記立体形状モデルの上面および側面の表面テクスチャの画像情報を格納する制御装置と、前記制御装置からの画像情報に基づいて前記立体形状モデルの上面の表面テクスチャ画像を前記立体形状モデルの上面に投影し、前記立体形状モデルの側面の表面テクスチャ画像を前記反射ミラーを介して前記立体形状モデルの側面に投影するプロジェクタとを備え、前記制御装置は前記立体形状モデルの幾何的な設置条件を設置パラメータとして格納しており、前記設置パラメータに基づいて前記立体形状モデルの表面テクスチャの画像情報を調整するものである。ここで、前記プロジェクタから前記立体形状モデルにテストパターンを投影し、前記テストパターンをモニタカメラで撮影して前記立体形状モデルの形状計測を行い、前記計測された形状情報と前記格納された形状情報とに基づいて、前記設置パラメータを求めることができる。この前記設置パラメータは、前記立体形状モデルの回転、並進および倍率の少なくとも一つを含むことができる。
本発明に係る立体表示方法は、立体形状モデルの上面および側面の表面テクスチャの画像情報に基づいて、前記立体形状モデルの上面の表面テクスチャ画像を前記立体形状モデルの上面に投影し、前記立体形状モデルの側面の表面テクスチャ画像を反射ミラーを介して前記立体形状モデルの側面に投影するものである。ここで、前記立体形状モデルの側面の表面テクスチャ画像は、前記立体形状モデルの各側面に対応して複数個用意されており、前記複数個の側面の表面テクスチャ画像が対応する複数の反射ミラーを介して前記立体形状モデルの各側面に投影され得る。また、前記立体形状モデルの上面の表面テクスチャ画像および前記立体形状モデルの側面の表面テクスチャ画像は、その大きさ、投影位置および傾きの少なくとも一つについて、それぞれ個別に調整可能とすることができる。
本発明によれば、立体形状モデルに物体の表面テクスチャを効果的に表現することができる立体表示装置を得ることができる。特に本発明では、立体形状モデルの上面だけでなく、その側面に対しても表面テクスチャ画像を投影することができるので、複数人によるコラボレーション作業に適した立体表示装置を実現することができる。また本発明では、高精細なテクスチャ画像を生成しプロジェクタから立体形状モデルに投影することができるので、よりリアルな立体表示装置とすることができる。
以下、本発明の実施例を図を用いて説明する。
図1は、本発明に係る立体表示装置の一実施例を示す構成図である。本実施例は、図示のように、立体形状モデル1と、立体形状モデル1の側面に配置された反射ミラー2a〜2dと、立体形状モデルの上面および側面の表面テクスチャの画像情報を格納する制御装置3と、制御装置3からの画像情報に基づいて立体形状モデル1の上面の表面テクスチャ画像を立体形状モデル1に直接投影し、また立体形状モデル1の側面の表面テクスチャ画像を反射ミラー2a〜2dを介して立体形状モデル1に投影するプロジェクタ4とを備える。制御装置3は、例えばパーソナルコンピュータ(PC)等のコンピュータで構成することができ、操作性を良くするためにマウスやジョイスティックなどの入力装置6を接続することができる。
ここで、立体形状モデル1は、例えば、角柱(ピン)7のような形状可変素子を多数マトリックス状に配列し、その高さを各々制御することにより形状を復元する方式(ピンマトリクス方式)、あるいは、図示しない光硬化樹脂を用いた光造形システムなどによりラフな形状を復元する方式(造形モデル方式)などを適用することができる。
本実施例では角柱を多数配列したピンマトリクス方式で説明する。ピンマトリクス自体は、例えば上記特許文献2に記載のように周知のものである。本発明においては、立体形状モデル1は精密な形状を再現する必要はなく、全体のスケールの2〜3%の精度があれば十分である。例えば100mmの大きさの機械部品を3次元表示するには、2mm〜3mmの断面積を持つ角柱を用いればよい。この角柱(ピン)7は光を拡散反射する材料で構成することが好ましい。角柱7を透明や鏡面材料で構成すると、プロジェクタから投影される表面テクスチャ画像が透過し、または極度に反射され、立体形状モデル1に十分な表面テクスチャを付与することができないからである。
本実施例のようにピンマトリクス方式の立体形状モデル1を用いる場合は、マトリクス状に配列された角柱(形状可変素子)7を駆動するための形状可変素子駆動装置5が設けられる。形状可変素子駆動装置5は、制御装置3および立体形状モデル1に接続され、制御装置3から立体形状モデル1の3次元形状情報を入手し、この情報に基づいて立体形状モデル1を構成する複数の角柱(形状可変素子)7を上下に駆動して、立体形状モデル1を形成する。この場合、入力装置6により立体形状モデル1の形状情報および表面テクスチャの画像情報を変化させることにより、立体形状モデル1の形状および表面テクスチャ画像を動的に変化させることができる。
図2は、立体形状モデル1および反射ミラー2a〜2dをプロジェクタ4のレンズ位置から見下ろした図である。図2の中央には立体形状モデル1の上面が位置し、立体形状モデル1の各側面には反射ミラー2a〜2dの反射面が相対する。ここで、反射ミラー2a〜2dはハーフミラーで構成することが好ましい。反射ミラーの設置により側面から立体形状モデル1が見えなくなるのを防ぐためである。
図3は、立体形状モデル1の上面および側面の表面テクスチャ画像の一例を示す図である。本例は自動車の表面テクスチャ画像であり、これはカラー写真のように色や表面形状等の質感が反映されたものである。本例では、上面の表面テクスチャ画像31、前後左右の側面の表面テクスチャ画像32〜35の合計5種類の投影画像を示している。この表面テクスチャ画像は、制御装置3からの画像情報に基づいて形成されたものである。プロジェクタ4は、この表面テクスチャ画像31〜35をそれぞれ対応する立体形状モデル1および反射ミラー2a〜2dに投射する。なお、プロジェクタ4からの投影画像は、表面テクスチャ画像以外の部分36については黒くすることが好ましい。この部分36が明るいと、光が投射すべき立体形状モデル1の反対側に漏れ、そこでの立体形状モデル1の観察が適さなくなるからである。
図4は、立体形状モデル1および反射ミラー2a〜2dに投影された表面テクスチャ画像を示す図である。立体形状モデル1の上面には対応する上面の表面テクスチャ画像31が投影され、立体形状モデル1の各側面の反射ミラー2a〜2dには対応する前後左右の側面の表面テクスチャ画像32〜35が投影される。
図5は、自動車の右側面の表面テクスチャ画像33を反射ミラー2bを介して立体形状モデル1に投影したときの状態を示す図である。このようにして、プロジェクタ4により、立体形状モデル1の上面の表面テクスチャ画像を立体形状モデル1に直接投影し、また立体形状モデル1の側面の表面テクスチャ画像を反射ミラー2a〜2dを介して立体形状モデル1に投影する。これにより、立体形状モデルに物体のテクスチャを効果的に表現することができるようになる。
このように、本実施例では、物体の形状をラフに形成する立体形状モデルと、物体のテクスチャ画像を投影するためのプロジェクタと、立体形状モデルの側面にテクスチャ画像を投影するための反射ミラーと、立体形状モデルのマトリクス状に配列されたピン(形状可変素子)を駆動するための形状可変素子駆動装置と、立体形状モデルを制御しプロジェクタに投影画像を送出するためのコンピュータ等の制御装置とを備えて構成される。立体表示したい物体が、コンピュータ上で3次元モデリングされているCADデータのようなものであれば、その3次元モデルを基に大まかな形状を立体形状モデルに形成する。また、実物体として存在するものは、たとえば形状計測装置などを用いてその形状を3次元入力し、同様に大まかな形状を立体形状モデルに形成することができる。
制御装置は、物体に係る形状データに基づいて形状可変素子駆動装置を起動させ、立体形状モデルの各ピンを上下動させることにより形状を生成する。また、制御装置は、設置されたプロジェクタ、立体形状モデル、および反射ミラーの位置関係をあらかじめ計測しておき、投影するテクスチャ画像の位置、大きさ、および回転角などのパラメータを算出し、上面投影画像1枚、側面投影画像4枚の高精細なテクスチャ画像を生成しプロジェクタから立体形状モデルに投影させる。
図6は、立体形状モデル、プロジェクタおよび反射ミラーの相対位置関係を示す図である。上面投影画像はプロジェクタから直接立体形状モデルに投影され、側面投影画像は立体形状モデルのまわりに設置された4枚の反射ミラー2a〜2dに反射されて立体形状モデルの側面に投影される。制御装置は、反射ミラー2a〜2dの傾斜角度、プロジェクタ4から反射ミラー2a〜2dまでの距離、および反射ミラー2a〜2dから立体形状モデル1までの距離によって、側面投影画像の大きさ、投影位置、傾きを計算し、これにより生成された投影画像(表面テクスチャ画像)をプロジェクタ4から投影する。これにより投影された各画像が立体形状モデル1の表面上でずれることがなくなる。また、側面投影画像は上面投影画像よりも投影距離が大きくなるため、上面投影画像に比べて小さく表示する必要があるが、これについても制御装置によって制御される。すなわち、制御装置により、上面投影画像および側面投影画像のそれぞれの大きさ、投影位置および傾きの少なくとも一つについて調整可能とされている。
このように本発明では、立体形状モデルの上面および側面の表面テクスチャの画像情報に基づいて、立体形状モデルの上面の表面テクスチャ画像を立体形状モデルの上面に投影し、立体形状モデルの側面の表面テクスチャ画像を反射ミラーを介して立体形状モデルの側面に投影する。立体形状モデルの側面の表面テクスチャ画像は、立体形状モデルの各側面に対応して複数個用意されており、複数個の側面の表面テクスチャ画像が対応する複数の反射ミラーを介して前記立体形状モデルの各側面に投影される。また、前記立体形状モデルの上面の表面テクスチャ画像および立体形状モデルの側面の表面テクスチャ画像は、上述の方法により、その大きさ、投影位置および傾きの少なくとも一つについて、それぞれ個別に調整可能とされる。
図7(a)、(b)は、反射ミラー2dを鉛直方向から約30度の角度に取り付けたときの側面画像投影の様子を表した図である。この場合、図7(a)からわかるように、プロジェクタ4からの表面テクスチャ画像は、反射ミラー2dを介して、立体形状モデル1のほぼ真横から投影することになる。このため、実物体71の側面画像をカメラ72で撮影する場合も、図7(b)に示すように、実物体71のほぼ真横となる位置から撮影する必要がある。こうすれば手前の立体形状モデル1の角部に遮られることなく側面画像を投影することができる。
図8(a)、(b)は、反射ミラーを45度の角度に取り付けたときの側面画像投影の様子を表した図である。この場合、図8(a)からわかるように、プロジェクタ4からの表面テクスチャ画像は、反射ミラー2dを介して、立体形状モデル1の下方から見上げるように投影することになる。このため、実物体81の側面画像をカメラ82で撮影する場合も、図8(b)に示すように、実物体81を下方から見上げるような位置から撮影する必要がある。しかし、この場合、立体形状モデル1の下方から投影するため、立体形状モデル1によっては手前の立体形状モデル1の角部に遮られて側面画像を投影できない部分が現れてしまうことになる。このようなことから、反射ミラーが反射面を鉛直方向に対して角度をつけて設置される場合、反射ミラーの反射面は鉛直方向に対して45度未満に設置することが望ましい。
図9は、反射ミラーを立体形状モデルに近づけすぎた場合の状態を示す図である。このように、反射ミラー2dを立体形状モデル1に近づけすぎると、側面画像が立体形状モデル1の角部に遮られて反射ミラー2dに入射することができない。したがって、反射ミラーと立体形状モデルとは密着させることなく、所定の間隔を設けて設置することが望ましい。
図10はプロジェクタの投影レンズの種類による相違を説明するための図であり、(a)は拡大投影レンズ系を装着した場合、(b)はテレセントリック投影レンズ系を装着した場合をそれぞれ示す図である。図10(a)に示すように、投影レンズとして一般的な拡大投影系レンズ101を用いた場合、立体形状モデル1に平面画像を投影しようとすると、投影距離によって投影画像の拡大率が変化すること、側面投影の場合に手前の立体形状モデル1の角部によって投影画像の一部が遮られてしまうこと、あるいは投影焦点深度が浅いことなどにより、全面にわたり精度よく画像を投影することはできない。これに対して、図10(b)に示すように、例えばレンズ102と103の間に開口絞り104を備えたテレセントリック系投影レンズを用いると、立体形状モデル1に対して鉛直方向に投影光線が進むため、投影画像の拡大率が不変となり、立体形状モデル1に大きな段差があっても投影画像に歪みが生じない。また、反射ミラーを45度に設置すれば側面投影光線は水平になるため上面および側面ともに手前の立体形状モデル1の角部によって投影画像が遮られることがなくなる。さらに、投影焦点深度が深くなるため立体物のどの面にも焦点のあった画像を投影することができる。
図11は、立体形状モデルの設置パラメータ(回転、並進、倍率)を求める方法を説明するための図である。また、図12は、立体形状モデルの設置パラメータを基に投影画像を生成し投影するための方法を示すフローチャートである。図11において、プロジェクタ4とモニタカメラ111は、あらかじめそれぞれ投影レンズおよび撮影レンズのパラメータを校正しておく。校正には格子パターンの校正板などを利用する。以下、図12のフローチャートにそって説明する。
まず、ステップ121にて、プロジェクタ4から立体形状モデル1の範囲だけに事前に用意されたテストパターン112を投影する。テストパターン112はたとえば白黒またはカラーのストライプパターン、あるいは格子パターンなど1枚でも良いし、グレーコードパターンのように数枚で構成されていてもよい。いずれにしても高精度に形状を計測する必要はないので、ごく粗いパターンでかまわない。
次に、ステップ122にて、プロジェクタ4よりテストパターン112が投影された立体形状モデル1をモニタカメラ111で撮影する。そして、ステップ123にて、プロジェクタ4とモニタカメラ111が接続された制御装置(PC)3で、その撮影画像と投影した投影画像とのマッチングを取り、三角法の原理により簡易的な形状計測を行う。制御装置3は、ステップ124にて、得られた形状計測データから立体形状モデルを生成する。この形状モデルのローカル座標系からワールド座標系への変換行列を算出する。
変換行列に関しては、ワールド座標系で表した座標をPoとし、ローカル座標系であらわした座標をPlとしたとき、
Figure 2006338181
と記述することができる。ここで、Rは回転および拡大/縮小行列であり、Tは並進ベクトルである。RとTを求めるにあたって、例えば同一直線状にない3点を一致させる場合には、以下のように求めることができる。ワールド座標系における3点の座標を列ベクトルで記述したものをPo1,Po2,Po3とし、ある測定時におけるそれらの点のローカル座標を列ベクトルで記述したものをPl1,Pl2,Pl3とする。まず、各座標系において、
Figure 2006338181
を算出する。
Figure 2006338181
とすると、回転および拡大/縮小行列Rは以下の式で記述できる。
Figure 2006338181
回転および拡大/縮小行列Rが求まったとき、並進ベクトルTは以下の式で記述できる。
Figure 2006338181
このようにして回転および拡大/縮小行列Rと並進ベクトルTを求めることができる。
次に、ステップ125にて、この設置パラメータ(回転および拡大/縮小行列Rと並進ベクトルT)を基に被立体形状モデルの3次元データから、立体形状モデルの上面および側面の画像情報を生成し、プロジェクタ4から上面の表面テクスチャ画像は立体形状モデルに直接投影し、側面の表面テクスチャ画像は反射ミラーを介して投影する。これにより各投影画像のずれのない高精細なテクスチャを再現することができる。
このように本発明によれば、立体形状モデルに物体の表面テクスチャを効果的に表現することができる。本発明では、立体形状モデルの上面だけでなく、その側面に対しても表面テクスチャ画像を投影することができ、また高精細なテクスチャ画像を生成しプロジェクタから立体形状モデルに投影することができるので、よりリアルな立体表示装置を得ることができる。
本発明においては、例えば3次元CG等で生成された3次元モデルを制御装置(PC)に入力し、これを指定された設置角度情報に基づいて立体形状モデルに形状を復元し、さらにこの設置角度情報に基づいて上面画像および側面画像を生成しプロジェクタから投影する。ここで、制御装置に付属したマウスやジョイスティックなどの入力装置により前記設置角度情報をインタラクティブに変化させることによって、立体形状モデルの復元形状および投影画像を動的に変化させることができる。
また、プロジェクタと立体形状モデルと反射ミラーの幾何的な設置条件をあらかじめ計測して設置パラメータとして制御装置に格納し、その設置パラメータをもとにして制御装置により画像処理を行い、プロジェクタから上面画像および側面画像を適切な倍率、位置、傾きで投影することができる。プロジェクタから立体形状モデルに事前に用意されたテストパターンを投影し、モニタカメラで撮影された画像から設置パラメータを算出し、その設置パラメータをもとにして制御装置により画像処理を行い、プロジェクタから上面画像および側面画像を適切な倍率、位置、傾きで投影することができる。なお、実物体の表面テクスチャを撮影する際、設置パラメータに応じてモニタカメラの位置、傾き、およびズーム倍率が決定される。
本発明は立体表示装置に係り、特に立体形状モデルの表面テクスチャ画像を立体形状モデルに投影して立体表示を行う立体表示装置に関するものであり、産業上の利用可能性がある。
本発明に係る立体表示装置の一実施例を示す構成図である。 立体形状モデルおよび反射ミラーをプロジェクタのレンズ位置から見下ろした図である。 立体形状モデル1の上面および側面の表面テクスチャ画像の一例を示す図である。 立体形状モデルおよび反射ミラーに投影された表面テクスチャ画像を示す図である。 自動車の右側面の表面テクスチャ画像を反射ミラーを介して立体形状モデルに投影したときの状態を示す図である。 立体形状モデル、プロジェクタおよび反射ミラーの相対位置関係を示す図である。 (a)、(b)は、反射ミラー2dを鉛直方向から約30度の角度に取り付けたときの側面画像投影の様子を表した図である。 (a)、(b)は、反射ミラーを45度の角度に取り付けたときの側面画像投影の様子を表した図である。 反射ミラーを立体形状モデルに近づけすぎた場合の状態を示す図である。 プロジェクタの投影レンズの種類による相違を説明するための図であり、(a)は拡大投影レンズ系を装着した場合、(b)はテレセントリック投影レンズ系を装着した場合をそれぞれ示す図である。 立体形状モデルの設置パラメータ(回転、並進、倍率)を求める方法を説明するための図である。 立体形状モデルの設置パラメータを基に投影画像を生成し投影するための方法を示すフローチャートである。
符号の説明
1 立体形状モデル
2a〜2d 反射ミラー
3 制御装置
4 プロジェクタ
5 形状可変素子駆動装置
6 入力装置
7 角柱(形状可変素子)

Claims (20)

  1. 立体形状モデルと、前記立体形状モデルの側面に配置された反射ミラーと、前記立体形状モデルの上面および側面の表面テクスチャの画像情報を格納する制御装置と、前記制御装置からの画像情報に基づいて前記立体形状モデルの上面の表面テクスチャ画像を前記立体形状モデルの上面に投影し、前記立体形状モデルの側面の表面テクスチャ画像を前記反射ミラーを介して前記立体形状モデルの側面に投影するプロジェクタとを備えたことを特徴とする立体表示装置。
  2. 前記立体形状モデルが高さ制御可能な複数のピンをマトリクス状に配列して構成され、前記各ピンの高さが前記制御装置により制御可能とされたことを特徴とする請求項1に記載の立体表示装置。
  3. 前記複数のピンが光を拡散反射する材料で構成されていることを特徴とする請求項2に記載の立体表示装置。
  4. 前記立体形状モデルが、成型された造形モデルであることを特徴とする請求項1に記載の立体表示装置。
  5. 前記反射ミラーがハーフミラーで構成されていることを特徴とする請求項1〜4のいずれかに記載の立体表示装置。
  6. 前記反射ミラーが反射面を鉛直方向に対して角度をつけて前記立体形状モデルのまわりに複数設置されたことを特徴とする請求項1〜5のいずれかに記載の立体表示装置。
  7. 前記反射ミラーの反射面が鉛直方向に対して45度未満に設置されたことを特徴とする請求項6に記載の立体表示装置。
  8. 前記反射ミラーが前記立体形状モデルと所定の間隔を空けて設置されたことを特徴とする請求項1〜7のいずれかに記載の立体表示装置。
  9. 前記プロジェクタにより投影される画像が、前記立体形状モデルの上面の表面テクスチャ画像と、前記上面の表面テクスチャ画像のまわりに配置された前記立体形状モデルの側面の表面テクスチャ画像とを含むことを特徴とする請求項1〜8のいずれかに記載の立体表示装置。
  10. 前記プロジェクタにより投影される画像の、前記上面の表面テクスチャ画像および側面の表面テクスチャ画像以外の部分が、黒くされていることを特徴とする請求項9に記載の立体表示装置。
  11. 前記プロジェクタがテレセントリック投影光学レンズを備えたことを特徴とする請求項1〜10のいずれかに記載の立体表示装置。
  12. 前記反射ミラーの反射面が鉛直方向に対して45度に設置されたことを特徴とする請求項11に記載の立体表示装置。
  13. 形状可変素子により構成された立体形状モデルと、前記立体形状モデルの側面に配置された反射ミラーと、前記立体形状モデルの形状情報並びに前記立体形状モデルの上面および側面の表面テクスチャの画像情報を格納する制御装置と、前記形状情報に基づいて前記形状可変素子を駆動する形状可変素子駆動装置と、前記画像情報に基づいて前記立体形状モデルの上面の表面テクスチャ画像を前記立体形状モデルの上面に投影し、前記立体形状モデルの側面の表面テクスチャ画像を前記反射ミラーを介して前記立体形状モデルの側面に投影するプロジェクタとを備えたことを特徴とする立体表示装置。
  14. 前記制御装置が入力装置を備え、前記入力装置により前記立体形状モデルの形状情報および表面テクスチャの画像情報を変化させることにより、前記立体形状モデルの形状および表面テクスチャ画像を動的に変化させることを特徴とする請求項13に記載の立体表示装置。
  15. 立体形状モデルと、前記立体形状モデルの側面に配置された反射ミラーと、前記立体形状モデルの形状情報並びに前記立体形状モデルの上面および側面の表面テクスチャの画像情報を格納する制御装置と、前記制御装置からの画像情報に基づいて前記立体形状モデルの上面の表面テクスチャ画像を前記立体形状モデルの上面に投影し、前記立体形状モデルの側面の表面テクスチャ画像を前記反射ミラーを介して前記立体形状モデルの側面に投影するプロジェクタとを備え、前記制御装置は前記立体形状モデルの幾何的な設置条件を設置パラメータとして格納しており、前記設置パラメータに基づいて前記立体形状モデルの表面テクスチャの画像情報を調整することを特徴とする立体表示装置。
  16. 前記プロジェクタから前記立体形状モデルにテストパターンを投影し、前記テストパターンをモニタカメラで撮影して前記立体形状モデルの形状計測を行い、前記計測された形状情報と前記格納された形状情報とに基づいて、前記設置パラメータが求められることを特徴とする請求項15に記載の立体表示装置。
  17. 前記設置パラメータが、前記立体形状モデルの回転、並進および倍率の少なくとも一つを含むことを特徴とする請求項15または16に記載の立体表示装置。
  18. 立体形状モデルの上面および側面の表面テクスチャの画像情報に基づいて、前記立体形状モデルの上面の表面テクスチャ画像を前記立体形状モデルの上面に投影し、前記立体形状モデルの側面の表面テクスチャ画像を反射ミラーを介して前記立体形状モデルの側面に投影することを特徴とする立体表示方法。
  19. 前記立体形状モデルの側面の表面テクスチャ画像が、前記立体形状モデルの各側面に対応して複数個用意されており、前記複数個の側面の表面テクスチャ画像が対応する複数の反射ミラーを介して前記立体形状モデルの各側面に投影されることを特徴とする請求項18に記載の立体表示方法。
  20. 前記立体形状モデルの上面の表面テクスチャ画像および前記立体形状モデルの側面の表面テクスチャ画像が、その大きさ、投影位置および傾きの少なくとも一つについて、それぞれ個別に調整可能とされることを特徴とする請求項18または19に記載の立体表示方法。
JP2005160118A 2005-05-31 2005-05-31 立体表示装置 Expired - Fee Related JP4274154B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2005160118A JP4274154B2 (ja) 2005-05-31 2005-05-31 立体表示装置
US11/251,871 US7852333B2 (en) 2005-05-31 2005-10-18 Three-dimensional volumetric display apparatus and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005160118A JP4274154B2 (ja) 2005-05-31 2005-05-31 立体表示装置

Publications (2)

Publication Number Publication Date
JP2006338181A true JP2006338181A (ja) 2006-12-14
JP4274154B2 JP4274154B2 (ja) 2009-06-03

Family

ID=37461777

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005160118A Expired - Fee Related JP4274154B2 (ja) 2005-05-31 2005-05-31 立体表示装置

Country Status (2)

Country Link
US (1) US7852333B2 (ja)
JP (1) JP4274154B2 (ja)

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009014137A1 (ja) 2007-07-26 2009-01-29 Panasonic Electric Works Co., Ltd. 照明装置
WO2009051054A1 (ja) 2007-10-17 2009-04-23 Panasonic Electric Works Co., Ltd. 照明装置
WO2009104550A1 (ja) 2008-02-22 2009-08-27 パナソニック電工株式会社 光投影装置、照明装置
JP2009239591A (ja) * 2008-03-27 2009-10-15 Fuji Xerox Co Ltd 立体投影装置
KR100926838B1 (ko) 2009-01-13 2009-11-12 주식회사 에이스엠이 홀로그램을 이용한 영상광고 시스템
JP2010015996A (ja) * 2007-07-26 2010-01-21 Panasonic Electric Works Co Ltd 照明装置
JP2010091899A (ja) * 2008-10-10 2010-04-22 Fuji Xerox Co Ltd 立体投影装置
JP2011085686A (ja) * 2009-10-14 2011-04-28 Hara Seisakusho:Kk 立体表示方法及び装置
JP2011150221A (ja) * 2010-01-25 2011-08-04 Seiko Epson Corp 映像出力装置搭載機器、映像出力装置の投影方法
JP2011530209A (ja) * 2008-07-30 2011-12-15 マイクロビジョン,インク. 走査された光線のオーバーレイ投影
JP2014032304A (ja) * 2012-08-03 2014-02-20 National Institute Of Advanced Industrial & Technology 情報処理装置、情報処理方法及びプログラム
JP2014089242A (ja) * 2012-10-29 2014-05-15 Casio Comput Co Ltd 画像処理装置、映像データ補正方法及びプログラム
KR101747172B1 (ko) * 2015-05-20 2017-06-14 (주)씨소 3d 스캔 영상 생성 장치 및 방법
WO2019098686A1 (ko) * 2017-11-15 2019-05-23 주식회사 고영테크놀러지 검사 장치

Families Citing this family (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8355019B2 (en) * 2007-11-02 2013-01-15 Dimension Technologies, Inc. 3D optical illusions from off-axis displays
US8384005B2 (en) 2008-06-17 2013-02-26 The Invention Science Fund I, Llc Systems and methods for selectively projecting information in response to at least one specified motion associated with pressure applied to at least one projection surface
US8723787B2 (en) 2008-06-17 2014-05-13 The Invention Science Fund I, Llc Methods and systems related to an image capture projection surface
US8267526B2 (en) 2008-06-17 2012-09-18 The Invention Science Fund I, Llc Methods associated with receiving and transmitting information related to projection
US8944608B2 (en) 2008-06-17 2015-02-03 The Invention Science Fund I, Llc Systems and methods associated with projecting in response to conformation
US8733952B2 (en) 2008-06-17 2014-05-27 The Invention Science Fund I, Llc Methods and systems for coordinated use of two or more user responsive projectors
US8308304B2 (en) 2008-06-17 2012-11-13 The Invention Science Fund I, Llc Systems associated with receiving and transmitting information related to projection
US8820939B2 (en) 2008-06-17 2014-09-02 The Invention Science Fund I, Llc Projection associated methods and systems
US8376558B2 (en) 2008-06-17 2013-02-19 The Invention Science Fund I, Llc Systems and methods for projecting in response to position change of a projection surface
US8540381B2 (en) 2008-06-17 2013-09-24 The Invention Science Fund I, Llc Systems and methods for receiving information associated with projecting
US20090310038A1 (en) 2008-06-17 2009-12-17 Searete Llc, A Limited Liability Corporation Of The State Of Delaware Projection in response to position
US20090309826A1 (en) 2008-06-17 2009-12-17 Searete Llc, A Limited Liability Corporation Of The State Of Delaware Systems and devices
US8608321B2 (en) * 2008-06-17 2013-12-17 The Invention Science Fund I, Llc Systems and methods for projecting in response to conformation
US8936367B2 (en) 2008-06-17 2015-01-20 The Invention Science Fund I, Llc Systems and methods associated with projecting in response to conformation
US8641203B2 (en) 2008-06-17 2014-02-04 The Invention Science Fund I, Llc Methods and systems for receiving and transmitting signals between server and projector apparatuses
WO2012102391A1 (ja) * 2011-01-27 2012-08-02 京セラ株式会社 車両の走行支援装置
US8746889B2 (en) 2011-10-27 2014-06-10 Delphi Technologies, Inc. Auto-variable perspective autostereoscopic 3D display
US9186470B2 (en) * 2012-02-08 2015-11-17 Apple Inc. Shape reflector and surface contour mapping
US8823641B2 (en) * 2012-05-22 2014-09-02 Delphi Technologies, Inc. System for projecting 3D images and detecting gestures
AU2014233524B2 (en) 2013-03-15 2018-03-22 The Coca-Cola Company Display devices
JP7074966B2 (ja) 2016-09-26 2022-05-25 ザ コカ・コーラ カンパニー ディスプレイ装置
US10586379B2 (en) * 2017-03-08 2020-03-10 Ebay Inc. Integration of 3D models
US11734477B2 (en) * 2018-03-08 2023-08-22 Concurrent Technologies Corporation Location-based VR topological extrusion apparatus
CN109709760A (zh) * 2018-06-08 2019-05-03 李超 粒子投射空间成像系统
US11727656B2 (en) 2018-06-12 2023-08-15 Ebay Inc. Reconstruction of 3D model with immersive experience
DE102021126817A1 (de) * 2021-10-15 2023-04-20 Audi Aktiengesellschaft Verfahren zum Ansteuern einer Leuchteinrichtung eines Kraftfahrzeugs

Family Cites Families (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3619065A (en) * 1967-07-29 1971-11-09 Kenneth Leslie Agnew Verification of three-dimensional shapes by means of contour lines
US3773404A (en) * 1972-06-30 1973-11-20 Western Electric Co Telecentric lens
JP2677351B2 (ja) 1986-10-31 1997-11-17 池上通信機 株式会社 立体状被検体外面検査装置
JP2736908B2 (ja) * 1988-12-28 1998-04-08 株式会社日立製作所 形状入出力装置
JP3127447B2 (ja) * 1990-05-08 2001-01-22 ソニー株式会社 立体表示装置
JPH05249428A (ja) 1992-03-05 1993-09-28 Koudo Eizou Gijutsu Kenkyusho:Kk 投影システム
US5394202A (en) * 1993-01-14 1995-02-28 Sun Microsystems, Inc. Method and apparatus for generating high resolution 3D images in a head tracked stereo display system
US5945966A (en) * 1996-10-02 1999-08-31 The United States Of America As Represented By The Secretary Of The Navy Computer program for a three-dimensional volumetric display
JPH08205197A (ja) 1995-01-27 1996-08-09 Hitachi Ltd ヒューマンインタフェース装置
US5793918A (en) 1997-03-03 1998-08-11 Hogan; Richard J. Movable 3d display
JP3900446B2 (ja) 1998-06-19 2007-04-04 株式会社東京大学Tlo 画像表示方法及び装置
US6462840B1 (en) * 1999-05-17 2002-10-08 Grigory Kravtsov Three dimensional monitor and tactile scanner
JP2000352695A (ja) 1999-06-11 2000-12-19 Minolta Co Ltd 映像表示装置
US6700563B1 (en) * 2000-09-29 2004-03-02 Intel Corporation 3D encoder
JP3941379B2 (ja) * 2000-11-02 2007-07-04 セイコーエプソン株式会社 投射型立体表示装置
JP2003131319A (ja) 2001-10-25 2003-05-09 Seiko Epson Corp 光送受装置
US7058239B2 (en) * 2001-10-29 2006-06-06 Eyesee360, Inc. System and method for panoramic imaging
JP4089299B2 (ja) 2002-05-31 2008-05-28 松下電工株式会社 投影型ディスプレイ
US6625088B1 (en) * 2002-07-26 2003-09-23 Daka Development Ltd. (Hong Kong Corporation) Pin display device
JP2005070687A (ja) 2003-08-28 2005-03-17 Nec Viewtechnology Ltd オートフォーカス機能をもつプロジェクタ
US7125122B2 (en) * 2004-02-02 2006-10-24 Sharp Laboratories Of America, Inc. Projection system with corrective image transformation
JP2005252914A (ja) 2004-03-08 2005-09-15 Univ Waseda 双方向コミュニケーションシステム
JP2006085135A (ja) 2005-03-14 2006-03-30 Hitachi Ltd 立体表示装置
JP4791754B2 (ja) 2005-04-28 2011-10-12 日本放送協会 立体像提示装置
EP2016578A4 (en) * 2006-04-25 2013-03-27 Univ Oklahoma LUMINOUS SURFACE DISPLAY DEVICE FOR RENDERING A THREE DIMENSIONAL IMAGE
JP4111231B2 (ja) * 2006-07-14 2008-07-02 富士ゼロックス株式会社 立体表示システム

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010015996A (ja) * 2007-07-26 2010-01-21 Panasonic Electric Works Co Ltd 照明装置
US8421849B2 (en) 2007-07-26 2013-04-16 Panasonic Corporation Lighting apparatus
WO2009014137A1 (ja) 2007-07-26 2009-01-29 Panasonic Electric Works Co., Ltd. 照明装置
US8730320B2 (en) 2007-10-17 2014-05-20 Panasonic Corporation Lighting apparatus
WO2009051054A1 (ja) 2007-10-17 2009-04-23 Panasonic Electric Works Co., Ltd. 照明装置
WO2009104550A1 (ja) 2008-02-22 2009-08-27 パナソニック電工株式会社 光投影装置、照明装置
US8899760B2 (en) 2008-02-22 2014-12-02 Panasonic Corporation Light projection apparatus and lighting apparatus
KR101187500B1 (ko) 2008-02-22 2012-10-02 파나소닉 주식회사 광 투영 장치, 조명 장치
JP2009239591A (ja) * 2008-03-27 2009-10-15 Fuji Xerox Co Ltd 立体投影装置
JP2011530209A (ja) * 2008-07-30 2011-12-15 マイクロビジョン,インク. 走査された光線のオーバーレイ投影
JP2010091899A (ja) * 2008-10-10 2010-04-22 Fuji Xerox Co Ltd 立体投影装置
KR100926838B1 (ko) 2009-01-13 2009-11-12 주식회사 에이스엠이 홀로그램을 이용한 영상광고 시스템
JP2011085686A (ja) * 2009-10-14 2011-04-28 Hara Seisakusho:Kk 立体表示方法及び装置
JP2011150221A (ja) * 2010-01-25 2011-08-04 Seiko Epson Corp 映像出力装置搭載機器、映像出力装置の投影方法
JP2014032304A (ja) * 2012-08-03 2014-02-20 National Institute Of Advanced Industrial & Technology 情報処理装置、情報処理方法及びプログラム
JP2014089242A (ja) * 2012-10-29 2014-05-15 Casio Comput Co Ltd 画像処理装置、映像データ補正方法及びプログラム
KR101747172B1 (ko) * 2015-05-20 2017-06-14 (주)씨소 3d 스캔 영상 생성 장치 및 방법
WO2019098686A1 (ko) * 2017-11-15 2019-05-23 주식회사 고영테크놀러지 검사 장치

Also Published As

Publication number Publication date
US20060266135A1 (en) 2006-11-30
US7852333B2 (en) 2010-12-14
JP4274154B2 (ja) 2009-06-03

Similar Documents

Publication Publication Date Title
JP4274154B2 (ja) 立体表示装置
JP4111231B2 (ja) 立体表示システム
US9357206B2 (en) Systems and methods for alignment, calibration and rendering for an angular slice true-3D display
US8704878B2 (en) Image display apparatus and image display method
JP6677385B2 (ja) 立体表示装置及び視差画像補正方法
JPH0974573A (ja) 立体cg画像生成装置
CN111856775B (zh) 显示设备
JP2008146221A (ja) 画像表示システム
JP4546505B2 (ja) 空間映像投映装置及びその方法
WO2011091660A1 (zh) 三维立体成像方法、系统和成像设备
JPWO2012070103A1 (ja) 立体画像表示装置および方法
JPH09238369A (ja) 3次元像表示装置
JP5058689B2 (ja) 質感映像表示装置
Miyazaki et al. Floating three-dimensional display viewable from 360 degrees
JP2009524087A (ja) 肉眼視対応の液晶シャッター光フィルタ立体画像表示装置及びその表示方法
Miyazaki et al. Volumetric display using a roof mirror grid array
JP2006030507A (ja) 三次元空間画像表示装置及び三次元空間画像表示方法
JP6019810B2 (ja) 表示装置、撮影方法、および表示方法
JP3789332B2 (ja) 三次元表示装置
JP2010160362A (ja) 3次元表示装置、3次元表示方法、3次元表示物体、3次元画像作成装置、3次元画像作成方法、プログラムおよび記録媒体
CN101159881A (zh) 裸眼可视液晶光栅立体图像显示装置
JP3739350B2 (ja) 三次元表示装置
JPH0634343A (ja) 複数視点3次元画像入力装置、画像合成装置、及びその画像出力装置
US10605968B2 (en) Imaging system
JP3739348B2 (ja) 三次元表示装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080317

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20081020

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20081111

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081118

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090116

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090210

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090223

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120313

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130313

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130313

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140313

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees