JP4217008B2 - カメラワークシミュレータ及びシミュレーション方法 - Google Patents

カメラワークシミュレータ及びシミュレーション方法 Download PDF

Info

Publication number
JP4217008B2
JP4217008B2 JP2001219466A JP2001219466A JP4217008B2 JP 4217008 B2 JP4217008 B2 JP 4217008B2 JP 2001219466 A JP2001219466 A JP 2001219466A JP 2001219466 A JP2001219466 A JP 2001219466A JP 4217008 B2 JP4217008 B2 JP 4217008B2
Authority
JP
Japan
Prior art keywords
camera
information
camera work
shooting
work
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2001219466A
Other languages
English (en)
Other versions
JP2003032515A (ja
Inventor
斉周 浜口
林  正樹
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Broadcasting Corp
Original Assignee
Japan Broadcasting Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Japan Broadcasting Corp filed Critical Japan Broadcasting Corp
Priority to JP2001219466A priority Critical patent/JP4217008B2/ja
Publication of JP2003032515A publication Critical patent/JP2003032515A/ja
Application granted granted Critical
Publication of JP4217008B2 publication Critical patent/JP4217008B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Studio Devices (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、テレビジョン番組制作、映画製作、映像制作およびイベント等における撮影状況をコンピュータシミュレーションによって模擬するためのシミュレータ及びミュレーション方法に関し、特に、カメラワークをCG(Computer Graphics)技術を用いて模擬するためのカメラワークシミュレータ及びシミュレーション方法に関する。
【0002】
【従来の技術】
近年、テレビ放送は多チャンネル化の時代を迎え、質を維持しながら効率的に番組を制作することが求められている。このような要請に応えるため、カメラの動きやカット割り等の、本来、リハーサルを行って決めていくべきカメラワークを、シミュレーションを行って決めていく方法やシステムが提案されている。
【0003】
従来のシミュレーション技術は、三次元CG技術によってモデル化したスタジオセット内に実体を持たない仮想的なカメラを1台設置して、その仮想的なカメラを操作することによってカメラワークをシミュレートするものであった(特願平11−301013号公報)。そして、従来のシミュレーションシステムは、実際のカメラ操作に重点を置いているため、カメラワークのトレーニングツールとして用いられる場合が多かった。
【0004】
【発明が解決しようとする課題】
しかしながら、従来のカメラワークのシミュレーション技術では、現在のテレビジョン番組制作等において一般的に採用されているマルチカメラシステムと呼ばれる、複数のカメラで同時に撮影し、状況に応じてカメラ映像を切り替えて映像出力する撮影方式での撮影を、実際に撮影しているように模擬できないという問題がある。
【0005】
また、マルチカメラシステムでは、あるカメラで撮影しているときに他のカメラが視野に入ってしまう「かぶり」が発生し、これを回避しなければならないが、従来のシミュレーション技術では、CG技術によって模擬されるカメラには実体がなく、単にカメラ位置に視点が設定されているだけであるため、あるカメラが他のカメラを映す場面をシミュレーションによって模擬しても、「かぶり」を再現できないという問題がある。
【0006】
また、従来のシミュレーション技術では、カメラで撮影した映像しか再現できないため、注目するカメラが、現在、どのような状況下にあるかを把握するのは困難であるという問題がある。例えば、カメラがドリーバック(ズームせずに後ろに下がるカメラワーク)しようとする場合に、カメラの後ろの状況は把握できなかった。
【0007】
また、CG技術でモデル化されたカメラに実体を表す性質が付与されていないため、複数のカメラがフロア上で衝突することや、重さに由来してカメラの移動速度に限界があること等、現実のカメラの動きや複数のカメラを操作する場合に生じる事柄を、シミュレーションによって正しく模擬できないという問題がある。
【0008】
本発明は、かかる問題を解決するためになされたものであり、その目的は、実際のカメラワークのように撮影の際のカメラワークを模擬できるカメラワークシミュレータ及びシミュレーション方法を提供することである。
【0009】
【課題を解決するための手段】
以上の点を考慮して、請求項1に係る発明は、撮影場を含む撮影シーンをモデル化した3次元シーンをCG(Computer Graphics)技術を用いて生成するシーン構成手段と、前記撮影場内に配置される撮影カメラの操作の情報であるカメラワーク情報を入力するためのカメラワーク入力手段と、前記撮影カメラのモデルであって、前記撮影カメラの形状および重さを含む物理的性質が付与されたカメラ型CGモデルの情報を収集するカメラ情報収集手段と、前記3次元シーンの情報、前記カメラワーク情報および前記カメラ型CGモデルの情報とを統合する情報統合手段と、前記情報統合手段によって統合された情報に基づいて前記撮影カメラによって撮影された模擬映像を生成する映像生成手段とを備えた構成を有している。
【0010】
この構成により、3次元シーン、物理的性質が付与されたカメラ及びそのカメラワークが統合されて模擬できるため、マルチカメラシステムでの撮影を実際に撮影しているように模擬することが可能なカメラワークシミュレータを実現することができる。
【0011】
また、請求項2に係る発明は、請求項1において、さらに、前記情報統合手段で統合された情報に基づいて、カメラワークによる所定のエラーを検出して表示または発音するエラー検出手段を備えた構成を有している。
この構成により、カメラワークが原因の映像制作上のエラーを検出して表示等によって知らされるため、リハーサルに頼らずに番組制作が可能となるカメラワークシミュレータを実現することができる。
【0012】
また、請求項3に係る発明は、請求項2において、さらに、前記入力されたカメラワークの情報及び前記カメラ型CGモデルの情報を含む情報を格納するためのカメラデータ格納手段を備えた構成を有している。
この構成により、入力されたカメラワークの情報やカメラ型CGモデルの情報等を格納することができるため、カメラワークの修正が可能なカメラワークシミュレータを実現することができる。
【0013】
また、請求項4に係る発明は、撮影場を含む撮影シーンをモデル化した3次元シーンをCG(Computer Graphics)技術を用いて生成するシーン構成ステップと、前記撮影場内に配置される撮影カメラの操作の情報であるカメラワーク情報を設定するためのカメラワーク設定ステップと、前記撮影カメラのモデルであって、前記撮影カメラの形状および重さを含む物理的性質が付与されたカメラ型CGモデルの情報を収集するカメラ情報収集ステップと、前記3次元シーンの情報、前記カメラワーク情報および前記カメラ型CGモデルの情報とを統合する情報統合ステップと、前記情報統合ステップで統合された情報に基づいて前記撮影カメラによって撮影された模擬映像を生成する映像生成ステップとを備えた構成を有している。
【0014】
この構成により、3次元シーン、物理的性質が付与されたカメラ及びそのカメラワークが統合されて模擬できるため、マルチカメラシステムでの撮影を実際に撮影しているように模擬することが可能なカメラワークシミュレーション方法を実現することができる。
【0015】
また、請求項5に係る発明は、請求項4において、さらに、前記情報統合ステップで統合された情報に基づいて、カメラワークによる所定のエラーを検出して表示または発音するエラー検出ステップを備えた構成を有している。
この構成により、カメラワークが原因の映像制作上のエラーを検出して表示等によって知らされるため、リハーサルに頼らずに番組制作が可能となるカメラワークシミュレーション方法を実現することができる。
【0016】
【発明の実施の形態】
以下、添付図面を参照し、本発明の第1の実施の形態に係るカメラワークシミュレータについて説明する。
図1に、第1の実施の形態に係るカメラワークシミュレータのブロック構成図を示す。図1において、カメラワークシミュレータ100は、シーン構成部101、カメラワーク入力部102、カメラ選択部103、カメラ情報収集部104、情報統合部105、カメラデータ格納部106、映像生成部107〜111、エラー検出部112、及び映像表示部113〜117から構成される。
【0017】
シーン構成部101には、出演者の居場所、台詞、動き、舞台構成その他の背景等をデータ化した番組データが、カメラワークシミュレータ100の外部から入力される。この入力は、例えば、カメラワークシミュレータ100のユーザ自信が直接入力するのでも、ファイル等の形式で入力するのでも良い。シーン構成部101は、この番組データに規定された出演者の居場所、台詞、動き、舞台の構成その他の背景等の情報に基づいて、撮影対象をモデル化して3次元シーンを生成し、シーン情報として情報統合部105に出力する。
【0018】
カメラワーク入力部102には、ユーザがカメラワーク入力部102を操作することによって、パン、チルト、ズーム、ドリーイン等の予め用意されたメニューの中から、所望のカメラワークが入力される。カメラワーク入力部102は、ユーザによって入力されたカメラワークを予め決められた対応関係に従ってデジタル信号に変換してカメラ情報収集部104に出力する。なお、カメラワーク入力部102を介して、ユーザがカメラワークシミュレータ100を操作する上で必要となる制御情報等のその他のデータをも入力することができる。
【0019】
カメラ選択部(スイッチャー)3には、カメラワーク入力部102と同様に、ユーザがカメラ選択部103を操作することによって、カメラワークを模擬するカメラの選択または切替情報が入力される。カメラ選択部103は、ユーザによって入力されたカメラ選択の情報を予め決められて対応関係に従ってデジタル信号に変換してカメラ情報収集部104に出力する。
【0020】
カメラ情報収集部104は、カメラワーク入力部102及びカメラ選択部103から出力されるデータ及びカメラデータ格納部106からのデータを収集すると共に解析する。この解析の結果、どのカメラがどこに位置し、どのような視点を有しているか、どのカメラをどのようにカメラワークさせるか等が決定される。カメラ情報収集部104は、カメラワークに関する情報やカメラに関する情報をカメラワーク情報として情報統合部105に出力する。
【0021】
また、カメラ情報収集部104は、収集したデータおよび解析して得られた情報を、カメラワーク入力部102から入力された制御情報に基づいて、または予め決められている制御に従って、カメラデータ格納部106に蓄積することも可能である。これらの蓄積データは、カメラワークを修正するために、シーンの途中から再生してカメラワークをやり直す場合等に利用できる。
【0022】
また、カメラデータ格納部106には、カメラについての形状、カメラが回転する際の速度の上限等、カメラワークを現実的に模擬するのに必要なカメラの情報やそれを取り込んで得られたカメラ型CGモデル等が格納される。これらの情報は、カメラ情報収集部104の制御に従って出し入れされる。
【0023】
情報統合部105は、シーン構成部101から出力されたシーン情報とカメラ情報収集部104から出力されたカメラワーク情報とに基づいて、設定された3次元シーンと各カメラの視点の設定や移動等のカメラワークとを統合する。情報統合部105で統合された情報は、モデル化された各カメラに対応する映像生成部107〜111及びエラー検出部112に出力される。
【0024】
映像生成部107〜111は、模擬されたカメラワークによって得られる映像をカメラ毎に生成する。ここで得られる映像には、カメラの形状や重量等の物理的な要素が考慮され、現実的なカメラワークが模擬され、模擬されたカメラワークに応じて映像情報が生成される。映像生成部107〜111によって生成された各映像情報は、対応する映像表示部113〜117に出力される。
【0025】
映像表示部113〜117は、映像生成部107〜111から出力された映像情報を用いて、模擬されたカメラワークに応じた映像を表示する。例えば、映像表示部113には、図1に示すように俯瞰表示が行われ、映像表示部14〜16には、カメラ1〜Nまでの映像が表示され、映像表示部17には、番組映像として出力される映像が表示される。なお、この例では、配置されているカメラの台数をN台とした。
【0026】
エラー検出部112は、情報統合部105によって統合された3次元シーンとカメラワークの情報に基づいて、「かぶり」の発生やカメラの衝突の発生等を検出する処理を行う。そして、「かぶり」やカメラの衝突が検出された場合は、それらの事象毎にアラームを発する。このアラームを認識したユーザは、アラームの原因となったカメラワークを回避するように、カメラワーク入力部102から修正のための再入力を行うことができる。
【0027】
また、ユーザは、映像生成部9によって生成され、映像表示部113に表示された俯瞰映像を観察しながら操作することで各カメラ1〜Nおよび出演者や、いわゆる小道具等の位置関係を把握しながら各カメラを操作することができる。また、カメラワークのシミュレーションによって得られた結果を、カメラワーク入力部102からの入力、その他の制御によってカメラデータ格納部106に記憶しておくことができるのでも良い。
【0028】
CG映像中の模擬される各カメラの視点位置には、例えば図2に示すようなカメラ型CGモデルが設定される。このようなモデルを設定することによって、「かぶり」を模擬できる。シミュレーションで設定した3次元シーンの俯瞰映像(CG映像)の例を図3に示す。図3には、被写体とそれを撮影するための3台のカメラが、それぞれCGモデル301〜303によって表示されている。この3次元シーンをカメラ型CGモデル301が撮影したものとして模擬された映像を図4に示す。図4に示す例では、被写体のほかに他のカメラモデルが映り、「かぶり」が生じていることが模擬されている。
【0029】
以下、図5を参照して、本発明の第1の実施の形態に係るカメラワークシミュレーション方法について説明する。図5は、本発明の第1の実施の形態に係るカメラワークシミュレーション方法における処理の流れを示すフローチャートである。
ステップS501で、シーン構成部101は、出演者の居場所、台詞、動き、舞台構成その他の背景等をデータ化した番組データの取り込みを行う。
【0030】
ステップS502で、シーン構成部101は、この番組データに規定された出演者の居場所、台詞、動き、舞台の構成その他の背景等の情報に基づいて、撮影対象をモデル化して3次元シーンを生成し、シーン情報として情報統合部105に出力する。
ステップS503で、カメラ情報収集部104は、カメラ選択部103を介して選択されたカメラのモデルを設定する。この処理は、カメラデータ格納部106に予め格納されているカメラのモデルをカメラ情報収集部104が読み込むことによって行うのでも良い。このカメラ型CGモデルは、カメラワークを現実に模擬できるようにカメラの形状やカメラが回転する際の速度の限界等を取り込んだものである。
【0031】
ステップS504で、カメラ情報収集部104は、カメラ選択部103によって選択されたカメラの、パン、チルト、ズーム、ドリーイン等のカメラワークに関する情報を、カメラワーク入力部102を介して取り込み、模擬するカメラワークを設定する。
ステップS505で、情報統合部105は、シーン構成部101から出力されたシーン情報とカメラ情報収集部104から出力されたカメラワーク情報とに基づいて、設定された3次元シーンと各カメラの視点の設定や移動等のカメラワークとを統合する。
【0032】
ステップS506で、エラー検出部112は、情報統合部105で統合されたデータに基づいて、「かぶり」やカメラの衝突等のカメラワークのエラーを判断する。エラーと判断された場合、処理はステップS507に移り、エラーが検出されない場合、処理はS508に進む。
【0033】
ステップS506でエラーと判断された場合、ステップS507で、エラー検出部112は、エラーの表示をする処理や、警告音を発する処理を行う。なお、当然ではあるが、これらの表示等は生じたエラーの内容毎に異なる。
ステップS508で、映像生成部107〜111は、対応する各カメラの模擬されたカメラワークによって得られる映像を生成する。ここで得られる映像は、カメラの形状や重量等の物理的な要素が考慮された現実的なものである。
【0034】
ステップS509で、映像表示部113〜117は、映像生成部107〜111から出力された映像情報を用いて、模擬されたカメラワークに応じた映像を表示する。例えば、映像表示部113には、図1に示すように俯瞰表示が行われ、映像表示部114〜116には、カメラ1〜Nまでの映像が表示され、映像表示部117には、番組映像として出力される映像が表示される。
【0035】
ステップS510で、情報統合部105は、シミュレーションが終了か否かを判断し、終了でないと判断した場合、処理はステップS511に移る。
ステップS511で、情報統合部105は、新たなカメラワークの入力があるか否かを判断し、あると判断した場合は、処理はステップS504に戻ってカメラワークの設定を行い、無いと判断した場合は、処理はステップS505に戻る。
【0036】
以上説明したように、第1の実施の形態に係るカメラワークシミュレータ及びシミュレーション方法は、マルチカメラシステムでの撮影を実際に撮影しているように模擬することができる。
また、マルチカメラシステムでの撮影における、「かぶり」やカメラの衝突等のエラーを模擬できる。
また、従来のシミュレーション技術では不可能だった、注目するカメラがおかれている状況を把握することができる。
【0037】
【発明の効果】
以上説明したように、本発明は、マルチカメラシステムにおける映像制作が詳細に模擬でき、従来リハーサルをしながら決定していたカメラワークをコンピュータ上だけで実現することができるため、映像制作の効率化が可能なカメラワークシミュレータ及びシミュレーション方法を実現することができる。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態に係るカメラワークシミュレータの構成を示すブロック図である。
【図2】本発明の第1の実施の形態に係るカメラワークシミュレータにおいて用いられるカメラ型CGモデルの一例を示す図である。
【図3】本発明の第1の実施の形態に係るカメラワークシミュレータにおいて設定した3次元シーンの俯瞰映像(CG映像)の一例を示す図である。
【図4】本発明の第1の実施の形態に係るカメラワークシミュレータにおいて設定した3次元シーン中のカメラ型CGモデルが撮影したものとして模擬された映像の一例を示す図である。
【図5】本発明の第1の実施の形態に係るカメラワークシミュレーション方法における処理の流れを示すフローチャートである。
【符号の説明】
100 カメラワークシミュレータ
101 シーン構成部
102 カメラワーク入力部
103 カメラ選択部
104 カメラ情報収集部
105 情報統合部
106 カメラデータ格納部
107〜111 映像生成部
112 エラー検出部
113〜117 映像表示部
301 カメラ型CGモデル
302 カメラ型CGモデル
303 カメラ型CGモデル

Claims (5)

  1. 撮影場を含む撮影シーンをモデル化した3次元シーンをCG(Computer Graphics)技術を用いて生成するシーン構成手段と、前記撮影場内に配置される撮影カメラの操作の情報であるカメラワーク情報を入力するためのカメラワーク入力手段と、前記撮影カメラのモデルであって、前記撮影カメラの形状および重さを含む物理的性質が付与されたカメラ型CGモデルの情報を収集するカメラ情報収集手段と、前記3次元シーンの情報、前記カメラワーク情報および前記カメラ型CGモデルの情報とを統合する情報統合手段と、前記情報統合手段によって統合された情報に基づいて前記撮影カメラによって撮影された模擬映像を生成する映像生成手段とを備えたことを特徴とするカメラワークシミュレータ。
  2. 前記カメラワークシミュレータは、さらに、前記情報統合手段で統合された情報に基づいて、カメラワークによる所定のエラーを検出して表示または発音するエラー検出手段を備えたことを特徴とする請求項1記載のカメラワークシミュレータ。
  3. 前記カメラワークシミュレータは、さらに、前記入力されたカメラワークの情報及び前記カメラ型CGモデルの情報を含む情報を格納するためのカメラデータ格納手段を備えたことを特徴とする請求項1または2記載のカメラワークシミュレータ。
  4. 撮影場を含む撮影シーンをモデル化した3次元シーンをCG(Computer Graphics)技術を用いて生成するシーン構成ステップと、前記撮影場内に配置される撮影カメラの操作の情報であるカメラワーク情報を設定するためのカメラワーク設定ステップと、前記撮影カメラのモデルであって、前記撮影カメラの形状および重さを含む物理的性質が付与されたカメラ型CGモデルの情報を収集するカメラ情報収集ステップと、前記3次元シーンの情報、前記カメラワーク情報および前記カメラ型CGモデルの情報とを統合する情報統合ステップと、前記情報統合ステップで統合された情報に基づいて前記撮影カメラによって撮影された模擬映像を生成する映像生成ステップとを備えたことを特徴とするカメラワークシミュレーション方法。
  5. 前記カメラワークシミュレーション方法は、さらに、前記情報統合ステップで統合された情報に基づいて、カメラワークによる所定のエラーを検出して表示または発音するエラー検出ステップを備えたことを特徴とする請求項4記載のカメラワークシミュレーション方法。
JP2001219466A 2001-07-19 2001-07-19 カメラワークシミュレータ及びシミュレーション方法 Expired - Fee Related JP4217008B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001219466A JP4217008B2 (ja) 2001-07-19 2001-07-19 カメラワークシミュレータ及びシミュレーション方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001219466A JP4217008B2 (ja) 2001-07-19 2001-07-19 カメラワークシミュレータ及びシミュレーション方法

Publications (2)

Publication Number Publication Date
JP2003032515A JP2003032515A (ja) 2003-01-31
JP4217008B2 true JP4217008B2 (ja) 2009-01-28

Family

ID=19053463

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001219466A Expired - Fee Related JP4217008B2 (ja) 2001-07-19 2001-07-19 カメラワークシミュレータ及びシミュレーション方法

Country Status (1)

Country Link
JP (1) JP4217008B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4778349B2 (ja) * 2006-04-12 2011-09-21 オリンパスイメージング株式会社 撮像装置
JP5461782B2 (ja) * 2008-03-12 2014-04-02 Toa株式会社 カメラ映像シミュレータプログラム
JP5383761B2 (ja) * 2011-09-15 2014-01-08 株式会社ビデオ・テック データ送出シミュレータ

Also Published As

Publication number Publication date
JP2003032515A (ja) 2003-01-31

Similar Documents

Publication Publication Date Title
CN102458594B (zh) 模拟虚拟照相机的性能的系统和方法
JP7457806B2 (ja) レンズ分割の実現方法、装置および関連製品
US20030202120A1 (en) Virtual lighting system
CN106097435A (zh) 一种增强现实拍摄系统及方法
US20130215229A1 (en) Real-time compositing of live recording-based and computer graphics-based media streams
CN103258338A (zh) 利用真实数据来驱动仿真的虚拟环境的方法和系统
CN103491331A (zh) 显示控制设备、显示控制方法和程序
JP2018107793A (ja) 仮想視点画像の生成装置、生成方法及びプログラム
CN104252712A (zh) 图像生成装置及图像生成方法
KR20130090621A (ko) 사전 시각화 영상 생성 장치 및 방법
CN113660528B (zh) 一种视频合成方法、装置、电子设备和存储介质
JP2008010966A (ja) 動画生成システム、及び動画生成方法
JP5044582B2 (ja) 撮影カメラ学習装置及びそのプログラム
CN113792646A (zh) 舞蹈动作辅助生成方法、装置及跳舞设备
JP4217008B2 (ja) カメラワークシミュレータ及びシミュレーション方法
JP6559375B1 (ja) コンテンツ配信システム、コンテンツ配信方法、およびコンテンツ配信プログラム
JP2005295181A (ja) 音声情報生成装置
Ichikari et al. Mixed reality pre-visualization and camera-work authoring in filmmaking
JP2008140297A (ja) 動画像生成方法及びシステム
JP2000270261A (ja) 撮像装置及び画像合成方法並びに記録媒体
Kahn et al. Capturing of contemporary dance for preservation and presentation of choreographies in online scores
JP4899733B2 (ja) 画像生成方法及び画像生成システム
JP7494153B2 (ja) 生成装置、生成方法、及び、プログラム
WO2023145571A1 (ja) 情報処理装置、情報処理方法、データ構造及びプログラム
JP7167388B1 (ja) 動画作成システム、動画作成装置、及び動画作成用プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060324

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20081009

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20081014

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081107

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111114

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121114

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees