JPWO2006025191A1 - マルチプロジェクションシステムにおける幾何補正方法 - Google Patents

マルチプロジェクションシステムにおける幾何補正方法 Download PDF

Info

Publication number
JPWO2006025191A1
JPWO2006025191A1 JP2006531630A JP2006531630A JPWO2006025191A1 JP WO2006025191 A1 JPWO2006025191 A1 JP WO2006025191A1 JP 2006531630 A JP2006531630 A JP 2006531630A JP 2006531630 A JP2006531630 A JP 2006531630A JP WO2006025191 A1 JPWO2006025191 A1 JP WO2006025191A1
Authority
JP
Japan
Prior art keywords
image
test pattern
feature point
screen
captured image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006531630A
Other languages
English (en)
Other versions
JP4637845B2 (ja
Inventor
剛幸 味戸
剛幸 味戸
山口 和男
和男 山口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Publication of JPWO2006025191A1 publication Critical patent/JPWO2006025191A1/ja
Application granted granted Critical
Publication of JP4637845B2 publication Critical patent/JP4637845B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B21/00Projectors or projection-type viewers; Accessories therefor
    • G03B21/54Accessories
    • G03B21/56Projection screens
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B37/00Panoramic or wide-screen photography; Photographing extended surfaces, e.g. for surveying; Photographing internal surfaces, e.g. of pipe
    • G03B37/04Panoramic or wide-screen photography; Photographing extended surfaces, e.g. for surveying; Photographing internal surfaces, e.g. of pipe with cameras or projectors providing touching or overlapping fields of view
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • H04N9/3185Geometric adjustment, e.g. keystone or convergence
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3191Testing thereof
    • H04N9/3194Testing thereof including sensor feedback

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Geometry (AREA)
  • Transforming Electric Information Into Light Information (AREA)
  • Projection Apparatus (AREA)
  • Image Processing (AREA)

Abstract

【課題】複雑な形状のスクリーンや、複雑な配置のプロジェクタで構成されたマルチプロジェクションシステムにおいても、短時間で簡単かつ正確に幾何補正でき、メンテナンスの効率を大幅に向上できる幾何補正方法を提供する。【解決手段】各プロジェクタから複数個の特徴点からなるテストパターン画像を投射し、そのテストパターン画像を撮像してモニタ上に提示し、その提示されたテストパターン撮像画像を参照しながら特徴点の概略位置を指定して入力し、その概略位置情報に基づいてテストパターン画像中の各特徴点の正確な位置を検出して、その検出されたテストパターン撮像画像中の特徴点の位置と、予め与えられているテストパターン画像中の特徴点の座標情報と、別途定められたコンテンツ画像とテストパターン撮像画像との座標位置関係とに基づいて各プロジェクタによる画像の位置合わせを行う画像補正データを算出する。

Description

本発明は、複数台のプロジェクタを用いてスクリーン上に画像を重ねて投射するマルチプロジェクションシステムにおいて、各プロジェクタ間の位置ずれや歪みをカメラにより検出して自動的に補正するマルチプロジェクションシステムにおける幾何補正方法に関するものである。
近年、博物館や展示会等におけるショールーム用ディスプレイ、シアター、或いは車や建築物、都市景観等のシミュレーションに用いるVRシステム等においては、大画面・高精細のディスプレイを構築するために、複数台のプロジェクタによりスクリーン上に画像を貼り合わせて表示するマルチプロジェクションシステムが広く適用されている。
このようなマルチプロジェクションシステムにおいては、個々のプロジェクタによる画像の位置ずれや色ずれを調整してスクリーン上にきれいに貼り合わせることが重要であり、その方法として、従来、プロジェクタの投射位置を算出して、各プロジェクタから投射された複数の映像をスクリーン上で一枚の映像にするための画像補正データを算出する方法が提案されている(例えば、特許文献1参照)。
特許文献1に開示の従来の画像補正データ算出方法では、プロジェクタからスクリーン上にテストパターン画像を表示し、そのテストパターン画像をデジタルカメラで撮像して、撮像した画像からプロジェクタの投射位置を算出している。すなわち、テストパターン撮像画像中の複数の特徴点をパターンマッチング等の手法を採用して検出し、その検出した特徴点の位置に基づいて投射位置のパラメータを算出して、プロジェクタの投射位置を補正させるための画像補正データを算出している。
しかし、かかる画像補正データ算出方法にあっては、スクリーン形状が複雑であったり、また、プロジェクタの配置が複雑で投射画像の向きが著しく回転していたりすると、撮像画像において検出された各特徴点が、元のテストパターン画像において複数ある特徴点のうちの一体どの特徴点に対応するか見分けがつかなくなってしまうことがある。
このような問題を回避する方法として、各特徴点を一つずつ表示して撮像することで、特徴点一個ごとを正確に検出したり、プロジェクタやカメラの配置およびスクリーン形状に応じて予め特徴点毎に大まかな検出範囲を設定しておき、各々の検出範囲に従って各特徴点を順番に対応つけて検出したりする方法が提案されている(例えば、特許文献2参照公報参照)。
特開平9−326981号公報 特開2003−219324号公報
しかしながら、特許文献2に開示の方法では、スクリーン形状が複雑となって特徴点数が極端に多くなると、特徴点を一点毎に単独で投射して撮像する場合には、撮像時間が膨大になり、また、検出範囲を予め設定する場合には、カメラの配置が予め設定された位置から少しでもずれると、再び検出範囲を設定し直さなければならなくなって、再設定にかかる時間が膨大になり、メンテナンスの効率が低下するといった問題を抱えている。
したがって、かかる事情に鑑みてなされた本発明の目的は、複雑な形状のスクリーンや、複雑に配置されたプロジェクタで構成されたマルチプロジェクションシステムにおいても、短時間で簡単かつ正確に幾何補正でき、メンテナンスの効率を大幅に向上できるマルチプロジェクションシステムにおける幾何補正方法を提供することにある。
上記目的を達成する請求項1に係るマルチプロジェクションシステムにおける幾何補正方法の発明は、複数台のプロジェクタから投射される画像を貼り合せてスクリーン上に一枚のコンテンツ画像を表示するマルチプロジェクションシステムにおいて、上記各プロジェクタの画像の位置合わせを行うための幾何補正データを算出するにあたり、
上記各プロジェクタから複数個の特徴点からなるテストパターン画像を上記スクリーン上に投射させる投射ステップと、
上記投射ステップで上記スクリーン上に投射されたテストパターン画像を撮像手段により撮像してテストパターン撮像画像として取り込む取込ステップと、
上記取込ステップで取り込まれたテストパターン撮像画像をモニタ上に提示する提示ステップと、
上記提示ステップで提示されたテストパターン撮像画像を参照しながらテストパターン撮像画像中の特徴点の概略位置を指定して入力する入力ステップと、
上記入力ステップで入力された概略位置情報に基づいてテストパターン画像中の各特徴点の正確な位置を検出する検出ステップと、
上記検出ステップで検出されたテストパターン撮像画像中の特徴点の位置と、予め与えられているテストパターン画像中の特徴点の座標情報と、別途定められたコンテンツ画像とテストパターン撮像画像との座標位置関係とに基づいて、上記各プロジェクタによる画像の位置合わせを行う画像補正データを算出する演算ステップと、
を含むことを特徴とするものである。
請求項2に係る発明は、請求項1に記載のマルチプロジェクションシステムにおける幾何補正方法において、上記入力ステップは、テストパターン撮像画像中の特徴点の概略位置として、テストパターン撮像画像中における特徴点の数よりも少ない数の位置を予め設定された所定の順番で指定して入力し、
上記検出ステップは、上記入力ステップで入力された概略位置に基づいて補間演算によりテストパターン画像中の全ての特徴点における概略位置を推定し、その推定した特徴点の概略位置からテストパターン画像中の各特徴点の正確な位置を検出することを特徴とするものである。
請求項3に係る発明は、請求項2に記載のマルチプロジェクションシステムにおける幾何補正方法において、上記入力ステップにおけるテストパターン撮像画像中の特徴点の概略位置は、テストパターン撮像画像中の最外郭に位置する複数個の特徴点の位置であることを特徴とするものである。
請求項4に係る発明は、請求項2に記載のマルチプロジェクションシステムにおける幾何補正方法において、上記入力ステップにおけるテストパターン撮像画像中の特徴点の概略位置は、テストパターン撮像画像中における最外郭4隅に位置する4つの特徴点の位置であることを特徴とするものである。
請求項5に係る発明は、請求項1〜4のいずれか一項に記載のマルチプロジェクションシステムにおける幾何補正方法において、上記テストパターン画像は、複数の特徴点とともに、上記入力ステップで指定する特徴点を識別する目印が付加されているものであることを特徴とするものである。
請求項6に係る発明は、請求項1〜4のいずれか一項に記載のマルチプロジェクションシステムにおける幾何補正方法において、上記テストパターン画像は、複数の特徴点とともに、上記入力ステップで指定する特徴点の順番を識別する目印が付加されているものであることを特徴とするものである。
請求項7に係る発明は、請求項1〜6のいずれか一項に記載のマルチプロジェクションシステムにおける幾何補正方法において、上記取込ステップの後に、上記各プロジェクタによる画像の境界部分における投射輝度を低減する遮光ステップを含むことを特徴とするものである。
さらに、請求項8に係るマルチプロジェクションシステムにおける幾何補正方法の発明は、複数台のプロジェクタから投射される画像を貼り合せてスクリーン上に一枚のコンテンツ画像を表示するマルチプロジェクションシステムにおいて、上記各プロジェクタの画像の位置合わせを行うための幾何補正データを算出するにあたり、
上記各プロジェクタから複数個の特徴点からなるテストパターン画像を上記スクリーン上に投射させる投射ステップと、
上記投射ステップで上記スクリーン上に投射されたテストパターン画像を撮像手段により撮像してテストパターン撮像画像として取り込む取込ステップと、
上記各プロジェクタから、テストパターン画像における特徴点の数よりも少ない数の代表的な特徴点のうちの異なる一つの特徴点からなる複数枚の単一特徴点画像を上記スクリーン上に順次投射させる複数回投射ステップと、
上記複数回投射ステップで上記スクリーン上に順次投射された複数枚の単一特徴点画像を撮像して単一特徴点撮像画像として取り込む複数回取込ステップと、
上記複数回取込ステップで得られた複数枚の単一特徴点撮像画像から各々の特徴点の正確な位置を検出するプレ検出ステップと、
上記プレ検出ステップで検出された複数枚の単一特徴点撮像画像における各特徴点の位置に基づいてテストパターン撮像画像中の各特徴点の正確な位置を検出する検出ステップと、
上記検出ステップで検出されたテストパターン撮像画像中の特徴点の位置と、予め与えられているテストパターン画像中の特徴点の座標情報と、別途定められたコンテンツ画像とテストパターン撮像画像との座標位置関係とに基づいて、上記各プロジェクタによる画像の位置合わせを行う画像補正データを算出する演算ステップと、
を含むことを特徴とするものである。
請求項9に係る発明は、請求項8に記載のマルチプロジェクションシステムにおける幾何補正方法において、上記検出ステップは、上記プレ検出ステップで検出された複数枚の単一特徴点撮像画像における各特徴点の位置に基づいて多項式近似演算によりテストパターン撮像画像中の特徴点の概略位置を推定し、その推定された概略位置に基づいてテストパターン撮像画像中の特徴点の正確な位置を検出することを特徴とするものである。
請求項10に係る発明は、請求項8または9に記載のマルチプロジェクションシステムにおける幾何補正方法において、上記複数回取り込みステップの後および上記取込ステップの後に、上記各プロジェクタによる画像の境界部分における投射輝度を低減する遮光ステップを含むことを特徴とするものである。
請求項11に係る発明は、請求項1〜10のいずれか一項に記載のマルチプロジェクションシステムにおける幾何補正方法において、さらに、
上記スクリーンの全体画像を上記撮像手段により撮像してスクリーン撮像画像として取得するスクリーン画像取得ステップと、
上記スクリーン画像取込ステップで取得したスクリーン撮像画像をモニタ上に提示するスクリーン画像提示ステップと、
上記スクリーン画像提示ステップで提示されたスクリーン撮像画像を参照しながらコンテンツ画像の表示範囲位置を指定して入力するコンテンツ座標入力ステップと、
上記コンテンツ座標入力ステップで入力されたスクリーン撮像画像中のコンテンツ表示範囲位置に基づいてコンテンツ画像とスクリーン撮像画像との座標位置関係を算出する算出ステップとを含み、
上記演算ステップは、上記検出ステップで検出されたテストパターン撮像画像中の特徴点の位置と、予め与えられているテストパターン画像中の特徴点の座標情報と、別途定められたコンテンツ画像とテストパターン撮像画像との座標位置関係と、上記算出ステップで算出されたコンテンツ画像とスクリーン撮像画像との座標位置関係とに基づいて、上記各プロジェクタによる画像の位置合わせを行う画像補正データを算出することを特徴とするものである。
請求項12に係る発明は、請求項11に記載のマルチプロジェクションシステムにおける幾何補正方法において、上記スクリーン画像提示ステップは、上記スクリーン画像取込ステップで取得した上記スクリーン撮像画像を上記撮像手段のレンズ特性に応じて歪補正して上記モニタ上に提示することを特徴とするものである。
本発明によれば、マルチプロジェクションシステムの位置合わせにおける初期設定である特徴点の検出範囲の設定を、ユーザによるある程度手軽な操作で、或いは自動で設定することが可能となり、これにより複雑な形状のスクリーンを用いる場合でも、またプロジェクタの投影像や撮像手段の撮像画像が著しく傾いたり回転していたりしても、特徴点の順番を間違えることなく、簡単かつ短時間で正確に幾何補正することができ、マルチプロジェクションシステムにおけるメンテナンスの効率を大幅に向上することが可能となる。
本発明の第1実施の形態に係る幾何補正方法を実施するマルチプロジェクションシステムの全体構成を示す図である。 第1実施の形態においてプロジェクタに入力するテストパターン画像とデジタルカメラにより撮像されたテストパターン撮像画像との一例を示す図である。 第1実施の形態における幾何補正手段の構成を示すブロック図である。 図3に示す幾何補正データ算出手段の構成を示すブロック図である。 第1実施の形態の幾何補正方法による処理手順を示すフローチャートである。 図5のステップS2における検出範囲の設定処理の詳細を説明するための図である。 図5のステップS7におけるコンテンツ表示範囲の設定処理の詳細を説明するための図である。 第1実施の形態の変形例で、円筒型スクリーンを用いる場合においてコンテンツ表示領域を設定するために円筒型スクリーンの撮像画像を矩形に変換表示する場合の説明図である。 同じく、第1実施の形態の変形例で、ドーム型スクリーンを用いる場合においてコンテンツ表示領域を設定するためにドーム型スクリーンの撮像画像を矩形に変換表示する場合の説明図である。 同じく、第1実施の形態の変形例で、コンテンツ表示範囲の他の設定例を説明するための図である。 本発明の第2実施の形態におけるプロジェクタに入力するテストパターン画像とデジタルカメラにより撮像されたテストパターン撮像画像との一例を示す図である。 本発明の第3実施の形態における幾何補正手段の構成を示すブロック図である。 本発明の第4実施の形態を説明するための図である。 第4実施の形態における幾何補正手段の構成を示すブロック図である。 図14に示すテストパターン画像情報入力部において入力する際に使用するダイアログボックスの一例を示す図である。 同じく、他の例を示す図である。 第4実施の形態の幾何補正方法による処理手順を示すフローチャートである。 第4実施の形態の変形例を説明するための図である。 本発明の第5実施の形態を説明するための図である。 第5実施の形態における幾何補正手段の構成を示すブロック図である。 第5実施の形態の幾何補正方法による処理手順を示すフローチャートである。 本発明の第6実施の形態におけるプロジェクタに入力するテストパターン画像と単一特徴点画像との一例を示す図である。 第6実施の形態における幾何補正手段の構成を示すブロック図である。 図23に示す検出範囲設定手段の構成を示すブロック図である。 本発明の第6実施の形態における幾何補正方法の全体処理手順を示す図である。 本発明の第7実施の形態を説明するための図である。 本発明の他の変形例を説明するための図である。 同じく、本発明の更に他の変形例を説明するための図である。
以下、図面を参照して本発明の実施の形態について説明する。
(第1実施の形態)
図1〜図7は、本発明の第1実施の形態を示すものである。
本実施の形態に係るマルチプロジェクションシステムは、図1に全体構成を示すように、複数のプロジェクタ(ここでは、プロジェクタ1Aおよびプロジェクタ1B)、ドーム状のスクリーン2、デジタルカメラ3、パーソナルコンピュータ(PC)4、モニタ5、画像分割/幾何補正装置6を有しており、プロジェクタ1Aおよびプロジェクタ1Bによりスクリーン2へ画像の投射を行い、投射される画像を貼り合わせてスクリーン2上に一枚の大きな画像を表示するものである。
このようなマルチプロジェクションシステムにおいて、プロジェクタ1Aおよびプロジェクタ1Bから単に画像を投射しただけでは、投射された各々の画像は、個々のプロジェクタの色特性や投射位置のずれ、スクリーン2に対する投影像の歪みにより、きれいに貼り合わされない。
そこで本実施の形態では、まず、プロジェクタ1Aおよびプロジェクタ1Bに、PC4から送信されたテストパターン画像信号を入力(画像分割/幾何補正は行わない)して、スクリーン2上に投射されたテストパターン画像をデジタルカメラ3により撮像してテストパターン撮像画像を取得する。この際、スクリーン2に投射するテストパターン画像としては、図2(a)に示すように、画面上に規則的に特徴点(マーカ)が並んだ画像とする。
デジタルカメラ3により取得されたテストパターン撮像画像は、PC4に送られ、各プロジェクタの位置合わせを行う幾何補正データを算出するために使用される。この際、テストパターン撮像画像は、PC4に付随したモニタ5により画像表示されて、制御者7に提示される。
次に、制御者7は、提示された画像を参照しながら、PC4によりテストパターン画像中の特徴点の概略位置を指定する。特徴点の概略位置が指定されると、PC4において、まず、指定された概略位置に基づいて、図2(b)に示すような各特徴点の検出範囲が設定され、その設定された検出範囲に基づいて正確な特徴点位置が検出される。その後、検出された特徴点位置に基づいて各プロジェクタの位置合わせを行うための幾何補正データが算出され、その算出された幾何補正データが画像分割/幾何補正装置6に送られる。
また、画像分割/幾何補正装置6では、別途PC4より送信されたコンテンツ画像の分割および幾何補正を上記幾何補正データに基づいて実行して、プロジェクタ1Aおよびプロジェクタ1Bへ出力する。これにより、スクリーン2上には、複数台(ここでは、2台)のプロジェクタ1A,1Bにより、つなぎ目のないきれいに貼りあわされた一枚のコンテンツ画像を表示することができる。
次に、図3を参照して、本実施の形態に係る幾何補正手段の構成について説明する。
本実施の形態における幾何補正手段は、テストパターン画像作成手段11、画像投射手段12、画像撮像手段13、画像提示手段14、特徴点位置情報入力手段15、検出範囲設定手段16、幾何補正データ算出手段17、画像分割/幾何補正手段18、コンテンツ表示範囲情報入力手段19、コンテンツ表示範囲設定手段20により構成される。
ここで、テストパターン画像作成手段11、特徴点位置情報入力手段15、検出範囲設定手段16、コンテンツ表示範囲情報入力手段19およびコンテンツ表示範囲設定手段20はPC4で構成され、画像投射手段12はプロジェクタ1Aおよびプロジェクタ1Bで構成され、画像撮像手段13はデジタルカメラ3で構成され、画像提示手段14はモニタ5で構成され、幾何補正データ算出手段17および画像分割/幾何補正手段18は画像分割/幾何補正装置6で構成される。
テストパターン画像作成手段11は、図2(a)に示したような複数の特徴点からなるテストパターン画像を作成し、画像投射手段12は、テストパターン画像作成手段11により作成されたテストパターン画像を入力してスクリーン2に投射する。なお、画像投射手段12は、後述する一連の幾何補正のための演算を行った後は、画像分割/幾何補正装置6より出力された分割および幾何補正処理されたコンテンツ画像を入力して、スクリーン2への投射を行う。
画像撮像手段13は、画像投射手段12によりスクリーン2上に投射されたテストパターン画像を撮像し、画像提示手段14は、画像撮像手段13により撮像されたテストパターン撮像画像を表示して制御者7へテストパターン撮像画像の提示を行う。
特徴点位置情報入力手段15は、制御者7により画像提示手段14に提示されたテストパターン撮像画像を参照しながら指定されたテストパターン撮像画像中の特徴点の概略位置を入力し、検出範囲設定手段16は、特徴点位置情報入力手段15から入力された概略位置に基づいてテストパターン撮像画像中の各特徴点の検出範囲を設定する。
コンテンツ表示範囲情報入力手段19は、制御者7により画像提示手段14に別途提示されたスクリーン2全体の撮像画像を参照しながら指定されるコンテンツの表示範囲に関する情報を入力し、コンテンツ表示範囲設定手段20は、コンテンツ表示範囲情報入力手段19からのコンテンツの表示範囲に関する情報を入力して、撮像画像に対するコンテンツ表示範囲を設定し、その設定したコンテンツ表示範囲情報を幾何補正データ算出手段17へ出力する。
幾何補正データ算出手段17は、画像撮像手段13により撮像されたテストパターン撮像画像および検出範囲設定手段16により設定されたテストパターン撮像画像の各特徴点の検出範囲に基づいて、テストパターン撮像画像における各特徴点の正確な位置を検出すると共に、検出された各特徴点の正確な位置およびコンテンツ表示範囲設定手段20により設定されたコンテンツ表示範囲情報に基づいて幾何補正データを算出して、画像分割/幾何補正手段18へ送信する。
画像分割/幾何補正手段18は、幾何補正データ算出手段17により入力された幾何補正データに基づいて、外部より入力されたコンテンツ画像の分割および幾何補正処理を行い、画像投射手段12へ出力する。
以上のようにして、外部から入力されたコンテンツ画像は、各プロジェクタの表示範囲に対応して正確な画像分割および幾何補正が行われ、スクリーン2上にきれいに貼り合わせされて一枚の画像として表示されることになる。
次に、図4を参照しながら前述した幾何補正データ算出手段17の詳細ブロック構成について説明する。
幾何補正データ算出手段17は、画像撮像手段13により撮像されたテストパターン撮像画像を入力して記憶するテストパターン撮像画像記憶部21と、検出範囲設定手段16により設定されたテストパターン撮像画像の各特徴点の検出範囲を入力して記憶するテストパターン特徴点検出範囲記憶部22と、特徴点位置検出部23と、プロジェクタ画像−撮像画像座標変換データ作成部24と、コンテンツ画像−プロジェクタ画像座標変換データ作成部25と、コンテンツ画像−撮像画像座標変換データ作成部26と、コンテンツ表示範囲設定手段20により設定されたコンテンツ表示範囲情報を入力して記憶するコンテンツ画像表示範囲記憶部27とを有している。
特徴点位置検出部23は、テストパターン撮像画像記憶部21に記憶されたテストパターン撮像画像中から、テストパターン特徴点検出範囲記憶部22に記憶された各特徴点の検出範囲に基づいて各特徴点の正確な位置を検出する。その具体的な検出方法については、上記の特許文献2に開示されているように、各々の特徴点の正確な中心位置(重心位置)を、対応する検出範囲内での画像の最大相関値として検出する方法が適用可能である。
プロジェクタ画像−撮像画像座標変換データ作成部24は、特徴点位置検出部23により検出されたテストパターン撮像画像中の各特徴点の位置と、予め与えられた元の(プロジェクタに入力する前の)テストパターン画像の特徴点の位置情報とに基づいて、プロジェクタ画像の座標およびデジタルカメラ3によるテストパターン撮像画像の座標間の座標変換データを作成する。ここで、座標変換データは、プロジェクタ画像の画素毎に、対応するプロジェクタ撮像画像の座標を埋め込んだルックアップテーブル(LUT)として作成してもよいし、両者の座標変換式を2次元高次多項式として作成してもよい。なお、LUTとして作成する場合には、特徴点が設けられた画素位置以外の座標については、隣接する複数の各特徴点の座標位置関係に基づいて線形補間または多項式補間、スプライン補間等で導出すればよい。また、2次元高次多項式として作成する場合には、複数個の特徴点位置における座標関係から、最小二乗法もしくはニュートン法、最急降下法等を用いて多項式近似を行うとよい。
コンテンツ画像−撮像画像座標変換データ作成部26は、コンテンツ画像表示範囲記憶部27に記憶されたコンテンツ表示範囲情報に基づいて、コンテンツ画像の座標とスクリーン全体の撮像画像の座標間の座標変換データを作成する。この際、コンテンツ表示範囲情報として、例えば後述するような撮像画像上におけるコンテンツ表示範囲の4角の座標情報が適用される場合には、コンテンツ画像−撮像画像座標変換データ作成部26では上記4角の座標対応関係に基づいて、4角内部の補間演算もしくは多項式近似により全てのコンテンツ画像の座標に対するスクリーン撮像画像の座標の変換テーブルもしくは変換式が与えられることになる。
最後に、コンテンツ画像−プロジェクタ画像座標変換データ作成部25は、以上のように作成されたプロジェクタ画像−撮像画像座標変換データおよびコンテンツ画像−撮像画像座標変換データを用いて、コンテンツ画像からプロジェクタ画像への座標変換テーブルもしくは座標変換式を作成し、それを幾何補正データとして画像分割/幾何補正手段18へ出力する。
図5は、以上説明した本実施の形態に係る幾何補正方法の処理手順を示すフローチャートで、ステップS1〜ステップS10からなるが、その概要は上記の説明と重複するので、ここではステップS2の検出範囲の設定処理およびステップS7のコンテンツ表示範囲の設定処理について詳細に説明し、その他の処理については説明を省略する。
先ず、図6(a)および図6(b)を参照して、図5のステップS2における検出範囲の設定処理の詳細について説明する。
ここでは、まず、画像撮像手段13(デジタルカメラ3)で撮像されたテストパターン撮像画像を画像提示手段14(PC4上のモニタ5)に表示する(ステップS11)。次に、制御者7が画像提示手段14に表示されたテストパターン撮像画像中において、図6(b)に示されるような特徴点の4角の位置を、PC4のウィンドウ上でマウス等により指定する(ステップS12)。この際、4角の位置の指定順番は、例えば左上−右上−右下−左下のように、予め決められた順番で指定を行う。
4角全ての指定が終わったら、指定された4角の位置に基づいてテストパターン撮像画像中の全ての特徴点に対する検出範囲を設定し、画像提示手段14(モニタ5)に表示する(ステップS13)。この際、4角以外の特徴点に関しては、4角の指定位置と特徴点のX方向およびY方向の数に基づいて等間隔に若しくは4角の位置から求まる射影変換係数により線形補間して配置して設定すればよい。
最後に、必要に応じて、例えば検出範囲が特徴点から外れてしまっている場合には、表示された検出範囲を制御者7によりマウス等でドラッグして位置の微調整を行い(ステップS14)、全ての検出範囲の調整後、検出範囲位置を設定して処理を終了する。
なお、図6(a)に示した検出範囲の設定処理では、特徴点の4角を指定してその内部の検出範囲を等間隔に設定しているが、これに限らず、例えば特徴点4角だけでなくその中間点も含めた4点以上の外郭の点を指定してもよいし、極端に言えば特徴点全ての位置(概略位置)を指定してもよい。指定する点の数が多いほど、制御者7の最初の指定作業が困難になるが、その分、その後の検出範囲を等間隔に設定したときに特徴点からはずれる可能性が低くなり、微調整が不要になる可能性がある。また、4点以上の指定を行った場合には、検出範囲の設定を等間隔でなく、多項式近似または多項式補間により中間の検出範囲の位置を算出して設定すれば、スクリーン2が曲面の場合など、撮像された特徴点の位置がある程度歪んでいても精度よく検出範囲を設定できる可能性がある。
次に、図7(a)および図7(b)を参照して、図5のステップS7におけるコンテンツ表示範囲の設定処理の詳細について説明する。
ここでは、まず、画像撮像手段13(デジタルカメラ3)により撮像されたスクリーン全体の画像を画像提示手段14(PC4上のモニタ5)に表示する。この際、画像撮像手段13(デジタルカメラ3)により撮像される画像には、カメラレンズによる画像歪みが発生するため、ここでは予め設定されたレンズ歪み補正係数により撮像画像の歪補正を行った上でモニタ5に表示する(ステップS21)。
次に、制御者7がモニタ表示された歪補正済みのスクリーン撮像画像中において、図7(b)に示したように、所望のコンテンツ画像表示範囲を矩形4角の点としてマウス等により指定する(ステップS22)。その後、指定された4角の点によりコンテンツ表示範囲を矩形表示しながら、必要に応じて、制御者7により4角の点の微調整をマウス等のドラッグ操作により行う(ステップS23)。微調整が終わったら、撮像画像中の4角の座標位置をコンテンツ表示範囲情報として設定して処理を終了する。
なお、ステップS21で用いる歪み補正係数は、例えば画像中心からの距離の3乗に比例した係数を用いてもよいし、より精度を高めるために、高次多項式による複数の係数を用いてもよい。また、図7(b)に示されるように、モニタ表示中のスクリーン撮像画像を見ながら、スクリーン2の画像の歪みがなくなるまで制御者7が繰り返し手入力により歪み補正係数を入力して設定してもよい。このような歪補正を正確に行わないと、撮像画像中でコンテンツ表示範囲を矩形で選択しても、実際のスクリーン2上では矩形に表示されなくなってしまうため、できるだけ正確な歪み補正を行うことが望ましい。
また、円筒型スクリーンやドームスクリーンを用いた場合には、観察者がデジタルカメラ3の位置から見て矩形に見えるように画像を表示するだけでなく、観察者(デジタルカメラ)の位置とは関係なく例えばスクリーン面内において所定の位置に矩形の画像が貼り付けられたように表示したい場合がある。
この場合、円筒型スクリーンにおいては、例えば図8に示すように、撮像画像中で歪んで撮像されている円筒型スクリーンを矩形型にするような円筒変換を撮像画像に対して施し、円筒変換を行った撮像画像中でコンテンツ表示領域を矩形で設定する。
さらに、特徴点を撮像した画像についても上記と同様に円筒変換を行い、プロジェクタ画像−撮像画像間および撮像画像−コンテンツ画像間の座標関係から幾何補正データを求めれば、実際に円筒型スクリーン面上に矩形の画像が貼り付けられたように表示することができる。
このとき、元の撮像画像の座標を(x,y)、円筒変換後の撮像画像の座標を(u,v)とすれば、両者の関係(円筒変換の関係)は、以下の(1)式のように表される。
Figure 2006025191
ここで、(x,y)および(u,v)は、各々元の撮像画像および円筒変換後の撮像画像の中心座標、また、K,Kは撮像画像の画角に関するパラメータ、さらに、aはカメラの位置および円筒型スクリーンの形状(半径)により定まる円筒変換係数である。
上記の円筒変換係数aは、予めカメラの配置および円筒型スクリーンの形状が分かっていれば所定の値で与えればよいが、例えば図8に示すように、PC4上で任意に設定するようにしておけば、正確なカメラの配置および円筒型スクリーンの形状が事前に分からなくても、ユーザはライブ表示された円筒変換後の撮像画像を見ながらスクリーンが矩形で表示されるように調整し、最適な円筒変換係数のパラメータを設定することが可能であり、非常に汎用性の高いマルチプロジェクションシステムを構築できる。勿論、ユーザがPC4上で設定可能なパラメータは、円筒変換係数aだけでなく、例えばK,Kのような他のパラメータを設定できるようにしてもよい。
また、図9に示すように、ドームスクリーンを用いた場合にも、撮像画像に対して座標変換を施すことにより、曲面に歪んだスクリーン面を矩形に補正することが可能である。この場合には、撮像画像に対して上記の円筒変換の代わりに極座標変換を施すことになるが、このときの極座標変換は以下の(2)式のように表される。
Figure 2006025191
ここで、bのパラメータは、カメラの配置およびドームスクリーンの形状(半径)により定まる極座標変換係数である。この極座標変換係数bは、図9に示すように、PC4上で任意に設定するようにしておけば、正確なカメラの配置およびドームスクリーンの形状が事前に分からなくても、ユーザはライブ表示された極座標変換後の撮像画像を見ながらスクリーンが矩形になるように調整し、最適なパラメータを設定することが可能である。これにより幾何補正データを求めれば、観察位置とは関係なく実際にドームスクリーン面上に矩形の画像が貼り付けられたように表示することができる。
また、コンテンツ表示範囲を矩形で設定するのではなく、多角形若しくは曲線により囲まれる領域として設定してもよい。この場合には、図10に示すように、多角形の頂点若しくは曲線の制御点をマウスにより指定、移動できるようにし、これに応じてコンテンツ表示範囲を多角形若しくは曲線により表示しながら、ユーザが任意にコンテンツ範囲を設定できるようにする。このように設定された多角形若しくは曲線で囲まれたコンテンツ範囲により、その内部のコンテンツ画像−撮像画像間の座標変換を多角形若しくは曲線の内挿式等を用いて求めることにより、設定された多角形若しくは曲線により囲まれる領域に合わせてコンテンツ画像を表示することが可能となる。
以上説明した本実施の形態によれば、制御者7によりモニタ5を見ながら簡便に幾何補正のための特徴点の検出範囲を設定することが可能となり、マルチプロジェクションシステムにおいてスクリーン2、プロジェクタ1A,1Bおよびデジタルカメラ3の配置が頻繁に変わっても、短時間で正確かつ確実にプロジェクタ1A,1Bによる表示画像の位置合わせを行うことができる。また、スクリーン全体に対してコンテンツをどの範囲で表示するかということも、モニタ5を見ながら制御者7により自由に、しかも簡便に設定することが可能となるので、マルチプロジェクションシステムにおけるメンテナンス効率を向上することができる。
(第2実施の形態)
図11(a)〜(d)は、本発明の第2実施の形態を説明するための図である。
本実施の形態は、第1実施の形態において、テストパターン画像作成部において作成するテストパターン画像を、図2(a)に示したような画像に代えて、図11(a)に示すような特徴点の周辺に目印(番号)を付加した画像としたもので、その他の構成および動作は、第1実施の形態と同様であるので説明を省略する。
このように、テストパターン画像として特徴点の周辺に目印(番号)を付加した画像を用いれば、例えば個々のプロジェクタの投射画像が著しく回転していたり、ミラー等の折り返しにより反転していたりしても、図11(b)に示されるように、テストパターン撮像画像中で指定する点に番号が見印として付加されているので、各々対応した順序で選択することができ、失敗なく位置合わせを行うことができる。また、制御者7による特徴点の概略位置指定において、4角以上の点(例えば外郭6点)の指定を行う場合には、図11(c)に示されるように、6点の近傍に番号を付加することで、図11(d)に示されるようにテストパターン撮像画像中での6点の指定(特に4角以外の中間2点)を間違いなく容易に指定することができる。また、番号だけでなく、特徴点の形状を上記6点のみ他の特徴点とは異なる形状で表示してもよいし、また、輝度や色を変えて表示してもよい。
以上のように、本実施の形態によれば、テストパターン画像に特徴点とともに目印を番号等で示すことで、図6に示した特徴点検出範囲の設定処理において、制御者7による特徴点の概略位置指定のミスを減らすことができ、メンテナンスの効率向上が図れる。
(第3実施の形態)
図12は、本発明の第3実施の形態に係る幾何補正手段の構成を示すブロック図である。
本実施の形態は、第1実施の形態に示した幾何補正手段の構成(図3参照)に加え、ネットワーク制御手段28aおよびネットワーク制御手段28bを設けたものである。すなわち、ネットワーク制御手段28aは、遠隔地にあるネットワーク制御手段28bとネットワーク29を介して接続されて、画像撮像手段13により撮像されたテストパターン撮像画像およびスクリーン撮像画像を、ネットワーク29を介してネットワーク制御手段28bへ送信すると共に、ネットワーク制御手段28bからネットワーク29を介して送信された特徴点の概略位置情報およびコンテンツ表示範囲情報を受信して、それぞれ検出範囲設定手段16およびコンテンツ表示範囲設定手段20へ出力する。
一方、ネットワーク制御手段28bは、ネットワーク制御手段28aによりネットワーク29を介して送信されたテストパターン撮像画像およびスクリーン撮像画像を受信して、画像提示手段14へ出力すると共に、制御者7により特徴点位置情報入力手段15で入力された特徴点の概略位置情報および制御者7によりコンテンツ表示範囲情報入力手段19で入力されたコンテンツ表示範囲情報を、ネットワーク29を介してネットワーク制御手段28aへ送信する。なお、本実施の形態の場合には、制御者7が居る遠隔地側と、マルチプロジェクションシステムの設置側とにそれぞれPCを設けて、遠隔地側のPCにより、特徴点位置情報入力手段15およびコンテンツ表示範囲情報入力手段19を構成し、設置側のPCにより、テストパターン画像作成手段11、検出範囲設定手段16およびコンテンツ表示範囲設定手段20を構成する。
これにより、本実施の形態によれば、制御者7が遠隔地に居てもネットワーク29を介してシステムのメンテナンスを実行することができる。
(第4実施の形態)
図13〜図17は、本発明の第4実施の形態を示すものである。
本実施の形態は、図13に示すように、プロジェクタ1Bから投射された画像の一部がスクリーン2からはみ出してしまっている場合に、テストパターン画像を投射した際の特徴点もスクリーン2により“けられ”が生じて一部表示できなくなってしまうことを避けるため、テストパターン画像における特徴点の表示範囲を、制御者7によりある程度調整可能とするものである。
このため、本実施の形態に係る幾何補正手段においては、図14に示すように、図3に示した第1実施の形態の幾何補正手段の構成に、テストパターン画像情報入力手段31を新たに付加する。このテストパターン画像情報入力手段31は、制御者7により画像提示手段14に表示された調整前のテストパターン撮像画像を参照しながら特徴点の表示範囲等のパラメータを設定して入力し、そのパラメータをテストパターン画像作成手段11および幾何補正データ算出手段17へ出力するものである。
また、テストパターン画像作成手段11では、テストパターン画像情報入力手段31により設定されたテストパターン画像に関するパラメータに基づいてテストパターンを作成して画像投射手段12へ出力する。さらに、幾何補正データ算出手段17では、テストパターン画像情報入力手段31により設定されたテストパターン画像に関するパラメータのうち、設定された各特徴点の位置に関する情報を入力して、プロジェクタ画像−撮像画像間の座標関係導出の際に使用する。
その他、画像投射手段12、画像撮像手段13、画像提示手段14、特徴点位置情報入力手段15、検出範囲設定手段16、画像分割/幾何補正手段18、コンテンツ表示範囲情報入力手段19およびコンテンツ表示範囲設定手段20は、それぞれ第1実施の形態の機能と同様である。
ここで、テストパターン画像情報入力手段31で入力するテストパターン画像に関するパラメータは、例えば図15もしくは図16に示すようなダイアログにより制御者7がモニタ5を見ながら設定する。すなわち、図15の場合には、まず、テストパターン画像における特徴点の表示範囲として、右上端、左上端、右下端および左下端の各特徴点の座標位置(ピクセル)を数値で入力し、さらに水平方向(X方向)および垂直方向(Y方向)の特徴点の数を入力する。また、特徴点の形状についても、幾つか選べるようになっている。
一方、図16の場合には、テストパターン画像における特徴点の表示範囲として、座標値でなくマウスで外枠の形状をドラッグしながら調整する。
以上のように設定した結果に基づいて、後段のテストパターン画像作成手段11でテストパターン画像を作成して画像投射手段12により投射し、そのテストパターン画像を画像撮像手段13で撮像して、撮像されたテストパターン撮像画像を画像提示手段14でモニタ表示し、その表示画像から特徴点がスクリーン2等によりけられていないかどうかを確認する。
制御者7は、以上の手順により特徴点が全て撮像画像中に収まっているかどうかを確認して、収まるまで再設定を繰り返し、特徴点が全て撮像画像中に収まっていたら、そのテストパターン画像を用いて画像投射および撮像を行って、上記実施の形態と同様に、検出範囲を設定して幾何補正データの算出処理を実行する。
図17は、以上説明した本実施の形態に係る幾何補正方法の概略手順を示すフローチャートで、ステップS31〜ステップS39からなるが、その概要は上記の説明と重複するので、ここでは説明を省略する。
本実施の形態によれば、テストパターン画像における特徴点の表示範囲を制御者7がモニタ5で確認しながら設定できるので、画像の一部がスクリーン2からはみ出してしまっている等の場合においても、ミスなくプロジェクタ1A,1Bによる表示画像の位置合わせが可能となる。
なお、本実施の形態では、テストパターンがスクリーン2からはみ出さないように設定可能としているが、仮にテストパターンがスクリーン2からはみ出した場合でも、例えば図18に示すように、はみ出した特徴点に対応する検出範囲を削除する機能を付加してもよい。この場合には、後の幾何演算時(具体的には、撮像画像−プロジェクタ画像間の座標変換データの作成時)において、削除された検出範囲に対応する特徴点の情報は用いず、残った検出範囲に対応する特徴点の情報のみを用いて演算すればよい。このようにすることで、テストパターン設定において、仮にテストパターンがスクリーン2からはみ出した場合でも、エラーなくスクリーン面上での貼り合わせが可能となる。
(第5実施の形態)
図19〜図21は、本発明の第5実施の形態を示すものである。
本実施の形態では、第1実施の形態において、図19(a)に示すように、プロジェクタ1のレンズ35から出射された光の一部を遮光する遮光板36を、プロジェクタ1の前面に挿入したものである。なお、ここでは、第1実施の形態のプロジェクタ1A,1B等、マルチプロジェクションシステムを構成する各プロジェクタを総称してプロジェクタ1として示している。
このような遮光板36を挿入することにより、図19(b)にスクリーン2への投射イメージを、図19(c)に画像空間の投射輝度をそれぞれ示すように、各プロジェクタ1からスクリーン2へ投射された画像の境界の輝度を滑らかに落とすことができ、これにより複数のプロジェクタ同士の画像重なり部分の輝度の浮きを軽減することができるので、貼り合わせ後の画質向上を図ることができる。
しかしながら、遮光板36が挿入された状態でテストパターン画像を各プロジェクタ1より投射すると、画像の境界に近い特徴点が遮光板によりけられてしまい、撮像および位置検出ができなくなってしまう可能性がある。
そこで、本実施の形態では、図19(d)に示すように、遮光板36を開閉機構部37により開閉式にして、テストパターン画像投射および撮像時は遮光板36を開放にし、テストパターン画像撮像後に再び遮光板36を挿入するようにする。これにより、各プロジェクタ1の位置合わせは遮光部においても精度よく行うことができ、さらに先に述べたように貼り合わせ後は、画像重なり部分の輝度の浮きを軽減することができるので、画質向上を図ることができる。
図20は、本実施の形態に係る幾何補正手段の構成を示すものである。本実施の形態では、第1実施の形態における幾何補正手段の構成(図3参照)に、さらに遮光制御手段38および遮光手段39を備えている。遮光手段39は、上述した開閉式の遮光板36である。また、遮光制御手段38は、制御者7による入力操作によって、テストパターン画像投射および撮像時に遮光板36を開放にするような制御信号を遮光手段39に出力すると共に、テストパターン撮像後は、遮光板36を挿入するような制御信号を遮光手段39へ出力する。その他、テストパターン画像作成手段11、画像投射手段12、画像撮像手段13、画像提示手段14、特徴点位置情報入力手段15、検出範囲設定手段16、幾何補正データ算出手段17、画像分割/幾何補正手段18、コンテンツ表示範囲情報入力手段19、コンテンツ表示範囲設定手段20は、前述した第1実施の形態と同様であるので、ここでは説明を省略する。
図21は、本実施の形態による幾何補正方法の処理手順を示すフローチャートである。ここでは、まず、遮光板36を挿入して(ステップS41)、プロジェクタ投射画像の重なり部がなだらかにつながるように、遮光板36の位置の調整を行う(ステップS42)。位置を調整した後は、一旦、遮光板36を開放にする(ステップS43)。
以下、コンテンツ表示範囲設定のステップS44から幾何補正データを送信するステップS52までは、図5に示した第1実施の形態における処理ステップS1〜S10と同様の処理を実行し、ステップS52の幾何補正データ送信後、最後に、再び遮光板36を挿入することにより(ステップS53)、各プロジェクタ1の位置合わせおよび輝度のつなぎ合わせが全て終了する。なお、図21におけるステップS41、ステップS43およびステップS53での遮光板36の駆動は、自動で行うようにしても良いし、手動で行うようにしても良い。
本実施の形態によれば、画像重なり部分の輝度の浮きを軽減するために遮光板36を挿入する場合でも、複数のプロジェクタの位置合わせを精度よく行うことが可能となる。
(第6実施の形態)
図22〜図25は、本発明の第6実施の形態を示すものである。
本実施の形態は、各プロジェクタにより、図22(a)に示すようなテストパターン画像とともに、図22(b)に示すようなテストパターン画像中の特徴点1点のみを表示するような単一特徴点画像を複数枚順次投射して、各々撮像するものである。ここで、単一特徴点画像は、テストパターン画像中の全ての特徴点に対して作成するのではなく、幾つかの代表的な特徴点に対してのみ単一特徴点画像を作成する。すなわち、図22(a)の細かく配置されたテストパターン画像における特徴点数をK、図22(b)に示す単一特徴点画像の枚数をJとするとき、J<Kとする。これにより、各単一特徴点画像を投射して撮像した画像からは、各々特徴点一点を検出すればよく、制御者7による検出範囲の設定を行うことなく自動的に検出することができる。
全ての単一特徴点について自動検出を行った後は、これら代表的な特徴点の位置より、前述した第1実施の形態のように線形補間もしくは多項式補間を行ってプロジェクタ画像−撮像画像間の座標変換式を近似的に導出し、その座標変換式を用いて図22(a)のテストパターン撮像画像における全ての特徴点の概略位置(検出範囲)を自動的に設定する。これにより、制御者7による検出範囲の設定を全く行うことなく、自動的に細かい特徴点で構成されたテストパターン画像の検出範囲を設定することが可能となる。
なお、各特徴点を単独で撮像して自動的に幾何補正を行う方法は、既に上記の特許文献2にも開示されているが、上記特許文献2に開示の方法では、テストパターン画像中の全ての特徴点について各々単独で撮像するため、特徴点が多数ある場合には撮像時間が非常にかかることになる。これに対し、本実施の形態では、代表的な特徴点のみ単独で撮影し、細かく配置された多数の特徴点については別途テストパターン画像として一度に撮像する2段階方式としているので、その分、撮像時間を上記方法に比べきわめて短くすることができる。
図23は、本実施の形態に係る幾何補正手段の構成を示すものである。本実施の形態における幾何補正手段は、前述した第1実施の形態の構成(図3参照)に対して、主にテストパターン画像作成手段11および検出範囲設定手段16の構成が異なるものである。
すなわち、テストパターン画像作成手段11は、図22(a)に示したような第1実施の形態と同様のテストパターン画像を作成するテストパターン画像作成部41と、図22(b)に示したような単一特徴点画像(複数枚)を作成する単一特徴点画像作成部42とで構成される。このテストパターン画像作成手段11で作成されたテストパターン画像および複数枚の単一特徴点画像は、画像投射手段12に順次入力されてスクリーン2上に投射され、画像撮像手段13により順次撮像される。
画像撮像手段13で撮像されたテストパターン撮像画像は、幾何補正データ算出手段17へ入力される。一方、画像撮像手段13で撮像された各単一特徴点撮像画像は、検出範囲設定手段16へ入力される。なお、本実施の形態においては、画像提示手段14にはコンテンツ表示範囲設定に用いるスクリーン撮像画像のみが入力され、テストパターン撮像画像および単一特徴点画像は入力されない。
検出範囲設定手段16は、画像撮像手段13から入力された各単一特徴点撮像画像に基づいて、後述する方法により、テストパターン撮像画像の各特徴点の概略位置(検出範囲)を算出して幾何補正データ算出手段17へ出力する。その他の幾何補正データ算出手段17、コンテンツ表示範囲情報入力手段19、コンテンツ表示範囲設定手段20、画像分割/幾何補正手段18については、第1実施の形態と同等であるので説明を省略する。
検出範囲設定手段16は、図24に示すように、単一特徴点撮像画像列記憶部45、特徴点位置検出部46、プロジェクタ画像−撮像画像座標変換式算出部47およびテストパターン検出範囲設定部48を有している。単一特徴点撮像画像列記憶部45は、画像撮像手段13により撮像された複数枚の単一特徴点撮像画像を記憶する。特徴点検出部46は、単一特徴点撮像画像列記憶部45に記憶された各単一特徴点撮像画像から特徴点の正確な位置を検出する。なお、この際の特徴点の位置検出方法は、検出範囲を画像全体に設定して、これまでと同様に一つの特徴点を検出すればよい。
プロジェクタ画像−撮像画像座標変換式算出部47は、特徴点検出部46により検出された各単一特徴点撮像画像の特徴点の位置情報と、予め与えられた元の(プロジェクタに入力する前の)単一特徴点画像の特徴点の位置情報とに基づいて、プロジェクタ画像の座標およびデジタルカメラ3による撮像画像の座標間の座標変換式を近似式として算出する。この際の近似式導出方法は、検出された各単一特徴点のプロジェクタ画像−撮像画像間の位置関係よりその他の画素位置については線形補間および多項式補間等を用いて導出すればよい。
テストパターン検出範囲設定部48は、プロジェクタ画像−撮像画像座標変換式算出部47において算出されたプロジェクタ画像−撮像画像間の座標変換式、および予め与えられた元の(プロジェクタに入力する前の)テストパターン画像の特徴点の位置情報とに基づいて、テストパターン撮像画像における各特徴点の概略位置(検出範囲位置)を算出して、後段の幾何補正データ算出手段17に出力する。
図25は、以上説明した本実施の形態に係る幾何補正方法の概略手順を示すフローチャートで、ステップS61〜ステップS69からなるが、その概要は上記の説明と重複するので、ここでは説明を省略する。
本実施の形態によれば、制御者7による検出範囲の設定を全く行うことなく、自動的に細かい特徴点で構成されたテストパターン画像の検出範囲を設定することができ、短時間で幾何補正データを得ることが可能となる。
(第7実施の形態)
図26は、本発明の第7実施の形態を示すものである。
本実施の形態は、第6実施の形態において、テストパターン画像のほかに表示する単一特徴点画像に代えて、図26に示すようなテストパターン画像中の外枠に配置されている特徴点のみ表示された一枚の外郭特徴点画像を各プロジェクタ1により投射して画像撮像手段により撮像するようにしたもので、その他の構成および動作は第6実施の形態と同様である。
本実施の形態は、特に、スクリーン2が曲面でなく平面状で、複数のプロジェクタ1が整列して並んで配置され(図26では、1台のプロジェクタ1のみを示している)、投射画像が回転または反転していない場合に有効に適用することができる。すなわち、このようなマルチプロジェクションシステムの場合は、特徴点の配置および順番もある程度規則的に並ぶことになるので、第6実施の形態のように一点ずつ特徴点を投射しなくても、ある程度複数点投射すれば、自動的に各々の特徴点を順番に検出することが可能である。
このように、複数のプロジェクタ1の配置がある程度単純な場合には、代表的な複数点を同時に投射・撮像し、さらに細かいテストパターン画像を撮像することで、各プロジェクタ1について2回の撮像のみで、自動的にテストパターン画像の検出範囲を設定でき、正確な幾何補正が実現できる。また、この場合において、投射画像の重なり部に、第5実施の形態に示したように遮光板を設けた場合には、遮光板の影響で暗くなってしまう外郭特徴点画像の撮像と、遮光板の影響を受けない内部の特徴点(テストパターン画像の特徴点)についての撮像とを分離できるので、遮光板による特徴点の輝度の差を気にすることなく位置検出を行うことが可能となり、遮光板を挿入したままでも検出ミスをなくすことができる。
本実施の形態によれば、スクリーン2に著しい曲面がない場合や、複数のプロジェクタ1がある程度整列して配置されている場合において、投射画像の重なり部に遮光板が配置されている場合においても、遮光板を開閉することなく挿入したままの状態で、良好な位置合わせを行うことができる。
本発明は、上記実施の形態に限定されるものではなく、幾多の変形または変更が可能である。例えば、スクリーン2はドーム状のものや、平面フロント投射型のものに限らず、例えば図27に示すようなアーチ型スクリーン2や、図28に示すような平面リア型スクリーン2を用いた場合でも同様に適用可能である。なお、図27および図28は、3つのプロジェクタ1A,1B,1Cを用いる場合を示している。


Claims (12)

  1. 複数台のプロジェクタから投射される画像を貼り合せてスクリーン上に一枚のコンテンツ画像を表示するマルチプロジェクションシステムにおいて、上記各プロジェクタの画像の位置合わせを行うための幾何補正データを算出するにあたり、
    上記各プロジェクタから複数個の特徴点からなるテストパターン画像を上記スクリーン上に投射させる投射ステップと、
    上記投射ステップで上記スクリーン上に投射されたテストパターン画像を撮像手段により撮像してテストパターン撮像画像として取り込む取込ステップと、
    上記取込ステップで取り込まれたテストパターン撮像画像をモニタ上に提示する提示ステップと、
    上記提示ステップで提示されたテストパターン撮像画像を参照しながらテストパターン撮像画像中の特徴点の概略位置を指定して入力する入力ステップと、
    上記入力ステップで入力された概略位置情報に基づいてテストパターン画像中の各特徴点の正確な位置を検出する検出ステップと、
    上記検出ステップで検出されたテストパターン撮像画像中の特徴点の位置と、予め与えられているテストパターン画像中の特徴点の座標情報と、別途定められたコンテンツ画像とテストパターン撮像画像との座標位置関係とに基づいて、上記各プロジェクタによる画像の位置合わせを行う画像補正データを算出する演算ステップと、
    を含むことを特徴とするマルチプロジェクションシステムにおける幾何補正方法。
  2. 上記入力ステップは、テストパターン撮像画像中の特徴点の概略位置として、テストパターン撮像画像中における特徴点の数よりも少ない数の位置を予め設定された所定の順番で指定して入力し、
    上記検出ステップは、上記入力ステップで入力された概略位置に基づいて補間演算によりテストパターン画像中の全ての特徴点における概略位置を推定し、その推定した特徴点の概略位置からテストパターン画像中の各特徴点の正確な位置を検出することを特徴とする請求項1に記載のマルチプロジェクションシステムにおける幾何補正方法。
  3. 上記入力ステップにおけるテストパターン撮像画像中の特徴点の概略位置は、テストパターン撮像画像中の最外郭に位置する複数個の特徴点の位置であることを特徴とする請求項2に記載のマルチプロジェクションシステムにおける幾何補正方法。
  4. 上記入力ステップにおけるテストパターン撮像画像中の特徴点の概略位置は、テストパターン撮像画像中における最外郭4隅に位置する4つの特徴点の位置であることを特徴とする請求項2に記載のマルチプロジェクションシステムにおける幾何補正方法。
  5. 上記テストパターン画像は、複数の特徴点とともに、上記入力ステップで指定する特徴点を識別する目印が付加されているものであることを特徴とする請求項1〜4のいずれか一項に記載のマルチプロジェクションシステムにおける幾何補正方法。
  6. 上記テストパターン画像は、複数の特徴点とともに、上記入力ステップで指定する特徴点の順番を識別する目印が付加されているものであることを特徴とする請求項1〜4のいずれか一項に記載のマルチプロジェクションシステムにおける幾何補正方法。
  7. 上記取込ステップの後に、上記各プロジェクタによる画像の境界部分における投射輝度を低減する遮光ステップを含むことを特徴とする請求項1〜6のいずれか一項に記載のマルチプロジェクションシステムにおける幾何補正方法。
  8. 複数台のプロジェクタから投射される画像を貼り合せてスクリーン上に一枚のコンテンツ画像を表示するマルチプロジェクションシステムにおいて、上記各プロジェクタの画像の位置合わせを行うための幾何補正データを算出するにあたり、
    上記各プロジェクタから複数個の特徴点からなるテストパターン画像を上記スクリーン上に投射させる投射ステップと、
    上記投射ステップで上記スクリーン上に投射されたテストパターン画像を撮像手段により撮像してテストパターン撮像画像として取り込む取込ステップと、
    上記各プロジェクタから、テストパターン画像における特徴点の数よりも少ない数の代表的な特徴点のうちの異なる一つの特徴点からなる複数枚の単一特徴点画像を上記スクリーン上に順次投射させる複数回投射ステップと、
    上記複数回投射ステップで上記スクリーン上に順次投射された複数枚の単一特徴点画像を撮像して単一特徴点撮像画像として取り込む複数回取込ステップと、
    上記複数回取込ステップで得られた複数枚の単一特徴点撮像画像から各々の特徴点の正確な位置を検出するプレ検出ステップと、
    上記プレ検出ステップで検出された複数枚の単一特徴点撮像画像における各特徴点の位置に基づいてテストパターン撮像画像中の各特徴点の正確な位置を検出する検出ステップと、
    上記検出ステップで検出されたテストパターン撮像画像中の特徴点の位置と、予め与えられているテストパターン画像中の特徴点の座標情報と、別途定められたコンテンツ画像とテストパターン撮像画像との座標位置関係とに基づいて、上記各プロジェクタによる画像の位置合わせを行う画像補正データを算出する演算ステップと、
    を含むことを特徴とするマルチプロジェクションシステムにおける幾何補正方法。
  9. 上記検出ステップは、上記プレ検出ステップで検出された複数枚の単一特徴点撮像画像における各特徴点の位置に基づいて多項式近似演算によりテストパターン撮像画像中の特徴点の概略位置を推定し、その推定された概略位置に基づいてテストパターン撮像画像中の特徴点の正確な位置を検出することを特徴とする請求項8に記載のマルチプロジェクションシステムにおける幾何補正方法。
  10. 上記複数回取り込みステップの後および上記取込ステップの後に、上記各プロジェクタによる画像の境界部分における投射輝度を低減する遮光ステップを含むことを特徴とする請求項8または9に記載のマルチプロジェクションシステムにおける幾何補正方法。
  11. 請求項1〜10のいずれか一項に記載のマルチプロジェクションシステムにおける幾何補正方法において、さらに、
    上記スクリーンの全体画像を上記撮像手段により撮像してスクリーン撮像画像として取得するスクリーン画像取得ステップと、
    上記スクリーン画像取込ステップで取得したスクリーン撮像画像をモニタ上に提示するスクリーン画像提示ステップと、
    上記スクリーン画像提示ステップで提示されたスクリーン撮像画像を参照しながらコンテンツ画像の表示範囲位置を指定して入力するコンテンツ座標入力ステップと、
    上記コンテンツ座標入力ステップで入力されたスクリーン撮像画像中のコンテンツ表示範囲位置に基づいてコンテンツ画像とスクリーン撮像画像との座標位置関係を算出する算出ステップとを含み、
    上記演算ステップは、上記検出ステップで検出されたテストパターン撮像画像中の特徴点の位置と、予め与えられているテストパターン画像中の特徴点の座標情報と、別途定められたコンテンツ画像とテストパターン撮像画像との座標位置関係と、上記算出ステップで算出されたコンテンツ画像とスクリーン撮像画像との座標位置関係とに基づいて、上記各プロジェクタによる画像の位置合わせを行う画像補正データを算出することを特徴とするマルチプロジェクションシステムにおける幾何補正方法。
  12. 上記スクリーン画像提示ステップは、上記スクリーン画像取込ステップで取得した上記スクリーン撮像画像を上記撮像手段のレンズ特性に応じて歪補正して上記モニタ上に提示することを特徴とする請求項11に記載のマルチプロジェクションシステムにおける幾何補正方法。


JP2006531630A 2004-09-01 2005-08-08 マルチプロジェクションシステムにおける幾何補正方法 Expired - Fee Related JP4637845B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2004254367 2004-09-01
JP2004254367 2004-09-01
PCT/JP2005/014530 WO2006025191A1 (ja) 2004-09-01 2005-08-08 マルチプロジェクションシステムにおける幾何補正方法

Publications (2)

Publication Number Publication Date
JPWO2006025191A1 true JPWO2006025191A1 (ja) 2008-05-08
JP4637845B2 JP4637845B2 (ja) 2011-02-23

Family

ID=35999851

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006531630A Expired - Fee Related JP4637845B2 (ja) 2004-09-01 2005-08-08 マルチプロジェクションシステムにおける幾何補正方法

Country Status (3)

Country Link
US (1) US20080136976A1 (ja)
JP (1) JP4637845B2 (ja)
WO (1) WO2006025191A1 (ja)

Families Citing this family (47)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5255250B2 (ja) * 2007-09-20 2013-08-07 パナソニック株式会社 映像調整システム
JP5207167B2 (ja) * 2007-12-12 2013-06-12 国立大学法人岐阜大学 投影システムの校正装置
US20090167782A1 (en) * 2008-01-02 2009-07-02 Panavision International, L.P. Correction of color differences in multi-screen displays
US9241143B2 (en) 2008-01-29 2016-01-19 At&T Intellectual Property I, L.P. Output correction for visual projection devices
US8936367B2 (en) 2008-06-17 2015-01-20 The Invention Science Fund I, Llc Systems and methods associated with projecting in response to conformation
US8820939B2 (en) 2008-06-17 2014-09-02 The Invention Science Fund I, Llc Projection associated methods and systems
US8944608B2 (en) 2008-06-17 2015-02-03 The Invention Science Fund I, Llc Systems and methods associated with projecting in response to conformation
US8733952B2 (en) 2008-06-17 2014-05-27 The Invention Science Fund I, Llc Methods and systems for coordinated use of two or more user responsive projectors
US8641203B2 (en) 2008-06-17 2014-02-04 The Invention Science Fund I, Llc Methods and systems for receiving and transmitting signals between server and projector apparatuses
US8608321B2 (en) 2008-06-17 2013-12-17 The Invention Science Fund I, Llc Systems and methods for projecting in response to conformation
US8540381B2 (en) * 2008-06-17 2013-09-24 The Invention Science Fund I, Llc Systems and methods for receiving information associated with projecting
US8723787B2 (en) 2008-06-17 2014-05-13 The Invention Science Fund I, Llc Methods and systems related to an image capture projection surface
US20090309826A1 (en) 2008-06-17 2009-12-17 Searete Llc, A Limited Liability Corporation Of The State Of Delaware Systems and devices
US20090310038A1 (en) 2008-06-17 2009-12-17 Searete Llc, A Limited Liability Corporation Of The State Of Delaware Projection in response to position
JP5256899B2 (ja) * 2008-07-18 2013-08-07 セイコーエプソン株式会社 画像補正装置、画像補正方法、プロジェクタおよびプロジェクションシステム
US20100253700A1 (en) * 2009-04-02 2010-10-07 Philippe Bergeron Real-Time 3-D Interactions Between Real And Virtual Environments
JP5235842B2 (ja) * 2009-11-10 2013-07-10 日本電信電話株式会社 光学系パラメータ校正装置、光学系パラメータ校正方法、プログラム、及び記録媒体
KR20110062008A (ko) * 2009-12-02 2011-06-10 삼성전자주식회사 화상형성장치 및 그 화상 노이즈 처리 방법
JP5560771B2 (ja) * 2010-02-26 2014-07-30 セイコーエプソン株式会社 画像補正装置、画像表示システム、画像補正方法
JP5604909B2 (ja) * 2010-02-26 2014-10-15 セイコーエプソン株式会社 補正情報算出装置、画像処理装置、画像表示システム、および画像補正方法
JP5182594B2 (ja) * 2010-03-31 2013-04-17 アイシン・エィ・ダブリュ株式会社 画像処理システム
JP5372857B2 (ja) 2010-07-16 2013-12-18 三洋電機株式会社 投写型映像表示装置
WO2012068112A1 (en) * 2010-11-15 2012-05-24 Scalable Display Technologies, Inc. System and method for calibrating a display system using manual and semi-automatic techniques
JP5952625B2 (ja) * 2011-06-23 2016-07-13 キヤノン株式会社 情報処理装置、情報処理方法、及びプログラム
JP6028372B2 (ja) * 2012-04-05 2016-11-16 カシオ計算機株式会社 表示制御装置、画像処理装置、画像制御方法及びプログラム
JP6070307B2 (ja) * 2012-05-21 2017-02-01 株式会社リコー パターン抽出装置、画像投影装置、パターン抽出方法およびプログラム
JP6065656B2 (ja) * 2012-05-22 2017-01-25 株式会社リコー パターン処理装置、パターン処理方法、パターン処理プログラム
CN105308503A (zh) * 2013-03-15 2016-02-03 斯加勒宝展示技术有限公司 利用短程相机校准显示系统的系统和方法
JP5605473B2 (ja) * 2013-07-30 2014-10-15 三洋電機株式会社 投写型映像表示装置
KR101526294B1 (ko) * 2013-08-26 2015-06-05 씨제이씨지브이 주식회사 파라미터를 이용하여 가이드 이미지를 생성하는 장치 및 방법
JP6421445B2 (ja) 2014-01-24 2018-11-14 株式会社リコー 投影システム、画像処理装置、校正方法、システムおよびプログラム
KR101580056B1 (ko) * 2014-09-17 2015-12-28 국립대학법인 울산과학기술대학교 산학협력단 영상 왜곡 보정 장치 및 그 방법
EP3346699B1 (en) * 2015-09-01 2023-02-01 NEC Platforms, Ltd. Projection device, projection method and projection program
JP6594170B2 (ja) * 2015-11-12 2019-10-23 キヤノン株式会社 画像処理装置、画像処理方法、画像投影システムおよびプログラム
JP6769179B2 (ja) * 2016-08-31 2020-10-14 株式会社リコー 画像投影システム、情報処理装置、画像投影方法及びプログラム
JP6773609B2 (ja) * 2017-06-23 2020-10-21 ウエストユニティス株式会社 遠隔支援システム、情報提示システム、表示システムおよび手術支援システム
EP3706410B1 (en) * 2017-12-19 2022-08-03 Sony Group Corporation Image processing device, image processing method, program, and projection system
CN110784692B (zh) * 2018-07-31 2022-07-05 中强光电股份有限公司 投影装置、投影系统及影像校正方法
CN110784693A (zh) * 2018-07-31 2020-02-11 中强光电股份有限公司 投影机校正方法与使用此方法的投影系统
JPWO2020255766A1 (ja) * 2019-06-20 2020-12-24
JP7163933B2 (ja) * 2020-01-16 2022-11-01 セイコーエプソン株式会社 制御装置、制御方法および制御プログラム
JP2021164100A (ja) 2020-04-01 2021-10-11 パナソニックIpマネジメント株式会社 映像調整システムおよび映像調整装置
JP7272336B2 (ja) * 2020-09-09 2023-05-12 セイコーエプソン株式会社 情報生成方法、情報生成システム、及びプログラム
CN113038102B (zh) * 2021-03-05 2022-03-22 深圳市普汇智联科技有限公司 用于多投影拼接的全自动几何校正方法
JP2023006798A (ja) * 2021-06-30 2023-01-18 富士フイルム株式会社 投影装置、投影方法、制御装置、及び制御プログラム
WO2023074301A1 (ja) * 2021-10-27 2023-05-04 パナソニックIpマネジメント株式会社 キャリブレーション方法、及び、投写型表示システム
JP2023132946A (ja) * 2022-03-11 2023-09-22 パナソニックIpマネジメント株式会社 検証方法、コンピュータプログラム及び投影システム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003046751A (ja) * 2001-07-27 2003-02-14 Olympus Optical Co Ltd マルチプロジェクションシステム
JP2003219324A (ja) * 2002-01-17 2003-07-31 Olympus Optical Co Ltd 画像補正データ算出方法、画像補正データ算出装置及びマルチプロジェクションシステム

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3735158B2 (ja) * 1996-06-06 2006-01-18 オリンパス株式会社 画像投影システム、画像処理装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003046751A (ja) * 2001-07-27 2003-02-14 Olympus Optical Co Ltd マルチプロジェクションシステム
JP2003219324A (ja) * 2002-01-17 2003-07-31 Olympus Optical Co Ltd 画像補正データ算出方法、画像補正データ算出装置及びマルチプロジェクションシステム

Also Published As

Publication number Publication date
WO2006025191A1 (ja) 2006-03-09
JP4637845B2 (ja) 2011-02-23
US20080136976A1 (en) 2008-06-12

Similar Documents

Publication Publication Date Title
JP4637845B2 (ja) マルチプロジェクションシステムにおける幾何補正方法
US11269244B2 (en) System and method for calibrating a display system using manual and semi-manual techniques
CN109936734B (zh) 投影控制设备及其控制方法、投影系统和记录介质
US10602102B2 (en) Projection system, image processing apparatus, projection method
US9818377B2 (en) Projection system, image processing apparatus, and correction method
KR102328020B1 (ko) 하나의 룩업 테이블을 이용한 파노라마 영상 출력 시스템 및 방법
JP6299124B2 (ja) 投影システム、画像処理装置、投影方法およびプログラム
JP3925521B2 (ja) スクリーンの一部の辺を用いたキーストーン補正
JP3908255B2 (ja) 画像投影システム
CN110099260B (zh) 投射系统、投射系统的控制方法以及投影仪
JP5604909B2 (ja) 補正情報算出装置、画像処理装置、画像表示システム、および画像補正方法
JP2005347813A (ja) 画像変換方法および画像変換装置、並びにマルチプロジェクションシステム
JP2008533501A (ja) コンピュータ実施によるプロジェクタの姿勢を調整する方法、及び、プロジェクタの姿勢を調整する装置
JP6645687B2 (ja) 表示装置及び制御方法
JP2004336225A (ja) 画像処理システム、プロジェクタ、プログラム、情報記憶媒体および画像処理方法
JP2005354680A (ja) 画像投影システム
US8736774B1 (en) Projection apparatus, projection method and computer-readable storage medium for correcting a projection state being projected onto curved surface
JP2003348500A (ja) 投射画像の調整方法、画像投射方法および投射装置
JP2009049862A (ja) 投射画像の形状歪補正支援システム、投射画像の形状歪補正支援方法、及びプロジェクタ
JP3709395B2 (ja) 画像投影システム
JP2014225182A (ja) 画像投影システム、画像処理装置およびプログラム
JP7116543B2 (ja) 投写制御装置およびその制御方法、ならびに投写システム
JP2006109088A (ja) マルチプロジェクションシステムにおける幾何補正方法
JP4168024B2 (ja) スタックプロジェクション装置及びその調整方法
JP2005252804A (ja) マルチプロジェクションシステムのための画像補正方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080602

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20101102

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101124

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131203

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131203

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees