JP2005341139A - 画像処理システム、プロジェクタ、プログラム、情報記憶媒体および画像処理方法 - Google Patents

画像処理システム、プロジェクタ、プログラム、情報記憶媒体および画像処理方法 Download PDF

Info

Publication number
JP2005341139A
JP2005341139A JP2004156273A JP2004156273A JP2005341139A JP 2005341139 A JP2005341139 A JP 2005341139A JP 2004156273 A JP2004156273 A JP 2004156273A JP 2004156273 A JP2004156273 A JP 2004156273A JP 2005341139 A JP2005341139 A JP 2005341139A
Authority
JP
Japan
Prior art keywords
image
imaging
projection
information
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004156273A
Other languages
English (en)
Other versions
JP3888465B2 (ja
Inventor
Hideki Matsuda
秀樹 松田
Tetsuro Tokuyama
哲朗 徳山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2004156273A priority Critical patent/JP3888465B2/ja
Priority to TW094117099A priority patent/TW200602787A/zh
Priority to KR1020050044279A priority patent/KR100749069B1/ko
Priority to EP05011409A priority patent/EP1601181A1/en
Priority to US11/137,350 priority patent/US7233707B2/en
Priority to CNB2005100723209A priority patent/CN100426126C/zh
Publication of JP2005341139A publication Critical patent/JP2005341139A/ja
Application granted granted Critical
Publication of JP3888465B2 publication Critical patent/JP3888465B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • H04N9/3185Geometric adjustment, e.g. keystone or convergence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/74Projection arrangements for image reproduction, e.g. using eidophor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3191Testing thereof
    • H04N9/3194Testing thereof including sensor feedback

Abstract

【課題】 撮像画像に含まれる外光の影響を抑制して撮像画像内の所定の領域を適切に検出することが可能な画像処理システム等を提供すること。
【解決手段】 全白画像および全黒画像をスクリーンへ向け投写する投写部190と、全白画像を撮像して第1の撮像情報を生成するとともに、全黒画像を撮像して第2の撮像情報を生成するセンサーと、第1および第2の撮像情報に基づき、差分画像を生成する差分画像生成部160と、外光影響除去部170と、外光影響が除去された差分画像に基づき、センサー60の撮像領域におけるスクリーンに相当する投写対象領域の位置に関する投写対象領域情報を生成する投写対象領域検出部180とをプロジェクタに設ける。
【選択図】 図2

Description

本発明は、撮像情報に基づいて所定の領域を検出する画像処理システム、プロジェクタ、プログラム、情報記憶媒体および画像処理方法に関する。
近年、CCDカメラを有するプロジェクタを用いてスクリーン等の投写対象物に画像を投写し、投写された投写画像をCCDカメラで撮像して撮像領域内の投写領域の4隅の座標を検出することにより、投写画像の位置を調整することが提案されている。
このような場合、例えば、ブラインドから差し込む日光のように、強烈なコントラストの生じる外光がスクリーンに映り込むことにより、エッジ検出や形状検出の際に当該外光をエッジや形状の一部として判定されてしまう問題がある。
このような問題に対し、例えば、特許文献1では、撮像画像に生じる外光成分による影響を除去する画像処理装置が提案されている。
特開2001−268326号公報
しかし、特許文献1の画像処理装置のように、一般的な差分画像を用いる手法では、強烈なコントラストの生じる外光の影響を除去することはできない。これは、投写光に外光の影響が加わることにより、撮像画像に飽和が生じてしまうからである。
また、特許文献1の画像処理装置は、エッジ検出後に、そのエッジの近傍等の外光情報に基づいて外光の影響を除去しようとしている。しかし、強烈なコントラストの生じる外光の場合、当該外光によるエッジ部分は、当該エッジ部分の近傍の部分との差異が大きいため、当該手法では外光の影響を適切に除去することはできない。
さらに、特許文献1の画像処理装置は、露光量を取得して処理を行っているが、露光量は画像全体の平均的な明るさに基づいて決定されるため、外光によって画像の一部に強烈なコントラストが生じている場合の影響を適切に判定することはできない。
また、プロジェクタが、スクリーン等に画像を投写する場合、外光の影響を受ける場合であっても、投写画像とスクリーンとの包含関係に関わらず、投写画像の歪みの補正等を行えることが好ましい。
本発明は、上記の課題に鑑みなされたものであり、その目的は、撮像画像に含まれる外光の影響を抑制して撮像画像内の所定の領域を適切に検出することが可能な画像処理システム、プロジェクタ、プログラム、情報記憶媒体および画像処理方法を提供することにある。
上記課題を解決するため、本発明に係る画像処理システムおよびプロジェクタは、第1のキャリブレーション画像または面状の光および第2のキャリブレーション画像または面状の光を投写対象物へ向け投写する投写手段と、
前記第1のキャリブレーション画像または面状の光が投写された前記投写対象物を撮像して第1の撮像情報を生成するとともに、前記第2のキャリブレーション画像または面状の光が投写された前記投写対象物を撮像して第2の撮像情報を生成する撮像手段と、
前記第1の撮像情報で表される第1の撮像画像と、前記第2の撮像情報で表される第2の撮像画像との第1の差分画像を生成する差分画像生成手段と、
前記第1または第2の撮像情報に所定値以上の明るさ指標値を有する画素領域がある場合、前記第1の差分画像における当該画素領域の明るさ指標値を、前記第1の差分画像における当該画素領域近傍の明るさ指標値に置換する処理またはエッジ検出処理が行われないように前記第1の差分画像における当該画素領域の明るさ指標値として特殊値を設定する処理を実行する外光影響除去手段と、
前記外光影響除去手段による処理後の第1の差分画像に基づき、エッジ検出処理を行うことにより、前記撮像手段の撮像領域における前記投写対象物に相当する投写対象領域の位置に関する投写対象領域情報を生成する投写対象領域検出手段と、
を含むことを特徴とする。
また、本発明に係るプログラムは、コンピュータにより読み取り可能なプログラムであって、
コンピュータを、
第1のキャリブレーション画像または面状の光および第2のキャリブレーション画像または面状の光を投写対象物へ向け投写する投写手段と、
前記第1のキャリブレーション画像または面状の光が投写された前記投写対象物を撮像して第1の撮像情報を生成するとともに、前記第2のキャリブレーション画像または面状の光が投写された前記投写対象物を撮像して第2の撮像情報を生成する撮像手段と、
前記第1の撮像情報で表される第1の撮像画像と、前記第2の撮像情報で表される第2の撮像画像との第1の差分画像を生成する差分画像生成手段と、
前記第1または第2の撮像情報に所定値以上の明るさ指標値を有する画素領域がある場合、前記第1の差分画像における当該画素領域の明るさ指標値を、前記第1の差分画像における当該画素領域近傍の明るさ指標値に置換する処理またはエッジ検出処理が行われないように前記第1の差分画像における当該画素領域の明るさ指標値として特殊値を設定する処理を実行する外光影響除去手段と、
前記外光影響除去手段による処理後の第1の差分画像に基づき、エッジ検出処理を行うことにより、前記撮像手段の撮像領域における前記投写対象物に相当する投写対象領域の位置に関する投写対象領域情報を生成する投写対象領域検出手段として機能させることを特徴とする。
また、本発明に係る画像処理方法は、第1のキャリブレーション画像または面状の光を投写対象物へ向け投写し、
前記第1のキャリブレーション画像または面状の光が投写された前記投写対象物を撮像して第1の撮像情報を生成し、
第2のキャリブレーション画像または面状の光を前記投写対象物へ向け投写し、
前記第2のキャリブレーション画像または面状の光が投写された前記投写対象物を撮像して第2の撮像情報を生成し、
前記第1の撮像情報で表される第1の撮像画像と、前記第2の撮像情報で表される第2の撮像画像との第1の差分画像を生成し、
前記第1または第2の撮像情報に所定値以上の明るさ指標値を有する画素領域がある場合、前記第1の差分画像における当該画素領域の明るさ指標値を、前記第1の差分画像における当該画素領域近傍の明るさ指標値に置換する処理またはエッジ検出処理が行われないように前記第1の差分画像における当該画素領域の明るさ指標値として特殊値を設定する処理を実行し、
当該処理後の第1の差分画像に基づき、エッジ検出処理を行うことにより、前記撮像手段の撮像領域における前記投写対象物に相当する投写対象領域の位置に関する投写対象領域情報を生成することを特徴とする。
また、本発明に係る画像処理システムおよびプロジェクタは、第1のキャリブレーション画像または面状の光を投写対象物へ向け投写する投写手段と、
前記第1のキャリブレーション画像または面状の光が投写された前記投写対象物を撮像して第1の撮像情報を生成するとともに、非投写時の前記投写対象物を撮像して第2の撮像情報を生成する撮像手段と、
前記第1の撮像情報で表される第1の撮像画像と、前記第2の撮像情報で表される第2の撮像画像との第1の差分画像を生成する差分画像生成手段と、
前記第1または第2の撮像情報に所定値以上の明るさ指標値を有する画素領域がある場合、前記第1の差分画像における当該画素領域の明るさ指標値を、前記第1の差分画像における当該画素領域近傍の明るさ指標値に置換する処理またはエッジ検出処理が行われないように前記第1の差分画像における当該画素領域の明るさ指標値として特殊値を設定する処理を実行する外光影響除去手段と、
前記外光影響除去手段による処理後の第1の差分画像に基づき、エッジ検出処理を行うことにより、前記撮像手段の撮像領域における前記投写対象物に相当する投写対象領域の位置に関する投写対象領域情報を生成する投写対象領域検出手段と、
を含むことを特徴とする。
また、本発明に係るプログラムは、コンピュータにより読み取り可能なプログラムであって、
コンピュータを、
第1のキャリブレーション画像または面状の光を投写対象物へ向け投写する投写手段と、
前記第1のキャリブレーション画像または面状の光が投写された前記投写対象物を撮像して第1の撮像情報を生成するとともに、非投写時の前記投写対象物を撮像して第2の撮像情報を生成する撮像手段と、
前記第1の撮像情報で表される第1の撮像画像と、前記第2の撮像情報で表される第2の撮像画像との第1の差分画像を生成する差分画像生成手段と、
前記第1または第2の撮像情報に所定値以上の明るさ指標値を有する画素領域がある場合、前記第1の差分画像における当該画素領域の明るさ指標値を、前記第1の差分画像における当該画素領域近傍の明るさ指標値に置換する処理またはエッジ検出処理が行われないように前記第1の差分画像における当該画素領域の明るさ指標値として特殊値を設定する処理を実行する外光影響除去手段と、
前記外光影響除去手段による処理後の第1の差分画像に基づき、エッジ検出処理を行うことにより、前記撮像手段の撮像領域における前記投写対象物に相当する投写対象領域の位置に関する投写対象領域情報を生成する投写対象領域検出手段として機能させることを特徴とする。
また、本発明に係る情報記憶媒体は、コンピュータにより読み取り可能なプログラムを記憶した情報記憶媒体であって、
上記のいずれかのプログラムを記憶したことを特徴とする。
また、本発明に係る画像処理方法は、第1のキャリブレーション画像または面状の光を投写対象物へ向け投写し、
前記第1のキャリブレーション画像または面状の光が投写された前記投写対象物を撮像して第1の撮像情報を生成し、
非投写時の前記投写対象物を撮像して第2の撮像情報を生成し、
前記第1の撮像情報で表される第1の撮像画像と、前記第2の撮像情報で表される第2の撮像画像との第1の差分画像を生成し、
前記第1または第2の撮像情報に所定値以上の明るさ指標値を有する画素領域がある場合、前記第1の差分画像における当該画素領域の明るさ指標値を、前記第1の差分画像における当該画素領域近傍の明るさ指標値に置換する処理またはエッジ検出処理が行われないように前記第1の差分画像における当該画素領域の明るさ指標値として特殊値を設定する処理を実行し、
当該処理後の第1の差分画像に基づき、エッジ検出処理を行うことにより、前記撮像手段の撮像領域における前記投写対象物に相当する投写対象領域の位置に関する投写対象領域情報を生成することを特徴とする。
本発明によれば、画像処理システム等は、外光影響除去のための処理を実行することにより、強烈なコントラストの生じる外光の影響を除去した状態で撮像画像内の投写対象領域を適切に検出することができる。
また、本発明によれば、画像処理システム等は、外光影響を除去した差分画像に対してエッジ検出等を行って投写対象領域を検出することにより、投写対象領域をより高精度に検出することができる。
なお、前記第1のキャリブレーション画像は、全面白色の画像であって、前記第2のキャリブレーション画像は、全面黒色の画像であってもよい。
また、前記明るさ指標値としては、例えば、輝度値、RGB信号値等の明るさの指標となる値が該当する。
また、前記第1のキャリブレーション画像または面状の光と、前記第2のキャリブレーション画像または面状の光との差分画像は、高周波成分を含まない画像であってもよい。
これによれば、画像処理システム等は、誤検出の少ない高精度な領域検出を行うことができる。
また、前記画像処理システムおよび前記プロジェクタは、前記撮像手段の撮像領域における投写領域の位置に関する投写領域情報を生成する投写領域検出手段を含み、
前記投写手段は、第3のキャリブレーション画像を前記投写対象物へ向け投写し、
前記撮像手段は、前記第3のキャリブレーション画像が投写された前記投写対象物を撮像して第3の撮像情報を生成し、
前記差分画像生成手段は、前記第1の撮像画像と、前記第3の撮像情報で表される第3の撮像画像との第2の差分画像を生成し、
前記第2の差分画像は、当該差分画像の中央付近に位置する中央ブロック領域と、当該中央ブロック領域の周辺に位置する周辺ブロック領域と、前記中央ブロック領域および前記周辺ブロック領域以外の背景領域とから構成され、
前記中央ブロック領域および前記周辺ブロック領域における各画素と、前記背景領域における各画素とは異なる明るさ指標値を有し、
前記投写領域検出手段は、
前記第2の差分画像に基づき、前記撮像手段の撮像領域における前記中央ブロック領域の複数の中央基準位置を検出する中央基準位置検出手段と、
前記中央基準位置に基づき、前記撮像領域における前記周辺ブロック領域の複数の周辺基準位置を検出する周辺基準位置検出手段と、
前記中央基準位置と、前記周辺基準位置とに基づき、前記投写領域情報を生成する投写領域情報生成手段と、
を含んでもよい。
また、前記プログラムおよび前記情報記憶媒体は、前記コンピュータを、前記撮像手段の撮像領域における投写領域の位置に関する投写領域情報を生成する投写領域検出手段として機能させ、
前記投写手段は、第3のキャリブレーション画像を前記投写対象物へ向け投写し、
前記撮像手段は、前記第3のキャリブレーション画像が投写された前記投写対象物を撮像して第3の撮像情報を生成し、
前記差分画像生成手段は、前記第1の撮像画像と、前記第3の撮像情報で表される第3の撮像画像との第2の差分画像を生成し、
前記第2の差分画像は、当該差分画像の中央付近に位置する中央ブロック領域と、当該中央ブロック領域の周辺に位置する周辺ブロック領域と、前記中央ブロック領域および前記周辺ブロック領域以外の背景領域とから構成され、
前記中央ブロック領域および前記周辺ブロック領域における各画素と、前記背景領域における各画素とは異なる明るさ指標値を有し、
前記投写領域検出手段は、
前記第2の差分画像に基づき、前記撮像手段の撮像領域における前記中央ブロック領域の複数の中央基準位置を検出する中央基準位置検出手段と、
前記中央基準位置に基づき、前記撮像領域における前記周辺ブロック領域の複数の周辺基準位置を検出する周辺基準位置検出手段と、
前記中央基準位置と、前記周辺基準位置とに基づき、前記投写領域情報を生成する投写領域情報生成手段と、
を含んでもよい。
また、前記画像処理方法は、第3のキャリブレーション画像を前記投写対象物へ向け投写し、
前記第3のキャリブレーション画像が投写された前記投写対象物を撮像して第3の撮像情報を生成し、
前記第1の撮像画像と、前記第3の撮像情報で表される第3の撮像画像との第2の差分画像を生成し、
前記第2の差分画像は、当該差分画像の中央付近に位置する中央ブロック領域と、当該中央ブロック領域の周辺に位置する周辺ブロック領域と、前記中央ブロック領域および前記周辺ブロック領域以外の背景領域とから構成され、
前記中央ブロック領域および前記周辺ブロック領域における各画素と、前記背景領域における各画素とは異なる明るさ指標値を有し、
前記第2の差分画像に基づき、撮像領域における前記中央ブロック領域の複数の中央基準位置を検出し、
前記中央基準位置に基づき、前記撮像領域における前記周辺ブロック領域の複数の周辺基準位置を検出し、
前記中央基準位置と、前記周辺基準位置とに基づき、前記撮像領域における投写領域の位置に関する投写領域情報を生成してもよい。
これによれば、画像処理システム等は、第2の差分画像を用いることにより、投写画像の一部(例えば、周辺部分等)が投写対象物からはみ出している場合であっても、投写領域を適切に検出することができる。
また、前記画像処理システムおよび前記プロジェクタは、前記投写対象領域情報と、前記投写領域情報とに基づき、画像の歪みを補正する画像歪み補正手段を含み、
前記投写手段は、前記画像歪み補正手段によって補正された画像を前記投写対象物へ向け投写してもよい。
また、前記プログラムおよび前記情報記憶媒体は、前記コンピュータを、前記投写対象領域情報と、前記投写領域情報とに基づき、画像の歪みを補正する画像歪み補正手段として機能させ、
前記投写手段は、前記画像歪み補正手段によって補正された画像を前記投写対象物へ向け投写してもよい。
また、前記画像処理方法は、前記投写対象領域情報と、前記投写領域情報とに基づき、画像の歪みを補正し、
補正した画像を前記投写対象物へ向け投写してもよい。
これによれば、画像処理システム等は、外光の影響がある場合であっても、適切に画像の歪みを補正することができる。
また、前記画像処理システム、前記プロジェクタ、前記プログラムおよび前記情報記憶媒体において、前記撮像手段の撮像領域において、前記撮像手段は、自動露出で撮像することにより前記第1の撮像情報を生成し、当該自動露出で決定された露出で撮像することにより前記第2の撮像情報を生成してもよい。
また、前記画像処理方法は、自動露出で撮像することにより前記第1の撮像情報を生成し、当該自動露出で決定された露出で撮像することにより前記第2の撮像情報を生成してもよい。
これによれば、画像処理システム等は、同じ露出で撮像された撮像情報の差分画像を用いることにより、より高速かつ低負荷で外光の影響を除去することができる。
以下、本発明を、画像処理システムを有するプロジェクタに適用した場合を例に採り、図面を参照しつつ説明する。なお、以下に示す実施形態は、特許請求の範囲に記載された発明の内容を何ら限定するものではない。また、以下の実施形態に示す構成の全てが、特許請求の範囲に記載された発明の解決手段として必須であるとは限らない。
(システム全体の説明)
図1は、本実施形態の一例に係る画像投写状況を示す概略図である。
プロジェクタ20は、投写対象物の一種であるスクリーン10へ向け画像を投写する。これにより、スクリーン10には、投写画像12が表示される。なお、本実施例では、図1に示すように、スクリーン10の一部に外光80(例えば、ブラインドの隙間からの日光等)によるスポット光82が表示され、投写画像12の周辺部分がスクリーン10からはみ出している状態を例に採り説明する。
また、プロジェクタ20は、撮像手段であるセンサー60を有する。センサー60は、投写画像12が表示されたスクリーン10を、撮像面を介して撮像し、撮像情報を生成する。プロジェクタ20は、撮像情報に基づき、スクリーン10と投写画像12との位置関係や投写画像12の形状を把握し、投写画像12の歪みや表示位置の調整を行う。
また、プロジェクタ20は、従来とは異なる画像処理を実行することにより、より短時間で、かつ、正確にセンサー60の撮像領域内における投写対象領域(スクリーン10に相当する領域)と、投写領域(投写画像12に相当する領域)の位置情報を生成する。
また、プロジェクタ20は、撮像画像に含まれる外光80の影響を除去することにより、投写対象領域等をより正確に検出する。
次に、このような機能を実装するためのプロジェクタ20の機能ブロックについて説明する。
図2は、本実施形態の一例に係るプロジェクタ20の機能ブロック図である。
プロジェクタ20は、PC(Personal Computer)等からのアナログRGB信号(R1、G1、B1)をデジタルRGB信号(R2、G2、B2)に変換する入力信号処理部110と、画像の色と明るさを補正するため、当該デジタルRGB信号(R2、G2、B2)をデジタルRGB信号(R3、G3、B3)に変換する色変換部120と、当該デジタルRGB信号(R3、G3、B3)をアナログRGB信号(R4、G4、B4)に変換する出力信号処理部130と、当該アナログRGB信号に基づき、画像を投写する投写部190とを含んで構成されている。
また、投写部190は、空間光変調器192と、空間光変調器192を駆動する駆動部194と、光源196と、レンズ198とを含んで構成されている。駆動部194は、出力信号処理部130からの画像信号に基づき、空間光変調器192を駆動する。そして、投写部190は、光源196からの光を、空間光変調器192およびレンズ198を介して投写する。
また、プロジェクタ20は、第1、第2および第3のキャリブレーション画像を表示するためのキャリブレーション情報を生成するキャリブレーション情報生成部114と、キャリブレーション画像の撮像情報を生成するセンサー60と、センサー60からの撮像情報等を一時的に記憶する記憶部140とを含んで構成されている。
また、プロジェクタ20は、第1および第2の撮像画像の差分である第1の差分画像と、第1および第3の撮像画像の差分である第2の差分画像を生成する差分画像生成部160と、外光の影響を除去する処理を実行する外光影響除去部170とを含んで構成されている。
また、プロジェクタ20は、撮像情報に基づき、センサー60の撮像面(撮像領域)における投写領域の位置を検出する投写領域検出部150を含んで構成されている。また、投写領域検出部150は、差分画像に含まれる中央ブロック領域の複数の中央基準位置を検出する中央基準位置検出部154と、差分画像に含まれる周辺ブロック領域の複数の周辺基準位置を検出する周辺基準位置検出部156と、各基準位置に基づき、投写領域の位置を示す投写領域情報を生成する投写領域情報生成部158とを含んで構成されている。
また、プロジェクタ20は、センサー60の撮像領域におけるスクリーン10に相当する投写対象領域の位置に関する投写対象領域情報を生成する投写対象領域検出部180を含む。また、投写対象領域検出部180は、検索範囲決定部182と、エッジ検出部184と、エッジ検出点を評価する検出点評価部188と、投写対象領域を仮検出して仮検出情報を生成するとともに、投写対象領域情報を生成する投写対象領域情報生成部186とを含んで構成されている。
さらに、プロジェクタ20は、投写画像12の歪みを補正する画像歪み補正手段を有する。より具体的には、プロジェクタ20は、画像歪み補正手段として、投写領域情報と、投写対象領域情報とに基づき、画像歪み補正量を演算する画像歪み補正量演算部162と、当該画像歪み補正量に基づき、画像信号を補正する画像歪み補正部112とを有する。
また、上述したプロジェクタ20の各部の機能を実装するためのハードウェアとしては、例えば、以下のものを適用できる。
図3は、本実施形態の一例に係るプロジェクタ20のハードウェアブロック図である。
例えば、入力信号処理部110としては、例えば、A/Dコンバーター930、画像処理回路970等、記憶部140としては、例えば、RAM950等、投写領域検出部150、差分画像生成部160、外光影響除去部170、投写対象領域検出部180としては、例えば、画像処理回路970等、画像歪み補正量演算部162としては、例えばCPU910等、キャリブレーション情報生成部114としては、例えば、画像処理回路970、RAM950等、出力信号処理部130としては、例えば、D/Aコンバーター940等、空間光変調器192としては、例えば、液晶パネル920等、駆動部194としては、例えば、液晶パネル920を駆動する液晶ライトバルブ駆動ドライバを記憶するROM960等を用いて実装できる。
なお、これらの各部はシステムバス980を介して相互に情報をやりとりすることが可能である。
また、これらの各部は回路のようにハードウェア的に実装してもよいし、ドライバのようにソフトウェア的に実装してもよい。
さらに、投写対象領域情報生成部186等としてコンピュータを機能させるためのプログラムを記憶した情報記憶媒体900からプログラムを読み取って投写対象領域情報生成部186等の機能をコンピュータに実装してもよい。
このような情報記憶媒体900としては、例えば、CD−ROM、DVD−ROM、ROM、RAM、HDD等を適用でき、そのプログラムの読み取り方式は接触方式であっても、非接触方式であってもよい。
また、情報記憶媒体900に代えて、上述した各機能を実装するためのプログラム等を、伝送路を介してホスト装置等からダウンロードすることによって上述した各機能を実装することも可能である。
以下、これらの各部を用いた画像処理について説明する。
図4は、本実施形態の一例に係る画像処理の流れを示すフローチャートである。また、図5は、本実施形態の一例に係るキャリブレーション画像の模式図であり、図5(A)は、全白画像13の模式図であり、図5(B)は、パターン画像14の模式図である。
まず、ユーザーは、プロジェクタ20を、スクリーン10に向け設置し、プロジェクタ20の電源を入れる。
まず、プロジェクタ20は、第1のキャリブレーション画像として、図5(A)に示す全白画像(画像全体が白色)13を投写する(ステップS1)。より具体的には、キャリブレーション情報生成部114は、全白画像13用のキャリブレーション情報(例えば、RGB信号等)を生成し、投写部190は、当該キャリブレーション情報に基づき、全白画像13を投写する。
センサー60は、スクリーン10上の全白画像13を自動露出設定で撮像して第1の撮像情報を生成する(ステップS2)。記憶部140は、第1の撮像情報を記憶する。
また、プロジェクタ20は、第3のキャリブレーション画像として、図5(B)に示すパターン画像14を投写する(ステップS3)。パターン画像14は、画像全体を9つのブロックに均等に区分した場合に、中央ブロック領域と、4隅の4つの周辺ブロック領域が黒色であり、その他のブロック領域が白色であるいわゆるチェッカーパターンのパターン画像である。
ユーザーは、中央ブロック領域がスクリーン10の枠内に入っているかどうかを確認し、入っていない場合は入るようにプロジェクタ20の位置等を調整し、プロジェクタ20を再起動してステップS1〜S3の処理を再実行する。
中央ブロック領域がスクリーン10の枠内に入っている状態で、センサー60は、スクリーン10上のパターン画像14を、全白画像13撮像時の露出で撮像して第3の撮像情報を生成する(ステップS4)。記憶部140は、第3の撮像情報を記憶する。
また、プロジェクタ20は、第2のキャリブレーション画像として、全黒画像(画像全体が黒色)を投写する(ステップS5)。
センサー60は、スクリーン10上の全黒画像を、全白画像13撮像時の露出で撮像して第2の撮像情報を生成する(ステップS6)。記憶部140は、第2の撮像情報を記憶する。
そして、差分画像生成部160は、第1の撮像情報で表される第1の撮像画像と、第2の撮像情報で表される第2の撮像画像との第1の差分画像である白黒差分画像を生成する(ステップS7)。記憶部140は、白黒差分画像を記憶する。
また、差分画像生成部160は、第1の撮像画像と、第3の撮像情報で表される第3の撮像画像との第2の差分画像であるパターン差分画像を生成する(ステップS8)。記憶部140は、パターン差分画像を記憶する。
また、外光影響除去部170は、第2の撮像情報に高輝度値(所定値(例えば、200等)以上の明るさ指標値)を有する画素領域があるかどうかを判定し、当該画素領域がある場合、白黒差分画像における当該画素領域の輝度値(例えば、50等)を、白黒差分画像における当該画素領域近傍の輝度値(例えば、30等)に置換する処理を実行する(ステップS9)。
このような処理によって白黒差分画像における外光80の影響が除去される。
また、投写領域検出部150は、パターン差分画像に基づき、撮像領域における投写領域を検出する(ステップS10)。より具体的には、投写領域検出部150は、パターン差分画像に含まれる中央ブロック領域の複数(本実施例では4つ)の中央基準位置と、パターン差分画像に含まれる周辺ブロック領域の複数(本実施例では8つ)の周辺基準位置を検出する。
図6は、本実施形態の一例に係る中央基準位置を検出する際の第1段階の検索方法を示す模式図である。また、図7は、本実施形態の一例に係る中央基準位置を検出する際の第2段階の検索方法を示す模式図である。
中央基準位置検出部154は、撮像面に相当する撮像領域15における投写領域(投写画像12に相当する領域)の位置を検出するために、まず、パターン画像の4つの中央基準位置を検出する。なお、説明をわかりやすくするため、各図には投写対象領域18を描いているが、実際の差分画像には投写対象領域18や投写対象領域18の外部の周辺ブロック領域17−1〜17−4の一部が含まれない場合もある。
より具体的には、中央基準位置検出部154は、差分画像に対し、図6に示すように、中央ブロック領域16が位置すると予想される縦位置x=xc上をy=ypからy=ymまで画素ごとに差分値を検索することにより、差分値が変化する点P1、P2を判別する。例えば、P1(xc,y1)、P2(xc,y2)であるものと仮定する。
なお、xc、yp、ym等の検索基準位置の値は、例えば、レンズ198とセンサー60のそれぞれの画角や位置によって決定されてもよいし、実験によって決定されてもよいし、あるいは、撮像結果に応じて決定されてもよい。後述するその他の検索基準位置についても同様である。
そして、中央基準位置検出部154は、図7に示すように、P1、P2を基準とした横位置y=yc上をx=xmからx=xpまで画素ごとに差分値を検索することにより、差分値が変化する点P4、P3を判別する。なお、ここで、例えば、yc=(y1+y2)/2である。
このようにして中央基準位置検出部154は、中央ブロック領域16の4つの中央基準位置P1(xc,y1)、P2(xc,y2)、P3(x1,yc)、P4(x2,yc)を示す中央基準位置情報を周辺基準位置検出部156に出力する。
周辺基準位置検出部156は、中央基準位置情報に基づき、パターン画像の8つの周辺基準位置を検出する。
図8は、本実施形態の一例に係る周辺基準位置を検出する際の第1段階の検索方法を示す模式図である。また、図9は、本実施形態の一例に係る周辺基準位置を検出する際の第2段階の検索方法を示す模式図である。また、図10は、本実施形態の一例に係る周辺基準位置を検出する際の第3段階の検索方法を示す模式図である。
投写対象領域検出部180のエッジ検出部184は、中央ブロック領域16の中央基準位置P1〜P4に基づき、P3、P4のそれぞれから中央ブロック領域16の横長の所定割合内側にある検索補助線上を、P1、P2のそれぞれのY座標の点y1、y2から外側に向かって白黒差分画像を検索対象として1画素ずつエッジ検出を行う。これにより、4つのエッジ検出点ZUVWが検出される。
なお、エッジ検出処理の手法としては、例えば、複数画素のフィルタを用いてエッジを検出する手法や、フィルタを用いずに1画素ずつエッジとなる輝度値を検出する手法等を採用可能である。
そして、周辺基準位置検出部156は、点ZのY座標値yZ、点UのY座標値yUのうち小さい値とP1のY座標値y1との間の距離(差分値)の所定割合の値を、y1に加えた値であるyPを算出する。また、周辺基準位置検出部156は、点VのY座標値であるyV、点WのY座標値であるyWのうち大きい値とP2のY座標値であるy2との間の距離の所定割合の値を、y2から引いた値であるyQを算出する。
また、周辺基準位置決定部156は、点Zおよび点WのX座標値であるxZから中央ブロック領域16の横長の所定割合内側にある位置のX座標値xRを算出する。また、周辺基準位置決定部156は、点Uおよび点VのX座標値であるxUから中央ブロック領域16の横長の所定割合内側にある位置のX座標値xSを算出する。
周辺基準位置検出部156は、X=xR、X=xS、Y=yP、Y=yQの4本の直線(図9に示す2点鎖線)が交わるそれぞれの交点からパターン差分画像におけるY=yP、Y=yQ上を外側に検索し、出力のある画素を検出することにより、中央ブロック領域16側にある各周辺ブロック領域17−1〜17−4の縦方向の辺上にある4つの点P5〜P8を判別する。周辺基準位置決定部156は、同様の手法により、中央ブロック領域16側にある各周辺ブロック領域17−1〜17−4の横方向の辺上にある4つの点P9〜P12を判別する。
そして、周辺基準位置検出部156は、これらの8つの点の座標を示す周辺基準位置情報と、中央基準位置情報を投写領域情報生成部158に出力する。
投写領域情報生成部158は、周辺基準位置情報と、中央基準位置情報に基づき、近似直線(近似曲線でもよい。)を用いて投写領域の4隅の位置を検出する。
図11は、本実施形態の一例に係る近似直線の設定方法を示す模式図である。
投写領域情報生成部158は、点P5、点P3、点P6の座標に基づき、図10の破線で示される近似直線を設定する。同様の手法により、投写領域情報生成部158は、図11に示すように、破線で示す4つの近似直線を設定し、各近似直線の4つの交点A(xA,yA)〜D(xD,yD)を中央ブロック領域16の4隅の点として判別する。
中央ブロック領域16は、元の投写画像12を1/9に縮小した画像に相当する領域であるため、投写画像12が相当する投写領域の4隅の点EFGHは以下のようになる。すなわち、E(xE,yE)=(2*xA-xC,2*yA-yc)、F(xF,yF)=(2*xB-xD,2*yB-yD)、G(xG,yG)=(2*xC-xA,2*yC-yA)、H(xH,yH)=(2*xD-xB,2*yD-yB)である。
以上の手法により、投写領域情報生成部158は、投写画像12が相当する投写領域の4隅の点EFGHを示す投写領域情報を画像歪み補正量演算部162に出力する。
また、投写対象領域検出部180は、白黒差分画像に基づき、撮像領域15における投写対象領域18を検出する(ステップS11)。次に、投写対象領域18の位置検出処理について説明する。
図12は、本実施形態の一例に係る投写対象領域を検出する際の検索方法を示す模式図である。
まず、検索範囲決定部182は、エッジ検出対象を決定するため、白黒差分画像と、上述した中央ブロック領域16の4隅ABCDの座標情報に基づき、領域ABCDより若干外側を通る4本の検索補助線を設定する。より具体的には、検索範囲決定部182は、白黒差分画像を対象として、中央基準位置決定部154によって検出された中央ブロック領域16の4隅ABCDの座標よりもp%外側に検索補助線を設定する。
例えば、第1の検索補助線y=round[max(yA,yB)+(yA-yD)*p/100]、第2の検索補助線x=round[max(xB,xC)+(xB-xA)*p/100]、第3の検索補助線y=round[min(yC,yD)-(yA-yD)*p/100]、第4の検索補助線x=round[min(xA,xD)-(xB-xA)*p/100]である。なお、ここで、max、min、roundは、それぞれ、引数のうち最大値を返す関数、引数のうち最小値を返す関数、引数の小数点第1位の値を四捨五入した整数を返す関数である。
このように4本の検索補助線が設定されることにより、図12に示すように、4本の検索補助線の4つの交点IJKLが決定される。なお、上記のように、4本の検索補助線を設定する代わりに、周辺基準位置検出部によって算出された、Y=yP、Y=yQおよびP9〜P12を判別する際に算出される(Y=yP、Y=yQに対応する)Y軸に平行な2本の直線を4本の検索補助線として設定し、その交点をIJKLとしてもよい。
エッジ検出部184は、交点IJKLのそれぞれから領域IJKLの外側に向かって検索補助線上の検索ライン上を白黒差分画像を検索対象として1画素ずつエッジ検出を行う。これにより、図12に示すように、8つのエッジ検出点MNOPQRSTが検出される。
さらに、エッジ検出部184は、線分TOから投写対象領域18の境界線方向、線分NQから投写対象領域18の境界線方向、線分PSから投写対象領域18の境界線方向、線分RMから投写対象領域18の境界線方向のそれぞれに1画素ずつエッジ検出を行う。
ここでは、線分TOから投写対象領域18の境界線方向にエッジ検出を行う場合を例に採り説明する。エッジ検出部184は、線分TOでは、エッジ検出する範囲は、例えば、Y軸の平行かつ正の方向であり、線分IJで7本、線分TI、JOのそれぞれで2本ずつの検索ラインを設定する。なお、この7本の検索ラインを設定する領域を中側検索領域と呼び、2本ずつの検索ラインを設定する2つの領域を外側検索領域と呼ぶ。
そして、エッジ検出部184は、これらの検索ライン上を1画素ずつエッジ検出を行うことにより、最大11個、点MNも含めると最大13個のエッジ検出点を直線MN上に検出することができる。エッジ検出部184は、その他の線分NQ、線分PS、線分RMについても同様にエッジ検出を行う。
なお、エッジ検出部184は、エッジ検出点のペアMN、OP、QR、STの各ペアのうち一方の点が撮像領域15内で検出できなかった場合、検出できなかった点を検索するための外側検索領域については投写対象領域18の境界線は存在しないものとみなし、該当領域内で検索ラインの設定やエッジ検出を行わない。また、エッジ検出部184は、エッジ検出点のペアMN、OP、QR、STの各ペアのうち双方の点が撮像領域15内で検出できなかった場合、検出できなかった線分と平行な方向で近接する投写対象領域18の境界線は存在しないものとみなし、検出できなかった線分を検索するための中側検索領域および外側検索領域内で検索ラインの設定やエッジ検出を行わない。
これらの処理を実行することにより、エッジ検出部184は、投写対象領域18の存在する可能性が低い領域についてのエッジ検出を省略することができ、より高速に処理を実行することができる。
投写対象領域情報生成部186は、エッジ検出部184によって検出された複数のエッジ検出点に基づき、線形近似直線または線形近似曲線を設定することにより、投写対象領域18を仮決定する。
そして、検出点評価部188は、エッジ検出部184によって検出された複数のエッジ検出点のうち、投写対象領域情報生成部186によって設定された線形近似直線または線形近似曲線から所定値以上乖離しているかどうかを判定することにより、各エッジ検出点を評価する。
このようにして投写対象領域情報生成部186は、処理対象から除外しなかったエッジ検出点のみを用いてより高精度に投写対象領域18を検出する。
より具体的には、エッジ検出部184は、白黒差分画像に基づき、処理対象から除外されなかったエッジ検出点の周辺画素に対してエッジ検出を行う。そして、エッジ検出部184は、エッジ検出情報を投写対象領域情報生成部186に出力する。
投写対象領域情報生成部186は、当該エッジ検出情報に基づき、再び線形近似直線または線形近似曲線を設定することにより、投写対象領域18を決定する。そして、投写対象領域情報生成部186は、投写対象領域18の4隅の位置を示す投写対象領域情報を生成し、画像歪み補正量演算部162に出力する。
そして、プロジェクタ20は、投写領域情報および投写対象領域情報に基づき、投写画像12の歪みが補正されるように画像を投写する(ステップS12)。
より具体的には、画像歪み補正量演算部162は、投写領域情報生成部158からの投写領域情報と、投写対象領域情報生成部186からの投写対象領域情報に基づき、スクリーン10と投写画像12との位置関係や形状を把握し、投写画像12の歪みが補正され、投写画像12が所望のアスペクト比(縦横比)になるように画像歪み補正量を演算する。
そして、画像歪み補正部112は、当該画像歪み補正量に基づき、画像信号(R1、G1、B1)を補正する。これにより、プロジェクタ20は、所望のアスペクト比を保った形で歪みのない画像を投写することができる。
もちろん、画像の歪みの補正方法はこの方法に限定されない。例えば、プロジェクタ20は、撮像画像における輝度値の最も大きな画素を検出し、当該画素の位置に基づいて画像の歪みを補正してもよい。
以上のように、本実施形態によれば、プロジェクタ20は、外光影響除去のための処理を実行することにより、強烈なコントラストの生じる外光80の影響を除去した状態で撮像画像内の投写対象領域18を適切に検出することができる。
また、本実施形態によれば、プロジェクタ20は、外光影響を除去した差分画像に対してエッジ検出等を行って投写対象領域18等を検出することにより、投写対象領域18等をより高精度に検出することができる。
また、本実施形態によれば、プロジェクタ20は、投写対象領域18を仮検出してからその境界線付近を、投写対象領域18を検出することにより、投写対象領域18の位置情報をより短時間で、かつ、正確に生成することができる。これにより、プロジェクタ20は、画像処理システム全体の演算処理量を低減し、低負荷で高速な画像処理を実行できる。
また、本実施形態によれば、プロジェクタ20は、エッジ検出対象となる領域をより狭めた状態でエッジ検出を行うことにより、投写対象領域18の位置情報をより短時間で生成することができる。
また、プロジェクタ20は、線形近似直線等から乖離したエッジ検出点を除外して処理を実行することにより、ノイズ等の影響を低減し、投写対象領域18の位置情報をより正確に生成することができる。
これにより、プロジェクタ20は、投写画像12の歪みの補正を適切に行うことができる。
また、プロジェクタ20は、図5(B)に示すパターン画像14のように、中央だけではなく、その周辺にも特徴のある画像を用いることにより、中央だけに特徴があるパターン画像を用いる場合と比べ、より高精度に投写領域の4隅を判別することができる。
例えば、プロジェクタ20は、図6に示す点P1、点P2を判別する際に、その近傍の輝度値が変化する点も判別することが可能である。しかし、これらの間隔の狭い複数の点を用いて近似直線を設定する場合、間隔が離れた複数の点を用いて近似直線を設定する場合と比べ、近似直線の元になる点の1画素の誤差が近似直線により大きく影響してしまう。
本実施形態では、プロジェクタ20は、中央ブロック領域16の基準点と、周辺ブロック領域17−1〜17−4の基準点とを用いることにより、間隔が離れた複数の点を用いて近似直線を設定することができるため、より高精度に投写領域の4隅を判別することができる。
また、これにより、プロジェクタ20は、プロジェクタ20またはセンサー60のシェーディングの影響を回避し、精度よく、投写領域全体の位置を把握することができる。
さらに、パターン画像14を用いることにより、プロジェクタ20は、投写画像12の周辺部分がスクリーン10からはみ出している場合であっても、投写領域を適切に検出することができる。
また、本実施形態によれば、プロジェクタ20は、差分画像全体を検索するのではなく、差分画像のうち必要な領域のみを検索することにより、より簡易かつ高速に投写領域の位置を検出することができる。
また、キャリブレーション画像を投写する際に、一旦自動露出設定で全白画像を撮像して第1の撮像情報を生成することにより、適用環境に適合した露出で第1の撮像情報を生成することができる。また、プロジェクタ20は、全白画像の撮像時の露出で第2および第3の撮像情報を生成することにより、差分画像の生成に適した露出で第2および第3の撮像情報を生成することができる。
特に、自動露出設定で全白画像を撮像することにより、センサー60は、スクリーン10が外光80の影響を受ける場合、投写距離が遠すぎたりスクリーン10の反射率が低すぎて投写光の反射光が弱すぎる場合、投写距離が近すぎたりスクリーン10の反射率が高すぎて投写光の反射光が強すぎる場合のいずれにおいても、固定露出で撮像する場合と比べ、センサー60のダイナミックレンジを有効に活用して撮像することができる。
(変形例)
以上、本発明を適用した好適な実施の形態について説明してきたが、本発明の適用は上述した実施例に限定されない。
例えば、上述した実施例では、外光影響除去部170は、第1または第2の撮像情報に所定値以上の輝度値を有する画素領域がある場合、白黒差分画像における当該画素領域の輝度値を、白黒差分画像における当該画素領域近傍の輝度値に置換する処理を実行したが、この変形例として、エッジ検出処理が行われないように白黒差分画像やパターン差分画像における当該画素領域の輝度値として特殊値(例えば、300等)を設定してもよい。
そして、エッジ検出部184は、当該特殊値を検出した場合、当該部分のエッジ検出結果については無効とする処理を実行し、中央基準位置決定部154や周辺基準位置決定部156は、当該特殊値を検出した場合、当該部分は、中央基準位置や周辺基準位置としては判別しない処理を実行する。
さらに、投写対象領域検出部180や投写領域検出部150は、検出対象領域に所定値(例えば、外光影響によると推測される最小値等)以上の輝度値を有する画素領域が含まれる場合、当該画素領域を無視し、無効とし、あるいは除去して検出処理を実行してもよい。
プロジェクタ20は、このような処理によっても外光影響を除去することができる。
また、上述した実施例では、センサー60は、全黒画像を用いて第2の撮像情報を生成したが、変形例として、非投写時のスクリーン10を撮像して第2の撮像情報を生成してもよい。
また、外光影響除去部170は、パターン差分画像を対象として外光影響除去の処理を実行してもよい。
また、差分画像生成部160は、パターン差分画像として、全黒画像とパターン画像14との差分画像を用いてもよい。
また、投写部190が、画像信号が入力されていない状態で光源196からスクリーン10へ向け面状の光を投写した状態で、センサー60が撮像することにより、第1または第2の撮像情報を生成してもよい。すなわち、プロジェクタ20は、必ずしも全白画像13や全黒画像を投写する必要はない。
また、投写画像12とスクリーン10の位置関係は図1に示す例に限定されない。例えば、投写画像12の外枠全部がスクリーン10の外枠より外側にあってもよいし、内側にあってもよい。
また、プロジェクタ20は、画像の歪みを補正する以外にも、投写領域情報と投写対象領域情報を用いて投写画像12の位置の調整、投写画像12内におけるレーザーポインター等を用いた指示位置の検出等を行ったり、投写対象領域情報を用いて投写画像12の色むらの補正等を行ってもよい。
また、例えば、検索の手順は任意であり、プロジェクタ20は、差分画像に対して横方向に検索して中央基準位置や周辺基準位置を検出した後に当該中央基準位置や当該周辺基準位置に基づいて縦方向に検索してもよい。
さらに、プロジェクタ20は、投写対象領域18を検出してから投写領域を検出してもよい。
パターン画像14は、上述した実施例に限定されない。例えば、パターン差分画像がパターン画像14と同様のパターンとなる画像であってもよい。すなわち、例えば、第1のキャリブレーション画像が中央ブロック領域16を有する画像であり、第3のキャリブレーション画像が周辺ブロック領域17−1〜17−4を有する画像であってもよい。
また、中央ブロック領域16や周辺ブロック領域17−1〜17−4の形状は矩形に限定されず、例えば、円形等の矩形以外の形状を採用してもよい。もちろん、キャリブレーション画像全体の形状と、中央ブロック領域16の形状は、相似形に限定されず、両者の形状の対応がわかる形状であればよい。さらに、周辺ブロック領域17−1〜17−4の個数も任意である。
また、全白画像13、全黒画像、パターン画像14の投写や撮像の順番は任意である。例えば、プロジェクタ20は、最初にパターン画像14を投写して中央ブロック領域がスクリーン10内に入っているかどうかをユーザーに確認させてからステップS1〜S6の処理を実行してもよいし、全黒画像を投写して撮像してからパターン画像14を投写して撮像してもよい。
また、スクリーン10以外の黒板、白板等の投写対象物に画像を投写する場合であっても本発明は有効である。
また、例えば、上述した実施例では、画像処理システムをプロジェクタ20に実装した例について説明したが、プロジェクタ20以外にもCRT(Cathode Ray Tube)等のプロジェクタ20以外の画像表示装置に実装してもよい。また、プロジェクタ20としては、液晶プロジェクタ以外にも、例えば、DMD(Digital Micromirror Device)を用いたプロジェクタ等を用いてもよい。なお、DMDは米国テキサスインスツルメンツ社の商標である。
また、上述したプロジェクタ20の機能は、例えば、プロジェクタ単体で実装してもよいし、複数の処理装置で分散して(例えば、プロジェクタとPCとで分散処理)実装してもよい。
さらに、上述した実施例では、センサー60をプロジェクタ20に内蔵した構成であったが、センサー60を、プロジェクタ20とは別の独立した装置として構成してもよい。
本実施形態の一例に係る画像投写状況を示す概略図である。 本実施形態の一例に係るプロジェクタの機能ブロック図である。 本実施形態の一例に係るプロジェクタのハードウェアブロック図である。 本実施形態の一例に係る画像処理の流れを示すフローチャートである。 本実施形態の一例に係るキャリブレーション画像の模式図であり、図5(A)は、第1のキャリブレーション画像の模式図であり、図5(B)は、第3のキャリブレーション画像の模式図である。 本実施形態の一例に係る中央基準位置を検出する際の第1段階の検索方法を示す模式図である。 本実施形態の一例に係る中央基準位置を検出する際の第2段階の検索方法を示す模式図である。 本実施形態の一例に係る周辺基準位置を検出する際の第1段階の検索方法を示す模式図である。 本実施形態の一例に係る周辺基準位置を検出する際の第2段階の検索方法を示す模式図である。 本実施形態の一例に係る周辺基準位置を検出する際の第3段階の検索方法を示す模式図である。 本実施形態の一例に係る近似直線の設定方法を示す模式図である。 本実施形態の一例に係る投写対象領域を検出する際の検索方法を示す模式図である。
符号の説明
20 プロジェクタ、60 センサー(撮像手段)、80 外光、112 画像歪み補正部(画像歪み補正手段)、140 記憶部、150 投写領域検出部、154 中央基準位置検出部、156 周辺基準位置検出部、158 投写領域情報生成部、160 差分画像生成部、162 画像歪み補正量演算部(画像歪み補正手段)、170 外光影響除去部、180 投写対象領域検出部、182 検索範囲決定部、184 エッジ検出部、186 投写対象領域情報生成部、188 検出点評価部、190 投写部、900 情報記憶媒体

Claims (12)

  1. 第1のキャリブレーション画像または面状の光および第2のキャリブレーション画像または面状の光を投写対象物へ向け投写する投写手段と、
    前記第1のキャリブレーション画像または面状の光が投写された前記投写対象物を撮像して第1の撮像情報を生成するとともに、前記第2のキャリブレーション画像または面状の光が投写された前記投写対象物を撮像して第2の撮像情報を生成する撮像手段と、
    前記第1の撮像情報で表される第1の撮像画像と、前記第2の撮像情報で表される第2の撮像画像との第1の差分画像を生成する差分画像生成手段と、
    前記第1または第2の撮像情報に所定値以上の明るさ指標値を有する画素領域がある場合、前記第1の差分画像における当該画素領域の明るさ指標値を、前記第1の差分画像における当該画素領域近傍の明るさ指標値に置換する処理またはエッジ検出処理が行われないように前記第1の差分画像における当該画素領域の明るさ指標値として特殊値を設定する処理を実行する外光影響除去手段と、
    前記外光影響除去手段による処理後の第1の差分画像に基づき、エッジ検出処理を行うことにより、前記撮像手段の撮像領域における前記投写対象物に相当する投写対象領域の位置に関する投写対象領域情報を生成する投写対象領域検出手段と、
    を含むことを特徴とする画像処理システム。
  2. 第1のキャリブレーション画像または面状の光を投写対象物へ向け投写する投写手段と、
    前記第1のキャリブレーション画像または面状の光が投写された前記投写対象物を撮像して第1の撮像情報を生成するとともに、非投写時の前記投写対象物を撮像して第2の撮像情報を生成する撮像手段と、
    前記第1の撮像情報で表される第1の撮像画像と、前記第2の撮像情報で表される第2の撮像画像との第1の差分画像を生成する差分画像生成手段と、
    前記第1または第2の撮像情報に所定値以上の明るさ指標値を有する画素領域がある場合、前記第1の差分画像における当該画素領域の明るさ指標値を、前記第1の差分画像における当該画素領域近傍の明るさ指標値に置換する処理またはエッジ検出処理が行われないように前記第1の差分画像における当該画素領域の明るさ指標値として特殊値を設定する処理を実行する外光影響除去手段と、
    前記外光影響除去手段による処理後の第1の差分画像に基づき、エッジ検出処理を行うことにより、前記撮像手段の撮像領域における前記投写対象物に相当する投写対象領域の位置に関する投写対象領域情報を生成する投写対象領域検出手段と、
    を含むことを特徴とする画像処理システム。
  3. 請求項1、2のいずれかにおいて、
    前記撮像手段の撮像領域における投写領域の位置に関する投写領域情報を生成する投写領域検出手段を含み、
    前記投写手段は、第3のキャリブレーション画像を前記投写対象物へ向け投写し、
    前記撮像手段は、前記第3のキャリブレーション画像が投写された前記投写対象物を撮像して第3の撮像情報を生成し、
    前記差分画像生成手段は、前記第1の撮像画像と、前記第3の撮像情報で表される第3の撮像画像との第2の差分画像を生成し、
    前記第2の差分画像は、当該差分画像の中央付近に位置する中央ブロック領域と、当該中央ブロック領域の周辺に位置する周辺ブロック領域と、前記中央ブロック領域および前記周辺ブロック領域以外の背景領域とから構成され、
    前記中央ブロック領域および前記周辺ブロック領域における各画素と、前記背景領域における各画素とは異なる明るさ指標値を有し、
    前記投写領域検出手段は、
    前記第2の差分画像に基づき、前記撮像手段の撮像領域における前記中央ブロック領域の複数の中央基準位置を検出する中央基準位置検出手段と、
    前記中央基準位置に基づき、前記撮像領域における前記周辺ブロック領域の複数の周辺基準位置を検出する周辺基準位置検出手段と、
    前記中央基準位置と、前記周辺基準位置とに基づき、前記投写領域情報を生成する投写領域情報生成手段と、
    を含むことを特徴とする画像処理システム。
  4. 請求項3において、
    前記投写対象領域情報と、前記投写領域情報とに基づき、画像の歪みを補正する画像歪み補正手段を含み、
    前記投写手段は、前記画像歪み補正手段によって補正された画像を前記投写対象物へ向け投写することを特徴とする画像処理システム。
  5. 請求項1〜4のいずれかにおいて、
    前記撮像手段は、自動露出で撮像することにより前記第1の撮像情報を生成し、当該自動露出で決定された露出で撮像することにより前記第2の撮像情報を生成することを特徴とする画像処理システム。
  6. 第1のキャリブレーション画像または面状の光および第2のキャリブレーション画像または面状の光を投写対象物へ向け投写する投写手段と、
    前記第1のキャリブレーション画像または面状の光が投写された前記投写対象物を撮像して第1の撮像情報を生成するとともに、前記第2のキャリブレーション画像または面状の光が投写された前記投写対象物を撮像して第2の撮像情報を生成する撮像手段と、
    前記第1の撮像情報で表される第1の撮像画像と、前記第2の撮像情報で表される第2の撮像画像との第1の差分画像を生成する差分画像生成手段と、
    前記第1または第2の撮像情報に所定値以上の明るさ指標値を有する画素領域がある場合、前記第1の差分画像における当該画素領域の明るさ指標値を、前記第1の差分画像における当該画素領域近傍の明るさ指標値に置換する処理またはエッジ検出処理が行われないように前記第1の差分画像における当該画素領域の明るさ指標値として特殊値を設定する処理を実行する外光影響除去手段と、
    前記外光影響除去手段による処理後の第1の差分画像に基づき、エッジ検出処理を行うことにより、前記撮像手段の撮像領域における前記投写対象物に相当する投写対象領域の位置に関する投写対象領域情報を生成する投写対象領域検出手段と、
    を含むことを特徴とするプロジェクタ。
  7. コンピュータにより読み取り可能なプログラムであって、
    コンピュータを、
    第1のキャリブレーション画像または面状の光および第2のキャリブレーション画像または面状の光を投写対象物へ向け投写する投写手段と、
    前記第1のキャリブレーション画像または面状の光が投写された前記投写対象物を撮像して第1の撮像情報を生成するとともに、前記第2のキャリブレーション画像または面状の光が投写された前記投写対象物を撮像して第2の撮像情報を生成する撮像手段と、
    前記第1の撮像情報で表される第1の撮像画像と、前記第2の撮像情報で表される第2の撮像画像との第1の差分画像を生成する差分画像生成手段と、
    前記第1または第2の撮像情報に所定値以上の明るさ指標値を有する画素領域がある場合、前記第1の差分画像における当該画素領域の明るさ指標値を、前記第1の差分画像における当該画素領域近傍の明るさ指標値に置換する処理またはエッジ検出処理が行われないように前記第1の差分画像における当該画素領域の明るさ指標値として特殊値を設定する処理を実行する外光影響除去手段と、
    前記外光影響除去手段による処理後の第1の差分画像に基づき、エッジ検出処理を行うことにより、前記撮像手段の撮像領域における前記投写対象物に相当する投写対象領域の位置に関する投写対象領域情報を生成する投写対象領域検出手段として機能させることを特徴とするプログラム。
  8. コンピュータにより読み取り可能なプログラムを記憶した情報記憶媒体であって、
    請求項7に記載のプログラムを記憶したことを特徴とする情報記憶媒体。
  9. 第1のキャリブレーション画像または面状の光を投写対象物へ向け投写し、
    前記第1のキャリブレーション画像または面状の光が投写された前記投写対象物を撮像して第1の撮像情報を生成し、
    第2のキャリブレーション画像または面状の光を前記投写対象物へ向け投写し、
    前記第2のキャリブレーション画像または面状の光が投写された前記投写対象物を撮像して第2の撮像情報を生成し、
    前記第1の撮像情報で表される第1の撮像画像と、前記第2の撮像情報で表される第2の撮像画像との第1の差分画像を生成し、
    前記第1または第2の撮像情報に所定値以上の明るさ指標値を有する画素領域がある場合、前記第1の差分画像における当該画素領域の明るさ指標値を、前記第1の差分画像における当該画素領域近傍の明るさ指標値に置換する処理またはエッジ検出処理が行われないように前記第1の差分画像における当該画素領域の明るさ指標値として特殊値を設定する処理を実行し、
    当該処理後の第1の差分画像に基づき、エッジ検出処理を行うことにより、前記撮像手段の撮像領域における前記投写対象物に相当する投写対象領域の位置に関する投写対象領域情報を生成することを特徴とする画像処理方法。
  10. 請求項9において、
    第3のキャリブレーション画像を前記投写対象物へ向け投写し、
    前記第3のキャリブレーション画像が投写された前記投写対象物を撮像して第3の撮像情報を生成し、
    前記第1の撮像画像と、前記第3の撮像情報で表される第3の撮像画像との第2の差分画像を生成し、
    前記第2の差分画像は、当該差分画像の中央付近に位置する中央ブロック領域と、当該中央ブロック領域の周辺に位置する周辺ブロック領域と、前記中央ブロック領域および前記周辺ブロック領域以外の背景領域とから構成され、
    前記中央ブロック領域および前記周辺ブロック領域における各画素と、前記背景領域における各画素とは異なる明るさ指標値を有し、
    前記第2の差分画像に基づき、撮像領域における前記中央ブロック領域の複数の中央基準位置を検出し、
    前記中央基準位置に基づき、前記撮像領域における前記周辺ブロック領域の複数の周辺基準位置を検出し、
    前記中央基準位置と、前記周辺基準位置とに基づき、前記撮像領域における投写領域の位置に関する投写領域情報を生成することを特徴とする画像処理方法。
  11. 請求項10において、
    前記投写対象領域情報と、前記投写領域情報とに基づき、画像の歪みを補正し、
    補正した画像を前記投写対象物へ向け投写することを特徴とする画像処理方法。
  12. 請求項9〜11のいずれかにおいて、
    自動露出で撮像することにより前記第1の撮像情報を生成し、当該自動露出で決定された露出で撮像することにより前記第2の撮像情報を生成することを特徴とする画像処理方法。
JP2004156273A 2004-05-26 2004-05-26 画像処理システム、プロジェクタおよび画像処理方法 Expired - Fee Related JP3888465B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2004156273A JP3888465B2 (ja) 2004-05-26 2004-05-26 画像処理システム、プロジェクタおよび画像処理方法
TW094117099A TW200602787A (en) 2004-05-26 2005-05-25 Image processing system, projector, information storage medium, and image processing method
KR1020050044279A KR100749069B1 (ko) 2004-05-26 2005-05-25 화상 처리 시스템, 프로젝터, 정보 기억 매체 및 화상 처리방법
EP05011409A EP1601181A1 (en) 2004-05-26 2005-05-25 Image processing system, projector, information storage medium, and image processing method
US11/137,350 US7233707B2 (en) 2004-05-26 2005-05-26 Image processing system, projector, program, information storage medium, and image processing method
CNB2005100723209A CN100426126C (zh) 2004-05-26 2005-05-26 图像处理系统、投影机及图像处理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004156273A JP3888465B2 (ja) 2004-05-26 2004-05-26 画像処理システム、プロジェクタおよび画像処理方法

Publications (2)

Publication Number Publication Date
JP2005341139A true JP2005341139A (ja) 2005-12-08
JP3888465B2 JP3888465B2 (ja) 2007-03-07

Family

ID=34936966

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004156273A Expired - Fee Related JP3888465B2 (ja) 2004-05-26 2004-05-26 画像処理システム、プロジェクタおよび画像処理方法

Country Status (6)

Country Link
US (1) US7233707B2 (ja)
EP (1) EP1601181A1 (ja)
JP (1) JP3888465B2 (ja)
KR (1) KR100749069B1 (ja)
CN (1) CN100426126C (ja)
TW (1) TW200602787A (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7422331B2 (en) 2005-02-14 2008-09-09 Seiko Epson Corporation Image processing system, projector, and image processing method
US7524070B2 (en) 2005-01-07 2009-04-28 Seiko Epson Corporation Projection control system, projector and projection control method
JP2010050799A (ja) * 2008-08-22 2010-03-04 Seiko Epson Corp 投写型表示装置および画像の補正方法
JP2011048364A (ja) * 2009-08-27 2011-03-10 Seiko Epson Corp プロジェクターマスクの生成方法、プロジェクターマスクの生成装置およびコンピューター読み取り可能な記憶媒体
US7949202B2 (en) 2005-02-14 2011-05-24 Seiko Epson Corporation Image processing system, projector, and image processing method

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4150924B2 (ja) * 2003-07-02 2008-09-17 セイコーエプソン株式会社 画像処理システム、プロジェクタ、プログラム、情報記憶媒体および画像処理方法
US20070058881A1 (en) * 2005-09-12 2007-03-15 Nishimura Ken A Image capture using a fiducial reference pattern
TWI353531B (en) * 2008-05-13 2011-12-01 Wistron Corp Method and a device of adjusting a color temperatu
CN101755300B (zh) * 2008-05-21 2014-02-05 松下电器产业株式会社 投影仪
JP4930638B2 (ja) * 2008-05-30 2012-05-16 富士通株式会社 画像補正装置および画像補正方法
US20110134283A1 (en) * 2009-12-09 2011-06-09 Samsung Electronics Co., Ltd. Photographing apparatus and photographing method
JP4936091B2 (ja) * 2010-03-31 2012-05-23 カシオ計算機株式会社 光源ユニット及びプロジェクタ
CN102314259B (zh) * 2010-07-06 2015-01-28 株式会社理光 一种在显示区域内检测物体的方法和设备
EP2622608A2 (en) * 2010-08-18 2013-08-07 Savannah River Nuclear Solutions, LLC System and method for the identification of radiation in contaminated rooms
CN103379269B (zh) * 2012-04-26 2017-11-24 富泰华工业(深圳)有限公司 拍摄系统、拍摄方法及使用该拍摄系统的电子设备
US8836910B2 (en) * 2012-06-04 2014-09-16 James A. Cashin Light and sound monitor
JP6217100B2 (ja) * 2013-03-22 2017-10-25 セイコーエプソン株式会社 画像処理装置、プロジェクター、画像処理方法及びプログラム
CN103905762B (zh) * 2014-04-14 2017-04-19 上海索广电子有限公司 投影模块的投影画面自动检查方法
JP2017092521A (ja) * 2015-11-02 2017-05-25 キヤノン株式会社 表示装置およびその制御方法
JP6046286B1 (ja) * 2016-01-13 2016-12-14 東芝エレベータ株式会社 画像処理装置
JP6842329B2 (ja) * 2017-03-24 2021-03-17 株式会社Screenホールディングス 画像処理方法および画像処理装置
CN109788262A (zh) * 2017-11-15 2019-05-21 中强光电股份有限公司 投影系统及其影像投影方法
CN109143829A (zh) * 2018-10-16 2019-01-04 江苏达伦电子股份有限公司 时钟投影装置及时钟投影吸顶灯
CN113674303A (zh) * 2021-08-31 2021-11-19 Oppo广东移动通信有限公司 图像处理方法、装置、电子设备及存储介质

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR0134160B1 (ko) * 1993-03-17 1998-04-22 모리시타 요이찌 화상보정장치
US6985207B2 (en) * 1997-07-15 2006-01-10 Silverbrook Research Pty Ltd Photographic prints having magnetically recordable media
JPH1141463A (ja) * 1997-07-23 1999-02-12 Minolta Co Ltd 画像読み取り装置
JP4089051B2 (ja) * 1998-02-18 2008-05-21 セイコーエプソン株式会社 画像処理装置および画像処理方法
AUPP701798A0 (en) * 1998-11-09 1998-12-03 Silverbrook Research Pty Ltd Image creation method and apparatus (ART75)
JP4434381B2 (ja) 1999-10-12 2010-03-17 キヤノン株式会社 座標入力装置
US20010010514A1 (en) * 1999-09-07 2001-08-02 Yukinobu Ishino Position detector and attitude detector
JP2001268326A (ja) 2000-03-23 2001-09-28 Minolta Co Ltd 画像処理装置および撮像装置
JP3719411B2 (ja) * 2001-05-31 2005-11-24 セイコーエプソン株式会社 画像表示システム、プロジェクタ、プログラム、情報記憶媒体および画像処理方法
JP2002365718A (ja) 2001-06-04 2002-12-18 Hitachi Ltd マルチディスプレイ装置およびその調整方法
JP3705180B2 (ja) * 2001-09-27 2005-10-12 セイコーエプソン株式会社 画像表示システム、プログラム、情報記憶媒体および画像処理方法
JP3894302B2 (ja) * 2002-03-25 2007-03-22 セイコーエプソン株式会社 画像表示システム、画像処理方法、プログラムおよび情報記憶媒体
JP3719424B2 (ja) * 2002-05-09 2005-11-24 セイコーエプソン株式会社 画像処理システム、プロジェクタ、画像処理方法、プログラムおよび情報記憶媒体
JP3731663B2 (ja) * 2002-12-04 2006-01-05 セイコーエプソン株式会社 画像処理システム、プロジェクタおよび画像処理方法
JP2004228948A (ja) 2003-01-23 2004-08-12 Seiko Epson Corp 画像処理システム、プロジェクタ、プログラム、情報記憶媒体および画像処理方法
JP3871061B2 (ja) * 2003-03-25 2007-01-24 セイコーエプソン株式会社 画像処理システム、プロジェクタ、プログラム、情報記憶媒体および画像処理方法

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7524070B2 (en) 2005-01-07 2009-04-28 Seiko Epson Corporation Projection control system, projector and projection control method
US7422331B2 (en) 2005-02-14 2008-09-09 Seiko Epson Corporation Image processing system, projector, and image processing method
US7949202B2 (en) 2005-02-14 2011-05-24 Seiko Epson Corporation Image processing system, projector, and image processing method
JP2010050799A (ja) * 2008-08-22 2010-03-04 Seiko Epson Corp 投写型表示装置および画像の補正方法
JP2011048364A (ja) * 2009-08-27 2011-03-10 Seiko Epson Corp プロジェクターマスクの生成方法、プロジェクターマスクの生成装置およびコンピューター読み取り可能な記憶媒体

Also Published As

Publication number Publication date
TW200602787A (en) 2006-01-16
TWI312099B (ja) 2009-07-11
KR20060048105A (ko) 2006-05-18
EP1601181A1 (en) 2005-11-30
US7233707B2 (en) 2007-06-19
CN1702542A (zh) 2005-11-30
KR100749069B1 (ko) 2007-08-13
JP3888465B2 (ja) 2007-03-07
US20050265713A1 (en) 2005-12-01
CN100426126C (zh) 2008-10-15

Similar Documents

Publication Publication Date Title
JP3888465B2 (ja) 画像処理システム、プロジェクタおよび画像処理方法
KR100644211B1 (ko) 화상 처리 시스템, 프로젝터, 정보 기억 매체 및 화상 처리방법
JP4055010B2 (ja) 画像処理システム、プロジェクタ、プログラム、情報記憶媒体および画像処理方法
JP3882929B2 (ja) 画像処理システム、プロジェクタおよび画像処理方法
JP4232042B2 (ja) 投写制御システム、プロジェクタ、プログラム、情報記憶媒体および投写制御方法
JP3994290B2 (ja) 画像処理システム、プロジェクタ、プログラム、情報記憶媒体および画像処理方法
JP3871061B2 (ja) 画像処理システム、プロジェクタ、プログラム、情報記憶媒体および画像処理方法
JP5266953B2 (ja) 投写型表示装置および表示方法
JP4085283B2 (ja) 画像処理システム、プロジェクタ、プログラム、情報記憶媒体および画像処理方法
JP5266954B2 (ja) 投写型表示装置および表示方法
US8328366B2 (en) Projector, computer program product, and exposure adjusting method
JP5239611B2 (ja) 投写型表示装置および画像の補正方法
JP2008211355A (ja) プロジェクタ、プログラムおよび情報記憶媒体
JP3882928B2 (ja) 画像処理システム、プロジェクタおよび画像処理方法
JP3882927B2 (ja) 画像処理システム、プロジェクタおよび画像処理方法
JP2008211356A (ja) プロジェクタ、プログラムおよび情報記憶媒体
JP5110260B2 (ja) プロジェクタ、プログラム、情報記憶媒体および画像歪み補正方法
JP2010288062A (ja) プロジェクター、プログラム、情報記憶媒体および画像投写方法
JP2009135972A (ja) プロジェクタ、プログラムおよび情報記憶媒体
JP2010288064A (ja) プロジェクター、プログラム、情報記憶媒体および台形歪み補正方法

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20051221

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060809

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20061003

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20061108

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20061121

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 3888465

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101208

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101208

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111208

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111208

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121208

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121208

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131208

Year of fee payment: 7

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees