JPWO2020021868A1 - 投影装置とその制御方法及び制御プログラム - Google Patents

投影装置とその制御方法及び制御プログラム Download PDF

Info

Publication number
JPWO2020021868A1
JPWO2020021868A1 JP2020532195A JP2020532195A JPWO2020021868A1 JP WO2020021868 A1 JPWO2020021868 A1 JP WO2020021868A1 JP 2020532195 A JP2020532195 A JP 2020532195A JP 2020532195 A JP2020532195 A JP 2020532195A JP WO2020021868 A1 JPWO2020021868 A1 JP WO2020021868A1
Authority
JP
Japan
Prior art keywords
image
test light
projection
area
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020532195A
Other languages
English (en)
Other versions
JP6903824B2 (ja
Inventor
伊藤 大介
大介 伊藤
直人 藤原
直人 藤原
和紀 井上
和紀 井上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of JPWO2020021868A1 publication Critical patent/JPWO2020021868A1/ja
Application granted granted Critical
Publication of JP6903824B2 publication Critical patent/JP6903824B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B21/00Projectors or projection-type viewers; Accessories therefor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/74Projection arrangements for image reproduction, e.g. using eidophor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Projection Apparatus (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Transforming Electric Information Into Light Information (AREA)
  • Video Image Reproduction Devices For Color Tv Systems (AREA)

Abstract

投影面の色に合わせた投影像の補正を高精度に行うことのできる投影装置とその制御方法及び制御プログラムを提供する。
システム制御部(8)は、投影範囲ARに設定された検出用領域T1−T7の各々を順次選択し、選択した検出用領域に対して、テスト光を共通光学系(3)から投影させる。システム制御部(8)は、このテスト光が投影された状態にて、そのテスト光が投影された検出用領域の撮像画像であるテスト光画像を撮像素子(6)から取得し、取得したテスト光画像とテスト光との色差に基づいて、スクリーンSCに投影すべき画像の色の補正を行うための補正データを生成する。システム制御部(8)は、この補正データに基づいて補正した画像データを光変調素子(44)に入力し、その画像データに基づく画像を投影させる。

Description

本発明は、投影装置とその制御方法及び制御プログラムに関する。
撮像装置と投影装置とを組み合わせたシステムが提案されている。例えば、特許文献1には、投影部からの光を透過してスクリーンに導き、且つスクリーンからの光を撮像部に導くハーフミラーと、このハーフミラーと投影部の間に配置されたレンズと、このハーフミラーと撮像部の間に配置されたレンズと、を有するプロジェクタが記載されている。
特許文献2には、プロジェクタと、プロジェクタから光が投影される投影面を背面側から撮像するカメラと、を備えるシステムが記載されている。このシステムでは、プロジェクタからの光の投影領域を分割し、分割した領域ごとに投影と撮像を行い、この撮像で得た画像からフレアを検出して補正することが行われている。
特許文献3には、投影ユニットと、投影ユニットから光が投影される投影面を撮像するカラー撮像素子と、を同一筐体内に備えるプロジェクタが記載されている。このプロジェクタでは、カラー撮像素子によって投影面を撮像して得られる撮像画像を複数の領域に分割し、その領域毎の画像に基づいてその領域に対応する投影面の色を検出し、投影すべき画像の色補正を行うことが行われている。
日本国特開2016−149618号公報 日本国特開2005−189542号公報 日本国特開2006−349792号公報
特許文献3に記載されているように、投影面の状態に応じて投影像の補正を行う場合、投影面の状態を検出するためには、基準となる画像を投影面に投影した状態にて、その投影面の撮像を行う必要がある。しかし、特許文献1に記載されているような撮像と投影とを共通の光学系を用いて行うシステムにおいては、投影面に画像を投影している状態では、光源からの強い光が光学系を通る状態となる。この状態において投影面を撮像すると、投影用の強い光が撮像素子に混入し、撮像画像にゴーストが発生する可能性がある。撮像画像にゴーストが発生していると、投影面の状態を精度よく認識することができなくなり、投影像の補正を高精度に行うことができなくなる。
特許文献2に記載のシステムと特許文献3に記載のプロジェクタは、撮像と投影とを共通の光学系によって行うものではなく、上述した課題の認識はない。
本発明は、上記事情に鑑みてなされたものであり、投影面に合わせた投影像の補正を行うことのできる投影装置とその制御方法及び制御プログラムを提供することを目的とする。
本発明の投影装置は、表示部からの光を投影対象物に投影する光学系と、上記光学系を通して上記光学系による光の投影範囲を撮像する撮像素子と、上記投影範囲に設定された複数の領域の各々を順次選択し、上記選択した上記領域に対して、予め決められたテスト光を上記光学系から投影させるテスト光投影制御部と、上記テスト光が投影された状態にて、上記テスト光が投影された上記領域の撮像画像であるテスト光画像を上記撮像素子から取得するテスト光画像取得部と、上記テスト光画像と、上記テスト光との特性差に基づいて、上記投影対象物に投影すべき画像の色又は輝度の少なくとも一方の補正を行うための補正データを生成する補正データ生成部と、上記補正データに基づいて補正した画像データを上記表示部に入力し、その画像データに基づく画像を投影させる画像投影制御部と、を備えるものである。
本発明の投影装置の制御方法は、表示部からの光を投影対象物に投影する光学系と、上記光学系を通して上記光学系による光の投影範囲を撮像する撮像素子と、を有する投影装置の制御方法であって、上記投影範囲に設定された複数の領域の各々を順次選択し、上記選択した上記領域に対して、予め決められたテスト光を上記光学系から投影させるテスト光投影制御ステップと、上記テスト光が投影された状態にて、上記テスト光が投影された上記領域の撮像画像であるテスト光画像を上記撮像素子から取得するテスト光画像取得ステップと、上記テスト光画像と、上記テスト光との特性差に基づいて、上記投影対象物に投影すべき画像の色又は輝度の少なくとも一方の補正を行うための補正データを生成する補正データ生成ステップと、上記補正データに基づいて補正した画像データを上記表示部に入力し、その画像データに基づく画像を投影させる画像投影制御ステップと、を備えるものである。
本発明の投影装置の制御プログラムは、表示部からの光を投影対象物に投影する光学系と、上記光学系を通して上記光学系による光の投影範囲を撮像する撮像素子と、を有する投影装置の制御プログラムであって、上記投影範囲に設定された複数の領域の各々を順次選択し、上記選択した上記領域に対して、予め決められたテスト光を上記光学系から投影させるテスト光投影制御ステップと、上記テスト光が投影された状態にて、上記テスト光が投影された上記領域の撮像画像であるテスト光画像を上記撮像素子から取得するテスト光画像取得ステップと、上記テスト光画像と、上記テスト光との特性差に基づいて、上記投影対象物に投影すべき画像の色又は輝度の少なくとも一方の補正を行うための補正データを生成する補正データ生成ステップと、上記補正データに基づいて補正した画像データを上記表示部に入力し、その画像データに基づく画像を投影させる画像投影制御ステップと、をコンピュータに実行させるためのものである。
本発明によれば、投影面に合わせた投影像の補正を行うことのできる投影装置とその制御方法及び制御プログラムを提供することができる。
本発明の投影装置の一実施形態であるプロジェクタ100の外観構成を示す模式図である。 図1に示すプロジェクタ100の内部構成を示す模式図である。 図2に示す表示部1の構成例を示す模式図である。 図3に示すシステム制御部8の機能ブロック図である。 スクリーンSCの一例を示す模式図である。 図5に示すスクリーンSCにおける投影範囲ARを撮像して撮像素子6から出力された領域設定用の撮像画像IGを示す模式図である。 補正データ生成対象となる領域の変形例を示す図である。 画像投影制御部85による補正前の画像データIM1が投影範囲ARに投影された状態を示す図である。 画像投影制御部85による画像データIM1の補正後の画像データIM2が投影範囲ARに投影された状態を示す図である。 図1に示すプロジェクタ100による補正データ生成処理を説明するためのフローチャートである。 図1に示すプロジェクタ100による補正データ生成処理の第一変形例を説明するためのフローチャートである。 スクリーンSCの一例を示す模式図である。 図12に示すスクリーンSCにおける投影範囲ARを撮像して撮像素子6から出力された領域設定用の撮像画像IGを示す模式図である。 図13に示した検出用領域の設定方法において、補正データに基づく補正後の画像の投影と、補正データ生成のための検出用領域へのテスト光の投影とを並行して行う場合の動作を説明するための模式図である。 図13に示した検出用領域の設定方法において、補正データに基づく補正後の画像の投影と、補正データ生成のための検出用領域へのテスト光の投影とを並行して行う場合の動作を説明するための模式図である。 図13に示した検出用領域の設定方法において、補正データに基づく補正後の画像の投影と、補正データ生成のための検出用領域へのテスト光の投影とを並行して行う場合の動作を説明するための模式図である。
図1は、本発明の投影装置の一実施形態であるプロジェクタ100の外観構成を示す模式図である。プロジェクタ100は、本体部100Aと、本体部100Aによって支持された光学ユニット100Bと、を備える。光学ユニット100Bは、本体部100Aに着脱可能に構成されていてもよい。
図2は、図1に示すプロジェクタ100の内部構成を示す模式図である。図3は、図2に示す表示部1の構成例を示す模式図である。プロジェクタ100は、投影対象物であるスクリーンSCに画像を投影すると共に、スクリーンSCにおける画像が投影される範囲である投影範囲を少なくとも撮像可能に構成されている。
図2に示すように、プロジェクタ100は、表示部1と、投影光学系2と、光学系を構成する共通光学系3と、光学部材4と、撮像光学系5と、撮像素子6と、照明装置7と、システム制御部8と、を備える。表示部1及びシステム制御部8は、本体部100Aに収容されている。投影光学系2、共通光学系3、光学部材4、撮像光学系5、及び撮像素子6は光学ユニット100Bに収容されている。
表示部1は、入力される画像データに基づいて投影用の画像を表示するものである。図3に示すように、表示部1は、光源ユニット40と、光変調素子44と、を備える。
光源ユニット40は、白色光を出射する光源41と、カラーホイール42と、照明光学系43と、を備える。光源41は、レーザ又はLED(Light Emitting Diode)等の発光素子を含んで構成される。カラーホイール42は、光源41と照明光学系43の間に配置されている。カラーホイール42は、円板状の部材であり、その周方向に沿って、赤色光を透過するRフィルタ、緑色光を透過するGフィルタ、及び青色光を透過するBフィルタが設けられている。カラーホイール42は軸周りに回転され、光源41から出射される白色光を時分割にて赤色光、緑色光、及び青色光に分光して照明光学系43に導く。照明光学系43から出射された光は光変調素子44に入射される。
光変調素子44は、照明光学系43から出射された光を画像データに基づいて空間変調し、空間変調した光を投影光学系2に出射する。
図3に示す表示部1は、光変調素子44としてDMD(Digital Micromirror Device)を用いた例であるが、光変調素子44としては、例えば、LCOS(Liquid crystal on silicon)、MEMS(Micro Electro Mechanical Systems)素子、又は液晶表示素子等を用いることも可能である。
表示部1は、自発光型の有機EL(electro−luminescence)表示素子を用いて画像を表示し、表示した画像を投影光学系2に入射させるものであってもよい。また、レーザ光を走査することで画像の表示を行うものを用いてもよい。
投影光学系2は、表示部1からの光が入射されるものであり、少なくとも1つのレンズを含む例えばリレー光学系によって構成されている。投影光学系2を通過した光は光学部材4に入射され、光学部材4にて反射されて共通光学系3に入射される。
共通光学系3は、投影光学系2を通過した光をスクリーンSCに投影し、且つ、スクリーンSC側の被写体を結像させるものであり、例えばリレー光学系によって構成されている。
図1の例では、共通光学系3は、少なくとも1つのレンズを含むレンズ群31と、光学部材32と、少なくとも1つのレンズを含むレンズ群33と、少なくとも1つのレンズを含むレンズ群34と、を備える。レンズ群31、光学部材32、レンズ群33、及びレンズ群34は、スクリーンSC側からこの順番にて光路上に配置されている。レンズ群31の最もスクリーンSC側に位置するレンズ31aは、図1に示すように、光学ユニット100Bの筐体から露出されている。
光学部材32は、共通光学系3の光路を屈曲させるための部材であり、例えばハーフミラー、ビームスプリッター、又は偏光部材等が用いられる。ただし、投影方向を変えることによって光学部材32を用いない構成とすることもできる。その場合、レンズ群31及びレンズ群33は一体となったレンズ群とすることもできる。
投影光学系2を通過した表示部1からの光は、光学部材4にて反射されてレンズ群34に入射される。このレンズ群34によって、レンズ群33とレンズ群34の間の位置PSに、表示部1からの光によって形成される中間像が結像される。なお、中間像の結像位置はこれに限定されるものではない。
この中間像はレンズ群33を通過して光学部材32に入射し、光学部材32にて反射されてレンズ群31に入射される。レンズ群31に入射された中間像はスクリーンSCに向けて投影されて投影画像となる。スクリーンSCにおいて共通光学系3から光が投影される範囲をスクリーンSCの投影範囲という。
スクリーンSC側からレンズ群31に入射した被写体光は、レンズ群31を通過し、光学部材32にて反射されて、レンズ群33に入射される。このレンズ群33によって、レンズ群33とレンズ群34の間の位置PSに、被写体光によって形成される中間像が結像される。
この中間像は、レンズ群34を通過して光学部材4に入射し、光学部材4を透過して撮像光学系5に入射される。
撮像光学系5は、位置PSに結像された中間像を撮像素子6に結像させるためのものである。撮像光学系5は、撮像素子6の前方に配置されており、光学部材4を透過した被写体光を集光して撮像素子6に結像させる。撮像光学系5は、少なくとも1つのレンズを含んで構成されている。
撮像素子6は、例えば、CCD(Charge Coupled Device)イメージセンサ又はCMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等が用いられる。
光学部材4は、例えばハーフミラー、ビームスプリッター、又は偏光部材等によって構成されている。光学部材4は、投影光学系2を通過した表示部1からの光を反射させて共通光学系3に導き、且つ、共通光学系3のレンズ群33によって位置PSに結像された被写体光に基づく中間像を、撮像光学系5を通して撮像素子6に導く。このように、撮像素子6は、光変調素子44によって空間変調された光をスクリーンSCに投影するための共通光学系3を通して、この共通光学系3による光の投影範囲を撮像するものとなっている。
照明装置7は、一例として図1に示すように、レンズ31aの光軸の周囲に円状に並べて配置された複数の発光素子7aと、これらを駆動するドライバと、によって構成されている。
システム制御部8は、表示部1から投影光学系2に入射させる光の制御、撮像素子6による被写体の撮像制御、及び照明装置7の発光制御等を行うものであり、プロセッサと、記憶部を構成するROM(Read Only Memory)と、RAM(Random Accsess Memory)と、を備える。
プロセッサとしては、プログラムを実行して各種処理を行う汎用的なプロセッサであるCPU(Central Prosessing Unit)、FPGA(Field Programmable Gate Array)等の製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、又はASIC(Application Specific Integrated Circuit)等の特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路等が含まれる。
これらプロセッサの構造は、より具体的には、半導体素子等の回路素子を組み合わせた電気回路である。
システム制御部8のプロセッサは、上述した各種のプロセッサのうちの1つで構成されてもよいし、同種又は異種の2つ以上のプロセッサの組み合わせ(例えば、複数のFPGAの組み合わせ又はCPUとFPGAの組み合わせ)で構成されてもよい。
図4は、図3に示すシステム制御部8の機能ブロック図である。システム制御部8のプロセッサは、投影装置の制御プログラムを含むアプリケーションプログラムを実行することにより、領域設定部81、テスト光投影制御部82、テスト光画像取得部83、補正データ生成部84、及び画像投影制御部85として機能する。
領域設定部81は、共通光学系3から光を投影させない状態にて撮像素子6により投影範囲を撮像させて、撮像素子6から、領域設定用の撮像画像IGを取得する。領域設定部81は、この領域設定用の撮像画像IGに基づいて、スクリーンSCの投影範囲に対して複数の領域(以下、検出用領域という)を設定する。この複数の検出用領域の設定方法について、図5,6を参照して説明する。
図5は、スクリーンSCの一例を示す模式図である。図5に示すスクリーンSCには、楕円状の第一領域Pと、第一領域Pとは色又は輝度の異なる第二領域NPが存在している。図5には、共通光学系3から投影される光の投影範囲ARが破線にて示されている。図6は、図5に示すスクリーンSCにおける投影範囲ARを撮像して撮像素子6から出力された領域設定用の撮像画像IGを示す模式図である。
領域設定部81は、撮像画像IGから特徴量を抽出する処理を行い、抽出した特徴量に基づいてスクリーンSCの投影範囲AR内の模様を認識し、認識した模様にしたがって、投影範囲ARに対して複数の検出用領域を設定する。
特徴量は、撮像画像IGに含まれる各物体の色、輝度、又は形状等である。領域設定部81は、抽出した特徴量に基づいて、撮像画像IGが色又は輝度の異なる第一領域Pと第二領域NPにより構成されていることを認識する。撮像画像IGとスクリーンSCの投影範囲ARとは対応する。このため、上記の認識処理により、スクリーンSCの投影範囲ARが、第一領域Pと第二領域NPを有することが認識される。
領域設定部81は、撮像画像IGの第一領域Pにおける代表的な位置(例えば第一領域Pの中心又は端部等)に少なくとも1つの検出用領域を設定する。図6には、第一領域Pの中心よりも上側と下側にある2つの画素が、それぞれ、検出用領域T6と検出用領域T7として設定された例が示されている。
同様に、領域設定部81は、撮像画像IGの第二領域NPにおける代表的な位置(例えば第二領域NPの中心又は端部等)に少なくとも1つの検出用領域を設定する。図6には、第二領域NPの四隅にある画素が検出用領域T1、T3、T4、T5として設定され、第二領域NPの中心にある画素が検出用領域T2として設定された例が示されている。
撮像画像IGと投影範囲ARは対応している。具体的には、投影範囲ARを撮像画像IGの総画素数によって均等に分割した場合の各分割エリアと、撮像画像IGの各画素とが対応する。このため、このようにして撮像画像IGに設定された複数の検出用領域(図6の例では、検出用領域T1−T7)が、そのまま、投影範囲ARに設定された複数の検出用領域となる。
図4に示すテスト光投影制御部82は、領域設定部81によって投影範囲に設定された複数の検出用領域の各々を順次選択し、その選択した検出用領域に対して、予め決められた色のテスト光を共通光学系3からスクリーンSCに投影させる。
テスト光投影制御部82は、例えば、図6に示す検出用領域T1を選択した場合には、投影範囲ARにおける検出用領域T1にのみテスト光が投影され、投影範囲ARにおける検出用領域T1以外の領域には光が投影されないようなテスト用の画像データを生成し、このテスト用の画像データを光変調素子44に入力する。これにより、投影範囲ARにおける検出用領域T1にのみテスト光が投影されることになる。
テスト光画像取得部83は、テスト光が投影範囲の検出用領域に投影された状態にて、投影範囲を撮像素子6により撮像させる。そして、この撮像によって得られる撮像画像のうち、そのテスト光が投影された検出用領域の部分の撮像画像であるテスト光画像を、撮像素子6から取得する。
補正データ生成部84は、テスト光画像取得部83が取得したテスト光画像と、テスト光投影制御部82によって投影されたテスト光との特性差に基づいて、スクリーンSCに投影すべき画像の色の補正を行うための補正データを生成する。生成された補正データは、システム制御部8のROMに記憶される。
テスト光画像とテスト光との特性差とは、具体的には、テスト光画像の色とテスト光の色との差である。
図6の例では、テスト光画像取得部83により、テスト光が検出用領域T1に投影されている状態における検出用領域T1の撮像画像であるテスト光画像GT1と、テスト光が検出用領域T2に投影されている状態における検出用領域T2の撮像画像であるテスト光画像GT2と、テスト光が検出用領域T3に投影されている状態における検出用領域T3の撮像画像であるテスト光画像GT3と、テスト光が検出用領域T4に投影されている状態における検出用領域T4の撮像画像であるテスト光画像GT4と、テスト光が検出用領域T5に投影されている状態における検出用領域T5の撮像画像であるテスト光画像GT5と、テスト光が検出用領域T6に投影されている状態における検出用領域T6の撮像画像であるテスト光画像GT6と、テスト光が検出用領域T7に投影されている状態における検出用領域T7の撮像画像であるテスト光画像GT7と、が順次取得される。
補正データ生成部84は、例えば、テスト光画像GT6,GT7の各々とテスト光との特性差を求め、これら2つの特性差に基づいて、第一領域Pに投影すべき画像の色を補正するための第一補正データを生成する。この第一補正データは、第一領域P全体にテスト光を投影した場合に、このテスト光が投影された第一領域Pの撮像画像の色と、テスト光の色とが一致するように生成される。
また、補正データ生成部84は、テスト光画像GT1−GT5の各々とテスト光との特性差を求め、これら5つの特性差に基づいて、第二領域NPに投影すべき画像の色を補正するための補正データを生成する。この第二補正データは、第二領域NP全体にテスト光を投影した場合に、このテスト光が投影された第二領域NPの撮像画像の色と、テスト光の色とが一致するように生成される。
なお、補正データ生成部84は、例えば、図7に示すように、第二領域NPを、検出用領域T1を含む分割領域A1、検出用領域T2を含む分割領域A2、検出用領域T3を含む分割領域A3、検出用領域T4を含む分割領域A4、及び、検出用領域T5を含む分割領域A5に分割し、更に、第一領域Pを、検出用領域T6を含む分割領域A6及び検出用領域T7を含む分割領域A7に分割し、分割領域A1−A7に対して個別に補正データを生成してもよい。
また、補正データ生成部84は、テスト光画像取得部83が取得したテスト光画像と、テスト光投影制御部82によって投影されたテスト光との特性差として、テスト光画像とテスト光との輝度差を求め、この輝度差に基づいて、スクリーンSCに投影すべき画像の輝度の補正を行うための補正データを生成してもよい。
或いは、補正データ生成部84は、テスト光画像取得部83が取得したテスト光画像と、テスト光投影制御部82によって投影されたテスト光との特性差として、テスト光画像とテスト光との色差、及び、テスト光画像とテスト光との輝度差を求め、この色差と輝度差に基づいて、スクリーンSCに投影すべき画像の色と輝度の補正を行うための補正データを生成してもよい。
図4に示す画像投影制御部85は、画像の投影時においては、光変調素子44に入力すべき画像データの色又は輝度、或いはその両方を、ROMに記憶された補正データに基づいて補正し、補正後の画像データを光変調素子44に入力して、この補正後の画像データに基づく画像を投影範囲ARに投影させる。
図8は、画像投影制御部85による補正前の画像データIM1(例えば全体が単一色で構成されたベタ画像)が投影範囲ARに投影された状態を示す図である。この図に示すように、第一領域Pと第二領域NPの色又は輝度の差によって、画像データIM1のうちの第一領域Pと重なる部分の色が、第二領域NPと重なる部分の色と異なる状態になっている。
図9は、画像投影制御部85による画像データIM1の補正後の画像データIM2が投影範囲ARに投影された状態を示す図である。画像投影制御部85は、図8に示した画像データIM1のうちの第一領域Pに投影される部分を上記の第一補正データによって補正し、画像データIM1のうちの第二領域NPに投影される部分を上記の第二補正データによって補正して、画像データIM2を生成する。
図9に示すように、補正後の画像データIM2が投影されることで、画像データIM2における第一領域Pに重なる部分と第二領域NPに重なる部分との色は同じとなり、スクリーンSCの模様の影響を受けずに、画像データIM2を視認可能となる。
図10は、図1に示すプロジェクタ100による補正データ生成処理を説明するためのフローチャートである。まず、領域設定部81は、照明装置7を制御し、白色光等によってスクリーンSCを照明させる(ステップS1)。
次に、領域設定部81は、撮像素子6を制御してスクリーンSCを撮像させる(ステップS2)。
次に、領域設定部81は、ステップS2にて撮像された投影範囲ARの撮像画像から特徴量を抽出する(ステップS3)。
次に、領域設定部81は、抽出した特徴量に基づいて、投影範囲ARに対しk個(kは2以上の自然数)の検出用領域Tn(nは1〜k)を設定する(ステップS4)。
次に、テスト光投影制御部82は、上記の“n”を1に設定して(ステップS5)、検出用領域Tnを選択し(ステップS6)、選択した検出用領域Tnにのみテスト光を投影させる(ステップS7)。
次に、テスト光画像取得部83は、撮像素子6によりスクリーンSCを撮像させ、ステップS7にて投影範囲ARに投影されたテスト光の撮像画像であるテスト光画像を撮像素子6から取得し、これをRAMに記憶する(ステップS8)。
次に、テスト光画像取得部83は、設定中の“n”が“k”となっているかを判定し(ステップS9)、“n”が“k”未満であれば(ステップS9:NO)、ステップS10にて“n”の値を1つ増やしてから、ステップS6〜ステップS8の処理を行う。テスト光画像取得部83は、“n”が“k”であれば(ステップS9:YES)、RAMに記憶したk個のテスト光画像に基づいて補正データを生成し、この補正データをROMに記憶する(ステップS11)。
以上のように、プロジェクタ100によれば、スクリーンSC上の投影範囲に設定される複数の検出用領域の各々に対して順次テスト光が投影され、この順次投影されるテスト光が撮像素子6により撮像されてk個のテスト光画像が得られる。そして、このk個のテスト光画像に基づいて、画像の投影時に光変調素子44に入力すべき画像データの色又は輝度の少なくとも一方を補正するための補正データが生成される。
このように、投影範囲の一部の領域(検出用領域)にのみテスト光を投影してテスト光画像を取得する処理を繰り返し行うことで、テスト光が投影された状態では、投影範囲の全体にテスト光を投影する場合と比較すると、表示部1からの強い光が撮像素子6に漏れこむ可能性を低減できる。このため、テスト光画像にゴーストが生じるのを防ぐことができ、テスト光とテスト光画像との特性差を正確に求めることが可能となる。この結果、補正データを精度よく生成することができ、スクリーンSCの投影範囲内の色又は輝度等が一様ではない場合であっても、投影画像の視認性を高めることができる。
なお、投影範囲に設定される検出用領域の大きさは、投影範囲よりも十分に小さいサイズであれば任意であるが、上記の効果をより顕著に得るために、極力小さくすることが好ましい。上述したように、撮像画像IGを構成する画素の総数にて投影範囲を均等に分割したときの各分割エリアの大きさを、検出用領域のサイズとするのが好ましい。これにより、テスト光画像にゴーストが生じる可能性を極力減らすことができる。
また、プロジェクタ100によれば、スクリーンSCの投影範囲内の模様に基づいて、投影範囲に対する検出用領域の設定が行われる。このため、検出用領域の数を必要最小限に抑えることができる。したがって、システム制御部8の処理負荷の軽減と処理速度の向上が可能となる。
また、プロジェクタ100によれば、スクリーンSCの投影範囲内の模様を認識するために行う図10のステップS2の撮像が、照明装置7によってスクリーンSCを照明した状態にて行われる。このため、この模様の認識精度を高めることができる。したがって、検出用領域の設定数を効果的に削減できると共に、補正データの精度を高めることができる。
また、照明装置7は、一例として共通光学系3のレンズ31aの光軸の周囲に円状に配置される発光素子7aによって構成される。このため、スクリーンSCの投影範囲の全体を均一な光によって照明することができ、投影範囲内の模様の認識精度を高めることができる。ただし、照明装置7はスクリーンSCの投影範囲の全体を均一な光によって照明することができれば他の配置でも実現可能である。
以下、プロジェクタ100の変形例について説明する。
プロジェクタ100において、図10のステップS1の処理は必須ではなく、照明装置7も必須ではない。スクリーンSCを照明しない状態にて領域設定用の撮像画像IGを取得した場合でも、プロジェクタ100がある程度明るい環境に置かれているのであれば、スクリーンSCの模様を認識することは十分に可能である。
プロジェクタ100において、領域設定部81は、スクリーンSCにおける投影範囲内の模様を認識することなく、投影範囲に対して予め決められた複数の領域(例えば、投影範囲を格子状に分割して得られる各分割領域、又は、撮像画像IGを構成する各画素に対応する領域等)を検出用領域として設定してもよい。上述したように、スクリーンSCの投影範囲内の模様にしたがって検出用領域を設定することで、設定する検出用領域の数を減らすことができ、処理負荷の軽減と高速処理が可能となる。
プロジェクタ100において、システム制御部8のROMには、投影範囲に対して予め決められた特定領域の情報が記憶される構成とし、領域設定部81は、この特定領域を避けて、複数の検出用領域を設定することが好ましい。特定領域とは、この領域にテスト光を投影した状態にてこの領域を撮像素子6により撮像して得られるテスト光画像に、このテスト光によるゴーストが生じ得る領域である。
テスト光は投影範囲の一部にのみ投影されるため、上述したように、このテスト光が投影されているときに撮像素子6によりスクリーンSCを撮像して得られる撮像画像には、ゴーストは生じにくい。しかし、テスト光が通る光路によっては、このテスト光の一部が撮像素子6に漏れこむ場合もある。したがって、このようなテスト光の投影時にゴーストが生じ得る、テスト光の投影領域を上記の特定領域として予め求めておき、この特定領域は避けてテスト光を投影することで、補正データの精度をより高めることができる。
この特定領域は、領域設定用の撮像画像IGを構成する各画素に対応する投影範囲の各位置にテスト光を順次投影し、その投影されたテスト光の撮像画像にゴーストが生じているかどうかを検査することで、事前に決めておくことができる。
図11は、図1に示すプロジェクタ100による補正データ生成処理の第一変形例を説明するためのフローチャートである。図11は、補正データ生成部84が、図7に示した分割領域A1−A7に対して個別に補正データを生成する場合の動作例を示している。図11に示すステップS5よりも前の動作は、図10と同じであるため説明を省略する。また、図11において図10と同じ処理には同一符号を付して説明を省略する。
ステップS5にてnが1に設定されると、ステップS6、ステップS7、ステップS8の処理が行われる。ここまでは図10と同じである。ステップS8の後、補正データ生成部84は、ステップS8にて取得したテスト光画像に基づいて、検出用領域Tnを含む分割領域Anに投影する画像の色を補正するための補正データを生成する(ステップS21)。この補正データは、分割領域An全体にテスト光を投影した場合に、このテスト光が投影された分割領域Anの撮像画像の色と、テスト光の色とが一致するように生成される。
次に、テスト光画像取得部83は、設定中の“n”が“k”となっているかを判定し(ステップS22)、“n”が“k”未満であれば(ステップS22:NO)、ステップS23にてnの値を1つ増やして(ステップS23)からステップS24に処理を移行させ、“n”が“k”であれば(ステップS22:YES)、ステップS25に処理を移行させる。
ステップS24においては、システム制御部8が、ステップS21にて生成済みの補正データに基づいて補正したテスト光を分割領域Am(mはn未満の各値)に投影し、且つ、検出用領域Tnにテスト光を投影させるための画像データを生成してこれを表示部1に入力し、この画像データに基づく画像を投影範囲ARに投影させる。この処理により、ステップS23においてnが2となっている状態であれば、投影範囲ARに対し、分割領域A1には補正後のテスト光が投影され、検出用領域T2にはテスト光が投影された状態となる。ステップS24の処理の後はステップS8に処理が移行される。
ステップS25においては、画像投影制御部85が、ステップS21にて生成された補正データに基づいて補正したテスト光を分割領域An(ここでは分割領域A7)に追加投影する。これにより、全ての分割領域A1〜A7の各々に補正後のテスト光が投影された状態となる。
以上の動作を、図7を参照して具体的に説明する。まず、検出用領域T1にのみテスト光が投影された状態にて投影範囲ARが撮像され、検出用領域T1の撮像画像がテスト光画像として取得される。このテスト光画像に基づいて分割領域A1用の補正データが生成された後、この補正データに基づいて補正されたテスト光が分割領域A1に投影されると共に、検出用領域T2にテスト光が投影される。
続いて、分割領域A1に補正後のテスト光が投影され且つ検出用領域T2にテスト光が投影された状態にて投影範囲ARが撮像され、検出用領域T2の撮像画像がテスト光画像として取得される。このテスト光画像に基づいて分割領域A2用の補正データが生成された後、この補正データに基づいて補正されたテスト光が分割領域A2に追加投影されると共に、検出用領域T3にテスト光が投影される。
続いて、分割領域A1,A2に補正後のテスト光が投影され且つ検出用領域T3にテスト光が投影された状態にて投影範囲ARが撮像され、検出用領域T3の撮像画像がテスト光画像として取得される。このテスト光画像に基づいて分割領域A3用の補正データが生成された後、この補正データに基づいて補正されたテスト光が分割領域A3に追加投影されると共に、検出用領域T4にテスト光が投影される。
続いて、分割領域A1,A2,A3に補正後のテスト光が投影され且つ検出用領域T4にテスト光が投影された状態にて投影範囲ARが撮像され、検出用領域T4の撮像画像がテスト光画像として取得される。このテスト光画像に基づいて分割領域A4用の補正データが生成された後、この補正データに基づいて補正されたテスト光が分割領域A4に追加投影されると共に、検出用領域T5にテスト光が投影される。
続いて、分割領域A1,A2,A3,A4に補正後のテスト光が投影され且つ検出用領域T5にテスト光が投影された状態にて投影範囲ARが撮像され、検出用領域T5の撮像画像がテスト光画像として取得される。このテスト光画像に基づいて分割領域A5用の補正データが生成された後、この補正データに基づいて補正されたテスト光が分割領域A5に追加投影されると共に、検出用領域T6にテスト光が投影される。
続いて、分割領域A1,A2,A3,A4,A5に補正後のテスト光が投影され且つ検出用領域T6にテスト光が投影された状態にて投影範囲ARが撮像され、検出用領域T6の撮像画像がテスト光画像として取得される。このテスト光画像に基づいて分割領域A6用の補正データが生成された後、この補正データに基づいて補正されたテスト光が分割領域A6に追加投影されると共に、検出用領域T7にテスト光が投影される。
続いて、分割領域A1,A2,A3,A4,A5,A6に補正後のテスト光が投影され且つ検出用領域T7にテスト光が投影された状態にて投影範囲ARが撮像され、検出用領域T7の撮像画像がテスト光画像として取得される。このテスト光画像に基づいて分割領域A7用の補正データが生成された後、この補正データに基づいて補正されたテスト光が分割領域A7に追加投影されて、補正処理が完了する。
この補正処理が完了した状態では、例えばテスト光が白色光であれば、補正後の白色光が全体に投影されて投影範囲ARの模様が消えた状態となり、テスト光以外のユーザの望む画像データが表示部1に入力されると、この画像データに基づく画像が補正データによって補正された上で、投影範囲ARの模様の影響を受けることなく、投影範囲ARに投影される。
以上の変形例によれば、テスト光投影制御部82による検出用領域Tnに対するテスト光の投影と、その検出用領域Tnと異なる検出用領域(補正データが生成済みの検出用領域Tn)に対する補正データに基づく補正後の画像の投影と、が並行して行われる。この変形例は、図10に示す動作のように、検出用領域T1〜検出用領域T7の各々にテスト光を順次投影して各検出用領域に対応する補正データを生成し、その後、各検出用領域に対応する補正データに基づいて補正した画像を表示する場合と比較すると、補正後の画像表示までの時間を短縮することができる。このため、例えば、プロジェクタ100の起動後、すぐにユーザが画像を表示させるような場合であっても、その画像を、投影範囲ARの模様の影響を受けることなく高速で表示することができる。
なお、テスト光画像取得のためのテスト光を投影すべき検出用領域Tnは、このテスト光と同時に投影される補正後のテスト光の投影領域から離れた位置のものを選択することで、この検出用領域Tnの撮像画像にゴーストが生じるのを防ぐことは可能である。また、テスト光画像取得のためのテスト光と同時に投影される画像は、補正後のテスト光に基づく画像としているが、ユーザから入力された任意の画像データの補正データによる補正後の画像データに基づく画像であってもよい。
以上の説明では、図5に示すように、投影範囲ARの模様がシンプルな場合を例としたが、より複雑な模様が投影範囲ARにある場合のシステム制御部8の動作について以下に説明する。
図12は、スクリーンSCの一例を示す模式図である。図12に示すスクリーンSCには、色又は輝度の異なる楕円状のエリアP1〜P5と、エリアP1〜P5の各々とは色又は輝度の異なるエリアNPとが存在している。図12には、共通光学系3から投影される光の投影範囲ARが破線にて示されている。図13は、図12に示すスクリーンSCにおける投影範囲ARを撮像して撮像素子6から出力された領域設定用の撮像画像IGを示す模式図である。
領域設定部81は、図13に示した撮像画像IGから特徴量を抽出する処理を行い、抽出した特徴量に基づいてスクリーンSCの投影範囲AR内の模様を認識し、認識した模様にしたがって、投影範囲ARに対して複数の検出用領域を設定する。
領域設定部81は、抽出した特徴量に基づいて、撮像画像IGが色又は輝度の異なるエリアP1〜P5及びエリアNPを有していることを認識する。撮像画像IGとスクリーンSCの投影範囲ARとは対応する。このため、上記の認識処理により、スクリーンSCの投影範囲ARが、色又は輝度の異なるエリアP1〜P5及びエリアNPを有することが認識される。
領域設定部81は、認識したエリアP1〜P5及びエリアNPを、色又は輝度が類似するもの同士でグループ分けし、各グループに含まれる任意の1つのエリアの代表的な位置(例えばそのエリアの中心又は端部等)に少なくとも1つの検出用領域を設定する。
色が類似する複数のエリアとは、例えば、各エリアとその他エリアとの色度の差が閾値以下となる複数のエリア、又は、各エリアとその他エリアとの色度の差及び明度の差がそれぞれ閾値以下となる複数のエリア等を言う。輝度が類似する複数のエリアとは、各エリアとその他エリアとの輝度の差が閾値以下となる複数のエリアを言う。
図13の例では、エリアP1とエリアP2の色度の差が閾値以下となり、且つ、エリアP1とエリアP2の各々と、エリアP3,P4,P5,NPの各々との色度の差が閾値を超えるため、エリアP1とエリアP2がグループG1として設定される。
また、エリアP3とエリアP4の色度の差が閾値以下となり、且つ、エリアP3とエリアP4の各々と、エリアP1,P2,P5,NPの各々との色度の差が閾値を超えるため、エリアP3とエリアP4がグループG2として設定される。
また、エリアP5と他の全エリアの色度との差が閾値を超えるため、エリアP5がグループG3として設定される。また、エリアNPと他の全エリアの色度との差が閾値を超えるため、エリアNPがグループG4として設定される。なお、エリアNPは、例えば白色のエリアであり、ここにテスト光が投影されたときのその投影領域の撮像画像とテスト光との特性差は既定値以下になる(換言すると補正が不要な領域である)ものとして説明する。
図13の例では、領域設定部81は、グループG1におけるエリアP1の代表的な位置に検出用領域T1を設定し、グループG2におけるエリアP4の代表的な位置に検出用領域T2を設定し、グループG3におけるエリアP5の代表的な位置に検出用領域T3を設定し、グループG4におけるエリアNPの代表的な位置に検出用領域T4を設定している。
図13に示すように検出用領域が設定された場合の動作について以下に説明する。
まず、テスト光投影制御部82は、検出用領域T1を選択し、選択した検出用領域T1にのみテスト光を投影させる。そして、補正データ生成部84は、テスト光が投影された検出用領域T1の撮像画像であるテスト光画像とテスト光との特性差に基づいて、検出用領域T1の設定されたエリアP1用の補正データ(エリアP1の色を打ち消すための補正データ)を生成して記憶する。
次に、テスト光投影制御部82は、検出用領域T2を選択し、選択した検出用領域T2にのみテスト光を投影させる。そして、補正データ生成部84は、テスト光が投影された検出用領域T2の撮像画像であるテスト光画像とテスト光との特性差に基づいて、検出用領域T2の設定されたエリアP4用の補正データ(エリアP4の色を打ち消すための補正データ)を生成して記憶する。
次に、テスト光投影制御部82は、検出用領域T3を選択し、選択した検出用領域T3にのみテスト光を投影させる。そして、補正データ生成部84は、テスト光が投影された検出用領域T3の撮像画像であるテスト光画像とテスト光との特性差に基づいて、検出用領域T3の設定されたエリアP5用の補正データ(エリアP5の色を打ち消すための補正データ)を生成して記憶する。
次に、テスト光投影制御部82は、検出用領域T4を選択し、選択した検出用領域T4にのみテスト光を投影させる。そして、補正データ生成部84は、テスト光が投影された検出用領域T4の撮像画像であるテスト光画像とテスト光との特性差を判定する。この特性差は既定値以下であるため、検出用領域T4の設定されたエリアNP用の補正データの生成は不要となり、この補正データの生成は行われない。
次に、テスト光画像取得部83は、検出用領域T1を含むエリアP1の属するグループG1におけるエリアP1以外のエリアP2にテスト光が投影された状態のこのテスト光の投影領域の撮像画像である推定テスト光画像を、検出用領域T1のテスト光画像に基づいて生成する。エリアP1とエリアP2の色度(或いは明度)の差又は比は求めることができる。このため、検出用領域T1のテスト光画像を、エリアP1とエリアP2の色度(或いは明度)の差又は比に基づいて加工する(例えばテスト光画像にこの比を乗じる、この差に応じた係数をテスト光画像に乗じる等の処理を行う)ことで、エリアP2の推定テスト光画像を得ることができる。
同様に、テスト光画像取得部83は、検出用領域T2を含むエリアP4の属するグループG2におけるエリアP4以外のエリアP3にテスト光が投影された状態のこのテスト光の投影領域の撮像画像である推定テスト光画像を、検出用領域T2のテスト光画像に基づいて生成する。エリアP3とエリアP4の色度(或いは明度)の差又は比は求めることができる。このため、検出用領域T2のテスト光画像を、エリアP1とエリアP2の色度(或いは明度)の差又は比に基づいて加工することで、エリアP3の推定テスト光画像を得ることができる。
補正データ生成部84は、エリアP2の推定テスト光画像とテスト光との特性差に基づいて、エリアP2用の補正データ(エリアP2の色を打ち消すための補正データ)を生成して記憶し、エリアP3の推定テスト光画像とテスト光との特性差に基づいて、エリアP3用の補正データ(エリアP3の色を打ち消すための補正データ)を生成して記憶する。
画像投影制御部85は、画像の投影時においては、光変調素子44に入力すべき画像データの色を、このようにして記憶された補正データに基づいて補正し、補正後の画像データを光変調素子44に入力して、この補正後の画像データに基づく画像を投影範囲ARに投影させる。
具体的には、投影範囲ARに投影される画像のうちのエリアP1の部分には、エリアP1用の補正データに基づいてエリアP1の色を打ち消す補正がなされた画像が投影される。投影範囲ARに投影される画像のうちのエリアP2の部分には、エリアP2用の補正データに基づいてエリアP2の色を打ち消す補正がなされた画像が投影される。投影範囲ARに投影される画像のうちのエリアP3の部分には、エリアP3用の補正データに基づいてエリアP3の色を打ち消す補正がなされた画像が投影される。投影範囲ARに投影される画像のうちのエリアP4の部分には、エリアP4用の補正データに基づいてエリアP4の色を打ち消す補正がなされた画像が投影される。投影範囲ARに投影される画像のうちのエリアP5の部分には、エリアP5用の補正データに基づいてエリアP5の色を打ち消す補正がなされた画像が投影される。
以上のように、領域設定部81は、投影範囲ARを、色又は輝度が類似するもの同士でグループ分けし、各グループに含まれる1つのエリアに検出用領域を設定するため、投影範囲ARに複雑な模様が存在している場合であっても、設定すべき検出用領域の数を少なくすることができ、補正データ生成の時間を短縮することができる。また、検出用領域の数を少なくしても、テスト光を投影していないエリア(図13の例では、エリアP2及びエリアP3)については、そのエリアと同じグループのテスト光を投影している他のエリアのテスト光画像を用いて、テスト光画像を推定することができる。このため、テスト光を投影していないエリアであっても、補正データを精度よく生成することが可能となる。
なお、同じグループに属する複数のエリアは、色又は輝度の差が小さいエリアである。このため、テスト光を投影していないエリア(図13の例では、エリアP2及びエリアP3)については、そのエリアと同じグループのテスト光を投影している他のエリアのテスト光画像を、そのまま、推定テスト光画像として取り扱ってもよい。このようにした場合でも、画像の投影時においては、エリアP2とエリアP3の色をある程度は消した状態を得ることが可能である。
図13に示した検出用領域の設定方法の場合でも、補正データに基づく補正後の画像の投影と、補正データ生成のための検出用領域へのテスト光の投影とを並行して行うことが可能である。例えば、システム制御部8は、エリアP1用の補正データとエリアP2用の補正データの生成後、図14に示すように、これら補正データに基づいて補正したテスト光をエリアP1及びエリアP2に投影してエリアP1及びエリアP2の色消しを行うと共に、検出用領域T2にテスト光を投影する。
システム制御部8は、検出用領域T2のテスト光画像を取得し、このテスト光画像に基づいてエリアP3用の補正データとエリアP4用の補正データを生成すると、図15に示すように、これら補正データに基づいて補正したテスト光をエリアP3及びエリアP4に追加投影してエリアP3及びエリアP4の色消しを行うと共に、検出用領域T3にテスト光を投影する。
システム制御部8は、検出用領域T3のテスト光画像を取得し、このテスト光画像に基づいてエリアP5用の補正データを生成すると、図16に示すように、この補正データに基づいて補正したテスト光をエリアP5に追加投影してエリアP5の色消しを行うと共に、検出用領域T4にテスト光を投影する。
最後に、システム制御部8は、検出用領域T4のテスト光画像を取得し、このテスト光画像に基づいてエリアNP用の補正データを生成の生成が不要と判断すると、テスト光をエリアNP全体に追加投影して、補正処理を完了する。以上のようにすることで、補正処理完了までの時間を短縮することができる。
以上説明してきたように、本明細書には以下の事項が開示されている。
(1)
表示部からの光を投影対象物に投影する光学系と、
上記光学系を通して上記光学系による光の投影範囲を撮像する撮像素子と、
上記投影範囲に設定された複数の領域の各々を順次選択し、上記選択した上記領域に対してテスト光を上記光学系から投影させるテスト光投影制御部と、
上記テスト光が投影された状態にて、上記テスト光が投影された上記領域の撮像画像であるテスト光画像を上記撮像素子から取得するテスト光画像取得部と、
上記テスト光画像と、上記テスト光との特性差に基づいて、上記投影対象物に投影すべき画像の色又は輝度の少なくとも一方の補正を行うための補正データを生成する補正データ生成部と、
上記補正データに基づいて補正した画像データを上記表示部に入力し、その画像データに基づく画像を投影させる画像投影制御部と、を備える投影装置。
(2)
(1)記載の投影装置であって、
上記光学系から光を投影させない状態にて上記撮像素子により上記投影範囲を撮像させて上記撮像素子から領域設定用の撮像画像を取得し、上記領域設定用の上記撮像画像に基づいて、上記投影範囲に対して上記複数の上記領域を設定する領域設定部を備える投影装置。
(3)
(2)記載の投影装置であって、
上記領域設定部は、上記領域設定用の上記撮像画像の特徴量に基づいて上記領域を設定する投影装置。
(4)
(3)記載の投影装置であって、
上記領域設定部は、上記特徴量に基づいて上記投影対象物の上記投影範囲における模様を認識し、上記模様にしたがって上記領域を設定する投影装置。
(5)
(3)又は(4)記載の投影装置であって、
上記領域設定部は、上記特徴量に基づいて、上記投影範囲が色又は輝度の異なる複数のエリアを有していることを認識し、上記複数の上記エリアを、上記色又は上記輝度が類似するもの同士でグループ分けし、上記各グループに含まれる1つの上記エリアに上記領域を設定する投影装置。
(6)
(5)記載の投影装置であって、
上記テスト光画像取得部は、上記領域設定部により設定された上記領域を含む上記エリアの属する上記グループにおけるそのエリア以外の上記エリアに上記テスト光が投影された状態のそのエリアの撮像画像である推定テスト光画像を、その領域の上記テスト光画像に基づいて生成し、
上記補正データ生成部は、上記テスト光画像と上記テスト光との特性差と、上記推定テスト光画像と上記テスト光との特性差と、に基づいて、上記補正データを生成する投影装置。
(7)
(5)記載の投影装置であって、
上記テスト光画像取得部は、上記領域設定部により設定された上記領域を含む上記エリアの属する上記グループにおけるそのエリア以外の上記エリアに上記テスト光が投影された状態のそのエリアの撮像画像である推定テスト光画像を、その領域の上記テスト光画像とし、
上記補正データ生成部は、上記テスト光画像と上記テスト光との特性差と、上記推定テスト光画像と上記テスト光との特性差と、に基づいて上記補正データを生成する投影装置。
(8)
(2)から(7)のいずれか1つに記載の投影装置であって、
上記投影範囲における特定領域の情報を記憶する記憶部を備え、
上記特定領域は、上記特定領域に上記テスト光を投影した場合に、上記テスト光画像にそのテスト光によるゴーストが生じ得る領域であり、
上記領域設定部は、上記特定領域を避けて上記複数の上記領域を設定する投影装置。
(9)
(2)から(8)のいずれか1つに記載の投影装置であって、
上記領域設定部は、照明装置によって上記投影対象物に照明光を照射させた状態にて、上記領域設定用の上記撮像画像を取得するための上記投影範囲の撮像を上記撮像素子に行わせる投影装置。
(10)
(9)記載の投影装置であって、
上記照明装置は、上記光学系の光軸の周囲に設けられている投影装置。
(11)
(1)から(10)のいずれか1つに記載の投影装置であって、
上記テスト光投影制御部による上記領域に対する上記テスト光の投影と、その領域と異なる上記領域に対する上記補正データに基づく補正後の画像の投影と、を並行して行う投影装置。
(12)
表示部からの光を投影対象物に投影する光学系と、上記光学系を通して上記光学系による光の投影範囲を撮像する撮像素子と、を有する投影装置の制御方法であって、
上記投影範囲に設定された複数の領域の各々を順次選択し、上記選択した上記領域に対してテスト光を上記光学系から投影させるテスト光投影制御ステップと、
上記テスト光が投影された状態にて、上記テスト光が投影された上記領域の撮像画像であるテスト光画像を上記撮像素子から取得するテスト光画像取得ステップと、
上記テスト光画像と、上記テスト光との特性差に基づいて、上記投影対象物に投影すべき画像の色又は輝度の少なくとも一方の補正を行うための補正データを生成する補正データ生成ステップと、
上記補正データに基づいて補正した画像データを上記表示部に入力し、その画像データに基づく画像を投影させる画像投影制御ステップと、を備える投影装置の制御方法。
(13)
(12)記載の投影装置の制御方法であって、
上記光学系から光を投影させない状態にて上記撮像素子により上記投影範囲を撮像させて上記撮像素子から領域設定用の撮像画像を取得し、上記領域設定用の上記撮像画像に基づいて、上記投影範囲に対して上記複数の領域を設定する領域設定ステップを更に備える投影装置の制御方法。
(14)
(13)記載の投影装置の制御方法であって、
上記領域設定ステップでは、上記領域設定用の上記撮像画像の特徴量に基づいて上記領域を設定する投影装置の制御方法。
(15)
(14)記載の投影装置の制御方法であって、
上記領域設定ステップでは、上記特徴量に基づいて上記投影対象物の上記投影範囲における模様を認識し、上記模様にしたがって上記領域を設定する投影装置の制御方法。
(16)
(14)又は(15)記載の投影装置の制御方法であって、
上記領域設定ステップでは、上記特徴量に基づいて、上記投影範囲が色又は輝度の異なる複数のエリアを有していることを認識し、上記複数の上記エリアを、上記色又は上記輝度が類似するもの同士でグループ分けし、上記各グループに含まれる1つの上記エリアに上記領域を設定する投影装置の制御方法。
(17)
(16)記載の投影装置の制御方法であって、
上記テスト光画像取得ステップでは、上記領域設定ステップにより設定された上記領域を含む上記エリアの属する上記グループにおけるそのエリア以外の上記エリアに上記テスト光が投影された状態のそのエリアの撮像画像である推定テスト光画像を、その領域の上記テスト光画像に基づいて生成し、
上記補正データ生成ステップでは、上記テスト光画像と上記テスト光との特性差と、上記推定テスト光画像と上記テスト光との特性差と、に基づいて、上記補正データを生成する投影装置の制御方法。
(18)
(16)記載の投影装置の制御方法であって、
上記テスト光画像取得ステップでは、上記領域設定ステップにより設定された上記領域を含む上記エリアの属する上記グループにおけるそのエリア以外の上記エリアに上記テスト光が投影された状態のそのエリアの撮像画像である推定テスト光画像を、その領域の上記テスト光画像とし、
上記補正データ生成ステップでは、上記テスト光画像と上記テスト光との特性差と、上記推定テスト光画像と上記テスト光との特性差と、に基づいて上記補正データを生成する投影装置の制御方法。
(19)
(13)から(18)のいずれか1つに記載の投影装置の制御方法であって、
上記投影装置は、上記投影範囲における特定領域の情報を記憶する記憶部を備え、
上記特定領域は、上記特定領域に上記テスト光を投影した場合に、上記テスト光画像にそのテスト光によるゴーストが生じ得る領域であり、
上記領域設定ステップでは、上記特定領域を避けて上記複数の上記領域を設定する投影装置の制御方法。
(20)
(13)から(19)のいずれか1つに記載の投影装置の制御方法であって、
上記領域設定ステップでは、照明装置によって上記投影対象物に照明光を照射させた状態にて、上記領域設定用の上記撮像画像を取得するための上記投影範囲の撮像を上記撮像素子に行わせる投影装置の制御方法。
(21)
(20)記載の投影装置の制御方法であって、
上記照明装置は、上記光学系の光軸の周囲に設けられている投影装置の制御方法。
(22)
(12)から(21)のいずれか1つに記載の投影装置の制御方法であって、
上記テスト光投影制御ステップによる上記領域に対する上記テスト光の投影と、その領域と異なる上記領域に対する上記補正データに基づく補正後の画像の投影と、を並行して行う投影装置の制御方法。
(23)
表示部からの光を投影対象物に投影する光学系と、上記光学系を通して上記光学系による光の投影範囲を撮像する撮像素子と、を有する投影装置の制御プログラムであって、
上記投影範囲に設定された複数の領域の各々を順次選択し、上記選択した上記領域に対してテスト光を上記光学系から投影させるテスト光投影制御ステップと、
上記テスト光が投影された状態にて、上記テスト光が投影された上記領域の撮像画像であるテスト光画像を上記撮像素子から取得するテスト光画像取得ステップと、
上記テスト光画像と、上記テスト光との特性差に基づいて、上記投影対象物に投影すべき画像の色又は輝度の少なくとも一方の補正を行うための補正データを生成する補正データ生成ステップと、
上記補正データに基づいて補正した画像データを上記表示部に入力し、その画像データに基づく画像を投影させる画像投影制御ステップと、をコンピュータに実行させるための投影装置の制御プログラム。
以上、図面を参照しながら各種の実施の形態について説明したが、本発明はかかる例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例又は修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。また、発明の趣旨を逸脱しない範囲において、上記実施の形態における各構成要素を任意に組み合わせてもよい。
なお、本出願は、2018年7月25日出願の特願2018−139789、2019年4月26日出願の特願2019−085614に基づくものであり、その内容は本出願の中に参照として援用される。
本発明によれば、投影面の色に合わせた投影像の補正を行うことのできる投影装置とその制御方法及び制御プログラムを提供することができる。
100 プロジェクタ
100A 本体部
100B 光学ユニット
7a 発光素子
1 表示部
40 光源ユニット
41 光源
42 カラーホイール
43 照明光学系
44 光変調素子
2 投影光学系
3 共通光学系
31、33、34 レンズ群
32 光学部材
PS 位置
SC スクリーン
4 光学部材
5 撮像光学系
6 撮像素子
7 照明装置
8 システム制御部
81 領域設定部
82 テスト光投影制御部
83 テスト光画像取得部
84 補正データ生成部
85 画像投影制御部
P 第一領域
NP 第二領域
AR 投影範囲
IG 撮像画像
T1−T7 検出用領域
A1−A7 分割領域
IM1 補正前の画像データ
IM2 補正後の画像データ
P1−P5、NP エリア
G1−G4 グループ

Claims (23)

  1. 表示部からの光を投影対象物に投影する光学系と、
    前記光学系を通して前記光学系による光の投影範囲を撮像する撮像素子と、
    前記投影範囲に設定された複数の領域の各々を順次選択し、前記選択した前記領域に対してテスト光を前記光学系から投影させるテスト光投影制御部と、
    前記テスト光が投影された状態にて、前記テスト光が投影された前記領域の撮像画像であるテスト光画像を前記撮像素子から取得するテスト光画像取得部と、
    前記テスト光画像と、前記テスト光との特性差に基づいて、前記投影対象物に投影すべき画像の色又は輝度の少なくとも一方の補正を行うための補正データを生成する補正データ生成部と、
    前記補正データに基づいて補正した画像データを前記表示部に入力し、当該画像データに基づく画像を投影させる画像投影制御部と、を備える投影装置。
  2. 請求項1記載の投影装置であって、
    前記光学系から光を投影させない状態にて前記撮像素子により前記投影範囲を撮像させて前記撮像素子から領域設定用の撮像画像を取得し、前記領域設定用の前記撮像画像に基づいて、前記投影範囲に対して前記複数の前記領域を設定する領域設定部を備える投影装置。
  3. 請求項2記載の投影装置であって、
    前記領域設定部は、前記領域設定用の前記撮像画像の特徴量に基づいて前記領域を設定する投影装置。
  4. 請求項3記載の投影装置であって、
    前記領域設定部は、前記特徴量に基づいて前記投影対象物の前記投影範囲における模様を認識し、前記模様にしたがって前記領域を設定する投影装置。
  5. 請求項3又は4記載の投影装置であって、
    前記領域設定部は、前記特徴量に基づいて、前記投影範囲が色又は輝度の異なる複数のエリアを有していることを認識し、前記複数の前記エリアを、前記色又は前記輝度が類似するもの同士でグループ分けし、前記各グループに含まれる1つの前記エリアに前記領域を設定する投影装置。
  6. 請求項5記載の投影装置であって、
    前記テスト光画像取得部は、前記領域設定部により設定された前記領域を含む前記エリアの属する前記グループにおける当該エリア以外の前記エリアに前記テスト光が投影された状態の当該エリアの撮像画像である推定テスト光画像を、当該領域の前記テスト光画像に基づいて生成し、
    前記補正データ生成部は、前記テスト光画像と前記テスト光との特性差と、前記推定テスト光画像と前記テスト光との特性差と、に基づいて、前記補正データを生成する投影装置。
  7. 請求項5記載の投影装置であって、
    前記テスト光画像取得部は、前記領域設定部により設定された前記領域を含む前記エリアの属する前記グループにおける当該エリア以外の前記エリアに前記テスト光が投影された状態の当該エリアの撮像画像である推定テスト光画像を、当該領域の前記テスト光画像とし、
    前記補正データ生成部は、前記テスト光画像と前記テスト光との特性差と、前記推定テスト光画像と前記テスト光との特性差と、に基づいて前記補正データを生成する投影装置。
  8. 請求項2から7のいずれか1項記載の投影装置であって、
    前記投影範囲における特定領域の情報を記憶する記憶部を備え、
    前記特定領域は、前記特定領域に前記テスト光を投影した場合に、前記テスト光画像に当該テスト光によるゴーストが生じ得る領域であり、
    前記領域設定部は、前記特定領域を避けて前記複数の前記領域を設定する投影装置。
  9. 請求項2から8のいずれか1項記載の投影装置であって、
    前記領域設定部は、照明装置によって前記投影対象物に照明光を照射させた状態にて、前記領域設定用の前記撮像画像を取得するための前記投影範囲の撮像を前記撮像素子に行わせる投影装置。
  10. 請求項9記載の投影装置であって、
    前記照明装置は、前記光学系の光軸の周囲に設けられている投影装置。
  11. 請求項1から10のいずれか1項記載の投影装置であって、
    前記テスト光投影制御部による前記領域に対する前記テスト光の投影と、当該領域と異なる前記領域に対する前記補正データに基づく補正後の画像の投影と、を並行して行う投影装置。
  12. 表示部からの光を投影対象物に投影する光学系と、前記光学系を通して前記光学系による光の投影範囲を撮像する撮像素子と、を有する投影装置の制御方法であって、
    前記投影範囲に設定された複数の領域の各々を順次選択し、前記選択した前記領域に対してテスト光を前記光学系から投影させるテスト光投影制御ステップと、
    前記テスト光が投影された状態にて、前記テスト光が投影された前記領域の撮像画像であるテスト光画像を前記撮像素子から取得するテスト光画像取得ステップと、
    前記テスト光画像と、前記テスト光との特性差に基づいて、前記投影対象物に投影すべき画像の色又は輝度の少なくとも一方の補正を行うための補正データを生成する補正データ生成ステップと、
    前記補正データに基づいて補正した画像データを前記表示部に入力し、当該画像データに基づく画像を投影させる画像投影制御ステップと、を備える投影装置の制御方法。
  13. 請求項12記載の投影装置の制御方法であって、
    前記光学系から光を投影させない状態にて前記撮像素子により前記投影範囲を撮像させて前記撮像素子から領域設定用の撮像画像を取得し、前記領域設定用の前記撮像画像に基づいて、前記投影範囲に対して前記複数の領域を設定する領域設定ステップを更に備える投影装置の制御方法。
  14. 請求項13記載の投影装置の制御方法であって、
    前記領域設定ステップでは、前記領域設定用の前記撮像画像の特徴量に基づいて前記領域を設定する投影装置の制御方法。
  15. 請求項14記載の投影装置の制御方法であって、
    前記領域設定ステップでは、前記特徴量に基づいて前記投影対象物の前記投影範囲における模様を認識し、前記模様にしたがって前記領域を設定する投影装置の制御方法。
  16. 請求項14又は15記載の投影装置の制御方法であって、
    前記領域設定ステップでは、前記特徴量に基づいて、前記投影範囲が色又は輝度の異なる複数のエリアを有していることを認識し、前記複数の前記エリアを、前記色又は前記輝度が類似するもの同士でグループ分けし、前記各グループに含まれる1つの前記エリアに前記領域を設定する投影装置の制御方法。
  17. 請求項16記載の投影装置の制御方法であって、
    前記テスト光画像取得ステップでは、前記領域設定ステップにより設定された前記領域を含む前記エリアの属する前記グループにおける当該エリア以外の前記エリアに前記テスト光が投影された状態の当該エリアの撮像画像である推定テスト光画像を、当該領域の前記テスト光画像に基づいて生成し、
    前記補正データ生成ステップでは、前記テスト光画像と前記テスト光との特性差と、前記推定テスト光画像と前記テスト光との特性差と、に基づいて、前記補正データを生成する投影装置の制御方法。
  18. 請求項16記載の投影装置の制御方法であって、
    前記テスト光画像取得ステップでは、前記領域設定ステップにより設定された前記領域を含む前記エリアの属する前記グループにおける当該エリア以外の前記エリアに前記テスト光が投影された状態の当該エリアの撮像画像である推定テスト光画像を、当該領域の前記テスト光画像とし、
    前記補正データ生成ステップでは、前記テスト光画像と前記テスト光との特性差と、前記推定テスト光画像と前記テスト光との特性差と、に基づいて前記補正データを生成する投影装置の制御方法。
  19. 請求項13から18のいずれか1項記載の投影装置の制御方法であって、
    前記投影装置は、前記投影範囲における特定領域の情報を記憶する記憶部を備え、
    前記特定領域は、前記特定領域に前記テスト光を投影した場合に、前記テスト光画像に当該テスト光によるゴーストが生じ得る領域であり、
    前記領域設定ステップでは、前記特定領域を避けて前記複数の前記領域を設定する投影装置の制御方法。
  20. 請求項13から19のいずれか1項記載の投影装置の制御方法であって、
    前記領域設定ステップでは、照明装置によって前記投影対象物に照明光を照射させた状態にて、前記領域設定用の前記撮像画像を取得するための前記投影範囲の撮像を前記撮像素子に行わせる投影装置の制御方法。
  21. 請求項20記載の投影装置の制御方法であって、
    前記照明装置は、前記光学系の光軸の周囲に設けられている投影装置の制御方法。
  22. 請求項12から21のいずれか1項記載の投影装置の制御方法であって、
    前記テスト光投影制御ステップによる前記領域に対する前記テスト光の投影と、当該領域と異なる前記領域に対する前記補正データに基づく補正後の画像の投影と、を並行して行う投影装置の制御方法。
  23. 表示部からの光を投影対象物に投影する光学系と、前記光学系を通して前記光学系による光の投影範囲を撮像する撮像素子と、を有する投影装置の制御プログラムであって、
    前記投影範囲に設定された複数の領域の各々を順次選択し、前記選択した前記領域に対してテスト光を前記光学系から投影させるテスト光投影制御ステップと、
    前記テスト光が投影された状態にて、前記テスト光が投影された前記領域の撮像画像であるテスト光画像を前記撮像素子から取得するテスト光画像取得ステップと、
    前記テスト光画像と、前記テスト光との特性差に基づいて、前記投影対象物に投影すべき画像の色又は輝度の少なくとも一方の補正を行うための補正データを生成する補正データ生成ステップと、
    前記補正データに基づいて補正した画像データを前記表示部に入力し、当該画像データに基づく画像を投影させる画像投影制御ステップと、をコンピュータに実行させるための投影装置の制御プログラム。
JP2020532195A 2018-07-25 2019-06-04 投影装置とその制御方法及び制御プログラム Active JP6903824B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
JP2018139789 2018-07-25
JP2018139789 2018-07-25
JP2019085614 2019-04-26
JP2019085614 2019-04-26
PCT/JP2019/022199 WO2020021868A1 (ja) 2018-07-25 2019-06-04 投影装置とその制御方法及び制御プログラム

Publications (2)

Publication Number Publication Date
JPWO2020021868A1 true JPWO2020021868A1 (ja) 2021-03-11
JP6903824B2 JP6903824B2 (ja) 2021-07-14

Family

ID=69180799

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020532195A Active JP6903824B2 (ja) 2018-07-25 2019-06-04 投影装置とその制御方法及び制御プログラム

Country Status (2)

Country Link
JP (1) JP6903824B2 (ja)
WO (1) WO2020021868A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022138755A (ja) * 2021-03-11 2022-09-26 カシオ計算機株式会社 投影制御装置、空間投影装置、空間投影システム及び空間投影方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002072359A (ja) * 2000-08-29 2002-03-12 Olympus Optical Co Ltd 画像投影表示装置
JP2004158941A (ja) * 2002-11-05 2004-06-03 Seiko Epson Corp 色ムラ補正装置、プロジェクタ、色ムラ補正方法、プログラムおよび記録媒体
JP2011087164A (ja) * 2009-10-16 2011-04-28 Nikon Corp 投影装置および投影像補正プログラム
JP2014096834A (ja) * 2007-06-21 2014-05-22 Nikon Corp 電子機器
JP2015037204A (ja) * 2013-08-12 2015-02-23 キヤノン株式会社 投影装置及びその制御方法
JP2015072602A (ja) * 2013-10-03 2015-04-16 株式会社ニコン 電子制御装置、電子制御方法、及び電子制御プログラム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002072359A (ja) * 2000-08-29 2002-03-12 Olympus Optical Co Ltd 画像投影表示装置
JP2004158941A (ja) * 2002-11-05 2004-06-03 Seiko Epson Corp 色ムラ補正装置、プロジェクタ、色ムラ補正方法、プログラムおよび記録媒体
JP2014096834A (ja) * 2007-06-21 2014-05-22 Nikon Corp 電子機器
JP2011087164A (ja) * 2009-10-16 2011-04-28 Nikon Corp 投影装置および投影像補正プログラム
JP2015037204A (ja) * 2013-08-12 2015-02-23 キヤノン株式会社 投影装置及びその制御方法
JP2015072602A (ja) * 2013-10-03 2015-04-16 株式会社ニコン 電子制御装置、電子制御方法、及び電子制御プログラム

Also Published As

Publication number Publication date
WO2020021868A1 (ja) 2020-01-30
JP6903824B2 (ja) 2021-07-14

Similar Documents

Publication Publication Date Title
KR101640096B1 (ko) 화상 처리 장치, 프로젝터 및, 프로젝터의 제어 방법
US10097773B2 (en) Imaging device for distinguishing foreground and operating method thereof
US8816937B2 (en) Multiprojection display system and screen forming method
JP2012029269A (ja) 撮像装置および投写型映像表示装置
JP7434487B2 (ja) 画像処理装置、投影システム、画像処理方法、及び画像処理プログラム
US20210195152A1 (en) Method for operating control apparatus, and projector
JP6903824B2 (ja) 投影装置とその制御方法及び制御プログラム
US9524696B2 (en) Image projection device
JP2012018214A (ja) 投写型映像表示装置
JP7062751B2 (ja) 投影制御装置、投影装置、投影制御方法、及び投影制御プログラム
JP2008232837A (ja) 欠陥強調・欠陥検出の方法および装置、プログラム
JP7270025B2 (ja) 投影装置とその制御方法及び制御プログラム
US20220132080A1 (en) Control device, projection system, control method, and control program
JPWO2019176594A1 (ja) 投影制御装置、投影装置、投影制御方法、及び投影制御プログラム
CN118044181A (zh) 控制装置、控制方法、控制程序及投影系统
JP2020034741A (ja) プロジェクター、色補正システム、及びプロジェクターの制御方法
JP7347205B2 (ja) 投写システムの制御方法、投写システム及び制御プログラム
JP4133886B2 (ja) プロジェクタ装置及びプロジェクタ装置における色補正方法
JP7138237B2 (ja) 投影システム、投影制御装置、投影制御方法、及び投影制御プログラム
JP7142140B2 (ja) 投影装置とその制御方法及び制御プログラム
JP2009222958A (ja) 色むら補正用データ生成装置、および色むら補正用データ生成方法
JP7101316B2 (ja) 制御装置、投影装置、制御方法、及び制御プログラム
JP3716839B2 (ja) プロジェクタの画像調整装置、および画像表示装置の画像調整方法
JPWO2019176656A1 (ja) 投影制御装置、投影制御方法、投影制御プログラム、投影システム
JP2011185605A (ja) 色シェーディング評価装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201118

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20201118

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20201207

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210216

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210324

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210427

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210526

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210608

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210623

R150 Certificate of patent or registration of utility model

Ref document number: 6903824

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250