JP2017130779A - プロジェクター、撮像装置、及び、撮像画像の補正方法 - Google Patents

プロジェクター、撮像装置、及び、撮像画像の補正方法 Download PDF

Info

Publication number
JP2017130779A
JP2017130779A JP2016008536A JP2016008536A JP2017130779A JP 2017130779 A JP2017130779 A JP 2017130779A JP 2016008536 A JP2016008536 A JP 2016008536A JP 2016008536 A JP2016008536 A JP 2016008536A JP 2017130779 A JP2017130779 A JP 2017130779A
Authority
JP
Japan
Prior art keywords
pixel
captured image
correction value
unit
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016008536A
Other languages
English (en)
Other versions
JP6665543B2 (ja
Inventor
匠 大池
Takumi OIKE
匠 大池
隆史 豊岡
Takashi Toyooka
隆史 豊岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2016008536A priority Critical patent/JP6665543B2/ja
Publication of JP2017130779A publication Critical patent/JP2017130779A/ja
Application granted granted Critical
Publication of JP6665543B2 publication Critical patent/JP6665543B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Studio Devices (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Projection Apparatus (AREA)
  • Video Image Reproduction Devices For Color Tv Systems (AREA)

Abstract

【課題】撮像装置の感度分布を補正する補正値を簡易に算出し、撮像装置を用いた補正の精度を維持する。
【解決手段】撮像部140と、撮像部140により校正用の被写体を撮像した撮像画像データに基づいて、撮像部140の撮像画像データを補正する補正値を算出する補正値算出部173と、表示部110が投射する投射画像を撮像部140で撮像した撮像画像データを、補正値算出部173が算出した補正値を用いて補正する補正処理部174とを備える。補正値算出部173は、撮像画像データにおいて選択される基準画素の画素値と、撮像画像データにおける基準画素とは異なる他の画素の画素値とに基づいて補正値を算出するプロジェクター100。
【選択図】図1

Description

本発明は、プロジェクター、撮像装置、及び、撮像画像の補正方法に関する。
従来、投射部により投射される投射画像を撮像装置で撮像し、撮像された撮像画像を用いて投射画像を補正する技術が知られている(例えば、特許文献1参照)。特許文献1に開示の画像処理システムは、表示手段に表示されたキャリブレーション画像を撮像手段で撮像し、撮像された撮像情報に基づいて画像の色むらを、表示手段の分割された領域ごとに補正する。
投射画像の撮像に使用される撮像装置は、レンズ収差等の影響により、撮像装置の撮像素子が出力する画素値が、撮像素子の位置によって異なるという現象(以下、感度分布という)が生じる。このため撮像装置が撮像した撮像画像データに基づいて、投射対象に投射される画像を補正する場合に、投射された画像の輝度や色度の差を正確に測定することができず、誤差が生じる場合がある。
このような問題に対し、特許文献2の撮像手段の出力値補正方法は、所定光量の入力値に対する出力値を露光時間ごとに算出し、入力値と出力値との差分を撮像手段における感度特性として予め設定しておき、対象を撮像した出力輝度値を感度特性に基づいて補正する。
また、特許文献3のカラー表示装置の測色装置は、スクリーン上の計測対象領域に表示されたパターン内の任意点の色情報を測定する色情報測定手段と、スクリーン上の計測対象領域を撮像する撮像手段と、色情報測定手段により得られたパターンの色情報値と、撮像手段による同パターンの撮像結果との関係から撮像手段の特性補正を行う特性補正値算出手段とを備える。
特開2004−228948号公報 特開2008−102818号公報 特開2002−267574号公報
ところで、撮像装置の感度分布は、レンズ表面にコーティングされた紫外線や、赤外線のカットフィルターの影響を受け、撮像装置が撮像する画像の色によっても異なる。従って、撮像装置の感度分布を補正する補正値は、撮像画像を構成する複数の原色ごとに算出する必要があるため、補正値はできるだけ簡易に算出できるのが望ましい。
本発明は上記事情に鑑みてなされたものであり、撮像装置の感度分布を補正する補正値を簡易に算出し、撮像装置を用いた補正の精度を維持することを目的とする。
上記目的を達成するために本発明のプロジェクターは、撮像部と、前記撮像部により校正用の被写体を撮像した第1の撮像画像に基づいて、前記撮像部の撮像画像を補正する補正値を算出する補正値算出部と、画像を投射する投射部と、前記投射部が投射する投射画像を前記撮像部で撮像した第2の撮像画像を、前記補正値算出部が算出した前記補正値を用いて補正する補正部と、を備え、前記補正値算出部は、前記第1の撮像画像において選択される基準画素の画素値と、前記第1の撮像画像における前記基準画素とは異なる他の画素の画素値とに基づいて前記補正値を算出することを特徴とする。
本発明によれば、補正値算出部が算出する補正値が、第1の撮像画像において選択された基準画素の画素値と、基準画素とは異なる他の画素の画素値とに基づいて算出される。従って、撮像装置の感度分布を補正する補正値を、簡易に算出することができる。また、補正値を用いて撮像装置の感度分布を補正することで、撮像装置により撮像される撮像画像を用いた補正の精度を維持することができる。
また、本発明は、上記プロジェクターにおいて、前記補正値算出部は、前記基準画素の画素値と、前記他の画素の画素値との比に基づいて前記補正値を算出することを特徴とする。
本発明によれば、基準画素の画素値と、他の画素の画素値との比に基づいて補正値が算出される。従って、撮像装置の感度分布を補正する補正値を、簡易に算出することができる。
また、本発明は、上記プロジェクターにおいて、前記補正値算出部は、前記基準画素及び前記他の画素の画素値と、前記基準画素と前記他の画素との撮像画像における画素位置とに基づいて、前記他の画素の画素値の前記基準画素の画素値からの低下率を算出し、算出した低下率を用いて前記補正値を算出することを特徴とする。
本発明によれば、他の画素の画素値の基準画素の画素値からの低下率に基づいて補正値を算出することができる。従って、撮像装置の感度分布を補正する補正値を、簡易に算出することができ、補正値のデータ量を削減することができる。
また、本発明は、上記プロジェクターにおいて、前記撮像部は、均一光源から射出される均一光が投射された投射対象を、前記校正用の被写体として撮像して前記第1の撮像画像を生成し、前記補正値算出部は、前記第1の撮像画像に基づいて前記補正値を算出することを特徴とする。
本発明によれば、均一光を撮像して第1の撮像画像が生成される。従って、撮像装置が撮像する撮像画像データが、撮像装置の感度分布を反映した画像データとなり、撮像装置の感度分布を補正する補正値の補正精度を高めることができる。
また、本発明は、上記プロジェクターにおいて、前記撮像部は、複数の原色で構成される撮像画像を生成し、前記投射部は、複数の色光を変調して生成される画像光を投射し、前記撮像部によって、前記投射部の複数の色光のそれぞれに対応する色の前記均一光が投射された前記投射対象を撮像して、前記複数の色光に対応する複数の前記第1の撮像画像が生成され、前記補正値算出部は、前記複数の色光に対応する複数の前記第1の撮像画像に基づいて、前記撮像部の前記撮像画像を構成する複数の原色の各々に対応した前記補正値を算出することを特徴とする。
本発明によれ、複数の色光に対応する複数の第1の撮像画像に基づいて、撮像部の撮像画像を構成する複数の原色の各々に対応した補正値が算出される。従って、補正値を用いた第2の撮像画像の補正精度を高めることができる。
本発明の撮像装置は、撮像部と、前記撮像部の撮像画像を補正する補正値であって、校正用の被写体を前記撮像部により撮像した第1の撮像画像に基づいて算出された前記補正値を記憶する記憶部と、前記撮像部が撮像した第2の撮像画像を、前記記憶部が記憶する前記補正値を用いて補正する補正部と、を備え、前記補正値は、前記第1の撮像画像において選択される基準画素の画素値と、前記第1の撮像画像における前記基準画素とは異なる他の画素の画素値とに基づいて算出されることを特徴とする。
本発明によれば、補正値算出部が算出する補正値が、第1の撮像画像において選択された基準画素の画素値と、基準画素とは異なる他の画素の画素値とに基づいて算出される。従って、撮像装置の感度分布を補正する補正値を、簡易に算出することができる。また、補正値を用いて撮像装置の感度分布を補正することで、撮像装置により撮像される撮像画像を用いた補正の精度を維持することができる。
本発明の撮像画像の補正方法は、校正用の被写体を撮像部により撮像した第1の撮像画像に基づいて、前記撮像部により撮像される撮像画像を補正する補正値を算出するステップと、投射された投射画像を前記撮像部により撮像した第2の撮像画像を、前記補正値を用いて補正するステップと、を有し、前記補正値を算出するステップは、前記第1の撮像画像において選択される基準画素の画素値と、前記第1の撮像画像における前記基準画素とは異なる他の画素の画素値とに基づいて前記補正値を算出することを特徴とする。
本発明によれば、補正値算出部が算出する補正値が、第1の撮像画像において選択された基準画素の画素値と、基準画素とは異なる他の画素の画素値とに基づいて算出される。従って、撮像装置の感度分布を補正する補正値を、簡易に算出することができる。また、補正値を用いて撮像装置の感度分布を補正することで、撮像装置により撮像される撮像画像を用いた補正の精度を維持することができる。
プロジェクターの構成図。 プロジェクターの動作を示すフローチャート。 撮像画像データの画素値の分布を示す図。
[第1実施形態]
以下、図面を参照して本発明の実施形態について説明する。
図1は、プロジェクター100の構成を示す構成図である。
プロジェクター100は、パーソナルコンピューターや各種映像プレーヤー等の外部の画像供給装置200に接続され、画像供給装置200から供給される画像信号に基づく画像を投射対象に投射する装置である。
画像供給装置200には、ビデオ再生装置、DVD(Digital Versatile Disk)再生装置、テレビチューナー装置、CATV(Cable television)のセットトップボックス、ビデオゲーム装置等の映像出力装置、パーソナルコンピューター等を用いることができる。
また、投射対象は、建物や物体など、一様に平らではない物体であってもよいし、スクリーンSCや、建物の壁面等の平らな投射面を有するものであってもよい。本実施形態では平面のスクリーンSCに投射する場合を例示する。
プロジェクター100は、画像入力インターフェース部(以下、画像入力I/F部と略記する)151を備える。画像入力I/F部151は、ケーブルを接続するコネクター及びインターフェース回路(いずれも図示略)を備え、ケーブルを介して接続された画像供給装置200から供給される画像信号を入力する。画像入力I/F部151は、入力された画像信号を画像データに変換して画像処理部153に出力する。
画像入力I/F部151が備えるインターフェースは、例えば、Ethernet(登録商標)、IEEE1394、USB等のデータ通信用のインターフェースであってもよい。また、画像入力I/F部151のインターフェースは、MHL(登録商標)、HDMI(登録商標)、DisplayPort等の画像データ用のインターフェースであってもよい。
また、画像入力I/F部151は、コネクターとして、アナログ映像信号が入力されるVGA端子や、デジタル映像データが入力されるDVI(Digital Visual Interface)端子を備える構成であってもよい。さらに、画像入力I/F部151は、A/D変換回路を備え、VGA端子を介してアナログ映像信号が入力された場合、A/D変換回路によりアナログ映像信号を画像データに変換し、画像処理部153に出力する。
プロジェクター100は、光学的な画像の形成を行い、スクリーンSCに画像を投射(表示)する表示部110を備える。表示部110は、光源部111、光変調装置112及び投射光学系113を備える。表示部110は、本発明の「投射部」に相当する。
光源部111は、キセノンランプ、超高圧水銀ランプ、LED(Light Emitting Diode)又はレーザー光源等の光源を備える。また、光源部111は、光源が発した光を光変調装置112に導くリフレクター及び補助リフレクターを備えていてもよい。さらに、光源部111は、投射光の光学特性を高めるためのレンズ群、偏光板、又は光源が発した光の光量を光変調装置112に至る経路上で低減させる調光素子等(いずれも図示略)を備えていてもよい。
光源部111は、光源駆動部121により駆動される。光源駆動部121は、内部バス180に接続される。光源駆動部121は、制御部170の制御に従って、光源部111の光源を点灯及び消灯させる。
光変調装置112は、例えば赤色(R)、緑色(G)及び青色(B)の三原色に対応した3枚の液晶パネルを備える。光源部111が発する光はRGBの3色の色光に分離され、対応する液晶パネルに入射される。3枚の液晶パネルは、透過型の液晶パネルであり、透過する光を変調して画像光を生成する。各液晶パネルを通過して変調された画像光は、クロスダイクロイックプリズム等の合成光学系によって合成され、投射光学系113に射出される。
光変調装置112には、光変調装置駆動部122が接続される。光変調装置駆動部122は、内部バス180に接続される。
光変調装置駆動部122は、画像処理部153から入力される表示画像信号(後述する)に基づいてR,G,Bの画像信号を生成する。光変調装置駆動部122は、生成したR,G,Bの画像信号に基づいて、光変調装置112の対応する液晶パネルを駆動し、各液晶パネルに画像光を描画する。
投射光学系113は、光変調装置112により変調された画像光をスクリーンSCに投射して、スクリーンSC上に結像させるレンズ群を備える。また、投射光学系113は、スクリーンSCの投射画像の拡大・縮小及び焦点の調整を行うズーム機構、フォーカスの調整を行うフォーカス調整機構を備えていてもよい。
プロジェクター100は、操作パネル131及び入力処理部133を備える。入力処理部133は、内部バス180に接続される。
ユーザーインターフェースとして機能する操作パネル131には、各種の操作キーや、液晶パネルにて構成された表示画面が表示される。入力処理部133は、操作パネル131に表示された操作キーが操作されると、操作されたキーに対応したデータを制御部170に出力する。また、入力処理部133は、制御部170の制御に従って、操作パネル131に各種画面を表示させる。
また、操作パネル131には、操作パネル131への接触を検出するタッチセンサーが重ね合わされて一体形成される。入力処理部133は、ユーザーの指等が接触した操作パネル131の位置を入力位置として検出し、検出した入力位置に対応したデータを制御部170に出力する。
また、プロジェクター100は、ユーザーが使用するリモコン5から送信される赤外線信号を受光するリモコン受光部132を備える。リモコン受光部132は、入力処理部133に接続される。
リモコン受光部132は、リモコン5から送信される赤外線信号を受光する。入力処理部133は、リモコン受光部132が受光した赤外線信号をデコードして、リモコン5における操作内容を示すデータを生成し、制御部170に出力する。
プロジェクター100は、撮像部140を備える。
撮像部140は、撮像光学系、撮像素子及びインターフェース回路等を有するカメラを備え、制御部170の制御に従って投射光学系113の投射方向を撮像し、撮像画像データを生成する。
撮像部140の撮像範囲、すなわち画角は、スクリーンSCとその周辺部とを含む範囲である。撮像部140は、生成した撮像画像データを制御部170に出力する。
プロジェクター100は、無線通信部145を備える。無線通信部145は、内部バス180に接続される。無線通信部145は、図示しないアンテナやRF(Radio Frequency)回路等を備え、制御部170の制御の下、外部の装置との間で無線通信を実行する。無線通信部145の無線通信方式は、例えば無線LAN(Local Area Network)、Bluetooth(登録商標)、UWB(Ultra Wide Band)、赤外線通信等の近距離無線通信方式、又は携帯電話回線を利用した無線通信方式を採用できる。
プロジェクター100は、画像処理系を備える。画像処理系は、プロジェクター100の全体を統括的に制御する制御部170を中心に構成され、この他に、画像処理部153、フレームメモリー155及び記憶部160を備える。制御部170、画像処理部153及び記憶部160は、内部バス180に接続される。
画像処理部153は、制御部170の制御に従って、画像入力I/F部151から入力される画像データをフレームメモリー155に展開し、展開した画像データに対して画像処理を実行する。画像処理部153が実行する画像処理には、例えば、解像度変換(スケーリング)処理、フレームレート変換処理、形状補正処理、ズーム処理、色調補正処理、輝度補正処理等が含まれる。また、これらのうち複数の処理を組み合わせて実行することも勿論可能である。
解像度変換処理は、画像処理部153が、画像データの解像度を、制御部170により指定された解像度、例えば光変調装置112の液晶パネルの表示解像度に合わせて変換する処理である。
フレームレート変換処理は、画像処理部153が、画像データのフレームレートを、制御部170により指定されたフレームレートに変換する処理である。
形状補正処理は、画像処理部153が、制御部170から入力される補正パラメーターに従って画像データを変換して、スクリーンSCに投射する画像の形状を補正する処理である。
ズーム処理は、リモコン5や操作パネル131の操作によりズームが指示された場合に、画像処理部153が、画像を拡大/縮小する処理である。
色調補正処理は、画像データの色調を変換する処理であり、画像処理部153は、制御部170により指定された色調に合わせて画像データに含まれる各画素のデータを変更する。この処理において、プロジェクター100は、映画鑑賞に適した色調、スクリーンSCが明るい環境に設置された場合に適した色調、黒板などの非白色のスクリーンSCに投射する場合に適した色調等を実現できる。色調補正処理に加え、コントラスト調整等を行ってもよい。
輝度補正処理は、画像処理部153が、画像データの輝度を補正する処理である。輝度補正処理により、画像データの輝度が、光源部111の発光状態やプロジェクター100が設置された環境の明るさ等に対応した輝度に補正される。
画像処理部153が実行する上記の処理の内容、パラメーター、及び処理の開始、終了のタイミングは制御部170により制御される。
画像処理部153は、処理後の画像データをフレームメモリー155から読み出し、表示画像信号として光変調装置駆動部122に出力する。
記憶部160は、フラッシュメモリー、EEPROM等の不揮発性のメモリーにより構成される。記憶部160は、制御部170が処理するデータや制御部170が実行する制御プログラムを不揮発的に記憶する。また、記憶部160は、画像処理部153が実行する各種処理の設定値や、制御部170が参照するテーブルを記憶する。
また、記憶部160は、制御部170により生成された補正値を記憶する。この補正値は、撮像部140により撮像された撮像画像データを補正する補正値である。補正値の詳細については後述する。
さらに、記憶部160は、補正値の算出の際にスクリーンSC等の投射対象に投射されるキャリブレーション画像データを記憶する。キャリブレーション画像データには、例えば、R,G,B単色のラスター画像データを用いることができる。
制御部170は、CPU、ROM及びRAM(いずれも図示略)等のハードウェアを備える。ROMは、フラッシュROM等の不揮発性の記憶装置であり、制御プログラムやデータを格納する。RAMは、CPUのワークエリアを構成する。CPUは、ROMや記憶部160から読み出した制御プログラムをRAMに展開し、RAMに展開された制御プログラムを実行してプロジェクター100の各部を制御する。
また、制御部170は、機能ブロックとして、投射制御部171と、撮像制御部172と、補正値算出部173とを備える。これらの機能ブロックは、ROMや記憶部160に記憶された制御プログラムをCPUが実行することで実現される。
投射制御部171は、表示部110における画像の表示態様を調整し、スクリーンSCへの画像の投射を実行する。
具体的には、投射制御部171は、画像処理部153を制御して、画像入力I/F部151により変換された画像データに対する画像処理を実施させる。この際、投射制御部171は、画像処理部153が処理に必要なパラメーターを記憶部160から読み出して、画像処理部153に出力してもよい。
また、投射制御部171は、光源駆動部121を制御して光源部111の光源を点灯させ、光源の輝度を調整させる。これにより、光源が発光し、光変調装置112が変調する画像光が投射光学系113によりスクリーンSCに投射される。
撮像制御部172は、撮像部140に撮像を実行させ、撮像部140が生成した撮像画像データを取得する。撮像制御部172は、取得した撮像画像データを補正値算出部173に出力する。
補正値算出部173は、撮像部140により撮像される撮像画像データを補正する補正値を生成する。
補正値算出部173が生成する補正値は、撮像部140の感度分布の補正に用いられる。撮像部140は、レンズ収差等の影響により、撮像部140の撮像素子が出力する画素値が、撮像素子の位置によって異なるという感度分布が生じる。この感度分布は、特に、撮像画素の中心部よりも周辺部において、撮像画素から出力される画素値が低下する。このため、撮像部140が撮像した撮像画像データに基づいて投射対象に投射される画像を補正する場合に、投射された画像の輝度や色度の差を正確に測定することができず、誤差が生じる場合がある。また、撮像部140の感度分布は、レンズ表面にコーティングされた紫外線や、赤外線のカットフィルターの影響を受け、撮像部140が撮像する画像の色によっても異なる。従って、撮像部140の感度分布を補正する補正値は、撮像画像データを構成する複数の原色ごとに算出する必要がある。
そこで、本実施形態では、補正値算出部173が、投射制御部171及び撮像制御部172を制御してキャリブレーションを実行し、撮像部140が生成する撮像画像データの画素値を補正する補正値を生成する。
キャリブレーションが開始されると、補正値算出部173は、投射制御部171を制御して、スクリーンSC等の投射対象にキャリブレーション画像(校正用の被写体)を投射させる。このキャリブレーション画像は、記憶部160に記憶されたキャリブレーション画像データに基づく画像であり、R,G,Bの単色のラスター画像である。
補正値算出部173は、キャリブレーション画像がスクリーンSCに投射されると、撮像制御部172に撮像を実行させ、キャリブレーション画像を撮像した撮像画像データ(第1の撮像画像)を生成する。補正値算出部173は、生成された撮像画像データに基づいて、撮像部140の撮像画像データを補正する補正値を生成する。補正値算出部173は、生成した補正値を記憶部160に記憶させる。
補正処理部174は、撮像制御部172により生成された撮像画像データを、補正値算出部173により生成された補正値を用いて補正する。補正処理部174は、本発明の「補正部」に相当する。
撮像部140、記憶部160及び制御部170は、撮像装置300を構成する。また、撮像装置300として撮像部140、記憶部160及び制御部170以外の他の構成を備えていてもよい。
図2は、制御部170の動作を示すフローチャートである。
制御部170は、入力処理部133からの入力を監視し、キャリブレーションの実行指示が入力されたか否かを判定する(ステップS1)。入力処理部133は、操作パネル131又はリモコン5に設けられたスイッチやボタンが押下されると、押下されたスイッチ又はボタンに対応した操作信号を制御部170に出力する。
制御部170は、入力処理部133から入力される操作信号に基づいて、キャリブレーションの実行指示が入力されたか否かを判定する。
制御部170は、キャリブレーションの実行指示が入力されていないと判定した場合(ステップS1/NO)、入力処理部133から入力された操作信号に対応した処理を実行して、ステップS1の判定に戻る。
また、キャリブレーションの実行指示が入力された場合(ステップS1/YES)、補正値算出部173が、投射制御部171にキャリブレーション画像のスクリーンSCへの投射を指示する。
投射制御部171は、スクリーンSCに投射するキャリブレーション画像の色を選択する。次に、投射制御部171は、選択した色のキャリブレーション画像データを記憶部160から読み出し、画像処理部153に出力する。画像処理部153は、入力されるキャリブレーション画像データをフレームメモリー155に展開し、展開したキャリブレーション画像に基づいて表示画像信号を生成する。画像処理部153は、生成した表示画像信号を表示部110に出力する。
表示部110は、画像処理部153から入力される表示画像信号に基づく画像光を生成する。表示部110により生成された画像光は、投射光学系113により投射され、プロジェクター100の前面に配置された積分球(図示略)に入射される。積分球は、本発明の「均一光源」に相当する。
積分球は、内面に拡散反射面が形成され、入射された投射光を拡散反射面で繰り返し拡散反射して、輝度及び色度が均一化された投射光を生成する(ステップS2)。積分球により輝度及び色度が均一化された投射光は、積分球から出射され、投射対象であるスクリーンSCに投射される(ステップS2)。
次に、補正値算出部173は、撮像制御部172に撮像画像データの生成を指示する。撮像制御部172は、撮像部140を制御して、投射対象に投射された投射画像を撮像し、撮像画像データを生成する(ステップS3)。撮像制御部172は、生成した撮像画像データを記憶部160に記憶させる。
次に、補正値算出部173は、R,G,Bの各色に対応した撮像画像データを生成したか否かを判定する(ステップS4)。すなわち、補正値算出部173は、R,G,Bの各色に対応したキャリブレーション画像をスクリーンSCに投射し、撮像部140で撮像して撮像画像データを生成したか否かを判定する。
R,G,Bの各色に対応した撮像画像データを生成していないと判定した場合(ステップS4/NO)、補正値算出部173は、ステップS2及びS3の処理を繰り返し行って撮像画像データを生成する。R,G,Bの各色に対応した撮像画像データを生成したと判定した場合(ステップS4/YES)、補正値算出部173は、撮像画像データに基づいて補正値を算出する(ステップS5)。
まず、補正値算出部173は、R,G,Bの撮像画像データからいずれか1つを選択し、選択した撮像画像データを読み出す。以下では、Rのキャリブレーション画像を撮像した撮像画像データを撮像画像データ(R)と表記し、Gのキャリブレーション画像を撮像した撮像画像データを撮像画像データ(G)と表記する。また、Bのキャリブレーション画像を撮像した撮像画像データを撮像画像データ(B)と表記する。以下では、撮像画像データ(R)が選択された場合について説明する。
補正値算出部173は、まず、選択した撮像画像データ(R)の中心に位置する画素(以下、中心画素という)を基準画素として選択する。補正値算出部173は、選択した中心画素のR,G,Bの色ごとの画素値を取得する。画素値は、画素のR,G,Bの色ごとの輝度を示す値である。また、以下では、Rの画素値をR値、Gの画素値をG値、Bの画素値をB値と表記する。次に、補正値算出部173は、撮像画像データ(R)を構成する画素から処理の対象となる画素(以下、処理画素という)を選択し、選択した処理画素のR,G,Bの色ごとの画素値を取得する。処理画素は、基準画素として選択した中心画素とは異なる画素である。
処理画素の画素値を取得すると、補正値算出部173は、中心画素の画素値と、処理画素の画素値とに基づいて補正値を算出する。具体的には、補正値算出部173は、中心画素の画素値と、処理画素の画素値とのR,G,Bの色ごとの比を求める。
補正値算出部173は、撮像画像データ(R)を構成し、中心画素以外のすべての画素を処理画素として選択し、中心画素と処理画素との画素値の比をR,G,Bの色ごとの比を求める。
図3は、撮像画像データの画素値の分布を示す図である。より詳細には、撮像画像データのY軸方向の中心(Yc)を通り、X軸に平行する方向での画素値の分布を示す。撮像画像データの水平方向をX軸方向といい、撮像画像データの垂直方向をY軸方向という。
図3には、中心画素のR,G,B値と、処理画素のR,G,B値とを示す。中心画素のR,G,B値をそれぞれRr(Xc,Yc)、Gr(Xc,Yc)、Br(Xc,Yc)と表記する。また、図3において、処理画素の座標を(X1,Yc)と表記し、処理画素のR,G,B値をそれぞれRr(X1,Yc)、Gr(X1,Yc)、Br(X1,Yc)と表記する。
投射対象には、積分球により輝度及び色度が均一化された画像光が投射され、撮像部140は、輝度及び色度が均一化された画像光を撮像する。従って、撮像部140が撮像する画像光の光量及び波長は、投射対象の領域によらず一定となる。従って、撮像部140が撮像する撮像画像データの画素値は、撮像部140の感度分布を反映させた値となる。
補正値算出部173は、基準画素として選択した中心画素と、処理対象として選択した処理画素との画素値の比をR,G,Bの色成分ごとに算出して、算出した画素値の比を処理画素における補正値とする。
撮像画像データ(R)から選択した処理画素のR,G,B値をRr(X,Y)、Gr(X,Y)、Br(X,Y)と表記し、中心画素のR値と、処理画素のR値との比をKr(R)と表記する。
中心画素のR値と、処理画素のR値との比Kr(R)は、以下の式(1)により表される。
Kr(R)=Rr(Xc,Yc)/Rr(X,Y)・・・(1)
同様に中心画素のG値と、処理画素のG値との比をKr(G)と表記し、中心画素のB値と、処理画素のB値との比をKr(B)と表記すると、Kr(G)及びKr(B)は、以下の式(2)及び(3)により表される。
Kr(G)=Gr(Xc,Yc)/Gr(X,Y)・・・(2)
Kr(B)=Br(Xc,Yc)/Br(X,Y)・・・(3)
補正値算出部173は、選択していない他の撮像画像データ(G)、撮像画像データ(B)についても同様に補正値を算出する。撮像画像データ(G)から算出される補正値を以下の式(4)〜(6)に示し、撮像画像データ(b)から算出される補正値を以下の式(7)〜(9)に示す。
Kg(R)=Rg(Xc,Yc)/Rg(X,Y)・・・(4)
Kg(G)=Gg(Xc,Yc)/Gg(X,Y)・・・(5)
Kg(B)=Bg(Xc,Yc)/Bg(X,Y)・・・(6)
Kb(R)=Rb(Xc,Yc)/Rb(X,Y)・・・(7)
Kb(G)=Gb(Xc,Yc)/Gb(X,Y)・・・(8)
Kb(B)=Bb(Xc,Yc)/Bb(X,Y)・・・(9)
補正値算出部173は、すべての撮像画像データ(R),(G),(B)で補正値を算出すると、算出した補正値を記憶部160に記憶させる(ステップS6)。
上述の説明では、撮像画像データを構成するすべての画素で補正値を算出する場合を説明したが、撮像画像データを構成するすべての画素で補正値を算出しなくもてよい。
例えば、撮像画像データを構成する画素から、処理画素を所定画素の間隔で選択して補正値を算出してもよい。補正値を算出していない画素については、隣接する画素の補正値に基づく線形補間により、補正値を算出してもよい。
例えば、撮像部140が生成する撮像画像データの解像度がフルHD(1920×1080)であった場合、撮像画像データの1画素につき9個(3×3)の補正値を持つことになるが、所定画素ごとに補正値を算出することで、キャリブレーション値として記憶部160に記憶させるデータ量を削減することができる。
また、上述した説明では、基準画素として撮像画像データの中心に位置する中心画素を選択したが、基準画素は中心画素に限定されるものではない。また、例えば、基準画素として複数の画素を選択してもよい。例えば、撮像画像データを複数の領域に分割し、分割した各領域の中心画素を基準画素として選択してもよい。
補正処理部174は、リモコン5又は操作パネル131が操作され、スクリーンSCに投射された投射画像の画質を補正する画質補正の指示が入力されると、撮像制御部172に、撮像画像データの生成を指示する。撮像制御部172は、撮像部140を制御して、スクリーンSCに投射された投射画像を撮像し、撮像画像データ(第2の撮像画像)を生成する。撮像制御部172は、生成した撮像画像データを補正処理部174に出力する。
補正処理部174は、撮像制御部172から撮像画像データが入力されると、記憶部160から補正値を読み出して、入力された撮像画像データを構成する各画素の画素値を補正する。
補正処理部174は、撮像画像データを構成する画素のR値を、上述した式(1)に示すKr(R)と、式(4)に示すKg(R)と、式(7)に示すKb(R)とを用いて補正する。同様に、補正処理部174は、撮像画像データを構成する画素のG値を、上述した式(2)に示すKr(G)と、式(5)に示すKg(G)と、式(8)に示すKb(G)とを用いて補正する。また、補正処理部174は、撮像画像データを構成する画素のB値を、上述した式(3)に示すKr(B)と、式(6)に示すKg(B)と、式(9)に示すKb(B)とを用いて補正する。
補正処理部174により補正された撮像画像データは、制御部170の他の機能ブロック(図示略)に入力され、撮像画像データの輝度や色度が画素単位、又は所定サイズの領域ごとに算出される。そして制御部170は、算出した撮像画像データの輝度や色度に基づいて、画像処理部153が補正に使用するパラメーターを選択し、画像処理部153に出力する。
以上説明したように本発明のプロジェクター及び撮像画像の補正方法を適用した第1実施形態は、補正値算出部173が、撮像部140により校正用の被写体としてのキャリブレーション画像を撮像した撮像画像データに基づいて、撮像部140の撮像画像データを補正する補正値を算出する。また、補正値算出部173は、キャリブレーション画像を撮像した撮像画像データにおいて選択される基準画素の画素値と、撮像画像データにおける基準画素とは異なる他の処理画素の画素値とに基づいて補正値を算出する。従って、撮像部140の感度分布を補正する補正値を、簡易に算出することができる。
プロジェクター100は、表示部110が投射する投射画像を撮像部140で撮像した撮像画像データを、補正値算出部173が算出した補正値を用いて補正する補正処理部174を備える。撮像部140により撮像される撮像画像を用いた補正の精度を維持することができる。
また、補正値算出部173は、基準画素の画素値と、処理画素の画素値との比に基づいて補正値を算出する。従って、撮像部140の感度分布を補正する補正値を、簡易に算出することができる。
また、撮像部140は、均一光源としての積分球から射出される均一光が投射された投射対象を撮像して撮像画像データを生成する。補正値算出部173は、撮像された撮像画像データに基づいて補正値を算出する。従って、撮像部140が撮像する撮像画像データが、撮像部140の感度分布を反映した画像データとなり、撮像部140の感度分布を補正する補正値の補正精度を高めることができる。
また、投射対象に投射されたR,G,Bそれぞれの色光を撮像部140で撮像して撮像画像データ(R)、(G)及び(B)をそれぞれに生成する。生成した撮像画像データ(R)、(G)及び(B)のそれぞれから、撮像画像データを構成するR,G,Bの各々に対応する補正値を算出する。従って、撮像部により撮像される撮像画像データの補正精度を高めることができる。
[第2実施形態]
第2実施形態の構成は、上述した第1実施形態の構成と同一であるため、構成の説明は省略する。
上述した第1実施形態では、撮像画像データから基準画素を選択し、選択した基準画素の画素値と、撮像画像データを構成する各画素の画素値との比を補正値として算出した。
第2実施形態の補正値算出部173は、R,G,Bの色ごとに撮像画像データを生成すると、基準画素と、撮像画像データを構成する処理画素との画素値に基づいて、画素値の低下率(以下、低下率をαと表記する)を算出する。なお、第2実施形態においても、撮像画像データの中心画素を基準画素として選択する場合について説明する。
補正値算出部173は、例えば、中心画素のR,G,B値と、処理画素として選択した各画素のR,G,B値との比をそれぞれに算出して、R,G,Bの色ごとに画素値の低下率αを算出する。低下率αは、例えば、処理画素の画素値を、中心画素の画素値で除算した値である。
次に、補正値算出部173は、算出した低下率αと、中心画素と処理画素との距離(以下、rと表記する)とに基づいて、低下係数(以下、Lと表記する)を算出する。低下係数Lの算出式を以下の式(10)に示す。補正値算出部173は、R,G,Bの色ごとに低下係数Lを算出する。また、距離rは、撮像画像データにおける中心画素及び処理画素の座標に基づいて算出される。
L=α/r・・・(10)
補正値算出部173は、上述した第1実施形態と同様に、撮像画像データ(R)からR,G,Bの色ごとに低下係数Lを算出する。また、補正値算出部173は、他の撮像画像データ(G)及(B)についてもR,G,Bの色ごとに低下係数Lを算出する。すなわち、補正値算出部173は、投射画像の原色数と、撮像画像データの原色数との積である9個の低下係数Lを算出する。
補正値算出部173は、この低下係数Lを撮像画像データの画素ごとに算出してもよいし、所定画素ごとに算出してもよい。補正値算出部173は、算出した低下係数Lを、撮像画像データにおける各画素の座標に対応付けて記憶部160に記憶させる。
補正処理部174は、リモコン5又は操作パネル131が操作され、スクリーンSCに投射された投射画像の画質を補正する画質補正の指示が入力されると、撮像制御部172に、撮像画像データの生成を指示する。撮像制御部172は、撮像部140を制御して、スクリーンSCに投射された投射画像を撮像し、撮像画像データを生成する。撮像制御部172は、生成した撮像画像データを補正処理部174に出力する。
補正処理部174は、撮像制御部172から撮像画像データが入力されると、入力された撮像画像データを構成する各画素の画素値を補正する補正値を算出する。
まず、補正処理部174は、撮像画像データを構成する画素の中から処理対象となる画素を選択する。選択された画素を選択画素という。
補正処理部174は、撮像画像データにおける中心画素と選択画素との座標に基づいて、中心画素と選択画素との距離rを算出する。補正値算出部173は、上述した式(10)に、算出した距離rと、記憶部160から読み出した選択画素の低下係数Lとを代入し、選択画素における低下率αを算出する。補正値算出部173は、算出した低下率αの逆数(1/α)を、補正値として算出する。
補正処理部174により補正された撮像画像データは、制御部170の他の機能ブロック(図示略)に入力され、撮像画像データの輝度や色度が画素単位、又は所定サイズの領域ごとに算出される。そして制御部170は、算出した撮像画像データの輝度や色度に基づいて、画像処理部153が補正に使用するパラメーターを選択し、画像処理部153に出力する。
以上説明したように第2実施形態の補正値算出部173は、中心画素及び処理画素の画素値と、中心画素と処理画素との撮像画像における画素位置とに基づいて、処理画素の画素値の中心画素の画素値からの低下率αを算出する。補正値算出部173は、算出した低下率αを用いて補正値を算出する。従って、撮像部140の感度分布を補正する補正値を、簡易に算出することができ、補正値のデータ量を削減することができる。
上述した第1及び第2実施形態は、本発明の好適な実施の形態である。ただし、上述した第1及び第2実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形実施が可能である。
例えば、上述した第1及び第2実施形態では、撮像装置300として、プロジェクター100内に搭載された撮像装置を例に説明したが、撮像装置300は、プロジェクター100に搭載されている必要はなく、プロジェクター100とは別個の装置として構成することもできる。
また、上述した第1及び第2実施形態は、校正用の被写体として、表示部110が投射対象に投射したキャリブレーション画像を例に説明したが、校正用の被写体は、キャリブレーション画像に限定されない。例えば、スクリーンSCや部屋の壁を校正用の被写体として撮像し、撮像画像データを生成してもよい。
また、上述した第1及び第2実施形態では、1台のプロジェクター100によりキャリブレーション画像の投射と、撮像画像データの生成とを行ったが、キャリブレーション画像の投射を別のプロジェクター100により行ってもよい。
この場合、キャリブレーション画像を投射するプロジェクター100が備える光源を、撮像画像データを生成するプロジェクター100が備える光源に一致させる必要がある。すなわち、光源から射出される光のスペクトルを、撮像画像データを生成するプロジェクター100が備える光源と同一にする必要がある。光源から射出される光のスペクトルが同一でないと、投射光学系113のレンズによるレンズ収差によって生じる誤差が一致しないからである。また、キャリブレーション画像を投射するプロジェクター100が備える投射レンズを、撮像画像データを生成するプロジェクター100が備える投射レンズに一致させる必要がある。投射光学系113のレンズによるレンズ収差を一致させるためである。
また、上述した第1及び第2実施形態では、光源が発した光を変調する光変調装置112として、RGBの各色に対応した3枚の透過型の液晶パネルを用いた構成を例に挙げて説明したが、本発明はこれに限定されるものではない。例えば、3枚の反射型液晶パネルを用いた構成としてもよいし、1枚の液晶パネルとカラーホイールを組み合わせた方式を用いてもよい。或いは、3枚のデジタルミラーデバイス(DMD)を用いた方式、1枚のデジタルミラーデバイスとカラーホイールを組み合わせたDMD方式等により構成してもよい。光変調装置として1枚のみの液晶パネルまたはDMDを用いる場合には、クロスダイクロイックプリズム等の合成光学系に相当する部材は不要である。また、液晶パネルおよびDMD以外にも、光源が発した光を変調可能な光変調装置であれば問題なく採用できる。
また、上述した第1及び第2実施形態では、プロジェクター100として、スクリーンSCの前方から投射するフロントプロジェクション型のプロジェクター100を示したが、本発明はこれに限定されない。
また、図1に示した各機能部は機能的構成を示すものであって、具体的な実装形態は特に制限されない。つまり、必ずしも各機能部に個別に対応するハードウェアが実装される必要はなく、一つのプロセッサーがプログラムを実行することで複数の機能部の機能を実現する構成とすることも勿論可能である。また、上記実施形態においてソフトウェアで実現される機能の一部をハードウェアで実現してもよく、あるいは、ハードウェアで実現される機能の一部をソフトウェアで実現してもよい。その他、プロジェクター100の他の各部の具体的な細部構成についても、本発明の趣旨を逸脱しない範囲で任意に変更可能である。
5…リモコン、100…プロジェクター、110…表示部、111…光源部、112…光変調装置、113…投射光学系、121…光源駆動部、122…光変調装置駆動、131…操作パネル、132…リモコン受光部、133…入力処理部、140…撮像部、145…無線通信部、151…画像入力I/F部、153…画像処理部、155…フレームメモリー、160…記憶部、170…制御部、171…投射制御部、172…撮像制御部、173…補正値算出部、174…補正処理部(補正部)、180…内部バス、200…画像供給装置、300…撮像装置、SC…スクリーン。

Claims (7)

  1. 撮像部と、
    前記撮像部により校正用の被写体を撮像した第1の撮像画像に基づいて、前記撮像部の撮像画像を補正する補正値を算出する補正値算出部と、
    画像を投射する投射部と、
    前記投射部が投射する投射画像を前記撮像部で撮像した第2の撮像画像を、前記補正値算出部が算出した前記補正値を用いて補正する補正部と、を備え、
    前記補正値算出部は、前記第1の撮像画像において選択される基準画素の画素値と、前記第1の撮像画像における前記基準画素とは異なる他の画素の画素値とに基づいて前記補正値を算出する、ことを特徴とするプロジェクター。
  2. 前記補正値算出部は、前記基準画素の画素値と、前記他の画素の画素値との比に基づいて前記補正値を算出する、ことを特徴とする請求項1記載のプロジェクター。
  3. 前記補正値算出部は、前記基準画素及び前記他の画素の画素値と、前記基準画素と前記他の画素との撮像画像における画素位置とに基づいて、前記他の画素の画素値の前記基準画素の画素値からの低下率を算出し、算出した低下率を用いて前記補正値を算出する、ことを特徴とする請求項1記載のプロジェクター。
  4. 前記撮像部は、均一光源から射出される均一光が投射された投射対象を、前記校正用の被写体として撮像して前記第1の撮像画像を生成し、
    前記補正値算出部は、前記第1の撮像画像に基づいて前記補正値を算出する、ことを特徴とする請求項1から3のいずれかに記載のプロジェクター。
  5. 前記撮像部は、複数の原色で構成される撮像画像を生成し、
    前記投射部は、複数の色光を変調して生成される画像光を投射し、
    前記撮像部によって、前記投射部の複数の色光のそれぞれに対応する色の前記均一光が投射された前記投射対象を撮像して、前記複数の色光に対応する複数の前記第1の撮像画像が生成され、
    前記補正値算出部は、前記複数の色光に対応する複数の前記第1の撮像画像に基づいて、前記撮像部の前記撮像画像を構成する複数の原色の各々に対応した前記補正値を算出する、ことを特徴とする請求項4記載のプロジェクター。
  6. 撮像部と、
    前記撮像部の撮像画像を補正する補正値であって、校正用の被写体を前記撮像部により撮像した第1の撮像画像に基づいて算出された前記補正値を記憶する記憶部と、
    前記撮像部が撮像した第2の撮像画像を、前記記憶部が記憶する前記補正値を用いて補正する補正部と、を備え、
    前記補正値は、前記第1の撮像画像において選択される基準画素の画素値と、前記第1の撮像画像における前記基準画素とは異なる他の画素の画素値とに基づいて算出される、ことを特徴とする撮像装置。
  7. 校正用の被写体を撮像部により撮像した第1の撮像画像に基づいて、前記撮像部により撮像される撮像画像を補正する補正値を算出するステップと、
    投射された投射画像を前記撮像部により撮像した第2の撮像画像を、前記補正値を用いて補正するステップと、を有し、
    前記補正値を算出するステップは、前記第1の撮像画像において選択される基準画素の画素値と、前記第1の撮像画像における前記基準画素とは異なる他の画素の画素値とに基づいて前記補正値を算出する、ことを特徴とする撮像画像の補正方法。
JP2016008536A 2016-01-20 2016-01-20 プロジェクター、及び、撮像画像の補正方法 Active JP6665543B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016008536A JP6665543B2 (ja) 2016-01-20 2016-01-20 プロジェクター、及び、撮像画像の補正方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016008536A JP6665543B2 (ja) 2016-01-20 2016-01-20 プロジェクター、及び、撮像画像の補正方法

Publications (2)

Publication Number Publication Date
JP2017130779A true JP2017130779A (ja) 2017-07-27
JP6665543B2 JP6665543B2 (ja) 2020-03-13

Family

ID=59395820

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016008536A Active JP6665543B2 (ja) 2016-01-20 2016-01-20 プロジェクター、及び、撮像画像の補正方法

Country Status (1)

Country Link
JP (1) JP6665543B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10616541B2 (en) 2017-10-20 2020-04-07 Seiko Epson Corporation Image projection system, projector, and method for controlling image projection system
CN115278184A (zh) * 2022-07-18 2022-11-01 峰米(重庆)创新科技有限公司 投影画面校正方法及装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10616541B2 (en) 2017-10-20 2020-04-07 Seiko Epson Corporation Image projection system, projector, and method for controlling image projection system
CN115278184A (zh) * 2022-07-18 2022-11-01 峰米(重庆)创新科技有限公司 投影画面校正方法及装置
CN115278184B (zh) * 2022-07-18 2024-03-15 峰米(重庆)创新科技有限公司 投影画面校正方法及装置

Also Published As

Publication number Publication date
JP6665543B2 (ja) 2020-03-13

Similar Documents

Publication Publication Date Title
US10341626B2 (en) Image projection system, projector, and control method for image projection system
US10681319B2 (en) Image projection system, projector, and method for controlling image projection system
JP6657987B2 (ja) プロジェクター、及び、プロジェクターの制御方法
US10638103B2 (en) Image projection apparatus, control method of the image projection apparatus, and storage medium
US10431131B2 (en) Projector and control method for projector
JP6047968B2 (ja) プロジェクター、及び、プロジェクターにおける発光制御方法
JP6365079B2 (ja) プロジェクターおよびプロジェクターの調整方法
US11323673B2 (en) Method for operating control apparatus, and projector
US11303862B2 (en) Projector, display system, image correction method, and colorimetric method
US20190066552A1 (en) Projector and control method of projector
JP6707871B2 (ja) 画質補正方法、及び、画像投射システム
JP2009159372A (ja) マルチプロジェクタシステム及び画像調整方法
JP2009159371A (ja) 画像調整装置、画像表示システム及び画像調整方法
JP6665543B2 (ja) プロジェクター、及び、撮像画像の補正方法
JP2010085563A (ja) 画像調整装置、画像表示システム及び画像調整方法
JP2017129704A (ja) 表示装置、プロジェクター、及び、表示装置の制御方法
JP2009231853A (ja) 画像調整装置、画像表示システム及び画像調整方法
JP2018032922A (ja) プロジェクター装置およびプロジェクター装置の制御方法
JP2017010057A (ja) プロジェクター、及び、プロジェクターにおける発光制御方法
US20170289507A1 (en) Display apparatus, image processing apparatus, and display method
JP2018032923A (ja) プロジェクター装置およびプロジェクター装置の制御方法
JP6866915B2 (ja) 画像投射システム、及び画像投射システムの制御方法
JP2017183868A (ja) 表示装置、及び、表示装置の制御方法
JP2017129745A (ja) プロジェクター、及び、プロジェクターの制御方法
JP2016184849A (ja) プロジェクター、プロジェクションシステム、及び、プロジェクターの制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181212

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190822

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190910

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191111

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200121

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200203

R150 Certificate of patent or registration of utility model

Ref document number: 6665543

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150