JPWO2019187510A1 - 情報処理装置、情報処理方法、プログラム - Google Patents

情報処理装置、情報処理方法、プログラム Download PDF

Info

Publication number
JPWO2019187510A1
JPWO2019187510A1 JP2020509695A JP2020509695A JPWO2019187510A1 JP WO2019187510 A1 JPWO2019187510 A1 JP WO2019187510A1 JP 2020509695 A JP2020509695 A JP 2020509695A JP 2020509695 A JP2020509695 A JP 2020509695A JP WO2019187510 A1 JPWO2019187510 A1 JP WO2019187510A1
Authority
JP
Japan
Prior art keywords
information
interpolation
processing
image
test pattern
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020509695A
Other languages
English (en)
Other versions
JP7342856B2 (ja
Inventor
紀晃 高橋
紀晃 高橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPWO2019187510A1 publication Critical patent/JPWO2019187510A1/ja
Application granted granted Critical
Publication of JP7342856B2 publication Critical patent/JP7342856B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3191Testing thereof
    • H04N9/3194Testing thereof including sensor feedback
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4007Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • H04N9/3182Colour adjustment, e.g. white balance, shading or gamut
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • H04N9/3185Geometric adjustment, e.g. keystone or convergence
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3191Testing thereof

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Geometry (AREA)
  • Computer Hardware Design (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Projection Apparatus (AREA)
  • Transforming Electric Information Into Light Information (AREA)

Abstract

撮像の際のアーティファクトにより投影画像のセンシング精度が悪化する。そこで撮像画像の現像を行う情報処理装置は、投影装置が投影するテストパターンに応じた補間方向情報を用いて補間処理を行う。即ちテストパターンの投影画像を撮像した画像信号に対して、取得した補間方向情報に応じた補間方向での画素情報の補間処理を行うようにする。これによりアーティファクトを抑え、センシング精度を向上させる。

Description

本技術は情報処理装置、情報処理方法、プログラムに関し、特に投影装置のキャリブレーションのためにおこなう投影画像の撮像・現像についての技術分野に関する。
液晶プロジェクタ等の投影装置により投影されたスクリーン上の画像を撮像装置(カメラ)で撮像し、その撮像された画像に基づいて投影装置のキャリブレーションを行う場合がある。
下記特許文献1には、投影画像の色ずれ量の検出のためにカメラで投影画像を撮像することが記載されている。
特開平6−6816号公報
ところで、投影装置のキャリブレーション、例えば幾何補正等のために、投影画像における各画素の識別情報(例えば水平垂直方向の画素ナンバ)を撮像画像上で得たい場合がある。即ちスクリーン上の投影画像の各画素についての撮像された画像データ上の位置(対応点)を判定したい。
このために、所定のテストパターンを投影し、これを撮像・現像することで得られた撮像画像から、投影画像の画素位置を検出することがおこなわれる。
ところが撮像の際の現像処理における補間処理によりアーティファクト(画像処理過程で発生するデータ誤りや信号歪み)が生じる場合がある。
通常、補間処理では撮像された画像から補間方向を検波し、適応的に補間方向を選択して補間処理を行う。補間を行うことで解像度の維持又は高解像度化ができるため、補間処理は高精細な画像撮像に適している。しかし補間方向の検波を誤るとアーティファクトが生じてしまう。例えば高周波のパターン画像などは方向検波に失敗しやすい。
このアーティファクトにより撮像画像の精度、即ち投影画像の画素位置の検出精度が悪化してしまい、精度のよいキャリブレーションの障害となることがある。
そこで本技術は投影画像を撮像する際に、適切な補間処理が行われるようにし、もって投影画像の画素位置の検出精度を向上させることを目的とする。
本技術に係る情報処理装置は、投影装置によって投影されるテストパターンの投影画像を撮像した画像信号に対して、前記テストパターンに応じた補間方向情報に基づいた補間方向での画素情報の補間処理を行う補間処理部を備える。
このような本技術は、液晶プロジェクタ等の投影装置のキャリブレーションのためにテストパターンを投影し、それを撮像装置で撮像して、撮像画像上で投影画像の画素の対応点を検出する場合を想定している。撮像された画像信号は現像処理において補間処理が行われる。このときに個々のテストパターンに応じた補間方向で補間処理が行われるようにする。
上記した本技術に係る情報処理装置においては、前記テストパターンは複数用意され、各テストパターンは複数のテストパターンを撮像した画像から投影画像の各画素の識別情報をデコード可能なパターン画像とされ、前記投影装置は前記複数のテストパターンを順次投影させるものとされる場合に、前記補間処理部は、前記投影装置が前記複数のテストパターンのそれぞれを投影させる際に、当該投影対象のテストパターンに応じた前記補間方向情報に基づいた補間方向での画素情報の補間処理を行うことが考えられる。
テストパターンは、複数枚のセットで、その撮像画像から投影画像の各画素の識別情報(例えば画素の水平・垂直方向のナンバ)を表現できるパターン画像とする。この場合、投影装置は各テストパターンを順次投影し、それを撮像(センシング)していくことになるが、情報処理装置は、各テストパターンの撮像の際にそれぞれに応じた補間方向情報に基づいて補間処理を行う。
上記した本技術に係る情報処理装置においては、前記補間処理部が補間処理を行った前記複数のテストパターンに対応する画像信号を用いて、投影画像における各画素の識別情報をデコードする撮像画像デコード部を備えることが考えられる。
テストパターンが、複数枚のセットでそれらの撮像画像から投影画像の各画素位置を表現できるパターン画像である場合、その複数枚の撮像画像(現像した画像信号)を用いて各画素の識別情報を求める。
上記した本技術に係る情報処理装置においては、前記補間方向情報は、画素の相関性のある方向が水平方向であるか垂直方向であるかを示す情報であることが考えられる。
テストパターンは、例えば水平方向にストライプ状となったパターン画像や、垂直方向にストライプ状となったパターン画像を想定する。この場合、画素の信号値の相関性のある方向(相関方向)は、水平方向にストライプ状となったパターン画像の場合は水平方向で、垂直方向にストライプ状となったパターン画像の場合は垂直方向である。補間方向情報はこのような相関方向を示す情報とする。
上記した本技術に係る情報処理装置においては、前記補間処理部は、前記補間方向情報により垂直方向が示された場合は垂直方向の画素を用いた垂直補間処理を行い、前記補間方向情報により水平方向が示された場合は水平方向の画素を用いた水平補間処理を行うことが考えられる。
つまり画素の相関性のある方向が垂直方向か水平方向かを認識して、それに応じて垂直補間処理又は水平補間処理を行う。
上記した本技術に係る情報処理装置においては、前記補間方向情報に応じた補間方向で、ノイズリダクションのための平滑化処理を行う現像部を備えることが考えられる。
ノイズリダクションのための平滑化に関しても、画素の相関性のある方向の画素間で行うようにすることで、情報のつぶれが生じないようにすることができる。
上記した本技術に係る情報処理装置においては、前記投影装置が投影するテストパターンに応じた前記補間方向情報を取得する情報取得部を備えることが考えられる。
これにより補間処理部がテストパターンに応じた補間情報を取得できるようにする。
上記した本技術に係る情報処理装置においては、前記情報取得部は、前記投影装置との通信により送信されてきた前記補間方向情報を取得することが考えられる。
例えば投影装置が、投影するテストパターンに応じて補間方向情報を生成し、情報処理装置に送信してくるようにする。
上記した本技術に係る情報処理装置においては、前記情報取得部は、前記投影装置の情報を取得して前記補間処理部又は撮像を行う撮像部の制御に供することが考えられる。
例えば投影装置の情報として、投影画像の輝度情報、フォーカス情報、機種情報などを取得するようにする。
本技術に係る情報処理方法は、撮像された画像信号について補間処理を行う情報処理装置による情報処理方法として、投影装置によって投影されるテストパターンの投影画像を撮像した画像信号に対して、前記テストパターンに応じた補間方向情報に基づいた補間方向での画素情報の補間処理を行う。
本技術に係るプログラムは、上記情報処理方法を実現する処理を、撮像された画像信号について現像処理を行う情報処理装置に実行させるプログラムである。
これにより情報処理装置により適切な方向での補間処理が行われるようにする。
本技術によれば、投影されるテストパターンに応じた適切な補間方向で補間処理が行われるようになり、これによりアーティファクトを発生させず、投影画像の画素位置の検出精度を向上させることができる。
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
本技術の実施の形態の投影システム構成例の説明図である。 実施の形態の投影システム構成例の説明図である。 実施の形態のプロジェクタ、撮像装置及び情報処理装置のブロック図である。 実施の形態の情報処理装置のハードウエア構成のブロック図である。 実施の形態で行われる画素位置検出のためのテストパターン投影の説明図である。 実施の形態で行われるテストパターンのセンシングの説明図である。 補間処理のエラーによるアーティファクトの説明図である。 実施の形態の垂直補間と水平補間の説明図である。 実施の形態による現像画像の説明図である。 実施の形態の効果を示す説明図である。 実施の形態の処理のフローチャートである。
以下、実施の形態を次の順序で説明する。
<1.投影システムの構成例>
<2.テストパターンを用いた画素位置の検出の際の補間処理>
<3.処理手順>
<4.まとめ及び変形例>
<1.投影システムの構成例>
実施の形態の投影システムについて説明する。
実施の形態の投影システムは、例えば図1Aのようにプロジェクタ1、撮像装置2、情報処理装置3を有する。
プロジェクタ1は投影装置の一例としての例えば液晶プロジェクタである。プロジェクタ1は投影光学系10を備え、スクリーン100に画像投影を行う。
撮像装置2は撮像素子を備えて画像撮像が可能とされた機器である。撮像装置2はスクリーン100に投影された画像を撮像可能に配置される。この撮像装置2としては一般的なデジタルスチルカメラを用いてもよいし、この投影システムに専用のカメラを用いてもよい。
この撮像装置2は必ずしも固定配置されている必要はない。特に後述するテストパターンの撮像の際など必要なときに設置されるものでもよい。
情報処理装置3は、撮像装置2の撮像素子で撮像された撮像画像信号(ロウ(RAW)画像信号)に対する現像処理を行う装置として示している。
この図1Aの構成例の場合、情報処理装置3は撮像装置2に内蔵される部位としている。例えば撮像装置2の撮像素子により得られた撮像画像信号が入力され、現像処理を行う画像信号処理プロセッサが情報処理装置3となる。従って情報処理装置3は、例えば画像処理プロセッサとして機能するマイクロコンピュータ、CPU(Central Processing Unit)、或いはDSP(Digital Signal Processor)等を含む部位として実現される。
後述するように情報処理装置3は、少なくともプロジェクタ1から情報を取得する情報取得部(図3の現像情報取得部25)と補間処理を含む現像処理を行う現像処理部(図3の現像部23)を備えた装置となる。
この図1Aの構成の場合、プロジェクタ1と撮像装置2(情報処理装置3)は通信可能に接続され、情報の送受信が可能とされる。
情報処理装置3によっては、現像した撮像画像データから投影画像の画素の位置情報をデコードする処理を行う。この情報を用いてプロジェクタ1のキャリブレーションを行うことができる。
投影システムのプロジェクタ1、撮像装置2、情報処理装置3の構成例は、図1Aの例に限らず、例えば図1B、図2A、図2Bのような構成例も想定される。
図1Bの場合、情報処理装置3は撮像装置2に内蔵された装置であるとともに、撮像装置2はプロジェクタ1に内蔵された例である。即ちプロジェクタ1、撮像装置2、情報処理装置3が一体的な装置として構成されている。
図2Aは、プロジェクタ1、撮像装置2、情報処理装置3がそれぞれ別体の装置として構成される例を示している。
撮像装置2は、例えば撮像素子により得た撮像画像信号(ロウ画像信号)を情報処理装置3に送信する。
情報処理装置3は、撮像装置2から供給される撮像画像信号に対する現像処理を行う。
情報処理装置3はプロジェクタ1と通信可能とされている。
図2Bは、撮像装置2、情報処理装置3がプロジェクタ1に内蔵された例であるが、撮像装置2とされる部位とは別に情報処理装置3とされる部位が設けられる例である。例えばプロジェクタ1内の撮像ユニットとして信号処理系を含む撮像装置2が設けられるが、本実施の形態としての機能を有する情報処理装置3は、他のマイクロコンピュータなどとしてプロジェクタ1に内蔵されるような例である。この情報処理装置3は、例えばプロジェクタ1の投影動作制御系のマイクロコンピュータなどとして実現されることもある。
以上の各例のように、プロジェクタ1、撮像装置2、情報処理装置3を有する投影システムの構成例は各種考えられる。
以下では、図1Aの構成例に沿って詳細を説明するが、その説明は他図1B、図2A、図2Bのような構成の場合にも適用できるものである。
図3にプロジェクタ1、撮像装置2、情報処理装置3の構成例を示す。
プロジェクタ1は、投影光学系10、画像信号処理部11、画像入力部12、テストパターン発生部13、制御部14、現像情報生成部15、通信部16を有する。
画像入力部12は、画像ソースとなる外部装置からの画像信号PSを入力する。画像入力部12は画像信号PSを各画像信号処理部11に供給する。
画像信号処理部11は、入力された画像信号PSに対し、各種補正処理、ガンマ処理、色処理、輝度処理、コントラスト調整、シャープネス調整、表示画像を作るための入力画像の切り出し、拡大・縮小等の各種処理を行い、R(赤)、G(緑)、B(青)の画像信号を投影光学系10に供給する。
なお、画像信号処理部11での補正処理としては、幾何補正、位置ずれ補正、レンズボケ補正等としての補正フィルタ処理が含まれる。これにより、各種補正された画像信号としてのR信号、G信号、B信号が投影光学系10に供給される。
投影光学系10は、例えば光源部、光変調部、投影レンズ系等を有し、R、G、Bの画像信号に基づいて画像投影を行いスクリーン100に画像を表示させる。
例えば投影光学系10における光源部としては、LED(Light Emitting Diode)、レーザー光源、キセノンランプ、水銀ランプ等の各種の光源が考えられる。
投影光学系10における光変調部としては、一例としてR、G、Bの液晶ライトバルブが想定される。即ち投影光学系10では、画像信号処理部11からのR、G、Bの画像データを受け、これにより液晶駆動信号としてのR画像信号、G画像信号、B画像信号を生成し、R、G、Bの液晶ライトバルブに供給して、赤色画像、緑色画像、青色画像を表示させる。
投影光学系10内では、光源部からの光がR光、G光、B光に分離され、それぞれがR、G、Bの液晶ライトバルブを通過することで、赤色画像、緑色画像、青色画像の投影光が形成される。これらが合成されて、投影レンズ系から投射されることで、カラー画像がスクリーン100に投影表示されることになる。
投影レンズ系では、このような投射を行うとともに、投影画像のフォーカス調整、画像サイズ調整、投影角度調整等も可能とされている。
なお、以上は透過型液晶プロジェクタとしての構成例となるが、反射型液晶プロジェクタとしての構成も考えられる。
テストパターン発生部13は後述するテストパターンTPとしての画像信号を発生させる。テストパターンとしての画像信号は画像信号処理部11で処理される。そして投影光学系10によってテストパターン画像が投影される。
このテストパターンTPは、プロジェクタ1のキャリブレーションのための投影画像であり、プロジェクタ1による投影画像の画素位置の検出のために撮像装置2によって撮像される投影画像である。
特に本実施の形態の場合、テストパターンは複数用意され、各テストパターンは複数のテストパターンを撮像した画像から投影画像の各画素の識別情報をデコード可能なパターン画像とされている。テストパターンTPの具体例は後述する。
現像情報生成部15は、投影表示するテストパターンの別や、制御部14の指示に基づいて、現像情報を生成する。
現像情報とは、情報処理装置3における現像処理に利用できる情報であり、この現像情報には、補間方向情報が含まれる。詳細は後述する。
通信部16は、情報処理装置3の通信部26との間で各種のデータや制御信号の通信を行う部位である。通信方式は有線通信であってもよいし、無線通信であってもよい。また、図1B、図2Bのようにプロジェクタ1と情報処理装置3が一体装置内であれば、装置内の配線による通信であればよい。
制御部14はプロジェクタ1の動作制御を行う。例えば画像信号処理部11における各種処理の制御、投影光学系10における液晶パネルやレンズ動作の制御、テストパターン発生部13によるテストパターン発生制御、現像情報生成部15に対する情報生成指示、通信部16を介した通信の制御などを行う。
撮像装置2は撮像部21、制御部22、現像部23、撮像画像デコード部24、現像情報取得部25、通信部26、格納部27を有する。
この図3の例では、制御部22、現像部23、撮像画像デコード部24、現像情報取得部25、通信部26、格納部27を含む部分を情報処理装置3としているが、これは一例である。
撮像部21は、撮像のためのレンズ系や、被写体光を光電変換して撮像画像信号を出力する撮像素子(イメージャ)を有する。
撮像部21により図1A等に示したスクリーン100に投影された投影画像が撮像され、その撮像画像信号が現像部23に供給される。
制御部22は撮像部21による撮像動作を制御する。
また制御部22は、例えば通信部26を介したプロジェクタ1との通信により検知されるタイミングで撮像部21の撮像動作を実行させるような制御も可能とされる。例えばプロジェクタ1のキャリブレーションのためにテストパターンの投影を行っているタイミングで撮像装置2が自動的に撮像を行うように撮像部21の画角、撮像方向、レリーズタイミング等を制御するようにもできる。
さらに制御部22は、現像部23の処理,格納部27の記憶再生、撮像画像デコード部24の処理、現像情報取得部25の処理の指示も行う。
現像部23は、撮像部21の撮像素子により得られた撮像画像信号(ロウ画像信号)に対して現像処理を行う。
具体的には現像部23は例えば、DSP(Digital Signal Processor)等により画像処理プロセッサとして構成される。そして現像部23は、撮像素子からの撮像画像信号に対して、前処理部、YC処理、補間処理、記録用や通信用の符号化としてのコーデック等を行って、現像された画像データを生成する。
特に図3では、現像部23において補間処理を行う補間処理部23aを示しているが、この補間処理部23aはテストパターンに応じた補間方向情報に基づいた補間方向での画素情報の補間処理を行う。
なお、補間処理部23aは、必ずしも現像部23内に設けられなくてもよく、現像部23を構成するプロセッサ等とは別体のプロセッサ等により形成されてもよい。
格納部27は現像された画像データを格納する。例えば多数のテストパターンが順次投影されるような場合、各テストパターンの投影画像を撮像した画像データがそれぞれ格納される。
撮像画像デコード部24は、多数のテストパターンの撮像画像データに基づいて、投影画像の各画素の位置情報(水平垂直方向の画素ナンバ)のデコードを行う。このデコード処理による位置情報Ddcは、プロジェクタ1のキャリブレーションに用いられる。
通信部26はプロジェクタ1の通信部16に対応する通信部である。
現像情報取得部25は、プロジェクタ1から送信され通信部26により受信された情報のうちで、現像処理に用いることのできる現像情報を抽出し取得する。この現像情報には補間方向情報が含まれる。現像情報取得部25が取得した現像情報により、現像部23や撮像画像デコード部24の動作が制御される。
本実施の形態では、例えば以上のような機能を備えたプロジェクタ1、撮像装置2、情報処理装置3が構成される。
なお、補間処理部23aを少なくとも含む情報処理装置3、或いはさらに現像部23や現像情報取得部25とを含む情報処理装置3は、撮像装置2の内部に構成される他、図2Aのように別体の装置とされてもよい。
その場合、情報処理装置3は汎用のパーソナルコンピュータを用いて実現してもよい。さらにはスマートフォン等の携帯端末装置を用いて実現することもできる。いずれにしても情報処理装置3は演算処理能力を持つ装置であれば適用可能であり、内部のマイクロコンピュータ等の演算装置が所定のソフトウエアに基づいて処理を行うことで、少なくとも補間処理部23aとしての機能、或いはさらに現像部23や現像情報取得部25としての機能を実行できるものとされればよい。
なお、情報処理装置3は、例えばプロジェクタ1とオンラインで常時接続されても良いし、通常時はオフラインの装置とされて、プロジェクタ1と時限的な通信を行うものでもよい。
情報処理装置3は、例えば図4のようなハードウエア構成で実現することができる。
図4に示すように情報処理装置3は、CPU151、ROM(Read Only Memory)152、RAM(Random Access Memory)153を有して構成される。
CPU151は、ROM152に記憶されているプログラム、または記憶部159からRAM153にロードされたプログラムに従って各種の処理を実行する。RAM153にはまた、CPU151が各種の処理を実行する上において必要なデータなども適宜記憶される。
CPU151、ROM152、およびRAM153は、バス154を介して相互に接続されている。このバス154にはまた、入出力インタフェース155も接続されている。
入出力インタフェース155には、液晶パネル或いは有機EL(Electroluminescence)パネルなどよりなるディスプレイ156、キーボード、マウスなどよりなる入力部157、スピーカ158、HDD(Hard Disk Drive)などより構成される記憶部159、通信部160などが接続可能である。
ディスプレイ156は情報処理装置3と一体でも良いし別体の機器でもよい。例えば撮像画像の表示、演算結果の表示、操作メニュー表示などが行われる。
入力部157は、情報処理装置3を使用するユーザ(例えば投影システムの調整作業者)が用いる入力デバイスを意味する。
通信部160は周辺各部の機器との間の有線又は無線による通信を行う。通信部160はインターネットを含むネットワークを介しての通信処理を行うことで、例えば必要なソフトウエアをダウンロードしたり、各種情報を送信したりすることができるようにしても良い。
入出力インタフェース155にはまた、必要に応じてドライブ161が接続され、ドライブ161にメモリカード162が装着され、メモリカード162から読み出されたコンピュータプログラムが、必要に応じて記憶部159にインストールされたり、CPU151で処理したデータが記憶される。もちろんドライブ161は、磁気ディスク、光ディスク、光磁気ディスク等のリムーバブル記憶媒体に対する記録再生ドライブとされてもよい。
以上のように情報処理装置3は、コンピュータ装置としてのハードウエア構成を備える。
なお、実施の形態の情報処理装置3は、図4のようなハードウエア構成のコンピュータ装置が単一で構成されることに限らず、複数のコンピュータ装置がシステム化されて構成されてもよい。複数のコンピュータ装置は、LAN(Local Area Network)等によりシステム化されていてもよいし、インターネット等を利用したVPN(Virtual Private Network)等により遠隔地に配置されたものでもよい。複数のコンピュータ装置には、クラウドコンピューティングサービスによって利用可能なコンピュータ装置が含まれてもよい。
この図4のような構成のコンピュータ装置は、据え置き型、ノート型等のパーソナルコンピュータ、タブレット端末やスマートフォン等の携帯端末として実現できる。さらにはコンピュータ装置としての機能を有する専用装置、モニタ装置、設備管理装置等の電子機器でも、本実施の形態の情報処理装置3としての機能を搭載することができる。例えば図2Aのように情報処理装置3が撮像装置2と別体とされる場合は、これらの装置により本実施の形態の情報処理装置3が実現できる。
また図1A、図1B、図2Bの構成の場合、情報処理装置3は、例えば図4のCPU151、ROM152、RAM153、入出力インタフェース155を少なくとも備え、入出力インタフェース155を介して撮像装置2やプロジェクタ1と情報の授受を行うようにすれば良い。
<2.テストパターンを用いた画素位置の検出の際の補間処理>
上記の構成の本実施の形態の投影システムにおけるテストパターンを用いた画素位置の検出、及び検出のための現像の際の補間処理について説明する。
まず図5により、投影画像の画素位置の検出のためのテストパターンについて説明する。
図5Aは、投影画像として例えば水平4096画素×垂直2160画素の構成を模式的に示している。画素数は一例である。
例えばこのような投影画像の各画素について、撮像画像から投影位置を検出するには、撮像画像から各画素の識別情報が検出できればよい。例えば画素の水平・垂直のナンバが検出できればよい。
仮に図5Aの画素数の場合、水平方向の画素ナンバ0〜4095に関しては、「000000000000」〜「111111111111」の12ビットで表現できる。また垂直方向の画素ナンバ0〜2159に関しては「000000000000」〜「100001101111」の12ビットで表現できる。
そこで、例えば水平方向、垂直方向とも、12ビットを表現できる12個のテストパターンTPを用意する。
図5Bは水平方向の画素ナンバ検出のためのテストパターンTPh1〜TPh12を示している。
まずテストパターンTPh1は、水平方向の画素ナンバ0〜4095としての「000000000000」〜「111111111111」のMSB(most significant bit:最上位ビット)を集めた画像である。
つまり各画素の水平ナンバのMSBを「000・・・000111・・・111」と4096個並べ、「0」を白、「1」を黒とした画像である。左側半分の画素はMSBが「0」、右側半分の画素はMSBが「1」なので、図のように白黒が左右に分かれた画像となる。
次にテストパターンTPh2は、同じく水平方向の画素ナンバ「000000000000」〜「111111111111」の上位から2番目のビット(説明上「2SB」(2nd significant bit)と表記する)を集めた画像である。図のように左右に1/4の画素数毎に白/黒/白/黒が分かれた画像となる。
テストパターンTPh3、TPh4・・・TPh11は図示していないが、同様に、3番目のビット、4番目のビット・・・11番目のビットが並べられたパターンとなり、徐々に垂直方向のストライプが狭くなっていくような画像となる。
最後のテストパターンTPh12は、水平方向の画素ナンバ「000000000000」〜「111111111111」のLSB(least significant bit:最下位ビット)を集めた画像である。これは「010101・・・0101」というように、1画素毎に白/黒が変わる、最も細かい垂直ストライプの画像となる。
図5Cは垂直方向の画素ナンバ検出のためのテストパターンTPv1〜TPv12を示している。これも上記の水平方向と同様の考え方で形成された画像パターンとなる。
テストパターンTPv1は、垂直方向の画素ナンバ0〜2159としての「000000000000」〜「100001101111」のMSBを集めた画像である。
テストパターンTPv2は、垂直方向の画素ナンバ「000000000000」〜「100001101111」の2SBを集めた画像である。
テストパターンTPv3、TPv4・・・TPv11は図示していないが、同様に、3番目のビット、4番目のビット・・・11番目のビットが並べられたパターンとなり、徐々に水平方向のストライプが狭くなっていくような画像となる。
最後のテストパターンTPv12は、垂直方向の画素ナンバ「000000000000」〜「100001101111」のLSBを集めた画像である。これは「010101・・・0101」というように、1画素毎に白/黒が変わる、最も細かい水平ストライプの画像となる。
このように計24個のテストパターンTPを用意する。
そして図6に模式的に示すように、これらのテストパターンTPを順番にスクリーン100に投影する。投影画像90はテストパターンTPの画像となる。
この投影画像90を撮像装置2で撮像し、情報処理装置3で現像処理を行って撮像画像データ91を得る。
プロジェクタ1による投影画像には幾何的な歪みが生じ、また撮像装置2が必ずしも完全に正対して撮像できるものではなく、さらには光学系の歪みもあるため、撮像した画像は完全には元のテストパターンTPと同形状とはならない。
そこで投影画像90の各画素について、撮像画像データ91上での位置検出を行うことで、対応がとれるようにする。
プロジェクタ1及び撮像装置2の位置関係や調整状態を同一の状態としたまま、上記の24個のテストパターンの投影及び撮像を行うと、24枚の撮像画像データ91が得られる。各撮像画像データ91には、テストパターンTPの画像92が同一の形状で写されている。
ここで、12個の水平方向の位置検出用のテストパターンTPh1〜TPh12のそれぞれの白/黒のパターンをデコードすることで、0〜4095の値が検出できる。つまり水平方向の画素位置が、撮像画像データ91上でどの位置にあるかが検出できる。
同様に、12個の垂直方向の位置検出用のテストパターンTPv1〜TPv12のそれぞれの白/黒のパターンをデコードすることで、0〜2159の値が検出できる。つまり垂直方向の画素位置が、撮像画像データ91上でどの位置にあるかが検出できる。
これを組み合わせれば、投影画像の全ての画素の撮像画像データ91上での位置(対応点)が検出できることになる。
このように投影画像の各画素の位置を撮像画像データ91上で対応づけられることで、撮像画像データ91を用いたキャリブレーションを正確に行うことができる。
ところが以上は、MSBからLSBまでのテストパターンTPが正しく表現された撮像画像データ91が得られることが前提となる。
実際には、撮像時のアーティファクトによるセンシング精度の悪化が生じる。
現像処理の際には、撮像された画像から補間方向を検波し、適応的に補間方向を選択して補間処理を行うことで、解像度の維持又は高解像度化を実現する。補間処理を行わなければセンシング精度が低下するためである。
ところが補間方向の検波を誤るとアーティファクトが生じてしまう。特にLSB用のテストパターンTPv12、TPh12のような一様の高周波のパターン画像などは方向検波に失敗しやすい。
図7には補間処理のエラーを模式的に示している。例えば図7Aはベイヤー配列の画素において、中央のR(赤)画素に足りない「B(青)」と「G(緑)」の成分を周囲の画素から補間する補間処理を示している。
この場合、例えば図7Bのような高周波パターンに対して補間処理を行うと、図7Cのようにモアレ、色偽が発生する。
LSB用のテストパターンTPv12、TPh12は、画素毎に0,1を繰り返すパターンとなるが、白/黒のパターンを1つ間違えると、隣の画素のナンバになってしまう。
このように補間処理のエラーにより、検出される画素位置の精度が悪化してしまい、精度のよいキャリブレーションの障害となることがある。
そこで本実施の形態では、情報処理装置3は、現像情報取得部25がプロジェクタ1からテストパターンTP毎の現像情報を受信する。そして現像部23においては、各テストパターンTPの撮像画像の現像処理の際に、受信した現像情報に基づいた処理が行われるようにする。具体的には、現像部23における補間処理部23aは、受信した現像情報に含まれる補間方向情報に基づいて、補間方向が決められるようにする。
例えばプロジェクタ1は、垂直方向に相関のある図8AのようなテストパターンTPh12を投影する場合に、その垂直方向が相関方向であり、適切な補間処理方向であることを示す情報を生成し、情報処理装置3に送信する。情報処理装置3は、その補間方向情報を取得することで、撮像画像に対して図8Bに示す垂直補間を行う。即ち対象画素に対して垂直方向に隣接する2つの画素(又は垂直方向に並ぶ3以上の画素でもよい)を用いて補間処理を行う。
同様にプロジェクタ1は、水平方向に相関のある図8CのようなテストパターンTPv12を投影する場合に、その水平方向が相関方向であり、適切な補間処理方向であることを示す情報を生成し、情報処理装置3に送信する。情報処理装置3は、その補間方向情報を取得することで、撮像画像に対して図8Dに示す水平補間を行う。即ち対象画素に対して水平方向に隣接する2つの画素(又は水平方向に並ぶ3以上の画素でもよい)を用いて補間処理を行う。
このように現像部23でテストパターンTPの相関情報に従って適応的に補間方向を切り替える。
これにより高解像度の情報取得を行うことができ、それにともなってプロジェクタ投影画像の座標を高精度に算出することができる。
例えば図9AのテストパターンTPの撮像を行い現像した撮像画像データ91を図9Bに示している。この図9Bの破線領域95の拡大図を図9C、図9Dに示している。図9Cは本実施の形態の例で、補間方向情報に基づいて補間処理を行った場合、図9Dは比較例として図7Aのような均等補間を行った場合である。
比較例の図9Dの場合、テストパターンTPにおけるストライプがつぶれてしまっているが、本実施の形態の図9Cの場合、ストライプパターンが正確に現像できている。
また、現像部23ではノイズリダクション処理を行う場合もある。ノイズリダクション処理では、周囲の画素間で平滑化を行うことでノイズを低減する。
この場合にも、相関方向を示す補間方向情報に従って、その相関方向に平滑化処理を行うことで、ディテールを失うことなくノイズを低減することができる。
図10は、実施の形態のように補間処理を行うことによるセンシング精度向上を比較例と比較したものである。
比較例は均等に補間を行った場合、実施の形態は図8のような垂直補間と水平補間を適応的に行った場合である。
説明の簡易化のため、座標系はC1列に示した一次元で扱う。
位置情報のセンシングでは、撮像画像上の座標(C1列)に対して、プロジェクタ1による投影画像の座標系の座標(C2列)が対応する。
投影画像の座標系の真値は小数精度である。
プロジェクタ1から座標情報を2進数化したデータ(テストパターンTP)を投影し、センシングしたデータを比較例手法で得たビットデータ(C3列〜C6列)、および実施の形態で得たビットデータ(C9列〜C12列)を示している。
比較例の手法では、最下位のビット(C6列)のデータが暴れているために、C3列〜C6列のビットデータを2進数→10進数デコードした座標値(C7列)は正解(C2列)との誤差(C8列)が大きい。C8列下方に示した誤差二乗和は13.96となっている。
一方、実施の形態の手法では、最下位のビット(C12列)のデータが安定的に求まるため、C9列〜C12列のビットデータを2進数→10進数デコードした座標値(C13列)は正解(C2列)との誤差(C14列)が小さい。C14列下方に示した誤差二乗和は1.33と小さい値となっている。
このように、実施の形態の補間手法を用いることで、センシング精度が格段に向上している。
<3.処理手順>
実施の形態の図3の構成例におけるプロジェクタ1、撮像装置2(情報処理装置3を含む)の処理例を図11に示す。
図11では左側にプロジェクタ1の処理、右側に撮像装置2及び情報処理装置3の処理を示している。
テストパターンTPとして図5B、図5Cで説明した12個のテストパターンTPh1〜TPh12、TPv1〜TPv12を用いる場合で説明する。
プロジェクタ1の処理では、ループ処理LP1として水平方向の処理と垂直方向の処理を行う。さらにループ処理LP1内でのループ処理LP2として、水平垂直の各方向で12回づつステップS101〜S104を行うことになる。
例えばまずループ処理LP1の1回目として水平方向の位置検出のための投影を行う。この場合、ループ処理LP2としての12回の処理で、テストパターンTPh1〜TPh12を順次投影していく処理を行う。
次にループ処理LP1の2回目として垂直方向の位置検出のための投影を行う。この場合、ループ処理LP2としての12回の処理で、テストパターンTPv1〜TPv12を順次投影していく処理を行う。
プロジェクタ1の制御部14は、まずステップS101ではテストパターン選択を行う。つまり、上記の順番でテストパターンTPを選択し、テストパターン発生部13に、選択したテストパターンTPの出力を指示する。
ステップS102で制御部14は、画像信号処理部11及び投影光学系10による、テストパターン投影を実行させる。
ステップS103で制御部14は情報送信制御を行う。
制御部14はテストパターンTPを投影したこと示す情報を撮像装置2に送信する。つまり撮像装置2にとっての撮像タイミングを通知する情報である。
またことのとき制御部14は、ステップS101で選択したテストパターンTPに応じて、相関方向に応じた補間方向情報を含む現像情報を、現像情報生成部15に生成させ、通信部16から情報処理装置3に送信させる。
なおループ処理LP1として水平方向処理が行われている期間における12回のループ処理LP2では、垂直ストライプ画像であるテストパターンTPh1〜TPh12が順次選択されて投影されるため、その期間は継続して相関方向は垂直方向である。従ってこの期間における12回のステップS103では、毎回、補間方向情報として垂直方向を示すようにする。
もしくは、情報処理装置3側で、特に補間方向情報がなければ、相関方向は前回と同じと解釈するアルゴリズムが設けられていれば、12回のうちの最初の1回のみ垂直方向を示す補間方向情報を送信するのみとしてもよい。
また、2回目以降は「前回と同じ」という意味の情報を送信してもよい。
一方、ループ処理LP1として垂直方向処理が行われている期間における12回のループ処理LP2では、水平ストライプ画像であるテストパターンTPv1〜TPv12が順次選択されて投影されるため、その期間は継続して相関方向は水平方向である。従ってこの期間における12回のステップS103では、毎回、補間方向情報として水平方向を示すようにする。もしくは、情報処理装置3が前回と同じと解釈できるのであれば12回のうちの最初の1回のみ水平方向を示す補間方向情報を送信するのみとしてもよいし、2回目以降は「前回と同じ」という意味の情報を送信してもよい。
なおこのとき、制御部14は現像情報には、補間方向情報に加えてボケ量情報を含むようにしてもよい。
制御部14は、投影光学系10に対するフォーカス制御情報を用いて、投影パターンのボケ量の情報を得ることができるため、そのボケ量情報も現像情報の1つとして、補間方向情報とともに情報処理装置3に送信するようにすることができる。
また現像処理に用いる現像情報に限らず、制御部14は他の情報を情報処理装置3に送信してもよい。
例えば制御部14は、投影画像の輝度(ゲイン)情報を送信するようにしてもよい。
さらには、制御部14はプロジェクタ1の機種情報を送信することも考えられる。
なお、これらの情報は、特にテストパターンTP毎に変化するものではないため、ループ処理LP2内のステップS103で毎回送信する必要はない。例えば最初に1回送信すればよい。
ステップS104で制御部14は、情報処理装置3側での現像完了を待機する。情報処理装置3側から現像完了の通知が検知されたら、ループ処理LP2内の1回の処理を終える。
従ってプロジェクタ1の制御部14は、1つのテストパターンTPを投影したら、そのテストパターンTPについての情報処理装置3側での現像処理が完了したことを確認して、次のテストパターンTPの投影に移ることになる。
撮像装置2及び情報処理装置3の処理も、ループ処理LP3として水平方向の処理と垂直方向の処理を行う。さらにループ処理LP3内でのループ処理LP4として、水平垂直の各方向で12回づつステップS201〜S208を行うことになる。
ステップS201で撮像装置2(情報処理装置3)の制御部22は、プロジェクタ1でテストパターンTPの投影が行われることを待機する。
上述のようにプロジェクタ1からはステップS103の処理で、テストパターンTPの投影の通知が送られてくる。制御部22がこれを認識したら、制御部22の処理はステップS201からS202に進み、現像情報取得部25に、同じくプロジェクタ1から送信されてくる現像情報の取得を指示する。
現像情報取得部25はこれにより、受信された情報のうちで現像情報、特に補間方向情報を読み取り、これを制御部22に供給する。
なお、現像情報としてボケ量情報が含まれていれば、現像情報取得部25はそのボケ量情報も読み出して現像部23に供給する。
また制御部22は、受信された情報として、投影画像の輝度(ゲイン)情報や、プロジェクタ1の機種情報が含まれていたら、それらを読み出して取得する。
ステップS203で制御部22は、撮像部21による撮像を実行させる。これによりテストパターンTPの投影画像が撮像されることになる。
なお、プロジェクタ1の制御部14から輝度(ゲイン)情報を得ていた場合、制御部22は、それに応じて撮像部21の露出制御を高精度に行うことができる。
またプロジェクタ1の機種情報に応じた露出制御を行うこともできる。
ステップS204では制御部22は、補間方向情報として示された相関方向により処理を分岐する。
制御部22は相関方向として水平方向が示されていた場合はステップS205に進み、現像部23の現像処理の際に補間処理部23aで水平補間処理を行うように指示する。
このとき制御部22は現像部23に、ノイズリダクション処理の平滑化方向を水平方向とするように指示してもよい。
また制御部22は相関方向として垂直方向が示されていた場合はステップS206に進み、現像部23の現像処理の際に補間処理部23aで垂直補間処理を行うように指示する。
このとき制御部22は現像部23に、ノイズリダクション処理の平滑化方向を垂直方向とするように指示してもよい。
またステップS205,S206のいずれの場合も制御部22は、投影パターンのボケ量情報を得ていた場合、現像部23に、ボケ量に応じた適切な強度のボケ復元処理を指示することができる。
さらに制御部22は、現像部23によるプロジェクタ1の機種情報に応じた劣化復元処理の強度を制御することもできる。
次に制御部22はステップS207に進み、現像部23による現像処理を行って得られた撮像画像データを格納部27に記憶させる。
そしてステップS208で制御部22は、プロジェクタ1の制御部14に対して現像完了の通知を送信する。
以上のようにループ処理LP4としてのステップS201〜S208の処理が、プロジェクタ1側の動作と連係して行われる。
これにより、プロジェクタ1側で24個のテストパターンTPが順次投影される際に、撮像装置2側では、順次撮像・現像が行われ、24枚の撮像画像データが格納部27に格納されることになる。
以上の処理を終えたら、制御部22はステップS210に進み、24枚の撮像画像データを格納部27から読み出してデコード処理を行う。
これによって投影画像の各画素の位置情報(水平垂直の画素ナンバ)を、撮像画像データから取得し、撮像画像データ上での投影画像の各画素の対応点を検出することができる。
そして以上の処理においては、補間処理が画像の相関方向に応じて行われることで、位置情報センシングの精度が向上される。
<4.まとめ及び変形例>
以上説明してきた本実施の形態では次のような効果が得られる。
実施の形態の情報処理装置3は、プロジェクタ1(投影装置)によって投影されるテストパターンTPの投影画像を撮像した画像信号に対して、テストパターンTPに応じた補間方向情報に基づいた補間方向での画素情報の補間処理を行う補間処理部23aを備えている。
より具体的な例としては、プロジェクタ1が投影するテストパターンTPに応じた補間方向情報を取得する現像情報取得部25(情報取得部)と、プロジェクタ1によるテストパターンの投影画像を撮像した画像信号に対して、現像情報取得部25が取得した補間方向情報に応じた補間方向での画素情報の補間処理を含む現像処理を行う、補間処理部23aを含む現像部23とを備える。
これにより、例えば水平方向にストライプ状となった、水平方向に相関のあるテストパターンの場合には水平方向に補間を行うなど画像を劣化させない適切な補間方向の補間処理が実現できる。
結果としてアーティファクトの発生等による現像画像の劣化を生じさせないようにすることができる。
従って、テストパターンのセンシングを精度よく実行できることになる。特にLSB用テストパターン(TPv12、TPh12)のセンシングにおいて、補間による“つぶれ”がなくなり、LSBパターンであっても正確にセンシングできる。つまり誤差が少なく高解像度のセンシングを行うことができる。
また現像処理において補間処理を行わないようにすると解像度が低下することがあるが、本実施の形態の場合、補間処理によるアーティファクトを防止することで補間処理の実行による精度低下が解消されるため、補間処理を活用でき、もって現像画像の解像度低下が生じないようにすることができる。
これらのことから、テストパターンのセンシング結果を用いたプロジェクタのキャリブレーションの精度を向上させることができる。
また実施の形態の場合、撮影画像から補間方向の検波を行う必要がないため、現像処理の負荷が小さい。
実施の形態では、テストパターンTPは複数用意され、各テストパターン(TPh1〜TPh12、TPv1〜TPv12)は、これらのテストパターンを撮像した画像から投影画像の各画素の識別情報をデコード可能なパターン画像とされている。そしてプロジェクタ1はこれら複数のテストパターンを順次投影させる。これに対応して現像情報取得部25は、プロジェクタ1が複数のテストパターンのそれぞれを投影させる際に、当該投影対象のテストパターンに応じた補間方向情報を取得するようにしている(図11のS202)。
これにより、パターン画像の異なる複数のテストパターンを用いる場合も、各テストパターンの相関方向に応じた適切な補間方向で補間処理を行うことができる。
実施の形態の情報処理装置3は、補間処理部23aが補間処理を行った(即ち現像部23が現像処理を行った)複数のテストパターンTPに対応する画像信号を用いて、投影画像における各画素の識別情報をデコードする撮像画像デコード部24を備えている。
これにより、投影画像の各画素の識別情報(水平垂直方向の画素値)を、プロジェクタのキャリブレーションに利用する情報として取得できる。特に現像の際の補間処理が相関方向に応じた補間方向で行われていることで、デコードされる識別情報の精度も向上される。
実施の形態では補間方向情報は、画素の相関性のある方向が水平方向であるか垂直方向であるかを示す情報であるとした。
テストパターンTPとしては、水平方向にストライプ状となったパターン画像(TPv1〜TPv12)や、垂直方向にストライプ状となったパターン画像(TPh1〜TPh12)を例示した。このようなパターンは、水平垂直方向にマトリクス状に並ぶ画素のナンバ表現に適している。
そしてこの場合、画素の相関性のある方向(相関方向)は、水平方向にストライプ状となったパターン画像の場合は水平方向で、垂直方向にストライプ状となったパターン画像の場合は垂直方向である。補間方向情報はこのような相関方向を示す情報とする。これにより情報処理装置3は、テストパターン毎に画素の相関性のある方向を把握できる。
実施の形態では補間処理部23aは、補間方向情報により垂直方向が示された場合は垂直方向の画素を用いた垂直補間処理を行い(S206)、補間方向情報により水平方向が示された場合は水平方向の画素を用いた水平補間処理を行う(S205)。
つまり画素の相関性のある方向が垂直方向か水平方向かを認識して、それに応じて垂直補間処理又は水平補間処理を行う。
例えば図5Cのように水平方向にストライプ状となったテストパターン(即ち垂直方向の画素ナンバを得るためのテストパターンTPv1〜TPv12)の場合には、水平補間を行い、また図5Bのように、垂直方向にストライプ状となったテストパターン(即ち水平方向の画素ナンバを得るためのテストパターンTPh1〜TPh12)の場合には垂直補間を行うような補間処理が実現される。
この場合、相関性のある方向で補間処理が行われることでアーティファクトによる画像劣化を防止し、精度のよい現像画像を得ることができる。
テストパターンTPの画像の相関方向を、水平又は垂直に限ることで、補間処理も水平補間と垂直補間を都度選択すればよいものとなり、大きな処理負担も生じない。
実施の形態の現像部23は、補間方向情報に応じた補間方向で、ノイズリダクションのための平滑化処理を行うことを述べた。
ノイズリダクションのための平滑化に関しても、画素の相関性のある方向の画素間でおこなうようにすることで、情報のつぶれが生じないようにすることができる。
これによりノイズリダクション処理を有効に活用でき、現像品質を向上させることができる。
なお、補間処理やノイズリダクション処理以外でも、相関方向に行うことが適した処理に関しては、補間方向情報に従って適応的に処理方向を切り換えることが好適である。
実施の形態では、現像情報取得部25は、プロジェクタ1との通信により送信されてきた補間方向情報を取得するようにした。
従って実施の形態の情報処理装置3は、プロジェクタ1との間で通信可能とされていればよく、それによりテストパターンTPに応じて補間方向情報を取得し、現像処理に反映させることができる。
実施の形態の現像情報取得部25は、プロジェクタ1の情報を取得して現像部23又は撮像を行う撮像部21の制御のために制御部22に供給する例を述べた。
例えばプロジェクタ1の情報として、投影画像の輝度情報、フォーカス情報、機種情報などを取得する。
これらの情報を用いることで、撮像又は現像処理において、プロジェクタ1側の都合や投影状況に応じた撮像処理、現像処理が可能となり、より精度のよい現像画像を得ることができる。
本開示の技術は実施の形態の例に限定されない。
本技術は透過型又は反射型液晶パネルを用いたプロジェクタ1に限らず、例えば自発光型の投影装置にも適用可能である。
実施の形態のプログラムは、撮像された画像信号について補間処理を行う情報処理装置3に、投影装置(プロジェクタ1)によって投影されるテストパターンTPの投影画像を撮像した画像信号に対して、テストパターンTPに応じた補間方向情報に基づいた補間方向での画素情報の補間処理を実行させるプログラムである。
より具体的な例としては、撮像された画像信号について現像処理を行う情報処理装置3に、プロジェクタ1が投影するテストパターンTPに応じた補間方向情報を取得する処理(S202)と、プロジェクタ1によるテストパターンTPの投影画像を撮像した画像信号に対して、取得した補間方向情報に応じた補間方向での画素情報の補間処理を含む現像処理(S205,S206)とを、情報処理装置3に実行させるプログラムである。
即ち図11の処理を情報処理装置3や、図4のCPU151に実行させるプログラムである。
このようなプログラムにより本実施の形態の情報処理装置3の実現が容易となる。
そしてこのようなプログラムはコンピュータ装置等の機器に内蔵されている記録媒体や、CPUを有するマイクロコンピュータ内のROM等に予め記憶しておくことができる。あるいはまた、半導体メモリ、メモリカード、光ディスク、光磁気ディスク、磁気ディスクなどのリムーバブル記録媒体に、一時的あるいは永続的に格納(記憶)しておくことができる。またこのようなリムーバブル記録媒体は、いわゆるパッケージソフトウェアとして提供することができる。
また、このようなプログラムは、リムーバブル記録媒体からパーソナルコンピュータ等にインストールする他、ダウンロードサイトから、LAN、インターネットなどのネットワークを介してダウンロードすることもできる。
なお、本明細書に記載された効果はあくまでも例示であって限定されるものではなく、また他の効果があってもよい。
なお本技術は以下のような構成も採ることができる。
(1)
投影装置によって投影されるテストパターンの投影画像を撮像した画像信号に対して、前記テストパターンに応じた補間方向情報に基づいた補間方向での画素情報の補間処理を行う補間処理部を備えた
情報処理装置。
(2)
前記テストパターンは複数用意され、各テストパターンは複数のテストパターンを撮像した画像から投影画像の各画素の識別情報をデコード可能なパターン画像とされ、前記投影装置は前記複数のテストパターンを順次投影させるものとされる場合に、
前記補間処理部は、前記投影装置が前記複数のテストパターンのそれぞれを投影させる際に、当該投影対象のテストパターンに応じた前記補間方向情報に基づいた補間方向での画素情報の補間処理を行う
上記(1)に記載の情報処理装置。
(3)
前記補間処理部が補間処理を行った前記複数のテストパターンに対応する画像信号を用いて、投影画像における各画素の識別情報をデコードする撮像画像デコード部を備えた
上記(1)又は(2)に記載の情報処理装置。
(4)
前記補間方向情報は、画素の相関性のある方向が水平方向であるか垂直方向であるかを示す情報である
上記(1)乃至(3)のいずれかに記載の情報処理装置。
(5)
前記補間処理部は、
前記補間方向情報により垂直方向が示された場合は垂直方向の画素を用いた垂直補間処理を行い、
前記補間方向情報により水平方向が示された場合は水平方向の画素を用いた水平補間処理を行う
上記(4)に記載の情報処理装置。
(6)
前記補間方向情報に応じた補間方向で、ノイズリダクションのための平滑化処理を行う現像部を備えた
上記(1)乃至(5)のいずれかに記載の情報処理装置。
(7)
前記投影装置が投影するテストパターンに応じた前記補間方向情報を取得する情報取得部を備えた
上記(1)乃至(6)のいずれかに記載の情報処理装置。
(8)
前記情報取得部は、前記投影装置との通信により送信されてきた前記補間方向情報を取得する
上記(7)に記載の情報処理装置。
(9)
前記情報取得部は、前記投影装置の情報を取得して前記補間処理部又は撮像を行う撮像部の制御に供する
上記(7)又は(8)に記載の情報処理装置。
(10)
撮像された画像信号について補間処理を行う情報処理装置による情報処理方法として、
投影装置によって投影されるテストパターンの投影画像を撮像した画像信号に対して、前記テストパターンに応じた補間方向情報に基づいた補間方向での画素情報の補間処理を行う情報処理方法。
(11)
撮像された画像信号について補間処理を行う情報処理装置に、
投影装置によって投影されるテストパターンの投影画像を撮像した画像信号に対して、前記テストパターンに応じた補間方向情報に基づいた補間方向での画素情報の補間処理を実行させるプログラム。
1…プロジェクタ、2…撮像装置、3…情報処理装置、10…投影光学系、11…画像信号処理部、12…画像入力部、13…テストパターン発生部、14…制御部、15…現像情報生成部、16…通信部、21…撮像部、22…制御部、23…現像部、23a…補間処理部、24…撮像画像デコード部、25…現像情報取得部、26…通信部、27…格納部

Claims (11)

  1. 投影装置によって投影されるテストパターンの投影画像を撮像した画像信号に対して、前記テストパターンに応じた補間方向情報に基づいた補間方向での画素情報の補間処理を行う補間処理部を備えた
    情報処理装置。
  2. 前記テストパターンは複数用意され、各テストパターンは複数のテストパターンを撮像した画像から投影画像の各画素の識別情報をデコード可能なパターン画像とされ、前記投影装置は前記複数のテストパターンを順次投影させるものとされる場合に、
    前記補間処理部は、前記投影装置が前記複数のテストパターンのそれぞれを投影させる際に、当該投影対象のテストパターンに応じた前記補間方向情報に基づいた補間方向での画素情報の補間処理を行う
    請求項1に記載の情報処理装置。
  3. 前記補間処理部が補間処理を行った前記複数のテストパターンに対応する画像信号を用いて、投影画像における各画素の識別情報をデコードする撮像画像デコード部を備えた
    請求項2に記載の情報処理装置。
  4. 前記補間方向情報は、画素の相関性のある方向が水平方向であるか垂直方向であるかを示す情報である
    請求項1に記載の情報処理装置。
  5. 前記補間処理部は、
    前記補間方向情報により垂直方向が示された場合は垂直方向の画素を用いた垂直補間処理を行い、
    前記補間方向情報により水平方向が示された場合は水平方向の画素を用いた水平補間処理を行う
    請求項4に記載の情報処理装置。
  6. 前記補間方向情報に応じた補間方向で、ノイズリダクションのための平滑化処理を行う現像部を備えた
    請求項1に記載の情報処理装置。
  7. 前記投影装置が投影するテストパターンに応じた前記補間方向情報を取得する情報取得部を備えた
    請求項1に記載の情報処理装置。
  8. 前記情報取得部は、前記投影装置との通信により送信されてきた前記補間方向情報を取得する
    請求項7に記載の情報処理装置。
  9. 前記情報取得部は、前記投影装置の情報を取得して前記補間処理部又は撮像を行う撮像部の制御に供する
    請求項7に記載の情報処理装置。
  10. 撮像された画像信号について補間処理を行う情報処理装置による情報処理方法として、
    投影装置によって投影されるテストパターンの投影画像を撮像した画像信号に対して、前記テストパターンに応じた補間方向情報に基づいた補間方向での画素情報の補間処理を行う情報処理方法。
  11. 撮像された画像信号について補間処理を行う情報処理装置に、
    投影装置によって投影されるテストパターンの投影画像を撮像した画像信号に対して、前記テストパターンに応じた補間方向情報に基づいた補間方向での画素情報の補間処理を実行させるプログラム。
JP2020509695A 2018-03-29 2019-01-16 情報処理装置、情報処理方法、プログラム Active JP7342856B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018064441 2018-03-29
JP2018064441 2018-03-29
PCT/JP2019/001066 WO2019187510A1 (ja) 2018-03-29 2019-01-16 情報処理装置、情報処理方法、プログラム

Publications (2)

Publication Number Publication Date
JPWO2019187510A1 true JPWO2019187510A1 (ja) 2021-04-15
JP7342856B2 JP7342856B2 (ja) 2023-09-12

Family

ID=68058025

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020509695A Active JP7342856B2 (ja) 2018-03-29 2019-01-16 情報処理装置、情報処理方法、プログラム

Country Status (5)

Country Link
US (1) US11812204B2 (ja)
EP (1) EP3780586A4 (ja)
JP (1) JP7342856B2 (ja)
CN (1) CN111903121B (ja)
WO (1) WO2019187510A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023073851A1 (ja) * 2021-10-28 2023-05-04 日本たばこ産業株式会社 情報処理システム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013128217A (ja) * 2011-12-19 2013-06-27 Canon Inc 撮像装置
JP2017215374A (ja) * 2016-05-30 2017-12-07 パナソニックIpマネジメント株式会社 画像投影システムおよび画像投影方法

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH066816A (ja) 1992-06-16 1994-01-14 Sony Corp コンバージェンス調整装置およびその方法
JP2012029269A (ja) * 2010-06-21 2012-02-09 Sanyo Electric Co Ltd 撮像装置および投写型映像表示装置
CN103686029B (zh) 2013-11-29 2016-09-28 浙江大学 一种用于大屏幕多投影系统的视频像素对角插值方法
US10080004B2 (en) * 2014-11-06 2018-09-18 Disney Enterprises, Inc. Method and system for projector calibration
JP6794981B2 (ja) 2015-03-17 2020-12-02 ソニー株式会社 情報処理装置および方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013128217A (ja) * 2011-12-19 2013-06-27 Canon Inc 撮像装置
JP2017215374A (ja) * 2016-05-30 2017-12-07 パナソニックIpマネジメント株式会社 画像投影システムおよび画像投影方法

Also Published As

Publication number Publication date
EP3780586A4 (en) 2021-05-19
JP7342856B2 (ja) 2023-09-12
CN111903121A (zh) 2020-11-06
US20210099682A1 (en) 2021-04-01
US11812204B2 (en) 2023-11-07
CN111903121B (zh) 2024-08-27
WO2019187510A1 (ja) 2019-10-03
EP3780586A1 (en) 2021-02-17

Similar Documents

Publication Publication Date Title
US10554880B2 (en) Image processing system, imaging apparatus, image processing method, and computer-readable storage medium
WO2022179108A1 (zh) 投影校正方法、装置、存储介质和电子设备
RU2577533C1 (ru) Устройство обработки изображений, проектор и способ управления проектором
US10958883B2 (en) Projection control apparatus, projection apparatus, projection control method, and storage medium storing program
KR100600913B1 (ko) 화상 처리 시스템, 프로젝터 및 화상 처리 방법
US10281714B2 (en) Projector and projection system that correct optical characteristics, image processing apparatus, and storage medium
US20130222776A1 (en) Image projector, method of image projection, and computer-readable storage medium storing program for causing computer to execute image projection
US9342868B2 (en) Image display device, image display method, and image display program
JP2006060447A (ja) スクリーンの一部の辺を用いたキーストーン補正
JP2006033656A (ja) ユーザインタフェース提供装置
JP2010034964A (ja) 画像合成装置、画像合成方法及び画像合成プログラム
JP5242248B2 (ja) 欠陥検出装置、欠陥検出方法、欠陥検出プログラム、及び、記録媒体
JP2008187362A (ja) プロジェクタおよび投写画像調整方法
JP2005189542A (ja) 表示システム、表示プログラム、表示方法
CN109076186B (zh) 显示系统以及信息处理方法
US9049495B2 (en) Information processing system, information processing apparatus, control method of these, and storage medium
JP2018125819A (ja) 制御装置、制御方法、プログラム及び記憶媒体
JP7342856B2 (ja) 情報処理装置、情報処理方法、プログラム
JP6398235B2 (ja) 画像投影装置、画像投影システム、及び画像投影装置の制御方法
JP2018159838A (ja) 画像投影装置とその制御方法、プログラム及び記憶媒体
JP3914810B2 (ja) 撮像装置、撮像方法及びそのプログラム
JP2016014712A (ja) シェーディング補正値算出装置およびシェーディング補正値算出方法
JP2006259627A (ja) 画像処理装置及び画像処理方法とそのプログラム
JP2013109117A (ja) 画像表示装置、画像表示方法及びプログラム
JP2008054200A (ja) 撮像装置及び画像処理プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211203

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221206

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230110

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20230110

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230328

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230426

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230801

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230814

R151 Written notification of patent or utility model registration

Ref document number: 7342856

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151