JPWO2018155269A1 - 画像処理装置および方法、並びにプログラム - Google Patents

画像処理装置および方法、並びにプログラム Download PDF

Info

Publication number
JPWO2018155269A1
JPWO2018155269A1 JP2019501244A JP2019501244A JPWO2018155269A1 JP WO2018155269 A1 JPWO2018155269 A1 JP WO2018155269A1 JP 2019501244 A JP2019501244 A JP 2019501244A JP 2019501244 A JP2019501244 A JP 2019501244A JP WO2018155269 A1 JPWO2018155269 A1 JP WO2018155269A1
Authority
JP
Japan
Prior art keywords
psf
pattern
projector
image processing
test pattern
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019501244A
Other languages
English (en)
Inventor
晴香 三森
晴香 三森
統規 久保
統規 久保
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPWO2018155269A1 publication Critical patent/JPWO2018155269A1/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3191Testing thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3191Testing thereof
    • H04N9/3194Testing thereof including sensor feedback
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2504Calibration devices
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B21/00Projectors or projection-type viewers; Accessories therefor
    • G06T5/73
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/02Diagnosis, testing or measuring for television systems or their details for colour television signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/04Diagnosis, testing or measuring for television systems or their details for receivers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor

Abstract

本開示は、投影面内におけるPSFの位置と形状を求めることができるようにする画像処理装置および方法、並びにプログラムに関する。小パタンは、横7ドット×縦5ドット分の計35ドットを全て14画素間隔に配置し、さらに、1画素の幅の線(外枠)でそれらを囲ったものである。小パタンを複数配置され、スクリーン全体に投影するテストパタンをプロジェクタから投影し、その様子をカメラで撮影した画像から、プロジェクタのPSF(Point Spread Function:点広がり関数)が求められる。本開示は、例えば、プロジェクタで画像を投影し、プロジェクタにより投影された画像を撮像して、PSFを算出する投影撮像装置に適用することができる。

Description

本開示は、画像処理装置および方法、並びにプログラムに関し、特に、特殊デバイスでなくても、投影面内におけるPSFの位置と形状を求めることができるようにした画像処理装置および方法、並びにプログラムに関する。
投影面内のプロジェクタのPSF(Point Spread Function:点広がり関数)は、テストパタンを投影面内に投影し、それを撮影した画像から、その大きさの分布を推定し、それを用いて、投影面内のボケ補正を行う提案がなされている。例えば、非特許文献1においては、十字のテストパタンを投影面に複数並べたテストパタンが用いられている。
Michael S. Brown, Peng Song, Tat-Jen Cham,"Image Pre-conditioning for Out-of-Focus Projector Blur",Computer Vision and Pattern Recognition, 2006 IEEE Computer Society Conference on 09 October 2006 ,09 October 2006
しかしながら、上述した技術では、投影面内の各位置におけるPSFがどのような形状をしているか、また、プロジェクタ1画素のスケールに対するPSFを求めることが困難であった。
本開示は、このような状況に鑑みてなされたものであり、投影面内におけるPSFの位置と形状を求めることができるものである。
本技術の一側面の画像処理装置は、所定の領域内に1画素を所定の間隔に複数配置したものである小パタンを、投影面内全体に複数配置したテストパタンを投影し、投影されたテストパタンを撮像した撮像画像を用いて、投影面内の各位置におけるプロジェクタのPSF(Point Spread Function)を算出するPSF算出部を備える。
前記小パタンには、前記位置情報として、番号が付加されている。
前記小パタンには、前記位置情報として、2値コードが付加されている。
前記小パタンには、前記位置情報として、QRコード(登録商標)が付加されている。
前記PSF算出部は、前記撮像画像を用いて、カメラスケールのPSFとドットサイズとを算出するPSFドットサイズ算出部と前記PSFドットサイズ算出部により算出されたカメラスケールのPSFに対して、前記PSFドットサイズ算出部により算出されたドットサイズによってスケーリングすることで、プロジェクタのPSFを算出するプロジェクタPSF算出部とを備えることができる。
前記テストパタンは、Structured Light(SL)で用いられる。
前記テストパタンは、Imperceptible Structured Light(ISL)で用いられる。
本技術の一側面の画像処理方法は、画像処理装置が、所定の領域内に1画素を所定の間隔に複数配置したものである小パタンを、投影面内全体に複数配置したテストパタンを投影し、投影されたテストパタンを撮像した撮像画像を用いて、投影面内の各位置におけるプロジェクタのPSF(Point Spread Function)を算出する。
本技術の一側面においては、所定の領域内に1画素を所定の間隔に複数配置したものである小パタンを、投影面内全体に複数配置したテストパタンが投影される。そして、投影されたテストパタンを撮像した撮像画像を用いて、投影面内の各位置におけるプロジェクタのPSF(Point Spread Function)が算出される。
本技術によれば、投影面内におけるPSFの位置と形状を求めることができる。
なお、本明細書に記載された効果は、あくまで例示であり、本技術の効果は、本明細書に記載された効果に限定されるものではなく、付加的な効果があってもよい。
対応点検出の様子の例を示す図である。 ISLの例を説明する図である。 本技術を適用するテストパタンにおける小パタンの構成例を示す図である。 図3の小パタンを複数配置し、画内全体に投影する全体テストパタンの例を示す図である。 本技術を適用した投影撮像システムの構成例を示すブロック図である。 PSFドットサイズ算出部の構成例を示すブロック図である。 PSF算出処理について説明するブロック図である。 1つの小パタンのみを撮像した撮像画像の例を示す図である。 複数の小パタンを一度に撮像した撮像画像の例を示す図である。 カメラスケールPSFとドットサイズ算出処理について説明するフローチャートである。 小パタンに付加させる情報の例を示す図である。 小パタンに付加させる情報の例を示す図である。 小パタンに付加させる情報の例を示す図である。 小パタンに付加させる情報の例を示す図である。 外枠内に含まれる1ドットの数や配置を利用して位置情報を表したパタンの例を示す図である。 外枠内に含まれる1ドットの輝度を利用して位置情報を表したパタンの例を示す図である。 外枠内に含まれる1ドットのRGBチャンネルの値を利用して位置情報を表したパタンの例を示す図である。 本技術を適用したコンピュータのハードウエア構成例を示すブロック図である。
以下、本開示を実施するための形態(以下実施の形態とする)について説明する。
<背景>
プロジェクタおよびカメラの姿勢を推定するためには、プロジェクタ・カメラ間の対応点を検出する必要がある。この対応点検出処理は、一般的にStructured Light(SL:構造化光)と呼ばれる。
例えば、図1の例のように、プロジェクタ11から所定の絵柄の標準化光パタン12をスクリーン13に投影し、カメラ14によりその投影された標準化光パタン12を撮像して撮像画像15を得る。そして、その標準化光パタン12の絵柄に基づいて標準化光パタン12と撮像画像15との対応点を求め、その対応点に基づいて三角測量等によりプロジェクタ11とカメラ14の姿勢(位置関係)やスクリーン13の形状等を求め、その結果に基づいてプロジェクタおよびカメラの姿勢を推定することができる。
このようにプロジェクタ・カメラ間の対応点を検出するためには、プロジェクタから投影しようとしている画像(GrayCodeやDotおよびCheckerなどのパタン画像や、入力画像など)をカメラで撮像する必要がある。静止画像(パタン画像や静止画映像)であれば、常に同じ映像が投影されているので、撮像タイミングを合わせなくても、所望の画像が撮像でき、対応点を検出することができる。
動画像投影中に対応点を検出して、プロジェクタとカメラの姿勢を推定する方法をオンラインセンシングと呼ぶことにする。オンラインセンシングでの対応点検出には、動画像内に人間の目では知覚されないパタンを重畳して対応点検出を行うImperceptible Structured Light(ISL)(図2)や動画像内の特徴点を検出して特徴点同士の対応付けを行う方法などが挙げられる。
ISL方式は、所定のパタンの画像である構造化光パタンをポジ・ネガ反転させて投影画に埋め込み、人間に知覚されないように投影する技術である。
図2に示されるように、プロジェクタは、入力画像のあるフレームに対して所定の構造化光パタンを足すことにより、入力画像に構造化光パタンのポジ画像を合成したフレーム画像を生成し、入力画像のその次のフレームに対して構造化光パタンを引くことにより、入力画像に構造化光パタンのネガ画像を合成したフレーム画像を生成する。そしてプロジェクタは、それらのフレームを連続投影する。高速に切り替えられたポジ・ネガの2フレームは、積分効果により人間の目には足し合わされて知覚される。その結果、投影画像を視るユーザにとって、入力画像に埋め込まれた構造化光パタンを認識することが困難になる。
これに対して、カメラは、それらのフレームの投影画像を撮像し、両フレームの撮像画像の差分を求めることにより、撮像画像に含まれる構造化光パタンのみを抽出する。この抽出された構造化光パタンを用いて対応点検出が行われる。
このように、ISL方式では撮像画像の差分を求めるだけで容易に構造化パタンを抽出することができるので、投影する画像に依存せずに安定した精度で対応点検出を行うことができる。
<本技術のテストパタン>
本技術のテストパタンは、上述したSL方式やISL方式などで用いられるパタンである。本技術のテストパタンの基本構成としては、1ドット(1画素)を既知の間隔に複数配置したものを一領域における小パタンとして、これが投影面内に複数配置される。
図3は、本技術を適用するテストパタンにおける小パタンの構成例を示す図である。図3の例において、小パタンは、横7ドット×縦5ドット分の計35ドットを全て14画素間隔に配置し、さらに、1画素の幅の線(外枠)でそれらを囲ったものとして示されている。なお、外枠の幅は、1画素ではなく、数画素でもよいが、1画素の幅が好ましい。
なお、1ドットの数や各ドットの間隔の画素数(ドット間距離)はこの限りではなく、ドット数は2以上、ドット間隔距離は、プロジェクタのボケ度合いより十分大きい、あらゆる数の組み合わせにて適用可能である。また、ドット間距離は、小パタン内で全て同じである必要はなく、様々な大きさでドットを配置することも可能である。これによって、後述するドットサイズ算出の精度を上げることができる。
図4は、図3の小パタンを複数配置し、画内全体に投影する全体テストパタン(以下、単にテストパタンと称する)の例を示す図である。図4の例においては、小パタンを、横3つ×縦3つの計9つ配置した例が示されているが、配置する数は、この限りではない。
本技術においては、図4に示されるようなテストパタンをプロジェクタから投影し、その様子をカメラで撮影した画像から、プロジェクタのPSF(Point Spread Function:点広がり関数)が求められる。
なお、このとき、小パタンを配置した場所においてPSFを算出するが、算出されない場所においては、配置した場所から算出された周辺のPSFから線形補間などで算出することが可能である。
<投影撮像システムの構成例>
図5は、本技術を適用した投影撮像システムの構成例を示すブロック図である。図5の例において、投影撮像システム100は、投影撮像装置101およびスクリーン102により構成される。
図5の例において、投影撮像装置101は、プロジェクタ111、カメラ112、PSFドットサイズ算出部113、プロジェクタPSF算出部114、補正部115、出力制御部116、および記憶部117を含むように構成されている。
プロジェクタ111は、記憶部117からのテストパタンと補正部115からの補正画像を、必要に応じて、スクリーン102に投影する。カメラ112は、プロジェクタ111からスクリーンに投影されている投影画像を撮像し、撮像画像を生成して、PSFドットサイズ算出部113に供給する。
なお、プロジェクタ111も、カメラ112も複数台であってもよい。また、プロジェクタ111に対して、カメラ112が1台であってもよいし、複数のプロジェクタ111に対して、カメラ112が1台であってもよいし、複数のカメラ112に対して、プロジェクタ111が1台であってもよい。
PSFドットサイズ算出部113は、カメラ112からの撮像画像から、撮像画像におけるPSF(カメラスケールPSFと称する)と、撮像画像中でプロジェクタ1画素に相当する画素数(ドットサイズと称する)とを算出する。PSFドットサイズ算出部113は算出されたカメラスケールPSFとドットサイズとをプロジェクタPSF算出部114に供給する。
プロジェクタPSF算出部114は、PSFドットサイズ算出部113からのカメラスケールPSFとドットサイズとに基づいて、プロジェクタスケールPSFを算出し、算出したプロジェクタスケールのPSFを補正部115に供給する。
補正部115は、プロジェクタPSF算出部114からのプロジェクタスケールPSFを参照して、カメラ112からの撮像画像が正しく見えるように撮像画像を補正して、補正画像を生成し、生成した補正画像を、出力制御部116に出力する。
記憶部117は、テストパタンなどを記憶している。出力制御部116は、記憶部117のテストパタンまたは補正部115からの補正画像をプロジェクタ111に出力する制御を行う。
<PSFドットサイズ算出部の構成例>
図6は、PSFドットサイズ算出部の構成例を示すブロック図である。
図6の例において、PSFドットサイズ算出部113は、前処理部151、フレーム領域抽出部152、フレーム内ドット領域抽出部153、ドットピーク座標検出部154、およびドットサイズ算出部155を含むように構成されている。
前処理部151は、カラーで撮像されている入力データ(撮像画像)から、輝度画像やグレースケール画像など、1チャンネルの成分のみを抽出する前処理を行う。もし、撮像画像がRAWデータである場合には、現像処理もここに含まれる。
フレーム領域抽出部152は、前処理部151により抽出された1チャンネルのデータに含まれる撮像ノイズを2値化やラベリング処理などによって除去し、フレーム領域を抽出する。
フレーム内ドット領域抽出部153は、抽出されたフレーム内のみのデータに対して、さらに2値化やラベリング処理などにより撮像ノイズとドットの分離を行い、オブジェクトとしての面積が大きいものをドット領域とする。ここで、抽出されたドット領域がカメラスケールPSFである。フレーム内ドット領域抽出部153は、カメラスケールPSFをプロジェクタPSF算出部114に供給する。
ドットピーク座標検出部154は、フレーム内ドット領域抽出部153からのドット領域内の最高輝度点や重心点をドット座標として検出する。ドットサイズ算出部155は、ドットピーク座標検出部154により検出されたドット座標によって撮影画像に写っている各ドット間の距離を求めることができ、これらを各ドット間距離に対応するパタンにおける1ドットの間隔で除算することで、ドットサイズを算出する。ドットサイズ算出部155は、算出されたドットサイズを、プロジェクタPSF算出部114に供給する。
プロジェクタPSF算出部114は、フレーム内ドット領域抽出部153からのカメラスケールPSFに対して、ドットサイズ算出部155からのドットサイズによってスケーリング処理することにより、プロジェクタスケールPSFを求めることができる。
<投影撮像システムの動作例>
次に、図7のフローチャートを参照して、PSF算出処理について説明する。
ステップS111において、プロジェクタ111は、出力制御部116により記憶部117から読み出されたテストパタンを、スクリーンに向けて投影する。ステップS112において、カメラ112は、スクリーンに投影されたパタンを撮像して、撮像画像を生成して、PSFドットサイズ算出部113に供給する。
例えば、図8は、投影された1つの小パタンのみを撮像した撮像画像の例を示す図である。図9は、投影された複数の小パタンを一度に撮像した撮像画像の例を示す図である。
ステップS113において、PSFドットサイズ算出部113は、カメラ112からの撮像画像から、カメラスケールPSFとドットサイズとを算出する。このカメラスケールPSFとドットサイズの算出処理は、図10を参照して後述される。ステップS113の処理によりカメラスケールPSFとドットサイズとが算出され、プロジェクタPSF算出部114に供給される。
ステップS114において、プロジェクタPSF算出部114は、PSFドットサイズ算出部113からのカメラスケールPSFとドットサイズとに基づいて、プロジェクタスケールPSFを算出する。
次に、図10のフローチャートを参照して、図7のステップS113のカメラスケールPSFとドットサイズ算出処理について説明する。
ステップS131において、前処理部151は、カラーで撮像されている入力データ(撮像画像)から、輝度画像やグレースケール画像など、1チャンネルの成分のみを抽出する前処理を行う。
ステップS132において、フレーム領域抽出部152は、ステップS131により抽出された1チャンネルのデータに含まれる撮像ノイズを2値化やラベリング処理などによって除去し、フレーム領域を抽出する。例えば、図9を参照して上述したように、複数の小パタンを1枚の画像として撮像したものが入力となる場合には、複数フレームが抽出されることになる。この場合は、抽出したいパタンの大まかな座標を与えて、その座標に最も近いフレームを抽出するようにされる。
ステップS133において、フレーム内ドット領域抽出部153は、フレーム内ドット領域を抽出する。すなわち、フレーム内ドット領域抽出部153は、抽出されたフレーム内のみのデータに対して、さらに2値化やラベリング処理などにより撮像ノイズとドットの分離を行い、オブジェクトとしての面積が大きいものをドット領域とする。ここで、抽出されたドット領域がカメラスケールPSFである。フレーム内ドット領域抽出部153は、カメラスケールPSFをプロジェクタPSF算出部114に供給する。
ステップS134において、ドットピーク座標検出部154およびドットサイズ算出部155は、ドットサイズを算出する。すなわち、ドットピーク座標検出部154は、フレーム内ドット領域抽出部153からのドット領域内の最高輝度点や重心点をドット座標として検出する。ドットサイズ算出部155は、ドットピーク座標検出部154により検出されたドット座標によって撮影画像に写っている各ドット間の距離を求めることができ、これらを各ドット間距離に対応するパタンにおける1ドットの間隔で除算することで、ドットサイズを算出する。ドットサイズ算出部155は、算出されたドットサイズを、プロジェクタPSF算出部114に供給する。
以上のように、カメラスケールPSFとドットサイズとが算出されるので、図7のステップS114において、プロジェクタPSF算出部114は、フレーム内ドット領域抽出部153からのカメラスケールPSFに対して、ドットサイズ算出部155からのドットサイズによってスケーリング処理することにより、プロジェクタスケールPSFを求めることができる。
本技術においては、さらに、この小パタンを1つの領域として、パタンの外枠の周辺において、パタン毎に異なる番号やコードなどを付加させるようにする。これにより、各小パタンの配置された場所を特定することができるようになる。
<小パタンに付加させる情報の例>
図11乃至図17は、小パタンに付加させる情報の例を示す図である。
図11は、位置情報を番号として表示させたパタンの例を示す図である。例えば、図11の例においては、小パタンの外枠の左下に、位置情報である番号(06)が配置されている。
図12は、位置情報を2値コードで表示させたパタンの例を示す図である。例えば、図12の例においては、小パタンの外枠の上に、位置情報の番号を表す2値コードが配置されている。
図13は、位置情報をQRコードで表示させたパタンの例を示す図である。例えば、図13の例においては、小パタンの外枠の左下に、位置情報の番号を表すQRコードが配置されている。
なお、図11乃至図13の例において、各位置情報の配置される位置は、記載の例に限定されず、外枠の周辺であれば、どこでもよい。
図14は、位置情報をQRコードで表示させたパタンの他の例を示す図である。例えば、図14の例においては、位置情報の番号を表すQRコード内に小パタンが配置されている。
図14の例においては、QRコードの中央に小パタンを配置する例を説明したが、QRコード内であればどこでもよい。ただし、この例に限ることではないが、できるだけ、白の領域が少ないほうが好ましい。
図15は、外枠内に含まれる1ドットの数や配置を利用して位置情報を表したパタンの例を示す図である。例えば、太線で囲まれた5つの位置(左上隅、左下隅、右上隅、右上隅の直下、右下隅)のドットの表示/非表示により位置情報が表される。図15の例においては、太線で囲まれた5つの位置のうち、左上隅と右下隅が表示となり、左下隅、右上隅、右上隅の直下が非表示となっている。なお、図15の太線は、実際には表示されない。
図16は、外枠内に含まれる1ドットの輝度を利用して位置情報を表したパタンの例を示す図である。例えば、太線で囲まれた2つの位置(左上隅、右上隅)のドットの輝度を変化させることで位置情報が表される。図16の例においては、太線で囲まれた2つの位置の輝度が低くなっている。なお、図16の太線も、実際には表示されない。図15および図16の例の場合、太線で囲まれる対象の位置は、決まっていれば、どの位置でもかまわない。
図17は、外枠内に含まれる1ドットのRGBチャンネルの値を利用して位置情報を表したパタンの例を示す図である。例えば、外枠内に含まれる各ドットのRGBチャンネルの値を異なるものにさせることで位置情報が表される。図17の例においては、各ドットがRGBのいずれかで構成されている。
なお、図16および図17においては、輝度やRGBチャンネルの値が異なる1ドットの並び順を、位置に応じて変化させることで、位置情報を表現することも可能である。また、図17の例のように、RGB別々のドットを配置することで、RGBそれぞれのRSFを取得することも可能となる。
以上のように、本技術によれば、テストパタンを投影し、撮影した画像から、プロジェクタのスケールにおけるRGB別のPSFの形状と、各PSFに対応する投影面内における位置を求めることができる。
これにより、投影面全体を1つの画像に撮影する場合にも、各位置におけるパタンを個別に撮影する場合にも、絶対的なPSFの大きさを求めることができ、撮影時の制約緩和の効果がある。取得した各位置のPSFは、プロジェクタのレンズの評価やレンズボケ補正に利用することができるといった効果がある。
<パーソナルコンピュータ>
上述した一連の処理は、ハードウエアにより実行することもできるし、ソフトウエアにより実行することもできる。一連の処理をソフトウエアにより実行する場合には、そのソフトウエアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウエアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な汎用のパーソナルコンピュータなどが含まれる。
図18は、上述した一連の処理をプログラムにより実行するパーソナルコンピュータのハードウエアの構成例を示すブロック図である。
パーソナルコンピュータ500において、CPU(Central Processing Unit)501,ROM(Read Only Memory)502,RAM(Random Access Memory)503は、バス504により相互に接続されている。
バス504には、さらに、入出力インタフェース505が接続されている。入出力インタフェース505には、入力部506、出力部507、記憶部508、通信部509、及びドライブ510が接続されている。
入力部506は、キーボード、マウス、マイクロホンなどよりなる。出力部507は、ディスプレイ、スピーカなどよりなる。記憶部508は、ハードディスクや不揮発性のメモリなどよりなる。通信部509は、ネットワークインタフェースなどよりなる。ドライブ510は、磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリなどのリムーバブルメディア511を駆動する。
以上のように構成されるパーソナルコンピュータ500では、CPU501が、例えば、記憶部508に記憶されているプログラムを、入出力インタフェース505及びバス504を介して、RAM503にロードして実行する。これにより、上述した一連の処理が行われる。
コンピュータ(CPU501)が実行するプログラムは、リムーバブルメディア511に記録して提供することができる。リムーバブルメディア511は、例えば、磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disc)等)、光磁気ディスク、もしくは半導体メモリなどよりなるパッケージメディア等である。また、あるいは、プログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することができる。
コンピュータにおいて、プログラムは、リムーバブルメディア511をドライブ510に装着することにより、入出力インタフェース505を介して、記憶部508にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部509で受信し、記憶部508にインストールすることができる。その他、プログラムは、ROM502や記憶部508に、あらかじめインストールしておくことができる。
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要な段階で処理が行われるプログラムであっても良い。
また、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
また、本明細書において、システムとは、複数のデバイス(装置)により構成される装置全体を表すものである。
例えば、本開示は、1つの機能を、ネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。
また、以上において、1つの装置(または処理部)として説明した構成を分割し、複数の装置(または処理部)として構成するようにしてもよい。逆に、以上において複数の装置(または処理部)として説明した構成をまとめて1つの装置(または処理部)として構成されるようにしてもよい。また、各装置(または各処理部)の構成に上述した以外の構成を付加するようにしてももちろんよい。さらに、システム全体としての構成や動作が実質的に同じであれば、ある装置(または処理部)の構成の一部を他の装置(または他の処理部)の構成に含めるようにしてもよい。つまり、本技術は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示はかかる例に限定されない。本開示の属する技術の分野における通常の知識を有する者であれば、請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
なお、本技術は以下のような構成も取ることができる。
(1) 所定の領域内に1画素を所定の間隔に複数配置したものである小パタンを、投影面内全体に複数配置したテストパタンを投影し、投影されたテストパタンを撮像した撮像画像を用いて、投影面内の各位置におけるプロジェクタのPSF(Point Spread Function)を算出するPSF算出部を
備える画像処理装置。
(2) 前記テストパタンは、前記小パタンの投影面内における位置を示す位置情報が付加された前記小パタンが複数配置されて構成されている
前記(1)に記載の画像処理装置。
(3) 前記小パタンには、前記位置情報として、番号が付加されている
前記(2)に記載の画像処理装置。
(4) 前記小パタンには、前記位置情報として、2値コードが付加されている
前記(2)に記載の画像処理装置。
(5) 前記小パタンには、前記位置情報として、QRコードが付加されている
前記(2)に記載の画像処理装置。
(6) 前記テストパタンは、前記小パタン内の1画素の数、配置、輝度、および色の少なくとも1つを利用した位置情報が含まれる小パタンが複数配置されて構成されている
前記(1)に記載の画像処理装置。
(7) 前記PSF算出部は、前記撮像画像を用いて、カメラスケールのPSFとドットサイズとを算出するPSFドットサイズ算出部と
前記PSFドットサイズ算出部により算出されたカメラスケールのPSFに対して、前記PSFドットサイズ算出部により算出されたドットサイズによってスケーリングすることで、プロジェクタのPSFを算出するプロジェクタPSF算出部と
を備える前記(1)乃至(6)のいずれかに記載の画像処理装置。
(8) 前記テストパタンは、Structured Light(SL)で用いられる
前記(1)乃至(7)のいずれかに記載の画像処理装置。
(9) 前記テストパタンは、Imperceptible Structured Light(ISL)で用いられる
前記(1)乃至(7)のいずれかに記載の画像処理装置。
(10) 画像処理装置が、
所定の領域内に1画素を所定の間隔に複数配置したものである小パタンを、投影面内全体に複数配置したテストパタンを投影し、投影されたテストパタンを撮像した撮像画像を用いて、投影面内の各位置におけるプロジェクタのPSF(Point Spread Function)を算出する
画像処理方法。
(11) 所定の領域内に1画素を所定の間隔に複数配置したものである小パタンを、投影面内全体に複数配置したテストパタンを投影し、投影されたテストパタンを撮像した撮像画像を用いて、投影面内の各位置におけるプロジェクタのPSF(Point Spread Function)を算出するPSF算出部
として、コンピュータを機能させるプログラム。
100 投影撮像システム, 101 投影撮像装置, 102 スクリーン, 111 プロジェクタ, 112 カメラ, 113 PSFドットサイズ算出部, 114 プロジェクタPSF算出部,115 補正部, 116 出力制御部, 117 記憶部, 151 前処理部, 152 フレーム領域抽出部, 153 フレーム内ドット領域抽出部, 154 ドットピーク座標検出部, 155 ドットサイズ算出部

Claims (11)

  1. 所定の領域内に1画素を所定の間隔に複数配置したものである小パタンを、投影面内全体に複数配置したテストパタンを投影し、投影されたテストパタンを撮像した撮像画像を用いて、投影面内の各位置におけるプロジェクタのPSF(Point Spread Function)を算出するPSF算出部を
    備える画像処理装置。
  2. 前記テストパタンは、前記小パタンの投影面内における位置を示す位置情報が付加された前記小パタンが複数配置されて構成されている
    請求項1に記載の画像処理装置。
  3. 前記小パタンには、前記位置情報として、番号が付加されている
    請求項2に記載の画像処理装置。
  4. 前記小パタンには、前記位置情報として、2値コードが付加されている
    請求項2に記載の画像処理装置。
  5. 前記小パタンには、前記位置情報として、QRコードが付加されている
    請求項2に記載の画像処理装置。
  6. 前記テストパタンは、前記小パタン内の1画素の数、配置、輝度、および色の少なくとも1つを利用した位置情報が含まれる小パタンが複数配置されて構成されている
    請求項1に記載の画像処理装置。
  7. 前記PSF算出部は、前記撮像画像を用いて、カメラスケールのPSFとドットサイズとを算出するPSFドットサイズ算出部と
    前記PSFドットサイズ算出部により算出されたカメラスケールのPSFに対して、前記PSFドットサイズ算出部により算出されたドットサイズによってスケーリングすることで、プロジェクタのPSFを算出するプロジェクタPSF算出部と
    を備える請求項1に記載の画像処理装置。
  8. 前記テストパタンは、Structured Light(SL)で用いられる
    請求項1に記載の画像処理装置。
  9. 前記テストパタンは、Imperceptible Structured Light(ISL)で用いられる
    請求項1に記載の画像処理装置。
  10. 画像処理装置が、
    所定の領域内に1画素を所定の間隔に複数配置したものである小パタンを、投影面内全体に複数配置したテストパタンを投影し、投影されたテストパタンを撮像した撮像画像を用いて、投影面内の各位置におけるプロジェクタのPSF(Point Spread Function)を算出する
    画像処理方法。
  11. 所定の領域内に1画素を所定の間隔に複数配置したものである小パタンを、投影面内全体に複数配置したテストパタンを投影し、投影されたテストパタンを撮像した撮像画像を用いて、投影面内の各位置におけるプロジェクタのPSF(Point Spread Function)を算出するPSF算出部
    として、コンピュータを機能させるプログラム。
JP2019501244A 2017-02-27 2018-02-14 画像処理装置および方法、並びにプログラム Pending JPWO2018155269A1 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017034785 2017-02-27
JP2017034785 2017-02-27
PCT/JP2018/004980 WO2018155269A1 (ja) 2017-02-27 2018-02-14 画像処理装置および方法、並びにプログラム

Publications (1)

Publication Number Publication Date
JPWO2018155269A1 true JPWO2018155269A1 (ja) 2019-12-19

Family

ID=63252588

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019501244A Pending JPWO2018155269A1 (ja) 2017-02-27 2018-02-14 画像処理装置および方法、並びにプログラム

Country Status (4)

Country Link
US (1) US20200244937A1 (ja)
JP (1) JPWO2018155269A1 (ja)
CN (1) CN110313176A (ja)
WO (1) WO2018155269A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108632593B (zh) * 2018-05-31 2020-05-19 歌尔股份有限公司 彩色汇聚误差的修正方法、装置及设备
JP2020150303A (ja) * 2019-03-11 2020-09-17 ソニー株式会社 画像処理装置、画像処理方法、およびプログラム

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10303282A (ja) * 1997-04-30 1998-11-13 Ntn Corp XYθテーブル
JP2004109246A (ja) * 2002-09-13 2004-04-08 Minolta Co Ltd 投影システム
KR101021607B1 (ko) * 2006-09-15 2011-03-17 테쎄라 테크놀로지스 헝가리 케이에프티. 향상된 이미지 품질을 갖는 이미지 시스템 및 그와 관련된 방법
JP5219205B2 (ja) * 2008-10-24 2013-06-26 清水建設株式会社 移動体位置検出システム
DK2364458T3 (en) * 2008-11-14 2016-07-18 Dolby Laboratories Licensing Corp Custom psf'er operating light in clusters
JP5505007B2 (ja) * 2010-03-18 2014-05-28 富士通株式会社 画像処理装置、画像処理方法及び画像処理用コンピュータプログラム
JP6089424B2 (ja) * 2012-03-21 2017-03-08 セイコーエプソン株式会社 画像処理装置、プロジェクター、およびプロジェクターの制御方法
JP2014035304A (ja) * 2012-08-09 2014-02-24 Sanyo Electric Co Ltd 情報取得装置および物体検出装置
US10165263B2 (en) * 2013-09-30 2018-12-25 Nikon Corporation Point spread function estimation of optics blur
EP3063936B1 (en) * 2013-11-03 2020-09-30 Dolby Laboratories Licensing Corporation System and method for local dimming in multi-modulation displays
WO2016002510A1 (ja) * 2014-07-01 2016-01-07 ソニー株式会社 画像処理装置および方法
JP6590489B2 (ja) * 2015-03-03 2019-10-16 キヤノン株式会社 情報処理装置および方法
US10896648B2 (en) * 2015-03-27 2021-01-19 Sony Corporation Image display apparatus and projection unit for image correction based on pixel values
JP6794983B2 (ja) * 2015-03-27 2020-12-02 ソニー株式会社 情報処理装置、情報処理方法、プログラム、及び画像表示装置
US10326967B2 (en) * 2015-05-15 2019-06-18 Dolby Laboratories Licensing Corporation Control of light spreading with blurring element in projector systems
CN105222730B (zh) * 2015-08-31 2017-10-24 中国人民解放军信息工程大学 一种基于图像复原的工业ct几何尺寸测量方法

Also Published As

Publication number Publication date
WO2018155269A1 (ja) 2018-08-30
US20200244937A1 (en) 2020-07-30
CN110313176A (zh) 2019-10-08

Similar Documents

Publication Publication Date Title
US10002463B2 (en) Information processing apparatus, information processing method, and storage medium, for enabling accurate detection of a color
US20190098277A1 (en) Image processing apparatus, image processing method, image processing system, and storage medium
US11398049B2 (en) Object tracking device, object tracking method, and object tracking program
JP6570296B2 (ja) 画像処理装置、画像処理方法およびプログラム
US11143879B2 (en) Semi-dense depth estimation from a dynamic vision sensor (DVS) stereo pair and a pulsed speckle pattern projector
EP3241151A1 (en) An image face processing method and apparatus
KR20180054808A (ko) 이미지들 내의 움직임 검출
US20200389573A1 (en) Image processing system, image processing method and storage medium
JP2015060012A (ja) 画像処理システム、画像処理装置、画像処理方法および画像処理プログラム、ならびに、表示システム
US10469812B2 (en) Projection display system, information processing apparatus, information processing method, and storage medium therefor
JP2008009849A (ja) 人物追跡装置
US10496874B2 (en) Facial detection device, facial detection system provided with same, and facial detection method
JP2020197989A5 (ja) 画像処理システム、画像処理方法、およびプログラム
US10593044B2 (en) Information processing apparatus, information processing method, and storage medium
JP2014186505A (ja) 視線検出装置及び撮像装置
JP6365355B2 (ja) 画像生成装置および画像生成方法
JPWO2018155269A1 (ja) 画像処理装置および方法、並びにプログラム
US20190110032A1 (en) Image processing apparatus and method
JP2017212638A (ja) 表示装置、表示装置の制御方法、及びプログラム
WO2015198592A1 (ja) 情報処理装置、情報処理方法および情報処理プログラム
US20140140624A1 (en) Face component extraction apparatus, face component extraction method and recording medium in which program for face component extraction method is stored
JP6996493B2 (ja) 画像処理装置および方法
TWI641999B (zh) Eyeball recognition method and system
JP6516646B2 (ja) 複数のカメラで撮影した画像から個々の被写体を識別する識別装置、識別方法及びプログラム
JP6350331B2 (ja) 追尾装置、追尾方法及び追尾プログラム