JP2023161484A - 画像処理装置、方法及びプログラム - Google Patents
画像処理装置、方法及びプログラム Download PDFInfo
- Publication number
- JP2023161484A JP2023161484A JP2022071910A JP2022071910A JP2023161484A JP 2023161484 A JP2023161484 A JP 2023161484A JP 2022071910 A JP2022071910 A JP 2022071910A JP 2022071910 A JP2022071910 A JP 2022071910A JP 2023161484 A JP2023161484 A JP 2023161484A
- Authority
- JP
- Japan
- Prior art keywords
- value
- boundary
- correction
- exposure
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 93
- 238000000034 method Methods 0.000 title claims description 86
- 238000012937 correction Methods 0.000 claims abstract description 156
- 238000011156 evaluation Methods 0.000 claims abstract description 63
- 238000009795 derivation Methods 0.000 claims abstract description 3
- 238000001514 detection method Methods 0.000 claims description 12
- 238000003672 processing method Methods 0.000 claims description 4
- 238000003384 imaging method Methods 0.000 abstract description 35
- 239000011159 matrix material Substances 0.000 description 67
- 238000004364 calculation method Methods 0.000 description 36
- 238000006243 chemical reaction Methods 0.000 description 28
- 238000010586 diagram Methods 0.000 description 15
- 238000003708 edge detection Methods 0.000 description 15
- 230000002093 peripheral effect Effects 0.000 description 5
- 229920006395 saturated elastomer Polymers 0.000 description 2
- 238000009825 accumulation Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
Images
Landscapes
- Exposure Control For Cameras (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
Abstract
【課題】撮像センサに起因して生じる領域の間の誤差を適切に補正する。【解決手段】領域毎に露出設定可能な撮像センサにより撮像された画像データに対して補正をするための画像処理装置であって、前記領域の間の境界で生じる階調の段差を評価した評価値を導出する導出手段と、露出設定の誤差を補正する対象であるかを、前記領域の間の境界ごとに判定する判定手段と、前記判定した判定結果に応じて、前記導出した評価値を変更する変更手段と、前記導出した評価値、または前記変更した評価値に基づき露出設定の誤差を推定し、前記推定した露出設定の誤差を補正するための補正値を決定する決定手段と、前記生成した補正値を用いて画像データを調整するための調整値を更新する更新手段とを有する。【選択図】図3
Description
本開示は、高ダイナミックレンジの画像の撮像を制御する技術に関する。
カメラのダイナミックレンジは、撮像センサの飽和電子数とA/D変換後のビット精度とによって制限される。カメラのダイナミックレンジを広げるために、撮像センサの露出(露光時間やアナログゲイン)を部分的に変更する方法が種々開発されている。撮像センサの受光領域全体を複数の領域に分け、領域毎に露出を設定し、撮像センサにより得られたデジタル信号に対して、設定された露出から算出した領域毎の補正ゲインを乗じることで、領域毎の露出設定の違い(差)を補正する技術がある。しかし、撮像センサに起因して、露光時間やアナログゲインに設計値からの誤差が生じた場合、領域の間で露出が合わず領域の間の境界で階調の誤差が生じる場合がある。
この点、特許文献1では、撮像センサに起因して生じる領域の間の境界の誤差を推定し、推定した誤差を補正するための補正値を導出し、導出した補正値を用いて画像データを補正する技術を開示する。
特許文献1の技術では、例えば、領域の間の境界付近に被写体に対応する画像のエッジがあり、当該エッジにより画素値の変化がある場合、当該画素値の変化を、撮像センサに起因して生じた領域の間の境界の誤差として推定してしまう可能性があった。
本開示は、撮像センサに起因して生じる領域の間の誤差を適切に補正する技術を提供する。
上記の課題を解決するための本開示の一態様に係る画像処理装置は、領域毎に露出設定可能な撮像センサにより撮像された画像データに対して補正をするための画像処理装置であって、前記領域の間の境界で生じる階調の段差を評価した評価値を導出する導出手段と、露出設定の誤差を補正する対象であるかを、前記領域の間の境界ごとに判定する判定手段と、前記判定した判定結果に応じて、前記導出した評価値を変更する変更手段と、前記導出した評価値、または前記変更した評価値に基づき前記露出設定の誤差を推定し、前記推定した露出設定の誤差を補正する補正値を決定する決定手段と、前記決定した補正値を用いて前記画像データを調整するための調整値を更新する更新手段と、を有することを特徴とする。
本開示によれば、撮像センサに起因して生じる領域の間の誤差を適切に補正することができる。
以下、添付の図面を参照して、本開示の技術の実施形態を詳しく説明する。なお、以下の実施形態は特許請求の範囲に係る本開示の技術を限定するものでなく、また本実施形態で説明されている特徴の組み合わせの全てが本開示の技術の解決手段に必須のものとは限らない。なお。同一の構成要素または処理について同じ参照符号を付して説明する。
[実施形態1]
図1は、本実施形態に係る撮像装置100の概略構成例を示すブロック図である。本実施形態の撮像装置100は、一般的な撮像装置が有する各種の構成も備える画像処理装置であるが、図示および説明を簡潔にするために、図1には本実施形態に係る主要な構成部のみを示している。
図1は、本実施形態に係る撮像装置100の概略構成例を示すブロック図である。本実施形態の撮像装置100は、一般的な撮像装置が有する各種の構成も備える画像処理装置であるが、図示および説明を簡潔にするために、図1には本実施形態に係る主要な構成部のみを示している。
撮像装置100は、同期制御部101、撮像素子部103、A/D変換部104、露光補正部105、階調変換部106、画像出力部108、露光時間制御部109、ゲイン制御部110、露光条件算出部111、明るさ調整値補正部131を有する。
まず、本実施形態の撮像装置100について、撮像素子部103を起点として各構成部の概要を説明する。
撮像素子部103は、撮像領域を有する。撮像領域は、画素ブロックと呼ぶ領域で複数に分割される。撮像素子部103は、画素ブロック(領域)単位で駆動可能であり、各々の領域毎に異なった露光時間による露光動作(電荷の蓄積)を行える機能を有する。画素ブロックの詳細に関しては後述する。本実施形態の場合、撮像素子部103は、露光時間制御部109から供給される露光制御信号117によって各々の領域毎に露光時間が設定され、それら領域毎に設定された露光時間で露光を行う。露光制御信号117は、撮像素子部103の各領域に領域毎の露光時間を設定するための信号である。そして撮像素子部103は、領域毎に露光制御信号117によって設定された露光時間で各画素に蓄積した電荷を、画素電位118として読み出してA/D変換部104に出力する。
A/D変換部104は、撮像素子部103から読み出された画素電位118をアナログ/デジタル変換してデジタル値に変換する。本実施形態の場合、A/D変換部104には、ゲイン制御部110によって前述の各々の領域毎に対応したアナログゲイン121が設定される。A/D変換部104は、撮像素子部103から出力された画素電位118に対して領域毎にアナログゲイン121をかけた後、アナログ/デジタル変換してデジタル値に変換する。以下、A/D変換部104にて領域毎にアナログゲイン121をかけてアナログ/デジタル変換されたデジタル信号よりなる画像を、露光画像122と呼ぶ。A/D変換部104から出力された露光画像122は、明るさ調整値補正部131と露光条件算出部111と露光補正部105とに送られる。
露光条件算出部111は、露光画像122を基に、撮像が最適な条件となるように領域毎に露光時間112およびアナログゲイン値113を算出して更新する。具体的には、露光条件算出部111は、露光画像122の輝度分布を基に画素ブロック毎に画素値(輝度値)のヒストグラムを算出する。そして、露光条件算出部111は、明部側に画素値が分布していれば、より暗く撮像する設定値になるように領域毎に露光時間112およびアナログゲイン値113を変更(更新)する。また、露光条件算出部111は、暗部側に画素値が分布していれば、より明るく撮像する設定値になるように領域毎に露光時間112およびアナログゲイン値113を変更(更新)する。そして、領域毎の露光時間112の値は、露光時間制御部109と露光補正部105とに送られる。領域毎のアナログゲイン値113は、ゲイン制御部110と露光補正部105とに送られる。領域毎の露光時間112の値と領域毎のアナログゲイン値113は、明るさ調整値補正部131にも送られる。
明るさ調整値補正部131は、露光時間とアナログゲイン値に対する補正値を算出する。そして、明るさ調整値補正部131は、露光時間とアナログゲイン値から得られる明るさ調整値130に対し補正値を乗算して明るさ調整値130を更新し、更新後の明るさ調整値130を露光補正部105に出力する。なお、補正値が算出されない場合には、露光時間とアナログゲイン値から得られる明るさ調整値130がそのまま露光補正部105に出力されることになる。この明るさ調整値補正部131の動作に関しては後述する。
ここで、明るさ調整値130の考え方について説明する。明るさ調整値は、各領域の露光条件で撮像した信号値を、基準となる露光条件で撮像した時の信号値に換算するための換算係数を表す値である。
例えば、基準となる露光条件を露光条件Aとし、この露光条件Aでは、露光時間を1/30秒とし、アナログゲインを8倍とする。また、基準となる露光条件Aと異なる、露光時間を1/60秒とし、アナログゲインを2倍とする露光条件を露光条件Bとする。ある領域Cを露光条件Bで撮像した時の信号値をSBとする。露光条件Aと露光条件Bとの間には、露光時間についてBはAの1/2、アナログゲインについてBはAの1/4の関係にある。すなわち、領域Cを基準となる露光条件で撮像した時の信号値をSAとすると、SAとSBは次に示す関係が成立する。
SB=1/2×1/4×SA=1/8×SA
SB=1/2×1/4×SA=1/8×SA
すなわち、SAとSBは次に示す関係となる。この8倍の値が領域Cに対応する明るさ調整値となる。
SA=8×SB
SA=8×SB
また、同期制御部101は、同期した露光時間出力パルス120とゲイン出力パルス114とを生成する。同期制御部101は、生成した露光時間出力パルス120を露光時間制御部109に出力する。同期制御部101は、生成したゲイン出力パルス114をゲイン制御部110に出力する。これによって、同期制御部101は、露光時間制御部109の処理とゲイン制御部110の処理とを同期制御する。露光時間出力パルス120は、露光時間制御部109が露光制御信号117を撮像素子部103に出力するタイミングを制御するための信号である。露光時間制御部109は、露光時間出力パルス120に基づいて、露光制御信号117を撮像素子部103に出力することで、撮像素子部103の任意の画素ブロック毎に露光時間を変更する。また、ゲイン出力パルス114は、ゲイン制御部110がアナログゲイン121をA/D変換部104に出力するタイミングを制御するための信号である。ゲイン制御部110は、ゲイン出力パルス114に基づいて、アナログゲイン121をA/D変換部104に出力することで、任意の画素ブロック毎に画素電位にかけるゲインを変更する。このように本実施形態では、同期制御部101が、露光時間制御部109とゲイン制御部110を同期させて動作制御を行うことで、撮像素子部103の画素ブロック毎に露光時間とアナログゲインを適宜変えた露光画像122を出力できる。
露光時間制御部109は、露光時間出力パルス120と領域毎の露光時間112の値とを基に、領域毎の露光制御信号117を生成して、撮像素子部103に出力する。これにより、領域毎の露光時間112に応じた露光時間が、撮像素子部103に対して適切なタイミングで設定される。
ゲイン制御部110は、ゲイン出力パルス114のパルスのタイミングに合わせて領域毎のアナログゲイン値113を、撮像素子部103の領域毎の画素電位118に対する領域毎のアナログゲイン121として、A/D変換部104に出力する。これにより、A/D変換部104では、領域毎の画素電位118にそれぞれ対応した領域毎のアナログゲイン121がかけられた後にアナログ/デジタル変換が行われる。アナログ/デジタル変換が行われたデータは、領域毎の露光画像122として、露光補正部105に送られる。
露光補正部105は、A/D変換部104から送られてきた領域毎の露光画像122に対し、明るさ調整値130に基づく階調拡張処理を施して階調拡張後画像123を生成する。例えば入力される領域毎の露光画像122がどの条件で撮像されているかを、領域毎の露光時間112と領域毎のアナログゲイン値113より認識し、その条件に対応する明るさ調整値130を用いて領域毎の露光画像122を補正する。露光補正部105は、例えばビット数が10ビットで表される領域毎の露光画像122に対する階調拡張処理により、17ビットで表される階調拡張後画像123を生成する。そして、生成した階調拡張後画像123は、階調変換部106へ送られる。
階調変換部106は、階調拡張後画像123に対して階調変換を行い、その階調変換後画像124を画像出力部108へ出力する。本実施形態において、階調変換は、17ビットの階調拡張後画像123のガンマ変換により例えば11ビットの階調変換後画像124を生成する処理であるとする。なお、本実施形態における階調変換処理は、後段の処理においてデータレートを抑えるために行われる。本実施形態において露光画像122及び階調変換後画像124のビット長をそれぞれ10ビット及び11ビットとしたが、これらのビット長は一例であり、これに限定されない。
画像出力部108は、階調変換後画像124を、撮像装置100の後段の構成若しくは外部に出力する。
<撮像素子部103の構成>
図2は、撮像素子部103の構成例を説明するための図である。撮像素子部103の撮像領域は、複数の画素ブロック201を有する。さらに画素ブロック201は複数の画素202を有する。本実施形態では、撮像素子部103の撮像領域の幅206方向(水平ライン方向)の画素数が2000画素であり、高さ205方向の画素数が1000画素(つまり垂直方向における水平ライン数が1000ライン)であるとする。また、画素ブロック201の幅204方向(水平ライン方向)の画素数は100画素であり、高さ203方向の画素数は100画素(垂直方向における水平ラインの100ライン分)であるとする。この場合、撮像素子部103の撮像領域内における画素ブロック201の数は、水平方向が20個となり、垂直方向が10個となる。また図2の各画素ブロック201内に記載されている画素ブロック[0,0]~[19,9]は、撮像領域内の各画素ブロック201の位置を表しており、括弧[ ]内の値は撮像領域内における各画素ブロックの水平・垂直方向のインデックスを表している。図2において、撮像素子部103の例えば右上に位置している画素ブロック201の場合は、画素ブロック[19,0]となる。また、同一垂直方向のインデックスで表される画素ブロックの集合をブロック行と呼ぶこととする。すなわち、ブロック行Nは画素ブロック[0,N]~[19,N]からなる。例えばブロック行5は画素ブロック[0,5]~[19,5]からなる。なお、撮像素子部103および画素ブロック201のそれぞれのサイズ(縦方向および横方向の画素数)は前述の例に限定されるものではない。また、画素202の形状および縦横比についても限定されず、例えば正方形ではなく長方形であってもよい。さらに画素ブロック201は、1つの画素202のみで構成されていてもよい。
図2は、撮像素子部103の構成例を説明するための図である。撮像素子部103の撮像領域は、複数の画素ブロック201を有する。さらに画素ブロック201は複数の画素202を有する。本実施形態では、撮像素子部103の撮像領域の幅206方向(水平ライン方向)の画素数が2000画素であり、高さ205方向の画素数が1000画素(つまり垂直方向における水平ライン数が1000ライン)であるとする。また、画素ブロック201の幅204方向(水平ライン方向)の画素数は100画素であり、高さ203方向の画素数は100画素(垂直方向における水平ラインの100ライン分)であるとする。この場合、撮像素子部103の撮像領域内における画素ブロック201の数は、水平方向が20個となり、垂直方向が10個となる。また図2の各画素ブロック201内に記載されている画素ブロック[0,0]~[19,9]は、撮像領域内の各画素ブロック201の位置を表しており、括弧[ ]内の値は撮像領域内における各画素ブロックの水平・垂直方向のインデックスを表している。図2において、撮像素子部103の例えば右上に位置している画素ブロック201の場合は、画素ブロック[19,0]となる。また、同一垂直方向のインデックスで表される画素ブロックの集合をブロック行と呼ぶこととする。すなわち、ブロック行Nは画素ブロック[0,N]~[19,N]からなる。例えばブロック行5は画素ブロック[0,5]~[19,5]からなる。なお、撮像素子部103および画素ブロック201のそれぞれのサイズ(縦方向および横方向の画素数)は前述の例に限定されるものではない。また、画素202の形状および縦横比についても限定されず、例えば正方形ではなく長方形であってもよい。さらに画素ブロック201は、1つの画素202のみで構成されていてもよい。
そして、本実施形態において、各画素ブロック201で、露光時間とアナログゲインとが制御可能となっている。
ここで、露光時間は、撮像時において撮像素子部103の画素(受光素子)に電荷が蓄積される時間に相当する。このため、例えば撮像素子部103への入射光量が同じであり、画素が飽和しないとすると、露光時間が長いほど画素電位118は高くなり、明るく撮像できる。つまり、入射光量が同じで画素の飽和を考慮しない場合、例えば露光時間が1/480秒である場合と1/30秒である場合とを比較すると、1/30秒の場合の方が明るく撮像できることになる。
アナログゲインは、撮像時にA/D変換部104において画素電位118にかけられるゲインである。このため、アナログゲインの値が大きいほど、A/D変換部104から出力されるデジタル画素値(ゲインがかけられた後にアナログ/デジタル変換されたデジタル値)が大きい値となる。
図1に戻って、本実施形態の撮像装置100の構成および動作について、詳細に説明する。
撮像素子部103は、露光制御信号117に基づき、画素ブロック201単位で露光時間が制御されて撮像を行う。そして、撮像素子部103は、画素毎に蓄積された電荷に応じた画素電位118を出力する。
A/D変換部104は、撮像素子部103から出力された画素電位118に対し、撮像素子部103の画素ブロック毎に対応して設定されたアナログゲイン121をかけた後にデジタル変換を行って、露光画像122を出力する。なお、本実施形態において、露光画像122は10ビットのデジタル値であるとする。また、アナログゲイン121は、例えばゲイン値として、×1倍、×2倍、×4倍、×8倍の4つの値を取り得るものとする。
<明るさ調整値補正部131の動作>
次に、明るさ調整値130を決定する明るさ調整値補正部131の動作について、図を参照しながら説明する。図3は、明るさ調整値補正部131を説明するための図であり、図3(a)に明るさ調整値補正部131の構成例を示し、図3(b)に生成部304の構成例を示す。
次に、明るさ調整値130を決定する明るさ調整値補正部131の動作について、図を参照しながら説明する。図3は、明るさ調整値補正部131を説明するための図であり、図3(a)に明るさ調整値補正部131の構成例を示し、図3(b)に生成部304の構成例を示す。
明るさ調整値補正部131は、RAM301、境界評価部302、補正値算出部303を有する。補正値算出部303は、生成部304、算出部305、決定部306、明るさ調整値更新部307を有する。また、生成部304は、補正処理対象判定部308、変更部309、行列生成部310を含む。補正処理対象判定部308は、各画素ブロックの境界ごとに補正処理を行うかどうかを判定する。変更部309は、補正処理対象判定部308による判定結果に基づき評価値を変更する。行列生成部310は、係数行列を生成する。明るさ調整値更新部307は、決定部306で得られた補正値を用いて明るさ調整値を更新する。補正値算出部303の動作の詳細は後述する。
それぞれの構成要素の処理の実装形態は問わず、ハードウェアの回路として実装しても、ソフトウェアとして実装してCPUで処理する形態としてもよい。また、それらが混在してもよい。
RAM301は、例えば、境界評価部302で算出した平均値など、明るさ調整値補正部131内の各機能部で用いられるデータを一時的に保持する。
境界評価部302は、各画素ブロックの間の境界を示す境界情報を取得し、取得した境界情報を基に、入力される露光画像122に対して、画素ブロック境界の周辺画素の画素値を取得する。すなわち、境界評価部302は、境界を挟んで隣り合う2つの隣接画素の画素値(輝度値)を取得する。なお、境界情報は、着目画素ブロックと、着目画素ブロックと隣り合う隣接画素ブロックとの間の境界の位置を示す情報である。境界情報は、例えば、RAM301などに予め保持された情報であってもよいし、または露光画像122に付帯された情報であってもよいが、これに限定されない。そして、境界評価部302は、画素ブロック境界の周辺画素値の平均値を算出する。具体的には、境界評価部302は、注目画素ブロックと、注目画素ブロックと隣り合う隣接画素ブロックとの間の画素ブロック境界の周辺画素値の平均値をフレーム内の全ての画素ブロックに対して予め算出し、それをRAM301に保存しておく。なお、境界周辺は、注目画素ブロック内の境界周辺である、境界と隣り合う隣接画素と、隣接画素ブロック内の境界周辺である、境界と隣り合う隣接画素とを含む。そして、境界評価部302は、各画素ブロックの評価値を求める際に必要に応じてRAM301から読み出す。そのうえで、境界評価部302は、算出した平均値に対して、着目画素ブロックの露光時間112とアナログゲイン値113に対応する明るさ調整値130を用いて階調拡張処理を施す。階調拡張された平均値は、RAM301を通じて、補正値算出部303へ送られる。
次いで、補正値算出部303は、境界評価部302で階調拡張された平均値と、露光時間112と、アナログゲイン値113とに基づいて、明るさ調整値130を算出し、算出した明るさ調整値130を露光補正部105へ出力する。ただし、補正値が算出されて決定した場合には、算出した明るさ調整値130に対し補正値を乗算して明るさ調整値130を更新し、更新後の明るさ調整値130が露光補正部105へ出力される。
補正値算出部303の動作の詳細を説明する。そのためにまず、補正値算出部303で用いられる補正値を算出するための計算式について図を用いて説明する。図4は、画素ブロック[i,j]とその周囲の画素ブロックの位置関係を示す図である。本実施形態では、iは0から19の値を取りえ、jは0から9の値を取りうる。画素ブロック[i,j]と、画素ブロック[i,j]に対して上側で隣り合う隣接画素ブロック[i,j-1]との境界を上側境界と称する。画素ブロック[i,j]と、画素ブロック[i,j]に対して下側で隣り合う隣接画素ブロック[i,j+1]との間の境界を下側境界と称する。画素ブロック[i,j]と、画素ブロック[i,j]に対して左側で隣り合う隣接画素ブロック[i-1,j]との間の境界を左側境界と称する。画素ブロック[i,j]と、画素ブロック[i,j]に対して右側で隣り合う隣接画素ブロック[i+1,j]との間の境界を右側境界と称する。画素ブロック[i,j]の各境界周辺領域における画素値(以下、境界周辺画素値と称する。)の平均値を次に示すように表記する。すなわち、上側境界周辺画素値の平均値をTi,jと表記し、下側境界周辺画素値の平均値をBi,jと表記する。また、左側境界周辺画素値の平均値をLi,jと表記し、右側境界周画素値の平均値をRi,jと表記する。なお、各境界周辺領域は、例えば、各領域境界に隣接した1画素幅分であるとするが、これに限定されない。各境界周辺領域は、例えば、各領域境界に隣接した2画素幅分、4画素幅分、8画素幅分とすることも可能である。
境界周辺画素値の平均値から補正値を算出する処理として、画素ブロック[i,j]とその右側と下側に隣接する画素ブロック[i+1,j]と画素ブロック[i,j+1]との段差の誤差補正後の評価値Ei,jは、以下の(1)式で表現される。ここで、ΔFi,jは、画素ブロック[i,j]の明るさ調整値130の補正量を表す。
そして、評価値Ei,jを全ての領域(画素ブロック)で加算した総合評価値Eは、以下の(2)式で表現される。(2)式においては、1画面中に、横方向(水平方向)でM個の画素ブロックを持ち、縦方向(垂直方向)でN個の画素ブロックを持っているものとする。本実施形態においてはM=20となり、N=10となる。
画素ブロック間の境界の誤差を打ち消すようにすることは、この総合評価値Eを、最小化するΔFi,jを求めることになる。公知の最小二乗法の解法を用いると、以下の(3)式に示す行列の方程式を解くことと等価となる。すなわち、(3)式の左辺は、境界周辺画素値の平均値からなる要素を持つ行方向M×N次元、列方向M×N次元の係数行列(係数行列Aとする)と補正値のM×N行1列の補正値行列(行列Fとする)との積となる。(3)式の右辺は、定数からなる行列であり、M×N行1列で要素が全て1の行列となる。
また、ここで係数行列Aの(i+j×M)行目(u+v×M)列目の要素Ai,j,u,vは、以下の(4)式で表される。
ただし、画像端部に位置する画素ブロックの場合、画素ブロックの上側または左側または下側または右側には画素ブロックは存在しない。例えば、画素ブロック[0,0]の場合、画素ブロック[0,0]の上側や左側には画素ブロックは存在しない。このように画素ブロックが存在しない側の境界周辺画素値から係数行列への寄与は0とする。例えば画素ブロック[0,0]の場合、上述の(4)式のうち、以下の(5)式のように3つの係数行列の要素が生成され、画素ブロック[0,0]の上側((u,v)=(i,j-1))と左側((u,v)=(i-1,j))に当たる要素は生成されない。
以上のようにして、補正値算出のための行列の方程式が得られる。
<補正値算出部303の動作>
補正値算出部303の動作について、図を用いて説明する。図5は、補正値算出部303が実行する処理の流れを示すフローチャートである。なお、各処理の説明における記号「S」は、当該フローチャートにおけるステップであることを意味し、以後のフローチャートにおいても同様とする。各境界周辺画素値の平均値は、上述の通り、境界評価部302によって、露光画像122、露光時間112、アナログゲイン値113、明るさ調整値130に基づき導出された後にRAM301に保存されており、補正値算出部303に入力可能であるとする。境界周辺画素値の平均値は、撮像センサにより露出設定可能な領域の間の境界で生じる階調の段差を評価する際に用いられ、領域毎に導出されることから領域毎の評価値であるともいえる。
補正値算出部303の動作について、図を用いて説明する。図5は、補正値算出部303が実行する処理の流れを示すフローチャートである。なお、各処理の説明における記号「S」は、当該フローチャートにおけるステップであることを意味し、以後のフローチャートにおいても同様とする。各境界周辺画素値の平均値は、上述の通り、境界評価部302によって、露光画像122、露光時間112、アナログゲイン値113、明るさ調整値130に基づき導出された後にRAM301に保存されており、補正値算出部303に入力可能であるとする。境界周辺画素値の平均値は、撮像センサにより露出設定可能な領域の間の境界で生じる階調の段差を評価する際に用いられ、領域毎に導出されることから領域毎の評価値であるともいえる。
S501では、補正値算出部303(生成部304)は、入力された境界周辺画素値の平均値を基に、係数行列の生成を行う。例えば、撮像素子部103が、図2に示すように、横方向に20個あり、縦方向に10個あり、合計200個の画素ブロックを有する場合、補正値算出部303は、係数行列Aとして、行数が200行であり、列数が200列である正方行列を生成する。なお、係数行列の生成処理の詳細については、後述する。
S502では、補正値算出部303(算出部305)は、係数行列Aの逆行列を算出する。逆行列を求める方法は公知の方法を用いる。一例を挙げると、ガウス・ジョルダン法などの手法で逆行列を生成することが可能である。S502での算出結果として、係数行列Aの逆行列A-1が得られる。ただし、入力された係数行列Aに逆行列が存在しない場合、逆行列が得られないことになる。なお、係数行列Aの逆行列は、詳細につき後述する通り、露出設定の誤差を補正する補正値を算出する際に用いられることから、S502の逆行列算出処理は、評価値に基づき露出設定の誤差を推定しているともいえる。
S503では、補正値算出部303は、入力された係数行列に逆行列が存在するか判定する。入力された係数行列に逆行列が存在しないとの判定結果を得た場合(S503のNO)、逆行列が得られないことになる。その場合は、明るさ調整値の補正を行わないものと判断し、その後の補正値算出処理(S504)と明るさ調整値の更新処理(S505)を実行せずに、図5に示す処理を終了する。なお、このように補正値が算出されない場合には、境界評価部302で階調拡張された平均値と露光時間とアナログゲイン値とに基づき算出された明るさ調整値130がそのまま露光補正部105に出力されることになる。一方、入力された係数行列に逆行列が存在するとの判定結果を得た場合(S503のYES)、逆行列が得られることになる。その場合は、処理がS504に移行される。
S504では、補正値算出部303(決定部306)は、S502で得られた係数行列の逆行列A-1を基に、補正値を求める。すなわち、補正値算出部303は、上述の(3)式に対して両辺の左側から係数行列の逆行列A-1を乗算することにより、以下の(6)式に示すように補正値行列(行列F)を求める。
S505では、補正値算出部303(明るさ調整値更新部307)は、S504で求められた補正値行列の各要素を用いて明るさ調整値130の更新を実施する。すなわち、補正値算出部303は、各露光条件の明るさ調整値130に対して補正値ΔFi,jを乗算して明るさ調整値130を更新する。更新後の明るさ調整値130は、露光補正部105に送られることによって、次フレームの露光画像122に対して適用される。
<行列生成処理(S501)の詳細>
図6は、図5に示す行列生成処理(S501)の詳細な流れを示すフローチャートである。本実施形態では、画素ブロックごとの判定処理について説明する。なお、図6に示す処理は、補正値算出部303(生成部304)により実行される。
図6は、図5に示す行列生成処理(S501)の詳細な流れを示すフローチャートである。本実施形態では、画素ブロックごとの判定処理について説明する。なお、図6に示す処理は、補正値算出部303(生成部304)により実行される。
S601では、撮像素子部103が有する複数の画素ブロックのうち、一つの画素ブロックが選択される。選択された画素ブロックを着目画素ブロックと称する。本実施形態では、画素ブロックを[0,0],[1,0],…,[19.0],[0,1],…,[0,9],…,[19,9]のように左上から右下への順序で選択することとするが、別の順序であっても構わない。
S602では、S601で選択した画素ブロック(着目画素ブロック)に隣接する画素ブロックのうち1つの画素ブロックが隣接画素ブロックとして選択される。例えば、図2(a)に示す画素ブロック[0,0]が選択されている場合、画素ブロック[1,0]および画素ブロック[0,1]の2つが隣接画素ブロックの選択対象となり、どちらか一方が隣接画素ブロックとして選択される。
S603では、例えば、上述の(1)式に示したように、着目画素ブロックの境界の評価値のうち、S602で選択した隣接画素ブロックとの間の境界の評価値を算出する。S604では、S602で選択した隣接画素ブロックとの間の境界(ブロック間ともいう)を補正処理の対象(補正対象)とするか判定する。ブロック間を補正処理対象とするとの判定結果を得た場合(S604のYES)、処理がS606に移行される。ブロック間を補正処理対象としないとの判定結果を得た場合(S604のNO)、処理がS605に移行される。
本実施形態では、S604の判定方法として、例えば境界に対応する着目画素ブロックおよび隣接画素ブロックそれぞれの境界周辺領域に対応して読み出した画素値の差分(画素値差)と、予め定めされた閾値とを用いて判定する閾値判定方法を用いる。なお、判定方法は、これに限定されず、他の方法を用いてもよい。本実施形態では、例えば、画素値の差が予め定めた閾値より大きい場合、境界付近に何らかの撮像対象物(被写体)に対応する画像のエッジが存在すると判定する。この場合、エッジが存在する境界を補正処理対象としないと判定され(S604のNO)、処理がS605に移行される。他方、画素値の差が予め定めた閾値より小さい場合、境界付近に何らかの撮像対象物(被写体)のエッジ部分が存在しないと判定する。この場合、エッジが存在しない境界を補正処理対象とすると判定され(S604のYES)、処理がS606に移行される。
S605で、S602で選択した隣接画素ブロックとの間の境界(ブロック境界)の評価値を変更する。具体的には、補正処理の式における着目画素ブロックの補正値および隣接画素ブロックの補正値が、エッジ部分が存在する境界に対して近い値と評価されるよう、評価値を変更する。隣接する画素ブロックの評価値の変更に関して、右に存在する画素ブロックの評価値(以下、右)を左に存在する画素ブロックの評価値(以下、左)に合わせて変更するか、左を右に合わせて変更するか、両方を同じ値に合わせて変更するかはどれでもよい。同様に、下に存在する画素ブロックの評価値(以下、下)を上に存在する画素ブロックの評価値(以下、上)に合わせて変更するか、上を下に合わせて変更するか、両方を同じ値に合わせて変更するかはどれでもよい。本実施形態での変更方法の詳細に関しては後述する。
S606では、S602からS605の処理を、S601で選択した着目画素ブロックに対応する全ての隣接画素ブロックについて実行したか判定する。すなわち、全ての隣接画素ブロックを選択したか否かを判定する。全ての隣接画素ブロックを選択していないとの判定結果を得た場合(S606のNO)、処理がS602に戻される。他方、全ての隣接画素ブロックを選択したとの判定結果を得た場合(S606のYES)、処理がS607に移行される。
S607では、S601からS606の処理を全ての画素ブロックについて実行したか判定する。すなわち、全ての画素ブロックを選択したか否かを判定する。全ての画素ブロックを選択していないとの判定結果を得た場合(S607のNO)、処理がS601に戻される。他方、全ての画素ブロックを選択したとの判定結果を得た場合(S607のYES)、処理がS608に移行される。以上が画素ブロック単位の処理となる。
S608では、画素ブロック単位で取得し変更した評価値を用いて、係数行列を生成する。S608の処理が完了すると、図6に示すフローを終える。
本実施形態における画素ブロックの選択順および評価値の変更方法に関して図2および図4を用いて説明する。本実施形態では、S601にて図2(a)に示す左上の画素ブロック[0,0]から右下の画素ブロック[19,9]へ順に選択しいく。S602にて下に隣接する画素ブロックと右に隣接する画素ブロックを隣接画素ブロックとして選択し、S605にてブロック境界の評価値を変更する。例えば、図4において画素ブロック[i,j]と画素ブロック[i+1,j]との境界にエッジが検出されたとき、Li+1,jをRi,jで置き換える。置き換えの処理は、画素ブロック[i+1,j]を選択したときに実行される。すなわち、画素ブロック[i,j]を選択したときには当該境界のエッジの検出処理が実行されず、画素ブロック[i+1,j]を選択したときにエッジの検出処理および置き換え処理が実行される。また、画素ブロック[i,j]と画素ブロック[i,j+1]との境界にエッジが検出されたとき、Ti,j+1をBi,jで置き換える。エッジの検出処理および置き換え処理は、画素ブロック[i,j+1]を選択したときに実行される。既に選択済みの画素ブロックの評価値を変更しないことで、S601からS606の処理に並行して、S607以降の処理を段階的に行うことが可能となる。
以上、説明したように、本実施形態によれば、画素ブロックごとに補正処理の対象とするか否かを判定することにより、補正処理を行う必要がある境界に対してのみ適切に補正処理を実行することができる。
[実施形態2]
本実施形態に係る撮像装置について、図を用いて説明する。本実施形態では、実施形態1と異なる点を中心に説明する。
本実施形態に係る撮像装置について、図を用いて説明する。本実施形態では、実施形態1と異なる点を中心に説明する。
<明るさ調整値補正部の構成>
本実施形態に係る撮像装置が有する明るさ調整値補正部の構成例について、図を用いて説明する。図7は、本実施形態に係る明るさ調整値補正部を説明するための図であり、図7(a)に明るさ調整値補正部の構成例を示し、図7(b)に生成部の構成例を示す。本実施形態では、図3(b)に示す生成部304にエッジ検出部701が追加される。すなわち、本実施形態の生成部304は、補正処理対象判定部308、変更部309および行列生成部310に加え、エッジ検出部701を有する。
本実施形態に係る撮像装置が有する明るさ調整値補正部の構成例について、図を用いて説明する。図7は、本実施形態に係る明るさ調整値補正部を説明するための図であり、図7(a)に明るさ調整値補正部の構成例を示し、図7(b)に生成部の構成例を示す。本実施形態では、図3(b)に示す生成部304にエッジ検出部701が追加される。すなわち、本実施形態の生成部304は、補正処理対象判定部308、変更部309および行列生成部310に加え、エッジ検出部701を有する。
エッジ検出部701は、画素ブロックの境界に撮像対象物(被写体)に対応する画像のエッジが存在するか判定する。本実施形態では、判定方法として、例えば輝度平均値を比較して十分大きい場合にエッジが存在すると判定する方法を用いる。例えば、輝度平均値と予め求められた閾値とを比較して、当該輝度平均値が当該閾値より大きいか否かで判定する。閾値を求める方法としては、例えば、次の方法を用いることができる。すなわち、(1)エッジの無い撮像対象物(被写体)を、画素ブロックごとに露光条件を変えて試しに撮像する。(2)前述の(1)にて撮像したときの各画素ブロック(境界)の輝度平均値の差を求める。(3)前述の(2)で求められた輝度平均値の差の最大の値を、本実施形態に係る撮像装置で撮像を行うときの閾値とする。なお、判定方法は、これに限定されず、例えば、画面(撮像素子部)全体に何らかのオブジェクト検出処理を施し、当該境界付近にてエッジの存在を判定する方法などを用いてもよい。エッジの存在を判定する方法の詳細については後述する。エッジ検出部701による検出処理で得られた検出結果702は、補正処理対象判定部308に送られる。補正処理対象判定部308は、エッジ検出部701から送られた検出結果702を基に、補正処理対象であるか判定する。そして、補正処理対象判定部308は、この判定で得られた判定結果703を変更部309に出力する。
<行列生成処理の詳細>
本実施形態に係る補正値算出部303(生成部304)が実行する行列生成処理の詳細について、図を用いて説明する。図8は、本実施形態に係る行列生成処理の詳細な流れを示すフローチャートである。なお、図8に示す処理は、実施形態1における図5のS501の行列生成処理の詳細な流れに対応する。S801、S802、S806およびS807は、それぞれ図6のS601、S602、S606およびS607と同じであり、S801、S802、S806およびS807の説明を省略する。
本実施形態に係る補正値算出部303(生成部304)が実行する行列生成処理の詳細について、図を用いて説明する。図8は、本実施形態に係る行列生成処理の詳細な流れを示すフローチャートである。なお、図8に示す処理は、実施形態1における図5のS501の行列生成処理の詳細な流れに対応する。S801、S802、S806およびS807は、それぞれ図6のS601、S602、S606およびS607と同じであり、S801、S802、S806およびS807の説明を省略する。
S803では、着目画素ブロックと隣接画素ブロックとの間の境界周辺における輝度平均値を取得する。すなわち、着目画素ブロック内における境界周辺の輝度平均値と、隣接画素ブロック内における境界周辺の輝度平均値とを取得する。次に、S804では、輝度平均値の差を予め定めた閾値と比較し、輝度平均値の差が閾値以上(所定値以上)であるか判定する。閾値以上であるとの判定結果を得た場合(S804のYES)、処理がS805に移行される。他方、閾値未満であるとの判定結果を得た場合(S804のNO)、処理がS806に移行される。
S805では、ブロック境界の輝度平均値を変更する。例えば、着目画素ブロックの輝度平均値を隣接画素ブロックの輝度平均値と等しくする。このように輝度平均値の変更を行うことにより、ブロック境界においてエッジの輝度平均値の補正値への影響を減らすことができる。なお、輝度平均値の変更方法は、これに限定されず、実施形態1にて説明した評価値の変更方法と同じ方法を用いてもよい。また、画素ブロックの選択順についても、実施形態1にて説明した画素ブロックの選択順と同じ方法を用いてもよい。
S808では、画素ブロック単位で取得し変更した輝度平均値を用いて、係数行列を生成する。S808の処理が完了すると、図8に示すフローを終える。
以上、説明したように、本実施形態によれば、画素ブロックごとに輝度平均値を用いて境界付近のエッジを判定し、補正処理の対象とするか否かを判定することで、補正処理を行う必要がある境界に対してのみ補正処理を適切に行うことができる。
[実施形態3]
本実施形態に係る撮像装置について、図を用いて説明する。本実施形態では、実施形態1、2と異なる点を中心に説明する。
本実施形態に係る撮像装置について、図を用いて説明する。本実施形態では、実施形態1、2と異なる点を中心に説明する。
<明るさ調整値補正部の構成>
本実施形態に係る撮像装置が有する明るさ調整値補正部の構成例について、図を用いて説明する。図9は、本実施形態に係る明るさ調整値補正部を説明するための図であり、図9(a)に明るさ調整値補正部の構成例を示し、図9(b)に生成部の構成例を示す。本実施形態では、図3(b)に示す生成部304に露出設定比較部901が追加される。すなわち、本実施形態の生成部304は、補正処理対象判定部308、変更部309および行列生成部310に加え、露出設定比較部901を有する。
本実施形態に係る撮像装置が有する明るさ調整値補正部の構成例について、図を用いて説明する。図9は、本実施形態に係る明るさ調整値補正部を説明するための図であり、図9(a)に明るさ調整値補正部の構成例を示し、図9(b)に生成部の構成例を示す。本実施形態では、図3(b)に示す生成部304に露出設定比較部901が追加される。すなわち、本実施形態の生成部304は、補正処理対象判定部308、変更部309および行列生成部310に加え、露出設定比較部901を有する。
露出設定比較部901は、隣接する画素ブロック間にて、それぞれの画素ブロックに設定されている露光時間112およびアナログゲイン値113を比較し、それぞれの画素ブロックの露出設定が同一であるか判定する。すなわち、露出設定比較部901は、隣接する画素ブロックのうち一方に設定された露光時間112およびアナログゲイン値113と、隣接する画素ブロックのうち他方に設定された露光時間112およびアナログゲイン値113とを比較する。露出設定比較部901による比較処理で得られた比較結果902は、補正処理対象判定部308に送られる。補正処理対象判定部308は、露出設定比較部901から送られた比較結果902を基に、補正処理対象であるか判定する。そして、補正処理対象判定部308は、この判定で得られた判定結果703を変更部309に出力する。
<行列生成処理の詳細>
本実施形態に係る補正値算出部303(生成部304)が実行する行列生成処理の詳細について、図を用いて説明する。図10は、本実施形態に係る行列生成処理の詳細な流れを示すフローチャートである。なお、図10に示す処理は、実施形態1における図5のS501の行列生成処理の詳細な流れに対応する。S1001、S1002、S1007およびS1008は、それぞれ図6のS601、S602、S606およびS607と同じであり、S1001、S1002、S1007およびS1008の説明を省略する。
本実施形態に係る補正値算出部303(生成部304)が実行する行列生成処理の詳細について、図を用いて説明する。図10は、本実施形態に係る行列生成処理の詳細な流れを示すフローチャートである。なお、図10に示す処理は、実施形態1における図5のS501の行列生成処理の詳細な流れに対応する。S1001、S1002、S1007およびS1008は、それぞれ図6のS601、S602、S606およびS607と同じであり、S1001、S1002、S1007およびS1008の説明を省略する。
S1003では、着目画素ブロックの露光条件と隣接画素ブロックの露光条件とを取得する。次に、S1004では、着目画素ブロックと隣接画素ブロックとの間の境界周辺における輝度平均値を取得する。すなわち、着目画素ブロック内おける境界周辺の輝度平均値と、隣接画素ブロック内おける境界周辺の輝度平均値とを取得する。
S1005では、着目画素ブロックの露光条件と隣接画素ブロックの露光条件とが等しいか判定する。着目画素ブロックの露光条件と隣接画素ブロックの露光条件とが等しいとの判定結果を得た場合(S1005のYES)、処理がS1006に移行される。他方、着目画素ブロックの露光条件と隣接画素ブロックの露光条件とが等しくないとの判定結果を得た場合(S1005のNO)、処理がS1007に移行される。
S1006では、ブロック境界の輝度平均値を変更する。例えば、着目画素ブロックの輝度平均値を隣接画素ブロックの輝度平均値と等しくする。このように輝度平均値の変更を行うことにより、ブロック境界においてエッジの輝度平均値の補正値への影響を減らすことができる。なお、輝度平均値の変更方法は、これに限定されず、実施形態1にて説明した評価値の変更方法と同じ方法を用いてもよい。
S1009では、画素ブロック単位で取得し変更した輝度平均値を用いて、係数行列を生成する。S1009の処理が完了すると、図10に示すフローを終える。
以上、説明したように、本実施形態では、画素ブロックごとに隣接画素ブロックと露光条件を比較し、等しい場合は補正処理対象としないようにブロック境界の輝度平均値を変更する。これにより、補正処理を行う必要がある境界に対してのみ補正処理を適切に行うことができる。
また、本実施形態に係る補正処理対象判定部308による判定処理と、実施形態2に係る補正処理対象判定部308による判定処理とは排他的な関係ではなく、双方の判定処理を実行し、それぞれの判定結果に応じて輝度平均値を変更することも可能である。例えば、ブロック境界においてエッジが検出されるか、着目画素ブロックの露光条件と隣接画素ブロックの露光条件とが等しい場合に、ブロック境界の輝度平均値を変更し、いずれの判定結果も偽であった場合、輝度平均値を変更しないこととする。このようなフローに従い輝度平均値を変更することにより、複数の観点から補正処理の有効性を判定し、有効と判定された境界に対してのみ補正処理を適切に行うことが可能となる。
[実施形態4]
本実施形態に係る撮像装置について、図を用いて説明する。本実施形態では、実施形態1、2、3と異なる点を中心に説明する。
本実施形態に係る撮像装置について、図を用いて説明する。本実施形態では、実施形態1、2、3と異なる点を中心に説明する。
<明るさ調整値補正部の構成>
本実施形態に係る撮像装置が有する明るさ調整値補正部の構成例について、図を用いて説明する。図11は、本実施形態に係る明るさ調整値補正部を説明するための図であり、図11(a)に明るさ調整値補正部の構成例を示し、図11(b)に生成部の構成例を示す。本実施形態では、図3(b)に示す生成部304にエッジ検出部701が追加される。すなわち、本実施形態の生成部304は、補正処理対象判定部308、変更部309および行列生成部310に加え、エッジ検出部701を有する。
本実施形態に係る撮像装置が有する明るさ調整値補正部の構成例について、図を用いて説明する。図11は、本実施形態に係る明るさ調整値補正部を説明するための図であり、図11(a)に明るさ調整値補正部の構成例を示し、図11(b)に生成部の構成例を示す。本実施形態では、図3(b)に示す生成部304にエッジ検出部701が追加される。すなわち、本実施形態の生成部304は、補正処理対象判定部308、変更部309および行列生成部310に加え、エッジ検出部701を有する。
本実施形態のエッジ検出部701は、画素ブロックの境界の輝度平均値を取得し、取得した輝度平均値を基にエッジ強度を示すエッジ強度情報を取得する。そして。エッジ検出部701は、取得したエッジ強度情報を補正処理対象判定部308に出力する。そして、補正処理対象判定部308は、エッジ強度情報を基に尤度情報1102を生成し、生成した尤度情報1102を変更部309に出力する。
<行列生成処理の詳細>
本実施形態に係る補正値算出部303(生成部304)が実行する行列生成処理の詳細について、図を用いて説明する。図12は、本実施形態に係る行例生成処理の詳細な流れを示すフローチャートである。なお、図12に示す処理は、実施形態1における図5のS501の行列生成処理の詳細な流れに対応する。S1201、S1202、S1207およびS1208は、それぞれ図6のS601、S602、S606およびS607と同じであり、S1201、S1202、S1207およびS1208の説明を省略する。
本実施形態に係る補正値算出部303(生成部304)が実行する行列生成処理の詳細について、図を用いて説明する。図12は、本実施形態に係る行例生成処理の詳細な流れを示すフローチャートである。なお、図12に示す処理は、実施形態1における図5のS501の行列生成処理の詳細な流れに対応する。S1201、S1202、S1207およびS1208は、それぞれ図6のS601、S602、S606およびS607と同じであり、S1201、S1202、S1207およびS1208の説明を省略する。
S1203では、着目画素ブロックと隣接画素ブロックとの間の境界周辺における輝度平均値を取得する。すなわち、着目画素ブロック内における境界周辺の輝度平均値と、隣接画素ブロック内における境界周辺の輝度平均値とを取得する。次に、S1204では、エッジ検出部701が、着目画素ブロックと隣接画素ブロックとのブロック境界に対してエッジ検出処理を行い、強度情報1101を取得する。本実施形態のエッジ検出処理は、実施形態2と同様であり、その説明を省略する。強度情報1101は、検出したエッジ部分の画素値の変化の度合いや、エッジ部分が存在する確率を数値化したものであり、当該ブロック境界における輝度平均値の差や、検出結果の確からしさの情報を使って算出するが、算出方法はこれに限定されない。本実施形態では、強度情報1101の値が大きいほど画素値の変化の度合いが大きい、もしくは当該ブロック境界にエッジが存在する確率が高いとする。
次に、S1205では、補正処理対象判定部308は、強度情報1101を基に、尤度情報1102を出力する。尤度情報1102は、補正処理をすべきかどうか(当該ブロック境界の階調の段差が露出設定の誤差によるものかどうか)の確からしさを示す値であり、エッジ強度情報の値に応じて算出される。強度情報1101の値が大きい場合、当該ブロック境界においてエッジが存在する可能性が高いか、エッジによる画素値の変化が大きく、発生する階調の段差が補正処理に影響を及ぼす度合いが大きいと想定されるため、尤度情報1102の値は小さくなる。
S1206では、尤度情報1102に応じてブロック境界の輝度平均値を変更する。具体的には、着目画素ブロックの輝度平均値を、尤度情報1102の値に応じて、着目画素ブロックの輝度平均値を隣接画素ブロックの輝度平均値に近づける。このように輝度平均値を変更することにより、ブロック境界部分の画素値の補正値への影響を減らすことができる。尤度情報1102の値が最大値となる場合、当該ブロック境界の階調の段差は露出設定の誤差によるものと推定されるため、輝度平均値は変更しない。
S1209では、画素ブロック単位で取得し変更した輝度平均値を用いて、係数行列を生成する。S1209の処理が完了すると、図12に示すフローを終える。
以上、説明したように、本実施形態によれば、画素ブロックごとに境界付近のエッジの強度を判定し、補正処理結果に与える影響を調整することにより、境界におけるエッジの存在の確からしさに応じて補正処理を適切に行うことができる。
本実施形態の開示は、以下の構成例、方法例、およびプログラム例に代表される構成を含む。
(構成1)
領域毎に露出設定可能な撮像センサにより撮像された画像データに対して補正をするための画像処理装置であって、
前記領域の間の境界で生じる階調の段差を評価した評価値を導出する導出手段と、
露出設定の誤差を補正する対象であるかを、前記領域の間の境界ごとに判定する判定手段と、
前記判定した判定結果に応じて、前記導出した評価値を変更する変更手段と、
前記導出した評価値、または前記変更した評価値に基づき前記露出設定の誤差を推定し、前記推定した露出設定の誤差を補正する補正値を決定する決定手段と、
前記決定した補正値を用いて前記画像データを調整するための調整値を更新する更新手段と、
を有する、ことを特徴とする画像処理装置。
領域毎に露出設定可能な撮像センサにより撮像された画像データに対して補正をするための画像処理装置であって、
前記領域の間の境界で生じる階調の段差を評価した評価値を導出する導出手段と、
露出設定の誤差を補正する対象であるかを、前記領域の間の境界ごとに判定する判定手段と、
前記判定した判定結果に応じて、前記導出した評価値を変更する変更手段と、
前記導出した評価値、または前記変更した評価値に基づき前記露出設定の誤差を推定し、前記推定した露出設定の誤差を補正する補正値を決定する決定手段と、
前記決定した補正値を用いて前記画像データを調整するための調整値を更新する更新手段と、
を有する、ことを特徴とする画像処理装置。
(構成2)
前記境界の周辺にて被写体に対応する画像のエッジを検出する検出手段を有し、
前記判定手段は、前記検出手段が前記画像のエッジを検出した場合、前記画像のエッジを検出した前記境界の周辺を補正対象でないと判定する
ことを特徴とする、構成1に記載の画像処理装置。
前記境界の周辺にて被写体に対応する画像のエッジを検出する検出手段を有し、
前記判定手段は、前記検出手段が前記画像のエッジを検出した場合、前記画像のエッジを検出した前記境界の周辺を補正対象でないと判定する
ことを特徴とする、構成1に記載の画像処理装置。
(構成3)
前記検出手段は、前記境界の周辺にて輝度平均値の差が所定値以上であるときに、前記画像のエッジを検出する、ことを特徴とする構成2に記載の画像処理装置。
前記検出手段は、前記境界の周辺にて輝度平均値の差が所定値以上であるときに、前記画像のエッジを検出する、ことを特徴とする構成2に記載の画像処理装置。
(構成4)
前記露出設定を前記領域毎に比較する比較手段を有し、
前記判定手段は、前記比較手段が隣接する領域の露出設定を比較して同じ露出設定を検出した場合、前記比較した領域を補正対象でないと判定する
ことを特徴とする、構成1に記載の画像処理装置。
前記露出設定を前記領域毎に比較する比較手段を有し、
前記判定手段は、前記比較手段が隣接する領域の露出設定を比較して同じ露出設定を検出した場合、前記比較した領域を補正対象でないと判定する
ことを特徴とする、構成1に記載の画像処理装置。
(構成5)
前記変更手段は、前記判定手段が補正対象でないとの判定結果を得た場合、前記露出設定の誤差と推定されない値に前記評価値を変更する
ことを特徴とする、構成1から4の何れか一項に記載の画像処理装置。
前記変更手段は、前記判定手段が補正対象でないとの判定結果を得た場合、前記露出設定の誤差と推定されない値に前記評価値を変更する
ことを特徴とする、構成1から4の何れか一項に記載の画像処理装置。
(構成6)
前記検出手段は、前記境界における画像のエッジの強度情報を出力し、
前記判定手段は、前記出力した強度情報を基に、補正するかの確かさを示す尤度情報を出力し、
前記変更手段は、前記出力した前記尤度情報に応じて前記評価値を変更する
ことを特徴とする構成2に記載の画像処理装置。
前記検出手段は、前記境界における画像のエッジの強度情報を出力し、
前記判定手段は、前記出力した強度情報を基に、補正するかの確かさを示す尤度情報を出力し、
前記変更手段は、前記出力した前記尤度情報に応じて前記評価値を変更する
ことを特徴とする構成2に記載の画像処理装置。
(方法1)
領域毎に露出設定可能な撮像センサにより撮像された画像データに対して補正をするための画像処理方法であって、
前記領域の間の境界で生じる階調の段差を評価した評価値を導出する導出工程と、
露出設定の誤差を補正する対象であるかを、前記領域の間の境界ごとに判定する判定工程と、
前記判定した判定結果に応じて、前記導出した評価値を変更する変更工程と、
前記導出した評価値、または前記変更した評価値に基づき露出設定の誤差を推定し、前記推定した露出設定の誤差を補正するための補正値を決定する決定工程と、
前記決定した補正値を用いて前記画像データを調整するための調整値を更新する更新工程と、
を含む、ことを特徴とする画像処理方法。
領域毎に露出設定可能な撮像センサにより撮像された画像データに対して補正をするための画像処理方法であって、
前記領域の間の境界で生じる階調の段差を評価した評価値を導出する導出工程と、
露出設定の誤差を補正する対象であるかを、前記領域の間の境界ごとに判定する判定工程と、
前記判定した判定結果に応じて、前記導出した評価値を変更する変更工程と、
前記導出した評価値、または前記変更した評価値に基づき露出設定の誤差を推定し、前記推定した露出設定の誤差を補正するための補正値を決定する決定工程と、
前記決定した補正値を用いて前記画像データを調整するための調整値を更新する更新工程と、
を含む、ことを特徴とする画像処理方法。
(プログラム)
コンピュータを、構成1から6の何れか一つに記載の画像処理装置の各手段として機能させるためのプログラム。
コンピュータを、構成1から6の何れか一つに記載の画像処理装置の各手段として機能させるためのプログラム。
[その他の実施形態]
本開示は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
本開示は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
上述の画像処理装置は、例えば、デジタルスチルカメラ、デジタルカムコーダ、監視カメラ、複写機、ファックス、携帯電話、車載カメラ、観測衛星などに適用することが可能である。また、レンズなどの光学系と撮像装置とを備えるカメラモジュールにも適用することが可能である。
302 境界評価部
306 決定部
307 明るさ調整値更新部
308 補正処理対象判定部
309 変更部
306 決定部
307 明るさ調整値更新部
308 補正処理対象判定部
309 変更部
Claims (8)
- 領域毎に露出設定可能な撮像センサにより撮像された画像データに対して補正をするための画像処理装置であって、
前記領域の間の境界で生じる階調の段差を評価した評価値を導出する導出手段と、
露出設定の誤差を補正する対象であるかを、前記領域の間の境界ごとに判定する判定手段と、
前記判定した判定結果に応じて、前記導出した評価値を変更する変更手段と、
前記導出した評価値、または前記変更した評価値に基づき前記露出設定の誤差を推定し、前記推定した露出設定の誤差を補正する補正値を決定する決定手段と、
前記決定した補正値を用いて前記画像データを調整するための調整値を更新する更新手段と、
を有する、ことを特徴とする画像処理装置。 - 前記境界の周辺にて被写体に対応する画像のエッジを検出する検出手段を有し、
前記判定手段は、前記検出手段が前記画像のエッジを検出した場合、前記画像のエッジを検出した前記境界の周辺を補正対象でないと判定する
ことを特徴とする、請求項1に記載の画像処理装置。 - 前記検出手段は、前記境界の周辺にて輝度平均値の差が所定値以上であるときに、前記画像のエッジを検出する、ことを特徴とする請求項2に記載の画像処理装置。
- 前記露出設定を前記領域毎に比較する比較手段を有し、
前記判定手段は、前記比較手段が隣接する領域の露出設定を比較して同じ露出設定を検出した場合、前記比較した領域を補正対象でないと判定する
ことを特徴とする、請求項1に記載の画像処理装置。 - 前記変更手段は、前記判定手段が補正対象でないとの判定結果を得た場合、前記露出設定の誤差と推定されない値に前記評価値を変更する
ことを特徴とする、請求項1に記載の画像処理装置。 - 前記検出手段は、前記境界における画像のエッジの強度情報を出力し、
前記判定手段は、前記出力した強度情報を基に、補正するかの確かさを示す尤度情報を出力し、
前記変更手段は、前記出力した前記尤度情報に応じて前記評価値を変更する
ことを特徴とする請求項2に記載の画像処理装置。 - 領域毎に露出設定可能な撮像センサにより撮像された画像データに対して補正をするための画像処理方法であって、
前記領域の間の境界で生じる階調の段差を評価した評価値を導出する導出工程と、
露出設定の誤差を補正する対象であるかを、前記領域の間の境界ごとに判定する判定工程と、
前記判定した判定結果に応じて、前記導出した評価値を変更する変更工程と、
前記導出した評価値、または前記変更した評価値に基づき露出設定の誤差を推定し、前記推定した露出設定の誤差を補正するための補正値を決定する決定工程と、
前記決定した補正値を用いて前記画像データを調整するための調整値を更新する更新工程と、
を含む、ことを特徴とする画像処理方法。 - コンピュータを、請求項1に記載の画像処理装置の各手段として機能させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022071910A JP2023161484A (ja) | 2022-04-25 | 2022-04-25 | 画像処理装置、方法及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022071910A JP2023161484A (ja) | 2022-04-25 | 2022-04-25 | 画像処理装置、方法及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2023161484A true JP2023161484A (ja) | 2023-11-07 |
Family
ID=88650297
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022071910A Pending JP2023161484A (ja) | 2022-04-25 | 2022-04-25 | 画像処理装置、方法及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2023161484A (ja) |
-
2022
- 2022-04-25 JP JP2022071910A patent/JP2023161484A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5909540B2 (ja) | 画像処理表示装置 | |
US8605999B2 (en) | Signal processing apparatus and method, noise reduction apparatus and method, and program therefor | |
US10491815B2 (en) | Image-processing apparatus, image-processing method, and non-transitory computer readable medium storing image-processing program | |
JP6312487B2 (ja) | 画像処理装置及びその制御方法、並びに、プログラム | |
JP2014150443A (ja) | 撮像装置、その制御方法及びプログラム | |
JP2006129236A (ja) | リンギング除去装置およびリンギング除去プログラムを記録したコンピュータ読み取り可能な記録媒体 | |
JP2007088828A (ja) | 手ぶれ補正装置 | |
JP2016045240A (ja) | 画像処理装置、画像処理方法、および撮像装置並びにその制御方法 | |
US11080873B2 (en) | Image processing apparatus, image capturing apparatus, image processing method, and storage medium | |
JP2019205073A (ja) | 画像処理装置、画像処理方法、画像処理プログラム、及び、記憶媒体 | |
JP2016066848A (ja) | 撮像装置およびその制御方法 | |
JP2021111929A (ja) | 撮像装置、撮像装置の制御方法およびプログラム | |
JP2023161484A (ja) | 画像処理装置、方法及びプログラム | |
JPH1098644A (ja) | 動き検出装置 | |
JP4740008B2 (ja) | 手ぶれ検出装置およびデジタルカメラ | |
JP2023161488A (ja) | 画像処理装置、方法及びプログラム | |
JP2021047710A (ja) | 画像処理装置、画像処理方法、画像処理システム及びプログラム | |
JP2009065283A (ja) | 画像ぶれ補正装置 | |
JP5632703B2 (ja) | 画像処理装置、制御方法、及びプログラム | |
JP5029573B2 (ja) | 撮像装置及び撮像方法 | |
JP2023161259A (ja) | 画像処理装置、方法及びプログラム | |
JP2023161264A (ja) | 画像処理装置、方法及びプログラム | |
JP6671975B2 (ja) | 画像処理装置、撮像装置、画像処理方法およびコンピュータプログラム | |
CN112565588B (zh) | 图像处理设备、图像处理方法和存储介质 | |
JP2020047979A (ja) | 画像処理装置及び画像処理方法 |