JP6556033B2 - 画像処理装置、画像処理方法、及びプログラム - Google Patents
画像処理装置、画像処理方法、及びプログラム Download PDFInfo
- Publication number
- JP6556033B2 JP6556033B2 JP2015232269A JP2015232269A JP6556033B2 JP 6556033 B2 JP6556033 B2 JP 6556033B2 JP 2015232269 A JP2015232269 A JP 2015232269A JP 2015232269 A JP2015232269 A JP 2015232269A JP 6556033 B2 JP6556033 B2 JP 6556033B2
- Authority
- JP
- Japan
- Prior art keywords
- correction
- region
- feature amount
- area
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
特許文献1では、撮像画像を複数のブロックに分割し、撮像画像の画像周辺部(撮像画像端部)の輝度平均値と画像中央部の各ブロックの輝度との差、及び、画像周辺部の色平均値と画像中央部の各ブロックの色との差に基づき、主被写体領域を検出している。ここで、画像周辺部の輝度平均値及び色平均値と画像中央部の各ブロックの輝度及び色との差は、画像周辺部すなわち背景領域に対して、画像中央部のブロックの領域がどの程度前景になっているかを示す評価値と考えられる。このため、以下の説明では、その評価値を前景度と呼ぶことにする。
また、主被写体領域検出技術を採用したカメラは、撮影の際、撮像デバイスによる撮像画像から前述のように主被写体領域を検出し、その主被写体領域に対応した被写体に合焦させるようなAF(オートフォーカス)制御が行われる。このことから、主被写体領域の検出処理には即時性が求められることになり、例えば前述のような周辺光量落ちが発生している場合には、その周辺光量落ちによる影響を速やかに低減する必要がある。
<第1の実施形態>
図1は、本実施形態の画像処理装置の一例である撮像装置100の概略構成を示す図である。
図1において、レンズ101は、ズームレンズ、フォーカスレンズを含むレンズ光学系である。シャッタ102は、絞り機能を備えたメカニカルシャッタである。撮像部103は、CCDやCMOS素子等により構成され、レンズ101により撮像面上に形成された光学像を電気信号(撮像信号)に変換する。A/D変換器104は、撮像部103から出力されたアナログ撮像信号をデジタル撮像信号(撮像画像データ)に変換する。AFセンサ105は、CCDやCMOS素子等からなる複数のラインセンサにより構成されたAF(オートフォーカス)制御のためのセンサである。AF用A/D変換器106は、AFセンサ105から出力されたアナログ信号をデジタル信号に変換する。画像処理部107は、A/D変換器104から出力された撮像画像データに対し、ホワイトバランス処理やγ処理などの各種画像処理を行う。メモリ部108は、画像及び種々の補正量を記憶する。メモリ制御部109は、メモリ部108に対するデータの書き込みと読み出しを制御する。D/A変換器110は、メモリ制御部109を介して供給されたデジタル信号をアナログ信号に変換する。表示部111は、LCD(液晶ディスプレイ)等である。コーデック部112は、画像データを圧縮符号化・復号化する。記録媒体113は、画像データ等を記録するメモリカードやハードディスク等である。記録I/F114は、記録媒体113とのインタフェースである。主被写体領域検出部115は、撮像画像から主被写体の画像領域(以下、主被写体領域と表記する。)を検出する。システム制御部50は、撮像装置100のシステム全体を制御する。操作部120は、ユーザからの各種の操作指示を入力するための操作デバイスである。電源スイッチ121は電源をオン/オフするためのスイッチである。電源部122は、撮像装置100の各部に電力を供給する。不揮発性メモリ123は、電気的に消去・記録可能な例えばEEPROM等である。システムタイマ124は、各種制御に用いる時間や内蔵された時計の時間等を計測する。システムメモリ125は、システム制御部50の動作用の定数、変数、不揮発性メモリ123から読み出したプログラム等が展開されるメモリである。
撮像部103は、レンズ101及びシャッタ102を介して撮像面に入射した光を光電変換し、撮像信号としてA/D変換器104へ出力する。A/D変換器104は撮像部103から出力されたアナログ撮像信号をデジタル撮像信号に変換して画像処理部107に出力する。AFセンサ105は、レンズ101及びシャッタ102を介して入射した光を、それぞれが一対となされた複数のラインセンサにより分割受光して光電変換し、その受光信号をAF用A/D変換器106へ出力する。AF用A/D変換器106はAFセンサ105から出力されたアナログ信号をデジタル信号に変換して、システム制御部50に出力する。システム制御部50は、一対のラインセンサから出力された受光信号に基づいて、被写体からの光束の分割方向における相対的位置ずれ量を検出し、相対的な位置ずれ量に基づいてフォーカスレンズを駆動するAFの制御を行う、いわゆる位相差AF制御を行う。
図2は、主被写体領域検出部115の概略的な構成を示す図である。
主被写体領域検出部115は、背景領域設定部201、背景領域特徴量算出部202、特徴量補正量算出部203、背景領域特徴量補正部204、分割ブロック領域特徴量算出部205、前景度算出部206、主被写体領域抽出部207等を有して構成されている。主被写体領域検出部115は、メモリ部108から読み出された撮像画像データ及び周辺光量落ちの補正情報である補正ゲインデータが入力され、後述するようにして主被写体領域を検出する。
図4のフローチャートの処理は、例えば撮像装置100において撮像が開始されたときにスタートする。図4のフローチャートの処理がスタートすると、先ずS401の処理として、背景領域設定部201により背景領域の設定処理が行われる。背景領域とは、撮像画像内で背景とみなすことができる所定の領域、つまり、主被写体が存在しない可能性が高い画像領域のことである。本実施形態の場合、背景領域設定部201は、撮像画像内で背景とみなすことができる所定の背景領域を、撮像画像の画像枠の下端辺を除いた、上端辺と右端辺と左端辺の3辺に隣接した画像領域に設定する。
例えば、周辺光量落ちが発生している場合、画像周辺部の背景領域の各分割ブロック領域の特徴量は、周辺光量落ちがない場合と比較して小さくなる。一方で、画像中央付近の各分割ブロック領域の特徴量は、周辺光量落ちの影響をほとんど受けない。したがって、周辺光量落ちが発生している場合、例えば主被写体領域以外の他の被写体領域(背景被写体領域)に属する分割ブロック領域についても式(3)の差分値が大きくなって、その分割ブロック領域の前景度F[i]は大きな値となる。また、主被写体領域を検出する際には、前景度F[i]が大きい領域を主被写体領域として優先的に検出するようになされている。このため、周辺光量落ちにより例えば背景被写体領域の前景度F[i]が大きな値になっているような場合には、その背景被写体領域を主被写体領域として誤って検出してしまう可能性がある。このようなことから、本実施形態では、前述したように、背景領域特徴量補正部204において、背景領域に属する分割ブロック領域の特徴量に対して、周辺光量落ちを補正するゲイン量を乗じるようにしている。したがって、本実施形態によれば、主被写体領域の誤検出を少なくすることが可能になる。
第2の実施形態について、前述した第1の実施形態との差異を中心に説明する。なお、第2の実施形態の撮像装置100の構成は図1と同様である。
第1の実施形態では、画像周辺部の背景領域として、図5(b)や図5(c)に示したように、撮像画像の画像枠に接する門状の領域を定義したが、実際の撮影シーンでは、多くの場合、背景領域内には複数の被写体が存在している。図6には、主被写体602の他、背景領域601のなかに、例えば空605、地面606、木603、木の幹604の4種類の被写体が存在している画像例を示す。この図6の画像例の場合、空605、地面606、木603等の各被写体領域の一部が、背景領域に含まれている。ここで、第1の実施形態のように、前景度算出の際に、背景領域に対する周辺光量落ちの補正が行われた場合、各被写体領域のうち、背景領域に含まれている部分に対しては補正がなされるが、背景領域に含まれてない部分には補正がなされないことになる。このような場合、それら各被写体領域については、正確な前景度の評価ができなくなる。したがって、前景度算出において周辺光量落ちに対する補正を行う際には、背景領域に含まれる被写体領域ごとに特徴量を算出することが、より望ましいと考えられる。
第3の実施形態について、前述した第1の実施形態及び第2の実施形態との差異を中心に説明する。なお、第3の実施形態の撮像装置100の構成は図1と同様である。
第1,第2の実施形態では、背景領域に属する分割ブロック領域に対して周辺光量落ちの補正ゲインによる補正を行った後の背景領域特徴量を用いて、撮像画像の全ての分割ブロック領域について前景度算出を行っている。ここで、図10に示すように、着目する分割ブロック領域が、撮像画像の中心付近の分割ブロック領域Aである場合と、例えば画像周辺部の分割ブロック領域Bである場合ついて考えてみる。撮像画像の中心付近の分割ブロック領域Aは、周辺光量落ちの影響を略々受けていないため、第1,第2の実施形態で説明したような補正後の背景領域特徴量を用いた前述の前景度算出処理は有効である。一方、例えば画像周辺部の分割ブロック領域Bは元々周辺光量落ちの影響を受けており、この分割ブロック領域Bについて、第1,第2の実施形態のような補正後の背景領域特徴量を用いた前述の前景度算出処理を行うと、正しい前景度が得られないことになる。つまり、元々周辺光量落ちの影響を受けている画像周辺部の分割ブロック領域Bについては、前景度算出の際には、第1,第2の実施形態のような背景領域特徴量の補正は不要であると考えられる。このようなことから、第3の実施形態では、前景度算出の際には、着目する分割ブロック領域の位置すなわち像高に応じて、補正後の背景領域特徴量を用いるか否かを制御して、より正確な前景度を算出可能にする。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処7理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
Claims (13)
- 撮像画像を複数のブロックに分割した各ブロック領域の特徴量と、前記撮像画像の画像枠に接した所定の領域の特徴量とを求め、周辺光量落ちの補正が行われる際に用いられる補正情報に基づいて、前記所定の領域の前記特徴量を補正する補正手段と、
前記各ブロック領域の特徴量と前記所定の領域の前記補正が行われた後の特徴量とに基づいて、前記各ブロック領域と前記所定の領域との差異を表す評価値を求め、前記評価値に基づいて、前記撮像画像の中から主被写体領域を検出する検出手段と、
を有することを特徴とする画像処理装置。 - 前記補正情報は、撮像の際の光学系による周辺光量落ちに対応した補正が前記撮像画像に対して行われる際に用いられる補正ゲインの情報であり、
前記補正手段は、前記所定の領域の特徴量に対する前記補正として、前記補正ゲインを前記所定の領域の特徴量に乗ずることを特徴とする請求項1に記載の画像処理装置。 - 前記検出手段は、前記評価値が所定閾値よりも大きな値となる前記各ブロック領域の集合を前記主被写体領域として検出することを特徴とする請求項1または2に記載の画像処理装置。
- 前記補正手段は、前記撮像画像を複数のブロックに分割した各ブロック領域のうち、前記所定の領域に属するブロック領域ごとに求めた特徴量に対して、前記補正情報に基づく補正を行い、前記所定の領域に属する各ブロック領域の前記補正が行われた後の特徴量を加算して得られた特徴量を、前記所定の領域の前記補正が行われた後の特徴量とすることを特徴とする請求項1乃至3の何れか1項に記載の画像処理装置。
- 前記補正手段は、前記ブロック領域の特徴量として、前記ブロック領域の輝度値の平均値と色差値の平均値とを求めることを特徴とする請求項1乃至4の何れか1項に記載の画像処理装置。
- 前記補正手段は、前記撮像画像の各ブロック領域のうち前記所定の領域に属する各ブロック領域の特徴量に基づいて前記所定の領域を複数の分割領域に分けて、前記分割領域ごとに特徴量を求め、前記補正情報に基づいて、前記分割領域ごとの特徴量に対して補正を行い、
前記検出手段は、前記各ブロック領域の特徴量と、前記分割領域ごとの前記補正が行われた後の特徴量とに基づいて、前記評価値を求めることを特徴とする請求項1乃至5の何れか1項に記載の画像処理装置。 - 前記補正手段は、前記分割領域に属する各ブロック領域の、撮像画像内における像高値に基づいて、前記補正情報から、前記分割領域ごとの補正量を求め、前記分割領域ごとの補正量を用いて、前記分割領域ごとの特徴量に対する補正を行うことを特徴とする請求項6に記載の画像処理装置。
- 前記検出手段は、
前記評価値を求める際、前記ブロック領域の撮像画像内における像高値が、所定の像高値以下である場合には、前記所定の像高値以下の各ブロック領域の特徴量と前記所定の領域の前記補正が行なわれた後の特徴量とに基づいて、前記評価値を求め、
前記評価値を求める際、前記ブロック領域の撮像画像内における像高値が、前記所定の像高値より大きい場合には、前記所定の像高値より大きい各ブロック領域の特徴量と前記所定の領域の前記補正がなされる前の特徴量とに基づいて、前記評価値を求めることを特徴とする請求項1乃至7の何れか1項に記載の画像処理装置。 - 前記撮像画像に対して前記補正情報を用いた前記周辺光量落ちの補正が事前に行われている場合には、
前記補正手段は、前記補正情報に基づいた前記所定の領域の特徴量に対する補正を行わず、
前記検出手段は、前記各ブロック領域の特徴量と前記所定の領域の前記補正が行なわれていない特徴量とに基づいて、前記評価値を求めることを特徴とする請求項1乃至8の何れか1項に記載の画像処理装置。 - 前記補正手段は、前記撮像画像の撮像が行われているときの撮影条件に応じて、前記所定の領域の特徴量に対して前記補正を行う場合と、前記所定の領域の特徴量に対して前記補正を行わない場合とを切り替え、
前記検出手段は、
前記所定の領域の特徴量の補正が行われた場合には、前記各ブロック領域の特徴量と前記所定の領域の前記補正が行われた後の特徴量とに基づいて前記評価値を求め、
前記所定の領域の特徴量の補正が行われていない場合には、前記各ブロック領域の特徴量と前記所定の領域の前記補正が行われていない特徴量とに基づいて前記評価値を求めることを特徴とする請求項1乃至9の何れか1項に記載の画像処理装置。 - 前記補正手段は、
前記撮影条件が、前記撮像画像に対して周辺光量落ちの補正が必要になる撮影条件である場合には、前記所定の領域の特徴量に対して前記補正を行い、
前記撮影条件が、前記撮像画像に対して周辺光量落ちの補正が必要ない撮影条件である場合には、前記所定の領域の特徴量に対して前記補正を行わないことを特徴とする請求項10に記載の画像処理装置。 - 補正手段が、撮像画像を複数のブロックに分割した各ブロック領域の特徴量と、前記撮像画像の画像枠に接した所定の領域の特徴量とを求め、周辺光量落ちの補正が行われる際に用いられる補正情報に基づいて、前記所定の領域の前記特徴量を補正するステップと、
検出手段が、前記各ブロック領域の特徴量と前記所定の領域の前記補正が行われた後の特徴量とに基づいて、前記各ブロック領域と前記所定の領域との差異を表す評価値を求め、前記評価値に基づいて、前記撮像画像の中から主被写体領域を検出するステップと、
を含むことを特徴とする画像処理方法。 - コンピュータを、請求項1乃至11の何れか1項に記載の画像処理装置の各手段として機能させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015232269A JP6556033B2 (ja) | 2015-11-27 | 2015-11-27 | 画像処理装置、画像処理方法、及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015232269A JP6556033B2 (ja) | 2015-11-27 | 2015-11-27 | 画像処理装置、画像処理方法、及びプログラム |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2017098900A JP2017098900A (ja) | 2017-06-01 |
JP2017098900A5 JP2017098900A5 (ja) | 2018-12-13 |
JP6556033B2 true JP6556033B2 (ja) | 2019-08-07 |
Family
ID=58817477
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015232269A Expired - Fee Related JP6556033B2 (ja) | 2015-11-27 | 2015-11-27 | 画像処理装置、画像処理方法、及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6556033B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018225360A1 (ja) * | 2017-06-08 | 2018-12-13 | 富士フイルム株式会社 | 撮像装置、撮像装置の制御方法、及び撮像装置の制御プログラム |
-
2015
- 2015-11-27 JP JP2015232269A patent/JP6556033B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2017098900A (ja) | 2017-06-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7003238B2 (ja) | 画像処理方法、装置、及び、デバイス | |
US9607240B2 (en) | Image processing apparatus, image capturing apparatus, image processing method, image capturing method, and non-transitory computer-readable medium for focus bracketing | |
US9204034B2 (en) | Image processing apparatus and image processing method | |
EP3480784B1 (en) | Image processing method, and device | |
US20130307966A1 (en) | Depth measurement apparatus, image pickup apparatus, and depth measurement program | |
JP6833415B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
US9865064B2 (en) | Image processing apparatus, image processing method, and storage medium | |
TWI496105B (zh) | 影像合成裝置及用於影像合成之電腦程式 | |
US20180182075A1 (en) | Image processing apparatus, image capturing apparatus, method of image processing, and storage medium | |
US10121067B2 (en) | Image processing apparatus that determines processing target area of an image based on degree of saliency, image processing method, and storage medium | |
US10311327B2 (en) | Image processing apparatus, method of controlling the same, and storage medium | |
US11080873B2 (en) | Image processing apparatus, image capturing apparatus, image processing method, and storage medium | |
JP5949559B2 (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
JP6564284B2 (ja) | 画像処理装置および画像処理方法 | |
JP6556033B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP6348883B2 (ja) | 画像撮像装置、画像撮像方法及びコンピュータプログラム | |
JP6762779B2 (ja) | 画像処理装置、撮像装置、画像処理方法、及びプログラム | |
JP2020086216A (ja) | 撮像制御装置、撮像装置及び撮像制御プログラム | |
US11838645B2 (en) | Image capturing control apparatus, image capturing control method, and storage medium | |
US11533440B2 (en) | Apparatus, method, and storage medium each relating to image composition | |
JP7458723B2 (ja) | 画像処理装置、撮像装置、制御方法、およびプログラム | |
JP6331363B2 (ja) | 被写体特定装置、撮像装置およびプログラム | |
JP5853369B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2017182668A (ja) | データ処理装置、撮像装置、及びデータ処理方法 | |
JP6314281B1 (ja) | 画像処理方法及び前景領域取得方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20181031 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20181031 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190605 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190611 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190709 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6556033 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
LAPS | Cancellation because of no payment of annual fees |