JP2010045457A - 画像処理装置および画像処理方法 - Google Patents

画像処理装置および画像処理方法 Download PDF

Info

Publication number
JP2010045457A
JP2010045457A JP2008206392A JP2008206392A JP2010045457A JP 2010045457 A JP2010045457 A JP 2010045457A JP 2008206392 A JP2008206392 A JP 2008206392A JP 2008206392 A JP2008206392 A JP 2008206392A JP 2010045457 A JP2010045457 A JP 2010045457A
Authority
JP
Japan
Prior art keywords
correction amount
face
focus
image
range
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008206392A
Other languages
English (en)
Other versions
JP5127628B2 (ja
Inventor
Yoshitaka Takeuchi
義尊 竹内
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2008206392A priority Critical patent/JP5127628B2/ja
Publication of JP2010045457A publication Critical patent/JP2010045457A/ja
Application granted granted Critical
Publication of JP5127628B2 publication Critical patent/JP5127628B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

【課題】好ましい撮影結果となるように階調特性の補正を行なう。
【解決手段】撮像素子102から出力された画像信号に対して顔検出を行って顔の範囲を検出し、顔検出された顔の範囲に対する補正量を求める。撮像素子102で瞳分割位相差方式で領域毎に求められたデフォーカス量に応じて、デフォーカス量が大きくなるにつれ徐々に重み付けが小さくなる重み付け係数を決定する。デフォーカス量と光学撮影レンズ101から求められた焦点位置とに基づき、撮影距離が遠くなると急激に重み付けが小さくなる重み付け係数を決定する。これらデフォーカス量および撮影距離に基づく重み付け係数を顔の範囲に対する補正量に適用し、重み付けされた補正量で、撮像素子から出力された画像信号における顔の範囲の階調特性を補正する。
【選択図】図5

Description

本発明は、画像処理装置および画像処理方法に関し、特には、撮像素子を用いて撮影された画像に対して階調補正を行う撮像装置に用いて好適な画像処理装置および画像処理方法に関する。
従来から、撮像素子から出力された撮像信号は、現像と呼ばれる処理を介して画像データに変換されて、記録媒体への記録や表示デバイスに対する表示に用いられる。この現像処理においては、撮像素子から出力された信号に対して、予め設定されている階調特性に応じた信号処理を施し、画像データを得る。
例えば、図11に例示されるように、画像データの入出力特性を示すテーブル(トーンカーブと呼ばれる)を複数用意する。図11において、横軸および縦軸は、それぞれ入力画像データおよび出力画像データの輝度値を対数軸で示す。図11の例では、トーンカーブ300〜302の3種類が用意され、入力された画像データの階調特性を、選択されたトーンカーブに従い変換する。このような階調特性の変換処理を、γ処理と呼ぶ。なお、この例では、階調特性の変換を行うと共に、データ長の変換も行う。
ユーザは、トーンカーブ300〜302から、例えば画像データの出力先に応じて適正な画像特性となるようなトーンカーブを選択し、画像データに対するγ処理を行う。トーンカーブは、例えば、中間輝度領域には、対数で表された入力信号に比例した特性が与えられ、高輝度領域と低輝度領域は、入力された原画像データの階調性をできるだけ失わないように圧縮する特性が与えられる。
近年では、さらに、特許文献1のように、撮影した画像の画面内を分割した各領域でヒストグラムを検出し、このヒストグラムを参照して画面全体に対して処理する最適の階調特性(トーンカーブ)を自動的に決定する方式が提案されている。
加えて、特許文献1では、分割した各領域の画像データから鮮鋭度(コントラスト状態)を検出し、鮮鋭度が高い領域を主被写体と認定するようにしている。鮮鋭度の大きさに応じて、主被写体の領域のヒストグラムを重要視するように重み付けを行なってから、階調特性を決定している。
特開2003−046778号公報
しかしながら、上述の特許文献1に記載される方法では、処理結果が被写体自体の持つ画像の周波数特性に大きく依存する可能性があるという問題点があった。
例えば、撮像光学系の焦点位置を、撮像光学系による撮影範囲内にある複数の被写体のうち一つ(主被写体と呼ぶ)に合わせて撮影する場合について考える。この場合、主被写体部分の画像が持つ高周波成分が少なく、且つ、主被写体ではない位置の被写体の画像が高周波成分を多く持つ場合がある。
このとき、主被写体の画像よりも高周波成分を多く持つ当該被写体の画像は、撮影時に焦点が合っていなくても、撮影された画像データから検出される鮮鋭度の値が主被写体の鮮鋭度の値よりも大きくなる可能性がある。このような場合、適正なヒストグラム検出ができず、不適切な階調特性でγ処理を行ってしまうおそれがあるという問題点があった。
一方、撮影した画面の中の一部の領域のみについて輝度値を変換し、適切な画像データを得ることが考えられる。この場合、画面全体に一律に与えた階調特性を用いて対象となる領域の輝度値を補正すると、主被写体以外の、輝度値が主被写体と近い、主被写体とは相関の小さい領域にも同様な階調特性を与えることになり、不自然な画像を出力してしまう場合がある。
一例として、図12に示す被写体のように、複数の人物310〜312が被写体として撮影範囲にある場合について考える。図12の例では、主被写体が人物310だけであって、人物310〜312のうち撮影距離が最も近いものとする。また、主被写体以外の人物311および312は、撮影距離が主被写体と異なると共に、焦点が合っていないものとする。
この図12のような場合、特許文献1の階調特性の補正方法によると、主被写体である人物310の画像に対しては、適切な階調特性が与えられ、好ましい画質に仕上げることができる。一方、主被写体よりも撮影距離が遠い人物311および/または312の画像の輝度値が、主被写体である人物310の画像の輝度値と近い場合、人物311および/または312に対して、人物310と同様の階調特性が与えられることになる。この場合、人物311および/または312の画像に対する輝度値の補正が、背景の画像に対して不自然に行われてしまい、見苦しい撮影結果となるおそれがあるという問題点があった。
したがって、本発明の目的は、好ましい撮影結果となるように階調特性の補正を行なうことができる画像処理装置および画像処理方法を提供することにある。
本発明は、上述した課題を解決するために、撮像素子から出力された画像信号に対して顔検出を行い、少なくとも検出された顔の範囲を示す顔範囲情報を取得する顔検出手段と、顔検出手段で検出された顔範囲情報に対応する範囲の画像信号に対する補正量を取得する補正量取得手段と、画像信号により形成される画面を分割した焦点検出領域毎に、合焦度を示す合焦量を取得する合焦量取得手段と、合焦量取得手段で取得された合焦量に基づき、補正量取得手段で取得される補正量に対する重み付けを行う第1の係数を焦点検出領域毎に取得する第1の係数取得手段と、第1の係数取得手段で取得された第1の係数を用いて、補正量取得手段で取得された補正量に対して焦点検出領域毎に重み付けを行う重み付け手段と、撮像素子から出力された画像信号の顔範囲情報に対応する範囲に対して、範囲に対応する焦点検出領域毎に、重み付け手段で重み付けされた補正量を用いて画像特性の補正を行う画像特性補正手段とを有することを特徴とする画像処理装置である。
また、本発明は、撮像素子から出力された画像信号に対して顔検出を行い、少なくとも検出された顔の範囲を示す顔範囲情報を取得する顔検出ステップと、顔検出ステップで検出された顔範囲情報に対応する範囲の画像信号に対する補正量を取得する補正量取得ステップと、画像信号により形成される画面を分割した焦点検出領域毎に、合焦度を示す合焦量を取得する合焦量取得ステップと、合焦量取得ステップで取得された合焦量に基づき、補正量取得ステップで取得される補正量に対する重み付けを行う第1の係数を焦点検出領域毎に取得する第1の係数取得ステップと、第1の係数取得ステップで取得された第1の係数を用いて、補正量取得ステップで取得された補正量に対して焦点検出領域毎に重み付けを行う重み付けステップと、撮像素子から出力された画像信号の顔範囲情報に対応する範囲に対して、範囲に対応する焦点検出領域毎に、重み付けステップで重み付けされた補正量を用いて画像特性の補正を行う画像特性補正ステップとを有することを特徴とする画像処理方法である。
本発明は、上述した構成を有するため、好ましい撮影結果となるように階調特性の補正を行なうことができる。
<実施形態>
以下、本発明の実施形態を、図面を参照しながら説明する。先ず、本発明の実施形態に適用可能な撮像素子について説明する。本発明の実施形態に適用可能な撮像素子は、例えばCMOSイメージセンサからなり、画素がマトリクス状に配置される。そして、各画素に対して、入射光の色分離を行うカラーフィルタが配置される。
本実施形態では、カラーフィルタの配列としてベイヤ配列を採用している。すなわち、図1に例示されるように、2行×2列の4画素を単位として、対角の2画素に緑色(G)に対する分光感度を有する画素GおよびGを配する。また、他の2画素にそれぞれ赤色(R)および青色(B)に対する分光感度を有する画素R、Bを配する。
図2を用いて、撮像素子を含む撮像光学系について概略的に説明する。図2(a)は、ベイヤ配列による2行×2列の画素の一例の平面図を示す。また、図2(b)は、撮像光学系の、図2(a)におけるA−A面による一例の断面図を示す。
フォトダイオードPDは、CMOSイメージセンサの光電変換素子であって、それぞれ画素を構成する。コンタクトレイヤCLは、CMOSイメージセンサ内において各種信号を伝達する信号線を形成する配線層である。各画素に対して、赤色のカラーフィルタCF、緑色のカラーフィルタCFおよび青色のカラーフィルタCFが、図2(a)の如くベイヤ配列で配置される。各画素の最前面に対して、オンチップマイクロレンズMLが配置される。
被写体からの光が光学撮影レンズTL(Taking Lens)を介してオンチップマイクロレンズMLに入射されて集光される。集光された光は、例えばカラーフィルタCFにより赤色の波長成分を抽出されてフォトダイオードPDに入射される。フォトダイオードPDは、入射された光を光電変換により電荷に変換する。
ここで、撮像用画素のオンチップマイクロレンズMLとフォトダイオードPDは、光学撮影レンズTLを通過した光束を可能な限り有効に取り込むように構成される。換言すると、光学撮影レンズTLの射出瞳EP(Exit Pupil)とフォトダイオードPDは、オンチップマイクロレンズMLにより共役関係にあり、且つ、フォトダイオードPDの有効面積は、大面積に設計される。
なお、カラーフィルタCF、CFおよびCFに対応する画素(以下、それぞれR画素、G画素およびB画素と呼ぶ)は、同一の構造となっている。したがって、撮像用のR、GおよびBの各画素に対応した射出瞳EPは大径となり、被写体からの光をフォトダイオードPDに効率よく取り込むことができ、撮像素子から出力される撮像信号のS/Nを向上させている。
このベイヤ配列の間に、瞳分割位相差方式による焦点検出を行うための焦点検出用画素を配置する。より具体的には、ベイヤ配列を構成する2行×2列の画素のうち、G画素は撮像用画素として残し、R画素とB画素とを焦点検出用画素に置き換える。
記録や表示のための画像信号を得る場合、G画素で輝度情報の主成分を取得する。人間の画像認識特性は、輝度情報に敏感であるため、このG画素が欠けると画質劣化が認知されやすい。一方、R画素またはB画素は、主に色情報(色差情報)を取得する。ここで、人間の画像認識特性は、輝度情報に比べて色情報には鈍感である。そのため、色情報を取得するR画素やB画素は、多少の欠損が生じても画質劣化が認知され難い。
図3を用いて、焦点検出用画素に係る、撮像素子を含む撮像光学系について概略的に説明する。図3(a)は、焦点検出用画素を含む2行×2列の画素の一例の平面図を示す。また、図3(b)は、撮像光学系の、図3(a)におけるA−A面による一例の断面図を示す。図3(b)において、オンチップマイクロレンズMLおよびフォトダイオードPDは、上述の図2(b)に示した構造と同一である。
図3(a)において、画素SHAおよび画素SHBが焦点検出を行うための画素である。以下、画素SHAおよび画素SHBをまとめて焦点検出用画素と呼ぶ。また、図3(a)中、画素SHAおよび画素SHBにおける塗り潰し部分は、配線層CLの開口部である。すなわち、焦点検出用画素に照射された光は、この配線層CLの開口部を通って、フォトダイオードPDに入射される。なお、焦点検出用画素による信号は、画像生成には用いないため、画素SHAおよび画素SHBに対し、透明膜によるフィルタCFが配置される。
図3の例では、画素SHAに対応する開口部OPHA、ならびに、画素SHBに対応する開口部OPHBは、オンチップマイクロレンズMLの中心線に対して一方向に偏倚して設けられる。これにより、撮像素子による瞳分割が行われる。
具体的には、画素SHAに対応する開口部OPHAは、図3上で右側に偏倚しているため、光学撮影レンズTLの左側の射出瞳EPHAを通過した光束を受光する。同様に、画素SHBに対応する開口部OPHBは、図3上で左側に偏倚しているため、光学撮影レンズTLの右側の射出瞳EPHBを通過した光束を受光する。
画素SHAを水平方向に規則的に配列し、これらの画素群で取得した被写体像を像Aとする。また、画素SHBも同様にして水平方向に規則的に配列し、これらの画素群で取得した被写体像を像Bとする。像Aと像Bとの相対位置を検出することで、被写体像のピントずれ量(デフォーカス量)が検出できる。
この、光学撮影レンズTLの水平方向に瞳分割を行なうための焦点検出用画素である画素SHAおよびSHBは、図4に例示されるように、撮像素子による画面全体に対して規則的に配置される。各焦点検出用画素は、図4に枠線で例示されるように、それぞれ焦点検出を行うための焦点検出領域が設定される。
なお、上述した画素SHAおよびSHBは、開口部OPHAおよびOPHBが垂直方向に設けられている。そのため、画素SHAおよびSHBを水平方向に配列した場合、撮影画面の水平方向に輝度分布を有した被写体、例えば縦線に対する焦点検出が可能である。垂直方向に輝度分布を有した、横線のような被写体に対する焦点検出を行うためには、画素SHAおよびSHBを90度回転させた、開口部が水平方向に設けられた画素を用いる。これら開口部が垂直方向に設けられた焦点検出用画素と、開口部が水平方向に設けられた焦点検出用画素とを交互に備えるよう構成することで、垂直方向の輝度分布と水平方向の輝度分布とに対応できる。
図5は、本発明の実施形態に適用可能な撮像装置の一例の機能を示す機能ブロック図である。なお、図5では、撮像装置の機能のうち、本実施形態に関連の浅い部分については、省略されている。
光学撮影レンズ101は、複数枚のレンズを有すると共に、絞り機構、フォーカス機構およびズーム機構、ならびに、これら各機構を駆動する駆動部などを含む。光学撮影レンズ101で集光された被写体像は、撮像素子102に結像される。撮像素子102は、図1〜図4を用いて説明したように、カラーフィルタがベイヤ配列とされ、焦点検出用画素が画面全体に規則的に配列されている。撮像素子102は、結像された光を光電変換し、アナログ信号の画像信号として出力する。このアナログ信号は、A/D変換部103でデジタル信号に変換される。
一方、撮像素子102の出力が合焦量検出部110に供給される。合焦量取得手段としての合焦量検出部110は、撮像素子102の出力のうち焦点検出用画素の信号を用いて上述したデフォーカス量を検出する。ここで、検出されたデフォーカス量を、撮像光学系における合焦度合いを示す評価値としての合焦量として定義する。合焦量検出部110は、撮像素子102の各焦点検出用画素について合焦量すなわちデフォーカス量を求めて記憶する。
撮像情報取得部150は、光学撮影レンズ101から、焦点距離情報151、絞り情報152および焦点位置情報153を取得する。焦点距離情報151は、撮影時の光学撮影レンズ101の焦点距離を示す。絞り情報152は、光学撮影レンズ101に設けられた絞り(図示しない)の設定値を示す。焦点位置情報153は、合焦した被写体の撮像素子102からの距離を示す。
A/D変換部103の出力は、焦点検出用画素補間部104に供給される。焦点検出用画素は、表示用または記録用画像としての画像データを出力しない。そのため、撮像素子102による画面内で焦点検出用画素が配置されている箇所については、焦点検出用画素補間部104において、焦点検出用画素の周辺の実画像画素を用いて、欠陥画素補間に対する処理と同様にして補間処理を行なう。
焦点検出用画素補間部104から出力された画像データは、現像処理部105において、γ処理160、シャープネス処理161および色処理162など、デジタルカメラなどで一般的に行われる画像処理が施される。このとき、γ処理160は、背景技術で図11を用いて説明したように、予め決められた複数のトーンカーブから選択されたトーンカーブを用いてγ処理を行う。
現像処理部105から出力された画像データは、階調特性補正部115に供給されると共に、顔検出部106に供給される。顔検出手段としての顔検出部106は、供給された画像データに対して顔検出処理171を行い、当該画像データから検出された顔について、当該画像データによる画面内の位置および範囲と、顔画像の輝度の平均値とを求める。顔の位置および範囲を示す顔位置情報172および顔範囲情報173と、顔画像の輝度の平均値を示す顔輝度情報174は、それぞれ補正量算出部107に供給される。また、顔位置情報172および顔範囲情報173は、それぞれ階調特性補正部115にも供給される。
顔検出部106から出力される顔位置情報172、顔範囲情報173および顔輝度情報174について、図6を用いてより具体的に説明する。顔位置情報172は、顔検出された顔における中心位置602の座標情報を用いる。顔範囲情報173は、顔検出された顔の中心位置の輝度値に対して所定範囲の輝度値を有する画素を包含する範囲601(以下、顔の範囲601と呼ぶ)を用いる。例えば、輝度の最大値を255としたとき、顔の中心位置の輝度値に対して±20の輝度値を有する範囲を顔の範囲601とする。顔輝度情報174は、顔範囲情報173に示される範囲内の画素の輝度平均値を用いる。
なお、本実施形態における顔検出には、公知の顔検出技術を利用できる。公知の顔検出技術としては、ニューラルネットワークなどを利用した学習に基づく手法、テンプレートマッチングを用いて目、鼻、口等の形状に特徴のある部位を画像から探し出し、類似度が高ければ顔とみなす手法などがある。また、他にも、肌の色や目の形といった画像特徴量を検出し、統計的解析を用いた手法等、多数提案されている。一般的にはこれらの手法を複数組み合わせ、顔検出の精度を向上させている。具体的な例としては特開2002−251380号公報に記載のウェーブレット変換と画像特徴量を利用して顔検出する方法などが挙げられる。
顔検出部106から出力された顔位置情報172、顔範囲情報173および顔輝度情報174は、補正量算出部107に供給される。補正量取得手段としての補正量算出部107は、供給されたこれらの情報に基づき、撮像素子102の出力に基づく画像データによる画面内の顔画像とその周辺の位置にのみ範囲を限定して、当該範囲内で階調特性を補正するための補正量を決定して出力する。
図7(a)および図7(b)は、補正量算出部107において補正量を決定するテーブルの例を示す。この例では、顔輝度情報174に対するゲインを補正量として決定している。これらのテーブルに従い、階調特性に対して輝度値が対応する補正量(ゲイン)を乗ずることで、輝度値の補正を行う。なお、ここでは、輝度値が8ビットで表現され、最大値が255であるものとする。
例えば図7(a)のテーブルは、顔輝度情報174が輝度平均値で値170以下のときに、顔の明るさに正のゲインを乗ずる特性を持つことを表している。さらに、顔輝度情報174が輝度平均値で値80のときに最大のゲインを乗じ、平均輝度値が値80より小さいか、値80より大きいときは、過剰な補正を行なわないように、正のゲイン値を徐々に小さくしていくことを表している。
図7(b)は、検出された顔に対する位置に応じて補正量としてのゲインを切り替える例を示す。一例として、上述の図6に示されるように、検出された顔の範囲601に対して第1の正のゲインを補正量として決定したとする。顔の範囲601から例えば所定画素毎に周辺に離れていくのに従い、第1の正のゲインを徐々に小さくする。
図8を用いてより具体的に説明する。図8は、上述した図6と対応し、例えば図8における範囲501は、顔範囲情報173に示される範囲であって、図6における顔の範囲601に対応する。先ず、範囲501に対して、図7(b)にテーブル201で示される第1の正のゲインを補正量として決定する。範囲501の外側の数画素(例えば2画素)の範囲502に対して、図7(b)にテーブル202で示される、第1の正のゲインよりも小さい第2の正のゲインを補正量として決定する。さらに範囲502の外側の数画素(例えば2画素)の範囲503に対して、図7(b)にテーブル203で示される、第2の正のゲインよりもさらに小さい第3の正のゲインを補正量として決定する。
このように、補正対象の範囲から離れるにつれ、補正量としてのゲインを徐々に小さくしていくことで、階調特性を補正する顔画像とその周辺との境界で階調特性が不自然に変化するのが抑制される。
重み付け手段としての補正量重み付け演算部114は、補正量算出部107から出力された補正量に対して、以下に説明する合焦度評価値と撮影距離評価値とを重み付け係数として演算して、階調特性補正部115で用いる補正量を算出する。
先ず、合焦度評価値について説明する。合焦量検出部110は、検出され記憶された各焦点検出領域の合焦量に基づき第1の係数取得手段としての合焦度評価値テーブル111を参照し、当該焦点検出領域毎の合焦度評価値を求める。本実施形態では、合焦量すなわち焦点検出用画素から出力されたデフォーカス量が小さいほど、当該焦点検出用画素に設定された焦点検出領域が、合焦度が高く、ピントが合って撮影されている領域であるとする。
本実施形態では、合焦度が高い被写体ほど重要視する重み付けを行うテーブルを与える。図9は、このような合焦度評価値テーブル111の一例を示す。図9の例では、デフォーカス量が0から所定値(例えば10)の範囲が合焦度が高いと定義し、この合焦度が高いデフォーカス量の範囲では、合焦度評価値を1.0とする。一方、当該所定値を越えるデフォーカス量に対して、デフォーカス量が大きくなるにつれて小さくなる特性を合焦度評価値に与える。焦点検出領域毎にこの合焦度評価値テーブル111を参照し、当該焦点検出領域毎の合焦度評価値を求める。
なお、この合焦度評価値を1.0とするデフォーカス量の最大値(上述の例では10)は、絞り情報152と焦点距離情報151とを用いて、撮影画像の被写体深度に応じて変更することができる。
次に、撮影距離評価値について説明する。合焦量検出部110の検出結果に基づき合焦度評価値テーブル111を参照して得た合焦量評価値と、撮像情報取得部150で抽出した焦点位置情報153とに基づき、焦点検出領域毎に、被写体までの距離を示す撮影距離情報を取得する。撮影距離評価値は、この撮影距離情報に基づき撮影距離評価値テーブル112を参照して求める。撮影距離評価値は、焦点検出領域毎に求められる。撮像情報取得部150と合焦量検出部110とで距離取得手段が形成される。
本実施形態では、撮影距離の近い被写体ほど重要視する重み付けを行うテーブルを与える。図10は、このような第2の係数取得手段としての撮影距離評価値テーブル112の一例を示す。図10の例では、撮影に用いたレンズの最短撮影距離(例えば0m)から所定距離(例えば12m)の範囲で撮影された被写体の重要度が高いと定義し、この範囲での撮影距離評価値を1.0とする。一方、当該所定距離を超える撮影距離に対して、撮影距離が遠くなるにつれ急激に小さくなる特性を撮影距離評価値に与える。図10は一例であり、この特性はレンズの焦点距離に応じて様々である。例えば、レンズの焦点距離が大きいほど、重みが重み1.0から減り始める撮影距離が長くなる。また、焦点のぼけ方も焦点距離の長いレンズほど急激なので、重み付けの傾きも急になる。
なお、撮影距離に関し、レンズの焦点距離を示す焦点距離情報151をさらに考慮してもよい。この場合、撮影距離評価値テーブル112に、焦点距離情報151に応じた特性を与えることが考えられる。
補正量重み付け演算部114は、合焦度評価値および撮影距離評価値をそれぞれ重み付け係数として、補正量算出部107から供給された、階調特性を補正する補正量に対する演算を行う。これにより、デフォーカス量および撮影距離に対する補正量の重み付けを行う。
補正量重み付け演算部114は、例えば次式(1)に従い、補正後のゲインGを求める。なお、式(1)において、値aは、合焦度評価値と撮影距離評価値とを乗じた値であって、0≦a≦1の値を取る。また、値gは、補正量算出部107においてテーブルを参照して求めた補正量(ゲイン)であり、g≧1の値を取る。この式(1)で分かるように、値aは、補正量算出部107で求めたゲインを1から値gの間で制御する。
G=1+a(g−1) ・・・(1)
補正量重み付け演算部114で重み付けされた階調特性の補正量であるゲインGは、階調特性補正部115に供給される。階調特性補正部115は、このゲインGに基づき、現像処理部105から供給された画像データに対する画像特性補正処理を行う。より具体的には、階調特性補正部115は、このゲインGを階調特性に対して乗じ、このゲインGが乗じられた階調特性に基づき、現像処理部105から供給された画像データの輝度値を変換する。このとき、顔位置情報172および顔範囲情報173に基づき、当該画像データのうち顔範囲情報173に示される範囲とその周辺の所定範囲に対応する焦点検出領域毎に、輝度値の変換処理を行う。
階調特性補正部115で階調特性が変換された画像データは、出力部116から出力され、図示されない表示部への表示や、記録媒体に対する記録などが行われる。
以上説明したように、本発明の実施形態によれば、撮影された画像データに対して顔検出を行い、検出された顔の範囲に対して階調特性の補正を行うための補正量を設定する。そして、この補正量に対して、焦点の合焦度合いおよび被写体に対する撮影距離によって重み付けを行っている。そのため、撮影レンズの焦点が合わされた場所の顔の輝度に対して最も明るい階調特性を補正する処理が行なわれ、複数の人物が1の画像データに撮影されている場合でも、自然な好ましい人物画像を出力することが可能となる。
ベイヤ配列を説明するための図である。 撮像素子を含む撮像光学系について説明するための図である。 焦点検出用画素に係る撮像素子を含む撮像光学系について説明するための図である。 焦点検出用画素の一例の配置を示す図である。 本発明の実施形態に適用可能な撮像装置の一例の機能を示す機能ブロック図である。 顔検出部から出力される情報について説明するための図である。 補正量出力部において補正量を決定するテーブルの例を示す図である。 検出された顔に対する位置に応じて補正量としてのゲインを切り替えることを説明するための図である。 合焦度が高い被写体ほど重要視する重み付けを行う合焦度評価値テーブルの一例を示す図である。 撮影距離の近い被写体ほど重要視する重み付けを行う撮影距離評価値テーブルの一例を示す図である。 トーンカーブを説明するための図である。 複数の人物を撮影した場合に不具合が発生する可能性があることを説明するための図である。
符号の説明
102 撮像素子
105 現像処理部
106 顔検出部
107 補正量算出部
110 合焦量検出部
111 合焦度評価値テーブル
112 撮影距離評価値テーブル
114 補正量重み付け演算部
115 階調特性補正部
150 撮像情報取得部

Claims (6)

  1. 撮像素子から出力された画像信号に対して顔検出を行い、少なくとも検出された顔の範囲を示す顔範囲情報を取得する顔検出手段と、
    前記顔検出手段で検出された前記顔範囲情報に対応する範囲の画像信号に対する補正量を取得する補正量取得手段と、
    前記画像信号により形成される画面を分割した焦点検出領域毎に、合焦度を示す合焦量を取得する合焦量取得手段と、
    前記合焦量取得手段で取得された前記合焦量に基づき、前記補正量取得手段で取得される前記補正量に対する重み付けを行う第1の係数を前記焦点検出領域毎に取得する第1の係数取得手段と、
    前記第1の係数取得手段で取得された前記第1の係数を用いて、前記補正量取得手段で取得された前記補正量に対して前記焦点検出領域毎に重み付けを行う重み付け手段と、
    前記撮像素子から出力された前記画像信号の前記顔範囲情報に対応する範囲に対して、該範囲に対応する前記焦点検出領域毎に、前記重み付け手段で重み付けされた前記補正量を用いて画像特性の補正を行う画像特性補正手段と
    を有することを特徴とする画像処理装置。
  2. 前記撮像素子で撮影された被写体までの距離を示す撮影距離情報を、前記焦点検出領域毎に取得する距離取得手段と、
    前記距離取得手段で取得された前記撮影距離情報に基づき、前記補正量取得手段で取得される前記補正量に対する重み付けを行う第2の係数を前記焦点検出領域毎に取得する第2の係数取得手段と
    をさらに有し、
    前記重み付け手段は、前記第2の係数取得手段で取得された前記第2の係数をさらに用いて、前記補正量取得手段で取得された前記補正量に対して前記焦点検出領域毎に重み付けを行う
    ことを特徴とする請求項1に記載の画像処理装置。
  3. 前記補正量取得手段は、前記顔範囲情報に示される範囲から離れるにつれて、該顔範囲情報に示される範囲の前記補正量に対してより小さい前記補正量を取得する
    ことを特徴とする請求項1または請求項2に記載の画像処理装置。
  4. 前記画像特性補正手段は、前記画像特性として階調特性を用いて前記補正を行う
    ことを特徴とする請求項1乃至請求項3の何れか1項に記載の画像処理装置。
  5. 前記撮像素子は、瞳分割位相差方式による焦点検出を行うための焦点検出用画素が画面全体に規則的に配置され、
    前記焦点検出領域は、前記焦点検出用画素に対応して設けられる
    ことを特徴とする請求項1乃至4の何れか1項に記載の画像処理装置。
  6. 撮像素子から出力された画像信号に対して顔検出を行い、少なくとも検出された顔の範囲を示す顔範囲情報を取得する顔検出ステップと、
    前記顔検出ステップで検出された前記顔範囲情報に対応する範囲の画像信号に対する補正量を取得する補正量取得ステップと、
    前記画像信号により形成される画面を分割した焦点検出領域毎に、合焦度を示す合焦量を取得する合焦量取得ステップと、
    前記合焦量取得ステップで取得された前記合焦量に基づき、前記補正量取得ステップで取得される前記補正量に対する重み付けを行う第1の係数を前記焦点検出領域毎に取得する第1の係数取得ステップと、
    前記第1の係数取得ステップで取得された前記第1の係数を用いて、前記補正量取得ステップで取得された前記補正量に対して前記焦点検出領域毎に重み付けを行う重み付けステップと、
    前記撮像素子から出力された前記画像信号の前記顔範囲情報に対応する範囲に対して、該範囲に対応する前記焦点検出領域毎に、前記重み付けステップで重み付けされた前記補正量を用いて画像特性の補正を行う画像特性補正ステップと
    を有することを特徴とする画像処理方法。
JP2008206392A 2008-08-08 2008-08-08 画像処理装置および画像処理方法 Active JP5127628B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008206392A JP5127628B2 (ja) 2008-08-08 2008-08-08 画像処理装置および画像処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008206392A JP5127628B2 (ja) 2008-08-08 2008-08-08 画像処理装置および画像処理方法

Publications (2)

Publication Number Publication Date
JP2010045457A true JP2010045457A (ja) 2010-02-25
JP5127628B2 JP5127628B2 (ja) 2013-01-23

Family

ID=42016504

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008206392A Active JP5127628B2 (ja) 2008-08-08 2008-08-08 画像処理装置および画像処理方法

Country Status (1)

Country Link
JP (1) JP5127628B2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012063987A (ja) * 2010-09-16 2012-03-29 Toshiba Corp 画像処理装置
JP2012208671A (ja) * 2011-03-29 2012-10-25 Sony Corp 画像理装置および方法、並びにプログラム
CN103325249A (zh) * 2012-03-22 2013-09-25 日本电气株式会社 捕获图像处理装置和捕获图像处理方法
EP2988488A1 (en) 2014-08-20 2016-02-24 Canon Kabushiki Kaisha Image processing apparatus, image processing apparatus control method, image pickup apparatus, and image pickup apparatus control method
JP2018182477A (ja) * 2017-04-10 2018-11-15 キヤノン株式会社 情報処理装置、情報処理方法、およびプログラム
JP2019110544A (ja) * 2014-02-07 2019-07-04 ソニー インタラクティブ エンタテインメント アメリカ リミテッド ライアビリテイ カンパニー メディアにおける広告および他の挿入物の位置およびタイミングを判定するスキーム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000156823A (ja) * 1998-08-20 2000-06-06 Canon Inc 固体撮像装置及びその制御方法及び撮像装置及び光電変換セルの基本配列及び記憶媒体
JP2003069821A (ja) * 2001-08-23 2003-03-07 Olympus Optical Co Ltd 撮像システム
JP2004207985A (ja) * 2002-12-25 2004-07-22 Fuji Photo Film Co Ltd デジタルカメラ
JP2007324856A (ja) * 2006-05-31 2007-12-13 Sony Corp 撮像装置、撮像制御方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000156823A (ja) * 1998-08-20 2000-06-06 Canon Inc 固体撮像装置及びその制御方法及び撮像装置及び光電変換セルの基本配列及び記憶媒体
JP2003069821A (ja) * 2001-08-23 2003-03-07 Olympus Optical Co Ltd 撮像システム
JP2004207985A (ja) * 2002-12-25 2004-07-22 Fuji Photo Film Co Ltd デジタルカメラ
JP2007324856A (ja) * 2006-05-31 2007-12-13 Sony Corp 撮像装置、撮像制御方法

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012063987A (ja) * 2010-09-16 2012-03-29 Toshiba Corp 画像処理装置
US8908959B2 (en) 2010-09-16 2014-12-09 Kabushiki Kaisha Toshiba Image processing apparatus
JP2012208671A (ja) * 2011-03-29 2012-10-25 Sony Corp 画像理装置および方法、並びにプログラム
US9875553B2 (en) 2011-03-29 2018-01-23 Sony Corporation Image processing apparatus, method, and program
CN103325249A (zh) * 2012-03-22 2013-09-25 日本电气株式会社 捕获图像处理装置和捕获图像处理方法
JP2019110544A (ja) * 2014-02-07 2019-07-04 ソニー インタラクティブ エンタテインメント アメリカ リミテッド ライアビリテイ カンパニー メディアにおける広告および他の挿入物の位置およびタイミングを判定するスキーム
JP2021100263A (ja) * 2014-02-07 2021-07-01 ソニー・インタラクティブエンタテインメント エルエルシー メディアにおける広告および他の挿入物の位置およびタイミングを判定するスキーム
EP2988488A1 (en) 2014-08-20 2016-02-24 Canon Kabushiki Kaisha Image processing apparatus, image processing apparatus control method, image pickup apparatus, and image pickup apparatus control method
US10432852B2 (en) 2014-08-20 2019-10-01 Canon Kabushiki Kaisha Image processing apparatus, image processing apparatus control method, image pickup apparatus, and image pickup apparatus control method
US10455149B2 (en) 2014-08-20 2019-10-22 Canon Kabushiki Kaisha Image processing apparatus, image processing apparatus control method, image pickup apparatus, and image pickup apparatus control method
JP2018182477A (ja) * 2017-04-10 2018-11-15 キヤノン株式会社 情報処理装置、情報処理方法、およびプログラム

Also Published As

Publication number Publication date
JP5127628B2 (ja) 2013-01-23

Similar Documents

Publication Publication Date Title
US10545312B2 (en) Focus detection apparatus, control method thereof, and storage medium storing program
US9100556B2 (en) Image processing apparatus and image processing method
JP5183715B2 (ja) 画像処理装置及び画像処理方法
JP6309922B2 (ja) 撮像システム及び撮像方法
US8175447B2 (en) Image pickup apparatus and control method therefor
JP2004088149A (ja) 撮像システムおよび画像処理プログラム
JP5127628B2 (ja) 画像処理装置および画像処理方法
JP2013125095A (ja) 撮像装置及び焦点検出方法
JP2018107654A (ja) 画像処理装置および画像処理方法、プログラム、記憶媒体
JP2014138290A (ja) 撮像装置及び撮像方法
JP2004222231A (ja) 画像処理装置および画像処理プログラム
JP5348258B2 (ja) 撮像装置
JP5289105B2 (ja) 画像処理装置およびその制御方法、ならびに、撮像装置
US20220159191A1 (en) Image pickup apparatus
JP2005167485A (ja) 画像処理装置及び画像処理方法
JP2004222233A (ja) 画像処理装置および画像処理プログラム
JP4871664B2 (ja) 撮像装置及び撮像装置の制御方法
WO2024016288A1 (zh) 拍摄装置以及控制方法
JP2004222232A (ja) 画像処理装置および画像処理プログラム
JP6685550B2 (ja) オートフォーカス装置及びオートフォーカス用プログラム
JP7445508B2 (ja) 撮像装置
JP5942755B2 (ja) 画像処理回路、画像処理方法及び撮像装置
US20240015411A1 (en) Imaging apparatus, imaging method, and storage medium
JP2016096389A (ja) 撮像装置、撮像装置の制御方法及びプログラム
JP5929019B2 (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110805

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120711

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120713

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120910

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121001

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121030

R151 Written notification of patent or utility model registration

Ref document number: 5127628

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151109

Year of fee payment: 3