JP3666421B2 - 撮像装置、画像処理装置、記録媒体、およびプログラム - Google Patents

撮像装置、画像処理装置、記録媒体、およびプログラム Download PDF

Info

Publication number
JP3666421B2
JP3666421B2 JP2001206355A JP2001206355A JP3666421B2 JP 3666421 B2 JP3666421 B2 JP 3666421B2 JP 2001206355 A JP2001206355 A JP 2001206355A JP 2001206355 A JP2001206355 A JP 2001206355A JP 3666421 B2 JP3666421 B2 JP 3666421B2
Authority
JP
Japan
Prior art keywords
region
image
foreground
subject
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2001206355A
Other languages
English (en)
Other versions
JP2002358519A (ja
Inventor
雅裕 北村
淳 水口
Original Assignee
コニカミノルタフォトイメージング株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by コニカミノルタフォトイメージング株式会社 filed Critical コニカミノルタフォトイメージング株式会社
Priority to JP2001206355A priority Critical patent/JP3666421B2/ja
Publication of JP2002358519A publication Critical patent/JP2002358519A/ja
Application granted granted Critical
Publication of JP3666421B2 publication Critical patent/JP3666421B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、デジタルカメラなどの撮像装置によって撮像された画像を処理する画像処理技術に関し、より詳細には、2枚の撮影画像に基づいて近景被写体領域を抽出する画像処理技術に関する。
【0002】
【従来の技術】
デジタルカメラなどの撮像装置によって、奥行き方向の位置が互いに異なる複数の被写体を撮影するとき、その撮影画像の中から、全被写体のうち撮像装置から比較的近い距離にある被写体に関する領域(以下、「近景被写体領域」とも称する)を抽出することが要請されることがある。
【0003】
このような要請に応えるための従来技術としては、特開平11−134505号公報に記載される技術が存在する。この従来技術においては、照明点灯時のCCDカメラによる撮影画像と照明消灯時のCCDカメラによる撮影画像との相違に基づいて、撮像装置から近い位置に載置された観察対象物に関する撮像領域を抽出する。
【0004】
【発明が解決しようとする課題】
しかしながら、この従来技術においては、背景となる被写体についての照明の変化が無いことを前提としている。したがって、照明の有無や外光の変化等により、背景被写体の照明状態が変化したときには、近景領域を適切に抽出することが困難であるという問題を有している。
【0005】
そこで、本発明は前記問題点に鑑み、近景領域を良好に抽出することが可能な画像処理技術を提供することを目的とする。
【0006】
【課題を解決するための手段】
上記の課題を解決するため、請求項1の発明は、奥行き方向の位置が互いに異なる複数の被写体を撮影する撮像装置であって、フラッシュ発光を用いた撮影画像であって全被写体のうち近景被写体のみの露光量が適切となるように調整された第1の撮影画像と、フラッシュ発光を用いない撮影画像であって画像全体の露光量が適切となるように調整された第2の撮影画像とを撮影する撮影手段と、前記第1の撮影画像と前記第2の撮影画像との差分画像を求め、当該差分画像に基づいて、前記第1の撮影画像または前記第2の撮影画像の中から近景被写体領域を抽出する抽出手段と、を備え、前記抽出手段は、前記差分画像を二値化して高階調値領域と低階調値領域とに区分し、前記第1の撮影画像を二値化して高階調値領域と低階調値領域とに区分し、前記差分画像の低階調値領域と前記第1の撮影画像の高階調値領域との重複領域である第1領域を第1の近景候補領域として決定し、前記差分画像の低階調値領域と前記第1の撮影画像の低階調値領域との重複領域である第2領域のうち、前記第1の近景候補領域に隣接する領域を第2の近景候補領域として決定し、前記第1の近景候補領域と前記第2の近景候補領域との両方に相当する領域を前記近景被写体領域として決定することを特徴とする。
【0011】
請求項の発明は、請求項の発明に係る撮像装置において、前記第1の撮影画像は、最も絞った状態の絞り値を用いて撮影されることを特徴とする。
【0012】
請求項の発明は、請求項の発明に係る撮像装置において、前記被写体までの距離を測定する測定手段、をさらに備え、前記第1の撮影画像は、フラッシュ発光の強度と近景被写体までの距離とに応じて決定される近景被写体用絞り値以下であって、フラッシュ発光の強度と遠景被写体までの距離とに応じて決定される遠景被写体用絞り値よりも大きな値を有する絞り値を用いて撮影されることを特徴とする。
【0013】
請求項の発明は、請求項の発明に係る撮像装置において、前記第1の撮影画像は、フラッシュ発光の強度と近景被写体までの距離とに応じて決定される近景被写体用絞り値に等しい絞り値を用いて撮影されることを特徴とする。
【0014】
請求項の発明は、請求項1ないし請求項のいずれかの発明に係る撮像装置において、前記抽出された近景被写体領域を背景画像と合成する合成手段、をさらに備えることを特徴とする。
【0015】
請求項の発明は、請求項の発明に係る撮像装置において、撮影時の状況において前記抽出手段による近景被写体領域の抽出が可能か否かを判別する判別手段、をさらに備え、前記判別手段は、前記第1の撮影画像における遠景被写体を不適切な露光量で撮影することができないと判定される場合には前記近景被写体領域の抽出が不可能であると判別することを特徴とする。
請求項7の発明は、請求項1の発明に係る撮像装置において、撮影時の状況において前記抽出手段による近景被写体領域の抽出が可能か否かを判別する判別手段、をさらに備え、前記判別手段は、前記第1の撮影画像における近景被写体を適切な露光量で撮影することができないと判定される場合には前記近景被写体領域の抽出が不可能であると判別することを特徴とする。
【0016】
請求項の発明は、請求項6または請求項7の発明に係る撮像装置において、前記判別手段によって前記近景被写体領域の抽出が不可能であると判別されたときに、前記近景被写体領域の抽出が不可能である旨を表示する表示手段、をさらに備えることを特徴とする。
【0019】
請求項の発明は、請求項6ないし請求項8のいずれかの発明に係る撮像装置において、前記被写体までの距離を測定する測定手段、をさらに備え、前記判別手段は、遠景被写体を不適切な露光量で撮影することができる絞り値の最小値が、前記測定手段によって測定された近景被写体までの距離とフラッシュ発光の強度とに応じて決定される近景被写体用絞り値よりも大きい場合に、前記抽出手段による近景被写体領域の抽出が不可能であるとして判別することを特徴とする。
【0020】
請求項10の発明は、請求項の発明に係る撮像装置において、前記判別手段は、遠景被写体の露光量を不適切にすることができる絞り値の最小値に絞りを設定して撮影するときに、近景被写体の露光量を適切にすることが可能な近景被写体までの距離の許容最大値を算出することを特徴とする。
【0021】
請求項11の発明は、請求項10の発明に係る撮像装置において、前記判別手段は、前記算出された近景被写体までの距離の許容最大値と前記測定手段によって測定された近景被写体までの距離との差を、前記近景被写体が移動すべき距離として算出することを特徴とする。
【0022】
請求項12の発明は、奥行き方向の位置が互いに異なる複数の被写体に関して撮影された画像を処理する画像処理装置であって、フラッシュ発光を用いた撮影画像であって全被写体のうち近景被写体のみの露光量が適切となるように撮影された第1の撮影画像と、フラッシュ発光を用いない撮影画像であって画像全体の露光量が適切となるように撮影された第2の撮影画像とを取得する画像取得手段と、前記第1の撮影画像と前記第2の撮影画像との差分画像を求め、当該差分画像に基づいて、前記第1の撮影画像または前記第2の撮影画像の中から近景被写体領域を抽出する抽出手段と、を備え、前記抽出手段は、前記差分画像を二値化して高階調値領域と低階調値領域とに区分し、前記第1の撮影画像を二値化して高階調値領域と低階調値領域とに区分し、前記差分画像の低階調値領域と前記第1の撮影画像の高階調値領域との重複領域である第1領域を第1の近景候補領域として決定し、前記差分画像の低階調値領域と前記第1の撮影画像の低階調値領域との重複領域である第2領域のうち、前記第1の近景候補領域に隣接する領域を第2の近景候補領域として決定し、前記第1の近景候補領域と前記第2の近景候補領域との両方に相当する領域を前記近景被写体領域として決定することを特徴とする。
【0023】
請求項13の発明は、コンピュータを、奥行き方向の位置が互いに異なる複数の被写体に関して撮影された画像を処理する画像処理装置であって、フラッシュ発光を用いた撮影画像であって全被写体のうち近景被写体のみの露光量が適切となるように撮影された第1の撮影画像と、フラッシュ発光を用いない撮影画像であって画像全体の露光量が適切となるように撮影された第2の撮影画像とを取得する画像取得手段と、前記第1の撮影画像と前記第2の撮影画像との差分画像を求め、当該差分画像に基づいて、前記第1の撮影画像または前記第2の撮影画像の中から近景被写体領域を抽出する抽出手段であって、前記差分画像を二値化して高階調値領域と低階調値領域とに区分し、前記第1の撮影画像を二値化して高階調値領域と低階調値領域とに区分し、前記差分画像の低階調値領域と前記第1の撮影画像の高階調値領域との重複領域である第1領域を第1の近景候補領域として決定し、前記差分画像の低階調値領域と前記第1の撮影画像の低階調値領域との重複領域である第2領域のうち、前記第1の近景候補領域に隣接する領域を第2の近景候補領域として決定し、前記第1の近景候補領域と前記第2の近景候補領域との両方に相当する領域を前記近景被写体領域として決定する抽出手段と、を備える画像処理装置として機能させるプログラムであることを特徴とする。
【0024】
請求項14の発明は、コンピュータを、奥行き方向の位置が互いに異なる複数の被写体に関して撮影された画像を処理する画像処理装置であって、フラッシュ発光を用いた撮影画像であって全被写体のうち近景被写体のみの露光量が適切となるように撮影された第1の撮影画像と、フラッシュ発光を用いない撮影画像であって画像全体の露光量が適切となるように撮影された第2の撮影画像とを取得する画像取得手段と、前記第1の撮影画像と前記第2の撮影画像との差分画像を求め、当該差分画像に基づいて、前記第1の撮影画像または前記第2の撮影画像の中から近景被写体領域を抽出する抽出手段であって、前記差分画像を二値化して高階調値領域と低階調値領域とに区分し、前記第1の撮影画像を二値化して高階調値領域と低階調値領域とに区分し、前記差分画像の低階調値領域と前記第1の撮影画像の高階調値領域との重複領域である第1領域を第1の近景候補領域として決定し、前記差分画像の低階調値領域と前記第1の撮影画像の低階調値領域との重複領域である第2領域のうち、前記第1の近景候補領域に隣接する領域を第2の近景候補領域として決定し、前記第1の近景候補領域と前記第2の近景候補領域との両方に相当する領域を前記近景被写体領域として決定する抽出手段と、を備える画像処理装置として機能させるプログラムを記録したコンピュータ読み取り可能な記録媒体であることを特徴とする。
【0025】
【発明の実施の形態】
<A.第1実施形態>
<A1.概要>
図1は、本発明に係る撮像装置としてのデジタルカメラ1を示す斜視図である。図1に示すように、このデジタルカメラ1は、内蔵の撮影用CCD2、撮影用レンズ3、ファインダー4、カード取り出しボタン5、カード取り出し口6、シャッターボタン7、測光素子8、フラッシュ9、撮影モード切り替えスイッチ10、測距センサー11などを備える。
【0026】
撮影用レンズ3から入射した光は、撮影用CCD2において結像され、多段階の階調値を有するデジタル画像に変換される。デジタルカメラ1の操作者は、ファインダー4から見える光景を参考にしながら、シャッターボタン7を押下することによって、所望の光景を撮影することができる。撮影時において、測光素子8は、環境光の明るさ等を測定する測光手段として機能し、測距センサー11は、被写体までの距離を測定する測定手段として機能する。また、フラッシュ9は、必要に応じて被写体を照射するための強制光を放出する。
【0027】
また、撮影モード切り替えスイッチ10は、通常撮影モードと近景被写体抽出モードとを切り替えることができる。また、カード取り出し口6に対して、メモリーカード105(後述)等が着脱自在に装填される。カード取り出しボタン5は、装填されたメモリーカード105などを取り出す際に用いられる。
【0028】
図2は、デジタルカメラ1の機能ブロック図である。図2に示すように、デジタルカメラ1は、A/D(アナログ/デジタル)変換部101、γ変換等処理部102、メモリー103、領域抽出部104、メモリーカード105、合成部106、および絞り量決定部107をさらに備える。
【0029】
ここにおいて、A/D変換部101は、CCD2における光電変換の結果として出力されたアナログ信号をデジタル信号に変換する処理部であり、γ変換等処理部102は、γ変換およびアパーチャコントロールなどの通常の画像処理を行う処理部である。このような処理が施された撮影画像は、メモリー103に格納される。また、領域抽出部104は、後述するように、2枚の撮影画像PA,PBの差分画像PCに基づいて、近景領域を抽出する処理部であり、合成部106は、抽出された近景被写体領域(以下、単に「近景領域」とも称する)を背景画像に対して合成する処理部である。メモリーカード105には、抽出された近景領域に関する画像(より詳細には画像データ)や、合成部106で得られた合成後の画像などが格納される。また、絞り量決定部107は、撮影用レンズ3の絞り量を調節する処理部である。
【0030】
上述したように、このデジタルカメラ1は、撮影モード切り替えスイッチ10を切り替えることにより、通常の撮影モードと近景被写体抽出モードとを切り替えることが可能である。ここでは、近景被写体抽出モードについて説明する。
【0031】
この近景被写体抽出モードにおいては、デジタルカメラ1は、次の2枚の画像を撮影する。具体的には、これら2枚の撮影画像は、(1)フラッシュ発光を用いた撮影画像であって全被写体のうち近景被写体のみの露光量が適切となるように調整された撮影画像PAと、(2)フラッシュ発光を用いない撮影画像であって画像全体の露光量が適切となるように調整された撮影画像PB、である(図3参照)。なお、撮影画像PAは、フラッシュ発光を用いた撮影画像であって、近景被写体の露光量が遠景被写体の露光量に対して相対的に適切となるように調整された撮影画像であるとも表現することができる。
【0032】
図3は、これらの2枚の撮影画像PA,PB、およびこれらの撮影画像PA,PBを用いた近景領域抽出処理を表す概念図である。図3に示すように、これらの2枚の撮影画像PA,PBは、いずれも、同一の撮影対象についての撮影画像である。そして、この撮影対象は、奥行き方向の位置が互いに異なる複数の被写体である。たとえば、最も手前側の位置に人物を配置し、それよりも奥側の位置にその他の背景被写体を配置した状態で、これら2枚の撮影画像の撮影を行う。そして、以下に説明する詳細動作を行うことにより、最も手前側に配置された人物に関する領域を、撮影画像中から近景領域として抽出することができる。これによれば、デジタルカメラ1の操作者は、通常のスナップ写真を撮影する際の操作と同様の操作で、近景領域として抽出された人物に関する証明写真を作成することが可能になる。すなわち、簡易に証明写真を作成することができる。
【0033】
この撮影画像PAは、フラッシュ発光を用いた撮影画像であって全被写体のうち近景被写体のみの露光量が適切となるように調整された画像である。具体的には、自動的にフラッシュ9を発光させ、撮影用レンズ3の絞りを最も絞った状態で撮影した画像である。
【0034】
一方、撮影画像PBは、フラッシュ発光を用いずに画像全体の露光量が適切となるように調整された画像である。具体的には、フラッシュ9を発光させることなく、画像全体の露光量が最適となるように撮影用レンズ3の絞りを調整して撮影した画像である。
【0035】
近景被写体に関しては、これら2枚の撮影画像PA,PBの両方において、適正な露光量となっている。すなわち、近景領域は適正な露光量で撮像されている。
【0036】
これに対して、遠景被写体に関しては、撮影画像PBでは適正な露光量で撮影されているものの、撮影画像PAでは露光量不足の状態で撮影されている。なぜならば、遠景被写体に対しては、近景被写体に比べてフラッシュ光の到達量が少ないからである。このように、撮影用レンズ3の絞りを絞った状態で撮影すると、撮影画像PAにおける遠景被写体は、近景被写体に比べて露光量不足となるのである。ここで、「遠景被写体」とは、近景被写体以外の被写体を意味し、「遠景領域」とは、近景領域以外の領域を意味するものとする。
【0037】
このような撮影の結果、撮影画像PAおよび撮影画像PBの両方の近景領域と撮影画像PBの遠景領域とにおいては、ほぼ適正な露光量となるのに対して、撮影画像PAの遠景領域においてのみ露光量不足となっている。そして、この露光量不足の領域においては、露光量が適正な領域に対して比較的低い輝度を有する画像(すなわち暗い画像)になる。この実施形態においては、このような性質を利用して近景領域を抽出する。
【0038】
そのため、具体的には、2枚の撮影画像PA,PBに基づいて、両撮影画像PA,PBの各画素の差分値(より詳細には差分絶対値)を各画素の階調値とする差分画像PC(図3参照)を求める。そして、領域抽出部104は、この差分画像PCに基づいて、近景領域を決定して抽出する。
【0039】
より詳細には、露光量が適正な領域については撮影画像PAおよび撮影画像PBの両方がほぼ同一の輝度を有する(したがってほぼ同一の階調値を有する)ため、差分画像PCの階調値は比較的低い値を有する。理想的には、差分画像PCにおいて露光量が適正な領域の画素の階調値はゼロである。一方、撮影画像PAにおいて露光量が不十分な領域においては、両撮影画像PA,PBの輝度の差が大きくなり両撮影画像PA,PBの対応画素の階調値の差分絶対値が大きくなるため、差分画像PCの階調値は比較的高い値となる。このように、差分画像PCにおいては、露光量の適不適に応じた差異が生じ、その差異は、デジタルカメラ1から被写体までの距離が大きくなるにつれて大きな値となる。
【0040】
したがって、この差分画像PCにおいて比較的低い階調値を有する領域を近景領域として決定することができる。具体的には、差分画像PCを所定の閾値TH1で二値化して低階調値領域と高階調値領域とに区分し、そのうちの低階調値領域を近景領域として決定すればよい。
【0041】
なお、フラッシュ発光を伴う撮影画像PAの遠景被写体について、露光量不足の状態を顕著に生成するため、本撮影は屋内等で行うことが好ましい。
【0042】
<A2.詳細動作>
図4および図5は、詳細動作を示すフローチャートである。図4は、デジタルカメラ1における動作を表すフローチャートであり、図5は、近景領域抽出モードにおける動作を表すフローチャートである。
【0043】
ステップSP1において、シャッターボタン7が押下されると、ステップSP2に移行し、近景領域抽出モードであるか通常撮影モードであるかが確認される。通常撮影モードに設定されている場合には、ステップSP3〜ステップSP8までの処理が行われる。ただし、以下では、近景領域抽出モードに設定されている場合を想定し、図5を参照しながら近景領域抽出モードの詳細動作について説明する。
【0044】
まず、撮影画像PAに関する撮影動作が行われる。
【0045】
そのため、ステップSP10においては、測光素子8および測距センサー11の出力を読み出し、ステップSP11においては、撮影用レンズ3の絞りの絞り量を設定する。ここでは、撮影用レンズ3の絞りを最も絞った状態に設定する。この絞りの状態は、Fナンバー形式で表現すれば、最も大きなFナンバーとなるような状態に設定すればよい。なお、後述するように、測距センサー11の測距結果等を利用して、最適な露光量となるように絞り量を調節するようにしても良い。
【0046】
次のステップSP12においては、撮影用レンズ3の繰り出し量、およびCCD2の積分時間(シャッタースピードSSに相当)が設定される。
【0047】
そして、ステップSP13において、フラッシュを発光させて撮像が開始され、上記ステップSP12で設定された所定の積分時間にわたって、撮影用レンズ3を通ってきた光線がCCD2内の各画素に結像されて蓄積される(ステップSP14)。CCD2における光電変換によって電気信号として出力された信号は、A/D変換部101を経て、所定の階調値として出力される。また、ステップSP15において、γ変換等処理部102は、各画素の階調値に対して、γ変換、アパーチャコントロールなどの通常の処理を施し、その後、得られた画像はメモリー103に一時的に記憶される(ステップSP16)。このようにして撮影画像PAに関する撮影動作が行われる。
【0048】
次に、撮影画像PBに関する撮影動作が行われる。そのため、ステップSP17においては、画像全体にわたって適切な露光量となるように、CCDの積分時間(シャッタースピードSSに相当)および絞り量が設定される。この際、ステップSP10において読み出された測光素子8の出力値等を用いて、適切な絞り量等が設定される。この絞り値により撮影された撮影画像PBの露光量は、画像全体にわたって適切な値となる。
【0049】
そして、今度の撮影画像PBは、フラッシュを発光させることなく撮影される。所定の期間にわたってCCD2に結像された画像信号は、A/D変換部101を経て、所定の階調値として出力される。また、各画素の階調値に対して、γ変換、アパーチャコントロールなどの通常の処理が施され(ステップSP19)、得られた画像はメモリー103に一時的に記憶される(ステップSP20)。このようにして撮影画像PBに関する撮影動作が行われる。
【0050】
そして、ステップSP21において、上述した近景領域抽出動作が行われる。図6は、この第1実施形態に係る領域抽出動作(ステップSP21)の詳細を表すフローチャートである。なお、以下の近景領域の抽出処理は、領域抽出部104によって行われる。
【0051】
図6に示すように、領域抽出部104は、まず、ステップSP101において、2枚の撮影画像PA,PBから差分画像PCを作成し、ステップSP102において、差分画像PCを所定の閾値TH1を用いて二値化する。たとえば、差分画像PCが0〜255までの256段階の階調値を取り得る場合、この閾値TH1として40(TH1=40)などを採用することができる。そして、閾値TH1以下の比較的低い階調値を有する領域を低階調値領域とし、閾値TH1より大きな比較的高い階調値を有する領域を高階調値領域とする。すなわち、差分画像PCを低階調値領域と高階調値領域とに区分する。図3の黒色領域は低階調値領域を表しており、それ以外の領域は高階調値領域を表している。
【0052】
そして、ステップSP103においては、差分画像PC(図3)の低階調値領域を近景領域として判定する。このように、撮影画像PAと撮影画像PBとの差分画像PCを求めた後、その差分画像PCの低階調値領域を近景領域として求める。
【0053】
再び、図5を参照する。次のステップSP22において、抽出された近景領域を合成部106によって背景画像と合成する。具体的には、ステップSP21において抽出された近景領域に関する画像を、特定の単一色(たとえば青色一色)で構成される背景画像と合成した合成画像PR1(図3参照)を生成する。これにより、証明写真として好適な画像となるように合成された画像を生成することができる。このように、証明写真等を容易に作成することができる。
【0054】
さらにステップSP23において、この合成画像がメモリーカード105に記憶される。
【0055】
その後、ステップSP1に戻り、次にシャッターが押されるまで待機する。すなわち、次の撮影動作に備えて待機する。
【0056】
以上のように、この実施形態のデジタルカメラ1によれば、近景領域を良好に抽出することができる。
【0057】
<A3.絞り量の調節>
上述した絞り量決定部107は、撮影画像PAおよび撮影画像PBの撮影時の絞り量を調節する処理部である。この絞り量決定部107は、上記のように、撮影画像PAを撮影する際において、撮影用レンズ3の絞り量を最も絞った状態の絞り値に設定するようにしても良いが、以下のような手法を用いてさらに最適化された絞り値に設定するようにしても良い。
【0058】
具体的には、以下に説明するように、フラッシュ発光の強度と近景被写体までの距離とに応じて決定される近景被写体用絞り値Fn以下であって、フラッシュ発光の強度と遠景被写体までの距離とに応じて決定される遠景被写体用絞り値Ffよりも大きな値を有する絞り値を用いて、撮影画像PAを撮影することが好ましい。また、撮影画像PAは、フラッシュ発光の強度と近景被写体までの距離とに応じて決定される近景被写体用絞り値Fnに等しい絞り値を用いて撮影されることがさらに好ましい。
【0059】
ここにおいて、フラッシュ発光の強度は、フラッシュのガイドナンバーGとして得ることができる。また、被写体までの距離Lは、測距センサー11によって測距することができる。さらに、フラッシュのガイドナンバーG、被写体までの距離L、および適切な絞り量Fの間には次のような関係があることが知られている。
【0060】
【数1】
Figure 0003666421
【0061】
すなわち、被写体までの距離Lが大きいときには、絞りを開放する(すなわちFを小さくする)ことによって絞り量が適切な値に調整され、逆に、被写体までの距離Lが小さいときには、絞りをさらに絞る(すなわちFを大きくする)ことによって絞り量が適切な値に調整される。
【0062】
したがって、近景被写体までの距離をLn、遠景被写体までの距離をLf(>Ln)とすると、近景被写体および遠景被写体のそれぞれの被写体についての適切な絞り量Fn,Ffは、以下の数2、数3で決定される。なお、両者の間には、Ff<Fn、なる関係が存在する。
【0063】
【数2】
Figure 0003666421
【0064】
【数3】
Figure 0003666421
【0065】
近景被写体用絞り値Fnは、フラッシュ発光の強度を表す指標Gと近景被写体までの距離Lnとに応じて決定される値であり、遠景被写体用絞り値Ffは、フラッシュ発光の強度を表す指標Gと遠景被写体までの距離Lfとに応じて決定される値である。なお、近景被写体までの距離Lnおよび遠景被写体までの距離Lfは、測距センサー11によって得ることができる。具体的には、画像内の異なる数点(たとえば中央および4隅近傍の合計5点)についての距離情報を得ておくことによって、奥行き距離が異なる複数の被写体についての距離を得ることが可能である。
【0066】
ここで、撮影時に絞りをFf相当の絞り量よりもさらに開放する(すなわち、絞り量FをFfよりも小さな値にする)と、遠景被写体に対しても十分な露光量になってしまう。上記実施形態においては、撮影画像PAの遠景被写体に対して露光量不足の状態を生成することが望まれるため、撮影用レンズ3の絞りは、値Ffに相当する絞り量よりもさらに絞ることが必要である。すなわち、撮影画像PAの撮影時の絞り量Fbは値Ffよりも大きいこと(Fb>Ff)が必要である。
【0067】
一方、撮影用レンズ3の絞りを、Fn相当の絞り量よりもさらに絞ってしまう(すなわち、絞り量FをFnよりも大きな値にする)と、近景被写体に対する露光量は、最適な状態よりは若干不足する状態となってしまう。上記実施形態においては、撮影画像PAの近景被写体に対して露光量がより適切となるように調整されることが望ましいので、撮影画像PAの撮影時の絞り量Fbは値Fn以下であること(Fb≦Fn)が好ましい。
【0068】
したがって、撮影画像PAの撮影時における適切な絞り量Fbは、次の数4を満たすことが好ましい。
【0069】
【数4】
Figure 0003666421
【0070】
このように、絞り量決定部107は、撮影用レンズ3の絞りを、上記の数4を満たす絞り量Fbに調整することが好ましい。
【0071】
また、撮影画像PAは、この数4を満たす絞り量のうち、近景被写体用絞り値Fnに等しい絞り値(Fb=Fn)を用いて撮影されることがさらに好ましい。なぜなら、近景被写体に対して露光量が最も適切に調整される一方で、遠景被写体に対して露光量不足が最も顕著な状態の画像を得ることができるからである。
【0072】
このように、絞り量決定部107は、撮影用レンズ3の絞りを、絞り量Fnに等しい値となるように調整することがさらに好ましい。
【0073】
以上のようにして、撮影画像PAの撮影時における絞りを、より最適化された状態に設定することができる。
【0074】
<B.第2実施形態>
ところで、上記の第1実施形態においては、近景被写体以外の被写体として黒色の被写体が存在する場合には、近景領域を良好に抽出できない事態が生じ得る。
【0075】
図7は、そのような一例を示す概念図であり、所定のシーンを撮影した2枚の撮影画像PA,PBと両撮影画像PA,PBの差分画像PCの二値化画像PC1とを表す図である。撮影画像PA,PBは、それぞれ、フラッシュ光の有無や絞り量の調整度合い等に関して、上記実施形態と同様の撮影条件で撮影された画像を表す。
【0076】
このシーンにおいては、中央に人物の被写体が写っており、この人物は黒髪である。人物はデジタルカメラ1から最も近い位置に存在している。また、人物に向かって右側には、黒色の物体B1が写っている。この黒色の物体B1は、人物よりもさらに後方に配置されている。
【0077】
このようなシーンを撮影した場合、黒色の物体B1に関しては、露光量の過不足に拘わらず、撮影画像PA,PBの両画像においていずれも同程度の低階調値の領域となってしまうため、差分画像PCにおいても低階調値領域として認識される。そのため、この黒色の物体B1もが近景領域として誤って抽出されてしまう結果となる。
【0078】
このように、第1実施形態に係る近景領域抽出手法を用いる場合においては、抽出すべき近景被写体(ここでは人物)以外の被写体(すなわち遠景被写体)として黒色あるいは黒色に近い濃い色の被写体を含めた画像を撮影するとき(たとえば、人物の背景に黒色物体が存在するとき)には、近景被写体に関する領域のみを近景領域として良好に抽出することが困難な事態が存在する。
【0079】
この第2実施形態においては、このような場合においても良好に近景領域を抽出することが可能な技術について説明する。
【0080】
第2実施形態に係るデジタルカメラは、第1実施形態に係るデジタルカメラと同様の構成を有しており、かつ、同様の動作を行う。以下では、相違点を中心に説明する。
【0081】
この第2実施形態においても、第1実施形態と同様の撮影動作(図4,図5参照)が行われ、撮影画像PA,PBが撮影される。具体的には、近景被写体抽出モードにおいて、シャッタボタンが押下されると、図5のステップSP10からステップSP20に至るまでの処理が行われる。
【0082】
図8は、第2実施形態に係る近景領域抽出動作(ステップSP21)の詳細を表すフローチャートである。第2実施形態においては、図5のステップSP21における領域抽出処理として、図6に示される第1実施形態についての処理に代えて、図8に示される処理を実行する。なお、以下の近景領域の抽出処理は、領域抽出部104によって行われる。
【0083】
また、図9は、第2実施形態に係る近景領域抽出処理を表す概念図である。図9には、撮影画像PA,PB(図7)に基づいて生成される差分画像PCの二値化画像PC1と、撮影画像PAに基づいて生成される画像PDとが示されている。なお、図9の画像PC1および画像PDにおいては、低階調値は黒色で示されており、高階調値は白色で示されている。
【0084】
この第2実施形態においては、差分画像PCの二値化画像PC1に加えて、撮影画像PAに基づく画像PDの情報をも用いることによって近景領域を抽出する点で第1実施形態と相違する。
【0085】
図8におけるステップSP201,SP202は、ステップSP101,SP102と同一の処理である。その後、ステップSP203においては、フラッシュ発光を用いて撮影した撮影画像PAを所定の閾値TH2を用いて二値化した画像PDを生成する処理を行う。たとえば、撮影画像PAが0〜255までの256段階の階調値を取り得る場合、この閾値TH2として125(TH2=125)などを採用することができる。そして、閾値TH2以下の比較的低い階調値を有する領域を低階調値領域とし、閾値TH2より大きな比較的高い階調値を有する領域を高階調値領域とする。すなわち、撮影画像PAを低階調値領域と高階調値領域とに区分し、その区分結果として、二値化画像である画像PDを得る。
【0086】
そして、ステップSP204において、差分画像PC(より詳細には二値化画像PC1)と撮影画像PA(より詳細には二値化画像PD)とを用いて、撮影シーンを次の4つの領域A1,A2,A3,A4に区分し、ステップSP205において、その区分結果を用いて撮影シーンから近景領域を抽出する。
【0087】
ここで、4つの領域A1,A2,A3,A4とは、図9に示すように、それぞれ、
領域A1:差分画像PCにおいて低階調値を有しかつ撮影画像PAにおいて高階調値を有する領域、
領域A2:差分画像PCにおいて低階調値を有しかつ撮影画像PAにおいて低階調値を有する領域、
領域A3:差分画像PCにおいて高階調値を有しかつ撮影画像PAにおいて高階調値を有する領域、
領域A4:差分画像PCにおいて高階調値を有しかつ撮影画像PAにおいて低階調値を有する領域、である。
【0088】
言い換えれば、
領域A1は、差分画像PCの低階調値領域と撮影画像PAの高階調値領域との重複領域であり、
領域A2は、差分画像PCの低階調値領域と撮影画像PAの低階調値領域との重複領域であり、
領域A3は、差分画像PCの高階調値領域と撮影画像PAの高階調値領域との重複領域であり、
領域A4は、差分画像PCの高階調値領域と撮影画像PAの低階調値領域との重複領域である、とも表現することができる。
【0089】
また、次の表1は、各領域A1,A2,A3,A4に区分する際の条件をまとめて示したものである。
【0090】
【表1】
Figure 0003666421
【0091】
ここにおいて、これら4つの領域A1,A2,A3,A4は次述する理由からそれぞれ、次の性質を有する領域であるとして判断される。すなわち、まず、領域A1は、近景領域と判定でき、領域A3,A4は、遠景領域として判定できる。また、領域A2は、近景領域、遠景領域のどちらとも判定できない。次の表2は、各領域A1,A2,A3,A4に関する判定結果をまとめたものである。
【0092】
【表2】
Figure 0003666421
【0093】
まず、領域A1は、撮影画像PAにおいて高階調値を有しているので、被写体が黒色ないし濃色ではないことが判明している。これに加えて、領域A1は、差分画像PCにおいて低階調値を有しているので、撮影画像PA,PBの両方において適正な露光量で撮影された近景領域であると判定できる。したがって、領域抽出部104は、この領域A1を、第1の近景候補領域として決定する。
【0094】
つぎに、領域A3,A4は、差分画像PCにおいて高階調値を有しているので、遠景領域として判定できる。
【0095】
特に、領域A4は、撮影画像PAにおいて低階調値を有する領域でもあるので、フラッシュ光が届きにくい被写体に関する領域、すなわち遠景領域であると明らかに判定できる。
【0096】
なお、領域A3は、差分画像PCにおいて高階調値を有しかつ撮影画像PAにおいて高階調値を有する領域である。この領域A3に区分される被写体としては、フラッシュ光が届かなくても所定程度の明るさを有する被写体であり、たとえば、蛍光灯B3(図7参照)などの発光体が該当する。蛍光灯などの発光体は明るいので、フラッシュ発光を伴う撮影画像PAにおいても高階調値を有する。ただし、撮影画像PAの撮影時には、撮影用レンズ3の絞りを相当程度絞っているので、撮影画像PAにおいては撮影画像PBに比べてその輝度が相当程度低下して撮影される。したがって、撮影画像PA,PBの差分画像PCにおいては、所定の閾値TH1よりも大きな値、すなわち高階調値となる。このような領域A3は、差分画像PCにおいて高階調値を有しているので、遠景領域として判定することができる。
【0097】
このように、領域抽出部104は、領域A3,A4を、遠景領域として決定する。
【0098】
また、領域A2は、人物の黒髪B2(図7参照)や遠景の黒色物体B1についての黒色領域である。これらの黒髪B2、物体B1に関する黒色領域は、撮影画像PA,PBの両方の画像において同様の低階調値となるので、差分画像PCにおいても低階調値となる。また、黒髪B2や物体B1は、撮影画像PAにおいても低階調値を有する領域として表現される。
【0099】
このように、この領域A2は、人物の一部である黒髪B2と、遠景(ないし背景)として認識されるべき物体B1との両方を含む領域であるため、差分画像PCの二値化結果と撮影画像PAの二値化結果とを用いただけでは、近景領域であるか遠景領域であるかを判定できない。
【0100】
そこで、この第2実施形態においては、領域A2のうち領域A1に隣接する領域を第2の近景候補領域として決定する。
【0101】
具体的には、領域A1の境界線に沿って、その隣接領域が領域A2であるか否かを判定する。そして、その隣接領域が領域A2であるときには、その領域A2を第2の近景候補領域として判定する。一方、このような検出動作において検出されなかった領域A2(すなわち領域A1に隣接していない領域A2)は、遠景領域として判定する。このようにして、領域A2のうち、第1の近景候補領域(すなわち領域A1)に隣接する領域を第2の近景候補領域として決定する。
【0102】
そして、第1の近景候補領域と第2の近景候補領域との両方に相当する領域を近景被写体領域として決定する。言い換えれば、第1の近景候補領域と第2の近景候補領域とを統合した領域を近景被写体領域として決定するとも表現することができる。
【0103】
以上のように、撮影画像PAを二値化して高階調値領域と低階調値領域とに区分した結果をも用いて近景被写体領域を抽出することによって、遠景被写体として黒色の物体が存在する場合でも、画像内において当該黒色物体が近景被写体から分離して撮影されているときには、良好に近景領域抽出を行うことが可能である。
【0104】
<C.第3実施形態>
ところで、上記の第2実施形態においては、遠景被写体として黒色の被写体が近景被写体に隣接する場合には、近景領域を良好に抽出できない事態が生じ得る。
【0105】
図10は、そのような一例を示す概念図であり、所定のシーンを撮影した2枚の撮影画像PA,PBと両撮影画像PA,PBの差分画像PCの二値化画像PC1とを表す図である。撮影画像PA,PBは、それぞれ、フラッシュ光の有無や絞り量の調整度合い等に関して、上記実施形態と同様の撮影条件で撮影された画像を表す。
【0106】
このシーンにおいては、中央に人物の被写体が写っており、この人物は黒髪である。人物はデジタルカメラ1から最も近い位置に存在している。また、人物の向かって右側には、黒色の物体B4が写っている。この黒色の物体B4は、人物よりも後方に配置されており、画面内において人物に隣接した状態で撮影されている。
【0107】
遠景被写体として認識すべき黒色の物体B4は、近景被写体である人物に画面内で隣接した状態となっているため、このようなシーンを第2実施形態に係る近景領域抽出手法を用いて撮影した場合には、この物体B4をも近景領域として誤って抽出してしまう結果となる。このように、近景被写体に関する領域のみを近景領域として良好に抽出することが困難な事態が存在する。
【0108】
この第3実施形態においては、このような場合においても良好に近景領域を抽出することが可能な技術について説明する。
【0109】
第3実施形態に係るデジタルカメラは、第2実施形態に係るデジタルカメラと同様の構成を有しており、かつ、同様の動作を行う。以下では、相違点を中心に説明する。
【0110】
この第3実施形態においても、第1実施形態と同様の撮影動作(図4,図5参照)が行われ、撮影画像PA,PBが撮影される。具体的には、近景被写体抽出モードにおいて、シャッターボタン7が押下されると、図5のステップSP10からステップSP20に至るまでの処理が行われる。
【0111】
図11は、第3実施形態に係る近景領域抽出動作の詳細を表すフローチャートである。第3実施形態においては、図5のステップSP21における領域抽出処理として、図6に示される第1実施形態についての処理に代えて、図11に示される処理を実行する。以下の近景領域の抽出処理は、領域抽出部104によって行われる。
【0112】
また、図12は、第3実施形態に係る近景領域抽出処理を表す概念図である。図12には、撮影画像PA,PB(図10)に基づいて生成される差分画像PCの二値化画像PC1と、撮影画像PAに基づいて生成される二値化画像PDとが示されている。なお、図12の画像PC1,PDにおいては、低階調値は黒色で示されており、高階調値は白色で示されている。
【0113】
この第3実施形態においては、差分画像PCの二値化画像PC1に加えて、撮影画像PAに基づく二値化画像PDの情報をも用いることによって近景領域を抽出する点で、第1実施形態と相違する。ただし、この点については第2実施形態と同様である。
【0114】
さらに、この第3実施形態においては、二値化する前の多階調値を有する差分画像PCの各画素の階調値にも基づいて近景領域の抽出処理を行う点で、第2実施形態と相違する。
【0115】
図11におけるステップSP301,SP302,SP303,SP304は、第2実施形態(図8)のステップSP201,SP202,SP203,SP204と同一の処理である。このうち、ステップSP303においては、フラッシュ発光を用いて撮影した撮影画像PAを所定の閾値TH2を用いて二値化した画像PDを生成する処理を行う。また、ステップSP304においては、画像PC1と画像PDとを用いて、撮影シーンを次の4つの領域A1,A2,A3,A4に区分する。図13は、この区分結果を示す図である。なお、このステップSP304までの処理は、上記の第2実施形態と同一の処理である。
【0116】
上述したように、4つの領域A1,A2,A3,A4のうち、領域A1は、近景領域と判定できるので、この領域A1は第1の近景候補領域に該当する領域として決定される。そして、領域A3,A4は、遠景領域として判定できるので、この領域A3,A4は遠景領域として決定される。
【0117】
これに対して、領域A2は、人物の黒髪B2や遠景の黒色物体B4(図12参照)についての黒色領域であり、上記と同様の理由により、近景領域であるか遠景領域であるかを判定できない。
【0118】
そこで、この第3実施形態においては、次のステップSP305において、多階調の差分画像PCを用いて、領域A2内の各画素が近景領域内のものであるか遠景領域のものであるかを判定する。
【0119】
具体的には、次の2つの手法M1,M2を採用することが可能である。
【0120】
まず、最初の手法M1は、領域A2のうち、差分画像PCにおいて比較的低い階調値を有する領域を第2の近景候補領域として決定する手法である。
【0121】
図14は、その各画素の階調値を二値化する前の差分画像PCを示す概念図である。二値化前の差分画像PCにおける各画素は、多段階(たとえば256段階)の階調値を有している。
【0122】
ここで、領域A1は、両撮影画像PA,PBの対応画素の階調値の差分が小さく、差分画像PCの階調値は小さな値となる領域である。たとえば、その差分値(詳細には、差分画像PCにおける領域A1の各画素の階調値)はゼロから20程度の値となる。
【0123】
また、領域A2のうち人間の頭髪部分B2に相当する領域A21は、領域A1と同様の差分値を有している。なぜなら、領域A21は、近景被写体である人物の頭髪部分B2に相当する領域であるので、撮影画像PAにおいても撮影画像PBにおいても適切な露光量で撮影されることになるからである。このように、差分画像PCにおける領域A21の各画素の値は、0(ゼロ)〜20程度の値となる。
【0124】
さらに、領域A2のうち後方の黒色物体B4に相当する領域A22は、差分画像PCにおいて、領域A1よりも高い階調値を有している。なぜなら、領域A22は、遠景被写体である黒色物体B4に相当する領域であるので、撮影画像PBにおいては比較的適切な露光量で撮影される一方で、撮影画像PAにおいては領域A21に比べると若干露光量不足の状態で撮影されることになるからである。この場合、差分画像PCにおける領域A21の各画素の値は、たとえば、20〜40程度の値となる。
【0125】
そこで、両領域A21,A22を互いに区別するため、差分画像PCの領域A2内の各画素の階調値を所定の閾値TH3(<TH1)で二値化する。この閾値TH3は、差分画像PCを二値化して画像PC1を得る際に用いた閾値TH1よりも小さな値である。たとえば、差分画像PCが0〜255までの256段階の階調値を取り得る場合には、この閾値TH3としては20(TH3=20)などを採用することができる。
【0126】
閾値TH3を用いた二値化の結果に応じて領域A2を、閾値TH3より小さな値を有する画素の集合として規定される低階調値領域と、閾値TH3以上の値を有する画素の集合として規定される高階調値領域とに区分する。この結果、領域A21は前者の領域として決定され、領域A22は後者の領域として決定される。すなわち、領域A2は、領域A21と領域A22とにクラスタリングされるのである。図15においては、領域A2が領域A21と領域A22とに区分された状態が概念的に示されている。
【0127】
そして、領域A2のうち、低階調値領域(たとえば領域A21)を第2の近景候補領域として決定し、高階調値領域(たとえば領域A22)を遠景領域として決定する。
【0128】
以上のような手法M1によって、領域A2のうち、差分画像PCにおいて所定の閾値TH3よりも小さな階調値を有する領域を第2の近景候補領域として決定することが可能である。
【0129】
次に、多階調の差分画像PCを用いて、領域A2内の各画素が近景領域内のものであるか遠景領域のものであるかを判定する別の手法M2について説明する。
【0130】
この手法M2は、差分画像における領域A2内の注目画素であって当該注目画素の隣接画素との画素値相互間の差分絶対値が所定値以下となる注目画素によって構成される領域であって、かつ、第1の近景候補領域に隣接する領域を、第2の近景候補領域として決定する手法である。この手法M2によれば、近景被写体における照明状態が画面内において徐々に変化する場合でも、より正確に近景領域を抽出することが可能になる。
【0131】
詳細には、次のような手順で行う。まず、差分画像における領域A2内の画素のうち、領域A1の境界線に沿う画素を注目画素として選択する。つぎに、その注目画素に対して領域A1側に隣接する画素と当該注目画素との画素値相互間の差分絶対値が所定値以下となるかを判定する。そして、その判定結果として当該差分絶対値が所定値以下となる注目画素を第2の近景候補領域内の画素として認定する。
【0132】
たとえば、図16に示すように、領域A2内の画素であって領域A1に隣接する注目画素E1を選択した場合には、その注目画素E1と領域A1側の隣接画素E11との差分絶対値を求める。そして、この絶対値が所定値(たとえば5)以下であるなどの所定の条件を満たすことによって、隣接画素との変化が微小であると判断することができる場合には、この注目画素E1は領域A1に連続した領域として(言い換えれば同一被写体であるとして)捉えるものとする。
【0133】
さらに、このような注目画素に関する選択動作と判定動作とを、領域A1から離れる方向へ向けて順次に繰り返していくことによって、上記の条件を満たす注目画素によって構成される領域を形成することができる。図16においては、このような動作によって、人間の顔面に相当する領域A1に隣接する領域A21が抽出された結果が示されている。この領域A21には、領域A1側の隣接画素との差分絶対値が所定値以下であるという条件を満たす画素E1,E2,E3などが含まれている。
【0134】
一方、領域A22内の境界線上の注目画素は、隣接する領域A1あるいは領域A21の画素との差分絶対値が所定値よりも大きくなる。たとえば、注目画素E5は、領域A1側の隣接画素E15との差分絶対値が所定値よりも大きくなるので、上記の条件を満たさないことになる。また、注目画素E4は、領域A1側(領域A2側)の隣接画素E3と差分絶対値が所定値よりも大きくなるので、上記の条件を満たさないことになる。
【0135】
このように、注目画素E4,E5などを含む、領域A22内の境界線上の複数の注目画素は、上記の条件を満たさない。
【0136】
したがって、領域A1に隣接する領域A2のうち、上記の条件を満たす注目画素の集合領域である領域A21のみを、第2の近景候補領域として決定することができる。
【0137】
以上の手法M2を用いれば、差分画像における領域A2内の注目画素であって当該注目画素の隣接画素との画素値相互間の差分絶対値が所定値以下となる注目画素によって構成される領域であって、かつ、第1の近景候補領域に隣接する領域を第2の近景候補領域として決定することができる。したがって、領域A1に隣接する領域A2の中から近景領域を良好に抽出することができる。特に、手法M2によれば、レンズの周辺光量落ちや、近景被写体に対しての照明が若干傾斜を持って変化することなどに起因して、差分画像PCにおける階調値が連続的に変化する場合においても、近景領域を良好に抽出することが可能である。
【0138】
その後、ステップSP306において、第1の近景候補領域(ここでは領域A1)と第2の近景候補領域(ここでは領域A21)との両方に相当する領域を近景被写体領域として決定する。言い換えれば、第1の近景候補領域と第2の近景候補領域とを統合した領域を近景被写体領域として決定する。図17においては、領域A1と領域A21とを統合した領域が一体として示されている。そして、この統合領域に該当する領域を近景領域として撮影画像PAあるいは撮影画像PBから抽出し、青一色の背景画像と合成する(ステップSP22(図5))。なお、図18は、合成後の画像を示す図である。
【0139】
以上のように、二値化する前の多階調値を有する差分画像PCをも用いて近景領域を決定する処理を行うことによって、遠景被写体として黒色の物体が近景被写体に隣接して撮影されているときにも、近景領域を良好に抽出することが可能である。
【0140】
<D.第4実施形態>
上記の第1実施形態から第3実施形態までにおいては、撮像装置としてのデジタルカメラ1において、画像処理をも行う場合について説明した。この第4実施形態においては、上記と同様の画像処理を、撮像機能を切り離した画像処理装置において行う場合について説明する。
【0141】
図19は、この第4実施形態における画像処理装置を含む画像処理システム400の概念的構成を表す図である。この画像処理システム400は、顧客から証明写真に関する注文を2枚の撮影画像PA,PBとともにネットワークNを介して受け付け、当該注文に応じて上記各実施形態と同様の画像処理を行い、その処理結果としての証明写真に関する画像(より詳細には画像データ)を顧客側へと返信するサービスを行うことができる。
【0142】
図19に示すように、このシステム400は、証明写真に関する注文を顧客からネットワークNを介して受け付け、所定の画像処理を行うサーバコンピュータ(以下、単に「サーバ」とも称する)410を備えている。このサーバ410は、本発明に係る画像処理装置に相当する。
【0143】
また、このシステム400においては、顧客側端末440がネットワークを介してこのサーバ410に対して接続される。言い換えれば、顧客は、顧客側端末440によってネットワークに接続可能である。この顧客側端末440としては、各家庭やオフィスなどに設置されたパーソナルコンピュータ、携帯可能なモバイルコンピュータ、および通信機能を有するデジタルカメラなどが存在し、これらの顧客側端末440は、ダイアルアップ接続などを通じてネットワークに接続することが可能である。そして、このネットワークを介して、サーバ410に対してアクセスを行うことなどにより、上記のサービスを享受することができる。
【0144】
ここで、「ネットワーク」とは、データ伝送を行う通信回線網であり、具体的には、インターネット、LAN、WAN、CATV、ICN(Inter-Community Network)などの、電気通信回線(光通信回線を含む)により構成される各種の通信回線網である。ネットワークに対する接続形態は、専用回線などを利用した常時接続であってもよいし、アナログ回線あるいはデジタル回線(ISDN)などの電話回線を利用したダイアルアップ接続などの一時的な接続のいずれであってもよい。また、その伝送方式は、無線方式および有線方式のいずれであってもよい。
【0145】
つぎに、サーバ410について詳細に説明する。
【0146】
サーバ410は、図19に示すように、ハードウエア的には、CPU411と、RAM(および/またはROM)などの半導体メモリにより構成される主記憶部412と、ハードディスクドライブ(HDD)などの補助記憶部413と、メディアドライブ414とを備えるコンピュータシステム(以下、単に「コンピュータ」とも称する)として構成される。メディアドライブ414は、CD−ROM、DVD(Digital Versatile Disk)、フレキシブルディスクなどの可搬性の記録媒体409からその中に記録されている情報を読み出す。
【0147】
このコンピュータは、記録媒体409に記録されたソフトウエアプログラム(以下、単に「プログラム」とも称する)を読み込み、そのプログラムをCPU411等を用いて実行することによって、上記実施形態で詳述した各種の画像処理動作を実現する画像処理装置410として機能する。なお、各機能を有するプログラムは、記録媒体409を介して供給(ないし配給)される場合に限定されず、ネットワークを介して、このコンピュータに対して供給(ないし配給)されてもよい。このように、画像処理装置としてのサーバ410は、コンピュータにおいてソフト的に構築される装置である。
【0148】
また、図20に示すように、サーバ410は、画像取得部415、抽出部416、合成部417、および画像返信部418を有している。各処理部415,416,417,418は、コンピュータにおいて所定のプログラムを実行することにより機能的に実現される処理部であり、それぞれ、以下のような機能を有している。
【0149】
画像取得部415は、フラッシュ発光を用いた撮影画像であって全被写体のうち近景被写体のみの露光量が適切となるように撮影された撮影画像PAと、フラッシュ発光を用いずに画像全体の露光量が適切となるように撮影された撮影画像PBとを取得する。具体的には、デジタルカメラなどの撮像装置によって撮像された撮影画像PA,PBが、顧客側端末440からサーバ410へとftp(file transfer protocol)などの各種プロトコルを用いて送信され、サーバ410の画像取得部415がこの撮影画像PA,PBを受信することにより、両撮影画像PA,PBを取得する。
【0150】
また、抽出部416は、撮影画像PAと撮影画像PBとの差分画像PCを求め、当該差分画像PCに基づいて、撮影画像PAまたは撮影画像PBの中から近景被写体領域を抽出する。この抽出部416は、上記の第1実施形態〜第3実施形態と同様の近景被写体領域の抽出処理を行うことが可能である。
【0151】
さらに、合成部417は、抽出部416によって抽出された近景被写体領域を背景画像と合成することが可能である。この処理も上記の第1実施形態〜第3実施形態と同様である。
【0152】
また、画像返信部418は、抽出部416および合成部417によって生成された証明写真を顧客側端末440に対して返信する。
【0153】
以上のような各処理部が各機能を発揮することによって、顧客は、サーバ410による画像処理の結果としての処理後画像を受け取ること、すなわち、証明写真等に関する画像を取得することができる。
【0154】
なお、この第4実施形態においては、処理結果として処理後画像を顧客に返信する場合を例示したが、本発明はこれに限定されず、たとえば、処理後画像に基づいて証明写真をプリント出力して生成し、そのプリント出力結果を顧客の指定する住所等に配送するようにしても良い。
【0155】
また、上記実施形態においては、サーバ側へ一旦、画像を送信する場合を例示したが、本発明はこれに限定されず、顧客側端末440自体において、上記と同様のプログラムを実行することによって、同様の画像処理を行うようにしても良い。
【0156】
<E.第5実施形態>
上記各実施形態においては、フラッシュ発光を用いた撮影画像であって全被写体のうち近景被写体のみの露光量が適切となるように調整された撮影画像PAが適切に撮影されることを前提としていた。しかしながら、撮影時の状況によっては、この撮影画像PAを適切に撮影することが不可能な場合も存在する。この第5実施形態においては、撮影画像PAの撮影に先立って、撮影画像PAを適切に撮影することができるか否かを判別する態様を例示する。
【0157】
<E1.構成>
この第5実施形態に係るデジタルカメラ1Eは、上記第1実施形態〜第3実施形態に係るデジタルカメラ1と同様の構成を有している。以下では、相違点を中心に説明する。
【0158】
図21は、デジタルカメラ1Eの背面図であり、図22は、デジタルカメラ1Eの機能ブロック図である。
【0159】
図21に示すように、このデジタルカメラ1Eは、他の実施形態に係るデジタルカメラ1と同様の構成要素に加えて、表示部12をさらに備えている。この表示部12は、液晶ディスプレイ(LCD)などで構成されており、デジタルカメラ1の背面に設けられている。また、表示部12は、ライブビュー画像などを表示するとともに、上述した近景領域の抽出が可能であるか否かなどの判別結果等に関する各種の情報をも表示する。
【0160】
また、図22の機能ブロック図に示されるように、このデジタルカメラ1Eは、判別部108をもさらに備えている。この判別部108は、撮影時の状況において、領域抽出部104による近景被写体領域の抽出(上述)が可能か否かを判別する機能を有している。以下に説明する判別機能は、主に判別部108によって実現される。
【0161】
<E2.判別原理について>
つぎに、この判別機能の原理等について説明する。ここでは、(a)遠景被写体の露出量が不適切となるように撮影画像PAを撮影すること(すなわち、遠景被写体を露光量不足で撮影画像PAを撮影すること)ができるか否か、および(b)近景被写体の露光量が適切となるように撮影画像PAを撮影することができるか否かを調べることによって、撮影画像PAを適切に撮影することができるか否か、を調べる場合について説明する。これによって、領域抽出部104による近景被写体領域の抽出(上述)が可能か否かを判別するのである。
【0162】
まず最初に、上記(a)の「遠景被写体」の露光量に関する判別について説明する。
【0163】
たとえば、撮影環境の明るさが大きすぎる場合(すなわち明るすぎる場合)には、最も絞りを絞った状態であっても遠景被写体の輝度値が高くなりすぎてしまうことがある。この場合、遠景被写体の露出量が不適切となるように撮影することができない。そこで、撮影時の環境下において、近景領域を抽出することが可能であるか否かを判定するのである。これにより、不必要な撮影動作を行わないようにすることができる。
【0164】
ここでは、撮影時の環境下において遠景被写体について実現可能な露光量の最小値Xmin(後述)が、遠景被写体についての不適切な露光量としての最大値Xs(後述)よりも大きい場合に、領域抽出部104による近景被写体領域の抽出が不可能であるとして判別する場合について例示する。
【0165】
一般に、撮影された像の露光量Xと絞り量Fとの関係は、次の数5で示される。
【0166】
【数5】
Figure 0003666421
【0167】
すなわち、露光量Xと絞り量Fの2乗とは、反比例の関係にある。
【0168】
ここで、露光量Xとしては、各画素の画素値の値を用いることができる。より詳細には、露光量Xは、近景被写体が存在しない領域(たとえば画面の4隅の所定領域)内の複数の画素の階調値の平均値として求められる。また、その時点での絞り量Fはデジタルカメラ1において設定されている値を取得することができる。このようにして、その時点における絞り量Fと露光量Xとを取得することができる。ここでは、これらの取得された絞り量Fと露光量Xとの値をそれぞれ、Fg,Xgとする。
【0169】
また、デジタルカメラ1において最も絞った状態(すなわちデジタルカメラ1で設定可能な絞り量の最大値Fmaxに絞り値Fが設定された状態)で撮影したときの露光量Xは、実現可能な露光量のうち最も小さな値Xminとなる。すなわち、値Xminは、その撮影時の環境下においてデジタルカメラ1で実現可能な露光量の最小値である。
【0170】
各値Fg,Xg,Fmax,Xminを上記の数5を用いて関連づけると次の数6が導出される。したがって、この数6に基づいて、値Xminを算出することができる。
【0171】
【数6】
Figure 0003666421
【0172】
一方、遠景被写体が不適切な露光量で撮影されるための露光量の設定値Xsが存在する。この設定値Xsは、露光量Xがそれよりも大きな値となるときには遠景被写体が適切な露光量となってしまう値である。すなわち、値Xsは、遠景被写体についての不適切な露光量としての最大値(言い換えれば、露光状態が不適切となる露光量の最大許容値)である。上記の近景被写体抽出動作を良好に行うためには、露光量Xはこの値Xs以下でなくてはならない。
【0173】
この値Xsは、あらかじめ所定の値に設定される。各画素が0〜255までの256段階の階調値を取り得る場合には、たとえば60程度を値Xsとして定めておくことができる。
【0174】
そして、上記の2つの値、すなわち、値Xminと値Xsとを比較する。
【0175】
まず、値Xminが値Xsよりも大きい場合、言い換えれば、その撮影時の環境下において遠景被写体について実現可能な露光量の最小値Xminが、遠景被写体についての不適切な露光量としての最大値Xsよりも大きい場合には、遠景被写体を不適切な露光量で撮影することができないことが判る。なぜなら、この撮影時の環境下で実現可能な最小値Xminが値Xsよりも大きい場合には、近景領域を良好に抽出するためには露光量が値Xs以下でなくてはならないにもかかわらず、そのような露光量を実現することが出来ないからである。
【0176】
このとき、判別部108は、領域抽出部104による近景被写体領域の抽出が不可能であるとして判別する。そして、表示部12は、近景被写体領域の抽出が不可能である旨、言い換えれば、近景領域抽出動作を伴う撮影が不可能である旨を表示する。具体的には、「撮影不可」あるいは「明るすぎるので、被写体抽出ができません」などの文字が表示部12において表示される。これによって、デジタルカメラ1の操作者に対して判別結果に関する情報を提供することができる。
【0177】
また、値Xminが値Xs以下であるときには、遠景被写体を不適切な露光量で撮影することが可能であることが判る。このときには、次の判定動作に移行する。
【0178】
つぎに、上記(b)の「近景被写体」の露光量に関する判別について説明する。
【0179】
ここでは、遠景被写体を不適切な露光量で撮影することができる絞り値の最小値Fs(後述)が、近景被写体用絞り値Fnよりも大きい場合に、領域抽出部104による近景被写体領域の抽出が不可能であるとして判別する場合を例示する。
【0180】
上述したように、フラッシュのガイドナンバーG、被写体までの距離L、および適切な絞り量Fの間には数1に示される関係が存在する。そして、近景被写体についての適切な絞り量Fnは、上記の数2に示される値となる。また、数4に示すように、近景被写体の露光量を適切にするため、撮影時の絞り量Fbは、好ましくは値Fn以下である。言い換えれば、測距センサー11によって測定された近景被写体までの距離Lnとフラッシュ発光の強度Gとに応じて決定される近景被写体用絞り値Fnは、近景被写体を適切な露光量で撮影することができる絞り値のうちの最大値(最大許容値)であるとも表現することができる。
【0181】
また、上記の露光量Xsを実現する絞り量Fsを求める。この値Fsは、遠景被写体を不適切な露光量で撮影することができる絞り値のうち、最も小さな値(最小値)である。各値Fg,Xg,Fs,Xsを上記の数5を用いて関連づけると次の数7が導出されるので、この数7にしたがって、値Fsを求めることができる。
【0182】
【数7】
Figure 0003666421
【0183】
そして、値Fnと値Fsとを比較する。
【0184】
まず、値Fsが値Fn以下である場合には、撮影時の絞り値Fbを値Fs≦Fb≦Fnとなるような任意の値として定めることによって、近景被写体を適切な露光量としつつ、かつ、遠景被写体を不適切な露光量とする撮影画像PAを撮影することが可能である。
【0185】
一方、値Fsが値Fnより大きい場合、言い換えれば、遠景被写体を不適切な露光量で撮影することができる絞り値の最小値Fsが、近景被写体を適切な露光量で撮影することができる最大値である値Fnよりも大きい場合には、近景被写体を適切な露光量としつつ、かつ、遠景被写体を不適切な露光量とする撮影画像PAを撮影することが不可能であることが判る。なぜなら、撮影時の絞り量Fbを値Fs以下とすると遠景被写体が露光オーバーとなり、撮影時の絞り量Fbを値Fnより大きくすると近景被写体が露光量不足となるからである。この場合、判別部108は、領域抽出部104による近景被写体領域の抽出が不可能であるとして判別する。
【0186】
ただし、この場合には、近景被写体をデジタルカメラ1側に近づけることによって、この絞り量Fsで近景被写体を適切な露光量で撮影することが可能になる。そこで、絞りを値Fs(遠景被写体の露光量を不適切にすることができる絞り値の最小値)に設定して撮影するときに、近景被写体の露光量を適切にすることが可能な近景被写体までの距離の許容最大値Lopt(後述)を算出し、そのような距離Loptにまで近景被写体をデジタルカメラ1側に近づけるべき旨を指示する。具体的には、「50cm手前に来て下さい」などの文字を表示部12に表示する。このように、接近すべき距離ΔL(後述)を表示部12に表示することなどによって、操作者などに対して接近すべき距離を知らせ、さらにこの近景被写体(ここでは人物)にデジタルカメラ1側に移動してもらうことによって、近景被写体が許容最大値Loptよりも手前の位置(デジタルカメラ1側の位置)に存在することとなれば、近景領域の抽出を伴う撮影処理が可能になる。たとえば、デジタルカメラ1と近景被写体との距離が値Loptを有する状態においては、撮影時の絞り量Fbを値Fsとすることによって、近景被写体を適切な露光量とすることができる。このことは、近景被写体までの距離Lnを小さくすることによって、値Fnの値自体をFsに等しくなるまで大きくすることに相当する。
【0187】
そのため、上記の距離Loptを求める。すなわち、この距離Loptは、Fs=G/Loptの関係を満たす値であるので、次の数8で表現される値である。
【0188】
【数8】
Figure 0003666421
【0189】
そして、接近すべき距離ΔLを次の数9により求める。
【0190】
【数9】
Figure 0003666421
【0191】
ここで、値Lnは、(移動前の)近景被写体までの距離であり、測距センサー11によって取得される値である。また、値Loptは、上記の数8によって求められる値である。
【0192】
以上のように、測距センサー11によって測定された現在の近景被写体までの距離Lnと数8に基づいて算出された距離Loptとの差ΔLを算出する。この値ΔLは、近景被写体が現在位置から移動すべき距離である。
【0193】
数9により得られた距離ΔLだけ近景被写体がデジタルカメラ1側に接近し、たとえば、近景被写体とデジタルカメラ1との距離LがLoptに等しくなれば、その距離L(=Lopt)に対応する最適な絞り値Fn(=Fopt)が値Fsに等しくなる。すなわち、絞り値Foptで撮影することによって、近景被写体の露光量が適切となるように撮影することが可能になる。また、このとき、絞り値Fは、遠景被写体を不適切な露光量で撮影することができる絞り値の最小値Fsに等しくなるので、遠景被写体の露光量が不適切になるようにも撮影することができる。すなわち、この撮影時の状況において、デジタルカメラ1は、遠景被写体を不適切な露出状態で撮影でき、かつ、近景被写体を適切な露光状態で撮影できることが確認される。
【0194】
<E3.動作>
つぎに、上記の判別原理を適用した詳細な動作について説明する。この第5実施形態に係る動作は、たとえば、上述した第1実施形態と同様の動作である。ここでは、相違点を中心に説明する。
【0195】
図23は、近景領域抽出モードにおける動作を表すフローチャートである。この図23のフローチャートは、図5のフローチャートと比較して、ステップSP10とステップSP11との間にステップSP101〜SP104を有する点で相違する。
【0196】
まず、撮影画像PAに関する撮影動作が行われる。
【0197】
そのため、ステップSP10においては、測光素子8および測距センサー11の出力を読み出し、ステップSP101においては、撮影用レンズ3の絞りの絞り量Fgを仮設定する。
【0198】
次のステップSP102において、判別部108は、遠景被写体を不適切な露光量で撮影することが可能か否かを判別する。具体的には、上述したように、ステップSP101で仮設定された絞り量Fgに対応する露出量Xgを求め、数5の関係式を用いて、その撮影時の状況においてデジタルカメラ1で実現可能な露光量の最小値Xminを求める。そして、この値Xminと予め求められた値Xsとを比較する。
【0199】
値Xminが値Xsよりも大きい場合には、遠景被写体を不適切な露光量で撮影することができないものとして判別する。この場合には、ステップSP103に進み、表示部12(図21)に「撮影不可」の表示等を行う。これによって、デジタルカメラ1の操作者に対してその判定結果に関する情報が提供される。したがって、操作者は、不要な撮影を行わずに済む。なお、デジタルカメラ1は、この表示を行った後、再び待機状態に戻る。
【0200】
一方、値Xminが値Xs以下である場合には、遠景被写体を不適切な露光量で撮影することが可能であることが判る。このときには、次の判定動作(ステップSP104)に移行する。
【0201】
次のステップSP104においては、判別部108は、近景被写体を適切な露光量で撮影することができるか否かを判別する。具体的には、上述したように、遠景被写体を不適切な露光量で撮影することができる絞り値のうち最も小さな値Fsを数7を用いて求め、数2から得られた値Fnとこの値Fsとを比較する。
【0202】
そして、値Fsが値Fn以下である場合には、次のステップSP11に進み、撮影時の絞り値Fbを値Fs≦Fb≦Fnを満たす任意の値(たとえばFb=Fn)として定める。これによって、近景被写体を適切な露光量としつつ、かつ、遠景被写体を不適切な露光量とする撮影画像PAを撮影することが可能である。
【0203】
一方、値Fsが値Fnより大きい場合には、近景被写体を適切な露光量としつつ、かつ、遠景被写体を不適切な露光量とする撮影画像PAを撮影することが不可能であることが判る。
【0204】
そこで、この場合には、ステップSP105に進み、近景被写体(たとえば人物)が移動すべき距離(移動量)ΔLを表示部12に表示する。この表示を行った後、デジタルカメラ1は再び待機状態に戻る。
【0205】
そして、表示部12のこの表示内容を見たデジタルカメラ1の操作者は、近景被写体である人物に対してデジタルカメラ1側に接近するように指示し、これに応じて、近景被写体がデジタルカメラ1側に接近する。
【0206】
近景被写体が距離ΔL以上接近した後、再び上記と同様の動作を行うと、今度は、ステップSP102,SP104において、遠景被写体を不適切な露出状態で撮影でき、かつ、近景被写体を適切な露光状態で撮影できることが確認される。なぜなら、デジタルカメラ1から近景被写体までの距離Lnを小さくすることによって、値Fn自体も大きくなり、値Fnが値Fsよりも大きくなる(言い換えれば、値Fsが値Fn以下となる)からである。そして、次のステップSP11において、撮影用レンズ3の絞りの絞り量Fbを適切な値に設定する。たとえば、絞り量FbをFnとして設定する。
【0207】
次のステップSP12以降の動作は、上記第1実施形態などで説明した動作と同様の動作である。ステップSP12〜SP16までの動作を行うことによって、撮影画像PAに関する撮影動作が行われる。
【0208】
その後、撮影画像PBに関する撮影動作(ステップSP17〜SP20)が行われ、上記第1実施形態〜第3実施形態において詳細に説明したような近景領域抽出動作(ステップSP21)を行い、抽出された近景領域を合成部106によって背景画像と合成し(ステップSP22)、その合成画像をメモリーカード105に記憶する(ステップSP23)などの動作が行われる。これにより、抽出された近景領域と背景画像とを合成した画像を生成することができる。より詳細には、証明写真として好適な画像となるように合成された画像を生成することができる。
【0209】
以上のように、この第5実施形態のデジタルカメラ1Eによれば、撮影時の状況において近景被写体領域の抽出が可能か否かを判別する判別部108をさらに備えているので、その撮影時の状況において近景被写体領域の抽出が不可能な場合に無駄な撮影を行わないなどの対策をとることが可能になる。
【0210】
<F.その他の変形例など>
上記各実施形態においては、抽出した近景被写体領域に対して組み合わせる背景画像として、青色一色の画像を用いる場合について説明したが、これに限定されず、他の色を用いてもよい。また、背景画像は、均一色に限定されず、例えばユーザーが選択した任意の画像を用いても良い。
【0211】
また、上記第3実施形態においては、画像の一部の領域A2について上記手法によるクラスタリングを行ったが、これに限定されず、上記のクラスタリング手法以外の手法、例えば、K平均法、ISO−DATA法等のクラスタリング手法を用いてもよい。
【0212】
さらに、上記各実施形態においては、あらかじめ定められた閾値を用いて画像の二値化を行う場合を例示しているが、これに限定されず、その複数の画素の階調値に関する度数分布(端的に言えば、画像の輝度値ヒストグラム)等を作成し、その度数分布における双峰性を用いてもよい。具体的には、その2つの山の間の谷底部分の度数を閾値として用いることができる。
【0213】
また、各画素の集合として領域を求める際においては、確率的弛緩法などの局所的な矛盾性を解消する手法を用いても良い。これによれば、ノイズ等の影響を軽減することができる。
【0214】
さらに、上記各実施形態においては、輝度値を用いて近景領域の抽出を行ったが、輝度値ではなく彩度などを用いて近景領域抽出を行ってもよい。この場合においても、遠景被写体における露出量は、2枚の撮影画像PA,PB相互間においてはフラッシュの有無に応じて異なる彩度を有することになる。したがって、上記における輝度に代えて、2枚の撮影画像PA,PB相互間における彩度の相違に基づいて上記と同様の処理を行うことによっても、良好に近景領域を抽出することができる。これは、遠景被写体の輝度が低下するとその遠景領域が無彩色に近づく性質を利用するものである。すなわち、輝度が低いことと彩度が低いこととを対応させるものである。
【0215】
また、上記第5実施形態においては、判別部108による判別結果を表示部12に表示する場合を例示したが、これに限定されず、その判別結果を音声などによって操作者等に知らせるようにしてもよい。
【0216】
【発明の効果】
以上のように、請求項1ないし請求項14に記載の発明によれば、フラッシュ発光を用いた撮影画像であって全被写体のうち近景被写体のみの露光量が適切となるように撮影された第1の撮影画像と、フラッシュ発光を用いない撮影画像であって画像全体の露光量が適切となるように撮影された第2の撮影画像との差分画像を求め、当該差分画像に基づいて、第1の撮影画像または第2の撮影画像の中から近景被写体領域を抽出するので、近景被写体領域を良好に抽出することができる。
【0219】
特に、請求項に記載の発明によれば、第1の撮影画像は、フラッシュ発光の強度と近景被写体までの距離とに応じて決定される近景被写体用絞り値に等しい絞り値を用いて撮影されるので、第1の撮影画像を撮影する際の絞り値が最適化され、より良好に近景領域を抽出することができる。
【0220】
また、請求項に記載の発明によれば、抽出された近景被写体領域が合成手段によって背景画像と合成されるので、証明写真等の合成画像を容易に作成することができる。
【0221】
さらに、請求項6ないし請求項11に記載の発明によれば、抽出手段による近景被写体領域の抽出が可能か否かを判別する判別手段をさらに備えているので、その撮影時の状況において近景被写体領域の抽出が不可能な場合に無駄な撮影を行わないなどの対策をとることが可能になる。
【図面の簡単な説明】
【図1】本発明に係る撮像装置としてのデジタルカメラを示す斜視図である。
【図2】デジタルカメラの機能ブロック図である。
【図3】第1実施形態に係る近景領域抽出処理を表す概念図である。
【図4】デジタルカメラにおける動作を表すフローチャートである。
【図5】近景領域抽出モードにおける動作を表すフローチャートである。
【図6】第1実施形態に係る近景領域抽出動作の詳細を表すフローチャートである。
【図7】第2実施形態に係る近景領域抽出処理を表す概念図である。
【図8】第2実施形態に係る近景領域抽出動作の詳細を表すフローチャートである。
【図9】第2実施形態に係る近景領域抽出処理を表す概念図である。
【図10】第3実施形態に係る近景領域抽出処理を表す概念図である。
【図11】第3実施形態に係る近景領域抽出動作の詳細を表すフローチャートである。
【図12】第3実施形態に係る近景領域抽出処理を表す概念図である。
【図13】4つの領域への区分結果を示す図である。
【図14】二値化する前の差分画像PCを示す概念図である。
【図15】領域A2を領域A21と領域A22とに区分した状態を示す概念図である。
【図16】領域A1に隣接する領域A21が抽出された状態を示す図である。
【図17】領域A1と領域A21とが統合された領域を示す図である。
【図18】合成後の画像を示す図である。
【図19】第4実施形態に係る画像処理装置を含む画像処理システム400の概念的構成を表す図である。
【図20】センターサーバの機能ブロック図である。
【図21】第5実施形態に係るデジタルカメラ1Eの背面図である。
【図22】デジタルカメラ1Eの機能ブロック図である。
【図23】第5実施形態の近景領域抽出モードにおける動作を表すフローチャートである。
【符号の説明】
1,1E デジタルカメラ(撮像装置)
2 CCD
3 撮影用レンズ
7 シャッターボタン
8 測光素子
9 フラッシュ
11 測距センサー
400 画像処理システム
409 記録媒体
410 サーバ(画像処理装置)
B1 黒色物体
B2 頭髪部分
B3 蛍光灯
B4 黒色物体
PA (フラッシュ発光を伴う)撮影画像
PB (フラッシュ発光を伴わない)撮影画像
PC 差分画像
PC1 (差分画像PCの)二値化画像
PD (撮影画像PAの)二値化画像
PR1 合成画像

Claims (14)

  1. 奥行き方向の位置が互いに異なる複数の被写体を撮影する撮像装置であって、
    フラッシュ発光を用いた撮影画像であって全被写体のうち近景被写体のみの露光量が適切となるように調整された第1の撮影画像と、フラッシュ発光を用いない撮影画像であって画像全体の露光量が適切となるように調整された第2の撮影画像とを撮影する撮影手段と、
    前記第1の撮影画像と前記第2の撮影画像との差分画像を求め、当該差分画像に基づいて、前記第1の撮影画像または前記第2の撮影画像の中から近景被写体領域を抽出する抽出手段と、
    を備え
    前記抽出手段は、
    前記差分画像を二値化して高階調値領域と低階調値領域とに区分し、
    前記第1の撮影画像を二値化して高階調値領域と低階調値領域とに区分し、
    前記差分画像の低階調値領域と前記第1の撮影画像の高階調値領域との重複領域である第1領域を第1の近景候補領域として決定し、
    前記差分画像の低階調値領域と前記第1の撮影画像の低階調値領域との重複領域である第2領域のうち、前記第1の近景候補領域に隣接する領域を第2の近景候補領域として決定し、
    前記第1の近景候補領域と前記第2の近景候補領域との両方に相当する領域を前記近景被写体領域として決定することを特徴とする撮像装置。
  2. 請求項1に記載の撮像装置において、
    前記第1の撮影画像は、最も絞った状態の絞り値を用いて撮影されることを特徴とする撮像装置。
  3. 請求項1に記載の撮像装置において、
    前記被写体までの距離を測定する測定手段、
    をさらに備え、
    前記第1の撮影画像は、フラッシュ発光の強度と近景被写体までの距離とに応じて決定される近景被写体用絞り値以下であって、フラッシュ発光の強度と遠景被写体までの距離とに応じて決定される遠景被写体用絞り値よりも大きな値を有する絞り値を用いて撮影されることを特徴とする撮像装置。
  4. 請求項3に記載の撮像装置において、
    前記第1の撮影画像は、フラッシュ発光の強度と近景被写体までの距離とに応じて決定される近景被写体用絞り値に等しい絞り値を用いて撮影されることを特徴とする撮像装置。
  5. 請求項1ないし請求項4のいずれかに記載の撮像装置において、
    前記抽出された近景被写体領域を背景画像と合成する合成手段、
    をさらに備えることを特徴とする撮像装置。
  6. 請求項1に記載の撮像装置において、
    撮影時の状況において前記抽出手段による近景被写体領域の抽出が可能か否かを判別する判別手段、
    をさらに備え、
    前記判別手段は、前記第1の撮影画像における遠景被写体を不適切な露光量で撮影することができないと判定される場合には前記近景被写体領域の抽出が不可能であると判別することを特徴とする撮像装置。
  7. 請求項1に記載の撮像装置において、
    撮影時の状況において前記抽出手段による近景被写体領域の抽出が可能か否かを判別する判別手段、
    をさらに備え、
    前記判別手段は、前記第1の撮影画像における近景被写体を適切な露光量で撮影するこ とができないと判定される場合には前記近景被写体領域の抽出が不可能であると判別することを特徴とする撮像装置。
  8. 請求項6または請求項7に記載の撮像装置において、
    前記判別手段によって前記近景被写体領域の抽出が不可能であると判別されたときに、前記近景被写体領域の抽出が不可能である旨を表示する表示手段、
    をさらに備えることを特徴とする撮像装置。
  9. 請求項6ないし請求項8のいずれかに記載の撮像装置において、
    前記被写体までの距離を測定する測定手段、
    をさらに備え、
    前記判別手段は、遠景被写体を不適切な露光量で撮影することができる絞り値の最小値が、前記測定手段によって測定された近景被写体までの距離とフラッシュ発光の強度とに応じて決定される近景被写体用絞り値よりも大きい場合に、前記抽出手段による近景被写体領域の抽出が不可能であるとして判別することを特徴とする撮像装置。
  10. 請求項9に記載の撮像装置において、
    前記判別手段は、遠景被写体の露光量を不適切にすることができる絞り値の最小値に絞りを設定して撮影するときに、近景被写体の露光量を適切にすることが可能な近景被写体までの距離の許容最大値を算出することを特徴とする撮像装置。
  11. 請求項10に記載の撮像装置において、
    前記判別手段は、前記算出された近景被写体までの距離の許容最大値と前記測定手段によって測定された近景被写体までの距離との差を、前記近景被写体が移動すべき距離として算出することを特徴とする撮像装置。
  12. 奥行き方向の位置が互いに異なる複数の被写体に関して撮影された画像を処理する画像処理装置であって、
    フラッシュ発光を用いた撮影画像であって全被写体のうち近景被写体のみの露光量が適切となるように撮影された第1の撮影画像と、フラッシュ発光を用いない撮影画像であって画像全体の露光量が適切となるように撮影された第2の撮影画像とを取得する画像取得手段と、
    前記第1の撮影画像と前記第2の撮影画像との差分画像を求め、当該差分画像に基づいて、前記第1の撮影画像または前記第2の撮影画像の中から近景被写体領域を抽出する抽出手段と、
    を備え、
    前記抽出手段は、
    前記差分画像を二値化して高階調値領域と低階調値領域とに区分し、
    前記第1の撮影画像を二値化して高階調値領域と低階調値領域とに区分し、
    前記差分画像の低階調値領域と前記第1の撮影画像の高階調値領域との重複領域である第1領域を第1の近景候補領域として決定し、
    前記差分画像の低階調値領域と前記第1の撮影画像の低階調値領域との重複領域である第2領域のうち、前記第1の近景候補領域に隣接する領域を第2の近景候補領域として決定し、
    前記第1の近景候補領域と前記第2の近景候補領域との両方に相当する領域を前記近景被写体領域として決定することを特徴とする画像処理装置。
  13. コンピュータを、奥行き方向の位置が互いに異なる複数の被写体に関して撮影された画像を処理する画像処理装置であって、
    フラッシュ発光を用いた撮影画像であって全被写体のうち近景被写体のみの露光量が適切となるように撮影された第1の撮影画像と、フラッシュ発光を用いない撮影画像であって画像全体の露光量が適切となるように撮影された第2の撮影画像とを取得する画像取得手段と、
    前記第1の撮影画像と前記第2の撮影画像との差分画像を求め、当該差分画像に基づいて、前記第1の撮影画像または前記第2の撮影画像の中から近景被写体領域を抽出する抽出手段であって、前記差分画像を二値化して高階調値領域と低階調値領域とに区分し、前 記第1の撮影画像を二値化して高階調値領域と低階調値領域とに区分し、前記差分画像の低階調値領域と前記第1の撮影画像の高階調値領域との重複領域である第1領域を第1の近景候補領域として決定し、前記差分画像の低階調値領域と前記第1の撮影画像の低階調値領域との重複領域である第2領域のうち、前記第1の近景候補領域に隣接する領域を第2の近景候補領域として決定し、前記第1の近景候補領域と前記第2の近景候補領域との両方に相当する領域を前記近景被写体領域として決定する抽出手段と、
    を備える画像処理装置として機能させるプログラム。
  14. コンピュータを、奥行き方向の位置が互いに異なる複数の被写体に関して撮影された画像を処理する画像処理装置であって、
    フラッシュ発光を用いた撮影画像であって全被写体のうち近景被写体のみの露光量が適切となるように撮影された第1の撮影画像と、フラッシュ発光を用いない撮影画像であって画像全体の露光量が適切となるように撮影された第2の撮影画像とを取得する画像取得手段と、
    前記第1の撮影画像と前記第2の撮影画像との差分画像を求め、当該差分画像に基づいて、前記第1の撮影画像または前記第2の撮影画像の中から近景被写体領域を抽出する抽出手段であって、前記差分画像を二値化して高階調値領域と低階調値領域とに区分し、前記第1の撮影画像を二値化して高階調値領域と低階調値領域とに区分し、前記差分画像の低階調値領域と前記第1の撮影画像の高階調値領域との重複領域である第1領域を第1の近景候補領域として決定し、前記差分画像の低階調値領域と前記第1の撮影画像の低階調値領域との重複領域である第2領域のうち、前記第1の近景候補領域に隣接する領域を第2の近景候補領域として決定し、前記第1の近景候補領域と前記第2の近景候補領域との両方に相当する領域を前記近景被写体領域として決定する抽出手段と、
    を備える画像処理装置として機能させるプログラムを記録したコンピュータ読み取り可能な記録媒体。
JP2001206355A 2001-03-29 2001-07-06 撮像装置、画像処理装置、記録媒体、およびプログラム Expired - Fee Related JP3666421B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001206355A JP3666421B2 (ja) 2001-03-29 2001-07-06 撮像装置、画像処理装置、記録媒体、およびプログラム

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2001096159 2001-03-29
JP2001-96159 2001-03-29
JP2001206355A JP3666421B2 (ja) 2001-03-29 2001-07-06 撮像装置、画像処理装置、記録媒体、およびプログラム

Publications (2)

Publication Number Publication Date
JP2002358519A JP2002358519A (ja) 2002-12-13
JP3666421B2 true JP3666421B2 (ja) 2005-06-29

Family

ID=26612564

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001206355A Expired - Fee Related JP3666421B2 (ja) 2001-03-29 2001-07-06 撮像装置、画像処理装置、記録媒体、およびプログラム

Country Status (1)

Country Link
JP (1) JP3666421B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE60325536D1 (de) 2002-09-20 2009-02-12 Nippon Telegraph & Telephone Vorrichtung zum Erzeugen eines pseudo-dreidimensionalen Bildes
JP6257200B2 (ja) * 2013-07-22 2018-01-10 キヤノン株式会社 撮像装置、撮像システム、撮像装置の制御方法、プログラム、および、記憶媒体
CN111428779B (zh) * 2020-03-20 2023-06-06 浙江大华技术股份有限公司 一种确定补光灯照射范围方法、装置、设备及存储介质
CN113658037B (zh) * 2021-08-24 2024-05-14 凌云光技术股份有限公司 一种深度图像到灰度图像的转换方法和装置

Also Published As

Publication number Publication date
JP2002358519A (ja) 2002-12-13

Similar Documents

Publication Publication Date Title
US7889890B2 (en) Image capture apparatus and control method therefor
JP4888191B2 (ja) 撮像装置
RU2443068C2 (ru) Устройство и способ формирования изображения и программа
KR101155406B1 (ko) 화상 처리 장치, 화상 처리 방법 및 컴퓨터 기억 매체
CN101272505B (zh) 摄像装置以及摄像方法
US8760561B2 (en) Image capture for spectral profiling of objects in a scene
JP2012119858A (ja) 撮影装置、撮影方法、およびプログラム
JP2000350123A (ja) 画像選択装置、カメラ、画像選択方法及び記録媒体
JP4127521B2 (ja) ディジタル・カメラおよびその制御方法
JP2007282118A (ja) 電子カメラおよび画像処理装置
JP2004222231A (ja) 画像処理装置および画像処理プログラム
JP2021128791A (ja) 画像処理装置、画像処理方法、およびプログラム
US20090290041A1 (en) Image processing device and method, and computer readable recording medium containing program
JP5223663B2 (ja) 撮像装置
JP3666421B2 (ja) 撮像装置、画像処理装置、記録媒体、およびプログラム
US7209163B1 (en) Image processing apparatus, image output apparatus, and camera
US7570281B1 (en) Image processing apparatus and method for detecting a main subject to be photographed
JP2010187208A (ja) 電子スチルカメラ
JP2007005966A (ja) 露出量算出システムならびにその制御方法およびその制御プログラム
JP2006074498A (ja) 画像処理装置及び撮像装置
JP3897087B2 (ja) 画像処理装置、画像処理方法、および記録媒体
JP2004222233A (ja) 画像処理装置および画像処理プログラム
JP2007316892A (ja) 自動トリミング方法および装置ならびにプログラム
JP4611412B2 (ja) カメラ及び画像入力方法
JP5181687B2 (ja) 電子カメラ

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20041018

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20041026

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20041203

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20041222

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20041222

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20050315

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20050328

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090415

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090415

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100415

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100415

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110415

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120415

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130415

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130415

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140415

Year of fee payment: 9

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees