JP2010057198A - 撮像装置、撮影方法及びプログラム - Google Patents

撮像装置、撮影方法及びプログラム Download PDF

Info

Publication number
JP2010057198A
JP2010057198A JP2009278243A JP2009278243A JP2010057198A JP 2010057198 A JP2010057198 A JP 2010057198A JP 2009278243 A JP2009278243 A JP 2009278243A JP 2009278243 A JP2009278243 A JP 2009278243A JP 2010057198 A JP2010057198 A JP 2010057198A
Authority
JP
Japan
Prior art keywords
image
correction
images
peripheral
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2009278243A
Other languages
English (en)
Inventor
Tetsuji Makino
哲司 牧野
Keiichi Sakurai
敬一 櫻井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2009278243A priority Critical patent/JP2010057198A/ja
Publication of JP2010057198A publication Critical patent/JP2010057198A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Exposure Control For Cameras (AREA)
  • Studio Devices (AREA)

Abstract

【課題】 周辺減光補正処理に要する時間の短縮化を図る。
【解決手段】 周辺減光補正手段(32d)は、1回の露光時間T1をn分割した各々の露光時間T1(1)〜T1(n)ごとに撮像されたn枚の画像に対する位置ずれ修正手段(32a、32b)における位置ずれ修正量を用いて各画像ごとの周辺減光特性成分の位置を修正するとともに、位置が修正された各画像ごとの周辺減光特性成分を合成して補正用周辺減光特性成分を生成し、この補正用周辺減光特性成分を用いて合成画像に対する周辺減光補正を行う。
【選択図】 図1

Description

本発明は、撮像装置、撮影方法及びプログラムに関し、詳しくは、長時間露光撮影時においても良好な撮影画質を得られるようにした、たとえば、デジタルカメラ等に適用可能な撮像装置、撮影方法及びプログラムに関する。
一般的に、銀塩カメラやデジタルカメラといったカメラの種類にかかわらず、ストロボを使用できない暗い場所で写真撮影する際は、シャッタ速度を遅くして露光時間を長くしなければならない。しかし、CCD等の二次元イメージセンサを備えたデジタルカメラにおいては、こうした長時間露光撮影時に、二次元イメージセンサの暗電流(または暗電圧ともいう。露光時間に対応して指数関数的に増えるセンサノイズの一種。)に起因して画質が劣化するという不都合がある。
そこで、下記の特許文献1には、画像合成を行うことにより、長時間露光撮影時における画質の劣化を改善する技術(以下、第1の従来技術という。)が記載されている。
図15は、第1の従来技術の概念図である。この図において、T1は、ストロボを使用できない暗い場所で写真撮影する際の1回の露光時間を表している。この露光時間T1は、過不足のない明るさの元で撮影する際の露光時間よりも長い時間である。
第1の従来技術では、この露光時間T1の間で、二次元イメージセンサから“複数回”の映像信号の読み出しをする。たとえば、図示の例では、露光時間T1をT1(1)〜T1(4)と4等分(ここでは4等分としたが、単にn分割であればよい。以下同様とする。)し、各々の露光時間T1(1)〜T1(4)ごとに画像1〜画像4を読み出している。そして、最後に、それら4つの画像1〜画像4を重ねて合成した1枚の合成画像5を生成出力する。なお、図示では、4つの画像1〜画像4と1枚の合成画像5の大きさが異なっているが、これは図示の都合であり、実際には同じ大きさである。
さて、このような画像合成の仕組みにおいて、4つの画像1〜画像4の各々の露光時間(T1(1)〜T1(4))は、ストロボを使用できない暗い場所で写真撮影する際の1回の露光時間T1を4分割したものであるから、等分した場合はそれぞれの画像1〜画像4の明るさは、目標とする明るさのほぼ1/4になっているはずである。したがって、等分した場合はこれら4つの画像1〜画像4を重ねて合成した1枚の合成画像5の明るさは、それぞれの画像1〜画像4の明るさのほぼ4倍に相当し、結局、ストロボを使用できない暗い場所で写真撮影する際の1回の露光時間T1に対応した所望の明るさの画像(合成画像5)を得ることができる。
ここで、合成画像5に含まれる暗電流成分(便宜的にその量をPとする。)は、4つの画像1〜画像4のそれぞれに含まれている暗電流成分(便宜的にP(1)〜P(4)とする。)の略合計(≒P(1)+P(2)+P(3)+P(4))に相当し、上記のとおり、暗電流は、露光時間に対応して指数関数的に増えるセンサノイズの一種であるから、露光時間T1で撮影された1枚の画像に含まれる暗電流成分をP´とすれば、「P´>P」となり、結局、合成画像5に含まれる暗電流成分Pを低減して、長時間露光撮影時における画質の劣化を改善することができる。
このように、上記の第1の従来技術においては、長時間露光撮影時における画質の劣化を改善することができる点で優れているものの、その一方で、長時間露光撮影時においてしばしば発生するカメラブレの対策が全く講じられていないという不都合がある。
そこで、下記の特許文献2には、カメラブレ対策を講じた画像合成の技術(以下、第2の従来技術という。)が記載されている。
図16は、第2の従来技術の概念図である。この図において、4つの画像6〜9は、それぞれ前記第1の従来技術の画像1〜4に相当するものであり、また、それら4つの画像6〜9を合成した1枚の合成画像10は、前記第1の従来技術の合成画像5に相当するものである。第1の従来技術との相違は、4つの画像6〜9に写り込んでいる被写体(ここでは便宜的に人物とする。)の位置が少しずつずれている点にある。具体的には、1枚目の画像6に写り込んでいる人物11の位置を基準にして、2枚目の画像7に写り込んでいる人物12の位置が若干量F1だけ右にずれており、また、その人物12の位置を基準にして、3枚目の画像8に写り込んでいる人物13の位置が若干量F2だけ右にずれており、さらに、その人物13の位置を基準にして、4枚目の画像9に写り込んでいる人物14の位置が若干量F3だけ右にずれている。4つの画像6〜9に写り込んでいる人物11〜14は元々同一の被写体であるから、これは、左方向へのカメラブレが発生していることを示している。なお、ここでは、水平方向のカメラブレを例にしているが、これはあくまでも一例に過ぎない。カメラブレは水平方向だけでなく、垂直方向あるいは水平・垂直の合成方向にも起こり得る。
さて、この第2の従来技術においては、これら4つの画像6〜9のそれぞれについて、エッジの特徴点と色相の特徴点とを抽出し、各画像6〜9を照合して共通の特徴点を探索する。そして、各画像6〜9で一致した複数の特徴点の相対的な位置を算出して、その算出結果から各画像6〜9の相対的な位置関係を決定し、位置ずれを補正した後、1枚の合成画像10を生成する。これは、要するに、時間的に隣り合う画像間の動きを検出し、その動きを補償(ズレを修正)した合成画像10を生成していることに他ならない。
したがって、この第2の従来技術によれば、動き補償によってカメラブレ対策も講じることができると共に、合成画像10に含まれる暗電流成分を低減して、長時間露光撮影時における画質の劣化を改善することができる。
特開2001−326850号公報 特開2005−182098号公報 特開2002−296685号公報
しかしながら、第2の従来技術にあっては、以下に詳述する理由から、「光学系の周辺減光補正」を行う場合に、その補正処理に要する時間が長くなるという問題点がある。
図17は、光学系の周辺減光の説明図である。この図において、同心状の多数の円のうち太線で示す最外円は、光学系のイメージサークル15を示している。また、イメージサークル15内の横長矩形図形は、CCD等の二次元イメージセンサの撮像面16を示しており、さらに、撮像面16の略中央付近に位置する人物を模した図形は被写体17、図面の下側に位置する画像18は二次元イメージセンサの出力画像である。
一般的にカメラの光学系は、光学レンズの特性より、画像上の一点の輝度が、その点と光学レンズとを結ぶ線と、光学レンズの光軸との傾き角θの正接の4乗(coS4θ)に従うという、いわゆる「周辺減光特性」をもっており、要するに、レンズの中心から外側に向かうにつれて徐々に暗くなるという特性を持っている。図17において、イメージサークル15の内側に並ぶ多数の同心円は、その周辺減光特性を模式的に示すものであり、その円の間隔が狭いほど、減光の度合いが大きいことを表している。
今日のカメラにおいては、周辺減光特性を解消し、または抑制するための様々な工夫(光学レンズの組み合わせ等)が凝らされているものの、コストが嵩むため、かかる工夫は一部の高級カメラ(一眼レフ等)に適用されているのが実状であり、一般的な普及型カメラにあっては、ある程度の周辺減光はやむを得ないものとしつつ、画像処理上の工夫によって周辺減光の補正を行っているものが多い。
たとえば、上記の特許文献3には、図17の画像18に対して、画像周辺部に向かうにつれて明るさを高める補正を行うことにより、コストを掛けることなく周辺減光対策を講じるようにした技術(以下、第3の従来技術という。)が記載されている。この第3の従来技術によれば、元々の画像18は、同画像18中の同心円の間隔で示すような周辺減光が生じているが、その減光を打ち消すような適切な補正データを適用することにより、同画像18中の周辺減光に伴う明るさの分布をほぼフラットにすることができるとされている。
しかし、かかる第3の従来技術(画像処理上の工夫による周辺減光補正手法)を、そのまま、前記の第2の従来技術に適用した場合、最終的に得られる合成画像10の周辺減光に伴う明るさの分布をフラットにすることはできない。
図18は、従来技術の不都合説明図である。なお、ここでは、簡単化のために、連続して撮影された2枚の画像(以下、1枚目画像19、2枚目画像20)を合成して、1枚の合成画像21を生成する場合の例を示している。1枚目画像19のほぼ中央には人物22が写っており、2枚目画像20にも、その右下に若干位置がズレた同一の人物23が写っている。この“ズレ”はカメラブレに起因するものである。合成画像21のほぼ中央に写っている人物24は、前記の第2の従来技術を用い、1枚目画像19の人物22の位置を基準にして、それら双方の人物22、23を位置合わせしたものである。
1枚目画像19及び2枚目画像20の黒く塗り潰した部分(以下、黒ベタ部分という。)はそれぞれ、光学系の周辺減光特性による低輝度部分25、26を模式的に表している。なお、実際の周辺減光特性による低輝度部分は、明るさが線形的に変化する部分であり、図示のような単純な低輝度部分(黒ベタ部分)とはならないが、ここでは、図解上の都合から、人物22、23周囲の高輝度部分(白い部分)と、黒ベタ部分の低輝度部分25、26との2段階で明るさが変化するものとする。
このような低輝度部分25、26を含む二つの画像(1枚目画像19及び2枚目画像20)を位置合わせして一つの合成画像21を生成した場合、その合成画像21に含まれる周辺減光特性による低輝度部分は、図示のように複雑な形状になる。すなわち、位置合わせにより、2枚目画像20を左上に所定量ずらして1枚目画像19に重ねて合成画像21を生成するので、合成画像21に含まれる周辺減光特性による低輝度部分は、1枚目画像19の低輝度部分25と、2枚目画像20の低輝度部分26と、それら二つの低輝度部分25、26の重畳部分である中輝度部分27とからなることになる。
したがって、合成画像21には、光学系の周辺減光特性に起因する低輝度部分25、26だけでなく、それよりも明るい中輝度部分27も含まれているので、単に光学系の周辺減光特性のみに基づいて補正を行っただけでは、中輝度部分27が高輝度側に過補正されてしまうから、最終的に得られる合成画像21の周辺減光に伴う明るさの分布(低輝度部分25、26及び中輝度部分27)をフラットにすることはできない。
このため、前記の第2の従来技術に周辺減光補正を適用する際には、合成画像を生成する前段階の画像(つまり、図18の1枚目画像19及び2枚目画像20)に対して、各々周辺減光補正を行わざるを得ず、その結果、補正対象画像の枚数が増えるほど周辺減光処理に要する時間が長くなるという問題点を生じていたのである。
そこで、本発明は、カメラブレ対策を講じた1枚の合成画像に対してのみ周辺減光補正を行うことができるようにし、以て、周辺減光補正処理に要する時間の短縮化を図った撮像装置、撮像方法及びプログラムを提供することを目的とする。
請求項1記載の発明は、同一被写体を含む複数の撮影画像の位置ずれを修正した上で合成画像を生成する合成手段と、前記合成手段により生成された合成画像に対して前記光学系の周辺減光特性を考慮した周辺減光補正を施す周辺減光補正手段と、を備えることを特徴とする撮像装置である。
請求項2記載の発明は、光学系を通して結像された被写体の像を、長時間露光撮影時における1回の露光時間T1をn分割した各々の露光時間T1(1)〜T1(n)ごとに撮像して前記1回の露光時間T1あたりn枚の画像を出力する撮像手段を備え、前記合成手段は、前記撮像手段から出力されたn枚の画像の位置ずれを修正したn枚の画像を合成して1枚の合成画像を生成し、前記周辺減光補正手段は、前記n枚の画像に対する前記位置ずれ修正手段における位置ずれ修正量を用いて各画像ごとの周辺減光特性成分の位置を修正するとともに、位置が修正された各画像ごとの周辺減光特性成分を合成して補正用周辺減光特性成分を生成し、この補正用周辺減光特性成分を用いて、前記合成画像に対する周辺減光補正を行うことを特徴とする請求項1に記載の撮像装置である。
請求項3記載の発明は、時系列的に撮影された複数の画像からなる連写画像を記憶する記憶手段と、前記記憶手段に記憶された複数の画像の特徴点を算出する特徴点算出手段と、を備え、前記合成手段は、前記特徴点算出手段によって算出された特徴点が互いに一致するように位置を合わせて前記複数の画像を合成し、前記周辺減光補正手段は、前記合成手段によって合成された合成画像に、前記連写画像を撮影する際に用いられた光学系の周辺減光特性に対応した周辺減光補正をかけることを特徴とする請求項1に記載の撮像装置である。
請求項4記載の発明は、前記周辺減光補正手段によって周辺減光補正がかけられた後の合成画像の輝度を調整する調整手段を備えることを特徴とする請求項1に記載の撮像装置である。
請求項5記載の発明は、前記複数の画像は、X方向とY方向とを有するXY平面上に存在する画像であり、前記周辺減光補正手段は、前記合成手段において前記複数の画像を合成する際に前記合成手段による位置合わせに伴い移動する、当該複数の画像の各画像の中心点の前記X方向の各移動量の内で最大の値と、当該複数の画像の各画像の中心点の前記Y方向の各移動量の内で最大の値と、を用いて補正を行うことを特徴とする請求項1に記載の撮像装置である。
請求項6記載の発明は、前記複数の画像は、X方向とY方向とを有するXY平面上に存在する画像であり、前記周辺減光補正手段は、前記合成手段において前記複数の画像を合成する際に前記合成手段による位置合わせに伴い移動する、当該複数の画像の各画像の中心点の前記X方向の各移動量の平均値と、当該複数の画像の各画像の中心点の前記Y方向の各移動量の平均値と、を用いて補正を行うことを特徴とする請求項1に記載の撮像装置である。
請求項7記載の発明は、前記記憶手段に記憶する画像を撮影するために、光学部材と、X方向とY方向とを有するXY平面上に撮像面を有する撮像素子とを備えた撮像手段を備え、前記周辺減光補正手段は、前記光学部材を本来設置する位置からの、前記X方向と前記Y方向とへの設置位置ずれ許容量を用いて補正を行うことを特徴とする請求項1に記載の撮像装置である。
請求項8記載の発明は、前記記憶手段に記憶する画像を撮影するために、光学部材と、X方向とY方向とを有するXY平面上に撮像面を有する撮像素子を備えた撮像手段を備え、前記周辺減光補正手段は、前記光学部材を本来設置する位置からの、前記X方向と前記Y方向とへの設置位置ずれ実測値を用いて補正を行うことを特徴とする請求項1に記載の撮像装置である。
請求項9記載の発明は、前記記憶手段に記憶する画像を撮影するために、X方向とY方向とを有するXY平面上に撮像面を有する撮像手段と、前記撮像手段の撮影画角から画角を変更して、任意の電子画角でデジタルズームを行うための画角変更手段を備え、前記周辺減光補正手段は、撮影画像の中心から見て、前記撮像手段の撮影画角内であり、前記画角変更手段の電子画角外である領域の、前記X方向成分の画素数と前記Y方向成分の画素数とを用いて補正を行うことを特徴とする請求項1に記載の撮像装置である。
請求項10記載の発明は、前記調整手段は、前記周辺減光補正手段によって周辺減光補正がかけられた後の合成画像の輝度を、当該合成画像の元になる画像数を考慮して調整することを特徴とする請求項4に記載の撮像装置である。
請求項11記載の発明は、前記複数の画像の中央部の輝度の平均値を測定する平均輝度測定手段を更に備え、前記調整手段は、前記周辺減光補正手段によって周辺減光補正がかけられた後の合成画像の輝度を、当該平均輝度測定手段より求めた平均値を考慮して調整することを特徴とする請求項4に記載の撮像装置である。
請求項12記載の発明は、前記複数の画像の度数分布を計算する度数分布算出手段を更に備え、前記調整手段は、前記周辺減光補正手段により生成された画像の輝度を、前記度数分布算出手段で算出した度数分布範囲の有効範囲に収まるように調整することを特徴とする請求項4に記載の撮像装置である。
請求項13記載の発明は、同一被写体を含む複数の撮影画像の位置ずれを修正した上で合成画像を生成する合成工程と、前記合成工程により生成された合成画像に対して前記光学系の周辺減光特性を考慮した周辺減光補正を施す周辺減光補正工程と、を備えることを特徴とする撮影方法である。
請求項14記載の発明は、コンピュータに、同一被写体を含む複数の撮影画像の位置ずれを修正した上で合成画像を生成する合成手段と、前記合成手段により生成された合成画像に対して前記光学系の周辺減光特性を考慮した周辺減光補正を施す周辺減光補正手段と、を実現させることを特徴とするプログラムである。
本発明では、n枚の画像を合成して生成された1枚の合成画像に対して周辺減光補正を行うので、従来技術のように、n枚の画像の各々に対して周辺減光補正を行うものに比べて、周辺減光補正に要する処理時間の短縮化を図ることができる。
デジタルカメラの構成図である。 カメラブレを考慮した輝度カーブの生成概念図である。 合成画像に対する周辺減光補正処理の概念図である。 周辺減光に着目した輝度カーブを示す図である。 周辺減光に着目した輝度カーブを示す図である。 手ぶれによる最大移動した際の画角境界の補正係数が最大になるようにした輝度カーブを示す図である。 第1の実施形態の処理の流れを示すフローチャートである。 平均の移動量を説明するための、画像の移動量を示す図である。 光学レンズと受光部の位置ずれを示す図である。 光学レンズと受光部の位置ずれ許容範囲と位置ずれ許容値を示す図である。 光学レンズと受光部の位置ずれを考慮した処理の流れを示すフローチャートである。 光学レンズと受光部の位置ずれ許容値の実測形態を説明する図である。 デジタルズームの概念図である。 デジタルズームにおける処理の流れを示すフローチャート図である。 第1の従来技術の概念図である。 第2の従来技術の概念図である。 光学系の周辺減光の説明図である。 従来技術の不都合説明図である。
以下、本発明の実施形態を、デジタルカメラへの適用を例にして、図面を参照しながら説明する。なお、以下の説明における様々な細部の特定ないし実例および数値や文字列その他の記号の例示は、本発明の思想を明瞭にするための、あくまでも参考であって、それらのすべてまたは一部によって本発明の思想が限定されないことは明らかである。また、周知の手法、周知の手順、周知のアーキテクチャおよび周知の回路構成等(以下「周知事項」)についてはその細部にわたる説明を避けるが、これも説明を簡潔にするためであって、これら周知事項のすべてまたは一部を意図的に排除するものではない。かかる周知事項は本発明の出願時点で当業者の知り得るところであるので、以下の説明に当然含まれている。
<第1の実施形態>
図1は、デジタルカメラの構成図である。デジタルカメラ30は、撮像部31、画像処理部32、メモリ部33、ビデオ出力部34、表示部35、制御部36、プログラムコード記憶部37、操作部38、外部インターフェース部39、画像記憶部40及び電源部41などの各部を備える。
撮像部31は、1乃至は複数枚の光学レンズの組み合わせからなる撮影レンズや絞り機構、焦点合わせ機構、及び、撮影画角αを調節するズーム機構などを含む光学系31aと、CCDセンサまたはCMOSセンサなどの半導体撮像デバイスからなる二次元イメージセンサ31bとで構成される。
撮像部21の動作(絞りの大きさやズーム倍率、つまり撮影画角αの調整並びに焦点合わせ、及び、二次元イメージセンサ31bの露光並びに読み出し動作)は、制御部36から適宜に出力される撮影動作指示によって制御される。制御部36からの撮影動作指示は、被写体30aを写した撮影構図確認用の低解像度画像(たとえば、1024×768ドットのXGA画像)を高フレームレート(たとえば、30fps)で読み出すための指示、同じく被写体30aを写した静止画撮影用の高解像度画像(たとえば、400万画素クラスの画像)を低フレームレート(上記の高フレームレートよりも若干低いフレームレート)で読み出すための指示、並びに、それらの読み出し動作に必要な絞り値設定や合焦動作設定及びズーム倍率設定等の事前動作指示などである。
撮像部31からは、制御部36からの撮影動作指示に応答して、まず、被写体30aを写し込んだ撮影構図確認用の低解像度画像(以下、スルー画像という。)が上記の高フレームレートで周期的に読み出される。このスルー画像は、メモリ部33の画像バッファ領域33から表示画像領域33cへと転送され、ビデオ出力部34で所定の表示形式に変換された後、液晶ディスプレイ等の平面表示デバイスからなる表示部35に送られて表示される。不図示の撮影者は、この表示部35に表示されたスルー画像を見ながら、被写体30aを、たとえば画面の中央に位置させるなどの所望の構図調整を行った後、後述の操作部38のシャッタボタンを半押して合焦操作と自動露出操作とを行い、同シャッタボタンを全押しする。
撮像部31からは、このシャッタボタンの全押しに応答して、上記所望の構図で被写体30aが写し込まれた1枚の高解像度画像(以下、通常静止画像という。)が読み出される。この通常静止画像は、メモリ部33の画像バッファ領域33から制御部36に取り込まれ、この制御部36において、たとえば、JPEG形式の圧縮画像ファイルに変換された後、画像記憶部40に蓄積保存される。また、メモリ部33の画像バッファ領域33に取り込まれた通常静止画像は、表示画像領域33cへと転送され、ビデオ出力部34で所定の表示形式に変換された後、液晶ディスプレイ等の平面表示デバイスからなる表示部35に送られてプレビュー確認用に表示される。
かかるスルー画像の表示や1枚の高解像度画像(通常撮影画像)の蓄積保存並びにプレビュー表示といった機能は、本実施形態のデジタルカメラ30だけでなく他の公知のデジタルカメラにも備えられているものであるが、本実施形態のデジタルカメラ30においては、これらの機能に加えて、さらに、ストロボ等の補助光を使用できない暗い場所で写真撮影する際に、その暗い場所における適正露出に対応した露光時間(図15の露光時間T1に相当)をn分割し、その各々の露光時間T1(1)〜T1(n)ごとに、前記の通常撮影画像に相当するn枚の高解像度画像を二次元イメージセンサ31bから連続的に読み出すようにしている。以下、このn枚の高解像度画像のことを「連写画像」ということにする。連写画像は、後述の合成画像の元になる画像であるが、詳しくは後で説明する。
メモリ部33は、上記のバッファ領域33aや表示画像領域33cに加えて、たとえば、画像処理部32における画像処理に必要な画像データや、各種フラグの値、しきい値等を記憶するための各種データ領域33bを備える。
操作部38は、デジタルカメラ30のユーザ操作用入力インターフェースに必要な各種操作子、たとえば、電源スイッチ、画像撮影と画像再生のモード切替スイッチ、静止画撮影を行うためのシャッタボタン、各種設定メニューを表示するためのメニューボタン、そのメニュー項目を選択したり、画像再生モード時に再生を希望する画像を選択したりするための選択ボタン等を含む。
ビデオ出力部34は、メモリ部34の表示画像領域33cに書き込まれた様々な表示データ、たとえば、スルー画像用表示データ、プレビュー用の静止画表示データ、再生画像用表示データなどを所定の表示形式に変換して、表示部35に出力する。
外部インターフェース39は、たとえば、USBやIEEE1394などの汎用プロトコルに対応したデータ入出力部であり、この外部インターフェース39を介し、必要に応じて、不図示のパーソナルコンピュータ等との間で撮影済み画像の転送(画像記憶部40に蓄積保存されている画像をパーソナルコンピュータに転送する)や読み込み(パーソナルコンピュータから画像記憶部40に画像を読み込む)を行うことができるものである。
画像記憶部40は、フラッシュメモリ、ハードディスクまたは光ディスク等の不揮発性(電源をオフにしてもその記憶内容を失わない)の大容量記憶装置によって構成されており、主に、このデジタルカメラ30で撮影された画像を蓄積保存するために用いられる。なお、蓄積保存される各画像は、上記のようなJPEG形式等の圧縮ファイルであってもよく、あるいは、非圧縮の生データファイル(いわゆるRAWファイル)であってもよい。加えて、この画像記憶部40は、固定型であってもよく、あるいは、デジタルカメラ30から取り外して、たとえば、不図示のパーソナルコンピュータに装着可能な汎用形式のメモリデバイスであってもよい。
プログラムコード記憶部37は、各種のソフトウェアリソースを不揮発的に保持する記憶部であり、このソフトウェアリソースには、デジタルカメラ30の各種機能的動作(撮影動作や画像の再生動作及びその他の管理動作等)を実現する制御プログラムなどが含まれる。これらのソフトウェアリソースは、必要に応じて、プログラムコード記憶部37から制御部36に読み込まれ、この制御部36によって実行される。
電源部41は、充電式の二次電池あるいは使い捨て型の一次電池を含み、撮像部31、画像処理部32、メモリ部33、ビデオ出力部34、表示部35、制御部36、プログラムコード記憶部37、操作部38、外部インターフェース部39、画像記憶部40などの各部に所要の電源電圧を供給する。
画像処理部32は、本実施形態に特有の処理(ストロボ等の補助光を使用できない暗い場所で写真撮影する際の画像合成処理)を行う部分であり、特徴点抽出部32a、補正式算出部32b、合成加算部32c、周辺減光補正部32d及び現像処理部32eを含む。
これらの各部を説明すると、特徴点抽出部32aは、二次元イメージセンサ31bから読み出された前述の連写画像(n枚の高解像度画像)間の動き補償のための、たとえば、特許文献2のような公知技術を適用して特徴点の抽出を行う。ここで、特徴点とは、1枚の画像内で際立った画素値を有する部分(1つの画素又は複数画素からなるブロック若しくは領域)のことであり、たとえば、エッジ部分や目立つ色調の部分のことをいう。一般的に1枚の画像からは、複数の特徴点が抽出される。
前述のn枚の高解像度画像のように、暗い場所における適正露出に対応した露光時間(図15の露光時間T1に相当)をn分割し、その各々の露光時間T1(1)〜T1(n)ごとに得られた連写画像は、それぞれ時間軸上で隣り合う画像であるから、言い換えれば、同じ構図で同一の被写体30aを撮影した複数の画像であるから、これら複数の画像に対して特徴点の抽出を行うとともに、時間的に隣り合う画像間で特徴点同士の照合を行うことにより、画像間のズレ量とズレの方向とを把握して、そのズレを無くすような、いわゆる動き補償を行うことができる。
補正式算出部32bは、連写画像同士の特徴点の位置関係から、連写画像同士の位置移動や回転の大きさ及び傾きなどの情報(動き情報)を算出する。たとえば、前記の図18の1枚目画像19と2枚目画像20を例にすれば、1枚目画像19に写っている人物22を基準に、2枚目画像20に写っている人物23の位置移動や回転の大きさ及び傾きなどの情報を算出する。そして、この情報を元に、たとえば、数式(1)のアフィン変換などの行列計算を実行して、2枚目画像20の座標補正を行うことにより、時間的に隣り合う画像(ここでは、1枚目画像19と2枚目画像20)間のズレを補償して、被写体(人物22、23)の位置が重なり合うように補正することができる。
Figure 2010057198
合成加算部32cは、補正式算出部32bで得られた補正式に従って、補正後の座標から補正前の座標を算出する。これにより、補正後の画素情報が得られ、画像の合成加算が可能となる。ここで、カメラブレが発生しているときは、撮影構図の微妙な移動に伴って加算されない領域が発生するが、この点は、数式(2)に示すように、連写画像における周辺減光に着目した輝度カーブ(補正用周辺減光特性成分)を生成し、その輝度カーブを用いて非加算座標補正を行うことにより、元の画像と同等の画素値を生成することができる。
Figure 2010057198
ただし、Xnは加算後の画素値、Xn-1は加算前の画素値、nは合成加算済の画像数である。
周辺減光補正部32dは、撮影画像に対して光学系31aの周辺減光特性に起因する画像内明るさ分布の傾きを補正する部分である。この補正は、通常撮影画像(適切な明るさの元で撮影された1枚の高解像度画像)に対して行われるもの(前記の第3の従来技術に相当する補正であり、以下、通常撮影画像用周辺減光補正という。)と、前記の合成加算部32cによって生成された合成画像に対して行われるもの(本実施形態に特有の補正であり、以下、合成画像用周辺減光補正という。)の二つのケースがある。通常撮影画像用周辺減光補正は、1枚の撮影画像に対して行うものであるので、光学系31aに固有の周辺減光特性を加味して、その1枚の撮影画像内の明るさ分布の傾きを補正すればよい。
しかし、後者のケース(合成画像用周辺減光補正)にあっては、とりわけ、カメラブレを生じていた場合、前記の合成加算部32cによって生成された合成画像には、光学系31aの周辺減光特性に起因する低輝度部分(図18の低輝度部分25、26参照)だけでなく、それよりも明るい中輝度部分(図18の中輝度部分27参照)も含まれているので、単に光学系31aの周辺減光特性のみに基づいて補正を行っただけでは、中輝度部分27が高輝度側に過補正されてしまうから、最終的に得られる合成画像の周辺減光に伴う明るさの分布(低輝度部分25、26及び中輝度部分27)をフラットにすることはできなかったので、何らかの工夫が必要となる。
そこで、本実施形態では、カメラブレを考慮した輝度カーブ(補正用周辺減光特性成分)を生成し、その輝度カーブを用いて合成画像の周辺減光補正を行うことにより、補正対象画像を「合成画像」のみとして、周辺減光処理に要する時間の短縮化を図るようにした。
このことについて詳述する。まず、周辺減光は、光学レンズを起因とする現象であるため、光学レンズの特性を示すことにする。単純な球面レンズの場合、その周辺減光特性は、数式(3)のcos4乗則(1枚の画像の周辺減光の理論式)で示される。
Figure 2010057198
ただし、Eは像面での角度θに依存した照度、Eωは光軸中心部(θ=0)の照度、θはレンズ光軸と像面高さ位置とのなす角度である。
撮像部31で撮影された画像は、数式(3)の周辺減光特性に従い、周辺部に行くほど暗くなる。一方、合成画像用周辺減光補正の補正対象は、前記の合成加算部32cによって生成された合成画像であるが、カメラブレが発生していた場合、その合成画像中の周辺減光領域は、ブレに伴って光軸中心がずれたいくつかの周辺減光領域を重ね合わせたものになる。
図2は、カメラブレを考慮した輝度カーブの生成概念図である。図2(a)は、カメラブレを生じたn枚(ここではn=2)の連写画像(以下、1枚目画像42及び2枚目画像43という。)を示している。図2(a)において、1枚目画像42及び2枚目画像43の黒ベタ部分は、それぞれの光学系31aの周辺減光特性に起因する低輝度部分44、45を模式的に示すものである。なお、冒頭でも説明したように、実際の周辺減光領域は、画像の周辺部に行くほど徐々に明るさが低下する領域であるが、ここでは、図解上の都合から、一様な暗さの低輝度部分44、45であるものとする。1枚目画像42の低輝度部分44と2枚目画像43の低輝度部分45は、どちらも同じ位置且つ同じ大きさであり、しかも双方の減光度合いもまったく同じである。これは、1枚目画像42と2枚目画像43の双方において、光学系31aと二次元イメージセンサ31bの撮像面との相対的な位置関係が同一であるからである。
これに対して、1枚目画像42に写り込んでいる被写体46と2枚目画像43に写り込んでいる被写体47の位置は若干ずれている。これは、カメラブレが発生したからである。すなわち、図示の例の場合には右斜め下方向(Y方向とX方向の合成方向)へのカメラブレが発生したからである。
図2(b)には、基準周辺減光画像48と、その基準周辺減光画像48の位置を移動した位置移動周辺減光画像49とが示されている。ただし、位置移動周辺減光画像49は、説明の便宜上、Y方向に所定量(Ymove)だけ移動させた後のY方向位置移動周辺減光画像49Aと、X方向に所定量(Xmove)だけ移動させた後のY方向位置移動周辺減光画像49Bとの二つに分けて示されている。これらの移動量(Xmove及びXmove)は、図2(a)における1枚目画像42の被写体46に対する2枚目画像43の被写体47の位置ズレ量に対応する。すなわち、2枚目画像43の被写体47をY方向にYmove動かすとともに、同被写体47をX方向にXmove動かすことにより、2枚目画像43の被写体47の位置を、1枚目画像42の被写体46の位置に一致させることができる。
これら2枚の画像(基準周辺減光画像48及び位置移動周辺減光画像49)内の黒ベタ部分は、それぞれの低輝度部分50、51、52を模式的に示すものである。基準周辺減光画像48の低輝度部分50は、図2(a)における2枚目画像43の位置移動前の低輝度部分45に対応し、位置移動周辺減光画像49の低輝度部分51、52は、それぞれ、図2(a)における2枚目画像43の位置移動後の低輝度部分45に対応する。
すなわち、基準周辺減光画像48の低輝度部分50は、光学系31aの周辺減光特性に起因する周辺減光領域そのものに対応し、一方、位置移動周辺減光画像49Aの低輝度部分51は、光学系31aの周辺減光特性に起因する周辺減光領域をY方向にYmoveだけ移動したものに対応し、同様に、位置移動周辺減光画像49Bの低輝度部分52は、光学系31aの周辺減光特性に起因する周辺減光領域をX方向にXmoveだけ移動したものに対応する。既述のとおり、これらの移動量(Xmove及びYmove)は、図2(a)における1枚目画像42の被写体46に対する2枚目画像43の被写体47の位置ズレ量に対応する。
基準周辺減光画像48の低輝度部分50のY方向における輝度分布は、光学系31aの固有の周辺減光特性に従い、図2(b)の右側に示すように、画像の中央付近で最大輝度となり、画像の周辺(Ymax、Ymin)に行くにつれて輝度が低下する曲線的な輝度変化特性53を描く。同様に、基準周辺減光画像48の低輝度部分50のX方向における輝度分布も、光学系31aの固有の周辺減光特性に従い、図2(b)の下側に示すように、画像の中央付近で最大輝度となり、画像の周辺(Xmax、Xmin)に行くにつれて輝度が低下する曲線的な輝度変化特性54を描く。
一方、位置移動周辺減光画像49Aの低輝度部分51のY方向における輝度分布は、図2(b)の右側に示すように、画像の中央付近からYmin方向にYmoveだけずれた位置で最大輝度となり、画像の周辺(Ymax、Ymin)に行くにつれて輝度が低下する曲線的な輝度変化特性55を描く。同様に、位置移動周辺減光画像49Bの低輝度部分52のX方向における輝度分布も、図2(b)の下側に示すように、画像の中央付近からXmin方向にXmoveだけずれた位置で最大輝度となり、画像の周辺(Xmax、Xmin)に行くにつれて輝度が低下する曲線的な輝度変化特性56を描く。
本実施形態における合成画像に適用する周辺減光補正のための輝度補正データ(補正用周辺減光特性成分)は、これら二つの周辺減光画像(基準周辺減光画像48と位置移動周辺減光画像49)から作り出されたものである。すなわち、1枚目画像42に対応する基準周辺減光画像48と、位置移動後の2枚目画像43に対応する位置移動周辺減光画像49とから作り出されたものである。図2(c)は、そのようにして作り出される、合成画像に適用する周辺減光補正のための輝度補正データを示す図である。この図において、輝度補正データ(補正用周辺減光特性成分)57は、基準周辺減光画像48と位置移動周辺減光画像49のそれぞれの低輝度部分50、51、52を合成したものである。すなわち、輝度補正データ57の黒ベタ部分58、59は、それぞれ、基準周辺減光画像48と位置移動周辺減光画像49の低輝度部分50、51、52に対応し、ハッチング部分60、61、62は、それら低輝度部分50、51、52の重畳部分(中輝度部分)に対応する。
この輝度補正データ57と合成画像(たとえば、先の図18で例示した合成画像21)とを見比べると、両者の低輝度部分及び中輝度部分の位置と大きさはまったく同一である。したがって、輝度補正データ57の低輝度部分と中輝度部分を用いて、合成画像21の低輝度部分と中輝度部分を“打ち消す”ようにすれば、1枚の合成画像に対して1度の周辺減光補正を行うことが可能になり、その結果、周辺減光補正処理の時間短縮を図ることができるのである。
図3は、合成画像に対する周辺減光補正処理の概念図である。この図において、合成画像63は、先の図18で例示した合成画像21と同一のものである。この合成画像63に対して、図2(c)の輝度補正データ57を適用することにより、輝度補正データ57の低輝度部分と中輝度部分を用いて、合成画像63の低輝度部分と中輝度部分を打ち消すことができるようになっている。
このようにすれば、合成画像63中の周辺減光成分(低輝度部分や中輝度部分)を取り除き、明るさの分布をフラットにした周辺減光補正済画像64を得ることができる。
なお、以上では、説明の簡単化のために、2枚の画像を合成する場合を例にしたが、2枚以上の画像合成にも適用できることは勿論である。
以上のことを、さらに具体的に説明する。
前記の図2において、位置が補正された画像で、合成加算に利用される領域(合成加算対象領域)は2枚目画像43である。このため周辺減光のみに着目すると、横方向光軸移動量(Xmove)、縦方向光軸移動量(Ymove)が発生した画像同士で加算したことになる。
図4は、周辺減光に着目した輝度カーブを示す図である。
点線72は、図2における輝度変化特性56である。
実線73は、図2における輝度変化特性54である。
太実線70は、図2における輝度変化特性54と輝度変化特性56とを合成加算した合成輝度変化特性である。
矢印74に該当する部分については、実線73のみ輝度が存在するので、そのほかの部分と比較して暗い画像となってしまう。
つまり、暗い領域にさらに暗い領域が加算された領域は、補正が不十分となり、一方、明るい領域が加算された領域は補正がかかりすぎることになる。ただし、合成加算する枚数が増えてくると、暗い領域には明るい領域が重なり補完されていくが、一度広がった明るくなりすぎた領域は補正されることはない。
なので、実線73に数式(2)を適用することにより、合成輝度変化特性71を生成して、これと合成輝度変化特性70を組み合わせることにより、より自然な輝度となるようにしている。
図5は、周辺減光に着目した合成輝度変化特性について、その理想と実際を比較した図である。
図5の2点鎖線78は、位置ズレが無い場合に2枚の画像を合成した場合の理想的な輝度変化特性を示す。
これに対して、太実線70、71は、図4の合成輝度変化特性70、71と同一である。
つまり、理想的な輝度変化特性78と比較すると、領域77の範囲で輝度がオーバーとなっており、領域76の範囲で輝度がアンダーとなっていることが解る。
通常、周辺減光補正は,中央から離れた距離に応じて前式(3)に示すような係数をかける。ここで、図4、図5の周辺減光に着目した合成加算輝度と周辺減光補正後61に示すように、1枚画像と同じ距離に応じた補正係数をかけると、実際の距離より遠くなってしまうため、補正がかかりすぎてしまう。これは,周辺部が手ぶれ後の合成加算により、中心へ移動し、輝度が上昇した状態になっているためである。そこで、上昇した分の補正をしないような修正係数を算出する必要がある。
そのために、手ぶれによる最大移動した際の画角境界の補正係数が最大になるようにする。
以上により、合成加算に最適な補正が可能となる。
図6は、画像4枚(輝度変化特性86〜89)を合成して、手ぶれによる最大移動した際の画角境界の補正係数が最大になるようにした輝度カーブを示す図である。
数式(4)に従い、最大画角移動量から画角端の周辺減光率を算出する。
太実線80は、輝度変化特性86、87、88、89を合成した合成輝度変化特性である。太実線81、82、83は、輝度変化特性89、87、86それぞれに数式(2)を適用した輝度変化特性である。
また、2点鎖線84は、理論上(光軸のブレが無い状態)の合成加算値となる輝度変化特性である。
また、点線85は、2点鎖線84で示した理論上の加算値に、数式(4)を適用して実際の合成加算値へ近似した値となる輝度変化特性である。
つまり、図6によれば、太実線81,82,83で示す、数式(2)を使用した補正値より、より理論値に近い、輝度変化特性85を得ることができるということが解る。
Figure 2010057198
ただし、fはレンズと像面との距離、θx及びθyは移動後に画角に収まっている画像範囲のなす角、xmax及びymaxは画像の縦横サイズ、xmove及びymoveは画像の縦横移動量、Rx及びRyは移動後の画角範囲内の最大減光補正係数である。移動前の最大周辺減光率は、数式(5)で算出される。
Figure 2010057198
ただし、θxmax及びθymaxは画角に収まっている画像範囲のなす角、Rxmax及びRymaxは画角範囲内の最大減光補正係数である。ここから、数式(6)で修正係数が算出できる。つまり、前式(5)に数式(6)を適用することで、前式(4)が導ける。
Figure 2010057198
ただし、Gは周辺減光補正係数のズレ修正係数である。
周辺減光補正係数Rに、前式(6)のズレ修正係数Gを掛けることで合成時の移動に対応した周辺減光補正となる。
現像処理部32eは、周辺減光補正済の合成画像64に対して、所要の後処理を実行する。すなわち、前記の合成加算部32cにおける合成加算は位置補正をして加算しているため、そのままでは、1枚の画像データとしての有効範囲を超えてしまう。現像処理部32eでは、その対策として、次の3つの方法のいずれかを採用する。
(第1の対策:加算枚数で割る)
適切なAE(自動露出)で1枚1枚の合成データが撮影された場合は、数式(7)に従い、単純に加算枚数で割ればよい。
Figure 2010057198
ただし、Xnは加算後の画素値、Xは現像後の画素値、nは加算合成済の画像数である。
(第2の対策:中央輝度を調査して最適な値で割る)
連写のために露光時間を短縮したりする場合は、1枚1枚の露光は不足しても合成加算することで露光が十分になる。このときに加算枚数で割ると、かえって画像が暗くなってしまう。そのためには、撮影時の測光と同様に、数式(8)に従って、画像データの明るさが最適になるように割ればよい。
Figure 2010057198
ただし、Yは目標輝度、fY(x,y)は(x,y)座標の加算後の画像輝度、(left,top)は測光対象領域の左上座標、(right,bottom)は測光対象領域の右下座標、nは最適な分割数である。
(第3の対策:ヒストグラムで割る)
加算されたデータが有効範囲になるよう、ヒストグラム(度数分布)の範囲を調査し、数式(9)に従い、ヒストグラムが適切な範囲(有効範囲)内に収まるように割ればよい。
Figure 2010057198
ただし、HRmaxは赤要素のヒストグラム最大値、HRminは赤要素のヒストグラム最小値、nrは赤要素の最適な分割数、HGmaxは緑要素のヒストグラム最大値、HGminは緑要素のヒストグラム最小値、ngは緑要素の最適な分割数、HBmaxは青要素のヒストグラム最大値、HBminは青要素のヒストグラム最小値、nbは青要素の最適な分割数、Rangeは生成画像の各要素の取り得る最大値である。
以上が撮影後に行われる処理であるが、実際には、これに、撮影と、基準となる画像(基本的に1枚目)の識別が必要になる。
図7は、第1の実施形態の処理の流れを示すフローチャートである。まず、撮影を行い(ステップS10)、撮影した画像に対して、特徴点を抽出する(ステップS11)。そして、1枚目の画像撮影であるか否かを判定し(ステップS12)、1枚目であれば、取得した特徴点を今後撮影する画像の補正先座標とするために保存する(ステップS13)。
一方、1枚目ではない場合は、ステップS13で保存しておいた特徴点との位置関係から位置補正式を算出し(ステップS14)、その位置補正式に従って合成加算を行う(ステップS15)。なお、1枚目の画像の場合は位置補正がないため、そのまま書き込まれる。
次いで、目的枚数(目標の連写枚数)の撮影が管理用下か否かを判定し(ステップS16)、終わっていない場合は、再び撮影(ステップS10)から繰り返す。
一方、目的枚数が終わった場合は、最大移動量を算出し(ステップS17)、その最大移動量から周辺減光補正係数の補正値を算出する(ステップS18)。次いで、算出された補正値で修正係数を生成し、周辺減光補正を行う(ステップS19)。最後に、画像データのレンジに収める現像処理を行い(ステップS20)、フローを終了する。
このように、第1の実施形態では、画像の合成加算後に移動量を考慮した周辺減光補正を行うようにしたので、従来例のように、連写撮影の各々の画像に対してその都度周辺減光補正を行う必要がなくなり、周辺減光補正処理を1度で済ますことができ、その結果、周辺減光補正の処理時間を短縮できるという効果が得られる。
また、周辺減光は撮影画像の中心を軸として同心円状に影響を及ぼすため、撮影画像の中心を軸とした回転は無視できる。
つまり移動量は、回転を考慮する必要はなく、X,Y軸の平行移動量だけ考慮すればよい。
なお、Xmove、Ymoveに入る値の単位は、画素数である。
また、第1の実施形態では、最大の移動量から周辺減光を補正したが、次のようにしてもよい。
図8は、各々の画像における移動量の平均から周辺減光を補正する場合の概念図であり、数式(10)はその計算式である。
Figure 2010057198
図8(a)に示すように、2枚目の画像の移動を示す図である。
これは、数式(11)に示すように、X方向に4、Y方向に−2移動している様子を示している。
1枚目の画像は移動しない。
Figure 2010057198
図8(b)に示すように、3枚目の画像の移動を示す図である。
これは、数式(12)に示すように、X方向に−2、Y方向に−4移動している様子を示している。
Figure 2010057198
図8(c)に示すように、4枚目の画像の移動を示す図である。
これは、数式(13)に示すように、X方向に1、Y方向に−3移動している様子を示している。
Figure 2010057198
図8(d)に示すように、1枚目から4枚目の移動量の平均を示す図である。
1枚目の画像は移動しないので、数式(14)に示すように、残り3枚の画像の移動、つまり3回の移動を平均すると、X方向に1、Y方向に−3の移動となるので、そのように移動している。
つまり、数式(10)であらわすようにX,Y軸それぞれの移動量の平均値だけ移動した位置を移動量とする。
Figure 2010057198
<第2の実施形態>
一般的に周辺減光補正は、光学レンズの光軸位置を最高輝度として補正を行うが、実際のカメラでは、レンズと受光部(二次元イメージセンサ31bの撮像面)との多少の位置ずれがあるため、共通データでは正しい補正ができない場合がある。
これに対応して、もし、カメラ固体ごとの位置ずれを検出するならば、完全拡散版をつけた状態で均一の入光状態で撮影を行い、その撮影データから中心を算出しなければならないなど、製造工程上の障害が多い。
そこで、この第2の実施形態では、カメラモジュールにおけるレンズ光軸と受光部中心の装着位置ずれ許容値から、各個体共通の周辺減光補正値を算出する手法を提案する。
レンズ光軸の指す受光部の中心点座標は取り付け精度上、位置ずれが存在する。
品質保証上、位置ずれには許容値が定められる。この許容値を光軸移動量とする。
図9は、光学レンズと受光部の位置ずれを示す図である。この図に示すように、光学レンズの光軸中心P1と、受光部の中心P2との間に位置ずれがある場合、撮影データにも同方向且つ同量の光軸のずれが存在する。このため、光軸がずれたカメラの輝度分布の平均は補正カーブが広がったようになる。
図10は、位置ずれの許容値範囲を示す図である。
X,Y平面のX軸上に撮像素子のX方向理想設置位置を、Y軸上に撮像素子のY方向理想設置位置を配置するようにする。
周辺減光は中心からの距離で考えるため、各軸に対して+方向と−方向の絶対値を等しくするように位置ずれ許容範囲を構成すると共に、その絶対値を位置ずれ許容値とする。
第1の実施形態と同様に、数式(4)のXmove、Ymoveに位置ずれ許容値を入れることにより、光学レンズと受光部の位置ずれを考慮した修正係数Gを算出することができ、光学レンズと受光部の位置ずれに関わらず、周辺減光補正を適切に行うことができるようになる。なお、Xmove、Ymoveに入る値の単位は、画素数である。光学レンズと受光部の位置ずれを考慮した修正係数Gの算出は、たとえば、撮影前の段階で行うようにすればよい。
図11は、光学レンズと受光部の位置ずれを考慮した処理の流れを示すフローチャートである。このフローチャートに示すように、通常の撮影(ステップS30)後の周辺減光補正(ステップS31)では、すでに光軸ずれを考慮した補正が可能である。実際上は、カメラモジュールの位置ずれ許容値は「仕様値」であるので、この仕様値を「数式(4)」における「Xmove、Ymove」と置き換えればよい。
以上のとおり、この第2の実施形態では、光学レンズと受光部の位置ずれを吸収した周辺減光補正データもしくは補正計算式を生成することにより、各個体特有のデータを取得することなしに、周辺減光の補正を行うことが可能となり、製造工程の複雑化を招かない。
なお、第2の実施形態では、光軸の許容位置ずれ量としたが、図12にしめすように、均一な入光状態を作り出した上で、実際の撮影データから測定するほうが望ましい。
図12は、撮影機器に均一な光を入射している様子を示す図である。
光源からの光を、拡散板を通して撮影機器に投射していることで、撮影機器に均一な光を入射することができている。
この均一な光を受光することにより、周辺減光が正しく観測される為、周辺減光の中心位置と、撮影画像の中心位置と、を比較することにより、XmoveとYmoveが測定できる。
なお、Xmove、Ymoveに入る値の単位は、画素数である。
その場合、複数の機体の撮影データから測定した実測値の平均としてもよい。
<第3の実施形態>
図13は、デジタルズームの概念図である。
この図に示すように、撮影した画像を任意の倍率で拡大するデジタルズームの場合、撮影データ65にはレンズ特性に起因する周辺減光が発生するが、利用される領域は、二次元イメージセンサの撮像面66の中央部67のみである。この場合、拡大直後の撮影データ65に対して周辺減光補正を行えば、光学レンズ起因の補正値による計算ができるが、実際の利用領域(撮像面66の中央部67)より大きい領域に処理をかけるため、無駄である。この場合は、実際に利用される領域(撮像面66の中央部67)にのみ補正をかける方が効率的で好ましい。
しかし、そのまま周辺減光補正を行うと、よりゲインが大きい周辺部の補正が、実際には中央部の画像に対してかかるため、過剰補正となる。
そこで、デジタルズームで画角外になる領域量(図13で撮像面66から中央部66を除いた領域)から、周辺減光補正値を算出する手法を提案する。これは、第1の実施形態と同様に、数式(4)のXmove、Ymoveに画角外領域量を入れる(詳しくは図13参照)ことにより、デジタルズームに適合した修正係数Rx、Ryを算出できる。
これにより、周辺減光補正を修正する。デジタルズーム値は撮影時に決定するため、修正値算出は撮影後に生成される必要がある。
図14は、デジタルズームにおける処理の流れを示すフローチャートである。このフローチャートに示すように、通常の撮影(ステップS40)後、ユーザー指定値に従ったデジタルズームが行われる(ステップS41)。デジタルズームにより画角外になる量は固定的に決まるため、その値を利用して、修正値を算出し(ステップS43)、算出された修正値に従って周辺減光補正を行う(ステップS44)。
この処理は、要するに、「画角外領域量」を「数式(4)」における「Xmove、Ymove」と置き換えるようにするというものである。
なお、Xmove、Ymoveに入る値の単位は、画素数である。
この第3の実施形態によれば、デジタルズームで実際に利用される領域用に修正された周辺減光補正を行うことにより、短時間で補正処理を行うことができる。
30 デジタルカメラ(撮像装置)
30a 被写体
31a 光学系
31b 二次元イメージセンサ(撮像手段)
32a 特徴点抽出部(位置ずれ修正手段、特徴点算出手段)
32b 補正式算出部(位置ずれ修正手段)
32c 合成加算部(合成画像生成手段、合成手段)
32d 周辺減光補正部(周辺減光補正手段)
32e 現像部(現像手段)
33 メモリ部(記憶手段)
36 制御部(平均輝度測定手段、度数分布算出手段)
57 輝度補正データ(補正用周辺減光特性成分)

Claims (14)

  1. 同一被写体を含む複数の撮影画像の位置ずれを修正した上で合成画像を生成する合成手段と、
    前記合成手段により生成された合成画像に対して前記光学系の周辺減光特性を考慮した周辺減光補正を施す周辺減光補正手段と、
    を備えることを特徴とする撮像装置。
  2. 光学系を通して結像された被写体の像を、長時間露光撮影時における1回の露光時間T1をn分割した各々の露光時間T1(1)〜T1(n)ごとに撮像して前記1回の露光時間T1あたりn枚の画像を出力する撮像手段を備え、
    前記合成手段は、前記撮像手段から出力されたn枚の画像の位置ずれを修正したn枚の画像を合成して1枚の合成画像を生成し、
    前記周辺減光補正手段は、前記n枚の画像に対する前記位置ずれ修正手段における位置ずれ修正量を用いて各画像ごとの周辺減光特性成分の位置を修正するとともに、位置が修正された各画像ごとの周辺減光特性成分を合成して補正用周辺減光特性成分を生成し、この補正用周辺減光特性成分を用いて、前記合成画像に対する周辺減光補正を行う
    ことを特徴とする請求項1に記載の撮像装置。
  3. 時系列的に撮影された複数の画像からなる連写画像を記憶する記憶手段と、
    前記記憶手段に記憶された複数の画像の特徴点を算出する特徴点算出手段と、
    を備え、
    前記合成手段は、前記特徴点算出手段によって算出された特徴点が互いに一致するように位置を合わせて前記複数の画像を合成し、
    前記周辺減光補正手段は、前記合成手段によって合成された合成画像に、前記連写画像を撮影する際に用いられた光学系の周辺減光特性に対応した周辺減光補正をかける
    ことを特徴とする請求項1に記載の撮像装置。
  4. 前記周辺減光補正手段によって周辺減光補正がかけられた後の合成画像の輝度を調整する調整手段
    を備えることを特徴とする請求項1に記載の撮像装置。
  5. 前記複数の画像は、X方向とY方向とを有するXY平面上に存在する画像であり、
    前記周辺減光補正手段は、前記合成手段において前記複数の画像を合成する際に前記合成手段による位置合わせに伴い移動する、当該複数の画像の各画像の中心点の前記X方向の各移動量の内で最大の値と、当該複数の画像の各画像の中心点の前記Y方向の各移動量の内で最大の値と、
    を用いて補正を行う
    ことを特徴とする請求項1に記載の撮像装置。
  6. 前記複数の画像は、X方向とY方向とを有するXY平面上に存在する画像であり、
    前記周辺減光補正手段は、前記合成手段において前記複数の画像を合成する際に前記合成手段による位置合わせに伴い移動する、当該複数の画像の各画像の中心点の前記X方向の各移動量の平均値と、当該複数の画像の各画像の中心点の前記Y方向の各移動量の平均値と、
    を用いて補正を行う
    ことを特徴とする請求項1に記載の撮像装置。
  7. 前記記憶手段に記憶する画像を撮影するために、光学部材と、X方向とY方向とを有するXY平面上に撮像面を有する撮像素子とを備えた撮像手段を備え、
    前記周辺減光補正手段は、前記光学部材を本来設置する位置からの、前記X方向と前記Y方向とへの設置位置ずれ許容量を用いて補正を行う
    ことを特徴とする請求項1に記載の撮像装置。
  8. 前記記憶手段に記憶する画像を撮影するために、光学部材と、X方向とY方向とを有するXY平面上に撮像面を有する撮像素子を備えた撮像手段を備え、
    前記周辺減光補正手段は、前記光学部材を本来設置する位置からの、前記X方向と前記Y方向とへの設置位置ずれ実測値を用いて補正を行う
    ことを特徴とする請求項1に記載の撮像装置。
  9. 前記記憶手段に記憶する画像を撮影するために、X方向とY方向とを有するXY平面上に撮像面を有する撮像手段と、
    前記撮像手段の撮影画角から画角を変更して、任意の電子画角でデジタルズームを行うための画角変更手段を備え、
    前記周辺減光補正手段は、撮影画像の中心から見て、前記撮像手段の撮影画角内であり、前記画角変更手段の電子画角外である領域の、前記X方向成分の画素数と前記Y方向成分の画素数とを用いて補正を行う
    ことを特徴とする請求項1に記載の撮像装置。
  10. 前記調整手段は、前記周辺減光補正手段によって周辺減光補正がかけられた後の合成画像の輝度を、当該合成画像の元になる画像数を考慮して調整する
    ことを特徴とする請求項4に記載の撮像装置。
  11. 前記複数の画像の中央部の輝度の平均値を測定する平均輝度測定手段を更に備え、
    前記調整手段は、前記周辺減光補正手段によって周辺減光補正がかけられた後の合成画像の輝度を、当該平均輝度測定手段より求めた平均値を考慮して調整する
    ことを特徴とする請求項4に記載の撮像装置。
  12. 前記複数の画像の度数分布を計算する度数分布算出手段を更に備え、
    前記調整手段は、前記周辺減光補正手段により生成された画像の輝度を、前記度数分布算出手段で算出した度数分布範囲の有効範囲に収まるように調整する
    ことを特徴とする請求項4に記載の撮像装置。
  13. 同一被写体を含む複数の撮影画像の位置ずれを修正した上で合成画像を生成する合成工程と、
    前記合成工程により生成された合成画像に対して前記光学系の周辺減光特性を考慮した周辺減光補正を施す周辺減光補正工程と、
    を備える
    ことを特徴とする撮影方法。
  14. コンピュータに、
    同一被写体を含む複数の撮影画像の位置ずれを修正した上で合成画像を生成する合成手段と、
    前記合成手段により生成された合成画像に対して前記光学系の周辺減光特性を考慮した周辺減光補正を施す周辺減光補正手段と、
    を実現させる
    ことを特徴とするプログラム。
JP2009278243A 2006-09-06 2009-12-08 撮像装置、撮影方法及びプログラム Pending JP2010057198A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009278243A JP2010057198A (ja) 2006-09-06 2009-12-08 撮像装置、撮影方法及びプログラム

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2006240945 2006-09-06
JP2009278243A JP2010057198A (ja) 2006-09-06 2009-12-08 撮像装置、撮影方法及びプログラム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2007166062A Division JP4423678B2 (ja) 2006-09-06 2007-06-25 撮像装置、撮影方法及びプログラム

Publications (1)

Publication Number Publication Date
JP2010057198A true JP2010057198A (ja) 2010-03-11

Family

ID=42072551

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009278243A Pending JP2010057198A (ja) 2006-09-06 2009-12-08 撮像装置、撮影方法及びプログラム

Country Status (1)

Country Link
JP (1) JP2010057198A (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1175105A (ja) * 1997-08-27 1999-03-16 Toshiba Corp 静止画カメラ
JP2002290829A (ja) * 2001-03-26 2002-10-04 Minolta Co Ltd 画像処理装置、プログラムおよび記録媒体
JP2004310504A (ja) * 2003-04-08 2004-11-04 Canon Inc 画像処理方法
JP2005216200A (ja) * 2004-02-02 2005-08-11 Alpine Electronics Inc 他車検出装置及び他車検出方法
JP2006171939A (ja) * 2004-12-14 2006-06-29 Canon Inc 画像処理装置及び方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1175105A (ja) * 1997-08-27 1999-03-16 Toshiba Corp 静止画カメラ
JP2002290829A (ja) * 2001-03-26 2002-10-04 Minolta Co Ltd 画像処理装置、プログラムおよび記録媒体
JP2004310504A (ja) * 2003-04-08 2004-11-04 Canon Inc 画像処理方法
JP2005216200A (ja) * 2004-02-02 2005-08-11 Alpine Electronics Inc 他車検出装置及び他車検出方法
JP2006171939A (ja) * 2004-12-14 2006-06-29 Canon Inc 画像処理装置及び方法

Similar Documents

Publication Publication Date Title
JP4423678B2 (ja) 撮像装置、撮影方法及びプログラム
USRE48552E1 (en) Method and system for image construction using multiple exposures
JP4487191B2 (ja) 画像処理装置および画像処理プログラム
JP4305598B2 (ja) カメラの絞り制御方法及び装置、並びにカメラ
KR101692401B1 (ko) 영상 처리 방법 및 장치
JP5865941B2 (ja) 撮影装置、携帯型情報処理端末、撮影装置のモニタ表示方法およびプログラム
JP5445363B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
US7825969B2 (en) Image stabilization using multi-exposure pattern
US8106976B2 (en) Peripheral light amount correction apparatus, peripheral light amount correction method, electronic information device, control program and readable recording medium
KR101156991B1 (ko) 촬상 장치, 화상 처리 방법 및 기록 매체
JP4354076B2 (ja) 画枠センタリング調整方法および撮像装置
KR101643613B1 (ko) 디지털 영상 처리 장치, 영상 처리 방법 및 이를 기록한 기록 매체
US11012633B2 (en) Image capturing apparatus, image capturing method, and image processing apparatus
JP2017005555A (ja) 撮影装置、撮影制御装置、撮影制御方法、及び撮影制御プログラム
JP2006148550A (ja) 画像処理装置及び撮像装置
JP4940661B2 (ja) 画像処理装置、画像処理方法および撮像装置
JP2007306436A (ja) 撮像装置
JP6157274B2 (ja) 撮像装置、情報処理方法及びプログラム
JP2007318648A (ja) パノラマ写真撮影装置
CN114554041A (zh) 摄像装置、摄像方法和存储介质
JP2006157342A (ja) カメラモジュール
JP2010057198A (ja) 撮像装置、撮影方法及びプログラム
JP2020036091A (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP2020160773A (ja) 画像処理装置、撮像装置、画像処理方法およびプログラム
JP7458769B2 (ja) 画像処理装置、撮像装置、画像処理方法、プログラムおよび記録媒体

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100105

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100105

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110705

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110823

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120228

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20120724