JP2006254365A - 画像信号処理装置、撮影装置、および画像信号処理方法 - Google Patents

画像信号処理装置、撮影装置、および画像信号処理方法 Download PDF

Info

Publication number
JP2006254365A
JP2006254365A JP2005071675A JP2005071675A JP2006254365A JP 2006254365 A JP2006254365 A JP 2006254365A JP 2005071675 A JP2005071675 A JP 2005071675A JP 2005071675 A JP2005071675 A JP 2005071675A JP 2006254365 A JP2006254365 A JP 2006254365A
Authority
JP
Japan
Prior art keywords
image
camera
signal processing
shooting
shake correction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2005071675A
Other languages
English (en)
Inventor
Minoru Ishida
実 石田
Masaharu Nagata
政晴 永田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2005071675A priority Critical patent/JP2006254365A/ja
Publication of JP2006254365A publication Critical patent/JP2006254365A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Exposure Control For Cameras (AREA)
  • Adjustment Of Camera Lenses (AREA)
  • Studio Devices (AREA)

Abstract

【課題】画質の劣化を招くことなく精度高く手ぶれ補正を行うことが可能な画像信号処理装置、撮像装置、および画像信号処理方法を提供する。
【解決手段】複数枚の画像を撮影し、画像間の手ぶれによるカメラの移動量を検出し、撮影した複数枚の画像を撮影中に発生したカメラの移動量を補正しながら画像を足し合わせて1枚の画像を作り出す機能からなる手ぶれ補正技術を用いた第1の撮影方式と、通常の1回の露光で1枚の画像を作り出す第2の撮影方式との中から、どちらの方式を用いて撮影するか、すなわち、手ぶれ補正をする撮影を行うか手ぶれ補正をしない撮影を行うかを、たとえば露光時間Tと、光学レンズ系202のズームレンズ202aと撮像素子107の受光面間の焦点距離Lに基づいて(基本式T>(1/L)を基に)判断するカメラ信号処理LSI209を設ける。
【選択図】図6

Description

本発明は、デジタルカメラ等に適用される画像信号処理装置、撮影振れ(手ぶれ)補正機能を備えたデジタルカメラ等の撮影装置、および画像信号処理方法に係り、特に手ぶれ防止技術に関するものである。
デジタルカメラ撮影中に、撮影者の手が振れると、画像が乱れるいわゆる手ぶれ画像となる。
デジタルカメラ撮影中に、撮影者の手が振れても、その影響を排除して、乱れのない画像を得る技術が、手ぶれ防止技術である。
特許文献1に、手ぶれ防止技術の1つとしての技術が開示されている。
ここで、特許文献1に開示されている手ぶれ防止技術について説明する前に、一般的な写真撮影装置(カメラという場合もある)の構成と、写真を撮影する際に実行される処理手順を説明し、次いで、一般的な写真撮影における手ぶれについて説明する。
図1は、手ぶれ補正技術を使用しない写真撮影装置(カメラ)の構成例を示す図である。
図2は、図1の撮影装置において撮影する際に実行される処理を説明するためのフローチャートである。
図1の撮影装置100は、レンズ絞り101、ズームレンズ102aおよびフォーカスレンズ102bを含む光学レンズ系102、レンズ絞り101を駆動するステッピングモータ103、ズームを行うためにズームレンズ102aを駆動するステッピングモータ104、フォーカス調整を行うためにフォーカスレンズ102bを駆動するステッピングモータ105、ステッピングモータ103〜105の動作を制御するモータコントローラ106、たとえばCMOSセンサを含む撮像素子107、撮像素子107のアナログ出力を相関二重サンプリング処理、アナログ増幅処理、デジタル信号に変換するアナログ/デジタル(A/D)変換処理や、撮像素子に画像読み出しのタイミング信号を供給する処理を行うデバイスであるアナログフロントエンド部108、撮影に先立って撮影のシャッタスピードを決める処理や撮影した画像の明るさや色を調整するための処理、撮影した画像を記録媒体へ書き込むための制御を司り、カメラの信号処理全般を司るカメラ信号処理回路(LSI)109、撮影した画像の一時的な保存、カメラ信号処理LSI109で行われる演算の途中結果の一時的な保存など司るメモリであるDRAM110、不揮発性メモリであるフラッシュメモリ111、撮影した画像を長時間保存するための記録媒体112、液晶表示装置(LCD)等の表示デバイス113、表示デバイスを駆動するアナログLCDドライバ114、および外部機器との接続のためのUSB等のインタフェース115を有している。
なお、近年、撮像素子107が、アナログフロントエンド部108の機能をも持ち合わせている撮像素子もある。
市販の一般的なカメラの場合、撮影方式として、「絞り優先方式撮影」、「シャッタスピード優先方式撮影」、「プログラム方式撮影」、「マニュアル設定方式撮影」、などがある。
絞り優先方式撮影とは、ユーザが撮影時に用いたいレンズ絞りの値をカメラ上で設定すると、そのレンズ絞り値と、被写体の照度とから、適切なシャッタスピードをカメラが求め、ユーザが設定したレンズ絞り値とカメラが求めたシャッタスピードとを用いて写真を撮影する方法である。
シャッタスピード優先方式撮影とは、ユーザが撮影時に用いたいシャッタスピードの値をカメラ上で設定すると、そのシャッタスピードと、被写体の照度とから、適切なレンズ絞り値をカメラが求め、ユーザが設定したシャッタスピードとカメラが求めたレンズ絞り値とを用いて写真を撮影する方法である。
プログラム方式撮影とは、撮影に適したレンズ絞り値とシャッタスピードとの双方をカメラが求め、写真を撮影する方法である。
マニュアル方式撮影とは、撮影に用いるレンズ絞り値とシャッタスピードとの双方をユーザがカメラ上で設定して、写真を撮影する方法である。
以下に、上記撮影方式の一例として、絞り優先方式撮影を例にとって、写真撮影の際に実行される処理手順を図2のフローチャートに関連付けて説明する。
まず、ユーザが撮影に用いるレンズ絞り値を設定する(ST1)。
次に、ユーザがカメラを被写体に向け、被写体からの反射光もしくは発光をカメラ内に入射させる。ここで被写体の照度を測定する(ST2)。たとえばカメラ上の測光センサを用いて被写体の明るさを求める。もしくは、撮像素子107上の結像の明るさのデータから被写体の明るさを求める。
被写体からの光が入射すると、カメラ上で適正な露光時間あるいは露光時間の逆数であるシャッタスピードが求められる(ST3)。
一般的に、被写体照度をL、レンズ絞り値をF、露光時間をT、ISO感度をAと表記すると、以下の関係を満たす露光時間Tが適正な露光時間とされている。
(数1)
log2(L) − log2(2.5) = log2(F^2) − log2(T) − log2(ISO/100) …(1)
次いでユーザがシャッタボタンを押すと、上記のレンズ絞り値および露光時間を用いて撮影が行われ(ST4)、DRAM110やフラッシュメモリ111、あるいは記録媒体112に格納(保存)する(ST5)。
ここで、一般的な写真撮影において、撮影時にカメラを持つ手が振れると、手ぶれした画像が撮影されることについて、図3(A)〜(D)に関連付けて説明する。
上述したように、手ぶれ防止技術を用いない写真撮影(通常撮影モードと呼ぶ)においては、被写体照度=L、レンズ絞り値=F、露光時間=T、ISO感度=Aと表記すると、上記(1)式の関係を満たす露光時間Tにて写真が撮影される。
ここでは、露光時間T秒の間に、手ぶれによるカメラの移動距離がカメラの画素の大きさに換算してXピクセル分だけ移動したとする。
露光時間Tをn個に分割した、単位露光時間dt (=T/n) が、十分に小さくなるnを仮定して、撮影中の被写体とカメラの画格との位置関係、および撮影の結果最終的に得られる画像について説明する。
図3(A)〜(D)において、120は被写体表し、121は撮影開始時のカメラの画格を表し、122は撮影開始後、dt*1秒後のカメラの画格を表し、123は撮影開始後、dt*2秒後のカメラの画格を表している。
(1)露光開始から、露光時間dt*1秒後までの間には、図3(A)に示す、撮影開始時の画格121において、露光時間dtで撮影された画像が撮像素子に蓄積される。
(2)露光時間dt*1秒後から、露光時間dt*2秒後までの間には、図3(B)に示す、撮影開始時の画格122から手ぶれによるカメラの移動距離としてX/n*1ピクセル相当ずれた画格において、露光時間dtで撮影された画像が撮像素子に追加して蓄積される。
(3)露光時間dt*2秒後から、露光時間dt*3秒後までの間には、図3(C)に示す、撮影開始時の画格123から手ぶれによるカメラの移動距離としてX/n*2ピクセル相当ずれた画格において、露光時間dtで撮影された画像が撮像素子に追加して蓄積される。
(n)露光時間dt*(n-1)秒後から、露光時間dt*n秒後までの間には、撮影開始時の画格から手ぶれによるカメラの移動距離としてX/n*(n-1)ピクセル相当ずれた画格において、露光時間dtで撮影された画像が撮像素子に追加して蓄積される。
そして、露光終了後には、上記(1)から上記(n)までの間に撮像素子に蓄積された画像を足し合わせた画像が1枚だけ、撮像素子から出力されることになる。
その結果、得られた1枚の画像は、被写体が静止した画像にはならず、図3(D)に示すように、撮影中に被写体がカメラに対して相対的に移動している状態を撮影した画像、いわゆる手ぶれした画像が1枚だけ、撮像素子から出力されることになる。
次に、特許文献1に開示された手ぶれ防止技術について説明する。
特許文献1に開示された手ぶれ防止技術においては、露光時間Tなる画像を1枚だけ撮影して撮像素子から出力するのではなく、露光時間Tを複数の露光時間に分割する露光時間分割数mを定義して、露光時間T/mなる画像をm枚撮影する。
m枚撮影した各画像の中で露光した順番が隣り合う2枚の画像をそれぞれ比較し、各画像を撮影した間にカメラが移動した方向と移動量を表す移動ベクトル(xi, yi)を求める。
露光時間T/mでm枚撮影した画像を足し合わせて、最終的に、露光時間Tで1枚撮影した場合と同じ露光量の画像を得るが、m枚撮影した画像を足し合わせる際に、上記で求めた各画像を撮影した間にカメラが移動した移動ベクトル(xi, yi)を考慮し、移動ベクトル(-xi, -yi)だけ画像をずらして足し合わせる。
その結果、最終的に、露光時間Tで1枚撮影した場合と同じ露光量の画像を得るが、得られた画像は、上記した一般的な写真撮影によって得られた画像よりも、手ぶれによる画像の乱れが少なくなった画像を得ることができる。
以後、本件の中では、上で述べた手ぶれ防止技術を、「開示された手ぶれ防止(補正)技術」、もしくは単に「手ぶれ防止(補正)技術」と呼ぶ。
図4は、開示された手ぶれ補正技術を使用した写真撮影装置(カメラ)の構成例を示す図である。
図5は、図4の撮影装置において撮影する際に実行される処理を説明するためのフローチャートである。
図4の撮影装置100Aは、手ぶれ補正処理機能を有しているが、その機能は電子的な補正機能であり、カメラ信号処理LSI109Aがその機能を備えた構成となっており、他の構成は基本的に図1の装置と同様である。したがって、図4においては同一構成部分には図1と同一符号を付している。
次いで、開示された手ぶれ補正技術を用いた図4の撮影装置の写真を撮影する際に実行される処理を図5のフローチャートに関連付けて説明する。図5においても、上記撮影方式の一例として、絞り優先方式撮影を例にとって、写真撮影の際に実行される処理を説明する。
まず、ユーザが撮影に用いるレンズ絞り値を設定する(ST11)。
次に、ユーザがカメラを被写体に向け、被写体からの反射光もしくは発光をカメラ内に入射させる。ここで被写体の照度を測定する(ST12)。たとえばカメラ上の測光センサを用いて被写体の明るさを求める。もしくは、撮像素子107上の結像の明るさのデータから被写体の明るさを求める。
被写体からの光が入射すると、カメラ上で適正な露光時間あるいは露光時間の逆数であるシャッタスピードが求められる(ST13)。
一般的に、被写体照度をL、レンズ絞り値をF、露光時間をT、ISO感度をAと表記すると、上記(1)式の関係を満たす露光時間Tが適正な露光時間とされている。
そして、適正露光時間を、複数の時間に分割し、撮影する(ST14)。
露光分割数をmとすると、上記適正露光時間の1/mの露光時間でm枚の画像を撮影する。
撮影したm枚の画像の中から、露光時刻が隣り合う2枚の画像をm−1組取り上げ、取り上げた2枚の画像データを比較して、2枚の画像の撮影の間で、どの程度手ぶれによりカメラの画角が移動したかを求める。その移動量を補正しながら、m枚の画像を重ね合わせ、1枚の画像を作り出す(ST15)。
そして、DRAM110やフラッシュメモリ111、あるいは記録媒体112に格納(保存)する(ST16)。
特開2005−38396号公報
ところが、上述の開示された手ぶれ防止技術を用いて写真撮影を行うと、場合によっては、一般的な写真撮影によって得られた画像よりも、画質が劣化するおそれがある
上記の問題点を説明する前に、まずカメラの画像信号とノイズの関係(S/N)について説明する。
まず、デジタルカメラにおいて、被写体を撮影して、画像信号を得るまでのメカニズムについて説明する。
デジタルカメラは、その構成の概要を述べると、レンズ系102、撮像素子107、信号処理回路109A、記録媒体および記録媒体への書き込み回路を含んで構成される。
撮像素子107は、光電変換するフォトダイオードからなる画素部と、光電変換した信号を読み出すための周辺回路部とからなる。
信号処理回路109Aにおいては、画像を綺麗にするための、明るさの調整や色の調整を行っている。
被写体を撮影することでカメラに入射した光は、撮像素子の画素部で光電変換され、電気信号に変換されて、画素内に蓄えられる。
画素内に蓄えられた電気信号は、読み出し回路によって、読み出される。
読み出された電気信号が、信号処理回路において明るさや色の調整を行った後、記録媒体へ書き込まれて保存される。
次に、デジタルカメラにおいて、被写体を撮影した際に発生するノイズについて説明する。
被写体を撮影した際に発生するノイズは、入射光を光電変換して得られた発生信号の大きさに依存するノイズと、発生信号の大きさに依存しないノイズとに分類される。
発生信号の大きさに依存しないノイズとして、たとえば、画素部において発生する暗電流ノイズ、画素部において発生する画素リセットノイズ、読み出し回路部において発生する、信号線リセットノイズがある。
発生信号の大きさに依存するノイズとしては、たとえば画素部において発生する電荷転送ノイズ、読み出し回路部において発生する、差動アンプノイズがある。
暗電流ノイズは、たとえばフォトダイオードを構成する半導体結晶の格子欠陥から発生する電流により、入射光の光電変換によって発生した電気信号以外の電気信号が発生することに起因する。
画素リセットノイズは、画素の電気信号を読み出した後、理想的にはフォトダイオードの出力信号電圧が接地レベルにリセットされているべきところ、フォトダイオード内部に残留した電荷によって、接地レベル電圧が理想的な信号電圧レベルにならないことに起因する。
電荷転送ノイズは、フォトダイオードから電気信号を読み出す際に、P型半導体とN型半導体とが接触した半導体ジャンクションを乗り越える際に発生するノイズである。
次に、カメラの画像信号とノイズの関係(S/N)を説明するために、カメラの画像信号について説明する。
図1および図2に関連付けて説明した一般的な写真撮影を行う場合に用いられる露光時間をT、入射した光を光電変換してその結果得られた電気信号の最大S_norm_maxと表記する。
一方、図4および図5に関連付けて説明した開示された手ぶれ防止技術を用いる場合、上記露光時間Tを複数の露光時間に分割する露光時間分割数mを定義して、露光時間T/mなる画像をm枚撮影する。
入射露光量と、撮像素子の光電変換発生信号とは線形な関係にある。
その結果、開示された手ぶれ防止技術を用いる場合、出力される電気信号の最大値は、一般的な写真撮影を行う場合に、出力される電気信号の最大値の1/mとなる。
つまり、開示された手ぶれ防止技術を用いる場合、出力される電気信号の最大値をS_bru_maxと表記すると、(S_bru_max = S_norm_max/m)となる。
次に、カメラの画像信号とノイズの関係(信号/ノイズ比)を説明する。
被写体を撮影した際に発生するノイズのうち、既に述べた入射光を光電変換して得られた発生信号の大きさに依存するノイズの大きさを、一般的な写真撮影を行う場合、N_norm_var、開示された手ぶれ防止技術を用いる場合、N_bru_varと表記する。
また、被写体を撮影した際に発生するノイズのうち、既に述べた発生信号の大きさに依存しないノイズの大きさを、一般的な写真撮影を行う場合、N_norm_const、開示された手ぶれ防止技術を用いる場合、N_bru_constと表記する。
一般的な写真撮影を行う場合に得られる電気信号の最大値をS_norm_maxと表記する。
開示された手ぶれ防止技術を用いる場合に得られる電気信号の最大値をS_bru_maxと表記する。
一般的な写真撮影を行う場合に用いられる露光時間をTと表記する。
開示された手ぶれ防止技術を用いる場合、上記露光時間Tを複数の露光時間に分割する露光時間分割数をmと表記する。
一般的な写真撮影を行う場合に得られる信号/ノイズ比SN_normと表記する。
開示された手ぶれ防止技術を用いる場合に得られる信号/ノイズ比SN_bruと表記する。
既に述べた関係により、次式が成立する。
(数2)
SN_norm = S_norm_max / (N_norm_var + N_norm_const)
SN_bru = S_bru_max / (N_ bru_var + N_bru_const)
また、入射露光量と、撮像素子107の光電変換発生信号とは線形な関係にあり、入射光を光電変換して得られた発生信号の大きさに依存するノイズもまた撮像素子107の光電変換発生信号と線形な関係にあることから、次の関係が成り立つ。
(数3)
S_bru_max = S_norm_max/m
N_bru_max = N_norm_max/m
したがって、
SN_norm = S_norm_max / (N_norm_var + N_norm_const)
SN_bru = S_norm_max/m / (N_norm_var/m + N_bru_const)
さらに、一般的な写真撮影を行う場合、被写体を撮影した際に発生するノイズのうち、入射光を光電変換して得られた発生信号の大きさに依存するノイズの大きさと、発生信号の大きさに依存しないノイズの大きさは、概ね同等の大きさと近似できる。
したがって、以下の関係が成り立つ。
(数4)
SN_norm = S_norm_max / (N_norm_var + N_norm_var) = (1/2) * (S_norm_max / N_norm_var)
SN_bru = S_norm_max/m / (N_norm_var/m + N_norm_var) = (1/(m+1)) * (S_norm_max / N_norm_var)
したがって、
SN_bru = (2/(m+1)) * (S_norm_max / N_norm_var)
このため、露光時間分割数をm大きくすればするほど、開示された手ぶれ防止技術を用いる場合の信号/ノイズ比は、劣化する(小さくなる)。
m ≧ 2であるため、開示された手ぶれ防止技術を用いる場合の信号/ノイズ比を最善にする目的で、仮にm = 2と仮定すると、次のようになり、信号/ノイズ比は、一般的な写真撮影を行う場合の、67%に低下してしまう。
(数5)
SN_bru = (2/3) * (S_norm_max / N_norm_var)
開示された手ぶれ防止技術を用いた場合に信号/ノイズ比をさらに低下させる要因として、アナログ信号をデジタル信号に変換する際の量子化ノイズの増大がある。
図1および図2に関連付けて説明した手ぶれ防止技術を用いない撮影装置100と、図4および図5に関連付けて説明した手ぶれ防止技術を用いた撮影装置100Aのどちらにおいても、撮像素子107から出力される信号はアナログ信号であり、これをアナログフロントエンド部108においてデジタル信号に変換した後、カメラ信号処理LSI109に入力している。
アナログ信号を、離散的な値しか取り得ないデジタル信号に変換すると、変換の際に丸め誤差が発生する。これが量子化ノイズである。
図1および図2に関連付けて説明した手ぶれ防止技術を用いない撮影装置100の場合、撮像素子107の出力であるアナログ信号をデジタル信号に変換するのは、1枚の画像に付き、1回である。
図4および図5に関連付けて説明した手ぶれ防止技術を用いた撮影装置100Aの場合、一般的な撮影装置100の場合に1枚の画像を撮影する用いる露光時間を、複数個に分割し、複数枚の画像を撮影する。これらの撮影した画像は、それぞれ撮像素子の出力であるアナログ信号をデジタル信号に変換する。m枚の画像を撮影した場合、m回のAD変換を行う。そして変換後にm枚の画像を足し合わせて、1枚の画像を作り出す。
足し合わせの結果、AD変換の際の量子化ノイズは、従来例その1の場合の√m倍となる。
その結果、開示された手ぶれ防止技術を用いた撮影装置100Aにおける信号/ノイズ比は、先に述べた従来例その1の信号/ノイズ比の67%よりも、さらに低くなってしまう。
次に、撮影時の手ぶれの大きさを、その結果得られる画像上での手ぶれの大きさについて説明する。
撮影時の手ぶれによって発生する画像の乱れの大きさは、手ぶれによって撮像素子上の結像が移動する距離で表される。
カメラを撮影者が手に持って撮影した場合、手ぶれによるカメラの移動量は、露光時間に概ね比例する。手ぶれによりカメラが一定距離移動した場合、撮像素子上の結像の移動距離は、レンズ−撮像素子間の焦点距離に比例する。
したがって、カメラを撮影者が手に持って撮影した場合、手ぶれによる画像の乱れの大きさ、すなわち、手ぶれによって撮像素子上の結像が移動する距離は、露光時間に比例し、かつ、レンズ−撮像素子間の焦点距離に比例する。
さらに、露光時間をT(sec)、レンズ−撮像素子間の焦点距離をLmmとすると、{T > (1/L)}(ここで、T:露光時間を、秒の単位で表示した場合の値、L:レンズ−撮像素子間の焦点距離をmmの単位で表示した場合の値)の関係を満たす露光時間T秒で撮影した場合、手ぶれによる画像の乱れを、乱れとして人が視覚的に認識できること経験的に判っており、かつこのことは、カメラや写真撮影に関する書籍や雑誌で公開されており、公知の事実となっている。
したがって、たとえば通常市販されている35mm版カメラの場合、レンズ−撮像素子間の焦点距離を35mmにして撮影される頻度が最も高いが、この場合、カメラを撮影者が手に持って撮影すると、露光時間が1/35秒よりも大きい時には、手ぶれによる画像の乱れの大きさが、人が視覚的に認識できる大きさになる。
露光時間が1/35秒以下のときには、手ぶれによる画像の乱れの大きさが、人が視覚的に認識できる大きさに達しない。
一般的な写真撮影を行う場合、前述したように、被写体照度をL、レンズ絞り値をF、露光時間をT、ISO感度をAと表記すると、上記(1)式を満たす条件で撮影される。
このため、たとえば市販のデジタル一眼レフカメラにおいて最も頻繁に使われているレンズ絞り値=5、ISO感度=200、レンズ−撮像素子間の焦点距離=35mmと言う撮影条件の場合、被写体照度=1000ルクスの時に、適正露光時間が1/35秒となる。
したがって、たとえば上記の撮影条件を用いて、かつ被写体の照度が1000ルクス以上の場合、適正露光時間が1/35秒よりも短くなり、この撮影環境において、撮影者がカメラを手に持って撮影した場合、手ぶれによる画像の乱れの大きさは、人が視覚的に認識できる大きさに達しない。
これは、通常、日中、屋外において撮影する場合、手ぶれによる画像の乱れは、人が視覚的に認識できる大きさに達しないことを意味する。
また、三脚を用いて撮影する場合、そもそも、手ブレが発生しないため、手ぶれによる画像の乱れは発生しない。
これらのような撮影環境では、上述した開示されている手ぶれ防止技術を用いても、手ぶれ緩和効果を人が認識できないことが明らかである。
一方、被写体の照度が1000ルクス未満の場合、適正露光時間が1/35秒よりも大きくなり、この撮影環境において、撮影者がカメラを手に持って撮影した場合、手ぶれによる画像の乱れの大きさは、人が視覚的に認識できる大きさに達する。
これは、夕方もしくは夜間、屋外においてカメラを撮影者が手に持って撮影する場合、あるいは、屋内でカメラを撮影者が手に持って撮影する場合、手ぶれによる画像の乱れが、人が視覚的に認識できる大きさに達することを意味する。
このような撮影環境では、上述した開示されている手ぶれ防止技術を用いると、手ぶれ緩和効果を人が認識できることが明らかである。
上述した理由により、カメラを三脚に固定して撮影する場合において、あるいは、日中、屋外においてカメラを撮影者が手に持って撮影する場合において、上述した開示されている手ぶれ防止技術を用いると、これによる手ぶれ緩和効果を人が認識できず、かつ、信号/ノイズ比が、一般的な写真撮影を行う場合の67%以下に低下してしまい、画質の劣化が人に認識されてしまう。
つまり、開示された手ぶれ防止技術による利点がもたらされず、画質が劣化するという不利益がもたらされおそれがある。
市場の一般的なユーザがカメラを用いて写真撮影を行う際の環境を考えてみると、日中、屋外においてカメラを撮影者が手に持って撮影する頻度と、日中または夜間、屋内屋外を問わず、カメラを三脚に固定して撮影する頻度の合計は、夕方もしくは夜間、屋外においてカメラを撮影者が手に持って撮影する頻度と、屋内でカメラを撮影者が手に持って撮影する頻度の合計よりも、はるかに大きいと考えられる。
したがって、市場の一般的なユーザがカメラを用いて写真撮影を行う際の、大半の場合において、開示された手ぶれ防止技術を用いて写真撮影を行うと、画質が劣化するという不利益のみがもたらされてしまう。
本発明の目的は、画質の劣化を招くことなく精度高く手ぶれ補正を行うことが可能な画像信号処理装置、撮像装置および画像信号処理方法を提供することにある。
本発明の第1の観点は、撮像素子による画像信号を処理する画像信号処理装置であって、上記撮像素子による画像信号に対するぶれ補正機能を有し、所定の信号と所定の閾値に基づいてぶれ補正の適用の可否を自動的に判定し、閾値の範囲外にあると判定すると上記ぶれ補正を行わないように処理し、閾値の範囲内にあると判定するとぶれ補正を伴うように処理する信号処理回路を有する。
好適には、上記信号処理回路は、所定の信号と所定の閾値に基づいて上記ぶれ補正処理による画像改善効果が視覚的に認識し難い撮影状況下にあるか否かを自動的に判定し、認識し難い状況下にあると判定すると上記ぶれ補正を行わないように処理し、認識し難い状況下にないと判定するとぶれ補正を伴うように処理する。
好適には、上記信号処理回路は、複数枚の画像を撮影し、画像間のぶれによる装置の移動量を検出し、撮影した複数枚の画像を撮影中に発生した移動量を補正しながら画像を足し合わせて1枚の画像を作り出す機能からなるぶれ補正技術を用いた第1の撮影方式と、通常の1回の露光で1枚の画像を作り出す第2の撮影方式と、を選定可能で、ぶれ補正を行うと判定した場合には上記第1の撮影方式を選定し、ぶれ補正を行わないと判定した場合には上記第2の撮影方式を選定する。
好適には、上記信号処理回路は、ぶれ補正をするか否かを露光時間T、または/および光学系の焦点距離Lに基づいて判断する。
好適には、上記信号処理回路は、ぶれ補正をするか否かを、装置の移動量に関する情報に基づいて判断する。
好適には、上記信号処理回路は、移動量としてはぶれ検出器の検出したぶれ量に基づいて取得し、当該移動量と所定の閾値とを比較してぶれ補正をするか否かを判断する。
好適には、上記信号処理回路は、移動量としては複数の画像信号に基づいて取得し、当該移動量と所定の閾値とを比較してぶれ補正をするか否かを判断する。
好適には、上記信号処理回路は、撮影装置を固定する部材に取り付けられた否かの検出器の検出結果に応じてぶれ補正するか否かを判断する。
好適には、上記信号処理回路は、ぶれ補正する否かを強制的に指示する信号を受けると、当該指示に応じてぶれ補正するか否かを判断する。
本発明の第2の観点は、光学系による被写体の像を受けて画像信号を出力する撮像素子と、上記撮像素子による画像信号に対するぶれ補正機能を有し、所定の信号と所定の閾値に基づいてぶれ補正の適用の可否を自動的に判定し、閾値の範囲外にあると判定する記ぶれ補正を行わないように処理し、閾値の範囲内にあると判定するとぶれ補正を伴うように処理する信号処理回路とを有する。
本発明の第3の観点は、撮像素子による画像信号を処理する画像信号処理方法であって、所定の信号と所定の閾値に基づいてぶれ補正の適用の可否を自動的に判定するステップと、閾値の範囲外にあると判定すると上記ぶれ補正を行わないように処理するステップと、閾値の範囲内にあると判定するとぶれ補正を伴うように処理するステップとを有する。
本発明の第4の観点は、撮像素子による画像信号を処理する画像信号処理方法であって、所定の信号に基づいてぶれ補正処理による画像改善効果が視覚的に認識し難い撮影状況下にあるか否かを自動的に判定するステップと、認識し難い状況下にあると判定すると上記ぶれ補正を行わないように処理するステップと、認識し難い状況下にないと判定するとぶれ補正を伴うように処理するステップとを有する。
本発明によれば、画質の劣化を招くことなく精度高く手ぶれ補正を行うことが可能となる。
以下、本発明の実施形態を、図面に関連付けて説明する。
<第1実施形態>
図6は、第1の実施形態に係る撮影装置(カメラ)の構成例を示すブロック図である。
本実施形態の撮影装置(カメラ)は、写真の撮影方式として、
(1)複数枚の画像を撮影し、
画像間の手ぶれによるカメラの移動量を検出し、
撮影した複数枚の画像を撮影中に発生したカメラの移動量を補正しながら画像を足し合わせて
1枚の画像を作り出す機能からなる手ぶれ補正技術を用いた第1の撮影方式と、
(2)通常の1回の露光で1枚の画像を作り出す、第2の撮影方式と、を採用し、
第1の撮影方式と第2の撮影方式の中から、どちらの方式を用いて撮影するか、すなわち、手ぶれ補正をする撮影を行うか手ぶれ補正をしない撮影を行うかを、カメラが自動的に判断して、撮影を行うように構成されている。
図6の撮影装置200は、レンズ絞り201、ズームレンズ202aおよびフォーカスレンズ202bを含む光学レンズ系202、レンズ絞り201を駆動するステッピングモータ203、ズームを行うためにズームレンズ202aを駆動するステッピングモータ204、フォーカス調整を行うためにフォーカスレンズ202bを駆動するステッピングモータ205、ステッピングモータ203〜205の動作を制御するモータコントローラ206、たとえばCMOSセンサを含む撮像素子207、アナログフロントエンド部208、カメラ信号処理回路(LSI)209、撮影した画像の一時的な保存、カメラ信号処理LSI209で行われる演算の途中結果の一時的な保存など司るメモリであるDRAM210、不揮発性メモリであるフラッシュメモリ211、撮影した画像を長時間保存するための記録媒体212、液晶表示装置(LCD)等の表示デバイス213、表示デバイスを駆動するアナログLCDドライバ214、ストロボ215、ストロボ発行回路216、オートフォーカス(AF)用の補助光LED217、報知用ブザー218、ボタン/スイッチ類を含む操作部219、外部機器との接続のためのUSB等のインタフェース220、各部に駆動電力を供給する電源回路(IC)221、およびバックアップ電源用ボタン電池222を有している。
アナログフロントエンド部208は、撮像素子207のアナログ出力を相関二重サンプリング処理(CDS)、アナログ増幅処理、デジタル信号に変換するアナログ/デジタル(A/D)変換処理や、撮像素子に画像読み出しのタイミング信号を供給する処理を行うデバイスである。
なお、近年、撮像素子207が、アナログフロントエンド部208の機能をも持ち合わせている撮像素子もある。
カメラ信号処理LSI209は、撮影に先立って撮影のシャッタスピードを決める処理や撮影した画像の明るさや色を調整するための処理、撮影した画像を記録媒体へ書き込むための制御を司り、カメラの信号処理全般を司る。
カメラ信号処理LSI209は、手ぶれ防止技術の中で用いる演算処理も行う。
また、カメラ信号処理LSI209は、第1の撮影方式と第2の撮影方式の中からいずれか方式を用いて撮影を行うか、すなわち、手ぶれ補正をする撮影を行うか手ぶれ補正をしない撮影を行うかを、自動的に判断して、撮影の制御を行う。
カメラ信号処理LSI209は、手ぶれ補正を行うか行わないかの判断は、たとえば露光時間Tと、光学レンズ系202のズームレンズ202aと撮像素子107の受光面間の焦点距離Lに基づいて(基本式T>(1/L)を基に)判断する。具体的な処理例については後述する。
図7は、本実施形態のカメラ信号処理LSIの具体的な構成例を示すブロック図である。
図7のカメラ信号処理LSI209は、画像データ検出部2091、露光量調整部2092、焦点調整部2093、手ぶれ補正部2094、画質調整部2095、画像圧縮部2096、外部記録インタフェース(I/F)2097、表示用画像作成部2098、表示装置インタフェース(I/F)2099、およびメモリインタフェース(I/F)2100を有している。
画像データ検出部2091は、撮像素子207の出力画像データをアナログフロントエンド部208の処理を通して受け取り、この画像データに基づいて自動露出に利用するために画像の明るさを検出し、オートフォーカス(AF)に利用するために顔図の画像のフォーカスがあっているか否かを検出し、撮影された画像の各種メモリへの書き込み制御を行う。
露光量調整部2092は、絞り値やシャッタスピードを制御する指示を、絞りやシャッタの動作を制御しているマイクロコンピュータを主体とするモータコントローラ206に出す。
焦点調整部2093は、フォーカスを制御する指示を、フォーカスレンズ202bの動作を制御しているモータコントローラ206に出す。
手ぶれ補正部2094は、画像の手ぶれを検出し、検出した手ぶれを補正した画像を生成する。
画質調整部2095は、画像の階調再現処理や色再現処理を行う。
画像の階調再現処理とは、見た目の良い画像を得るために、デジタル信号処理により、画像のコントラストを意図的に調整する処理をいう。
色再現処理とは、見た目の良い画像を得るために、デジタル信号処理により、画像の色相や彩度を意図的に調整する処理である。
画像圧縮部2096は、外部の記憶装置である記録媒体212に画像を圧縮して保存するために、撮影した画像をたとえばJPEG形式に従って圧縮処理を行う。
外部記録インタフェース2097は、外部の記録媒体212への圧縮画像の書き込み、読み出しを制御する。
表示用画像作成部2098は、撮影装置200の筐体(本体)の背面に配置してある液晶パネルに、撮影した画像を表示させるため、液晶パネルの画素数に応じて撮影画像から縮小画像を作り出す。
表示装置インタフェース2099は、外部の液晶パネル213に表示させる画像データをアナログLCDドライバ214を通して制御する。
メモリインタフェース2100は、外部のメモリ210,211への画像データの書き込み、読み出しを制御する。
以下に、本第1の実施形態の撮影装置200において撮影する際の処理を、図8および図9に関連付けて、カメラ信号処理LSI209の処理を中心に説明する。
図8は、図6の撮影装置において撮影する際に実行される処理を説明するためのフローチャートである。
図9は、図6の撮影装置において撮影する際に実行される処理を説明するための図であって、処理時の主要な信号の流れを示す図である。
なお、ここでは、撮影装置が備える各種撮影方式の一例として、絞り優先方式撮影を例にとって、写真撮影の際に実行される処理を説明する。
まず、ユーザが撮影に用いるレンズ絞り値を設定する(ST101)。
次に、ユーザがカメラを被写体に向け、被写体からの反射光もしくは発光をカメラ内に入射させる。ここで被写体の照度を測定する(ST102)。たとえばカメラ上の測光センサを用いて被写体の明るさを求める。もしくは、撮像素子207上の結像の明るさのデータから被写体の明るさを求める。
被写体からの光が入射すると、カメラ上で適正な露光時間あるいは露光時間の逆数であるシャッタスピードが求められる(ST103)。
一般的に、被写体照度をL、レンズ絞り値をF、露光時間をT、ISO感度をAと表記すると、以下の関係を満たす露光時間Tが適正な露光時間とされている。
(数6)
log2(L) − log2(2.5) = log2(F^2) − log2(T) − log2(ISO/100) …(6)
次に、ズームレンズ202aのズーム量を制御しているマイクロコンピュータを含むモータコントローラ206から、レンズ−撮像素子間の焦点距離L(mm)の値を取得する(ST104)。
次に、算出した最適露光時間とズームレンズ202aのズーム量から手ぶれした場合の画像の乱れ量を算出する(ST105)。
手ぶれによる画像の乱れの大きさが、人が視覚的に認識できる大きさに達しているか否かを判断する。
すなわち、一般的には、レンズ−撮像素子間の焦点距離をLmmとすると、露光時間T(sec)が(1/L)(sec)より大きい場合、つまり、T(sec) > (1/L)(L:レンズ−撮像素子間の焦点距離をmmの単位で表示した場合の値)なる場合に、画像の乱れとして人が視覚的に認識できると言われているので、上記で取得した、露光時間T(sec)とレンズ−撮像素子間の焦点距離L(mm)の値から、式{T > 1/L }の関係にあるか否かを求め、手ぶれ補正するする必要があるか否かを判断する。
そして、第1の撮影方式を採用するか第2の撮影方式を採用するかの選定処理を行う(ST106)。
より好ましくは、手ぶれによる画像の乱れを人が視覚的に認識できる能力は、個人差があるため、その能力バラツキを考慮しての補正を考え、式{T > A * 1/L }(A:補正係数)の関係にあるか否かを求め、手ぶれ補正するする必要があるか否かを判断する。
さらに、上記実施形態の装置の構成あるいは、処理のフローを簡単にするための改善を行った例として、以下のようにしても良い。
撮影を行う際に毎回、露光時間T(sec)とレンズ−撮像素子間の焦点距離L(mm)の値を取得するのではなく、撮影の際には、露光時間T(sec)の値のみを取得し、レンズ−撮像素子間の焦点距離L(mm)の値は、固定値を用いても良い。
またこのLに補正係数Aを掛けた値、A * L (mm) を、固定値を用いても良い。
たとえば、レンズが換装不可能なカメラにおいては、備えているレンズにおいて、手ぶれによる画像の乱れが最大となる条件、つまり、レンズ−撮像素子間の焦点距離L(mm)が最大となる値を用いても良い。
また、レンズの換装が可能なカメラにおいては、装着される可能性が最も高いレンズ、すなわち撮影に用いるカメラに装着可能なレンズのうち、最も販売量が大きいレンズにおいて、手ぶれによる画像の乱れが最大となる条件、つまり、レンズ−撮像素子間の焦点距離L(mm)が最大となる値を用いても良い。
また、このLに補正係数Aを掛けた値、A * L (mm) を、固定値を用いても良い。
上記の処理により、手ぶれ補正が必要と判断された場合は、手ぶれ補正処理技術を用いた第1の撮影方式による手ぶれ補正撮影を実施する。
すなわち、適正露光時間を、複数の時間に分割し、撮影する(ST107)。
露光分割数をmとすると、上記適正露光時間の1/mの露光時間でm枚の画像を撮影する。
撮影したm枚の画像の中から、露光時刻が隣り合う2枚の画像をm−1組取り上げ、取り上げた2枚の画像データを比較して、2枚の画像の撮影の間で、どの程度手ぶれによりカメラの画角が移動したかを求める。その移動量を補正しながら、m枚の画像を重ね合わせ、1枚の画像を作り出す(ST108)。
そして、手ぶれ補正の処理を行い、手ぶれによる画像の乱れを改善した後の画像を、DRAM210やフラッシュメモリ211、あるいは記録媒体212に格納(保存)する(ST110)。
上記の処理により、手ぶれ補正が不必要と判断された場合は、手ぶれ補正処理技術を用いない、第2の撮影方式による撮影を実施する(ST109)。
すなわち、ユーザがシャッタボタンを押すと、上記のレンズ絞り値および露光時間を用いて撮影が行われ(ST109)、得られた画像を、DRAM210やフラッシュメモリ211、あるいは記録媒体212に格納(保存)する(ST110)。
以上説明したように、本第1の実施形態によれば、複数枚の画像を撮影し、画像間の手ぶれによるカメラの移動量を検出し、撮影した複数枚の画像を撮影中に発生したカメラの移動量を補正しながら画像を足し合わせて1枚の画像を作り出す機能からなる手ぶれ補正技術を用いた第1の撮影方式と、通常の1回の露光で1枚の画像を作り出す第2の撮影方式との中から、どちらの方式を用いて撮影するか、すなわち、手ぶれ補正をする撮影を行うか手ぶれ補正をしない撮影を行うかを、たとえば露光時間Tと、光学レンズ系202のズームレンズ202aと撮像素子107の受光面間の焦点距離Lに基づいて(基本式T>(1/L)を基に)判断するカメラ信号処理LSI209を設けたことから、以下の効果を得ることができる。
撮影装置(カメラ)200を用いて写真撮影する際に、手ぶれ補正処理が効果を発揮する時のみ、手ぶれ補正処理を実行し、手ぶれ補正処理が効果を発揮しない時は、手ぶれ補正処理を実行しないため、手ぶれ補正処理が効果を発揮しない状況においては、手ぶれ補正処理が効果を発揮しないときでも手ぶれ補正処理を実行する場合よりも、美しい画像を撮影することが可能となる。
さらに、手ぶれ補正処理が効果を発揮しない状況においては、手ぶれ補正処理が効果を発揮しないときでも手ぶれ補正処理を実行する場合よりも、消費電力を低減することが可能となる。
<第2実施形態>
図10は、本実施形態に係る撮影装置(カメラ)の構成例を示すブロックである。
本第2の実施形態の撮影装置200Aが第1の実施形態の撮影装置200と異なる点は、2軸ジャイロセンサからなる角速度センサ223、および224を設けて、撮影前の時点での手ぶれ量(大きさ)測定し、角速度度センサの出力から手ぶれにより画像の乱れの大きさを算出して、手ぶれ補正が必要か否かを判断し、撮影方式の選定を行うようにしたことにある。
角速度センサ223,224は、撮影装置(カメラ)200AのX軸を中心とした手ぶれによる回転運動の大きさ、および、Y軸を中心とした手ぶれによる回転運動の大きさを検出する。
次に、本第2の実施形態の撮影装置200Aにおいて撮影する際の処理を、図11に関連付けて、カメラ信号処理LSI209Aの処理を中心に説明する。
図11は、図10の撮影装置において撮影する際に実行される処理を説明するためのフローチャートである。
なお、ここでは、撮影装置が備える各種撮影方式の一例として、絞り優先方式撮影を例にとって、写真撮影の際に実行される処理を説明する。
まず、ユーザが撮影に用いるレンズ絞り値を設定する(ST201)。
次に、ユーザがカメラを被写体に向け、被写体からの反射光もしくは発光をカメラ内に入射させる。ここで被写体の照度を測定する(ST202)。たとえばカメラ上の測光センサを用いて被写体の明るさを求める。もしくは、撮像素子207上の結像の明るさのデータから被写体の明るさを求める。
被写体からの光が入射すると、カメラ上で適正な露光時間あるいは露光時間の逆数であるシャッタスピードが求められる(ST203)。
一般的に、被写体照度をL、レンズ絞り値をF、露光時間をT、ISO感度をAと表記すると、上記(6)式の関係を満たす露光時間Tが適正な露光時間とされている。
次に、ジャイロセンサからなる角速度センサ223,224の出力から撮影前の時点での手ぶれの大きさを測定する(ST204)。そして、角速度センサ223,224の出力から手ぶれによる画像の乱れの大きさを算出する(ST205)。
手ぶれなどのカメラ外部からカメラに加えられた力によって、カメラがどの程度移動しているのかを測定し、その移動量の値を取得する。
撮影装置(カメラ)200Aの移動量が大きいために、これによる画像の乱れが大きく、このため手ぶれ補正処理を実施した方が、良好な画像を得られるか、それとも、カメラの移動量が小さいために、これによる画像の乱れが小さく、このため手ぶれ補正処理を実施しない方が、ノイズが少ない良好な画像を得られるか、を判断するための閾値を、予め定めておく。
この閾値は、カメラを製造する際に、製造者が予めカメラ内部に設定しておいても良いし、あるいは、ユーザがカメラ使用時に、手ブレがどの様な大きさ以上であったら手ぶれ補正処理機能を用いるか、ユーザの好みで任意の値に設定できる様にしておいても良い。
取得したカメラの移動量が、その閾値より大きい場合は、手ぶれ補正が必要と判断する。
取得したカメラの移動量が、その閾値より小さい場合は、手ぶれ補正が不必要と判断する。
上記の処理により、手ぶれ補正が必要と判断された場合は、手ぶれ補正処理技術を用いた第1の撮影方式による手ぶれ補正撮影を実施する。
すなわち、適正露光時間を、複数の時間に分割し、撮影する(ST207)。
露光分割数をmとすると、上記適正露光時間の1/mの露光時間でm枚の画像を撮影する。
撮影したm枚の画像の中から、露光時刻が隣り合う2枚の画像をm−1組取り上げ、
取り上げた2枚の画像データを比較して、2枚の画像の撮影の間で、どの程度手ぶれによりカメラの画角が移動したかを求める。その移動量を補正しながら、m枚の画像を重ね合わせ、1枚の画像を作り出す(ST208)。
そして、手ぶれ補正の処理を行い、手ぶれによる画像の乱れを改善した後の画像を、DRAM210やフラッシュメモリ211、あるいは記録媒体212に格納(保存)する(ST210)。
上記の処理により、手ぶれ補正が不必要と判断された場合は、手ぶれ補正処理技術を用いない、第2の撮影方式による撮影を実施する(ST209)。
すなわち、ユーザがシャッタボタンを押すと、上記のレンズ絞り値および露光時間を用いて撮影が行われ(ST209)、得られた画像を、DRAM210やフラッシュメモリ211、あるいは記録媒体212に格納(保存)する(ST210)。
ここで、上に述べた閾値を求める方法について、その一具体例を説明する。
説明の前に、手ぶれの方向と、それによる画像の乱れの大きさとの関係を、図12および図13の(A),(B)に関連付けて説明する。
図12および図13(A)は、手ぶれが無い場合の、写真撮影の状況を表している。
図17(A)において、300はカメラ(撮影装置200A)を表し、301はカメラのレンズ(光学系202)を表し、302はカメラ内の撮像素子(207)を表している。
303は撮像素子302上に写る像のY方向の位置を表し、303中に図示した水平方向の2本の実線が、撮像素子上でのY方向の画格つまり撮影領域の最外周を表している。
304は、撮像素子上に写る像の全体像を表し、307はレンズ−撮像素子間の距離を表し、308はレンズ−被写体間の距離を表し、309は被写体を表している。
図12(B)は、レンズの中心を回転中心として、図面上、反時計回りの回転運動による手ブレが発生した場合の、写真撮影の状況を表している。
図12(B)において、320はカメラを表し、321はカメラのレンズを表し、322は回転運動が無い場合のカメラ内の撮像素子を表しており、これは図12(A)の302と同意である。
325は回転運動した場合の、カメラ内の撮像素子を表し、326Aは回転運動により回転した角度を表している。
326Bは、回転運動が無かった場合に撮像素子に写る領域の、被写体上におけるY方向の上限位置と、回転運動が有った場合に撮像素子に写る領域の、被写体上におけるY方向の上限位置との、差を距離で表している。
323は、撮像素子上に写る像のY方向の位置を表し、323中に図示した斜め方向の2本の実線が、回転運動した場合の、撮像素子上でのY方向の画格つまり撮影領域の最外周を表している。
323中に図示した斜め方向の2本の点線が、回転運動が無い場合の、撮像素子上でのY方向の画格つまり撮影領域の最外周を表しており、これは図12(A)の303における2本の実線と同意である。
324は、撮像素子上に写る像の全体像を表し、327はレンズ−撮像素子間の距離を表し、328は、ンズ−被写体間の距離を表し、329は被写体を表している。
図12(B)において、
レンズ−撮像素子間の距離307=35mm、
レンズ−被写体間の距離308=10m、
撮像素子323における撮像可能領域のY方向長さ=15mmと仮定し、
回転運動により回転した角度326A=1度と仮定する。
この場合、回転運動が無かった場合に撮像素子に写る領域の、被写体上におけるY方向の下限位置と、紙面上の反時計回り方向に回転運動が有った場合に撮像素子に写る領域の、被写体上におけるY方向の下限位置との差326Bは、これを簡単のために円周上の弧の長さで近似すると、{2 x 3.14 x 10 x ( 1 / 360 ) = 0.17m = 170mm}となる。
一方、1度の回転運動を発生させる原因となったカメラの移動量は、これを簡単のために円周上の弧の長さで近似すると、{2 x 3.14 x 35 x ( 1 / 360 ) = 0.61mm}となる。
つまり、回転運動による手ぶれの場合、手ぶれによりカメラの位置が、0.6mm移動すると、被写体上では、撮影している対象領域が170mm移動したことになる。
図13(B)は、紙面上、縦方向への直線移動による手ブレが発生した場合の、写真撮影の状況を表している。
図13(B)において、340はカメラを表し、341はカメラのレンズを表し、345は直線移動した場合のカメラ内の撮像素子を表し、346Aは直線移動した場合の移動量を表している。
346Bは、直線移動が無かった場合に撮像素子に写る領域の被写体上におけるY方向の上限位置と、直線移動が有った場合に撮像素子に写る領域の、被写体上におけるY方向の上限位置との、差を距離で表している。
343は、撮像素子上に写る像のY方向の位置を表し、343中に図示した水平方向の2本の実線が、直線移動した場合の、撮像素子上でのY方向の画格つまり撮影領域の最外周を表している。
343中に図示した水平方向の2本の点線が、直線移動が無い場合の、撮像素子上でのY方向の画格つまり撮影領域の最外周を表しており、これは図12(A)の303における2本の実線と同意である。
344は撮像素子上に写る像の全体像を表し、347はレンズ−撮像素子間の距離を表し、348はレンズ−被写体間の距離を表し、349は被写体を表している。
図12(B)においては、回転運動によりカメラの位置が、0.6mm移動すると、被写体上では、撮影している対象領域が170mm移動することを、先に述べた。
図13(B)において、直線移動によって、カメラの位置が、上記と同様に0.6mm移動すると、被写体上での撮影している対象領域の移動量は、カメラの移動量と同じ0.6mmにしかならない。
これは、上記の回転運動によりカメラが移動した場合の撮影対象領域の変化量と比較して著しく小さい。
つまり、写真撮影の際、手ぶれ運動の方向はいろいろ想定できるが、被写体の撮影領域が変化による画像の乱れの大きさに関して言えば、レンズ中心を回転中心とした回転運動による手ぶれが支配的であると言える。
次に、レンズ中心を回転中心とした回転運動による手ぶれが発生している場合に、手ぶれ補正技術による補正を行うべきか否かを判定する、前述の閾値を求める方法について、その一例を説明する。
撮影者がカメラを手に持って写真撮影する際、手ぶれによって生じる、カメラのX軸もしくはY軸を中心とした回転運動の角速度の大きさは、2°/秒から、5°/秒程度であった。
そこで、カメラのX軸を中心とした回転運動の角速度が、2°/秒である場合に、写真撮影の間に撮像素子が移動する距離を、図12(B)を用いて求める。
写真撮影の際の、露光時間をT(sec)、レンズ−撮像素子間の距離をLmmとすると、式{T > (1/L) }(ここで、T:露光時間を、秒の単位で表示した場合の値、L:レンズ−撮像素子間の距離をmmの単位で表示した場合の値)の関係を満たす露光時間T秒で撮影した場合、手ぶれによる画像の乱れを、乱れとして人が視覚的に認識できること経験的に判っており、かつこのことは、カメラや写真撮影に関する書籍や雑誌で公開されており、公知の事実となっている。
レンズ−撮像素子間の距離は、たとえば市販のカメラの場合、35mmが最も頻繁に用いられる。
したがって、上記の式におけるレンズ−撮像素子間の距離L、すなわち、図12(B)における327が、35mmである場合、
露光時間T > (1/35) (sec)
すなわち、
露光時間T > 29msec
となる露光時間で撮影を行うと、
手ぶれによる画像の乱れを、人が視覚的に認識する。
上述のように、カメラのX軸を中心とした回転運動の角速度が、2°/秒である場合、露光時間T = 29msec の間にカメラが移動する量は、0.058°である。
さらに現在市販されているカメラの中で、代表的な一眼レフカメラを例として用いると、
・撮像素子上での撮像領域のX方向の大きさ=22.7mm、
・撮像素子上での撮像領域のY方向の大きさ=15.1mm、
・撮像素子上での撮像領域のX方向の画素数=3520個、
・撮像素子上での撮像領域のY方向の画素数=2342個、
・撮像素子上の各画素のX方向の大きさ=6.4μm、
・撮像素子上の各画素のY方向の大きさ=6.4μm、
という撮像素子が用いられている。
図12(B)において、
・レンズ−撮像素子間の距離327=35mm、
・露光時間中にカメラが回転運動により移動する量326A=0.058°、
である場合、撮像素子上での撮影領域のY方向の位置に関しての変化量は、これを簡単のために円周上の弧の長さで近似すると、{2 x 3.14 x 35 x ( 0.058 / 360 ) = 0.035mm = 35μm}、である。
上記Y方向の撮影領域の変化量=35μmは、撮像素子322および325上での撮像領域のY方向の大きさ=15.1mmの、0.2%に相当する。
つまり、写真撮影の際の、露光時間をT(sec)、レンズ−撮像素子間の距離をLmmと表記した時に、式{T > (1/L) }(ここで、T:露光時間を、秒の単位で表示した場合の値、L:レンズ−撮像素子間の距離をmmの単位で表示した場合の値)の関係を満たす露光時間T秒で撮影した場合、手ぶれによる画像の乱れを、乱れとして人が視覚的に認識できること経験的に判っているが、これは、手ぶれにより撮像素子の撮像領域が、撮像領域の一辺の大きさと比較して、その0.2%以上の距離を移動すると、画像の乱れとして人が視覚的に認識できることと同意であることが判る。
したがって、第2の実施形態において、カメラの移動量が大きいために、これによる画像の乱れが大きく、このため手ぶれ補正処理を実施した方が、良好な画像を得られるか、それとも、カメラの移動量が小さいために、これによる画像の乱れが小さく、このため手ぶれ補正処理を実施しない方が、ノイズが少ない良好な画像を得られるか、を判断するための閾値を予め定めておくには、次のように行う。
一例として、
・露光時間をT(sec)、
・レンズ−撮像素子間の距離をL(mm)、
・撮像素子における撮像領域の一辺の幅をW(mm)、
・手ぶれ量を検出するための角速度センサーにて検出された手ぶれ量をB(°/sec)、と表記すると、
手ぶれにより撮像素子の撮像領域が0.2%変化する場合の手ぶれ量B、つまり、先に述べた説明と同様の計算式を用いて、{2 x 3.14 x L x ( ( B x T ) / 360 ) = W x ( 0.2 / 100 )}、なる関係を満たす、手ぶれ量B、を閾値とする。
第2の実施形態によれば、上述した第1の実施形態と同様の効果を得ることができる。
<第3実施形態>
図14は、本実施形態に係る撮影装置(カメラ)の構成例を示すブロック図である。
本第3の実施形態の撮影装置200Bが第1の実施形態の撮影装置200と異なる点は、カメラが三脚に固定されているか否かを検出する検出器225を設けて、三脚が固定されている場合は、手ぶれ補正が不要であるとして、撮影方式として第2の撮影方式を選定するようにしたことにある。
その他の構成は第1の実施形態と同様である。
ここで、カメラが三脚に固定されているか否かを検出する検出器225について、図15(A)〜(D)、および図16(A),(B)に関連付けて説明する。これらの図においては、撮影装置200Bをカメラとして符号400を用い手示している。
図15(A),(C)に示すように、カメラ400の底部には、カメラを三脚に固定するための凹型のねじ山401が形成してある。
図15(B)は、図15(A)に示したカメラ400を三脚450に固定した状を示す。
また、図15(D)が、カメラ400が三脚450に固定されているか否かを検出する検出器225を示す。
カメラ400を三脚に固定するための凹型のねじ山401の壁面に、切り欠き402が形成され、そこに、たとえば赤外線などの発光素子410と、これに対応した受光素子411が備えられている。この例では、これら発光素子410と受光素子411により検出器225が構成されている。
図16(A)および(B)は、それぞれカメラを三脚に固定していない場合、三脚に固定している場合を示している。
発光素子410からの発光が、受光素子411において受光されるか否かにより、カメラが三脚に固定されているか否かを検出する。
図16(A)においてはカメラ400を三脚450に固定していないと検出され、図16(B)においてはカメラ400を三脚450に固定していると検出される。
図14に示した、第3の実施形態の撮影装置において、写真を撮影する際に実行される処理を、図8を引用して説明する。
まず、ユーザが撮影に用いるレンズ絞り値を設定する(ST101)。
次に、ユーザがカメラを被写体に向け、被写体からの反射光もしくは発光をカメラ内に入射させる。ここで被写体の照度を測定する(ST102)。たとえばカメラ上の測光センサを用いて被写体の明るさを求める。もしくは、撮像素子207上の結像の明るさのデータから被写体の明るさを求める。
被写体からの光が入射すると、カメラ上で適正な露光時間あるいは露光時間の逆数であるシャッタスピードが求められる(ST103)。
一般的に、被写体照度をL、レンズ絞り値をF、露光時間をT、ISO感度をAと表記すると、上記(6)式の関係を満たす露光時間Tが適正な露光時間とされている。
次いで、手ぶれなどのカメラ外部からカメラに加えられた力によって、カメラが移動している状態にあるか否かの情報を取得する。
第3の実施の形態においては、図14に示した三脚使用状況検出器224からカメラが三脚に固定されているか否かの情報を取得する。
次いで、上記の情報を基に、カメラの移動量が大きいために、これによる画像の乱れが大きく、このため手ぶれ補正処理を実施した方が、良好な画像を得られるか、それとも、カメラの移動量が小さいために、これによる画像の乱れが小さく、このため手ぶれ補正処理を実施しない方が、ノイズが少ない良好な画像を得られるか、を判断する(ST104〜ST106)。
第3の実施の形態においては、三脚使用状況検出器225から、カメラが三脚に固定されていないと検出されれば、手ぶれ補正が必要と判断する。
カメラが三脚に固定されていると検出されれば、手ぶれ補正が不必要と判断する。
上記の処理により、手ぶれ補正が必要と判断された場合は、手ぶれ補正処理技術を用いた第1の撮影方式による手ぶれ補正撮影を実施する。
すなわち、適正露光時間を、複数の時間に分割し、撮影する(ST107)。
露光分割数をmとすると、上記適正露光時間の1/mの露光時間でm枚の画像を撮影する。
撮影したm枚の画像の中から、露光時刻が隣り合う2枚の画像をm−1組取り上げ、取り上げた2枚の画像データを比較して、2枚の画像の撮影の間で、どの程度手ぶれによりカメラの画角が移動したかを求める。その移動量を補正しながら、m枚の画像を重ね合わせ、1枚の画像を作り出す(ST108)。
そして、手ぶれ補正の処理を行い、手ぶれによる画像の乱れを改善した後の画像を、DRAM210やフラッシュメモリ211、あるいは記録媒体212に格納(保存)する(ST110)。
上記の処理により、手ぶれ補正が不必要と判断された場合は、手ぶれ補正処理技術を用いない、第2の撮影方式による撮影を実施する(ST109)。
すなわち、ユーザがシャッタボタンを押すと、上記のレンズ絞り値および露光時間を用いて撮影が行われ(ST109)、得られた画像を、DRAM210やフラッシュメモリ211、あるいは記録媒体212に格納(保存)する(ST110)。
第3の実施形態によれば、上述した第1の実施形態と同様の効果を得ることができる。
<第4の実施形態>
図17は、第4の実施形態に係る撮影装置(カメラ)の構成例を示すブロック図である。
本第4の実施形態の撮影装置200Cが第1の実施形態の撮影装置200と異なる点は、露光を行う前に、たとえば、被写体の明るさを測定している間に、撮像素子207から、複数枚の画像を、カメラ信号処理LSI209に入力し、入力された複数枚の画像を比較することにより、これらの画像を撮影した間に、カメラが移動した大きさの情報を取得するようにしたことにある。
図17に示した、第4の実施形態の撮影装置において、写真を撮影する際に実行される処理を、図8を引用して説明する。
まず、ユーザが撮影に用いるレンズ絞り値を設定する(ST101)。
次に、ユーザがカメラを被写体に向け、被写体からの反射光もしくは発光をカメラ内に入射させる。ここで被写体の照度を測定する(ST102)。たとえばカメラ上の測光センサを用いて被写体の明るさを求める。もしくは、撮像素子207上の結像の明るさのデータから被写体の明るさを求める。
被写体からの光が入射すると、カメラ上で適正な露光時間あるいは露光時間の逆数であるシャッタスピードが求められる(ST103)。
一般的に、被写体照度をL、レンズ絞り値をF、露光時間をT、ISO感度をAと表記すると、上記(6)式の関係を満たす露光時間Tが適正な露光時間とされている。
次いで、手ぶれなどのカメラ外部からカメラに加えられた力によって、カメラが移動している状態にあるか否かの情報を取得する。
第4の実施の形態においては、露光を行う前に、たとえば、上で述べた被写体の明るさを測定している間に、図17に示した撮像素子207から、複数枚の画像を、カメラ信号処理LSI209に入力する。
入力された複数枚の画像を比較することにより、これらの画像を撮影した間に、カメラが移動した大きさの情報を取得する。
複数枚の画像データを基にして、これらの画像を撮影した間に、撮影したカメラが移動した大きさを求める。
具体的には、2枚もしくはそれ以上の画像を比較して、1枚目に撮影した画像内に映っている被写体が、2枚目もしくはそれ以降に撮影した画像内のどの場所に映っているかを検出し、その移動量と移動方向を示したベクトルの大きさから、撮影中のカメラの移動量を求めている。
複数枚の画像を基にして、これらの画像を撮影した間に、撮影したカメラが移動した大きさを求める手法としては、より簡単には、1枚目に撮影した画像において、たとえば輝度の大きい画素を、大きい方から順にたとえば100画素抽出し、2枚目に撮影した画像においても、同様に輝度の大きい画素を、大きい方から順に100画素抽出し、2枚の画像を比較して、抽出した100画素の移動量を求め、その移動量の平均値を、近似的に、撮影中にカメラが移動した大きさとしても良い。
次に、撮影中にカメラが移動した大きさの情報を基に、カメラの移動量が大きいために、これによる画像の乱れが大きく、このため手ぶれ補正処理を実施した方が、良好な画像を得られるか、それとも、カメラの移動量が小さいために、これによる画像の乱れが小さく、このため手ぶれ補正処理を実施しない方が、ノイズが少ない良好な画像を得られるか、を判断する(ST104〜ST106)。
この判断は、第2の実施形態と同様にして行う。
上記の処理により、手ぶれ補正が必要と判断された場合は、手ぶれ補正処理技術を用いた第1の撮影方式による手ぶれ補正撮影を実施する。
すなわち、適正露光時間を、複数の時間に分割し、撮影する(ST107)。
露光分割数をmとすると、上記適正露光時間の1/mの露光時間でm枚の画像を撮影する。
撮影したm枚の画像の中から、露光時刻が隣り合う2枚の画像をm−1組取り上げ、取り上げた2枚の画像データを比較して、2枚の画像の撮影の間で、どの程度手ぶれによりカメラの画角が移動したかを求める。その移動量を補正しながら、m枚の画像を重ね合わせ、1枚の画像を作り出す(ST108)。
そして、手ぶれ補正の処理を行い、手ぶれによる画像の乱れを改善した後の画像を、DRAM210やフラッシュメモリ211、あるいは記録媒体212に格納(保存)する(ST110)。
上記の処理により、手ぶれ補正が不必要と判断された場合は、手ぶれ補正処理技術を用いない、第2の撮影方式による撮影を実施する(ST109)。
すなわち、ユーザがシャッタボタンを押すと、上記のレンズ絞り値および露光時間を用いて撮影が行われ(ST109)、得られた画像を、DRAM210やフラッシュメモリ211、あるいは記録媒体212に格納(保存)する(ST110)。
第4の実施形態によれば、上述した第1の実施形態と同様の効果を得ることができる。
<第5の実施形態>
図17は、第5の実施形態に係る撮影装置(カメラ)の構成例を示すブロック図である。
本第5の実施形態の撮影装置200Cが第1の実施形態の撮影装置200と異なる点は、撮像素子207の周辺に小型撮像素子2071,2072を配置して、カメラが移動した大きさの情報を取得するようにしたことにある。
すなわち、第5の実施形態において、小型撮像素子2071,2072は、撮影の際に、カメラが手ぶれにより移動しているか否かの情報を取得するための、ラインセンサに代表される、撮像素子207よりも小型の撮像素子である。
光学レンズ系202のレンズは、一般的に円形であるため、レンズ系202から撮像素子207に入射する光路の断面形状は円形である。
一方、撮像素子207は四角形である。
このため、レンズ系202からの入射する円形の入射光のうち、撮像素子の外側の領域に入射する光は、これまで写真撮影に利用されていなかった。
第5の実施形態においては、一例として、この領域へ、撮像素子207と水平の方向、および垂直の方向に、小型撮像素子2071および2072を配置する。
一方、一眼レフカメラの場合は、露光時以外は、撮像素子を遮光している。
このため、撮影前に被写体の照度を測定して露光時間を求める際には、レンズからの入射光を、鏡を用いて、撮像素子領域以外に反射させ、反射光が当たる部分に配置してある測光用のエリアセンサーを用いて、被写体の照度を測定している。
このような構造のカメラにおいて、第5の実施形態を実施する場合は、図18に示した小型撮像素子2071および2072を、上記の測光用エリアセンサーが配置してある領域の、余地に、配置する。
図18に示した、第5の実施形態の撮影装置において、写真を撮影する際に実行される処理を、図8を引用して説明する。
まず、ユーザが撮影に用いるレンズ絞り値を設定する(ST101)。
次に、ユーザがカメラを被写体に向け、被写体からの反射光もしくは発光をカメラ内に入射させる。ここで被写体の照度を測定する(ST102)。たとえばカメラ上の測光センサを用いて被写体の明るさを求める。もしくは、撮像素子207上の結像の明るさのデータから被写体の明るさを求める。
被写体からの光が入射すると、カメラ上で適正な露光時間あるいは露光時間の逆数であるシャッタスピードが求められる(ST103)。
一般的に、被写体照度をL、レンズ絞り値をF、露光時間をT、ISO感度をAと表記すると、上記(6)式の関係を満たす露光時間Tが適正な露光時間とされている。
次いで、手ぶれなどのカメラ外部からカメラに加えられた力によって、カメラが移動している状態にあるか否かの情報を取得する。
第5の実施の形態においては、露光を行う前に、たとえば、上で述べた被写体の明るさを測定している間に、図18に示した小型撮像素子2071および2072を用いて、複数枚の画像を撮影し、カメラが移動している大きさの情報を取得する。
複数枚の画像データを基にして、これらの画像を撮影した間に、撮影したカメラが移動した大きさを求める手法としては、その一例として、第4の実施形態で述べた様に、1枚目に撮影した画像において、たとえば輝度の大きい画素を、大きい方から順にたとえば100画素抽出し、2枚目に撮影した画像においても、同様に輝度の大きい画素を、大きい方から順に100画素抽出し、2枚の画像を比較して、抽出した100画素の移動量を求め、その移動量の平均値を、近似的に、撮影中にカメラが移動した大きさとする。
次に、撮影中にカメラが移動した大きさの情報を基に、カメラの移動量が大きいために、これによる画像の乱れが大きく、このため手ぶれ補正処理を実施した方が、良好な画像を得られるか、それとも、カメラの移動量が小さいために、これによる画像の乱れが小さく、このため手ぶれ補正処理を実施しない方が、ノイズが少ない良好な画像を得られるか、を判断する(ST104〜ST106)。
この判断は、第2の実施形態と同様にして行う。
上記の処理により、手ぶれ補正が必要と判断された場合は、手ぶれ補正処理技術を用いた第1の撮影方式による手ぶれ補正撮影を実施する。
すなわち、適正露光時間を、複数の時間に分割し、撮影する(ST107)。
露光分割数をmとすると、上記適正露光時間の1/mの露光時間でm枚の画像を撮影する。
撮影したm枚の画像の中から、露光時刻が隣り合う2枚の画像をm−1組取り上げ、取り上げた2枚の画像データを比較して、2枚の画像の撮影の間で、どの程度手ぶれによりカメラの画角が移動したかを求める。その移動量を補正しながら、m枚の画像を重ね合わせ、1枚の画像を作り出す(ST108)。
そして、手ぶれ補正の処理を行い、手ぶれによる画像の乱れを改善した後の画像を、DRAM210やフラッシュメモリ211、あるいは記録媒体212に格納(保存)する(ST110)。
上記の処理により、手ぶれ補正が不必要と判断された場合は、手ぶれ補正処理技術を用いない、第2の撮影方式による撮影を実施する(ST109)。
すなわち、ユーザがシャッタボタンを押すと、上記のレンズ絞り値および露光時間を用いて撮影が行われ(ST109)、得られた画像を、DRAM210やフラッシュメモリ211、あるいは記録媒体212に格納(保存)する(ST110)。
第5の実施形態によれば、上述した第1の実施形態と同様の効果を得ることができる。
<第6の実施形態>
図19は、第6の実施形態に係る撮影装置(カメラ)の構成例を示すブロック図である。
本第6の実施形態の撮影装置200Eが第5の実施形態の撮影装置200Dと異なる点は、撮像素子207内に配置された画素の一部の領域を、撮像素子207の周辺に配置する小型撮像素子2071,2072として用いるように構成したことにある。
その他の構成は、第5の実施形態と同様であり、第6の実施形態によれば、上述した第1および第5の実施形態と同様の効果を得ることができる。
<第7の実施形態>
図20は、本第7の実施形態に係る撮影装置(カメラ)の構成例を示すブロックである。
本第7の実施形態の撮影装置200Fが第1の実施形態の撮影装置200と異なる点は、手ぶれ補正を強制的にオフするための手ぶれ補正強制オフスイッチ226を設けて、スイッチがオフされた場合には、手ぶれ補正が不必要と判断し、撮影方式として第2の撮影方式を選定するようにしたことにある。
手ぶれ補正強制オフスイッチ226は、手ぶれ補正処理およびこれを前提とした写真撮影の実行を、強制的に阻止するスイッチである。
カメラを用いて写真撮影を行う際、手ぶれによる画質の乱れが発生するか否かを判断材料として撮影方式の選択を行うよりも、それ以外の事象を判断材料として撮影方式の選択を行うことを優先する必要が、場合によっては発生する。
その一例を説明する。手ぶれ補正処理は、従来例の説明の際に引用した開示されたてぶれ補正技術だけでなく、他の手ぶれ補正技術においても、これを使用すると、これを使用しない場合と比較して、より多くの電子回路を使用する、あるいは、より多くの電子デバイスを使用するので、手ぶれ補正処理を行わない場合と比較して、消費電力が増加する。
したがって、たとえばカメラが使用しているバッテリーの残量が少なくなった場合は、手ぶれによる画質の乱れが発生するか否かの判断よりも、電力消費を抑制するか否かの判断を優先して、撮影方式の選択を行うことが必要となる。
このように、手ぶれによる画質の乱れが発生するか否かを判断材料として撮影方式の選択を行うよりも、それ以外の事象を判断材料として撮影方式の選択を行うことを優先する必要がある状況において、これを可能とするため、第7の実施形態は、手ぶれ補正処理およびこれを前提とした写真撮影の実行を、強制的に阻止するスイッチ216を備えている。
このスイッチ226へのオンオフの設定は、上述の電力消費抑制を例に説明すると、電力消費を抑制するか否かをユーザが判断して、スイッチ226のオンオフをユーザが手動で行なって良い。
あるいは、バッテリーの残量を計測して、カメラのハードウエアもしくはソフトウエアが電力消費を抑制するか否かの判断を行い、スイッチ226のオンオフをカメラのハードウエアもしくはソフトウエアが行なっても良い。
このため、第7の実施形態においては、スイッチ226へのオンオフの設定を、ユーザが手動で行う構成にして良いし、あるいは、カメラのハードウエアもしくはソフトウエアが行う構成にしても良い。
次に、本第7の実施形態の撮影装置200Fにおいて撮影する際の処理を、図21に関連付けて、カメラ信号処理LSI209Fの処理を中心に説明する。
まず、ユーザが撮影に用いるレンズ絞り値を設定する(ST111)。
次に、ユーザがカメラを被写体に向け、被写体からの反射光もしくは発光をカメラ内に入射させる。ここで被写体の照度を測定する(ST112)。たとえばカメラ上の測光センサを用いて被写体の明るさを求める。もしくは、撮像素子207上の結像の明るさのデータから被写体の明るさを求める。
被写体からの光が入射すると、カメラ上で適正な露光時間あるいは露光時間の逆数であるシャッタスピードが求められる(ST113)。
一般的に、被写体照度をL、レンズ絞り値をF、露光時間をT、ISO感度をAと表記すると、上記(6)式の関係を満たす露光時間Tが適正な露光時間とされている。
ここで、手ぶれ補正強制オフスイッチ226がオフになっているか否かの判別を行う(ST114)。
ここで、スイッチがオフになっていないと判別すると、ズームレンズ202aのズーム量を制御しているマイクロコンピュータを含むモータコントローラ206から、レンズ−撮像素子間の焦点距離L(mm)の値を取得する(ST115)。
次に、算出した最適露光時間とズームレンズ202aのズーム量から手ぶれした場合の画像の乱れ量を算出する(ST116)。
手ぶれによる画像の乱れの大きさが、人が視覚的に認識できる大きさに達しているか否かを判断する。
すなわち、一般的には、レンズ−撮像素子間の焦点距離をLmmとすると、露光時間T(sec)が(1/L)(sec)より大きい場合、つまり、T(sec) > (1/L)(L:レンズ−撮像素子間の焦点距離をmmの単位で表示した場合の値)なる場合に、画像の乱れとして人が視覚的に認識できると言われているので、上記で取得した、露光時間T(sec)とレンズ−撮像素子間の焦点距離L(mm)の値から、式{T > 1/L }の関係にあるか否かを求め、手ぶれ補正するする必要があるか否かを判断する。
そして、第1の撮影方式を採用するか第2の撮影方式を採用するかの選定処理を行う(ST117)。
より好ましくは、手ぶれによる画像の乱れを人が視覚的に認識できる能力は、個人差があるため、その能力バラツキを考慮しての補正を考え、式{T > A * 1/L }(A:補正係数)の関係にあるか否かを求め、手ぶれ補正するする必要があるか否かを判断する。
さらに、上記第1の実施形態と同様に、本実施形態の装置の構成あるいは、処理のフローを簡単にするための改善を行った例として、以下のようにしても良い。
撮影を行う際に毎回、露光時間T(sec)とレンズ−撮像素子間の焦点距離L(mm)の値を取得するのではなく、撮影の際には、露光時間T(sec)の値のみを取得し、レンズ−撮像素子間の焦点距離L(mm)の値は、固定値を用いても良い。
またこのLに補正係数Aを掛けた値、A * L (mm) を、固定値を用いても良い。
たとえば、レンズが換装不可能なカメラにおいては、備えているレンズにおいて、手ぶれによる画像の乱れが最大となる条件、つまり、レンズ−撮像素子間の焦点距離L(mm)が最大となる値を用いても良い。
また、レンズの換装が可能なカメラにおいては、装着される可能性が最も高いレンズ、すなわち撮影に用いるカメラに装着可能なレンズのうち、最も販売量が大きいレンズにおいて、手ぶれによる画像の乱れが最大となる条件、つまり、レンズ−撮像素子間の焦点距離L(mm)が最大となる値を用いても良い。
また、このLに補正係数Aを掛けた値、A * L (mm) を、固定値を用いても良い。
上記の処理により、手ぶれ補正が必要と判断された場合は、手ぶれ補正処理技術を用いた第1の撮影方式による手ぶれ補正撮影を実施する。
すなわち、適正露光時間を、複数の時間に分割し、撮影する(ST118)。
露光分割数をmとすると、上記適正露光時間の1/mの露光時間でm枚の画像を撮影する。
撮影したm枚の画像の中から、露光時刻が隣り合う2枚の画像をm−1組取り上げ、取り上げた2枚の画像データを比較して、2枚の画像の撮影の間で、どの程度手ぶれによりカメラの画角が移動したかを求める。その移動量を補正しながら、m枚の画像を重ね合わせ、1枚の画像を作り出す(ST1198)。
そして、手ぶれ補正の処理を行い、手ぶれによる画像の乱れを改善した後の画像を、DRAM210やフラッシュメモリ211、あるいは記録媒体212に格納(保存)する(ST121)。
ステップST114においてスイッチ226がオフしていると判別し、またはステップST117の判別処理により、手ぶれ補正が不必要と判断された場合は、手ぶれ補正処理技術を用いない、第2の撮影方式による撮影を実施する(ST120)。
すなわち、ユーザがシャッタボタンを押すと、上記のレンズ絞り値および露光時間を用いて撮影が行われ(ST120)、得られた画像を、DRAM210やフラッシュメモリ211、あるいは記録媒体212に格納(保存)する(ST121)。
本第7の実施形態によれば、上述した第1の実施形態と同様の効果を得ることができる。
また、第7の実施形態に類似の実施形態として、手ぶれ補正処理およびこれを前提とした写真撮影の実行を、強制的に実行するスイッチを備える形態も考えられる。
この実施形態の構成、および、この構成の装置において写真を撮影する際に実行される処理のフローは、第7の実施形態と類似のものであるため、その説明は省略する。
以上のように、各実施形態によれば、カメラを用いて写真撮影する際に、手ぶれ補正処理が効果を発揮する時のみ、手ぶれ補正処理を実行し、手ぶれ補正処理が効果を発揮しない時は、手ぶれ補正処理を実行しないため、手ぶれ補正処理が効果を発揮しない状況においては、手ぶれ補正処理が効果を発揮しない時でも手ぶれ補正処理を実行する場合よりも、美しい画像を撮影することが可能となる。
さらに、手ぶれ補正処理が効果を発揮しない状況においては、手ぶれ補正処理が効果を発揮しない時でも手ぶれ補正処理を実行する場合よりも、消費電力を低減することが可能となる。
手ぶれ補正技術を使用しない写真撮影装置(カメラ)の構成例を示す図である。 図1の撮影装置において撮影する際に実行される処理を説明するためのフローチャートである。 撮影方式の一例として絞り優先方式撮影を例にとって写真撮影の際に実行される処理手順を説明するためのフローチャートである。 開示された手ぶれ補正技術を使用した写真撮影装置(カメラ)の構成例を示す図である。 図4の撮影装置において撮影する際に実行される処理を説明するためのフローチャートである。 第1の実施形態に係る撮影装置(カメラ)の構成例を示すブロック図である。 本実施形態のカメラ信号処理LSIの具体的な構成例を示すブロック図である。 図6の撮影装置において撮影する際に実行される処理を説明するためのフローチャートである。 図6の撮影装置において撮影する際に実行される処理を説明するための図であって、処理時の主要な信号の流れを示す図である。 第2の実施形態に係る撮影装置(カメラ)の構成例を示すブロック図である。 図10の撮影装置において撮影する際に実行される処理を説明するためのフローチャートである。 手ぶれの方向と、それによる画像の乱れの大きさとの関係を説明するための図である。 手ぶれの方向と、それによる画像の乱れの大きさとの関係を説明するための図である。 第3の実施形態に係る撮影装置(カメラ)の構成例を示すブロック図である。 カメラが三脚に固定されているか否かを検出する検出器の構成を説明するための図である。 カメラが三脚に固定されているか否かを検出する検出器の動作を説明するための図である。 第4の実施形態に係る撮影装置(カメラ)の構成例を示すブロック図である。 第5の実施形態に係る撮影装置(カメラ)の構成例を示すブロック図である。 第6の実施形態に係る撮影装置(カメラ)の構成例を示すブロック図である。 第7の実施形態に係る撮影装置(カメラ)の構成例を示すブロック図である。 図20の撮影装置において撮影する際に実行される処理を説明するためのフローチャートである。
符号の説明
200,200A〜200F・・・撮影装置(カメラ)、201・・・レンズ絞り、202・・・光学レンズ系、202a・・・ズームレンズ、202b・・・フォーカスレンズ202b、203・・・レンズ絞りを駆動するステッピングモータ、204・・・ズームレンズを駆動するステッピングモータ、205・・・フォーカスレンズを駆動するステッピングモータ、206・・・モータコントローラ206、207・・・撮像素子、2071,2072,2071a,2072b・・・小型撮像素子、208・・・アナログフロントエンド部、209、209A〜209F・・・カメラ信号処理回路(LSI)、210・・・DRAM、211・・・フラッシュメモリ、212・・・記録媒体、213・・・表示デバイス、214・・・アナログLCDドライバ、223,224・・・角速度センサ、225・・・三脚検出器、226・・・手ぶれ補正強制オフスイッチ。

Claims (20)

  1. 撮像素子による画像信号を処理する画像信号処理装置であって、
    上記撮像素子による画像信号に対するぶれ補正機能を有し、所定の信号と所定の閾値に基づいてぶれ補正の適用の可否を自動的に判定し、閾値の範囲外にあると判定すると上記ぶれ補正を行わないように処理し、閾値の範囲内にあると判定するとぶれ補正を伴うように処理する信号処理回路
    を有する画像信号処理装置。
  2. 上記信号処理回路は、所定の信号と所定の閾値に基づいて上記ぶれ補正処理による画像改善効果が視覚的に認識し難い撮影状況下にあるか否かを自動的に判定し、認識し難い状況下にあると判定すると上記ぶれ補正を行わないように処理し、認識し難い状況下にないと判定するとぶれ補正を伴うように処理する
    請求項1記載の画像信号処理装置。
  3. 上記信号処理回路は、
    複数枚の画像を撮影し、画像間のぶれによる装置の移動量を検出し、撮影した複数枚の画像を撮影中に発生した移動量を補正しながら画像を足し合わせて1枚の画像を作り出す機能からなるぶれ補正技術を用いた第1の撮影方式と、
    通常の1回の露光で1枚の画像を作り出す第2の撮影方式と、を選定可能で、
    ぶれ補正を行うと判定した場合には上記第1の撮影方式を選定し、
    ぶれ補正を行わないと判定した場合には上記第2の撮影方式を選定する
    請求項1記載の画像信号処理装置。
  4. 上記信号処理回路は、ぶれ補正をするか否かを露光時間T、または/および光学系の焦点距離Lに基づいて判断する
    請求項1、2、または3記載の画像信号処理装置。
  5. 上記信号処理回路は、ぶれ補正をするか否かを、装置の移動量に関する情報に基づいて判断する
    請求項1、2、または3記載の画像信号処理装置。
  6. 上記信号処理回路は、移動量としてはぶれ検出器の検出したぶれ量に基づいて取得し、当該移動量と所定の閾値とを比較してぶれ補正をするか否かを判断する
    請求項5記載の画像信号処理装置。
  7. 上記信号処理回路は、移動量としては複数の画像信号に基づいて取得し、当該移動量と所定の閾値とを比較してぶれ補正をするか否かを判断する
    請求項5記載の画像信号処理装置。
  8. 上記信号処理回路は、撮影装置を固定する部材に取り付けられた否かの検出器の検出結果に応じてぶれ補正するか否かを判断する
    請求項1、2、または3記載の画像信号処理装置。
  9. 上記信号処理回路は、ぶれ補正する否かを強制的に指示する信号を受けると、当該指示に応じてぶれ補正するか否かを判断する
    請求項1、2、または3記載の画像信号処理装置。
  10. 光学系による被写体の像を受けて画像信号を出力する撮像素子と、
    上記撮像素子による画像信号に対するぶれ補正機能を有し、所定の信号と所定の閾値に基づいてぶれ補正の適用の可否を自動的に判定し、閾値の範囲外にあると判定する記ぶれ補正を行わないように処理し、閾値の範囲内にあると判定するとぶれ補正を伴うように処理する信号処理回路と、
    を有する撮影装置。
  11. 上記信号処理回路は、所定の信号と所定の閾値に基づいて上記ぶれ補正処理による画像改善効果が視覚的に認識し難い撮影状況下にあるか否かを自動的に判定し、認識し難い状況下にあると判定すると上記ぶれ補正を行わないように処理し、認識し難い状況下にないと判定するとぶれ補正を伴うように処理する
    請求項10記載の撮影装置。
  12. 上記信号処理回路は、
    複数枚の画像を撮影し、画像間のぶれによる移動量を検出し、撮影した複数枚の画像を撮影中に発生した移動量を補正しながら画像を足し合わせて1枚の画像を作り出す機能からなるぶれ補正技術を用いた第1の撮影方式と、
    通常の1回の露光で1枚の画像を作り出す第2の撮影方式と、を選定可能で、
    ぶれ補正を行うと判定した場合には上記第1の撮影方式を選定し、
    ぶれ補正を行わないと判定した場合には上記第2の撮影方式を選定する
    請求項10記載の撮影装置。
  13. 上記信号処理回路は、ぶれ補正をするか否かを露光時間T、または/および光学系の焦点距離Lに基づいて判断する
    請求項10、11、または12記載の撮影装置。
  14. 上記信号処理回路は、ぶれ補正をするか否かを、装置の移動量に関する情報に基づいて判断する
    請求項10,11、または12記載の撮影装置。
  15. 装置のぶれを検出するぶれ検出器を有し、
    上記信号処理回路は、移動量としてはぶれ検出器の検出したぶれ量に基づいて取得し、当該移動量と所定の閾値とを比較してぶれ補正をするか否かを判断する
    請求項14記載の撮影装置。
  16. 上記信号処理回路は、移動量としては複数の画像信号に基づいて取得し、当該移動量と所定の閾値とを比較してぶれ補正をするか否かを判断する
    請求項14記載の撮影装置。
  17. 撮影装置を固定する部材に取り付けられた否かの検出器を有し、
    上記信号処理回路は、上記撮影装置を固定する部材に取り付けられた否かの検出器の検出結果に応じてぶれ補正するか否かを判断する
    請求項10、11、または12記載の撮影装置。
  18. ぶれ補正する否かを強制的に指示するスイッチを有し、
    上記信号処理回路は、上記スイッチによりぶれ補正する否かを強制的に指示する信号を受けると、当該指示に応じてぶれ補正するか否かを判断する
    請求項10、11、または12記載の撮影装置。
  19. 撮像素子による画像信号を処理する画像信号処理方法であって、
    所定の信号と所定の閾値に基づいてぶれ補正の適用の可否を自動的に判定するステップと、
    閾値の範囲外にあると判定すると上記ぶれ補正を行わないように処理するステップと、
    閾値の範囲内にあると判定するとぶれ補正を伴うように処理するステップと
    を有する画像信号処理方法。
  20. 撮像素子による画像信号を処理する画像信号処理方法であって、
    所定の信号に基づいてぶれ補正処理による画像改善効果が視覚的に認識し難い撮影状況下にあるか否かを自動的に判定するステップと、
    認識し難い状況下にあると判定すると上記ぶれ補正を行わないように処理するステップと、
    認識し難い状況下にないと判定するとぶれ補正を伴うように処理するステップと
    を有する画像信号処理方法。
JP2005071675A 2005-03-14 2005-03-14 画像信号処理装置、撮影装置、および画像信号処理方法 Pending JP2006254365A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005071675A JP2006254365A (ja) 2005-03-14 2005-03-14 画像信号処理装置、撮影装置、および画像信号処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005071675A JP2006254365A (ja) 2005-03-14 2005-03-14 画像信号処理装置、撮影装置、および画像信号処理方法

Publications (1)

Publication Number Publication Date
JP2006254365A true JP2006254365A (ja) 2006-09-21

Family

ID=37094325

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005071675A Pending JP2006254365A (ja) 2005-03-14 2005-03-14 画像信号処理装置、撮影装置、および画像信号処理方法

Country Status (1)

Country Link
JP (1) JP2006254365A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008035739A1 (fr) 2006-09-20 2008-03-27 Nec Corporation Système de confirmation de légitimité, procédé de confirmation de légitimité, carte de traitement d'informations, dispositif de confirmation et dispositif d'authentification
JP2009207119A (ja) * 2007-12-28 2009-09-10 Casio Comput Co Ltd 撮像装置及びプログラム
JP2010166558A (ja) * 2008-12-19 2010-07-29 Sanyo Electric Co Ltd 撮像装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008035739A1 (fr) 2006-09-20 2008-03-27 Nec Corporation Système de confirmation de légitimité, procédé de confirmation de légitimité, carte de traitement d'informations, dispositif de confirmation et dispositif d'authentification
JP2009207119A (ja) * 2007-12-28 2009-09-10 Casio Comput Co Ltd 撮像装置及びプログラム
JP2010166558A (ja) * 2008-12-19 2010-07-29 Sanyo Electric Co Ltd 撮像装置

Similar Documents

Publication Publication Date Title
JP5919543B2 (ja) デジタルカメラ
JP4823743B2 (ja) 撮像装置,及び撮像方法
JP4341613B2 (ja) 制御装置、撮影装置、撮影装置の制御方法、および、制御プログラム
JP4214926B2 (ja) 電子スチルカメラ
JP4480147B2 (ja) 撮像装置およびその制御方法
US8471935B2 (en) Imaging apparatus having an image correction function and method for controlling the same
JP4766689B2 (ja) 撮像装置及びその制御方法及びプログラム及び記憶媒体
JP2006310969A (ja) 撮像装置
JP2011135152A (ja) 撮像装置及び撮像方法
JP4614143B2 (ja) 撮像装置及びそのプログラム
KR20040018229A (ko) 디지털 카메라
US10306162B2 (en) Image pickup apparatus
JP6758950B2 (ja) 撮像装置、その制御方法とプログラム
JP2006254365A (ja) 画像信号処理装置、撮影装置、および画像信号処理方法
JP5618765B2 (ja) 撮像装置及びその制御方法
JP2006148550A (ja) 画像処理装置及び撮像装置
JP2009152803A (ja) 撮像装置及びその制御方法及びプログラム
JP5628888B2 (ja) 撮像装置、撮像装置の制御方法および撮像装置の制御プログラム
JP2007306436A (ja) 撮像装置
JP6294607B2 (ja) 撮像装置およびその制御方法、プログラム並びに記憶媒体
KR20100112788A (ko) 손떨림 방지 기능과 플래쉬 기능의 제어 방법, 이를 이용한 촬영 방법 및 디지털 카메라 모듈
JP2007267330A (ja) デジタル一眼レフカメラ
JP2005258277A (ja) 画像動き補正装置
JP5482444B2 (ja) 撮像装置
JP5166206B2 (ja) 撮像装置および撮像装置の制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070731

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090810

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090818

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091013

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20091117