JP2004248021A - 撮像装置並びに画像処理装置及び方法 - Google Patents
撮像装置並びに画像処理装置及び方法 Download PDFInfo
- Publication number
- JP2004248021A JP2004248021A JP2003036548A JP2003036548A JP2004248021A JP 2004248021 A JP2004248021 A JP 2004248021A JP 2003036548 A JP2003036548 A JP 2003036548A JP 2003036548 A JP2003036548 A JP 2003036548A JP 2004248021 A JP2004248021 A JP 2004248021A
- Authority
- JP
- Japan
- Prior art keywords
- image
- color information
- exposure
- live view
- imaging device
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6812—Motion detection based on additional sensors, e.g. acceleration sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/683—Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/684—Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/684—Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time
- H04N23/6845—Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time by combination of a plurality of images sequentially taken
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
- Image Processing (AREA)
- Color Television Image Signal Generators (AREA)
Abstract
【解決手段】撮像装置1は、撮像素子10の露光中にぶれが検知された場合、撮像素子10の露光停止し、当該露光で得られる画像信号の増幅を行うことで露光不足を補うように構成される。そして撮影画像から輝度情報を抽出するとともに、撮影画像とは異なるタイミングで取得されるライブビュー画像から色情報を抽出する。撮影画像の輝度情報とライブビュー画像の色情報とを合成することによって、色情報に含まれるノイズ成分を低減させる。
【選択図】 図4
Description
【発明の属する技術分野】
この発明は、デジタルカメラ等の撮像装置並びに画像処理装置及びその方法に関し、特に、撮影時にぶれが生じた場合に、撮影によって得られる画像に対する画像処理技術に関する。
【0002】
【従来の技術】
デジタルカメラ等の撮像装置において、撮影時に手ぶれが発生した場合、撮像装置と被写体との相対的なぶれを機械的に補正する手ぶれ補正機構を備えたものが知られている。この種の手ぶれ補正は、加速度センサ等を利用してぶれ量を検出し、そのぶれ量に応じて撮像装置と被写体との相対的な変位を解消させるべく、例えば光学系を変位させたり、或いは、CCDイメージセンサ等の撮像素子を変位させることによって実現される。
【0003】
しかし、このような機械的な手ぶれ補正機構は構成及び制御が複雑となる。また、手ぶれに対する応答速度に限界があり、手ぶれによる撮像素子と被写体との相対的な変位が応答速度よりも速い速度で生じた場合には、機械的な手ぶれ補正機構によってぶれを解消することができない事態が生じうる。そのため、上記のような機械的な手ぶれ補正機構を設けることなく、手ぶれ補正を行う試みがなされている。
【0004】
手ぶれ補正機構を設けることなく、手ぶれを補正する技術として、例えば、撮像素子の露光中にぶれ量を検出し、露光中にぶれ量が所定値を越えた場合に露光を中断し、露光不足による画質の低下を撮像素子の後段に設けられたアンプのゲインアップによって補うようにした撮像装置が知られている(例えば、特許文献1)。
【0005】
【特許文献1】
特開平2001−45361号公報
【特許文献2】
特開平2001−177760号公報
【0006】
【発明が解決しようとする課題】
しかしながら、特許文献1の技術では、露光量が不足する場合、画像全体に対して一律にゲインアップが行われるため、ノイズ成分までもが増幅されてしまい、ノイズが目立った低画質の画像しか得られないという問題がある。
【0007】
そこで、この発明は、上記課題に鑑みてなされたものであって、ノイズ成分の増加を抑制しつつ、ぶれの影響を解消した画像を生成することのできる画像処理技術の提供を目的とする。
【0008】
【課題を解決するための手段】
上記目的を達成するために、請求項1に記載の発明は、撮像素子において被写体からの光を光電変換することによって画像信号を生成する撮像装置であって、当該撮像装置と被写体との相対的なぶれを検知するぶれ検知手段と、前記撮像素子の露光中に、前記ぶれ検知手段によってぶれが検知された場合に、前記撮像素子の露光を停止させ、当該露光によって得られる画像信号を増幅することによって撮影画像を生成する撮影画像生成手段と、前記撮影画像から輝度情報を抽出するとともに、前記撮影画像とは異なるタイミングで取得されるライブビュー画像から色情報を抽出し、前記輝度情報と前記色情報とを合成することによって合成画像を生成する合成手段と、を備えて構成される。
【0009】
請求項2に記載の発明は、画像処理装置であって、適正値よりも短時間の露光によって得られる第1の画像と、前記第1の画像とは異なるタイミングで得られる第2の画像とを入力する入力手段と、前記第1の画像から輝度情報及び色情報を抽出するとともに、前記第2の画像から色情報を抽出する画像成分抽出手段と、前記第1の画像から得られる色情報、及び、前記第2の画像から得られる色情報を合成することによって合成画像を生成するとともに、前記合成画像の輝度成分を前記輝度情報によって規定する合成手段と、を備えて構成される。
【0010】
請求項3に記載の発明は、請求項2に記載の画像処理装置において、前記合成手段が、前記第1の画像から得られる色情報と、前記第2の画像から得られる色情報とを合成する際、前記第1及び第2の画像のそれぞれを複数の領域に分割し、分割された領域毎に合成処理を行うことを特徴としている。
【0011】
請求項4に記載の発明は、請求項2又は3に記載の画像処理装置において、前記合成手段が、前記第1及び第2の画像の相関値を求め、前記相関値が所定値よりも高い場合には、前記第2の画像から得られる色情報を採用し、前記相関値が所定値よりも低い場合には、前記第1の画像から得られる色情報を採用して、前記合成画像の色情報を生成することを特徴としている。
【0012】
請求項5に記載の発明は、画像処理方法であって、適正値よりも短時間の露光によって得られる第1の画像と、前記第1の画像とは異なるタイミングで得られる第2の画像とを入力する工程と、前記第1の画像から輝度情報及び色情報を抽出するとともに、前記第2の画像から色情報を抽出する工程と、前記第1の画像から得られる色情報、及び、前記第2の画像から得られる色情報を合成することによって合成画像を生成するとともに、前記合成画像の輝度成分を前記輝度情報によって規定する工程と、を含んで構成される。
【0013】
【発明の実施の形態】
以下、この発明の実施の形態について図面を参照しつつ詳細に説明する。
【0014】
<1.第1の実施の形態>
まず、撮像装置にかかる実施の形態について説明する。図1、図2および図3は、撮像装置1の外観を示す図であり、図1は正面図、図2は上面図、図3は背面図に相当する。これらの図は必ずしも三角図法に則っているものではなく、撮像装置1の構成を概念的に例示することを主眼としている。
【0015】
撮像装置1はいわゆるデジタルカメラとして機能するものであり、被写体を撮影することによって画像データを生成することが可能なように構成される。図2に示すように、撮像装置1の前面側には、撮影光学系であるマクロ機能付き撮影レンズ3が設けられている。撮影レンズ3はズーム機能を有しており、例えばズームリング91を手動操作で回転させることにより、撮影時における撮影倍率の変更を行うことができるようになっている。撮影レンズ3の上面側には、マクロ切替えレバー92が設けられており、マクロ撮影と通常撮影とを切り換えることができるようになっている。
【0016】
また、撮像装置1の上面には撮影指示を行うためのシャッタボタン9が設けられている。シャッタボタン9は、半押し状態(以下、S1状態という。)と全押し状態(以下、S2状態という。)とを区別して検知可能な2段階押し込みスイッチとして構成される。撮像装置1は、撮影モード時にシャッタボタン9がS1状態とされることにより、自動露出制御(AE)や自動合焦制御(AF)等の撮影準備動作を開始し、S2状態とされることにより、記録用画像を生成するための撮影動作を開始する。
【0017】
また、撮像装置1の上面には、「撮影モード」と「再生モード」と「設定モード」とを切替設定するモード切替えダイアル93が設けられている。
【0018】
撮影モードは写真撮影を行って撮影時に得られる画像データを記録するモードであり、再生モードはメモリカード8に記録された撮影画像データをLCD4やEVF5などの表示デバイスに再生表示するモードである。また、設定モードは設定メニュー画面をLCD4等に表示し、ユーザがその設定メニュー画面に基づいて複数の手ぶれ補正処理のうちから、所望する手ぶれ補正処理を選択設定する等、撮像装置1の各種機能設定を行うためのモードである。そのため、手ぶれ補正モードのオンオフは設定モードにおいて切替可能なようになっている。
【0019】
また、撮像装置1の上面には、設定モードにおいて設定された手ぶれ補正モード等の設定状態が表示される表示部94が設けられる。
【0020】
図3に示すように、撮像装置1の背面左方には、設定メニュー画面の表示、撮影モード時において撮影指示が与えられるまでの撮影待機状態において被写体像を動画的態様でリアルタイムに表示するライブビュー表示、撮影指示が与えられた場合の撮影動作によって得られる画像を確認のために表示するアフタービュー表示、及び、記録画像の再生表示等を行うための表示デバイスとして、液晶ディスプレイ(LCD)4と電子ビューファインダ(EVF)5とが設けられる。LCD4及びEVF5は、例えば表示画素数が640×480として構成され、カラー画像を表示可能なように構成される。
【0021】
撮像装置1の背面右方には、カーソルボタン(十字キー)95a、95b、95c、95d及び実行ボタン95eを含むコントロールボタン95が設けられており、このコントロールボタン95を用いて各種設定操作が行われる。また、撮像装置1の背面には、メニューボタン96が設けられている。メニューボタン96がユーザによって押下されることにより、各種のメニュー画面がLCD4に表示される。
【0022】
また、撮像装置1の背面には、ディスプレイ切替レバー97が設けられている。ディスプレイ切替レバー97を操作することによって、LCD4又はEVF5に画像表示が行われる。
【0023】
撮像装置1の側面には、画像データ等を記録するメモリカード8を装着可能なメモリスロット81が設けられている。メモリカード8は半導体メモリや小型磁気ディスク装置等によって構成される記録媒体であり、メモリカード8がメモリスロット81に挿入装着されることにより、撮影時に取得される画像データがメモリカード8に記録されるようになる。
【0024】
次に、図4は撮像装置1の内部機能を示すブロック図である。
【0025】
撮像装置1には、撮影レンズ3の後方にCCDイメージセンサ等で構成された撮像素子10が設けられている。撮像素子10は、撮影レンズ3を介して受光する被写体像を、画素毎に光電変換することによって画像信号を生成するものである。撮像素子10の受光面には、例えば2560×1920個の画素が二次元配列されており、RGBの原色透過フィルタが画素単位で市松状に配置される。
【0026】
撮像素子10の露光によって各画素に蓄積された信号は、タイミングジェネレータ14によって読出制御が行われる。すなわち、撮像素子10は、タイミングジェネレータ14からの制御信号に基づいて、画素毎に蓄積された信号をCDS(相関二重サンプリング)回路11に順次出力するように構成される。そして各画素信号の集合により、1フレーム分の画像信号が形成される。
【0027】
また、撮像素子10には、画像信号の読出モードとして、ドラフトモードと全画素読出モードとが設定可能であり、例えば撮像素子10の読出モードがドラフトモードに設定されると、撮像素子10から画素間引きが行われて画像信号の出力が行われる。これに対し、撮像素子10の読出モードが全画素読出モードに設定されると、撮像素子10の全画素に蓄積された画素信号によって構成される画像信号の出力が行われる。
【0028】
撮像素子10で光電変換された画像信号は、CDS回路11でノイズ成分の除去が行われる。そして、AGC(オートゲインコントロール)回路12において、全体制御部20から指示されるゲインを適用して画像信号の増幅が行われる。AGC回路12において信号増幅された画像信号は、A/D変換器13に与えられ、例えば画素毎に12ビットで表現されたデジタル信号に変換される。A/D変換器13から出力される画像データは、画像処理部30に与えられる。
【0029】
撮像素子10、CDS回路11、AGC回路12及びA/D変換器13はタイミングジェネレータ14によって制御され、各部が同期した動作を行うように構成される。
【0030】
画像処理部30は、後述するようにA/D変換器13から入力する画像データに対して各種画像処理を施すものである。画像処理部30に入力する画像データはRGBの色成分に関する情報を有するものであるが、画像処理部30では色空間の変換処理が行われ、輝度成分(輝度情報)と色差成分(色情報)とによってカラー画像が表現された画像データが出力される。
【0031】
そして画像処理部30から出力される画像データは表示切替部41又は画像圧縮部42に与えられる。例えば、画像表示を行う場合、画像処理部30から出力される画像データは表示切替部41に与えられ、ディスプレイ切替レバー97の設定状態に基づいて、LCD4又はEVF5に画像データが出力されるようになっている。一方、画像記録を行う場合、画像処理部30から出力される画像データは画像圧縮部42に与えられ、画像圧縮部42にて所定の符号化処理が行われて、メモリカード8に画像データが記録されるようになっている。
【0032】
ジャイロセンサ17は撮像装置1の変位を検出するものであり、撮像装置1の移動方向と移動量とを検知する。したがって、ジャイロセンサ17は撮影時における手ぶれを検出することが可能であり、撮像装置1の移動方向がぶれ方向を、移動量がぶれ量を示すこととなり、ジャイロセンサ17によって取得されるそれらの情報は全体制御部20に出力される。
【0033】
操作部19は、上述したシャッタボタン9やその他のボタン及びスイッチを含むものであり、操作部19に対する操作は電気信号に変換されて全体制御部20に与えられる。
【0034】
次に、画像処理部30の詳細について説明する。図5は画像処理部30の詳細構成を示す図である。画像処理部30には、A/D変換器13にて生成される各画素12ビットで表現された画像データが入力する。
【0035】
そして、WB(ホワイトバランス)乗算器31によりホワイトバランス補正が行われる。そして、インターポーレション回路32にてRGBの画素補間を行うことによりRGBの3チャンネルデータが生成される。つまり、画素補間によって各画素がRGB全ての色成分についての情報を有することになる。インターポーレション回路32で生成されるRGBの各画像データは、色変換マトリクス回路33、γ補正回路34及び色変換回路35に順次入力し、再生デバイスの再生特性に応じた可変のカラーマッチング処理が行われる。具体的には、色変換マトリクス回路33は、インターポーレション回路32で生成されたRGBの各画像データに対して、3×3リニアマトリクス33aによって色変換マトリクス演算を行う。色変換マトリクス演算が施された後、γ補正回路34で、γ補正情報に相当するγテーブル34aにより、RGBの各画像とも再生デバイス等に合わせた階調補正が行われる。またγ補正回路34では、12ビットの入力信号を8ビットに低下させることにより、階調数変換を同時に行うようになっている。
【0036】
そして、γ補正後、色変換回路35において、色差マトリクス35a,35b,35cを用いたマトリクス演算が行われる。これにより、RGBで表現されたカラー画像がYCrCbで表現されたカラー画像に変換されることになり、画像データに含まれる画像情報は、輝度信号Yと色差信号Cr、Cbに分離される。ここで、輝度信号Yは画像の明るさを示す情報(輝度情報)であり、色差信号Cr、Cbは色差によって画像の色成分を示す色情報である。そのため、概念的には1フレーム分のカラー画像が、Y成分の画像、Cr成分の画像、及び、Cb成分の画像の集合によって表現されることになる。
【0037】
輝度信号Yについては、Yエンハンサー回路36において周波数帯域毎に分離され、輝度信号Yの高域側に対しては、信号レベルの調整とベースクリップ処理によって輪郭補正およびノイズ抑制が行われる。その後、高域側輝度信号と低域側輝度信号とが加算され、それによって得られる補正後の輝度信号Yがリサイザー回路37に入力する。
【0038】
Y、Cr、Cb信号はリサイザー回路37で、撮像装置1における内部状態(動作状態)に応じて、各チャンネルの解像度変換処理(縮小処理)が適宜行われる。例えば、撮影待機状態においてライブビュー表示を行う場合には、表示デバイス(LCD4又はEVF5)の表示サイズ640×480に適合するようにリサイズされ、リサイズされた画像データが表示切替部41に出力される。
【0039】
以上のように画像処理部30では、ホワイトバランスの調整、画素補間、色変換、縮小処理等の画像処理が行われるようになっている。そして色変換マトリクス回路33、γ補正回路34及び色変換回路35のそれぞれで適用される3×3リニアマトリクス33a、γテーブル34a及び色差マトリクス35a,35b,35cは全体制御部20によって指定されるようになっている。さらに、色変換回路35は、全体制御部20と画像データの送受信を行うことができるようになっている。すなわち、色変換回路35は、RGBの画像データから求められるYCrCbの各画像データを全体制御部20に与えることができ、また、全体制御部20において生成される画像データを入力して後段の処理部に送出することができるように構成されている。
【0040】
全体制御部20は例えばRAM28及びROM29を内蔵するCPUによって構成されるものであり、CPUがROM29に格納された所定のプログラムを実行することにより、撮影動作を統括的に制御する撮影制御部21、及び、撮影時に手ぶれが発生した場合に手ぶれの影響を低減した画像を生成する画像合成部22として機能する。
【0041】
撮影制御部21は、撮影モード時における各部の動作を制御するものであり、例えば、シャッタボタン9が押下操作される前の撮影待機状態において、撮像素子10の読出モードをドラフトモードに設定し、ライブビュー表示のための画像取得及び表示動作を繰り返し行うように制御する。また、シャッタボタン9がS1状態とされた場合には、撮影準備動作を制御する。さらに、S2状態とされた場合には、撮像素子10の読出モードを全画素読出モードに設定変更し、高解像度の記録用画像を生成するための撮影動作を制御する。
【0042】
また、撮影制御部21は手ぶれ検出部21aとしても機能し、撮影モード時において撮像装置1のぶれ状態を監視する。そして撮像装置1において手ぶれ補正モードがオン状態に設定されている場合、撮影制御部21は、撮影待機状態若しくは撮影準備状態において取得される最新のライブビュー画像をRAM28に格納しておく。なお、RAM28に格納しておくライブビュー画像は、少なくとも1フレーム分あればよいが、記録用画像のS/Nを良好に向上させるためには複数フレーム分のライブビュー画像がRAM28に格納されることが好ましい。
【0043】
そして記録用画像を撮影するための撮像素子10の露光中に、ジャイロセンサ17から入力するぶれ量が所定量以上となった場合には撮像素子10の露光を停止させる。これにより、記録用の画像がぶれた画像になることを防止する。一方、撮像素子10の露光を途中で停止させることにより、それによって得られる撮影画像は露光不足となる。そこで、撮影制御部21はAGC回路12において適用されるゲインをゲインアップし、露光不足を解消させる。このとき、ノイズ成分も同時に増幅させてしまうことになるため、本実施形態では全体制御部20においてノイズ成分が目立たなくなるような画像処理が行われる。この画像処理は全体制御部20の画像合成部22によって行われる。
【0044】
画像合成部22は、撮影待機状態においてRAM28に格納しておいたライブビュー画像の色情報を、撮影動作によって得られる撮影画像に合成することにより、色情報に含まれるノイズ成分を低減するように構成される。
【0045】
以下、撮影モード時における撮像装置1の処理シーケンスについて具体的に説明する。
【0046】
図6乃至図9は撮影モード時の撮像装置1における処理シーケンスを示すフローチャートであり、撮像装置1において手ぶれ補正モードがオン状態に設定されている場合を示している。
【0047】
まず、撮影モードに入ると、撮影制御部21は撮像素子10の読出モードをドラフトモードに設定する(ステップS10)。読出モードをドラフトモードに設定することにより、効率的な画像読み出しを行うことが可能になり、ライブビュー表示時に高フレームレートで画像取得を行うことができる。
【0048】
そして撮影制御部21はライブビュー画像の取得動作を開始するとともに(ステップS11)、LCD4又はEVF5に対するライブビュー表示を開始する(ステップS12)。このようなライブビュー表示は繰り返し行われることになる。そしてシャッタボタン9がS1状態になると、撮影準備動作を開始する(ステップS13にてYES)。
【0049】
撮影制御部21は、S1状態に移ると、その時点で取得されるライブビュー画像に基づいて自動露出制御(AE)、自動合焦制御(AF)、及びAWB(自動ホワイトバランス)制御等を行う。特に、自動露出制御では、記録用画像の撮影動作を行う際に適正露出の画像が得られるような、撮像素子10の露光時間(シャッタスピード)が決定される(ステップS14)。
【0050】
そして撮影制御部21はジャイロセンサ17をオン状態とする(ステップS15)。このとき撮影制御部21では手ぶれ検出部21aが機能し、撮像装置1のぶれ状態を監視するための動作が開始される。
【0051】
図7のフローチャートに進み、撮影制御部21は撮影準備状態においてもLCD4又はEVF5にライブビュー表示を継続させるべく、ライブビュー画像の取得動作(ステップS16)と、LCD4又はEVF5に対するライブビュー表示とを行う(ステップS17)。
【0052】
このとき撮影制御部21は、画像処理部30において逐次生成されるライブビュー画像を取得し、それをRAM28に順次格納していく(ステップS18)。例えば、RAM28には4フレーム分のライブビュー画像を格納する領域が設定されており、撮影制御部21は最新4フレーム分のライブビュー画像をRAM28に格納する。
【0053】
そして手ぶれ検出部21aはジャイロセンサ17からぶれ量に関する情報を取得する(ステップS19)。このとき取得されるぶれ量は、ステップS20における手ぶれ判断に用いられる。またぶれ量及びぶれ方向に関する情報は、ステップS18でRAM28に格納されるライブビュー画像に対応付けてRAM28に格納される。
【0054】
そして手ぶれ検出部21aは、ステップS19で取得されるぶれ量が所定値V2以下であるか否かを判断する(ステップS20)。
【0055】
RAM28に格納されるライブビュー画像は、撮影画像を取得する際に手ぶれが発生した場合、撮影画像の色情報を補正するための画像であるため、ライブビュー画像を取得した状態から、撮影動作時における状態が大きく変位したときには、ライブビュー画像を用いた補正精度は低下する。そのため、ステップS20においてぶれ量が所定値V2以上である場合には、RAM28に格納したライブビュー画像を全て削除することによってRAM28の記憶状態をクリアにする(ステップS21)。そしてステップS16からの処理が繰り返し行われ、再度RAM28に最新4フレーム分のライブビュー画像が格納される(ステップS16〜ステップS18)。
【0056】
一方、ぶれ量が所定値V2よりも小さい場合には、撮影制御部21はシャッタボタン9がS2状態に遷移したか否かを判断し(ステップS22)、S2状態に遷移していない場合には、S1状態が解除されたか否かを判断する(ステップS23)。そして、シャッタボタン9がS1状態を継続する場合には、ステップS16〜S23の処理が繰り返し実行されることになり、RAM28には最新4フレーム分のライブビュー画像が格納される。
【0057】
そしてシャッタボタン9がS2状態に遷移すると(ステップS22にてYES)、図8のフローチャートに進み、手ぶれ検出部21aが再びジャイロセンサ17からぶれ量に関する情報を取得し(ステップS25)、ぶれ量が所定値V1(ただし、V1<V2)以下であるか否かを判断する(ステップS26)。そしてぶれ量が所定値V1以下になるまで処理手順の進行を停止し、撮像素子10の露光動作を開始しないようになっている。すなわち、撮像装置1は、ユーザによってシャッタボタン9がS2状態に押下されたとしても、フレーミングの状態が比較的ぶれ量が少ない安定した状態となるまでは、記録用画像の撮影動作を開始せず、撮影画像にぶれが生じることを抑制しているのである。
【0058】
そしてぶれ量が所定値V1以下になると(ステップS26にてYES)、撮影制御部21は撮像素子10の読出モードを全画素読出モードに設定変更し、高解像度の撮影画像を取得可能な状態にする(ステップS27)。
【0059】
そして撮影制御部21は撮像素子10の露光を開始する(ステップS28)。記録用画像を取得するための撮像素子10の露光中、手ぶれ検出部21aはジャイロセンサ17からぶれ量に関する情報を逐次取得し(ステップS29)、ぶれ量が所定値V1以下であるか否かを判断する(ステップS30)。
【0060】
ぶれ量が所定値V1以下で安定したフレーミング状態が継続される場合には、自動露出制御時(ステップS14)に求められた露光時間に達するまで、撮像素子10の露光が継続する(ステップS29,S30,S31のループ)。そして自動露出制御時に求められた露光時間に達したときには露光を終了し(ステップS32)、通常の記録用画像に対する画像処理を行って(ステップS33)、メモリカード8への記録処理を行う(ステップS36)。通常の画像処理とは、撮像素子10を露光することによって得られる1フレーム分の撮影画像のみで記録用画像を生成する画像処理であり、撮像素子10から得られる画像データは画像処理部30において上述した一連の画像処理が施されるだけであり、ライブビュー画像との合成処理は行われない。
【0061】
これに対し、記録用画像を取得するための撮像素子10の露光中にぶれ量が所定値V1よりも大きくなった場合には(ステップS30にてNO)、その時点で露光を終了させる(ステップS34)。これにより、撮像素子10に蓄積される撮影画像に手ぶれが影響することを防止することができる。
【0062】
そして撮像装置1において手ぶれ補正画像処理が実行されることになる(ステップS35)。すなわち、AGC回路12のゲインをゲインアップし、それによって得られる画像データが、画像処理部30を介して全体制御部20に与えられる。全体制御部20は、このようにして得られる撮影画像データをRAM28に格納するとともに、露光中に検出されたぶれ量及びぶれ方向に関する情報を撮影画像データに対応付けてRAM28に格納する。そして画像合成部22によってノイズ成分が目立たないように、撮影画像とそれ以前にRAM28に格納されたライブビュー画像との画像合成処理が実行される。そして画像合成処理によって生成される記録用画像は、全体制御部20から画像処理部30に与えられた後、メモリカード8への記録処理が行われる(ステップS36)。
【0063】
そして図9のフローチャートに進み、撮影制御部21はジャイロセンサ17をオフ状態にし(ステップS37)、RAM28に格納されたライブビュー画像を削除して、RAM28の記憶状態をクリアにする(ステップS38)。そして撮影モードの終了操作が行われた場合には、撮影モードにおける処理を終了し、終了操作が行われていない場合には、ステップS10以降の処理を繰り返し行い、次の撮影のための撮影待機状態に戻る(ステップS39)。
【0064】
なお、ステップS23においてシャッタボタン9のS1状態が解除された場合(シャッタボタン9が全く操作されていない場合)には、ステップS37〜S39の処理が行われ、撮影モードを継続する場合には、ステップS10以降の処理が繰り返し行われる。
【0065】
図10は以上のような処理シーケンスによって撮影モード時にどのような露光が行われるかを示すタイミングチャートである。図10においては、時刻T3にシャッタボタン9がS2状態に遷移する場合を例示している。
【0066】
シャッタボタン9がS2状態とされる前には、撮像装置1においてライブビュー画像の取得が一定時間ごとに連続して行われることになり、最新4フレーム分のライブビュー画像がRAM28に格納される。ところが、時刻T1に、撮像装置1のぶれ量が所定値V2を越えた場合、RAM28に格納された4フレーム分のライブビュー画像は全て消去される。そしてぶれ量が所定値V2以下となった以降に再度最新4フレーム分のライブビュー画像がRAM28に格納されることになる。このようなライブビュー画像の格納動作により、記録用画像を撮影するための撮影動作時とほぼ同一の状態で取得された最新のライブビュー画像がRAM28に格納されることになる。
【0067】
そして時刻T3にシャッタボタン9がS2状態へ操作される。このとき、手ぶれ補正モードがオフ状態である場合には、撮像素子10の露光時間は自動露出制御(AE)によって求められた時間SS1となる。
【0068】
これに対し、手ぶれ補正モードがオン状態である場合には、S2状態への遷移から直ちに撮像素子10を露光開始するのではなく、撮像装置1のぶれ量が所定値V1以下の安定した状態となってから露光を開始する。図10では、時刻T4から撮像素子10の露光が開始される。そして撮像素子10は、自動露出制御(AE)によって求められた露光時間SS1以下であって、ぶれ量が所定値V1以下である間、露光される。換言すれば、適正露出が得られる露光時間SS1に達していなくとも、撮像装置1のぶれ量が所定値V1を越えた場合に、露光が停止される。よって、手ぶれ補正モードがオン状態である場合には、撮影動作時の露光中に手ぶれが発生した場合、露光時間SS2は適正露出の画像を得るための露光時間SS1よりも短くなる。そして露光時間SS2で得られる撮影画像は、手ぶれの影響が少ない画像となる。
【0069】
そして露光時間SS2で得られる撮影画像の露光不足を補うために、AGC回路12において通常よりも大きなゲインで信号増幅が行われ、画像処理部30にてYCrCbに色変換された画像データが全体制御部20に与えられる。
【0070】
したがって、撮影画像の露光が中断された場合、全体制御部20のRAM28には、図11に示すようなデータが格納されることになる。すなわち、RAM28には、ライブビュー画像を格納するためのライブビュー画像格納領域28aと、記録用画像を撮影するための撮影動作によって得られる撮影画像を格納する撮影画像格納領域28bとが規定され、ライブビュー画像格納領域28aの各領域51,52,53,54には、シャッタボタン9がS2状態になる直前のライブビュー画像と、そのライブビュー画像を取得した際のぶれ情報とが格納される。また、撮影画像格納領域28bには撮影画像と、その撮影画像を取得した際のぶれ情報とが格納される。なお、全体制御部20には、色変換回路35にて生成されるYCrCbの各画像データが入力するので、RAM28には、それぞれの画像について、Y成分の画像と、Cr成分の画像と、Cb成分の画像とが格納される。
【0071】
また、ライブビュー画像はドラフトモードで取得される画像であるので、ライブビュー画像のYCrCb各成分画像は、例えば640×480の画像サイズになっている。これに対し、撮影画像は全画素読出モードで取得される画像であるので、例えば、撮影画像のY成分画像は2560×1920の画像サイズとなっており、Cr,Cb成分の各成分画像は1280×960の画像サイズとなっている。
【0072】
以下、全体制御部20における手ぶれ補正について詳細に説明する。図12は、上述したフローチャートのステップS35における手ぶれ補正画像処理の詳細を示すフローチャートである。この処理は主として全体制御部20の画像合成部22によって行われる。
【0073】
手ぶれ補正画像処理を開始すると、画像合成部22は、RAM28に格納されたライブビュー画像からS/N補正用画像を生成する(ステップS40)。S/N補正用画像は、ライブビュー画像から撮影画像の色情報を補正するための画像である。このため、S/N補正用画像は、Cr成分及びCb成分のそれぞれについて生成される。
【0074】
以下、具体的に、S/N補正用画像の生成手法について説明する。
【0075】
RAM28に格納されるCr成分及びCb成分のライブビュー画像の画像サイズは、撮影画像のCr成分及びCb成分の画像サイズに比して小さくなっている。そのため、S/N補正用画像生成処理では、まず、図13及び図14に示すように、RAM28に格納されたライブビュー画像のCr成分画像及びCb成分画像のそれぞれに対して拡大処理を行い、撮影画像のCr成分画像及びCb成分画像と同一サイズにサイズ変換する。この処理は、RAM28に格納された4フレーム分のライブビュー画像の全てに対して実行される。この結果、各ライブビュー画像のCr成分画像及びCb成分画像は、撮影画像のそれらと同一サイズになる。
【0076】
そして各ライブビュー画像に対応付けられたぶれ情報に基づいて、各ライブビュー画像のCr成分を合成して、S/N補正用画像のCr成分を生成する。例えば、図15に示すように、ライブビュー画像51a,52a,53a,54aを順次取得する際、撮像装置1がα方向に一定量ずつ変位していたとすると、画像合成部22は各ライブビュー画像のCr成分画像をα方向にぶれ量に応じて配置する。このとき、図15の斜線部分は、4フレーム分のライブビュー画像が重ならない部分である。そして画像合成部22は、4フレーム分のライブビュー画像が重なった部分についてCr成分信号の加算平均を行うことにより、S/N補正用画像のCr成分画像55を生成する。ただし、全てのフレームが重ならない画像部分については、加算平均を行わずにS/N補正用画像のCr成分画像55を生成する。このため、図15に示すS/N補正用画像のCr成分画像55では、斜線が施された画像周縁部分にCr成分情報が含まれない状態となる。
【0077】
また、Cb成分についても同様の処理が行われることにより、S/N補正用画像のCb成分画像が生成される。
【0078】
このようにして生成されるS/N補正用画像は一時的にRAM28に格納され、ステップS41以降の処理が行われる。図16はステップS41以降の処理において、S/N補正用画像55と撮影画像56とに基づいて記録用画像57を生成する処理概念を示す図である。
【0079】
画像合成部22はS/N補正用画像のCr成分及びCb成分並びに撮影画像のCr成分及びCb成分のそれぞれをブロック分割する(ステップS41)。
【0080】
そして、ステップS42〜S48において、S/N補正用画像のCr成分と撮影画像のCr成分との相関値をブロック毎に求め、相関値が高い場合にはS/N補正用画像のCr成分を記録用画像のCr成分として採用することにより、記録用画像のCr成分画像を決定していく。また、同様に、S/N補正用画像のCb成分と撮影画像のCb成分との相関値をブロック毎に求め、相関値が高い場合にはS/N補正用画像のCb成分を記録用画像のCb成分として採用することにより、記録用画像のCb成分画像を決定する。
【0081】
このような処理をさらに具体的に説明する。画像合成部22は、ブロック分割によって撮影画像に形成された1つのブロックを選択し(ステップS42)、S/N補正用画像に、対応するブロックが存在するか否かを判定する(ステップS43)。S/N補正用画像の画像周縁部には有効な色情報が存在しないため、撮影画像において選択されたブロックに対応するブロックが存在しない可能性がある。そのため、S/N補正用画像に、対応するブロックが存在しない場合には、ステップS47に進み、対応するブロックが存在する場合にはステップS44に進む。
【0082】
また、各ブロックの対応関係は、撮影画像についてのぶれ情報に基づいて決定される。例えば、図17に示すようにS/N補正用画像55と撮影画像56との間に撮像装置1がβ方向に変位した場合には、S/N補正用画像55に対して、撮影画像56をβ方向にずらした状態で対応するブロックの決定が行われる。これにより、ライブビュー画像の取得以降のぶれを解消した状態で互いに対応するブロックを決定することができるので、手ぶれ補正の精度が高くなる。
【0083】
撮影画像について選択されたブロックに対応するブロックがS/N補正用画像に存在する場合には、画像合成部22は、対応するブロック同士での相関値演算を行うことにより、ブロック間の相関値を求める(ステップS44)。例えば、各ブロックが8×8の画素を有する場合には、64個の対応する2画素間で画素信号(ここでは色差情報)の差分絶対値を求め、それによって得られる64個の差分絶対値の平均値を、相関値とすることができる。このような相関値は、対応するブロック同士が被写体の同一部分を含む場合には小さな値となり、異なる部分である場合には大きな値となる。
【0084】
よって、ステップS44において求められる相関値が所定値よりも高い場合には(ステップS45にてYES)、S/N補正用画像における当該ブロックの色情報を採用してRAM28に格納する(ステップS46)。つまり、ノイズ成分が多く含まれている撮影画像の色情報は採用せずに、ライブビュー画像から得られた色情報を、記録用画像の色情報として採用するのである。
【0085】
一方、ステップS44において求められる相関値が所定値よりも低い場合には(ステップS45にてNO)、撮影画像における当該ブロックの色情報を採用してRAM28に格納する(ステップS47)。つまり、S/N補正用画像の当該ブロックは、撮影画像のブロック画像とは異なる被写体部分を撮影している可能性が高いので、画質低下を防止するために、撮影画像の色情報を、記録用画像の色情報として採用するのである。また、撮影画像について選択されたブロックに対応するブロックがS/N補正用画像に存在しない場合にも、撮影画像における当該ブロックの色情報が採用される。
【0086】
そしてステップS48に進み、撮影画像の全てのブロックについて処理が行われたか否かを判断し、全てのブロックについて色情報が決定されるまで、上記処理(ステップS42〜S47)が繰り返し行われる。
【0087】
このような処理が、S/N補正用画像及び撮影画像を対象として、Cr成分及びCb成分の双方について行われ、最終的に、RAM28において記録用画像のCr成分画像及びCb成分画像が生成される。
【0088】
そして記録用画像の輝度情報(Y成分)には、撮影画像56のY成分画像が採用される。このとき、例えばS/N補正用画像55に含まれる色情報が全て採用されて記録用画像の色差成分(Cr成分、Cb成分)を構成するとき、撮影画像56のY成分画像と、S/N補正用画像55の色差成分とが互いに位置ずれしている可能性があるので、撮影画像56のY成分画像と、S/N補正用画像55の色情報とを合成する際には、図17にて示した場合と同様の位置合わせが行われる。
【0089】
そして画像合成部22によって生成される記録用画像(合成画像)は、その色情報においてノイズ成分が抑制された画像となって出力され、メモリカード8に記録される。
【0090】
以上のように、撮像装置1は、撮影モード時において当該撮像装置1と被写体との相対的なぶれを検知可能なように構成されており、手ぶれ補正モードがオン状態に設定されている場合、記録用画像を得るための撮像素子10の露光中に、ぶれが検知されると、撮像素子10の露光を停止させ、当該露光によって得られる画像信号を増幅することによって撮影画像を生成するようになっている。また、それによって得られる撮影画像から輝度情報を抽出するとともに、撮影画像とは異なるタイミングで取得されるライブビュー画像から色情報を抽出して、撮影画像の輝度情報とライブビュー画像の色情報とを合成することによって、記録用画像となる合成画像を生成するように構成されている。
【0091】
Cr成分及びCb成分によって示される色情報は、同一被写体を撮影したものであれば、別のタイミングで得られた情報に入れ替えたとしても、画質的に問題は生じない。
【0092】
したがって、本実施形態の撮像装置1では、手ぶれ補正モードがオン状態となっていると、手ぶれの影響がない画像を取得することができるとともに、信号増幅によって増幅されるノイズ成分を目立たなくすることができる。
【0093】
また、記録用画像に用いられる色情報は、シャッタボタン9がS2状態とされる直前(すなわち、露光開始の指令が与えられる直前)に取得される少なくとも1フレーム分のライブビュー画像に基づいて生成されるので、画像合成処理の対象となるライブビュー画像と撮影画像との時間差を最も短くすることができ、整合性の高い補正処理が行える。
【0094】
また、RAM28に格納されたライブビュー画像は、撮像装置1のぶれ量が所定量以上となった場合に消去され、その後あらためてライブビュー画像の格納が行われるので、撮影画像と整合性の低い画像が画像合成処理に用いられることを防止することができる。
【0095】
また、複数のライブビュー画像を用いて、記録用画像に適用されうる色情報を生成することにより、個々のライブビュー画像に含まれるノイズ成分を抑制することができる。すなわち、複数のライブビュー画像を加算平均してS/N補正用画像を生成することにより、個々のライブビュー画像の重複部分に含まれているノイズ成分を良好に低減することができる。
【0096】
また、撮影画像の色情報と、ライブビュー画像から得られるS/N補正用画像の色情報とを合成する際、又は、撮影画像の輝度情報と、記録用画像として生成された色情報とを合成する際には、撮影画像が取得されたときのぶれ情報に基づいて互いの位置合わせが行われるようになっているので、画像合成時の整合性が高くなり、高品質な記録用画像を得ることができる。
【0097】
また、撮像装置1は、シャッタボタン9がS2状態にされて撮影開始指令が与えられた後であって、撮像装置1のぶれ量が所定量以下になった後に、記録用画像を撮影するための露光を開始するように構成されているので、ぶれの少ない画像を撮影することができる。特に、ユーザがシャッタボタン9を操作した直後は、シャッタボタン操作に伴うぶれが発生しやすいが、本実施形態のようにぶれ量が所定量以下となった後に露光を開始するように構成することで、シャッタボタン操作直後の手ぶれが撮影画像に影響することを防止することができる。
【0098】
また、撮像装置1は、撮影画像から得られる色情報と、ライブビュー画像から得られる色情報とを合成する際、それぞれの画像を複数の領域に分割し、分割された領域毎に合成処理を行うように構成されている。このため、ブロック毎に整合性の高い合成処理を行うことができ、高品質な記録用画像を得ることができる。
【0099】
また、撮像装置1では、ライブビュー画像から求められるS/N補正用画像と、撮影画像との相関値を求め、相関値が所定値よりも高い場合には、ライブビュー画像から求められたS/N補正用画像の色情報を採用し、相関値が所定値よりも低い場合には、撮影画像の色情報を採用して、記録用画像の色情報を生成するようになっている。すなわち、撮影画像とS/N補正用画像との整合性が高い場合は、ノイズ成分の少ない色情報が採用され、撮影画像とS/N補正用画像との整合性が低い場合は、撮影画像の色情報が採用されて、異なる被写体部分の色情報を用いないようになっている。よって、合成処理時の整合性と、画像品質とが考慮された処理が実現され、良好な記録用画像が得られる。
【0100】
さらに、撮像装置1は、画像合成を行う際に、記録用画像の画像周縁部の色情報として、撮影画像から得られる色情報を採用し、記録用画像の画像中央部の色情報として、S/N補正用画像から得られる色情報を採用するように構成される。したがって、画像中央部については良好にノイズ成分を抑制することができるとともに、画像周縁部に撮影画像とは異なる被写体が含まれることを防止することができる。
【0101】
次に、撮像装置1において設定モードが機能している場合の動作について説明する。上述した撮像装置1は、設定モードにおいて、手ぶれ補正モードの設定と、AGC回路12において通常適用されるゲインの設定とを行うことができるようになっている。
【0102】
図18及び図19は、設定モード時にLCD4又はEVF5に表示される手ぶれ補正処理の選択メニュー画面及びISO感度選択メニュー画面の一例を示す図である。
【0103】
例えば図18のメニュー画面では、手ぶれ補正モードの選択可能な項目として、「露光停止のみ」、「露光停止し自動ゲインアップ」、「露光停止し自動ゲインアップ+色補正」及び「手ぶれ補正を行わない」が表示され、ユーザはコントロールボタン95を操作することにより、これらのうちから一の項目を選択設定するようになっている。なお、図18においては「露光停止し自動ゲインアップ+色補正」の項目が選択された状態を示している。
【0104】
図18において「露光停止のみ」が選択されると、記録用画像の露光中に手ぶれが発生した場合、撮像素子10の露光を停止するだけの処理で、その後は通常の撮影画像と同様の処理が行われる。ただし、この場合、露光不足になるため、メモリカード8に格納される撮影画像は比較的暗い画像になる。
【0105】
また「露光停止し自動ゲインアップ」が選択されると、記録用画像の露光中に手ぶれが発生した場合、撮像素子10の露光を停止し、さらにAGC回路12にて適用されるゲインのゲインアップが行われる処理で、AGC回路12から後段は通常の撮影画像と同様の処理が行われる。ただし、この場合の撮影画像にはゲインアップによってノイズ成分が目立つことになる。
【0106】
また「露光停止し自動ゲインアップ+色補正」が選択されると、上述した手ぶれ補正処理が行われることになる。すなわち、撮影直前のライブビュー画像がRAM28に格納され、記録用画像の露光中に手ぶれが発生した場合、撮像素子10の露光を停止し、記録用画像の色情報がライブビュー画像の色情報を用いて生成される。このため、本項目が選択されることにより、良好な手ぶれ補正が実現される。
【0107】
さらに「手ぶれ補正処理を行わない」が選択されると、撮影モードにおいてジャイロセンサ17は常時オフ状態となり、露光中の手ぶれの有無にかかわらず、自動露出制御(AE)で求められた露光時間分の露光動作が行われる。よって、この場合、撮影中に手ぶれが発生すれば、撮影画像に手ぶれの影響が顕著に現れる。
【0108】
次に、AGC回路12に設定されるゲインの選択項目は、一般にISO感度に対応して表示される。このため、例えば図19のメニュー画面では、選択可能な項目として、「ISO100」、「ISO200」、「ISO400」及び「ISO800」が表示され、ユーザはコントロールボタン95を操作することにより、これらのうちから一の項目を選択設定するようになっている。なお、図19においては「ISO100」の項目が選択された状態を示している。またAGC回路12に設定されるゲインの関係は、ISO100<ISO200<ISO400<ISO800となっている。
【0109】
ところが、上記のような選択メニュー画面を、手ぶれ補正処理選択メニュー画面と、ISO感度選択メニュー画面とで何ら関係を持たせずに、別個独立して設定可能な状態にすると、動作不可能な状態が生じうる。
【0110】
例えば、AGC回路12において通常適用されるゲインが実行可能な最大ゲイン(ISO800)に設定されているとすると、手ぶれ補正処理選択メニュー画面で自動ゲインアップを含む項目が選択されても、実質的にゲインを行うことができなくなる。
【0111】
そこで撮像装置1では、設定モード時において、手ぶれ補正に関する設定と、ISO感度(ゲイン)に関する設定との間に従属関係を持たせ、動作不可能な状態が設定できないように構成することが好ましい。以下、この構成例について説明する。
【0112】
図20及び図21は、設定モード時における撮像装置1の処理シーケンスを示すフローチャートである。
【0113】
設定モード時に入ると、全体制御部20は、手ぶれ補正モードの変更操作が行われたか否かを判断する(ステップS50)。手ぶれ補正モードの変更操作が行われなかった場合はステップS56(図21)に進み、変更操作が行われた場合はステップS51に進む。
【0114】
そして手ぶれ補正モードの変更操作が行われた場合、自動ゲインアップを含む処理が選択されているか否かを判断する(ステップS51)。自動ゲインアップを含む処理が選択されていない場合はステップS56(図21)に進み、自動ゲインアップを含む処理が選択された場合はステップS52に進む。
【0115】
そして自動ゲインアップを含む処理が選択された場合、現在のISO感度設定(ゲイン設定)がISO800の上限値であるか否かを判断する(ステップS52)。現在のISO感度設定が上限値でない場合はステップS56(図21)に進み、上限値である場合はステップS53に進む。
【0116】
したがって、ステップS53に進む場合は、手ぶれ補正処理として自動ゲインアップを含む処理が選択され、かつ、AGC回路12において通常適用されるゲインが実行可能な最大ゲイン(ISO800)に設定されている場合であるため、ユーザが所望する手ぶれ補正処理は実質的に実行不可能な状態になる。
【0117】
そのため、ステップS53では、現在の設定内容が動作不可能な状態であることをユーザに示すために、例えば図22に示すような警告表示をLCD4等に表示し、ユーザによる確認の操作が行われるまで待機する。図22の警告表示に基づき、ISO感度設定の自動変更を承諾する場合、ユーザはコントロールボタン95を操作して「OK」を選択入力する。一方、ISO感度設定の自動変更を承諾しない場合には、ユーザはコントロールボタン95を操作して「キャンセル」を選択入力する。
【0118】
そして全体制御部20はユーザによって行われた選択入力が「OK」である場合、全体制御部20はAGC回路12のゲインをISO400に自動設定することにより、通常適用されるゲインをゲインダウンさせる。これにより、ユーザが設定した手ぶれ補正モードに関する設定状態を有効に機能させることが可能になる。これに対し、ユーザによって行われた選択入力が「キャンセル」である場合にはステップS61(図21)に進んで、手ぶれ補正モードを「手ぶれ補正を行わない」状態に自動変更する。
【0119】
図21のフローチャートに進み、全体制御部20は、AGC回路12において通常適用されるISO感度(ゲイン)の変更操作が行われたか否かを判断する(ステップS56)。ISO感度の変更操作が行われなかった場合は設定モードを終了し、変更操作が行われた場合はステップS57に進む。
【0120】
そしてISO感度の変更操作が行われた場合、ISO感度の設定がISO800の上限値であるか否かを判断する(ステップS57)。ISO感度設定が上限値でない場合はその設定を有効にして設定モードは終了する。ISO感度設定が上限値であるステップS58に進む。
【0121】
そしてISO感度が上限値に設定された場合、現在、手ぶれ補正モードとして自動ゲインアップを含む処理が選択されているか否かを判断する(ステップS58)。自動ゲインアップを含む処理が選択されていない場合は、その設定を有効にして設定モードは終了する。一方、自動ゲインアップを含む処理が選択されている場合はステップS59に進む。
【0122】
したがって、ステップS59に進む場合は、ISO感度設定として上限値(ISO800)が選択され、かつ、手ぶれ補正処理として自動ゲインアップを含む処理が選択されている場合であるため、ユーザが所望する手ぶれ補正処理は実質的に実行不可能な状態になる。
【0123】
そのため、ステップS59では、現在の設定内容が動作不可能な状態であることをユーザに示すために、例えば図23に示すような警告表示をLCD4等に表示し、ユーザによる確認の操作が行われるまで待機する。図23の警告表示に基づき、手ぶれ補正モードの自動変更を承諾する場合、ユーザはコントロールボタン95を操作して「OK」を選択入力する。一方、手ぶれ補正モードの自動変更を承諾しない場合には、ユーザはコントロールボタン95を操作して「キャンセル」を選択入力する。
【0124】
そして全体制御部20はユーザによって行われた選択入力が「OK」である場合、全体制御部20は手ぶれ補正モードの設定状態を「手ぶれ補正を行わない」に自動変更する(ステップS61)。一方、ユーザによって行われた選択入力が「キャンセル」である場合、ステップS55に戻り、ISO感度設定をISO400に自動設定することにより、通常適用されるゲインをゲインダウンさせる。これにより、ユーザが設定した手ぶれ補正モードに関する設定状態を有効に機能させることが可能になる。
【0125】
以上のように、本実施形態の撮像装置1は、AGC回路12に設定されるゲインが最大ゲインに設定されている場合には、設定モードにおいて自動ゲインアップを含む処理が有効な状態に選択されることを禁止するように構成される。また、自動ゲインアップを含む処理が有効な状態に選択されている場合に、AGC回路12のゲインが最大ゲインに設定された場合には、自動ゲインアップを含む処理が有効な状態を解除するように構成される。
【0126】
また、撮像装置1は、自動ゲインアップを含む処理が有効な状態に選択されている場合には、AGC回路12のゲインが最大ゲインに設定されることを禁止するように構成される。さらに、AGC回路12のゲインが最大ゲインに設定されている場合であって、自動ゲインアップを含む処理が有効な状態に選択された場合には、AGC回路12におけるゲインの設定値を最大ゲインよりも小さな値に変更するように構成されている。
【0127】
このため、撮像装置1において手ぶれ補正に関する設定とゲイン設定に関する設定とに従属関係が生じており、実行不可能な処理が設定されることを防止するようになっている。よって、ユーザは設定モード時に選択入力した内容に誤りがあることを事前に把握することができ、撮影が失敗することを防止できる。
【0128】
また、上記のような撮像装置1において、ISO感度がISO800(上限値)に設定されている場合には、図24に示すように、手ぶれ補正処理選択メニュー画面で、自動ゲインアップを含む処理の項目を異なる色で表示したり、グレーダウン表示することにより、自動ゲインアップを含む処理を選択することができない状況にあることをユーザに知らせるようにしてもよい。
【0129】
同様に、手ぶれ補正処理として、自動ゲインアップを含む処理が有効な状態に選択されている場合には、図25に示すように、ISO感度(ゲイン)選択メニュー画面で、ISO感度の最大値であるISO800の項目を異なる色で表示したり、グレーダウン表示することにより、ISO800を選択することができない状況にあることをユーザに知らせるようにしてもよい。
【0130】
なお、以上の説明では、4フレーム分のライブビュー画像からS/N補正用画像を生成する場合を例示したが、S/N補正用画像は1枚のライブビュー画像から生成されてもよい。例えば、撮影指示が与えられる直前にRAM28に格納されたライブビュー画像が全て削除され、撮影指示が与えられたときに、1フレーム分のライブビュー画像しかRAM28に格納されていない場合には、そのライブビュー画像からS/N補正用画像が生成される。
【0131】
<2.第2の実施の形態>
次に、画像処理装置にかかる実施の形態について説明する。上述した撮像装置1において全体制御部20で行われる手ぶれ補正処理、より具体的には、図12のフローチャートに示される処理は、撮像装置1とは別個独立した構成の画像処理装置によっても実行可能なものである。本実施形態においては、そのような処理を実現する画像処理装置について説明する。
【0132】
図26は、画像処理装置7を含む画像処理システム100の構成を示す図である。画像処理装置7は撮像装置1aと接続されており、撮像装置1aから画像データを入力することができるように構成される。
【0133】
撮像装置1aは、撮影レンズ110と撮像素子111とAGC回路112と出力部113とジャイロセンサ114と撮影制御部115とを備えて構成される。撮影制御部115は、図示しないシャッタボタンが押下されたことに伴う撮影指示信号に応答して被写体を撮影する際、ジャイロセンサ114からの出力に基づいて撮像装置1aのぶれ量を検知し、ぶれ量が所定値以上となったときに撮像素子111の露光を停止し、当該露光によって得られた画像信号をAGC回路112に出力させる。撮影制御部115は撮像素子111の露光を途中で停止させたときには、AGC回路112のゲインをゲインアップすることにより、露光不足を解消するように構成される。そして出力部113を介して画像処理装置7に、撮影画像が送出されるようになっている。
【0134】
また、撮像装置1aは、撮影指示信号に応答した撮影動作のタイミングとは別のタイミングで撮影動作を行い、それによって得られる画像(撮影画像とは異なる画像)を逐次、画像処理装置7に送出するように構成される。
【0135】
また、撮像装置1aは、より好ましくは、ジャイロセンサ114から得られるぶれ情報を、画像に対応付けて画像処理装置7に送出するように構成される。
【0136】
画像処理装置7は、表示部120と処理部130と操作部140とを備えて構成され、処理部130には、撮像装置1aからデータを入力する入力部133と、プログラムを実行して各種機能を実現するCPU131と、撮像装置1aから入力する画像データを記憶する記憶部135と、CD−ROM等の記録媒体150からプログラムを読み出すことが可能な入出力部134とが設けられる。
【0137】
CPU131は例えば記録媒体150に格納される画像処理プログラムを読み出して実行することにより、画像処理部132として機能する。
【0138】
画像処理部132は、撮像装置1aから入力する、撮影画像と、撮影画像とは異なるタイミングで撮影された画像とを記憶部135に一時的に格納し、第1の実施の形態において説明した手ぶれ補正処理を行うことにより、手ぶれの影響がなく、ノイズ成分の目立たない記録用画像を生成するように構成される。
【0139】
すなわち、画像処理装置7は、適正値よりも短時間の露光によって得られる撮影画像と、撮影画像とは異なるタイミングで得られる補正用画像(上記ライブビュー画像に相当)とを入力し、撮影画像から輝度情報及び色情報を抽出するとともに、補正用画像から色情報を抽出する。そして撮影画像から得られる色情報と、補正用画像から得られる色情報とを合成することによって記録用画像となる合成画像を生成するとともに、当該合成画像の輝度成分を、撮影画像の輝度情報によって規定するように構成される。
【0140】
したがって、本実施形態の画像処理装置7によれば、ノイズ成分の増加を抑制しつつ、ぶれの影響を解消した画像を生成することが可能である。
【0141】
また、画像処理装置7は、第1の実施の形態と同様に、記録用画像の画像周縁部の色情報として、撮影画像から得られる色情報を採用し、記録用画像の画像中央部の色情報として、撮影画像とは異なるタイミングで得られる補正用画像の色情報を採用するように構成される。これにより、画像中央部については良好にノイズ成分を抑制することができるとともに、画像周縁部に撮影画像とは異なる被写体が含まれることを防止することができる。
【0142】
また、画像処理装置7は、第1の実施の形態と同様に、撮影画像から得られる色情報と、撮影画像とは異なるタイミングで得られる補正用画像の色情報とを合成する際、それぞれの画像を複数の領域に分割し、分割された領域毎に合成処理を行うように構成される。このため、ブロック毎に整合性の高い合成処理を行うことができ、高品質な記録用画像を得ることができる。
【0143】
また、画像処理装置7は、撮影画像と、撮影画像とは別のタイミングで得られる補正用画像との相関値を求め、その相関値が所定値よりも高い場合には、補正用画像の色情報を採用し、相関値が所定値よりも低い場合には、撮影画像の色情報を採用して、記録用画像の色情報を生成するように構成される。すなわち、撮影画像と補正用画像との整合性が高い場合は、ノイズ成分の少ない色情報が採用され、撮影画像と補正用画像との整合性が低い場合は、撮影画像の色情報が採用されて、異なる被写体部分の色情報を用いないようになっている。よって、合成処理時の整合性と、画像品質とが考慮された処理が実現され、良好な記録用画像が得られる。
【0144】
なお、本実施形態においても第1の実施の形態と同様に、撮影画像と異なるタイミングで取得される複数フレーム分の画像を入力し、それら複数フレーム分の画像の重複した部分から補正用画像を生成するようにしてもよい。
【0145】
以上のように、本実施形態の画像処理装置7は、第1の実施の形態において説明した画像処理機能を、撮像装置とは別体として構成したものである。したがって、画像処理装置7は、第1の実施の形態で説明したものと同様の作用効果を奏する。
【0146】
なお、本実施形態においては、画像処理装置7に撮像装置1aが接続され、画像処理装置7が接続ケーブル等を介して撮像装置1aから画像を入力する場合を例示したが、これに限定されるものではない。例えば、画像処理装置7は、撮像装置1aから無線通信により画像入力を行うように構成されてもよいし、メモリカード8を介して画像入力を行うように構成されてもよい。
【0147】
<3.変形例>
以上、この発明の実施の形態について説明したが、この発明は上記説明した内容のものに限定されるものではない。
【0148】
例えば、上述した実施形態においては、露光停止が行われた場合に、画像信号がアナログ信号の段階でゲインアップを行う構成を例示した。しかし、これに限られるものではなく、ゲインアップは、A/D変換器13よりも後段側でデジタル信号に対して行われてもよい。
【0149】
また、上述した実施形態においては、撮像装置のぶれを検出するためにジャイロセンサ17,114が設けられる構成を例示した。しかし、これに限定されるものではなく、撮像装置のぶれを検出するセンサは、光学的なセンサを用いても構成することができる。
【0150】
なお、上述した実施形態には、以下の発明概念が含まれる。
【0151】
(1)請求項1に記載の撮像装置において、露光開始の指令が与えられる直前に取得されるライブビュー画像を記憶する記憶手段をさらに備え、前記合成手段は、前記記憶手段に記憶されたライブビュー画像から前記色情報を抽出し、前記合成画像を生成することを特徴とする撮像装置。
【0152】
これにより、合成処理の対象となるライブビュー画像と撮影画像との時間差を最も短くすることができ、整合性の高い合成処理が行える。
【0153】
(2)上記(1)に記載の撮像装置において、前記記憶手段は、前記ぶれ検知手段によって所定量以上のぶれが検知された場合に、既に記憶していたライブビュー画像を消去することを特徴とする撮像装置。
【0154】
これにより、撮影画像と整合性の低い画像が合成処理に用いられることを防止することができる。
【0155】
(3)請求項1又は上記(1)若しくは(2)に記載の撮像装置において、前記合成手段は、複数のライブビュー画像に基づいて前記色情報を抽出することを特徴とする撮像装置。
【0156】
これにより、複数のライブビュー画像を用いて、合成画像(記録用画像)に適用されうる色情報を生成することができ、個々のライブビュー画像に含まれるノイズ成分を抑制することができる。
【0157】
(4)請求項1又は上記(1)乃至(3)のいずれかに記載の撮像装置において、前記合成手段は、前記ぶれ検知手段からの情報に基づいて、前記輝度情報と前記色情報とを合成する際の位置合わせを行うことを特徴とする撮像装置。
【0158】
これにより、画像合成時の整合性が高くなり、高品質な合成画像を得ることができる。
【0159】
(5)請求項1又は上記(1)乃至(4)のいずれかに記載の撮像装置において、前記撮影画像生成手段は、撮影開始指令が与えられた後であって、前記ぶれ検知手段によって検知されるぶれ量が所定量以下になった後に、前記撮像素子の露光を開始させることを特徴とする撮像装置。
【0160】
これにより、ぶれの少ない画像を撮影することができる。特に、ユーザが撮影開始指示を与えた直後の手ぶれが撮影画像に影響することを防止することができる。
【0161】
(6)撮像素子において被写体からの光を光電変換することによって画像信号を生成する撮像装置であって、当該撮像装置と被写体との相対的なぶれを検知するぶれ検知手段と、前記撮像素子から得られる画像信号を増幅する増幅手段と、前記増幅手段において適用されるゲインを設定するゲイン設定手段と、前記撮像素子の露光中に、前記ぶれ検知手段によってぶれが検知された場合に、前記撮像素子の露光を停止させ、前記ゲイン設定手段によって設定されるゲインよりも大きな値のゲインを前記増幅手段に設定することで、当該露光によって得られる画像信号に適用されるゲインのゲインアップを行う撮影制御機能を有効にするか否かを選択する選択手段と、を備え、前記ゲイン設定手段によって設定されるゲインが最大ゲインに設定されている場合には、前記選択手段によって前記撮影制御機能が有効な状態に選択されることを禁止する、又は、前記選択手段によって前記撮影制御機能が有効な状態に選択されている場合であって、前記ゲイン設定手段によってゲインが最大ゲインに設定された場合には、前記撮影制御機能が有効な状態を解除することを特徴とする撮像装置。
【0162】
これにより、撮像装置において手ぶれ補正に関する設定とゲイン設定に関する設定とに従属関係を生じさせることができ、実行不可能な処理が設定されることを防止することができる。
【0163】
(7)撮像素子において被写体からの光を光電変換することによって画像信号を生成する撮像装置であって、当該撮像装置と被写体との相対的なぶれを検知するぶれ検知手段と、前記撮像素子から得られる画像信号を増幅する増幅手段と、前記増幅手段において適用されるゲインを設定するゲイン設定手段と、前記撮像素子の露光中に、前記ぶれ検知手段によってぶれが検知された場合に、前記撮像素子の露光を停止させ、前記ゲイン設定手段によって設定されるゲインよりも大きな値のゲインを前記増幅手段に設定することで、当該露光によって得られる画像信号に適用されるゲインのゲインアップを行う撮影制御機能を有効にするか否かを選択する選択手段と、を備え、前記撮影制御機能が有効な状態に選択されている場合には、前記ゲイン設定手段によってゲインが最大ゲインに設定されることを禁止する、又は、前記ゲイン設定手段によってゲインが最大ゲインに設定された場合であって、前記選択手段によって前記撮影制御機能が有効な状態に選択された場合には、前記ゲインの設定値を最大ゲインよりも小さな値に変更することを特徴とする撮像装置。
【0164】
これにより、上記(6)と同様に、撮像装置において手ぶれ補正に関する設定とゲイン設定に関する設定とに従属関係を生じさせることができ、実行不可能な処理が設定されることを防止することができる。
【0165】
(8)請求項2に記載の画像処理装置において、前記合成手段は、前記合成画像の画像周縁部の色情報として、前記第1の画像から得られる色情報を採用し、前記合成画像の画像中央部の色情報として、前記第2の画像から得られる色情報を採用することを特徴とする画像処理装置。
【0166】
これにより、画像中央部については良好にノイズ成分を抑制することができるとともに、画像周縁部に第1の画像とは異なる被写体が含まれることを防止することができる。
【0167】
【発明の効果】
以上説明したように、請求項1に記載の発明によれば、撮像素子の露光中にぶれが検知された場合、撮像素子の露光停止、及び、信号増幅によって得られる撮影画像から輝度情報を抽出するとともに、撮影画像とは異なるタイミングで取得されるライブビュー画像から色情報を抽出するように構成される。そして撮影画像の輝度情報とライブビュー画像の色情報とを合成することによって合成画像が生成されるので、手ぶれの影響がない画像を取得することができるとともに、信号増幅によって増幅されるノイズ成分を目立たなくすることができる。
【0168】
請求項2及び5に記載の発明によれば、適正値よりも短時間の露光によって得られる第1の画像と、第1の画像とは異なるタイミングで得られる第2の画像とを入力し、第1の画像から輝度情報及び色情報を抽出し、第2の画像から色情報を抽出する。そして第1の画像から得られる色情報、及び、第2の画像から得られる色情報を合成することによって合成画像を生成するとともに、合成画像の輝度成分を第1の画像の輝度情報によって規定するので、色情報に含まれるノイズ成分を低減することができる。
【0169】
請求項3に記載の発明によれば、第1の画像から得られる色情報と、第2の画像から得られる色情報とを合成する際、第1及び第2の画像のそれぞれが複数の領域に分割され、分割された領域毎に合成処理が行われるので、領域毎に整合性の高い合成処理を行うことができ、高品質な合成画像を得ることができる。
【0170】
請求項4に記載の発明によれば、第1の画像と第2の画像との相関値が所定値よりも高い場合には、第2の画像から得られる色情報が採用され、その相関値が所定値よりも低い場合には、第1の画像から得られる色情報が採用されるので、第1の画像と第2の画像との整合性が高い場合は、ノイズ成分の少ない色情報が採用され、第1の画像と第2の画像との整合性が低い場合は、第1の画像の色情報が採用されて、異なる被写体部分の色情報を用いないようになっている。よって、合成処理時の整合性と、画像品質とが考慮された処理が実現され、良好な合成画像が得られる。
【図面の簡単な説明】
【図1】撮像装置の外観を示す正面図である。
【図2】撮像装置の外観を示す上面図である。
【図3】撮像装置の外観を示す背面図である。
【図4】撮像装置の内部機能を示すブロック図である。
【図5】画像処理部の詳細構成を示す図である。
【図6】撮影モード時の撮像装置における処理シーケンスを示すフローチャートである。
【図7】撮影モード時の撮像装置における処理シーケンスを示すフローチャートである。
【図8】撮影モード時の撮像装置における処理シーケンスを示すフローチャートである。
【図9】撮影モード時の撮像装置における処理シーケンスを示すフローチャートである。
【図10】撮影モード時の露光に関するタイミングチャートである。
【図11】RAMに格納されるデータの一例を示す図である。
【図12】手ぶれ補正画像処理の詳細を示すフローチャートである。
【図13】ライブビュー画像(Cr成分画像)の拡大処理を示す図である。
【図14】ライブビュー画像(Cb成分画像)の拡大処理を示す図である。
【図15】複数のライブビュー画像からS/N補正用画像を生成する場合の処理概念を示す図である。
【図16】S/N補正用画像と撮影画像とに基づいて記録用画像を生成する場合の処理概念を示す図である。
【図17】S/N補正用画像と撮影画像との位置合わせの概念を示す図である。
【図18】手ぶれ補正処理の選択メニュー画面の一例を示す図である。
【図19】ISO感度選択メニュー画面の一例を示す図である。
【図20】設定モード時における撮像装置の処理シーケンスを示すフローチャートである。
【図21】設定モード時における撮像装置の処理シーケンスを示すフローチャートである。
【図22】警告表示の一例を示す図である。
【図23】警告表示の一例を示す図である。
【図24】手ぶれ補正処理の選択メニュー画面の一例を示す図である。
【図25】ISO感度選択メニュー画面の一例を示す図である。
【図26】画像処理装置を含む画像処理システムの構成を示す図である。
【符号の説明】
1,1a 撮像装置
7 画像処理装置
10 撮像素子
12 AGC回路(増幅手段)
17 ジャイロセンサ(ぶれ検知手段)
20 全体制御部
21 撮影制御部
21a 手ぶれ検出部
22 画像合成部(合成手段)
28 RAM(記憶手段)
100 画像処理システム
132 画像処理部
Claims (5)
- 撮像素子において被写体からの光を光電変換することによって画像信号を生成する撮像装置であって、
当該撮像装置と被写体との相対的なぶれを検知するぶれ検知手段と、
前記撮像素子の露光中に、前記ぶれ検知手段によってぶれが検知された場合に、前記撮像素子の露光を停止させ、当該露光によって得られる画像信号を増幅することによって撮影画像を生成する撮影画像生成手段と、
前記撮影画像から輝度情報を抽出するとともに、前記撮影画像とは異なるタイミングで取得されるライブビュー画像から色情報を抽出し、前記輝度情報と前記色情報とを合成することによって合成画像を生成する合成手段と、
を備える撮像装置。 - 画像処理装置であって、
適正値よりも短時間の露光によって得られる第1の画像と、前記第1の画像とは異なるタイミングで得られる第2の画像とを入力する入力手段と、
前記第1の画像から輝度情報及び色情報を抽出するとともに、前記第2の画像から色情報を抽出する画像成分抽出手段と、
前記第1の画像から得られる色情報、及び、前記第2の画像から得られる色情報を合成することによって合成画像を生成するとともに、前記合成画像の輝度成分を前記輝度情報によって規定する合成手段と、
を備える画像処理装置。 - 請求項2に記載の画像処理装置において、
前記合成手段は、前記第1の画像から得られる色情報と、前記第2の画像から得られる色情報とを合成する際、前記第1及び第2の画像のそれぞれを複数の領域に分割し、分割された領域毎に合成処理を行うことを特徴とする画像処理装置。 - 請求項2又は3に記載の画像処理装置において、
前記合成手段は、前記第1及び第2の画像の相関値を求め、前記相関値が所定値よりも高い場合には、前記第2の画像から得られる色情報を採用し、前記相関値が所定値よりも低い場合には、前記第1の画像から得られる色情報を採用して、前記合成画像の色情報を生成することを特徴とする画像処理装置。 - 画像処理方法であって、
適正値よりも短時間の露光によって得られる第1の画像と、前記第1の画像とは異なるタイミングで得られる第2の画像とを入力する工程と、
前記第1の画像から輝度情報及び色情報を抽出するとともに、前記第2の画像から色情報を抽出する工程と、
前記第1の画像から得られる色情報、及び、前記第2の画像から得られる色情報を合成することによって合成画像を生成するとともに、前記合成画像の輝度成分を前記輝度情報によって規定する工程と、
を備える画像処理方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003036548A JP3804617B2 (ja) | 2003-02-14 | 2003-02-14 | 画像処理装置及び方法 |
US10/446,195 US7239342B2 (en) | 2003-02-14 | 2003-05-28 | Image processing apparatus and method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003036548A JP3804617B2 (ja) | 2003-02-14 | 2003-02-14 | 画像処理装置及び方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004248021A true JP2004248021A (ja) | 2004-09-02 |
JP3804617B2 JP3804617B2 (ja) | 2006-08-02 |
Family
ID=32844419
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003036548A Expired - Fee Related JP3804617B2 (ja) | 2003-02-14 | 2003-02-14 | 画像処理装置及び方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US7239342B2 (ja) |
JP (1) | JP3804617B2 (ja) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007295427A (ja) * | 2006-04-27 | 2007-11-08 | Seiko Epson Corp | 手ぶれ補正装置、撮影装置及び手ぶれ補正方法 |
JP2008529435A (ja) * | 2005-02-03 | 2008-07-31 | ソニー エリクソン モバイル コミュニケーションズ, エービー | 高ダイナミックレンジ画像を複数回の露光により生成するための方法および装置 |
JP2009100417A (ja) * | 2007-10-19 | 2009-05-07 | Acutelogic Corp | 画像処理装置及び画像処理方法、画像処理プログラム |
JP2009118434A (ja) * | 2007-11-09 | 2009-05-28 | Sanyo Electric Co Ltd | ぶれ補正装置及び撮像装置 |
JP2010219797A (ja) * | 2009-03-16 | 2010-09-30 | Fujitsu Semiconductor Ltd | エッジ強調画像処理装置 |
JP2010226481A (ja) * | 2009-03-24 | 2010-10-07 | Olympus Imaging Corp | 撮影装置 |
JP2015534765A (ja) * | 2012-09-25 | 2015-12-03 | サムスン エレクトロニクス カンパニー リミテッド | 撮影イメージ生成方法及び装置 |
WO2017090458A1 (ja) * | 2015-11-26 | 2017-06-01 | ソニー株式会社 | 撮影装置、および撮影方法、並びにプログラム |
Families Citing this family (101)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4000872B2 (ja) * | 2002-03-05 | 2007-10-31 | ソニー株式会社 | 画像撮影装置及び色収差補正方法 |
JP2004361486A (ja) * | 2003-06-02 | 2004-12-24 | Nikon Corp | デジタルスチルカメラ |
JP4599920B2 (ja) * | 2003-09-02 | 2010-12-15 | セイコーエプソン株式会社 | 画像生成装置、および画像生成方法 |
JP2005077886A (ja) * | 2003-09-02 | 2005-03-24 | Canon Inc | 撮影装置 |
US7551218B2 (en) * | 2004-03-15 | 2009-06-23 | Fujifilm Corporation | Digital camera with a mode selectable structure |
US8045009B2 (en) * | 2004-05-10 | 2011-10-25 | Hewlett-Packard Development Company, L.P. | Image-exposure systems and methods using detecting motion of a camera to terminate exposure |
JP2006067181A (ja) * | 2004-08-26 | 2006-03-09 | Fuji Photo Film Co Ltd | カメラシステム |
EP3310037A1 (en) | 2004-10-26 | 2018-04-18 | Nikon Corporation | Digital camera and image combination device |
JP2006157568A (ja) * | 2004-11-30 | 2006-06-15 | Konica Minolta Holdings Inc | 撮像装置およびプログラム |
JP4533119B2 (ja) | 2004-12-13 | 2010-09-01 | キヤノン株式会社 | 撮像装置及び撮像装置の画像表示方法 |
US7791642B2 (en) * | 2004-12-13 | 2010-09-07 | Fujifilm Corporation | Image-taking apparatus |
JP4277216B2 (ja) * | 2005-01-13 | 2009-06-10 | ソニー株式会社 | 撮像装置及び撮像結果の処理方法 |
JP3935500B2 (ja) * | 2005-01-14 | 2007-06-20 | 株式会社モルフォ | 動きベクトル演算方法とこの方法を用いた手ぶれ補正装置、撮像装置、並びに動画生成装置 |
US8482618B2 (en) * | 2005-02-22 | 2013-07-09 | Hewlett-Packard Development Company, L.P. | Reduction of motion-induced blur in images |
US20060227221A1 (en) * | 2005-04-05 | 2006-10-12 | Mitsumasa Okubo | Image pickup device |
ATE519180T1 (de) * | 2005-05-10 | 2011-08-15 | Active Optics Pty Ltd | Verfahren zur steuerung eines bilderfassungssystems, bilderfassungssystem und digitalkamera |
US20060271873A1 (en) * | 2005-05-31 | 2006-11-30 | Samsung Electronics Co., Ltd. | Method and apparatus for selecting image in image forming apparatus having display screen |
US7643062B2 (en) * | 2005-06-08 | 2010-01-05 | Hewlett-Packard Development Company, L.P. | Method and system for deblurring an image based on motion tracking |
JP2006352735A (ja) * | 2005-06-20 | 2006-12-28 | Fujitsu Ltd | 撮影装置及び撮影方法 |
US8274715B2 (en) | 2005-07-28 | 2012-09-25 | Omnivision Technologies, Inc. | Processing color and panchromatic pixels |
US8139130B2 (en) | 2005-07-28 | 2012-03-20 | Omnivision Technologies, Inc. | Image sensor with improved light sensitivity |
JP4708479B2 (ja) * | 2005-09-14 | 2011-06-22 | ノキア コーポレイション | 動き主導のマルチショット画像安定化を実現するためのシステム及び方法 |
US7546026B2 (en) * | 2005-10-25 | 2009-06-09 | Zoran Corporation | Camera exposure optimization techniques that take camera and scene motion into account |
CN101341737A (zh) * | 2005-11-21 | 2009-01-07 | 松下电器产业株式会社 | 数字照相机、安装了数字照相机的电子设备、数字照相机的摄像方法以及存储了数字照相机的程序的存储介质 |
US7728906B2 (en) * | 2006-01-04 | 2010-06-01 | Apple Inc. | Embedded camera with privacy filter |
JP2007189472A (ja) * | 2006-01-13 | 2007-07-26 | Hitachi Ltd | 撮像装置および撮像素子 |
US8120658B2 (en) * | 2006-01-19 | 2012-02-21 | Qualcomm Incorporated | Hand jitter reduction system for cameras |
US7970239B2 (en) | 2006-01-19 | 2011-06-28 | Qualcomm Incorporated | Hand jitter reduction compensating for rotational motion |
US8019179B2 (en) | 2006-01-19 | 2011-09-13 | Qualcomm Incorporated | Hand jitter reduction for compensating for linear displacement |
US7586521B2 (en) * | 2006-01-27 | 2009-09-08 | Nethra Imaging Inc. | Automatic color calibration of an image sensor |
JP4745851B2 (ja) * | 2006-02-09 | 2011-08-10 | キヤノン株式会社 | 撮像装置 |
JP4912694B2 (ja) * | 2006-02-23 | 2012-04-11 | オリンパスイメージング株式会社 | 電子的ぶれ補正装置及び電子的ぶれ補正方法 |
US7916362B2 (en) | 2006-05-22 | 2011-03-29 | Eastman Kodak Company | Image sensor with improved light sensitivity |
US7952612B2 (en) * | 2006-06-22 | 2011-05-31 | Nokia Corporation | Method and system for image construction using multiple exposures |
US7822328B2 (en) * | 2006-07-03 | 2010-10-26 | Samsung Electronics Co., Ltd. | Method for controlling digital photographing apparatus and digital photographing apparatus adopting the method |
US8031258B2 (en) | 2006-10-04 | 2011-10-04 | Omnivision Technologies, Inc. | Providing multiple video signals from single sensor |
US7697836B2 (en) * | 2006-10-25 | 2010-04-13 | Zoran Corporation | Control of artificial lighting of a scene to reduce effects of motion in the scene on an image being acquired |
US8508039B1 (en) | 2008-05-08 | 2013-08-13 | Invensense, Inc. | Wafer scale chip scale packaging of vertically integrated MEMS sensors with electronics |
US8047075B2 (en) | 2007-06-21 | 2011-11-01 | Invensense, Inc. | Vertically integrated 3-axis MEMS accelerometer with electronics |
US20100071467A1 (en) * | 2008-09-24 | 2010-03-25 | Invensense | Integrated multiaxis motion sensor |
US8141424B2 (en) | 2008-09-12 | 2012-03-27 | Invensense, Inc. | Low inertia frame for detecting coriolis acceleration |
US8250921B2 (en) | 2007-07-06 | 2012-08-28 | Invensense, Inc. | Integrated motion processing unit (MPU) with MEMS inertial sensing and embedded digital electronics |
US8952832B2 (en) | 2008-01-18 | 2015-02-10 | Invensense, Inc. | Interfacing application programs and motion sensors of a device |
US7796872B2 (en) | 2007-01-05 | 2010-09-14 | Invensense, Inc. | Method and apparatus for producing a sharp image from a handheld device containing a gyroscope |
US8462109B2 (en) * | 2007-01-05 | 2013-06-11 | Invensense, Inc. | Controlling and accessing content using motion processing on mobile devices |
US7934423B2 (en) * | 2007-12-10 | 2011-05-03 | Invensense, Inc. | Vertically integrated 3-axis MEMS angular accelerometer with integrated electronics |
US8020441B2 (en) | 2008-02-05 | 2011-09-20 | Invensense, Inc. | Dual mode sensing for vibratory gyroscope |
JP5167676B2 (ja) * | 2007-04-10 | 2013-03-21 | ソニー株式会社 | 撮像装置及び撮像方法 |
US8208750B2 (en) * | 2007-10-26 | 2012-06-26 | Hewlett-Packard Development Company, L.P. | Method and system for dual-envelope image enhancement |
US8482620B2 (en) | 2008-03-11 | 2013-07-09 | Csr Technology Inc. | Image enhancement based on multiple frames and motion estimation |
US8164651B2 (en) * | 2008-04-29 | 2012-04-24 | Omnivision Technologies, Inc. | Concentric exposure sequence for image sensor |
JP4900401B2 (ja) * | 2008-05-16 | 2012-03-21 | カシオ計算機株式会社 | 撮影装置およびプログラム |
JP2009284394A (ja) * | 2008-05-26 | 2009-12-03 | Olympus Imaging Corp | 撮像装置および撮像方法 |
US7859033B2 (en) | 2008-07-09 | 2010-12-28 | Eastman Kodak Company | Wafer level processing for backside illuminated sensors |
US7915067B2 (en) * | 2008-07-09 | 2011-03-29 | Eastman Kodak Company | Backside illuminated image sensor with reduced dark current |
JP5498087B2 (ja) * | 2008-09-29 | 2014-05-21 | キヤノン株式会社 | 撮像装置および撮像方法、プログラム |
US8073246B2 (en) * | 2008-11-07 | 2011-12-06 | Omnivision Technologies, Inc. | Modifying color and panchromatic channel CFA image |
KR101577440B1 (ko) * | 2008-12-29 | 2015-12-15 | 삼성전자주식회사 | 디지털 이미지 처리 장치 및 방법 |
JP5430379B2 (ja) * | 2009-02-03 | 2014-02-26 | キヤノン株式会社 | 撮像装置及びその制御方法及びプログラム |
US8224082B2 (en) * | 2009-03-10 | 2012-07-17 | Omnivision Technologies, Inc. | CFA image with synthetic panchromatic image |
US8068153B2 (en) * | 2009-03-27 | 2011-11-29 | Omnivision Technologies, Inc. | Producing full-color image using CFA image |
US8045024B2 (en) * | 2009-04-15 | 2011-10-25 | Omnivision Technologies, Inc. | Producing full-color image with reduced motion blur |
US8203633B2 (en) * | 2009-05-27 | 2012-06-19 | Omnivision Technologies, Inc. | Four-channel color filter array pattern |
US8237831B2 (en) * | 2009-05-28 | 2012-08-07 | Omnivision Technologies, Inc. | Four-channel color filter array interpolation |
US8125546B2 (en) * | 2009-06-05 | 2012-02-28 | Omnivision Technologies, Inc. | Color filter array pattern having four-channels |
US8253832B2 (en) * | 2009-06-09 | 2012-08-28 | Omnivision Technologies, Inc. | Interpolation for four-channel color filter array |
JP5436975B2 (ja) * | 2009-08-21 | 2014-03-05 | オリンパスイメージング株式会社 | カメラ、カメラの表示制御方法、表示装置、及び表示方法 |
US8724928B2 (en) | 2009-08-31 | 2014-05-13 | Intellectual Ventures Fund 83 Llc | Using captured high and low resolution images |
US8203615B2 (en) * | 2009-10-16 | 2012-06-19 | Eastman Kodak Company | Image deblurring using panchromatic pixels |
US8390704B2 (en) * | 2009-10-16 | 2013-03-05 | Eastman Kodak Company | Image deblurring using a spatial image prior |
US8379120B2 (en) * | 2009-11-04 | 2013-02-19 | Eastman Kodak Company | Image deblurring using a combined differential image |
TWI398161B (zh) * | 2009-12-24 | 2013-06-01 | Ability Entpr Co Ltd | 校正感度增益的方法 |
US20120007996A1 (en) * | 2009-12-30 | 2012-01-12 | Nokia Corporation | Method and Apparatus for Imaging |
US8179445B2 (en) | 2010-03-03 | 2012-05-15 | Eastman Kodak Company | Providing improved high resolution image |
JP5548552B2 (ja) * | 2010-08-03 | 2014-07-16 | キヤノン株式会社 | 撮像装置 |
US8582820B2 (en) | 2010-09-24 | 2013-11-12 | Apple Inc. | Coded aperture camera with adaptive image processing |
KR20120047598A (ko) * | 2010-11-04 | 2012-05-14 | 삼성전자주식회사 | 디지털 촬영 장치 및 이의 제어 방법 |
KR20120067199A (ko) * | 2010-12-15 | 2012-06-25 | 한국전자통신연구원 | 비디오 인코딩 장치 및 그 제어 방법 |
JP2012161012A (ja) * | 2011-02-02 | 2012-08-23 | Canon Inc | 動画記録装置 |
US8446481B1 (en) | 2012-09-11 | 2013-05-21 | Google Inc. | Interleaved capture for high dynamic range image acquisition and synthesis |
US8866927B2 (en) | 2012-12-13 | 2014-10-21 | Google Inc. | Determining an image capture payload burst structure based on a metering image capture sweep |
US9087391B2 (en) | 2012-12-13 | 2015-07-21 | Google Inc. | Determining an image capture payload burst structure |
US8866928B2 (en) | 2012-12-18 | 2014-10-21 | Google Inc. | Determining exposure times using split paxels |
US9247152B2 (en) | 2012-12-20 | 2016-01-26 | Google Inc. | Determining image alignment failure |
US9686537B2 (en) | 2013-02-05 | 2017-06-20 | Google Inc. | Noise models for image processing |
US9117134B1 (en) | 2013-03-19 | 2015-08-25 | Google Inc. | Image merging with blending |
US9066017B2 (en) | 2013-03-25 | 2015-06-23 | Google Inc. | Viewfinder display based on metering images |
US9131201B1 (en) * | 2013-05-24 | 2015-09-08 | Google Inc. | Color correcting virtual long exposures with true long exposures |
US9077913B2 (en) | 2013-05-24 | 2015-07-07 | Google Inc. | Simulating high dynamic range imaging with virtual long-exposure images |
US9615012B2 (en) | 2013-09-30 | 2017-04-04 | Google Inc. | Using a second camera to adjust settings of first camera |
US9357136B2 (en) | 2014-02-04 | 2016-05-31 | Nokia Technologies Oy | Using inertial sensors to provide smoothed exposure and white balance adjustments for video and photographic applications |
US9483837B2 (en) * | 2014-03-14 | 2016-11-01 | Xerox Corporation | Compensating for motion during real-time batch processing of video for physiological function assessment |
US9832379B1 (en) * | 2015-03-05 | 2017-11-28 | Amazon Technologies, Inc. | Discontinuous transmission of images |
JP2017067954A (ja) * | 2015-09-29 | 2017-04-06 | オリンパス株式会社 | 撮像装置、及び撮像装置の像ブレ補正方法 |
US10306148B2 (en) * | 2016-08-30 | 2019-05-28 | Microsoft Technology Licensing, Llc | Motion triggered gated imaging |
CN109983758B (zh) * | 2016-12-02 | 2021-11-16 | 索尼半导体解决方案公司 | 成像元件、成像方法以及电子设备 |
JP2018146672A (ja) * | 2017-03-02 | 2018-09-20 | キヤノン株式会社 | 撮像装置およびその制御方法、外付け装置 |
WO2020021601A1 (ja) * | 2018-07-23 | 2020-01-30 | 三菱電機株式会社 | 画像補正装置及び画像補正方法 |
JP2022501982A (ja) * | 2018-09-13 | 2022-01-06 | スペクトル オプティックス インコーポレイテッド | ニューラルネットワークを使用した写真の露出不足補正 |
RU2717252C1 (ru) * | 2019-09-03 | 2020-03-19 | Владимир Эльич Пашковский | Устройство фиксации изображения длительной экспозиции |
EP4138384A3 (en) * | 2021-08-16 | 2023-04-19 | Canon Kabushiki Kaisha | Imaging apparatus, imaging method, and storage medium |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4879600A (en) | 1987-03-27 | 1989-11-07 | Canon Kabushiki Kaisha | Image sensing apparatus with control for varying the readout methodology |
US5379063A (en) * | 1991-04-24 | 1995-01-03 | Olympus Optical Co., Ltd. | Electronic still camera system compensating for image displacement |
EP0611125B1 (en) * | 1993-02-12 | 2000-11-22 | Sony Corporation | Electronic zoom control and image stabilization |
JPH06284328A (ja) * | 1993-03-29 | 1994-10-07 | Sharp Corp | 撮像装置 |
JP2000023016A (ja) | 1998-06-29 | 2000-01-21 | Minolta Co Ltd | デジタルカメラ |
US6639626B1 (en) | 1998-06-18 | 2003-10-28 | Minolta Co., Ltd. | Photographing apparatus with two image sensors of different size |
JP2001045361A (ja) | 1999-07-30 | 2001-02-16 | Hitachi Ltd | 撮像装置 |
JP3697983B2 (ja) | 1999-12-20 | 2005-09-21 | カシオ計算機株式会社 | 撮像装置及び撮像方法 |
-
2003
- 2003-02-14 JP JP2003036548A patent/JP3804617B2/ja not_active Expired - Fee Related
- 2003-05-28 US US10/446,195 patent/US7239342B2/en not_active Expired - Fee Related
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008529435A (ja) * | 2005-02-03 | 2008-07-31 | ソニー エリクソン モバイル コミュニケーションズ, エービー | 高ダイナミックレンジ画像を複数回の露光により生成するための方法および装置 |
JP2007295427A (ja) * | 2006-04-27 | 2007-11-08 | Seiko Epson Corp | 手ぶれ補正装置、撮影装置及び手ぶれ補正方法 |
JP2009100417A (ja) * | 2007-10-19 | 2009-05-07 | Acutelogic Corp | 画像処理装置及び画像処理方法、画像処理プログラム |
JP2009118434A (ja) * | 2007-11-09 | 2009-05-28 | Sanyo Electric Co Ltd | ぶれ補正装置及び撮像装置 |
JP2010219797A (ja) * | 2009-03-16 | 2010-09-30 | Fujitsu Semiconductor Ltd | エッジ強調画像処理装置 |
JP2010226481A (ja) * | 2009-03-24 | 2010-10-07 | Olympus Imaging Corp | 撮影装置 |
JP2015534765A (ja) * | 2012-09-25 | 2015-12-03 | サムスン エレクトロニクス カンパニー リミテッド | 撮影イメージ生成方法及び装置 |
WO2017090458A1 (ja) * | 2015-11-26 | 2017-06-01 | ソニー株式会社 | 撮影装置、および撮影方法、並びにプログラム |
US10542217B2 (en) | 2015-11-26 | 2020-01-21 | Sony Semiconductor Solutions Corporation | Shooting device and shooting method to suppress blur in an image |
Also Published As
Publication number | Publication date |
---|---|
US7239342B2 (en) | 2007-07-03 |
JP3804617B2 (ja) | 2006-08-02 |
US20040160525A1 (en) | 2004-08-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3804617B2 (ja) | 画像処理装置及び方法 | |
US8488019B2 (en) | Image-capturing device, image-capturing method and storage medium storing image-capturing program for generating a wide dynamic range image | |
JP6343200B2 (ja) | 撮像装置およびその制御方法ならびにプログラム | |
JP5806007B2 (ja) | 撮像装置 | |
US7030911B1 (en) | Digital camera and exposure control method of digital camera | |
JP2005191985A (ja) | デジタルカメラ | |
JP5873380B2 (ja) | 画像処理装置およびその制御方法 | |
JP2010093679A (ja) | 撮像装置及び撮像制御方法 | |
JP2004023747A (ja) | 電子カメラ | |
JP2008160291A (ja) | 画像信号処理装置、画像信号処理プログラム及び撮像装置 | |
JP2007049320A (ja) | 電子カメラ | |
JP2004328460A (ja) | ホワイトバランス調整方法および電子カメラ | |
JP2006287814A (ja) | 撮像装置及び動きベクトル決定方法 | |
JP4061645B2 (ja) | 電子カメラ | |
JP2004096392A (ja) | デジタルカメラ | |
JP2013085040A (ja) | 画像処理装置 | |
JP2009118052A (ja) | 画像信号処理方法及び装置 | |
JP3864407B2 (ja) | デジタルカメラ | |
JP2004245923A (ja) | オートブラケティング撮影方法 | |
JP2008182486A (ja) | 撮影装置及び画像処理方法 | |
JP3947912B2 (ja) | 画像信号処理装置 | |
JP5268823B2 (ja) | 撮像装置及び撮像方法 | |
JP2004343177A (ja) | 撮像装置 | |
JP2012044377A (ja) | 画像合成装置、画像合成方法、及びプログラム | |
JP2004120511A (ja) | 撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20050325 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050405 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20050520 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050603 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20050603 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060207 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060329 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20060418 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20060501 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090519 Year of fee payment: 3 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090519 Year of fee payment: 3 |
|
R360 | Written notification for declining of transfer of rights |
Free format text: JAPANESE INTERMEDIATE CODE: R360 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090519 Year of fee payment: 3 |
|
R370 | Written measure of declining of transfer procedure |
Free format text: JAPANESE INTERMEDIATE CODE: R370 |
|
LAPS | Cancellation because of no payment of annual fees |