JP2009188490A - 画像処理装置およびプログラム - Google Patents

画像処理装置およびプログラム Download PDF

Info

Publication number
JP2009188490A
JP2009188490A JP2008023627A JP2008023627A JP2009188490A JP 2009188490 A JP2009188490 A JP 2009188490A JP 2008023627 A JP2008023627 A JP 2008023627A JP 2008023627 A JP2008023627 A JP 2008023627A JP 2009188490 A JP2009188490 A JP 2009188490A
Authority
JP
Japan
Prior art keywords
image
images
focal length
evaluation value
evaluation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008023627A
Other languages
English (en)
Other versions
JP5005570B2 (ja
Inventor
Satoshi Hikita
聡 疋田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2008023627A priority Critical patent/JP5005570B2/ja
Priority to US12/320,615 priority patent/US8160378B2/en
Priority to EP09250274A priority patent/EP2085817B1/en
Priority to CN2009100099764A priority patent/CN101505374B/zh
Publication of JP2009188490A publication Critical patent/JP2009188490A/ja
Application granted granted Critical
Publication of JP5005570B2 publication Critical patent/JP5005570B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/32Means for focusing
    • G03B13/34Power focusing
    • G03B13/36Autofocus systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/36Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals
    • G02B7/365Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals by analysis of the spatial frequency components of the image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/673Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/676Bracketing for image capture at varying focusing conditions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/743Bracketing, i.e. taking a series of images with varying exposure conditions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/951Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B2207/00Control of exposure by setting shutters, diaphragms, or filters separately or conjointly
    • G03B2207/005Control of exposure by setting shutters, diaphragms, or filters separately or conjointly involving control of motion blur
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B2217/00Details of cameras or camera bodies; Accessories therefor
    • G03B2217/005Blur detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters

Abstract

【課題】 短時間に焦点距離を変えて撮像された複数の画像の中から、最もピントが合った画像を自動選択する場合に、自動選択の失敗を低減することができる画像処理装置を提供する。
【解決手段】 この画像処理装置は、同一被写体につき焦点距離を変えて撮像された複数の画像を画像データとして入力する入力手段10と、入力された画像データから画像間の撮像された被写体の位置ずれ量を得、位置ずれ量に応じて各画像を補正する補正手段11と、補正後の各画像につき合焦状態を表す評価値を算出する算出手段12と、算出された評価値のうち最も高い評価値を有する画像を、最も焦点が合った画像として選択する選択手段13とを含む。
【選択図】 図4

Description

本発明は、短時間に焦点距離を変えて撮像された複数の画像の中から、焦点(ピント)が最も合った画像を自動選択する場合に、その自動選択の失敗を低減することができる画像処理装置およびその処理を実現するためのコンピュータ可読なプログラムに関する。
被写体を撮像し、撮像した画像をデジタルデータとして記録する撮像装置としてデジタルカメラが普及している。デジタルカメラは、デジタルデータを記録するためのメモリカードや内蔵メモリと、画像を表示するためのLCDモニタとを搭載し、複数の画像を記録し、被写体や撮像した画像を表示することができる。
実際に被写体を撮像するとき、撮像時に被写体である人物が目をつぶったり、シャッタスイッチの押下時に手ぶれが生じる等して、不良な画像が記録される場合がある。また、好みの部分にピントを合わせるためには、一度その部分に焦点を当て、シャッタボタンを半押しし、オートフォーカスをロックした後に撮像しなければならないが、この半押しする作業は、カメラを扱うことに不慣れな人にとっては難しく、ピンボケ写真の原因となっている。
このため、同一被写体を複数枚の画像を連続して撮像し、ユーザがその中から最も良好な画像を選択することができるが、メモリカードや内蔵メモリには記録容量に制限があるため、これら複数の画像すべてを記録することは好ましくはない。そこで、デジタルカメラには、連続撮像された全画像の中からユーザが指定した画像のみを記録するベストショットセレクタ機能を備えたものがある。
また、デジタルカメラは、合焦点が1箇所のみであるため、撮像する対象物や人物が複数であるとき、どの対象物や人物に合焦させれば良いか分からない場合がある。そこで、デジタルカメラには、焦点位置を変更しながら連続撮像を行うフォーカスブラケット撮影機能を備えたものがある。この機能においても、連続撮像された画像の中からユーザが指定した画像のみを記録することができる。
しかしながら、ユーザが、どの画像が最もピントが合っているかを目視で判断することは難しく、これらの機能を採用しただけでは、最もピントが合った最良の画像を選択することはできなかった。
この問題に鑑み、焦点位置を変えながら複数の画像を連続撮像した場合に、撮像された複数の画像から合焦状態が良好な画像を選択することを可能にしたデジタルカメラが提案されている(特許文献1参照)。
このデジタルカメラは、上記のフォーカスブラケット撮影機能を備え、まず、その機能を使用して連続撮像を行い、連続撮像された複数の画像の各々の合焦状態を表す合焦評価値を算出する。そして、この合焦評価値に基づいて、合焦状態が最も良好な画像を選択し、その画像を記録する。具体的には、図1に示すように、ユーザが、固定された複数の合焦状態を評価するための評価領域の中から好みの部分に近い評価領域1を選択し、それを設定しておく。デジタルカメラは、焦点距離を変えて被写体2の複数の画像3〜7を連続撮像し、焦点距離が異なる複数の画像3〜7の中から設定された評価領域1の合焦評価値をそれぞれ算出し、その合焦評価値が最も高い画像を自動的に選択し、その画像を記録する。
特開2004−135029号公報
従来の上記デジタルカメラでは、焦点距離を変えると、撮像レンズ、フォーカスレンズ、絞りを含む光学ユニットにおいてズーミングが行われて複数の画像間で撮像された被写体2の大きさが変化し、図2に示すように、合焦状態を評価するための評価領域1が画像間でずれてしまう。その結果、正しい評価値を得ることができず、好みの部分にピントが合った画像の自動選択に失敗する場合がある。
また、連続撮像する際、短時間であっても手ぶれ等の影響により複数の画像間で撮像された被写体2の位置がずれることがあり、図3に示すように、合焦状態を評価するための評価領域1が画像間でずれ、その結果、正しい評価値を得ることができず、好みの部分にピントが合った画像の自動選択に失敗する場合がある。
そこで、このように位置ずれが生じても、正しい評価値を得て、好みの部分にピントが合った画像の自動選択による失敗を低減させることができる装置の提供が望まれている。
本発明は、上記課題に鑑み、同一被写体を短時間に異なる焦点距離で撮像して得られた複数の画像データから、画像間の撮像された被写体の位置ずれ量を得、その位置ずれ量に応じて画像を変倍し、被写体の位置を補正する手段を備える。これにより、補正後の各画像につき評価値を求めることで、正しい評価値を得ることができ、好みの部分にピントが合った画像の自動選択による失敗を低減させることができる。
すなわち、本発明によれば、同一被写体につき焦点距離を変えて撮像された複数の画像を画像データとして入力する入力手段と、入力された画像データから画像間の撮像された被写体の位置ずれ量を得、その位置ずれ量に応じて各画像を補正する補正手段と、補正後の各画像につき合焦状態を表す評価値を算出する算出手段と、算出された評価値のうち最も高い評価値を有する画像を、最も焦点が合った画像として選択する選択手段とを含む、画像処理装置が提供される。
位置ずれは、焦点距離が異なることにより生じた画像間の撮像された被写体のサイズの相違から生じる。このため、補正手段は、位置ずれ量に応じて各画像を変倍することにより各画像を補正する。
画像データは、画像間の撮像された被写体のサイズに関連する焦点距離情報を含み、補正手段は、この焦点距離情報に対応する変倍率を使用して各画像を変倍し、各画像における撮像された被写体のサイズを同等のものにする補正を行う。この被写体のサイズは、焦点距離に依存することから、焦点距離を変えるモータに与えるパルス数等の焦点距離情報を撮像時に取得し、その焦点距離情報を基に変倍率を算出することができる。例えば、焦点距離情報と変倍率との関係を示すテーブルを保持しておき、このテーブルから変倍率を求めることができる。これにより、画像間で倍率が異なり、正確な評価値が得られないという問題を解決することができ、好みの部分にピントが合った画像の自動選択による失敗を低減させることができる。
評価値を算出するための評価領域の設定に応じて各画像内に評価領域を指定する領域指定手段を備えることができる。この場合、算出手段は、評価領域での合焦状態を表す評価値を算出する。
また、選択手段により選択された最も焦点が合った画像における焦点距離を、被写体までの距離として取得する距離取得手段をさらに備えることができる。これにより、距離情報を利用してオブジェクトを識別し、前景をそのままにして背景のみをぼかしたり、前景と背景を区別してオートホワイトバランス処理を行うことができる。
また、本発明では、画像処理装置のほか、これらの処理を実行するためのコンピュータ可読なプログラムとして提供することもできる。
本発明の画像処理装置は、短時間に焦点距離を変えて撮像された複数の画像の中から、最もピントが合った画像を自動選択する場合に、その自動選択の失敗を低減することができる装置である。図4は、その画像処理装置の一例を示した機能ブロック図である。
この画像処理装置は、短時間に焦点距離を変えて撮像された複数の画像を画像データとして入力する入力手段10と、入力された画像データから画像間の撮像された被写体の位置ずれ量を得、位置ずれ量に応じて各画像を補正する補正手段11と、補正後の各画像につき合焦状態を表す評価値を算出する算出手段12と、算出された評価値のうち最も高い評価値を有する画像を、最も焦点が合った画像として選択する選択手段13とを備える。
また、評価値を算出するための評価領域の設定に応じて各画像内に評価領域を指定する領域指定手段14と、選択手段13により選択された最も焦点が合った画像における焦点距離を、被写体までの距離として取得する距離取得手段15とをさらに備える。
ユーザが好む部分にピントが合った画像を適切に記録するために、入力手段10が短時間に焦点距離を変えて撮像された複数の画像を画像データとして入力し、選択手段13がその画像の中から最もピントが合った画像を、算出手段12が算出した評価値に基づき自動選択し、記憶手段16に記憶する。しかしながら、焦点距離を変えると、撮像された被写体のサイズが画像間で異なり、複数の画像の中から1つの画像を自動選択する際に行われる評価において、適切な評価を行うことができない。
焦点距離が異なることにより生じた画像間の撮像された被写体のサイズの相違は、画像間で位置ずれを生じさせる。被写体の倍率が異なれば、予め設定した任意の点から被写体を構成する各点までの距離が異なるからである。例えば、任意の点を画像の角の点とし、被写体を人物とすると、画像における被写体のサイズが小さいほどその点から人物の顔までの距離は長くなり、大きくなるほどその距離は短くなる。
こういった位置ずれをなくす補正を行うために補正手段11が設けられている。この補正手段11は、位置ずれ量を取得する位置ずれ量取得手段11aと、取得した位置ずれ量に応じて各画像を変倍する変倍手段11bとを備える。位置ずれ量取得手段11aは、各画像において上記任意の点から被写体を構成する各点までの距離を求め、その距離の差を位置ずれ量として得ることができる。この位置ずれ量は、画素数として得ることができる。位置ずれ量は、上記の距離が焦点距離に依存することから、焦点距離情報から取得することもできる。焦点距離情報としては、焦点距離を変えるモータに設定されたパルス数を挙げることができ、この焦点距離情報は、画像データに含めて取得することができる。
変倍手段11bは、その被写体のサイズの相違から算出される変倍率を使用して各画像を変倍し、各画像における撮像された被写体のサイズを同等のものにする補正を行うことができる。被写体のサイズの相違は、任意の点からの距離を相違させることから、焦点距離に依存する。焦点距離情報は、上述したように撮像時にパルス数等として取得することができる。このため、焦点距離情報と変倍率との関係を示すテーブルを装置内の記憶手段16に格納しておき、補正を行う際に読み出し、使用することで、焦点距離情報から変倍率を求めることができる。
ここで、上記テーブルについて図5を参照して説明する。図5に示すテーブルは、焦点距離が、焦点距離を変えるモータのパルス数に関連し、そのパルス数が焦点距離に比例することから、焦点距離情報としてパルス数が用いられている。変倍率は、焦点距離に応じて画像を変倍するためのもので、変倍率が1.03であれば、撮像された画像を1.03倍して補正を行う。この変倍率は、例えば、パルス数が100のときを1.00とし、これを基準として決定することができる。
図5では、パルス数が124、140、156と大きくなるにつれて、変倍率も1.03、1.05、1.08へと上昇している。焦点距離と変倍率との関係を示したテーブルは、これまでに知られたいかなる算出式、あるいは実際に測定を行うことにより作成することができる。
再び図4を参照すると、算出手段12は、補正手段11によって補正された各画像につき合焦状態を表す評価値を算出する。画像における被写体と背景との境界部分には、急激な輝度や色差値の変化(エッジ)が存在し、エッジのある画像を周波数空間に変換すると、高周波成分の絶対値が高くなることが知られている。すなわち、細かく濃淡等が分布している画像ほど周波数が高く、高周波成分が多いほど鮮明である。この高周波成分がどれだけ多いかを示す指標として、AF評価値が導入される。AF評価値は、例えば、画像データに対して高周波成分のみを通すハイパスフィルタや、ある周波数の成分のみを通すバンドパスフィルタを適用し、得られた出力値を積算することにより求めることができる。
上記の合焦状態を表す評価値は、ここでは変倍後のAF評価値であるが、変倍後のAF評価値は、撮像時のAF評価値を基に、変倍による位置ずれを補正して算出される。このため、算出手段12は、補正前の撮像された画像に対しても、上記のようにして撮像時のAF評価値を算出する。
この評価値は、ピントがどの程度合っているかを評価するために目安となる値であり、その値が高いほどピントが合っていることを示す。このため、選択手段13は、算出された評価値のうち、評価値が最も高い値を示す画像を、最もピントが合った画像として選択する。このように焦点距離を変えて撮像された複数の画像につき、補正を行った後に評価を行うことで、正しい評価を行うことができ、ユーザの好みの部分に最もピントが合った画像の自動選択の失敗を低減させることができる。
ユーザの好みの部分を特定するために、ユーザ自身がその部分を指定することができる。その部分は、設定情報として記憶手段16に記憶することができるが、領域指定手段14がその設定に応じて画像の指定領域を評価領域として指定する。具体的には、図1や図2に示す正方形で囲まれた部分を評価領域として指定する。領域指定手段14が評価領域を指定した場合、算出手段12は、その評価領域における評価値を算出する。
このようにして最もピントが合った画像を自動選択することができるが、選択された画像を撮像した際の焦点距離は、被写体までの距離を最も正確に表している。距離取得手段15は、このようにして選択された画像における焦点距離を、被写体までの距離として取得する。これにより、距離情報を利用してオブジェクトを識別し、前景をそのままにして背景のみをぼかしたり、前景と背景を区別してオートホワイトバランス処理を行うことができる。
画像処理装置の構成を図4に示す機能ブロック図を参照して詳細に説明してきたが、画像処理装置としては、プログラムを実行し、上記の各手段として機能させることができるものであればいかなる装置であってもよく、PC、複合機、図6および図7に示すデジタルカメラを挙げることができる。図6は、デジタルカメラの外観図であり、図7は、デジタルカメラの構成を詳細に示したブロック図である。画像処理装置の一例として参照されるデジタルカメラを、図6および図7を参照して簡単に説明する。
まず図6を参照すると、デジタルカメラは、被写体を撮像するために押下されるレリーズシャッタSW1と、撮影モードや再生モードといったモードを変更するためのモードダイアルSW2とを備える。レリーズシャッタSW1は、半押しと全押しがあり、半押しでは、ピントを合わせ、全押しにより撮像が実行される。
また、幅広および遠距離にズーミングを行うズームボタンSW3、SW4と、タイマ撮影する場合に押下されるセルフタイマボタンSW5と、記録画素数、スーパーファイン、ファイン、ノーマルといった圧縮率、露出補正、ISO感度、ホワイトバランス、1つの画像のみを表示するシングル再生、複数の画像をまとめて表示するインディックス再生、動画再生等を設定するためにメニューを表示させるメニューボタンSW6と、メニューを選択したり、各値を上下させるために使用される上、下、左、右ボタンSW7〜SW10と、LCDモニタに画像やメニューを表示させるためのディスプレイボタンSW11と、選択されたメニューを決定し、各値を設定するためのOKボタンSW12とを備えている。
さらに、撮像時に範囲を決定したり、ピントを合わせるために使用される光学ファインダ20と、撮像時の合焦状態を表示するためのAF LED21と、ストロボ充電状態を表すためのストロボLED22と、撮像前に被写体の状態を監視したり、撮像した画像を確認したり、保存された画像やメニュー等を表示するLCDモニタ23と、デジタルカメラの主電源を入れるための電源ボタン24とを備えている。AF LED21およびストロボLED22は、メモリカードアクセス中等の別の表示用途に使用することもできる。
図7を参照すると、デジタルカメラは、複数の独立したレンズ素子を保持する鏡胴ユニットをさらに備えている。この鏡胴ユニットは、被写体の光学画像を取り込むズームレンズ25aと、ズームレンズ25aのズーミングを行うズーム駆動モータ25bとから構成されるズーム光学系と、フォーカスレンズ26aと、フォーカス駆動モータ26bとから構成される焦点を調整するためのフォーカス光学系と、絞り27aと、絞りモータ27bとから構成される光学系において光量を調整するための絞りユニットと、メカシャッタ28aと、メカシャッタモータ28bとから構成されるCCD40からデータを読み出す際にCCD40を遮光するためのメカシャッタユニットと、各モータを駆動するモータドライバ29とを有する。
このモータドライバ29は、リモコンを使用したリモコン受光部69への入力や、図4に示すレリーズシャッタSW1、モードダイアルSW2、各ボタンSW3〜SW12の押下による入力に基づき、プロセッサ内のCPUブロックからの駆動命令によって駆動制御される。
また、このデジタルカメラは、記憶装置として、SDRAM30、ROM31、RAM32、内蔵メモリ33を備えていて、外部メモリであるメモリカードを着脱可能にするためのメモリカードスロットル34も備えている。SDRAM30は、撮像された画像データを格納する。画像データには、画像処理前のデジタルカメラ固有のRAW−RGBデータ、輝度信号(Y)と、輝度信号と青色成分の差(U)と、輝度信号と赤色成分の差(V)の3つの情報で色を表す形式のYUVデータ、静止画像データの圧縮方式の1つであるJPEGデータを挙げることができる。
ROM31は、CPUブロックにより解読可能なコードで記述された、制御プログラムや制御するためのパラメータを格納する。デジタルカメラの電源ボタン24が押下され、電源がONにされると、制御プログラムが図示しないメインメモリに読み出され、CPUブロックがその制御プログラムに従って各部の動作を制御するとともに、制御に必要なデータ等を一時的にRAM32およびプロセッサ内のローカルSRAMに保存する。このROM31に書き換え可能なフラッシュROMを使用すると、制御プログラムやパラメータを変更することができるため、機能のバージョンアップを容易に行うことができる。
上記の画像データは、上記のSDRAM30のほか、内蔵メモリ33やメモリカードスロットル34に装着されたメモリカードに格納することができる。内蔵メモリ33は、メモリカードスロットル34にメモリカードが装着されていない場合でも、撮像された画像データを記憶することができるようにするためのメモリである。これらは、図4に示す記憶手段16として機能する。
また、デジタルカメラは、CCD40およびF/E(フロントエンド)−IC41を備える。CCD40は、光学画像を光電変換するための固体撮像素子である。F/E−IC41は、画像ノイズを除去するための相関二重サンプリングを行うCDS41aと、利得調整を行うAGC41bと、デジタル信号変換を行うA/D変換器41cと、CCD1信号処理ブロックから垂直同期信号(VD)、水平同期信号(HD)が供給され、CPUブロックによってCCD40およびF/E−IC41の駆動タイミング信号を発生するTG41dとから構成される。
ここで、相関二重サンプリングとは、同一信号を一定時間間隔で二度サンプルし、その差をもって信号の波高値を得るものである。利得は、増幅器の入出力間における電圧または電流比で、増幅器の増幅機能を表す値である。
デジタルカメラは、プロセッサを備え、そのプロセッサ内に、CCD40よりF/E−IC41の出力データにホワイトバランス設定やガンマ設定を行い、また、VDおよびHDを供給するCCD1信号処理ブロック50と、フィルタリング処理により、輝度データおよび色差データへの変換を行うCCD2信号処理ブロック51と、装置各部の動作を制御するCPUブロック52と、その制御に必要なデータ等を一時的に保存するローカルSRAM53と、パーソナルコンピュータ(PC)等の外部機器とUSB接続により通信を行うUSBブロック54と、PC等の外部機器とシリアル通信を行うシリアルブロック55と、JPEG圧縮および伸張を行うJPEG CODECブロック56と、画像データのサイズを補間処理により拡大および縮小するRESIZEブロック57と、画像データを液晶モニタやTV等の外部表示機器に表示させるためにビデオ信号に変換するTV信号表示ブロック58と、撮像された画像データを記録するメモリカードの制御を行うメモリカードブロック59とを備える。
プロセッサは、画像データに各種処理を施す際、画像データをSDRAM30に一時的に保存する。保存される画像データは、例えば、CCD40からF/E−IC41を経由して取り込まれ、CCD1信号処理ブロック50によってホワイトバランス設定やガンマ設定が行われ、RAW−RGB画像データとされる。また、CCD2信号処理ブロック51によって輝度データや色差データへの変換が行われると、YUV画像データとされる。JPEG CODECブロック56によってJPEG圧縮が行われると、JPEG画像データとされる。F/E−IC41は、入力手段10として機能し、CPUブロック52は、ROM31から制御プログラムを読み出し実行して、補正手段11、算出手段12、選択手段13、領域指定手段14、距離取得手段15として機能する。
デジタルカメラは、LCDドライバ60、ビデオAMP61、ビデオジャック62、USBコネクタ63、シリアルドライバ回路64、RS−232Cコネクタ65、SUB−CPU66、サブLCD67、ブザー68、リモコン受光部69、LCDドライバ70を備える。
LCDドライバ60は、LCDモニタ23を駆動するドライブ回路であり、TV信号表示ブロック58から出力されたビデオ信号を、LCDモニタ23に表示させるための信号に変換する機能を有している。ビデオAMP61は、TV信号表示ブロック58から出力されたビデオ信号を、75Ωインピーダンスへ変換するためのアンプであり、ビデオジャック62は、TV等の外部表示機器と接続するためのジャックである。
USBコネクタ63は、PC等の外部機器とUSB接続を行うためのコネクタで、シリアルドライバ回路64は、PC等の外部機器とシリアル通信を行うために、プロセッサ内のシリアルブロック55の出力信号を電圧変換するための回路で、RS−232Cコネクタ65は、PC等の外部機器とシリアル接続を行うためのコネクタである。
SUB−CPU66は、ROM31とRAM32とを1つのチップに搭載したCPUで、レリーズシャッタSW1、モードダイアルSW2、各ボタンSW3〜SW12、24やリモコン受光部69の出力信号をユーザの操作情報として、CPUブロック52へ出力したり、CPUブロック52より出力されるカメラ状態を、サブLCD67、AF LED21、ストロボLED22、ブザー68の制御信号へ変換して出力する。
サブLCD67は、例えば、撮像可能な枚数を表示するための表示部とすることができる。LCDドライバ70は、SUB−CPU66の出力信号より、サブLCD67を駆動するためのドライブ回路である。
また、このデジタルカメラは、音声記録ユニット、音声再生ユニット、Bluetooth回路73を備えている。音声記録ユニットは、ユーザが音声入力するためのマイク71aと、入力された音声信号を増幅するマイクAMP71bと、増幅された音声信号を記録する音声記録回路71cとを含んで構成される。音声再生ユニットは、記録された音声信号をスピーカーから出力できる信号へ変換する音声再生回路72cと、変換された音声信号を増幅し、スピーカーを駆動するためのオーディオAMP72bと、音声信号を出力するスピーカー72aとを含んで構成される。
Bluetooth回路73は、Bluetooth対応機器との接続を行う。この回路73がない場合であっても、メモリカードスロットル34へBluetoothカードを接続することにより、そのBluetooth対応機器と接続することができる。イーサネット(登録商標)への接続は、図示しないイーサネット(登録商標)接続回路あるいは無線イーサネット(登録商標)接続回路により行うことができる。このイーサネット(登録商標)接続回路がない場合、メモリカードスロットル34へLANカードや無線LANカードを接続することにより、ネットワークへ接続することができる。
その他、ストロボを発光させるストロボ発光部74、そのストロボ発光部74にストロボを発光するように指示を与えるストロボ回路75、カメラにおける被写体までの距離を測定するための測距ユニット76を備えることができる。
このデジタルカメラは、ユーザが好む被写体を各設定に応じて撮像することができるが、そのほか、同一被写体を短時間に異なる焦点距離で撮像し、複数の画像を得ることができる。被写体が人物で、顔にピントを合わせる場合、焦点距離は、デジタルカメラから顔までの距離である。同一被写体を短時間に異なる焦点距離で撮像する場合、この撮像用にモードを設定することができる。ユーザがこのモードを選択することで、この短時間に異なる焦点距離で撮像して、複数の画像を得ることができる。このモードは、モードダイアルSW2で撮像モードを選択し、メニューボタンSW6を押下して選択することにより設定することができる。
このモードに設定されている場合に、レリーズシャッタSW1が全押しされて撮像記録が指示されると、CPUブロック52は、モータドライバ29を介してフォーカス駆動モータ26bを駆動し、焦点距離を変えながら短時間に複数の画像を連続して撮像する。撮像された画像の画像データは、SDRAM30に格納される。
このデジタルカメラで撮像する際の好みの部分にピントを合わせるには、一度被写体にカメラを向けてレリーズシャッタSW1を半押しする。ピントを合わせたまま撮像するには、オートフォーカスを好みの部分、例えば顔にロックしてから全押しし、撮像を行う。この半押しという作業は、カメラに不慣れな人にとっては難しく、ピンボケ写真の原因となる。そこで、短時間に異なる焦点距離で複数の画像を撮像し、ピントを合わせたい部分を指定して、その部分に最もピントが合った画像を選択するようにする。
その際、図2に示すように、焦点距離の変更によって光学系が変化するため、焦点距離に応じて変倍率を求め、その変倍率に応じて各画像を補正する。これにより、焦点距離が異なる画像間でも正しい評価値を得ることができる。
図8に示すフローチャートを参照して、焦点距離を変えて連続撮像を行い、指定した部分に最もピントが合った画像を自動選択する際、焦点距離に応じて変倍によるずれ補正を行う処理について詳細に説明する。
ステップ800から開始され、この処理を行うにあたってまず、ステップ801において、焦点距離を変えながら連続撮像するモードを選択する。この選択は、ユーザがメニューから選択することにより行われる。
次に、ステップ802において、焦点距離を変えながら同一被写体を撮像し、撮像された画像を画像データとして保存する。画像データは、SDRAM30に格納される。ステップ803において、その画像データの保存とともに、撮像時の焦点距離情報とAF評価値情報を保存する。その後、ステップ804において、指定された撮像枚数に到達したかどうかを判断する。
撮像枚数の指定は、予めユーザが設定することもできるが、デフォルト値として設定された値を採用することもできる。焦点距離情報としては、上述した焦点距離を変えるモータのパルス数を挙げることができる。AF評価値情報は、AF評価値を含む。
ここでAF評価値を算出し、保存する目的は、変倍後のAF評価値を、この撮像時のAF評価値を基にして変倍による位置ずれを補正することにより算出するからである。
ステップ804において、指定枚数に達していない場合には、ステップ802へ戻り、焦点距離を変えて撮像を行う。達した場合には、ステップ805へ進み、ピントを合わせたい領域、すなわち評価領域をユーザインタフェースにより指定する。評価領域の指定は、デジタルカメラであれば、上下左右ボタンSW7〜SW10を使用し、その領域の対角線上の2つの点を指定することにより行うことができる。
ステップ806では、N=1に設定して、ステップ807へ進む。ステップ807では、1つの画像の画像データと、その画像に対応する焦点距離情報およびAF評価値情報を読み出す。ステップ808において、焦点距離と変倍率との関係を示したテーブルから変倍率を算出する。ステップ809では、算出した変倍率を使用してその画像を拡大または縮小する変倍補正を行い、その評価領域におけるAF評価値を算出する。その後、ステップ810へ進み、Nを1つ増分してステップ811へ進む。
ステップ811では、Nが指定枚数以上かを判断する。なお、指定枚数の中の1つは、ずれ量を求めるための基準となる画像である。このため、ここでは指定枚数を超えたか否かを判断するのではなく、指定枚数以上か否かを判断し、この基準画像については変倍補正を行わない。指定枚数に達していない場合は、ステップ807へ戻り、次の画像データと、その画像に対応する焦点距離情報およびAF評価値情報を読み出す。
指定枚数となり、指定枚数以上になった場合は、ステップ812へ進み、算出された評価値を比較し、最も大きい評価値を有する画像を選択する。その後、ステップ813において、選択した画像を出力し、ステップ814において処理を終了する。画像は、LCDモニタ23に表示させることができ、その画像のみを内蔵メモリ33またはメモリカードスロットル34に装着されたメモリカードに格納し、その他の画像データはすべて消去することができる。
焦点距離を変えて撮像した複数の画像間のずれは、焦点距離を長くしていく場合、あるいはその反対に短くしていく場合、指定枚数の中間で撮像された画像を基準として、ずれ量を求めることが好ましい。具体的には、指定枚数が9枚である場合、5枚目に撮像した画像を基準画像とする。
このように、焦点距離を変えた場合に光学系が変化することによる複数の画像間の倍率変化に対し、変倍補正を行い、正しい評価値により評価を行うことで、好みの部分にピントの合った画像の自動選択の失敗を低減させることができる。
上記では焦点距離が異なることから、光学系が変化し、撮像された各画像において、焦点距離が短い場合は画像中の被写体は大きく、長い場合は被写体が小さくなり、それを補正するために、変倍補正を行った。実際の撮像では、短時間で撮像しても手ぶれ等の影響で、図3に示したように、複数の画像間に位置ずれが生じる場合がある。この位置ずれを生じる場合、評価領域が画像間でずれるため、正しい評価値を得ることができず、好みの部分にピントが合った画像の自動選択に失敗するおそれがある。
実際に2秒間に16枚撮像した場合、手ぶれにより、最大15%のずれが生じた。このずれは、水平解像度を3072画素とした場合、約460画素分のずれであり、ずれ量としては大きいものである。
そこで、画像間のずれ量を検出する手段を備え、検出したずれ量に応じて評価領域の位置を補正する。このずれ量を検出する手段として、デジタルカメラの機能として搭載されているハードウェアの動き検出機能を利用することができる。動き検出機能は、動き検出回路によって実現することができ、画像の動く領域を検出する。動いた量は、ずれ量に等しく、ずれ量は、画素数を単位とすることができる。
図9に示すフローチャートを参照して、焦点距離を変えて連続撮像し、指定した部分に最もピントが合った画像を自動選択する際、この動き検出機能を利用してずれ量の補正を行う処理について説明する。
ステップ900において処理を開始し、まず、ステップ901において焦点距離を変えながら連続撮像するモードを選択する。次に、ステップ902において焦点距離を変えて撮像する。その後、ステップ903において動き検出機能を利用して画像間のずれ量を取得する。なお、画像間のずれ量を取得するには、比較対象となる画像が必要であり、その比較対象となる基準画像についてはずれ量は取得されない。ステップ904において、得られた画像間のずれ量、撮像時に得られる焦点距離情報およびAF評価値情報を保存する。保存後、ステップ905において撮像枚数が指定枚数に達したかどうかを判断する。
指定枚数に達していない場合、指定枚数に達するまでステップ902〜904の処理を繰り返す。指定枚数に達した場合は、ステップ906へ進み、ピントを合わせたい領域、すなわち評価領域をユーザインタフェースにより指定する。この場合も、評価領域の指定は、例えば、上下左右ボタンSW7〜SW10により行うことができる。
ステップ907では、N=1に設定して、ステップ908へ進む。ステップ908では、1つの画像の画像データと、画像間のずれ量、焦点距離情報およびAF評価値情報を読み出す。ステップ909において、ピントを合わせたい領域の位置を画像間のずれ量で補正し、その補正後、その領域のAF評価値を算出する。その後、ステップ910へ進み、Nを1つ増分してステップ911へ進む。
ステップ911では、Nが指定枚数以上になったかを判断する。指定枚数以上になっていない場合には、ステップ908へ戻り、次の画像データと、画像間のずれ量、焦点距離情報およびAF評価値情報を読み出す。
指定枚数となり、指定枚数以上になった場合は、ステップ912へ進み、算出された評価値を比較し、最も大きい評価値を有する画像を選択する。その後、ステップ913において、選択した画像を出力し、ステップ914において処理を終了する。画像は、LCDモニタ23に表示させることができ、その画像のみを内蔵メモリ33またはメモリカードスロットル34に装着されたメモリカードに格納し、その他の画像データはすべて消去することができる。
手ぶれ等によって被写体が移動し、複数の画像間で位置ずれが生じた場合においても、位置ずれ補正を行い、正しい評価値により評価を行うことで、好みの部分にピントの合った画像の自動選択の失敗を低減させることができる。
上記実施形態では、デジタルカメラが備える動き検出機能を利用してずれ量を検出したが、デジタルカメラによっては、この動き検出機能を備えていないものもある。そこで、8画素×8画素の領域から4画素×4画素からなる画像パターンに最も類似する領域を探すといったパターンマッチング機能や、画像を指定倍率に縮小する縮小機能等の基本機能しか持たないデジタルカメラにおいても、それらの基本機能を組み合わせ、高速に画像間のずれ量を検出することができるようにする。
この実施形態では、ハードウェアの基本的な制御を行うために組み込まれたファームウェアを使用し、このファームウェアで縮小率を階層的に変えて縮小画像を生成する。その後、階層的に複数の部分でパターンマッチングを行い、画像間のずれ量を求める。指定した回数だけこの作業を行い、多数決によりその画像のずれ量を決定する。
具体的な処理については、図10に示すフローチャートを参照して説明する。ステップ1000において処理を開始し、まず、ステップ1001において、上記の縮小機能を利用して、必要なずれ量の精度に応じた縮小画像を生成する。縮小しすぎると、ずれ量を検出できなくなるため、少なくともずれ量が検出可能なサイズへ縮小される。縮小画像としては、例えば、320画素×240画素とすることができる。
ステップ1002において、直前に生成した画像を1/2に縮小した画像のサイズが16画素×16画素以下になるか否かを判断する。その画素以下にならない場合には、ステップ1003へ進み、1/2に縮小した縮小画像の階層を生成する。その後、ステップ1002へ戻り、再び縮小画像のサイズを判断する。
ステップ1002において縮小画像のサイズが16画素×16画素以下になる場合、ステップ1004へ進み、画像の一方向をx方向とし、それに垂直な方向をy方向とした場合の基準点からの差で表した値であるx、yオフセットを0に初期化する。
ステップ1005において、縮小率が最も高いものを最初の基準画像と対象画像として設定する。その後、ステップ1006において指定回数Nを1に初期化する。
次に、ステップ1007で、基準画像中のデータを8画素×8画素のデータエリアに設定し、ステップ1008で、対象画像中のデータをx、yオフセット分ずらし、4画素×4画素のデータエリアに設定する。ステップ1009で、パターンマッチング機能を利用して、指定した4画素×4画素からなるパターンと最も類似した部分を、その指定した8画素×8画素からなる画像データの中から探す。その後、ステップ1010において指定回数Nを1増加し、ステップ1011において予め指定した回数以上になったかを判断し、なっていない場合、ステップ1007〜1010を繰り返す。指定回数は、任意に設定することができ、例えば3回に設定することができる。
ステップ1011において指定回数が予め指定した回数以上になった場合、ステップ1012へ進むが、このとき、指定回数分ループされ、最も類似する部分が、指定回数と同じ数だけ探索結果として得られている。探索結果は、基本的にはいずれの回数においても同一部分を最も類似する部分として探索し、すべてが同じずれ量となるはずであるが、実際には同一部分を最も類似する部分として探索するとは限らない。その部分が他の部分と近似している場合、他の部分が最も類似する部分として探索される場合もありうる。このため、ステップ1012において、探索結果を多数決により判断し、多数決により決定された探索結果におけるずれ量を、画像補正のためのずれ量として決定する。これにより、一部で正しいずれ量が得られなくても、多数決により正しいずれ量を得ることができる。この段階では、縮小率が最も高いものについてのずれ量が得られる。
ステップ1013へ進み、現在の画像が、縮小率が最低のものかを判断する。最低のものではない場合、ステップ1014へ進み、そのずれ量からx、yオフセットを計算し、ステップ1015で、縮小率が1段階低いものを基準画像と対象画像として設定し、ステップ1006へ戻る。
これに対し、縮小率が最低のものである場合、縮小率がこれ以上低いものが存在しないため、ステップ1016へ進み、ステップ1012で得られたずれ量を出力し、ステップ1017で処理を終了する。出力されるずれ量は、縮小率が最低の画像について得られたずれ量である。
このように、デジタルカメラが動き検出機能を備えていなくても、パターンマッチング機能や縮小機能等の基本機能を組み合わせることで、高速に画像間のずれ量を検出することができる。
デジタルカメラは、画像を細かく分割した各エリアにおける被写体までの距離が分かれば、その距離情報を使用してオブジェクトを識別し、前景をそのままにして背景のみをぼかしたり、前景と背景とを区別してオフホワイトバランス処理を行ったりすることができる。
画像は、図11に示すように、細かく分割して各エリア100を構成することができ、各エリア100での被写体までの距離を距離マップとして得ることができる。距離マップを得るための一例として、短時間に焦点距離を変えて撮像した複数の画像の中から、細かく分割した各エリア100において、複数枚の画像の中で最もピントが合った画像を検出することにより各エリア100までの距離を算出することができる。
従来において複数枚の画像から最もピントが合った画像を検出し、各エリアまでの距離を算出する方法は知られている。しかしながら、従来の方法では、焦点距離を変えると光学系が変化し、複数の画像間で倍率が変化してしまい、合焦状態を評価するための評価領域も画像間でずれてしまうため、正しい評価値が得られず、正しい距離を算出することができない場合が存在した。また、手ぶれ等によって位置ずれが生じ、その結果、評価領域が画像間でずれ、正しい評価値を得ることができないという問題もあった。
しかしながら、上述した変倍補正等を行う画像処理装置を提供することで、正しい評価値を得、正しい距離を算出することができる。
被写体から各エリア100までの距離を算出する処理は、図8〜10のフローチャートに示した処理とほぼ同様である。そこで、異なるステップのみ詳細に説明しながら、この距離を算出する処理を図12、図13を参照して説明する。
図12に示すステップ1200〜1204までは、図8に示すステップ800〜804と同様である。ステップ1204で指定枚数に達した場合、ステップ1205へ進み、まだ距離を得ていない評価領域を処理対象として設定する。評価領域が設定されると、図8に示すステップ806〜811と同様、ステップ1206〜1211において、N=1に初期化し、Nが指定枚数以上になるまで、焦点距離情報とAF評価値情報を読み出し、テーブルから変倍率を読み出し、変倍率で補正をし、評価値を得る処理を行う。
Nが指定枚数以上になった場合、ステップ1212において、得られた評価値を比較し、最も高い評価値である画像の焦点距離を評価領域の距離とする。次に、ステップ1213において、すべてのエリアの距離を得たかどうかを判断する。まだ距離が得られていないものが存在する場合、ステップ1205へ戻り、そのエリアの距離が得られるまでステップ1205〜1212の処理が繰り返される。
すべての評価領域の距離が得られた場合、ステップ1214へ進み、画像の距離マップ、すなわちエリアごとの被写体までの距離を表したマップを出力し、ステップ1215で処理を終了する。このようにして、焦点距離を変えて複数の画像間で倍率が変化しても、正しい評価値を得ることができ、正しい距離を算出することができる。
図13に示すステップ1300〜1305までは、図9に示すステップ900〜905と同様である。ステップ1305で指定枚数に達した場合、ステップ1306へ進み、まだ距離を得ていない評価領域を処理対象として設定する。評価領域が設定されると、図9に示すステップ907〜911と同様、ステップ1307〜1311において、N=1に初期化し、Nが指定枚数を超えるまで、画像間のずれ量、焦点距離情報、AF評価値情報を読み出し、画像間のずれ量により補正をし、評価値を得る処理を行う。
Nが指定枚数を超えた場合、ステップ1312において、得られた評価値を比較し、最も高い評価値である画像の焦点距離を評価領域の距離とする。次に、ステップ1313において、すべてのエリアの距離を得たかどうかを判断する。まだ距離が得られていないものが存在する場合、ステップ1306へ戻り、そのエリアの距離が得られるまでステップ1306〜1312の処理が繰り返される。
すべての評価領域の距離が得られた場合、ステップ1314へ進み、画像の距離マップ、すなわちエリアごとの被写体までの距離を表したマップを出力し、ステップ1315で処理を終了する。このようにして、焦点距離を変えて複数の画像間で倍率が変化しても、正しい評価値を得ることができ、正しい距離を算出することができる。
なお、動き検出機能を備えていないデジタルカメラの場合、図10と同様にしてずれ量を検出することができる。このようにして、焦点距離を変えて複数の画像間でずれが生じたとしても、正しい評価値を得ることができ、正しい距離を算出することができる。
これまで本発明の画像処理装置を上述した実施形態をもって説明してきたが、本発明は上述した実施形態に限定されるものではなく、他の実施形態、追加、変更、削除など、当業者が想到することができる範囲内で変更することができ、いずれの態様においても本発明の作用・効果を奏する限り、本発明の範囲に含まれるものである。
したがって、デジタルカメラによる処理を画像処理方法として、また、その方法を実現するための装置可読なプログラムとしても提供することが可能である。このプログラムは、デジタルカメラでいうROMや外部メモリであるメモリカード等の記録媒体に格納し、CPUブロックが読み出し、実行することができる。
焦点距離を変えて撮像された複数の画像を例示した図。 焦点距離を変えて撮像された2つの画像を例示した図。 手ぶれ等により位置ずれを生じた画像を示した図。 本実施形態の画像処理装置の機能ブロック図。 焦点距離情報と変倍率との関係を表すテーブルを例示した図。 画像処理装置の一例として示したデジタルカメラの外観図。 デジタルカメラの構成ブロック図。 変倍により補正を行う処理を示したフローチャート。 位置ずれを検出する手段により取得したずれ量を使用して補正を行う処理を示したフローチャート。 パターンマッチング機能と縮小機能とを組み合わせてずれ量を求め、そのずれ量を使用して補正を行う処理を示したフローチャート。 画像を複数のエリアに分割したところを示した図。 変倍補正を行い、選択された画像における焦点距離を被写体までの正しい距離として算出する処理を示したフローチャート。 位置ずれを検出する手段により取得したずれ量を使用して補正を行う場合の被写体までの正しい距離を算出する処理を示したフローチャート。
符号の説明
1…評価領域、2…被写体、3〜7…画像、10…入力手段、11…補正手段、11a…位置ずれ量取得手段、11b…変倍手段、12…算出手段、13…選択手段、14…領域指定手段、15…距離取得手段、16…記憶手段、20…光学ファインダ、21…AF LED、22…ストロボLED、23…LCDモニタ、24…電源ボタン、25a…ズームレンズ、25b…ズーム駆動モータ、26a…フォーカスレンズ、26b…フォーカス駆動モータ、27a…絞り、27b…絞りモータ、28a…メカシャッタ、28b…メカシャッタモータ、29…モータドライバ、30…SDRAM、31…ROM、32…RAM、33…内蔵メモリ、34…メモリカードスロットル、40…CCD、41…F/E−IC、41a…CDS、41b…AGC、41c…A/D変換器、41d…TG、50…CCD1信号処理ブロック、51…CCD2信号処理ブロック、52…CPUブロック、53…ローカルSRAM、54…USBブロック、55…シリアルブロック、56…JPEG CODECブロック、57…RESIZEブロック、58…TV信号表示ブロック、59…メモリカードコントローラブロック、60…LCDドライバ、61…ビデオAMP、62…ビデオジャック、63…USBコネクタ、64…シリアルドライバ回路、65…RS−232Cコネクタ、66…SUB−CPU、67…サブLCD、68…ブザー、69…リモコン受光部、70…LCDドライバ、71a…マイク、71b…マイクAMP、71c…音声記録回路、72a…スピーカー、72b…オーディオAMP、72c…音声再生回路、73…ストロボ発光部、74…ストロボ回路、75…測距ユニット、100…エリア、SW1…レリーズシャッタ、SW2…モードダイアル、SW3、SW4…ズームボタン、SW5…セルフタイマボタン、SW6…メニューボタン、SW7…上ボタン、SW8…右ボタン、SW9…左ボタン、SW10…下ボタン、SW11…ディスプレイボタン、SW12…OKボタン

Claims (10)

  1. 同一被写体につき焦点距離を変えて撮像された複数の画像を画像データとして入力する入力手段と、
    入力された前記画像データから前記画像間の撮像された前記被写体の位置ずれ量を得、前記位置ずれ量に応じて各前記画像を補正する補正手段と、
    補正後の各前記画像につき合焦状態を表す評価値を算出する算出手段と、
    算出された前記評価値のうち最も高い評価値を有する画像を、最も焦点が合った画像として選択する選択手段とを含む、画像処理装置。
  2. 前記補正手段は、前記位置ずれ量に応じて各前記画像を変倍する、請求項1に記載の画像処理装置。
  3. 前記画像データは、前記画像間の撮像された前記被写体のサイズに関連する焦点距離情報を含み、前記補正手段は、前記焦点距離情報に対応する変倍率を使用して各前記画像を変倍する、請求項2に記載の画像処理装置。
  4. 前記評価値を算出するための評価領域の設定に応じて各前記画像内に前記評価領域を指定する領域指定手段を備え、前記算出手段は、前記評価領域での合焦状態を表す前記評価値を算出する、請求項1〜3のいずれか1項に記載の画像処理装置。
  5. 前記選択手段により選択された前記最も焦点が合った画像における前記焦点距離を、前記被写体までの距離として取得する距離取得手段をさらに備える、請求項1〜4のいずれか1項に記載の画像処理装置。
  6. 同一被写体につき焦点距離を変えて撮像された複数の画像の中から最も焦点が合った画像を選択する処理を実行するためのコンピュータ可読なプログラムであって、
    前記複数の画像の画像データを読み出すステップと、
    前記画像データから前記画像間の撮像された前記被写体の位置ずれ量を得、前記位置ずれ量に応じて各前記画像を補正するステップと、
    補正後の各前記画像につき合焦状態を表す評価値を算出するステップと、
    算出された前記評価値のうち最も高い評価値を有する画像を、最も焦点が合った画像として選択するステップとを前記コンピュータに実行させる、プログラム。
  7. 前記補正するステップでは、前記位置ずれ量に応じて各前記画像を変倍する、請求項6に記載のプログラム。
  8. 前記画像データは、前記画像間の撮像された前記被写体のサイズに関連する焦点距離情報を含み、前記補正するステップでは、前記焦点距離情報に対応する変倍率を使用して各前記画像を変倍する、請求項7に記載のプログラム。
  9. 前記評価値を算出するための評価領域の設定に応じて各前記画像内に前記評価領域を指定するステップを実行させ、前記算出するステップでは、前記評価領域での合焦状態を表す評価値を算出する、請求項6〜8のいずれか1項に記載のプログラム。
  10. 前記選択するステップで選択された前記最も焦点が合った画像における前記焦点距離を、前記被写体までの距離として取得するステップをさらに実行させる、請求項6〜9のいずれか1項に記載のプログラム。
JP2008023627A 2008-02-04 2008-02-04 画像処理装置およびプログラム Expired - Fee Related JP5005570B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2008023627A JP5005570B2 (ja) 2008-02-04 2008-02-04 画像処理装置およびプログラム
US12/320,615 US8160378B2 (en) 2008-02-04 2009-01-30 Apparatus, method and system for image processing
EP09250274A EP2085817B1 (en) 2008-02-04 2009-02-03 Apparatus, method system, and program for image processing
CN2009100099764A CN101505374B (zh) 2008-02-04 2009-02-04 图像处理设备及方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008023627A JP5005570B2 (ja) 2008-02-04 2008-02-04 画像処理装置およびプログラム

Publications (2)

Publication Number Publication Date
JP2009188490A true JP2009188490A (ja) 2009-08-20
JP5005570B2 JP5005570B2 (ja) 2012-08-22

Family

ID=40602272

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008023627A Expired - Fee Related JP5005570B2 (ja) 2008-02-04 2008-02-04 画像処理装置およびプログラム

Country Status (4)

Country Link
US (1) US8160378B2 (ja)
EP (1) EP2085817B1 (ja)
JP (1) JP5005570B2 (ja)
CN (1) CN101505374B (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011199740A (ja) * 2010-03-23 2011-10-06 Nikon Corp 画像処理装置、および画像処理プログラム
WO2012132129A1 (ja) * 2011-03-31 2012-10-04 富士フイルム株式会社 撮像装置、撮像方法およびプログラム
JP2013005084A (ja) * 2011-06-14 2013-01-07 Pentax Ricoh Imaging Co Ltd 画像処理装置および画像処理方法
US8576327B2 (en) 2009-03-03 2013-11-05 Ricoh Company, Ltd. Focus bracket photographing imaging apparatus, reproduction display apparatus, image recording method, and reproduction displaying method
JP2016059051A (ja) * 2015-10-23 2016-04-21 リコーイメージング株式会社 撮像装置および距離情報取得方法
JP2016102979A (ja) * 2014-11-28 2016-06-02 キヤノン株式会社 撮像装置および撮像装置の制御方法
JP2017500766A (ja) * 2013-10-14 2017-01-05 クアルコム,インコーポレイテッド 再焦点合わせ可能画像

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5267149B2 (ja) * 2009-01-19 2013-08-21 ソニー株式会社 表示制御装置、表示制御方法及びプログラム
JP5521786B2 (ja) * 2010-05-31 2014-06-18 ソニー株式会社 画像処理装置、画像処理方法およびプログラム
KR101700377B1 (ko) 2010-10-20 2017-01-26 삼성전자주식회사 아바타 생성을 위한 처리 장치 및 방법
KR101733792B1 (ko) * 2010-11-10 2017-05-24 삼성전자주식회사 위치 보정 방법 및 장치
EP2461198A3 (en) * 2010-12-01 2017-03-08 BlackBerry Limited Apparatus, and associated method, for a camera module of electronic device
JP5967473B2 (ja) 2011-06-03 2016-08-10 パナソニックIpマネジメント株式会社 撮像装置及び撮像システム
JP2013013063A (ja) 2011-06-03 2013-01-17 Panasonic Corp 撮像装置及び撮像システム
CN102499678B (zh) * 2011-09-23 2013-11-06 中国人民解放军第四军医大学 一种便携式电阻抗成像系统的电阻抗测量装置及测量方法
TWI518436B (zh) * 2012-01-17 2016-01-21 明基電通股份有限公司 影像擷取裝置及影像處理方法
JP6183038B2 (ja) 2012-11-15 2017-08-23 株式会社リコー 領域抽出装置、領域抽出方法およびプログラム
KR102068748B1 (ko) * 2013-07-31 2020-02-11 삼성전자주식회사 디지털 촬영 장치, 그 제어 방법, 및 영상 재생 장치 및 방법
CN104268863B (zh) * 2014-09-18 2017-05-17 浙江宇视科技有限公司 一种变倍校正方法和设备
WO2016088186A1 (ja) * 2014-12-02 2016-06-09 オリンパス株式会社 フォーカス制御装置、内視鏡装置及びフォーカス制御装置の制御方法
CN104618640B (zh) * 2014-12-30 2018-05-01 广东欧珀移动通信有限公司 一种拍照方法及装置

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009094725A (ja) * 2007-10-05 2009-04-30 Fujifilm Corp 撮像方法及び装置

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0560528A (ja) 1991-09-03 1993-03-09 Hitachi Ltd 立体情報入力装置
JPH10142490A (ja) 1996-11-15 1998-05-29 Canon Inc 環境認識装置及びカメラ
JP3630965B2 (ja) 1997-12-24 2005-03-23 キヤノン株式会社 焦点検出装置、カメラ及び焦点検出方法
US7027087B2 (en) 1998-08-21 2006-04-11 Nikon Corporation Electronic camera
US6734896B2 (en) * 2000-04-28 2004-05-11 Matsushita Electric Industrial Co., Ltd. Image processor and monitoring system
CN100419472C (zh) * 2001-11-21 2008-09-17 株式会社大真空 光学滤波器的制造方法
JP2004135029A (ja) 2002-10-10 2004-04-30 Fuji Photo Film Co Ltd デジタルカメラ
CN100414425C (zh) * 2004-02-02 2008-08-27 光宝科技股份有限公司 撷取不失焦影像的影像撷取装置与方法
KR100610895B1 (ko) 2004-07-28 2006-08-10 엘지전자 주식회사 이동 통신 단말기에 제공되는 영상 촬영 장치를 이용하여영상을 촬영하는 방법
JP2006295242A (ja) * 2005-04-05 2006-10-26 Olympus Imaging Corp デジタルカメラ
EP1710609A1 (en) * 2005-04-08 2006-10-11 Deutsches Krebsforschungszentrum Stiftung des öffentlichen Rechts Optical scanning device and method of deriving same
JP2006311340A (ja) 2005-04-28 2006-11-09 Olympus Imaging Corp 画像表示装置及びデジタルカメラ
US7688368B2 (en) * 2006-01-27 2010-03-30 Eastman Kodak Company Image sensor with improved light sensitivity
CN101115132B (zh) * 2006-07-24 2011-08-03 致伸科技股份有限公司 获得高信噪比图像的方法
EP2007135B1 (en) 2007-06-20 2012-05-23 Ricoh Company, Ltd. Imaging apparatus

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009094725A (ja) * 2007-10-05 2009-04-30 Fujifilm Corp 撮像方法及び装置

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8576327B2 (en) 2009-03-03 2013-11-05 Ricoh Company, Ltd. Focus bracket photographing imaging apparatus, reproduction display apparatus, image recording method, and reproduction displaying method
JP2011199740A (ja) * 2010-03-23 2011-10-06 Nikon Corp 画像処理装置、および画像処理プログラム
US8928768B2 (en) 2010-03-23 2015-01-06 Nikon Corporation Image processing device and computer-readable computer program product containing image processing program
WO2012132129A1 (ja) * 2011-03-31 2012-10-04 富士フイルム株式会社 撮像装置、撮像方法およびプログラム
JP5453573B2 (ja) * 2011-03-31 2014-03-26 富士フイルム株式会社 撮像装置、撮像方法およびプログラム
US8780224B2 (en) 2011-03-31 2014-07-15 Fujifilm Corporation Imaging device, method and computer readable medium for generating a blur-adjusted image on the basis of a reference image and a non-reference image
JP2013005084A (ja) * 2011-06-14 2013-01-07 Pentax Ricoh Imaging Co Ltd 画像処理装置および画像処理方法
JP2017500766A (ja) * 2013-10-14 2017-01-05 クアルコム,インコーポレイテッド 再焦点合わせ可能画像
JP2016102979A (ja) * 2014-11-28 2016-06-02 キヤノン株式会社 撮像装置および撮像装置の制御方法
JP2016059051A (ja) * 2015-10-23 2016-04-21 リコーイメージング株式会社 撮像装置および距離情報取得方法

Also Published As

Publication number Publication date
US8160378B2 (en) 2012-04-17
JP5005570B2 (ja) 2012-08-22
CN101505374A (zh) 2009-08-12
EP2085817A2 (en) 2009-08-05
EP2085817A3 (en) 2010-07-28
CN101505374B (zh) 2011-04-20
EP2085817B1 (en) 2011-09-28
US20090196522A1 (en) 2009-08-06

Similar Documents

Publication Publication Date Title
JP5005570B2 (ja) 画像処理装置およびプログラム
EP1998558B1 (en) Image pickup apparatus equipped with function of detecting image shaking
JP4787180B2 (ja) 撮影装置及び撮影方法
JP5564996B2 (ja) 撮像装置及び撮像方法
JP4979507B2 (ja) 撮像装置及び撮像方法
JP2013013050A (ja) 撮像装置及びこの撮像装置を用いた表示方法
JP2012002951A (ja) 撮像装置、合焦位置検出方法および合焦位置検出プログラム
JP2007232793A (ja) 撮像装置
JP2007263926A (ja) 測距装置及び方法
TWI492618B (zh) 攝影裝置及電腦可讀取記錄媒體
JP2003307669A (ja) カメラ
JP2009048136A (ja) 焦点調節装置及び焦点調節方法
JP2007129310A (ja) 撮像装置
JP5092673B2 (ja) 撮像装置及びそのプログラム
JP4855155B2 (ja) 撮像装置及びこれを用いた撮影方法
JP2011217311A (ja) 撮像装置および撮像装置の制御方法
JP5429588B2 (ja) 撮像装置および撮像方法
JP5942260B2 (ja) 撮像装置、画像再生装置
JP2006287814A (ja) 撮像装置及び動きベクトル決定方法
JP2011217334A (ja) 撮像装置および撮像装置の制御方法
JP2010020081A (ja) 撮像装置及び撮像方法、並びに制御プログラム及び記憶媒体
JP5418553B2 (ja) 撮像装置及びこれを用いた撮影方法
JP5157528B2 (ja) 撮影装置
JP2008283477A (ja) 画像処理装置及び画像処理方法
JP2007133044A (ja) 撮像装置および撮像方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100709

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110913

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111018

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111205

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120522

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120523

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150601

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5005570

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees