JP2007306548A - 画像回復装置、カメラ、プログラム - Google Patents

画像回復装置、カメラ、プログラム Download PDF

Info

Publication number
JP2007306548A
JP2007306548A JP2007101323A JP2007101323A JP2007306548A JP 2007306548 A JP2007306548 A JP 2007306548A JP 2007101323 A JP2007101323 A JP 2007101323A JP 2007101323 A JP2007101323 A JP 2007101323A JP 2007306548 A JP2007306548 A JP 2007306548A
Authority
JP
Japan
Prior art keywords
image
camera
unit
specific area
subject
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007101323A
Other languages
English (en)
Other versions
JP4985062B2 (ja
JP2007306548A5 (ja
Inventor
Mitsuhiro Okazaki
光宏 岡崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2007101323A priority Critical patent/JP4985062B2/ja
Priority to US11/783,726 priority patent/US20070242142A1/en
Priority to KR1020070036596A priority patent/KR101370145B1/ko
Priority to EP07007604.7A priority patent/EP1845411B1/en
Publication of JP2007306548A publication Critical patent/JP2007306548A/ja
Publication of JP2007306548A5 publication Critical patent/JP2007306548A5/ja
Application granted granted Critical
Publication of JP4985062B2 publication Critical patent/JP4985062B2/ja
Priority to US15/599,966 priority patent/US20170309000A1/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/73Deblurring; Sharpening
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/18Focusing aids
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6812Motion detection based on additional sensors, e.g. acceleration sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/685Vibration or motion blur correction performed by mechanical compensation
    • H04N23/687Vibration or motion blur correction performed by mechanical compensation by shifting the lens or sensor position
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20004Adaptive image processing
    • G06T2207/20008Globally adaptive
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20201Motion blur correction

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)
  • Adjustment Of Camera Lenses (AREA)

Abstract

【課題】簡単な構成で画像回復を行える画像回復装置、カメラ、プログラムを提供する。
【解決手段】撮影画像内の特定領域を特定し、その特定領域の画像を使用して点像分布関数の演算及び画像回復演算を行う。
【選択図】図1

Description

本発明は、画像回復装置、カメラ、プログラムに関するものである。
撮影時の手振れによる像ブレを低減する光学的なブレ補正装置が知られている。また、像ブレを、画像回復により低減するブレ補正装置が知られている。
特開2004−205799号公報
本発明の課題は、簡単な構成で画像回復を行える画像回復装置、カメラ、プログラムを提供することである。
本発明は、以下のような解決手段により、前記課題を解決する。なお、理解を容易にするために、本発明の実施形態に対応する符号を付して説明するが、これに限定されるものではない。
請求項1の発明は、 撮影画像内の特定領域を特定する特定部(13,42,214)と、前記撮影画像内の前記特定領域の画像を使用して点像分布関数を演算し、前記点像分布関数を用いて前記撮影画像に対して画像回復演算を行う演算部(14,16,215,216)とを備える画像回復装置(10,20,30,40,200)である。
請求項2の発明は、請求項1に記載された画像回復装置であって、前記演算部(14,16,215,216)は、繰り返し計算により前記点像分布関数を演算する画像回復装置(10,20,30,40,200)である。
請求項3の発明は、請求項1又は2に記載された画像回復装置であって、前記特定部(13,42,214)は、前記撮影画像内の主要被写体が存在する領域を前記特定領域として特定する画像回復装置(10,20,30,40,200)である。
請求項4の発明は、請求項1から請求項3までの何れか1項に記載された画像回復装置(10,20,30,40,200)を含むカメラ(10,20,30,40)である。
請求項5の発明は、請求項4に記載されたカメラであって、前記特定部(13)は、前記カメラの撮影画面内に設定された焦点検出領域(21)に対応する領域を前記特定領域とするカメラ(10,20,30)である。
請求項6の発明は、請求項4又は5に記載されたカメラであって、前記特定部(13)は、前記撮影画像の構図変更に応じて前記特定領域を再度特定するカメラ(10,20,30)である。
請求項7の発明は、請求項4から請求項6までの何れか1項に記載されたカメラであって、前記特定部(13)は、前記撮影画像の構図変更がされたとき、構図変更前に特定した被写体が前記撮影画像の何れの領域にあるかを特定し、その特定された領域を前記特定領域とするカメラ(10,20,30)である。
請求項8の発明は、請求項4から請求項7までの何れか1項に記載されたカメラであって、前記特定部(13)は、前記撮影画像の構図変更がされたとき、構図変更前に特定した前記特定領域と、構図変更後の前記撮影画像とを比較して前記特定領域を再度特定するカメラ(10,30)である。
請求項9の発明は、請求項8に記載されたカメラであって、前記構図変更前に特定した前記特定領域の画像は、レンズ(11)の結像状態を固定したときの画像であって、前記カメラの撮影画面内に設定された焦点検出領域(21)に対応する領域の画像であるカメラ(10,20,30)である。
請求項10の発明は、請求項4から請求項7までの何れか1項に記載されたカメラであって、前記特定部(13)は、レンズ(11)の結像状態を固定したときに前記カメラの撮影画面内に設定された焦点検出領域(21)にある被写体を特定し、前記被写体を追尾することにより、前記被写体が前記撮影画像の何れの領域にあるかを特定し、その特定された領域を前記特定領域とするカメラ(10,20,30)である。
請求項11の発明は、請求項4から請求項10までの何れか1項に記載されたカメラであって、前記特定部(13,42)は、被写体の顔を含む領域を前記特定領域とするカメラ(20,40)である。
請求項12の発明は、請求項4から請求項11までの何れか1項に記載されたカメラであって、前記特定部(13,42)は、前記被写体の目を含む領域を前記特定領域とするカメラ(20,40)である。
請求項13の発明は、請求項4から請求項12までの何れか1項に記載されたカメラであって、前記撮影画像内の位置を入力するための入力部(19)を有し、前記特定部(13)は、前記入力部(19)により入力された前記位置に対応する前記撮影画像内の領域を前記特定領域とするカメラ(10,20,30)である。
請求項14の発明は、請求項4から請求項13までの何れか1項に記載されたカメラであって、前記演算部(14,16)を制御する制御部(99)を含み、前記演算部は、前記制御部から制御信号が供給されたときに、前記画像回復演算を行うカメラ(10,20)である。
請求項15の発明は、請求項14に記載されたカメラであって、前記制御部(99)は、前記撮影画像に像ブレが含まれていると判断したときに、前記演算部(14,16)に前記制御信号を供給するカメラ(10,20)である。
請求項16の発明は、撮影画像内の特定領域を特定する特定部(13,42)と、前記撮影画像、及び、前記特定部により特定された前記特定領域に関する情報を出力する出力部(18)とを備えるカメラ(10,20,30,40)である。
請求項17の発明は、撮影画像、及び、前記撮影画像内の特定領域に関する情報が入力される入力部(211)と、前記撮影画像内の前記特定領域の画像を使用して点像分布関数を演算し、前記点像分布関数を用いて前記撮影画像に対して画像回復演算を行う演算部(215,216)とを備える画像回復装置(100,200)である。
請求項18の発明は、請求項17に記載された画像回復装置であって、
前記演算部(215,216)は、繰り返し計算により前記点像分布関数を演算する画像回復装置(100,200)である。
請求項19の発明は、コンピュータ(100,200)を、
撮影画像内の特定領域を特定する特定部(214)と、
前記撮影画像内の前記特定領域の画像を使用して点像分布関数を演算し、前記点像分布関数を用いて前記撮影画像に対して画像回復演算を行う演算部(215,216)として機能させるためのプログラムである。
請求項20の発明は、請求項19に記載されたプログラムであって、前記演算部(215,216)は、繰り返し計算により前記点像分布関数を演算するプログラムである。
請求項21の発明は、撮影画面内に設定された焦点検出領域(21)に対応する特定領域を特定する特定部(13)と、前記特定領域を用いて撮影画像に含まれる像ブレを補正する補正部(14,16)とを備えるカメラ(10,20)である。
請求項22の発明は、撮影画像内の被写体の顔を含む特定領域(23)を特定する特定部(13,22)と、前記特定領域を用いて撮影画像に含まれる像ブレを補正する補正部(14,16)とを備えるカメラ(20)である。
請求項23の発明は、撮影画面内に設定された焦点検出領域(21)に対応する特定領域を特定する特定部(13)と、前記特定部により特定された前記特定領域に関する情報を撮影画像とともに出力する出力部(18)とを備えるカメラ(10,20,30)である。
請求項24の発明は、撮影画像、及び、撮影画面内に設定された焦点検出領域(21)に対応する特定領域に関する情報が入力される入力部(19,211)と、前記特定領域を用いて前記撮影画像に含まれる像ブレを補正する補正部(14,16,215,216)とを備える画像回復装置(10,20,40,100,200)である。
請求項25の発明は、撮影画像内の被写体の顔を含む特定領域(23)を特定する特定部(13,22,42)と、前記特定部により特定された前記特定領域に関する情報を撮影画像とともに出力する出力部(18)とを備えるカメラ(20,40)である。
請求項26の発明は、撮影画像、及び、撮影画像内の被写体の顔を含む特定領域に関する情報が入力される入力部(211)と、前記特定領域を用いて前記撮影画像に含まれる像ブレを補正する補正部(215,216)とを備える画像回復装置(100,200)である。
請求項27の発明は、請求項19又は請求項20に記載されたプログラムであって、前記特定部(214,S230)は、被写体の特徴に基づいて前記特定領域を特定するプログラムである。
請求項28の発明は、請求項27に記載されたプログラムであって、コンピュータ(200)を、前記被写体の特徴を入力する被写体特徴入力部(220,S220)として機能させるためのプログラムである。
請求項29の発明は、請求項27又は請求項28に記載されたプログラムであって、前記特定部(214,S230)は、前記被写体の特徴として少なくとも被写体の顔を用いるプログラムである。
請求項30の発明は、請求項27から請求項29の何れか1項に記載されたプログラムであって、コンピュータ(200)を、前記特定部(214,S230)が前記被写体の特徴に基づいて特定した特定領域が複数存在するときに1つの特定領域を選択する特定領域選択部(214,S250〜S300)として機能させるためのプログラムである。
請求項31の発明は、請求項30に記載されたプログラムであって、前記特定領域選択部は、画像の鮮明度が最も高い領域を特定領域として選択するプログラムである。
請求項32の発明は、請求項30に記載されたプログラムであって、前記特定領域選択部(S250〜S300)は、撮影画像中に占める面積の割合が最も大きい領域を特定領域として選択するプログラムである。
請求項33の発明は、請求項1から請求項3までの何れか1項に記載された画像回復装置であって、前記特定部(214,S230)は、被写体の特徴に基づいて前記特定領域を特定する画像回復装置(200)である。
請求項34の発明は、請求項33に記載された画像回復装置であって、前記被写体の特徴を入力する被写体特徴入力部(220,S220)を有する画像回復装置(200)である。
請求項35の発明は、請求項33又は請求項34に記載された画像回復装置であって、前記特定部(214,S230)は、前記被写体の特徴として少なくとも被写体の顔を用いる画像回復装置(200)である。
請求項36の発明は、請求項33から請求項35の何れか1項に記載された画像回復装置であって、前記特定部(214,S230)が前記被写体の特徴に基づいて特定した複数の前記特定領域のうち少なくとも1つの前記特定領域を選択する特定領域選択部(214,S250〜S300)を有する画像回復装置(200)である。
請求項37の発明は、請求項36に記載された画像回復装置であって、前記特定領域選択部(214,S250〜S300)は、画像の鮮明度が最も高い前記特定領域を選択する画像回復装置(200)である。
請求項38の発明は、請求項36に記載された画像回復装置であって、前記特定領域選択部(214,S250〜S300)は、最も大きい被写体が含まれる前記特定領域を選択する画像回復装置(200)である。
請求項39の発明は、請求項4から請求項15までの何れか1項に記載されたカメラであって、前記特定部(42)は、被写体の特徴に基づいて前記特定領域を特定するカメラ(40)である。
請求項40の発明は、請求項39に記載されたカメラであって、前記被写体の特徴を入力する被写体特徴入力部(19)を有するカメラ(40)である。
請求項41の発明は、請求項39又は請求項40に記載されたカメラであって、前記特定部(42)は、前記被写体の特徴として少なくとも被写体の顔を用いるカメラ(40)である。
請求項42の発明は、請求項39から請求項41の何れか1項に記載されたカメラであって、前記特定部(42)が前記被写体の特徴に基づいて特定した特定領域が複数存在するときに1つの特定領域を選択する特定領域選択部(214)を有するカメラ(40)である。
請求項43の発明は、請求項42に記載されたカメラであって、前記特定領域選択部(214)は、画像の鮮明度が最も高い領域を特定領域として選択するカメラ(40)である。
請求項44の発明は、請求項42に記載されたカメラであって、前記特定領域選択部(214)は、撮影画像中に占める面積の割合が最も大きい領域を特定領域として選択するカメラ(40)である。
請求項45の発明は、請求項4から請求項15までの何れか1項に記載されたカメラであって、前記演算部(14,16)は、画像回復演算を実行中に優先度の高い操作がされたときに画像回復演算を中断、又は、中止するカメラ(40)である。
請求項46の発明は、請求項45に記載されたカメラであって、前記優先度の高い操作には、レリーズスイッチ(5)の操作、メニュースイッチ(6)の操作、コマンド選択ダイヤル(7)の操作、電源スイッチ(8)の操作の何れかを含むカメラ(40)である。
請求項47の発明は、請求項45又は請求項46に記載されたカメラであって、前記演算部(14,16)は、前記優先度の高い操作に基づいた動作が終了した後に前記回復演算を再開するカメラ(40)である。
請求項48の発明は、請求項4から請求項15までの何れか1項に記載されたカメラであって、撮影光学部材の少なくとも一部(41)を撮影中に移動することにより撮影画像の像ブレを軽減する光学式ブレ補正部(2,3,9)を有し、前記演算部(14,16)は、前記光学式ブレ補正部を用いて撮影された撮影画像に対して前記画像回復演算を行えるカメラ(40)である。
なお、符号を付した構成は適宜改良してもよい。また、少なくとも一部を他の構成物に代替してもよく、その配置について特に限定のない構成要件は、実施形態で開示した配置に限らない。
本発明によれば、撮影画像内の特定領域の画像を使用して点像分布関数を演算するので、簡単な構成で画像回復を行える。
以下、図面等を参照して、本発明の実施形態をあげて、さらに詳しく説明する。
(第1実施形態)
図1は、第1実施形態のカメラ10の概要を示す図である。
第1実施形態のカメラ10は、レンズ11,撮像素子12,AFエリア情報取得部13,PSF演算部14,撮影画像取得部15,デコンボリューション実行部16,回復画像取得部17,データ保存部18,入力部19等を備えている。
レンズ11は、撮像素子12に被写体からの光を導き結像させるレンズである。
撮像素子12は、レンズ11により撮像面に結像した像を撮像する素子であり、本実施形態では、CCD(Charge Coupled Device)を使用している。なお、撮像素子には、CCDに限らず、CMOS(Complementary Metal Oxide Semiconductor)等、他の種類のイメージセンサーを使用してもよい。
AFエリア情報取得部13は、オートフォーカス(AF)動作により、合焦に使用されたAF(Auto Focus)エリアの情報を取得し、撮影画像内における主要被写体の位置を特定する。
PSF演算部14は、撮影された画像からPSF(Point Spread Function)を演算する。PSFは、点像分布関数とも呼ばれ、後述するデコンボリューションの演算に使用する。
なお、AFエリア情報取得部13及びPSF演算部14は、カメラの動作を統括制御する制御部(演算処理部)の一部である。
撮影画像取得部15は、撮像素子12が撮影した撮影画像を一時的に記憶する部分である。
デコンボリューション実行部16は、撮影画像データに対して、PSF演算部14が演算したPSFを用いて画像回復演算を行う部分であり、本実施形態では、デコンボリューションを行うことにより、撮影画像に含まれる像ブレの低減を行う。
回復画像取得部17は、デコンボリューション実行部16がデコンボリューションを実行した結果得られた回復画像を一時的に記憶する部分である。
データ保存部18は、撮影画像、及び、回復画像を保存する部分であり、本実施形態では、着脱可能なメモリカードに記録するようになっている。
入力部19は、各種入力操作を行える操作部材である。
ここで、本実施形態のカメラが有するAF動作について説明する。
本実施形態のカメラは、AF動作として、Sモード、Cモードを選択することができる。
Sモードは、シャッターボタンを半押しして不図示の合焦表示が点灯しているときのみ、撮影を行うことができるフォーカス優先のAFモードである。Sモードでは、シャッターボタンを半押しして合焦表示が点灯すると、シャッターボタンを半押ししている間は、焦点調節を行わずに合焦状態を保持するAFロックを行うことができる。従って、シャッターボタンを半押ししていれば、構図変更を行ってAFエリアから被写体がずれたとしても、AFロックを行った被写体に対して焦点が調節された(ピントが合った)状態を保持できる。
Cモードは、合焦表示にかかわらず、シャッターボタンを全押しすればいつでも撮影を行うことができるレリーズ優先のAFモードであり、シャッターボタンを半押ししている間は、常に焦点調節を続ける。従って、構図変更を行うと、AFエリアと重なる位置にある被写体に対して合焦させるように、レンズ11を駆動し続ける。
次に、本実施形態のカメラの動作について説明する。なお、以下に説明する動作は、画像回復を行う設定となっていることを前提としているが、画像回復を行わない設定となっている場合には、画像回復に関する動作を行わず、従来から知られているカメラと同様な動作を行うこともできる。
まず、AFモードとしてSモードが選択されている場合の動作について説明する。以下の説明では、人物を主要な被写体として、人物に合焦させるものとして説明を行う。なお、主要な被写体は、人物に限らず、他の物であってもよい。また、簡単のため、AFエリア21は、撮影範囲の中央に1カ所だけ設けられているものとして説明を行う。
図2は、本実施形態のカメラ10において、Sモードが選択されている場合の動作の流れを示すフローチャートである。
図3は、Sモードが選択されている場合のAFエリア情報取得部13の動作を説明する図である。
ステップ(以下、Sとする)10では、シャッターボタンが半押しされたか否かを判断する。シャッターボタンが半押しされていれば、S20に進み、シャッターボタンが半押しされていなければ、S10の判断を繰り返す。
S20では、合焦したか否かの判断を行う。合焦していれば、S30に進み、合焦していなければS10へ戻る。
Sモードでは、人物に対してAFエリア21が重なるようにしてシャッターボタンを半押しして、合焦させる(図3(a))。合焦すると、不図示の合焦表示が点灯し、合焦状態を保持するAFロックされた状態となる。
S30では、AFエリア情報取得部13は、AFロックが行われた時に撮像素子12により得られるAFロック時の画像を仮保存するとともに、AFロック時に使用されているAFエリア21の位置を記憶する。
S40では、シャッターボタンの半押しが継続されているか否かの判断を行う。シャッターボタンの半押しが継続されている場合には、S50に進み、シャッターボタンの半押しがされていない場合には、S10へ戻る。
ここで、構図を変更したい場合には、合焦表示が点灯した状態でシャッターボタンの半押しを継続したまま、構図を変更する(図3(b))。図3に示した例では、人物を左に寄せて、背景の樹木を撮影画面の右側に含めるように構図変更を行っているが、シャッターボタンの半押しを継続しているので、ピントは人物に合っている状態を保持している。
S50では、シャッターボタンが全押しされているか否かを判断する。シャッターボタンが全押しされている場合には、S60へ進み、シャッターボタンが全押しされていない場合には、S40へ戻る。
S60では、撮像素子12により撮影が行われ、撮影画像が得られる(図3(c))。なお、図3(c)は、撮影時に手振れにより像ブレが発生している例を示している。
S70では、AFエリア情報取得部13は、AFロック時に仮保存しておいたAFロック時の画像と撮影画像とを比較して、AFロック時にAFエリア21が重なっていた被写体が撮影画像の中のいずれの位置にあるのかを特定する。なお、この被写体の比較は、例えば、AFロック時の画像の中の特徴点を複数抽出して、その特徴点を撮影画像の中から探す等の方法により行える。
撮影画像中でAFロック時にAFエリア21が重なっていた被写体の位置が特定されたら、AFエリア情報取得部13は、その位置情報をPSF演算部14へ伝える。
S80では、ブラインドデコンボリューションを開始する。
ここで、画像回復について説明する。
像ブレ等により劣化した画像を劣化の少ない理想的な画像に近づける方法として、画像回復という方法がある。
今、(x,y)を画面上の位置座標とし、ブレ等のない時の画像(以下、元画像)をf(x,y)、ブレ等によって劣化した画像(以下、劣化画像)をg(x,y)、ブレ等によって広がった点像の情報である点像分布関数(PSF)をh(x,y)、ノイズをn(x,y)とすると、これらの間には、次の関係がある。
Figure 2007306548
ここで、点像分布関数h(x,y)とノイズn(x,y)が分かっていれば、コンボリューションの逆演算であるデコンボリューションを行うことにより、劣化画像g(x,y)から元画像f(x,y)が得られる。
また、点像分布関数h(x,y)とノイズn(x,y)が未知の場合であっても、劣化画像g(x,y)から元画像f(x,y)に像回復させる手法として、ブラインドデコンボリューションという画像回復の方法が、G.R.Ayers and J.C.Dainty,"Iterative blind deconvolution method and its applications,"Optics Letters,vol.13(7),pp,547-549,july 1988.に示されている。本実施形態では、このブラインドデコンボリューションを用いて、像ブレを含んだ撮影画像から像ブレを低減した回復画像を求めている。
図4は、PSFを2次元上に模式的に表した図である。図4(a)は、像ブレのない場合を示し、図4(b)は、図4(a)のPSFにさらに像ブレが加わった場合を示している。なお、図4のPSFは、図3に対応させて示している。
図4(a)のPSFは、図3(b)に示した状態が、像ブレなく理想的に撮影された場合のものである。図3(b)の状態では、人物に合焦しており、背景の樹木は、ぼやけている。従って、これに対応するPSFは、図4(a)のように人物に対応する位置のPSFがA1のように点となり、背景の樹木に相当する位置のPSFがボケの影響で広がったものB1になっている。
図4(b)のPSFは、図3(c)のように像ブレを含んだ撮影画像の場合のものである。この図4(b)のPSFには、像ブレの影響を受けて、図4(a)のPSFに加えてさらに像ブレの軌跡に相当する成分が含まれている。
図3(c)の撮影画像に対して、ブラインドデコンボリューションを行い、PSFを求めるとともに、回復画像を得る場合、撮影画像中のいずれの位置の画像を利用してPSFを求めるのかによって、得られる回復画像の質が大きく変わる。
仮に、図3(c)の背景となる樹木部分の画像を用いてブラインドデコンボリューションを行うと、得られるPSFは、図4(b)のB2に示したものとなる。図4(b)では、模式的に示しているので、像ブレの軌跡成分がPSFに正確に得られているように示されているが、実際には、樹木部分の画像がぼやけているので、像ブレとボケが複合されたPSFとなり、像ブレの軌跡成分がPSFに正確には反映されない。また、このB2のPSFを元に回復画像を得ると、像ブレ成分の他に、ボケ成分もPSF中に含まれているので、背景の樹木部分の画像の像ブレを低減する演算に加えて、背景の樹木部分の画像のボケを低減する演算も行われてしまう。この背景の樹木部分の画像回復が理想的に行えるとすれば、像ブレもなくピントの合った樹木の画像が得られることになるが、実際には、撮影者が意図した画像を得ることができない。そして、その演算が撮影画面の全体に対して行われるので、人物部分の画像は、像ブレについては低減される可能性があるが、ボケが増加してしまう。従って、背景の樹木部分の画像を用いてブラインドデコンボリューションを行うことは好ましくない。
一方、図3(c)の人物部分の画像を用いてブラインドデコンボリューションを行うと、得られるPSFは、図4(b)のA2に示したものとなる。人物部分については、ピントが合っているので、像ブレの軌跡成分がPSFに正確に反映される。そして、このPSFには、ボケの成分が含まれていない。従って、このA2のPSFを元に回復画像を得ると、像ブレ成分のみが低減され、人物部分については、像ブレがなくピントも合った良好な画像が得られる。また、背景の樹木部分については、像ブレがなく、撮影時に撮影者が意図していたようにボケのある良好な画像が得られる。
このように、撮影画像中のいずれの位置の画像を用いてブラインドデコンボリューションを行うかは、得られる回復画像の質を高める上で重要である。
図2に戻って、以上のような理由から本実施形態では、S70において、AFロック時にAFエリア21が重なっていた被写体が撮影画像の中のいずれの位置にあるのかを特定し、その位置情報をPSF演算部14へ伝えている。
S90では、PSF演算部14が撮影画像を用いてPSFの演算を行う。ここで、PSFの演算は、S70において伝えられた情報、すなわち、AFロック時にAFエリア21が重なっていた被写体が撮影画像の中のいずれの位置にあるのかの情報を参照して、その位置の画像を用いてPSFの演算を行う。このようにすれば、上述したように理想的なPSFを得ることができる。なお、AFロック時にAFエリア21が重なっていた被写体は、撮影者が鮮明に撮影したいと意図している主要な被写体である場合が多く、その意味でも、この位置についてPSFの演算を行うとよい結果が得られる。
S100では、得られたPSFを用いて撮影画像の全画面に対してデコンボリューションを行い、回復画像を得る。
S110では、得られた回復画像を保存する。なお、回復画像の他に、撮影画像を併せて保存することもできる。
以上の説明は、AFモードとしてSモードが選択されている場合であるので、次に、AFモードとしてCモードが選択されている場合について説明する。
AFモードとしてCモードが選択されている場合には、シャッターボタンが全押しされる直前まで、AFエリア21が重なっている被写体に合焦させるように動作する。従って、Cモードが選択されている場合には、撮影画像中の主要被写体は、撮影時にAFエリア21が重なる位置にあると想定することが適当である。そこで、AFエリア情報取得部13は、Cモードが選択されている場合には、撮影時にAFエリア21が重なる位置に主要被写体が存在するものとして、その情報をPSF演算部14へ伝える。
以上の説明では、簡単のためAFエリア21が撮影画面の中央に1カ所設けられているものとして説明を行ったが、本実施形態のカメラには、撮影画面の中央以外にも、撮影画面中の複数の位置にAFエリア21が配置されている。
図5は、第1実施形態のカメラ10のAFエリア21の分布を示す図である。
図5に示す例では、9カ所のAFエリア21が配置されている。本実施形態のカメラでは、この9カ所のAFエリア21の中から、撮影者が選択したり、カメラが自動的に選んだりして決めた1つのエリアを使用してAF動作を行う。なお、撮影者が使用するAFエリア21を選択する場合には、入力部19を操作することにより行う。入力部19を操作して選択されたAFエリア21は、他のエリアと区別するために表示が他のエリアと異なるようになっている。本実施形態では、図5に示したAFエリア21aのように、表示色の変更が行われる。
また、上述した説明では、AFエリア情報取得部13が自動的に主要被写体の位置を特定するものとして説明したが、ブラインドデコンボリューションを実行する前に、AFエリア情報取得部13が特定した主要被写体位置を表示し、その位置を撮影者が入力部19を操作することにより修正することもできる。
さらに、AFエリア情報取得部13を動作させずに、入力部19を操作することにより、PSFの演算に使用する位置を指定することもできる。
なお、これら入力部19を使用して、PSFの演算に使用する位置の修正や指定を行うときには、選択メニュー等を用いて別途設定を行うことにより実現される。
このように入力部19を使用してPSFの演算に使用する位置を指定したり修正したりできるので、撮影者の意図がより正確に反映され、良好な回復画像を得られる確率が高くなる。
本実施形態によれば、AF動作に使用したAFエリア21の情報を利用して主要被写体の位置を特定し、その位置に対してPSFを演算するので、撮影意図を反映した画像回復を行うことができ、良好な回復画像を得ることができる。
また、入力部19を使用してPSFの演算に使用する位置の指定及び修正が可能であり、主要被写体の位置をより確実に特定できる。
(第2実施形態)
図6は、第2実施形態のカメラ20の概要を示す図である。
なお、前述した第1実施形態と同様の機能を果たす部分には、同一の符号を付して、重複する説明を適宜省略する。
第2実施形態のカメラ20は、第1実施形態のカメラ10に対して顔位置検出部22をさらに加えた形態である。
顔位置検出部22は、撮像素子12が得ている撮影前の画像データから、顔の輪郭形状、目、鼻、口、耳などの各パーツの距離間隔、肌の色情報などの諸情報を得て、演算・分析し人間の顔を認識して、顔の位置を検出する。
本実施形態のカメラ20では、この顔位置検出部22が検出した顔の位置をAFエリアとして、この位置にピントを合わせる。これにより、人物の顔が画面中のいずれの位置にあっても、顔にピントが合った撮影が可能となる。また、人物が移動したり、構図を変えた場合など被写体の距離や位置が変わったりしても、顔位置検出部22は、顔の位置を検出し続ける。
図7は、第2実施形態のカメラ20のAFエリア23の選択例を示す図である。図7(a),(b)に示すように、構図が変わっても、人物の顔の位置にAFエリア23が配置される。
顔位置検出部22は、顔を検出するときに目の位置も特定しているので、その目の位置情報をAFエリア情報取得部13に伝える。
AFエリア情報取得部13は、顔位置検出部22から得た目の位置情報をPSF演算部14に伝え、PSF演算部14は、この目の位置の画像に対してPSFを求める。
人物写真においては、目に合焦させることが望ましい。また、目は、ほぼ点と見なせる被写体であり、PSFの演算を正確に行うことが可能である。
よって、本実施形態によれば、人物撮影において、PSFの演算を正確に行うことができ、良好な回復画像を得ることができる。
(第3実施形態)
図8は、第3実施形態のカメラシステムの概要を示す図である。
なお、前述した第1実施形態と同様の機能を果たす部分には、同一の符号を付して、重複する説明を適宜省略する。
第3実施形態のカメラシステムは、カメラ30と、コンピュータ100にインストールされるプログラムとを有している。
第3実施形態のカメラ30は、第1実施形態のカメラ10が備えているPSF演算部14,デコンボリューション実行部16,回復画像取得部17を備えていない。
また、第3実施形態のカメラ30に設けられているAFエリア情報取得部13は、第1実施形態の場合と同様にして撮影画像中の主要被写体の位置を特定する。そして、その主要被写体の位置に関する情報は、撮影画像取得部15が有する撮影画像のデータに追加されて、データ保存部18により保存される。
さらに、第3実施形態のコンピュータ100にインストールされるプログラムには、コンピュータ100にインストールすることにより、コンピュータ100を以下のように動作させるプログラムが含まれている。
第3実施形態のカメラシステムに含まれるプログラムは、データ保存部18により保存された、主要被写体の位置に関する情報が追加された撮影画像データを、コンピュータ100に入力できるようにする。なお、データ保存部18により保存されたデータをコンピュータ100へ入力する方法は、メモリカードを介してもよいし、カメラ30とコンピュータ100とを有線又は無線により通信可能として行ってもよいし、各種ネットワークを介して行ってもよい。また、データ保存部18により保存されたデータは、複製が可能であるから、メモリカード以外の記憶媒体、例えば、記録ディスク媒体等を介してコンピュータ100に入力してもよい。
さらに、第3実施形態のカメラシステムに含まれるプログラムは、第1実施形態におけるPSF演算部14,デコンボリューション実行部16,回復画像取得部17と同様な動作をコンピュータ100に行わせるようにする。
そして、上記プログラムがインストールされたコンピュータ100は、入力された撮影画像データに対して、同時に得た主要被写体の位置情報を参照して、その対応する位置の画像からPSFをブラインドデコンボリューションにより演算するとともに、回復画像を得る。
ブラインドデコンボリューション等の画像回復演算は、演算量が膨大であることから、コンピュータ100を利用することにより、より高速に演算を行うことができる。また、コンピュータ100を利用することにより、画像回復演算の条件設定等をより細かく行うこともできる。
(第4実施形態)
図9は、第4実施形態のカメラを示す図である。
図10は、第4実施形態のカメラの概要を示す図である。
第4実施形態のカメラ40は、第1実施形態のカメラ10に対して、光学式ブレ補正部及び特徴検出部42を追加している。本実施形態では、光学式ブレ補正部を備えることにより、光学式ブレ補正部を用いて撮影された画像に対しても画像回復を行うことができる。まず、この光学式ブレ補正部について説明する。
なお、前述した第1実施形態と同様の機能を果たす部分には、同一の符号を付して、重複する説明を適宜省略する。
カメラ40は、レンズ41,ブレ補正アクチュエータ2(2p,2y),光学ブレ補正制御部3,レンズ位置検出センサ4(4p,4y),レリーズスイッチ5,メニュースイッチ6,コマンド選択ダイヤル7,電源スイッチ8,角速度センサ9(9p,9y),特徴検出部42等を備えている。
レンズ41は、撮影光学系の一部を形成し、光軸Zに略直交する面内で後述の撮像素子12に対して移動可能に設けられている。レンズ41は、カメラ40の振れによる被写体像の像ブレを打ち消す方向に移動することにより撮像素子12における像ブレを補正するブレ補正光学系である。
ブレ補正アクチュエータ2は、レンズ41を移動させる駆動力を発生する駆動部であり、例えばボイスコイルモータ等が使用される。ブレ補正アクチュエータ2は、ピッチング(Pitching)方向の像ブレ補正時に駆動されるブレ補正アクチュエータ2pと、ヨーイング(Yawing)方向の像ブレ補正時に駆動されるブレ補正アクチュエータ2yとが設けられている。
光学ブレ補正制御部3は、ブレ補正アクチュエータ2を駆動する回路であり、不図示のブレ補正演算回路により算出された駆動目標に従ってブレ補正アクチュエータ2の駆動を行う。
レンズ位置検出センサ4は、レンズ41の位置を検出する位置センサであり、ピッチング(Pitching)方向の像ブレ補正時のレンズ41の位置を検出するレンズ位置検出センサ4pと、ヨーイング(Yawing)方向の像ブレ補正時のレンズ41の位置を検出するレンズ位置検出センサ4yとが設けられている。
角速度センサ9は、カメラ40の角速度を検出する角速度センサであり、ピッチング(Pitching)振れを検出する角速度センサ9pと、ヨーイング(Yawing)振れを検出する角速度センサ9yとが設けられている。
本実施形態におけるカメラ40は、ピッチング(Pitching)、ヨーイング(Yawing)の2系統のブレ補正アクチュエータ2、レンズ位置検出センサ4、角速度センサ9、その他制御系を備えており、ピッチング及びヨーイングに起因する像ブレを、レンズ41を駆動して光学的に補正を行う。
レリーズスイッチ5は、撮影動作を開始するときに操作する2段入力スイッチであり、1段目がON(半押し)すると、測光、AF動作等の撮影準備動作が開始され、2段目がON(全押し)すると不図示のシャッタが動作して撮影が開始される。
メニュースイッチ6は、各種操作メニューの表示や選択を行うボタンである。
コマンド選択ダイヤル7は、各種操作入力時に選択枝を選択するとき等に回転操作されることにより、選択枝や数値を順次変更させる回転スイッチである。
電源スイッチ8は、カメラの電源のONとOFFとを切り替えるスイッチである。
本実施形態では、以上説明した光学式ブレ補正部を用いて撮影された画像に対しても画像回復を行うことができる。これにより、光学式ブレ補正のみでは補正しきれない像ブレを補正できる。また、光学式ブレ補正は、手振れによる像ブレの場合に画像回復に比べて良好な画像を得られる可能性が高いが、被写体ブレに対して像ブレ補正を行うことができないという特徴を有している。本実施形態では、光学式ブレ補正と画像回復とを組み合わせることにより、状況に応じてそれぞれの特徴を生かした像ブレ補正を行うことができる。
次に、第1実施形態のカメラ10に対して本実施形態のカメラ40で追加した特徴検出部42について説明する。
特徴検出部42は、撮像素子12により撮影された画像データから、撮影者が指定した被写体の特徴に合致する領域を検出する部分である。特徴検出部42が検出に使用する被写体の特徴としては、例えば、人間の顔、動物の顔、建物、自動車、列車、飛行機、船、花等である。人間の顔を検出する場合は、第2実施形態と同様な動作によって顔を検出する。また、他の特徴についても、それぞれの特徴を画像処理によって検出する。特徴検出部42は、あらかじめ特徴検出部42に登録された被写体の特徴の中から、撮影者が撮影前に入力部19を操作することにより選択された被写体の特徴(例えば、人間の顔、動物の顔)に合致する被写体を画像中から検知し、撮影画像の中からその位置を特定する。
PSF演算部14では、特徴検出部42が検出した被写体(主要被写体)の位置に関する情報にしたがい、その特定された主要被写体の位置の画像を用いてPSFの演算を行う。これにより、理想的なPSFを求めることが可能となる。
本実施形態では、特徴検出部42が検出した被写体の特徴に合致する領域に関する情報は、PSFの演算に使用するが、この位置情報を、第2実施形態のようにAFエリアを決定するためにも使用してもよい。
ここで、特徴検出部42は、選択された被写体の特徴に合致する被写体が存在する領域を複数検出できる。例えば、選択された被写体の特徴が人間の顔の場合、被写界内に複数の人物が存在している場合がある。この場合、特徴検出部42は、複数選択された領域について、あらかじめ設定されている条件に従って、主要被写体を特定し、PSF演算部14は、その位置の画像を用いてPSFの演算を行う。PSF演算部14は、特徴検出部42により被写体の特徴に合致する領域が複数検出された場合、以下の動作を選択的に行う。
(方法1)検出されている複数の領域を不図示の表示部に表示し、撮影者が入力部19により選択入力した領域についてPSF演算を行い、得られたPSFによりデコンボリューションを行う。
(方法2)複数検出された領域についてそれぞれPSFの演算を行い、それらを平均した平均PSFをさらに求める。デコンボリューションは、この平均PSFを用いて行う。
(方法3)複数検出された領域の中から自動的に1つの領域を選択し、その選択された領域についてPSF演算を行い、得られたPSFによりデコンボリューションを行う。自動的に領域を1つ選択する方法としては、最も鮮明度の高いシャープな画像が得られている領域を選択する方法と、撮影画像中に占める面積の割合が最も大きい領域を選択する方法の2通りの中から選択できる。
なお、以上の3つの方法の何れを用いるか、及び方法3の場合にどちらの方法で自動的に選択するのかは、入力部19を用いてあらかじめ撮影者に選択入力させてもよいし、その都度選択入力させてもよい。
本実施形態では、上述のように被写体の特徴を用いてより的確に主要被写体を特定できるので、撮影者の意図にあった良好な画像を得ることができる。
以上説明したPSF演算、及び、デコンボリューションの処理は、複雑な演算処理が必要であり、処理時間が長くかかる傾向にある。その間、他の操作が行えないと、処理が終わるまで撮影者が待つこととなり、シャッターチャンスを逃すことも想定される。そこで、本実施形態では、PSF演算、及び、デコンボリューションの処理等の画像回復演算を実行中に、優先度の高い操作がされたときには、画像回復演算を中断することとした。本実施形態では、優先度の高い操作として、レリーズスイッチ5の操作、メニュースイッチ6の操作、コマンド選択ダイヤル7の操作、電源スイッチ8の操作を設定している。上記優先度の高い操作が行われた場合には、制御部99は、14,16に対して画像回復演算を中断させ、優先度の高いレリーズスイッチ5の操作、メニュースイッチ6の操作、コマンド選択ダイヤル7の操作、電源スイッチ8の操作に応じた動作に移行する。
(1)画像回復演算中にレリーズスイッチ5の操作がされた場合、制御部99は、14,16に画像回復演算をさせる制御信号の供給を止め、14,16による画像回復演算を中断し、撮影動作に移行する。こうすることにより、撮影を優先できる。撮影動作が終了したら、中断した画像回復演算の途中経過を読み出して、画像回復演算を再開する。
(2)画像回復演算中にメニュースイッチ6の操作、又は、コマンド選択ダイヤル7の操作が行われた場合には、制御部99は、14,16に対する制御信号の供給を止め、14,16による画像回復演算を中断し、メニュースイッチ6の操作、又は、コマンド選択ダイヤル7の操作に応じた各種設定操作等を受け付ける。操作が終了するか、又は、操作が行われなくなってから所定の時間(例えば10秒間)が経過したら、画像回復演算を再開する。メニュースイッチ6の操作、又は、コマンド選択ダイヤル7の操作による各種設定操作は、上述した撮影動作に比べて処理負荷が低いので、画像回復演算の途中経過をカメラ本体内の不図示のメモリ又はデータ保存部18に保存せずともよい。ただし、撮影済み画像の閲覧や加工等の処理負荷の高い処理を実行するような操作が行われた場合には、画像回復演算の途中経過を保存してからメニュースイッチ6の操作、又は、コマンド選択ダイヤル7の操作に応じた処理を行う。
(3)電源スイッチ8の操作、具体的には、画像回復演算中に電源がOFFされた場合には、画像回復演算を中断し、レンズ鏡筒の沈胴動作等を行い、見かけ上は電源が切られた状態とする。その後、画像回復演算を再開し、回復画像が得られたらそれを保存後、処理回路の電源をOFFする。なお、この場合、電源OFF時に裏処理として画像回復を実行している旨の表示を行ってもよい。
このように、本実施形態では、画像回復演算中に撮影者が他の操作を行いたい場合等に、PSF演算、及び、デコンボリューションの処理によって操作を妨げられることがなく、操作性の優れたカメラとすることができる。
図10において、ブレ判断部98は、例えばPSF演算部14の演算結果に基づいて撮影画像に像ブレが含まれているか否かを判断する。
制御部99は、例えば、ブレ判断部98により像ブレが含まれていると判断されたときには、14,16に画像回復演算をさせる制御信号を14,16に供給し、ブレ判断部98により像ブレが含まれていないと判断されたときには制御信号を14,16に供給しない。
(第5実施形態)
図11は、第5実施形態の画像回復装置の概要を示す図である。
画像回復装置200は、コンピュータ210、操作部220、表示部230を有している。
コンピュータ210は、入力部211、演算処理部212、保存部218等を有したコンピュータである。ここで、コンピュータとは、パーソナルコンピュータ等の汎用の機器に限らず、画像回復処理に特化した専用の演算処理部を有した装置も含むものとする。
入力部211は、外部から各種情報をコンピュータ210に入力する装置であり、例えば、メモリカードやデータ記録ディスク等の媒体からデータを読み取る装置や、LAN等を介した通信によってデータを読み取る装置等である。
演算処理部212は、CPU及びメモリ等から構成されており、本実施形態では画像回復用のプログラムがインストールされており、このプログラムによって、以下の各部としての動作を行う。
撮影画像取得部213は、入力部211から入力された撮影済み画像データを一時的に記憶する部分である。なお、以下の説明では、撮影画像取得部213には、入力部211から画像データのみが記憶される例を挙げて説明するが、その他に、画像データに関連づけて画像データ中でPSF演算を行うべき領域(特定領域)に関する情報が入力部211から入力されてもよい。その場合には、以下に説明する特徴検出部214を用いた領域の検出動作を行わずに、画像データに関連づけて記憶されたPSF演算を行うべき領域についてPSF演算を行う。
特徴検出部214は、入力部211から入力された撮影済み画像データから、使用者が指定した被写体の特徴に合致する領域を検出する部分である。特徴検出部214が検出に使用する被写体の特徴としては、例えば、人間の顔、動物の顔、建物、自動車、列車、飛行機、船、花等である。特徴検出部214は、あらかじめ特徴検出部214に登録された複数の被写体の特徴の中から、使用者が操作部220を操作することにより選択された被写体の特徴(例えば、人間の顔、動物の顔等)に合致する被写体を画像中から検知し、撮影済み画像の中からその位置を特定する。
PSF演算部215は、画像データからPSF(Point Spread Function)を演算する。PSFの演算については、先に示した各実施形態と同様である。PSF演算部215では、特徴検出部214が検出した被写体(主要被写体)の位置に関する情報にしたがい、その特定された主要被写体の位置の画像を用いてPSFの演算を行う。これにより、理想的なPSFを求めることが可能となる。
デコンボリューション実行部216は、画像データに対して、PSF演算部215が演算したPSFを用いて画像回復演算を行う部分であり、本実施形態では、デコンボリューションを行うことにより、撮影画像に含まれる像ブレの低減を行う。
回復画像取得部217は、デコンボリューション実行部216がデコンボリューションを実行した結果得られた回復画像を一時的に記憶する部分である。
保存部218は、回復画像を保存する部分であり、ハードディスク装置、メモリカードやデータ記録ディスク等の媒体等に記録するようになっている。
操作部220は、マウスやタッチパネル等のポインティングデバイス、キーボード装置等を備え、コンピュータ本体210に対して各種操作入力を行う部分である。
表示部230は、画像回復装置の各種情報や画像を表示する部分である。
図12は、第5実施形態の画像回復装置の動作を説明するフローチャートである。
画像回復装置の動作を開始すると、まず、ステップ(以下、単にS)210では、撮影済みの画像を例えばメモリカード等から入力し、撮影画像取得部213に記憶する。
S220では、表示部230に表示を行う等して、使用者に対して被写体の特徴を入力させるように促す。例えば、表示部に人間の顔、動物の顔、建物、自動車、列車、飛行機、船、花等に対応したアイコンを表示し、操作部220のマウス等を用いることにより被写体の特徴を選択入力させる。
S230では、特徴検出部214は、S220で指定された被写体の特徴に合致する領域の検出を行う。
ここで、特徴検出部214は、選択された被写体の特徴に合致する被写体が存在する領域を複数検出できる。例えば、選択された被写体の特徴が人間の顔の場合、被写界内に複数の人物が存在している場合がある。
S240では、特徴検出部214が画像中から検出した被写体の特徴に合致する領域が複数あるか否かを判断する。複数ある場合には、S250へ進み、1領域のみ検出された場合には、その単数領域でのPSFを演算(S245)し、S310へ進む。
S250では、複数検出された領域の中からPSFを演算する方法を使用者に選択させるように促す表示を行い、使用者にその選択入力をさせる。本実施形態では、以下の3つの方法から選択させる。
(方法1)検出されている複数の領域を表示部230に表示し、その中から使用者が操作部220を使用して選択した領域についてPSFを演算する方法。この方法が選択されたときには、S260へ進む。
(方法2)複数検出された領域の平均的なPSFを求める方法。この方法が選択されたときには、S270へ進む。
(方法3)複数検出された領域の中から自動的に1つの領域を選択し、その選択された領域についてPSF演算を行う方法。この方法が選択されたときには、S280へ進む。
S260では、方法1によりPSFを演算する。すなわち、使用者が選択した領域についてPSFの演算を行う。
S270では、方法2によりPSF演算を行う。この方法2では、複数検出された領域についてそれぞれPSFの演算を行い、それらを平均した平均PSFをさらに求める。
S280では、PSF演算を行う領域を自動的に選択する方法をさらに使用者に選択入力させる。この自動選択の方法としては、以下の2つがある。
(方法3−1)最も鮮明度の高いシャープな画像が得られている領域を選択する方法。この方法が選択されたときには、S290へ進む。
(方法3−2)撮影画像中に占める面積の割合が最も大きい領域を選択する方法。この方法が選択されたときには、S300へ進む。
S290では、最も鮮明度の高いシャープな画像が得られている領域についてPSFの演算を行う。
S300では、撮影画像中に占める面積の割合が最も大きい領域についてPSFの演算を行う。
S310では、方法1,2,3−1,3−2のいずれかによって求めたPSFによりデコンボリューションを行い、回復画像を得て、処理を終了する。
なお、以上の4つの方法の何れを用いるかは、あらかじめ使用者に選択入力させておいてもよい。
本実施形態では、上述のように被写体の特徴を用いてより的確に主要被写体を特定できるので、使用者の意図にあった良好な画像を得ることができる。
また、ブラインドデコンボリューション等の画像回復演算は、演算量が膨大であることから、コンピュータ210を利用することにより、より高速に演算を行うことができる。さらに、コンピュータ210を利用することにより、画像回復演算の条件設定等をより細かく行うことができる。
(変形形態)
以上説明した実施形態に限定されることなく、種々の変形や変更が可能であって、それらも本発明の均等の範囲内である。
(1)第1実施形態において、AFエリア情報取得部13は、AFロック時に仮保存しておいたAFロック時の画像と撮影画像とを比較して、AFロック時にAFエリア21が重なっていた被写体が撮影画像の中のいずれの位置にあるのかを特定する例を示したが、これに限らず、例えば、AFエリア情報取得部13は、AFロック時にAFエリアと重なる位置にある被写体を認識し、撮影時までこの被写体の位置を逐次更新して撮影画像内における被写体の位置を特定するように構成してもよい。この構成は、撮影動作前にカメラ背面などに設けられた表示装置に撮像素子により得た画像を表示し続けるいわゆるスルー表示画に使用する画像データを利用すれば、多くの部品等を追加することなく実現できる。
(2)第1実施形態及び第2実施形態において、PSF演算部14及びデコンボリューション実行部16は、画像回復を行う設定となっている場合には、常にPSFの演算及び画像回復を行う例を示したが、これに限らず、例えば、AFエリア情報取得部13が得た主要被写体の位置に像ブレがあるか否かを判断し、像ブレがある場合にのみ画像回復を行うようにしてもよい。この場合、例えば、AFエリア情報取得部13に像ブレの有無を判断する機能を追加して、このAFエリア情報取得部13から画像回復を行う旨の指示を受けた場合にのみ、PSF演算部14及びデコンボリューション実行部16が画像回復に関する処理を行うようにすればよい。
(3)各実施形態において、特定した主要被写体の位置情報は、PSFの演算に使用する例を示したが、これに限らず、例えば、露出値の決定や、露出補正、ゲイン(感度)の変更等、他の用途に利用してもよい。
(4)第1実施形態及び第2実施形態において、データ保存部18は、撮影画像、及び、回復画像を保存する例を示したが、この場合において、特定した主要被写体の位置情報を撮影画像に対して追加してもよいし、主要被写体の位置情報、演算されたPSFに関する情報等を回復画像に追加してもよい。
(5)第3実施形態において、プログラムをインストールしたコンピュータ100を用いて画像回復を行う例を示したが、これに限らず、例えば、PSF演算部14,デコンボリューション実行部16,回復画像取得部17と同様な動作が可能な画像回復専用の装置を用いてもよい。また、そのような装置を写真プリント業者等の店舗や拠点事業所等に設置して、撮影者が記録媒体や通信手段を介して主要被写体位置に関する情報が追加された撮影画像データを渡し、当該業者が画像回復処理を行ったり、その結果得られた回復画像を記録媒体に記録したりプリントしたりしてもよい。
(6)第3実施形態において、データ保存部18は、第1実施形態と同様にして得た主要被写体の位置に関する情報を撮影画像のデータに追加する例を示したが、これに限らず、第2実施形態と同様にして顔の位置を判断して主要被写体の位置を特定し、この主要被写体の位置に関する情報を撮影画像のデータに追加してもよい。
(7)第3実施形態において、第1実施形態のカメラ10が備えているPSF演算部14,デコンボリューション実行部16,回復画像取得部17を備えていないカメラ30を用いる例を示したが、これに限らず、例えば、第1実施形態のカメラ10や第2実施形態のカメラ20等と同様なカメラを使用し、撮影画像のデータに主要被写体の位置に関する情報を追加してもよい。
(8)特定領域とは、実施形態に示したAFエリア,主要被写体の位置,顔の位置,目の位置に限定されるものではなく、撮影画像内の任意の領域を用いることができる。
(9)第4実施形態において、光学式ブレ補正部を用いたブレ補正動作を行いながら撮影された画像に対して、さらに画像回復を行う例を示したが、これに限らず、例えば、光学式ブレ補正部を備えないカメラであってもよい。
なお、2005年9月14日に本願と同一出願人から米国出願されたUSシリアルNo.11/224926及び2006年10月20日に本願と同一出願人から米国出願されたUSシリアルNo.11/583777に記載されているように画面内の明るすぎる部分や暗すぎる部分の輝度のみを持ち上げる階調圧縮技術を本実施例の点像分布関数(PSF)を用いた画像回復と併用してもよい。
この場合、前記階調圧縮技術を施した後、本実施例の点像分布関数を用いた画像回復を行ってもよい。また、本実施例の点像分布関数を用いた画像回復を行った後、前記階調圧縮技術を施してもよい。
なお、USシリアルNo.11/224926及びシリアルNo.11/583777は、本願の記載の一部としてインコーポレートされる。
第1実施形態のカメラ10の概要を示す図である。 本実施形態のカメラ10において、Sモードが選択されている場合の動作の流れを示すフローチャートである。 Sモードが選択されている場合のAFエリア情報取得部13の動作を説明する図である。 PSFを2次元上に模式的に表した図である。 第1実施形態のカメラ10のAFエリア21の分布を示す図である。 第2実施形態のカメラ20の概要を示す図である。 第2実施形態のカメラ20のAFエリア23の選択例を示す図である。 第3実施形態のカメラシステムの概要を示す図である。 第4実施形態のカメラ40の光学式ブレ補正部を説明する図である。 第4実施形態のカメラ40の概要を示す図である。 第5実施形態の画像回復装置の概要を示す図である。 第5実施形態の画像回復装置の動作を説明するフローチャートである。
符号の説明
10、20,30:カメラ、13:AFエリア情報取得部、14:PSF演算部、16:デコンボリューション実行部、19:入力部

Claims (48)

  1. 撮影画像内の特定領域を特定する特定部と、
    前記撮影画像内の前記特定領域の画像を使用して点像分布関数を演算し、前記点像分布関数を用いて前記撮影画像に対して画像回復演算を行う演算部と
    を備える画像回復装置。
  2. 請求項1に記載された画像回復装置であって、
    前記演算部は、繰り返し計算により前記点像分布関数を演算する画像回復装置。
  3. 請求項1又は2に記載された画像回復装置であって、
    前記特定部は、前記撮影画像内の主要被写体が存在する領域を前記特定領域として特定する画像回復装置。
  4. 請求項1から請求項3までの何れか1項に記載された画像回復装置を含むカメラ。
  5. 請求項4に記載されたカメラであって、
    前記特定部は、前記カメラの撮影画面内に設定された焦点検出領域に対応する領域を前記特定領域とするカメラ。
  6. 請求項4又は5に記載されたカメラであって、
    前記特定部は、前記撮影画像の構図変更に応じて前記特定領域を再度特定するカメラ。
  7. 請求項4から請求項6までの何れか1項に記載されたカメラであって、
    前記特定部は、前記撮影画像の構図変更がされたとき、構図変更前に特定した被写体が前記撮影画像の何れの領域にあるかを特定し、その特定された領域を前記特定領域とするカメラ。
  8. 請求項4から請求項7までの何れか1項に記載されたカメラであって、
    前記特定部は、前記撮影画像の構図変更がされたとき、構図変更前に特定した前記特定領域と、構図変更後の前記撮影画像とを比較して前記特定領域を再度特定するカメラ。
  9. 請求項8に記載されたカメラであって、
    前記構図変更前に特定した前記特定領域の画像は、レンズの結像状態を固定したときの画像であって、前記カメラの撮影画面内に設定された焦点検出領域に対応する領域の画像であるカメラ。
  10. 請求項4から請求項7までの何れか1項に記載されたカメラであって、
    前記特定部は、レンズの結像状態を固定したときに前記カメラの撮影画面内に設定された焦点検出領域にある被写体を特定し、前記被写体を追尾することにより、前記被写体が前記撮影画像の何れの領域にあるかを特定し、その特定された領域を前記特定領域とするカメラ。
  11. 請求項4から請求項10までの何れか1項に記載されたカメラであって、
    前記特定部は、被写体の顔を含む領域を前記特定領域とするカメラ。
  12. 請求項4から請求項11までの何れか1項に記載されたカメラであって、
    前記特定部は、前記被写体の目を含む領域を前記特定領域とするカメラ。
  13. 請求項4から請求項12までの何れか1項に記載されたカメラであって、
    前記撮影画像内の位置を入力するための入力部を有し、
    前記特定部は、前記入力部により入力された前記位置に対応する前記撮影画像内の領域を前記特定領域とするカメラ。
  14. 請求項4から請求項13までの何れか1項に記載されたカメラであって、
    前記演算部を制御する制御部を含み、
    前記演算部は、前記制御部から制御信号が供給されたときに、前記画像回復演算を行うカメラ。
  15. 請求項14に記載されたカメラであって、
    前記制御部は、前記撮影画像に像ブレが含まれていると判断したときに、前記演算部に前記制御信号を供給するカメラ。
  16. 撮影画像内の特定領域を特定する特定部と、
    前記撮影画像、及び、前記特定部により特定された前記特定領域に関する情報を出力する出力部と
    を備えるカメラ。
  17. 撮影画像、及び、前記撮影画像内の特定領域に関する情報が入力される入力部と、
    前記撮影画像内の前記特定領域の画像を使用して点像分布関数を演算し、前記点像分布関数を用いて前記撮影画像に対して画像回復演算を行う演算部と
    を備える画像回復装置。
  18. 請求項17に記載された画像回復装置であって、
    前記演算部は、繰り返し計算により前記点像分布関数を演算する画像回復装置。
  19. コンピュータを、
    撮影画像内の特定領域を特定する特定部と、
    前記撮影画像内の前記特定領域の画像を使用して点像分布関数を演算し、前記点像分布関数を用いて前記撮影画像に対して画像回復演算を行う演算部として機能させるためのプログラム。
  20. 請求項19に記載されたプログラムであって、
    前記演算部は、繰り返し計算により前記点像分布関数を演算するプログラム。
  21. 撮影画面内に設定された焦点検出領域に対応する特定領域を特定する特定部と、
    前記特定領域を用いて撮影画像に含まれる像ブレを補正する補正部と
    を備えるカメラ。
  22. 撮影画像内の被写体の顔を含む特定領域を特定する特定部と、
    前記特定領域を用いて撮影画像に含まれる像ブレを補正する補正部と
    を備えるカメラ。
  23. 撮影画面内に設定された焦点検出領域に対応する特定領域を特定する特定部と、
    前記特定部により特定された前記特定領域に関する情報を撮影画像とともに出力する出力部と
    を備えるカメラ。
  24. 撮影画像、及び、撮影画面内に設定された焦点検出領域に対応する特定領域に関する情報が入力される入力部と、
    前記特定領域を用いて前記撮影画像に含まれる像ブレを補正する補正部と
    を備える画像回復装置。
  25. 撮影画像内の被写体の顔を含む特定領域を特定する特定部と、
    前記特定部により特定された前記特定領域に関する情報を撮影画像とともに出力する出力部と
    を備えるカメラ。
  26. 撮影画像、及び、撮影画像内の被写体の顔を含む特定領域に関する情報が入力される入力部と、
    前記特定領域を用いて前記撮影画像に含まれる像ブレを補正する補正部と
    を備える画像回復装置。
  27. 請求項19又は請求項20に記載されたプログラムであって、
    前記特定部は、被写体の特徴に基づいて前記特定領域を特定するプログラム。
  28. 請求項27に記載されたプログラムであって、
    コンピュータを、
    前記被写体の特徴を入力する被写体特徴入力部として機能させるためのプログラム。
  29. 請求項27又は請求項28に記載されたプログラムであって、
    前記特定部は、前記被写体の特徴として少なくとも被写体の顔を用いるプログラム。
  30. 請求項27から請求項29の何れか1項に記載されたプログラムであって、
    コンピュータを、
    前記特定部が前記被写体の特徴に基づいて特定した特定領域が複数存在するときに1つの特定領域を選択する特定領域選択部として機能させるためのプログラム。
  31. 請求項30に記載されたプログラムであって、
    前記特定領域選択部は、画像の鮮明度が最も高い領域を特定領域として選択するプログラム。
  32. 請求項30に記載されたプログラムであって、
    前記特定領域選択部は、撮影画像中に占める面積の割合が最も大きい領域を特定領域として選択するプログラム。
  33. 請求項1から請求項3までの何れか1項に記載された画像回復装置であって、
    前記特定部は、被写体の特徴に基づいて前記特定領域を特定する画像回復装置。
  34. 請求項33に記載された画像回復装置であって、
    前記被写体の特徴を入力する被写体特徴入力部を有する画像回復装置。
  35. 請求項33又は請求項34に記載された画像回復装置であって、
    前記特定部は、前記被写体の特徴として少なくとも被写体の顔を用いる画像回復装置。
  36. 請求項33から請求項35の何れか1項に記載された画像回復装置であって、
    前記特定部が前記被写体の特徴に基づいて特定した複数の前記特定領域のうち少なくとも1つの前記特定領域を選択する特定領域選択部を有する画像回復装置。
  37. 請求項36に記載された画像回復装置であって、
    前記特定領域選択部は、画像の鮮明度が最も高い前記特定領域を選択する画像回復装置。
  38. 請求項36に記載された画像回復装置であって、
    前記特定領域選択部は、最も大きい被写体が含まれる前記特定領域を選択する画像回復装置。
  39. 請求項4から請求項15までの何れか1項に記載されたカメラであって、
    前記特定部は、被写体の特徴に基づいて前記特定領域を特定するカメラ。
  40. 請求項39に記載されたカメラであって、
    前記被写体の特徴を入力する被写体特徴入力部を有するカメラ。
  41. 請求項39又は請求項40に記載されたカメラであって、
    前記特定部は、前記被写体の特徴として少なくとも被写体の顔を用いるカメラ。
  42. 請求項39から請求項41の何れか1項に記載されたカメラであって、
    前記特定部が前記被写体の特徴に基づいて特定した特定領域が複数存在するときに1つの特定領域を選択する特定領域選択部を有するカメラ。
  43. 請求項42に記載されたカメラであって、
    前記特定領域選択部は、画像の鮮明度が最も高い領域を特定領域として選択するカメラ。
  44. 請求項42に記載されたカメラであって、
    前記特定領域選択部は、撮影画像中に占める面積の割合が最も大きい領域を特定領域として選択するカメラ。
  45. 請求項4から請求項15までの何れか1項に記載されたカメラであって、
    前記演算部は、画像回復演算を実行中に優先度の高い操作がされたときに画像回復演算を中断、又は、中止するカメラ。
  46. 請求項45に記載されたカメラであって、
    前記優先度の高い操作には、レリーズスイッチの操作、メニュースイッチの操作、コマンド選択ダイヤルの操作、電源スイッチの操作の何れかを含むカメラ。
  47. 請求項45又は請求項46に記載されたカメラであって、
    前記演算部は、前記優先度の高い操作に基づいた動作が終了した後に前記回復演算を再開するカメラ。
  48. 請求項4から請求項15までの何れか1項に記載されたカメラであって、
    撮影光学部材の少なくとも一部を撮影中に移動することにより撮影画像の像ブレを軽減する光学式ブレ補正部を有し、
    前記演算部は、前記光学式ブレ補正部を用いて撮影された撮影画像に対して前記画像回復演算を行えるカメラ。
JP2007101323A 2006-04-14 2007-04-09 カメラ Expired - Fee Related JP4985062B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2007101323A JP4985062B2 (ja) 2006-04-14 2007-04-09 カメラ
US11/783,726 US20070242142A1 (en) 2006-04-14 2007-04-11 Image restoration apparatus, camera and program
KR1020070036596A KR101370145B1 (ko) 2006-04-14 2007-04-13 화상 회복 장치, 카메라, 프로그램
EP07007604.7A EP1845411B1 (en) 2006-04-14 2007-04-13 Image restoration apparatus, camera and program
US15/599,966 US20170309000A1 (en) 2006-04-14 2017-05-19 Image restoration apparatus, camera and program

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2006112240 2006-04-14
JP2006112240 2006-04-14
JP2007101323A JP4985062B2 (ja) 2006-04-14 2007-04-09 カメラ

Publications (3)

Publication Number Publication Date
JP2007306548A true JP2007306548A (ja) 2007-11-22
JP2007306548A5 JP2007306548A5 (ja) 2010-05-13
JP4985062B2 JP4985062B2 (ja) 2012-07-25

Family

ID=38335462

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007101323A Expired - Fee Related JP4985062B2 (ja) 2006-04-14 2007-04-09 カメラ

Country Status (4)

Country Link
US (2) US20070242142A1 (ja)
EP (1) EP1845411B1 (ja)
JP (1) JP4985062B2 (ja)
KR (1) KR101370145B1 (ja)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010078765A (ja) * 2008-09-25 2010-04-08 Sanyo Electric Co Ltd 撮像装置
JP2011244028A (ja) * 2010-05-14 2011-12-01 Casio Comput Co Ltd 撮像装置、手ブレ補正方法、プログラム
JP2011244027A (ja) * 2010-05-14 2011-12-01 Casio Comput Co Ltd 撮像装置、手ブレ補正方法、プログラム
JP2012109826A (ja) * 2010-11-18 2012-06-07 Fujitsu Ltd 撮像装置、画像処理装置および撮像方法
JP2012163588A (ja) * 2011-02-03 2012-08-30 Olympus Imaging Corp 撮像装置
US8315455B2 (en) 2008-11-07 2012-11-20 Seiko Epson Corporation Robot system, robot control device and method for controlling robot
JP2014146107A (ja) * 2013-01-28 2014-08-14 Canon Inc 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体
WO2014155754A1 (ja) * 2013-03-28 2014-10-02 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法及びプログラム並びに記録媒体
WO2015012040A1 (ja) * 2013-07-25 2015-01-29 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法及びプログラム
WO2015015966A1 (ja) * 2013-08-01 2015-02-05 富士フイルム株式会社 撮像装置、撮像方法及び画像処理装置
JP2016118799A (ja) * 2016-02-08 2016-06-30 オリンパス株式会社 撮像装置
JP2017092749A (ja) * 2015-11-12 2017-05-25 キヤノン株式会社 撮像装置、ブレ補正方法、プログラム、および、記憶媒体
JP2019537748A (ja) * 2016-10-26 2019-12-26 中国科学技▲術▼大学University Of Science And Technology Of China 三次元画像化可能な顕微鏡及び画像化方法

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101809994B (zh) * 2007-08-10 2012-11-14 佳能株式会社 摄像设备及其控制方法
EP2175416A1 (en) * 2008-10-13 2010-04-14 Sony Corporation Method and system for image deblurring
US8433158B2 (en) * 2008-10-17 2013-04-30 Massachusetts Institute Of Technology Optical superresolution using multiple images
KR101594297B1 (ko) * 2009-08-24 2016-02-16 삼성전자주식회사 오토 포커싱을 이용한 흔들린 영상 판단 방법 및 장치
JP5635844B2 (ja) * 2010-09-06 2014-12-03 キヤノン株式会社 焦点調整装置および撮像装置
CN105103534B (zh) * 2013-03-27 2018-06-22 富士胶片株式会社 摄像装置及校准方法
WO2014185172A1 (ja) * 2013-05-13 2014-11-20 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法、及びプログラム
KR102423364B1 (ko) * 2015-08-12 2022-07-22 삼성전자 주식회사 영상을 제공하는 방법 및 이를 지원하는 전자 장치
TW201716933A (zh) * 2015-11-06 2017-05-16 原相科技股份有限公司 具有補償失焦影像的光學導航裝置及其補償電路
DE102016000873A1 (de) * 2016-01-27 2017-07-27 Diehl Defence Gmbh & Co. Kg Verfahren zum Erkennen eines Objekts in einem Suchbild
EP3586717B1 (en) * 2017-03-27 2023-07-05 Sony Olympus Medical Solutions Inc. Control device and endoscope system
JP2019008178A (ja) * 2017-06-26 2019-01-17 キヤノン株式会社 撮像装置およびその制御方法
CN110049234B (zh) * 2019-03-05 2021-08-24 努比亚技术有限公司 一种成像方法、移动终端及存储介质

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11136568A (ja) * 1997-10-31 1999-05-21 Fuji Photo Film Co Ltd タッチパネル操作式カメラ
JP2002057937A (ja) * 2000-08-09 2002-02-22 Nikon Corp 電子カメラ
JP2002300460A (ja) * 2001-03-30 2002-10-11 Minolta Co Ltd 画像処理装置および画像処理プログラム
JP2004205806A (ja) * 2002-12-25 2004-07-22 Nikon Corp ブレ補正カメラ
JP2004239962A (ja) * 2003-02-03 2004-08-26 Nikon Corp ブレ補正カメラシステム、ブレ補正カメラ、画像回復装置及びブレ補正プログラム
JP2005122688A (ja) * 2003-09-26 2005-05-12 Fuji Photo Film Co Ltd 画像処理方法および装置並びにプログラム
JP2005269604A (ja) * 2004-02-20 2005-09-29 Fuji Photo Film Co Ltd 撮像装置、撮像方法、及び撮像プログラム
JP2006318449A (ja) * 2005-04-13 2006-11-24 Fujifilm Holdings Corp アルバム作成装置、アルバム作成方法、及びプログラム

Family Cites Families (51)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE3422144A1 (de) * 1984-06-14 1985-12-19 Josef Prof. Dr. 6900 Heidelberg Bille Geraet zur darstellung flaechenhafter bereiche des menschlichen auges
US4834528A (en) * 1986-08-15 1989-05-30 Cornell Research Foundation, Inc. Infrared photoretinoscope
US5193124A (en) * 1989-06-29 1993-03-09 The Research Foundation Of State University Of New York Computational methods and electronic camera apparatus for determining distance of objects, rapid autofocusing, and obtaining improved focus images
US5023719A (en) * 1989-10-16 1991-06-11 Hughes Aircraft Company Imaging system for providing multiple simultaneous real time images
US5453844A (en) * 1993-07-21 1995-09-26 The University Of Rochester Image data coding and compression system utilizing controlled blurring
US5696848A (en) * 1995-03-09 1997-12-09 Eastman Kodak Company System for creating a high resolution image from a sequence of lower resolution motion images
CA2172471C (en) * 1995-03-29 1999-01-26 Hua Qi Apparatus for and method of simulating ocular optical system
JP3532368B2 (ja) * 1996-12-10 2004-05-31 富士写真フイルム株式会社 内視鏡
KR100247938B1 (ko) * 1997-11-19 2000-03-15 윤종용 영상처리 시스템의 디지탈 초점 조절방법 및 장치
US6567570B1 (en) * 1998-10-30 2003-05-20 Hewlett-Packard Development Company, L.P. Optical image scanner with internal measurement of point-spread function and compensation for optical aberrations
US6289113B1 (en) * 1998-11-25 2001-09-11 Iridian Technologies, Inc. Handheld iris imaging apparatus and method
US6285799B1 (en) * 1998-12-15 2001-09-04 Xerox Corporation Apparatus and method for measuring a two-dimensional point spread function of a digital image acquisition system
JP2000298298A (ja) * 1999-04-14 2000-10-24 Olympus Optical Co Ltd カメラ
US20010008418A1 (en) * 2000-01-13 2001-07-19 Minolta Co., Ltd. Image processing apparatus and method
ATE319119T1 (de) * 2000-05-22 2006-03-15 Hoya Corp Verfahren und gerät zur simulation eines optischen okularsystems
JP4389371B2 (ja) * 2000-09-28 2009-12-24 株式会社ニコン 画像修復装置および画像修復方法
JP2002300461A (ja) * 2001-03-30 2002-10-11 Minolta Co Ltd 画像復元装置、画像復元方法、プログラム及び記録媒体
JP2003079685A (ja) * 2001-09-17 2003-03-18 Seiko Epson Corp 視覚障害者歩行用補助具
US6928193B2 (en) * 2001-12-05 2005-08-09 Martin Gersten Fundus imaging
US6873741B2 (en) * 2002-01-10 2005-03-29 Sharp Laboratories Of America Nonlinear edge-enhancement filter
US20030190090A1 (en) * 2002-04-09 2003-10-09 Beeman Edward S. System and method for digital-image enhancement
US7197193B2 (en) * 2002-05-03 2007-03-27 Creatv Microtech, Inc. Apparatus and method for three dimensional image reconstruction
AU2003272202A1 (en) * 2002-06-21 2004-01-06 The Trustees Of Columbia University In The City Of New York Systems and methods for de-blurring motion blurred images
JP2004032442A (ja) * 2002-06-26 2004-01-29 Kyocera Corp 携帯端末及びその報知方法
US7796784B2 (en) * 2002-11-07 2010-09-14 Panasonic Corporation Personal authentication method for certificating individual iris
FR2848206B1 (fr) * 2002-12-05 2005-02-25 Cit Alcatel Procede de realisation de preforme a fibre optique
AU2003296127A1 (en) * 2002-12-25 2004-07-22 Nikon Corporation Blur correction camera system
JP4311013B2 (ja) * 2002-12-25 2009-08-12 株式会社ニコン ブレ補正カメラシステム及びブレ補正カメラ
WO2004063989A2 (en) * 2003-01-16 2004-07-29 D-Blur Technologies Ltd. Camera with image enhancement functions
US7440634B2 (en) * 2003-06-17 2008-10-21 The Trustees Of Columbia University In The City Of New York Method for de-blurring images of moving objects
US7639889B2 (en) * 2004-11-10 2009-12-29 Fotonation Ireland Ltd. Method of notifying users regarding motion artifacts based on image analysis
JP3918788B2 (ja) * 2003-08-06 2007-05-23 コニカミノルタフォトイメージング株式会社 撮像装置、およびプログラム
US7720302B2 (en) * 2003-09-25 2010-05-18 Fujifilm Corporation Method, apparatus and program for image processing
JP4235539B2 (ja) * 2003-12-01 2009-03-11 独立行政法人科学技術振興機構 画像構成装置及び画像構成方法
US7549745B2 (en) * 2004-02-02 2009-06-23 Iatia Imaging Pty Ltd Apparatus and method for correcting for aberrations in a lens system
JP4352916B2 (ja) * 2004-02-04 2009-10-28 ソニー株式会社 撮像装置及び撮像方法
JP2005267607A (ja) * 2004-02-20 2005-09-29 Fuji Photo Film Co Ltd デジタル図鑑システム、図鑑検索方法、及び図鑑検索プログラム
JP2005309560A (ja) * 2004-04-19 2005-11-04 Fuji Photo Film Co Ltd 画像処理方法および装置並びにプログラム
JP2006024193A (ja) * 2004-06-07 2006-01-26 Fuji Photo Film Co Ltd 画像補正装置、画像補正プログラム、画像補正方法、および画像補正システム
US20050285947A1 (en) * 2004-06-21 2005-12-29 Grindstaff Gene A Real-time stabilization
US7474316B2 (en) * 2004-08-17 2009-01-06 Sharp Laboratories Of America, Inc. Bit-depth extension of digital displays via the use of models of the impulse response of the visual system
JP2006058405A (ja) * 2004-08-18 2006-03-02 Casio Comput Co Ltd カメラ装置、オートフォーカス制御方法
US7599578B2 (en) * 2004-09-17 2009-10-06 Nikon Corporation Apparatus, program, and method for image tone transformation, and electronic camera
US8439502B2 (en) * 2005-03-09 2013-05-14 Advanced Vision Engineering, Inc Algorithms and methods for determining aberration-induced vision symptoms in the eye from wave aberration
US7599555B2 (en) * 2005-03-29 2009-10-06 Mitsubishi Electric Research Laboratories, Inc. System and method for image matting
US7237721B2 (en) * 2005-05-24 2007-07-03 Nokia Corporation Image processing for pattern detection
JP4747003B2 (ja) * 2005-06-22 2011-08-10 富士フイルム株式会社 自動合焦制御装置およびその制御方法
US20070009169A1 (en) * 2005-07-08 2007-01-11 Bhattacharjya Anoop K Constrained image deblurring for imaging devices with motion sensing
US7755670B2 (en) * 2005-10-24 2010-07-13 Nikon Corporation Tone-conversion device for image, program, electronic camera, and tone-conversion method
US7715588B2 (en) * 2005-10-28 2010-05-11 Lawrence N. Ginsberg Two level cross-correlation based system for watermarking continuous digital media
WO2009019848A1 (ja) * 2007-08-03 2009-02-12 Panasonic Corporation 撮影装置、撮影方法、およびプログラム

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11136568A (ja) * 1997-10-31 1999-05-21 Fuji Photo Film Co Ltd タッチパネル操作式カメラ
JP2002057937A (ja) * 2000-08-09 2002-02-22 Nikon Corp 電子カメラ
JP2002300460A (ja) * 2001-03-30 2002-10-11 Minolta Co Ltd 画像処理装置および画像処理プログラム
JP2004205806A (ja) * 2002-12-25 2004-07-22 Nikon Corp ブレ補正カメラ
JP2004239962A (ja) * 2003-02-03 2004-08-26 Nikon Corp ブレ補正カメラシステム、ブレ補正カメラ、画像回復装置及びブレ補正プログラム
JP2005122688A (ja) * 2003-09-26 2005-05-12 Fuji Photo Film Co Ltd 画像処理方法および装置並びにプログラム
JP2005269604A (ja) * 2004-02-20 2005-09-29 Fuji Photo Film Co Ltd 撮像装置、撮像方法、及び撮像プログラム
JP2006318449A (ja) * 2005-04-13 2006-11-24 Fujifilm Holdings Corp アルバム作成装置、アルバム作成方法、及びプログラム

Cited By (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010078765A (ja) * 2008-09-25 2010-04-08 Sanyo Electric Co Ltd 撮像装置
US8315455B2 (en) 2008-11-07 2012-11-20 Seiko Epson Corporation Robot system, robot control device and method for controlling robot
US8666141B2 (en) 2008-11-07 2014-03-04 Seiko Epson Corporation Robot system, robot control device and method for controlling robot
JP2011244028A (ja) * 2010-05-14 2011-12-01 Casio Comput Co Ltd 撮像装置、手ブレ補正方法、プログラム
JP2011244027A (ja) * 2010-05-14 2011-12-01 Casio Comput Co Ltd 撮像装置、手ブレ補正方法、プログラム
JP2012109826A (ja) * 2010-11-18 2012-06-07 Fujitsu Ltd 撮像装置、画像処理装置および撮像方法
JP2012163588A (ja) * 2011-02-03 2012-08-30 Olympus Imaging Corp 撮像装置
JP2014146107A (ja) * 2013-01-28 2014-08-14 Canon Inc 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体
US9390477B2 (en) 2013-01-28 2016-07-12 Canon Kabushiki Kaisha Image processing apparatus, image pickup apparatus, image processing method, and non-transitory computer-readable storage medium for image restoration using blind deconvolution
WO2014155754A1 (ja) * 2013-03-28 2014-10-02 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法及びプログラム並びに記録媒体
JPWO2014155754A1 (ja) * 2013-03-28 2017-02-16 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法及びプログラム並びに記録媒体
US9445069B2 (en) 2013-03-28 2016-09-13 Fujifilm Corporation Image-processing device, image-capturing device, image-processing method, and recording medium
JP5752866B2 (ja) * 2013-03-28 2015-07-22 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法及びプログラム並びに記録媒体
JP5897776B2 (ja) * 2013-07-25 2016-03-30 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法及びプログラム
WO2015012040A1 (ja) * 2013-07-25 2015-01-29 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法及びプログラム
JPWO2015012040A1 (ja) * 2013-07-25 2017-03-02 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法及びプログラム
JP5944055B2 (ja) * 2013-08-01 2016-07-05 富士フイルム株式会社 撮像装置、撮像方法及び画像処理装置
WO2015015966A1 (ja) * 2013-08-01 2015-02-05 富士フイルム株式会社 撮像装置、撮像方法及び画像処理装置
JPWO2015015966A1 (ja) * 2013-08-01 2017-03-02 富士フイルム株式会社 撮像装置、撮像方法及び画像処理装置
JP2017092749A (ja) * 2015-11-12 2017-05-25 キヤノン株式会社 撮像装置、ブレ補正方法、プログラム、および、記憶媒体
JP2016118799A (ja) * 2016-02-08 2016-06-30 オリンパス株式会社 撮像装置
JP2019537748A (ja) * 2016-10-26 2019-12-26 中国科学技▲術▼大学University Of Science And Technology Of China 三次元画像化可能な顕微鏡及び画像化方法
US11194142B2 (en) 2016-10-26 2021-12-07 University Of Science And Technology Of China Microscope having three-dimensional imaging capability and three-dimensional microscopic imaging method
JP7032817B2 (ja) 2016-10-26 2022-03-09 中国科学技▲術▼大学 三次元画像化可能な顕微鏡及び画像化方法

Also Published As

Publication number Publication date
KR20070102434A (ko) 2007-10-18
US20070242142A1 (en) 2007-10-18
EP1845411A2 (en) 2007-10-17
EP1845411A3 (en) 2010-09-08
KR101370145B1 (ko) 2014-03-04
US20170309000A1 (en) 2017-10-26
JP4985062B2 (ja) 2012-07-25
EP1845411B1 (en) 2013-07-31

Similar Documents

Publication Publication Date Title
JP4985062B2 (ja) カメラ
JP7346654B2 (ja) 画像処理装置、撮像装置、制御方法、プログラム、及び記憶媒体
US8212895B2 (en) Digital camera system with portrait effect
JP5484631B2 (ja) 撮像装置、撮像方法、プログラム、及びプログラム記憶媒体
US8767085B2 (en) Image processing methods and apparatuses to obtain a narrow depth-of-field image
JP5380784B2 (ja) オートフォーカス装置、撮像装置及びオートフォーカス方法
JP3823921B2 (ja) 撮像装置
US20140071303A1 (en) Processing apparatus, processing method, and program
JP2009115981A (ja) 撮影装置、その制御方法およびプログラム
KR101728042B1 (ko) 디지털 촬영 장치 및 이의 제어 방법
JP2019186911A (ja) 画像処理装置および画像処理方法、ならびに撮像装置
US20140071302A1 (en) Processing apparatus, processing method, and program
JP2019117395A (ja) 撮像装置
JP2006091915A (ja) 撮像装置
JP2008058546A (ja) 検出装置、補正装置、カメラ、及びプログラム
US9274402B2 (en) Imaging device that executes auto focus control by referring to distance image data regarding a depth of a region
US8462259B2 (en) Focusing image display device and method for displaying same
JP2008263478A (ja) 撮像装置
US10362213B2 (en) Imaging apparatus and imaging method
JP6834988B2 (ja) 制御装置
JP5062095B2 (ja) 撮像装置
KR20100098122A (ko) 영상 처리 방법 및 장치, 이를 이용한 디지털 촬영 장치
WO2024058029A1 (ja) 撮像装置、情報処理装置及びプログラム
JP6687210B1 (ja) 撮像装置
JP5040669B2 (ja) 撮像装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100329

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100402

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110511

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111101

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120110

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120312

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120403

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120416

R150 Certificate of patent or registration of utility model

Ref document number: 4985062

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150511

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150511

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees