JP2007215151A - 撮像装置及びその制御方法及びプログラム - Google Patents

撮像装置及びその制御方法及びプログラム Download PDF

Info

Publication number
JP2007215151A
JP2007215151A JP2006211379A JP2006211379A JP2007215151A JP 2007215151 A JP2007215151 A JP 2007215151A JP 2006211379 A JP2006211379 A JP 2006211379A JP 2006211379 A JP2006211379 A JP 2006211379A JP 2007215151 A JP2007215151 A JP 2007215151A
Authority
JP
Japan
Prior art keywords
information
lens
foreign matter
image
dust
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2006211379A
Other languages
English (en)
Inventor
Takuya Kotani
拓矢 小谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2006211379A priority Critical patent/JP2007215151A/ja
Priority to US11/622,087 priority patent/US8711241B2/en
Priority to EP07100433A priority patent/EP1809019A3/en
Priority to KR1020070003554A priority patent/KR100815512B1/ko
Priority to CN2007100005791A priority patent/CN101001318B/zh
Publication of JP2007215151A publication Critical patent/JP2007215151A/ja
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/409Edge or detail enhancement; Noise or error suppression
    • H04N1/4097Removing errors due external factors, e.g. dust, scratches
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • H04N23/811Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation by dust removal, e.g. from surfaces of the image sensor or processing of the image signal output by the electronic image sensor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/68Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Blocking Light For Cameras (AREA)
  • Color Television Image Signal Generators (AREA)

Abstract

【課題】撮像素子や撮像素子に固定された保護ガラス、フィルター等にゴミが付着した場合でも、撮影画像への影響を抑制できるようにする。
【解決手段】被写体像を光電変換して画像信号を生成する撮像素子と、撮像素子により略均一な色を持つ被写体であるゴミ検出用被写体を撮像して生成された画像信号であるゴミ検出用画像信号から、撮像素子の撮像画面内におけるゴミの位置及び大きさの情報であるゴミ位置情報を検出するゴミ位置検出部と、被写体の撮影時に使用したレンズのレンズ情報を取得するレンズ情報取得部と、ゴミ位置検出部により検出されたゴミ位置情報と、レンズ情報取得部により取得されたレンズ情報とを、撮影画像データに関連付けて記録する記録部とを具備する。
【選択図】 図4

Description

本発明は、CCDやCMOSセンサ等の撮像素子を用いた撮像装置における、光学ローパスフィルター等の表面に付着した異物による画質劣化を抑制する技術に関する。
近年、デジタルカメラやデジタルビデオカメラなどのように、CCD等の撮像素子を用いて画像信号を生成し、それをデータとして記録する撮像装置が数多く出回るようになってきている。デジタルカメラでは、従来記録媒体として使用していた感光フィルムが不要になり、これに代わって半導体メモリカードやハードディスク装置等のデータ記録媒体にデータ化された画像を記録する。これらのデータ記録媒体はフィルムと違って何度でも書き込み、消去が可能であるので、消耗品にかかる経費が少なくて済み、大変便利である。
通常、デジタルカメラには撮像画像を随時表示可能なLCD(液晶表示器)モニタ装置と、着脱可能な大容量記憶装置が搭載されている。
これら二つの装置を備えたデジタルカメラを利用すると、従来消耗品として使用してきた記録媒体であるフィルムが不要になるばかりでなく、撮像した画像をLCDモニタ装置に表示してその場で直ちに確認できる。したがって、満足の得られない画像データはその場で消去したり、必要に応じて再撮影したりすることが可能となり、フィルムを用いる銀塩カメラと比較すると、写真撮影の効率が飛躍的に高まったと言える。
このような利便性と撮像素子の多画素化などの技術革新により、デジタルカメラの利用範囲は拡大しており、近年では一眼レフ方式などレンズ交換が可能なデジタルカメラも多くなってきている。
特開2004-222231号公報
しかしながら、デジタルカメラでは、撮像素子、または撮像素子に固定された撮像素子保護ガラス、光学フィルター等の表面上や光学系(以下、まとめて撮像素子光学系部品)にゴミ、ほこりなどの異物(以下、単にゴミ)が付着する場合がある。このように撮像素子光学系部品にゴミが付着すると、そのゴミによって光が遮られ、その部分が撮影されないなど、撮影した画像の品質が低下するという問題があった。
デジタルカメラに限らず銀塩フィルムを用いるカメラにおいても、フィルム上にゴミが存在すると写りこんでしまう問題はあったが、フィルムの場合は1コマごとにフィルムが移動するため、全てのコマに同様のゴミが写りこむことは大変稀である。
しかし、デジタルカメラの撮像素子は移動せず、共通した撮像素子で撮影を行うため、撮像素子光学系部品に一度ゴミが付着すると、多くのコマ(撮影画像)に同様のゴミが写りこんでしまう。特にレンズ交換式のデジタルカメラにおいては、レンズ交換時にカメラ内にゴミが入り込みやすいという問題がある。
したがって、撮影者は撮像素子光学系部品へのゴミの付着に常時気を使わねばならず、ゴミのチェックや清掃に多くの労力を費やしていた。特に撮像素子は、カメラ内部の比較的奥まったところに配置されているため、清掃やゴミの確認は容易ではない。
さらにレンズ交換式のデジタルカメラでは、レンズ着脱によりゴミの侵入が容易であるばかりでなく、レンズ交換式デジタルカメラの多くは撮像素子の直前にフォーカルプレーンシャッターを配置しており、撮像素子光学系部品上にゴミが付着しやすい。
このような撮像素子上のゴミは、通常撮像素子の表面にではなく、保護用のガラスや光学フィルター上に付着しているため、撮影レンズの絞り値や瞳位置の距離により結像状態が異なる。即ち、絞りが開放値に近いとぼやけてしまい、小さいゴミが付着していたとしてもほとんど影響が無くなるが、逆に絞り値が大きくなるとはっきり結像し画像に影響を与えてしまう。
そこで、レンズの絞りを絞った状態で白い壁などを撮影し、撮像素子上のゴミだけが写った画像を予め用意して通常撮影画像と組み合わせて使用することで、ゴミを目立たなくする方法が知られている(特許文献1参照)。しかし、この方法では、ゴミ検出用に撮影した画像と、それに関連付ける本撮影画像群との対応付けを常に意識しなくてはならず、煩わしいという問題があった。
従って、本発明は上述した課題に鑑みてなされたものであり、その目的は、撮像素子や撮像素子に固定された保護ガラス、フィルター等にゴミが付着した場合でも、撮影画像への影響を抑制できるようにすることである。
上述した課題を解決し、目的を達成するために、本発明に係わる撮像装置は、被写体像を光電変換して画像信号を生成する撮像手段と、前記撮像手段より得られる異物検出用画像信号から、前記撮像手段の撮像画面内における異物の位置及び大きさの情報である異物情報を検出する異物検出手段と、被写体の撮影時に使用したレンズのレンズ情報を取得するレンズ情報取得手段と、前記異物検出手段により検出された異物情報と、前記レンズ情報取得手段により取得されたレンズ情報とを、前記被写体の撮影によって得られた撮影画像データに関連付けて記録する記録手段と、を具備することを特徴とする。
また、本発明に係わる撮像装置の制御方法は、被写体像を光電変換して画像信号を生成する撮像手段を有する撮像装置を制御する方法であって、前記撮像手段より得られる異物検出用画像信号から、前記撮像手段の撮像画面内における異物の位置及び大きさの情報である異物情報を検出する異物検出工程と、被写体の撮影時に使用したレンズのレンズ情報を取得するレンズ情報取得工程と、前記異物検出工程において検出された異物情報と、前記レンズ情報取得工程において取得されたレンズ情報とを、前記被写体の撮影によって得られた撮影画像データに関連付けて記録する記録工程と、を具備することを特徴とする。
また、本発明に係わるプログラムは、上記の制御方法をコンピュータに実行させることを特徴とする。
また、本発明に係わる撮像装置は、被写体像を光電変換して画像信号を生成する撮像手段と、前記撮像手段より得られる異物検出用画像信号から、前記撮像手段の撮像画面内における異物の位置及び大きさの情報である異物情報を検出する異物検出手段と、被写体の撮影時に使用したレンズのレンズ情報を取得するレンズ情報取得手段と、前記異物検出手段により検出された異物情報を、前記レンズ情報取得手段により取得されたレンズ情報に基づいて変換し、前記被写体の撮影によって得られた撮影画像データに関連付けて記録する記録手段と、を具備することを特徴とする。
また、本発明に係わる撮像装置の制御方法は、被写体像を光電変換して画像信号を生成する撮像手段を備える撮像装置を制御する方法であって、前記撮像手段より得られる異物検出用画像信号から、前記撮像手段の撮像画面内における異物の位置及び大きさの情報である異物情報を検出する異物検出工程と、被写体の撮影時に使用したレンズのレンズ情報を取得するレンズ情報取得工程と、前記異物検出工程において検出された異物情報を、前記レンズ情報取得工程において取得されたレンズ情報に基づいて変換し、前記被写体の撮影によって得られた撮影画像データに関連付けて記録する記録工程と、を具備することを特徴とする。
また、本発明に係わるプログラムは、上記の制御方法をコンピュータに実行させることを特徴とする。
また、本発明に係わる撮像装置は、被写体像を光電変換して画像信号を生成する撮像手段と、前記撮像手段より得られる異物検出用画像信号から、前記撮像手段の撮像画面内における異物の位置及び大きさの情報である異物情報を検出する異物検出手段と、被写体の撮影時に使用したレンズのレンズ情報を取得するレンズ情報取得手段と、被写体を撮影して得られた撮影画像信号から人物の顔の領域を検出する顔領域検出手段と、前記異物検出手段により検出された異物情報と、前記レンズ情報取得手段により取得されたレンズ情報と、前記顔領域検出手段により取得された顔領域情報とを、前記被写体の撮影によって得られた撮影画像データに関連付けて記録する記録手段と、を具備することを特徴とする。
また、本発明に係わる撮像装置の制御方法は、被写体像を光電変換して画像信号を生成する撮像手段を備える撮像装置を制御する方法であって、前記撮像手段より得られる異物検出用画像信号から、前記撮像手段の撮像画面内における異物の位置及び大きさの情報である異物情報を検出する異物検出工程と、被写体の撮影時に使用したレンズのレンズ情報を取得するレンズ情報取得工程と、被写体を撮影して得られた撮影画像信号から人物の顔の領域を検出する顔領域検出工程と、前記異物検出工程において検出された異物情報と、前記レンズ情報取得工程において取得されたレンズ情報と、前記顔領域検出工程において取得された顔領域情報とを、前記被写体の撮影によって得られた撮影画像データに関連付けて記録する記録工程と、を具備することを特徴とする。
また、本発明に係わるプログラムは、上記の制御方法をコンピュータに実行させることを特徴とする。
本発明によれば、撮像素子や撮像素子に固定された保護ガラス、フィルター等にゴミが付着した場合でも、撮影画像への影響を抑制することが可能となる。
以下、本発明の好適な実施形態について、図面を参照して詳細に説明する。
<第1の実施形態>
本実施形態では、カメラ本体でゴミを検出して、ゴミ補正データを画像データに添付し、カメラ外部の画像処理装置で、画像データに添付されたゴミ補正データを用いて画像データからゴミ除去処理を行なう場合について説明する。
図1は、本発明の第1の実施形態に係る撮像装置としてのレンズ交換式一眼レフデジタルカメラの回路構成を示すブロック図である。
図1において、マイクロコンピュータ402は、撮像素子(本実施形態ではCCD)418が出力する画像データの処理や、LCDモニタ装置417の表示制御をはじめ、カメラ全体の動作を制御する。
スイッチ(SW1)405は、レリーズボタン114(図2参照)の半押し状態でオンになり、スイッチ(SW1)405がオンすると本実施形態のデジタルカメラは撮影準備状態になる。スイッチ(SW2)406は、レリーズボタン114が最後まで押された状態(全押し状態)でオンし、スイッチ(SW2)406がオンすると本実施形態のデジタルカメラは撮影動作を開始する。
レンズ制御回路407は、撮影レンズ200(図3参照)との通信およびAF(オートフォーカス)時の撮影レンズ200の駆動制御や絞り羽根の駆動制御を行う。
また図1において、外部表示制御回路408は、外部表示装置(OLC)409や、ファインダ内の表示装置(不図示)の制御を行う。スイッチセンス回路410は、カメラに設けられた電子ダイヤル411を含む多数のスイッチ類の信号をマイクロコンピュータ402に伝える。
ストロボ発光調光制御回路412は、X接点412aを介して接地されており、外部ストロボの制御を行う。測距回路413は、AFのための被写体に対するデフォーカス量を検出する。測光回路414は、被写体の輝度を測定する。
シャッター制御回路415はシャッターの制御を行い、撮像素子に対して適正な露光を行う。LCDモニタ装置417とバックライト照明装置416は、画像表示装置を構成している。記録装置419は例えばカメラ本体に着脱可能なハードディスクドライブや半導体メモリカード等である。
また、マイクロコンピュータ402には、A/Dコンバータ423、画像バッファメモリ424、DSPなどからなる画像処理回路425、撮像素子内の所定画素そのものに欠陥があることを記憶している画素欠陥位置メモリ426が接続されている。また、ゴミによる画像不良を起こしている撮像素子内の画素位置を記憶しているゴミ位置メモリ427も接続されている。なお、画素欠陥位置メモリ426およびゴミ位置メモリ427は不揮発性メモリを用いることが好ましい。また、画素欠陥位置メモリ426とゴミ位置メモリ427は、同一メモリ空間の異なるアドレスを用いて記憶しても良い。
また、428は、マイクロコンピュータ402が実行するプログラム等を記憶する不揮発性のメモリである。
図2は、本実施形態に係るデジタルカメラの外観を示す斜視図、図3は図2の垂直断面図である。
図2において、カメラ本体100の上部には、ファインダ観察用の接眼窓111、AE(自動露出)ロックボタン112、AFの測距点選択ボタン113、撮影操作をするためのレリーズボタン114が設けられている。また、電子ダイヤル411、撮影モード選択ダイヤル117、および外部表示装置409も設けられている。電子ダイヤル411は、他の操作ボタンと併用してカメラに数値を入力したり、撮影モードを切り換えたりするための多機能信号入力装置である。また、外部表示装置409は、液晶表示装置から構成され、シャッタースピード、絞り、撮影モードなどの撮影条件や、他の情報を表示する。
また、カメラ本体100の背面には、撮影された画像や各種設定画面などを表示するLCDモニタ装置417、LCDモニタ装置417をオン/オフするためのモニタスイッチ121、十字配置スイッチ116、およびメニューボタン124が設けられている。
十字配置スイッチ116は、上下左右に配された4つのボタンと、中央に配されたSETボタンを有し、ユーザがLCDモニタ装置417に表示されるメニュー項目などの選択や実行をカメラに指示するために用いられる。
メニューボタン124は、LCDモニタ装置417にカメラの各種設定を行うためのメニュー画面を表示させるためのボタンである。例えば、撮影モードを選択、設定する時は、このメニューボタン124を押した後、十字配置スイッチ116の上下左右のボタンを操作して希望のモードを選択し、希望のモードが選択された状態でSETボタンを押すことにより設定が完了する。このメニューボタン124と十字配置スイッチ116は、後述するゴミモードの設定や、ゴミモードの際の表示モード設定および識別マークの設定にも使用される。
本実施形態のLCDモニタ装置417は透過型であるため、LCDモニタ装置の駆動だけでは画像を視認することはできず、必ずその裏面には図3に示すようにバックライト照明装置416が必要である。このようにLCDモニタ装置417とバックライト照明装置416は画像表示装置を構成している。
図3に示すように、撮像光学系の撮影レンズ200はカメラ本体100に対してレンズマウント202を介して着脱可能である。図3において201は撮影光軸、203はクイックリターンミラーである。
クイックリターンミラー203は撮影光路中に配置され、撮影レンズ200からの被写体光をファインダ光学系に導く位置(図3に示す位置、斜設位置と呼ぶ)と撮影光路外に退避する位置(退避位置と呼ぶ)との間で移動可能である。
図3において、ピント板204上にはクイックリターンミラー203からファインダ光学系に導かれる被写体光が結像される。205はファインダの視認性を向上させるためのコンデンサレンズ、206はペンタゴナルダハプリズムであり、ピント板204およびコンデンサレンズ205を通った被写体光をファインダ観察用の接眼レンズ208および測光センサ207に導く。
209、210はそれぞれシャッターを構成する後幕と先幕で、これら後幕209、先幕210の開放によって後方に配置されている固体撮像素子である撮像素子418が必要時間だけ露光される。撮像素子418によって画素毎の電気信号に変換された撮影画像は、A/Dコンバータ423や画像処理回路425などによって処理され、画像データとして記録装置419に記録される。
撮像素子418はプリント基板211に保持されている。このプリント基板211の後方には、もう一枚のプリント基板である表示基板215が配置されている。この表示基板215の反対側の面にLCDモニタ装置417およびバックライト照明装置416が配置されている。
419は画像データを記録する記録装置、217は電池(携帯用電源)である。この記録装置419および電池217は、カメラ本体に対して着脱可能である。
(ゴミ検出処理)
図4は、本実施形態に係るデジタルカメラにおけるゴミ検出処理(ゴミによって画像不良が生じている画素位置の検出処理)を説明するフローチャートである。当該処理は、マイクロコンピュータ402がメモリ428に記憶されたゴミ検出処理プログラムを実行することにより実施される。
ゴミ検出処理は、ゴミ検出用画像を撮像することにより行われる。ゴミ検出処理を行う場合、面光源装置の出射面や白い壁などの均一な色を持つ面にレンズ200の撮影光軸201を向けてカメラを設置し、ゴミ検出の準備を行なう。または、本体マウント202にゴミ検出用のライトユニット(レンズの代わりに装着する小型の点光源装置)を装着し、ゴミ検出の準備を行う。ライトユニットの光源は例えば白色LEDが考えられ、発光面のサイズを予め定めた絞り値(例えば、本実施形態ではF64)相当になるように調整するのが望ましい。
本実施形態では、通常の撮影レンズを用いた場合について説明するが、上記のライトユニットをレンズマウント202に取り付けてゴミ検出を行っても良い。このように、本実施形態においてゴミ検出用画像は、均一な色を有する画像である。
準備が終了した後、例えば十字スイッチ116からゴミ検出処理の開始が指示されると、マイクロコンピュータ402は、まず絞りの設定を行う。撮像素子近傍のゴミはレンズの絞り値によって結像状態が変わり、レンズの瞳位置によって位置が変化する。したがって、ゴミ補正データにはゴミの位置や大きさに加え、検出時の絞り値とレンズの瞳位置を保持する必要がある。
ただし、ゴミ補正データを作成する段階で、異なるレンズを用いたとしても常に同じ絞り値を使うことを予め決めておけば、必ずしもゴミ補正データ内に絞り値を保持する必要はない。また、瞳位置に関してもライトユニットを用いたり、特定のレンズのみの使用を許可することで、同様に必ずしもゴミ補正データ内に瞳位置を保持する必要はなくなる。つまり、ゴミ補正データを作成する段階において、使用するレンズを複数許したり、絞り込む絞り値を適宜変更する場合には、検出時の絞り値とレンズの瞳位置を、ゴミ補正データ内に保持する必要があると言える。なお、ここで瞳位置とは、射出瞳の撮像面(焦点面)からの距離をいう。
ここでは、例えばF16を指定する(ステップS21)。
次にマイクロコンピュータ402はレンズ制御回路407に対し、撮影レンズ200の絞り羽根制御を行わせ、ステップS21で指定された絞り値に絞りを設定する(ステップS22)。さらに、フォーカス位置を無限遠に設定する(ステップS23)。
撮影レンズの絞り値とフォーカス位置が設定されると、ゴミ検出モードでの撮影を実行する(ステップS24)。ステップS24で行う撮像処理ルーチンの詳細に関しては図9を用いて後に説明する。撮影された画像データは、バッファメモリ424に格納される。
撮影が終了すると、撮影時の絞り値とレンズ瞳位置を取得する(ステップS25)。画像処理回路425に画像バッファメモリ424に記憶されている撮影画像の各画素に対応するデータを呼び出す(ステップS26)。画像処理回路425は、図6に示す処理を行い、ゴミが存在する画素の位置と大きさを取得する(ステップS27)。ステップS27で取得したゴミが存在する画素の位置と大きさ、およびステップS25で取得した絞り値とレンズ瞳位置情報を、ゴミ位置メモリ427に登録する(ステップS28)。ここで、前述したライトユニットを用いた場合には、レンズ情報を取得できない。そこで、レンズ情報が取得できない場合は、ライトユニットを使ったと判断し、予め定められたレンズ瞳位置情報と、ライトユニットの光源径から算出される換算絞り値を登録する。
ここで、ステップS28において、予め画素欠陥位置メモリに記録されている製造時からの不良画素(画素欠陥)の位置と、読み出した画素データの位置を比べて画素欠陥であるかどうかを確認する。そして、画素欠陥によるものでは無いと判断された領域のみ、ゴミ位置メモリ427に位置を登録しても良い。
ゴミ位置メモリ427に格納されるゴミ補正データのデータ形式例を図5に示す。図5に示した通り、ゴミ補正データには、検出用画像撮影時の、レンズ情報とゴミの位置、大きさの情報が格納される。このゴミ補正データは、通常撮影時に画像データの撮影時情報と共に画像に付加し、後に説明するゴミ除去処理で利用する。
具体的には、検出画像撮影時のレンズ情報として、検出画像撮影時における実際の絞り値(F値)と、そのときのレンズ瞳位置を格納する。続いて記憶領域に検出したゴミ領域の数(整数値)を格納し、これに続き、個々の具体的なゴミ領域のパラメータを、ゴミ領域の数だけ繰返して格納する。ゴミ領域のパラメータは、ゴミの半径(例えば2バイト)、有効画像領域における中心のx座標(例えば2バイト)、おなじく中心のy座標(例えば2バイト)の3つの数値のセットである。
ゴミ位置メモリ427の大きさ等によりゴミ補正データサイズに制限がある場合、ステップS27で得たゴミ領域の先頭から優先してデータを格納する。これは、ステップS27のゴミ領域取得ルーチン内では、後述するようにゴミ領域を、目立つゴミの順にソートするからである。
(ゴミ領域取得ルーチン)
次に、図6から図8を用いて、ステップS27で行うゴミ領域取得ルーチンの詳細について述べる。
図7に示すように、呼び出した画像データをメモリ上に展開し、予め定められたブロック単位で処理を行う。これは、レンズやセンサ特性に起因する周辺減光に対応するためである。周辺減光とは、レンズの中央部に比べ周辺部の輝度が落ちてしまう現象であり、レンズの絞りを小さくすることである程度軽減されることが知られている。しかし、絞りを絞った状態でも、撮影画像に対して予め定められたスレッショルド値でゴミ位置の判定を行うと、レンズによっては周辺部のゴミが正確に検出できなくなるという問題がある。そこで、画像をブロック分割して周辺減光の影響を軽減する。
単純にブロック分割すると、ブロックとブロックの間でスレッショルド値が異なる場合、ブロック間をまたぐゴミの検出結果がずれてしまうという問題がある。そこで、ブロック間をオーバーラップさせ、オーバーラップ領域を構成するブロックのいずれかでゴミと判定された画素をゴミ領域として扱う。
ブロック内のゴミ領域判定は、図6に示す処理の流れで行う。まず、ブロック内の最大輝度Lmax、平均輝度Laveを算出し、次式を用いてブロック内のスレッショルド値T1を算出する。
T1=Lave×0.6 + Lmax×0.4
次に、スレッショルド値を超えない画素をゴミ画素とし(ステップS61)、ゴミ画素によって構成される孤立領域を各々一つのゴミ領域di(i=0,1,…,n)とする(ステップS62)。図8に示すように、ゴミ領域毎に、ゴミ領域を構成する画素の水平方向の座標の最大値Xmaxおよび最小値Xmin、垂直方向の座標の最大値Ymaxおよび最小値Yminを求め、ゴミ領域diのサイズを表す半径riを次式によって算出する(ステップS63)。
ri=√[{(Xmax−Xmin)/2}2+{(Ymax−Ymin)/2}2]
Xmax、Xmin、Ymax、Yminとriの関係を、図8に示す。
その後ステップS64で、ゴミ領域毎の平均輝度値を算出する。
ゴミ位置メモリ427のサイズによる制限などにより、ゴミ補正データのデータサイズが制限されている場合がある。このような場合に対応するために、ゴミ位置情報を、大きさやゴミ領域の平均輝度値によってソートする(ステップS65)。本実施形態では、riの大きい順にソートする。riが等しい場合、平均輝度値の低い順にソートする。このようにすることで、目立つゴミを優先してゴミ補正データに登録することが出来る。なお、ソート済みのゴミ領域をDi、ゴミ領域Diの半径をRiとする。
なお、予め定められたサイズより大きいゴミ領域がある場合、ソートの対象から外し、ソート済みゴミ領域リストの末尾に配置しても良いことは言うまでもない。大きいゴミ領域については、後に補間処理をするとかえって画質を低下させる場合があり、補正対象の優先順位としては最下位として扱うことが望ましいからである。
(撮像処理ルーチン)
次に、図9に示すフローチャートを用いて、図4のステップS24で行われる撮像処理ルーチンの詳細について説明する。当該処理はマイクロコンピュータ402がメモリ428に記憶された撮像処理プログラムを実行することにより実施される。
この撮像処理ルーチンが実行されると、ステップS201でマイクロコンピュータ402は、図3に示すクイックリターンミラー203を作動させ、いわゆるミラーアップを行い、撮影光路外にクイックリターンミラー203を退避させる。
次に、ステップS202で撮像素子での電荷蓄積を開始し、次のステップS203では図3に示したシャッターの先幕210、後幕209をそれぞれ走行させて露光を行う。そして、ステップS204で撮像素子の電荷蓄積を終了し、次のステップS205で撮像素子から画像信号を読み出してA/Dコンバータ423および画像処理回路425で処理した画像データをバッファメモリ424に一次記憶する。
次のステップS206で撮像素子から全ての画像信号の読み出しが終了すると、ステップS207でクイックリターンミラー203をミラーダウンし、クイックリターンミラーを斜設位置に戻して一連の撮像動作を終了する。
ステップS208にて、通常撮影かゴミ検出用画像撮影かを判断し、通常撮影時にはステップS209へ進んで撮影時のカメラ設定値等と共に図5に示したゴミ補正データを画像データに関連付けて記録装置419に記録する。
具体的には、例えば、撮影時のカメラ設定値等が記録される画像ファイルのヘッダ領域であるExif領域にゴミ補正データを追記することで、関連付けを実現することができる。または、ゴミ補正データをファイルとして独立して記録し、画像データにはそのゴミ補正データファイルへのリンク情報のみを記録することで関連付けを実現することも可能である。ただし、画像ファイルとゴミ補正データファイルを別々に記録すると、画像ファイルの移動時に、リンク関係が消失する場合があるので、ゴミ補正データは画像データと一体的に保持することが望ましい。
(ゴミ除去処理)
次に、ゴミ除去処理の流れについて説明する。ゴミ除去処理は、デジタルカメラ本体ではなく、別途用意した画像処理装置上で行う。
図10は、画像処理装置のシステム構成の概略を示した図である。
CPU1001は、システム全体の動作をコントロールし、一次記憶部1002に格納されたプログラムの実行などを行う。一次記憶部1002は、主にメモリであり、二次記憶部1003に記憶されたプログラムなどを読み込んで格納する。二次記憶部1003は、例えばハードディスクなどがこれに該当する。一般に一次記憶部の容量は二次記憶部の容量より小さく、一次記憶部に格納しきれないプログラムやデータなどは二次記憶部に格納される。また、長時間記憶しなくてはならないデータなども二次記憶部に格納される。本実施形態では、プログラムを二次記憶部1003に格納し、プログラム実行時に一次記憶部1002に読み込んでCPU1001が実行処理を行う。
入力デバイス1004とは例えば、システムのコントロールに用いるマウスやキーボードの他、画像データの入力に必要なカードリーダー、スキャナ、フィルムスキャナなどがこれに該当する。出力デバイス1005とは例えば、モニタやプリンタなどが考えられる。この装置の構成方法は他にも様々な形態が考えられるが、本発明の主眼ではないので説明を省略する。
画像処理装置には、複数のプログラムを並列実行可能なオペレーティングシステムが搭載され、操作者はGUIを使ってこの装置上で動作するプログラムの操作が可能である。
図11は、画像処理装置における画像編集プログラムのGUI(Graphical User Interface)を示す図である。ウィンドウにはクローズボタン1100とタイトルバー1101が備えられ、クローズボタンを押すことでプログラムを終了する。ファイルを画像表示領域1102にドラッグアンドドロップすることで補正対象画像を指定し、補正対象画像が決定された場合、タイトルバー1101にファイル名を表示した後、画像表示領域1102に対象画像をFit表示する。実行ボタン1103を押すと、後述するゴミ除去処理を実行し、処理後の画像を画像表示領域1102に表示する。ステップ実行ボタン1104を押すと後述するゴミ除去処理のステップ実行を行い、全てのゴミ領域に対して処理が終了した時点で処理後の画像を画像表示領域1102に表示する。保存ボタン1105を押すと、処理後の画像を保存する。
画像処理装置におけるゴミ除去処理の流れを、図12に示す。
まず、デジタルカメラ内又はデジタルカメラから取り外された記録装置419からゴミ補正データが添付された通常撮影画像データを画像処理装置に取り込んで、一次記憶部1002又は二次記憶部1003に記憶する(ステップS90)。
次に、通常撮影された画像データ(ゴミ除去処理を行う対象となる画像)から、ステップS209で撮影画像に付与されたゴミ補正データを抽出する(ステップS91)。
次に、ステップS91で抽出したゴミ補正データから座標列Di(i=1,2,…n)、半径列Ri(i=1,2,…,n)、絞り値f1とレンズ瞳位置L1を得る(ステップS92)。ここでRiは、図6のステップS65で算出した座標Diのゴミの大きさである。ステップS93で、通常撮影された画像の撮影時の絞り値f2とレンズ瞳位置L2を取得し、ステップS94でDiを次式で変換する。ここで、dは画像中心から座標Diまでの距離、Hは撮像素子418の表面とゴミとの距離であるとする。変換後の座標Di’と変換後の半径Ri’は例えば次式で定義する。
Di’(x,y)=(L2×(L1−H)×d/((L2−H)×L1))×Di(x,y)
Ri’=(Ri×f1/f2+3)×2 (1)
ここでの単位はピクセルであり、Ri’についての「+3」はマージン量である。2倍しているのは、平均輝度を用いてゴミ領域を検出するため、ゴミ領域外の領域が必要であるからである。
ステップS95で座標Di’、半径Ri’で示される領域内のゴミを検出し、必要に応じて補間処理を適用する。補間処理の詳細については後述する。ステップS96で全ての座標についてゴミ除去処理を適用したかどうかを判定し、全ての座標について処理が終わっていれば処理を終了し、そうでなければステップS95に戻る。
(補間ルーチン)
次に、ゴミ領域の補間処理の詳細について述べる。補間ルーチンの流れを示すフローチャートを図13に示す。まずステップS1201で、ゴミ領域判定を行う。ゴミ領域とは、次の条件全てを満たす領域とする。
(1)図12のステップS94で算出した中心座標Di’、半径Ri’(式(1)で求められたDi’,Ri’)に含まれる画素の平均輝度Yaveと最高輝度Ymaxを用いて次式で求められるスレッショルド値T2より暗い領域。
T2=Yave×0.6+Ymax×0.4
(2)上記の中心座標Di’、半径Ri’の円と接しない領域。
(3)(1)で選択された輝度の低い画素によって構成される孤立領域に対し、図6中のステップS63と同様の方法で算出した半径値がl1画素以上、l2画素未満である領域。
(4)円の中心座標Di’を含む領域。
本実施形態では、l1は3画素、l2は30画素とする。このようにすることで、孤立した小領域だけをゴミ領域として扱うことが可能になる。また、レンズ瞳位置が正確に取得できない場合には、(4)の条件は幅を持たせても良い。例えば、着目領域が座標DiからX方向、Y方向に夫々±3画素の範囲の座標を含めば、ゴミ領域と判定するなどという条件が考えられる。
ステップS1202で、このような領域があればステップS1203へ進みゴミ領域補間を行い、存在しない場合は処理を終了する。ステップS1203で実行するゴミ領域補間処理は、公知の欠損領域補間法で行う。公知の欠損領域補間法には例えば、特開2001−223894号公報に開示されているパターン置換がある。特開2001−223894号公報では赤外光を用いて欠損領域を特定しているが、本実施形態ではステップS1201で検出したゴミ領域を欠損領域として扱い、パターン置換によりゴミ領域を周囲の正常画素で補間する。パターン置換で埋められない画素については、パターン補間後の画像データに対し、補間対象画素に最も近い順に正常画素をp個選択し、その平均色を用いて補間する。
このように画像にゴミ補正データを添付することで、ゴミ補正用画像データと撮影画像データの対応を意識する必要が無くなるという利点がある。また、ゴミ補正データが位置、大きさ、変換用データ(絞り値、レンズの瞳位置の距離情報)で構成されるコンパクトなデータであるので、撮影画像データサイズが極端に大きくなることもない。また、ゴミ補正データで指定された画素を含む領域だけを補間処理することにより、誤検出の確率を大幅に低減することが可能になる。
<第2の実施形態>
第1の実施形態では、デジタルカメラ本体ではなく、別途用意された画像処理装置を用いてゴミ除去処理を実行した。本実施形態では、デジタルカメラ本体でゴミ除去処理を実行する方法について述べる。この第2の実施形態に係るデジタルカメラの構成は、第1の実施形態と同様であるため、説明を省略し、第1の実施形態と異なる動作のみについて説明する。
(ゴミ除去ルーチン)
本実施形態に係るデジタルカメラにおけるゴミ除去ルーチンは、図12のフローチャートで示した処理と同様の処理を行う。当該処理は、マイクロコンピュータ402がメモリ428に記憶されたゴミ除去処理プログラムを実行することにより実施される。
例えば十字スイッチ116からゴミ除去処理の開始が指示されると、マイクロコンピュータ402は、画像処理回路425に画像バッファメモリ424に記憶されている撮影画像の各画素に対応するデータを呼び出す。画像処理回路425は、図12に示す処理を行い、ゴミ画素の補間処理を実行する。最後に、補間処理結果を新たな画像ファイルとして記録装置419に記録する。
図12の処理の詳細については、第1の実施形態において説明済みであるので省略する。
以上説明したように、上記の実施形態によれば、ゴミ検出用画像データと通常撮影データの対応を意識することなく好適にゴミを除去することが可能になる。さらに、画像にゴミ補正データを埋め込む場合でも、画像データファイルのサイズを大幅に増やすことなくデータを添付することが可能になる。
<第3の実施形態>
第1の実施形態では、デジタルカメラ本体で付与したゴミ補正データを、別途用意された画像処理装置において図12に示した手順で処理し、ゴミ補正データを変換してゴミ除去処理を実行した。
本実施形態では、デジタルカメラ本体でゴミ補正データの変換を行い、変換後のゴミ補正データを撮影画像に付与する方法について説明する。本実施形態では、デジタルカメラ本体で変換を実行するので、別途用意された画像処理装置では、指定された座標に対してゴミ除去処理を実行するだけで良い。
まず、図9に示した撮像処理ルーチンのステップS209において、ゴミ補正データの変換処理(詳細は後述する)を行い、ゴミ補正データを画像データに関連付けて記録装置419に記録する。ゴミ補正データは変換済みであるため、画像データに関連付けて記録する変換後のゴミ補正データには撮影時のF値やレンズ瞳位置を記録しなくても良い。
図14は、上記のゴミ補正データの変換処理を行う手順を示すフローチャートである。
まず、ステップS141で、ゴミ位置メモリ427に格納されたゴミ補正データを取得する。次に、ステップS142へ進み、ステップS141で取得したゴミ補正データからゴミ検出用画像の撮影時の絞り値とレンズ瞳位置(ゴミ取得時パラメータ)を取得する。ステップS143では、通常撮影時の絞り値とレンズ瞳位置(撮影時パラメータ)を取得する。ステップS144では、これらのゴミ取得時パラメータと撮影時パラメータとに基づいてゴミ補正データの変換処理を行う。ステップS142からステップS144までの処理は、図12のステップS92からS94までの処理と同様であるので、詳しい説明を省略する。
次に、画像処理装置におけるゴミ除去処理の流れを図15のフローチャートを参照して説明する。本実施形態における画像処理装置の外面的な構成は、図10に示した第1の実施形態の構成と同様である。
まず、通常撮影された画像データ(ゴミ除去処理を行う対象となる画像)から、ステップS209で撮影画像に付与されたゴミ補正データを抽出する(ステップS151)。次に、ステップS151で抽出したゴミ補正データから座標列Di(i=1,2,…n)、半径列Ri(i=1,2,…,n)を得る(ステップS152)。
ステップS153で座標Di、半径Riで示される領域内のゴミを検出し、必要に応じて補間処理を適用する。補間処理の詳細については第1の実施形態と同様である。ステップS154で全ての座標についてゴミ除去処理を適用したかどうかを判定し、全ての座標について処理が終わっていれば処理を終了し、そうでなければステップS153に戻る。
このように、本実施形態では、第1の実施形態とは異なり、画像処理装置側でのゴミ補正データの変換処理が不要となるので、画像処理装置側での処理が簡略化される。
<第4の実施形態>
第1及び第3の実施形態で説明したゴミ除去処理を適用した場合、例えばゴミ情報によって指し示された座標に顔が写っている場合、目をゴミ領域と誤判定して補間処理を適用してしまう可能性がある。
そこで、顔検出処理を行い撮影画像中の顔領域の位置を特定し、その領域を補間処理の対象から外すことが考えられる。このようにすることで、目や鼻などの顔のパーツを誤って補間してしまう可能性を下げることができる。この方法が優れているのは、顔検出処理において顔でない領域を顔領域として誤検出してしまった場合でも、誤検出された領域が補間処理の対象から外れるだけで、元画像には悪影響を及ぼさないという点である。
以下、顔検出処理を用いた場合の補間処理について説明する。
顔検出処理については公知の技術を用いる。本実施形態では、例えば、特開2004−62651号公報に開示されている方法を用いる。この方法を用いた場合、検出結果としては、特開2004−62651号公報中の図3(b)で示される矩形を取得することができる。
本実施形態では、図16に示すように、検出された矩形に外接する円を顔領域とみなし、ゴミ除去処理除外領域とする。
なお、このゴミ除去処理除外領域の検出は、撮像装置側で行ってもよいし、外部の画像処理装置側で行ってもよい。ゴミ除去処理除外領域の検出を撮像装置側で行った場合には、このゴミ除去処理除外領域(顔領域)の情報と撮影時のカメラ設定値とゴミ補正データとを画像データに関連付けて記録装置419に記録する。
本実施形態における補間処理ルーチンでは、ゴミ除去処理除外領域と重なりを持つゴミ領域を補間処理対象から外す。この処理の流れを示す図17に示すフローチャートを参照して説明する。
まず、ステップS1701で、欠損領域判定を行う。処理の内容は図13中のステップS1201と同様である。次に、ステップS1702で、欠損領域があるかどうかを判定する。欠損領域が存在しない場合、処理を終了する。欠損領域が存在する場合は、ステップS1703へ進む。
ステップS1703からステップS1706では、ステップS1701で検出された欠損領域の1つ1つについて、その対象とする欠損領域が、顔検出処理によって検出されたゴミ除去処理除外領域と重なるかどうかを判定する。対象とする欠損領域が全てのゴミ除去処理除外領域と重ならない場合、ステップS1707へ進んで、その対象とする欠損領域の補間処理を行う。欠損領域の補間処理は、図13のステップS1202の処理と同様であるので、説明を省略する。
ステップS1708では、ステップS1701で検出された全ての欠損領域についてステップS1703からステップS1707の処理が終了したかを判定する。そして、全ての欠損領域について処理が終了していれば、補間処理ルーチンを終了する。また、まだ処理が終了していない欠損領域が存在するならば、ステップS1703に戻り、ステップS1703からステップS1708を繰り返す。
欠損領域が、ゴミ除去処理除外領域と重なるかどうかは、次のようにして判定する。
(1) ステップS1701(図13のステップS1201と同様)で検出された欠損領域(ゴミ領域)について、図6中のステップS63と同様の方法で、中心座標C1と半径値R1を求める。
(2)ゴミ除去処理除外領域の中心座標C2と、ゴミ領域の中心座標C1との距離Lを求める。
(3)ゴミ除去処理除外領域を半径値R2とすると、次式を満たす場合、ゴミ除去処理除外領域と欠損領域は重なりを持つ。
R1+R2>L
以上のような処理を行うことで、ゴミ除去処理を適用するリスクが高い領域について、不適切な処理結果になることを防ぐことが可能になる。
(他の実施形態)
また、各実施形態の目的は、次のような方法によっても達成される。すなわち、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記憶媒体(または記録媒体)を、システムあるいは装置に供給する。そして、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記憶媒体に格納されたプログラムコードを読み出し実行する。この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。また、コンピュータが読み出したプログラムコードを実行することにより、前述した実施形態の機能が実現されるだけでなく、本発明には次のような場合も含まれる。すなわち、プログラムコードの指示に基づき、コンピュータ上で稼働しているオペレーティングシステム(OS)などが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される。
さらに、次のような場合も本発明に含まれる。すなわち、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張カードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込まれる。その後、そのプログラムコードの指示に基づき、その機能拡張カードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される。
本発明を上記記憶媒体に適用する場合、その記憶媒体には、先に説明した手順に対応するプログラムコードが格納されることになる。
本発明の第1の実施形態に係る撮像装置としてのレンズ交換式一眼レフデジタルカメラの回路構成を示すブロック図である。 第1の実施形態に係るデジタルカメラの外観斜視図である。 第1の実施形態に係るデジタルカメラの内部構造を示す垂直断面図である。 第1の実施形態に係るデジタルカメラにおけるゴミ検出処理を説明するフローチャートである。 ゴミ補正データのデータ形式例を示す図である。 図4のステップS27で行われるゴミ領域取得ルーチンの詳細を説明するフローチャートである。 図6のステップS62で行われるゴミ領域判定処理の処理単位を示す図である。 図6のステップS63で行われるゴミ領域サイズ算出の概要を示す図である。 図4のステップS24で行われる撮像処理ルーチンの詳細を説明するフローチャートである。 画像処理装置のシステム構成の概略を示した図である。 画像処理装置におけるGUIの例を示す図である。 ゴミ除去処理の詳細を説明するフローチャートである。 補間ルーチンの詳細を説明するフローチャートである。 第3の実施形態におけるゴミ補正データの変換処理を示すフローチャートである。 第3の実施形態におけるゴミ除去処理を説明するフローチャートである。 第4の実施形態におけるゴミ除去処理除外領域を示す図である。 第4の実施形態における補間ルーチンを説明するフローチャートである。
符号の説明
100 カメラ本体
200 撮影レンズ
202 レンズマウント
418 撮像素子

Claims (17)

  1. 被写体像を光電変換して画像信号を生成する撮像手段と、
    前記撮像手段より得られる異物検出用画像信号から、前記撮像手段の撮像画面内における異物の位置及び大きさの情報である異物情報を検出する異物検出手段と、
    被写体の撮影時に使用したレンズのレンズ情報を取得するレンズ情報取得手段と、
    前記異物検出手段により検出された異物情報と、前記レンズ情報取得手段により取得されたレンズ情報とを、前記被写体の撮影によって得られた撮影画像データに関連付けて記録する記録手段と、
    を具備することを特徴とする撮像装置。
  2. 前記レンズ情報とは、前記被写体の撮影時のレンズの絞り値と瞳位置の情報であることを特徴とする請求項1に記載の撮像装置。
  3. 前記記録手段は更に、前記異物検出用画像信号の取得時に使用したレンズのレンズ情報を併せて記録することを特徴とする請求項1または2に記載の撮像装置。
  4. 前記異物検出用画像信号の取得時に使用したレンズのレンズ情報とは、前記異物検出用画像信号の取得時のレンズの絞り値と瞳位置の情報であることを特徴とする請求項3に記載の画像処理装置。
  5. 前記撮影画像データに関連付けて記録されている異物情報とレンズ情報とを取得する情報取得手段と、
    前記情報取得手段により取得された異物情報を、前記情報取得手段により取得された前記レンズ情報に基づいて第2の異物情報に変換する変換手段と、
    前記第2の異物情報に基づいて、前記撮影画像データにおける異物に対応する画素を補間処理する補間手段と、
    をさらに具備することを特徴とする請求項1に記載の撮像装置。
  6. 被写体像を光電変換して画像信号を生成する撮像手段を有する撮像装置を制御する方法であって、
    前記撮像手段より得られる異物検出用画像信号から、前記撮像手段の撮像画面内における異物の位置及び大きさの情報である異物情報を検出する異物検出工程と、
    被写体の撮影時に使用したレンズのレンズ情報を取得するレンズ情報取得工程と、
    前記異物検出工程において検出された異物情報と、前記レンズ情報取得工程において取得されたレンズ情報とを、前記被写体の撮影によって得られた撮影画像データに関連付けて記録する記録工程と、
    を具備することを特徴とする撮像装置の制御方法。
  7. 前記レンズ情報とは、前記被写体の撮影時のレンズの絞り値と瞳位置の情報であることを特徴とする請求項6に記載の撮像装置の制御方法。
  8. 前記記録工程では更に、前記異物検出用画像信号の取得時に使用したレンズのレンズ情報を併せて記録することを特徴とする請求項6または7に記載の撮像装置の制御方法。
  9. 前記異物検出用画像信号の取得時に使用したレンズのレンズ情報とは、前記異物検出用画像信号の取得時のレンズの絞り値と瞳位置の情報であることを特徴とする請求項8に記載の画像処理装置の制御方法。
  10. 前記撮影画像データに関連付けて記録されている異物情報とレンズ情報とを取得する情報取得工程と、
    前記情報取得工程において取得された異物情報を、前記情報取得工程において取得された前記レンズ情報に基づいて第2の異物情報に変換する変換工程と、
    前記第2の異物情報に基づいて、前記撮影画像データにおける異物に対応する画素を補間処理する補間工程と、
    をさらに具備することを特徴とする請求項6に記載の撮像装置の制御方法。
  11. 請求項6乃至10のいずれか1項に記載の制御方法をコンピュータに実行させることを特徴とするプログラム。
  12. 被写体像を光電変換して画像信号を生成する撮像手段と、
    前記撮像手段より得られる異物検出用画像信号から、前記撮像手段の撮像画面内における異物の位置及び大きさの情報である異物情報を検出する異物検出手段と、
    被写体の撮影時に使用したレンズのレンズ情報を取得するレンズ情報取得手段と、
    前記異物検出手段により検出された異物情報を、前記レンズ情報取得手段により取得されたレンズ情報に基づいて変換し、前記被写体の撮影によって得られた撮影画像データに関連付けて記録する記録手段と、
    を具備することを特徴とする撮像装置。
  13. 被写体像を光電変換して画像信号を生成する撮像手段を備える撮像装置を制御する方法であって、
    前記撮像手段より得られる異物検出用画像信号から、前記撮像手段の撮像画面内における異物の位置及び大きさの情報である異物情報を検出する異物検出工程と、
    被写体の撮影時に使用したレンズのレンズ情報を取得するレンズ情報取得工程と、
    前記異物検出工程において検出された異物情報を、前記レンズ情報取得工程において取得されたレンズ情報に基づいて変換し、前記被写体の撮影によって得られた撮影画像データに関連付けて記録する記録工程と、
    を具備することを特徴とする撮像装置の制御方法。
  14. 請求項13に記載の制御方法をコンピュータに実行させることを特徴とするプログラム。
  15. 被写体像を光電変換して画像信号を生成する撮像手段と、
    前記撮像手段より得られる異物検出用画像信号から、前記撮像手段の撮像画面内における異物の位置及び大きさの情報である異物情報を検出する異物検出手段と、
    被写体の撮影時に使用したレンズのレンズ情報を取得するレンズ情報取得手段と、
    被写体を撮影して得られた撮影画像信号から人物の顔の領域を検出する顔領域検出手段と、
    前記異物検出手段により検出された異物情報と、前記レンズ情報取得手段により取得されたレンズ情報と、前記顔領域検出手段により取得された顔領域情報とを、前記被写体の撮影によって得られた撮影画像データに関連付けて記録する記録手段と、
    を具備することを特徴とする撮像装置。
  16. 被写体像を光電変換して画像信号を生成する撮像手段を備える撮像装置を制御する方法であって、
    前記撮像手段より得られる異物検出用画像信号から、前記撮像手段の撮像画面内における異物の位置及び大きさの情報である異物情報を検出する異物検出工程と、
    被写体の撮影時に使用したレンズのレンズ情報を取得するレンズ情報取得工程と、
    被写体を撮影して得られた撮影画像信号から人物の顔の領域を検出する顔領域検出工程と、
    前記異物検出工程において検出された異物情報と、前記レンズ情報取得工程において取得されたレンズ情報と、前記顔領域検出工程において取得された顔領域情報とを、前記被写体の撮影によって得られた撮影画像データに関連付けて記録する記録工程と、
    を具備することを特徴とする撮像装置の制御方法。
  17. 請求項16に記載の制御方法をコンピュータに実行させることを特徴とするプログラム。
JP2006211379A 2006-01-12 2006-08-02 撮像装置及びその制御方法及びプログラム Withdrawn JP2007215151A (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2006211379A JP2007215151A (ja) 2006-01-12 2006-08-02 撮像装置及びその制御方法及びプログラム
US11/622,087 US8711241B2 (en) 2006-01-12 2007-01-11 Image capturing apparatus, control method thereof, and program
EP07100433A EP1809019A3 (en) 2006-01-12 2007-01-11 Image capturing apparatus, control method thereof, and program
KR1020070003554A KR100815512B1 (ko) 2006-01-12 2007-01-12 촬상장치 및 그 제어 방법
CN2007100005791A CN101001318B (zh) 2006-01-12 2007-01-12 图像拍摄设备及其控制方法

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2006005396 2006-01-12
JP2006211379A JP2007215151A (ja) 2006-01-12 2006-08-02 撮像装置及びその制御方法及びプログラム

Publications (1)

Publication Number Publication Date
JP2007215151A true JP2007215151A (ja) 2007-08-23

Family

ID=37944111

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006211379A Withdrawn JP2007215151A (ja) 2006-01-12 2006-08-02 撮像装置及びその制御方法及びプログラム

Country Status (5)

Country Link
US (1) US8711241B2 (ja)
EP (1) EP1809019A3 (ja)
JP (1) JP2007215151A (ja)
KR (1) KR100815512B1 (ja)
CN (1) CN101001318B (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009071549A (ja) * 2007-09-12 2009-04-02 Canon Inc 撮像装置及びその制御方法及びプログラム
JP2009152804A (ja) * 2007-12-19 2009-07-09 Canon Inc 画像処理装置及びその制御方法及びレンズ交換式一眼レフデジタルカメラ及びプログラム
JP2009177395A (ja) * 2008-01-23 2009-08-06 Hoya Corp ダスト検出装置およびデジタルカメラ
JP2010153993A (ja) * 2008-12-24 2010-07-08 Nikon Corp 画像データ処理装置
JP2012168399A (ja) * 2011-02-15 2012-09-06 Canon Inc 撮像装置
JP2014150362A (ja) * 2013-01-31 2014-08-21 Canon Inc 撮像装置
CN106973291A (zh) * 2017-06-01 2017-07-21 信利光电股份有限公司 一种摄像模组、电子设备、污点修复方法及系统

Families Citing this family (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007141858A1 (ja) * 2006-06-08 2007-12-13 Fujitsu Limited 汚れ検出方式
JP4771539B2 (ja) * 2006-07-26 2011-09-14 キヤノン株式会社 画像処理装置及びその制御方法及びプログラム
JP5046769B2 (ja) * 2007-07-24 2012-10-10 キヤノン株式会社 撮像装置及びその制御方法及びプログラム
US8593537B2 (en) * 2008-06-05 2013-11-26 Canon Kabushiki Kaisha Image sensing apparatus, control method thereof, and program for suppressing image deterioration caused by foreign substance
JP5014262B2 (ja) * 2008-06-05 2012-08-29 キヤノン株式会社 撮像装置及びその制御方法及びプログラム
JP5094665B2 (ja) * 2008-09-26 2012-12-12 キヤノン株式会社 撮像装置及びその制御方法及びプログラム
JP2014026049A (ja) 2012-07-25 2014-02-06 Sony Corp クリーニング装置とクリーニング方法および撮像装置
MY191193A (en) * 2012-07-27 2022-06-07 Nissan Motor Water droplet detection device and three-dimensional object detection device using water droplet detection device
WO2014119768A1 (en) * 2013-02-01 2014-08-07 Canon Kabushiki Kaisha Image pickup apparatus, image processing apparatus, image processing method, and non-transitory computer-readable storage medium
CN103546740B (zh) * 2013-09-03 2015-11-25 小米科技有限责任公司 一种检测摄像头的方法、装置及终端设备
CN104463827B (zh) * 2013-09-17 2019-02-05 联想(北京)有限公司 一种图像采集模块的自动检测方法及相应的电子设备
DE102013019138A1 (de) * 2013-11-12 2015-05-13 Application Solutions (Electronics and Vision) Ltd. Verfahren zum Erkennen eines verdeckten Zustands einer Kamera, Kamerasystem und Kraftfahrzeug
EP2899692B1 (en) * 2014-01-28 2019-09-04 Honda Research Institute Europe GmbH Method, system, imaging device, movable device and program product for detecting static elements in video and image sources
US10438631B2 (en) 2014-02-05 2019-10-08 Snap Inc. Method for real-time video processing involving retouching of an object in the video
CN104333705B (zh) * 2014-11-28 2017-07-07 广东欧珀移动通信有限公司 一种图像增强方法及装置
US10116901B2 (en) 2015-03-18 2018-10-30 Avatar Merger Sub II, LLC Background modification in video conferencing
US9948842B2 (en) 2015-06-26 2018-04-17 Kodak Alaris Inc. Camera subassembly dust and defect detection system and method
JP6895914B2 (ja) * 2018-03-12 2021-06-30 株式会社Pfu 画像読取装置、画像処理システム、制御方法及び制御プログラム
JP6917926B2 (ja) 2018-03-12 2021-08-11 株式会社Pfu 画像処理装置、制御方法及び制御プログラム
JP6873074B2 (ja) 2018-03-12 2021-05-19 株式会社Pfu 画像処理装置、制御方法及び制御プログラム
JP6903023B2 (ja) 2018-03-12 2021-07-14 株式会社Pfu 画像読取装置、画像処理システム及び異物検出方法
CN108780050B (zh) * 2018-03-29 2020-10-09 深圳达闼科技控股有限公司 检测镜头的方法及装置、电子设备和计算机可读存储介质
CN108535901A (zh) * 2018-06-21 2018-09-14 任志桂 一种tft液晶玻璃缺陷自动检测装置
US11089199B2 (en) * 2018-06-21 2021-08-10 Canon Kabushiki Kaisha Accessory device, imaging apparatus, and methods for controlling the same
CN109640075B (zh) * 2018-12-24 2020-10-09 维沃移动通信有限公司 一种摄像检测装置、方法及移动终端
US11340845B1 (en) 2021-03-12 2022-05-24 Hewlett-Packard Development Company, L.P. Determination of predicted failure modes based on properties of dust in printing devices
CN113011316B (zh) * 2021-03-16 2023-05-30 北京百度网讯科技有限公司 一种镜头状态的检测方法、装置、电子设备和介质
CN113256600B (zh) * 2021-06-10 2021-11-19 浙江华睿科技股份有限公司 基于人工智能的相机灰尘检测方法、装置及电子设备

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001218115A (ja) * 2000-01-31 2001-08-10 Sony Corp 固体撮像装置及びその欠陥画素記録方法
JP2001223894A (ja) 2000-02-14 2001-08-17 Canon Inc 画像処理装置、方法および記憶媒体
JP4167401B2 (ja) * 2001-01-12 2008-10-15 富士フイルム株式会社 ディジタル・カメラおよびその動作制御方法
WO2003049029A1 (fr) 2001-12-04 2003-06-12 Pony Industry Co., Ltd. Procede de traitement d'image et dispositif de traitement d'image
JP2003295281A (ja) * 2002-04-03 2003-10-15 Canon Inc 撮像装置及び動作処理方法及びプログラム及び記憶媒体
JP2004062651A (ja) * 2002-07-30 2004-02-26 Canon Inc 画像処理装置、画像処理方法、その記録媒体およびそのプログラム
JP2004096500A (ja) * 2002-08-30 2004-03-25 Konica Minolta Holdings Inc 撮像装置、画像処理装置及び画像記録装置
GB2395781A (en) * 2002-11-29 2004-06-02 Sony Uk Ltd Face detection
JP2004193729A (ja) * 2002-12-09 2004-07-08 Fuji Photo Film Co Ltd 画像記録済み記録媒体、画像ファイルの記録方法及びデジタルカメラ
CN101778222B (zh) * 2002-12-27 2012-06-13 株式会社尼康 图像处理装置
JP4466015B2 (ja) 2002-12-27 2010-05-26 株式会社ニコン 画像処理装置および画像処理プログラム
US7295233B2 (en) * 2003-09-30 2007-11-13 Fotonation Vision Limited Detection and removal of blemishes in digital images utilizing original images of defocused scenes
US7590305B2 (en) 2003-09-30 2009-09-15 Fotonation Vision Limited Digital camera with built-in lens calibration table
JP4480147B2 (ja) 2004-09-13 2010-06-16 キヤノン株式会社 撮像装置およびその制御方法
KR100619306B1 (ko) 2004-09-24 2006-09-12 엘지전자 주식회사 디지털 이미징 장치의 불량화소 추출 방법
JP4678860B2 (ja) * 2006-01-24 2011-04-27 キヤノン株式会社 撮像装置及びその制御方法とプログラム

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009071549A (ja) * 2007-09-12 2009-04-02 Canon Inc 撮像装置及びその制御方法及びプログラム
JP2009152804A (ja) * 2007-12-19 2009-07-09 Canon Inc 画像処理装置及びその制御方法及びレンズ交換式一眼レフデジタルカメラ及びプログラム
JP2009177395A (ja) * 2008-01-23 2009-08-06 Hoya Corp ダスト検出装置およびデジタルカメラ
US8873881B2 (en) 2008-01-23 2014-10-28 Pentax Ricoh Imaging Company, Ltd. Dust detection system and digital camera
JP2010153993A (ja) * 2008-12-24 2010-07-08 Nikon Corp 画像データ処理装置
JP2012168399A (ja) * 2011-02-15 2012-09-06 Canon Inc 撮像装置
JP2014150362A (ja) * 2013-01-31 2014-08-21 Canon Inc 撮像装置
CN106973291A (zh) * 2017-06-01 2017-07-21 信利光电股份有限公司 一种摄像模组、电子设备、污点修复方法及系统

Also Published As

Publication number Publication date
US8711241B2 (en) 2014-04-29
EP1809019A3 (en) 2011-09-28
KR100815512B1 (ko) 2008-03-20
US20070159551A1 (en) 2007-07-12
EP1809019A2 (en) 2007-07-18
KR20070075346A (ko) 2007-07-18
CN101001318A (zh) 2007-07-18
CN101001318B (zh) 2013-04-24

Similar Documents

Publication Publication Date Title
JP4590355B2 (ja) 画像処理装置及び画像処理方法及びプログラム
KR100815512B1 (ko) 촬상장치 및 그 제어 방법
JP4799462B2 (ja) 画像処理装置及びその制御方法及びプログラム及び記憶媒体及び撮像装置
KR100971742B1 (ko) 화상처리장치 및 그 제어방법
JP4771539B2 (ja) 画像処理装置及びその制御方法及びプログラム
JP4771540B2 (ja) 画像処理装置及びその制御方法及び画像処理方法及びプログラム
JP4480147B2 (ja) 撮像装置およびその制御方法
US7619666B2 (en) Image processing apparatus, control method therefor, and program correcting image data based on foreign substance information and inhibiting such correction
JP5400504B2 (ja) 撮像装置、画像処理装置、制御方法、及びプログラム
JP4960852B2 (ja) 画像処理装置及びその制御方法及びレンズ交換式一眼レフデジタルカメラ及びプログラム
JP4827778B2 (ja) 画像処理装置及び画像処理方法及びプログラム及び記憶媒体
JP2010098698A (ja) 撮像装置及びその制御方法及びプログラム
JP2008244868A (ja) 撮像装置及びその制御方法及びプログラム及び記憶媒体
JP5094571B2 (ja) 撮像装置及びその制御方法及びプログラム
JP4480188B2 (ja) 撮像装置およびその制御方法
JP2009152696A (ja) 撮像装置及びその制御方法及びプログラム及び画像処理装置
JP2014150362A (ja) 撮像装置

Legal Events

Date Code Title Description
A300 Application deemed to be withdrawn because no request for examination was validly filed

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20091006