JP6501106B2 - 画像検出装置、画像検出方法及び撮影装置 - Google Patents

画像検出装置、画像検出方法及び撮影装置 Download PDF

Info

Publication number
JP6501106B2
JP6501106B2 JP2015016341A JP2015016341A JP6501106B2 JP 6501106 B2 JP6501106 B2 JP 6501106B2 JP 2015016341 A JP2015016341 A JP 2015016341A JP 2015016341 A JP2015016341 A JP 2015016341A JP 6501106 B2 JP6501106 B2 JP 6501106B2
Authority
JP
Japan
Prior art keywords
image
pixel
color
color difference
detection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2015016341A
Other languages
English (en)
Other versions
JP2016143938A (ja
Inventor
健児 松本
健児 松本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Imaging Co Ltd
Original Assignee
Ricoh Imaging Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Imaging Co Ltd filed Critical Ricoh Imaging Co Ltd
Priority to JP2015016341A priority Critical patent/JP6501106B2/ja
Priority to PCT/JP2016/052660 priority patent/WO2016121928A1/ja
Publication of JP2016143938A publication Critical patent/JP2016143938A/ja
Application granted granted Critical
Publication of JP6501106B2 publication Critical patent/JP6501106B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/672Focus control based on electronic image sensor signals based on the phase difference signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/673Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Studio Devices (AREA)
  • Color Television Image Signal Generators (AREA)
  • Image Analysis (AREA)

Description

本発明は、画像内の画像劣化を検出する画像検出装置及び画像検出方法並びに撮影装置に関する。
撮像素子の画素ピッチと同程度以上の高周波成分を含む被写体を撮像すると、偽色(色モアレ)等のモアレが発生して、撮影画像が劣化することが知られている。そこで、この種の偽色を除去するための種々の技術が提案されている。例えば特許文献1に、撮影画像内に発生する偽色を検出することが可能な撮影装置の具体的構成が記載されている。
特許文献1に記載の撮影装置は、合焦状態の被写体を撮像し、次いで、非合焦状態の被写体を撮像する。非合焦状態の撮影画像では、被写体のコントラストが低下して高周波成分が低減されるため、合焦状態の撮影画像に発生していた偽色も低減される。そこで、特許文献1に記載の撮影装置は、合焦状態の撮影画像の色差信号と非合焦状態の撮影画像の色差信号との差分値をブロック毎に演算し、差分値の大きいブロックを偽色が発生しているブロックとして検出する。
特開2011−109496号公報
このように、特許文献1に記載の撮影装置では、コントラストが高く偽色が発生している被写体と、コントラストが低く偽色の発生が低減された被写体とを比較処理で検出することにより、偽色の発生を検出している。しかし、非合焦状態の撮影画像では、合焦状態の撮影画像と比べて偽色の発生が軽減されるだけであることから、色差信号の差分値が偽色の発生しているブロックにおいても大きくはならない。そのため、特許文献1に記載の撮影装置では、偽色を精度良く検出することが難しい。
本発明は上記の事情に鑑みてなされたものであり、その目的とするところは、画像劣化を精度良く検出することが可能な画像検出装置、画像検出方法及び撮影装置を提供することである。
本発明の一実施形態に係る画像検出装置は、撮影光学系を介して所定の画素配置を有する撮像素子に入射される被写体像と該撮像素子とを該撮像素子の受光面方向に相対的に位置移動させる移動手段と、該相対的な位置が異なる状態で被写体像を撮像して色差信号を生成する信号生成手段と、色差信号に基づいて撮影画像内に発生する画像劣化の検出を行う検出手段とを備える。
また、本発明の一実施形態に係る画像検出装置は、透過波長選択素子付きの撮像素子の画素配置に基づいて撮影光学系内の一部の光学素子と該撮像素子の少なくとも一方を物理的に動かすことにより、該撮像素子の受光面上での被写体像の位置を移動させる移動手段と、被写体像の位置が移動される毎に、撮像素子に取り込まれた被写体像を撮像し、色補間処理を含む所定の信号処理を施して色差信号を生成する信号生成手段と、撮像素子の受光面上での被写体像の位置が互いに異なる少なくとも一対の色差信号に基づいて撮影画像内に発生する画像劣化の検出を行う検出手段とを備える。
本発明の一実施形態によれば、撮像素子の受光面上での被写体像の位置を移動させることにより、移動前後の撮影画像において高周波成分を含む領域で異なる色の画像劣化が発生して、撮影画像間の変化が大きくなりやすい。そのため、画像劣化を精度良く検出することが可能となる。
また、本発明の一実施形態において、移動手段は、少なくとも一対の色差信号が持つ色情報が、画像劣化が発生する発生領域で互いに補色の関係となるように、撮像素子の受光面上での被写体像の位置を画素間隔に応じた量だけ移動させる構成としてもよい。
また、本発明の一実施形態において、移動手段は、撮像素子の受光面上での被写体像の位置を画素配置に応じた方向にn画素分又は(m+0.5)画素分(但し、n=奇数の自然数,m=0又は奇数の自然数)の距離だけ移動させる構成としてもよい。
また、本発明の一実施形態において、検出手段は、撮像素子の受光面上での被写体像の位置が互いに異なる少なくとも一対の撮影画像について、同一の被写体像が同一アドレスの画素に入射されたものとして処理されるように、一方の撮影画像を構成する各画素のアドレスを被写体像の位置の移動量に応じて変換し、アドレスが変換された一方の撮影画像の色差信号及び他方の撮影画像の色差信号に基づいて画像劣化の検出を画素毎に行う構成としてもよい。
また、本発明の一実施形態において、検出手段は、少なくとも一対の色差信号の差分値と加算値の少なくとも一方を演算し、演算結果に基づいて画像劣化の検出を行う構成としてもよい。
また、本発明の一実施形態において、検出手段は、少なくとも一対の色差信号の差分値を画素毎に演算し、演算された差分値が第一の閾値以上となる画素を画像劣化が発生する発生領域の画素として検出する構成としてもよい。
また、本発明の一実施形態において、検出手段は、少なくとも一対の色差信号の加算値を画素毎に演算し、演算された加算値が第二の閾値以下となる画素を画像劣化が発生する発生領域の画素として検出する構成としてもよい。
また、本発明の一実施形態において、信号生成手段は、所定の信号処理を施すことにより、色差信号と組になる輝度信号を生成し、検出手段は、少なくとも一対の輝度信号にも基づいて画像劣化の検出を行う構成としてもよい。
また、本発明の一実施形態に係る撮影装置は、上記の画像検出装置を有する撮影装置であって、撮影装置が静止状態であるか否かを判定する静止状態判定手段を備えており、静止状態判定手段により撮影装置が静止状態であると判定すると、画像検出装置による画像劣化の検出を行う。
また、本発明の一実施形態に係る撮影装置は、上記の画像検出装置を有する撮影装置であって、該撮影装置の振れを検出する振れ検出手段を備えた構成としてもよい。この場合、移動手段は、振れ検出手段により検出された撮影装置の振れに基づいて撮影光学系内の一部の光学素子と撮像素子の少なくとも一方を物理的に動かすことにより、該撮影装置の振れに起因する像振れを補正する。
また、本発明の一実施形態に係る画像検出方法は、透過波長選択素子付きの撮像素子の画素配置に基づいて撮影光学系内の一部の光学素子と該撮像素子の少なくとも一方を物理的に動かすことにより、該撮像素子の受光面上での被写体像の位置を移動させるステップと、被写体像の位置が移動される毎に、撮像素子に取り込まれた被写体像を撮像し、色補間処理を含む所定の信号処理を施して色差信号を生成するステップと、撮像素子の受光面上での被写体像の位置が互いに異なる少なくとも一対の色差信号に基づいて撮影画像内に発生する画像劣化の検出を行うステップとを含む。
本発明の一実施形態によれば、画像劣化を精度良く検出することが可能な画像検出装置、画像検出方法及び撮影装置が提供される。
本発明の実施形態の撮影装置の構成を示すブロック図である。 本発明の実施形態の撮影装置に備えられる像振れ補正装置の構成を概略的に示す図である。 本発明の実施形態の撮影装置に備えられる像振れ補正装置の構成を概略的に示す図である。 本発明の実施形態におけるLPF駆動の説明を補助する図である。 本発明の実施形態におけるシステムコントローラによる偽色検出フローを示す図である。 本発明の実施形態において撮影される被写体に関する図である。 本発明の実施形態において撮影される被写体に関する図である。 本発明の実施形態の色空間内においてプロットされる各色差信号を示す図である。 別の実施形態におけるシステムコントローラによる偽色検出フローを示す図である。
以下、本発明の実施形態の撮影装置について図面を参照しながら説明する。以下においては、本発明の一実施形態として、デジタル一眼レフカメラについて説明する。なお、撮影装置は、デジタル一眼レフカメラに限らず、例えば、ミラーレス一眼カメラ、コンパクトデジタルカメラ、ビデオカメラ、カムコーダ、タブレット端末、PHS(Personal Handy phone System)、スマートフォン、フィーチャフォン、携帯ゲーム機など、撮影機能を有する別の形態の装置に置き換えてもよい。
[撮影装置1全体の構成]
図1は、本実施形態の撮影装置1の構成を示すブロック図である。図1に示されるように、撮影装置1は、システムコントローラ100、操作部102、駆動回路104、撮影レンズ106、絞り108、シャッタ110、像振れ補正装置112、信号処理回路114、画像処理エンジン116、バッファメモリ118、カード用インタフェース120、LCD(Liquid Crystal Display)制御回路122、LCD124、ROM(Read Only Memory)126、ジャイロセンサ128、加速度センサ130、地磁気センサ132及びGPS(Global Positioning System)センサ134を備えている。なお、撮影レンズ106は複数枚構成であるが、図1においては便宜上一枚のレンズとして示す。また、撮影レンズ106の光軸AXと同じ方向をZ軸方向と定義し、Z軸方向と直交し且つ互いに直交する二軸方向をそれぞれX軸方向(水平方向)、Y軸方向(垂直方向)と定義する。
操作部102には、電源スイッチやレリーズスイッチ、撮影モードスイッチなど、ユーザが撮影装置1を操作するために必要な各種スイッチが含まれる。ユーザにより電源スイッチが操作されると、図示省略されたバッテリから撮影装置1の各種回路に電源ラインを通じて電源供給が行われる。
システムコントローラ100は、CPU(Central Processing Unit)及びDSP(Digital Signal Processor)を含む。システムコントローラ100は電源供給後、ROM126にアクセスして制御プログラムを読み出してワークエリア(不図示)にロードし、ロードされた制御プログラムを実行することにより、撮影装置1全体の制御を行う。
レリーズスイッチが操作されると、システムコントローラ100は、例えば、固体撮像素子112a(後述の図2参照)により撮像された画像に基づいて計算された測光値や、撮影装置1に内蔵された露出計(不図示)で測定された測光値に基づき適正露出が得られるように、駆動回路104を介して絞り108及びシャッタ110を駆動制御する。より詳細には、絞り108及びシャッタ110の駆動制御は、プログラムAE(Automatic Exposure)、シャッタ優先AE、絞り優先AEなど、撮影モードスイッチにより指定されるAE機能に基づいて行われる。また、システムコントローラ100はAE制御と併せてAF(Autofocus)制御を行う。AF制御には、アクティブ方式、位相差検出方式、像面位相差検出方式、コントラスト検出方式等が適用される。また、AFモードには、中央一点の測距エリアを用いた中央一点測距モード、複数の測距エリアを用いた多点測距モード、全画面の距離情報に基づく全画面測距モード等がある。システムコントローラ100は、AF結果に基づいて駆動回路104を介して撮影レンズ106を駆動制御し、撮影レンズ106の焦点を調整する。なお、この種のAE及びAFの構成及び制御については周知であるため、ここでの詳細な説明は省略する。
図2及び図3は、像振れ補正装置112の構成を概略的に示す図である。図2及び図3に示されるように、像振れ補正装置112は、固体撮像素子112aを備えている。被写体からの光束は、撮影レンズ106、絞り108、シャッタ110を通過して固体撮像素子112aの受光面112aaにて受光される。なお、固体撮像素子112aの受光面112aaは、X軸及びY軸を含むXY平面である。固体撮像素子112aは、透過波長選択素子としてベイヤ型画素配置のカラーフィルタを有する単板式カラーCCD(Charge Coupled Device)イメージセンサである。固体撮像素子112aは、受光面112aa上の各画素で結像した光学像を光量に応じた電荷として蓄積して、R(Red)、G(Green)、B(Blue)の画像信号を生成して出力する。なお、固体撮像素子112aは、CCDイメージセンサに限らず、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサやその他の種類の撮像装置に置き換えられてもよい。固体撮像素子112aはまた、補色系フィルタを搭載したものであってもよいし、画素毎に何れかのカラーフィルタを配置していれば、ベイヤ配列等の周期的なカラー配列を有するフィルタである必要はない。
信号処理回路114は、固体撮像素子112aより入力される画像信号に対してクランプ、デモザイク(色補間)等の所定の信号処理を施して、画像処理エンジン116に出力する。画像処理エンジン116は、信号処理回路114より入力される画像信号に対してマトリクス演算、Y/C分離、ホワイトバランス等の所定の信号処理を施して輝度信号Y、色差信号Cb、Crを生成し、JPEG(Joint Photographic Experts Group)等の所定のフォーマットで圧縮する。バッファメモリ118は、画像処理エンジン116による処理の実行時、処理データの一時的な保存場所として用いられる。また、撮影画像の保存形式は、JPEG形式に限らず、最小限の画像処理(例えばクランプ)しか施されないRAW形式であってもよい。
カード用インタフェース120のカードスロットには、メモリカード200が着脱可能に差し込まれている。
画像処理エンジン116は、カード用インタフェース120を介してメモリカード200と通信可能である。画像処理エンジン116は、生成された圧縮画像信号(撮影画像データ)をメモリカード200(又は撮影装置1に備えられる不図示の内蔵メモリ)に保存する。
また、画像処理エンジン116は、生成された輝度信号Y、色差信号Cb、Crをフレームメモリ(不図示)にフレーム単位でバッファリングする。画像処理エンジン116は、バッファリングされた信号を所定のタイミングで各フレームメモリから掃き出して所定のフォーマットのビデオ信号に変換し、LCD制御回路122に出力する。LCD制御回路122は、画像処理エンジン116より入力される画像信号を基に液晶を変調制御する。これにより、被写体の撮影画像がLCD124の表示画面に表示される。ユーザは、AE制御及びAF制御に基づいて適正な輝度及びピントで撮影されたリアルタイムのスルー画(ライブビュー)を、LCD124の表示画面を通じて視認することができる。
画像処理エンジン116は、ユーザにより撮影画像の再生操作が行われると、操作により指定された撮影画像データをメモリカード200又は内蔵メモリより読み出して所定のフォーマットの画像信号に変換し、LCD制御回路122に出力する。LCD制御回路122が画像処理エンジン116より入力される画像信号を基に液晶を変調制御することで、被写体の撮影画像がLCD124の表示画面に表示される。
[振れ補正部材の駆動に関する説明]
像振れ補正装置112は、振れ補正部材を駆動させる。本実施形態において、振れ補正部材は、固体撮像素子112aである。なお、振れ補正部材は、固体撮像素子112aに限らず、撮影レンズ106内に含まれる一部のレンズなど、光軸AXを基準として物理的に動かされることにより、固体撮像素子112aの受光面112aa上での被写体像の入射位置をシフトさせることが可能な別の構成であってもよく、又は、これらと固体撮像素子112aのうち2つ以上の部材を組み合わせた構成であってもよい。
像振れ補正装置112は、像振れを補正するために振れ補正部材を光軸AXと直交する平面内(すなわち、XY平面内)で微小に駆動(振動)させるだけでなく、被写体像が画素ピッチ分ぼかされることによる光学的なローパスフィルタ(LPF:Low Pass Filter)効果(偽色等のモアレの軽減)が得られるように振れ補正部材を光軸AXと直交する平面内で微小に駆動(微小回転)させる。以下、説明の便宜上、振れ補正部材を像振れ補正で駆動させることを「像振れ補正駆動」と記し、振れ補正部材を光学的なLPFと同様の効果が得られるように駆動させることを「LPF駆動」と記す。
(像振れ補正駆動に関する説明)
ジャイロセンサ128は、像振れ補正を制御するための情報を検出するセンサである。具体的には、ジャイロセンサ128は、撮影装置1に加わる二軸周り(X軸周り、Y軸周り)の角速度を検出し、検出された二軸周りの角速度をXY平面内(換言すると、固体撮像素子112aの受光面112aa内)の振れを示す振れ検出信号としてシステムコントローラ100に出力する。
図2及び図3に示されるように、像振れ補正装置112は、撮影装置1が備えるシャーシ等の構造物に固定された固定支持基板112bを備えている。固定支持基板112bは、固体撮像素子112aが搭載された可動ステージ112cをスライド可能に支持している。
可動ステージ112cと対向する固定支持基板112bの面上には、磁石MYR、MYL、MXD、MXUが取り付けられている。また、固定支持基板112bには、磁性体であるヨークYYR、YYL、YXD、YXUが取り付けられている。ヨークYYR、YYL、YXD、YXUはそれぞれ、固定支持基板112bから可動ステージ112cを回り込んで磁石MYR、MYL、MXD、MXUと対向する位置まで延びた形状を持ち、磁石MYR、MYL、MXD、MXUとの間に磁気回路を構成する。また、可動ステージ112cには、駆動用コイルCYR、CYL、CXD、CXUが取り付けられている。駆動用コイルCYR、CYL、CXD、CXUが磁気回路の磁界内において電流を受けることにより、駆動力が発生する。可動ステージ112c(固体撮像素子112a)は、発生した駆動力により、固定支持基板112bに対してXY平面内で微小に駆動される。
対応する磁石、ヨーク及び駆動用コイルはボイスコイルモータを構成する。以下、便宜上、磁石MYR、ヨークYYR及び駆動用コイルCYRよりなるボイスコイルモータに符号VCMYRを付し、磁石MYL、ヨークYYL及び駆動用コイルCYLよりなるボイスコイルモータに符号VCMYLを付し、磁石MXD、ヨークYXD及び駆動用コイルCXDよりなるボイスコイルモータに符号VCMXDを付し、磁石MXU、ヨークYXU及び駆動用コイルCXUよりなるボイスコイルモータに符号VCMXUを付す。
各ボイスコイルモータVCMYR、VCMYL、VCMXD、VCMXU(駆動用コイルCYR、CYL、CXD、CXU)は、システムコントローラ100の制御下でPWM(Pulse Width Modulation)駆動される。ボイスコイルモータVCMYRとVCMYLは、固体撮像素子112aの下方であって、水平方向(X軸方向)に所定の間隔を空けて並べて配置されており、ボイスコイルモータVCMXDとVCMXUは、固体撮像素子112aの側方であって、垂直方向(Y軸方向)に所定の間隔を空けて並べて配置されている。
固定支持基板112b上であって駆動用コイルCYR、CYL、CXD、CXUの各近傍位置には、ホール素子HYR、HYL、HXD、HXUが取り付けられている。ホール素子HYR、HYL、HXD、HXUはそれぞれ、磁石MYR、MYL、MXD、MXUの磁力を検出して、可動ステージ112c(固体撮像素子112a)のXY平面内の位置を示す位置検出信号をシステムコントローラ100に出力する。具体的には、ホール素子HYR及びHYLにより可動ステージ112c(固体撮像素子112a)のY軸方向位置及び傾き(回転)が検出され、ホール素子HXD及びHXUにより可動ステージ112c(固体撮像素子112a)のX軸方向位置及び傾き(回転)が検出される。
システムコントローラ100は、ボイスコイルモータ用のドライバICを内蔵している。システムコントローラ100は、ジャイロセンサ128より出力される振れ検出信号及びホール素子HYR、HYL、HXD、HXUより出力される位置検出信号に基づいて、ドライバICの定格電力(許容電力)を超えない範囲内において各ボイスコイルモータVCMYR、VCMYL、VCMXD、VCMXU(駆動用コイルCYR、CYL、CXD、CXU)に流す電流のバランスを崩さないようにデューティ比を計算する。システムコントローラ100は、計算されたデューティ比で各ボイスコイルモータVCMYR、VCMYL、VCMXD、VCMXUに駆動電流を流し、固体撮像素子112aを像振れ補正駆動する。これにより、固体撮像素子112aが重力や外乱等に抗して規定の位置に保持されつつ固体撮像素子112aの受光面112aa上での像振れが補正(別の言い方によれば、受光面112aa上での被写体像の入射位置が振れないように固体撮像素子112aの位置が調整)される。
(LPF駆動に関する説明)
次に、LPF駆動に関する説明を行う。本実施形態において、像振れ補正装置112は、ボイスコイルモータVCMYR、VCMYL、VCMXD、VCMXUに所定の駆動電流を流すことにより、一回の露光期間に対して、XY平面内において所定の軌跡を描くように可動ステージ112c(固体撮像素子112a)を駆動して、被写体像を固体撮像素子112aの検出色(R、G又はB)の異なる複数の画素に入射させる。これにより、光学的なLPFと同様の効果が得られる。
図4(a)、図4(b)は、LPF駆動の説明を補助する図である。同図に示されるように、固体撮像素子112aの受光面112aa上には、複数の画素PIXが所定の画素ピッチPでマトリックス状に並べて配置されている。説明の便宜上、同図の各画素PIXについて、前面に配置されたフィルタ色に対応させて符号(R、G、Bの何れか1つ)を付す。
図4(a)は、固体撮像素子112aが光軸AXを中心とする正方形軌跡を描くように駆動される例を示す。この正方形軌跡は、例えば固体撮像素子112aの画素ピッチPを一辺とした正方形の閉じた経路とすることができる。図4(a)の例では、固体撮像素子112aは、X軸方向とY軸方向とに1画素ピッチP単位で交互に且つ正方形経路となるように駆動される。
図4(b)は、固体撮像素子112aが光軸AXを中心とする回転対称な円形軌跡を描くように駆動される例を示す。この円形軌跡は、例えば固体撮像素子112aの画素ピッチPの√2/2倍を半径rとする円形の閉じた経路とすることができる。
なお、画素ピッチPを含む駆動軌跡の情報は、システムコントローラ100の内部メモリ又はROM126に予め保持されている。
図4(a)(又は図4(b))に例示されるように、露光期間中、固体撮像素子112aが駆動軌跡の情報に基づいて所定の正方形軌跡(又は円形軌跡)を描くように駆動されると、被写体像が4つのカラーフィルタR、G、B、G(4つ(二行二列)の画素PIX)に均等に入射される。これにより、光学的なLPFと同等の効果が得られる。すなわち、何れのカラーフィルタ(画素PIX)に入射された被写体像も、その周辺のカラーフィルタ(画素PIX)に必ず入射されるため、恰も光学的なLPFを被写体像が通過したときと同等の効果(偽色等のモアレの軽減)が得られる。
なお、ユーザは、操作部102を操作することにより、像振れ補正駆動、LPF駆動のそれぞれのオン/オフを切り替えることができる。
[偽色の検出に関する説明]
次に、本実施形態において撮影画像内に発生する、モアレの一種である偽色を検出する方法について説明する。図5は、システムコントローラ100により実行される偽色検出フローを示す。図5に示される偽色検出フローは、例えば、レリーズスイッチが押された時点で開始される。
[図5のS11(状態の判定)]
本処理ステップS11では、撮影装置1が静止状態であるか否かが判定される。例示的には、ジャイロセンサ128より入力される振れ検出信号のうち一定周波数以上の信号成分の振幅が一定期間継続してある閾値以内に収まる場合に静止状態と判定される。撮影装置1の静止状態として、典型的には、撮影装置1が三脚に固定された状態が挙げられる。なお、静止状態を含めた撮影装置1の姿勢はジャイロセンサ128に代えて、加速度センサ130、地磁気センサ132、GPSセンサ134など、他のセンサより出力される情報を用いて検出されてもよい。また、検出精度を向上させるため、例えばセンサ・フュージョン技術を適用し、これらのセンサより出力される情報が複合的に用いられるようにしてもよい。
撮影装置1が低速シャッタスピード設定下の手持ち撮影状態など、静止状態にない場合は、手振れ(あるいは被写体ぶれ)による被写体のボケに起因して偽色がそもそも発生し難い。従って、本実施形態では、撮影装置1が静止状態である(すなわち、偽色が発生しやすい状態である)と判定された場合に限り(S11:YES)、撮影画像内の偽色を検出すべく、処理ステップS12(第一画像の撮影)以降が実行される。撮影装置1が静止状態にない場合は、処理ステップS12(第一画像の撮影)以降が実行されないため、システムコントローラ100の処理負荷が軽減される。処理ステップS12(第一画像の撮影)以降が実行されない旨は、撮影者に例えばLCD124の表示画面等を通じて通知されてもよい。なお、撮影画像内の偽色の検出を重視したい場合は、撮影装置1が静止状態であるか否かに拘わらず処理ステップS12(第一画像の撮影)以降が実行されてもよい。この場合、処理ステップS12(第一画像の撮影)以降が実行される旨は、撮影者に例えばLCD124の表示画面等を通じて通知されてもよい。また、静止状態の判定閾値は撮影装置1に設定されたシャッタスピードに応じて変更されてもよい。
[図5のS12(第一画像の撮影)]
図6(a)、図7(a)は、撮影される被写体の一部であって、それぞれ異なる部分を拡大して示す図である。図6(a)に示される被写体は、固体撮像素子112aの画素PIXの画素ピッチPと同ピッチで明暗が交互に現れる斜め縞模様であり、図7(a)に示される被写体は、画素ピッチPと同ピッチで明暗が交互に現れる縦縞模様である。説明の便宜上、図6(a)に示される被写体のうち太実線で囲まれた6×6マスの被写体を「斜め縞被写体6a」と記し、図7(a)に示される被写体のうち太実線で囲まれた6×6マスの被写体を「縦縞被写体7a」と記す。
本処理ステップS12では、AE制御及びAF制御に基づいて適正な輝度及びピントで被写体画像(第一画像)が撮影される。ここでは、斜め縞被写体6aと縦縞被写体7aの何れにもピントが合っているものとする。
図6(b)、図7(b)はそれぞれ、固体撮像素子112aの各画素PIXの取り込まれる斜め縞被写体6a、縦縞被写体7aを模式的に示す図であり、固体撮像素子112aの受光面112aaを被写体側から正面視した図である。図6(b)及び図7(b)では、図4と同様に、各画素PIXについて、前面に配置されたフィルタ色に対応させて符号(R、G、Bの何れか1つ)を付す。図6(b)、図7(b)の各図中、黒塗りの画素PIXは、縞模様の暗部分を取り込んだことを示し、白塗りの画素PIXは、縞模様の明部分を取り込んだことを示す。また、説明の便宜上、図6(b)、図7(b)の各図に画素のアドレス(数字1〜8、符号イ〜チ)を付す。なお、厳密には、撮影レンズ106の結像作用によって、被写体は上下左右が反転した状態で固体撮像素子112a上に結像される。一例として、「斜め縞被写体6a」の左上角の部分は、固体撮像素子112a上では右下角の部分として結像する。しかし、本実施形態では、説明の煩雑化を避けるため、「斜め縞被写体6a」の左上角の部分は、図6(b)の左上角の部分に対応するものとして説明する。
[図5のS13(固体撮像素子112aのシフト)]
本処理ステップS13では、可動ステージ112cが駆動されて、固体撮像素子112aが1画素分の距離だけ右方向(図6のX軸の矢じり側の方向)にシフトされる。
[図5のS14(第二画像の撮影)]
本処理ステップS14においても、第一画像撮影時のAE制御及びAF制御に基づいて被写体画像(第二画像)が撮影される。第二画像の撮影完了後、第一画像と第二画像を用いた偽色検出処理を開始する旨が撮影者に告知されてもよい。
図6(c)、図7(c)はそれぞれ、図6(b)、図7(b)と同様の図であり、固体撮像素子112aの各画素PIXの取り込まれる斜め縞被写体6a、縦縞被写体7aを模式的に示す。図6、図7の各図(b)、(c)に示されるように、固体撮像素子112aの受光面112aa上での被写体像の入射位置は、処理ステップS13(固体撮像素子112aのシフト)における固体撮像素子112aのシフト量に応じて(受光面112aa上で左方向に1画素分の距離だけ)シフトする。
附言するに、本処理ステップS14における撮影条件は、処理ステップS12(第一画像の撮影)における撮影時に対して、固体撮像素子112aが1画素分の距離だけ右方向にシフトされた点以外は同一である。そのため、第二画像は、実質的に、第一画像に対して1画素分右方向にシフトした範囲を撮影したものとなっている。図6、図7の各図(b)、(c)から判るように、第二画像において、被写体は、第一画像に対して全体的に1画素分の距離だけ左方向にシフトした位置に写る。
処理ステップS12(第一画像の撮影)にて撮影された第一画像、処理ステップS14(第二画像の撮影)にて撮影された第二画像の何れの画像信号も、上述した信号処理(クランプ、デモザイク、マトリクス演算、Y/C分離、ホワイトバランス等)が施されて、輝度信号Y、色差信号Cb、Crに変換される。以下、説明の便宜上、処理ステップS12(第一画像の撮影)にて撮影された第一画像の色差信号(Cb、Cr)を「第一色差信号」と記し、処理ステップS14(第二画像の撮影)にて撮影された第二画像の色差信号(Cb、Cr)を「第二色差信号」と記す。また、「注目画素」とは、少なくともデモザイク処理された後の各画像の画素を指すものとする。
[図5のS15(電気的なLPF処理)]
本実施形態では、詳しくは後述するが、第一色差信号と第二色差信号との信号差分値や信号加算値に基づいて偽色の発生が検出される。しかし、コントラストの高いエッジ部分では、偽色が発生していなくても、第一色差信号と第二色差信号との信号差分値が大きくなることがある。この場合、エッジ部分において偽色が発生していると誤検出される虞がある。また、詳しくは後述するが、信号差分値や信号加算値の演算に用いられる第一色差信号と第二色差信号は、同一の被写体像を写す画素の色差信号ではあるが、処理ステップS13(固体撮像素子112aのシフト)にて固体撮像素子112aがシフトされたことが原因で、それぞれ、アドレスが異なる画素を用いてデモザイク処理されている。そのため、第一色差信号と第二色差信号は、同一の被写体像を写す画素の色差信号であるにも拘わらず色情報が極僅かに異なる場合がある。そこで、本処理ステップS15では、画像信号(輝度信号Y、色差信号Cb、Cr)に対してLPF処理が施される。LPF処理によって画像がぼかされることで、エッジ部分における偽色の誤検出が抑えられると共に第一色差信号と第二色差信号との色情報の誤差が抑えられる。
[図5のS16(アドレスの変換)]
本実施形態では、撮影画像内において偽色が発生する偽色発生領域が画素単位で検出される。この場合、偽色の検出精度を向上させるため、同一の被写体像が入射される注目画素同士で信号差分値や信号加算値を演算することが望ましい。そこで、本処理ステップS16では、同一の被写体像が同一アドレスの画素に入射されたものとして処理されるように、処理ステップS14(第二画像の撮影)にて撮影された第二画像を構成する各画素のアドレスが、処理ステップS13(固体撮像素子112aのシフト)における固体撮像素子112aのシフト量(換言すると、固体撮像素子112aの受光面112aa上での被写体像の入射位置のシフト量)に応じて変換される。
一例として、図6(c)の画素PIXbのアドレス(ハ,2)は、被写体像の入射位置のシフト量に応じて右方向に1画素シフトしたときに位置する画素、すなわち、画素PIXbと同一の被写体像を取り込む画素PIXa(図6(b)参照)と同一のアドレス(ニ,2)に変換される。
[図5のS17(色差信号の差分値の演算)]
斜め縞被写体6a及び縦縞被写体7aは、固体撮像素子112aの画素PIXの画素ピッチPと同ピッチの高周波成分を含む。そのため、斜め縞被写体6a及び縦縞被写体7aの画像信号が処理ステップS12(第一画像の撮影)、処理ステップS14(第二画像の撮影)においてデモザイク処理されると、偽色が発生する。
具体的には、図6(b)の例では、G成分の画素PIXの輝度が高く、R及びB成分の画素PIXの輝度が低い。そのため、デモザイク処理後の各画素PIXの色情報はG成分が支配的となって、斜め縞被写体6aに緑色の偽色が発生する。一方、図6(c)の例では、図6(b)の例とは反対に、R及びB成分の画素PIXの輝度が高く、G成分の画素PIXの輝度が低い。そのため、デモザイク処理後の各画素PIXの色情報はR及びB成分が支配的となって、斜め縞被写体6aに紫色の偽色が発生する。
また、図7(b)の例では、B成分の画素PIXの輝度が高く、R成分の画素PIXの輝度が低い。そのため、デモザイク処理後の各画素PIXの色情報はBとGとの混色成分となって、青と緑との中間色(例えばシアン色中心の近傍色)の偽色が発生する。一方、図7(c)の例では、図7(b)の例とは反対に、R成分の画素PIXの輝度が高く、B成分の画素PIXの輝度が低い。そのため、デモザイク処理後の各画素PIXの色情報はRとGとの混色成分となって、赤と緑の中間色(橙色中心の近傍色)の偽色が発生する。
図8は、Cb、Crの二軸で定義される色空間を示す。図8中、符号6bは、図6(b)の例において注目画素で発生する緑色の偽色に対応するプロットであり、符号6cは、図6(c)の例において注目画素で発生する紫色の偽色に対応するプロットであり、符号7bは、図7(b)の例において注目画素で発生する青と緑との中間色の偽色に対応するプロットであり、符号7cは、図7(c)の例において注目画素で発生する赤と緑の中間色の偽色に対応するプロットである。下記は、各プロットの座標情報を示す。なお、原点Oは座標(0,0)である。
プロット6b:(Cb,Cr)=(−M,−N)
プロット6c:(Cb,Cr)=(M,N)
プロット7b:(Cb,Cr)=(M’,−N’)
プロット7c:(Cb,Cr)=(−M’+α,N’+β)
但し、M,N,M’,N’,α,βは何れも正数である。
図8に示されるように、本実施形態では、固体撮像素子112aの画素PIXの画素ピッチPと同程度の高周波成分の被写体像を取り込んだときに発生する偽色の色自体が、受光面112aa上での被写体像の入射位置をシフトさせることによって変化することを利用して偽色が発生する箇所(注目画素)を検出している。より詳細には、高周波成分の被写体像が取り込まれる注目画素において、第一色差信号と第二色差信号が持つ色情報が互いに補色の関係となる部分を、偽色が発生する部分であると判断し検出している。
本実施形態では、上記の補色関係を得るべく、受光面112aa上での被写体像の入射位置が左方向(水平の画素の並び方向)に1画素分シフト(固体撮像素子112aが被写体像に対して右方向に1画素分シフト)されているが、本発明はこれに限らない。シフト方向は、例示的には、右方向(水平の画素の並び方向)であってもよく、又は、上方向(垂直な画素の並び方向)、下方向(垂直な画素の並び方向)、右上、右下、左上、左下の各斜め方向(水平、垂直の各並び方向に対して45度をなす方向)など、画素配置に応じた他の方向であってもよいし、併用してもよい。また、シフト距離は、例示的には、3画素分、5画素分など、他の奇数画素分の距離であってもよく、また、半画素分又は半画素分+奇数画素分(例えば1.5画素分、2.5画素分等)であってもよく(すなわち、n画素分又は(m+0.5)画素分(但し、n=奇数の自然数,m=0又は奇数の自然数)の何れかであればよく)、シフト駆動する機構の精度に応じて選択できることもできる。また、シフト距離は、撮影対象の被写体や撮影条件によっては、偶数画素分及びその近傍(例えば1.9〜2.1画素分等)以外の距離であればよい。これらの量(方向及び距離)で受光面112aa上での被写体像の入射位置がシフトされる場合も、高周波成分の被写体像が取り込まれる(偽色が発生する)注目画素において、第一色差信号と第二色差信号が持つ色情報が互いに補色の関係となることから、偽色の発生が検出できる。
本処理ステップS17では、処理ステップS16(アドレスの変換)におけるアドレス変換後において(以下、同様)、アドレスが同一の注目画素毎に、第一色差信号と第二色差信号との差分値(Cbsub,Crsub)が演算される。具体的には、本処理ステップS17では、第一色差信号のCb、CrをそれぞれCb1、Cr1と定義し、これと同一アドレスの第二色差信号のCb、CrをそれぞれCb2、Cr2と定義した場合に、差分値(Cbsub,Crsub)が次式により演算される。
Cbsub=Cb1−Cb2
Crsub=Cr1−Cr2
[図5のS18(第一の距離情報の演算)]
本処理ステップS18では、アドレスが同一の注目画素毎に、第一色差信号と第二色差信号との色空間内での距離(第一の距離情報Saturation_sub)が次式により演算される。
Saturation_sub=√(Cbsub +Crsub
第一の距離情報Saturation_subは、図8の各プロット対(プロット6bとプロット6c、プロット7bとプロット7c)の例でそれぞれ、2√(M+N)、√{(2M’−α)+(2N’+β)2-}となる。
図8の各プロット対の位置関係から把握されるように、第一色差信号と第二色差信号が持つ色情報が強い補色関係にあるほど第一の距離情報Saturation_subが大きくなり、第一色差信号と第二色差信号が持つ色情報が補色関係にない(例えば同様の色相である)ほど第一の距離情報Saturation_subが小さくなる。すなわち、第一の距離情報Saturation_subは、偽色発生領域でなければ理想的にはゼロであり、偽色が強く発生する偽色発生領域ほど大きくなる。
[図5のS19(色差信号の加算値の演算)]
本処理ステップS19では、アドレスが同一の注目画素毎に、第一色差信号と第二色差信号との加算値(Cb’add,Cr’add)が演算される。
具体的には、本処理ステップS19では、暫定加算値(Cbadd,Cradd)が次式により演算される。
Cbadd=Cb1+Cb2
Cradd=Cr1+Cr2
次いで、暫定加算値の平均値(Cbmean,Crmean)が次式により演算される。
Cbmean=Cbadd/2
Crmean=Cradd/2
次いで、加算値(Cb’add,Cr’add)が次式により演算される。
Cb’add=Cbadd−Cbmean
Cr’add=Cradd−Crmean
[図5のS20(第二の距離情報の演算)]
本処理ステップS20では、アドレスが同一の注目画素毎に、加算値(Cb’add,Cr’add)に基づいて色空間内における第二の距離情報Saturation_addが次式により演算される。
Saturation_add=√(Cb’add +Cr’add
第二の距離情報Saturation_addは、図8の各プロット対(プロット6bとプロット6c、プロット7bとプロット7c)の例でそれぞれ、ゼロ、√(α+β)となる。
ここで、第一、第二の各色差信号は、画像撮影時の光源、露出条件、ホワイトバランス等の影響を受けて変化する。しかし、第一、第二の各色差信号が同じように変化するため、色空間内における互いの相対距離(すなわち、第一の距離情報Saturation_sub)は変化が少ない。
一方、第二の距離情報Saturation_addは、第一、第二の各色差信号が画像撮影時の光源、露出条件、ホワイトバランス等の影響を受けて色空間の原点Oの位置に対して変化すると、大きく変化する。そこで、処理ステップS19(色差信号の加算値の演算)では、第二の距離情報Saturation_addを暫定加算値(Cbadd,Cradd)を用いて即座には演算せず、上記影響による原点Oに対する位置の変化を相殺又は軽減すべく(上記影響により、原点Oから離れた第一色差信号と第二色差信号との中点を原点Oに近付けるべく)、加算値(Cb’add,Cr’add)が演算されている。
図8の各プロット対の位置関係から把握されるように、第一色差信号と第二色差信号が持つ色情報が補色関係にある場合は、互いの符号が逆となることから加算値(Cb’add,Cr’add)が小さくなって、第二の距離情報Saturation_addが小さくなる。また、強い補色関係であるほど第二の距離情報Saturation_addが小さくなって、理想的にはゼロとなる。一方、第一色差信号と第二色差信号が持つ色情報が補色関係にない(例えば同様の色相である)場合は、互いの符号が同一となることから、加算値(Cb’add,Cr’add)が大きくなって、第二の距離情報Saturation_addが大きくなる。すなわち、第二の距離情報Saturation_addは、偽色発生領域でなければ大きくなり、偽色発生領域であれば小さくなる。
[図5のS21(輝度信号の差分値の演算)]
説明の便宜上、処理ステップS12(第一画像の撮影)にて撮影された第一画像の輝度信号Yを「第一輝度信号」と記し、処理ステップS14(第二画像の撮影)にて撮影された第二画像の輝度信号Yを「第二輝度信号」と記す。本処理ステップS21では、アドレスが同一の注目画素毎に、第一輝度信号と第二輝度信号との差分値Ydiffが演算される。具体的には、本処理ステップS21では、第一輝度信号をY1と定義し、第二輝度信号をY2と定義した場合に、差分値Ydiffが次式により演算される。
diff=|Y1−Y2|
[図5のS22(偽色発生領域の判定)]
本処理ステップS22では、アドレスが同一の注目画素毎に、偽色発生領域であるか否かが判定される。具体的には、次の条件(1)〜(3)が全て満たされる場合に、当該画素が偽色発生領域であると判定される。
・条件(1)
上述したように、第一の距離情報Saturation_subが大きいほど第一色差信号と第二色差信号が持つ色情報が強い補色関係となることから、当該注目画素が偽色発生領域である可能性が高い。そこで、条件(1)は次のように規定される。
条件(1):Saturation_sub≧閾値T1
・条件(2)
上述したように、第二の距離情報Saturation_addが小さいほど第一色差信号と第二色差信号が持つ色情報が強い補色関係となることから、当該注目画素が偽色発生領域である可能性が高い。そこで、条件(2)は次のように規定される。
条件(2):Saturation_add≦閾値T2
処理ステップS12(第一画像の撮影)にて撮影された第一画像と処理ステップS14(第二画像の撮影)にて撮影された第二画像の一方だけで大きな像振れが発生した場合を考える。この場合、第一色差信号と第二色差信号との差分が大きくなって、偽色が誤検出される虞がある。そこで、条件(3)は次のように規定される。
条件(3):Ydiff≦閾値T3
すなわち、差分値Ydiffが閾値T3よりも大きい場合は、上記の誤検出の虞があることから、当該注目画素に対する偽色の検出が行われない(当該注目画素が偽色発生領域でないものとして処理される。)。
なお、条件(1)と条件(2)は、当該注目画素が偽色発生領域であるか否かを直接的に判定する条件となっている。そこで、別の実施形態では、条件(1)と条件(2)の少なくとも一方が満たされる場合に、当該注目画素が偽色発生領域であると判定されるようにしてもよい。
また、ユーザは、操作部102を操作して閾値T1〜T3を設定変更することにより、偽色の検出感度を変更することができる。
[図5のS23(偽色の検出)]
本処理ステップS23では、偽色の有無が検出される。例示的には、処理ステップS22(偽色発生領域の判定)において偽色発生領域と判定された注目画素数(又は全有効画素数のうち偽色発生領域と判定された注目画素の割合)が所定の閾値以上である場合に、偽色有りという検出結果となり(S23:YES)、該注目画素数(又は割合)が所定の閾値未満である場合に、偽色無しという検出結果となる(S23:NO)。
[図5のS24(撮影画像の保存)]
本処理ステップS24は、処理ステップS23(偽色の検出)にて偽色無しという検出結果が得られた場合(S23:NO)に実行される。本処理ステップS24では、処理ステップS12(第一画像の撮影)にて撮影された第一画像及び処理ステップS14(第二画像の撮影)にて撮影された第二画像について偽色が検出されなかったとして、その少なくとも一方がメモリカード200(又は撮影装置1に備えられる不図示の内蔵メモリ)に保存される。この時点で撮影動作が完了した旨が撮影者に告知されてもよい。特に、処理ステップS14(第二画像の撮影)で第一画像と第二画像を用いた偽色検出処理を開始する旨が撮影者に告知されている場合には、撮影動作が完了したことが撮影者に伝わる。これにより、撮影者は次の作業、例えば撮影装置1の状態(セッティング)の変更に進むことができる。
[図5のS25(LPF駆動下での撮像)]
本処理ステップS25は、処理ステップS23(偽色の検出)にて偽色有りという検出結果が得られた場合(S23:YES)に実行される。本処理ステップS25では、処理ステップS12(第一画像の撮影)にて撮影された第一画像及び処理ステップS14(第二画像の撮影)にて撮影された第二画像について偽色が検出されたことから、LPF駆動が実行される。既にLPF駆動下での撮像が行われていた場合は、より強い光学的なLPF効果(偽色等のモアレの軽減)が得られるように、固体撮像素子112aの駆動周期(回転周期)や駆動振幅(回転半径)が調整される。すなわち、偽色を軽減するためのより有利な撮影条件に変更される。そのうえで、被写体の撮像(第三画像の撮影)が行われる。つまり、偽色が検出された場合には第三画像の撮影が行われる。そのため、処理ステップS14(第二画像の撮影)にて偽色検出処理を開始する旨が撮影者に告知されている場合、撮影者は第三画像の撮影が完了するまで、撮影装置1の状態(セッティング)を維持することができる。
本実施形態によれば、固体撮像素子112aの受光面112aa上での被写体像の入射位置をシフトさせることにより、画素ピッチPと同程度以上の高周波成分の被写体像が取り込まれた場合に、異なる偽色(互いに補色の関係となる偽色)が発生し、差分の大きい画像が生成される構成となっている。本実施形態によれば、偽色の検出に差分の大きい画像が用いられることから、偽色が精度良く検出される。
以上が本発明の例示的な実施形態の説明である。本発明の実施形態は、上記に説明したものに限定されず、本発明の技術的思想の範囲において様々な変形が可能である。例えば明細書中に例示的に明示される実施形態等又は自明な実施形態等を適宜組み合わせた内容も本願の実施形態に含まれる。
上記の実施形態では、LPF駆動を実行することにより、画像全体に対して光学的に偽色の除去を施しているが、本発明はこれに限らない。偽色は、画像処理を用いて除去されてもよい。画像処理の場合は、偽色を画像全体に限らず局所的に(例えば偽色発生領域と判定された注目画素毎に)除去することもできる。また、偽色発生領域を示す情報を第一画像(第二画像)と関連付けて保存しておけば、仮に別端末(コンピューターなど)によって手作業で偽色補正をする場合でも、作業者は、当該情報に基づいて偽色発生領域を容易に発見することができる。そのため、画像全体から偽色発生領域を探す手間が軽減される。
また、上記の実施形態では、固体撮像素子112a自体をシフトさせることにより、受光面112aa上での被写体像の入射位置をシフトさせているが、本発明はこれに限らない。例えば、別の振れ補正部材(撮影レンズ106内に含まれる一部のレンズなど)を偏心駆動させることにより、受光面112aa上での被写体像の入射位置をシフトさせてもよく、また、撮影レンズ106の光路内に光軸AXに対して垂直よりやや傾けて配置された平行平板を光軸AX周りに回転させたり、頂角可変プリズム、固体撮像素子112aのカバーガラス(カバーガラスに付着した塵等を除去するための加振機能を備えたもの)等を駆動させたりすることにより、受光面112aa上での被写体像の入射位置をシフトさせてもよい。
また、上記の実施形態では、処理ステップS22(偽色発生領域の判定)において、閾値T1〜T3が各画素に対する全ての判定において不変であるが、本発明はこれに限らない。
例えば、システムコントローラ100によってAF制御が行われることにより、画像内でピントが合っているとみなせる範囲(合焦エリアであり、例示的には被写界深度に収まる範囲)が求まる。合焦エリア(合焦状態)の被写体はコントラストが高く、高周波成分を含みやすいため、偽色が発生しやすい。一方、合焦エリア外(非合焦状態)の被写体はコントラストが低く、高周波成分を含み難いため、偽色が発生し難い。そこで、処理ステップS22(偽色発生領域の判定)では、演算によって求まった合焦エリア内の画素に対する判定を行う場合と合焦エリア外の画素に対する判定を行う場合とで、閾値T1〜T3が異なる値に変更されてもよい。例示的には、合焦エリア内の画素では偽色が発生している(目立つ)可能性が高いことから、検出感度が高くなるような閾値設定(例えば閾値T1を低い値に設定)を行い、それ以外の画素では偽色が発生している可能性が低い(目立たない)ことから、検出感度が低くなるような閾値設定(例えば閾値T1を高い値に設定)を行うか、偽色検出の処理自体が省略される。これにより、偽色の検出精度がより一層向上したり、検出速度が向上したりする。
また、上記の実施形態では、一対の画像(処理ステップS12(第一画像の撮影)にて撮影された第一画像と処理ステップS14(第二画像の撮影)にて撮影された第二画像)を用いて偽色の検出が行われているが、別の実施形態では、3枚以上の画像を用いて偽色の検出が行われてもよい。
例えば、縦縞被写体7aに対しては、上記の実施形態のように、処理ステップS13(固体撮像素子112aのシフト)にて固体撮像素子112aを縞の明暗方向(左方向)にシフトさせることにより、補色の関係となる偽色画像が得られやすい。しかし、縦縞被写体7aに対して固体撮像素子112aを上、下又は斜め方向にシフトさせた場合は、輝度の高い色成分が固体撮像素子112aのシフトの前後で変わり難くなり、補色の関係となる偽色画像が得られ難くなる。そこで、偽色検出の精度をより一層向上させる(別の観点では、検出漏れを防ぐ)ため、図9に示される偽色検出フローが考えられる。図9の偽色検出フローの説明において、図5の偽色検出フローと同様の処理については、適宜簡略又は省略する。
[図9のS111(状態の判定)]
本処理ステップS111では、撮影装置1が静止状態であるか否かが判定される。
[図9のS112(第一画像の撮影)]
本処理ステップS112は、処理ステップS111(状態の判定)にて撮影装置1が静止状態であると判定された場合(S111:YES)に実行される。本処理ステップS112では、AE制御及びAF制御に基づいて適正な輝度及びピントで被写体画像(第一画像)が撮影される。
[図9のS113(固体撮像素子112aのシフト)]
本処理ステップS113では、可動ステージ112cが駆動されて、固体撮像素子112aが1画素分の距離だけ右方向にシフトされる。
[図9のS114(第二画像の撮影)]
本処理ステップS114では、第一画像撮影時のAE制御及びAF制御に基づいて被写体画像(第二画像)が撮影される。
[図9のS115(固体撮像素子112aのシフト)]
本処理ステップS115では、固体撮像素子112aが処理ステップS112(第一画像の撮影)での第一画像撮影時の位置に対して、1画素分の距離だけ上方向にシフトされる。
[図9のS116(第三画像の撮影)]
本処理ステップS116では、第一画像撮影時のAE制御及びAF制御に基づいて被写体画像(第三画像)が撮影される。
[図9のS117(固体撮像素子112aのシフト)]
本処理ステップS117では、固体撮像素子112aが処理ステップS112(第一画像の撮影)での第一画像撮影時の位置に対して、1画素分の距離だけ斜め左下方向にシフトされる。
[図9のS118(第四画像の撮影)]
本処理ステップS118では、第一画像撮影時のAE制御及びAF制御に基づいて適被写体画像(第四画像)が撮影される。
[図9のS119(電気的なLPF処理)]
本処理ステップS119では、偽色の誤検出等を抑えるべく、画像信号(輝度信号Y、色差信号Cb、Cr)に対してLPF処理が施される。
[図9のS120(アドレスの変換)]
本処理ステップS120では、処理ステップS112(第一画像の撮影)にて撮影された第一画像と処理ステップS114(第二画像の撮影)にて撮影された第二画像について、同一の被写体像が同一アドレスの画素に入射されたものとして処理されるように、第二画像を構成する各画素のアドレスが、処理ステップS113(固体撮像素子112aのシフト)における固体撮像素子112aのシフト量(換言すると、固体撮像素子112aの受光面112aa上での被写体像の入射位置のシフト量)に応じて変換される。
また、本処理ステップS120では、処理ステップS112(第一画像の撮影)にて撮影された第一画像と処理ステップS116(第三画像の撮影)にて撮影された第三画像について、同一の被写体像が同一アドレスの画素に入射されたものとして処理されるように、第三画像を構成する各画素のアドレスが、処理ステップS115(固体撮像素子112aのシフト)における固体撮像素子112aのシフト量(換言すると、固体撮像素子112aの受光面112aa上での被写体像の入射位置のシフト量)に応じて変換される。
また、本処理ステップS120では、処理ステップS112(第一画像の撮影)にて撮影された第一画像と処理ステップS118(第四画像の撮影)にて撮影された第四画像について、同一の被写体像が同一アドレスの画素に入射されたものとして処理されるように、第四画像を構成する各画素のアドレスが、処理ステップS117(固体撮像素子112aのシフト)における固体撮像素子112aのシフト量(換言すると、固体撮像素子112aの受光面112aa上での被写体像の入射位置のシフト量)に応じて変換される。
[図9のS121(色差信号の差分値の演算)]
説明の便宜上、処理ステップS112(第一画像の撮影)にて撮影された第一画像の色差信号(Cb、Cr)を「第一色差信号」と記し、処理ステップS114(第二画像の撮影)にて撮影された第二画像の色差信号(Cb、Cr)を「第二色差信号」と記し、処理ステップS116(第三画像の撮影)にて撮影された第三画像の色差信号(Cb、Cr)を「第三色差信号」と記し、処理ステップS118(第四画像の撮影)にて撮影された第四画像の色差信号(Cb、Cr)を「第四色差信号」と記す。本処理ステップS121では、アドレスが同一の画素毎に、第一色差信号と第二色差信号、第一色差信号と第三色差信号、第一色差信号と第四色差信号のそれぞれについて、差分値(Cbsub,Crsub)が演算される。
[図9のS122(第一の距離情報の演算)]
本処理ステップS122では、アドレスが同一の注目画素毎に、第一色差信号と第二色差信号、第一色差信号と第三色差信号、第一色差信号と第四色差信号のそれぞれについて、第一の距離情報Saturation_subが演算される。
[図9のS123(色差信号の加算値の演算)]
本処理ステップS123では、アドレスが同一の注目画素毎に、第一色差信号と第二色差信号、第一色差信号と第三色差信号、第一色差信号と第四色差信号のそれぞれについて、加算値(Cb’add,Cr’add)が演算される。
[図9のS124(第二の距離情報の演算)]
本処理ステップS124では、アドレスが同一の注目画素毎に、第一色差信号と第二色差信号、第一色差信号と第三色差信号、第一色差信号と第四色差信号のそれぞれについて、第二の距離情報Saturation_addが演算される。
[図9のS125(輝度信号の差分値の演算)]
説明の便宜上、処理ステップS112(第一画像の撮影)にて撮影された第一画像の輝度信号Yを「第一輝度信号」と記し、処理ステップS114(第二画像の撮影)にて撮影された第二画像の輝度信号Yを「第二輝度信号」と記し、処理ステップS116(第三画像の撮影)にて撮影された第三画像の輝度信号Yを「第三輝度信号」と記し、処理ステップS118(第四画像の撮影)にて撮影された第四画像の輝度信号Yを「第四輝度信号」と記す。本処理ステップS124では、アドレスが同一の注目画素毎に、第一輝度信号と第二輝度信号、第一輝度信号と第三輝度信号、第一輝度信号と第四輝度信号のそれぞれについて、差分値Ydiffが演算される。
[図9のS126(偽色発生領域の判定)]
本処理ステップS126では、アドレスが同一の注目画素毎に、偽色発生領域であるか否かが判定される。具体的には、次の条件(1’)〜(3’)のうち少なくとも1つが満たされる場合に、当該画素が偽色発生領域であると判定される。
・条件(1’)
第一色差信号と第二色差信号における(各撮影時で固体撮像素子112aが左右方向に一画素ずれた位置関係となる場合の)第一の距離情報Saturation_subが閾値T1’以上であり、且つ第二の距離情報Saturation_addが閾値T2’以下であり、且つ差分値Ydiffが閾値T3’以下であること。
・条件(2’)
第一色差信号と第三色差信号における(各撮影時で固体撮像素子112aが上下方向に一画素ずれた位置関係となる場合の)第一の距離情報Saturation_subが閾値T1’以上であり、且つ第二の距離情報Saturation_addが閾値T2’以下であり、且つ差分値Ydiffが閾値T3’以下であること。
・条件(3’)
第一色差信号と第四色差信号における(各撮影時で固体撮像素子112aが斜め方向に一画素ずれた位置関係となる場合の)第一の距離情報Saturation_subが閾値T1’以上であり、且つ第二の距離情報Saturation_addが閾値T2’以下であり、且つ差分値Ydiffが閾値T3’以下であること。
[図9のS127(偽色の検出)]
本処理ステップS127では、偽色の有無が検出される。
[図9のS128(撮影画像の保存)]
本処理ステップS128は、処理ステップS127(偽色の検出)にて偽色無しという検出結果が得られた場合(S127:NO)に実行される。本処理ステップS128では、処理ステップS112(第一画像の撮影)にて撮影された第一画像、処理ステップS114(第二画像の撮影)にて撮影された第二画像、処理ステップS116(第三画像の撮影)にて撮影された第三画像及び処理ステップS118(第四画像の撮影)にて撮影された第四画像について偽色が検出されなかったとして、その少なくとも1つがメモリカード200(又は撮影装置1に備えられる不図示の内蔵メモリ)に保存される。
[図9のS129(LPF駆動下での撮像)]
本処理ステップS129は、処理ステップS127(偽色の検出)にて偽色有りという検出結果が得られた場合(S127:YES)に実行される。本処理ステップS129では、処理ステップS112(第一画像の撮影)にて撮影された第一画像、処理ステップS114(第二画像の撮影)にて撮影された第二画像、処理ステップS116(第三画像の撮影)にて撮影された第三画像及び処理ステップS118(第四画像の撮影)にて撮影された第四画像の少なくとも1つから偽色が検出されたことから、LPF駆動が実行されて、被写体の撮像が行われる。
図9の偽色検出フローによれば、固体撮像素子112aをそれぞれ異なる方向にシフトさせたときの画像の変化(偽色の発生)が判定されるため、被写体内において高周波成分が現れる領域では、少なくとも一対の画像間での変化が大きくなる。そのため、被写体内における高周波成分の出現方向(縦縞被写体7aであれば明暗が交互する左右方向)に拘わらず、偽色が精度良く検出される。
1 撮影装置
100 システムコントローラ
102 操作部
104 駆動回路
106 撮影レンズ
108 絞り
110 シャッタ
112 像振れ補正装置
112a 固体撮像素子
112aa (固体撮像素子の)受光面
112b 固定支持基板
112c 可動ステージ
114 信号処理回路
116 画像処理エンジン
118 バッファメモリ
120 カード用インタフェース
122 LCD制御回路
124 LCD
126 ROM
128 ジャイロセンサ
130 加速度センサ
132 地磁気センサ
134 GPSセンサ
200 メモリカード
YR、CYL、CXD、CXU 駆動用コイル
YR、HYL、HXD、HXU ホール素子
YR、MYL、MXD、MXU 磁石
PIX 画素
VCMYR、VCMYL、VCMXD、VCMXU ボイスコイルモータ
YR、YYL、YXD、YXU ヨーク

Claims (11)

  1. 透過波長選択素子付きの撮像素子の画素配置に基づいて撮影光学系内の一部の光学素子と該撮像素子の少なくとも一方を物理的に動かすことにより、該撮像素子の受光面上での被写体像の位置を移動させる移動手段と、
    前記被写体像の位置が移動される毎に、前記撮像素子に取り込まれた被写体像を撮像し、色補間処理を含む所定の信号処理を施して色差信号を生成する信号生成手段と、
    前記撮像素子の受光面上での被写体像の位置が互いに異なる少なくとも一対の色差信号に基づいて撮影画像内に発生する画像劣化の検出を行う検出手段と、
    を備える、
    画像検出装置。
  2. 前記移動手段は、
    前記少なくとも一対の色差信号が持つ色情報が、画像劣化が発生する発生領域で互いに補色の関係となるように、前記撮像素子の受光面上での被写体像の位置を画素間隔に応じた量だけ移動させる、
    請求項に記載の画像検出装置。
  3. 前記移動手段は、
    前記撮像素子の受光面上での被写体像の位置を前記画素配置に応じた方向にn画素分又は(m+0.5)画素分(但し、n=奇数の自然数,m=0又は奇数の自然数)の距離だけ移動させる、
    請求項に記載の画像検出装置。
  4. 前記検出手段は、
    前記撮像素子の受光面上での被写体像の位置が互いに異なる少なくとも一対の撮影画像について、同一の被写体像が同一アドレスの画素に入射されたものとして処理されるように、一方の撮影画像を構成する各画素のアドレスを前記被写体像の位置の移動量に応じて変換し、
    前記アドレスが変換された一方の撮影画像の色差信号及び他方の撮影画像の色差信号に基づいて画像劣化の検出を画素毎に行う、
    請求項から請求項の何れか一項に記載の画像検出装置。
  5. 前記検出手段は、
    前記少なくとも一対の色差信号の差分値と加算値の少なくとも一方を演算し、
    演算結果に基づいて画像劣化の検出を行う、
    請求項から請求項の何れか一項に記載の画像検出装置。
  6. 前記検出手段は、
    前記少なくとも一対の色差信号の差分値を画素毎に演算し、
    演算された差分値が第一の閾値以上となる画素を画像劣化が発生する発生領域の画素として検出する、
    請求項に記載の画像検出装置。
  7. 前記検出手段は、
    前記少なくとも一対の色差信号の加算値を画素毎に演算し、
    演算された加算値が第二の閾値以下となる画素を画像劣化が発生する発生領域の画素として検出する、
    請求項に記載の画像検出装置。
  8. 前記信号生成手段は、
    前記所定の信号処理を施すことにより、前記色差信号と組になる輝度信号を生成し、
    前記検出手段は、
    前記少なくとも一対の輝度信号にも基づいて画像劣化の検出を行う、
    請求項から請求項の何れか一項に記載の画像検出装置。
  9. 請求項1から請求項の何れか一項に記載の画像検出装置を有する撮影装置であって、
    前記撮影装置が静止状態であるか否かを判定する静止状態判定手段
    を備え、
    前記静止状態判定手段により前記撮影装置が静止状態であると判定すると、前記画像検出装置による画像劣化の検出を行う、
    撮影装置。
  10. 請求項1から請求項の何れか一項に記載の画像検出装置を有する撮影装置又は請求項に記載の撮影装置であって、
    前記撮影装置の振れを検出する振れ検出手段
    を備え、
    前記移動手段は、
    前記振れ検出手段により検出された撮影装置の振れに基づいて前記撮影光学系内の一部の光学素子と前記撮像素子の少なくとも一方を物理的に動かすことにより、該撮影装置の振れに起因する像振れを補正する、
    撮影装置。
  11. 透過波長選択素子付きの撮像素子の画素配置に基づいて撮影光学系内の一部の光学素子と該撮像素子の少なくとも一方を物理的に動かすことにより、該撮像素子の受光面上での被写体像の位置を移動させるステップと、
    前記被写体像の位置が移動される毎に、前記撮像素子に取り込まれた被写体像を撮像し、色補間処理を含む所定の信号処理を施して色差信号を生成するステップと、
    前記撮像素子の受光面上での被写体像の位置が互いに異なる少なくとも一対の色差信号に基づいて撮影画像内に発生する画像劣化の検出を行うステップと、
    を含む、
    画像検出方法。
JP2015016341A 2015-01-30 2015-01-30 画像検出装置、画像検出方法及び撮影装置 Expired - Fee Related JP6501106B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2015016341A JP6501106B2 (ja) 2015-01-30 2015-01-30 画像検出装置、画像検出方法及び撮影装置
PCT/JP2016/052660 WO2016121928A1 (ja) 2015-01-30 2016-01-29 画像検出装置、画像検出方法及び撮影装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015016341A JP6501106B2 (ja) 2015-01-30 2015-01-30 画像検出装置、画像検出方法及び撮影装置

Publications (2)

Publication Number Publication Date
JP2016143938A JP2016143938A (ja) 2016-08-08
JP6501106B2 true JP6501106B2 (ja) 2019-04-17

Family

ID=56543532

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015016341A Expired - Fee Related JP6501106B2 (ja) 2015-01-30 2015-01-30 画像検出装置、画像検出方法及び撮影装置

Country Status (2)

Country Link
JP (1) JP6501106B2 (ja)
WO (1) WO2016121928A1 (ja)

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3372967B2 (ja) * 1991-08-12 2003-02-04 オリンパス光学工業株式会社 色ズレ軽減装置
JPH0974524A (ja) * 1995-07-05 1997-03-18 Sharp Corp 画像入力装置
JP3530696B2 (ja) * 1996-12-27 2004-05-24 キヤノン株式会社 撮像装置
JP2000092350A (ja) * 1998-09-10 2000-03-31 Hitachi Ltd 周期的な明暗パターンを有する対象の画像撮像方法,装置及びこれを用いた検査方法,装置
JP5593683B2 (ja) * 2009-11-19 2014-09-24 株式会社ニコン 撮像装置
JP6331258B2 (ja) * 2013-04-16 2018-05-30 リコーイメージング株式会社 撮像装置及び方法

Also Published As

Publication number Publication date
JP2016143938A (ja) 2016-08-08
WO2016121928A1 (ja) 2016-08-04

Similar Documents

Publication Publication Date Title
JP6486656B2 (ja) 撮像装置
US11394881B2 (en) Image processing apparatus, image processing method, storage medium, system, and electronic apparatus
JP5502205B2 (ja) 立体撮像装置および立体撮像方法
US8593531B2 (en) Imaging device, image processing method, and computer program
US11012633B2 (en) Image capturing apparatus, image capturing method, and image processing apparatus
US10057492B2 (en) Photographing apparatus and photographing control method to generate a low-pass filter effect
JP2018152861A (ja) 撮影装置及び撮影方法
JP2016126164A (ja) 撮像装置及び撮像方法
JP7289055B2 (ja) 撮像装置
JP5595505B2 (ja) 立体撮像装置および立体撮像方法
JP6606838B2 (ja) 撮像装置および撮像方法
JP7080118B2 (ja) 撮像装置及びその制御方法、撮影レンズ、プログラム、記憶媒体
JP6579369B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
US11272109B2 (en) Blur correction control apparatus, method, and storage medium
JP6501106B2 (ja) 画像検出装置、画像検出方法及び撮影装置
JP6525139B2 (ja) 画像検出装置、画像検出方法及び撮影装置
US9967452B2 (en) Imaging apparatus and imaging method for controlling auto-focus
JP6548141B2 (ja) 画像検出装置、画像検出方法及び画像検出プログラム
JP6508609B2 (ja) 撮影装置及びその制御方法
JP2008245236A (ja) 撮像装置および欠陥画素補正方法
JP6489350B2 (ja) 像振れ補正装置及び該像振れ補正装置における像振れ補正方法
JP6460395B2 (ja) 撮影装置、及び撮影装置における表示制御方法
JP6500618B2 (ja) 撮影装置及び撮影方法
JP2018148500A (ja) 撮像システム、画像判定プログラム、画像撮像装置、及び、画像データ構造
JP2017200028A (ja) 画像劣化検出装置

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20170717

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171128

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181214

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190207

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190221

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190306

R150 Certificate of patent or registration of utility model

Ref document number: 6501106

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees