JP2016208064A - 撮像装置及び撮像方法 - Google Patents

撮像装置及び撮像方法 Download PDF

Info

Publication number
JP2016208064A
JP2016208064A JP2015082910A JP2015082910A JP2016208064A JP 2016208064 A JP2016208064 A JP 2016208064A JP 2015082910 A JP2015082910 A JP 2015082910A JP 2015082910 A JP2015082910 A JP 2015082910A JP 2016208064 A JP2016208064 A JP 2016208064A
Authority
JP
Japan
Prior art keywords
image
area
color
color change
imaging device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2015082910A
Other languages
English (en)
Inventor
健児 松本
Kenji Matsumoto
健児 松本
村松 功一
Koichi Muramatsu
功一 村松
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Imaging Co Ltd
Original Assignee
Ricoh Imaging Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Imaging Co Ltd filed Critical Ricoh Imaging Co Ltd
Priority to JP2015082910A priority Critical patent/JP2016208064A/ja
Publication of JP2016208064A publication Critical patent/JP2016208064A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Color Television Image Signal Generators (AREA)

Abstract

【課題】偽色等の画像不良を精度良く検出する。【解決手段】本発明の一実施形態に係る撮像装置は、撮像装置は、固体撮像素子と、固体撮像素子の受光面と被写体像とを相対的に移動させる移動手段と、移動手段による移動前に撮像された第一画像と移動後に撮像された第二画像とで色が変化した色変化領域を検出する色変化領域検出手段と、色変化領域の形態に基づいて、色変化領域の中から画像不良領域を検出する画像不良領域検出手段と、を備える。【選択図】図12

Description

本発明は、撮像装置及び撮像方法に関する。
撮像素子の画素ピッチと同程度以上の高周波成分を含む被写体を撮像すると、偽色(色モアレ)等のモアレが発生して、撮影画像の画質が劣化することが知られている。そこで、この種の偽色を除去するための種々の技術が提案されている。例えば特許文献1には、撮影画像内に発生する偽色を検出可能な撮影装置の具体的な構成が記載されている。
特許文献1に記載の撮影装置は、合焦状態の被写体を撮像し、次いで、非合焦状態の被写体を撮像する。非合焦状態の撮影画像では、被写体のコントラストが低下して高周波成分が低減されるため、合焦状態の撮影画像に発生していた偽色も低減される。そこで、特許文献1に記載の撮影装置は、画像を横n画素×縦n画素から構成される複数のブロックに分割し、合焦状態の撮影画像と非合焦状態の撮影画像との色差信号の値の差分値をブロック毎に演算し、差分値の大きいブロックを偽色が発生しているブロックとして検出する。
すなわち、特許文献1に記載の撮影装置では、コントラストが高く偽色が発生している画像と、コントラストが低く偽色の発生が低減された画像との比較処理により、偽色の発生を検出している。
特開2011−109496号公報
しかしながら、特許文献1に記載の撮影装置では、偽色の発生の検出をブロック単位で行うため、偽色の補正もブロック単位で行わざるを得ない。その結果、ブロック内の偽色が発生していない画素まで(不適切に)補正されるため、補正を受けるブロック全体としては却って画質が低下してしまうという問題があった。
本発明は上記の事情に鑑みてなされたものであり、その目的とするところは、補正すべき画像不良を精度良く検出することが可能な撮像装置及び撮像方法を提供することである。
本発明の一実施形態に係る撮像装置は、固体撮像素子と、固体撮像素子の受光面と被写体像とを相対的に移動させる移動手段と、移動手段による移動前に撮像された第一画像と移動後に撮像された第二画像とで色が変化した色変化領域を検出する色変化領域検出手段と、色変化領域の形態に基づいて、色変化領域の中から画像不良領域を検出する画像不良領域検出手段と、を備える。
上記の撮像装置において、画像不良領域検出手段が、色変化領域の形態に基づいて、色変化領域の中から狭小領域を検出する狭小領域検出手段を備え、狭小領域を除く色変化領域を画像不良領域として検出する構成としてもよい。
上記の撮像装置において、狭小領域検出手段が、以下に掲げる色変化領域の形態に関する属性aから属性gの少なくとも一つに基づいて、狭小領域を検出する構成としてもよい。
a)長さ
b)幅
c)長さと幅との比
d)第一画像の縦寸法、横寸法又は総画素数と、色変化領域の長さとの比
e)第一画像の縦寸法、横寸法又は総画素数と、色変化領域の幅との比
f)分布形状
g)連続度
上記の撮像装置において、狭小領域検出手段が、線状に連続的に分布した色変化領域を狭小領域として検出する構成としてもよい。
上記の撮像装置において、狭小領域検出手段が、色変化領域検出手段による検出結果を画像情報化した色変化領域画像情報を生成する色変化領域画像情報生成手段を備える構成としてもよい。
上記の撮像装置において、狭小領域検出手段が、色変化領域画像情報の行の画像情報を所定の周期で間引く行間引き処理を行う行間引き手段と、色変化領域画像情報の列の画像情報を所定の周期で間引く列間引き処理を行う列間引き手段と、を備え、行間引き処理と列間引き処理の少なくともいずれかの結果に基づいて、狭小領域を検出する構成としてもよい。
上記の撮像装置において、狭小領域検出手段が、行間引き処理後の色変化領域画像情報に基づいて、色変化領域画像情報を縦方向に縮小した縦縮小画像情報を生成する縦縮小処理手段と、列間引き処理後の色変化領域画像情報に基づいて、色変化領域画像情報を横方向に縮小した横縮小画像情報を生成する横縮小処理手段と、を備えた構成としてもよい。
上記の撮像装置において、画像不良検出手段が、色変化領域画像情報に対して所定の補間処理をした補間画像情報を生成する補間処理手段を備え、狭小領域検出手段が、補間画像情報に基づいて、狭小領域を検出する構成としてもよい。
上記の撮像装置において、色変化領域検出手段が、画素又は隣接する複数の画素からなる画素ブロック(以下「画素等」という。)毎に色の変化を検出する構成としてもよい。
上記の撮像装置において、固体撮像素子が生成した撮像信号に基づいて色差信号を生成する色差信号生成手段を備え、色変化領域検出手段が、第一画像と第二画像との色差信号の値の差分を画素等毎に計算し、差分が所定の閾値以上となる画素等を色変化領域の画素等として検出する構成としてもよい。
上記の撮像装置において、移動手段が、受光面と被写体像とを、受光面と平行な方向に相対的に移動させる構成としてもよい。
上記の撮像装置において、移動手段が、第一画像が撮像された後、第二画像が撮像される前までの期間に、受光面と平行な方向に、n画素分又は(m+0.5)画素分(但し、nは奇数の自然数であり、mは0又は奇数の自然数である。)の距離だけ、受光面と被写体像とを相対的に移動させる構成としてもよい。
上記の撮像装置において、移動手段が、第一画像と第二画像の色が、色変化領域において互いに補色の関係となるように、受光面と被写体像とを固体撮像素子の画素間隔に応じた距離だけ移動させる構成としてもよい。
上記の撮像装置において、検出手段が、第一画像における被写体像の位置と第二画像における被写体像の位置が一致するように、移動手段による移動量に応じて第一画像又は第二画像の各画素のアドレスを変換するアドレス変換手段を備える構成としてもよい。
上記の撮像装置において、移動手段が、受光面と被写体像とを、受光面と垂直な方向に相対的に移動させる構成としてもよい。
上記の撮像装置において、撮像装置と被写体とが相対的に静止しているか否かを判定する静止判定手段を備え、静止判定手段により静止していると判定されたときに、第一画像と第二画像の撮影を行う構成としてもよい。
上記の撮像装置において、被写体像を受光面上に結像させる、一つ以上の光学素子を含む撮像光学系と、撮像装置の振れを検出する振れ検出手段と、を備え、移動手段が、振れ検出手段の検出結果に基づいて、一つ以上の光学素子と撮像素子の少なくとも一方を移動させることにより、撮像装置の振れに起因する像振れを補正する構成としてもよい。
本発明の一実施形態に係る撮像方法は、固体撮像素子により第一画像を撮像するステップと、第一画像の撮像後に、固体撮像素子の受光面と被写体像とを相対的に移動させるステップと、移動後に、固体撮像素子により第二画像を撮像するステップと、第一画像と第二画像とで色が変化した色変化領域を検出するステップと、色変化領域の形態に基づいて、色変化領域の中から画像不良領域を検出するステップと、を含む。
本発明の一実施形態によれば、画像不良を精度良く検出することが可能な画像検出装置、画像検出方法及び撮影装置が提供される。
本発明の実施形態の撮影装置の構成を示すブロック図である。 本発明の実施形態の撮影装置に備えられる像振れ補正装置の構成を概略的に示す図である。 本発明の実施形態の撮影装置に備えられる像振れ補正装置の構成を概略的に示す図である。 本発明の実施形態におけるLPF駆動の説明を補助する図である。 本発明の実施形態におけるシステムコントローラによる偽色検出フローを示す図である。 本発明の実施形態において撮影される被写体に関する図である。 本発明の実施形態において撮影される被写体に関する図である。 第1偽色検出処理の手順を表したフローチャートである。 本発明の実施形態の色空間内においてプロットされる各色差信号を示す図である。 偽色疑い領域が検出され易い画像の例である。 図10の画像の一部を拡大したものである。 本発明の実施形態の第2偽色検出処理の手順を表したフローチャートである。 本発明の実施形態の偽色疑い領域マップの拡大図である。 本発明の実施形態の間引き処理を説明する図である。 本発明の実施形態の間引き処理を説明する図である。 本発明の実施形態の間引き処理を説明する図である。 本発明の実施形態の間引き処理を説明する図である。 本発明の第2実施形態における第2偽色検出処理の手順を説明したフローチャートである。 本発明の第2実施形態の補間処理を説明する図である。 本発明の第2実施形態の補間処理を説明する図である。
以下、本発明の実施形態の撮影装置について図面を参照しながら説明する。以下においては、本発明の一実施形態として、デジタル一眼レフカメラについて説明する。なお、撮影装置は、デジタル一眼レフカメラに限らず、例えば、ミラーレス一眼カメラ、コンパクトデジタルカメラ、ビデオカメラ、カムコーダ、タブレット端末、PHS(Personal Handy phone System)、スマートフォン、フィーチャフォン、携帯ゲーム機など、撮影機能を有する別の形態の装置に置き換えてもよい。
[撮影装置1全体の構成]
図1は、本実施形態の撮影装置1の構成を示すブロック図である。図1に示されるように、撮影装置1は、システムコントローラ100、操作部102、駆動回路104、撮影レンズ106、絞り108、シャッタ110、像振れ補正装置112、AFE(Analog Front End)114、画像処理エンジン116、バッファメモリ118、カード用インタフェース120、LCD(Liquid Crystal Display)制御回路122、LCD124、ROM(Read Only Memory)126、ジャイロセンサ128、加速度センサ130、地磁気センサ132及びGPS(Global Positioning System)センサ134を備えている。なお、撮影レンズ106は複数枚構成であるが、図1においては便宜上一枚のレンズとして示す。また、撮影レンズ106の光軸AXと同じ方向をZ軸方向と定義し、Z軸方向と直交し且つ互いに直交する二軸方向をそれぞれX軸方向(水平方向)、Y軸方向(垂直方向)と定義する。また、各図の座標軸で示されるように、図1おける左方向をZ軸正方向、上方向をY軸正方向、紙面の裏側から表側に向かう紙面に垂直な方向をX軸正方向と定義する。
操作部102には、電源スイッチやレリーズスイッチ、撮影モードスイッチなど、ユーザが撮影装置1を操作するために必要な各種スイッチが含まれる。ユーザにより電源スイッチが操作されると、図示省略されたバッテリから撮影装置1の各種回路に電源ラインを通じて電源供給が行われる。
システムコントローラ100は、CPU(Central Processing Unit)及びDSP(Digital Signal Processor)を含む。システムコントローラ100は電源供給後、ROM126にアクセスして制御プログラムを読み出してワークエリア(不図示)にロードし、ロードされた制御プログラムを実行することにより、撮影装置1全体の制御を行う。
レリーズスイッチが操作されると、システムコントローラ100は、例えば、固体撮像素子112a(後述の図2参照)により撮像された画像に基づいて計算された測光値や、撮影装置1に内蔵された露出計(不図示)で測定された測光値に基づき適正露出が得られるように、駆動回路104を介して絞り108及びシャッタ110を駆動制御する。より詳細には、絞り108及びシャッタ110の駆動制御は、プログラムAE(Automatic Exposure)、シャッタ優先AE、絞り優先AEなど、撮影モードスイッチにより指定されるAE機能に基づいて行われる。また、システムコントローラ100はAE制御と併せてAF(Autofocus)制御を行う。AF制御には、アクティブ方式、位相差検出方式、像面位相差検出方式、コントラスト検出方式等が適用される。また、AFモードには、中央一点の測距エリアを用いた中央一点測距モード、複数の測距エリアを用いた多点測距モード、全画面の距離情報に基づく全画面測距モード等がある。システムコントローラ100は、AF結果に基づいて駆動回路104を介して撮影レンズ106を駆動制御し、撮影レンズ106の焦点を調整する。なお、この種のAE及びAFの構成及び制御については周知であるため、ここでの詳細な説明は省略する。
図2及び図3は、像振れ補正装置112の構成を概略的に示す図である。図2及び図3に示されるように、像振れ補正装置112は、固体撮像素子112aを備えている。被写体からの光束は、撮影レンズ106、絞り108、シャッタ110を通過して固体撮像素子112aの受光面112aaにて受光される。なお、固体撮像素子112aの受光面112aaは、X軸及びY軸を含むXY平面である。固体撮像素子112aは、透過波長選択素子としてベイヤ型画素配置のカラーフィルタを有する単板式カラーCCD(Charge Coupled Device)イメージセンサである。固体撮像素子112aは、受光面112aa上の各画素で結像した光学像を光量に応じた電荷として蓄積して、R(Red)、G(Green)、B(Blue)のアナログ撮像信号を生成する。
また、固体撮像素子112aは、AFE(Analog Front End)を備えており、アナログ撮像信号に対して、相関二重サンプリング(CDS: Correlated Double Sampling)によるノイズ除去や自動利得制御(AGC: Auto Gain Control)等の処理を施した後、アナログ・デジタル変換によりデジタル撮像信号を生成して出力する。なお、固体撮像素子112aは、CCDイメージセンサに限らず、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサやその他の種類の撮像装置に置き換えられてもよい。固体撮像素子112aはまた、補色系カラーフィルタを搭載したものであってもよいし、画素毎に何れかのカラーフィルタを配置していれば、ベイヤ配列等の周期的なカラー配列を有するカラーフィルタである必要はない。
信号処理回路114は、固体撮像素子112aより入力されるデジタル撮像信号(RAW画像)に対して、オフセット成分を除去して黒レベルを調整するクランプ処理や、欠陥画素の画素値をその周囲の画素の画素値により補正する欠陥補正処理等の信号処理を施して、画像処理エンジン116に出力する。画像処理エンジン116は、信号処理回路114より入力されるデジタル撮像信号に対して同時化処理(デモザイク)を行ってフルカラーの画素値を有する画像信号を生成し、更にこの画像信号に対して、マトリクス演算、ホワイトバランス、Y/C分離等の所定の信号処理を施して輝度信号Y及び色差信号Cb、Crを生成し、JPEG(Joint Photographic Experts Group)等の所定のフォーマットの画像ファイルに変換する。なお、色差信号Cb、Crは、撮影画像の色を表わす情報(色情報)である。すなわち、Y/C分離によって、画像信号から色情報が抽出される。バッファメモリ118は、画像処理エンジン116による処理の実行時、処理データの一時的な保存場所として用いられる。また、撮影画像の保存形式は、JPEG形式に限らず、各種の画像ファイルフォーマットを採用することができる。また、デモザイク前のRAW画像を保存することもできる。
カード用インタフェース120のカードスロットには、メモリカード200が着脱可能に差し込まれている。
画像処理エンジン116は、カード用インタフェース120を介してメモリカード200と通信可能である。画像処理エンジン116は、生成された画像ファイル(撮影画像データ)をメモリカード200(又は撮影装置1に備えられる不図示の内蔵メモリ)に保存する。
また、画像処理エンジン116は、生成された輝度信号Y、色差信号Cb、Crをフレームメモリ(不図示)にフレーム単位でバッファリングする。画像処理エンジン116は、バッファリングされた信号を所定のタイミングで各フレームメモリから掃き出して所定のフォーマットのビデオ信号に変換し、LCD制御回路122に出力する。LCD制御回路122は、画像処理エンジン116より入力されるビデオ信号を基にLCDを駆動制御する。これにより、被写体の撮影画像がLCD124の表示画面に表示される。ユーザは、AE制御及びAF制御下で適正な輝度及び合焦で撮影されたリアルタイムのスルー画(ライブビュー)を、LCD124の表示画面を通じて視認することができる。
画像処理エンジン116は、ユーザにより撮影画像の再生操作が行われると、操作により指定された撮影画像データをメモリカード200又は内蔵メモリより読み出してビデオ信号に変換し、LCD制御回路122に出力する。LCD制御回路122が画像処理エンジン116より入力されるビデオ信号を基に液晶を変調制御することで、被写体の撮影画像がLCD124の表示画面に表示される。
[振れ補正部材の駆動に関する説明]
像振れ補正装置112は、振れ補正部材を駆動させる。本実施形態において、振れ補正部材は、固体撮像素子112aである。なお、振れ補正部材は、固体撮像素子112aに限らず、撮影レンズ106又は撮影レンズ106内に含まれる一部のレンズや光学素子など、これを光軸AXに対して物理的に動かす(例えば、光軸AXと垂直な方向へ移動させたり、光軸AXと垂直な軸周りに傾けたりする)ことにより、固体撮像素子112aの受光面112aa上での被写体像(光学像)の位置をシフトさせることが可能な別の構成であってもよく、又は、これらと固体撮像素子112aのうち2つ以上の部材を組み合わせた構成であってもよい。
像振れ補正装置112は、像振れを補正するために振れ補正部材を光軸AXと直交する平面内(すなわち、XY平面内)で駆動(像振れを打ち消すように振動)させることができるだけでなく、固体撮像素子112aの画素ピッチ程度の量だけ振れ補正部材を光軸AXと直交する平面内で微小に駆動(微小回転)させることもできる。この微小駆動を露光期間中に行えば、光学的なローパスフィルタ(LPF:Low Pass Filter)のような効果が得られることが知られている。以下、説明の便宜上、振れ補正部材を像振れが軽減するように駆動させることを「像振れ補正駆動」と記し、振れ補正部材を固体撮像素子112aの画素ピッチ程度の量だけ駆動させることを「LPF駆動」と記す。
(像振れ補正駆動に関する説明)
ジャイロセンサ128は、像振れ補正を制御するための情報を検出するセンサである。具体的には、ジャイロセンサ128は、撮影装置1に加わる二軸周り(X軸周り、Y軸周り)の角速度を検出し、検出された二軸周りの角速度をXY平面内(換言すると、固体撮像素子112aの受光面112aa内)の振れを示す振れ検出信号としてシステムコントローラ100に出力する。
図2及び図3に示されるように、像振れ補正装置112は、撮影装置1が備えるシャーシ等の構造物に固定された固定支持基板112bを備えている。固定支持基板112bは、固体撮像素子112aが搭載された可動ステージ112cをスライド可能に支持している。
固定支持基板112bの可動ステージ112cと対向する面には、磁石MYR、MYL、MXD、MXUが取り付けられている。また、固定支持基板112bには、磁性体であるヨークYYR、YYL、YXD、YXUが取り付けられている。ヨークYYR、YYL、YXD、YXUはそれぞれ、固定支持基板112bから可動ステージ112cを回り込んで磁石MYR、MYL、MXD、MXUと対向する位置まで延びた形状を持ち、磁石MYR、MYL、MXD、MXUとの間に磁気回路を構成する。また、可動ステージ112cには、駆動用コイルCYR、CYL、CXD、CXUが取り付けられている。駆動用コイルCYR、CYL、CXD、CXUが磁気回路の磁界内において電流を受けることにより、駆動力が発生する。可動ステージ112c(固体撮像素子112a)は、発生した駆動力により、固定支持基板112bに対してXY平面内で微小に駆動される。
対応する磁石、ヨーク及び駆動用コイルによりボイスコイルモータが構成される。すなわち、磁石MYR、ヨークYYR及び駆動用コイルCYRによりボイスコイルモータVCMYRが構成され、磁石MYL、ヨークYYL及び駆動用コイルCYLによりボイスコイルモータVCMYLが構成され、磁石MXD、ヨークYXD及び駆動用コイルCXDによりボイスコイルモータVCMXDが構成され、磁石MXU、ヨークYXU及び駆動用コイルCXUによりボイスコイルモータVCMXUが構成される。
各ボイスコイルモータVCMYR、VCMYL、VCMXD、VCMXU(駆動用コイルCYR、CYL、CXD、CXU)は、システムコントローラ100の制御下でPWM(Pulse Width Modulation)駆動される。ボイスコイルモータVCMYRとVCMYLは、固体撮像素子112aの下方において、水平方向(X軸方向)に所定の間隔を空けて並べて配置されており、ボイスコイルモータVCMXDとVCMXUは、固体撮像素子112aの横に、垂直方向(Y軸方向)に所定の間隔を空けて並べて配置されている。
固定支持基板112b上における各駆動用コイルCYR、CYL、CXD、CXUの近傍位置には、ホール素子HYR、HYL、HXD、HXUがそれぞれ取り付けられている。ホール素子HYR、HYL、HXD、HXUはそれぞれ、磁石MYR、MYL、MXD、MXUの磁力を検出して、可動ステージ112c(固体撮像素子112a)のXY平面内の位置を示す位置検出信号をシステムコントローラ100に出力する。具体的には、ホール素子HYR及びHYLにより可動ステージ112c(固体撮像素子112a)のY軸方向位置及び傾き(回転)が検出され、ホール素子HXD及びHXUにより可動ステージ112c(固体撮像素子112a)のX軸方向位置及び傾き(回転)が検出される。
システムコントローラ100は、ボイスコイルモータ用のドライバICを内蔵している。システムコントローラ100は、ジャイロセンサ128より出力される振れ検出信号及びホール素子HYR、HYL、HXD、HXUより出力される位置検出信号に基づいて、ドライバICの定格電力(許容電力)を超えない範囲内において、各ボイスコイルモータVCMYR、VCMYL、VCMXD、VCMXU(駆動用コイルCYR、CYL、CXD、CXU)に流す駆動電流のデューティ比を、各駆動電流のバランスを崩さないように計算する。システムコントローラ100は、計算されたデューティ比で各ボイスコイルモータVCMYR、VCMYL、VCMXD、VCMXUに駆動電流を流し、固体撮像素子112aを像振れ補正駆動する。これにより、固体撮像素子112aが重力や外乱等に抗して規定の位置に保持されつつ固体撮像素子112aの受光面112aa上での像振れが補正される。言い換えれば、受光面112aa上での被写体像の位置が振れないように固体撮像素子112aの位置が調整される。
(LPF駆動に関する説明)
次に、LPF駆動について説明する。本実施形態において、像振れ補正装置112は、ボイスコイルモータVCMYR、VCMYL、VCMXD、VCMXUに所定の駆動電流を流すことにより、固体撮像素子112aの画素ピッチ程度の量だけ振れ補正部材を光軸AXと直交する平面内で微小に駆動(微小回転)させることができる。一回の露光期間に対して、XY平面内において所定の軌跡を描くように可動ステージ112c(固体撮像素子112a)を駆動すれば、被写体像の各点が固体撮像素子112aの検出色(R、G又はB)の異なる複数の画素(色画素)に順次入射する。これにより、次に説明するように光学的なLPFと同様の効果が得られることが知られている。
図4(a)、図4(b)は、LPF駆動の説明を補助する図である。同図に示されるように、固体撮像素子112aの受光面112aa上には、複数の画素PIXが所定の画素ピッチPでマトリックス状に並べて配置されている。説明の便宜上、同図の各画素PIXについて、前面に配置されたカラーフィルタの色に対応させて符号(R、G、Bの何れか1つ)を付す。
図4(a)は、固体撮像素子112aが光軸AXを中心とする正方形軌跡Lsを描くように駆動される例を示す。この正方形軌跡Lsは、例えば固体撮像素子112aの画素ピッチPを一辺とした正方形の閉じた経路とすることができる。図4(a)の例では、固体撮像素子112aは、X軸方向とY軸方向とに1画素ピッチP単位で交互に且つ正方形経路となるように駆動される。
図4(b)は、固体撮像素子112aが光軸AXを中心とする円形軌跡Lcを描くように駆動される例を示す。この円形軌跡Lcは、例えば固体撮像素子112aの各画素の中心を通るように画素ピッチPの√2/2倍を半径rとする円形の閉じた経路とすることができる。
なお、画素ピッチPを含む駆動軌跡の情報は、システムコントローラ100の内部メモリ又はROM126に予め保持されている。
図4(a)(又は図4(b))に例示されるように、露光期間中、固体撮像素子112aが駆動軌跡の情報に基づいて所定の正方形軌跡Ls(又は円形軌跡Lc)を描くように駆動されると、被写体像の各点が4つのカラーフィルタR、G、B、G(4つ(二行二列)の画素PIX)に均等に入射する。これにより、光学的なLPFと同等の効果が得られる。すなわち、被写体像の各点が、その周辺にある各色の色画素(画素PIX)に略均等に入射するため、あたかも光学的なLPFを被写体像が通過したときと同等の効果が得られる。
なお、ユーザは、操作部102を操作することにより、像振れ補正駆動、LPF駆動のそれぞれのオン/オフを切り替えることができる。
[偽色の検出に関する説明]
次に、本実施形態における、撮影画像内に発生するモアレの一種である、偽色を検出する方法について説明する。図5は、システムコントローラ100により実行される偽色検出フローを示す。図5に示される偽色検出フローは、例えば、レリーズスイッチが押された時点で開始される。
[図5のS11(状態の判定)]
本処理ステップS11では、撮影装置1が静止状態であるか否かが判定される。例えば、ジャイロセンサ128より入力される振れ検出信号のうち一定周波数以上の信号成分の振幅が一定期間継続してある閾値以下に収まる場合に静止状態と判定される。撮影装置1の静止状態として、典型的には、撮影装置1が三脚に固定された状態が挙げられる。なお、静止状態を含めた撮影装置1の姿勢はジャイロセンサ128に代えて、加速度センサ130、地磁気センサ132、GPSセンサ134など、他のセンサより出力される情報を用いて検出されてもよい。また、検出精度を向上させるため、例えばセンサ・フュージョン技術を適用し、これらのセンサより出力される情報が複合的に用いられるようにしてもよい。
撮影装置1が静止状態にない場合(例えば、低速のシャッタスピードに設定して手持ち撮影をした場合)は、手振れ(あるいは被写体ぶれ)による被写体像のボケに起因して偽色がそもそも発生し難い。従って、本実施形態では、撮影装置1が静止状態である(すなわち、偽色が発生しやすい状態である)と判定された場合に限り(S11:YES)、撮影画像内の偽色を検出すべく、処理ステップS12(第一画像の撮影)以降が実行される。撮影装置1が静止状態にない場合は(S11:NO)、処理ステップS12(第一画像の撮影)以降を実行することなく、偽色検出処理が終了する。これにより、偽色の検出の為の無駄な撮影を実行することなく、(図5のフローのENDの後)先のレリーズスイッチに対する反応として通常の撮影を実行することができる。処理ステップS12(第一画像の撮影)以降が実行されない旨(静止状態ではないので通常の撮影が実行された旨)が、撮影者に例えばLCD124の表示画面等を通じて通知されてもよい。なお、撮影画像内の偽色の検出を重視したい場合は、撮影装置1が静止状態であるか否かに拘わらず処理ステップS12(第一画像の撮影)以降が実行されてもよい。この場合、処理ステップS12(第一画像の撮影)以降が実行される旨が、撮影者に例えばLCD124の表示画面等を通じて通知されてもよい。また、静止状態の判定閾値は撮影装置1に設定されたシャッタスピードに応じて変更されてもよい。
[図5のS12(第一画像の撮影)]
図6(a)、図7(a)は、それぞれ撮影される被写体像(光学像)の異なる部分を拡大して示した図である。図6(a)に示される被写体像は、固体撮像素子112aの画素PIXの画素ピッチPと同じピッチで水平方向及び垂直方向に明暗が交互に現れる斜め縞模様であり、図7(a)に示される被写体像は、画素ピッチPと同じピッチで水平方向に明暗が交互に現れる縦縞模様である。以下、図6(a)に示される被写体像のうち太実線で囲まれた6×6マスの被写体像を「斜め縞被写体像6a」といい、図7(a)に示される被写体像のうち太実線で囲まれた6×6マスの被写体像を「縦縞被写体像7a」という。
本処理ステップS12では、AE制御及びAF制御下で、適正な輝度及び合焦で被写体画像(第一画像)が撮影される(露光が完了される)。
図6(b)、図7(b)は、固体撮像素子112aの受光面112aaに結像した斜め縞被写体像6a、縦縞被写体像7aと各画素PIXとの位置関係をそれぞれ模式的に示した図であり、固体撮像素子112aの受光面112aaを被写体側から正面視した図である。図6(b)及び図7(b)では、図4と同様に、受光素子の前面に配置されたカラーフィルタの色を示す符号(R、G、Bの何れか1つ)が各画素PIXに付されている。図6(b)及び図7(b)において、黒塗りの画素PIXは、縞模様の暗部分が照射されていることを示し、白塗りの画素PIXは、縞模様の明部分が照射されていることを示す。また、説明の便宜上、図6(b)及び図7(b)において、各画素PIXにアドレス(数字1〜8、符号イ〜チ)が付されている。
[図5のS13(固体撮像素子112aのシフト)]
第一画像の撮影が完了した後、第ニ画像の撮影が開始される前(非撮影期間中)、本処理ステップS13では、可動ステージ112cが駆動されて、固体撮像素子112aが1画素分の距離だけX軸正方向にシフトされる。
[図5のS14(第二画像の撮影)]
処理ステップS13による固体撮像素子112aの駆動が完了後(固体撮像素子112aが静止後)、本処理ステップS14においても、第一画像撮影時と同じ撮影条件(露光、シャッタースピード、フォーカス等)下で被写体画像(第二画像)が撮影される。第二画像の撮影完了後、第一画像と第二画像を用いた偽色検出処理を開始する旨が撮影者に告知されてもよい。
図6(c)、図7(c)は、それぞれ、図6(b)、図7(b)と同様の図であり、第二画像の撮影時(固体撮像素子112aのシフト後)における固体撮像素子112aの受光面112aaに結像した斜め縞被写体像6a及び縦縞被写体像7aと各画素PIXとの位置関係を模式的に示したものである。図6、図7の各図(b)、(c)に示されるように、固体撮像素子112aの受光面112aa上での被写体像の位置は、処理ステップS13(固体撮像素子112aのシフト)における固体撮像素子112aのシフト量に応じて、受光面112aa上でX軸負方向(固体撮像素子112aの移動と逆方向に)に1画素分の距離だけシフトする。
なお、本処理ステップS14における撮影条件は、固体撮像素子112aが1画素分の距離だけX軸正方向にシフトされる点を除けば、処理ステップS12(第一画像の撮影)における撮影条件と同一である。図6(b)、(c)及び図7(b)、(c)から判るように、第二画像の撮影時において、被写体像は、固体撮像素子112aの受光面112aaに対して、第一画像よりも全体的に1画素分の距離だけX軸負方向(固体撮像素子112aのシフトと逆方向)にシフトした位置(画素)に結像する。そのため、第二画像(図6、図7を紙面裏側から見た像)は、実質的に、第一画像に対して1画素分右方向にシフトした範囲を撮影したものとなっている。
処理ステップS12(第一画像の撮影)にて撮影された第一画像の画像信号と、処理ステップS14(第二画像の撮影)にて撮影された第二画像の画像信号は、それぞれY/C分離処理を施されて、輝度信号Y及び色差信号Cb、Crに変換される。以下、処理ステップS12(第一画像の撮影)にて撮影された第一画像の色差信号(Cb、Cr)を「第一色差信号」といい、処理ステップS14(第二画像の撮影)にて撮影された第二画像の色差信号(Cb、Cr)を「第二色差信号」という。また、以下に説明する「注目画素」に対する処理は、少なくともデモザイク処理された後のフルカラーの画素値を有する画像に対して行われる。
[図5のS15(第1偽色検出処理)]
次に、第一色差信号と第二色差信号との差分(すなわち色差。以下、「色変化」又は「色変化量」ともいう。)に基づいて、偽色が発生している可能性のある画素若しくは画像領域(以下「偽色疑い領域DA」という。)を抽出する第1偽色検出処理S15が行われる。
図8は、第1偽色検出処理S15の詳細な手順を表したフローチャートである。
[図8のS150(アドレス変換処理の要否判断)]
第1偽色検出処理S15では、先ず、後述するアドレス変換処理S151を実行すべきか否かが判断される(S150)。アドレス変換処理S151は、第一画像の撮影S12と第二画像の撮影S14の間に行われる固体撮像素子112aのシフトに伴って生じる、第一画像と第二画像との画素のアドレスの対応関係のずれ(同一の被写体像が写る画素のずれ)を補正する処理である。第一画像及び第二画像の生成過程において、画素のアドレスの対応関係を一定程度変化させる処理が行われていない場合には、アドレス変換処理S151を行うことによって、より適切な偽色の検出が可能になる。
しかしながら、第一画像及び第二画像の生成過程において、画素のアドレスの対応関係を一定程度変化させる処理が行われた場合には、アドレス変換処理を行うことによって、第一画像と第二画像とのアドレスの対応関係が更に崩れて、却って不適切な偽色の検出が行われることになる場合がある。処理150では、第一画像及び第二画像の生成過程に応じて、アドレス変換処理S151を実行すべきか否かが判断される。
画素のアドレスの対応関係を一定程度変化させる処理としては、例えば間引き処理を伴うY/C分離処理が挙げられる。例えば、YCbCr=4:2:0やYCbCr=4:2:2等、色差成分を間引いて画像を圧縮するフォーマットを使用したY/C分離処理が行われた場合には、第一画像と第二画像のアドレスの対応関係が崩れているため、アドレス変換処理S151を行っても偽色の検出精度の向上は見込めず、むしろ、アドレス変換処理S151を行わない方が、より適切な偽色の検出が可能となる場合もある。そのため、第一画像及び第二画像の生成過程でアドレスの対応関係を一定程度変化させる処理が行われた場合には、アドレス変換処理S151を省略して、第1偽色検出処理S15を高速化させることが望ましい。
本実施形態では、間引き処理を伴わないYCbCr=4:4:4のフォーマットに基づいてY/C分離処理が行われた場合に、アドレス変換処理S151を実行すべき(S150:YES)と判定される。また、色差成分の間引き処理を伴うYCbCr=4:2:0又はYCbCr=4:2:2のフォーマットに基づいてY/C分離処理が行われた場合に、アドレス変換処理S151を実行すべきではない(S150:NO)と判定される。
なお、本実施形態では、Y/C分離処理の方式に基づいてアドレス変換処理の要否判定S150が行われるが、本発明はこの構成に限定されない。例えば、デモザイク処理等、画素のアドレスの対応関係を一定程度変化させ得るその他の処理の方式や有無に基づいてアドレス変換処理の要否判定S150を行うこともできる。
[図8のS151(アドレスの変換)]
本実施形態では、撮影画像内において補正すべき偽色が発生している画像領域(後述する「偽色発生領域FA」)が画素単位で検出される。この場合、偽色の検出精度を向上させるため、同一の被写体像が入射される画素間で色の変化量を演算することが望ましい。そこで、本処理ステップS151では、同一の被写体像が同一アドレスの画素に入射されたものとして処理されるように、処理ステップS14(第二画像の撮影)にて撮影された第二画像を構成する各画素のアドレスが、処理ステップS13(固体撮像素子112aのシフト)における固体撮像素子112aのシフト量(換言すると、固体撮像素子112aの受光面112aa上での被写体像の位置のシフト量)に応じて変換される。
一例として、固体撮像素子112aがシフトされた後を示した図6(c)の画素PIXbのアドレス(ハ,2)は、シフト前に同じ位置にあった右隣の(X軸正方向側に隣接する)画素、すなわち、シフト後の画素PIXbと同一の被写体像(暗部)をシフト前に取り込む画素PIXa(図6(b)参照)のアドレス(ニ,2)に変換される。
[図8のS152(色差信号の差分値〔色変化量〕の演算)]
斜め縞被写体像6a及び縦縞被写体像7aは、固体撮像素子112aの画素PIXの画素ピッチPと同じピッチの高周波成分を含む。そのため、斜め縞被写体像6a又は縦縞被写体像7aの画像信号が処理ステップS12(第一画像の撮影)、処理ステップS14(第二画像の撮影)においてデモザイク処理されると、斜め縞被写体像6a及び縦縞被写体像7aのそれぞれには偽色が発生する。
具体的には、図6(b)の例では、G成分の画素PIXの輝度が高く、R及びB成分の画素PIXの輝度が低い。そのため、デモザイク処理後の各画素PIXの色情報はG成分が支配的となって、斜め縞被写体像6aに緑色の偽色が発生する。一方、図6(c)の例では、図6(b)の例とは反対に、R及びB成分の画素PIXの輝度が高く、G成分の画素PIXの輝度が低い。そのため、デモザイク処理後の各画素PIXの色情報はR及びB成分が支配的となって、斜め縞被写体像6aに紫色の偽色が発生する。
また、図7(b)の例では、B成分の画素PIXの輝度が高く、R成分の画素PIXの輝度が低い。そのため、デモザイク処理後の各画素PIXの色情報はBとGとの混色成分となって、青と緑との中間色(例えばシアン色)の偽色が発生する。一方、図7(c)の例では、図7(b)の例とは反対に、R成分の画素PIXの輝度が高く、B成分の画素PIXの輝度が低い。そのため、デモザイク処理後の各画素PIXの色情報はRとGとの混色成分となって、赤と緑の中間色(例えば橙色)の偽色が発生する。
図9は、Cb、Crの二軸で定義される色空間を示す。図9中、符号6bは、図6(b)の例において発生する緑色の偽色に対応するプロットであり、符号6cは、図6(c)の例において発生する紫色の偽色に対応するプロットであり、符号7bは、図7(b)の例において発生する青と緑との中間色の偽色に対応するプロットであり、符号7cは、図7(c)の例において発生する赤と緑の中間色の偽色に対応するプロットである。各プロットの座標情報を以下に示す。なお、原点Oは座標(0,0)である。
プロット6b:(Cb,Cr)=(−M,−N)
プロット6c:(Cb,Cr)=(M,N)
プロット7b:(Cb,Cr)=(M’,−N’)
プロット7c:(Cb,Cr)=(−M’+α,N’+β)
但し、M,N,M’,N’,α,βは何れも正数である。
図9に示されるように、本実施形態では、固体撮像素子112aの画素PIXの画素ピッチPと同程度の高周波成分の被写体像を取り込んだときに発生する偽色の色自体が、受光面112aa上での被写体像の位置をシフトさせることによって変化することを利用して偽色疑い領域DAを検出している。より詳細には、高周波成分の被写体像が取り込まれる画素において、第一色差信号と第二色差信号が持つ色情報が互いに異なる部分(より具体的には、互いに補色の関係となる部分)を、偽色疑い領域DAとして検出している(色変化領域検出手段)。
本実施形態では、上記の補色関係を得るべく、受光面112aa上での被写体像の位置が左方向(水平の画素の並び方向)に1画素分シフト(固体撮像素子112aが被写体像に対してX軸方向に1画素分シフト)されているが、本発明はこれに限らない。シフト方向は、例えば、X軸方向(水平の画素の並び方向)であってもよく、又は、Y軸正方向(垂直な画素の並び方向)、Y軸負方向(垂直な画素の並び方向)、右上、右下、左上、左下の各斜め方向(水平、垂直の各並び方向に対して45度をなす方向)など、画素配置に応じた他の方向であってもよいし、併用してもよい。また、シフト距離は、例えば、3画素分、5画素分など、他の奇数画素分の距離であってもよく、また、半画素分又は半画素分+奇数画素分(例えば1.5画素分、2.5画素分等)であってもよく(すなわち、n画素分又は(m+0.5)画素分(但し、n=奇数の自然数,m=0又は奇数の自然数)の何れかであればよく)、シフト駆動する機構の精度に応じて選択できることもできる。また、シフト距離は、撮影対象の被写体や撮影条件によっては、偶数画素分及びその近傍(例えば1.9〜2.1画素分等)以外の距離であればよい。これらの量(方向及び距離)で受光面112aa上での被写体像の位置がシフトされる場合も、高周波成分の被写体像が取り込まれる(偽色が発生する)画素において、第一色差信号と第二色差信号が持つ色情報が互いに補色の関係となることから、偽色疑い領域DAを検出することができる。
本処理ステップS152では、処理ステップS151(アドレスの変換)におけるアドレス変換後において(以下、同様)、アドレス毎に、第一色差信号と第二色差信号との差分値(色変化量)(Cbsub,Crsub)が演算される。具体的には、本処理ステップS152では、第一色差信号のCb、CrをそれぞれCb1、Cr1と定義し、これと同一アドレスの第二色差信号のCb、CrをそれぞれCb2、Cr2と定義した場合に、差分値(Cbsub,Crsub)が次式により演算される。
Cbsub=Cb1−Cb2
Crsub=Cr1−Cr2
[図8のS153(第一の距離情報の演算)]
本処理ステップS153では、画素毎に、第一色差信号と第二色差信号との色空間内での距離(第一の距離情報Saturation_sub)が次式により演算される。
Saturation_sub=√(Cbsub +Crsub
第一の距離情報Saturation_subは、図9の各プロット対(プロット6bとプロット6c、プロット7bとプロット7c)の例でそれぞれ、2√(M+N)、√{(2M’−α)+(2N’+β)2-}となる。
図9の各プロット対の位置関係から把握されるように、第一色差信号と第二色差信号が持つ色情報が強い補色関係にあるほど第一の距離情報Saturation_subが大きくなり、第一色差信号と第二色差信号が持つ色情報が補色関係にない(例えば同様の色相である)ほど第一の距離情報Saturation_subが小さくなる。すなわち、第一の距離情報Saturation_subは、偽色が発生している領域でなければ理想的にはゼロであり、偽色が強く発生している領域ほど大きくなる。
[図8のS154(色差信号の加算値の演算)]
本処理ステップS154では、アドレス毎に、第一色差信号と第二色差信号との加算値(Cb’add,Cr’add)が演算される。
具体的には、本処理ステップS154では、暫定加算値(Cbadd,Cradd)が次式により演算される。
Cbadd=Cb1+Cb2
Cradd=Cr1+Cr2
次いで、オフセット値(Cboff,Croff)が次式により演算される。
Cboff=(Cb1+Cb2)/2
Croff=(Cr1+Cr2)/2
次いで、加算値(Cb’add,Cr’add)が次式により演算される。
Cb’add=Cbadd−Cboff=(Cb1+Cb2)/2
Cr’add=Cradd−Croff=(Cr1+Cr2)/2
[図8のS155(第二の距離情報の演算)]
本処理ステップS155では、アドレス毎に、加算値(Cb’add,Cr’add)に基づいて色空間内における第二の距離情報Saturation_addが次式により演算される。
Saturation_add=√(Cb’add +Cr’add
第二の距離情報Saturation_addは、図9の各プロット対(プロット6bとプロット6c、プロット7bとプロット7c)の例でそれぞれ、ゼロ、√(α+β)となる。
ここで、第一、第二の各色差信号は、画像撮影時の光源、露出条件、ホワイトバランス等の影響を受けて変化する。しかし、第一、第二の各色差信号が同じように変化するため、色空間内における互いの相対距離(すなわち、第一の距離情報Saturation_sub)は変化が少ない。
一方、第二の距離情報Saturation_addは、第一、第二の各色差信号が画像撮影時の光源、露出条件、ホワイトバランス等の影響を受けて色空間の原点Oの位置に対して変化すると、大きく変化する。そこで、処理ステップS154(色差信号の加算値の演算)では、第二の距離情報Saturation_addを暫定加算値(Cbadd,Cradd)を用いて即座には演算せず、上記影響による原点Oに対する位置の変化を相殺又は軽減すべく(上記影響により、原点Oから離れた第一色差信号と第二色差信号との中点を原点Oに近付けるべく)、加算値(Cb’add,Cr’add)が演算されている。
図9の各プロット対の位置関係から把握されるように、第一色差信号と第二色差信号が持つ色情報が補色関係にある場合は、互いの符号が逆となることから加算値(Cb’add,Cr’add)が小さくなって、第二の距離情報Saturation_addが小さくなる。また、強い補色関係であるほど第二の距離情報Saturation_addが小さくなって、理想的にはゼロとなる。一方、第一色差信号と第二色差信号が持つ色情報が補色関係にない(例えば同様の色相である)場合は、互いの符号が同一となることから、加算値(Cb’add,Cr’add)が大きくなって、第二の距離情報Saturation_addが大きくなる。すなわち、第二の距離情報Saturation_addは、偽色が発生している領域でなければ大きくなり、偽色が発生している領域であれば小さくなる。
[図8のS156(輝度信号の差分値〔輝度変化量〕の演算)]
以下、処理ステップS12(第一画像の撮影)において撮影された第一画像の輝度信号Yを「第一輝度信号Y1」といい、処理ステップS14(第二画像の撮影)において撮影された第二画像の輝度信号Yを「第二輝度信号Y2」という。本処理ステップS156では、アドレス毎に、第一輝度信号と第二輝度信号との差分値(輝度変化量)Ydiffが演算される。具体的には、次式により差分値Ydiffが演算される。
diff=|Y1−Y2|
[図8のS157(偽色疑い領域の判定)]
本処理ステップS157では、アドレス毎に、偽色疑い領域DAであるか否かの判定(一次判定)が行われる。具体的には、次の条件(1)〜(3)が全て満たされる場合に、当該画素が偽色疑い領域であると判定され、一つでも満たされない条件がある場合には偽色疑い領域DAではないと判定される。
・条件(1)
上述したように、第一の距離情報Saturation_subが大きいほど第一色差信号と第二色差信号が持つ色情報が強い補色関係となることから、当該画素が偽色疑い領域である可能性が高い。そこで、条件(1)は次のように規定される。
条件(1):Saturation_sub≧閾値T1
・条件(2)
上述したように、第二の距離情報Saturation_addが小さいほど第一色差信号と第二色差信号が持つ色情報が強い補色関係となることから、当該画素が偽色疑い領域である可能性が高い。そこで、条件(2)は次のように規定される。
条件(2):Saturation_add≦閾値T2
・条件(3)
処理ステップS12(第一画像の撮影)にて撮影された第一画像と処理ステップS14(第二画像の撮影)にて撮影された第二画像の一方だけで大きな像振れが発生した場合を考える。この場合、第一色差信号と第二色差信号との差分が大きくなって、偽色が誤検出される虞がある。そこで、条件(3)は次のように規定される。
条件(3):Ydiff≦閾値T3
すなわち、差分値Ydiffが閾値T3よりも大きい場合は、上記の誤検出の虞があることから、当該画素に対する偽色の検出が行われない(当該画素が偽色疑い領域ではないものとして処理される。)。
なお、条件(1)と条件(2)は、当該画素が偽色疑い領域であるか否かを直接的に判定する条件となっている。そこで、別の実施形態では、条件(1)と条件(2)の少なくとも一方が満たされる場合に、当該画素が偽色疑い領域であると判定されるようにしてもよい。
また、ユーザは、操作部102を操作して閾値T1〜T3を設定変更することにより、偽色の検出感度を変更することができる。
[図5のS16(第2偽色検出処理)]
図10は、以上で説明した第1偽色検出処理S15によって、偽色疑い領域DAが検出され易い画像8の例である。画像8には、パーソナルコンピュータのディスプレイ81やポスター82が写されている。ディスプレイ81の画面81aには、周期的に配列された微細な画素が設けられているため、画面81aが写される画像8の領域には広い範囲で偽色が発生し易い。このような広がりを有する(後述する狭小領域ではない)偽色疑い領域DAは、偽色修正処理によって画質が向上する可能性が高い(すなわち補正するべき補正対象領域と考えられる)。
図11は、図10における破線の枠83で囲まれた部分(ポスター82の縁82aの一部)を拡大した図である。ポスター82の縁82a等のくっきりとした(コントラストの高い)輪郭の領域では、輪郭を挟んで画像8の色が急激に変化するため、上述した第一画像と第二画像を撮影した場合、第一色差信号と第二色差信号との差分(すなわち、第一画像と第二画像との色の違い)が大きくなる場合がある。本発明者の研究により、この現象は、Y/C分離処理において色差成分を間引いて画像を圧縮した場合(例えば、YCbCr=4:2:0やYCbCr=4:2:2等のフォーマットを使用した場合)に発生し易いことが判明している。このような輪郭や縁などの狭小領域(以下、輪郭の領域と言う)では、色差の差分が大きくなって偽色疑い領域DAとして検出されても、偽色による画質の劣化が目立たないことが多く、実際は補正すべき偽色が発生しているわけではない可能性が高い。従ってこのような輪郭の領域に対して、検出されたまま偽色補正処理を掛けると、輪郭がぼやけて逆に画質が低下したと感じられる。また輪郭でなくても、狭い範囲で大きな色差の差分が発生している領域に対して、検出されたまま偽色補正処理を掛けた場合にも、逆に画質が低下したと感じられる。そのため、輪郭の領域(狭小領域)は、偽色発生領域FA(すなわち補正するべき補正対象領域)と判定しない方がよいのである。
以下に説明する第2偽色検出処理S16は、第1偽色検出処理S15において偽色疑い領域DAと判定された画素から輪郭の領域を抽出し、抽出された輪郭の領域を偽色疑い領域から除外(偽色発生領域ではないと判定)して補正対象から除外し、輪郭の領域以外の偽色疑い領域DAを偽色発生領域FA(補正対象領域)と判定する処理である。
図12は、第2偽色検出処理S16の詳細な手順を表したフローチャートである。
[図12のS161(偽色疑い領域マップ生成)]
本処理ステップS161では、第1偽色検出処理S15の結果に基づいて、偽色疑い領域マップDMが生成される。偽色疑い領域マップDMとは、第1偽色検出処理S15(直接には、偽色疑い領域の判定処理S157)において偽色疑い領域DAであると判定された画素PIXの画素値を「1」とし、偽色疑い領域DAではないと判定された画素PIXの画素値を「0」とした、偽色判定用の2値の画像データ化(画像情報化)したものである。
図13は、偽色疑い領域マップDMの拡大図である。図13(a)は、面状に連続的に広がった分布を有する偽色疑い領域DAaの付近を拡大したものであり、図13(b)は、線状に連続的に広がった分布を有する偽色疑い領域DAbの付近を拡大したものである。図13(a)に示される偽色疑い領域DAaは、面状に(少なくとも短手方向にも一定の幅を有して二次元的に)連続的に分布している。このように面状に分布する色変化の領域は、目立ち易く、画質に悪影響を与え易い。一方、図13(b)に示される偽色疑い領域DAbは、線状に細長く連続的に分布している。このように線状に分布する色変化の領域は、被写体自体の輪郭線等であり偽色ではない可能性が高い。仮に偽色であったとしても、領域が狭い為目立ち難く、画質に悪影響を与え難いので、これを無視して補正しない方が良い。そのため、第2偽色検出処理S16では、図13(b)に示されるような線状に細長く連続的に分布する色変化の領域(輪郭の領域)が抽出され、偽色疑い領域DA(偽色発生領域FA)から排除される。
[図12のS162(間引き処理)]
以下、偽色疑い領域DAb等の線状の色変化領域を抽出するための具体的な方法について説明する。線状の色変化領域を抽出する方法には様々なものが考えられるが、本実施形態では、次に説明する間引き処理S162を利用した方法が採用される。
図14〜17は、間引き処理S162を説明する図である。図14〜17の上段の各図(a)は、それぞれ間引き処理S162を行う前の偽色疑い領域マップDMの拡大図(偽色疑い領域DAb付近を拡大したもの)である。また、図14〜17の中段の各図(b)は、間引き読み出しされた偽色疑い領域マップDMである。そして、図14〜17の下段の各図(c)は、間引き読み出し後の縮小マップ生成処理によって生成される間引きマップ(縮小マップ)DMR(後述する行間引きマップ[縦縮小マップ]DMR1及び列間引きマップ[横縮小マップ]DMR2)である。なお、本実施形態の間引き処理S162は、間引き後の画像データ(間引きマップDMR)を生成する縮小画像生成処理(縮小処理)を含んでいるが、縮小画像生成処理は必ずしも行われなくてもよい。
本実施形態の間引き処理S162は、具体的には、偽色疑い領域マップDMの行又は列を周期的に間引く処理である。間引いた行又は列を詰め、偽色疑い領域マップDMを縦方向又は横方向に縮小する処理(縮小処理、収縮処理)をすれば、間引き後の画像(間引きマップ[縮小マップ]DMR)が得られる。間引きマップDMRをLCD124に表示させることで、間引き後の画像を確認することもできる。
間引き処理S162には、偽色疑い領域マップDMの行を間引く行間引き処理S1621と、偽色疑い領域マップDMの列を間引く列間引き処理S1622とが含まれ、これらが適宜実行される。
図14は、行間引き処理S1621を行う前後の偽色疑い領域マップDM(行間引きマップDMR1)を示した図である。本実施形態では、偽色疑い領域マップDMにおいて2行置きに配置された太枠で囲まれた、…第3j行(jは正の整数)、第3j+3行、第3j+6行…(すなわち、第3m行[mは正の整数]と表現される行)を残して、それらの間に2行ずつ連続して配置された…第3j+1行と第3j+2行、第3j+4行と第3j+5行…(すなわち、第3m+1行又は第3m+2行)が間引かれる。その後、縮小処理をすれば、偽色疑い領域マップDMが縦方向に縮小された行間引きマップ(縦縮小マップ)DMR1が生成される。図14に示されるように、偽色疑い領域マップDMに含まれていた偽色疑い領域DAbは、行間引き処理S1621によって消滅している。縮小処理によって生成される画像データ(行間引きマップDMR1)からも偽色疑い領域DAbが消滅したことが確認できる。
図15は、図14と同じく行間引き処理S1621を行う前後の偽色疑い領域マップDMを示した図であるが、図14の例とは異なる行に偽色疑い領域DAbが存在する偽色疑い領域マップDMを示したものである。上述した図14の例では、偽色疑い領域DAbは、行間引き処理S1621によって間引かれる第3j+5行に存在するため、行間引き処理S1621によって消滅した。一方、図15の例では、偽色疑い領域DAbは、行間引き処理S1621によって間引かれずに残る第3j+3行に存在するため、図15(b)に示されるように、行間引き小処理S1621によっても消滅せずに残り、行間引き偽色疑い領域DAb1として行間引きマップDMR1上に残されていることが確認できる。したがって、第3m行を残す行間引き処理S1621の結果のみに基づいて偽色疑い領域DAbが輪郭の領域であるか否かを判定すると、偽色疑い領域DAbの発生位置によって判定結果が変動する(すなわち、誤判定が生じる)ことになる。
そこで、本実施形態では、第3m行を残す行間引き処理S1621aと、第3m+1行を残す行間引き処理S1621bと、第3m+2行を残す行間引き処理S1621cの計3回の行間引き処理S1621を順次行い、そのうち少なくとも1回の行間引き処理S1621によって偽色疑い領域DAbが消滅すれば、当該偽色疑い領域DAbは消滅したと判定される。これにより、偽色疑い領域DAbの発生位置による誤判定が防止される。また、後述する列間引き処理S1622においても同様の処理が行われる。
図16は、列間引き処理S1622を行う前後の偽色疑い領域マップDM(列間引きマップDMR2)を示した図である。本実施形態では、偽色疑い領域マップDMにおいて2列置きに配置された太枠で囲まれた、…第3i列(iは正の整数)、第3i+3列、第3i+6列…(すなわち、第3n列[nは正の整数]と表現される列)を残して、それらの間に2列ずつ連続して配置された…第3i+1列と第3i+2列、第3i+4列と第3i+5列…(すなわち、第3n+1列又は第3n+2列)が間引かれ、列間引きマップDMR2が生成される。列間引きマップDMR2には、偽色疑い領域DAbが列間引き処理S1622によって横方向に縮小された列間引き偽色疑い領域DAb2が含まれている。
図17は、図16と同じく列間引き処理S1622を行う前後の偽色疑い領域マップDMを示した図であるが、図16の例とは異なり、略連続的に(厳密には不連続に)分布する偽色疑い領域DAb´が存在する偽色疑い領域マップDMの例を示したものである。図17(a)に示された偽色疑い領域DAb´は、第3j+5行の第3i列から第3i+6列にかけて略連続的に分布しているが、厳密には、その中途に偽色疑い領域DAb´ではない3つの画素(3i+2,3j+5)、(3i+4,3j+5)及び(3i+5,3j+5)を挿んで不連続(飛び石状)に分布している。
しかし、図17(c)に示された列間引きマップDMR2では、一つの連続した列間引き偽色疑い領域DAb2´が形成されている。本処理ステップS161では、列間引きマップDMR2(又は行間引きマップDMR1)において連続(隣接)する偽色疑い領域の画素の間は、偽色疑い領域マップDM上においても一つの連続した偽色疑い領域DAb´が形成されているものとみなされる。具体的には、図17の例では、図17(c)においては連続する偽色疑い領域DAb´の画素(3i,3j+5)と(3i+3,3j+5)との間に挟まれた偽色が発生していない画素(3i+2,3j+5)が、偽色疑い領域DAb´の画素と見做される。同様に、図17(c)においては連続する偽色疑い領域DAb´の画素(3i+3,3j+5)と(3i+6,3j+5)との間に挟まれた偽色が発生していない画素(3i+4,3j+5)、(3i+5,3j+5)が、偽色疑い領域DAb´の画素と見做される。
これにより、偽色疑い領域DAb´の分布に僅かに不連続な箇所があっても、偽色疑い領域DAb´のインターバルが所定長(具体的には、間引き処理S162において間引かれる行又は列の幅。言い換えれば、間引かれずに残される行又は列の間隔。)以下であれば、偽色疑い領域DAb´の分布が連続しているものと見做されるため、輪郭領域の判定をより適切に行うことが可能になっている。すなわち、間引き処理S162において間引かれる行又は列の幅の設定により、許容される偽色疑い領域DAb´の分布の連続度を設定することができる。なお、本実施形態では、偽色疑い領域DAb´の分布の連続度が偽色疑い領域DAb´のインターバルによって評価されているが、他の尺度を使用して偽色疑い領域DAb´の分布の連続度を評価してもよい。例えば、偽色疑い領域DAb´が分布する範囲(図17の例では、(3i,3j+5)から(3i+6,3j+5)までの範囲)に占める偽色疑い領域DAb´の画素の比率(すなわち、偽色疑い領域DAb´の画素の粗密)によっても偽色疑い領域DAb´の分布の連続度を評価することができる。また、以上では間引き後に縮小処理をしたものとして連続度を説明したが、実際には縮小処理しなくても縮小処理をしたものと仮定して演算することで、連続度を判定することが可能である。
なお、本実施形態では、間引き処理S162における間引きの幅が2行(列)に設定されているが、撮影画像の画素数等に応じて間引きの幅を1行(列)又は3行(列)以上の値に設定することもできる。また、縮小処理S162における間引きの幅や周期(あるいは、間引かずに残す行又は列の幅)をユーザが設定できるようにしてもよい。
図14〜17に示された例のように、線状に細長く連続的に分布する偽色疑い領域DAbは、行間引き処理S1621又は列間引き処理S1622によって消滅又は減少する(正確には、各マップDM、DMR1、DMR2の全画素数に対して各偽色疑い領域DAb、DAb1、DAb2の画素数が占める比率が減少する)。一方、面状に連続的に分布する偽色疑い領域DAa(図13)は、行間引き処理S1621及び列間引き処理S1622のいずれによっても消滅しない。従って、間引き処理S162(行間引き処理S1621及び列間引き処理S1622)によって偽色疑い領域DAが消滅(又はその比率が減少)するか否かに基づいて、偽色疑い領域DAが輪郭の領域であるか否かを判定することができる。
[図12のS163(輪郭領域(狭小領域)の判定)]
本処理ステップS163では、間引き処理S162による偽色疑い領域DA(DAa、DAb)の消滅又はその比率の減少の有無に基づいて、偽色疑い領域DAが線状に細長く連続して分布する領域(すなわち、輪郭の領域)であるか否かが判定される。具体的には、列間引き処理S1621又は行間引き処理S1622によって消滅又は比率が減少した偽色疑い領域DAは輪郭の領域と判定され、列間引き処理S1621及び行間引き処理S1622のいずれによっても消滅又はその比率が減少しない偽色疑い領域DAは輪郭の領域ではないと判定される。なお、本処理ステップS163は、全ての偽色疑い領域DAに対して行われる。
[図12のS164(輪郭領域(狭小領域)の除外)]
次に、処理ステップS164では、処理ステップS163において輪郭の領域と判定された偽色疑い領域マップDMの画素の画素値が「0」に変更され、偽色疑い領域DAから除外される。
[図12のS165(偽色発生領域の判定)]
そして、処理ステップS164の完了後に画素値が「1」となる画素が、最終的に偽色発生領域FAの画素と判定され、第2偽色検出処理S16が完了する。
[図5のS17(補正対象領域の検出)]
本処理ステップS17では、補正対象領域の有無が検出される。例えば、処理ステップS165(偽色発生領域FAの判定)において偽色発生領域FAと判定された画素数(又は全有効画素数のうち偽色発生領域FAと判定された画素の比率)が所定の閾値以上(例えば10%以上)である場合に、補正対象領域有りという検出結果となり(S17:YES)、偽色発生領域FAと判定された画素数(又は比率)が所定の閾値未満である場合に、補正対象領域無しという検出結果となる(S17:NO)。
[図5のS18(撮影画像の保存)]
本処理ステップS18は、処理ステップS17(補正対象領域の検出)にて補正対象領域無しという検出結果が得られた場合(S17:NO)に実行される。本処理ステップS18では、処理ステップS12(第一画像の撮影)にて撮影された第一画像及び処理ステップS14(第二画像の撮影)にて撮影された第二画像について補正対象領域が検出されなかったとして、その少なくとも一方がメモリカード200(又は撮影装置1に備えられる不図示の内蔵メモリ)に保存される。この時点で撮影動作が完了した旨が撮影者に告知されてもよい。特に、処理ステップS14(第二画像の撮影)で第一画像と第二画像を用いた偽色検出処理を開始する旨が撮影者に告知されている場合には、撮影動作が完了したことが撮影者に伝わる。これにより、撮影者は次の作業、例えば撮影装置1の状態(セッティング)の変更に進むことができる。
[図5のS19(補正対象領域に対する処理)]
本処理ステップS19は、処理ステップS17(補正対象領域の検出)にて補正対象領域有りという検出結果が得られた場合(S17:YES)に実行される。本処理ステップS19では、処理ステップS12(第一画像の撮影)にて撮影された第一画像及び処理ステップS14(第二画像の撮影)にて撮影された第二画像について偽色が検出されたことから、検出された偽色発生領域FA(補正対象領域)の画素位置を、第一画像と第ニ画像の少なくとも一方と紐づけてメモリカード200(又は撮影装置1に備えられる不図示の内蔵メモリ)に保存される。これにより、例えば後にPC等で偽色発生領域FAの位置を容易に再検出し、公知の画像処理によって、偽色が発生する画素に対してのみ精密に補正することができる。もちろん、撮影装置1に十分な画像処理能力が備わっている場合には、直後に画像処理しても良い。
本実施形態によれば、被写体像の位置が固体撮像素子112aの画素ピッチP分だけ異なる2枚の画像(第一画像、第二画像)を撮影し、画素ピッチPと同程度以上の高周波成分の被写体像が取り込まれた場合に、2枚の画像で色相の異なる偽色が発生し、偽色が発生した箇所において2枚の画像の色差の差分が大きくなる構成となっている。本実施形態によれば、偽色の検出に色差の差分の大きい画像が用いられることから、偽色が精度良く検出される。
また、本実施形態によれば、画質に与える影響が少ない輪郭の領域で発生する偽色疑い領域(第一画像と第二画像との色差の差分が大きな領域)を偽色と判定する領域(偽色発生領域FA)から除外することにより、必要最小限の補正すべき領域(偽色発生領域FA)を検出し、補正することができるので、より高い画質の写真を撮影することが可能になる。
以上が本発明の例示的な実施形態の説明である。本発明の実施形態は、上記に説明したものに限定されず、本発明の技術的思想の範囲において様々な変形が可能である。例えば明細書中に例示的に明示される実施形態等又は自明な実施形態等を適宜組み合わせた内容も本願の実施形態に含まれる。
上記の実施形態では、偽色疑い領域マップDMに対する間引き処理S162の結果に基づいて偽色発生領域FAの検出が行われる構成が採用されているが、次に説明する本発明の第2実施形態のように、偽色疑い領域マップDMに対する補間処理の結果に基づいて偽色発生領域FAの検出を行う構成としてもよい。
[第2実施形態]
図18は、本発明の第2実施形態における第2偽色検出処理S16の手順を説明したフローチャートである。
なお、以下の第2実施形態の説明では、第1実施形態との相違点を中心に説明する。また、実質的に同一の構成又は実質的に同一の機能を有する構成については同一又は類似の符号を付し、重複する説明を省略する。
本発明の第2実施形態は、第2偽色検出処理S16のみが上述した第1実施形態と相違する。具体的には、第2実施形態では、第1実施形態の間引き処理162に替えて補間処理162aが行われる。また、輪郭判定処理S163では、補間処理162aの結果に基づいて輪郭の領域(又は狭小領域)か否かが判定されるため、具体的な判定基準は第1実施形態とは異なったものとなる。
補間処理162aには、最近傍補間(Nearest neighbor)法、双一次補間(Bilinear)法、双三次補間(Bicubic)法、ランツォシュ(Lanczos)法等の各種の方式を使用することができる。
図19は、補間処理162aを説明する図である。図19(a)は、補間処理162aを行う前の偽色疑い領域マップDMの拡大図であり、線状に連続的に広がった分布を有する偽色疑い領域DAbを含んでいる。図19(b)は、補間処理162a後の偽色疑い領域マップ(補間画像情報)DMiの拡大図であり、補間処理162a後の偽色疑い領域DAbiを含んでいる。
補間処理162a前の偽色疑い領域マップDMは、上述したように「0」と「1」の値からなる2値の画像データであり、偽色疑い領域DAbの画素は画素値「1」を有し、それ以外の画素は画素値「0」を有している。
補間処理162a後の偽色疑い領域マップDMiは、「0」、「1」又は0から1までの小数値を画素値とする。
輪郭領域(狭小領域)判定処理S163では、補間処理162a後の偽色疑い領域マップDMiにおいて、画素値が所定の閾値(例えば、0.8)未満の小数値となる画素を輪郭領域DAbiLの画素と判定し、画素値が所定の閾値以上となる画素を非輪郭領域(非狭小領域)DAbiD(すなわち、偽色発生領域FA)の画素と判定する。
線状の偽色疑い領域DAbは、隣接する8画素のうち6乃至7画素が画素値「0」の画素である。そのため、補間処理162a後の偽色疑い領域DAbiの画素は、全て閾値未満の画素値を有し、輪郭領域(狭小領域)DAbiLと判定され(S163)、偽色発生領域FAから除外される(S164)。
図20は、面状に連続的に広がった分布を有する偽色疑い領域DAaに対して補間処理S162aを施した場合について説明する図である。図20(a)は、補間処理162a前の偽色疑い領域マップDMの偽色疑い領域DAa付近を拡大した図であり、図20(b)は、補間処理162a後の偽色疑い領域マップ(補間マップ)DMiの拡大図であり、補間処理162a後の偽色疑い領域DAaiを含んでいる。
面状の偽色疑い領域DAaの外周部の画素は、隣接する8画素のうち3乃至5画素が画素値「0」の画素である。そのため、補間処理162a後の偽色疑い領域DAaiの外周部の画素は、全て閾値未満の画素値を有し、輪郭領域(狭小領域)DAaiLと判定され(S163)、偽色発生領域FAから除外される(S164)。
また、偽色疑い領域DAaの内側の画素は、隣接する8画素の全てが画素値「1」の画素である。そのため、補間処理162a後の偽色疑い領域DAaiの内側の画素は、全て閾値以上の画素値を有し、非輪郭領域(非狭小領域)DAaiDと判定され(S163)、偽色発生領域FAとして判定される(S164、S165)。
なお、上記の各実施形態の説明では、補正対象から除外すべき偽色領域として、1方向において幅の狭い(すなわち、線状に連続的に分布した)形態を有する輪郭領域に着目した。輪郭領域以外にも、例えば2方向において幅の狭い(すなわち、点状の)形態を有する狭小の偽色領域も補正をしない方が良好な画質が得られる場合が多く、上記各実施形態でも点状の狭小領域が補正対象領域から除外される。
[その他の変形例]
上記の実施形態では、偽色疑い領域マップDMにおける偽色疑い領域DAの縦方向及び横方向の連続度に基づいて、偽色疑い領域DAが輪郭の領域か否かが判定されるが、偽色疑い領域DAの他の属性に基づいて判定を行うこともできる。例えば、以下の属性a)〜f)に基づいて輪郭の領域(狭小領域)を判別することができる。なお、以下の属性a)〜f)を単独で判定基準に用いても良いし、これら(及び属性「連続度」)の二つ以上を組み合わせて判定基準に用いてもよい。
a)長さ(長手方向の寸法)
例えば、偽色疑い領域DAの長手方向における寸法が所定の閾値以上であることを、輪郭領域の一つの判定基準とすることができる。
b)幅(短手方向の寸法)
例えば、偽色疑い領域DAの短手方向における寸法が所定の閾値以下であることを、輪郭領域の一つの判定基準とすることができる。
c)長さと幅の比(アスペクト比)
例えば、偽色疑い領域DAの長手方向における寸法(長さ)と短手方向における寸法(幅)との比(アスペクト比)が所定の閾値以上であることを、輪郭の領域の一つの判定基準とすることができる。
d)偽色疑い領域マップDMの全幅、全高又は全画素数に対する、劣化不良疑い領域の長さ(すなわち、画像サイズを考慮した劣化不良疑い領域の相対的な長さ)を輪郭の領域と判定するための一つの判定基準とすることができる。
e)偽色疑い領域マップDMの全幅、全高又は全画素数に対する、劣化不良疑い領域の長さ幅(すなわち、画像サイズを考慮した劣化不良疑い領域の相対的な幅)を輪郭の領域と判定するための一つの判定基準とすることができる。
f)分布形状
偽色疑い領域DAの分布形状の特徴を輪郭領域の一つの判定基準とすることができる。例えば、パターン認識によって偽色疑い領域DAの分布形状が「線」に分類されるか否かに基づいて、輪郭領域か否かを判定することもできる。また、原画像(第一画像)から輪郭を抽出して、原画像の輪郭と偽色疑い領域DAの分布形状とを比較して、両者の一致率が所定の閾値以上である場合に輪郭の領域(狭小領域)と判定する構成としてもよい。
上記の実施形態では、偽色は画像処理を用いて除去されている。本実施形態によれば、偽色領域は画素単位で精密に検出することができるので、画像処理により偽色を局所的に(例えば偽色発生領域FAと判定された注目画素毎に)除去(画像処理)することもできる。また、偽色発生領域FAを示す情報を第一画像(又は第二画像)と関連付けて保存しておけば、仮に別端末(コンピューターなど)によって手作業で偽色補正をする場合でも、作業者は、当該情報に基づいて偽色発生領域FAを容易に発見することができる。そのため、画像全体から偽色発生領域FAを探す手間が軽減される。以上から本発明による検出結果を最も有効に利用する実施形態と言えるが、本発明はこれに限らない。例えば偽色発生領域FAが所定量検出された場合、露光期間中にLPF駆動を実行して再撮影することにより、画像全体に対して一律処理にはなるが、簡易に偽色の存在しない良好な画像を得ることも可能である。
また、上記の実施形態では、固体撮像素子112a自体をシフトさせることにより、受光面112aa上での被写体像の位置をシフトさせているが、本発明はこれに限らない。例えば、別の振れ補正部材(撮影レンズ106内に含まれる一部のレンズなど)を偏心駆動させることにより、受光面112aa上での被写体像の位置をシフトさせてもよく、また、撮影レンズ106の光路内に光軸AXに対して垂直よりやや傾けて配置された平行平板を光軸AX周りに回転させたり、頂角可変プリズム、固体撮像素子112aのカバーガラス(カバーガラスに付着した塵等を除去するための加振機能を備えたもの)等を駆動させたりすることにより、受光面112aa上での被写体像の位置をシフトさせてもよい。
また、上記の実施形態では、処理ステップS157(偽色疑い領域の判定)において、閾値T1〜T3が各画素に対する全ての判定において不変であるが、本発明はこれに限らない。
例えば、システムコントローラ100によってAF制御が行われることにより、画像内で合焦しているとみなせる領域(合焦エリアであり、例えば被写界深度に収まる範囲)が求まる。合焦エリア(合焦状態)の被写体はコントラストが高く、高周波成分を含みやすいため、偽色が発生しやすい。一方、合焦エリア外(非合焦状態)の被写体はコントラストが低く、高周波成分を含み難いため、偽色が発生し難い。そこで、処理ステップS157(偽色疑い領域の判定)では、演算によって求まった合焦エリア内の画素に対する判定を行う場合と合焦エリア外の画素に対する判定を行う場合とで、閾値T1〜T3が異なる値に変更されてもよい。例えば、合焦エリア内の画素では偽色が発生している(目立つ)可能性が高いことから、検出感度が高くなるような閾値設定(例えば閾値T1を低い値に設定)を行い、それ以外の画素では偽色が発生している可能性が低い(目立たない)ことから、検出感度が低くなるような閾値設定(例えば閾値T1を高い値に設定)を行うか、偽色検出の処理自体が省略される。これにより、偽色の検出精度がより一層向上したり、検出速度が向上したりする。
また、上記の実施形態では、一対の画像(処理ステップS12(第一画像の撮影)にて撮影された第一画像と処理ステップS14(第二画像の撮影)にて撮影された第二画像)を用いて偽色の検出が行われているが、別の実施形態では、3枚以上の画像を用いて偽色の検出が行われてもよい。
また、上記の実施形態では、処理ステップS13(固体撮像素子112aのシフト)において、固体撮像素子112aがX軸正方向にシフトされるが、本発明はこの構成に限定されない。例えば、処理ステップS13において固体撮像素子112aを斜め方向(例えば、X軸方向及びY軸方向にそれぞれ1画素分ずつ)シフトする構成としてもよい。また、X軸に対して45°以外の方向にシフトする(例えばX軸方向に1画素分、Y軸方向に2画素分シフトする)構成を採用することもできる。
また、上記の実施形態では、固体撮像素子112aの受光面上に被写体像が結像する位置を受光面と平行にシフトさせることで、受光面と被写体の光学像とを相対的に移動させて、それによって偽色の発生状態を変化させているが、本発明はこの構成に限定されない。例えば、合焦時に偽色が発生しやすいことを利用して、撮像素子112a又は撮影レンズ106を光軸方向に移動させて、合焦状態を変化させることによって偽色の発生状態を変化させる構成としてもよい。
また、上記の実施形態では、第1偽色検出処理S15において、偽色疑い領域DAであるか否かの2値の検出結果を生成する構成が採用されているが、本発明はこの構成に限定されない。例えば、各画素で偽色が発生している可能性に応じた多値(例えば、百分率)の検出結果を生成する構成としてもよい。その場合、第1偽色検出処理S15による多値の検出結果を要素とする偽色疑い領域マップDMを生成することができる。
また、上記の実施形態では、偽色が発生している領域であるか否かが画素毎に判定されているが、隣接する複数の画素からなる画素ブロック(例えば、縦5画素×横6画素)単位で偽色が発生している領域か否かを判定する構成としてもよい。
また、上記の実施形態では、処理ステップS17(偽色の検出)において偽色有りという検出結果が得られた場合に、処理ステップS19(LPF駆動下での撮像)によって新たな画像が撮影されるが、処理ステップS19の撮影を行う代わりに、例えば第一画像に対して電気的なLPF処理やスムージング等の画像処理を施すことによって、偽色を補正する構成としてもよい。この場合、第一画像全体に対して補正を行ってもよいし、偽色発生領域FAやその周囲の画素に限定して補正を行ってもよい。
1 撮影装置
100 システムコントローラ
102 操作部
104 駆動回路
106 撮影レンズ
108 絞り
110 シャッタ
112 像振れ補正装置
114 信号処理回路
116 画像処理エンジン
128 ジャイロセンサ
130 加速度センサ
132 地磁気センサ
134 GPSセンサ

Claims (18)

  1. 固体撮像素子と、
    前記固体撮像素子の受光面と被写体像とを相対的に移動させる移動手段と、
    前記移動手段による移動前に撮像された第一画像と移動後に撮像された第二画像とで色が変化した色変化領域を検出する色変化領域検出手段と、
    前記色変化領域の形態に基づいて、該色変化領域の中から画像不良領域を検出する画像不良領域検出手段と、
    を備えた、撮像装置。
  2. 前記画像不良領域検出手段が、
    前記色変化領域の形態に基づいて、該色変化領域の中から狭小領域を検出する狭小領域検出手段を備え、
    前記狭小領域を除く前記色変化領域を画像不良領域として検出する、
    請求項1に記載の撮像装置。
  3. 前記狭小領域検出手段が、
    以下に掲げる前記色変化領域の形態に関する属性aから属性gの少なくとも一つに基づいて、前記狭小領域を検出する、
    a)長さ
    b)幅
    c)長さと幅との比
    d)前記第一画像の縦寸法、横寸法又は総画素数と、前記色変化領域の長さとの比
    e)前記第一画像の縦寸法、横寸法又は総画素数と、前記色変化領域の幅との比
    f)分布形状
    g)連続度
    請求項2に記載の撮像装置。
  4. 前記狭小領域検出手段が、
    線状に連続的に分布した前記色変化領域を前記狭小領域として検出する、
    請求項2又は請求項3に記載の撮像装置。
  5. 前記狭小領域検出手段が、
    該色変化領域検出手段による検出結果を画像情報化した色変化領域画像情報を生成する色変化領域画像情報生成手段を備える、
    請求項2から請求項4のいずれか一項に記載の撮像装置。
  6. 前記狭小領域検出手段が、
    前記色変化領域画像情報の行の画像情報を所定の周期で間引く行間引き処理を行う行間引き手段と、
    前記色変化領域画像情報の列の画像情報を所定の周期で間引く列間引き処理を行う列間引き手段と、を備え、
    前記行間引き処理と前記列間引き処理の少なくともいずれかの結果に基づいて、前記狭小領域を検出する、
    請求項5に記載の撮像装置。
  7. 前記狭小領域検出手段が、
    前記行間引き処理後の色変化領域画像情報に基づいて、該色変化領域画像情報を縦方向に縮小した縦縮小画像情報を生成する縦縮小処理手段と、
    前記列間引き処理後の色変化領域画像情報に基づいて、該色変化領域画像情報を横方向に縮小した横縮小画像情報を生成する横縮小処理手段と、を備えた、
    請求項5に記載の撮像装置。
  8. 前記画像不良検出手段が、
    前記色変化領域画像情報に対して所定の補間処理をした補間画像情報を生成する補間処理手段を備え、
    前記狭小領域検出手段が、
    前記補間画像情報に基づいて、前記狭小領域を検出する、
    請求項5に記載の撮像装置。
  9. 前記色変化領域検出手段が、画素又は隣接する複数の画素からなる画素ブロック(以下「画素等」という。)毎に前記色の変化を検出する、
    請求項1から請求項8のいずれか一項に記載の撮像装置。
  10. 前記固体撮像素子が生成した撮像信号に基づいて色差信号を生成する色差信号生成手段を備え、
    前記色変化領域検出手段が、
    前記第一画像と前記第二画像との色差信号の値の差分を前記画素等毎に計算し、該差分が所定の閾値以上となる前記画素等を前記色変化領域の前記画素等として検出する、
    請求項9に記載の撮像装置。
  11. 前記移動手段が、
    前記受光面と前記被写体像とを、該受光面と平行な方向に相対的に移動させる、
    請求項1から請求項10のいずれか一項に記載の撮像装置。
  12. 前記移動手段が、
    前記第一画像が撮像された後、前記第二画像が撮像される前までの期間に、前記受光面と平行な方向に、n画素分又は(m+0.5)画素分(但し、nは奇数の自然数であり、mは0又は奇数の自然数である。)の距離だけ、前記受光面と前記被写体像とを相対的に移動させる、
    請求項11に記載の撮像装置。
  13. 前記移動手段が、
    前記第一画像と前記第二画像の色が、前記色変化領域において互いに補色の関係となるように、前記受光面と前記被写体像とを前記固体撮像素子の画素間隔に応じた距離だけ移動させる、
    請求項11又は請求項12に記載の撮像装置。
  14. 前記検出手段が、
    前記第一画像における前記被写体像の位置と前記第二画像における前記被写体像の位置が一致するように、前記移動手段による移動量に応じて前記第一画像又は前記第二画像の各画素のアドレスを変換するアドレス変換手段を備える、
    請求項11から請求項13のいずれか一項に記載の撮像装置。
  15. 前記移動手段が、
    前記受光面と前記被写体像とを、該受光面と垂直な方向に相対的に移動させる、
    請求項1から請求項10のいずれか一項に記載の撮像装置。
  16. 前記撮像装置と被写体とが相対的に静止しているか否かを判定する静止判定手段を備え、
    前記静止判定手段により静止していると判定されたときに、前記第一画像と第二画像の撮影を行う、
    請求項1から請求項15のいずれか一項に記載の撮像装置。
  17. 前記被写体像を前記受光面上に結像させる、一つ以上の光学素子を含む撮像光学系と、
    前記撮像装置の振れを検出する振れ検出手段と、
    を備え、
    前記移動手段が、
    前記振れ検出手段の検出結果に基づいて、一つ以上の前記光学素子と前記撮像素子の少なくとも一方を移動させることにより、前記撮像装置の振れに起因する像振れを補正する、
    請求項1から請求項16のいずれか一項に記載の撮像装置。
  18. 固体撮像素子により第一画像を撮像するステップと、
    前記第一画像の撮像後に、前記固体撮像素子の受光面と被写体像とを相対的に移動させるステップと、
    前記移動後に、前記固体撮像素子により第二画像を撮像するステップと、
    前記第一画像と前記第二画像とで色が変化した色変化領域を検出するステップと、
    前記色変化領域の形態に基づいて、該色変化領域の中から画像不良領域を検出するステップと、
    を含む、撮像方法。
JP2015082910A 2015-04-15 2015-04-15 撮像装置及び撮像方法 Pending JP2016208064A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015082910A JP2016208064A (ja) 2015-04-15 2015-04-15 撮像装置及び撮像方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015082910A JP2016208064A (ja) 2015-04-15 2015-04-15 撮像装置及び撮像方法

Publications (1)

Publication Number Publication Date
JP2016208064A true JP2016208064A (ja) 2016-12-08

Family

ID=57490388

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015082910A Pending JP2016208064A (ja) 2015-04-15 2015-04-15 撮像装置及び撮像方法

Country Status (1)

Country Link
JP (1) JP2016208064A (ja)

Similar Documents

Publication Publication Date Title
JP6248412B2 (ja) 撮像装置、撮像方法、プログラム
US8767085B2 (en) Image processing methods and apparatuses to obtain a narrow depth-of-field image
US9344620B2 (en) Imaging device and method for controlling same
JP5775977B2 (ja) 画像処理装置、撮像装置、画像処理方法、及び画像処理プログラム
EP2720455B1 (en) Image pickup device imaging three-dimensional moving image and two-dimensional moving image, and image pickup apparatus mounting image pickup device
WO2014083914A1 (ja) 撮像装置及び合焦制御方法
US11012633B2 (en) Image capturing apparatus, image capturing method, and image processing apparatus
JPWO2014122804A1 (ja) 画像処理装置、撮像装置、画像処理方法及びプログラム
JP2012065173A (ja) 撮影機器
JP5749406B2 (ja) 画像処理装置、撮像装置、コンピュータ、画像処理方法及びプログラム
JP5378283B2 (ja) 撮像装置およびその制御方法
JP5387341B2 (ja) 撮像装置
JP5298899B2 (ja) 画像補正処理装置および画像補正処理方法
JP6579369B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
JP2008113466A (ja) 電子カメラ
JP6157274B2 (ja) 撮像装置、情報処理方法及びプログラム
JP2016208064A (ja) 撮像装置及び撮像方法
JP6525139B2 (ja) 画像検出装置、画像検出方法及び撮影装置
JP6548141B2 (ja) 画像検出装置、画像検出方法及び画像検出プログラム
JP2014153517A (ja) 画像処理装置および画像処理方法、プログラム並びに記憶媒体
JP6460395B2 (ja) 撮影装置、及び撮影装置における表示制御方法
JP6501106B2 (ja) 画像検出装置、画像検出方法及び撮影装置
JP2017200029A (ja) 画像劣化検出装置
JP2018148500A (ja) 撮像システム、画像判定プログラム、画像撮像装置、及び、画像データ構造
WO2020044844A1 (ja) 信号処理装置、信号処理方法、信号処理プログラムおよび撮像装置

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20170717