JP5430379B2 - 撮像装置及びその制御方法及びプログラム - Google Patents

撮像装置及びその制御方法及びプログラム Download PDF

Info

Publication number
JP5430379B2
JP5430379B2 JP2009282224A JP2009282224A JP5430379B2 JP 5430379 B2 JP5430379 B2 JP 5430379B2 JP 2009282224 A JP2009282224 A JP 2009282224A JP 2009282224 A JP2009282224 A JP 2009282224A JP 5430379 B2 JP5430379 B2 JP 5430379B2
Authority
JP
Japan
Prior art keywords
image
developed
unit
imaging
developed image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009282224A
Other languages
English (en)
Other versions
JP2010206776A (ja
Inventor
公太 寺山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2009282224A priority Critical patent/JP5430379B2/ja
Priority to EP10150118A priority patent/EP2214136B1/en
Priority to US12/684,398 priority patent/US8218021B2/en
Priority to CN2010101107807A priority patent/CN101795359B/zh
Publication of JP2010206776A publication Critical patent/JP2010206776A/ja
Application granted granted Critical
Publication of JP5430379B2 publication Critical patent/JP5430379B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/951Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/44Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
    • H04N25/445Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array by skipping some contiguous pixels within the read portion of the array

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Color Television Image Signal Generators (AREA)
  • Image Processing (AREA)
  • Processing Of Color Television Signals (AREA)
  • Studio Devices (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Color Image Communication Systems (AREA)

Description

本発明は、撮像素子を備えた撮像装置におけるノイズ低減技術に関する。
近年、デジタルカメラ等の電子カメラに搭載される撮像素子は、多画素化と小型化の影響で1画素の蓄積電荷量は減少する傾向にある。従来の撮像素子と同じ感度を維持するためには、蓄積電荷を読み出して得られた信号を増幅することによって補う必要がある。このように信号を増幅するとノイズ成分も増幅するため、従来よりもランダムノイズが増加してS/N比が悪化してしまう問題がある。また、撮影可能な条件の範囲を広げる目的で高感度化も進んでおり、ノイズ抑圧技術はますます重要な位置付けとなっている。
一枚の撮影画像のノイズ抑圧技術でよく用いられる手法として、例えば、特許文献1のように、2次元フィルタを用いたローパスフィルタ処理によるものが知られている。着目画素の画素出力値との差分の絶対値が所定閾値以下である周辺画素について、加算平均を求めて着目画素の出力値とする処理により、所定閾値以下の振幅のランダムノイズを抑圧することができる。一方で、所定閾値より大きい振幅の被写体エッジ部などはそのまま残るため、解像感の劣化を小さく抑えることができる。しかし、ランダムノイズの振幅が大きくなると上記の所定閾値を大きく設定してランダムノイズに対処することになるが、低振幅な被写体エッジとの区別がつかなくなるため、ノイズ抑圧の効果向上と同時に解像感喪失の弊害も発生してしまう問題がある。また、フィルタのタップ数を増すことで加算平均対象となる画素数が多くなり、ノイズ抑圧効果を向上することができるが、回路規模の増大を伴う問題がある。
上述の問題点に対して、例えば、特許文献2には、低解像度と高解像度の2つの画像読み出しモードで撮像素子から読み出した画像データによりノイズ低減処理を行う構成が提案されている。
また、特許文献3には、元画像を縮小して元画像よりも解像度の低い縮小画像を生成し、この縮小画像を元画像と同じサイズになるように拡大し、この拡大画像と元画像の合成処理を行うことで、ノイズ低減処理を行う構成が提案されている。
これらのようにすることで、簡単な構成で高いランダムノイズ抑圧効果と高解像度の静止画を得ることができる。
特開平11−041491号公報 特開2007−329905号公報 特開2001−057677号公報
しかしながら、特許文献2では2つの駆動モードの切替えを行うため、動く被写体の撮影時には2つの駆動モードにおいて同一被写体で同じ画角の画像を取得することが困難となる課題がある。
また、特許文献3では、撮像素子で生成されたRGB信号のまま上記の合成処理を行おうとすると、任意のサイズの縮小画像を生成するためには、RGB3色のカラープレーンを生成する必要がある。そのため、ノイズ低減処理を行う際のメモリの占有領域が大きく増加する。そこで、RGB信号をYUV信号に変換してから、上記の合成処理を行うことが考えられる。YUV信号に変換することで、RGB3色のカラープレーンを生成する場合に比較して、メモリの占有領域を減らすことが可能となる。
しかしながら、例えば、ノイズ低減処理後のYUV信号がYUV422データ構造であるとすると、2画素あたり輝度信号(Y)2つと色差信号2つ(U、V)の計4つの信号により構成されることになる。そのため、撮像素子で生成されたRGB信号のbit数とYUV信号のbit数が同じであれば、元画像をYUV信号に変換することで、メモリ上の占有領域が2倍に増加する。すなわち、合成処理を行う際に占有されるメモリの領域が大きくなるという課題がある。
本発明は上述した課題に鑑みてなされたものであり、その目的は、2次元フィルタを用いたローパスフィルタ処理によるノイズ抑圧部を備えた撮像装置において、回路規模と占有メモリ領域を少なく抑えつつ、良好なノイズ抑圧を可能とすることである。
上記課題を解決するため、本発明に係る撮像装置は、被写体像を光電変換する画素が複数色の色フィルタに対応して2次元的に配列された撮像素子を備え、画像信号を生成する撮像手段と、前記撮像手段から出力される画像信号を縮小して縮小画像を生成する縮小手段と、前記縮小画像に対して現像処理を行って輝度成分および色差成分からなる第1の現像画像を得るとともに、前記撮像手段から出力される画像信号に対して現像処理を行って輝度成分および色差成分からなる第2の現像画像を得る画像処理手段と、前記第1の現像画像を前記第2の現像画像と同じ大きさに拡大する拡大手段と、前記拡大手段により拡大された拡大画像と前記第2の現像画像を加重合成する合成手段と、前記撮像手段から出力される画像信号、前記縮小画像、前記第1の現像画像、前記第2の現像画像、および、前記拡大画像を記憶する記憶手段と、を備え、前記画像処理手段は、前記撮像手段から出力される画像信号の一部の領域に対して前記現像処理を行って前記一部の領域に対応する第2の現像画像を得、前記合成手段によって前記一部の領域に対応する第2の現像画像が前記一部の領域に対応する前記拡大画像と合成されてから、前記撮像手段から出力される画像信号の他の領域に対して前記現像処理を行って前記他の領域に対応する第2の現像画像を得ることを特徴とする。
本発明によれば、回路規模と占有メモリ領域を少なく抑えつつ、良好なノイズ抑圧が可能となる。
本発明を適用したデジタルカメラの一実施形態の概略構成を示すブロック図である。 一実施形態のデジタルカメラの撮影動作のフローチャートである。 図2における撮影のサブルーチンのフローチャートである。 メモリの占有状態を模式的に示した図である。 合成処理時のゲイン設定を撮影感度ごとに設定するテーブルを示す図である。 縮小処理の説明図である。
以下、本発明の一実施形態について、図面を参照して詳細に説明する。
本実施形態においては、撮像素子103は一般的に良く用いられるベイヤー配列の複数色の色フィルタを有する画素が2次元的に配列されたCCDまたはCMOSセンサとする。画像処理部108で現像処理された現像画像のフォーマットはYUV422データ構造であるものとする。YUV422データ構造では、輝度 (Y)は各画素独立に与えられるが、輝度と青色成分の色差(U)、輝度と赤色成分の色差(V)は、それぞれデータを隣り合う画素で共有する。
図1は、本発明を適用したデジタルカメラ(撮像装置)の一実施形態の概略構成を示すブロック図である。
本実施形態におけるデジタルカメラでは、撮像素子103が光学系101、シャッタ102を通して結像された被写体象を光電変換し、画像信号を生成する。そして、不図示のCDS回路や非線形増幅回路を備えた前置処理回路104が光電変換された画像信号から出力ノイズを除去し、A/D変換器105が画像信号をデジタル化する。そして、メモリコントローラ106が画像信号をメモリ107に格納する。画像処理部108は、メモリ107から読み出した画像信号に対して、ノイズ抑圧処理と現像処理を行ってYUV信号(現像画像)を得て、さらに画像フォーマット変換を行い記憶媒体109に記憶する。画像処理部108で行われるノイズ抑圧処理は、前述した2次元フィルタを用いたローパスフィルタ処理により行われる。なお、110は撮影した画像やカメラ状態情報などを表示する表示部である。111はAE(自動露出制御)処理やAF(自動フォーカス制御)処理といった撮影準備動作を指示するためのスイッチ(以下SW1と記す)、112はスイッチSW1の操作後、撮影の開始を指示するための撮影スイッチ(以下SW2と記す)である。また、113はデジタルカメラに電源を投入するためのメインスイッチ(以下メインSWと記す)、114はデジタルカメラ全体の動作を制御するシステム制御部である。また、画像処理部108は、現像処理部108a、縮小処理部108b、拡大処理部108c、合成処理部108d、フォーマット変換部108eを含む。
以下、本実施形態のデジタルカメラの動作について図2を参照しながら詳述する。図2は本実施形態のデジタルカメラの撮影動作を示すフローチャートである。
まず、ステップS201では、システム制御部114はデジタルカメラに電源を投入するメインSW(113)の状態を検出し、ONであればステップS202へ進む。ステップS202では、システム制御部114は記憶媒体109の残容量を調べ、残容量が0であればステップS203へ進み、そうでなければステップS204へ進む。ステップS203では、システム制御部114は記憶媒体109の残容量が0であることを示す警告を表示部110に表示させてステップS201に戻る。
ステップS204では、システム制御部114はスイッチSW1(111)の状態を調べ、ONであればステップS206へ進み、そうでなければステップS205へ進む。ステップS205では、システム制御部114はメインSW(113)の状態を調べ、ONであればステップS204へ、そうでなければステップS201へ進む。ステップS206では、システム制御部114は設定されている撮影モードやシャッタスピード設定、感度設定などに従って露出条件を決定するAE処理を行い、ステップS207ではAF処理を行う。
ステップS208では、システム制御部114はスイッチSW2(112)の状態を調べ、ONであればステップS210へ、そうでなければステップS209へ進む。ステップS209では、システム制御部114はスイッチSW1(111)の状態を調べ、ONであればステップS208へ戻り、そうでなければステップS204へ戻る。ステップS210では、システム制御部114は後述する図3のフローチャートにしたがって撮影動作を行う。ステップS211では、システム制御部114は撮影動作後の記憶媒体109の残容量を調べ、残容量が0、もしくは、0に近ければステップS203へ進み、そうでなければステップS212へ進む。ステップS212では、システム制御部114はスイッチSW2(112)の状態を調べ、ONでなければステップS209へ進む。
以下、図3のフローチャートを参照しながら図2のフローチャートにおけるステップS210の撮影のサブルーチンを説明する。ここに、図3は、図2のフローチャートにおける撮影(ステップS210)のサブルーチンのフローチャートである。
まず、ステップS301では、システム制御部114は図2のフローチャートにおけるAE処理(ステップS206)で決定された露出条件に従って撮像素子103への露光を行う。撮像素子の面上に結像された被写体像は光電変換されてアナログの画像信号となり、ステップS302にてA/D変換器105へと送られ、デジタルの画像信号に変換される。
ステップS303では、ステップS301の露出時の感度設定すなわち撮影時の感度設定が、あらかじめ設定された所定感度以下であれば、ステップS304へ進み、そうでなければステップS305へ進む。なお、上記の所定感度は例えばISO100やISO200など、ノイズレベルが比較的小さいために強力なノイズ抑圧効果が必要とされない撮影感度に設定される。
ステップS304では画像処理部108により、A/D変換器105より出力される画像信号の現像処理を行う。具体的には、ホワイトバランス処理によってRGB信号のゲイン調整を行い、色補間処理によりRGB3色のカラープレーンを生成し、マスキング処理による色相調整を行う。この色補間処理後のRGBの各カラープレーンにおいて、2次元フィルタを用いたローパスフィルタ処理によりノイズ抑圧処理を行う。このノイズ抑圧処理は、上述したように、着目画素の画素出力値との差分の絶対値が所定閾値以下である周辺画素について、加算平均を求めて着目画素の出力値とする処理により、所定閾値以下の振幅のランダムノイズを抑圧する処理である。また、ガンマ変換処理によりディスプレイ等に表示するために必要な処理を行う。そして、RGB信号を輝度(Y)と青色成分の色差(U)と赤色成分の色差(V)からなるYUV信号へ変換し、メモリ107へ記憶する。
ここでは例えば、
Y=0.299×R+0.587×G+0.114×B …(1)
U=−0.169×R−0.331×G+0.500×B …(2)
V=0.500×R−0.419×G−0.081×B …(3)
の変換式により、RGB信号からYUV信号に変換する。
ステップS305〜ステップS311は、ステップS303で所定感度を超える撮影感度で撮影されたと判定され、ステップS304の現像処理におけるノイズ抑圧処理より強力なノイズ抑圧処理が必要である場合の処理である。図4は、ステップS305〜ステップS311におけるメモリの占有状態を模式的に示した図である。
後述するように、ステップS309〜ステップS311における各処理は、画像を複数の領域に分割して1分割領域ごとに処理することでメモリの占有領域を小さく抑えている。本実施形態では、全画像領域を3分割して処理を行うものとして説明する。また、ベイヤー配列の色フィルタを備えた撮像素子より得られた画像信号は1画素あたり1つの画像信号により構成される。しかし、本実施形態のように現像画像のフォーマットがYUV422の場合には、2画素あたり輝度信号(Y)2つと色差信号2つ(U、V)の計4つの信号により構成されるため、信号のbit数が同じであれば2倍の容量が必要となる。この対策として本実施形態では、分割処理によりできるだけ、同時にメモリに置かれるYUV信号の量を減らすことでメモリの占有領域を小さく抑えている。
なお以下においては、撮像素子103で得られたそのままの画像サイズを等倍サイズ、後述する画像処理部108の縮小処理部で縮小処理された画像サイズを縮小サイズと表現する。
ステップS305では、メモリコントローラ106はA/D変換器105より出力される等倍サイズの画像信号をメモリ107へ記憶する(図4(a))。
ステップS306では、画像処理部108内の縮小処理部108bが、ステップS305でメモリ107へ記録した等倍サイズの画像信号を読み出して画像サイズを縮小し、縮小サイズの画像信号を生成してメモリ107へ記憶する(図4(b))。
縮小処理は、例えば図6に示すような方法で行う。色フィルタがR−Gである水平ラインの1/3縮小処理を図6(a)に、色フィルタがG−Bである水平ラインの1/3縮小処理を図6(b)に示す。
まず、同色画素の中で隣接する画素に対して[1,2,1]の重み付け加算平均を2画素飛ばしで演算し、水平方向に1/3に縮小された画像信号を得る。続けて、水平方向に1/3に縮小された画像信号について、同様の演算方法により、垂直方向に1/3に縮小された画像信号を得る。
ステップS307では画像処理部108内の現像処理部108aが、ステップS306で縮小処理された縮小サイズの画像信号を現像処理して縮小サイズのYUV信号(第1の現像画像)を得る。そして、ステップS308でメモリコントローラ106を介して縮小サイズのYUV信号をメモリ107へ記憶する(図4(c))。
ステップS309では画像処理部108内の現像処理部108aにより、ステップS305でメモリ107に記憶した等倍サイズの画像信号の1つの分割領域について現像処理を行う。そして、1つの分割領域の等倍サイズのYUV信号(第2の現像画像)を得る(図4(d))。
ここで、ステップS307の現像処理時は、ステップS309の現像処理時に比較して、2次元フィルタを用いたローパスフィルタ処理によるノイズ抑圧処理を強くかける。具体的には、ステップS307のローパスフィルタ処理によるランダムノイズ抑圧のための第1の閾値を、ステップS309のランダムノイズ抑圧のための第2の閾値よりも大きな値に設定して、より強いノイズ抑圧処理を行う。第1の閾値は程度が強い第1のノイズ抑圧処理に対する閾値であり、第2の閾値は程度が弱い第2のノイズ抑圧処理に対する閾値である。
つまり、着目画素とその周辺画素の画素出力値の差分によっては、着目画素と周辺画素の画素出力値の加算平均によるランダムノイズの抑圧処理が、等倍サイズの画像信号の現像処理では行われないが、縮小サイズの画像信号の現像処理では行われることがある。
すなわち、等倍画像現像においては被写体像の細かなエッジ情報が欠落しないような閾値設定を基本とするが、縮小画像現像においては、縮小処理時の重み付け加算平均と合わせ、ランダムノイズをできるだけ抑圧するような閾値設定を行う。このため、ノイズレベルが増大する高感度撮影時には、例えば、等倍画像の1.5倍程度の閾値などが設定される。
なお、ステップS304の現像処理におけるノイズ抑圧処理の強さは、ステップS309の現像処理におけるノイズ抑圧処理の強さと同程度となる。
ステップS310では、画像処理部108内の拡大処理部108cがステップS309で現像された分割領域に対応する縮小サイズのYUV信号をメモリ107より読み出す。そして、ステップS309で現像された等倍サイズのYUV信号と同サイズへ拡大処理する(図4(e))。この拡大画像を得るための拡大処理は、例えば、特開平11−053531号公報に示される補間方法などにより行えばよく、ここでの説明は省略する。
ステップS311では画像処理部108内の合成処理部108dが、ステップS310で拡大処理されたYUV画像とステップS309で現像処理された等倍サイズのYUV画像の合成処理を行う。そして、合成処理部108dが得られた合成YUV信号(合成画像)をメモリコントローラ106を介してメモリ107へ記憶する(図4(f))。
合成処理は加重合成により行うが、そのまま加算してしまうと各信号値が倍になり露出オーバーな画像となってしまうため、合成処理前に合成対象の2画像それぞれについて、足して1となるゲインを乗じた後に加算する。これにより、合成前と同じ露出の画像を得ることができる。ここで、上記ゲインの設定により合成比率が決定されるが、図5に示すように撮影感度によって上記ゲイン値を変更する。また、輝度成分と色差成分ではゲイン設定を変更して合成比率を変更する。合成後画像の画質は、ここで設定される合成比率設定により影響を受けるが、この点については後述する。
前述の様にステップS309〜ステップS311では1つ(一部)の分割領域について処理を行っている。このため、画像領域の分割数だけステップS309〜ステップS311の処理を繰り返し行い、画像全体の現像後YUV信号を得る(図4(g)〜(m))。
ステップS312では、画像処理部108内のフォーマット変換部108eが、ステップS304またはステップS311でメモリ107に記憶された現像後YUV信号について、JPEGフォーマット等への画像フォーマット変換を行う。そして、ステップS313で記憶媒体109へ転送し記憶する。なお、ステップS304で得られる画像は、合成処理部108dにおいて、ステップS310で拡大処理されたYUV画像の合成比率をゼロとすることによっても得られる。
このように、本実施形態では、等倍サイズの画像信号と縮小サイズの画像信号からなるそれぞれの画像を複数の領域に分割している。そして、等倍サイズの画像信号と縮小サイズの画像信号のそれぞれからYUV信号を生成し、互いのYUV信号のサイズを揃えてから合成する処理を、分割された領域別にタイミングを異ならせて順に行っている。そのため、等倍画像信号から生成された等倍サイズのYUV信号は、分割された領域毎に異なるタイミングでメモリ上に記憶され、合成処理が完了する前に、画像の全領域に相当する等倍サイズのYUV信号が同時にメモリ上に存在することはない。よって、回路規模と占有メモリ領域を少なく抑えることが可能となる。
なお、本実施形態では、全画像領域における縮小サイズの画像信号から現像処理によって全画像領域における縮小サイズのYUV信号を一度に得ている。しかしながら、等倍サイズのYUV信号と同様に、領域毎に異なるタイミングで縮小サイズの画像信号から縮小サイズのYUV信号を得るようにしても構わない。
また、2次元フィルタを用いたローパスフィルタ処理によるノイズ抑圧手段では、ノイズ抑圧の強さ設定を強くすると解像感が劣化する問題があり、またフィルタタップ数によるノイズ抑圧効果の限界もある。
これに対し、本実施形態では、強いノイズ抑圧効果の拡大されたYUV信号と解像感を残した等倍サイズのYUV信号の合成処理により最終現像画像を得る。拡大されたYUV信号は、縮小処理と拡大処理を伴うため解像感を失ってしまうが、同じフィルタタップ数のノイズ抑圧処理であっても、より低周波ノイズに対してノイズ抑圧効果が得られるため、特に色成分のノイズに対して有効である。このため本実施形態では、ノイズ抑圧処理の強さの設定値を強くしてノイズ抑圧に重点を置いた拡大されたYUV信号と、解像感を残すことを重視した等倍サイズのYUV信号を用意する。そして、合成処理において解像感とノイズ抑圧効果のバランスを取って輝度成分と色差成分別に合成比率の設定を行う構成としている。また、図5に示すように解像感劣化の弊害への関与が小さい色成分に対しては、輝度成分よりも拡大されたYUV信号の合成比率を大きく設定している。
また、低感度時にはノイズ量も小さいため解像感の劣化を招く合成処理は行わない、又は拡大画像の合成比率をゼロとする構成としている。
反対に、低感度時には、縮小サイズのYUV信号を拡大したYUV信号と等倍サイズのYUV信号の合成処理は行うが、ローパスフィルタ処理によるノイズ抑圧を行わないようにしてもよい。上述したように、拡大されたYUV信号は縮小処理と拡大処理を伴うため解像感を失うが、等倍サイズのYUV信号と加重合成することによって、等倍サイズのYUV信号にローパスフィルタ処理を行った場合と類似する効果を得られるためである。
なお、上記の実施形態では、図3のフローチャートのステップS306の縮小処理における縮小率を1/3としたが、縮小率は1/3に限定されるものではない。
また、撮影感度の設定値により縮小率を変更することも可能である。例えば図6(c)、図6(d)に示すように、同色画素の中で隣接する画素に対して[1,4,6,4,1]の重み付け加算平均を4画素飛ばしで演算すれば、1/6に縮小された画像信号を得ることができる。縮小率が高い分だけ平均化されて高いノイズ抑圧効果が得られるため、例えば撮影感度がISO400やISO800では1/3縮小処理、ISO1600では1/6縮小処理とする設定も有効である。
また、所定感度を超える撮影感度が設定された場合だけでなく、いずれの撮影感度が設定された場合であっても、縮小サイズのYUV信号を拡大したYUV信号と、等倍サイズのYUV信号を合成する構成としてもよい。
また、上記の実施形態においては、撮像素子はベイヤー配列の色フィルタを備えたCCDやCMOSセンサとしたが、これに限定されるものではない。また、現像処理後の画像フォーマットはYUV422データ構造としたが、これに限定されるものではなく、YUV411データ構造でも、YUV444データ構造であってもよい。
また、画像現像時の画像領域の分割数については3分割としたが、これに限定されるものではない。ただし、分割数が多すぎる場合には、オーバーラップ処理に伴って処理時間が延びる弊害もあるため注意が必要となる。
以上説明したように上記の実施形態の撮像装置によれば、より強力なノイズ抑圧効果を得られると同時に、回路規模と占有メモリ領域を少なく抑えつつ、連写性能などのパフォーマンス低下を避けることが可能となる。
(他の実施形態)
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。

Claims (10)

  1. 被写体像を光電変換する画素が複数色の色フィルタに対応して2次元的に配列された撮像素子を備え、画像信号を生成する撮像手段と、
    前記撮像手段から出力される画像信号を縮小して縮小画像を生成する縮小手段と、
    前記縮小画像に対して現像処理を行って輝度成分および色差成分からなる第1の現像画像を得るとともに、前記撮像手段から出力される画像信号に対して現像処理を行って輝度成分および色差成分からなる第2の現像画像を得る画像処理手段と、
    前記第1の現像画像を前記第2の現像画像と同じ大きさに拡大する拡大手段と、
    前記拡大手段により拡大された拡大画像と前記第2の現像画像を加重合成する合成手段と、
    前記撮像手段から出力される画像信号、前記縮小画像、前記第1の現像画像、前記第2の現像画像、および、前記拡大画像を記憶する記憶手段と、
    を備え、
    前記画像処理手段は、前記撮像手段から出力される画像信号の一部の領域に対して前記現像処理を行って前記一部の領域に対応する第2の現像画像を得、前記合成手段によって前記一部の領域に対応する第2の現像画像が前記一部の領域に対応する前記拡大画像と合成されてから、前記撮像手段から出力される画像信号の他の領域に対して前記現像処理を行って前記他の領域に対応する第2の現像画像を得ることを特徴とする撮像装置。
  2. 前記画像処理手段は、前記縮小画像に対して第1のノイズ抑圧処理および現像処理を行って輝度成分および色差成分からなる第1の現像画像を得るとともに、前記撮像手段から出力される画像信号に対して第2のノイズ抑圧処理および現像処理を行って輝度成分および色差成分からなる第2の現像画像を得ることを特徴とする請求項1に記載の撮像装置。
  3. 前記第2のノイズ抑圧処理は前記第1のノイズ抑圧処理よりも弱いことを特徴とする請求項2に記載の撮像装置。
  4. 前記合成手段は、撮影時の感度が所定感度以下の場合に、前記拡大画像の前記第2の現像画像に対する合成比率をゼロとするか、前記第2の現像画像のみを合成画像として出力することを特徴とする請求項1に記載の撮像装置。
  5. 前記画像処理手段は、撮影時の感度が所定感度以下の場合に、前記縮小手段による縮小処理、前記拡大手段による拡大処理を行わずに、前記第2の現像画像のみを生成し、前記合成手段は、合成処理を行わないことを特徴とする請求項1に記載の撮像装置。
  6. 前記縮小手段による縮小率を、撮影時の感度の設定値に応じて変更することを特徴とする請求項1乃至5のいずれか1項に記載の撮像装置。
  7. 前記合成手段による前記拡大画像と前記第2の現像画像の合成比率を、前記画像信号の輝度成分と色差成分とでそれぞれ異ならせると共に、撮影時の感度の設定値に応じて異ならせることを特徴とする請求項1乃至6のいずれか1項に記載の撮像装置。
  8. 前記画像処理手段と前記拡大手段と前記合成手段は、処理の対象となる画像を複数の領域に分割して処理を行うことを特徴とする請求項1乃至7のいずれか1項に記載の撮像装置。
  9. 被写体像を光電変換する画素が複数色の色フィルタに対応して2次元的に配列された撮像素子を備え、画像信号を生成する撮像手段を有する撮像装置を制御する方法であって、
    前記撮像手段から出力される画像信号を縮小して縮小画像を生成する縮小工程と、
    前記縮小画像に対して現像処理を行って輝度成分および色差成分からなる第1の現像画像を得るとともに、前記撮像手段から出力される画像信号に対して現像処理を行って輝度成分および色差成分からなる第2の現像画像を得る画像処理工程と、
    前記第1の現像画像を前記第2の現像画像と同じ大きさに拡大する拡大工程と、
    前記拡大工程にて拡大された拡大画像と前記第2の現像画像を加重合成する合成工程と、
    前記撮像手段から出力される画像信号、前記縮小画像、前記第1の現像画像、前記第2の現像画像、および、前記拡大画像を記憶手段に記憶する記憶工程と、
    を備え、
    前記画像処理工程では、前記撮像手段から出力される画像信号の一部の領域に対して前記現像処理を行って前記一部の領域に対応する第2の現像画像を得、前記合成工程にて前記一部の領域に対応する第2の現像画像が前記一部の領域に対応する前記拡大画像と合成されてから、前記撮像手段から出力される画像信号の他の領域に対して前記現像処理を行って前記他の領域に対応する第2の現像画像を得ることを特徴とする撮像装置の制御方法。
  10. 請求項9に記載の制御方法をコンピュータに実行させるためのプログラム。
JP2009282224A 2009-02-03 2009-12-11 撮像装置及びその制御方法及びプログラム Expired - Fee Related JP5430379B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2009282224A JP5430379B2 (ja) 2009-02-03 2009-12-11 撮像装置及びその制御方法及びプログラム
EP10150118A EP2214136B1 (en) 2009-02-03 2010-01-05 Method and program for controlling image capture apparatus
US12/684,398 US8218021B2 (en) 2009-02-03 2010-01-08 Image capture apparatus, method of controlling the same, and program
CN2010101107807A CN101795359B (zh) 2009-02-03 2010-02-03 摄像设备及其控制方法

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2009022964 2009-02-03
JP2009022964 2009-02-03
JP2009282224A JP5430379B2 (ja) 2009-02-03 2009-12-11 撮像装置及びその制御方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2010206776A JP2010206776A (ja) 2010-09-16
JP5430379B2 true JP5430379B2 (ja) 2014-02-26

Family

ID=42133743

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009282224A Expired - Fee Related JP5430379B2 (ja) 2009-02-03 2009-12-11 撮像装置及びその制御方法及びプログラム

Country Status (4)

Country Link
US (1) US8218021B2 (ja)
EP (1) EP2214136B1 (ja)
JP (1) JP5430379B2 (ja)
CN (1) CN101795359B (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5677040B2 (ja) * 2010-11-08 2015-02-25 キヤノン株式会社 画像処理装置およびその制御方法
JP5911241B2 (ja) * 2011-09-07 2016-04-27 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
JP6327153B2 (ja) * 2012-12-06 2018-05-23 ソニー株式会社 画像処理装置、画像処理方法、およびプログラム
KR102087986B1 (ko) * 2013-10-04 2020-03-11 삼성전자주식회사 이미지 데이터를 처리하는 방법 및 장치
JP2017028114A (ja) * 2015-07-23 2017-02-02 パナソニックIpマネジメント株式会社 光検出器、光検出装置、固体撮像装置およびカメラシステム
JP6891014B2 (ja) * 2017-03-22 2021-06-18 キヤノン株式会社 画像処理装置および画像処理方法、並びにプログラム
JP6650986B2 (ja) * 2018-10-23 2020-02-19 株式会社キーエンス 画像検査装置、画像検査方法、画像検査プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1141491A (ja) 1997-07-16 1999-02-12 Matsushita Electric Ind Co Ltd 2次元ノイズ低減回路
US6631216B2 (en) 1997-07-31 2003-10-07 Canon Kabushiki Kaisha Image interpolation apparatus
JP3754803B2 (ja) 1997-07-31 2006-03-15 キヤノン株式会社 撮像装置
EP1059811A2 (en) 1999-06-10 2000-12-13 Fuji Photo Film Co., Ltd. Method and system for image processing, and recording medium
JP3995854B2 (ja) 1999-06-10 2007-10-24 富士フイルム株式会社 画像処理方法および装置並びに記録媒体
US6807319B2 (en) * 2000-06-12 2004-10-19 Sharp Laboratories Of America, Inc. Methods and systems for improving display resolution in achromatic images using sub-pixel sampling and visual error filtering
JP4187425B2 (ja) * 2000-09-11 2008-11-26 富士フイルム株式会社 画像制御装置およびディジタルカメラ
US20030112863A1 (en) * 2001-07-12 2003-06-19 Demos Gary A. Method and system for improving compressed image chroma information
US7266254B2 (en) * 2002-02-13 2007-09-04 Canon Kabushiki Kaisha Data processing apparatus, image processing apparatus, and method therefor
JP3800192B2 (ja) * 2002-05-21 2006-07-26 カシオ計算機株式会社 撮像装置、画像合成方法及び画像合成プログラム
JP3804617B2 (ja) * 2003-02-14 2006-08-02 コニカミノルタフォトイメージング株式会社 画像処理装置及び方法
JP4118766B2 (ja) * 2003-08-25 2008-07-16 株式会社リコー 撮像装置および撮像方法
US7257271B2 (en) * 2003-12-17 2007-08-14 Eastman Kodak Company Noise reduction in color digital images using pyramid decomposition
CN100456212C (zh) * 2004-03-18 2009-01-28 钟煜曦 一种基于图像的互动输入控制方法及系统
JP2006211037A (ja) * 2005-01-25 2006-08-10 Olympus Imaging Corp 画像処理方法及び画像処理装置
KR100632679B1 (ko) * 2005-03-09 2006-10-12 엘지전자 주식회사 디지털 디스플레이 디바이스의 영상처리장치
JP5352942B2 (ja) * 2005-03-31 2013-11-27 株式会社ニコン 画像処理方法、画像処理プログラム、および画像処理装置
JP4683994B2 (ja) * 2005-04-28 2011-05-18 オリンパス株式会社 画像処理装置、画像処理方法、電子カメラ、スキャナ
US7755670B2 (en) * 2005-10-24 2010-07-13 Nikon Corporation Tone-conversion device for image, program, electronic camera, and tone-conversion method
JP4840967B2 (ja) * 2005-12-01 2011-12-21 キヤノン株式会社 撮像装置及び画像処理方法及びプログラム及び記憶媒体
JP4943721B2 (ja) * 2006-03-20 2012-05-30 株式会社リコー 画像データのカラーノイズ除去方法及びこの方法を用いた撮像装置
WO2007116543A1 (ja) * 2006-03-31 2007-10-18 Nikon Corporation 画像処理方法
US7898581B2 (en) 2006-05-08 2011-03-01 Panasonic Corporation Image pickup apparatus with noise reduction unit
JP4874864B2 (ja) 2006-05-08 2012-02-15 パナソニック株式会社 撮像装置
CN100550996C (zh) * 2006-07-31 2009-10-14 株式会社理光 图像处理装置,成像装置以及图像处理方法
JP5009004B2 (ja) * 2006-07-31 2012-08-22 株式会社リコー 画像処理装置、撮像装置、画像処理方法、および画像処理プログラム
JP2008053800A (ja) * 2006-08-22 2008-03-06 Pentax Corp デジタルカメラ
US7956907B2 (en) * 2006-08-23 2011-06-07 Panasonic Corporation Image capture device with low-frequency noise suppression

Also Published As

Publication number Publication date
US20100194916A1 (en) 2010-08-05
CN101795359B (zh) 2012-06-27
US8218021B2 (en) 2012-07-10
EP2214136B1 (en) 2012-10-10
CN101795359A (zh) 2010-08-04
EP2214136A3 (en) 2011-08-17
JP2010206776A (ja) 2010-09-16
EP2214136A2 (en) 2010-08-04

Similar Documents

Publication Publication Date Title
KR101422096B1 (ko) 화상 처리장치 및 화상 처리방법
KR101391161B1 (ko) 화상처리장치
JP3382359B2 (ja) 撮像装置
JP5430379B2 (ja) 撮像装置及びその制御方法及びプログラム
JP2004088149A (ja) 撮像システムおよび画像処理プログラム
JP2003101886A (ja) 撮像装置
JP2005347811A (ja) ホワイトバランス補正装置及びホワイトバランス補正方法、プログラム、電子カメラ装置
JP2004363853A (ja) 画像信号のノイズ低減方法及びノイズ低減装置
JP5291788B2 (ja) 撮像装置
JP2011171842A (ja) 画像処理装置及び画像処理プログラム
JP2006333113A (ja) 撮像装置
JP5146500B2 (ja) 画像合成装置、画像合成方法、及びプログラム
JP2008219230A (ja) 撮像装置及び画像処理方法
JP2008072501A (ja) 撮像装置、撮像方法、プログラムおよび記録媒体
JP2006135744A (ja) 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
JP2009022044A (ja) 画像処理装置及び画像処理プログラム
JP2005051393A (ja) 撮像装置
US9013606B2 (en) Image processing apparatus and control method thereof
JP2002209100A (ja) 画像処理装置および画像処理方法
JP2006115147A (ja) 撮像装置
JP2006109046A (ja) 撮像装置
JP2004274473A (ja) デジタルカメラ
JP2006166030A (ja) 色雑音低減手法およびカラー撮像装置
JP2010193180A (ja) 画像処理装置及び画像処理プログラム
JP2008079301A (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20121206

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20131004

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131105

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131203

R151 Written notification of patent or utility model registration

Ref document number: 5430379

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees