JP2006319781A - 画像処理装置、画像処理プログラム - Google Patents

画像処理装置、画像処理プログラム Download PDF

Info

Publication number
JP2006319781A
JP2006319781A JP2005141538A JP2005141538A JP2006319781A JP 2006319781 A JP2006319781 A JP 2006319781A JP 2005141538 A JP2005141538 A JP 2005141538A JP 2005141538 A JP2005141538 A JP 2005141538A JP 2006319781 A JP2006319781 A JP 2006319781A
Authority
JP
Japan
Prior art keywords
video signal
gradation conversion
noise
unit
information amount
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005141538A
Other languages
English (en)
Other versions
JP4427001B2 (ja
Inventor
Takeo Tsuruoka
建夫 鶴岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2005141538A priority Critical patent/JP4427001B2/ja
Priority to EP06745526A priority patent/EP1881695A4/en
Priority to PCT/JP2006/308345 priority patent/WO2006120864A1/ja
Publication of JP2006319781A publication Critical patent/JP2006319781A/ja
Priority to US11/978,315 priority patent/US8184924B2/en
Application granted granted Critical
Publication of JP4427001B2 publication Critical patent/JP4427001B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/94Dynamic range modification of images or parts thereof based on local image properties, e.g. for local contrast enhancement
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/407Control or modification of tonal gradation or of extreme levels, e.g. background level
    • H04N1/4072Control or modification of tonal gradation or of extreme levels, e.g. background level dependent on the contents of the original
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/20Circuitry for controlling amplitude response
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/21Circuitry for suppressing or minimising disturbance, e.g. moiré or halo
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/68Circuits for processing colour signals for controlling the amplitude of colour signals, e.g. automatic chroma control circuits
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/68Circuits for processing colour signals for controlling the amplitude of colour signals, e.g. automatic chroma control circuits
    • H04N9/69Circuits for processing colour signals for controlling the amplitude of colour signals, e.g. automatic chroma control circuits for modifying the colour signals by gamma correction

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Picture Signal Circuits (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Color Image Communication Systems (AREA)
  • Studio Devices (AREA)

Abstract

【課題】 ノイズ成分の変化を考慮した最適な階調変換を行うことにより高画質な映像信号を得ることができる画像処理装置等を提供する。
【解決手段】 CCD3により得られた映像信号を縮小し、縮小された映像信号に対して特性の異なる複数の階調変換処理を行い、映像信号の情報量と、ノイズの情報量と、を算出する情報量算出部12と、この情報量算出部12により算出された情報量に基づいて、階調変換特性に対する映像信号の情報量およびノイズの情報量の関係を定式化し、有効な情報量を最大にする階調変換曲線を階調変換処理に用いる階調変換曲線として設定する設定部13と、設定部13により設定された階調変換曲線に基づいて映像信号に対して階調変換処理を行う階調変換部14と、を備えた画像処理装置。
【選択図】図1

Description

本発明は、映像信号に対して適応的に階調変換処理を行う画像処理装置、画像処理プログラムに係り、特に、ノイズ成分の影響を考慮した最適な階調変換処理を行い得る画像処理装置、画像処理プログラムに関する。
現在のデジタルスチルカメラやビデオカメラなどの撮像装置においては、デジタル信号処理の桁落ちによる画質劣化を防止するために、最終的な出力信号の階調幅(通常8bit)に対して、入力系および処理系における信号の階調幅(10〜12bit程度)をより広く設定するのが一般的である。
このような構成の場合には、出力系の階調幅に合致するように、絵作り処理と併せて、階調変換処理を行う必要がある。
このとき、従来の階調変換処理は、標準的なシーンに対する固定的な階調変換曲線を用いて、映像信号の階調変換を行っていた。
これに対して、適応的に階調変換処理を行う技術も提案されており、例えば、ヒストグラムに基づいて画像毎に階調変換曲線を求め、求めた階調変換曲線に基づき階調変換を行うものが挙げられる。
さらに、特許3424060号には、映像信号を所定数の領域に分割して、分割した領域毎にヒストグラムに基づき階調変換曲線を求め、求めた階調変換曲線により階調変換処理を行い、その後に、変換後の各領域を合成する技術が記載されている。
加えて、特許3465226号には、テクスチャ情報に基づき映像信号を複数の領域に分割し、分割した領域毎にヒストグラムに基づき階調変換曲線を求めて、求めた階調変換曲線により階調変換処理を行う技術が記載されている。
また、特開2003−69821号公報には、撮影状況を推定することにより、主要被写体を重視した階調変換処理を行う技術が記載されている。該公報には、さらに、得られた階調変換曲線に一定の制限を課すことにより、ノイズなどの副作用を抑制する技術が記載されている。
ノイズを低減する技術は、その他にも種々のものが提案されており、例えば、特開2004−72422号公報には、ノイズ量を動的に推定することにより、高品位なノイズ低減処理を行う技術が記載されている。
特許3424060号 特許3465226号 特開2003−69821号公報 特開2004−72422号公報
しかしながら、上述したような、従来の固定的な階調変換曲線では、逆光などの標準的でない状況では適切な映像信号が得られないという課題がある。
また、上記特許3424060号や特許3465226号に記載された技術では、ヒストグラムに基づき画像毎に階調変換曲線を求めるものとなっているために、ノイズ成分の増加に関しての考慮がなされておらず、画質的に最適な階調変換処理が行われるとは限らないという課題がある。
さらに、特開2003−69821号公報に記載された技術では、事前に定められた制限下で階調変換処理を行っているために、一般的な画像においてはノイズによる破綻が生じないものの、明暗比の大きい画像などでは十分なノイズ抑制効果が得られないという課題がある。加えて、該公報に記載の技術では、常に最適な階調変換処理が行われる保証がなく、画質的に不十分になる可能性があるという課題がある。
そして、特開2004−72422号公報に記載された技術では、ノイズ低減処理と階調変換処理とが独立しているために、相互を最適に活用することができないという課題がある。
本発明は上記事情に鑑みてなされたものであり、ノイズ成分の変化を考慮した最適な階調変換を行うことにより高画質な映像信号を得ることができる画像処理装置、画像処理プログラムを提供することを目的としている。
また、本発明は、ノイズ低減処理によるノイズ成分の変化と、階調変換処理によるノイズ成分の変化と、の両方を考慮した最適な階調変換を行うことにより、高画質な映像信号を得ることができる画像処理装置、画像処理プログラムを提供することを目的としている。
上記の目的を達成するために、第1の発明による画像処理装置は、撮像系から得られた映像信号に対して階調変換処理を行う画像処理装置において、上記映像信号から映像信号の情報量とノイズの情報量とを算出する情報量算出手段と、上記情報量に基づき階調変換処理に用いる階調変換曲線を設定する設定手段と、上記階調変換曲線に基づき上記映像信号に対して階調変換処理を行う階調変換手段と、を具備したものである。
また、第2の発明による画像処理装置は、撮像系から得られた映像信号に対して階調変換処理を行う画像処理装置において、上記映像信号を複数の領域に分割する分割手段と、上記領域の映像信号から映像信号の情報量とノイズの情報量とを算出する情報量算出手段と、上記情報量に基づき階調変換処理に用いる階調変換曲線を設定する設定手段と、上記階調変換曲線に基づき上記領域の映像信号に対して階調変換処理を行う階調変換手段と、上記領域毎に上記情報量算出手段と上記設定手段と上記階調変換手段とを順次適用するように制御する制御手段と、を具備したものである。
さらに、第3の発明による画像処理装置は、撮像系から得られた映像信号に対してノイズ低減処理と階調変換処理とを行う画像処理装置において、上記映像信号のノイズ量を画素単位または所定単位面積毎に推定するノイズ推定手段と、上記映像信号に対して上記ノイズ量に基づきノイズ低減処理を行うノイズ低減手段と、上記ノイズ低減処理後の映像信号から映像信号の情報量とノイズの情報量とを算出する情報量算出手段と、上記情報量に基づき階調変換処理に用いる階調変換曲線を設定する設定手段と、上記階調変換曲線に基づき上記ノイズ低減処理後の映像信号に対して階調変換処理を行う階調変換手段と、を具備したものである。
第4の発明による画像処理装置は、撮像系から得られた映像信号に対してノイズ低減処理と階調変換処理とを行う画像処理装置において、上記映像信号のノイズ量を画素単位または所定単位面積毎に推定するノイズ推定手段と、上記映像信号に対して上記ノイズ量に基づきノイズ低減処理を行うノイズ低減手段と、上記ノイズ低減処理後の映像信号を複数の領域に分割する分割手段と、上記領域の映像信号から映像信号の情報量とノイズの情報量とを算出する情報量算出手段と、上記情報量に基づき階調変換処理に用いる階調変換曲線を設定する設定手段と、上記階調変換曲線に基づき上記ノイズ低減処理後の領域の映像信号に対して階調変換処理を行う階調変換手段と、上記領域毎に上記情報量算出手段と上記設定手段と上記階調変換手段とを順次適用するように制御する制御手段と、を具備したものである。
第5の発明による画像処理装置は、上記第1または第2の発明による画像処理装置において、上記情報量算出手段が、上記映像信号または上記領域の映像信号を所定の縮小率で縮小映像信号へ変換する縮小手段と、上記縮小映像信号に対して階調特性の異なる複数の階調変換曲線を用いて階調変換処理を行う前処理手段と、上記階調変換処理がなされた縮小映像信号から映像信号の情報量を算出する第1の算出手段と、上記階調変換処理がなされた縮小映像信号のノイズ量を画素単位または所定単位面積毎に推定するノイズ推定手段と、上記ノイズ量からノイズの情報量を算出する第2の算出手段と、を有して構成されたものである。
第6の発明による画像処理装置は、上記第3または第4の発明による画像処理装置において、上記情報量算出手段が、上記映像信号または上記領域の映像信号を所定の縮小率で縮小映像信号へ変換する縮小手段と、上記縮小映像信号に対して階調特性の異なる複数の階調変換曲線を用いて階調変換処理を行う前処理手段と、上記階調変換処理がなされた縮小映像信号から映像信号の情報量を算出する第1の算出手段と、上記階調変換処理がなされた縮小映像信号のノイズ量を画素単位または所定単位面積毎に推定する第2のノイズ推定手段と、上記ノイズ量からノイズの情報量を算出する第2の算出手段と、上記ノイズの情報量に対して上記ノイズ低減処理による低減効果に相応する補正を行う補正手段と、を有して構成されたものである。
第7の発明による画像処理装置は、上記第5または第6の発明による画像処理装置において、上記前処理手段が、所定の基準階調変換曲線と、この基準階調変換曲線に所定の乗算係数を乗算して生成した派生階調変換曲線と、上記乗算係数と、を記録する記録手段を有して構成されたものである。
第8の発明による画像処理装置は、上記第5または第6の発明による画像処理装置において、上記前処理手段が、上記映像信号のレベルに基づき適正露光域を抽出する適正域抽出手段と、上記適正露光域に関してエッジ量を算出するエッジ算出手段と、上記エッジ量に基づきヒストグラムを作成するヒストグラム作成手段と、上記ヒストグラムに基づき階調変換曲線を算出する階調変換曲線算出手段と、上記階調変換曲線と所定の基準階調変換曲線間との距離を算出する距離算出手段と、上記距離を調整することにより派生階調変換曲線を生成する生成手段と、を有して構成されたものである。
第9の発明による画像処理装置は、上記第1または第3の発明による画像処理装置において、上記情報量算出手段が、上記映像信号から関心領域を抽出する関心領域抽出手段と、上記関心領域に関して重み係数を設定する重み係数設定手段と、上記重み係数に基づき上記映像信号の情報量とノイズの情報量との少なくとも一方に補正を行う重み係数補正手段と、を有して構成されたものである。
第10の発明による画像処理装置は、上記第9の発明による画像処理装置において、上記関心領域抽出手段が、上記映像信号から色と周波数とテクスチャとの内の少なくとも1つに関する特徴量を算出する特徴量算出手段を有して構成されたものである。
第11の発明による画像処理装置は、上記第2または第4の発明による画像処理装置において、上記情報量算出手段が、上記領域に関して重み係数を設定する重み係数設定手段と、上記重み係数に基づき上記映像信号の情報量とノイズの情報量との少なくとも一方に補正を行う重み係数補正手段と、を有して構成されたものである。
第12の発明による画像処理装置は、上記第2または第4の発明による画像処理装置において、上記分割手段が、上記映像信号から色と周波数とテクスチャとの内の少なくとも1つに関する特徴量を算出する特徴量算出手段と、上記映像信号に対して上記特徴量に基づきラベル付けを行うラベル付け手段と、を有して構成されたものである。
第13の発明による画像処理装置は、上記第2または第4の発明による画像処理装置において、上記分割手段が、上記映像信号を表示し得るとともにタッチパネル機能を有する画像表示手段と、上記画像表示手段からの指示に基づき領域を分割する領域設定手段と、上記映像信号に対して上記画像表示手段からの指示に基づきラベル付けを行うラベル付け手段と、を有して構成されたものである。
第14の発明による画像処理装置は、上記第2または第4の発明による画像処理装置において、上記分割手段が、上記映像信号を複数のブロック領域に分割して表示し得る画像表示手段と、上記複数のブロック領域の内の少なくとも1つのブロック領域を選択するためのブロック選択手段と、上記映像信号に対して上記選択されたブロック領域に基づきラベル付けを行うラベル付け手段と、を有して構成されたものである。
第15の発明による画像処理装置は、上記第1から第4の発明による画像処理装置において、上記設定手段が、上記映像信号の情報量と所定の予測式とに基づいて階調変換特性に対する映像信号の情報量の関係を定式化する第1の定式化手段と、上記ノイズの情報量と所定の予測式とに基づいて階調変換特性に対するノイズの情報量の関係を定式化する第2の定式化手段と、上記映像信号に関する情報量の定式と上記ノイズに関する情報量の定式とに基づいて有効な情報量を最大にする階調変換特性を探索する探索手段と、上記階調変換特性に対応する階調変換曲線を出力する出力手段と、を有して構成されたものである。
第16の発明による画像処理装置は、上記第15の発明による画像処理装置において、上記設定手段が、上記階調変換特性として基準階調変換曲線に対する乗算係数を用いるものである。
第17の発明による画像処理装置は、上記第15の発明による画像処理装置において、上記設定手段が、上記階調変換特性として基準階調変換曲線に対する距離を用いるものである。
第18の発明による画像処理装置は、上記第15の発明による画像処理装置において、上記第1の定式化手段と上記第2の定式化手段との少なくとも一方が、上記予測式として2次関数式を用いるものである。
第19の発明による画像処理装置は、上記第3から第6の発明による画像処理装置において、上記ノイズ推定手段が、上記撮像系の温度値と上記映像信号に対するゲイン値とに関する情報を収集する収集手段と、上記収集手段で得られない情報に関して標準値を付与する標準値付与手段と、上記画素または上記所定単位面積を包含する所定サイズの局所領域の映像信号の平均値を算出する平均算出手段と、上記収集手段または上記標準値付与手段からの情報と上記平均値とに基づいてノイズ量を求めるノイズ量算出手段と、を有して構成されたものである。
第20の発明による画像処理装置は、上記第3または第4の発明による画像処理装置において、上記ノイズ低減手段が、上記推定されたノイズ量に基づきノイズ範囲を設定するノイズ範囲設定手段と、上記映像信号がノイズ範囲に属する場合に該映像信号に平滑化を行う第1のスムージング手段と、上記映像信号がノイズ範囲に属さない場合に該映像信号に補正を行う第2のスムージング手段と、を有して構成されたものである。
第21の発明による画像処理装置は、上記第2または第4の発明による画像処理装置において、上記階調変換処理後の各領域の映像信号を合成する合成手段をさらに具備したものである。
第22の発明による画像処理装置は、上記第1から第4の発明による画像処理装置において、上記撮像系が、R(赤),G(緑),B(青)Bayer型原色フィルタを前面に配置した単板撮像素子、またはCy(シアン),Mg(マゼンタ),Ye(イエロー),G(緑)色差線順次型補色フィルタを前面に配置した単板撮像素子、を有して構成されたものである。
第23の発明による画像処理プログラムは、コンピュータに、撮像系から得られた映像信号に対して階調変換処理を行わせるための画像処理プログラムであって、コンピュータに、上記映像信号から映像信号の情報量とノイズの情報量とを算出する情報量算出手順、上記情報量に基づき階調変換処理に用いる階調変換曲線を設定する設定手順、上記階調変換曲線に基づき上記映像信号に対して階調変換処理を行う階調変換手順、を実行させるためのプログラムである。
第24の発明による画像処理プログラムは、コンピュータに、撮像系から得られた映像信号に対して階調変換処理を行わせるための画像処理プログラムであって、コンピュータに、上記映像信号を複数の領域に分割する分割手順、上記領域の映像信号から映像信号の情報量とノイズの情報量とを算出する情報量算出手順、上記情報量に基づき階調変換処理に用いる階調変換曲線を設定する設定手順、上記階調変換曲線に基づき上記領域の映像信号に対して階調変換処理を行う階調変換手順、上記領域毎に上記情報量算出手順と上記設定手順と上記階調変換手順とを順次適用するように制御する制御手順、を実行させるためのプログラムである。
第25の発明による画像処理プログラムは、コンピュータに、撮像系から得られた映像信号に対してノイズ低減処理と階調変換処理とを行わせるための画像処理プログラムであって、コンピュータに、上記映像信号のノイズ量を画素単位または所定単位面積毎に推定するノイズ推定手順、上記映像信号に対して上記ノイズ量に基づきノイズ低減処理を行うノイズ低減手順、上記ノイズ低減処理後の映像信号から映像信号の情報量とノイズの情報量とを算出する情報量算出手順、上記情報量に基づき階調変換処理に用いる階調変換曲線を設定する設定手順、上記階調変換曲線に基づき上記ノイズ低減処理後の映像信号に対して階調変換処理を行う階調変換手順、を実行させるためのプログラムである。
第26の発明による画像処理プログラムは、コンピュータに、撮像系から得られた映像信号に対してノイズ低減処理と階調変換処理とを行わせるための画像処理プログラムであって、コンピュータに、上記映像信号のノイズ量を画素単位または所定単位面積毎に推定するノイズ推定手順、上記映像信号に対して上記ノイズ量に基づきノイズ低減処理を行うノイズ低減手順、上記ノイズ低減処理後の映像信号を複数の領域に分割する分割手順、上記領域の映像信号から映像信号の情報量とノイズの情報量とを算出する情報量算出手順、上記情報量に基づき階調変換処理に用いる階調変換曲線を設定する設定手順、上記階調変換曲線に基づき上記ノイズ低減処理後の領域の映像信号に対して階調変換処理を行う階調変換手順、上記領域毎に上記情報量算出手順と上記設定手順と上記階調変換手順とを順次適用するように制御する制御手順、を実行させるためのプログラムである。
第27の発明による画像処理プログラムは、上記第23または第24の発明による画像処理プログラムにおいて、上記情報量算出手順が、上記映像信号または上記領域の映像信号を所定の縮小率で縮小映像信号へ変換する縮小手順と、上記縮小映像信号に対して階調特性の異なる複数の階調変換曲線を用いて階調変換処理を行う前処理手順と、上記階調変換処理がなされた縮小映像信号から映像信号の情報量を算出する第1の算出手順と、上記階調変換処理がなされた縮小映像信号のノイズ量を画素単位または所定単位面積毎に推定するノイズ推定手順と、上記ノイズ量からノイズの情報量を算出する第2の算出手順と、を含む。
第28の発明による画像処理プログラムは、上記第25または第26の発明による画像処理プログラムにおいて、上記情報量算出手順が、上記映像信号または上記領域の映像信号を所定の縮小率で縮小映像信号へ変換する縮小手順と、上記縮小映像信号に対して階調特性の異なる複数の階調変換曲線を用いて階調変換処理を行う前処理手順と、上記階調変換処理がなされた縮小映像信号から映像信号の情報量を算出する第1の算出手順と、上記階調変換処理がなされた縮小映像信号のノイズ量を画素単位または所定単位面積毎に推定する第2のノイズ推定手順と、上記ノイズ量からノイズの情報量を算出する第2の算出手順と、上記ノイズの情報量に対して上記ノイズ低減処理による低減効果に相応する補正を行う補正手順と、を含む。
第29の発明による画像処理プログラムは、上記第23または第25の発明による画像処理プログラムにおいて、上記情報量算出手順が、上記映像信号から関心領域を抽出する関心領域抽出手順と、上記関心領域に関して重み係数を設定する重み係数設定手順と、上記重み係数に基づき上記映像信号の情報量とノイズの情報量との少なくとも一方に補正を行う重み係数補正手順と、を含む。
第30の発明による画像処理プログラムは、上記第24または第26の発明による画像処理プログラムにおいて、上記情報量算出手順が、上記領域に関して重み係数を設定する重み係数設定手順と、上記重み係数に基づき上記映像信号の情報量とノイズの情報量との少なくとも一方に補正を行う重み係数補正手順と、を含む。
第31の発明による画像処理プログラムは、上記第23から第26の発明による画像処理プログラムにおいて、上記設定手順が、上記映像信号の情報量と所定の予測式とに基づいて階調変換特性に対する映像信号の情報量の関係を定式化する第1の定式化手順と、上記ノイズの情報量と所定の予測式とに基づいて階調変換特性に対するノイズの情報量の関係を定式化する第2の定式化手順と、上記映像信号に関する情報量の定式と上記ノイズに関する情報量の定式とに基づいて有効な情報量を最大にする階調変換特性を探索する探索手順と、上記階調変換特性に対応する階調変換曲線を出力する出力手順と、を含む。
第32の発明による画像処理プログラムは、上記第31の発明による画像処理プログラムにおいて、上記第1の定式化手順と上記第2の定式化手順との少なくとも一方が、上記予測式として2次関数式を用いる手順である。
本発明の画像処理装置、画像処理プログラムによれば、ノイズ成分の変化を考慮した最適な階調変換を行うことにより高画質な映像信号を得ることができる。
また、本発明の画像処理装置、画像処理プログラムによれば、ノイズ低減処理によるノイズ成分の変化と、階調変換処理によるノイズ成分の変化と、の両方を考慮した最適な階調変換を行うことにより、高画質な映像信号を得ることができる。
以下、図面を参照して本発明の実施の形態を説明する。
[実施形態1]
図1から図15は本発明の実施形態1を示したものであり、図1は撮像装置の構成を示すブロック図、図2はBayer型原色フィルタの構成を示す図、図3は色差線順次型補色フィルタの構成を示す図、図4は情報量算出部の構成を示すブロック図、図5は階調変換曲線を示す線図、図6はノイズ量推定部の構成を示すブロック図、図7は設定部の構成を示すブロック図、図8は情報量を最大化する階調変換曲線を探索する際の階調変換特性パラメータと情報量との関係を示す線図、図9は情報量算出部の他の構成例を示すブロック図、図10は図9に示した構成例における階調変換曲線を示す線図、図11は画像処理装置の他の構成例を示すブロック図、図12は画像処理プログラムによる処理の全体を示すフローチャート、図13は画像処理プログラムにおける情報量算出の処理を示すフローチャート、図14は画像処理プログラムにおける階調変換曲線設定の処理を示すフローチャート、図15は画像処理プログラムにおけるノイズ量推定の処理を示すフローチャートである。
この実施形態は、画像処理装置を撮像装置に適用したものとなっている。
この撮像装置は、図1に示すように、レンズ系1と、絞り2と、CCD3と、Gain4と、A/D変換部5と、バッファ6と、PreWB部7と、測光評価部8と、合焦点検出部9と、AFモータ10と、Y/C分離部11と、情報量算出部12と、設定部13と、階調変換部14と、彩度強調部15と、Y/C合成部16と、信号処理部17と、出力部18と、制御部19と、外部I/F部20と、を有して構成されている。
レンズ系1は、被写体像を結像するための撮像光学系である。
絞り2は、このレンズ系1内に配置されていて、該レンズ系1における光束の通過範囲を規定するためのものである。
CCD3は、この絞り2を介してレンズ系1により結像される光学的な被写体像を光電変換して電気的な映像信号を出力するものであり、例えばBayer型原色フィルタが前面に配置された単板CCD等でなる撮像素子となっている。
Gain4は、このCCD3から出力される映像信号を増幅するものである。
A/D変換部5は、このGain4により増幅されたアナログの映像信号をデジタル信号へ変換するものである。
バッファ6は、このA/D変換部5から出力されるデジタルの画像データを一時的に記憶するものである。
PreWB部7は、バッファ6に記憶された画像データの内の所定輝度レベルの信号を色信号毎に積算することにより、簡易ホワイトバランス係数を算出し、Gain4へ出力するものである。
測光評価部8は、バッファ6に記憶された画像データに基づき被写体に関する測光評価を行い、その評価結果に基づき絞り2、CCD3、およびGain4の制御を行うものである。
合焦点検出部9は、バッファ6に記憶された画像データに基づき合焦点検出を行い、検出結果に基づきAFモータ10を駆動するものである。
AFモータ10は、この合焦点検出部9により制御されて、レンズ系1に含まれるフォーカスレンズ等の駆動を行うものである。
Y/C分離部11は、バッファ6から映像信号を読み出して、輝度信号と色差信号とに分離する分離手段である。
情報量算出部12は、Y/C分離部11により分離された輝度信号から、複数の階調変換曲線に対する映像信号の情報量とノイズの情報量とを算出する情報量算出手段である。
設定部13は、情報量算出部12により算出された、複数の階調変換曲線に対する映像信号の情報量およびノイズの情報量に基づいて、有効な情報量を最大化する階調変換特性を探索し、探索された階調変換特性に対応する階調変換曲線を算出する設定手段である。
階調変換部14は、設定部13からの階調変換曲線を用いて、Y/C分離部11からの輝度信号Yに対して階調変換処理を行う階調変換手段である。
彩度強調部15は、Y/C分離部11からの色差信号Cb,Crに対して所定のゲインを乗算することにより彩度強調処理を行う彩度強調手段である。
Y/C合成部16は、階調変換部14からの輝度信号Yと、彩度強調部15からの色差信号Cb,Crと、に基づき、R,G,B信号を算出するものである。
信号処理部17は、Y/C合成部16からのR,G,B信号に公知の圧縮処理などの信号処理を施すものである。
出力部18は、信号処理部17により処理された映像信号を、例えばメモリカード等の記録媒体に記録し保存するものである。
制御部19は、例えばマイクロコンピュータ等を含んで構成され、この撮像装置全体を制御するための制御手段であって、収集手段を兼ねたものとなっている。この制御部19は、Gain4、A/D変換部5、PreWB部7、測光評価部8、合焦点検出部9、Y/C分離部11、情報量算出部12、設定部13、階調変換部14、彩度強調部15、Y/C合成部16、信号処理部17、出力部18、外部I/F部20、と双方向に接続されていて、これらを制御するようになっている。
外部I/F20は、撮像装置の電源をオン/オフするための電源スイッチ、撮像動作を指示入力するためのシャッタボタン、撮影時の各種モードを切り換えるためのモード切換ボタン、などの外部とのインターフェースを備えたものである。
次に、図1に示したような撮像装置における信号の流れについて説明する。
この撮像装置は、外部I/F部20を介してISO感度などの撮影条件を設定した後に、2段式の押しボタンスイッチでなるシャッタボタンを半押しにすることにより、プリ撮像モードに入る。
レンズ系1および絞り2を介してCCD3により撮影され出力された映像信号は、アナログ信号として出力される。
なお、本実施形態においては、上述したように、Bayer型原色フィルタを前面に配置した単板撮像素子(単板CCD)を含む撮像系を想定している。ここに、Bayer型原色フィルタの構成は、図2に示すようになっている。Bayer型は、2×2画素を基本単位として、対角方向の2画素に緑(G)フィルタが、他の対角方向の2画素に赤(R),青(B)フィルタが1画素ずつ、それぞれ配置されたものである。
ただし、撮像素子としてBayer型原色フィルタを用いた構成に限定される必要はない。例えば、図3に示すような色差線順次型補色フィルタを前面に配置した単板撮像素子を適用することも可能である。この色差線順次型補色フィルタは、例えば、奇数ラインにシアン(Cy),イエロー(Ye)フィルタが交互に、偶数ラインに緑(G),マゼンタ(Mg)フィルタが交互に、それぞれ配列されたものであって、かつ、偶数ラインの開始位置にあるフィルタが緑(G)とマゼンタ(Mg)とで交互に入れ替わるように構成されたものである。さらに、撮像素子としては、これらに限らず、二板撮像素子や三板撮像素子を利用することも可能である。
また、CCD3から出力されたアナログの映像信号は、A/D変換部5によりデジタルの映像信号に変換される。ここに、A/D変換部5は、例えば、12ビット(0〜4095)のビット精度の映像信号に変換するものを想定している。
A/D変換部5から出力されるデジタルの映像信号は、バッファ6に記憶された後に、PreWB部7と、測光評価部8と、合焦点検出部9と、へそれぞれ転送される。
PreWB部7は、所定輝度レベルの信号を色信号毎に積算することにより簡易ホワイトバランス係数を算出する。このPreWB部7により算出された簡易ホワイトバランス係数は、Gain4へ転送される。Gain4は、簡易ホワイトバランス係数に基づき色信号毎に異なるゲインを設定することにより、簡易ホワイトバランス処理を行う。
測光評価部8は、設定されたISO感度や手ぶれ限界のシャッタ速度などを考慮しながら、映像信号中の輝度レベルを求めて、適正露光となるように絞り2による絞り値やCCD3の電子シャッタ速度やGain4の増幅率などを制御する。
また、合焦点検出部9は、映像信号中のエッジ強度を検出して、このエッジ強度が最大となるようにAFモータ10を制御し合焦信号を得る。
このようなプリ撮像モードの動作を行うことにより本撮影の準備が整ったところで、次に、外部I/F部20を介してシャッタボタンが全押しにされたことを検出すると、制御部19は、本撮影の制御を行う。
本撮影の動作が開始されると、PreWB部7により求められた簡易ホワイトバランス係数と、測光評価部8により求められた露光条件と、合焦点検出部9により求められた合焦条件と、に基づき本撮影が行われる。また、これらの撮影時の条件は、制御部19へも転送される。
こうして、CCD3から出力される映像信号は、バッファ6へ転送され、さらに、Y/C分離部11へ転送される。
Y/C分離部11は、制御部19の制御に基づいて、R,G,B信号毎に公知の補間処理を行って三板状態の信号に変換した後に、次の数式1に示すように、輝度信号Yおよび色差信号Cb,Crを求める。
[数1]
Y = 0.29900R+0.58700G+0.11400B
Cb=−0.16874R−0.33126G+0.50000B
Cr= 0.50000R−0.41869G−0.08131B
上記輝度信号Yは、情報量算出部12および階調変換部14へ、上記色差信号Cb,Crは彩度強調部15へ、それぞれ転送される。
情報量算出部12は、制御部19の制御に基づいて、上記輝度信号Yから複数の階調変換曲線に対する映像信号の情報量Eimg とノイズの情報量Enoise とを算出する。算出された映像信号の情報量Eimg とノイズの情報量Enoise と複数の階調変換曲線を特徴付ける階調変換特性とは、設定部13へ転送される。
設定部13は、制御部19の制御に基づいて、情報量算出部12からの映像信号の情報量Eimg とノイズの情報量Enoise と階調変換特性とから、有効な情報量を最大化する階調変換特性を探索し、探索した階調変換特性に対応する階調変換曲線を算出する。算出された階調変換曲線は、階調変換部14へ転送される。
階調変換部14は、制御部19の制御に基づいて、設定部13からの階調変換曲線を用いてY/C分離部11からの輝度信号Yに対して階調変換処理を行う。なお、これら情報量算出部12、設定部13、階調変換部14の動作は、制御部19の制御に基づいて、順次実行されるようになっている。
また、彩度強調部15は、制御部19の制御に基づいて、Y/C分離部11からの色差信号Cb,Crに対して所定のゲインを乗算することにより、彩度強調処理を行う。
階調変換部14からの輝度信号Yと、彩度強調部15からの色差信号Cb,Crとは、Y/C合成部16へ転送されて、次の数式2に示すように、R,G,B信号が算出される。
[数2]
R=Y +1.40200Cr
G=Y−0.34414Cb−0.71414Cr
B=Y+1.77200Cb
なお、これら階調変換部14、彩度強調部15、Y/C合成部16の動作は、制御部19の制御に基づいて、同期して実行されるようになっている。
Y/C合成部16からのR,G,B信号は、信号処理部17へ転送される。信号処理部17は、転送されたR,G,B信号に公知の圧縮処理などを行い、処理結果を出力部18へ転送する。
出力部18は、制御部19の制御に基づいて、信号処理部17から転送された映像信号を、メモリカードなどの記録媒体へ記録して保存する。
次に、図4を参照して、情報量算出部12の構成の一例について説明する。
この情報量算出部12は、縮小部21と、縮小画像用バッファ22と、テクスチャ解析部23と、関心領域抽出部24と、重み係数設定部25と、重み係数用バッファ26と、階調変換曲線ROM27と、前処理部28と、ノイズ量推定部29と、出現確率算出部30と、エントロピー算出部31と、を有して構成されている。
また、制御部19は、縮小部21、テクスチャ解析部23、関心領域抽出部24、重み係数設定部25、前処理部28、ノイズ量推定部29、出現確率算出部30、エントロピー算出部31と双方向に接続されていて、これらを制御するようになっている。
縮小手段たる縮小部21は、制御部19の制御に基づいて、Y/C分離部11から数式1に示した輝度信号Yを読み込み、所定の縮小率によって縮小し、縮小画像用バッファ22へ転送する。なお、縮小部21の縮小率は、処理速度と画質とを考量して、任意に設定することができる。また、画質を最優先する場合には、縮小処理を省略して原信号をそのまま縮小画像用バッファ22へ転送することも可能である。
テクスチャ解析部23は、制御部19の制御に基づいて、縮小画像用バッファ22から縮小輝度信号Yを読み込み、テクスチャの解析を行うものであり、関心領域抽出手段と特徴量算出手段とを兼ねたものである。このテクスチャ解析部23は、例えば上述した特許3465226号に記載されているような公知のテクスチャ解析を用いるようになっている。
関心領域抽出手段たる関心領域抽出部24は、縮小画像用バッファ22から縮小輝度信号Yを、テクスチャ解析部23からテクスチャ解析の結果を読み込む。次に、関心領域抽出部24は、上記テクスチャ解析の結果に基づき、テクスチャ構造の存在する領域を関心領域とするとともに、テクスチャ構造の存在しない領域を背景領域として分離し、両方の領域を重み係数設定部25へ転送する。
重み係数設定手段たる重み係数設定部25は、制御部19の制御に基づいて、関心領域抽出部24から関心領域と背景領域とを読み込む。次に、重み係数設定部25は、関心領域には重み係数として例えば2.0を設定し、背景領域には重み係数として例えば1.0を設定して、設定した各重み係数を重み係数用バッファ26へ転送する。
一方、前処理手段たる前処理部28は、制御部19の制御に基づいて、縮小画像用バッファ22から縮小輝度信号Yを読み込むとともに、階調変換曲線ROM27から3種類の階調変換曲線を読み込む。
ここで、図5は、前処理手段であり記録手段たる階調変換曲線ROM27に記録されている3種類の階調変換曲線の一例を示したものである。図5のTone(Gain=1.0)は基準階調変換曲線を、Tone(Gain=1.2)はTone(Gain=1.0)の変化率に乗算係数Gain=1.2を乗算して生成した派生階調変換曲線を、Tone(Gain=0.8)はTone(Gain=1.0)の変化率に乗算係数Gain=0.8を乗算して生成した派生階調変換曲線を、それぞれ示している。
ここに、乗算係数Gainは、階調変換曲線を特徴付ける階調変換特性の一つとなっていて、上述したように、基準階調変換曲線はGain=1.0である。そして、これらの階調変換特性としての乗算係数Gainも、階調変換曲線ROM27に記録されている。
前処理部28は、上述したような3種類の階調変換曲線を用いて、縮小画像用バッファ22から読み込んだ縮小輝度信号Yに対して階調変換処理を行い、この結果をノイズ量推定部29と出現確率算出部30とへ転送する。また、前処理部28は、階調変換曲線ROM27から読み込んだ基準階調変換曲線を設定部13へ転送する。
ノイズ推定手段たるノイズ量推定部29は、制御部19の制御に基づいて、前処理部28から3種類の階調変換曲線により階調変換処理がなされた縮小輝度信号Yを順次読み込んで、対応するノイズ量を推定し、ノイズ信号を生成する。このノイズ信号生成の過程については、図6を参照して後で説明する。
重み係数補正手段たる出現確率算出部30は、制御部19の制御に基づいて、前処理部28から3種類の縮小輝度信号Yを読み込むとともに、ノイズ量推定部29から3種類のノイズ信号を読み込んで、出現確率Pro(i)を算出する。ここに、「i」は画素値(本実施形態では12ビットを想定しているために、i=0〜4095)を意味している。また、出現確率Pro(i)は、より詳しくは、3種類の縮小輝度信号YからPro_imgj(i)が、3種類のノイズ信号からPro_noisej(i)が、それぞれ算出されるために、結局、全体で6種類の出現確率が算出されることになる。なお、「j」は、j=0〜2の値をとり、上記信号(縮小輝度信号、ノイズ信号)の種類(つまり、図5に示したような、1つの基準階調変換曲線と2つの派生階調変換曲線とに対応した種類)を意味している。また、出現確率算出部30は、重み係数用バッファ26から重み係数を読み込んで、読み込んだ重み係数に応じて出現確率を調整する。本実施形態では、上述したように、関心領域に重み係数2.0を設定することを想定しているために、関心領域にある画素値は2.0倍存在しているものとして出現確率が算出される。こうして出現確率算出部30により算出された6種類の出現確率Pro_imgj(i),Pro_noisej(i)は、エントロピー算出部31へ転送される。
エントロピー算出部31は、第1の算出手段、第2の算出手段、重み係数補正手段を兼ねたものであって、制御部19の制御に基づいて、出現確率算出部30から6種類の出現確率Pro_imgj(i),Pro_noisej(i)を読み込み、映像信号の情報量としてのエントロピーE_imgjと、ノイズ信号の情報量としてのエントロピーE_noisejとを、次の数式3に示すように各算出する。
[数3]
Figure 2006319781
こうしてエントロピー算出部31により算出された映像信号の情報量E_imgjと、ノイズ信号の情報量E_noisejとは、設定部13へ転送される。
続いて、図6を参照して、ノイズ量推定部29の構成の一例について説明する。
このノイズ量推定部29は、平均算出部41と、ゲイン算出部42と、標準値付与部43と、ノイズLUT44と、を有して構成されている。
また、制御部19は、平均算出部41、ゲイン算出部42、標準値付与部43、ノイズLUT44と双方向に接続されていて、これらを制御するようになっている。
平均算出手段たる平均算出部41は、制御部19の制御に基づいて、前処理部28から3種類の縮小輝度信号Yを読み込み、注目画素を包含する所定サイズ、例えば3×3画素単位の局所領域を順次抽出する。ここに、局所領域は注目画素毎に設定されるようになっていて、注目画素が画素単位で走査されるために、局所領域は重複して抽出されることになる。そして、平均算出部41は、抽出した局所領域毎に平均値を算出して、算出した平均値をノイズLUT44へ転送する。
収集手段たるゲイン算出部42は、制御部19から転送される露光条件とホワイトバランス係数に関する情報とに基づいて、Gain4における増幅量を求め、求めた増幅量をノイズLUT44へ転送する。
また、標準値付与手段たる標準値付与部43は、CCD3の動作温度として所定の温度値をノイズLUT44へ転送する。
ノイズ量算出手段たるノイズLUT44は、平均算出部41からの映像信号の信号値レベル、ゲイン算出部42からの映像信号の増幅量、および標準値付与部43からのCCD3の動作温度と、ノイズ量と、の間の関係を記録したルックアップテーブルである。このルックアップテーブルは、例えば上述した特開2003−69821号公報に記載されているような公知の技術を用いて設計されたものである。そして、ノイズLUT44は、制御部19の制御に基づいて、平均算出部41から転送される注目画素に対するノイズ量を画素単位で順次求めて、これを出現確率算出部30へ転送する。
次に、図7を参照して、設定部13の構成の一例について説明する。
設定部13は、第1定式化部51と、第2定式化部52と、探索部53と、基準階調変換曲線用バッファ54と、階調変換曲線算出部55と、を有して構成されている。
また、制御部19は、第1定式化部51、第2定式化部52、探索部53、階調変換曲線算出部55と双方向に接続されていて、これらを制御するようになっている。
第1の定式化手段たる第1定式化部51は、情報量算出部12から、3種類の階調変換曲線に対する映像信号の情報量E_imgjと、3種類の階調変換曲線を特徴付ける階調変換特性(本実施形態においては、図5に示したような、Gain1=1.0,Gain2=1.2,Gain3=0.8)と、を読み込む。図8に示す曲線Eimg は、映像信号の情報量(Eimg )と階調変換特性パラメータ(P)との間の関係を示すものであり、例えば2次関数を用いて次の数式4に示すようにモデル化される。
[数4]
Figure 2006319781
ここに、数式4におけるa1 ,b1 ,c1 は、定数項である。また、階調変換特性を表すパラメータPは、本実施形態では乗算係数Gainとなる。従って、上記3種類の映像信号の情報量E_imgjと階調変換特性である乗算係数Gain1,Gain2,Gain3とを数式4に代入することにより、3つの未知数a1 ,b1 ,c1 を含む3つの独立した一次式が作成され、これらを連立することにより、数式4における定数項a1 ,b1 ,c1 を一意に算出することができる。こうして、第1定式化部51により算出された定数項a1 ,b1 ,c1 は、探索部53へ転送される。
同様に、第2の定式化手段たる第2定式化部52は、情報量算出部12から、3種類の階調変換曲線に対するノイズの情報量E_noisejと、3種類の階調変換曲線を特徴付ける階調変換特性である乗算係数Gain1,Gain2,Gain3と、を読み込む。図8に示す曲線Enoise は、ノイズの情報量(Enoise )と階調変換特性パラメータ(P)との間の関係を示すものであり、上述と同様に、例えば2次関数を用いて次の数式5に示すようにモデル化される。
[数5]
Figure 2006319781
ここに、数式5におけるa2 ,b2 ,c2 は、定数項である。また、階調変換特性を表すパラメータPは、本実施形態では上述したように乗算係数Gainとなる。従って、上記3種類のノイズの情報量E_noisejと階調変換特性である乗算係数Gain1,Gain2,Gain3とを数式5に代入することにより、3つの未知数a2 ,b2 ,c2 を含む3つの独立した一次式が作成され、これらを連立することにより、数式5における定数項a2 ,b2 ,c2 を一意に算出することができる。こうして、第2定式化部52により算出された上記定数項a2 ,b2 ,c2 は、探索部53へ転送される。
探索手段たる探索部53は、映像信号の情報量Eimg からノイズの情報量Enoise を減算した情報量を有意な情報量Eeff として定義し、この有意な情報量Eeff を最大化する階調変換特性を求める。図8に示す曲線Eeff は、上記有意な情報量(Eeff )と階調変換特性パラメータ(P)との間の関係を示すものである。数式4に示したように映像信号の情報量Eimg が2次関数によりモデル化され、数式5に示したようにノイズの情報量Enoise が2次関数によりモデル化されているために、有意な情報量Eeff も次の数式6に示すように2次関数によりモデル化されることになる。
[数6]
Figure 2006319781
この数式6を最大化する階調変換特性パラメータ(Pmax )は、有意な情報量Eeff を階調変換特性パラメータPにより偏微分したときの値が0になる、という次の数式7で示す条件式を満たすものとして与えられる。
[数7]
Figure 2006319781
従って、Pmax は、次の数式8に示すようになる。
[数8]
Figure 2006319781
探索部53は、第1定式化部51からの定数項a1 ,b1 ,c1 および第2定式化部52からの定数項a2 ,b2 ,c2 に基づき、数式8から有意な情報量を最大化する階調変換特性パラメータ(Pmax )を求めて、これを階調変換曲線算出部55へ転送する。
一方、基準階調変換曲線用バッファ54は、情報量算出部12から転送される基準階調変換曲線を記録する。なお、本実施形態においては、上述したように、図5に示した曲線Tone(Gain1=1.0)が基準階調変換曲線となる。
出力手段たる階調変換曲線算出部55は、探索部53から有意な情報量を最大化する階調変換特性パラメータ(Pmax )(本実施形態においては、階調変換特性パラメータは、上述したように乗算係数Gainに相当する値となる)を読み込むとともに、基準階調変換曲線用バッファ54から基準階調変換曲線Tone(Gain1=1.0)を読み込む。そして、階調変換曲線算出部55は、基準階調変換曲線の変化率にPmax に対応する乗算係数Gainを乗算することにより、有意な情報量を最大化する階調変換曲線を算出して、これを階調変換部14へ転送する。
なお、上述では、情報量の算出に必要な階調変換曲線や付随するパラメータ等を予めROMに記録しておく構成としているが、このような構成に限定される必要はない。例えば、映像信号毎に、適応的に階調変換曲線を算出するように構成しても構わない。このような例について、図9を参照して説明する。
図9は、情報量算出部12の他の構成例を示したものである。
この図9に示す情報量算出部12は、図4に示した情報量算出部12に、適正露光域抽出部32と、エッジ算出部33と、ヒストグラム作成部34と、階調変換曲線作成部35と、距離算出部36と、派生階調変換曲線作成部37と、を追加した構成となっている。その他の基本的な構成は図4に示したものと同様であるために、同一の構成には同一の名称と符号とを付して、説明を適宜省略し、主として異なる部分についてのみ説明する。
なお、制御部19は、適正露光域抽出部32、エッジ算出部33、ヒストグラム作成部34、階調変換曲線作成部35、距離算出部36、派生階調変換曲線作成部37と双方向に接続されていて、これらを制御するようになっている。
前処理手段であり適正域抽出手段たる適正露光域抽出部32は、制御部19の制御に基づいて、縮小画像用バッファ22から縮小輝度信号Yを読み込み、所定の閾値と比較することにより適正露光域のみを抽出する。この適正露光域抽出部32により抽出された適正露光域の輝度信号は、エッジ算出部33と、ヒストグラム作成部34と、へそれぞれ転送される。
前処理手段でありエッジ算出手段たるエッジ算出部33は、制御部19の制御に基づいて、上記適正露光域抽出部32から出力された適正露光域の輝度信号からエッジ信号を抽出し、抽出したエッジ信号をヒストグラム作成部34へ転送する。
前処理手段でありヒストグラム作成手段たるヒストグラム作成部34は、制御部19の制御に基づいて、エッジ算出部33からのエッジ信号が所定の閾値以上となる画素に関して、適正露光域抽出部32から出力された適正露光域の輝度信号からヒストグラムを作成し、これを階調変換曲線作成部35へ転送する。
前処理手段であり階調変換曲線算出手段たる階調変換曲線作成部35は、制御部19の制御に基づいて、ヒストグラム作成部34からのヒストグラムを累積して正規化することにより、映像信号に対する階調変換曲線を生成する。そして、階調変換曲線作成部35は、生成した階調変換曲線を、距離算出部36と派生階調変換曲線作成部37とへそれぞれ転送する。
前処理手段であり距離算出手段たる距離算出部36は、制御部19の制御に基づいて、階調変換曲線ROM27から基準階調変換曲線を読み込むとともに、階調変換曲線作成部35から映像信号に対する階調変換曲線を読み込む。図10において、Tonestd は基準階調変換曲線を、Toneimg は映像信号に対する階調変換曲線を、それぞれ示している。距離算出部36は、これらの階調変換曲線の距離di (本実施形態では12ビットを想定しているために、i=0〜4095)を、次の数式9に示すように算出する。
[数9]
di =Toneimg − Tonestd
そして、距離算出部36は、数式9に示すような距離di と基準階調変換曲線Tonestd とを、派生階調変換曲線作成部37へ転送する。
前処理手段であり生成手段たる派生階調変換曲線作成部37は、制御部19の制御に基づいて、階調変換曲線作成部35から映像信号に対する階調変換曲線Toneimg を読み込むとともに、距離算出部36から距離di を読み込む。その後、派生階調変換曲線作成部37は、読み込んだ階調変換曲線Toneimg と距離di とに基づいて、次の数式10に示すように、派生階調変換曲線Toneder を生成する。
[数10]
Toneder =Toneimg +kdi
ここに、数式10におけるkは、定数項である。この数式10の定数項kを調整することにより、多様な種類の派生階調変換曲線を生成することが可能である。
図10におけるToneder は、派生階調変換曲線の一例を示したものである。この図10に示す例では、派生階調変換曲線Toneder は、階調変換曲線Toneimg と基準階調変換曲線Tonestd との中間的な曲線となっている。
派生階調変換曲線作成部37は、基準階調変換曲線Tonestd と、映像信号に対する階調変換曲線Toneimg と、派生階調変換曲線Toneder とを、前処理部28へ転送する。なお、このような構成においては、階調変換曲線を特徴付ける階調変換特性は、距離の総和kΣdi が対応している。
これ以後は、図4において説明したのと同様にして、情報量が算出される。
さらに、上述では、レンズ系1,絞り2,CCD3,Gain4,A/D変換部5,PreWB部7,測光評価部8,合焦点検出部9,AFモータ10を有してなる撮像部と一体化された構成の撮像装置を画像処理装置の例として示したが、画像処理装置は、このような構成に限定される必要はない。例えば、別体の撮像部で撮像された映像信号を、未処理のRawデータの形態でメモリカード等の記録媒体に記録するとともに、該記録媒体に、さらに撮像条件などの付随情報をヘッダ部等として記録しておく。そして、この記録媒体を図11に示すような画像処理装置に接続して、該画像処理装置により処理するようにすることも可能である。
図11に示す画像処理装置は、図1に示したような撮像装置の構成から、レンズ系1と絞り2とCCD3とGain4とA/D変換部5とPreWB部7と測光評価部8と合焦点検出部9とAFモータ10とを省略するとともに、入力部61とヘッダ情報解析部62とを追加した構成となっている。その他の基本的な構成は図1に示したものと同様であるために、同一の構成には同一の名称と符号を付して説明を適宜省略し、主として異なる部分についてのみ説明する。
入力部61は、メモリカード等の記録媒体が接続されるものであり、バッファ6とヘッダ情報解析部62とへそれぞれ接続されている。また、制御部19は、入力部61とヘッダ情報解析部62とに、双方向に接続されていて、これらの制御も行うようになっている。
このような構成の作用が、図1に示したような構成の作用と異なる部分は、以下のようになっている。
マウスやキーボードなどの外部I/F部20を介して、画像再生の操作が入力されると、制御部19の制御により、メモリカード等の記録媒体に保存された映像信号とヘッダ情報とが、入力部61から読み込まれる。
この入力部61により読み込まれた映像信号はバッファ6へ転送される。また、入力部61により読み込まれたヘッダ情報は、ヘッダ情報解析部62へ転送される。
ヘッダ情報解析部62は、ヘッダ情報から撮影時の情報を抽出して、抽出した情報を制御部19へ転送する。これ以後の処理は、図1を参照して説明したものとほぼ同様である。
加えて、上述では、ハードウェアにより処理を行うことを前提としていたが、これに限定されるものではなく、例えばソフトウェアによって処理することも可能である。すなわち、CCD3からの映像信号を、未処理のままのRawデータとしてメモリカード等の記録媒体に記録するとともに、制御部19からの撮像条件などの付随情報をヘッダ情報として該記録媒体に記録しておく。そして、該記録媒体をコンピュータに接続し、該コンピュータ上で別途の画像処理プログラムを実行することにより、処理することも可能である。このとき、CCD3からのRawデータを、記録媒体を介することなく、コンピュータへ直接、あるいは通信回線を介して、入力するようにしても良いことは勿論である。
図12を参照して、画像処理プログラムによる処理を説明する。
処理を開始すると、まず、映像信号と、ゲインなどのヘッダ情報と、を読み込む(ステップS1)。
そして、公知の補間処理を行うとともに、数式1に示したような輝度信号Yおよび色差信号Cb,Crへの変換を行う(ステップS2)。
次に、後で図13を参照して説明するように、輝度信号Yを用いて、複数の階調変換曲線に対する、映像信号の情報量と、ノイズの情報量と、を算出する(ステップS3)。
続いて、後で図14を参照して説明するように、有効な情報量を最大化する階調変換特性を設定する(ステップS4)。
その後、設定された階調変換特性に基づき、輝度信号Yに対して階調変換処理を行う(ステップS5)。
一方で、色差信号Cb,Crに対して、彩度強調処理を行う(ステップS6)。
そして、ステップS5で算出された階調変換後の輝度信号Yと、ステップS6で算出された彩度強調後の色差信号Cb,Crと、を用いて、数式2に示したように、R,G,B信号を算出する(ステップS7)。
さらに、算出したR,G,B信号に、公知の圧縮処理などの信号処理を行う(ステップS8)。
こうして、処理後の信号を出力し(ステップS9)、この処理を終了する。
次に、図13を参照して、上記ステップS3における情報量算出の処理について説明する。
この処理を開始すると、まず、輝度信号Yを所定の縮小率によって縮小する(ステップS10)。
そして、縮小輝度信号のテクスチャ解析を行う(ステップS11)。
その後、テクスチャ構造の存在する領域を関心領域とし、テクスチャ構造の存在しない領域を背景領域として、分離する(ステップS12)。
次に、関心領域と背景領域とに個別の重み係数を設定する(ステップS13)。ここでは、例えば、関心領域に重み係数2.0を、背景領域に重み係数1.0を、それぞれ設定するものとする。
一方、図5に示したような3種類の階調変換曲線を読み込む(ステップS14)。
続いて、前処理として、これら3種類の階調変換曲線を用いて、縮小輝度信号に対して階調変換処理を行う(ステップS15)。
そして、後で図15を参照して説明するようにノイズ量を推定して、ノイズ信号を生成する(ステップS16)。
次に、ステップS13により設定された重み係数に基づいて調整しながら、縮小輝度信号の画素値毎の出現確率を算出するとともに、ステップS16により推定されたノイズ量の画素値毎の出現確率を算出する(ステップS17)。
その後、数式3に示したようなエントロピーに基づいて、映像信号の情報量と、ノイズの情報量と、を算出する(ステップS18)。
続いて、算出された情報量を出力して(ステップS19)、この処理から図12に示した処理に復帰する。
また、図14を参照して、上記ステップS4における階調変換曲線設定の処理について説明する。
この処理を開始すると、まず、映像信号の情報量を数式4に示した2次関数式により定式化する(ステップS20)。
次に、ノイズの情報量を数式5に示した2次関数式により定式化する(ステップS21)。
そして、数式6に示したような有意な情報量を最大化する階調変換特性を、数式8に基づいて算出する(ステップS22)。
続いて、基準階調変換曲線と階調変換特性とに基づいて、有意な情報量を最大化する階調変換曲線を算出する(ステップS23)。
その後、算出された階調変換曲線を出力して(ステップS24)、この処理から図12に示した処理に復帰する。
次に、図15を参照して、上記ステップS16におけるノイズ量推定の処理について説明する。
この処理を開始すると、注目画素を包含する所定サイズの局所領域、例えば、3×3画素単位の局所領域、を順次抽出し、その平均値を算出する(ステップS30)。
続いて、読み込まれたヘッダ情報から、ゲインなどのパラメータを求める。ここで、もし、ヘッダ情報に必要なパラメータが存在しない場合には、所定の標準値を割り当てる処理を行う(ステップS31)。
そして、ノイズ量に関するテーブルを読み込んで、ノイズ量を求める(ステップS32)。
その後、算出されたノイズ量を出力して(ステップS33)、この処理から図13に示した処理に復帰する。
このような実施形態1によれば、映像信号の情報量からノイズの情報量を減算した有意な情報量を最大化する階調変換曲線が求められるために、ノイズの影響を考慮した最適な階調変換処理が可能となって、結果として高品位な映像信号を得ることができる。
また、縮小した映像信号から、映像信号の情報量と、ノイズの情報量と、を算出するために、処理を高速化することができる。
さらに、必要な階調変換曲線と付随するパラメータとをROMに記録しておくことにより、多様な階調変換曲線を利用することが可能となり、処理の自由度が向上する。
そして、テクスチャなどの特徴量に基づいて関心領域を設定し、重み係数によって情報量を補正するようにしているために、情報量と主観的な評価との相関関係が向上して、主観的により好ましい高品位な映像信号を得ることができる。
加えて、階調変換特性として基準階調変換曲線に対する乗算係数を用いるようにしているために、必要とする記憶容量が少なくて済み、システムの低コスト化を図ることが可能となる。
また、情報量の定式化に2次関数式を用いているために、比較的演算量が少なく、処理を高速化することができるとともに、情報量の推移と親和性が高いために、高精度な定式化が可能となる。
さらに、ノイズ量に関係する各種情報を撮影毎に動的に求めるようにしているために、ノイズ量を高精度に推定することが可能となる。
このとき、標準値付与部により標準値を設定するようにしたために、必要な情報を動的に得ることができない場合でも、ノイズ量を推定することが可能となり、安定したシステムを構築することができる。
そして、撮像素子として、Bayer型原色フィルタまたは色差線順次型補色フィルタを前面に配置した単板撮像素子を用いているために、現状の撮影部との親和性が高くなり、多くの撮像部への適用を容易に行うことが可能となる。
また、図9や図10に示したような構成を採用することにより、情報量を算出する処理において映像信号から適応的に階調変換曲線が算出されるために、多様な映像信号に対して情報量を高精度に算出することが可能となる。そして、階調変換特性として基準階調変換曲線に対する距離を用いているために、派生階調変換曲線の算出を高速化することができる。
[実施形態2]
図16から図23は本発明の実施形態2を示したものであり、図16は撮像装置の構成を示すブロック図、図17は領域分割部の構成を示すブロック図、図18は外部I/F部を用いてフリーフォームにより分割する領域を入力する例を示す図、図19は外部I/F部を用いてブロック領域を選択することにより分割する領域を入力する例を示す図、図20は情報量算出部の構成を示すブロック図、図21は画像処理プログラムによる処理の全体を示すフローチャート、図22は画像処理プログラムにおける領域分割の処理を示すフローチャート、図23は画像処理プログラムにおける情報量算出の処理を示すフローチャートである。
この実施形態2において、上述の実施形態1と同様である部分については同一の符号を付して説明を省略し、主として異なる点についてのみ説明する。
本実施形態の撮像装置は、図16に示すようになっており、実施形態1の図1に示した構成と比較すると、情報量算出部12が情報量算出部72に置換され、領域分割部71と、領域合成部73と、が追加された構成になっている。その他の基本的な構成は、実施形態1の図1に示したものと同様である。
Y/C分離部11は領域分割部71へ接続されていて、この領域分割部71は、情報量算出部72と、階調変換部14と、彩度強調部15と、へ接続されている。
また、情報量算出手段たる情報量算出部72は、設定部13を介して階調変換部14へ接続されている。
さらに、階調変換部14と彩度強調部15とは、領域合成部73へ接続されている。この領域合成部73は、さらに、Y/C合成部16へ接続されている。
そして、信号処理部17は、出力部18へ接続されるとともに、さらに、外部I/F部20へも接続されている。
制御部19は、領域分割部71、情報量算出部72、および領域合成部73と双方向に接続されていて、これらの制御も行うようになっている。
次に、図16に示したような撮像装置の作用は、基本的には上述した実施形態1と同様であるために、主として異なる部分についてのみ、信号の流れに沿って説明する。
Y/C分離部11からの輝度信号Yと色差信号Cb,Crとは、領域分割部71へ転送される。
分割手段たる領域分割部71は、制御部19の制御に基づいて、所定の分割条件で輝度信号Yおよび色差信号Cb,Crを領域に分割するためのラベル信号を算出する。ここに、所定の分割条件は、本実施形態においては、人物の顔領域であるか否かに応じて領域を分割するものとする。なお、この分割処理においては、処理時間を優先して重複領域(領域同士が境界において重なる部分)を無しとして単純に分割することも可能であり、あるいは、画質を優先して境界に重複領域を設定して分割することも可能である。この領域分割部71から出力される信号の内の、分割された上記輝度信号Yは階調変換部14へ、分割された上記色差信号Cb,Crは彩度強調部15へ、分割された上記輝度信号Yおよびラベル信号は情報量算出部72へ、それぞれ転送される。
情報量算出部72は、制御部19の制御に基づいて、上記輝度信号Yから複数の階調変換曲線に対する映像信号の情報量E_imgjとノイズの情報量E_noisejとを算出する。これらの情報量は、領域分割部71からのラベル信号に基づいて、領域に対し補正される。この情報量算出部72により算出された映像信号の情報量E_imgjとノイズの情報量E_noisejと複数の階調変換曲線を特徴付ける階調変換特性とは、設定部13へ転送される。
設定部13は、制御部19の制御に基づいて、情報量算出部12からの、映像信号の情報量E_imgjとノイズの情報量E_noisejと階調変換特性とから、有効な情報量を最大化する階調変換特性を探索し、探索された階調変換特性に対応する階調変換曲線を算出する。この設定部13により算出された階調変換曲線は、階調変換部14へ転送される。
階調変換部14は、制御部19の制御に基づいて、設定部13からの階調変換曲線を用いてY/C分離部11からの分割された輝度信号Yを階調変換する。
また、彩度強調部15は、制御部19の制御に基づいて、Y/C分離部11からの分割された色差信号Cb,Crに対して所定のゲインを乗算することにより、彩度強調処理を行う。
なお、上述した情報量算出部72、設定部13、階調変換部14、および彩度強調部15の各動作は、制御部19の制御に基づいて、領域単位で順次実行されるようになっている。
上記階調変換部14からの輝度信号Yと彩度強調部15からの色差信号Cb,Crとは、領域合成部73へ転送されて、合成手段たる該領域合成部73により合成される。ここに、領域合成部73は、上述した領域分割部71の分割処理において重複領域が無い場合には、単純に領域を統合するだけの合成処理を行う。これに対して、領域合成部73は、領域分割部71の分割処理において重複領域がある場合には、重複領域で2つの映像信号を領域からの距離に応じて重み付け加算することにより、境界部の連続性を改善しながら、合成処理を行う。
上記領域合成部73からの輝度信号Yと色差信号Cb,Crとは、Y/C合成部16へ転送されて、該Y/C合成部16により数式2に示したようにR,G,B信号が算出され、信号処理部17へ転送される。
信号処理部17は、公知の圧縮処理などを行い、処理後の映像信号を出力部18へ転送する。また、信号処理部17は、映像信号を、外部I/F部20に含まれる表示装置に合わせるためのリサイズ処理なども行うようになっており、必要に応じて処理後の映像信号を外部I/F部20へ転送する。
出力部18は、制御部19の制御に基づいて、信号処理部17から転送された映像信号を、メモリカードなどの記録媒体へ記録して保存する。
次に、図17を参照して、領域分割部71の構成の一例について説明する。
この領域分割部71は、色相算出部81と、エッジ算出部82と、人物判断部83と、ラベル付与部84と、ラベルバッファ85と、抽出部86と、領域バッファ87と、を有して構成されている。
Y/C分離部11は、色相算出部81、エッジ算出部82、および抽出部86へそれぞれ接続されている。
色相算出部81およびエッジ算出部82は、人物判断部83、ラベル付与部84、ラベルバッファ85、および抽出部86を介して、領域バッファ87へそれぞれ接続されている。
領域バッファ87は、情報量算出部72、階調変換部14、および彩度強調部15へそれぞれ接続されている。
また、制御部19は、色相算出部81、エッジ算出部82、人物判断部83、ラベル付与部84、抽出部86と双方向に接続されていて、これらを制御するようになっている。
特徴量算出手段たる色相算出部81は、制御部19の制御に基づいて、Y/C分離部11から色差信号Cb,Crを読み込み、読み込んだ色差信号Cb,Crを所定の閾値と比較することにより肌色領域を抽出し、この結果を人物判断部83へ転送する。
特徴量算出手段たるエッジ算出部82は、制御部19の制御に基づいて、Y/C分離部11から輝度信号Yを読み込み、読み込んだ輝度信号Yを所定の閾値と比較することにより、髪の周波数成分に対応する高周波領域を抽出し、この結果を人物判断部83へ転送する。
特徴量算出手段たる人物判断部83は、制御部19の制御に基づいて、色相算出部81からの肌色領域とエッジ算出部82からの高周波領域の情報とに基づき、人物の顔と判断される領域を抽出し、この結果をラベル付与部84へ転送する。
ラベル付け手段たるラベル付与部84は、制御部19の制御に基づいて、人物判断部83からの顔領域に対して所定のラベル、例えば「1」を付与し、その他の領域に所定のラベル、例えば「0」を付与する。
ラベル付与部84から出力されるラベル信号は、ラベルバッファ85へ入力されて保存される。
抽出部86は、ラベルバッファ85に記憶されているラベル信号に基づいて、Y/C分離部11からの輝度信号Yおよび差信号Cb,Crを、顔領域とその他の領域とに分離して、ラベル信号と共に領域バッファ87へ転送する。
領域バッファ87に記憶されている領域毎の輝度信号Y、色差信号Cb,Cr、およびラベル信号は、必要に応じて情報量算出部72、階調変換部14、および彩度強調部15へ転送される。
なお、ここでは、領域分割部71が、色と周波数情報とに基づいて人物の顔領域を自動的に分割する構成の例を示したが、これに限定されるものではない。例えば、図18、あるいは図19に示すように、領域を手動で分割するように構成することも可能である。
ここで、図18を参照して、手動による領域の分割に係る外部I/F部20の具体的な構成の一例について説明する。
この図18は、撮像装置の外面(例えば背面)に配設された、各種の操作スイッチや表示装置等を示している。
すなわち、撮像装置には、上述した外部I/F部20に含まれる構成要素として、例えばタッチパネルとして構成されていて入力装置を兼ねた表示装置である液晶91(画像表示手段、領域設定手段)と、この液晶91をオン/オフ操作するための液晶オン/オフスイッチ92と、ペン入力モードに移行するための領域設定手段たるペン入力スイッチ93と、0から9までの各数字を入力し得るように配列された数値キー94と、例えば十字キーとして構成されていて選択操作を行うための選択キー95と、入力した領域の確定操作を行うためのものであり領域設定手段たる確定スイッチ96と、が設けられている。
このような構成において、主要被写体領域を手動で指定する場合には、まず、液晶オン/オフスイッチ92をオン操作することにより、信号処理部17からの映像信号が外部I/F部20に読み込まれて、液晶91への表示が行われる。
その後、ペン入力スイッチ93が操作されることによりペン入力モードに移行すると、ペン等を用いて液晶91上で閉曲線を描くことにより、主要被写体領域が指定される。この指定された主要被写体領域は、図18に示すように、液晶91上に被写体像と重畳して表示される。
ここで、確定スイッチ96を操作することにより、制御部19は、指定された閉曲線の内部を主要被写体領域として抽出して、領域分割部71へ転送する。
領域分割部71は、転送された主要被写体領域と、その他の領域と、を区別するようにラベル信号を生成し、領域の分割を行う。
次に、図19を参照して、手動による領域の分割に係る外部I/F部20の具体的な構成の他の例について説明する。
この例においては、上述した外部I/F部20に含まれる構成要素として、画像表示手段でありブロック選択手段たる上記液晶91と、上記液晶オン/オフスイッチ92と、上記数値キー94と、ブロック選択手段たる上記選択キー95と、ブロック選択手段たる上記確定スイッチ96と、ブロック選択モードに移行するためのブロック選択手段たるブロック選択スイッチ97と、が設けられている。なお、この図19に示す構成の場合には、液晶91は、上述と異なり、入力装置を兼ねている必要はなく、タッチパネルではない通常の液晶パネルを用いることが可能である。
このような構成において、主要被写体領域を手動で指定する場合には、上述と同様に、まず、液晶オン/オフスイッチ92をオン操作することにより、信号処理部17からの映像信号が外部I/F部20に読み込まれて、液晶91への表示が行われる。
その後、ブロック選択スイッチ97が操作されることによりブロック選択モードに移行すると、液晶91上の画像に、所定サイズのブロック領域を示す分割線が重畳して表示される。使用者が、選択キー95を操作することにより着目ブロックを他のブロックへ移動させ、所望のブロックが着目ブロックとなったところで確定スイッチ96を操作することにより、ブロック領域の選択が行われる。こうして選択されたブロック領域は、例えばハイライト表示等を行うことにより、選択された旨が表示される。なお、このときには、例えば選択キー95の操作と併用して他の操作キー等を操作することにより、複数のブロックを着目ブロックとすることも可能である。また、画像におけるブロック領域の大きさは、別途の操作により、任意に変更することができるようにしても構わない。
こうして、確定スイッチ96が操作されたところで、制御部19は指定されたブロック領域を主要被写体領域として抽出して、領域分割部71へ転送する。
領域分割部71は、転送された主要被写体領域と、その他の領域と、を区別するようにラベル信号を生成し、領域の分割を行う。
次に、図20を参照して、情報量算出部72の構成の一例について説明する。
この情報量算出部72は、縮小部101と、縮小画像用バッファ22と、重み係数設定部102と、階調変換曲線ROM27と、前処理部28と、ノイズ量推定部29と、出現確率算出部30と、エントロピー算出部31と、を有して構成されている。
この情報量算出部72の構成は、基本的には、実施形態1の図4に示した情報量算出部12と同様であるが、縮小部21が縮小部101に、重み係数設定部25が重み係数設定部102に、それぞれ置換され、テクスチャ解析部23,関心領域抽出部24,重み係数用バッファ26が省略された点が異なっている。
領域分割部71は縮小部101へ接続されている。また、縮小部101は、縮小画像用バッファ22と、重み係数設定部102と、へ接続されている。
縮小画像用バッファ22は、前処理部28へ接続されている。
重み係数設定手段たる重み係数設定部102は、エントロピー算出部31へ接続されている。
また、制御部19は、縮小部101、重み係数設定部102と双方向に接続されていて、これらを制御するようになっている。
縮小部101は、制御部19の制御に基づいて、領域分割部71から領域毎の輝度信号Yと対応するラベル信号とを読み込み、所定の縮小率によって縮小する。この縮小部101からの縮小輝度信号Yは、縮小画像用バッファ22へ転送される。また、縮小部101は、読み込んだラベル信号を、重み係数設定部102へ転送する。
重み係数設定部102は、縮小部101から転送されたラベル信号に基づき、現在処理をしている領域が顔領域(本実施形態ではラベル「1」)とその他の領域(ラベル「0」)との何れであるかを判断する。ここで、重み係数設定部102は、現在処理をしている領域が顔領域であると判断した場合には、ノイズの増加に敏感な領域であるとして、エントロピー算出部31によって算出されるノイズの情報量E_noisejに対して、所定量の増分、例えば20%の増分を行うようにエントロピー算出部31へ指示を出力する。一方、重み係数設定部102は、現在処理をしている領域が顔領域以外の領域であると判断した場合は、上述したようなノイズの情報量を増分させる指示は出力しない。
出現確率算出部30は、実施形態1の情報量算出部12における出現確率算出部30と同様に、出現確率Pro_imgj(i)および出現確率Pro_noisej(i)を算出する。ただし、出現確率算出部30は、関心領域に関する重み係数の補正は行わない。
エントロピー算出部31は、実施形態1の情報量算出部12におけるエントロピー算出部31と同様に、3種類の出現確率Pro_imgj(i)に基づいて3種類の映像信号の情報量としてのエントロピーE_imgjを算出するとともに、3種類の出現確率Pro_noisej(i)に基づいて3種類のノイズの情報量としてのエントロピーE_noisejを算出する。さらに、エントロピー算出部31は、重み係数設定部102からノイズの情報量に関する増分指示が出力されている場合には、ノイズの情報量に所定の増分、本実施形態では20%の増分を行う。
なお、上述では、ハードウェアにより処理を行うことを前提としていたが、これに限定されるものではなく、例えばソフトウェアによって処理することも可能である。すなわち、CCD3からの映像信号を、未処理のままのRawデータとしてメモリカード等の記録媒体に記録するとともに、制御部19からの撮像条件などの付随情報をヘッダ情報として該記録媒体に記録しておく。そして、該記録媒体をコンピュータに接続し、該コンピュータ上で別途の画像処理プログラムを実行することにより、処理することも可能である。このとき、CCD3からのRawデータを、記録媒体を介することなく、コンピュータへ直接、あるいは通信回線を介して、入力するようにしても良いことは勿論である。
図21を参照して、画像処理プログラムによる処理を説明する。なお、この図21において、実施形態1の図12に示した処理と同様である部分には、同一の符号を付して説明を適宜省略する。
ステップS2の処理を終了したら、後で図22を参照して説明するように、領域分割とラベル信号の算出とを行う(ステップS40)。
次に、領域と、領域に対応するラベル信号と、を順次抽出する(ステップS41)。
そして、後で図23を参照して説明するように、輝度信号から、複数の階調変換曲線に対する、映像信号の情報量と、ノイズの情報量と、を算出する(ステップS42)。
その後、上述したようなステップS4からステップS6の処理を行う。
続いて、全領域の抽出が完了したか否かを判断し(ステップS43)、完了していない場合にはステップS41へ戻って、次の領域について、上述したような処理を繰り返して行う。
また、ステップS43において、全領域の抽出が完了したと判断された場合には、領域の合成を行う(ステップS44)。
その後は、上述したようなステップS7からステップS9の処理を行う。ただし、ステップS8においては、上述したように、必要に応じて、表示装置に合わせるためのリサイズ処理なども行う。こうして、ステップS9の処理が行われたところで、この処理を終了する。
次に、図22を参照して、上記ステップS40における領域分割の処理について説明する。
この処理を開始すると、まず、映像信号から肌色領域の抽出を行う(ステップS50)。
その一方で、映像信号から、髪の周波数成分に対応する高周波領域を抽出する(ステップS51)。
さらに、ステップS50で抽出された肌色領域の情報と、ステップS51で抽出された高周波領域の情報と、に基づいて、人物の顔と判断される領域を抽出する(ステップS52)。
そして、顔領域に対して所定のラベル、例えば「1」を付与するとともに、その他の領域に所定のラベル、例えば「0」を付与する(ステップS53)。
その後、顔領域とその他の領域とに分離して、ラベル信号と共に映像信号を出力して(ステップS54)、この処理から図21に示した処理に復帰する。
続いて、図23を参照して、上記ステップS42における情報量算出の処理について説明する。なお、この図23において、実施形態1の図13に示した処理と同様である部分には、同一の符号を付して説明を適宜省略する。
ステップS10の処理に続いて、ラベル信号に基づき、顔領域(本実施形態ではラベル「1」)とその他の領域(ラベル「0」)との判断を行い、顔領域である場合にはノイズの情報量に対して+20%の重み係数を、その他の領域である場合にはノイズの情報量に対して0%の重み係数を、それぞれ設定する(ステップS60)。
一方、ステップS10の処理に続いて、上述したようなステップS14からステップS17の処理を行う。
そして、数式3に示したようなエントロピーに基づいて、映像信号の情報量と、ノイズの情報量と、を算出し、ステップS60からの重み係数に基づいて情報量の補正を行う(ステップS61)。
その後、ステップS19の処理を行って、この処理から図21に示した処理に復帰する。
なお、本実施形態においても、実施形態1において述べたのと同様に、画像処理装置を、撮像部と一体化された構成にするに限るものではない。すなわち、例えば、別体の撮像部で撮像された映像信号を、未処理のRawデータの形態でメモリカード等の記録媒体に記録するとともに、該記録媒体に、さらに撮像条件などの付随情報をヘッダ部等として記録しておく。そして、この記録媒体を、図11に示したものとほぼ同様に、図16に示す画像処理装置から撮像部を取り除いた画像処理装置に接続して、該画像処理装置により処理するようにすることも可能である。
また、上述では階調変換曲線を映像信号から適応的に算出するようにしているが、このような構成に限定される必要はない。例えば、上述した実施形態1と同様に、ROMから読み出すように構成することも可能である。
さらに、上述では重み係数に基づきノイズの情報量に補正を行うように構成しているが、これに限定されるものでもない。例えば、映像信号の情報量を補正するように構成しても構わないし、あるいは、映像信号の情報量とノイズの情報量との両方を補正するように構成することも可能である。
このような実施形態2によれば、上述した実施形態1とほぼ同様の効果を奏するとともに、映像信号を領域に分割して、各領域単位で有意な情報量を最大化する階調変換曲線を求めることができ、ノイズの影響を考慮した最適な階調変換処理を行うことが可能となって、結果として高品位な映像信号を得ることができる。
また、階調変換処理を領域毎に独立して行っているために、明暗比の大きいシーンに対しても適切な処理を行うことができる。
さらに、色や周波数などの特徴量に基づいて領域を設定し、設定した領域毎に重み係数に基づいて映像信号の情報量とノイズの情報量とを補正しているために、情報量と主観的な評価との相関関係が向上して、主観的により好ましい高品位な映像信号を得ることができる。
そして、液晶を用いて手動で関心領域を設定する場合には、撮影者の意図する領域に適切に分割することができ、主観的に好ましい高品位な映像信号を得ることができる。
また、階調変換処理後の各領域の映像信号を合成するようにしているために、従来の処理系や出力装置を適用することができ、システムの汎用性が向上する。
[実施形態3]
図24から図28は本発明の実施形態3を示したものであり、図24は撮像装置の構成を示すブロック図、図25はノイズ低減部の構成を示すブロック図、図26は情報量算出部の構成を示すブロック図、図27は画像処理プログラムによる処理の全体を示すフローチャート、図28は画像処理プログラムにおける情報量算出の処理を示すフローチャートである。
この実施形態3において、上述の実施形態1,2と同様である部分については同一の符号を付して説明を省略し、主として異なる点についてのみ説明する。
本実施形態の撮像装置は、図24に示すようになっており、実施形態1の図1に示した構成と比較すると、情報量算出部12が情報量算出部114に置換され、温度センサ111と、ノイズ推定部112と、ノイズ低減部113と、が追加された構成になっている。その他の基本的な構成は、実施形態1の図1に示したものと同様である。
温度センサ111は、CCD3の温度を検出するために該CCD3の近傍に配置されていて、検出結果の信号は制御部19へ出力されるようになっている。
バッファ6は、PreWB部7、測光評価部8、および合焦点検出部9へ接続されるとともに、さらに、ノイズ推定部112とノイズ低減部113とへそれぞれ接続されている。
ノイズ推定部112は、ノイズ低減部113へ接続されている。
ノイズ低減部113は、Y/C分離部11と情報量算出部114とへそれぞれ接続されている。
Y/C分離部11は、階調変換部14および彩度強調部15へ接続されるとともに、さらに、情報量算出部114へ接続されている。
情報量算出手段たる情報量算出部114は、設定部13へ接続されている。
また、制御部19は、ノイズ推定部112、ノイズ低減部113、情報量算出部114と双方向に接続されていて、これらを制御するようになっている。
次に、図24に示したような撮像装置の作用は、基本的には上述した実施形態1と同様であるために、主として異なる部分についてのみ、信号の流れに沿って説明する。
バッファ6に記憶された映像信号は、ノイズ推定部112へ転送される。
ノイズ推定手段たるノイズ推定部112は、基本的には、実施形態1の図6に示したノイズ量推定部29と同様であるが、該ノイズ量推定部29においては前処理部28から輝度信号を読み込んでいたのに対して、このノイズ推定部112では、バッファ6からの信号、つまり、図2に示したようなBayer型原色フィルタを前面に配置した単板撮像素子たるCCD3からの信号、を読み込む点が異なっている。また、平均算出部41は、上述したBayer型の色フィルタ配置に基づいて、RGB信号に分離して、個別の平均値を算出する処理を行う。さらに、上述したノイズ量推定部29では標準値付与部43がCCD3の動作温度として所定の温度値をノイズLUT44へ転送していたが、このノイズ推定部112においては、制御部19が温度センサ111からの温度値をノイズLUT44へ転送することになる。そして、ノイズLUT44は、RGBの三信号に関して、映像信号の信号値レベル,映像信号の増幅量,撮像素子の動作温度と、ノイズ量と、の間の関係を記録したルックアップテーブルとなっている。こうして、ノイズ推定部112は、制御部19の制御に基づいて、ノイズ低減処理を行おうとする注目画素に対するノイズ量を推定して、これをノイズ低減部113へ転送する。
ノイズ低減手段たるノイズ低減部113は、制御部19の制御に基づいて、まず、注目画素がノイズに属するか否かを判断する。そして、ノイズ低減部113は、注目画素がノイズに属すると判断した場合には平滑化処理を行い、一方、ノイズに属さないと判断した場合には連続性を確保するための補正処理を行う。こうしてノイズに関する処理がなされた映像信号は、ノイズ低減部113からY/C分離部11へ転送される。また、上記平滑化処理に関する情報は、ノイズ低減部113から情報量算出部114へ転送される。
なお、上述したノイズ推定部112およびノイズ低減部113の処理は、制御部19の制御に基づいて、注目画素単位で同期して行われる。
Y/C分離部11は、制御部19の制御に基づいて、R,G,B信号毎に公知の補間処理を行って三板状態の信号に変換した後に、数式1に示したように、輝度信号Yおよび色差信号Cb,Crを求める。
情報量算出部114は、制御部19の制御に基づいて、Y/C分離部11により分離された輝度信号Yから、複数の階調変換曲線に対する映像信号の情報量E_imgjおよびノイズの情報量E_noisejを算出する。さらに、情報量算出部114は、ノイズ低減部113からの平滑化処理に関する情報に基づいて、ノイズの情報量E_noisejを補正する。情報量算出部114は、こうして算出した、映像信号の情報量E_imgjと、ノイズの情報量E_noisejと、複数の階調変換曲線を特徴付ける階調変換特性とを、設定部13へ転送する。
これ以降の処理は、実施形態1において説明したものと同様である。
次に、図25を参照して、ノイズ低減部113の構成の一例について説明する。
このノイズ低減部113は、範囲設定部121と、切換部122と、第1スムージング部123と、第2スムージング部124と、を有して構成されている。
ノイズ推定部112は、範囲設定部121に接続されている。
範囲設定部121は、切換部122と、第1スムージング部123と、第2スムージング部124と、に接続されている。
バッファ6は、切換部122に接続されている。
切換部122は、第1スムージング部123と、第2スムージング部124と、に接続されている。
第1スムージング部123および第2スムージング部124は、Y/C分離部11に接続されている。
制御部19は、範囲設定部121、切換部122、第1スムージング部123、第2スムージング部124と双方向に接続されていて、これらを制御するようになっている。
このようなノイズ低減部113の作用は、次のようになっている。
ノイズ推定部112は、RGB三信号毎の平均値AVとノイズ量Nとを範囲設定部121へ転送する。
ノイズ範囲設定手段たる範囲設定部121は、制御部19の制御に基づいて、RGB三信号のノイズ量に関する許容範囲として、上限Upと下限Lowとを、次の数式11に示すように設定する。
[数11]
Up =AV+N/2
Low=AV−N/2
そして、範囲設定部121は、このように設定した許容範囲Up,Lowを、切換部122へ転送する。さらに、範囲設定部121は、RGB三信号毎の平均値AVとノイズ量Nとを、第1スムージング部123と第2スムージング部124とへそれぞれ転送する。
切換部122は、制御部19の制御に基づいて、バッファ6から注目画素の映像信号を読み込み、上述したような許容範囲に属するか否かを判断する。ここに、切換部122が行う判断は、注目画素の映像信号が、「ノイズ範囲に属している」,「ノイズ範囲を上回っている」,「ノイズ範囲を下回っている」の何れかの三通りである。そして、切換部122は、注目画素の映像信号が「ノイズ範囲に属している」と判断した場合には第1スムージング部123へ、それ以外の場合には第2スムージング部124へ、注目画素の映像信号を転送する。
第1のスムージング手段たる第1スムージング部123は、切換部122からの注目画素の映像信号Pixに、範囲設定部121からの平均値AVを代入する処理を行う。
[数12]
Pix=AV
この数式12に基づいて平滑化処理がなされたRGB信号は、Y/C分離部11へ転送される。なお、数式12による平滑化処理の性能は、平均値AVを算出するために使われた局所領域のサイズ(本実施形態においては3×3画素を想定する)により異なり、例えば局所領域のサイズを大きくすれば、平滑化の性能は向上する。しかし、局所領域のサイズを大きくすると、今度は、エッジ部のボケなどの副作用も大きくなってしまう。このために、局所領域のサイズは、一般に、ISO感度や夜景などの撮影状況に基づいて変更されることになる。このような平滑化の性能(例えば、局所領域を3×3画素としたときには3dBの改善が見られ、局所領域を5×5画素としたときには5dBの改善が見られる、など)を事前に調査しておき、平滑化処理に関する情報として情報量算出部114へ転送する。
また、第2のスムージング手段たる第2スムージング部124は、切換部122からの注目画素の映像信号Pixに、範囲設定部121からの平均値AVとノイズ量Nとを用いて、補正処理を行う。まず、注目画素の映像信号が「ノイズ範囲を上回っている」場合には、次の数式13に示すように補正する。
[数13]
Pix=Pix−N/2
一方、第2スムージング部124は、注目画素の映像信号が「ノイズ範囲を下回っている」場合には、次の数式14に示すように補正する。
[数14]
Pix=Pix+N/2
これら数式13または数式14により補正処理がなされたRGB信号は、第2スムージング部124からY/C分離部11へ転送される。
次に、図26を参照して、情報量算出部114の構成の一例について説明する。
この情報量算出部114は、縮小部21と、縮小画像用バッファ22と、テクスチャ解析部23と、関心領域抽出部24と、重み係数設定部25と、重み係数用バッファ26と、階調変換曲線ROM27と、前処理部28と、ノイズ量推定部29と、出現確率算出部30と、エントロピー算出部31と、ノイズ低減補正部131と、を有して構成されている。
この情報量算出部114の構成は、実施形態1の図4に示した情報量算出部12と基本的に同様であり、ノイズ低減補正部131が追加されたものとなっている。
ノイズ低減部113とノイズ量推定部29とは、ノイズ低減補正部131にそれぞれ接続されている。
ノイズ低減補正部131は、出現確率算出部30に接続されている。
制御部19は、ノイズ低減補正部131と双方向に接続されていて、これを制御するようになっている。
この図26に示したような情報量算出部114の作用の内、実施形態1の情報量算出部12の作用と異なる部分は、以下のようである。
補正手段たるノイズ低減補正部131は、ノイズ低減部113から、平滑化処理の性能に関する情報、例えば3dBの改善の情報、などを受信する。そして、ノイズ低減補正部131は、受信した情報に基づいて、ノイズ量推定部29から転送されるノイズ信号に関して平滑化処理による改善効果分に相当するノイズ成分を減衰させる。
こうして減衰された後のノイズ信号は、ノイズ低減補正部131から出現確率算出部30へ転送される。
これ以後の処理は、実施形態1において情報量算出部12について説明したものと同様である。
なお、上述では、ハードウェアにより処理を行うことを前提としていたが、これに限定されるものではなく、例えばソフトウェアによって処理することも可能である。すなわち、CCD3からの映像信号を、未処理のままのRawデータとしてメモリカード等の記録媒体に記録するとともに、制御部19からの撮像条件などの付随情報をヘッダ情報として該記録媒体に記録しておく。そして、該記録媒体をコンピュータに接続し、該コンピュータ上で別途の画像処理プログラムを実行することにより、処理することも可能である。このとき、CCD3からのRawデータを、記録媒体を介することなく、コンピュータへ直接、あるいは通信回線を介して、入力するようにしても良いことは勿論である。
図27を参照して、画像処理プログラムによる処理を説明する。なお、この図27において、実施形態1の図12に示した処理と同様である部分には、同一の符号を付して説明を適宜省略する。
ステップS1の処理を終了したら、図15に示したようにノイズ量の推定を行う(ステップS70)。
次に、注目画素の映像信号が、数式11に示したような許容範囲内に属するか否かを判断する(ステップS71)。
ここで、注目画素の映像信号が許容範囲内に属すると判断された場合には、数式12に示したような処理を行う(ステップS72)。
また、注目画素の映像信号が許容範囲内に属さないと判断された場合には、数式13または数式14に示したような処理を行う(ステップS73)。
ステップS72またはステップS73の処理が終了したら、次に、ステップS2の処理を行い、その後に、後で図28を参照して説明するように、輝度信号Yを用いて、複数の階調変換曲線に対する、映像信号の情報量と、ノイズの情報量と、を算出する(ステップS74)。
その後は、ステップS4〜S9の処理を行って、この処理を終了する。
続いて、図28を参照して、上記ステップS74における情報量算出の処理について説明する。なお、この図28において、実施形態1の図13に示した処理と同様である部分には、同一の符号を付して説明を適宜省略する。
ステップS10〜S16までの処理が終了したら、次に、上述したステップS72の平滑化処理による改善効果分に相当するノイズ成分を減衰させる(ステップS80)。
その後、上述と同様にステップS17〜S19の処理を行って、図27に示した処理に復帰する。
なお、上述では、ノイズ推定部112と、情報量算出部114内のノイズ量推定部29と、を分離して構成しているが、これに限定されるものではない。これらの機能は基本的に同一であるために、何れか一方を省略するように構成することも可能である。
このような実施形態3によれば、上述した実施形態1,2とほぼ同様の効果を奏するとともに、映像信号にノイズ低減処理を行い、ノイズ低減処理後に残留するノイズの影響を考慮した有意な情報量を最大化する階調変換曲線を求めるようにしているために、最適な階調変換処理が可能となって、結果として高品位な映像信号を得ることができる。
また、ノイズ低減処理と組み合わせたシステムにおいても、高精度にノイズの情報量を算出することができるために、ノイズ低減処理と階調変換処理との両方の性能を最大限に発揮させることが可能となる。
さらに、ノイズ低減処理は、ノイズ範囲に属すると判断された注目画素に平滑化処理を、ノイズ範囲に属さないと判断された注目画素に補正処理を、それぞれ行うものとなっているために、不連続性の発生を防止して高品位な信号を得ることができる。
[実施形態4]
図29、図30は本発明の実施形態4を示したものであり、図29は撮像装置の構成を示すブロック図、図30は画像処理プログラムによる処理の全体を示すフローチャートである。
この実施形態4において、上述の実施形態1〜3と同様である部分については同一の符号を付して説明を省略し、主として異なる点についてのみ説明する。
本実施形態の撮像装置は、図29に示すようになっており、実施形態1の図1に示した構成と比較すると、情報量算出部12が情報量算出部145に置換され、温度センサ141と、ノイズ推定部142と、ノイズ低減部143と、領域分割部144と、領域合成部146と、が追加された構成になっている。その他の基本的な構成は、実施形態1の図1に示したものと同様である。
温度センサ141は、CCD3の温度を検出するために該CCD3の近傍に配置されていて、検出結果の信号は制御部19へ出力されるようになっている。
バッファ6は、PreWB部7、測光評価部8、および合焦点検出部9へ接続されるとともに、さらに、ノイズ推定部142とノイズ低減部143とへそれぞれ接続されている。
ノイズ推定部142は、ノイズ低減部143へ接続されている。
ノイズ低減部143は、Y/C分離部11と情報量算出部145とへそれぞれ接続されている。
Y/C分離部11は、領域分割部144へ接続されている。
領域分割部144は、情報量算出部145、階調変換部14、および彩度強調部15へそれぞれ接続されている。
情報量算出手段たる情報量算出部145は、設定部13を介して、階調変換部14へ接続されている。
階調変換部14および彩度強調部15は、領域合成部146へ接続されている。
領域合成部146は、Y/C合成部16へ接続されている。
また、制御部19は、ノイズ推定部142、ノイズ低減部143、領域分割部144、情報量算出部145、領域合成部146と双方向に接続されていて、これらを制御するようになっている。
次に、図29に示したような撮像装置の作用は、基本的には上述した実施形態1と同様であるために、主として異なる部分についてのみ、信号の流れに沿って説明する。
バッファ6に記憶された映像信号は、ノイズ推定部142へ転送される。
ノイズ推定手段たるノイズ推定部142は、上述した実施形態3のノイズ推定部112と同様に、ノイズ低減処理を行う注目画素に対するノイズ量を推定して、これをノイズ低減部143へ転送する。
ノイズ低減手段たるノイズ低減部143は、制御部19の制御に基づいて、まず、注目画素がノイズに属するかを判断する。そして、ノイズ低減部143は、注目画素がノイズに属すると判断した場合には平滑化処理を行い、一方、ノイズに属さないと判断した場合には連続性を確保するための補正処理を行う。こうしてノイズ低減処理がなされた映像信号は、ノイズ低減部143からY/C分離部11へ転送される。また、上記平滑化処理に関する情報は、ノイズ低減部143から情報量算出部145へ転送される。
なお、上述したノイズ推定部142およびノイズ低減部143の処理は、制御部19の制御に基づいて、注目画素単位で同期して行われる。
Y/C分離部11は、制御部19の制御に基づいて、R,G,B信号毎に公知の補間処理を行って三板状態の信号に変換した後に、数式1に示したように、輝度信号Yおよび色差信号Cb,Crを求める。このY/C分離部11により求められた輝度信号Yおよび色差信号Cb,Crは、領域分割部144へ転送される。
分割手段たる領域分割部144は、制御部19の制御に基づいて、上述した実施形態2と同様に、所定の分割条件で輝度信号Yおよび色差信号Cb,Crを領域に分割するためのラベル信号を算出する。この領域分割部144から出力される信号の内の、分割された上記輝度信号Yは階調変換部14へ、分割された上記色差信号Cb,Crは彩度強調部15へ、分割された上記輝度信号Yおよびラベル信号は情報量算出部145へ、それぞれ転送される。
情報量算出部145は、制御部19の制御に基づいて、上記輝度信号Yから複数の階調変換曲線に対する映像信号の情報量E_imgjおよびノイズの情報量E_noisejを算出する。また、情報量算出部145は、領域分割部144からのラベル信号に基づいて、領域に対する上記情報量の補正を行う。さらに、情報量算出部145は、ノイズ低減部143からの平滑化処理に関する情報に基づいて、ノイズの情報量E_noisejの補正を行う。こうして算出された、映像信号の情報量E_imgjと、ノイズの情報量E_noisejと、複数の階調変換曲線を特徴付ける階調変換特性と、が情報量算出部145から設定部13へ転送される。
設定部13は、制御部19の制御に基づいて、情報量算出部145からの映像信号の情報量E_imgjとノイズの情報量E_noisejと階調変換特性とから、有効な情報量を最大化する階調変換特性を探索し、探索された階調変換特性に対応する階調変換曲線を算出する。この設定部13により算出された階調変換曲線は、階調変換部14へ転送される。
階調変換部14は、制御部19の制御に基づいて、設定部13からの階調変換曲線を用いてY/C分離部11からの輝度信号Yを階調変換する。
また、彩度強調部15は、制御部19の制御に基づいて、上記色差信号Cb,Crに対して所定のゲインを乗算することにより、彩度強調処理を行う。
なお、上述した情報量算出部145、設定部13、階調変換部14、および彩度強調部15の各動作は、制御部19の制御に基づいて、領域単位で順次実行されるようになっている。
上記階調変換部14からの輝度信号Yと彩度強調部15からの色差信号Cb,Crとは、領域合成部146へ転送されて、合成手段たる該領域合成部146により合成される。
上記領域合成部146からの輝度信号Yと色差信号Cb,Crとは、Y/C合成部16へ転送されて、該Y/C合成部16により数式2に示したようにR,G,B信号が算出され、信号処理部17へ転送される。
これ以降の処理は、実施形態1において説明したものと同様である。
なお、上述では、ハードウェアにより処理を行うことを前提としていたが、これに限定されるものではなく、例えばソフトウェアによって処理することも可能である。すなわち、CCD3からの映像信号を、未処理のままのRawデータとしてメモリカード等の記録媒体に記録するとともに、制御部19からの撮像条件などの付随情報をヘッダ情報として該記録媒体に記録しておく。そして、該記録媒体をコンピュータに接続し、該コンピュータ上で別途の画像処理プログラムを実行することにより、処理することも可能である。このとき、CCD3からのRawデータを、記録媒体を介することなく、コンピュータへ直接、あるいは通信回線を介して、入力するようにしても良いことは勿論である。
図30を参照して、画像処理プログラムによる処理を説明する。なお、この図30において、実施形態1の図12に示した処理と同様である部分には、同一の符号を付して説明を適宜省略する。
ステップS1の処理を終了したら、図15に示したようにノイズ量の推定を行う(ステップS90)。
次に、注目画素の映像信号が、数式11に示したような許容範囲内に属するか否かを判断する(ステップS91)。
ここで、注目画素の映像信号が許容範囲内に属すると判断された場合には、数式12に示したような処理を行う(ステップS92)。
また、注目画素の映像信号が許容範囲内に属さないと判断された場合には、数式13または数式14に示したような処理を行う(ステップS93)。
ステップS92またはステップS93の処理が終了したら、次に、ステップS2の処理を行い、その後に、図22に示したように、領域分割とラベル信号の算出とを行う(ステップS94)。
次に、領域と、領域に対応するラベル信号と、を順次抽出する(ステップS95)。
そして、図23に示したように、輝度信号から、複数の階調変換曲線に対する、映像信号の情報量と、ノイズの情報量と、を算出する(ステップS96)。
その後、上述したようなステップS4からステップS6の処理を行う。
続いて、全領域の抽出が完了したか否かを判断し(ステップS97)、完了していない場合にはステップS95へ戻って、次の領域について、上述したような処理を繰り返して行う。
また、ステップS97において、全領域の抽出が完了したと判断された場合には、領域の合成を行う(ステップS98)。
その後は、上述したようなステップS7からステップS9の処理を行ってから、この処理を終了する。
このような実施形態4によれば、上述した実施形態1〜3とほぼ同様の効果を奏するとともに、映像信号にノイズ低減処理および領域分割処理を行い、ノイズ低減処理後に残留するノイズの影響を考慮した有意な情報量を最大化する階調変換曲線が求めるようにしているために、最適な階調変換処理が可能となって、結果として高品位な映像信号を得ることができる。
また、ノイズ低減処理と組み合わせたシステムにおいても、高精度にノイズの情報量を算出することができるために、ノイズ低減処理と階調変換処理との両方の性能を最大限に発揮させることが可能となる。
さらに、階調変換処理を領域毎に独立して行っているために、より自由度が向上して、明暗比の大きいシーンに対しても高品位な映像信号を得ることが可能となる。
なお、本発明は上述した実施形態に限定されるものではなく、発明の主旨を逸脱しない範囲内において種々の変形や応用が可能であることは勿論である。
本発明は、映像信号に対して適応的に階調変換処理を行う画像処理装置、画像処理プログラムに好適に利用することができる。
本発明の実施形態1における撮像装置の構成を示すブロック図。 上記実施形態1におけるBayer型原色フィルタの構成を示す図。 上記実施形態1における色差線順次型補色フィルタの構成を示す図。 上記実施形態1における情報量算出部の構成を示すブロック図。 上記実施形態1における階調変換曲線を示す線図。 上記実施形態1におけるノイズ量推定部の構成を示すブロック図。 上記実施形態1における設定部の構成を示すブロック図。 上記実施形態1において、情報量を最大化する階調変換曲線を探索する際の階調変換特性パラメータと情報量との関係を示す線図。 上記実施形態1における情報量算出部の他の構成例を示すブロック図。 上記図9に示した構成例における階調変換曲線を示す線図。 上記実施形態1における画像処理装置の他の構成例を示すブロック図。 上記実施形態1の画像処理プログラムによる処理の全体を示すフローチャート。 上記実施形態1の画像処理プログラムにおける情報量算出の処理を示すフローチャート。 上記実施形態1の画像処理プログラムにおける階調変換曲線設定の処理を示すフローチャート。 上記実施形態1の画像処理プログラムにおけるノイズ量推定の処理を示すフローチャート。 本発明の実施形態2における撮像装置の構成を示すブロック図。 上記実施形態2における領域分割部の構成を示すブロック図。 上記実施形態2において、外部I/F部を用いてフリーフォームにより分割する領域を入力する例を示す図。 上記実施形態2において、外部I/F部を用いてブロック領域を選択することにより分割する領域を入力する例を示す図。 上記実施形態2における情報量算出部の構成を示すブロック図。 上記実施形態2の画像処理プログラムによる処理の全体を示すフローチャート。 上記実施形態2の画像処理プログラムにおける領域分割の処理を示すフローチャート。 上記実施形態2の画像処理プログラムにおける情報量算出の処理を示すフローチャート。 本発明の実施形態3における撮像装置の構成を示すブロック図。 上記実施形態3におけるノイズ低減部の構成を示すブロック図。 上記実施形態3における情報量算出部の構成を示すブロック図。 上記実施形態3の画像処理プログラムによる処理の全体を示すフローチャート。 上記実施形態3の画像処理プログラムにおける情報量算出の処理を示すフローチャート。 本発明の実施形態4における撮像装置の構成を示すブロック図。 上記実施形態4の画像処理プログラムによる処理の全体を示すフローチャート。
符号の説明
1…レンズ系
2…絞り
3…CCD
4…Gain
5…A/D変換部
6…バッファ
7…PreWB部
8…測光評価部
9…合焦点検出部
10…AFモータ
11…Y/C分離部
12,72,114,145…情報量算出部(情報量算出手段)
13…設定部(設定手段)
14…階調変換部(階調変換手段)
15…彩度強調部
16…Y/C合成部
17…信号処理部
18…出力部
19…制御部(制御手段、収集手段)
20…外部I/F部
21…縮小部(縮小手段)
22…縮小画像用バッファ
23…テクスチャ解析部(関心領域抽出手段、特徴量算出手段)
24…関心領域抽出部(関心領域抽出手段)
25,102…重み係数設定部(重み係数設定手段)
26…重み係数用バッファ
27…階調変換曲線ROM(前処理手段、記録手段)
28…前処理部(前処理手段)
29…ノイズ量推定部(ノイズ推定手段)
30…出現確率算出部(重み係数補正手段)
31…エントロピー算出部(第1の算出手段、第2の算出手段、重み係数補正手段)
32…適正露光域抽出部(前処理手段、適正域抽出手段)
33…エッジ算出部(前処理手段、エッジ算出手段)
34…ヒストグラム作成部(前処理手段、ヒストグラム作成手段)
35…階調変換曲線作成部(前処理手段、階調変換曲線算出手段)
36…距離算出部(前処理手段、距離算出手段)
37…派生階調変換曲線作成部(前処理手段、生成手段)
41…平均算出部(平均算出手段)
42…ゲイン算出部(収集手段)
43…標準値付与部(標準値付与手段)
44…ノイズLUT(ノイズ量算出手段)
51…第1定式化部(第1の定式化手段)
52…第2定式化部(第2の定式化手段)
53…探索部(探索手段)
54…基準階調変換曲線用バッファ
55…階調変換曲線算出部(出力手段)
61…入力部
62…ヘッダ情報解析部
71,144…領域分割部(分割手段)
73,146…領域合成部(合成手段)
81…色相算出部(特徴量算出手段)
82…エッジ算出部(特徴量算出手段)
83…人物判断部(特徴量算出手段)
84…ラベル付与部(ラベル付け手段)
85…ラベルバッファ
86…抽出部
87…領域バッファ
91…液晶(画像表示手段、領域設定手段、ブロック選択手段)
92…液晶オン/オフスイッチ
93…ペン入力スイッチ(領域設定手段)
94…数値キー
95…選択キー(ブロック選択手段)
96…確定スイッチ(領域設定手段、ブロック選択手段)
97…ブロック選択スイッチ(ブロック選択手段)
101…縮小部
111,141…温度センサ
112,142…ノイズ推定部(ノイズ推定手段)
113,143…ノイズ低減部(ノイズ低減手段)
121…範囲設定部(ノイズ範囲設定手段)
122…切換部
123…第1スムージング部(第1のスムージング手段)
124…第2スムージング部(第2のスムージング手段)
131…ノイズ低減補正部(補正手段)

Claims (32)

  1. 撮像系から得られた映像信号に対して階調変換処理を行う画像処理装置において、
    上記映像信号から、映像信号の情報量と、ノイズの情報量と、を算出する情報量算出手段と、
    上記情報量に基づき、階調変換処理に用いる階調変換曲線を設定する設定手段と、
    上記階調変換曲線に基づき、上記映像信号に対して階調変換処理を行う階調変換手段と、
    を具備したことを特徴とする画像処理装置。
  2. 撮像系から得られた映像信号に対して階調変換処理を行う画像処理装置において、
    上記映像信号を複数の領域に分割する分割手段と、
    上記領域の映像信号から、映像信号の情報量と、ノイズの情報量と、を算出する情報量算出手段と、
    上記情報量に基づき、階調変換処理に用いる階調変換曲線を設定する設定手段と、
    上記階調変換曲線に基づき、上記領域の映像信号に対して階調変換処理を行う階調変換手段と、
    上記領域毎に上記情報量算出手段と上記設定手段と上記階調変換手段とを順次適用するように制御する制御手段と、
    を具備したことを特徴とする画像処理装置。
  3. 撮像系から得られた映像信号に対してノイズ低減処理と階調変換処理とを行う画像処理装置において、
    上記映像信号のノイズ量を画素単位または所定単位面積毎に推定するノイズ推定手段と、
    上記映像信号に対して上記ノイズ量に基づきノイズ低減処理を行うノイズ低減手段と、
    上記ノイズ低減処理後の映像信号から、映像信号の情報量と、ノイズの情報量と、を算出する情報量算出手段と、
    上記情報量に基づき、階調変換処理に用いる階調変換曲線を設定する設定手段と、
    上記階調変換曲線に基づき、上記ノイズ低減処理後の映像信号に対して階調変換処理を行う階調変換手段と、
    を具備したことを特徴とする画像処理装置。
  4. 撮像系から得られた映像信号に対してノイズ低減処理と階調変換処理とを行う画像処理装置において、
    上記映像信号のノイズ量を画素単位または所定単位面積毎に推定するノイズ推定手段と、
    上記映像信号に対して上記ノイズ量に基づきノイズ低減処理を行うノイズ低減手段と、
    上記ノイズ低減処理後の映像信号を複数の領域に分割する分割手段と、
    上記領域の映像信号から、映像信号の情報量と、ノイズの情報量と、を算出する情報量算出手段と、
    上記情報量に基づき、階調変換処理に用いる階調変換曲線を設定する設定手段と、
    上記階調変換曲線に基づき、上記ノイズ低減処理後の領域の映像信号に対して階調変換処理を行う階調変換手段と、
    上記領域毎に上記情報量算出手段と上記設定手段と上記階調変換手段とを順次適用するように制御する制御手段と、
    を具備したことを特徴とする画像処理装置。
  5. 上記情報量算出手段は、
    上記映像信号または上記領域の映像信号を所定の縮小率で縮小映像信号へ変換する縮小手段と、
    上記縮小映像信号に対して階調特性の異なる複数の階調変換曲線を用いて階調変換処理を行う前処理手段と、
    上記階調変換処理がなされた縮小映像信号から映像信号の情報量を算出する第1の算出手段と、
    上記階調変換処理がなされた縮小映像信号のノイズ量を画素単位または所定単位面積毎に推定するノイズ推定手段と、
    上記ノイズ量からノイズの情報量を算出する第2の算出手段と、
    を有して構成されたものであることを特徴とする請求項1または請求項2に記載の画像処理装置。
  6. 上記情報量算出手段は、
    上記映像信号または上記領域の映像信号を所定の縮小率で縮小映像信号へ変換する縮小手段と、
    上記縮小映像信号に対して階調特性の異なる複数の階調変換曲線を用いて階調変換処理を行う前処理手段と、
    上記階調変換処理がなされた縮小映像信号から映像信号の情報量を算出する第1の算出手段と、
    上記階調変換処理がなされた縮小映像信号のノイズ量を画素単位または所定単位面積毎に推定する第2のノイズ推定手段と、
    上記ノイズ量からノイズの情報量を算出する第2の算出手段と、
    上記ノイズの情報量に対して上記ノイズ低減処理による低減効果に相応する補正を行う補正手段と、
    を有して構成されたものであることを特徴とする請求項3または請求項4に記載の画像処理装置。
  7. 上記前処理手段は、所定の基準階調変換曲線と、この基準階調変換曲線に所定の乗算係数を乗算して生成した派生階調変換曲線と、上記乗算係数と、を記録する記録手段を有して構成されたものであることを特徴とする請求項5または請求項6に記載の画像処理装置。
  8. 上記前処理手段は、
    上記映像信号のレベルに基づき適正露光域を抽出する適正域抽出手段と、
    上記適正露光域に関してエッジ量を算出するエッジ算出手段と、
    上記エッジ量に基づきヒストグラムを作成するヒストグラム作成手段と、
    上記ヒストグラムに基づき階調変換曲線を算出する階調変換曲線算出手段と、
    上記階調変換曲線と所定の基準階調変換曲線間との距離を算出する距離算出手段と、
    上記距離を調整することにより派生階調変換曲線を生成する生成手段と、
    を有して構成されたものであることを特徴とする請求項5または請求項6に記載の画像処理装置。
  9. 上記情報量算出手段は、
    上記映像信号から関心領域を抽出する関心領域抽出手段と、
    上記関心領域に関して重み係数を設定する重み係数設定手段と、
    上記重み係数に基づき、上記映像信号の情報量と、ノイズの情報量と、の少なくとも一方に補正を行う重み係数補正手段と、
    を有して構成されたものであることを特徴とする請求項1または請求項3に記載の画像処理装置。
  10. 上記関心領域抽出手段は、上記映像信号から、色と周波数とテクスチャとの内の少なくとも1つに関する特徴量を算出する特徴量算出手段を有して構成されたものであることを特徴とする請求項9に記載の画像処理装置。
  11. 上記情報量算出手段は、
    上記領域に関して重み係数を設定する重み係数設定手段と、
    上記重み係数に基づき、上記映像信号の情報量と、ノイズの情報量と、の少なくとも一方に補正を行う重み係数補正手段と、
    を有して構成されたものであることを特徴とする請求項2または請求項4に記載の画像処理装置。
  12. 上記分割手段は、
    上記映像信号から、色と周波数とテクスチャとの内の少なくとも1つに関する特徴量を算出する特徴量算出手段と、
    上記映像信号に対して上記特徴量に基づきラベル付けを行うラベル付け手段と、
    を有して構成されたものであることを特徴とする請求項2または請求項4に記載の画像処理装置。
  13. 上記分割手段は、
    上記映像信号を表示し得るとともにタッチパネル機能を有する画像表示手段と、
    上記画像表示手段からの指示に基づき領域を分割する領域設定手段と、
    上記映像信号に対して上記画像表示手段からの指示に基づきラベル付けを行うラベル付け手段と、
    を有して構成されたものであることを特徴とする請求項2または請求項4に記載の画像処理装置。
  14. 上記分割手段は、
    上記映像信号を複数のブロック領域に分割して表示し得る画像表示手段と、
    上記複数のブロック領域の内の少なくとも1つのブロック領域を選択するためのブロック選択手段と、
    上記映像信号に対して上記選択されたブロック領域に基づきラベル付けを行うラベル付け手段と、
    を有して構成されたものであることを特徴とする請求項2または請求項4に記載の画像処理装置。
  15. 上記設定手段は、
    上記映像信号の情報量と所定の予測式とに基づいて階調変換特性に対する映像信号の情報量の関係を定式化する第1の定式化手段と、
    上記ノイズの情報量と所定の予測式とに基づいて階調変換特性に対するノイズの情報量の関係を定式化する第2の定式化手段と、
    上記映像信号に関する情報量の定式と上記ノイズに関する情報量の定式とに基づいて有効な情報量を最大にする階調変換特性を探索する探索手段と、
    上記階調変換特性に対応する階調変換曲線を出力する出力手段と、
    を有して構成されたものであることを特徴とする請求項1、請求項2、請求項3、または請求項4に記載の画像処理装置。
  16. 上記設定手段は、上記階調変換特性として、基準階調変換曲線に対する乗算係数を用いるものであることを特徴とする請求項15に記載の画像処理装置。
  17. 上記設定手段は、上記階調変換特性として、基準階調変換曲線に対する距離を用いるものであることを特徴とする請求項15に記載の画像処理装置。
  18. 上記第1の定式化手段と上記第2の定式化手段との少なくとも一方は、上記予測式として、2次関数式を用いるものであることを特徴とする請求項15に記載の画像処理装置。
  19. 上記ノイズ推定手段は、
    上記撮像系の温度値と、上記映像信号に対するゲイン値と、に関する情報を収集する収集手段と、
    上記収集手段で得られない情報に関して標準値を付与する標準値付与手段と、
    上記画素または上記所定単位面積を包含する所定サイズの局所領域の映像信号の平均値を算出する平均算出手段と、
    上記収集手段または上記標準値付与手段からの情報と、上記平均値と、に基づいてノイズ量を求めるノイズ量算出手段と、
    を有して構成されたものであることを特徴とする請求項3、請求項4、請求項5、または請求項6に記載の画像処理装置。
  20. 上記ノイズ低減手段は、
    上記推定されたノイズ量に基づきノイズ範囲を設定するノイズ範囲設定手段と、
    上記映像信号がノイズ範囲に属する場合に該映像信号に平滑化を行う第1のスムージング手段と、
    上記映像信号がノイズ範囲に属さない場合に該映像信号に補正を行う第2のスムージング手段と、
    を有して構成されたものであることを特徴とする請求項3または請求項4に記載の画像処理装置。
  21. 上記階調変換処理後の各領域の映像信号を合成する合成手段をさらに具備したことを特徴とする請求項2または請求項4に記載の画像処理装置。
  22. 上記撮像系は、R(赤),G(緑),B(青)Bayer型原色フィルタを前面に配置した単板撮像素子、またはCy(シアン),Mg(マゼンタ),Ye(イエロー),G(緑)色差線順次型補色フィルタを前面に配置した単板撮像素子、を有して構成されたものであることを特徴とする請求項1、請求項2、請求項3、または請求項4に記載の画像処理装置。
  23. コンピュータに、撮像系から得られた映像信号に対して階調変換処理を行わせるための画像処理プログラムであって、
    コンピュータに、
    上記映像信号から、映像信号の情報量と、ノイズの情報量と、を算出する情報量算出手順、
    上記情報量に基づき、階調変換処理に用いる階調変換曲線を設定する設定手順、
    上記階調変換曲線に基づき、上記映像信号に対して階調変換処理を行う階調変換手順、
    を実行させるための画像処理プログラム。
  24. コンピュータに、撮像系から得られた映像信号に対して階調変換処理を行わせるための画像処理プログラムであって、
    コンピュータに、
    上記映像信号を複数の領域に分割する分割手順、
    上記領域の映像信号から、映像信号の情報量と、ノイズの情報量と、を算出する情報量算出手順、
    上記情報量に基づき、階調変換処理に用いる階調変換曲線を設定する設定手順、
    上記階調変換曲線に基づき、上記領域の映像信号に対して階調変換処理を行う階調変換手順、
    上記領域毎に上記情報量算出手順と上記設定手順と上記階調変換手順とを順次適用するように制御する制御手順、
    を実行させるための画像処理プログラム。
  25. コンピュータに、撮像系から得られた映像信号に対してノイズ低減処理と階調変換処理とを行わせるための画像処理プログラムであって、
    コンピュータに、
    上記映像信号のノイズ量を画素単位または所定単位面積毎に推定するノイズ推定手順、
    上記映像信号に対して上記ノイズ量に基づきノイズ低減処理を行うノイズ低減手順、
    上記ノイズ低減処理後の映像信号から、映像信号の情報量と、ノイズの情報量と、を算出する情報量算出手順、
    上記情報量に基づき、階調変換処理に用いる階調変換曲線を設定する設定手順、
    上記階調変換曲線に基づき、上記ノイズ低減処理後の映像信号に対して階調変換処理を行う階調変換手順、
    を実行させるための画像処理プログラム。
  26. コンピュータに、撮像系から得られた映像信号に対してノイズ低減処理と階調変換処理とを行わせるための画像処理プログラムであって、
    コンピュータに、
    上記映像信号のノイズ量を画素単位または所定単位面積毎に推定するノイズ推定手順、
    上記映像信号に対して上記ノイズ量に基づきノイズ低減処理を行うノイズ低減手順、
    上記ノイズ低減処理後の映像信号を複数の領域に分割する分割手順、
    上記領域の映像信号から、映像信号の情報量と、ノイズの情報量と、を算出する情報量算出手順、
    上記情報量に基づき、階調変換処理に用いる階調変換曲線を設定する設定手順、
    上記階調変換曲線に基づき、上記ノイズ低減処理後の領域の映像信号に対して階調変換処理を行う階調変換手順、
    上記領域毎に上記情報量算出手順と上記設定手順と上記階調変換手順とを順次適用するように制御する制御手順、
    を実行させるための画像処理プログラム。
  27. 上記情報量算出手順は、
    上記映像信号または上記領域の映像信号を所定の縮小率で縮小映像信号へ変換する縮小手順と、
    上記縮小映像信号に対して階調特性の異なる複数の階調変換曲線を用いて階調変換処理を行う前処理手順と、
    上記階調変換処理がなされた縮小映像信号から映像信号の情報量を算出する第1の算出手順と、
    上記階調変換処理がなされた縮小映像信号のノイズ量を画素単位または所定単位面積毎に推定するノイズ推定手順と、
    上記ノイズ量からノイズの情報量を算出する第2の算出手順と、
    を含むことを特徴とする請求項23または請求項24に記載の画像処理プログラム。
  28. 上記情報量算出手順は、
    上記映像信号または上記領域の映像信号を所定の縮小率で縮小映像信号へ変換する縮小手順と、
    上記縮小映像信号に対して階調特性の異なる複数の階調変換曲線を用いて階調変換処理を行う前処理手順と、
    上記階調変換処理がなされた縮小映像信号から映像信号の情報量を算出する第1の算出手順と、
    上記階調変換処理がなされた縮小映像信号のノイズ量を画素単位または所定単位面積毎に推定する第2のノイズ推定手順と、
    上記ノイズ量からノイズの情報量を算出する第2の算出手順と、
    上記ノイズの情報量に対して上記ノイズ低減処理による低減効果に相応する補正を行う補正手順と、
    を含むことを特徴とする請求項25または請求項26に記載の画像処理プログラム。
  29. 上記情報量算出手順は、
    上記映像信号から関心領域を抽出する関心領域抽出手順と、
    上記関心領域に関して重み係数を設定する重み係数設定手順と、
    上記重み係数に基づき、上記映像信号の情報量と、ノイズの情報量と、の少なくとも一方に補正を行う重み係数補正手順と、
    を含むことを特徴とする請求項23または請求項25に記載の画像処理プログラム。
  30. 上記情報量算出手順は、
    上記領域に関して重み係数を設定する重み係数設定手順と、
    上記重み係数に基づき、上記映像信号の情報量と、ノイズの情報量と、の少なくとも一方に補正を行う重み係数補正手順と、
    を含むことを特徴とする請求項24または請求項26に記載の画像処理プログラム。
  31. 上記設定手順は、
    上記映像信号の情報量と所定の予測式とに基づいて階調変換特性に対する映像信号の情報量の関係を定式化する第1の定式化手順と、
    上記ノイズの情報量と所定の予測式とに基づいて階調変換特性に対するノイズの情報量の関係を定式化する第2の定式化手順と、
    上記映像信号に関する情報量の定式と上記ノイズに関する情報量の定式とに基づいて有効な情報量を最大にする階調変換特性を探索する探索手順と、
    上記階調変換特性に対応する階調変換曲線を出力する出力手順と、
    を含むことを特徴とする請求項23、請求項24、請求項25、または請求項26に記載の画像処理プログラム。
  32. 上記第1の定式化手順と上記第2の定式化手順との少なくとも一方は、上記予測式として、2次関数式を用いる手順であることを特徴とする請求項31に記載の画像処理プログラム。
JP2005141538A 2005-05-13 2005-05-13 画像処理装置、画像処理プログラム Expired - Fee Related JP4427001B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2005141538A JP4427001B2 (ja) 2005-05-13 2005-05-13 画像処理装置、画像処理プログラム
EP06745526A EP1881695A4 (en) 2005-05-13 2006-04-20 IMAGE PROCESSING DEVICE AND PICTURE PROCESSING PROGRAM
PCT/JP2006/308345 WO2006120864A1 (ja) 2005-05-13 2006-04-20 画像処理装置、画像処理プログラム
US11/978,315 US8184924B2 (en) 2005-05-13 2007-10-29 Image processing apparatus and image processing program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005141538A JP4427001B2 (ja) 2005-05-13 2005-05-13 画像処理装置、画像処理プログラム

Publications (2)

Publication Number Publication Date
JP2006319781A true JP2006319781A (ja) 2006-11-24
JP4427001B2 JP4427001B2 (ja) 2010-03-03

Family

ID=37396377

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005141538A Expired - Fee Related JP4427001B2 (ja) 2005-05-13 2005-05-13 画像処理装置、画像処理プログラム

Country Status (4)

Country Link
US (1) US8184924B2 (ja)
EP (1) EP1881695A4 (ja)
JP (1) JP4427001B2 (ja)
WO (1) WO2006120864A1 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008149904A1 (ja) * 2007-06-05 2008-12-11 Olympus Corporation 画像信号処理装置および画像信号処理プログラム
JP2010130299A (ja) * 2008-11-27 2010-06-10 Sony Corp 画像信号処理装置および方法、プログラム、並びに撮像装置
KR20140045856A (ko) * 2012-10-09 2014-04-17 에스케이텔레콤 주식회사 열상카메라의 영상 잡음 레벨에 기반한 대조비 향상 기법 및 장치
KR20140049410A (ko) * 2012-10-17 2014-04-25 에스케이텔레콤 주식회사 열화상 영상의 모션벡터에 기반한 히스토그램 안정화 방법 및 장치
KR102083215B1 (ko) * 2019-08-02 2020-03-02 (주)디티앤씨 전자기파 적합성 시험장치와 이를 이용한 전자기파 적합성 시험 방법

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7755670B2 (en) * 2005-10-24 2010-07-13 Nikon Corporation Tone-conversion device for image, program, electronic camera, and tone-conversion method
JP4916341B2 (ja) * 2007-02-28 2012-04-11 オリンパス株式会社 画像処理装置及び画像処理プログラム
US20090136096A1 (en) * 2007-11-23 2009-05-28 General Electric Company Systems, methods and apparatus for segmentation of data involving a hierarchical mesh
JP5118466B2 (ja) * 2007-12-14 2013-01-16 三星電子株式会社 記録装置、再生装置、記録方法、再生方法及びプログラム
JP2010026734A (ja) * 2008-07-17 2010-02-04 Canon Inc 画像処理装置およびその方法
JP2010252194A (ja) * 2009-04-17 2010-11-04 Canon Inc 画像処理装置及び画像処理方法
WO2011056994A2 (en) * 2009-11-04 2011-05-12 Board Of Regents, The University Of Texas System Adaptive automatic exposure apparatus and method for digital images
US8582915B2 (en) * 2011-06-27 2013-11-12 Wuxi Jinnang Technology Development Ltd. Image enhancement for challenging lighting conditions
GB2492956A (en) * 2011-07-14 2013-01-23 St Microelectronics Res & Dev Method and system for image quality learning with solid state image sensors
JP5948073B2 (ja) 2012-02-08 2016-07-06 株式会社 日立産業制御ソリューションズ 画像信号処理装置、画像信号処理方法
US9330447B2 (en) * 2012-04-25 2016-05-03 Rakuten, Inc. Image evaluation device, image selection device, image evaluation method, recording medium, and program
KR102251440B1 (ko) * 2014-11-05 2021-05-14 삼성전자주식회사 로컬 톤 맵핑 회로와 이를 포함하는 모바일 컴퓨팅 장치
KR102431430B1 (ko) 2015-12-29 2022-08-12 삼성디스플레이 주식회사 휘도 왜곡 보상 장치, 이를 이용한 휘도 왜곡 보상 방법, 및 이를 포함하는 표시 패널 검사 시스템
US10140690B2 (en) * 2017-02-03 2018-11-27 Harman International Industries, Incorporated System and method for image presentation by a vehicle driver assist module
JP7278096B2 (ja) * 2019-02-20 2023-05-19 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5984968U (ja) * 1982-11-26 1984-06-08 シャープ株式会社 自動画質調整回路
US5164993A (en) * 1991-11-25 1992-11-17 Eastman Kodak Company Method and apparatus for automatic tonescale generation in digital radiographic images
US5633511A (en) * 1995-12-22 1997-05-27 Eastman Kodak Company Automatic tone scale adjustment using image activity measures
JP3424060B2 (ja) * 1997-01-27 2003-07-07 松下電器産業株式会社 階調補正装置ならびにそれを用いた映像信号処理装置
JP2000354179A (ja) * 1999-06-11 2000-12-19 Nikon Corp 信号変換方法、および信号変換プログラムを記録した記録媒体
JP3465226B2 (ja) 1999-10-18 2003-11-10 学校法人慶應義塾 画像濃度変換処理方法
US6813389B1 (en) * 1999-12-15 2004-11-02 Eastman Kodak Company Digital image processing method and system including noise reduction and tone scale adjustments
US6804408B1 (en) * 1999-12-22 2004-10-12 Eastman Kodak Company Method for enhancing a digital image with noise-dependent control of texture
US6717698B1 (en) * 2000-02-02 2004-04-06 Eastman Kodak Company Tone scale processing based on image modulation activity
GB2367966B (en) * 2000-10-09 2003-01-15 Motorola Inc Method and apparatus for determining regions of interest in images and for image transmission
JP2002163637A (ja) * 2000-11-27 2002-06-07 Omron Corp 画像検査装置及び画像検査方法
EP1416717A4 (en) * 2001-06-06 2010-09-29 Sharp Kk BILDCODE PROCESS AND PICTURE DEVICE
US7068841B2 (en) * 2001-06-29 2006-06-27 Hewlett-Packard Development Company, L.P. Automatic digital image enhancement
US7397953B2 (en) * 2001-07-24 2008-07-08 Hewlett-Packard Development Company, L.P. Image block classification based on entropy of differences
JP2003069821A (ja) 2001-08-23 2003-03-07 Olympus Optical Co Ltd 撮像システム
DE60323625D1 (de) * 2002-05-03 2008-10-30 Vialogy Llc Verfahren zur charakterisierung der ausgangssignale eines microarrays
JP3934506B2 (ja) 2002-08-06 2007-06-20 オリンパス株式会社 撮像システムおよび画像処理プログラム
AU2003270386A1 (en) * 2002-09-06 2004-03-29 Rytec Corporation Signal intensity range transformation apparatus and method
JP3893099B2 (ja) 2002-10-03 2007-03-14 オリンパス株式会社 撮像システムおよび撮像プログラム
JP4403361B2 (ja) * 2003-03-05 2010-01-27 ソニー株式会社 表示処理方法、表示処理装置、および、表示システム
JP2005141538A (ja) 2003-11-07 2005-06-02 Fujitsu Ltd 電子回路の動作率計算方法及び装置並びにプログラム
WO2006113583A2 (en) * 2005-04-15 2006-10-26 Mississippi State University Remote sensing imagery accuracy analysis method and apparatus

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008149904A1 (ja) * 2007-06-05 2008-12-11 Olympus Corporation 画像信号処理装置および画像信号処理プログラム
US8289421B2 (en) 2007-06-05 2012-10-16 Olympus Corporation Image-signal processing device and image signal processing program
JP2010130299A (ja) * 2008-11-27 2010-06-10 Sony Corp 画像信号処理装置および方法、プログラム、並びに撮像装置
JP4645921B2 (ja) * 2008-11-27 2011-03-09 ソニー株式会社 画像信号処理装置および方法、プログラム、並びに撮像装置
US8564862B2 (en) 2008-11-27 2013-10-22 Sony Corporation Apparatus, method and program for reducing deterioration of processing performance when graduation correction processing and noise reduction processing are performed
KR20140045856A (ko) * 2012-10-09 2014-04-17 에스케이텔레콤 주식회사 열상카메라의 영상 잡음 레벨에 기반한 대조비 향상 기법 및 장치
KR101937249B1 (ko) * 2012-10-09 2019-04-11 에스케이 텔레콤주식회사 열상카메라의 영상 잡음 레벨에 기반한 대조비 향상 기법 및 장치
KR20140049410A (ko) * 2012-10-17 2014-04-25 에스케이텔레콤 주식회사 열화상 영상의 모션벡터에 기반한 히스토그램 안정화 방법 및 장치
KR102011490B1 (ko) * 2012-10-17 2019-08-16 에스케이 텔레콤주식회사 열화상 영상의 모션벡터에 기반한 히스토그램 안정화 방법 및 장치
KR102083215B1 (ko) * 2019-08-02 2020-03-02 (주)디티앤씨 전자기파 적합성 시험장치와 이를 이용한 전자기파 적합성 시험 방법

Also Published As

Publication number Publication date
EP1881695A1 (en) 2008-01-23
WO2006120864A1 (ja) 2006-11-16
US20080085062A1 (en) 2008-04-10
US8184924B2 (en) 2012-05-22
EP1881695A4 (en) 2009-09-16
JP4427001B2 (ja) 2010-03-03

Similar Documents

Publication Publication Date Title
JP4427001B2 (ja) 画像処理装置、画像処理プログラム
JP4837503B2 (ja) 画像処理システム、画像処理プログラム
JP3762725B2 (ja) 撮像システムおよび画像処理プログラム
JP4628937B2 (ja) カメラシステム
JP4837365B2 (ja) 画像処理システム、画像処理プログラム
US8035705B2 (en) Image processing system, image processing method, and image processing program product
EP1930853A1 (en) Image signal processing apparatus and image signal processing
US8115833B2 (en) Image-acquisition apparatus
US7755670B2 (en) Tone-conversion device for image, program, electronic camera, and tone-conversion method
US20010016064A1 (en) Image processing apparatus
JP5123756B2 (ja) 撮像システム、画像処理方法および画像処理プログラム
US8223226B2 (en) Image processing apparatus and storage medium storing image processing program
JP4468734B2 (ja) 映像信号処理装置と映像信号処理プログラム
KR20080035981A (ko) 화상처리장치, 촬상장치, 화상처리방법 및 컴퓨터 프로그램
WO2005081543A1 (ja) 撮像システム、画像処理プログラム
KR101309008B1 (ko) 화상처리방법 및 화상처리장치
WO2007043325A1 (ja) 画像処理システム、画像処理プログラム
JP4959237B2 (ja) 撮像システム及び撮像プログラム
JP4916341B2 (ja) 画像処理装置及び画像処理プログラム
JP2009004893A (ja) 画像処理装置およびこれを備える撮像システム
JP2009100207A (ja) ノイズ低減システム、ノイズ低減プログラム及び撮像システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080227

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090303

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090416

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20091117

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091211

R151 Written notification of patent or utility model registration

Ref document number: 4427001

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121218

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131218

Year of fee payment: 4

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees