JP4944639B2 - 画像処理装置、画像処理方法及び撮影装置 - Google Patents

画像処理装置、画像処理方法及び撮影装置 Download PDF

Info

Publication number
JP4944639B2
JP4944639B2 JP2007051610A JP2007051610A JP4944639B2 JP 4944639 B2 JP4944639 B2 JP 4944639B2 JP 2007051610 A JP2007051610 A JP 2007051610A JP 2007051610 A JP2007051610 A JP 2007051610A JP 4944639 B2 JP4944639 B2 JP 4944639B2
Authority
JP
Japan
Prior art keywords
image
image signal
signal
image processing
weighting function
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007051610A
Other languages
English (en)
Other versions
JP2008219271A (ja
Inventor
公祐 入江
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2007051610A priority Critical patent/JP4944639B2/ja
Publication of JP2008219271A publication Critical patent/JP2008219271A/ja
Application granted granted Critical
Publication of JP4944639B2 publication Critical patent/JP4944639B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Facsimile Image Signal Circuits (AREA)
  • Image Processing (AREA)
  • Color Television Image Signal Generators (AREA)
  • Processing Of Color Television Signals (AREA)

Description

本発明は画像処理装置、画像処理方法及び撮影装置に係り、特にカラー撮像素子により取得した画像信号を処理するための画像処理装置、画像処理方法及び撮影装置に関する。
特許文献1には、ホワイトバランス調整手段によるホワイトバランス調整前又は調整後の1つの色信号のレベルに応じて、ホワイトバランス調整手段によるホワイトバランス調整後の他の色信号のクリップレベルを設定するカラー撮像装置が開示されている。
特開2000−13808号公報
従来、撮像素子の分光特性に起因する色再現の不良を改善するためにリニアマトリクス処理等の画像処理が行われている。ところで、デジタルの画像信号の信号レベルはダイナミックレンジによって制限される。このため、上記の画像処理の結果、画像信号の信号レベル(輝度レベル)が規定のビット幅(ダイナミックレンジ)内に収まらなくなった場合、信号レベルが高い側(高輝度部)又は低い側(低輝度部)がクリップされてしまう。このように、画像信号の一部がクリップされると、高輝度部又は低輝度部で色づき(偽色)が発生するという問題があった。更に、クリップされた部分の情報が失われてしまうため、階調とび(階調落ち)等の新たな問題が発生するという問題があった。
特許文献1は、ホワイトバランス調整後の色信号のクリップレベルを設定することにより高輝度部で発生する色づきの問題を軽減するものであるが、クリップレベルの制限から偽色をゼロにするのは困難であった。また、色信号のクリップされた部分の情報が失われてしまうため、階調とび等の新たな問題が発生する。更に、画像処理に起因する問題は低輝度部でも発生しうるが、引用文献1は低輝度部における問題を解決するものではなかった。
本発明はこのような事情に鑑みてなされたもので、ダイナミックレンジの制限に起因するデジタルの画像信号の色づきや階調とびを軽減することができる画像処理装置、画像処理方法及び撮影装置を提供することを目的とする。
上記課題を解決するために、本願発明1に係る画像処理装置は、デジタルの画像信号を取得する画像取得手段と、前記画像取得手段によって取得された画像信号に対して画像処理を施す画像処理手段と、前記画像処理が施された画像信号の信号レベルが規定のビット幅に収まるように、所定の重み付け関数に従って、前記画像処理が施される前の処理前画像信号と、前記画像処理が施された後の処理済画像信号の重み付け演算を行い、記録用の画像信号を取得する演算手段と、前記記録用の画像信号を記録する画像記録手段とを備えることを特徴とする。
本願発明1によれば、画像処理前後の画像信号の重み付け演算を行って得られた画像信号を記録用の画像信号とすることにより、処理済画像信号が規定のビット幅(ダイナミックレンジ)内に収まらず、信号レベルが高い画素(高輝度部)及び信号レベルが低い画素(低輝度部)の画像信号がクリップされて、階調特性情報が失われる問題を回避できる。これにより、色再現性を保ちつつ、画像処理に起因する画像信号のオーバーフロー及びアンダーフローを軽減することができるので、ダイナミックレンジの制限に起因するデジタルの画像信号の色づきや階調とびを軽減することができる。
本願発明2は、本願発明1の画像処理装置において、前記画像処理手段は、前記画像信号に対してリニアマトリクス処理を施すことを特徴とする。
高輝度部又は低輝度部で画像信号がクリップされる問題はリニアマトリクス処理時に生じやすいので、本願発明2によれば、ダイナミックレンジの制限に起因するデジタルの画像信号の色づきや階調とびを効果的に軽減することができる。
本願発明3は、本願発明1又は2の画像処理装置において、前記画像取得手段は、色ごとの画像信号を取得し、前記演算手段は、前記画像信号の色ごとに重み付け演算を行うことを特徴とする。
本願発明3によれば、画像処理前後の画像信号に対して、色ごとに重み付け演算を行うことにより、色ごとに良好な階調表現が得られる。
本願発明4は、本願発明1から3の画像処理装置において、前記デジタルの画像信号の撮影時における撮影条件情報を取得する撮影条件情報取得手段を更に備え、前記演算手段は、前記撮影条件情報に基づいて前記重み付け関数を設定することを特徴とする。
本願発明4によれば、撮影条件情報に基づいて信号レベルのオーバーフロー及びアンダーフローが起こりにくいように重み付け関数を設定することにより、高輝度部及び低輝度部の階調特性情報が失われる問題を回避できる。これにより、ダイナミックレンジの制限に起因するデジタルの画像信号の色づきや階調とびを軽減することができる。
本願発明5は、本願発明1から4の画像処理装置において、前記画像取得手段によって取得された画像信号に対してホワイトバランス調整処理を施すホワイトバランス調整手段を更に備え、前記演算手段は、前記ホワイトバランス調整処理におけるホワイトバランスゲインに基づいて前記重み付け関数を設定することを特徴とする。
本願発明5によれば、ホワイトバランスゲインに応じて信号レベルのオーバーフロー及びアンダーフローが起こりにくいように重み付け関数を設定することにより、高輝度部及び低輝度部の階調特性情報が失われる問題を回避できる。
本願発明6は、本願発明5の画像処理装置において、前記演算手段は、前記画像信号の各色成分に対するホワイトバランスゲインの平均値に基づいて前記重み付け関数を設定することを特徴とする。
本願発明7は、本願発明5又は6の画像処理装置において、前記演算手段は、前記ホワイトバランスゲインが所定値以上の場合に、前記信号レベルが高い側の処理済画像信号に乗算する重み付け関数を小さくすることを特徴とする。
本願発明7によれば、ホワイトバランスゲインが大きい場合に、信号レベルのオーバーフローが起こりにくくなるように重み付け関数を設定することにより、高輝度部の階調特性情報が失われる問題を回避できる。
本願発明8は、本願発明5から7の画像処理装置において、前記演算手段は、前記ホワイトバランスゲインが所定値未満の場合に、前記信号レベルが低い側の処理済画像信号に乗算する重み付け関数を小さくすることを特徴とする。
本願発明8によれば、ホワイトバランスゲインが小さい場合に、信号レベルのアンダーフローが起こりにくくなるように重み付け関数を設定することにより、低輝度部の階調特性情報が失われる問題を回避できる。
本願発明9は、本願発明1から8の画像処理装置において、前記画像取得手段によって取得された画像信号に対して露出補正を施す露出補正手段を更に備え、前記演算手段は、前記露出補正の条件に基づいて前記重み付け関数を設定することを特徴とする。
本願発明9によれば、露出補正の条件に応じて信号レベルのオーバーフロー及びアンダーフローが起こりにくいように重み付け関数を設定することにより、高輝度部及び低輝度部の階調特性情報が失われる問題を回避できる。
本願発明10は、本願発明9の画像処理装置において、前記演算手段は、前記露出補正手段によってプラス補正が行われた場合に、前記信号レベルが高い側の処理済画像信号に乗算する重み付け関数を小さくすることを特徴とする。
本願発明10によれば、露出をプラス方向に補正する場合に、信号レベルのオーバーフローが起こりにくくなるように重み付け関数を設定することにより、高輝度部の階調特性情報が失われる問題を回避できる。
本願発明11は、本願発明9又は10の画像処理装置において、前記演算手段は、前記露出補正手段によってマイナス補正が行われた場合に、前記信号レベルが低い側の処理済画像信号に乗算する重み付け関数を小さくすることを特徴とする。
本願発明11によれば、露出をマイナス方向に補正する場合に、信号レベルのアンダーフローが起こりにくくなるように重み付け関数を設定することにより、低輝度部の階調特性情報が失われる問題を回避できる。
本願発明12は、本願発明1から11の画像処理装置において、前記画像取得手段によって取得された画像信号又は前記画像処理が施された画像信号の信号レベルごとの画素数の分布を取得する信号レベル分布取得手段を更に備え、前記演算手段は、前記画像信号の信号レベルごとの画素数の分布に基づいて前記重み付け関数を設定することを特徴とする。
本願発明12によれば、信号レベルごとの画素数の分布に応じて信号レベルのオーバーフロー及びアンダーフローが起こりにくいように重み付け関数を設定することにより、高輝度部及び低輝度部の階調特性情報が失われる問題を回避できる。
本願発明13は、本願発明12の画像処理装置において、前記演算手段は、前記信号レベルが高い側の画素数が多い場合に、前記信号レベルが高い側の処理済画像信号に乗算する重み付け関数を小さくすることを特徴とする。
本願発明13によれば、信号レベルが高い側の画素数が多い場合に、信号レベルのオーバーフローが起こりにくくなるように重み付け関数を設定することにより、高輝度部の階調特性情報が失われる問題を回避できる。
本願発明14は、本願発明12又は13の画像処理装置において、前記演算手段は、前記信号レベルが低い側の画素数が多い場合に、前記信号レベルが低い側の処理済画像信号に乗算する重み付け関数を小さくすることを特徴とする。
本願発明14によれば、信号レベルが低い側の画素数が多い場合に、信号レベルのアンダーフローが起こりにくくなるように重み付け関数を設定することにより、低輝度部の階調特性情報が失われる問題を回避できる。
本願発明15は、本願発明1から14の画像処理装置において、前記画像取得手段によって取得された画像信号に対して階調補正を施す階調補正手段を更に備え、前記演算手段は、前記階調補正の条件に基づいて前記重み付け関数を設定することを特徴とする。
本願発明15によれば、階調補正の条件(階調変換特性)に応じて信号レベルのオーバーフロー及びアンダーフローが起こりにくいように重み付け関数を設定することにより、高輝度部及び低輝度部の階調特性情報が失われる問題を回避できる。
本願発明16は、本願発明15の画像処理装置において、前記演算手段は、低い側の画像信号の信号レベルを上げる階調補正が行われた場合に、前記信号レベルが低い側の処理済画像信号に乗算する重み付け関数を大きくすることを特徴とする。
即ち、本願発明16では、信号レベルが低い側の画像信号の信号レベルを上げる階調補正が行われた場合には、アンダーフローが起こりにくくなるため、低輝度部における処理済画像信号の重み付けの比率を大きくする。これにより、信号レベルのオーバーフロー及びアンダーフローにより階調特性情報が失われる問題を回避しつつ、低輝度部における色再現性を高めることができる。
本願発明17は、本願発明15又は16の画像処理装置において、前記演算手段は、低い側の画像信号の信号レベルを下げる階調補正が行われた場合に、前記信号レベルが低い側の処理済画像信号に乗算する重み付け関数を小さくすることを特徴とする。
本願発明17によれば、低い側の画像信号の信号レベルを下げる階調補正が行われた場合に、信号レベルのアンダーフローが起こりにくくなるように重み付け関数を設定することにより、低輝度部の階調特性情報が失われる問題を回避できる。
本願発明18は、本願発明15から17の画像処理装置において、前記演算手段は、高い側の画像信号の信号レベルを上げる階調補正が行われた場合に、前記信号レベルが高い側の処理済画像信号に乗算する重み付け関数を小さくすることを特徴とする。
本願発明18によれば、高い側の画像信号の信号レベルを上げる階調補正が行われた場合に、信号レベルのオーバーフローが起こりにくくなるように重み付け関数を設定することにより、高輝度部の階調特性情報が失われる問題を回避できる。
本願発明19は、本願発明15から18の画像処理装置において、前記演算手段は、高い側の画像信号の信号レベルを下げる階調補正が行われた場合に、前記信号レベルが高い側の処理済画像信号に乗算する重み付け関数を大きくすることを特徴とする。
即ち、本願発明19では、信号レベルが高い側の画像信号の信号レベルを下げる階調補正が行われた場合には、オーバーフローが起こりにくくなるため、高輝度部における処理済画像信号の重み付けの比率を大きくする。これにより、信号レベルのオーバーフロー及びアンダーフローにより階調特性情報が失われる問題を回避しつつ、高輝度部における色再現性を高めることができる。
本願発明20に係る撮影装置は、画像を撮影してデジタルの画像信号を取得する撮影手段と、前記撮影手段によって取得されたデジタルの画像信号に対して所定の画像処理を施す本願発明1から19の画像処理装置とを備えることを特徴とする。
本願発明20に係る撮影装置によれば、本願発明に係る画像処理装置を備えたことにより、リニアマトリクス処理等の画像処理を施すことにより、画像の色再現性を高めつつ、信号レベル(輝度)のオーバーフロー及びアンダーフローにより色の階調特性に関する情報が失われる問題を回避することができる。
本願発明21に係る画像処理方法は、デジタルの画像信号を取得する画像取得工程と、前記画像取得工程において取得した画像信号に対して画像処理を施す画像処理工程と、前記画像処理が施された画像信号の信号レベルが規定のビット幅に収まるように、所定の重み付け関数に従って、前記画像処理が施される前の処理前画像信号と、前記画像処理が施された後の処理済画像信号の重み付け演算を行い、記録用の画像信号を取得する演算工程と、前記記録用の画像信号を記録する画像記録工程とを備えることを特徴とする。
本願発明22は、本願発明21の画像処理方法において、前記画像取得工程において取得した画像信号に対してホワイトバランス調整処理を施すホワイトバランス調整工程を更に備え、前記演算工程では、前記ホワイトバランス調整工程におけるホワイトバランスゲインに基づいて前記重み付け関数を設定することを特徴とする。
本願発明23は、本願発明21又は22の画像処理方法において、前記画像取得工程において取得した画像信号に対して露出補正を施す露出補正工程を更に備え、前記演算工程では、前記露出補正の条件に基づいて前記重み付け関数を設定することを特徴とする。
本願発明24は、本願発明21から23の画像処理方法において、前記画像取得工程において取得した画像信号又は前記画像処理が施された画像信号の信号レベルごとの画素数の分布を取得する信号レベル分布取得工程を更に備え、前記演算工程では、前記画像信号の信号レベルごとの画素数の分布に基づいて前記重み付け関数を設定することを特徴とする。
本願発明25は、本願発明21から24の画像処理方法において、前記画像取得工程において取得した画像信号に対して階調補正を施す階調補正工程を更に備え、前記演算工程では、前記階調補正の条件に基づいて前記重み付け関数を設定することを特徴とする。
本発明によれば、画像処理前後の画像信号の重み付け演算を行って得られた画像信号を記録用の画像信号とすることにより、処理済画像信号が規定のビット幅(ダイナミックレンジ)内に収まらず、信号レベルが高い画素(高輝度部)及び信号レベルが低い画素(低輝度部)の画像信号がクリップされて、階調特性情報が失われる問題を回避できる。これにより、色再現性を保ちつつ、画像処理に起因する画像信号のオーバーフロー及びアンダーフローを軽減することができるので、ダイナミックレンジの制限に起因するデジタルの画像信号の色づきや階調とびを軽減することができる。
以下、添付図面に従って本発明に係る画像処理装置、画像処理方法及び撮影装置の好ましい実施の形態について説明する。
[第1の実施形態]
図3は、本発明の第1の実施形態に係る画像処理装置を備えた撮影装置の主要構成を示すブロック図である。図3に示すように、CPU12は、バス14を介して撮影装置10(以下、カメラ10と記載する)内の各部に接続されており、操作部16等からの操作入力に基づいてカメラ10の動作を制御する統括制御部である。CPU12は、操作部16からの入力信号に基づいてカメラ10の各部を制御し、例えば、レンズユニット28の駆動制御、撮影動作制御、画像処理制御、画像データの記録/再生制御、画像表示部40の表示制御等を行う。
操作部16は、電源スイッチ、動作モード切り替えスイッチ、撮影モード切り替えスイッチ、顔検出機能オン/オフスイッチ、レリーズボタン、メニュー/OKキー、十字キー、キャンセルキー及びフラッシュボタンを含んでいる。
電源スイッチは、カメラ10の電源のオン/オフを制御するための操作手段である。
動作モード切り替えスイッチは、カメラ10の動作モードを、撮影モードと再生モードとの間で切り替えるための操作手段である。
撮影モード切り替えスイッチは、カメラ10の撮影モードを切り替えるための操作手段である。カメラ10の撮影モードは、シーンポジション(例えば、ナチュラルフォト、人物、風景、スポーツ、夜景、水中、接写(花等)又はテキスト文章)に応じてフォーカスや露出を最適化して撮影するためのシーンポジションモード、フォーカスや露出を自動的に設定するオートモード、フォーカスや露出をマニュアルで設定可能なマニュアルモード又は動画撮影モードに切り替え可能となっている。
顔検出機能オン/オフスイッチは、撮影した画像から顔を検出する顔検出モードのオン/オフを制御する。
レリーズボタンは、撮影開始の指示を入力する操作ボタンであり、半押し時にオンするS1スイッチと、全押し時にオンするS2スイッチとを有する2段ストローク式のスイッチにより構成されている。
メニュー/OKキーは、画像表示部40の画面上にメニューを表示させる指令を行うためのメニューボタンとしての機能と、選択内容の確定及び実行等を指令するOKボタンとしての機能とを兼備した操作キーである。
十字キーは、上下左右の4方向の指示を入力する操作部であり、メニュー画面から項目を選択したり、各メニューから各種設定項目の選択を指示したりするボタン(カーソル移動操作手段)として機能する。また、十字キーの上キー及び下キーは撮影モード時のズームスイッチあるいは再生時の再生ズームスイッチとして機能し、左キー及び右キーは再生モード時のコマ送り(順方向/逆方向送り)ボタンとして機能する。
キャンセルキーは、選択項目等の所望の対象の消去や指示内容の取り消し、あるいは1つ前の操作状態に戻す時等に使用される。
フラッシュボタンは、フラッシュモードを切り替えるボタンとして機能し、撮影モードの下、フラッシュボタンを押圧操作することにより、フラッシュモードが、フラッシュ発光/発光禁止の各モードに設定される。
ROM18には、CPU12が処理するプログラム及び制御に必要な各種データ等が格納される。RAM20には、CPU12が各種の演算処理等を行う作業用領域及び画像処理領域が含まれている。
カメラ10は、メディアソケット(メディア装着部)を有しており、記録メディア22を装着することができる。記録メディア22の形態は特に限定されず、xDピクチャカード(登録商標)、SDカード(登録商標)、スマートメディア(登録商標)に代表される半導体メモリカード、可搬型小型ハードディスク、磁気ディスク、光ディスク、光磁気ディスク等の種々の媒体を用いることができる。メディアコントローラ24は、記録メディア22に適した入出力信号の受渡しを行うために所要の信号変換を行う。
また、カメラ10は、インターネットや携帯電話用の通信網等の公衆回線網に接続するための通信手段として通信インターフェース部(通信I/F)26を備えている。
次に、カメラ10の撮影機能について説明する。撮影モード時には、撮像素子30を含む撮像部に電源が供給され、画像の撮影が可能な状態になる。本実施形態では、撮像素子30として、単板式のカラーCCD固体撮像素子を採用しており、以下の説明では単にCCD30と記載する。なお、撮像素子30としては、3板式のCCDやCMOSセンサ等の他の撮像素子を用いてもよい。
レンズユニット28は、フォーカスレンズ及びズームレンズを含む撮影レンズと、絞りとを含む光学ユニットである。レンズ駆動部28Aは、フォーカスレンズ、ズームレンズ及び絞りを移動させるためのモータ及び上記レンズの位置を検出するためのセンサ等を備える。CPU12は、レンズ駆動部28Aに制御信号を出力して、撮影レンズのフォーカシング、ズーミング及び絞りの制御を行う。
レンズユニット28を通過した光は、CCD30の受光面に結像される。CCD30の受光面には多数のフォトダイオード(受光素子)が2次元的に配列されており、各フォトダイオードには赤(R)、緑(G)、青(B)の原色カラーフィルタが所定の配列構造で配置されている。CCD30の受光面に結像された被写体像は、各フォトダイオードによって入射光量に応じた量の信号電荷に変換される。この信号電荷は、電荷量に応じたR、G、Bの電圧信号(画像信号)として順次読み出される。CCD30は、各フォトダイオードの電荷蓄積時間(シャッタースピード)を制御する電子シャッター機能を有している。CPU12は、撮影制御部30Aを介して、CCD30からの信号電荷の読み出しタイミング及びCCD30のフォトダイオードの電荷蓄積時間を制御する。
CCD30から読み出されたR、G、Bの画像信号は、アナログ処理部(CDS/AMP)32によって、CCD30の画素ごとにサンプリングホールド(相関2重サンプリング処理)されて増幅された後、A/D変換器34に加えられてデジタル信号に変換される。A/D変換器34によってデジタル信号に変換されたR、G、B信号は、画像入力制御部36を介してRAM20に格納される。
画像処理部38は、CPU12からの指令に従ってRAM20に記憶されたデジタルのR、G、B信号を読み出し、RAM20を活用しながらオフセット補正、ホワイトバランス調整、階調補正、リニアマトリクス処理、同時化処理等の所定の信号処理を施すとともに、R、G、B信号を輝度信号(Y信号)及び色差信号(Cr、Cb信号)に変換してRAM20に格納する。なお、画像処理部38の詳細については後述する。
撮影画像を画像表示部40(例えば、液晶モニタ)にモニタ出力する場合には、RAM20に格納されたY/C信号が読み出されて、バス14を介して表示制御部42に送られる。表示制御部42は、入力されたY/C信号を表示用の所定方式のビデオ信号(例えば、NTSC方式のカラー複合画像信号)に変換して画像表示部40に出力する。
ライブビュー画像(スルー画)の表示を行う際には、CCD30から出力される画像信号によってRAM20内の画像データが定期的に書き換えられ、その画像データから生成される画像信号が画像表示部40に供給される。これにより、撮影中の映像(スルー画)がリアルタイムに画像表示部40に表示される。撮影者は、画像表示部40に表示されるスルー画によって撮影画角を確認できる。
レリーズボタンが半押しされると(S1オン)、CCD30から出力された画像信号はA/D変換後に画像入力制御部36を介してCPU12に入力されてAE処理及びAF処理が開始される。
積算部48は、1画面を複数の分割エリア(例えば、8×8又は16×16)に分割して、この分割エリアごとにR、G、Bの画像信号を積算し、CPU12に提供する。CPU12は、この積算値に基づいて被写体の明るさ(被写体輝度)を検出して撮影に適した露出値(撮影EV値)を算出し、この露出値と所定のプログラム線図に従って絞り値とシャッタースピードを決定して、CCD30の電子シャッター及び絞りを制御して適正な露光量を得る。
更に、CPU12は、フラッシュ発光モードに設定された場合にフラッシュ制御部44にコマンドを送って動作させる。フラッシュ制御部44は、フラッシュ発光部46(放電管)を発光させるための電流を供給するためのメインコンデンサを含んでおり、CPU12からのフラッシュ発光指令に従ってメインコンデンサの充電制御、フラッシュ発光部46への放電(発光)のタイミング及び放電時間の制御等を行う。なお、フラッシュ発光部46としては、放電管のほかLEDを用いることも可能である。
また、CPU12は、自動ホワイトバランス調整時に、分割エリアごとにR、G、Bの画像信号の色別の平均積算値を算出して、分割エリアごとにR/G及びB/Gの比を求め、R/G、B/Gの値のR/G、B/G軸座標の色空間における分布等に基づいて光源種の判別を行う。そして、CPU12は、判別された光源種に応じてR、G、Bの画像信号に対するゲイン値(ホワイトバランスゲイン)を制御し、R、G、Bの各色チャンネルの画像信号に補正をかける。
カメラ10におけるAF制御は、例えば、画像信号のG信号の高周波成分が極大になるようにフォーカスレンズを移動させるコントラストAFが適用される。積算部48は、CCD30の有効画素領域の一部(例えば、有効画素領域の中央部)に予め設定されているAFエリア内の信号を切り出して、ハイパスフィルタによりAFエリア内のG信号の高周波成分のみを通過させ、この高周波成分の絶対値データを積算し、AFエリア内の被写体像に関する焦点評価値(AF評価値)を算出する。
CPU12は、レンズ駆動部28Aを制御してフォーカスレンズを移動させながら、積算部48により複数のAF検出ポイントで焦点評価値を演算し、焦点評価値が極大となるフォーカスレンズの位置(フォーカス位置)を合焦位置として決定する。そして、CPU12は、レンズ駆動部28Aを制御して、決定した合焦位置にフォーカスレンズを移動させる。なお、焦点評価値の演算はG信号を利用する態様に限らず、輝度信号(Y信号)を利用してもよい。
レリーズボタンが半押し(S1オン)されてAE/AF処理が行われた後、レリーズボタンが全押しされると(S2オン)、合焦判定が行われて、必要に応じてAF制御が再実行された後、記録用の撮影動作がスタートする。S2オンに応動して取得された画像データは画像処理部38において輝度/色差信号(Y/C信号)に変換されるとともに、ガンマ補正等の所定の処理が施された後、RAM20に格納される。
RAM20に格納されたY/C信号は、圧縮・伸張処理部50によって所定のフォーマットに従って圧縮された後、メディア制御部24を介して記録メディア22に記録される。例えば、静止画についてはJPEG(Joint Photographic Experts Group)形式、動画についてはAVI(Audio Video Interleaving)形式、Motion-JPEGの画像ファイルとして記録される。
再生モード時には、記録メディア22に記録されている最終の画像ファイル(最後に記録された画像ファイル)の圧縮データが読み出される。最後の記録に係る画像ファイルが静止画の場合、読み出された圧縮データは、圧縮・伸張処理部50によって非圧縮のY/C信号に伸張され、画像処理部38及び表示制御部42によって表示用の信号に変換された後、画像表示部40に出力される。これにより、当該画像ファイルの画像内容が画像表示部40に表示される。
静止画の1コマ再生中(動画の先頭フレーム再生中も含む)に、十字ボタンの右ボタン又は左ボタンを操作することによって、再生対象の画像ファイルを切り換えること(順コマ送り/逆コマ送り)ができる。コマ送りされた位置の画像ファイルは記録メディア22から読み出され、上記と同様にして静止画や動画が画像表示部40に再生表示される。
[画像処理部38の構成]
図4は、本実施形態に係る画像処理部38の主要構成を示すブロック図である。図4に示すように、画像処理部38は、オフセット補正回路60、ホワイトバランス調整回路62、階調補正回路64、リニアマトリクス処理回路66、同時化処理回路68、RGB−YC変換処理回路70、輪郭補正回路72及び色差マトリクス処理回路74を備えている。
オフセット補正回路60は、RAM20から読み出した点順次のR、G、B信号に対してオフセット補正を施し、黒バランスの調整を行う。
ホワイトバランス調整回路62は、オフセット補正された点順次のR、G、B信号に対してホワイトバランス調整を施す。
階調補正回路64は、ホワイトバランス調整回路62から出力された点順次のR、G、B信号に対して階調補正(ガンマ補正及びニー補正)を施す。
リニアマトリクス処理回路66は、階調補正された点順次のR、G、B信号に対してリニアマトリクス演算を施して色再現誤差の補正を行う。
同時化処理回路68は、CCD30の各画素位置におけるR、G、B信号を補間演算により求める同時化処理を行う。本実施形態では、CCD30は単板式であるため、CCD30の各フォトダイオード(画素)からは、R、G、Bのいずれか1色の信号しか出力されない。このため、同時化処理回路68を設けて、各画素から出力されない色をその周囲の画素の色信号から補間演算により求める。例えば、R信号を出力する画素の位置におけるG、B信号がどの程度になるかをその周囲の画素のG、B信号から補間演算により求める。なお、RGB補間演算は、単板式のCCDに特有のものなので、3板式のCCDを用いる場合には不要となる。
RGB−YC変換処理回路70は、同時化処理回路68により同時化されたR、G、B信号を輝度/色差信号(Y/C信号)に変換する。
輪郭補正回路72は、RGB−YC変換処理回路70により生成された輝度信号Yに対して輪郭補正を施し、色差マトリクス処理回路74は、RGB−YC変換処理回路70により生成された色差信号Cr、Cbに対して所定の色差マトリクス演算を施して色調補正を行う。そして、輪郭補正回路72及び色差マトリクス処理回路74から出力されたY/C信号はRAM20に格納される。
[リニアマトリクス処理回路66の構成]
次に、リニアマトリクス処理回路66について説明する。図1は、本実施形態に係るリニアマトリクス処理回路66の主要構成を示すブロック図である。図1に示すように、リニアマトリクス処理回路66は、画像処理演算部80、重み付け関数設定部82及び重み付け演算部84を備えている。
画像処理演算部80は、階調補正回路64によって階調補正が施された画像信号Aを取得してリニアマトリクス処理を施す。以下の説明では、リニアマトリクス処理が施された後の画像信号Aを処理済画像信号A’と記載する。
重み付け関数設定部82は、処理済画像信号A’の画素ごとの信号レベル(画素レベル)に応じて重み付け関数に従って重み付け関数w(A’)(w≦1)を設定し、重み付け係数wを演算する。
重み付け演算部84は、乗算回路86及び90、減算回路88、加算回路92を含んでおり、下記の式(1)に示す重み付け演算を行って画像信号A”を演算し、出力する。
A”=w×A’+(1−w)×A …(1)
ここで、重み付け係数wは、処理済画像信号A’の画素レベルがカメラ10のダイナミックレンジ内に収まっている場合にはw=1となり、処理済画像信号A’の画素レベルがカメラ10のダイナミックレンジ内に収まらない場合にはw=w0となる。ここで、w0は、処理済画像信号A’の画素レベルに応じて定まる数であり、例えば、0≦w0≦1である。w0は、例えば、上記の式(1)により得られる画像信号A”の画素レベルの最大値及び最小値がカメラ10のダイナミックレンジ内に収まるように設定される。
[重み付け演算処理]
次に、本実施形態に係る重み付け演算処理の流れについて、図2のフローチャートを参照して説明する。まず、画像処理部38に画像信号Aが入力されると、画像処理演算部80によって画像信号Aにリニアマトリクス処理が施されて、処理済画像信号A’が出力される(ステップS10)。次に、処理済画像信号A’の画素レベルが第1の所定値より大きく(ステップS12のNo)、且つ、第2の所定値より小さい場合には(ステップS14のNo)、重み付け係数がw=1に設定されて(ステップS16)、上記の式(1)に従って重み付け演算が行われる(ステップS18)。なお、第1、第2の所定値は、デジタルの画像信号のダイナミックレンジ(ビット幅)を規定する値であり、(第1の所定値)<(第2の所定値)である。
一方、処理済画像信号A’の画素レベルが第1の所定値より大きく(ステップS12のNo)、且つ、第2の所定値以上の場合には(ステップS14のYes)、重み付け係数がw=w1(w1<1)に設定されて(ステップS20)、上記の式(1)に従って重み付け演算が行われる(ステップS18)。また、処理済画像信号A’の画素レベルが第1の所定値以下の場合には(ステップS12のYes)、重み付け係数がw=w2(w2<1)に設定されて(ステップS22)、上記の式(1)に従って重み付け演算が行われる(ステップS18)。上記の処理をCCD30のすべての画素から出力される画像信号に対して繰り返すことにより、リニアマトリクス処理前の画像信号Aの階調特性情報を含む画像信号A”を得ることができる。
本実施形態によれば、リニアマトリクス処理前後の画像信号A、A’の重み付け演算を行うことにより、リニアマトリクス処理された処理済画像信号A’がカメラ10のダイナミックレンジ内に収まらず、信号レベルが高い画素(高輝度部)及び信号レベルが低い画素(低輝度部)の画像信号がクリップされて、階調特性情報が失われる問題を回避できる。これにより、ダイナミックレンジの制限に起因するデジタルの画像信号の色づきや階調とびを軽減することができる。
なお、本実施形態では、リニアマトリクス演算前後の画像信号A’に対して重み付け演算を施すようにしたが、例えば、オフセット補正回路60、ホワイトバランス調整回路62、階調補正回路64、リニアマトリクス処理回路66、輪郭補正回路72及び色差マトリクス処理回路74にも、上記図1と同様の重み付け関数設定部及び重み付け演算部を設けて、オフセット補正、ホワイトバランス調整、階調補正前後のR、G、B信号又は色差マトリクス処理前後の色差信号に対しても重み付け演算を施すようにしてもよい。
また、本実施形態では、高輝度部及び低輝度部の情報が失われないので、例えば、記録メディア22に記録された画像データからRAWデータを演算により求めることができる。
[第2の実施形態]
次に、本発明の第2の実施形態について説明する。なお、以下の説明において、上記第1の実施形態と同様の構成については説明を省略する。
図5は、本実施形態に係るリニアマトリクス処理回路66の主要構成を示すブロック図である。図5に示すように、リニアマトリクス処理回路66は、積和演算部100、重み付け関数設定部102R、102G及び102B、重み付け演算部104を備えている。
積和演算部100は、階調補正回路64によって階調補正が施されたR、G、Bの画像信号を取得し、リニアマトリクス演算を行う。以下の説明では、リニアマトリクス処理が施された後のR、G、B信号をそれぞれ処理済画像信号R’、G’、B’と記載する。
重み付け関数設定部102は、処理済画像信号R’、G’、B’の画素ごとの信号レベル(画素レベル)に応じて重み付け関数に従って重み付け関数weightR、weightG及びweightBを設定する。
重み付け演算部104は、乗算回路106及び110、減算回路108、加算回路112を含んでおり、下記の式(2−1)から(2−3)に示す演算を行って画像信号R”、G”、B”を出力する。
R”=weightR×R’+(1−weightR)×R …(2−1)
G”=weightG×G’+(1−weightG)×G …(2−2)
B”=weightB×B’+(1−weightB)×B …(2−3)
図6は、重み付け関数weightR、weightG及びweightBの例を示すグラフである。図6(a)から図6(c)に示すように、R信号に対する重み付け関数weightR、G信号に対する重み付け関数weightG及びB信号に対する重み付け関数weightBは、それぞれ処理済画像信号R’、G’、B’の関数である。処理済画像信号R’の画素レベルがカメラ10のダイナミックレンジ内に収まる領域(wR1≦weightR≦wR2)ではweightR=1となる。また、処理済画像信号G’の画素レベルがカメラ10のダイナミックレンジ内に収まる領域(wG1≦weightG≦wG2)ではweightG=1となり、処理済画像信号B’の画素レベルがカメラ10のダイナミックレンジ内に収まる領域(wB1≦weightB≦wB2)ではweightB=1となる。また、重み付け関数weightR、weightG及びweightBの低輝度部及び高輝度部における傾きは、例えば、上記の式(2−1)から(2−3)に従う演算により得られる画像信号R”、G”、B”の画素レベルの最大値及び最小値がそれぞれカメラ10のダイナミックレンジ内に収まるように設定される。
なお、図5に示す例では、乗算回路106及び110、減算回路108、加算回路112がR、G、Bの信号ごとに3つずつ設けられているが、R、G、Bの信号が重み付け演算部104に入力されるタイミングをずらすことにより、1又は2つずつとする構成も可能である。
次に、本実施形態に係るリニアマトリクス処理の流れについて、図7のフローチャートを参照して説明する。まず、リニアマトリクス処理回路66にR、G、Bの画像信号が入力されると、積和演算部100によってR、G、B信号にリニアマトリクス処理の積和演算が施されて、処理済画像信号R’、G’、B’が出力される(ステップS30)。
次に、B画素の処理を行う場合には(ステップS32のNo、S34のNo)、B画素用の重み付け関数weightB(B')が設定され、重み付け係数weightBが生成される(ステップS36)。そして、上記の式(2−3)に従って、B信号に対する重み付け演算が行われる(ステップS38)。
一方、G画素の処理を行う場合には(ステップS32のNo、S34のYes)、G画素用の重み付け関数weightG(G')が設定され、重み付け係数weightGが生成される(ステップS40)。そして、上記の式(2−2)に従って、G信号に対する重み付け演算が行われる(ステップS42)。
また、R画素の処理を行う場合には(ステップS32Yes)、R画素用の重み付け関数weightR(R')が設定され、重み付け係数weightRが生成される(ステップS44)。そして、上記の式(2−1)に従って、R信号に対する重み付け演算が行われる(ステップS46)。上記の処理をCCD30のすべての画素から出力される画像信号に対して繰り返すことにより、リニアマトリクス処理前のR、G、B信号の階調特性情報を含む画像信号R”、G”、B”を得ることができる。
[リニアマトリクス処理の具体例]
以下、本実施形態に係るリニアマトリクス処理の具体例について説明する。なお、図8等において、横軸のXは、画像中の座標(画素位置)を示している。
積和演算部100は、下記の式(3)に従って入力画像信号のリニアマトリクス処理を施す。
Figure 0004944639
例えば、入力された画像信号R、G、Bの値を
Figure 0004944639
リニアマトリクスの補正係数を
Figure 0004944639
としてリニアマトリクス処理を行うと、処理済画像信号R’は
R’=α×R+β×G+γ×B
=1.1×10−0.3×100+0.2×40
=−11
のように負値になる(アンダーフローする)。画素レベルの値は負値をとることはできないため、一般に負値となる部分が生じないように固定値(例えば、ゼロ)でクリップされる。しかしながら、上記の例のように、低輝度部においてR信号が負値となってクリップされてしまうと、図8(a)及び図8(b)に示すように、当該画素の近傍では、本来R、G、Bの3色分ある階調情報がG、Bの2色分の情報だけになってしまう。例えば、R、G、B信号のダイナミックレンジ(ビット幅)がそれぞれ8ビットの場合、8×8×8bit=24bit(約1677万色)の階調表現が可能であったのが、8×8bit=16bit(65536色)の階調表現しかできなくなり、色再現性が悪化する。
本来、リニアマトリクス処理は、色再現性を良好にするために行われる処理であるが、処理済画像信号の画素レベルが負値になるような場合には処理済画像信号を用いても良好な色再現性が得られない。このような場合には、処理済画像信号に代えてリニアマトリクス処理前の画像信号を出力することが考えられる。上記の例のように、リニアマトリクス処理前の処理前画像信号がR=10で、リニアマトリクス処理後の処理済画像信号R’が負値となる場合には、処理前画像信号Rを出力する方が色の階調表現が良好に保たれる。しかしながら、図9に示すように、処理済画像信号が負値になる部分だけ処理前画像信号を用いると、階調が不連続になり(画素位置P10の近傍において、画素レベルが0から10になり)、色再現性が悪化する。
そこで、本実施形態では、図10に示すような処理済画像信号の画素レベルの関数である重み付け関数を導入して、処理前画像信号と処理済画像信号の重み付け演算を行う。これにより、図11に示すような画像信号R”が得られる。画像信号R”は、負値となりクリップされる低輝度部では処理前画像信号であり、色再現性を中間輝度部は処理前画像信号と処理済画像信号が重み付け加算された画像信号であるため、低輝度部の階調表現が良好に保たれるとともに、中間輝度部の色再現性を向上させることができる。
また、高輝度部についても同様のことがいえる。例えば、入力画像信号を
Figure 0004944639
として、上記の式(4)のリニアマトリクス補正係数を用いてリニアマトリクス処理を行うと、処理済画像信号R’は
R’=α×R+β×G+γ×B
=1.1×240−0.3×80+0.2×100
=264−24+20
=260
となる。ここで、各色信号のダイナミックレンジ(ビット幅)を8bitとすると、R’信号の画素レベルの値がとり得る範囲は0から255である。従って、上記の例では、R’信号がダイナミックレンジ内に収まらず(オーバーフローする)、図12(a)及び図12(b)に示すように、処理済画像信号R’の高輝度部がクリップされてしまう。このため、図13に示すように、高輝度部においても重み付け演算を行うことにより、色再現性を保ちつつ、色の階調情報が保持された画像信号R”を得ることができる。
図14は、画像信号が8bitデータの場合の重み付け関数の例を示すグラフであり、図15は、図14の重み付け関数を用いて重み付け演算を行った画像信号の例を示すグラフである。
図14に示すように、低輝度部に位置し、リニアマトリクス処理により画素レベルがアンダーフローすると階調落ちしてしまうアンダーフロー領域A10(0≦R’<wR1)は、処理前画像信号の比率が大きくなるような重み付けを行う。一方、高輝度部に位置し、リニアマトリクス処理により画素レベルがオーバーフローすると階調落ちしてしまうオーバーフロー領域A14(wR2≦R’<255)では、処理前画像信号の比率が大きくなるような重み付けを行う。また、中間輝度部に位置し、リニアマトリクス処理を施してもオーバーフロー又はアンダーフローが起こらない領域A12(wR1≦R’<wR2)は、処理済画像信号の比率を大きくするような(即ち、処理前画像信号の比率を小さく又はゼロにする(weightR=1)ような)重み付けを行う。これにより、図15に示すように、領域A12では、処理済画像信号R’の比率が大きく、且つ、領域A10及びA14では、処理前画像信号Rの色階調特性が反映された画像信号R”を得ることができる。
図16(a)から図16(c)は、それぞれR、G、B信号の重み付け関数の例を示すグラフである。上記の式(4)に示すように、リニアマトリクス補正係数は、R、G、B信号で対称ではないため、リニアマトリクス処理後の画像信号におけるオーバーフロー又はアンダーフローの起こりやすさはR、G、Bの色ごとに異なる。従って、重み付け関数は、R、G、Bの色ごとにもつことが好ましい。
上記の式(4)の例では、G’及びB’を求める際に他の色信号に乗算されるリニアマトリクス補正係数が負値であるため、G、B信号についてはリニアマトリクス処理に起因するオーバーフローが起こりにくい。このため、G、B信号の重み付け関数は、高輝度部では1に近い値となる。これにより、高輝度部においてリニアマトリクス処理後の画像信号G’、B’の比率を大きくすることができるので、高輝度部における色再現性を高めることができる。
一方、G、B信号は、R信号に比べてアンダーフローが起こりやすくなるため、G、B信号の低輝度部の重み付け関数の値を小さくする。これにより、低輝度部では、リニアマトリクス処理前の画像信号の比率を大きくすることにより、階調特性の情報を保持することができる。
上記のように、例えば、他の色信号に乗算されるリニアマトリクス補正係数が負値で絶対値が大きい場合には、重み付け関数は、高輝度部で大きく、低輝度部で小さくする。一方、色信号に乗算されるリニアマトリクス補正係数が正値で絶対値が大きい場合には、重み付け関数は、高輝度部で小さく、低輝度部で大きくする。これにより、オーバーフロー又はアンダーフローが起こらないように重み付け関数を設定することができる。
本実施形態によれば、リニアマトリクス処理前後の画像信号に対して、色ごとに重み付け演算を行うことにより、各色について良好な階調表現が得られる。また、各色の中間輝度部において、重み付け係数weightR、weightG及びweightBを1又は1に近い値とすることにより、中間輝度部の色再現性を保ちつつ、高輝度部及び低輝度部において良好な階調表現が得られる。
なお、本実施形態では、リニアマトリクス演算前後の画像信号に対して重み付け演算を施すようにしたが、例えば、オフセット補正、ホワイトバランス調整、階調補正前後のR、G、B信号又は色差マトリクス処理前後の色差信号に対しても重み付け演算を施すようにしてもよい。
[第3の実施形態]
次に、本発明の第3の実施形態について説明する。なお、以下の説明において、上記第1の実施形態と同様の構成については説明を省略する。
図17は、本実施形態に係るリニアマトリクス処理回路66の主要構成を示すブロック図である。図17に示すように、撮影条件取得部120、重み付け関数設定部122、画像処理演算部124、重み付け係数出力部126及び重み付け演算部128を備えている。
撮影条件取得部120は、撮影時の撮影条件情報を取得する。ここで、撮影条件情報とは、ホワイトバランス調整、露出補正、画素レベルごとの画素数の分布(ヒストグラム)又は階調補正に関する情報のうち少なくとも1つである。
重み付け関数設定部122は、撮影時の撮影条件情報に基づいて、重み付け関数wを設定する。なお、撮影条件情報に基づく重み付け関数w(A’)の設定方法については後述する。
画像処理演算部124は、階調補正回路64によって階調補正が施された画像信号Aを取得してリニアマトリクス処理を施す。以下の説明では、リニアマトリクス処理が施された後の画像信号Aを処理済画像信号A’と記載する。
重み付け係数出力部126は、重み付け関数設定部122によって設定された重み付け関数w(A’)と、処理済画像信号A’から重み付け係数wを決定し、重み付け演算部128に出力する。
重み付け演算部128は、下記の式(5)に示す演算を行って画像信号A”を演算、出力する。
A”=w×A’+(1−w)×A …(5)
以下、撮影条件情報に基づく重み付け関数w(A’)の設定方法について説明する。
(1)ホワイトバランス調整の条件に基づく重み付け関数の設定
例えば、色温度が低い(赤い)光源下では、R信号の信号レベルが高く、B信号の信号レベルが低くなる。このため、R信号のホワイトバランスゲインが小さく、B信号のホワイトバランスゲインが大きく設定される。図4に示すように、リニアマトリクス処理回路66の上流側にホワイトバランス調整回路62が配置されている場合には、画像信号Aは、ホワイトバランスゲインが乗算された後にリニアマトリクス処理回路66に入力される。このため、本実施形態では、ホワイトバランスゲインを考慮した重み付け関数w(A’)を用いる。
図18は、ホワイトバランス調整の条件に基づく重み付け関数の設定例を示す図である。例えば、R信号に対するホワイトバランスゲインが2倍、G信号に対するホワイトバランスゲインが1倍、B信号対するホワイトバランスゲインが0.6倍の場合、ホワイトバランスゲインの平均値は、1.2倍であるため、アンダーフローが起こりにくく、オーバーフローが起こりやすい。このため、重み付け関数w(A’)は、図18(a)に示す通常のものと比較して、図18(b)に示すような低輝度部で大きく、高輝度部で小さくなるように設定される。
一方、ホワイトバランスゲインが小さい場合には(例えば、R、G、B信号に乗算されるホワイトバランスゲインの平均値が1未満の場合には)、アンダーフローが起こりやすく、オーバーフローが起こりにくくなるため、重み付け関数w(A’)は、低輝度部で小さく、高輝度部で大きくなるように設定される。
図19は、ホワイトバランス調整の条件に基づく重み付け関数の設定処理の流れを示すフローチャートである。まず、画像処理部38に画像信号Aが入力されると、画像処理演算部80によって画像信号Aにリニアマトリクス処理が施されて、処理済画像信号A’が出力される(ステップS50)。
次に、ホワイトバランス調整回路62において画像信号Aに乗算されたホワイトバランスゲインの情報が撮影条件取得部120によって取得される。撮影条件取得部120によって取得されたホワイトバランスゲインが第1のゲイン値より大きく(ステップS52のNo)、且つ、第2のゲイン値より小さい場合には(ステップS54のNo)、重み付け関数w(A’)が処理済画像信号A’の比率が高い中間輝度部が広くなるように(即ち、全体の色再現性が高くなるように(図18(a)参照))設定され、処理済画像信号A’の値に基づいて重み付け係数wが生成される(ステップS56)。なお、(第1のゲイン値)<(第2のゲイン値)である。そして、上記の式(5)に従って重み付け演算が行われる(ステップS58)。
一方、ホワイトバランスゲインが第1のゲイン値より大きく(ステップS52のNo)、且つ、第2のゲイン値以上の場合には(ステップS54のYes)、重み付け関数が高輝度部で小さく、低輝度部で大きくなるように(即ち、高輝度部でのオーバーフローを低減しつつ、低輝度部における階調特性が保持されるように(図18(b)参照))設定され、処理済画像信号A’の値に基づいて重み付け係数wが生成される(ステップS60)。そして、上記の式(5)に従って重み付け演算が行われる(ステップS58)。
また、ホワイトバランスゲインが第1のゲイン値以下の場合には(ステップS52のYes)、重み付け関数w(A’)が低輝度部で小さく、高輝度部で大きくなるように(即ち、低輝度部でのアンダーフローを低減しつつ、高輝度部における階調特性が保持されるように)設定され、処理済画像信号A’の値に基づいて重み付け係数wが生成される(ステップS62)。そして、上記の式(5)に従って重み付け演算が行われる(ステップS58)。
なお、ホワイトバランスゲインに基づく重み付け関数w(A’)の設定は、R、G、Bの色ごとに行うようにしてもよい。
(2)露出補正の条件に基づく重み付け関数の設定
露出補正が行われると、画像信号Aの信号レベルが変化する。例えば、プラス側に露出補正された場合には(プラス補正)、信号レベルが上がるため、アンダーフローが起こりにくく、オーバーフローが起こりやすくなる。このため、図18(b)の例と同様に、重み付け関数w(A’)は、低輝度部で大きく、高輝度部で小さくなるように設定される。
一方、マイナス側に露出補正された場合には(マイナス補正)、アンダーフローが起こりやすく、オーバーフローが起こりにくくなるため、重み付け関数w(A’)は、低輝度部で小さく、高輝度部で大きくなるように設定される。
図20は、露出補正の条件に基づく重み付け関数の設定処理の流れを示すフローチャートである。まず、画像処理部38に画像信号Aが入力されると、画像処理演算部80によって画像信号Aにリニアマトリクス処理が施されて、処理済画像信号A’が出力される(ステップS70)。
次に、撮影条件取得部120により撮影時における露出補正値の情報が取得される。撮影条件取得部120によって取得された露出補正値が第1の補正値より大きく(ステップS72のNo)、且つ、第2の補正値より小さい場合には(ステップS74のNo)、重み付け関数w(A’)が処理済画像信号A’の比率が高い中間輝度部が広くなるように(即ち、全体の色再現性が高くなるように)設定され、処理済画像信号A’の値に基づいて重み付け係数wが生成される(ステップS76)。なお、(第1の補正値)<(第2の補正値)である。そして、上記の式(5)に従って重み付け演算が行われる(ステップS78)。
一方、露出補正値が第1の補正値より大きく(ステップS72のNo)、且つ、第2の補正値以上の場合には(ステップS74のYes)、重み付け関数w(A’)が高輝度部で小さく、低輝度部で大きくなるように(即ち、高輝度部でのオーバーフローを低減しつつ、低輝度部における階調特性が保持されるように)設定され、処理済画像信号A’の値に基づいて重み付け係数wが生成される(ステップS80)。そして、上記の式(5)に従って重み付け演算が行われる(ステップS78)。
また、露出補正値が第1の補正値以下の場合には(ステップS72のYes)、重み付け関数w(A’)が低輝度部で小さく、高輝度部で大きくなるように(即ち、低輝度部でのアンダーフローを低減しつつ、高輝度部における階調特性が保持されるように)設定され、処理済画像信号A’の値に基づいて重み付け係数wが生成される(ステップS82)。そして、上記の式(5)に従って重み付け演算が行われる(ステップS78)。
(3)ヒストグラムに基づく重み付け関数の設定
図21から図23は、ヒストグラムに基づく重み付け関数wの設定方法を説明するための図である。図21(a)に示すように、高輝度の画素の割合が高い画像の場合、アンダーフローが起こりにくく、オーバーフローが起こりやすい。このため、重み付け関数w(A’)は、図21(b)の通常のものと比較して、図21(c)に示すような低輝度部で大きく、高輝度部で小さくなるように設定される。
一方、図22(a)に示すように、低輝度の画素の割合が高い画像の場合、アンダーフローが起こりやすく、オーバーフローが起こりにくい。このため、重み付け関数w(A’)は、図22(b)の通常のものと比較して、図22(c)に示すような低輝度部で小さく、高輝度部で大きくなるように設定される。
また、図23(a)に示すように、低輝度と高輝度の画素の割合がともに高い画像の場合、アンダーフローもオーバーフローも起こりやすい。このため、重み付け関数w(A’)は、図23(b)の通常のものと比較して、図23(c)に示すような低輝度部と高輝度部で小さくなるように設定される。
図24は、ヒストグラムに基づく重み付け関数の設定処理の流れを示すフローチャートである。まず、画像処理部38に画像信号Aが入力されると、画像処理演算部80によって画像信号Aにリニアマトリクス処理が施されて、処理済画像信号A’が出力される(ステップS90)。
次に、撮影条件取得部120によりヒストグラムの情報が取得される。上記ヒストグラムにおいて低輝度部及び高輝度部の画素の割合が小さい場合には(ステップS92のNo、S94のNo)、重み付け関数w(A’)が処理済画像信号A’の比率が高い中間輝度部が広くなるように(即ち、全体の色再現性が高くなるように(図21(b)等参照))設定され、処理済画像信号A’の値に基づいて重み付け係数wが生成される(ステップS96)。そして、上記の式(5)に従って重み付け演算が行われる(ステップS98)。
一方、低輝度部の画素の割合が小さく(ステップS92のNo)、且つ、高輝度部の画素の割合が大きい場合には(ステップS94のYes)、重み付け関数w(A’)が高輝度部で小さく、低輝度部で大きくなるように(即ち、高輝度部でのオーバーフローを低減しつつ、低輝度部における階調特性が保持されるように(図21(c)))設定され、処理済画像信号A’の値に基づいて重み付け係数wが生成される(ステップS100)。そして、上記の式(5)に従って重み付け演算が行われる(ステップS98)。
また、低輝度部の画素の割合が大きく(ステップS92のNo)、且つ、高輝度部の画素の割合が小さい場合には(ステップS102のNo)、重み付け関数w(A’)が低輝度部で小さく、高輝度部で大きくなるように(即ち、低輝度部でのアンダーフローを低減しつつ、高輝度部における階調特性が保持されるように(図22(c)参照))設定され、処理済画像信号A’の値に基づいて重み付け係数wが生成される(ステップS104)。そして、上記の式(5)に従って重み付け演算が行われる(ステップS98)。
また、低輝度部の画素の割合が大きく(ステップS92のNo)、且つ、高輝度部の画素の割合が大きい場合には(ステップS102のYes)、重み付け関数w(A’)が低輝度部及び高輝度部で小さくなるように(即ち、低輝度部でのアンダーフロー及び高輝度部でのオーバーフローが低減されるように(図23(c)参照))設定され、処理済画像信号A’の値に基づいて重み付け係数wが生成される(ステップS106)。そして、上記の式(5)に従って重み付け演算が行われる(ステップS98)。
(4)階調補正の条件に基づく重み付け関数の設定
図25から図28は、階調補正の条件(階調変換特性)に基づく重み付け関数w(A’)の設定方法を説明するための図である。図25(a)に示すように、低輝度の画素の信号レベルを上げる(明るくする)ような階調補正を行う場合には、アンダーフローが起こりにくい。このため、重み付け関数w(A’)は、図25(b)の通常のものと比較して、図25(c)に示すように、低輝度部で大きくなるように設定される。
図26(a)に示すように、低輝度の画素の信号レベルを下げる(暗くする)ような階調補正を行う場合には、アンダーフローが起こりやすい。このため、重み付け関数w(A’)は、図26(b)の通常のものと比較して、図26(c)に示すような低輝度部で小さくなるように設定される。
図27(a)に示すように、高輝度の画素の信号レベルを上げる(明るくする)ような階調補正を行う場合には、オーバーフローが起こりやすい。このため、重み付け関数w(A’)は、図27(b)の通常のものと比較して、図27(c)に示すような高輝度部で小さくなるように設定される。
図28(a)に示すように、高輝度の画素の信号レベルを下げる(暗くする)ような階調補正を行う場合には、オーバーフローが起こりにくい。このため、重み付け関数w(A’)は、図28(b)の通常のものと比較して、図28(c)に示すような高輝度部で大きくなるように設定される。
図29は、階調補正の条件に基づく重み付け関数の設定処理の流れを示すフローチャートである。まず、画像処理部38に画像信号Aが入力されると、画像処理演算部80によって画像信号Aにリニアマトリクス処理が施されて、処理済画像信号A’が出力される(ステップS110)。
次に、撮影条件取得部120により撮影時における階調変換特性情報の情報が取得される。階調特性が硬調でも軟調でもない場合には(ステップS112のNo、S114のNo)、図25(b)等に示すような通常の重み付け関数w(A’)が設定され、処理済画像信号A’の値に基づいて重み付け係数wが生成される(ステップS116)。そして、上記の式(5)に従って重み付け演算が行われる(ステップS118)。
一方、階調変換特性が硬調ではなく(ステップS112のNo)、軟調の場合(ステップS114のYes)、即ち、ガンマ曲線の傾きが小さい場合には、軟調の階調補正特性に適した重み付け関数w(A’)が設定され、処理済画像信号A’の値に基づいて重み付け係数wが生成される(ステップS120)。ステップS120では、例えば、階調変換のガンマ値γ<1の場合には、高輝度部の画素レベルが下がるため、重み付け関数w(A’)は、図28(c)に示すように、高輝度部で大きくなるように設定される。そして、上記の式(5)に従って重み付け演算が行われる(ステップS118)。
また、階調変換特性が硬調の場合(ステップS112のYes)、即ち、ガンマ曲線の傾きが大きい場合には、硬調の階調補正特性に適した重み付け関数w(A’)が設定され、処理済画像信号A’の値に基づいて重み付け係数wが生成される(ステップS122)。ステップS122では、例えば、γ>1の場合には、高輝度部の画素レベルが上がるため、重み付け関数w(A’)は、図27(c)に示すように、高輝度部で小さくなるように設定される。そして、上記の式(5)に従って重み付け演算が行われる(ステップS118)。
本実施形態によれば、撮影条件情報に基づいてオーバーフロー及びアンダーフローが起こりにくいように重み付け関数を設定することにより、高輝度部及び低輝度部の階調特性情報が失われる問題を回避できる。これにより、ダイナミックレンジの制限に起因するデジタルの画像信号の色づきや階調とびを軽減することができる。なお、本実施形態では、重み付け関数w(A’)は、色ごとに設定するようにしてもよい。
なお、本発明に係る画像処理装置及び画像処理方法は、例えば、撮影装置やパーソナルコンピュータ、携帯情報端末、画像ストレージ装置のような画像処理装置に適用するプログラムとしても提供することが可能である。
本発明の第1の実施形態に係るリニアマトリクス処理回路66の主要構成を示すブロック図 本発明の第1の実施形態に係るリニアマトリクス処理の流れを示すフローチャート 本発明の第1の実施形態に係る画像処理装置を備えた撮影装置の主要構成を示すブロック図 本発明の第1の実施形態に係る画像処理部38の主要構成を示すブロック図 本発明の第2の実施形態に係るリニアマトリクス処理回路66の主要構成を示すブロック図 重み付け関数weightR、weightG及びweightBの例を示すグラフ 本発明の第2の実施形態に係るリニアマトリクス処理の流れを示すフローチャート 低輝度部におけるリニアマトリクス処理前後の画像信号の例を示すグラフ リニアマトリクス処理後の画像信号の処理方法の例を示すグラフ 低輝度部における重み付け関数を示すグラフ 低輝度部における重み付け演算を説明するためのグラフ 高輝度部におけるリニアマトリクス処理前後の高輝度部の画像信号の例を示すグラフ 高輝度部における重み付け関数を示すグラフ 画像信号が8bitデータの場合の重み付け関数の例を示すグラフ 図14の重み付け関数を用いて重み付けを行った画像信号の例を示すグラフ R、G、Bの各信号の重み付け演算に用いる重み付け関数の例を示すグラフ 本発明の第3の実施形態に係るリニアマトリクス処理回路66の主要構成を示すブロック図 ホワイトバランス調整の条件に基づく重み付け関数の設定例を示す図 ホワイトバランス調整の条件に基づく重み付け関数の設定処理の流れを示すフローチャート 露出補正の条件に基づく重み付け関数の設定処理の流れを示すフローチャート ヒストグラムに基づく重み付け関数w(A’)の設定方法を説明するための図 ヒストグラムに基づく重み付け関数w(A’)の設定方法を説明するための図 ヒストグラムに基づく重み付け関数w(A’)の設定方法を説明するための図 ヒストグラムに基づく重み付け関数の設定処理の流れを示すフローチャート 階調補正の条件に基づく重み付け関数w(A’)の設定方法を説明するための図 階調補正の条件に基づく重み付け関数w(A’)の設定方法を説明するための図 階調補正の条件に基づく重み付け関数w(A’)の設定方法を説明するための図 階調補正の条件に基づく重み付け関数w(A’)の設定方法を説明するための図 階調補正の条件に基づく重み付け関数の設定処理の流れを示すフローチャート
符号の説明
10…撮影装置(カメラ)、12…CPU、14…バス、16…操作部、18…ROM、20…RAM、22…記録メディア、24…メディアコントローラ、26…通信インターフェース部(通信I/F)、28…レンズユニット、28A…レンズ駆動部、30…CCD、30A…撮影制御部、32…アナログ処理部(CDS/AMP)、34…A/D変換器、36…画像入力制御部、38…画像処理部、40…画像表示部、42…表示制御部、44…フラッシュ制御部、46…フラッシュ発光部、48…積算部、50…圧縮・伸張処理部、60…オフセット補正回路、62…ホワイトバランス調整回路、64…階調補正回路、66…リニアマトリクス処理回路、68…同時化処理回路、70…RGB−YC変換処理回路、72…輪郭補正回路、74…色差マトリクス処理回路、80…画像処理演算部、82…重み付け関数設定部、84…重み付け演算部、86、90…乗算回路、88…減算回路、92…加算回路

Claims (25)

  1. デジタルの画像信号を取得する画像取得手段と、
    前記画像取得手段によって取得された画像信号に対して画像処理を施す画像処理手段と、
    前記画像処理が施された画像信号の信号レベルが規定のビット幅に収まるように、所定の重み付け関数に従って、前記画像処理が施される前の処理前画像信号と、前記画像処理が施された後の処理済画像信号の重み付け演算を行い、記録用の画像信号を取得する演算手段と、
    前記記録用の画像信号を記録する画像記録手段と、
    を備えることを特徴とする画像処理装置。
  2. 前記画像処理手段は、前記画像信号に対してリニアマトリクス処理を施すことを特徴とする請求項1記載の画像処理装置。
  3. 前記画像取得手段は、色ごとの画像信号を取得し、
    前記演算手段は、前記画像信号の色ごとに重み付け演算を行うことを特徴とする請求項1又は2記載の画像処理装置。
  4. 前記デジタルの画像信号の撮影時における撮影条件情報を取得する撮影条件情報取得手段を更に備え、
    前記演算手段は、前記撮影条件情報に基づいて前記重み付け関数を設定することを特徴とする請求項1から3のいずれか1項記載の画像処理装置。
  5. 前記画像取得手段によって取得された画像信号に対してホワイトバランス調整処理を施すホワイトバランス調整手段を更に備え、
    前記演算手段は、前記ホワイトバランス調整処理におけるホワイトバランスゲインに基づいて前記重み付け関数を設定することを特徴とする請求項1から4のいずれか1項記載の画像処理装置。
  6. 前記演算手段は、前記画像信号の各色成分に対するホワイトバランスゲインの平均値に基づいて前記重み付け関数を設定することを特徴とする請求項5記載の画像処理装置。
  7. 前記演算手段は、前記ホワイトバランスゲインが所定値以上の場合に、前記信号レベルが高い側の処理済画像信号に乗算する重み付け関数を小さくすることを特徴とする請求項5又は6記載の画像処理装置。
  8. 前記演算手段は、前記ホワイトバランスゲインが所定値未満の場合に、前記信号レベルが低い側の処理済画像信号に乗算する重み付け関数を小さくすることを特徴とする請求項5から7のいずれか1項記載の画像処理装置。
  9. 前記画像取得手段によって取得された画像信号に対して露出補正を施す露出補正手段を更に備え、
    前記演算手段は、前記露出補正の条件に基づいて前記重み付け関数を設定することを特徴とする請求項1から8のいずれか1項記載の画像処理装置。
  10. 前記演算手段は、前記露出補正手段によってプラス補正が行われた場合に、前記信号レベルが高い側の処理済画像信号に乗算する重み付け関数を小さくすることを特徴とする請求項9記載の画像処理装置。
  11. 前記演算手段は、前記露出補正手段によってマイナス補正が行われた場合に、前記信号レベルが低い側の処理済画像信号に乗算する重み付け関数を小さくすることを特徴とする請求項9又は10記載の画像処理装置。
  12. 前記画像取得手段によって取得された画像信号又は前記画像処理が施された画像信号の信号レベルごとの画素数の分布を取得する信号レベル分布取得手段を更に備え、
    前記演算手段は、前記画像信号の信号レベルごとの画素数の分布に基づいて前記重み付け関数を設定することを特徴とする請求項1から11のいずれか1項記載の画像処理装置。
  13. 前記演算手段は、前記信号レベルが高い側の画素数が多い場合に、前記信号レベルが高い側の処理済画像信号に乗算する重み付け関数を小さくすることを特徴とする請求項12記載の画像処理装置。
  14. 前記演算手段は、前記信号レベルが低い側の画素数が多い場合に、前記信号レベルが低い側の処理済画像信号に乗算する重み付け関数を小さくすることを特徴とする請求項12又は13記載の画像処理装置。
  15. 前記画像取得手段によって取得された画像信号に対して階調補正を施す階調補正手段を更に備え、
    前記演算手段は、前記階調補正の条件に基づいて前記重み付け関数を設定することを特徴とする請求項1から14のいずれか1項記載の画像処理装置。
  16. 前記演算手段は、低い側の画像信号の信号レベルを上げる階調補正が行われた場合に、前記信号レベルが低い側の処理済画像信号に乗算する重み付け関数を大きくすることを特徴とする請求項15記載の画像処理装置。
  17. 前記演算手段は、低い側の画像信号の信号レベルを下げる階調補正が行われた場合に、前記信号レベルが低い側の処理済画像信号に乗算する重み付け関数を小さくすることを特徴とする請求項15又は16記載の画像処理装置。
  18. 前記演算手段は、高い側の画像信号の信号レベルを上げる階調補正が行われた場合に、前記信号レベルが高い側の処理済画像信号に乗算する重み付け関数を小さくすることを特徴とする請求項15から17のいずれか1項記載の画像処理装置。
  19. 前記演算手段は、高い側の画像信号の信号レベルを下げる階調補正が行われた場合に、前記信号レベルが高い側の処理済画像信号に乗算する重み付け関数を大きくすることを特徴とする請求項15から18のいずれか1項記載の画像処理装置。
  20. 画像を撮影してデジタルの画像信号を取得する撮影手段と、
    前記撮影手段によって取得されたデジタルの画像信号に対して所定の画像処理を施す請求項1から19のいずれか1項記載の画像処理装置と、
    を備えることを特徴とする撮影装置。
  21. デジタルの画像信号を取得する画像取得工程と、
    前記画像取得工程において取得した画像信号に対して画像処理を施す画像処理工程と、
    前記画像処理が施された画像信号の信号レベルが規定のビット幅に収まるように、所定の重み付け関数に従って、前記画像処理が施される前の処理前画像信号と、前記画像処理が施された後の処理済画像信号の重み付け演算を行い、記録用の画像信号を取得する演算工程と、
    前記記録用の画像信号を記録する画像記録工程と、
    を備えることを特徴とする画像処理方法。
  22. 前記画像取得工程において取得した画像信号に対してホワイトバランス調整処理を施すホワイトバランス調整工程を更に備え、
    前記演算工程では、前記ホワイトバランス調整工程におけるホワイトバランスゲインに基づいて前記重み付け関数を設定することを特徴とする請求項21記載の画像処理方法。
  23. 前記画像取得工程において取得した画像信号に対して露出補正を施す露出補正工程を更に備え、
    前記演算工程では、前記露出補正の条件に基づいて前記重み付け関数を設定することを特徴とする請求項21又は22記載の画像処理方法。
  24. 前記画像取得工程において取得した画像信号又は前記画像処理が施された画像信号の信号レベルごとの画素数の分布を取得する信号レベル分布取得工程を更に備え、
    前記演算工程では、前記画像信号の信号レベルごとの画素数の分布に基づいて前記重み付け関数を設定することを特徴とする請求項21から23のいずれか1項記載の画像処理方法。
  25. 前記画像取得工程において取得した画像信号に対して階調補正を施す階調補正工程を更に備え、
    前記演算工程では、前記階調補正の条件に基づいて前記重み付け関数を設定することを特徴とする請求項21から24のいずれか1項記載の画像処理方法。
JP2007051610A 2007-03-01 2007-03-01 画像処理装置、画像処理方法及び撮影装置 Expired - Fee Related JP4944639B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007051610A JP4944639B2 (ja) 2007-03-01 2007-03-01 画像処理装置、画像処理方法及び撮影装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007051610A JP4944639B2 (ja) 2007-03-01 2007-03-01 画像処理装置、画像処理方法及び撮影装置

Publications (2)

Publication Number Publication Date
JP2008219271A JP2008219271A (ja) 2008-09-18
JP4944639B2 true JP4944639B2 (ja) 2012-06-06

Family

ID=39838818

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007051610A Expired - Fee Related JP4944639B2 (ja) 2007-03-01 2007-03-01 画像処理装置、画像処理方法及び撮影装置

Country Status (1)

Country Link
JP (1) JP4944639B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019105399A1 (en) * 2017-11-29 2019-06-06 Zhejiang Dahua Technology Co., Ltd. Systems and methods for super-resolusion image reconstruction

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5297897B2 (ja) * 2009-06-01 2013-09-25 株式会社日立製作所 画像信号処理装置
CN102521810B (zh) * 2011-12-16 2013-09-18 武汉大学 一种基于局部约束表示的人脸超分辨率重建方法
JP6292870B2 (ja) * 2013-12-26 2018-03-14 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
CN105469359B (zh) * 2015-12-09 2019-05-03 武汉工程大学 基于局部约束低秩表示的人脸超分辨率重建方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2352910B (en) * 1999-07-30 2004-03-03 Sony Uk Ltd Method of processing signals and apparatus for signal processing
JP2006179978A (ja) * 2004-12-20 2006-07-06 Toshiba Corp 映像信号処理装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019105399A1 (en) * 2017-11-29 2019-06-06 Zhejiang Dahua Technology Co., Ltd. Systems and methods for super-resolusion image reconstruction
US11436702B2 (en) 2017-11-29 2022-09-06 Zhejiang Dahua Technology Co., Ltd. Systems and methods for super-resolusion image reconstruction

Also Published As

Publication number Publication date
JP2008219271A (ja) 2008-09-18

Similar Documents

Publication Publication Date Title
US7742081B2 (en) Imaging apparatus for imaging an image and image processor and method for performing color correction utilizing a number of linear matrix operations
JP3530907B2 (ja) デジタルカメラ
JP4697606B2 (ja) 撮影装置及び合焦制御方法
JP4730553B2 (ja) 撮影装置及び露出制御方法
JP5004544B2 (ja) 撮影装置及び露出制御方法
JP5123137B2 (ja) 撮像装置および撮像方法
JP2004328461A (ja) オートホワイトバランス調整方法
JP2006081037A (ja) 撮像装置
JP2017022610A (ja) 画像処理装置、画像処理方法
JP5223686B2 (ja) 撮像装置および撮像方法
JP4999871B2 (ja) 撮像装置およびその制御方法
JP2020039118A (ja) 画像処理装置およびその制御方法
JP2012151566A (ja) 撮像装置
JP4944639B2 (ja) 画像処理装置、画像処理方法及び撮影装置
JP2006345388A (ja) 撮像装置
JP5803233B2 (ja) 撮像装置および撮像方法
JP2008017198A (ja) 光源色算出装置、光源色算出方法及び撮影装置
JP5095434B2 (ja) 撮像装置および画像処理装置
JP5335964B2 (ja) 撮像装置およびその制御方法
JP5310331B2 (ja) 撮像装置および撮像方法
JP2009118052A (ja) 画像信号処理方法及び装置
JP2005223511A (ja) 撮像装置および方法、並びにプログラム
JP2004304695A (ja) ホワイトバランス調整方法
JP2008071150A (ja) 画像処理装置、画像処理プログラム及び撮影装置
JP5054209B2 (ja) 撮影装置及び合焦制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090909

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120209

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120215

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120302

R150 Certificate of patent or registration of utility model

Ref document number: 4944639

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150309

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees