JP2010004302A - 信号処理装置、信号処理方法、制御プログラム、可読記録媒体、固体撮像装置および電子情報機器 - Google Patents

信号処理装置、信号処理方法、制御プログラム、可読記録媒体、固体撮像装置および電子情報機器 Download PDF

Info

Publication number
JP2010004302A
JP2010004302A JP2008161038A JP2008161038A JP2010004302A JP 2010004302 A JP2010004302 A JP 2010004302A JP 2008161038 A JP2008161038 A JP 2008161038A JP 2008161038 A JP2008161038 A JP 2008161038A JP 2010004302 A JP2010004302 A JP 2010004302A
Authority
JP
Japan
Prior art keywords
image
signal
flicker detection
signal processing
flicker
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008161038A
Other languages
English (en)
Other versions
JP5099701B2 (ja
Inventor
Masayuki Ezawa
正幸 江澤
Masayuki Shinagawa
正行 品川
Toshihiro Akamatsu
年浩 赤松
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2008161038A priority Critical patent/JP5099701B2/ja
Priority to US12/457,636 priority patent/US8248483B2/en
Priority to CN200910150802XA priority patent/CN101610350B/zh
Publication of JP2010004302A publication Critical patent/JP2010004302A/ja
Application granted granted Critical
Publication of JP5099701B2 publication Critical patent/JP5099701B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30168Image quality inspection

Landscapes

  • Engineering & Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Color Television Image Signal Generators (AREA)
  • Studio Devices (AREA)
  • Picture Signal Circuits (AREA)

Abstract

【課題】撮影用の表示画像に悪影響を及ぼすことなく、高精度にフリッカー周波数を検出する。
【解決手段】入力画像信号に対する撮影画像処理とフリッカー検出処理に共通した信号処理を行う共通前処理部10と、この共通前処理部10からの画像信号に対して表示画像用の画像信号処理を行う撮影画像処理部20と、この共通前処理部10からの画像信号に対してフリッカー検出用の画像信号処理を行うフリッカー検出前処理部30と、このフリッカー検出前処理部30からの画像信号に基づいてフリッカー検出を行うフリッカー検出回路40とを有している。
【選択図】図1

Description

本発明は、被写体からの画像光を光電変換して撮像するCMOS(Complementary Metal Oxide Semiconductor)型撮像素子などにより得られる画像信号から、フリッカーを検出する信号処理装置、信号処理方法、この信号処理方法の各ステップをコンピュータに実行させるための処理手順が記録された制御プログラム、この制御プログラムがデータとして格納されたコンピュータ読み取り可能な可読記憶媒体、この信号処理装置を用いた固体撮像装置および、この信号処理装置を含む固体撮像装置を画像入力デバイスとして撮像部に用いた例えばデジタルビデオカメラおよびデジタルスチルカメラなどのデジタルカメラや、画像入力カメラ、スキャナ装置、ファクシミリ装置、カメラ付き携帯電話装置などの電子情報機器に関する。
従来より、インバータ方式を除く、交流電源を使用した蛍光灯下では、CMOS型撮像素子による撮像を行った場合、撮影画像にフリッカーノイズと呼ばれる横縞状の明暗が表示画面上に現れる。これは、蛍光灯の光量が電源電圧に依存して変化するために発生するものである。
これに対して、特許文献1において、前段処理部で撮影画像用に信号処理された画像信号から、フリッカー周波数を検出する方法が提案されている。
図14は、特許文献1に開示されている従来のデジタル信号処理装置の要部構成例を示すブロック図である。
図14において、従来のデジタル信号処理装置は、撮像装置に用いられ、前段処理部50と、フリッカー検出低減部60と、後段処理部70とを有している。
前段処理部50は、デジタルクランプ回路51と、読み出しチャネル間ゲイン補正回路52と、固定パターンノイズ低減回路53と、欠陥画素データ補正回路54と、ノイズ低減回路55と、レンズシェーディング補正回路56と、デジタルゲイン調整回路57とを有し、撮像素子から得られたRGB原色信号をA/D変換した後のRGB原色信号をクランプし、さらに、クランプ後のRGB原色信号につき、読み出しチャネル間のゲインを補正し、固定パターンノイズを低減し、欠陥画素のデータを補正し、ノイズを低減し、レンズシェーディングを補正し、露光調整用にゲインを調整する。
デジタルクランプ回路51は、アナログ信号処理部から入力される信号がRGB原色信号である場合、その入力RGB原色信号の黒レベルを所定レベルにクランプする。
読み出しチャネル間ゲイン補正回路52は、黒レベルがクランプされたRGB原色信号につき、CMOS撮像素子から複数の読み出しチャネルによって信号を読み出す場合における、読み出しチャネル毎の信号ゲインのバラツキがなくなるように、それぞれの読み出しチャネルの信号ゲインを補正する。
固定パターンノイズ低減回路53は、読み出しチャネル間ゲイン補正後のRGB原色信号につき、上述した縦スジ状の固定パターンノイズを低減する。
欠陥画素データ補正回路54は、この固定パターンノイズ低減後のRGB原色信号中の、後段処理部70内の欠陥画素検出回路74で検出された欠陥画素のデータ(画素値)を補正する。具体的には、欠陥画素の周辺画素のデータから、補間演算によって欠陥画素のデータが算出生成され、元のデータが、その算出生成されたデータに置き換えられる。
ノイズ低減回路55は、この欠陥画素データ補正後のRGB原色信号につき、ノイズを低減する。この場合のノイズは、上記の固定パターンノイズとは異なる一般的な高周波ノイズで、具体的に、RGB原色信号に対して、それぞれ低周波数成分のみを抽出するフィルタリング処理が実行されて、そのノイズが低減される。
レンズシェーディング補正回路56は、このノイズ低減後のRGB原色信号につき、レンズシェーディング(中央部と周辺部などの結像位置によって信号量が異なる現象で、一般に、レンズの光軸中心から離れるほど、画像が暗くなり、信号量が減少する)を補正する。
デジタルゲイン調整回路57は、図示しないシステムコントローラでのゲイン設定によって、露光調整用に、レンズシェーディング補正後のRGB原色信号のゲインを調整する明るさ調整を行う。この撮像装置では、露光量は、アイリス設定、電子シャッター速度設定、およびデジタルゲイン調整回路57でのゲイン調整によって調整することができ、アイリス設定および電子シャッター速度の設定と連動して、デジタルゲイン調整回路7でゲインが調整されることによって、所望の露光量が得られ、自動露光調整機能も実現される。
フリッカー検出低減部60は、蛍光灯のフリッカーを検出して、フリッカー成分を低減する。
後段処理部70は、ホワイトバランス調整回路71と、ガンマ補正回路72と、合成マトリクス回路73と、欠陥画素検出回路74とを有し、フリッカー低減後のRGB原色信号につきホワイトバランスを調整し、ホワイトバランス調整後のRGB原色信号から撮像素子の欠陥画素を検出し、ガンマ補正後、輝度信号Yおよび色差信号R−Y,B−Yを生成する。
ホワイトバランス調整回路71は、各RGB原色信号の信号レベルのバランスを一定にするホワイトバランスのために各ゲインを調整する。
ガンマ補正回路72では、ホワイトバランス調整後のRGB原色信号の階調を表示装置の階調特性に合わすように変換する。
合成マトリクス回路73は、ガンマ補正後のRGB原色信号から、デジタル信号処理装置の出力として輝度信号Yおよび色差信号R−Y,B−Yを生成する。
欠陥画素検出回路74は、ホワイトバランス調整回路71からの出力信号から、CMOS撮像素子の欠陥画素を検出して、その欠陥画素検出結果を欠陥画素データ補正回路54に出力する。
特開2005―347939号公報
ところが、上記特許文献1では、フリッカー検出精度を向上させるために前処理を行うと、撮影画像として不適切な補正をかけてしまうことがあった。
例えば、フリッカー検出では、レンズシェーディング補正回路56で表示画面の中央部分から周辺部まで平坦(信号レベルが一定)になるような補正が為されることが望ましいが、そのことが逆に、撮影画像としては、図15に示すように表示画面の中央部よりもその周辺部でゲインを大きくすると、その周辺部でノイズ成分Nも大きくなって強調され、周辺部でノイズ成分Nが大きい不適切な補正となる。要するに、フリッカー検出の精度を上げようとすると、撮影画像としてはノイズ成分Nが大きくなり、フリッカー検出精度と撮影画像の画質とは互いにトレードオフの関係にある。
このため、通常は、画質的には、表示画面の中央部から周辺部まで平坦(信号レベルが一定)になるようなシェーディング補正(100パーセント補正)は行わないのであるが、この場合、レンズシェーディングによる空間周波数の低周波成分が残り、特に、フレームレートが速く、フリッカーノイズの明暗横縞の本数が少ない場合には、フリッカー検出で誤検出する虞があった。
本発明は、上記従来の問題を解決するもので、フリッカー検出のために撮影用の画像に悪影響を及ぼすことなく、高精度にフリッカー周波数が検出できる信号処理装置、信号処理方法、この信号処理方法の各ステップをコンピュータに実行させるための制御プログラム、この制御プログラムがデータとして格納されたコンピュータ読み取り可能な可読記憶媒体、この信号処理装置を用いた固体撮像装置および、この信号処理装置を含む固体撮像装置を画像入力デバイスとして撮像部に用いたカメラ付き携帯電話装置などの電子情報機器を提供することを目的とする。
本発明の信号処理装置は、入力画像信号に対する撮影画像処理とフリッカー検出処理に共通した信号処理を行う共通前処理手段と、該共通前処理手段からの画像信号に対して表示画像用の画像信号処理を行う撮影画像処理手段と、該共通前処理手段からの画像信号に対してフリッカー検出用の画像信号処理を行うフリッカー検出前処理手段と、該フリッカー検出前処理手段からの画像信号に基づいてフリッカー検出を行うフリッカー検出手段とを有するものであり、そのことにより上記目的が達成される。
また、好ましくは、本発明の信号処理装置におけるフリッカー検出手段は、前記フリッカー検出前処理手段からの画像信号の輝度信号情報を用いてフリッカー検出を行う。
さらに、好ましくは、本発明の信号処理装置におけるフリッカー検出手段は、前記フリッカー検出前処理手段からの画像信号の輝度信号情報および色差信号情報を用いてフリッカー検出を行う。
さらに、好ましくは、本発明の信号処理装置におけるフリッカー検出手段は、画像垂直方向の輝度信号の空間周波数を検出する輝度周波数検出手段と、該画像垂直方向の色差信号U,Vの空間周波数を検出する色差周波数検出手段とのうちの少なくとも該輝度周波数検出手段を有する。
さらに、好ましくは、本発明の信号処理装置におけるフリッカー検出手段は、前記フリッカー検出前処理手段からの画像信号のうちの輝度信号を表示画面のライン毎に垂直方向に順次積算する第1水平方向積算回路と、該第1水平方向積算回路で積算された積算値に対して離散フーリエ変換処理を行う第1周波数変換回路と、該離散フーリエ変換処理結果の周波数成分のパワーが最大になる空間周波数を検出する第1周波数検出回路とを有する。
さらに、好ましくは、本発明の信号処理装置におけるフリッカー検出手段は、前記フリッカー検出前処理手段からの輝度信号を表示画面のライン毎に水平方向に順次積算する第1水平方向積算回路と、該第1水平方向積算回路で積算された積算値に対して離散フーリエ変換処理を行う第1周波数変換回路と、該第1周波数変換回路における離散フーリエ変換処理結果の周波数成分のパワーが最大になる空間周波数を検出する第1周波数検出回路と、該フリッカー検出前処理手段からの色差信号Uを表示画面のライン毎に水平方向に順次積算する第2水平方向積算回路と、該第2水平方向積算回路で積算された積算値に対して離散フーリエ変換処理を行う第2周波数変換回路と、該第2周波数変換回路における離散フーリエ変換処理結果の周波数成分のパワーが最大になる空間周波数を検出する第2周波数検出回路と、該フリッカー検出前処理手段からの色差信号Vを表示画面のライン毎に水平方向に順次積算する第3水平方向積算回路と、該第3水平方向積算回路で積算された積算値に対して離散フーリエ変換処理を行う第3周波数変換回路と、該第3周波数変換回路における離散フーリエ変換処理結果の周波数成分のパワーが最大になる空間周波数を検出する第3周波数検出回路とを有する。
さらに、好ましくは、本発明の信号処理装置における第1周波数検出回路、前記第2周波数検出回路および前記第3周波数検出回路からの各フリッカー周波数における多数決により該フリッカー周波数を決定する。
さらに、好ましくは、本発明の信号処理装置におけるフリッカー検出前処理手段は、画像水平方向と画像垂直方向のシェーディング補正手段を有する。
さらに、好ましくは、本発明の信号処理装置におけるフリッカー検出前処理手段は、画像垂直方向のシェーディング補正手段を有する。
さらに、好ましくは、本発明の信号処理装置におけるシェーディング補正手段は、90パーセント〜100パーセントのシェーディング補正を行う。
さらに、好ましくは、本発明の信号処理装置における撮影画像処理手段は、画像水平方向と画像垂直方向のシェーディング補正手段を有する。
さらに、好ましくは、本発明の信号処理装置における撮影画像処理手段は、画像水平方向のシェーディング補正手段を有し、前記フリッカー検出前処理手段の画像垂直方向のシェーディング補正手段から入力されるデータを、該画像水平方向のシェーディング補正手段からのデータに乗算処理することにより、該撮影画像処理手段において、画像水平方向および画像垂直方向のシェーディング補正処理を行う。
さらに、好ましくは、本発明の信号処理装置における共通前処理手段は、画像垂直方向のシェーディング補正手段を有し、前記撮影画像処理手段は、該画像垂直方向のシェーディング補正手段から入力されるデータと乗算処理する画像水平方向のシェーディング補正手段を有し、前記フリッカー検出前処理手段は、該画像垂直方向のシェーディング補正手段からのデータを入力する。
さらに、好ましくは、本発明の信号処理装置におけるフリッカー検出前処理手段は、光源の色温度により変化する3色の信号レベルを補正するデジタルゲイン補正手段を有する。
さらに、好ましくは、本発明の信号処理装置におけるフリッカー検出前処理手段は、入力された原色RGB信号から輝度信号Yと色差信号U,Vを生成する補間手段を有する。
さらに、好ましくは、本発明の信号処理装置におけるフリッカー検出前処理手段は、表示画像の濃淡を補正する濃淡補正手段を有する。
さらに、好ましくは、本発明の信号処理装置におけるフリッカー検出前処理手段は、レンズシェーディングによる周辺光量落ちを補正するシェーディング補正手段と、光源の色温度により変化する3色の信号レベルを補正するデジタルゲイン補正手段と、入力された原色RGB信号から輝度信号Yと色差信号U,Vを生成する補間手段と、表示画像の濃淡を補正する濃淡補正手段とを有する。
さらに、好ましくは、本発明の信号処理装置における濃淡補正手段は、コントラスト強調を行い、フリッカーによる表示画像の濃淡を強調処理する。
さらに、好ましくは、本発明の信号処理装置におけるフリッカー検出前処理手段は、レンズシェーディングによる周辺光量落ちを補正するシェーディング補正手段と、光源の色温度により変化する3色の信号レベルを補正するデジタルゲイン補正手段と、入力された原色RGB信号から輝度信号Yと色差信号U,Vを生成する補間手段とを有する。
さらに、好ましくは、本発明の信号処理装置におけるフリッカー検出前処理手段は、明るさが所定値以上変化したかどうかを判定してフリッカー検出前処理を起動する明るさ変化判定手段を更に有する。
本発明の固体撮像装置は、被写体からの画像光を光電変換して撮像する複数の受光部が形成された撮像素子と、該撮像素子から得られるアナログ画像信号をデジタル変換するアナログ/デジタル変換手段と、該アナログ/デジタル変換手段からのデジタル画像信号が前記入力画像信号として入力される本発明の上記信号処理装置とを有するものであり、そのことにより上記目的が達成される。
本発明の電子情報機器は、本発明の上記信号処理装置を有する固体撮像装置を画像入力デバイスとして撮像部に用いたものであり、そのことにより上記目的が達成される。
本発明の信号処理方法は、撮像素子より得られる画像信号をデジタル変換したデジタル画像信号に対して、撮影画像処理とフリッカー検出処理に共通した信号処理を行う共通前処理ステップと、該共通前処理ステップで得られた画像信号に対して表示画像用の画像信号処理を行う撮影画像処理ステップと、該共通前処理ステップで得られた画像信号に対してフリッカー検出用の画像信号処理を行うフリッカー検出前処理ステップと、フリッカー検出前処理ステップにより処理された画像信号からフリッカー検出を行うフリッカー検出ステップとを有するものであり、そのことにより上記目的が達成される。
また、好ましくは、本発明の信号処理方法におけるフリッカー検出ステップは、表示画像の垂直方向の輝度信号の空間周波数を検出する輝度周波数検出ステップと、該表示画像の垂直方向の色差信号の空間周波数を検出する色差周波数検出ステップとのうちの少なくとも輝度周波数検出ステップを有する。
さらに、好ましくは、本発明の信号処理方法におけるフリッカー検出前処理ステップに、画像の水平方向と垂直方向のうちの少なくとも垂直方向のシェーディング補正ステップを有する。
さらに、好ましくは、本発明の信号処理方法におけるフリッカー検出前処理ステップに、表示画像の濃淡を補正する濃淡補正ステップを有する。
さらに、好ましくは、本発明の信号処理方法におけるフリッカー検出前処理ステップは、レンズシェーディングによる周辺光量落ちを補正するシェーディング補正ステップと、光源の色温度により変化する3色の信号レベルを補正するデジタルゲイン補正ステップと、入力された原色RGB信号から輝度信号Yと色差信号U,Vを生成する補間ステップと、表示画像の濃淡を補正する濃淡補正ステップとを有する。
さらに、好ましくは、本発明の信号処理方法におけるフリッカー検出前処理ステップは、レンズシェーディングによる周辺光量落ちを補正するシェーディング補正ステップと、光源の色温度により変化する3色の信号レベルを補正するデジタルゲイン補正ステップと、入力された原色RGB信号から輝度信号Yと色差信号U,Vを生成する補間ステップとを有する。
本発明の制御プログラムは、本発明の上記信号処理方法の各ステップのうち少なくとも前記フリッカー検出前処理ステップおよび前記フリッカー検出ステップをコンピュータに実行させるための処理手順が記録されたものであり、そのことにより上記目的が達成される。
本発明の可読記憶媒体は、本発明の上記制御プログラムが格納されたコンピュータ読み取り可能なものであり、そのことにより上記目的が達成される。
上記構成により、以下、本発明の作用を説明する。
本発明においては、入力画像信号に対する撮影画像処理とフリッカー検出処理に共通した信号処理を行う共通前処理手段と、この共通前処理手段からの画像信号に対して表示画像用の画像信号処理を行う撮影画像処理手段と、この共通前処理手段からの画像信号に対してフリッカー検出用の画像信号処理を行うフリッカー検出前処理手段と、このフリッカー検出前処理手段からの画像信号に基づいてフリッカー検出を行うフリッカー検出手段とを有している。
これによって、フリッカー検出手段によりフリッカー検出処理を行うのに、撮影画像処理手段とは別系統のフリッカー検出前処理手段を設けて撮影画像処理手段とは別途処理を行うので、画像撮影用の表示画像に悪影響を及ぼすことなく、高精度にフリッカー周波数を検出することが可能となる。
また、これらの処理は、一部、若しくは、全部をソフトウェア処理方法として実現することも可能である。
以上により、本発明によれば、フリッカー検出手段によりフリッカー検出処理を行うのに、撮影画像処理手段とは別系統のフリッカー検出前処理手段を設けて撮影画像処理手段とは別途処理を行うため、撮影用の表示画像に悪影響を及ぼすことなく、高精度にフリッカー周波数を検出することができる。
以下に、本発明のハードウェア構成の信号処理装置および信号処理方法の実施形態1〜4および、本発明の一部または全部がソフトウェア構成の信号処理装置および信号処理方法の実施形態5、これらの信号処理装置および信号処理方法の実施形態1〜5のいずれかの構成を含む固体撮像装置を画像入力デバイスとして撮像部に用いた例えばカメラ付き携帯電話装置などの電子情報機器の実施形態6について、図面を参照しながら詳細に説明する。
(実施形態1)
図1は、本発明の実施形態1に係る信号処理装置の要部構成例を示すブロック図である。
図1において、本実施形態1の信号処理装置1は、撮影画像用およびフリッカー検出用で共通の画像信号処理を行う共通前処理手段としての共通前処理部10と、撮影画像用に画像信号処理を行う撮影画像処理手段としての撮影画像処理部20と、フリッカー検出用に画像信号処理を行うフリッカー検出前処理手段としてのフリッカー検出前処理部30と、フリッカー検出前処理部30からの画像信号に基づいてフリッカー検出処理を行うフリッカー検出手段としてのフリッカー検出回路40とを有している。
共通前処理部10は、その一例として、入力信号の黒レベルが所定の値になるようクランプ処理するデジタルクランプ回路11と、白傷や黒傷や固定ノイズなどを補正するための欠陥画素補正回路12と、分光特性を改善するためのマトリックス補正回路13とを有しており、撮像素子より得られる画像信号をアナログ/デジタル変換したデジタル画像信号が入力画像信号として入力され、この入力画像信号に対して、撮影画像とフリッカー検出に共通した信号処理を行う。
撮影画像処理部20は、その一例として、撮影画像処理用にレンズシェーディングによる周辺光量落ちを補正するシェーディング補正回路21と、光源の色温度により変化する3色のゲインを補正するホワイトバランス回路22と、画像表示装置の表示特性やセンサーの階調特性に応じて画像信号を調整するガンマ補正回路23と、入力された原色RGB信号から輝度信号と色差信号を生成する補間回路24とを有している。
フリッカー検出前処理部30は、その一例として、フリッカー検出処理用にレンズシェーディングによる周辺光量落ちを補正するシェーディング補正手段としてのシェーディング補正回路31と、光源の色温度により変化する3色の信号レベルを補正するデジタルゲイン回路32と、入力された原色RGB信号から輝度信号Yと色差信号U,Vを生成する補間回路33とを有している。
シェーディング補正回路21は、撮影画像処理用に画像水平方向と画像垂直方向のシェーディング補正処理を行い、シェーディング補正回路31は、フリッカー検出処理用に画像水平方向と画像垂直方向のシェーディング補正処理を行ってもよいが、ここでは、画像垂直方向だけのシェーディング補正処理を行う。これは、フリッカー検出時に、ライン毎に表示画像の横方向(水平方向)に積算することから、シェーディング補正を画像垂直方向(縦方向だけ平坦にすればよい)に行うだけでよいため、回路規模の増大を防止できて、両方向のシェーディング補正時の同様の効果が得られるためである。
なお、シェーディング補正回路31で画像垂直方向だけのシェーディング補正処理を行い、これを用いて、シェーディング補正回路21で画像水平方向だけのシェーディング補正処理を行って乗算すれば、シェーディング補正回路21の回路規模をさらに縮小させることができる。また、画像垂直方向だけのシェーディング補正回路が共通前処理部10内に含まれていてもよく、このデータを撮影画像処理部20およびフリッカー検出前処理部30が入力するようにし、撮影画像処理部20で画像水平方向だけのシェーディング補正処理をさらに行って互いに乗算するようにしてもよい。
フリッカー検出回路40は、図2に示すように、補間回路33からの画像信号のうちの輝度信号をライン毎に水平方向に積算する水平方向積算回路41Yと、水平方向積算回路41Yで積算された積算値に対して離散フーリエ変換などの処理を行う周波数変換回路42Yと、離散フーリエ変換処理結果に基づいて、パワーが最大になる空間周波数を検出する周波数検出回路43とを有しており、フリッカー検出前処理部30の出力信号に存在するフリッカーノイズから蛍光灯の交流電源周波数(50Hzかまたは60Hz)を検出する。
このフリッカー検出方法の一例を、図3を用いて詳細に説明する。
図3(a)の表示画像にフリッカーノイズによる輝度の横縞が現れた状態を示している。この表示画像(表示画面)を水平方向に投影したものが図3(b)になり、蛍光灯の交流電源電圧の変動の絶対値をとったものが現れる。この周波数は、交流電源周波数の2倍(100Hzまたは120Hz)に一致する。表示画像の水平方向の投影として、水平方向積算回路41Yで画像信号をライン毎に水平方向に積算し、その積算値を、周波数変換回路42Yで離散フーリエ変換などの処理を行い、周波数検出回路43で、離散フーリエ変換演算結果後の周波数成分のパワーが最大になる空間周波数を検出することにより、横縞に対応した表示画像の垂直方向の空間周波数が求まり、フリッカーノイズの原因となる蛍光灯の交流電源周波数を検出することができる。
なお、シャッター速度とフリッカーの1周期の整数倍とが一致すればフリッカーが発生しないので、フリッカー検出回路40によって検出された交流電源周波数情報に基づき、図示していないシャッター速度制御回路で、シャッター速度を交流電源周波数の整数倍にする方法や、デジタルゲイン回路により信号レベルの低いラインのゲインを上げる方法で、フリッカーノイズを低減することができる。
(実施形態2)
上記実施形態1では、フリッカー検出回路40において、輝度信号情報を用いてフリッカー検出を行う場合について説明したが、これに限らず、この輝度信号情報に加えて色差信号情報も利用してフリッカー検出を行う場合について説明する。
図4は、本発明の実施形態2に係る信号処理装置の要部構成例を示すブロック図である。なお、図4では、図1と同様の作用効果を奏する部材には同一の部材番号を付してその説明を省略する。
図4において、本実施形態2の信号処理装置1Aは、撮影画像用およびフリッカー検出用で共通の画像信号処理を行う共通前処理手段としての共通前処理部10と、撮影画像用に画像信号処理を行う撮影画像処理手段としての撮影画像処理部20と、フリッカー検出用に画像信号処理を行うフリッカー検出前処理手段としてのフリッカー検出前処理部30と、フリッカー検出前処理部30からの画像信号に基づいてフリッカー検出処理を行うフリッカー検出手段としてのフリッカー検出回路40Aとを有している。
フリッカー検出回路40Aは、フリッカー検出前処理部30からの画像信号の輝度信号情報および色差信号情報の両方を用いてフリッカー検出を行う。
フリッカー検出回路40Aは、図5に示すように、補間回路33からの画像信号のうちの輝度信号をライン毎に水平方向に積算する水平方向積算回路41Yと、水平方向積算回路41Yで積算された積算値に対して離散フーリエ変換などの処理を行う周波数変換回路42Yと、補間回路33からの画像信号のうちの色差信号Uをライン毎に水平方向に積算する水平方向積算回路41Uと、水平方向積算回路41Uで積算された積算値に対して離散フーリエ変換などの処理を行う周波数変換回路42Uと、補間回路33からの画像信号のうちの色差信号Vをライン毎に水平方向に積算する水平方向積算回路41Vと、水平方向積算回路41Vで積算された積算値に対して離散フーリエ変換などの処理を行う周波数変換回路42Vと、各離散フーリエ変換処理結果に基づいて、パワーが最大になる空間周波数を検出する周波数検出回路43Aとを有しており、フリッカー検出前処理部30の出力信号に存在するフリッカーノイズから蛍光灯の交流電源周波数を検出する。なお、積算は水平、離散フーリエ変換は垂直に実施している。
図6(a)に表示画像にフリッカーノイズによる色差の横縞が現れた状態を示している。この表示画像をRGB信号のレベル別に表示画面の水平方向に投影したものが図6(b)になり、色差信号を表示画面の水平方向に投影したものが図6(c)となって、輝度フリッカーノイズと同様に、交流電源周波数の2倍(100Hzかまたは120Hz)の空間周波数を持っている。表示画面の水平方向の投影として、水平方向積算回路41Yの他にも、水平方向積算回路41Uおよび41Vで画像信号をライン毎に表示画面の水平方向にそれぞれ積算し、周波数変換回路42Yの他にも、周波数変換回路42Uおよび42Vで離散フーリエ変換等の処理を行い、周波数検出回路43で輝度信号Yと色差信号U,Vの周波数成分のパワーが最大になる空間周波数を検出することにより、横縞に対応した画像の垂直方向の空間周波数が求まり、フリッカーノイズの原因となる蛍光灯の交流電源周波数(100Hzまたは120Hz)を検出する。この場合に、周波数変換回路42Y,42Uおよび42Vからの情報によりフリッカー周波数を特定しておいて多数決により最終的に決定することになる。要するに、いずれか一つに検出結果が出ない場合であっても、他の二つに検出結果が出ていればそれを採用することができる。
なお、フリッカー検出回路の回路規模を少なくしたい場合には、上記実施形態1のフリッカー検出回路40のように、輝度信号情報だけを用いてフリッカー検出を行い、また、より誤検出を防止してフリッカー検出精度を上げたい場合には、本実施形態2のフリッカー検出回路40Aのように、輝度信号情報に加えて色差信号情報をも利用して情報量を増やした状態で信頼性の高いフリッカー検出を行うことができる。
(実施形態3)
上記実施形態1に示したフリッカー検出前処理部30のシェーディング補正回路31において、本実施形態3では、ノイズの増幅に注意をすることなく周辺部まで平坦になるような100パーセントのシェーディング補正前処理を行う場合について説明する。
図7は、本発明の実施形態3に係る信号処理装置の要部構成例を示すブロック図である。なお、図7では、図1と同様の作用効果を奏する部材には同一の部材番号を付してその説明を省略する。
図7において、本実施形態3の信号処理装置1Bは、撮影画像用およびフリッカー検出用で共通の画像信号処理を行う共通前処理手段としての共通前処理部10と、撮影画像用に画像信号処理を行う撮影画像処理手段としての撮影画像処理部20と、フリッカー検出用に画像信号処理を行うフリッカー検出前処理手段としてのフリッカー検出前処理部30Bと、フリッカー検出前処理部30Bからの画像信号に基づいてフリッカー検出処理を行うフリッカー検出手段としてのフリッカー検出回路40とを有している。
フリッカー検出前処理部30Bは、その一例として、フリッカー検出処理用にレンズシェーディングによる周辺光量落ちを補正するシェーディング補正回路31Bと、光源の色温度により変化する3色の信号レベルを補正するデジタルゲイン回路32と、入力された原色RGB信号から輝度信号と色差信号を生成する補間回路33とを有している。
シェーディング補正回路31Bは、表示画面の中央部分から周辺部分まで平坦(信号レベルが均等)になるような90パーセント〜100パーセント(ここでは100パーセント)のシェーディング補正前処理を行う。
シェーディング補正回路21は、撮影画像処理用に画像水平方向と画像垂直方向の70〜80パーセントのシェーディング補正処理を行い、シェーディング補正回路31は、フリッカー検出処理用に画像垂直方向だけの100パーセントのシェーディング補正処理を行う。これは、フリッカー検出時に、表示画面の水平方向のライン毎に水平方向に順次積算することから、シェーディング補正を画像垂直方向(縦方向だけ平坦にすればよい)に行うだけでよいため、回路規模の増大を防止できて同様の効果が得られるためである。
要するに、表示画像の中央部分に比べて周辺部でノイズ成分Nが大きくなるため、画質的には、表示画面の中央部から周辺部まで平坦(信号レベルが一定)になるようなシェーディング補正(100パーセント補正)は行わないが(表示画像用には70〜80パーセントのシェーディング補正に抑えている)、フリッカー検出用には、100パーセントのシェーディング補正を行う。この100パーセントのシェーディング補正を画像水平方向と画像垂直方向に共に行うと、回路規模が増大する。ここでは、フリッカー検出時に、ライン毎に水平方向に積算することから、100パーセントのシェーディング補正を画像垂直方向(縦方向だけ平坦にすればよい)に行うだけでよいため、回路規模の増大を防止できて、両方向にシェーディング補正を行う場合と同様の効果が得られる。
図8(a)に表示画像にレンズシェーディングによる周辺光量落ちが現れた状態を示している。この輝度値を表示画面の縦方向に投影したものが図8(b)となる。この表示画像に図3(b)に示すようなフリッカーノイズが重畳すると、図8(c)のような投影となる。この場合、レンズシェーディングによる空間周波数とフリッカーノイズによる空間周波数が混在することになり、特に、フレームレートが速くなった場合に、フリッカーノイズの明暗横縞の本数が少くなるため、これら2つの要因の分離が困難になり、誤検出を行う可能性がある。
そこで、フリッカー検出の前処理として表示画面の中央部分から周辺部まで平坦になるシェーディング補正を行うことにより、要因の分離を容易にしてフリッカー周波数検出精度を高めることができる。
なお、このシェーディング補正は、前述したように、表示画像の垂直方向(縦方向)に対してのみ実施することでも効果を発揮することが可能であるため、回路規模の削減に有効である。この場合、シェーディング補正後の表示画像は図8(d)のようになり、その投影は図8(e)のように平坦になる。
なお、本実施形態3では、特に説明しなかったが、フリッカー検出回路40の代わりに、上記実施形態2のフリッカー検出回路40Aを用いることもできる。
(実施形態4)
上記実施形態1に示したフリッカー検出前処理部30において、フリッカー検出精度を上げるため、本実施形態4では、濃淡彩度補正回路を新たに加えて、使用者に呈示する表示画像への影響を考慮することなく濃淡や彩度を強調するような濃淡彩度補正前処理を行う場合について説明する。
図9は、本発明の実施形態4に係る信号処理装置の要部構成例を示すブロック図である。なお、図9では、図1と同様の作用効果を奏する部材には同一の部材番号を付してその説明を省略する。
図9において、本実施形態4の信号処理装置1Cは、撮影画像用およびフリッカー検出用で共通の画像信号処理を行う共通前処理手段としての共通前処理部10と、撮影画像用に画像信号処理を行う撮影画像処理手段としての撮影画像処理部20と、フリッカー検出用に画像信号処理を行うフリッカー検出前処理手段としてのフリッカー検出前処理部30Cと、フリッカー検出前処理部30Cからの画像信号に基づいてフリッカー検出処理を行うフリッカー検出手段としてのフリッカー検出回路40または40Aとを有している。
フリッカー検出前処理部30Cは、その一例として、フリッカー検出処理用にレンズシェーディングによる周辺光量落ちを補正するシェーディング補正回路31と、光源の色温度により変化する3色の信号レベルを補正するデジタルゲイン回路32と、入力された原色RGB信号から輝度信号と色差信号を生成する補間回路33と、画像の濃淡や彩度の階調特性を調整する濃淡補正手段としての濃淡彩度補正回路34とを有している。
濃淡彩度補正回路34は、図10(c)のS字曲線のように、入力信号では、明るくなるほどより明るく、暗い入力信号ではより暗くしている。一方、撮影画像処理部20のガンマ補正回路23では、図10(d)の曲線のように、暗い入力信号ではなるべく明るく、明るい入力信号ではそれほど明るさが変わらないようにしている。
このように、濃淡彩度補正回路34をフリッカー検出前処理部30Cに設けることにより、コントラスト強調を行い、フリッカーによる表示画像の濃淡を強調処理した画像データがフリッカー検出には望ましい。ところが、このような濃淡の強調処理が、撮影画像処理部20の撮影画像の画像信号処理中にあるのは、画質的に不適切であることは明らかである。したがって、この濃淡彩度補正回路34を、フリッカー検出回路40または40Aのためのフリッカー検出前処理部30Cに設けるのが好ましい。
輝度色差補正による検出精度向上のために、この前処理の一例を、図10(a)および図10(b)を用いて説明する。図10(a)のような非常に弱いフリッカーノイズが現れている画像の場合、輝度や色差を水平方向に投影したものは図10(b)のような、振幅の低いものとなる。
そこで、フリッカー検出の前処理としてこの表示画像に濃淡彩度補正回路34により、図10(c)に示すようなS字特性を持った濃淡彩度補正処理を行うことにより、図3や図6に示すようなフリッカーノイズ振幅のある表示画像を生成してフリッカー周波数検出精度を高めることができる。
(実施形態5)
上記実施形態1〜4の各処理は、その各処理の一部または全部をソフトウェア処理として実現することも可能である。本実施形態5では、本発明の信号処理装置の一部または全部をソフトウェア構成とする場合について説明する。
図11は、本発明の実施形態5に係る信号処理装置の要部コンピュータハード構成例を示すブロック図である。
図11において、本実施形態5の信号処理装置50Aは、全体の制御を行う制御手段としてのCPU(中央演算処理装置)51と、CPU51に対して入力指令を行うためのキーボード、マウス、タッチパネルおよびペン入力装置、さらには通信ネットワーク(例えばインターネットやイントラネット)を介して受信入力する入力装置などの操作部52と、表示画面上に、初期画面、選択場面、CPU51による制御結果画面および操作入力画面などを表示する表示部53と、制御プログラムおよびそのデータなどが記憶されたコンピュータ読み出し可能な可読記録媒体としてのROM54と、起動時に制御プログラムおよびそのデータなどが読み出されて、CPU51による制御毎にデータを読み出し・記憶するワークメモリとして働く記憶部としてのRAM55とを有している。
可読記録媒体としてのROM54としては、ハードディスクの他、形態自在な光ディスク、光磁気ディスク、磁気ディスクおよびICメモリなどで構成されていてもよい。この制御プログラムおよびそのデータなどがROM54に記憶されるが、この制御プログラムおよびそのデータは、他の可読記録媒体から、または、無線、有線またはインターネットなどを介してROM54にダウンロードされてもよい。
制御手段としてのCPU51は、制御プログラムおよびそのデータに基づいて、フリッカー検出用に画像信号処理を行うフリッカー検出前処理手段511と、フリッカー検出前処理手段511からの画像信号に基づいてフリッカー検出処理を行うフリッカー検出手段512とを実行する。
このフリッカー検出前処理手段511は、明るさが所定値以上変化したかどうかを判定してフリッカー検出前処理を起動する明るさ変化判定手段511aと、フリッカー検出処理用にレンズシェーディングによる周辺光量落ちを補正するシェーディング補正手段511bと、光源の色温度により変化する3色の信号レベルを補正するデジタルゲイン補正手段511cと、入力された原色RGB信号から輝度信号Yと色差信号U,Vを生成する補間手段511dと、画像の濃淡や彩度の階調特性を調整する濃淡彩度補正手段511eとを有している。なお、濃淡彩度補正手段511eはない場合もあり得る。
なお、ここでは、フリッカー検出処理は、比較的時間経過後に対応処理(低速処理)できるので、フリッカー検出前処理手段511およびフリッカー検出手段512(上記フリッカー検出前処理部30または30Bまたは30C、および上記フリッカー検出部40または40Aに対応)のフリッカー検出処理に対してソフトウェア処理とするが、図1の共通前処理部10や撮影画像処理部20については、ここでは、図1の場合と同様にハードウェア処理とする。高速処理を考慮しなければ、図1の共通前処理部10や撮影画像処理部20についても、ソフトウェア処理にすることができる。
ここでは、本実施形態5の信号処理装置1Dとして、図1の共通前処理部10や撮影画像処理部20のハードウェア処理と、フリッカー検出前処理手段511およびフリッカー検出手段512のソフトウェア処理とを有している。
上記構成により、その動作を説明する。
図12は、図11の信号処理装置の動作を説明するためのフローチャートである。
図12に示すように、まず、ステップS1で、明るさ変化判定手段511aにより、明るさが所定値以上変化したかどうかを判定し、明るさが所定値以上変化するまで待ち、明るさが所定値以上変化した場合にフリッカー検出前処理を起動して、次のステップS2の処理に移行する。明るさの検出は表示画面の所定の中央部分領域の明るさを所定フレーム数取り出して検出する。
次に、ステップS2で、シェーディング補正手段511bにより、フリッカー検出処理用にレンズシェーディングによる周辺光量落ちを補正する。
続いて、ステップS3で、デジタルゲイン補正手段511cにより、光源の色温度により変化する3色の信号レベルを補正する。
さらに、ステップS4で、補間手段511dにより、入力された原色RGB信号から輝度信号Yと色差信号U,Vを生成する。
その後、ステップS5で、濃淡彩度補正手段511eにより、画像の濃淡や彩度の階調特性を調整してコントラスト強調を行う。
さらに、ステップS6で、フリッカー検出手段512により、フリッカー検出前処理手段511からの画像信号に基づいてフリッカー検出処理を行う。
なお、上記実施形態1〜5では、CMOS型撮像素子による実施例を記載したが、これに限定されるものではなく、ライン単位での露光を行う撮像素子にも実施可能である。また、上記実施形態1〜5では、原色フィルターによる実施例を記載したが、これに限定されるものではなく、補色フィルターを使用した撮像素子にも実施可能である。
(実施形態6)
図13は、本発明の実施形態6として、本発明の実施形態1〜5のいずれかの信号処理装置を含む固体撮像装置を撮像部に用いた電子情報機器の概略構成例を示すブロック図である。
図13において、本実施形態6の固体撮像装置91は、被写体からの画像光を光電変換して撮像する複数の受光部が形成された撮像素子(図示せず)と、この撮像素子から得られるアナログ画像信号をデジタル変換するアナログ/デジタル変換手段(図示せず)と、このアナログ/デジタル変換手段からのデジタル画像信号が前記入力画像信号として入力される信号処理装置1、1A、1B,1Cまたは1Dとを有している。
本実施形態6の電子情報機器90は、撮像素子(図示せず)からの撮像信号を信号処理する上記実施形態1〜5のいずれかの信号処理装置1、1A、1B,1Cまたは1Dからの画像信号を更に各種信号処理してカラー画像信号を得る固体撮像装置91と、この固体撮像装置91からのカラー画像信号を記録用に所定の信号処理した後にデータ記録可能とする記録メディアなどのメモリ部92と、この固体撮像装置91からのカラー画像信号を表示用に所定の信号処理した後に液晶表示画面などの表示画面上に表示可能とする液晶表示装置などの表示手段93と、この固体撮像装置91からのカラー画像信号を通信用に所定の信号処理をした後に通信処理可能とする送受信装置などの通信手段94とを有している。なお、この電子情報機器90として、これに限らず、固体撮像装置91の他に、メモリ部92と、表示手段93と、通信手段94と、プリンタなどの画像出力手段95とのうちの少なくともいずれかを有していてもよい。
この電子情報機器90としては、前述したように例えばデジタルビデオカメラ、デジタルスチルカメラなどのデジタルカメラや、監視カメラ、ドアホンカメラ、車載用後方監視カメラなどの車載用カメラおよびテレビジョン電話用カメラなどの画像入力カメラ、スキャナ装置、ファクシミリ装置、カメラ付き携帯電話装置および携帯端末装置(PDA)などの画像入力デバイスを有した電子機器が考えられる。
したがって、本実施形態2によれば、この固体撮像装置91からのカラー画像信号に基づいて、これを表示画面上に良好に表示したり、これを紙面にて画像出力手段95により良好にプリントアウト(印刷)したり、これを通信データとして有線または無線にて良好に通信したり、これをメモリ部92に所定のデータ圧縮処理を行って良好に記憶したり、各種データ処理を良好に行うことができる。
以上により、本実施形態1〜5によれば、入力画像信号に対する撮影画像処理とフリッカー検出処理に共通した信号処理を行う共通前処理部10と、この共通前処理部10からの画像信号に対して表示画像用の画像信号処理を行う撮影画像処理部20と、この共通前処理部10からの画像信号に対してフリッカー検出用の画像信号処理を行うフリッカー検出前処理部30と、このフリッカー検出前処理部30からの画像信号に基づいてフリッカー検出を行うフリッカー検出回路40とを有している。これによって、フリッカー検出回路40によりフリッカー検出処理を行うのに、撮影画像処理部20とは別系統のフリッカー検出前処理部30を設けて、撮影画像処理部20とは別途処理を行うため、画像撮影用の表示画像に悪影響を及ぼすことなく、高精度にフリッカー周波数を検出することができる。
なお、本実施形態1〜6では、特に説明しなかったが、本実施形態1〜5の特徴部分はそれらを適宜組み合わせて構成することができる。即ち、フリッカー検出回路40(実施形態1)とフリッカー検出回路40A(実施形態1)、シェーディング補正回路31とシェーディング補正回路31B(実施形態3)、濃淡彩度補正回路34(実施形態4)のうちの少なくともいずれかを有するように構成することができる。
なお、本実施形態1〜6では、特に説明しなかったが、蛍光体の発光特性と残光特性は、蛍光体の色によって異なるため、シャッター速度が高速になった場合に輝度の明暗と共に、色の変化も発生する。このため、輝度の変化に伴い発生する横縞と同様の、色の横縞が発生することがある。従来、フリッカー検出には、この情報が利用されておらず、フリッカー検出精度の向上のために、この情報も利用できるようにすることが必要である。
以上のように、本発明の好ましい実施形態1〜6を用いて本発明を例示してきたが、本発明は、この実施形態1〜6に限定して解釈されるべきものではない。本発明は、特許請求の範囲によってのみその範囲が解釈されるべきであることが理解される。当業者は、本発明の具体的な好ましい実施形態1〜6の記載から、本発明の記載および技術常識に基づいて等価な範囲を実施することができることが理解される。本明細書において引用した特許、特許出願および文献は、その内容自体が具体的に本明細書に記載されているのと同様にその内容が本明細書に対する参考として援用されるべきであることが理解される。
本発明は、被写体からの画像光を光電変換して撮像するCMOS(Complementary Metal Oxide Semiconductor)型撮像素子などにより得られる画像信号から、フリッカーを検出する信号処理装置、信号処理方法、この信号処理方法の各ステップをコンピュータに実行させるための処理手順が記録された制御プログラム、この制御プログラムがデータとして格納されたコンピュータ読み取り可能な可読記憶媒体、この信号処理装置を用いた固体撮像装置および、この信号処理装置を含む固体撮像装置を画像入力デバイスとして撮像部に用いた例えばデジタルビデオカメラおよびデジタルスチルカメラなどのデジタルカメラや、画像入力カメラ、スキャナ装置、ファクシミリ装置、カメラ付き携帯電話装置などの電子情報機器の分野において、フリッカー検出回路によりフリッカー検出処理を行うのに、撮影画像処理部とは別系統のフリッカー検出前処理部を設けて、撮影画像処理部とは別途処理を行うため、撮影用の表示画像に悪影響を及ぼすことなく、高精度にフリッカー周波数を検出することができる。
本発明の実施形態1に係る信号処理装置の要部構成例を示すブロック図である。 図1のフリッカー検出回路の要部構成例を示すブロック図である。 (a)は、表示画像にフリッカーノイズによる輝度の横縞が現れた状態を示す表示画面図、(b)は、表示画像を輝度信号レベルで水平方向に投影した図である。 本発明の実施形態2に係る信号処理装置の要部構成例を示すブロック図である。 図4のフリッカー検出回路の要部構成例を示すブロック図である。 (a)は、表示画像にフリッカーノイズによる色差の横縞が現れた状態を示す表示画面図、(b)は、表示画像をRGB信号のレベル別に水平方向に投影した図、(c)は、色差信号を水平方向に投影した図である。 本発明の実施形態3に係る信号処理装置の要部構成例を示すブロック図である。 (a)〜(e)は、レンズシェーディングの影響軽減を説明する図である。 本発明の実施形態4に係る信号処理装置の要部構成例を示すブロック図である。 (a)〜(d)は、輝度色差補正による検出精度向上を説明する図である。 本発明の実施形態5に係る信号処理装置の要部コンピュータハード構成例を示すブロック図である。 図11の信号処理装置の動作を説明するためのフローチャートである。 本発明の実施形態6として、本発明の実施形態1〜5のいずれかの信号処理装置を含む固体撮像装置を撮像部に用いた電子情報機器の概略構成例を示すブロック図である。 特許文献1に開示されている従来のデジタル信号処理装置の要部構成例を示すブロック図である。 レンズシェーディング補正によりノイズが大きくなる場合を説明するための図である。
符号の説明
1、1A、1B、1C、1D 信号処理装置
10 共通前処理部
11 デジタルクランプ回路
12 欠陥画素補正回路
13 マトリックス補正回路
20 撮影画像処理部
21 シェーディング補正回路
22 ホワイトバランス回路
23 ガンマ補正回路
24 補間回路
30、30B、30C フリッカー検出前処理部
31、31B シェーディング補正回路
32 デジタルゲイン回路
33 補間回路
34 濃淡彩度補正回路
40、40A フリッカー検出部
41Y 水平方向積算回路(輝度Y成分)
41U 水平方向積算回路(色差U成分)
41V 水平方向積算回路(色差V成分)
42Y 周波数変換回路(輝度Y成分)
42U 周波数変換回路(色差U成分)
42V 周波数変換回路(色差V成分)
43、43A 周波数検出回路
50A 信号処理装置
51 CPU(制御手段)
511 フリッカー検出前処理手段
512 フリッカー検出手段
511a 明るさ変化判定手段
511b シェーディング補正手段
511c デジタルゲイン補正手段
511d 補間手段
511e 濃淡彩度補正手段
52 操作部
53 表示部
54 ROM(記憶手段)
55 RAM(記憶手段)
90 電子情報機器
91 固体撮像装置
92 メモリ部
93 表示手段
94 通信手段
95 画像出力手段

Claims (30)

  1. 入力画像信号に対する撮影画像処理とフリッカー検出処理に共通した信号処理を行う共通前処理手段と、該共通前処理手段からの画像信号に対して表示画像用の画像信号処理を行う撮影画像処理手段と、該共通前処理手段からの画像信号に対してフリッカー検出用の画像信号処理を行うフリッカー検出前処理手段と、該フリッカー検出前処理手段からの画像信号に基づいてフリッカー検出を行うフリッカー検出手段とを有する信号処理装置。
  2. 前記フリッカー検出手段は、前記フリッカー検出前処理手段からの画像信号の輝度信号情報を用いてフリッカー検出を行う請求項1に記載の信号処理装置。
  3. 前記フリッカー検出手段は、前記フリッカー検出前処理手段からの画像信号の輝度信号情報および色差信号情報を用いてフリッカー検出を行う請求項1に記載の信号処理装置。
  4. 前記フリッカー検出手段は、画像垂直方向の輝度信号の空間周波数を検出する輝度周波数検出手段と、該画像垂直方向の色差信号U,Vの空間周波数を検出する色差周波数検出手段とのうちの少なくとも該輝度周波数検出手段を有する請求項2または3に記載の信号処理装置。
  5. 前記フリッカー検出手段は、前記フリッカー検出前処理手段からの画像信号のうちの輝度信号を表示画面のライン毎に水平方向に順次積算する第1水平方向積算回路と、該第1水平方向積算回路で積算された積算値に対して離散フーリエ変換処理を行う第1周波数変換回路と、該離散フーリエ変換処理結果の周波数成分のパワーが最大になる空間周波数を検出する第1周波数検出回路とを有する請求項2〜4のいずれかに記載の信号処理装置。
  6. 前記フリッカー検出手段は、前記フリッカー検出前処理手段からの輝度信号を表示画面のライン毎に水平方向に順次積算する第1水平方向積算回路と、該第1水平方向積算回路で積算された積算値に対して離散フーリエ変換処理を行う第1周波数変換回路と、該第1周波数変換回路における離散フーリエ変換処理結果の周波数成分のパワーが最大になる空間周波数を検出する第1周波数検出回路と、
    該フリッカー検出前処理手段からの色差信号Uを表示画面のライン毎に水平方向に順次積算する第2水平方向積算回路と、該第2水平方向積算回路で積算された積算値に対して離散フーリエ変換処理を行う第2周波数変換回路と、該第2周波数変換回路における離散フーリエ変換処理結果の周波数成分のパワーが最大になる空間周波数を検出する第2周波数検出回路と、
    該フリッカー検出前処理手段からの色差信号Vを表示画面のライン毎に水平方向に順次積算する第3水平方向積算回路と、該第3水平方向積算回路で積算された積算値に対して離散フーリエ変換処理を行う第3周波数変換回路と、該第3周波数変換回路における離散フーリエ変換処理結果の周波数成分のパワーが最大になる空間周波数を検出する第3周波数検出回路とを有する請求項3または4に記載の信号処理装置。
  7. 前記第1周波数検出回路、前記第2周波数検出回路および前記第3周波数検出回路からの各フリッカー周波数における多数決により該フリッカー周波数を決定する請求項6に記載の信号処理装置。
  8. 前記フリッカー検出前処理手段は、画像水平方向と画像垂直方向のシェーディング補正手段を有する請求項1に記載の信号処理装置。
  9. 前記フリッカー検出前処理手段は、画像垂直方向のシェーディング補正手段を有する請求項1に記載の信号処理装置。
  10. 前記シェーディング補正手段は、90パーセント〜100パーセントのシェーディング補正を行う請求項8または9に記載の信号処理装置。
  11. 前記撮影画像処理手段は、画像水平方向と画像垂直方向のシェーディング補正手段を有する請求項1に記載の信号処理装置。
  12. 前記撮影画像処理手段は、画像水平方向のシェーディング補正手段を有し、前記フリッカー検出前処理手段の画像垂直方向のシェーディング補正手段から入力されるデータを、該画像水平方向のシェーディング補正手段からのデータに乗算処理することにより、該撮影画像処理手段において、画像水平方向および画像垂直方向のシェーディング補正処理を行う請求項9に記載の信号処理装置。
  13. 前記共通前処理手段は、画像垂直方向のシェーディング補正手段を有し、前記撮影画像処理手段は、該画像垂直方向のシェーディング補正手段から入力されるデータと乗算処理する画像水平方向のシェーディング補正手段を有し、前記フリッカー検出前処理手段は、該画像垂直方向のシェーディング補正手段からのデータを入力する請求項1に記載の信号処理装置。
  14. 前記フリッカー検出前処理手段は、光源の色温度により変化する3色の信号レベルを補正するデジタルゲイン補正手段を有する請求項1に記載の信号処理装置。
  15. 前記フリッカー検出前処理手段は、入力された原色RGB信号から輝度信号Yと色差信号U,Vを生成する補間手段を有する請求項1に記載の信号処理装置。
  16. 前記フリッカー検出前処理手段は、表示画像の濃淡を補正する濃淡補正手段を有する請求項1に記載の信号処理装置。
  17. 前記フリッカー検出前処理手段は、レンズシェーディングによる周辺光量落ちを補正するシェーディング補正手段と、光源の色温度により変化する3色の信号レベルを補正するデジタルゲイン補正手段と、入力された原色RGB信号から輝度信号Yと色差信号U,Vを生成する補間手段と、表示画像の濃淡を補正する濃淡補正手段とを有する請求項1に記載の信号処理装置。
  18. 前記濃淡補正手段は、コントラスト強調を行い、フリッカーによる表示画像の濃淡を強調処理する請求項16または17に記載の信号処理装置。
  19. 前記フリッカー検出前処理手段は、レンズシェーディングによる周辺光量落ちを補正するシェーディング補正手段と、光源の色温度により変化する3色の信号レベルを補正するデジタルゲイン補正手段と、入力された原色RGB信号から輝度信号Yと色差信号U,Vを生成する補間手段とを有する請求項1に記載の信号処理装置。
  20. 前記フリッカー検出前処理手段は、明るさが所定値以上変化したかどうかを判定してフリッカー検出前処理を起動する明るさ変化判定手段を更に有する請求項17または19に記載の信号処理装置。
  21. 被写体からの画像光を光電変換して撮像する複数の受光部が形成された撮像素子と、該撮像素子から得られるアナログ画像信号をデジタル変換するアナログ/デジタル変換手段と、該アナログ/デジタル変換手段からのデジタル画像信号が前記入力画像信号として入力される請求項1〜20のいずれかに記載の信号処理装置とを有する固体撮像装置。
  22. 請求項1〜20のいずれかに記載の信号処理装置を有する固体撮像装置を画像入力デバイスとして撮像部に用いた電子情報機器。
  23. 撮像素子より得られる画像信号をデジタル変換したデジタル画像信号に対して、撮影画像処理とフリッカー検出処理に共通した信号処理を行う共通前処理ステップと、該共通前処理ステップで得られた画像信号に対して表示画像用の画像信号処理を行う撮影画像処理ステップと、該共通前処理ステップで得られた画像信号に対してフリッカー検出用の画像信号処理を行うフリッカー検出前処理ステップと、フリッカー検出前処理ステップにより処理された画像信号からフリッカー検出を行うフリッカー検出ステップとを有する信号処理方法。
  24. 前記フリッカー検出ステップは、表示画像の垂直方向の輝度信号の空間周波数を検出する輝度周波数検出ステップと、該表示画像の垂直方向の色差信号の空間周波数を検出する色差周波数検出ステップとのうちの少なくとも輝度周波数検出ステップを有する請求項23に記載の信号処理方法。
  25. 前記フリッカー検出前処理ステップに、画像の水平方向と垂直方向のうちの少なくとも垂直方向のシェーディング補正ステップを有する請求項23に記載の信号処理方法。
  26. 前記フリッカー検出前処理ステップに、表示画像の濃淡を補正する濃淡補正ステップを有する請求項23に記載の信号処理方法。
  27. 前記フリッカー検出前処理ステップは、レンズシェーディングによる周辺光量落ちを補正するシェーディング補正ステップと、光源の色温度により変化する3色の信号レベルを補正するデジタルゲイン補正ステップと、入力された原色RGB信号から輝度信号Yと色差信号U,Vを生成する補間ステップと、表示画像の濃淡を補正する濃淡補正ステップとを有する請求項23に記載の信号処理方法。
  28. 前記フリッカー検出前処理ステップは、レンズシェーディングによる周辺光量落ちを補正するシェーディング補正ステップと、光源の色温度により変化する3色の信号レベルを補正するデジタルゲイン補正ステップと、入力された原色RGB信号から輝度信号Yと色差信号U,Vを生成する補間ステップとを有する請求項23に記載の信号処理方法。
  29. 請求項23〜28のいずれかに記載の信号処理方法の各ステップのうち少なくとも前記フリッカー検出前処理ステップおよび前記フリッカー検出ステップをコンピュータに実行させるための処理手順が記録された制御プログラム。
  30. 請求項29に記載の制御プログラムが格納されたコンピュータ読み取り可能な可読記憶媒体。
JP2008161038A 2008-06-19 2008-06-19 信号処理装置、信号処理方法、制御プログラム、可読記録媒体、固体撮像装置および電子情報機器 Expired - Fee Related JP5099701B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2008161038A JP5099701B2 (ja) 2008-06-19 2008-06-19 信号処理装置、信号処理方法、制御プログラム、可読記録媒体、固体撮像装置および電子情報機器
US12/457,636 US8248483B2 (en) 2008-06-19 2009-06-17 Signal processing apparatus, signal processing method, control program, readable recording medium, solid-state image capturing apparatus, and electronic information device
CN200910150802XA CN101610350B (zh) 2008-06-19 2009-06-19 信号处理装置、信号处理方法、固态图像捕获装置以及电子信息设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008161038A JP5099701B2 (ja) 2008-06-19 2008-06-19 信号処理装置、信号処理方法、制御プログラム、可読記録媒体、固体撮像装置および電子情報機器

Publications (2)

Publication Number Publication Date
JP2010004302A true JP2010004302A (ja) 2010-01-07
JP5099701B2 JP5099701B2 (ja) 2012-12-19

Family

ID=41430832

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008161038A Expired - Fee Related JP5099701B2 (ja) 2008-06-19 2008-06-19 信号処理装置、信号処理方法、制御プログラム、可読記録媒体、固体撮像装置および電子情報機器

Country Status (3)

Country Link
US (1) US8248483B2 (ja)
JP (1) JP5099701B2 (ja)
CN (1) CN101610350B (ja)

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101678691B1 (ko) * 2010-05-12 2016-11-23 삼성전자주식회사 광원의 특성을 이용한 이미지 처리 장치 및 방법
KR20110135720A (ko) * 2010-06-11 2011-12-19 삼성전자주식회사 촬영 환경에 따른 렌즈 쉐이딩 보상 테이블을 생성하기 위한 장치 및 방법
JP5243666B2 (ja) * 2011-02-15 2013-07-24 富士フイルム株式会社 撮像装置、撮像装置本体およびシェーディング補正方法
TWI516133B (zh) * 2012-01-18 2016-01-01 聯詠科技股份有限公司 影像處理裝置及方法
KR20130136824A (ko) * 2012-06-05 2013-12-13 삼성전자주식회사 경통 조립체 및 이를 구비한 촬영 장치
CN104104882B (zh) * 2013-04-09 2017-08-11 展讯通信(上海)有限公司 图像闪烁检测方法及装置、图像捕获设备
JP6273979B2 (ja) * 2014-04-01 2018-02-07 株式会社デンソー 制御装置、又は、制御システム
US9489881B2 (en) * 2014-07-01 2016-11-08 Canon Kabushiki Kaisha Shading correction calculation apparatus and shading correction value calculation method
KR20160057537A (ko) * 2014-11-13 2016-05-24 삼성디스플레이 주식회사 데이터 보정 장치, 이를 포함하는 표시 장치 및 데이터 보정 방법
KR20170111460A (ko) * 2016-03-28 2017-10-12 삼성전자주식회사 카메라를 통해 획득한 영상 처리 방법 및 장치전자 장치
DE112017003263T5 (de) * 2016-06-29 2019-03-14 Olympus Corporation Endoskop
JP2018026716A (ja) * 2016-08-10 2018-02-15 オリンパス株式会社 撮像装置、撮像方法及び撮像プログラム
CN107169952B (zh) * 2017-03-07 2021-07-23 广东顺德中山大学卡内基梅隆大学国际联合研究院 一种用于可见光成像定位的条纹识别和信息检测方法
WO2020195769A1 (ja) * 2019-03-27 2020-10-01 ソニー株式会社 物体検出装置、物体検出システム及び物体検出方法
KR20220048090A (ko) * 2020-10-12 2022-04-19 삼성전자주식회사 주파수 도메인을 이용한 이미지 센서의 검사 방법 및 이를 수행하는 검사 시스템
CN112383366B (zh) * 2020-11-12 2023-03-10 广州通导信息技术服务有限公司 一种数字荧光频谱的频谱监测方法、装置及存储介质
CN112863420B (zh) * 2021-01-28 2021-11-12 深圳市博领科技电子有限公司 一种智能感光的显示屏及显示方法
CN114323576A (zh) * 2021-12-07 2022-04-12 昆山国显光电有限公司 屏幕检测装置及屏幕检测方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000032352A (ja) * 1998-07-13 2000-01-28 Sharp Corp ビデオカメラ装置
JP2000276596A (ja) * 1999-03-25 2000-10-06 Nec Corp 自動追尾装置
JP2004260574A (ja) * 2003-02-26 2004-09-16 Matsushita Electric Ind Co Ltd フリッカ検出方法およびフリッカ検出装置
JP2005347939A (ja) * 2004-06-01 2005-12-15 Sony Corp 撮像装置および信号処理方法

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE69629423T2 (de) * 1995-06-30 2004-06-17 Mitsubishi Denki K.K. Vorrichtung zur Flimmerreduzierung
JP2983509B2 (ja) * 1998-02-10 1999-11-29 日本放送協会 テレビジョン映像のフリッカ検出方法および装置
JP3823314B2 (ja) * 2001-12-18 2006-09-20 ソニー株式会社 撮像信号処理装置及びフリッカ検出方法
JP2003198932A (ja) * 2001-12-27 2003-07-11 Sharp Corp フリッカ補正装置およびフリッカ補正方法、並びにフリッカ補正プログラムを記録した記録媒体
EP1492343A4 (en) * 2002-04-04 2010-05-19 Sony Corp CAPTURED IMAGE RECORDING SYSTEM, SIGNAL RECORDING DEVICE, AND SIGNAL RECORDING METHOD
US7471315B2 (en) * 2003-03-14 2008-12-30 Aptina Imaging Corporation Apparatus and method for detecting and compensating for illuminant intensity changes within an image
JP4259998B2 (ja) * 2003-12-19 2009-04-30 三洋電機株式会社 フリッカ検出装置及び撮像装置
US7480452B2 (en) * 2005-03-15 2009-01-20 Winbond Electronics Corporation System and method for image capturing
JP4539449B2 (ja) * 2005-06-10 2010-09-08 ソニー株式会社 画像処理装置および撮像装置
JP4453648B2 (ja) * 2005-06-13 2010-04-21 ソニー株式会社 画像処理装置および撮像装置
JP4335849B2 (ja) * 2005-06-13 2009-09-30 富士通マイクロエレクトロニクス株式会社 フリッカ検出可能な撮像装置
CN100450153C (zh) * 2005-12-22 2009-01-07 比亚迪股份有限公司 一种闪烁检测方法和闪烁检测设备
KR100721664B1 (ko) * 2005-12-22 2007-05-23 매그나칩 반도체 유한회사 이미지 센서의 플리커 검출 회로 및 방법
US7561306B2 (en) * 2006-04-19 2009-07-14 Nethra Imaging Inc. One-dimensional lens shading correction
JP2008301142A (ja) * 2007-05-31 2008-12-11 Fujitsu Microelectronics Ltd 固体撮像素子および画素補正方法
JP4971956B2 (ja) * 2007-11-27 2012-07-11 キヤノン株式会社 フリッカ補正装置、フリッカ補正方法並びに撮像装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000032352A (ja) * 1998-07-13 2000-01-28 Sharp Corp ビデオカメラ装置
JP2000276596A (ja) * 1999-03-25 2000-10-06 Nec Corp 自動追尾装置
JP2004260574A (ja) * 2003-02-26 2004-09-16 Matsushita Electric Ind Co Ltd フリッカ検出方法およびフリッカ検出装置
JP2005347939A (ja) * 2004-06-01 2005-12-15 Sony Corp 撮像装置および信号処理方法

Also Published As

Publication number Publication date
CN101610350B (zh) 2012-09-05
CN101610350A (zh) 2009-12-23
US8248483B2 (en) 2012-08-21
US20090316020A1 (en) 2009-12-24
JP5099701B2 (ja) 2012-12-19

Similar Documents

Publication Publication Date Title
JP5099701B2 (ja) 信号処理装置、信号処理方法、制御プログラム、可読記録媒体、固体撮像装置および電子情報機器
US10021313B1 (en) Image adjustment techniques for multiple-frame images
JP4487640B2 (ja) 撮像装置
US8965120B2 (en) Image processing apparatus and method of controlling the same
US8773551B2 (en) Signal processing apparatus, solid-state image capturing apparatus, electronic information device, signal processing method, control program and storage medium
US20080278603A1 (en) Method and apparatus for reducing flicker of image sensor
US8059187B2 (en) Image capturing apparatus
US8717449B2 (en) Image synthesizing apparatus, image recording method, and recording medium
JP2002010108A (ja) 画像信号処理装置および画像信号処理方法
JP5861924B2 (ja) 撮像装置
US20080158258A1 (en) Method and System For Obtaining a Digitally Enhanced Image
US20100295977A1 (en) Image processor and recording medium
US20200304697A1 (en) Device, control method, and storage medium
JP2014027403A (ja) 画像処理装置
KR20090051698A (ko) 화상 신호 처리 회로
WO2022011504A1 (en) Correction of color tinted pixels captured in low-light conditions
WO2015146471A1 (ja) 撮影装置
JP2002288650A (ja) 画像処理装置及びデジタルカメラ、画像処理方法、記録媒体
JP2014232994A (ja) 画像処理装置及び方法、及び撮像装置
JP2012044559A (ja) 撮像装置及びその制御方法
JP2006060744A (ja) ノイズリダクション装置
JP4857856B2 (ja) 彩度調整機能を有する電子カメラ、および画像処理プログラム
US8154618B2 (en) Imaging apparatus and method for setting the same
JP5205230B2 (ja) 画像処理装置
JP2003299107A (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100826

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111206

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120111

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120131

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20120413

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120709

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20120718

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120919

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120919

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151005

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: R3D04

LAPS Cancellation because of no payment of annual fees