JP2001016508A - 固体撮像装置 - Google Patents

固体撮像装置

Info

Publication number
JP2001016508A
JP2001016508A JP11186144A JP18614499A JP2001016508A JP 2001016508 A JP2001016508 A JP 2001016508A JP 11186144 A JP11186144 A JP 11186144A JP 18614499 A JP18614499 A JP 18614499A JP 2001016508 A JP2001016508 A JP 2001016508A
Authority
JP
Japan
Prior art keywords
correction
flicker
line
unit
imaging device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP11186144A
Other languages
English (en)
Other versions
JP3749038B2 (ja
Inventor
Toshihiro Morohoshi
星 利 弘 諸
Akifumi Umeda
田 昌 文 梅
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP18614499A priority Critical patent/JP3749038B2/ja
Publication of JP2001016508A publication Critical patent/JP2001016508A/ja
Application granted granted Critical
Publication of JP3749038B2 publication Critical patent/JP3749038B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Solid State Image Pick-Up Elements (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Studio Devices (AREA)

Abstract

(57)【要約】 【課題】 蛍光灯照明下においてCMOS撮像装置にて
撮影を行なった際に生じる横縞状蛍光灯フリッカを抑圧
して画質劣化を防止する。 【解決手段】 電子シャッタ設定部2により設定される
現在の外光条件に適した第1の電子シャッタ値と、モー
ド設定部106によって設定される蛍光灯明滅周期の整
数倍の蓄積時間を持つ第2の電子シャッタ値の2条件に
て撮影した2種の画像を補正演算手段10で比較演算
し、蛍光灯下撮影の際の画像中のフリッカ成分を算出し
てフリッカを打ち消すように映像信号の利得を制御す
る。フリッカ補正領域内の任意ラインの周辺に領域選択
部130で設定した領域内の平均値をライン最尤値と
し、すべてのラインより垂直方向の変動波形を得て、連
続する3フレームでの平均波形との比からフリッカ補正
係数を算出し、撮像素子出力ライン毎のゲインを係数に
比例させて制御して蛍光灯フリッカを抑圧しても良い。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、X−Yアドレス方
式の固体撮像素子、例えばCMOS(Complementary Me
tal Oxide Semiconductor)型撮像素子を用いた固体撮
像装置に係り、特に電源周期と同期して点滅する蛍光灯
等のように交流点滅する電灯の下で撮像画面の輝度や色
相が変化するいわゆるフリッカを改善した固体撮像装置
に関する。
【0002】
【従来の技術】従来より蛍光灯照明の下でテレビジョン
カメラによる撮影を行なうと、テレビジョンカメラの垂
直同期周波数と蛍光灯の明滅周波数の間のずれにより干
渉が生じ、蛍光灯フリッカと呼ばれる現象が発生してい
る。CCD(Charge Coupled Device)型撮像装置を用
いたカメラにおいては、1フレームあるいは1フィール
ド単位にて電荷の蓄積を行なうためにフリッカの影響は
フレームあるいはフィールド間において生じている。し
たがって、CCD型撮像装置においては、蛍光灯フリッ
カの補正を比較的簡単に行なうことができ、既に実用化
されている。
【0003】IT型CCDイメージセンサを例にとって
説明すると、フォトダイオードで同一期間に露光された
信号の全画面分を一旦、素子上の垂直転送CCDに転送
し、1水平ライン分ずつを読み出している。つまり、I
T型CCDイメージセンサは素子上にアナログのフレー
ムまたはフィールドメモリを有している。このため、I
T型CCDイメージセンサを用いたNTSC(National
Television System Committee)方式のカメラを用い
て、50Hzで交流点灯する照明の下で撮影を行なった
場合、略々3フィールド周期の画面全体の輝度および色
相変化となる。
【0004】IT型CCDイメージセンサにおいてこの
フリッカを補正する手段としては、電子シャッタのモー
ドで露光時間を1/100秒に設定してフィールド毎の
露光時間を等しくする方法と、フリッカが略々3フィー
ルド周期で発生することを利用して、各フィールドの映
像信号の平均値が一定になるように、3フィールド前の
映像信号から現在の輝度および色相の変動を予測して補
正値を生成し、フリッカを抑圧する方法が用いられてい
る。
【0005】これに対し、例えばCMOS型撮像装置は
X−Yアドレス走査型で、画素毎に露光期間が読み出し
クロック周期ずつ順次移動していくため、すべての画素
で露光しているタイミングが異なっている。このため、
各画素が蓄積期間に積分する蛍光灯照明の光量に違いが
生じることになり、これが1画面内においてフリッカと
して表れることになる。このことを式を用いて表わす
と、1周期がTの蛍光灯明滅する波形f(t)を時間x
から期間Xだけ積分することになるので、
【数1】 と書ける。
【0006】図42(a)にはフリッカ発生モデルの一
例を示してある。ここでは説明を簡略化するため蛍光灯
明滅波形およびその周期、蓄積期間をそれぞれ
【数2】 とし、また同一水平ライン上の画素が同じ露光タイミン
グを持っているCMOS型撮像素子を使用した場合のフ
リッカ生成モデルである。ここで撮像素子出力である
【数3】 を、蛍光灯明滅波形の2つの山に跨らないのような蓄
積期間の場合と2つの山に跨るのような蓄積期間の場
合とのそれぞれについて考えると、となる最初の区間
「0<x<5ms(0<x<π/2)」では、
【数4】 となり、となる最初の区間「5ms<x<10ms
(π/2<x<π)」では
【数5】 となる。10ms以降はとの繰り返しなので、図4
2(a)に示すように、イメージセンサ出力波形S
(i)は正弦波に類似すると共に周期がTの波形とな
る。
【0007】因みに、図42におけるiとxの間にはx
=T×i(Tは1水平ライン読み出し時間)の関係
が成り立っている。このフリッカは蛍光灯の明滅周期と
露光タイミングのずれを原因として生じるため、CCD
型撮像装置とは違って電灯線のサイクルが50Hz,6
0Hzいずれの場合でも生じる。前述したように、ここ
では1水平ライン分ずつを纏めて読み出す撮像装置に限
定して考えると、この場合は同一水平ライン上の画素の
露光期間が同じなので横縞状の蛍光灯フリッカ波形が垂
直方向に表れる。
【0008】蛍光灯フリッカを補正する1つの手段とし
ては、図42(b)に示すように、露光時間を蛍光灯の
明滅周期の1周期あるいはその整数倍に設定する方式が
考えられる。このようにして蓄積時間を設定すると、た
とえ蛍光灯が明滅していてもすべての画素における蛍光
灯波形の積分量が同じになるため蛍光灯フリッカを抑圧
できる。これを上述の式を用いて説明する。一例とし
て、「X=10ms」の場合について考えると、この時
【数6】 はx=n×10ms(nは任意の自然数)を除いて常に
の状態になるので、まず式について考える。この時
X=10msが蛍光灯の明滅周期T(=π)であること
から、cos(X/2)=cos(π/2)=0とな
り、式は常に一定値となることがわかる。「x=n×
10ms」においては、
【数7】 となる。以上より積分値は常に2となりxによらず一定
であるので、蛍光灯明滅の影響を受けていないというこ
とができる。しかしながら、この方式の問題点は任意の
蓄積時間に設定することができないことにある。
【0009】露光時間を任意に設定できる別の補正方法
として、撮像素子の出力あるいはこの出力を信号処理し
た映像信号からフリッカ成分を抽出し、このフリッカ変
動パターンを抑えるように輝度信号や色信号の利得を画
像フレーム内の場所毎に制御してフリッカを補正する方
式や、フリッカ波形をメモリにテンプレートとして記憶
し、外部センサにより検出した蛍光灯の明滅タイミング
によって、このテンプレートとイメージセンサ出力との
同期を得て補正する方式も考案されている。
【0010】しかしながら、映像信号からフレーム内の
フリッカ波形を検出するのは白い壁のような無彩色かつ
絵柄のない画像を撮影する場合を除いて一般的に非常に
困難である。映像信号からフレーム内のフリッカ成分を
抽出するにはフレーム内およびフレーム間での積分によ
るローパス効果あるいはアナログあるいはデジタルのロ
ーパスフィルタを用いてフリッカ成分以外を取り除く方
法が取られている。
【0011】しかし、撮影被写体中にもフリッカ成分と
略々同じ周波数帯域のパターンが混在していることは往
々にしてあり、これにより正確なフリッカ波形の抽出が
妨害されることになる。特に、撮像装置の画角を固定し
た場合、50Hzの周波数により点灯されている蛍光灯
下においてフレーム間でのフリッカの周期が3フレーム
なので、時定数を長く取ってフレーム間で平均を求めて
も3フレーム周期でフリッカ波形が同じ場所に来るた
め、絵柄の影響を取り除くことはできない。
【0012】一方のフリッカ波形をテンプレートとして
メモリに記憶させておく方式については、蛍光灯の明滅
波形は蛍光灯の点灯器毎に特有であることが良く知られ
ている。このためフリッカ補正システムを構築するため
に、非常に多くのフリッカ波形を調査しこれをデータベ
ースとして用意しなければならず、実際に多数のフリッ
カは径パターンをデータベース化できたとしても、将来
開発される蛍光灯用の点灯器に対しては対応することが
できない。このように、X−Yアドレス方式による固体
撮像装置においては、フリッカ波形の抽出がCCD固体
撮像装置のように簡単には予測できないため、これまで
有効な補正手段がなく、蛍光灯フリッカが画像内に残留
して画質を劣化させているという問題があった。
【0013】
【発明が解決しようとする課題】上述したように、従来
は画素単位あるいはライン単位で蓄積期間の異なる読み
出しを行なうX−Yアドレス方式による固体撮像装置を
用いて蛍光灯照明下において撮像した場合、撮像面の場
所毎に露光量が異なることになり、いわゆる蛍光灯フリ
ッカが発生するという問題があった。本発明は上記事情
に鑑み、蛍光灯の照明下において任意の蓄積時間で撮像
した場合、垂直方向において輝度および色相が変化する
ような横縞状蛍光灯フリッカを十分に抑圧して画質を向
上させることが可能なX−Yアドレス方式の固体撮像装
置を提供することを目的とする。
【0014】
【課題を解決するための手段】本発明に係る固体撮像装
置の基本構成は、所定の条件を満たす電子シャッタ値に
より、直交する2方向に画面をアドレス走査して対象を
撮像する固体撮像素子と、前記固体撮像素子の前記電子
シャッタ値を所定の値に設定する電子シャッタ値設定手
段と、前記固体撮像素子の出力信号をアナログ信号から
デジタル信号へと変換するA/D変換手段と、前記A/
D変換手段の出力信号を所定の単位で記憶する記憶手段
と、前記記憶手段に記憶された所定の単位の信号に対
し、外光条件に適した第1の電子シャッタ値と蛍光灯明
滅周期と所定関係となる第2の電子シャッタ値の2条件
による画像の信号波形をそれぞれ求め、2つの信号を比
較することにより蛍光灯フリッカを補正した補正信号値
を演算する補正演算手段と、を備えることを特徴として
いる。
【0015】上記基本構成に係る固体撮像装置は、X−
Yアドレス方式の撮像素子と、前記撮像素子の電子シャ
ッタ値を設定する電子シャッタ設定部と、前記電子シャ
ッタ設定部にコマンドを送り電子シャッタ値を変更させ
るモード設定部と、前記撮像素子が出力する映像信号を
アナログーデジタル変換を行なうA/D変換器と、前記
撮像素子が出力する映像信号を記録する複数個のフレー
ムメモリと、前記フレームメモリに記録保存されている
複数個のフレームの映像信号間にて演算を行なうことに
よりフリッカ成分の算出を行なう補正テーブル算出部
と、前記補正テーブル算出部にて作成された補正テーブ
ルを記録保存する補正テーブル記録部と、前記補正テー
ブル記録部に保存されている補正テーブルにて前記撮像
素子からの出力である映像信号の利得を制御することに
よりフリッカを抑圧する補正演算部と、を備えるように
しても良い。
【0016】前記固体撮像装置は、前記補正テーブル算
出部から出力された補正テーブルを画像フレ一ムの水平
方向において平均する処理を行なう水平ライン平均値算
出部をさらに備え、水平方向において平均化された値を
前記補正テーブル記録部に保存するものであってよい。
前記固体撮像装置は、前記補正演算部の出力を入力とし
補正された映像信号にフリッカ成分が含まれているかの
検出を行なうフリッカ検出器をさらに備え、フリッカが
検出されたときには、前記モード設定部に補正テーブル
の再生成を促すものであってよい。
【0017】前記フレームメモリは複数個備えており、
この複数のフレームメモリに記録された画像を平均化す
るフレーム平均算出部をさらに備えるものであってもよ
い。前記補正テーブル記録部は、複数個備えられて、複
数個の補正テーブルを記録保存すると共に、これら複数
個の補正テーブルから必要とされる補正テーブルを選び
出す補正テーブル選択部をさらに備えるものであっても
良い。前記補正テーブル記録部はフリッカ波形の1周期
のみを保存し、また現在の画像フレームに含まれるフリ
ッカの位相を計測する位相計測部をさらに備え、この1
周期分のフリッカ波形と位相情報から補正テーブルを生
成する補正テーブル生成部をさらに備えるものであって
もよい。
【0018】また、上記基本構成に係る固体撮像装置
は、X−Yアドレス走査型固体撮像素子と、前記固体撮
像素子の出力信号をデジタル信号に変換するA/D変換
手段と、前記A/D変換手段の出力信号を記憶保持する
フレームメモリと、各スキャンライン毎にそのラインの
周辺の領域を選択する領域選択部と、前記領域選択部に
よって選択された領域を読み出しこのデータの平均値を
算出する領域平均値算出部と、前記領域平均値算出部の
出力を保持するラインメモリと、複数の前記ラインメモ
リの1つを選択し、そのラインメモリとの間でデータを
入出力するラインメモリ管理部と、前記ラインメモリに
保持されている領域平均値を複数のラインメモリから選
択し平均演算を行なうライン間平均値算出部と、前記領
域平均値を保存するラインメモリの1つと前記ライン間
平均値を保存するラインメモリそれぞれからデータを選
択しこれらのデータ間での演算によりフリッカ抑圧係数
を算出する補正係数算出部と、前記補正係数算出部の係
数値に比例して前記フレームメモリから出力されるデー
タのゲインをライン毎に制御する補正演算部と、を備え
るように構成しても良い。
【0019】また、上記構成において、前記領域平均値
算出部は、前記領域平均値を保存するラインメモリの何
れかより任意のデータを呼び出すデータ呼び出し部と、
この呼び出したデータと現在の選択領域での平均値との
間で平均を算出する時間平均算出部と、を備えるように
しても良い。
【0020】また、上記基本構成に係る固体撮像装置
は、X−Yアドレス走査型固体撮像素子と、前記固体撮
像素子の出力信号をデジタル信号に変換するA/D変換
手段と、前記A/D変換手段の出力信号を記憶保持する
フレームメモリと、各スキャンライン毎にこのスキャン
ライン内において必要とするデータの範囲を選択する範
囲選択部と、前記範囲選択部によって選択された領域を
読み出し、このデータの平均値を算出するライン内平均
値算出部と、前記領域平均値算出部の出力を保持するラ
インメモリと、複数の前記ラインメモリの1つを選択
し、そのラインメモリからデータを入出力するラインメ
モリ管理部と、前記ラインメモリに保持されているライ
ン内平均値を複数のラインメモリから選択し平均演算を
行なうライン間平均値算出部と、前記ラインメモリに保
存されているライン内平均値から複数個を選択し、かつ
これらの読み出しを前記ラインメモリ管理部に命令する
窓幅選択部と、前記窓幅選択部の命令により読み出され
たデータの平均を算出する窓内平均値算出部と、前記ラ
イン間平均値算出部出力と前記窓内平均値算出部出力そ
れぞれの間で比較演算を行なう補正係数算出部と、前記
補正係数に比例して前記フレームメモリから出力される
データのゲインをライン毎に制御する補正演算部と、を
備えるようにしても良い。
【0021】また、上記構成において、前記補正係数算
出部の出力を保持するラインメモリを備えるようにして
も良い。
【0022】また、上記ように構成された固体撮像装置
は、撮像装置周辺の光量の変化を計測する外部測光素子
と、前記外部測光素子の出力を現在の電子シャッタ設定
値によって決定される蓄積時間にて積分する積分器と、
前記積分器出力の振幅を前記補正テーブル記憶部に保存
された補正テーブルの振幅と比較して補正するゲイン補
正部とをさらに備え、前記ゲイン補正部出力によりフリ
ッカ抑圧処理を行なうものであっても良い。前記外部測
光素子は、撮像素子により確保されている画角による領
域と同じ領域の光量の変化を検出するために、その上部
に撮像レンズおよびレンズ駆動部をさらに備えるもので
あっても良い。
【0023】
【発明の実施の形態】以下、本発明の好適な実施形態に
ついて添付図面を参照しながら詳細に説明する。まず、
本発明の基本概念を示す第1実施形態について図1を参
照して説明する。
【0024】図1において、第1実施形態に係る固体撮
像装置は、所定の条件を満たす電子シャッタ値により、
直交する2方向に画面をアドレス走査して対象を撮像す
る固体撮像素子1と、前記固体撮像素子1の前記電子シ
ャッタ値を所定の値に設定する電子シャッタ値設定手段
2と、固体撮像素子1の出力信号をアナログ信号からデ
ジタル信号へと変換するA/D変換手段3と、A/D変
換手段3の出力信号を所定の単位で記憶する記憶手段4
と、記憶手段4に記憶された所定の単位の信号に対し、
外光条件に適した第1の電子シャッタ値と蛍光灯明滅周
期と所定関係となる第2の電子シャッタ値の2条件によ
る画像の信号波形をそれぞれ求め、2つの信号を比較す
ることにより蛍光灯フリッカを補正した補正信号値を演
算する補正演算手段10と、を備えている。
【0025】通常、固体撮像装置において、フリッカ補
正を行なおうとする場合、電子シャッタ設定値を電灯線
用明滅周期の整数倍に設定するとフリッカが発生しない
ことを利用している。任意の電子シャッタ設定値におい
て撮影する場合、まず電子シャッタ設定値をこの任意の
値より短い電灯線明滅周期の整数倍に電子シャッタを設
定して撮影する。この場合に露光時間が所定の時間より
も短いためゲインが不足するので、この不足分を増幅し
て出力することによりフリッカを抑えている。これに対
して、本発明においては、撮影時にリアルタイム或いは
準リアルタイムにてフリッカ波形を推定し、この波形に
応じてそれぞれのライン毎にゲインを調節することによ
りフリッカ補正を実現しようとしており、本発明の基本
概念としては、外光条件下の第1の電子シャッタ値によ
る画像の信号波形と、蛍光灯条件下での第2の電子シャ
ッタ値による画像の信号波形とを比較して蛍光灯フリッ
カの影響を受けた信号波形を求めてこれを打ち消すよう
な補正信号値を演算してフリッカを補正するようにして
いる。以下、上記基本概念をより具体的に示す実施形態
について説明する。
【0026】本発明の第2実施形態による固体撮像装置
は、図2に示されるように、MOS型固体撮像素子10
1、電子シャッタ設定部102、A/D変換器103、
フレームメモリ1041,1042、補正テーブル算出
部105、モード設定部106、補正テーブル記録部1
07、補正演算部108、同期信号発生部109を備え
ている。図1に示す基本概念図からも明らかなように、
フレームメモリ1041および1042が図1における
記憶手段4に相当しており、補正テーブル算出部10
5,補正テーブル記録部107,補正演算部108によ
り第1実施形態における補正演算手段10が構成されて
いる。
【0027】MOS型固体撮像素子101は、この上に
マトリクス状に配置された画素により入射光を信号電荷
に変換する。この電荷は、順次走査されて画素から読み
出された後、撮像素子101内においてアナログ信号処
理され、映像信号として固体撮像素子101より出力さ
れるものである。
【0028】電子シャッタ設定部102は、固体撮像素
子101から出力された信号量に基づいて電子シャッタ
値を設定する。またモード設定部106から入力される
コマンドにより、任意の電子シャッタ値に設定すること
も可能である。この電子シャッタ設定値は、固体撮像素
子101とモード設定部106とに出力されている。A
/D変換器103は、固体撮像素子101から出力され
る映像信号をデジタル信号に変換した後、フレームメモ
リ1041,1042、補正演算部108に出力してい
る。
【0029】記憶手段4としてのフレームメモリ104
1,1042は、A/D変換器103によってデジタル
信号に変換された映像信号を1フレーム分保存する。こ
のフレームメモリ1041,1042への書き込み、読
み出しはモード設定部106からのコマンドにより制御
されている。補正テーブル算出部105は、フレームメ
モリ1041,1042より入力される映像信号と、モ
ード設定部内のレジスタに保存されているそれぞれのフ
レームにおける電子シャッタ設定値とを用いて後述する
処理を行なうことにより、フリッカを抑圧する補正テー
ブルを算出し、補正テーブル記録部107に出力するも
のである。
【0030】モード設定部106は、電子シャッタ設定
部102の設定値の変更、A/D変換器103出力のフ
レームメモリ1041,1042への書き込みおよび読
み出しを制御すると共に、内部レジスタヘ変更前後の電
子シャッタ設定値を保存し、必要なタイミングで補正テ
ーブル算出部105へこれらの電子シャッタ値の出力を
行なうものである。
【0031】補正テーブル記録部107は、補正テーブ
ル算出部105により算出され、補正演算部108にお
いて使用されるフリッカ抑圧テーブルを記録保持すると
共にこの補正テーブルを同期信号発生部109から与え
られるタイミング信号に合わせて補正演算部108に出
力するものである。
【0032】補正演算部108は、補正テーブル記録部
107から必要なタイミングにより入力される補正テー
ブルを用いて、A/D変換器103からのデジタル映像
信号のゲインを画素単位あるいはライン単位で変動させ
ることにより、フレーム内に見られるフリッカを抑圧す
るものである。
【0033】このような構成を備えた本実施形態による
フリッカ抑制機能を有する固体撮像装置は、次のように
動作する。固体撮像素子101によって取り込まれた映
像信号は、A/D変換器103に入力されると同時に、
電子シャッタ設定を行なうために電子シャッタ設定部1
02に渡される。電子シャッタ設定部ではこの入力を受
けて、適正な電子シャッタ値(第1の電子シャッタ値)
を決める。
【0034】ここでモード設定部106の現在のモード
がフリッカ補正準備モードであるとき、電子シャッタ値
はモード設定部106にも入力される。モード設定部1
06では、この第1の電子シャッタ値を内部レジスタに
保存すると共に、現在の電子シャッタ設定値が蛍光灯明
滅周期の整数倍であるかどうかのチェックを行なう。整
数倍である場合には蛍光灯フリッカは生じないのでフリ
ッカ補正準備モードをフリッカ補正非適用モードとして
フリッカ補正準備の処理を終了する。
【0035】整数倍でない場合には、まず現在の電子シ
ャッタ設定値をこの値に最も近い蛍光灯明滅周期の整数
倍値(第2の電子シャッタ値)あるいは現在の電子シャ
ッタ設定値より短くかつ最も近い蛍光灯明滅周期の整数
倍値の何れかに変更すると同時に、この値をモード設定
部106内のレジスタに記録される。
【0036】この後、フレームメモリ1042(第2の
フレームメモリ)が書き込み可能状態にされる。ここ
で、第2の電子シャッタ値に設定された固体撮像素子1
01は映像の取り込みを行ない、A/D変換後フレーム
メモリ2に保存し、モード設定部はこのフレームメモリ
を書き込み禁止、読み出し可能状態にされる。
【0037】次に、モード設定部106は、電子シャッ
タ値を元の第1の電子シャッタ値に戻すため、内部レジ
スタに保存してある第1の電子シャッタ値を電子シャッ
タ設定部102に送ると同時に、フレームメモリ104
1(第1のフレームメモリ)のステータスを書き込み可
能状態に変更される。第1の電子シャッタ値に設定され
た固体撮像素子101は1フレーム取り込みを行ない、
A/D変換後フレームメモリ2に保存する。保存が完了
した時点で第1のフレームメモリ1041はモード設定
部109により書き込み禁止で、読み出し可能状態にさ
れる。
【0038】第1のフレームメモリ1041と第2のフ
レームメモリ1402それぞれが読み出し可能状態にな
った時点で、モード設定部106は補正テーブル算出部
105に補正テーブルの作成を開始させるコマンドと内
部レジスタに保存してある第1の電子シャッタ値と第2
の電子シャッタ値を補正テーブル算出部105に送る。
第1のフレームメモリ1041と第2のフレームメモリ
1042の画像はそれぞれ第1の電子シャッタ値と第2
の電子シャッタ値にて撮影されており平均輝度レベルに
違いがあるので、第2のフレームメモリ1042の平均
輝度レベルを第1のフレームメモリ1041のレベルに
合わせる。
【0039】次に、第1のフレームメモリ1041と第
2のフレームメモリ1042のそれぞれの画素位置毎に
割り算を行ない、フリッカ成分あるいはフリッカ成分を
補正する係数を算出する。ただし、2つのフレーム間で
割り算をすることでフリッカ成分を推定するには、2つ
のフレームの絵柄成分が同じである必要がある。その必
要性について式を用いて説明する。フリッカ成分を含ま
ないフレーム2の信号をS2(x、y)、フリッカ成分
を含むフレーム1の信号をS1’(x,y)=S1
(x,y)×F(x,y)と表す。ここでxは画像フレ
ームの水平方向の座標、yは垂直方向の座標、Sn
(x,y)はフリッカのない映像信号、F(x,y)は
フリッカ信号である。ここで撮像装置を固定した状態
で、動きのないものを撮影すれば、S1(x,y)≒S
2(x,y)×C (ただしCは比例定数)という関係
が成り立つはずで、この条件下でS1’(x,y)をS
2(x,y)により除すると、 {S1(x,y)×F(x,y)}/{S2(x,y)
×C}≒F(x,y) となりフリッカ波形を推定することが出来る。因みにS
2(x,y)をS1’(x、y)で割ると1/F(x,
y)となるが、これはフリッカ補正係数であり、つまり
フリッカ波形とフリッカ補正係数は逆数の関係にある。
【0040】もしこの時カメラを固定しないで撮影を行
なったとすると、手ぶれなどによりS1’(x,y)と
S2(x,y)の間に微小な画角の移動が起こりうる。
この場合には、S1’(x,y)とS2(x,y)の間
で空間的に相互相関関数を取ることでその移動量を求
め、フリッカを持たないS2をこの移動量だけ平行移動
してこのずれを補正した上で、上記の補正テーブル算出
を行なえばよい。あるいは、第1のフレームメモリ10
41と第2のフレームメモリ1042への書き込みの間
が短ければ、この平行移動を行なわなくても補正テーブ
ルの算出を充分に行なうことができる。
【0041】補正テーブル算出部105にて作成した補
正テーブルは補正テーブル記録部107に保存される。
補正テーブルのメモリヘの保存が終了した時点で、補正
テーブル記録部107はモード設定部106へ通知を行
ない、内部モードをフリッカ補正準備モードからフリッ
カ補正モードに切り替え、フレームメモリ1041,1
042、補正テーブル算出部105の機能を停止させ
る。以後、補正演算部108は補正テーブル算出部10
5から適正なタイミングにて送られてくる補正テーブル
に基づいてフリッカを打ち消す処理を実行する。
【0042】上記の処理においては、第2の電子シャッ
タ値にて1フレーム分の画像を取り込んだ後、第1の電
子シャッタ値に戻しているが、この順序については第1
の電子シャッタ値の後に第2の電子シャッタ値にて撮影
を行なっても何ら問題はない。上記の処理により生成さ
れた補正テーブルは、電子シャッタ設定値が変更される
まで有効である。もし電子シャッタ値が変更された際に
は、電子シャッタ設定部102がモード設定部106に
変更があったことを通知し、これを受けてモード設定部
106は、補正テーブルの生成を再び行なえば良い。
【0043】ここまでの説明において補正テーブル記録
部はフレーム構造を持ち、各画素毎に補正値を有してい
たが、MOS型固体撮像素子101が水平ライン単位読
み出し構造ならば、同一水平ライン上のすべての画素が
同じ蓄積タイミングを持つことから、各行に1つのフリ
ッカ補正値を持てば十分であり、抽正テーブル記録部を
1次元のカラム型メモリとすることが可能である。例え
ば図3に示すように、補正テーブル算出部105の出力
を水平ライン平均値算出部111において画像フレーム
の水平方向において平均化処理を行ない1行に対して1
つの補正係数を割り当ててこれを補正テーブル記録部1
07に保存すれば良い。
【0044】さらに、図4に示すように、A/D変換器
103の出力を水平方向において平均化すれば、第1の
電子シャッタ値と第2のシャッタ値のそれぞれの設定に
おける参照画像を一時的に保存するメモリを2次元のフ
レーム型メモリから1次元のカラム型メモリ1181,
1182に置き換えることが可能となり、必要とされる
メモリ容量を減らすことが可能である。
【0045】この撮像装置に必要とされるメモリの量を
減らす別の方法として、図5に示すような構成とするこ
とにより、補正テーブル算出のために一時的にフレーム
画像を保存するフレームメモリを1つに減らすことが可
能である。ここでは、まず第2の電子シャッタ値にて取
り込んだ画像は補正テーブル算出部105に入力され、
補正テーブル算出部105が管理するフレームメモリ1
04に一時保存される。
【0046】次に、電子シャッタ設定部102により設
定値を第1の電子シャッタ値に戻して次のフレーム画像
を撮影する。このフレーム画像は固体撮像素子101か
らは順次走査によりシーケンシャルに読み出され、A/
D変換した後、補正テーブル算出部105に入力され
る。補正テーブル算出部105ではこのシーケンシャル
に入力される画像の画素位置と対応する画素情報をフレ
ームメモリ104から読み出して、順次補正値算出を行
ない、その結果を補正テーブル記録部107に保存して
いる。
【0047】さらに、図6に示すように、A/D変換さ
れたデジタル信号を水平ライン平均値算出部111を解
して補正テーブル算出部105に供給すると共にフレー
ムメモリ104をカラム型平均値記憶部118により構
成すると、水平ライン平均値算出部111によって1行
に対して1個のデータとすることができるので、一時保
存のためのメモリを1次元のカラム型メモリによる簡易
な構成で実現することが可能である。
【0048】また、必要とされるメモリの量を減らす別
の手段として、図7に示すように、補正テーブル算出の
ために画像フレームを一時保存するメモリと補正テーブ
ルを記録するためのメモリを共通化したフレーム型デー
タ記憶部119を用いることでも可能である。この場合
フリッカ補正テーブルは以下のような手順にて算出され
る。まず第2の電子シャッタ値において取り込んだ画像
は補正テーブル算出部105経由でフレーム型データ記
憶部119に保存される。
【0049】次に、モード設定部106が固体撮像素子
101の電子シャッタ設定を第1の電子シャッタ値に変
更後画像の撮影を行なう。このフレーム画像は固体撮像
素子101から順次走査によりシーケンシャルに読み出
され、A/D変換後補正テーブル算出部105内のレジ
スタに一時保存される。補正テーブル算出部105はレ
ジスタにあるデータの画素位置(x,y)と同じ位
置にある画素データをフレーム型データ記憶部119か
ら読み出し補正値算出の演算を行なう。こうして算出さ
れた補正値はフレーム型データ記憶部119の(x
)に上書き保存される。
【0050】フリッカ補正テーブルの精度を確認するた
めに、図8のように補正演算部108の出力にフリッカ
成分が含まれてないかを検出するフリッカ検出器112
を置くことも考えられる。X−Yアドレス走査型固体撮
像装置におけるフリッカは、時間領域、空間領域いずれ
においてもある一定の周波数を持つ。フリッカ検出器1
12では、画像フレーム中の1点あるいは数点の時間的
変化を周波数領域にて調べると共に、垂直方向に走るあ
る任意の1ライン分のデータあるいは水平方向において
平均された1ライン分のデータを同様に周波数領域にて
解析し、もしフリッカ特有の周波数成分が検出されたと
きには、モード設定部106に通知し補正テーブルの再
生成を行なう。
【0051】本発明の第3実施形態は図9に示されたよ
うな構成を備え、補正テーブルの算出に使用する参照画
像として複数のフレームの平均を使用する点に特徴があ
る。平均化した参照画像を使用することによりノイズレ
ベルが抑えられ、補正テーブルの精度を向上させること
が可能である。必要とするフレームの数については特に
制限はないが、この例においては3フレームの平均とし
ている。
【0052】撮像装置が起動され撮影が開始されると、
まず電子シャッタ設定部102が固体撮像素子101か
らの信号を受けて第1の電子シャッタ値に設定する。こ
の設定値が蛍光灯明滅周波数の整数倍でない場合、モー
ド設定部106はそのモードをフリッカ補正準備モード
とし、電子シャッタ設定値を第2の電子シャッタ値へ変
更すると共に、複数用意されているフレームメモリ2
(フレームメモリ2群)の1つ(フレームメモリ2−
1)のステータスを書き込み可能状態へと変更する。
【0053】この第2の電子シャッタ値にて撮影した映
像はフレームメモリ2−1に保存される。モード設定部
はこのフレームメモリ2−1を書き込み禁止にした後、
第1の電子シャッタ値への変更と第1のフレームメモリ
群の1つ(フレームメモリ1−1)のステータスを書き
込み可能状態ヘと変更し、第1の電子シャッタ値での映
像をフレームメモリ1−1に保存する。そして再び、電
子シャッタ設定の第2の電子シャッタ値への変更と、第
2のフレームメモリ群の1つ(フレームメモリ2−2)
のステータスの書き込み可能状態ヘの変更、そして映像
の取り込みと保存を行なう。以後この処理をフレームメ
モリ群に属するフレームメモリの数だけ繰り返す。
【0054】3フレーム画像が準備できた時点で、これ
らのフレーム画像はそれぞれの郡毎に平均値算出部11
3へと渡されて第1のフレームメモリ群、第2のフレー
ムメモリ群それぞれの平均が算出される。そしてこの平
均化されたそれぞれの電子シャッタ値設定でのフレーム
画像は補正テーブル算出部105へと入力され補正テー
ブルが算出される。
【0055】この例ではフレーム画像の取り込みを電子
シャッタ値を交互に変えて合ったが、始めに第1の電子
シャッタ値にて連続して3フレーム分の取り込みを行な
い、その後第2の電子シャッタ値に変えて同様に3フレ
ームの取り込みを行なうことも可能である。これとは別
に図10にあるような構造にすることにより、必要とさ
れるフレームメモリの数を減らすことも可能である。
【0056】ここでは一例として第1の電子シャッタ
値、第2の電子シャッタ値それぞれにおいて4つのフレ
ームを加算して平均を求める場合について説明する。こ
こで、まずこれら4つのフレームを、取り込んだ順にD
1,D2,D3,D4とする。まず最初に、D1を取り
込みフレームメモリ104に保存する。次に、D2を取
り込んだとき、フレーム平均順次算出部114では、フ
レームメモリ104の座標(x,y)にある画素値D1
(x,y)を読み出し、D2(x,y)/2+D1
(x,y)/2=Ave1(x,y)を実行し、フレー
ムメモリのそれぞれの所定位置に上書きしていく。
【0057】これ以降は順番に、D3を取り込んだとき
は、 D3(x,y)/3+Ave1(x,y)×(2/3)
=Ave2(x,y) の演算を行ない、フレームメモリのそれぞれの画素位置
に上書きし、D4の場合は、 D4(x,y)/4+Ave2(x,y)×(3/4)
=Ave3(x,y) の演算を行ない、フレームメモリのそれぞれの画素位置
に上書きする。この方式により必要とするメモリの量を
減らすことが可能である。
【0058】本発明の第4実施形態は、図11に示され
たような構成を備え、複数の補正テーブル記録部と、こ
れらの補正テーブル記憶部のうちの1つを選択する補正
テーブル選択部を持つことに特徴がある。これまで述べ
てきた第1、2の実施の形態においては補正テーブルが
1つしか用意されてなかったが、補正テーブルが1つで
済むのは、白黒カメラでかつ撮像フレームレートと電灯
線のサイクルとの比が整数倍である時のみで、これ以外
の場合には複数の補正テーブルを用意する必要がある。
【0059】複数の補正テーブル記録部が必要なケース
としてまず挙げられるのが、その上にカラーフィルタが
配置された撮像素子を使用する場合である。蛍光灯から
放射される光の振幅および波形の特性はその色毎によっ
て異なるため、それぞれの色毎にフリッカ補正テーブル
を用意するのが、正確でかつ簡便な補正となる。3板式
カラーカメラのようにそれぞれの撮像素子毎に別のカラ
ーフィルタが配置されている場合ならば、それぞれの撮
像素子出力毎に補正テーブルを算出し、フレーム構造を
持つ補正テーブル記録部に画素配列そのままを保存する
かあるいは水平ライン毎にテーブルを平均化してコラム
型の補正テーブル記録部に保存すればよい。
【0060】単板カラーカメラにおいては補正テーブル
をその画素配列そのままにフレーム構造の補正テーブル
記録部に保存するか、あるいは図12に示すようにフレ
ーム構造の補正テーブルをそれぞれの色毎に分離してか
ら水平方向において平均化処理を行ない、ライン別色別
に用意した補正テーブル記憶部1076に保存すればよ
い。上述したように、水平方向において平均化できるの
は撮像素子が水平ライン単位読み出し構造を持っている
ときのみである。
【0061】次のケースとして挙げられるのが撮像フレ
ームレートと電灯線のサイクルとの比が整数倍でない場
合である。この場合フリッカ波形はある一定の位相速度
を持って画面内を移動する。図13には、撮像フレーム
レートが毎秒30フレーム(30fps)の撮像装置を
50Hzの電灯線のもとで使用した場合のフレーム間で
のフリッカ周期について示している。50Hzの電灯線
のもとでの蛍光灯の明滅周期は100Hzであり、1周
期は10msとなる。一方の30fpsの撮像装置は1
フレーム期間は33.3ms(=100/3ms)なの
で、画像フレームに表れるフリッカの周期は3フレーム
となる。したがってこの場合、連続する3フレーム分の
補正テーブルを用意しておけば良いことが分かる。
【0062】ここで図11の動作について説明する。ま
ず第2の電子シャッタ値にてフリッカを含まないリファ
レンス画像を取り込み、第2のフレームメモリ1042
に保存する。次に電子シャッタ設定値を電子シャッタ1
に戻し、フリッカを含む参照画像を取り込み第1のフレ
ームメモリ1041に保存する。
【0063】次に、これらの参照画像を用いて補正テー
ブルを算出し、順次補正テーブル記録部1(1071)
に保存する。補正テーブル選択部115はテーブルの保
存が終わった時点で保存の終了をモード設定部106に
知らせる。モード設定部106では取り込む画像のph
aseを、補正テーブルの算出が垂直ブランキング期間
に終わっていればphase2とし、次のフレーム期間
まで掛かってしまった場合にはphase3と決め、こ
のphase値を補正テーブル選択部115に知らせる
と同時に第1のフレームメモリ1041を書き込み可能
状態にされる。
【0064】補正テーブルはここで新たに取り込んだ第
1のフレームメモリ1041の画像と既に取り込んであ
るフレームメモリ2の画像から算出し、補正テーブル選
択部115によって現在のphaseが2ならばフレー
ムメモリ2へ、3ならばフレームメモリ3へと保存す
る。この後、残りのphaseでの補正テーブルの生成
を同様な手順で行なう。このようにして連続する3フレ
ームそれぞれに補正テーブルを用意する。
【0065】フリッカ補正処理においては、モード設定
部106から現在のphaseを入力として受けた補正
テーブル選択部115が、そのphaseにおける補正
テーブルのデータを補正演算部108へと送り、フリッ
カ補正処理が実行される。このように補正テーブル記憶
部1から3を順に算出するのとは別の構成例として、図
14のように第1のフレームメモリ1041を3つ用意
しておき、第1の電子シャッタ値において連続する3フ
レームを順に1−1,1−2,1−3に保存した後、補
正テーブル算出を行なうことも可能である。
【0066】また、ここではそれぞれの補正テーブル記
録部はフレーム構造を有しているが、図11の手法によ
り3フレーム分の補正テーブルそれぞれをライン別色別
に4つのテーブルに置き換えることも可能である。補正
テーブル選択部115は同期信号にてタイミングを取り
つつ、必要とされる色と位相のテーブルから補正を行な
う位置のデータを選択し補正演算部108に送るか、あ
るいは図15に示すように、補正演算部108が補正テ
ーブル選択部115に必要な色・位相・位置のデータを
要求し、補正テーブル選択部115が補正テーブルから
このデータを読み出し、補正演算部108に送ることも
可能である。
【0067】また、図16に示すように、第1の電子シ
ャッタ値と第2の電子シャッタ値で撮影したリファレン
ス画像それぞれを水平方向において平均化することによ
り第1のフレームメモリ1041,2をカラム型平均値
記憶部115に置き換えることも可能である。次に撮像
フレームレートと電灯線のサイクルとの比が整数倍でな
い撮影条件において、図9と同様に参照画像を平均化す
る構成を図17に示す。ここにおいても必要とするフレ
ームの数については特に制限はないが、この例において
は3フレームの平均としている。
【0068】ここで、第1のフレームメモリ1041群
には1から3までのグループが用意されている。第1の
フレームメモリ1041群の第1グループ(フレームメ
モリ1−1)が図12におけるphase1における画
像を、第2グループ(フレームメモリ1−2)がpha
se2、第3グループ(フレームメモリ1−3)がph
ase3をそれぞれ保存する。撮像装置はまず電子シャ
ッタ設定値を第2の電子シャッタ値へ変更し連続する3
フレームを取り込み、それぞれをフレームメモリ2−1
から2−3へ順に保存する。次に第1の電子シャッタ値
へと変更後、連続する9フレームを1−1−1,1−2
−1,1−3−1,1−1−2,1−2−2,1−3−
2,1−1−3,1−2−3,1−3−3の順に保存す
る。
【0069】これらすべてが取り終えたら、フレーム平
均算出部1132はフリッカを含まないフレームの平均
を算出し、フレームメモリ2−1に上書き保存する。こ
のデータは補正テーブル算出部によって必要な時に呼び
出される。次にフレーム平均算出部1131はフレーム
メモリ1−1の平均を算出する。補正テーブル算出部で
はフレームメモリ2の平均とフレームメモリ1−1の平
均からphase1でのフリッカ補正テーブルを算出
し、補正テーブル記録部1に保存する。以下同様の処理
をフレームメモリ1−2と1−3において行ない、それ
ぞれphase2とphase3における補正テーブル
を求め、補正テーブル記録部に保存すればよい。
【0070】また、本構成のフレームメモリの部分を図
10に示したフレームメモリ構成に置き換えれば、補正
テーブル算出に使用するフレームメモリ104の量を半
分に減らすことも可能である。フレーム内に表れるフリ
ッカの位相毎にテーブルを用意する方法とは別に、基本
的にフリッカ波形が同じ形状の波の繰り返しであること
を利用してフリッカ波形1周期分のみのフリッカ補正テ
ーブルからそれぞれの位相条件におけるテーブルを算出
することも可能である。100Hzで点滅する蛍光灯下
で30fpsにて撮影する場合、図13からわかるよう
に電灯線の1周期を2πとすると、その位相速度はπ/
3となっているので、フリッカ波形1周期分の波形をフ
レーム毎にπ/3づつ進めて補正テーブルを算出すれば
よい。位相速度が一定でない場合には図18に示すよう
に位相計測部116がそれぞれのフレームにおけるフリ
ッカの位相を同期信号を使って算出し、補正テーブル生
成部117にてこの位相値と基本フリッカ波形から補正
テーブルを生成すればよい。
【0071】次に、本発明の第5実施形態に係る固体撮
像装置について説明する。本発明の第5実施形態による
蛍光灯フリッカ抑圧機能を有する固体撮像装置は、図1
9に示されるように、MOS型撮像素子101、A/D
変換器103、フレームメモリ104、領域選択部13
0、領域平均値算出部105、ラインメモリ管理部10
7、ラインメモリ106、ライン平均値算出部108、
補正係数算出部109、補正演算部110、を備えてい
る。
【0072】MOS型固体撮像素子101は、この上に
マトリクス状に配置された画素により入射光を信号電荷
に変換する。この電荷は順次走査されて画素から読み出
された後、撮像素子内にてアナログ信号処理され映像信
号として撮像素子外に出力するものである。
【0073】A/D変換器103は、固体撮像素子10
1から出力される映像信号をデジタル信号に変換した
後、フレームメモリ104に出力するものである。フレ
ームメモリ104は、A/D変換器103によってデジ
タル信号に変換された映像信号を1フレーム分保存する
ものである。領域選択部130は、フリッカ補正を行な
うフレーム内のある領域内に属する1ラインにおいてそ
の周辺の領域を選択するものである。
【0074】領域平均値算出部131は、領域選択部1
30によって指定された領域をフレームメモリ104よ
り読み出し、この領域内のデータの平均値を算出するも
のである。ラインメモリ136は、領域平均値算出部に
て求めた値を一時的に保存するものである。ラインメモ
リ管理部132は、領域平均値算出部131にて求めら
れた値をいずれのラインメモリ136に保存するか選択
し、さらにそのラインメモリ136のどの位置に保存す
るかを決めその場所にこの平均値を保存するようライン
メモリ136に命令するものであると同時に他の機能ブ
ロックからの要求に応じて必要とされる領域平均値をラ
インメモリ136から取り出すものでもある。
【0075】ライン間平均値算出部133はラインメモ
リ136に保存されている領域平均値を複数のラインメ
モリの任意の位置から呼び出し、これら複数の領域平均
値の平均を求めるものである。補正係数算出部134は
フリッカ補正対象のフレームと同じフリッカ位相を有す
るラインメモリ106からターゲットラインにおける領
域平均値を呼び出すとともに、ライン間平均値算出部1
33にて算出されたターゲットラインでのライン間平均
値との間で演算を行い補正係数を算出するものである。
【0076】補正演算部110はフレームメモリ104
よりフリッカ補正を行なう領域内の現在補正しようとし
ているラインのデータを読み出すとともに、補正係数に
よってこのラインのゲインを制御して出力するものであ
る。
【0077】ここはまずこのような構成を備えた本実施
形態によるフリッカ抑制機能を有する固体撮像装置の原
理を簡単に説明する。任意のフレームにおけるフリッカ
を含まない信号をS(x,y)、フリッカをF(x,
y)とすると、フリッカを含む映像信号はS(x,y)
・F(x,y)と書ける。ここでxは画像フレームにお
ける水平方向の座標を、yは垂直方向の座標をあらわ
す。MOS型固体撮像装置の場合、フリッカはy方向に
おいて周期性を有する波形として表れるのでF(y)と
簡略化する。もしx方向での変動を考慮する必要がある
場合には、処理領域を別に設定して処理する。フリッカ
補正を実現するにはF(y)を推定すれば良い。ここで
は50Hzの照明下にて毎秒30フレーム取り込む固体
撮像装置について考えると、この時、フリッカは図20
に示すようにフレーム間周期が3フレームで、位相速度
が10/3msの波形として表れる。ここでフレーム内
のある点(x1,y1)においてその信号S(x1,y
1)がフレーム間において一定であり、かつ1周期分の
フリッカ値の合計が常に一定であると仮定する。これを
式で表わすならばS1(x1,y1)=S2(x1,y
1)=S3(x1,y1)=S(x1,y1)であり、
かつ、F1(y1)+F2(y1)+F3(y1)=C
となる。ここでCは定数を意味する。この仮定において
最初のフレームにおける任意の座標(x1,y1)での
値を連続する3フレームでの平均で割る次式の計算を行
なう。
【0078】S(x1,y1)・F1(y1)/{S
(x1,y1)F1(y1)+S(x1,y1)・F2
(y1)+S(x1,y1)・F3(yl)}=S(x
1,y1)・F1(y1)/S(x1,y1)・C=F
1(y1)・C’となりy1でのフリッカ値が推定でき
る。この方式を実際の撮像装置に用いる場合、最も問題
となるのが「フレーム内のある点(x1,y1)におけ
る信号S(x1,y1)がフレーム間においては一定で
ある」という仮定である。撮影対象は常に動いているた
め、S(x1,y1)はフレーム間において一定となら
ない。
【0079】この問題を解消するために、ここでは(x
1,y1)の周辺の領域を選定し、この領域の平均値を
この座標の最尤値とする方法を用いている。「1周期分
のフリッカ値の合計が常に一定」という仮定に関して
は、蛍光灯波形がサイン波形の絶対値に近似できること
から略々問題ないとみなすことができる。
【0080】このような構成を備えた第5実施例形態に
よるフリッカ抑制機能を有する固体撮像装置は、次のよ
うに動作する。固体撮像素子101によって取り込まれ
た映像信号は、A/D変換器103にてディジタル信号
に変換され、フレームメモリ104に保存される。領域
選択部130ではユーザあるいはシステムによって指定
されたフリッカ補正指定領域内のある1ラインの周辺を
選択する。この選択領域は例えば図21のように指定ラ
インを中心としてその前後nラインの領域やその領域か
ら動きのある領域を削除したものなど任意の形状が考え
られる。この領域指定は領域平均値算出部105に渡さ
れ、ここではフレームメモリからこの指定領域内のデー
タを読み出すとともにこれらのデータの平均値を算出す
る。この値は先ほど選択されたあるラインの最尤値とし
て用いられる。
【0081】この算出値はラインメモリ管理部132に
よってラインメモリ106に保存される。このラインメ
モリ管理部132では、複数用意されているラインメモ
リ136のうちの1つを選択し、このラインメモリ13
6の任意の位置にこの平均値を保存する。この処理はフ
リッカ補正を行なう領域内のラインの数だけ繰り返し行
なわれる。ここで使用するラインメモリ136の数だ
が、システムの構成に依存する。例えば毎秒30フレー
ムにて取り込みを行なう撮像システムならば、50Hz
の蛍光灯下において図2のようにフレーム間におけるフ
リッカの周期は3フレームとなるので図19のように3
つのラインメモリ1361〜1363を有する構成とす
ればよい。15fps,60fpsの場合も同様にフレ
ーム間フリッカの周期は3フレームなので3つのライン
メモリが必要である。
【0082】また、この撮像素子上にカラーフィルタが
設けられている場合には、フリッカ補正を信号処理の前
に行なうならば、色フィルタの種類毎にフレーム間フリ
ッカ周期分のラインメモリが必要となる。また、フリッ
カ補正を信号処理の後に行なうならば、図22に示すよ
うに、信号処理部にてYC分離した後にフリッカ補正を
Y信号のみにおいて行なえば良いので、必要とされるラ
インメモリは白黒センサの場合と同じくフレーム間フリ
ッカ周期分、この場合ならば3本だけ用意すれば良いこ
とになる。
【0083】これら複数本のラインメモリ136の内容
はラインメモリ管理部132により管理される。ライン
メモリ1061,1062,1063には連続するフレ
ームにおける領域平均値が保存されているが、この内容
の更新は1062を1063に、1061をl062に
順次移動して1061を常に最新のフレームにおいて使
用するか、あるいは最も古い内容を持つラインメモリを
最新のフレーム用に割り当てこれに上書きすれば良い。
【0084】現在のフレームにおいて補正領域内のすべ
てのラインにおいて領域平均が求められたら、ラインメ
モリ1062に1つ前のフレームでの領域平均値、ライ
ンメモリ1063に2つ前のフレームでの領域平均値が
記録されているか確認する。もしされてない場合には、
これらがすべて用意できるまで領域平均算出のみを繰り
返す。既に用意されている場合には、補正係数算出処理
を行なう。
【0085】補正係数算出処理部139はまずこれから
補正係数を求めようとしているターゲットラインにおけ
るラインメモリ1061,1062,1063の平均を
ライン間平均値算出部108にて求める。この値は補正
係数算出部134へと渡される。次にラインメモリ管理
部132はラインメモリ1061からターゲットライン
における領域平均値を呼び出しこれを補正係数算出部1
34へと渡す。補正係数算出部134ではライン間平均
値算出部133からの値を領域平均値にて割りフリッカ
補正係数を算出する。この補正係数は補正演算部110
に渡され、フレームメモリ104から読み出されるター
ゲットライン上のデータのゲインを変えてフリッカを抑
圧する。
【0086】補正係数算出部134では補正係数を算出
するとともに補正係数の良否の判定も同時に行なう。ま
ずこの判断基準としてフリッカ補正係数の振幅を検査す
る。フリッカの振幅は撮像素子の蓄積時間設定によって
どの程度であるか原理的かつ実験的にある程度決まって
くる。図19の場合ならば、蛍光灯が50Hzにて点灯
しているので、その1周期は10msとなる。蓄積時間
がこれよりも長い場合には、図42(a)における積分
区間が蛍光灯波形の1周期以上となるためその振幅が小
さくなり、フリッカ振幅対ダイナミックレンジ幅が数パ
ーセント程度となる。これに対して10ms以下の場
合、積分波形
【数8】 はその積分区間が蛍光灯波形のどの部分を積分している
かにより大きく変動し、10数パーセント程度となる。
【0087】ここでの補正係数推定では平均する領域を
調節し絵柄の影響を減らして、S1(x,y)=S2
(x,y)=S3(x,y)が成り立つようにしている
が、撮像装置が大きく動いた場合あるいは撮影対象が移
動した場合にはこの仮定が成り立たなくなり、補正係数
に誤差が生じることになる。これを検出するために補正
係数算出部では蓄積時間によって決定される上記のフリ
ッカ振幅を閾値とし、これよりも大きい値になってしま
った場合には、領域選択部130に設定領域が適正でな
いことを知らせる。また別の判定方法としては、推定さ
れたフリッカ補正係数のラインメモリ上での波形をチェ
ックすることでも可能である。このフリッカ補正係数波
形はフリッカ波形の逆数であるので、基本的にはその基
となる蛍光灯波形の周期性をそのまま持っているはずな
ので、図23(a)の右側のようにその周期性が損なわ
れている部分がないかを調べることによりその適性度を
検査できる。
【0088】この通知を受けて領域選択部130はその
平均領域を変更したり、あるいは動きのある部分を検出
しその部分を除くように変更し、領域平均値を計算し直
す。ここでの構成例では選択された領域において平均値
を算出し、その値を任意の行の代表値としていたが、こ
のターゲットライン周辺の値を重視するように重み付け
したりするなどして最尤値算出の精度を向上させること
も可能である。
【0089】本発明の第6実施形態は、図24に示され
たような構成を備え、時間平均値算出部135を持つこ
とに特徴がある。前述の第5実施形態においては絵柄の
影響あるいはノイズの影響を減らすために、フレーム内
においてあるターゲットライン周辺にて平均化してい
た。しかしながらフレーム内を移動するものがあった時
などはこれの影響がラインメモリ1361,1362,
1362にそれぞれ独立に乗るため補正係数の推定値に
この物体の影響を及ぼしてしまう。この問題については
時間的に平滑化する手法が有効である。
【0090】図24において平均値算出部135は領域
平均値算出部131の他に、ラインメモリに保存されて
いるデータを呼び出すデータ呼び出し部11351とこ
のデータと現在のフレームにおいて得られた平均値との
間で平均を求める時間平均値算出部1352を持ってい
る。あるフリッカ補正領域内のあるターゲットラインm
において、その周辺領域から求められた領域平均値Am
(t)とラインメモリのいずれかに保存されているフリ
ッカ周期1周期前での領域平均値A’m(t−1)の間
で平均を算出した後、A’m(t−1)が保存されてい
た位置に保存する。この処理は次のように表わせる。
【0091】
【数9】 つまり、フレーム間において回帰的に平均を求めている
ことになるので、ある任意のフレームに表れた移動する
対象からの影響を小さくすることができる。この時間方
向での平均化を加えることにより補正係数推定の推定誤
りを減らすことが可能となる。
【0092】本発明の第7実施形態は図25に示された
ような構成を備え、画像フレーム内に設定したフリッカ
補正領域内の任意の水平ラインにおいて、一定範囲を選
択する範囲選択部140と、その選択された範囲内の平
均を算出するライン内平均算出部139と、ラインメモ
リに保存されているある任意のライン内平均データにお
けるそのデータ周辺のデータを取り出す窓の幅を決める
窓幅選択部138と、窓幅選択部によって設定された窓
領域内のデータを読み出し平均値を算出する窓内平均値
算出部137とを有することに特徴がある。
【0093】これまで述べてきた第5,第6実施形態に
おいては、図20に示すように、任意の範囲を有する選
択領域における平均を求めて、これをあるターゲットラ
インにおける最尤値としていたが、領域の設定の自由度
が高いためその設定に手間がかかる場合があり得る。
【0094】ここでは、まずフリッカ補正を行なう領域
を図26の補正領域#1あるいは#2のように、縦方向
において区切り、その領域内においてまず各行の平均を
求め、これを一旦ラインメモリに保存しておき、次に窓
幅選択部138によって設定された窓領域内のデータを
読み出して平均化する構成となっている。これはあるタ
ーゲットラインの周辺に長方形の領域を割り当てこの領
域内において平均化しているのと同じことである。補正
領域は#1のように画像フレーム全体に渡るものであっ
ても良いし、#2のように1部分であってもよい。この
ようにあらかじめ区切っておくことで平均化に用いる領
域の選択の自由度を減らし処理を簡略化するものであ
る。区切り方は画像フレームを等分割したり、照明条件
の分かれ目を検出し分割するなどの方法で行なう。
【0095】範囲選択部140では補正領域内のターゲ
ットラインが画像フレームのどの行のどの範囲に相当す
るかライン内平均値算出部139に指定し、ライン内平
均値算出部139はフレームメモリ104からデータを
読み出した後平均を求める。このデータはラインメモリ
136に一旦保存される。補正領域内すべての行におい
て平均値を求め終えると、窓幅選択部138は図27の
ように現在必要としている位置の前後のデータを選択
し、このデータの読み出しをラインメモリ管理部132
に指示し、読み出されたデータは窓内平均値算出部13
7に渡される。
【0096】またラインメモリ管理部132はラインメ
モリ1361,1362,1363から現在のターゲッ
トライン位置mでのデータをそれぞれから読み出し、ラ
イン間平均値算出部133にてこれらの平均を求める。
フリッカ補正係数の算出および補正は前述の第1実施形
態での処理と同じで良い。補正係数算出部134では前
述の例と同様に補正係数の良否を判定し、良くなければ
窓幅選択部138にこれをフィードバックし再度係数を
算出する。平均窓幅選択部が設定する範囲の幅は、はじ
め1あるいは実験的に求めた適当な値に設定し以降は補
正係数算出部134でのフリッカ係数の判定によって動
的に変更させるか、あるいは処理を簡略化する意味でこ
れを固定にすることも可能である。
【0097】図25においては平均値算出部を2つ持っ
ているが、図28のようにこれを共有化しライン間平均
値と窓内平均値を交互に計算する構成とすれば、回路規
模を小さくすることが可能である。また図29のように
フレーム間において平均を取る処理を持たせることによ
りフレーム内を移動する物体などによる影響を減らすこ
とが可能である。
【0098】本発明の第8実施形態は、図30に示され
たような構成を備え、補正係数算出部134が推定した
補正係数を一時保持するラインメモリ1364を持つこ
とに特徴がある、画像フレームの1部分において被写体
が動いていたりした場合は、その部分においてのみ補正
係数の推定に失敗することがある。この場合は、図30
のように補正係数を一旦ラインメモリに保存しておき、
係数の推定がうまくいかなかった範囲を良好な係数推定
ができた範囲のもので置き換えることにより、補正の効
果を上げることができる。例えば、図23のようにある
範囲において係数の推定に失敗した時には、フリッカ波
形の前あるいは後の周期のデータにて置きかえることで
良好なフリッカ補正が可能となる。
【0099】画像フレーム全体に渡って動きがあった場
合などは、図30の方式でも十分でない。この場合に対
処するには図31のような構成が有効である。この構成
では品質の良いフリッカ推定係数が得られたときには、
これをラインメモリ1365に保存しておく。係数推定
が略々全域に渡って失敗したときあるいはその品質が悪
いときには、ラインメモリからフリッカ係数を読み出し
これと置き換えている。フリッカ推定波形の品質の良否
は、図19の補正係数算出部における補正係数の良否判
定に使用したアルゴリズムを用いれば良い。フリッカ補
正係数波形の振れ幅が基準値以下であり、かつ、その波
形にフリッカ波形と同じ波長を有する周期性が見られる
ならば、推定波形の品質が高いと考えるのが適当であ
る。
【0100】これまでの例においてはMOS型固体撮像
素子の出力は一旦フレームメモリに保存されていたが、
フレームメモリを使用することは本撮像装置を実現する
際にコスト上問題となる。これを解消する構成として図
32が挙げられる。この構成は前述のいづれの構成例と
も異なり、フリッカ補正係数はこれを算出したそのフレ
ームにおいて使用されるのではなく、フレーム間フリッ
カ周期の1周期後に、この構成例ならば3フレーム後に
使用する方式を用いている。
【0101】この処理手順は以下の通りである。まず撮
像素子出力はそのライン毎に順次読み出され、ラインメ
モリに一旦保存される。このラインメモリにおいて必要
な範囲のみを読み出しライン内平均を算出し、一旦ライ
ンメモリ136に保存する。その後、ターゲットライン
位置における3つのラインメモリ間での平均値とターゲ
ットのフレームと同じ位相のラインメモリにおいて算出
した平均値との比から補正係数を求める。この係数はラ
インメモリ管理部132によって係数保存用ラインメモ
リ1361から1362のいずれかの適切な位置に保存
される。このデータはフレーム間フリッカ周期において
1周期後に補正演算部110にロードされフリッカ補正
に使用される。
【0102】図32の構成においては、フレーム間フリ
ッカ周期分だけラインメモリを備えているが、フリッカ
波形はフレーム内のいずれの場所でも略々同様の形状を
有しているものと仮定して、この波形のうち1波長分だ
けを記録しておき、補正演算部110はこの1波長分の
波形から各フレーム毎のフリッカ補正波形を算出するよ
うに構成しても良い。ここまでの構成例では画像フレー
ムのある領域を選択し、その部分においてのみフリッカ
補正を行なっているが、図33あるいは図34のような
構成とすることで、複数の領域を選択し、それぞれの領
域毎に最適なパラメータを設定することで補正効率を上
げることが可能である。特に、この方式は蛍光灯照明の
照明条件が非均一的であるとき有効である。例えば画像
フレームのある一部分のみ蛍光灯照明が使用されている
ときに、すべての領域が蛍光灯にて照明されているとの
仮定で補正を行なうと、蛍光灯が当たっている領域は問
題ないが、それ以外の蛍光灯フリッカがない部分に逆に
フリッカを作ってしまうことにもなる。これを防ぐ方法
としては画像フレームを図35のように分割し、それぞ
れの領域毎にフリッカ補正係数の算出とその係数波形の
振幅の検査を行なってフリッカがあるかを検出し、もし
なければその領域は補正対象から外せば良い。 図33
においては、係数推定およびフリッカ補正をそれぞれ別
個のモジュールにより行なっている。それぞれの領域に
おいて補正された画像データは画像マッピング処理部1
41により1つに合成される。また、図34に示すよう
に、それぞれの領域を順番に1つのフリッカ補正処理モ
ジュールにて処理し、画像マッピング処理部141にて
順次合成する構成も可能である。
【0103】ここまでの構成例においてはいずれも画像
フレーム全体ではなく一部分のみを補正しているため、
補正領域とそれ以外の領域との境界で不連続が生じ見苦
しくなる可能性がある。この問題を解消するする手段と
してその境界において補正係数を抑圧する図36のよう
な方法が考えられる。例えば、図35(a)において、
#1と#3は補正処理を必要とせず、#2のみを補正す
るような場合、その境界を目立たなくするためは補正係
数をその境界付近において抑圧すればよい。その抑圧方
法はいろいろ考えられるが、例えばある任意のラインy
1における補正係数C(y1)を図36(a)のよう
に、「く」の字型に折り曲げたり、あるいは図36
(b)のように階段状したりすれば良い。図35(a)
において、#1、#2において補正処理が必要な場合、
補正領域が隣接しているので、2つの補正領域をオーバ
ーラップさせ、それぞれの境界において図36(c)の
ようにそれぞれの領域の補正係数C1(y1)とC2
(y2)を抑圧すれば良い。
【0104】また、複数の領域を補正する方法として、
図37のような構成も可能である。この構成では補正係
数算出部134は1つだけで、それぞれのフリッカ領域
は同じ係数テーブルを参照し補正を行なう。この構成で
は、フリッカ係数を算出するのに使用した領域以外でフ
リッカ補正が十分でない可能性はあるが、いずれの蛍光
灯も同じ電灯周期にて動作しているのでフリッカ位相が
ずれる可能性はないことから極端な補正誤差が生じるこ
とはなく、撮像装置の簡略化に適した構成となる。
【0105】またこの構成のもう1つの特徴は、一旦フ
リッカ補正テーブルを作成したらこのフリッカ推定およ
び補正部の機能を止めてフリッカ補正部のみを駆動させ
るようにし、後は数秒に一回フリッカ推定および補正部
を動作させてフリッカテーブルを更新するようにすれ
ば、撮像装置の低消費電力化が図れる。
【0106】本発明の第9実施形態は、図38に示され
たような構成を備え、MOS型固体撮像素子101の周
辺に測光素子201を配置させている点に特徴がある。
上記第1、2および3実施形態では予め補正テーブルを
算出してフリッカ抑圧を行なっているため、照明条件が
変わった場合には、画像の取り込みを中断して再度この
テーブルを作り直す必要がある。
【0107】これに対し、この第9実施形態において
は、固体撮像素子101による画像の取り込みと平行し
て、撮像素子101の周辺に配置された測光素子201
が常にフリッカの状態を観測し、この観測データに基づ
いてフリッカ抑圧を実現する方式である。
【0108】外部に設けた測光素子を用いてフリッカ補
正を行なう場合、一番の問題点は撮像素子101との感
度の違いの補正にある。測光素子の感度特性が撮像素子
の画素の感度特性と異なるばかりでなく、撮像素子はそ
の前面にあるレンズ系の特性や設定により撮像素子面が
受ける光量の条件が一定ではない。
【0109】この問題点を解決するためにここでは第2
ないし第4実施形態に使われている補正テーブルを用い
る。前記実施形態における補正テーブルは画像フレーム
内に表れるフリッカF(y)の逆数であるので、外部測
光系204の出力波形の振幅を補正テーブルを利用して
合わせれば良い。この処理は以下の順序により行なわれ
る。まず外部測光素子201により撮像装置周辺の光量
の変動を計測する。この計測波形L(t)から映像の垂
直方向に表れるフリッカF(y)を得るには、それぞれ
の画素において、それぞれの画素の電荷蓄積期間分だけ
計測波形L(t)を積分する必要がある。
【0110】ここでは説明を簡略化するために、水平方
向での電荷蓄積のタイミングが同じ、すべての行で電荷
蓄積時間が同じであるとする。この条件のもとで撮像素
子101のy行目の画素が電荷蓄積を開始した時刻Ts
から蓄積を終了する時刻Teまで計測波形を積分する
と、この積分値I(y)
【数10】 と書くことができ、また、 F(y)=I(y)×C (Cは撮像素子の画素と測光素子の感度の違いによって
決定される比例定数)の関係が成り立っている。
【0111】次にこの比例定数Cを求める必要がある。
ここではF(y)が補正テーブルという形で分かってい
るので、補正テーブルの逆数をI(y)で割ることによ
りこの比例係数Cが求められる。この計算はゲイン補正
部203にて行われ、この結果はゲイン補正部203内
のレジスタに保存される。これ以降の動作は外部測光系
204から得られるフリッカ波形I(y)と比例係数C
から補正テーブルを作りフリッカ抑圧を行なえばよいの
で、比例係数Cが求められた時点でモード設定部106
はフリッカ補正準備モードをフリッカ補正モードに変更
すると共に、フレームメモリ104や補正テーブル算出
部105を停止できる。
【0112】また、図39に示すように外部測光素子2
01の上にレンズとレンズ設定部207を設置すること
により、撮像素子が取り込んでいる画角における光量の
変化を測定することが可能である。レンズ設定部207
は、撮像素子101のレンズ設定部2071からレンズ
設定値あるいは設定コマンドを受け、測光素子用のレン
ズの設定を変更すればよい。これにより例えば、蛍光灯
照明と太陽光が混在するような環境において、太陽光を
受けている領域を撮影している場合、外部測光素子が蛍
光灯フリッカを誤って測定してしまうことを防ぐことが
できる。
【0113】図39の場合、撮像素子用撮像レンズと外
部測光素子用撮像レンズの2つの光学系を必要とするた
めコストが高くなる。これを低減し構成を簡略化するた
めに、図40にあるように撮像素子用レンズと撮像素子
の間にハーフミラー等の光路を2つのパスに分ける分光
器208を置いたり、図41のように測光素子を撮像素
子の近傍に設置することで、レンズを共用させることも
可能である。図41においては、測光素子が撮像素子と
同じレンズの下に設置されているため絵柄成分の影響を
受けやすいので、測光素子上部にすりガラスのような光
を散乱させる構造物を設置したり、測光素子それ自体が
広い領域から集光するような構造にしたり、あるいはそ
の設置位置を撮像素子面より前後にずらして非焦点位置
になるようにしたりすることで絵柄成分の影響を排除す
ることが可能である。
【0114】なお、図示詳細説明は省略するが、この第
8実施形態に係る固体撮像装置は、第2ないし第4実施
形態に係るフリッカ補正演算手段を備えたもののみに適
用を限定されることなく、第1および第5ないし第8実
施形態に係るフリッカ補正演算手段を備えたものにも適
用可能である。したがって、図19ないし図37を用い
て説明した固体撮像装置に外部光量測定計204を組み
合わせて適用することにより本発明のより好適な実施形
態とすることもできる。
【0115】また、第8実施形態に係る固体撮像装置に
おいては、光学系を通して得られる光量データのみを制
御要素として取り込んでいるが、本発明はこれにも限定
されず、外部測光のみに依存するのではなく電子シャッ
タ設定手段により得られた電子シャッタ値により外部光
量を推定して用いるようにしても良い。
【0116】
【発明の効果】上述したように本発明によれば、推定し
たフリッカ波形に基づいて撮像素子から出力される映像
信号の利得を制御することにより、蛍光灯照明下におけ
る蛍光灯フリッカを抑圧し高画質を実現することが可能
である。
【図面の簡単な説明】
【図1】本発明の第1実施形態による固体撮像装置の構
成を示すブロック図。
【図2】本発明の第2実施形態による固体撮像装置の構
成を示すブロック図。
【図3】同固体撮像装置のフレーム構造を持った補正テ
ーブルをライン構造に変換する水平ライン平均値算出部
を備える構成を示すブロック図。
【図4】同固体撮像装置のA/D変換出力を水平ライン
において平均化する水平ライン平均値算出部を備える構
成を示すブロック図。
【図5】同固体撮像装置の2つのフレームメモリを1つ
にし、簡略化された構成であることを示すブロック図。
【図6】第2実施形態におけるA/D変換出力を水平ラ
インにおいて平均化する水平ライン平均値算出部を備え
る構成を示すブロック図。
【図7】第2実施形態においてフレームメモリと補正テ
ーブル記憶部の機能をフレーム型データ記録部に置き換
えた構成を示すブロック図。
【図8】同固体撮像装置のフリッカ補正出力の補正度を
検査するフリッカ検出器を備える構成を示すブロック
図。
【図9】本発明の第3実施形態による平均化されたフレ
ームメモリにより補正テーブルを算出する構成を示すフ
ロック図。
【図10】第3実施形態において1つのフレームメモリ
により画像フレームの平均を算出する構成を示すブロッ
ク図。
【図11】本発明の第4実施形態による複数の補正テー
ブル記憶部とこれらの1つを選択する補正テーブル選択
部を備える構成を示すフロック図。
【図12】第4実施形態において水平ライン平均値算出
部を備える構成を示すブロック図。
【図13】固体撮像装置において蛍光灯フリッカのフレ
ーム間での周期性を示す説明図。
【図14】上記第4実施形態のフレームテーブルにおい
て、フリッカの周期分だけフレームメモリを備える構成
を示すブロック図。
【図15】第4の実施の形態の補正テーブル選択部にお
いて、補正演算部からの要求によって補正テーブルを選
択する構成を示すブロック図。
【図16】第4実施形態においてA/D変換出力を水平
ラインにおいて平均化する水平ライン平均値算出部を備
える構成を示すブロック図。
【図17】第4実施形態において平均化されたフレーム
メモリにより補正テーブルを算出する構成を示すブロッ
ク図。
【図18】上記第4実施形態において、位相計測部と補
正テーブル生成部とを備える構成を示すブロック図。
【図19】本発明の第5実施形態による固体撮像装置の
構成を示すブロック図。
【図20】MOS型撮像素子におけるフリッカ発生の原
理を示す説明図。
【図21】任意のターゲットラインにおける最尤値推定
に使用する領域を示す説明図。
【図22】同固体撮像装置において、フリッカ補正処理
を行なう前に、映像信号処理を行なう構成を示すブロッ
ク図。
【図23】フリッカ補正係数波形に関する説明図。
【図24】本発明の第6実施形態による平均値算出部に
時間平均算出部を具備づる構成を示すブロック図。
【図25】本発明の第7実施形態によるライン平均値算
出部、窓幅選択部と窓内平均値算出部を備える構成を示
すブロック図。
【図26】第7実施形態のフリッカ補正を行なう領域と
その領域内の任意のターゲットラインにおけるライン平
均値算出の構成を示す説明図。
【図27】上記第7実施形態において、窓内平均値とラ
イン間平均値それぞれの算出方法を示す説明図。
【図28】上記第7実施形態において、窓内平均値とラ
イン間平均値両方を算出する平均値算出部を備える構成
を示すブロック図。
【図29】上記第7実施形態における時間平均算出部を
備える構成を示すブロック図。
【図30】本発明の第8実施形態による補正係数を保持
するラインメモリを備える構成を示すブロック図。
【図31】上記第8実施形態における補正係数を保持す
るラインメモリを備える別の構成を示すブロック図。
【図32】同固体撮像装置において、MOS型撮像素子
出力を保持するラインメモリを備える構成を示すブロッ
ク図。
【図33】同固体撮像装置において、複数のフリッカ補
正処理部を備える構成を示すブロック図。
【図34】同固体撮像装置における1つのフリッカ補正
処理部が複数の領域のフリッカを補正する構成を示すブ
ロック図。
【図35】フリッカ検出検査における検査領域の設定方
法に関する説明図。
【図36】同固体撮像装置において、フリッカ補正領域
と非フリッカ補正領域との境界における処理に関する説
明図。
【図37】同固体撮像装置におけるフリッカ補正部を備
える構成を示すブロック図。
【図38】本発明の第9実施形態による外部測光系を備
える構成を示すブロック図。
【図39】上記第9実施形態における外部測光系に撮像
レンズを備える構成を 示すブロック図
【図40】上記第9実施形態における外部測光系に備え
る撮像レンズを固体撮像素子に使用するものと共有する
構成を示すブロック図。
【図41】上記第9の実施の形態における外部測光系を
固体撮像素子の近傍に設置する構成を示すブロック図。
【図42】MOS型撮像素子における電荷蓄積時間とフ
リッカの関係を示す説明図。
【符号の説明】
1 固体撮像素子 2 電子シャッタ値設定手段 3 A/D変換手段 4 記憶手段 10 補正演算手段 101 MOS型固体撮像素子 102 電子シャッタ設定部 103 A/D変換器 104,1041,1042 フレームメモリ 105 補正テーブル算出部 106 モード設定部 107,1071,1072,1073 補正テーブル
記録部 1075 カラム型補正テーブル記憶部 1076 ライン別色別補正テーブル記憶部 108 補正演算部 109 同期信号発生部 111 水平ライン平均値算出部 112 フリッカ検出器 113,1131,1132 フレーム平均算出部 114 フレーム平均順次算出部 115 補正テーブル選択部 116 位相計測部 117 補正テーブル生成部 118,1181,1182 カラム型平均値記憶部 119 フレーム型データ記憶部 130 領域選択部 201 外部測光素子 202 積分器 203 ゲイン補正部 204 外部測光系 205 補正値生成部
─────────────────────────────────────────────────────
【手続補正書】
【提出日】平成11年7月6日(1999.7.6)
【手続補正1】
【補正対象書類名】図面
【補正対象項目名】全図
【補正方法】変更
【補正内容】
【図1】
【図2】
【図7】
【図35】
【図41】
【図3】
【図4】
【図13】
【図42】
【図5】
【図6】
【図23】
【図36】
【図8】
【図9】
【図26】
【図10】
【図11】
【図12】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図21】
【図20】
【図22】
【図24】
【図25】
【図27】
【図28】
【図29】
【図30】
【図31】
【図32】
【図33】
【図34】
【図38】
【図37】
【図39】
【図40】
───────────────────────────────────────────────────── フロントページの続き Fターム(参考) 4M118 AA05 AB01 BA14 5C022 AB04 AB17 AB51 AC42 AC69 5C024 AA01 CA07 CA17 DA01 FA01 FA08 GA01 GA31 HA14 HA24

Claims (9)

    【特許請求の範囲】
  1. 【請求項1】所定の条件を満たす電子シャッタ値によ
    り、直交する2方向に画面をアドレス走査して対象を撮
    像する固体撮像素子と、 前記固体撮像素子の前記電子シャッタ値を所定の値に設
    定する電子シャッタ値設定手段と、 前記固体撮像素子の出力信号をアナログ信号からデジタ
    ル信号へと変換するA/D変換手段と、 前記A/D変換手段の出力信号を所定の単位で記憶する
    記憶手段と、 前記記憶手段に記憶された所定の単位の信号に対し、外
    光条件に適した第1の電子シャッタ値と蛍光灯明滅周期
    と所定関係となる第2の電子シャッタ値の2条件による
    画像の信号波形をそれぞれ求め、2つの信号を比較する
    ことにより蛍光灯フリッカを補正した補正信号値を演算
    する補正演算手段と、 を備えることを特徴とする固体撮像装置。
  2. 【請求項2】X−Yアドレス走査型固体撮像素子と、 前記固体撮像素子の電子シャッタ値を設定する電子シャ
    ッタ設定部と、 前記固体撮像素子の出力信号をデジタル信号に変換する
    A/D変換器と、 前記A/D変換手段の出力信号を記憶保持する複数のフ
    レームメモリと、 前記電子シャッタ設定部の電子シャッタ値を変更すると
    共に、前記フレームメモリヘの記録出力を設定するモー
    ド設定部と、 前記複数のフレームメモリの間にて演算処理を行ない、
    フリッカ補正値を算出する補正テーブル算出部と、 前記補正テーブル算出部の出力を記憶保持する補正テー
    ブル記憶部と、 前記補正テーブルを用いて前記A/D変換手段の出力信
    号の利得を制御する補正演算部と、 を備えることを特徴とする固体撮像装置。
  3. 【請求項3】前記フレームメモリは、電子シャッタ設定
    部によって設定された複数の電子シャッタ値毎にそれぞ
    れ複数のフレームメモリを備え、電子シャッタそれぞれ
    の値毎に割り当てられている前記複数個のフレームメモ
    リの平均値を算出する平均値算出部とをさらに備えるこ
    とを特徴とする請求項2に記載の固体撮像装置。
  4. 【請求項4】前記補正テーブル記憶部は、複数個の補正
    テーブル記憶部からなり、この複数個の補正テーブルか
    ら任意の補正テーブルを1つあるいは複数個選択する補
    正テーブル選択部をさらに備えることを特徴とする請求
    項2および3の何れかに記載の固体撮像装置。
  5. 【請求項5】X−Yアドレス走査型固体撮像素子と、 前記固体撮像素子の出力信号をデジタル信号に変換する
    A/D変換手段と、 前記A/D変換手段の出力信号を記憶保持するフレーム
    メモリと、 各スキャンライン毎にそのラインの周辺の領域を選択す
    る領域選択部と、 前記領域選択部によって選択された領域を読み出しこの
    データの平均値を算出する領域平均値算出部と、 前記領域平均値算出部の出力を保持するラインメモリ
    と、 複数の前記ラインメモリの1つを選択し、そのラインメ
    モリとの間でデータを入出力するラインメモリ管理部
    と、 前記ラインメモリに保持されている領域平均値を複数の
    ラインメモリから選択し平均演算を行なうライン間平均
    値算出部と、 前記領域平均値を保存するラインメモリの1つと前記ラ
    イン間平均値を保存するラインメモリのそれぞれからデ
    ータを選択しこれらのデータ間での演算によりフリッカ
    抑圧係数を算出する補正係数算出部と、 前記補正係数算出部の係数値に比例して前記フレームメ
    モリから出力されるデータのゲインをライン毎に制御す
    る補正演算部と、 を備えることを特徴とする固体撮像装置。
  6. 【請求項6】前記領域平均値算出部は、前記領域平均値
    を保存するラインメモリの何れかより任意のデータを呼
    び出すデータ呼び出し部と、この呼び出したデータと現
    在の選択領域での平均値との間で平均を算出する時間平
    均算出部と、を備えることを特徴とする請求項5に記載
    の固体撮像装置。
  7. 【請求項7】X−Yアドレス走査型固体撮像素子と、 前記固体撮像素子の出力信号をデジタル信号に変換する
    A/D変換手段と、 前記A/D変換手段の出力信号を記憶保持するフレーム
    メモリと、 各スキャンライン毎にこのスキャンライン内において必
    要とするデータの範囲を選択する範囲選択部と、 前記範囲選択部によって選択された領域を読み出し、こ
    のデータの平均値を算出するライン内平均値算出部と、 前記領域平均値算出部の出力を保持するラインメモリ
    と、 複数の前記ラインメモリの1つを選択し、そのラインメ
    モリからデータを入出力するラインメモリ管理部と、 前記ラインメモリに保持されているライン内平均値を複
    数のラインメモリから選択し平均演算を行なうライン間
    平均値算出部と、 前記ラインメモリに保存されているライン内平均値から
    複数個を選択し、かつこれらの読み出しを前記ラインメ
    モリ管理部に命令する窓幅選択部と、 前記窓幅選択部の命令により読み出されたデータの平均
    を算出する窓内平均値算出部と、 前記ライン間平均値算出部出力と前記窓内平均値算出部
    出力それぞれの間で比較演算を行なう補正係数算出部
    と、 前記補正係数に比例して前記フレームメモリから出力さ
    れるデータのゲインをライン毎に制御する補正演算部
    と、 を備えることを特徴とする固体撮像装置。
  8. 【請求項8】前記補正係数算出部の出力を保持するライ
    ンメモリを備えることを特徴とする請求項5ないし7の
    何れかに記載の固体撮像装置。
  9. 【請求項9】光電変換を行なって光量波形を出力する測
    光素子と、 前記撮像素子の露光期間と、前記測光素子から出力され
    た光量波形とに基づいて、撮像装置周辺の光量の変動を
    検出する光量変動算出部と、 前記補正テーブル記憶部に保持されているフリッカ補正
    値と前記光量変動算出部から出力された光量変動波形と
    に基づいて、フリッカ補正値を算出する動的補正テーブ
    ル算出部と、 をさらに備えることを特徴とする請求項1ないし8の何
    れかに記載の固体撮像装置。
JP18614499A 1999-06-30 1999-06-30 固体撮像装置 Expired - Fee Related JP3749038B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP18614499A JP3749038B2 (ja) 1999-06-30 1999-06-30 固体撮像装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP18614499A JP3749038B2 (ja) 1999-06-30 1999-06-30 固体撮像装置

Publications (2)

Publication Number Publication Date
JP2001016508A true JP2001016508A (ja) 2001-01-19
JP3749038B2 JP3749038B2 (ja) 2006-02-22

Family

ID=16183160

Family Applications (1)

Application Number Title Priority Date Filing Date
JP18614499A Expired - Fee Related JP3749038B2 (ja) 1999-06-30 1999-06-30 固体撮像装置

Country Status (1)

Country Link
JP (1) JP3749038B2 (ja)

Cited By (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002352264A (ja) * 2001-05-25 2002-12-06 Dainippon Printing Co Ltd 模様画像作成方法および装置
JP2006245784A (ja) * 2005-03-01 2006-09-14 Canon Inc 固体撮像装置及びその駆動方法並びに撮像システム
JP2007037103A (ja) * 2005-06-24 2007-02-08 Canon Inc 撮像装置
JP2007173986A (ja) * 2005-12-19 2007-07-05 Canon Inc 撮像装置及びその制御方法、コンピュータプログラム及び記憶媒体
JP2007251611A (ja) * 2006-03-16 2007-09-27 Sanyo Electric Co Ltd 撮像装置
JP2008109370A (ja) * 2006-10-25 2008-05-08 Sanyo Electric Co Ltd 画像補正装置及び方法並びに撮像装置
KR100864464B1 (ko) * 2001-04-26 2008-10-22 후지쯔 마이크로일렉트로닉스 가부시키가이샤 Xy 어드레스형 고체 촬상 장치의 플리커 노이즈 저감 방법
JP2009017214A (ja) * 2007-07-04 2009-01-22 Canon Inc フリッカ検出装置及びフリッカ検出方法
JP2009027634A (ja) * 2007-07-23 2009-02-05 Canon Inc 撮像装置及びその制御方法
US20100053369A1 (en) * 2008-08-26 2010-03-04 Takahiro Nagai Image taking apparatus, correction circuit and correction method
EP1722553A3 (en) * 2005-05-13 2010-04-28 Sony Corporation Flicker correction method and device, and imaging device
JP2010520673A (ja) * 2007-03-05 2010-06-10 ルネサスエレクトロニクス株式会社 撮像装置及びフリッカ検出方法
KR101007427B1 (ko) * 2003-07-08 2011-01-12 소니 주식회사 촬상 장치 및 플리커 저감 방법
KR101007464B1 (ko) * 2003-09-08 2011-01-12 소니 주식회사 촬영 환경 판정 방법 및 촬상 장치
EP1763228A3 (en) * 2005-09-08 2011-06-22 Sony Corporation Flicker reduction method, flicker reduction circuit and image pickup apparatus
US7990448B2 (en) 2007-03-15 2011-08-02 Canon Kabushiki Kaisha Solid-state image pickup apparatus and method for driving the same
WO2011093112A1 (ja) * 2010-01-29 2011-08-04 ソニー株式会社 画像処理装置、および信号処理方法、並びにプログラム
US8031237B2 (en) 2005-08-26 2011-10-04 Sony Corporation Exposure control method, exposure control apparatus and image pickup apparatus
JP2012109794A (ja) * 2010-11-17 2012-06-07 Toshiba Corp 固体撮像装置
US8243165B2 (en) 2008-11-06 2012-08-14 Sanyo Electric Co., Ltd. Video camera with flicker prevention
JP2013051592A (ja) * 2011-08-31 2013-03-14 Fujitsu Frontech Ltd 画像撮像装置および方法
US8441550B2 (en) 2009-07-28 2013-05-14 Sanyo Electric Co., Ltd. Imaging device program and method for preventing the generation of flicker
JP2015005850A (ja) * 2013-06-20 2015-01-08 株式会社Jvcケンウッド 撮像装置、及びフリッカ低減方法
US9055228B2 (en) 2004-06-01 2015-06-09 Sony Corporation Imaging device and signal processing method for flicker reduction
US11368639B2 (en) 2019-09-30 2022-06-21 Canon Kabushiki Kaisha Photoelectric conversion apparatus, image capturing system, method for driving photoelectric conversion apparatus, and moving object

Cited By (36)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100864464B1 (ko) * 2001-04-26 2008-10-22 후지쯔 마이크로일렉트로닉스 가부시키가이샤 Xy 어드레스형 고체 촬상 장치의 플리커 노이즈 저감 방법
JP2002352264A (ja) * 2001-05-25 2002-12-06 Dainippon Printing Co Ltd 模様画像作成方法および装置
JP4736239B2 (ja) * 2001-05-25 2011-07-27 大日本印刷株式会社 模様画像作成方法および装置
KR101007427B1 (ko) * 2003-07-08 2011-01-12 소니 주식회사 촬상 장치 및 플리커 저감 방법
KR101007464B1 (ko) * 2003-09-08 2011-01-12 소니 주식회사 촬영 환경 판정 방법 및 촬상 장치
US9055228B2 (en) 2004-06-01 2015-06-09 Sony Corporation Imaging device and signal processing method for flicker reduction
JP2006245784A (ja) * 2005-03-01 2006-09-14 Canon Inc 固体撮像装置及びその駆動方法並びに撮像システム
JP4646655B2 (ja) * 2005-03-01 2011-03-09 キヤノン株式会社 固体撮像装置及びその駆動方法並びに撮像システム
EP1722553A3 (en) * 2005-05-13 2010-04-28 Sony Corporation Flicker correction method and device, and imaging device
KR101180618B1 (ko) * 2005-05-13 2012-09-06 소니 주식회사 플리커 보정 방법, 플리커 보정 장치 및 촬상 장치
US7764312B2 (en) 2005-05-13 2010-07-27 Sony Corporation Flicker correction method and device, and imaging device
JP2007037103A (ja) * 2005-06-24 2007-02-08 Canon Inc 撮像装置
US8031237B2 (en) 2005-08-26 2011-10-04 Sony Corporation Exposure control method, exposure control apparatus and image pickup apparatus
EP1763228A3 (en) * 2005-09-08 2011-06-22 Sony Corporation Flicker reduction method, flicker reduction circuit and image pickup apparatus
JP2007173986A (ja) * 2005-12-19 2007-07-05 Canon Inc 撮像装置及びその制御方法、コンピュータプログラム及び記憶媒体
JP2007251611A (ja) * 2006-03-16 2007-09-27 Sanyo Electric Co Ltd 撮像装置
JP4739998B2 (ja) * 2006-03-16 2011-08-03 三洋電機株式会社 撮像装置
JP2008109370A (ja) * 2006-10-25 2008-05-08 Sanyo Electric Co Ltd 画像補正装置及び方法並びに撮像装置
JP2010520673A (ja) * 2007-03-05 2010-06-10 ルネサスエレクトロニクス株式会社 撮像装置及びフリッカ検出方法
US8279303B2 (en) 2007-03-05 2012-10-02 Renesas Electronics Corporation Imaging apparatus and flicker detection method
JP4856765B2 (ja) * 2007-03-05 2012-01-18 ルネサスエレクトロニクス株式会社 撮像装置及びフリッカ検出方法
US7990448B2 (en) 2007-03-15 2011-08-02 Canon Kabushiki Kaisha Solid-state image pickup apparatus and method for driving the same
JP2009017214A (ja) * 2007-07-04 2009-01-22 Canon Inc フリッカ検出装置及びフリッカ検出方法
JP2009027634A (ja) * 2007-07-23 2009-02-05 Canon Inc 撮像装置及びその制御方法
US8218029B2 (en) * 2008-08-26 2012-07-10 Sony Corporation Image taking apparatus, correction circuit and correction method
US20100053369A1 (en) * 2008-08-26 2010-03-04 Takahiro Nagai Image taking apparatus, correction circuit and correction method
US8243165B2 (en) 2008-11-06 2012-08-14 Sanyo Electric Co., Ltd. Video camera with flicker prevention
US8441550B2 (en) 2009-07-28 2013-05-14 Sanyo Electric Co., Ltd. Imaging device program and method for preventing the generation of flicker
JP2011160090A (ja) * 2010-01-29 2011-08-18 Sony Corp 画像処理装置、および信号処理方法、並びにプログラム
US8890975B2 (en) 2010-01-29 2014-11-18 Sony Corporation Image processing apparatus, signal processing method and computer-readable medium for image flicker correction
WO2011093112A1 (ja) * 2010-01-29 2011-08-04 ソニー株式会社 画像処理装置、および信号処理方法、並びにプログラム
JP2012109794A (ja) * 2010-11-17 2012-06-07 Toshiba Corp 固体撮像装置
US8730346B2 (en) 2010-11-17 2014-05-20 Kabushiki Kaisha Toshiba Solid-state imaging apparatus
JP2013051592A (ja) * 2011-08-31 2013-03-14 Fujitsu Frontech Ltd 画像撮像装置および方法
JP2015005850A (ja) * 2013-06-20 2015-01-08 株式会社Jvcケンウッド 撮像装置、及びフリッカ低減方法
US11368639B2 (en) 2019-09-30 2022-06-21 Canon Kabushiki Kaisha Photoelectric conversion apparatus, image capturing system, method for driving photoelectric conversion apparatus, and moving object

Also Published As

Publication number Publication date
JP3749038B2 (ja) 2006-02-22

Similar Documents

Publication Publication Date Title
JP3749038B2 (ja) 固体撮像装置
JP4856765B2 (ja) 撮像装置及びフリッカ検出方法
US7546026B2 (en) Camera exposure optimization techniques that take camera and scene motion into account
US8823808B2 (en) Method for improved digital video image quality
US7995097B2 (en) Techniques of motion estimation when acquiring an image of a scene that may be illuminated with a time varying luminance
KR101143861B1 (ko) 플리커 보정방법 및 플리커 보정회로와 그것들을 이용한촬상장치
US20080143840A1 (en) Image Stabilization System and Method for a Digital Camera
JP4840578B2 (ja) 撮像装置のフリッカ検出方法と装置
JP2013515442A (ja) 静止画像及びプレビュー画像を用いた高ダイナミックレンジ画像の生成
KR101536060B1 (ko) 고체 촬상 장치 및 카메라 모듈
KR20070024559A (ko) 촬상 장치 및 신호 처리 방법
JP2007174678A (ja) イメージセンサのフリッカー検出回路及び方法
KR20090008139A (ko) 촬상 장치, 및 화상 처리 방법, 및 컴퓨터 프로그램
EP2082569A2 (en) Digital imager with reduced object motion blur
JP2007174537A (ja) 撮像装置
JP2006245784A (ja) 固体撮像装置及びその駆動方法並びに撮像システム
JP2009212627A (ja) 画像処理装置、フリッカ低減方法、撮像装置及びフリッカ低減プログラム
JP2012044452A (ja) 撮像装置及びその欠陥画素検出方法
JP2011030207A (ja) 撮像装置、閃光判定方法およびプログラム
JP2000023040A (ja) 固体撮像装置及びシステムオンチップ型固体撮像素子
US20060197854A1 (en) Image capturing apparatus and computer software product
WO2012147337A1 (ja) フリッカ検出装置、フリッカ検出方法およびフリッカ検出プログラム
JP2011114473A (ja) 画素欠陥補正装置
JP2005027137A (ja) 撮像装置
JP2008113237A (ja) 撮像装置におけるフリッカ検出方法と装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20040805

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040907

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20041108

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050830

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20051031

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20051122

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20051130

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091209

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091209

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101209

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111209

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121209

Year of fee payment: 7

LAPS Cancellation because of no payment of annual fees