JP7074136B2 - 撮像装置とフリッカー補正方法およびプログラム - Google Patents
撮像装置とフリッカー補正方法およびプログラム Download PDFInfo
- Publication number
- JP7074136B2 JP7074136B2 JP2019526662A JP2019526662A JP7074136B2 JP 7074136 B2 JP7074136 B2 JP 7074136B2 JP 2019526662 A JP2019526662 A JP 2019526662A JP 2019526662 A JP2019526662 A JP 2019526662A JP 7074136 B2 JP7074136 B2 JP 7074136B2
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- image pickup
- flicker
- light intensity
- intensity detection
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B15/00—Special procedures for taking photographs; Apparatus therefor
- G03B15/02—Illuminating scene
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B15/00—Special procedures for taking photographs; Apparatus therefor
- G03B15/02—Illuminating scene
- G03B15/03—Combinations of cameras with lighting apparatus; Flash units
- G03B15/05—Combinations of cameras with electronic flash apparatus; Electronic flash units
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B7/00—Control of exposure by setting shutters, diaphragms or filters, separately or conjointly
- G03B7/08—Control effected solely on the basis of the response, to the intensity of the light received by the camera, of a built-in light-sensitive device
- G03B7/091—Digital circuits
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/745—Detection of flicker frequency or suppression of flicker wherein the flicker is caused by illumination, e.g. due to fluorescent tube illumination or pulsed LED illumination
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/76—Circuitry for compensating brightness variation in the scene by influencing the image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/53—Control of the integration time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/53—Control of the integration time
- H04N25/533—Control of the integration time by using differing integration times for different sensor regions
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Studio Devices (AREA)
- Exposure Control For Cameras (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
Description
この技術は、撮像装置とフリッカー補正方法およびプログラムに関し、周期的に照明光の強度が変動する照明装置を利用しても、照明装置と被写体との位置関係にかかわらず照明光の強度の変動の影響が低減された撮像画を取得できるようにする。
従来、周期的に照明光の強度が変動する照明装置を利用して撮像が行われたとき、照明光の強度の変動の影響を低減することが行われている。例えば特許文献1では、被写体を撮像するための第1のフォトダイオードと、照明光の強度の変動を検出するための第2のフォトダイオードを設けて、第2のフォトダイオードを用いて検出した照明光の強度変化パターンに基づいて、第1のフォトダイオードを用いて取得した撮像信号を補正することが行われている。
ところで、第2のフォトダイオードを用いて検出した照明光の強度変化パターンに基づいた撮像信号の補正は、照明光の強度の時間変化に応じた補正である。したがって、例えば照明装置と被写体との位置関係の違いによって生じる被写体毎のちらつき度合いの差を補正することはできない。
そこで、この技術では、照明光の強度が周期的に変動する場合でも、照明装置と被写体との位置関係にかかわらず照明光の強度の変動の影響が低減されている撮像画を取得できる撮像装置とフリッカー補正方法およびプログラムを提供することを目的とする。
この技術の第1の側面は、
撮像画を取得するための撮像画素の画素信号と照明光の強度を検出するための光強度検出画素の画素信号に基づきフリッカー補正ゲインを算出する補正ゲイン算出部と、
前記撮像画素と前記光強度検出画素の露光タイミングと露光期間を個々に設定する制御部と
を備える撮像装置にある。
撮像画を取得するための撮像画素の画素信号と照明光の強度を検出するための光強度検出画素の画素信号に基づきフリッカー補正ゲインを算出する補正ゲイン算出部と、
前記撮像画素と前記光強度検出画素の露光タイミングと露光期間を個々に設定する制御部と
を備える撮像装置にある。
この技術においては、撮像画を取得するための撮像画素と照明光の強度を検出するための光強度検出画素を例えば垂直方向に隣接して設ける。制御部は、撮像画素と光強度検出画素の露光タイミングと露光期間を個々に設定する。例えば制御部は、撮像画素の露光期間をシャッター速度に応じた期間に設定して、光強度検出画素の露光期間を照明光の強度変化の周期期間に設定して、撮像画素と光強度検出画素の露光タイミングを、露光開始、露光終了または露光期間の中央のいずれかを等しいタイミングに設定する。また、制御部は、撮像画のフレーム周期と照明光の強度変化の周期に基づき、光強度検出画素の画素群を1または複数設けて、撮像画のフレーム毎に光強度検出画素のいずれかの画素群で照明光の強度変化の周期期間である露光期間の画素信号を得る。補正ゲイン算出部は、撮像画素の画素信号と光強度検出画素の画素信号に基づきフリッカー補正対象の撮像画素に対するフリッカー補正ゲインを算出する。例えば、補正ゲイン算出部は、フリッカー補正対象の撮像画素を基準とした水平方向および垂直方向の複数の画素範囲の光強度検出画素の画素信号を用いて補間処理を行い、撮像画素と空間位相が等しい光強度検出画素の画素信号を生成して、撮像画素の画素信号と撮像画素と空間位相が等しい光強度検出画素の画素信号に基づいて撮像画素の画素毎にフリッカー補正ゲインを算出する。フリッカー補正部は、補正ゲイン算出部で算出されたフリッカー補正ゲインを用いてフリッカー補正対象の撮像画素のフリッカー補正を行う。
また、フリッカー検出部を設けて、露光期間が第1商用電源周波数の周期であるフリッカー検出第1画素と露光期間が第2商用電源周波数の周期であるフリッカー検出第2画素のフレーム毎の画素信号の信号レベル変化に基づいて、照明光の強度変化の周期を検出する。フリッカー検出部を設ける場合、制御部は、フリッカー補正ゲインの算出前に、光強度検出画素または光強度検出画素と撮像画素をフリッカー検出第1画素とフリッカー検出第2画素に設定して、フリッカー検出部でフリッカー検出を行わせて、フリッカー検出後はフリッカー検出部で検出された周期を、光強度検出画素の露光期間に設定する。
また、制御部は、複数色成分画素からなる画素ブロックを撮像画素および光強度検出画素の画素単位として、補正ゲイン算出部は、撮像画素および光強度検出画素を構成する画素ブロックの色成分画素の画素信号から算出した輝度値に基づいてフリッカー補正ゲインを算出する。
また、光強度検出画素を間引いて配置して、補正ゲイン算出部は、光強度検出画素の画素信号を用いて補間処理を行い撮像画素と空間位相が等しい光強度検出画素の画素信号を算出して、撮像画素の画素信号と撮像画素と空間位相が等しい光強度検出画素の画素信号に基づき、フリッカー補正対象の撮像画素のフリッカー補正ゲインを算出する。
この技術の第2の側面は、
撮像画を取得するための撮像画素と照明光の強度を検出するための光強度検出画素の露光タイミングと露光期間を個々に設定することと、
前記撮像画素で生成された画素信号と前記光強度検出画素で生成された画素信号に基づきフリッカー補正ゲインを算出することと、
前記算出されたフリッカー補正ゲインを用いて前記撮像画素のフリッカー補正を行うこと
を含むフリッカー補正方法にある。
撮像画を取得するための撮像画素と照明光の強度を検出するための光強度検出画素の露光タイミングと露光期間を個々に設定することと、
前記撮像画素で生成された画素信号と前記光強度検出画素で生成された画素信号に基づきフリッカー補正ゲインを算出することと、
前記算出されたフリッカー補正ゲインを用いて前記撮像画素のフリッカー補正を行うこと
を含むフリッカー補正方法にある。
この技術の第3の側面は、
撮像画のフリッカー補正をコンピュータで実行させるプログラムであって、
前記撮像画を取得するための撮像画素と照明光の強度を検出するための光強度検出画素の露光タイミングと露光期間を個々に設定する手順と、
前記撮像画素で生成された撮像画素信号と前記光強度検出画素で生成された照明光画素信号に基づきフリッカー補正ゲインを算出する手順と、
前記算出されたフリッカー補正ゲインを用いて前記撮像画素のフリッカー補正を行う手順と
を前記コンピュータで実行させるプログラムにある。
撮像画のフリッカー補正をコンピュータで実行させるプログラムであって、
前記撮像画を取得するための撮像画素と照明光の強度を検出するための光強度検出画素の露光タイミングと露光期間を個々に設定する手順と、
前記撮像画素で生成された撮像画素信号と前記光強度検出画素で生成された照明光画素信号に基づきフリッカー補正ゲインを算出する手順と、
前記算出されたフリッカー補正ゲインを用いて前記撮像画素のフリッカー補正を行う手順と
を前記コンピュータで実行させるプログラムにある。
なお、本技術のプログラムは、例えば、様々なプログラム・コードを実行可能な汎用コンピュータに対して、コンピュータ可読な形式で提供する記憶媒体、通信媒体、例えば、光ディスクや磁気ディスク、半導体メモリなどの記憶媒体、あるいは、ネットワークなどの通信媒体によって提供可能なプログラムである。このようなプログラムをコンピュータ可読な形式で提供することにより、コンピュータ上でプログラムに応じた処理が実現される。
この技術によれば、撮像画を取得するための撮像画素と照明光の強度を検出するための光強度検出画素の露光タイミングと露光期間が個々に設定される。また、撮像画素で生成された画素信号と光強度検出画素で生成された画素信号に基づきフリッカー補正ゲインが撮像画素の画素ごとに算出される。したがって、照明装置と被写体との位置関係にかかわらず発光光の強度の変動の影響が低減されている撮像画を取得できるようになる。なお、本明細書に記載された効果はあくまで例示であって限定されるものではなく、また付加的な効果があってもよい。
以下、本技術を実施するための形態について説明する。なお、説明は以下の順序で行う。
1.第1の実施の形態
1-1.撮像装置の構成
1-2.撮像装置の第1の動作
1-3.撮像装置の第2の動作
1-4.撮像装置の第3の動作
1-5.撮像装置の第4の動作
1-6.撮像装置の第5の動作
2.第2の実施の形態
2-1.撮像装置の構成
2-2.撮像装置の動作
3.第3の実施の形態
4.第4の実施の形態
5.適用例
6.移動体への応用例
1.第1の実施の形態
1-1.撮像装置の構成
1-2.撮像装置の第1の動作
1-3.撮像装置の第2の動作
1-4.撮像装置の第3の動作
1-5.撮像装置の第4の動作
1-6.撮像装置の第5の動作
2.第2の実施の形態
2-1.撮像装置の構成
2-2.撮像装置の動作
3.第3の実施の形態
4.第4の実施の形態
5.適用例
6.移動体への応用例
<1.第1の実施の形態>
<1-1.撮像装置の構成>
図1は、本技術の第1の実施の形態における撮像装置の構成を例示している。撮像装置10は、撮像部21と画像信号処理部30とユーザインタフェース(I/F)部41および制御部45を有している。また、撮像装置10は、周辺部50として記録部51、信号出力部52、表示部53等が設けられてもよい。
<1-1.撮像装置の構成>
図1は、本技術の第1の実施の形態における撮像装置の構成を例示している。撮像装置10は、撮像部21と画像信号処理部30とユーザインタフェース(I/F)部41および制御部45を有している。また、撮像装置10は、周辺部50として記録部51、信号出力部52、表示部53等が設けられてもよい。
撮像部21には、撮像面内に撮像画素と光強度検出画素が設けられる。撮像画素は、撮像画を取得するための画素であり、露光期間をシャッター速度に応じた期間として、露光期間の露光量に応じた画素信号を生成する。光強度検出画素は、照明光の強度を検出するための画素であり、露光期間をフリッカー周期期間として、露光期間の露光量に応じた画素信号を生成する。撮像部21は、撮像画素と光強度画素で生成された画素信号を画像信号処理部30へ出力する。なお、撮像画素と光強度検出画素は、水平方向または垂直方向に交互に設けられており、その詳細については後述する。
画像信号処理部30は、補正ゲイン算出部32、フリッカー補正部33を有している。補正ゲイン算出部32は、撮像部21の撮像画素と光強度検出画素で生成された画素信号に基づきフリッカー補正ゲインを算出する。具体的には、フリッカー補正対象の撮像画素を基準とした所定の画素範囲内の撮像画素の画素信号と光強度検出画素の画素信号を用いて、撮像画素と空間位相が等しい光強度検出画素の画素信号を生成する。さらに、撮像画素の画素信号と撮像画素と空間位相が等しい光強度検出画素の画素信号に基づきフリッカー補正ゲインを算出する。補正ゲイン算出部32は、算出したフリッカー補正ゲインをフリッカー補正部33へ出力する。
フリッカー補正部33は、補正ゲイン算出部32で算出されたフリッカー補正ゲインで、フリッカー補正対象の撮像画素の画素信号に対するゲイン調整を行い、フリッカーの補正が行われた画像信号を生成する。フリッカー補正部33は、フリッカー補正後の画像信号を記録部51や信号出力部52、表示部53等へ出力する。
ユーザインタフェース部41は操作スイッチや操作ボタン等を用いて構成されている。ユーザインタフェース部41は、ユーザ操作に応じた操作信号を生成して制御部45へ出力する。また、商用電源周波数は50Hzまたは60Hzであり、電圧変動に追従して照明光の強度が変わる蛍光灯などの照明の点滅速度は一般的に電源周波数の倍速となる。すなわち商用電源周波数が50Hzであるときのフリッカー周波数は100Hz、商用電源周波数が60Hzであるときのフリッカー周波数は120Hzとなる。ユーザインタフェース部41では、フリッカー周波数(または照明装置で用いる商用電源の電源周波数)あるいはフリッカー周期のユーザ指定操作が可能とされている。
制御部45は、例えば制御プログラムを記憶するROMや一時的にデータを記憶するフラッシュメモリ等の記憶部が内蔵されたマイクロコンピュータを用いて構成されている。制御部45は、制御プログラムを実行して、ユーザインタフェース部41からの操作信号に基づき、ユーが所望する動作を撮像装置10で行うように各部の動作を制御する。また、制御部45は、ユーザ操作によって指定されたフリッカー周波数等に対応するフリッカー補正が行われた画像信号を生成できるように、撮像部21と画像信号処理部30および周辺部50の動作を制御する。また、制御部45は、撮像部21の画素を撮像画素または光強度検出画素に設定する。さらに、制御部45は、撮像画素と光強度検出画素の露光タイミングと露光期間を個々に設定する。
記録部51は、画像信号処理部30で生成されたフリッカー補正後の画像信号を記録媒体に記録する。また、記録部51は、記録媒体に記録されている画像信号を読み出して表示部53へ出力する。さらに、記録部51は、フリッカー補正後の画像信号の符号化処理を行い、符号化信号を生成して記録媒体に記録してもよく、記録媒体から読み出した符号化信号の復号処理によって得られた画像信号を表示部53へ出力してもよい。
信号出力部52は、画像信号処理部30で生成されたフリッカー補正後の画像信号を所定のフォーマットとして外部機器へ出力する。また、信号出力部52は、フリッカー補正後の画像信号の符号化処理を行い、符号化信号を外部機器へ出力してもよい。
表示部53は、画像信号処理部30で生成されたフリッカー補正後の画像信号、または記録部51から読み出された画像信号に基づき撮像画を表示する。また、表示部53は、制御部45からの制御信号に基づいてメニュー画面等の表示を行う。
<1-2.撮像装置の第1の動作>
次に撮像装置の第1の動作について説明する。図2は、第1の動作を説明するための図である。第1の動作において、撮像部21では画素単位で露光時間の設定が可能とされている。撮像部21の撮像面内には、図2の(a)に示すように、撮像画素と光強度検出画素が水平方向に1画素単位で交互に設けられる。
次に撮像装置の第1の動作について説明する。図2は、第1の動作を説明するための図である。第1の動作において、撮像部21では画素単位で露光時間の設定が可能とされている。撮像部21の撮像面内には、図2の(a)に示すように、撮像画素と光強度検出画素が水平方向に1画素単位で交互に設けられる。
図2の(b)は照明光の強度変化を示している。また、図2の(c)はラインLmにおける撮像画素の露光期間、図2の(d)はラインLmにおける光強度検出画素の露光期間を示している。また、図2の(e)はラインLm+1における撮像画素の露光期間、図2の(f)はラインLm+1における光強度検出画素の露光期間を示している。なお、撮像部21において、各画素のアドレスを指定して個々の画素信号を読み出すXYアドレス方式が用いられている場合、露光タイミングがライン毎に順次ずれを生じている。
制御部45は、撮像部21の画素を図2の(a)に示すように撮像画素と光強度検出画素に設定する。さらに、制御部45は、撮像画素の露光期間をシャッター速度に応じた期間として、光強度検出画素の露光期間をユーザが指定したフリッカー周波数の1周期期間として撮像部21を動作させる。図2では、シャッター速度=1/120秒、フリッカー周波数=100Hz(1/100秒)の場合を示している。また、撮像画のフレーム周波数は、フリッカー周波数よりも低い周波数例えば66.7Hzに設定されており、各フレームにおける撮像画素と光強度検出画素は例えば露光開始タイミングが一致するように設定されている。
画像信号処理部30は、撮像部21で図2に示す撮像動作を行い生成された画素信号を用いてフリッカー補正を行う。図3は、フリッカー補正対象の撮像画素を基準とした所定の画素範囲を例示している。画素範囲は、固定の範囲に予め設定されていてもよく、任意の範囲に変更できる構成とされてもよい。なお、図3では、ラインLmにおけるn番目の画素P(m,n)である撮像画素をフリッカー補正対象としており、画素P(m,n-3)~画素P(m,n+3)を所定の画素範囲AWTとしている。また、撮像画素である画素P(m,n-2),P(m,n),P(m,n+2)の画素値をr(m,n-2),r(m,n),r(m,n+2)とする。また、光強度検出画素である画素P(m,n-3),P(m,n-1),P(m,n+1),P(m,n+3)の画素値をa(m,n-3),a(m,n-1),a(m,n+1),a(m,n+3)とする。
画像信号処理部30の補正ゲイン算出部32は、式(1)に基づきフリッカー補正ゲインHGを算出する。
HG=(光強度検出画素群の画素値WTa/撮像画素群の画素値WTr)・・・(1)
HG=(光強度検出画素群の画素値WTa/撮像画素群の画素値WTr)・・・(1)
撮像画素群の画素値WTrは、例えば式(2)に示すように、所定の画素範囲内の撮像画素の平均画素値を用いる。
WTr=(r(m,n-2)+r(m,n)+r(m,n+2))/3 ・・・(2)
WTr=(r(m,n-2)+r(m,n)+r(m,n+2))/3 ・・・(2)
光強度検出画素群の画素値WTaは、光強度検出画素群の画素値を用いて線形補間を行い所定の画素範囲内における撮像画素群と空間位相が等しい光強度検出画素群の画素値を算出して、算出した画素値の平均値を用いる。補正ゲイン算出部32は、式(3)乃至(5)によって、撮像画素群と空間位相が等しい光強度検出画素の画素値、すなわち画素P(m,n-2),P(m,n),P(m,n+2)の画素値a(m,n-2),a(m,n),a(m,n+2)を算出する。さらに、補正ゲイン算出部32は、式(6)に示す演算を行い撮像画素群と空間位相が等しい光強度検出画素群の画素値WTaを算出する。
a(m,n-2)=0.5×a(m,n-3)+0.5×a(m,n-1)
・・・(3)
a(m,n) =0.5×a(m,n-1)+0.5×a(m,n+1)
・・・(4)
a(m,n+2)=0.5×a(m,n+1)+0.5×a(m,n+3)
・・・(5)
WTa=(a(m,n-2)+a(m,n)+a(m,n+2))/3
・・・(6)
a(m,n-2)=0.5×a(m,n-3)+0.5×a(m,n-1)
・・・(3)
a(m,n) =0.5×a(m,n-1)+0.5×a(m,n+1)
・・・(4)
a(m,n+2)=0.5×a(m,n+1)+0.5×a(m,n+3)
・・・(5)
WTa=(a(m,n-2)+a(m,n)+a(m,n+2))/3
・・・(6)
補正ゲイン算出部32は算出したフリッカー補正ゲイン、すなわち式(7)に示すフリッカー補正ゲインHG(m,n)をフリッカー補正部33へ出力する。
HG(m,n)=(WTa/WTr)
=(0.5×a(m,n-3)+a(m,n-1)+a(m,n+1)+0.5×a(m,n+3))/(r(m,n-2)+r(m,n)+r(m,n+2)) ・・(7)
HG(m,n)=(WTa/WTr)
=(0.5×a(m,n-3)+a(m,n-1)+a(m,n+1)+0.5×a(m,n+3))/(r(m,n-2)+r(m,n)+r(m,n+2)) ・・(7)
フリッカー補正部33は、補正ゲイン算出部32で算出されたフリッカー補正ゲインHG(m,n)を用いて、フリッカー補正対象である画素P(m,n)の撮像画素の画素信号に対するゲイン調整を行う。すなわち、フリッカー補正部33は、式(8)の演算を行い、フリッカー補正対象の撮像画素における補正後の画素値rc(m,n)を算出する。
rc(m,n)=HG(m,n)×r(m,n) ・・・(8)
rc(m,n)=HG(m,n)×r(m,n) ・・・(8)
画像信号処理部30は、上述の処理を各撮像画素に対して行うことで、フリッカーの影響が低減された画像信号を生成する。
図4は、撮像装置の第1の動作を示すフローチャートである。ステップST1で撮像装置は露光期間とフレーム周波数を設定する。撮像装置10の制御部45は、撮像画素の露光期間を設定されているシャッター速度に対応する期間に設定する。また、制御部45は、光強度検出画素の露光期間をフリッカー周期期間に設定する。さらに、制御部45は撮像画のフレーム周波数FVをユーザ等が設定したフレームレートに応じて設定してステップST2に進む。
ステップST2で撮像装置は撮像画素と光強度検出画素を配置する。撮像装置10の制御部45は、撮像部21の撮像面内に上述のように撮像画素と光強度検出画素を設けて、撮像画素と光強度検出画素の露光期間をステップST1で設定した露光期間として駆動制御を行いステップST3に進む。
ステップST3で撮像装置はフリッカー補正対象の撮像画素のフリッカー補正ゲインを算出する。撮像装置10の補正ゲイン算出部32は、フリッカー補正対象の撮像画素を基準とした所定の画素範囲内における撮像画素の画素信号と光強度検出画素の画素信号を用いて、上述のようにフリッカー補正ゲインを算出してステップST4に進む。
ステップST4で撮像装置はフリッカー補正対象の撮像画素のフリッカー補正を行う。撮像装置10のフリッカー補正部33は、ステップST3で算出されたフリッカー補正ゲインを用いてフリッカー補正対象の撮像画素のゲイン調整を行い、フリッカーの影響を補正した画素信号を生成してステップST5に進む。
ステップST5で撮像装置は画面内の各撮像画素のフリッカー補正が完了したか判別する。撮像装置10の画像信号処理部30は、画面内の各撮像画素のフリッカー補正が完了していない場合はステップST6に進み、画面内の各撮像画素のフリッカー補正が完了した場合はステップST7に進む。
ステップST6で撮像装置はフリッカー補正対象の撮像画素を更新する。撮像装置10の画像信号処理部30は、撮像画素のフリッカー補正が行われていない撮像画素を新たなフリッカー補正対象の撮像画素に設定してステップST3に戻る。
ステップST7で撮像装置は撮像画の終了であるか判別する。撮像装置10の制御部45は、フリッカー補正を行う撮像画が終了していない場合はステップST8に進み、フリッカー補正を行う撮像画が終了した場合例えば撮像の終了操作が行われた場合はフリッカー補正動作を終了する。
ステップST8で撮像装置は新たな撮像画にフリッカー補正対象の撮像画素を設定する。撮像装置10の画像信号処理部30は、新たなフレームの撮像画にフリッカー補正対象の撮像画素を設定してステップST3に戻る。
このように、撮像装置の制御部は、撮像画面内に撮像画素と光強度検出画素を設けて、撮像画素の露光期間はシャッター速度に応じた期間として、光強度検出画素の露光期間はフリッカー周期期間とする。さらに、補正ゲイン算出部は、フリッカー補正対象の撮像画素を基準とした所定の画素範囲内の撮像画素と、フリッカー補正対象の撮像画素と露光開始タイミングが等しい光強度検出画素を用いてフリッカー補正ゲインを算出する。また、フリッカー補正部は、算出したフリッカー補正ゲインでフリッカー補正対象の撮像画素のゲイン調整を行う。したがって、照明装置と被写体との位置関係にかかわらず照明光の強度の変動の影響が低減されている撮像画を得られるようになる。
図5は、被写体と照明装置と撮像装置の配置を例示しており、被写体OBa,OBbは、例えば照明光の強度の変化を生じない照明装置LTsと照明光の強度の変化を生じる照明装置LTfを用いて照明が行われている。撮像装置10は、照明装置LTs,LTfによって照明が行われている被写体OBa,OBbを撮像する。
図6は、フリッカー補正動作を説明するための図である。図6の(a)は、照明装置LTsの照明光の強度ILTs、照明装置LTfの照明光の強度ILTfと、被写体OBaの照度ILobaと被写体OBbの照度ILobbを例示している。図6の(b)は露光期間TF1の撮像画GF1を示しており、図6の(c)は露光期間TF2の撮像画GF2を示している。露光期間TF1と露光期間TF2は期間の長さが等しく、照明装置LTfの照明光の強度ILTf2の変化に対する位相が異なる。ここで、図6の(a)に示す場合、露光期間TF2では、照明装置LTfの照明光の強度ILTfが露光期間TF1よりも低下している。このため、図6の(c)に示す撮像画GF2における被写体OBa,OBbの画像は、図6の(b)に示す撮像画GF1における被写体OBa,OBbの画像よりも暗くなる。
ここで、従来の技術のようにフォトダイオードを用いて検出した照明装置の照明光の強度変化パターンに基づいた撮像信号の補正を行い、例えばフリッカー補正ゲインHGpaでフリッカー補正を行うと、図6の(d)に示すように、フリッカー補正後の撮像画GFpaにおける被写体OBaを撮像画GF1における被写体OBaの明るさに補正できる。しかし、被写体OBbの明るさの変化は被写体OBaの明るさの変化よりも小さいため、フリッカー補正ゲインHGpaでフリッカー補正が行われると、撮像画GFpaにおける被写体OBbは撮像画GF1における被写体OBbよりも明るくなってしまう。
また、例えばフリッカー補正ゲインHGpbでフリッカー補正を行うと、図6の(e)に示すように、フリッカー補正後の撮像画GFpbにおける被写体OBbを撮像画GF1における被写体OBbの明るさに補正できる。しかし、被写体OBbの明るさの変化は被写体OBaの明るさの変化よりも小さいため、フリッカー補正ゲインHGpbでフリッカー補正が行われると、撮像画GFpbにおける被写体OBaは撮像画GF1における被写体OBaよりも暗い状態となる。
本願の技術の撮像装置では、上述のようにフリッカー補正対象の撮像画素毎にフリッカー補正ゲインを算出して、フリッカー補正部は算出されたフリッカー補正ゲインでフリッカー補正対象の撮像画素のゲイン調整を行う。したがって、露光期間が照明装置LTfの照明光の強度ILTf2の変化におけるいずれのタイミングであっても、図6の(f)に示すように、フリッカー補正後の撮像画GFqにおける被写体OBa,OBbの画像を、照明光の強度の変動による影響のない明るさにできる。すなわち、照明装置と被写体との位置関係にかかわらず照明光の強度の変動の影響が低減されている撮像画を取得できるようになる。
<1-3.撮像装置の第2の動作>
ところで、上述の第1の動作において、撮像画のフレーム周波数がフリッカー周波数よりも高い周波数であると、光強度検出画素でフリッカー周期期間の露光が完了する前に、撮像画像で次のフレームの露光が開始されてしまう。このため、撮像画のフレーム毎に光強度検出画素の画素信号を生成することができないため、撮像画毎にフリッカー補正ゲインを算出することができなくなってしまう。そこで、撮像装置の第2の動作では、撮像画のフレーム周波数がフリッカー周波数よりも高い周波数でもフリッカー補正を行える動作について説明する。
ところで、上述の第1の動作において、撮像画のフレーム周波数がフリッカー周波数よりも高い周波数であると、光強度検出画素でフリッカー周期期間の露光が完了する前に、撮像画像で次のフレームの露光が開始されてしまう。このため、撮像画のフレーム毎に光強度検出画素の画素信号を生成することができないため、撮像画毎にフリッカー補正ゲインを算出することができなくなってしまう。そこで、撮像装置の第2の動作では、撮像画のフレーム周波数がフリッカー周波数よりも高い周波数でもフリッカー補正を行える動作について説明する。
図7は、第2の動作を説明するための図である。第2の動作において、撮像部21では画素単位で露光時間の設定が可能とされている。また、撮像部21の撮像面内には、図7の(a)に示すように、撮像画素と2種類の光強度検出画素が水平方向に交互に設けられている。なお、2種類の光強度検出画素を第1光強度検出画素と第2光強度検出画素とする。
図7の(b)は照明光の強度変化を示している。また、図7の(c)はラインLmにおける撮像画素の露光期間、図7の(d)はラインLmにおける第1光強度検出画素の露光期間、図7の(e)はラインLmにおける第2光強度検出画素の露光期間を示している。また、図7の(f)はラインLm+1における撮像画素の露光期間、図7の(g)はラインLm+1における光強度検出画素の露光期間、図7の(h)はラインLm+1における第2光強度検出画素の露光期間を示している。
制御部45は、撮像部21の画素を図7の(a)に示すように撮像画素と光強度検出画素に設定する。さらに、制御部45は、撮像画素の露光期間をシャッター速度に応じた期間として、光強度検出画素の露光期間をユーザが指定したフリッカー周波数の1周期期間として撮像部21を動作させる。また、制御部45は、撮像画素の露光期間の露光開始タイミングと第1光強度検出画素の露光期間の開始タイミングを同期させる。また、制御部45は、撮像画素の次フレームの露光期間の露光開始タイミングと第2光強度検出画素の露光期間の開始タイミングを同期させる。さらに、制御部45は、撮像画素の次フレームの露光期間の露光開始タイミングと第1光強度検出画素の露光期間の開始タイミングを同期させる。以下同様に、制御部45は、第1光強度検出画素と第2光強度検出画素の露光期間を、撮像画のフレーム毎に切り替える。
図7では、シャッター速度=1/400秒、フリッカー周波数=100Hz(1/100秒)の場合を示している。また、撮像画のフレーム周波数は、フリッカー周波数よりも高い周波数例えば133Hzに設定されている。
画像信号処理部30は、撮像部21で図7に示す撮像動作を行い生成された画素信号を用いてフリッカー補正を行う。図8は、フリッカー補正対象の撮像画素を基準とした所定の画素範囲を例示した図である。なお、図8では、ラインLmにおけるn番目の画素P(m,n)である撮像画素をフリッカー補正対象としており、画素P(m,n-5)~画素P(m,n+5)を所定の画素範囲AWTとしている。また、撮像画素である画素P(m,n-3),P(m,n),P(m,n+3)の画素値をr(m,n-3),r(m,n),r(m,n+3)とする。また、第1光強度検出画素である画素P(m,n-5),P(m,n-2),P(m,n+1),P(m,n+4)の画素値をa(m,n-5),a(m,n-2),a(m,n+1),a(m,n+4)とする。また、第2光強度検出画素である画素P(m,n-4),P(m,n-1),P(m,n+2),P(m,n+5)の画素値をa(m,n-4),a(m,n-1),a(m,n+2),a(m,n+5)とする。
画像信号処理部30の補正ゲイン算出部32は、式(9)に基づきフリッカー補正ゲインを算出する。
フリッカー補正ゲイン=(第1または第2光強度検出画素群の画素値WTa/撮像画素群の画素値WTr) ・・・(9)
フリッカー補正ゲイン=(第1または第2光強度検出画素群の画素値WTa/撮像画素群の画素値WTr) ・・・(9)
撮像画素群の画素値WTrは、例えば式(10)に示すように、所定の画素範囲内の撮像画素の平均画素値を用いる。
WTr=(r(m,n-3)+r(m,n)+r(m,n+3))/3 ・・・(10)
WTr=(r(m,n-3)+r(m,n)+r(m,n+3))/3 ・・・(10)
光強度検出画素群の画素値WTaは、光強度検出画素群の画素値を用いて線形補間を行い所定の画素範囲内における撮像画素群と空間位相が等しい光強度検出画素群の画素値を算出して、算出した画素値の平均値を用いる。ここで、撮像画素の露光期間の開始タイミングが第1光強度検出画素の露光開始タイミングと等しい場合、補正ゲイン算出部32は、第1光強度検出画素の画素値を用いて画素値WTaを算出する。また、撮像画素の露光期間の開始タイミングが第2光強度検出画素の露光開始タイミングと等しい場合、補正ゲイン算出部32は、第2光強度検出画素の画素値を用いて画素値WTaを算出する。なお、図8では、第1光強度検出画素の画素値を用いて画素値WTaを算出する場合を示している。
補正ゲイン算出部32は、式(11)乃至(13)によって画素P(m,n-3),P(m,n),P(m,n+3)の画素値a(m,n-3),a(m,n),a(m,n+3)を算出する。さらに、補正ゲイン算出部32は、式(14)に示す演算を行い撮像画素群と空間位相が等しい光強度検出画素群の画素値WTaを算出する。
a(m,n-3)=0.333×a(m,n-5)+0.667×a(m,n-2)
・・・(11)
a(m,n) =0.333×a(m,n-2)+0.667×a(m,n+1)
・・・(12)
a(m,n+3)=0.333×a(m,n+1)+0.667×a(m,n+4)
・・・(13)
WTa=(a(m,n-3)+a(m,n)+a(m,n+3))/3
・・・(14)
a(m,n-3)=0.333×a(m,n-5)+0.667×a(m,n-2)
・・・(11)
a(m,n) =0.333×a(m,n-2)+0.667×a(m,n+1)
・・・(12)
a(m,n+3)=0.333×a(m,n+1)+0.667×a(m,n+4)
・・・(13)
WTa=(a(m,n-3)+a(m,n)+a(m,n+3))/3
・・・(14)
補正ゲイン算出部32は算出したフリッカー補正ゲイン、すなわち式(15)に示すフリッカー補正ゲインHG(m,n)をフリッカー補正部33へ出力する。
HG(m,n)=(WTa/WTr)
=(0.333×a(m,n-5)+a(m,n-2)+a(m,n+1)+0.667×a(m,n+4))/(r(m,n-3)+r(m,n)+r(m,n+3)) ・・・(15)
HG(m,n)=(WTa/WTr)
=(0.333×a(m,n-5)+a(m,n-2)+a(m,n+1)+0.667×a(m,n+4))/(r(m,n-3)+r(m,n)+r(m,n+3)) ・・・(15)
フリッカー補正部33は、補正ゲイン算出部32で算出されたフリッカー補正ゲインHG(m,n)を用いて、フリッカー補正対象である画素P(m,n)の撮像画素に対するゲイン調整を行う。すなわち、フリッカー補正部33は、上述の式(8)の演算を行い、フリッカー補正対象の撮像画素における補正後の画素値rc(m,n)を算出する。
画像信号処理部30は、上述の処理を各撮像画素に対して行うことで、フリッカーの影響が低減された画像信号を生成する。なお、撮像装置の第2の動作は、図4に示すフローチャートと同様な処理を行い、ステップST1では、上述のように撮像装置は撮像画素と光強度検出画素の露光期間を設定する。さらに、第2の動作では、第1光強度検出画素と第2光強度検出画素の露光開始タイミングを図7に示すように設定してステップST2に進む。また、ステップST3では、フリッカー補正対象の撮像画素の露光開始タイミングと等しいタイミングで露光が開始された第1光強度検出画素または第2光強度検出画素の画素信号を用いてフリッカー補正ゲインを算出すればよい。
このように、撮像装置の制御部は、撮像画面内に撮像画素と複数種類の光強度検出画素を設けて、撮像画素の露光期間はシャッター速度に応じた期間として、複数の光強度検出画素の露光期間はフリッカー周期期間とする。さらに、補正ゲイン算出部は、フリッカー補正対象の撮像画素を基準とした所定の画素範囲内の撮像画素と、フリッカー補正対象の撮像画素と露光開始タイミングが等しい光強度検出画素を用いてフリッカー補正ゲインを算出する。また、フリッカー補正部は、算出したフリッカー補正ゲインでフリッカー補正対象の撮像画素のゲイン調整を行う。したがって、撮像画のフレーム周波数がフリッカー周波数よりも高い周波数である場合でも、照明装置と被写体との位置関係にかかわらず照明光の強度の変動の影響が低減されている撮像画を得られるようになる。
<1-4.撮像装置の第3の動作>
次に、第3の動作では、撮像部の構成および動作を容易とする場合について説明する。上述の第1および第2の動作では、撮像画素と光強度検出画素を水平方向に並べていることから画素単位で露光期間の制御を可能とする構成が必要となり、撮像部21の構成が複雑となってしまう。そこで、第3の動作では、垂直方向に撮像画素と光強度検出画素を設けることで、露光期間の制御をライン単位で行えるようにして、第1および第2の動作に比べて撮像部の構成や動作制御を容易とする場合について説明する。なお、第3の動作では、撮像画のフレーム周波数がフリッカー周波数よりも高い周波数に対応できる動作について説明する。
次に、第3の動作では、撮像部の構成および動作を容易とする場合について説明する。上述の第1および第2の動作では、撮像画素と光強度検出画素を水平方向に並べていることから画素単位で露光期間の制御を可能とする構成が必要となり、撮像部21の構成が複雑となってしまう。そこで、第3の動作では、垂直方向に撮像画素と光強度検出画素を設けることで、露光期間の制御をライン単位で行えるようにして、第1および第2の動作に比べて撮像部の構成や動作制御を容易とする場合について説明する。なお、第3の動作では、撮像画のフレーム周波数がフリッカー周波数よりも高い周波数に対応できる動作について説明する。
図9は、第3の動作を説明するための図である。第3の動作において、撮像部21ではライン単位で露光時間の設定が可能とされている。撮像部21の撮像面内には、図9の(a)に示すように、撮像画素のラインと2種類の光強度検出画素の種類毎のラインが垂直方向に交互に設けられている。なお、一方のラインの光強度検出画素を第1光強度検出画素、他方のラインの光強度検出画素を第2光強度検出画素とする。
図9の(b)は照明光の強度変化を示している。また、図9の(c)はラインLm-3の撮像画素の露光期間、図9の(d)はラインLm-2の第1光強度検出画素の露光期間、図9の(e)はラインLm-1の第2光強度検出画素の露光期間を示している。また、図9の(f)はラインLmの撮像画素の露光期間、図9の(g)はラインLm+1の第1光強度検出画素の露光期間、図9の(h)はラインLm+2の第2光強度検出画素の露光期間を示している。
制御部45は、撮像部21の画素をライン単位で図9の(a)に示すように撮像画素と光強度検出画素に設定する。撮像画素の露光期間をシャッター速度に応じた期間として、光強度検出画素の露光期間をユーザが指定したフリッカー周波数の周期期間として撮像部21を動作させる。また、制御部45は、撮像画素の露光期間の露光開始タイミングと第1光強度検出画素のラインの露光期間の開始タイミングを同期させる。また、制御部45は、撮像画素の次フレームの露光期間の露光開始タイミングと第2光強度検出画素のラインの露光期間の開始タイミングを同期させる。さらに、制御部45は、撮像画素の次フレームの露光期間の露光開始タイミングと第1光強度検出画素のラインの露光期間の開始タイミングを同期させる。以下同様に、制御部45は、第1光強度検出画素のラインと第2光強度検出画素のラインの露光期間を、撮像画のフレーム毎に切り替える。
図9では、シャッター速度=1/400秒、フリッカー周波数=100Hz(1/100秒)の場合を示している。また、撮像画のフレーム周波数は、フリッカー周波数よりも高い周波数例えば133Hzに設定されている。
画像信号処理部30は、撮像部21で図9に示す撮像動作を行い生成された画素信号を用いてフリッカー補正を行う。図10は、フリッカー補正対象の撮像画素を基準とした所定の画素範囲を例示した図である。なお、図10では、ラインLmにおけるn番目の画素P(m,n)である撮像画素をフリッカー補正対象としており、一点鎖線で示す画素P(m,n)を中心とした垂直方向が5ラインで水平方向が3画素の範囲を所定の画素範囲AWTとしている。また、フリッカー補正対象の画素P(m,n)の画素値をr(m,n),両サイドの撮像画素の画素値をr(m,n-1),r(m,n+1)とする。また、第1光強度検出画素であるラインLm-2の画素の画素値をa(m-2,n-1),a(m-2,n),a(m-2,n+1)、第2光強度検出画素であるラインLm-1の画素値をa(m-1,n-1),a(m-1,n),a(m-1,n+1)とする。さらに、第1光強度検出画素であるラインLm+1の画素の画素値をa(m+1,n-1),a(m+1,n),a(m+1,n+1)、第2光強度検出画素であるラインLm+2の画素値をa(m+2,n-1),a(m+2,n),a(m+2,n+1)とする。
画像信号処理部30の補正ゲイン算出部32は、式(16)に基づきフリッカー補正ゲインを算出する。
フリッカー補正ゲイン=(第1または第2光強度検出画素群の画素値WTa/撮像画素群の画素値WTr) ・・・(16)
フリッカー補正ゲイン=(第1または第2光強度検出画素群の画素値WTa/撮像画素群の画素値WTr) ・・・(16)
撮像画素群の画素値WTrは、例えば式(17)に示すように、所定の画素範囲内の撮像画素の平均画素値を用いる。
WTr=(r(m,n-1)+r(m,n)+r(m,n+1))/3 ・・・(17)
WTr=(r(m,n-1)+r(m,n)+r(m,n+1))/3 ・・・(17)
光強度検出画素群の画素値WTaは、光強度検出画素群の画素値を用いて線形補間を行い所定の画素範囲内における撮像画素群と空間位相が等しい光強度検出画素群の画素値を算出して、算出した画素値の平均値を用いる。ここで、撮像画素の露光期間の開始タイミングが第1光強度検出画素の露光開始タイミングと等しい場合、補正ゲイン算出部32は、第1光強度検出画素の画素値を用いて画素値WTaを算出する。また、撮像画素の露光期間の開始タイミングが第2光強度検出画素の露光開始タイミングと等しい場合、補正ゲイン算出部32は、第2光強度検出画素の画素値を用いて画素値WTaを算出する。なお、図10では、第1光強度検出画素の画素値を用いて画素値WTaを算出する場合を示している。
補正ゲイン算出部32は、式(18)乃至(20)によって撮像画素と空間位相が等しい光強度検出画素の画素値a(m,n-1),a(m,n),a(m,n+1)を算出する。さらに、補正ゲイン算出部32は、式(21)に示す演算を行い撮像画素群と空間位相が等しい光強度検出画素群の画素値WTaを算出する。
a(m,n-1)=0.333×a(m-2,n-1)+0.667×a(m+1,n-1)
・・・(18)
a(m,n) =0.333×a(m-2,n) +0.667×a(m+1,n)
・・・(19)
a(m,n+1)=0.333×a(m-2,n+1)+0.667×a(m+1,n+1)
・・・(20)
WTa=(a(m,n-1)+a(m,n)+a(m,n+1))/3
・・・(21)
a(m,n-1)=0.333×a(m-2,n-1)+0.667×a(m+1,n-1)
・・・(18)
a(m,n) =0.333×a(m-2,n) +0.667×a(m+1,n)
・・・(19)
a(m,n+1)=0.333×a(m-2,n+1)+0.667×a(m+1,n+1)
・・・(20)
WTa=(a(m,n-1)+a(m,n)+a(m,n+1))/3
・・・(21)
補正ゲイン算出部32は算出したフリッカー補正ゲイン、すなわち式(22)に示すフリッカー補正ゲインHG(m,n)をフリッカー補正部33へ出力する。
HG(m,n)=(WTa/WTr)
=(0.333×(a(m-2,n-1)+a(m-2,n)+a(m-2,n+1))+0.667×(a(m+1,n-1)+a(m+1,n)+a(m+1,n+1)))/(r(m,n-3)+r(m,n)+r(m,n+3)) ・・・(22)
HG(m,n)=(WTa/WTr)
=(0.333×(a(m-2,n-1)+a(m-2,n)+a(m-2,n+1))+0.667×(a(m+1,n-1)+a(m+1,n)+a(m+1,n+1)))/(r(m,n-3)+r(m,n)+r(m,n+3)) ・・・(22)
なお、図10では、水平方向が3画素で垂直方向が5画素である所定の画素範囲内の撮像画素群と光検出画素群の画素信号を用いてフリッカー補正対象の撮像画素に対するフリッカー補正ゲインを算出する場合を示した。しかし、所定の画素範囲は、図10に示す範囲に限られない。例えば水平方向を1画素または5画素等の範囲としてフリッカー補正ゲインを算出してもよい。なお、所定の画素範囲の水平方向を1画素とすると、フリッカー補正対象の撮像画素の画素信号にノイズ等が重畳している場合、フリッカー補正ゲインは適正なゲイン値とならない場合がある。このため、水平方向に並ぶ複数の撮像画素の画素信号を用いることで、ノイズ等の影響を軽減してフリッカー補正ゲインを安定して算出できるようになる。
フリッカー補正部33は、補正ゲイン算出部32で算出されたフリッカー補正ゲインHG(m,n)を用いて、フリッカー補正対象である画素P(m,n)の撮像画素に対するゲイン調整を行う。すなわち、フリッカー補正部33は、上述の式(8)の演算を行い、フリッカー補正対象の撮像画素における補正後の画素値rc(m,n)を算出する。
画像信号処理部30は、上述の処理を各撮像画素に対して行うことで、フリッカーの影響が低減された画像信号を生成する。なお、撮像装置の第3の動作は、図4に示すフローチャートと同様な処理を行い、ステップST1では、上述のように撮像装置は撮像画素と光強度検出画素の露光期間をライン単位で設定する。さらに、第3の動作では、第1光強度検出画素と第2光強度検出画素の露光開始タイミングを図9に示すように設定してステップST2に進む。また、ステップST3では、フリッカー補正対象の撮像画素の露光開始タイミングと等しいタイミングで露光が開始された第1光強度検出画素のラインまたは第2光強度検出画素のラインの画素信号を用いてフリッカー補正ゲインを算出すればよい。
このように、撮像装置の制御部は、撮像画面内に撮像画素と複数種類の光強度検出画素をライン単位で設けて、撮像画素の露光期間はシャッター速度に応じた期間として、複数種類の光強度検出画素の露光期間はフリッカー周期期間とする。また、補正ゲイン算出部は、フリッカー補正対象の撮像画素を基準とした所定の画素範囲内の撮像画素と、フリッカー補正対象の撮像画素と露光開始タイミングが等しい光強度検出画素を用いてフリッカー補正ゲインを算出する。さらに、フリッカー補正部は、算出されたフリッカー補正ゲインでフリッカー補正対象の撮像画素のゲイン調整を行う。したがって、撮像画のフレーム周波数がフリッカー周波数よりも高い周波数である場合でも、照明装置と被写体との位置関係にかかわらず照明光の強度の変動の影響が低減されている撮像画を、簡単な構成で得られるようになる。
<1-5.撮像装置の第4の動作>
ところで、第1乃至第3の動作では、撮像画素と光強度検出画素の露光開始タイミングを一致させた場合を例示した。ここで、撮像画素と光強度検出画素の露光期間は、シャッター速度に応じた露光期間とフリッカー周期期間の露光期間であればよく、露光開始タイミングを一致させる場合に限られない。例えば露光終了または露光期間の中央を一致させてもよい。次に、第4の動作では、シャッター速度に応じた露光期間の中央とフリッカー周期期間である露光期間の中央のタイミングを一致させた場合について説明する。なお、撮像部の画素配置は、図9に示す第3の動作の場合と等しい配置として説明を行う。
ところで、第1乃至第3の動作では、撮像画素と光強度検出画素の露光開始タイミングを一致させた場合を例示した。ここで、撮像画素と光強度検出画素の露光期間は、シャッター速度に応じた露光期間とフリッカー周期期間の露光期間であればよく、露光開始タイミングを一致させる場合に限られない。例えば露光終了または露光期間の中央を一致させてもよい。次に、第4の動作では、シャッター速度に応じた露光期間の中央とフリッカー周期期間である露光期間の中央のタイミングを一致させた場合について説明する。なお、撮像部の画素配置は、図9に示す第3の動作の場合と等しい配置として説明を行う。
図11は、第4の動作を説明するための図である。図11の(a)は照明光の強度変化を示している。また、図11の(b)はラインLm-3の撮像画素の露光期間、図11の(c)はラインLm-2の第1光強度検出画素の露光期間、図11の(d)はラインLm-1のる第2光強度検出画素の露光期間を示している。また、図11の(e)はラインLmの撮像画素の露光期間、図11の(f)はラインLm+1の第1光強度検出画素の露光期間、図11の(g)はラインLm+2の第2光強度検出画素の露光期間を示している。なお、撮像部21において、各画素のアドレスを指定して個々の画素信号を読み出すXYアドレス方式が用いられている場合、露光タイミングがライン毎に順次ずれを生じている。
制御部45は、撮像画素の露光期間をシャッター速度に応じた期間として、光強度検出画素の露光期間をユーザが指定したフリッカー周波数の周期期間として撮像部21を動作させる。また、制御部45は、撮像画素の露光期間の中央と第1光強度検出画素の露光期間の中央を同一タイミングとする。また、制御部45は、撮像画素の次フレームの露光期間の中央と第2光強度検出画素の露光期間の中央を同一タイミングとする。さらに、制御部45は、撮像画素の次フレームの露光期間の中央と第1光強度検出画素の露光期間の中央を同一タイミングとする。以下同様に、第1光強度検出画素と第2光強度検出画素の露光期間を、撮像画のフレーム毎に切り替える。
図11は、シャッター速度=1/400秒、フリッカー周波数=100Hz(1/100秒)の場合を示している。また、撮像画のフレーム周波数は、フリッカー周波数よりも高い周波数例えば133Hzに設定されている。
このように、シャッター速度に応じた露光期間における中央とフリッカー周期期間である露光期間における中央のタイミングを一致させることで、撮像画素と光強度検出画素の露光期間のずれを少なくできる。また、第4の動作では、第3の動作と同様な作用効果を得ることができる。
<1-6.撮像装置の第5の動作>
次に、撮像装置の第5の動作では、撮像画のフレーム周波数に応じて、撮像部の動作とフリッカー補正ゲインの算出動作を切り替える場合について説明する。第5の動作では、撮像画のフレーム周期とフリッカーの周期に基づき、光強度検出画素の画素群を1または複数設けて、撮像画のフレーム毎に光強度検出画素のいずれかの画素群でフリッカー周期期間である露光期間の画素信号を得るようにする。なお、説明を容易とするため、撮像画のフレーム周波数FVがフリッカー周波数FLの4倍を超えないとする。また、光強度検出画素は水平方向または垂直方向のいずれの方向に設けられてもよい。
次に、撮像装置の第5の動作では、撮像画のフレーム周波数に応じて、撮像部の動作とフリッカー補正ゲインの算出動作を切り替える場合について説明する。第5の動作では、撮像画のフレーム周期とフリッカーの周期に基づき、光強度検出画素の画素群を1または複数設けて、撮像画のフレーム毎に光強度検出画素のいずれかの画素群でフリッカー周期期間である露光期間の画素信号を得るようにする。なお、説明を容易とするため、撮像画のフレーム周波数FVがフリッカー周波数FLの4倍を超えないとする。また、光強度検出画素は水平方向または垂直方向のいずれの方向に設けられてもよい。
図12は、第5の動作を示すフローチャートである。ステップST11で撮像装置は露光期間とフレーム周波数を設定する。撮像装置10の制御部45は、撮像画素の露光期間をシャッター速度に対応する露光期間に設定する。また、制御部45は光強度検出画素の露光期間をユーザ等が設定したフリッカー周波数の1周期期間に設定する。さらに、制御部45は撮像画のフレーム周波数FVをユーザ等が設定したフレームレートに対応する周波数に設定してステップST12に進む。
ステップST12で撮像装置は撮像画のフレーム周波数FVがフリッカー周波数FLを超えるか判別する。制御部45はフレーム周波数FVとフリッカー周波数FLを比較して、撮像画のフレーム周波数FVがフリッカー周波数FLを超えていない場合ステップST13に進む、また制御部45は、撮像画のフレーム周波数FVがフリッカー周波数FLを超えている場合ステップST14に進む。
ステップST13で撮像装置は第1補正モードでフリッカー補正を行う。撮像画のフレーム周波数FVがフリッカー周波数FLを超えていない場合は、上述の第1の動作と同様にフリッカー補正を行う。具体的には図4のステップST2からステップST8の処理を行い、ステップST2において、制御部45は第1の動作で説明したように1種類の光強度検出画素を設けて、撮像画素でシャッター速度に応じた露光期間の画素信号と光強度検出画素でフリッカー周期期間である露光期間の画素信号を生成するように撮像部21を動作させる。また、第1補正モードにおいて、画像信号処理部30は、光強度検出画素群の画素信号を用いて線形補間を行い所定の画素範囲内における撮像画素群と空間位相が等しい光強度検出画素群の画素信号を生成して、撮像画素群の画素信号と撮像画素群と空間位相が等しい光強度検出画素群の画素信号に基づいてフリッカー補正ゲインを算出する。さらに、画像信号処理部30は、算出したフリッカー補正ゲインを用いてフリッカー補正対象の撮像画素の画素信号を補正する。なお、図13は画素配置を例示しており、第1補正モードでは、図13の(a)に示すように、垂直方向に撮像画素のラインと光強度検出画素のラインを設けて、フリッカー補正対象の撮像画素を基準として垂直方向が所定ラインで水平方向が所定画素数である所定の画素範囲の画素信号を用いてフリッカー補正ゲインを算出してもよい。
ステップST12からステップST14に進むと、ステップST14で撮像装置は撮像画のフレーム周波数FVがフリッカー周波数FLの2倍を超えるか判別する。制御部45は撮像画のフレーム周波数FVがフリッカー周波数FLの2倍を超えていない場合ステップST15に進み、撮像画のフレーム周波数FVがフリッカー周波数FLの2倍を超えている場合ステップST16に進む。
ステップST15で撮像装置は第2補正モードでフリッカー補正を行う。撮像画のフレーム周波数FVがフリッカー周波数FLを超えており、フリッカー周波数FLの2倍を超えていない場合、撮像装置は上述の第2の動作と同様にフリッカー補正を行う。具体的には図4のステップST2からステップST8の処理を行い、ステップST2において、制御部45は第2の動作で説明したように2種類の光強度検出画素を設けて、撮像画素でシャッター速度に応じた露光期間の画素信号と光強度検出画素でフリッカー周期期間である露光期間の画素信号を生成するように撮像部21を動作させる。第2補正モードにおいて、画像信号処理部30は、フリッカー周期期間である露光期間の画素信号が得られた光強度検出画素群の画素信号を用いて線形補間を行い所定の画素範囲内における撮像画素群と空間位相が等しい光強度検出画素群の画素信号を生成して、撮像画素群の画素信号と撮像画素群と空間位相が等しい光強度検出画素群の画素信号に基づいてフリッカー補正ゲインを算出する。さらに、画像信号処理部30は、算出したフリッカー補正ゲインを用いてフリッカー補正対象の撮像画素の画素信号を補正する。なお、第2補正モードの補正動作では、図13の(b)に示すように垂直方向に撮像画素のラインと2種類の光強度検出画素をライン単位で設けて、フリッカー補正対象の撮像画素を基準として垂直方向が所定ラインで水平方向が所定画素数である所定の画素範囲の画素信号を用いてフリッカー補正ゲインを算出してもよい。
ステップST16で、撮像装置は第3補正モードでフリッカー補正を行う。撮像画のフレーム周波数FVがフリッカー周波数FLの2倍を超えている場合、4種類の光強度検出画素を設けてフリッカー補正を行う。具体的には図4のステップST2からステップST8の処理を行い、ステップST2において、制御部45は4種類の光強度検出画素を設けて、撮像画素でシャッター速度に応じた露光期間の画素信号と光強度検出画素でフリッカー周期期間である露光期間の画素信号を生成するように撮像部21を動作させる。第3補正モードにおいて、画像信号処理部30は、フリッカー周期期間である露光期間の画素信号が得られた光強度検出画素群の画素信号を用いて線形補間を行い所定の画素範囲内における撮像画素群と空間位相が等しい光強度検出画素群の画素信号を生成して、撮像画素群の画素信号と撮像画素群と空間位相が等しい光強度検出画素群の画素信号に基づいてフリッカー補正ゲインを算出する。さらに、画像信号処理部30は、算出したフリッカー補正ゲインを用いてフリッカー補正対象の撮像画素の画素信号を補正する。なお、第3補正モードの補正動作では、図13の(c)に示すように垂直方向に撮像画素のラインと4種類の光強度検出画素をライン単位で設けて、フリッカー補正対象の撮像画素を基準として垂直方向が所定ラインで水平方向が所定画素数である所定の画素範囲の画素信号を用いてフリッカー補正ゲインを算出してもよい。
また、フローチャートには示していないが、撮像画のフレーム周波数FVがフリッカー周波数FLの4倍を超えて8倍を超えない場合は8種類の光強度検出画素を設ければよい。また、撮像画のフレーム周波数FVがフリッカー周波数FLの8倍を超えて16倍を超えない場合は16種類の光強度検出画素を設ければよい。すなわち、撮像画のフレーム周波数とフリッカー周波数の関係に応じて、撮像画の1フレームに対してフリッカー周期期間を露光期間とした画素信号が得られるように光強度検出画素を設ける。
このように、撮像装置の制御部は、撮像画のフレーム周波数とフリッカー周波数に応じて、撮像部の動作とフリッカー補正ゲインの算出動作を切り替えるようにすれば、種々のフレーム周波数に対応させてフリッカー補正を自動的に行うことができるようになる。
<2.第2の実施の形態>
次に第2の実施の形態では、カラー撮像画のフリッカー補正について説明する。
次に第2の実施の形態では、カラー撮像画のフリッカー補正について説明する。
<2-1.撮像装置の構成>
図14は、本技術の第2の実施の形態における撮像装置の構成を例示している。なお、図1に示す第1の実施の形態と対応する部分については同一符号を付している。
図14は、本技術の第2の実施の形態における撮像装置の構成を例示している。なお、図1に示す第1の実施の形態と対応する部分については同一符号を付している。
撮像装置10aは、撮像部21aと画像信号処理部30aとユーザインタフェース(I/F)部41および制御部45を有している。また、撮像装置10aは、周辺部50として記録部51、信号出力部52、表示部53等が設けられてもよい。
撮像部21aは、カラー撮像画を取得できるように色成分画素を用いて構成されている。例えば撮像部21aは赤色と青色と緑色の色成分画素がベイヤー(Bayer)配列で設けられており、後述するように色成分画素の画素ブロックを撮像画素または光強度検出画素の画素単位として用いる。撮像画素は、撮像画を取得するための画素であり、露光期間をシャッター速度に応じた期間として、露光期間の露光量に応じた画素信号を生成する。光強度検出画素は、照明光の強度を検出するための画素であり、露光期間をフリッカー周期期間として、露光期間の露光量に応じた画素信号を生成する。撮像部21aは、撮像画素と光強度画素で生成された画素信号を画像信号処理部30aへ出力する。
画像信号処理部30aは、輝度算出部31、補正ゲイン算出部32、フリッカー補正部33を有している。また、画像信号処理部30aにカラー画像信号生成部34を設けてもよい。
輝度算出部31は、撮像部21aで生成された画素信号から撮像画素と光強度検出画素の輝度値をそれぞれ算出する。輝度算出部31は、撮像画素または光強度検出画素の画素値として輝度値を用いて、輝度値の算出に用いた色成分画素の画素ブロックを撮像画素または光強度検出画素の画素対応ブロックとする。すなわち、輝度算出部31は、画素対応ブロックの色成分画素を用いて撮像画素または光強度検出画素の輝度値を算出する。
補正ゲイン算出部32は、輝度算出部31で算出された輝度値を用いて、撮像画素の輝度値の算出に用いた色成分画素に対するフリッカー補正ゲインを算出する。具体的には、補正ゲイン算出部32は、フリッカー補正対象の撮像画素を基準とした所定の画素範囲内の撮像画素の画素信号と光強度検出画素の画素信号を用いて、撮像画素と空間位相が等しい光強度検出画素の画素信号を生成する。また、補正ゲイン算出部32は、撮像画素と空間位相が等しい光強度検出画素の画素信号と撮像画素の画素信号の信号レベル比をフリッカー補正ゲインとする。補正ゲイン算出部32は、算出したフリッカー補正ゲインをフリッカー補正部33へ出力する。
フリッカー補正部33は、補正ゲイン算出部32で算出されたフリッカー補正ゲインで、フリッカー補正対象の撮像画素に対応する画素ブロック内の色成分画素に対するゲイン調整を行い、フリッカーの補正が行われた画像信号を生成する。フリッカー補正部33は、フリッカーの補正が行われた画素信号をカラー画像信号生成部34や記録部51、信号出力部52へ出力する。
カラー画像信号生成部34は、フリッカーの補正が行われた画素信号を用いてデモザイク処理等を行い、カラー撮像画の画像信号を生成して、記録部51、信号出力部52、表示部53等へ出力する。
ユーザインタフェース部41は操作スイッチや操作ボタン等を用いて構成されている。ユーザインタフェース部41は、ユーザ操作に応じた操作信号を生成して制御部45へ出力する。ユーザインタフェース部41では、フリッカー周波数(または照明の商用電源周波数)のユーザ指定操作が可能とされている。
制御部45は、例えば制御プログラムを記憶するROMや一時的にデータを記憶するフラッシュメモリ等の記憶部が内蔵されたマイクロコンピュータを用いて構成されている。制御部45は、制御プログラムを実行して、ユーザインタフェース部41からの操作信号に基づき、ユーが所望する動作を撮像装置10aで行うように各部の動作を制御する。また、制御部45は、ユーザ操作によって指定されたフリッカー周波数に対応するフリッカー補正が行われた画像信号を生成できるように、撮像部21aと画像信号処理部30aおよび周辺部50の動作を制御する。また、制御部45は、撮像部21aの画素を撮像画素または光強度検出画素に設定する。さらに、制御部45は、撮像画素と光強度検出画素の露光タイミングと露光期間を個々に設定する。
記録部51は、画像信号処理部30aで生成されたフリッカー補正後の画素信号やカラー撮像画の画像信号を記録媒体に記録する。また、記録部51は、記録媒体に記録されている画像信号を読み出して表示部53へ出力する。さらに、記録部51は、フリッカー補正後の画像信号の符号化処理を行い、符号化信号を生成して記録媒体に記録してもよく、記録媒体から読み出した符号化信号の復号処理によって得られた画像信号を表示部53へ出力してもよい。
信号出力部52は、画像信号処理部30aで生成されたフリッカー補正後の画素信号またはカラー撮像画の画像信号を所定のフォーマットとして外部機器へ出力する。また、信号出力部52は、カラー撮像画の画像信号の符号化処理を行い、符号化信号を外部機器へ出力してもよい。
表示部53は、画像信号処理部30aで生成されたカラー撮像画の画像信号、または記録部51から読み出された画像信号に基づきカラー撮像画を表示する。また、表示部53は、制御部45からの制御信号に基づいてメニュー画面等の表示を行う。
<2-2.撮像装置の動作>
次に撮像装置の動作について説明する。図15は、撮像画のフレーム周波数がフリッカー周波数よりも低い場合の撮像画素と光強度検出画素の配置を例示している。撮像部21aの撮像面内には、色成分画素がベイヤー配列で設けられている。具体的には、2×2画素を1または2つの画素ブロックとして、ブロック内の画素を赤色成分画素Rと青色成分画素Bおよび2つの緑色成分単位Gr,Gbで構成して、赤色成分画素Rと青色成分画素Bが斜め方向に配されている。また、制御部45は、各色成分画素を含む2×2画素の画素ブロックを撮像画素または光強度検出画素の画素単位とする。また、制御部45は、1画素×2画素(または2画素×1画素)の画素ブロックを2つ用いることで各色成分画素を含むようになる4画素の画素ブロックを撮像画素または光強度検出画素の画素単位としてもよい。
次に撮像装置の動作について説明する。図15は、撮像画のフレーム周波数がフリッカー周波数よりも低い場合の撮像画素と光強度検出画素の配置を例示している。撮像部21aの撮像面内には、色成分画素がベイヤー配列で設けられている。具体的には、2×2画素を1または2つの画素ブロックとして、ブロック内の画素を赤色成分画素Rと青色成分画素Bおよび2つの緑色成分単位Gr,Gbで構成して、赤色成分画素Rと青色成分画素Bが斜め方向に配されている。また、制御部45は、各色成分画素を含む2×2画素の画素ブロックを撮像画素または光強度検出画素の画素単位とする。また、制御部45は、1画素×2画素(または2画素×1画素)の画素ブロックを2つ用いることで各色成分画素を含むようになる4画素の画素ブロックを撮像画素または光強度検出画素の画素単位としてもよい。
制御部45は、撮像画のフレーム周波数がフリッカー周波数よりも低い場合、第1の実施の形態の例えば第1の動作と同様に撮像画素と光強度検出画素を水平方向に交互に設ける。この場合、撮像部21aでは画素単位で露光時間の設定が可能とされている。
制御部45は、各色成分画素を含む画素ブロックを画素単位として撮像画素と光強度検出画素を撮像部21aに設ける。図15の(a)は、2×2画素を撮像画素または光強度検出画素に対応する画素ブロックとして、制御部45は撮像画素と光強度検出画素を水平方向に交互に設けた場合を例示している。図15の(b)は、1画素(水平方向)×2画素(垂直方向)を撮像画素または光強度検出画素に対応する画素ブロックとして、撮像画素を水平方向に3画素毎に設けて、光強度検出画素を撮像画素と水平方向に隣接して設けることで、撮像画素と光強度検出画素を水平方向に交互に設けた場合を例示している。
図16は、撮像画のフレーム周波数がフリッカー周波数よりも高くフリッカー周波数の2倍よりも低い場合の撮像画素と光強度検出画素の配置を例示している。撮像部21aの撮像面内には、色成分画素がベイヤー配列で設けられている。具体的には、2×2画素を1または2つの画素ブロックとして、画素ブロック内の画素を赤色成分画素Rと青色成分画素Bおよび2つの緑色成分単位Gr,Gbで構成して、赤色成分画素Rと青色成分画素Bが斜め方向に配されている。
制御部45は、撮像画のフレーム周波数がフリッカー周波数よりも高くフリッカー周波数の2倍よりも低い場合、第1の実施の形態の例えば第2の動作と同様に撮像画素と2画素の光強度検出画素を水平方向に交互に設ける。
制御部45は、各色成分画素を含む画素ブロックを画素単位として撮像画素と光強度検出画素を撮像部21aに設ける。図16の(a)は、2×2画素を撮像画素または光強度検出画素に対応する画素ブロックとして、撮像画素と2つの光強度検出画素を水平方向に交互に設けた場合を例示している。図16の(b)は、1画素(水平方向)×2画素(垂直方向)を撮像画素または光強度検出画素に対応する画素ブロックとして、撮像画素を水平方向に3画素毎に設けて、2つの基準補正画素を撮像画素間に設けることで、撮像画素と2つの光強度検出画素を水平方向に交互に設けた場合を例示している。
図17は、撮像画のフレーム周波数がフリッカー周波数よりも高くフリッカー周波数の2倍よりも低い場合の撮像画素と光強度検出画素の他の配置を例示している。撮像部21aの撮像面内には、色成分画素がベイヤー配列で設けられている。具体的には、2×2画素を1または2つの画素ブロックとして、ブロック内の画素を赤色成分画素Rと青色成分画素Bおよび2つの緑色成分単位Gr,Gbで構成して、赤色成分画素Rと青色成分画素Bが斜め方向に配されている。
制御部45は、撮像画のフレーム周波数がフリッカー周波数よりも高くフリッカー周波数の2倍よりも低い場合、第1の実施の形態の例えば第3の動作と同様に撮像画素と2画素の光強度検出画素を垂直方向に交互に設ける。
制御部45は、各色成分画素を含む画素ブロックを画素単位として撮像画素と光強度検出画素を撮像部21aに設ける。図17の(a)は、2×2画素を撮像画素または光強度検出画素として、撮像画素と2つの光強度検出画素を垂直方向に交互に設けた場合を例示している。図17の(b)は、2画素(水平方向)×1画素(垂直方向)を撮像画素または光強度検出画素として、撮像画素を垂直方向に3画素毎に設けて、2つの基準補正画素を撮像画素間に設けることで、撮像画素と2つの光強度検出画素を垂直方向に交互に設けた場合を例示している。
次に、第2の実施の形態のフリッカー補正ゲインの算出動作について、例えば2×2画素のブロックを撮像画素または光強度検出画素の画素単位とした場合のフリッカー補正ゲインの算出動作について図18を用いて説明する。
図18は、第2の実施の形態のフリッカー補正ゲインの算出動作を説明するための図である。輝度算出部31は、図18の(a)に示すように、第1光強度検出画素であるラインLj-2における2×2画素の画素ブロックの画素値から輝度値Ya(j-2,x)を算出する。同様に、輝度算出部31は、第2光強度検出画素であるラインLj-1における2×2画素の画素ブロックの画素値から輝度値Ya(j-1,x)を算出する。また、輝度算出部31は、撮像画素であるラインLjにおける2×2画素の画素ブロックの画素値から輝度値Yr(j,x)を算出する。同様に、輝度算出部31は、他の2×2画素の画素ブロックの画素値から輝度値を算出する。
補正ゲイン算出部32は、輝度算出部31で2×2画素の画素ブロック毎に算出された輝度値を用いて、補正対象のブロックに対するフリッカー補正ゲインを算出する。図18の(b)は、輝度算出部31で算出された輝度値を示している。輝度算出部31では、2×2画素の画素ブロック単位で輝度値が算出されている。例えば、補正対象の撮像画素に対応する画素ブロックの輝度値Yr(j,k)に対して、図18の(b)に示すように水平方向が3画素で垂直方向が5画素の輝度値が算出されており、上述の第3の動作で説明した図10の画素値と同様な配置となる。したがって、補正ゲイン算出部32は第3の動作と同様に、輝度値を用いてフリッカー補正ゲインを算出する。
フリッカー補正部33は、補正ゲイン算出部で算出されたフリッカー補正ゲインを用いて、補正対象の撮像画素に対する画素ブロックの色成分画素の画素信号を補正する。例えば補正対象の撮像画素に対する画素ブロックの赤色画素を画素値R、緑色画素を画素値Gr,Gb、青色画素を画素値B、フリッカー補正ゲインをHGとした場合、式(23)乃至式(26)の演算を行い、フリッカー補正後の画素値Rc,Gcr,Gcb,Bcを算出する。
Rc = R × HG ・・・(23)
Gcr = Gr × HG ・・・(24)
Gcb = Gb × HG ・・・(25)
Bc = B × HG ・・・(26)
Rc = R × HG ・・・(23)
Gcr = Gr × HG ・・・(24)
Gcb = Gb × HG ・・・(25)
Bc = B × HG ・・・(26)
次に、第2の実施の形態のフリッカー補正ゲインの他の算出動作について、例えば2×1画素を画素ブロックとして2つの画素ブロックを撮像画素または光強度検出画素の画素単位とする場合のフリッカー補正ゲインの算出動作について図19を用いて説明する。
図19は、第2の実施の形態のフリッカー補正ゲインの他の算出動作を説明するための図である。輝度算出部31は、図19の(a)に示すように、第1光強度検出画素であるラインLj-2rとラインLj-2bにおける2×1画素の2つの画素ブロックの画素信号から輝度値Ya(j-2,x)を算出する。同様に、輝度算出部31は、第2光強度検出画素であるラインLj-1bとラインLj-1rにおける2×1画素の2つの画素ブロックの画素信号から輝度値Ya(j-1,x)を算出する。また、輝度算出部31は、撮像画素であるラインLjrとラインLjbにおける2×1画素の2つの画素ブロックの画素信号から輝度値Yr(j,x)を算出する。また、輝度算出部31は、他の2×1画素の2つの画素ブロックの画素信号から輝度値を算出する。
補正ゲイン算出部32は、輝度算出部31で2×1画素の画素ブロックを2つ用いて算出された輝度値を用いて、補正対象のブロックに対するフリッカー補正ゲインを算出する。図19の(b)は、輝度算出部31で算出された輝度値を示している。輝度算出部31では、2×1画素の画素ブロックを2つ用いて輝度値が算出されている。例えば、補正対象の撮像画素に対応する画素ブロックの輝度値Yr(j,k)に対して、図19の(b)に示すように水平方向が3画素で垂直方向が5画素の輝度値が算出されており、上述の第3の動作で説明した図10の画素値と同様な配置となる。したがって、補正ゲイン算出部32は第3の動作と同様に、輝度値を用いてフリッカー補正ゲインを算出する。
フリッカー補正部33は、補正ゲイン算出部で算出されたフリッカー補正ゲインを用いて、補正対象の撮像画素に対する画素ブロックの色成分画素の画素信号を補正する。例えば補正対象の撮像画素に対する画素ブロックの赤色画素を画素値R、緑色画素を画素値Gr,Gb、青色画素を画素値Bとした場合、式(23)乃至式(26)の演算を行い、フリッカー補正後の画素値Rc,Gcr,Gcb,Bcを算出する。
図20は、第2の実施の形態の撮像装置の動作を例示したフローチャートである。ステップST21で撮像装置は露光期間とフレーム周波数を設定する。撮像装置10aの制御部45は、撮像画素の露光期間を設定されているシャッター速度に対応する期間に設定する。また、制御部45は、光強度検出画素の露光期間をフリッカー周期期間に設定する。さらに、制御部45は撮像画のフレーム周波数FVをユーザ等が設定したフレームレートに応じて設定してステップST22に進む。
ステップST22で撮像装置は撮像画素と光強度検出画素を配置する。撮像装置10aの制御部45は、撮像部21aの撮像面内に上述のように撮像画素と光強度検出画素を設定して、撮像画素と光強度検出画素の露光期間をステップST21で設定した露光期間として駆動制御を行いステップST23に進む。
ステップST23で撮像装置は輝度値を算出する。撮像装置10aの輝度算出部31は、撮像画素に対応する色成分画素の画素ブロックの画素信号から輝度値を算出する。また、輝度算出部31は、光強度検出画素に対応する色成分画素の画素ブロックの画素信号から輝度値を算出してステップST24に進む。
ステップST24で撮像装置はフリッカー補正対象の撮像画素のフリッカー補正ゲインを算出する。撮像装置10aの補正ゲイン算出部32は、ステップST23で算出された輝度値を用いて、フリッカー補正対象の撮像画素を基準とした所定の画素範囲内における撮像画素の輝度値と光強度検出画素の輝度値を用いて、上述のようにフリッカー補正ゲインを算出してステップST25に進む。
ステップST25で撮像装置はフリッカー補正対象の撮像画素のフリッカー補正を行う。撮像装置10aのフリッカー補正部33は、ステップST24で算出されたフリッカー補正ゲインを用いてフリッカー補正対象の撮像画素に対応する画素ブロックの色成分画素に対してゲイン調整を行い、フリッカーの影響を補正した画素信号を生成してステップST26に進む。
ステップST26で撮像装置は画面内の各撮像画素のフリッカー補正が完了したか判別する。撮像装置10aの画像信号処理部30aは、画面内の各撮像画素のフリッカー補正が完了していない場合ステップST27に進み、画面内の各撮像画素のフリッカー補正が完了した場合ステップST28に進む。
ステップST27で撮像装置はフリッカー補正対象の撮像画素を更新する。撮像装置10aの画像信号処理部30aは、撮像画素のフリッカー補正が行われていない撮像画素を新たなフリッカー補正対象の撮像画素に設定してステップST24に戻る。
ステップST28で撮像装置は撮像画の終了であるか判別する。撮像装置10aの制御部45は、フリッカー補正を行う撮像画が終了していない場合ステップST29に進み、フリッカー補正を行う撮像画が終了した場合例えば撮像の終了操作が行われた場合フリッカー補正動作を終了する。
ステップST29で撮像装置は新たな撮像画にフリッカー補正対象の撮像画素を設定する。撮像装置10aの画像信号処理部30aは、新たなフレームの撮像画にフリッカー補正対象の撮像画素を設定してステップST24に戻る。
このように、撮像装置は、撮像画面内に色成分画素を設けて、制御部は各色成分画素を含む画素ブロックと撮像画素と光強度検出画素の対応付けをを行う。また、制御部は、撮像画素の露光期間はシャッター速度に応じた期間として、光強度検出画素の露光期間はフリッカー周期期間とする。また、補正ゲイン算出部は、フリッカー補正対象の撮像画素を基準とした所定の画素範囲内の撮像画素と光強度検出画素を用いてフリッカー補正ゲインを算出する。フリッカー補正部は、算出されたフリッカー補正ゲインでフリッカー補正対象の撮像画素に対応する画素ブロックの色成分画素に対してゲイン調整を行う。したがって、照明装置と被写体との位置関係にかかわらず照明光の強度の変動の影響が低減されているカラー撮像画を得られるようになる。
<3.第3の実施の形態>
ところで、上述の第1および第2の実施の形態では、フリッカー周波数(またはフリッカー周期)がユーザ等によって予め設定されている場合について説明が、フリッカー周波数は、撮像部21(21a)で生成された画素信号に基づき自動的に判別してもよい。
ところで、上述の第1および第2の実施の形態では、フリッカー周波数(またはフリッカー周期)がユーザ等によって予め設定されている場合について説明が、フリッカー周波数は、撮像部21(21a)で生成された画素信号に基づき自動的に判別してもよい。
図21は、フリッカー周波数を自動検出する場合の撮像装置の構成を例示している。撮像装置10bは、撮像部21(21a)、画像信号処理部30(30a)、ユーザインタフェース部41、フリッカー検出部43、制御部45、周辺部50を有している。なお、図21において、第1および第2の実施の形態の撮像装置と対応する部分については同一符号を付している。
撮像部21(21a)では、撮像画素と光強度検出画素が設けられており、撮像画素と光強度検出画素で生成した画素信号をフリッカー検出部43へ出力する。
フリッカー検出部43は、制御部45からの制御信号に基づき、フリッカー検出第1画素とフリッカー検出第2画素を設定する。図22は、フリッカー検出第1画素とフリッカー検出第2画素を例示している。図22の(a)は、上述の第1の実施の形態における第1の動作と同様に、撮像画素と光強度検出画素が水平方向に1画素単位で交互に設けられている場合を示している。この場合、撮像画素をフリッカー検出第1画素として光強度検出画素をフリッカー検出第2画素とする。図22の(b)は、上述の第1の実施の形態における第2の動作と同様に、撮像画素と2画素の光強度検出画素が水平方向に交互に設けられている場合を示している。この場合、第1光強度検出画素をフリッカー検出第1画素として第2光強度検出画素をフリッカー検出第2画素とする。図22の(c)は、上述の第1の実施の形態における第3の動作と同様に、撮像画素のラインと2ラインの光強度検出画素が垂直方向に交互に設けられている場合を示している。この場合、第1光強度検出画素をフリッカー検出第1画素として第2光強度検出画素をフリッカー検出第2画素とする。なお、上述の第2の実施の形態のように撮像部が色成分画素を用いて構成されている場合も同様に、撮像画素や光強度検出画素をフリッカー検出第1画素とフリッカー検出第2画素に設定する。
制御部45は、補正ゲイン算出部32で撮像画素毎にフリッカー補正ゲインを算出して、撮像画素毎にフリッカー補正ゲインを用いてフリッカー補正部33で撮像画素のフリッカー補正を行う前に、フリッカー検出を行うようにする。また、制御部45は、フリッカーの有無やフリッカー周波数等を示すフリッカー情報が取得されていない場合にフリッカー検出を行うようにしてもよい。
制御部45は、フリッカー検出を行う場合、例えばフリッカー検出第1画素の露光期間を商用電源周波数が50Hzであるときのフリッカー周期である(1/100)秒、フリッカー検出第2画素の露光期間を商用電源周波数が60Hzであるときのフリッカー周期である(1/120)秒とする。さらに、制御部45は、フリッカー検出部43で検出された照明光の強度変化の周期を、光強度検出画素の露光期間に設定する。
フリッカー検出部43は、フリッカー検出第1画素のフレーム単位の信号レベル変化とフリッカー検出第2画素のフレーム単位の信号レベル変化に基づきフリッカー検出を行う。
照明装置の照明光の強度が商用電源周波数に応じた変化を生じていない場合、フリッカー検出第1画素とフリッカー検出第2画素ではいずれもフレーム単位の信号レベル変化を生じない。また、フリッカー検出第1画素とフリッカー検出第2画素が近接している場合、フリッカー検出第1画素とフリッカー検出第2画素の信号レベル比は露光期間の比率と等しくなる。また、照明装置の照明光の強度が商用電源周波数に応じた変化を生じている場合でも、露光開始タイミングまたは露光終了タイミングが各フレームで照明光の強度変化と同期している場合、フリッカー検出第1画素とフリッカー検出第2画素ではいずれもフレーム単位の信号レベル変化を生じない。
そこで、フリッカー検出部43は、フリッカー検出第1画素でフレーム単位の信号レベル変化を生じておらず、フリッカー検出第2画素でフレーム単位の信号レベル変化を生じている場合、フリッカー周波数が100Hzであるフリッカーを生じているとのフリッカー検出結果を制御部45へ出力する。
また、フリッカー検出部43は、フリッカー検出第1画素でフレーム単位の信号レベル変化を生じており、フリッカー検出第2画素でフレーム単位の信号レベル変化を生じていない場合、フリッカー周波数が120Hzであるフリッカーを生じているとのフリッカー検出結果を制御部45へ出力する。
さらに、フリッカー検出第1画素とフリッカー検出第2画素のいずれでもフレーム単位の信号レベル変化を生じておらず、フリッカー検出第1画素とフリッカー検出第2画素の信号レベル比が露光期間の比率とほぼ等しい場合にフリッカーが生じていないとのフリッカー検出結果を制御部45へ出力する。
なお、制御部45は、フリッカー検出第1画素とフリッカー検出第2画素の露光開始タイミングと露光終了タイミングを異なるタイミングに制御してもよい。この場合、フリッカー検出部43は、フリッカー検出第1画素の中で例えば露光開始タイミングをライン毎にずらして露光を所定期間行い、フリッカー検出第2画素においてもフリッカー検出第1画素に対応させて露光を異なるタイミングで所定期間行う。ここで、フリッカー検出第1画素とフリッカー検出第2画素の同じライン位置の信号レベルの差がライン位置の違いによって変化を生じている場合、フリッカーを生じているとのフリッカー検出結果を制御部45へ出力する。また、フリッカー検出第1画素とフリッカー検出第2画素の同じライン位置の信号レベルの差がライン位置の違いかかわらす変化を生じていない場合、フリッカーを生じていないとのフリッカー検出結果を制御部45へ出力する。したがって、フリッカー検出第1画素とフリッカー検出第2画素で共に露光開始タイミングまたは露光終了タイミングが各フレームで照明光の強度の変化と同期することにより、フリッカー検出第1画素とフリッカー検出第2画素のいずれでもフレーム単位の信号レベル変化が生じなくなってしまうことを防止できる。
図23は、第3の実施の形態の動作を例示したフローチャートである。なお、図23におけるステップST35乃至ステップST40の動作は、図12に示す第5の動作のフローチャートにおけるステップST11乃至ステップST16の処理に相当する。
ステップST31で撮像装置はフリッカー情報を取得済みであるか判別する。撮像装置10bの制御部45は、フリッカーの有無やフリッカー周波数等を示すフリッカー情報が取得されている場合、例えばユーザ等によってフリッカー周波数等が設定されている場合ステップST33に進む。また、制御部45は、フリッカー情報が取得されていない場合ステップST32に進む。
ステップST32で撮像装置はフリッカー検出処理を行う。撮像装置10bの制御部45は、フリッカー検出第1画素とフリッカー検出第2画素を設定する。また、制御部45は、フリッカー検出第1画素とフリッカー検出第2画素の露光期間を設定する。フリッカー検出部43は、フリッカー検出第1画素のフレーム単位の信号レベル変化とフリッカー検出第2画素のフレーム単位の信号レベル変化に基づきフリッカーの有無およびフリッカー周波数を検出してステップST33に進む。
ステップST33で撮像装置はフリッカーがあるか判別する。撮像装置10bの制御部45は、フリッカー情報でフリッカーがあることが示されている場合、またはステップST32のフリッカー検出処理でフリッカーが検出された場合ステップST35に進む。また、制御部45は、フリッカー情報でフリッカーがないことが示されており、ステップST32のフリッカー検出処理でフリッカーが検出されていない場合ステップST34に進む。
ステップST34で撮像装置は通常動作を行う。撮像装置10bはフリッカーが検出されていないことからフリッカー補正を行うことなく撮像画の記録や出力等を行う。
ステップST35で撮像装置は露光期間とフレーム周波数を設定する。撮像装置10bの制御部45は、撮像画素の露光期間をシャッター速度に対応する露光期間に設定する。また、制御部45は光強度検出画素の露光期間を、フリッカー情報で示されたフリッカー周波数の周期期間またはステップST32で検出されたフリッカーの周期期間に設定する。さらに、制御部45は撮像画のフレーム周波数FVをユーザ等が設定したフレームレートに対応する周波数に設定してステップST36に進む。
ステップST36で撮像装置は撮像画のフレーム周波数FVがフリッカー周波数FLを超えるか判別する。制御部45は、ユーザ等によって設定された撮像画のフレーム周波数FVとフリッカー情報で示されたまたはフリッカー検出によって検出されたフリッカー周波数FLを比較する。制御部45は、撮像画のフレーム周波数FVがフリッカー周波数FLを超えていない場合ステップST37に進む。また、制御部45は、撮像画のフレーム周波数FLがフリッカー周波数FLを超えている場合ステップST38に進む。
ステップST37で撮像装置は第1補正モードでフリッカー補正を行う。撮像画のフレーム周波数FVがフリッカー周波数FLを超えていない場合は上述の第1の動作と同様にフリッカー補正を行う。すなわち、制御部45は第1の動作で説明したように1種類の光強度検出画素を設けて、撮像画素でシャッター速度に応じた露光期間の画素信号と光強度検出画素でフリッカー周期期間である露光期間の画素信号を生成するように撮像部を動作させる。第1補正モードにおいて、画像信号処理部は、光強度検出画素群の画素値を用いて線形補間を行い所定の画素範囲内における撮像画素群と空間位相が等しい光強度検出画素群の画素値を算出する。また画像信号処理部は、算出した画素値と所定画素範囲内の撮像画素群の画素値に基づいてフリッカー補正ゲインを算出する。さらに、画像信号処理部は、算出したフリッカー補正ゲインを用いてフリッカー補正対象の撮像画素の画素信号を補正する。
ステップST36からステップST38に進むと、ステップST38で撮像装置は撮像画のフレーム周波数FVがフリッカー周波数FLの2倍を超えるか判別する。制御部45はユーザ等によって設定された撮像画のフレーム周波数FVとフリッカー周波数FLを比較する。制御部45は、撮像画のフレーム周波数FVがフリッカー周波数FLの2倍を超えていない場合ステップST39に進む。また、制御部45は、撮像画のフレーム周波数FVがフリッカー周波数FLの2倍を超えている場合ステップST40に進む。
ステップST39で撮像装置は第2補正モードでフリッカー補正を行う。撮像画のフレーム周波数FVがフリッカー周波数FLを超えており、2倍の周波数を超えていない場合は上述の第2の動作と同様にフリッカー補正を行う。すなわち、制御部45は第2の動作で説明したように2種類の光強度検出画素を設けて、撮像画素でシャッター速度に応じた露光期間の画素信号と光強度検出画素でフリッカー周期期間である露光期間の画素信号を生成するように撮像部を動作させる。第2補正モードにおいて、画像信号処理部は、フリッカー周期期間である露光期間の画素信号が得られた光強度検出画素群の画素値を用いて線形補間を行い所定の画素範囲内における撮像画素群と空間位相が等しい光強度検出画素群の画素値を算出して、算出した画素値と所定画素範囲内の撮像画素群の画素値に基づいてフリッカー補正ゲインを算出する。さらに、画像信号処理部は、算出したフリッカー補正ゲインを用いてフリッカー補正対象の撮像画素の画素信号を補正する。
ステップST40で、撮像装置は第3補正モードでフリッカー補正を行う。撮像画のフレーム周波数FVがフリッカー周波数FLの2倍を超えており、4倍の周波数を超えていない場合、4種類の光強度検出画素を設けてフリッカー補正を行う。すなわち、制御部45は4種類の光強度検出画素を設けて、撮像画素でシャッター速度に応じた露光期間の画素信号と光強度検出画素でフリッカー周期期間である露光期間の画素信号を生成するように撮像部を動作させる。第3補正モードにおいて、画像信号処理部は、フリッカー周期期間である露光期間の画素信号が得られた光強度検出画素群の画素値を用いて線形補間を行い所定の画素範囲内における撮像画素群の画素位置と空間移動が等しい画素値を算出する。また、画像信号処理部は、算出した画素値と所定画素範囲内の撮像画素群の画素値に基づいてフリッカー補正ゲインを算出する。さらに、画像信号処理部は、算出したフリッカー補正ゲインを用いてフリッカー補正対象の撮像画素の画素信号を補正する。
このように、第3の実施の形態では、フリッカー検出部でフリッカーの有無やフリッカー周波数が自動的に検出されるので、ユーザがユーザインタフェース部41を用いて、照明環境に応じたフリッカー周波数等の指定操作が行われていない場合であってもフリッカー補正を正しく行うことができるようになる。
また、第3の実施の形態では、フリッカー情報が取得されていない場合にフリッカー検出を行う動作を説明したが、フリッカー情報の取得状態にかかわらずフリッカー検出を行うようにしてもよい。この場合、取得済みのフリッカー情報で示されたフリッカー周波数とフリッカー検出部43で検出されたフリッカー周波数が異なるとき、周波数が相違することをユーザ等に通知する処理や例えば検出されたフリッカー周波数を優先して用いるようにする。このようにすれば、照明光の強度変化とは異なるフリッカー周波数でフリッカー補正が行われることを防止できる。
<4.第4の実施の形態>
ところで、上述の第1および第2の実施の形態では、撮像部の撮像面に撮像画素だけでなく光強度検出画素を設けている。また、上述したように撮像画のフレーム周波数が高くなるに伴い、多くの種類の光強度検出画素を設ける必要がある。このため、撮像画のフレーム周波数が高くなるに伴い、撮像画の空間解像度の低下を招くおそれがある。そこで、第4の実施の形態では撮像画の空間解像度の低下を抑制する場合について説明する。
ところで、上述の第1および第2の実施の形態では、撮像部の撮像面に撮像画素だけでなく光強度検出画素を設けている。また、上述したように撮像画のフレーム周波数が高くなるに伴い、多くの種類の光強度検出画素を設ける必要がある。このため、撮像画のフレーム周波数が高くなるに伴い、撮像画の空間解像度の低下を招くおそれがある。そこで、第4の実施の形態では撮像画の空間解像度の低下を抑制する場合について説明する。
図24は、第4の実施の形態の動作例を示している。制御部45は、撮像画素と光強度検出画素を設定する場合に、光強度検出画素を間引いて配置する。図24の(a)は、4種類の光強度検出画素を間引かないで配置した場合、図24の(b)は、4種類の光強度検出画素に対して間引きを行って配置した場合を示している。4種類の光強度検出画素を間引かないで配置した場合、撮像画素のライン間には4種類の光強度検出画素のラインが設けられている。また、4種類の光強度検出画素を間引いて配置する場合、例えば撮像画素のライン間には2種類の光強度検出画素のラインを設けて、撮像画素のラインの上側と下側では光強度検出画素の種類が異なるようにする。このように、光強度検出画素を間引いて配置すれば撮像画のフレーム周波数が高くなっても撮像画素の減少を抑えることができるので撮像画の空間解像度の低下を抑制できる。
図25は、フリッカー補正対象の撮像画素を基準とした所定の画素範囲を例示している。補正ゲイン算出部32は、種類の等しい光強度検出画素のラインペアでその間に挟まれた2ラインの撮像画素のフリッカー補正ゲインを算出する。なお、図25では、フリッカー補正対象の撮像画素の露光期間に対するフリッカー周期期間が第1光強度検出画素の露光期間であるとする。また、第1光強度検出画素のラインであるラインLm-2とラインLm+4で挟まれた撮像画素であるラインLmとラインLm+3のn番目の画素P(m,n),P(m+3,n)をフリッカー補正対象の撮像画素のライン位置としている。また、フリッカー補正対象の画素P(m,n)の画素値をr(m,n)、両サイドの撮像画素の画素値をr(m,n-1),r(m,n+1)とする。また、フリッカー補正対象の画素P(m+3,n)の画素値をr(m+3,n)、両サイドの撮像画素の画素値をr(m+3,n-1),r(m+3,n+1)とする。また、光強度検出画素であるラインLxの画素の画素値をa(x,n-1),a(x,n),a(x,n+1)とする。
画像信号処理部の補正ゲイン算出部32は、式(27)に基づきフリッカー補正ゲインを算出する。
フリッカー補正ゲイン=(第1光強度検出画素群の画素値WTam
/撮像画素群の画素値WTrm) ・・・(27)
フリッカー補正ゲイン=(第1光強度検出画素群の画素値WTam
/撮像画素群の画素値WTrm) ・・・(27)
撮像画素群の画素値WTrmは、例えば式(28)に示すように、撮像画素の平均画素値を用いる。
WTrm=(r(m,n-1)+r(m,n)+r(m,n+1))/3 ・・・(28)
WTrm=(r(m,n-1)+r(m,n)+r(m,n+1))/3 ・・・(28)
第1光強度検出画素群の画素値WTaは、光強度検出画素群の画素値を用いて線形補間を行い、フリッカー補正対象の撮像画素群と空間位相が等しい光強度検出画素群の画素値を算出して、算出した画素値の平均値を用いる。
補正ゲイン算出部32は、式(29)乃至(31)によって撮像画素のラインLmと等しい空間位相の画素値a(m,n-1),a(m,n),a(m,n+1)を算出する。さらに、補正ゲイン算出部32は、式(32)に示す演算を行い光強度検出画素群の画素値WTaを算出する。
a(m,n-1)=0.667×a(m-2,n-1)+0.333×a(m+4,n-1)
・・・(29)
a(m,n) =0.667×a(m-2,n) +0.333×a(m+4,n)
・・・(30)
a(m,n+1)=0.667×a(m-2,n+1)+0.333×a(m+4,n+1)
・・・(31)
WTam=(a(m,n-1)+a(m,n)+a(m,n+1))/3
・・・(32)
a(m,n-1)=0.667×a(m-2,n-1)+0.333×a(m+4,n-1)
・・・(29)
a(m,n) =0.667×a(m-2,n) +0.333×a(m+4,n)
・・・(30)
a(m,n+1)=0.667×a(m-2,n+1)+0.333×a(m+4,n+1)
・・・(31)
WTam=(a(m,n-1)+a(m,n)+a(m,n+1))/3
・・・(32)
補正ゲイン算出部32は算出したフリッカー補正ゲイン、すなわち式(33)に示すフリッカー補正ゲインHG(m,n)をフリッカー補正部33へ出力する。
HG(m,n)=(WTam/WTrm)
=(0.667×(a(m-2,n-1)+a(m-2,n)+a(m-2,n+1))+0.333×(a(m+4,n-1)+a(m+4,n)+a(m+4,n+1)))/(r(m,n-3)+r(m,n)+r(m,n+3)) ・・・(33)
HG(m,n)=(WTam/WTrm)
=(0.667×(a(m-2,n-1)+a(m-2,n)+a(m-2,n+1))+0.333×(a(m+4,n-1)+a(m+4,n)+a(m+4,n+1)))/(r(m,n-3)+r(m,n)+r(m,n+3)) ・・・(33)
また、撮像画素群の画素値WTrmaは、例えば式(34)に示すように、撮像画素の平均画素値を用いる。
WTrma=(r(m+3,n-1)+r(m+3,n)+r(m+3,n+1))/3
・・・(34)
WTrma=(r(m+3,n-1)+r(m+3,n)+r(m+3,n+1))/3
・・・(34)
第1光強度検出画素群の画素値WTamaは、光強度検出画素群の画素値を用いて線形補間を行い、フリッカー補正対象の撮像画素群と空間位相が等しい光強度検出画素群の画素値を算出して、算出した画素値の平均値を用いる。
補正ゲイン算出部32は、式(35)乃至(37)によって撮像画素のラインLmの位置に対応する画素値a(m,n-1),a(m,n),a(m,n+1)を算出する。さらに、補正ゲイン算出部32は、式(38)に示す演算を行い光強度検出画素群の画素値WTaを算出する。
a(m+3,n-1)=0.167×a(m-2,n-1)+0.833×a(m+4,n-1)
・・・(35)
a(m+3,n) =0.167×a(m-2,n) +0.833×a(m+4,n)
・・・(36)
a(m+3,n+1)=0.167×a(m-2,n+1)+0.833×a(m+4,n+1)
・・・(37)
WTama=(a(m+3,n-1)+a(m+3,n)+a(m+3,n+1))/3
・・・(38)
a(m+3,n-1)=0.167×a(m-2,n-1)+0.833×a(m+4,n-1)
・・・(35)
a(m+3,n) =0.167×a(m-2,n) +0.833×a(m+4,n)
・・・(36)
a(m+3,n+1)=0.167×a(m-2,n+1)+0.833×a(m+4,n+1)
・・・(37)
WTama=(a(m+3,n-1)+a(m+3,n)+a(m+3,n+1))/3
・・・(38)
補正ゲイン算出部32は算出したフリッカー補正ゲイン、すなわち式(39)に示すフリッカー補正ゲインHG(m+3,n)をフリッカー補正部33へ出力する。
HG(m+3,n)=(WTama/WTrma)
=(0.167×(a(m-2,n-1)+a(m-2,n)+a(m-2,n+1)+0.833×(a(m+4,n-1)+a(m+4,n)+a(m+4,n+1)))/(r(m,n-3)+r(m,n)+r(m,n+3)) ・・・(39)
HG(m+3,n)=(WTama/WTrma)
=(0.167×(a(m-2,n-1)+a(m-2,n)+a(m-2,n+1)+0.833×(a(m+4,n-1)+a(m+4,n)+a(m+4,n+1)))/(r(m,n-3)+r(m,n)+r(m,n+3)) ・・・(39)
フリッカー補正部33は、補正ゲイン算出部32で算出されたフリッカー補正ゲインHG(m,n)を用いて、フリッカー補正対象の画素P(m,n)である撮像画素に対するゲイン調整を行う。また、フリッカー補正部33は、補正ゲイン算出部32で算出されたフリッカー補正ゲインHG(m+3,n)を用いて、フリッカー補正対象の撮像画素に対するゲイン調整を行う。
画像信号処理部は、上述の処理を各撮像画素に対して行うことで、フリッカーの影響が低減された画像信号を生成する。
図26は、第4の実施の形態の他の動作例としてカラー撮像画の場合を示している。制御部45は、撮像部21aにおける色成分画素の配列がベイヤー配列とされている場合、第2の実施の形態と同様に2×2画素の画素ブロックを撮像画素と光強度検出画素の画素単位として、光強度検出画素を間引いて配置する。このように、光強度検出画素を間引いて配置すれば撮像画のフレーム周波数が高くなっても撮像画素の減少を抑えることができるので撮像画の空間解像度の低下を抑制できる。
図27は、第4の実施の形態の他の動作例としてカラー撮像画の他の場合を示している。制御部45は、撮像部21aにおける色成分画素の配列がベイヤー配列とされている場合、第2の実施の形態と同様に例えば1×2画素の2つの画素ブロックを撮像画素と光強度検出画素の画素単位として、光強度検出画素を間引いて配置する。このように、光強度検出画素を間引いて配置すれば撮像画のフレーム周波数が高くなっても撮像画素の減少を抑えることができるので撮像画の空間解像度の低下を抑制できる。なお、図27の(a)は4種類の光強度検出画素を設けた場合、図27の(b)は6種類の光強度検出画素を設けた場合を示している。
また、4種類の光強度検出画素を設けた場合、セット毎に第1光強度検出画素のラインと第2光強度検出画素のラインの入替えと第3光強度検出画素のラインと第4光強度検出画素のラインの入替えを行う必要がある。例えば第1光強度検出画素のラインと第2光強度検出画素のラインの入替えを行わないと、水平方向が同一の画素ブロックにおいて、第2光強度検出画素のラインが赤色画素と緑色画素であるとき、次の第2光強度検出画素のラインでも赤色画素と緑色画素となってしまう。このため、ラインの入替えを行うことで、次の第2光強度検出画素のラインでは緑色画素と青色画素の画素信号を得られるようにする。すなわち第2光強度検出画素のラインを連続して用いることでベイヤー配列の2×2画素の画素ブロックの各色成分画素の画素信号を得られるようになる。また、他の光強度検出画素のラインでも同様である。なお、6種類の光強度検出画素を設ける場合、光強度検出画素のラインの入替えを行う必要がない。
図28は、4種類の光強度検出画素を間引いて配置した場合のフリッカー補正ゲインの算出動作を説明するための図である。例えば第1光強度検出画素であるラインLj-2rとラインLj+2bの1×2画素の2つの画像ブロックを用いるとベイヤー配列の2×2画素の色成分画素毎の画素信号を得られることから、補正ゲイン算出部32は、ラインLj-2rとラインLj+2bの1×2画素の2つの画像ブロックの画素信号を用いて輝度値Ya1を算出する。同様に、補正ゲイン算出部32は、第1光強度検出画素であるラインLj+2rとラインLj+3bの1×2画素の2つの画像ブロックの画素信号を用いて輝度値Ya2を算出する。
また、撮像画素のラインLjrとラインLjbの1×2画素の2つの画像ブロックを用いるとベイヤー配列の2×2画素の色成分画素毎の画素信号を得られることから、補正ゲイン算出部32は、ラインLjrとラインLjbの1×2画素の2つの画像ブロックの画素信号を用いて輝度値Yrj1を算出する。
同様に、撮像画素のラインLjbとラインL’jrの1×2画素の画像ブロックを用いるとベイヤー配列の2×2画素の画素信号を得られることから、補正ゲイン算出部32は、ラインLjbとラインL’jrの1×2画素の2つの画像ブロックの画素信号を用いて輝度値Yrj2を算出する。また、水平方向のブロック位置毎に画像信号を算出して、例えば図28の(b)に示すように、ブロック位置k-1,k,k+1の輝度値を算出する。
さらに、補正ゲイン算出部32は、撮像画素の輝度値Yrj1,Yrj2のそれぞれに対して、光強度検出画素の輝度値Yar1と輝度値Yar2から対応する空間位相の輝度値を算出して、撮像画素の輝度値と空間位相が等しい光強度検出画素の輝度値との比率からフリッカー補正ゲインを算出する。例えば、輝度値Yrj1と輝度値Yaj1の空間位相は等しいから、補正ゲイン算出部32は、輝度値Yr(j1,k-1),Yr(j1,k),Yr(j1,k+1)の平均と輝度値Ya(j1,k-1),Ya(j1,k),Ya(j1,k+1)の平均との比率を輝度値Yr(j1,k)のフリッカー補正ゲインとする。
また、輝度値Yrj2は輝度値Yaj1と輝度値Yaj2の平均と空間位相が等しいから、補正ゲイン算出部32は、輝度値Yr(j2,k-1),Yr(j2,k),Yr(j2,k+1)の平均と輝度値Ya(j1,k-1),Ya(j1,k),Ya(j1,k+1),Ya(j2,k-1),Ya(j2,k),Ya(j2,k+1)の平均との比率を輝度値Yr(j2,k)のフリッカー補正ゲインとする。
さらに、補正ゲイン算出部32は、撮像画素の輝度値の算出に用いた1×2画素の画素ブロックに対するフリッカー補正ゲインを、輝度値に対して算出されたフリッカー補正ゲインを用いて設定する。例えばラインLjbは、輝度値Yrj1と輝度値Yrj2の算出に用いられていることから、補正ゲイン算出部32は、輝度値Yrj1と輝度値Yrj2のフリッカー補正ゲインを用いて、ラインLjbの空間位相に対応するフリッカー補正ゲインを算出する。図28の(a)に示す場合、ラインLjbの空間位相は輝度値Yrj1と輝度値Yrj2の中間であるから、補正ゲイン算出部32は、撮像画素のブロック(Ljb,k)のフリッカー補正ゲインはYr(j1,k)のフリッカー補正ゲインとYr(j2,k)のフリッカー補正ゲインの平均値とする。
このように、本技術の撮像装置では、光強度検出画素を間引いて配置することで、撮像画素の減少を抑制できるようになる。また、光強度検出画素を間引いても、上述のような処理によって撮像画素の画素または輝度値の算出単位毎にフリッカー補正ゲインを算出できる。したがって、撮像画素の減少を抑制しても、上述の実施の形態と同様の作用効果を引き続き得ることができる。
<5.適用例>
上述の実施の形態で示した撮像装置は、例えば静止画と動画の撮像を行うことができる撮像装置に適している。静止画の撮像では高精細な撮像画のプリント等を行うことができるように高画素数の撮像素子が必要とされるが、動画の撮像では表示装置に対応した画素数であればよい。したがって、高画素数の撮像素子を用いて動画の撮像を行う場合、撮像に用いられていない画素が存在することになるので、撮像に用いられていない画素を光強度検出画素として利用すれば、高画素数の撮像素子を動画の撮像時にも有効利用できるようになる。
上述の実施の形態で示した撮像装置は、例えば静止画と動画の撮像を行うことができる撮像装置に適している。静止画の撮像では高精細な撮像画のプリント等を行うことができるように高画素数の撮像素子が必要とされるが、動画の撮像では表示装置に対応した画素数であればよい。したがって、高画素数の撮像素子を用いて動画の撮像を行う場合、撮像に用いられていない画素が存在することになるので、撮像に用いられていない画素を光強度検出画素として利用すれば、高画素数の撮像素子を動画の撮像時にも有効利用できるようになる。
<6.移動体への応用例>
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
図29は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。
車両制御システム12000は、通信ネットワーク12001を介して接続された複数の電子制御ユニットを備える。図29に示した例では、車両制御システム12000は、駆動系制御ユニット12010、ボディ系制御ユニット12020、車外情報検出ユニット12030、車内情報検出ユニット12040、及び統合制御ユニット12050を備える。また、統合制御ユニット12050の機能構成として、マイクロコンピュータ12051、音声画像出力部12052、及び車載ネットワークI/F(Interface)12053が図示されている。
駆動系制御ユニット12010は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット12010は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。
ボディ系制御ユニット12020は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット12020は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット12020には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット12020は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
車外情報検出ユニット12030は、車両制御システム12000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット12030には、撮像部12031が接続される。車外情報検出ユニット12030は、撮像部12031に車外の画像を撮像させるとともに、撮像された画像を受信する。車外情報検出ユニット12030は、受信した画像に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。
撮像部12031は、光を受光し、その光の受光量に応じた電気信号を出力する光センサである。撮像部12031は、電気信号を画像として出力することもできるし、測距の情報として出力することもできる。また、撮像部12031が受光する光は、可視光であっても良いし、赤外線等の非可視光であっても良い。
車内情報検出ユニット12040は、車内の情報を検出する。車内情報検出ユニット12040には、例えば、運転者の状態を検出する運転者状態検出部12041が接続される。運転者状態検出部12041は、例えば運転者を撮像するカメラを含み、車内情報検出ユニット12040は、運転者状態検出部12041から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。
マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット12010に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行うことができる。
また、マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
また、マイクロコンピュータ12051は、車外情報検出ユニット12030で取得される車外の情報に基づいて、ボディ系制御ユニット12030に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車外情報検出ユニット12030で検知した先行車又は対向車の位置に応じてヘッドランプを制御し、ハイビームをロービームに切り替える等の防眩を図ることを目的とした協調制御を行うことができる。
音声画像出力部12052は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図29の例では、出力装置として、オーディオスピーカ12061、表示部12062及びインストルメントパネル12063が例示されている。表示部12062は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。
図30は、撮像部12031の設置位置の例を示す図である。
図30では、撮像部12031として、撮像部12101、12102、12103、12104、12105を有する。
撮像部12101、12102、12103、12104、12105は、例えば、車両12100のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部等の位置に設けられる。フロントノーズに備えられる撮像部12101及び車室内のフロントガラスの上部に備えられる撮像部12105は、主として車両12100の前方の画像を取得する。サイドミラーに備えられる撮像部12102、12103は、主として車両12100の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部12104は、主として車両12100の後方の画像を取得する。車室内のフロントガラスの上部に備えられる撮像部12105は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
なお、図30には、撮像部12101ないし12104の撮影範囲の一例が示されている。撮像範囲12111は、フロントノーズに設けられた撮像部12101の撮像範囲を示し、撮像範囲12112,12113は、それぞれサイドミラーに設けられた撮像部12102,12103の撮像範囲を示し、撮像範囲12114は、リアバンパ又はバックドアに設けられた撮像部12104の撮像範囲を示す。例えば、撮像部12101ないし12104で撮像された画像データが重ね合わせられることにより、車両12100を上方から見た俯瞰画像が得られる。
撮像部12101ないし12104の少なくとも1つは、距離情報を取得する機能を有していてもよい。例えば、撮像部12101ないし12104の少なくとも1つは、複数の撮像素子からなるステレオカメラであってもよいし、位相差検出用の画素を有する撮像素子であってもよい。
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を基に、撮像範囲12111ないし12114内における各立体物までの距離と、この距離の時間的変化(車両12100に対する相対速度)を求めることにより、特に車両12100の進行路上にある最も近い立体物で、車両12100と略同じ方向に所定の速度(例えば、0km/h以上)で走行する立体物を先行車として抽出することができる。さらに、マイクロコンピュータ12051は、先行車の手前に予め確保すべき車間距離を設定し、自動ブレーキ制御(追従停止制御も含む)や自動加速制御(追従発進制御も含む)等を行うことができる。このように運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を元に、立体物に関する立体物データを、2輪車、普通車両、大型車両、歩行者、電柱等その他の立体物に分類して抽出し、障害物の自動回避に用いることができる。例えば、マイクロコンピュータ12051は、車両12100の周辺の障害物を、車両12100のドライバが視認可能な障害物と視認困難な障害物とに識別する。そして、マイクロコンピュータ12051は、各障害物との衝突の危険度を示す衝突リスクを判断し、衝突リスクが設定値以上で衝突可能性がある状況であるときには、オーディオスピーカ12061や表示部12062を介してドライバに警報を出力することや、駆動系制御ユニット12010を介して強制減速や回避操舵を行うことで、衝突回避のための運転支援を行うことができる。
撮像部12101ないし12104の少なくとも1つは、赤外線を検出する赤外線カメラであってもよい。例えば、マイクロコンピュータ12051は、撮像部12101ないし12104の撮像画像中に歩行者が存在するか否かを判定することで歩行者を認識することができる。かかる歩行者の認識は、例えば赤外線カメラとしての撮像部12101ないし12104の撮像画像における特徴点を抽出する手順と、物体の輪郭を示す一連の特徴点にパターンマッチング処理を行って歩行者か否かを判別する手順によって行われる。マイクロコンピュータ12051が、撮像部12101ないし12104の撮像画像中に歩行者が存在すると判定し、歩行者を認識すると、音声画像出力部12052は、当該認識された歩行者に強調のための方形輪郭線を重畳表示するように、表示部12062を制御する。また、音声画像出力部12052は、歩行者を示すアイコン等を所望の位置に表示するように表示部12062を制御してもよい。
以上、本開示に係る技術が適用され得る車両制御システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、撮像部12031、12101、12102、12103、12104、12105等に適用され得る。例えば、撮像部12031、12101、12102、12103、12104、12105等に本開示に係る技術を適用することにより、道路や駐車場等において周期的に照明光の強度が変動する照明装置を利用して照明が行われても、照明光の強度の変動の影響が低減されている撮像画を取得できるので、ドライバの疲労等を軽減できる。また、撮像画を用いて自動運転等を行う場合に、照明光の強度の変動の影響が低減されているので、本技術を用いていない場合に比べて運転制御が容易となる。
明細書中において説明した一連の処理はハードウェア、またはソフトウェア、あるいは両者の複合構成によって実行することが可能である。ソフトウェアによる処理を実行する場合は、処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれたコンピュータ内のメモリにインストールして実行させる。または、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることが可能である。
例えば、プログラムは記録媒体としてのハードディスクやSSD(Solid State Drive)、ROM(Read Only Memory)に予め記録しておくことができる。あるいは、プログラムはフレキシブルディスク、CD-ROM(Compact Disc Read Only Memory),MO(Magneto optical)ディスク,DVD(Digital Versatile Disc)、BD(Blu-Ray Disc(登録商標))、磁気ディスク、半導体メモリカード等のリムーバブル記録媒体に、一時的または永続的に格納(記録)しておくことができる。このようなリムーバブル記録媒体は、いわゆるパッケージソフトウェアとして提供することができる。
また、プログラムは、リムーバブル記録媒体からコンピュータにインストールする他、ダウンロードサイトからLAN(Local Area Network)やインターネット等のネットワークを介して、コンピュータに無線または有線で転送してもよい。コンピュータでは、そのようにして転送されてくるプログラムを受信し、内蔵するハードディスク等の記録媒体にインストールすることができる。
なお、本明細書に記載した効果はあくまで例示であって限定されるものではなく、記載されていない付加的な効果があってもよい。また、本技術は、上述した技術の実施の形態に限定して解釈されるべきではない。この技術の実施の形態は、例示という形態で本技術を開示しており、本技術の要旨を逸脱しない範囲で当業者が実施の形態の修正や代用をなし得ることは自明である。すなわち、本技術の要旨を判断するためには、請求の範囲を参酌すべきである。
また、本技術の撮像装置は以下のような構成も取ることができる。
(1) 撮像画を取得するための撮像画素の画素信号と照明光の強度を検出するための光強度検出画素の画素信号に基づきフリッカー補正ゲインを算出する補正ゲイン算出部と、
前記撮像画素と前記光強度検出画素の露光タイミングと露光期間を個々に設定する制御部と
を備える撮像装置。
(2) 前記制御部は、前記撮像画素の露光期間をシャッター速度に応じた期間に設定して、前記光強度検出画素の露光期間を前記照明光の強度変化の周期期間に設定して、前記撮像画素と前記光強度検出画素の露光タイミングを、露光開始、露光終了または露光期間の中央のいずれかを等しいタイミングに設定する(1)に記載の撮像装置。
(3) 前記制御部は、前記撮像画のフレーム周期と前記照明光の強度変化の周期に基づき、前記光強度検出画素の画素群を1または複数設けて、前記撮像画のフレーム毎に前記光強度検出画素のいずれかの画素群で前記照明光の強度変化の周期期間である露光期間の画素信号を得る(1)または(2)に記載の撮像装置。
(4) 前記制御部は、前記照明光の強度変化の周期内に含まれる前記撮像画のフレーム周期の数が多くなるに伴い前記光強度検出画素の画素群を多く設け、
前記補正ゲイン算出部は、前記照明光の強度変化の周期期間である露光期間の画素信号が得られた画素群の前記光強度検出画素の画素信号に基づきフリッカー補正ゲインを算出する(3)に記載の撮像装置。
(5) 露光期間が第1商用電源周波数の周期であるフリッカー検出第1画素と露光期間が第2商用電源周波数の周期であるフリッカー検出第2画素のフレーム毎の画素信号の信号レベル変化に基づいて、前記照明光の強度変化の周期を検出するフリッカー検出部をさらに備える(1)乃至(4)のいずれかに記載の撮像装置。
(6) 前記制御部は、前記フリッカー補正ゲインの算出前に、前記光強度検出画素または前記光強度検出画素と前記撮像画素を前記フリッカー検出第1画素と前記フリッカー検出第2画素に設定して、前記フリッカー検出部でフリッカー検出を行わせて、フリッカー検出後は前記フリッカー検出部で検出された周期を、前記光強度検出画素の露光期間に設定する(5)に記載の撮像装置。
(7) 前記制御部は、複数色成分画素からなる画素ブロックを前記撮像画素および前記光強度検出画素の画素単位として、
前記補正ゲイン算出部は、前記撮像画素および前記光強度検出画素を構成する画素ブロックの色成分画素の画素信号から算出した輝度値に基づいて前記フリッカー補正ゲインを算出する(1)乃至(6)のいずれかに記載の撮像装置。
(8) 前記補正ゲイン算出部は、前記光強度検出画素の画素信号を用いて補間処理を行い、前記撮像画素と空間位相が等しい光強度検出画素の画素信号を生成して、前記撮像画素の画素信号と前記撮像画素と空間位相が等しい光強度検出画素の画素信号に基づいて前記撮像画素の画素毎にフリッカー補正ゲインを算出する(1)乃至(7)のいずれかに記載の撮像装置。
(9) 前記補正ゲイン算出部は、フリッカー補正対象の撮像画素を基準とした水平方向および垂直方向の複数の撮像画素と光強度検出画素の画素信号に基づいて前記フリッカー補正対象の撮像画素のフリッカー補正ゲインを算出する(1)乃至(8)のいずれかに記載の撮像装置。
(10) 前記撮像画素と前記光強度検出画素を隣接して設けた(1)乃至(9)のいずれかに記載の撮像装置。
(11) 前記撮像画素と前記光強度検出画素を垂直方向に隣接して設けた(10)に記載の撮像装置。
(12) 前記光強度検出画素を間引いて配置して、
前記補正ゲイン算出部は、前記光強度検出画素の画素信号を用いて補間処理を行い前記撮像画素と空間位相が等しい光強度検出画素の画素信号を算出する(1)乃至(11)のいずれかに記載の撮像装置。
(13) 前記補正ゲイン算出部で算出されたフリッカー補正ゲインを用いて前記撮像画素のフリッカー補正を行うフリッカー補正部をさらに備える(1)乃至(12)のいずれかに記載の撮像装置。
(1) 撮像画を取得するための撮像画素の画素信号と照明光の強度を検出するための光強度検出画素の画素信号に基づきフリッカー補正ゲインを算出する補正ゲイン算出部と、
前記撮像画素と前記光強度検出画素の露光タイミングと露光期間を個々に設定する制御部と
を備える撮像装置。
(2) 前記制御部は、前記撮像画素の露光期間をシャッター速度に応じた期間に設定して、前記光強度検出画素の露光期間を前記照明光の強度変化の周期期間に設定して、前記撮像画素と前記光強度検出画素の露光タイミングを、露光開始、露光終了または露光期間の中央のいずれかを等しいタイミングに設定する(1)に記載の撮像装置。
(3) 前記制御部は、前記撮像画のフレーム周期と前記照明光の強度変化の周期に基づき、前記光強度検出画素の画素群を1または複数設けて、前記撮像画のフレーム毎に前記光強度検出画素のいずれかの画素群で前記照明光の強度変化の周期期間である露光期間の画素信号を得る(1)または(2)に記載の撮像装置。
(4) 前記制御部は、前記照明光の強度変化の周期内に含まれる前記撮像画のフレーム周期の数が多くなるに伴い前記光強度検出画素の画素群を多く設け、
前記補正ゲイン算出部は、前記照明光の強度変化の周期期間である露光期間の画素信号が得られた画素群の前記光強度検出画素の画素信号に基づきフリッカー補正ゲインを算出する(3)に記載の撮像装置。
(5) 露光期間が第1商用電源周波数の周期であるフリッカー検出第1画素と露光期間が第2商用電源周波数の周期であるフリッカー検出第2画素のフレーム毎の画素信号の信号レベル変化に基づいて、前記照明光の強度変化の周期を検出するフリッカー検出部をさらに備える(1)乃至(4)のいずれかに記載の撮像装置。
(6) 前記制御部は、前記フリッカー補正ゲインの算出前に、前記光強度検出画素または前記光強度検出画素と前記撮像画素を前記フリッカー検出第1画素と前記フリッカー検出第2画素に設定して、前記フリッカー検出部でフリッカー検出を行わせて、フリッカー検出後は前記フリッカー検出部で検出された周期を、前記光強度検出画素の露光期間に設定する(5)に記載の撮像装置。
(7) 前記制御部は、複数色成分画素からなる画素ブロックを前記撮像画素および前記光強度検出画素の画素単位として、
前記補正ゲイン算出部は、前記撮像画素および前記光強度検出画素を構成する画素ブロックの色成分画素の画素信号から算出した輝度値に基づいて前記フリッカー補正ゲインを算出する(1)乃至(6)のいずれかに記載の撮像装置。
(8) 前記補正ゲイン算出部は、前記光強度検出画素の画素信号を用いて補間処理を行い、前記撮像画素と空間位相が等しい光強度検出画素の画素信号を生成して、前記撮像画素の画素信号と前記撮像画素と空間位相が等しい光強度検出画素の画素信号に基づいて前記撮像画素の画素毎にフリッカー補正ゲインを算出する(1)乃至(7)のいずれかに記載の撮像装置。
(9) 前記補正ゲイン算出部は、フリッカー補正対象の撮像画素を基準とした水平方向および垂直方向の複数の撮像画素と光強度検出画素の画素信号に基づいて前記フリッカー補正対象の撮像画素のフリッカー補正ゲインを算出する(1)乃至(8)のいずれかに記載の撮像装置。
(10) 前記撮像画素と前記光強度検出画素を隣接して設けた(1)乃至(9)のいずれかに記載の撮像装置。
(11) 前記撮像画素と前記光強度検出画素を垂直方向に隣接して設けた(10)に記載の撮像装置。
(12) 前記光強度検出画素を間引いて配置して、
前記補正ゲイン算出部は、前記光強度検出画素の画素信号を用いて補間処理を行い前記撮像画素と空間位相が等しい光強度検出画素の画素信号を算出する(1)乃至(11)のいずれかに記載の撮像装置。
(13) 前記補正ゲイン算出部で算出されたフリッカー補正ゲインを用いて前記撮像画素のフリッカー補正を行うフリッカー補正部をさらに備える(1)乃至(12)のいずれかに記載の撮像装置。
この技術の撮像装置とフリッカー補正方法およびプログラムによれば、撮像画を取得するための撮像画素と照明光の強度を検出するための光強度検出画素の露光タイミングと露光期間が個々に設定されて、撮像画素で生成された画素信号と光強度検出画素で生成された画素信号に基づきフリッカー補正ゲインが撮像画素の画素ごとに算出される。このため、照明装置と被写体との位置関係にかかわらず照明光の強度の変動の影響が低減されている撮像画を取得できるようになので、商用電源周波数に応じて照明強度が変化する照明環境下で動画を撮像する撮像装置に適している。
10,10a,10b・・・撮像装置
21,21a・・・撮像部
30,30a・・・画像信号処理部
31・・・輝度算出部
32・・・補正ゲイン算出部
33・・・フリッカー補正部
34・・・カラー画像信号生成部
41・・・ユーザインタフェース(I/F)部
43・・・フリッカー検出部
45・・・制御部
50・・・周辺部
51・・・記録部
52・・・信号出力部
53・・・表示部
21,21a・・・撮像部
30,30a・・・画像信号処理部
31・・・輝度算出部
32・・・補正ゲイン算出部
33・・・フリッカー補正部
34・・・カラー画像信号生成部
41・・・ユーザインタフェース(I/F)部
43・・・フリッカー検出部
45・・・制御部
50・・・周辺部
51・・・記録部
52・・・信号出力部
53・・・表示部
Claims (15)
- 撮像画を取得するための撮像画素の画素信号と照明光の強度を検出するための光強度検出画素の画素信号に基づきフリッカー補正ゲインを算出する補正ゲイン算出部と、
前記撮像画素と前記光強度検出画素の露光タイミングと露光期間を個々に設定する制御部と
を備える撮像装置。 - 前記制御部は、前記撮像画素の露光期間をシャッター速度に応じた期間に設定して、前記光強度検出画素の露光期間を前記照明光の強度変化の周期期間に設定して、前記撮像画素と前記光強度検出画素の露光タイミングを、露光開始、露光終了または露光期間の中央のいずれかを等しいタイミングに設定する
請求項1に記載の撮像装置。 - 前記制御部は、前記撮像画のフレーム周期と前記照明光の強度変化の周期に基づき、前記光強度検出画素の画素群を1または複数設けて、前記撮像画のフレーム毎に前記光強度検出画素のいずれかの画素群で前記照明光の強度変化の周期期間である露光期間の画素信号を得る
請求項1に記載の撮像装置。 - 前記制御部は、前記照明光の強度変化の周期内に含まれる前記撮像画のフレーム周期の数が多くなるに伴い前記光強度検出画素の画素群を多く設け、
前記補正ゲイン算出部は、前記照明光の強度変化の周期期間である露光期間の画素信号が得られた画素群の前記光強度検出画素の画素信号に基づきフリッカー補正ゲインを算出する
請求項3に記載の撮像装置。 - 露光期間が第1商用電源周波数の周期であるフリッカー検出第1画素と露光期間が第2商用電源周波数の周期であるフリッカー検出第2画素のフレーム毎の画素信号の信号レベル変化に基づいて、前記照明光の強度変化の周期を検出するフリッカー検出部をさらに備える
請求項1に記載の撮像装置。 - 前記制御部は、前記フリッカー補正ゲインの算出前に、前記光強度検出画素または前記光強度検出画素と前記撮像画素を前記フリッカー検出第1画素と前記フリッカー検出第2画素に設定して、前記フリッカー検出部でフリッカー検出を行わせて、フリッカー検出後は前記フリッカー検出部で検出された周期を、前記光強度検出画素の露光期間に設定する
請求項5に記載の撮像装置。 - 前記制御部は、複数色成分画素からなる画素ブロックを前記撮像画素および前記光強度検出画素の画素単位として、
前記補正ゲイン算出部は、前記撮像画素および前記光強度検出画素を構成する画素ブロックの色成分画素の画素信号から算出した輝度値に基づいて前記フリッカー補正ゲインを算出する
請求項1に記載の撮像装置。 - 前記補正ゲイン算出部は、前記光強度検出画素の画素信号を用いて補間処理を行い、前記撮像画素と空間位相が等しい光強度検出画素の画素信号を生成して、前記撮像画素の画素信号と前記撮像画素と空間位相が等しい光強度検出画素の画素信号に基づいて前記撮像画素の画素毎にフリッカー補正ゲインを算出する
請求項1に記載の撮像装置。 - 前記補正ゲイン算出部は、フリッカー補正対象の撮像画素を基準とした水平方向および垂直方向の複数の撮像画素と光強度検出画素の画素信号に基づいて前記フリッカー補正対象の撮像画素のフリッカー補正ゲインを算出する
請求項8に記載の撮像装置。 - 前記撮像画素と前記光強度検出画素を隣接して設けた
請求項1に記載の撮像装置。 - 前記撮像画素と前記光強度検出画素を垂直方向に隣接して設けた
請求項10に記載の撮像装置。 - 前記光強度検出画素を間引いて配置して、
前記補正ゲイン算出部は、前記光強度検出画素の画素信号を用いて補間処理を行い前記撮像画素と空間位相が等しい光強度検出画素の画素信号を算出する
請求項1に記載の撮像装置。 - 前記補正ゲイン算出部で算出されたフリッカー補正ゲインを用いて前記撮像画素のフリッカー補正を行うフリッカー補正部をさらに備える
請求項1に記載の撮像装置。 - 撮像画を取得するための撮像画素と照明光の強度を検出するための光強度検出画素の露光タイミングと露光期間を個々に設定することと、
前記撮像画素で生成された画素信号と前記光強度検出画素で生成された画素信号に基づきフリッカー補正ゲインを算出することと、
前記算出されたフリッカー補正ゲインを用いて前記撮像画素のフリッカー補正を行うこと
を含むフリッカー補正方法。 - 撮像画のフリッカー補正をコンピュータで実行させるプログラムであって、
前記撮像画を取得するための撮像画素と照明光の強度を検出するための光強度検出画素の露光タイミングと露光期間を個々に設定する手順と、
前記撮像画素で生成された撮像画素信号と前記光強度検出画素で生成された照明光画素信号に基づきフリッカー補正ゲインを算出する手順と、
前記算出されたフリッカー補正ゲインを用いて前記撮像画素のフリッカー補正を行う手順と
を前記コンピュータで実行させるプログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017128797 | 2017-06-30 | ||
JP2017128797 | 2017-06-30 | ||
PCT/JP2018/018721 WO2019003675A1 (ja) | 2017-06-30 | 2018-05-15 | 撮像装置とフリッカー補正方法およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2019003675A1 JPWO2019003675A1 (ja) | 2020-04-30 |
JP7074136B2 true JP7074136B2 (ja) | 2022-05-24 |
Family
ID=64740707
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019526662A Active JP7074136B2 (ja) | 2017-06-30 | 2018-05-15 | 撮像装置とフリッカー補正方法およびプログラム |
Country Status (4)
Country | Link |
---|---|
US (1) | US11470263B2 (ja) |
JP (1) | JP7074136B2 (ja) |
CN (1) | CN110771149A (ja) |
WO (1) | WO2019003675A1 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11172142B2 (en) * | 2018-09-25 | 2021-11-09 | Taiwan Semiconductor Manufacturing Co., Ltd. | Image sensor for sensing LED light with reduced flickering |
WO2020241108A1 (ja) * | 2019-05-28 | 2020-12-03 | ソニーセミコンダクタソリューションズ株式会社 | 固体撮像素子 |
JP2021150877A (ja) * | 2020-03-23 | 2021-09-27 | ソニーセミコンダクタソリューションズ株式会社 | 撮像装置 |
CN111601047B (zh) * | 2020-04-28 | 2022-02-18 | 汕头大学 | 一种油液泄漏图像采集方法 |
CN112418002B (zh) * | 2020-11-05 | 2023-10-24 | 中国航空工业集团公司西安飞行自动控制研究所 | 一种无人机识别己方机场的方法 |
CN114019746A (zh) * | 2021-11-05 | 2022-02-08 | 资阳联耀医疗器械有限责任公司 | 一种led校准方法和系统 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017501627A (ja) | 2013-12-09 | 2017-01-12 | アップル インコーポレイテッド | 画像センサのフリッカ検出 |
US20170134634A1 (en) | 2014-03-19 | 2017-05-11 | Samsung Electronics Co., Ltd. | Photographing apparatus, method of controlling the same, and computer-readable recording medium |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007006049A (ja) * | 2005-06-23 | 2007-01-11 | Funai Electric Co Ltd | 固体撮像装置 |
JP5218239B2 (ja) * | 2009-04-14 | 2013-06-26 | ソニー株式会社 | 画像データ処理装置および撮像装置 |
JP2011097204A (ja) | 2009-10-28 | 2011-05-12 | Hitachi Consumer Electronics Co Ltd | 撮像装置 |
CN104104882B (zh) | 2013-04-09 | 2017-08-11 | 展讯通信(上海)有限公司 | 图像闪烁检测方法及装置、图像捕获设备 |
CN105208293B (zh) * | 2014-06-16 | 2020-03-27 | 杭州海康威视数字技术股份有限公司 | 数字摄像机的自动曝光控制方法及装置 |
US10491906B2 (en) | 2015-11-05 | 2019-11-26 | Mediatek Inc. | Method and apparatus for block prediction using variable block-size in image compression |
-
2018
- 2018-05-15 CN CN201880041840.9A patent/CN110771149A/zh active Pending
- 2018-05-15 WO PCT/JP2018/018721 patent/WO2019003675A1/ja active Application Filing
- 2018-05-15 US US16/625,166 patent/US11470263B2/en active Active
- 2018-05-15 JP JP2019526662A patent/JP7074136B2/ja active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017501627A (ja) | 2013-12-09 | 2017-01-12 | アップル インコーポレイテッド | 画像センサのフリッカ検出 |
US20170134634A1 (en) | 2014-03-19 | 2017-05-11 | Samsung Electronics Co., Ltd. | Photographing apparatus, method of controlling the same, and computer-readable recording medium |
Also Published As
Publication number | Publication date |
---|---|
US20210281737A1 (en) | 2021-09-09 |
JPWO2019003675A1 (ja) | 2020-04-30 |
WO2019003675A1 (ja) | 2019-01-03 |
CN110771149A (zh) | 2020-02-07 |
US11470263B2 (en) | 2022-10-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7074136B2 (ja) | 撮像装置とフリッカー補正方法およびプログラム | |
CN109076163B (zh) | 成像控制装置、成像控制方法以及成像装置 | |
WO2017175492A1 (ja) | 画像処理装置、画像処理方法、コンピュータプログラム及び電子機器 | |
JP7230824B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
WO2020230636A1 (ja) | 画像認識装置および画像認識方法 | |
JP2019004203A (ja) | 画像処理装置、撮像装置、画像処理方法、および、プログラム。 | |
WO2018110002A1 (ja) | 撮像装置、および、撮像装置の制御方法 | |
JP7144926B2 (ja) | 撮像制御装置、撮像装置、および、撮像制御装置の制御方法 | |
KR102493027B1 (ko) | 촬상 소자 및 그 구동 방법, 그리고 전자 기기 | |
US20170171444A1 (en) | Imaging setting changing apparatus, imaging system, and imaging setting changing method | |
CN110915204A (zh) | 图像处理装置、图像处理方法、程序和成像装置 | |
WO2018105187A1 (ja) | 撮像装置、撮像素子および撮像装置の制御方法 | |
WO2017169233A1 (ja) | 撮像処理装置、撮像処理方法、コンピュータプログラム及び電子機器 | |
WO2019167363A1 (ja) | 画像処理装置と画像処理方法およびプログラム | |
WO2020149094A1 (ja) | 撮像装置、撮像システムおよび故障検出方法 | |
CN113661700B (zh) | 成像装置与成像方法 | |
WO2017122395A1 (ja) | 画像データ処理回路および撮像回路 | |
WO2020049806A1 (ja) | 画像処理装置および画像処理方法 | |
JP2020017552A (ja) | 固体撮像素子、撮像装置、および、固体撮像素子の制御方法 | |
US20230101876A1 (en) | Rendering system and automated driving verification system | |
WO2022219874A1 (ja) | 信号処理装置および方法、並びにプログラム | |
WO2020166284A1 (ja) | 撮像装置 | |
WO2021192459A1 (ja) | 撮像装置 | |
TW201838405A (zh) | 攝像裝置、相機模組、攝像系統、及攝像裝置之控制方法 | |
WO2020100399A1 (ja) | 固体撮像素子、撮像装置、および、固体撮像素子の制御方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210412 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220412 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220425 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7074136 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |