JP4310317B2 - 可視成分割合算出方法、およびそれを用いた光学機器 - Google Patents

可視成分割合算出方法、およびそれを用いた光学機器 Download PDF

Info

Publication number
JP4310317B2
JP4310317B2 JP2006028923A JP2006028923A JP4310317B2 JP 4310317 B2 JP4310317 B2 JP 4310317B2 JP 2006028923 A JP2006028923 A JP 2006028923A JP 2006028923 A JP2006028923 A JP 2006028923A JP 4310317 B2 JP4310317 B2 JP 4310317B2
Authority
JP
Japan
Prior art keywords
component ratio
visible component
color
visible
signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006028923A
Other languages
English (en)
Other versions
JP2007208932A (ja
Inventor
俊介 千野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2006028923A priority Critical patent/JP4310317B2/ja
Priority to US11/670,000 priority patent/US7880805B2/en
Publication of JP2007208932A publication Critical patent/JP2007208932A/ja
Application granted granted Critical
Publication of JP4310317B2 publication Critical patent/JP4310317B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/11Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths for generating image signals from visible and infrared light wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Color Television Image Signal Generators (AREA)
  • Studio Devices (AREA)
  • Exposure Control For Cameras (AREA)
  • Blocking Light For Cameras (AREA)

Description

本発明は、可視波長領域から赤外波長領域の波長光を撮像して得られる撮像信号に基づいて、光源に含まれる波長成分の割合を算出する可視成分割合算出方法と、それを用いた撮像装置等の光学機器に関する。
可視波長領域から赤外波長領域まで撮影領域を拡張した撮像装置に関する従来例として、特許文献1に記載された「撮像装置」や特許文献2に記載された「撮影モード切換え機能付きカメラ」がある。これらは赤外カットフィルタの挿抜を自動的に行い、撮影モードを切り換える赤外/可視共用カメラに関するもので、撮像素子から得られる輝度信号と色信号に基づいて撮影モードを決定するとしている。
上記特許文献において、撮影モードの決定方法は、現在の撮影モードがカラー撮影モードの場合、輝度信号Yと予め設定された閾値Y2との大小判別によって撮影モードの決定を行う。また、白黒撮影モードの場合、輝度信号Yと予め設定された閾値Y1との大小判別によって撮影モードの決定を行っている。なお閾値Y1とY2は、Y1>Y2と設定することで、赤外カットフィルタの除去により輝度信号が増加し、カラー撮影モード→白黒撮影モード→カラー撮影モード・・・を繰返すハンチングを防止している。
さらに、現在の撮影モードが白黒撮影モードである場合、輝度信号のほかに色信号の分析を行い撮影モードの決定をしている。色信号の分析は、赤色信号/緑色信号及び青色信号/緑色信号の2つの色比を求め、2つの色比が規定した分布範囲内に入るか否かによって撮像信号が近赤外光によるものか否かを判断している。ここで撮像素子の色別の感度特性に着目すると、800[nm]付近から長波長に対しては、色の種類にかかわらずほぼ感度が同一になる特徴を有するため、撮像信号が近赤外光によるものの場合は、前記2つの色比が規定した分布範囲内に収まるとしている。撮像信号が近赤外光によるものと判断した場合、白黒撮影モードのままとする。
特許文献2に記載された「撮影モード切換え機能付きカメラ」においては、広域を撮像している場合、撮影画面全体の色信号としては平均化されてしまい、特徴点が抽出できなくなってしまう。そのため、撮影画面を複数のブロックに分け、ブロックごとに撮像信号が近赤外光によるものか否かの判断を行い、近赤外光であるブロックをカウントし、撮像信号が可視光によるものか近赤外光によるものかを判断している。
特開2000−224469号公報 特開2003−219254号公報
従来の赤外カットフィルタの挿抜を自動的に行うカメラでは、白熱灯や太陽光などの可視成分と赤外成分の両方を含む混合光源下において、赤外カットフィルタの除去時から挿入を行った後のカラー撮影画面の輝度が不安定となる問題がある。例えば、白熱灯光源下で緑色や青色の被写体を撮影していた場合、十分、被写体輝度が明るくなっても赤外光源下であると誤判断してしまい、カラー撮影モードに切り換わらなかったり、混合光源下でハンチングをしてしまう、等の問題である。
本発明は、上述の従来例における問題点を解消することを課題とする。
すなわち、本発明は、白熱灯、太陽光、赤外照明下等の可視成分と赤外成分の両方を含む混合光源下において、赤外カットフィルタの挿抜を安定して行うための波長成分割合算出方法、および、それを用いた撮像装置を提供することを課題とする。
上記の課題を解決するため、本発明の波長成分割合算出方法では、被写体像を撮像素子により撮像信号に変換し、該撮像信号から撮影画面中の複数の領域について色信号を生成し抽出し、前記抽出された複数の領域の色信号に基づいて、複数の領域毎に波長成分割合を算出し、前記算出された波長成分割合に基づいて可視成分割合が相対的に大きい1つ以上の領域を選択し、前記選択された領域の可視成分割合に基づいて所定の演算を行い、前記演算結果をもって、前記撮影画面の可視成分割合決定する。
上記の課題を解決するため、本発明の光学機器は、上述の波長成分割合算出方法で可視成分割合を算出する可視成分割合算出手段を有する。
本発明において好ましくは、前記複数の各領域のうち、輝度信号レベルが所定範囲内にある領域についてのみ前記選択を行う。または、前記選択の対象となる複数の各領域のうち、前記可視成分割合が最大である領域の可視成分割合を前記撮影画面の可視成分割合とする。あるいは、前記複数の各領域のうち、前記可視成分割合が所定数以上となる割合の値を前記撮影画面の可視成分割合とする。
本発明においては、前記複数の領域毎の波長成分割合及び可視成分割合を算出する際、前記撮像信号のホワイトバランスを調整するための色信号ゲインを固定値に設定することが好ましい。また、前記複数の領域毎の可視成分割合を、前記色信号を所定時間の間、平均した平均色信号を用いて算出することが好ましい。
上記従来例における問題は、上記従来例が650[nm]〜800[nm]までの赤外光源下か否かの検出、及び光源に含まれる可視成分と赤外成分の割合を算出できないために起きていた。
本発明の可視成分割合算出方法は、光源に含まれる可視波長領域から赤外波長領域の波長成分の割合を算出できる。また、撮影画面中の複数領域の中から波長成分の割合の算出を行うため、被写体の特徴点が周囲に埋もれることなく抽出でき、様々なシーンにおいても波長成分の割合を正確に算出することが可能となる。
したがって、赤外カットフィルタ切り換え機能付きカメラに、本発明に係る波長成分割合算出手段を備えることで、赤外カットフィルタを除去した状態において、赤外カットフィルタ挿入時の輝度を予測できる。そのため、撮影光源の種類にかかわらず赤外カットフィルタの自動挿抜を、ハンチングを起すことなく、適切なタイミングで行うことができる。
本発明の好ましい実施の形態に係る光学機器は、前記撮像信号から撮影画面中の複数の領域について色信号を生成し抽出する色信号抽出手段を有する。また、前記色信号抽出手段で抽出された複数の領域の色信号に基づいて、複数の領域毎に波長成分割合を検出する領域波長成分割合算出手段を有する。ここで、領域波長成分割合算出手段は、色座標系において、波長成分の割合に応じて、色信号の存在し得る範囲を設定する色座標範囲分割手段を有する。そして、該色座標領域分割手段で設定された色信号の存在し得る範囲と前記各領域の色信号の前記色座標系における位置とに基づいて、前記波長成分割合の算出を行う。
前記色座標範囲分割手段は、色信号の存在し得る範囲を、例えば、定義線もしくは規定座標との位置関係に基づき算出する。ここで、定義線は、色差信号R−Y、B−Yと輝度信号Yの比を2軸とする直交座標系における近赤外光の波長対位置座標軌跡を意味し、規定座標は、該直交座標系における可視光の波長対可視成分割合曲線上の位置座標を意味する。
前記選択は、前記複数の各領域のうち、輝度信号レベルが所定範囲内にある領域についてのみ行うことが好ましい。
また、撮影画面の可視成分割合としては、前記選択の対象となる複数の各領域のうち、前記可視成分割合が最大である領域の可視成分割合を採用する。あるいは、前記選択の対象となる複数の各領域のうち、前記可視成分割合が所定値以上の領域を選択し、その領域が所定数以上である場合、該所定値を前記撮影画面の可視成分割合としてもよい。
本発明の好ましい実施の形態において、前記光学機器は撮像装置である。この撮像装置は、さらに、前記撮像素子上に形成され、少なくとも可視波長領域から赤外波長領域の波長光を透過するカラーフィルタと、撮像光学系の光路上に設けられ特定波長帯を選別する波長帯選別手段(赤外線フィルタ)とを有する。また、前記波長帯選別手段を前記光路中から挿抜する挿抜手段と、被写体の輝度信号に応じて、前記挿抜手段を制御し、撮影モードの切り換えを行う撮影モード切り換え手段を有する。そして、前記画面可視成分割合算出手段からの可視成分割合と被写体輝度に応じて、撮影モードの切り換えを行うことを特徴とする。ここで、前記撮影モード切り換え手段は、前記画面可視成分割合算出手段からの可視成分割合に基づいて、被写体の輝度信号と撮影モードの切り換え閾値の少なくとも一つの補正を行う。
また、領域波長成分割合算出手段は、例えばホワイトバランスを調整するための色信号ゲインを固定値に設定して前記波長成分割合を算出する。また、色信号を所定時間の間、平均した平均色信号を用いて前記波長成分割合の算出を行う。
以下、本発明の実施例を、図面を用いて説明する。
[実施例1]
本発明の一実施例に係る撮像装置のブロック図を図1に示す。この撮像装置は、本発明の一実施例に係る可視成分割合算出方法を適用して可視光成分を算出し、赤外カットフィルの挿抜を行うものである。
図1において、撮像光学系1を介して撮像した被写体からの反射光は光路長補正フィルタ2を透過し、撮像素子カラーフィルタ4を介して撮像素子5に入射される。撮像素子5からのアナログ撮像信号はAGC7によって増幅され、A/D変換器8によってデジタル撮像信号に変換される。色分離マトリクス201は、A/D変換器8からの撮像信号を赤色信号R、青色信号B、緑色信号Gに分離する。WB回路202は色分離マトリクス201から入力された赤色信号R、青色信号B、緑色信号Gを用いてRゲイン及びBゲインを調整し、適切なホワイトバランスに調整する。色差マトリクス203は、適正なホワイトバランスに調整された赤色信号R、青色信号B、緑色信号Gを、色差信号R−Y、B−Y及び輝度信号Yに変換する処理部である。映像信号出力選択部205は、撮影モード判定部302によって決定された撮影モードがカラー撮影モードの場合は、色差信号R−Y、B−Y及び輝度信号Yを出力し、白黒撮影モードの場合は輝度信号Yのみを出力する。
画面可視成分割合算出部100は、映像信号処理回路200において得られる色差信号R−Y、B−Yを用いて波長成分の割合を算出する。画面可視成分割合算出部100は、映像信号処理回路200及びマイクロコンピュータ300における演算処理の一部で構成される。色分離マトリクス201〜色差マトリクス203の構成及び動作は前述したとおりである。
色差マトリクス203において変換された色差信号R−Y、B−Y、輝度信号Yは画面ブロック分割部204に入力される。画面ブロック分割部204は撮影画面中の色差信号R−Y、B−Y、輝度信号Yを複数の領域ごとに算出する処理部である。
ここで、画面ブロック分割部204において、撮影画面の分割数を増やし領域を細分化するほど、色差信号の抽出精度が向上する。図2に画面分割数の増加に伴う、各領域における抽出色の変化の様子を図示する。分割数が少ないと抽出される色は被写体の色と背景色との混合色となる。分割数が増えるにしたがって、被写体の色と背景色との分離が明確になっていき、分割数が十分な数に達すると被写体の色及び背景色を、純色または純色に近い混合色で抽出できるようになる。よって撮影画面中に含まれる被写体の色を正確に抽出できる確率を上げるには、撮影画面の分割数を増やし、可能な限り領域を細分化して色差信号を抽出することが望ましい。
図1の色差成分正規化部303は画面ブロック分割部204から入力されたブロックごとの色差信号(R−Y)ij、(B−Y)ijを輝度信号Yijで除算し、正規化する処理部である。色差信号が輝度信号に応じてばらついてしまうのを防止するための処理である。輝度によりばらつきが起こらず、色成分のみに基づいて色差信号が出力される場合には、省略することも可能である。添字ijは、i列j行のブロックの信号またはデータであることを示す。
波長成分割合算出部304は、入力された正規化色差信号(R−Y)ij/Yij、(B−Y)ij/Yij、WB回路202におけるホワイトバランスゲイン、およびメモリ305における格納データを参照して波長成分の割合を演算する。メモリ305には、可視成分の割合に応じた色差信号の分布範囲のデータが記憶され、波長成分の割合算出時に読み出される。時間的に平均された色信号に基づいて波長成分の割合を算出する場合には、過去数V(Vは1垂直偏向期間、すなわち1フレーム)間の色差信号もメモリ305に記憶される。可視成分輝度演算部301は、輝度信号Yと波長成分割合演算部304で演算された可視成分割合Pvから可視成分輝度Yvを演算する。演算された可視成分輝度Yvは、撮影モード判定部302に入力される。
撮影モード判定部302は、入力された可視成分輝度Yvとあらかじめ設定された撮影モード切り換え閾値YD、YNとを比較し、撮影モードを切り換えるか否かを決定する。撮影モード切り換え閾値YDは白黒撮影モードからカラー撮影モードへ切り換える閾値、YNはカラー撮影モードから白黒撮影モードへ切り換える閾値である。通常は、ハンチング防止のため、YNとYDはヒステリシスを持たせている。YD>YNである。
ヒステリシスを持たせただけの従来例では、白黒撮影モード時に可視成分割合が非常に少なく、且つヒステリシス以上の赤外成分を含む光源下においてはハンチングが発生してしまうという問題があった。本実施例では、後述する方法により、波長成分割合を算出して、白黒撮影モードからカラー撮影モードへの切り換えを行う。
映像信号出力選択部205において、撮影モード判定部302で決定された撮影モードがカラー撮影モードのときは、フィルタ駆動回路9は赤外カットフィルタ3を挿入し、映像信号出力選択部205はカラー映像を出力する。白黒撮影モードであるときは、フィルタ駆動回路9は、赤外カットフィルタ3を抜くとともに、映像信号出力選択部205は白黒映像を出力する。フィルタ駆動モータ6は、フィルタ駆動回路9からの信号に応じて赤外カットフィルタ3を挿抜する。
続いて、撮影モードの決定方法、及び、波長成分割合算出方法について説明する。
まず、撮影モードの決定方法を図3のフローチャートを用いて説明する。
撮影モード判定部302において、現在の撮影モードがカラー撮影モードか白黒撮影モードかの判定を行う(S101)。カラー撮影モードである場合、輝度信号Yとカラー撮影モードから白黒撮影モードへの切り換え閾値YNと比較する(S107)。輝度信号Yが白黒撮影モードへの切り換え閾値YN以下の状態が所定時間Twait経過後、赤外カットフィルタを抜き、白黒撮影モードへ切り換えを行う(S108、S109)。これが、白黒撮影モードからカラー撮影モードへの切り換え方法である。撮影モードの切り換えを行う際に所定時間Twaitの間、判定を行うのは、車のヘッドライトなどの突発的な光によるハンチング等の誤判定を防止するためである。
撮影モードが白黒撮影モードである場合、つまり白黒撮影モードからカラー撮影モードへの切り換え方法について説明する。まず、波長成分割合演算部304にて全波長域に対する可視成分割合Pvが演算される(S102)。波長成分割合算出方法に関しては後で詳しく説明する。可視成分輝度演算部301において、輝度信号Yと可視成分割合Pvを用いて、下式の可視成分輝度Yvを算出する(S103)。
Figure 0004310317
なお、本実施例においては、可視成分割合Pvを用いて可視成分割合Yvの算出を行ったが、波長成分割合算出部304において赤外成分割合Pirを算出し、
Figure 0004310317
のように可視成分輝度Yvを算出しても構わない。
撮影モード判定部302において、可視成分輝度Yvが白黒撮影モードからカラー撮影モードへの切り換え閾値YD以上であるかの判定を行う(S104)。可視成分輝度Yvがカラー撮影モード切り換え閾値以上の状態が所定時間Twait経過後、赤外カットフィルタを挿入し、カラー撮影モードへの切り換えを行う。
続いて、波長成分割合演算部304における波長成分割合算出方法について図4、図5、図6を用いて説明する。
図4−1は補色フィルタにおけるフィルタの分光特性を、図4−2は原色フィルタにおけるフィルタの分光特性を示す。補色フィルタ、原色フィルタともに波長がおおよそ820[nm]以上になると、補色ならCy、Ye、Mg、Gの感度、原色ならR、G、Bの感度がそれぞれ等しくなる。そのため、図5−1のように赤外光源下(おおよそ820[nm]以上)での被写体の色差信号はWBゲイン固定時には定点に集まる。
そこで、赤外光源下で、色差信号R−Y、B−Yと輝度信号Yの比がR−Y/Y軸とB−Y/Y軸とからなる直交座標系(以降、色座標系)において、原点にくるようにWBゲインを固定する。すると、赤外光源下での全ての被写体は色座標系において図5−1のように原点に集まり、可視光源下(400[nm]〜650[nm])では、被写体の色に応じてR、Ye、G、Cy、B、Mgが図5−2のように分布する。可視・赤外混合光源下では、可視光と赤外光の比に応じて、色信号の分布が変化する(図5−2)。つまり、可視成分の割合が大きいときは、色座標系の原点から遠くに分布する点が存在するが、赤外成分の割合が大きくなるにつれ、赤外成分が支配的になり、原点に寄っていく(図5−3)。本実施例においては、WBゲインを赤外光源下で原点にくるように固定したが、それに限ったものではなく、可視光源下での白が原点、太陽光源下など特定のWBゲインに固定されていればかまわない。
可視光源と赤外光源の混合比に応じた各色の分布範囲を図5−4に示す。本実施例では、図5−4のように可視成分に応じて、特定の領域内に全ての色が収まってしまう特徴を利用する。
すなわち、撮影画面をブロック分けし、ブロックごとに抽出色から可視成分割合を算出し、算出されたブロックごとの可視成分割合のうち、可視成分割合の多く算出されたブロックを撮影画面の可視成分割合とする。可視成分割合の最も多く算出されたブロックの可視成分割合を撮影画面の可視成分割合とすれば、撮影画面内の特徴点を見逃さずに可視成分割合を算出できる。
また、撮影画面内においてブロックごとで光源の種類が異なっている場合も考えられる。その場合には、以下の方法が有効である。すなわち、所定以上の可視成分割合が算出されたブロックが所定数以上になった場合、所定以上の可視成分割合を撮影画面の可視成分割合とする。可視成分割合の大きい複数のブロックの可視成分割合に基づき撮影画面の可視成分を決定する等の方法である。上記方法を用いれば、ブロックごとで光源の種類が異なっている場合にも撮影画面内の特徴点を見つけ、撮影画面の可視成分割合を算出することができる。
ここで、波長成分割合算出方法の流れを図6のフローチャートを用いて説明する。
まず、図5−3のような可視成分の割合に応じた色差信号R−Y、B−Yの分布範囲を求める(S201)。可視成分に割合に応じた色信号の分布範囲は、撮像素子のフィルタ特性、WBゲイン、色信号の種類などにより異なるため、各カメラの撮像系に応じてあらかじめデータ化してメモリ305に記憶しておく。今回は色信号として色差信号を用いたが、これに限ったものではなく、色差信号変換前の赤色信号R、青色信号Bに基づいてもかまわない。
ブロックごとの色信号からブロックごとに可視成分の割合を算出する(S203)。全てのブロックで可視成分の算出を行い、ブロックごとの可視成分のうち、可視成分の大きな領域のブロックの可視成分を画面全体の可視成分とする(S205)。
本実施例では色信号として色差信号を用いたが、これに限ったものではなく、色差信号変換前の赤色信号R、青色信号Bに基づいてもかまわない。
このときに輝度信号Yijが所定以下のブロック、極端に大きいブロックである場合には、ノイズ成分の影響が大きかったり、色差成分がきちんと算出されていなかったりする場合がある。そのため、極端に輝度信号の小さい、もしくは大きいブロックは除外し、輝度成分が所定範囲内にあるブロックのみを用いて判定することにより、より正確に可視成分の演算が行える。また、撮影モードの切り換え動作は低照度下で行われるため、AGCなどのゲインも多くかかっており、ノイズ成分も多く存在する。そのため、時間的に平均化することにより、ランダムノイズによる影響を軽減することが可能となる。
本実施例の方法によれば、可視成分の割合に応じて各色の分布範囲を分けることにより、従来技術のように可視光源下か赤外光源下かの選択ではなく、可視成分の割合を算出できる。また、最も可視成分の多く算出されたブロックの可視成分を撮影画面の可視成分とすることにより、撮影画面の中から特徴点を抽出しやすいため、可視成分を正確に算出することを可能となる。
[実施例2]
本実施例2は実施例1において異なる波長成分割合算出方法を用いて、波長成分を演算したものである。以下、実施例1と異なる部分についてのみ説明を行う。
定義線を用いて、近赤外光(650[nm]〜820[nm])の波長成分割合を算出する方法について図7−1、図7−2、図7−3を用いて説明する。
図7−1は単波長成分を照射したときの各波長における色差信号の分布を示している。このとき、WBゲインは固定されている。近赤外光源(650[nm]〜820[nm])下における被写体の色差信号は定義線Lir上にしか分布しない。可視光と近赤外光(650[nm]〜820[nm])の混合光源下における被写体は、近赤外光の割合が可視光に比べ、大きくなると、定義線Lirに集中していく(図7−2)。そのため、定義線Lirからの距離に応じて、近赤外光と可視光の割合を算出することが可能となる。また、近赤外光と可視光の比により色成分の分布範囲が決まってしまう。そのため、撮影画面をブロック分けし、ブロックごとに近赤外成分と可視成分の比を算出し、算出されたブロックごとの可視成分のうち、可視成分の多く算出されたブロックを撮影画面の可視成分とすることが可能となる。
実施例1と同様に、色信号R−Y、B−YはWBゲインよって値が異なるため、波長成分割合演算を行う場合には、WBゲインを固定にするか、WBゲインを考慮して行わねばならない。
ここで、定義線を用いた波長成分割合算出方法の流れを図8のフローチャートを用いて説明する。
まず、図7−3のような可視成分の割合に応じた色差信号R−Y、B−Yの分布範囲を求める(S301)。可視成分に割合に応じた色信号の分布範囲は、撮像素子のフィルタ特性、WBゲイン、色信号の種類などにより異なるため、各カメラの撮像系に応じてあらかじめデータ化してメモリ305に記憶しておく。今回は色信号として色差信号を用いたが、これに限ったものではなく、色差信号変換前の赤色信号R、青色信号Bに基づいてもかまわない。
ブロックごとの色信号からブロックごとに可視成分の割合を算出する(S303)。全てのブロックで可視成分の算出を行い、ブロックごとの可視成分のうち、可視成分の大きな領域のブロックの可視成分を画面全体の可視成分とする(S305)。ここで前述のように、可視成分割合の最も多く算出されたブロックの可視成分割合を撮影画面の可視成分割合とすれば、撮影画面内の特徴点を見逃さずに可視成分割合を算出できる。
また、撮影画面内においてブロックごとで光源の種類が異なっている場合も考えられる。その場合には、以下の方法が有効である。すなわち、所定以上の可視成分割合が算出されたブロックが所定数以上になった場合、所定以上の可視成分割合を撮影画面の可視成分割合とする。可視成分割合の大きい複数のブロックの可視成分割合に基づき撮影画面の可視成分を決定する等の方法である。上記方法を用いれば、ブロックごとで光源の種類が異なっている場合にも撮影画面内の特徴点を見つけ、撮影画面の可視成分割合を算出することができる。
本実施例2では色信号として色差信号を用いたが、これに限ったものではなく、色差信号変換前の赤色信号R、青色信号Bに基づいてもかまわない。
このときに輝度信号Yijが所定以下のブロック、極端に大きいブロックである場合には、ノイズ成分の影響が大きかったり、色差成分がきちんと算出されていなかったりする場合がある。そのため、極端に輝度信号の小さい、もしくは大きいブロックは除外し、輝度成分が所定範囲内にあるブロックのみを用いて判定することにより、より正確に可視成分の演算が行える。また、撮影モードの切り換え動作は低照度下で行われるため、AGCなどのゲインも多くかかっており、ノイズ成分も多く存在する。そのため、時間的に平均化することにより、ランダムノイズによる影響を軽減することが可能となる。
本実施例2の方法によれば、分布が定義線からの距離に基づき、各色の分布範囲を分けることにより、近赤外光源下(650[nm]〜820[nm])においても、従来技術のように可視光源下か赤外光源下かの選択ではなく、可視成分の割合を算出できる。また、最も可視成分の多く算出されたブロックの可視成分を撮影画面の可視成分とすることにより、撮影画面の中から特徴点を抽出しやすいため、可視成分を正確に算出することを可能となる。
[実施例3]
本実施例3は、実施例1における赤外光成分割合算出方法と実施例2における近赤外光成分割合算出方法との両者を用いて波長成分割合を演算するものである。そのため、実施例1、2と異なる部分についてのみ説明を行う。
実施例1、実施例2の方法を用いれば赤外光と可視光の比、近赤外光と可視光の比をそれぞれ図5−4、図7−3のように算出することができる。白熱灯光源下や太陽光源下のように、波長成分が可視光〜近赤外光〜赤外光のように連続している場合には、実施例1、実施例2の波長成分割合演算方法を併用することにより、可視成分の割合をより正確に算出することが可能となる。
本実施例3の波長成分割合算出方法を図10のフローチャートを用いて説明する。
まず実施例1の方法で赤外成分割合領域(820[nm]〜)を算出する(S401)。次に、実施例2の方法で近赤外成分割合領域を算出する(S402)。S403にて、可視成分の割合に応じた色差信号R−Y、B−Yの分布範囲を算出する。
色差信号の分布範囲の算出方法としては、可視成分の割合に応じて、色差信号の収束する範囲を算出する必要がある。そこで、図5−3、図7−4の赤外光、近赤外光による色差信号の分布範囲を算出を重ね合わせ、重なりあっている範囲には可視成分の少ない方の割合を適用する。このようにすると、可視成分の割合による色差信号の存在範囲は図9のようになる。色差信号の存在範囲の算出後、ブロックごとに色差成分の分布から、可視成分の割合を算出し、全てのブロックのうち可視成分の多く算出されたブロックの可視成分を画面全体の可視成分とする(S104、S105、S106、S107)。
なお、本実施例3では色信号として色差信号を用いたが、これに限ったものではなく、色差信号変換前の赤色信号R、青色信号Bに基づいてもかまわない。輝度信号Yijが所定以下のブロック、極端に大きいブロックである場合には、ノイズ成分の影響が大きかったり、色差成分がきちんと算出されていなかったりする場合がある。そのため、極端に輝度信号の小さいか、または大きいブロックは除外し、輝度成分が所定範囲内にあるブロックのみを用いて判定することにより、より正確に可視成分の演算が行える。また、撮影モードの切り換え動作は低照度下で行われるため、AGCなどのゲインも多くかかっており、ノイズ成分も多く存在する。そのため、時間的に平均化することにより、ランダムノイズによる影響を軽減することが可能となる。
本実施例3の方法によれば、近赤外成分(650[nm]〜820[nm])、赤外成分(820[nm]〜)各々に、可視成分の割合に応じて色信号の分布する範囲を設定する。そして、ブロックごとに算出された可視成分の割合のうち可視成分の大きなものを画面全体の可視成分とすることにより画面全体の可視成分を算出できる。そのため、白熱灯や太陽光のように可視光〜近赤外光〜赤外光ように連続している光源下においても可視光成分を正確に算出し、撮影モード切り換えにおける誤動作を防止することが可能となる。
本発明の一実施例に係る撮像装置の回路構成を示すブロック図である。 画面分割数による色差信号の抽出精度を説明する図である。 本発明の実施例1に係る撮影モード切り換えフローチャートである。 補色カラーフィルタの分光透過特性図である。 原色カラーフィルタの分光透過特性図である。 赤外光源下における色信号の分布の説明図である。 可視光源下における色信号の分布の説明図である。 可視光・赤外光混合光源下における色信号の分布の説明図である。 可視光・赤外光の比に応じた色成分の分布範囲の説明図である。 可視光・赤外光混合光源下における可視成分算出フローチャートである。 近赤外光源下における色信号の分布の説明図である。 可視光・近赤外混合光源下における色信号の分布の説明図である。 可視光・近赤外光の比に応じた色成分の分布範囲の説明図である。 可視光・近赤外光混合光源下における可視成分算出フローチャートである。 可視光・近赤外光・赤外光の比に応じた色成分の分布範囲の説明図である。 可視光・近赤外光・赤外光混合光源下における可視成分算出フローチャートである。
符号の説明
1 撮像光学系
2 光路長補正フィルタ
3 赤外カットフィルタ
4 撮像素子カラーフィルタ
5 撮像素子
6 フィルタ駆動モータ
7 AGC
8 A/D変換器
9 フィルタ駆動回路
100 画面可視成分割合算出部
200 映像信号処理回路
201 色分離マトリクス
202 WB回路
203 色差マトリクス
204 画面ブロック分割部
205 映像信号出力選択部
300 マイクロコンピュータ
301 可視成分輝度演算部
302 撮影モード判定部
303 色差成分正規化部
304 波長成分割合算出部
305 メモリ

Claims (13)

  1. 被写体像を撮像素子により撮像信号に変換し、
    該撮像信号から撮影画面中の複数の領域について色信号を生成し抽出し、
    前記抽出された複数の領域の色信号に基づいて、複数の領域毎に波長成分割合を算出し、
    前記算出された波長成分割合に基づいて可視成分割合が相対的に大きい1つ以上の領域を選択し、前記選択された領域の可視成分割合に基づいて所定の演算を行い、前記演算結果をもって、前記撮影画面の可視成分割合決定する、
    ことを特徴とする可視成分割合算出方法。
  2. 前記複数の域のうち、輝度信号レベルが所定範囲内にある領域についてのみ前記選択を行うことを特徴とする請求項1に記載の可視成分割合算出方法。
  3. 前記選択された領域のうち、前記可視成分割合が最大である領域の可視成分割合を前記撮影画面の可視成分割合と決定することを特徴とする請求項1または2に記載の可視成分割合算出方法。
  4. 前記選択された領域のうち、前記可視成分割合が所定割合以上となる領域の割合の値を前記撮影画面の可視成分割合と決定することを特徴とする請求項1または2に記載の可視成分割合算出方法。
  5. 前記複数の領域毎の波長成分割合及び可視成分割合を算出する際、前記撮像信号のホワイトバランスを調整するための色信号ゲインを固定値に設定することを特徴とする請求項1〜4のいずれか1つに記載の可視成分割合算出方法。
  6. 前記複数の領域毎の可視成分割合を、前記色信号を所定時間の間、平均した平均色信号を用いて算出することを特徴とする請求項1〜5のいずれか1つに記載の可視成分割合算出方法。
  7. 前記請求項1〜6の方法で可視成分割合を算出する可視成分割合算出手段を有する光学機器。
  8. 前記可視成分割合算出手段は、色座標系において、波長成分の割合に応じて、色信号の存在し得る範囲を設定する色座標範囲分割手段を有し、該色座標領域分割手段で設定された色信号の存在し得る範囲と前記各領域の色信号の前記色座標系における位置とに基づいて、前記波長成分割合の算出を行うことを特徴とする請求項7に光学機器。
  9. 前記色座標範囲分割手段における色信号の存在し得る範囲は、色差信号R−Y、B−Yと輝度信号Yの比を2軸とする直交座標系における近赤外光の波長対位置座標軌跡または前記直交座標系における可視光の波長対可視成分割合曲線との位置関係に基づき算出されることを特徴とする請求項8に記載の光学機器。
  10. ホワイトバランス調整手段を有し、前記領域波長成分割合算出手段は、前記ホワイトバランスを調整するための色信号ゲインを固定値に設定して前記波長成分割合を算出することを特徴とする請求項7〜9のいずれか1つに記載の光学機器。
  11. 前記可視成分割合算出手段は、色信号を所定時間の間、平均した平均色信号を用いて前記波長成分割合の算出を行うことを特徴とする請求項7〜10のいずれか1つに記載の光学機器。
  12. 特定波長帯の光を選別透過または遮光する光学フィルタと、
    前記撮像光学系の光路に対し前記光学フィルタを挿抜する挿抜手段と、
    前記挿抜手段を制御し、撮影モードの切り換えを行う撮影モード切り換え手段と
    を有し、
    前記撮影モード切り換え手段は、前記可視成分割合算出手段から出力される可視成分割合と前記被写体の輝度信号とに応じて、前記撮影モードの切り換えを行うことを特徴とする請求項7〜11のいずれか1つに記載の光学機器。
  13. 前記撮影モード切り換え手段は、前記画面可視成分割合算出手段からの可視成分割合に基づいて、被写体の輝度信号と撮影モードの切り換え閾値の少なくとも一方の補正を行うことを特徴とする請求項12に記載の光学機器。
JP2006028923A 2006-02-06 2006-02-06 可視成分割合算出方法、およびそれを用いた光学機器 Expired - Fee Related JP4310317B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2006028923A JP4310317B2 (ja) 2006-02-06 2006-02-06 可視成分割合算出方法、およびそれを用いた光学機器
US11/670,000 US7880805B2 (en) 2006-02-06 2007-02-01 Method of calculating ratio of visible light component and image pickup apparatus using same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006028923A JP4310317B2 (ja) 2006-02-06 2006-02-06 可視成分割合算出方法、およびそれを用いた光学機器

Publications (2)

Publication Number Publication Date
JP2007208932A JP2007208932A (ja) 2007-08-16
JP4310317B2 true JP4310317B2 (ja) 2009-08-05

Family

ID=38333649

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006028923A Expired - Fee Related JP4310317B2 (ja) 2006-02-06 2006-02-06 可視成分割合算出方法、およびそれを用いた光学機器

Country Status (2)

Country Link
US (1) US7880805B2 (ja)
JP (1) JP4310317B2 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4630781B2 (ja) * 2005-09-26 2011-02-09 キヤノン株式会社 波長成分の割合検出装置及びそれを用いた撮像装置
JP2008005253A (ja) * 2006-06-22 2008-01-10 Sharp Corp 撮影装置、撮影装置の制御方法、撮影装置の制御プログラム、および撮影装置の制御プログラムを記録した記録媒体
US8259203B2 (en) * 2007-12-05 2012-09-04 Electro Scientific Industries, Inc. Method and apparatus for achieving panchromatic response from a color-mosaic imager
JP6071440B2 (ja) * 2012-01-27 2017-02-01 キヤノン株式会社 撮像装置及びその制御方法
JP6231284B2 (ja) * 2013-02-21 2017-11-15 クラリオン株式会社 撮像装置
JP5775918B2 (ja) * 2013-09-27 2015-09-09 オリンパス株式会社 撮像装置、画像処理方法及び画像処理プログラム
JP6650691B2 (ja) * 2015-07-02 2020-02-19 キヤノン株式会社 撮像装置
JP7305401B2 (ja) * 2018-09-06 2023-07-10 キヤノン株式会社 画像処理装置、画像処理装置の作動方法、及びプログラム
CN113155292A (zh) * 2021-03-30 2021-07-23 新疆爱华盈通信息技术有限公司 人脸测温方法、人脸测温仪及存储介质

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05103330A (ja) * 1991-10-04 1993-04-23 Matsushita Electric Ind Co Ltd カラー固体撮像装置
US6449013B1 (en) * 1993-10-27 2002-09-10 Canon Kabushiki Kaisha Image pickup apparatus capable of taking color natural images and high-resolution images of a monochrome object
JP3583952B2 (ja) * 1999-08-04 2004-11-04 三洋電機株式会社 白黒/カラー切換カメラ
JP4453189B2 (ja) * 2000-10-31 2010-04-21 株式会社豊田中央研究所 撮像装置
JP2003219254A (ja) * 2002-01-25 2003-07-31 Matsushita Electric Ind Co Ltd 撮影モード切換え機能付きカメラ
JP4311988B2 (ja) * 2003-06-12 2009-08-12 アキュートロジック株式会社 固体撮像素子用カラーフィルタおよびこれを用いたカラー撮像装置
JP4630781B2 (ja) * 2005-09-26 2011-02-09 キヤノン株式会社 波長成分の割合検出装置及びそれを用いた撮像装置

Also Published As

Publication number Publication date
JP2007208932A (ja) 2007-08-16
US7880805B2 (en) 2011-02-01
US20070182836A1 (en) 2007-08-09

Similar Documents

Publication Publication Date Title
JP4310317B2 (ja) 可視成分割合算出方法、およびそれを用いた光学機器
US7623167B2 (en) Wavelength component proportion detection apparatus and image-pickup apparatus
US11310435B2 (en) Image pickup apparatus having auto day-night function, control method therefor, and storage medium storing control program therefor
US10313589B2 (en) Imaging device having an image mode set according to a filter
CN100431340C (zh) 固态成像设备
EP2775719A1 (en) Image processing device, image pickup apparatus, and storage medium storing image processing program
US8243164B2 (en) Method, apparatus, and system for selecting pixels for automatic white balance processing
US20070159537A1 (en) Imaging apparatus and method
US7880783B2 (en) Image pickup apparatus and method
US20080036870A1 (en) Digital camera
JP2006311044A (ja) 撮像装置
JP5814799B2 (ja) 画像処理装置及び画像処理方法
US9105105B2 (en) Imaging device, imaging system, and imaging method utilizing white balance correction
JP2013242686A (ja) 信号機検出装置及び信号機検出方法
JP2007166028A (ja) 露出量制御装置および露出量制御方法
JP2011087136A (ja) 撮像装置および撮像システム
JP2003189189A (ja) ビデオカメラ
JP2012095223A (ja) 撮像装置、撮像方法及びプログラム
JPH07284118A (ja) ビデオカメラのホワイトバランス装置
CN112770021B (zh) 摄影机与滤片切换方法
JP2008153848A (ja) 画像処理装置
JP2006166342A (ja) 撮像装置、および、撮像システム
US20050253941A1 (en) Image processing circuit, image processing method, and camera device
JP2008153834A (ja) 画像処理装置
JP6011146B2 (ja) 画像処理装置、撮像装置、および画像処理プログラム

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080418

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080514

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080710

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20090406

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090428

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090511

R150 Certificate of patent or registration of utility model

Ref document number: 4310317

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120515

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120515

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130515

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140515

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees