JP7306535B2 - 撮像装置、撮像方法及びプログラム - Google Patents

撮像装置、撮像方法及びプログラム Download PDF

Info

Publication number
JP7306535B2
JP7306535B2 JP2022093881A JP2022093881A JP7306535B2 JP 7306535 B2 JP7306535 B2 JP 7306535B2 JP 2022093881 A JP2022093881 A JP 2022093881A JP 2022093881 A JP2022093881 A JP 2022093881A JP 7306535 B2 JP7306535 B2 JP 7306535B2
Authority
JP
Japan
Prior art keywords
exposure
image
exposure condition
imaging
under
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022093881A
Other languages
English (en)
Other versions
JP2022118085A (ja
Inventor
芳幸 加藤
智彦 村上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Publication of JP2022118085A publication Critical patent/JP2022118085A/ja
Application granted granted Critical
Publication of JP7306535B2 publication Critical patent/JP7306535B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Exposure Control For Cameras (AREA)
  • Image Processing (AREA)

Description

本発明は、撮像装置、撮像方法及びプログラムに関する。
撮像装置により撮像した画像から人の顔を検出し、顔認証を行う技術がある。撮像領域に明暗差がある場合であっても、顔検出、顔認証に適した画像を提供する装置が特許文献1に開示されている。
特許文献1に記載の発明では、検出された顔の領域の画像の輝度分布が顔認証の基準となる基準画像の輝度分布と同様となるように撮像装置の露出値を制御する。
特開2007-251558号公報
しかしながら、特許文献1に記載の発明では、例えば、撮像された画像内に検出された認証対象領域となる顔領域が複数あって、背景が明るい場所及び背景が暗い場所にそれぞれ顔領域がある場合には、一方の場所の顔領域の露出値を適切に制御できない。
そこで、本発明は、上記問題を解決するためになされたものであり、明るい場所暗い場所があるような場合に適切な露出条件で撮像できるようにすることを目的とする。
上記目的を達成するため、本発明に係る撮像装置は、第1の露出条件での撮像により取得した画像での輝度分布特性において分布がピークになる輝度値が所定の閾値を超えて低輝度側または高輝度側に偏った値になる場合にこの偏った方向に対応させた第2の露出条件を設定し、前記第1の露出条件での撮像と前記第2の露出条件での撮像とを所定の繰り返し周期で切り替える切替手段を備え、前記切替手段は、前記第1の露出条件での撮像により取得した画像に基づいて認識対象被写体が検出できた場合には、前記第2の露出条件での撮像により取得した画像に基づいて前記認識対象被写体が検出できた場合であっても前記第2の露出条件での撮像期間よりも前記第1の露出条件での撮像期間の方が長くなるように、前記第1の露出条件での撮像と前記第2の露出条件での撮像とを切り替える、ことを特徴とする。
また、本発明に係る撮像方法は、撮像装置が実行する撮像方法であって、第1の露出条件での撮像により取得した画像での輝度分布特性において分布がピークになる輝度値が所定の閾値を超えて低輝度側または高輝度側に偏った値になる場合にこの偏った方向に対応させた第2の露出条件を設定し、前記第1の露出条件での撮像と前記第2の露出条件での撮像とを所定の繰り返し周期で切り替える切替処理を含み、前記切替処理は、前記第1の露出条件での撮像により取得した画像に基づいて認識対象被写体が検出できた場合には、前記第2の露出条件での撮像により取得した画像に基づいて前記認識対象被写体が検出できた場合であっても前記第2の露出条件での撮像期間よりも前記第1の露出条件での撮像期間の方が長くなるように、前記第1の露出条件での撮像と前記第2の露出条件での撮像とを切り替える、ことを特徴とする。
また、本発明に係るプログラムは、撮像装置のコンピュータを、第1の露出条件での撮像により取得した画像での輝度分布特性において分布がピークになる輝度値が所定の閾値を超えて低輝度側または高輝度側に偏った値になる場合にこの偏った方向に対応させた第2の露出条件を設定し、前記第1の露出条件での撮像と前記第2の露出条件での撮像とを所定の繰り返し周期で切り替える切替手段として機能させ、前記切替手段は、前記第1の露出条件での撮像により取得した画像に基づいて認識対象被写体が検出できた場合には、前記第2の露出条件での撮像により取得した画像に基づいて前記認識対象被写体が検出できた場合であっても前記第2の露出条件での撮像期間よりも前記第1の露出条件での撮像期間の方が長くなるように、前記第1の露出条件での撮像と前記第2の露出条件での撮像とを切り替える、ことを特徴とする。
本発明によれば、明るい場所暗い場所あるような場合に適切な露出条件で撮像できるようにすることができる。
本発明の第1実施形態に係る顔認証システムを示す図である。 本発明の第1実施形態に係る顔認証システムの処理フローの概略を示す図である。 本発明の第1実施形態に係る画像処理装置のブロック図である。 本発明の第1実施形態に係る画像処理装置に撮像される画像の輝度分布を示す図であって、(a)は、通常の露出値で撮像される場合の輝度分布の図、(b)は、通常の露出値及びプラスの露出値で撮像される場合の輝度分布の図、(c)は、通常の露出値、プラスの露出値及びマイナスの露出値で撮像される場合の輝度分布の図である。 本発明の第1実施形態に係る画像処理装置のフレームの切り替えを示し、(a) は、通常の設定で撮像する場合、(b)は、通常及びプラスの露出値の露出設定で交互に撮像する場合、(c)は、通常の露出値、プラスの露出値及びマイナスの露出値の露出設定で交互に撮像する場合の図である。 本発明の第1実施形態に係る画像処理装置の露出補正処理1のフローチャートである。 本発明の第1実施形態に係る画像処理装置の露出追従処理のフローチャートである。 本発明の第1実施形態に係る画像処理装置の画像合成処理1のフローチャートである。 (a)は、通常の設定で撮像された画像、(b)は、プラスの露出値又はマイナスの露出値で撮像された画像、(c)は、画像合成処理1で出力される画像を示す図である。 本発明の第1実施形態に係る画像処理装置の画像合成処理2のフローチャートである。 図10で行われる顔の輝度分布の中心と輝度レベルの中心との距離の比較を示す図である。 画像合成処理2で出力される画像を示す図である。 本発明の第1実施形態に係る画像処理装置による画像を12ビットから8ビットに変換する例を示す図である。 本発明の第1実施形態に係る画像処理装置のガンマ補正のガンマカーブの例を示す図である。 本発明の第2実施形態に係る画像処理装置のフレームの切り替えを示し、(a) は、1フレーム毎にフレームを切り替える設定で撮像する場合、(b)は、第1の露出条件で4フレーム撮像した後に第2の露出設定で1フレーム撮像する場合の図である。 本発明の第2実施形態に係る画像処理装置の画像の合成方法を示す図である。 本発明の第2実施形態に係る画像処理装置の露出補正処理2のフローチャートである。
本発明の実施形態に係る画像処理装置について、以下、図面を参照して詳細に説明する。
本発明の実施形態に係る画像処理装置は、例えば、鉄道の駅にて、鉄道利用者の出勤時間と退勤時間とをデータマイニングするために、顔認証システムの顔認証装置に顔認証を行わせるための画像データを生成する。オフィスやイベントのセキュリティ等に使用することもできる。なお、画像に写る人物の数は、顔画像があまりに小さくなりすぎない限り特に制限はないが、以下の説明においては、説明を容易にするため、画像に写る人物は2人とする。
<第1実施形態>
[顔認証システムの構成]
図1に示すように、顔認証システム1は、画像処理装置10及び顔認証装置80を有する。画像処理装置10は、顔認証システム1の撮像範囲Lに存在する認証対象領域である人物100(101,102)の画像を撮像し、後述する露出補正処理1及び画像処理を行って顔認証に適した画像データを顔認証装置80に送信する。撮像範囲Lには、例えば、窓越しに屋外からの日光が入り込むエリアである高輝度領域200や、柱や駅を発着する電車により影が生じるエリアである低輝度領域300が生じる。これらの明暗差が大きくなる高輝度領域200や低輝度領域300にいる人物101,102に対しては、顔認証が正しく行えない場合がある。そこで、顔認証装置80が高輝度領域200にいる人物101とともに低輝度領域300にいる人物102の顔認証を行うことができるように、画像処理装置10によって、露出補正処理1、画像処理等を行って顔認証に適した画像データを提供する。
顔認証システム1で行われる処理の概略を図2に示して説明する。撮像装置に撮像された画像は12ビットのベイヤー画像であり、この画像を現像、階調補正して、8ビットに圧縮したYUV画像を生成する。生成された画像の顔検出は、画像処理装置10において行い、顔照合は、顔認証装置80において行う。
(画像処理装置の構成)
図3に示すように、画像処理装置10は、制御部20、記憶部30、撮像部40、通信部50、表示部60、入力部70、を備える。
制御部20は、CPU(Central Processing Unit)等で構成され、記憶部30に記憶されたプログラム等を実行することにより、後述する各部(露出設定部21、画像取得部22、輝度分布算出部23、判別部24,補正部25、画像加工部26、画像送信部27、操作部28)の機能を実現する。また、制御部20は、時計(図示せず)を有し、現在日時の取得や経過時間のカウント等をすることができる。
記憶部30は、ROM(Read Only Memory)、RAM(Random Access Memory)等で構成され、ROMの一部又は全部は電気的に書き換え可能なメモリ(フラッシュメモリ等)で構成されている。記憶部30は、機能的に、露出条件記憶部31と、画像記憶部32と、輝度分布記憶部33と、を有する。ROMには制御部20のCPUが実行するプログラム及びプログラムを実行する上で予め必要なデータが記憶されている。RAMには、プログラム実行中に作成されたり変更されたりするデータが記憶される。
露出条件記憶部31には、後述する露出設定部21が設定した露出条件が記憶されている。露出条件は、露出設定部21が設定するが、補正部25にて補正を行うこともでき、また、ユーザによって変更、追加することもできる。なお、露出条件には、常時、第1の条件が設定されており、初期設定では、通常状態の露出値EV0(被写体の明暗の反射率18%グレーの部分を正しく撮像する露出値)が設定されている。
画像記憶部32には、画像取得部22が取得した画像Vが記憶される。また、画像加工部26で加工を行った画像V1も記憶される。
輝度分布記憶部33には、輝度分布算出部23で算出した輝度分布Bが記憶される。
撮像部40は、撮像装置41、駆動装置42を有する。
撮像装置41は、本実施形態では、CMOS(Complementary Metal Oxide Semiconductor)カメラを備える。撮像装置41は、露出設定部21が設定した露出条件で画像Vを撮像する。画像Vは、ベイヤー画像であり、12ビットの分解能で出力される。
駆動装置42は、後述する操作部28の指示に従って、撮像装置41の位置を移動させて撮像範囲Lを調整する。
通信部50は、顔認証装置80や外部機器等と通信するためのモジュールである通信装置51を有する。通信装置51は、外部機器と通信する場合にはアンテナを含む無線モジュールである。例えば、通信装置51は、Bluetooth(登録商標)に基づく近距離無線通信を行うための無線モジュールである。通信部50を用いることにより、画像処理装置10は、顔認証装置80や外部機器と画像データ等の受け渡し等を行うことができる。
表示部60は、液晶表示パネル(LCD:Liquid Crystal Display)から構成された表示装置61を備える。
表示装置61としては、薄膜トランジスタ(TFT:Thin Film Transistor)、液晶、有機ELなどを採用できる。表示装置61には、画像V,V1、輝度分布算出部23が算出した画像Vの輝度分布B等が表示される。
入力部70は、表示部60と近接して、又は表示部60と一体に設けられた抵抗膜方式のタッチパネルである。タッチパネルは、赤外線操作方式や投影型静電容量方式等であってもよいし、入力部はタッチパネルで無くキーボード及びマウス等であってもよい。ユーザは、入力部70を介したマニュアル操作にて、表示部60に表示された輝度分布B を補正することができる。
次に、画像処理装置10の制御部20の機能的構成について説明する。制御部20は、露出設定部21、画像取得部22、輝度分布算出部23、判別部24,補正部25、画像加工部26、画像送信部27、操作部28、の機能を実現し、露出補正、露出追従、画像合成等を行う。
露出設定部21は、後述する輝度分布算出部23による画像Vの輝度分布Dの算出結果に基づき、撮像部40がモニタリング動画の撮像を行う際の露出条件の設定を行う。設定した露出条件は、露出条件記憶部31に記憶する。また、取得した画像Vから算出した輝度分布DのピークPが後述する所定の範囲Rにない場合、露出設定部21は、第2の条件を設定する。
画像取得部22は、露出設定部21が設定した露出条件で撮像部40にモニタリング動画を撮像させ、撮像されたモニタリング動画に含まれる画像Vを取得する。画像取得部22は、取得した画像Vを画像記憶部32に記憶する。
輝度分布算出部23は、画像取得部22が取得した画像Vから輝度分布D(輝度0パーセントから100パーセントを0から255に割り当てた数値の分布)を算出する。輝度分布算出部23は、算出した画像Vの輝度分布Dを輝度分布記憶部33に記憶する。
判別部24は、輝度分布算出部23が算出した輝度分布DのピークP(P1,P2,…)が所定の範囲R内にあるか、所定の範囲R未満にあるか、所定の範囲Rを超えるかを判別する。図4(a)から(c)の輝度分布図に示すように、本実施形態では、所定の範囲Rは、輝度レベル0-255を4分割した領域のうちの中央の2つの領域(MID_1及びMID_2)である、63-191の範囲である。ピークPがMID_1及びMID_2の領域にあれば、フレームを追加しなくても、画像Vは白飛びや黒つぶれの影響は小さい。
補正部25は、輝度分布算出部23が算出した輝度分布DのピークPが所定の範囲R内にある場合、ピークPを所定の範囲Rの中心に移動させるように補正を行う。補正方法は、後述する。
画像加工部26は、画像記憶部32に保存した画像Vの加工を行う。ある露出設定の画像V2内にある顔画像F2を、他の露出設定の画像V1内に合成して顔認証装置80が顔認識できる画像VA,VBを生成する。
画像送信部27は、取得された画像Vや加工された画像V1等を顔認証装置80に送信する。
操作部28は、撮像部40の撮像範囲Lを移動させるための指示を、駆動装置42に送信する。
以上、制御部20の機能的構成について説明した。以下、撮像された画像から取得された輝度分布が、図4(a)~(c)である場合を例として、画像処理装置10で行われる露出補正について具体的に説明する。
まず、図4(a)に示すように、輝度分布DのピークPが所定の範囲R(輝度レベル63-191)内にある場合、補正部25は、輝度分布DのピークPから、
Δ=127/P…(1)
を算出する。補正部25は、ΔをピークPに乗算し、ピークPを所定の範囲Rの中央に位置するように第1の条件を微修正し、画像V1を撮像する。この場合、追加フレームはなく、図5(a)に示すように、第1の露出条件である基準露出Refのフレームでの撮像のみが行われる。
次に、図4(b)に示すように、輝度分布DのピークP1が所定の範囲R未満にあり、ピークP2が所定の範囲R内にある場合、補正部25は、輝度分布DのピークP1から、上式(1)で求めたΔをピークP1に乗算し、ピークP1を所定の範囲R1の中央に位置するように露出値を増加させた第2の条件を設定する。撮像装置41は、図5(b)に示すように、第1の露出条件(基準露出Ref)及び第2の露出条件(Plus露出)の露出値によって、フレームを交互に切り替えて撮像を行う。なお、所定の範囲R外にあるピークP1が所定の範囲R未満ではなく、所定の範囲Rを超える場合には、第2の露出条件は、(1)式を使って露出値を減少させたものとなる。この場合、第2の露出条件は、Minus露出となり、図5(b)のPlus露出のフレームがMinus露出のフレームに置き換わることになる。つまり、基準露出RefとMinus露出のフレームで交互に撮像されることになる。
最後に、図4(c)に示すように、輝度分布DのピークP1が所定の範囲R未満にあり、ピークP2が所定の範囲Rを超える場合、補正部25は、輝度分布DのピークP1から、上式(1)で求めたΔをピークP1に乗算し、ピークP1を所定の範囲R1の中央に位置するように露出値を増加させた第2の露出条件を設定し、かつ、輝度分布DのピークP2から、上式(1)で求めたΔをピークP2に乗算し、ピークP2を所定の範囲R1の中央に位置するように露出値を減少させた第2の露出条件を設定する。撮像装置41は、図5(c)に示すように、第1の露出条件(基準露出Ref)及び2つの第2の露出条件(Plus露出及びMinus露出)の露出値によって、3つのフレームを順に切り替えて撮像を行う。
(顔認証装置)
顔認証装置80は、例えば、主成分分析を使った固有顔を顔認識のアルゴリズムとする装置である。顔認証装置80は、画像処理装置10から送信される画像データを用いて顔認証(2次元顔認証)を行う。
[画像処理装置で行われる各種処理]
次に、画像処理装置10で行われる露出補正処理1、露出追従処理、画像合成処理1,2についてフローチャートを用いて説明する。なお、露出補正処理1、露出追従処理、画像合成処理1,2は、平行して実行可能である。
(露出補正処理1)
図6を参照して、画像処理装置10で行われる露出補正処理1のフローを説明する。露出補正処理1によって、画像内の顔の検出状況に応じて、図5(a)~(c)に示すように、フレームの露出設定を切り替えて画像を撮像することができる。これにより、実質的なフレームレートの低下を抑えつつ(追加のフレームが不要な時には基準フレームのみで撮像を行う)、図1に示す明暗差が大きくなる高輝度領域200や低輝度領域300にいる人物101,102について、追加のフレームを必要に応じて使用することによって、顔認証装置80が顔認証をより正確に行うことができる。
まず、露出設定部21は、第1の条件(基準フレーム)の露出値EV(Exposure Value)0(絞り値F1、露光時間1秒とする)を設定し、露出条件記憶部31に記憶する(ステップS1)。
次に、画像取得部22は、露出条件記憶部31を参照し、露出条件記憶部31に記憶されている第1の露出条件にて撮像部40に撮像範囲Lの画像Vを撮像させる。ステップS12から戻ってきた場合、ステップS7及び/又はステップS9にてフレームを追加設定されているときには、前述の第1の露出条件及び第2の露出条件にて、図5(b)又は(c)に示すように、基準フレームと1つ又は2つの追加フレームとで交互又は順番に撮像させる(ステップS2)。
撮像部40の撮像装置41は、第1の露出条件にて撮像範囲Lの画像Vを撮像し、画像取得部22は、撮像された画像Vを取得する。画像取得部22は、取得した画像Vを画像記憶部32に記憶する。前段落同様に、フレームを追加設定されているときには、後述する第2の露出条件にて、追加フレームでも同様に撮像し、記憶する(ステップS3)。
輝度分布算出部23は、画像記憶部32を参照し、画像記憶部32に記憶された画像V の輝度分布Dを算出する。輝度分布算出部23は、算出した画像Vの輝度分布Dを輝度分布記憶部33に記憶する(ステップS4)。
輝度分布算出部23は、輝度分布DのピークP(P1,P2,…)を算出する(ステップS5)。
判別部24は、輝度レベル63未満であるピークPが存在するか否かを判別する(ステップS6)。輝度レベル63未満のピークPが存在する場合(ステップS6:Yes)、露出値を増加させた第2の露出条件の露出値のフレームを追加設定する。露出設定部21は、輝度分布DのピークPの輝度レベルから、前述の(1)式を満たすΔを算出し、Δを基準露出の輝度レベル127に乗算した値を第2の露出条件の露出値に設定し、露出条件記憶部31に第2の露出条件の露出値を記憶する(ステップS7)。その後、ステップS8に進む。
輝度レベル63未満のピークPが存在しない場合(ステップS6:No)、ステップS8に進む。
判別部24は、輝度レベル191を超えるピークPが存在するか否かを判別する(ステップS8)。輝度レベル191を超えるピークPが存在する場合(ステップS8:Yes)、露出値を減少させた第2の露出条件の露出値のフレームを追加設定する。露出設定部21は、輝度分布DのピークPから、(1)式のΔを算出し、Δを基準露出の輝度レベル127に乗算した値を第2の露出条件の露出値に設定し、露出条件記憶部31に第2の露出条件の露出値を記憶する(ステップS9)。その後、ステップS10に進む。
輝度レベル191を超えるピークPが存在しない場合(ステップS8:No)、ステップS10に進む。
判別部24は、追加フレームがあるか否かを判別する(ステップS10)。追加フレームがある場合(ステップS10:Yes)、ステップS12に進む。追加フレームがない場合(ステップS10:No)、ステップS11に進む。
ステップS11では、補正部25は、第1の露出条件における輝度レベルの中央値である輝度レベル127になるように、ステップS1で設定された露出値に上記(1)で算出したΔを乗算することにより第1の露出条件を補正し、ステップS12に進む。
終了する場合(ステップS12:Yes)、処理を終了し、終了しない場合(ステップS12:No)、ステップS2に戻る。
以上、露出補正処理1により、輝度分布算出部23が算出した輝度分布Dにおいて、所定の範囲R外に撮像した画像の輝度分布DのピークPが存在する場合に、露出設定部21はピークPの輝度レベルに応じた露出値の追加フレームを設定し、画像取得部22が基準露出及び追加露出のフレームで撮像された画像を取得するので、顔認証装置80に好適な画像データを送信することができる。また、追加フレームが設定された場合にも、基準露出フレームは設定されているので、顔画像の検出漏れの発生を抑制することができる。
(露出追従処理)
図7を用いて、露出追従処理について説明を行う。この処理は、フレーム毎の露出の変動速度を制御するものである。人間が鑑賞する動画であれば、フレームの連続性を重視するため、露出変化に対してフレーム毎の露出の変動幅に制限を設けている。一方、機械認証のための動画では、フレームの連続性よりも最適な露出にできるだけ早く変化させることを重視する。顔認証に適した画像がなるべく迅速に取得できることを目的とする。なお、露出追従は顔検出されている場合に行われるので、基準露出フレーム及び/又は追加フレームで顔検出がされている場合に本処理は実行される。
判別部24は、第1の条件で撮像を行っている、基準露出のフレームに顔が検出されているか否かを判別する(ステップS30)。基準露出のフレームに顔が検出されている場合(ステップS30:Yes)、現状の顔認証を優先させるために低速で露出値の追従を行い(ステップS31)、終了する。
基準露出のフレームに顔が検出されていない場合、すなわち追加フレーム内に顔が検出されている場合(ステップS30:No)、高速で露出値の追従を行い(ステップS32)終了する。
以上、この露出追従処理により、既に基準フレームで顔検出を行っている人物への追尾処理中にロストする等の好ましくない影響を減らしつつ、可能な限り早く露出の追従を行うことができる。
(画像合成処理1)
図8及び図9を用いて、画像合成処理1について説明を行う。露出補正処理1にて基準及び追加の露出条件で撮像された複数のフレーム(以下、基準及び追加の露出条件で撮像された複数のフレームは、単に、複数のフレーム、と記す。図面での表記も単に、複数のフレーム、と記載する。)で画像Vの撮像が行われている場合に、顔認証装置80に送信する画像を合成する処理である。
まず、図8において、判別部24は、撮像された画像Vで顔検出されているか否かを判別する(ステップS40)。画像Vで顔検出されている場合(ステップS40:Yes)、ステップS41に進む。
判別部24は、撮像装置41が複数のフレームで画像Vを撮像しているか否かを判別する(ステップS41)。撮像装置41が複数のフレームで撮像している場合(ステップS41:Yes)、ステップS42に進む。
ステップS42では,判別部24は、基準露出のフレームでは検出されず追加露出のフレームのみで検出された顔画像があるか否かを判別する。このために、判別部24は、追加露出フレームで検出された顔画像がそれぞれ基準露出フレームで検出された顔画像と一致するか否かを判別する。両フレームでの顔画像が一致するか否かは、両フレームでの顔画像の領域の特徴量を算出し、所定のアルゴリズムでマッチングを行う、あるいは、両フレームでの顔画像の特徴量の差分値を算出してこの値が一定範囲内であれば同一であると判断する、等の手法がある。追加露出フレームで検出された顔画像のうち、基準露出フレームで検出された顔画像と一致しないものが、ステップS42で求める顔画像である。なお、撮像対象が動かない、あるいは、ほぼ動かない場合には、顔画像等の位置を基準に一致するか否かを判別してもよい。
基準露出のフレームでは検出されず追加露出のフレームのみで検出された顔画像がない場合(ステップS42:No)、基準露出のフレームの画像を選択し顔認証装置80に送信して(ステップS43)、終了する。基準露出のフレームでは検出されず追加露出のフレームのみで検出された顔画像がある場合(ステップS42:Yes)、基準露出のフレームを選択し、画像加工部26は、追加露出のフレームでのみ検出された顔画像F2をトリミングし、基準露出のフレームに貼りあわせた画像V1を合成し、画像送信部27が画像V1を顔認証装置80に送信し(ステップS44)、終了する。図9を用いて例示すると、図9(a)に示す基準露出のフレームの画像V1内に検出されておらず、図9(b)に示す追加露出のフレームの画像V2内にのみ検出されている顔画像F2Aのみをトリミングし、画像V1に合成し、図9(c)に示す画像VAが得られ、この画像VAを顔認証装置80に送信する。
撮像画像で顔検出されていない場合(ステップS40:No)、及び、撮像装置41が複数のフレームで画像Vを撮像していない場合、つまり、基準露出のフレームのみで撮像している場合(ステップS41:No)、画像送信部27は基準露出のフレームの画像Vをそのまま顔認証装置に送信し(ステップS43)、終了する。
以上、画像合成処理1によって、基準露出のフレームでは検出できず追加露出のフレームでしか検出できなかった顔画像(対象物)のみを基準露出のフレームに貼りあわせる画像処理を実行する。これにより、顔認証装置80に送信するのは、基準露出のフレームによる画像とし、基準露出のフレームでは検出できなかった顔画像のみを基準露出のフレームによる画像に合成するので、送信する画像データを少なくすることができる。
(画像合成処理2)
図10を用いて、画像合成処理2について説明を行う。画像合成処理1では、顔画像が基準露出のフレームと追加露出のフレームとの両方で検出されている場合には、基準露出のフレームの顔画像を選択していた。一方、画像合成処理2では、顔画像が基準露出のフレームと追加露出のフレームとの両方で検出されている場合には、より良く顔画像が表現できている顔画像を選択(例えば、図11において、顔の輝度分布の中心Aが基準露出フレームの顔の輝度分布の中心Bよりも12ビットの輝度レベルの中心Cに近い追加露出フレームの顔画像を選択)する。顔の輝度分布の中心が12ビットの輝度レベルの中心Cに近い顔画像を選択することにより、より広い範囲の顔の輝度分布を送信する画像に反映させることができる。画像合成処理2は、例えば、基準露出フレームで図9(a)に示す画像V1が撮像され、追加露出フレームで図9(b)に示す画像V2が撮像された場合、図12に示す合成画像VBの顔画像FBには、図9(a)に示す顔画像F1A、図9(b)に示す顔画像F2Bのいずれを使用するかを判別する点において、画像合成処理1と異なっている。
ステップS40,41での処理は、画像合成処理1と同じである。判別部24は、撮像された画像Vで顔検出されているか否かを判別する(ステップS40)。画像Vで顔検出されている場合(ステップS40:Yes)、判別部24は、撮像装置41が複数のフレームで画像Vを撮像しているか否かを判別する(ステップS41)。撮像装置41が複数のフレームで撮像している場合(ステップS41:Yes)、ステップS52に進む。画像Vで顔検出されていない場合(ステップS40:No)、撮像装置41が複数のフレームで撮像していない場合(ステップS41:No)、終了する。
ステップS52では,判別部24は、基準露出フレーム及び追加露出フレームの両方で検出された顔画像があるか否かを判別する。このために、判別部24は、ステップS42同様に、追加露出フレームで検出された顔画像がそれぞれ基準露出フレームで検出された顔画像と一致するか否かを判別する。両フレームでの顔画像が一致するか否かを判別する手法は、ステップS42に記載の手法と同様である。基準露出フレーム及び追加露出フレームの両方で検出された顔画像がある場合(ステップS52:Yes)、ステップS53に進む。基準露出フレーム及び追加露出フレームの両方で検出された顔画像がない場合(ステップS52:No)、ステップS55に進む。
ステップS53では、判別部24は、基準露出フレーム及び追加露出フレームの両方で検出された顔画像の輝度分布の中心が、基準露出フレームでの輝度レベルの中心までよりも追加露出フレームでの輝度レベルの中心に近いか否かを判別する(ステップS53)。つまり、図11に例示されるような状態になっているか否かを判別する。検出された顔画像の輝度分布の中心が12ビットの分解能の場合の輝度レベルの中心に近いフレームの顔画像を選択する処理である。
基準露出フレーム及び追加露出フレームの両方で検出された顔画像の輝度分布の中心が、基準露出フレームでの12ビットの分解能の場合の輝度レベルの中心Cまでよりも追加露出フレームでの12ビットの分解能の場合の輝度レベルの中心Cに近い場合(ステップS53:Yes)、当該顔画像を追加露出フレームからトリミングし、基準露出フレームの画像に合成し(ステップS54)、ステップS55に進む。基準露出フレーム及び追加露出フレームの両方で検出された顔画像の輝度分布の中心が、基準露出フレームでの輝度レベルの中心までよりも追加露出フレームでの輝度レベルの中心に近くない(同一距離も含む)場合(ステップS53:No)、画像合成は行わずにステップS55に進む。
ステップS55では、判別部24は、基準露出のフレームでは検出されず追加露出のフレームのみで検出された顔画像があるか否かを判別する。このために、判別図24は、ステップS42,S52同様に、追加露出フレームで検出された顔画像がそれぞれ基準露出フレームで検出された顔画像と一致するか否かを判別する。両フレームでの顔画像が一致するか否かを判別する手法は、ステップS42に記載の手法と同様である。
ステップS55において、基準露出のフレームでは検出されず追加露出のフレームのみで検出された顔画像がある場合(ステップS55:Yes)、追加露出フレームのみで検出された顔画像をトリミングし、基準露出フレームで撮像された画像(ステップS53:Yesの場合は、一部に追加露出フレームで検出された顔画像が既に合成された画像)に合成し、顔認証装置80に送信し(ステップS57)、終了する。
基準露出のフレームでは検出されず追加露出のフレームのみで検出された顔画像がない場合(ステップS55:No)、画像送信部27は、現状の基準露出フレームで撮像された画像(ステップS53:Yesの場合は、一部に追加露出フレームで検出された顔画像が既に合成された画像)を顔認証装置80に送信し(ステップS56)、終了する。
以上、画像合成処理2によって、顔画像(対象物)が基準露出のフレームと追加露出のフレームとの両方で検出されている場合に、顔画像の輝度分布の中心が12ビットの分解能の場合の輝度レベルの中心に近いフレームでの顔画像を選択する。より良く顔画像が表現できている顔画像を選択することにより、顔認証の精度の向上が見込まれる。
<第2実施形態>
第1実施形態では、所定の範囲R外に、撮像した画像の輝度分布DのピークPが存在する場合に、基準露出のフレームと追加露出のフレームとで1フレームずつ交互に撮像を行っていたが、本実施形態では、基準露出のフレームと追加露出のフレームとで撮像を行う場合に、フレームの切り替えの頻度の調整を行う。
本実施形態においても、顔認証システム1の構成、画像処理装置10の構成は第1実施形態と同じである。露出補正処理1以外の第1実施形態で行われた各種処理も同様に行われる。但し、制御部20及び記憶部30に、一部機能が追加されている。以下、追加機能について説明する。
露出設定部21は、第2の露出条件を設定する場合に、第1の露出条件での撮像と第2の露出条件での撮像を切り替える頻度を設定する。第2の露出条件でのみ主要な被写体である顔画像が検出されるときには、図15(a)に示すように、第1の露出条件での撮像と第2の露出条件での撮像を1フレームずつ交互に切り替える。第1の露出条件及び第2の露出条件で同一の顔画像が検出されるときには、図15(b)に示すように、第1の露出条件で4フレーム撮像した後に第2の露出条件で1フレーム撮像を行うように切り替える。露出設定部21は、撮像を切り替える頻度も露出条件記憶部31に記憶する。なお、顔画像がいずれの露出条件で検出されたかは、判別部24が判別する。
判別部24は、第1の露出条件で撮像された画像内と、第2の露出条件で撮像された画像内と、に顔画像が確認できるか否かを判別する。判別結果を露出設定部21に送信する。
露出条件記憶部31には、本実施形態では、第2の露出条件として、露出値+2EVが設定されている。
以上、追加機能について説明した。以下、図4(b)、図15(a)、(b)及び図16を参照して、本実施形態での画像処理装置10で行われる露出補正について具体的に説明する。
図4(b)に示すように、輝度分布DのピークP1が所定の範囲R未満にあり、ピークP2が所定の範囲R内にある場合、撮像装置41は、図15(b)に示すように、第1の露出条件(基準露出Ref(0EV))及び第2の露出条件(Plus露出(+2EV))の露出値によって、フレームを切り替えて30fpsで撮像を行う。このとき、第2の露出条件でのみ主要な被写体である顔画像が検出されるときには、図15(a)に示すように、第1の露出条件での撮像と第2の露出条件での撮像を1フレームずつ交互に切り替える。顔画像は、第2の露出条件でのみ検出されているので、フレームレートは1/2に低下する。背景は、第1の露出条件で撮像されたものを選択して使用するので背景のフレームレートは1/2の15fpsに低下する。
第1の露出条件及び第2の露出条件で同一の顔画像が検出されるとき、又は、第2の露出条件では顔画像が検出されないときには、図15(b)に示すように、第1の露出条件で4フレーム撮像した後に第2の露出条件で1フレーム撮像するようにフレームを切り替えて30fpsで撮像する。第1の露出条件で5フレーム中4フレーム撮像しているので、基準フレームでのフレームレートは4/5に低下する。背景は、第1の露出条件で撮像されたものを選択して使用するので、背景のフレームレートは4/5の24fpsに低下する。第1実施形態で第1の露出条件及び第2の露出条件で撮像を行う場合、図15(a)の場合に比べて、基準フレームのフレームレートの低下を小さくすることができる。
図15(a)の場合も図15(b)の場合も、図16に示すように、第1の露出条件で撮像された顔画像及び背景に、第2の露出条件で撮像された顔画像について配置座標を対応させて合成し、MAP画像を生成し、それぞれの露出条件での撮像時に画像を更新する。
(露出補正処理2)
次に、第1実施形態で行われた露出補正処理1に代わって本実施形態で行われる露出補正処理2について、図17を参照して説明する。露出補正処理2によって、画像内の顔の検出状況に応じて、フレームの露出設定を切り替え、フレームの切り替え頻度を調整して画像を撮像することができる。なお、露出補正処理2では、説明の簡略化のため、第2の露出条件は、輝度レベル63未満であるピークPが存在する場合に設定される+2EVのみとする。
露出補正処理2において、ステップS1からステップS5では、露出補正処理1と同様の処理が行われ、ステップS60に進む。
ステップS60では、判別部24は、撮像範囲Lの画像Vの輝度分布Dに、例えば図4(b)又は(c)に示すような輝度レベル63未満であるピークPが存在するか否かを判別する。
輝度レベル63未満であるピークPが存在しない場合(ステップS60:No)、ステップS61に進む。
輝度レベル63未満のピークPが存在する場合(ステップS60:Yes)、露出設定部21は、露出値を増加させた第2の露出条件の露出値である+2EVのフレームを追加設定する。判別部24は、第2の露出条件で撮像されたフレームのみに顔が検出されているか否かを判別する(ステップS62)。
判別部24は、第2の露出条件で撮像されたフレームのみに顔が検出されている場合(ステップS62:Yes)、判別結果を露出設定部21に送信する。露出設定部21は、第1の露出条件での撮像と第2の露出条件での撮像を1フレームずつ交互に切り替えるように設定する(ステップS63)。設定後、ステップS61に進む。
判別部24は、第2の露出条件で撮像されたフレームに顔が検出されていない、又は第1及び第2の露出条件で撮像されたフレームに顔が検出されている場合(ステップS62:No)、判別結果を露出設定部21に送信する。露出設定部21は、第1の露出条件で4フレーム撮像した後に第2の露出条件で1フレーム撮像を行うように切り替えるように設定する(ステップS64)。設定後、ステップS61に進む。
終了する場合(ステップS61:Yes)、処理を終了し、終了しない場合(ステップS61:No)、ステップS2に戻る。
以上、露出補正処理2によって、輝度分布算出部23が算出した輝度分布Dにおいて、所定の範囲R未満(輝度レベル63未満)に撮像した画像の輝度分布DのピークPが存在する場合に、露出設定部21は露出値+2EVの追加フレームを設定し、追加露出のフレームのみで顔が検出されているか否かに応じてフレームの切り替え頻度を設定し、画像取得部22が基準露出及び追加露出のフレームで撮像された画像を取得する。追加露出のフレームのみで顔が検出されているときは、基準露出と追加露出とで1フレームずつ交互に撮像し、基準露出及び追加露出のフレームで同一の顔が検出されているとき及び追加露出フレームでは顔画像が検出されていないときは、追加露出での撮像の頻度を低くする(あるいは基準露出での撮像の頻度を高くする)。従って、第1実施形態よりさらに顔認証装置80に好適な画像データを送信することができる。また、追加フレームが設定された場合にも、基準露出フレームは設定されているので、顔画像の検出漏れの発生を抑制することができる。
(変形例)
上記各実施形態において、画像処理装置10は、12ビットのベイヤー画像を単純に8ビットに圧縮していたが、例えば、図13に示すように、顔の階調を最大化するような圧縮をしてもよい。輝度分布算出部23が輝度分布を算出した後、顔の輝度分布の中心Cを8ビットの輝度分布の中心に合わせ、顔の輝度分布の最小値A及び最大値Bから一定の計測誤差用の予備領域を確保したD点からE点までをリニアに変換するガンマテーブルを用いるとよい。また、図14に示すような、ガンマカーブ補正を施してもよい。また、図2において、ガンマ補正は、2段階の構成としてもよい。
上記各実施形態において、画像処理装置10は、顔認証装置80のために画像処理等を行っていたが、画像処理装置10は、人物検出や物体検知(車両等)する画像認証装置のために、顔を対象物とするのではなく人物や物体等を対象物とする画像処理等を行ってもよい。また、対象物と被写体とは、同一であってもよいし、例えば対象物は顔、被写体は人物であってもよい。
上記第1実施形態において、画像処理装置10は、図5(b)、(c)に示すように、1フレーム毎に交互にフレームを変更して撮像していたが、2フレーム、3フレームや5フレーム、あるいは、1秒、5秒や10秒毎に交互にフレームを変更して撮像してもよい。
また、上記各実施形態において、画像処理装置10は、合成した画像又はいずれかのフレームレートでの画像を顔認証装置80に送信したが、設定された全てのフレームレートでの画像を送信して、画像合成等の手間を省略してもよい。
上記各実施形態において、第2の露出条件は、所定の範囲Rの外に輝度分布のピークPが存在する場合に設定されたが、輝度分布のピークPが複数存在する場合に設定されてもよい。
上記各実施形態において、第1の露出条件は18%グレーであったが、撮像対象が暗い場所が多い又は明るい場所が多いときには、ユーザによって第1の露出条件を任意に設定してもよい。
また、上記各実施形態において、画像処理装置10は撮像部40を備えていたが、画像処理装置は撮像部を備えておらず、通信部50を介して制御可能な外部の撮像装置に接続されていてもよい。
上記各実施形態において、画像処理装置10は、2次元顔認証を行う顔認証装置80のための画像を生成したが、3次元顔認証を行う顔認証装置のための画像を生成してもよい。
また、上記各実施形態において、所定の範囲R外に画像VのピークPが存在する場合に追加フレームを設定していたが、画像VのピークPが複数存在する場合に追加フレームを設定する、画像Vのピークが見当たらない時に追加フレームを設定する、等の設定としてもよい。
上記第1実施形態において、Plus露出及びMinus露出は式(1)によって露出値を調整されていたが、ピークの分布中心との輝度レベルの値と輝度レベルの値の範囲の中心の値との差に応じて、露出値を変化させてもよい。あるいは、Plus露出及びMinus露出は、+3EVや-3EV等の予め設定された露出値としてもよい。
また、上記各実施形態において、画像合成処理1,2では、基準露出のフレームで撮像された画像に追加露出のフレームで撮像された画像からトリミングした顔画像を合成していたが、追加露出のフレームで撮像された画像に基準露出で撮像された顔画像等の対象物をトリミングして合成してもよい。
上記各実施形態において、基準露出のフレームで撮像された画像に追加露出のフレームで撮像された画像からトリミングした顔画像を合成して画像合成処理1,2等を行っていたが、画像合成を行わず、トリミングした顔画像等のファイルタグに座標情報を埋め込むことで対応してもよい。
上記第2実施形態において、第2の露出条件でのみ顔画像が検出されるときには、第1の露出条件での撮像と第2の露出条件での撮像を1フレームずつ交互に切り替え、第1の露出条件及び第2の露出条件で同一の顔画像が検出されるとき、及び第2の露出条件で顔画像が検出されないときには、第1の露出条件で4フレーム撮像した後に第2の露出条件で1フレーム撮像を行うように切り替えた。しかし、フレームの切替の頻度は、任意に設定することができる。例えば、第2の露出条件でのみ顔画像が検出されるときには、第1の露出条件で1フレーム撮像した後に第2の露出条件で4フレーム撮像を行うようにフレームを切り替えて、第2の露出条件に第1の露出条件よりも大きな比重を置くようにもしてもよい。あるいは、各露出条件での顔画像検出頻度等に応じてフレームの切替の頻度を算出してもよい。
また、上記第2実施形態において、第1の露出条件及び第2の露出条件で異なる顔画像が検出されるとき、及び第2の露出条件でのみ顔画像が検出されるときには、第1の露出条件での撮像と第2の露出条件での撮像を1フレームずつ交互に切り替え、第2の露出条件で顔画像が検出されないときには、第1の露出条件で4フレーム撮像した後に第2の露出条件で1フレーム撮像を行うように切り替えてもよく、他の条件によって、フレームの切替の頻度を変更するようにしてもよい。例えば、いずれかの露出条件で顔画像が所定の位置で検出されるときには、その露出条件で4フレーム撮像した後に他の露出条件で1フレーム撮像を行うようにフレームを切り替える、あるいは、いずれかの露出条件で顔画像が所定の大きさ以上で検出されるときには、その露出条件で4フレーム撮像した後に他の露出条件で1フレーム撮像を行うようにフレームを切り替える等してもよい。
上記第2実施形態において、第2の露出条件は+2EVとして設定されていたが、第2の露出条件は他の値を設定又は第1実施形態のような手法で算出してもよい。また、第1実施形態のように第2の露出条件が2つあってもよいし、あるいは第2の露出条件が3つ以上設定されていてもよい。また、露出補正処理2においてもステップS11同様のフレーム微調整が行われてもよい。逆に、露出補正処理1に、露出補正処理2の処理の一部又は全部が組み込まれていてもよい。
上記第2実施形態において、MAP画像の背景には、第1の露出条件で撮像された背景を使用したが、第2の露出条件で撮像された画像を背景に使用してもよい。背景が暗い又は明るい場合等には、第2の露出条件で撮像された画像を背景に使用したほう好ましい場合もある。
この発明の画像処理装置10の各機能は、通常のPC(Personal Computer)等のコンピュータによっても実施することができる。具体的には、上記実施形態では、画像処理装置10が行う露出補正処理1,2及び画像処理のプログラムが、記憶部30のROMに予め記憶されているものとして説明した。しかし、プログラムを、フレキシブルディスク、CD-ROM(Compact Disc Read Only Memory)、DVD(Digital Versatile Disc)及びMO(Magn eto-Optical Disc)等のコンピュータ読み取り可能な記録媒体に格納して配布し、そのプログラムをコンピュータに読み込んでインストールすることにより、上述の各機能を実現することができるコンピュータを構成してもよい。
以上、本発明の好ましい実施形態について説明したが、本発明は係る特定の実施形態に限定されるものではなく、本発明には、特許請求の範囲に記載された発明とその均等の範囲が含まれる。以下に、本願出願の当初の特許請求の範囲に記載された発明を付記する。
(付記)
(付記1)
モニタリング動画を撮像するための露出条件を設定する露出設定部と、
設定された前記露出条件で撮像された前記モニタリング動画に含まれる画像を取得する画像取得部と、
取得された前記画像から輝度分布を算出する輝度分布算出部と、を有し、
前記露出条件は、撮像装置に第1の露出値で前記画像を撮像させるための第1の露出条件と、前記撮像装置に前記第1の露出値よりも高い露出値で前記画像を撮像させる、及び、前記第1の露出値よりも低い露出値で前記画像を撮像させる、のうちの少なくとも一方のための第2の露出条件と、を含み、
前記露出設定部は、前記第1の露出条件を設定後に前記第1の露出条件で撮像された前記画像の輝度分布に基づいて、撮像するための前記露出条件として、前記第1の露出条件を設定するか、又は、前記第1の露出条件及び前記第2の露出条件を設定する、
画像処理装置。
(付記2)
前記露出設定部は、前記第1の露出条件で撮像された前記画像の輝度分布における輝度レベルの値のピークのうち1つ以上が所定の輝度レベルの値の範囲の外にある場合に、前記第2の露出条件を設定する、
付記1に記載の画像処理装置。
(付記3)
前記第2の露出条件は、前記ピークのうち1つ以上が前記所定の輝度レベルの値の範囲より低い範囲にある場合、前記第1の露出値よりも高い露出値で前記画像を撮像させる露出条件であり、前記ピークのうち1つ以上が前記所定の輝度レベルの値の範囲よりも高い範囲にある場合、前記第1の露出値よりも低い露出値で前記画像を撮像させる露出条件である、
付記2に記載の画像処理装置。
(付記4)
前記ピークの分布中心の輝度レベルの値と前記所定の輝度レベルの値の範囲の中心の値との差に応じて前記第2の露出条件の前記露出値を変化させる、
付記2又は3に記載の画像処理装置。
(付記5)
前記露出設定部は、前記第1の露出条件で撮像された前記画像の輝度分布が複数の輝度レベルの値のピークを有する場合に、輝度レベルの値のピークに基づいて前記第2の露出条件を設定する、
付記1に記載の画像処理装置。
(付記6)
前記第2の露出条件で撮像された前記画像に被写体が写っていない場合、又は、前記第1の露出条件及び前記第2の露出条件で撮像された前記画像の両方の画像に同一の被写体が写っている場合、前記第2の露出条件で撮像する頻度を低下させる、又は前記第1の露出条件で撮像する頻度を増加させる、
付記1から5のいずれか1つに記載の画像処理装置。
(付記7)
前記第2の露出条件で撮像された前記画像のみに被写体が写っている場合、前記第2の露出条件で撮像する頻度を増加させる、又は前記第1の露出条件で撮像する頻度を低下させる、
付記1から6のいずれか1つに記載の画像処理装置。
(付記8)
前記第1の露出条件で撮像した画像に前記第2の露出条件で撮像した画像を合成する補正部をさらに備える、
付記1から7のいずれか1つに記載の画像処理装置。
(付記9)
前記第1又は第2の露出条件のうちの一方の露出条件で撮像した画像に検出されず、前記第1又は第2の露出条件のうちの他方の露出条件で撮像した画像に検出されている対象物を、前記一方の露出条件で撮像した画像に合成する、
付記6又は7に記載の画像処理装置。
(付記10)
前記対象物は、前記被写体である、
付記9に記載の画像処理装置。
(付記11)
前記第1又は第2の露出条件のうちの一方の露出条件で撮像した画像に検出されず、前記第1又は第2の露出条件のうちの他方の露出条件で撮像した画像に検出されている第1の画像、及び前記第1の露出条件で撮像した画像に検出されておりかつ前記第2の露出条件で撮像した画像に検出されている第2の画像であって前記他方の露出条件で撮像した画像での前記第2の画像の輝度レベルのピークの値のほうが前記一方の露出条件で撮像した画像での前記第2の画像の輝度レベルのピークの値よりもそれぞれの露出条件での輝度レベルの中央値に近い前記第2の画像を、前記一方の露出条件で撮像した画像に合成する、
付記8に記載の画像処理装置。
(付記12)
露出条件を設定し、
設定された前記露出条件で撮像された画像を取得し、
取得された前記画像から輝度分布を算出し、
前記露出条件は、撮像装置に第1の露出値で前記画像を撮像させるための第1の露出条件と、前記撮像装置に前記第1の露出値よりも高い露出値で前記画像を撮像させる、及び、前記第1の露出値よりも低い露出値で前記画像を撮像させる、のうちの少なくとも一方のための第2の露出条件と、を含み、
前記第1の露出条件が設定された後に前記第1の露出条件で撮像された前記画像の輝度分布に基づいて、撮像するための前記露出条件として、前記第1の露出条件が設定されるか、又は、前記第1の露出条件及び前記第2の露出条件が設定される、
画像処理方法。
(付記13)
コンピュータに、
露出条件を設定し、
設定された前記露出条件で撮像された画像を取得し、
取得された前記画像から輝度分布を算出し、
前記露出条件は、撮像装置に第1の露出値で前記画像を撮像させるための第1の露出条件と、前記撮像装置に前記第1の露出値よりも高い露出値で前記画像を撮像させる、及び、前記第1の露出値よりも低い露出値で前記画像を撮像させる、のうちの少なくとも一方のための第2の露出条件と、を含み、
前記第1の露出条件が設定された後に前記第1の露出条件で撮像された前記画像の輝度分布に基づいて、撮像するための前記露出条件として、前記第1の露出条件が設定されるか、又は、前記第1の露出条件及び前記第2の露出条件が設定される、
ように機能させるためのプログラム。
(付記14)
露出条件を設定する露出設定部と、
設定された前記露出条件で撮像された画像を取得する画像取得部と、
取得された前記画像から輝度分布を算出する輝度分布算出部と、を有し、
前記露出条件は、撮像装置に第1の露出値で前記画像を撮像させるための第1の露出条件と、前記撮像装置に前記第1の露出値よりも高い露出値で前記画像を撮像させる、及び、前記第1の露出値よりも低い露出値で前記画像を撮像させる、のうちの少なくとも一方のための第2の露出条件と、を含み、
前記露出設定部は、前記第1の露出条件を設定し、その後前記第1の露出条件で撮像された前記画像の輝度分布に基づいて、前記第1の露出条件に加えて前記第2の露出条件を設定することにより1以上の前記露出条件を設定する、
画像処理装置。
1…顔認証システム、10…画像処理装置、20…制御部、21…露出設定部、22…画像取得部、23…輝度分布算出部、24…判別部、25…補正部、26…画像加工部、27…画像送信部、28…操作部、30…記憶部、31…露出条件記憶部、32…画像記憶部、33…輝度分布記憶部、40…撮像部、41…撮像装置、42…駆動装置、50…通信部、51…通信装置、60…表示部、61…表示装置、70…入力部、71…入力装置、80…顔認証装置、100,101,102…人物、200…高輝度領域、300…低輝度領域

Claims (4)

  1. 第1の露出条件での撮像により取得した画像での輝度分布特性において分布がピークになる輝度値が所定の閾値を超えて低輝度側または高輝度側に偏った値になる場合にこの偏った方向に対応させた第2の露出条件を設定し、前記第1の露出条件での撮像と前記第2の露出条件での撮像とを所定の繰り返し周期で切り替える切替手段を備え、
    前記切替手段は、前記第1の露出条件での撮像により取得した画像に基づいて認識対象被写体が検出できた場合には、前記第2の露出条件での撮像により取得した画像に基づいて前記認識対象被写体が検出できた場合であっても前記第2の露出条件での撮像期間よりも前記第1の露出条件での撮像期間の方が長くなるように、前記第1の露出条件での撮像と前記第2の露出条件での撮像とを切り替える、
    ことを特徴とする撮像装置。
  2. 前記切替手段は、前記第1の露出条件での撮像により取得した画像に基づいて前記認識対象被写体が検出できなかった場合であって前記第2の露出条件での撮像により取得した画像に基づいて前記認識対象被写体が検出できた場合には、前記第1の露出条件での撮像期間と前記第2の露出条件での撮像期間とが等しい長さとなるように、前記第1の露出条件での撮像と前記第2の露出条件での撮像とを切り替える、
    ことを特徴とする請求項1に記載の撮像装置。
  3. 撮像装置が実行する撮像方法であって、
    第1の露出条件での撮像により取得した画像での輝度分布特性において分布がピークになる輝度値が所定の閾値を超えて低輝度側または高輝度側に偏った値になる場合にこの偏った方向に対応させた第2の露出条件を設定し、前記第1の露出条件での撮像と前記第2の露出条件での撮像とを所定の繰り返し周期で切り替える切替処理を含み、
    前記切替処理は、前記第1の露出条件での撮像により取得した画像に基づいて認識対象被写体が検出できた場合には、前記第2の露出条件での撮像により取得した画像に基づいて前記認識対象被写体が検出できた場合であっても前記第2の露出条件での撮像期間よりも前記第1の露出条件での撮像期間の方が長くなるように、前記第1の露出条件での撮像と前記第2の露出条件での撮像とを切り替える、
    ことを特徴とする撮像方法。
  4. 撮像装置のコンピュータを、
    第1の露出条件での撮像により取得した画像での輝度分布特性において分布がピークになる輝度値が所定の閾値を超えて低輝度側または高輝度側に偏った値になる場合にこの偏った方向に対応させた第2の露出条件を設定し、前記第1の露出条件での撮像と前記第2の露出条件での撮像とを所定の繰り返し周期で切り替える切替手段として機能させ、
    前記切替手段は、前記第1の露出条件での撮像により取得した画像に基づいて認識対象被写体が検出できた場合には、前記第2の露出条件での撮像により取得した画像に基づいて前記認識対象被写体が検出できた場合であっても前記第2の露出条件での撮像期間よりも前記第1の露出条件での撮像期間の方が長くなるように、前記第1の露出条件での撮像と前記第2の露出条件での撮像とを切り替える、
    ことを特徴とするプログラム。
JP2022093881A 2019-09-24 2022-06-09 撮像装置、撮像方法及びプログラム Active JP7306535B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2019173594 2019-09-24
JP2019173594 2019-09-24
JP2020053725A JP7095714B2 (ja) 2019-09-24 2020-03-25 画像処理装置、画像処理方法及びプログラム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2020053725A Division JP7095714B2 (ja) 2019-09-24 2020-03-25 画像処理装置、画像処理方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2022118085A JP2022118085A (ja) 2022-08-12
JP7306535B2 true JP7306535B2 (ja) 2023-07-11

Family

ID=75271235

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2020053725A Active JP7095714B2 (ja) 2019-09-24 2020-03-25 画像処理装置、画像処理方法及びプログラム
JP2022093881A Active JP7306535B2 (ja) 2019-09-24 2022-06-09 撮像装置、撮像方法及びプログラム

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2020053725A Active JP7095714B2 (ja) 2019-09-24 2020-03-25 画像処理装置、画像処理方法及びプログラム

Country Status (3)

Country Link
US (1) US11297254B2 (ja)
JP (2) JP7095714B2 (ja)
CN (1) CN112637511B (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007201963A (ja) 2006-01-30 2007-08-09 Victor Co Of Japan Ltd 撮像装置
JP2017225084A (ja) 2016-06-17 2017-12-21 株式会社ニコン 撮像素子、電子機器、撮像方法、およびプログラム
JP2018160777A (ja) 2017-03-22 2018-10-11 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4867365B2 (ja) 2006-01-30 2012-02-01 ソニー株式会社 撮像制御装置、撮像装置および撮像制御方法
JP4957030B2 (ja) 2006-03-15 2012-06-20 オムロン株式会社 画像処理装置および画像処理方法、並びにプログラム
JP4656657B2 (ja) * 2006-07-31 2011-03-23 キヤノン株式会社 撮像装置及びその制御方法
JP5342274B2 (ja) * 2009-02-25 2013-11-13 株式会社メガチップス デジタルカメラの動作方法およびデジタルカメラ
JP5968068B2 (ja) * 2011-05-24 2016-08-10 キヤノン株式会社 露出制御を行う撮像装置、撮像装置の制御方法、プログラム及び記録媒体
JP2013021660A (ja) * 2011-07-14 2013-01-31 Sony Corp 画像処理装置、撮像装置、および画像処理方法、並びにプログラム
JP6120500B2 (ja) * 2012-07-20 2017-04-26 キヤノン株式会社 撮像装置およびその制御方法
CN109587407A (zh) * 2018-12-14 2019-04-05 广州华多网络科技有限公司 图像拍摄的曝光量调整方法、装置及计算机设备

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007201963A (ja) 2006-01-30 2007-08-09 Victor Co Of Japan Ltd 撮像装置
JP2017225084A (ja) 2016-06-17 2017-12-21 株式会社ニコン 撮像素子、電子機器、撮像方法、およびプログラム
JP2018160777A (ja) 2017-03-22 2018-10-11 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体

Also Published As

Publication number Publication date
US20210092274A1 (en) 2021-03-25
US11297254B2 (en) 2022-04-05
CN112637511B (zh) 2022-09-16
JP2021057875A (ja) 2021-04-08
JP2022118085A (ja) 2022-08-12
CN112637511A (zh) 2021-04-09
JP7095714B2 (ja) 2022-07-05

Similar Documents

Publication Publication Date Title
JP4561919B2 (ja) 撮像装置、画像処理装置及び画像処理方法
CN107636682B (zh) 图像采集装置及其操作方法
CN101534393B (zh) 对象图像检测装置、其控制方法及电子设备
US20140023247A1 (en) Image transmission device, image transmission method, image transmission program, image recognition and authentication system, and image reception device
US10237488B2 (en) Image capturing apparatus and image capturing method
US8755600B2 (en) Method and apparatus for determining the light direction
JP2012044415A (ja) 撮像装置及びその制御方法、並びにプログラム
JP2013058828A (ja) 笑顔判定装置及び方法
US20130163813A1 (en) Image processing apparatus and image processing method
US10171742B2 (en) Image capturing apparatus, method, and program with operation state determination based upon angular velocity detection
US20150102998A1 (en) Projection-type projector, anti-glare method, and program for anti-glare
US11394874B2 (en) Imaging apparatus
JP7306535B2 (ja) 撮像装置、撮像方法及びプログラム
US11310440B2 (en) Image processing apparatus, surveillance camera system, and image processing method
US9143684B2 (en) Digital photographing apparatus, method of controlling the same, and computer-readable storage medium
US11682368B1 (en) Method of operating a mobile device
JP5615012B2 (ja) 白バランス安定調整装置およびその制御方法,白バランス安定調整のためのプログラム
US11375132B2 (en) Imaging apparatus, method of controlling the imaging apparatus, and program
CN115037869A (zh) 自动对焦方法、装置、电子设备及计算机可读存储介质
JP6554009B2 (ja) 画像処理装置、その制御方法、プログラム及び記録媒体
JP2019153972A (ja) 撮像装置、撮像装置の制御方法、及び、プログラム
JP2013157675A (ja) 撮像装置及びその制御方法、プログラム、並びに記憶媒体
JP5393189B2 (ja) 撮像装置及び画像処理方法
US20210306556A1 (en) Image processing device, image processing method, and non-transitory recording medium
JP2015043603A (ja) 画像処理装置及びその制御方法、撮像装置及びその制御方法、並びにプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220622

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220622

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230530

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230609

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230612

R150 Certificate of patent or registration of utility model

Ref document number: 7306535

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150