JP6309111B2 - 撮像条件を検出するための方法および装置 - Google Patents

撮像条件を検出するための方法および装置 Download PDF

Info

Publication number
JP6309111B2
JP6309111B2 JP2016566881A JP2016566881A JP6309111B2 JP 6309111 B2 JP6309111 B2 JP 6309111B2 JP 2016566881 A JP2016566881 A JP 2016566881A JP 2016566881 A JP2016566881 A JP 2016566881A JP 6309111 B2 JP6309111 B2 JP 6309111B2
Authority
JP
Japan
Prior art keywords
image
camera
imaging
brightness
exposure
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016566881A
Other languages
English (en)
Other versions
JP2017520147A (ja
Inventor
コンチャオ ワン
コンチャオ ワン
ジャンウェイ リ
ジャンウェイ リ
ホー ヤン
ホー ヤン
Original Assignee
ノキア テクノロジーズ オーユー
ノキア テクノロジーズ オーユー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ノキア テクノロジーズ オーユー, ノキア テクノロジーズ オーユー filed Critical ノキア テクノロジーズ オーユー
Publication of JP2017520147A publication Critical patent/JP2017520147A/ja
Application granted granted Critical
Publication of JP6309111B2 publication Critical patent/JP6309111B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/45Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/40Analysis of texture
    • G06T7/49Analysis of texture based on structural texture description, e.g. using primitives or placement rules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/72Combination of two or more compensation controls
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/951Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Computing Systems (AREA)
  • Studio Devices (AREA)
  • Exposure Control For Cameras (AREA)
  • Cameras In General (AREA)

Description

発明の分野
本発明の諸実施形態は画像処理の分野に関し、さらに具体的には、撮像条件を検出するための方法および装置に関する。
発明の背景
より高い品質を有する画像を取り込むために、デュアルカメラ構成が提案されてきた。かかる構成において、携帯電話などのユーザ装置は一つの側に2つのカメラを備えることが可能である。例えば、一つのカメラは白黒カメラとし、他方のカメラをカラーカメラとするとよい。同じ照度条件の下では、白黒カメラの露光量は、カラーカメラよりもかなり大きいことが判明している。しかして、白黒カメラは、低光度条件の下でもなお適切な露光量に達することが可能である。白黒カメラによって取り込まれた画像とカラーカメラによって取り込まれた画像とを融合することによって、最終的な画像の品質は、単一のカメラを使って取り込まれた画像よりも見た目に優れたものになろう。
デュアルカメラ構成は、当初、低光度条件における画像取り込みのために提案されたが、かかる構成は他の撮像条件においても同様に使用が可能である。相異なるカメラによって取り込まれた画像を融合する場合、相異なる撮像条件に対して相異なる処理を実施する、および/または相異なる処理パラメータを選ぶ必要がある。例えば、標準光度条件の下では、画像の解像度を向上させるために、融合において超解像処理を適用することが可能である。しかしながら、低光度条件の下では、2つのカメラによって取り込まれた画像の明度の間には比較的に大きなギャップがあるため、超解像処理を実施できない。言い換えれば、デュアルカメラ構成を使って画像を取り込む場合、撮像条件を判定することによってより良い後処理を行うことが可能である。
実際面で、ユーザに手動で撮像条件を設定するのを要求するのは実現困難である。まず、これはユーザの負担を大きく増加し、ユーザ体験をくじくことになる。さらに、アマチュアのユーザにとって、撮像条件を設定することはほぼ不可能である。いくつかの従来のソリューションは、カメラのハードウェアパラメータを読み取ることによって撮像条件を検出する。例えば、環境中の照度は、シーン反射度に基づいて検出することが可能である。しかしながら、かかる照度検出は極めてノイズ感受性が高く、検出結果の不安定性をもたらす。さらに、全てのカメラが、照度検出に必要なハードウェアを備えているものでもない。また、撮像プロセスは、照度に加え、撮像センサの特性など多くの他の要因にも影響される。従って、ハードウェアの感光パラメータを単に読み取る方法は、デュアルカメラ構成に対しては信頼性がない。
全般的に、本発明の諸実施形態は、撮像条件を検出するための方法および装置を提供する。
一態様において、本発明の実施形態は、撮像条件を検出する方法を提供する。本方法は、光景の第一画像中の輝度分布に基づいて、第一画像の撮像明度を判定することであって、該第一画像は第一カメラによって取り込まれる、該撮像明度を判定することと;光景の第二画像中のハイライト領域の検出に基づいて、第二画像の撮像露光度を判定することであって、該第二画像は第二カメラによって取り込まれる、該撮像露光度を判定することと;を備え、第一画像と第二画像とは、同一または類似の撮像条件の下で取り込まれ、第一カメラの露光量は第二カメラの露光量よりも低い。
本態様の諸実施形態は、上記の方法を実装するためのコンピュータプログラム製品をさらに備える。
他方で、本発明の諸実施形態は、撮像条件を検出するための装置も提供する。本装置は、光景の第一画像中の輝度分布に基づいて、第一画像の撮像明度を判定するよう構成された明度判定ユニットであって、該第一画像は第一カメラによって取り込まれる、該明度判定ユニットと;光景の第二画像中のハイライト領域の検出に基づいて、第二画像の撮像露光度を判定するよう構成された露光度判定ユニットあって、該第二画像は第二カメラによって取り込まれる、該露光度判定ユニットと;を備え、第一画像と第二画像とは、同一または類似の撮像条件の下で取り込まれ、第一カメラの露光量は第二カメラの露光量よりも低い。
本態様の諸実施形態は、上記の装置を備える電子デバイスをさらに備える。
以下の説明を通して、本発明の諸実施形態によれば、撮像露光度は、相対的に大きな露光量を有するカメラ(例えば、白黒カメラ)を使って見積もることができ、一方、撮像明度は、相対的に低い露光量を有する別のカメラ(例えば、カラーカメラ)を使って見積もることができるということが分かる。これにより、撮像条件を自動的に且つ正確に検出することが可能となる。一実施形態において、撮像条件に基づいて、対応する処理を有効および/または無効にすることによって、デュアルカメラモードにおける画像融合を適応制御することができる。このようにして、画像融合の効率および効果を大きく向上することが可能である。本発明の他の特徴および利点は、以下の説明を通して容易に理解可能になろう。
本発明の諸実施形態の、前述およびその他の目的、特徴、および利点は、添付の図面を参照しながら、以下の詳細な説明を読むことにより、より理解し易くなろう。これらの図中で、本発明のいくつかの実施形態が、限定でなく例示の形で提示される。
図1は、本発明の実施形態を実装可能な電子デバイスの概略ブロック図を示す。
図2は、本発明の例示的な実施形態による、撮像条件を検出する方法の概略フロー図を示す。
図3は、本発明の例示的な実施形態による、相異なる明度の下で取り込まれた画像の概略図、およびそれらの輝度ヒストグラムを示す。
図4は、本発明の例示的な実施形態による、輝度の累積分布を表す累積ヒストグラムの概略図を示す。
図5は、本発明の例示的な実施形態による、過度露光によってもたらされたハイライト領域のテクスチャの概略図を示す。
図6は、本発明の例示的な実施形態による、撮像条件を検出するための装置の概略ブロック図を示す。
これらの図全体を通して、同じまたは対応する参照符号は、同じまたは対応する部分を表す。
詳細説明
以降に、本開示の好適な実施形態を、添付の図面を参照しながらさらに詳細に説明することとする。これらの図面には本開示の好適な実施形態が示されているが、当然のことながら、本開示は、本明細書に記載された実施形態に限定されずに、様々な仕方で実装することが可能である。それどころか、これらの実施形態の提示は、本開示をより徹底的且つ完全にし、本開示の範囲を当業者に完全に伝えることを可能にするため行われるものである。
別段に示されている場合を除き、以下の説明および請求項において、用語「に基づいて」は「少なくとも部分的に基づいて」を表す。用語「備える」は、「含むが限定はされない」を表すオープンタームである。用語「複数」は、「2つ以上」を表す。用語「一つの実施形態」は「少なくとも一つの実施形態」を表し、用語「別の実施形態」は、「少なくとも一つのさらなる実施形態」を表す。
さらに、以下の説明および請求項において、用語「画像」は静止画像を含むだけでなく、動画像(例えば、ビデオのフレーム)をも含む。加えて、用語「画像を取り込む」は画像撮影のプロセスを含むだけでなく、撮影画像に対する一切の後処理プロセスをも含む。他の用語の関係定義は、以下の説明中で提示することとする。
図1は、本発明の実施形態を実装可能な電子デバイス100のブロック図を示す。本発明の実施形態によれば、電子デバイス100は、携帯電話などの携帯型電子デバイスであってよい。但し、当然のことながら、これは単なる例示であって限定ではない。携帯情報端末(PDA:personal digital assistant)、ページャ、携帯型コンピュータ、携帯TV、ゲームデバイス、ラップトップコンピュータ、カメラ、ビデオカメラ、GPSデバイス、および他の型の音声およびテキスト通信システムなど、他の種類のユーザ装置も、本発明の実施形態を容易に採用することが可能である。
電子デバイス100は、通信機能を有することができる。このため、この図に示されるように、電子デバイス100は、トランスミッタ114およびレシーバ116と通信するため動作可能な一つ以上のアンテナ112を備えることが可能である。電子デバイス100は、少なくとも一つのプロセッサコントローラ120をさらに備える。当然のことながら、コントローラ120は、電子デバイス100の全機能を実装するために必要な回路を備える。例えば、コントローラ120は、デジタル信号プロセッサデバイス、マイクロプロセッサデバイス、A/Dコンバータ、D/Aコンバータ、および他の支援回路を備えてよい。電子デバイス100の制御および信号処理機能はこれらデバイスのそれぞれの能力に基づいて配分される。電子デバイス100は、ユーザインタフェースをさらに備えるとよく、例えば、リンガ122、スピーカ124、マイクロフォン126、ディスプレイまたはファインダ128、およびキーパッド130などを備えるとよい。上記デバイスの全てはコントローラ120に連結される。
電子デバイス100は、静止画像および/または動画像を取り込むための第一カメラ136および第二カメラ137をさらに備える。本発明の諸実施形態によれば、第一カメラ136および第二カメラ137は、同じ照度条件に対し相異なる露光量を有し得る。さらに具体的には、一実施形態において、第二カメラ137の露光量は、第一カメラ136の露光量よりもかなり大きくできる。例えば、一実施形態では、第一カメラ136はカラーカメラとすればよく、第二カメラ137を白黒カメラとすればよい。知られているように、同じ照度条件の下で、白黒カメラの露光量は、カラーカメラの露光量の3〜4倍の量であり得る。当然ながら、かかる構成は必須ではない。2つのカメラの露光量の間の差異が所定の閾値を上回る限り、第一カメラ136および第二カメラ137を実装するために、任意の現在知られているまたは将来開発されるカメラが使用されてよい。
本発明の諸実施形態によれば、第一カメラ136および第二カメラ137は、電子デバイス100の同じ側に配置することができる。使用時、第一カメラ136と第二カメラ137とは、同じ光景の画像を同時にまたはほとんど同時に取り込むように構成することが可能である。一実施形態において、第一カメラ136の光軸と第二カメラ137の光軸とは、相互に平行にするとよい。さすれば、2つのカメラによって取り込まれた画像を融合するために、画像オフセットなどの変換を用いることが可能で、このことは既に知られている。当然ながら、2つのカメラによって取り込まれた同じ光景の画像が一緒に融合できる限り、これら2つのカメラの間での任意の他の位置関係が全て可能である。本発明の範囲はこの側面において限定はされない。
加えて、電子デバイス100は、電子デバイス100を動作させるために必要な様々な回路への電力を供給し、選択的に、検出可能な出力として機械的振動を提供するための振動バッテリパックなど、バッテリ134をさらに備える。電子デバイス100は、ユーザ識別子モジュール(UIM:user identifier module)138をさらに備える。UIM138は、通常、組み込みプロセッサを有するメモリデバイスである。UIM138は、例えば、加入者アイデンティティモジュール(SIM:subscriber identity module)、汎用集積回路カード(UICC:universal integrated circuit card)、汎用加入者アイデンティティモジュール(USIM:universal subscriber identity module)、またはリムーバブルユーザアイデンティティモジュール(R−UIM:removable user identity module)などを備えてよい。本発明の諸実施形態によれば、UIM138は、カード接続検出モジュールを備えることも可能である。
電子デバイス100は、メモリデバイスをさらに備える。例として、電子デバイス100は、例えばキャッシュ領域中に一時的にデータを格納するための揮発性ランダムアクセスメモリ(RAM:random access memory)を含め、不揮発性メモリ140を備えることが可能である。また、電子デバイス100は、他の組み込み型またはリムーバブル型不揮発性メモリ142も備えることができる。この不揮発性メモリ142は、追加としてまたは代替として、例えば、EEPROMおよびフラッシュメモリなどを備えてもよい。このメモリは、電子デバイス100の機能を実装するために、電子デバイス100によって使われる複数の情報セグメントおよびデータ中の任意の項目を格納することができる。
当然のことながら、図1中の構造ブロック図は、例示目的のためだけのものであって、本発明の範囲を限定することは意図されていない。場合によっては、具体的な必要性に応じて、いくつかのコンポーネントを加えたりまたは省略したりしてもよい。
図2は、本発明の実施形態による、撮像条件を検出する方法200の概略フロー図を示す。本明細書で用いる用語「撮像条件」とは、以下に限らないが、周囲条件、カメラ構成、センサ特性などを含め、画像取り込み時に画像品質に影響を与え得る要因を言う。一実施形態において、撮像条件は照度条件を含み得る。照度条件は「明度」によって測定が可能である。本発明の諸実施形態によれば、明度は、例えば、「低照度」、「標準照度」「明るい照度」など、定性的に示されてよい。これに換えてまたは加えて、明度を定量的に表すことも可能である。
さらに、撮像条件は露光レベルを備えてもよく、露光レベルは「露光度」によって測定することができる。本発明の諸実施形態によれば、露光度は例えば、例として「露光不足」、「標準露光」「過度露光」など、定性的に示されてよい。これに換えてまたは加えて、露光度を定量的に表すことも可能である。
以下の記載において、撮像の明度および露光度が、撮像パラメータの例として説明される。但し、当然のことながら、これらはあくまでも例示であって、いかなる形でも本発明の範囲を限定することは意図されていない。明度および露光度に加えて、撮像条件を特性化するために任意の他の適切な撮像パラメータも使用することが可能である。本発明の範囲はこの側面において限定はされない。
具体的に、前述したように、同じ照度条件の下で第一カメラ136の露光量は、第二カメラ137のものよりも小さい。したがって、一般に、第一カメラ136によって取り込まれた画像(例えばカラー画像)の処理は、主として撮像明度の影響を受け、一方、第二カメラ137によって取り込まれた画像(例えば、白黒画像)の処理は、主として撮像露光度の影響を受ける。したがって、一実施形態において、撮像条件の検出は、第一カメラ136の撮像明度を判定し、第二カメラ137の撮像露光度を判定するように実装されてよい。再言するが、これは単なる例示であって、いかなる形であれ本発明の範囲を限定することは意図されていない。
図2に示されるように、方法200はステップS210から開始され、ここでは、所与の光景の第一画像中の輝度分布に基づいて、第一画像の撮像明度が判定される。本発明の諸実施形態によれば、第一画像は第一カメラ(例えば、デバイス100中の第一カメラ136)によって取り込むことができる。前述したように、同じ照度条件の下では、第一カメラ136の露光量は極めて低い。例えば、第一カメラ136はカラーカメラであってよく、しかして第一画像はカラー画像であってよい。当然ながら、これは必須ではない。低露光量の任意のカメラを光景の第一画像を取り込むために用いることが可能である。
本発明の諸実施形態によれば、明度は、第一画像中の輝度分布に基づいて判定される。一般に、相異なる撮像明度は、画像中のピクセルの照度値に対し、明白に相異なる分布規則性もたらす。一例として、図3は、画像310、320、および330に対する輝度のヒストグラムを示す。本明細書の用語「輝度ヒストグラム」とは、画像の輝度成分のヒストグラムを言い、これは画像中の輝度の確率分布状態を反映することが可能である。図3に示された例において、画像310は低照度中で取り込まれ、画像320は標準照度中で取り込まれ、一方、画像330は強照度中で取り込まれている。
画像310、320、および330のそれぞれの照度ヒストグラム315、325、および335から、相異なる撮像明度は、画像の相異なる輝度分布をもたらすことが明らかに見取れる。具体的には、相対的に低い明度中で取り込まれた画像310に対しては、画像中の多量のピクセルが相対的に低い輝度値を有し;標準明度中で取り込まれた画像320に対しては、画像中のピクセルの輝度値は相対的に一様に分布され;相対的に高い明度中で取り込まれた画像330に対しては、画像中の多量のピクセルが相対的に高い輝度値を有する。本発明の諸実施形態によれば、かかる規則性は、画像を取り込む際に、撮像明度を見積もるために使用が可能である。
一実施形態において、第一画像を取り込む際の撮像明度は、第一画像のピクセルの輝度分布に基づいて直接に見積もることが可能である。このため、第一画像の輝度ヒストグラムを直接に使うことができる。具体的には、第一画像中で、所定のパーセントまたは数を超えるピクセルの輝度値が、下限閾値よりも低い場合、第一画像は低照度中で取り込まれたと見なすことが可能であり;第一画像中で、所定のパーセントまたは数を超えるピクセルの輝度値が、上限閾値よりも高い場合、第一画像は明るい照度中で取り込まれたと考えることが可能であり;他の場合は、第一画像は標準の照度中で取り込まれたと考えることが可能である。
あるいは、一実施形態において、撮像明度をさらに正確に見積もるために、第一画像中の輝度累積分布を用いてもよい。本明細書で用いる用語「輝度累積分布」とは、第一画像中のピクセルの輝度値の累積確率分布を言う。具体的に、輝度累積分布は、任意の所与の輝度値に対し、第一画像中のピクセルの輝度値がその輝度値以下である確率を反映する。輝度の累積ヒストグラムは、輝度累積分布を直観的に表すために用いることができる。
一例として、図4は、図3の3つの画像310、320、および330の輝度累積ヒストグラムの曲線410、420、430を示す。図4中に示された座標系において、横軸は輝度値を表し0〜255の範囲内にあり、縦軸は累積分布確率を表し0〜1の範囲にある。この図に示されるように、相異なる照度条件の下に取り込まれた画像の輝度累積ヒストグラムが確率「1」に収束される速度は大きく異なる。したがって、第一画像中の輝度累積分布は、撮像明度を見積もるための信頼できるインデックスとして使うことができる。
具体的に、第一画像の輝度累積分布を算定するために、まず、第一画像中の各輝度値nのピクセルの数h(n)を最初に計算することが可能で、このnは0〜255の整数である。次いで、各輝度値nに対し、第一画像中のn以下の輝度値のピクセルの累積数が次式によって計算できる:
次いで、第一画像中のピクセルの総計数を使ってc(n)を正規化し、これにより、輝度値nについての輝度累積分布を得る。
次に、一実施形態において、得られた輝度累積分布に基づいて、第一画像中のピクセルの所定パーセントが分布する輝度範囲を算定できる。次いで、第一画像が取り込まれたときの、撮像明度を見積もるために、この輝度範囲を用いることができる。
引き続き、図4を参照する。所定ピクセルパーセントTは、0から1の間の範囲の値に対応し、これは、ピクセルの輝度累積分布の確率値を表す。この確率値が与えられれば、関連するピクセル輝度値を算定することができる。具体的に、正規化された輝度累積分布c(n)に基づいて、Tに関連する輝度値vを以下により計算することが可能である。
v=arg min(|c(n)−T|)
単なる例として、T=0.5のときv=70であると仮定しよう。この例において、これは、画像中の50%のピクセルがこの輝度範囲[0,70]内に分布していることを意味する。説明をし易くするために、以下の説明において、輝度の範囲を、輝度範囲の上限vによって表すこととする。
本発明の諸実施形態によれば、所与のパーセント値Tに対し、いろいろな明度に対する輝度範囲vの閾値を前もって決めることが可能である。図4の参照において、単なる例示として、所定のパーセントがT=0.76に設定されていると仮定しよう。この場合、画像中の76%のピクセルが所在する輝度の範囲が算定されることになる。さらに、明度が3つのレベル、すなわち、「低照度」、「標準照度」、および「明るい照度」に分類されているものと仮定しよう。
低照度を例として、低照度中で取り込まれたm個の画像310がトレーニングサンプルとして選択され得る。このmは自然数である。このトレーニング段階の過程で、各画像310のパーセントTのピクセルが所在する輝度範囲vi,1は、輝度類累積分布に基づいて算定することが可能であり、このiは1〜mの範囲の整数である。この輝度範囲vi,1に基づいて、低い照度中で取り込まれたmの画像310の輝度範囲vが得られる。例えば、一実施形態において、vはvi,1の平均値として計算することが可能である。また、これに換えて、vはvi,1中の最大値または最小値などとして計算してもよい。得られた輝度vは、低照度の輝度範囲の閾値として用いることができる。
言い換えれば、使用の過程で、第一画像中のパーセントTのピクセルの輝度範囲vが算定される。vがv以下またはvに十分近い場合、第一画像は低い照度中で取り込まれたものと考えることができよう。一例として、T=76%のとき、トレーニングを通して、低い照度中で取り込まれた画像の中で、76%のピクセルが[0,50]の輝度範囲中に所在することが判明したと仮定しよう。この場合、閾値はv=50に設定されている。この場合、第一画像中のピクセルの76%が輝度範囲v≦v内にある場合、第一画像が取り込まれたときの撮像明度は低照度であると判定することが可能である。
同様に、所与の閾値Tに対し、標準照度および明るい照度の下で取り込まれた画像の輝度範囲の閾値vおよびvを得ることができる。第一画像の輝度範囲vをそれらの所定の閾値と比較することによって、第一画像が取り込まれたときの撮像明度を見積もることが可能である。
さらに、一部の画像に対して、輝度累積分布が明白なピーク値を持たないことが注目される。この場合、計算された当初の輝度範囲vを直接使って実際の照度を見積もるのは不正確なことがある。このために、一実施形態では、第一画像中のピクセルの所定パーセントの当初の輝度範囲vを算定した後、その輝度範囲を調整することが可能である。
具体的に、計算された当初の輝度範囲vに対し、或る隣接領域[v−l,v+l]が検討されてよく、このlおよびlは所定のサイズの整数である。一部の実施形態において、l=lに設定されてもよいが、但し必須ではない。この隣接領域を「輝度調査領域」と呼ぶことにしたい。一実施形態において、輝度調査領域中の輝度累積分布の変動率を計算し、この変動率に基づいて、輝度範囲vを調整することができる。
当然のことながら、かかる輝度範囲の調整は、トレーニング段階および/または実際の明度の検出に適用が可能である。例えば、図4に示された例において、v、v、および/またはvを計算する際に、得られた初期の輝度範囲を調整するために、この技法を利用できる。同様に、第一カメラによって取り込まれた第一画像に対し、明度見積もりにおいて、計算された初期の輝度範囲vを調整することも可能である。
一例として、図4は、輝度累積分布の変動率に基づいて、明るい照度に関連するvを調整する例を示す。この図に示されるように、輝度調査領域[v−l,v+l]は、累積曲線上の領域440に対応する。輝度調査領域[v−l,v+l]中の各輝度値vに対し、累積曲線上のvに対応する点を算定することが可能で、この点における累積曲線の傾斜を計算することができる。知られているように、この傾斜は、輝度値がvのときの輝度累積分布曲線の変化率を表す。一実施形態において、最大の変動率に対応する輝度値v を選択すればよく、輝度範囲vは、v に調整される。
当然のことながら、図4を参照して説明した前述の例は、説明目的だけのためのものであって、いかなる形においても本発明の範囲を限定することは意図されていない。例えば、明度は、「低照度」、「標準照度」および「明るい照度」の3つのレベルに限定はされない。これに換えて任意の所望のレベルに分類することが可能である。
図2を続けて参照すると、方法200はステップS220に進み、ここで、光景の第二画像中でハイライト領域が検出され、これにより第二画像の撮像露出度が判定される。本発明の諸実施形態によれば、第二画像が、第一カメラ136とは別の第二カメラ137によって取り込まれる。具体的に、同じ輝度の下で、第二カメラ137の露光量は、第一カメラ136の露光量よりも明白に大きい。例えば、前述したように、第二カメラ137は白黒カメラであってよく、その露光量はカラーカメラの3〜4倍に達し得る。したがって、第二画像は白黒画像とすることができる。
本発明の諸実施形態によれば、第一画像と第二画像とに含まれる光景は同一であり、さらに、これら2つの画像は、同じまたは類似の撮像条件の下で取り込まれる。例えば、一実施形態において、第二カメラ137は、第一カメラが第一画像を取り込んでいる間に第二画像を取り込むことが可能である。本明細書で用いる用語「同時に」とは、第一画像と第二画像との取り込み時間の間のギャップが所定の閾値より小さいことを言う。当然ながら、これは必須ではない。2つの画像の光景および撮像条件が同一、または十分に近似することが保証される限りにおいて、第一画像と第二画像とは、相異なる時間に順次に取り込んでもよい。
第二カメラ137の露光量は相対的に高いので、第二カメラ137が第二画像を取り込むときに露光不足状態は生じないであろう、というのは合理的な仮説である。したがって、以下の説明では、どのように過度露光を検出するかに焦点を絞ることとする。過度露光が存在しない場合には、露光度は標準露光として識別される。当然ながらこれは単なる例示である。他の実施形態では、露光不足状態も同様に考慮し検出することが可能である。
一般に、過度露光の場合において第二画像が取り込まれたとき、第二画像には一つ以上のハイライト領域が含まれることになる。ハイライト領域とは、所定の閾値輝度を超える輝度の連結領域を言う。本発明の諸実施形態によれば、この現象を考慮して、第二画像中のハイライト領域を検出することによって、撮像露光度を判定することが可能である。
一実施形態において、このため、まず、適切な輝度閾値が選択されてよい。この閾値はユーザによって設定されるか、あるいは、実験または経験によって得ることができる。例えば、一実施形態では輝度閾値を255近く、例えば250を上回る値にすればよい。次いで第二画像は、この輝度閾値に基づいて2値化される。言い換えれば、輝度値が閾値より大きなピクセルのカラーは白色に設定され、輝度値が閾値以下のピクセルのカラーは黒色に設定される。あるいは、相対的に連結された領域を得るために、第二画像をモルフォロジ演算に付すことも可能である。このようにして、2値マスクを得ることができる。
2値マスクでは、連結された各白色領域をハイライト領域として識別できる。一実施形態において、かかるハイライト領域の数が所定の閾値を上回る場合、第二画像は、過度露光において取り込まれたと考えることができる。したがって、撮像露光度は、「標準露光」と判定することができる。これに換えてまたは加えて、一実施形態において、露光度をハイライト領域の面積に基づいて見積もることも可能である。
また一方、当然のことながら、光景中に白色被写体または明るいカラーを有する他の被写体がある場合、かかる連結白色領域は、2値マスクにも同様に存在することになる。この場合、撮像露光度が、ハイライト領域の数および/または面積だけに基づいて見積もられると、検出ミスが生じやすい。一実施形態では、露光度の見積もりの正確さをさらに向上するために、第一画像中の、ハイライト領域に対応する領域中に含まれるテクスチャ情報を考慮に入れることが可能である。
当然のことながら、テクスチャが第二画像中のハイライト領域中に含まれることは、通常、非常にまれである。一方で、第一カメラの露光量は相対的に低いので、第一画像が過度露光で取り込まれる可能性は極めて小さい。したがって、光景中の或る特定の領域が、第二画像においてハイライト領域として識別され、第一画像が相対的に豊かなテクスチャを有する場合、かかるテクスチャの喪失は、第二画像の過度露光によって生じた可能性が非常に高い。
一例として、図5に示されるように、画像510は、第一カメラによって取り込まれ、画像520は第二カメラによって取り込まれている。第一画像510中の領域512は、第二画像520中のハイライト領域に対応する。領域512中に含まれるテクスチャは、一見して、ハイライト領域522中のテクスチャより多いことが見取れる。同様に、第一画像510中の領域514中のテクスチャは、第二画像520中の対応するハイライト領域524よりも多い。この現象を使って、第二画像中のハイライト領域に対応する第一画像中の領域に含まれるテクスチャ情報を、第二カメラの露光度見積もりの正確さを向上させるために使用することができる。
具体的に、かかる実施形態において、第二画像中で検出された各ハイライト領域に対して、対応する領域を第一画像中に見出すことが可能である。次いで、その対応する領域内のテクスチャを取得することができる。知られているように、通常、テクスチャは画像中の高周波成分である。したがって、一実施形態において、第一画像中の対応する領域のエッジを抽出するために、その領域にエッジ抽出を適用することが可能である。任意の現在既知のまたは将来開発されるエッジ抽出方法を、本発明の諸実施形態と共に使用すればよい。例えば、エッジを抽出するために、エッジ演算子を適用することが可能である。このエッジ演算子の例は、以下に限らないが、ソーベル演算子、ロバーツ演算子、キャニー演算子などのうちの一つ以上を含む。当然のことながら、エッジ抽出を使ってテクスチャ情報を得ることは単なる例示であって、いかなる形においても本発明の範囲を限定することは意図されていない。エッジ抽出に加えてまたはその代わりに、画像領域中のテクスチャを抽出するために、ウェーブレット変換、ローカルバイナリパターン(LBP:local binary pattern)、および様々な他の方法が使われてよい。
次いで、第一画像の対応領域中のテクスチャ量を測定することが可能である。例えば、一実施形態において、該領域のテクスチャ量として使うために、抽出されたエッジの数および/または長さを計算することができる。第一画像中の、ハイライト領域に対応する領域中に含まれるテクスチャ量が、所定の閾値を上回る場合、それは、第二画像において当該領域中のテクスチャが著しく損なわれていることを示しており、過度露光によってかかる損失が生じる。
一実施形態において、第一画像中の、第二画像中で検出された全てのハイライト領域に対応する領域中に含まれるテクスチャ量が累積される。第二画像中で検出されたハイライト領域を、r、i=1,2・・・mと仮定しよう。各ハイライト領域rに対し、対応する第一画像中の領域に含まれるテクスチャ量をMi,1とする。ハイライト領域に対応する、第一画像中の全ての領域中に含まれる総計テクスチャ量は:
である。
このようにして、総計テクスチャ量Eと所定の閾値とを比較することによって、撮像露光度を判定することができる。総計テクスチャ量Eが所定の閾値を超える場合、第二画像は過度露光中で取り込まれたと考えられる。逆に、総計テクスチャ量Eが所定の閾値より低い場合、第二画像は標準の露光中で取り込まれたと考えることができよう。
前述の例は、第一画像中の、ハイライト領域に対応する領域中に含まれる総計テクスチャ量Eだけを考慮している。これに換えて、一実施形態では、第二画像中のハイライト領域のテクスチャ量も考慮することが可能である。具体的に、各ハイライト領域rに対し、第二画像中のハイライト領域のテクスチャ量Mi,2を計算することができる。したがって、或るハイライト領域rに対し、第一画像と第二画像との間のテクスチャ量の差Mi,1−Mi,2を算定することが可能である。次いで、テクスチャ量の差を次式により累積することができる:
これにより、E'と所定の閾値とを比較することによって撮像露光度を判定することが可能である。
当然のことながら、測定値E'の使用は随意である。実際上は、第二画像が過度露光で取り込まれる場合、第二画像のハイライト領域中に含まれるテクスチャはごくわずかで全く存在しないことさえある。したがって、Mi,2を常に省略してもよい。言い換えれば、前述のように、測定値Eだけを使って撮像露光度を判定してもよい。
2つのカメラによって取り込まれた画像を使って撮像条件を判定した後、その撮像条件に基づいて、取り込まれたピクチャに様々な処理を施すことが可能である。例えば、一実施形態において、方法200は、ステップS230に進むことができ、ステップS210で判定された撮像明度、およびステップS220で判定された撮像露光度に基づいて、第一画像と第二画像とが融合される。
前述のように、第一カメラ136と第二カメラ137とは、デュアルカメラ構成における2つのカメラとすることができる。例えば、第一カメラ136はカラーカメラとしてもよく、第二カメラ137は白黒カメラである。この場合、これら2つのカメラは、或る光景中の画像を同時に取り込むように構成することができる。取り込まれた画像は、融合によって、完全に仕上がった画像を最終的に形成することが可能である。このようにして、より良い品質と効果とを有する仕上がり画像を得るために、第一カメラ136と第二カメラ137との利点を同時に利用することができる。
知られているように、2つの画像(例えば、一つは白黒画像であり、他方はカラー画像である)を所与とすれば、融合は、実質上3つのフェーズに分けられる。第一フェーズは、例えば、画像アラインメント、低照度の除去などの処理を含む、前処理である。第二フェーズは、例えば、HDR、超解像、カラー融合などの処理を含む、融合処理である。第三フェーズは、例えば、ノイズフィルタリング、カラー強調などの処理を含む、後処理である。前述の処理の中で、一部の処理は必須である。例えば、画像アラインメントは、2つのカメラによって取り込まれる画像を整列させるために、必ず実行しなければならない。
しかしながら、一部の他の処理は随意である。画像融合処理の過程で、かかる随意の処理を実行するかどうかは、撮像条件の如何によってもよい。例えば、白黒画像とカラー画像との融合に対し、カラー画像の処理は主として明度に影響され、一方、白黒画像の処理は主として露光度に影響される。一例として、カラー画像が標準の照度または明るい照度で取り込まれていれば、超解像技術を適用することが可能である。知られているように、超解像技術は、低解像度の画像に基づいて超解像度の回復を実装することができ、これにより高解像度を有する最終的画像が得られる。但し、カラー画像が低い照度で取り込まれている場合、超解像処理を適用するのは不要となろう。
これらにより、一実施形態において、自動判定された撮像条件に基づいて、画像融合における一つ以上の処理を、適応的に有効化または無効化することが可能である。一例として、かかる処理は、以下に限らないが、低照度の除去処理、ハイダイナミックレンジ処理、超解像処理、ノイズフィルタリング処理、およびカラー強調処理のうちの一つ以上を含む。なお、かかる処理自体は従来技術において既に知られており、任意の現在知られたまたは将来開発される技術を用いることが可能である。本発明の主題を混乱させるのを回避するために、かかる処理の実装の詳細は本明細書では詳記しない。
一例として、第一カメラ136がカラーカメラであり、第二カメラ137が白黒カメラである、或る実施形態において、より大きな露光量を有する白黒カメラ137は、露光不足にならないものと想定してもよい。これにより、カラー画像の撮像明度および白黒画像の撮像露光度に基づいて、以下の6つの露光条件を定義することができる:
1)低照度+標準露光
2)標準照度+標準露光
3)明るい照度+標準露光
4)低照度+過度露光
5)標準照度+過度露光
6)明るい照度+過度露光
これにより、各撮像条件に対し、融合処理の過程で有効化または無効化する必要のある様々な処理を事前設定することができる。例えば、一実施形態では、様々な随意処理を次のように設定することが可能である。
上記の表は前もって格納しておけばよい。これに換えてまたは加えて、いろいろな照度条件の下で実施する必要のある画像処理をコマンドワードによって指示してもよい。使用において、ステップS210で判定された第一画像の撮像明度、およびステップS220で判定された第二画像の撮像露光度に基づいて、上記の表および/またはコマンドワードを参照することによって、どの随意処理を有効化するかを決めることができる。
図6は、本発明の諸実施形態による、撮像条件を検出するための装置600の概略ブロック図を示す。図中に示されるように、装置600は:光景の第一画像中の輝度分布に基づいて、第一画像の撮像明度を判定するよう構成された明度判定ユニット610であって、第一画像は第一カメラにより取り込まれる、該明度判定ユニットと、光景の第二画像中のハイライト領域の検出に基づいて、第二画像の撮像露光度を判定するよう構成された露光度判定ユニット620であって、第二画像は第二カメラにより取り込まれる、該露光度判定ユニットと;を備える。本発明の諸実施形態によれば、第一画像と第二画像とは、同一または類似の撮像条件の下で取り込まれ、第一カメラの露光量は第二カメラの露光量よりも低い。
一実施形態において、装置600は、第一画像中の輝度累積分布を算定するよう構成された累積分布算定ユニットと;輝度累積分布に基づいて、第一画像中の所定パーセントのピクセルの輝度範囲を算定するよう構成された輝度範囲算定ユニットと;をさらに備えることができる。かかる実施形態において、明度判定ユニット610は、輝度範囲に基づいて撮像明度を判定するように構成することが可能である。
一実施形態において、装置600は、輝度調査領域中の輝度累積分布の変動率を計算するよう構成された変動率計算ユニットと;撮像明度を判定するために、変動率に基づいて輝度範囲を調整するよう構成された輝度範囲調整ユニットと;をさらに備えることができる。
一実施形態において、露光度判定ユニット620は、所定輝度閾値を用いて第二画像を2値化することによってハイライト領域を検出するように構成された検出ユニットを備えることが可能である。
一実施形態において、露光度判定ユニット620は、第二画像中のハイライト領域を検出するのに応答して、第一画像中の、ハイライト領域に対応する領域中のテクスチャを取得するよう構成されたテクスチャ取得ユニットと;テクスチャの量に基づいて撮像露光度を判定するよう構成された第一露光度判定ユニットと;を備えることができる。一実施形態において、該テクスチャ取得ユニットは、第一画像の当該領域中のエッジをテクスチャとして抽出するよう構成されたエッジ抽出ユニットを備えることが可能である。
一実施形態において、装置600は、第一画像の撮像明度および第二画像の撮像露光度に基づいて、第一画像と第二画像とを融合するよう構成された画像融合ユニット630をさらに備えることができる。一実施形態において、画像融合ユニット630は、第一画像の撮像明度および第二画像の撮像露光度に基づいて、融合の過程で、低照度の除去処理、ハイダイナミックレンジ処理、超解像処理、ノイズフィルタリング処理、およびカラー強調処理のうちの少なくとも一つを、有効化または無効化するよう構成された適応制御ユニットを備えることが可能である。
なお、明確化のため、図6では、装置600に含まれる随意的ユニットまたはサブユニットを示していない。また一方、当然のことながら、図1〜4を参照して前に説明した様々な特徴は、装置600にも同様に適用可能であり、従ってここでは詳記はしない。さらに、本明細書で用いる用語「ユニット」は、ハードウェアモジュールまたはソフトウェアユニットモジュールばかりではなくてもよい。相応的に、装置600は様々な仕方で実装されてよい。例えば、いくつかの実施形態において、装置600は、例えば、コンピュータ可読媒体上に具現化されたコンピュータプログラム製品として実装されるなど、部分的または全体的にソフトウェアおよび/またはファームウェアによって実装されてもよい。これに換えまたは加えて、装置600は、例えば、集積回路(IC:integrated circuit)チップ、特定用途向け集積回路(ASIC:application−specific integrated circuit)、システムオンチップ(SOC:system on chip)、フィールドプログラマブルゲートアレイ(FPGA:field programmable gate array)などとして実装されるなど、部分的または完全にハードウェアに基づいて実装されてもよい。本発明の範囲はこの側面において限定はされない。
説明上の目的だけのために、前述で本発明のいくつかの例示的な実施形態を説明してきた。本発明の諸実施形態は、ハードウェア、ソフトウェアまたはソフトウェアとハードウェアとの組み合わせによって実装することができる。ハードウェア部分は、専用のロジックを用いて実装することが可能であり;ソフトウェア部分は、メモリ中に格納し、例えば、マイクロプロセッサまたは専用に設計されたハードウェアなど、適切な命令実行システムによって実行することが可能である。具体的に、図2を参照して説明した前述の方法は、コンピュータプログラム製品として実装されてよい。該コンピュータプログラム製品は、非一時的コンピュータ可読媒体上に有形に格納され、マシン実行可能な命令を含み、この実行可能命令は、実行されると、該マシンが方法200のステップを実施することを可能にする。
当業者は、前述の装置および方法が、コンピュータ実行可能命令を使って実装可能、および/またはプロセッサ制御コードに含めることが可能なことを理解していよう。実装において、かかるコードは、磁気ディスク、CDまたはDVD−ROMなどの媒体、読み取り専用メモリ(ファームウェア)などのプログラマブルメモリ、または光もしくは電子信号搬送波などのデータ搬送波上で提供される。本発明のシステムは、超大規模集積回路もしくはゲートアレイ、ロジックチップおよびトランジスタなどの半導体、もしくはフィールドプログラマブルゲートアレイおよびプログラマブルロジックデバイスのようなプログラマブルハードウェアデバイスのハードウェア回路によって、実装すること、または、様々な種類のプロセッサ実行可能なソフトウェアによって実装すること、または、ファームウェアなどの前述のハードウェア回路とソフトウェアとの組み合わせによって実装すること、が可能である。
なお、前述の詳細な説明で、装置のいくつかのユニットまたはサブユニットが述べられたが、かかる区分は単に例示であって必須ではない。実際上は、本発明の諸実施形態によれば、前述の2つ以上のモジュールの特徴および機能は、一つのモジュール中に具現化することが可能である。反対に、前述の一つのモジュールの特徴および機能が複数のモジュールによって具現化されてもよい。さらに、添付の図面では、本発明の方法のオペレーションは、特定の順序で記載されているが、これらのオペレーションは、必ずしも特定の順序で実行する必要はなく、そう示唆するものでもなく、または全ての例示されたオペレーションを実行することで所望の結果が達成されるべきであると要求もしくは示唆するものでもない。それどころか、フローチャートに示されたステップはそれらの実行順序を変更することができる。これに換えてまたは加えて、一部のステップは省略が可能で、複数のステップを実行のため一つのステップに組み合せることも可能で、および/または一つのステップを実行のため複数のステップに分解することも可能である。
いくつかの実施形態を参照しながら本発明を説明してきたが、当然のことながら、本発明は、本明細書で開示された実施形態に限定はされない。本発明は、添付の特許請求の範囲の趣旨および範囲に含まれる様々な修改および等価的組み換えを包含することを意図されている。添付の特許請求の範囲は、最広義の解釈に準じ、これにより、すべてのかかる修改と、等価的構造体および機能とを包含する。

Claims (20)

  1. 撮像条件を検出する方法であって、前記方法は、
    光景の第一画像中の輝度分布に基づいて、前記第一画像の撮像明度を判定することであって、前記第一画像は第一カメラによって取り込まれる、前記撮像明度を判定することと;
    前記光景の第二画像中のハイライト領域の検出に基づいて、前記第二画像の撮像露光度を判定することであって、前記第二画像は第二カメラによって取り込まれる、前記撮像露光度を判定することと;
    を含み、前記第一画像と前記第二画像とは、同一または類似の撮像条件の下で取り込まれ、前記第一カメラの露光量は前記第二カメラの露光量よりも低い、方法。
  2. 前記第一画像の撮像明度を判定することが、
    前記第一画像中の輝度累積分布を算定することと;
    前記輝度累積分布に基づいて、前記第一画像中の所定パーセントのピクセルの輝度範囲を算定することと;
    前記輝度範囲に基づいて前記撮像明度を判定することと;
    を含む、請求項1に記載の方法。
  3. 前記輝度範囲に基づいて前記撮像明度を判定することが、
    輝度調査領域中の前記輝度累積分布の変動率を計算することと;
    前記撮像明度を判定するために、前記変動率に基づいて前記輝度範囲を調整することと;
    を含む、請求項2に記載の方法。
  4. 前記第二画像の撮像露光度を判定することが、
    所定輝度閾値を用い、前記第二画像を2値化することによって、前記ハイライト領域を検出すること、
    を含む、請求項1に記載の方法。
  5. 前記第二画像の撮像露光度を判定することが、
    前記第二画像中の前記ハイライト領域を検出するのに応答して、前記第一画像中の、前記ハイライト領域に対応する領域中のテクスチャを取得することと;
    前記テクスチャの量に基づいて、前記撮像露光度を判定することと;
    を含む、請求項1に記載の方法。
  6. 前記第一画像中の、前記ハイライト領域に対応する領域中のテクスチャを取得することが、
    前記テクスチャとして、前記第一画像の前記領域中のエッジを抽出すること、
    を含む、請求項5に記載の方法。
  7. 前記第一画像の前記撮像明度および前記第二画像の前記撮像露光度に基づいて、前記第一画像と前記第二画像とを融合すること、
    をさらに含む、請求項1に記載の方法。
  8. 前記第一画像と前記第二画像とを融合することが、
    前記融合の過程で、前記第一画像の前記撮像明度および前記第二画像の前記撮像露光度に基づいて、低照度の除去処理、ハイダイナミックレンジ処理、超解像処理、ノイズフィルタリング処理、およびカラー強調処理のうちの少なくとも一つを有効化または無効化すること、
    を含む、請求項7に記載の方法。
  9. 前記第一カメラがカラーカメラであり、前記第二カメラが白黒カメラである、請求項1〜8のいずれか一項に記載の方法。
  10. 撮像条件を検出するための装置であって、前記装置は、
    光景の第一画像中の輝度分布に基づいて、前記第一画像の撮像明度を判定するよう構成された明度判定ユニットであって、前記第一画像は第一カメラによって取り込まれる、前記明度判定ユニットと;
    前記光景の第二画像の中のハイライト領域の検出に基づいて、前記第二画像の撮像露光度を判定するよう構成された露光度判定ユニットであって、前記第二画像は第二カメラによって取り込まれる、前記露光度判定ユニットと;
    を備え、前記第一画像と前記第二画像とは、同一または類似の撮像条件の下で取り込まれ、前記第一カメラの露光量は前記第二カメラの露光量よりも低い、装置。
  11. 前記第一画像中の輝度累積分布を算定するよう構成された累積分布算定ユニットと;
    前記輝度累積分布に基づいて、前記第一画像中の所定パーセントのピクセルの輝度範囲を算定するよう構成された輝度範囲算定ユニットと;
    をさらに備え、前記明度判定ユニットが、前記輝度範囲に基づいて前記撮像明度を判定するように構成される、請求項10に記載の装置。
  12. 輝度調査領域中の前記輝度累積分布の変動率を計算するよう構成された変動率計算ユニットと;
    前記撮像明度を判定するために、前記変動率に基づいて前記輝度範囲を調整するよう構成された輝度範囲調整ユニットと;
    をさらに含む、請求項11に記載の装置。
  13. 前記露光度判定ユニットが、
    所定輝度閾値を用い、前記第二画像を2値化することによって、前記ハイライト領域を検出するよう構成された検出ユニット、
    を備える、請求項10に記載の装置。
  14. 前記露光度判定ユニットが、
    前記第二画像中の前記ハイライト領域を検出するのに応答して、前記第一画像中の、前記ハイライト領域に対応する領域中のテクスチャを取得するよう構成されたテクスチャ取得ユニットと;
    前記テクスチャの量に基づいて、前記撮像露光度を判定するよう構成された第一露光度判定ユニットと;
    を備える、請求項10に記載の装置。
  15. 前記テクスチャとして、前記第一画像の前記領域中のエッジを抽出するよう構成されたエッジ抽出ユニット、
    をさらに備える、請求項14に記載の装置。

  16. 前記第一画像の前記撮像明度および前記第二画像の前記撮像露光度に基づいて、前記第一画像と前記第二画像とを融合するよう構成された画像融合ユニット、
    をさらに備える、請求項10に記載の装置。
  17. 前記画像融合ユニットが、
    前記融合の過程で、前記第一画像の前記撮像明度および前記第二画像の前記撮像露光度に基づいて、低照度の除去処理、ハイダイナミックレンジ処理、超解像処理、ノイズフィルタリング処理、およびカラー強調処理のうちの少なくとも一つを有効化または無効化するよう構成された適応制御ユニット、
    を備える、請求項16に記載の装置。
  18. 前記第一カメラがカラーカメラであり、前記第二カメラが白黒カメラである、請求項10〜17のいずれか一項に記載の装置。
  19. コントローラと;
    第一カメラと;
    第二カメラの露光量が前記第一カメラの露光量よりも大きい、前記第二カメラと;
    請求項10〜18のいずれか一項に記載の、撮像条件を検出するための装置と;
    を備える電子デバイス。
  20. 装置の処理手段に実行されると、前記装置に、請求項1から9のいずれかに記載の方法を遂行させるように構成されるプログラム命令を備える、コンピュータプログラム。
JP2016566881A 2014-07-17 2015-07-03 撮像条件を検出するための方法および装置 Active JP6309111B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN201410357287.3 2014-07-17
CN201410357287.3A CN105338338B (zh) 2014-07-17 2014-07-17 用于成像条件检测的方法和装置
PCT/FI2015/050484 WO2016009110A1 (en) 2014-07-17 2015-07-03 Method and apparatus for detecting imaging conditions

Publications (2)

Publication Number Publication Date
JP2017520147A JP2017520147A (ja) 2017-07-20
JP6309111B2 true JP6309111B2 (ja) 2018-04-11

Family

ID=55077945

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016566881A Active JP6309111B2 (ja) 2014-07-17 2015-07-03 撮像条件を検出するための方法および装置

Country Status (5)

Country Link
US (1) US9973706B2 (ja)
EP (1) EP3170304B1 (ja)
JP (1) JP6309111B2 (ja)
CN (1) CN105338338B (ja)
WO (1) WO2016009110A1 (ja)

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106572339B (zh) * 2016-10-27 2018-11-30 深圳奥比中光科技有限公司 一种图像采集器和图像采集系统
CN106412534B (zh) * 2016-10-27 2018-09-11 成都西纬科技有限公司 一种图像亮度调节方法及装置
CN106534677B (zh) * 2016-10-27 2019-12-17 成都西纬科技有限公司 一种图像过曝优化方法及装置
CN106534633A (zh) * 2016-10-27 2017-03-22 深圳奥比中光科技有限公司 一种组合摄像系统、移动终端及图像处理方法
KR101823272B1 (ko) * 2016-12-01 2018-01-29 삼성전기주식회사 카메라 모듈
US10706512B2 (en) * 2017-03-07 2020-07-07 Adobe Inc. Preserving color in image brightness adjustment for exposure fusion
KR102204596B1 (ko) * 2017-06-02 2021-01-19 삼성전자주식회사 프로세서, 이를 포함하는 이미지 프로세싱 장치 및 이미지 프로세싱 방법
US10785400B2 (en) * 2017-10-09 2020-09-22 Stmicroelectronics (Research & Development) Limited Multiple fields of view time of flight sensor
WO2019118319A1 (en) * 2017-12-15 2019-06-20 Gopro, Inc. High dynamic range processing on spherical images
CN107872625B (zh) * 2017-12-25 2020-05-22 信利光电股份有限公司 一种双摄像头曝光同步控制方法和系统
CN109696788B (zh) * 2019-01-08 2021-12-14 武汉精立电子技术有限公司 一种基于显示面板的快速自动对焦方法
CN113287147A (zh) * 2019-04-24 2021-08-20 华为技术有限公司 一种图像处理方法及装置
DE102019121340A1 (de) * 2019-08-07 2021-02-11 Infineon Technologies Ag Verfahren und vorrichtung zum bestimmen einer fehlfunktion und sensorsystem
JP7063488B2 (ja) * 2020-03-02 2022-05-09 株式会社オプトエレクトロニクス 撮像方法、撮像装置、撮像対象の判別方法及びプログラム
CN111586308B (zh) * 2020-04-10 2022-03-29 北京迈格威科技有限公司 图像处理方法、装置及电子设备
DE102020126737A1 (de) * 2020-10-12 2022-04-14 Carl Zeiss Microscopy Gmbh Verfahren und Mikroskop zum Erzeugen eines Übersichtsbildes einer Probe
JP2022093914A (ja) * 2020-12-14 2022-06-24 キヤノン株式会社 撮像装置、その制御方法およびプログラム
CN113012081A (zh) * 2021-01-28 2021-06-22 北京迈格威科技有限公司 图像处理方法、装置和电子系统
CN116091341B (zh) * 2022-12-15 2024-04-02 南京信息工程大学 一种低光图像的曝光差增强方法及装置
CN116033278A (zh) * 2022-12-18 2023-04-28 重庆邮电大学 一种面向单色-彩色双相机的低照度图像预处理方法

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6486915B2 (en) 1999-04-20 2002-11-26 Intel Corporation Determining a final exposure setting automatically for a solid state camera without a separate light metering circuit
US7538801B2 (en) 2003-09-15 2009-05-26 Micron Technology, Inc. Region-based auto gain control and auto exposure control method and apparatus
JP4363207B2 (ja) * 2004-02-05 2009-11-11 住友電気工業株式会社 画像処理方法、画像処理システムおよび画像処理装置
JP4522307B2 (ja) 2005-04-08 2010-08-11 キヤノン株式会社 画像撮像装置、画像撮像方法
US7403707B2 (en) 2005-07-28 2008-07-22 Mitsubishi Electric Research Laboratories, Inc. Method for estimating camera settings adaptively
CN100508559C (zh) * 2006-04-21 2009-07-01 北京中星微电子有限公司 低照度条件下摄像装置进行图像输出的处理方法
EP2018048A4 (en) * 2006-05-09 2011-07-20 Sharp Kk PICTURE SETUP
JP4218723B2 (ja) * 2006-10-19 2009-02-04 ソニー株式会社 画像処理装置、撮像装置、画像処理方法およびプログラム
CN101211407B (zh) * 2006-12-29 2011-10-26 东软集团股份有限公司 昼夜图像识别方法和装置
JP2009047956A (ja) * 2007-08-21 2009-03-05 Sony Corp 撮像装置
CN101126661B (zh) * 2007-09-20 2010-06-02 北京中星微电子有限公司 一种确定环境亮度的方法及装置
JP5082776B2 (ja) * 2007-10-31 2012-11-28 オムロン株式会社 画像処理装置
WO2009085305A1 (en) 2007-12-27 2009-07-09 Google Inc. High-resolution, variable depth of field image device
WO2012001755A1 (ja) * 2010-07-02 2012-01-05 株式会社ソニー・コンピュータエンタテインメント 情報処理システム、情報処理装置および情報処理方法
WO2012051720A2 (en) * 2010-10-22 2012-04-26 University Of New Brunswick Camera imaging systems and methods
US8947555B2 (en) 2011-04-18 2015-02-03 Qualcomm Incorporated White balance optimization with high dynamic range images
CN102572245B (zh) * 2011-12-22 2014-12-17 深圳市赛格导航科技股份有限公司 一种扩展图像动态范围的方法及装置
JP5409829B2 (ja) * 2012-02-17 2014-02-05 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法、および、プログラム

Also Published As

Publication number Publication date
CN105338338A (zh) 2016-02-17
JP2017520147A (ja) 2017-07-20
EP3170304B1 (en) 2019-03-06
CN105338338B (zh) 2018-01-02
WO2016009110A1 (en) 2016-01-21
EP3170304A4 (en) 2018-02-28
EP3170304A1 (en) 2017-05-24
US20170208234A1 (en) 2017-07-20
US9973706B2 (en) 2018-05-15

Similar Documents

Publication Publication Date Title
JP6309111B2 (ja) 撮像条件を検出するための方法および装置
US11671702B2 (en) Real time assessment of picture quality
US9609221B2 (en) Image stabilization method and electronic device therefor
US9544497B2 (en) System and method for determining image resolution
TWI682664B (zh) 基於亮度分布與動作間之取捨以產生場景之高動態範圍影像之方法
JP5589548B2 (ja) 撮像装置、画像処理方法、及びプログラム記憶媒体
WO2017114399A1 (zh) 逆光拍照方法和装置
CN112514362B (zh) 用于基于图像分数的视频质量增强的图像捕获设备和方法
US10122912B2 (en) Device and method for detecting regions in an image
US9282235B2 (en) Focus score improvement by noise correction
US20160071253A1 (en) Method and apparatus for image enhancement
WO2016074467A1 (zh) 一种图像的处理方法和装置
CN107105172B (zh) 一种用于对焦的方法和装置
US8212891B2 (en) Apparatus, methods and computer readable storage mediums
US10373329B2 (en) Information processing apparatus, information processing method and storage medium for determining an image to be subjected to a character recognition processing
JP2016092513A5 (ja)
US9432572B2 (en) Method and apparatus for automatic prediction of dynamic exposure

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20171225

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180201

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180206

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180216

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180313

R150 Certificate of patent or registration of utility model

Ref document number: 6309111

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250