JP2015532070A - シーン認識方法および装置 - Google Patents

シーン認識方法および装置 Download PDF

Info

Publication number
JP2015532070A
JP2015532070A JP2015532298A JP2015532298A JP2015532070A JP 2015532070 A JP2015532070 A JP 2015532070A JP 2015532298 A JP2015532298 A JP 2015532298A JP 2015532298 A JP2015532298 A JP 2015532298A JP 2015532070 A JP2015532070 A JP 2015532070A
Authority
JP
Japan
Prior art keywords
image
scene
pixel ratio
hdr
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015532298A
Other languages
English (en)
Other versions
JP6160004B2 (ja
Inventor
康 ▲銭▼
康 ▲銭▼
成 杜
成 杜
巍 ▲羅▼
巍 ▲羅▼
▲ビン▼ ▲デン▼
▲ビン▼ ▲デン▼
Original Assignee
▲華▼▲為▼▲終▼端有限公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ▲華▼▲為▼▲終▼端有限公司 filed Critical ▲華▼▲為▼▲終▼端有限公司
Publication of JP2015532070A publication Critical patent/JP2015532070A/ja
Application granted granted Critical
Publication of JP6160004B2 publication Critical patent/JP6160004B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

本発明は、シーン認識方法および装置に関する。前記シーン認識方法は、画像と前記画像に対応するセンサデータとを取得するステップと、前記画像のシーンが非ハイ・ダイナミック・レンジ(HDR)シーンか判断することを、前記センサデータに従って、実行するステップと、前記画像のシーンが非HDRシーンであるか否か判断できないとき、前記画像の画像特徴を抽出するステップと、前記画像のシーンがHDRシーンであるか否か、前記画像特徴に従って、判断するステップと、を含む。

Description

本願は、発明の名称を「シーン認識方法および装置」とし、かつ2013年1月24日に中国特許庁に提出された、中国特許No.201310027728.9の優先権の利益を主張し、その全てが引用によってここに組み込まれている。
本発明は、画像技術の分野に関するものであり、特に、シーン認識方法および装置に関するものである。
ハイ・ダイナミックレンジ(High-Dynamic Range, HDR)シーンは、シーンダイナミックレンジが画像のダイナミックレンジよりも大きいシーンである。HDRシーンでは、高品質画像を得るように画像を合成するために、HDR合成アルゴリズムが適用される必要がある。したがって、画像のシーンがHDRシーンであるか否かを正確に判断することは、HDRシーンにおける高品質画像の生成のために必要不可欠な重要性のあるものである。
上記を考慮して、本発明は、画像のシーンがHDRシーンであるか否かを認識する精度を改良することができるシーン認識方法および装置を提供する。
第1の態様によれば、本発明は、シーン認識方法を提供し、前記方法は、
画像と前記画像に対応するセンサデータとを取得するステップと、
前記画像のシーンが非ハイ・ダイナミックレンジ(HDR)シーンか判断することを、前記センサデータに従って、実行するステップと、
前記画像のシーンが非HDRシーンであるか否か判断できないとき、前記画像の画像特徴を抽出するステップと、
前記画像のシーンがHDRシーンであるか否か、前記画像特徴に従って、判断するステップと、を含む。
前記第1の態様における第1の可能実施形態手法では、前記画像の画像特徴を抽出する前記ステップは、特に、前記画像の画像ヒストグラム分布と、暗い領域のピクセル比と、明るい領域のピクセル比と、暗い領域のヒストグラム変化量の大きさと、明るい領域のヒストグラム変化量の大きさと、に従って抽出する。
前記第1の態様における前記第1の可能実施形態手法に関連して、第2の可能実施形態手法では、前記画像のシーンがHDRシーンであるか否か、前記画像特徴に従って、判断する前記ステップは、
画像が露光不足であるか否か、および、画像が過度露光であるか否か、前記画像特徴に従って、判断するステップと、
前記画像が露光不足であるととともに、前記画像の明るい領域のピクセル比がHDRシーンにおける明るい領域のピクセル比の予め設定された最小値以上であり、および/または、前記画像が過度露光であるとともに、前記画像の暗い領域のピクセル比がHDRシーンにおける暗い領域のピクセル比の予め設定された最小値以上であるとき、 前記画像のシーンはHDRシーンである、と判断するステップと、を含む。
前記第1の態様における第2の可能実施形態手法に関連して、第3の可能実施形態手法では、画像が露光不足であるか否か、および、画像が過度露光であるか否か、前記画像特徴に従って、前記判断するステップは、特に、前記暗い領域のピクセル比が暗い領域のピクセル比の予め設定されたしきい値以上であるとき、前記画像は露光不足である、と判断し、暗い領域のヒストグラム変化量の大きさが暗い領域のヒストグラム変化量の大きさの予め設定されたしきい値以上であるとともに、暗い領域のヒストグラム変化量の大きさが前記しきい値に達したときに、前記暗い領域のピクセル比が暗い領域のピクセル比の予め設定された最小値以上であるとき、前記画像は露光不足である、と判断し、前記明るい領域のピクセル比が明るい領域のピクセル比の予め設定されたしきい値以上であるとき、前記画像は、過度露光である、と判断し、明るい領域のヒストグラム変化量の大きさが明るい領域のヒストグラム変化量の大きさの予め設定されたしきい値以上であるとともに、明るい領域のヒストグラム変化量の大きさが前記しきい値に達したときに、前記明るい領域のピクセル比が明るい領域のピクセル比の予め設定された最小値以上であるとき、前記画像は、過度露光である、と判断する。
前記第1の態様における第2の可能実施形態手法に関連して、または、前記第1の態様における第3の可能実施形態手法に関連して、第4の可能実施形態手法では、前記画像のシーンがHDRシーンであるか否か、前記画像特徴に従って、判断する前記ステップは、前記画像が露光不足であり、前記画像の明るい領域のピクセル比がHDRシーンにおける明るい領域のピクセル比の予め設定された最小値以上であるとともに、前記画像が過度露光されていないとき、前記画像のシーンが第1のHDRシーンであると判断するステップと、前記画像が過度露光であり、前記画像の暗い領域のピクセル比がHDRシーンにおける暗い領域のピクセル比の予め設定された最小値以上であるとともに、前記画像が露光不足にされていないとき、前記画像のシーンが第2のHDRシーンであると判断するステップと、前記画像が露光不足であるとともに、前記画像の明るい領域のピクセル比がHDRシーンにおける明るい領域のピクセル比の予め設定された最小値以上であるとき、および、前記画像が過度露光であるとともに、前記画像の暗い領域のピクセル比がHDRシーンにおける暗い領域のピクセル比の予め設定された最小値以上であるとき、前記画像のシーンが第3のHDRシーンであると判断するステップと、をさらに含む。
前記第1の態様に関連して、または、前記第1の態様における第1の可能実施形態手法に関連して、または、前記第1の態様における第2の可能実施形態手法に関連して、または、前記第1の態様における第3の可能実施形態手法に関連して、または、前記第1の態様における第4の可能実施形態手法に関連して、第5の可能実施形態手法では、前記画像の画像特徴を抽出するステップの前に、前記画像についてダウンサンプリング処理を実行するステップをさらに含む。
第2の態様によれば、本発明は、シーン認識装置を提供し、前記装置は、
画像と前記画像に対応するセンサデータとを取得するように構成された取得ユニットと、
前記画像のシーンが非HDRシーンか判断することを、前記センサデータに従って、実行するように構成されている第1の判断ユニットと、
前記画像のシーンが非HDRシーンであるか否か判断できないとき、前記画像の画像特徴を抽出するように構成されている抽出ユニットと、
前記画像のシーンがHDRシーンであるか否か、前記画像特徴に従って、判断するように構成されている第2の判断ユニットと、を含む。
前記第2の態様における第1の可能実施形態手法では、前記抽出ユニットは、特に、前記画像の画像ヒストグラム分布と、暗い領域のピクセル比と、明るい領域のピクセル比と、暗い領域のヒストグラム変化量の大きさと、明るい領域のヒストグラム変化量の大きさと、に従って抽出するように、特に、構成されている。
前記第2の態様における第1の可能実施形態手法に関連して、第2の可能実施形態手法では、前記第2の判断ユニットは、判定モジュールと判断モジュールとを備え、前記判定モジュールは、画像が露光不足であるか否か、および、画像が過度露光であるか否か、前記画像特徴に従って、判断するように構成されており、前記判断モジュールは、画像が露光不足にされているとともに、前記画像の明るい領域のピクセル比がHDRシーンにおける明るい領域のピクセル比の予め設定された最小値以上であるとき、および/または、画像が過度露光にされているとともに、前記画像の暗い領域のピクセル比がHDRシーンにおける暗い領域のピクセル比の予め設定された最小値以上であるとき、前記画像のシーンはHDRシーンである、と判断するように構成されている。
前記第2の態様における第2の可能実施形態手法に関連して、第3の可能実施形態手法では、前記判定モジュールは、
前記暗い領域のピクセル比が暗い領域のピクセル比の予め設定されたしきい値以上であるとき、前記画像は露光不足である、と判断し、
暗い領域のヒストグラム変化量の大きさが暗い領域のヒストグラム変化量の大きさの予め設定されたしきい値以上であるとともに、暗い領域のヒストグラム変化量の大きさが前記しきい値に達したときに、前記暗い領域のピクセル比が暗い領域のピクセル比の予め設定された最小値以上であるとき、前記画像は露光不足である、と判断し、
前記明るい領域のピクセル比が明るい領域のピクセル比の予め設定されたしきい値以上であるとき、前記画像は、過度露光である、と判断し、
明るい領域のヒストグラム変化量の大きさが明るい領域のヒストグラム変化量の大きさの予め設定されたしきい値以上であるとともに、明るい領域のヒストグラム変化量の大きさが前記しきい値に達したときに、前記明るい領域のピクセル比が明るい領域のピクセル比の予め設定された最小値以上であるとき、前記画像は、過度露光である、と判断する、ように特に構成されている。
前記第2の態様における第2の可能実施形態手法に関連して、または、前記第2の態様における第3の可能実施形態手法に関連して、第4の可能実施形態手法では、前記判断モジュールは、
前記画像が露光不足であり、前記画像の明るい領域のピクセル比がHDRシーンにおける明るい領域のピクセル比の予め設定された最小値以上であるとともに、前記画像が過度露光されていないとき、前記画像のシーンが第1のHDRシーンであると判断し、
前記画像が過度露光であり、前記画像の暗い領域のピクセル比がHDRシーンにおける暗い領域のピクセル比の予め設定された最小値以上であるとともに、前記画像が露光不足にされていないとき、前記画像のシーンが第2のHDRシーンであると判断し、
前記画像が露光不足であるとともに、前記画像の明るい領域のピクセル比がHDRシーンにおける明るい領域のピクセル比の予め設定された最小値以上であるとき、および、前記画像が過度露光であるとともに、前記画像の暗い領域のピクセル比がHDRシーンにおける暗い領域のピクセル比の予め設定された最小値以上であるとき、前記画像のシーンが第3のHDRシーンであると判断する、ようにさらに構成されている。
前記第2の態様に関連して、または、前記第2の態様における第1の可能実施形態手法に関連して、または、前記第2の態様における第2の可能実施形態手法に関連して、または、前記第2の態様における第3の可能実施形態手法に関連して、または、前記第2の態様における第4の可能実施形態手法に関連して、第5の可能実施形態手法では、前記装置は、前記抽出ユニットが前記画像の前記画像特徴を抽出する前に、前記画像についてダウンリンクサンプリング処理を実行するように構成されている画像処理ユニットを、さらに備える。
第3の態様によれば、本発明は、端末を提供し、前記端末は、前記第2の態様におけるいずれかの可能実施形態手法に係る装置を備える。
上記の解決手段では、画像のシーンが非HDRシーンであるか否か判断するために、センサデータが使用され、シーンを判断するスピードを効果的に上げることができ、前記判断についてセンサデータに従って実行できないとき、前記画像のシーンを判断するために画像特徴が使用され、前記画像のシーンがHDRシーンであるか否か判断する精度を効果的に向上させることができる。
図1は本発明の実施形態1に係るシーン認識方法のフローチャートである。 図2は本発明の実施形態2に係るシーン認識装置の概要構成図である。 図3は本発明の実施形態3に係る撮影機能を有する端末の概要構成図である。
本発明の目的と、技術的解決手段と、利点とをより明瞭にするために、本発明について、添付図面を参照して詳細に、以下にさらに説明する。明らかに、説明される実施形態は、単なる例示であり、本発明の実施形態の全てではない。創作活動をせずに本発明の実施形態に基づき当業者によって得られる他の全ての実施形態は、本発明の保護範囲の中に入ることとなる。
以下では、本発明の実施形態1で提供されるシーン認識方法を詳細に説明するための一実施例として、図1を使用するとともに、図1は、本発明の実施形態1に係るシーン認識方法のフローチャートである。前記シーン認識方法は、撮影機能を持つ端末によって実行される。図1に示されているように、シーン認識方法は、以下のステップを含む。
ステップS101:画像に対応する画像データおよびセンサデータを取得する。
前記画像は、前記端末によって撮影されている間、プレビュー画像であり、前記センサデータは、前記プレビュー画像が取得されたとき、センサを使用することで取得されたセンサデータである。前記センサデータは、例えば、センサを使用することで取得される、露光時間、平均輝度、および光感受性(国際標準化機構、ISO)のようなデータである。
ステップS102:前記センサデータにしたがって、画像のシーンが非HDRシーンか判断する、ことを実行する。
この時に取得された画像のシーンが非HDRシーンか否か、取得されたセンサデータにしたがって、端末が予備的に判断する。取得されたセンサデータが非HDRシーンの基準に適合するとき、前記画像のシーンは非HDRシーンである、と判断され得る。例えば、取得された露光時間が長すぎる場合、取得されたISO値は大きすぎ、または、取得された平均輝度は低すぎる。これは、画像の現在のシーンが夜のシーンであるか、または、僅かに照らされたシーンであることを示すとともに、前記画像の前記シーンが非HDRシーンであることが確認され得る。
ここで、センサデータにしたがって、前記画像のシーンがHDRシーンではないと判断できるのみである、ことに留意すべきであるとともに、前記画像のシーンが非HDRシーンであるか否か判断できないことになり得る、ことに留意すべきである。したがって、前記センサデータにしたがって、前記画像のシーンが非HDRシーンであるか否か判断できないとき、他のステップ処理によって実行される更なる判断方法が必要となる。
ステップS103:前記画像のシーンが非HDRシーンであるか否か判断できないとき、前記画像の画像特徴を抽出する。
具体的には、各画像が画像ヒストグラムに対応するとともに、暗い領域のピクセル比(low_sum_ratio)、明るい領域のピクセル比(high_sum_ratio)、暗い領域のヒストグラム変化量の大きさ(low_diff_hist)、明るい領域のヒストグラム変化量の大きさ(high_diff_hist)など、前記画像の状態が、前記画像に対応する画像ヒストグラム分布に従って抽出され、これらの抽出された画像特徴に従って、前記画像のシーンがHDRシーンであるか否か、端末が更に判断する。
ステップS104:画像特徴に従って、画像のシーンがHDRシーンであるか否か判断する。
画像がHDRシーンであるか否か判断するために使用されるしきい値は、端末において予め設定されており、これらのしきい値は、暗い領域のピクセル比のしきい値(sumThreshold_low)、明るい領域のピクセル比のしきい値(sumThreshold_high)、暗い領域のヒストグラム変化量の大きさのしきい値(DIFFThreshold_low)、明るい領域のヒストグラム変化量の大きさのしきい値(DIFFThreshold_high)、

暗い領域のヒストグラム変化量の大きさ(low_diff_hist)が暗い領域のヒストグラム変化量の大きさのしきい値(DIFFThreshold_low)以内であるときの暗い領域のピクセルの最小値(HDR_SUM_THRESHOLD_LOW_MIN_FOR_DIFF)、

明るい領域のヒストグラム変化量の大きさ(high_diff_hist)が明るい領域のヒストグラム変化量の大きさのしきい値(DIFFThreshold_high)以内であるときの明るい領域のピクセルの最小値(HDR_SUM_THRESHOLD_HIGH_MIN_FOR_DIFF)、HDRシーンにおける暗い領域のピクセル比の最小値(HDR_SUM_THRESHOLD_LOW_MIN)と、HDRシーンにおける明るい領域のピクセル比の最小値(HDR_SUM_THRESHOLD_HIGH_MIN)と、を含む、ことに第1に留意すべきである。各種端末の異なる構成に応じた異なる値に、各しきい値を設定することができ、本発明では、しきい値の値は、具体的に限定されない。
上記の予め設定された複数のしきい値に基づき、端末は、抽出された画像特徴に従った判断を実行する。画像が露光不足か、あるいは、画像が過度露光であるか、端末は第1に判断する。
抽出された画像特徴が以下の状態の少なくとも1つに対応するとき、前記画像は露光不足である、と判断され得る。
暗い領域のピクセル比(low_sum_ratio)が暗い領域のピクセル比のしきい値(sumThreshold_low)以上である状態と、
暗い領域のヒストグラム変化量の大きさ(low_diff_hist)が暗い領域のヒストグラム変化量の大きさのしきい値(DIFFThreshold_low)以上であるとともに、暗い領域のピクセル比(low_sum_ratio)が暗い領域のピクセルの最小値(HDR_SUM_THRESHOLD_LOW_MIN_FOR_DIFF)以上である状態。
上記の状態の1つに対応するとき、前記画像の輝度ヒストグラム分布は、暗い領域に集中するか、または、暗い領域内に比較的に集中するので、画像は露光不足とされる。
抽出された画像特徴が以下の状態の少なくとも1つに対応するとき、前記画像は過度露光である、と判断され得る。
明るい領域のピクセル比(high_sum_ratio)が明るい領域のピクセル比のしきい値(sumThreshold_high)以上である状態と、
明るい領域のヒストグラム変化量の大きさ(high_diff_hist)が明るい領域のヒストグラム変化量の大きさのしきい値(DIFFThreshold_high)以上であるとともに、明るい領域のピクセル比(high_sum_ratio)が明るい領域のピクセルの最小値(HDR_SUM_THRESHOLD_HIGH_MIN_FOR_DIFF)以上である状態。
上記の状態の1つに対応するとき、前記画像の輝度ヒストグラム分布は、明るい領域に集中するか、または、明るい領域内に比較的に集中するので、画像は過度露光とされる。
画像が露光不足であるか否かおよび画像が過度露光であるか否か、が確認された後に、判断処理がさらに実行される。
前記抽出された画像特徴が以下の状態の少なくとも1つに対応するとき、前記画像のシーンはHDRシーンである、と判断され得る。
画像が露光不足にされているとともに、明るい領域のピクセル比(high_sum_ratio)がHDRシーンにおける明るい領域のピクセル比の最小値(HDR_SUM_THRESHOLD_HIGH_MIN)以上である(以下、「状態1」と呼ぶ)。
画像が過度露光にされているとともに、暗い領域のピクセル比(low_sum_ratio)がHDRシーンにおける暗い領域のピクセル比の最小値(HDR_SUM_THRESHOLD_LOW_MIN)以上である(以下、「状態2」と呼ぶ)。
上記の状態の1つに対応するとき、現在の画像のダイナミックレンジが現実のシーンのダイナミックレンジを十分に表すことができないことを示す。したがって、前記画像のシーンはHDRシーンである。
それでも、状態1に対応した画像特徴のケースと、状態2に対応した画像特徴のケースと、状態1および状態2の両方に対応した画像特徴のケースとの間で、HDRシーンにおいて相違点がある。画像合成のためのより正確なデータを提供するために、HDRシーンは、さらに分類される必要がある。表1に示されているように、表1は、HDRシーンカテゴリを判断するための論理関係表である。
画像の画像特徴が状態1に対応するとともに、前記画像が過度露光ではないとき、画像のシーンが第1のHDRシーンであると判断されることが、表1から突き止めることができる。画像の画像特徴が状態2に対応するとともに、前記画像が露光不足ではないとき、画像のシーンは第2のHDRシーンであると判断される。画像の画像特徴が状態1および状態2の両方に同時に対応するとき、画像のシーンは第3のHDRシーンであると判断される。画像の画像特徴が状態1および状態2のいずれにも対応しないとき、画像のシーンは非HDRシーンであると判断される。
画像のシーンがHDRシーンであると判断された後、前記HDRシーンのタイプがさらに判断され、例えば、露光および露光の強さのために必要とされる画像フレームの数、HDRシーンにおける画像に実行されるHDR合成のために必要とされる画像フレームの数など、より正確なデータを提供でき、その結果、HDRシーンにおいて撮影された画像の品質を効果的に改善する。
具体的には、画像のシーンが第1のHDRシーンであると判断された後、撮影中にHDR合成が実行されたとき、画像の2つのフレームが前記判断された第1のHDRシーンに従って合成され、画像中に2つのフレームを合成するために、1つのフレームがノーマルに露光され、他のフレームが長時間露光される、ことが表1からさらに突き止めることができる。画像のシーンが第2のHDRシーンであると判断された後、撮影中にHDR合成が実行されるとき、画像の2つのフレームが前記判断された第2のHDRシーンに従って合成され、画像中に2つのフレームを合成するために、1つのフレームがノーマルに合成され、他のフレームが短時間露光される。画像のシーンが第3のHDRシーンであると判断された後、撮影中にHDR合成が実行されるとき、画像の3つのフレームが判断された3つのHDRシーンに従って合成され、画像中に3つのフレームを合成するために、1つのフレームがノーマルに合成され、1つのフレームが短時間露光され、1つのフレームが長時間露光される。さらに、画像のシーンが非HDRシーンであると判断されたとき、撮影中にHDR合成は実行される必要なく、対応する処理は、他のシーンに従って実行される。HDRシーンの各種のタイプをさらに判断することによって、HDRシーンの各種タイプに従って次のHDR合成をするために、フレームの数に対応するとともに、露光の強さに対応するように提供できる。その結果、HDRシーンの各タイプにおいて撮影された画像の品質を改善できる。
望ましくは、画像特徴を抽出するために消費される時間を低減するために、画像の画像特徴が抽出される前に、画像についてダウンリンクサンプリング処理が実行され得る。例えば、画像の実際のピクセルが1920×1080ピクセルであり、画像特徴が抽出される前に、前記画像のピクセルは640×360ピクセルに削減される。この方法では、画像特徴が抽出されるとき、時間消費が低減され、その結果、シーン認識がスピードアップする。
本発明の実施形態1で提供されるシーン認識方法を提供することによって、画像が非HDRシーンであるか否かが、画像に対応するセンサデータに従って、第1に判断され、シーン判断処理のスピードを効果的に速めることができ、前記判断がセンサデータに従って実行できないとき、画像特徴が画像のシーンを判断するために使用され、画像のシーンがHDRシーンであるか否かを判断する精度を効果的に改善でき、その結果、HDRシーンにおいて撮影された画像の品質を改善する。
本発明の実施形態2として提供されたシーン認識装置を詳細に説明するために一実施例として図2を以下では使用する。図2は、本発明の実施形態2に係るシーン認識装置の概要構成図である。前記シーン認識装置は、撮影機能を持つ端末内に配置されているとともに、本発明の実施形態1で提供されるシーン認識方法を実行するために使用される。図2で示されているように、シーン認識装置は、取得ユニット210と、第1の判断ユニット220と、抽出ユニット230と、第2の判断ユニット240とを含む。
取得ユニット210は、画像と前記画像に対応するセンサデータとを取得するように構成されている。
前記画像は、前記端末によって撮影している間、プレビュー画像であり、前記センサデータは、前記プレビュー画像が取得されたときにセンサを使用することで取得されたセンサデータである。前記センサデータは、例えば、露光時間、平均輝度、ISOのようなデータである。
第1の判断ユニット220は、前記画像のシーンが非HDRシーンか判断することを、前記センサデータに従って、実行するように構成されている。
第1の判断ユニット220は、この時に取得された画像のシーンが非HDRシーンであるか否か、前記取得されたセンサデータに従って、予備的に判断する。取得されたセンサデータが非HDRシーンの基準に適合するとき、前記画像のシーンは非HDRシーンである、と判断され得る。例えば、取得された露光時間が長すぎる場合、取得されたISO値は大きすぎ、または、取得された平均輝度は低すぎる。これは、画像の現在のシーンが夜のシーンであるか、または、僅かに照らされたシーンであることを示すとともに、前記画像の前記シーンが非HDRシーンであることが確認され得る。
ここで、センサデータにしたがって、第1の判断ユニット220は、前記画像のシーンがHDRシーンではないと判断できるのみである、ことに留意すべきであるとともに、第1の判断ユニット220は、前記画像のシーンが非HDRシーンであるか否か判断できないことになり得る、ことに留意すべきである。したがって、第1の判断ユニット220が、前記センサデータにしたがって、前記画像のシーンが非HDRシーンであるか否か判断できないとき、他のユニットによって実行される更なる判断手段が必要となる。
抽出ユニット230は、第1の判断ユニット220が、前記センサデータにしたがって、前記画像のシーンが非HDRシーンであるか否か判断できないとき、前記画像の画像特徴を抽出するように構成されている。
具体的には、各画像が画像ヒストグラムに対応するとともに、暗い領域のピクセル比(low_sum_ratio)、明るい領域のピクセル比(high_sum_ratio)、暗い領域のヒストグラム変化量の大きさ(low_diff_hist)、明るい領域のヒストグラム変化量の大きさ(high_diff_hist)など、前記画像の状態を、抽出ユニット230は、前記画像に対応する画像ヒストグラム分布に従って抽出し、第2の判断ユニット240は、これらの抽出された画像特徴に従って、前記画像のシーンがHDRシーンであるか否か、更に判断する。
第2の判断ユニット240は、前記画像特徴に従って、前記画像がHDRシーンであるか否か判断するように構成されている。
画像がHDRシーンであるか否か判断するために使用されるしきい値は、第2の判断ユニット240において予め設定されており、これらのしきい値は、暗い領域のピクセル比のしきい値(sumThreshold_low)、明るい領域のピクセル比のしきい値(sumThreshold_high)、暗い領域のヒストグラム変化量の大きさのしきい値(DIFFThreshold_low)、明るい領域のヒストグラム変化量の大きさのしきい値(DIFFThreshold_high)、暗い領域のヒストグラム変化量の大きさ(low_diff_hist)が暗い領域のヒストグラム変化量の大きさのしきい値(DIFFThreshold_low)以内であるときの暗い領域のピクセルの最小値(HDR_SUM_THRESHOLD_LOW_MIN_FOR_DIFF)、明るい領域のヒストグラム変化量の大きさ(high_diff_hist)が明るい領域のヒストグラム変化量の大きさのしきい値(DIFFThreshold_high)以内であるときの明るい領域のピクセルの最小値(HDR_SUM_THRESHOLD_HIGH_MIN_FOR_DIFF )、HDRシーンにおける暗い領域のピクセル比の最小値(HDR_SUM_THRESHOLD_LOW_MIN)と、HDRシーンにおける明るい領域のピクセル比の最小値(HDR_SUM_THRESHOLD_HIGH_MIN)と、を含む、ことに第1に留意すべきである。各種端末の異なる構成に応じた異なる値に、各しきい値を設定することができ、本発明では、しきい値の値は、具体的に限定されない。
上記の予め設定された複数のしきい値に基づき、第2の判断ユニット240は、抽出された画像特徴に従った判断を実行する。
さらに、第2の判断ユニット240は、判定モジュール241と判断モジュール242とを含む。
第1に、判定モジュール241は、画像が露光不足であるか否か、あるいは、画像が過度露光であるか否か、判断する。
抽出された画像特徴が以下の状態の少なくとも1つに対応するとき、前記画像は露光不足である、と判断され得る。
暗い領域のピクセル比(low_sum_ratio)が暗い領域のピクセル比のしきい値(sumThreshold_low)以上である状態と、
暗い領域のヒストグラム変化量の大きさ(low_diff_hist)が暗い領域のヒストグラム変化量の大きさのしきい値(DIFFThreshold_low)以上であるとともに、暗い領域のピクセル比(low_sum_ratio)が暗い領域のピクセルの最小値(HDR_SUM_THRESHOLD_LOW_MIN_FOR_DIFF)以上である状態。
抽出された画像特徴が以下の状態の少なくとも1つに対応するとき、前記画像は過度露光である、と判断され得る。
明るい領域のピクセル比(high_sum_ratio)が明るい領域のピクセル比のしきい値(sumThreshold_high)以上である状態と、
明るい領域のヒストグラム変化量の大きさ(high_diff_hist)が明るい領域のヒストグラム変化量の大きさのしきい値(DIFFThreshold_high)以上であるとともに、明るい領域のピクセル比(high_sum_ratio)が明るい領域のピクセルの最小値(HDR_SUM_THRESHOLD_HIGH_MIN_FOR_DIFF)以上である状態。
画像が露光不足であるか否かおよび画像が過度露光であるか否か、が確認された後に、判断モジュール242が判断処理をさらに実行する。
判断モジュール242は、前記抽出された画像特徴が以下の状態の少なくとも1つに対応するとき、前記画像のシーンはHDRシーンである、と判断するように構成されている。
画像が露光不足にされているとともに、明るい領域のピクセル比(high_sum_ratio)がHDRシーンにおける明るい領域のピクセル比の最小値(HDR_SUM_THRESHOLD_HIGH_MIN)以上である(以下、「状態1」と呼ぶ)。
画像が過度露光にされているとともに、暗い領域のピクセル比(low_sum_ratio)がHDRシーンにおける暗い領域のピクセル比の最小値(HDR_SUM_THRESHOLD_LOW_MIN)以上である(以下、「状態2」と呼ぶ)。
それでも、状態1に対応した画像特徴のケースと、状態2に対応した画像特徴のケースと、状態1および状態2の両方に対応した画像特徴のケースとの間で、HDRシーンにおいて相違点がある。画像合成のためのより正確なデータを提供するために、HDRシーンは、さらに分類される必要がある。
したがって、判断モジュール242は、画像の画像特徴が状態1に対応するとともに、前記画像が過度露光ではないとき、画像のシーンが第1のHDRシーンであると判断し、画像の画像特徴が状態2に対応するとともに、前記画像が露光不足ではないとき、画像のシーンは第2のHDRシーンであると判断し、画像の画像特徴が状態1および状態2の両方に同時に対応するとき、画像のシーンは第3のHDRシーンであると判断し、画像の画像特徴が状態1および状態2のいずれにも対応しないとき、画像のシーンは非HDRシーンであると判断する、ようにさらに構成されている。
画像のシーンがHDRシーンであると判断された後、第2の判断ユニット240は、前記HDRシーンのタイプをさらに判断し、例えば、露光および露光の強さのためのフレームの数、HDRシーンにおける画像に実行されるHDR合成のためのフレームの数など、より正確なデータを提供でき、その結果、HDRシーンにおいて撮影された画像の品質を効果的に改善する。
具体的には、判断モジュール242によって判断された後、画像が撮影されるとともに合成されたとき、画像のシーンが第1のHDRシーンであると判断モジュール242が判断するとき、2つのフレームが前記判断された第1のHDRシーンに従って合成され、ここで、画像中に2つのフレームを合成するために、1つのフレームがノーマルに露光され、他方のフレームは長時間露光される。画像のシーンが第2のHDRシーンであると判断モジュール242が判断するとき、画像の2つのフレームが前記判断された第2のHDRシーンに従って合成され、ここで、画像中に2つのフレームを合成するために、1つのフレームがノーマルに露光され、他方のフレームは短時間露光される。判断モジュール242が像のシーンが第3のHDRシーンであると判断するとき、3つのフレームが判断された3つのHDRシーンに従って合成され、ここで、画像中に3つのフレームを合成するために、1つのフレームがノーマルに合成され、1つのフレームが短時間露光され、1つのフレームが長時間露光される。
望ましくは、画像特徴を抽出するために消費される時間を低減するために、シーン認識装置は、さらに、画像処理ユニット350を含むこととしてもよい。画像処理ユニット250は、抽出ユニット230が画像の画像特徴を抽出する前に、画像についてダウンリンクサンプリング処理を実行するように構成されている。例えば、画像の実際のピクセルが1920×1080ピクセルであり、画像特徴が抽出される前に、前記画像のピクセルは640×360ピクセルに削減される。この方法では、画像特徴が抽出されるとき、時間消費が低減され、その結果、シーン認識がスピードアップする。
本発明の実施形態2で提供されるシーン認識装置を使用することによって、画像が非HDRシーンであるか否かが、画像に対応するセンサデータに従って、第1に判断され、シーン判断処理のスピードを効果的に速めることができ、前記判断がセンサデータに従って実行できないとき、画像特徴が画像のシーンを判断するために使用され、画像のシーンがHDRシーンであるか否かを判断する精度を効果的に改善でき、その結果、HDRシーンにおいて撮影された画像の品質を改善する。
ハードウェアの実現において、上記取得ユニット210は、具体的には、カメラおよびセンサを有していることとしてもよい。上記取得ユニット210を除いた上記ユニットが、ハードウェア形態で、構成される、または、端末のプロセッサから独立して、構成される、こととしてもよく、また、プロセッサによって実行されて、上記モジュールに対応する動作を実行するように、ソフトウェア形態で、端末のメモリ内に、保存されることとしてもよい。プロセッサは、中央処理装置(CPU)、マイクロプロセッサ、シングルチップマイクロプロセッサなどであり得る。
本発明の実施形態は、本発明の実施形態2で提供されたシーン認識装置を含む、端末をさらに提供し、前記端末は、例えば、携帯電話またはタブレットコンピュータなど、撮影機能を有するものとしてもよい。
図3に示されているように、図3は、本発明の実施形態3に係る撮影機能を有する端末の概要構成図である。前記端末は、カメラ310と、センサ320と、メモリ330と、プロセッサ340とを備える。プロセッサ340には、カメラ310と、センサ320と、メモリ330と、プロセッサ340とが個別に接続されている。もちろん、前記端末は、アンテナ、ベースバンド処理手段、中間無線周波処理手段、入出力手段など、一般的な構成要素をさらに含むこととしてもよく、本発明の実施形態によって限定されない。
カメラ310は、画像を取得するように構成されている。センサ320は、カメラ310によって取得された画像に対応するセンサデータを取得するように構成されている。
メモリ330は一グループのプログラムコードを記憶し、プロセッサ340はメモリ330に記憶された前記プログラムコードを実行するように構成されているとともに、以下の動作を実行するように構成されている。
画像と前記画像に対応するセンサデータとを取得し、
前記画像のシーンが非HDR(non-high-dynamic range:非ハイ・ダイネミック・レンジ)シーンか判断することを、前記センサデータに従って、実行し、
前記センサデータにしたがって、前記画像のシーンが非HDRシーンであるか否か判断できないとき、前記画像の画像特徴を抽出し、
前記画像特徴に従って、前記画像のシーンがHDRシーンであるか否か、判断する。
さらに、前記画像の画像特徴の前記抽出は、具体的には、
前記画像の状態が、前記画像の画像ヒストグラム分布、暗い領域のピクセル比、明るい領域のピクセル比、暗い領域のヒストグラム変化量の大きさ、明るい領域のヒストグラム変化量の大きさ、に従って抽出される。
さらに、前記画像特徴に従って、前記画像のシーンがHDRシーンであるか否か、前記判断するステップは、
前記画像特徴に従って、画像が露光不足であるか否か、判断する、あるいは、画像が過度露光であるか否か、判断するステップと、
前記画像が露光不足であるととともに、前記画像の明るい領域のピクセル比がHDRシーンにおける明るい領域のピクセル比の予め設定された最小値より小さいとき、および/または、前記画像が過度露光であるとともに、前記画像の暗い領域のピクセル比がHDRシーンにおける暗い領域のピクセル比の予め設定された最小値以上であるとき、 前記画像のシーンはHDRシーンである、と判断するステップと、を含む。
さらに、画像特徴に従って、画像が露光不足であるか否か、判断するとともに、画像が過度露光であるか否か、判断するステップは、具体的には、
前記暗い領域のピクセル比が暗い領域のピクセル比の予め設定されたしきい値以上であるとき、前記画像は露光不足である、と判断し、
暗い領域のヒストグラム変化量の大きさが暗い領域のヒストグラム変化量の大きさの予め設定されたしきい値以上であるとともに、暗い領域のヒストグラム変化量の大きさが前記しきい値に達したときに、前記暗い領域のピクセル比が暗い領域のピクセル比の予め設定された最小値以上であるとき、前記画像は露光不足である、と判断し、
前記明るい領域のピクセル比が明るい領域のピクセル比の予め設定されたしきい値以上であるとき、前記画像は、過度露光である、と判断し、
明るい領域のヒストグラム変化量の大きさが 明るい領域のヒストグラム変化量の大きさの予め設定されたしきい値以上であるとともに、明るい領域のヒストグラム変化量の大きさが前記しきい値に達したときに、前記明るい領域のピクセル比が明るい領域のピクセル比の予め設定された最小値以上であるとき、前記画像は、過度露光である、と判断する。
さらに、画像特徴に従って、前記画像のシーンがHDRシーンであるか否か、前記判断するステップは、
前記画像が露光不足であり、前記画像の明るい領域のピクセル比がHDRシーンにおける画像の明るい領域のピクセル比の予め設定された最小値以上であるとともに、前記画像が過度露光されていないとき、前記画像のシーンが第1のHDRシーンであると判断するステップと、
前記画像が過度露光であり、前記画像の暗い領域のピクセル比がHDRシーンにおける暗い領域のピクセル比の予め設定された最小値以上であるとともに、前記画像が露光不足にされていないとき、前記画像のシーンが第2のHDRシーンであると判断するステップと、
前記画像が露光不足であるとともに、前記画像の明るい領域のピクセル比がHDRシーンにおける明るい領域のピクセル比の予め設定された最小値以上であるとき、および、前記画像が過度露光であるとともに、前記画像の暗い領域のピクセル比がHDRシーンにおける暗い領域のピクセル比の予め設定された最小値以上であるとき、前記画像のシーンが第3のHDRシーンであると判断するステップと、を含む。
さらに、プロセッサ340は、メモリ330からプログラムコードを読み出して、下記の動作を実行するように、さらに構成されている。
画像についてダウンサンプリング処理を実行する。
本発明の実施形態3で提出された撮影機能を有する端末を使用することによって、画像に対応するセンサデータに従って、前記画像が非HDRシーンであるか否か、第1に判断され、シーン判断のスピードを効果的に上げることができ、前記判断についての処理が前記センサデータに従って実行できないとき、前記画像特徴が前記画像のシーンを判断するために使用され、前記画像のシーンがHDRシーンであるか否か判断する精度を効果的に改善することができ、その結果、HDRシーンにおいて撮影された画像の品質を改善する。
当業者は、本明細書で説明された実施形態で記載された実施例の組合せにおいて、ユニット、およびアルゴリズムステップが電子的ハードウェア、コンピュータソフトウェアまたはそれらの組合せによって実行され得る、とさらに理解できる。ハードウェアとソフトウェアとの間の互換性について明確に説明するために、上記では、機能に対応する各実施例の構成およびステップが一般的に説明されている。前記機能がハードウェアまたはソフトウェアによって実行されることにかかわらず、特定用途および技術的解決手段の設計拘束条件に依存する。当業者は、各特定用途について説明された機能を実行するために異なる方法を使用できるが、それを実現することは、本発明の範囲の外にある、と考えるべきではない。
本明細書で説明された実施形態の組合せにおいて、方法またはアルゴリズムステップが、ハードウェア、プロセッサによって実行されるソフトウェアモジュール、またはそれらの組合せによって実施され得る。前記ソフトウェアモジュールは、ランダムアクセスメモリ(RAM)、メモリ、リードオンリメモリ(ROM)、電気的プログラム可能ROM、電気的消去可能プログラムROM、レジスタ、ハードディスク、取外し可能ディスク、CD−ROM、または、当技術分野で知られているあらゆる他の形式の記録媒体、の中に配置することができる。
上記特定の実施手段では、本発明の目的、技術的解決手段および効果がさらに詳細に説明されている。上記詳細な説明は、単なる本発明の特定の実施手段に過ぎず、本発明の保護範囲を限定することを意図していない、と理解されるべきである。本発明の思想及び原理から逸脱しない任意の修正、均等な置換、または改良は、本発明の保護範囲であるべきである。
210 取得ユニット
220 第1の判断ユニット
230 抽出ユニット
240 第2の判断ユニット
310 カメラ
320 センサ
330 メモリ
340 プロセッサ
前記画像は、前記端末によって撮影されている間に取得されたプレビュー画像であり、前記センサデータは、前記プレビュー画像が取得されたとき、センサを使用することで取得されたセンサデータである。前記センサデータは、例えば、センサを使用することで取得される、露光時間、平均輝度、および光感受性(国際標準化機構、ISO)のようなデータである。
画像がHDRシーンであるか否か判断するために使用されるしきい値は、端末において予め設定されており、これらのしきい値は、暗い領域のピクセル比のしきい値(sumThreshold_low)、明るい領域のピクセル比のしきい値(sumThreshold_high)、暗い領域のヒストグラム変化量の大きさのしきい値(DIFFThreshold_low)、明るい領域のヒストグラム変化量の大きさのしきい値(DIFFThreshold_high)、暗い領域のヒストグラム変化量の大きさ(low_diff_hist)が暗い領域のヒストグラム変化量の大きさのしきい値(DIFFThreshold_low)以内であるときの暗い領域のピクセルの最小値(HDR_SUM_THRESHOLD_LOW_MIN_FOR_DIFF)、明るい領域のヒストグラム変化量の大きさ(high_diff_hist)が明るい領域のヒストグラム変化量の大きさのしきい値(DIFFThreshold_high)以内であるときの明るい領域のピクセルの最小値(HDR_SUM_THRESHOLD_HIGH_MIN_FOR_DIFF)、HDRシーンにおける暗い領域のピクセル比の最小値(HDR_SUM_THRESHOLD_LOW_MIN)と、HDRシーンにおける明るい領域のピクセル比の最小値(HDR_SUM_THRESHOLD_HIGH_MIN)と、を含む、ことに第1に留意すべきである。各種端末の異なる構成に応じた異なる値に、各しきい値を設定することができ、本発明では、しきい値の値は、具体的に限定されない。
前記画像は、前記端末によって撮影している間に取得されたプレビュー画像であり、前記センサデータは、前記プレビュー画像が取得されたときにセンサを使用することで取得されたセンサデータである。前記センサデータは、例えば、露光時間、平均輝度、ISOのようなデータである。
第2の判断ユニット240は、前記画像特徴に従って、前記画像のシーンがHDRシーンであるか否か判断するように構成されている。
画像がHDRシーンであるか否か判断するために使用されるしきい値は、第2の判断ユニット240において予め設定されており、これらのしきい値は、暗い領域のピクセル比のしきい値(sumThreshold_low)、明るい領域のピクセル比のしきい値(sumThreshold_high)、暗い領域のヒストグラム変化量の大きさのしきい値(DIFFThreshold_low)、明るい領域のヒストグラム変化量の大きさのしきい値(DIFFThreshold_high)、暗い領域のヒストグラム変化量の大きさ(low_diff_hist)が暗い領域のヒストグラム変化量の大きさのしきい値(DIFFThreshold_low)以内であるときの暗い領域のピクセルの最小値(HDR_SUM_THRESHOLD_LOW_MIN_FOR_DIFF)、明るい領域のヒストグラム変化量の大きさ(high_diff_hist)が明るい領域のヒストグラム変化量の大きさのしきい値(DIFFThreshold_high)以内であるときの明るい領域のピクセルの最小値(HDR_SUM_THRESHOLD_HIGH_MIN_FOR_DIFF )、HDRシーンにおける暗い領域のピクセル比の最小値(HDR_SUM_THRESHOLD_LOW_MIN)と、HDRシーンにおける明るい領域のピクセル比の最小値(HDR_SUM_THRESHOLD_HIGH_MIN)と、を含む、ことに第1に留意すべきである。各種端末の異なる構成に応じた異なる値に、各しきい値を設定することができ、本発明では、しきい値の値は、具体的に限定されない。
望ましくは、画像特徴を抽出するために消費される時間を低減するために、シーン認識装置は、さらに、画像処理ユニット250を含むこととしてもよい。画像処理ユニット250は、抽出ユニット230が画像の画像特徴を抽出する前に、画像についてダウンリンクサンプリング処理を実行するように構成されている。例えば、画像の実際のピクセルが1920×1080ピクセルであり、画像特徴が抽出される前に、前記画像のピクセルは640×360ピクセルに削減される。この方法では、画像特徴が抽出されるとき、時間消費が低減され、その結果、シーン認識がスピードアップする。

Claims (13)

  1. 画像と前記画像に対応するセンサデータとを取得するステップと、
    前記画像のシーンが非ハイ・ダイナミック・レンジ(HDR)シーンか判断することを、前記センサデータに従って、実行するステップと、
    前記画像のシーンが非HDRシーンであるか否か判断できないとき、前記画像の画像特徴を抽出するステップと、
    前記画像のシーンがHDRシーンであるか否か、前記画像特徴に従って、判断するステップと、
    を含む、シーン認識方法。
  2. 前記画像の画像特徴を抽出するステップは、特に、
    前記画像の画像ヒストグラム分布と、暗い領域のピクセル比と、明るい領域のピクセル比と、暗い領域のヒストグラム変化量の大きさと、明るい領域のヒストグラム変化量の大きさと、に従って抽出する、請求項1に記載の方法。
  3. 前記画像のシーンがHDRシーンであるか否か、前記画像特徴に従って、判断する前記ステップは、
    画像が露光不足であるか否か、および、画像が過度露光であるか否か、前記画像特徴に従って、判断するステップと、
    前記画像が露光不足であるととともに、前記画像の明るい領域のピクセル比が HDRシーンにおける明るい領域のピクセル比の予め設定された最小値以上であり、および/または、前記画像が過度露光であるとともに、前記画像の暗い領域のピクセル比がHDRシーンにおける暗い領域のピクセル比の予め設定された最小値以上であるとき、前記画像のシーンはHDRシーンである、と判断するステップと、
    を含む、請求項2に記載の方法。
  4. 画像が露光不足であるか否か、および、画像が過度露光であるか否か、前記画像特徴に従って、前記判断するステップは、特に、
    前記暗い領域のピクセル比が暗い領域のピクセル比の予め設定されたしきい値以上であるとき、前記画像は露光不足である、と判断し、
    暗い領域のヒストグラム変化量の大きさが暗い領域のヒストグラム変化量の大きさの予め設定されたしきい値以上であるとともに、暗い領域のヒストグラム変化量の大きさが前記しきい値に達したときに、前記暗い領域のピクセル比が暗い領域のピクセル比の予め設定された最小値以上であるとき、前記画像は露光不足である、と判断し、
    前記明るい領域のピクセル比が明るい領域のピクセル比の予め設定されたしきい値以上であるとき、前記画像は、過度露光である、と判断し、
    明るい領域のヒストグラム変化量の大きさが 明るい領域のヒストグラム変化量の大きさの予め設定されたしきい値以上であるとともに、明るい領域のヒストグラム変化量の大きさが前記しきい値に達したときに、前記明るい領域のピクセル比が明るい領域のピクセル比の予め設定された最小値以上であるとき、前記画像は、過度露光である、と判断する、請求項3に記載の方法。
  5. 前記画像のシーンがHDRシーンであるか否か、前記画像特徴に従って、判断する前記ステップは、
    前記画像が露光不足であり、前記画像の明るい領域のピクセル比がHDRシーンにおける明るい領域のピクセル比の予め設定された最小値以上であるとともに、前記画像が過度露光されていないとき、前記画像のシーンが第1のHDRシーンであると判断するステップと、
    前記画像が過度露光であり、前記画像の暗い領域のピクセル比がHDRシーンにおける暗い領域のピクセル比の予め設定された最小値以上であるとともに、前記画像が露光不足にされていないとき、前記画像のシーンが第2のHDRシーンであると判断するステップと、
    前記画像が露光不足であるとともに、前記画像の明るい領域のピクセル比がHDRシーンにおける明るい領域のピクセル比の予め設定された最小値以上であるとき、および、前記画像が過度露光であるとともに、前記画像の暗い領域のピクセル比がHDRシーンにおける暗い領域のピクセル比の予め設定された最小値以上であるとき、前記画像のシーンが第3のHDRシーンであると判断するステップと、
    を含む、請求項3または4に記載の方法。
  6. 前記方法は、前記画像の画像特徴を抽出するステップの前に、前記画像についてダウンサンプリング処理を実行するステップをさらに含む、請求項1から5のいずれか一項に記載の方法。
  7. 画像と前記画像に対応するセンサデータとを取得するように構成された取得ユニットと、
    前記画像のシーンが非HDRシーンか判断することを、前記センサデータに従って、実行するように構成されている第1の判断ユニットと、
    前記画像のシーンが非HDRシーンであるか否か判断できないとき、前記画像の画像特徴を抽出するように構成されている抽出ユニットと、
    前記画像のシーンがHDRシーンであるか否か、前記画像特徴に従って、判断するように構成されている第2の判断ユニットと、
    を備える、シーン認識装置。
  8. 前記抽出ユニットは、
    前記画像の画像ヒストグラム分布と、暗い領域のピクセル比と、明るい領域のピクセル比と、暗い領域のヒストグラム変化量の大きさと、明るい領域のヒストグラム変化量の大きさと、に従って抽出するように、特に、構成されている、請求項7に記載の装置。
  9. 前記第2の判断ユニットは、判定モジュールと判断モジュールとを備え、
    前記判定モジュールは、画像が露光不足であるか否か、および、画像が過度露光であるか否か、前記画像特徴に従って、判断するように構成されており、
    前記判断モジュールは、画像が露光不足にされているとともに、前記画像の明るい領域のピクセル比がHDRシーンにおける明るい領域のピクセル比の予め設定された最小値以上であるとき、および/または、画像が過度露光にされているとともに、前記画像の暗い領域のピクセル比がHDRシーンにおける暗い領域のピクセル比の予め設定された最小値以上であるとき、前記画像のシーンはHDRシーンである、と判断するように構成されている、
    請求項8に記載の装置。
  10. 前記判定モジュールは、
    前記暗い領域のピクセル比が暗い領域のピクセル比の予め設定されたしきい値以上であるとき、前記画像は露光不足である、と判断し、
    暗い領域のヒストグラム変化量の大きさが暗い領域のヒストグラム変化量の大きさの予め設定されたしきい値以上であるとともに、暗い領域のヒストグラム変化量の大きさが前記しきい値に達したときに、前記暗い領域のピクセル比が暗い領域のピクセル比の予め設定された最小値以上であるとき、前記画像は露光不足である、と判断し、
    前記明るい領域のピクセル比が明るい領域のピクセル比の予め設定されたしきい値以上であるとき、前記画像は、過度露光である、と判断し、
    明るい領域のヒストグラム変化量の大きさが明るい領域のヒストグラム変化量の大きさの予め設定されたしきい値以上であるとともに、明るい領域のヒストグラム変化量の大きさが前記しきい値に達したときに、前記明るい領域のピクセル比が明るい領域のピクセル比の予め設定された最小値以上であるとき、前記画像は、過度露光である、と判断する、
    ように特に構成されている、請求項9に記載の装置。
  11. 前記判断モジュールは、
    前記画像が露光不足であり、前記画像の明るい領域のピクセル比がHDRシーンにおける明るい領域のピクセル比の予め設定された最小値以上であるとともに、前記画像が過度露光されていないとき、前記画像のシーンが第1のHDRシーンであると判断し、
    前記画像が過度露光であり、前記画像の暗い領域のピクセル比がHDRシーンにおける暗い領域のピクセル比の予め設定された最小値以上であるとともに、前記画像が露光不足にされていないとき、前記画像のシーンが第2のHDRシーンであると判断し、
    前記画像が露光不足であるとともに、前記画像の明るい領域のピクセル比がHDRシーンにおける明るい領域のピクセル比の予め設定された最小値以上であるとき、および、前記画像が過度露光であるとともに、前記画像の暗い領域のピクセル比がHDRシーンにおける暗い領域のピクセル比の予め設定された最小値以上であるとき、前記画像のシーンが第3のHDRシーンであると判断する、
    ようにさらに構成されている、請求項9または10に記載の装置。
  12. 前記装置は、
    前記抽出ユニットが前記画像の前記画像特徴を抽出する前に、前記画像についてダウンリンクサンプリング処理を実行するように構成されている画像処理ユニットをさらに備える、請求項7から11のいずれか一項に記載の装置。
  13. 請求項7から12のいずれか一項に記載の装置を備える、端末。
JP2015532298A 2013-01-24 2014-01-21 シーン認識方法および装置 Active JP6160004B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN201310027728.9 2013-01-24
CN201310027728.9A CN103973988B (zh) 2013-01-24 2013-01-24 场景识别方法及装置
PCT/CN2014/070994 WO2014114223A1 (zh) 2013-01-24 2014-01-21 场景识别方法及装置

Publications (2)

Publication Number Publication Date
JP2015532070A true JP2015532070A (ja) 2015-11-05
JP6160004B2 JP6160004B2 (ja) 2017-07-12

Family

ID=51226932

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015532298A Active JP6160004B2 (ja) 2013-01-24 2014-01-21 シーン認識方法および装置

Country Status (5)

Country Link
US (2) US9530054B2 (ja)
EP (1) EP2854389B1 (ja)
JP (1) JP6160004B2 (ja)
CN (1) CN103973988B (ja)
WO (1) WO2014114223A1 (ja)

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9584733B2 (en) * 2010-09-30 2017-02-28 Apple Inc. High dynamic range transition
CN103973988B (zh) * 2013-01-24 2018-02-02 华为终端(东莞)有限公司 场景识别方法及装置
CN105828065B (zh) * 2015-01-08 2017-11-21 中国移动通信集团浙江有限公司 一种视频画面过曝检测方法及装置
CN104883504B (zh) * 2015-06-05 2018-06-01 广东欧珀移动通信有限公司 开启智能终端上高动态范围hdr功能的方法及装置
CN107534737B (zh) * 2015-08-31 2020-11-17 华为技术有限公司 一种拍摄图片的方法及装置
CN105141857B (zh) * 2015-09-21 2018-12-11 广东欧珀移动通信有限公司 图像处理方法和装置
CN106067177B (zh) * 2016-06-15 2020-06-26 深圳市万普拉斯科技有限公司 Hdr场景侦测方法和装置
KR102594201B1 (ko) * 2016-09-22 2023-10-27 삼성디스플레이 주식회사 영상 처리 방법 및 이를 수행하는 표시 장치
EP3312798A1 (en) 2016-10-20 2018-04-25 Thomson Licensing Method and device for inverse tone mapping
CN109510946B (zh) * 2017-09-15 2020-07-17 展讯通信(上海)有限公司 Hdr场景检测方法及系统
CN107635102B (zh) * 2017-10-30 2020-02-14 Oppo广东移动通信有限公司 高动态范围图像曝光补偿值获取方法和装置
KR102463965B1 (ko) 2018-01-04 2022-11-08 삼성디스플레이 주식회사 유기 발광 표시 장치 및 이의 구동 방법
CN109194946B (zh) * 2018-09-30 2021-07-20 Oppo广东移动通信有限公司 数据处理方法及装置、电子设备及存储介质
CN109639996B (zh) * 2019-01-23 2023-06-06 努比亚技术有限公司 高动态场景成像方法、移动终端及计算机可读存储介质
JP2021006937A (ja) * 2019-06-27 2021-01-21 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
US20220397675A1 (en) * 2019-07-09 2022-12-15 Sony Semiconductor Solutions Corporation Imaging systems, devices and methods
CN110443766B (zh) * 2019-08-06 2022-05-31 厦门美图之家科技有限公司 图像处理方法、装置、电子设备及可读存储介质
CN111444825A (zh) * 2020-03-25 2020-07-24 四川长虹电器股份有限公司 一种利用直方图判断图像场景的方法
CN112543286A (zh) * 2020-11-27 2021-03-23 展讯通信(上海)有限公司 一种用于终端的图像生成方法及装置、存储介质、终端
CN113747062B (zh) * 2021-08-25 2023-05-26 Oppo广东移动通信有限公司 Hdr场景检测方法与装置、终端及可读存储介质
CN114374798A (zh) * 2022-01-10 2022-04-19 Tcl通讯科技(成都)有限公司 场景识别方法、装置、电子设备和计算机可读存储介质
CN115767262B (zh) * 2022-10-31 2024-01-16 华为技术有限公司 拍照方法及电子设备

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08214211A (ja) * 1995-02-03 1996-08-20 Canon Inc 画像合成装置
JPH08256303A (ja) * 1995-03-17 1996-10-01 Canon Inc 画像処理装置
JPH09107499A (ja) * 1995-10-11 1997-04-22 Canon Inc 撮像装置及びその画像処理方法
US20110222793A1 (en) * 2010-03-09 2011-09-15 Sony Corporation Image processing apparatus, image processing method, and program
JP2011244053A (ja) * 2010-05-14 2011-12-01 Nikon Corp 画像処理装置、撮像装置、及び画像処理プログラム
US20120127336A1 (en) * 2010-11-19 2012-05-24 Aof Imaging Technology, Co., Ltd. Imaging apparatus, imaging method and computer program
JP2012109849A (ja) * 2010-11-18 2012-06-07 Canon Inc 撮像装置
JP2012205244A (ja) * 2011-03-28 2012-10-22 Canon Inc 画像処理装置、及びその制御方法

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5929908A (en) * 1995-02-03 1999-07-27 Canon Kabushiki Kaisha Image sensing apparatus which performs dynamic range expansion and image sensing method for dynamic range expansion
US6879731B2 (en) * 2003-04-29 2005-04-12 Microsoft Corporation System and process for generating high dynamic range video
US7612804B1 (en) * 2005-02-15 2009-11-03 Apple Inc. Methods and apparatuses for image processing
JP4218723B2 (ja) * 2006-10-19 2009-02-04 ソニー株式会社 画像処理装置、撮像装置、画像処理方法およびプログラム
JP4306750B2 (ja) * 2007-03-14 2009-08-05 ソニー株式会社 撮像装置、撮像方法、露光制御方法、プログラム
ES2396318B1 (es) * 2007-07-25 2013-12-16 Tay HIOK NAM Control de exposicion para un sistema de formacion de imagenes
JP5012333B2 (ja) * 2007-08-30 2012-08-29 コニカミノルタアドバンストレイヤー株式会社 画像処理装置および画像処理方法ならびに撮像装置
JP5191240B2 (ja) 2008-01-09 2013-05-08 オリンパス株式会社 シーン変化検出装置およびシーン変化検出プログラム
US8248481B2 (en) * 2009-04-08 2012-08-21 Aptina Imaging Corporation Method and apparatus for motion artifact removal in multiple-exposure high-dynamic range imaging
CN102111560B (zh) * 2009-12-26 2013-05-29 比亚迪股份有限公司 一种自动曝光装置及其方法
US8717547B2 (en) 2010-09-30 2014-05-06 Alcon Research, Ltd Production process for an interface unit and a group of such interface units
US8717457B2 (en) * 2012-08-14 2014-05-06 Canon Kabushiki Kaisha Adaptive spectral imaging for video capture
CN103973988B (zh) * 2013-01-24 2018-02-02 华为终端(东莞)有限公司 场景识别方法及装置

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08214211A (ja) * 1995-02-03 1996-08-20 Canon Inc 画像合成装置
JPH08256303A (ja) * 1995-03-17 1996-10-01 Canon Inc 画像処理装置
JPH09107499A (ja) * 1995-10-11 1997-04-22 Canon Inc 撮像装置及びその画像処理方法
US20110222793A1 (en) * 2010-03-09 2011-09-15 Sony Corporation Image processing apparatus, image processing method, and program
CN102196185A (zh) * 2010-03-09 2011-09-21 索尼公司 图像处理装置、图像处理方法和程序
JP2011188277A (ja) * 2010-03-09 2011-09-22 Sony Corp 画像処理装置、画像処理方法およびプログラム
JP2011244053A (ja) * 2010-05-14 2011-12-01 Nikon Corp 画像処理装置、撮像装置、及び画像処理プログラム
JP2012109849A (ja) * 2010-11-18 2012-06-07 Canon Inc 撮像装置
US20120127336A1 (en) * 2010-11-19 2012-05-24 Aof Imaging Technology, Co., Ltd. Imaging apparatus, imaging method and computer program
JP2012109900A (ja) * 2010-11-19 2012-06-07 Aof Imaging Technology Ltd 撮影装置、撮影方法、およびプログラム
CN102572286A (zh) * 2010-11-19 2012-07-11 信泰伟创影像科技有限公司 摄影装置、摄影方法和程序
JP2012205244A (ja) * 2011-03-28 2012-10-22 Canon Inc 画像処理装置、及びその制御方法

Also Published As

Publication number Publication date
CN103973988A (zh) 2014-08-06
EP2854389A1 (en) 2015-04-01
EP2854389B1 (en) 2018-05-30
EP2854389A4 (en) 2015-10-07
JP6160004B2 (ja) 2017-07-12
US9530054B2 (en) 2016-12-27
US20170083767A1 (en) 2017-03-23
US20150110356A1 (en) 2015-04-23
WO2014114223A1 (zh) 2014-07-31
US9934438B2 (en) 2018-04-03
CN103973988B (zh) 2018-02-02

Similar Documents

Publication Publication Date Title
JP6160004B2 (ja) シーン認識方法および装置
CN111028189B (zh) 图像处理方法、装置、存储介质及电子设备
CN108335279B (zh) 图像融合和hdr成像
US9451173B2 (en) Electronic device and control method of the same
US9479705B2 (en) Exposure value adjustment apparatus, method, and non-transitory tangible machine-readable medium thereof
JP4234195B2 (ja) 画像分割方法および画像分割システム
EP2987135B1 (en) Reference image selection for motion ghost filtering
CN108668093B (zh) Hdr图像的生成方法及装置
EP3198853A2 (en) High dynamic range image composition using multiple images
US9544506B1 (en) Image processing method for image capturing device
CN110443766B (zh) 图像处理方法、装置、电子设备及可读存储介质
CN111383206B (zh) 一种图像处理方法、装置、电子设备及存储介质
CN110717871A (zh) 图像处理方法、装置、存储介质及电子设备
WO2010116478A1 (ja) 画像処理装置および画像処理方法、画像処理プログラム
CN114418879A (zh) 图像处理方法、装置、电子设备及存储介质
CN107682611B (zh) 对焦的方法、装置、计算机可读存储介质和电子设备
CN110740266B (zh) 图像选帧方法、装置、存储介质及电子设备
US10972676B2 (en) Image processing method and electronic device capable of optimizing hdr image by using depth information
Choi et al. A method for fast multi-exposure image fusion
TWI566206B (zh) 寬動態範圍影像方法
CN113674303A (zh) 图像处理方法、装置、电子设备及存储介质
CN111970501A (zh) 纯色场景ae色彩处理方法、装置、电子设备及存储介质
CN113163127A (zh) 图像处理方法、装置、电子设备及存储介质
CN105141857A (zh) 图像处理方法和装置
CN104243767A (zh) 去除图像噪声的方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150319

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150319

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160216

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160512

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160920

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161215

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170516

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170525

R150 Certificate of patent or registration of utility model

Ref document number: 6160004

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350