JP5152405B2 - 画像処理装置および画像処理方法、画像処理プログラム - Google Patents

画像処理装置および画像処理方法、画像処理プログラム Download PDF

Info

Publication number
JP5152405B2
JP5152405B2 JP2011508120A JP2011508120A JP5152405B2 JP 5152405 B2 JP5152405 B2 JP 5152405B2 JP 2011508120 A JP2011508120 A JP 2011508120A JP 2011508120 A JP2011508120 A JP 2011508120A JP 5152405 B2 JP5152405 B2 JP 5152405B2
Authority
JP
Japan
Prior art keywords
luminance
image
value
calculated
calculation unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011508120A
Other languages
English (en)
Other versions
JPWO2010116478A1 (ja
Inventor
珊珊 于
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Publication of JPWO2010116478A1 publication Critical patent/JPWO2010116478A1/ja
Application granted granted Critical
Publication of JP5152405B2 publication Critical patent/JP5152405B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/44008Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration using histogram techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/92Dynamic range modification of images or parts thereof based on global image properties
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/4223Cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H04N21/4318Generation of visual interfaces for content selection or interaction; Content or additional data rendering by altering the content in the rendering process, e.g. blanking, blurring or masking an image region
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/44Receiver circuitry for the reception of television signals according to analogue transmission standards
    • H04N5/57Control of contrast or brightness

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)
  • Facsimile Image Signal Circuits (AREA)

Description

この発明は、画像処理装置および画像処理方法、画像処理プログラムに関する。
従来より、デジタルカメラなどによって撮影された画像が夜景画像かを判定する技術について、様々な研究が開示されている。例えば、輝度情報と位置情報とを組み合わせて、あるいは、輝度情報と彩度情報とを組み合わせて用いることで、夜景画像かを判定する技術が知られている。また、例えば、人が撮影された画像について、夜景画像かを判定する技術などが知られている。
ここで、夜景画像とは、全体的に暗い画像であるが、全体的に暗い画像と一口に言っても様々な画像がある。例えば、明るい部分が点々とある暗い画像があり、暗い背景の中に花火などのイルミネーションが点々とあるような夜景画像など該当する。また、例えば、大きな明るい部分がある暗い画像もあり、暗い背景の中に白い看板が大きく撮影された夜景画像などが該当する。また、例えば、明るい部分のない暗い画像もあり、夜の森が撮影された夜景画像などが該当する。なお、人が一般的に夜景画像としてイメージするのは、明るい部分が点々とある暗い画像である。
特開2001−100087号公報 特開2001−36744号公報 特開2002−232728号公報 特開2005−122720号公報 特開2002−369075号公報 特開2003−73505号公報
しかしながら、上記した従来の技術は、夜景画像の内、明るい部分が点々とある暗い画像かを高精度に判定できなかった。つまり、様々な種類がある夜景画像の内、人によって夜景画像であるとしてイメージされる夜景画像かを高精度に判定できなかった。
開示の技術は、上記に鑑みてなされたものであって、明るい部分が点々とある暗い画像かを高精度に判定可能な画像処理装置および画像処理方法、画像処理プログラムを提供することを目的とする。
本願の開示する画像処理装置の一つの態様によれば、画像を形成する画素ごとに輝度を算出する輝度算出部を備える。また、前記輝度算出部によって算出された複数の輝度の平均輝度を算出する平均算出部を備える。また、前記輝度算出部によって輝度が算出された画素の内、画像の明部と暗部とを区別する輝度である区別値以上の輝度を識別し、識別した画素が当該画像において占める明部割合を算出する割合算出部を備える。また、前記輝度算出部によって算出された輝度に基づいて輝度ヒストグラムを生成し、生成した輝度ヒストグラムにおける区別値以上の輝度に対応する領域において、輝度分布の広がり量を示す分散値を算出する分散算出部を備える。また、前記平均算出部によって算出された平均輝度が第一の閾値以下であり、前記割合算出部によって算出された明部割合が第二の閾値以上であり、前記分散算出部によって算出された分散値が第三の閾値以上であるかを判定する判定部を備える。
本願の開示する画像処理装置の一つの態様によれば、明るい部分が点々とある暗い画像かを判定可能であるという効果を奏する。
図1は、実施例1に係る画像処理装置の概要を説明するための図である。 図2は、実施例1に係る画像処理装置の構成を説明するためのブロック図である。 図3は、実施例1における閾値記憶部を説明するための図である。 図4は、実施例1における輝度算出部を説明するための図である。 図5は、実施例1における区別値を説明するための図である。 図6−1は、実施例1における分散値算出部を説明するための図である。 図6−2は、実施例1における分散値算出部を説明するための図である。 図7は、実施例1における画像の種類と閾値との関係について説明するための図である。 図8は、実施例1における画像処理装置の処理の流れの一例を説明するためのフローチャートである。 図9は、実施例1における割合算出部による割合算出処理の流れの一例を説明するためのフローチャートである。 図10−1は、実施例1係る画像処理装置の効果の一例を説明するための図である。 図10−2は、実施例1係る画像処理装置の効果の一例を説明するための図である。 図10−3は、実施例1係る画像処理装置の効果の一例を説明するための図である。 図11−1は、実施例1係る画像処理装置の効果の一例を説明するための図である。 図11−2は、実施例1係る画像処理装置の効果の一例を説明するための図である。 図12は、実施例2に係る画像処理装置の構成を説明するためのブロック図である。 図13は、実施例2における画像処理装置の処理の流れの一例を説明するためのフローチャートである。 図14は、実施例3に係る画像処理装置の構成を説明するためのブロック図である。 図15は、実施例3における画像処理装置の処理の流れの一例を説明するためのフローチャートである。 図16は、実施例1に係る画像処理プログラムを実行するコンピュータの一例について説明するための図である。
符号の説明
100 画像処理装置
101 撮影部
200 記憶部
201 閾値記憶部
202 画像記憶部
300 制御部
301 輝度算出部
302 明るさ算出部
303 区別値算出部
304 割合算出部
305 分散値算出部
306 夜景画像判定部
307 補正部
308 撮影条件判定部
309 人判定部
以下に添付図面を参照して、この発明に係る画像処理装置および画像処理方法、画像処理プログラムの実施例を詳細に説明する。なお、以下では、本実施例に係る画像処理装置の概要、画像処理装置の構成および処理の流れを順に説明し、その後、その他の実施例について説明する。
[画像処理装置の概要]
まず最初に、図1を用いて、実施例1に係る画像処理装置の概要を説明する。図1は、実施例1に係る画像処理装置の概要を説明するための図である。
実施例1に係る画像処理装置は、画像を形成する画素ごとに輝度を算出する。例えば、画像処理装置は、デジタルカメラなどによって撮影された画像データを受け付けると、受け付けた画像データを形成する画素ごとに輝度を算出し、図1に示すように、輝度ヒストグラムを生成する。
そして、実施例1に係る画像処理装置は、算出した複数の輝度の平均輝度を算出する。また、画像処理装置は、算出した輝度の内、画像の明部と暗部とを区別する輝度である区別値以上となる輝度を識別する。そして、画像処理装置は、識別した輝度の数が、算出した全輝度の数に対して占める明部割合を算出する。例えば、図1に示すように、画像処理装置は、暗部における度数の合計値が、輝度ヒストグラム内の全度数の合計値に対して占める割合を算出する。また、同様に、画像処理装置は、区別値以下となる輝度を識別し、暗部割合を算出する。
また、実施例1に係る画像処理装置は、輝度ヒストグラムにおける区別値以上の輝度に対応する領域において、輝度分布の広がり量を示す分散値を算出する。例えば、画像処理装置は、図1に示す明部において、輝度が広く分散しているのか、または、特定の輝度範囲に輝度が集中しているかを示す値を算出する。
そして、実施例1に係る画像処理装置は、平均輝度が第一の閾値以下であり、明部割合が第二の閾値以上であり、分散値が第三の閾値以上であり、暗部割合が第四の閾値以上かを判定する。そして、画像処理装置は、すべての閾値を満たしている場合に、明るい部分が点々とある暗い画像であると判定する。
すなわち、画像処理装置は、画像の平均輝度が低いかを判定することで、「明るい画像」を除外する。また、図1の(1)に示すように、暗部の画素数が多いかを判定することで、「大きな明るい部分がある暗い画像」を除外する。また、画像処理装置は、図1の(2)に示すように、画像に明るい画素が一定割合以上あり、明部があることを判定することで、「明るい部分のない暗い画像」を除外する。さらに、画像処理装置は、図1の(3)に示すように、明るい画素が広い輝度範囲に分散しているかを判定することで、「明るい部分のない暗い画像」や「大きな明るい部分がある暗い画像」を高精度に除外でき、「明るい部分が点々とある暗い画像」であるかを判定する。
このようなことから、実施例1に係る画像処理装置は、明るい部分が点々とある暗い画像かを判定可能である。また、本発明によれば、輝度のみを用いた少ない計算量にて判定でき、判定処理に要する処理負荷を軽減することが可能である。
[画像処理装置の構成]
次に、図2を用いて、図1に示した画像処理装置100の構成を説明する。図2は、実施例1に係る画像処理装置の構成を説明するためのブロック図である。図2に示すように、画像処理装置100は、撮影部101と記憶部200と制御部300とを備える。
撮影部101は、制御部300と接続され、具体的には、後述する輝度算出部301と補正部307と接続される。また、撮影部101は、デジタルカメラやデジタルビデオカメラなどが該当し、画像を撮影すると、撮影した画像を輝度算出部301と補正部307とに送信する。なお、撮影部101は、例えば、画像処理装置100を利用する利用者から指示を受けると、画像を撮影する。
記憶部200は、制御部300と接続され、制御部300による各種判定処理に必要なデータを記憶する。また、図2に示すように、記憶部200は、閾値記憶部201と画像記憶部202とを備える。
閾値記憶部201は、後述する夜景画像判定部306と接続され、図3に示すように、夜景画像判定部306による判定処理にて用いられる閾値を記憶する。なお、図3は、実施例1における閾値記憶部を説明するための図である。
図3に示す例では、閾値記憶部201は、4つの閾値を記憶し、第一の閾値「80」と第二の閾値「10%」と第三の閾値「20」と第四の閾値「70%」とを記憶する。なお、閾値記憶部201によって記憶された各閾値は、輝度や輝度スペクトル以外の情報を用いることなく、輝度や輝度スペクトルのみを用いて算出可能な特徴量に関する閾値である。
また、閾値記憶部201によって記憶された各閾値は、夜景画像判定部306による判定処理に用いられ、具体的には、撮影部101によって撮影された画像が「明るい部分が点々とある暗い画像」であるかを判定する処理に用いられる。つまり、閾値記憶部201によって記憶された各閾値は、「明るい部分が点々とある暗い画像」の輝度や輝度スペクトルから算出された特徴量であれば、後述する夜景画像判定部306が、判定処理にて閾値を満たすと判定することになる値である。
なお、各閾値の詳細については、夜景画像判定部306について説明する際に併せて説明し、ここでは説明を省略する。また、閾値記憶部201は、例えば、利用者によって予め閾値が格納され、閾値記憶部201に記憶された閾値は、夜景画像判定部306によって用いられる。
画像記憶部202は、補正部307と接続される。また、画像記憶部202は、撮影部101によって撮影された画像を記憶し、具体的には、補正部307によって補正された後の画像を記憶する。
制御部300は、撮影部101と記憶部200と接続され、各種の判定処理手順などを規定したプログラムを記憶する内部メモリを有して種々の判定処理を実行する。また、制御部300は、輝度算出部301と、明るさ算出部302と、区別値算出部303と、割合算出部304と、分散値算出部305と、夜景画像判定部306と、補正部307とを備える。
輝度算出部301は、撮影部101と明るさ算出部302と接続され、図4に示すように、撮影部101から画像を受信すると、画像を形成する画素ごとに輝度を算出する。なお、図4は、実施例1における輝度算出部を説明するための図である。
輝度算出部301は、図4の(1)に示すように、画像を形成する画素ごとに、図4の(2)に示すように、輝度を算出する。例えば、図4の(2)に示す例では、輝度算出部301は、輝度「30、40、3、4、5…」を算出する。
また、輝度算出部301は、図4の(3)に示すように、輝度ヒストグラムを生成する。なお、図4の(3)に示す例では、横軸を輝度とし、縦軸を度数とする輝度ヒストグラムを示した。また、「0」から「255」までの値を用いて輝度の明暗を示す場合を例として用い、言い換えると、256段階の階調にて輝度の明暗を表現する場合を例に示した。
また、輝度算出部301は、画像を形成する画素ごとに輝度を算出すると、算出した複数の輝度や輝度ヒストグラムを明るさ算出部302に送信する。なお、ここで、輝度算出部301から明るさ算出部302に送信される複数の輝度や輝度ヒストグラムには、画像を構成する画素の内いずれの画素について算出された輝度かを示す位置情報が含まれない。つまり、輝度算出部301は、算出した輝度「30、40、3、4、5…」そのものや、図4の(3)に示すような輝度ヒストグラムのみを明るさ算出部302に送信する。
なお、輝度算出部301は、撮影部101によって撮影された画像について縮小し、縮小した画像を形成する画素各々について輝度を算出してもよい。つまり、撮影部101から受信した画像そのものではなく、画素数を減少させた画像を作成した処理を行い、後述する制御部300内の各部にて用いられる輝度数を少なくして処理負荷を軽減してもよい。
明るさ算出部302は、輝度算出部301と区別値算出部303と接続され、撮影部101によって撮影された画像全体の明るさを示す明るさ値を算出する。具体的には、明るさ算出部302は、輝度算出部301から複数の輝度や輝度ヒストグラムを受信すると、輝度算出部301によって算出された複数の輝度の平均輝度を算出する。
例えば、明るさ算出部302は、下記の「数1」を用いて、輝度算出部301によって算出された複数の輝度の平均輝度を算出する。「数1」に示すように、明るさ算出部302は、輝度算出部301によって輝度「30、40、3、4、5…」が算出された場合には、算出された複数の輝度の合計値を、算出された輝度の個数で除算することで平均輝度を算出する。例えば、明るさ算出部302は、平均輝度「60」を算出する。
Figure 0005152405
また、例えば、明るさ算出部302は、下記の「数2」を用いて、輝度算出部301によって生成された輝度ヒストグラムを用いて、平均輝度を算出する。「数2」に示すように、明るさ算出部302は、「0」から「255」までの輝度それぞれについて、輝度(i)における度数H(i)を、輝度(i)で乗算した値を算出する。そして、明るさ算出部302は、乗算して得られた値の合計値を全画素数で除算することで、平均輝度を算出する。なお、全画素数とは、「0」から「255」までの輝度それぞれに対応する度数Hの合計値を示し、例えば、輝度算出部301によって輝度が算出された画素の数を示す。
Figure 0005152405
また、明るさ算出部302は、平均輝度を算出すると、輝度算出部301から受信した輝度各々や輝度ヒストグラムに加えて、平均輝度を区別値算出部303に送信し、例えば、平均輝度として「60」を区別値算出部303に送信する。
区別値算出部303は、明るさ算出部302と割合算出部304と接続される。また、区別値算出部303は、輝度や輝度ヒストグラム、平均輝度を明るさ算出部302から受信すると、区別値を算出する。区別値は、図5に示すように、画像の明部と暗部とを区別する輝度である。なお、図5は、実施例1における区別値を説明するための図である。
例えば、区別値算出部303は、輝度算出部301によって生成された輝度ヒストグラムを用いて、画像の輝度ヒストグラムの暗部と明部の二つのピークの度数の割合から区別値を算出し(特開2001-36744号公報)、例えば、区別値「50」を算出する。
なお、区別値算出部303は、明るさ算出部302によって算出された平均輝度を区別値としてもよい。また、区別値算出部303は、平均輝度から所定の値を減らした値を区別値としてもよく、例えば、平均輝度を2割程度減算した輝度値を区別値としてもよい。また、区別値算出部303は、区別値を算出するのではなく、予め利用者によって設定された値を区別値としてもよい。
また、区別値算出部303は、明るさ算出部302から受信した輝度や輝度ヒストグラム、平均輝度に加えて、区別値を割合算出部304に送信し、例えば、区別値として「70」を送信する。
割合算出部304は、区別値算出部303と分散値算出部305と接続される。また、割合算出部304は、輝度や輝度ヒストグラム、平均輝度、区別値を区別値算出部303から受信すると、明部割合や暗部割合を算出する。
ここで、明部割合は、画像を形成する画素の内区別値以上の輝度を示す画素が、画像を形成する全画素に対して占める割合である。また、暗部割合は、画像を形成する画素の内画区別値以下の輝度を示す画素が、画像を形成する全画素に対して占める割合である。
具体的には、割合算出部304は、輝度算出部301によって算出された輝度の内、区別値以上となる輝度の数を識別する。そして、割合算出部304は、輝度算出部301によって算出された輝度の数に対して、識別した輝度の数が占める明部割合を算出する。また、同様に、割合算出部304は、区別値以下となる輝度の数を識別し、輝度算出部301によって算出された輝度の数に対して、識別した輝度の数が占める暗部割合を算出する。
割合算出部304は、下記の「数3」や「数4」に示すように、輝度ヒストグラムを用いて、暗部割合や明部割合を算出する。
Figure 0005152405
Figure 0005152405
例えば、暗部割合を算出する場合には、「数3」に示すように、割合算出部304は、「0」から区別値までの輝度それぞれについて、輝度(i)における度数H(i)を輝度(i)と乗算した値を算出する。すなわち、割合算出部304は、図5の「暗部」における度数の合計値を算出する。そして、明るさ算出部302は、算出した値の合計値を全画素数で除算することで、暗部割合を算出する。例えば、割合算出部304は、暗部割合「80%」を算出する。
また、例えば、明部割合を算出する場合には、「数4」に示すように、割合算出部304は、「区別値+1」から「255」までの輝度それぞれについて、輝度(i)における度数H(i)を輝度(i)と乗算した値を算出する。すなわち、割合算出部304は、図5の「明部」における度数の合計値を算出する。そして、明るさ算出部302は、算出した値の合計値を全画素数で除算することで、明部割合を算出する。例えば、割合算出部304は、明部割合「20%」を算出する。
なお、「数4」に示すように、暗部割合を既に算出済みである場合には、明るさ算出部302は、「1」から算出した暗部割合を減算することで、明部割合を算出してもよい。
なお、割合算出部304は、輝度ヒストグラムを用いることなく、暗部割合や明部割合を算出しても良い。例えば、割合算出部304は、受信した輝度について、区別値以上か区別値以下かをそれぞれ判定することで、区別値以上になる輝度の数や区別値以下になる輝度の数を算出する。そして、割合算出部304は、区別値以上になる輝度の数や区別値以下になる輝度の数を、全画素数で除算することで明部割合や暗部割合を算出する。なお、受信した輝度各々を用いて明部割合と暗部割合とを算出する処理の流れの詳細については、後述するためここでは説明を省略する。
また、割合算出部304は、明部割合や暗部割合を算出すると、区別値算出部303から受信した輝度や輝度ヒストグラム、平均輝度、区別値に加えて、暗部割合や明部割合を分散値算出部305に送信する。例えば、割合算出部304は、暗部割合として「80%」を送信し、明部割合として「20%」を送信する。
分散値算出部305は、割合算出部304と夜景画像判定部306と接続される。また、分散値算出部305は、輝度や輝度ヒストグラム、平均輝度、区別値、暗部割合や明部割合を割合算出部304から受信すると、輝度ヒストグラムを用いて、区別値以上の輝度に対応する輝度範囲における輝度分布の広がり量を示す分散値を算出し、例えば、分散値「20」を算出する。
具体的には、分散値算出部305は、図6−1の「明部」に示すように、区別値以上の輝度に対応する輝度範囲において、度数の分布が特定の範囲の輝度に集中していれば集中しているほど、分散値として小さな値を算出する。また、例えば、図6−2の「明部」に示すように、区別値以下の輝度に対応する輝度範囲において、度数の分布が広範囲の輝度に分散していればしているほど、分散値として大きな値を算出する。なお、図6−1は、実施例1における分散値算出部を説明するための図である。また、図6−2は、実施例1における分散値算出部を説明するための図である。
例えば、分散値算出部305は、下記の「数5」や「数6」を用いて、分散値を算出する。ここで言う“分散値”は、数学的な“分散”に限定されるものではなく、次のように分布の広がりを示す値であればよい。「数5」や「数6」に示す例では、分散値算出部305は、「区別値+1」から「255」までの輝度それぞれについて、明部内における平均輝度と輝度(i)との差分の大きさ示す値を算出し、例えば、(i−明部内における平均輝度)の絶対値や(i−明部内における平均輝度)を2乗した値を算出する。そして、分散値算出部305は、「区別値+1」から「255」までの輝度それぞれについて、明部内における平均輝度と輝度(i)との差分の大きさ示す値を、輝度(i)における度数H(i)で乗算した値を算出する。そして、明るさ算出部302は、算出した値の合計値を、明部を形成する全画素数で除算することで、分散値を算出する。なお、明部を形成する全画素数とは、明部における度数の合計値になる。
Figure 0005152405
Figure 0005152405
「数5」や「数6」に示すように、輝度ごとに算出される値は、区別値以上の輝度に対応する輝度範囲内における平均輝度と輝度(i)との差が小さければ小さいほど、つまり、平均輝度に近い輝度であればあるほど、小さな値になる。また、輝度ごとに算出される値は、明部内における平均輝度と輝度(i)との差が大きければ大きいほど、つまり、平均輝度から離れた輝度であればあるほど、大きな値になる。この結果、分散値は、平均輝度から離れた輝度に大きな度数があればあるほど、大きな値になる。
なお、例えば、分散値算出部305は、下記に示す「数7」を用いて、区別値以上の輝度に対応する輝度範囲内における平均輝度を算出する。「数7」に示す例では、分散値算出部305は、「区別値+1」から「255」までの輝度それぞれについて、輝度(i)における度数H(i)を、輝度(i)で乗算した値を算出する。そして、分散値算出部305は、そして、「区別値+1」から「255」までの輝度それぞれについて算出した値の合計値を算出する。そして、分散値算出部305は、算出した値の合計値を、明部を形成する画素数で除算することで、明部における平均輝度を算出する。
Figure 0005152405
なお、分散値算出部305は、ヒストグラムを用いずに、各画素の輝度値から分散値や平均輝度を直接算出しても構わない。その場合には、分母を、(区別値よりも大きな輝度値を持つ画素の総数)とし、分子を、(輝度値が区別値よりも大きな画素の輝度値−輝度値が区別値よりも大きな画素の平均輝度)を二乗した値のΣとした値を分散値とすればよい。
また、分母を、(区別値よりも大きな輝度値を持つ画素の総数)とし、分子を、(輝度値が区別値よりも大きな画素の輝度値)のΣとした値を平均輝度とすればよい。
また、分散値算出部305は、分散値を算出すると、割合算出部304から受信した平均輝度、明部割合、暗部割合に加えて、分散値を夜景画像判定部306に送信し、例えば、分散値「20」を送信する。
夜景画像判定部306は、閾値記憶部201と分散値算出部305と補正部307と接続される。また、夜景画像判定部306は、閾値記憶部201を参照し、平均輝度が第一の閾値以下であり、明部割合が第二の閾値以上であり、分散値が第三の閾値以上であるかを判定する。また、夜景画像判定部306は、暗部割合が第四の閾値以上であるかを判定する。
つまり、夜景画像判定部306は、平均輝度が第一の閾値以下であるかを判定することで、全体的に暗い画像であるかを判定し、「明るい画像」を除外する。また、夜景画像判定部306は、暗部割合が第四の閾値以上であるかを判定することで、「大きな明るい部分がある暗い画像」を除外する。また、夜景画像判定部306は、明部割合が第二の閾値以上であるかを判定することで、「明るい部分のない暗い画像」を除外する。また、夜景画像判定部306は、分散値が第三の閾値以上であるかを判定することで、「明るい部分のない暗い画像」や「大きな明るい部分がある暗い画像」を除外する。そして、夜景画像判定部306は、閾値をすべて満たすと判定する場合に、「明るい部分が点々とある暗い画像」であると判定する。
ここで、各閾値についてさらに説明する。夜景画像は全体的に暗い画像であり、第一の閾値は、暗い画像か否かを判定するための閾値である。例えば、第一の閾値は、最大256階調の場合、128以下の値に設定し、図3に示す例では、「80」になる。また、夜景画像は一定割合で明るい画素がある画像であり、第二の閾値は、画像に明るい画素があるかを判定するための閾値である。例えば、第二の閾値は、「0〜50%」の範囲内で設定し、図3に示す例では、「10%」になる。また、夜景画像は、明るい画素が点々とある画像であり。例えば、暗い景色のなかに花火などのイルミネーションがあり、そのような画像は明るい画素の輝度値が、非常に明るい値から暗めの値まで広がりを持つ傾向がある。第三の閾値は、このような傾向である明部の広がりが大きいかを判定するための閾値である。例えば、第三の閾値は、明部において画素が均一に分散した場合に得られる分散値の「20%〜50%」の範囲で設定し、図3に示す例では、式6を使う場合「20」になる。また、夜景画像は暗部の割合が大きい画像であり、第四の閾値は、暗部の割合が大きいかを判定するための閾値である。例えば、第四の閾値は、「50%」以上の値に設定し、図3に示す例では、「70%」になる。
ここで、図7を用いて、実施例1における夜景画像の種類と閾値との関係について説明する。図7は、実施例1における夜景画像の種類と閾値との関係について説明するための図である。図7では、画像の種類ごとに、平均輝度や暗部割合、明部割合、分散値に対する閾値との関係を示した。図7に示す例では、画像の種類として、「明るい画像」と「明るい部分のない暗い画像」と「大きな明るい部分がある暗い画像」と「明るい部分が点々とある暗い画像」とを例に示した。
図7に示すように、「明るい画像」である場合には、平均輝度が第一の閾値以下になり、また、暗部割合が第四の閾値以下になる。このため、夜景画像判定部306は、第一の閾値や第四の閾値を用いて、「明るい画像」を除外する。また、「明るい部分のない暗い画像」である場合には、明部割合が第二の閾値以下になり、また、分散値が第三の閾値以下になる。このため、夜景画像判定部306は、第二の閾値や第三の閾値を用いて、「明るい部分のない暗い画像」を除外する。また、「大きな明るい部分がある暗い画像」である場合には、分散値が第三の閾値以下になり、また、暗部割合が第四の閾値以下になる。このため、夜景画像判定部306は、第三の閾値や第四の閾値を用いて、「大きな明るい部分がある暗い画像」を除外する。
ここで、第三の閾値についてさらに説明する。まず、「明るい部分のない暗い画像」である場合に、分散値が第三の閾値以下になる点について説明し、その後、「大きな明るい部分がある暗い画像」である場合に、分散値が第三の閾値以下になる点について説明する。
まず、「明るい部分のない暗い画像」について説明する。上記したように、分散値は、平均輝度から離れた輝度に大きな度数があればあるほど、大きな値になる。「明るい部分のない暗い画像」には、明るい画素がほとんど無い結果、区別値以上の輝度範囲に度数がほとんど無く、その結果、分散値が第三の閾値以下になる。
次に、「大きな明るい部分がある暗い画像」について説明する。「明るい部分が点々とある暗い画像」内の明るい部分では、明るい部分それぞれの大きさが大きくないため、特定の輝度に集中することなく、例えば、花火などのイルミネーションを見ればわかるように、明るい値から暗い値まで輝度が分散する。一方、「大きな明るい部分がある暗い画像」では、明るい部分の大きさが大きく、「明るい部分が点々とある暗い画像」と比較すると、輝度が特定の値に集中することになる。例えば、白い大きな看板を含む暗い画像を見ればわかるように、白い看板部分が示す輝度は、特定の値に集中する。
また、夜景画像判定部306は、判定が終了すると、判定結果を補正部307に送信すし、例えば、「明るい部分が点々とある暗い画像」であると判定すると、「明るい部分が点々とある暗い画像」である旨を送信する。
補正部307は、撮影部101と画像記憶部202と夜景画像判定部306と接続される。また、補正部307は、撮影部101から画像を受信し、その後、夜景画像判定部306から判定結果を受信すると、判定結果によって特定される補正手法により、画像を補正する。そして、補正部307は、補正した画像を画像記憶部202に格納する。
例えば、補正部307は、夜景画像判定部306から「明るい部分が点々とある暗い画像」である旨の判定結果を受信すると、夜景画像を補正する補正手法を用いて画像を補正し、例えば、より明るくする補正やより鮮やかにする補正を行う。また、例えば、補正部307は、夜景画像判定部306から受信した判定結果により、画像の種類が補正が不要である画像である場合には、補正を行わず、撮影部101から受信した画像をそのまま画像記憶部202に格納する。
すなわち、補正部307は、夜景画像判定部306による判定結果により特定される夜景画像の種類に合わせて、補正手法を変更する。例えば、「明るい部分が点々とある暗い画像」であると判定されると、補正部307は、より明るくする補正やより鮮やかにする補正を行う。また、「大きな明るい部分がある暗い画像」であると判定されると、例えば、白い看板が大きく写っているような夜景画像については、補正部307は、白い看板部の白つぶれを抑制するために基本的に補正をしない。また、「明るい部分のない暗い画像」であると判定されると、例えば、夜の森が撮影された夜景画像については、補正部307は、より明るくする補正を行う。
なお、この画像処理装置100は、パーソナルコンピュータ、携帯電話、PHS(Personal Handyphone System)端末、移動体通信端末などの情報処理装置に、図2に示した各部の各機能を搭載することによって実現してもよい。
[画像処理装置による処理]
次に、図8を用いて、実施例1に係る画像処理装置100の処理の流れの一例について説明する。図8は、実施例1における画像処理装置の処理の流れの一例を説明するためのフローチャートである。なお、図8では、夜景画像か否かを判定するまでの処理の流れの一例を示した。
図8に示すように、実施例1に係る画像処理装置100では、輝度算出部301は、撮影部101から画像を受信すると(ステップS101肯定)、画像を形成する画素ごとに輝度を算出する(ステップS102)。例えば、輝度算出部301は、輝度「30、40、3、4、5…」を算出する。
そして、明るさ算出部302は、画像の明るさを示す明るさ値を算出する(ステップS103)。例えば、明るさ算出部302は、輝度算出部301によって算出された複数の輝度の平均輝度を算出し、平均輝度「60」を算出する。
そして、区別値算出部303は、区別値を算出する(ステップS104)。例えば、区別値算出部303は、平均輝度を2割程度減算した輝度値を区別値として算出する。例えば、区別値「50」を算出する。
そして、割合算出部304は、明部割合や暗部割合を算出し(ステップS105)、例えば、暗部割合「80%」や明部割合「20%」を算出する。なお、割合算出部304による割合算出処理の流れの詳細な一例について、図9を用いて後述するため説明を省略する。
そして、分散値算出部305は、輝度ヒストグラムを用いて、明部における輝度分布の広がり量を示す分散値を算出し(ステップS106)、例えば、分散値「20%」を算出する。
そして、夜景画像判定部306は、閾値記憶部201を参照し、平均輝度が第一の閾値以下であり(ステップS107)、明部割合が第二の閾値以上であり(ステップS108)、分散値が第三の閾値以上であるかを判定する(ステップS109)。また、夜景画像判定部306は、暗部割合が第四の閾値以上であるかを判定する(ステップS110)。
ここで、夜景画像判定部306は、すべての閾値を満たすと判定すると(ステップS107肯定&ステップS108肯定&ステップS109肯定&ステップS110肯定)、「明るい部分が点々とある暗い画像」であると判定する(ステップS111)。一方、夜景画像判定部306は、いずれか一つでも閾値を満たさないと判定すると(ステップS107否定orステップS108否定orステップS109否定orステップS110否定)、「明るい部分が点々とある暗い画像」ではないと判定する(ステップS112)。
[実施例1に係る画像処理装置による処理]
次に、図9を用いて、実施例1における割合算出部304による割合算出処理の流れの一例について説明する。なお、図9は、実施例1における割合算出部による割合算出処理の流れの一例を説明するためのフローチャートである。なお、図9を用いて説明する処理の流れは、図8を用いて説明した処理の流れの内、ステップS105に対応する。
図9に示すように、割合算出部304は、区別値算出部303から輝度算出部301によって算出された複数の輝度を受け付けると、受け付けた輝度の内一つを選択し(ステップS201)、区別値と比較する(ステップS202)。ここで、割合算出部304は、区別値より輝度より大きい場合には(ステップS203肯定)、明部に対応する画素数に「1」追加する(ステップS204)。一方、割合算出部304は、区別値より輝度より大きくない場合には(ステップS203否定)、暗部に対応する画素数に「1」追加する(ステップS205)。
そして、割合算出部304は、受け付けたすべての輝度を選択したかを判定し(ステップS206)、すべての輝度を選択していないと判定すると(ステップS206否定)、上気したステップS201〜S204の処理を繰り返す。
また、割合算出部304は、すべての輝度を選択したと判定すると(ステップS206肯定)、「暗部に対応する画素数」を「全画素数」で除算して暗部割合を算出する(ステップS207)。例えば、割合算出部304は、暗部に対応する画素数が「20」であり、全画素数が「100」である場合には、暗部割合「20%」を算出する。
そして、割合算出部304は、「明部に対応する画素数」を「全画素数」で除算して明部割合を算出する(ステップS208)。例えば、割合算出部304は、明部に対応する画素数が「80」であり、全画素数が「100」である場合には、明部割合「80%」を算出する。
[実施例1の効果]
上記したように、実施例1によれば、画像処理装置100は、画像を形成する画素ごとに輝度を算出し、平均輝度を算出し、明部割合を算出する。また、画像処理装置100は、輝度ヒストグラムを生成し、生成した輝度ヒストグラムにおける区別値以上の輝度に対応する領域において、輝度分布の広がり量を示す分散値を算出する。そして、画像処理装置100は、平均輝度が第一の閾値以下であり、明部割合が第二の閾値以上であり、分散値が第三の閾値以上であるかを判定する。この結果、実施例1によれば、明るい部分が点々とある暗い画像かを判定可能である。また、本発明によれば、輝度を算出した後には、原画像を参照することなく、輝度のみを用いた少ない計算量にて判定可能である。
また、実施例1によれば、画像処理装置100は、暗部割合を算出し、暗部割合が第四の閾値以上であるかをさらに判定するので、明るい部分が点々とある暗い画像かを高精度に判定することが可能である。
また、実施例1によれば、画像処理装置100は、輝度ヒストグラムを用いて平均輝度や明部割合、暗部割合、分散値を算出でき、輝度ヒストグラムのみを用いて簡単に夜景画像かを判定するための特徴量を算出して簡単に判定することが可能である。
また、図10に示すように、実施例1によれば、画像に人が含まれているかに関係なく、輝度のみを用いて、明るい部分が点々とある暗い画像かを判定することが可能である。すなわち、図10−1に示すように、画像の中心に人が含まれているかや、図10−2に示すように、画像に人が含まれていないか、図10−3に示すように、画像の端に人が含まれているかに関係なく、判定することが可能である。なお、図10−1〜図10−3は、実施例1係る画像処理装置の効果の一例を説明するための図である。
また、図11に示すように、実施例1によれば、点々とある明るい部分が、図11−1に示すように、画面全面に等しく分散している場合や、図11−2に示すように、特定の領域に集中している場合に関係なく、輝度のみを用いて判定可能である。なお、図11−1や図11−2は、実施例1係る画像処理装置の効果の一例を説明するための図である。つまり、実施例1によれば、輝度のみを用いて原画像を参照することなく判定可能なので、図11−2に示すような場合であっても、点々とある明るい部分各々を一つの点として認識することなく、判定することが可能である。
さて、これまで、実施例1として、撮影部101によって撮影された画像すべてについて判定処理を行う手法について説明したが、本発明はこれに限定されるものではなく、一部のみについて判定処理を行っても良い。
具体的には、画像が撮影された撮影条件を用いた一次判定処理を行い、撮影条件を用いた判定にて夜景画像であると判定した画像についてのみ、実施例1にて説明したように、夜景画像判定部306が判定処理を行っても良い。
そこで、以下では、実施例2として、撮影条件を用いた一次判定処理を行う手法について説明する。なお、以下では、実施例1に係る画像処理装置と同様の点については、簡単に説明し、または、説明を省略する。
例えば、図12に示すように、実施例2に係る画像処理装置100は、図2を用いて説明した実施例1に係る画像処理装置100の構成に加えて、さらに、撮影条件判定部308を備える。
ここで、撮影部101は、撮影条件判定部308と接続され、撮影した画像に加えて、画像が撮影された撮影条件を撮影条件判定部308に送信する。具体的には、撮影部101は、撮影条件として、絞り値やISO値、撮影時間、シャッタースピードなどを撮影条件判定部308に送信する。
そして、撮影条件判定部308(「取得部」や「撮影情報判定部」と称する)は、撮影部101と夜景画像判定部306と接続される。また、撮影条件判定部308は、撮影部101から撮影条件を取得し、取得した撮影条件を用いて、画像が暗い環境下において撮影されたかを一次判定処理を行う。例えば、撮影条件判定部308は、撮影部101から受信した画像に撮影条件を示す情報が含まれている場合には、画像から撮影条件を読み出し、一次判定処理を行う。そして、撮影条件判定部308は、一次判定結果を夜景画像判定部306に送信する。
つまり、撮影条件判定部308は、画像の撮影条件を用いて、画像が、暗い環境下において撮影されたか否かを判定し、暗い環境下において撮影された場合には、夜景画像である可能性がある旨を夜景画像判定部306に送信する。なお、撮影条件判定部308による判定処理の流れの詳細な一例については、図13を用いて後述するため、ここでは説明を省略する。
また、夜景画像判定部306では、撮影条件判定部308によって夜景画像である可能性があると判定されると、判定処理を行い、一方、夜景画像でない旨を受信すると、判定処理を行うことなく、夜景画像でない旨を判定結果として補正部307に送信する。つまり、夜景画像判定部306は、撮影判定部によって画像が暗い環境下において撮影されたと判定された場合にのみ、判定処理を行う。
[実施例2に係る画像処理装置の処理]
図13を用いて、実施例2における撮影条件判定部308による処理の流れの一例について説明する。なお、図13は、実施例2における撮影条件判定部による処理の流れの一例を説明するためのフローチャートである。
例えば、図13に示すように、撮影条件判定部308は、画像を受信すると(ステップS301肯定)、画像の撮影時間を取得する(ステップS302)。そして、撮影時間が夜かを判定する(ステップS303)。ここで、撮影条件判定部308は、撮影時間が22時であり、夜であると判定すると(ステップS303肯定)、例えば、絞り値やシャッタースピードを取得する(ステップS304)。
そして、例えば、図13に示すように、撮影条件判定部308は、絞り値が小さく、また、シャッタースピードが遅いかを判定する(ステップS305)。ここで、撮影条件判定部308は、絞り値が小さく、また、シャッタースピードが遅いと判定すると(ステップS305肯定)、明るい部分が点々とある暗い画像である可能性があると判定し(ステップS306)、その後、夜景画像判定部306が判定処理を行う。
一方、上記したステップS303において、夜でないと判定し(ステップS303否定)、または、ステップS305において、絞り値が大きく、シャッタースピードが早いと判定する(ステップS305否定)場合について説明する。この場合、撮影条件判定部308は、明るい部分が点々とある暗い画像ではないと判定し(ステップS307)、その後、夜景画像判定部306が判定処理を行わない。例えば、夜景画像判定部306は、判定処理を行わずに、明るい部分が点々とある暗い画像でない旨を判定結果として補正部307に送信し、補正部307は、補正を行わずに画像を画像記憶部202に格納する。
なお、図13に示す例では、撮影時間と絞り値、シャッタースピードを用いる例について説明したが、本発明はこれに限定されるものではなく、さらに、ISO値やその他の情報を用いても良い。また、同様に、撮影時間と絞り値、シャッタースピードの内、一部のみを用いても良い。
[実施例2の効果]
上記したように、実施例2によれば、撮影条件判定部308は、画像が撮影された撮影条件を示す絞り値、ISO値、撮影時間、シャッタースピードの内いずれか一つまたは複数を取得し、撮影条件を用いて、画像が暗い環境下において撮影されたかを判定する。そして、夜景画像判定部306は、撮影条件判定部308によって画像が暗い環境下において撮影されたと判定された場合にのみ、判定するので、夜景画像かを高精度に判定することが可能である。また、撮影条件判定部308による処理の結果、昼間に撮影された画像など、明らかに夜景画像ではない画像については、撮影条件判定部308による判定処理を省略することができ、夜景画像判定部306における処理負荷を軽減することが可能である。
さて、これまで、実施例1や2では、輝度算出部301が、画像全面について一律に処理を行う手法について説明したが、本発明はこれに限定されるものではない。例えば、画像から人を除いた部分を用いて判定し、また、人を除いた部分について夜景画像として補正してもよい。
例えば、暗い環境下において人を撮影した画像では、フラッシュの光が人にあたる結果、平均輝度が高くなったり、暗部割合が低くなる。このような場合に、人が撮影された部分を除いた画像について、輝度を算出して判定することで、夜景画像かを高精度に判定することが可能である。
また、人が撮影された画像に適した補正手法は、夜景画像を補正する手法とは異なる。このため、人が含まれている夜景画像である場合に、画像全面を夜景画像に適した補正手法により補正すると、人が撮影された部分について適切な補正とはならない。
そこで、以下では、実施例3として、画像から人を除いた部分を用いて夜景画像かを判定し、人を除いた部分について夜景画像として補正する手法について説明する。
図14に示すように、実施例3に係る画像処理装置100は、画像に人が撮影されているかを判定する人判定部309をさらに備える。図14に示す例では、人判定部309は、撮影部101と輝度算出部301と夜景画像判定部306と接続され、撮影部101から画像を受信すると、受信した画像内に人が撮影されているかを判定する。
例えば、人判定部309は、一般的な顔認識技術や顔検出技術を用いて、画像内に人の顔が含まれているかを判定する。そして、人判定部309は、顔が含まれていると判定すると、画像内にて顔が占める領域を特定する顔座標を識別し、また、画像内にて体が占める領域を特定する体座標を識別する。
そして、人判定部309は、人が撮影されていると判定すると、撮影部101から受信した画像に加えて、顔座標と体座標とを輝度算出部301に送信し、また、人を含む画像である旨を夜景画像判定部306に送信する。一方、人判定部309は、人が撮影されていないと判定すると、撮影部101から受信した画像のみを輝度算出部301に送信する。
そして、輝度算出部301は、人判定部309と明るさ算出部302と接続される。また、輝度算出部301は、人判定部309によって人が撮影されていると判定された場合に、画像から人が撮影されている部分に対応する画素を識別し、画像を形成する画素の内識別した画素を除いた他の画素について輝度を算出する。
具体的には、輝度算出部301は、画像と顔座標と体座標とを人判定部309から受信すると、画像の内、顔座標と体座標によって特定される領域についての画素を識別し、識別した画素以外の画素について輝度を算出する。つまり、輝度算出部301は、人の顔や体に対応する部分以外の部分に対応する画素について、輝度を算出する。
なお、輝度算出部301は、人判定部309から画像のみを受信した場合は、上記した実施例1にて説明した処理と同様の処理を行う。
また、夜景画像判定部306は、人判定部309とさらに接続される。また、夜景画像判定部306は、判定処理を行う場合に、人を含む画像であるかを判定し、例えば、人を含む画像である旨を人判定部309から受信したかをさらに判定する。そして、夜景画像判定部306は、明るい部分が点々とある暗い画像であると判定し、人を含む画像である旨を受信した場合には、人を含む明るい部分が点々とある暗い画像であると判定する。また、夜景画像判定部306は、明るい部分が点々とある暗い画像であると判定し、人を含む画像である旨を受信していない場合には、人を含まない明るい部分が点々とある暗い画像であると判定する。
また、その後、補正部307は、夜景画像判定部306によって人を含む明るい部分が点々とある暗い画像であると判定された場合には、人が撮影された部分について、人が撮影された画像に適した補正手法により補正し、人が撮影された部分を除いた部分について、夜景画像を補正するのに適した補正手法により補正する。
例えば、補正部307は、人判定部309によって識別された顔座標と体座標とを用いて、画像の内、顔座標と体座標によって特定される領域を識別する。そして、補正部307は、識別した領域以外の領域について、夜景画像を補正する補正手法を用いて補正する。また、補正部307は、画像の内、顔座標によって特定される領域を識別し、識別した領域について、顔を補正するのに適した手法を用いて補正する。なお、補正部307は、例えば、人判定部309から顔座標と体座標とを受信してもよく、補正部307が、顔座標と体座標とを画像から識別してもよい。
[実施例3に係る画像処理装置の処理]
次に、図15を用いて、実施例3に係る画像処理装置の処理の流れの一例について説明する。図15は、実施例3に係る画像処理装置の処理の流れの一例を説明するためのフローチャートである。なお、図15では、夜景画像か否かを判定するまでの処理の流れの一例を示した。
図15に示すように、処理タイミングとなると(ステップS401肯定)、例えば、撮影部101によって画像が撮影されると、人判定部309は、人が撮影されているかを判定する(ステップS402)。例えば、人判定部309は、一般的な顔認識技術や顔検出技術を用いて、画像内に人の顔が含まれているかを判定する。ここで、人判定部309によって人が含まれていないと判定されると(ステップS402否定)、輝度算出部301は、画素すべてについて輝度を算出する(ステップS403)。
一方、人判定部309は、人が含まれていると判定すると(ステップS402肯定)、顔座標を識別し(ステップS404)、また、体座標を識別する(ステップS405)。そして、輝度算出部301は、顔や体以外の画素を識別し(ステップS406)、顔や体以外の画素について輝度を算出する(ステップS407)。
そして、輝度算出部301によって輝度が算出されると(ステップS403orS407)、画像処理装置100では、平均輝度や暗部割合、明部割合、分散値が算出する(ステップS408〜S411)。そして、夜景画像判定部306は、夜景画像かを判定し(ステップS412〜415)、さらに、人を含む画像であるかを判定する(ステップS416)。
ここで、夜景画像判定部306は、すべての閾値を満たすと判定し(ステップS412肯定&ステップS413肯定&ステップS414肯定&ステップS415肯定)、人を含む画像であると判定すると(ステップS416肯定)、人を含む明るい部分が点々とある暗い画像であると判定する(ステップS417)。一方、夜景画像判定部306は、すべての閾値を満たすと判定し(ステップS412肯定&ステップS413肯定&ステップS414肯定&ステップS415肯定)、人を含む画像でないと判定すると(ステップS416否定)、人を含まない明るい部分が点々とある暗い画像であると判定する(ステップS418)。なお、夜景画像判定部306は、いずれか一つでも閾値を満たさないと判定すると(ステップS412否定orステップS413否定orステップS414否定orステップS415否定)、明るい部分が点々とある暗い画像でないと判定する(ステップS419)。
[実施例3の効果]
上記したように、実施例3によれば、人判定部309は、画像に人が撮影されているかを判定する。そして、輝度算出部301は、人が撮影されていると判定する場合に、画像から人が撮影されている部分に対応する画素各々を識別し、画像を形成する画素の内識別した画素を除いた他の画素各々について輝度を算出する。この結果、実施例3によれば、画像の内、顔や体部分について除いた領域についての輝度を用いて夜景画像かを判定することで、人が撮影された画像であっても、夜景画像かを高精度に判定することが可能である。また、人が撮影された画像である場合には、人が撮影された領域や、夜景が撮影された領域それぞれに適した補正手法を適用することが可能である。
さて、これまで本発明の実施例について説明したが、本発明は上述した実施例以外にも、その他の実施例にて実施されてもよい。そこで、以下では、その他の実施例について説明する。
[撮影部]
例えば、実施例1〜3では、撮影部101によって撮影された画像について、夜景画像かを判定する場合について説明したが、本発明はこれに限定されるものではない。例えば、外部の撮影装置によって撮影された画像について、夜景画像かを判定しても良い。
[補正の有無]
また、実施例1では、画像を補正する補正部307を備える場合について説明したが、本発明はこれに限定されるものではなく、補正部を備えなくても良い。例えば、画像処理装置は、判定処理を行うと、判定結果を出力してもよい。
[判定処理]
また、実施例1では、平均輝度と、明部割合と、暗部割合と、分散値とを用いる場合について説明したが、本発明はこれに限定されるものではない。例えば、画像処理装置は、平均輝度と、明部割合と、分散値とのみをもちいてもよく、また、明部割合と、暗部割合と、分散値とのみを用いてもよい。
例えば、「平均輝度」を用いて「大きな明るい部分がある暗い画像」を除去することで、「暗部割合」を用いなくても良い。すなわち、「大きな明るい部分がある暗い画像」の平均輝度は、「明るい部分が点々とある暗い画像」よりも高くなる。これを用いて、例えば、第一の閾値を実施例1と比較して低く設定することで、画像処理装置は、「平均輝度」を用いて「大きな明るい部分がある暗い画像」を除去し、「暗部割合」を用いなくても良い。
また、例えば、「暗部割合」を用いて「明るい画像」を除去することで、「平均輝度」を用いなくても良い。すなわち、「明るい画像」の暗部割合は、「明るい部分が点々とある暗い画像」よりも低くなる。これを用いて、画像処理装置は、「暗部割合」を用いて「明るい画像」を除去し、「平均輝度」を用いなくても良い。
[システム構成]
また、本実施例において説明した各処理のうち、自動的におこなわれるものとして説明した処理の全部または一部を手動的におこなうこともでき、あるいは、手動的におこなわれるものとして説明した処理の全部または一部を公知の方法で自動的におこなうこともできる。例えば、撮影条件判定部308は、利用者によって手動にて入力された撮影条件を用いて判定してもよく、また、撮影部101から受信した画像から自動的に撮影条件を取得して判定しもよい。
この他、上記文書中や図面中で示した処理手順、制御手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。例えば、図13に示す例では、ステップS303とS305とを入れ替えてもよい。
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。例えば、図2に示す例では、撮影部101や画像記憶部202を画像処理装置100から分散して配置してもよい。
[コンピュータ]
また、上記の実施例で説明した各種の処理は、あらかじめ用意されたプログラムをパーソナルコンピュータやワークステーションなどのコンピュータで実行することによって実現することができる。そこで、以下では、図16を用いて、上記の実施例と同様の機能を有する画像処理プログラムを実行するコンピュータの一例を説明する。なお、図16は、実施例1に係る画像処理プログラムを実行するコンピュータの一例について説明するための図である。
図16に示すように、実施例1におけるコンピュータ3000は、操作部3001、マイク3002、スピーカ3003、ディスプレイ3005、通信部3006、CPU3010、ROM3011、HDD3012、RAM3013をバス3009などで接続して構成されている。
ROM3011には、上記の実施例1で示した輝度算出部301と、明るさ算出部302と、区別値算出部303と、割合算出部304と、分散値算出部305と、夜景画像判定部306と、補正部307と同様の機能を発揮する制御プログラム、つまり、図16に示すように、輝度算出プログラム3011aと、明るさ算出プログラム3011bと、区別値算出プログラム3011cと、割合算出プログラム3011dと、分散値算出プログラム3011eと、夜景画像判定プログラム3011fと、補正プログラム3011gとが予め記憶されている。なお、これらのプログラム3011a〜3011gについては、図2に示した画像処理装置100の各構成要素と同様、適宜統合または分離してもよい。
そして、CPU3010が、これらのプログラム3011a〜3011gをROM3011から読み出して実行することにより、図16に示すように、各プログラム3011a〜3011gについては、輝度算出プロセス3010aと、明るさ算出プロセス3010bと、区別値算出プロセス3010cと、割合算出プロセス3010dと、分散値算出プロセス3010eと、夜景画像判定プロセス3010fと、補正プロセス3010gとして機能するようになる。なお、各プロセス3010a〜3010gは、図2に示した、輝度算出部301と、明るさ算出部302と、区別値算出部303と、割合算出部304と、分散値算出部305と、夜景画像判定部306と、補正部307とにそれぞれ対応する。
そして、HDD3012には、閾値テーブル3012aが設けられている。なお、閾値テーブル3012aは、図2に示した、閾値記憶部201に対応する。
そして、CPU3010は、閾値テーブル3012aを読み出してRAM3013に格納し、RAM3013に格納された閾値データ3013aを用いて、画像処理プログラムを実行する。
[その他]
なお、本実施例で説明した画像処理プログラムは、インターネットなどのネットワークを介して配布することができる。また、画像処理プログラムは、ハードディスク、フレキシブルディスク(FD)、CD−ROM、MO、DVDなどのコンピュータで読み取り可能な記録媒体に記録され、コンピュータによって記録媒体から読み出されることによって実行することもできる。

Claims (7)

  1. 画像を形成する画素ごとに輝度を算出する輝度算出部と、
    前記輝度算出部によって算出された複数の輝度の平均輝度を算出する平均算出部と、
    前記輝度算出部によって算出された輝度の内、画像の明部と暗部とを区別する輝度である区別値以上の輝度を識別し、前記輝度算出部によって算出された全輝度に対して占める明部割合を算出する割合算出部と、
    前記輝度算出部によって算出された輝度に基づいて、区別値以上の輝度を持つ画素の輝度分布の広がり量を示す分散値を算出する分散算出部と、
    前記平均算出部によって算出された平均輝度が第一の閾値以下であり、前記割合算出部によって算出された明部割合が第二の閾値以上であり、前記分散算出部によって算出された分散値が第三の閾値以上であるかを判定する判定部と、
    を備えた事を特徴とする画像処理装置。
  2. 前記割合算出部は、前記輝度算出部によって算出された輝度の内、区別値以下の輝度を識別し、前記輝度算出部によって算出された全輝度に対して占める暗部割合を算出し、
    前記判定部は、平均輝度が第一の閾値以下であり、明部割合が第二の閾値以上であり、分散値が第三の閾値以上であり、前記割合算出部によって算出された暗部割合が第四の閾値以上であるかを判定することを特徴とする請求項1に記載の画像処理装置。
  3. 前記平均算出部は、前記輝度算出部によって算出された輝度に基づいた前記画像の輝度ヒストグラムを用いて平均輝度を算出し、
    前記割合算出部は、前記画像の輝度ヒストグラムを用いて明部割合と暗部割合とを算出することを特徴とする請求項2に記載の画像処理装置。
  4. 前記画像が撮影された撮影条件を示す絞り値、ISO値、撮影時間、シャッタースピードの内いずれか一つまたは複数を取得する取得部と、
    前記取得部によって取得された撮影条件を用いて、前記画像が暗い環境下において撮影されたかを判定する撮影条件判定部と
    をさらに備え、
    前記判定部は、前記撮影条件判定部によって前記画像が暗い環境下において撮影されたと判定された場合に、第一の閾値以下と第二の閾値と第三の閾値と第四の閾値とを用いて判定することを特徴とする請求項3に記載の画像処理装置。
  5. 前記画像に人が撮影されているかを判定する人判定部をさらに備え、
    前記輝度算出部は、前記人判定部によって人が撮影されていると判定された場合に、前記画像から人が撮影されている部分に対応する画素各々を識別し、当該画像を形成する画素の内識別した画素を除いた他の画素各々について輝度を算出することを特徴とする請求項4に記載の画像処理装置。
  6. 画像を形成する画素ごとに輝度を算出する輝度算出ステップと、
    前記輝度算出ステップによって算出された複数の輝度の平均輝度を算出する平均算出ステップと、
    前記輝度算出ステップによって輝度が算出された画素の内、画像の明ステップと暗ステップとを区別する輝度である区別値以上の輝度を識別し、識別した画素が当該画像において占める明ステップ割合を算出する割合算出ステップと、
    前記輝度算出ステップによって算出された輝度に基づいて、区別値以上の輝度を持つ画素の輝度分布の広がり量を示す分散値を算出する分散算出ステップと、
    前記平均算出ステップによって算出された平均輝度が第一の閾値以下であり、前記割合算出ステップによって算出された明ステップ割合が第二の閾値以上であり、前記分散算出ステップによって算出された分散値が第三の閾値以上であるかを判定する判定ステップと、
    を含んだ事を特徴とする画像処理方法。
  7. 画像を形成する画素ごとに輝度を算出する輝度算出手順と、
    前記輝度算出手順によって算出された複数の輝度の平均輝度を算出する平均算出手順と、
    前記輝度算出手順によって輝度が算出された画素の内、画像の明手順と暗手順とを区別する輝度である区別値以上の輝度を識別し、識別した画素が当該画像において占める明手順割合を算出する割合算出手順と、
    前記輝度算出手順によって算出された輝度に基づいて、区別値以上の輝度を持つ画素の輝度分布の広がり量を示す分散値を算出する分散算出手順と、
    前記平均算出手順によって算出された平均輝度が第一の閾値以下であり、前記割合算出手順によって算出された明手順割合が第二の閾値以上であり、前記分散算出手順によって算出された分散値が第三の閾値以上であるかを判定する判定手順と、
    をコンピュータに実行させることを特徴とする画像処理プログラム。
JP2011508120A 2009-03-30 2009-03-30 画像処理装置および画像処理方法、画像処理プログラム Expired - Fee Related JP5152405B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2009/056584 WO2010116478A1 (ja) 2009-03-30 2009-03-30 画像処理装置および画像処理方法、画像処理プログラム

Publications (2)

Publication Number Publication Date
JPWO2010116478A1 JPWO2010116478A1 (ja) 2012-10-11
JP5152405B2 true JP5152405B2 (ja) 2013-02-27

Family

ID=42935789

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011508120A Expired - Fee Related JP5152405B2 (ja) 2009-03-30 2009-03-30 画像処理装置および画像処理方法、画像処理プログラム

Country Status (3)

Country Link
US (1) US20120070084A1 (ja)
JP (1) JP5152405B2 (ja)
WO (1) WO2010116478A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102016882B (zh) * 2007-12-31 2015-05-27 应用识别公司 利用脸部签名来标识和共享数字图像的方法、系统和计算机程序
WO2009093324A1 (ja) * 2008-01-24 2009-07-30 Fujitsu Limited 画像処理装置、画像処理方法、画像処理プログラムおよび画像補正装置
JP5814799B2 (ja) * 2012-01-06 2015-11-17 キヤノン株式会社 画像処理装置及び画像処理方法
US8810715B1 (en) 2012-04-20 2014-08-19 Seth A. Rudin Methods and systems for user guided automatic exposure control
JP6290576B2 (ja) * 2012-10-12 2018-03-07 株式会社半導体エネルギー研究所 液晶表示装置及びその駆動方法
JP5966899B2 (ja) * 2012-12-10 2016-08-10 富士通株式会社 撮像装置、撮影モード判定方法及び撮影モード判定プログラム
FR3002824A1 (fr) * 2013-03-04 2014-09-05 St Microelectronics Grenoble 2 Procede et dispositif de generation d'images a grande gamme dynamique
CN105635611A (zh) * 2014-11-03 2016-06-01 中兴通讯股份有限公司 投影仪自适应调整方法及装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006019977A (ja) * 2004-06-30 2006-01-19 Canon Inc 画像処理方法および画像処理装置
JP2008153768A (ja) * 2006-12-14 2008-07-03 Eastman Kodak Co 撮像装置、およびホワイトバランス処理装置
JP2008244799A (ja) * 2007-03-27 2008-10-09 Seiko Epson Corp 画像処理装置、画像処理方法および画像処理プログラム
JP2008278223A (ja) * 2007-04-27 2008-11-13 Canon Inc 撮像装置およびその制御方法、並びにプログラム

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6393148B1 (en) * 1999-05-13 2002-05-21 Hewlett-Packard Company Contrast enhancement of an image using luminance and RGB statistical metrics
US6792203B1 (en) * 1999-09-01 2004-09-14 Olympus Optical Co., Ltd. Camera and distance measuring apparatus used in the same
KR100609155B1 (ko) * 2004-03-22 2006-08-02 엘지전자 주식회사 영상 처리 장치 및 이를 이용한 역광 보정 방법
TWI285047B (en) * 2005-11-24 2007-08-01 Sunplus Technology Co Ltd Method of automatic exposure control and automatic exposure compensated apparatus
KR100698845B1 (ko) * 2005-12-28 2007-03-22 삼성전자주식회사 인물 외형 추출 알고리즘을 이용한 영상 편집 방법 및 그장치
JP4867365B2 (ja) * 2006-01-30 2012-02-01 ソニー株式会社 撮像制御装置、撮像装置および撮像制御方法
CN100568926C (zh) * 2006-04-30 2009-12-09 华为技术有限公司 自动曝光控制参数的获得方法及控制方法和成像装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006019977A (ja) * 2004-06-30 2006-01-19 Canon Inc 画像処理方法および画像処理装置
JP2008153768A (ja) * 2006-12-14 2008-07-03 Eastman Kodak Co 撮像装置、およびホワイトバランス処理装置
JP2008244799A (ja) * 2007-03-27 2008-10-09 Seiko Epson Corp 画像処理装置、画像処理方法および画像処理プログラム
JP2008278223A (ja) * 2007-04-27 2008-11-13 Canon Inc 撮像装置およびその制御方法、並びにプログラム

Also Published As

Publication number Publication date
WO2010116478A1 (ja) 2010-10-14
US20120070084A1 (en) 2012-03-22
JPWO2010116478A1 (ja) 2012-10-11

Similar Documents

Publication Publication Date Title
JP5152405B2 (ja) 画像処理装置および画像処理方法、画像処理プログラム
US10397486B2 (en) Image capture apparatus and method executed by image capture apparatus
KR101662846B1 (ko) 아웃 포커싱 촬영에서 빛망울 효과를 생성하기 위한 장치 및 방법
US20200043225A1 (en) Image processing apparatus and control method thereof
CN110022469B (zh) 图像处理方法、装置、存储介质及电子设备
CN108668093B (zh) Hdr图像的生成方法及装置
JP6160004B2 (ja) シーン認識方法および装置
US10382671B2 (en) Image processing apparatus, image processing method, and recording medium
JP2017138647A (ja) 画像処理装置、画像処理方法、映像撮影装置、映像記録再生装置、プログラム及び記録媒体
US10972676B2 (en) Image processing method and electronic device capable of optimizing hdr image by using depth information
JP6525543B2 (ja) 画像処装置および画像処理方法、並びにプログラム
EP3293697A1 (en) Image processing device, imaging device, image processing method, and storage medium storing image processing program for image processing device
US11301974B2 (en) Image processing apparatus, image processing method, image capturing apparatus, and storage medium
JP2015130615A (ja) 撮像装置、その制御方法及びプログラム
CN109040579B (zh) 一种拍摄控制方法、终端及计算机可读介质
EP3671552A1 (en) Electronic apparatus and image capture apparatus capable of detecting halation, method of controlling electronic apparatus, method of controlling image capture apparatus, and storage medium
US10863103B2 (en) Setting apparatus, setting method, and storage medium
WO2019129041A1 (zh) 一种亮度调节方法、装置、终端及计算机可读存储介质
JP2009225345A (ja) 画像補正プログラム、画像補正装置および画像補正方法
US9413925B2 (en) Image processing apparatus, image processing method, and storage medium
JP2016213717A (ja) 画像処理装置及び画像処理方法、プログラム、記憶媒体
CN115086566B (zh) 图片场景检测方法、装置
CN108965700B (zh) 一种拍摄控制方法、终端及计算机可读介质
JP6663246B2 (ja) 画像処理装置、撮像装置およびこれらの制御方法ならびにプログラム
JP2017069871A (ja) 画像処理装置、その制御方法、プログラム及び記録媒体

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121106

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121119

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151214

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5152405

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees