JP7462458B2 - 画像処理装置、画像処理方法 - Google Patents

画像処理装置、画像処理方法 Download PDF

Info

Publication number
JP7462458B2
JP7462458B2 JP2020061115A JP2020061115A JP7462458B2 JP 7462458 B2 JP7462458 B2 JP 7462458B2 JP 2020061115 A JP2020061115 A JP 2020061115A JP 2020061115 A JP2020061115 A JP 2020061115A JP 7462458 B2 JP7462458 B2 JP 7462458B2
Authority
JP
Japan
Prior art keywords
luminance
control point
image processing
correction
input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020061115A
Other languages
English (en)
Other versions
JP2021162908A (ja
JP2021162908A5 (ja
Inventor
太介 西尾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2020061115A priority Critical patent/JP7462458B2/ja
Priority to US17/214,338 priority patent/US11657484B2/en
Publication of JP2021162908A publication Critical patent/JP2021162908A/ja
Publication of JP2021162908A5 publication Critical patent/JP2021162908A5/ja
Application granted granted Critical
Publication of JP7462458B2 publication Critical patent/JP7462458B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/92Dynamic range modification of images or parts thereof based on global image properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/20Circuitry for controlling amplitude response
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration using histogram techniques
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20208High dynamic range [HDR] image processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/76Circuitry for compensating brightness variation in the scene by influencing the image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Studio Devices (AREA)

Description

本発明は、入力画像の輝度階調を補正するための技術に関するものである。
従来、入力画像の輝度レベルの階調を補正する技術が知られている(たとえば、特許文献1参照)。
特開2006-098614号公報
本発明が解決しようとする課題は、高輝度域および低輝度域に多くの画素が分布する画像のコントラストを向上させることである。
本発明の一様態は、入力画像における輝度分布に基づいて、該入力画像に対する輝度階調補正の特性を表す第1トーンカーブを制御する低輝度側の第1制御点と高輝度側の第1制御点を取得する第1取得手段と、
前記第1取得手段が取得した前記低輝度側の第1制御点と前記高輝度側の第1制御点との間の点である第2制御点と、前記第1取得手段が取得した前記低輝度側の第1制御点及び前記高輝度側の第1制御点と、を前記入力画像に対する輝度階調補正の特性を表す第2トーンカーブの制御点として取得する第2取得手段と、
前記第2取得手段が取得した制御点を有する前記第2トーンカーブに基づいて前記入力画像の輝度階調を補正する補正手段と
を備え
前記第2取得手段は、前記輝度分布において、前記第1取得手段が取得した前記低輝度側の第1制御点と前記高輝度側の第1制御点との間に対応する対応区間の輝度分布に基づいて、前記第2制御点に対応する入力輝度階調レベルを求めることを特徴とする。
画像処理装置の機能構成例を示すブロック図。 入力画像の輝度階調を補正するために用いる輝度階調補正カーブを生成するために行われる処理のフローチャート。 具体例を示す図。 具体例を示す図。 コンピュータ装置のハードウェア構成例を示すブロック図。
以下、添付図面を参照して実施形態を詳しく説明する。尚、以下の実施形態は特許請求の範囲に係る発明を限定するものではない。実施形態には複数の特徴が記載されているが、これらの複数の特徴の全てが発明に必須のものとは限らず、また、複数の特徴は任意に組み合わせられてもよい。さらに、添付図面においては、同一若しくは同様の構成に同一の参照番号を付し、重複した説明は省略する。
[第1の実施形態]
本実施形態に係る画像処理装置は、入力画像における輝度の階調を補正するために用いる「入力輝度階調レベルと出力輝度階調レベルとの対応関係を示すトーンカーブ」の制御点を、該入力画像における輝度分布に基づいて取得する。そして本実施形態に係る画像処理装置は、該取得した制御点で規定されるトーンカーブに基づいて輝度階調補正カーブを補正し、該補正した輝度階調補正カーブを用いて該入力画像における輝度の階調を補正する。先ず、本実施形態に係る画像処理装置の機能構成例について、図1のブロック図を用いて説明する。
取得部10は、輝度階調補正の対象となる画像を入力画像として取得する。取得部10による入力画像の取得形態は特定の取得形態に限らない。例えば、取得部10は、画像処理装置と通信可能な撮像装置によって撮像された撮像画像や、画像処理装置と通信可能なサーバ装置や記憶装置に保持されている画像を、入力画像として取得してもよい。また例えば、取得部10は、画像処理装置が有する撮像部によって撮像された撮像画像や、画像処理装置が有する記憶装置に保持されている画像を、入力画像として取得してもよい。
取得部20は、取得部10が取得した入力画像における輝度階調レベル(輝度値)の分布を表す輝度分布の一例として、該入力画像の輝度階調のヒストグラム(輝度階調ヒストグラム)を取得する。例えば、入力画像の各画素の輝度値が8ビットで表される場合(0~255の何れかで表される場合)には、取得部20は、0~255の各輝度値の個数を表すヒストグラムを輝度階調ヒストグラムとして取得する。
設定部40は、輝度補正の強度を示す補正強度パラメータ(輝度階調補正の強さを制御するパラメータ)を設定する。補正強度パラメータは、画像処理装置が有するユーザインターフェース(キーボード、マウス、タッチパネル画面、ボタン等)をユーザが操作して入力してもよいし、画像処理装置と通信可能な外部装置から取得してもよい。
第1階調制御部50は、「入力画像に対する輝度階調補正の特性を制御する第1制御情報」を、取得部20が取得した輝度階調ヒストグラムと、設定部40が設定した補正強度パラメータと、に基づいて取得する。本実施形態では、第1制御情報は、「入力輝度階調レベルと出力輝度階調レベルとの対応関係を示す第1トーンカーブの制御点」であるものとして説明する。しかし、第1制御情報は、第1トーンカーブの制御点に限らず、第1トーンカーブの形状を制御するための情報であれば、如何なる情報であってもよい。
第2階調制御部60は、入力画像に対する階調補正の特性を制御する第2制御情報を、第1階調制御部50が取得した第1制御情報に基づいて取得する。本実施形態では、第2制御情報は、「入力輝度階調レベルと出力輝度階調レベルとの対応関係を示す第2トーンカーブの制御点」であるものとして説明する。しかし、第2制御情報は、第2トーンカーブの制御点に限らず、第2トーンカーブの形状を制御するための情報であれば、如何なる情報であってもよい。
補正部30は、補正前の輝度階調補正カーブを「第2階調制御部60が取得した制御点によって規定される第2トーンカーブ」に基づいて補正し、該補正した輝度階調補正カーブを用いて、取得部10が取得した入力画像における輝度階調を補正する。つまり補正部30は、入力画像の輝度階調を入力輝度階調レベルとし、補正済みの輝度階調補正カーブにおいて該入力輝度階調レベルに対応する出力輝度階調レベルを特定し、入力画像の輝度階調を、該特定した出力輝度階調レベルに変換する。
出力部70は、補正部30によって補正された入力画像(補正済み入力画像)を出力する。補正済み入力画像の出力先は、特定の出力先に限らない。例えば出力部70は、補正済み入力画像を、画像処理装置が有するメモリ、画像処理装置に装着されているメモリ、画像処理装置と通信可能な外部の記憶装置やサーバ装置、等に対して出力してもよい。また出力部70は、補正済み入力画像を、液晶画面やタッチパネル画面を有する表示装置に表示させてもよいし、プロジェクタなどの投影装置に対して出力してもよい。
次に、設定部40、第1階調制御部50、第2階調制御部60、補正部30、による一連の処理について、図2のフローチャートに従って説明する。図2のフローチャートに従った処理は、取得部10が取得した入力画像の輝度階調を補正するために用いる輝度階調補正カーブを生成するために行われる処理である。
ステップS200では、第1階調制御部50は、取得部20が取得した「入力画像の輝度階調ヒストグラム」を取得する。ステップS201では、第1階調制御部50は、ステップS200で取得した輝度階調ヒストグラムと、設定部40によって設定された補正強度パラメータと、に基づいて、第1トーンカーブの制御点のx座標(入力輝度階調レベル)を決定する。
ステップS202では、第1階調制御部50は、設定部40によって設定された補正強度パラメータに基づいて、第1トーンカーブの制御点のy座標(出力輝度階調レベル)を決定する。
ステップS203では、第2階調制御部60は、ステップS201で決定した「第1トーンカーブの制御点のx座標」に基づいて、第2トーンカーブの制御点のx座標(入力輝度階調レベル)を決定する。
ステップS204では、第2階調制御部60は、ステップS201で決定した「第1トーンカーブの制御点のx座標」と、ステップS202で決定した「第1トーンカーブの制御点のy座標」と、設定部40によって設定された補正強度パラメータと、に基づいて、第2トーンカーブの制御点のy座標(出力輝度階調レベル)を決定する。
ステップS205では、補正部30は、ステップS203で決定したx座標およびステップS204で決定したy座標を有する制御点で規定される第2トーンカーブを生成する。
ステップS206では、補正部30は、補正前の輝度階調補正カーブを取得する。補正前の輝度階調補正カーブは、画像処理装置と通信可能な外部の記憶装置やサーバ装置から取得してもよいし、画像処理装置内のメモリから取得してもよい。
ステップS207では、補正部30は、ステップS206で取得した補正前の輝度階調補正カーブに、ステップS205で生成した第2トーンカーブを乗じることで、補正後の輝度階調補正カーブを生成する。輝度階調補正カーブは、様々なコントラスト制御を行うためのトーンカーブやγカーブを含んでいる。そして、図2のフローチャートに従った処理の後、補正部30は、ステップS207で生成した輝度階調補正カーブを用いて入力画像の輝度階調を補正する。
次に、図2のフローチャートに従った上記の各処理を、図3に示す具体例を挙げて説明する。図3の上部には、取得部20が取得した輝度階調ヒストグラム100を示しており、横軸は輝度値(入力輝度階調レベル)、縦軸は頻度数を示している。一方、図3の下部には、第1トーンカーブ110および第2トーンカーブ117を示しており、横軸は入力輝度階調レベル、縦軸は出力輝度階調レベルを示している。
第1階調制御部50は、輝度階調ヒストグラム100と、補正強度パラメータと、に基づいて、第1トーンカーブ110の制御点(第1制御点)のx座標(入力輝度階調レベル)を求める。
補正強度パラメータが補正強度「強」を示している場合、第1階調制御部50は、輝度階調ヒストグラム100において低輝度側の端部の入力輝度階調レベルL1から入力輝度階調レベルL2(L2>L1)までの各入力輝度階調レベルに対応する頻度数の総和がS1となるようなL2を特定する。また第1階調制御部50は、輝度階調ヒストグラム100において入力輝度階調レベルL3から高輝度側の端部の入力輝度階調レベルL4(L4>L3)までの各入力輝度階調レベルに対応する頻度数の総和がS1となるようなL3を特定する。
補正強度パラメータが補正強度「中」を示している場合、第1階調制御部50は、輝度階調ヒストグラム100において低輝度側の端部の入力輝度階調レベルL1から入力輝度階調レベルL2(L2>L1)までの各入力輝度階調レベルに対応する頻度数の総和がS2(S2<S1)となるようなL2を特定する。また第1階調制御部50は、輝度階調ヒストグラム100において入力輝度階調レベルL3から高輝度側の端部の入力輝度階調レベルL4(L4>L3)までの各入力輝度階調レベルに対応する頻度数の総和がS2となるようなL3を特定する。
補正強度パラメータが補正強度「弱」を示している場合、第1階調制御部50は、輝度階調ヒストグラム100において低輝度側の端部の入力輝度階調レベルL1から入力輝度階調レベルL2(L2>L1)までの各入力輝度階調レベルに対応する頻度数の総和がS3(S3<S2)となるようなL2を特定する。また第1階調制御部50は、輝度階調ヒストグラム100において入力輝度階調レベルL3から高輝度側の端部の入力輝度階調レベルL4(L4>L3)までの各入力輝度階調レベルに対応する頻度数の総和がS3となるようなL3を特定する。
なお、S1,S2,S3はそれぞれ、補正強度「強」、「中」、「弱」に対応する「頻度数の総和」として予め設定されている値である。ここでは、補正強度パラメータが示す補正強度の段階を「強」、「中」、「弱」の3段階としているが、段階数は3に限らない。つまり、補正強度が強いほどL2はより大きくなり、L3はより小さくなる。一方、補正強度が弱いほどL2はより小さくなり、L3はより大きくなる。
そして第1階調制御部50は、入力輝度階調レベルL2を「第1トーンカーブ110において低輝度側の第1制御点におけるx座標111」とし、入力輝度階調レベルL3を「第1トーンカーブ110において高輝度側の第1制御点におけるx座標112」とする。このことは、入力画像の輝度階調ヒストグラムに応じて第1トーンカーブ110の第1制御点のx座標が変化するとともに、ユーザが設定する補正強度に応じて第1トーンカーブ110の第1制御点のx座標が変化することを意味している。
また第1階調制御部50は、補正強度パラメータに基づいて、第1トーンカーブ110における低輝度側の第1制御点および高輝度側の第1制御点のy座標(出力輝度階調レベル)を求める。
補正強度パラメータが補正強度「強」を示している場合、第1階調制御部50はLL1を低輝度側の第1制御点のy座標とし、出力輝度階調レベルの最大値からLL1を引いた減算結果を、高輝度側の第1制御点のy座標とする。
補正強度パラメータが補正強度「中」を示している場合、第1階調制御部50はLL2(LL2>LL1)を、低輝度側の第1制御点のy座標とし、出力輝度階調レベルの最大値からLL2を引いた減算結果を、高輝度側の第1制御点のy座標とする。
補正強度パラメータが補正強度「弱」を示している場合、第1階調制御部50はLL3(LL3>LL2)を、低輝度側の第1制御点のy座標とし、出力輝度階調レベルの最大値からLL3を引いた減算結果を、高輝度側の第1制御点のy座標とする。
なお、ここでは、補正強度パラメータが示す補正強度の段階を「強」、「中」、「弱」の3段階としているが、段階数は3に限らない。つまり、補正強度が強いほど低輝度側の第1制御点のy座標は小さくなり、高輝度側の第1制御点のy座標は大きくなる。一方、補正強度が弱いほど低輝度側の第1制御点のy座標は大きくなり、高輝度側の第1制御点のy座標は小さくなる。また、LL1,LL2,LL3はそれぞれ、補正強度「強」、「中」、「弱」に対応する出力輝度階調レベルとして予め設定されている値である。
以上説明した第1階調制御部50による処理により、第1トーンカーブ110の低輝度側の第1制御点および高輝度側の第1制御点のそれぞれのx座標およびy座標を特定することができる。そしてその結果、低輝度側の第1制御点および高輝度側の第1制御点によって、低輝度領域(低輝度側の第1制御点よりも小さい入力輝度階調レベルの領域)、中間輝度領域(低輝度側の第1制御点と高輝度側の第1制御点との間の入力輝度階調レベルの領域)、高輝度領域(高輝度側の第1制御点よりも大きい入力輝度階調レベルの領域)に分割された第1のトーンカーブ110が生成されることになる。
次に第2階調制御部60は、第1トーンカーブ110と、補正強度パラメータと、に基づいて、第2トーンカーブ117の制御点を求める。第2トーンカーブ117の制御点は、第1トーンカーブ110の低輝度側の第1制御点、高輝度側の第1制御点、これら第1制御点の中間に位置する第2制御点、を含む。
第2制御点の求め方については様々な方法が考えられる。以下にその一例を説明する。第2階調制御部60は、第1トーンカーブ110の低輝度側の第1制御点のx座標と高輝度側の第1制御点のx座標との平均x座標(それぞれのx座標の和を2で割ったもの)を、第2制御点のx座標115として求める。また、第2階調制御部60は、第1トーンカーブ110の低輝度側の第1制御点と高輝度側の第1制御点とを結ぶ線分上で、第2制御点のx座標115に対応するy座標を基準y座標として取得する。そして第2階調制御部60は、補正強度パラメータが示す補正強度が一定強度A未満の場合、第2制御点のy座標を基準y座標とし、補正強度パラメータが示す補正強度が一定強度A以上の場合、第2制御点のy座標を基準y座標よりも小さい規定のy座標とする。ここで、「一定強度A」は、補正強度が数値で表されている場合には規定値、補正強度が「強」「中」「弱」などの段階で表されている場合には、規定段階である。なお、「規定のy座標」は、補正強度が強いほどより小さいy座標としてもよい。
このような処理により、第2トーンカーブを制御するための各制御点(低輝度側の第1制御点、高輝度側の第1制御点、第2制御点)のx座標およびy座標を特定することができる。然るに、結果として、これらの制御点によって規定される第2トーンカーブ117を確定することができる。なお、補正強度パラメータが示す補正強度が一定強度A未満であれば、第2制御点は、第1制御点間の中点であるから、結果として第2トーンカーブ117は第1トーンカーブ110と同じになる。
以上の構成により、中間輝度領域において、第2トーンカーブ117における第2制御点と高輝度側の第1制御点との間の輝度に相当する輝度階調を補正し、コントラストを向上させることができる。即ち、x座標111が低輝度側の端部(最小の入力輝度階調レベル)に近く、x座標112が高輝度側の端部(最大の入力輝度階調レベル)に近い入力画像であっても、中間輝度領域のコントラストを向上させ、視認性を改善させることができる。また、霧や霞が存在するシーンにおいては、霧や霞による光の散乱の影響により中間輝度(被写体輝度)が明部側にシフトしてしまう傾向がある。従って、y座標116を低輝度側にシフトし、x座標115よりも高輝度側のコントラストを伸長することで、霧や霞によるコントラスト低下を改善する効果を得ることができる。
<第1の実施形態の変形例>
第2制御点のx座標は、次のような方法で求めてもよい。つまり、輝度階調ヒストグラムにおいて、低輝度側の第1制御点のx座標と高輝度側の第1制御点のx座標との間の区間に対応する対応区間における入力輝度階調レベルの平均値または中央値に相当する入力輝度階調レベルを、第2制御点のx座標としてもよい。このようにして第2制御点のx座標を求めることで、中間輝度領域のコントラストを、画質的な違和感を防止しながら制御することができる。
また、第2制御点のx座標は、次のような方法で求めてもよい。つまり、第1の実施形態のようにして第2制御点のx座標を求めた後、該x座標を、補正強度パラメータが示す補正強度が強いほど高輝度側の第1制御点に近づくようにシフトさせる。このようにすることで、第2制御点と高輝度側の第1制御点との間の第2トーンカーブの傾きがより急峻になる。そのため、第2制御点のx座標と高輝度側の第1制御点のx座標との間に相当する輝度階調のコントラストをより強くすることができるため、コントラスト改善効果を大きくすることができる。
また、第2制御点のx座標は、次のような方法で求めてもよい。つまり、第1の実施形態のようにして第2制御点のx座標を求めた後、該x座標を、補正強度パラメータが示す補正強度が強いほど低輝度側の第1制御点に近づくようにシフトさせる。このようにすることで、第2制御点と高輝度側の第1制御点との間の距離(入力輝度階調レベル方向の距離)を大きくすることができる。そのため、より広い範囲の輝度階調領域のコントラストを強くすることができるため、コントラスト改善効果を大きくすることができる。
また、第2制御点のx座標は、入力画像中の特定の被写体の明るさに応じて決めてもよい。ここで、特定の被写体とは、特に注目するべき主要な被写体であり、例えばヒトの顔などである。第2階調制御部60は、入力画像中の顔領域における明るさ(例えば顔領域を構成する各画素の輝度値の平均値)を検出し、該明るさよりも暗い入力輝度階調レベルの何れかを第2制御点のx座標とする。このよう実施することで、顔の明るさに相当する入力輝度階調レベルは、第2制御点と高輝度側の第1制御点との間に相当する輝度範囲に含まれることとなる。前述のように、本実施形態では、第2制御点と高輝度側の第1制御点との間に相当する階調のコントラストを向上させる。従って、ヒトの顔のコントラストが向上することにより、ヒトの顔(主要被写体)の視認性を向上させることができる。
また、第2制御点のy座標を、低輝度側の第1制御点と高輝度側の第1制御点との間の、入力輝度階調レベル方向の距離(第1制御点間距離)に応じて決定しても良い。即ち、第1制御点間距離が大きいほど第2制御点のy座標がより下側にシフトするように、第2制御点のy座標を制御しても良い。前述の通り、第2制御点のy座標がより下側にシフトするほど、第2制御点と、高輝度側の第1制御点との間の輝度に相当する輝度階調のコントラストを向上させることができる。しかしながら、コントラストを強くしすぎると画質上の違和感をユーザに与えてしまうおそれがある。第1制御点間距離が大きいシーンとは、第1トーンカーブによるコントラスト強調効果が少ないシーンである。一方、第1制御点間距離が小さいシーンとは、第1トーンカーブによるコントラスト強調効果が大きいシーンであり、この上に第2制御点によるコントラスト強調を行ってしまうと、コントラストが強くなりすぎるおそれがある。従って、第1制御点間距離が大きいほど第2制御点のy座標がより下側にシフトするように、第2制御点のy座標を制御することで、過剰なコントラスト強調を防止しつつ、シーンに応じて適切なコントラスト改善量に制御することができる。
また、第2制御点のy座標を、輝度階調ヒストグラムの中間輝度領域内の分布に応じて決定してもよい。即ち、中間輝度領域内の高輝度側により多くの度数が分布しているほど、第2制御点のy座標がより下側にシフトするように、第2制御点のy座標を制御しても良い。前述の通り、第2制御点のy座標がより下側にシフトするほど、中間輝度領域内のより高輝度側に相当する輝度階調のコントラストを向上させることができる。従って、輝度階調ヒストグラムにおいて、中間輝度領域内のより高輝度側に多数分布するシーンの方がより大きなコントラスト改善効果を見込める。そのため、中間輝度領域内の高輝度側により多くの度数が分布しているほど、第2制御点のy座標がより下側にシフトするように、第2制御点のy座標を制御することで、より大きなコントラスト改善効果を得ることができる。
上記の構成では、トーンカーブの制御点のx座標とy座標の両方が設定部40により設定された補正強度パラメータにより変化する。しかし、トーンカーブの制御点のx座標とy座標のうち、少なくともどちらか一方の座標が該補正強度パラメータにより変化する構成としても構わない。
[第2の実施形態]
以下では、第1の実施形態との差分について説明し、以下で特に触れない限りは、第1の実施形態と同様であるものとする。第1の実施形態では、求める第2制御点の数は1としたが、本実施形態では、求める第2制御点の数を複数とする。また、本実施形態では、第1の実施形態と異なり、低輝度側の第1制御点よりも低輝度に相当する輝度階調については、階調補正を行わない。同様に、高輝度側の第1制御点よりも高輝度に相当する輝度階調については、階調補正を行わない。
本実施形態では、第1階調制御部50および第2階調制御部60の動作が第1の実施形態と異なるため、以下では、第1階調制御部50および第2階調制御部60の動作について、図4の具体例を挙げて説明する。
図4の上部には、取得部20が取得した輝度階調ヒストグラム100を示しており、横軸は輝度値(入力輝度階調レベル)、縦軸は頻度数を示している。一方、図4の下部には、第1トーンカーブ110および第2トーンカーブ119を示しており、横軸は入力輝度階調レベル、縦軸は出力輝度階調レベルを示している。本実施形態では、第2トーンカーブの制御点は、低輝度側の第1制御点、高輝度側の第1制御点、低輝度側の第2制御点、高輝度側の2制御点、の4点である。
先ず、第1階調制御部50は、低輝度側の第1制御点のx座標を求める。具体的には、第1階調制御部50は、輝度階調ヒストグラム100において最小輝度値から着目輝度値までの各輝度値に対応する頻度数の総和が閾値以上であれば、該着目輝度値に対応する入力輝度階調レベルを低輝度側の第1制御点のx座標とする。なお、第1階調制御部50は、該総和が閾値未満であれば、該最小輝度値に対応する入力輝度階調レベルを低輝度側の第1制御点のx座標とする。また、低輝度側の第1制御点のy座標=低輝度側の第1制御点のx座標とする。
同様に、第1階調制御部50は、高輝度側の第1制御点のx座標を求める。具体的には、第1階調制御部50は、輝度階調ヒストグラム100において着目輝度値から最大輝度値までの各輝度値に対応する頻度数の総和が閾値以上であれば、該着目輝度値に対応する入力輝度階調レベルを高輝度側の第1制御点のx座標とする。なお、第1階調制御部50は、該総和が閾値未満であれば、該最大輝度値に対応する入力輝度階調レベルを高輝度側の第1制御点のx座標とする。また、高輝度側の第1制御点のy座標=高輝度側の第1制御点のx座標とする。
次に、第2階調制御部60は、低輝度側の第2制御点のx座標および高輝度側の第2制御点のx座標を求める。第2階調制御部60は、輝度階調ヒストグラム100において低輝度側の第1制御点のx座標から入力輝度階調レベルLAまでの各入力輝度階調レベルに対応する頻度数の総和がSとなるようなLAを特定する。また第2階調制御部60は、輝度階調ヒストグラム100において入力輝度階調レベルLBから高輝度側の第1制御点のx座標までの各入力輝度階調レベルに対応する頻度数の総和がSとなるようなLBを特定する。第1の実施形態と同様、Sは、補正強度パラメータが示す補正強度が強いほど大きくなるように予め設定されている。
低輝度側の第2制御点のy座標については、第2制御点のy座標の求め方として第1の実施形態で説明した求め方と同様の求め方で求める。高輝度側の第2制御点のy座標については、出力輝度階調レベルの最大値から低輝度側の第2制御点のy座標を引いた減算結果を、高輝度側の第2制御点のy座標とする。
このように本実施形態では、低輝度側の第1制御点より低輝度の領域及び高輝度側の第1制御点より高輝度の領域のコントラストを維持しながら、低輝度側の第1制御点と高輝度側の第1制御点の間の輝度領域においてコントラストを向上させることができる。より具体的には、低輝度側の第2制御点と高輝度側の第2制御点との間の輝度領域においてコントラストが向上し、霧や霞を含む入力画像において、視認性を改善することができる。
[第3の実施形態]
図1に示した画像処理装置の各機能部は、ハードウェアで実装してもよいが、ソフトウェア(コンピュータプログラム)で実装してもよい。後者の場合、このようなコンピュータプログラムを実行可能なコンピュータ装置は、該画像処理装置に適用することができる。該画像処理装置に適用可能なコンピュータ装置のハードウェア構成例について、図5のブロック図を用いて説明する。
CPU501は、RAM502やROM503に格納されているコンピュータプログラムやデータを用いて各種の処理を実行する。これによりCPU501は、コンピュータ装置全体の動作制御を行うとともに、画像処理装置が行うものとして上述した各処理を実行もしくは制御する。
RAM502は、ROM503や外部記憶装置506からロードされたコンピュータプログラムやデータを格納するためのエリア、I/F(インターフェース)507を介して外部から受信したデータ(例えば入力画像)を格納するためのエリア、を有する。さらにRAM502は、CPU501が各種の処理を実行する際に用いるワークエリアを有する。このようにRAM502は、各種のエリアを適宜提供することができる。ROM503には、コンピュータ装置の設定データや起動プログラムなど、書き換え不要のコンピュータプログラムやデータが格納されている。
操作部504は、キーボード、マウス、タッチパネル画面などのユーザインターフェースであり、ユーザが操作することで各種の指示をCPU501に対して入力することができる。
表示部505は、液晶画面やタッチパネル画面を有し、CPU501による処理結果を画像や文字などでもって表示する。なお、表示部505は、画像や文字を投影するプロジェクタなどの投影装置であってもよい。
外部記憶装置506には、OS(オペレーティングシステム)や、画像処理装置が行うものとして上述した各処理をCPU501に実行もしくは制御させるためのコンピュータプログラムやデータが保存されている。外部記憶装置506に保存されているコンピュータプログラムには、図1に示した各機能部の機能をCPU501に実行させるためのコンピュータプログラムが含まれている。また、外部記憶装置506に保存されているデータには、上記の説明において既知の情報として用いたもの(S1、S2、S3、LL1、LL2、LL3、S、一定強度A、閾値など)が含まれている。外部記憶装置506に保存されているコンピュータプログラムやデータは、CPU501による制御に従って適宜RAM502にロードされ、CPU501による処理対象となる。
I/F507は、コンピュータ装置が外部とのデータ通信を行うための通信インターフェースであり、コンピュータ装置は、補正対象となる入力画像や、上記の各種の処理において用いる各種の情報を、I/F507を介して外部から受信することができる。また、コンピュータ装置は、輝度階調を補正した入力画像を、I/F507を介して外部に送信することもできる。
CPU501、RAM502、ROM503、操作部504、表示部505、外部記憶装置506、I/F507は何れも、バス508に接続されている。なお、図5に示したハードウェア構成は、上記の画像処理装置に適用可能なコンピュータ装置のハードウェア構成の一例にすぎず、適宜変形/変更してもよい。
また、上記の説明において使用した数値、処理タイミング、処理順などは、具体的な説明を行うために一例として挙げたものであり、これらの数値、処理タイミング、処理順などに限定することを意図したものではない。
また、以上説明した各実施形態や変形例の一部若しくは全部を適宜組み合わせて使用しても構わない。また、以上説明した各実施形態や変形例の一部若しくは全部を選択的に使用しても構わない。
(その他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
発明は上記実施形態に制限されるものではなく、発明の精神及び範囲から離脱することなく、様々な変更及び変形が可能である。従って、発明の範囲を公にするために請求項を添付する。
10:取得部 20:取得部 30:補正部 40:設定部 50:第1階調制御部 60:第2階調制御部 70:出力部

Claims (14)

  1. 入力画像における輝度分布に基づいて、該入力画像に対する輝度階調補正の特性を表す第1トーンカーブを制御する低輝度側の第1制御点と高輝度側の第1制御点を取得する第1取得手段と、
    前記第1取得手段が取得した前記低輝度側の第1制御点と前記高輝度側の第1制御点との間の点である第2制御点と、前記第1取得手段が取得した前記低輝度側の第1制御点及び前記高輝度側の第1制御点と、を前記入力画像に対する輝度階調補正の特性を表す第2トーンカーブの制御点として取得する第2取得手段と、
    前記第2取得手段が取得した制御点を有する前記第2トーンカーブに基づいて前記入力画像の輝度階調を補正する補正手段と
    を備え
    前記第2取得手段は、前記輝度分布において、前記第1取得手段が取得した前記低輝度側の第1制御点と前記高輝度側の第1制御点との間に対応する対応区間の輝度分布に基づいて、前記第2制御点に対応する入力輝度階調レベルを求めることを特徴とする画像処理装置。
  2. 前記輝度分布において、前記低輝度側の第1制御点に対応する入力輝度階調レベルよりも低い入力輝度階調レベルに対応する頻度数の総和は閾値以上であり、
    前記輝度分布において、前記高輝度側の第1制御点に対応する入力輝度階調レベルよりも高い入力輝度階調レベルに対応する頻度数の総和は閾値以上である
    ことを特徴とする請求項1に記載の画像処理装置。
  3. 前記閾値は、ユーザにより設定された階調補正の強度に応じた閾値であることを特徴とする請求項2に記載の画像処理装置。
  4. 前記第2制御点は、輝度階調補正の強度が閾値未満であれば、前記第2制御点に対応する出力輝度階調レベルは、前記第1取得手段が取得した前記低輝度側の第1制御点と前記高輝度側の第1制御点との中点に対応する出力輝度階調レベルであり、
    前記輝度階調補正の強度が閾値以上であれば、前記第2制御点に対応する出力輝度階調レベルは、前記中点に対応する出力輝度階調レベルよりも低いことを特徴とする請求項1ないし3のいずれか1項に記載の画像処理装置。
  5. 前記第2取得手段は、前記第2制御点に対応する入力輝度階調レベルを、輝度階調補正の強度に応じて制御することを特徴とする請求項1ないし3のいずれか1項に記載の画像処理装置。
  6. 前記第2取得手段は、前記第2制御点に対応する入力輝度階調レベルを、前記入力画像における特定の被写体の領域の明るさに基づいて制御することを特徴とする請求項1ないし3のいずれか1項に記載の画像処理装置。
  7. 前記第2取得手段は、前記第2制御点に対応する出力輝度階調レベルを、前記第1取得手段が取得した前記低輝度側の第1制御点と前記高輝度側の第1制御点との間の距離に応じて制御することを特徴とする請求項1ないし3のいずれか1項に記載の画像処理装置。
  8. 前記第2取得手段は、前記第2制御点に対応する出力輝度階調レベルを、前記第1取得手段が取得した前記低輝度側の第1制御点と前記高輝度側の第1制御点との間の輝度分布に応じて制御することを特徴とする請求項1ないし3のいずれか1項に記載の画像処理装置。
  9. 前記第2取得手段は、前記輝度分布において、前記第1取得手段が取得した前記低輝度側の第1制御点と前記高輝度側の第1制御点との間に対応する対応区間の輝度分布に基づいて複数の前記第2制御点を求めることを特徴とする請求項1ないし3のいずれか1項に記載の画像処理装置。
  10. 前記補正手段は、前記第2トーンカーブに基づいて補正した輝度階調補正カーブを用いて前記入力画像の輝度階調を補正することを特徴とする請求項1ないしの何れか1項に記載の画像処理装置。
  11. 更に、前記補正手段により輝度階調が補正された前記入力画像を出力する出力手段を備えることを特徴とする請求項1ないし10の何れか1項に記載の画像処理装置。
  12. 更に、撮像手段を備え、
    前記入力画像は、該撮像手段により撮像された撮像画像であることを特徴とする請求項1ないし11の何れか1項に記載の画像処理装置。
  13. 画像処理装置が行う画像処理方法であって、
    前記画像処理装置の第1取得手段が、入力画像における輝度分布に基づいて、該入力画像に対する輝度階調補正の特性を表す第1トーンカーブを制御する低輝度側の第1制御点と高輝度側の第1制御点を取得する第1取得工程と、
    前記画像処理装置の第2取得手段が、前記第1取得工程で取得した前記低輝度側の第1制御点と前記高輝度側の第1制御点との間の点である第2制御点と、前記第1取得工程で取得した前記低輝度側の第1制御点及び前記高輝度側の第1制御点と、を前記入力画像に対する輝度階調補正の特性を表す第2トーンカーブの制御点として取得する第2取得工程と、
    前記画像処理装置の補正手段が、前記第2取得工程で取得した制御点を有する前記第2トーンカーブに基づいて前記入力画像の輝度階調を補正する補正工程と
    を備え
    前記第2取得工程では、前記輝度分布において、前記第1取得工程で取得した前記低輝度側の第1制御点と前記高輝度側の第1制御点との間に対応する対応区間の輝度分布に基づいて、前記第2制御点に対応する入力輝度階調レベルを求めることを特徴とする画像処理方法。
  14. コンピュータを、請求項1ないし11の何れか1項に記載の画像処理装置の各手段として機能させるためのコンピュータプログラム。
JP2020061115A 2020-03-30 2020-03-30 画像処理装置、画像処理方法 Active JP7462458B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2020061115A JP7462458B2 (ja) 2020-03-30 2020-03-30 画像処理装置、画像処理方法
US17/214,338 US11657484B2 (en) 2020-03-30 2021-03-26 Image processing apparatus to enhance contrast of image, image processing method, and non-transitory computer-readable storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020061115A JP7462458B2 (ja) 2020-03-30 2020-03-30 画像処理装置、画像処理方法

Publications (3)

Publication Number Publication Date
JP2021162908A JP2021162908A (ja) 2021-10-11
JP2021162908A5 JP2021162908A5 (ja) 2023-03-30
JP7462458B2 true JP7462458B2 (ja) 2024-04-05

Family

ID=77856383

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020061115A Active JP7462458B2 (ja) 2020-03-30 2020-03-30 画像処理装置、画像処理方法

Country Status (2)

Country Link
US (1) US11657484B2 (ja)
JP (1) JP7462458B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11373621B2 (en) * 2020-05-22 2022-06-28 Sharp Kabushiki Kaisha Display device, display control method, and storage medium
JP2023053707A (ja) 2021-10-01 2023-04-13 三菱重工業株式会社 走行制御装置、車両、走行制御方法及びプログラム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000232583A (ja) 1999-02-09 2000-08-22 Fuji Xerox Co Ltd 画像処理装置、画像処理方法及び記録媒体
JP2016076908A (ja) 2014-10-09 2016-05-12 キヤノン株式会社 撮像装置およびその制御方法、並びにプログラム

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI283396B (en) * 2004-03-23 2007-07-01 Lite On Technology Corp Method for adjusting image contrast
JP2006098614A (ja) 2004-09-29 2006-04-13 Pioneer Electronic Corp コントラスト補正方法、コントラスト補正回路及び表示装置
US20070053587A1 (en) * 2005-08-24 2007-03-08 Ali Walid S Techniques to improve contrast enhancement using a luminance histogram
JP5753393B2 (ja) * 2011-02-04 2015-07-22 キヤノン株式会社 画像処理装置及び方法
JP5948073B2 (ja) * 2012-02-08 2016-07-06 株式会社 日立産業制御ソリューションズ 画像信号処理装置、画像信号処理方法
JP6552325B2 (ja) * 2015-08-07 2019-07-31 キヤノン株式会社 撮像装置、撮像装置の制御方法、及びプログラム
US10019785B2 (en) * 2016-03-07 2018-07-10 Novatek Microelectronics Corp. Method of processing high dynamic range images using dynamic metadata

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000232583A (ja) 1999-02-09 2000-08-22 Fuji Xerox Co Ltd 画像処理装置、画像処理方法及び記録媒体
JP2016076908A (ja) 2014-10-09 2016-05-12 キヤノン株式会社 撮像装置およびその制御方法、並びにプログラム

Also Published As

Publication number Publication date
JP2021162908A (ja) 2021-10-11
US11657484B2 (en) 2023-05-23
US20210304377A1 (en) 2021-09-30

Similar Documents

Publication Publication Date Title
JP4432933B2 (ja) 画像表示装置および画像表示方法
WO2020038124A1 (zh) 图像对比度增强方法、装置、设备及存储介质
KR101138852B1 (ko) 모바일 디스플레이를 위한 스마트 클리퍼
US8009927B2 (en) Tone correcting apparatus providing improved tone correction on image
JP3824590B2 (ja) ヒストグラムマッチングを用いたコントラスト向上装置及び方法
US7340091B2 (en) Method for adjusting image contrast
US8390542B2 (en) Apparatus, method, and program for processing image
US8160383B2 (en) Tone correcting apparatus providing improved tone correction on image
JP7462458B2 (ja) 画像処理装置、画像処理方法
JP2016076908A (ja) 撮像装置およびその制御方法、並びにプログラム
EP1189434A2 (en) Correction curve generating method, image processing method, image display unit and storage medium
JP2012181261A (ja) 画像処理装置、画像処理プログラム及び画像処理方法
JP2023519275A (ja) 表示効果強化方法、装置、設備
WO2016158490A1 (ja) 投影システム、プロジェクター装置、撮像装置、および、プログラム
JP2009010636A (ja) 適応ヒストグラム等化方法及び適応ヒストグラム等化装置
KR100364778B1 (ko) 화면 표시 장치
KR100752850B1 (ko) 디지털 영상 촬영장치와 방법
JP2020123138A (ja) 画像処理装置および画像処理方法、プログラム、記憶媒体
JP7271492B2 (ja) 画像処理装置、および画像処理方法
JP6816352B2 (ja) 投影装置、投影システム及びプログラム
JP2022112995A (ja) 画像処理方法
JP6701687B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
KR20160069452A (ko) 영상 처리 장치, 영상 처리 방법, 및 프로그램
JP4102985B2 (ja) 画像処理システム、プロジェクタ、プログラム、情報記憶媒体および画像処理方法
JP2010288040A (ja) 輪郭補正方法及び輪郭補正装置

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20210103

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210113

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230322

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230322

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20231120

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231124

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240119

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240226

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240326

R150 Certificate of patent or registration of utility model

Ref document number: 7462458

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150