JP2011109638A - 画像処理装置、画像処理方法 - Google Patents

画像処理装置、画像処理方法 Download PDF

Info

Publication number
JP2011109638A
JP2011109638A JP2010145052A JP2010145052A JP2011109638A JP 2011109638 A JP2011109638 A JP 2011109638A JP 2010145052 A JP2010145052 A JP 2010145052A JP 2010145052 A JP2010145052 A JP 2010145052A JP 2011109638 A JP2011109638 A JP 2011109638A
Authority
JP
Japan
Prior art keywords
image
images
luminance
weight
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010145052A
Other languages
English (en)
Other versions
JP5408053B2 (ja
Inventor
Shigeru Tsuchiida
茂 土井田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2010145052A priority Critical patent/JP5408053B2/ja
Priority to US12/901,062 priority patent/US8379102B2/en
Priority to CN201010516385.9A priority patent/CN102045506B/zh
Publication of JP2011109638A publication Critical patent/JP2011109638A/ja
Application granted granted Critical
Publication of JP5408053B2 publication Critical patent/JP5408053B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G06T5/94
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration by the use of histogram techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/76Circuitry for compensating brightness variation in the scene by influencing the image signals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10144Varying exposure
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20208High dynamic range [HDR] image processing

Abstract

【課題】良好な画質の高コントラスト画像を得ることができる画像処理装置及び画像処理方法を提供する。
【解決手段】本発明は、同一シーンを撮影した露光量の異なる複数枚の画像を合成して、ダイナミックレンジを拡大させた階調幅の広い高コントラスト画像を生成する画像処理装置(10)であり、前記複数枚の画像の輝度成分の情報に基づき基準画像を選定する選定手段(11)と、前記複数枚の画像の輝度成分の情報に基づき、前記複数枚のうちの前記基準画像を除いた残りの画像について、前記基準画像を基準にした前記残りの画像との輝度比率をゲインとして算出するゲイン算出手段(11)と、前記ゲインと、前記基準画像の輝度成分の情報とに基づき、前記残りの画像に対して適用する重みを算出する重み算出手段(11)と、前記の重みを用いて前記基準画像と前記残りの画像との重み付け合成を行うことにより高コントラスト画像を生成する生成手段(11)を備える。
【選択図】 図1

Description

本発明は、画像処理装置および画像処理方法に関する。
従来、同一シーンを撮影した露光量の異なる複数枚の画像を合成して、ダイナミックレンジを拡大させた階調幅の広い合成画像(高コントラスト画像)を得るための技術が提案されている(例えば、特許文献1)。
特開2002−305684号公報
しかしながら、従来技術では、合成対象となる画像中に、輝度変化の滑らかな構造を持つ部分があったり、ノイズなどによる突出的な値(画素値)を有する画素が含まれている場合には、画質の良好な高コントラスト画像を得ることができなかった。具体的には、合成後の高コントラスト画像において、階調飛びが生じたり、ノイズ成分が残る或いはノイズ成分が強調されてしまっていた。
本発明は、上記従来技術の課題を解決するためのものである。本発明の目的は、良好な画質の高コントラスト画像を得ることができる画像処理装置および画像処理方法を提供することである。
第1の発明の画像処理装置は、同一シーンを撮影した露光量の異なる複数枚の画像を合成して、ダイナミックレンジを拡大させた階調幅の広い合成画像(高コントラスト画像)を生成する画像処理装置であって、前記複数枚の画像の輝度成分の情報に基づき基準画像を選定する選定手段と、前記複数枚の画像の輝度成分の情報に基づき、前記複数枚のうちの前記基準画像を除いた残りの画像について、前記基準画像を基準にした前記残りの画像との輝度比率をゲインとして算出するゲイン算出手段と、前記算出されたゲインと、前記基準画像の輝度成分の情報とに基づき、前記残りの画像に対して適用する重みを算出する重み算出手段と、前記算出された重みを使用して前記基準画像と前記残りの画像との重み付け合成処理を行うことにより前記高コントラスト画像を生成する生成手段とを備える。
第2の発明は、第1の発明において、選定手段は、前記複数枚の画像をそれぞれ縮小した縮小画像の輝度成分の情報に基づき、輝度分布の有効幅が最も広い1枚の画像を、前記複数枚の中から前記基準画像として選定する。
第3の発明は、第1または第2の発明において、ゲイン算出手段は、前記複数枚の画像をそれぞれ縮小した縮小画像の輝度成分の情報に基づき、前記残りの画像について、前記基準画像を基準にした前記残りの画像との輝度比率をゲインとして算出する。
第4の発明は、第1ないし第3の発明の何れか一の発明において、重み算出手段は、前記算出されたゲインの値が所定の値よりも小さい前記残りの画像に対しては、該画像の高輝度部分の重みが大きくなるように重みの算出を行い、前記算出されたゲインの値が所定の値よりも大きい前記残りの画像に対しては、該画像の低輝度部分の重みが大きくなるように重みの算出を行う。
第5の発明は、第1ないし第4の発明の何れか一の発明において、前記複数枚の画像は、画像信号成分がリニア特性の状態にある画像であり、前記複数枚のうちの1枚の画像は自動露出(AE)によって決定された又はユーザーによって指定された露出条件で撮影され、それを除いた残りの画像は、前記露出条件を基準とした異なる露出条件で撮影されたものである。
第6の発明の画像処理方法は、同一シーンを撮影した露光量の異なる複数枚の画像を合成して、ダイナミックレンジを拡大させた階調幅が広い合成画像(高コントラスト画像)を生成する画像処理方法であって、前記複数枚の画像の輝度成分の情報に基づき基準画像を選定する選定手順と、前記複数枚の画像の輝度成分の情報に基づき、前記複数枚のうちの前記基準画像を除いた残りの画像について、前記基準画像を基準にした前記残りの画像との輝度比率をゲインとして算出するゲイン算出手順と、前記算出されたゲインと、前記基準画像の輝度成分の情報とに基づき、前記残りの画像に対して適用する重みを算出する重み算出手順と、前記算出された重みを使用して前記基準画像と前記残りの画像との重み付け合成処理を行うことにより前記高コントラスト画像を生成する生成手順とを備える。
第7の発明は、第6の発明において、選定手順は、前記複数枚の画像をそれぞれ縮小した縮小画像の輝度成分の情報に基づき、輝度分布の有効幅が最も広い1枚の画像を、前記複数枚の中から前記基準画像として選定する。
第8の発明は、第6または第7の発明において、ゲイン算出手順は、前記複数枚の画像をそれぞれ縮小した縮小画像の輝度成分の情報に基づき、前記残りの画像について、前記基準画像を基準にした前記残りの画像との輝度比率をゲインとして算出する。
第9の発明は、第6ないし第8の発明の何れか一の発明において、重み算出手順は、前記算出されたゲインの値が所定の値よりも小さい前記残りの画像に対しては、該画像の高輝度部分の重みが大きくなるように重みの算出を行い、前記算出されたゲインの値が所定の値よりも大きい前記残りの画像に対しては、該画像の低輝度部分の重みが大きくなるように重みの算出を行う。
本発明を利用すれば、良好な画質の高コントラスト画像を得ることができる。
実施形態の画像処理装置の構成を示すブロック図。 高コントラスト画像作成に係る画像処理装置の動作を示すフローチャート。 縮小画像の輝度ヒストグラムの例を示す図。 コントラストの低い被写体を撮影した画像の輝度ヒストグラムの例を示す図。 高コントラスト画像を基に最終結果となる画像を作成する例を示す図。
以下、本発明の実施形態を説明する。
図1は、本実施形態の画像処理装置の構成を示すブロック図である。図1のとおり、本実施形態の画像処理装置は、画像処理装置10と、それに接続される撮像ユニット20とから構成される。
画像処理装置10は、制御部11と、撮像ユニット収容部12と、バッファメモリ13と、データ処理部14と、圧縮/復号部15と、記録媒体16と、モニタ17と、操作部18と、システムバス19とを有している。ここで、制御部11、撮像ユニット収容部12、バッファメモリ13、データ処理部14、圧縮/復号部15、記録媒体16、モニタ17は、システムバス19を介して接続されている。また、操作部18は、制御部11に接続されている。
撮像ユニット20は、撮像ユニット収容部12の収容ポート(不図示)を介して画像処理装置10に接続される。なお、この接続は、IEEE1394やUSBなどの規格に基づく通信ケーブルを用いて行われる。
撮像ユニット20は、2次元マトリクス状に配置された多数の受光素子(画素)を半導体基板上に形成した撮像面を有する撮像素子と、撮像素子から出力された画像信号に、クランプ処理、感度調整(ゲイン調整)、A/D変換などの信号処理を施し、その信号処理後の画像データを画像処理装置10へ出力する信号処理回路などから構成される。なお、撮像ユニット20の撮像素子は、例えば、CCD型、或いは、CMOS型の撮像素子によって構成される。
また、撮像ユニット20は、フォーカスレンズやズームレンズを含む複数のレンズ群で構成される撮影レンズおよび、その撮影レンズを光軸方向に移動させてフォーカス調整やズーム調整を行うレンズ駆動部を有している。なお、撮影レンズのフォーカス調整やズーム調整は、画像処理装置10の制御部11からの指示に応じて行われる。
撮像ユニット20は、画像処理装置10の制御部11からの指示に基づき、撮像面に結像された被写体像の画像を撮影する。撮影時のAE(自動露出)やAF(自動焦点調節)の制御は、撮像ユニット20が、画像処理装置10の制御部11からの指示に基づいて行う。或いは、撮像ユニット20と画像処理装置10の制御部11とが協働して行う。撮影により撮像ユニット20から出力される画像データは、撮像ユニット収容部12を介して、画像処理装置10のバッファメモリ13へ出力される。
バッファメモリ13には、撮像ユニット20から出力された画像データが一時的に記録される。また、制御部11による処理の過程で作成された画像データなどもこのバッファメモリ13に一時的に記録される。
データ処理部14は、制御部11の指示に応じて、バッファメモリ13に記録された画像データに対し、欠陥画素補正、シェーディング補正、ホワイトバランス調整、補間、輪郭強調、ガンマ補正などの画像処理を施す。なお、データ処理部14は、ASICなどとして構成される。
圧縮/復号部15は、制御部11の指示に応じて、バッファメモリ13の画像データに圧縮処理を施す。なお、圧縮処理は、JPEG(Joint Photographic Experts Group)形式などによって行われる。
記録媒体16は、メモリカード、ハードディスク、光ディスク(DVD等)などで構成される。なお、記録媒体16は、画像処理装置10に内蔵されるものであっても、着脱可能に装着されるものであってもよいし、外部に設けられるものであってもよい。外部に設けられる場合、記録媒体16と画像処理装置10とは有線または無線で電気的に接続される。
モニタ17は、LCDディスプレイやCRTディスプレイなどから構成される表示装置である。なお、モニタ17は、画像処理装置10に内蔵されるものであっても、外部に設けられるものであってもよい。外部に設けられる場合、モニタ17と画像処理装置10とは有線で電気的に接続される。
モニタ17は、制御部11の指示に応じて、画像処理前の画像の内容を表示したり、画像処理後の画像の内容を画像処理結果として表示したり、さらに、画像に施す画像処理の内容をユーザーに指示させる画像処理メニュー画面(GUI)などを表示する。
操作部18は、キーボード、また、マウスやトラックパッド等のポインティングデバイスなど、制御部11に対してユーザーが指示を行うための各種の入力デバイスを含んでいる。ユーザーは、これらの入力デバイスを操作することで、制御部11に対して、画像に施す画像処理の内容の指示や、その画像処理の実行の指示等を行うことができる。
ところで、本実施形態の画像処理装置は、同一シーンを撮影した露光量の異なる複数枚の画像を合成して、高コントラスト画像を作成する機能(高コントラスト画像作成機能)を有している。
以下、この機能について、本実施形態の画像処理装置が行う動作を、図2のフローチャートを参照して説明する。図2のフローチャートの処理は、撮像ユニット20から出力された同一シーンを撮影した露光量の異なる複数枚の画像がバッファメモリ13に記録されているときに、そのバッファメモリ13の複数枚の画像を入力画像(1〜N)に指定して、高コントラスト画像作成機能の実行を指示した場合に呼び出されるものである。
なお、入力画像の指定および当該機能の実行指示は、例えば、ユーザーが、操作部18の入力デバイスを操作して、モニタ17に表示された画像処理メニュー画面(GUI)から、「高コントラスト画像を作成する」という項目を選んで確定することなどによって行うことができる。
また、上記のような同一シーンを撮影した露光量の異なる複数枚の画像は、例えば、露出ブラケット撮影を実施することで取得することができる。その場合、それら複数枚のうちの1枚の画像はAE(自動露出)によって決定された或いはユーザーによって指定された露出条件で撮影されるように、また、それ以外の残りの画像はその露出条件を基準とした異なる露出条件(基準の露出条件±n段)で撮影されるように露出ブラケット撮影を行うとよい。
ステップ101(S101):制御部11は、指定された入力画像(1〜N)のそれぞれについて縮小画像を作成する。例えば、各入力画像の空間方向で、2×2画素或いは4×4画素の画素値の平均をとることなどによって縮小画像を作成する。なお、作成した縮小画像(1〜n)は、バッファメモリ13の入力画像(1〜N)とは別の領域に記録する。
ステップ102:制御部11は、作成した縮小画像(1〜n)のそれぞれについて輝度成分のヒストグラム(輝度ヒストグラム)を作成する。
ステップ103:制御部11は、作成した輝度ヒストグラムをそれぞれ解析し、その解析結果に基づき、入力画像(1〜N)の中から基準画像となる1枚を選定する。
具体的には、先ず、輝度ヒストグラムの作成の基となった縮小画像の全画素数の例えば0.1%となる画素数(i)を求める。なお、その縮小画像の全画素数に対する割合(0.1%など)は、撮像素子の欠陥画素、また、突出的な画素値やノイズ等、画像を構成する画素以外の領域の画素を、演算の対象に入れないようにするために指定する。
次に、作成した輝度ヒストグラムを使用して、例えば、ここでは図3の輝度ヒストグラムの例を用いるとすると、その横軸(輝度)の高輝度側(輝度値「255」)から低輝度側(輝度値「0」)に向けて、輝度ヒストグラムの縦軸(画素数)の値が先に求めた画素数(i)と一致するところまで検索し、一致したところの横軸の値(輝度値)を「max(輝度最大値)」として抽出する。また、続けて、同輝度ヒストグラムの横軸(輝度)の低輝度側(輝度値「0」)から高輝度側(輝度値「255」)に向けて、輝度ヒストグラムの縦軸(画素数)の値が先に求めた画素数(i)と一致するところまで検索し、一致したところの横軸の値(輝度値)を「min(輝度最小値)」として抽出する。
そして、その「max(輝度最大値)」と「min(輝度最小値)」との差が最も大きい輝度ヒストグラムの作成の基となった縮小画像に対応する入力画像(1枚)を基準画像として選定する。
このようにして、入力画像(1〜N)の中から、輝度分布の有効幅の最も広い画像1枚が、基準画像として選定される。
ステップ104:制御部11は、縮小画像の輝度成分の情報を基に、基準画像を基準として他の入力画像(基準画像を除いた残りの1枚以上の入力画像)のそれぞれにつきゲインを算出する。具体的には、下記の(式1)によってゲイン(gain)を算出する。ここで、(式1)のfY(x,y)は基準画像の縮小画像の輝度成分を、hY(x,y)は比較対象とする他の入力画像の縮小画像の輝度成分を、また(x,y)は縮小画像における各画素の座標位置を示している。但し、予め指定された露出条件で撮影するようなブラケット撮影を行う場合にはゲイン算出は不要となる。
Figure 2011109638
なお、(式1)によって算出されるゲイン(gain)の値が1.0よりも小さい場合(gain<1.0)には、その算出対象の「他の入力画像」は、基準画像に対して露出アンダーとなる露出条件で撮影されたものである。また、算出されるゲイン(gain)の値が1.0よりも大きい場合(gain>1.0)には、その算出対象の「他の入力画像」は、基準画像に対して露出オーバーとなる露出条件で撮影されたものである。
ステップ105:制御部11は、算出した各ゲイン(gain)と基準画像の輝度成分の情報とを基に、他の入力画像のぞれぞれに対して重みを算出する。具体的には、下記の(式2)によって、ゲイン(gain)の値に応じた重み(W)を算出する。ここで、(式2)のfY(x,y)は基準画像の輝度成分を示している。また、「min」及び「max」は、上記ステップ103で基準画像を選定した際に、当該基準画像に対応する輝度ヒストグラムから求めた「min(輝度最小値)」及び「max(輝度最大値)」である。この(式2)により、他の入力画像のぞれぞれに対し、基準画像の輝度を基準として、重みを算出する。
Figure 2011109638
なお、(式2)によれば、基準画像に対して露出アンダーとなる露出条件で撮影された「他の入力画像」については、「gain<1.0のとき」の演算により、画像の高輝度部分の重みが大きくなるように重みの算出が行われる(但し、f<minのときには式(2)に拘わらずWは0に設定され、f>maxのときには式(2)に拘わらずWは(−2log(gain))に設定されるものとする。)。これは、高輝度部分については、基準画像よりも露光量が少なくなるように撮影された「他の入力画像」の情報が良好なためである。
また、基準画像に対して露出オーバーとなる露出条件で撮影された「他の入力画像」については、「gain>1.0のとき」の演算により、画像の低輝度部分の重みが大きくなるように重みの算出が行われる(但し、f<minのときには式(2)に拘わらずWは(2log(gain))に設定され、f>maxのときには式(2)に拘わらずWは0に設定されるものとする。)。これは、低輝度部分については、基準画像よりも露光量が多くなるように撮影された「他の入力画像」の情報が良好なためである。
ステップ106:制御部11は、基準画像と他の入力画像とを、下記の(式3)の重み付け合成処理により合成して、高コントラスト画像を作成する。
具体的には、R(r),G(g),B(b)の各色成分毎に、基準画像と他の入力画像と
を上記の算出された重みで重み付け合成することによって高コントラスト画像を作成する。なお、(式3)のgc(x,y)は作成される高コントラスト画像であり、fc(x,y)は「基準画像」、h1c(x,y)〜hn-1c(x,y)は他の入力画像(1〜N−1、つまり、基準画像を除いた残りの1枚以上の入力画像)を示している。そして、W1〜Wn-1は他の入力画像(1〜N−1)のそれぞれに対して上記ステップ105で算出された重み、「1.0」は基準画像に対する重み、「n」は入力画像の枚数(N)、「c」はR(r),G(g),B(b)の各色成分を示している。
Figure 2011109638
このように、本実施形態の画像処理装置では、輝度成分のみに基づいて重みを算出し(上記ステップ105)、それを入力画像のR(r),G(g),B(b)の色成分の全てに適用するようにして重み付け合成処理を行っている(本ステップ106)。そのため、作成される高コントラスト画像には、入力画像個々の色バランスが、そのまま維持された状態で、確実に反映されることとなる。
また、上記とは異なり、入力画像のR(r),G(g),B(b)の色成分の個々につい
て高コントラスト画像を生成する、具体的には上記の輝度成分で処理している箇所を、全て、色成分毎の処理に置き換えるようにすれば、より有効に階調幅を表現できるようになる。
ステップ107:制御部11は、作成した高コントラスト画像を記録媒体16へ記録する。なお、高コントラスト画像は、非圧縮のまま記録するのが好ましい。そして、制御部11は、本フローチャートの処理を終了する。
なお、上記の処理は、特に、図4の輝度ヒストグラムに示すようなコントラストの低い(コントラストのはっきりしない)被写体を撮影して高コントラスト画像を作成する場合に、特に効果を発揮することができる。その場合、露出ステップを例えば1/3段などの小さな刻み幅として露出ブラケット撮影を行い、それによって取得する同一シーンを撮影した露光量の異なる複数枚の画像を入力画像に指定して、上記の処理を行うようにするとよい。
(実施形態の補足事項)
なお、上述した高コントラスト画像の作成に使用する入力画像は、ガンマ補正(ガンマ変換)等が施されていないもの、つまり、画像信号成分が撮像素子から出力された状態のリニア特性の状態のものである必要がある。そのため、ガンマ補正(ガンマ変換)等の画像処理が施された入力画像を用いる場合には、画像信号成分をリニア特性の状態に戻すため、入力画像に対し、一旦、逆ガンマ補正(逆ガンマ変換)を施した後で、上記ステップ101からの処理を行うようにする。
また、上記ステップ107では、作成した高コントラスト画像を記録媒体16へ記録するだけでなく、高コントラスト画像の内容をモニタ17に表示するようにしてもよい。
また、高コントラスト画像を基に、ユーザーが、最終結果となる任意の階調幅の画像を作成することができるようにしてもよい。その場合、ユーザーに、拡張または圧縮後の階調幅を指定させ、その指定された内容で、例えば図5に示すように、高コントラスト画像を基に階調変換を行って、最終結果となる画像を作成するようにする。なお、その場合の階調変換は、例えば、階調変換用のLUT(ルックアップテーブル)を使用したり、ヒストグラム均等化法(HE)による変換式を用いるなど、既存の手法によって行うことが可能である。
また、作成された最終結果の画像は、圧縮/復号部15により圧縮してから記録媒体16へ記録するとよい。また、最終結果の画像の内容をモニタ17に表示するようにしてもよい。
(実施形態の作用効果)
本実施形態の画像処理装置では、入力画像(1〜N)のそれぞれについて縮小画像が作成される。縮小画像は、例えば、各入力画像の空間方向でn×n(n≧2)画素の画素値の平均をとることによって作成される。
次に、各縮小画像の輝度ヒストグラムを解析した結果に基づき、輝度分布の有効幅の最も広い1枚の画像が、入力画像の中から、基準画像として選定される。
また、縮小画像の輝度成分の情報を基に、基準画像を基準にした他の入力画像(基準画像を除いた残りの1枚以上の入力画像)との輝度比率が、ゲインとして、他の入力画像のそれぞれについて算出される。
そして、算出された各ゲインと、基準画像の輝度成分の情報とを基に、他の入力画像のそれぞれに対して適用する重みが算出され、その重みを使用して基準画像と他の入力画像との重み付け合成処理が行われて、合成結果の高コントラスト画像が作成される。
このように、本実施形態の画像処理装置では、入力画像(1〜N)を縮小した「縮小画像」の情報を基にして、基準画像の選定、ゲインの算出、そして重みの算出が行われる。
そのため、合成対象となる入力画像中にノイズの生じた画素が含まれる場合にも、重み付け合成処理によって作成される高コントラスト画像においては、そのノイズ成分が軽減される。また、入力画像中に突出的な画素値を有する画素が含まれる場合にも、重み付け合成処理によって作成される高コントラスト画像においては、階調飛びが生じにくい。
また、本実施形態の画像処理装置では、算出されたゲイン(基準画像を基準とした輝度比率)の値が小さい(gain<1.0)他の入力画像、即ち、基準画像に対して露出アンダーとなる露出条件で撮影された他の入力画像に対しては、画像の高輝度部分の重みが大きくなるように重みの算出が行われる。これは、基準画像よりも露光量が少なくなるように露出アンダーで撮影された他の入力画像は、その高輝度部分の情報が良好なためである。また、算出されたゲインの値が大きい(gain>1.0)他の入力画像、即ち、基準画像に対して露出オーバーとなる露出条件で撮影された他の入力画像に対しては、画像の低輝度部分の重みが大きくなるように重みの算出が行われる。これは、基準画像よりも露光量が多くなるように露出オーバーで撮影された他の入力画像は、その低輝度部分の情報が良好なためである。
そのため、合成対象となる入力画像中に輝度変化の滑らかな構造を持つ部分が含まれる場合にも、重み付け合成処理によって作成される高コントラスト画像においては、階調飛びが生じにくい。
また、本実施形態の画像処理装置では、入力画像(1〜N)のうち、輝度分布の有効幅の最も広い1枚の画像が基準画像として選定され、その基準画像に基づきゲイン算出及び重み算出が行われる。そして、算出されたその重みを使用して、基準画像と他の入力画像との重み付け合成処理が行われて、高コントラスト画像が作成される。
このように、本実施形態の画像処理装置では、輝度分布の有効幅の最も広い基準画像をベースにして上記の合成処理が行われるので、合成によって高コントラスト画像に生じるノイズ、また階調飛びを、従来よりも減少させることができる。
よって、本実施形態の画像処理装置によれば、良好な画質の高コントラスト画像を得ることができる。
(その他)
本発明は、露出ブラケット撮影が可能な他の機器、例えば、デジタルカメラ(デジタルスチルカメラ)やデジタルビデオカメラ、携帯電話機などにも適用することができる。さらに、本発明は、撮像素子を用いて取得した画像により被写体の観察を行うことが可能な顕微鏡などにも適用することができる。
10…画像処理装置(本体),11…制御部,12…撮像ユニット収容部,13…バッファメモリ,14…データ処理部,15…圧縮/復号部,16…記録媒体,17…モニタ,18…操作部,19…システムバス,20…撮像ユニット

Claims (9)

  1. 同一シーンを撮影した露光量の異なる複数枚の画像を合成して、ダイナミックレンジを拡大させた階調幅の広い合成画像(高コントラスト画像)を生成する画像処理装置であって、
    前記複数枚の画像の輝度成分の情報に基づき基準画像を選定する選定手段と、
    前記複数枚の画像の輝度成分の情報に基づき、前記複数枚のうちの前記基準画像を除いた残りの画像について、前記基準画像を基準にした前記残りの画像との輝度比率をゲインとして算出するゲイン算出手段と、
    前記算出されたゲインと、前記基準画像の輝度成分の情報とに基づき、前記残りの画像に対して適用する重みを算出する重み算出手段と、
    前記算出された重みを使用して前記基準画像と前記残りの画像との重み付け合成処理を行うことにより前記高コントラスト画像を生成する生成手段と
    を備えることを特徴とする画像処理装置。
  2. 請求項1に記載の画像処理装置において、
    前記選定手段は、前記複数枚の画像をそれぞれ縮小した縮小画像の輝度成分の情報に基づき、輝度分布の有効幅が最も広い1枚の画像を、前記複数枚の中から前記基準画像として選定する
    ことを特徴とする画像処理装置。
  3. 請求項1または請求項2に記載の画像処理装置において、
    前記ゲイン算出手段は、前記複数枚の画像をそれぞれ縮小した縮小画像の輝度成分の情報に基づき、前記残りの画像について、前記基準画像を基準にした前記残りの画像との輝度比率をゲインとして算出する
    ことを特徴とする画像処理装置。
  4. 請求項1ないし請求項3の何れか一項に記載の画像処理装置において、
    前記重み算出手段は、
    前記算出されたゲインの値が所定の値よりも小さい前記残りの画像に対しては、該画像の高輝度部分の重みが大きくなるように重みの算出を行い、
    前記算出されたゲインの値が所定の値よりも大きい前記残りの画像に対しては、該画像の低輝度部分の重みが大きくなるように重みの算出を行う
    ことを特徴とする画像処理装置。
  5. 請求項1ないし請求項4の何れか一項に記載の画像処理装置において、
    前記複数枚の画像は、画像信号成分がリニア特性の状態にある画像であり、
    前記複数枚のうちの1枚の画像は自動露出(AE)によって決定された又はユーザーによって指定された露出条件で撮影され、それを除いた残りの画像は、前記露出条件を基準とした異なる露出条件で撮影されたものである
    ことを特徴とする画像処理装置。
  6. 同一シーンを撮影した露光量の異なる複数枚の画像を合成して、ダイナミックレンジを拡大させた階調幅が広い合成画像(高コントラスト画像)を生成する画像処理方法であって、
    前記複数枚の画像の輝度成分の情報に基づき基準画像を選定する選定手順と、
    前記複数枚の画像の輝度成分の情報に基づき、前記複数枚のうちの前記基準画像を除いた残りの画像について、前記基準画像を基準にした前記残りの画像との輝度比率をゲインとして算出するゲイン算出手順と、
    前記算出されたゲインと、前記基準画像の輝度成分の情報とに基づき、前記残りの画像に対して適用する重みを算出する重み算出手順と、
    前記算出された重みを使用して前記基準画像と前記残りの画像との重み付け合成処理を行うことにより前記高コントラスト画像を生成する生成手順と
    を備えることを特徴とする画像処理方法。
  7. 請求項6に記載の画像処理方法において、
    前記選定手順は、前記複数枚の画像をそれぞれ縮小した縮小画像の輝度成分の情報に基づき、輝度分布の有効幅が最も広い1枚の画像を、前記複数枚の中から前記基準画像として選定する
    ことを特徴とする画像処理方法。
  8. 請求項6または請求項7に記載の画像処理方法において、
    前記ゲイン算出手順は、前記複数枚の画像をそれぞれ縮小した縮小画像の輝度成分の情報に基づき、前記残りの画像について、前記基準画像を基準にした前記残りの画像との輝度比率をゲインとして算出する
    ことを特徴とする画像処理方法。
  9. 請求項6ないし請求項8の何れか一項に記載の画像処理方法において、
    前記重み算出手順は、
    前記算出されたゲインの値が所定の値よりも小さい前記残りの画像に対しては、該画像の高輝度部分の重みが大きくなるように重みの算出を行い、
    前記算出されたゲインの値が所定の値よりも大きい前記残りの画像に対しては、該画像の低輝度部分の重みが大きくなるように重みの算出を行う
    ことを特徴とする画像処理方法。
JP2010145052A 2009-10-20 2010-06-25 画像処理装置、画像処理方法 Active JP5408053B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2010145052A JP5408053B2 (ja) 2009-10-20 2010-06-25 画像処理装置、画像処理方法
US12/901,062 US8379102B2 (en) 2009-10-20 2010-10-08 Image processing apparatus and image processing method for generating high dynamic range images
CN201010516385.9A CN102045506B (zh) 2009-10-20 2010-10-20 图像处理装置及图像处理方法

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2009241558 2009-10-20
JP2009241558 2009-10-20
JP2010145052A JP5408053B2 (ja) 2009-10-20 2010-06-25 画像処理装置、画像処理方法

Publications (2)

Publication Number Publication Date
JP2011109638A true JP2011109638A (ja) 2011-06-02
JP5408053B2 JP5408053B2 (ja) 2014-02-05

Family

ID=43879011

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010145052A Active JP5408053B2 (ja) 2009-10-20 2010-06-25 画像処理装置、画像処理方法

Country Status (3)

Country Link
US (1) US8379102B2 (ja)
JP (1) JP5408053B2 (ja)
CN (1) CN102045506B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112243091A (zh) * 2020-10-16 2021-01-19 微创(上海)医疗机器人有限公司 三维内窥镜系统、控制方法和存储介质

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI437878B (zh) * 2007-11-20 2014-05-11 Quanta Comp Inc 用以校正影像訊號中壞點之方法及電路
JP5672796B2 (ja) * 2010-01-13 2015-02-18 株式会社ニコン 画像処理装置、画像処理方法
TWI444753B (zh) * 2010-11-16 2014-07-11 Altek Corp 影像擷取裝置及其曝光時間調整方法
JP5762756B2 (ja) * 2011-01-20 2015-08-12 オリンパス株式会社 画像処理装置、画像処理方法、画像処理プログラム、および撮影装置
CN102843506A (zh) * 2011-06-24 2012-12-26 瑞轩科技股份有限公司 摄影系统及其影像拍摄与合成方法
JP6082274B2 (ja) * 2012-06-08 2017-02-15 キヤノン株式会社 撮像装置、及びその制御方法
TW201439982A (zh) * 2013-04-03 2014-10-16 Ind Tech Res Inst 全周影像感測系統與感測方法
JP6214206B2 (ja) * 2013-05-13 2017-10-18 キヤノン株式会社 撮像装置、制御方法及びプログラム
JP6593675B2 (ja) * 2014-02-28 2019-10-23 パナソニックIpマネジメント株式会社 画像処理装置及び画像処理方法
KR102247564B1 (ko) * 2014-11-13 2021-05-03 삼성전자 주식회사 화소 처리 장치, 이를 포함하는 이미지 신호 처리 장치, 및 이를 포함하는 이미지 처리 시스템
CN104902168B (zh) * 2015-05-08 2018-04-03 梅瑜杰 一种图像合成方法、装置及拍摄设备
CN106339994B (zh) * 2016-08-29 2019-05-21 合肥康胜达智能科技有限公司 一种图像增强方法
CN107241555A (zh) * 2017-07-11 2017-10-10 深圳Tcl数字技术有限公司 合成图像的亮度调整方法、装置、电视及存储介质
CN110349163B (zh) * 2019-07-19 2021-06-25 Oppo广东移动通信有限公司 图像处理方法和装置、电子设备、计算机可读存储介质
CN111369533B (zh) * 2020-03-05 2023-06-06 中国铁道科学研究院集团有限公司基础设施检测研究所 基于偏振图像融合的钢轨廓形检测方法及装置

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11155108A (ja) * 1997-11-21 1999-06-08 Matsushita Electric Ind Co Ltd 映像信号処理装置と処理方法、それを用いたビデオカメラ

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
IL87306A0 (en) * 1988-08-02 1989-01-31 Technion Res & Dev Foundation Wide dynamic range camera
US5828793A (en) * 1996-05-06 1998-10-27 Massachusetts Institute Of Technology Method and apparatus for producing digital images having extended dynamic ranges
TW469733B (en) * 2000-01-07 2001-12-21 Dynacolor Inc Method of dynamically modulating image brightness and image catching device using the method
JP2002305684A (ja) 2001-01-31 2002-10-18 Olympus Optical Co Ltd 撮像システム及びプログラム
US7142723B2 (en) * 2003-07-18 2006-11-28 Microsoft Corporation System and process for generating high dynamic range images from multiple exposures of a moving scene
JP4218723B2 (ja) * 2006-10-19 2009-02-04 ソニー株式会社 画像処理装置、撮像装置、画像処理方法およびプログラム
JP4127411B1 (ja) * 2007-04-13 2008-07-30 キヤノン株式会社 画像処理装置及び方法

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11155108A (ja) * 1997-11-21 1999-06-08 Matsushita Electric Ind Co Ltd 映像信号処理装置と処理方法、それを用いたビデオカメラ

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112243091A (zh) * 2020-10-16 2021-01-19 微创(上海)医疗机器人有限公司 三维内窥镜系统、控制方法和存储介质
CN112243091B (zh) * 2020-10-16 2022-12-16 上海微创医疗机器人(集团)股份有限公司 三维内窥镜系统、控制方法和存储介质

Also Published As

Publication number Publication date
US8379102B2 (en) 2013-02-19
US20110090372A1 (en) 2011-04-21
CN102045506B (zh) 2014-11-26
CN102045506A (zh) 2011-05-04
JP5408053B2 (ja) 2014-02-05

Similar Documents

Publication Publication Date Title
JP5408053B2 (ja) 画像処理装置、画像処理方法
JP5672796B2 (ja) 画像処理装置、画像処理方法
JP5713752B2 (ja) 画像処理装置、及びその制御方法
JP4524717B2 (ja) 画像処理装置、撮像装置、画像処理方法及びプログラム
KR101352440B1 (ko) 화상처리장치, 화상처리방법, 및 기록매체
JP2017011327A (ja) 画像処理装置、画像処理方法及びプログラム
JP6887853B2 (ja) 撮像装置、その制御方法、プログラム
WO2019124289A1 (ja) 装置、制御方法および記憶媒体
WO2012070440A1 (ja) 画像処理装置、画像処理方法、および、画像処理プログラム
JP2019176305A (ja) 撮像装置およびその制御方法、並びにプログラム
JP2019047336A (ja) 画像処理装置、撮像装置、画像処理方法、及びプログラム
JP2008294524A (ja) 画像処理装置および画像処理方法
JP5423201B2 (ja) 画像処理装置、画像処理プログラム
JP7446827B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP2008219230A (ja) 撮像装置及び画像処理方法
JP2007306083A (ja) 撮像装置および信号処理装置
JP2015080157A (ja) 画像処理装置、画像処理方法及びプログラム
JP2018181070A (ja) 画像処理装置および画像処理方法
JP2007020087A (ja) 撮像装置及び撮像方法
JP6157274B2 (ja) 撮像装置、情報処理方法及びプログラム
JP6223173B2 (ja) 画像処理装置、その制御方法およびプログラム
JP2012044377A (ja) 画像合成装置、画像合成方法、及びプログラム
JP2017068513A (ja) 画像処理装置及びその方法、プログラム、記憶媒体
JP6025555B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2014236226A (ja) 画像処理装置および画像処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120525

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130611

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130709

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130909

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131008

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131021

R150 Certificate of patent or registration of utility model

Ref document number: 5408053

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250