JP6648914B2 - 画像処理装置、画像処理方法及びプログラム - Google Patents

画像処理装置、画像処理方法及びプログラム Download PDF

Info

Publication number
JP6648914B2
JP6648914B2 JP2015121363A JP2015121363A JP6648914B2 JP 6648914 B2 JP6648914 B2 JP 6648914B2 JP 2015121363 A JP2015121363 A JP 2015121363A JP 2015121363 A JP2015121363 A JP 2015121363A JP 6648914 B2 JP6648914 B2 JP 6648914B2
Authority
JP
Japan
Prior art keywords
image
images
gain
processing
distortion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015121363A
Other languages
English (en)
Other versions
JP2017011327A (ja
Inventor
木村 直人
直人 木村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2015121363A priority Critical patent/JP6648914B2/ja
Priority to US15/181,922 priority patent/US10043253B2/en
Publication of JP2017011327A publication Critical patent/JP2017011327A/ja
Application granted granted Critical
Publication of JP6648914B2 publication Critical patent/JP6648914B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/94Dynamic range modification of images or parts thereof based on local image properties, e.g. for local contrast enhancement
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10144Varying exposure
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20208High dynamic range [HDR] image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Studio Devices (AREA)

Description

本発明は、特に、ダイナミックレンジを拡大した画像を生成するために用いて好適な画像処理装置、画像処理方法及びプログラムに関する。
従来、露出の異なる複数枚の画像を位置合わせして合成することにより、ダイナミックレンジが拡大された画像を実現するHDR(ハイダイナミックレンジ)技術が知られている。ところがHDR技術では、露出の異なる画像を合成する際に、画面の明るさが異なることによって生じうるトーンジャンプが目立たないように合成する必要があった。そこで従来は、露出の異なる画像をトーンカーブにより階調圧縮しつつ明るさを合わせて画像合成を行うことによって、トーンジャンプが目立ちにくい、ダイナミックレンジが拡大された画像を生成していた。しかしながら、トーンカーブによって階調圧縮と明るさ合わせと行うと、コントラストが低下してしまう問題があった。
このような問題に対し、例えば、特許文献1及び2に記載の方法では、高コントラストなHDR画像を生成するために、異なる露出の画像を合成した後、合成後の輝度分布の画像からゲイン特性を決定して階調処理を行う技術が開示されている。
特開2012−29029号公報 特開2010−98616号公報
しかしながら、上述の特許文献1及び2に開示された従来技術では、合成後の画像に再度、ゲイン処理等で階調処理を行うため、ノイズ量が増大してしまうという問題がある。そこで、ノイズ量の増大を抑制するために、合成後にノイズリダクション処理を行うことが考えられる。しかしながら、複数枚の画像を位置合わせするために画像変形を行うことにより、画面内で変形量に応じた帯域劣化が発生する問題がある。そのため、位置合わせして合成した画像に対し、ノイズリダクション処理及びエッジ強調処理を最適に行うのは困難であるという問題がある。
本発明は前述の問題点に鑑み、高コントラストで、かつ良好な画質のHDR画像を生成できるようにすることを目的としている。
本発明に係る画像処理装置は、互いに露出の異なる複数の画像を入力する入力手段と、前記入力手段により入力された複数の画像に係るゲイン情報をそれぞれ生成する生成手段と、前記生成手段により生成されたゲイン情報に基づいて、前記複数の画像に対してそれぞれゲイン処理を行うゲイン処理手段と、前記ゲイン処理手段によってゲイン処理された複数の画像に対して、それぞれ現像処理を行う現像処理手段と、前記現像処理手段によって現像処理された複数の画像を合成してHDR画像を得る合成手段と、前記現像処理手段によって現像処理された複数の画像の間で位置合わせを行う位置合わせ手段と、を備え、前記合成手段は、前記位置合わせ手段によって位置合わせが行われた複数の画像を合成して前記HDR画像を得ることを特徴とする。
本発明によれば、高コントラストで、かつ良好な画質のHDR画像を生成することができる。
実施形態に係る画像処理装置の構成例を示すブロック図である。 画像処理部内におけるアンダー露出画像を処理するための機能構成例を示すブロック図である。 画像処理部内における適正露出画像を処理するための機能構成例を示すブロック図である。 画像処理部内におけるHDR画像を生成するための機能構成例を示すブロック図である。 ゲインMAP変形部の詳細な構成例を示すブロック図である。 位置合わせ処理部の詳細な構成例を示すブロック図である。 アンダー露出画像に対する画像処理手順の一例を示すフローチャートである。 適正露出画像に対する画像処理手順の一例を示すフローチャートである。 HDR画像を生成する処理手順の一例を示すフローチャートである。 ゲインMAP変形部による詳細な処理手順の一例を示すフローチャートである。 位置合わせ処理部による詳細な処理手順の一例を示すフローチャートである。 合成用αマップの一例を示す図である。 ゲインテーブル及び座標毎のゲインを説明するための図である。 露出の異なる2枚の画像からHDRを生成する例を説明するための図である。 被写体に対して2枚の画像を撮影した例を示す図である。 歪曲収差補正及び射影変換を説明するための図である。
以下に、本発明の好ましい実施形態について、添付の図面に基づいて詳細に説明する。本実施形態では、図14に示すように、適正露出で撮影された適正露出画像と適正露出よりもアンダーな露出で撮影されたアンダー露出画像との2枚の画像を用いてダイナミックレンジの広いHDR画像を生成する処理について説明する。
図1は、本実施形態に係る画像処理装置100の構成例を示すブロック図である。
図1において、光学系101は、ズームレンズやフォーカスレンズから構成されるレンズ群、絞り調整装置、及びシャッター装置を備えている。この光学系101は、撮像部102に到達する被写体像の倍率やピント位置、あるいは、光量を調整している。撮像部102は、光学系101を通過した被写体の光束を光電変換して電気信号に変換するCCDやCMOSセンサー等の光電変換素子である。A/D変換部103は、入力された映像信号をデジタルの画像データに変換する。
画像処理部104は、通常の信号処理の他に、本実施形態におけるHDR合成処理を行う。HDR合成処理の詳細については後述する。画像処理部104は、A/D変換部103から出力された画像データのみでなく、記録部110から読み出した画像データに対しても同様の画像処理を行うことができる。なお、画像処理部104の詳細な構成については後述する。
露光量算出部105は、階調処理を行って最適な入力画像を得るために、撮影時の露光量を算出する部分である。露光量を算出する際には、画像処理部104の処理結果を入力して露光量を算出し、露光量制御部106に出力する。露光量制御部106は、露光量算出部105によって算出された露光量を実現するために、光学系101と撮像部102とを制御して、絞り、シャッタースピード、及びセンサーのアナログゲインを制御する。
システム制御部107は、CPU、ROM及びRAMを備えており、本実施形態に係る画像処理装置100全体の動作を制御、統括する制御機能部である。また、システム制御部107は、画像処理部104で処理された画像データから得られる輝度値や操作部108から入力された指示に基づいて、光学系101や撮像部102の駆動制御も行う。さらにシステム制御部107は、表示部109に画像等を表示する表示制御を行ったり、処理後の画像データを圧縮して記録部110に記録する制御を行ったりする。
表示部109は、液晶ディスプレイや有機EL(Electro Luminescence)ディスプレイで構成され、撮像部102で生成された画像データや、記録部110から読み出した画像データに係る画像を表示する。記録部110は、画像データを記録する機能を有し、例えば、半導体メモリが搭載されたメモリカードや光磁気ディスク等の回転記録体を収容したパッケージなどを用いた情報記録媒体を含んでもよく、この情報記録媒体を着脱可能にしてもよい。バス111は、画像処理部104、システム制御部107、表示部109、及び記録部110の間でデータのやり取りを行うために用いられる。
次に、画像処理部104内の処理の説明について詳細に説明する。本実施形態の画像処理部104が行うHDR合成処理は、撮影されたアンダー露出画像に対する処理、撮影された適正露出画像に対する処理、及びこれらの2枚の画像からHDR画像を生成する処理の3つに分けられる。
まず、画像処理部104における処理のうち、撮影されたアンダー露出画像に対する処理に関わる部分について説明を行う。
図2は、画像処理部104内におけるアンダー露出画像を処理するための機能構成例を示すブロック図である。処理の概要としては、撮影されたアンダー露出画像におけるゲイン情報としてゲインマップを生成し、ゲインマップを用いてゲイン処理を行った後、現像処理を行うことにより、アンダー露出の出力画像を生成する。
図2に示すように、撮影されたアンダー露出画像に対する処理を行うための構成として、階調特性算出部201、ゲインMAP生成部202、ゲインMAP記録部203、ゲイン処理部204、及び現像処理部205を備えている。以下、これらの各構成が行う処理について、図7のフローチャートを参照しながら説明する。
図7は、アンダー露出画像に対する画像処理手順の一例を示すフローチャートである。
まず、撮像部102から得られたアンダー露出画像が画像処理部104に入力されると処理を開始し、ステップS701において、階調特性算出部201は、ゲインマップを生成するために必要な情報である階調特性を算出する。本実施形態における階調特性は、図13(a)に示すように、横軸が入力信号で、縦軸がゲイン信号を表すゲインテーブルとする。ゲインテーブルの算出方法は、被写体情報を用いて算出する公知の技術や、予め決められた階調特性をそのままゲインテーブルとして読み出す等、方法は限定しない。
続いてステップS702において、ゲインMAP生成部202は、ステップS701において算出された階調特性と、入力されたアンダー露出画像とを用いて、ゲインマップを生成する。ここで、ゲインマップとは、図13(b)に示すように座標(x,y)に対応するゲインGain(x,y)を画像サイズ分示したものである。なお、図13(b)において、Wは画像の水平画素数を示し、Hは画像の垂直画素数を示している。ゲインマップの生成方法としては、解像度の異なる画像を用いる処理や、Retinex処理等の周波数帯域の異なる画像を用いた生成方法を用いる。なお、本実施形態では、ゲイン情報として、画像内の各座標とゲインとの関係をマップ化したゲインマップを生成しているが、画像内の各座標とゲインとの関係を示すゲイン情報であれば、マップ化されていなくてもよい。
次に、ステップS703において、ゲインMAP生成部202は、ステップS702において生成されたゲインマップをゲインMAP記録部203に記録する。記録したゲインマップは後に、適正露出画像に対する処理と、HDR画像を生成する処理とで用いられる。
次に、ステップS704において、ゲイン処理部204は、ステップS702において生成されたゲインマップを元に、入力されたアンダー露出画像に対してゲイン処理を行う。座標(x,y)のゲイン処理前のアンダー露出画像の入力信号をin(x,y)、ゲインマップによるゲイン値をGain(x,y)とすると、ゲイン処理後のアンダー露出画像の出力信号out(x,y)は、以下の式(1)により算出される。
次にステップS705において、現像処理部205は、ステップS704においてゲイン処理された画像に対し、ノイズリダクション処理、エッジ強調処理、ガンマ処理等を含めた現像処理を行う。この現像処理においては、ステップS701で算出した階調特性やステップS702で生成したゲインマップに応じて、ノイズリダクション処理やエッジ強調処理のパラメータを変更してもよい。
次に、画像処理部104における処理のうち、撮影された適正露出画像に対する処理に関わる部分について説明を行う。
図3は、画像処理部104内における適正露出画像を処理するための機能構成例を示すブロック図である。処理の概要としてンダー露出画像の処理と大きく異なる部分は、ゲインマップを新たに生成せずに、アンダー露出画像の処理で生成したゲインマップを読み出し、変形、変換したゲインマップをゲイン処理に適用する点である。
図3に示すように、撮影された適正露出画像に対する処理を行うための構成として、ゲインMAP記録部301、ゲインMAP変形部302、ゲインMAP変換部303、ゲイン処理部304、及び現像処理部305を備えている。なお、ゲインMAP記録部301は、図2のゲインMAP記録部203と同じ構成である。以下、これらの各構成が行う処理について、図8のフローチャートを参照しながら説明する。
図8は、適正露出画像に対する画像処理手順の一例を示すフローチャートである。
まず、撮像部102から得られた適正露出画像が画像処理部104に入力されると処理を開始し、ステップS801において、ゲインMAP変形部302は、アンダー露出画像を元に生成したゲインマップをゲインMAP記録部301から読み出す。
続いてステップS802において、ステップS801で読み出したゲインマップがアンダー露出画像の位置に対応しているため、ゲインMAP変形部302は、適正露出画像の位置に対応させるように、ゲインマップを変形させる処理を行う。ここで、適正露出画像の位置とは画像上の座標を指しており、アンダー露出画像と適正露出画像とで撮影時間が異なり、手振れの影響等により位置がずれてしまうため、位置を対応させる処理を行う必要がある。ステップS802に対応するゲインMAP変形部302の詳細な処理については後述する。
次に、ステップS803において、ゲインMAP変換部303は、ステップS802において適正露出画像の位置に対応させるように変形させたゲインマップのゲイン値を、アンダー露出画像向けから適正露出画像向けに変換する処理を行う。ここで、座標(x,y)における変形後のゲインマップの値をGain_in(x,y)とし、変換後のゲインマップの値をGain_out(x,y)とする。また、アンダー露出画像に対する適正露出の露出段差をΔevとすると、ゲインマップの変換は以下の式(2)により行われる。
次に、ステップS804において、ゲイン処理部304は、ステップS803において変換されたゲインマップを元に、適正露出画像に対しゲイン処理を行う。ゲイン処理の内容は、前述のステップS704と同様であるため、詳細な説明は省略する。
そして、ステップS805において、現像処理部305は、ステップS804においてゲイン処理された画像に対し、ノイズリダクション処理、エッジ強調処理、ガンマ処理等を含めた現像処理を行う。現像処理の内容は前述のステップS705と同様であるため、詳細な説明は省略する。
次に、ステップS802におけるゲインMAP変形部302の詳細な処理内容について説明を行う。前述したように、ゲインMAP変形部302は、アンダー露出画像の位置に対応しているゲインマップから適正露出画像の位置に対応させるようにゲインマップを変形させる処理を行う。
図15は、被写体に対して2枚の画像を撮影した例を示す図である。また、図16(a)は、第1の撮影をアンダー露出画像の撮影とし、第2の撮影を適正露出画像とした場合の2枚の撮影画像を示す図である。
図16(a)に示すそれぞれの撮影画像は、図16(b)に示すように、レンズの歪曲収差を含んだ状態で撮影されている。そのため、第1の撮影で得られたアンダー露出画像と、第2の撮影で得られた適正露出画像との位置を合わせるには、図16(c)に示すように歪曲収差を補正し、その後、図16(d)に示すように、射影変換を用いて変形する必要がある。
また、本実施形態におけるアンダー露出画像及び適正露出画像に対する歪曲収差補正は、詳細は後述するが、ゲイン処理かつ現像処理後に行うため、ゲイン処理の時点では歪曲収差を含んだ画像が用いられている。そのため、適正露出画像の位置に対応させるようにゲインマップを変形させるためには、アンダー露出画像の位置に対応する歪曲収差補正を行った後に射影変換し、さらに適正露出画像の位置に対応する歪曲収差を加える必要がある。なお、歪曲収差補正や射影変換を現像処理後に行う理由としては、画像変形によって帯域むらが生じると、ノイズリダクション処理やエッジ強調処理を最適に行うことができないためである。
図5は、ゲインMAP変形部302の詳細な構成例を示すブロック図である。
図5に示すように、ゲインMAP変形部302は、歪曲収差判定部501、歪曲収差補正部502、射影変換部503、及び歪曲収差付加部504を備えている。以下、図10のフローチャートを参照しながらゲインMAP変形部302の処理について説眼する。
図10は、ステップS802におけるゲインMAP変形部302による詳細な処理手順の一例を示すフローチャートである。
まず、ステップS1001において、歪曲収差判定部501は、レンズ情報等を入力し、歪曲収差補正が必要か否かを判定する。この判定の結果、歪曲収差補正が必要な場合はステップS1002へ進み、歪曲収差補正が不要な場合はステップS1003へ進む。
ステップS1002においては、歪曲収差補正部502は、入力されたゲインマップに対し、歪曲収差補正処理を行う。歪曲収差の補正方法は、光学中心の座標からの像高に応じた補正量のテーブルを元に、座標移動を行うことにより補正する等、公知の方法を用いる。このとき、光学中心の座標はアンダー露出画像の撮影時の光学中心の座標を指すものとする。
次にステップS1003において、射影変換部503は、ステップS1002において歪曲収差が補正されたゲインマップ、もしくは入力されたゲインマップに対して、適正露出画像の位置に合わせるために、射影変換を行う。射影変換では、以下の式(3)の様な一般的な式を用いる。ここで、射影変換係数a0〜a7は、移動ベクトルの検出結果を用いた最小二乗法や、ジャイロセンサー情報等を用いて算出するものとする。なお、位置合わせの方法として射影変換に限らず、アフィン変換や台形変換等を用いてもよい。
次に、ステップS1004において、歪曲収差付加部504は、レンズ情報等を入力し、歪曲収差の付加が必要か否かを判定する。この判定の結果、歪曲収差の付加が必要な場合はステップS1005へ進み、歪曲収差の付加が不要な場合はゲインMAP変形部302の処理を終了する。この判定では、ステップS1001で歪曲収差の補正が必要と判定したか否かによって歪曲収差の付加が必要か否かを判定する。
ステップS1005においては、歪曲収差付加部504は、ステップS1003において適正露出画像の位置に合わせたゲインマップに対し、歪曲収差補正前の適正露出画像の位置に合わせるために、歪曲収差を付加する。歪曲収差の付加の方法は、光学中心の座標からの像高に応じた補正量のテーブルを元に、歪曲収差補正後の座標から歪曲収差補正前の座標に変換するといった方法を用いる。歪曲収差を付加する際の前記光学中心の座標は、適正露出画像撮影時の光学中心の座標を指すものとする。
以上の処理を行うことにより、アンダー露出画像の位置に対応しているゲインマップから適正露出画像の位置に対応させるようにゲインマップを変形させることができる。
次に、画像処理部104における処理のうち、現像処理後のアンダー露出画像と適正露出画像とからHDR画像を生成する処理に関わる部分について、説明を行う。
図4は、画像処理部104内におけるHDR画像を生成するための機能構成例を示すブロック図である。処理の概要としては、現像処理後のアンダー露出画像と適正露出画像との間で位置合わせを行うとともに、記録されているゲインマップを元に、αマップと呼ばれる合成比率を示したマップを生成する。そして、位置合わせ済のアンダー露出画像と適正露出画像とをαマップに応じて合成することにより、最終出力であるHDR画像を生成する。
図4に示すように、HDR画像を生成する処理を行うための構成として、ゲインMAP記録部401、位置合わせ処理部402、合成用αMAP生成部403、及び合成処理部404を備えている。なお、ゲインMAP記録部401は、図2のゲインMAP記録部203と同じ構成である。以下、これらの各構成が行う処理について、図9のフローチャートを参照しながら説明する。
図9は、HDR画像を生成する処理手順の一例を示すフローチャートである。
まず、現像処理後のアンダー露出画像及び適正露出画像が画像処理部104に入力されると処理を開始し、ステップS901において、位置合わせ処理部402は、アンダー露出画像を元に生成したゲインマップをゲインMAP記録部401から読み出す。
続いてステップS902において、位置合わせ処理部402は、入力されたアンダー露出画像、適正露出画像、及びゲインマップの位置合わせを行う。なお、この処理の詳細については後述する。
次に、ステップS903において、合成用αMAP生成部403は、ステップS902において位置合わせを行ったゲインマップを元に、アンダー露出画像と適正露出画像との合成比率を示すαマップを生成する。ここで、アンダー露出画像と適正露出画像との合成比率の関係について、図12を用いて説明する。
図12において、縦軸は合成比率を示し、横軸はゲインを示している。なお、横軸のゲインとは、アンダー露出画像にかけるゲイン、つまりゲインマップの値である。アンダー露出画像におけるゲインが大きければ大きい程、ノイズが画質に影響するため、適正露出画像の合成比率を高くする。反対に、アンダー露出画像におけるゲインが小さければ小さい程、適正露出画像では飽和している可能性が高いため、アンダー露出画像の合成比率を高くする。本実施形態では、アンダー露出画像の合成比率の値をαとし、ゲインマップの値に応じてαの値に変換することにより、例えば図12に示すような合成用αマップを生成する。
ステップS904においては、合成処理部404は、ステップS903において生成された合成用αマップを元に、ステップS902において位置合わせを行ったアンダー露出画像と適正露出画像とを合成し、最終出力のHDR画像を生成する。この処理では、座標(x,y)のアンダー露出画像の画素値をpix_u(x,y)とし、適正露出画像の画素値をpix_t(x,y)とし、αマップの値をα(x,y)とする。この場合、合成後のHDR画像の画素値pix_hdr(x,y)は、以下の式(4)により算出することができる。但し、0≦α(x,y)≦1とする。
以上の処理を行うことにより、現像処理後のアンダー露出画像と適正露出画像とからHDR画像を生成することができる。
次に、ステップS902における位置合わせ処理部402の詳細な処理内容について説明を行う。この処理では、位置合わせ処理部402は、入力されたアンダー露出画像、適正露出画像、及びゲインマップをアンダー露出画像の位置に合わせる処理を行う。
図6は、位置合わせ処理部402の詳細な構成例を示すブロック図である。
図6に示すように、位置合わせ処理部402は、歪曲収差判定部601、歪曲収差補正部602、及び射影変換部603を備えている。以下、図11のフローチャートを参照しながら、位置合わせ処理部402の処理について説明する。
図11は、ステップS902における位置合わせ処理部402による詳細な処理手順の一例を示すフローチャートである。
まず、ステップS1101において、歪曲収差判定部601は、レンズ情報等を入力し、歪曲収差補正が必要か否かを判定する。この判定の結果、歪曲収差補正が必要な場合はステップS1102へ進み、歪曲収差補正が不要な場合はステップS1103へ進む。
次に、ステップS1102において、歪曲収差補正部602は、入力されたアンダー露出画像、適正露出画像、及びゲインマップに対して歪曲収差補正を行う。歪曲収差の補正方法は、前述のステップS1002と同様であるため、説明は省略する。
次に、ステップS1103において、射影変換部603は、適正露出画像に対し、アンダー露出画像の位置に合わせるために射影変換を行う。射影変換の方法は、前述のステップS1003と同様であるため、説明は省略する。なお、位置合わせの方法として射影変換に限らず、アフィン変換や台形変換等を用いてもよい。以上のような手順により、入力されたアンダー露出画像、適正露出画像、及びゲインマップの位置合わせを行うことができる。
以上のように本実施形態によれば、画像変形を行って合成する前にゲイン処理を行うため、変形や合成による帯域を発生させないまま現像処理を行うことができる。このため、高コントラストでかつ高画質のHDR画像を生成することができる。なお、本実施形態では、1枚のアンダー露出画像と1枚の適正露出画像とを合成してHDR画像を生成する例について説明したが、さらにオーバー露出画像を合成してHDR画像を生成してもよい。この場合、オーバー露出画像については適正露出画像と同様の処理を行うことによって実現することができる。
(その他の実施形態)
本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
104 画像処理部
107 システム制御部

Claims (14)

  1. 互いに露出の異なる複数の画像を入力する入力手段と、
    前記入力手段により入力された複数の画像に係るゲイン情報をそれぞれ生成する生成手段と、
    前記生成手段により生成されたゲイン情報に基づいて、前記複数の画像に対してそれぞれゲイン処理を行うゲイン処理手段と、
    前記ゲイン処理手段によってゲイン処理された複数の画像に対して、それぞれ現像処理を行う現像処理手段と、
    前記現像処理手段によって現像処理された複数の画像を合成してHDR画像を得る合成手段と、
    前記現像処理手段によって現像処理された複数の画像の間で位置合わせを行う位置合わせ手段と、
    を備え
    前記合成手段は、前記位置合わせ手段によって位置合わせが行われた複数の画像を合成して前記HDR画像を得ることを特徴とする画像処理装置。
  2. 前記位置合わせ手段は、前記現像処理手段によって現像処理された複数の画像に対して歪曲収差を補正した後に位置合わせを行うことを特徴とする請求項に記載の画像処理装置。
  3. 前記位置合わせ手段は、レンズ情報に基づいて前記複数の画像の歪曲収差を補正するか否かを判定し、補正すると判定した場合に前記複数の画像に対して歪曲収差を補正することを特徴とする請求項に記載の画像処理装置。
  4. 前記生成手段は、前記複数の画像の中の1枚の画像に係るゲイン情報を生成し、前記生成したゲイン情報に基づいて前記複数の画像の中の残りの画像に係るゲイン情報を生成することを特徴とする請求項1〜の何れか1項に記載の画像処理装置。
  5. 前記生成手段は、前記複数の画像の中の1枚の画像に係るゲイン情報を、解像度または周波数帯域の異なる画像を用いて生成することを特徴とする請求項に記載の画像処理装置。
  6. 前記生成手段は、前記複数の画像の中の残りの画像に係るゲイン情報を生成する際に、前記複数の画像の間で位置が調整されたゲイン情報を生成することを特徴とする請求項4又は5に記載の画像処理装置。
  7. 前記生成手段は、前記複数の画像の中の残りの画像に係るゲイン情報を生成する際に、前記1枚の画像に係るゲイン情報の歪曲収差を補正して射影変換し、前記補正した歪曲収差を付加することによって前記複数の画像の間で位置が調整されたゲイン情報を生成することを特徴とする請求項に記載の画像処理装置。
  8. 前記生成手段は、レンズ情報に基づいて前記ゲイン情報の歪曲収差を補正するか否かを判定し、補正すると判定した場合に前記1枚の画像に係るゲインマップの歪曲収差を補正することを特徴とする請求項に記載の画像処理装置。
  9. 前記1枚の画像は、最も露出が小さい画像であることを特徴とする請求項4〜8の何れか1項に記載の画像処理装置。
  10. 前記合成手段は、前記複数の画像の中の1枚の画像に係るゲイン情報に基づいて、前記
    複数の画像に対する合成比率を算出し、前記算出した合成比率に基づいて合成を行うことを特徴とする請求項1〜の何れか1項に記載の画像処理装置。
  11. 前記現像処理は、ノイズリダクション処理及びエッジ強調処理を含むことを特徴とする請求項1〜10の何れか1項に記載の画像処理装置。
  12. 前記ゲイン情報は、画像内の各座標とゲインとの関係を示す情報であることを特徴とする請求項1〜11の何れか1項に記載の画像処理装置。
  13. 互いに露出の異なる複数の画像を入力する入力工程と、
    前記入力工程において入力された複数の画像に係るゲイン情報をそれぞれ生成する生成工程と、
    前記生成工程において生成されたゲイン情報に基づいて、前記複数の画像に対してそれぞれゲイン処理を行うゲイン処理工程と、
    前記ゲイン処理工程においてゲイン処理された複数の画像に対して、それぞれ現像処理を行う現像処理工程と、
    前記現像処理工程において現像処理された複数の画像を合成してHDR画像を得る合成工程と、
    前記現像処理工程において現像処理された複数の画像の間で位置合わせを行う位置合わせ工程と、
    を備え
    前記合成工程においては、前記位置合わせ工程において位置合わせが行われた複数の画像を合成して前記HDR画像を得ることを特徴とする画像処理方法。
  14. 互いに露出の異なる複数の画像を入力する入力工程と、
    前記入力工程において入力された複数の画像に係るゲイン情報をそれぞれ生成する生成工程と、
    前記生成工程において生成されたゲイン情報に基づいて、前記複数の画像に対してそれぞれゲイン処理を行うゲイン処理工程と、
    前記ゲイン処理工程においてゲイン処理された複数の画像に対して、それぞれ現像処理を行う現像処理工程と、
    前記現像処理工程において現像処理された複数の画像を合成してHDR画像を得る合成工程と、
    前記現像処理工程において現像処理された複数の画像の間で位置合わせを行う位置合わせ工程と、
    をコンピュータに実行させ
    前記合成工程においては、前記位置合わせ工程において位置合わせが行われた複数の画像を合成して前記HDR画像を得ることを特徴とするプログラム。
JP2015121363A 2015-06-16 2015-06-16 画像処理装置、画像処理方法及びプログラム Active JP6648914B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2015121363A JP6648914B2 (ja) 2015-06-16 2015-06-16 画像処理装置、画像処理方法及びプログラム
US15/181,922 US10043253B2 (en) 2015-06-16 2016-06-14 Image processing device, image processing method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015121363A JP6648914B2 (ja) 2015-06-16 2015-06-16 画像処理装置、画像処理方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2017011327A JP2017011327A (ja) 2017-01-12
JP6648914B2 true JP6648914B2 (ja) 2020-02-14

Family

ID=57588316

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015121363A Active JP6648914B2 (ja) 2015-06-16 2015-06-16 画像処理装置、画像処理方法及びプログラム

Country Status (2)

Country Link
US (1) US10043253B2 (ja)
JP (1) JP6648914B2 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11102225B2 (en) 2017-04-17 2021-08-24 Splunk Inc. Detecting fraud by correlating user behavior biometrics with other data sources
US11315010B2 (en) * 2017-04-17 2022-04-26 Splunk Inc. Neural networks for detecting fraud based on user behavior biometrics
US11372956B2 (en) 2017-04-17 2022-06-28 Splunk Inc. Multiple input neural networks for detecting fraud
JP2019028537A (ja) * 2017-07-26 2019-02-21 キヤノン株式会社 画像処理装置および画像処理方法
US11012633B2 (en) * 2018-03-22 2021-05-18 Ricoh Company, Ltd. Image capturing apparatus, image capturing method, and image processing apparatus
CN108769525B (zh) * 2018-06-12 2021-04-09 广州视源电子科技股份有限公司 一种图像调整方法、装置、设备及存储介质
US11715184B2 (en) * 2020-09-23 2023-08-01 Apple Inc. Backwards-compatible high dynamic range (HDR) images
CN116051449B (zh) * 2022-08-11 2023-10-24 荣耀终端有限公司 图像噪声估计方法及装置

Family Cites Families (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4364903B2 (ja) * 2004-03-17 2009-11-18 富士通マイクロエレクトロニクス株式会社 自動利得制御回路
JP4556722B2 (ja) * 2004-05-31 2010-10-06 コニカミノルタホールディングス株式会社 撮像装置
JP4310645B2 (ja) * 2004-12-28 2009-08-12 ソニー株式会社 撮像画像信号の歪み補正方法および撮像画像信号の歪み補正装置
US7920200B2 (en) * 2005-06-07 2011-04-05 Olympus Corporation Image pickup device with two cylindrical lenses
US8206087B2 (en) 2008-04-11 2012-06-26 Siemens Energy, Inc. Sealing arrangement for turbine engine having ceramic components
JP2009276956A (ja) * 2008-05-14 2009-11-26 Fujifilm Corp 画像処理装置および方法並びにプログラム
JP2010098616A (ja) 2008-10-17 2010-04-30 Sanyo Electric Co Ltd 画像処理回路
US8658291B2 (en) 2008-12-19 2014-02-25 General Electric Company CMAS mitigation compositions, environmental barrier coatings comprising the same, and ceramic components comprising the same
JP4760923B2 (ja) * 2009-02-03 2011-08-31 ソニー株式会社 画像処理装置、画像処理方法および撮像装置
US8472712B2 (en) * 2009-10-20 2013-06-25 Apple Inc. System and method for applying lens shading correction during image processing
CN102129147A (zh) * 2010-01-20 2011-07-20 鸿富锦精密工业(深圳)有限公司 相机及照片拍摄与处理方法
JP2012029029A (ja) 2010-07-23 2012-02-09 Seiko Epson Corp 画像処理装置、画像処理方法及び撮像装置
US8777562B2 (en) 2011-09-27 2014-07-15 United Techologies Corporation Blade air seal with integral barrier
EP2688288B1 (en) * 2011-10-14 2018-05-16 Morpho, Inc. Image compositing device, image compositing method, image compositing program, and recording medium
TWI466538B (zh) * 2012-01-20 2014-12-21 Altek Corp 影像處理方法及其裝置
JP6039188B2 (ja) * 2012-02-06 2016-12-07 キヤノン株式会社 画像処理装置および画像処理方法
JP5896788B2 (ja) * 2012-03-07 2016-03-30 キヤノン株式会社 画像合成装置及び画像合成方法
JP6061488B2 (ja) * 2012-04-26 2017-01-18 キヤノン株式会社 画像処理装置及び画像処理方法
CN104428815B (zh) * 2012-07-13 2017-05-31 富士胶片株式会社 图像变形装置及其动作控制方法
JP2014048932A (ja) * 2012-08-31 2014-03-17 Nikon Corp 天体画像処理装置、天体画像処理プログラム、およびカメラ
JP6025472B2 (ja) * 2012-09-14 2016-11-16 キヤノン株式会社 画像処理装置及び画像処理方法
BR112015022549A2 (pt) 2013-03-13 2017-07-18 Gen Electric componente de turbina e turbina a gás
JP6196832B2 (ja) * 2013-07-25 2017-09-13 オリンパス株式会社 画像処理装置、画像処理方法、顕微鏡システム及び画像処理プログラム
JP6193721B2 (ja) * 2013-10-23 2017-09-06 キヤノン株式会社 画像処理装置及び画像処理方法、プログラム、記憶媒体
US20170030211A1 (en) 2015-07-28 2017-02-02 General Electric Company Seals with a conformable coating for turbomachinery

Also Published As

Publication number Publication date
US20160371823A1 (en) 2016-12-22
JP2017011327A (ja) 2017-01-12
US10043253B2 (en) 2018-08-07

Similar Documents

Publication Publication Date Title
JP6648914B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP4487191B2 (ja) 画像処理装置および画像処理プログラム
JP4513906B2 (ja) 画像処理装置、画像処理方法、プログラム及び記録媒体
US7671892B2 (en) Image sensing apparatus, and control method, program, and storage medium of image sensing apparatus
JP5408053B2 (ja) 画像処理装置、画像処理方法
JP2013031174A (ja) 多重露出フュージョン基盤でゴーストブラーを除去したhdr映像生成装置及び方法
JP6906947B2 (ja) 画像処理装置、撮像装置、画像処理方法およびコンピュータのプログラム
JP6312487B2 (ja) 画像処理装置及びその制御方法、並びに、プログラム
JP2012165213A (ja) 画像処理装置
JP2014179756A (ja) 画像処理装置、その制御方法、および制御プログラム
JP5843599B2 (ja) 画像処理装置および撮像装置並びにその方法
KR20110055242A (ko) 렌즈 왜곡과 색수차를 보정하는 장치 및 방법
JP2009200743A (ja) 画像処理装置および画像処理方法および画像処理プログラムおよび撮像装置
US11069040B2 (en) Empirical exposure normalization
JP2019028537A (ja) 画像処理装置および画像処理方法
JP2012160852A (ja) 画像合成装置、撮像装置、画像合成方法、および、画像合成プログラム
JP2018181070A (ja) 画像処理装置および画像処理方法
JP2015213261A (ja) 撮像装置、画像処理システム、ならびにそれらの制御方法
JP6157274B2 (ja) 撮像装置、情報処理方法及びプログラム
US20100034482A1 (en) Method and apparatus for processing a digital image signal, and a recording medium having recorded thereon a program for executing the method
JP2012191265A (ja) 画像処理装置およびプログラム
JP2017068513A (ja) 画像処理装置及びその方法、プログラム、記憶媒体
JP2009200981A (ja) ビデオカメラ
JP2014155000A (ja) 画像処理装置、その制御方法、および制御プログラム
JP2012133492A (ja) 画像処理装置およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180612

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190313

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190514

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190705

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191217

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200114

R151 Written notification of patent or utility model registration

Ref document number: 6648914

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151