JP7262940B2 - 画像処理装置、撮像装置、画像処理装置の制御方法およびプログラム - Google Patents

画像処理装置、撮像装置、画像処理装置の制御方法およびプログラム Download PDF

Info

Publication number
JP7262940B2
JP7262940B2 JP2018142905A JP2018142905A JP7262940B2 JP 7262940 B2 JP7262940 B2 JP 7262940B2 JP 2018142905 A JP2018142905 A JP 2018142905A JP 2018142905 A JP2018142905 A JP 2018142905A JP 7262940 B2 JP7262940 B2 JP 7262940B2
Authority
JP
Japan
Prior art keywords
correction
image
images
regions
contrast value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018142905A
Other languages
English (en)
Other versions
JP2020021175A5 (ja
JP2020021175A (ja
Inventor
勇輔 川合
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2018142905A priority Critical patent/JP7262940B2/ja
Priority to EP19186008.9A priority patent/EP3605450B1/en
Priority to US16/514,873 priority patent/US11044396B2/en
Priority to CN201910682159.9A priority patent/CN110784642B/zh
Publication of JP2020021175A publication Critical patent/JP2020021175A/ja
Publication of JP2020021175A5 publication Critical patent/JP2020021175A5/ja
Application granted granted Critical
Publication of JP7262940B2 publication Critical patent/JP7262940B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/94Dynamic range modification of images or parts thereof based on local image properties, e.g. for local contrast enhancement
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/951Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10148Varying focus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20004Adaptive image processing
    • G06T2207/20012Locally adaptive
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Description

本発明は、ピント位置の異なる複数の画像を合成する画像処理装置に関するものである。
デジタルカメラなどを用いて距離が互いに大きく異なる複数の被写体を撮像する場合や、奥行き方向に長い被写体を撮像する場合に、被写界深度が足りないために被写体の一部にしかピントを合わせられない場合がある。これを解決するため、特許文献1には、ピント位置の異なる複数の画像を撮像し、各画像から合焦領域のみを抽出して1枚の画像に合成し、撮像領域全体に合焦している合成画像を生成する、所謂、深度合成の技術が開示されている。
特開2015-216532号公報
しかし、上述したような深度合成の方法を用いると、被写体の境界では合成比率がバタつき、合成境界が目立ってしまい、合成画像に粗がでてしまうことがある。これに対して、合成画像を全面的にぼかすことで前述した課題が解消されると期待されているが、ディティールを表現したい部分があるとその部分のディティールが失われてしまうことがある。
本発明は、上記の課題を鑑みてなされたものであり、ピント位置の異なる複数の画像を用いて合成した画像において、被写体のディティールと隣接画素間の合成比率を滑らかに切り替えこととが両立できる画像処理装置を提供するものである。
上記課題を解決するため、本願発明は、複数の画像を合成することにより生成される合成画像のための前記複数の画像のそれぞれにおける、複数の領域のコントラスト値に基づいて、前記複数の領域各々の合成比率を生成する生成手段と、前記合成比率を補正する補正手段と、を有し、前記補正手段は、前記画像において、前記補正を行った後の隣り合う領域間の合成比率の関係が、前記補正を行う前の隣り合う領域間の合成比率の関係よりも滑らかになるように、前記補正を行い、前記補正において、第1のコントラスト値をもつ第1の領域に対する前記補正の度合いが、前記第1のコントラスト値より高い第2のコントラスト値をもつ第2の領域に対する前記補正の度合いよりも、強い画像処理装置を提供する。
本発明の構成によれば、ピント位置の異なる複数の画像を撮像して合成した画像において、被写体のディティールを保ったままで隣接画素間の合成比率の変化を滑らかにする画像処理装置を提供することができる。
本発明の実施形態に係るデジタルカメラの構造を示すブロック図である。 本発明の実施形態における合成画像の生成について説明するためのフローチャートである。 本発明の実施形態における撮像について説明するためのフローチャートである。 本発明の実施形態における位置合わせについて説明するためのフローチャートである。 本発明の実施形態における画像の合成について説明するためのフローチャートである。 本発明の実施形態における合成マップの生成について説明するためのフローチャートである。 本発明の実施形態における合成比率の統合について説明するためのブロック図である。 本発明の実施形態における統合比率αとコントラスト値C(x,y)との関係の一例を示すグラフである。
以下では、添付の図面を参照しながら、本発明の好適な実施形態について詳細に説明する。
図1は本発明の実施形態に係る画像処理装置としてのデジタルカメラの構造を示すブロック図である。デジタルカメラ100は、静止画を撮像することができ、かつ、合焦位置の情報を記録し、コントラスト値の算出および画像の合成が可能なものである。さらに、デジタルカメラ100は、撮像して保存した画像、または、外部から入力した画像に対して、拡大処理または縮小処理を行うことができる。
制御部101は、例えばCPUやMPUなどのシグナルプロセッサであり、予め後述するROM105に内蔵されたプログラムを読み出しながら、デジタルカメラ100の各部分を制御する。たとえば、後述するように、制御部101が、後述する撮像部104に対して撮像の開始と終了について指令を出す。または、後述する画像処理部107に対して、ROM105に内蔵されたプログラムに基づいて、画像処理の指令を出す。ユーザによる指令は、後述する操作部110によってデジタルカメラ100に入力され、制御部101を通して、デジタルカメラ100の各部分に達する。
駆動部102は、モーターなどによって構成され、制御部101の指令の下で、後述する光学系103を機械的に動作させる。たとえば、制御部101の指令に基づいて、駆動部102が光学系103に含まれるフォーカスレンズの位置を移動させ、光学系103の焦点距離を調整する。
光学系103は、ズームレンズ、フォーカスレンズ、および絞りなどにより構成される。絞りは、透過する光量を調整する機構である。レンズの位置を変えることによって、合焦位置を変えることができる。
撮像部104は、光電変換素子であり、入射された光信号を電気信号に変換する光電変換を行うものである。たとえば、撮像部104に、CCDセンサやCMOSセンサなどを適用することができる。撮像部104は、動画撮像モードを設け、時間的に連続する複数の画像を動画の各々のフレームとして、撮像することができる。
ROM105は、記録媒体としての読み出し専用の不揮発性メモリであり、デジタルカメラ100が備える各ブロックの動作プログラムに加え、各ブロックの動作に必要なパラメータ等を記憶している。RAM106は、書き換え可能な揮発性メモリであり、デジタルカメラ100が備える各ブロックの動作において出力されたデータの一時的な記憶領域として用いられる。
画像処理部107は、撮像部104から出力された画像、あるいは後述する内蔵メモリ109に記録されている画像信号のデータに対して、ホワイトバランス調整、色補間、フィルタリングなど、様々な画像処理を行う。また、撮像部104が撮像した画像信号のデータに対して、JPEGなどの規格で、圧縮処理を行う。
画像処理部107は、特定の処理を行う回路を集めた集積回路(ASIC)で構成される。あるいは、制御部101がROM105から読み出したプログラムに従って処理することで、制御部101が画像処理部107の機能の一部または全部を兼用するようにしてもよい。制御部101が画像処理部107の全ての機能を兼用する場合には、画像処理部107をハードウェアとして有する必要はなくなる。
表示部108は、RAM106に一時保存されている画像、または、後述する内蔵メモリ109に保存されている画像、あるいは、デジタルカメラ100の設定画面などを表示するための液晶ディスプレイや有機ELディスプレイなどである。
内蔵メモリ109は、撮像部104が撮像した画像や画像処理部107の処理を得た画像、および、画像撮像時の合焦位置の情報などを記録する場所である。内蔵メモリの代わりに、メモリカードなどを用いてもよい。
操作部110は、たとえば、デジタルカメラ100につけるボタンやスイッチ、キー、モードダイアルなど、あるいは、表示部108に兼用されるタッチパネルなどである。ユーザによる指令は、操作部110を経由して、制御部101に達する。
図2は、本実施形態における合成画像の生成について説明するためのフローチャートである。ステップS201では、撮像部104は、ピント位置の異なる複数の画像を撮像する。ステップS202では、制御部101は、ステップS201で撮像部104が撮像した複数の画像に対して画角が一致するように位置合わせを行う。ステップS203で、画像処理部107は、位置合わせを行った後の画像に対して合成を行い、合成画像を生成する。以下では、それぞれのステップについて詳細に説明する。
図3は、本実施形態におけるステップS201での撮像について説明するためのフローチャートである。
ステップS301で、制御部101は、ピント位置の設定を行う。たとえば、ユーザは表示部108が兼用するタッチパネルを通して合焦位置を指定し、その合焦位置に相当するピント位置の光軸方向の前後に等間隔に複数のピント位置を指定する。同時に、制御部101は、設定したピント位置において、距離順に撮像順番を決める。
ステップS302で、撮像部104は、ステップS301で設定したピント位置のうち、未撮像のものの中で、撮像順番が最も先のピント位置において撮像する。
ステップS303で、制御部101は、ステップS301で設定したすべてのピント位置において撮像を行ったかどうかについて判断する。すべてのピント位置に撮像した場合は、図3に示したフローチャートでの処理を終了し、まだ撮像していないピント位置があれば、ステップS302に戻る。
また、上記のような撮像方法は、光学系103や撮像部104を複数有する多眼カメラなどを用いて、より少ない撮像回数で実施してもよい。
図4は、本実施形態におけるステップS202での位置合わせについて説明するためのフローチャートである。
ステップS401では、制御部101は、ステップS201で撮像部104が撮像した画像のうちから、位置合わせの基準画像を取得する。位置合わせの基準画像は、撮像順番が最も早いものとする。あるいは、ピント位置を変えながら撮像することで、わずかながら撮像された画像間で画角が変化するため、撮像した画像の中で画角が最も狭いものにしてもよい。
ステップS402では、制御部101は、位置合わせの処理の対象画像を取得する。対象画像は、ステップS401で取得した基準画像以外の画像で、位置合わせの処理が済んでいないものとする。制御部101は、撮像順番が最も早いものを基準画像とするならば、撮像した順番で順次に対象画像を取得すればよい。
ステップS403では、制御部101は、基準画像と対象画像との位置のずれ量を算出する。算出方法の一例は、以下に述べる。まず、制御部101は、基準画像に、複数のブロックを設定する。制御部101は、各々のブロックのサイズが同じになるように設定することが好ましい。次に、制御部101は、対象画像の、基準画像のそれぞれのブロックと同じ位置に、基準画像のブロックよりも広い範囲を、探索範囲として設定する。制御部101は、対象画像のそれぞれの探索範囲において、基準画像のブロックとの輝度の差分絶対値和(Sum of Absolute Difference、以下、SADをいう)が最小となる対応点を算出する。制御部101は、基準画像のブロックの中心と前述した対応点から、ステップS403でいう位置のずれをベクトルとして算出する。制御部101は、前述する対応点の算出において、SADのほかに、差分二乗和(Sum of Squared Difference、以下SSDをいう)や正規化相互相関(Normalized Cross Correlation、以下NCCをいう)などを用いてもよい。
ステップS404で、制御部101で、基準画像と対象画像との位置のずれ量から変換係数を算出する。制御部101は、変換係数として、例えば射影変換係数を用いる。ただし、変換係数として射影変換係数だけに限定するわけではなく、アフィン変換係数や水平垂直シフトのみの簡略化した変換係数を用いてもよい。
ステップS405で、画像処理部107は、ステップS404で算出した変換係数を用いて対象画像に対して変換を行う。
たとえば、制御部101は、(式1)に示した式を用いて変形を行うことができる。
Figure 0007262940000001
(式1)では、(x´、y´)は変形を行った後の座標を示し、(x、y)は変形を行う前の座標を示す。行列AはステップS404で制御部101が算出した変形係数を示す。
ステップS406で、制御部101は、基準画像以外のすべての画像に対して位置合わせを行ったかどうかについて判断する。基準画像以外のすべての画像に対して位置合わせを行った場合は、このフローチャートでの処理を終了し、まだ処理していない画像があれば、ステップS402に戻る。
図5は、本実施形態におけるステップS203での画像の合成について説明するためのフローチャートである。
ステップ501で、画像処理部107は、位置合わせを行った後のそれぞれの画像(基準画像を含む)に対してコントラスト値を算出する。コントラスト値の算出方法の一例としては、たとえば、まず、画像処理部107は、それぞれの画素の色信号Sr、Sg、Sbから、下記の(式2)を用いて輝度Yを算出する。
Y=0.299Sr+0.587Sg+0.114Sb・・・(式2)
次に、注目画素を含む3×3の画素範囲の輝度Yの行列Lに、下記の(式3)乃至(式5)に示したように、ソーベルフィルタを用いて、注目画素におけるコントラスト値Iを算出する。
Figure 0007262940000002
Figure 0007262940000003
Figure 0007262940000004
また、上述のコントラスト値の計算方法は一例にすぎず、たとえば、使用するフィルタをラプラシアンフィルタ等のエッジ検出フィルタや所定の帯域を通過するバンドパスフィルタを用いることも可能である。
ステップS502で、画像処理部107は合成マップを生成する。画像処理部107は、位置合わせした後のそれぞれの画像の同じ位置にある画素のコントラスト値を比較し、合成比率を算出する。
たとえば、同じ位置にある画素のうち、最もコントラスト値の高いものに、100%の合成比率を与える。
また、下記の(式6)を用いて、M枚の画像のうちのm番目の画像の座標(x,y)に位置する画素の合成比率を算出することができる。
Figure 0007262940000005
ステップS503で、画像処理部107は、ステップS502で算出した合成マップを補正する。
図6は、ステップS502での合成マップの補正を説明するためのフローチャートである。
ステップS601で、画像処理部107は、ステップS502で算出した各画素に対応する合成比率に対してフィルタ処理を行う。フィルタの種類としては、タップ数にて規定される参照範囲内の合成比率の最大値を出力するMAXフィルタや平均値フィルタなどが挙げられる。なおかつ、ステップS601で、画像処理部107は、合成比率に対してタップ数の異なるフィルタを別々にかけて、合成比率を平滑化した複数のデータを得る。ここで説明の便宜上、N[0]、N[1]の2種類の平滑化の度合いの異なるフィルタをかけることとするが、フィルタの数は2つに限らない。N[0]のフィルタのタップ数は、N[1]よりも少ないとする。つまり、N[0]のフィルタの参照範囲は、N[1]よりも狭い。N[0]のフィルタを、スルー出力(入力と出力が同じ信号)にする形態でも良いものとする。画像処理部107がフィルタをかけることによって、ステップS502で算出した合成比率を周辺に広げることができる。合成比率が画素間で急激に変化する場合、画像処理部107がフィルタをかけることによって、画素間の合成比率の変化を滑らかにすることができる。
次に、ステップS602で、画像処理部107は、ステップS601で複数のフィルタをかけた後の合成比率を統合する。
図7は、本実施形態における合成比率の統合について説明するためのブロック図である。画像処理部107は、合成比率Am(x,y)に対して、フィルタN[0]およびN[1]のそれぞれをかける。次に、画像処理部107は、2種類のフィルタをかけた後の合成比率をコントラスト値に基づいて統合する。統合では、コントラスト値の高い領域ほどタップ数の少ないフィルタをかけた後の合成比率の統合比率を高くし、コントラスト値の低い領域ほどタップ数の多いフィルタをかけた後の合成比率の統合比率を高くする。タップ数の多いフィルタほど、かけた後の画面がよりぼけるので、コントラスト値の高い領域にタップ数の少ないフィルタをかけた後の合成比率の統合比率を高くすることによって、コントラスト値の高い領域のディティールを保てる。一方、コントラスト値の低いほどタップ数の多いフィルタをかけた後の合成比率の統合比率を高くすることによって、コントラスト値の低い領域において合成した後の粗を抑制することが期待できる。
ここでの統合比率と領域コントラスト値およびタップ数の関係は、表1に示す。
Figure 0007262940000006
一例としては、フィルタN[0]をかけた後の合成比率をAm0(x,y)とし、フィルタN[1]をかけた後の合成比率をAm1(x,y)とすると、下記の(式7)により補正された合成比率をBm(x,y)が算出できる。
Bm(x,y)=(1-α)×Am0(x,y)+α×Am1(x,y)・・・(式7)
(式7)に使われる比率αは統合比率であり、コントラスト値C(x,y)から算出することができる。なお、ここでのコントラスト値C(x,y)は、複数枚の画像の座標(x,y)のコントラスト値の最大値や、加算値、加重平均値のいずれかを用いてよい。
図8は、本実施形態における統合比率αとコントラスト値C(x,y)との関係の一例を示すグラフである。
次に、ステップS603で、制御部101は、すべての画像を処理したかどうかについて判断する。処理を済んでいない画像があれば、ステップS601に戻り、画像処理部107が未処理の画像に対してフィルタの処理を行う。
最後に、ステップS604に進み、画像処理部107が合成比率の再算出を行う。ここで、画像処理部107が、補正された合成比率Bm(x,y)に対して正規化を行い、最終的に合成画像の生成に用いる合成比率Bm’(x,y)を算出する。具体的に、下記の(式8)に従い算出する。
Figure 0007262940000007
ただし、(式8)では、Mは画像の枚数を示し、(x,y)は座標を示す。(式8)に示したような正規化を行うことで、位置合わせした後の同じ座標の合成比率Bm’(x,y)の和が1になる。
ステップS504で、画像処理部107は下記の(式9)に従い、合成画像を生成する。
Figure 0007262940000008
ただし、(式7)では、Ik(x,y)は、k枚目の画像の座標(x,y)の画素値を示し、O(x,y)は合成画像の座標(x,y)の画素値を示す。
本実施形態によれば、深度合成の画像を生成するとき、合成画像の粗を減らすとともに、画像のディティールを保つことができる。
(その他の実施形態)
なお、上記実施形態においては、個人向けのデジタルカメラをもとに説明を行ったが、深度合成の機能を搭載していれば、携帯機器やスマートフォン、あるいは、サーバーに接続されたネットワークカメラなどに適用することも可能である。または、前述した処理の一部を、携帯機器やスマートフォン、あるいは、サーバーに接続されたネットワークカメラなどに行わせてもよい。
なお、本発明は、上述の実施形態の1つ以上の機能を実現するプログラムを、ネットワークまたは記録媒体を介してシステムまたは装置に供給し、そのシステムまたは装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読み出し作動させる処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
100 デジタルカメラ
101 制御部
102 駆動部
103 光学系
104 撮像部
105 ROM
106 RAM
107 画像処理部
108 表示部
109 内蔵メモリ
110 操作部

Claims (21)

  1. 複数の画像を合成することにより生成される合成画像のための前記複数の画像のそれぞれにおける、複数の領域のコントラスト値に基づいて、前記複数の領域各々の合成比率を生成する生成手段と、
    前記合成比率を補正する補正手段と、を有し、
    前記補正手段は、前記画像において、前記補正を行った後の隣り合う領域間の合成比率の関係が、前記補正を行う前の隣り合う領域間の合成比率の関係よりも滑らかになるように、前記補正を行い、前記補正において、第1のコントラスト値をもつ第1の領域に対する前記補正の度合いが、前記第1のコントラスト値より高い第2のコントラスト値をもつ第2の領域に対する前記補正の度合いよりも、強いことを特徴とする画像処理装置。
  2. 前記補正手段は、前記領域のコントラスト値に基づいて、前記補正を行うことを特徴とする請求項1に記載の画像処理装置。
  3. 前記補正手段は、前記領域のコントラスト値が大きいほど、前記隣り合う領域間の合成比率の関係が滑らかにならないように、前記補正を行うことを特徴とする請求項2に記載の画像処理。
  4. 前記補正手段は、参照範囲の前記領域の前記合成比率に対して平滑化処理を行うことにより前記補正を行うことを特徴とする請求項1から3の何れか1項に記載の画像処理装置。
  5. 前記補正手段は、互いに前記参照範囲の広さが異なる複数種類の平滑化処理を行い、前記複数種類の平滑化処理の結果を統合することにより、前記補正された合成比率を生成し、前記領域のコントラスト値に基づいて、前記複数種類の平滑化処理の結果の統合の割合を変更することを特徴とする請求項4に記載の画像処理装置。
  6. 複数の画像を合成することにより生成される合成画像のための前記複数の画像を処理する画像処理装置であって、
    前記複数の画像のそれぞれについて、前記画像の複数の領域のコントラスト値に基づいて、前記複数の領域のそれぞれの、前記合成画像のための合成の比率を生成する生成手段と、
    前記画像における前記複数の領域のそれぞれについて、当該領域とその周辺の領域の前記合成の比率に基づいて、当該領域の前記合成の比率を補正する補正手段と、を備え、
    前記補正手段は、前記補正において、第1のコントラスト値をもつ第1の領域に対する前記補正の度合いが、前記第1のコントラスト値より高い第2のコントラスト値をもつ第2の領域に対する前記補正の度合いよりも、強い画像処理装置。
  7. 前記補正手段は、当該領域とその周辺の領域の前記合成の比率に対して平滑化処理を行うことを特徴とする請求項6に記載の画像処理装置。
  8. 前記補正手段は、当該領域を含む参照範囲の領域それぞれの前記合成の比率に対して平滑化処理を行うことを特徴とする請求項6に記載の画像処理。
  9. 前記補正手段は、前記参照範囲が異なる複数種類の前記平滑化処理を行い、前記複数種類の平滑化処理の結果を統合することを特徴とする請求項8に記載の画像処理装置。
  10. 前記補正手段は、前記領域のコントラスト値に基づいて、前記複数種類の平滑化処理の結果の統合の割合を変えることを特徴とする請求項9に記載の画像処理装置。
  11. 前記複数種類の平滑化処理は、第1の平滑化処理と、前記第1の平滑化処理よりも前記参照範囲が広い第2の平滑化処理を含み、
    前記補正手段は、前記領域のコントラスト値が大きいほど、前記第2の平滑化処理の結果よりも前記第1の平滑化処理の結果の割合が大きくなるように前記複数種類の平滑化処理の結果を統合することを特徴とする請求項10に記載の画像処理装置。
  12. 前記生成手段は、前記複数の画像において互いに対応する位置の前記領域の間の前記コントラスト値に基づいて、前記領域の合成の比率を生成することを特徴とする請求項1に記載の画像処理装置。
  13. さらに前記複数の画像を合成する合成手段を有することを特徴とする請求項1ないし12のいずれか1項に記載の画像処理装置。
  14. 前記合成手段は、前記複数の画像のそれぞれ合焦している領域を抽出して前記画像を生成することを特徴とする請求項13に記載の画像処理装置。
  15. 前記合成画像の被写界深度は、前記複数の画像の前記被写界深度よりも深いことを特徴とする請求項1ないし14のいずれか1項に記載の画像処理装置。
  16. 複数の画像を撮像する撮像手段と、
    前記複数の画像を合成することにより生成される合成画像のための前記複数の画像のそれぞれにおける、複数の領域のコントラスト値に基づいて、前記複数の領域各々の合成比率を生成する生成手段と、
    前記合成比率を補正する補正手段と、を有し、
    前記補正手段は、前記画像において、前記補正を行った後の隣り合う領域間の合成比率の関係が、前記補正を行う前の隣り合う領域間の合成比率の関係よりも滑らかになるように、前記補正を行い、前記補正において、第1のコントラスト値をもつ第1の領域に対する前記補正の度合いが、前記第1のコントラスト値より高い第2のコントラスト値をもつ第2の領域に対する前記補正の度合いよりも、強いことを特徴とする撮像装置。
  17. 複数の画像を合成することにより生成される合成画像のための前記複数の画像を処理する撮像装置であって、
    前記複数の画像を撮像する撮像手段と、
    前記複数の画像のそれぞれについて、前記画像の複数の領域のコントラスト値に基づいて、前記複数の領域のそれぞれの、前記合成画像のための合成の比率を生成する生成手段と、
    前記画像における前記複数の領域のそれぞれについて、当該領域とその周辺の領域の前記合成の比率に基づいて、当該領域の前記合成の比率を補正する補正手段と、を備え、
    前記補正手段は、前記補正において、第1のコントラスト値をもつ第1の領域に対する前記補正の度合いが、前記第1のコントラスト値より高い第2のコントラスト値をもつ第2の領域に対する前記補正の度合いよりも、強い撮像装置。
  18. 複数の画像を合成することにより生成される合成画像のための前記複数の画像のそれぞれにおける、複数の領域のコントラスト値に基づいて、前記複数の領域各々の合成比率を生成する生成ステップと、
    前記合成比率を補正する補正ステップと、を有し、
    前記補正ステップにおいては、前記画像において、前記補正を行った後の隣り合う領域間の合成比率の関係が、前記補正を行う前の隣り合う領域間の合成比率の関係よりも滑らかになるように、前記補正を行い、前記補正において、第1のコントラスト値をもつ第1の領域に対する前記補正の度合いが、前記第1のコントラスト値より高い第2のコントラスト値をもつ第2の領域に対する前記補正の度合いよりも、強いことを特徴とする画像処理方法。
  19. 複数の画像を合成することにより生成される合成画像のための前記複数の画像を処理する画像処理方法であって、
    前記複数の画像のそれぞれについて、前記画像の複数の領域のコントラスト値に基づいて、前記複数の領域のそれぞれの、前記合成画像のための合成の比率を生成する生成ステップと、
    前記画像における前記複数の領域のそれぞれについて、当該領域とその周辺の領域の前記合成の比率に基づいて、当該領域の前記合成の比率を補正する補正ステップと、を有し、
    前記補正ステップにおいては、前記補正において、第1のコントラスト値をもつ第1の領域に対する前記補正の度合いが、前記第1のコントラスト値より高い第2のコントラスト値をもつ第2の領域に対する前記補正の度合いよりも、強い画像処理方法。
  20. 請求項18または19に記載の各ステップを行わせるコンピュータに動作させるコンピュータのプログラム。
  21. 請求項20に記載のプログラムを記録するコンピュータ読み出し可能な記録媒体。
JP2018142905A 2018-07-30 2018-07-30 画像処理装置、撮像装置、画像処理装置の制御方法およびプログラム Active JP7262940B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2018142905A JP7262940B2 (ja) 2018-07-30 2018-07-30 画像処理装置、撮像装置、画像処理装置の制御方法およびプログラム
EP19186008.9A EP3605450B1 (en) 2018-07-30 2019-07-12 Image processing apparatus, image pickup apparatus, control method of image processing apparatus, and computer-program
US16/514,873 US11044396B2 (en) 2018-07-30 2019-07-17 Image processing apparatus for calculating a composite ratio of each area based on a contrast value of images, control method of image processing apparatus, and computer-readable storage medium
CN201910682159.9A CN110784642B (zh) 2018-07-30 2019-07-26 图像处理装置及其控制方法以及存储介质、摄像装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018142905A JP7262940B2 (ja) 2018-07-30 2018-07-30 画像処理装置、撮像装置、画像処理装置の制御方法およびプログラム

Publications (3)

Publication Number Publication Date
JP2020021175A JP2020021175A (ja) 2020-02-06
JP2020021175A5 JP2020021175A5 (ja) 2021-07-26
JP7262940B2 true JP7262940B2 (ja) 2023-04-24

Family

ID=67352489

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018142905A Active JP7262940B2 (ja) 2018-07-30 2018-07-30 画像処理装置、撮像装置、画像処理装置の制御方法およびプログラム

Country Status (4)

Country Link
US (1) US11044396B2 (ja)
EP (1) EP3605450B1 (ja)
JP (1) JP7262940B2 (ja)
CN (1) CN110784642B (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117994898A (zh) * 2024-02-28 2024-05-07 广州万美汇科技有限公司 用于自动售卖机器的智能准入判断系统

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012014658A (ja) 2010-07-05 2012-01-19 Casio Comput Co Ltd 画像処理装置及び方法、並びにプログラム
JP2018107526A (ja) 2016-12-22 2018-07-05 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法およびコンピュータのプログラム

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4978760B2 (ja) 2000-08-23 2012-07-18 ソニー株式会社 画像処理方法および画像処理装置
JP4524717B2 (ja) 2008-06-13 2010-08-18 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法及びプログラム
JP5398365B2 (ja) 2009-06-09 2014-01-29 キヤノン株式会社 画像処理装置、画像処理方法
JP5141733B2 (ja) 2010-08-18 2013-02-13 カシオ計算機株式会社 撮像装置、撮像方法、及びプログラム
US9153015B2 (en) 2011-03-24 2015-10-06 Mitsubishi Electric Corporation Image processing device and method
CN102169576B (zh) 2011-04-02 2013-01-16 北京理工大学 一种图像拼接算法定量评价方法
JP2013131878A (ja) 2011-12-21 2013-07-04 Sony Corp 画像処理装置、画像処理方法、プログラム
JP6017279B2 (ja) 2012-11-22 2016-10-26 オリンパス株式会社 画像処理装置、画像処理方法及びプログラム
WO2014155813A1 (ja) * 2013-03-29 2014-10-02 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
CN104125446A (zh) 2013-04-27 2014-10-29 瑞智半导体(上海)有限公司 一种视频图像2d转3d中优化处理深度图的方法和装置
JP2014229988A (ja) 2013-05-20 2014-12-08 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
CN108107571B (zh) * 2013-10-30 2021-06-01 株式会社摩如富 图像处理装置及方法及非暂时性计算机可读记录介质
JP6493855B2 (ja) 2014-02-26 2019-04-03 パナソニックIpマネジメント株式会社 画像処理装置及び画像処理方法
JP6325885B2 (ja) 2014-05-12 2018-05-16 オリンパス株式会社 撮像装置、撮像方法、及びプログラム
CN104144298B (zh) * 2014-07-16 2017-09-19 浙江宇视科技有限公司 一种宽动态图像合成方法
JP6904842B2 (ja) * 2017-08-03 2021-07-21 キヤノン株式会社 画像処理装置、画像処理方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012014658A (ja) 2010-07-05 2012-01-19 Casio Comput Co Ltd 画像処理装置及び方法、並びにプログラム
JP2018107526A (ja) 2016-12-22 2018-07-05 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法およびコンピュータのプログラム

Also Published As

Publication number Publication date
EP3605450B1 (en) 2021-09-22
US11044396B2 (en) 2021-06-22
US20200036890A1 (en) 2020-01-30
CN110784642B (zh) 2022-01-18
CN110784642A (zh) 2020-02-11
JP2020021175A (ja) 2020-02-06
EP3605450A1 (en) 2020-02-05

Similar Documents

Publication Publication Date Title
JP6906947B2 (ja) 画像処理装置、撮像装置、画像処理方法およびコンピュータのプログラム
JP6786311B2 (ja) 画像処理装置、画像処理方法、コンピュータプログラムおよび記憶媒体
JP7262940B2 (ja) 画像処理装置、撮像装置、画像処理装置の制御方法およびプログラム
CN107979715B (zh) 摄像装置
JP6961423B2 (ja) 画像処理装置、撮像装置、画像処理装置の制御方法、プログラムおよび記録媒体
JP2022083147A (ja) 撮像装置、撮像方法、プログラムおよび記録媒体
JP6245847B2 (ja) 画像処理装置および画像処理方法
JP7458769B2 (ja) 画像処理装置、撮像装置、画像処理方法、プログラムおよび記録媒体
JP7214368B2 (ja) 画像処理装置、撮像装置、画像処理方法、プログラムおよび記録媒体
JP2020160773A (ja) 画像処理装置、撮像装置、画像処理方法およびプログラム
JP7409604B2 (ja) 画像処理装置、撮像装置、画像処理方法、プログラムおよび記録媒体
JP6818734B2 (ja) 画像処理装置、撮像装置、画像処理方法およびプログラム
JP2024002631A (ja) 画像処理装置、撮像装置、画像処理方法、コンピュータのプログラムおよび記録媒体
JP6828069B2 (ja) 撮像装置、撮像方法およびプログラム
JP6953594B2 (ja) 画像処理装置、撮像装置、画像処理方法、プログラムおよび記録媒体
US11206344B2 (en) Image pickup apparatus and storage medium
US20220148142A1 (en) Image processing apparatus for combining a plurality of images, imaging apparatus, imaging method, and recording medium
JP2024036872A (ja) 撮像装置、撮像方法、プログラムおよび記録媒体
JP2023026997A (ja) 撮像装置、撮像方法、プログラムおよび記録媒体
JP2023055075A (ja) 撮像装置およびその制御方法
KR100915406B1 (ko) 카메라
JP2023159872A (ja) 学習装置、画像処理装置、撮像装置、学習方法、画像処理方法、プログラムおよび記録媒体
JP2018046372A (ja) 撮像装置、システム、プログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210517

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210517

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220414

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220426

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220621

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221025

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221202

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230314

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230412

R151 Written notification of patent or utility model registration

Ref document number: 7262940

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151