JP2022077591A - 画像処理装置、画像処理方法、撮像装置、プログラムおよび記録媒体 - Google Patents

画像処理装置、画像処理方法、撮像装置、プログラムおよび記録媒体 Download PDF

Info

Publication number
JP2022077591A
JP2022077591A JP2020188453A JP2020188453A JP2022077591A JP 2022077591 A JP2022077591 A JP 2022077591A JP 2020188453 A JP2020188453 A JP 2020188453A JP 2020188453 A JP2020188453 A JP 2020188453A JP 2022077591 A JP2022077591 A JP 2022077591A
Authority
JP
Japan
Prior art keywords
image
image processing
images
subject
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020188453A
Other languages
English (en)
Other versions
JP2022077591A5 (ja
Inventor
和季 佐藤
Kazuki Sato
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2020188453A priority Critical patent/JP2022077591A/ja
Priority to CN202111196566.2A priority patent/CN114500786A/zh
Priority to US17/520,308 priority patent/US20220148142A1/en
Publication of JP2022077591A publication Critical patent/JP2022077591A/ja
Publication of JP2022077591A5 publication Critical patent/JP2022077591A5/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/92Dynamic range modification of images or parts thereof based on global image properties
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/94Dynamic range modification of images or parts thereof based on local image properties, e.g. for local contrast enhancement
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/54Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/76Circuitry for compensating brightness variation in the scene by influencing the image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/951Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/265Mixing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10148Varying focus

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)

Abstract

Figure 2022077591000001
【課題】深度合成を行う場合、合成される領域の明るさが被写体に対して適正であるとは限らない。
【解決手段】上記課題を解決するため、本願発明に係る画像処理は、ピント位置の異なる複数の画像に対して合成を行う合成手段と、前記複数の画像からコントラストに関する値を算出する算出手段と、前記コントラストに関する値から合成マップを生成する生成手段と、前記複数の画像に対して、被写体に基づいて領域を分割する分割手段と、前記分割手段が分割した前記領域ごとに、階調を補正する補正手段と、を有することを特徴とする画像処理装置ことを特徴とする。
【選択図】図2

Description

本発明は、ピント位置の異なる複数の画像を撮像し、深度合成を行う画像装置に関するものである。
デジタルカメラなどからの距離が互いに大きく異なる複数の被写体を撮像する場合や、奥行き方向に長い被写体を撮像する場合に、被写界深度が足りないために被写体の一部にしかピントを合わせられない場合がある。これを解決するため、特許文献1には、ピント位置の異なる複数の画像を撮像し、各画像から合焦領域のみを抽出して1枚の画像に合成し、撮像領域全体に合焦している合成画像を生成する、所謂、深度合成の技術が開示されている。
特開2015-216532号公報
しかし、上述したような深度合成の技術では、ピント位置を異ならせた複数枚の画像を合成することで、撮像領域全体に合焦した画像を生成するが、合成される領域の明るさが被写体に対して適正であるかは判別されていなく、被写体の明るさを適正にすることができるとは限らない。
本発明は、上述した課題を鑑みてなされたものであり、深度合成において被写体の明るさを適正にするようにゲインを制御することを目的とする。
上記課題を解決するため、本願発明は、ピント位置の異なる複数の画像に対して合成を行う合成手段と、前記複数の画像からコントラストに関する値を算出する算出手段と、前記コントラストに関する値から合成マップを生成する生成手段と、前記複数の画像に対して、被写体に基づいて領域を分割する分割手段と、前記分割手段が分割した前記領域ごとに、階調を補正する補正手段と、を有することを特徴とする画像処理装置ことを特徴とする撮像装置を提供する。
本発明の構成によれば、ピント位置の異なる複数の画像を用いて合成した画像において、合成する領域の明るさを適正にするよう制御することができる。
本発明の実施形態における画像処理装置としてのデジタルカメラのハードウェア構成を示すブロック図である。 第1の実施形態における合成画像の生成について説明するためのフローチャートである。 第1の実施形態におけるステップS201で測光される領域について説明するための図である。 第1の実施形態における生成されるピントの合った領域に対応した合成マップについて説明するための図である。 第1の実施形態における被写体領域分割について説明した図である。 第1の実施形態におけるゲインによる補正を説明するための図である。 第2の実施形態における撮像シーンおよび補正を説明するための図である。 第2の実施形態における画像合成を説明するためのフローチャートである。 第3の実施形態における撮像シーンおよび補正を説明するための図である。 第3の実施形態における画像合成を説明するためのフローチャートである。
以下、添付図面を参照して本発明の実施形態を詳しく説明する。尚、以下の実施形態は特許請求の範囲に係る本発明を限定するものでなく、また本実施形態で説明されている特徴の組み合わせの全てが本発明の解決手段に必須のものとは限らない。
(第1の実施形態)
図1は本実施形態に係る画像処理装置としてのデジタルカメラの構造を示すブロック図の一例である。デジタルカメラ100は、静止画を撮像することができ、かつ、合焦位置の情報を記録し、コントラスト値の算出および画像の合成が可能なものである。さらに、デジタルカメラ100は、撮像して保存した画像、または、外部から入力した画像に対して、拡大処理または縮小処理を行うことができる。
制御部101は、例えばCPUやMPUなどのシグナルプロセッサであり、後述するROM105に予め内蔵されたプログラムを読み出しながら、デジタルカメラ100の各部分を制御する。たとえば、後述するように、制御部101が、後述する撮像部104に対して撮像の開始と終了について指令を出す。または、後述する画像処理部107に対して、ROM105に内蔵されたプログラムに基づいて、画像処理の指令を出す。ユーザによる指令は、後述する操作部110によってデジタルカメラ100に入力され、制御部101を通して、デジタルカメラ100の各部分に達する。
駆動部102は、モーターなどによって構成され、制御部101の指令の下で、後述する光学系103を機械的に動作させる。たとえば、制御部101の指令に基づいて、駆動部102が光学系103に含まれるフォーカスレンズの位置を移動させ、光学系103の焦点距離を調整する。
光学系103は、ズームレンズ、フォーカスレンズ、および絞りなどにより構成される。絞りは、透過する光量を調整する機構である。レンズの位置を変えることによって、合焦位置を変えることができる。
撮像部104は、光電変換素子であり、入射された光信号を電気信号に変換する光電変換を行うものである。たとえば、撮像部104に、CCDセンサやCMOSセンサなどを適用することができる。撮像部104は、動画撮像モードを設け、時間的に連続する複数の画像を動画の各々のフレームとして、撮像することができる。撮像部104は、光学系103を通した被写体の輝度を測光することができる。撮像部104での測光の代わりに、AEセンサなどを用いてもよい。
ROM105は、記録媒体としての読み出し専用の不揮発性メモリであり、デジタルカメラ100が備える各ブロックの動作プログラムに加え、各ブロックの動作に必要なパラメータ等を記憶している。
RAM106は、書き換え可能な揮発性メモリであり、デジタルカメラ100が備える各ブロックの動作において出力されたデータの一時的な記憶領域として用いられる。
画像処理部107は、撮像部104から出力された画像、あるいは後述する内蔵メモリ109に記録されている画像信号のデータに対して、ホワイトバランス調整、色補間、フィルタリング、合成処理など、様々な画像処理を行う。また、撮像部104が撮像した画像信号のデータに対して、JPEGなどの規格で、圧縮処理を行う。
画像処理部107は、特定の処理を行う回路を集めた集積回路(ASIC)で構成される。あるいは、制御部101がROM105から読み出したプログラムに従って処理することで、制御部101が画像処理部107の機能の一部または全部を兼用するようにしてもよい。制御部101が画像処理部107の全ての機能を兼用する場合には、画像処理部107をハードウェアとして有する必要はなくなる。
表示部108は、RAM106に一時保存されている画像、または、後述する内蔵メモリ109に保存されている画像、あるいは、デジタルカメラ100の設定画面などを表示するための液晶ディスプレイや有機ELディスプレイなどである。
内蔵メモリ109は、撮像部104が撮像した画像や画像処理部107の処理を得た画像、および、画像撮像時の合焦位置の情報などを記録する場所である。内蔵メモリの代わりに、メモリカードなどを用いてもよい。
操作部110は、たとえば、デジタルカメラ100につけるボタンやスイッチ、キー、モードダイアルなど、あるいは、表示部108に兼用されるタッチパネルなどである。ユーザによる指令は、操作部110を経由して、制御部101に達する。
図2は、本実施形態における合成画像の生成について説明するためのフローチャートである。図2(a)は本実施形態における処理の全体を示す。ステップS201では、撮像部104は、光学系103を通った被写体を測光する。なお、測光処理については後述する。
ステップS202では、撮像部104は、ピント位置をずらした複数の画像の撮像及び現像を行う。
ステップS203では、制御部101は、ステップS202で撮像部104が撮像した画像に対して位置合わせを行う。なお、位置合わせ処理については、図2(c)を用いて後述する。
ステップS204では、画像処理部107は、位置合わせを行った後の画像に対して合成を行い、合成画像を生成する。なお、画像合成処理については、図2(d)を用いて後述する。
測光処理について図3を用いて説明する。図3は、本実施形態におけるステップS201で測光される領域について説明するための図である。図3(a)は主被写体が存在した場合の測光領域について示しており、領域301は主被写体に対する測光領域を、領域302は主被写体の測光領域を除いた測光領域を示している。図3(b)は主被写体が存在しなかった場合の測光領域について示しており、領域311は主被写体によらない全面に対する測光領域を示している。図2(b)に示すフローチャートにおけるステップS205では、制御部101は、主被写体が存在するか否かを判断する。図3(a)のように主被写体が存在する場合はステップS206に進み、図3(b)のように主被写体が存在しない場合はステップS208に進む。ステップS206では、領域301に示す主被写体の領域を測光する。ステップS207では、302に示す主被写体を除く領域を測光する。この場合、撮像部104は主被写体の測光結果により撮像する。ステップS208では、領域311に示す全面の領域を測光する。主被写体の測光領域301は、後述する画像合成処理で主被写体領域を判断するために使用する。主被写体と主被写体を除いた領域の測光結果から得られたそれぞれの輝度値は後述する画像合成処理で合成領域を補正するためのゲイン算出に使用する。
位置合わせ処理について、図2(c)を用いて説明する。ステップS208では、制御部101は、ステップS202で撮像部104が撮像した画像のうちから、位置合わせの基準画像を取得する。位置合わせの基準画像は、一例として撮像順番が最も早いものとすることができる。あるいは、ピント位置を変えながら撮像することで、わずかながら撮像された画像間で画角が変化するため、撮像した画像の中で画角が最も狭いものにしてもよい。
ステップS209では、制御部101は、位置合わせの処理の対象画像を取得する。対象画像は、ステップS208で取得した基準画像以外の画像で、位置合わせの処理が済んでいないものとする。制御部101は、撮像順番が最も早いものを基準画像とするならば、撮像した順番で順次に対象画像を取得すればよい。
ステップS210では、制御部101は、基準画像と対象画像との位置のずれ量を算出する。算出方法の一例は、以下に述べる。まず、制御部101は、基準画像に、複数のブロックを設定する。制御部101は、各々のブロックのサイズが同じになるように設定することが好ましい。次に、制御部101は、対象画像の、基準画像のそれぞれのブロックと同じ位置に、基準画像のブロックよりも広い範囲を、探索範囲を設定する。最後に、制御部101は、対象画像のそれぞれの探索範囲に、基準画像のブロックとの輝度の差分絶対値和(Sum of Absolute Difference、以下、SADをいう)が最小となる対応点を算出する。制御部101は、基準画像のブロックの中心と前述した対応点から、ステップS210でいう位置のずれをベクトルとして算出する。制御部101は、前述する対応点の算出において、SADのほかに、差分二乗和(Sum of Squared Difference、以下SSDをいう)や正規化相互相関(Normalized Cross Correlation、以下NCCをいう)などを用いてもよい。
ステップS211で、制御部101で、基準画像と対象画像との位置のずれ量から変換係数を算出する。制御部101は、変換係数として、例えば射影変換係数を用いる。ただし、変換係数として射影変換係数だけに限定するわけではなく、アフィン変換係数や水平垂直シフトのみの簡略化した変換係数を用いてもよい。
ステップS212で、画像処理部107は、ステップS211で算出した変換係数を用いて対象画像に対して変換を行う。
たとえば、制御部101は、式(1)に示した式を用いて変形を行うことができる。
Figure 2022077591000002
式(1)では、(x´、y´)は変形を行った後の座標を示し、(x、y)は変形を行う前の座標を示す。行列AはステップS212で制御部101が算出した変形係数を示す。
画像合成処理について、図2(d)を用いて説明する。ステップS213で、画像処理部107は、位置合わせを行った後のそれぞれの画像(基準画像を含む)に対してコントラスト値を算出する。コントラスト値の算出方法の一例としては、たとえば、まず、画像処理部107は、それぞれの画素の色信号Sr、Sg、Sbから、下記の式(2)を用いて輝度Yを算出する。
Y=0.299Sr+0.587Sg+0.114Sb・・・式(2)
次に、3×3の画素の輝度Yの行列Lに、下記の式(3)乃至式(5)に示したように、ソーベルフィルタを用いてコントラスト値Iを算出する。
Figure 2022077591000003
Figure 2022077591000004
Figure 2022077591000005
また、上述のコントラスト値の計算方法は一例にすぎず、たとえば、使用するフィルタをラプラシアンフィルタ等のエッジ検出フィルタや所定の帯域を通過するバンドパスフィルタを用いることも可能である。
ステップS214で、画像処理部107は合成マップを生成する。合成マップの生成方法としては、画像処理部107は、それぞれの画像の同じ位置にある画素のコントラスト値を比較し、コントラスト値の大きさに応じた合成比率を算出する。
ステップS215で、画像処理部107は、画像のそれぞれの領域に対して、主被写体領域であるかどうかを判断し、目標輝度値を設定する。ステップS215で、合成マップに基づいた主被写体と背景被写体の領域分割も行われ、以下では、図面を用いて説明する。
図4は、本実施形態におけるステップS214において生成される、ピントの合った領域に対応した合成マップについて説明するための図である。図4(a)、図4(b)、図4(c)はピントをずらして撮像した3枚の画像と、3枚の画像のそれぞれから生成された合成マップを示している。図5は、本実施形態におけるステップS215において被写体領域分割について説明した図である。
ステップS215では、制御部101は、ピントの合った領域401、411、421から生成された合成マップ402、412、422が、主被写体の測光領域301に該当するか否かにより主被写体領域か否かを判断する。そして、画像処理部107は、主被写体領域か否かにより、測光した輝度値と目標とする輝度値を設定する。図5(a)に示すように合成マップが主被写体の測光領域に該当する場合、画像処理部107がステップS206で主被写体領域の測光によって得られた主被写体領域の輝度値及び主被写体領域の目標輝度値を設定する。図5(b)、図5(c)に示すように合成マップが主被写体の測光領域に該当しない場合は、画像処理部107がステップS207で主被写体領域を除いた領域の測光によって得られた輝度値及び主被写体の測光領域を除いた領域に対する目標輝度値を設定する。目標輝度値は、主被写体の測光領域と主被写体の測光領域を除いた領域それぞれの階調を適正な明るさとする輝度値である。ステップS216では、画像処理部107は、ステップS215で設定された輝度値を目標輝度値にするためのゲインを算出する。
ステップS217では、画像処理部107は、ステップS214で生成された合成マップに基づいて合成される領域の階調を、ステップS216で算出されたゲインによって補正する。
図6は、本実施形態におけるゲインによる補正を説明するための図である。
合成マップが主被写体の測光領域に該当している図6(a)の場合には、合成マップ602に基づき合成される領域601を、主被写体を適正な明るさにするゲインによって補正することができる。合成マップが主被写体の測光領域に該当しない図6(b)の場合には、合成マップ612、622に基づき合成される領域611、621を、主被写体領域を除いた領域を適正な明るさにするゲインによって補正することができる。
ステップS218では、画像処理部107は、合成マップ602、612、622に従い、ステップS217で補正した領域603、613、623を合成する。
以上の説明では、合成マップに基づいて制御部101が主被写体と背景被写体の領域分割を行うと説明したが、これに限らず、コントラスト値などに基づいて制御部101が主被写体と背景被写体の領域分割を行ってもよい。
第1の実施形態によれば、深度合成画像を生成するとき、合成される領域ごとに適正な明るさとなるよう、階調を改善させることができる。
(第2の実施形態)
以下では、図を用いながら第2の実施形態について説明する。第2の実施形態は、第1の実施形態と異なり、同一被写体領域内でも異なるゲインによって補正する場合がある。以下では、第1の実施形態との違いを中心に、第2の実施形態について説明する。
図7は、本実施形態における撮像シーンおよび補正を説明するための図である。
本実施形態における測光・撮像、現像・位置合わせは、第1の実施形態と同様である。本実施形態における画像合成は、第1の実施形態と異なる。図8は、本実施形態における画像合成を説明するためのフローチャートである。本実施形態における図8(a)に示したフローチャートのステップS816と第1の実施形態におけるステップS216とは異なる。以下では詳細に説明する。
図7(a)に示すように、主被写体701と背景被写体702とで被写体間の距離が近い場合、ステップS214で、図7(b)のように、主被写体に加えて背景被写体の一部が、合成マップ711として生成される場合がある。この場合、同一被写体702に対して異なる目標輝度値から算出されたゲインで階調を補正することになるため、撮像画像701、702との図7(c)に示すように輝度差721が出てしまう。そこで、本実施形態では、第1の実施形態と異なり、ステップS816でのゲイン算出時に、条件によってゲイン算出を切り替えることで、同一被写体内の輝度差を抑える。
図8(b)は、本実施形態におけるゲイン算出を説明するためのフローチャートである。ステップS801で、制御部101は、処理中の画像の1枚目前の画像で合成に用いられた領域が存在したかどうかについて判断する。1枚目前の画像で合成に用いられた領域が存在する場合、第1の実施形態のように対象領域が目標輝度値となるゲインを算出すると、同一被写体内に輝度差が出る可能性があると判断する。この場合、ステップS802に進み、画像処理部107が最後に階調を補正したゲインに応じて補正量を制御してゲインを算出する。これによって、図7(a)に示した撮像シーンにおいて1枚目に撮像した画像と2枚目に撮像した画像を合成した図7(d)に示した画像において、領域731のように同一被写体内で急峻な輝度差を抑えることができる。逆に処理中の画像の1枚目前の画像で合成に用いられた領域が存在しない場合、ステップS803に進み、画像処理部107は、第1の実施形態と同様に処理する。これによって、図7(a)に示した撮像シーンにおいて3枚目に撮像した画像741のように、合焦する被写体が存在しない画像に対して、最後に階調を補正したゲインに応じて補正量を制御しなくて済む。また、制御部101は、4枚目に撮像した画像742に対しては、3枚目の画像741が合成に用いられていなかったので、目標輝度値まで補正するようなゲインを算出する。
本実施形態によれば、同一被写体領域内で異なるゲインにより急峻な輝度差が出ることを抑えるようにゲイン算出手段を切り替えることができる。
(第3の実施形態)
以下では、図を用いながら、第3の実施形態について説明する。第3の実施形態は、第1の実施形態と第2の実施形態と異なり、同じ画像に合焦している被写体が複数存在するときの処理ついて説明する。以下では、第1の実施形態との違いを中心に、第3の実施形態について説明する。
図9は、本実施形態における撮像シーンおよび補正を説明するための図である。
本実施形態における測光・撮像、現像・位置合わせは、第1の実施形態と同様である。本実施形態における画像合成は、第1の実施形態と異なる。図10は、本実施形態における画像合成を説明するためのフローチャートである。
図9(a)のような撮像において、主被写体901と主被写体とは異なる被写体902が近しい距離に存在する。図9(a)の場合では、第1の実施形態に説明した方法では、ステップS214で、図9(b)のように、主被写体と主被写体とは異なる被写体が合成マップ911のように生成される場合がある。この場合、ステップS217で、主被写体領域を目標輝度にするためのゲインにより主被写体とは異なる被写体の領域が補正されてしまう。ステップS215の前に条件を加え、合成マップ内に主被写体領域と主被写体領域以外の領域が存在した場合、主被写体に該当する領域以外を潰した合成マップと主被写体に該当する領域を潰した合成マップを生成し、それぞれの領域にゲインによる補正をかける。
本実施形態におけるステップS1001、ステップS1002では、第1の実施形態に記載したステップS213、ステップS214と同様の処理を行う。
ステップS1003で、制御部101は、ステップS1002で生成した合成マップ内に主被写体と主被写体以外の領域の両方が存在しているかどうかを判断する。主被写体と主被写体以外の領域の両方が存在しているかどうかを判断する方法は、たとえば、CNN(Convolutional Neural Network)による物体認識が挙げられる。図9(c)は、主被写体922と主被写体以外の領域923の両方が存在する場合を示す。図9(c)のような場合、ステップS1004に進み、図9(d)に示すように、ステップS1002で生成された合成マップ911から、主被写体領域に該当する合成領域以外の領域を潰した合成マップ931を生成する。次にステップS1005で、画像処理部107は、ステップS1004で生成した合成マップに対応した領域の階調を補正する。
ステップS1006では、ステップS1002で生成された合成マップから、主被写体領域に該当する合成領域を潰した合成マップ932を生成する。ステップS1007では、画像処理部107は、ステップS1006で生成した合成マップに対応した領域の階調を補正する。
また、ステップS1003、制御部101は、主被写体と主被写体以外の領域の両方が存在していないと判断した場合、ステップS1008に進み、ステップS1002で生成した合成マップに対応した領域の階調を補正する。
ステップS1009では、画像処理部107は、第1の実施形態のステップS218と同様に、ステップS1002で生成した合成マップに従い、領域の階調を補正した領域を合成する。
以下では、ステップS1005とステップS1007とステップS1008における領域階調補正について説明する。図10(b)は、本実施形態における領域階調補正を説明するためのフローチャートである。
ステップS1010で、制御部101は、処理対象となる合成マップが主被写体領域に該当するかを判断する。該当する場合は、ステップS1011に進み、該当しない場合は、ステップS1013に進む。
ステップS1011で、画像処理部107は、主被写体領域で測光した輝度値を設定する。次に、ステップS1012で、画像処理部107は、主被写体領域の目標輝度値を設定する。一方で、ステップS1013で、画像処理部107は、主被写体領域以外の領域で測光した輝度値を設定する。次に、ステップ1014で、画像処理部107は、主被写体領域以外の領域の目標輝度値を設定する。ここでいう目標輝度値は、第1の実施形態に類似し、主被写体の測光領域または主被写体領域以外の測光領域の階調を適正な明るさとする輝度値である。
次に、ステップS1015で、画像処理部107は、第1の実施形態のステップS216と同様に、設定された輝度値を設定された目標輝度値にするためのゲインを算出する。
ステップS1016で、画像処理部107は、ステップS1015で算出されたゲインを用いて処理対象となる合成マップに対応した領域の階調を補正する。
第3の実施形態によれば、合成マップ内で異なる被写体領域が存在した場合であっても、それぞれの被写体領域が適正な明るさとなるよう階調を補正することができる。
(その他の実施形態)
なお、上記実施形態においては、個人向けのデジタルカメラをもとに説明を行ったが、深度合成の機能を搭載していれば、携帯機器やスマートフォン、あるいは、サーバーに接続されたネットワークカメラなどに適用することも可能である。または、前述した処理の一部を、携帯機器やスマートフォン、あるいは、サーバーに接続されたネットワークカメラなどに行わせてもよい。
なお、本発明は、上述の実施形態の1つ以上の機能を実現するプログラムを、ネットワークまたは記録媒体を介してシステムまたは装置に供給し、そのシステムまたは装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読み出し作動させる処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
100 デジタルカメラ
101 制御部
102 駆動部
103 光学系
104 撮像部
105 ROM
106 RAM
107 画像処理部
108 表示部
109 内蔵メモリ
110 操作部

Claims (12)

  1. ピント位置の異なる複数の画像に対して合成を行う合成手段と、
    前記複数の画像からコントラストに関する値を算出する算出手段と、
    前記コントラストに関する値から合成マップを生成する生成手段と、
    前記複数の画像に対して、被写体に基づいて領域を分割する分割手段と、
    前記分割手段が分割した前記領域ごとに、階調を補正する補正手段と、を有することを特徴とする画像処理装置。
  2. 前記補正手段は、ゲインをかけることにより前記階調を補正することを特徴とする請求項1に記載の画像処理装置。
  3. 前記補正手段は、前記領域ごとに輝度を取得し、前記輝度に基づいて前記ゲインを取得することを特徴とする請求項2に記載の画像処理装置。
  4. 前記補正手段は、前記領域ごとの前記輝度を適正にするように補正することを特徴とする請求項3に記載の画像処理装置。
  5. 前記分割手段は、前記合成マップに基づいて前記領域を分割することを特徴とする請求項請求項1ないし4のいずれか1項に記載の画像処理装置。
  6. 前記生成手段が生成した、前記複数の画像のうちの1枚の画像に対応する合成マップに、複数の前記被写体が存在するとき、前記分割手段は、前記複数の被写体のそれぞれを異なる前記領域に分割することを特徴とする請求項5に記載の画像処理装置。
  7. 前記分割手段は、主被写体の領域と主被写体以外の領域とを分割することを特徴とする請求項1ないし6のいずれか1項に記載の画像処理装置。
  8. 前記補正手段は、前記複数の画像のうちの第1の画像に対して補正するとき、前記第1の画像と隣り合う第2の画像が前記合成に用いられたかどうかに基づいて、前記第1の画像を補正する補正量を変えることを特徴とする請求項1ないし7のいずれか1項に記載の画像処理装置。
  9. ピント位置の異なる複数の画像を撮像する撮像手段と、
    前記複数の画像に対して合成を行う合成手段と、
    前記複数の画像からコントラストに関する値を算出する算出手段と、
    前記コントラストに関する値から合成マップを生成する生成手段と、
    前記複数の画像に対して、被写体に基づいて領域を分割する分割手段と、
    前記分割手段が分割した前記領域ごとに、階調を補正する補正手段と、を有することを特徴とする撮像装置
  10. ピント位置の異なる複数の画像に対して合成を行う合成ステップと、
    前記複数の画像からコントラストに関する値を算出する算出ステップと、
    前記コントラストに関する値から合成マップを生成する生成ステップと、
    前記複数の画像に対して、被写体に基づいて領域を分割する分割ステップと、
    前記分割ステップにおいて分割した前記領域ごとに、階調を補正する補正ステップと、を有することを特徴とする画像処理方法。
  11. 画像処理装置のコンピュータに動作させるコンピュータのプログラムであって、
    ピント位置の異なる複数の画像に対して合成を行う合成ステップと、
    前記複数の画像からコントラストに関する値を算出する算出ステップと、
    前記コントラストに関する値から合成マップを生成する生成ステップと、
    前記複数の画像に対して、被写体に基づいて領域を分割する分割ステップと、
    前記分割ステップにおいて分割した前記領域ごとに、階調を補正する補正ステップと、を行わせることを特徴とするプログラム。
  12. 請求項11に記載のプログラムを記録したコンピュータが読み出し可能な記録媒体。
JP2020188453A 2020-11-12 2020-11-12 画像処理装置、画像処理方法、撮像装置、プログラムおよび記録媒体 Pending JP2022077591A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2020188453A JP2022077591A (ja) 2020-11-12 2020-11-12 画像処理装置、画像処理方法、撮像装置、プログラムおよび記録媒体
CN202111196566.2A CN114500786A (zh) 2020-11-12 2021-10-14 图像处理装置、摄像装置、图像处理方法和记录介质
US17/520,308 US20220148142A1 (en) 2020-11-12 2021-11-05 Image processing apparatus for combining a plurality of images, imaging apparatus, imaging method, and recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020188453A JP2022077591A (ja) 2020-11-12 2020-11-12 画像処理装置、画像処理方法、撮像装置、プログラムおよび記録媒体

Publications (2)

Publication Number Publication Date
JP2022077591A true JP2022077591A (ja) 2022-05-24
JP2022077591A5 JP2022077591A5 (ja) 2023-11-16

Family

ID=81454714

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020188453A Pending JP2022077591A (ja) 2020-11-12 2020-11-12 画像処理装置、画像処理方法、撮像装置、プログラムおよび記録媒体

Country Status (3)

Country Link
US (1) US20220148142A1 (ja)
JP (1) JP2022077591A (ja)
CN (1) CN114500786A (ja)

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4656657B2 (ja) * 2006-07-31 2011-03-23 キヤノン株式会社 撮像装置及びその制御方法
KR100809349B1 (ko) * 2006-09-25 2008-03-05 삼성전자주식회사 이미지의 밝기 보정을 위한 장치 및 방법
JP6168879B2 (ja) * 2013-06-27 2017-07-26 オリンパス株式会社 内視鏡装置、内視鏡装置の作動方法及びプログラム
US10298853B2 (en) * 2016-01-13 2019-05-21 Canon Kabushiki Kaisha Image processing apparatus, method of controlling image processing apparatus, and imaging apparatus
JP6732522B2 (ja) * 2016-05-02 2020-07-29 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
JP6833498B2 (ja) * 2016-12-21 2021-02-24 キヤノン株式会社 撮像装置、撮像方法およびコンピュータのプログラム
JP6906947B2 (ja) * 2016-12-22 2021-07-21 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法およびコンピュータのプログラム
JP6965132B2 (ja) * 2017-12-05 2021-11-10 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法およびプログラム
US10491831B2 (en) * 2018-03-05 2019-11-26 Jvckenwood Corporation Image pickup apparatus, image pickup method, and recording medium
JP7277156B2 (ja) * 2019-01-30 2023-05-18 キヤノン株式会社 画像処理装置及び画像処理方法、プログラム
TWI714025B (zh) * 2019-03-19 2020-12-21 緯創資通股份有限公司 影像辨識方法及影像辨識裝置

Also Published As

Publication number Publication date
CN114500786A (zh) 2022-05-13
US20220148142A1 (en) 2022-05-12

Similar Documents

Publication Publication Date Title
JP6157242B2 (ja) 画像処理装置及び画像処理方法
JP6906947B2 (ja) 画像処理装置、撮像装置、画像処理方法およびコンピュータのプログラム
JP2018174502A (ja) 撮像装置、画像処理装置、撮像装置の制御方法およびプログラム
JP6786311B2 (ja) 画像処理装置、画像処理方法、コンピュータプログラムおよび記憶媒体
JP2022083147A (ja) 撮像装置、撮像方法、プログラムおよび記録媒体
JP2015233211A (ja) 撮像装置およびその制御方法ならびにプログラム
JP6961423B2 (ja) 画像処理装置、撮像装置、画像処理装置の制御方法、プログラムおよび記録媒体
JP2015186062A (ja) 画像合成処理装置
JP2022077591A (ja) 画像処理装置、画像処理方法、撮像装置、プログラムおよび記録媒体
JP2020160773A (ja) 画像処理装置、撮像装置、画像処理方法およびプログラム
US11044396B2 (en) Image processing apparatus for calculating a composite ratio of each area based on a contrast value of images, control method of image processing apparatus, and computer-readable storage medium
KR101905813B1 (ko) 영상비교장치
JP7458769B2 (ja) 画像処理装置、撮像装置、画像処理方法、プログラムおよび記録媒体
JP7409604B2 (ja) 画像処理装置、撮像装置、画像処理方法、プログラムおよび記録媒体
JP6828069B2 (ja) 撮像装置、撮像方法およびプログラム
JP2020120194A (ja) 撮像装置、撮像方法およびプログラム
JP2021121067A (ja) 画像処理装置、撮像装置、画像処理方法、プログラムおよび記録媒体
JP6833772B2 (ja) 画像処理装置、撮像装置、画像処理方法およびプログラム
JP6953594B2 (ja) 画像処理装置、撮像装置、画像処理方法、プログラムおよび記録媒体
JP2014066959A (ja) 撮像装置
US20240089597A1 (en) Image capturing apparatus for capturing and compositing images different in in-focus position, control method, and storage medium
JP6818734B2 (ja) 画像処理装置、撮像装置、画像処理方法およびプログラム
JP6827778B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP2017220834A (ja) 撮像装置、撮像方法およびプログラム
JP2024002631A (ja) 画像処理装置、撮像装置、画像処理方法、コンピュータのプログラムおよび記録媒体

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20201209

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231108

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20231108

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20231213