JP7378219B2 - 撮像装置、画像処理装置、制御方法、及びプログラム - Google Patents
撮像装置、画像処理装置、制御方法、及びプログラム Download PDFInfo
- Publication number
- JP7378219B2 JP7378219B2 JP2019076564A JP2019076564A JP7378219B2 JP 7378219 B2 JP7378219 B2 JP 7378219B2 JP 2019076564 A JP2019076564 A JP 2019076564A JP 2019076564 A JP2019076564 A JP 2019076564A JP 7378219 B2 JP7378219 B2 JP 7378219B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- distance
- images
- positional deviation
- photographing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003384 imaging method Methods 0.000 title claims description 126
- 238000000034 method Methods 0.000 title claims description 73
- 238000012545 processing Methods 0.000 title claims description 35
- 238000012937 correction Methods 0.000 claims description 51
- 230000003287 optical effect Effects 0.000 claims description 49
- 210000001747 pupil Anatomy 0.000 claims description 40
- 238000005259 measurement Methods 0.000 claims description 31
- 230000010354 integration Effects 0.000 claims description 26
- 238000001514 detection method Methods 0.000 claims description 10
- 230000004907 flux Effects 0.000 claims description 9
- 238000004364 calculation method Methods 0.000 description 42
- 238000006243 chemical reaction Methods 0.000 description 42
- 230000000875 corresponding effect Effects 0.000 description 34
- 230000008859 change Effects 0.000 description 23
- 238000010586 diagram Methods 0.000 description 22
- 230000008569 process Effects 0.000 description 14
- 230000005484 gravity Effects 0.000 description 13
- 239000011159 matrix material Substances 0.000 description 10
- 238000000605 extraction Methods 0.000 description 7
- 230000009466 transformation Effects 0.000 description 7
- 238000001914 filtration Methods 0.000 description 4
- 230000002596 correlated effect Effects 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000005286 illumination Methods 0.000 description 3
- 238000010191 image analysis Methods 0.000 description 3
- 238000013507 mapping Methods 0.000 description 3
- 239000000203 mixture Substances 0.000 description 3
- 238000007670 refining Methods 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 239000003086 colorant Substances 0.000 description 2
- 238000006073 displacement reaction Methods 0.000 description 2
- 238000009826 distribution Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 238000002156 mixing Methods 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 230000035945 sensitivity Effects 0.000 description 2
- 238000010521 absorption reaction Methods 0.000 description 1
- 238000004040 coloring Methods 0.000 description 1
- 239000004020 conductor Substances 0.000 description 1
- 238000010924 continuous production Methods 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 238000005468 ion implantation Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000003595 spectral effect Effects 0.000 description 1
- 238000003860 storage Methods 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B13/00—Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
- G03B13/18—Focusing aids
- G03B13/20—Rangefinders coupled with focusing arrangements, e.g. adjustment of rangefinder automatically focusing camera
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B13/00—Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
- G03B13/32—Means for focusing
- G03B13/34—Power focusing
- G03B13/36—Autofocus systems
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
- H04N23/671—Focus control based on electronic image sensor signals in combination with active ranging signals, e.g. using light or sound signals emitted toward objects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/95—Computational photography systems, e.g. light-field imaging systems
- H04N23/951—Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/2224—Studio circuitry; Studio devices; Studio equipment related to virtual studio applications
- H04N5/2226—Determination of depth image, e.g. for foreground/background separation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N2013/0074—Stereoscopic image analysis
- H04N2013/0081—Depth or disparity estimation from stereoscopic image signals
Description
図1は、画像処理装置の一例である撮像装置100の構成を示すブロック図である。図1において、光学系101は、被写体150からの入射光を結像させるコンポーネントであり、複数のレンズ及びミラーを含む。撮像部102は、光学系101により結像された光学像を受光して電子像に変換するコンポーネントである。撮像部102の受光面上に形成された1つのマイクロレンズの下に複数の光電変換部を形成することにより光学系101の瞳を通過する被写体光束を分割すると、複数の視差画像を一度に撮像可能となる。このように構成された撮像系を、瞳分割撮像系と呼ぶ。
ここで、rは2つの像の相対的な像シフト量であり、S(r)は像シフト量rにおける2つの像の間の相関度を示す相関値であり、iは画素番号である。また、p及びqは、相関値S(r)の算出に用いる対象画素範囲を示している。相関値S(r)の極小値を与える像シフト量rを求めることで、像ずれ量を算出することができる。
“View Morphing”, Proc. SIGGRAPH 96,p.p.21-30
式2は、比例係数Kを用いて、式3のように簡略化して書くことができる。
像ずれ量をデフォーカス量に変換する係数を「換算係数」と呼ぶ。換算係数は、例えば、前述の比例係数K又は基線長Wのことを言う。基線長Wの補正は、換算係数の補正と等価である。なお、デフォーカス量の算出方法は、本実施形態の方法に限定されるものではなく、他の公知の手法を用いてもよい。
ここで、fは焦点距離である。
ここで、ΔLDOF_Fは前方被写界深度、ΔLDOF_Rは後方被写界深度、fは焦点距離、Fは絞り値、lは合焦被写体距離、δは許容錯乱円径である。許容錯乱円径δは、撮像部102の画素サイズなどにより決定される。一方、測距は上述のように像の相関により求める像ずれ量から算出する。このため、像が許容錯乱円径δのn倍までボケたら相関演算が難しくなる、という観点から測距可能範囲を定義することができる。
瞳分割光学系の測距可能距離範囲は、合焦被写体距離lに関して、被写体位置より手前側のLDML_Fから後ろ側のLDML_Rまでの距離範囲となる。例えば、光学系101の焦点距離f、絞り値F、許容錯乱円径δ、測距の相関が可能なボケの倍率nなどに具体的な値を設定する。これにより、例えば図6(a)のように、合焦被写体距離601、前側測距可能範囲602、後側測距可能範囲603の3つのグラフを描くことができる。横軸が合焦被写体距離lを示し、縦軸が合焦被写体距離lに対応する前側測距可能範囲602及び後側測距可能範囲603の距離を示す。合焦被写体距離601については、横軸も縦軸も合焦被写体距離lに対応する。なお、図の簡易化のため、グラフの縦軸と横軸はスケールを異ならせてある。
マトリクスGの最小特異値が大きい座標(x、y)の順に特徴点を抽出していく。その際、特徴点があまり密集しないほうが好ましい。そこで、既に特徴点が抽出済みの座標(x、y)のウィンドウサイズWの周辺についてはもう特徴点を算出しない、等の約束を設けてもよい。特徴点は、パンフォーカス画像上で例えば200~300点抽出する。
ここで、r、sは2つの像の相対的な水平垂直方向の像シフト量であり、S(r,s)は2次元的な像シフト量(r,s)における2つの像の間の相関度を示す相関値であり、i、jは画素番号である。p及びq、t及びuは、相関値S(r,s)の算出に用いる対象画素範囲を示している。相関値S(r,s)の極小値を与える像シフト量(r,s)を求めることで、個々の特徴点毎の像ずれ量を算出することができる。
ここで、Bkは、パンフォーカス画像に関するボケを変化させた画像バンクの画像kであり、Aは、像ずれ量を算出するブラケット画像である。画像バンク中の全ての画像と対応付けを行い、最も残差スコア小さな画像バンク中の画像kにおける位置(r,s)が、対応する特徴点に関する像ずれ量となる(式12参照)。
この探索を、ガイド画像との位置ずれ量を算出するため選んだブラケット画像との間で、パンフォーカス画像上で抽出した特徴点分実施する。すると、特徴点位置に関する2次元的な像ずれ量を疎に算出した像ずれ量(r,s)マップを得ることができる。また、像ずれ量算出時に、その特徴点位置のボケ画像バンクのインデックスkから、符号未知のデフォーカス量の大小が分かる。デフォーカス量の大きな特徴点位置は、像ずれ量の信頼性が低くなる。デフォーカス量は、次のステップにおける重み演算の重みに利用してもよい。
ここで、p、qは画像座標、x、yは正規化座標である。
フォーカスブラケット連写の場合、焦点距離fiは光学系制御部104により設定されるズーム状態により変化する。焦点距離fiは、パンフォーカス及びブラケットi撮影時の光学系101の焦点距離とする。Cx、Cyは、光軸と画像の交点である画像中心である。正規化された2画像間の対応点を用いて撮像装置100の相対位置姿勢を求めることができる。
となる。ここで、x1及びx2は以下の斉次関係を満たす。
エピポーラ制約は以下のように記述できる。
もし、基本行列が以下のように定義されるなら、
以下の関係が得られる。
Eの性質は次の通りである。
従って、式22及び式23により、基本行列Eを求めることができる。ここでの添字は、画像のインデックスではなく同一画像内での特徴点及び対応点の識別番号である。「’」の有無が、基準となるパンフォーカス画像と相対位置姿勢を求めるブラケット画像とを区別する。
式18の定義を用い、2つのカメラ間のモーションを[I|0],[R|t→]とすると、E行列分解より、
である。そして、R、t→を以下のように復元できる。
4つの解がありうるが、1つのみ意味がある。正しい解の組み合わせを求めるため、対応点を用いてデプス正制約テストを行う。P=[I|0],P’=[R|t→]として、対応点を用いた以下の式28に基づく逆投影により、
であるから、三角視(式29)を行い、空間点Xを得る。
ここで、Piは、Pの行ベクトルである。得られた対応点に対応する空間点Xのz座標に最も正符号が多い解の組み合わせが、幾何学的に正しいR、t→の解として得られる。
ここで、X”3はX”の第3要素である。
である。まず、パンフォーカス画像(P)と各ブラケット画像(BR1,BR2,BR3,...:=1,2,3)との間で相対位置姿勢MP1、MP2、MP3を推定する。パンフォーカス画像と各連写ブラケット画像との間で相対位置姿勢が求まると、演算により連写ブラケット画像間で相対位置姿勢M12及びM23を求めることが可能となる。例えばM12は、
により求めることができる。
但し、
但し、
これにより、距離像の値をそれぞれのローカル座標における空間点の点群に変換できる。
ここで、X→、X’→は、距離像より逆射影した空間点であり、R、t→はそれぞれの距離像から逆射影した空間点のカメラ座標間の位置姿勢の関係である。X”→は、カメラの位置姿勢を使って3次元空間点X’→を座標変換した空間点である。そして、画像間の関係から算出した相対位置姿勢Rini →、tini →をR、t→の初期値に用いて探索の最適化を行う。最適化を収束させると、点群の位置合わせによりリファインされた撮像装置100の相対位置姿勢変化Rref →、tref →を得ることができる。
ここで、Xは逆射影した空間点、X”は位置ずれ補正を適用した空間点である。最後に、位置ずれ補正後の空間点をパンフォーカス画像撮影時のカメラ内部行列を用いて距離像に再び射影することで、位置ずれ補正を施した距離像を取得できる(式40参照)。図15(c)は、点群の射影により距離像を再び取得する処理を示す図である。
により、距離像の要素
を取得できる。(pi,qi)は距離像上の画像座標であり、Z”iは距離値である。同様の位置ずれ補正を他の距離像に対しても実施する。
第2の実施形態では、連写の際にフォーカスブラケットを実施せず、フォーカス固定のまま連写して複数の距離像を生成する構成について説明する。眼数の少ないステレオ測距では、ステレオ対応付けに誤対応を含み易い特性がある。この場合において、手持ち撮影における視点の揺らぎや照明の揺らぎ、被写体の微小な揺らぎが利用できる場合を考える。この場合、フォーカス固定の連写で何度も距離取得を行って時間方向のフィルタリングを行うことで、誤対応による距離誤検出のアウトライアを抑えて測距精度を向上させることができる。しかしながら、手持ち撮影で手ぶれが混入する場合、連写で取得した距離像を正しく統合できない。特に、被写界深度が浅いカメラ設定で撮像装置の前後方向に手ぶれが発生する場合、画像の見えや距離値について連写間で共通領域が存在しにくくなる性質がある。本実施形態では、このような場合における距離像統合の技術に関する。以下、主に第1の実施形態と異なる点について説明する。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
Claims (16)
- 1回の撮影で視点の異なる複数の視差画像を出力する撮像素子と、
前記撮像素子を用いて、複数回の撮影と、前記複数回の撮影よりも被写界深度の深い撮影条件での1回の撮影とを行う撮影制御手段と、
前記複数回の撮影に対応する複数の距離像を生成する生成手段であって、各距離像は各撮影により生成される複数の視差画像の間の視差に基づいて生成される、生成手段と、
前記1回の撮影により生成される第1の画像に対する、前記複数回の撮影により生成される複数の第2の画像の各々の位置ずれ量を検出する検出手段と、
前記第1の画像に対する前記複数の第2の画像の各々の前記位置ずれ量に基づいて、前記複数の距離像の間の位置ずれを補正する補正手段と、
前記補正手段により補正された前記複数の距離像を統合する統合手段と、
を備え、
前記統合手段は、前記複数の距離像間で同一箇所の測距値が同時に得られる場合、最小のデフォーカスから作られた距離像値を前記統合のために利用する
ことを特徴とする撮像装置。 - 前記撮像素子は、結像光学系の射出瞳内の異なる複数の瞳領域を通過する光束を受光するように構成されている
ことを特徴とする請求項1に記載の撮像装置。 - 前記第1の画像は、前記1回の撮影において前記複数の瞳領域を通過する光束に対応する画像であり、
前記複数の第2の画像の各々は、前記複数回の撮影の各々において前記複数の瞳領域を通過する光束に対応する画像である
ことを特徴とする請求項2に記載の撮像装置。 - 前記第1の画像は、前記1回の撮影において前記複数の瞳領域のうちの第1の瞳領域を通過する光束に対応する画像であり、
前記複数の第2の画像の各々は、各撮影により生成される前記複数の視差画像のうちの前記第1の瞳領域に対応する視差画像である
ことを特徴とする請求項2に記載の撮像装置。 - 前記複数の第2の画像に対応する複数の前記位置ずれ量の各々について、前記位置ずれ量が閾値以上であるか否かを判定する判定手段を更に備え、
前記撮影制御手段は、前記複数回の撮影のうち、前記閾値以上であると判定された前記位置ずれ量に対応する撮影をやり直すように制御する
ことを特徴とする請求項1乃至4のいずれか1項に記載の撮像装置。 - 前記撮影制御手段は、前記複数回の撮影の前に前記1回の撮影を行うように制御し、
前記複数回の撮影の各々が行われる度に、
前記検出手段は、現在の撮影により生成された前記第2の画像に対応する前記位置ずれ量を検出し、
前記判定手段は、前記現在の撮影により生成された前記第2の画像に対応する前記位置ずれ量が前記閾値以上であるか否かを判定し、
前記現在の撮影により生成された前記第2の画像に対応する前記位置ずれ量が前記閾値以上であると判定された場合、前記撮影制御手段は、次の撮影を行う前に前記現在の撮影をやり直すように制御する
ことを特徴とする請求項5に記載の撮像装置。 - 前記検出手段は、前記複数の距離像に更に基づいて、前記第1の画像に対する前記複数の第2の画像の各々の前記位置ずれ量を検出する
ことを特徴とする請求項1乃至6のいずれか1項に記載の撮像装置。 - 前記複数回の撮影は、合焦位置の異なる複数回の撮影を行うフォーカスブラケット連写である
ことを特徴とする請求項1乃至7のいずれか1項に記載の撮像装置。 - 前記複数回の撮影は、フォーカス固定の連写である
ことを特徴とする請求項1乃至7のいずれか1項に記載の撮像装置。 - 1回の撮影で視点の異なる複数の視差画像を出力する撮像素子と、
前記撮像素子を用いて、複数回の撮影と、前記複数回の撮影よりも被写界深度の深い撮影条件での1回の撮影とを行う撮影制御手段と、
前記複数回の撮影に対応する複数の距離像を生成する生成手段であって、各距離像は各撮影により生成される複数の視差画像の間の視差に基づいて生成される、生成手段と、
前記1回の撮影により生成される第1の画像に対する、前記複数回の撮影により生成される複数の第2の画像の各々の位置ずれ量を検出する検出手段と、
前記第1の画像に対する前記複数の第2の画像の各々の前記位置ずれ量に基づいて、前記複数の距離像の間の位置ずれを補正する補正手段と、
前記複数の第2の画像に対応する複数の前記位置ずれ量の各々について、前記位置ずれ量が閾値以上であるか否かを判定する判定手段と、
を備え、
前記撮影制御手段は、前記複数回の撮影のうち、前記閾値以上であると判定された前記位置ずれ量に対応する撮影をやり直すように制御する
ことを特徴とする撮像装置。 - 視点の異なる複数の視差画像を複数回の撮影分と、前記複数回の撮影よりも被写界深度の深い撮影条件での1回の撮影で得られる画像とを取得する取得手段と、
前記複数回の撮影の各回の撮影で得られる複数の視差画像の間の視差に基づいて、各回の撮影に対応した距離像をそれぞれ生成する生成手段と、
前記1回の撮影で得られる第1の画像に対する、前記複数回の撮影により得られる複数の第2の画像の各々の位置ずれ量を検出する検出手段と、
前記第1の画像に対する前記複数の第2の画像の各々の前記位置ずれ量に基づいて、複数の前記距離像の間の位置ずれを補正する補正手段と、
前記補正手段により補正された複数の前記距離像を統合する統合手段と、
を備え、
前記統合手段は、複数の前記距離像間で同一箇所の測距値が同時に得られる場合、最小のデフォーカスから作られた距離像値を前記統合のために利用する
ことを特徴とする画像処理装置。 - 1回の撮影で視点の異なる複数の視差画像を出力する撮像素子を備える撮像装置が実行する制御方法であって、
前記撮像素子を用いて、複数回の撮影と、前記複数回の撮影よりも被写界深度の深い撮影条件での1回の撮影とを行う撮影制御工程と、
前記複数回の撮影に対応する複数の距離像を生成する生成工程であって、各距離像は各撮影により生成される複数の視差画像の間の視差に基づいて生成される、生成工程と、
前記1回の撮影により生成される第1の画像に対する、前記複数回の撮影により生成される複数の第2の画像の各々の位置ずれ量を検出する検出工程と、
前記第1の画像に対する前記複数の第2の画像の各々の前記位置ずれ量に基づいて、前記複数の距離像の間の位置ずれを補正する補正工程と、
前記補正工程により補正された前記複数の距離像を統合する統合工程と、
を備え、
前記統合工程は、前記複数の距離像間で同一箇所の測距値が同時に得られる場合、最小のデフォーカスから作られた距離像値を前記統合のために利用する
ことを特徴とする制御方法。 - 1回の撮影で視点の異なる複数の視差画像を出力する撮像素子を備える撮像装置が実行する制御方法であって、
前記撮像素子を用いて、複数回の撮影と、前記複数回の撮影よりも被写界深度の深い撮影条件での1回の撮影とを行う撮影制御工程と、
前記複数回の撮影に対応する複数の距離像を生成する生成工程であって、各距離像は各撮影により生成される複数の視差画像の間の視差に基づいて生成される、生成工程と、
前記1回の撮影により生成される第1の画像に対する、前記複数回の撮影により生成される複数の第2の画像の各々の位置ずれ量を検出する検出工程と、
前記第1の画像に対する前記複数の第2の画像の各々の前記位置ずれ量に基づいて、前記複数の距離像の間の位置ずれを補正する補正工程と、
前記複数の第2の画像に対応する複数の前記位置ずれ量の各々について、前記位置ずれ量が閾値以上であるか否かを判定する判定工程と、
を備え、
前記撮影制御工程は、前記複数回の撮影のうち、前記閾値以上であると判定された前記位置ずれ量に対応する撮影をやり直すように制御する
ことを特徴とする制御方法。 - 画像処理装置が実行する制御方法であって、
視点の異なる複数の視差画像を複数回の撮影分と、前記複数回の撮影よりも被写界深度の深い撮影条件での1回の撮影で得られる画像とを取得する取得工程と、
前記複数回の撮影の各回の撮影で得られる複数の視差画像の間の視差に基づいて、各回の撮影に対応した距離像をそれぞれ生成する生成工程と、
前記1回の撮影で得られる第1の画像に対する、前記複数回の撮影により得られる複数の第2の画像の各々の位置ずれ量を検出する検出工程と、
前記第1の画像に対する前記複数の第2の画像の各々の前記位置ずれ量に基づいて、複数の前記距離像の間の位置ずれを補正する補正工程と、
前記補正工程により補正された複数の前記距離像を統合する統合工程と、
を備え、
前記統合工程は、複数の前記距離像間で同一箇所の測距値が同時に得られる場合、最小のデフォーカスから作られた距離像値を前記統合のために利用する
ことを特徴とする制御方法。 - コンピュータを、請求項1乃至10のいずれか1項に記載の撮像装置の各手段として機能させるためのプログラム。
- コンピュータを、請求項11に記載の画像処理装置の各手段として機能させるためのプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019076564A JP7378219B2 (ja) | 2019-04-12 | 2019-04-12 | 撮像装置、画像処理装置、制御方法、及びプログラム |
US16/843,482 US11347133B2 (en) | 2019-04-12 | 2020-04-08 | Image capturing apparatus, image processing apparatus, control method, and storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019076564A JP7378219B2 (ja) | 2019-04-12 | 2019-04-12 | 撮像装置、画像処理装置、制御方法、及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020174331A JP2020174331A (ja) | 2020-10-22 |
JP7378219B2 true JP7378219B2 (ja) | 2023-11-13 |
Family
ID=72747922
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019076564A Active JP7378219B2 (ja) | 2019-04-12 | 2019-04-12 | 撮像装置、画像処理装置、制御方法、及びプログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US11347133B2 (ja) |
JP (1) | JP7378219B2 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020003604A1 (ja) * | 2018-06-27 | 2020-01-02 | オリンパス株式会社 | 画像表示装置、及び画像表示方法 |
GB2608496B (en) * | 2021-05-07 | 2024-04-24 | Canon Kk | Image processing apparatus and method, and image capturing apparatus and control method thereof, program, and storage medium |
WO2023166617A1 (ja) * | 2022-03-02 | 2023-09-07 | 日本電気株式会社 | カメラパラメータ推定装置、カメラパラメータ推定方法、及びコンピュータ読み取り可能な記録媒体 |
WO2023166618A1 (ja) * | 2022-03-02 | 2023-09-07 | 日本電気株式会社 | カメラパラメータ推定装置、カメラパラメータ推定方法、及びコンピュータ読み取り可能な記録媒体 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016219987A (ja) | 2015-05-19 | 2016-12-22 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法およびプログラム |
JP2018174502A (ja) | 2017-03-31 | 2018-11-08 | キヤノン株式会社 | 撮像装置、画像処理装置、撮像装置の制御方法およびプログラム |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20120300092A1 (en) * | 2011-05-23 | 2012-11-29 | Microsoft Corporation | Automatically optimizing capture of images of one or more subjects |
JP5694607B2 (ja) * | 2012-05-28 | 2015-04-01 | 富士フイルム株式会社 | 画像処理装置、撮像装置及び画像処理方法、並びにプログラム |
JP2016099322A (ja) | 2014-11-26 | 2016-05-30 | キヤノン株式会社 | 撮像装置、撮像装置の制御方法およびプログラム |
-
2019
- 2019-04-12 JP JP2019076564A patent/JP7378219B2/ja active Active
-
2020
- 2020-04-08 US US16/843,482 patent/US11347133B2/en active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016219987A (ja) | 2015-05-19 | 2016-12-22 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法およびプログラム |
JP2018174502A (ja) | 2017-03-31 | 2018-11-08 | キヤノン株式会社 | 撮像装置、画像処理装置、撮像装置の制御方法およびプログラム |
Also Published As
Publication number | Publication date |
---|---|
JP2020174331A (ja) | 2020-10-22 |
US20200326609A1 (en) | 2020-10-15 |
US11347133B2 (en) | 2022-05-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7378219B2 (ja) | 撮像装置、画像処理装置、制御方法、及びプログラム | |
US9208396B2 (en) | Image processing method and device, and program | |
JP5968107B2 (ja) | 画像処理方法、画像処理装置およびプログラム | |
JP6585006B2 (ja) | 撮影装置および車両 | |
KR101233013B1 (ko) | 화상 촬영 장치 및 그 거리 연산 방법과 합초 화상 취득 방법 | |
US9832432B2 (en) | Control apparatus, image pickup apparatus, control method, and non-transitory computer-readable storage medium | |
JP6786225B2 (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
JP6436783B2 (ja) | 画像処理装置、撮像装置、画像処理方法、プログラム、および、記憶媒体 | |
US9025862B2 (en) | Range image pixel matching method | |
JP6489932B2 (ja) | 画像処理装置、撮像装置、画像処理方法およびプログラム | |
US9619886B2 (en) | Image processing apparatus, imaging apparatus, image processing method and program | |
US7269281B2 (en) | Method for measuring object based on image and photographing apparatus | |
JP6071257B2 (ja) | 画像処理装置及びその制御方法、並びにプログラム | |
US20190355101A1 (en) | Image refocusing | |
CN117061868A (zh) | 一种基于图像识别的自动拍照装置 | |
JP2016134661A (ja) | 画像処理方法、画像処理装置、撮像装置、プログラム、および、記憶媒体 | |
JP7300895B2 (ja) | 画像処理装置および画像処理方法、プログラム、並びに記憶媒体 | |
CN117058183A (zh) | 一种基于双摄像头的图像处理方法、装置、电子设备及存储介质 | |
JP2019016975A (ja) | 画像処理装置および画像処理方法、撮像装置、プログラム | |
CN109923854B (zh) | 图像处理装置、图像处理方法以及记录介质 | |
JP2022024688A (ja) | デプスマップ生成装置及びそのプログラム、並びに、デプスマップ生成システム | |
US11336803B2 (en) | Information processing apparatus, information processing method, program, and interchangeable lens | |
JP6608238B2 (ja) | 画像処理装置、撮像装置、画像処理方法、プログラム | |
JP2020086824A (ja) | 画像処理装置、画像処理方法、撮像装置およびプログラム | |
JP6415228B2 (ja) | 画像合成装置および画像合成装置の制御方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20210103 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210113 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220412 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230526 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230721 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20231002 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20231031 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7378219 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |