JP2019161583A - 画像処理装置、画像処理方法、及びプログラム - Google Patents
画像処理装置、画像処理方法、及びプログラム Download PDFInfo
- Publication number
- JP2019161583A JP2019161583A JP2018049364A JP2018049364A JP2019161583A JP 2019161583 A JP2019161583 A JP 2019161583A JP 2018049364 A JP2018049364 A JP 2018049364A JP 2018049364 A JP2018049364 A JP 2018049364A JP 2019161583 A JP2019161583 A JP 2019161583A
- Authority
- JP
- Japan
- Prior art keywords
- image
- defocus
- defocus map
- subject
- map
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Abstract
Description
上記課題に鑑み、本発明は、奥行き情報を用いて被写体領域を精度よく特定する画像処理装置及び画像処理方法を提供することを目的とする。
本発明の一実施形態における撮像装置について説明する。
本実施形態では、時系列に並んだ複数の画像に対して特許文献1のような被写体探索処理と被写体領域補正処理を行う際に、瞳分割された被写体光を受光する撮像素子からの出力を用いて位相差検出方式で求められたデフォーカス情報を用いる。
そこで、本実施形態では、デフォーカス情報を算出する最小単位であるブロックのサイズが異なる複数のデフォーカスマップを生成する。それらを被写体探索処理と被写体領域補正処理とで選択的に用いることで、両処理の精度を上げ、被写体領域の特定精度を上げることを特徴とする。
次に、本実施形態における撮像素子102について説明する。図2(a)は、図1に示した撮像素子102の画素配列構成を示す図である。撮像素子102においては、図2(a)に示すように画素200が二次元マトリクス状(行列状)に規則的に配列されている。各画素200は、図2(b)に示すように、マイクロレンズ201と一対の光電変換部202A、203B(以下、瞳分割画素202A、203Bとも呼ぶ)から構成される。
次に、本実施形態におけるテンプレートマッチング部114における処理について説明する。図3は、テンプレートマッチング部114における被写体探索処理を説明する図である。被写体が指定された際の(A+B)像を図3(a)に示し、図3(a)に示した(A+B)像に対応する2値化デフォーカスマップを図3(b)に示す。図3(a)に示す領域300はテンプレート画像を切り出した領域を示し、図3(b)に示す領域301は領域300に対応するデフォーカスマップ上の領域であり、距離特徴量を算出した領域を示している。また、被写体探索処理対象の(A+B)像を図3(c)に示し、図3(c)に示した(A+B)像に対応する2値化デフォーカスマップを図3(d)に示す。
次に、本実施形態における画像処理部106が生成するデフォーカスマップについて説明する。図4は、A像及びB像において設定される微小ブロックと、その微小ブロックを用いて生成されたデフォーカスマップの例を示す図である。デフォーカスマップの着目座標のデフォーカス量を算出するために、図4(a)ではA像において小さいサイズの微小ブロック400が設定されており、図4(b)ではB像に対して小さいサイズの微小ブロック401が設定されている例である。微小ブロック400及び微小ブロック401は同じ大きさであり、着目座標のデフォーカス量を算出するために位置をずらしながら複数組設定され、各々に含まれる画像情報から相関演算が行われる。この小さいサイズの微小ブロックに基づき全座標に対して相関演算を行って得られるデフォーカスマップを2値化した例を図4(c)に示す。図4(c)に示すように、生成時の微小ブロック400及び401が小さいため、被写体輪郭部分の形状は正しく捉えられている。しかし、微小ブロック400及び401が小さいために相関演算に用いる情報量が少なく、ノイズや背景のエッジ成分等が誤相関することにより、同一距離である背景領域の一部においてデフォーカス量がばらついている。
次に、本実施形態における撮像装置100での処理の流れについて説明する。図5は、本実施形態における撮像装置100の処理の例を示すフローチャートである。図5には、撮像装置100における被写体探索処理及び被写体領域補正処理に係る処理について示している。なお、被写体探索処理及び被写体領域補正処理に係る処理以外の処理は、一般的な撮像装置と同様であるので、説明は省略する。
次に、図5のステップS506において、テンプレートマッチング部114が行う被写体探索処理について説明する。図6は、本実施形態における被写体探索処理の例を示すフローチャートである。
ここで、図5のステップS507において、制御部105が行うデフォーカスマップの選択処理について説明する。図7は、本実施形態におけるデフォーカスマップ選択処理の例を示すフローチャートである。
次に、図5のステップS509において、画像処理部106が行うラベリング処理について説明する。図10は、画像処理部106におけるラベリング処理を説明する図である。図10(a)は、ステップS508において2値化したデフォーカスマップに対してラベリング処理を行う様子を表す図である。ラベリング処理では各座標に対して、着目座標1000を切り替えながら8近傍の周辺座標1001に対し、既にラベルIDが発番されているかを判定する。発番されていない場合には着目座標に新規のラベルIDを割り振り、発番されている場合には周辺座標1001と同一のラベルIDを発番する。デフォーカスマップの全座標に対してラベリング処理を行った結果が図10(b)である。被写体領域内の各座標には同一のラベルIDが発番され、他の領域には異なるラベルIDが発番される。図10の例では周辺座標を8近傍で判定しているが、4近傍で判定しても良い。
次に、図5のステップS510において、大きさ推定部115が行う被写体領域補正処理について説明する。図11は、本実施形態における被写体領域補正処理の例を示すフローチャートである。図11において、ステップS1101〜S1104の処理が拡大判定処理を示し、ステップS1105〜S1108の処理が縮小判定処理を示す。なお、以下の説明において、被写体領域の形状は矩形であるとする。また、以下では、拡大判定処理(ステップS1101〜S1104)を行った後に縮小判定処理(ステップS1105〜S1108)を行う例を説明するが、縮小判定処理を行った後に拡大判定処理を行うようにしても良い。
本発明は、前述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読み出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
Claims (12)
- 画像を取得する第1の取得手段と、
前記画像のそれぞれについて、生成時のブロックのサイズが異なる複数のデフォーカスマップを取得する第2の取得手段と、
前記画像及び前記デフォーカスマップに基づいて、対象の被写体を探索する探索手段と、
前記画像及び前記デフォーカスマップに基づいて、前記探索手段が決定した被写体領域を補正する補正手段と、
前記複数のデフォーカスマップの内から前記補正手段での前記被写体領域の補正に用いる前記デフォーカスマップを選択する選択手段とを有することを特徴とする画像処理装置。 - 前記選択手段は、前記探索手段での前記被写体の探索に用いる前記デフォーカスマップよりも生成時のブロックのサイズが小さい前記デフォーカスマップを選択することを特徴とする請求項1記載の画像処理装置。
- 前記第1の取得手段は、時系列に並んだ画像を取得し、
前記第2の取得手段は、時系列に並んだ画像のそれぞれについて、生成時のブロックのサイズが異なる複数のデフォーカスマップを取得し、
前記探索手段は、前記補正手段により前記被写体領域が補正された画像を用いて、次の画像における前記被写体を探索することを特徴とする請求項1又は2記載の画像処理装置。 - 前記選択手段は、前記第1の取得手段により取得した画像の露光感度が閾値以上である場合には、前記画像の露光感度が閾値以上でない場合に選択される前記デフォーカスマップよりも生成時のブロックのサイズが大きい前記デフォーカスマップを選択することを特徴とする請求項1〜3の何れか1項に記載の画像処理装置。
- 前記選択手段は、前記補正手段により補正された前記被写体領域のサイズが閾値以上である場合には、前記被写体領域のサイズが閾値以上でない場合に選択される前記デフォーカスマップよりも生成時のブロックのサイズが大きい前記デフォーカスマップを、次の画像に用いる前記デフォーカスマップに選択することを特徴とする請求項1〜3の何れか1項に記載の画像処理装置。
- 前記補正手段は、前記選択手段が選択した前記デフォーカスマップにラベリング処理を施し、画像平面上の位置が、前記探索手段が決定した前記被写体領域に近いラベルに属するデフォーカス量を優先的に用いて被写体領域を補正することを特徴とする請求項1〜5の何れか1項に記載の画像処理装置。
- 前記第2の取得手段は、1つの前記画像に係る異なる2つの瞳領域の画像信号のそれぞれで前記ブロックを用いた相関演算を行い、前記2つの瞳領域に対応する2つの像の位相差を算出し、前記位相差に基づいてデフォーカス量を算出して前記デフォーカスマップを取得することを特徴とする請求項1〜6の何れか1項に記載の画像処理装置。
- 画像を取得する第1の取得手段と、
1つの前記画像に係る異なる2つの瞳領域の画像信号のそれぞれでブロックを用いた相関演算を行い、前記2つの瞳領域に対応する2つの像の位相差を算出し、前記位相差に基づいてデフォーカス量を算出することでデフォーカスマップを生成するとともに、前記画像のそれぞれについて、第1のブロックを用いて第1の前記デフォーカスマップを取得し、前記第1のブロックよりサイズが小さい第2のブロックを用いて第2の前記デフォーカスマップを取得する第2の取得手段と、
前記第1のデフォーカスマップを用いて、前記画像から対象の被写体を探索する探索手段と、
前記第1のデフォーカスマップ及び前記第2のデフォーカスマップの内から選択された前記デフォーカスマップを用いて、前記探索手段が決定した被写体領域を補正する補正手段と、
前記画像の露光感度が閾値以上でなく、かつ前記補正手段により補正された前記被写体領域のサイズが閾値以上でない場合、前記第2のデフォーカスマップを前記補正手段で用いる前記デフォーカスマップに選択し、前記画像の露光感度が閾値以上である場合、又は前記補正手段により補正された前記被写体領域のサイズが閾値以上である場合、前記第1のデフォーカスマップを前記補正手段で用いる前記デフォーカスマップに選択する選択手段とを有することを特徴とする画像処理装置。 - 画像を取得する第1の取得工程と、
前記画像のそれぞれについて、生成時のブロックのサイズが異なる複数のデフォーカスマップを取得する第2の取得工程と、
前記画像及び前記デフォーカスマップに基づいて、対象の被写体を探索する探索工程と、
前記画像及び前記デフォーカスマップに基づいて、前記探索工程で決定した被写体領域を補正する補正工程と、
前記複数のデフォーカスマップの内から前記補正工程で前記被写体領域の補正に用いる前記デフォーカスマップを選択する選択工程とを有することを特徴とする画像処理方法。 - 画像を取得する第1の取得工程と、
1つの前記画像に係る異なる2つの瞳領域の画像信号のそれぞれでブロックを用いた相関演算を行い、前記2つの瞳領域に対応する2つの像の位相差を算出し、前記位相差に基づいてデフォーカス量を算出することでデフォーカスマップを生成するとともに、前記画像のそれぞれについて、第1のブロックを用いて第1の前記デフォーカスマップを取得し、前記第1のブロックよりサイズが小さい第2のブロックを用いて第2の前記デフォーカスマップを取得する第2の取得工程と、
前記第1のデフォーカスマップを用いて、前記画像から対象の被写体を探索する探索工程と、
前記第1のデフォーカスマップ及び前記第2のデフォーカスマップの内から選択された前記デフォーカスマップを用いて、前記探索工程で決定した被写体領域を補正する補正工程と、
前記画像の露光感度が閾値以上でなく、かつ前記補正工程で補正された前記被写体領域のサイズが閾値以上でない場合、前記第2のデフォーカスマップを前記補正工程で用いる前記デフォーカスマップに選択し、前記画像の露光感度が閾値以上である場合、又は前記補正工程で補正された前記被写体領域のサイズが閾値以上である場合、前記第1のデフォーカスマップを前記補正工程で用いる前記デフォーカスマップに選択する選択工程とを有することを特徴とする画像処理方法。 - 画像を取得する第1の取得ステップと、
前記画像のそれぞれについて、生成時のブロックのサイズが異なる複数のデフォーカスマップを取得する第2の取得ステップと、
前記画像及び前記デフォーカスマップに基づいて、対象の被写体を探索する探索ステップと、
前記画像及び前記デフォーカスマップに基づいて、前記探索ステップで決定した被写体領域を補正する補正ステップと、
前記複数のデフォーカスマップの内から前記補正ステップで前記被写体領域の補正に用いる前記デフォーカスマップを選択する選択ステップとをコンピュータに実行させるためのプログラム。 - 画像を取得する第1の取得ステップと、
1つの前記画像に係る異なる2つの瞳領域の画像信号のそれぞれでブロックを用いた相関演算を行い、前記2つの瞳領域に対応する2つの像の位相差を算出し、前記位相差に基づいてデフォーカス量を算出することでデフォーカスマップを生成するとともに、前記画像のそれぞれについて、第1のブロックを用いて第1の前記デフォーカスマップを取得し、前記第1のブロックよりサイズが小さい第2のブロックを用いて第2の前記デフォーカスマップを取得する第2の取得ステップと、
前記第1のデフォーカスマップを用いて、前記画像から対象の被写体を探索する探索ステップと、
前記第1のデフォーカスマップ及び前記第2のデフォーカスマップの内から選択された前記デフォーカスマップを用いて、前記探索ステップで決定した被写体領域を補正する補正ステップと、
前記画像の露光感度が閾値以上でなく、かつ前記補正ステップで補正された前記被写体領域のサイズが閾値以上でない場合、前記第2のデフォーカスマップを前記補正ステップで用いる前記デフォーカスマップに選択し、前記画像の露光感度が閾値以上である場合、又は前記補正ステップで補正された前記被写体領域のサイズが閾値以上である場合、前記第1のデフォーカスマップを前記補正ステップで用いる前記デフォーカスマップに選択する選択ステップとをコンピュータに実行させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018049364A JP7034781B2 (ja) | 2018-03-16 | 2018-03-16 | 画像処理装置、画像処理方法、及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018049364A JP7034781B2 (ja) | 2018-03-16 | 2018-03-16 | 画像処理装置、画像処理方法、及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019161583A true JP2019161583A (ja) | 2019-09-19 |
JP7034781B2 JP7034781B2 (ja) | 2022-03-14 |
Family
ID=67996447
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018049364A Active JP7034781B2 (ja) | 2018-03-16 | 2018-03-16 | 画像処理装置、画像処理方法、及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7034781B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11496728B2 (en) | 2020-12-15 | 2022-11-08 | Waymo Llc | Aperture health monitoring mode |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001126065A (ja) * | 1999-10-26 | 2001-05-11 | Toyota Central Res & Dev Lab Inc | 距離分布検知装置 |
WO2013038833A1 (ja) * | 2011-09-16 | 2013-03-21 | コニカミノルタホールディングス株式会社 | 画像処理システム、画像処理方法および画像処理プログラム |
JP2014120122A (ja) * | 2012-12-19 | 2014-06-30 | Canon Inc | 領域抽出装置、領域抽出方法、及びコンピュータプログラム |
JP2017045283A (ja) * | 2015-08-26 | 2017-03-02 | 株式会社ソニー・インタラクティブエンタテインメント | 情報処理装置および情報処理方法 |
JP2017229061A (ja) * | 2016-06-21 | 2017-12-28 | キヤノン株式会社 | 画像処理装置およびその制御方法、ならびに撮像装置 |
-
2018
- 2018-03-16 JP JP2018049364A patent/JP7034781B2/ja active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001126065A (ja) * | 1999-10-26 | 2001-05-11 | Toyota Central Res & Dev Lab Inc | 距離分布検知装置 |
WO2013038833A1 (ja) * | 2011-09-16 | 2013-03-21 | コニカミノルタホールディングス株式会社 | 画像処理システム、画像処理方法および画像処理プログラム |
JP2014120122A (ja) * | 2012-12-19 | 2014-06-30 | Canon Inc | 領域抽出装置、領域抽出方法、及びコンピュータプログラム |
JP2017045283A (ja) * | 2015-08-26 | 2017-03-02 | 株式会社ソニー・インタラクティブエンタテインメント | 情報処理装置および情報処理方法 |
JP2017229061A (ja) * | 2016-06-21 | 2017-12-28 | キヤノン株式会社 | 画像処理装置およびその制御方法、ならびに撮像装置 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11496728B2 (en) | 2020-12-15 | 2022-11-08 | Waymo Llc | Aperture health monitoring mode |
Also Published As
Publication number | Publication date |
---|---|
JP7034781B2 (ja) | 2022-03-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6271990B2 (ja) | 画像処理装置、画像処理方法 | |
US9253377B2 (en) | Image processing device and image processing system where de-mosaic image is generated based on shift amount estimation of pixels of captured images | |
US10306133B2 (en) | Image processing apparatus for generating a likelihood distribution of an object | |
KR20170135855A (ko) | 패닝 샷들의 자동 생성 | |
WO2013054499A1 (ja) | 画像処理装置、撮像装置および画像処理方法 | |
KR102512889B1 (ko) | 이미지 융합 프로세싱 모듈 | |
JP6521626B2 (ja) | 被写体追跡装置、方法およびプログラム | |
JP7223079B2 (ja) | 画像処理装置およびその制御方法、ならびに撮像装置 | |
JP2015148532A (ja) | 距離計測装置、撮像装置、距離計測方法、およびプログラム | |
TW201351343A (zh) | 影像合成裝置及用於影像合成之電腦程式 | |
KR101875532B1 (ko) | 계층적 스테레오 매칭 장치 및 방법 | |
JP2014027355A (ja) | 複数画像を利用したオブジェクト検索装置、方法、およびプログラム | |
JP7034781B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP2015207090A (ja) | 画像処理装置、及びその制御方法 | |
JP6486453B2 (ja) | 画像処理装置、画像処理方法、プログラム | |
JP6099973B2 (ja) | 被写体領域追跡装置、その制御方法及びプログラム | |
JP2016081095A (ja) | 被写体追跡装置、その制御方法、撮像装置、表示装置及びプログラム | |
JP2011130384A (ja) | 被写体追跡装置及びその制御方法 | |
JP5451364B2 (ja) | 被写体追跡装置及びその制御方法 | |
JP2008211506A (ja) | 画像処理装置、撮像装置及びそのプログラム | |
US10565712B2 (en) | Image processing apparatus and method for controlling the same | |
JP2014116789A (ja) | 撮影装置、その制御方法及びプログラム | |
JP5222429B2 (ja) | 被写体追跡装置及びその制御方法 | |
JP2020043544A (ja) | 撮像装置およびその制御方法、プログラムならびに記憶媒体 | |
US20230065506A1 (en) | Image processing apparatus, control method thereof, and image capturing apparatus |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210312 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20211223 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220201 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220302 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7034781 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |