JP2020181330A - 画像処理装置及びその処理方法、撮像装置、プログラム、記憶媒体 - Google Patents
画像処理装置及びその処理方法、撮像装置、プログラム、記憶媒体 Download PDFInfo
- Publication number
- JP2020181330A JP2020181330A JP2019083205A JP2019083205A JP2020181330A JP 2020181330 A JP2020181330 A JP 2020181330A JP 2019083205 A JP2019083205 A JP 2019083205A JP 2019083205 A JP2019083205 A JP 2019083205A JP 2020181330 A JP2020181330 A JP 2020181330A
- Authority
- JP
- Japan
- Prior art keywords
- subject
- virtual light
- light source
- rewriting
- reliability
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012545 processing Methods 0.000 title claims abstract description 111
- 238000003384 imaging method Methods 0.000 title claims description 11
- 238000003672 processing method Methods 0.000 title 1
- 238000001514 detection method Methods 0.000 claims abstract description 96
- 238000012937 correction Methods 0.000 claims abstract description 15
- 238000000034 method Methods 0.000 claims description 80
- 238000012935 Averaging Methods 0.000 claims description 2
- 239000000654 additive Substances 0.000 claims 1
- 230000000996 additive effect Effects 0.000 claims 1
- 238000004364 calculation method Methods 0.000 description 29
- 238000010586 diagram Methods 0.000 description 14
- 210000000056 organ Anatomy 0.000 description 13
- 239000013598 vector Substances 0.000 description 13
- 101150024075 Mapk1 gene Proteins 0.000 description 7
- 238000006243 chemical reaction Methods 0.000 description 7
- 230000001815 facial effect Effects 0.000 description 6
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 description 5
- 230000006870 function Effects 0.000 description 3
- 230000003321 amplification Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 230000001678 irradiating effect Effects 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000003199 nucleic acid amplification method Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 201000005569 Gout Diseases 0.000 description 1
- 230000002411 adverse Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 230000000052 comparative effect Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000003909 pattern recognition Methods 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
Abstract
Description
Ga=α×(−L1・N1)/K12×Gt …(1)
Ba=α×(−L1・N1)/K12×Bt
ここで、αは仮想光源の光の強度であり、リライティング補正量のゲイン値、Rt、Gt、Btはデガンマ処理部402から出力されたRGB信号である。
Gout=Gt+Ga …(2)
Bout=Bt+Ba
仮想光源付加処理部407によりリライティング処理されたRBG信号(Rout,Gout,Bout)は、ガンマ処理部408に入力され、ガンマ補正が行われる。そして、輝度・色差信号生成部409では、ガンマ処理されたRGB信号(R’out,G’out,B’out)から輝度信号Y及び色差信号R−Y、B−Y信号を生成して出力する。
Ga(x1, y1)=α×(−L(x1, y1)・N(x1, y1))/K(x1, y1)2×Gt …(3)
Ba(x1, y1)=α×(−L(x1, y1)・N(x1, y1))/K(x1, y1)2×Bt
なお、式(3)において、αは仮想光源の光の強度である。また、L(x1, y1)は、座標(x1,y1)に対応する被写体上の位置における仮想光源の光源方向ベクトル、N(x1, y1)は、座標(x1,y1)に対応する被写体上の位置における法線ベクトルである。更に、K(x1, y1)は、仮想光源と座標(x1,y1)に対応する被写体上の位置との距離を示す。仮想光が輝度値の低い領域である座標(x1,y1)にある被写体に当たるようにするには、(Ra(x1, y1),Ga(x1, y1),Ba(x1, y1))が正の値となるように、仮想光源の強さαと、被写体との距離K(x1, y1)を制御する。また、仮想光源の照射範囲は、取得した顔領域内の輝度分布情報に基づいて、所定の閾値よりも低い輝度値となる座標情報を取得し、その座標が含まれる照射範囲になるよう制御する。また、仮想光源の強さαを大きくし過ぎて白飛びや階調反転などの弊害が生じる可能性もあるので、仮想光源の強さαの範囲としては、照射範囲外となる輝度値が高い領域の平均輝度値±βの範囲内の輝度値とし、ある閾値βの範囲内で制御する。上述した処理により、仮想光源設定部405は仮想光源の位置の範囲、照射する範囲、強度の範囲を算出し、その範囲内の平均値を仮想光源の位置、照射範囲、強度として設定値を決定する。
Ga=α×mapL・mapN・mapK×Gt …(4)
Ba=α×mapL・mapN・mapK×Bt
仮想光反射成分の算出結果とは、ゲインα(強度)と仮想光源による重みづけマップ(mapL)と法線による重み付けマップ(mapN)と、距離による重み付けマップ(mapK)とを乗算した結果を示している。仮想光源反射成分算出部406において、S808で算出した各被写体グループの仮想光反射成分を合成し、画像全体の仮想光源からの仮想的な光の反射成分(Ra,Ga,Ba)を算出する。例えば、図10に示した撮影画像のように複数人の例では、各被写体の仮想光反射成分を合成する。合成方法は既存の方法でよいが、例えば、比較明合成処理などで合成する。合成した例を図10(c)に示す。
また本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現できる。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現できる。
Claims (14)
- 撮影画像を取得する取得手段と、
前記撮影画像に含まれる被写体を検出する複数の検出手段と、
前記被写体を照明する仮想的な光源である仮想光源を設定する設定手段と、
前記設定手段が設定した仮想光源を用いて前記撮影画像の明るさを補正する補正手段と、を備え、
前記設定手段は、前記複数の検出手段の検出結果に基づいて、明るさを補正すべき被写体である信頼度を示すリライティング信頼度を算出し、算出されたリライティング信頼度に基づいて、前記仮想光源のパラメータを設定することを特徴とする画像処理装置。 - 前記撮影画像に含まれる複数の被写体の前記リライティング信頼度が全て所定の閾値以上である場合に、前記設定手段は、前記複数の被写体の全てを前記仮想光源で照明するように、前記仮想光源のパラメータを設定することを特徴とする請求項1に記載の画像処理装置。
- 前記撮影画像に含まれる複数の被写体の前記リライティング信頼度のうち所定の閾値より小さいものがある場合、前記設定手段は、前記複数の被写体から1つまたは複数の主要被写体を選択し、該1つまたは複数の主要被写体の前記リライティング信頼度が全て前記所定の閾値以上である場合に、前記設定手段は、前記1つまたは複数の主要被写体の全てを前記仮想光源で照明するように、前記仮想光源のパラメータを設定することを特徴とする請求項1に記載の画像処理装置。
- 前記撮影画像に含まれる複数の被写体の前記リライティング信頼度のうち所定の閾値より小さいものがある場合、前記設定手段は、前記複数の被写体から1つまたは複数の主要被写体を選択し、該1つまたは複数の主要被写体の前記リライティング信頼度のうち前記所定の閾値より小さいものがある場合、前記補正手段は、前記仮想光源を用いた補正を行わないことを特徴とする請求項1に記載の画像処理装置。
- 前記補正手段は、前記仮想光源を用いた補正を行わない場合に、画面全体について明るさを補正することを特徴とする請求項4に記載の画像処理装置。
- 前記設定手段は、前記複数の検出手段による被写体の検出数が一致する場合に、前記リライティング信頼度を高く算出し、被写体の検出数が異なる場合に、前記リライティング信頼度を低く算出することを特徴とする請求項1乃至5のいずれか1項に記載の画像処理装置。
- 前記設定手段は、前記複数の検出手段のそれぞれによる1つの被写体についての検出信頼度を平均することにより、前記1つの被写体に対する前記リライティング信頼度を算出することを特徴とする請求項6に記載の画像処理装置。
- 前記設定手段が設定する前記仮想光源のパラメータは、前記仮想光源の位置、仮想光の照射範囲、仮想光の強度を含むことを特徴とする請求項1乃至7のいずれか1項に記載の画像処理装置。
- 前記設定手段が設定する前記仮想光源のパラメータは、被写体を明るくする加算光、被写体を暗くする減算光、被写体に鏡面反射を付加する鏡面反射光を含む複数の種類の仮想光のいずれかを示すパラメータを含むことを特徴とする請求項1乃至8のいずれか1項に記載の画像処理装置。
- 前記設定手段が設定する仮想光源のパラメータは、被写体を明るくする加算光の数、被写体を暗くする減算光の数、被写体に鏡面反射を付加する鏡面反射光の数を含む複数の種類の仮想光の数を示すパラメータを含むことを特徴とする請求項1乃至9のいずれか1項に記載の画像処理装置。
- 被写体を撮影して、前記撮影画像を出力する撮像手段と、
請求項1乃至10のいずれか1項に記載の画像処理装置と、
を備えることを特徴とする撮像装置。 - 撮影画像を取得する取得手段と、前記撮影画像に含まれる被写体を検出する複数の検出手段と、を備える画像処理装置を制御する方法であって、
前記被写体を照明する仮想的な光源である仮想光源を設定する設定工程と、
前記設定工程において設定された仮想光源を用いて前記撮影画像の明るさを補正する補正工程と、を備え、
前記設定工程では、前記複数の検出手段の検出結果に基づいて、明るさを補正すべき被写体である信頼度を示すリライティング信頼度を算出し、算出されたリライティング信頼度に基づいて、前記仮想光源のパラメータを設定することを特徴とする画像処理装置の制御方法。 - コンピュータを、請求項1乃至10のいずれか1項に記載の画像処理装置の各手段として機能させるためのプログラム。
- コンピュータを、請求項1乃至10のいずれか1項に記載の画像処理装置の各手段として機能させるためのプログラムを記憶したコンピュータが読み取り可能な記憶媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019083205A JP7356255B2 (ja) | 2019-04-24 | 2019-04-24 | 画像処理装置及びその処理方法、撮像装置、プログラム、記憶媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019083205A JP7356255B2 (ja) | 2019-04-24 | 2019-04-24 | 画像処理装置及びその処理方法、撮像装置、プログラム、記憶媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020181330A true JP2020181330A (ja) | 2020-11-05 |
JP7356255B2 JP7356255B2 (ja) | 2023-10-04 |
Family
ID=73024706
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019083205A Active JP7356255B2 (ja) | 2019-04-24 | 2019-04-24 | 画像処理装置及びその処理方法、撮像装置、プログラム、記憶媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7356255B2 (ja) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016072694A (ja) * | 2014-09-26 | 2016-05-09 | キヤノン株式会社 | 画像処理装置およびその制御方法、プログラムならびに記録媒体 |
JP2018182699A (ja) * | 2017-04-21 | 2018-11-15 | キヤノン株式会社 | 画像処理装置およびその制御方法、プログラム、並びに記憶媒体 |
JP2019004290A (ja) * | 2017-06-14 | 2019-01-10 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法、及びプログラム |
-
2019
- 2019-04-24 JP JP2019083205A patent/JP7356255B2/ja active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016072694A (ja) * | 2014-09-26 | 2016-05-09 | キヤノン株式会社 | 画像処理装置およびその制御方法、プログラムならびに記録媒体 |
JP2018182699A (ja) * | 2017-04-21 | 2018-11-15 | キヤノン株式会社 | 画像処理装置およびその制御方法、プログラム、並びに記憶媒体 |
JP2019004290A (ja) * | 2017-06-14 | 2019-01-10 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法、及びプログラム |
Also Published As
Publication number | Publication date |
---|---|
JP7356255B2 (ja) | 2023-10-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6442209B2 (ja) | 画像処理装置およびその制御方法 | |
JP6833415B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP6381404B2 (ja) | 画像処理装置及び方法、及び撮像装置 | |
JP6412386B2 (ja) | 画像処理装置およびその制御方法、プログラムならびに記録媒体 | |
US10863103B2 (en) | Setting apparatus, setting method, and storage medium | |
JP6718253B2 (ja) | 画像処理装置及び画像処理方法 | |
US11893716B2 (en) | Image processing apparatus and image processing method, and image capturing apparatus | |
JP7114335B2 (ja) | 画像処理装置、画像処理装置の制御方法、及び、プログラム | |
JP6937603B2 (ja) | 画像処理装置およびその制御方法、プログラム、並びに記憶媒体 | |
JP7277158B2 (ja) | 設定装置及び方法、プログラム、記憶媒体 | |
JP2017147568A (ja) | 画像処理装置、撮像装置、制御方法及びプログラム | |
JP6921606B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP7398939B2 (ja) | 画像処理装置およびその制御方法、撮像装置、プログラム、並びに記憶媒体 | |
JP7356255B2 (ja) | 画像処理装置及びその処理方法、撮像装置、プログラム、記憶媒体 | |
JP7311995B2 (ja) | 画像処理装置及び画像処理方法、プログラム、記憶媒体 | |
JP2018182700A (ja) | 画像処理装置およびその制御方法、プログラム、並びに記憶媒体 | |
JP2017138927A (ja) | 画像処理装置、撮像装置およびそれらの制御方法、それらのプログラム | |
JP7462464B2 (ja) | 画像処理装置および方法、プログラム、記憶媒体 | |
JP7011694B2 (ja) | 画像処理装置およびその制御方法、プログラム | |
JP6727276B2 (ja) | 画像処理装置、その制御方法、プログラム | |
JP6675461B2 (ja) | 画像処理装置およびその制御方法、ならびにプログラム | |
JP2021064884A (ja) | 画像処理装置、撮像装置、制御方法、プログラム及び撮像システム | |
JP6663246B2 (ja) | 画像処理装置、撮像装置およびこれらの制御方法ならびにプログラム | |
US20200051212A1 (en) | Image processing apparatus, image processing method, and storage medium | |
JP2021087125A (ja) | 画像処理装置、その制御装置、プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20210103 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210113 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220425 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230406 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230508 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230703 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230825 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230922 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7356255 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |