JP2017138927A - 画像処理装置、撮像装置およびそれらの制御方法、それらのプログラム - Google Patents
画像処理装置、撮像装置およびそれらの制御方法、それらのプログラム Download PDFInfo
- Publication number
- JP2017138927A JP2017138927A JP2016021234A JP2016021234A JP2017138927A JP 2017138927 A JP2017138927 A JP 2017138927A JP 2016021234 A JP2016021234 A JP 2016021234A JP 2016021234 A JP2016021234 A JP 2016021234A JP 2017138927 A JP2017138927 A JP 2017138927A
- Authority
- JP
- Japan
- Prior art keywords
- subject
- light source
- image
- image processing
- correction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 118
- 238000000034 method Methods 0.000 title claims description 31
- 238000003384 imaging method Methods 0.000 title claims description 15
- 238000012937 correction Methods 0.000 claims abstract description 87
- 238000005286 illumination Methods 0.000 claims description 67
- 238000006243 chemical reaction Methods 0.000 description 15
- 238000004364 calculation method Methods 0.000 description 13
- 208000029152 Small face Diseases 0.000 description 12
- 238000001514 detection method Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 9
- 238000011156 evaluation Methods 0.000 description 9
- 230000000694 effects Effects 0.000 description 6
- 229940085606 rembrandt Drugs 0.000 description 6
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 230000006870 function Effects 0.000 description 3
- 230000003321 amplification Effects 0.000 description 2
- 238000003199 nucleic acid amplification method Methods 0.000 description 2
- 240000001973 Ficus microcarpa Species 0.000 description 1
- 201000005569 Gout Diseases 0.000 description 1
- 241001465754 Metazoa Species 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 230000001815 facial effect Effects 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Abstract
Description
以下、本発明の例示的な実施形態について、図面を参照して詳細に説明する。なお、以下では画像処理装置の一例として、画像を撮影して被写体の陰影状態を変更可能な任意のデジタルカメラに本発明を適用した例を説明する。しかし、本発明は、撮像が可能なデジタルカメラに限らず、撮影された画像を取得して被写体の陰影状態を変更可能な任意の機器にも適用可能である。これらの機器には、例えば携帯電話機、ゲーム機、タブレット端末、パーソナルコンピュータ、時計型や眼鏡型の情報端末、車載機器や監視システム、医療機器などが含まれてよい。
図1は、本実施形態の画像処理装置の一例としてデジタルカメラ100の機能構成例を示すブロック図である。なお、図1に示す機能ブロックの1つ以上は、ASICやプログラマブルロジックアレイ(PLA)などのハードウェアによって実現されてもよいし、CPUやMPU等のプログラマブルプロセッサがソフトウェアを実行することによって実現されてもよい。また、ソフトウェアとハードウェアの組み合わせによって実現されてもよい。従って、以下の説明において、異なる機能ブロックが動作主体として記載されている場合であっても、同じハードウェアが主体として実現されうる。
次に、図2を参照して、画像処理部105の機能構成例について詳細に説明する。
更に、図3を参照して、リライティング処理部114の構成及びその具体的な動作について説明する。なお、操作部120に対するユーザ操作によりリライティング処理が選択された場合、リライティング処理部114は、画像処理部105から出力された画像データに対して、後述する照明モードに応じた、仮想光源を用いたリライティング処理を行う。
Gg = Gt / S (式1)
Bg = Bt / S
但し、SはS>1であり、1/Sは入力信号の明るさを低下させるゲインである。
Ga = α × (−L・N)/K^2 × 1 × Gt (式2)
Ba = α × (−L・N)/K^2 × Bw × Bt
ここで、αは仮想光源の強度、Lは仮想光源の3次元方向ベクトル、Nは被写体表面の3次元の法線ベクトル、Kは仮想光源と被写体の距離である。また、Rt、Gt、Btは、デガンマ処理部302から出力されたRGB信号であり、Rw、Bwは仮想光源の色を制御するパラメータである。
Gout = Gg + Ga (式3)
Bout = Bg + Ba
次に、図5及び図6を参照して、リライティングパラメータの決定処理に係る一連の動作を説明する。本実施形態におけるリライティングパラメータは、法線補正部308が用いる法線の補正特性と、反射成分算出部309が用いる仮想光源パラメータ(仮想光源の位置及び強度)とを表す。リライティングパラメータの決定処理は、リライティング処理部114によるリライティング処理に必要となるパラメータを決定し、リライティング処理部114に提供するための処理である。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
Claims (14)
- 被写体を含んだ画像を取得する取得手段と、
前記画像に適用する仮想光源を設定する設定手段と、
前記仮想光源の方向と被写体表面における法線の方向とに基づいて得られる、前記被写体表面における陰影を、補正特性を用いて補正する補正手段と、
前記補正された陰影を用いて、前記被写体の陰影状態を変更した画像を生成する生成手段と、を備え、
前記補正特性は、所定の被写体表面における、前記仮想光源による光線の反射成分の補正量を示す、
ことを特徴とする画像処理装置。 - 前記所定の被写体表面における、前記仮想光源による光線の反射成分の補正量は、所定の被写体表面の法線の方向における、前記法線の方向の補正量で表わされる、
ことを特徴とする請求項1に記載の画像処理装置。 - 前記所定の被写体表面における、前記仮想光源による光線の反射成分の補正量は、前記仮想光源の方向と所定の被写体表面の法線の方向とのなす角における、前記なす角の補正量で表わされる、
ことを特徴とする請求項1に記載の画像処理装置。 - 前記所定の被写体表面における、前記仮想光源による光線の反射成分の補正量は、前記仮想光源の方向と所定の被写体表面の法線の方向とのなす角における、前記仮想光源による光線の反射成分の補正量で表わされる、
ことを特徴とする請求項1に記載の画像処理装置。 - 前記被写体に付加する陰影状態を定義した、複数の照明モードのうちのいずれかをユーザが選択可能な選択手段を更に備え、
前記補正手段は、前記被写体表面における陰影を、選択された前記照明モードに応じた前記補正特性を用いて補正する、
ことを特徴とする請求項1から4のいずれか1項に記載の画像処理装置。 - 前記設定手段は、前記照明モードに応じて前記仮想光源の位置を設定する、
ことを特徴とする請求項5に記載の画像処理装置。 - 前記照明モードが前記被写体の形状を変化させてみせるモードである場合、前記補正特性は、前記被写体の輪郭に対応する被写体表面において陰影を付加するように構成される、
ことを特徴とする請求項5又は6に記載の画像処理装置。 - 前記補正手段は、被写体表面が、その法線の方向の分布が所定の範囲に含まれる前記被写体表面である場合にのみ、当該被写体表面における前記仮想光源による光線の反射成分を補正する、
ことを特徴とする請求項1から7のいずれか1項に記載の画像処理装置。 - 前記被写体までの距離情報を取得する測距手段を更に備え、
前記補正手段は、前記測距手段により取得した前記被写体までの距離情報に基づく、前記被写体表面における法線の方向を用いる、
ことを特徴とする請求項1から8のいずれか1項に記載の画像処理装置。 - 撮像した画像を出力する撮像素子と、
請求項1から9のいずれか1項に記載の画像処理装置と、を備える、
ことを特徴とする撮像装置。 - 取得手段が、被写体を含んだ画像を取得する取得工程と、
設定手段が、前記画像に適用する仮想光源を設定する設定工程と、
補正手段が、前記仮想光源の方向と被写体表面における法線の方向とに基づいて得られる、前記被写体表面における陰影を、補正特性を用いて補正する補正工程と、
生成手段が、前記補正された陰影を用いて、前記被写体の陰影状態を変更した画像を生成する生成工程と、を備え、
前記補正特性は、所定の被写体表面における、前記仮想光源による光線の反射成分の補正量を示す、
ことを特徴とする画像処理装置の制御方法。 - コンピュータに、請求項11に記載の画像処理装置の制御方法の各工程を実行させるためのプログラム。
- 画像を撮像する撮像素子を備える撮像装置の制御方法であって、
取得手段が、被写体を含んだ前記画像を取得する取得工程と、
設定手段が、前記画像に適用する仮想光源を設定する設定工程と、
補正手段が、前記仮想光源の方向と被写体表面における法線の方向とに基づいて得られる、前記被写体表面における陰影を、補正特性を用いて補正する補正工程と、
生成手段が、前記補正された陰影を用いて、前記被写体の陰影状態を変更した画像を生成する生成工程と、を備え、
前記補正特性は、所定の被写体表面における、前記仮想光源による光線の反射成分の補正量を示す、
ことを特徴とする撮像装置の制御方法。 - コンピュータに、請求項13に記載の撮像装置の制御方法の各工程を実行させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016021234A JP2017138927A (ja) | 2016-02-05 | 2016-02-05 | 画像処理装置、撮像装置およびそれらの制御方法、それらのプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016021234A JP2017138927A (ja) | 2016-02-05 | 2016-02-05 | 画像処理装置、撮像装置およびそれらの制御方法、それらのプログラム |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020168657A Division JP7011694B2 (ja) | 2020-10-05 | 2020-10-05 | 画像処理装置およびその制御方法、プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2017138927A true JP2017138927A (ja) | 2017-08-10 |
Family
ID=59565102
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016021234A Pending JP2017138927A (ja) | 2016-02-05 | 2016-02-05 | 画像処理装置、撮像装置およびそれらの制御方法、それらのプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2017138927A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019205055A (ja) * | 2018-05-23 | 2019-11-28 | キヤノン株式会社 | 画像処理装置、画像処理装置の制御方法、及び、プログラム |
JP2021005418A (ja) * | 2020-10-05 | 2021-01-14 | キヤノン株式会社 | 画像処理装置およびその制御方法、プログラム |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2006077710A1 (ja) * | 2005-01-19 | 2006-07-27 | Matsushita Electric Industrial Co., Ltd. | 画像変換方法、テクスチャマッピング方法、画像変換装置、サーバークライアントシステム、および画像変換プログラム |
JP2006319534A (ja) * | 2005-05-11 | 2006-11-24 | Fuji Photo Film Co Ltd | 撮影装置および方法並びにプログラム |
JP2008004085A (ja) * | 2006-05-23 | 2008-01-10 | Matsushita Electric Ind Co Ltd | 画像処理装置、画像処理方法、プログラム、記録媒体および集積回路 |
JP2014027403A (ja) * | 2012-07-25 | 2014-02-06 | Toshiba Corp | 画像処理装置 |
WO2014102878A1 (ja) * | 2012-12-27 | 2014-07-03 | パナソニック株式会社 | 画像処理装置及び画像処理方法 |
JP2016005203A (ja) * | 2014-06-18 | 2016-01-12 | キヤノン株式会社 | 画像処理装置およびその制御方法 |
-
2016
- 2016-02-05 JP JP2016021234A patent/JP2017138927A/ja active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2006077710A1 (ja) * | 2005-01-19 | 2006-07-27 | Matsushita Electric Industrial Co., Ltd. | 画像変換方法、テクスチャマッピング方法、画像変換装置、サーバークライアントシステム、および画像変換プログラム |
JP2006319534A (ja) * | 2005-05-11 | 2006-11-24 | Fuji Photo Film Co Ltd | 撮影装置および方法並びにプログラム |
JP2008004085A (ja) * | 2006-05-23 | 2008-01-10 | Matsushita Electric Ind Co Ltd | 画像処理装置、画像処理方法、プログラム、記録媒体および集積回路 |
JP2014027403A (ja) * | 2012-07-25 | 2014-02-06 | Toshiba Corp | 画像処理装置 |
WO2014102878A1 (ja) * | 2012-12-27 | 2014-07-03 | パナソニック株式会社 | 画像処理装置及び画像処理方法 |
JP2016005203A (ja) * | 2014-06-18 | 2016-01-12 | キヤノン株式会社 | 画像処理装置およびその制御方法 |
Non-Patent Citations (2)
Title |
---|
小倉 洋平 ほか: "RGB−Dカメラから得られる法線マップを用いた照明推定とリライティング", 日本バーチャルリアリティ学会, vol. 19, no. 1, JPN6017029162, 15 January 2015 (2015-01-15), JP, pages 183 - 186, ISSN: 0004179003 * |
牧 淳人 : "光源方向の推定とGeotensity拘束による3次元形状獲得", 電子情報通信学会技術研究報告, vol. 98, no. 395, JPN6019050132, 13 November 1998 (1998-11-13), JP, pages 71 - 78, ISSN: 0004179002 * |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019205055A (ja) * | 2018-05-23 | 2019-11-28 | キヤノン株式会社 | 画像処理装置、画像処理装置の制御方法、及び、プログラム |
JP7114335B2 (ja) | 2018-05-23 | 2022-08-08 | キヤノン株式会社 | 画像処理装置、画像処理装置の制御方法、及び、プログラム |
JP2021005418A (ja) * | 2020-10-05 | 2021-01-14 | キヤノン株式会社 | 画像処理装置およびその制御方法、プログラム |
JP7011694B2 (ja) | 2020-10-05 | 2022-01-27 | キヤノン株式会社 | 画像処理装置およびその制御方法、プログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20200043225A1 (en) | Image processing apparatus and control method thereof | |
JP6445844B2 (ja) | 撮像装置および撮像装置で実行される方法 | |
JP5108093B2 (ja) | 撮像装置及び撮像方法 | |
JP6381404B2 (ja) | 画像処理装置及び方法、及び撮像装置 | |
JP2018041380A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP6412386B2 (ja) | 画像処理装置およびその制御方法、プログラムならびに記録媒体 | |
CN110324529B (zh) | 图像处理设备及其控制方法 | |
US10863103B2 (en) | Setting apparatus, setting method, and storage medium | |
JP6718253B2 (ja) | 画像処理装置及び画像処理方法 | |
JP6937603B2 (ja) | 画像処理装置およびその制御方法、プログラム、並びに記憶媒体 | |
JP2017138927A (ja) | 画像処理装置、撮像装置およびそれらの制御方法、それらのプログラム | |
JP6921606B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
US10021314B2 (en) | Image processing apparatus, image capturing apparatus, method of controlling the same, and storage medium for changing shading using a virtual light source | |
JP2019145097A (ja) | 設定装置及び方法、プログラム、記憶媒体 | |
JP2020005084A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP2018182700A (ja) | 画像処理装置およびその制御方法、プログラム、並びに記憶媒体 | |
JP7398939B2 (ja) | 画像処理装置およびその制御方法、撮像装置、プログラム、並びに記憶媒体 | |
JP7011694B2 (ja) | 画像処理装置およびその制御方法、プログラム | |
JP2016213717A (ja) | 画像処理装置及び画像処理方法、プログラム、記憶媒体 | |
JP7462464B2 (ja) | 画像処理装置および方法、プログラム、記憶媒体 | |
JP6946055B2 (ja) | 画像処理装置および画像処理方法、プログラム | |
US20200051212A1 (en) | Image processing apparatus, image processing method, and storage medium | |
JP6616674B2 (ja) | 画像処理装置および方法、および撮像装置 | |
JP2021064884A (ja) | 画像処理装置、撮像装置、制御方法、プログラム及び撮像システム | |
JP2021087125A (ja) | 画像処理装置、その制御装置、プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190124 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20191211 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20191223 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200220 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20200706 |