JP6718256B2 - 画像処理装置、撮像装置およびそれらの制御方法ならびにプログラム - Google Patents
画像処理装置、撮像装置およびそれらの制御方法ならびにプログラム Download PDFInfo
- Publication number
- JP6718256B2 JP6718256B2 JP2016036313A JP2016036313A JP6718256B2 JP 6718256 B2 JP6718256 B2 JP 6718256B2 JP 2016036313 A JP2016036313 A JP 2016036313A JP 2016036313 A JP2016036313 A JP 2016036313A JP 6718256 B2 JP6718256 B2 JP 6718256B2
- Authority
- JP
- Japan
- Prior art keywords
- light source
- subject
- image
- virtual light
- state
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims description 99
- 238000000034 method Methods 0.000 title claims description 40
- 238000003384 imaging method Methods 0.000 title claims description 15
- 230000008859 change Effects 0.000 claims description 26
- 238000006243 chemical reaction Methods 0.000 description 21
- 230000008569 process Effects 0.000 description 21
- 238000004364 calculation method Methods 0.000 description 18
- 238000005286 illumination Methods 0.000 description 9
- 238000001514 detection method Methods 0.000 description 7
- 238000012937 correction Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 description 5
- 229920006395 saturated elastomer Polymers 0.000 description 4
- 201000005569 Gout Diseases 0.000 description 3
- 230000003321 amplification Effects 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 238000003199 nucleic acid amplification method Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/74—Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/76—Circuitry for compensating brightness variation in the scene by influencing the image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
- Stroboscope Apparatuses (AREA)
Description
以下、本発明の例示的な実施形態について、図面を参照して詳細に説明する。なお、以下では画像処理装置の一例として、撮像可能な任意のデジタルカメラに本発明を適用した例を説明する。しかし、本発明は、デジタルカメラに限らず、撮像された画像を取得してリライティング処理を行うことが可能な任意の機器にも適用可能である。これらの機器には、例えば携帯電話機、ゲーム機、タブレット端末、パーソナルコンピュータ、時計型や眼鏡型の情報端末、監視システム、医療機器などが含まれてよい。
図1は、本実施形態の画像処理装置の一例としてデジタルカメラ100の機能構成例を示すブロック図である。なお、図1に示す機能ブロックの1つ以上は、ASICやプログラマブルロジックアレイ(PLA)などのハードウェアによって実現されてもよいし、CPUやMPU等のプログラマブルプロセッサがソフトウェアを実行することによって実現されてもよい。また、ソフトウェアとハードウェアの組み合わせによって実現されてもよい。従って、以下の説明において、異なる機能ブロックが動作主体として記載されている場合であっても、同じハードウェアが主体として実現されうる。
次に、上記のように構成されたデジタルカメラ100における被写体撮影時の基本動作について説明する。
次に、画像処理部105の構成及び動作について、図2を参照して説明する。
次に、リライティング処理部114の構成について、図3を参照して説明する。なお、リライティング処理は、リライティング処理の実行が指定された状態で撮影された画像や、メニュー画面等からリライティング処理の実施が指示された、例えば記録媒体112に記録済の画像に対して実施することができる。リライティング処理において撮影時の情報が必要な場合、不揮発性メモリ121またはシステムメモリ122から読み出したり、画像ファイルのヘッダなどから取得したりするものとする。
次に、図4を参照して、リライティング処理に係る一連の動作を説明する。なお、本処理は、例えば操作部120に含まれるメニュー画面等において記録媒体112に記録された画像が選択された場合に開始される。また、本処理は、システム制御部50が不揮発性メモリ121に記憶されたプログラムをシステムメモリ122の作業用領域に展開、実行すると共に、リライティング処理部114(内部の構成要素を含む)等の各部を制御することにより実現される。
なお、光量αは、例えば実際のストロボの光量と同等となるように設定される。
なお、光量αは、例えば式1に示すストロボの光量と同一である。
Ga = β × (Sm−Sk) × (−L・N) × Gt
Ba = β × (Sm−Sk) × (−L・N) × Bw × Bt
・・・ (式3)
ここで、Lはストロボ123の3次元ベクトル、法線Nは被写体の3次元法線ベクトル、(Rt、Gt、Bt)はデガンマ処理部302から出力されたRGB信号である。仮想光源反射成分算出部304は、測距センサ124からの被写体距離情報に基づいて距離(K、Km)やLを取得し、法線算出部303からの法線マップに基づいて法線Nを取得する。また、Rw、Bwは光源の色を制御する色パラメータであり、ストロボ123の特性に合わせるための所定の値を設定する。このように色パラメータを用いることにより、仮想光源の反射成分に光源の特性を反映することができる。
Rout = Rt + Ra
Gout = Gt + Ga
Bout = Bt + Ra
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
Claims (13)
- 所定の光源の発光を伴って撮影された画像を取得する取得手段と、
前記所定の光源の特性に基づいて、前記画像に適用する仮想光源を設定する設定手段と、
前記仮想光源によって前記画像に含まれる複数の被写体の少なくともいずれかの陰影状態を変更した画像を生成する生成手段と、を備え、
前記設定手段は、前記画像に含まれる、第1の被写体と第2の被写体とが前記所定の光源から異なる距離に存在する場合に、前記所定の光源による前記第1の被写体における陰影状態の変化と前記所定の光源による前記第2の被写体における陰影状態の変化との差を低減するように、前記仮想光源を設定し、更に、前記設定手段は、前記第1の被写体における前記仮想光源による陰影状態の変化が前記差を低減するように、前記仮想光源を設定し、
前記第1の被写体における前記仮想光源による陰影状態の変化は、前記第1の被写体における前記仮想光源の反射成分であり、
前記生成手段は、前記第1の被写体の陰影状態を変更した画像を生成する、
ことを特徴とする画像処理装置。 - 前記設定手段は、前記第1の被写体における前記仮想光源による陰影状態の変化が、前記所定の光源から前記第1の被写体までの距離と前記所定の光源から前記第2の被写体までの距離との差分に応じて変化するように、前記仮想光源を設定する、
ことを特徴とする請求項1に記載の画像処理装置。 - 前記設定手段は、前記第1の被写体における前記仮想光源による陰影状態の変化が、前記第1の被写体における前記所定の光源による光の強度と前記第2の被写体における前記所定の光源による光の強度との差分に応じて変化するように、前記仮想光源を設定する、
ことを特徴とする請求項1又は2に記載の画像処理装置。 - 前記設定手段は、前記第1の被写体における前記仮想光源による陰影状態の変化が、前記画像を撮影した際の絞りの状態に応じて変化するように、前記仮想光源を設定する、
ことを特徴とする請求項1から3のいずれか1項に記載の画像処理装置。 - 前記画像は、前記第2の被写体を基準として明るさを調整して撮影された画像であり、
前記生成手段は、前記所定の光源から前記第1の被写体までの距離が前記所定の光源から前記第2の被写体までの距離より近い場合、前記第1の被写体の飽和していない信号に基づいて、陰影状態を変更した画像を生成する、
ことを特徴とする請求項1から4のいずれか1項に記載の画像処理装置。 - 前記第2の被写体は主被写体であり、前記第1の被写体は、前記主被写体と異なる被写体である、
ことを特徴とする請求項1から5のいずれか1項に記載の画像処理装置。 - 前記所定の光源はストロボであり、前記所定の光源の特性は、光源の色に関する特性を含む、
ことを特徴とする請求項1から6のいずれか1項に記載の画像処理装置。 - 撮像した画像を出力する撮像素子と、
請求項1から7のいずれか1項に記載の画像処理装置と、を備える、
ことを特徴とする撮像装置。 - 撮影する際に発光する、前記所定の光源である発光装置を更に備える、
ことを特徴とする請求項8に記載の撮像装置。 - 取得手段が、所定の光源の発光を伴って撮影された画像を取得する取得工程と、
設定手段が、前記所定の光源の特性に基づいて、前記画像に適用する仮想光源を設定する設定工程と、
生成手段が、前記仮想光源によって前記画像に含まれる複数の被写体の少なくともいずれかの陰影状態を変更した画像を生成する生成工程と、を備え、
前記設定工程では、前記画像に含まれる、第1の被写体と第2の被写体とが前記所定の光源から異なる距離に存在する場合に、前記所定の光源による前記第1の被写体における陰影状態の変化と前記所定の光源による前記第2の被写体における陰影状態の変化との差を低減するように、前記仮想光源を設定し、
更に、前記設定工程では、前記第1の被写体における前記仮想光源による陰影状態の変化が前記差を低減するように、前記仮想光源を設定し、
前記第1の被写体における前記仮想光源による陰影状態の変化は、前記第1の被写体における前記仮想光源の反射成分であり、
前記生成工程では、前記第1の被写体の陰影状態を変更した画像を生成する、
ことを特徴とする画像処理装置の制御方法。 - コンピュータに、請求項10に記載の画像処理装置の制御方法の各工程を実行させるためのプログラム。
- 撮像素子と発光装置とを備える撮像装置の制御方法であって、
撮像素子が、前記発光装置の発光を伴って画像を撮影する撮影工程と、
設定手段が、前記発光装置の特性に基づいて、前記画像に適用する仮想光源を設定する設定工程と、
生成手段が、前記仮想光源によって前記画像に含まれる複数の被写体の少なくともいずれかの陰影状態を変更した画像を生成する生成工程と、を備え、
前記設定工程では、前記画像に含まれる、第1の被写体と第2の被写体とが前記発光装置から異なる距離に存在する場合に、前記発光装置による前記第1の被写体における陰影状態の変化と前記発光装置による前記第2の被写体における陰影状態の変化との差を低減するように、前記仮想光源を設定し、
更に、前記設定工程では、前記第1の被写体における前記仮想光源による陰影状態の変化が前記差を低減するように、前記仮想光源を設定し、
前記第1の被写体における前記仮想光源による陰影状態の変化は、前記第1の被写体における前記仮想光源の反射成分であり、
前記生成工程では、前記第1の被写体の陰影状態を変更した画像を生成する、
ことを特徴とする撮像装置の制御方法。 - コンピュータに、請求項12に記載の撮像装置の制御方法の各工程を実行させるためのプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016036313A JP6718256B2 (ja) | 2016-02-26 | 2016-02-26 | 画像処理装置、撮像装置およびそれらの制御方法ならびにプログラム |
US15/435,504 US10021314B2 (en) | 2016-02-26 | 2017-02-17 | Image processing apparatus, image capturing apparatus, method of controlling the same, and storage medium for changing shading using a virtual light source |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016036313A JP6718256B2 (ja) | 2016-02-26 | 2016-02-26 | 画像処理装置、撮像装置およびそれらの制御方法ならびにプログラム |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2017153045A JP2017153045A (ja) | 2017-08-31 |
JP2017153045A5 JP2017153045A5 (ja) | 2019-04-04 |
JP6718256B2 true JP6718256B2 (ja) | 2020-07-08 |
Family
ID=59679973
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016036313A Active JP6718256B2 (ja) | 2016-02-26 | 2016-02-26 | 画像処理装置、撮像装置およびそれらの制御方法ならびにプログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US10021314B2 (ja) |
JP (1) | JP6718256B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6995554B2 (ja) * | 2017-10-02 | 2022-01-14 | キヤノン株式会社 | 撮像装置および撮像方法 |
JP7292905B2 (ja) * | 2019-03-06 | 2023-06-19 | キヤノン株式会社 | 画像処理装置及び画像処理方法、及び撮像装置 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5237066B2 (ja) * | 2008-11-28 | 2013-07-17 | キヤノン株式会社 | 複合現実感提示システムおよび複合現実感提示方法、プログラム |
US20120120071A1 (en) * | 2010-07-16 | 2012-05-17 | Sony Ericsson Mobile Communications Ab | Shading graphical objects based on face images |
JP5699652B2 (ja) | 2011-02-07 | 2015-04-15 | 株式会社ニコン | カメラ、およびカメラシステム |
JP6442209B2 (ja) * | 2014-09-26 | 2018-12-19 | キヤノン株式会社 | 画像処理装置およびその制御方法 |
-
2016
- 2016-02-26 JP JP2016036313A patent/JP6718256B2/ja active Active
-
2017
- 2017-02-17 US US15/435,504 patent/US10021314B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2017153045A (ja) | 2017-08-31 |
US20170251136A1 (en) | 2017-08-31 |
US10021314B2 (en) | 2018-07-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6445844B2 (ja) | 撮像装置および撮像装置で実行される方法 | |
JP5108093B2 (ja) | 撮像装置及び撮像方法 | |
JP6049343B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP5743696B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2009212853A (ja) | ホワイトバランス制御装置およびその制御方法並びに撮像装置 | |
JP6381404B2 (ja) | 画像処理装置及び方法、及び撮像装置 | |
JP6463177B2 (ja) | 画像処理装置およびその制御方法 | |
JP2017123020A (ja) | 画像処理装置および撮像装置、それらの制御方法ならびにプログラム | |
JP2013058858A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP7059076B2 (ja) | 画像処理装置、その制御方法、プログラム、記録媒体 | |
JP2017138927A (ja) | 画像処理装置、撮像装置およびそれらの制御方法、それらのプログラム | |
JP6718256B2 (ja) | 画像処理装置、撮像装置およびそれらの制御方法ならびにプログラム | |
JP2018182700A (ja) | 画像処理装置およびその制御方法、プログラム、並びに記憶媒体 | |
JP2018182699A (ja) | 画像処理装置およびその制御方法、プログラム、並びに記憶媒体 | |
JP2010183460A (ja) | 撮像装置およびその制御方法 | |
JP2018092350A (ja) | 画像処理装置、画像処理方法、およびプログラム | |
JP6570311B2 (ja) | 画像処理装置及び画像処理方法 | |
CN112911161B (zh) | 图像处理装置、图像处理方法、摄像装置和存储介质 | |
JP6541416B2 (ja) | 画像処理装置及び画像処理方法、プログラム、記憶媒体 | |
JP2018107741A (ja) | 画像処理装置、画像処理方法、およびプログラム | |
JP2015119436A (ja) | 撮像装置 | |
JP7011694B2 (ja) | 画像処理装置およびその制御方法、プログラム | |
JP6601062B2 (ja) | 撮像制御装置、撮像制御方法及びプログラム | |
JP2024071082A (ja) | 撮像装置及びその制御方法とプログラム | |
US9936158B2 (en) | Image processing apparatus, method and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190221 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190221 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20191106 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20191111 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191227 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200515 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200612 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6718256 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |