JP2017011364A - 画像撮像装置、画像撮像方法及びコンピュータプログラム - Google Patents
画像撮像装置、画像撮像方法及びコンピュータプログラム Download PDFInfo
- Publication number
- JP2017011364A JP2017011364A JP2015122074A JP2015122074A JP2017011364A JP 2017011364 A JP2017011364 A JP 2017011364A JP 2015122074 A JP2015122074 A JP 2015122074A JP 2015122074 A JP2015122074 A JP 2015122074A JP 2017011364 A JP2017011364 A JP 2017011364A
- Authority
- JP
- Japan
- Prior art keywords
- image
- pixel
- correction target
- target pixel
- image capturing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000004590 computer program Methods 0.000 title claims description 3
- 238000000034 method Methods 0.000 title description 26
- 238000012937 correction Methods 0.000 claims abstract description 93
- 230000003287 optical effect Effects 0.000 claims abstract description 17
- 238000003384 imaging method Methods 0.000 claims abstract description 13
- 238000002834 transmittance Methods 0.000 claims description 50
- 238000001514 detection method Methods 0.000 claims description 12
- 230000035699 permeability Effects 0.000 abstract 1
- 238000012545 processing Methods 0.000 description 18
- 238000010586 diagram Methods 0.000 description 10
- 208000003443 Unconsciousness Diseases 0.000 description 8
- 230000006870 function Effects 0.000 description 5
- 230000000694 effects Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000012634 optical imaging Methods 0.000 description 1
Landscapes
- Image Processing (AREA)
- Facsimile Image Signal Circuits (AREA)
- Studio Devices (AREA)
Abstract
【解決手段】同一の被写体が撮像された複数の要素画像を有するライトフィールド画像を画像撮像部が撮像し、要素画像毎に、その要素画像において輝度値が偏ってしまっている領域の画素であることを示す条件を満たす補正対象画素を検出し、補正対象画素とは異なる要素画像に含まれる画素であって、補正対象画素に写っている被写体と同じ被写体が写っている画素である代替画素を、補正対象画素毎に1又は複数取得し、補正対象画素の輝度値を、代替画素の輝度値に基づいて補正する。画像撮像部は、メインレンズ及びマイクロレンズを含む光学系において2種以上の透過率の光学系と、受光部と、を有している。
【選択図】図1
Description
このように、撮像素子が一度に取得できる光量には、予め定められた範囲がある。このことが、ダイナミックレンジの広い画像を取得する際の妨げとなっている。ダイナミックレンジを広くした画像を取得するための方法として、非特許文献1に記載された技術や、非特許文献2に記載された技術がある。
また、非特許文献2に記載された技術では、LCoSを用いた可変露光カメラによって、画素単位で露光を制御することが可能となっている。そのため、ダイナミックレンジがより広い画像(HDR:High Dynamic Range)画像を一度の撮像で生成することが可能である。しかしながら、カメラではない特殊なデバイスを用いる必要があるため、利便性に欠ける。
上記事情に鑑み、本発明は、ダイナミックレンジがより広い画像を、より簡易な装置によって生成することを可能とする技術の提供を目的とする。
本実施形態における画像撮像装置は、ライトフィールド画像を撮像する画像撮像部を備える。画像撮像部は、メインレンズ及びマイクロレンズを含む光学系において、2種以上の透過率の光学系を有している。例えば、あるマイクロレンズを通過した光に基づいて撮像された要素画像と、他のマイクロレンズを通過した光に基づいて撮像された要素画像とでは、撮像に際して光が通過した光学系の光の透過率が異なる場合がある。このような画像撮像部によって撮像されたライトフィールド画像を用いることによって、ダイナミックレンジがより広い画像を、より簡易な装置によって生成することが可能となる。以下、本実施形態の画像撮像装置についてより詳細に説明する。
図1は、画像撮像装置の第一実施形態(画像撮像装置10)の機能構成を示す概略ブロック図である。画像撮像装置10は、バスで接続されたCPU(Central Processing Unit)やメモリや補助記憶装置などを備える。画像撮像装置10のCPUは、画像撮像装置10のメモリに予め記憶されている画像補正プログラムを実行する。CPUが画像補正プログラムを実行することによって、画像撮像装置10は、画像撮像部101、マイクロレンズ画像取得部102、補正対象画素検出部103、代替画素取得部104及び補正部105を備える装置として機能する。なお、画像撮像装置10の各機能の全て又は一部は、ASIC(Application Specific Integrated Circuit)やPLD(Programmable Logic Device)やFPGA(Field Programmable Gate Array)等のハードウェアを用いて実現されてもよい。画像補正プログラムは、コンピュータ読み取り可能な記録媒体に記録されてもよい。コンピュータ読み取り可能な記録媒体とは、例えばフレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置である。画像補正プログラムは、電気通信回線を介して送信されてもよい。
a+b=1 ・・・(式2)
P:補正後の輝度値
P1:補正対象画素の補正前の輝度値
P2:代替画素の輝度値
a:補正対象画素の輝度値に対する重み
b:代替画素の輝度値に対する重み
補正部105は、ケラレ効果を利用して補正処理を実行してもよい。この場合、補正部105は、画像撮像装置10固有のケラレパラメータを予め記憶している。ケラレパラメータは、例えばケラレキャリブレーションを行うことによって、予め取得される。ケラレキャリブレーションでは、プレノプティックカメラによる被写体の撮影が行われる前に、白い紙や壁などの輝度が均一のものが撮影される。このような処理によって、プレノプティックカメラ毎に固有であるケラレのパラメータが事前に推定される。補正部105は、補正処理が行われるよりも前の時点で、ケラレパラメータを記憶している。
図8は、画像撮像装置の第二実施形態(画像撮像装置10a)の機能構成を示す概略ブロック図である。画像撮像装置10aは、画像撮像部101に代えて画像撮像部101aを備える点、マスク制御部111をさらに備える点、において第一実施形態の画像撮像装置10と異なる。画像撮像装置10aの残る構成は、第一実施形態の画像撮像装置10と同じである。
マスク制御部111は、マスクユニット206に対応付けられたマイクロレンズ画像に関して、マスクユニット206が取りうる各透過率での補正対象画素の総数を判定する。マスク制御部111は、最も補正対象画素の数が少ない透過率を、処理対象となっているマスクユニット206の透過率として決定する。
マスク制御部111は、マスクユニット206に対応付けられたマイクロレンズ画像に関して、他のマイクロレンズ画像に対する代替画素を検出する。マスク制御部111は、マスクユニット206が取りうる各透過率において、所定の条件を満たさない代替画素の総数を判定する。マスク制御部111は、所定の条件を満たさない代替画素の総数が最も少ない透過率を、処理対象となっているマスクユニット206の透過率として決定する。マスク制御部111は、このような処理を全てのマスクユニット206について実行する。マスク制御部111は、少なくとも1回以上このような処理を実行することによって透過率を決定する。マスク制御部111は、このような処理を所定の回数繰り返し実行した時点の透過率を最終的な透過率として決定してもよい。
以上で、マスク制御部111が行う処理の具体例についての説明を終える。
マスクアレイは、マイクロレンズアレイと受光部との間に設けられてもよい。この場合、マスクユニットが透過率を変化させることにより、そのマスクユニットに対応付けられたマイクロレンズアレイを通過して受光部に到達する光の量が変化する。
マスク制御部111は、マスクユニット206に対応付けられたマイクロレンズ画像に関して、マスクユニット206が取り得る各透過率でのマイクロレンズ画像に属する全ての画素の輝度値のヒストグラムを取得する。マスク制御部111は、取得されたヒストグラムに基づいて、処理対象となっているマスクユニット206の透過率を決定してもよい。例えば、マスク制御部111は、ヒストグラムの度数の最大値や偏りが最も中央(輝度値の取り得る値の中央)にくるような透過率を、処理対象となっているマスクユニット206の透過率として決定してもよい。
マスク制御部111は、マスクユニット206に対応付けられたマイクロレンズ画像に関して、マスクユニット206が取り得る各透過率でのマイクロレンズ画像に属する全ての画素の輝度値の平均値を取得する。マスク制御部111は、平均値が輝度値の中央値(例えば輝度値が0〜255である場合には128)に最も近づくときの透過率を、処理対象となっているマスクユニット206の透過率として決定してもよい。
第二実施形態の画像撮像装置10aは、第一実施形態の画像撮像装置10と同様に変形されてもよい。
Claims (6)
- 同一の被写体が撮像された複数の要素画像を有するライトフィールド画像を撮像する画像撮像部と、
前記要素画像毎に、その要素画像において輝度値が偏ってしまっている領域の画素であることを示す条件を満たす補正対象画素を検出する補正対象画素検出部と、
前記補正対象画素とは異なる要素画像に含まれる画素であって、前記補正対象画素に写っている被写体と同じ被写体が写っている画素である代替画素を、前記補正対象画素毎に1又は複数取得する代替画素取得部と、
前記補正対象画素の輝度値を、前記代替画素の輝度値に基づいて補正する補正部と、
を備え、
前記画像撮像部は、メインレンズ及びマイクロレンズを含む光学系において2種以上の透過率の光学系と、受光部と、を有している、画像撮像装置。 - 前記画像撮像部は、2種以上の透過率の光学系として、透過率が異なる2種以上のマイクロレンズを備える、請求項1に記載の画像撮像装置。
- 前記画像撮像部は、2種以上の透過率の光学系として、透過率を変更可能な複数のマスクユニットを、前記メインレンズと前記受光部との間に有している、請求項1に記載の画像撮像装置。
- 前記代替画素取得部は、前記代替画素のうち、前記条件を満たさない代替画素のみを取得する、請求項1から3のいずれか一項に記載の画像撮像装置。
- 同一の被写体が撮像された複数の要素画像を有するライトフィールド画像を画像撮像部が撮像する画像撮像ステップと、
前記要素画像毎に、その要素画像において輝度値が偏ってしまっている領域の画素であることを示す条件を満たす補正対象画素を検出する補正対象画素検出ステップと、
前記補正対象画素とは異なる要素画像に含まれる画素であって、前記補正対象画素に写っている被写体と同じ被写体が写っている画素である代替画素を、前記補正対象画素毎に1又は複数取得する代替画素取得ステップと、
前記補正対象画素の輝度値を、前記代替画素の輝度値に基づいて補正する補正ステップと、
を有し、
前記画像撮像部は、メインレンズ及びマイクロレンズを含む光学系において2種以上の透過率の光学系と、受光部と、を有している画像撮像方法。 - 請求項1から4のいずれか一項に記載の画像撮像装置としてコンピュータを機能させるためのコンピュータプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015122074A JP6348883B2 (ja) | 2015-06-17 | 2015-06-17 | 画像撮像装置、画像撮像方法及びコンピュータプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015122074A JP6348883B2 (ja) | 2015-06-17 | 2015-06-17 | 画像撮像装置、画像撮像方法及びコンピュータプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017011364A true JP2017011364A (ja) | 2017-01-12 |
JP6348883B2 JP6348883B2 (ja) | 2018-06-27 |
Family
ID=57764026
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015122074A Active JP6348883B2 (ja) | 2015-06-17 | 2015-06-17 | 画像撮像装置、画像撮像方法及びコンピュータプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6348883B2 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017170392A1 (ja) * | 2016-03-30 | 2017-10-05 | 株式会社ニコン | 光学装置 |
CN113035150A (zh) * | 2019-12-25 | 2021-06-25 | 精工爱普生株式会社 | 显示装置的控制方法和显示装置 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013258602A (ja) * | 2012-06-13 | 2013-12-26 | Olympus Corp | 撮像装置 |
JP2014160912A (ja) * | 2013-02-19 | 2014-09-04 | Casio Comput Co Ltd | 画像処理装置、撮像装置、画像処理方法及びプログラム |
JP2015106722A (ja) * | 2013-11-28 | 2015-06-08 | 株式会社ニコン | 撮像素子および撮像装置 |
-
2015
- 2015-06-17 JP JP2015122074A patent/JP6348883B2/ja active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013258602A (ja) * | 2012-06-13 | 2013-12-26 | Olympus Corp | 撮像装置 |
JP2014160912A (ja) * | 2013-02-19 | 2014-09-04 | Casio Comput Co Ltd | 画像処理装置、撮像装置、画像処理方法及びプログラム |
JP2015106722A (ja) * | 2013-11-28 | 2015-06-08 | 株式会社ニコン | 撮像素子および撮像装置 |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017170392A1 (ja) * | 2016-03-30 | 2017-10-05 | 株式会社ニコン | 光学装置 |
CN113035150A (zh) * | 2019-12-25 | 2021-06-25 | 精工爱普生株式会社 | 显示装置的控制方法和显示装置 |
CN113035150B (zh) * | 2019-12-25 | 2024-01-30 | 精工爱普生株式会社 | 显示装置的控制方法和显示装置 |
Also Published As
Publication number | Publication date |
---|---|
JP6348883B2 (ja) | 2018-06-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9699387B2 (en) | Image processing device for processing pupil-divided images obtained through different pupil regions of an imaging optical system, control method thereof, and program | |
US20140307129A1 (en) | System and method for lens shading compensation | |
JP6833415B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP4466015B2 (ja) | 画像処理装置および画像処理プログラム | |
US20180182075A1 (en) | Image processing apparatus, image capturing apparatus, method of image processing, and storage medium | |
JP5882789B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP6412386B2 (ja) | 画像処理装置およびその制御方法、プログラムならびに記録媒体 | |
JP2015032966A (ja) | 画像処理装置、撮像装置、制御方法、及びプログラム | |
JPWO2012086127A1 (ja) | 画像処理装置、撮像装置、及び画像処理方法 | |
JP2013017002A (ja) | 撮像装置及びその制御方法 | |
JP6353233B2 (ja) | 画像処理装置、撮像装置、及び画像処理方法 | |
US10972676B2 (en) | Image processing method and electronic device capable of optimizing hdr image by using depth information | |
JP4419479B2 (ja) | 画像処理装置および画像処理プログラム | |
JP6348883B2 (ja) | 画像撮像装置、画像撮像方法及びコンピュータプログラム | |
JP2017147568A (ja) | 画像処理装置、撮像装置、制御方法及びプログラム | |
JP7479831B2 (ja) | 撮像装置およびその制御方法、プログラム | |
JP4438363B2 (ja) | 画像処理装置および画像処理プログラム | |
JP4466017B2 (ja) | 画像処理装置および画像処理プログラム | |
JP6362070B2 (ja) | 画像処理装置、撮像装置、画像処理方法、プログラム、および、記憶媒体 | |
JP2008042227A (ja) | 撮像装置 | |
CN116055907A (zh) | 图像处理设备、摄像设备、图像处理方法和存储介质 | |
JP4466016B2 (ja) | 画像処理装置および画像処理プログラム | |
JP6556033B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP2017010114A (ja) | 画像補正装置、画像補正方法及びコンピュータプログラム | |
JP7297566B2 (ja) | 画像処理装置、撮像装置、画像処理方法およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170626 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180220 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180227 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180419 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180529 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180601 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6348883 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |