JP6516045B2 - 画像処理装置 - Google Patents
画像処理装置 Download PDFInfo
- Publication number
- JP6516045B2 JP6516045B2 JP2018099866A JP2018099866A JP6516045B2 JP 6516045 B2 JP6516045 B2 JP 6516045B2 JP 2018099866 A JP2018099866 A JP 2018099866A JP 2018099866 A JP2018099866 A JP 2018099866A JP 6516045 B2 JP6516045 B2 JP 6516045B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- light
- imaging
- unit
- microlens
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 claims description 11
- 230000008569 process Effects 0.000 claims description 4
- 238000003384 imaging method Methods 0.000 description 95
- 230000004907 flux Effects 0.000 description 41
- 239000002131 composite material Substances 0.000 description 27
- 230000003287 optical effect Effects 0.000 description 13
- 238000010586 diagram Methods 0.000 description 10
- 230000015572 biosynthetic process Effects 0.000 description 8
- 238000006243 chemical reaction Methods 0.000 description 8
- 230000004048 modification Effects 0.000 description 8
- 238000012986 modification Methods 0.000 description 8
- 238000003786 synthesis reaction Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 6
- 210000001747 pupil Anatomy 0.000 description 5
- 238000004364 calculation method Methods 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 230000002194 synthesizing effect Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000009795 derivation Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000001771 impaired effect Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000007480 spreading Effects 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/272—Means for inserting a foreground image in a background image, i.e. inlay, outlay
-
- H—ELECTRICITY
- H01—ELECTRIC ELEMENTS
- H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
- H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
- H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
- H01L27/144—Devices controlled by radiation
- H01L27/146—Imager structures
- H01L27/14601—Structural or functional details thereof
- H01L27/14625—Optical elements or arrangements associated with the device
- H01L27/14627—Microlenses
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Power Engineering (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- General Physics & Mathematics (AREA)
- Condensed Matter Physics & Semiconductors (AREA)
- Electromagnetism (AREA)
- Computer Hardware Design (AREA)
- Microelectronics & Electronic Packaging (AREA)
- Studio Devices (AREA)
- Image Processing (AREA)
- Image Input (AREA)
Description
本実施の形態のデジタルカメラは、マイクロレンズアレイを介して撮影することにより取得された画像信号が奥行き情報等の波面情報を有することを利用して、数値処理によってユーザが所望する焦点位置を有する画像データを生成する。撮影レンズを介して入射した被写体光束は、マイクロレンズアレイの近傍に結像する。このとき、被写体の位置に応じて光束が結像する位置は撮影レンズの光軸方向に異なるものとなり、さらに被写体が三次元物体であれば被写体光束は同一平面上には結像しない。本実施の形態のデジタルカメラは、ユーザが所望する光軸方向の結像位置に結像する被写体の像を再現した画像データを生成(合成)する。以下、この生成された画像データを合成画像データと称する。合成画像データは、結像光学系の焦点があたかも当該結像位置(実際の結像位置ではなくユーザが所望する位置)にあるように見える。そこで、以下の説明において、この結像位置のことを焦点位置と呼ぶこととする。
(1)デジタルカメラ1は、撮影レンズL1を透過した光束が入射するよう二次元状に配置された複数のマイクロレンズ120から成るマイクロレンズアレイ12と、複数のマイクロレンズ120の各々に対応して当該マイクロレンズ120の後側に配置された複数の撮像画素130を有する撮像素子13とを備える。制御回路101は、複数のマイクロレンズ120の各々に対応する複数の撮像画素130の出力に基づいて、撮影レンズL1の任意の像面における像の画像データを合成する画像合成部105と、画像合成部105により合成された画像データをフーリエ変換するフーリエ変換部106と、複数のマイクロレンズ120に入射した光束の光学的な広がりを表すポイントスプレッドファンクションのフーリエ像でフーリエ変換の結果を実効的に除算する除算部107と、除算部107による除算の結果を逆フーリエ変換し、目的画像データを作成する逆フーリエ変換部108と、を備える。このようにしたので、コントラストの高さと分解能の高さを両立した画像データを合成することができる。
以下、図面を用いて、本発明の第2の実施の形態であるデジタルカメラについて説明する。なお、第1の実施の形態と同一の箇所には第1の実施の形態と同一の符号を付し、説明を省略する。
レンズ交換可能なデジタルカメラに本発明を適用した実施形態について上述したが、本発明はこのような実施の形態に限定されない。例えばレンズ一体型のカメラ等についても本発明を適用することが可能である。
マイクロレンズ120の配列および形状は、第1および第2の実施の形態で述べたものに限定されない。また、撮像素子13の撮像面における各撮像画素の配列および形状についても同様である。例えば、各マイクロレンズ120により被覆される撮像画素130が、マイクロレンズ120毎に分離していてもよい。
ウィナーフィルタを用いずに真の光強度f(x)を求めてもよい。すなわち、上式(5)ではなく(4)を用いてF(u)を求めるように除算部107を構成してもよい。
上記実施の形態では、画像合成部105により合成された合成画像に対して、フーリエ変換部106、除算部107、逆フーリエ変換部108の処理により、マイクロレンズ120による入射光束の重畳を解き、コントラストの高い画像を求めるようにした。しかし、合成前の画像の空間周波数成分が高い部分にハイパスフィルターを加え、低下するコントラストをあらかじめ補完しておくようにしてもよい。
とあらわすことができる。
日本国特許出願2012年第156940号(2012年7月12日出願)
Claims (2)
- 複数のマイクロレンズ毎に複数設けられた受光部の出力データに対してハイパスフィルタ処理を行う処理部と、
前記処理部で前記ハイパスフィルタ処理が行われた前記出力データを合成し、任意の焦点面の画像を生成する画像生成部と、
を備える画像処理装置。 - 前記ハイパスフィルタ処理は、マイクロレンズ密度より空間周波数が高い部分を強調する処理である請求項1に記載の画像処理装置。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012156940 | 2012-07-12 | ||
JP2012156940 | 2012-07-12 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014524899A Division JP6344236B2 (ja) | 2012-07-12 | 2013-07-12 | 画像処理装置および撮像装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018186508A JP2018186508A (ja) | 2018-11-22 |
JP6516045B2 true JP6516045B2 (ja) | 2019-05-22 |
Family
ID=49916173
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014524899A Active JP6344236B2 (ja) | 2012-07-12 | 2013-07-12 | 画像処理装置および撮像装置 |
JP2018099866A Active JP6516045B2 (ja) | 2012-07-12 | 2018-05-24 | 画像処理装置 |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014524899A Active JP6344236B2 (ja) | 2012-07-12 | 2013-07-12 | 画像処理装置および撮像装置 |
Country Status (4)
Country | Link |
---|---|
US (2) | US9838618B2 (ja) |
JP (2) | JP6344236B2 (ja) |
CN (2) | CN108337419A (ja) |
WO (1) | WO2014010734A1 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5671842B2 (ja) * | 2010-06-03 | 2015-02-18 | 株式会社ニコン | 画像処理装置および撮像装置 |
CN105812623B (zh) * | 2014-12-30 | 2018-10-16 | 深圳超多维科技有限公司 | 微透镜阵列成像装置与成像方法 |
KR102554417B1 (ko) * | 2018-06-18 | 2023-07-11 | 삼성전자주식회사 | 이미지 센서 |
Family Cites Families (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7471321B2 (en) * | 2002-01-30 | 2008-12-30 | Ricoh Company, Ltd. | Photographing apparatus and photographing method |
US7173663B2 (en) * | 2002-10-31 | 2007-02-06 | Freescale Semiconductor, Inc. | Automatic exposure control system for a digital camera |
US20050133879A1 (en) * | 2003-04-07 | 2005-06-23 | Takumi Yamaguti | Solid-state imaging device, signal processing device, camera, and spectral device |
US20070279618A1 (en) * | 2004-10-15 | 2007-12-06 | Matsushita Electric Industrial Co., Ltd. | Imaging Apparatus And Image Improving Method |
WO2006128315A1 (en) * | 2005-06-03 | 2006-12-07 | Universität Zürich | Photoarray for detecting time-dependent image data |
JP4826152B2 (ja) | 2005-06-23 | 2011-11-30 | 株式会社ニコン | 画像合成方法及び撮像装置 |
JP4444936B2 (ja) * | 2006-09-19 | 2010-03-31 | 富士フイルム株式会社 | 撮影装置および方法並びにプログラム |
US7792423B2 (en) * | 2007-02-06 | 2010-09-07 | Mitsubishi Electric Research Laboratories, Inc. | 4D light field cameras |
US8229294B2 (en) * | 2007-12-10 | 2012-07-24 | Mitsubishi Electric Research Laboratories, Inc. | Cameras with varying spatio-angular-temporal resolutions |
JP5187145B2 (ja) * | 2008-11-07 | 2013-04-24 | 株式会社ニコン | 画像合成装置および方法 |
JP5463718B2 (ja) * | 2009-04-16 | 2014-04-09 | ソニー株式会社 | 撮像装置 |
JP2010258689A (ja) * | 2009-04-23 | 2010-11-11 | Canon Inc | 画像復元装置 |
JP5499778B2 (ja) * | 2010-03-03 | 2014-05-21 | 株式会社ニコン | 撮像装置 |
JP5671842B2 (ja) * | 2010-06-03 | 2015-02-18 | 株式会社ニコン | 画像処理装置および撮像装置 |
JPWO2012039180A1 (ja) * | 2010-09-24 | 2014-02-03 | 富士フイルム株式会社 | 撮像デバイス及び撮像装置 |
EP2624540B1 (en) * | 2010-10-01 | 2016-11-09 | FUJIFILM Corporation | Imaging device |
US20140176592A1 (en) * | 2011-02-15 | 2014-06-26 | Lytro, Inc. | Configuring two-dimensional image processing based on light-field parameters |
JP2012222742A (ja) * | 2011-04-13 | 2012-11-12 | Sony Corp | 撮像素子および撮像装置 |
JP5548310B2 (ja) * | 2011-04-27 | 2014-07-16 | パナソニック株式会社 | 撮像装置、撮像装置を備える撮像システム、及び撮像方法 |
US9769370B2 (en) * | 2011-05-31 | 2017-09-19 | Nikon Corporation | Exchangeable lens having a settable aperture and camera body that captures an image by an optical system which has a settable aperture |
KR102226707B1 (ko) * | 2013-05-02 | 2021-03-11 | 주식회사 레이언스 | 이미지센서와 이의 구동방법 |
-
2013
- 2013-07-12 US US14/413,288 patent/US9838618B2/en active Active
- 2013-07-12 CN CN201810281528.9A patent/CN108337419A/zh active Pending
- 2013-07-12 JP JP2014524899A patent/JP6344236B2/ja active Active
- 2013-07-12 WO PCT/JP2013/069193 patent/WO2014010734A1/ja active Application Filing
- 2013-07-12 CN CN201380036923.6A patent/CN104471924B/zh active Active
-
2017
- 2017-11-08 US US15/807,103 patent/US10341580B2/en active Active
-
2018
- 2018-05-24 JP JP2018099866A patent/JP6516045B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
CN104471924A (zh) | 2015-03-25 |
JP6344236B2 (ja) | 2018-06-20 |
US20180070027A1 (en) | 2018-03-08 |
CN108337419A (zh) | 2018-07-27 |
CN104471924B (zh) | 2018-05-01 |
US20150319351A1 (en) | 2015-11-05 |
US10341580B2 (en) | 2019-07-02 |
WO2014010734A1 (ja) | 2014-01-16 |
JPWO2014010734A1 (ja) | 2016-06-23 |
JP2018186508A (ja) | 2018-11-22 |
US9838618B2 (en) | 2017-12-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6149339B2 (ja) | 表示装置 | |
JP4941332B2 (ja) | 撮像装置 | |
JP5671842B2 (ja) | 画像処理装置および撮像装置 | |
JP4483951B2 (ja) | 撮像装置 | |
JP5499778B2 (ja) | 撮像装置 | |
JP6516045B2 (ja) | 画像処理装置 | |
JP6397281B2 (ja) | 撮像装置、その制御方法およびプログラム | |
JP2016001853A (ja) | 画像処理装置、撮像装置、制御方法及びプログラム | |
JP6190119B2 (ja) | 画像処理装置、撮像装置、制御方法、及びプログラム | |
JP6376206B2 (ja) | 画像処理装置および撮像装置 | |
JP2024012318A (ja) | 画像表示装置 | |
WO2017126242A1 (ja) | 撮像装置、及び、画像データ生成方法 | |
JP6036799B2 (ja) | 画像処理装置 | |
CN107888837B (zh) | 图像处理装置 | |
JP5743769B2 (ja) | 画像処理装置および画像処理方法 | |
WO2021171980A1 (ja) | 画像処理装置及びその制御方法並びにプログラム | |
JP2016082325A (ja) | 撮像装置、画像処理装置および画像処理プログラム | |
JP6491539B2 (ja) | 撮像装置及びその制御方法、システムならびにプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190311 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190319 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190401 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6516045 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |