JP7191588B2 - 画像処理方法、画像処理装置、撮像装置、レンズ装置、プログラム、および、記憶媒体 - Google Patents
画像処理方法、画像処理装置、撮像装置、レンズ装置、プログラム、および、記憶媒体 Download PDFInfo
- Publication number
- JP7191588B2 JP7191588B2 JP2018155205A JP2018155205A JP7191588B2 JP 7191588 B2 JP7191588 B2 JP 7191588B2 JP 2018155205 A JP2018155205 A JP 2018155205A JP 2018155205 A JP2018155205 A JP 2018155205A JP 7191588 B2 JP7191588 B2 JP 7191588B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- pupil
- optical system
- imaging
- processing method
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003384 imaging method Methods 0.000 title claims description 82
- 238000012545 processing Methods 0.000 title claims description 75
- 238000003672 processing method Methods 0.000 title claims description 27
- 210000001747 pupil Anatomy 0.000 claims description 129
- 230000003287 optical effect Effects 0.000 claims description 106
- 238000000034 method Methods 0.000 claims description 32
- 230000001419 dependent effect Effects 0.000 claims description 25
- 230000004075 alteration Effects 0.000 claims description 21
- 238000013528 artificial neural network Methods 0.000 claims description 20
- 238000006243 chemical reaction Methods 0.000 claims description 14
- 230000008569 process Effects 0.000 claims description 12
- 238000009826 distribution Methods 0.000 claims description 10
- 238000002834 transmittance Methods 0.000 claims description 7
- 238000012937 correction Methods 0.000 description 17
- 238000013527 convolutional neural network Methods 0.000 description 16
- 238000010586 diagram Methods 0.000 description 14
- 230000006870 function Effects 0.000 description 10
- PCTMTFRHKVHKIS-BMFZQQSSSA-N (1s,3r,4e,6e,8e,10e,12e,14e,16e,18s,19r,20r,21s,25r,27r,30r,31r,33s,35r,37s,38r)-3-[(2r,3s,4s,5s,6r)-4-amino-3,5-dihydroxy-6-methyloxan-2-yl]oxy-19,25,27,30,31,33,35,37-octahydroxy-18,20,21-trimethyl-23-oxo-22,39-dioxabicyclo[33.3.1]nonatriaconta-4,6,8,10 Chemical compound C1C=C2C[C@@H](OS(O)(=O)=O)CC[C@]2(C)[C@@H]2[C@@H]1[C@@H]1CC[C@H]([C@H](C)CCCC(C)C)[C@@]1(C)CC2.O[C@H]1[C@@H](N)[C@H](O)[C@@H](C)O[C@H]1O[C@H]1/C=C/C=C/C=C/C=C/C=C/C=C/C=C/[C@H](C)[C@@H](O)[C@@H](C)[C@H](C)OC(=O)C[C@H](O)C[C@H](O)CC[C@@H](O)[C@H](O)C[C@H](O)C[C@](O)(C[C@H](O)[C@H]2C(O)=O)O[C@H]2C1 PCTMTFRHKVHKIS-BMFZQQSSSA-N 0.000 description 8
- 238000001228 spectrum Methods 0.000 description 5
- 238000012549 training Methods 0.000 description 5
- 230000000694 effects Effects 0.000 description 4
- 238000007781 pre-processing Methods 0.000 description 4
- 230000004913 activation Effects 0.000 description 3
- 230000008859 change Effects 0.000 description 3
- 230000004907 flux Effects 0.000 description 3
- 238000004088 simulation Methods 0.000 description 3
- 238000012546 transfer Methods 0.000 description 3
- 230000002411 adverse Effects 0.000 description 2
- 230000003321 amplification Effects 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 230000006866 deterioration Effects 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 238000010606 normalization Methods 0.000 description 2
- 238000003199 nucleic acid amplification method Methods 0.000 description 2
- 229920006395 saturated elastomer Polymers 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 206010027646 Miosis Diseases 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000003595 spectral effect Effects 0.000 description 1
- 230000001629 suppression Effects 0.000 description 1
Images
Description
また、本発明の他の側面としての画像処理方法は、光学系の第1の瞳を介して被写体空間を撮像することで得られた第1の画像と、前記光学系の前記第1の瞳とは異なる第2の瞳を介して前記被写体空間を撮像することで得られた第2の画像と、を取得する工程と、前記第1の画像または前記第2の画像の撮影時の前記光学系のF値に基づいてウエイトに関する情報を取得する工程と、前記ウエイトに関する情報を用いて構成された多層のニューラルネットワークを用いて、前記第1の画像と前記第2の画像と前記ウエイトに関する情報とに基づいて、前記光学系の瞳に依存するぼけが補正された鮮鋭化画像を生成する工程と、を有する。
また、本発明の他の側面としての画像処理方法は、光学系の第1の瞳を介して被写体空間を撮像することで得られた第1の画像と、前記光学系の前記第1の瞳とは異なる第2の瞳を介して前記被写体空間を撮像することで得られた第2の画像と、を取得する工程と、前記第1の画像または前記第2の画像の撮影時の前記光学系のF値が所定のF値よりも小さい場合、前記第1の画像または前記第2の画像に鮮鋭化フィルタを作用させる処理を行う工程と、多層のニューラルネットワークを用いて、前記第1の画像と前記第2の画像とに基づいて、前記光学系の瞳に依存するぼけが補正された鮮鋭化画像を生成する工程と、を有し、前記鮮鋭化フィルタは、前記光学系の結像性能を表す光学特性に基づいて、前記第1の画像または前記第2の画像の鮮鋭化を行うフィルタである。
本発明は、上述の実施例の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
102a 情報取得部(取得手段)
102b 画像生成部(生成手段)
Claims (22)
- 光学系の第1の瞳を介して被写体空間を撮像することで得られた第1の画像と、前記光学系の前記第1の瞳とは異なる第2の瞳を介して前記被写体空間を撮像することで得られた第2の画像と、を取得する工程と、
前記第2の瞳が線対称となる軸と平行かつ前記第1の画像および前記第2の画像のそれぞれの基準点を通過する直線で、前記第1の画像および前記第2の画像をそれぞれ分割し、分割された前記第1の画像および前記第2の画像に対して反転処理を行う工程と、
多層のニューラルネットワークを用いて、反転処理後の前記第1の画像と前記第2の画像とに基づいて、前記光学系の瞳に依存するぼけが補正された鮮鋭化画像を生成する工程と、を有することを特徴とする画像処理方法。 - 前記光学系の瞳に依存するぼけは、前記瞳の透過率分布に依存するぼけであることを特徴とする請求項1に記載の画像処理方法。
- 前記第1の瞳の透過率分布は、前記第2の瞳の透過率分布と異なることを特徴とする請求項2に記載の画像処理方法。
- 前記光学系の瞳に依存するぼけは、前記光学系の収差、回折、または、デフォーカスに依存するぼけであることを特徴とする請求項1乃至3のいずれか1項に記載の画像処理方法。
- 前記第2の瞳は、前記第1の瞳の一部であることを特徴とする請求項1乃至4のいずれか1項に記載の画像処理方法。
- 前記第1の画像および前記第2の画像は、前記光学系を介して前記被写体空間を同時に撮像して得られた画像であることを特徴とする請求項1乃至5のいずれか1項に記載の画像処理方法。
- 前記第1の画像および前記第2の画像は、同一の撮像素子により撮像された画像であることを特徴とする請求項1乃至6のいずれか1項に記載の画像処理方法。
- 前記第1の画像と前記第2の画像との明るさを合わせる処理を行う工程を更に有し、
前記鮮鋭化画像を生成する工程は、前記明るさを合わせる処理後の前記第1の画像および前記第2の画像に基づいて実行されることを特徴とする請求項1乃至7のいずれか1項に記載の画像処理方法。 - 前記明るさを合わせる処理を行う工程は、前記第1の瞳と前記第2の瞳の透過率分布に関する情報に基づいて実行されることを特徴とする請求項8に記載の画像処理方法。
- 前記明るさを合わせる処理を行う工程は、前記第1の画像および前記第2の画像のそれぞれの部分領域に関して算出された平均画素値に基づいて実行されることを特徴とする請求項8に記載の画像処理方法。
- 前記多層のニューラルネットワークは、ウエイトに関する情報を用いて構成されることを特徴とする請求項1乃至10のいずれか1項に記載の画像処理方法。
- 前記第1の画像または前記第2の画像の撮影時の前記光学系のF値に基づいて前記ウエイトに関する情報を取得する工程を更に有し、
前記鮮鋭化画像を生成する工程は、前記第1の画像と前記第2の画像と前記ウエイトに関する情報とに基づいて実行されることを特徴とする請求項11に記載の画像処理方法。 - 光学系の第1の瞳を介して被写体空間を撮像することで得られた第1の画像と、前記光学系の前記第1の瞳とは異なる第2の瞳を介して前記被写体空間を撮像することで得られた第2の画像と、を取得する工程と、
前記第1の画像または前記第2の画像の撮影時の前記光学系のF値に基づいてウエイトに関する情報を取得する工程と、
前記ウエイトに関する情報を用いて構成された多層のニューラルネットワークを用いて、前記第1の画像と前記第2の画像と前記ウエイトに関する情報とに基づいて、前記光学系の瞳に依存するぼけが補正された鮮鋭化画像を生成する工程と、を有することを特徴とする画像処理方法。 - 前記第1の画像または前記第2の画像の撮影時の前記光学系のF値が所定のF値よりも大きい場合、前記鮮鋭化画像は、回折またはデフォーカスに依存するぼけが補正された画像であることを特徴とする請求項1乃至13のいずれか1項に記載の画像処理方法。
- 前記第1の画像または前記第2の画像の撮影時の前記光学系のF値が所定のF値よりも小さい場合、前記第1の画像または前記第2の画像に鮮鋭化フィルタを作用させる処理を行う工程を更に有し、
前記鮮鋭化フィルタは、前記光学系の結像性能を表す光学特性に基づいて、前記第1の画像または前記第2の画像の鮮鋭化を行うフィルタであることを特徴とする請求項1乃至14のいずれか1項に記載の画像処理方法。 - 光学系の第1の瞳を介して被写体空間を撮像することで得られた第1の画像と、前記光学系の前記第1の瞳とは異なる第2の瞳を介して前記被写体空間を撮像することで得られた第2の画像と、を取得する工程と、
前記第1の画像または前記第2の画像の撮影時の前記光学系のF値が所定のF値よりも小さい場合、前記第1の画像または前記第2の画像に鮮鋭化フィルタを作用させる処理を行う工程と、
多層のニューラルネットワークを用いて、前記第1の画像と前記第2の画像とに基づいて、前記光学系の瞳に依存するぼけが補正された鮮鋭化画像を生成する工程と、を有し、
前記鮮鋭化フィルタは、前記光学系の結像性能を表す光学特性に基づいて、前記第1の画像または前記第2の画像の鮮鋭化を行うフィルタであることを特徴とする画像処理方法。 - 光学系の第1の瞳を介して被写体空間を撮像することで得られた第1の画像と、前記光学系の前記第1の瞳とは異なる第2の瞳を介して前記被写体空間を撮像することで得られた第2の画像と、を取得する取得手段と、
多層のニューラルネットワークを用いて、前記光学系の瞳に依存するぼけが補正された鮮鋭化画像を生成する生成手段と、を有し、
前記生成手段は、前記第2の瞳が線対称となる軸と平行かつ前記第1の画像および前記第2の画像のそれぞれの基準点を通過する直線で、前記第1の画像および前記第2の画像をそれぞれ分割し、分割された前記第1の画像および前記第2の画像に対して反転処理を行い、反転処理後の前記第1の画像と前記第2の画像とに基づいて前記鮮鋭化画像を生成することを特徴とする画像処理装置。 - 光学系により形成された光学像を光電変換する撮像素子と、
請求項17に記載の画像処理装置と、を有することを特徴とする撮像装置。 - 前記撮像素子は複数の画素を有し、
該複数の画素のそれぞれは、複数の光電変換部を有し、
前記複数の光電変換部のそれぞれは互いに異なる入射角で入射する光を受光して複数の信号を生成し、
前記撮像素子は、前記複数の信号を加算した加算信号に対応する前記第1の画像と、前記複数の信号の一つの信号または該複数の信号の一部を加算した加算信号に対応する前記第2の画像と、を出力することを特徴とする請求項18に記載の撮像装置。 - 撮像装置に着脱可能なレンズ装置であって、
光学系と、
多層のニューラルネットワークに入力されるウエイトに関する情報を記憶する記憶手段と、を有し、
前記撮像装置は、
前記光学系の第1の瞳を介して被写体空間を撮像することで得られた第1の画像と、前記光学系の前記第1の瞳とは異なる第2の瞳を介して前記被写体空間を撮像することで得られた第2の画像と、を取得する取得手段と、
前記多層のニューラルネットワークを用いて、前記光学系の瞳に依存するぼけが補正された鮮鋭化画像を生成する生成手段と、を有し、
前記生成手段は、前記第2の瞳が線対称となる軸と平行かつ前記第1の画像および前記第2の画像のそれぞれの基準点を通過する直線で、前記第1の画像および前記第2の画像をそれぞれ分割し、分割された前記第1の画像および前記第2の画像に対して反転処理を行い、反転処理後の前記第1の画像および前記第2の画像と前記ウエイトに関する情報とに基づいて前記鮮鋭化画像を生成することを特徴とするレンズ装置。 - 請求項1乃至16のいずれか1項に記載の画像処理方法をコンピュータに実行させることを特徴とするプログラム。
- 請求項21に記載のプログラムを記憶していることを特徴とする記憶媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018155205A JP7191588B2 (ja) | 2018-08-22 | 2018-08-22 | 画像処理方法、画像処理装置、撮像装置、レンズ装置、プログラム、および、記憶媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018155205A JP7191588B2 (ja) | 2018-08-22 | 2018-08-22 | 画像処理方法、画像処理装置、撮像装置、レンズ装置、プログラム、および、記憶媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020030569A JP2020030569A (ja) | 2020-02-27 |
JP7191588B2 true JP7191588B2 (ja) | 2022-12-19 |
Family
ID=69622490
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018155205A Active JP7191588B2 (ja) | 2018-08-22 | 2018-08-22 | 画像処理方法、画像処理装置、撮像装置、レンズ装置、プログラム、および、記憶媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7191588B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2023056056A (ja) * | 2020-03-05 | 2023-04-19 | ソニーセミコンダクタソリューションズ株式会社 | データ生成方法、学習方法及び推定方法 |
EP3879483A1 (en) | 2020-03-09 | 2021-09-15 | Canon Kabushiki Kaisha | Learning data manufacturing method, learning method, learning data manufacturing apparatus, learning apparatus, program, and memory medium |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014515587A (ja) | 2011-06-01 | 2014-06-30 | ザ ボード オブ トラスティーズ オブ ザ レランド スタンフォード ジュニア ユニバーシティー | デジタル画像装置用の画像処理パイプラインの学習 |
JP2018084982A (ja) | 2016-11-24 | 2018-05-31 | キヤノン株式会社 | 画像処理装置、情報処理方法及びプログラム |
JP2018107664A (ja) | 2016-12-27 | 2018-07-05 | キヤノン株式会社 | 画像処理装置および画像処理方法、撮像装置、プログラム |
-
2018
- 2018-08-22 JP JP2018155205A patent/JP7191588B2/ja active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014515587A (ja) | 2011-06-01 | 2014-06-30 | ザ ボード オブ トラスティーズ オブ ザ レランド スタンフォード ジュニア ユニバーシティー | デジタル画像装置用の画像処理パイプラインの学習 |
JP2018084982A (ja) | 2016-11-24 | 2018-05-31 | キヤノン株式会社 | 画像処理装置、情報処理方法及びプログラム |
JP2018107664A (ja) | 2016-12-27 | 2018-07-05 | キヤノン株式会社 | 画像処理装置および画像処理方法、撮像装置、プログラム |
Non-Patent Citations (1)
Title |
---|
渡邉 拓也 ほか4名,能動絞りカメラ,情報処理学会研究報告 コンピュータビジョンとイメージメディア(CVIM) ,2010年12月15日,No.174,p.1~8 |
Also Published As
Publication number | Publication date |
---|---|
JP2020030569A (ja) | 2020-02-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11195257B2 (en) | Image processing method, image processing apparatus, imaging apparatus, lens apparatus, storage medium, and image processing system | |
RU2716843C1 (ru) | Цифровая коррекция аберраций оптической системы | |
US10354369B2 (en) | Image processing method, image processing apparatus, image pickup apparatus, and storage medium | |
RU2523028C2 (ru) | Устройство обработки изображения, устройство захвата изображения и способ обработки изображения | |
US11188777B2 (en) | Image processing method, image processing apparatus, learnt model manufacturing method, and image processing system | |
JP4377404B2 (ja) | 画像向上機能を備えたカメラ | |
JP7234057B2 (ja) | 画像処理方法、画像処理装置、撮像装置、レンズ装置、プログラム、記憶媒体、および、画像処理システム | |
JP2019121252A (ja) | 画像処理方法、画像処理装置、画像処理プログラム、および、記憶媒体 | |
JP6672070B2 (ja) | 圧縮センシングを用いた撮像装置、撮像方法および撮像プログラム | |
JP6045185B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2014150498A (ja) | 画像処理方法、画像処理装置、画像処理プログラムおよび撮像装置 | |
JP2017010092A (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
Tang et al. | What does an aberrated photo tell us about the lens and the scene? | |
JP2017010095A (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
JP7191588B2 (ja) | 画像処理方法、画像処理装置、撮像装置、レンズ装置、プログラム、および、記憶媒体 | |
JP2024024012A (ja) | 学習データの生成方法、学習方法、学習データ製造装置、学習装置、およびプログラム | |
JP2017010093A (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
US20150161771A1 (en) | Image processing method, image processing apparatus, image capturing apparatus and non-transitory computer-readable storage medium | |
JP2017208642A (ja) | 圧縮センシングを用いた撮像装置、撮像方法および撮像プログラム | |
JP7414745B2 (ja) | 学習データの製造方法、学習方法、学習データ製造装置、学習装置、およびプログラム | |
JP7009219B2 (ja) | 画像処理方法、画像処理装置、撮像装置、画像処理プログラム、および、記憶媒体 | |
JP2017010094A (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
US20240135508A1 (en) | Image processing method, image processing apparatus, image processing system, imaging apparatus, and storage medium | |
JP7129229B2 (ja) | 画像処理方法、画像処理装置、撮像装置、プログラム、および、記憶媒体 | |
JP2017034595A (ja) | 画像処理装置、撮像装置および画像処理プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210729 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220726 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220809 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221003 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20221108 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20221207 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7191588 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |