JP2020057373A - 画像処理方法、画像処理装置、撮像装置、プログラム、記憶媒体、画像処理システム、および、学習済みモデルの製造方法 - Google Patents
画像処理方法、画像処理装置、撮像装置、プログラム、記憶媒体、画像処理システム、および、学習済みモデルの製造方法 Download PDFInfo
- Publication number
- JP2020057373A JP2020057373A JP2019152000A JP2019152000A JP2020057373A JP 2020057373 A JP2020057373 A JP 2020057373A JP 2019152000 A JP2019152000 A JP 2019152000A JP 2019152000 A JP2019152000 A JP 2019152000A JP 2020057373 A JP2020057373 A JP 2020057373A
- Authority
- JP
- Japan
- Prior art keywords
- image
- learning
- image processing
- input
- imaging
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 25
- 238000012545 processing Methods 0.000 title claims description 106
- 238000000034 method Methods 0.000 title claims description 22
- 238000013528 artificial neural network Methods 0.000 claims abstract description 15
- 238000003384 imaging method Methods 0.000 claims description 122
- 238000006243 chemical reaction Methods 0.000 claims description 33
- 238000003860 storage Methods 0.000 claims description 12
- 238000004364 calculation method Methods 0.000 claims description 10
- 238000012886 linear function Methods 0.000 claims description 8
- 238000004088 simulation Methods 0.000 claims description 5
- 230000005540 biological transmission Effects 0.000 claims description 3
- 238000012937 correction Methods 0.000 description 39
- 230000003287 optical effect Effects 0.000 description 19
- 239000010410 layer Substances 0.000 description 17
- 238000013527 convolutional neural network Methods 0.000 description 14
- 230000006870 function Effects 0.000 description 14
- 230000009467 reduction Effects 0.000 description 13
- 230000008569 process Effects 0.000 description 9
- 230000004913 activation Effects 0.000 description 7
- 238000013135 deep learning Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 238000004519 manufacturing process Methods 0.000 description 5
- 238000003702 image correction Methods 0.000 description 3
- 238000011161 development Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000014509 gene expression Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 238000013441 quality evaluation Methods 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 240000004050 Pentaglottis sempervirens Species 0.000 description 1
- 235000004522 Pentaglottis sempervirens Nutrition 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- ORQBXQOJMQIAOY-UHFFFAOYSA-N nobelium Chemical compound [No] ORQBXQOJMQIAOY-UHFFFAOYSA-N 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
- 238000011946 reduction process Methods 0.000 description 1
- 230000011514 reflex Effects 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 239000002356 single layer Substances 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- 230000002087 whitening effect Effects 0.000 description 1
Landscapes
- Image Processing (AREA)
- Studio Devices (AREA)
Abstract
Description
MADは、入力画像をウェーブレット変換して得られたHH1のサブバンド画像におけるウェーブレット係数wHH1のメディアン(中央値)を用いて求められる。このとき、標準偏差(ノイズ量σ0)とMADが以下の式(2)の関係であることから、ノイズ成分の標準偏差を推定することができる。
なお、画像のウェーブレット変換では、画像の水平方向に対してウェーブレット変換を行って低周波成分と高周波成分に分解し、さらに分解して得られた低周波成分と高周波成分の垂直方向に対してウェーブレット変換を行う。ウェーブレット変換により、画像は4分割され、周波数帯域が互いに異なる4つのサブバンド画像に周波数分解される。このとき、左上の低周波帯域成分(スケーリング係数)のサブバンド画像をLL1とし、右下の高周波帯域成分(ウェーブレット係数)のサブバンド画像をHH1という。また、右上(HL1)と左下(LH1)のサブバンド画像はそれぞれ、水平方向に高周波帯域成分をとって垂直方向に低周波帯域成分を取り出したもの、および水平方向に低周波帯域成分をとって垂直方向に高周波帯域成分を取り出したものである。
本発明は、画像処理に関する要求を行い実体的にシステム全体の制御を支配する第一の装置(撮像装置、スマートフォン、PCなどのユーザ端末)と、該要求に応じて画像処理を行う第二の装置(サーバ等)で構成された画像処理システムとしても実現可能である。例えば、実施例2の画像処理システム200における補正部303を第二の装置としてのサーバ305側に設け、第一の装置としての画像処理装置301がサーバ305に対して第一の画像および第二の画像を用いた画像処理の実行を要求するように構成しても良い。この場合、第一の装置(ユーザ端末)は画像処理に関する要求を第二の装置(サーバ)に送信するための送信手段を有し、第二の装置(サーバ)は第一の装置(ユーザ端末)から送信された要求を受信する受信手段を有する。
22a 取得部
22b 算出部
Claims (17)
- 第一の画像を取得する工程と、
前記第一の画像よりノイズ量が多く、被写体の高周波成分を多く含む第二の画像を取得する工程と、
前記第一の画像および前記第二の画像をニューラルネットワークに入力して、前記第一の画像より前記被写体の高周波成分を多く含み前記第二の画像よりノイズ量が少ない第三の画像を生成する工程と、を有することを特徴とする画像処理方法。 - 前記第一の画像および前記第二の画像はそれぞれ、第一の入力画像および第二の入力画像の少なくとも一部であることを特徴とする請求項1に記載の画像処理方法。
- 前記第一の入力画像は、前記第二の入力画像よりも広い画角を有することを特徴とする請求項2に記載の画像処理方法。
- 前記第三の画像の画角は、前記第二の入力画像の画角以下であることを特徴とする請求項3に記載の画像処理方法。
- 前記第二の画像は、前記第一の画像を取得する際に用いられた撮像素子よりも画素ピッチが小さい撮像素子を用いた撮像により得られた画像であることを特徴とする請求項1乃至4のいずれか1項に記載の画像処理方法。
- 前記第二の画像は、前記第一の画像を取得する際に用いられた撮像素子よりも撮像領域が小さい撮像素子を用いた撮像により得られた画像であることを特徴とする請求項1乃至5のいずれか一項に記載の画像処理方法。
- 前記ニューラルネットワークは、少なくとも一層の畳み込み層を有することを特徴とする請求項1乃至6のいずれか一項に記載の画像処理方法。
- 予め学習された前記ニューラルネットワークに関する学習情報を取得する工程を更に有し、
前記第三の画像を生成する工程は、Nを2以上の整数、nを1からNまでの整数とするとき、
前記第一の画像および前記第二の画像に対して、前記学習情報に基づく複数の線型関数のそれぞれによる第n線型変換と、非線型関数による第n非線型変換とをnが1からNになるまで順に実行することで中間データを生成する工程と、
前記中間データに対して、前記学習情報に基づく少なくとも1つの線型関数による第N+1線型変換を実行する工程と、を含むことを特徴とする請求項1乃至7のいずれか一項に記載の画像処理方法。 - 前記学習情報は、同一の被写体が存在する複数の学習画像であって、第一の入力学習画像と、前記第一の入力学習画像よりノイズ量が多く、被写体の高周波成分を多く含む第二の入力学習画像と、前記第一の入力学習画像より前記被写体の高周波成分を多く含み前記第二の画像よりノイズ量が少ない出力学習画像と、を用いて学習された情報であることを特徴とする請求項8に記載の画像処理方法。
- 前記第一の入力学習画像および前記第二の入力学習画像の少なくとも一方は、シミュレーションにより生成された画像であることを特徴とする請求項9に記載の画像処理方法。
- 第一の画像と、前記第一の画像よりノイズ量が多く、被写体の高周波成分を多く含む第二の画像を取得する取得部と、
前記第一の画像および前記第二の画像をニューラルネットワークに入力して、前記第一の画像より前記被写体の高周波成分を多く含み前記第二の画像よりノイズ量が少ない第三の画像を生成する算出部と、を有することを特徴とする画像処理装置。 - 予め学習された前記ニューラルネットワークに関する学習情報を記憶する記憶部を更に有することを特徴とする請求項11に記載の画像処理装置。
- 第一の入力画像を撮像する第一の撮像部と、
第二の入力画像を撮像する第二の撮像部と、
請求項11または12に記載の画像処理装置と、を有することを特徴とする撮像装置。 - 請求項1乃至10のいずれか一項に記載の画像処理方法をコンピュータに実行させることを特徴とするプログラム。
- 請求項14に記載のプログラムを記憶していることを特徴とする記憶媒体。
- 第一の装置と第二の装置を有する画像処理システムであって、
前記第一の装置は、
第一の画像と、前記第一の画像よりノイズ量が多く、被写体の高周波成分を多く含む第二の画像を用いた画像処理を前記第二の装置に実行させるための要求を送信する送信手段を有し、
前記第二の装置は、
前記送信手段によって送信された前記要求を受信する受信手段と、
前記第一の画像と前記第二の画像を取得する取得手段と、
前記第一の画像および前記第二の画像をニューラルネットワークに入力して、前記第一の画像より前記被写体の高周波成分を多く含み前記第二の画像よりノイズ量が少ない第三の画像を生成する算出部と、を有することを特徴とする画像処理システム。 - 第一の画像を取得する工程と、
前記第一の画像よりノイズ量が多く、被写体の高周波成分を多く含む第二の画像を取得する工程と、
前記第一の画像より前記被写体の高周波成分を多く含み、前記第二の画像よりノイズ量が少ない第三の画像を取得する工程と、
前記第一の画像と前記第二の画像と前記第三の画像を用いた学習によりニューラルネットワークのパラメータを更新する工程と、を有することを特徴とする学習済みモデルの製造方法。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US16/576,937 US11080832B2 (en) | 2018-09-26 | 2019-09-20 | Image processing method, image processing apparatus, imaging apparatus, and storage medium |
CN201910898810.6A CN110958382A (zh) | 2018-09-26 | 2019-09-23 | 图像处理方法、图像处理装置、成像装置和存储介质 |
EP19199118.1A EP3629284A1 (en) | 2018-09-26 | 2019-09-24 | Image processing method, image processing apparatus, imaging apparatus, program, and storage medium |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018180646 | 2018-09-26 | ||
JP2018180646 | 2018-09-26 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2020057373A true JP2020057373A (ja) | 2020-04-09 |
JP2020057373A5 JP2020057373A5 (ja) | 2022-08-17 |
JP7309520B2 JP7309520B2 (ja) | 2023-07-18 |
Family
ID=70107429
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019152000A Active JP7309520B2 (ja) | 2018-09-26 | 2019-08-22 | 画像処理方法、画像処理装置、撮像装置、プログラム、記憶媒体、画像処理システム、および、学習済みモデルの製造方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7309520B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111709891A (zh) * | 2020-06-12 | 2020-09-25 | 北京小米松果电子有限公司 | 图像去噪模型的训练方法、图像去噪方法、装置及介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07160796A (ja) * | 1993-12-03 | 1995-06-23 | Victor Co Of Japan Ltd | ニューラルネットによる信号処理装置 |
WO2006137253A1 (ja) * | 2005-06-22 | 2006-12-28 | Matsushita Electric Industrial Co., Ltd. | 画像生成装置および画像生成方法 |
WO2014087652A1 (ja) * | 2012-12-06 | 2014-06-12 | 日本電気株式会社 | 画像処理装置及び画像処理方法 |
JP2016527734A (ja) * | 2013-06-13 | 2016-09-08 | コアフォトニクス リミテッド | デュアルアパーチャズームデジタルカメラ |
-
2019
- 2019-08-22 JP JP2019152000A patent/JP7309520B2/ja active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07160796A (ja) * | 1993-12-03 | 1995-06-23 | Victor Co Of Japan Ltd | ニューラルネットによる信号処理装置 |
WO2006137253A1 (ja) * | 2005-06-22 | 2006-12-28 | Matsushita Electric Industrial Co., Ltd. | 画像生成装置および画像生成方法 |
WO2014087652A1 (ja) * | 2012-12-06 | 2014-06-12 | 日本電気株式会社 | 画像処理装置及び画像処理方法 |
JP2016527734A (ja) * | 2013-06-13 | 2016-09-08 | コアフォトニクス リミテッド | デュアルアパーチャズームデジタルカメラ |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111709891A (zh) * | 2020-06-12 | 2020-09-25 | 北京小米松果电子有限公司 | 图像去噪模型的训练方法、图像去噪方法、装置及介质 |
CN111709891B (zh) * | 2020-06-12 | 2023-11-24 | 北京小米松果电子有限公司 | 图像去噪模型的训练方法、图像去噪方法、装置及介质 |
Also Published As
Publication number | Publication date |
---|---|
JP7309520B2 (ja) | 2023-07-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10354369B2 (en) | Image processing method, image processing apparatus, image pickup apparatus, and storage medium | |
JP7242185B2 (ja) | 画像処理方法、画像処理装置、画像処理プログラム、および、記憶媒体 | |
JP7016835B2 (ja) | 画像処理方法、画像処理装置、画像処理システム、学習済みウエイトの製造方法、および、プログラム | |
JP7258604B2 (ja) | 画像処理方法、画像処理装置、プログラム、および学習済みモデルの製造方法 | |
JP2020166628A (ja) | 画像処理方法、画像処理装置、プログラム、画像処理システム、および、学習済みモデルの製造方法 | |
JP2020036310A (ja) | 画像処理方法、画像処理装置、撮像装置、レンズ装置、プログラム、記憶媒体、および、画像処理システム | |
JP2014006388A (ja) | 撮像装置およびその制御方法ならびにプログラム | |
JP2024024012A (ja) | 学習データの生成方法、学習方法、学習データ製造装置、学習装置、およびプログラム | |
US11308592B2 (en) | Image processing method, image processing apparatus, imaging apparatus, and storage medium, that correct a captured image using a neutral network | |
JP2021140663A (ja) | 画像処理方法、画像処理装置、画像処理プログラム、および記憶媒体 | |
JP7309520B2 (ja) | 画像処理方法、画像処理装置、撮像装置、プログラム、記憶媒体、画像処理システム、および、学習済みモデルの製造方法 | |
US11080832B2 (en) | Image processing method, image processing apparatus, imaging apparatus, and storage medium | |
JP2022056769A (ja) | 画像処理方法、プログラム、画像処理装置、学習済みモデルの製造方法、学習方法、学習装置、および、画像処理システム | |
JP5543280B2 (ja) | 画像処理装置、画像処理方法 | |
JP7146461B2 (ja) | 画像処理方法、画像処理装置、撮像装置、プログラム、および、記憶媒体 | |
JP2020030569A (ja) | 画像処理方法、画像処理装置、撮像装置、レンズ装置、プログラム、および、記憶媒体 | |
JP7414745B2 (ja) | 学習データの製造方法、学習方法、学習データ製造装置、学習装置、およびプログラム | |
JP2021189929A (ja) | 画像処理方法、プログラム、画像処理装置、および、画像処理システム | |
JP7009219B2 (ja) | 画像処理方法、画像処理装置、撮像装置、画像処理プログラム、および、記憶媒体 | |
JP2021114186A (ja) | 画像処理装置、画像処理方法、およびプログラム | |
JP2020061129A (ja) | 画像処理方法、画像処理装置、撮像装置、画像処理システム、プログラム、および、記憶媒体 | |
JP7129229B2 (ja) | 画像処理方法、画像処理装置、撮像装置、プログラム、および、記憶媒体 | |
JP2019193152A (ja) | 撮像装置、撮像方法およびプログラム | |
WO2022215375A1 (ja) | 画像処理方法、機械学習モデルの製造方法、画像処理装置、画像処理システム、及びプログラム | |
US20240029321A1 (en) | Image processing method, image processing apparatus, storage medium, image processing system, method of generating machine learning model, and learning apparatus |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220805 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220805 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230516 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230606 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230705 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7309520 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |