JP2020042760A - 情報処理方法、情報処理装置、及びプログラム - Google Patents
情報処理方法、情報処理装置、及びプログラム Download PDFInfo
- Publication number
- JP2020042760A JP2020042760A JP2019041037A JP2019041037A JP2020042760A JP 2020042760 A JP2020042760 A JP 2020042760A JP 2019041037 A JP2019041037 A JP 2019041037A JP 2019041037 A JP2019041037 A JP 2019041037A JP 2020042760 A JP2020042760 A JP 2020042760A
- Authority
- JP
- Japan
- Prior art keywords
- sensing data
- image
- noise
- data
- conversion
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000010365 information processing Effects 0.000 title claims abstract description 116
- 238000003672 processing method Methods 0.000 title claims abstract description 36
- 238000006243 chemical reaction Methods 0.000 claims abstract description 164
- 238000012545 processing Methods 0.000 claims abstract description 133
- 238000012549 training Methods 0.000 claims abstract description 63
- 238000010801 machine learning Methods 0.000 claims abstract description 40
- 230000015654 memory Effects 0.000 claims description 25
- 238000003384 imaging method Methods 0.000 claims description 11
- 238000003062 neural network model Methods 0.000 claims description 2
- 238000000034 method Methods 0.000 description 33
- 238000000605 extraction Methods 0.000 description 18
- 238000013528 artificial neural network Methods 0.000 description 9
- 238000004364 calculation method Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 7
- 230000000694 effects Effects 0.000 description 7
- 230000006870 function Effects 0.000 description 7
- 230000008569 process Effects 0.000 description 7
- 238000004590 computer program Methods 0.000 description 6
- 239000000203 mixture Substances 0.000 description 6
- 238000013527 convolutional neural network Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 4
- 102220470087 Ribonucleoside-diphosphate reductase subunit M2_S20A_mutation Human genes 0.000 description 3
- 230000008859 change Effects 0.000 description 3
- 239000000470 constituent Substances 0.000 description 3
- 238000007796 conventional method Methods 0.000 description 3
- 230000010354 integration Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000035945 sensitivity Effects 0.000 description 2
- 238000004904 shortening Methods 0.000 description 2
- 241000255925 Diptera Species 0.000 description 1
- 102220588439 Keratin, type I cytoskeletal 18_S10A_mutation Human genes 0.000 description 1
- 102220588441 Keratin, type I cytoskeletal 18_S30A_mutation Human genes 0.000 description 1
- 238000007792 addition Methods 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 239000000428 dust Substances 0.000 description 1
- 239000003205 fragrance Substances 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 230000007257 malfunction Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001629 suppression Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
Description
発明者らは、上述した従来の手法に関し、以下の問題が生じることを見出した。
本開示では、ノイズ除去に係る技術の実施の形態について、訓練フェーズと推論フェーズとに分けて説明する。本開示での訓練フェーズとは、ノイズを含む画像に対するノイズ除去の処理を実行する機械学習モデルを訓練するフェーズである。また、本開示での推論フェーズとは、訓練の結果得られた機械学習モデルを用いて、ノイズを含む画像からノイズを含まない画像を推論するフェーズである。
[1−1.構成]
図1は、実施の形態に係る一の情報処理装置の機能構成例を示すブロック図である。本実施の形態に係る情報処理装置10は、画像に含まれるノイズを除去する機械学習モデルの訓練を実行する装置である。
図4は、機械学習による変換処理部120の訓練のために上記の構成を有する情報処理装置10が実行する情報処理方法の手順例を示すフロー図である。
上記の新たなパラメタを用いた変換処理部120が変換処理の結果得られる第二画像と第三画像との差は、古いパラメタを用いた変換処理の結果得られる第二画像と第三画像との差に比べて縮小される。この効果は、画像のノイズ除去処理のための変換を行う変換器である変換処理部120に対する訓練が、第一誤差を減らすための訓練、つまりノイズを含む画像の変換によって、ノイズを含まない画像により近似する画像を生成させる訓練であることによる効果である。
[2−1.構成]
図5は、本実施の形態に係る他の情報処理装置の機能構成例及び機能構成間の入出力の概要を示す図である。本実施の形態に係る情報処理装置10Aは、ノイズを含む画像の入力を受け、当該画像を変換してノイズを除去した画像を取得する装置である。
図6は、情報処理装置10Aで実行されるノイズ除去のための情報処理方法の手順例を示すフロー図である。
上述の推論フェーズでノイズあり画像からノイズなし画像の推論を実行する変換処理部120は、上述の訓練フェーズの説明で述べた方法を用いて訓練された機械学習モデルである。したがって、入力されるノイズあり画像が含むノイズの種類に左右されず、いずれのノイズも適切に除去することができる。
本開示の一又は複数の態様に係る情報処理方法、情報処理装置、及びプログラムは、上記の実施の形態の説明に限定されるものではない。本開示の趣旨を逸脱しない限り、当業者が想到する各種の変形を上記の実施の形態に施したものも、本開示の態様に含まれてもよい。下記にそのような変形の例、及びその他実施の形態の説明への補足事項を挙げる。
20,20A ノイズあり画像群
30 ノイズなし画像群
40 変換済み画像群
110 画像読込部
120 変換処理部(変換器、生成器)
130 第一変換結果比較部(識別器)
140 特徴抽出部
150 第二変換結果比較部
160 変換パラメタ更新部
190 変換結果出力部
Claims (9)
- コンピュータが、
ノイズを含む第一センシングデータを取得し、
前記第一センシングデータを単一の変換器に入力し、前記変換器による前記第一センシングデータに対するノイズ除去処理の結果として前記変換器から出力される第二センシングデータを取得し、
前記第一センシングデータと同一又は対応する場面におけるノイズを含まないセンシングデータであって前記第二センシングデータとは別の第三センシングデータを取得し、
前記第二センシングデータ及び前記第三センシングデータに基づいて、前記第二センシングデータの特徴情報及び前記第三センシングデータの特徴情報を取得し、
前記第二センシングデータと、前記第二センシングデータの特徴情報とを変換データとして用い、前記第三センシングデータと、前記第三センシングデータの特徴情報とを前記変換データに対応するリファレンスデータとして用いた機械学習によって前記変換器を訓練する
情報処理方法。 - 前記第二センシングデータの特徴情報は、センシングデータを入力すると当該入力されたセンシングデータの特徴情報を出力するよう、機械学習によって訓練されたモデルに前記第二センシングデータを入力することにより取得され、
前記第三センシングデータの特徴情報は、前記モデルに前記第三センシングデータを入力することにより取得される
請求項1に記載の情報処理方法。 - 前記モデルは多層ニューラルネットワークモデルであり、
前記第二センシングデータの特徴情報及び前記第三センシングデータの特徴情報は、前記モデルの中間層の出力である
請求項2に記載の情報処理方法。 - 前記中間層は複数の層であり、前記第二センシングデータの特徴情報及び前記第三センシングデータの特徴情報は、前記複数の層のうちの同じ層からの出力である
請求項3に記載の情報処理方法。 - 前記訓練は、前記第二センシングデータと前記第三センシングデータとの差、及び、前記複数の層のうちの同じ層から出力の出力である前記第二センシングデータの特徴情報と前記第三センシングデータの特徴情報との差に基づく、前記変換器のパラメタの更新である
請求項4に記載の情報処理方法。 - 前記第二センシングデータと前記第三センシングデータのとの差は、入力されるセンシングデータが前記変換器の変換データであるか否か又はリファレンスデータであるか否かを識別するように機械学習を用いて訓練された識別器に前記第二センシングデータと前記第三センシングデータとを入力することにより前記識別器から出力される
請求項5に記載の情報処理方法。 - 前記センシングデータは、イメージセンサから出力される画像である
請求項1〜6のいずれか1項に記載の情報処理方法。 - プロセッサ及びメモリを備え、
前記メモリは単一の変換器を記憶し、
前記プロセッサは、
撮像装置で生成された、ノイズを含む第一センシングデータを取得し、
前記第一センシングデータを前記変換器に入力し、前記変換器による前記第一センシングデータに対するノイズ除去処理の結果として前記変換器から出力される第二センシングデータを取得し、
取得された前記第二センシングデータを出力する
ように構成され、
前記変換器は、前記第二センシングデータと、前記第二センシングデータに基づく前記第二センシングデータの特徴情報とを変換データとして用い、前記第一センシングデータと同一又は対応する場面における前記ノイズを含まないセンシングデータであって、前記第二センシングデータとは別の第三センシングデータと、前記第三センシングデータに基づく前記第三センシングデータの特徴情報とを前記変換データに対応するリファレンスデータとして用いる機械学習によって訓練される
情報処理装置。 - プロセッサ及びメモリを備える情報処理装置において、前記メモリを用いて前記プロセッサによって実行されることで、前記プロセッサに、
撮像装置で生成された、ノイズを含む第一センシングデータを取得させ、
前記第一センシングデータを、前記メモリに記憶されている単一の変換器に入力し、前記変換器による前記第一センシングデータに対するノイズ除去処理の結果として前記変換器から出力される第二センシングデータを取得し、
取得された前記第二センシングデータを出力させるプログラムであって、
前記変換器は、前記第二センシングデータと、前記第二センシングデータに基づく前記第二センシングデータの特徴情報とを変換データとして用い、前記第一センシングデータと同一又は対応する場面における前記ノイズを含まないセンシングデータであって前記第二センシングデータとは別の第三センシングデータと、前記第三センシングデータに基づく前記第三センシングデータの特徴情報とを前記変換データに対応するリファレンスデータとして用いた機械学習によって訓練される
プログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP19194084.0A EP3620989A1 (en) | 2018-09-07 | 2019-08-28 | Information processing method, information processing apparatus, and program |
US16/558,908 US11127117B2 (en) | 2018-09-07 | 2019-09-03 | Information processing method, information processing apparatus, and recording medium |
CN201910830394.6A CN110889803A (zh) | 2018-09-07 | 2019-09-04 | 信息处理方法、信息处理装置及记录介质 |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201862728379P | 2018-09-07 | 2018-09-07 | |
US62/728,379 | 2018-09-07 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020042760A true JP2020042760A (ja) | 2020-03-19 |
JP7212554B2 JP7212554B2 (ja) | 2023-01-25 |
Family
ID=69798456
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019041037A Active JP7212554B2 (ja) | 2018-09-07 | 2019-03-06 | 情報処理方法、情報処理装置、及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7212554B2 (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2021182345A (ja) * | 2020-05-20 | 2021-11-25 | 日本電信電話株式会社 | 画像処理方法、画像処理装置及びプログラム |
WO2021251062A1 (ja) * | 2020-06-10 | 2021-12-16 | コニカミノルタ株式会社 | 反射成分抑制画像生成装置、反射成分抑制推論モデル生成装置、反射成分抑制画像生成方法、及びプログラム |
CN114190886A (zh) * | 2020-09-18 | 2022-03-18 | 卡西欧计算机株式会社 | 噪声波形除去装置及方法、模型训练装置及方法、生成模型以及可穿戴设备 |
JP2022548712A (ja) * | 2020-06-10 | 2022-11-21 | 南京郵電大学 | フィーチャーピラミッドを融合した敵対的生成ネットワークによる画像ヘイズ除去方法 |
JP7458857B2 (ja) | 2020-04-01 | 2024-04-01 | キヤノン株式会社 | 画像処理装置、画像処理方法及びプログラム |
-
2019
- 2019-03-06 JP JP2019041037A patent/JP7212554B2/ja active Active
Non-Patent Citations (1)
Title |
---|
LI CHEN; WEN DAN; LIUJUAN CAO; CHENG WANG; JONATHAN LI: "Joint Denoising and Super-Resolution via Generative Adversarial Training", 2018 24TH INTERNATIONAL CONFERENCE ON PATTERN RECOGNITION(ICPR), JPN6022046290, 20 August 2018 (2018-08-20), ISSN: 0004909463 * |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7458857B2 (ja) | 2020-04-01 | 2024-04-01 | キヤノン株式会社 | 画像処理装置、画像処理方法及びプログラム |
JP2021182345A (ja) * | 2020-05-20 | 2021-11-25 | 日本電信電話株式会社 | 画像処理方法、画像処理装置及びプログラム |
JP7465500B2 (ja) | 2020-05-20 | 2024-04-11 | 日本電信電話株式会社 | 画像処理方法、画像処理装置及びプログラム |
WO2021251062A1 (ja) * | 2020-06-10 | 2021-12-16 | コニカミノルタ株式会社 | 反射成分抑制画像生成装置、反射成分抑制推論モデル生成装置、反射成分抑制画像生成方法、及びプログラム |
JP2022548712A (ja) * | 2020-06-10 | 2022-11-21 | 南京郵電大学 | フィーチャーピラミッドを融合した敵対的生成ネットワークによる画像ヘイズ除去方法 |
JP7379787B2 (ja) | 2020-06-10 | 2023-11-15 | 南京郵電大学 | フィーチャーピラミッドを融合した敵対的生成ネットワークによる画像ヘイズ除去方法 |
CN114190886A (zh) * | 2020-09-18 | 2022-03-18 | 卡西欧计算机株式会社 | 噪声波形除去装置及方法、模型训练装置及方法、生成模型以及可穿戴设备 |
JP2022051378A (ja) * | 2020-09-18 | 2022-03-31 | カシオ計算機株式会社 | ノイズ波形除去装置、モデル訓練装置、ノイズ波形除去方法、モデル訓練方法、生成モデル及びウェアラブル機器 |
JP7342827B2 (ja) | 2020-09-18 | 2023-09-12 | カシオ計算機株式会社 | ノイズ波形除去装置、モデル訓練装置、ノイズ波形除去方法、モデル訓練方法、及びウェアラブル機器 |
CN114190886B (zh) * | 2020-09-18 | 2024-01-19 | 卡西欧计算机株式会社 | 噪声波形除去装置及方法、模型训练装置及方法、以及可穿戴设备 |
Also Published As
Publication number | Publication date |
---|---|
JP7212554B2 (ja) | 2023-01-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11127117B2 (en) | Information processing method, information processing apparatus, and recording medium | |
JP7212554B2 (ja) | 情報処理方法、情報処理装置、及びプログラム | |
JP4856086B2 (ja) | 取得したデジタル画像での赤目検出方法及び装置 | |
Guo et al. | Low-light image enhancement via breaking down the darkness | |
US11600025B2 (en) | Image processing method, image processing apparatus, image processing system, and learnt model manufacturing method | |
US7953251B1 (en) | Method and apparatus for detection and correction of flash-induced eye defects within digital images using preview or other reference images | |
KR20190143785A (ko) | 영상 처리 방법 및 장치, 및 전자 디바이스 | |
JP6415062B2 (ja) | 画像処理装置、画像処理方法、制御プログラム、および記録媒体 | |
US20040247196A1 (en) | Method and system for modifying a digital image taking into account it's noise | |
JP2020160616A (ja) | 生成装置、コンピュータプログラム、生成方法 | |
JP7297470B2 (ja) | 画像処理方法、画像処理装置、プログラム、画像処理システム、および、学習済みモデルの製造方法 | |
US11508038B2 (en) | Image processing method, storage medium, image processing apparatus, learned model manufacturing method, and image processing system | |
US20120070096A1 (en) | Imaging apparatus and image restoration method | |
JP5765893B2 (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
CN109478316A (zh) | 实时自适应阴影和高光增强 | |
WO2013114803A1 (ja) | 画像処理装置及びその画像処理方法、並びにコンピュータ・プログラム、および画像処理システム | |
JP2021060847A (ja) | ノイズ除去システム | |
JP6415063B2 (ja) | 画像処理装置、画像処理方法、制御プログラム、および記録媒体 | |
JP4438363B2 (ja) | 画像処理装置および画像処理プログラム | |
WO2022113367A1 (ja) | 画像変換方法、プログラム、画像処理装置 | |
CN115002297A (zh) | 图像降噪方法、训练方法、装置、电子设备及存储介质 | |
WO2013114802A1 (ja) | 画像処理装置及びその画像処理方法、並びにコンピュータ・プログラム、および画像処理システム | |
JP2019159956A (ja) | ニューラルネットワーク型画像処理装置 | |
JP6833110B2 (ja) | 画像補正装置、画像補正方法、及び画像補正プログラム | |
JP7372072B2 (ja) | 画像処理装置、画像処理方法、画像処理プログラム、および画像検査システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210921 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20221014 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20221101 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221220 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230110 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230113 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7212554 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |