JP6957197B2 - 画像処理装置および画像処理方法 - Google Patents
画像処理装置および画像処理方法 Download PDFInfo
- Publication number
- JP6957197B2 JP6957197B2 JP2017098231A JP2017098231A JP6957197B2 JP 6957197 B2 JP6957197 B2 JP 6957197B2 JP 2017098231 A JP2017098231 A JP 2017098231A JP 2017098231 A JP2017098231 A JP 2017098231A JP 6957197 B2 JP6957197 B2 JP 6957197B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- error
- image processing
- resolution
- frequency component
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims description 61
- 238000003672 processing method Methods 0.000 title claims description 7
- 238000012549 training Methods 0.000 claims description 60
- 238000013527 convolutional neural network Methods 0.000 claims description 37
- 238000000034 method Methods 0.000 claims description 21
- 230000006866 deterioration Effects 0.000 claims description 10
- 230000008569 process Effects 0.000 claims description 7
- 238000000354 decomposition reaction Methods 0.000 claims description 4
- 238000006243 chemical reaction Methods 0.000 claims description 3
- 238000004590 computer program Methods 0.000 claims description 2
- 230000006870 function Effects 0.000 description 32
- 230000003287 optical effect Effects 0.000 description 31
- 238000003384 imaging method Methods 0.000 description 23
- 239000011159 matrix material Substances 0.000 description 11
- 238000001228 spectrum Methods 0.000 description 9
- 238000004364 calculation method Methods 0.000 description 7
- 230000000694 effects Effects 0.000 description 4
- ORQBXQOJMQIAOY-UHFFFAOYSA-N nobelium Chemical compound [No] ORQBXQOJMQIAOY-UHFFFAOYSA-N 0.000 description 4
- 239000013598 vector Substances 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 238000012886 linear function Methods 0.000 description 3
- 238000011084 recovery Methods 0.000 description 3
- 239000004065 semiconductor Substances 0.000 description 3
- 230000004075 alteration Effects 0.000 description 2
- 238000007796 conventional method Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000013139 quantization Methods 0.000 description 2
- 230000004913 activation Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000004069 differentiation Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000011478 gradient descent method Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformation in the plane of the image
- G06T3/40—Scaling the whole image or part thereof
- G06T3/4053—Super resolution, i.e. output image resolution higher than sensor resolution
- G06T3/4076—Super resolution, i.e. output image resolution higher than sensor resolution by iteratively correcting the provisional high resolution image using the original low-resolution image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformation in the plane of the image
- G06T3/40—Scaling the whole image or part thereof
- G06T3/4046—Scaling the whole image or part thereof using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformation in the plane of the image
- G06T3/40—Scaling the whole image or part thereof
- G06T3/4053—Super resolution, i.e. output image resolution higher than sensor resolution
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformation in the plane of the image
- G06T3/40—Scaling the whole image or part thereof
- G06T3/4084—Transform-based scaling, e.g. FFT domain scaling
-
- G06T5/70—
-
- G06T5/73—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20048—Transform domain processing
- G06T2207/20052—Discrete cosine transform [DCT]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
Description
(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
Claims (17)
- 畳み込みニューラルネットワークに入力画像を与えることで得られる推定画像と前記入力画像に対応する訓練画像との誤差を算出し、前記誤差の高周波成分に前記誤差の低周波成分よりも大きい重み付けを行うように前記誤差の周波数成分に対して重み付けを行う誤差重み付け手段と、
前記重み付けが行われた前記誤差から勾配を算出し、該勾配を用いて前記畳み込みニューラルネットワークのネットワークパラメータを設定するパラメータ設定手段とを有することを特徴とする画像処理装置。 - 前記誤差は、前記入力画像と前記訓練画像との差分を示す画像であることを特徴とする請求項1に記載の画像処理装置。
- 前記誤差重み付け手段は、
前記誤差の周波数分解を行って周波数成分ごとの周波数係数を算出し、
前記周波数係数のうち、所定の高周波成分に対応する高周波係数に対して重み付け係数を適用して加重高周波係数を算出し、
前記加重高周波係数に対して前記周波数分解の逆変換を行うことを特徴とする請求項1または2に記載の画像処理装置。 - 前記周波数分解は離散コサイン変換であり、前記周波数係数は離散コサイン変換係数であることを特徴とする請求項3に記載の画像処理装置。
- 前記重み付け係数は、前記高周波係数に対して一様に重みを加えるように設定されていることを特徴とする請求項3または4に記載の画像処理装置。
- 前記重み付け係数の大きさは、1.5以上、2.5以下であることを特徴とする請求項5に記載の画像処理装置。
- 前記所定の高周波成分は、高周波側1/2以上、2/3以下の高周波成分であることを特徴とする請求項5または6に記載の画像処理装置。
- 前記重み付け係数は、前記高周波係数に対して単調増加する重みを加えるように設定されていることを特徴とする請求項3または4に記載の画像処理装置。
- 前記重み付け係数の最大値は、3以上、6以下であることを特徴とする請求項8に記載の画像処理装置。
- 前記所定の高周波成分は、高周波側2/3以上、4/5以下の高周波成分であることを特徴とする請求項8または9に記載の画像処理装置。
- 前記入力画像は、正解画像に対して劣化した劣化画像であり、
前記訓練画像は、前記正解画像であることを特徴とする請求項1から10のいずれか一項に記載の画像処理装置。 - 前記入力画像は、低解像度画像であり、
前記推定画像は、前記低解像度画像より高解像度の推定画像であり、
前記訓練画像は、前記低解像度画像より高解像度の訓練画像であることを特徴とする請求項1から10のいずれか一項に記載の画像処理装置。 - 前記入力画像は、ノイズにより劣化したノイズ劣化画像であり、
前記推定画像は、前記ノイズ劣化画像よりノイズによる劣化が少ない推定画像であり、
前記訓練画像は、前記ノイズ劣化画像よりノイズによる劣化が少ない訓練画像であることを特徴とする請求項1から10のいずれか一項に記載の画像処理装置。 - 前記入力画像は、ぼけを含むぼけ画像であり、
前記推定画像は、前記ぼけ画像よりぼけによる劣化が少ない推定画像であり、
前記訓練画像は、前記ぼけ画像よりぼけによる劣化が少ない訓練画像であることを特徴とする請求項1から10のいずれか一項に記載の画像処理装置。 - 撮像素子と、
該撮像素子を通して得られた画像を入力画像とする請求項1から14のいずれか一項に記載の画像処理装置とを有することを特徴とする撮像装置。 - 畳み込みニューラルネットワークに入力画像を与えることで得られる推定画像と前記入力画像に対応する訓練画像との誤差を算出し、前記誤差の高周波成分に前記誤差の低周波成分よりも大きい重み付けを行うように前記誤差の周波数成分に対して重み付けを行うステップと、
前記重み付けが行われた前記誤差から勾配を算出し、該勾配を用いて前記畳み込みニューラルネットワークのネットワークパラメータを設定するステップとを有することを特徴とする画像処理方法。 - コンピュータに画像処理を実行させるコンピュータプログラムであって、
前記画像処理は、
畳み込みニューラルネットワークに入力画像を与えることで得られる推定画像と前記入力画像に対応する訓練画像との誤差を算出し、前記誤差の高周波成分に前記誤差の低周波成分よりも大きい重み付けを行うように前記誤差の周波数成分に対して重み付けを行う処理と、
前記重み付けが行われた前記誤差から勾配を算出し、該勾配を用いて前記畳み込みニューラルネットワークのネットワークパラメータを設定する処理とを有することを特徴とする画像処理プログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017098231A JP6957197B2 (ja) | 2017-05-17 | 2017-05-17 | 画像処理装置および画像処理方法 |
US15/978,555 US20180336662A1 (en) | 2017-05-17 | 2018-05-14 | Image processing apparatus, image processing method, image capturing apparatus, and storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017098231A JP6957197B2 (ja) | 2017-05-17 | 2017-05-17 | 画像処理装置および画像処理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018195069A JP2018195069A (ja) | 2018-12-06 |
JP6957197B2 true JP6957197B2 (ja) | 2021-11-02 |
Family
ID=64271934
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017098231A Active JP6957197B2 (ja) | 2017-05-17 | 2017-05-17 | 画像処理装置および画像処理方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US20180336662A1 (ja) |
JP (1) | JP6957197B2 (ja) |
Families Citing this family (25)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6554253B2 (ja) * | 2017-06-05 | 2019-07-31 | 楽天株式会社 | 画像処理装置、画像処理方法、および画像処理プログラム |
KR102174777B1 (ko) * | 2018-01-23 | 2020-11-06 | 주식회사 날비컴퍼니 | 이미지의 품질 향상을 위하여 이미지를 처리하는 방법 및 장치 |
WO2020059446A1 (ja) * | 2018-09-20 | 2020-03-26 | 富士フイルム株式会社 | 学習装置及び学習方法 |
CN109510943A (zh) * | 2018-12-17 | 2019-03-22 | 三星电子(中国)研发中心 | 用于拍摄图像的方法和装置 |
DE102018222147A1 (de) | 2018-12-18 | 2020-06-18 | Leica Microsystems Cms Gmbh | Optikkorrektur durch Maschinenlernen |
JP7278766B2 (ja) * | 2018-12-21 | 2023-05-22 | キヤノン株式会社 | 画像処理装置、画像処理方法およびプログラム |
JP7258604B2 (ja) * | 2019-03-05 | 2023-04-17 | キヤノン株式会社 | 画像処理方法、画像処理装置、プログラム、および学習済みモデルの製造方法 |
JP7167832B2 (ja) * | 2019-04-19 | 2022-11-09 | 日本電信電話株式会社 | 画像変換装置、画像変換モデル学習装置、方法、及びプログラム |
CN109996085B (zh) * | 2019-04-30 | 2021-05-14 | 北京金山云网络技术有限公司 | 模型训练方法、图像处理方法、装置及电子设备 |
CN111881927B (zh) | 2019-05-02 | 2021-12-21 | 三星电子株式会社 | 电子装置及其图像处理方法 |
WO2020246150A1 (ja) * | 2019-06-03 | 2020-12-10 | 浜松ホトニクス株式会社 | 半導体検査方法及び半導体検査装置 |
JP7312026B2 (ja) | 2019-06-12 | 2023-07-20 | キヤノン株式会社 | 画像処理装置、画像処理方法およびプログラム |
KR20210017185A (ko) | 2019-08-07 | 2021-02-17 | 한국전자통신연구원 | 심층 신경망을 기반으로 영상의 압축 포아송 잡음을 제거하는 방법 및 장치 |
CN112396558A (zh) * | 2019-08-15 | 2021-02-23 | 株式会社理光 | 图像处理方法、装置及计算机可读存储介质 |
JP7284688B2 (ja) * | 2019-10-31 | 2023-05-31 | 浜松ホトニクス株式会社 | 画像処理装置、画像処理方法、画像処理プログラムおよび記録媒体 |
CN110827219B (zh) | 2019-10-31 | 2023-04-07 | 北京小米智能科技有限公司 | 图像处理模型的训练方法、装置及介质 |
CN110827200B (zh) * | 2019-11-04 | 2023-04-07 | Oppo广东移动通信有限公司 | 一种图像超分重建方法、图像超分重建装置及移动终端 |
CN114651439B (zh) * | 2019-11-08 | 2024-03-05 | 奥林巴斯株式会社 | 信息处理系统、内窥镜系统、信息存储介质及信息处理方法 |
JPWO2021095256A1 (ja) * | 2019-11-15 | 2021-05-20 | ||
CN111161156A (zh) * | 2019-11-28 | 2020-05-15 | 东南大学 | 一种基于深度学习的水下桥墩病害图像分辨率增强方法 |
WO2021157062A1 (ja) * | 2020-02-07 | 2021-08-12 | 日本電信電話株式会社 | 量子化ビット数拡張のための学習装置、信号推定装置、学習方法、信号推定方法、およびプログラム |
CN111507902B (zh) * | 2020-04-15 | 2023-09-26 | 京东城市(北京)数字科技有限公司 | 一种高分辨率图像获取方法及装置 |
CN111709890B (zh) | 2020-06-12 | 2023-11-24 | 北京小米松果电子有限公司 | 一种图像增强模型的训练方法、装置及存储介质 |
US20220067879A1 (en) | 2020-09-03 | 2022-03-03 | Nvidia Corporation | Image enhancement using one or more neural networks |
WO2023224320A1 (ko) * | 2022-05-17 | 2023-11-23 | 삼성전자 주식회사 | 영상의 화질을 향상시키기 위한 영상 처리 장치 및 방법 |
-
2017
- 2017-05-17 JP JP2017098231A patent/JP6957197B2/ja active Active
-
2018
- 2018-05-14 US US15/978,555 patent/US20180336662A1/en not_active Abandoned
Also Published As
Publication number | Publication date |
---|---|
JP2018195069A (ja) | 2018-12-06 |
US20180336662A1 (en) | 2018-11-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6957197B2 (ja) | 画像処理装置および画像処理方法 | |
US11354537B2 (en) | Image processing apparatus, imaging apparatus, image processing method, and storage medium | |
KR101233013B1 (ko) | 화상 촬영 장치 및 그 거리 연산 방법과 합초 화상 취득 방법 | |
RU2431889C1 (ru) | Способ суперразрешения изображений и нелинейный цифровой фильтр для его осуществления | |
US8649628B2 (en) | Adaptive PSF estimation technique using a sharp preview and a blurred image | |
US9036032B2 (en) | Image pickup device changing the size of a blur kernel according to the exposure time | |
Delbracio et al. | Removing camera shake via weighted fourier burst accumulation | |
US8432479B2 (en) | Range measurement using a zoom camera | |
WO2011099244A1 (ja) | 画像処理装置および画像処理方法 | |
JP2017208641A (ja) | 圧縮センシングを用いた撮像装置、撮像方法および撮像プログラム | |
JP2017010095A (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
KR20070085364A (ko) | 열화 정보 복원 방법, 복원 장치 및 프로그램이 기록된 기록 매체 | |
FR2978855A1 (fr) | Procede et dispositif de calcul d'une carte de profondeur a partir d'une unique image | |
JP5765893B2 (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
CN107220945B (zh) | 多重退化的极模糊图像的复原方法 | |
JP6344934B2 (ja) | 画像処理方法、画像処理装置、撮像装置、画像処理プログラムおよび記録媒体 | |
JP6541454B2 (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
US20210279851A1 (en) | Manufacturing method of learning data, learning method, learning data manufacturing apparatus, learning apparatus, and memory medium | |
JP2017010093A (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
JP2012003454A (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
JP2017208642A (ja) | 圧縮センシングを用いた撮像装置、撮像方法および撮像プログラム | |
JP6661491B2 (ja) | 画像処理装置および画像処理方法 | |
JP2017130167A (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
JP6611509B2 (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
JP6818461B2 (ja) | 撮像装置、画像処理装置、画像処理方法および画像処理プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200421 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210527 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210629 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210819 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210907 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20211006 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6957197 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |