JP7146461B2 - 画像処理方法、画像処理装置、撮像装置、プログラム、および、記憶媒体 - Google Patents
画像処理方法、画像処理装置、撮像装置、プログラム、および、記憶媒体 Download PDFInfo
- Publication number
- JP7146461B2 JP7146461B2 JP2018108986A JP2018108986A JP7146461B2 JP 7146461 B2 JP7146461 B2 JP 7146461B2 JP 2018108986 A JP2018108986 A JP 2018108986A JP 2018108986 A JP2018108986 A JP 2018108986A JP 7146461 B2 JP7146461 B2 JP 7146461B2
- Authority
- JP
- Japan
- Prior art keywords
- unnecessary light
- learning
- image processing
- information
- light component
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Image Processing (AREA)
- Studio Devices (AREA)
- Image Analysis (AREA)
Description
また、本発明の一側面としての画像処理方法は、不要光成分を含む入力画像の少なくとも一部の領域を取得する工程と、前記不要光成分に関して予め学習された学習情報を取得する工程と、前記学習情報を用いて前記領域における前記不要光成分を推定または低減する工程と、前記不要光成分を含む不要光領域の大きさを取得する工程と、を有し、前記不要光成分を推定または低減する工程は、Nを2以上の整数、nを1からNまでの整数とするとき、前記領域に対して、前記学習情報に基づく複数の線型関数のそれぞれによる第n線型変換と、非線型関数による第n非線型変換とをnが1からNになるまで順に実行することで中間データを生成する工程と、前記中間データに対して、前記学習情報に基づく少なくとも一つの線型関数による第N+1線型変換を実行する工程と、を含み、前記領域の大きさまたは前記学習情報は、前記不要光領域の大きさに基づいて決定される。
また、本発明の一側面としての画像処理方法は、不要光成分を含む入力画像の少なくとも一部の領域を取得する工程と、前記不要光成分に関して予め学習された学習情報を取得する工程と、前記学習情報を用いて前記領域における前記不要光成分を推定または低減する工程と、を有し、前記不要光成分を推定または低減する工程は、Nを2以上の整数、nを1からNまでの整数とするとき、前記領域に対して、前記学習情報に基づく複数の線型関数のそれぞれによる第n線型変換と、非線型関数による第n非線型変換とをnが1からNになるまで順に実行することで中間データを生成する工程と、前記中間データに対して、前記学習情報に基づく少なくとも一つの線型関数による第N+1線型変換を実行する工程と、を含み、前記第n線型変換(n=1~N)のそれぞれは、前記学習情報に基づく複数のフィルタの各々とのコンボリューションを含み、前記第N+1線型変換は、前記学習情報に基づくフィルタとのコンボリューションを含み、前記第n線型変換(n=1~N)および前記第N+1線型変換のそれぞれにおける前記フィルタのサイズは、前記コンボリューションを行う前に縮小した前記入力画像の大きさ、不要光領域の大きさ、又は撮影条件の何れかに基づいて決定される。
また、本発明の一側面としての画像処理方法は、不要光成分を含む入力画像の少なくとも一部の領域を取得する工程と、前記不要光成分に関して予め学習された学習情報を取得する工程と、前記学習情報を用いて前記領域における前記不要光成分を推定または低減する工程と、を有し、前記不要光成分を推定または低減する工程は、Nを2以上の整数、nを1からNまでの整数とするとき、前記領域に対して、前記学習情報に基づく複数の線型関数のそれぞれによる第n線型変換と、非線型関数による第n非線型変換とをnが1からNになるまで順に実行することで中間データを生成する工程と、前記中間データに対して、前記学習情報に基づく少なくとも一つの線型関数による第N+1線型変換を実行する工程と、を含み、前記第n線型変換(n=1~N)のそれぞれは、前記学習情報に基づく複数のフィルタの各々とのコンボリューションを含み、前記第N+1線型変換は、前記学習情報に基づくフィルタとのコンボリューションを含み、前記入力画像の画素に対する不要光領域の大きさをd、前記第n線型変換(n=1~N)および前記第N+1線型変換のそれぞれにおける前記フィルタの1次元サイズをsm(m=1~N+1)とするとき、
なる条件式を満足する。
また、本発明の一側面としての画像処理方法は、不要光成分を含む入力画像の少なくとも一部の領域を取得する工程と、前記不要光成分に関して予め学習された学習情報を取得する工程と、前記学習情報を用いて前記領域における前記不要光成分を推定または低減する工程と、を有し、前記不要光成分を推定または低減する工程は、Nを2以上の整数、nを1からNまでの整数とするとき、前記領域に対して、前記学習情報に基づく複数の線型関数のそれぞれによる第n線型変換と、非線型関数による第n非線型変換とをnが1からNになるまで順に実行することで中間データを生成する工程と、前記中間データに対して、前記学習情報に基づく少なくとも一つの線型関数による第N+1線型変換を実行する工程と、を含み、前記学習情報は、前記不要光成分の有無が異なり、かつ同一の被写体が存在する少なくとも一対の学習画像を用いて学習された情報であり、前記学習画像のうち前記不要光成分を含まない画像は、同一の被写体を異なる絞り値、視差、光源の有無、または、異なる結像光学系で撮影して得られた画像である。
本発明は、上述の実施例の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
102b、303 補正部(画像処理部)
103、302 記憶部
301 画像処理装置
Claims (21)
- 不要光成分を含む入力画像の少なくとも一部の領域を取得する工程と、
前記不要光成分に関して予め学習された学習情報を取得する工程と、
前記学習情報を用いて前記領域における前記不要光成分を推定または低減する工程と、
を有し、
前記不要光成分を推定または低減する工程は、Nを2以上の整数、nを1からNまでの整数とするとき、
前記領域に対して、前記学習情報に基づく複数の線型関数のそれぞれによる第n線型変換と、非線型関数による第n非線型変換とをnが1からNになるまで順に実行することで中間データを生成する工程と、
前記中間データに対して、前記学習情報に基づく少なくとも一つの線型関数による第N+1線型変換を実行する工程と、を含み、
前記学習情報は、光源の位置、強度、または、色に基づいて学習された情報であることを特徴とする画像処理方法。 - 前記不要光成分を含む不要光領域の大きさを取得する工程を更に有し、
前記領域の大きさまたは前記学習情報は、前記不要光領域の大きさに基づいて決定されることを特徴とする請求項1に記載の画像処理方法。 - 不要光成分を含む入力画像の少なくとも一部の領域を取得する工程と、
前記不要光成分に関して予め学習された学習情報を取得する工程と、
前記学習情報を用いて前記領域における前記不要光成分を推定または低減する工程と、
前記不要光成分を含む不要光領域の大きさを取得する工程と、を有し、
前記不要光成分を推定または低減する工程は、Nを2以上の整数、nを1からNまでの整数とするとき、
前記領域に対して、前記学習情報に基づく複数の線型関数のそれぞれによる第n線型変換と、非線型関数による第n非線型変換とをnが1からNになるまで順に実行することで中間データを生成する工程と、
前記中間データに対して、前記学習情報に基づく少なくとも一つの線型関数による第N+1線型変換を実行する工程と、を含み、
前記領域の大きさまたは前記学習情報は、前記不要光領域の大きさに基づいて決定されることを特徴とする画像処理方法。 - 前記不要光領域の大きさは、前記入力画像とは異なる絞り値、視差、光源の有無、または、異なる結像光学系で得られた画像を用いて算出されることを特徴とする請求項3に記載の画像処理方法。
- 前記第n線型変換(n=1~N)のそれぞれは、前記学習情報に基づく複数のフィルタの各々とのコンボリューションを含むことを特徴とする請求項1乃至4のいずれか一項に記載の画像処理方法。
- 前記領域における前記不要光成分を低減する工程において、前記第N+1線型変換は、前記学習情報に基づくフィルタとのコンボリューションを含むことを特徴とする請求項5に記載の画像処理方法。
- 前記フィルタのサイズは、前記コンボリューションを行う前に縮小した前記入力画像の大きさに基づいて決定されることを特徴とする請求項6に記載の画像処理方法。
- 前記第n線型変換(n=1~N)および前記第N+1線型変換のそれぞれにおける前記フィルタのサイズは、不要光領域の大きさに基づいて決定されることを特徴とする請求項6または7に記載の画像処理方法。
- 前記第n線型変換(n=1~N)および前記第N+1線型変換のそれぞれにおける前記フィルタのサイズは、撮影条件に基づいて決定されることを特徴とする請求項6に記載の画像処理方法。
- 不要光成分を含む入力画像の少なくとも一部の領域を取得する工程と、
前記不要光成分に関して予め学習された学習情報を取得する工程と、
前記学習情報を用いて前記領域における前記不要光成分を推定または低減する工程と、を有し、
前記不要光成分を推定または低減する工程は、Nを2以上の整数、nを1からNまでの整数とするとき、
前記領域に対して、前記学習情報に基づく複数の線型関数のそれぞれによる第n線型変換と、非線型関数による第n非線型変換とをnが1からNになるまで順に実行することで中間データを生成する工程と、
前記中間データに対して、前記学習情報に基づく少なくとも一つの線型関数による第N+1線型変換を実行する工程と、を含み、
前記第n線型変換(n=1~N)のそれぞれは、前記学習情報に基づく複数のフィルタの各々とのコンボリューションを含み、
前記第N+1線型変換は、前記学習情報に基づくフィルタとのコンボリューションを含み、
前記第n線型変換(n=1~N)および前記第N+1線型変換のそれぞれにおける前記フィルタのサイズは、前記コンボリューションを行う前に縮小した前記入力画像の大きさ、不要光領域の大きさ、又は撮影条件の何れかに基づいて決定されることを特徴とする画像処理方法。 - 不要光成分を含む入力画像の少なくとも一部の領域を取得する工程と、
前記不要光成分に関して予め学習された学習情報を取得する工程と、
前記学習情報を用いて前記領域における前記不要光成分を推定または低減する工程と、を有し、
前記不要光成分を推定または低減する工程は、Nを2以上の整数、nを1からNまでの整数とするとき、
前記領域に対して、前記学習情報に基づく複数の線型関数のそれぞれによる第n線型変換と、非線型関数による第n非線型変換とをnが1からNになるまで順に実行することで中間データを生成する工程と、
前記中間データに対して、前記学習情報に基づく少なくとも一つの線型関数による第N+1線型変換を実行する工程と、を含み、
前記第n線型変換(n=1~N)のそれぞれは、前記学習情報に基づく複数のフィルタの各々とのコンボリューションを含み、
前記第N+1線型変換は、前記学習情報に基づくフィルタとのコンボリューションを含み、
前記入力画像の画素に対する不要光領域の大きさをd、前記第n線型変換(n=1~N)および前記第N+1線型変換のそれぞれにおける前記フィルタの1次元サイズをsm(m=1~N+1)とするとき、
なる条件式を満足することを特徴とする画像処理方法。 - 前記学習情報は、前記不要光成分の有無が異なり、かつ同一の被写体が存在する少なくとも一対の学習画像を用いて学習された情報であることを特徴とする請求項1乃至12のいずれか1項に記載の画像処理方法。
- 前記学習情報は、前記不要光成分の特徴に関する不要光特徴情報を用いて学習された情報であることを特徴とする請求項1乃至13のいずれか1項に記載の画像処理方法。
- 前記学習情報は、撮影に使用する結像光学系に応じて異なることを特徴とする請求項1乃至14のいずれか1項に記載の画像処理方法。
- 前記学習画像のうち前記不要光成分を含まない画像は、同一の被写体を異なる絞り値、視差、光源の有無、または、異なる結像光学系で撮影して得られた画像であることを特徴とする請求項13に記載の画像処理方法。
- 不要光成分を含む入力画像の少なくとも一部の領域を取得する工程と、
前記不要光成分に関して予め学習された学習情報を取得する工程と、
前記学習情報を用いて前記領域における前記不要光成分を推定または低減する工程と、を有し、
前記不要光成分を推定または低減する工程は、Nを2以上の整数、nを1からNまでの整数とするとき、
前記領域に対して、前記学習情報に基づく複数の線型関数のそれぞれによる第n線型変換と、非線型関数による第n非線型変換とをnが1からNになるまで順に実行することで中間データを生成する工程と、
前記中間データに対して、前記学習情報に基づく少なくとも一つの線型関数による第N+1線型変換を実行する工程と、を含み、
前記学習情報は、前記不要光成分の有無が異なり、かつ同一の被写体が存在する少なくとも一対の学習画像を用いて学習された情報であり、
前記学習画像のうち前記不要光成分を含まない画像は、同一の被写体を異なる絞り値、視差、光源の有無、または、異なる結像光学系で撮影して得られた画像であることを特徴とする画像処理方法。 - 請求項1乃至17のいずれか1項に記載の画像処理方法を実行する画像処理部を有することを特徴とする画像処理装置。
- 請求項18に記載の画像処理装置と、被写体を撮像することで前記入力画像を生成する撮像部と、を有することを特徴とする撮像装置。
- 請求項1乃至17のいずれか1項に記載の画像処理方法をコンピュータに実行させることを特徴とするプログラム。
- 請求項20に記載のプログラムを記憶していることを特徴とする記憶媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018108986A JP7146461B2 (ja) | 2018-06-06 | 2018-06-06 | 画像処理方法、画像処理装置、撮像装置、プログラム、および、記憶媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018108986A JP7146461B2 (ja) | 2018-06-06 | 2018-06-06 | 画像処理方法、画像処理装置、撮像装置、プログラム、および、記憶媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019212132A JP2019212132A (ja) | 2019-12-12 |
JP7146461B2 true JP7146461B2 (ja) | 2022-10-04 |
Family
ID=68845520
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018108986A Active JP7146461B2 (ja) | 2018-06-06 | 2018-06-06 | 画像処理方法、画像処理装置、撮像装置、プログラム、および、記憶媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7146461B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021125076A1 (ja) * | 2019-12-18 | 2021-06-24 | ソニーセミコンダクタソリューションズ株式会社 | 情報処理装置、情報処理方法、プログラム、撮像装置及び撮像システム |
CN114616587A (zh) * | 2020-09-28 | 2022-06-10 | 谷歌有限责任公司 | 基于学习的镜头眩光移除 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015118646A (ja) | 2013-12-20 | 2015-06-25 | キヤノン株式会社 | 画像処理方法、画像処理プログラムおよび画像処理装置 |
WO2016132468A1 (ja) | 2015-02-18 | 2016-08-25 | 株式会社日立製作所 | データ評価方法および装置、故障診断方法および装置 |
JP2016163169A (ja) | 2015-03-02 | 2016-09-05 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 |
WO2017047494A1 (ja) | 2015-09-18 | 2017-03-23 | 株式会社日立国際電気 | 画像処理装置 |
JP2018084982A (ja) | 2016-11-24 | 2018-05-31 | キヤノン株式会社 | 画像処理装置、情報処理方法及びプログラム |
-
2018
- 2018-06-06 JP JP2018108986A patent/JP7146461B2/ja active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015118646A (ja) | 2013-12-20 | 2015-06-25 | キヤノン株式会社 | 画像処理方法、画像処理プログラムおよび画像処理装置 |
WO2016132468A1 (ja) | 2015-02-18 | 2016-08-25 | 株式会社日立製作所 | データ評価方法および装置、故障診断方法および装置 |
JP2016163169A (ja) | 2015-03-02 | 2016-09-05 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 |
WO2017047494A1 (ja) | 2015-09-18 | 2017-03-23 | 株式会社日立国際電気 | 画像処理装置 |
JP2018084982A (ja) | 2016-11-24 | 2018-05-31 | キヤノン株式会社 | 画像処理装置、情報処理方法及びプログラム |
Also Published As
Publication number | Publication date |
---|---|
JP2019212132A (ja) | 2019-12-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10354369B2 (en) | Image processing method, image processing apparatus, image pickup apparatus, and storage medium | |
KR102574141B1 (ko) | 이미지 디스플레이 방법 및 디바이스 | |
CN111402146B (zh) | 图像处理方法以及图像处理装置 | |
EP2312858B1 (en) | Image processing apparatus, imaging apparatus, image processing method, and program | |
JP7101646B2 (ja) | イメージ復元方法及び装置 | |
JP2019121252A (ja) | 画像処理方法、画像処理装置、画像処理プログラム、および、記憶媒体 | |
JP6910780B2 (ja) | 画像処理方法、画像処理装置、撮像装置、画像処理プログラム、および、記憶媒体 | |
CN113168670A (zh) | 使用神经网络的亮点去除 | |
JP2018084982A (ja) | 画像処理装置、情報処理方法及びプログラム | |
US9225898B2 (en) | Image pickup apparatus, image processing system, image pickup system, image processing method, and non-transitory computer-readable storage medium | |
US20110043666A1 (en) | Image processing apparatus, image processing method, and computer program storage medium | |
JP7234057B2 (ja) | 画像処理方法、画像処理装置、撮像装置、レンズ装置、プログラム、記憶媒体、および、画像処理システム | |
JP7146461B2 (ja) | 画像処理方法、画像処理装置、撮像装置、プログラム、および、記憶媒体 | |
JP2019074777A (ja) | 画像処理方法、画像処理装置、および撮像装置 | |
JP2020197774A (ja) | 画像処理方法、画像処理装置、撮像装置、画像処理プログラム、および、記憶媒体 | |
JP7191588B2 (ja) | 画像処理方法、画像処理装置、撮像装置、レンズ装置、プログラム、および、記憶媒体 | |
KR102614908B1 (ko) | 이미지 복원 방법 및 장치 | |
JP7286268B2 (ja) | 画像処理方法、画像処理装置、撮像装置、画像処理プログラム、および、記憶媒体 | |
JP7129229B2 (ja) | 画像処理方法、画像処理装置、撮像装置、プログラム、および、記憶媒体 | |
JP7009219B2 (ja) | 画像処理方法、画像処理装置、撮像装置、画像処理プログラム、および、記憶媒体 | |
CN110958382A (zh) | 图像处理方法、图像处理装置、成像装置和存储介质 | |
JP2021140758A (ja) | 学習データの製造方法、学習方法、学習データ製造装置、学習装置、およびプログラム | |
JP6487008B1 (ja) | 高解像度撮像装置 | |
CN113379608A (zh) | 一种图像处理方法、存储介质及终端设备 | |
JP6521763B2 (ja) | 画像処理装置、撮像装置、画像処理方法、プログラム、及び記録媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210524 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220502 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220531 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220729 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220823 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220921 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7146461 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |