JP6952226B2 - 画像処理装置、カメラ、画像処理方法およびプログラム - Google Patents
画像処理装置、カメラ、画像処理方法およびプログラム Download PDFInfo
- Publication number
- JP6952226B2 JP6952226B2 JP2020118646A JP2020118646A JP6952226B2 JP 6952226 B2 JP6952226 B2 JP 6952226B2 JP 2020118646 A JP2020118646 A JP 2020118646A JP 2020118646 A JP2020118646 A JP 2020118646A JP 6952226 B2 JP6952226 B2 JP 6952226B2
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- function
- image processing
- pixels
- similarity
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims description 83
- 238000003672 processing method Methods 0.000 title claims description 5
- 238000004364 calculation method Methods 0.000 claims description 50
- 238000000034 method Methods 0.000 claims description 32
- 238000012937 correction Methods 0.000 claims description 22
- 230000008569 process Effects 0.000 claims description 16
- 230000006870 function Effects 0.000 description 83
- 238000006243 chemical reaction Methods 0.000 description 16
- 238000000605 extraction Methods 0.000 description 15
- 238000004891 communication Methods 0.000 description 9
- 238000010586 diagram Methods 0.000 description 9
- 230000002146 bilateral effect Effects 0.000 description 7
- 230000004048 modification Effects 0.000 description 7
- 238000012986 modification Methods 0.000 description 7
- 230000003287 optical effect Effects 0.000 description 6
- 238000004321 preservation Methods 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 230000008901 benefit Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 239000006185 dispersion Substances 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 239000013598 vector Substances 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
Description
本発明の第2の態様によると、カメラは、第1の態様の画像処理装置を搭載する。
本発明の第3の態様によると、画像処理方法は、複数の画素からなる画像データを入力するステップと、前記複数の画素のうちの第1画素に対し第1関数を生成するとともに、前記複数の画素のうちの第2画素に対し第2関数を生成するステップと、前記第1関数と前記第2関数に基づいて、前記第1画素と前記第2画素との間の類似度を算出するステップと、前記類似度に基づいて前記第1画素の画素値を補正するステップと、を備える。
本発明の第4の態様によると、プログラムは、複数の画素からなる画像データを入力する入力処理と、前記複数の画素のうちの第1画素に対し第1関数を生成するとともに、前記複数の画素のうちの第2画素に対し第2関数を生成する生成処理と、前記第1関数と前記第2関数に基づいて、前記第1画素と前記第2画素との間の類似度を算出する算出処理と、前記類似度に基づいて前記第1画素の画素値を補正する補正処理と、をコンピュータに実行させるものである。
なお、処理部10の演算処理の一部は、撮像素子8に搭載された処理回路において行うこともできる。また、撮像素子8は、CCD等の任意のイメージセンサを用いて適宜構成することができる。
以下では、画像データを適宜「画像」等と呼び、説明をわかりやすくするため、必要に応じて画像データにより構築される画像に基づいて説明する。
なお、上記の画像変換部11が行う処理が予め行われた画像データが入力部9に入力され、関数生成部13に入力される構成にしてもよい。また、色差成分についても、以下で説明される本実施形態のノイズ除去処理を行ってもよい。この場合、後述の二乗和全体にかかる定数hを、輝度成分についてノイズ除去処理を行う場合より、小さくすることが好ましい。入力画像5の画素値の成分の特性に応じて、画像構造を保存しながらノイズ除去を行うことができる。
なお、局所関数に関しては、本実施形態の概念を利用した計算処理が実質的になされていればよい。
なお、画素値補正部15による補正は、必ずしも入力画像の画像データを書き換える必要は無く、補正後の画像が出力されればよい。
本実施形態におけるノイズ除去処理を以下に説明する。本実施形態のノイズ除去処理では、公知のNL(Non Local)−means法に基づいて、テンプレートマッチングを上述の局所関数を用いて行う方法とするが、テンプレートマッチングを含む演算処理であれば、NL−means法に限らず適用することが可能である。
…(式1)
ここで、注目画素51の中心座標(x_0,y_0)と参照画素52の中心座標(x_i,y_i)とは、それぞれx_0、x_iに矢印をつけた形でベクトルで示した。注目画素51についての局所関数f(x_0,y_0)は、以下のように示される。
…(式2)
ここで、二乗和をとる領域Dに関しては、注目画像領域71と参照画像領域72とで、両領域内の相対的に同じ位置の画素に対応する局所関数の値の差分を実行する。つまり、局所座標x−x0とx−xiとが等しい点同士の差分をとることになるから、以下の(式3)のように(式1)の右辺が展開される。
…(式3)
ここで、Aは、注目画素領域71と参照画素領域72とを原点を中心として局所座標で表した領域Dで計算される、以下の(式4)で示された定数となる。
…(式4)
定数Aは、注目画素領域71および参照画素領域72の形状により決まるため、例えば、入力画像5の全体で注目画素領域71と参照画素領域72が固定されていれば、一度算出するだけでよく、計算量は、きわめて小さいものとなる。また、実際には、上記で計算した値をふまえて、自由にAの値を直接変えることによりノイズ除去処理のパラメタを調節できる。
…(式5)
ここで、σは定数である。バイラテラルフィルタでは、テンプレートマッチングを行わないため、画像中の似たパターンを利用して画素値を置き換えることができず、ノイズにも弱い。
…(式6)
ここで、hは定数、Nはテンプレートの領域Dに含まれる画素数であり、RxiおよびRxoは、注目画素および参照画素に相当する。Σで示される二乗和は、テンプレートの対応する画素間で二乗和をとることを意味している。σidealはホワイトノイズの分散であり、ノイズに相当する分を予め取り除くための項である。
なお、類似度算出部15は、入力画像5全体の、ノイズ除去処理に必要な2つの画素のペアの類似度を全て算出した後、算出した全ての画素のペアの類似度を画素値補正部15に出力する構成にしてもよい。
図6は、本実施形態のノイズ除去処理の流れを示すフローチャートである。ステップS1001において、入力画像5の画像データが画像変換部11に入力される。ステップS1001の後は、ステップS1003に進む。ステップS1003において、画像変換部11は、入力画像5の画像データにRGBでの表現からYCbCrでの表現への変換等、所定の画像処理を施す。ステップS1003の後は、ステップS1005に進む。
(1)本実施形態の画像処理装置100は、画素50のうち注目画素51を含む複数の画素50による注目画素領域71に定義された局所関数を注目画素領域71の画素値から生成し、注目画素51を含まない複数の画素50による参照画素領域72に定義された局所関数を参照画素領域72の画素値から生成し、注目画素51に関する局所関数と参照画素52に関する局所関数との類似度を算出するマッチング演算部12と、算出された類似度により注目画素51の画素値を補正する画素値補正部15と、を備える。これにより、バイラテラルフィルターよりも強力なノイズ除去力、高い画像構造保存性を持った、ノイズ除去処理を、バイラテラルフィルターと同等の計算量で実現することができる。
(変形例1)
上述の実施形態では、(式3)および(式4)で示される数式により、注目画素51についての局所関数と参照画素52についての局所関数との離散的な差分の二乗和を類似度として算出した。しかし、以下の(式7)および(式8)で示される数式により、注目画素51についての局所関数において、注目画素51から離れた点、また、参照画素52についての局所関数においては、参照画素52から離れた点に関しては、類似度を算出する際に重み付けを軽くすることができる。ここで、重み付け関数W(x)は、局所座標の内部での、重み付けを調節するための関数であり、例えば原点を中心としたガウシアンで示される。
…(式7)
…(式8)
上述の(式4)と同様、この場合でも、類似度に現れる定数Bは、注目画素領域71と参照画素領域72とが同じ形状である限り、一度算出すればよいのみなので、計算量はきわめて少ない。また、特に重み付け関数W(x)が標準偏差σのガウシアンの場合、Bは連続極限では積分により値を求めることができ、B=σ2となる。このことから、Bを連続的に変化させることは、テンプレートマッチングにおいて、テンプレートの内部の重み付けを連続的に変化させることに対応する。概念的には、Bを変化させることは、テンプレートのサイズを変化させることでもある。計算量を変化させず、テンプレートを大きくすることができるのは、本実施形態のノイズ除去処理の利点であるが、あまりBの値を大きくし過ぎると、局所的な構造に基づいてフィルタ処理を行う趣旨が没却されるため、望ましくない。
上述の実施形態において、注目画素51の入力画像5の中での位置または画像構造に基づいて、注目画素領域71と参照画素領域72との大きさまたは形状を変えてもよい。本実施形態のノイズ除去処理では、注目画素51の入力画像5の中での位置に基づいて定数Aの値を変化させることにより、容易に注目画素領域71と参照画素領域72との大きさを変えることができる。これにより、入力画像5のそれぞれの部分の画像構造の特性に応じて、画像構造を保存しながらノイズ除去を行うことができる。
上述の実施形態において、注目画素51の入力画像5の中での位置または画像構造に基づいて、(式3)の二乗和全体にかかる重みhを変化させてもよい。例えば空のような、画素値の変化の小さい画像部分に対応する注目画素51はhを小さくし、細かい構造のような画素値の変化の大きい画像部分ではhを大きくすると好ましい。これにより、入力画像5のそれぞれの部分の画像構造の特性に応じて、画像構造を保存しながらノイズ除去を行うことができる。
上述の実施形態において、画像変換部11は、入力画像5を多重解像度解析の方法を用いて、複数の分解画像データに分解し、その一部または全部の分解画像データに対し、上述のノイズ除去処理を行うことができる。これにより、多重解像度解析を利用して、より効率的に、特定の周波数等の特徴を持った画像データに対してノイズ除去処理を行うことができる。
本実施形態のカメラ1や画像処理装置100の情報処理機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録された、上述したノイズ除去処理、画像処理等に関するプログラムをコンピュータシステムに読み込ませ、実行させてもよい。なお、ここでいう「コンピュータシステム」とは、OS(Operating System)や周辺機器のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、光ディスク、メモリカード等の可搬型記録媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持するものを含んでもよい。また上記のプログラムは、前述した機能の一部を実現するためのものであってもよく、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせにより実現するものであってもよい。
Claims (9)
- 複数の画素からなる画像データを入力する入力部と、
前記複数の画素のうちの第1画素に対し第1関数を生成するとともに、前記複数の画素のうちの第2画素に対し第2関数を生成する生成部と、
前記第1関数と前記第2関数に基づいて、前記第1画素と前記第2画素との間の類似度を算出する算出部と、
前記類似度に基づいて前記第1画素の画素値を補正する補正部と、
を備える画像処理装置。 - 請求項1に記載の画像処理装置において、
前記算出部は、前記第1関数と前記第2関数に基づいてテンプレートマッチングを行い、前記第1画素と前記第2画素との間の類似度を算出する、画像処理装置。 - 請求項2に記載の画像処理装置において、
前記算出部は、前記第1画素の画素値と前記第1関数とに基づいて得られる第1近似面と、前記第2画素の画素値と前記第2関数とに基づいて得られる第2近似面とのマッチングにより、前記第1画素と前記第2画素との間の類似度を算出する、画像処理装置。 - 請求項1から3までのいずれか一項に記載の画像処理装置において、
前記第2画素は、前記第1画素の近傍の所定範囲の領域に設定される、画像処理装置。 - 請求項1から4までのいずれか一項に記載の画像処理装置において、
前記補正部は、前記第2画素の画素値を、前記第2画素に対応する類似度で重みづけした値に基づいて、前記第1画素の画素値を補正する、画像処理装置。 - 請求項1から5までのいずれか一項に記載の画像処理装置において、
前記第1関数は第1局所関数であり、
前記第2関数は第2局所関数である、画像処理装置。 - 請求項1から6までのいずれか一項に記載の画像処理装置を搭載するカメラ。
- 複数の画素からなる画像データを入力するステップと、
前記複数の画素のうちの第1画素に対し第1関数を生成するとともに、前記複数の画素のうちの第2画素に対し第2関数を生成するステップと、
前記第1関数と前記第2関数に基づいて、前記第1画素と前記第2画素との間の類似度を算出するステップと、
前記類似度に基づいて前記第1画素の画素値を補正するステップと、
を備える画像処理方法。 - 複数の画素からなる画像データを入力する入力処理と、
前記複数の画素のうちの第1画素に対し第1関数を生成するとともに、前記複数の画素のうちの第2画素に対し第2関数を生成する生成処理と、
前記第1関数と前記第2関数に基づいて、前記第1画素と前記第2画素との間の類似度を算出する算出処理と、
前記類似度に基づいて前記第1画素の画素値を補正する補正処理と、
をコンピュータに実行させるプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020118646A JP6952226B2 (ja) | 2016-04-22 | 2020-07-09 | 画像処理装置、カメラ、画像処理方法およびプログラム |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016086400A JP6740690B2 (ja) | 2016-04-22 | 2016-04-22 | 画像処理装置、プログラム、カメラ、および画像処理方法 |
JP2020118646A JP6952226B2 (ja) | 2016-04-22 | 2020-07-09 | 画像処理装置、カメラ、画像処理方法およびプログラム |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016086400A Division JP6740690B2 (ja) | 2016-04-22 | 2016-04-22 | 画像処理装置、プログラム、カメラ、および画像処理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020170550A JP2020170550A (ja) | 2020-10-15 |
JP6952226B2 true JP6952226B2 (ja) | 2021-10-20 |
Family
ID=72747092
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020118646A Active JP6952226B2 (ja) | 2016-04-22 | 2020-07-09 | 画像処理装置、カメラ、画像処理方法およびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6952226B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114584673B (zh) * | 2020-12-01 | 2024-01-09 | 京东方科技集团股份有限公司 | 一种图像处理方法和装置 |
-
2020
- 2020-07-09 JP JP2020118646A patent/JP6952226B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2020170550A (ja) | 2020-10-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
ES2253542T3 (es) | Procedimiento y sistema para producir informaciones formateadas relacionadas con los defectos, como minimo, de una aparato de una cadena, en especial por efecto borroso. | |
Wang et al. | Recent progress in image deblurring | |
EP2785047B1 (en) | Image pickup apparatus, image processing system, image pickup system, image processing method, image processing program, and storage medium | |
JP6020471B2 (ja) | 画像処理方法、画像処理装置および画像処理プログラム | |
US20200285901A1 (en) | Image processing method, image processing apparatus, storage medium, image processing system, and manufacturing method of learnt model | |
US20110158541A1 (en) | Image processing device, image processing method and program | |
KR101821285B1 (ko) | 열화상 이미지 개선 장치 및 방법 | |
CN111028137A (zh) | 图像处理方法、装置、电子设备和计算机可读存储介质 | |
TW201429243A (zh) | 影像處理裝置及資訊處理方法 | |
JP6952226B2 (ja) | 画像処理装置、カメラ、画像処理方法およびプログラム | |
KR101904120B1 (ko) | 타원면 모델링을 통한 깊이 영상의 처리 방법 및 장치 | |
WO2013161111A1 (ja) | 画像評価装置、画像選択装置、画像評価方法、記録媒体、ならびに、プログラム | |
US10122939B2 (en) | Image processing device for processing image data and map data with regard to depth distribution of a subject, image processing system, imaging apparatus, image processing method, and recording medium | |
JP6740690B2 (ja) | 画像処理装置、プログラム、カメラ、および画像処理方法 | |
JP6514504B2 (ja) | 画像処理装置およびその制御方法、ならびにプログラム | |
KR101904125B1 (ko) | 오목면 모델링을 통한 깊이 영상의 처리 방법 및 장치 | |
US9407791B2 (en) | Information processing apparatus and computer-readable storage medium storing program for interpolating an input color | |
JP2019020839A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP6306952B2 (ja) | 中間視点画像生成装置、中間視点画像生成方法及びコンピュータプログラム | |
CN113298829A (zh) | 图像处理方法、装置、电子设备及计算机可读存储介质 | |
CN112508801A (zh) | 图像处理方法及计算设备 | |
JP2017229025A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP6468751B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
Cai et al. | Robust Image Denoising using Kernel Predicting Networks. | |
KR102358355B1 (ko) | 얼굴 영상의 점진적 디블러링 방법 및 장치 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200713 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20210423 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20210715 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210716 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210803 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20210812 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210816 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6952226 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |