JP5927051B2 - 画像処理装置、画像処理方法及びプログラム - Google Patents
画像処理装置、画像処理方法及びプログラム Download PDFInfo
- Publication number
- JP5927051B2 JP5927051B2 JP2012130213A JP2012130213A JP5927051B2 JP 5927051 B2 JP5927051 B2 JP 5927051B2 JP 2012130213 A JP2012130213 A JP 2012130213A JP 2012130213 A JP2012130213 A JP 2012130213A JP 5927051 B2 JP5927051 B2 JP 5927051B2
- Authority
- JP
- Japan
- Prior art keywords
- cyclic coefficient
- frame image
- image
- temporary
- coefficient
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims description 4
- 125000004122 cyclic group Chemical group 0.000 claims description 277
- 230000002194 synthesizing effect Effects 0.000 claims description 4
- 206010047571 Visual impairment Diseases 0.000 description 13
- 238000000034 method Methods 0.000 description 13
- 230000009467 reduction Effects 0.000 description 13
- 238000011156 evaluation Methods 0.000 description 6
- 230000008569 process Effects 0.000 description 6
- 238000001514 detection method Methods 0.000 description 4
- 230000015572 biosynthetic process Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 238000003786 synthesis reaction Methods 0.000 description 2
- 206010017367 Frequent bowel movements Diseases 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000000052 comparative effect Effects 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 238000011946 reduction process Methods 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
- Picture Signal Circuits (AREA)
Description
しかしながら、実際にはノイズ等の影響により、被写体の動きのみを評価することが困難である。例えば、動き補償は正しいがノイズが多い領域(以下、「領域1」という)と、動き補償は正しくないが似た画素値の被写体が動いた領域(以下、「領域2」という)とでは画像間の差分値等の評価値が同等の値となる。従って、これらの領域に対して、同じ巡回係数を適用してノイズ低減処理を行うと、例えば、領域1では、ノイズは低減さえるが、領域2では残像が発生してしまうという不具合がある。また、残像が発生しないようにノイズ低減処理の強度を弱く、すなわち、巡回係数を小さくすると領域1ではノイズが十分に低減されなくなってしまうという不具合がある。
本発明は、フレーム画像を連続的に取得する画像取得部と、該画像取得部により取得したフレーム画像に対して所定の処理を施すことにより出力フレーム画像を生成する処理部と、該処理部により生成された出力フレーム画像を蓄積する画像蓄積部と、を備え、前記処理部が、前記画像取得部により取得されたフレーム画像を基準フレーム画像とし、前記画像蓄積部に蓄積され直前に出力された出力フレーム画像を参照フレーム画像として、前記基準フレーム画像の対象画素と、前記参照フレーム画像における前記対象画素と対応する画素位置の対応画素との相関性を示す信頼度を算出する信頼度算出手段と、前記信頼度に基づいて、前記対象画素と前記対応画素とを合成する際の巡回係数の候補値となる基準仮巡回係数を算出する仮巡回係数算出手段と、前記参照フレーム画像の生成時に用いられた巡回係数の候補値である参照仮巡回係数を記憶する記憶手段と、前記基準仮巡回係数と前記参照仮巡回係数とを比較し、前記参照仮巡回係数が前記基準仮巡回係数よりも低い場合に、前記基準仮巡回係数未満である値を巡回係数として決定し、前記参照仮巡回係数が前記基準仮巡回係数よりも高い場合に、前記基準仮巡回係数を巡回係数として決定する巡回係数決定手段と、該巡回係数決定手段により決定された前記巡回係数に基づいて、前記対象画素と前記対応画素とを合成する画像合成手段と、を備える画像処理装置を提供する。
このようにすることで、基準仮巡回係数よりも低い巡回係数を設定する領域を残像が特に発生する領域に限定し、これにより基準仮巡回係数を巡回係数として設定する領域と、基準仮巡回係数よりも低い巡回係数を設定する領域との境界の発生を抑制することにより、画像中の不自然な境界の発生を抑制することができる。
このようにすることで、残像を抑制しながら、巡回係数の小さい領域が過度に大きくなることを防止して、さらに、十分なノイズ低減を行うことができる。
このようにすることで、残像を抑制しながら、巡回係数の小さい領域が過度に大きくなることを防止して、さらに、十分なノイズ低減を行うことができる。
動体と背景の画素値が近い場合には、基準仮巡回係数と参照仮巡回係数との差分が閾値以下となり、見掛け上信頼度が高い領域においても実際には基準フレーム画像と参照フレーム画像との相関性が低い場合がある。このような場合には、合成した画像に残像が発生する虞があるが、膨張処理、すなわち、参照フレーム画像の各画素位置について、各該画素位置を含む所定の範囲の参照仮巡回係数のうち最も低い値を示すものを、所定の範囲の参照仮巡回係数とすることで、参照仮巡回係数を巡回係数として設定する領域(即ち動体及びその周囲の領域)が拡大され、動体と背景の画素値が近い場合においても残像の発生を抑制することができる。
このようにすることで、参照仮巡回係数画像を保存するために用いる記憶手段の使用容量を削減することができる。
また、処理部3は、取得したフレーム画像に対して所定の処理を施すために、動き補償部12、信頼度算出部13、仮巡回係数算出部14、巡回係数決定部15、空間フィルタ部16、画像合成部17、後述する仮巡回係数を保存するメモリ18、後仮巡回係数を縮小する縮小部20、及び仮巡回係数を拡大する拡大部21を備えている。
画像取得部2は、図示しない撮像装置により撮像されたフレーム画像(以下、「現フレーム画像(基準フレーム画像)」という)を連続的に取得し、取得した現フレーム画像を動き補償部12及び空間フィルタ部16に出力する。
ここで、動き補償は、現フレーム画像と前フレーム画像との間で小領域毎にブロックマッチング法等で算出した動きベクトルに基づいて、小領域毎に動き補償を行ってもよく、また、小領域毎の動きベクトルの統計に基づいて最も頻度の高い動きベクトルをグローバルな画像全体の動きべクトルとして動き補償を行ってもよい。
すなわち、図3に示すように、信頼度算出部13は、動き補償部12によって位置合わせされ抽出された現フレーム画像と前フレーム画像の小領域において、現フレーム画像の小領域を基準領域とし、前フレーム画像の小領域を参照領域とする(ステップS101)。続いて、基準領域と参照領域間で差分の絶対値和(SAD)を算出する(ステップS102)。
なお、縮小部20によって仮巡回係数βNを縮小してメモリ18に保存することは、メモリ18の使用容量を削減できるためであり、メモリ18の使用容量を削減する必要がない装置やシステムにおいては、縮小部20と拡大部21を設ける必要はない。
画像合成部17は、入力された現フレームの画像の空間フィルタ出力画素と動き補償部12から入力された前フレーム画像の対応画素とを巡回係数αNを用いて合成し、現フレーム画像として表示系などに出力するとともに、画像蓄積部4に保存する。
ここでは、以下の条件下でフレーム画像を取得しているものとする。すなわち、三脚に固定されたカメラで撮影しており、背景Bは動いておらず、被写体としてのボールOが左から右へ転がった場合における動画シーンであることとする。
また、入力されるフレーム画像にはノイズNが多く含まれており、ボールOは右へ転がって動いている為、シャッター速度との関係によりボールOの左縁において動きによるぼけGが発生している。この被写体の左縁のぼけている領域の輝度値は、背景の輝度値と似ていると仮定する。さらに、どの領域でも画像間の動きベクトルが求められなかった(動きベクトルが“0”)場合を仮定している。
動き補償部12により、NフレームとN−1番目のフレーム画像(以下、「N−1フレーム」という)との間の位置合わせを行い、これに基づいて信頼度算出部13により信頼度を算出する。この信頼度に基づいて、仮巡回係数算出部14により仮巡回係数βNを算出し、算出した仮巡回係数βNを巡回係数決定部15に出力する。
N−1フレームの処理を行う場合、N−1フレームの入力画像(図7中、左)とN−2フレームの出力画像(図7中、右)間との信頼度から巡回係数(図7中、真中)が算出される。算出された巡回係数αNを用いて、巡回係数αNをN−2フレームの出力画像の対応画素に乗算した値と、前回巡回係数1−αNをN−1フレームの入力画像の空間フィルタ部からの対象画素の出力画素に乗算した値とを加算する。加算結果の画素をN−1の出力画像の画素として、全画素分処理する。
上述した実施形態においては、現フレーム画像の仮巡回係数の対象画素位置と同一位置の前フレーム画像の仮巡回係数とを比較することにより現フレーム画像の巡回係数を決定したが、巡回係数の決定方法はこれに限られるものではない。
本変形例において、図8に示すように、巡回係数決定部15は、前フレーム画像の仮巡回係数側において同一位置の近隣領域と比較し、前フレーム画像の近隣領域と現フレーム画像の対象画素位置の中で最も低い仮巡回係数をNフレームの対象画素の巡回係数とする。
これは前フレーム画像の仮巡回係数において、仮巡回係数の低い領域を膨張したことになり、動いた領域に対して図6の例よりもさらに大きい領域で巡回係数が低くなり、残像が発生しなくなる。前フレーム画像の仮巡回係数を縮小してメモリに保存した後、拡大後に上述した膨張処理を行なっても良いし、拡大前に膨張処理してから拡大しても良い。
3 処理部
4 画像蓄積部
11 動きベクトル算出部
12 動き補償部
13 信頼度算出部
14 仮巡回係数算出部
15 巡回係数決定部
16 空間フィルタ部
17 画像合成部
18 メモリ
20 縮小部
21 拡大部
Claims (8)
- フレーム画像を連続的に取得する画像取得部と、
該画像取得部により取得したフレーム画像に対して所定の処理を施すことにより出力フレーム画像を生成する処理部と、
該処理部により生成された出力フレーム画像を蓄積する画像蓄積部と、を備え、
前記処理部が、
前記画像取得部により取得されたフレーム画像を基準フレーム画像とし、直前に出力された出力フレーム画像を参照フレーム画像として、前記基準フレーム画像の対象画素と、前記参照フレーム画像における前記対象画素と対応する画素位置の対応画素との相関性を示す信頼度を算出する信頼度算出手段と、
前記信頼度に基づいて、前記対象画素と前記対応画素とを合成する際の巡回係数の候補値となる基準仮巡回係数を算出する仮巡回係数算出手段と、
前記参照フレーム画像の生成時に用いられた巡回係数の候補値である参照仮巡回係数を記憶する記憶手段と、
前記基準仮巡回係数と前記参照仮巡回係数とを比較し、前記参照仮巡回係数が前記基準仮巡回係数よりも低い場合に、前記基準仮巡回係数未満である値を巡回係数として決定し、前記参照仮巡回係数が前記基準仮巡回係数よりも高い場合に、前記基準仮巡回係数を巡回係数として決定する巡回係数決定手段と、
該巡回係数決定手段により決定された前記巡回係数に基づいて、前記対象画素と前記対応画素とを合成する画像合成手段と、
を備える画像処理装置。 - 前記巡回係数決定手段は、前記参照仮巡回係数が前記基準仮巡回係数よりも所定の閾値以上低い場合に、前記基準仮巡回係数よりも低い値を巡回係数として決定する請求項1に記載の画像処理装置。
- 前記巡回係数決定手段は、前記参照仮巡回係数が前記基準仮巡回係数よりも低い場合に、前記参照仮巡回係数を巡回係数として決定する請求項1に記載の画像処理装置。
- 前記巡回係数決定手段は、前記参照仮巡回係数が前記基準仮巡回係数よりも所定の閾値以上低い場合に、前記参照仮巡回係数を巡回係数として決定する請求項1に記載の画像処理装置。
- 前記巡回係数決定手段が、前記参照フレーム画像の各画素位置について、各該画素位置を含む所定の範囲の前記参照仮巡回係数のうち最も低い値を示すものを、前記所定の範囲の参照仮巡回係数とする請求項1乃至請求項4の何れか1項に記載の画像処理装置。
- 前記仮巡回係数算出手段が、前記参照仮巡回係数の分布を示す参照仮巡回係数画像を生成し、該参照仮巡回係数画像を縮小して前記記憶手段に保存し、
前記巡回係数決定手段が、前記記憶手段に保存された前記参照仮巡回係数画像を拡大する請求項1乃至請求項5の何れか1項に記載の画像処理装置。 - フレーム画像を連続的に取得するステップと、
前記フレーム画像に対して所定の処理を施すことにより出力フレーム画像を生成するステップと、
生成された前記出力フレーム画像を蓄積するステップと、を備え、
前記出力フレーム画像を生成するステップが、
前記取得されたフレーム画像を基準フレーム画像とし、直前に出力された出力フレーム画像を参照フレーム画像として、基準フレーム画像の対象画素と、参照フレーム画像における前記対象画素と対応する画素位置の対応画素との相関性を示す信頼度を算出するステップと、
前記信頼度に基づいて、前記対象画素と前記対応画素とを合成する際の巡回係数の候補値となる基準仮巡回係数を算出するステップと、
前記参照フレーム画像の生成時に用いられた巡回係数の候補値である参照仮巡回係数を記憶するステップと、
前記基準仮巡回係数と前記参照仮巡回係数とを比較し、前記参照仮巡回係数が前記基準仮巡回係数よりも低い場合に、前記基準仮巡回係数未満である値を巡回係数として決定し、前記参照仮巡回係数が前記基準仮巡回係数よりも高い場合に、前記基準仮巡回係数を巡回係数として決定するステップと、
該巡回係数を決定するステップにより決定された前記巡回係数に基づいて、前記対象画素と前記対応画素とを合成するステップと、
をコンピュータに実行させる画像処理プログラム。 - フレーム画像を連続的に取得するステップと、
前記フレーム画像に対して所定の処理を施すことにより出力フレーム画像を生成するステップと、
生成された前記出力フレーム画像を蓄積するステップと、を備え、
前記出力フレーム画像を生成するステップが、
前記取得されたフレーム画像を基準フレーム画像とし、直前に出力された出力フレーム画像を参照フレーム画像として、基準フレーム画像の対象画素と、参照フレーム画像における前記対象画素と対応する画素位置の対応画素との相関性を示す信頼度を算出するステップと、
前記信頼度に基づいて、前記対象画素と前記対応画素とを合成する際の巡回係数の候補値となる基準仮巡回係数を算出するステップと、
前記参照フレーム画像の生成時に用いられた巡回係数の候補値である参照仮巡回係数を記憶するステップと、
前記基準仮巡回係数と前記参照仮巡回係数とを比較し、前記参照仮巡回係数が前記基準仮巡回係数よりも低い場合に、前記基準仮巡回係数未満である値を巡回係数として決定し、前記参照仮巡回係数が前記基準仮巡回係数よりも高い場合に、前記基準仮巡回係数を巡回係数として決定するステップと、
該巡回係数を決定するステップにより決定された前記巡回係数に基づいて、前記対象画素と前記対応画素とを合成するステップと、
を備える画像処理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012130213A JP5927051B2 (ja) | 2012-06-07 | 2012-06-07 | 画像処理装置、画像処理方法及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012130213A JP5927051B2 (ja) | 2012-06-07 | 2012-06-07 | 画像処理装置、画像処理方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2013255132A JP2013255132A (ja) | 2013-12-19 |
JP5927051B2 true JP5927051B2 (ja) | 2016-05-25 |
Family
ID=49952297
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012130213A Active JP5927051B2 (ja) | 2012-06-07 | 2012-06-07 | 画像処理装置、画像処理方法及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5927051B2 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6438136B2 (ja) * | 2015-06-29 | 2018-12-12 | オリンパス株式会社 | 画像処理装置、画像処理方法および顕微鏡 |
US10140689B2 (en) * | 2017-01-20 | 2018-11-27 | Sony Corporation | Efficient path-based method for video denoising |
JP6763826B2 (ja) * | 2017-06-14 | 2020-09-30 | 日本電信電話株式会社 | 画像生成装置、画像生成方法及びプログラム |
JP7098958B2 (ja) * | 2018-02-28 | 2022-07-12 | 株式会社ニコン | 撮像装置、画像処理装置、および画像処理プログラム |
CN117253456B (zh) * | 2023-09-18 | 2024-06-11 | 深圳市大我云读写科技有限公司 | 基于墨水屏的残影清除方法、装置、设备及存储介质 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3331626B2 (ja) * | 1992-06-11 | 2002-10-07 | 株式会社ニコン | 巡回型雑音低減装置 |
JPWO2006025396A1 (ja) * | 2004-09-03 | 2008-05-08 | 松下電器産業株式会社 | 画像処理装置および画像処理プログラム |
JP5451056B2 (ja) * | 2008-12-19 | 2014-03-26 | 株式会社ザクティ | 画像処理装置及び撮像装置 |
-
2012
- 2012-06-07 JP JP2012130213A patent/JP5927051B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2013255132A (ja) | 2013-12-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9898803B2 (en) | Image processing apparatus, image processing method, and recording medium storing image processing program | |
JP5974250B2 (ja) | 画像処理装置、画像処理方法、画像処理プログラム及び記録媒体 | |
US9191589B2 (en) | Image processing device | |
US9055217B2 (en) | Image compositing apparatus, image compositing method and program recording device | |
JP5927051B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP6254938B2 (ja) | 画像ノイズ除去装置、および画像ノイズ除去方法 | |
JP5081898B2 (ja) | 補間画像生成方法及びシステム | |
JPWO2006025396A1 (ja) | 画像処理装置および画像処理プログラム | |
JP2009081574A (ja) | 画像処理装置、方法およびプログラム | |
US20120002842A1 (en) | Device and method for detecting movement of object | |
JP6017279B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
WO2015085922A1 (zh) | 一种帧率上采样的方法和装置 | |
WO2010007777A1 (ja) | 画像処理装置、画像処理方法、プログラム、記録媒体および集積回路 | |
JP2005150903A (ja) | 画像処理装置、ノイズ除去方法及びノイズ除去プログラム | |
JP5927053B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP5490117B2 (ja) | 画像処理装置 | |
JP2015216459A (ja) | 画像処理装置、撮像装置及び画像処理方法 | |
JP4886479B2 (ja) | 動きベクトル補正装置、動きベクトル補正プログラム、補間フレーム生成装置及び映像補正装置 | |
JP2009515395A (ja) | 動き推定 | |
JP5219771B2 (ja) | 映像処理装置および映像処理装置の制御方法 | |
KR100961456B1 (ko) | 프레임 차이 기반의 적응형 확장 블록을 이용한 움직임추정 방법 | |
KR100772405B1 (ko) | 전역 움직임 추정에 근거한 적응성 잡음 감쇄 방법 및 영상처리 시스템 | |
WO2011033675A1 (ja) | 画像処理装置および画像表示装置 | |
JP2013246601A (ja) | 画像処理装置 | |
JP2007020140A (ja) | 画像処理装置および方法、記録媒体、並びにプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20150424 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20151228 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20160119 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160225 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20160329 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20160425 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5927051 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |