JP6017279B2 - 画像処理装置、画像処理方法及びプログラム - Google Patents
画像処理装置、画像処理方法及びプログラム Download PDFInfo
- Publication number
- JP6017279B2 JP6017279B2 JP2012256059A JP2012256059A JP6017279B2 JP 6017279 B2 JP6017279 B2 JP 6017279B2 JP 2012256059 A JP2012256059 A JP 2012256059A JP 2012256059 A JP2012256059 A JP 2012256059A JP 6017279 B2 JP6017279 B2 JP 6017279B2
- Authority
- JP
- Japan
- Prior art keywords
- frame image
- image
- frequency component
- reference frame
- output
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000003672 processing method Methods 0.000 title claims description 3
- 230000033001 locomotion Effects 0.000 claims description 93
- 238000004364 calculation method Methods 0.000 claims description 43
- 239000002131 composite material Substances 0.000 claims description 43
- 230000015572 biosynthetic process Effects 0.000 claims description 39
- 238000003786 synthesis reaction Methods 0.000 claims description 39
- 239000000203 mixture Substances 0.000 claims description 25
- 230000035945 sensitivity Effects 0.000 claims description 10
- 230000002194 synthesizing effect Effects 0.000 claims description 9
- 239000013598 vector Substances 0.000 description 44
- 125000004122 cyclic group Chemical group 0.000 description 15
- 238000000034 method Methods 0.000 description 11
- 238000001514 detection method Methods 0.000 description 3
- 230000007423 decrease Effects 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 238000010606 normalization Methods 0.000 description 2
- 230000002123 temporal effect Effects 0.000 description 2
- 206010017367 Frequent bowel movements Diseases 0.000 description 1
- 230000002411 adverse Effects 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
- Picture Signal Circuits (AREA)
- Studio Devices (AREA)
Description
また、特許文献2には、上記した巡回型のノイズ低減方法において、ノイズが多い現フレーム画像に空間的なローパスフィルタをかけることで、時間的に相関性のないノイズを低減させることが開示されている。
一方、特許文献2に記載のノイズ低減方法のように、現フレーム画像に空間的なローパスフィルタをかけたとしても、毎フレーム処理時の現フレーム画像にノイズが少なからず残ってしまうため、各演算領域での動きベクトルのばらつき自体は無くならない。従って、やはり取得される合成画像は低コントラスト領域が揺れた画像となってしまう。
本発明は、フレーム画像を連続的に取得する画像取得手段と、該画像取得手段により取得したフレーム画像に対して所定の処理を施すことにより出力フレーム画像を生成する処理手段と、該処理手段により生成された出力フレーム画像を蓄積する画像蓄積手段と、を備え、前記処理手段が、前記画像取得手段により取得されたフレーム画像である基準フレーム画像の高周波成分量を算出する高周波成分算出手段と、前記高周波成分量に基づいて、基準フレーム画像の取得時よりも過去に出力された出力フレーム画像である参照フレーム画像と前記基準フレーム画像とを、前記高周波成分量が小さいほど前記参照フレーム画像の合成比率が高くなるように重み付け合成することにより基準合成画像を生成する重み付け合成手段と、前記基準合成画像と前記参照フレーム画像との間の動きを補償する動き補償手段と、前記基準フレーム画像の対象画素と、前記動き補償手段により動き補償された前記参照フレーム画像における前記対象画素に対応する画素位置の対応画素とを合成して出力フレームを生成する画像合成手段と、を備える画像処理装置を提供する。
このようにすることで、基準フレーム画像に対するノイズ低減の必要性に応じて基準合成画像と参照フレーム画像とを重み付け合成するので、出力フレーム画像においてより低コントラスト領域の揺れを抑制し、不自然な動きを抑制することができる。
このようにすることで、基準フレーム画像が、ノイズが多く動きベクトル算出時によるノイズの影響を抑制する必要性の高い高ISO感度で撮像された場合であっても、効果的にノイズを低減しつつ、低コントラスト領域の揺れを抑制することができる。
また、処理部3は、取得したフレーム画像に対して所定の処理を施すために、高周波成分算出部10、重み付け合成部11、動き補償部12、信頼度算出部14、巡回係数算出部15、及び画像合成部16を備えている。
画像取得部2は、図示しない撮像装置により撮像されたフレーム画像(以下、「現フレーム画像(基準フレーム画像)」という)を連続的に取得し、取得した現フレーム画像を高周波成分算出部10及び重み付け合成部11に出力する。
さらに、現フレーム画像の輝度のうち、対象画素を含む小領域のエッジを抽出するフィルタ(微分フィルタ、ソーベルフィルタ、ラプラシアンフィルタなど)を各画素にかかるようにフィルタ処理し、各エッジ量を合計し正規化したものを、対象画素の高周波成分量とすることもできる。この場合の正規化は、他の手法による高周波成分量と同一の尺度になるように、0〜255の値になるように正規化すれば良い。
上述した例では、高周波成分の算出に現フレーム画像の輝度を利用したが、画素の明度を示すような例えばRGBのGなどを用いて算出することもできる。
なお、以下の説明において前フレーム画像の対象領域の重み付け合成比率をk(0≦k≦1)とした場合、現フレーム画像の対象領域の重み付け合成比率は1−kとする。
図3(A)及び図3(B)に、高周波成分量に応じた重み付け合成比率の設定例に係るグラフを示した。図3の例は、いずれも現フレーム画像の高周波成分量が小さいほど前フレーム画像の対象領域の合成比率kが高くなるようになっている。これは、高周波成分量が小さい、すなわち高周波成分が少ないほど、現フレーム画像の処理対象領域はノイズ低減の必要性が高いため、現フレーム画像に対して前フレーム画像の合成比率kを高くすることで、重み付け合成後の基準合成画像における前フレーム画像の寄与部分を多くしている。
また、例えば、高周波成分量が閾値1以下の場合であって、ISO感度6400より低いISO感度800や100の場合には、ISO感度が低い程、合成比率も全体的に小さくする。これは、ISO感度が高い程、ノイズが多く、動きベクトル算出時によるノイズの影響を抑制する必要性も高いためである。
また、ISO感度が高い程、ノイズが多く、動きベクトル算出時によるノイズの影響を抑制する必要性も高いことから、ISO感度が低い程、前フレーム画像の合成比率を全体的に小さくする。
図4(A)は前フレーム画像、図4(B)は現フレーム画像を夫々示しており、図4(A)の現フレーム画像の木に含まれる対象領域を高周波成分が少ない領域の例とし、トラックの端を含む対象領域を高周波成分が多い領域の例として、図4(C)及び(D)に高周波成分が少ない領域の例及び高周波成分が多い領域の例に係る重み付け合成による基準合成画像と動きベクトル算出領域の例を夫々示している。
図5(A)〜(C)は、従来の動きベクトル算出結果の例であり、基準合成画像を使わず、現フレーム画像の対象領域と前フレーム画像の対象領域との間での動きベクトルの算出結果である。図5(A)に示すようにサーチ範囲含む前フレーム画像に対して現フレーム画像の対象領域を走査させながらブロックマッチング法でSAD(差分の絶対値和)を算出し、SADが一番小さい値の座標位置をもとに動きベクトルを算出する。SADが最も小さい値の座標位置を中心とする領域が、現フレーム画像の対象領域とマッチングされた領域となる(図5(B)参照)。
図7に示すように、信頼度算出部14は、動き補償部12によって位置合わせされ抽出された前フレーム画像の小領域において、現フレーム画像の小領域を基準領域とし、前フレーム画像の小領域を参照領域とする(S101)。続いて、基準領域と参照領域間で差分の絶対値和(SAD)を算出する(S102)。
高周波成分算出部10においてNフレームの高周波成分量が算出され、算出された高周波成分量が重み付け合成部11に出力される。重み付け合成部11では、高周波成分量に基づいて画像蓄積部4に保存されているN−1番目の出力フレーム画像(以下、単に「N−1フレーム」という)とNフレームとを重み付け合成して基準合成画像を生成する。
画像合成部16では、N−1フレームに対しては巡回係数αを、Nフレームに対しては1-αとして、N−1フレームとNフレームとを合成して出力フレーム画像を生成する。
3 処理部
4 画像蓄積部
10 高周波成分算出部
11 重み付け合成部
12 動き補償部
13 動きベクトル算出部
14 信頼度算出部
15 巡回係数算出部
16 画像合成部
Claims (5)
- フレーム画像を連続的に取得する画像取得手段と、
該画像取得手段により取得したフレーム画像に対して所定の処理を施すことにより出力フレーム画像を生成する処理手段と、
該処理手段により生成された出力フレーム画像を蓄積する画像蓄積手段と、を備え、
前記処理手段が、
前記画像取得手段により取得されたフレーム画像である基準フレーム画像の高周波成分量を算出する高周波成分算出手段と、
前記高周波成分量に基づいて、基準フレーム画像の取得時よりも過去に出力された出力フレーム画像である参照フレーム画像と前記基準フレーム画像とを、前記高周波成分量が小さいほど前記参照フレーム画像の合成比率が高くなるように重み付け合成することにより基準合成画像を生成する重み付け合成手段と、
前記基準合成画像と前記参照フレーム画像との間の動きを補償する動き補償手段と、
前記基準フレーム画像の対象画素と、前記動き補償手段により動き補償された前記参照フレーム画像における前記対象画素に対応する画素位置の対応画素とを合成して出力フレームを生成する画像合成手段と、
を備える画像処理装置。 - 前記重み付け合成手段は、前記高周波成分量が第1の値以下の場合に前記基準合成画像に対して前記参照フレーム画像を第1の合成比率で重み付け合成し、前記高周波成分量が前記第1の値よりも大きい第2の値以上の場合に前記基準合成画像に対して前記参照フレーム画像を第1の合成率よりも小さい第2の合成率で重み付け合成する請求項1に記載の画像処理装置。
- 前記基準フレーム画像が撮影された際のISO感度値が高いほど前記第1の合成比率が高く設定される請求項2に記載の画像処理装置。
- フレーム画像を連続的に取得するステップと、
該フレーム画像を連続的に取得するステップにより取得したフレーム画像に対して所定の処理を施すことにより出力フレーム画像を生成するステップと、
該出力フレーム画像を生成するステップにより生成された出力フレーム画像を蓄積するステップと、を備え、
前記出力フレーム画像を生成するステップが、
取得されたフレーム画像である基準フレーム画像の高周波成分量を算出するステップと、
前記高周波成分量に基づいて、基準フレーム画像の取得時よりも過去に出力された出力フレーム画像である参照フレーム画像と前記基準フレーム画像とを、前記高周波成分量が小さいほど前記参照フレーム画像の合成比率が高くなるように重み付け合成することにより基準合成画像を生成するステップと、
該基準合成画像と前記参照フレーム画像との間の動きを補償するステップと、
前記基準フレーム画像の対象画素と、前記動き補償された前記参照フレーム画像における前記対象画素に対応する画素位置の対応画素とを合成するステップと、
をコンピュータに実行させる画像処理プログラム。 - フレーム画像を連続的に取得するステップと、
該フレーム画像を連続的に取得するステップにより取得したフレーム画像に対して所定の処理を施すことにより出力フレーム画像を生成するステップと、
該出力フレーム画像を生成するステップにより生成された出力フレーム画像を蓄積するステップと、を備え、
前記出力フレーム画像を生成するステップが、
取得されたフレーム画像である基準フレーム画像の高周波成分量を算出するステップと、
前記高周波成分量に基づいて、基準フレーム画像の取得時よりも過去に出力された出力フレーム画像である参照フレーム画像と前記基準フレーム画像とを、前記高周波成分量が小さいほど前記参照フレーム画像の合成比率が高くなるように重み付け合成することにより基準合成画像を生成するステップと、
該基準合成画像と前記参照フレーム画像との間の動きを補償するステップと、
前記基準フレーム画像の対象画素と、前記動き補償された前記参照フレーム画像における前記対象画素に対応する画素位置の対応画素とを合成するステップと、
を備える画像処理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012256059A JP6017279B2 (ja) | 2012-11-22 | 2012-11-22 | 画像処理装置、画像処理方法及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012256059A JP6017279B2 (ja) | 2012-11-22 | 2012-11-22 | 画像処理装置、画像処理方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2014103626A JP2014103626A (ja) | 2014-06-05 |
JP6017279B2 true JP6017279B2 (ja) | 2016-10-26 |
Family
ID=51025737
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012256059A Expired - Fee Related JP6017279B2 (ja) | 2012-11-22 | 2012-11-22 | 画像処理装置、画像処理方法及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6017279B2 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20160182866A1 (en) * | 2014-12-19 | 2016-06-23 | Sony Corporation | Selective high frame rate video capturing in imaging sensor subarea |
JP6525602B2 (ja) * | 2015-01-22 | 2019-06-05 | キヤノン株式会社 | 撮像装置及びその制御方法 |
JP6494301B2 (ja) * | 2015-01-22 | 2019-04-03 | キヤノン株式会社 | 撮像装置及びその制御方法 |
JP7262940B2 (ja) | 2018-07-30 | 2023-04-24 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理装置の制御方法およびプログラム |
CN112308771A (zh) * | 2019-07-31 | 2021-02-02 | 维沃移动通信有限公司 | 一种图像处理方法、装置及电子设备 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5430234B2 (ja) * | 2009-06-04 | 2014-02-26 | パナソニック株式会社 | 画像処理装置、画像処理方法、プログラム、記録媒体及び集積回路 |
JP5576812B2 (ja) * | 2011-02-16 | 2014-08-20 | オリンパス株式会社 | 画像処理装置、画像処理方法、画像処理プログラム、及び、撮像装置 |
JP5841345B2 (ja) * | 2011-04-06 | 2016-01-13 | オリンパス株式会社 | 画像処理装置、画像処理方法、画像処理プログラム、及び、撮像装置 |
-
2012
- 2012-11-22 JP JP2012256059A patent/JP6017279B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2014103626A (ja) | 2014-06-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10404917B2 (en) | One-pass video stabilization | |
US9191589B2 (en) | Image processing device | |
US8860829B2 (en) | Image processing device, image processing method, and image processing program | |
JP5687553B2 (ja) | 画像合成装置、画像合成方法及び画像合成プログラム | |
US8736719B2 (en) | Image processing apparatus and control method for the same | |
US9135683B2 (en) | System and method for temporal video image enhancement | |
KR101652658B1 (ko) | 화상 처리 장치, 화상 처리 방법, 화상 처리 프로그램 및 기록 매체 | |
JP6017279B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
US10672108B2 (en) | Image processing apparatus, image processing method, and image processing program | |
TW201127028A (en) | Method and apparatus for image stabilization | |
JP6254938B2 (ja) | 画像ノイズ除去装置、および画像ノイズ除去方法 | |
JP2011055259A (ja) | 画像処理装置、画像処理方法、画像処理プログラムおよび画像処理プログラムが格納されたプログラム記憶媒体 | |
JP5927051B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2005150903A (ja) | 画像処理装置、ノイズ除去方法及びノイズ除去プログラム | |
JP5903305B2 (ja) | 画像処理装置及び画像処理方法 | |
JP2012222510A (ja) | 画像処理装置、画像処理方法、画像処理プログラム、及び、撮像装置 | |
US9143658B2 (en) | Image processing apparatus and processing method thereof | |
JP5927053B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2012100000A (ja) | 撮像装置、画像処理装置およびコンピュータプログラムプロダクト | |
JP5448983B2 (ja) | 解像度変換装置及び方法、走査線補間装置及び方法、並びに映像表示装置及び方法 | |
US20150222920A1 (en) | Image processing device, imaging device, and image processing method | |
JP6378496B2 (ja) | 画像処理装置、制御方法及び記録媒体 | |
JP2008072428A (ja) | 画像処理装置、電子カメラ、および画像処理プログラム | |
JP5085762B2 (ja) | 画像処理装置および画像処理方法 | |
JP2021044652A (ja) | 動きベクトル検出装置及び動きベクトル検出方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20150904 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20160623 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20160628 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160822 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20160913 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20160928 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6017279 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
LAPS | Cancellation because of no payment of annual fees |