JPWO2020152756A1 - 画像処理装置 - Google Patents

画像処理装置 Download PDF

Info

Publication number
JPWO2020152756A1
JPWO2020152756A1 JP2020567684A JP2020567684A JPWO2020152756A1 JP WO2020152756 A1 JPWO2020152756 A1 JP WO2020152756A1 JP 2020567684 A JP2020567684 A JP 2020567684A JP 2020567684 A JP2020567684 A JP 2020567684A JP WO2020152756 A1 JPWO2020152756 A1 JP WO2020152756A1
Authority
JP
Japan
Prior art keywords
pixel
image
attention
determination unit
moving body
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020567684A
Other languages
English (en)
Other versions
JP7147878B2 (ja
Inventor
実由 武藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shimadzu Corp
Original Assignee
Shimadzu Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shimadzu Corp filed Critical Shimadzu Corp
Publication of JPWO2020152756A1 publication Critical patent/JPWO2020152756A1/ja
Application granted granted Critical
Publication of JP7147878B2 publication Critical patent/JP7147878B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/223Analysis of motion using block-matching
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Studio Devices (AREA)

Abstract

この画像処理装置(100)は、複数の移動ベクトル(V)から構成されるベクトルブロック領域(VR)内の移動ベクトルに基づいて、ベクトルブロック領域内の注目移動ベクトル(Va)に対応する第1画像(31)内の注目画素(51a)が構造物部分(41)であるか非構造物部分(42)であるかを判定する構造物判定部(19)を備える。

Description

本発明は、画像処理装置に関し、特に、第1画像内に注目ブロック領域を設定するとともに、第2画像内において注目ブロック領域に最も類似した移動先ブロック領域を取得する画像処理装置に関する。
従来、第1画像内に注目ブロック領域を設定するとともに、第2画像内において注目ブロック領域に最も類似した移動先ブロック領域を取得する画像処理装置が知られている(たとえば、特許文献1参照)。
上記特許文献1には、ターゲット設定部と、探索部と、画像生成部と、を備えた画像処理装置が開示されている。上記特許文献1の画像処理装置では、ターゲット設定部は、被検体像が写り込んでいる元画像(第1画像)を構成する画素の中から注目画素と注目画素を囲む周辺画素とから構成されるターゲットブロック(注目ブロック領域)を設定する。探索部は、元画像とは異なる時刻に撮影された被検体が映り込む参照画像(第2画像)の中からターゲットブロックに最も類似した移動先ブロック(移動先ブロック領域)を探し出す。画像生成部は、注目画素の位置を変えながら、ターゲットブロックが順次設定されるのに伴い、注目画素と移動先ブロックの注目画像と同じ位置の画素とを順次合成することにより、元画像に映り込むノイズ(ランダムノイズ)が低減されたノイズ低減画像を生成する。なお、上記特許文献1の画像処理装置では、画像生成部は、重み付き加算平均処理を行うことにより、画素同士を合成するように構成されている。
また、上記特許文献1の画像処理装置は、探索部の出力を編集するベクトル編集部を備える。上記特許文献1の画像処理装置では、ベクトル編集部は、参照画像において元画像におけるターゲットブロック位置と同じ位置にある同位置ブロックを設定して、同位置ブロックとターゲットブロックとの類似度合いが、移動先ブロックとターゲットブロックとの類似度合いと略同程度の場合、探索部が探し出した移動先ブロックを同位置ブロックに変更してから出力する。すなわち、上記特許文献1の画像処理装置では、元画像上の注目画素が、被検体像が移動した部分(動体部分)であると考えられる場合に、注目画素と移動先画素とを合成するように構成されている。また、元画像上の注目画素が、被検体像が移動せずに静止している部分または被検体像が写り込んでいない部分(動体部分ではない部分)であると考えられる場合に、注目画素と参照画像の同位置の画素とを合成するように構成されている。これにより、画像上における、動体部分と動体部分ではない部分とにおいて適切にノイズが低減されている。なお、上記特許文献1の画像処理装置では、ターゲットブロック内の画素の画素値と同位置ブロック内の画素の画素値とに基づく値と、ターゲットブロック内の画素の画素値と移動先ブロック内の画素の画素値とに基づく値とを比較することにより、同位置ブロックとターゲットブロックとの類似度合いと、移動先ブロックとターゲットブロックとの類似度合いとを比較するように構成されている。
国際公開2015/178350号
しかしながら、上記特許文献1に記載のような従来の画像処理装置では、画像のコントラストが比較的小さい(ノイズに起因する各画素の間の輝度変化(画素値の差)に対して構造物部分と非構造物部分との間の輝度変化(画素値の差)が比較的小さい)場合がある。この場合、ターゲットブロック(注目ブロック領域)内の画素の画素値と移動先ブロック(移動先ブロック領域)内の画素の画素値とに基づく値と、ターゲットブロック内の画素の画素値と同位置ブロック内の画素の画素値とに基づく値との差異が比較的小さくなる。すなわち、同位置ブロックとターゲットブロックとの類似度合いと、移動先ブロックとターゲットブロックとの類似度合いとを比較するのが難しくなる。このため、上記特許文献1に記載のような従来の画像処理装置では、画像のコントラストが比較的小さい場合に、注目画素が、動体部分であるか動体部分ではない部分であるかを判定する精度が低下してしまうという問題点がある
この発明は、上記のような課題を解決するためになされたものであり、この発明の1つの目的は、画像のコントラストが比較的小さい場合でも、注目画素が動体部分であるか動体部分ではない部分であるかを判定する精度を向上させることが可能な画像処理装置を提供することである。
上記目的を達成するために、この発明の一の局面における画像処理装置は、連続的に撮影されることにより生成される複数の画像に対して画像処理を行う画像処理装置であって、第1画像内の画素の中から注目画素と注目画素の周辺の周辺画素とから構成される注目ブロック領域を設定する注目ブロック領域設定部と、第1画像とは異なる時刻に撮影された第2画像内において注目ブロック領域に最も類似した移動先ブロック領域を取得する移動先ブロック領域取得部と、注目画素から移動先ブロック領域における注目画素に対応する移動先画素への移動ベクトルを取得する移動ベクトル取得部と、移動ベクトル取得部により取得された複数の移動ベクトルから構成されるベクトルブロック領域内の移動ベクトルに基づいて、ベクトルブロック領域内の注目移動ベクトルに対応する第1画像内の注目画素が構造物部分であるか背景部分である非構造物部分であるかを判定する構造物判定部と、を備える。
この発明の一の局面による画像処理装置では、上記のように、複数の移動ベクトルから構成されるベクトルブロック領域内の移動ベクトルに基づいて、ベクトルブロック領域内の注目移動ベクトルに対応する第1画像内の注目画素が構造物部分であるか非構造物部分であるかを判定するように構成されている。ここで、第1画像と第2画像との間において構造物部分が移動した場合、複数の画素からなる領域がある程度まとまって移動すると考えられるので、注目移動ベクトルに対応する第1画像内の注目画素が構造物部分である場合、ベクトルブロック領域内の移動ベクトルの方向および大きさは互いに類似する(関連性を有する)可能性が高い。一方、ノイズ(ランダムノイズ)は、第1画像と第2画像とのいずれにおいても、ランダムな位置および大きさとして生じるので、注目移動ベクトルに対応する第1画像内の注目画素が背景部分(非構造物部分)である場合、ベクトルブロック領域内の移動ベクトルは互いにランダムな方向および大きさになる(関連性を有さない)可能性が大きい。なお、ベクトルブロック領域内の移動ベクトルの関連性の有無は、同位置ブロックとターゲットブロックとの類似度合いと、移動先ブロックとターゲットブロックとの類似度合いとを比較する場合のように画素値の大きさに基づいた値を用いる場合と異なり、画像のコントラストの大きさの影響が少ないと考えられる。これにより、画像のコントラストが比較的小さい場合でも、注目移動ベクトルに対応する第1画像内の注目画素が構造物部分であるか背景部分(非構造物部分)であるかを判定することができる。その結果、動体とはなり得ない背景部分(非構造物部分)を動体と判定することを抑制することができるので、画像のコントラストが比較的小さい場合でも、注目画素が動体部分であるか動体部分ではない部分であるかを判定する精度を向上させることができる。
上記一の局面による画像処理装置において、好ましくは、構造物判定部は、ベクトルブロック領域を構成する移動ベクトルの中の注目移動ベクトルと注目移動ベクトルの周辺の周辺移動ベクトルとの両方に基づいて、注目移動ベクトルに対応する第1画像内の注目画素が、構造物部分であるか非構造物部分であるかを判定するように構成されている。このように構成すれば、注目移動ベクトルと周辺移動ベクトルとの両方に基づいて、ベクトルブロック領域内の移動ベクトルの関連性(移動ベクトルの方向および大きさが互いに類似するか否か)を確実に調べることができるので、注目画素が動体部分であるか動体部分ではない部分であるかを判定する精度を確実に向上させることができる。
上記一の局面による画像処理装置において、好ましくは、構造物判定部は、ベクトルブロック領域内の類似する移動ベクトルの割合に基づいて、注目移動ベクトルに対応する第1画像内の注目画素が構造物部分であるか非構造物部分であるかを判定するように構成されている。このように構成すれば、ベクトルブロック領域内の類似する移動ベクトルの割合に基づいて、ベクトルブロック領域内の移動ベクトルの関連性(移動ベクトルの方向および大きさが互いに類似するか否か)を容易に調べることができるので、注目画素が動体部分であるか動体部分ではない部分であるかを判定する精度を容易に向上させることができる。
この場合、好ましくは、構造物判定部は、上記割合が第1閾値以上の場合に、注目画素が構造物部分であると判定するとともに、上記割合が第1閾値よりも小さい場合に、注目画素が非構造物部分であると判定するように構成されている。このように構成すれば、第1閾値を用いることにより、ベクトルブロック領域内の類似する移動ベクトルの割合を容易に調べることができるので、ベクトルブロック領域内の移動ベクトルの関連性(移動ベクトルの方向および大きさが互いに類似するか否か)をより容易に調べることができる。
上記一の局面による画像処理装置において、好ましくは、注目画素が、第1画像と第2画像との間において構造物部分が移動した構造物動体部分であるか、第1画像と第2画像との間において構造物部分が移動していない構造物非動体部分または背景部分である非構造物部分であるかを第2閾値に基づいて判定する動体判定部と、動体判定部により構造物動体部分であると判定された注目画素に対して、注目画素と、注目画素の移動先の第2画像における画素である移動先画素とに基づく第1ノイズ低減処理を行うとともに、動体判定部により構造物非動体部分または非構造物部分であると判定された注目画素に対して、注目画素と、注目画素と同位置の第2画像における画素である同位置画素とに基づく第2ノイズ低減処理を行うノイズ低減処理部と、をさらに備え、構造物判定部により構造物部分であると判定された注目画素に対して、第2閾値の大きさを変更した後に、動体判定部による判定を行うように構成されている。ここで、構造物判定部により構造物部分であると判定された注目画素は、背景部分である非構造物部分である可能性が低い。したがって、上記のように構成すれば、動体判定部による判定において、注目画素が構造物動体部分であるか非構造物部分であるかを判定することが難しい場合でも、注目画素を構造物動体部分であると判定させるように第2閾値の大きさを変更することにより、注目画素が構造物動体部分であるか背景部分(非構造物部分)であるかを判定する精度を確実に向上させることができる。その結果、精度を向上させた動体判定部による判定に基づいて、ノイズ低減処理部による注目画素に対するノイズ低減処理を適切に行うことができる。
この場合、好ましくは、注目画素の画素値と、同位置画素の画素値との差分値に基づく第1差分指標値を取得するとともに、注目画素の画素値と、移動先画素の画素値との差分値に基づく第2差分指標値を取得する差分指標値取得部をさらに備え、動体判定部は、第1差分指標値と第2差分指標値との比率が第2閾値以下の場合に注目画素が構造物動体部分であると判定するとともに、上記比率が第2閾値よりも大きい場合に注目画素が構造物非動体部分または非構造物部分であると判定するように構成されており、構造物判定部により構造物部分であると判定された注目画素に対して第2閾値を大きくするように第2閾値を変更した後に、動体判定部による判定を行うように構成されている。ここで、第1差分指標値および第2差分指標値を、それぞれ、分母および分子として、第1差分指標値と第2差分指標値との比率とした場合、上記比率は、0から1までの範囲の値となる。そして、横軸を上記比率、縦軸を度数(その比率が出現した回数)で表したヒストグラムにおいて、注目画素が構造物動体部分、構造物非動体部分および非構造物部分のいずれの分布も、ある上記比率にピークを有するように分布する。また、ヒストグラムは、構造物動体部分のピークと、非構造物部分のピークと、構造物非動体部分のピークとが、上記比率の小さい方から大きい方に向かって、この順に並ぶように分布する。したがって、上記のように構成すれば、第2閾値を、構造物動体部分と非構造物部分とを分離する通常の上記比率から、構造物動体部分と構造物非動体部分とを分離する上記比率に大きくするように変更することができる。その結果、構造物判定部により構造物部分であると判定された注目画素において、構造物動体部分であるか非構造物部分であるかを判定する(分離する)ことが難しい場合でも、注目画素を構造物動体部分であると容易に判定させることができる。したがって、動体判定部による判定を行う前に、注目画素が構造物動体部分であるか背景部分(非構造物部分)であるかを判定する精度を容易かつ確実に向上させることができる。
上記構造物部分であると判定された注目画素に対して第2閾値を大きくするように第2閾値を変更した後に動体判定部による判定を行う構成において、好ましくは、構造物判定部により構造物部分であると判定された注目画素に対して第2閾値を大きくするように第2閾値を変更するとともに、構造物判定部により非構造物部分であると判定された注目画素に対して第2閾値を小さくするように第2閾値を変更した後に、動体判定部による判定を行うように構成されている。このように構成すれば、第2閾値を、構造物動体部分と非構造物部分とを分離する通常の上記比率から、背景部分(非構造物部分)の分布を比較的多く含むように小さくするように変更するができる。その結果、構造物判定部により非構造物部分であると判定された注目画素において、構造物動体部分であるか非構造物部分であるかを判定することが難しい場合に、注目画素を非構造物部分であると容易に判定させることができる。したがって、動体判定部による判定を行う前に、注目画素が構造物動体部分であるか背景部分(非構造物部分)であるかを判定する精度を容易かつより確実に向上させることができる。
上記一の局面による画像処理装置において、好ましくは、構造物判定部により構造物部分であると判定された注目画素に対して、第1画像における注目画素と周辺画素とに基づいて構造物を強調する画像処理、および、構造物判定部により非構造物部分であると判定された注目画素に対して、第1画像における注目画素と周辺画素とに基づいてノイズを低減する第3ノイズ低減処理の少なくとも一方の処理を行うように構成されている。このように構成すれば、構造物判定部により構造物部分であると判定された注目画素および非構造物部分であると判定された注目画素の少なくともいずれか一方に対して、画質を向上させるための適切な画像処理を容易に行うことができる。
本発明によれば、上記のように、画像のコントラストが比較的小さい場合でも、注目画素が動体部分であるか動体部分ではない部分であるかを判定する精度を向上させることができる。
本発明の一実施形態による画像処理装置の全体構成を示した図である。 撮影装置により連続的に撮影されることにより生成され、本発明の一実施形態による画像処理装置において画像処理される複数の画像を示した図である。 Kフレーム目の画像を示した図である。 (K−1)フレーム目の画像を示した図である。 Kフレーム目の画像と(K−1)フレーム目の画像との差を説明するための図である。 注目ブロック領域を説明するための図である。 注目ブロック領域および移動先ブロック領域に基づく移動ベクトルの取得を説明するための図である。 移動ベクトルから構成される移動ベクトルマップを説明するための図である。 マッチング誤差および同位置誤差の取得を説明するための図である。 画像のコントラストが比較的大きい場合のマッチング誤差と同位置誤差との比率および動体判定を説明するための図である。 動体判定の結果に基づく画像の補正処理を説明するための図である。 画像のコントラストが比較的小さい場合のマッチング誤差と同位置誤差との比率を説明するための図である。 構造物判定における構造物動体部分を説明するための図である。 構造物判定における構造物非動体部分を説明するための図である。 構造物判定における非構造物部分を説明するための図である。 構造物判定における閾値を説明するための図である。 構造物判定部により構造物部分であると判定された注目画素に対する動体判定を説明するための図である。 構造物判定部により非構造物部分であると判定された注目画素に対する動体判定を説明するための図である。 本発明の一実施形態による画像処理装置における画質を向上させるための画像処理のフローである。
以下、本発明を具体化した実施形態を図面に基づいて説明する。
図1〜図18を参照して、本発明の一実施形態による画像処理装置100の構成について説明する。
図1に示すように、画像処理装置100は、撮影装置200において連続的に撮影されることにより生成される複数の画像(フレーム)30(図2参照)から構成される動画に対して画質を向上させるための画像処理を行う装置である。撮影装置200は、たとえば、血管等のように動きのある部位を撮影する放射線撮影装置である。
画像処理装置100は、画像取得部11と、注目ブロック領域設定部12と、移動先ブロック領域取得部13と、移動ベクトル取得部14と、差分指標値取得部15と、動体判定部16と、画像補正部17と、画像出力部18と、を備えている。なお、画像補正部17は、特許請求の範囲の「ノイズ低減処理部」の一例である。
画像取得部11は、撮影装置200により生成された複数の画像(フレーム)30(図2参照)を取得するように構成されている。すなわち、図2に示すように、画像取得部11(図1参照)は、互いに異なる時刻に撮影された複数の画像(フレーム)30を取得する。画像30には、被検体等の構造物部分41が写り込んでいる。そして、図3および図4に示すように、構造物部分41は、各々の画像(フレーム)30間で位置が変化する(移動する)場合がある。図3および図4では、Kフレーム目の画像31と(K−1)フレーム目の画像32との間において、四角形状の構造物部分41の位置が変化している(移動している)(図5参照)とともに、三角形状の構造物部分41の位置は変化していない(移動していない)例を示している。なお、Kフレーム目の画像31および(K−1)フレーム目の画像32は、それぞれ、特許請求の範囲の「第1画像」および「第2画像」の一例である。
図6に示すように、注目ブロック領域設定部12(図1参照)は、Kフレーム目の画像31内の画素の中から注目ブロック領域51を設定するように構成されている。注目ブロック領域51は、注目画素51aと注目画素51aの周辺の周辺画素51bとから構成される領域である。図6では、注目ブロック領域51が、1つの注目画素51aおよび注目画素51aの周辺の24個の周辺画素51bの合計25個の画素からなる5行5列の領域として構成された例を示している。
図7に示すように、移動先ブロック領域取得部13(図1参照)は、Kフレーム目の画像31とは異なる時刻に撮影された(K−1)フレーム目の画像32内において注目ブロック領域51に最も類似した移動先ブロック領域52を取得するように構成されている。具体的には、移動先ブロック領域取得部13は、(K−1)フレーム目の画像32内のブロック領域の位置を次々と変更しながら、注目ブロック領域51と(K−1)フレーム目の画像32内のブロック領域との間の残差平方和(画素値(画素の輝度)の残差平方和)の値を算出する。そして、移動先ブロック領域取得部13は、(K−1)フレーム目の画像32内の各々のブロック領域の中から、注目ブロック領域51との残差平方和の値が最も小さいブロック領域を移動先ブロック領域52として取得する。なお、移動先ブロック領域52は、注目ブロック領域51と等しい大きさ(画素数)の領域である。
移動ベクトル取得部14(図1参照)は、注目画素51aから移動先ブロック領域52における注目画素51aに対応する移動先画素52aへの移動ベクトルVを取得するように構成されている。具体的には、移動ベクトル取得部14は、注目ブロック領域設定部12(図1参照)により設定された注目ブロック領域51内の注目画素51aと、移動先ブロック領域取得部13(図1参照)により取得された移動先ブロック領域52内の移動先画素52aとの間の移動量および移動方向を移動ベクトルVとして取得する。なお、移動先画素52aは、移動先ブロック領域52内において、注目ブロック領域51内の注目画素51aの位置と対応する位置(移動先ブロック領域52の中心の位置)の画素である。
画像処理装置100は、Kフレーム目の画像31内の全ての画素の移動ベクトルVを取得するように構成されている。具体的には、注目ブロック領域設定部12(図1参照)による注目ブロック領域51の設定と、移動先ブロック領域取得部13による移動先ブロック領域52の取得と、移動ベクトル取得部14(図1参照)による移動ベクトルVの取得とが、Kフレーム目の画像31内の全ての画素に対して行われる。これにより、図8に示すように、Kフレーム目の画像31内の全ての画素の移動ベクトルVから構成される移動ベクトルマップVMが取得される。図8では、X行目Y列目の移動ベクトルVを、V(X、Y)で示している。
図9に示すように、差分指標値取得部15(図1参照)は、同位置誤差D1およびマッチング誤差D2を取得するように構成されている。同位置誤差D1は、注目画素51aの画素値と、同位置画素53aの画素値との差分値に基づく値である。また、マッチング誤差D2は、注目画素51aの画素値と、移動先画素52aの画素値との差分値に基づく指標値である。具体的には、同位置誤差D1は、Kフレーム目の画像31内の注目ブロック領域51における残差平方和(画素値の残差平方和)の値と、(K−1)フレーム目の画像32内の注目ブロック領域51と同位置の同位置ブロック領域53における残差平方和の値との差分値(誤差)である。また、マッチング誤差D2は、Kフレーム目の画像31内の注目ブロック領域51における残差平方和の値と、(K−1)フレーム目の画像32内の移動先ブロック領域52における残差平方和の値との差分値(誤差)である。なお、同位置誤差D1およびマッチング誤差D2は、それぞれ、特許請求の範囲の「第1差分指標値」および「第2差分指標値」の一例である。
図10に示すように、動体判定部16(図1参照)は、注目画素51aが、構造物動体部分41a(図5参照)であるか、構造物非動体部分41b(図5参照)または背景部分である非構造物部分42(図5参照)であるかを閾値T2(図10参照)に基づいて判定するように構成されている。詳細には、動体判定部16は、同位置誤差D1とマッチング誤差D2との比率(D2/D1)が閾値T2以下の場合に注目画素51aが構造物動体部分41aであると判定するように構成されている。また、動体判定部16は、同位置誤差D1とマッチング誤差D2との比率(D2/D1)が閾値T2よりも大きい場合に注目画素51aが構造物非動体部分41bまたは非構造物部分42であると判定するように構成されている。なお、閾値T2は、特許請求の範囲の「第2閾値」の一例である。
具体的には、図5に示すように、構造物動体部分41aは、注目画素51aが、Kフレーム目の画像31と(K−1)フレーム目の画像32との間において構造物部分41が移動した部分である。構造物非動体部分41bは、Kフレーム目の画像31と(K−1)フレーム目の画像32との間において構造物部分41が移動していない部分である。非構造物部分42は、Kフレーム目の画像31および(K−1)フレーム目の画像32において、構造物部分41ではない背景部分である。
図10に示すように、同位置誤差D1とマッチング誤差D2との比率(D2/D1)は、0から1までの範囲の値となる。そして、横軸を比率(D2/D1)、縦軸を度数(その比率(D2/D1)が出現した回数)で表したヒストグラムにおいて、注目画素51aが構造物動体部分41a、構造物非動体部分41bおよび非構造物部分42のいずれの分布も、ある比率(D2/D1)にピークを有するように分布する。また、ヒストグラムでは、構造物動体部分41aのピークと、非構造物部分42のピークと、構造物非動体部分41bのピークとが、比率(D2/D1)の小さい方から大きい方に向かって、この順に並ぶように分布する。なお、図10では、画像30のコントラストが比較的大きい場合を示している。
図10のヒストグラムでは、構造物動体部分41a、構造物非動体部分41bおよび非構造物部分42の分布の重複が比較的小さい。したがって、動体判定部16(図1参照)は、閾値T2を、構造物動体部分41aのピークと構造物非動体部分41bのピークとの間に設定することにより、構造物動体部分41aと、構造物非動体部分41bまたは非構造物部分42とを概ね分離することが可能である。これにより、動体判定部16(図1参照)は、注目画素51aが、構造物動体部分41aであるか、構造物非動体部分41bまたは非構造物部分42であるかを閾値T2に基づいて判定する(動体判定を行う)ことが可能である。なお、図10の例では、閾値T2を、同位置誤差D1とマッチング誤差D2との比率(D2/D1)が略0.3に設定するのが好ましい。
図11に示すように、画像補正部17(図1参照)は、動体判定部16により構造物動体部分41aであると判定された注目画素51aに対して、第1ノイズ低減処理を行うとともに、動体判定部16により構造物非動体部分41bまたは非構造物部分42であると判定された注目画素51aに対して、第2ノイズ低減処理を行うように構成されている。第1ノイズ低減処理は、注目画素51aと移動先画素52aとに基づくノイズ低減処理である。第2ノイズ低減処理は、注目画素51aと同位置画素53aとに基づくノイズ低減処理である。
具体的には、第1ノイズ低減処理は、Kフレーム目の画像31内の注目画素51aの画素値と、(K−1)フレーム目の画像32内の移動先画素52aの画素値との加算平均処理である。すなわち、第1ノイズ低減処理により、注目画素51aの画素値と移動先画素52aの画素値とが平均化されることにより、Kフレーム目の画像31内の構造物動体部分41aである注目画素51aは、ノイズ(ランダムノイズ)が低減された注目画素51axとなる。また、第2ノイズ低減処理は、Kフレーム目の画像31内の注目画素51aの画素値と、(K−1)フレーム目の画像32内の同位置画素53aの画素値との加算平均処理である。すなわち、第2ノイズ低減処理により、注目画素51aの画素値と同位置画素53aの画素値とが平均化されることにより、Kフレーム目の画像31内の構造物非動体部分41bおよび非構造物部分42である注目画素51aは、ノイズ(ランダムノイズ)が低減された注目画素51ayとなる。これにより、Kフレーム目の画像31は、ノイズ(ランダムノイズ)が低減された画像31xとなる。なお、画素値と画素値との加算平均処理は、単純に加算平均してもよいし、いずれかの一方の画素値に重み付けをした重み付け平均をしてもよい。
画像出力部18(図1参照)は、画像補正部17(図1参照)により補正された(ノイズが低減された)Kフレーム目の画像31xを表示部(図示しない)に出力するように構成されている。
以上の構成により、画像処理装置100では、撮影装置200において連続的に撮影されることにより生成される複数の画像30が、画像補正部17により順次補正される。そして、画像出力部18によりノイズが低減された(画質が向上された)動画が出力される。
ここで、画像取得部11が撮影装置200から取得した複数の画像(フレーム)30(図2参照)のコントラストが比較的小さい場合がある。この場合、図12に示すように、同位置誤差D1とマッチング誤差D2との比率(D2/D1)の分布を示したヒストグラムにおいて、画像(フレーム)30のコントラストが比較的大きい場合(図10の場合)と比較して、構造物部分41が横軸方向に広がって分布する。したがって、構造物動体部分41aのピークが、非構造物部分42のピークに比較的近付くことにより、構造物動体部分41aの分布と非構造物部分42との分布の重複が比較的大きくなる。このため、画像(フレーム)30のコントラストが比較的小さい場合、動体判定部16(図1参照)は、構造物動体部分41aと非構造物部分42とを分離するための閾値T2を適切に設定することが困難となる(動体判定部16による動体判定を精度よく行うことが困難となる)。
そこで、本実施形態では、図1に示すように、画像処理装置100は、動体判定部16による動体判定を精度よく行うために、構造物判定部19と、閾値変更部20と、を備えている。
図13〜図15に示すように、構造物判定部19(図1参照)は、ベクトルブロック領域VR内の移動ベクトルVに基づいて、ベクトルブロック領域VR内の注目移動ベクトルVaに対応するKフレーム目の画像31内の注目画素51aが構造物部分41であるか背景部分である非構造物部分42であるかを判定するように構成されている。ベクトルブロック領域VRは、移動ベクトル取得部14により取得された複数の移動ベクトルVから構成される領域である。また、ベクトルブロック領域VRは、注目移動ベクトルVaと注目移動ベクトルVaの周辺の周辺移動ベクトルVbとから構成される領域である。図13〜図15では、ベクトルブロック領域VRが、1つの注目移動ベクトルVaおよび注目移動ベクトルVaの周辺の48個の周辺移動ベクトルVbの合計49個の移動ベクトルVからなる7行7列の領域として構成された例を示している。
詳細には、図17に示すように、構造物判定部19(図1参照)は、ベクトルブロック領域VR内の類似する移動ベクトルVの割合Ra((ベクトルブロック領域VR内の類似する全ての移動ベクトルV)/(ベクトルブロック領域VR内の全ての移動ベクトルV))に基づいて、注目移動ベクトルVaに対応するKフレーム目の画像31内の注目画素51aが構造物部分41であるか非構造物部分42であるかを判定するように構成されている。なお、「類似する移動ベクトルV」とは、移動ベクトルVの大きさおよび方向が完全に一致しない場合も含む。また、移動ベクトルVが類似するか否かの条件は、画像処理装置100の使用者等によって設定することが可能である。
具体的には、図5に示すように、Kフレーム目の画像31と(K−1)フレーム目の画像32との間において構造物部分41が移動した場合、複数の画素からなる領域がある程度まとまって移動すると考えられる。したがって、注目移動ベクトルVaに対応するKフレーム目の画像31内の注目画素51aが構造物部分41である場合、ベクトルブロック領域VR内の移動ベクトルVの方向および大きさは互いに類似する(関連性を有する)可能性が高い。
すなわち、図13に示すように、Kフレーム目の画像31と(K−1)フレーム目の画像32との間で構造物部分41が移動した構造物動体部分41aにおいてベクトルブロック領域VR1を取得した場合、ベクトルブロック領域VR1内の移動ベクトルVの方向および大きさは、互いに類似する。図13では、49個の移動ベクトルVの内の37個の移動ベクトルV(図13の破線で囲まれた部分の移動ベクトルV)が互いに類似した例を示している。
また、図14に示すように、Kフレーム目の画像31と(K−1)フレーム目の画像32との間で構造物部分41が移動していない構造物非動体部分41bにおいてベクトルブロック領域VR2を取得した場合、ベクトルブロック領域VR2内の移動ベクトルVの方向および大きさも、互いに類似する。なお、構造物非動体部分41bにおける移動ベクトルVの大きさは、構造物動体部分41aと比較して小さい(ゼロに近い)ので、図14では、移動ベクトルVの図示を省略している。
一方、ノイズ(ランダムノイズ)は、Kフレーム目の画像31と(K−1)フレーム目の画像32とのいずれにおいても、ランダムな位置および大きさとして生じる。したがって、注目移動ベクトルVaに対応するKフレーム目の画像31内の注目画素51aがノイズを含む背景部分(非構造物部分42)である場合、ベクトルブロック領域VR内の移動ベクトルVは互いにランダムな方向および大きさになる(関連性を有さない)可能性が大きい。
すなわち、図15に示すように、Kフレーム目の画像31((K−1)フレーム目の画像32)の非構造物部分42においてベクトルブロック領域VR3を取得した場合、ベクトルブロック領域VR3内の移動ベクトルVの方向および大きさは、互いにランダムな方向および大きさとなる。
図16に示すように、構造物判定部19(図1参照)は、割合Raが閾値T1以上の場合に、注目画素51aが構造物部分41であると判定するとともに、割合Raが閾値T1よりも小さい場合に、注目画素51aが非構造物部分42であると判定するように構成されている。図17では、閾値T1の大きさを、割合Raが略0.5に設定した例を示している。なお、閾値T1は、特許請求の範囲の「第1閾値」の一例である。
図17および図18に示すように、本実施形態では、閾値変更部20(図1参照)は、構造物判定部19により構造物部分41であると判定された注目画素51aに対して、閾値T2の大きさを変更した後に、動体判定部16による判定を行うように構成されている。詳細には、閾値変更部20は、構造物判定部19により構造物部分41であると判定された注目画素51aに対して、閾値T2を大きくするように閾値T2を変更するとともに、構造物判定部19により非構造物部分42であると判定された注目画素51aに対して、閾値T2を小さくするように閾値T2を変更した後に動体判定部16による判定を行うように構成されている。
具体的には、図17に示すように、閾値変更部20(図1参照)は、構造物判定部19により注目画素51aが構造物部分41であると判定された場合、画像30のコントラストが比較的大きい場合の閾値T2である略0.3(図10参照)から、閾値T2を略0.3よりも大きくなるように変更する。図17では、閾値T2を略0.63に変更した例を示している。そして、閾値T2を略0.3よりも大きくなるように変更した状態で、閾値T2に基づいて、動体判定部16により、注目画素51aが構造物動体部分41a(図5参照)であるか、構造物非動体部分41b(図5参照)または背景部分である非構造物部分42(図5参照)であるかの判定が行われる。これにより、ヒストグラムの分布において、構造物動体部分41aと非構造物部分42とが重複する部分が大きい場合に、構造物判定部19により構造物部分41であると判定された注目画素51aは、非構造物部分42である可能性が低いので、動体判定部16による判定において、構造物動体部分41aであると判定され易くすることが可能である。
また、図18に示すように、閾値変更部20(図1参照)は、構造物判定部19により注目画素51aが非構造物部分42であると判定された場合、画像30のコントラストが比較的大きい場合の閾値T2である略0.3(図10参照)から、閾値T2を略0.3よりも小さくなるように変更する。図18では、閾値T2を略0.2に変更した例を示している。そして、閾値T2を略0.3よりも小さくなるように変更した状態で、閾値T2に基づいて、動体判定部16により、注目画素51aが構造物動体部分41a(図5参照)であるか、構造物非動体部分41b(図5参照)または背景部分である非構造物部分42(図5参照)であるかの判定が行われる。これにより、ヒストグラムの分布において、構造物動体部分41aと非構造物部分42とが重複する部分が大きい場合に、構造物判定部19により非構造物部分42であると判定された注目画素51aは、構造物動体部分41aである可能性が低いので、動体判定部16による判定において、非構造物部分42であると判定され易くすることが可能である。なお、画像処理装置100では、構造物判定部19による判定により、注目画素51aが非構造物部分42であると判定された場合でも、構造物判定部19による判定に誤りが含まれる可能性を考慮して、動体判定部16による判定を行うように構成されている。
(画像処理のフロー)
次に、図19を参照して、複数の画像(フレーム)30から構成される動画に対して画質を向上させるための画像処理のフローを説明する。
まず、ステップ101において、画像取得部11は、Kフレーム目の画像31と、Kフレーム目の画像31とは異なる時刻に撮影された(K−1)フレーム目の画像32と、を取得する。
次に、ステップ102において、注目ブロック領域設定部12は、Kフレーム目の画像31内の画素の中から注目画素51aと注目画素51aの周辺の周辺画素51bとから構成される注目ブロック領域51を設定する。
次に、ステップ103において、移動先ブロック領域取得部13は、(K−1)フレーム目の画像32内において注目ブロック領域51に最も類似した移動先ブロック領域52を取得する。
次に、ステップ104において、移動ベクトル取得部14は、注目画素51aから移動先ブロック領域52における注目画素51aに対応する移動先画素52aへの移動ベクトルVを取得する。
次に、ステップ105において、差分指標値取得部15は、注目画素51aの画素値と、同位置画素53aの画素値との差分値に基づく同位置誤差D1、および、注目画素51aの画素値と、移動先画素52aの画素値との差分値に基づくマッチング誤差D2を取得する。
次に、ステップ106において、構造物判定部19は、複数の移動ベクトルVから構成されるベクトルブロック領域VR内の類似する移動ベクトルVの割合Raに基づいて、注目移動ベクトルVaに対応するKフレーム目の画像31内の注目画素51aが構造物部分41であるか非構造物部分42であるかを判定する(構造物判定を行う)。
次に、ステップ107において、閾値変更部20は、構造物判定部19により構造物部分41であると判定された注目画素51aに対して、(ステップ108の動体判定部16による判定に用いられる)閾値T2を大きくするように閾値T2を変更するとともに、構造物判定部19により非構造物部分42であると判定された注目画素51aに対して、閾値T2を小さくするように閾値T2を変更する。
次に、ステップ108において、動体判定部16は、注目画素51aが、構造物動体部分41aであるか、構造物非動体部分41bまたは非構造物部分42であるかを閾値T2と、(ステップ105において、差分指標値取得部15が取得した)同位置誤差D1およびマッチング誤差D2と、に基づいて判定する(動体判定を行う)。
次に、ステップ109において、画像補正部17は、動体判定部16により構造物動体部分41aであると判定された注目画素51aに対して、第1ノイズ低減処理を行うとともに、動体判定部16により構造物非動体部分41bまたは非構造物部分42であると判定された注目画素51aに対して、第2ノイズ低減処理を行う。
そして、ステップ110において、画像出力部18は、画像補正部17により補正された(ノイズが低減された)Kフレーム目の画像31xを表示部に出力する。
(実施形態の効果)
本実施形態では、以下のような効果を得ることができる。
本実施形態では、上記のように、構造物判定部19を、複数の移動ベクトルVから構成されるベクトルブロック領域VR内の移動ベクトルVに基づいて、ベクトルブロック領域VR内の注目移動ベクトルVaに対応するKフレーム目の画像31内の注目画素51aが構造物部分41であるか非構造物部分42であるかを判定するように構成する。これにより、画像30のコントラストが比較的小さい場合でも、注目移動ベクトルVaに対応するKフレーム目の画像31内の注目画素51aが構造物部分41であるか背景部分(非構造物部分42)であるかを判定することができる。その結果、注目画素51aが動体部分(構造物動体部分41a)であるか動体部分ではない部分(構造物非動体部分41bまたは非構造物部分42)であるかを判定する方法(動体判定部16による判定)と、動体判定部16による判定とは異なる観点から注目画素51aを判定する方法(注目画素が構造物部分41であるか非構造物部分42であるかを判定する方法)を組み合わせることにより、画像30のコントラストが比較的小さい場合でも、注目画素51aが動体部分(構造物動体部分41a)であるか動体部分ではない部分(構造物非動体部分41bまたは非構造物部分42)であるかを判定する精度を向上させることができる。
また、本実施形態では、上記のように、構造物判定部19を、ベクトルブロック領域VRを構成する移動ベクトルVの中の注目移動ベクトルVaと注目移動ベクトルVaの周辺の周辺移動ベクトルVbとの両方に基づいて、注目移動ベクトルVaに対応するKフレーム目の画像31内の注目画素51aが、構造物部分41であるか非構造物部分42であるかを判定するように構成する。これにより、注目移動ベクトルVaと周辺移動ベクトルVbとの両方に基づいて、ベクトルブロック領域VR内の移動ベクトルVの関連性(移動ベクトルVの方向および大きさが互いに類似するか否か)を確実に調べることができるので、注目画素51aが動体部分(構造物動体部分41a)であるか動体部分ではない部分(構造物非動体部分41bまたは非構造物部分42)であるかを判定する精度を確実に向上させることができる。
また、本実施形態では、上記のように、構造物判定部19を、ベクトルブロック領域VR内の類似する移動ベクトルVの割合Raに基づいて、注目移動ベクトルVaに対応するKフレーム目の画像31内の注目画素51aが構造物部分41であるか非構造物部分42であるかを判定するように構成する。これにより、ベクトルブロック領域VR内の類似する移動ベクトルVの割合Raに基づいて、ベクトルブロック領域VR内の移動ベクトルVの関連性(移動ベクトルVの方向および大きさが互いに類似するか否か)を容易に調べることができるので、注目画素51aが動体部分(構造物動体部分41a)であるか動体部分ではない部分(構造物非動体部分41bまたは非構造物部分42)であるかを判定する精度を容易に向上させることができる。
また、本実施形態では、上記のように、構造物判定部19を、割合Raが閾値T1以上の場合に、注目画素51aが構造物部分41であると判定するとともに、割合Raが閾値T1よりも小さい場合に、注目画素51aが非構造物部分42であると判定するように構成する。これにより、閾値T1を用いることにより、ベクトルブロック領域VR内の類似する移動ベクトルVの割合Raを容易に調べることができるので、ベクトルブロック領域VR内の移動ベクトルの関連性(移動ベクトルVの方向および大きさが互いに類似するか否か)をより容易に調べることができる。
また、本実施形態では、上記のように、画像処理装置100は、動体判定部16と、画像補正部17と、を備える。動体判定部16は、注目画素51aが、Kフレーム目の画像31と(K−1)フレーム目の画像32との間において構造物部分41が移動した構造物動体部分41aであるか、Kフレーム目の画像31と(K−1)フレーム目の画像32との間において構造物部分41が移動していない構造物非動体部分41bまたは背景部分である非構造物部分42であるかを閾値T2に基づいて判定する。画像補正部17は、動体判定部16により構造物動体部分41aであると判定された注目画素51aに対して第1ノイズ低減処理を行うとともに、動体判定部16により構造物非動体部分41bまたは非構造物部分42であると判定された注目画素51aに対して第2ノイズ低減処理を行う。第1ノイズ低減処理は、注目画素51aと、注目画素51aの移動先の(K−1)フレーム目の画像32における画素である移動先画素52aとに基づくノイズ低減処理である。第2ノイズ低減処理は、注目画素51aと、注目画素51aと同位置の(K−1)フレーム目の画像32における画素である同位置画素53aとに基づくノイズ低減処理である。そして、画像処理装置100を、構造物判定部19により構造物部分41であると判定された注目画素51aに対して、閾値T2の大きさを変更した後に、動体判定部16による判定を行うように構成する。これにより、動体判定部16による判定において、注目画素51aが構造物動体部分41aであるか非構造物部分42であるかを判定することが難しい場合でも、注目画素51aを構造物動体部分41aであると判定させるように閾値T2の大きさを変更することにより、注目画素51aが構造物動体部分41aであるか背景部分(非構造物部分42)であるかを判定する精度を確実に向上させることができる。その結果、精度を向上させた動体判定部16による判定に基づいて、画像補正部17による注目画素51aに対するノイズ低減処理を適切に行うことができる。
また、本実施形態では、上記のように、画像処理装置100は、同位置誤差D1を取得するとともにマッチング誤差D2を取得する差分指標値取得部15を備える。同位置誤差D1は、注目画素51aの画素値と、同位置画素53aの画素値との差分値に基づく差分指標値である。マッチング誤差D2は、注目画素51aの画素値と、移動先画素52aの画素値との差分値に基づく差分指標値である。そして、動体判定部16を、同位置誤差D1とマッチング誤差D2との比率(D2/D1)が閾値T2以下の場合に注目画素51aが構造物動体部分41aであると判定するとともに、比率(D2/D1)が閾値T2よりも大きい場合に注目画素51aが構造物非動体部分41bまたは非構造物部分42であると判定するように構成する。また、画像処理装置100を、構造物判定部19により構造物部分41であると判定された注目画素51aに対して閾値T2を大きくするように閾値T2を変更した後に、動体判定部16による判定を行うように構成する。これにより、閾値T2を、構造物動体部分41aと非構造物部分42とを分離する通常の比率(D2/D1)から、構造物動体部分41aと構造物非動体部分41bとを分離する比率(D2/D1)に大きくするように変更することができる。その結果、構造物判定部19により構造物部分41であると判定された注目画素51aにおいて、構造物動体部分41aであるか非構造物部分42であるかを判定する(分離する)ことが難しい場合でも、注目画素51aを構造物動体部分41aであると容易に判定させることができる。したがって、動体判定部16による判定を行う前に、注目画素51aが構造物動体部分41aであるか背景部分(非構造物部分42)であるかを判定する精度を容易かつ確実に向上させることができる。
また、本実施形態では、上記のように、画像処理装置100を、構造物判定部19により構造物部分41であると判定された注目画素51aに対して閾値T2を大きくするように閾値T2を変更するとともに、構造物判定部19により非構造物部分42であると判定された注目画素51aに対して閾値T2を小さくするように変更した後に、動体判定部16による判定を行うように構成する。これにより、閾値T2を、構造物動体部分41aと非構造物部分42とを分離する通常の比率(D2/D1)から、背景部分(非構造物部分42)の分布を比較的多く含むように小さくするように変更するができる。その結果、構造物判定部19により非構造物部分42であると判定された注目画素51aにおいて、構造物動体部分41aであるか非構造物部分42であるかを判定することが難しい場合に、注目画素51aを非構造物部分42であると容易に判定させることができる。したがって、動体判定部16による判定を行う前に、注目画素51aが構造物動体部分41aであるか背景部分(非構造物部分42)であるかを判定する精度を容易かつより確実に向上させることができる。
[変形例]
なお、今回開示された実施形態は、すべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は、上記した実施形態の説明ではなく特許請求の範囲によって示され、さらに特許請求の範囲と均等の意味および範囲内でのすべての変更(変形例)が含まれる。
たとえば、上記実施形態では、画像処理装置100を、構造物判定部19により構造物部分41であると判定された注目画素51aに対して閾値T2を大きくするように閾値T2を変更するとともに、構造物判定部19により非構造物部分42であると判定された注目画素51aに対して閾値T2を小さくするように変更した例を示したが、本発明はこれに限られない。本発明では、画像処理装置を、構造物判定部19により構造物部分41であると判定された注目画素51aに対して閾値T2を大きくするように閾値T2を変更するとともに、構造物判定部19により非構造物部分42であると判定された注目画素51aに対して閾値T2を変更しないように構成してもよい。
また、上記実施形態では、動体判定部16により、注目画素51aが、構造物動体部分41aであるか、構造物非動体部分41bまたは非構造物部分42であるかを閾値T2に基づいて判定するように構成した例を示したが、本発明はこれに限られない。本発明では、注目画素51aが、構造物動体部分41aであるか、構造物非動体部分41bまたは非構造物部分42であるかを閾値T2以外に基づいて判定するように構成してもよい。たとえば、構造物判定部19により、注目画素51aが構造物部分41であるか非構造物部分42であるかを移動ベクトルVに基づいて判定することに加えて、移動ベクトルVの大きさを考慮することにより、構造物部分41を、構造物動体部分41aであるか構造物非動体部分41bであるかを判定するように構成してもよい。
また、上記実施形態では、動体判定部16により構造物非動体部分41bまたは非構造物部分42であると判定された注目画素51aに対して第2ノイズ低減処理を行うように構成した例を示したが、本発明はこれに限られない。本発明では、第1ノイズ低減処理および第2ノイズ低減処理のいずれか一方のみを行うように構成してもよい。また、第1ノイズ低減処理および第2ノイズ低減処理を行わないように構成してもよい。この場合、動体判定部16による判定を省略することができる。
また、上記実施形態では、構造物判定部19による判定に基づいて閾値T2を変更する例を示したが、本発明はこれに限られない。本発明では、構造物判定部19による判定に基づいて閾値T2を変更せずに、他の画像処理を行うように構成してもよいし、閾値T2を変更するとともに、他の画像処理を行うように構成してもよい。たとえば、構造物判定部19により構造物部分41であると判定された注目画素51aに対して、Kフレーム目の画像31における注目画素51aと周辺画素51bとに基づいて構造物を強調する画像処理を行うように構成してもよい。構造物を強調する画像処理は、たとえば、エッジ強調処理である。また、構造物判定部19により非構造物部分42であると判定された注目画素51aに対して、Kフレーム目の画像31における注目画素51aと周辺画素51bとに基づいてノイズを低減する画像の平滑化処理を行うように構成してもよい。これにより、構造物判定部19により構造物部分41であると判定された注目画素51aおよび非構造物部分42であると判定された注目画素51aに対して、画質を向上させるための適切な画像処理を容易に行うことができる。なお、画像の平滑化処理は、特許請求の範囲の「第3ノイズ低減処理」の一例である。
また、上記実施形態では、画像処理装置100が撮影装置200とは別個に設けられた例を示したが、本発明はこれに限られない。本発明では、画像処理装置を撮影装置の処理ユニットに含めるように構成してもよい。
また、上記実施形態では、説明の便宜上、画像処理装置100の画像処理を処理フローに沿って順番に処理を行うフロー駆動型のフローを用いて説明したが、本発明はこれに限られない。本発明では、画像処理装置の画像処理を、イベント単位で処理を実行するイベント駆動型(イベントドリブン型)の処理により行ってもよい。この場合、完全なイベント駆動型で行ってもよいし、イベント駆動およびフロー駆動を組み合わせて行ってもよい。
12 注目ブロック領域設定部
13 移動先ブロック領域取得部
14 移動ベクトル取得部
15 差分指標値取得部
16 動体判定部
17 画像補正部(ノイズ低減処理部)
19 構造物判定部
30 画像
31 Kフレーム目の画像(第1画像)
32 (K−1)フレーム目の画像(第2画像)
41 構造物部分
41a 構造物動体部分
41b 構造物非動体部分
42 非構造物部分
51 注目ブロック領域
51a 注目画素
51b 周辺画素
52 移動先ブロック領域
52a 移動先画素
53a 同位置画素
100 画像処理装置
D1 同位置誤差(第1差分指標値)
D2 マッチング誤差(第2差分指標値)
(D2/D1) (第1差分指標値と第2差分指標値との)比率
Ra (ベクトルブロック領域内の類似する移動ベクトルの)割合
VR(VR1、VR2、VR3) ベクトルブロック領域
V 移動ベクトル
Va 注目移動ベクトル
Vb 周辺移動ベクトル
上記目的を達成するために、この発明の一の局面における画像処理装置は、放射線撮影装置において連続的に撮影されることにより生成される複数の画像に対して画像処理を行う画像処理装置であって、放射線撮影装置において撮影された第1画像内の画素の中から注目画素と注目画素の周辺の周辺画素とから構成される注目ブロック領域を設定する注目ブロック領域設定部と、放射線撮影装置において第1画像とは異なる時刻に撮影された第2画像内において注目ブロック領域に最も類似した移動先ブロック領域を取得する移動先ブロック領域取得部と、注目画素から移動先ブロック領域における注目画素に対応する移動先画素への移動ベクトルを取得する移動ベクトル取得部と、移動ベクトル取得部により取得された複数の移動ベクトルから構成されるベクトルブロック領域内の全ての移動ベクトルに対するベクトルブロック領域内の類似する全ての移動ベクトルの割合に基づいて、ベクトルブロック領域内の注目移動ベクトルに対応する第1画像内の注目画素が構造物部分であるか背景部分である非構造物部分であるかを判定する構造物判定部と、を備える。
上記一の局面による画像処理装置において、好ましくは、構造物判定部は、上記割合が第1閾値以上の場合に、注目画素が構造物部分であると判定するとともに、上記割合が第1閾値よりも小さい場合に、注目画素が非構造物部分であると判定するように構成されている。このように構成すれば、第1閾値を用いることにより、ベクトルブロック領域内の類似する移動ベクトルの割合を容易に調べることができるので、ベクトルブロック領域内の移動ベクトルの関連性(移動ベクトルの方向および大きさが互いに類似するか否か)をより容易に調べることができる。

Claims (8)

  1. 連続的に撮影されることにより生成される複数の画像に対して画像処理を行う画像処理装置であって、
    第1画像内の画素の中から注目画素と前記注目画素の周辺の周辺画素とから構成される注目ブロック領域を設定する注目ブロック領域設定部と、
    前記第1画像とは異なる時刻に撮影された第2画像内において前記注目ブロック領域に最も類似した移動先ブロック領域を取得する移動先ブロック領域取得部と、
    前記注目画素から前記移動先ブロック領域における前記注目画素に対応する移動先画素への移動ベクトルを取得する移動ベクトル取得部と、
    前記移動ベクトル取得部により取得された複数の前記移動ベクトルから構成されるベクトルブロック領域内の前記移動ベクトルに基づいて、前記ベクトルブロック領域内の注目移動ベクトルに対応する前記第1画像内の前記注目画素が構造物部分であるか背景部分である非構造物部分であるかを判定する構造物判定部と、を備える画像処理装置。
  2. 前記構造物判定部は、前記ベクトルブロック領域を構成する前記移動ベクトルの中の前記注目移動ベクトルと前記注目移動ベクトルの周辺の周辺移動ベクトルとの両方に基づいて、前記注目移動ベクトルに対応する前記第1画像内の前記注目画素が、前記構造物部分であるか前記非構造物部分であるかを判定するように構成されている、請求項1に記載の画像処理装置。
  3. 前記構造物判定部は、前記ベクトルブロック領域内の類似する前記移動ベクトルの割合に基づいて、前記注目移動ベクトルに対応する前記第1画像内の前記注目画素が前記構造物部分であるか前記非構造物部分であるかを判定するように構成されている、請求項1または2に記載の画像処理装置。
  4. 前記構造物判定部は、前記割合が第1閾値以上の場合に、前記注目画素が前記構造物部分であると判定するとともに、前記割合が前記第1閾値よりも小さい場合に、前記注目画素が前記非構造物部分であると判定するように構成されている、請求項3に記載の画像処理装置。
  5. 前記注目画素が、前記第1画像と前記第2画像との間において前記構造物部分が移動した構造物動体部分であるか、前記第1画像と前記第2画像との間において前記構造物部分が移動していない構造物非動体部分または前記背景部分である前記非構造物部分であるかを第2閾値に基づいて判定する動体判定部と、
    前記動体判定部により前記構造物動体部分であると判定された前記注目画素に対して、前記注目画素と、前記注目画素の移動先の前記第2画像における画素である前記移動先画素とに基づく第1ノイズ低減処理を行うとともに、前記動体判定部により前記構造物非動体部分または前記非構造物部分であると判定された前記注目画素に対して、前記注目画素と、前記注目画素と同位置の前記第2画像における画素である同位置画素とに基づく第2ノイズ低減処理を行うノイズ低減処理部と、
    をさらに備え、
    前記構造物判定部により前記構造物部分であると判定された前記注目画素に対して、前記第2閾値の大きさを変更した後に、前記動体判定部による判定を行うように構成されている、請求項1〜4のいずれか1項に記載の画像処理装置。
  6. 前記注目画素の画素値と、前記同位置画素の画素値との差分値に基づく第1差分指標値を取得するとともに、前記注目画素の画素値と、前記移動先画素の画素値との差分値に基づく第2差分指標値を取得する差分指標値取得部をさらに備え、
    前記動体判定部は、前記第1差分指標値と前記第2差分指標値との比率が前記第2閾値以下の場合に前記注目画素が前記構造物動体部分であると判定するとともに、前記比率が前記第2閾値よりも大きい場合に前記注目画素が前記構造物非動体部分または前記非構造物部分であると判定するように構成されており、
    前記構造物判定部により前記構造物部分であると判定された前記注目画素に対して前記第2閾値を大きくするように前記第2閾値を変更した後に、前記動体判定部による判定を行うように構成されている、請求項5に記載の画像処理装置。
  7. 前記構造物判定部により前記構造物部分であると判定された前記注目画素に対して前記第2閾値を大きくするように前記第2閾値を変更するとともに、前記構造物判定部により前記非構造物部分であると判定された前記注目画素に対して前記第2閾値を小さくするように前記第2閾値を変更した後に、前記動体判定部による判定を行うように構成されている、請求項6に記載の画像処理装置。
  8. 前記構造物判定部により前記構造物部分であると判定された前記注目画素に対して、前記第1画像における前記注目画素と前記周辺画素とに基づいて構造物を強調する画像処理、および、前記構造物判定部により前記非構造物部分であると判定された前記注目画素に対して、前記第1画像における前記注目画素と前記周辺画素とに基づいてノイズを低減する第3ノイズ低減処理の少なくとも一方の処理を行うように構成されている、請求項1〜4のいずれか1項に記載の画像処理装置。
JP2020567684A 2019-01-21 2019-01-21 画像処理装置 Active JP7147878B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2019/001701 WO2020152756A1 (ja) 2019-01-21 2019-01-21 画像処理装置

Publications (2)

Publication Number Publication Date
JPWO2020152756A1 true JPWO2020152756A1 (ja) 2021-12-02
JP7147878B2 JP7147878B2 (ja) 2022-10-05

Family

ID=71736642

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020567684A Active JP7147878B2 (ja) 2019-01-21 2019-01-21 画像処理装置

Country Status (2)

Country Link
JP (1) JP7147878B2 (ja)
WO (1) WO2020152756A1 (ja)

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09190534A (ja) * 1996-01-11 1997-07-22 Canon Inc 画像処理装置
JP2007268155A (ja) * 2006-03-31 2007-10-18 Toshiba Corp 超音波診断装置及び超音波診断装置制御方法
JP2011000470A (ja) * 2010-10-01 2011-01-06 Toshiba Corp 超音波診断装置
JP2011120815A (ja) * 2009-12-14 2011-06-23 Hitachi Medical Corp 医用画像表示装置及び医用画像表示方法
JP2012027696A (ja) * 2010-07-23 2012-02-09 Canon Inc 画像処理装置及び画像処理方法
US20120059239A1 (en) * 2010-09-08 2012-03-08 Fujifilm Corporation Body motion detection device and method, as well as radiographic imaging apparatus and method
JP2012105750A (ja) * 2010-11-16 2012-06-07 Hitachi Aloka Medical Ltd 超音波画像処理装置
US20130129255A1 (en) * 2010-07-14 2013-05-23 Tohoku University Signal-processing device and computer-readable recording medium with signal-processing program recorded thereon

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09190534A (ja) * 1996-01-11 1997-07-22 Canon Inc 画像処理装置
JP2007268155A (ja) * 2006-03-31 2007-10-18 Toshiba Corp 超音波診断装置及び超音波診断装置制御方法
JP2011120815A (ja) * 2009-12-14 2011-06-23 Hitachi Medical Corp 医用画像表示装置及び医用画像表示方法
US20130129255A1 (en) * 2010-07-14 2013-05-23 Tohoku University Signal-processing device and computer-readable recording medium with signal-processing program recorded thereon
JP2012027696A (ja) * 2010-07-23 2012-02-09 Canon Inc 画像処理装置及び画像処理方法
US20120059239A1 (en) * 2010-09-08 2012-03-08 Fujifilm Corporation Body motion detection device and method, as well as radiographic imaging apparatus and method
JP2011000470A (ja) * 2010-10-01 2011-01-06 Toshiba Corp 超音波診断装置
JP2012105750A (ja) * 2010-11-16 2012-06-07 Hitachi Aloka Medical Ltd 超音波画像処理装置

Also Published As

Publication number Publication date
JP7147878B2 (ja) 2022-10-05
WO2020152756A1 (ja) 2020-07-30

Similar Documents

Publication Publication Date Title
US11195257B2 (en) Image processing method, image processing apparatus, imaging apparatus, lens apparatus, storage medium, and image processing system
CN110264426B (zh) 图像畸变校正方法和装置
JP2019012426A5 (ja)
JP7123736B2 (ja) 画像処理装置、画像処理方法、およびプログラム
JP6577703B2 (ja) 画像処理装置及び画像処理方法、プログラム、記憶媒体
JP2010187347A (ja) 画像処理装置、画像処理方法、画像処理プログラム
JP7234057B2 (ja) 画像処理方法、画像処理装置、撮像装置、レンズ装置、プログラム、記憶媒体、および、画像処理システム
US11575834B2 (en) Image stabilization apparatus, method of controlling same, and storage medium
JP2013242658A (ja) 画像処理装置、撮像装置、画像処理方法、および画像処理プログラム
JP2010117593A (ja) 距離情報取得装置、撮像装置、及びプログラム
JP5911292B2 (ja) 画像処理装置、撮像装置、画像処理方法、および、画像処理プログラム
US10097806B2 (en) Image processing apparatus, image pickup apparatus, image processing method, non-transitory computer-readable storage medium for improving quality of image
JP7312026B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP2012049603A (ja) 画像処理装置および画像処理プログラム
JP6604908B2 (ja) 画像処理装置、その制御方法、および制御プログラム
WO2016067762A1 (ja) 画像処理装置及びプログラム
US20150304632A1 (en) Image processing method, image processing apparatus, image pickup apparatus, and non-transitory computer-readable storage medium
JP2013048717A (ja) 画像処理装置及び方法、記録媒体、並びにプログラム
CN117058183A (zh) 一种基于双摄像头的图像处理方法、装置、电子设备及存储介质
WO2014010726A1 (ja) 画像処理装置及び画像処理プログラム
US20230274398A1 (en) Image processing apparatus for reducing influence of fine particle in an image, control method of same, and non-transitory computer-readable storage medium
JP7191588B2 (ja) 画像処理方法、画像処理装置、撮像装置、レンズ装置、プログラム、および、記憶媒体
JP7147878B2 (ja) 画像処理装置
JP5928465B2 (ja) 劣化復元システム、劣化復元方法およびプログラム
JP7455578B2 (ja) 画像処理装置および画像処理方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210713

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210713

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220823

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220905

R151 Written notification of patent or utility model registration

Ref document number: 7147878

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151