JP5198543B2 - 画像処理方法、画像処理装置及び画像処理プログラム - Google Patents

画像処理方法、画像処理装置及び画像処理プログラム Download PDF

Info

Publication number
JP5198543B2
JP5198543B2 JP2010259440A JP2010259440A JP5198543B2 JP 5198543 B2 JP5198543 B2 JP 5198543B2 JP 2010259440 A JP2010259440 A JP 2010259440A JP 2010259440 A JP2010259440 A JP 2010259440A JP 5198543 B2 JP5198543 B2 JP 5198543B2
Authority
JP
Japan
Prior art keywords
block
value
evaluation
evaluation value
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2010259440A
Other languages
English (en)
Other versions
JP2012113362A (ja
Inventor
直 三島
雄志 三田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2010259440A priority Critical patent/JP5198543B2/ja
Priority to US13/049,620 priority patent/US8682060B2/en
Priority to TW100131465A priority patent/TWI462056B/zh
Priority to CN201110266340.5A priority patent/CN102479384B/zh
Publication of JP2012113362A publication Critical patent/JP2012113362A/ja
Application granted granted Critical
Publication of JP5198543B2 publication Critical patent/JP5198543B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/254Analysis of motion involving subtraction of images

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)

Description

本発明の実施形態は、画像処理方法、画像処理装置及び画像処理プログラムに関する。
従来より、複数の画像間の対応点を探索する技術がある。対応点を探索する方法には、例えば、複数の画像に各々含まれる所定の大きさのブロックをマッチングさせるブロックマッチングという方法がある。ブロックマッチングの方法としては、例えば、特許文献1に示されるように、絶対値輝度最大値(MAD:Maximum Absolute Difference)を用いて行う方法がある。この方法によれば、明度変化にロバストなブロックマッチングを実現することができる。MADはノイズに脆弱であるが、差分絶対値和(SAD:Sum of Absolute Difference)を線形結合することにより、ノイズに対するロバスト性も担保することができる。
特開2008−234465号公報
しかし、従来の技術では、ブロック内に特徴的な画像パターンが含まれている場合にはマッチングに成功するが、特徴があまりなく明度がフラットなブロックではマッチングに失敗する恐れがあった。このため、より精度高くブロックマッチングを実現する技術が望まれていた。
本発明は、上記に鑑みてなされたものであって、精度のより高いブロックマッチングを実現可能な画像処理方法、画像処理装置及び画像処理プログラムを提供することを目的とする。
上記課題を解決するために、本発明の一の実施形態に係る画像処理方法は、第1画像の一部の画素を含む画像領域である第1ブロックに対して、当該第1ブロックに含まれる画素間で画素値の変化が大きいほど高いアクティビティの度合いを示すアクティビティ値を算出する第1算出ステップと、前記第1ブロックにおける前記画素値と、第2画像の一部の画素を含む画像領域である第2ブロックにおける前記画素値との差が小さいほど高い評価を示す第1評価値を算出する第2算出ステップと、前記第1ブロックにおける前記画素値の空間的な相対関係と、前記第2ブロックにおける前記画素値の空間的な相対関係との相関が高いほど高い評価を示す第2評価値を算出する第3算出ステップと、前記アクティビティ値が高いほど前記第1評価値の割合を大きくし、前記アクティビティ値が低いほど前記第1評価値の割合を小さくして、前記第1評価値及び前記第2評価値から、前記第1ブロックに対応する前記第2ブロックを探索するための第3評価値を算出する第4算出ステップとを含む。
画像処理装置の機能的構成を例示する図。 参照画像における参照ブロックを例示する図。 ISCを例示する図。 モデルとなる対象画像を例示する図。 モデルとなる参照画像を例示する図。 MADによる評価値の分布を示す図。 ISCによる評価値の分布を示す図。 対象画像を例示する図。 参照画像を例示する図。 MADによる評価値の分布を示す図。 ISCによる評価値の分布を示す図。 MADによる評価値の分布を示す図。 ISCによる評価値の分布を示す図。 信頼度wを求めるためのガウス関数を示す図。 信頼度wを求めるための線形関数を示す図。 信頼度wを求めるための増加関数の例を示す図。 対応ブロック探索処理の手順を示すフローチャート。 第3評価値の分布を示す図。 第3評価値の分布を示す図。
以下に添付図面を参照して、本実施形態に係る画像処理方法、画像処理装置及び画像処理プログラムを詳細に説明する。
本実施の形態に係る画像処理装置は、基準となる対象の画像(対象画像という)と参照画像との間でブロックマッチングを行うものであり、対象画像を構成する全部又は一部の画素を含む画像領域であるブロック(対象ブロックという)に対して、参照画像を構成する一部の画素を含む画像領域であるブロック(参照ブロックという)のうち当該対象ブロックと相関の高い参照ブロックを対応付ける。このような対応付けとしては、例えば、立体視用のステレオ画像において左目用のカメラで撮影された画像と右目用のカメラで撮影された画像との対応付けや、動画像において時刻tに対応する画像であるフレームと時刻「t−1」に対応する画像であるフレームとの対応付けや、任意の画像に含まれる物体と同じ物体を動画像中から探索する場合に当該物体に相当するブロック間の対応付け等がある。このような対応付けの評価値として差分絶対値平均(MAD:Mean Absolute Difference)がよく用いられる。しかし例えばステレオ画像の場合では、左目用のカメラ右目用のカメラとの特性差等によって左右の各画像を構成する画素の値である画素値がずれてしまうことがある。MADは、相関が高いとして対応付けられる複数のブロック間ではブロック内の画素値の平均が等しいという仮定が必要な評価値であり、画素値のずれ(画素値ズレという)が起こっている場合にMADを評価値として用いてしまうと、正しい対応付けを行うことができない恐れがある。画素値ズレとは即ち輝度のずれ(輝度ズレという)である。一方、画素値ズレにロバストな評価値として例えば増分符号相関(ISC:Increment Sign Correlation)が知られている。ISCはブロック内で隣接する画素間の空間的な相対関係に基づいた評価値であり、画素値の平均が等しいことを仮定しない。そのため画素値ズレに対してロバストである。しかし、画素値の平均を使うことができないため位置合わせの精度はMADに比べると低い。このため、本実施の形態においては、対象画像と参照画像との間で行うブロックマッチングにおいて、MADとISCとを組み合わせて用いることにより、精度のより高いブロックマッチングを実現させる。これを実現可能にするための詳細な構成について以下で説明する。
まず、本実施の形態に係る画像処理装置のハードウェア構成について説明する。本実施の形態の画像処理装置は、装置全体を制御するCPU(Central Processing Unit)等の制御部と、各種データや各種プログラムを記憶するROM(Read Only Memory)やRAM(Random Access Memory)等の主記憶部と、各種データや各種プログラムを記憶するHDD(Hard Disk Drive)やCD(Compact Disk)ドライブ装置等の補助記憶部と、これらを接続するバスとを備えており、通常のコンピュータを利用したハードウェア構成となっている。また、画像処理装置には、情報を表示する表示部と、ユーザの指示入力を受け付けるキーボードやマウス等の操作入力部と、外部装置の通信を制御する通信I/F(interface)とが有線又は無線により各々接続される。上述した対象画像や参照画像は、画素毎に画素値を示す画像データとして例えばHDD等の補助記憶部に記憶される。また、画像処理装置が、放送波を受信する受信部を備えるようにしても良く、当該放送波により搬送された画像データが対象画像や参照画像の画像データとして主記憶部や補助記憶部に記憶されるようにしても良い。
次に、このようなハードウェア構成における画像処理装置の機能的構成について図1を用いて説明する。画像処理装置は、アクティビティ値算出部11と、第1ブロック評価値算出部12と、第2ブロック評価値算出部13と、評価値合成部14と、最大評価探索部15とを有する。これらの各部は、画像処理装置のCPUが主記憶部や補助記憶部に記憶された各種プログラムを実行することにより実現される。
アクティビティ値算出部11は、対象ブロックに含まれる画素の画素値の変化(振幅)が大きいほど高いアクティビティの度合いを示すアクティビティ値を算出する。ここで、対象ブロックの水平方向の大きさ及び垂直方向の大きさをそれぞれM1,M2とし、参照ブロックは、図2に例示されるように、参照画像を複数個の矩形に分割したものであるとし、参照ブロックの水平方向のインデックス及び垂直方向のインデックスをそれぞれi,jとする。また、対象ブロック及び参照ブロックのそれぞれについて、各ブロック内の画素の相対的な位置を(x,y)で表すものとする。また、対象ブロックに含まれる位置(X,Y)における画素の画素値をIL(X,Y)と表し、参照ブロックに含まれる位置(X,Y)における画素の画素値をIR(X,Y)と表すものとする。アクティビティ値としては、例えば、対象ブロック内の画素値の標準偏差を用いる。この場合、アクティビティ値算出部11は、以下の式1により、アクティビティ値ACTを算出する。
また、アクティビティ値として、対象ブロック内の画素値の分散を用いても良い。また、アクティビティ値として、対象ブロック内の画素値の勾配の平均を用いても良い。画素値の勾配の平均を用いる場合、アクティビティ値算出部11は、以下の式2により、アクティビティ値ACTを算出する。
第1ブロック評価値算出部12は、対象ブロックに含まれる各画素の画素値と、参照ブロックに含まれる各画素の画素値との差が小さいほど高い評価を示す第1評価値を算出する。尚、参照ブロックは、対象ブロックと同一の形状及びサイズであるとする。第1評価値は、位置合わせの精度は高いが、画素値ズレに対して脆弱である。このような第1評価値としては、例えば、上述のMADがある。このとき、第1ブロック評価値算出部12は、以下の式3により、第1評価値としてMADを算出する。但し、「u=(ux,uy)T」(Tは転置を表す)は、後述の最大評価探索で探索の対象となるベクトルである。
また、第1評価値は、平均を取らない差分絶対値和(SAD:Sum of Absolute Difference)であっても良い。この場合、第1ブロック評価値算出部12は、以下の式4により、第1評価値としてSADを算出する。
また、第1評価値は、二乗誤差平均(MSD:Mean Squared Error)であっても良い。この場合、第1ブロック評価値算出部12は、以下の式5により、第1評価値としてMSDを算出する。
また、第1評価値は、平均を取らない二乗誤差和(SSD:Sum of Squared Difference)であっても良い。この場合、第1ブロック評価値算出部12は、以下の式6により、第1評価値としてSSDを算出する。
第2ブロック評価値算出部13は、対象ブロックに含まれる画素の画素値の空間的な相対関係と、参照ブロックに含まれる画素の画素値の空間的な相対関係との相関が高いほど高い評価を示す第2評価値を算出する。空間的な相対関係としては、例えば、隣接する画素間での画素値の大小関係を用いる。このような大小関係を用いた第2評価値としては、例えば、上述のISC(増分符号相関)がある。ISCは、図3に例示されるように、隣接する画素間での画素値の差分が正か0か負かを表す。このように、隣接する画素間での画素値の差分そのものではなく、その差分が正か0か負かという3値に変換することにより、画素値ズレのオフセットに左右されることなく、第2評価値を算出することができる。即ち、このような第2評価値を用いることにより、輝度ズレに対してロバスト性を担保することが可能になる。ISCを第2評価値として算出する具体的な方法は以下の通りである。第2ブロック評価値算出部13は、対象画像において、水平方向に隣接する画素間のisclx(x,y)及び垂直方向に隣接する画素間のiscly(x,y)を各々算出し、参照画像において、水平方向に隣接する画素間のiscRx(x,y)及び垂直方向に隣接する画素間のiscRy(x,y)を各々算出し、これらを用いて、以下の式7により、第2評価値としてISCを算出する。
また、第2評価値の算出には、画素値の勾配を用いても良い。この場合、第2ブロック評価値算出部13は、対象画像において、水平方向に隣接する画素間の勾配dxL(x,y)及び垂直方向に隣接する画素間の勾配dyL(x,y)を各々算出し、参照画像において、水平方向に隣接する画素間の勾配dxR(x,y)及び垂直方向に隣接する画素間の勾配dyR(x,y)を各々算出し、これらを用いて、以下の式8により、第2評価値として画素値の勾配の差DXYを算出する。
評価値合成部14は、アクティビティ値算出部11が算出したアクティビティ値が大きいほど、第1ブロック評価値算出部12が算出した第1評価値の割合を大きくし、当該アクティビティ値が小さいほど当該第1評価値の割合を小さくして、当該第1評価値と、第2ブロック評価値算出部13が算出した第2評価値とを合成することにより、第3評価値を算出する。
ここで、第3評価値の算出に用いる第1評価値の割合をアクティビティ値に応じて大小させる理由について説明する。画素値の差をベースとした第1評価値は、上述したように、画素値ズレ等のオフセットの変動に対して脆弱である。これは、例えば、第1評価値となるMADでは、相関が高いとして対応付けられる複数のブロック間で画素値の平均が等しいことを仮定していることが原因であり、画素値ズレ等によりオフセットが変動しているということは、当該複数のブロック間の画素値の平均が異なることを意味するからである。それに対して第2評価値では、ブロック内での画素値の空間的な相対関係をベースとしているために、当該複数のブロック間の画素値の平均が等しいことを仮定しなくて済む。そのため第2評価値は画素値ズレ等のオフセットの変動に対してロバストである。しかし逆に言えば、複数のブロック間で画素値の平均の差を評価することができないため、位置合わせの精度は第1評価値よりも低い。但しオフセットの変動が起こっていたとしても、その変動幅が、第1評価値としてのMADに比べて十分に小さければ、この値を用いたブロックマッチングも十分成功し得る。
ここで、問題を明らかにするために、対象画像及び参照画像の具体的なモデル例を挙げて説明する。図4は、モデルとなる対象画像を例示する図である。図5は、モデルとなる参照画像を例示する図である。このような対象画像について、位置(x,y)における画素の画素値は、以下の式9により表されるIL(x,y)とし、参照画像について、位置(x,y)における画素の画素値IR(x,y)は、以下の式10により表されるものとする。
尚、(d=5,d=5)は、対象画像と参照画像との間の位置ズレであり、「α=200」は形状分布のスケールであり、「β=0」は対象画像及び参照画像間の画素値ズレである。図6は、MADによる評価値の分布を示す図である。同図では、中心から(5,5)ずれた位置で評価値が最も高い評価を示していることが示されている。図7は、ISCによる評価値の分布を示す図である。同図では、中心からだいたい(5,5)ずれた位置で評価値が最も高い評価を示していることが示されているが、カーブはブロードに広がっており位置合わせの精度がMAD程良くないことが分かる。
次に、形状分布のスケールを「α=10」(形状の変化が小さい)とし、対象画像及び参照画像間の画素値ズレを「β=10」とした場合の対象画像及び参照画像の具体的なモデル例について説明する。図8は、この場合の対象画像を例示する図である。図9は、この場合の参照画像を例示する図である。図10は、この場合のMADによる評価値の分布を示す図である。同図では、最も高い評価を示す評価値によって、正しい位置ズレが検出できていないことが分かる。図11は、この場合のISCによる評価値の分布を示す図である。ISCでは、画素値ズレが発生していても、同図に示されるように、ロバストに位置ズレが検出できていることが分かる。この場合、MADに比べてISCの方が位置合わせの精度が高いことが分かる。
次に、形状分布のスケールを「α=200」(形状の変化が大きい)とし、対象画像及び参照画像間の画素値ズレを「β=10」とした場合の対象画像及び参照画像の具体的なモデル例について説明する。図12は、この場合のMADによる評価値の分布を示す図である。同図に示されるように、形状の変化が画素値ズレに対して十分に大きければ、MADによる評価値を用いて、正しい位置ズレを検出できることが分かる。図13は、この場合のISCによる評価値の分布を示す図である。
即ち、α/βが十分に大きければMADでも十分に正しい評価を示し得る。しかし一般にはα,β共に未知であるが、αはアクティビティ値ACTで代用できる。
上の例であれば、
α=10である場合、ACT=2.3
α=100である場合、ACT=21.3
α=200である場合、ACT=42.6
となるため、αとアクティビティ値ACTとは相関があることが分かる。βは完全に未知であるが、例えばある程度の値を仮定して設定すれば良い。ACT/β>T(T:任意の数)となるようなACTを基準としてαをアクティビティ値へ変換するためパラメータを設定すれば良い。以上のことから、ACT/βの値が小さいと、MAD等の第1評価値によって、正しい評価を得ることができない恐れがあるが、ACT/βの値が十分大きければ、第1評価値によって、十分に正しい評価を得ることができると言える。βを適当な値で固定したとすると、即ち、ACTの値に応じて第1評価値によって示される評価の信頼度が変わるということである。以上のことから、本実施の形態では、後述の最大評価探索に用いる第3評価値に算入させる第1評価値の割合をアクティビティ値に応じて大小させる。
そして、この第3評価値に算入させる第1評価値の割合として、アクティビティ値ACTを正規化して算出される信頼度を用いる。この信頼度の算出には、例えば、アクティビティ値ACTを変数として信頼度wを求めるための増加関数を用いる。増加関数としては、例えば、ガウス関数を用いる。具体的には、信頼度wは、以下の式11により、算出される。尚、ガウス関数の標準偏差σは、第1評価値が信頼できるACT/βに設定すれば良い。例えば、「σ=ACT/β>T」として良い。。図14は、アクティビティ値ACTを変数として信頼度wを求めるためのガウス関数を示す図である。
また、信頼度の算出には、線形関数を用いても良い。この場合、信頼度は、以下の式12により、算出される。ここで、a,bは直線の傾きと切片である。図15は、アクティビティ値ACTを変数として信頼度wを求めるための線形関数を示す図である。
この他、信頼度の算出には、図16に示されるような増加関数を用いても良い。
評価値合成部14は、このような信頼度を乗算した第1評価値と、第2評価値とを用いて、以下の式13により、第3評価値Eを算出する。ここで、「λ≧0」は第1評価値と第2評価値との相対的な重みである。
最大評価探索部15は、評価値合成部14が算出した第3評価値を用いて、最大評価探索を行なう。例えば、参照画像において、対象ブロックとの相関が高い参照ブロックが探索される範囲が、「-W」から「W」までの矩形領域とすると、参照ブロックの位置を示すインデックス(i,j)に対するベクトルu(i,j)を求める最大評価探索問題(ブロックマッチングアルゴリズム)は式14に表される。尚、第1評価値及び第2評価値共に、高い評価を示す場合に誤差が小さくなるものであり、最大評価探索は誤差最小化であるので、式14は最小化問題となる。数式記号1は、誤差関数Eを最小にするux,uyを見つけるということを意味する。
簡単には、最大評価探索部15は、i,j,x,yの組み合わせからなるパターンの全てについて最大評価探索を行なえば良い。また、ブロック内のベクトルはブロックの動きベクトルと同一とする。即ち、以下の式15が成立する。
次に、本実施の形態に係る画像処理装置の行う対応ブロック探索処理の手順について図17を用いて説明する。画像処理装置は、アクティビティ値算出部11の機能により、対象ブロックに対してアクティビティ値を算出する(ステップS1)。次に、画像処理装置は、参照画像において、対象ブロックとのブロックマッチングに用いる参照ブロックを選択する(ステップS2)。このときの選択対象の参照ブロックは、ブロックマッチングに用いる候補として予め定められた複数の参照ブロックのうち、ブロックマッチングにまだ用いられていないものであっても良いし、参照画像において、前回のステップS2で選択された参照ブロックを1つ以上の画素分水平方向及び垂直方向のうち少なくとも一方にずらしたものであっても良い。ここで、画像処理装置は、当該参照ブロックを選択することができなかった場合(ステップS3:NO)、ステップS8に進み、当該参照ブロックを選択できた場合(ステップS3:YES)、ステップS4,S5に進む。
ステップS4では、画像処理装置は、第1ブロック評価値算出部12の機能により、対象ブロックと、ステップS2で選択した参照ブロックとを用いて、第1評価値を算出する。また、ステップS5では、画像処理装置は、第2ブロック評価値算出部13の機能により、対象ブロックと、ステップS2で選択した参照ブロックとを用いて、第2評価値を算出する。そして、画像処理装置は、評価値合成部14の機能により、ステップS4で算出した第1評価値に対して、ステップS1で算出されたアクティビティ値に基づく信頼度を乗算して(ステップS6)、信頼度を乗算した第1評価値と、ステップS5で算出した第2評価値とを用いて、第3評価値を算出する(ステップS7)。画像処理装置は、この第3評価値を例えばRAM等の主記憶部に記憶させる。その後ステップS2に戻り、対象ブロックとのマッチングに用いる選択対象の参照ブロックがなくなるまで、画像処理装置は、ステップS4〜S7の処理を繰り返す。そして、当該選択対象の参照ブロックがなくなると(ステップS3:NO)、ステップS8では、画像処理装置は、最大評価探索部15の機能により、ステップS7で複数の参照ブロックに対して各々算出して主記憶部に記憶させた第3評価値を用いて、最大評価値探索を行なう。
ここで、第3評価値の分布について説明する。図18は、形状分布のスケールを「α=200」とし、対象画像及び参照画像間の画素値ズレを「β=10」とした場合に算出された第3評価値の分布を示す図である。図19は、形状分布のスケールを「α=10」とし、対象画像及び参照画像間の画素値ズレを「β=10」とした場合に算出された第3評価値の分布を示す図である。これらの図の例では、αが大きい場合であっても小さい場合であっても、位置ズレを正しく検出できており、位置合わせの精度が高いことが分かる。
このような第3評価値が用いられて最大評価値探索が行なわれた結果、例えば式14の解として得られたu(i,j)のインデックスi,jに対応する参照ブロックが、対象ブロックと相関が高いブロックであるとして探索され、対象ブロックに対応付けられることになる。
このように、本実施の形態によれば、位置合わせの精度と、輝度ズレとの双方に対するロバスト性を担保することができ、精度のより高いブロックマッチングを実現することができる。
[変形例]
尚、本発明は上述の実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上述の実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。また、以下に例示するような種々の変形が可能である。
上述した実施の形態において、画像処理装置で実行される各種プログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成しても良い。また、当該各種プログラムを、インストール可能な形式又は実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)、CD−R、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録してコンピュータプログラムプロダクトとして提供するように構成しても良い。
上述した実施の形態において、対象ブロック及び参照ブロックの形状は、その形状及びサイズが同一であれば、上述した矩形に限らない。
上述した実施の形態において、第2評価値によってその相関に対して評価が示される、各ブロックに含まれる画素の画素値の空間的な相対関係としては、例えば、水平方向に並ぶ画素間での画素値の相対関係及び垂直方向に並ぶ画素間での画素値の相対関係のうち少なくとも一方であっても良い。
上述した実施の形態において、第1評価値及び第2評価値は、上述の例に限らない。また、第3評価値を算出する方法は、上述の例に限らない。また、最大評価探索の方法は、上述の例に限らない。
11 アクティビティ値算出部
12 第1ブロック評価値算出部
13 第2ブロック評価値算出部
14 評価値合成部
15 最大評価探索部

Claims (12)

  1. 第1画像の一部の画素を含む画像領域である第1ブロックに対して、当該第1ブロックに含まれる画素間で画素値の変化が大きいほど高いアクティビティの度合いを示すアクティビティ値を算出する第1算出ステップと、
    前記第1ブロックにおける前記画素値と、第2画像の一部の画素を含む画像領域である第2ブロックにおける前記画素値との差が小さいほど高い評価を示す第1評価値を算出する第2算出ステップと、
    前記第1ブロックにおける前記画素値の空間的な相対関係と、前記第2ブロックにおける前記画素値の空間的な相対関係との相関が高いほど高い評価を示す第2評価値を算出する第3算出ステップと、
    前記アクティビティ値が高いほど前記第1評価値の割合を大きくし、前記アクティビティ値が低いほど前記第1評価値の割合を小さくして、前記第1評価値及び前記第2評価値から、前記第1ブロックに対応する前記第2ブロックを探索するための第3評価値を算出する第4算出ステップと
    を含む画像処理方法。
  2. 前記第1算出ステップでは、前記第1ブロックにおける前記画素値の標準偏差が大きいほど高い前記度合いを示す前記アクティビティ値を算出する、
    請求項1に記載の画像処理方法。
  3. 前記第1算出ステップでは、前記第1ブロックにおいて隣接する画素の前記画素値の平均差分絶対値が大きいほど高い前記度合いを示す前記アクティビティ値を算出する、
    請求項1に記載の画像処理方法。
  4. 前記第4算出ステップでは、前記アクティビティ値を変数とした増加関数に応じて前記割合を大小させて、前記第3評価値を算出する、
    請求項1乃至3のいずれか一項に記載の画像処理方法。
  5. 前記第3算出ステップでは、前記第1ブロックにおいて隣接する画素間の前記画素値の相対関係と、前記第2ブロックにおいて隣接する画素間の前記画素値の相対関係との相関が高いほど高い評価を示す前記第2評価値を算出する、
    請求項1乃至4のいずれか一項に記載の画像処理方法。
  6. 前記第3算出ステップでは、前記第1ブロックにおいて水平方向に並ぶ2つ以上の画素間の前記画素値の相対関係と、前記第2ブロックにおいて水平方向に並ぶ2つ以上の画素間の前記画素値の相対関係との相関が高いほど高い評価を示す前記第2評価値を算出する、請求項1乃至4のいずれか一項に記載の画像処理方法。
  7. 前記第3算出ステップでは、前記第1ブロックにおいて垂直方向に並ぶ2つ以上の画素間の前記画素値の相対関係と、前記第2ブロックにおいて垂直方向に並ぶ2つ以上の画素間の前記画素値の相対関係との相関が高いほど高い評価を示す前記第2評価値を算出する、請求項1乃至4のいずれか一項に記載の画像処理方法。
  8. 前記第2算出ステップでは、前記第1ブロックにおける前記画素値及び前記第2ブロックにおける前記画素値を用いて、差分絶対値平均、差分絶対値和、二乗誤差平均及び二乗誤差和のうち少なくとも1つである前記第1評価値を算出する、請求項1乃至7のいずれか一項に記載の画像処理方法。
  9. 前記第3算出ステップでは、前記第1ブロックにおける前記画素値及び前記第2ブロックにおける前記画素値を用いて、増分符号相関及び前記画素値の勾配の差のうち少なくとも1つである前記第2評価値を算出する、請求項1乃至8のいずれか一項に記載の画像処理方法。
  10. 前記第3評価値が最大となる前記第2ブロックを、前記第1ブロックに対応するものとして探索する探索ステップをさらに含む、請求項1乃至9のいずれか一項に記載の画像処理方法。
  11. 第1画像の一部の画素を含む画像領域である第1ブロックに対して、当該第1ブロックに含まれる画素間で画素値の変化が大きいほど高いアクティビティの度合いを示すアクティビティ値を算出する第1算出部と、
    前記第1ブロックにおける前記画素値と、第2画像の一部の画像領域である第2ブロックにおける前記画素値との差が小さいほど高い評価を示す第1評価値を算出する第2算出部と、
    前記第1ブロックにおける前記画素値の空間的な相対関係と、前記第2ブロックにおける前記画素値の空間的な相対関係との相関が高いほど高い評価を示す第2評価値を算出する第3算出部と、
    前記アクティビティ値が高いほど前記第1評価値の割合を大きくし、前記アクティビティ値がいほど前記第1評価値の割合を小さくして、前記第1評価値及び前記第2評価値から、前記第1ブロックに対応する前記第2ブロックを探索するための第3評価値を算出する第4算出部と
    を備える画像処理装置。
  12. コンピュータを、
    第1画像の一部の画素を含む画像領域である第1ブロックに対して、当該第1ブロックに含まれる画素間で画素値の変化が大きいほど高いアクティビティの度合いを示すアクティビティ値を算出する第1算出手段と、
    前記第1ブロックにおける前記画素値と、第2画像の一部の画素を含む画像領域である第2ブロックにおける前記画素値との差が小さいほど高い評価を示す第1評価値を算出する第2算出手段と、
    前記第1ブロックにおける前記画素値の空間的な相対関係と、前記第2ブロックにおける前記画素値の空間的な相対関係との相関が高いほど高い評価を示す第2評価値を算出する第3算出手段と、
    前記アクティビティ値が高いほど前記第1評価値の割合を大きくし、前記アクティビティ値がいほど前記第1評価値の割合を小さくして、前記第1評価値及び前記第2評価値から、前記第1ブロックに対応する前記第2ブロックを探索するための第3評価値を算出する第4算出手段と
    して機能させるための画像処理プログラム。
JP2010259440A 2010-11-19 2010-11-19 画像処理方法、画像処理装置及び画像処理プログラム Active JP5198543B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2010259440A JP5198543B2 (ja) 2010-11-19 2010-11-19 画像処理方法、画像処理装置及び画像処理プログラム
US13/049,620 US8682060B2 (en) 2010-11-19 2011-03-16 Image processing method, apparatus, and computer program product
TW100131465A TWI462056B (zh) 2010-11-19 2011-09-01 影像處理方法,裝置及電腦程式產品
CN201110266340.5A CN102479384B (zh) 2010-11-19 2011-09-09 图像处理方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010259440A JP5198543B2 (ja) 2010-11-19 2010-11-19 画像処理方法、画像処理装置及び画像処理プログラム

Publications (2)

Publication Number Publication Date
JP2012113362A JP2012113362A (ja) 2012-06-14
JP5198543B2 true JP5198543B2 (ja) 2013-05-15

Family

ID=46064440

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010259440A Active JP5198543B2 (ja) 2010-11-19 2010-11-19 画像処理方法、画像処理装置及び画像処理プログラム

Country Status (4)

Country Link
US (1) US8682060B2 (ja)
JP (1) JP5198543B2 (ja)
CN (1) CN102479384B (ja)
TW (1) TWI462056B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7153578B2 (ja) 2019-01-29 2022-10-14 信越半導体株式会社 シリコンウェーハの製造方法

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014007658A (ja) * 2012-06-26 2014-01-16 Jvc Kenwood Corp 動きベクトル導出装置、方法およびプログラム
US9141851B2 (en) * 2013-06-28 2015-09-22 Qualcomm Incorporated Deformable expression detector
JP6527579B2 (ja) * 2014-07-30 2019-06-05 エスケー テックス カンパニー、リミテッド クラウドストリーミングサービスシステム、スチールイメージ基盤クラウドストリーミングサービス方法及びそのための装置
KR102199270B1 (ko) * 2014-07-30 2021-01-07 에스케이플래닛 주식회사 클라우드 스트리밍 서비스 시스템, 스틸 이미지 기반 클라우드 스트리밍 서비스 방법 및 이를 위한 장치
JP6052261B2 (ja) * 2014-10-01 2016-12-27 トヨタ自動車株式会社 車両用衝突検出装置及び車両用衝突検出方法

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6126191A (ja) * 1984-07-17 1986-02-05 Ricoh Co Ltd 濃淡画像マツチング方式
US5768404A (en) * 1994-04-13 1998-06-16 Matsushita Electric Industrial Co., Ltd. Motion and disparity estimation method, image synthesis method, and apparatus for implementing same methods
JP3898606B2 (ja) 2002-09-12 2007-03-28 株式会社東芝 動きベクトル検出方法及び装置並びにフレーム補間画像作成方法及び装置
JP4271115B2 (ja) 2004-09-29 2009-06-03 株式会社東芝 画像マッチング装置、画像マッチング方法および画像マッチングプログラム
CN1284378C (zh) * 2004-10-13 2006-11-08 西安电子科技大学 基于数学模型预测的运动估计快速半像素级搜索方法
JP2007275346A (ja) * 2006-04-07 2007-10-25 Toshiba Corp 放射線画像処理装置、放射線画像処理方法及び放射線画像処理プログラム
JP4702312B2 (ja) * 2007-03-22 2011-06-15 カシオ計算機株式会社 相違度評価装置、相違度評価方法及びプログラム
JP5045320B2 (ja) * 2007-09-05 2012-10-10 ソニー株式会社 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
JP2009266169A (ja) * 2008-04-30 2009-11-12 Sony Corp 情報処理装置及び方法、並びにプログラム
BRPI0919870A2 (pt) * 2008-10-27 2015-12-15 Nippon Telegraph & Telephone método para produção automática de procedimento de geração de valor de pixel predito, método de codificação de imagem, método de decodificação de imagem, aparelho para este fim programas para este fim e mídia de armazenamento que armazena os programas

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7153578B2 (ja) 2019-01-29 2022-10-14 信越半導体株式会社 シリコンウェーハの製造方法

Also Published As

Publication number Publication date
TWI462056B (zh) 2014-11-21
TW201225007A (en) 2012-06-16
CN102479384A (zh) 2012-05-30
CN102479384B (zh) 2014-09-17
US8682060B2 (en) 2014-03-25
JP2012113362A (ja) 2012-06-14
US20120128256A1 (en) 2012-05-24

Similar Documents

Publication Publication Date Title
JP5198543B2 (ja) 画像処理方法、画像処理装置及び画像処理プログラム
JP4991101B2 (ja) 一時的動きベクトルフィルタリング
JP6075295B2 (ja) 辞書作成装置、画像処理装置、画像処理システム、辞書作成方法、画像処理方法及びプログラム
JP2005210697A (ja) 動き補償フレームレート変換
JP4564564B2 (ja) 動画像再生装置、動画像再生方法および動画像再生プログラム
JP2013031163A (ja) 超解像処理装置及び超解像処理方法
US9317904B2 (en) Image processing system and image processing method
JP2011141710A (ja) 奥行推定装置、奥行推定方法および奥行推定プログラム
JP6121302B2 (ja) 姿勢パラメータ推定装置、姿勢パラメータ推定システム、姿勢パラメータ推定方法、およびプログラム
JP4385077B1 (ja) 動きベクトル検出装置および画像処理装置
WO2011074121A1 (ja) 動きベクトル検出装置及び方法
US10846826B2 (en) Image processing device and image processing method
US9106926B1 (en) Using double confirmation of motion vectors to determine occluded regions in images
KR20080066486A (ko) 움직임 벡터 추정 장치 및 방법
US9894367B2 (en) Multimedia device and motion estimation method thereof
JP2009017214A (ja) フリッカ検出装置及びフリッカ検出方法
JP2006215657A (ja) 動きベクトル検出方法、動きベクトル検出装置、動きベクトル検出プログラム及びプログラム記録媒体
JP5400655B2 (ja) 画像処理装置、画像処理方法、画像処理プログラム、及び、電子機器
JP2011171991A (ja) 画像処理装置、電子機器、画像処理方法、および、画像処理プログラム
JP5975791B2 (ja) 画像処理装置及び方法、並びに画像表示装置及び方法
JP4915018B2 (ja) 映像処理装置、映像処理方法、プログラム、記録媒体、携帯端末、及び、受信装置
JP6109699B2 (ja) 姿勢パラメータ推定装置、姿勢パラメータ推定方法、およびプログラム
US9591220B2 (en) Selection apparatus, selection method, and storage medium
JP5145887B2 (ja) フレーム補間装置および方法
JP2014192586A (ja) 画像処理装置、画像処理方法及び画像処理プログラム

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120921

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121002

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121017

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130115

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130206

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160215

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 5198543

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160215

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313115

Free format text: JAPANESE INTERMEDIATE CODE: R313121

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250