JP5435242B2 - 画像処理方法、画像処理装置及び画像処理プログラム - Google Patents

画像処理方法、画像処理装置及び画像処理プログラム Download PDF

Info

Publication number
JP5435242B2
JP5435242B2 JP2010503908A JP2010503908A JP5435242B2 JP 5435242 B2 JP5435242 B2 JP 5435242B2 JP 2010503908 A JP2010503908 A JP 2010503908A JP 2010503908 A JP2010503908 A JP 2010503908A JP 5435242 B2 JP5435242 B2 JP 5435242B2
Authority
JP
Japan
Prior art keywords
image
reliability
motion estimation
value
line
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010503908A
Other languages
English (en)
Other versions
JPWO2009116586A1 (ja
Inventor
真人 戸田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2010503908A priority Critical patent/JP5435242B2/ja
Publication of JPWO2009116586A1 publication Critical patent/JPWO2009116586A1/ja
Application granted granted Critical
Publication of JP5435242B2 publication Critical patent/JP5435242B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0117Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving conversion of the spatial resolution of the incoming video signal
    • H04N7/012Conversion between an interlaced and a progressive signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0135Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
    • H04N7/014Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes involving the use of motion vectors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0135Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
    • H04N7/0142Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes the interpolation being edge adaptive

Description

本発明は、インターレース−プログレッシブ変換によって、インターレース画像からプログレッシブ画像を生成する画像処理方法、画像処理装置および画像処理プログラムに関する。
TV放送で配信される映像やビデオテープやDVDなどの記録メディアに保存されている映像は、プログレッシブ映像から縦方向に一ライン毎に間引かれた偶数フィールド画像と奇数フィールド画像が交互に配置されたインターレース映像であることが多い。時刻tのおける原プログレッシブ画像F(t)とインターレース画像Fi(t)との関係は、式(1)で表すことができる。
Figure 0005435242
ここで、F(x,y,t)およびFi(x,y,t)は、座標(x,y)におけるF(t)およびFi(t)の画素値である。また、y mod xは、yをxで除算したときの剰余を表す。
一方で、液晶ディスプレイやプラズマディスプレイといった映像表示装置では、プログレッシブ映像が表示される。これらの映像表示装置でインターレース映像を表示するためには、式(1)のインターレース画像における間引かれたラインのNull画素を補間によって復元し、プログレッシブ画像を生成する必要がある。この補間処理は、一般にインターレース−プログレッシブ変換(IP変換・De-interlacing)と呼ばれる。以下、補間によって復元するNull画素を補間画素と呼ぶことにする。
IP変換を行う一方法として、動き補償型IP変換がある。動き補償型IP変換方法の一つに、インターレース画像から時刻tにおけるプログレッシブ画像Fp(t)を復元する際に、同時刻におけるインターレース画像Fi(t)内の各補間画素の周辺の画素値をもとに算出される第1のプログレッシブ画像Fp1(t)と、各補間画素と他時刻のインターレース画像内の対応画素とを対応付ける動きベクトルを利用し他時刻のインターレース画像内の対応画素の画素値をもとに算出される第2のプログレッシブ画像Fp2(t)とを合成することにより、高性能な補間を実行する方法がある。以下、同時刻におけるインターレース画像から第1のプログレッシブ画像を算出する方法を第1のプログレッシブ画像算出方法、動きベクトルを利用し他時刻の画素値をもとに第2のプログレッシブ画像を算出する方法を第2のプログレッシブ画像算出方法と呼ぶことにする。
第1のプログレッシブ画像算出方法として、式(2)で示される単純線形補間方法や式(3)で示されるエッジ適応型補間方法(非特許文献1、特許文献1)などがある。ただし、Fp1(x,y,t)は、時刻tにおける第1のプログレッシブ画像Fp1(t)における座標(x,y)の補間画素の画素値であり、式(3)におけるmは、あらかじめ定められた範囲-φ≦p≦φの中で式(4)を最小にするpである。以下、この範囲-φ≦p≦φを探索範囲φと呼ぶことにする。また、非特許文献2では、周辺画素の輝度変換をもとに、それぞれの補間画素におけるエッジ適応型補間方法の探索範囲内の上下ラインの輝度変化を、図8に示すように、(1)片方が平坦、(2)同一方向に単調増加・減少、(3)同一方向に凸、(4)片方が増加減少でもう片方が凸、(5)その他の5つのパターンに分類し、範囲内の上下ラインの輝度変化のパターンが(1)から(4)のパターンのいずれかとなるような最大範囲が探索範囲となるように探索範囲φを適応的に変化させる。以下、分類された探索範囲内の上下ラインの輝度変化のパターンを上下ラインの輝度変化パターンと呼ぶことにする。
Figure 0005435242
Figure 0005435242
Figure 0005435242
第2のプログレッシブ画像算出方法は、各補間画素と他時刻のインターレース画像内の対応画素とを対応付ける動きベクトルを利用し他時刻のインターレース画像内の対応画素の画素値をもとに、第2のプログレッシブ画像を算出する。
動きベクトルを求める方法に、ブロックマッチング法や勾配法などがある。時刻tの座標(x,y)の補間画素における動きベクトルが(dx,dy)である時、同補間画素における第2のプログレッシブ画像の画素値Fp2(x,y,t)は、式(5)のように算出される。また、横方向の動きdx’を検出し、式(6)のように補間画素(x,y)の画素値を算出する方法もある。
Figure 0005435242
Figure 0005435242
動きベクトルを用いて算出される第2のプログレッシブ画像は、動きベクトルが正確に求めることができた場合、補間精度の高いプログレッシブ画像を生成する。
しかし、一般に、インターレース−プログレッシブ変換において、全ての補間画素について動きベクトルを正確に求めることは困難であるとされている。例えば、前景のオブジェクトにより遮蔽されていた背景のオブジェクトが前景のオブジェクトの動きにより出現するとき、出現時における背景のオブジェクトの動きは、出現前の前景オブジェクトに遮蔽されている背景オブジェクトの位置を知ることができないため、動きベクトルを正確に求めることができない。そこで、動きベクトル推定の信頼度を算出し、動きベクトル推定の信頼度をもとにして、動きベクトル推定の信頼度が高い場合には第2のプログレッシブ画像の合成比率が高くなるように、逆に動きベクトル推定の信頼度が低い場合には第2のプログレッシブ画像の合成比率が小さくなるように、第1のプログレッシブ画像と第2のプログレッシブ画像とを合成している。以下、動きベクトル推定の信頼度を動き推定信頼度と呼ぶことにする。
例えば、特許文献2では、ブロックマッチング法によって動きベクトルを求める際に利用した注目補間画素と対応画素との類似度を表す指標の一つである差分絶対値和(SAD, Sum of Absolute Differences)をもとに、動きベクトル推定の信頼度を算出している。特許文献2においては、差分絶対値和が小さいほど動きベクトル推定の信頼度が高く、差分絶対値和が大きいほど動きベクトル推定の信頼度が低い。
図10を用いて、本発明に関連する動き補償型IP変換を行う画像処理装置について説明する。図10は、本発明に関連する動き補償型IP変換を行う画像処理装置の構成を示すブロック図である。図10を参照すると、動き補償型IP変換を行う画像処理装置1は、第1のプログレッシブ画像算出手段11と第2のプログレッシブ画像算出手段12とプログレッシブ画像合成手段13とを含み、時刻t-1と時刻tおよび時刻t+1のインターレース画像Fi(t-1)とFi(t)およびFi(t+1)とを入力とし、時刻tにおけるプログレッシブ画像Fp(t)を出力する。
第1のプログレッシブ画像算出手段11は、前記第1のプログレッシブ画像算出方法を用いて第1のプログレッシブ画像を算出する。
第2のプログレッシブ画像算出手段12は、前記第2のプログレッシブ画像算出方法を用いて第2のプログレッシブ画像を算出し、第2のプログレッシブ画像と差分絶対値和を出力する。
プログレッシブ画像合成手段13は、前記第1のプログレッシブ画像と前記第2のプログレッシブ画像とを、前記差分絶対値和から算出される動き推定信頼度をもとに合成する。
特開平4−355581号公報 特開2006−174123号公報 "Deinterlacing-an overview", De Haan, G., Bellers, E.B, Proceedings of the IEEE, Volume 86, Issue 9, Sept. 1998 Page(s):1839 - 1857 "周辺領域の輝度変化に基づくエッジ適応型インターレース-プログレッシブ変換法", 戸田, 塚田, 井上, 第6回情報科学技術フォーラム, I - 034, 2007
本発明に関連する手法では、差分絶対値和を用いて動きベクトル推定の信頼度を計算しているが、差分絶対値和の情報だけでは動き推定の信頼度を正しく求めることができなかった。
例えば、図11の上段左側および下段左側の時刻tのインターレース画像内の四角で囲われた領域の動き推定信頼度を求める場合を考える。なお、図11では、実際はインターレース画像であるが、本発明に関連する手法の問題点を分かりやすくするために、プログレッシブ画像として示している。図11の上段および下段で示されている動きベクトルでは、どちらの場合においても、差分絶対値和が0となり、その結果動きベクトル推定の信頼度が最大となる。しかし、上段の図と下段の図とを比較すると、上段の図では類似する領域が一つしか存在しないが、下段の図では類似する領域が複数存在する。一般に、動きベクトル推定において、類似する領域が複数存在する場合、そのうちのどの領域が正しい対応関係にあるかを判別するのは困難であるとされている。そのため、類似する領域が多いほど動きベクトル推定の信頼度が低くなることが望ましい。
しかし、差分絶対値和に基づく関連する手法においては、類似する領域が複数ある場合にも同一の値を出力する。そのため、関連する手法では、間違った動きベクトルであっても高い信頼度を持つ動きベクトルとして処理し、その結果、低品質なプログレッシブ画像を出力してしまう場合があった。
このように、算出される動き推定信頼度に問題があるため、高品質なプログレッシブ画像を出力する画像処理装置を提供することができていなかった。
そこで、本発明は上記課題に鑑みて発明されたものであって、その目的は、複数のインターレース画像から高品質なプログレッシブ画像を生成する画像処理方法、装置およびプログラムを提供することにある。
上記課題を解決する本発明は、ある時刻のインターレース画像から生成された第1のプログレッシブ画像と、前記時刻と異なる時刻の複数のインターレース画像から生成された第2のプログレッシブ画像とを合成する際に用いる合成比率を、前記第2のプログレッシブ画像を生成する際の補間する画素の値の算出に用いた前時刻インターレース画像内の画素と後時刻インターレース画像内の画素との差分絶対値から決定される第1の動き推定信頼度と、前記補間する画素の値を算出するために用いた前後時刻のインターレース画像の領域の広さから決定される第2の動き推定信頼度と、前記領域内における前時刻のインターレース画像のラインの輝度変化と後時刻のインターレース画像のラインの輝度変化との組み合わせから決定される第3の動き推定信頼度とを統合することで決定される動き推定信頼度に基づいて計算することを特徴とする画像処理方法である。
上記課題を解決する本発明は、ある時刻のインターレース画像から生成された第1のプログレッシブ画像と、前記時刻と異なる時刻の複数のインターレース画像から生成された第2のプログレッシブ画像とを合成する際に用いる合成比率を、前記第2のプログレッシブ画像を生成する際の補間する画素の値を算出するために用いた異なる時刻の複数のインターレース画像の領域の広さから決定される動き推定信頼度に基づいて計算することを特徴とする画像処理方法である。
上記課題を解決する本発明は、ある時刻のインターレース画像から生成された第1のプログレッシブ画像と、前記時刻と異なる時刻の複数のインターレース画像から生成された第2のプログレッシブ画像とを合成する際に用いる合成比率を、前記領域内における前時刻のインターレース画像のラインの輝度変化と後時刻のインターレース画像のラインの輝度変化とのいずれかから決定される動き推定信頼度に基づいて計算することを特徴とする画像処理方法である。
上記課題を解決する本発明は、ある時刻のインターレース画像から生成された第1のプログレッシブ画像と、前記時刻と異なる時刻の複数のインターレース画像から生成された第2のプログレッシブ画像とを合成する際に用いる合成比率を、前記第2のプログレッシブ画像を生成する際の補間する画素の値の算出に用いた前時刻インターレース画像内の画素と後時刻インターレース画像内の画素との差分絶対値から決定される第1の動き推定信頼度と、前記補間する画素の値を算出するために用いた前後時刻のインターレース画像の領域の広さから決定される第2の動き推定信頼度と、前記領域内における前時刻のインターレース画像のラインの輝度変化と後時刻のインターレース画像のラインの輝度変化との組み合わせから決定される第3の動き推定信頼度とを統合することで決定される動き推定信頼度に基づいて計算し、前記合成比率に基づいて、第1のプログレッシブ画像と前記第2のプログレッシブ画像とを合成する画像合成手段を有することを特徴とする画像処理装置である。
上記課題を解決する本発明は、ある時刻のインターレース画像から生成された第1のプログレッシブ画像と、前記時刻と異なる時刻の複数のインターレース画像から生成された第2のプログレッシブ画像とを合成する際に用いる合成比率を、前記第2のプログレッシブ画像を生成する際の補間する画素の値を算出するために用いた異なる時刻の複数のインターレース画像の領域の広さから決定される動き推定信頼度に基づいて計算し、前記合成比率に基づいて、第1のプログレッシブ画像と前記第2のプログレッシブ画像とを合成する画像合成手段を有することを特徴とする画像処理装置である。
上記課題を解決する本発明は、ある時刻のインターレース画像から生成された第1のプログレッシブ画像と、前記時刻と異なる時刻の複数のインターレース画像から生成された第2のプログレッシブ画像とを合成する際に用いる合成比率を、前記領域内における前時刻のインターレース画像のラインの輝度変化と後時刻のインターレース画像のラインの輝度変化とのいずれかから決定される動き推定信頼度に基づいて計算し、前記合成比率に基づいて、第1のプログレッシブ画像と前記第2のプログレッシブ画像とを合成する画像合成手段を有することを特徴とする画像処理装置である。
上記課題を解決する本発明は、ある時刻のインターレース画像から生成された第1のプログレッシブ画像と、前記時刻と異なる時刻の複数のインターレース画像から生成された第2のプログレッシブ画像とを合成する際に用いる合成比率を、前記第2のプログレッシブ画像を生成する際の補間する画素の値の算出に用いた前時刻インターレース画像内の画素と後時刻インターレース画像内の画素との差分絶対値から決定される第1の動き推定信頼度と、前記補間する画素の値を算出するために用いた前後時刻のインターレース画像の領域の広さから決定される第2の動き推定信頼度と、前記領域内における前時刻のインターレース画像のラインの輝度変化と後時刻のインターレース画像のラインの輝度変化との組み合わせから決定される第3の動き推定信頼度とを統合することで決定される動き推定信頼度に基づいて計算する合成比率計算処理を情報処理装置に実行させることを特徴とするプログラムである。
上記課題を解決する本発明は、ある時刻のインターレース画像から生成された第1のプログレッシブ画像と、前記時刻と異なる時刻の複数のインターレース画像から生成された第2のプログレッシブ画像とを合成する際に用いる合成比率を、前記第2のプログレッシブ画像を生成する際の補間する画素の値を算出するために用いた異なる時刻の複数のインターレース画像の領域の広さから決定される動き推定信頼度に基づいて計算する合成比率計算処理を情報処理装置に実行させることを特徴とするプログラムである。
上記課題を解決する本発明は、ある時刻のインターレース画像から生成された第1のプログレッシブ画像と、前記時刻と異なる時刻の複数のインターレース画像から生成された第2のプログレッシブ画像とを合成する際に用いる合成比率を、前記領域内における前時刻のインターレース画像のラインの輝度変化と後時刻のインターレース画像のラインの輝度変化とのいずれかから決定される動き推定信頼度に基づいて計算する合成比率計算処理を情報処理装置に実行させることを特徴とするプログラムである。
本発明によれば、複数のインターレース画像から高品質なプログレッシブ画像を生成することができる。
本発明の実施するための最良の形態の構成を示すブロック図である。 第1の発明を実施するための最良の形態の構成を示すブロック図である。 第1の発明を実施するための最良の形態におけるプログレッシブ画像合成手段の構成を示すブロック図である。 第1の発明を実施するための最良の形態の動作を示す流れ図である。 第2の発明を実施するための最良の形態の構成を示すブロック図である。 第2の発明を実施するための最良の形態におけるプログレッシブ画像合成手段の構成を示すブロック図である。 第2の発明を実施するための最良の形態の動作を示す流れ図である。 上下ラインの輝度変化パターンを示す説明図である。 合成重みを求めるためのグラフである。 関連技術の構成を示すブロック図である。 関連技術の問題点を説明するための補足図である。
符号の説明
A プログレッシブ画像合成手段
1 画像処理装置
11 第1のプログレッシブ画像算出手段
12 第2のプログレッシブ画像算出手段
13 プログレッシブ画像合成手段
2 本発明による画像処理装置
22 第2のプログレッシブ画像算出手段
23 プログレッシブ画像合成手段
231 第1の動き推定信頼度算出手段
232 第2の動き推定信頼度算出手段
233 第3の動き推定信頼度算出手段
234 動き推定信頼度統合手段
235 合成手段
3 本発明による画像処理装置
31 第1のプログレッシブ画像算出手段
33 プログレッシブ画像合成手段
331 第1の動き推定信頼度算出手段
332 第2の動き推定信頼度算出手段
333 第3の動き推定信頼度算出手段
334 動き推定信頼度統合手段
335 合成手段
336 第1の補間信頼度算出手段
337 第2の補間信頼度算出手段
338 第3の補間信頼度算出手段
339 補間信頼度統合手段
本実施の形態を説明する。本実施の形態は、図1に示す如く、ある時刻のインターレース画像から生成された第1のプログレッシブ画像と、前記時刻と異なる時刻の複数のインターレース画像から生成された第2のプログレッシブ画像とを合成するプログレッシブ画像合成手段Aを備える。
プログレッシブ画像合成手段Aには、第1のプログレッシブ画像と、第2のプログレッシブ画像とが入力される。
また、プログレッシブ画像合成手段Aには、第2のプログレッシブ画像を生成する際の補間する画素の値の算出に用いた前時刻インターレース画像内の画素と後時刻インターレース画像内の画素との差分絶対値から決定される第1の動き推定信頼度が入力される。
また、プログレッシブ画像合成手段Aには、前記補間する画素の値を算出するために用いた前後時刻のインターレース画像の領域の広さから決定される第2の動き推定信頼度が入力される。
また、プログレッシブ画像合成手段Aには、前記領域内における前時刻のインターレース画像のラインの輝度変化と後時刻のインターレース画像のラインの輝度変化との組み合わせから決定される第3の動き推定信頼度にが入力される。
プログレッシブ画像合成手段Aは、第1のプログレッシブ画像と、第2のプログレッシブ画像とを合成する際に用いる合成比率を、第1の動き推定信頼度と第2の動き推定信頼度と第3の動き推定信頼度とを統合することで決定される動き推定信頼度に基づいて計算する。そして、その合成比率に基づいて、第1のプログレッシブ画像と前記第2のプログレッシブ画像とを合成する。
以下、詳細に実施の形態を説明する。
<第1の実施の形態>
次に、本発明を実施するための最良の形態について図面を参照して詳細に説明する。
図2は、本発明による第1の実施の形態である画像処理装置2の構成を示すブロック図である。画像処理装置2は、第1のプログレッシブ画像算出手段11と第2のプログレッシブ画像算出手段22とプログレッシブ画像合成手段23とから構成され、上述した画像処理装置1の構成と比較すると、第2のプログレッシブ画像算出手段22とプログレッシブ画像合成手段23において異なる。以下、第2のプログレッシブ画像算出手段22とプログレッシブ画像合成手段23との動作の詳細を説明する。
第2のプログレッシブ画像算出手段22は、時刻t-1、時刻t、時刻t+1のインターレース画像を入力とし、時刻t、座標(x,y)の補間画素の画素値Fp2(x,y,t)を、式(7)を用いて算出し、第2のプログレッシブ画像を算出する。
Figure 0005435242
ここで、式(7)におけるnは、範囲-ρ≦q≦ρの中で式(8)を最小にするqである。以下、この範囲-ρ≦q≦ρを動き推定の探索範囲ρと呼ぶことにする。
また、第2のプログレッシブ画像算出手段22では、第1のプログレッシブ画像生成方法の手法である非特許文献2を応用し、それぞれの補間画素における動き推定の探索範囲ρを、範囲内の前後時刻ラインの輝度変化が、(1)片方が平坦、(2)同一方向に単調増加・減少、(3)同一方向に凸、(4)片方が増加減少でもう片方が凸のパターンのいずれかになるような最大範囲となるよう適応的に変化させる。以下、この分類された前後時刻の輝度変化の輝度変化のパターンを前後ラインの輝度変化パターンと呼ぶことにする。
Figure 0005435242
また、第2のプログレッシブ画像算出手段22は、第2のプログレッシブ画像に加え、補間画素ごとの、補間に利用した画素の差分値(補間差分値)、動き推定の探索範囲、前後ラインの輝度変化パターンも出力する。
プログレッシブ画像合成手段23は、第1のプログレッシブ画像と第2のプログレッシブ画像と補間差分値と動き推定の探索範囲と前後ラインの輝度変化パターンとを入力とし、第1のプログレッシブ画像と第2のプログレッシブ画像とを合成したプログレッシブ画像を出力する。図3を参照すると、プログレッシブ画像合成手段23は、第1の動き推定信頼度計算手段231と第2の動き推定信頼度計算手段232と第3の動き推定信頼度計算手段233と動き推定信頼度統合手段234と合成手段235とから構成される。
第1の動き推定信頼度計算手段231は、補間画素ごとの補間差分値を入力とし、補間差分値をもとにした動き推定信頼度を意味する第1の動き推定信頼度を計算し、出力する。補間差分値は、対応関係にある前後ラインの補間に利用する画素の類似度を示す一つの指標であり、補間差分値が小さいほど類似度が高く動き推定が正確に行われている可能性が高く、補間差分値が大きいほど類似度が低く動き推定が正確に行われている可能性が低い。そこで、第1の動き推定信頼度計算手段231は、補間差分値が小さいほど大きな値を持つ第1の動き推定信頼度を出力し、補間差分値が大きいほど小さな値を持つ第1の動き推定信頼度を出力する。
第1の動き推定信頼度の計算方法の一例について説明する。いま、補間画素(x,y)について、補間差分値s(x,y)から第1の動き推定信頼度r1(x,y)を求める方法として、式(9)に示す計算式を用いて算出する。
Figure 0005435242
ここで、r10(0≦r10≦1.0)は、あらかじめ与えられた固定の実数値である。また、T1は、第1の動き推定信頼度が最大値1.0となる補間差分値の範囲を示すためにあらかじめ与えられた実数の閾値である。
式(9)を用いる代わりに、あらかじめ補間差分値と第1の動き推定信頼度を対応付けたテーブルを用意し、テーブルを参照し入力された補間差分値s(x,y)に対応する第1の動き推定信頼度を読み出す方法も利用できる。
また、第1の動き推定信頼度の計算方法は、上記補間差分値と動き推定信頼度の関係が示せれば良いので、式(9)に限られるものではない。
動き推定を実行する場合、広い探索範囲で実行することは、より多くの情報を用いていることを意味し、狭い探索範囲で実行することは、比較的少ない情報を用いていることを意味する。
第2のプログレッシブ画像算出手段22で用いられている方法では、広い探索範囲により動き推定を実行することは、補間画素周辺の輝度変化が比較的単調であり、正確な動き推定が実行されやすく、また、狭い探索範囲の場合には、補間画素周辺の輝度変化が複雑であり、正確な動き推定を比較的実行しにくいという性質がある。すなわち、広い探索範囲で動き推定を実行した場合、その動きベクトル推定の信頼度は高く、狭い探索範囲で動き推定を実行した場合、その動きベクトル推定の信頼度は低いということが言える。
そこで、本発明では、動き推定の探索範囲の広さと動き推定信頼度に相関があるという特性に着目し、第2の動き推定信頼度計算手段232は、入力された動き推定の探索範囲が広いほど大きな値を持つ第2の動き推定信頼度を出力し、動き推定の探索範囲が狭いほど小さな値を持つ第2の動き推定信頼度を出力する。
補間画素(x,y)について、補間画素(x,y)における動き推定の探索範囲ρ(x,y)から第2の動き推定信頼度r2(x,y)を、式(10)に示す計算式を用いて算出する。
Figure 0005435242
ここで、r20(0≦r10≦1.0)は、あらかじめ与えられた固定の実数値である。また、T2は、第2の動き推定信頼度が最大値1.0となる動き推定の探索範囲ρの範囲を示すためにあらかじめ与えられた実数の閾値である。
式(10)を用いる代わりに、あらかじめ動き推定の探索範囲ρと第2の動き推定信頼度を対応付けたテーブルを用意し、テーブルを参照し入力された動き推定の探索範囲ρ(x,y)に対応する第2の動き推定信頼度を読み出す方法も利用できる。
また、第2の動き推定信頼度の計算方法は、上記動き推定の探索範囲の広さと動き推定信頼度の関係が示せれば良いので、式(10)に限られるものではない。
第3の動き推定信頼度計算手段233は、補間画素ごとの探索範囲内の前後ラインの輝度変化パターンを入力とし、前記輝度変化パターンをもとに計算された動き推定信頼度である第3の動き推定信頼度を出力する。
動き推定を実行する場合、補間画素周辺の輝度変化が単調であるほど正確な動き推定を実行しやすく、補間画素周辺の輝度変化が複雑であるほど正確な動き推定を実行しにくい。また、前後ラインの輝度変化の仕方が類似しているほど正確な動き推定を実行しやすく、前後ラインの輝度変化が異なっているほど正確な動き推定を実行しにくいという特性がある。また、片方のラインの輝度変化が平坦な場合、第2のプログレッシブ画像内の補間画素における画質破綻は生じにくい。
そこで、本発明では、この前後ラインの輝度変化パターンと動き推定信頼度に相関があるという特性に着目し、第3の動き推定信頼度計算手段233では、上下ラインの輝度変化パターンをもとに、4つの輝度変化のパターンについて、
(片方が平坦の時の第3の動き推定信頼度)≧(同一方向に単調増加・減少の時の第3の動き推定信頼度)≧(同一方向に凸の時の第3の動き推定信頼度)≧(片方が増加減少でもう片方が凸の時の動き推定信頼度)となる値を持つ第3の動き推定信頼度を出力する。
補間画素(x,y)について、前後ラインの輝度変化パターンk(x,y)から第3の動き推定信頼度r3(x,y)を求める方法の一つとしては、あらかじめ上下ラインの輝度変化パターンと第3の動き推定信頼度を対応付けたテーブルを用意しておき、テーブルを参照し入力された前後ラインの輝度変化パターンk(x,y)に対応する第3の動き推定信頼度を読み出す。また、前後ラインの輝度変化パターンと第3の動き推定信頼度を対応付けたテーブルは、外部から調整可能としてもよい。
動き推定信頼度統合手段234は、前記第1の動き推定信頼度計算手段231から出力される前記第1の動き推定信頼度と前記第2の動き推定信頼度計算手段232から出力される前記第2の動き推定信頼度と前記第3の動き推定信頼度計算手段233から出力される前記第3の動き推定信頼度とを入力とし、動き推定信頼度を計算する。
補間画素(x2,y2)についての動き推定信頼度r(x,y)を求める方法の一つとして、(x,y)における第1の動き推定信頼度r1(x,y)と(x,y)における第2の動き推定信頼度r2(x,y)と(x,y)における第3の動き推定信頼度r3(x,y)とを用いて、式(11)の計算式によって求める。
Figure 0005435242
また、式(12)の計算式のように、r1(x,y)とr2(x,y)とr3(x,y)の加重平均によって求めてもよい。
Figure 0005435242
ここで、w1、w2、w3は、実数の合成重み係数であり、あらかじめ設定された固定値でもよいし、外部から調整可能としてもよい。
合成手段235は、第1のプログレッシブ画像と第2のプログレッシブ画像と動き推定信頼度とを入力とし、第1のプログレッシブ画像と第2のプログレッシブ画像とを動き推定信頼度をもとに合成する。第1のプログレッシブ画像と第2のプログレッシブ画像との合成は、動き推定信頼度が高いほど第2のプログレッシブ画像の合成重みを大きく、逆に動き推定信頼度が低いほど第2のプログレッシブ画像の合成重みを小さくし、実行する。
時刻tの補間画素(x,y)について、出力プログレッシブ画像の画素値Fp(x,y,t)を求める方法の一つとして、補間画素(x,y)における第1のプログレッシブ画像の画素値Fp1(x,y,t)と第2のプログレッシブ画像の画素値Fp2(x,y,t)およびr(x,y)を用いて式(13)のように算出する方法がある。
Figure 0005435242
なお、時刻tの補間画素(x,y)について、出力プログレッシブ画像の画素値Fp(x,y,t)を求める方としては、上記式(13)に基づく手法に限られるわけではなく、第1のプログレッシブ画像の画素値Fp1(x,y,t)と第2のプログレッシブ画像の画素値Fp2(x,y,t)と動き推定信頼度r(x,y)を用いて合成するのではあれば他の手法も応用が可能である。
次に、本発明による第1の実施の形態である画像処理方法について図4のフローチャートを参照して説明する
時刻tのインターレース画像を入力して、これを補間し第1のプログレッシブ画像を生成する(ステップS101)。
時刻t-1、時刻t、時刻t+1のインターレース画像を入力して、動きベクトルをもとに第2のプログレッシブ画像を生成する(ステップS102)。
第1の動き推定信頼度計算において、補間差分値から第1の動き推定信頼度を求める(ステップS103)。
第2の動き推定信頼度計算において、動き推定の探索範囲の広さから第2の動き推定信頼度を求める(ステップS104)。
第3の動き推定信頼度計算において、動き推定の探索範囲内の前後ラインの輝度変化パターンから第3の動き推定信頼度を求める(ステップS105)。
動き推定信頼度の計算において、第1の動き推定信頼度と第2の動き推定信頼度と第3の動き推定信頼度とから注目補間画素の動き推定信頼度を求める(ステップS106)。
そして、動き推定信頼度をもとに、第1のプログレッシブ画像と第2のプログレッシブ画像とを合成する(ステップS107)。
本実施の形態は、補間差分値から計算される第1の動き推定信頼度と、動き推定の探索範囲から計算される第2の動き推定信頼度と、前後ラインの輝度変化パターンから計算される第3の動き推定信頼度とを統合して得られる高精度な動き推定信頼度を用いることにより、第1のプログレッシブ画像と第2のプログレッシブ画像を合成するための合成重みを適切に設定することが可能になり、高品質なプログレッシブ画像の生成を実現できる。
<第2の実施の形態>
図5は、本発明による第2の実施の形態を示す画像処理装置3の構成を示すブロック図である。画像処理装置3は、第1のプログレッシブ画像算出手段31と第2のプログレッシブ画像算出手段22とプログレッシブ画像合成手段33とから構成される。
画像処理装置3の構成は、画像処理装置2の構成と比較して、第1のプログレッシブ画像算出手段31とプログレッシブ画像合成手段33が異なるので、以下、第1のプログレッシブ画像算出手段31とプログレッシブ画像合成手段33の動作について説明する。
第1のプログレッシブ画像算出手段31は、時刻tにおけるインターレース画像を入力とし、非特許文献2の方法を用いて第1のプログレッシブ画像を生成する。ここで、非特許文献2の方法では、補間画素周辺の輝度変化をもとに、上下ラインの輝度変化パターンを算出し、最適な探索範囲を求めた後にエッジ適応型補間を実行している。第1のプログレッシブ画像算出手段31は、従来手法の出力である補間された第1のプログレッシブ画像に加え、非特許文献2の方法によって求められる補間画素ごとの補間差分値と上下ラインの輝度変化パターンおよび探索範囲も出力する。
プログレッシブ画像合成手段33は、第1のプログレッシブ画像算出手段31から出力される第1のプログレッシブ画像と補間差分値と探索範囲および上下ラインの輝度変化パターンと、第2のプログレッシブ画像算出手段22から出力される第2のプログレッシブ画像と補間差分値と探索範囲および前後ラインの輝度変化パターンとを入力とし、第1のプログレッシブ画像と第2のプログレッシブ画像とを合成し、合成されたプログレッシブ画像を出力する。
図6は、プログレッシブ画像合成手段33を示すブロック図を示している。図6を参照するとプログレッシブ画像合成手段33は、第1の動き推定信頼度計算手段231と第2の動き推定信頼度計算手段232と第3の動き推定信頼度計算手段233と動き推定信頼度統合手段234と第1の補間信頼度計算手段336と第2の補間信頼度計算手段337と第3の補間信頼度計算手段338と補間信頼度統合手段339と合成手段335とから構成される。
プログレッシブ画像合成手段33の構成は、画像処理装置2におけるプログレッシブ画像合成手段23と比較して、第1の補間信頼度計算手段336と第2の補間信頼度計算手段337と第3の補間信頼度計算手段338と補間信頼度統合手段339と合成手段335とにおいて異なる。以下、第1の補間信頼度計算手段336と第2の補間信頼度計算手段337と第3の補間信頼度計算手段338と補間信頼度統合手段339と合成手段335の動作を詳細に説明する。
第1の補間信頼度計算手段336は、補間画素ごとの補間差分値を入力とし、補間差分値をもとにした補間信頼度を意味する第1の補間信頼度を計算し、出力する。補間差分値は、対応関係にある上下ラインの補間に利用する画素の類似度を示す一つの指標であり、補間差分値が小さいほど類似度が高く補間が正確に行われている可能性が高く、補間差分値が大きいほど類似度が低く補間が正確に行われている可能性が低い。そこで、第1の補間信頼度計算手段336の動作は、補間差分値が小さいほど大きな値を持つ第1の補間信頼度を出力し、補間差分値が大きいほど小さな値を持つ第1の補間信頼度を出力する。
上記特性を実現する第1の補間信頼度の計算方法の一例について説明する。いま、補間画素(x,y)について、補間差分値s2(x,y)から第1の補間信頼度c1(x,y)を求める方法として、式(14)に示す計算式を用いて算出する。
Figure 0005435242
ここで、c10(0≦c10≦1.0)は、あらかじめ与えられた固定の実数値である。また、U1は、第1の補間信頼度が最大値1.0となる補間差分値の範囲を示すためにあらかじめ与えられた実数の閾値である。
式(14)の代わりに、あらかじめ補間差分値と第1の補間信頼度を対応付けたテーブルを用意し、テーブルを参照し入力された補間差分値s2(x,y)に対応する第1の補間信頼度を読み出す方法も利用してもよい。
また、第1の補間信頼度の計算方法は上記補間差分値と補間信頼度の関係が示せれば良いので、式(14)に限られるものではない。
インターレース画像を補間する場合、広い探索範囲によりエッジ適応型補間を実行することは、より多くの情報を用いて補間していることを意味し、狭い探索範囲によりエッジ適応型補間を実行することは、比較的少ない情報を用いて補間していることを意味する。例えば、非特許文献2の手法のエッジ適応型補間では、広い探索範囲によりエッジ適応型補間を実行することは、補間画素周辺の輝度変化が比較的単調であり、正確な補間が実行されやすく、また、狭い探索範囲の場合には、補間画素周辺の輝度変化が複雑であり、正確な補間を比較的実行しにくいという性質がある。すなわち、広い探索範囲で補間処理を実行した場合、その補間信頼度は高く、狭い探索範囲で補間処理を実行した場合、その補間信頼度は低いということが言える。
そこで、本発明では、この探索範囲の大きさと補間信頼度に相関があるという特性に着目し、第2の補間信頼度計算手段337は、入力された探索範囲が広いほど大きな値を持つ第2の補間信頼度を出力し、探索範囲が狭いほど小さな値を持つ第2の補間信頼度を出力する。
補間画素(x,y)について、補間画素(x,y)における探索範囲φ(x,y)から第2の補間信頼度c2(x,y)を、式(15)に示す計算式を用いて算出する。
Figure 0005435242
ここで、c20(0≦c20≦1.0)は、あらかじめ与えられた固定の実数値である。また、U2は、第2の補間信頼度が最大値1.0となる探索範囲φの範囲を示すためにあらかじめ与えられた実数の閾値である。
式(15)の代わりに、あらかじめ探索範囲と第2の補間信頼度を対応付けたテーブルを用意し、テーブルを参照し入力された探索範囲φ(x,y)に対応する第2の補間信頼度を読み出す方法も利用できる。
また、第2の補間信頼度の計算方法は上記探索範囲と補間信頼度の関係が示せれば良いので、式(15)に限られるものではない。
第3の補間信頼度計算手段338は、補間画素ごとの探索範囲内の上下ラインの輝度変化パターンを入力とし、前記上下ラインの輝度変化パターンをもとに計算された補間信頼度を第3の補間信頼度を出力する。
インターレース画像を補間する場合、補間画素周辺の輝度変化が単調であるほど正確な補間が実行しやすく、補間画素周辺の輝度変化が複雑であるほど正確な補間が実行しにくい。また、上下ラインの輝度変化の仕方が類似しているほど正確な補間が実行しやすく、上下ラインの輝度変化が異なっているほど正確な補間が実行しにくいという特性がある。また、片方のラインの輝度変化が平坦な場合、第1のプログレッシブ画像内の補間画素における画質破綻は生じにくい。
そこで、本発明では、この上下ラインの輝度変化パターンと補間信頼度に相関があるという特性に着目し、第3の補間信頼度計算手段338では、上下ラインの輝度変化パターンである4つの輝度変化のパターンについて、
(片方が平坦の時の第3の補間信頼度)≧(同一方向に単調増加・減少の時の第3の補間信頼度)≧(同一方向に凸の時の第3の補間信頼度)≧(片方が増加減少でもう片方が凸の時の補間信頼度)となる値を持つ第3の補間信頼度を出力する。
そこで、本発明では、この上下ラインの輝度変化パターンと補間信頼度に相関があるという特性に着目し、第3の補間信頼度計算手段338では、上下ラインの輝度変化パターンをもとに、4つの輝度変化のパターンに応じた第3の補間信頼度を出力する。
補間画素(x,y)について、上下ラインの輝度変化パターンk2(x,y)から第3の補間信頼度c3(x,y)を求める方法の一つとしては、あらかじめ上下ラインの輝度変化パターンと第3の補間信頼度を対応付けたテーブルを用意しておき、テーブルを参照し入力された上下ラインの輝度変化パターンk2(x,y)に対応する第3の補間信頼度を読み出す。また、上下ラインの輝度変化パターンと第3の補間信頼度を対応付けたテーブルは、外部から調整可能としてもよい。
補間信頼度統合手段339は、前記第1の補間信頼度計算手段336から出力される前記第1の補間信頼度と前記第2の補間信頼度計算手段337から出力される前記第2の補間信頼度と前記第3の補間信頼度計算手段338から出力される前記第3の補間信頼度とを入力とし、補間信頼度を計算する。
補間画素(x,y)についての補間信頼度c(x,y)を求める方法の一つとして、(x,y)における第1の補間信頼度c1(x,y)と(x,y)における第2の補間信頼度c2(x,y)と(x,y)における第3の補間信頼度c3(x,y)とを用いて、式(15)の計算式によって求める。
Figure 0005435242
また、式(17)の計算式のように、c1(x,y)とc2(x,y)とc3(x,y)の加重平均によって求めてもよい。
Figure 0005435242
ここで、w1’、w2’、w3’は、実数の合成重み係数であり、あらかじめ設定された固定値でもよいし、外部から調整可能としてもよい。
合成手段335は、第1のプログレッシブ画像と第2のプログレッシブ画像と補間信頼度と動き推定信頼度とを入力とし、第1のプログレッシブ画像と第2のプログレッシブ画像とを補間信頼度と動き推定信頼度とに応じた合成重みによって合成する。座標(x,y)における合成重みα(x,y)の計算方法の一例として、図9に示すグラフのように、動き推定信頼度p(x,y)が小さいほどα(x,y)が大きく、また、補間信頼度c(x,y)が大きいほどα(x,y)が大きくなうように算出する方法がある。そして、合成手段335は、座標(x,y)の補間画素において、算出されたα(x,y)をもとに、第1のプログレッシブ画像と第2のプログレッシブ画像を式(18)のように合成する。
Figure 0005435242
次に、本発明による第2の実施の形態である画像処理方法について、図7のフローチャートを参照して説明する。
時刻tのインターレース画像を入力して、これを補間し第1のプログレッシブ画像を生成する(ステップS201)。
時刻t-1、時刻t、時刻t+1のインターレース画像を入力して、動きベクトルをもとに第2のプログレッシブ画像を生成する(ステップS202)。
第1の動き推定信頼度計算において、補間差分値から第1の動き推定信頼度を求める(ステップS203)。
第2の動き推定信頼度計算において、動き推定の探索範囲の広さから第2の動き推定信頼度を求める(ステップS204)。
第3の動き推定信頼度計算において、動き推定の探索範囲内の前後ラインの輝度変化パターンから第3の動き推定信頼度を求める(ステップS205)。
動き推定信頼度の計算において、第1の動き推定信頼度と第2の動き推定信頼度と第3の動き推定信頼度とから注目補間画素の動き推定信頼度を求める(ステップS206)。
第1の補間信頼度計算において、補間差分値から第1の補間信頼度を求める(ステップS207)。
第2の補間信頼度計算において、探索範囲の広さから第2の補間信頼度を求める(ステップS208)。
第3の補間信頼度計算において、探索範囲内の前後ラインの輝度変化パターンから第3の補間信頼度を求める(ステップS209)。
補間信頼度の計算において、第1の補間信頼度と第2の補間信頼度と第3の補間信頼度とから注目補間画素の補間信頼度を求める(ステップS210)。
そして、動き推定信頼度と補間信頼度とをもとに、第1のプログレッシブ画像と第2のプログレッシブ画像とを合成する(ステップS211)。
また、前記本発明による第1および第2の実施の形態である画像処理装置及び画像処理方法は、第1の動き推定信頼度と第2の動き推定信頼度と第3の動き推定信頼度との統合により、動き推定信頼度を算出した。しかし、第2の動き推定信頼度、または、第3の動き推定信頼度のみ利用して、動き推定信頼度の算出をしても良い。また、第1の動き推定信頼度と第2の動き推定信頼度との統合により、動き推定信頼度の算出をしても良い。また、第1の動き推定信頼度と第3の動き推定信頼度との統合により、動き推定信頼度の算出をしても良い。このような実施の形態は、式(11)あるいは式(12)において、省略された動きベクトル推定信頼度の値を固定値1.0とすることで容易に実現可能である。
第2の動き推定信頼度のみから動き推定信頼度を算出する方法では、探索範囲の広さから判別される正確な動きベクトル推定の容易さを反映した動き推定信頼度が算出することができる。そして、類似した領域が複数あるために正確な動きベクトル推定が困難な補間画素の第2のプログレッシブ画像の合成重みを小さくすることにより、生成されるプログレッシブ画像の画質を向上することが可能になる。
第3の動き推定信頼度のみから動き推定信頼度を算出する方法では、前後ラインの輝度変化パターンから分かる補間画素周辺の輝度変化の複雑に応じて判別される正確な動きベクトル推定の容易さを反映した動き推定信頼度が算出することができる。そして、複雑な輝度変化を持つために正確な動きベクトル推定が困難な補間画素の第2のプログレッシブ画像の合成重みを小さくすることにより、生成されるプログレッシブ画像の画質を向上することが可能になる。
第1の動き推定信頼度と第2の動き推定信頼度との統合により動き推定信頼度を算出する方法では、探索範囲の広さから判別される正確な動きベクトル推定の容易さに加え、対応関係にある前後ラインの補間に利用する画素の類似度を考慮した動き推定信頼度が算出することができ、生成されるプログレッシブ画像の画質を更に向上することが可能になる。
同様に、第1の動き推定信頼度と第3の動き推定信頼度との統合により動き推定信頼度を算出する方法では、前後ラインの輝度変化パターンから判別される正確な動きベクトル推定の容易さに加え、対応関係にある前後ラインの補間に利用する画素の類似度を考慮した動き推定信頼度が算出することができ、生成されるプログレッシブ画像の画質を更に向上することが可能になる。
さらに、前記本発明による第1および第2の実施の形態である画像処理装置及び画像処理方法は、第2のプログレッシブ画像を生成に、時刻t-1、時刻t、時刻t+1のインターレース画像を入力するのではなく、時刻t-3、時刻t、時刻t+3のような別の時刻のインターレース画像を入力してもよい。例えば、時刻t-3、時刻t、時刻t+3のインターレース画像を入力とする第2のプログレッシブ画像の生成は、式(7)および式(8)において、t-1をt-3に、t+1をt+3に変更することで実現することができる。また、時刻t-1、時刻t、時刻t+3のインターレース画像を入力とする第2のプログレッシブ画像の生成は、式(7)および式(8)の代わりに、式(19)および式(20)を用いることにより、実現することができる。
Figure 0005435242
Figure 0005435242
前記本発明による実施の形態においては、3枚のインターレース画像からプログレッシブ画像を生成しているが、4枚以上の複数のインターレース画像からプログレッシブ画像を生成することも可能である。例えば、時刻t-3、時刻t-1、時刻t、時刻t+1、時刻t+3の5枚のインターレース画像を入力とする場合におけるプログレッシブ画像の生成は、第1のプログレッシブ画像と時刻t-1、時刻t、時刻t+1のインターレース画像から生成される第2のプログレッシブ画像と時刻t-3、時刻t、時刻t+3のインターレース画像から生成される第2のプログレッシブ画像とをそれぞれの動き推定信頼度をもとに合成することにより、容易に実現可能である。
尚、上述した実施の形態では、第1のプログレッシブ画像算出手段11,31、第2のプログレッシブ画像算出手段12、プログレッシブ画像合成手段13、第2のプログレッシブ画像算出手段22、プログレッシブ画像合成手段23,33などの各部をハードウェアで構成したが、プログラム制御により動作するコンピュータによって構成しても良い。コンピュータは、中央処理装置、プロセッサ、データ処理装置のいずれでもよい。
以上の如く、本発明の第1の態様は、ある時刻のインターレース画像から生成された第1のプログレッシブ画像と、前記時刻と異なる時刻の複数のインターレース画像から生成された第2のプログレッシブ画像とを合成する際に用いる合成比率を、前記第2のプログレッシブ画像を生成する際の補間する画素の値の算出に用いた前時刻インターレース画像内の画素と後時刻インターレース画像内の画素との差分絶対値から決定される第1の動き推定信頼度と、前記補間する画素の値を算出するために用いた前後時刻のインターレース画像の領域の広さから決定される第2の動き推定信頼度と、前記領域内における前時刻のインターレース画像のラインの輝度変化と後時刻のインターレース画像のラインの輝度変化との組み合わせから決定される第3の動き推定信頼度とを統合することで決定される動き推定信頼度に基づいて計算することを特徴とする画像処理方法である。
本発明の第2の態様は、上記態様において、前記動き推定信頼度と、前記第1のプログレッシブ画像を生成する際の補間する画素の値の算出に用いた上ラインの画素と下ラインの画素との差分絶対値から決定される第1の補間信頼度と、前記補間する画素の値の算出に用いた上ラインの画素と下ラインの画素とを決定するために用いた領域の広さから決定される第2の補間信頼度と、前記領域内における上ラインの輝度変化と下ラインの輝度変化の組み合わせにより決定される第3の補間信頼度とを統合することで決定される補間信頼度とに基づいて前記合成比率を計算することを特徴とする。
本発明の第3の態様は、上記態様において、前記動き推定信頼度が高いほど、前記第2のプログレッシブ画像の合成比率が高くなることを特徴とする。
本発明の第4の態様は、上記態様において、前記補間信頼度が高いほど、前記第1のプログレッシブ画像の合成比率が高くなることを特徴とする。
本発明の第5の態様は、上記態様において、前記第1の動き推定信頼度が、前記差分絶対値が小さいほど大きな値を持ち、差分絶対値が大きいほど小さな値を持つことを特徴とする。
本発明の第6の態様は、上記態様において、前記第2の動き推定信頼度が、前記領域が広いほど大きな値を持ち、前記領域が狭いほど小さな値を持つことを特徴とする。
本発明の第7の態様は、上記態様において、前記第3の動き推定信頼度が、前記前時刻のインターレース画像のラインの輝度変化のパターンと後時刻のインターレース画像のラインの輝度変化のパターンが単純であるほど大きな値を持ち、前記前時刻のインターレース画像のラインの輝度変化のパターンと後時刻のインターレース画像のラインの輝度変化のパターンが複雑であるほど小さな値を持つことを特徴とする。
本発明の第8の態様は、上記態様において、前記第1の補間信頼度が、前記差分絶対値が小さいほど大きな値を持ち、差分絶対値が大きいほど小さな値を持つことを特徴とする。
本発明の第9の態様は、上記態様において、前記第2の補間信頼度が、前記領域が広いほど大きな値を持ち、前記領域が狭いほど小さな値を持つことを特徴とする。
本発明の第10の態様は、上記態様において、前記第3の補間信頼度が、上ラインの輝度変化のパターンと下ラインの輝度変化のパターンとが類似しているほど大きな値を持つことを特徴とする。
本発明の第11の態様は、上記態様において、前記第3の補間信頼度が、前記上ラインの輝度変化のパターンと下ラインの輝度変化のパターンとが単純であるほど大きな値を持ち、前記上ラインの輝度変化のパターンと下ラインの輝度変化のパターンとが複雑であるほど小さな値を持つことを特徴とする。
本発明の第12の態様は、ある時刻のインターレース画像から生成された第1のプログレッシブ画像と、前記時刻と異なる時刻の複数のインターレース画像から生成された第2のプログレッシブ画像とを合成する際に用いる合成比率を、前記第2のプログレッシブ画像を生成する際の補間する画素の値を算出するために用いた異なる時刻の複数のインターレース画像の領域の広さから決定される動き推定信頼度に基づいて計算することを特徴とする画像処理方法である。
本発明の第13の態様は、ある時刻のインターレース画像から生成された第1のプログレッシブ画像と、前記時刻と異なる時刻の複数のインターレース画像から生成された第2のプログレッシブ画像とを合成する際に用いる合成比率を、前記領域内における前時刻のインターレース画像のラインの輝度変化と後時刻のインターレース画像のラインの輝度変化とのいずれかから決定される動き推定信頼度に基づいて計算することを特徴とする画像処理方法である。
本発明の第14の態様は、ある時刻のインターレース画像から生成された第1のプログレッシブ画像と、前記時刻と異なる時刻の複数のインターレース画像から生成された第2のプログレッシブ画像とを合成する際に用いる合成比率を、前記第2のプログレッシブ画像を生成する際の補間する画素の値の算出に用いた前時刻インターレース画像内の画素と後時刻インターレース画像内の画素との差分絶対値から決定される第1の動き推定信頼度と、前記補間する画素の値を算出するために用いた前後時刻のインターレース画像の領域の広さから決定される第2の動き推定信頼度と、前記領域内における前時刻のインターレース画像のラインの輝度変化と後時刻のインターレース画像のラインの輝度変化との組み合わせから決定される第3の動き推定信頼度とを統合することで決定される動き推定信頼度に基づいて計算し、前記合成比率に基づいて、第1のプログレッシブ画像と前記第2のプログレッシブ画像とを合成する画像合成手段を有することを特徴とする画像処理装置である。
本発明の第15の態様は、上記態様において、前記画像合成手段は、前記動き推定信頼度と、前記第1のプログレッシブ画像を生成する際の補間する画素の値の算出に用いた上ラインの画素と下ラインの画素との差分絶対値から決定される第1の補間信頼度と、前記補間する画素の値の算出に用いた上ラインの画素と下ラインの画素とを決定するために用いた領域の広さから決定される第2の補間信頼度と、前記領域内における上ラインの輝度変化と下ラインの輝度変化の組み合わせにより決定される第3の補間信頼度とを統合することで決定される補間信頼度とに基づいて合成比率を計算することを特徴とする。
本発明の第16の態様は、上記態様において、前記画像合成手段は、前記動き推定信頼度が高いほど、前記第2のプログレッシブ画像の合成比率が高くなるように計算することを特徴とする。
本発明の第17の態様は、上記態様において、前記画像合成手段は、前記補間信頼度が高いほど、前記第1のプログレッシブ画像の合成比率が高くなるように計算することを特徴とする。
本発明の第18の態様は、上記態様において、前記画像合成手段は、前記第1の動き推定信頼度が、前記差分絶対値が小さいほど大きな値を持ち、差分絶対値が大きいほど小さな値を持つように計算することを特徴とする。
本発明の第19の態様は、上記態様において、前記画像合成手段は、前記第2の動き推定信頼度が、前記領域が広いほど大きな値を持ち、前記領域が狭いほど小さな値を持つように計算することを特徴とする。
本発明の第20の態様は、上記態様において、前記画像合成手段は、前記第3の動き推定信頼度が、前記前時刻のインターレース画像のラインの輝度変化のパターンと後時刻のインターレース画像のラインの輝度変化のパターンが単純であるほど大きな値を持ち、前記前時刻のインターレース画像のラインの輝度変化のパターンと後時刻のインターレース画像のラインの輝度変化のパターンが複雑であるほど小さな値を持つように計算することを特徴とする。
本発明の第21の態様は、上記態様において、前記画像合成手段は、前記第1の補間信頼度が、前記差分絶対値が小さいほど大きな値を持ち、差分絶対値が大きいほど小さな値を持つように計算することを特徴とする。
本発明の第22の態様は、上記態様において、前記画像合成手段は、前記第2の補間信頼度が、前記領域が広いほど大きな値を持ち、前記領域が狭いほど小さな値を持つように計算することを特徴とする。
本発明の第23の態様は、上記態様において、前記画像合成手段は、前記第3の補間信頼度が、上ラインの輝度変化のパターンと下ラインの輝度変化のパターンとが類似しているほど大きな値を持つように計算することを特徴とする。
本発明の第24の態様は、上記態様において、前記画像合成手段は、前記第3の補間信頼度が、前記上ラインの輝度変化のパターンと下ラインの輝度変化のパターンとが単純であるほど大きな値を持ち、前記上ラインの輝度変化のパターンと下ラインの輝度変化のパターンとが複雑であるほど小さな値を持つように計算することを特徴とする。
本発明の第25の態様は、ある時刻のインターレース画像から生成された第1のプログレッシブ画像と、前記時刻と異なる時刻の複数のインターレース画像から生成された第2のプログレッシブ画像とを合成する際に用いる合成比率を、前記第2のプログレッシブ画像を生成する際の補間する画素の値を算出するために用いた異なる時刻の複数のインターレース画像の領域の広さから決定される動き推定信頼度に基づいて計算し、前記合成比率に基づいて、第1のプログレッシブ画像と前記第2のプログレッシブ画像とを合成する画像合成手段を有することを特徴とする画像処理装置である。
本発明の第26の態様は、ある時刻のインターレース画像から生成された第1のプログレッシブ画像と、前記時刻と異なる時刻の複数のインターレース画像から生成された第2のプログレッシブ画像とを合成する際に用いる合成比率を、前記領域内における前時刻のインターレース画像のラインの輝度変化と後時刻のインターレース画像のラインの輝度変化とのいずれかから決定される動き推定信頼度に基づいて計算し、前記合成比率に基づいて、第1のプログレッシブ画像と前記第2のプログレッシブ画像とを合成する画像合成手段を有することを特徴とする画像処理装置である。
本発明の第27の態様は、ある時刻のインターレース画像から生成された第1のプログレッシブ画像と、前記時刻と異なる時刻の複数のインターレース画像から生成された第2のプログレッシブ画像とを合成する際に用いる合成比率を、前記第2のプログレッシブ画像を生成する際の補間する画素の値の算出に用いた前時刻インターレース画像内の画素と後時刻インターレース画像内の画素との差分絶対値から決定される第1の動き推定信頼度と、前記補間する画素の値を算出するために用いた前後時刻のインターレース画像の領域の広さから決定される第2の動き推定信頼度と、前記領域内における前時刻のインターレース画像のラインの輝度変化と後時刻のインターレース画像のラインの輝度変化との組み合わせから決定される第3の動き推定信頼度とを統合することで決定される動き推定信頼度に基づいて計算する合成比率計算処理を情報処理装置に実行させることを特徴とするプログラムである。
本発明の第28の態様は、上記態様において、前記合成比率計算処理は、前記動き推定信頼度と、前記第1のプログレッシブ画像を生成する際の補間する画素の値の算出に用いた上ラインの画素と下ラインの画素との差分絶対値から決定される第1の補間信頼度と、前記補間する画素の値の算出に用いた上ラインの画素と下ラインの画素とを決定するために用いた領域の広さから決定される第2の補間信頼度と、前記領域内における上ラインの輝度変化と下ラインの輝度変化の組み合わせにより決定される第3の補間信頼度とを統合することで決定される補間信頼度とに基づいて合成比率を計算することを特徴とする。
本発明の第29の態様は、上記態様において、前記合成比率計算処理は、前記動き推定信頼度が高いほど、前記第2のプログレッシブ画像の合成比率が高くなるように計算することを特徴とする。
本発明の第30の態様は、上記態様において、前記合成比率計算処理は、前記補間信頼度が高いほど、前記第1のプログレッシブ画像の合成比率が高くなるように計算することを特徴とする。
本発明の第31の態様は、上記態様において、前記合成比率計算処理は、前記第1の動き推定信頼度が、前記差分絶対値が小さいほど大きな値を持ち、差分絶対値が大きいほど小さな値を持つように計算することを特徴とする。
本発明の第32の態様は、上記態様において、前記合成比率計算処理は、前記第2の動き推定信頼度が、前記領域が広いほど大きな値を持ち、前記領域が狭いほど小さな値を持つように計算することを特徴とする。
本発明の第33の態様は、上記態様において、前記合成比率計算処理は、前記第3の動き推定信頼度が、前記前時刻のインターレース画像のラインの輝度変化のパターンと後時刻のインターレース画像のラインの輝度変化のパターンが単純であるほど大きな値を持ち、前記前時刻のインターレース画像のラインの輝度変化のパターンと後時刻のインターレース画像のラインの輝度変化のパターンが複雑であるほど小さな値を持つように計算することを特徴とする。
本発明の第34の態様は、上記態様において、前記合成比率計算処理は、前記第1の補間信頼度が、前記差分絶対値が小さいほど大きな値を持ち、差分絶対値が大きいほど小さな値を持つように計算することを特徴とする。
本発明の第35の態様は、上記態様において、前記合成比率計算処理は、前記第2の補間信頼度が、前記領域が広いほど大きな値を持ち、前記領域が狭いほど小さな値を持つように計算することを特徴とする。
本発明の第36の態様は、上記態様において、前記合成比率計算処理は、前記第3の補間信頼度が、上ラインの輝度変化のパターンと下ラインの輝度変化のパターンとが類似しているほど大きな値を持つように計算することを特徴とする。
本発明の第37の態様は、上記態様において、前記合成比率計算処理は、前記第3の補間信頼度が、前記上ラインの輝度変化のパターンと下ラインの輝度変化のパターンとが単純であるほど大きな値を持ち、前記上ラインの輝度変化のパターンと下ラインの輝度変化のパターンとが複雑であるほど小さな値を持つように計算することを特徴とする。
本発明の第38の態様は、ある時刻のインターレース画像から生成された第1のプログレッシブ画像と、前記時刻と異なる時刻の複数のインターレース画像から生成された第2のプログレッシブ画像とを合成する際に用いる合成比率を、前記第2のプログレッシブ画像を生成する際の補間する画素の値を算出するために用いた異なる時刻の複数のインターレース画像の領域の広さから決定される動き推定信頼度に基づいて計算する合成比率計算処理を情報処理装置に実行させることを特徴とするプログラムである。
本発明の第39の態様は、ある時刻のインターレース画像から生成された第1のプログレッシブ画像と、前記時刻と異なる時刻の複数のインターレース画像から生成された第2のプログレッシブ画像とを合成する際に用いる合成比率を、前記領域内における前時刻のインターレース画像のラインの輝度変化と後時刻のインターレース画像のラインの輝度変化とのいずれかから決定される動き推定信頼度に基づいて計算する合成比率計算処理を情報処理装置に実行させることを特徴とするプログラムである。
本発明の第40の態様は、ある時刻のインターレース画像から生成された第1のプログレッシブ画像と、前記時刻と異なる時刻の複数のインターレース画像から生成された第2のプログレッシブ画像とを合成する際に用いる合成比率を、前記第2のプログレッシブ画像を生成する際の補間する画素の値を算出するために用いた異なる時刻の複数のインターレース画像の領域の広さから決定される動き推定信頼度、又は、前記領域内における前時刻のインターレース画像のラインの輝度変化と後時刻のインターレース画像のラインの輝度変化とのいずれかから決定される動き推定信頼度に基づいて計算することを特徴とする画像処理方法である。
本発明の第41の態様は、ある時刻のインターレース画像から生成された第1のプログレッシブ画像と、前記時刻と異なる時刻の複数のインターレース画像から生成された第2のプログレッシブ画像とを合成する際に用いる合成比率を、前記第2のプログレッシブ画像を生成する際の補間する画素の値を算出するために用いた異なる時刻の複数のインターレース画像の領域の広さから決定される動き推定信頼度、又は、前記領域内における前時刻のインターレース画像のラインの輝度変化と後時刻のインターレース画像のラインの輝度変化とのいずれかから決定される動き推定信頼度に基づいて計算し、前記合成比率に基づいて、第1のプログレッシブ画像と前記第2のプログレッシブ画像とを合成する画像合成手段を有することを特徴とする画像処理装置である。
本発明の第42の態様は、ある時刻のインターレース画像から生成された第1のプログレッシブ画像と、前記時刻と異なる時刻の複数のインターレース画像から生成された第2のプログレッシブ画像とを合成する際に用いる合成比率を、前記第2のプログレッシブ画像を生成する際の補間する画素の値を算出するために用いた異なる時刻の複数のインターレース画像の領域の広さから決定される動き推定信頼度、又は、前記領域内における前時刻のインターレース画像のラインの輝度変化と後時刻のインターレース画像のラインの輝度変化とのいずれかから決定される動き推定信頼度に基づいて計算する合成比率計算処理を情報処理装置に実行させることを特徴とするプログラムである。
以上、好ましい実施の形態及び態様をあげて本発明を説明したが、本発明は必ずしも上記実施の形態及び態様に限定されるものではなく、その技術的思想の範囲内において様々に変形し実施することが出来る。
本出願は、2008年3月21日に出願された日本出願特願2008−72973号を基礎とする優先権を主張し、その開示の全てをここに取り込む。

Claims (36)

  1. ある時刻のインターレース画像から生成された第1のプログレッシブ画像と、前記時刻と異なる時刻の複数のインターレース画像を所定の探索範囲で推定した動きベクトルに応じて動き補償することにより生成される第2のプログレッシブ画像とを合成する際に用いる合成比率を、
    前記第2のプログレッシブ画像を生成する際の補間する画素の値の算出に用いた前時刻インターレース画像内の画素と後時刻インターレース画像内の画素との差分絶対値から決定される第1の動き推定信頼度と、
    前記探索範囲の広さから決定される第2の動き推定信頼度と、
    前記探索範囲内における前時刻のインターレース画像のラインの輝度変化と後時刻のインターレース画像のラインの輝度変化との組み合わせから決定される第3の動き推定信頼度と
    を統合することで決定される動き推定信頼度に基づいて計算することを特徴とする画像処理方法。
  2. 前記第1の動き推定信頼度と前記第2の動き推定信頼度と前記第3の動き推定信頼度とを統合して決定される動き推定信頼度と、
    前記第1のプログレッシブ画像を生成する際の補間する画素の値の算出に用いた上ラインの画素と下ラインの画素との差分絶対値から決定される第1の補間信頼度と、
    前記補間する画素の値の算出に用いた上ラインの画素と下ラインの画素とを決定するために用いた領域の広さから決定される第2の補間信頼度と、
    前記領域内における上ラインの輝度変化と下ラインの輝度変化の組み合わせにより決定される第3の補間信頼度と
    を統合することで決定される補間信頼度とに基づいて前記合成比率を計算することを特徴とする請求項1に記載の画像処理方法。
  3. 前記補間信頼度が高いほど、前記第1のプログレッシブ画像の合成比率が高くなることを特徴とする請求項2に記載の画像処理方法。
  4. 前記動き推定信頼度が高いほど、前記第2のプログレッシブ画像の合成比率が高くなることを特徴とする請求項1から請求項3のいずれかに記載の画像処理方法。
  5. 前記第1の動き推定信頼度が、前記差分絶対値が小さいほど大きな値を持ち、差分絶対値が大きいほど小さな値を持つことを特徴とする請求項1から請求項4のいずれかに記載の画像処理方法。
  6. 前記第2の動き推定信頼度が、前記探索範囲が広いほど大きな値を持ち、前記探索範囲が狭いほど小さな値を持つことを特徴とする請求項1から請求項5のいずれかに記載の画像処理方法。
  7. 前記第3の動き推定信頼度が、
    前記前時刻のインターレース画像のラインの輝度変化のパターンと後時刻のインターレース画像のラインの輝度変化のパターンが単純であるほど大きな値を持ち、
    前記前時刻のインターレース画像のラインの輝度変化のパターンと後時刻のインターレース画像のラインの輝度変化のパターンが複雑であるほど小さな値を持つ
    ことを特徴とする請求項1から請求項6のいずれかに記載の画像処理方法。
  8. 前記第1の補間信頼度が、前記差分絶対値が小さいほど大きな値を持ち、差分絶対値が大きいほど小さな値を持つことを特徴とする請求項2から請求項7のいずれかに記載の画像処理方法。
  9. 前記第2の補間信頼度が、前記領域が広いほど大きな値を持ち、前記領域が狭いほど小さな値を持つことを特徴とする請求項2から請求項8のいずれかに記載の画像処理方法。
  10. 前記第3の補間信頼度が、上ラインの輝度変化のパターンと下ラインの輝度変化のパターンとが類似しているほど大きな値を持つことを特徴とする請求項2から請求項9のいずれかに記載の画像処理方法。
  11. 前記第3の補間信頼度が、
    前記上ラインの輝度変化のパターンと下ラインの輝度変化のパターンとが単純であるほど大きな値を持ち、
    前記上ラインの輝度変化のパターンと下ラインの輝度変化のパターンとが複雑であるほど小さな値を持つ
    ことを特徴とする請求項2から請求項9のいずれかに記載の画像処理方法。
  12. ある時刻のインターレース画像から生成された第1のプログレッシブ画像と、前記時刻と異なる時刻の複数のインターレース画像を所定の探索範囲で推定した動きベクトルに応じて動き補償することにより生成される第2のプログレッシブ画像とを合成する際に用いる合成比率を、前記探索範囲内における前時刻のインターレース画像のラインの輝度変化と後時刻のインターレース画像のラインの輝度変化とのいずれかから決定される動き推定信頼度に基づいて計算することを特徴とする画像処理方法。
  13. ある時刻のインターレース画像から生成された第1のプログレッシブ画像と、前記時刻と異なる時刻の複数のインターレース画像を所定の探索範囲で推定した動きベクトルに応じて動き補償することにより生成される第2のプログレッシブ画像とを合成する際に用いる合成比率を、
    前記第2のプログレッシブ画像を生成する際の補間する画素の値の算出に用いた前時刻インターレース画像内の画素と後時刻インターレース画像内の画素との差分絶対値から決定される第1の動き推定信頼度と、
    前記探索範囲の広さから決定される第2の動き推定信頼度と、
    前記探索範囲内における前時刻のインターレース画像のラインの輝度変化と後時刻のインターレース画像のラインの輝度変化との組み合わせから決定される第3の動き推定信頼度と
    を統合することで決定される動き推定信頼度に基づいて計算し、
    前記合成比率に基づいて、第1のプログレッシブ画像と前記第2のプログレッシブ画像とを合成する画像合成手段
    を有することを特徴とする画像処理装置。
  14. 前記画像合成手段は、
    前記第1の動き推定信頼度と前記第2の動き推定信頼度と前記第3の動き推定信頼度とを統合して決定される動き推定信頼度と、
    前記第1のプログレッシブ画像を生成する際の補間する画素の値の算出に用いた上ラインの画素と下ラインの画素との差分絶対値から決定される第1の補間信頼度と、
    前記補間する画素の値の算出に用いた上ラインの画素と下ラインの画素とを決定するために用いた領域の広さから決定される第2の補間信頼度と、
    前記領域内における上ラインの輝度変化と下ラインの輝度変化の組み合わせにより決定される第3の補間信頼度と
    を統合することで決定される補間信頼度とに基づいて合成比率を計算することを特徴とする請求項13に記載の画像処理装置。
  15. 前記画像合成手段は、前記補間信頼度が高いほど、前記第1のプログレッシブ画像の合成比率が高くなるように計算することを特徴とする請求項14に記載の画像処理装置。
  16. 前記画像合成手段は、前記動き推定信頼度が高いほど、前記第2のプログレッシブ画像の合成比率が高くなるように計算することを特徴とする請求項13から請求項15のいずれかに記載の画像処理装置。
  17. 前記画像合成手段は、前記第1の動き推定信頼度が、前記差分絶対値が小さいほど大きな値を持ち、差分絶対値が大きいほど小さな値を持つように計算することを特徴とする請求項13から請求項16のいずれかに記載の画像処理装置。
  18. 前記画像合成手段は、前記第2の動き推定信頼度が、前記探索範囲が広いほど大きな値を持ち、前記探索範囲が狭いほど小さな値を持つように計算することを特徴とする請求項13から請求項17のいずれかに記載の画像処理装置。
  19. 前記画像合成手段は、前記第3の動き推定信頼度が、
    前記前時刻のインターレース画像のラインの輝度変化のパターンと後時刻のインターレース画像のラインの輝度変化のパターンが単純であるほど大きな値を持ち、
    前記前時刻のインターレース画像のラインの輝度変化のパターンと後時刻のインターレース画像のラインの輝度変化のパターンが複雑であるほど小さな値を持つように計算することを特徴とする請求項13から請求項18のいずれかに記載の画像処理装置。
  20. 前記画像合成手段は、前記第1の補間信頼度が、前記差分絶対値が小さいほど大きな値を持ち、差分絶対値が大きいほど小さな値を持つように計算することを特徴とする請求項14から請求項19のいずれかに記載の画像処理装置。
  21. 前記画像合成手段は、前記第2の補間信頼度が、前記領域が広いほど大きな値を持ち、前記領域が狭いほど小さな値を持つように計算することを特徴とする請求項14から請求項20のいずれかに記載の画像処理装置。
  22. 前記画像合成手段は、前記第3の補間信頼度が、上ラインの輝度変化のパターンと下ラインの輝度変化のパターンとが類似しているほど大きな値を持つように計算することを特徴とする請求項14から請求項21のいずれかに記載の画像処理装置。
  23. 前記画像合成手段は、前記第3の補間信頼度が、
    前記上ラインの輝度変化のパターンと下ラインの輝度変化のパターンとが単純であるほど大きな値を持ち、
    前記上ラインの輝度変化のパターンと下ラインの輝度変化のパターンとが複雑であるほど小さな値を持つように計算することを特徴とする請求項14から請求項21のいずれかに記載の画像処理装置。
  24. ある時刻のインターレース画像から生成された第1のプログレッシブ画像と、前記時刻と異なる時刻の複数のインターレース画像を所定の探索範囲で推定した動きベクトルに応じて動き補償することにより生成される第2のプログレッシブ画像とを合成する際に用いる合成比率を、前記探索範囲内における前時刻のインターレース画像のラインの輝度変化と後時刻のインターレース画像のラインの輝度変化とのいずれかから決定される動き推定信頼度に基づいて計算し、前記合成比率に基づいて、第1のプログレッシブ画像と前記第2のプログレッシブ画像とを合成する画像合成手段を有することを特徴とする画像処理装置。
  25. ある時刻のインターレース画像から生成された第1のプログレッシブ画像と、前記時刻と異なる時刻の複数のインターレース画像を所定の探索範囲で推定した動きベクトルに応じて動き補償することにより生成される第2のプログレッシブ画像とを合成する際に用いる合成比率を、
    前記第2のプログレッシブ画像を生成する際の補間する画素の値の算出に用いた前時刻インターレース画像内の画素と後時刻インターレース画像内の画素との差分絶対値から決定される第1の動き推定信頼度と、
    前記探索範囲の広さから決定される第2の動き推定信頼度と、
    前記探索範囲内における前時刻のインターレース画像のラインの輝度変化と後時刻のインターレース画像のラインの輝度変化との組み合わせから決定される第3の動き推定信頼度とを統合することで決定される動き推定信頼度に基づいて計算する合成比率計算処理を情報処理装置に実行させることを特徴とするプログラム。
  26. 前記合成比率計算処理は、
    前記第1の動き推定信頼度と前記第2の動き推定信頼度と前記第3の動き推定信頼度とを統合して決定される動き推定信頼度と、
    前記第1のプログレッシブ画像を生成する際の補間する画素の値の算出に用いた上ラインの画素と下ラインの画素との差分絶対値から決定される第1の補間信頼度と、
    前記補間する画素の値の算出に用いた上ラインの画素と下ラインの画素とを決定するために用いた領域の広さから決定される第2の補間信頼度と、
    前記領域内における上ラインの輝度変化と下ラインの輝度変化の組み合わせにより決定される第3の補間信頼度と
    を統合することで決定される補間信頼度とに基づいて合成比率を計算することを特徴とする請求項25に記載のプログラム。
  27. 前記合成比率計算処理は、前記補間信頼度が高いほど、前記第1のプログレッシブ画像の合成比率が高くなるように計算することを特徴とする請求項26に記載のいずれかに記載のプログラム。
  28. 前記合成比率計算処理は、前記動き推定信頼度が高いほど、前記第2のプログレッシブ画像の合成比率が高くなるように計算することを特徴とする請求項25から請求項27のいずれかに記載のプログラム。
  29. 前記合成比率計算処理は、前記第1の動き推定信頼度が、前記差分絶対値が小さいほど大きな値を持ち、差分絶対値が大きいほど小さな値を持つように計算することを特徴とする請求項25から請求項28のいずれかに記載のプログラム。
  30. 前記合成比率計算処理は、前記第2の動き推定信頼度が、前記探索範囲が広いほど大きな値を持ち、前記探索範囲が狭いほど小さな値を持つように計算することを特徴とする請求項25から請求項29のいずれかに記載のプログラム。
  31. 前記合成比率計算処理は、前記第3の動き推定信頼度が、
    前記前時刻のインターレース画像のラインの輝度変化のパターンと後時刻のインターレース画像のラインの輝度変化のパターンが単純であるほど大きな値を持ち、
    前記前時刻のインターレース画像のラインの輝度変化のパターンと後時刻のインターレース画像のラインの輝度変化のパターンが複雑であるほど小さな値を持つように計算することを特徴とする請求項25から請求項30のいずれかに記載のプログラム。
  32. 前記合成比率計算処理は、前記第1の補間信頼度が、前記差分絶対値が小さいほど大きな値を持ち、差分絶対値が大きいほど小さな値を持つように計算することを特徴とする請求項26から請求項31のいずれかに記載のプログラム。
  33. 前記合成比率計算処理は、前記第2の補間信頼度が、前記領域が広いほど大きな値を持ち、前記領域が狭いほど小さな値を持つように計算することを特徴とする請求項26から請求項32のいずれかに記載のプログラム。
  34. 前記合成比率計算処理は、前記第3の補間信頼度が、上ラインの輝度変化のパターンと下ラインの輝度変化のパターンとが類似しているほど大きな値を持つように計算することを特徴とする請求項26から請求項33のいずれかに記載のプログラム。
  35. 前記合成比率計算処理は、前記第3の補間信頼度が、
    前記上ラインの輝度変化のパターンと下ラインの輝度変化のパターンとが単純であるほど大きな値を持ち、
    前記上ラインの輝度変化のパターンと下ラインの輝度変化のパターンとが複雑であるほど小さな値を持つ
    ように計算することを特徴とする請求項26から請求項33のいずれかに記載のプログラム。
  36. ある時刻のインターレース画像から生成された第1のプログレッシブ画像と、前記時刻と異なる時刻の複数のインターレース画像を所定の探索範囲で推定した動きベクトルに応じて動き補償することにより生成される第2のプログレッシブ画像とを合成する際に用いる合成比率を、前記探索範囲内における前時刻のインターレース画像のラインの輝度変化と後時刻のインターレース画像のラインの輝度変化とのいずれかから決定される動き推定信頼度に基づいて計算する合成比率計算処理を情報処理装置に実行させることを特徴とするプログラム。
JP2010503908A 2008-03-21 2009-03-18 画像処理方法、画像処理装置及び画像処理プログラム Expired - Fee Related JP5435242B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010503908A JP5435242B2 (ja) 2008-03-21 2009-03-18 画像処理方法、画像処理装置及び画像処理プログラム

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2008072973 2008-03-21
JP2008072973 2008-03-21
PCT/JP2009/055321 WO2009116586A1 (ja) 2008-03-21 2009-03-18 画像処理方法、画像処理装置及び画像処理プログラム
JP2010503908A JP5435242B2 (ja) 2008-03-21 2009-03-18 画像処理方法、画像処理装置及び画像処理プログラム

Publications (2)

Publication Number Publication Date
JPWO2009116586A1 JPWO2009116586A1 (ja) 2011-07-21
JP5435242B2 true JP5435242B2 (ja) 2014-03-05

Family

ID=41090985

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010503908A Expired - Fee Related JP5435242B2 (ja) 2008-03-21 2009-03-18 画像処理方法、画像処理装置及び画像処理プログラム

Country Status (3)

Country Link
US (1) US8698954B2 (ja)
JP (1) JP5435242B2 (ja)
WO (1) WO2009116586A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5687553B2 (ja) * 2011-04-25 2015-03-18 オリンパス株式会社 画像合成装置、画像合成方法及び画像合成プログラム
US10679326B2 (en) * 2015-11-24 2020-06-09 Canon Kabushiki Kaisha Image data processing apparatus and image data processing method that determine confidence data indicating a level of confidence in a pixel value in high resolution image data

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08130716A (ja) * 1994-10-31 1996-05-21 Victor Co Of Japan Ltd 走査線補間装置及び走査線補間用動きベクトル検出装置
JP3677165B2 (ja) * 1999-04-23 2005-07-27 株式会社東芝 動画像符号化装置および動画像符号化方法
JP2005333254A (ja) * 2004-05-18 2005-12-02 Sony Corp 画像処理装置および画像処理方法
JP2006174123A (ja) * 2004-12-16 2006-06-29 Sharp Corp 順次走査変換装置
WO2006126169A2 (en) * 2005-05-23 2006-11-30 Nxp B.V. Spatial and temporal de-interlacing with error criterion

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2580891B2 (ja) 1991-05-31 1997-02-12 日本ビクター株式会社 走査線補間回路
JP2000352952A (ja) * 1999-04-05 2000-12-19 Canon Inc 画像形成装置
KR20050000956A (ko) * 2003-06-25 2005-01-06 엘지전자 주식회사 비디오 포맷 변환 장치
JP4771403B2 (ja) 2004-09-29 2011-09-14 本田技研工業株式会社 Gps内蔵メータ
JP3916637B2 (ja) * 2005-03-08 2007-05-16 三菱電機株式会社 映像信号処理装置、映像信号処理方法、及び映像信号表示装置
JP2007097150A (ja) * 2005-08-31 2007-04-12 Pioneer Electronic Corp 画像信号処理装置及びインターレース・プログレッシブ変換方法
US8144778B2 (en) * 2007-02-22 2012-03-27 Sigma Designs, Inc. Motion compensated frame rate conversion system and method
JP5253077B2 (ja) * 2008-10-08 2013-07-31 キヤノン株式会社 映像処理装置およびその方法
US20100103313A1 (en) * 2008-10-23 2010-04-29 Kabushiki Kaisha Toshiba Signal processor and signal processing method
JP2010124193A (ja) * 2008-11-19 2010-06-03 Nec Electronics Corp 映像信号処理装置及び映像信号処理方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08130716A (ja) * 1994-10-31 1996-05-21 Victor Co Of Japan Ltd 走査線補間装置及び走査線補間用動きベクトル検出装置
JP3677165B2 (ja) * 1999-04-23 2005-07-27 株式会社東芝 動画像符号化装置および動画像符号化方法
JP2005333254A (ja) * 2004-05-18 2005-12-02 Sony Corp 画像処理装置および画像処理方法
JP2006174123A (ja) * 2004-12-16 2006-06-29 Sharp Corp 順次走査変換装置
WO2006126169A2 (en) * 2005-05-23 2006-11-30 Nxp B.V. Spatial and temporal de-interlacing with error criterion

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
JPN6013013778; 戸田真人,塚田正人,井上晃: '周辺領域の輝度変化に基づくエッジ適応型インターレース-プログレッシブ変換法' 第6回情報科学技術フォーラム Vol.FIT 2007 一般講演論文集 第3分冊, 20070822, p.271-272 *

Also Published As

Publication number Publication date
US20110007211A1 (en) 2011-01-13
JPWO2009116586A1 (ja) 2011-07-21
US8698954B2 (en) 2014-04-15
WO2009116586A1 (ja) 2009-09-24

Similar Documents

Publication Publication Date Title
JP4198608B2 (ja) 補間画像生成方法および装置
US20100119176A1 (en) Image processing apparatus, image processing method, and program
JP4869045B2 (ja) 補間フレーム作成方法および補間フレーム作成装置
JP5534299B2 (ja) 動き補償において周期的構造に対処する方法および装置
US20120093231A1 (en) Image processing apparatus and image processing method
US20110134315A1 (en) Bi-Directional, Local and Global Motion Estimation Based Frame Rate Conversion
US8610826B2 (en) Method and apparatus for integrated motion compensated noise reduction and frame rate conversion
US20070040935A1 (en) Apparatus for converting image signal and a method thereof
EP2161687B1 (en) Video signal processing device, video signal processing method, and video signal processing program
US20080239144A1 (en) Frame rate conversion device and image display apparatus
KR20070074781A (ko) 프레임율 변환장치
WO2011018878A1 (ja) 画像処理システム、画像処理方法および画像処理用プログラム
US8942503B1 (en) Global motion vector calculation using phase plane correlation
JP5435242B2 (ja) 画像処理方法、画像処理装置及び画像処理プログラム
JP5333791B2 (ja) 画像処理方法、画像処理装置及び画像処理プログラム
JP2008011476A (ja) フレーム補間装置及びフレーム補間方法
JP2007060192A (ja) 補間フレーム生成装置、その方法、画像表示システム、並びに、プログラムおよび記録媒体
JP2009239698A (ja) 映像変換装置及び映像変換方法
KR20110048252A (ko) 움직임 벡터 공유에 기초한 영상을 변환하는 방법 및 장치
JP2011223086A (ja) 解像度変換装置及び方法、走査線補間装置及び方法、並びに映像表示装置及び方法
JP4232869B2 (ja) 変換ユニット及び装置並びに画像処理装置
JP5975791B2 (ja) 画像処理装置及び方法、並びに画像表示装置及び方法
Van Thang et al. An efficient non-selective adaptive motion compensated frame rate up conversion
JP4915018B2 (ja) 映像処理装置、映像処理方法、プログラム、記録媒体、携帯端末、及び、受信装置
JP6854629B2 (ja) 画像処理装置、画像処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120206

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130327

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130524

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20130703

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131002

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20131017

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131113

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131126

R150 Certificate of patent or registration of utility model

Ref document number: 5435242

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees