JP2010103643A - 画像処理装置および画像表示装置 - Google Patents
画像処理装置および画像表示装置 Download PDFInfo
- Publication number
- JP2010103643A JP2010103643A JP2008271304A JP2008271304A JP2010103643A JP 2010103643 A JP2010103643 A JP 2010103643A JP 2008271304 A JP2008271304 A JP 2008271304A JP 2008271304 A JP2008271304 A JP 2008271304A JP 2010103643 A JP2010103643 A JP 2010103643A
- Authority
- JP
- Japan
- Prior art keywords
- image
- interpolation
- image processing
- original
- processing unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Television Systems (AREA)
- Control Of Indicators Other Than Cathode Ray Tubes (AREA)
- Controls And Circuits For Display Device (AREA)
Abstract
【課題】簡易な構成と簡便な処理でありながら、画像補間に伴う画質の著しい低下を回避することを可能とする画像処理装置および画像表示装置を提供する。
【解決手段】画像処理装置10は、補間処理部24と、画像処理部25とを備える。補間処理部24は、2つのオリジナル画像F1、F2に基づいて補間画像を生成し、この補間画像をオリジナル画像F1、F2の間に挿入する。画像処理部25は、画像補間によるフレームレート変換により生成された補間後動画像を構成する各画像の時間軸上の位置を示す画像位相信号Phに応じて、オリジナル画像F1、F2または補間画像に対して度合いを変えて画像処理を施す。特に、画像処理部25において、オリジナル画像F1、F2よりも補間画像の方が明瞭度の低下した画像となるように画像処理を行うようにすれば、補間画像に破綻が生じたとしても、それを目立たなくすることができる。
【選択図】図1
【解決手段】画像処理装置10は、補間処理部24と、画像処理部25とを備える。補間処理部24は、2つのオリジナル画像F1、F2に基づいて補間画像を生成し、この補間画像をオリジナル画像F1、F2の間に挿入する。画像処理部25は、画像補間によるフレームレート変換により生成された補間後動画像を構成する各画像の時間軸上の位置を示す画像位相信号Phに応じて、オリジナル画像F1、F2または補間画像に対して度合いを変えて画像処理を施す。特に、画像処理部25において、オリジナル画像F1、F2よりも補間画像の方が明瞭度の低下した画像となるように画像処理を行うようにすれば、補間画像に破綻が生じたとしても、それを目立たなくすることができる。
【選択図】図1
Description
本発明は、動画像のオリジナル画像フレーム間に補間画像フレームを挿入することによりフレームレートを変換する画像処理装置および画像表示装置に関する。
映画等のフィルムソースの映像は、通常、24fps(フレーム/秒)のプログレッシブ画像(フレーム画像)から構成されている。一方、日本等において採用されているNTSC方式のテレビジョン放送の映像は、60fpsのインタレース画像(フィールド画像)から構成されている。したがって、映画等のフィルムソースをテレビジョン放送する場合、24fpsのプログレッシブ画像を60fpsのインタレース画像に変換する処理、いわゆるテレシネ変換処理が行われる。また、近年においては、特に動きの速い動画像における動画ぼけ対策等のために、60fpsの動画像を120fps、さらには240fpsの動画像に変換するフレームレート変換処理も行われるようになっている。
このようなフレームレート変換処理では、通常、動画像を構成する一連の画像のうち、時間軸方向に前後する2つの画像(オリジナル画像)に基づいて動きベクトルを検出し、これらの2つのオリジナル画像と動きベクトルとに基づいて、オリジナル画像の間に挿入すべき補間画像を生成するようになっている。この場合、動きベクトルを如何に正確に検出するかという点が、生成される補間画像の品質に大きく関係する。極端な場合には、動きベクトルの検出精度があまりにも低いと補間画像が破綻をきたす(オリジナル画像にはない特徴をもつエラー画像となる)こともある。
従来、この種の技術に関し、いくつかの提案がなされている。例えば、特許文献1には、動きベクトルの信頼性を高めるために、動きベクトル算出用に参照する2つのオリジナル画像の組を唯一的に決めてしまうのではなく、参照する2つのオリジナル画像の組をいくつか選定し、それらの複数の組から動きベクトルを総合的に検出することが開示されている。
特許文献2〜4には、動きベクトルのばらつきの程度に応じて動きベクトルの信頼性を判定し、信頼性が確保できない場合には画像補間の際に高域成分を除去する処理を行うことにより補間画像の品質を高め、画像の破綻を回避する技術が開示されている。
特許文献5には、24fpsのフィルム信号(シネマ信号)から72fpsの信号へのフレームレート変換の際に、ある条件を満たす補間画像に対して黒画像を挿入することにより、視覚的に違和感なく表示する技術が開示されている。
しかしながら、特許文献1の技術では、補間画像の生成に用いられる動きベクトル量の信頼性が高まり補間画像の品質低下が防止されるものの、多くのフレームメモリを必要とすると共に、動きベクトルの検出を複数回にわたって行う場合があるので処理演算量が増大する。このため、簡易な構成で簡便にフレームレート変換処理を行うことが容易ではない。
また、特許文献2〜4の技術では、動きベクトルの信頼性が低い場合には高域成分を除去することにより補間画像の品質低下を防ぐことができるものの、動きベクトルのばらつきの程度に応じて動きベクトルの信頼性を判定するようにしているので、処理が複雑化し、簡便さに欠ける。
さらに、特許文献5の技術では、黒画像を挿入するという比較的簡便な処理により、フィルム信号ならではの特徴的な表現が可能にはなるものの、黒画像の挿入によって平均輝度が低下したり、ジャーキネスが観察される場合もあり、画質を高く保つことが容易ではない。
本発明はかかる問題点に鑑みてなされたもので、その目的は、簡易な構成と簡便な処理でありながら、画像補間に伴う弊害を回避することを可能とする画像処理装置および画像表示装置を提供することを目的とする。
本発明の画像処理装置は、動画像を構成する一連のオリジナル画像における時間軸方向に前後する2つのオリジナル画像に基づいて補間画像を生成し、この補間画像を2つのオリジナル画像の間に挿入する補間処理部と、オリジナル画像および補間画像からなる補間後動画像に対して所定の画像処理を行う画像処理部とを備え、画像処理部が、補間後動画像を構成する画像の時間軸上の位置である画像位相に応じて、補間後動画像を構成する各画像に対する画像処理の度合いを決定するようにしたものである。
本発明の画像表示装置は、動画像を構成する一連のオリジナル画像における時間軸方向に前後する2つのオリジナル画像に基づいて補間画像を生成し、この補間画像を2つのオリジナル画像の間に挿入する補間処理部と、オリジナル画像および補間画像からなる補間後動画像に対して所定の画像処理を行う画像処理部と、画像処理部において処理された動画像を表示する表示部とを備え、画像処理部が、補間後動画像を構成する画像の時間軸上の位置である画像位相に応じて、補間後動画像を構成する各画像に対する画像処理の度合いを決定するようにしたものである。
本発明の画像処理装置および画像表示装置では、2つのオリジナル画像に基づいて補間画像が生成され、この補間画像がオリジナル画像の間に挿入される。こうして生成された、オリジナル画像および補間画像からなる補間後動画像に対する画像処理は、各画像の画像位相に応じた度合い(程度または処理レベル)で行われる。そのような画像処理としては、例えば、コントラスト処理、高域カットフィルタリング処理またはそれらの両方の処理があげられる。この場合には、オリジナル画像の種別を判別し、その判別結果に応じて、コントラスト処理もしくは高域カットフィルタリング処理、またはその両方を選択的に行うようにすることも可能である。
本発明では、補間後動画像を構成する画像のうち、オリジナル画像に対する画像処理の度合いと補間画像に対する画像処理の度合いとを互いに異ならせるようにしてもよい。この場合には、オリジナル画像よりも補間画像の明瞭度を低下させた処理を行うことができる。また、本発明では、2つのオリジナル画像の間に複数の補間画像を生成して挿入するようにしてもよい。この場合には、これらの複数の補間画像に対し、時間軸上においてオリジナル画像から離れるに従って補間画像の明瞭度が低下するように画像処理を行うことができる。
本発明の画像処理装置および画像表示装置によれば、2つのオリジナル画像に基づいて生成した補間画像をオリジナル画像の間に挿入すると共に、補間後動画像に対して各画像の画像位相に応じた度合いの画像処理を行うようにしたので、補間後動画像に対して多種多様なやり方での(自由度の高い)画像処理を行うことができ、その結果、全画像に対して均一な(同レベルの)画像処理を行った場合に生じ得る弊害を防止することも可能になる。例えば、動きベクトルの精度が低いような場合には、オリジナル画像よりも補間画像の方の明瞭度を低下させるように画像処理を行うことにより、画像補間に伴う画質の著しい低下を回避することができる。しかも、画像位相という簡単なパラメータに応じて画像処理の度合いを変えるようにしたので、処理内容が簡便なものとなり、画像処理装置および画像表示装置も簡易な構成となる。
以下、本発明の実施の形態について、図面を参照して詳細に説明する。
<第1の実施の形態>
[画像表示装置の構成]
図1は、本発明の第1の実施の形態に係る画像処理装置を備えた画像表示装置の概略構成を表すものである。この画像表示装置1は、画像処理装置10、駆動部26および表示部27を備えており、入力されたオリジナル画像の間に補間画像を挿入することによりフレームレートを変換した後、オリジナル画像および補間画像からなる補間後動画像を表示するようになっている。
[画像表示装置の構成]
図1は、本発明の第1の実施の形態に係る画像処理装置を備えた画像表示装置の概略構成を表すものである。この画像表示装置1は、画像処理装置10、駆動部26および表示部27を備えており、入力されたオリジナル画像の間に補間画像を挿入することによりフレームレートを変換した後、オリジナル画像および補間画像からなる補間後動画像を表示するようになっている。
画像処理装置10は、フレームメモリ20、動きベクトル算出部21、出力位相検出部23、補間処理部24および画像処理部25を備えている。この画像処理装置10は、入力されたオリジナル画像および動きベクトルに基づいて補間画像を生成し、この補間画像をオリジナル画像の間に挿入してフレームレート変換を行うと共に、このフレームレート変換された後の動画像に対して所定の画像処理を施して出力する、という機能を有する。
フレームメモリ20は、入力されたオリジナル画像(映像信号S1)をフレーム単位で記憶するものである。あるタイミングで入力されるオリジナル画像をF1とし、次に入力されるオリジナル画像をF2とすると、フレームメモリ20に記憶されたオリジナル画像F1は、次のオリジナル画像F2が入力されるタイミングに合わせて、1画像分遅れて読み出され、動きベクトル算出部21に入力されるようになっている。
動きベクトル算出部21は、入力されたオリジナル画像F2とフレームメモリ20からのオリジナル画像F1とに基づいて動きベクトルを検出し、これを動きベクトル信号S2として出力するものである。
補間処理部24は、オリジナル画像F2と、フレームメモリ20からのオリジナル画像F1と、動きベクトル算出部21からの動きベクトル信号S2とに基づいて補間画像を生成し、この生成した補間画像をオリジナル画像F1、F2の間に挿入する処理を行うものである。この処理の結果、オリジナル画像F1、F2および補間画像からなる動画像(補間後動画像P1)が出力されるようになっている。なお、補間処理部24の詳細については後述する。
出力位相検出部23は、オリジナル画像F1、F2に基づいて、補間後動画像P1を構成する各画像フレームの時間軸上の位置を示す画像位相を検出するものである。より具体的には、補間処理部24から出力される画像フレームがオリジナル画像F1、F2であるのか、あるいは補間画像であるのか、さらには、補間画像が複数挿入されている場合にはどの位置の補間画像であるのかを判別し、その判別結果を画像位相信号Phとして出力するようになっている。
画像処理部25は、補間処理部24から出力された補間後動画像P1に対して、コントラスト処理やフィルタリング処理等の画像処理を行うものである。その際、画像処理部25は、出力位相検出部23からの画像位相信号Phに基づいて、補間後動画像P1に対する画像処理の度合い(処理の程度またはレベル)を決定し、その決定に基づいて画像処理を行うようになっている。ここで、画像処理の度合いを決定する場合の態様としては、様々なやり方が考えられるが、本実施の形態では、オリジナル画像に対する画像処理の度合いと補間画像に対する画像処理の度合いとを異ならせるように画像処理を行う。より具体的には、オリジナル画像F1、F2よりも補間画像の明瞭度を低下させるように画像処理を行う。その詳細は後述する。
駆動部26は、画像処理部25から出力された画像処理後の補間後動画像(画像出力P2)に基づいて表示部27を駆動するものである。
表示部27は、駆動部26の制御に基づいて画像表示を行うものであり、例えば、液晶表示パネル、有機EL表示パネル、プラズマ表示パネル、電界放出型表示パネル、ブラウン管等が利用可能である。
次に、補間処理部24について詳細に説明する。
図2は、補間処理部24の概略構成を表すものである。補間処理部24は、補間制御部30、第1の空間フィルタ31、第2の空間フィルタ32、第1の乗算器33、第2の乗算器34および加算器35を備える。
図2は、補間処理部24の概略構成を表すものである。補間処理部24は、補間制御部30、第1の空間フィルタ31、第2の空間フィルタ32、第1の乗算器33、第2の乗算器34および加算器35を備える。
補間制御部30は、動きベクトル信号S2に基づいて補間画像の画素に動きベクトルを割り付けると共に、補間画像における注目画素の位置と、この補間画像の注目画素がシフトする前のオリジナル画像F1における画素の位置との関係(空間シフト量S3)を動きベクトルに基づいて求め、得られた空間シフト量S3を第1の空間フィルタ31に供給する。補間制御部30はまた、補間画像における注目画素の位置と、この補間画像の注目画素がシフトした後のオリジナル画像F2における画素の位置との関係(空間シフト量S4)を動きベクトルに基づいて求め、得られた空間シフト量S4を第2の空間フィルタ32に供給するようになっている。補間制御部30はさらに、予め設定されている変換後のフレームレートから求めた補間画像の位相(補間位置)に応じて、オリジナル画像F1、F2の各々に対する補間重みを求め、得られた各補間重みW1、W2を各乗算器33、34に供給するようになっている。
各空間フィルタ31、32は、キュービックフィルタ等により構成される。第1の空間フィルタ31は、オリジナル画像F1の画素における画素値と空間シフト量S3とに基づいて、補間画像の画素に対応するオリジナル画像F1の画素値を求め、求めた画素値を第1の乗算器33に出力する。同様に、第2の空間フィルタ32は、オリジナル画像F2の画素における画素値と空間シフト量S4とに基づいて、補間画像の画素に対応するオリジナル画像F2の画素値を求め、求めた画素値を第2の乗算器34に出力するようになっている。
各乗算器33、34は、空間フィルタ31、32から入力された各画素値に、補間制御部30から入力された補間重みW1、W2をそれぞれ乗じることにより重み付けを行い、これらの重み付けされた各画素値を加算器35に出力するようになっている。加算器35は、各乗算器33、34から入力された画素値を加算して、補間画像Iの画素における画素値を生成し、この画素値をバッファ36に出力する。バッファ36は、画像F1、補間画像Iおよび画像F2を、その順に出力するようになっている。
[画像表示装置の動作]
次に、図3を参照して、以上のような構成の画像表示装置1の動作について説明する。図3は、画像表示装置1に入力されるオリジナル画像(同図A)と、高いフレームレートに変換された後の補間後動画像(同図B)と、ガンマ補正ゲインの変化(同図C)との関係とを表すものである。ここで、横軸が時間軸である。
次に、図3を参照して、以上のような構成の画像表示装置1の動作について説明する。図3は、画像表示装置1に入力されるオリジナル画像(同図A)と、高いフレームレートに変換された後の補間後動画像(同図B)と、ガンマ補正ゲインの変化(同図C)との関係とを表すものである。ここで、横軸が時間軸である。
画像表示装置1には、オリジナル画像F1、F2、F3、F4、F5、F6…(以下、Fk(k=1、2、…)と一般表記する。)が、1/60秒毎に(60fpsのレートで)順に入力される(図3(A))。フレームメモリ20は、先行して入力されたオリジナル画像Fkを、次のオリジナル画像F(k+1)が入力されるまで記憶する。フレームメモリ20から読み出されたオリジナル画像Fkおよび新たに入力されたオリジナル画像F(k+1)は、動きベクトル算出部21、出力位相検出部23および補間処理部24にそれぞれ入力される。以下の説明では、簡略化のため、k=1の場合、すなわち、オリジナル画像F1、F2の場合を例に説明する。
動きベクトル算出部21は、オリジナル画像F1、F2に基づいて、画像の移動を画素単位で動きベクトルS2として検出し、これを補間処理部24に出力する。補間処理部24は、オリジナル画像F1、F2および動きベクトルS2に基づいて、補間画像I1を生成し、オリジナル画像F1、補間画像I1およびオリジナル画像F2を、この順番に画像処理部25へ出力する。このように、補間処理部24において、各オリジナル画像の間に補間画像を1つずつ内挿することにより(図3(B))、オリジナル画像F1、F2および補間画像I1からなる120fpsの補間後動画像P1が画像処理部25へ入力される。すなわち、60fpsから120fpsへのフレームレート変換が行われたことになる。
出力位相検出部23は、補間画像Ikの内挿により生成される補間後動画像P1のフレームレートを予め了知しており、オリジナル画像Fkの入力タイミングを基準にして、補間処理部24から出力される補間後動画像P1に含まれる各画像の位相(時間軸上の位置)を検出し、画像位相信号Phとして画像処理部25に出力する。この画像位相信号Phは、各画像がオリジナル画像Fkであるのか、補間画像Ikであるのかを判断する基準となる。
画像処理部25は、出力位相検出部23からの画像位相信号Phに基づき、補間処理部24から入力される補間後動画像P1に含まれる各画像がオリジナル画像Fkであるのか、補間画像Ikであるのかを判別する。判別の結果、入力された画像がオリジナル画像Fkであれば、ガンマ補正ゲインを「1」とするコントラスト処理を行う一方、入力された画像が補間画像Ikであれば、ガンマ補正ゲインを「1」未満とする低コントラスト化処理を行う。この結果、画像出力P2における補間画像Ikは、オリジナル画像Fkに比べて低いコントラストになる。
駆動部26は、画像出力P2に基づいて表示部27を駆動する。これにより、表示部27では、オリジナル画像F1、補間画像I1、オリジナル画像F2、…という順で表示が行われる。
以上のように、本実施の形態によれば、画像Fkと補間画像Ikとの画像処理の度合いを異ならせており、特に、画像Fkに比べて補間画像Ikを低コントラストにする画像処理を行うようにしたので、補間画像の明瞭度を低下させることができる。このため、例えば動きベクトルの検出精度が低いことに起因して、画像補間処理に伴う画像破綻が生じたとしても、そのような画像破綻が視認され難くなる。すなわち、フレームレート変換によって画質が著しく低下してしまうのを回避することができる。しかも、画像位相という簡単なパラメータに応じて画像処理の度合い(コントラスト処理の強さ)を変えるようにしたので、処理内容が簡便であり、画像処理装置および画像表示装置も構成が簡易となる。
なお、本実施の形態では、補間処理部24が動きベクトルS2に基づいて補間画像を生成し内挿処理を行うようにしたが、補間画像をより簡単に生成することも可能である。例えば、補間画像I1を次の式(1)に基づいて生成するようにしてもよい。
I1=(xF1+yF2)/z ……(1)
ここで、係数(x,y,z)は、固定値としている。この場合には、補間処理がより簡易となり、回路構成をさらに簡略化することができる。
I1=(xF1+yF2)/z ……(1)
ここで、係数(x,y,z)は、固定値としている。この場合には、補間処理がより簡易となり、回路構成をさらに簡略化することができる。
以下、本発明の他の実施の形態について説明する。なお、以下の実施の形態の説明において、第1の実施の形態と同じ構成要素には、同一符号を付してその詳細な説明を省略または簡略化する。
<第2の実施の形態>
上記第1の実施の形態では、2つのオリジナル画像間に1つの補間画像を挿入して60fpsというフレームレートを2倍の120fpsにする場合について説明したが、本実施の形態では、2つのオリジナル画像間に複数の補間画像を挿入する場合について説明する。
上記第1の実施の形態では、2つのオリジナル画像間に1つの補間画像を挿入して60fpsというフレームレートを2倍の120fpsにする場合について説明したが、本実施の形態では、2つのオリジナル画像間に複数の補間画像を挿入する場合について説明する。
本実施の形態の画像表示装置の基本構成は、上記第1の実施の形態の場合(図1)と同様である。但し、本実施の形態では、主として補間処理部24の動作が相違する。以下、簡単に動作を説明する。
本実施の形態では、図4(A)、(B)に示したように、補間処理部24が、2つのオリジナル画像F1、F2間に4つの補間画像I1−1〜I1−4を挿入することにより24fpsのシネマ信号から120fpsの映像信号へのフレームレート変換を行う。出力位相検出部23は、補間処理部24から出力された補間後動画像P1を構成する各画像の画像位相(オリジナル画像F1および補間画像I1−1〜I1−4のうちのいずれの画像位置か)を検出し、検出結果を画像位相信号Phとして出力する。画像処理部25は、画像位相信号Phに基づいて、各画像に対する画像処理(ここでは、コントラスト処理)の度合いを決定すると共に、決定した度合いでの画像処理を行う。具体的には、画像位相信号Phに応じたガンマ補正ゲインでのコントラスト処理を行う。それ以外の構成および作用は、上記第1の実施の形態の場合と同様である。
上記のように2つのオリジナル画像F1、F2間に複数の補間画像I1−1〜I1−4を挿入する場合、オリジナル画像F1、F2から時間的に離れた補間画像においては、画像の破綻が大きくなっている可能性がある。この場合には、オリジナル画像F1、F2から時間的に離れるに従って補間画像の明瞭度の低下を大きくすることが好ましい。そこで、画像処理部25は、オリジナル画像F1、F2から離れるに従って、補間画像I1−1〜I1−4に適用するコントラスト処理のガンマ補正ゲインを小さくするように制御を行う。
例えば、図4(C)に示したように、オリジナル画像F1、F2に近い補間画像I1−1、I2−4に対しては、コントラスト処理のゲインをオリジナル画像F1、F2のゲイン(ここでは「1」)よりもやや小さくすると共に、オリジナル画像F1、F2から遠く離れた補間画像I1−2、I1−3に対しては、コントラスト処理のゲインを補間画像I1−1、I1−4よりもさらに小さくすればよい。
一般に、補間画像I1−1〜I1−4に破綻が生じる場合、その破綻の程度は、補間画像I1−1、I1−4よりも補間画像I1−2、I1−3において著しい場合が多い。これは、オリジナル画像F1、F2から遠く離れるほど、動きベクトルの検出精度が低下するからである。そこで、上記のように、オリジナル画像F1、F2から遠く離れた補間画像I1−2、I1−3の明瞭度が、オリジナル画像F1、F2に近い補間画像I1−1、I1−4の明瞭度よりも低くなるようにコントラスト処理を行うことにより、より大きな画像破綻が生じていたとしても、それが視認され難くなる。これにより、フレームレート変換によって画質が著しく低下してしまうのを回避することができる。
なお、図4(C)に示した例ではゲインを3種類用意するようにしたが、ゲインを4種類以上用意して、これらを選択的に各画像に適用するようにしてもよい。また、図4の例では、オリジナル画像F1、F2に対するガンマ補正ゲインを「1」に設定(入力画像をそのまま出力)するようにしたが、他の値に設定するようにしてもよい(1より大きくても良いし、小さくてもよい)。
本実施の形態のようにガンマ補正ゲインを複数段階に変化させて適応制御する場合には、各画像位相とゲインとを対応付けたルックアップテーブルを予め用意しておき、画像位相に応じて、ルックアップテーブルから該当するゲインを読み出して適用することにより、コントラスト処理を適応的に行うことができる。あるいは、画像位相(Ph)を変数とする1次関数または2次関数によって近似処理を行ってゲインコントロール値を算出し、算出した値を各画像に適用することにより、コントラスト処理を行うようにしてもよい。
<第3の実施の形態>
上記実施の形態では、画像位相信号Phに基づき補間後動画像P1における各画像に対して適応的にコントラスト処理を行う場合について説明したが、本実施の形態では、画像位相信号Phに基づき、補間後動画像P1における各画像に対して適応的に高域カットフィルタ処理を行うことにより、補間画像の破綻を視認され難くする場合について説明する。具体的には、画像処理部25が、3×3画素や5×5画素等の2次元のフィルタ処理を行って、補間画像に対してぼかしを加えることにより、補間画像を視認され難くする。
上記実施の形態では、画像位相信号Phに基づき補間後動画像P1における各画像に対して適応的にコントラスト処理を行う場合について説明したが、本実施の形態では、画像位相信号Phに基づき、補間後動画像P1における各画像に対して適応的に高域カットフィルタ処理を行うことにより、補間画像の破綻を視認され難くする場合について説明する。具体的には、画像処理部25が、3×3画素や5×5画素等の2次元のフィルタ処理を行って、補間画像に対してぼかしを加えることにより、補間画像を視認され難くする。
本実施の形態の画像表示装置の基本構成は、上記第1の実施の形態の場合(図1)と同様である。但し、本実施の形態では、主として画像処理部25の動作が相違する。以下、画像処理部25の動作を中心として説明する。
図5は、オリジナル画像F1、F2、…と、高いレームレートに変換された後の補間後動画像P1と、高域カットフィルタ処理によって加えられるぼけ量との関係を表すものである。この図に示したように、本実施の形態では、画像処理部25において、出力位相検出部23から出力される画像位相信号Phに応じて、補間画像に対する画像処理の度合いを異ならせる処理を行う。具体的には、オリジナル画像F1、F2、F3、…から時間的に離れるに従ってフィルタ処理を強くして、ぼけ量を大きくし、明瞭度を低下させる処理を行う。
このようなフィルタ処理は、例えば3×3画素の平滑化フィルタによって実現される。オリジナル画像における座標(k、l)の入力画素値をN(k、l)とし、座標(k、l)の出力画素値をF(k、l)と表記すると、フィルタの出力は下式(2)となる。ここで、K0〜K8は、平滑化フィルタの係数値である。
F(i,j)=K0*N(i−1,j−1)+K1*N(i,j−1)
+K2*N(i+1,j−1)+K3*N(i−1,j)
+K4*N(i,j)+K5*N(i+1,j)
+K6*N(i−1,j+1)+K7*N(i,j+1)
+K8*N(i+1,j+1) ……(2)
F(i,j)=K0*N(i−1,j−1)+K1*N(i,j−1)
+K2*N(i+1,j−1)+K3*N(i−1,j)
+K4*N(i,j)+K5*N(i+1,j)
+K6*N(i−1,j+1)+K7*N(i,j+1)
+K8*N(i+1,j+1) ……(2)
補間画像I1−2、I1−3に適用される平滑化フィルタの係数値は、以下のようになる(フィルタ係数セットA)。
K0=K2=K6=K8=1/16
K1=K3=K5=K7=1/8
K4=1/4
K0=K2=K6=K8=1/16
K1=K3=K5=K7=1/8
K4=1/4
また、オリジナル画像に近い位置の補間画像I1−1、I1−4に適用される平滑化フィルタの係数値は、以下のようになる(フィルタ係数セットB)。
K0=K2=K6=K8=1/32
K1=K3=K5=K7=1/16
K4=5/8
K0=K2=K6=K8=1/32
K1=K3=K5=K7=1/16
K4=5/8
さらに、オリジナル画像そのものに適用される平滑化フィルタの係数値は、以下のようになる(フィルタ係数セットC)。
K0=K2=K6=K8=0
K1=K3=K5=K7=0
K4=1
この場合は、フィルタがオフの状態に相当する。
K0=K2=K6=K8=0
K1=K3=K5=K7=0
K4=1
この場合は、フィルタがオフの状態に相当する。
画像処理部25は、画像位相信号Phと上記のようなフィルタ係数セットA〜Cとを対応付けたルックアップテーブルLUT(図示せず)を有しており、画像位相信号Phに応じて、このLUTからフィルタ係数セットA〜Cのいずれかを選択して、画素ごとにフィルタ処理を行い、フィルタ出力値F(i,j)を得る。これにより、オリジナル画像に近い位置の補間画像I1−1、I1−4は、オリジナル画像F1、F2よりもぼけ量が大きくなり、明瞭度が低下する。また、オリジナル画像から離れた位置の補間画像I1−2、I1−3は、補間画像I1−1、I1−4よりもぼけ量が大きくなり、明瞭度がさらに低下する。
以上のように、本実施の形態によれば、フィルタ処理により画像Fkに比べて補間画像Ikをぼかす画像処理を行うようにしたので、補間画像Ikの明瞭度を低下させることができ、画像の破綻を目立たなくすることができる。特に、画像Fkから離れた補間画像I1−2、I1−3の明瞭度を、画像Fkに近い補間画像I1−1、I1−4の明瞭度よりも低くする(すなわち、より重度の画像破綻の発生が予想される内挿位置の補間画像の明瞭度を、より低下させる)ようにしたので、画像破綻がさほど大きくない補間画像に対して過度のぼかしが加えられてしまう弊害を回避しつつ、画像補間Ikに伴う画像破綻による画質の著しい低下を回避することができる。しかも、そのような、適応的なフィルタ処理を、画像位相という簡単なパラメータに基づいて行うようにしたので、構成および処理が簡易となる。
なお、上記実施の形態では、補間画像に適用するフィルタを3種類用意して、選択的に補間画像に適用する場合について説明したが、フィルタを2種類用意して、オリジナル画像と補間画像との間で使い分けるようにしてもよい。さらに、フィルタを4種類以上用意して、選択的に補間画像に適用するようにしてもよい。
また、上記実施の形態では、画像間に4つの補間画像が挿入した場合について説明したが、2つのオリジナル画像間に3つ以下、あるいは5つ以上の補間画像を挿入するようにしてもよい。
<第4の実施の形態>
図6は、第4の実施の形態に係る画像処理装置を備えた画像表示装置の概略構成を表すものである。この画像表示装置2は、種別検出部40が設けられている点、ならびに画像処理部41の構成および動作において上記第1〜3の実施の形態の場合と相違し、その他の部分は同様である。
図6は、第4の実施の形態に係る画像処理装置を備えた画像表示装置の概略構成を表すものである。この画像表示装置2は、種別検出部40が設けられている点、ならびに画像処理部41の構成および動作において上記第1〜3の実施の形態の場合と相違し、その他の部分は同様である。
本実施の形態では、種別検出部40が、入力された映像信号S1に基づいて、画像の種別を検出し、その検出結果に応じて、画像処理部41における画像処理の内容(コントラスト処理もしくは高域カットフィルタリング処理、またはその両方)を適応的に切り換える。画像の種別としては、例えば、シネマ信号、テレシネ変換された後の映像信号、あるいは番組コンテンツの分野(例えば、ドラマ映像、バラエティ映像等)ごとの区別等がある。
図7に示したように、画像処理部41は、コントラスト処理部42、フィルタ処理部43、およびスイッチ44、45を備える。コントラスト処理部42は、第1の実施の形態で説明した適用的なコントラスト処理を行うものであり、フィルタ処理部43は、第3の実施の形態で説明した適用的なフィルタ処理を行うものである。
コントラスト処理部42には、補間処理部24からの補間後動画像P1と、出力位相検出部23からの画像位相信号Phとが入力されるようになっている。フィルタ処理部43は、スイッチ44を介してコントラスト処理部42の出力側に接続される。フィルタ処理部43の出力側は、スイッチ45を介して、後段の駆動部26(図6)に接続されている。
各スイッチ44、45は、入力された画像種別信号S3に応じて接続先を切り換えるように機能する。具体的には、以下の通りである。
画像の種別が第1の種別の場合、スイッチ44は接点aに接続された状態になると共に、スイッチ45は接点bに切り換わる。これにより、補間処理部24から出力された補間後動画像P1はコントラスト処理部42をバイパスしてフィルタ処理部に直接に入力され、フィルタ処理のみが行われる。第1の種別としては、例えば、プルダウン信号以外の信号(非プルダウン信号、例えばテレシネ変換された画像信号以外の信号)が該当する。この場合において、非プルダウン信号のときにはフィルタ処理が行われ、解像度の低下によって破綻を見えにくくすることができる。一方、プルダウン信号のときにはコントラスト処理が行われるので、映画らしさを保つことができる。
画像の種別が第2の種別の場合、スイッチ44は接点a、bのいずれにも接続されず、かつスイッチ45は接点aに切り換わる。これにより、補間処理部24から出力された補間後動画像P1はコントラスト処理部42にのみ入力され、コントラスト処理のみが行われる。第2の種別としては、例えば画像信号が高解像度信号である場合が該当する。この場合には、コントラストの低下によって破綻が見えにくくなると同時に、画像の解像度を保つことができる。
画像の種別が第1および第2の種別以外の場合(第3の種別の場合)、スイッチ44、45はいずれも接点bの側に切り換わる。これにより、コントラスト処理部42とフィルタ処理部43とが直列接続され、補間後動画像P1はコントラスト処理とフィルタ処理の両方の処理を受けることになる。
コントラスト処理部42およびフィルタ処理部43には、画像位相信号Phが入力され、この画像位相信号Phに応じて、適用的なコントラスト処理またはフィルタ処理が行われる。
このように、本実施の形態では、オリジナル画像の種別に応じてコントラスト処理およびフィルタ処理のうち少なくとも一方を選択的に実施することができるので、画質に応じた適切な画像処理を行うことができる。
以上、いくつかの実施の形態および変形例を挙げて本発明を説明したが、本発明はこれらの実施の形態等に限定されるものではなく、種々変形が可能である。例えば、上記第4の実施の形態では、オリジナル画像の種別に応じてコントラスト処理およびフィルタ処理のうち少なくとも一方を選択的に行うようにしたが、これに代えて、コントラスト処理とフィルタ処理とを恒常的に行うようにしてもよい。この場合、コントラスト処理を行った後にフィルタ処理を行ってもよく、フィルタ処理を行った後にコントラスト処理を行ってもよい。
また、上記実施の形態では、フレームレートを60fpsから120fpsに変換する場合や、24fpsから120fpsに変換する場合等について説明したが、任意のフレームレートをより高いフレームレートに変換する場合に適用可能である。
また、上記実施の形態では、オリジナル画像から遠く離れた補間画像ほど明瞭度をより低下させる処理を行う場合について説明したが、その逆のやり方の処理も可能である。具体的には、オリジナル画像に近い補間画像ほど、明瞭度をより低下させるような画像処理を行うようにしてもよい。
あるいは、オリジナル画像に隣接した補間画像についてはオリジナル画像と同様の度合いでの画像処理を行うと共に、オリジナル画像に隣接していない補間画像についてはオリジナル画像とは異なる度合いでの画像処理(より強い画像処理、またはより弱い画像処理)を行うようにしてもよい。
1、2…画像表示装置、10、11…画像処理装置、20…フレームメモリ、21…動きベクトル算出部、23…出力位相検出部、24…補間処理部、25、41…画像処理部、40…種別検出部。
Claims (10)
- 動画像を構成する一連のオリジナル画像における時間軸方向に前後する2つのオリジナル画像に基づいて補間画像を生成し、この補間画像を前記2つのオリジナル画像の間に挿入する補間処理部と、
前記オリジナル画像および前記補間画像からなる補間後動画像に対して所定の画像処理を行う画像処理部と
を備え、
前記画像処理部は、前記補間後動画像を構成する画像の時間軸上の位置である画像位相に応じて、前記補間後動画像を構成する各画像に対する画像処理の度合いを決定する
画像処理装置。 - 前記画像処理部は、前記補間後動画像を構成する画像のうち、前記オリジナル画像に対する画像処理の度合いと前記補間画像に対する画像処理の度合いとを互いに異ならせて画像処理を行う
請求項1に記載の画像処理装置。 - 前記画像処理部は、前記オリジナル画像よりも前記補間画像の方が明瞭度の低下した画像となるように画像処理を行う
請求項2に記載の画像処理装置。 - 前記補間処理部は、前記2つのオリジナル画像の間に複数の補間画像を生成して挿入する
請求項1に記載の画像処理装置。 - 前記画像処理部は、前記複数の補間画像に対し、時間軸上においてオリジナル画像から離れるに従って補間画像の明瞭度が低下するように画像処理を行う
請求項4に記載の画像処理装置。 - 前記画像処理部が行う画像処理は、コントラスト処理である
請求項1に記載の画像処理装置。 - 前記画像処理部が行う画像処理は、高域カットフィルタリング処理である
請求項1に記載の画像処理装置。 - 前記画像処理部が行う画像処理は、コントラスト処理および高域カットフィルタリング処理である
請求項1に記載の画像処理装置。 - 前記オリジナル画像の種別を検出する種別検出部をさらに備え、
前記画像処理部は、前記種別検出部により検出された種別に応じて、コントラスト処理もしくは高域カットフィルタリング処理、またはその両方を選択的に行う
請求項1に記載の画像処理装置。 - 動画像を構成する一連のオリジナル画像における時間軸方向に前後する2つのオリジナル画像に基づいて補間画像を生成し、この補間画像を前記2つのオリジナル画像の間に挿入する補間処理部と、
前記オリジナル画像および前記補間画像からなる補間後動画像に対して所定の画像処理を行う画像処理部と、
前記画像処理部において処理された動画像を表示する表示部と
を備え、
前記画像処理部は、前記補間後動画像を構成する画像の時間軸上の位置である画像位相に応じて、前記補間後動画像を構成する各画像に対する画像処理の度合いを決定する
画像表示装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008271304A JP2010103643A (ja) | 2008-10-21 | 2008-10-21 | 画像処理装置および画像表示装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008271304A JP2010103643A (ja) | 2008-10-21 | 2008-10-21 | 画像処理装置および画像表示装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2010103643A true JP2010103643A (ja) | 2010-05-06 |
Family
ID=42293902
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008271304A Pending JP2010103643A (ja) | 2008-10-21 | 2008-10-21 | 画像処理装置および画像表示装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2010103643A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2015173967A1 (ja) * | 2014-05-16 | 2015-11-19 | セガサミークリエイション株式会社 | ゲーム画像生成装置およびプログラム |
JP2017191990A (ja) * | 2016-04-12 | 2017-10-19 | 日本放送協会 | コントラスト補正装置及びプログラム |
-
2008
- 2008-10-21 JP JP2008271304A patent/JP2010103643A/ja active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2015173967A1 (ja) * | 2014-05-16 | 2015-11-19 | セガサミークリエイション株式会社 | ゲーム画像生成装置およびプログラム |
US10099132B2 (en) | 2014-05-16 | 2018-10-16 | Sega Sammy Creation Inc. | Game image generation device and program |
JP2017191990A (ja) * | 2016-04-12 | 2017-10-19 | 日本放送協会 | コントラスト補正装置及びプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7639309B2 (en) | Method and system for analog video noise reduction by blending FIR and IIR filtering | |
KR100914619B1 (ko) | 디인터레이싱 방법, 장치 및 시스템 | |
US8754937B2 (en) | Video signal processing apparatus and image display apparatus | |
JP4513913B2 (ja) | 画像信号処理装置および方法 | |
US8503812B2 (en) | Method and system for motion compensated temporal filtering using both FIR and IIR filtering | |
JP2008078858A (ja) | 画像表示装置及び方法 | |
JP2009200802A (ja) | 映像表示装置 | |
US7688385B2 (en) | Video signal processing apparatus and method | |
JP5490236B2 (ja) | 画像処理装置および方法、画像表示装置および方法 | |
JP2011250394A (ja) | 画像処理装置及びその制御方法 | |
US20100289928A1 (en) | Video Signal Processing Unit and Display Unit | |
US20100026904A1 (en) | Video signal processing apparatus and video signal processing method | |
JP4200381B2 (ja) | 映像表示装置及び映像表示方法 | |
JP2010103643A (ja) | 画像処理装置および画像表示装置 | |
JP2008028507A (ja) | 画像補正回路、画像補正方法および画像表示装置 | |
JP4746909B2 (ja) | ビデオシーケンスの補助データ処理 | |
US8013935B2 (en) | Picture processing circuit and picture processing method | |
JP5178477B2 (ja) | 映像信号処理装置及び方法、並びに映像表示装置 | |
JP2007074439A (ja) | 映像処理装置 | |
WO2009081627A1 (en) | Interpolation processing apparatus, interpolation processing method, and picture display apparatus | |
JP4454380B2 (ja) | 3次元ノイズリダクション回路及び映像信号処理装置 | |
JP2010124257A (ja) | 映像処理装置、映像表示装置、及びフレームレート変換方法 | |
JP2009253567A (ja) | テレビジョン受信機及びそのフレームレート変換方法 | |
JP4551343B2 (ja) | 映像処理装置、及び映像処理方法 | |
JP2006078552A (ja) | 画像拡大装置 |