JP2009141798A - 画像補間装置 - Google Patents
画像補間装置 Download PDFInfo
- Publication number
- JP2009141798A JP2009141798A JP2007317531A JP2007317531A JP2009141798A JP 2009141798 A JP2009141798 A JP 2009141798A JP 2007317531 A JP2007317531 A JP 2007317531A JP 2007317531 A JP2007317531 A JP 2007317531A JP 2009141798 A JP2009141798 A JP 2009141798A
- Authority
- JP
- Japan
- Prior art keywords
- interpolation
- screen
- image
- unit
- frame
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 230000033001 locomotion Effects 0.000 claims abstract description 56
- 238000004364 calculation method Methods 0.000 claims abstract description 55
- 239000013598 vector Substances 0.000 claims abstract description 50
- 238000012545 processing Methods 0.000 claims abstract description 18
- 238000006243 chemical reaction Methods 0.000 claims description 24
- 238000000034 method Methods 0.000 claims description 21
- 238000013500 data storage Methods 0.000 claims description 7
- 230000006866 deterioration Effects 0.000 abstract description 3
- 230000010365 information processing Effects 0.000 description 8
- 238000010586 diagram Methods 0.000 description 5
- 238000004891 communication Methods 0.000 description 4
- 238000012790 confirmation Methods 0.000 description 3
- 230000015556 catabolic process Effects 0.000 description 2
- 238000006731 degradation reaction Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 210000005252 bulbus oculi Anatomy 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G3/00—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
- G09G3/20—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
- G09G3/34—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters by control of light from an independent source
- G09G3/36—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters by control of light from an independent source using liquid crystals
- G09G3/3611—Control of matrices with row and column drivers
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4007—Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2320/00—Control of display operating conditions
- G09G2320/10—Special adaptations of display systems for operation with variable images
- G09G2320/106—Determination of movement vectors or equivalent parameters within the image
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2340/00—Aspects of display data processing
- G09G2340/04—Changes in size, position or resolution of an image
- G09G2340/0407—Resolution change, inclusive of the use of different resolutions for different screen areas
- G09G2340/0435—Change or adaptation of the frame rate of the video stream
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
- H04N7/0135—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
- H04N7/014—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes involving the use of motion vectors
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Hardware Design (AREA)
- Crystallography & Structural Chemistry (AREA)
- Chemical & Material Sciences (AREA)
- Television Systems (AREA)
- Controls And Circuits For Display Device (AREA)
- Liquid Crystal (AREA)
- Liquid Crystal Display Device Control (AREA)
- Transforming Electric Information Into Light Information (AREA)
- Control Of Indicators Other Than Cathode Ray Tubes (AREA)
Abstract
【課題】画像補間の対象となる映像中に非映像領域があった場合でも、誤補間に起因する品質劣化を防いで、安定した映像を提供する。
【解決手段】特徴量算出部103は、画面全体の特徴量を算出し、特徴量算出部102は、指定情報部101により指定される画面領域のみの特徴量を算出する。補間判定制御部104は、2つの特徴量が一致すれば補間ONを出力し、一致しなければ補間OFFを出力する。画面中央補間部111は、動きベクトル探索部105からの動きベクトルを用いて、画面領域内における補間画像を生成する。画面端補間部112は、補間ONのとき、画面端の補間処理を実行し、補間OFFのとき、画面端の補間処理を停止する。したがって、補間ONのときは、画面全体を補間する補間フレームが出力され、補間OFFのときは、指定された画面領域のみを補間する補間フレームが出力される。
【選択図】図1
【解決手段】特徴量算出部103は、画面全体の特徴量を算出し、特徴量算出部102は、指定情報部101により指定される画面領域のみの特徴量を算出する。補間判定制御部104は、2つの特徴量が一致すれば補間ONを出力し、一致しなければ補間OFFを出力する。画面中央補間部111は、動きベクトル探索部105からの動きベクトルを用いて、画面領域内における補間画像を生成する。画面端補間部112は、補間ONのとき、画面端の補間処理を実行し、補間OFFのとき、画面端の補間処理を停止する。したがって、補間ONのときは、画面全体を補間する補間フレームが出力され、補間OFFのときは、指定された画面領域のみを補間する補間フレームが出力される。
【選択図】図1
Description
本発明は、2つの映像フレームの間に、実在しない映像フレームを補間によって生成する画像補間技術に関する。
薄型テレビに用いられるディスプレイの1つである液晶ディスプレイ(LCD)においては、CRT(Cathode Ray Tube)やプラズマディスプレイのようにディスプレイに一瞬の画像を描画するインパルス表示とは異なり、次の映像フレームが来るまでの間、描画を続けるホールド表示が用いられる。
このホールド表示では、映像中の動体に対して、眼球の追従による動き補間と、位置の変わらないホールド表示との間のアンマッチによって、モーションジャダといわれる現象が発生する。また、近年始まったワンセグ放送では、フレームレートが15fps程度と、現行のアナログ放送よりも低いレートになっていることから、動きの不自然さが目立つことがある。
この問題を解決するには、映像フレームの間に中間フレームを作成し、動きを補間した映像を見せることが効果的である。この動きの補間の様子を図19に示す。時刻t−1におけるフレーム11と時刻tにおけるフレーム13から画面内の動きベクトルを求め、例えば、1/2時刻後の動きを補償することで、ちょうど真ん中の時刻t−1/2における補間フレーム12が生成される。これにより、映像の画質向上を図ることができる。
ところで、放送においては、この補間対象となる映像が常に画面全体にあるとは限らない。例えば、レターボックスやサイドパネルに代表される、画サイズ調整用の非映像領域(黒帯領域/壁紙領域)が設けられる場合がこれに相当する。典型的なサイドパネルの黒帯領域を、図20に示す。このような非映像領域における補間を適切に制御しないと、黒帯境界が振動しているように見えることで、視覚的な劣化として目立ってしまう。
また、表示デバイスに近い箇所でフレーム補間処理を行う場合、映像信号だけでなく、その他の表示情報、例えば、テキスト領域やピクト表示領域まで含めて、入力映像として処理されることが考えられる。この場合、ユーザ操作により映像部分のみが拡大されて全画面表示となることもあり、一定の画面デザインルールはあるものの、時系列で見るとこれらの領域の境界が常に継続するわけではない。
下記の特許文献1には、非映像領域における動きベクトル探索を制御する技術として、画面端における動きベクトル探索が画面外の領域を参照することを防ぐため、現在の座標情報に基づき探索方向に制限をかける方法が開示されている。
図21は、特許文献1に開示された補間方法を示している。動きベクトル探索部21は、画像領域情報23により画面サイズを認識し、動きベクトルを求める。補間画像生成部22は、その動きベクトルから補間フレームを生成する。
また、下記の特許文献2には、非映像領域における補間映像を生成する技術として、動きベクトルに基づいて決定される参照画像が非容認画像位置にある場合に、新たな画像データの生成を禁じる方法が開示されている。
図22は、特許文献2に開示された補間ON/OFF制御方法を示している。動きベク
トル探索部31は、動きベクトルを求め、領域外参照確認部33と補間画像生成部32に出力する。領域外参照確認部33は、画像領域情報34により映像領域境界を認識し、動きベクトルに基づいて決定される参照画像が非容認画像位置にある場合に、補間画像生成部32による補間処理をOFFにする。
特開平6−276510号公報
特開2005−287049号公報
トル探索部31は、動きベクトルを求め、領域外参照確認部33と補間画像生成部32に出力する。領域外参照確認部33は、画像領域情報34により映像領域境界を認識し、動きベクトルに基づいて決定される参照画像が非容認画像位置にある場合に、補間画像生成部32による補間処理をOFFにする。
しかしながら、上述した従来の画像補間方法には、次のような問題がある。
特許文献1の補間方法では、画面サイズを指定する画像領域情報をタイミングよく与えなければ、動きベクトルの探索方向を適切に制限することができない。また、画面サイズの切り替わりをどのようにして検出するのかについては、開示されていない。
特許文献1の補間方法では、画面サイズを指定する画像領域情報をタイミングよく与えなければ、動きベクトルの探索方向を適切に制限することができない。また、画面サイズの切り替わりをどのようにして検出するのかについては、開示されていない。
特許文献2の補間方法では、映像領域境界が既知でかつ変化しないことが前提であり、それが時間的に変化すると、対応することができなくなる。
本発明の課題は、画像補間の対象となる映像中に非映像領域があった場合でも、誤補間に起因する品質劣化を防いで、安定した映像を提供することである。
本発明の課題は、画像補間の対象となる映像中に非映像領域があった場合でも、誤補間に起因する品質劣化を防いで、安定した映像を提供することである。
第1の画像補間装置は、指定情報部、第1の算出部、第2の算出部、判定部、および制御部を備え、前後の画像フレームから補間フレームを生成する。
指定情報部は、画面領域を指定する領域情報を出力する。第1の算出部は、画面全体における第1の特徴量を算出し、第2の算出部は、指定領域における第2の特徴量を算出する。判定部は、第1の特徴量と第2の特徴量との一致不一致を判定し、制御部は、第1の特徴量と第2の特徴量とが不一致なら、指定領域外における補間フレームを生成しないように制御する。
指定情報部は、画面領域を指定する領域情報を出力する。第1の算出部は、画面全体における第1の特徴量を算出し、第2の算出部は、指定領域における第2の特徴量を算出する。判定部は、第1の特徴量と第2の特徴量との一致不一致を判定し、制御部は、第1の特徴量と第2の特徴量とが不一致なら、指定領域外における補間フレームを生成しないように制御する。
画面全体における第1の特徴量と、指定された画面領域における第2の特徴量を比較することで、画面領域外の非映像領域における補間の可否が判定される。第1の特徴量と第2の特徴量とが不一致なら、指定領域外の補間を禁止する制御が行われる。
第2の画像補間装置は、指定情報部、第1の算出部、第2の算出部、補間判定部、第1の補間部、および第2の補間部を備え、前後の画像フレームから補間フレームを生成する。
指定情報部は、画面領域を指定する領域情報を出力する。第1の算出部は、画面全体における第1の特徴量を算出し、第2の算出部は、領域情報に基づき、指定領域における第2の特徴量を算出する。補間判定部は、第1の特徴量と第2の特徴量との一致不一致に基づいて、補間が有効か無効かを判定する。第1の補間部は、画面領域における補間フレームを生成する。第2の補間部は、補間判定部の判定結果に基づき、指定領域外における補間フレームを生成する。
画面全体における第1の特徴量と、指定された画面領域における第2の特徴量を比較することで、画面領域外の非映像領域における補間の有効/無効が判定される。第1の特徴量と第2の特徴量とが一致すれば、指定領域外の補間が行われ、第1の特徴量と第2の特徴量とが不一致なら、指定領域外の補間は行われない。
参照される映像中における非映像領域が時間的に変化する場合でも、その変化に適応し
ながら補間の可否を判定することができる。したがって、非映像領域を誤って補間することに起因する品質劣化が防止され、安定した補間映像が得られる。
ながら補間の可否を判定することができる。したがって、非映像領域を誤って補間することに起因する品質劣化が防止され、安定した補間映像が得られる。
また、表示デバイスの直前でフレーム補間処理を行う場合であっても、外部からタイミングを合わせて画像領域情報を変更する必要がなくなる。
以下、図面を参照しながら、本発明を実施するための最良の形態を詳細に説明する。
図1は、実施形態の画像補間装置の構成例を示している。この画像補間装置は、指定情報部101、特徴量算出部102、103、補間判定制御部104、動きベクトル探索部105、および補間画像生成部106を備える。
図1は、実施形態の画像補間装置の構成例を示している。この画像補間装置は、指定情報部101、特徴量算出部102、103、補間判定制御部104、動きベクトル探索部105、および補間画像生成部106を備える。
指定情報部101は、画面中央部の画面領域を指定する領域情報を格納し、その領域情報を特徴量算出部102および補間画像生成部106に出力する。動きベクトル探索部105は、2つの入力映像フレームの間で、所定サイズのブロック(矩形領域)を用いたブロックマッチングを行い、マッチング結果から動きベクトルを求める。得られた動きベクトルは、特徴量算出部102、103、および補間画像生成部106に出力される。特徴量算出部103は、画面全体を対象として画面の特徴量を算出し、特徴量算出部102は、与えられた領域情報に基づき、指定領域内のみの画面の特徴量を算出する。
補間判定制御部104は、特徴量算出部102および103が算出する2つの特徴量が一致するか否かを判定し、その判定結果に基づいて、画面領域外の画面端における補間が有効か否かを判定する。2つの特徴量が一致すれば、補間は有効と判定され、補間ONの制御信号が補間画像生成部106に出力される。一方、2つの特徴量が一致しなければ、補間は無効と判定され、補間OFFの制御信号が補間画像生成部106に出力される。
補間画像生成部106は、画面中央補間部111および画面端補間部112を含む。画面中央補間部111は、動きベクトル探索部105からの動きベクトルを用いて、画面領域内における補間画像を生成する。画面端補間部112は、補間判定制御部104からの制御信号に基づき、動きベクトルを用いて画面端における補間画像を生成する。画面端補間部112は、補間ONの制御信号が入力されたとき、前記動きベクトルを用いて画面端の補間処理を実行し、補間OFFの制御信号が入力されたとき、画面端の補間処理を停止する。
したがって、補間ONのときは、画面全体を補間する補間フレームが出力され、補間OFFのときは、指定された画面領域のみを補間する補間フレームが出力される。
このような画像補間処理によれば、画面端の非映像領域が時間的に変化する場合でも、その変化に適応しながら補間映像を生成することができる。したがって、非映像領域を誤って補間することに起因する品質劣化が防止され、安定した補間映像が得られる。
このような画像補間処理によれば、画面端の非映像領域が時間的に変化する場合でも、その変化に適応しながら補間映像を生成することができる。したがって、非映像領域を誤って補間することに起因する品質劣化が防止され、安定した補間映像が得られる。
次に、図20に示したサイドパネルを有する画像が入力された場合の画像補間装置の動作について説明する。この場合、サイドパネルを除いた画面中央部を画面領域として指定した領域情報が、設計上既知のものとして指定情報部101に格納されている。
動きベクトル探索部105は、入力された映像フレームの画面内で動きベクトル探索が可能な領域(探索可能領域)についてのみ、動きベクトルを求めることができる。そして、画面の周辺にあるベクトル探索が不可能な領域(探索不能領域)については、隣接する領域の動きベクトルを援用した空間補償により動きベクトルを求める。
特徴量算出部103は、図20の画面内の探索可能領域を対象として、画面内の連続特
性に関する特徴量を算出する。サイドパネルの場合は、平均横スクロール速度を特徴量として用いるのが適している。特徴量算出部102は、図2に示すように、サイドパネルを除いた部分に限定した動きベクトルを用いて、平均横スクロール速度を算出する。
性に関する特徴量を算出する。サイドパネルの場合は、平均横スクロール速度を特徴量として用いるのが適している。特徴量算出部102は、図2に示すように、サイドパネルを除いた部分に限定した動きベクトルを用いて、平均横スクロール速度を算出する。
補間判定制御部104は、2つの平均横スクロール速度を比較する。この場合、特徴量算出部103が求めた平均横スクロール速度には、サイドパネルの黒帯領域(すなわち、静止領域)の速度が含まれていることから、横スクロールの映像であっても、2つの平均横スクロール速度が不一致となる。この比較結果からサイドパネルを有する画像であることが検出され、補間OFFが補間画像生成部106に出力される。
このとき、画面中央補間部111は、図2の領域内における補間画像を生成するが、画面端補間部112は、補間処理を行わずに、入力された映像フレームのうち図3に示すサイドパネル部分の画像を出力する。
次に、図4に示すような全画面表示の画像が入力された場合の画像補間装置の動作について説明する。特徴量算出部103は、図4の画面全体の探索可能領域を対象として平均横スクロール速度を算出し、特徴量算出部102は、図2の画面領域の平均横スクロール速度を算出する。この場合、サイドパネルのような静止領域がないため、画面内の横スクロール速度は一様である。したがって、2つの平均横スクロール速度は一致し、全画面表示であることが検出されて、補間ONが補間画像生成部106に出力される。
そこで、画面中央補間部111は、図2の領域内における補間画像を生成し、画面端補間部112は、図5に示すサイドパネル部分の補間画像を生成する。
図6は、映像フレーム601内における探索可能領域と特徴量算出領域の例を示している。映像フレーム601から斜線で示す探索不能領域602を除いた領域が、探索可能領域である。また、指定情報部101から出力される領域情報として、例えば、非映像領域となる可能性のある領域の境界603および604が用いられる。上述したサイドパネルの例では、境界603と境界604の間が画面領域として指定されることになる。
図6は、映像フレーム601内における探索可能領域と特徴量算出領域の例を示している。映像フレーム601から斜線で示す探索不能領域602を除いた領域が、探索可能領域である。また、指定情報部101から出力される領域情報として、例えば、非映像領域となる可能性のある領域の境界603および604が用いられる。上述したサイドパネルの例では、境界603と境界604の間が画面領域として指定されることになる。
動きベクトル探索として有名な方法として、あるブロックサイズごとに類似度計算を行って動きベクトルを求めるブロックマッチング法が挙げられる。探索可能領域のメッシュは、そのブロックマッチング法における単位ブロックを表している。ここでは、探索可能領域がN×M個のブロックに分割され、BL(i,j)はi行j列のブロックを表す。
特徴量算出部103は、全ブロックBL(i,j)(i=0〜M−1,j=0〜N−1)からなる特徴量算出領域605を対象として、特徴量を算出する。一方、特徴量算出部102は、境界603と境界604の間にあるブロックBL(i,j)(i=0〜M−1,j=1〜N−2)からなる特徴量算出領域606を対象として、特徴量を算出する。
図7は、特徴量の計算方法の例を示している。サイドパネルの例では、特徴量として平均横スクロール速度を用いるのが適している。平均横スクロール速度は、画面内の平均動きベクトルを計算することで求められる。
ブロックBL(i,j)における動きベクトルをmv(i,j)と表記すると、画面内平均動きベクトルは、縦方向におけるM個のmv(i,j)の平均値mvave(j)を列毎に計算し、得られた複数のmvave(j)の平均値を計算することで、求められる。特徴量算出部103は、下記の平均動きベクトルmvaveallを計算し、特徴量算出部102は、下記の平均動きベクトルmvavesubを計算する。
補間判定制御部104は、mvaveallとmvavesubを比較するが、サイドパネルを有する画像では2つの平均動きベクトルが一致しない。これにより、境界603と境界604の外側の部分が非映像領域であると判定され、補間OFFが出力される。
次に、図8に示すようなレターボックスの画像が入力された場合の画像補間装置の動作について説明する。このレターボックスの例では、画面サイズ比率4:3の画面に比率16:9の画面が収められており、上下の黒帯領域を除いた画面中央部を画面領域として指定した領域情報が、設計上既知のものとして指定情報部101に格納される。
特徴量算出部103は、図8の画面内の探索可能領域を対象として、画面内の連続特性に関する特徴量を算出する。レターボックスの場合は、平均縦スクロール速度を特徴量として用いるのが適している。特徴量算出部102は、図9に示すように、画面端を除いた部分に限定した動きベクトルを用いて、平均縦スクロール速度を算出する。
補間判定制御部104は、2つの平均縦スクロール速度を比較する。この場合、特徴量算出部103が求めた平均縦スクロール速度には、画面端の黒帯領域(すなわち、静止領域)の速度が含まれていることから、縦スクロールの映像であっても、2つの平均縦スクロール速度が不一致となる。この比較結果からレターボックスの画像であることが検出され、補間OFFが補間画像生成部106に出力される。
このとき、画面中央補間部111は、図9の領域内における補間画像を生成するが、画面端補間部112は、補間処理を行わずに、入力された映像フレームのうち図10に示す画面端の画像を出力する。
次に、図11に示すような全画面表示の画像が入力された場合の画像補間装置の動作について説明する。特徴量算出部103は、図11の画面全体の探索可能領域を対象として平均縦スクロール速度を算出し、特徴量算出部102は、図9の画面領域の平均縦スクロール速度を算出する。この場合、黒帯領域のような静止領域がないため、画面内の縦スクロール速度は一様である。したがって、2つの平均縦スクロール速度は一致し、全画面表示であることが検出されて、補間ONが補間画像生成部106に出力される。
そこで、画面中央補間部111は、図9の領域内における補間画像を生成し、画面端補間部112は、図12に示す画面端の補間画像を生成する。
図13は、レターボックスの場合における特徴量の計算方法の例を示している。この場合、特徴量として平均縦スクロール速度を用いるのが適している。平均縦スクロール速度も、平均横スクロール速度と同様に、画面内の平均動きベクトルを計算することで求められる。ここでは、i=0により示される上端の行とi=M−1により示される下端の行が
画面端に相当し、i=1〜M−2により示されるM−2個の行が画面領域に相当する。
図13は、レターボックスの場合における特徴量の計算方法の例を示している。この場合、特徴量として平均縦スクロール速度を用いるのが適している。平均縦スクロール速度も、平均横スクロール速度と同様に、画面内の平均動きベクトルを計算することで求められる。ここでは、i=0により示される上端の行とi=M−1により示される下端の行が
画面端に相当し、i=1〜M−2により示されるM−2個の行が画面領域に相当する。
ブロックBL(i,j)における動きベクトルをmv(i,j)と表記すると、画面内平均動きベクトルは、横方向におけるN個のmv(i,j)の平均値mvave(i)を行毎に計算し、得られた複数のmvave(i)の平均値を計算することで、求められる。特徴量算出部103は、下記の平均動きベクトルmvaveallを計算し、特徴量算出部102は、下記の平均動きベクトルmvavesubを計算する。
補間判定制御部104は、mvaveallとmvavesubを比較するが、レターボックスの画像では2つの平均動きベクトルが一致しない。これにより、上端部と下端部が非映像領域であると判定され、補間OFFが出力される。
以上説明した実施形態では、1種類の画面領域に対して2つの特徴量算出部を用いて補間ON/OFFの制御を行っているが、あらかじめ複数種類の画面領域が指定されている場合は、3つ以上の特徴量算出部を用いて制御を行うことが可能である。
この場合、1つの特徴量算出部が画面全体の特徴量を算出し、他の特徴量算出部が領域情報に基づいてそれぞれの画面領域の特徴量を算出する。そして、得られた画面全体の特徴量をそれぞれの画面領域の特徴量と比較することで、画面領域の種類と画面端における補間が有効か否かが判定される。
図14は、実施形態の画像補間装置を利用したフレームレート変換装置の構成例を示している。このフレームレート変換装置は、画像補間装置1601、遅延器1602、およびスイッチ1603を備え、入力映像のフレームレートを向上させる。
遅延器1602は、連続して入力される映像フレーム1611および1612を、一定時間だけ遅延させて出力する。画像補間装置1601は、現時刻の映像フレーム1612と、遅延器1602から出力される前の時刻の映像フレーム1611から、補間フレーム1613を生成する。スイッチ1603は、遅延器1602から出力される映像フレームと、画像補間装置1601から出力される補間フレーム1613を交互に選択して出力する。これにより、映像フレーム1611、補間フレーム1613、および映像フレーム1612の順に、それぞれのフレームがフレームレート変換装置から出力される。
図15は、図14のフレームレート変換装置を利用した映像再生装置の構成例を示している。この映像再生装置は、映像データ記憶装置1701、デコード装置1702、フレームレート変換装置1703、およびディスプレイ1704を備える。デコード装置1702は、映像データ記憶装置1701に保存された映像データをデコードして、映像フレ
ームを出力する。フレームレート変換装置1703は、映像フレーム間に補間フレームを挿入し、ディスプレイ1704は、それらのフレームを時系列に画面上に表示する。なお、ディスプレイ1704として外付けのものを用いる構成も可能である。
ームを出力する。フレームレート変換装置1703は、映像フレーム間に補間フレームを挿入し、ディスプレイ1704は、それらのフレームを時系列に画面上に表示する。なお、ディスプレイ1704として外付けのものを用いる構成も可能である。
図16は、図14のフレームレート変換装置を利用した映像表示装置の構成例を示している。この映像表示装置は、映像データ受信機1801、フレームレート変換装置1703、およびディスプレイ1802を備える。映像データ受信機1801は、通信ネットワークから映像フレームを受信し、フレームレート変換装置1703は、映像フレーム間に補間フレームを挿入し、ディスプレイ1802は、それらのフレームを時系列に画面上に表示する。この場合も、ディスプレイ1802として外付けのものを用いる構成が可能である。
ところで、画像補間装置1601およびフレームレート変換装置1703の処理をソフトウェアにより実装する場合、図17に示すような情報処理装置(コンピュータ)が用いられる。図17の情報処理装置は、CPU(中央処理装置)1901、メモリ1902、入力装置1903、出力装置1904、外部記憶装置1905、媒体駆動装置1906、およびネットワーク接続装置1907を備え、それらはバス1908により互いに接続されている。
メモリ1902は、例えば、ROM(read only memory)、RAM(random access memory)等を含み、処理に用いられるプログラムおよびデータを格納する。CPU1901は、メモリ1902を利用してプログラムを実行することにより、画像補間処理およびフレームレート変換処理を行う。
この場合、入力される映像フレームは、処理対象のデータとしてメモリ1902に格納され、探索された動きベクトルは、処理結果のデータとしてメモリ1902に格納される。また、指定情報部101は、メモリ1902に対応し、特徴量算出部102、103、補間判定制御部104、動きベクトル探索部105、および補間画像生成部106は、メモリ1902に格納されたプログラムに対応する。
入力装置1903は、例えば、キーボード、ポインティングデバイス等であり、オペレータからの指示や情報の入力に用いられる。出力装置1904は、例えば、ディスプレイ、プリンタ、スピーカ等であり、オペレータへの問い合わせや処理結果の出力に用いられる。
外部記憶装置1905は、例えば、磁気ディスク装置、光ディスク装置、光磁気ディスク装置、テープ装置等である。情報処理装置は、この外部記憶装置1905に、プログラムおよびデータを格納しておき、必要に応じて、それらをメモリ1902にロードして使用する。
媒体駆動装置1906は、可搬記録媒体1909を駆動し、その記録内容にアクセスする。可搬記録媒体1909は、メモリカード、フレキシブルディスク、光ディスク、光磁気ディスク等の任意のコンピュータ読み取り可能な記録媒体である。オペレータは、この可搬記録媒体1909にプログラムおよびデータを格納しておき、必要に応じて、それらをメモリ1902にロードして使用する。
ネットワーク接続装置1907は、LAN(local area network)等の通信ネットワークに接続され、通信に伴うデータ変換を行う。また、情報処理装置は、必要に応じて、プログラムおよびデータを外部の装置からネットワーク接続装置1907を介して受け取り、それらをメモリ1902にロードして使用する。
図18は、図17の情報処理装置にプログラムおよびデータを提供する方法を示している。可搬記録媒体1909や外部装置2001のデータベースに格納されたプログラムおよびデータは、情報処理装置2002のメモリ1902にロードされる。外部装置2001は、そのプログラムおよびデータを搬送する搬送信号を生成し、通信ネットワーク上の任意の伝送媒体を介して情報処理装置2002に送信する。CPU1901は、そのデータを用いてそのプログラムを実行し、上述した処理を行う。
(付記1)前後の画像フレームから補間フレームを生成する画像補間装置であって、
画面領域を指定する領域情報を出力する指定情報部と、
画面全体における第1の特徴量を算出する第1の算出部と、
前記領域情報に基づき、前記画面領域における第2の特徴量を算出する第2の算出部と、
前記第1の特徴量と第2の特徴量との一致不一致を判定する判定部と、
前記第1の特徴量と第2の特徴量とが不一致なら、前記画面領域外における補間フレームを生成しないように制御する制御部とを有することを特徴とする画像補間装置。
(付記2)前記第1および第2の特徴量は画面内平均動きベクトルであることを特徴とする付記1記載の画像補間装置。
(付記3)前後の画像フレームから補間フレームを生成する画像補間装置であって、
画面領域を指定する領域情報を出力する指定情報部と、
画面全体における第1の特徴量を算出する第1の算出部と、
前記領域情報に基づき、前記画面領域における第2の特徴量を算出する第2の算出部と、
前記第1の特徴量と第2の特徴量との一致不一致に基づいて、補間が有効か無効かを判定する補間判定部と、
前記画面領域における補間フレームを生成する第1の補間部と、
前記補間判定部の判定結果に基づき、前記画面領域外における補間フレームを生成する第2の補間部とを有することを特徴とする画像補間装置。
(付記4)前記第2の補間部は、補間が有効なら、前記画面領域外における補間フレームを生成し、補間が無効なら、前記画面領域外における補間フレームを生成しないことを特徴とする付記3記載の画像補間装置。
(付記5)付記1に記載の画像補間装置を備えたフレームレート変換装置。
(付記6)映像データ記憶装置と付記5記載のフレームレート変換装置とを備え、該フレームレート変換装置は、該映像データ記憶装置から出力される映像データの補間を行うことで、フレームレートを変換することを特徴とする映像再生装置。
(付記7)映像データ受信機と付記5記載のフレームレート変換装置とを備え、該フレームレート変換装置は、該映像データ受信機が受信した映像データの補間を行うことで、フレームレートを変換することを特徴とする映像表示装置。
(付記8)前後の画像フレームから補間フレームを生成するコンピュータのためのプログラムであって、
画面全体における第1の特徴量を算出し、
領域情報により指定される画面領域における第2の特徴量を算出し、
前記第1の特徴量と第2の特徴量との一致不一致を判定し、
前記第1の特徴量と第2の特徴量とが不一致なら、前記画面領域外における補間フレームを生成しないように制御する処理を前記コンピュータに実行させることを特徴とするプログラム。
(付記9)前後の画像フレームから補間フレームを生成するコンピュータのためのプログラムであって、
画面全体における第1の特徴量を算出し、
領域情報により指定される画面領域における第2の特徴量を算出し、
前記第1の特徴量と第2の特徴量との一致不一致に基づいて、補間が有効か無効かを判定し、
前記画面領域における補間フレームを生成し、
補間が有効か無効かの判定結果に基づき、前記画面領域外における補間フレームを生成する処理を前記コンピュータに実行させることを特徴とするプログラム。
画面領域を指定する領域情報を出力する指定情報部と、
画面全体における第1の特徴量を算出する第1の算出部と、
前記領域情報に基づき、前記画面領域における第2の特徴量を算出する第2の算出部と、
前記第1の特徴量と第2の特徴量との一致不一致を判定する判定部と、
前記第1の特徴量と第2の特徴量とが不一致なら、前記画面領域外における補間フレームを生成しないように制御する制御部とを有することを特徴とする画像補間装置。
(付記2)前記第1および第2の特徴量は画面内平均動きベクトルであることを特徴とする付記1記載の画像補間装置。
(付記3)前後の画像フレームから補間フレームを生成する画像補間装置であって、
画面領域を指定する領域情報を出力する指定情報部と、
画面全体における第1の特徴量を算出する第1の算出部と、
前記領域情報に基づき、前記画面領域における第2の特徴量を算出する第2の算出部と、
前記第1の特徴量と第2の特徴量との一致不一致に基づいて、補間が有効か無効かを判定する補間判定部と、
前記画面領域における補間フレームを生成する第1の補間部と、
前記補間判定部の判定結果に基づき、前記画面領域外における補間フレームを生成する第2の補間部とを有することを特徴とする画像補間装置。
(付記4)前記第2の補間部は、補間が有効なら、前記画面領域外における補間フレームを生成し、補間が無効なら、前記画面領域外における補間フレームを生成しないことを特徴とする付記3記載の画像補間装置。
(付記5)付記1に記載の画像補間装置を備えたフレームレート変換装置。
(付記6)映像データ記憶装置と付記5記載のフレームレート変換装置とを備え、該フレームレート変換装置は、該映像データ記憶装置から出力される映像データの補間を行うことで、フレームレートを変換することを特徴とする映像再生装置。
(付記7)映像データ受信機と付記5記載のフレームレート変換装置とを備え、該フレームレート変換装置は、該映像データ受信機が受信した映像データの補間を行うことで、フレームレートを変換することを特徴とする映像表示装置。
(付記8)前後の画像フレームから補間フレームを生成するコンピュータのためのプログラムであって、
画面全体における第1の特徴量を算出し、
領域情報により指定される画面領域における第2の特徴量を算出し、
前記第1の特徴量と第2の特徴量との一致不一致を判定し、
前記第1の特徴量と第2の特徴量とが不一致なら、前記画面領域外における補間フレームを生成しないように制御する処理を前記コンピュータに実行させることを特徴とするプログラム。
(付記9)前後の画像フレームから補間フレームを生成するコンピュータのためのプログラムであって、
画面全体における第1の特徴量を算出し、
領域情報により指定される画面領域における第2の特徴量を算出し、
前記第1の特徴量と第2の特徴量との一致不一致に基づいて、補間が有効か無効かを判定し、
前記画面領域における補間フレームを生成し、
補間が有効か無効かの判定結果に基づき、前記画面領域外における補間フレームを生成する処理を前記コンピュータに実行させることを特徴とするプログラム。
11、13 フレーム
12、1613 補間フレーム
21、31、105 動きベクトル探索部
22、32、106 補間画像生成部
23、34 画像領域情報
33 領域外参照確認部
101 指定情報部
102、103 特徴量算出部
104 補間判定制御部
111 画面中央補間部
112 画面端補間部
601、1611、1612 映像フレーム
602 探索不能領域
603、604 境界
605、606 特徴量算出領域
1601 画像補間装置
1602 遅延器
1603 スイッチ
1701 映像データ記憶装置
1702 デコード装置
1703 フレームレート変換装置
1704、1802 ディスプレイ
1801 映像データ受信機
1901 CPU
1902 メモリ
1903 入力装置
1904 出力装置
1905 外部記憶装置
1906 媒体駆動装置
1907 ネットワーク接続装置
1908 バス
2001 外部装置
2002 情報処理装置
12、1613 補間フレーム
21、31、105 動きベクトル探索部
22、32、106 補間画像生成部
23、34 画像領域情報
33 領域外参照確認部
101 指定情報部
102、103 特徴量算出部
104 補間判定制御部
111 画面中央補間部
112 画面端補間部
601、1611、1612 映像フレーム
602 探索不能領域
603、604 境界
605、606 特徴量算出領域
1601 画像補間装置
1602 遅延器
1603 スイッチ
1701 映像データ記憶装置
1702 デコード装置
1703 フレームレート変換装置
1704、1802 ディスプレイ
1801 映像データ受信機
1901 CPU
1902 メモリ
1903 入力装置
1904 出力装置
1905 外部記憶装置
1906 媒体駆動装置
1907 ネットワーク接続装置
1908 バス
2001 外部装置
2002 情報処理装置
Claims (8)
- 前後の画像フレームから補間フレームを生成する画像補間装置であって、
画面領域を指定する領域情報を出力する指定情報部と、
画面全体における第1の特徴量を算出する第1の算出部と、
前記領域情報に基づき、前記画面領域における第2の特徴量を算出する第2の算出部と、
前記第1の特徴量と第2の特徴量との一致不一致を判定する判定部と、
前記第1の特徴量と第2の特徴量とが不一致なら、前記画面領域外における補間フレームを生成しないように制御する制御部とを有することを特徴とする画像補間装置。 - 前記第1および第2の特徴量は画面内平均動きベクトルであることを特徴とする請求項1記載の画像補間装置。
- 前後の画像フレームから補間フレームを生成する画像補間装置であって、
画面領域を指定する領域情報を出力する指定情報部と、
画面全体における第1の特徴量を算出する第1の算出部と、
前記領域情報に基づき、前記画面領域における第2の特徴量を算出する第2の算出部と、
前記第1の特徴量と第2の特徴量との一致不一致に基づいて、補間が有効か無効かを判定する補間判定部と、
前記画面領域における補間フレームを生成する第1の補間部と、
前記補間判定部の判定結果に基づき、前記画面領域外における補間フレームを生成する第2の補間部とを有することを特徴とする画像補間装置。 - 請求項1乃至3のいずれかに記載の画像補間装置を備えたフレームレート変換装置。
- 映像データ記憶装置と請求項4記載のフレームレート変換装置とを備え、該フレームレート変換装置は、該映像データ記憶装置から出力される映像データの補間を行うことで、フレームレートを変換することを特徴とする映像再生装置。
- 映像データ受信機と請求項4記載のフレームレート変換装置とを備え、該フレームレート変換装置は、該映像データ受信機が受信した映像データの補間を行うことで、フレームレートを変換することを特徴とする映像表示装置。
- 前後の画像フレームから補間フレームを生成するコンピュータのためのプログラムであって、
画面全体における第1の特徴量を算出し、
領域情報により指定される画面領域における第2の特徴量を算出し、
前記第1の特徴量と第2の特徴量との一致不一致を判定し、
前記第1の特徴量と第2の特徴量とが不一致なら、前記画面領域外における補間フレームを生成しないように制御する処理を前記コンピュータに実行させることを特徴とするプログラム。 - 前後の画像フレームから補間フレームを生成するコンピュータのためのプログラムであって、
画面全体における第1の特徴量を算出し、
領域情報により指定される画面領域における第2の特徴量を算出し、
前記第1の特徴量と第2の特徴量との一致不一致に基づいて、補間が有効か無効かを判定し、
前記画面領域における補間フレームを生成し、
補間が有効か無効かの判定結果に基づき、前記画面領域外における補間フレームを生成する処理を前記コンピュータに実行させることを特徴とするプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007317531A JP2009141798A (ja) | 2007-12-07 | 2007-12-07 | 画像補間装置 |
US12/326,167 US20090147132A1 (en) | 2007-12-07 | 2008-12-02 | Image interpolation apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007317531A JP2009141798A (ja) | 2007-12-07 | 2007-12-07 | 画像補間装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2009141798A true JP2009141798A (ja) | 2009-06-25 |
Family
ID=40721237
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007317531A Withdrawn JP2009141798A (ja) | 2007-12-07 | 2007-12-07 | 画像補間装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US20090147132A1 (ja) |
JP (1) | JP2009141798A (ja) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2450121A (en) * | 2007-06-13 | 2008-12-17 | Sharp Kk | Frame rate conversion using either interpolation or frame repetition |
TWI353562B (en) * | 2008-02-04 | 2011-12-01 | Mstar Semiconductor Inc | A video processing apparatus and related method to |
JP5149861B2 (ja) * | 2009-05-01 | 2013-02-20 | 富士フイルム株式会社 | 中間画像生成装置およびその動作制御方法 |
US8289444B2 (en) * | 2009-05-06 | 2012-10-16 | Samsung Electronics Co., Ltd. | System and method for reducing visible halo in digital video with covering and uncovering detection |
US20120176536A1 (en) * | 2011-01-12 | 2012-07-12 | Avi Levy | Adaptive Frame Rate Conversion |
TWI606418B (zh) * | 2012-09-28 | 2017-11-21 | 輝達公司 | 圖形處理單元驅動程式產生內插的圖框之電腦系統及方法 |
US10102796B2 (en) * | 2017-03-13 | 2018-10-16 | Dell Products, L.P. | Image sticking avoidance in organic light-emitting diode (OLED) displays |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7715477B2 (en) * | 2002-05-29 | 2010-05-11 | Diego Garrido | Classifying image areas of a video signal |
EP1583364A1 (en) * | 2004-03-30 | 2005-10-05 | Matsushita Electric Industrial Co., Ltd. | Motion compensated interpolation of images at image borders for frame rate conversion |
-
2007
- 2007-12-07 JP JP2007317531A patent/JP2009141798A/ja not_active Withdrawn
-
2008
- 2008-12-02 US US12/326,167 patent/US20090147132A1/en not_active Abandoned
Also Published As
Publication number | Publication date |
---|---|
US20090147132A1 (en) | 2009-06-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5245783B2 (ja) | フレーム補間装置、方法、及びプログラム、フレームレート変換装置、映像再生装置、映像表示装置 | |
US7336317B2 (en) | Frame rate conversion device, overtaking prediction method for use in the same, display control device and video receiving display device | |
JP4438795B2 (ja) | 映像変換装置、映像表示装置、映像変換方法 | |
JP2009141798A (ja) | 画像補間装置 | |
US20110032419A1 (en) | Picture processing apparatus and picture processing method | |
JP2004312680A (ja) | スクロールされるテキストまたはグラフィックデータの検出が可能な動き推定装置および方法 | |
US20060077161A1 (en) | Liquid crystal displaying method | |
US20070165953A1 (en) | Edge area determining apparatus and edge area determining method | |
US8159605B2 (en) | Frame interpolating apparatus and method | |
JP2009071809A (ja) | 映像表示装置ならびに補間画像生成回路および方法 | |
JP5255704B2 (ja) | 映像表示装置 | |
US7050077B2 (en) | Resolution conversion device and method, and information processing apparatus | |
JP4528212B2 (ja) | トリミング制御装置及びトリミング制御プログラム | |
US20080002051A1 (en) | Motion vector detecting apparatus, motion vector detecting method and interpolation frame creating apparatus | |
US20050041146A1 (en) | Apparatus and method to control caption positioning | |
US7239353B2 (en) | Image format conversion apparatus and method | |
US20040101053A1 (en) | Motion detection apparatus and method | |
US20090323814A1 (en) | Tracking point detection apparatus and method, program, and recording medium | |
JP5015089B2 (ja) | フレームレート変換装置、フレームレート変換方法、テレビジョン受像機、フレームレート変換プログラムおよび該プログラムを記録した記録媒体 | |
JP2001189850A (ja) | 解像度変換装置とその解像度変換方法 | |
US20150382015A1 (en) | Image frame interpolation apparatus, display apparatus and control method thereof | |
JP2009181067A (ja) | 画像表示装置及び方法、画像処理装置及び方法 | |
US20090046208A1 (en) | Image processing method and apparatus for generating intermediate frame image | |
US12008729B2 (en) | On-screen display (OSD) image processing method | |
JP5145887B2 (ja) | フレーム補間装置および方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20110301 |