JP2007195062A - 画像静止領域判定装置、およびインタレース−プログレッシブ画像変換装置 - Google Patents

画像静止領域判定装置、およびインタレース−プログレッシブ画像変換装置 Download PDF

Info

Publication number
JP2007195062A
JP2007195062A JP2006013074A JP2006013074A JP2007195062A JP 2007195062 A JP2007195062 A JP 2007195062A JP 2006013074 A JP2006013074 A JP 2006013074A JP 2006013074 A JP2006013074 A JP 2006013074A JP 2007195062 A JP2007195062 A JP 2007195062A
Authority
JP
Japan
Prior art keywords
image
field
pixel
still
block
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2006013074A
Other languages
English (en)
Inventor
Masahiro Tatsumi
正弘 辰巳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2006013074A priority Critical patent/JP2007195062A/ja
Priority to US11/413,191 priority patent/US20070171301A1/en
Publication of JP2007195062A publication Critical patent/JP2007195062A/ja
Withdrawn legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/144Movement detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/112Selection of coding mode or of prediction mode according to a given display mode, e.g. for interlaced or progressive display mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/16Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter for a given display mode, e.g. for interlaced or progressive display mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/537Motion estimation other than block-based
    • H04N19/543Motion estimation other than block-based using regions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/59Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/2368Multiplexing of audio and video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/434Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
    • H04N21/4341Demultiplexing of audio and video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/44008Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/4402Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0117Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving conversion of the spatial resolution of the incoming video signal
    • H04N7/012Conversion between an interlaced and a progressive signal

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Graphics (AREA)
  • Television Systems (AREA)

Abstract

【課題】連続する2つのフレーム画像間で検出できない動き、例えば縞模様の動きを検出可能とする。
【解決手段】インタレース・スキャン方式の連続する2つのフィールド画像のうちで、時間的に遅いフィールド画像から時間的に早いフィールド画像の擬似画像を補間によって生成する手段1と、現在のフレーム画像、一画面前のフレーム画像、時間的に早いフィールド画像、および擬似フィールド画像の入力に対して、画像内の静止領域を判定する手段2とを備え、フレーム画像間で検出できない動きを、時間的に早いフィールド画像と擬似フィールド画像との比較によって検出可能とする。
【選択図】図1

Description

本発明は、例えばビデオ画像の処理方式に係り、さらに詳しくは例えば連続するフレーム画像間での静止領域の判定装置、およびその判定装置を応用したインタレース・スキャン方式のフィールド画像からプログレッシブ・スキャン方式のフレーム画像への変換を行う画像変換装置に関する。
例えばビデオ信号処理装置において、連続するフレーム間での静止領域の判定は信号処理の効率上重要な技術である。例えばインタレース・スキャン方式におけるフィールド画像からプログレッシブ・スキャン方式におけるフレーム画像への変換において、静止領域の判定は画像のちらつきやぼやけを防止するために重要な技術である。
この静止領域判定方式の従来技術について図16、図17を用いて説明する。図16は、画像静止領域判定装置の従来例の構成ブロック図である。同図において判定装置は、一画面前のフレーム画像と現在のフレーム画像との入力に対して、2つのフレーム画像のまで対応する画素の画素値の差分を求める画素値差分抽出部100、各要素の画素値差分をブロック単位で平均するブロック平均化部101、およびブロック平均化部101の出力とあらかじめ定められた判定閾値とを用いて、ブロックを対象とする静止判定を行うブロック静止判定部102を備えている。
図17は、図16の画像静止領域判定装置におけるブロック単位の静止領域判定動作の説明図である。この静止領域判定処理は、一画面前のフレーム画像と現在のフレーム画像の中で、図に示す中央の実線内の2×2個の画素によって構成されるブロックを対象として行われる。ただし2×2個の画素ブロックの間でブロックの静止を判定する場合には、このブロックの周辺のそれぞれ1画素を含んだ4×4個の正方形領域(図の点線内)の画素を対象として、一画面前のフレーム画像と現在のフレーム画像との間でそれぞれ対応する画素の画素値の差分が画素値差分抽出部100によって求められ、16個の差分の値の平均値がブロック平均化部101によって算出され、その値が2×2個の画素で構成されるブロックに対する平均値としてブロック静止判定部102に与えられ、この値が判定閾値により小さければそのブロックは静止領域として判定され、判定結果の信号が出力される。
しかしながらこのような従来方式においては、図17で説明したように画素値の差分が直接に対応する画素だけの間で求められるため、目で見てはよくわからないような小さな動きでも画素値の間で差分が生じ、結果として判定対象のブロックが静止領域ではないと判定されることがあり、例えばインタレース・スキャン方式のフィールド画像から変換されたプログレッシブ・スキャン方式のフレーム画像にちらつきが生じてしまうという問題があった。
このような画像中の静止領域の検出方法に関する従来技術の1つ(例えば特許文献1)では、例えば連続するフレームの間で対応する画素間の画素値の差分が計算され、その計算値に基づいてブロック単位で画素値の差分が累積加算されて作成される静止領域の仮のマップ上で、孤立した静止領域、あるいは隣接した静止領域の小ブロックを削除して静止領域の最終マップを求める、信頼性のある静止領域検出アルゴリズムが開示されている。
しかしながら特許文献1の技術においても、連続するフレームの間で対応する画素だけについて画素値の差分が求められているために、画像の細かい動きによって生じる画素値の差分が精子領域の判定に影響を与え、画像信号処理の結果においてちらつきやぼやけを生じてしまうという問題点を解決することはできなかった。
特開2000−78533号公報
以上のように、連続するフレーム画像の間で対応する画素間の画素値の差分によってのみ静止領域の判定を行う場合には目で見てよくわからないような小さな動きでも判定対象のブロックが静止領域ではないと判定されるという問題点とは逆に、本来動きのあるフレーム画像の間でその動きを検出することができない場合があるという問題点がある。このような問題点を生ずる画像の一例が縞模様であり、縞模様が画面上で動いていくような場合にその動きを検出できないことがあるという問題点について、インタレース・スキャン方式のフィールド画像と、そのフィールド画像を合成した画像としてのプログレッシブ・スキャン方式の画像(フレーム画像)を区別しながら、図18から22を用いて説明する。
図18はインタレース・スキャン方式のフィールド画像の時間的な出力例である。インタレース・スキャン方式のフィールド画像には、画面上で水平方向のスキャンラインのうちで、例えば奇数番号のスキャンラインによって構成されるトップフィールド画像、偶数番号のスキャンラインによって構成されるボトムフィールドの画像がある。トップフィールドとボトムフィールドの画像は、例えば60分の1秒毎に出力される。
図19は、プログレッシブ・スキャン方式の画像の出力例である。プログレッシブ・スキャン方式では、スキャンラインを奇数番号と偶数番号とで区別することなく、上から順次スキャンすることによってフレーム画像が生成されて出力される。このフレーム画像は基本的には図18のトップフィールド画像とボトムフィールド画像を合成したものになる。
図20は、問題点を説明するための縞模様の例である。このように水平方向に黒、白、黒、白、・・・の領域が繰り返される縞模様が、画面上の一部、例えば中央付近で、例えば右方向に移動していく場合を考えるものとする。
図21は、このように縞模様が右方向に移動する場合のインタレース・スキャン方式の画像と、それらを合成したプログレッシブ・スキャン方式の画像の例である。同図の左側において、まずトップフィールドの画像が出力され、その画像内の例えば中央部分に左側の最も上に示す縞模様(t=0)が表れるものとする。そして例えばその60分の1秒後にボトムフィールドの画像が出力されるが、このボトムフィールドの画像上では縞模様は右方向に移動しており、左側の上から2番目(t=1/60)に示されているようになっているものとする。そしてこのトップフィールドとボトムフィールドの画像とが合成されて、右側の上に示すプログレッシブ画像がフレーム画像として出力される。
さらにその60分の1秒後に次のトップフィールドの画像が出力されるが、その画像上で縞模様はさらに右側に移動している。次に60分の1秒後に出力されるボトムフィールドの画像上では縞模様はさらに移動しており、これらの2つのフィールドの画像を合成したプログレッシブ画像、すなわちフレーム画像は右側の下に示すものとなる。
図22は、図21のプログレッシブ画像に相当するフレーム画像を、図17と同様の画素イメージで表したものである。図21において各フィールド画像、またはプログレッシブ画像内の黒、および白の長方形はそれぞれ、例えば2つの画素に相当するものとして、図22は描かれている。なお縞模様に相当する黒、または白の画素以外の一番上のスキャンライン、および一番下のスキャンラインに対応する画素はすべて灰色となっている。
前述のように図20の縞模様が画面上の一部、例えば中央付近で移動していく様子が図22の一画面前のフレーム画像と現在のフレーム画像とによって示されねばならないことになるが、図17におけると同様に中央付近の2×2個の画素をブロックとして2つのフレーム画像の間で静止領域の判定を行う場合には、当然このブロックは静止領域と判定され、図20の縞模様が画面上で右方向に移動していることは、検出できないことになる。このような問題点は当然ながら前述の特許文献1の技術によっても解決することはできない。
本発明の課題は、上述の問題点に鑑み、連続する画像間での静止領域を判定するために、連続するフレーム画像の比較だけでなく、例えば時間的に早いフィールド画像と、そのフィールド画像を時間的に遅いフィールド画像を用いて補間した擬似フィールド画像との比較も行うことによって、縞模様のようにフレーム間では検出できない動きを検出可能にすること、および対応する画素の画素値だけを用いて画素値の差分を求める代わりに隣接する画素も含んで画素値の平均値を求め、その平均値の間の差分を求めることにより、画像信号処理の結果におけるちらつきやぼやけを少なくすることである。
図1は、本発明の画像静止領域判定装置の原理構成ブロック図である。同図において画像静止領域判定装置は、擬似画像生成手段1と、画像内静止領域判定手段2とを備える。
擬似画像生成手段1は、インタレース・スキャン方式の時間的に連続する2つのフィールド画像のうちで、時間的に遅いフィールド画像から補間によって時間的に早いフィールド画像の擬似フィールド画像を求めるものであり、画像内静止領域判定手段2は、現在のフレーム画像、一画面前のフレーム画像、時間的に早いフィールド画像、および擬似フィールド画像の入力に対して画像内の静止領域を判定するものである。
発明の実施の形態においては、画像内静止領域判定手段2が、現在のフレーム画像と一画面前のフレーム画像との入力に対して画像内の静止領域を判定する静止領域判定手段と、静止領域判定手段によって静止領域と判定された領域に対して、前述の時間的に早いフィールド画像と擬似フィールド画像とを用いて静止領域判定手段によっては判定できなかった動画領域の判定を行う動画領域判定手段とを備えることもできる。
本発明のインタレースープログレッシブ画像変換装置は、図1にその原理を示した画像静止領域判定装置と、画像内静止領域判定手段2の出力に対応して、擬似画像生成手段1の出力する擬似フィールド画像と時間的に早いフィールド画像とのいずれかを出力する画像切替手段と、画像切替手段の出力と時間的に遅いフィールド画像とを合成してフレーム画像として出力するフレーム画像出力手段とを備える。
発明の実施の形態においては、画像切替手段が、画像内静止領域判定手段2が静止と判定した領域に対しては時間的に早いフィールド画像を、動画と判定した領域に対しては擬似フィールド画像を出力することもできる。
以上のように本発明によれば、現在のフレーム画像と一画面前のフレーム画像との比較が行われるだけでなく、時間的に遅いフィールド画像から補間によって生成された擬似フィールド画像と時間的に早いフィールド画像との比較も行われて、画像内の静止領域の判定が行われる。
本発明によれば、連続する2つのフレーム画像間の比較だけでなく、インタレース・スキャン方式の時間的に遅いフィールド画像から補間によって生成された擬似フィールド画像と時間的に早いフィールド画像との比較も行われ、例えば縞模様の移動のようにフレーム画像の比較によっては検出できない動きを検出することが可能となる。またこのような静止領域判定方式をインタレース−プログレッシブ画像変換に応用することによって、動きが正しく検出された結果に対応するフレーム画像を生成することが可能となる。
図2は、本発明のインタレース−プログレッシブ画像変換装置の基本構成ブロック図である。この変換装置は、本発明の静止領域判定方式を応用するものであり、その静止領域の判定は領域判定部13によって行われる。領域判定部13は、現在のフレーム画像、一画面前のフレーム画像、時間的に早いフィールド画像、および時間的に遅いフィールド画像から補間によって生成される擬似フィールド画像との入力に対応して、画像内の静止領域の判定を行い、その結果を画像切替部14に対して出力する。
図2においてフレームメモリ部10は、一画面前のフレーム画像を保持するものである。トップ/ボトム分離部11は、インタレース・スキャン方式のフィールド画像の入力に対応して、任意のタイミングでトップフィールドの画像とボトムフィールドの画像とを分離し、トップフィールド画像、またはボトムフィールド画像のうちで時間的に早いフィールド画像を画像切替部14に出力するとともに、時間的に遅いフィールド画像を擬似フィールド画像生成部12と、フィールド/フレーム変換部15に出力する。
擬似フィールド画像生成部12は、トップフィールド画像、またはボトムフィールド画像のうちで時間的に遅いフィールド画像から、補間の処理によって時間的に早いフィールドに対応する擬似フィールド画像を生成し、その擬似フィールド画像を領域判定部13と画像切替部14とに出力する。画像切替部14は、領域判定部13の判定結果にしたがって、トップ/ボトム分離部11から出力される時間的に早いフィールド画像、すなわちトップフィールド、またはボトムフィールド画像と、擬似フィールド画像生成部12の出力する擬似フィールド画像とのいずれかを選択して、選択したフィールド画像、すなわちトップフィールド、またはボトムフィールドの画像をフィールド/フレーム変換部15に出力する。この時、領域判定部13によって静止領域と判定された領域に対してはトップ/ボトム分離部11の出力を、また静止領域でないと判定された領域、すなわち動画領域に対しては擬似フィールド画像生成部12の出力を選択して、フィールド/フレーム変換部15に与える。フィールド/フレーム変換部15は、画像切替部14の出力、すなわち時間的に早いフィールド画像そのもの、またはその擬似フィールド画像とのいずれかと、トップ/ボトム分離部11の出力としての時間的に遅いフィールド画像とを合成して、プログレッシブ画像、すなわちフレーム画像として出力する。
なお本発明の特許請求の範囲の請求項1における擬似画像生成手段は擬似フィールド画像生成部12に、画像内静止領域判定手段は領域判定部13に相当する。また請求項9における画像切替手段は画像切替部14に、フレーム画像出力手段はフィールド/フレーム変換部15に相当する。
図3は、図2の領域判定部13の基本構成ブロック図である。同図において領域判定部13は、静止領域判定部20と、動画領域判定部21とによって構成される。静止領域判定部20に対しては、図2における領域判定部13への4つの入力のうちで、現在のフレーム画像と一画面前のフレーム画像とが与えられる。静止領域判定部20は2つのフレーム画像を比較して、画像内のある領域、例えば図17で説明したブロックに対する静止判定を行い、その結果を動画領域判定部21に対して出力する。
動画領域判定部21は、静止領域判定部20によって静止と判定された領域、例えばブロックに対応して、そのブロックが静止か動画かの判定を再度行うものである。この判定部21には、図2の領域判定部13への4つの入力のうちで時間的に早いフィールド画像と、時間的に遅いフィールド画像から補間によって生成された擬似フィールド画像、すなわち時間的に早いフィールド画像に対応する擬似画像とが入力され、判定対象の領域、例えばブロックが動画領域であるか否かが判定され、その判定結果に対応して最終的な画像切替信号が図2の画像切替部14に与えられる。
なお後述するように、静止領域判定部20によって静止でないと判定された領域、例えばブロックに対しては、本来動画領域判定部21による再判定の必要はなく、直ちに画像切替部14に対して画像切替信号を出力することができるが、本実施形態では、例えば処理の高速化のために動画領域判定部21は静止領域判定部20と並行して動作しており、静止領域判定部20が静止でないと判定した領域に対しては動画領域判定部21の判定結果は使用されることなく、画像切替信号が動画領域判定部21から画像切替部14に与えられるものとする。
図4は、図3の静止領域判定部20、および動画領域判定部21の詳細構成ブロック図である。同図において静止領域判定部20、動画領域判定部21は、それぞれ入力画像に対して同様の動作を行う隣接画素値平均化部25、30、画素値差分抽出部26、31、ブロック平均化部27、32、および閾値比較部28、33から構成されている。本実施形態では、図17で説明した従来方式と異なって、例えば隣接画素値平均化部25が着目する画素を含み、その画素に隣接する画素の画素値を平均した値を求め、画素値差分抽出部26はその平均値を比較してフレーム間で差分値を求めるものとする。その動作の詳細についてはさらに後述する。
画素値差分抽出部26は、このように隣接画素を含めて平均化された画素値を用いて、2つの連続するフレーム画像内で同一の位置の画素の間で差分値を求め、ブロック平均化部27は図17で説明した、例えば2×2個の画素によって構成されるブロック、あるいはさらにそのブロックの周囲の画素を含めて差分値を平均して閾値比較部28に出力する。閾値比較部28は、あらかじめ与えられている判定閾値とブロック平均化部27の出力を比較し、ブロック平均化部27の出力が判定閾値より大きい時には判定対象のブロックが静止でないことを示す信号を、動画領域判定部21内の閾値比較部33に対して出力する。動画領域判定部21内の隣接画素値平均化部30、画素値差分抽出部31、ブロック平均化部32、および閾値比較部33の動作は静止領域判定部20内の各ブロックの動作とほぼ同様である。
図5から図11は、図4の静止領域判定部20、動画領域判定部21の動作のさらに詳細な説明図である。図5、および図6は、図4の静止領域判定部20の内部のブロック平均化部27による平均化の対象となるブロック、およびその周辺の平均化対象の画素の領域の説明図である。図5では、静止判定の対象となるブロックは、図17におけると同様に、例えば中心付近の2×2個の画素によって構成されるが、図5では図17と異なってこのブロック、すなわち実線枠で示されるブロックの周囲に、それぞれ2個の画素を含む点線の領域がブロック平均化部27による平均化の対象とされる。すなわちブロック平均化部27による差分値平均化の対象は点線の枠内の6×6個の画素となる。
図6においてはブロック平均化部27による平均化の対象はさらに広げられ、点線の枠内の8×8個の画素となる。このように図17の従来例に比較して、静止判定の対象となる2×2個の画素によって構成されるブロックの周囲に多くの画素をとって平均化を行うことによって処理時間は当然長くなるが、各種のパターンの画像に対して良い判定結果を得られることが経験的に明らかとなっている。
図7、および図8は図4の動画領域判定部21の内部のブロック平均化部32による差分値平均化の対象となる画素領域の説明図である。図7、および図8はそれぞれ図5、および図6に示すブロック平均化部27の平均化対象領域にそれぞれ対応するものである。
図7においては、トップフィールドの画像が時間的に早いフィールド画像として、擬似フィールド画像と比較される。すなわちフレーム画像のうちでスキャンラインT0、T1、およびT2上の画素がブロック平均化の対象となる。また静止判定の対象となる画素のブロックは中心付近の2×1個の画素となる。
図8においては、図6に対応してスキャンラインT1、T2、T3、およびT4のライン上の画素がブロック平均化部32による平均化の対象となり、静止判定の対象となるブロックはスキャンラインT2上の2×1個の画素によって構成される。
図5から図8において、点線内のブロック平均化の対象となる各画素に対しては、隣接する左右の画素を含めて画素値の平均が隣接画素値平均化部25、または30によって求められ、その結果の平均値が画素値差分抽出部26、31によって比較されて差分値が抽出され、ブロック平均化部27、または32に与えられる。すなわち隣接画素値平均化部25、または30によって行われる平均化処理では、画素の縦座標をi、横座標をj、画素値をX(i,j)として次式によって平均値が求められる。
平均値={X(i−1,j)+X(i,j)+X(i+1,j)}/4
ここで、隣接画素を含めた平均値を3でなく4で割って求めるのは、ハードウェアによる処理を容易とするためである。次に画素値差分抽出部26、または31によって行われる差分演算は、隣接画素値平均化部25、または30によって求められた平均画素値、例えば現在のフレーム画像に対するXp(i,j)と、一画面前のフレーム画像に対するXr(i,j)との間の差分として次式を用いて行われる。
差分値=Xp(i,j)−Xr(i,j)
図9は、図4の隣接画素値平均化部25、または30の構成例のブロック図であり、図10は隣接画素値平均化動作のタイムチャートである。図9において隣接画素値平均化部25、または30は、3つのデータ・フリップ・フロップ(D−FF)41、42、43、加算器44、および除算器45によって構成されている。
図10において最初のクロックにおいて、3つのFF41から43のそれぞれに3つの画素の画素値a、b、およびcが入力され、次のクロックで加算器44から加算結果Sumが出力され、除算器45によって除算結果Aveが平均値として出力される。
なお本実施形態では、図5から図8で説明したように着目画素の左右それぞれ1つずつの隣接画素を含めた3つの画素の平均値を着目画素の画素値として用いるものとしたが、隣接画素の取り方はこれに限定されることなく、例えば着目画素に隣接する計8個の画素を含む9個の画素値の平均を求めることも当然可能である。
図11は、図4の静止領域判定部20、および動画領域判定部21による静止領域判定動作のフローチャートである。同図において動作が開始されると、まずステップS1で比較ブロック演算処理が行われる。これは静止領域判定部20では隣接画素値平均化部25からブロック平均化部27までの処理に、また動画領域判定部21では隣接画素値平均化部30からブロック平均化部32までの処理に相当する。静止領域判定部20の内部の閾値比較部28からの判定信号が動画領域判定部21に与えられてから隣接画素値平均化部30からブロック平均化部32までの処理を行うことも当然可能であるが、本実施形態では処理の高速化を図るために、静止領域判定部20と動画領域判定部21による比較ブロック演算処理は並行して実行されるものとする。
ステップS2で静止領域判定部20の内部の閾値比較部28によって、ブロック平均化部27の出力が判定閾値より大きいか否かが判定され、大きい場合にはステップS3で直ちに動画領域判定部21内の閾値比較部33を介して、動画領域判定信号が画像切替信号として図2の画像切替部14に出力され、画像切替部14からは擬似フィールド画像生成部12によって生成された擬似フィールド画像がフィールド/フレーム変換部15に出力されることになる。
ステップS2で閾値より大きくないと判定されると、ステップS4で動画領域判定部21の内部の閾値比較部33によってブロック平均化部32の出力が判定閾値より大きいか否かが判定され、大きい場合には前述と同様にステップS3で動画領域判定信号が画像切替部14に出力される。閾値より大きくないときにはステップS5で静止領域判定信号が出力され、画像切替部14からはトップ/ボトム分離部11から出力された時間的に早いフィールド画像そのものがフィールド/フレーム変換部15に出力される。
最後に本実施形態において、従来例の図20から図22で説明したように縞模様の画像が移動していく場合の擬似フィールド画像や、その擬似フィールド画像を用いた動画領域判定部21による判定対象画像について図12から図15を用いて説明する。図12は、インタレース画像イメージの例である。この画像は図21の右側のプログレッシブ画像に相当し、時間的に早いフィールド画像はトップ画像であり、そのトップフィールド画像はスキャンラインT0からT3までによって構成されているものとし、時間的に遅いフィールド画像、すなわちボトム画像はスキャンラインB0からB3によって構成され、縞模様はトップフィールド画像内のスキャンラインT1、T2、ボトムフィールド画像のうちのスキャンラインB1、B2上を移動していくものとする。
図13は、時間的に早いフィールド画像としてのトップ画像に対応する擬似フィールド画像が、時間的に遅いボトムフィールド画像から補間によって求められ、その結果の擬似フィールド画像がボトム画像と合成された結果としての画像イメージを示す。トップフィールド画像の各スキャンラインT0からT3は擬似フィールド画像を構成するものである。例えば最も左側のスキャンラインT1の部分は、時間的に遅いボトム画像のうちのスキャンラインB0とB1とを用いた補間処理の結果として黒から白に変わっている。ここで補間処理としては当然様々な方式が考えられるが、最も単純には上と下のスキャンラインB0とB1の画素値を平均化することによって補間を行うことができる。同様にスキャンラインT2の部分も黒から白に変わっている。左から2番目のスキャンラインT1の部分は、その上のスキャンラインB0の部分が黒ではないことから灰色となっており、スキャンラインT2の部分は黒に変わっている。
図14は、従来例の図22におけると同様の、画素のイメージで時間的に早いフィールド画像、すなわちもともとのトップフィールドの画像と、時間的に遅いボトムフィールドの画像を用いて補間によって生成された擬似フィールド画像との比較の説明図である。左側の時間的に早いフィールド画像は図12におけるトップフィールドに相当し、スキャンラインT2上で横に2つ並んだ白い画素を静止判定対象としてのブロックにとると、例えばその上のスキャンラインT1の画素は白であり、下のスキャンラインT3の画素は白でも黒でもない灰色の画素として表されている。
これに対して右側の擬似フィールド画像は、図13に対応して判定対象ブロック内のスキャンラインT2上の画素は黒に変わり、またその上のスキャンラインT1上の画素は灰色に変わっている。スキャンラインT3上の画素は灰色のままである。これによって時間的に早いフィールド画像と擬似フィールド画像の比較結果が動画となることは明らかである。
図15は、擬似フィールド画像を用いて生成したフレーム画像と現在のフレーム画像との比較の説明図である。左側の画像は図22におけるフレーム画像に相当し、右側の画像は図13の画像に相当する。本実施形態では、図2で説明したように領域判定部13に入力される擬似画像は擬似フィールド画像生成部12によって生成された擬似フィールド画像であり、擬似フィールド画像を用いて生成されたフレーム画像を領域判定に用いることは行っていないが、擬似画像を用いて生成されたフレーム画像、すなわち図15の右側の画像と、図22の一画面前のフレーム画像とを比較することによって、フレーム画像間で動きを検出することも当然可能である。
本発明の画像静止領域判定装置の原理構成ブロック図である。 本発明の画像静止領域判定方式を用いたインタレース−プログレッシブ画像変換装置の基本構成ブロック図である。 図2の領域判定部の基本構成を示すブロック図である。 静止領域判定部と動画領域判定部との詳細構成を示すブロック図である。 フレーム画像におけるブロック平均化処理の対象となる画素領域の例(その1)を示す図である。 フレーム画像におけるブロック平均化処理の対象となる画素領域の例(その2)を示す図である。 フィールド画像におけるブロック平均化処理の対象領域の例(その1)を示す図である。 フィールド画像におけるブロック平均化処理の対象領域の例(その2)を示す図である。 隣接画素値平均化部の構成例のブロック図である。 図9の隣接画素値平均化部の動作タイムチャートである。 図4における画像内静止領域判定動作のフローチャートである。 本実施形態を説明するためのインタレース画像イメージの例である。 擬似フィールド画像を組み合わせ画像イメージの例である。 本実施形態における時間的に早いフィールド画像と擬似フィールド画像との比較の説明図である。 本実施形態におけるフレームイメージにおける画像比較の説明図である。 画像静止領域判定装置の従来例の構成ブロック図である。 画像静止領域判定方式の従来例の説明図である。 インタレース画像出力方式の説明図である。 プログレッシブ画像出力方式の説明図である。 画像内の縞模様の説明図である。 縞模様が画面上で移動した場合のプログレッシブ画像の説明図である。 現在のフレーム画像と一画面前のフレーム画像との比較の従来例の説明図である。
符号の説明
1 擬似画像生成手段
2 画像内静止領域判定手段
10 フレームメモリ部
11 トップ/ボトム分離部
12 擬似フィールド画像生成部
13 領域判定部
14 画像切替部
15 フィールド/フレーム変換部
20 静止領域判定部
21 動画領域判定部
25、30 隣接画素値平均化部
26、31 画素値差分抽出部
27、32 ブロック平均化部
28、33 閾値比較部
41、42、43 データ・フリップ・フロップ(D−FF)
44 加算器
45 除算器

Claims (10)

  1. インタレース・スキャン方式の時間的に連続する2つのフィールド画像のうちで、時間的に遅いフィールド画像から補間によって時間的に早いフィールド画像の擬似フィールド画像を求める擬似画像生成手段と、
    現在のフレーム画像、一画面前のフレーム画像、時間的に早いフィールド画像、および擬似フィールド画像の入力に対して画像内の静止領域を判定する画像内静止領域判定手段とを備えることを特徴とする画像静止領域判定装置。
  2. 前記画像内静止領域判定手段が、
    現在のフレーム画像と一画面前のフレーム画像との入力に対して、画像内の静止領域を判定する静止領域判定手段と、
    該静止領域と判定された領域に対して、前記時間的に早いフィールド画像と擬似フィールド画像との入力に対して、静止領域判定手段によっては判定できなかった動画領域の判定を行う動画領域判定手段とを備えることを特徴とする請求項1記載の画像静止領域判定装置。
  3. 前記静止領域判定手段が、
    前記入力される2つのフレーム画像内の各画素に対して、該画素を含み、該画素に隣接する画素の画素値の平均値を求める隣接画素値平均化手段と、
    該2つのフレーム画像内で同一位置の各画素に対する前記平均値の差分を求める画素値差分抽出手段と、
    該画素値差分抽出手段の出力とあらかじめ与えられる判定閾値とを比較して、2つのフレーム画像間での静止領域を判定する閾値判定手段とを備えることを特徴とする請求項2記載の画像静止領域判定装置。
  4. 前記静止領域判定手段が、前記画素値差分抽出手段の出力を用いて、2つのフレーム画像内で同一位置にある正方形領域内のn×n個の画素によって構成されるブロック内の各画素に対する前記差分の値を平均するブロック平均化手段をさらに備え、
    前記閾値判定手段が、該ブロック平均化手段の出力と前記閾値とを比較して、該ブロックを対象として静止領域の判定を行うことを特徴とする請求項3記載の画像静止領域判定装置。
  5. 前記ブロック平均化手段が、前記正方形領域内のn×n個の画素によって構成されるブロック内の画素に、さらに該ブロックの周辺で隣接する画素を加えて各画素に対する前記差分の値を平均することを特徴とする請求項4記載の画像静止領域判定装置。
  6. 前記動画領域判定手段が、
    前記入力される2つのフィールド画像内の各画素に対して、該画素を含み、該画素に隣接する画素の画素値の平均値を求める隣接画素値平均化手段と、
    該2つのフィールド画像内で同一位置の各画素に対する前記平均値の差分を求める画素値差分抽出手段と、
    該画素値差分抽出手段の出力とあらかじめ与えられる判定閾値とを比較して、2つのフィールド画像間での動画領域を判定する閾値判定手段とを備えることを特徴とする請求項2記載の画像静止領域判定装置。
  7. 前記動画領域判定手段が、前記画素値差分抽出手段の出力を用いて、前記時間的に早いフィールド画像と時間的に遅いフィールド画像とが合成されて生成される画像内の正方形領域内のn×n個の画素に対応する画素のうちで、2つの入力フィールド画像に含まれる画素によって構成されるブロック内の各画素に対する前記差分の値を平均するブロック平均化手段をさらに備え、
    前記閾値判定手段が、該ブロック平均化手段の出力と前記閾値とを比較して、該ブロックを対象として動画領域の判定を行うことを特徴とする請求項6記載の画像静止領域判定装置。
  8. 前記ブロック平均化手段が、前記正方形領域内のn×n個の画素に、さらに該正方形領域の周辺で隣接する画素を加えた画素に対応する画素のうちで、2つの入力フィールド画像に含まれる画素に対する前記差分の値を平均することを特徴とする請求項7記載の画像静止領域判定装置。
  9. 請求項1に記載の画像静止領域判定装置と、
    前記画像内静止領域判定手段の出力に対応して、前記擬似画像生成手段の出力する擬似フィールド画像と、前記時間的に早いフィールド画像とのいずれかを出力する画像切替手段と、
    該画像切替手段の出力と前記時間的に遅いフィールド画像とを合成して、フレーム画像として出力するフレーム画像出力手段とを備えることを特徴とするインタレース−プログレッシブ画像変換装置。
  10. 前記画像内静止領域判定手段が静止と判定した領域に対しては、前記画像切替手段が前記時間的に早いフィールド画像を、動画と判定した領域に対しては、前記擬似フィールド画像を出力することを特徴とする請求項9記載のインタレース−プログレッシブ画像変換装置。
JP2006013074A 2006-01-20 2006-01-20 画像静止領域判定装置、およびインタレース−プログレッシブ画像変換装置 Withdrawn JP2007195062A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2006013074A JP2007195062A (ja) 2006-01-20 2006-01-20 画像静止領域判定装置、およびインタレース−プログレッシブ画像変換装置
US11/413,191 US20070171301A1 (en) 2006-01-20 2006-04-28 Image static area determination apparatus and interlace progressive image transform apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006013074A JP2007195062A (ja) 2006-01-20 2006-01-20 画像静止領域判定装置、およびインタレース−プログレッシブ画像変換装置

Publications (1)

Publication Number Publication Date
JP2007195062A true JP2007195062A (ja) 2007-08-02

Family

ID=38285118

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006013074A Withdrawn JP2007195062A (ja) 2006-01-20 2006-01-20 画像静止領域判定装置、およびインタレース−プログレッシブ画像変換装置

Country Status (2)

Country Link
US (1) US20070171301A1 (ja)
JP (1) JP2007195062A (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7953293B2 (en) * 2006-05-02 2011-05-31 Ati Technologies Ulc Field sequence detector, method and video device
KR101463038B1 (ko) * 2008-05-29 2014-11-19 삼성디스플레이 주식회사 표시 장치와 그 구동 방법
US10027873B2 (en) 2014-11-18 2018-07-17 The Invention Science Fund Ii, Llc Devices, methods and systems for visual imaging arrays
US9942583B2 (en) 2014-11-18 2018-04-10 The Invention Science Fund Ii, Llc Devices, methods and systems for multi-user capable visual imaging arrays
US9924109B2 (en) * 2014-11-18 2018-03-20 The Invention Science Fund Ii, Llc Devices, methods, and systems for visual imaging arrays
US10609270B2 (en) * 2014-11-18 2020-03-31 The Invention Science Fund Ii, Llc Devices, methods and systems for visual imaging arrays

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3887951B2 (ja) * 1998-06-11 2007-02-28 コニカミノルタビジネステクノロジーズ株式会社 画像形成装置
US6343145B1 (en) * 1998-06-22 2002-01-29 Harlequin Group Ltd. Color imaging system and process with high -speed rendering
US6625331B1 (en) * 1998-07-03 2003-09-23 Minolta Co., Ltd. Image forming apparatus
KR100652100B1 (ko) * 1999-08-05 2006-12-01 산요덴키가부시키가이샤 화상 보간 방법
US6784942B2 (en) * 2001-10-05 2004-08-31 Genesis Microchip, Inc. Motion adaptive de-interlacing method and apparatus

Also Published As

Publication number Publication date
US20070171301A1 (en) 2007-07-26

Similar Documents

Publication Publication Date Title
JP4991890B2 (ja) 補間フレーム生成装置及び方法
KR101127220B1 (ko) 움직임 보상 적응형 순차주사화 장치 및 그 방법
JP4157579B2 (ja) 画像表示装置及び方法、画像処理装置及び方法
JP3898606B2 (ja) 動きベクトル検出方法及び装置並びにフレーム補間画像作成方法及び装置
JP4997281B2 (ja) イメージ中の推定動きベクトルの決定方法、コンピュータプログラムおよびディスプレイ装置
JP2006324979A (ja) 画像静止領域判定装置
KR101186143B1 (ko) 프레임 레이트 변환 장치 및 방법
CN105282475A (zh) 移动字幕检测与补偿方法及系统
JP2007195062A (ja) 画像静止領域判定装置、およびインタレース−プログレッシブ画像変換装置
JP3893227B2 (ja) 走査線補間装置、及び走査線補間方法
CN103369208A (zh) 自适应去隔行方法及装置
KR100563023B1 (ko) 인터레이스 대 프로그레시브 변환에 대한 에지 적응보간을 위한 방법 및 시스템
JP2010147538A (ja) 画像処理装置および方法、並びにプログラム
US8817869B2 (en) Image processing device and method, and image display device and method
CN111294545B (zh) 图像数据插值方法及装置、存储介质、终端
JP4355347B2 (ja) 画像表示装置及び方法、画像処理装置及び方法
JP4736456B2 (ja) 走査線補間装置、映像表示装置、映像信号処理装置
US10587840B1 (en) Image processing method capable of deinterlacing the interlacing fields
JP5164716B2 (ja) 映像処理装置および映像表示装置
KR101012621B1 (ko) 이미지 처리 장치
JP2008193730A (ja) 画像表示装置及び方法、画像処理装置及び方法
JP2008109628A (ja) 画像表示装置及び方法、画像処理装置及び方法
JP4157587B2 (ja) 画像表示装置及び方法、画像処理装置及び方法
KR20090088689A (ko) 프레임 차이 기반의 적응형 확장 블록을 이용한 움직임추정 방법
JP2008118340A (ja) 動きベクトル検出装置及びビデオ信号処理装置

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20080730

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080917

A761 Written withdrawal of application

Free format text: JAPANESE INTERMEDIATE CODE: A761

Effective date: 20100108