JP2005122571A - 画像処理装置、画像処理方法、プログラム及び記憶媒体 - Google Patents

画像処理装置、画像処理方法、プログラム及び記憶媒体 Download PDF

Info

Publication number
JP2005122571A
JP2005122571A JP2003358519A JP2003358519A JP2005122571A JP 2005122571 A JP2005122571 A JP 2005122571A JP 2003358519 A JP2003358519 A JP 2003358519A JP 2003358519 A JP2003358519 A JP 2003358519A JP 2005122571 A JP2005122571 A JP 2005122571A
Authority
JP
Japan
Prior art keywords
image
frame image
background
difference
threshold
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2003358519A
Other languages
English (en)
Inventor
Osamu Itokawa
修 糸川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2003358519A priority Critical patent/JP2005122571A/ja
Publication of JP2005122571A publication Critical patent/JP2005122571A/ja
Withdrawn legal-status Critical Current

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Image Analysis (AREA)

Abstract

【課題】 動画像から背景差分方式を用いて形状データを抽出する際に、閾値近傍のデータを好適に取り扱うことにより、動画像の視覚的な劣化を抑えるとともに、高能率な符号化を行うことができる画像処理装置、画像処理方法、プログラム及び記憶媒体を提供する。
【解決手段】 差分データ生成部101が、取得した動画像の各フレーム画像とその背景画像との差分成分を生成し、低・高閾値設定部103、104がフレーム画像に基づいてそれぞれ閾値を設定する。ここで、判定結果保存部105に保存されている前フレーム画像に関する判定結果に関する情報を取得し、判定部102は、判定結果を参照して、差分値とそれぞれの閾値とを比較して、各画素ごとに背景又は対象物のいずれに属するかを判定し、判定結果に基づいて生成された形状データを符号化部2104に出力して可変長符号化する。
【選択図】 図1

Description

本発明は、動画像の中から対象物を背景差分方式を用いて検出し符号化する画像処理装置、画像処置方法、プログラム及び記憶媒体に関する。
近年、デジタル技術を利用して画像を対象物(オブジェクト)毎に分離、合成する処理が注目されている。特に、動画像の符号化においては、国際標準としてMPEG−4符号化方式が規格化されている。MPEG−4符号化方式では、オブジェクト毎の符号化/復号化が可能となり、符号化効率の向上、伝送路に応じたデータ配分、画像の再加工等の従来は困難であったさまざまな応用が期待されている。
また、動画像処理における対象物(オブジェクト)の抽出方法としては、背景差分方式という手法が知られている。この手法は、予め撮影した背景画像と実際の入力画像(動画像を構成する各フレーム画像)とを比較することにより、変化点を検出するものである。以下、簡単にその原理について説明する。
画像平面上の座標(x,y)における点の入力画像の画素値をPc(x,y)、背景画像の画素値をPb(x,y)とする。このとき、Pc(x,y)とPb(x,y)との差分を算出し、その絶対値を所定の閾値Thと比較する。
当該判定式の一例を示すと次の通りである。
|Pc(x,y)−Pb(x,y)| ≦ Th … (1)
上記式(1)において差分絶対値が閾値Th以下の場合、当該画素については変化なしとみなされて、入力画像の当該画素Pc(x,y)は「背景」であると判定される。また、差分絶対値が閾値Thを超えている場合は、当該画素について値が変化したとみなされ、入力画像の当該画素Pc(x,y)は対象物(オブジェクト)であると判定される。
差分絶対値をd、判定結果をsとすると、これらの関係は図19に示すようなグラフになる。図19は、従来例における閾値判定処理を説明するためのグラフである。すなわち、差分絶対値dが閾値Th以下の場合は「背景」であると判定して出力値s=0となり、それ以外では「オブジェクト」であると判定して出力値s=255となる。尚、判定結果は2値であるので、例えば「0」と「1」でも示すことができるが、図19では、後に説明するMPEG−4符号化の形式に合わせて0と255で表現している。
また、図20は、従来例における背景差分処理手順を説明するためのフローチャートである。まず、差分絶対値d(t)を算出し(ステップS2001)、閾値Thとの比較を行う(ステップS2002)。その結果、差分絶対値d(t)が閾値Th以下の場合(Yes)、当該画素は「背景」に属すると判定する(ステップS2003)。一方、差分絶対値d(t)が閾値Thよりも大きい場合(No)は、当該画素は「オブジェクト」に属すると判定する(ステップS2004)。尚、閾値Th上の点を背景にするか、或いはオブジェクトにするかは任意である。そして、画面上のすべての画素において上記閾値判定を行うことで、入力される1フレーム分の抽出が完了する。
図21は、背景差分方式とMPEG−4符号化方式とを組み合わせた従来の画像処理システムの一例を示すブロック図である。尚、図21において、(a)は、画像処理システムの全体構成を示すブロック図である。画像入力部2101は、例えばカメラの撮像部で実現されるような動画像の入力部である。また、背景差分方式では参照する背景画像が必要となるため、背景画像生成部2102において背景画像を用意する。これは、予め対象物(オブジェクト)が映っていない状態で1フレーム分の画像を取り込んでおくのが、最も簡単な方法である。背景差分処理部2103では、画像入力部2101からの入力画像(動画像の各フレーム画像)と背景生成部2102からの参照画像(背景画像)から差分成分を算出して形状データを生成し、符号化部2104に出力する。符号化部2104では、画像入力部2101からの入力画像と背景差分処理部2103から出力されてきた形状データをフレーム単位で入力し、符号化処理を行う。
また、図21において(b)は、背景差分処理部2103の細部構成を示すブロック図である。差分データ生成部2105では、背景画像と入力画像の差分絶対値を算出する。判定部2107では、閾値設定部2106で設定した閾値と差分絶対値データを比較し、当該画素がオブジェクトであるか背景であるかを判定する。そして判定結果から2値化されたデータが生成され、当該2値化データを形状データとして符号化部2104に出力する(例えば、特許文献1参照。)。
以下、符号化部2104における符号化処理をMPEG−4符号化方式として説明する。
オブジェクト(対象物)を符号化する場合には、オブジェクトの形と位置の情報を符号化する必要がある。そのために、まず、オブジェクトを内包する矩形領域を設定し、この矩形の左上位置の座標と矩形領域の大きさを符号化する。この矩形領域は「バウンディングボックス」と呼ばれる。また、画像信号、形状信号により表現されるオブジェクト内部の領域を「VOP(Video Object Plane)」と呼ぶ。
図22は、従来例におけるVOP符号化を行う符号化部2104の細部構成を示すブロック図である。符号化部2104に入力される信号は、画像の輝度・色差信号と形状信号であり、マクロブロック単位で処理される。
イントラモードでは、各ブロックをDCT部2201において離散コサイン変換(DCT)し、量子化部2202において量子化する。量子化されたDCT係数と量子化幅は、可変長符号化部2212で可変長符号化される。
一方、インターモードでは、動き検出部2207において時間的に隣接する別のVOPの中からブロックマッチングをはじめとする動き検出方法により動きを検出し、動きベクトル予測部2208で対象マクロブロックに対して誤差の最も小さい予測マクロブロックを検出する。誤差の最も小さい予測マクロブロックへの動きを示す信号が、「動きベクトル」である。また、予測マクロブロックを生成するために参照する画像を「参照VOP」と呼ぶ。そして、検出された動きベクトルに基づいて、参照VOPを動き補償部2206において動き補償して、最適な予測マクロブロックを取得する。次に、対象となるマクロブロックと対応する予測マクロブロックとの差分を求め、この差分信号に対してDCT部2201でDCTを施し、DCT変換係数を量子化部2202で量子化する。
一方、形状データは、形状符号化CAE部2209で符号化される。但し、ここで実際にCAE符号化が行われるのは境界ブロックのみであり、VOP内のブロック(ブロック内全てのデータがオブジェクト内)やVOP外のブロック(ブロック内全てのデータがオブジェクト外)はヘッダ情報のみが可変長符号化部2212に送られる。また、CAE符号化が施される境界ブロックは、画像データと同様に、インターモードにおいては、動き検出部2207による動き検出を行い、動きベクトル予測部2208動きベクトルの予測を行う。そして、動き補償した形状データと前フレームの形状データとの差分値に対してCAE符号化が行われる。
しかし、背景差分方式には、誤判定を伴う場合があるという問題がある。一つは、背景をオブジェクトと誤判定してしまう場合であり、もう一つは、オブジェクトを背景と誤判定してしまう場合である。
一つ目の誤判定は、入力画像の背景位置の画素値が参照する画像の画素値と大きく異なってしまう場合に発生する。この問題は、照明条件の変化等が原因となる。この問題の対応策としては、背景画像の変化を統計的な手法により検出し、適宜背景画像を更新するという方法が知られている(例えば、特許文献2参照。)。
もう一つの誤判定は、入力した画像のオブジェクトの画素値が参照する画像の画素値と近い場合に発生する。抽出したオブジェクトを別の背景画像と合成する等の用途では、オブジェクトの一部が欠けたり、オブジェクト内部に穴が開いたりするといった視覚的にさまざまな問題を生じる。但し、背景とオブジェクトを別々に送り、同じ背景とまた合成するといった用途では、誤判定を生じていてもオブジェクトと背景の画素値がほぼ同じであることから、視覚的な問題はそれほど大きくはないと考えられる。
特開2003−199099号公報 特開平7−302328号公報
しかしながら、オブジェクトの画素値と背景の画素値との差分絶対値が閾値近傍にある場合は、わずかなノイズによって判定がオブジェクトになったり背景になったりすることがある。例えば、同じ位置の画素やそれらから構成される同じ位置の領域について、オブジェクトであるという判定と背景であるという判定が非常に短い周期で繰り返される場合、それはちらつきと知覚され、周期がやや長いときには、点滅として知覚される。このような状態が発生するような場合、符号化効率的にも、形状データが頻繁に変化するため、図22で説明したようなフレーム間相関を使う符号化方式では、圧縮率を高めることができないという問題が生じる。
この問題について、図23から図30を用いてさらに詳しく説明する。
図23(a)は、画面上のある位置における差分絶対値の時間変化を表す図である。図23(a)において、Thはオブジェクトか背景かを判定するための閾値であり、差分絶対値が閾値近傍で変動していることがわかる。図23(b)は、閾値Thを用いた判定結果を示す図である。図23(b)では、差分絶対値が閾値Th以下の場合がは「0」、それ以外の場合は「255」と判定している。すなわち、t=0からt=2までは閾値Th未満であるため0、t=3、t=5では255、t=4、t=6では0、t=7以降は255となる。
図24は、従来例における閾値判定結果を説明するための図である。図24には、閾値判定結果を形状データとして示した例が示されている。図24では、各画面右下の部分が閾値近傍のデータを有していることを示しており、t=3、t=5及びt=7以降でこの部分はオブジェクトと判定され、それ以外の時間に関するフレーム画像では背景と判定されている。このように、t=3からt=7までの範囲では、オブジェクトと判定されたり、背景と判定とされたりといった状態が交互に続くので、視覚的にはちらつきとして知覚されてしまう。また、t=3における形状データをt=2の形状データからパターンマッチングで探そうとする場合、左側の人物は容易に検出することができるが、右下の部分はt=2に形状データが存在しないため、検出することができない。このようにフレーム間の形状が異なってしまうと、高能率な符号化の実現が困難となってしまう。
図25(a)は、画面上のある位置における差分絶対値の時間変化を表す第2の図であり、(b)は、閾値Thを用いた判定結果を示す第2の図である。図25では、t=0からt=3までは255、t=4、t=6では0、t=5、t=7では255となった後、t=8以降で再び0となる。図26は、従来例における閾値判定結果を説明するための第2の図である。すなわち、t=4からt=8までの間で、オブジェクトと背景の判定を繰り返すため、右下の部分はちらついて見えることとなる。
図27(a)は、画面上のある位置における差分絶対値の時間変化を表す第3の図であり、(b)は、閾値Thを用いた判定結果を示す第3の図である。図27では、t=0、t=1で背景、t=2、t=3でオブジェクト、t=4、t=5で背景、t=6からt=9でオブジェクトと判定する。図28は、従来例における閾値判定結果を説明するための第3の図である。すなわち、t=2、t=3でオブジェクトが現れ、t=4、t=5で消え、t=6以降でまた現れる、といった見え方となる。すなわち、この例の見え方は、点滅として知覚される。
図29(a)は、画面上のある位置における差分絶対値の時間変化を表す第4の図であり、(b)は、閾値Thを用いた判定結果を示す第4の図である。図29では、t=0、t=1でオブジェクト、t=2、t=3で背景、t=4、t=5でオブジェクト、t=6からt=9で背景、と判定する。図30は、従来例における閾値判定結果を説明するための第4の図である。すなわち、t=2、t=3でオブジェクトが消え、t=4、t=5でオブジェクトが現れた後、t=6以降で再度消える、といった見え方となり、これも点滅として知覚される。点滅の場合も、オブジェクト又は背景としての存在時間がフレーム間処理を行う処理間隔よりも短い場合には、前述したちらつき時と同様に符号化効率の低下を招くこととなる。
本発明は、このような事情を考慮してなされたものであり、動画像から背景差分方式を用いて形状データを抽出する際に、閾値近傍のデータを好適に取り扱うことにより、動画像の視覚的な劣化を抑えるとともに、高能率な符号化を行うことができる画像処理装置、画像処理方法、プログラム及び記憶媒体を提供することを目的とする。
上記課題を解決するために、本発明は、動画像を取得する動画像取得手段と、
前記動画像を構成する各フレーム画像に対する背景画像を取得する背景画像取得手段と、
前記動画像の各フレーム画像と前記背景画像との差分成分を、それぞれのフレーム画像に含まれる対象物の形状データとして抽出する背景差分処理手段と、
各フレーム画像ごとに、該フレーム画像と前記形状データとを可変長符号化する符号化手段とを備える画像処理装置であって、
前記背景差分処理手段が、
前記フレーム画像と前記背景画像との差分値を生成する生成手段と、
前記フレーム画像に基づいて複数の閾値を設定する閾値設定手段と、
前記フレーム画像の前フレーム画像に関する判定結果に関する情報を取得する判定結果取得手段と、
前記判定結果を参照して、前記差分値と前記複数の閾値とを比較して、前記フレーム画像を構成する各画素が背景又は対象物のいずれに属するかを判定する判定手段と、
判定結果に基づいて生成された形状データを出力する出力手段と
を備えることを特徴とする。
また、本発明は、動画像を取得する動画像取得工程と、
前記動画像を構成する各フレーム画像に対する背景画像を取得する背景画像取得工程と、
前記動画像の各フレーム画像と前記背景画像との差分成分を、それぞれのフレーム画像に含まれる対象物の形状データとして抽出する背景差分処理工程と、
各フレーム画像ごとに、該フレーム画像と前記形状データとを可変長符号化する符号化工程とを有する画像処理方法であって、
前記背景差分処理工程が、
前記フレーム画像と前記背景画像との差分値を生成する生成工程と、
前記フレーム画像に基づいて複数の閾値を設定する閾値設定工程と、
所定の保存部に保存されている前記フレーム画像の前フレーム画像に関する判定結果に関する情報を取得する判定結果取得工程と、
前記判定結果を参照して、前記差分値と前記複数の閾値とを比較して、前記フレーム画像を構成する各画素が背景又は対象物のいずれに属するかを判定する判定工程と、
判定結果に基づいて生成された形状データを出力する出力工程と
を有することを特徴とする。
さらに、本発明は、コンピュータに、
動画像を取得する動画像取得手順と、
前記動画像を構成する各フレーム画像に対する背景画像を取得する背景画像取得手順と、
前記動画像の各フレーム画像と前記背景画像との差分成分を、それぞれのフレーム画像に含まれる対象物の形状データとして抽出する背景差分処理手順と、
各フレーム画像ごとに、該フレーム画像と前記形状データとを可変長符号化する符号化手順とを実行させるためのプログラムであって、
前記背景差分処理手順が、
前記フレーム画像と前記背景画像との差分値を生成する生成手順と、
前記フレーム画像に基づいて複数の閾値を設定する閾値設定手順と、
所定の保存部に保存されている前記フレーム画像の前フレーム画像に関する判定結果に関する情報を取得する判定結果取得手順と、
前記判定結果を参照して、前記差分値と前記複数の閾値とを比較して、前記フレーム画像を構成する各画素が背景又は対象物のいずれに属するかを判定する判定手順と、
判定結果に基づいて生成された形状データを出力する出力手順と
を実行させることを特徴とする。
さらにまた、本発明に係る記憶媒体は、上記特徴を有するプログラムを格納したことを特徴とする。
さらにまた、本発明は、動画像を取得する動画像取得手段と、
前記動画像を構成する各フレーム画像に対する背景画像を取得する背景画像取得手段と、
前記動画像の各フレーム画像と前記背景画像との差分成分を、それぞれのフレーム画像に含まれる対象物の形状データとして抽出する背景差分処理手段と、
各フレーム画像ごとに、該フレーム画像と前記形状データとを可変長符号化する符号化手段とを備える画像処理装置であって、
前記背景差分処理手段が、
前記フレーム画像と前記背景画像との差分値を生成する生成手段と、
前記フレーム画像の前フレーム画像に関する判定結果に関する情報を取得する判定結果取得手段と、
前記判定結果と前記差分値とに応じて前記フレーム画像を構成する各画素が背景又は対象物のいずれに属するかを判定する判定手段と、
判定結果に基づいて生成された形状データを出力する出力手段と
を備えることを特徴とする。
さらにまた、本発明は、動画像を取得する動画像取得工程と、
前記動画像を構成する各フレーム画像に対する背景画像を取得する背景画像取得工程と、
前記動画像の各フレーム画像と前記背景画像との差分成分を、それぞれのフレーム画像に含まれる対象物の形状データとして抽出する背景差分処理工程と、
各フレーム画像ごとに、該フレーム画像と前記形状データとを可変長符号化する符号化工程とを有する画像処理方法であって、
前記背景差分処理工程が、
前記フレーム画像と前記背景画像との差分値を生成する生成工程と、
所定の保存部に保存されている前記フレーム画像の前フレーム画像に関する判定結果に関する情報を取得する判定結果取得工程と、
前記判定結果と前記差分値とに応じて前記フレーム画像を構成する各画素が背景又は対象物のいずれに属するかを判定する判定工程と、
判定結果に基づいて生成された形状データを出力する出力工程と
を有することを特徴とする
本発明によれば、動画像から背景差分方式を用いて形状データを抽出する際に、閾値近傍のデータを好適に取り扱うことにより、動画像の視覚的な劣化を抑えるとともに、高能率な符号化を行うことができる。すなわち、複数の閾値を設定して背景又は形状データの判定結果を修正することにより、動画像中における形状データの頻繁な変化を抑制し、視覚的にも符号化効率的にも優れた画像符号化を行うことができる。
以下、図面を参照して、本発明の一実施形態に係る画像処理システムについて詳細に説明する。尚、以下で説明する本発明の一実施形態に係る画像処理システムの全体のシステム構成は、背景差分処理部2103の細部構成を除いて、図21(a)において説明したブロック図と同じで構成である。以下では、本発明に係る特徴的な構成を有して動作する背景差分処理部の実施形態について詳細に説明する。
<第1の実施形態>
本発明の第1の実施例について、図1から図7を参照して説明する。
図1は、本発明の第1の実施形態における背景差分処理部の細部構成を示すブロック図である。尚、以下では画素毎の処理が基本単位となるが、いくつかの画素をまとめたブロック単位の処理でも、1画面分をまとめたフレーム単位の処理であってもよい。
図1において、差分データ生成部101は、入力画像(動画像)と背景画像を入力し、差分絶対値を生成する。この処理は図21(b)における差分データ生成部2105と同様の処理である。また、判定部102では、低閾値設定部103で設定した閾値と、高閾値設定部104で設定した閾値の2つの閾値と、判定結果保存部105で保存されている前フレームの同じ位置における判定結果とに基づいて判定を行い、その判定結果を出力する。
尚、各閾値設定部で設定されるそれぞれの閾値は、あらかじめ定められた固定値であっても、入力画像のノイズ分布の解析結果等から求めた値であってもよい。例えば、前述した従来例における閾値設定部2106で設定される閾値Thに相当する値に一定の値aを加算した値Th+aを第1の閾値である高閾値として高閾値設定部104で設定するようにし、閾値Thに相当する値に一定の値bを減算した値Th−bを第2の閾値である低閾値として低閾値設定部103で設定するようにしてもよい。尚、上記定数aとbは同一であっても異なっていてもよい。また、判定部102における詳細な判定方法については後述する。
図2は、本発明の第1の実施形態に係る背景差分処理部における処理動作を説明するためのフローチャートである。尚、ここでは、画面上のある位置における画素単位の処理について説明する。
まず、差分データ生成部101において、時刻tにおける入力画像の画素値と背景画像の画素値の差分と求め、その絶対値を算出することによって差分絶対値d(t)を算出する(ステップS201)。次に、判定部102において、前フレーム画像における同じ位置の判定結果による処理の分岐を行う。そこで、本実施形態では、判定結果保存部105に保存されている前フレーム画像における判定結果を取得して当該結果を参照し、前フレーム画像での同一位置の画素の判定が背景であるか否かを判定する(ステップS202)。その結果、前フレーム画像で背景である場合(Yes)、差分絶対値d(t)と高閾値設定部104で設定された高閾値Th_highとの比較を行う(ステップS203)。その結果、差分絶対値d(t)が高閾値Th_highより大きい場合(Yes)、当該画素をオブジェクトと判定する(ステップS204)。一方、差分絶対値d(t)が高閾値Th_high以下の場合(No)、当該画素を背景と判定する(ステップS205)。
一方、ステップS202において、前フレーム画像の当該画素の判定がオブジェクトである場合(No)、差分絶対値d(t)と低閾値設定部103で設定された低閾値Th_lowとの比較を行う(ステップS206)。その結果、差分絶対値d(t)が低閾値Th_lowより小さい場合(Yes)、当該画素を背景と判定する(ステップS207)。一方、差分絶対値d(t)が低閾値Th_low以上の場合(No)、当該画素をオブジェクトと判定する(ステップS208)。
上記第1の実施形態における判定方法を図3を用いて説明する。図3は、第1の実施形態における閾値判定処理を説明するためのグラフである。図3のグラフは、横軸を差分絶対値d、縦軸を判定結果sとしている。ここで、図3において、(a)は判定結果が背景からオブジェクトに変化するときの様子を示している。例えば、前フレーム画像の判定結果が背景である場合に現フレーム画像をオブジェクトと判定するためには、差分絶対値がTh_highより大きくなければならない。また、図3において、(b)は判定結果がオブジェクトから背景に変化するときの様子を示している。例えば、前フレーム画像の判定結果がオブジェクトである場合に現フレーム画像を背景と判定するためには、差分絶対値がTh_lowより小さくなければならない。
図4は、第1の実施形態における画面上のある位置における差分絶対値の時間変化と低閾値及び高閾値を用いた判定結果を示す図である。図4(a)の差分絶対値は、図23(a)で説明したものと同じ値を示している。図4において、低閾値はTh_low、高閾値はTh_highで示しており、比較のために図23(a)の閾値Thを破線で示している。
ここで、初期値として、t=0の時の判定結果は背景であるとする。そこで、まず、t=1の時は、t=0における判定結果が背景であり、この差分絶対値はTh_highより小さいため、図2のステップS205により、この画素は背景と判定される。また、t=2からt=7の時は、t=1の時と同様に差分絶対値がTh_highより小さいため、この画素は背景と判定される。さらに、t=8の時は、t=7における判定結果が背景であり、この差分絶対値はTh_highより大きいため、図2のステップS204により、この画素はオブジェクトと判定される。さらにまた、t=9の時は、t=8における判定結果がオブジェクトであり、この差分絶対値はTh_lowより大きいため、図2のステップS208により、この画素はオブジェクトと判定される。さらにまた、t=10の時は、t=9の時と同様に、オブジェクトと判定される。
図6(a)は、従来例(図23)における閾値Thを用いた閾値判定結果の形状データを示す図であり、図6(b)は第1の実施形態における低閾値Th_low及び高閾値Th_highを用いた閾値判定結果の形状データを示す図である。図6(b)に示すように、t=3、t=5、t=7の右下部分がオブジェクトから背景に変更されたため、この間のフレーム画像の再生時にちらついたように見える現象が解消していることが分かる。
図5は、第1の実施形態における画面上のある位置における差分絶対値の時間変化と低閾値及び高閾値を用いた判定結果を示す第2の図である。尚、図5(a)の差分絶対値データは、図25(a)で説明したものと同じ値を示している。また、高閾値Th_high、低閾値Th_low、閾値に関しては図4と同様である。
尚、初期値として、t=0の時の判定結果はオブジェクトであるとする。まず、t=1の時は、t=0における判定結果がオブジェクトであり、この差分絶対値はTh_lowより大きいため、図2のステップS208によりこの画素はオブジェクトと判定される。また、t=2からt=8の時は、t=1の時と同様に差分絶対値がTh_lowより大きいため、この画素はオブジェクトと判定される。さらに、t=9の時は、t=8における判定結果がオブジェクトであり、この差分絶対値はTh_lowより小さいため、図2のステップS207によりこの画素は背景と判定される。さらにまた、t=10の時は、t=9における判定結果が背景であり、この差分絶対値はTh_highより小さいため、図2のステップS205によりこの画素は背景と判定される。
図7は、(a)は、従来例(図26)における閾値Thを用いた閾値判定結果の形状データを示す図であり、(b)は第1の実施形態における低閾値Th_low及び高閾値Th_highを用いた閾値判定結果の形状データを示す第2の図である。図7(b)のt=4、t=6、t=8の右下部分が背景からオブジェクトに変更されたため、ちらついたように見える現象が解消していることが分かる。
上述したように、第1の実施形態によれば、複数の閾値と前フレームの判定結果を用いた判定処理により、形状データのフレーム間における連続性を保ち、視覚的にも符号化効率的にも、従来よりも良好な画像データの符号化を行う画像処理システムを実現することができる。
<第2の実施形態>
次に、本発明の第2の実施形態について、図8から図13を参照して説明する。
図8は、本発明の第2の実施形態における背景差分処理部の細部構成を示すブロック図である。差分データ生成部801は、入力画像と背景画像を入力し、差分絶対値を生成する。この処理は図21(b)におけるで説明した差分データ生成部2105と同様の処理である。また、判定部802では、低閾値設定部803で設定した低閾値Th_lowと、標準閾値設定部804で設定した標準閾値Th_midと、高閾値設定部805で設定した高閾値Th_highの計3つの閾値と、判定結果保存部807で保持されている前フレーム画像の同じ位置の画素についての判定結果と、差分絶対値保存部806で保持されている次フレーム画像の差分絶対値とに基づいて判定を行い、結果を出力する。ここで、標準閾値としては、高閾値と低閾値との中間値としたり、或いは前述した従来例における閾値設定部2106で設定される閾値Thに相当する値であってもよい。尚、判定に次フレーム画像を用いる場合には、そのフレーム分だけ別にデータの保存領域が必要となり、出力もそのフレーム分の遅延を生じることとなる。この判定方法の詳細については後述する。
図9は、本発明の第2の実施形態における背景差分処理部の処理動作を説明するためのフローチャートである。ここでは、画面上のある位置における画素単位の処理について説明する。まず、差分データ生成部801において、時刻tにおける入力画像の画素値と背景画像の画素値からその差分絶対値d(t)を求める(ステップS901)。次に、判定部802において、前フレーム画像における同じ位置の画素についての判定結果による処理の分岐を行う(ステップS902)。すなわち、前フレーム画像の判定が背景である場合(Yes)、差分絶対値d(t)と高閾値Th_highとの比較を行う(ステップS903)。そして、差分絶対値d(t)が高閾値Th_highより大きいと判定された場合(Yes)、当該画素をオブジェクトと判定する(ステップS904)。一方、差分絶対値d(t)が高閾値Th_high以下の場合(No)、次いで差分絶対値d(t)と標準閾値Th_midとの比較を行う(ステップS905)。その結果、差分絶対値d(t)が標準閾値Th_midより大きい場合(Yes)、Th_mid<d(t)≦Th_highということになる。本実施形態では、差分絶対値がこの範囲にある場合は、次フレーム画像の状態によって判定結果を変えるようにする。
すなわち、次フレーム画像の差分絶対値d(t+1)が標準閾値Th_midより大きいかどうかを比較する(ステップS906)。その結果、大きいと判定された場合(Yes)、当該画素をオブジェクトと判定する(ステップS904)。一方、次フレーム画像の差分絶対値d(t+1)が標準閾値Th_mid以下の場合(No)は背景と判定する(ステップS907)。尚、ステップS905において、差分絶対値d(t)が標準閾値Th_mid以下と判定された場合(No)も、ステップS907において背景と判定する。
一方、ステップS902において、前フレーム画像の判定がオブジェクトの場合(No)、差分絶対値d(t)と低閾値Th_lowとの比較を行う(ステップS908)。そこで、差分絶対値d(t)が低閾値Th_lowより小さい場合(Yes)、当該画素を背景と判定する(ステップS909)。一方、差分絶対値d(t)が低閾値Th_low以上の場合(No)、差分絶対値d(t)と標準閾値Th_midとの比較を行う(ステップS910)。そして、差分絶対値d(t)が標準閾値Th_midより小さい場合(Yes)、Th_low≦d(t)<Th_midということになる。そこで、本実施形態では、差分絶対値がこの範囲にある場合は、次のフレームの状態によって、判定結果を変えるようにする。
すなわちで、次フレーム画像の差分絶対値d(t+1)が標準閾値Th_midより小さいか否かを判定する(ステップS911)。その結果、ステップS911で小さいと判定された場合(Yes)、当該画素は背景と判定される(ステップS909)。一方、次フレーム画像の差分絶対値d(t+1)がTh_mid以上の場合(No)、当該画素をオブジェクトと判定する(ステップS912)。また、ステップS910において、差分絶対値d(t)が標準閾値Th_mid以上と判定された場合(No)も、当該画素をオブジェクトと判定する(ステップS912)。
図10は、第2の実施形態における画面上のある位置における差分絶対値の時間変化と低閾値及び高閾値を用いた判定結果を示す図である。尚、図10では、低閾値をTh_low、高閾値をTh_high、従来の閾値Thを標準閾値Th_midとして示している。
図10において、初期値として、t=0の時の判定結果は背景であるとする。まず、t=1の時は、t=0における判定結果が背景であり、この差分絶対値d(1)は高閾値Th_highより小さく、標準閾値Th_midよりも小さいため、図9のステップS907によりこの画素は背景と判定する。また、t=2の時は、t=1の時と同様で、この画素は背景と判定する。さらに、t=3の時は、t=2における判定結果が背景であり、この差分絶対値d(3)は高閾値Th_highより小さく、標準閾値Th_midよりも大きいため、次のフレーム(t=4)の状態を見て判定する。そして、、次のフレームの差分絶対値d(4)は標準閾値Th_midより小さいので、図9のステップS907によりこの画素は背景と判定する。
さらにまた、t=4、t=6の時は、t=2の時と同様で、この画素は背景と判定する。さらにまた、t=5の時は、t=3の時と同様で、この画素は背景と判定する。さらにまた、t=7の時は、t=6における判定結果が背景であり、この差分絶対値d(7)は高閾値Th_highより小さく、標準閾値Th_midよりも大きいため、次のフレーム(t=8)の状態を見て判定する。そして、次のフレームの差分絶対値d(8)は標準閾値Th_midより大きいので、ステップS904によりこの画素はオブジェクトと判定する。さらにまた、t=8の時は、t=7における判定結果がオブジェクトであり、この差分絶対値d(8)は低閾値Th_lowより大きく、標準閾値Th_midよりも大きいため、図9のステップS912によりこの画素はオブジェクトと判定する。
さらにまた、t=9の時は、t=8における判定結果がオブジェクトであり、この差分絶対値d(9)は高閾値Th_highより小さく、標準閾値Th_midよりも大きいため、次のフレーム(t=10)の状態を見て判定する。そして、次のフレームの差分絶対値d(10)は標準閾値Th_midより大きいので、図9のステップS912によりこの画素はオブジェクトと判定する。
図12(a)は、従来例(図24)における閾値Thを用いた閾値判定結果の形状データを示す図であり、(b)は第2の実施形態における低閾値Th_low及び高閾値Th_highを用いた閾値判定結果の形状データを示す図である。図12(b)において、t=3、t=5の右下部分がオブジェクトから背景に変更されたため、ちらついたように見える現象が解決することがわかる。
図11は、第2の実施形態における画面上のある位置における差分絶対値の時間変化と低閾値及び高閾値を用いた判定結果を示す第2の図である。図11(a)の差分絶対値は、図25(a)で説明したものと同じ値を示している。ここで、Th_low、Th_high、Th_midについては、図10の場合と同様に、それぞれ低閾値、高閾値、従来の閾値である。
図11において、初期値として、t=0の時の判定結果はオブジェクトであるとする。まず、t=1の時は、t=0における判定結果がオブジェクトであり、この差分絶対値d(1)は低閾値Th_lowより大きく、標準閾値Th_midよりも大きいので、図9のステップS912により、この画素はオブジェクトと判定される。また、t=2、t=3の時は、t=1の時と同様で、この画素はオブジェクトと判定される。さらに、t=4の時は、t=3における判定結果がオブジェクトであり、この差分絶対値d(4)は低閾値Th_lowより大きく、標準閾値Th_midよりも小さいため、次のフレーム(t=5)の状態を見て判定する。そして、次のフレームの差分絶対値d(5)は、標準閾値Th_midより大きいので、図9のステップS909によりこの画素はオブジェクトと判定される。
さらにまた、t=5、t=7の時は、t=3の時と同様で、この画素はオブジェクトと判定される。さらにまた、t=6の時は、t=4の時と同様であり、この画素はオブジェクトと判定される。さらにまた、t=8の時は、t=7における判定結果がオブジェクトであり、この差分絶対値d(8)は低閾値Th_lowより大きく、標準閾値Th_midよりも小さいため、次のフレーム(t=9)の状態を見て判定する。そして、次のフレームの差分絶対値d(9)は標準閾値Th_midより小さいので、図9のステップS909によりこの画素は背景と判定される。さらにまた、t=9の時は、t=8における判定結果が背景であり、この差分絶対値d(9)は高閾値Th_highより小さく、標準閾値Th_midよりも小さいため、図9のステップS907によりこの画素は背景と判定される。
図13(a)は、従来例(図26)における閾値Thを用いた閾値判定結果の形状データを示す図であり、(b)は第2の実施形態における低閾値Th_low及び高閾値Th_highを用いた閾値判定結果の形状データを示す第2の図である。図13(b)に示すように、t=4、t=6の右下部分が背景からオブジェクトに変更されたため、ちらついたように見える現象が解決することが分かる。
上述したように、第2の実施形態によれば、複数の閾値と前フレームの判定結果および後フレームの差分絶対値を用いた判定処理により、形状データのフレーム間における連続性を保ち、視覚的にも符号化効率的にも従来よりも良好な符号化システムを実現することができる。
<第3の実施形態>
次いで、本発明の第3の実施形態について、図14A、Bから図18を参照して説明する。尚、本発明の第3の実施形態における背景差分処理部の細部構成を示すブロック図は図8と同じである。第2の実施形態においては、後フレーム画像の差分絶対値を1フレーム分のみ使用していたが、ここでは複数フレーム画像分に拡張した例について説明する。尚、判定に次フレーム画像以降の複数フレーム画像を用いる場合には、そのフレーム数分だけ別にデータの保存領域が必要となり、出力もそのフレーム数分の遅延を生じることとなる。
図14A、図14Bは、本発明の第3の実施形態に係る背景差分処理部の処理動作を説明するためのフローチャートである。図14A、Bのフローチャートにおいては、図9において説明したステップS902までの処理は共通であるため、ここでは省略している。すなわち、図14Aは、前フレームにおける同じ位置の判定が背景であった場合の処理を示し、図14Bは、前フレームにおける同じ位置の判定がオブジェクトであった場合の処理を示す。
まず、図14Aに示すように、差分絶対値d(t)と高閾値Th_highとの比較を行う(ステップS1401)。その結果、差分絶対値d(t)が高閾値Th_highより大きい場合(Yes)、当該画素はオブジェクトと判定される(ステップS1402)。一方、差分絶対値d(t)が高閾値Th_high以下の場合(No)、差分絶対値d(t)と標準閾値Th_midとの比較を行う(ステップS1403)。この場合、差分絶対値d(t)が標準閾値Th_midより大きければ、Th_mid<d(t)≦Th_highということになる。そこで、差分絶対値がこの範囲にある場合は、以後の複数フレーム画像の状態によって、判定結果を変える。従って、差分絶対値が標準閾値以下の場合(No)、当該画素を背景と判定する(ステップS1404)。
一方、ステップS1403で、差分絶対値d(t)が標準閾値Th_midよりも大きい場合(Yes)、複数フレームをカウントするための初期化処理のための初期値をi=1とする(ステップS1405)。そして、次のフレーム画像の差分絶対値d(t+1)と高閾値Th_highとの比較を行う(ステップS1406)。
その結果、差分絶対値d(t+1)がTh_high以上の場合(No)、当該画素をオブジェクトと判定する(ステップS1402)。一方、差分絶対値d(t+1)がTh_highより小さい場合(Yes)、さらに標準閾値Th_midとの比較を行う(ステップS1407)。その結果、差分絶対値d(t+1)がTh_midより大きい場合(Yes)、Th_mid<d(t+1)<Th_highということになる。ここで、差分絶対値がこの範囲にある場合は、このフレーム画像における判定を保留し、次のフレーム画像の状態によって判定する。そこで、現フレーム画像のカウントiが最大カウント数maxに達していないかどうかを判断する(ステップS1408)。
その結果、カウントiが最大カウント数maxに達していない場合(Yes)、カウントを1つ増やして(ステップS1409)、ステップS1406からの処理を繰り返す。
尚、ステップS1407において、差分絶対値d(t+1)がTh_mid以下の場合(No)、当該画素を背景と判定する(ステップS1404)。また、ステップS1408において、カウント数iが最大値maxに達してもなお判定保留の場合(No)、当該画素をオブジェクトと判定する(ステップS1402)。上述した一連の処理により、差分絶対値がTh_mid<d(t+i)<Th_highの範囲内にある場合、あらかじめ設定した最大カウント数max値以下の時間間隔で、状態変化が起こらないことになる。
一方、図14Bに示すように、ステップS1411では、差分絶対値d(t)と低閾値Th_lowとの比較を行う。その結果、差分絶対値d(t)が低閾値Th_lowより小さい場合(Yes)、当該画素を背景と判定する(ステップS1412)。一方、差分絶対値d(t)が低閾値Th_low以上の場合(No)、次いで、差分絶対値d(t)と標準閾値Th_midとの比較を行う(ステップS1413)。
その結果、差分絶対値d(t)が標準閾値Th_midより小さければ、Th_mid<d(t)≦Th_highということになる。すなわち、差分絶対値がこの範囲にある場合は、以後の複数フレーム画像の状態によって、判定結果を変える。そこで、差分絶対値が標準閾値Th_mid以上の場合(No)、当該画素をオブジェクトと判定する(ステップS1414)。一方、差分絶対値d(t)が標準閾値Th_midよりも小さい場合(Yes)、ステップS1415に進む。
ステップS1415は、複数フレームをカウントするための初期化処理であり、初期値i=1とする。そして、次のフレーム画像の差分絶対値d(t+1)と低閾値Th_lowとの比較を行う(ステップS1416)。その結果、差分絶対値d(t+1)がTh_low以下の場合(No)、当該画素を背景と判定する(ステップS1412)。一方、差分絶対値d(t+1)がTh_lowより大きい場合(Yes)、さらに標準閾値Th_midとの比較を行う(ステップS1417)。
その結果、差分絶対値d(t+1)がTh_midより小さい場合(Yes)、Th_mid<d(t+1)<Th_highということになる。そこで、差分絶対値がこの範囲にある場合は、このフレーム画像における判定を保留し、次のフレーム画像の状態によって判定する。そして、現フレーム画像のカウントiが最大カウント数maxに達していないかどうかを判断する(ステップS1418)。その結果、カウントiがまだ最大カウント数maxに達していない場合(Yes)、当該カウントを1つ増やして(ステップS1419)、ステップS1416からの処理を繰り返す。
一方、ステップS1417において、差分絶対値d(t+1)がTh_mid以上の場合(No)、当該画素をオブジェクトと判定する(ステップS1414)。また、ステップS1418でカウント数iが最大値maxに達してもなお判定保留の場合(No)、当該画素を背景と判定する(ステップS1412)。
上述した一連の処理により、差分絶対値がTh_mid<d(t+i)<Th_highの範囲内にある場合、あらかじめ設定したmax値以下の時間間隔で、状態変化が起こらないことになる。
図15は、第3の実施形態における画面上のある位置における差分絶対値の時間変化と低閾値及び高閾値を用いた判定結果を示す図である。図15(a)の差分絶対値は、図27(a)で説明したものと同じ値を示している。ここで、低閾値がTh_low、高閾値がTh_highであり、従来の閾値Thを標準閾値Th_midとして示している。
図15では、初期値として、t=0の時の判定結果は背景であるとする。まず、t=1の時は、t=0における判定結果が背景であり、この差分絶対値d(1)は高閾値Th_highより小さいく、標準閾値Th_midよりも小さいため、ステップS1404によりこの画素は背景と判定する。また、t=2の時は、t=1における判定結果が背景であり、この差分絶対値d(2)は高閾値Th_highより小さく、標準閾値Th_midよりも大きいため、次のフレーム画像(t=3)の状態を見て判定する。そこで、次のフレームの差分絶対値d(3)は高閾値Th_highより小さく、標準閾値Th_midより大きいので、このフレーム画像の状態では判定せず、さらに次のフレーム画像(t=4)の状態を見て判定する。そして、このフレーム画像の差分絶対値d(4)は高閾値Th_highより小さく、標準閾値Th_midよりも小さいので、ループを抜け、ステップS1404にて、背景と判定する。
さらに、t=3の時は、t=2における判定と同様、t=4の状態を見て、ステップS1404に進み、背景と判定する。さらにまた、t=4の時は、t=3における判定結果が背景であり、この差分絶対値d(4)は高閾値Th_highより小さいく、標準閾値Th_midよりも小さいため、図14AのステップS1404によりこの画素は背景と判定する。さらにまた、t=5の時は、t=4の時と同様で、この画素は背景と判定する。
さらにまた、t=6の時は、t=5における判定結果が背景であり、この差分絶対値d(6)は高閾値Th_highより小さく、標準閾値Th_midよりも大きいため、次のフレーム画像(t=7)の状態を見て判定する。そこで、次のフレーム画像の差分絶対値d(7)は高閾値Th_highより小さく、標準閾値Th_midより大きいので、このフレーム画像の状態では判定せず、さらに次のフレーム画像(t=8)の状態を見て判定する。そして、本実施例では、t=9まで同じ状態が続いている。ここで、maxの設定値が3であるとすると、図14AのステップS1408の終了判定により、ステップS1402に進み、オブジェクトと判定する。
さらにまた、t=7の時は、t=6における判定結果がオブジェクトであり、この差分絶対値d(7)は、低閾値Th_lowより大きく、標準閾値Th_midよりも大きいため、図14BのステップS1414によりこの画素はオブジェクトと判定する。さらにまた、t=8、t=9の時は、t=7の時と同様であり、この画素はオブジェクトと判定する。さらにまた、t=10の時は、t=9における判定結果がオブジェクトであり、この差分絶対値d(10)は、低閾値Th_lowより大きく、標準閾値Th_midよりも小さいため、次のフレーム画像(t=11)の状態を見て判定する。そこで、次のフレーム画像の差分絶対値d(11)は低閾値Th_lowより小さいため、S1412によりこの画素は背景と判定する。
図17(a)は、従来例(図28)における閾値Thを用いた閾値判定結果の形状データを示す図であり、(b)は第3の実施形態における低閾値Th_low及び高閾値Th_highを用いた閾値判定結果の形状データを示す図である。図17に示すように、t=2、t=3の右下部分がオブジェクトから背景に変更されたため、点滅しているように見える現象が解決することが分かる。
図16は、第3の実施形態における画面上のある位置における差分絶対値の時間変化と低閾値及び高閾値を用いた判定結果を示す第2の図である。図16(a)の差分絶対値は、図29(a)で説明したものと同じ値を示している。ここで、Th_low、Th_high、Th_midは、それぞれ図15における低閾値、高閾値、標準閾値と同じである。
図16において、初期値として、t=0の時の判定結果はオブジェクトであるとする。まず、t=1の時は、t=0における判定結果がオブジェクトであり、この差分絶対値d(1)は低閾値Th_lowより大きく、標準閾値Th_midよりも大きいため、図14BのステップS1414によりこの画素はオブジェクトと判定する。また、t=2の時は、t=1における判定結果がオブジェクトであり、この差分絶対値d(2)は低閾値Th_lowより大きく、標準閾値Th_midよりも小さいため、次のフレーム画像(t=3)の状態を見て判定する。そこで、次のフレーム画像の差分絶対値d(3)は低閾値Th_lowより大きく、標準閾値Th_midよりも小さいので、このフレーム画像の状態では判定せず、さらに次のフレーム画像(t=4)の状態を見て判定する。そして、このフレーム画像の差分絶対値d(4)は低閾値Th_lowより大きく、標準閾値Th_midよりも大きいので、ループを抜け、図14BのステップS1414において、オブジェクトと判定する。
さらに、t=3の時は、t=2における判定と同様、t=4の状態を見て、図14BのステップS1414に進み、オブジェクトと判定する。さらにまた、t=4の時は、t=3における判定結果がオブジェクトであり、この差分絶対値d(4)は低閾値Th_lowより大きく、標準閾値Th_midよりも大きいため、図14BのステップS1414によりこの画素はオブジェクトと判定する。さらにまた、t=5の時は、t=4の時と同様で、この画素はオブジェクトと判定する。
さらにまた、t=6の時は、t=5における判定結果がオブジェクトであり、この差分絶対値d(6)は低閾値Th_lowより大きく、標準閾値Th_midよりも小さいため、次のフレーム画像(t=7)の状態を見て判定する。そこで、次のフレーム画像の差分絶対値d(7)は低閾値Th_lowより大きく、標準閾値Th_midより小さいので、このフレーム画像の状態では判定せず、さらに次のフレーム画像(t=8)の状態を見て判定する。尚、本実施例では、t=9まで同じ状態が続いている。そこで、maxの設定値が3であるとすると、図14BのステップS1418の終了判定により、ステップS1412に進み、背景と判定する。
さらにまた、t=7の時は、t=6における判定結果が背景であり、この差分絶対値d(7)は、高閾値Th_highより小さく、標準閾値Th_midよりも小さいため、図14BのステップS1404によりこの画素は背景と判定する。さらにまた、t=8、t=9の時は、t=7の時と同様で、この画素は背景と判定する。さらにまた、t=10の時は、t=9における判定結果が背景であり、この差分絶対値d(10)は、高閾値Th_highより小さく、標準閾値Th_midよりも大きいため、次のフレーム画像(t=11)の状態を見て判定する。そこで、次のフレーム画像の差分絶対値d(11)は高閾値Th_highより大きいため、図14AのS1402によりこの画素はオブジェクトと判定する。
図18(a)は、従来例(図30)における閾値Thを用いた閾値判定結果の形状データを示す図であり、(b)は第3の実施形態における低閾値Th_low及び高閾値Th_highを用いた閾値判定結果の形状データを示す第2の図である。図18(b)に示すように、t=2、t=3の右下部分が背景からオブジェクトに変更されたため、点滅しているように見える現象が解決することが分かる。
上述したように、第3の実施形態によれば、複数の閾値と前フレーム画像の判定結果および複数の後フレーム画像の差分絶対値を用いた判定処理により、形状データのフレーム間における連続性を保ち、視覚的にも符号化効率的にも従来よりも良好な符号化システムを実現することができる。
<他の実施形態>
尚、本発明は、複数の機器(例えば、ホストコンピュータ、インタフェース機器、リーダ、プリンタ等)から構成されるシステムに適用しても、一つの機器からなる装置(例えば、複写機、ファクシミリ装置等)に適用してもよい。
また、本発明の目的は、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記録媒体(又は記憶媒体)を、システム或いは装置に供給し、そのシステム或いは装置のコンピュータ(又はCPUやMPU)が記録媒体に格納されたプログラムコードを読み出し実行することによっても、達成されることは言うまでもない。この場合、記録媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記録した記録媒体は本発明を構成することになる。また、コンピュータが読み出したプログラムコードを実行することにより、前述した実施形態の機能が実現されるだけでなく、そのプログラムコードの指示に基づき、コンピュータ上で稼働しているオペレーティングシステム(OS)等が実際の処理の一部又は全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
さらに、記録媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張カードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれた後、そのプログラムコードの指示に基づき、その機能拡張カードや機能拡張ユニットに備わるCPU等が実際の処理の一部又は全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
本発明を上記記録媒体に適用する場合、その記録媒体には、先に説明したフローチャートに対応するプログラムコードが格納されることになる。
本発明の第1の実施形態における背景差分処理部の構成を示すブロック図である。 本発明の第1の実施形態に係る背景差分処理部における処理動作を説明するためのフローチャートである。 第1の実施形態における閾値判定処理を説明するためのグラフである。 第1の実施形態における画面上のある位置における差分絶対値の時間変化と低閾値及び高閾値を用いた判定結果を示す図である。 第1の実施形態における画面上のある位置における差分絶対値の時間変化と低閾値及び高閾値を用いた判定結果を示す第2の図である。 (a)は、従来例(図23)における閾値Thを用いた閾値判定結果の形状データを示す図であり、(b)は第1の実施形態における低閾値Th_low及び高閾値Th_highを用いた閾値判定結果の形状データを示す図である。 (a)は、従来例(図26)における閾値Thを用いた閾値判定結果の形状データを示す図であり、(b)は第1の実施形態における低閾値Th_low及び高閾値Th_highを用いた閾値判定結果の形状データを示す第2の図である。 本発明の第2の実施形態における背景差分処理部の細部構成を示すブロック図である。 本発明の第2の実施形態における背景差分処理部の処理動作を説明するためのフローチャートである。 第2の実施形態における画面上のある位置における差分絶対値の時間変化と低閾値及び高閾値を用いた判定結果を示す図である。 第2の実施形態における画面上のある位置における差分絶対値の時間変化と低閾値及び高閾値を用いた判定結果を示す第2の図である。 (a)は、従来例(図24)における閾値Thを用いた閾値判定結果の形状データを示す図であり、(b)は第2の実施形態における低閾値Th_low及び高閾値Th_highを用いた閾値判定結果の形状データを示す図である。 (a)は、従来例(図26)における閾値Thを用いた閾値判定結果の形状データを示す図であり、(b)は第2の実施形態における低閾値Th_low及び高閾値Th_highを用いた閾値判定結果の形状データを示す第2の図である。 本発明の第3の実施形態に係る背景差分処理部の処理動作を説明するためのフローチャートである。 本発明の第3の実施形態に係る背景差分処理部の処理動作を説明するためのフローチャートである。 第3の実施形態における画面上のある位置における差分絶対値の時間変化と低閾値及び高閾値を用いた判定結果を示す図である。 第3の実施形態における画面上のある位置における差分絶対値の時間変化と低閾値及び高閾値を用いた判定結果を示す第2の図である。 (a)は、従来例(図28)における閾値Thを用いた閾値判定結果の形状データを示す図であり、(b)は第3の実施形態における低閾値Th_low及び高閾値Th_highを用いた閾値判定結果の形状データを示す図である。 (a)は、従来例(図30)における閾値Thを用いた閾値判定結果の形状データを示す図であり、(b)は第3の実施形態における低閾値Th_low及び高閾値Th_highを用いた閾値判定結果の形状データを示す第2の図である。 従来例における閾値判定処理を説明するためのグラフである。 従来例における背景差分処理手順を説明するためのフローチャートである。 背景差分方式とMPEG−4符号化方式とを組み合わせた従来の画像処理システムの一例を示すブロック図である。 従来例におけるVOP符号化を行う符号化部2104の細部構成を示すブロック図である。 (a)は、画面上のある位置における差分絶対値の時間変化を表す図であり、(b)は、閾値Thを用いた判定結果を示す図である。 従来例における閾値判定結果を説明するための図である。 (a)は、画面上のある位置における差分絶対値の時間変化を表す第2の図であり、(b)は、閾値Thを用いた判定結果を示す第2の図である。 従来例における閾値判定結果を説明するための第2の図である。 (a)は、画面上のある位置における差分絶対値の時間変化を表す第3の図であり、(b)は、閾値Thを用いた判定結果を示す第3の図である。 従来例における閾値判定結果を説明するための第3の図である。 (a)は、画面上のある位置における差分絶対値の時間変化を表す第4の図であり、(b)は、閾値Thを用いた判定結果を示す第4の図である。 従来例における閾値判定結果を説明するための第4の図である。
符号の説明
101、801 差分データ生成部
102、802 判定部
103、803 低閾値設定部
104、805 高閾値設定部
105、807 判定結果保存部
804 標準閾値設定部
806 差分絶対値保存部
2101 画像入力部
2102 背景画像生成部
2103 背景差分処理部
2104 符号化部

Claims (14)

  1. 動画像を取得する動画像取得手段と、
    前記動画像を構成する各フレーム画像に対する背景画像を取得する背景画像取得手段と、
    前記動画像の各フレーム画像と前記背景画像との差分成分を、それぞれのフレーム画像に含まれる対象物の形状データとして抽出する背景差分処理手段と、
    各フレーム画像ごとに、該フレーム画像と前記形状データとを可変長符号化する符号化手段とを備える画像処理装置であって、
    前記背景差分処理手段が、
    前記フレーム画像と前記背景画像との差分値を生成する生成手段と、
    前記フレーム画像に基づいて複数の閾値を設定する閾値設定手段と、
    前記フレーム画像の前フレーム画像に関する判定結果に関する情報を取得する判定結果取得手段と、
    前記判定結果を参照して、前記差分値と前記複数の閾値とを比較して、前記フレーム画像を構成する各画素が背景又は対象物のいずれに属するかを判定する判定手段と、
    判定結果に基づいて生成された形状データを出力する出力手段と
    を備えることを特徴とする画像処理装置。
  2. 前記差分値が、差分絶対値であって、
    前記閾値設定手段が、前記複数の閾値として、第1の閾値と、該第1の閾値よりも低い値を有する第2の閾値とを設定し、
    前記判定手段が、
    前フレーム画像に関する判定結果が背景の場合、前記第1の閾値と前記差分絶対値との比較を行って、該差分絶対値の方が高い場合は対象物と判定し、該差分絶対値の方が低い場合は背景と判定し、
    前フレーム画像に関する判定結果が対象物の場合、前記第2の閾値と前記差分絶対値との比較を行って、該差分絶対値の方が高い場合は背景と判定し、該差分絶対値の方が低い場合は対象物と判定する
    ことを特徴とする請求項1に記載の画像処理装置。
  3. 前記背景差分処理手段が、前記フレーム画像の少なくとも1フレーム後の後フレーム画像に関する差分絶対値を保存する差分絶対値保存手段とをさらに備え、
    前記閾値設定手段が、前記第1の閾値と前記第2の閾値との間の値を有する標準閾値を設定し、
    前記判定手段が、前記判定結果又は前記後フレーム画像に関する差分絶対値を参照して、前記フレーム画像の差分絶対値と前記標準閾値、前記第1の閾値又は前記第2の閾値とを比較して、各画素ごとに背景又は対象物のいずれに属するかを判定する
    ことを特徴とする請求項2に記載の画像処理装置。
  4. 前記判定手段が、
    前フレーム画像に関する判定結果が背景であって、前記差分絶対値が前記第1の閾値と前記標準閾値との間にある場合、前記後フレーム画像の差分絶対値を参照して、該後フレーム画像の差分絶対値の方が前記標準閾値よりも高い場合は対象物と判定し、該差分絶対値の方が低い場合は背景と判定し、
    前フレーム画像に関する判定結果が対象物であって、前記差分絶対値が、前記第2の閾値と前記標準閾値との間にある場合、前記後フレーム画像の差分絶対値を参照して、該後フレーム画像の差分絶対値の方が前記標準閾値よりも高い場合は対象物と判定し、該差分絶対値の方が低い場合は背景と判定する
    ことを特徴とする請求項3に記載の画像処理装置。
  5. 前記判定手段が、
    前記前フレーム画像に関する判定結果が背景であって、前記差分絶対値がさらに前記標準閾値よりも低い場合は背景と判定し、
    前記前フレーム画像に関する判定結果が対象物であって、前記差分絶対値がさらに前記標準閾値よりも高い場合は対象物と判定する
    ことを特徴とする請求項4に記載の画像処理装置。
  6. 前記差分絶対値保存手段が、前記フレーム画像の次フレーム画像から所定フレーム画像までの複数の後フレーム画像に関する差分絶対値を保存し、
    前記判定手段が、
    前フレーム画像に関する判定結果が背景であって、前記差分絶対値が前記第1の閾値と前記標準閾値との間にある場合、前記複数の後フレーム画像のすべてに対して、それぞれの後フレーム画像の差分絶対値を参照して、該後フレーム画像の差分絶対値の方が前記標準閾値よりも高い場合は対象物と判定し、いずれかの後フレーム画像の差分絶対値の方が低くなる場合は背景と判定し、
    前フレーム画像に関する判定結果が対象物であって、前記差分絶対値が前記第2の閾値と前記標準閾値との間にある場合、前記複数の後フレーム画像のすべてに対して、それぞれの後フレーム画像の差分絶対値を参照して、該後フレーム画像の差分絶対値の方が前記標準閾値よりも低い場合は背景と判定し、いずれかの後フレーム画像の差分絶対値の方が高くなる場合は対象物と判定する
    ことを特徴とする請求項3に記載の画像処理装置。
  7. 前記判定手段が、前記複数の後フレーム画像の最大フレーム数を設定する最大フレーム数設定手段をさらに備え、
    前記判定手段は、前記最大フレーム数の範囲内で前記差分絶対値の判定を行う
    ことを特徴とする請求項6に記載の画像処理装置。
  8. 前記符号化手段が、MPEG−4ビジュアル符号化方式に準じた符号化処理を行うことを特徴とする請求項1から7までのいずれか1項に記載の画像処理装置。
  9. 前記閾値設定手段が、前記動画像を構成するフレーム画像のノイズ分布の解析結果に基づいてそれぞれの閾値を設定することを特徴とする請求項1から8までのいずれか1項に記載の画像処理装置。
  10. 動画像を取得する動画像取得工程と、
    前記動画像を構成する各フレーム画像に対する背景画像を取得する背景画像取得工程と、
    前記動画像の各フレーム画像と前記背景画像との差分成分を、それぞれのフレーム画像に含まれる対象物の形状データとして抽出する背景差分処理工程と、
    各フレーム画像ごとに、該フレーム画像と前記形状データとを可変長符号化する符号化工程とを有する画像処理方法であって、
    前記背景差分処理工程が、
    前記フレーム画像と前記背景画像との差分値を生成する生成工程と、
    前記フレーム画像に基づいて複数の閾値を設定する閾値設定工程と、
    所定の保存部に保存されている前記フレーム画像の前フレーム画像に関する判定結果に関する情報を取得する判定結果取得工程と、
    前記判定結果を参照して、前記差分値と前記複数の閾値とを比較して、前記フレーム画像を構成する各画素が背景又は対象物のいずれに属するかを判定する判定工程と、
    判定結果に基づいて生成された形状データを出力する出力工程と
    を有することを特徴とする画像処理方法。
  11. コンピュータに、
    動画像を取得する動画像取得手順と、
    前記動画像を構成する各フレーム画像に対する背景画像を取得する背景画像取得手順と、
    前記動画像の各フレーム画像と前記背景画像との差分成分を、それぞれのフレーム画像に含まれる対象物の形状データとして抽出する背景差分処理手順と、
    各フレーム画像ごとに、該フレーム画像と前記形状データとを可変長符号化する符号化手順とを実行させるためのプログラムであって、
    前記背景差分処理手順が、
    前記フレーム画像と前記背景画像との差分値を生成する生成手順と、
    前記フレーム画像に基づいて複数の閾値を設定する閾値設定手順と、
    所定の保存部に保存されている前記フレーム画像の前フレーム画像に関する判定結果に関する情報を取得する判定結果取得手順と、
    前記判定結果を参照して、前記差分値と前記複数の閾値とを比較して、前記フレーム画像を構成する各画素が背景又は対象物のいずれに属するかを判定する判定手順と、
    判定結果に基づいて生成された形状データを出力する出力手順と
    を実行させることを特徴とするプログラム。
  12. 請求項11に記載のプログラムを格納したことを特徴とするコンピュータ読み取り可能な記憶媒体。
  13. 動画像を取得する動画像取得手段と、
    前記動画像を構成する各フレーム画像に対する背景画像を取得する背景画像取得手段と、
    前記動画像の各フレーム画像と前記背景画像との差分成分を、それぞれのフレーム画像に含まれる対象物の形状データとして抽出する背景差分処理手段と、
    各フレーム画像ごとに、該フレーム画像と前記形状データとを可変長符号化する符号化手段とを備える画像処理装置であって、
    前記背景差分処理手段が、
    前記フレーム画像と前記背景画像との差分値を生成する生成手段と、
    前記フレーム画像の前フレーム画像に関する判定結果に関する情報を取得する判定結果取得手段と、
    前記判定結果と前記差分値とに応じて前記フレーム画像を構成する各画素が背景又は対象物のいずれに属するかを判定する判定手段と、
    判定結果に基づいて生成された形状データを出力する出力手段と
    を備えることを特徴とする画像処理装置。
  14. 動画像を取得する動画像取得工程と、
    前記動画像を構成する各フレーム画像に対する背景画像を取得する背景画像取得工程と、
    前記動画像の各フレーム画像と前記背景画像との差分成分を、それぞれのフレーム画像に含まれる対象物の形状データとして抽出する背景差分処理工程と、
    各フレーム画像ごとに、該フレーム画像と前記形状データとを可変長符号化する符号化工程とを有する画像処理方法であって、
    前記背景差分処理工程が、
    前記フレーム画像と前記背景画像との差分値を生成する生成工程と、
    所定の保存部に保存されている前記フレーム画像の前フレーム画像に関する判定結果に関する情報を取得する判定結果取得工程と、
    前記判定結果と前記差分値とに応じて前記フレーム画像を構成する各画素が背景又は対象物のいずれに属するかを判定する判定工程と、
    判定結果に基づいて生成された形状データを出力する出力工程と
    を有することを特徴とする画像処理方法。
JP2003358519A 2003-10-17 2003-10-17 画像処理装置、画像処理方法、プログラム及び記憶媒体 Withdrawn JP2005122571A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003358519A JP2005122571A (ja) 2003-10-17 2003-10-17 画像処理装置、画像処理方法、プログラム及び記憶媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003358519A JP2005122571A (ja) 2003-10-17 2003-10-17 画像処理装置、画像処理方法、プログラム及び記憶媒体

Publications (1)

Publication Number Publication Date
JP2005122571A true JP2005122571A (ja) 2005-05-12

Family

ID=34615029

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003358519A Withdrawn JP2005122571A (ja) 2003-10-17 2003-10-17 画像処理装置、画像処理方法、プログラム及び記憶媒体

Country Status (1)

Country Link
JP (1) JP2005122571A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009102011A1 (ja) * 2008-02-14 2009-08-20 Nec Corporation 更新領域検出装置
JP2009282975A (ja) * 2008-05-19 2009-12-03 Hitachi Kokusai Electric Inc 物体検出方法
KR100981003B1 (ko) 2007-08-30 2010-09-07 가시오게산키 가부시키가이샤 동체화상추출장치 및 프로그램을 기록한 컴퓨터 판독 가능한 기록매체

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100981003B1 (ko) 2007-08-30 2010-09-07 가시오게산키 가부시키가이샤 동체화상추출장치 및 프로그램을 기록한 컴퓨터 판독 가능한 기록매체
WO2009102011A1 (ja) * 2008-02-14 2009-08-20 Nec Corporation 更新領域検出装置
US8331696B2 (en) 2008-02-14 2012-12-11 Nec Corporation Update region detection device
JP5446878B2 (ja) * 2008-02-14 2014-03-19 日本電気株式会社 更新領域検出装置
JP2009282975A (ja) * 2008-05-19 2009-12-03 Hitachi Kokusai Electric Inc 物体検出方法

Similar Documents

Publication Publication Date Title
CN112534818B (zh) 使用运动和对象检测的用于视频编码的译码参数的基于机器学习的自适应
TWI601415B (zh) 動畫像編碼裝置、動畫像解碼裝置及儲存裝置
EP3389276B1 (en) Hash-based encoder decisions for video coding
US20150117540A1 (en) Coding apparatus, decoding apparatus, coding data, coding method, decoding method, and program
US20120275524A1 (en) Systems and methods for processing shadows in compressed video images
US11095899B2 (en) Image processing apparatus, image processing method, and storage medium
EP3718306B1 (en) Cluster refinement for texture synthesis in video coding
US9491466B2 (en) Video coding apparatus and method
US20170041623A1 (en) Method and Apparatus for Intra Coding for a Block in a Coding System
KR101281850B1 (ko) 영상 디스크립터 생성 장치
US10034016B2 (en) Coding apparatus, computer system, coding method, and computer product
US9762916B2 (en) Encoding apparatus and method
JP5178616B2 (ja) シーンチェンジ検出装置および映像記録装置
CN102804783B (zh) 图像编码装置和相机系统
US10049436B1 (en) Adaptive denoising for real-time video on mobile devices
US8253817B2 (en) Image compression method, device, electronic camera, and program
CN106303545B (zh) 用于在帧序列中执行运动估计的数据处理系统和方法
KR101294364B1 (ko) 고화질 영상을 위한 무손실 영상 압축방법, 압축 해제방법 및 이를 적용한 전자기기
US9860562B2 (en) Method of lookup table size reduction for depth modelling mode in depth coding
CN111770334A (zh) 数据编码方法及装置、数据解码方法及装置
KR20140026397A (ko) 이미지 블록을 복원하고 코딩하는 방법
JP2005122571A (ja) 画像処理装置、画像処理方法、プログラム及び記憶媒体
JP6090430B2 (ja) 符号化装置、方法、プログラム、コンピュータシステム、記録媒体
Ma et al. A fast background model based surveillance video coding in HEVC
CN109862315B (zh) 视频处理方法、相关设备及计算机存储介质

Legal Events

Date Code Title Description
A300 Withdrawal of application because of no request for examination

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20070109