WO2003003304A1

WO2003003304A1 - Appareil et procede de traitement d'image et appareil de recuperation d'image

Info

Publication number: WO2003003304A1
Application number: PCT/JP2002/006382
Authority: WO
Inventors: Tetsujiro Kondo; Junichi Ishibashi; Takashi Sawao; Naoki Fujiwara; Takahiro Nagano; Seiji Wada; Toru Miyake
Original assignee: Sony Corporation
Priority date: 2001-06-27
Filing date: 2002-06-26
Publication date: 2003-01-09
Also published as: US7352917B2; EP1403821A4; KR100864336B1; CN1471692A; JP4596223B2; US20040067040A1; DE60237687D1; EP1862971A3; CN1269080C; KR20040014958A; JP2003016452A; MXPA03001520A; CA2420020C; EP1862971A2; EP1403821A1; EP1403821B1; CA2420020A1

Description

明細書

画像処理装置および方法、並びに撮像装置技術分野

本発明は、画像処理装置および方法、並びに撮像装置に関し、特に、センサにより検出した信号と現実世界との違いを考慮した画像処理装置および方法、並びに撮像装置に関する。背景技術

現実世界における事象をセンサで検出し、画像センサが出力するサンプリングデータを処理する技術が広く利用されている。

例えば、静止している所定の背景の前で移動する物体をビデオカメラで撮像して得られる画像には、物体の移動速度が比較的速い場合、動きボケが生じることになる。

しかしながら、静止している背景の前で物体が移動するとき、移動する物体の画像自身の混ざり合いによる動きボケのみならず、背景の画像と移動する物体の画像との混ざり合いが生じる。従来は、背景の画像と移動する物体の画像との混ざり合いの状態に対応する処理は、考えられていなかった。発明の開示

本発明はこのような状況に鑑みてなされたものであり、画像のおける混ざり合いの状態を知ることができるようにすることを目的とする。

本発明の第 1の画像処理装置は、画像データに対応して、前景オブジェクトを構成する前景オブジェクト成分および背景オブジェクトを構成する背景オブジェクト成分が混合されてなる混合領域を特定する領域特定手段と、画像データに対応して、前景オブジェクト成分と背景オブジェクト成分とが混合されてなる混合領域における、前景オブジェクト成分と背景オブジェクト成分との混合の割合を示す混合比を検出する混合比検出手段とを含み、少なくとも領域特定手段および混合比検出手段のいずれか一方は、複数種類のコンポーネントに基づいて画像処理することを特徴とする。

領域特定手段に、複数種類のコンポーネント毎に混合領域を検出し、個々のコンポーネントに対応する検出結果をコンポーネント混合領域情報として出力するコンポーネント混合領域検出手段と、コンポーネント混合領域検出手段で検出された複数種類のコンポーネントに対応する混合領域の検出結果に基づいて、画像データに対応する混合領域を特定する混合領域特定手段とを設けることができる, 領域特定手段に、画像データの注目フレームの注目画素に対応する注目画素データと、注目画素の空間方向の近傍に位置する空間近傍画素の画素データとの相関を示す空間相閧値を、注目画素に対応する複数種類のコンポーネントに基づいて算出する空間相関値算出手段と、注目画素データと、注目画素の時間方向の近傍に位置する時間近傍画素の画素データとの相関を示す時間相関値を、注目画素に対応する複数種類のコンポーネントに基づいて算出する時間相関値算出手段と注目画素に対応する空間相関値および時間相関値を基に、前景オブジェクト成分のみからなる前景領域を特定する前景領域特定手段とを設けることができる。

領域特定手段に、注目フレームの前景領域、および注目フレームの近傍の近傍フレームの前景領域を基に、混合領域を特定する混合領域特定手段を設けることができる。

混合比検出手段に、複数種類のコンポーネント毎に混合比を検出するコンポ一ネント混合比検出手段と、コンポーネント混合比検出手段で検出された複数種類のコンポーネントに対応する混合比の検出結果を統合することにより、画像データに対応する混合比を検出するコンポーネント統合混合比検出手段とを設けることができる。

混合比検出手段に、複数種類のコンポーネントの画素値を画素毎に統合し、統合データとして出力する統合手段と、統合データに基づいて、画像データに対応する混合比を検出する統合データ混合比検出手段とを設けることができる。統合手段は、複数種類のコンポーネントの画素値を画素毎に加算し、加算した結果を統合データとして出力するようにすることができる。

本発明の画像処理方法は、画像データに対応して、前景オブジェクトを構成する前景ォブジェクト成分および背景オブジェクトを構成する背景オブジェクト成分が混合されてなる混合領域を特定する領域特定ステップと、画像データに対応して、前景オブジェクト成分と背景オブジェクト成分とが混合されてなる混合領域における、前景オブジェクト成分と背景オブジェクト成分との混合の割合を示す混合比を検出する混合比検出ステップと、検出された混合比の出力を制御する出力制御ステップとを含み、少なくとも領域特定ステップおよび混合比検出ステップのいずれか一方は、複数種類のコンポーネントに基づいて画像処理することを特徴とする。

領域特定ステップに、複数種類のコンポーネント毎に混合領域を検出し、個々のコンポーネントに対応する検出結果をコンポーネント混合領域情報として出力するコンポーネント混合領域検出ステツプと、コンポーネント混合領域検出ステップの処理で検出された複数種類のコンポーネントに対応する混合領域の検出結果に基づいて、画像データに対応する混合領域を特定する混合領域特定ステップとを設けることができる。

領域特定ステップに、画像データの注目フレームの注目画素に対応する注目画素データと、注目画素の空間方向の近傍に位置する空間近傍画素の画素データとの相関を示す空間相関値を、注目画素に対応する複数種類のコンポーネントに基づいて算出する空間相関値算出ステップと、注目画素データと、注目画素の時間方向の近傍に位置する時間近傍画素の画素データとの相関を示す時間相関値を、注目画素に対応する複数種類のコンポーネントに基づいて算出する時間相関値算出ステップと、注目画素に対応する空間相関値および時間相関値を基に、前景ォブジェクト成分のみからなる前景領域を特定する前景領域特定ステップとを設けることができる。

領域特定ステップに、注目フレームの前景領域、および注目フレームの近傍の近傍フレームの前景領域を基に、混合領域を特定する混合領域特定ステップを設けることができる。

混合比検出ステップに、複数種類のコンポーネント毎に混合比を検出するコンポーネント混合比検出ステップと、コンポーネント混合比検出ステップの処理で検出された複数種類のコンポーネントに対応する混合比の検出結果を統合することにより、画像データに対応する混合比を検出するコンポーネント統合混合比検出ステップとを設けることができる。

混合比検出ステップに、複数種類のコンポーネントの画素値を画素毎に統合し. 統合データとして出力する統合ステップと、統合データに基づいて、画像データに対応する混合比を検出する統合データ混合比検出ステップとを設けることがでさる。

統合ステップは、複数種類のコンポーネントの画素値を画素毎に加算し、加算した結果を統合データとして出力するようにすることができる。

本発明の第 1の記録媒体のプログラムは、画像データに対応して、前景ォブジェクトを構成する前景オブジェクト成分および背景オブジェクトを構成する背景オブジェクト成分が混合されてなる混合領域を特定する領域特定ステップと、画像データに対応して、前景オブジェクト成分と背景オブジェクト成分とが混合されてなる混合領域における、前景オブジェクト成分と背景オブジェクト成分との混合の割合を示す混合比を検出する混合比検出ステップと、検出された混合比の出力を制御する出力制御ステップとを含み、少なくとも領域特定ステップおよび混合比検出ステップのいずれか一方は、複数種類のコンポーネントに基づいて画像処理させることを特徴とする。

領域特定ステップに、複数種類のコンポーネント毎に混合領域を検出し、個々のコンポーネントに対応する検出結果をコンポーネント混合領域情報として出力するコンポーネント混合領域検出ステップと、コンポーネント混合領域検出ステップの処理で検出された複数種類のコンポーネントに対応する混合領域の検出結果に基づいて、画像データに対応する混合領域を特定する混合領域特定ステップとを設けることができる。

本発明の第 1のプログラムは、コンピュータに、画像データに対応して、前景オブジェクトを構成する前景オブジェクト成分および背景オブジェクトを構成する背景ォブジェクト成分が混合されてなる混合領域を特定する領域特定ステップと、画像データに対応して、前景オブジェクト成分と背景オブジェクト成分とが混合されてなる混合領域における、前景オブジェクト成分と背景オブジェクト成分との混合の割合を示す混合比を検出する混合比検出ステツプと、検出された混合比の出力を制御する出力制御ステップとを実行させ、少なくとも領域特定ステップおよび混合比検出ステップのいずれか一方は、複数種類のコンポーネントに基づいて画像処理させることを特徴とする。

混合比検出ステップに、複数種類のコンポーネントの画素値を画素毎に統合し、統合データとして出力する統合ステップと、統合データに基づいて、画像データに対応する混合比を検出する統合データ混合比検出ステップとを設けることができる。

本発明の第 1の撮像装置は、時間積分効果を有する所定数の画素を有する撮像素子によって撮像された被写体画像を、同一画素位置に対して複数種類のコンポ一ネントを有する所定数の画素データからなる画像データとして出力する撮像手段と、画像データに対応して、前景オブジェクトを構成する前景オブジェクト成分および背景オブジェクトを構成する背景オブジェクト成分が混合されてなる混合領域を特定する領域特定手段と、画像データに対応して、前景オブジェクト成分と背景オブジェクト成分とが混合されてなる混合領域における、前景オブジェクト成分と背景オブジェクト成分との混合の割合を示す混合比を検出する混合比検出手段とを含み、少なくとも領域特定手段および混合比検出手段のいずれか一方は、複数種類のコンポーネントに基づいて画像処理することを特徴とする。

領域特定手段に、複数種類のコンポーネント毎に混合領域を検出し、個々のコンポ一ネントに対応する検出結果をコンポーネント混合領域情報として出力するコンポーネント混合領域検出手段と、コンポーネント混合領域検出手段で検出された複数種類のコンポーネントに対応する混合領域の検出結果に基づいて、画像データに対応する混合領域を特定する混合領域特定手段とを設けることができる, 領域特定手段に、画像データの注目フレームの注目画素に対応する注目画素データと、注目画素の空間方向の近傍に位置する空間近傍画素の画素データとの相関を示す空間相関値を、注目画素に対応する複数種類のコンポーネントに基づいて算出する空間相関値算出手段と、注目画素データと、注目画素の時間方向の近傍に位置する時間近傍画素の画素データとの相関を示す時間相関値を、注目画素に対応する複数種類のコンポーネントに基づいて算出する時間相関値算出手段と注目画素に対応する空間相関値および時間相関値を基に、前景ォブジェクト成分のみからなる前景領域を特定する前景領域特定手段とを設けることができる。領域特定手段に、注目フレームの前景領域、および注目フレームの近傍の近傍フレームの前景領域を基に、混合領域を特定する混合領域特定手段を設けることができる。

混合比検出手段に、複数種類のコンポーネントの画素値を画素毎に統合し、統合データとして出力する統合手段と、統合データに基づいて、画像データに対応する混合比を検出する統合データ混合比検出手段とを設けることができる。

統合手段は、複数種類のコンポーネントの画素値を画素毎に加算し、加算した結果を統合データとして出力するようにすることができる。

本発明の第 2の画像処理装置は、画像データを取得する画像データ取得手段と取得された画像データの複数種類のコンポーネン卜に基づいて、画像データに対応して、前景オブジェクトを構成する前景オブジェクト成分および背景オブジェクトを構成する背景オブジェクト成分が混合されてなる混合領域を特定する領域特定処理、および画像データに対応して、前景オブジェクト成分と背景オブジェクト成分とが混合されてなる混合領域における、前景オブジェクト成分と背景ォブジェクト成分との混合の割合を示す混合比を検出する混合比検出処理のいずれか一方の処理を実行する処理実行手段とを含むことを特徴とする。

処理実行手段は、取得された画像データの複数種類のコンポーネントに基づいて、画像データに対応して、前景オブジェクトを構成する前景オブジェクト成分および背景オブジェクトを構成する背景オブジェクト成分が混合されてなる混合領域を特定する領域特定処理を実行するようにすることができる。

処理実行手段は、取得された画像データの複数種類のコンポーネント ίこ基づいて、画像データに対応して、前景オブジェクト成分と背景オブジェクト成分とが混合されてなる混合領域における、前景オブジェクト成分と背景ォブジェクト成分との混合の割合を示す混合比を検出する混合比検出処理を実行するようにすることができる。

本発明の第 2の画像処理方法は、画像データを取得する画像データ取得ステツプと、取得された画像データの複数種類のコンポーネントに基づいて、画像データに対応して、前景オブジェクトを構成する前景オブジェクト成分および背景ォブジェクトを構成する背景オブジェクト成分が混合されてなる混合領域を特定する領域特定処理、および画像データに対応して、前景オブジェクト成分と背景ォブジェクト成分とが混合されてなる混合領域における、前景オブジェクト成分と背景オブジェクト成分との混合の割合を示す混合比を検出する混合比検出処理のいずれか一方の処理を実行する処理実行ステップとを含むことを特徴とする。処理実行ステップは、取得された画像データの複数種類のコンポーネントに基づいて、画像データに対応して、前景オブジェクトを構成する前景オブジェクト成分および背景オブジェクトを構成する背景オブジェクト成分が混合されてなる混合領域を特定する領域特定処理を実行するようにすることができる。

処理実行ステップは、取得された画像データの複数種類のコンポーネントに基づいて、画像データに対応して、前景オブジェクト成分と背景オブジェクト成分とが混合されてなる混合領域における、前景オブジェクト成分と背景オブジェクト成分との混合の割合を示す混合比を検出する混合比検出処理を実行するようにすることができる。

本発明の第 2の記録媒体のプログラムは、画像データを取得する画像データ取得ステップと、取得された画像データの複数種類のコンポーネントに基づいて、画像データに対応して、前景オブジェクトを構成する前景オブジェクト成分および背景オブジェクトを構成する背景オブジェクト成分が混合されてなる混合領域を特定する領域特定処理、および画像データに対応して、前景オブジェクト成分と背景オブジェクト成分とが混合されてなる混合領域における、前景オブジェクト成分と背景オブジェクト成分との混合の割合を示す混合比を検出する混合比検出処理のいずれか一方の処理を実行する処理実行ステップとを含むことを特徴とする。

処理実行ステップは、取得された画像データの複数種類のコンポーネントに基づいて、画像データに対応して、前景オブジェクトを構成する前景オブジェクト成分および背景オブジェクトを構成する背景オブジェクト成分が混合されてなる混合領域を特定する領域特定処理を実行するようにすることができる。

処理実行ステップは、取得された画像データの複数種類のコンポーネン卜に基づいて、画像データに対応して、前景オブジェクト成分と背景オブジェクト成分とが混合されてなる混合領域における、前景オブジェクト成分と背景オブジェクト成分との混合の割合を示す混合比を検出する混合比検出処理を実行するようにすることができる。

本発明の第 2のプログラムは、コンピュータに、画像データを取得する画像デ —タ取得ステップと、取得された画像データの複数種類のコンポーネントに基づいて、画像データに対応して、前景オブジェクトを構成する前景オブジェクト成分および背景オブジェクトを構成する背景オブジェクト成分が混合されてなる混合領域を特定する領域特定処理、および画像データに対応して、前景オブジェクト成分と背景オブジェクト成分とが混合されてなる混合領域における、前景ォブジェクト成分と背景オブジェクト成分との混合の割合を示す混合比を検出する混合比検出処理のいずれか一方の処理を実行する処理実行ステップとを実行させることを特徴とする。

処理実行ステップは、取得された画像データの複数種類のコンポーネントに基づいて、画像データに対応して、前景オブジェクトを構成する前景オブジェクト成分および背景オブジェクトを構成する背景ォブジェクト成分が混合されてなる混合領域を特定する領域特定処理を実行するようにすることができる。

本発明の第 2の撮像装置は、時間積分効果を有する所定数の画素を有する撮像素子によって撮像された被写体画像を、同一画素位置に対して複数種類のコンポ一ネントを有する所定数の画素データからなる画像データとして出力する撮像手段と、画像データの複数種類のコンポーネントに基づいて、画像データに対応して、前景オブジェクトを構成する前景オブジェクト成分および背景オブジェクトを構成する背景ォブジェクト成分が混合されてなる混合領域を特定する領域特定処理、および画像データに対応して、前景ォブジェクト成分と背景オブジェクト成分とが混合されてなる混合領域における、前景オブジェクト成分と背景ォブジェクト成分との混合の割合を示す混合比を検出する混合比検出処理のいずれか一方の処理を実行する処理実行手段とを含むことを特徴とする。

処理実行手段は、画像データの複数種類のコンポーネントに基づいて、画像データに対応して、前景オブジェクトを構成する前景オブジェクト成分および背景オブジェクトを構成する背景オブジェクト成分が混合されてなる混合領域を特定する領域特定処理を実行するようにすることができる。

処理実行手段は、画像データの複数種類のコンポーネントに基づいて、画像データに対応して、前景オブジェクト成分と背景オブジェクト成分とが混合されてなる混合領域における、前景ォブジェクト成分と背景オブジェクト成分との混合の割合を示す混合比を検出する混合比検出処理を実行するようにすることができる。

画像データに対応して、前景ォブジェクトを構成する前景オブジェクト成分および背景ォブジェクトを構成する背景オブジェクト成分が混合されてなる混合領域が特定され、画像データに対応して、前景オブジェクト成分と背景オブジェクト成分とが混合されてなる混合領域における、前景オブジェクト成分と背景ォブジェクト成分との混合の割合を示す混合比が検出され、少なくとも領域の特定および混合比の検出のいずれか一方は、複数種類のコンポーネントに基づいて画像処理される。

画像データが取得され、取得された画像データの複数種類のコンポーネントに基づいて、画像データに対応して、前景オブジェクトを構成する前景オブジェクト成分および背景オブジェクトを構成する背景オブジェクト成分が混合されてなる混合領域を特定する領域特定処理、および画像データに対応して、前景ォブジエタト成分と背景オブジェクト成分とが混合されてなる混合領域における、前景オブジェクト成分と背景オブジェクト成分との混合の割合を示す混合比を検出する混合比検出処理のいずれか一方の処理が実行される。

これにより、画像のおける混ざり合いの状態を知ることができる。図面の簡単な説明

図 1は、本発明に係る画像処理装置の一実施の形態を示す図である。

図 2は、画像処理装置を示すブロック図である。

図 3は、センサによる撮像を説明する図である。

図 4は、画素の配置を説明する図である。

図 5は、検出素子の動作を説明する図である。

図 6 Aは、動いている前景に対応するオブジェクトと、静止している背景に対応するオブジェクトとを撮像して得られる画像を説明する図である。

図 6 Bは、動いている前景に対応するオブジェクトと、静止している背景に対応するオブジェクトとを撮像して得られる画像に対応するモデルを説明する図である。

図 7は、背景領域、前景領域、混合領域、カバードバックグラウンド領域、およびアンカバードバックグラウンド領域を説明する図である。図 8は、静止している前景に対応するオブジェクトおよび静止している背景に対応するオブジェクトを撮像した画像における、隣接して 1列に並んでいる画素の画素値を時間方向に展開したモデル図である。

図 9は、画素値を時間方向に展開し、シャツタ時間に対応する期間を分割したモデル図である。

図 1 0は、画素値を時間方向に展開し、シャツタ時間に対応する期間を分割したモデル図である。

図 1 1は、画素値を時間方向に展開し、シャツタ時間に対応する期間を分割したモデル図である。

図 1 2は、前景領域、背景領域、および混合領域の画素を抽出した例を示す図である。

図 1 3は、画素と画素値を時間方向に展開したモデルとの対応を示す図である, 図 1 4は、画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル図である。

図 1 5は、画素値を時間方向に展開し、シャツタ時間に対応する期間を分割したモデル図である。

図 1 6は、画素値を時間方向に展開し、シャツタ時間に対応する期間を分割したモデル図である。

図 1 7は、画素値を時間方向に展開し、シャツタ時間に対応する期間を分割したモデル図である。

図 1 8は、画素値を時間方向に展開し、シャツタ時間に対応する期間を分割したモデル図である。

図 1 9は、動きボケの量の調整の処理を説明するフローチャートである。

図 2 0は、領域特定部 1 0 3の構成の一例を示すブロック図である。

図 2 1は、前景に対応するオブジェクトが移動しているときの画像を説明する図である。

図 2 2は、画素値を時間方向に展開し、シャツタ時間に対応する期間を分割したモデル図である。

図 2 3は、画素値を時間方向に展開し、シャツタ時間に対応する期間を分割したモデル図である。

図 2 4は、画素値を時間方向に展開し、シャツタ時間に対応する期間を分割したモデル図である。

図 2 5は、領域判定の条件を説明する図である。

図 2 6 Aは、領域特定部 1 0 3の領域の特定の結果の例を示す図である。

図 2 6 Bは、領域特定部 1 0 3の領域の特定の結果の例を示す図である。

図 2 6 Cは、領域特定部 1 0 3の領域の特定の結果の例を示す図である。

図 2 6 Dは、領域特定部 1 0 3の領域の特定の結果の例を示す図である。

図 2 7は、領域特定部 1 0 3の領域の特定の結果の例を示す図である。

図 2 8は、領域特定の処理を説明するフローチヤ一トである。

図 2 9は、領域特定部 1 0 3の構成の他の一例を示すブロック図である。

図 3 0は、画素値を時間方向に展開し、シャツタ時間に対応する期間を分割したモデル図である。

図 3 1は、背景画像の例を示す図である。

図 3 2は、 2値ォブジェクト画像抽出部 3 0 2の構成を示すプロック図である, 図 3 3 Aは、相関値の算出を説明する図である。

図 3 3 Bは、相関値の算出を説明する図である。

図 3 4 Aは、相関値の算出を説明する図である。

図 3 4 Bは、相関値の算出を説明する図である。

図 3 5は、 2値ォブジェクト画像の例を示す図である。

図 3 6は、時間変化検出部 3 0 3の構成を示すプロック図である。

図 3 7は、領域判定部 3 4 2の判定を説明する図である。

図 3 8は、時間変化検出部 3 0 3の判定の例を示す図である。

図 3 9は、領域判定部 1 0 3の領域特定の処理を説明するフローチヤ一トである。図 4 0は、領域判定の処理の詳細を説明するフローチャートである。

図 4 1は、領域特定部 1 0 3のさらに他の構成を示すプロック図である。図 4 2は、口バスト化部 3 6 1の構成を説明するブロック図である。

図 4 3は、動き補償部 3 8 1の動き補償を説明する図である。

図 4 4は、動き補償部 3 8 1の動き補償を説明する図である。

図 4 5は、領域特定の処理を説明するフローチヤ一トである。

図 4 6は、口バスト化の処理の詳細を説明するフローチヤ一トである。

図 4 7は、混合比算出部 1 0 4の構成の一例を示すブロック図である。

図 4 8は、理想的な混合比ひの例を示す図である。

図 4 9は、画素値を時間方向に展開し、シャツタ時間に対応する期間を分割したモデル図である。

図 5 0は、画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル図である。

図 5 1は、前景の成分の相関を利用した近似を説明する図である。

図 5 2は、 C, N、および Pの関係を説明する図である。

図 5 3は、推定混合比処理部 4 0 1の構成を示すブロック図である。

図 5 4は、推定混合比の例を示す図である。

図 5 5は、混合比算出部 1 0 4の他の構成を示すプロック図である。

図 5 6は、混合比の算出の処理を説明するフローチャートである。

図 5 7は、推定混合比の演算の処理を説明するフローチャートである。

図 5 8は、混合比ひを近似する直線を説明する図である。

図 5 9は、混合比ひを近似する平面を説明する図である。

図 6 0は、混合比ひを算出するときの複数のフレームの画素の対応を説明する図である。

図 6 1は、混合比推定処理部 4 0 1の他の構成を示すブロック図である。図 6 2は、推定混合比の例を示す図である。

図 6 3は、カバードバックグラウンド領域に対応するモデルによる混合比推定の処理を説明するフローチヤ一トである。

図 6 4は、前景背景分離部 1 0 5の構成の一例を示すプロック図である。図 6 5 Aは、入力画像、前景成分画像、および背景成分画像を示す図である。図 6 5 Bは、入力画像、前景成分画像、および背景成分画像のモデルを示す図である。

図 6 6は、画素値を時間方向に展開し、シャツタ時間に対応する期間を分割したモデル図である。

図 6 7は、画素値を時間方向に展開し、シャツタ時間に対応する期間を分割したモデル図である。

図 6 8は、画素値を時間方向に展開し、シャツタ時間に対応する期間を分割したモデル図である。

図 6 9は、分離部 6 0 1の構成の一例を示すブロック図である。

図 7 O Aは、分離された前景成分画像の例を示す図である。

図 7 O Bは、分離された背景成分画像の例を示す図である。

図 7 1は、前景と背景との分離の処理を説明するフローチャートである。図 7 2は、動きボケ調整部 1 0 6の構成の一例を示すプロック図である。図 7 3は、処理単位を説明する図である。

図 7 4は、前景成分画像の画素値を時間方向に展開し、シャツタ時間に対応する期間を分割したモデル図である。

図 7 5は、前景成分画像の画素値を時間方向に展開し、シャツタ時間に対応する期間を分割したモデル図である。

図 7 6は、前景成分画像の画素値を時間方向に展開し、シャツタ時間に対応する期間を分割したモデル図である。

図 7 7は、前景成分画像の画素値を時間方向に展開し、シャツタ時間に対応する期間を分割したモデル図である。

図 7 8は、動きボケ調整部 1 0 6の他の構成を示す図である。

図 7 9は、動きボケ調整部 1 0 6による前景成分画像に含まれる動きボケの量の調整の処理を説明するフローチヤ一トである。

図 8 0は、動きボケ調整部 1 0 6の構成の他の一例を示すブロック図である。図 8 1は、画素値と前景の成分のとの対応を指定するモデルの例を示す図である。

図 8 2は、前景の成分の算出を説明する図である。

図 8 3は、前景の成分の算出を説明する図である。

図 8 4は、前景の動きボケの除去の処理を説明するフローチャートである。図 8 5は、画像処理装置の機能の他の構成を示すブロック図である。

図 8 6は、合成部 1 0 0 1の構成を示す図である。

図 8 7は、画像処理装置の機能のさらに他の構成を示すブロック図である。図 8 8は、混合比算出部 1 1 0 1の構成を示すブロック図である。

図 8 9は、前景背景分離部 1 1 0 2の構成を示すブロック図である。

図 9 0は、画像処理装置の機能のさらに他の構成を示すプロック図である。図 9 1は、合成部 1 2 0 1の構成を示す図である。

図 9 2は、コンポーネント信号として入力される入力画像を基に、領域情報を生成する画像処理装置の一実施の形態を示す図である。

図 9 3は、コンポーネント 1、コンポーネント 2、およびコンポーネント 3の関係を説明する図である。

図 9 4は、コンポーネント信号を利用した領域判定の処理を説明するフローチヤートである。

図 9 5は、コンポーネント信号として入力される入力画像を基に、領域情報を生成する画像処理装置の他の実施の形態を示す図である。

図 9 6は、コンポーネント信号を利用した領域判定の他の処理を説明するフ口一チヤ一トである。

図 9 7は、コンポーネント信号として入力される入力画像を基に、領域情報を生成する画像処理装置のさらに他の実施の形態を示す図である。

図 9 8は、静止領域および動き領域における、空間相関および時間相関の関係を示す図である。

図 9 9は、空間相関の算出の例を説明する図である。

図 1 0 0は、時間相関の算出の例を説明する図である。

図 1 0 1は、静止領域における時問相関および空間相関を説明する図である。図 1 0 2は、動き領域における時間相関および空間相関を説明する図である。図 1 0 3は、入力画像の例を示す図である。

図 1 0 4は、 1画素毎に、動き領域または静止領域を判定した結果を示す図である。

図 1 0 5は、 1 5画素 X 1 5画素のプロックを単位として、動き領域または静止領域を判定した結果を示す図である。

図 1 0 6は、前景領域、背景領域、カバードバックグラウンド領域、およびァンカバードバックグラウンド領域の判定の結果を示す図である。

図 1 0 7は、コンポーネント信号を利用した領域判定の処理を説明するフローチヤ一トである。

図 1 0 8は、コンポーネント信号として入力される入力画像および領域情報を基に、混合比を算出する画像処理装置の一実施の形態を示す図である。

図 1 0 9は、各コンポーネントにおける混合比の関係を示す図である。

図 1 1 0は、コンポーネント信号を利用した混合比の算出の処理を説明するフローチャートである。図 1 1 1は、コンポーネント信号として入力される入力画像および領域情報を基に、混合比を算出する画像処理装置の他の実施の形態を示す図である。

図 1 1 2は、コンポーネント信号を利用した混合比の算出の他の処理を説明するフローチヤ一トである。

図 1 1 3は、コンポーネント信号として入力される入力画像および領域情報を基に、混合比を算出する画像処理装置のさらに他の実施の形態を示す図である。図 1 1 4は、混合比算出部 1 4 2 1の構成を示すプロック図である。

図 1 1 5は、コンポーネント信号として入力される入力画像および領域情報を基に、混合比を算出するさらに他の処理を説明する。発明を実施するための最良の形態

図 1は、本発明に係る画像処理装置の一実施の形態を示す図である。 CPU (Central Process ing Un i t) 2 1は、 ROM (Read Only Memory) 2 2、または記憶部 2 8に記憶されているプログラムに従って各種の処理を実行する。 RAM

(Random Access Memory) 2 3には、 CPU 2 1が実行するプログラムやデータなどが適宜記憶される。これらの CPU 2 1、 ROM 2 2 , および RAM 2 3は、バス 2 4により相互に接続されている。

CPU 2 1にはまた、バス 2 4を介して入出力ィンタフエ一ス 2 5が接続されている。入出力インタフェース 2 5には、キーボード、マウス、マイクロホンなどよりなる入力部 2 6、ディスプレイ、スピーカなどよりなる出力部 2 7が接続されている。 CPU 2 1は、入力部 2 6から入力される指令に対応して各種の処理を実行する。そして、 CPU 2 1は、処理の結果得られた画像や音声等を出力部 2 7 に出力する。

入出力インタフェース 2 5に接続されている記憶部 2 8は、例えばハードディスクなどで構成され、 CPU 2 1が実行するプログラムや各種のデータを記憶する _c 通信部 2 9は、インターネット、その他のネットワークを介して外部の装置と通信する。この例の場合、通信部 2 9はセンサの出力を取り込む取得部として働く _c また、通信部 2 9を介してプログラムを取得し、記憶部 2 8に記憶してもよい _c 入出力インタフェース 2 5に接続されているドライブ 3 0は、磁気ディスク 5 1、光ディスク 5 2、光磁気ディスク 5 3、或いは半導体メモリ 5 4などが装着されたとき、それらを駆動し、そこに記録されているプログラムやデータなどを取得する。取得されたプログラムやデータは、必要に応じて記憶部 2 8に転送され、記憶される。

図 2は、画像処理装置を示すブロック図である。

なお、画像処理装置の各機能をハードウェアで実現するか、ソフトウェアで実現するかは問わない。つまり、本明細書の各ブロック図は、ハードウェアのブロック図と考えても、ソフトウエアによる機能プロック図と考えても良い。

この明細書では、撮像の対象となる、現実世界におけるオブジェクトに対応する画像を、画像オブジェクトと称する。

画像処理装置に供給された入力画像は、オブジェクト抽出部 1 0 1、領域特定部 1 0 3、混合比算出部 1 0 4、および前景背景分離部 1 0 5に供給される。オブジェクト抽出部 1 0 1は、入力画像に含まれる前景のオブジェクトに対応する画像オブジェクトを粗く抽出して、抽出した画像オブジェクトを動き検出部 1 0 2に供給する。オブジェクト抽出部 1 ◦ 1は、例えば、入力画像に含まれる前景のオブジェク卜に対応する画像オブジェクトの輪郭を検出することで、前景のォブジェク卜に対応する画像オブジェクトを粗く抽出する。

ォブジェクト抽出部 1 0 1は、入力画像に含まれる背景のオブジェクトに対応する画像オブジェクトを粗く抽出して、抽出した画像ォブジェクトを動き検出部

1 0 2に供給する。オブジェクト抽出部 1 0 1は、例えば、入力画像と、抽出された前景のオブジェクトに対応する画像オブジェクトとの差から、背景のォブジヱクトに対応する画像オブジェクトを粗く抽出する。

また、例えば、オブジェクト抽出部 1 0 1は、内部に設けられている背景メモリに記憶されている背景の画像と、入力画像との差から、前景のオブジェクトに対応する画像オブジェクト、および背景のオブジェクトに対応する画像オブジェクトを粗く抽出するようにしてもよい。

動き検出部 1 0 2は、例えば、ブロックマッチング法、勾配法、位相相関法、およびペルリカーシブ法などの手法により、粗く抽出された前景のオブジェクトに対応する画像オブジェクトの動きべクトルを算出して、算出した動きべクトルおよび動きべクトルの位置情報（動きべクトルに対応する画素の位置を特定する情報）を領域特定部 1 0 3および動きボケ調整部 1 0 6に供給する。

動き検出部 1 0 2が出力する動きべクトルには、動き量 Vに対応する情報が含まれている。また、例えば、動き検出部 1 0 2は、画像オブジェクトに画素を特定する画素位置情報と共に、画像オブジェクト毎の動きべクトルを動きボケ調整部 1 0 6に出力するようにしてもよい。

動き量 Vは、動いているオブジェクトに対応する画像の位置の変化を画素間隔を単位として表す値である。例えば、前景に対応するオブジェクトの画像が、あるフレームを基準として次のフレームにおいて 4画素分離れた位置に表示されるように移動しているとき、前景に対応するォブジェクトの画像の動き量 V は, 4とされる。

なお、オブジェクト抽出部 1 0 1および動き検出部 1 0 2は、動いているォブジュクトに対応した動きボケ量の調整を行う場合に必要となる。

領域特定部 1 0 3は、入力された画像の画素のそれぞれを、前景領域、背景領域、または混合領域のいずれかに特定し、画素毎に前景領域、背景領域、または混合領域のいずれかに属するかを示す情報（以下、領域情報と称する）を混合比算出部 1 0 4、前景背景分離部 1 0 5、および動きボケ調整部 1 0 6に供給する _c 混合比算出部 1 0 4は、入力画像、および領域特定部 1 0 3から供給された領域情報を基に、混合領域 6 3に含まれる画素に対応する混合比（以下、混合比 a と称する）を算出して、算出した混合比を前景背景分離部 1 0 5に供給する _c 混合比ひは、後述する式（3 ) に示されるように、画素値における、背景のオブジェクトに対応する画像の成分（以下、背景の成分とも称する）の割合を示す値である。

前景背景分離部 1 0 5は、領域特定部 1 0 3から供給された領域情報、および混合比算出部 1 0 4から供給された混合比 Ot を基に、前景のオブジェクトに対応する画像の成分（以下、前景の成分とも称する）のみから成る前景成分画像と. 背景の成分のみから成る背景成分画像とに入力画像を分離して、前景成分画像を動きボケ調整部 1 0 6および選択部 1 0 7に供給する。なお、分離された前景成分画像を最終的な出力とすることも考えられる。従来の混合領域を考慮しないで前景と背景だけを特定し、分離していた方式に比べ正確な前景と背景を得ることが出来る。

動きボケ調整部 1 0 6は、動きべクトルからわかる動き量 Vおよび領域情報を基に、前景成分画像に含まれる 1以上の画素を示す処理単位を決定する。処理単位は、動きボケの量の調整の処理の対象となる 1群の画素を指定するデータである。

動きボケ調整部 1 0 6は、画像処理装置に入力された動きボケ調整量、前景背景分離部 1 0 5から供給された前景成分画像、動き検出部 1 0 2から供給された動きべクトルおよびその位置情報、並びに処理単位を基に、前景成分画像に含まれる動きボケを除去する、動きボケの量を減少させる、または動きボケの量を增加させるなど前景成分画像に含まれる動きボケの量を調整して、動きボケの量を調整した前景成分画像を選択部 1 0 7に出力する。動きべクトルとその位置情報は使わないこともある。

ここで、動きボケとは、撮像の対象となる、現実世界におけるオブジェクトの動きと、センサの撮像の特性とにより生じる、動いているオブジェクトに対応する画像に含まれている歪みをいう。

選択部 1 0 7は、例えば使用者の選択に対応した選択信号を基に、前景背景分離部 1 0 5から供給された前景成分画像、および動きボケ調整部 1 0 6から供給された動きボケの量が調整された前景成分画像のいずれか一方を選択して、選択した前景成分画像を出力する。

次に、図 3乃至図 1 8を参照して、画像処理装置に供給される入力画像について説明する。

図 3は、センサによる撮像を説明する図である。センサは、例えば、固体撮像素子である CCD (Charge-Coupled Device) エリアセンサを備えた CCDビデオ力メラなどで構成される。現実世界における、前景に対応するォブジェクト 1 1 1 は、現実世界における、背景に対応するオブジェクト 1 1 2と、センサとの間を. 例えば、図中の左側から右側に水平に移動する。

センサは、前景に対応するオブジェクト 1 1 1を、背景に対応するォブジェクト 1 1 2と共に撮像する。センサは、撮像した画像を 1フレーム単位で出力する _c 例えば、センサは、 1秒間に 3 0フレームから成る画像を出力する。センサの露光時間は、 1 Z 3 0秒とすることができる。露光時間は、センサが入力された光の電荷への変換を開始してから、入力された光の電荷への変換を終了するまでの期間である。以下、露光時間をシャツタ時間とも称する。

図 4は、画素の配置を説明する図である。図 4中において、 A乃至 Iは、個々の画素を示す。画素は、画像に対応する平面上に配置されている。 1つの画素に対応する 1つの検出素子は、センサ上に配置されている。センサが画像を撮像するとき、 1つの検出素子は、画像を構成する 1つの画素に対応する画素値を出力する。例えば、検出素子の X方向の位置は、画像上の横方向の位置に対応し、検出素子の Y方向の位置は、画像上の縦方向の位置に対応する。

図 5に示すように、例えば、 CCDである検出素子は、シャツタ時間に対応する期間、入力された光を電荷に変換して、変換された電荷を蓄積する。電荷の量は- 入力された光の強さと、光が入力されている時間にほぼ比例する。検出素子は、シャツタ時間に対応する期間において、入力された光から変換された電荷を、既に蓄積されている電荷に加えていく。すなわち、検出素子は、シャツタ時間に対応する期間、入力される光を積分して、積分された光に対応する量の電荷を蓄積する。検出素子は、時間に対して、積分効果があるとも言える。

検出素子に蓄積された電荷は、図示せぬ回路により、電圧値に変換され、電圧値は更にデジタルデータなどの画素値に変換されて出力される。従って、センサから出力される個々の画素値は、前景または背景に対応するオブジェクトの空間的に広がりを有するある部分を、シャツタ時間について積分した結果である、 1 次元の空間に射影された値を有する。

画像処理装置は、このようなセンサの蓄積の動作により、出力信号に埋もれてしまった有意な情報、例えば、混合比を抽出する。画像処理装置は、前景の画像オブジェクト自身が混ざり合うことによる生ずる歪みの量、例えば、動きボケの量などを調整する。また、画像処理装置は、前景の画像オブジェクトと背景の画像ォブジェクトとが混ざり合うことにより生ずる歪みの量を調整する。

図 6 Aは、動いている前景に対応するオブジェクトと、静止している背景に対応するオブジェクトとを撮像して得られる画像を説明する図である。図 6 Bは、動いている前景に対応するオブジェクトと、静止している背景に対応するォブジェクトとを撮像して得られる画像に対応するモデルを説明する図である。

図 6 Aは、動きを伴う前景に対応するオブジェクトと、静止している背景に対応するォブジヱクトとを撮像して得られる画像を示している。図 6 Aに示す例において、前景に対応するォブジェクトは、画面に対して水平に左から右に動いている。

図 6 Bは、図 6 Aに示す画像の 1つのラインに対応する画素値を時間方向に展開したモデル図である。図 6 Bの横方向は、図 6 Aの空間方向 Xに対応している, 背景領域の画素は、背景の成分、すなわち、背景のオブジェクトに対応する画像の成分のみから、その画素値が構成されている。前景領域の画素は、前景の成分、すなわち、前景のオブジェクトに対応する画像の成分のみから、その画素値が構成されている。

混合領域の画素は、背景の成分、および前景の成分から、その画素値が構成されている。混合領域は、背景の成分、および前景の成分から、その画素値が構成されているので、歪み領域ともいえる。混合領域は、更に、カバードバックダラゥンド領域およびアンカバードバックグラウンド領域に分類される。

カバードバックグラウンド領域は、前景領域に対して、前景のオブジェクトの進行方向の前端部に対応する位置の混合領域であり、時間の経過に対応して背景成分が前景に覆い隠される領域をいう。

これに対して、アンカバードバックグラウンド領域は、前景領域に対して、前景のォブジェクトの進行方向の後端部に対応する位置の混合領域であり、時間の経過に対応して背景成分が現れる領域をいう。

このように、前景領域、背景領域、またはカバードバックグラウンド領域若しくはアンカバードバックグラウンド領域を含む画像が、領域特定部 1 0 3、混合比算出部 1 0 4、および前景背景分離部 1 0 5に入力画像として入力される。図 7は、以上のような、背景領域、前景領域、混合領域、カバードバックダラゥンド領域、'およびアンカバードバックグラウンド領域を説明する図である。図

6 Aに示す画像に対応する場合、背景領域は、静止部分であり、前景領域は、動き部分であり、混合領域のカバードバックグラウンド領域は、背景から前景に変化する部分であり、混合領域のアンカバードバックグラウンド領域は、前景から背景に変化する部分である。

図 8は、静止している前景に対応するォブジェクトおよび静止している背景に対応するォブジェクトを撮像した画像における、隣接して 1列に並んでいる画素の画素値を時間方向に展開したモデル図である。例えば、隣接して 1列に並んでいる画素として、画面の 1つのライン上に並んでいる画素を選択することができる。

図 8に示す F01乃至 F04の画素値は、静止している前景のオブジェクトに対応する画素の画素値である。図 8に示す B01乃至 B04の画素値は、静止している背景のォブジェクトに対応する画素の画素値である。

図 8における縦方向は、図中の上から下に向かって時間が経過する。図 8中の矩形の上辺の位置は、センサが入力された光の電荷への変換を開始する時刻に対応し、図 8中の矩形の下辺の位置は、センサが入力された光の電荷への変換を終了する時刻に対応する。すなわち、図 8中の矩形の上辺から下辺までの距離は、シャツタ時間に対応する。

以下において、シャツタ時間とフレーム間隔とが同一である場合を例に説明する。

図 8における横方向は、図 6 Aで説明した空間方向 Xに対応する。より具体的には、図 8に示す例において、図 8中の" F01 " と記載された矩形の左辺から'' B04" と記載された矩形の右辺までの距離は、画素のピッチの 8倍、すなわち、連続している 8つの画素の間隔に対応する。

前景のオブジェクトおよび背景のオブジェクトが静止している場合、シャツタ時間に対応する期間において、センサに入力される光は変化しない。

ここで、シャッタ時間に対応する期間を 2つ以上の同じ長さの期間に分割する。例えば、仮想分割数を 4とすると、図 8に示すモデル図は、図 9に示すモデルとして表すことができる。仮想分割数は、前景に対応するオブジェクトのシャツタ時間内での動き量 Vなどに対応して設定される。例えば、 4である動き量 Vに対応して、仮想分割数は、 4とされ、シャツタ時間に対応する期間は 4つに分割される。

図中の最も上の行は、シャツタが開いて最初の、分割された期間に対応する。図中の上から 2番目の行は、シャツタが開いて 2番目の、分割された期間に対応する。図中の上から 3番目の行は、シャツタが開いて 3番目の、分割された期間に対応する。図中の上から 4番目の行は、シャツタが開いて 4番目の、分割された期間に対応する。

以下、動き量 Vに対応して分割されたシャツタ時間をシャツタ時間 /vとも称する。

前景に対応するオブジェクトが静止しているとき、センサに入力される光は変化しないので、前景の成分 FO l/vは、画素値 F01を仮想分割数で除した値に等しい。同様に、前景に対応するオブジェクトが静止しているとき、前景の成分 F02/v は、画素値 F02 を仮想分割数で除した値に等しく、前景の成分 F03/v は、画素値 F03を仮想分割数で除した値に等しく、前景の成分 F04/vは、画素値 F04を仮想分割数で除した値に等しい。

背景に対応するオブジェクトが静止しているとき、センサに入力される光は変ィ匕しないので、背景の成分 BOl/vは、画素値 B01を仮想分割数で除した値に等しい。同様に、背景に対応するオブジェクトが静止しているとき、背景の成分

B02/Vは、画素値 B02を仮想分割数で除した値に等しく、 B03/vは、画素値 B03 を仮想分割数で除した値に等しく、 B04/Vは、画素値 B04を仮想分割数で除した値に等しい。

すなわち、前景に対応するオブジェクトが静止している場合、シャツタ時間に対応する期間において、センサに入力される前景のオブジェクトに対応する光が変化しないので、シャツタが開いて最初の、シャツタ時間/ Vに対応する前景の成分 FO l/vと、シャツタが開いて 2番目の、シャツタ時間/ Vに対応する前景の成分 FO l/vと、シャツタが開いて 3番目の、シャツタ時間/ Vに対応する前景の成分 FO l/vと、シャツタが開いて 4番目の、シャツタ時間/ Vに対応する前景の成分 FO l/vとは、同じィ直となる。 F02/v乃至 F04/vも、 FO l/vと同様の関係を有する。

背景に対応するォブジェクトが静止している場合、シャツタ時間に対応する期間において、センサに入力される背景のオブジェクトに対応する光は変化しないので、シャツタが開いて最初の、シャツタ時間/ Vに対応する背景の成分 BO l/v と、シャツタが開いて 2番目の、シャツタ時間/ Vに対応する背景の成分 BO l/v と、シャツタが開いて 3番目の、シャツタ時間/ Vに対応する背景の成分 BO l/v と、シャツタが開いて 4番目の、シャツタ時間/ Vに対応する背景の成分 BO l/v とは、同じ値となる。 B02/v乃至 B04/vも、同様の関係を有する。

次に、前景に対応するォブジェクトが移動し、背景に対応するォブジェクトが静止している場合について説明する。

図 1 0は、前景に対応するォブジクトが図中の右側に向かって移動する場合の、カバードバックグラウンド領域を含む、 1つのライン上の画素の画素値を時間方向に展開したモデル図である。図 1 0において、前景の動き量 Vは、 4である。 1フレームは短い時間なので、前景に対応するオブジェクトが剛体であり等速で移動していると仮定することができる。図 1 0において、前景に対応するオブジェクトの画像は、あるフレームを基準として次のフレームにおいて 4画素分右側に表示されるように移動する。

図 1 0において、最も左側の画素乃至左から 4番目の画素は、前景領域に属する。図 1 0において、左から 5番目乃至左から 7番目の画素は、カバードバックグラウンド領域である混合領域に属する。図 1 0において、最も右側の画素は、背景領域に属する。前景に対応するォブジェクトが時間の経過と共に背景に対応するォブジェクトを覆い隠すように移動しているので、カバードバックグラウンド領域に属する画素の画素値に含まれる成分は、シャツタ時間に対応する期間のある時点で、背景の成分から、前景の成分に替わる。

例えば、図 1 0中に太線枠を付した画素値 Mは、式（1 ) で表される。

M=B02/v+B02/v+F07/v+F06/v ( 1 )

例えば、左から 5番目の画素は、 1つのシャツタ時間/ Vに対応する背景の成分を含み、 3つのシャツタ時間/ Vに対応する前景の成分を含むので、左から 5 番目の画素の混合比は、 1 /4である。左から 6番目の画素は、 2つのシャツタ時間 /vに対応する背景の成分を含み、 2つのシャツタ時間/ Vに対応する前景の成分を含むので、左から 6番目の画素の混合比ひは、 1/2である。左から 7 番目の画素は、 3つのシャツタ時間/ Vに対応する背景の成分を含み、 1つのシャッタ時間/ Vに対応する前景の成分を含むので、左から 7番目の画素の混合比 a は、 3/4である。

前景に対応するオブジェクトが、剛体であり、前景の画像が次のフレームにおいて 4画素右側に表示されるように等速で移動すると仮定できるので、例えば、図 1 0中の左から 4番目の画素の、シャツタが開いて最初の、シャツタ時間/ V の前景の成分 F07/vは、図 1 0中の左から 5番目の画素の、シャツタが開いて 2番目のシャツタ時間/ Vに対応する前景の成分に等しい。同様に、前景の成分 F07/vは、図 1 0中の左から 6番目の画素の、シャツタが開いて 3番目のシャツタ時間 /vに対応する前景の成分と、図 1 0中の左から 7番目の画素の、シャツタが開いて 4番目のシャッタ時間 /vに対応する前景の成分とに、それぞれ等しい。

前景に対応するオブジェクトが、剛体であり、前景の画像が次のフレームにおいて 4画素右側に表示されるように等速で移動すると仮定できるので、例えば、図 1 0中の左から 3番目の画素の、シャッタが開いて最初のシャッタ時間/ Vの前景の成分 F06/vは、図 1 0中の左から 4番目の画素の、シャツタが開いて 2 番目のシャツタ時間 /vに対応する前景の成分に等しい。同様に、前景の成分 F06/vは、図 1 0中の左から 5番目の画素の、シャツタが開いて 3番目のシャツタ時間 /vに対応する前景の成分と、図 1 0中の左から 6番目の画素の、シャツタが開いて 4番目のシャツタ時間/ Vに対応する前景の成分とに、それぞれ等しい。

前景に対応するオブジェクトが、剛体であり、前景の画像が次のフレームにおいて 4画素右側に表示されるように等速で移動すると仮定できるので、例えば、図 1 0中の左から 2番目の画素の、シャッタが開いて最初のシャッタ時間/ Vの前景の成分 F05/Vは、図 1 0中の左から 3番目の画素の、シャツタが開いて 2 番目のシャツタ時間/ Vのに対応する前景の成分に等しい。同様に、前景の成分 F05/vは、図 1 0中の左から 4番目の画素の、シャツタが開いて 3番目のシャツタ時間 /vに対応する前景の成分と、図 1 0中の左から 5番目の画素の、シャツタが開いて 4番目のシャツタ時間 /vに対応する前景の成分とに、それぞれ等しレ、。

前景に対応するオブジェクトが、剛体であり、前景の画像が次のフレームにおいて 4画素右側に表示されるように等速で移動すると仮定できるので、例えば、図 1 0中の最も左側の画素の、シャツタが開いて最初のシャツタ時間/ Vの前景の成分 F04/vは、図 1 0中の左から 2番目の画素の、シャツタが開いて 2番目のシャツタ時間/ Vに対応する前景の成分に等しい。同様に、前景の成分 F04/v は、図 1 0中の左から 3番目の画素の、シャツタが開いて 3番目のシャツタ時間 /vに対応する前景の成分と、図 1 0中の左から 4番目の画素の、シャツタが開いて 4番目のシャッタ時間 /vに対応する前景の成分とに、それぞれ等しい。動いているォブジェクトに対応する前景の領域は、このように動きボケを含むので、歪み領域とも言える。

図 1 1は、前景が図中の右側に向かって移動する場合の、アンカバードバックグラウンド領域を含む、 1つのライン上の画素の画素値を時間方向に展開したモデル図である。図 1 1において、前景の動き量 Vは、 4である。 1フレームは短い時間なので、前景に対応するオブジェクトが剛体であり、等速で移動していると仮定することができる。図 1 1において、前景に対応するオブジェクトの画像は、あるフレームを基準として次のフレームにおいて 4画素分右側に移動する, 図 1 1において、最も左側の画素乃至左から 4番目の画素は、背景領域に属する。図 1 1において、左から 5番目乃至左から 7番目の画素は、アンカバードバックグラウンドである混合領域に属する。図 1 1において、最も右側の画素は、前景領域に属する。

背景に対応するォブジェクトを覆っていた前景に対応するォブジェクトが時間の経過と共に背景に対応するォブジェクトの前から取り除かれるように移動しているので、アンカバードバックグラウンド領域に属する画素の画素値に含まれる成分は、シャツタ時間に対応する期間のある時点で、前景の成分から、背景の成分に替わる。

例えば、図 1 1中に太線枠を付した画素値 M'は、式（2 ) で表される。

M' =F02/v+F01/v+B26/v+B26/v ( 2 )

例えば、左から 5番目の画素は、 3つのシャツタ時間/ Vに対応する背景の成分を含み、 1つのシャツタ時間/ Vに対応する前景の成分を含むので、左から 5 番目の画素の混合比ひは、 3/4である。左から 6番目の画素は、 2つのシャツタ時間/ Vに対応する背景の成分を含み、 2つのシャッタ時間 /vに対応する前景の成分を含むので、左から 6番目の画素の混合比ひは、 1/2である。左から 7 番目の画素は、 1つのシャツタ時間/ Vに対応する背景の成分を含み、 3つのシャッタ時間/ Vに対応する前景の成分を含むので、左から 7番目の画素の混合比は、 1/4である。

式（1 ) および式（2 ) をより一般化すると、画素値 Mは、式（3 ) で表される。

M= -B +∑Fi/v (3)

ここで、ひは、混合比である。 Bは、背景の画素値であり、 Fi/vは、前景の成分である。前景に対応するォブジェクトが剛体であり、等速で動くと仮定でき、かつ、動き量 Vが 4であるので、例えば、図 1 1中の左から 5番目の画素の、シャツタが開いて最初の、シャツタ時間/ Vの前景の成分 FO l /vは、図 1 1中の左から 6 番目の画素の、シャッタが開いて 2番目のシャッタ時間/ Vに対応する前景の成分に等しい。同様に、 FO l /vは、図 1 1中の左から 7番目の画素の、シャツタが開いて 3番目のシャツタ時間/ Vに対応する前景の成分と、図 1 1中の左から 8 番目の画素の、シャッタが開いて 4番目のシャッタ時間/ Vに対応する前景の成分とに、それぞれ等しい。

前景に対応するォブジェクトが剛体であり、等速で動くと仮定でき、かつ、仮想分割数が 4であるので、例えば、図 1 1中の左から 6番目の画素の、シャツタが開いて最初の、シャツタ時間/ Vの前景の成分 F02/vは、図 1 1中の左から 7 番目の画素の、シャッタが開いて 2番目のシャッタ時間/ Vに対応する前景の成分に等しい。同様に、前景の成分 F02/v は、図 1 1中の左から 8番目の画素の, シャツタが開いて 3番目のシャツタ時間/ Vに対応する前景の成分に等しい。

前景に対応するオブジェクトが剛体であり、等速で動くと仮定でき、かつ、動き量 Vが 4であるので、例えば、図 1 1中の左から 7番目の画素の、シャツタが開いて最初の、シャツタ時間/ Vの前景の成分 F03/vは、図 1 1中の左から 8 番目の画素の、シャッタが開いて 2番目のシャッタ時間/ Vに対応する前景の成分に等しい。

図 9乃至図 1 1の説明において、仮想分割数は、 4であるとして説明したが、仮想分割数は、動き量 Vに対応する。動き量 Vは、一般に、前景に対応するォブジエタトの移動速度に対応する。例えば、前景に対応するオブジェクトが、あるフレームを基準として次のフレームにおいて 4画素分右側に表示されるように移動しているとき、動き量 Vは、 4とされる。動き量 Vに対応し、仮想分割数は、 4とされる。同様に、例えば、前景に対応するオブジェクトが、あるフレームを基準として次のフレームにおいて 6画素分左側に表示されるように移動しているとき、動き量 Vは、 6とされ、仮想分割数は、 6とされる。図 1 2および図 1 3に、以上で説明した、前景領域、背景領域、カバードバックグラウンド領域若しくはアンカバードバックグラウンド領域から成る混合領域と、分割されたシャッタ時間に対応する前景の成分および背景の成分との関係を示す。

図 1 2は、静止している背景の前を移動しているオブジェクトに対応する前景を含む画像から、前景領域、背景領域、および混合領域の画素を抽出した例を示す。図 1 2に示す例において、 Aで示す、前景に対応するォブジェクトは、画面に対して水平に移動している。

フレーム #n+lは、フレーム ttnの次のフレームであり、フレーム #n+2は、フレーム #n+lの次のフレームである。

フレーム ίίη 乃至フレーム ttn+2 のいずれかから抽出した、前景領域、背景領域、および混合領域の画素を抽出して、動き量 Vを 4として、抽出された画素の画素値を時間方向に展開したモデルを図 1 3に示す。

前景領域の画素値は、前景に対応するオブジェクトが移動するので、シャツタ時間/ Vの期間に対応する、 4つの異なる前景の成分から構成される。例えば、図 1 3に示す前景領域の画素のうち最も左側に位置する画素は、

?01 ，？02 ，？03/ 、ぉょぴ1^04_/^から構成される。すなわち、前景領域の画素は、動きボケを含んでいる。

背景に対応するォブジェクトが静止しているので、シャツタ時間に対応する期間において、センサに入力される背景に対応する光は変化しない。この場合、背景領域の画素値は、動きボケを含まない。

カバードバックグラウンド領域若しくはアンカバードバックダラゥンド領域から成る混合領域に属する画素の画素値は、前景の成分と、背景の成分とから構成される。

次に、オブジェクトに対応する画像が動いているとき、複数のフレームにおける、隣接して 1列に並んでいる画素であって、フレーム上で同一の位置の画素の画素値を時間方向に展開したモデルについて説明する。例えば、オブジェクトに対応する画像が画面に対して水平に動いているとき、隣接して 1列に並んでいる画素として、画面の 1つのライン上に並んでいる画素を選択することができる。図 1 4は、静止している背景に対応するォブジェクトを撮像した画像の 3つのフレームの、隣接して 1列に並んでいる画素であって、フレーム上で同一の位置の画素の画素値を時間方向に展開したモデル図である。フレームは、フレーム ttn- 1の次のフレームであり、フレーム #n+ lは、フレーム ftnの次のフレームである。他のフレームも同様に称する。

図 1 4に示す B01乃至 B 12の画素値は、静止している背景のオブジェクトに対応する画素の画素値である。背景に対応するォブジェクトが静止しているので、フレーム ttn- 1乃至フレーム n+ 1において、対応する画素の画素値は、変化しなレ、。例えば、フレーム #n- lにおける B05の画素値を有する画素の位置に対応する、フレーム ftn における画素、およびフレームにおける画素は、それぞれ, B05の画素値を有する。

図 1 5は、静止している背景に対応するォブジェクトと共に図中の右側に移動する前景に対応するオブジェクトを撮像した画像の 3つのフレームの、隣接して 1列に並んでいる画素であって、フレーム上で同一の位置の画素の画素値を時間方向に展開したモデル図である。図 1 5に示すモデルは、カバードバックグラウンド領域を含む。

図 1 5において、前景に対応するォブジェクトが、剛体であり、等速で移動すると仮定でき、前景の画像が次のフレームにおいて 4画素右側に表示されるように移動するので、前景の動き量 Vは、 4であり、仮想分割数は、 4である。

例えば、図 1 5中のフレーム ίίη- 1の最も左側の画素の、シャツタが開いて最初のシャツタ時間/ Vの前景の成分は、 F 12/vとなり、図 1 5中の左から 2番目の画素の、シャツタが開いて 2番目のシャツタ時間/ Vの前景の成分も、 F 12/v となる。図 1 5中の左から 3番目の画素の、シャツタが開いて 3番目のシャツタ時間/ Vの前景の成分、および図 1 5中の左から 4番目の画素の、シャツタが開いて 4番目のシャツタ時間/ Vの前景の成分は、 F12/vとなる。図 1 5中のフレーム #n-lの最も左側の画素の、シャッタが開いて 2番目のシャッタ時間/ Vの前景の成分は、 Fl l/vとなり、図 1 5中の左から 2番目の画素の、シャツタが開いて 3番目のシャツタ時間/ V の前景の成分も、 Fl l/v となる, 図 1 5中の左から 3番目の画素の、シャッタが開いて 4番目のシャッタ時間/ V の前景の成分は、 Fl l/vとなる。

図 1 5中のフレーム #n-lの最も左側の画素の、シャツタが開いて 3番目のシャッタ時間/ Vの前景の成分は、 FlO/vとなり、図 1 5中の左から 2番目の画素の、シャツタが開いて 4番目のシャツタ時間/ V の前景の成分も、 FlO/v となる, 図 1 5中のフレーム #n- 1の最も左側の画素の、シャッタが開いて 4番目のシャッタ時間/ Vの前景の成分は、 F09/v となる。

背景に対応するォブジェクトが静止しているので、図 1 5中のフレーム - 1 の左から 2番目の画素の、シャッタが開いて最初のシャッタ時間/ Vの背景の成分は、 BOl/vとなる。図 1 5中のフレーム #n-lの左から 3番目の画素の、シャッタが開いて最初および 2番目のシャツタ時間/ Vの背景の成分は、 B02/vとなる。図 1 5中のフレーム #n-lの左から 4番目の画素の、シャツタが開いて最初乃至 3番目のシャツタ時間/ Vの背景の成分は、 B03/vとなる。

図 1 5中のフレーム #n- 1において、最も左側の画素は、前景領域に属し、左側から 2番目乃至 4番目の画素は、カバードバックグラウンド領域である混合領域に属する。

図 1 5中のフレーム ίίη-1の左から 5番目の画素乃至 1 2番目の画素は、背景領域に属し、その画素値は、それぞれ、 Β04乃至 B11 となる。

図 1 5中のフレーム ίίηの左から 1番目の画素乃至 5番目の画素は、前景領域に属する。フレーム ίίηの前景領域における、シャツタ時間/ Vの前景の成分は、 F05/ 乃至 F12/vのいずれかである。

前景に対応するオブジェクトが、剛体であり、等速で移動すると仮定でき、前景の画像が次のフレームにおいて 4画素右側に表示されるように移動するので、図 1 5中のフレーム tinの左から 5番目の画素の、シャッタが開いて最初のシャッタ時間/ v の前景の成分は、 F 12/v となり、図 1 5中の左から 6番目の画素の- シャツタが開いて 2番目のシャツタ時間/ Vの前景の成分も、 F12/vとなる。図 1 5中の左から 7番目の画素の、シャッタが開いて 3番目のシャツタ時間/ Vの前景の成分、および図 1 5中の左から 8番目の画素の、シャツタが開いて 4番目のシャツタ時間/ Vの前景の成分は、 F12/vとなる。

図 1 5中のフレーム #nの左から 5番目の画素の、シャッタが開いて 2番目のシャツタ時間/ Vの前景の成分は、 Fl l/v となり、図 1 5中の左から 6番目の画素の、シャツタが開いて 3番目のシャツタ時間/ Vの前景の成分も、 Fl l/vとなる。図 1 5中の左から 7番目の画素の、シャツタが開いて 4番目のシャツタ時間 /vの前景の成分は、 Fl l/vとなる。

図 1 5中のフレーム #nの左から 5番目の画素の、シャツタが開いて 3番目のシャツタ時間/ Vの前景の成分は、 FlO/v となり、図 1 5中の左から 6番目の画素の、シャツタが開いて 4番目のシャツタ時間/ Vの前景の成分も、 F lO/vとなる。図 1 5中のフレーム tinの左から 5番目の画素の、シャツタが開いて 4番目のシャツタ時間/ Vの前景の成分は、 F09/vとなる。

背景に対応するォブジェクトが静止しているので、図 1 5中のフレーム ίίηの左から 6番目の画素の、シャッタが開いて最初のシャッタ時間/ Vの背景の成分は、 Β05/νとなる。図 1 5中のフレーム #ηの左から 7番目の画素の、シャツタが開いて最初および 2番目のシャツタ時間 /νの背景の成分は、 Β06/νとなる。図 1 5中のフレーム ίίηの左から 8番目の画素の、シャツタが開いて最初乃至 3 番目の、シャツタ時間/ Vの背景の成分は、 B07/Vとなる。

図 1 5中のフレーム #ηにおいて、左側から 6番目乃至 8番目の画素は、カバ一ドバックグラウンド領域である混合領域に属する。

図 1 5中のフレームの左から 9番目の画素乃至 1 2番目の画素は、背景領域に属し、画素値は、それぞれ、 Β08乃至 B11 となる。

図 1 5中のフレーム ίίη+lの左から 1番目の画素乃至 9番目の画素は、前景領域に属する。フレーム + 1の前景領域における、シャツタ時間/ Vの前景の成分は、 FOl/v乃至 F12/vのいずれかである。

前景に対応するオブジェクトが、剛体であり、等速で移動すると仮定でき、前景の画像が次のフレームにおいて 4画素右側に表示されるように移動するので、図 1 5中のフレーム #n+lの左から 9番目の画素の、シャッタが開いて最初のシャッタ時間/ Vの前景の成分は、 F12/vとなり、図 1 5中の左から 1◦番目の画素の、シャツタが開いて 2番目のシャツタ時間/ Vの前景の成分も、 F12/vとなる。図 1 5中の左から 1 1番目の画素の、シャツタが開いて 3番目のシャツタ時間/ Vの前景の成分、および図 1 5中の左から 1 2番目の画素の、シャツタが開いて 4番目のシャッタ時間/ Vの前景の成分は、 F12/vとなる。

図 1 5中のフレーム ίίη+lの左から 9番目の画素の、シャツタが開いて 2番目のシャツタ時間/ Vの期間の前景の成分は、 Fll/vとなり、図 1 5中の左から 1 0番目の画素の、シャッタが開いて 3番目のシャッタ時間/ Vの前景の成分も、 Fll/v となる。図 1 5中の左から 1 1番目の画素の、シャツタが開いて 4番目の、シャツタ時間/ Vの前景の成分は、 Fll/vとなる。

図 1 5中のフレーム #n+lの左から 9番目の画素の、シャツタが開いて 3番目の、シャツタ時間/ Vの前景の成分は、 FlO/vとなり、図 1 5中の左から 1 0番目の画素の、シャツタが開いて 4番目のシャツタ時間/ Vの前景の成分も、 FlO/v となる。図 1 5中のフレーム ίίη+lの左から 9番目の画素の、シャツタが開いて 4番目のシャツタ時間/ Vの前景の成分は、 F09/v となる。

背景に対応するオブジェクトが静止しているので、図 1 5中のフレーム #η+1 の左から 1 0番目の画素の、シャッタが開いて最初のシャッタ時間/ Vの背景の成分は、 B09/Vとなる。図 1 5中のフレーム #η+1の左から 1 1番目の画素の、シャッタが開いて最初および 2番目のシャッタ時間/ Vの背景の成分は、 ΒΙΟ/ν となる。図 1 5中のフレーム ίίη+1の左から 1 2番目の画素の、シャツタが開いて最初乃至 3番目の、シャツタ時間/ Vの背景の成分は、 Bll/vとなる。

図 1 5中のフレーム #n+l において、左側から 1 0番目乃至 1 2番目の画素は, カバードバックグラウンド領域である混合領域に対応する。図 1 6は、図 1 5に示す画素値から前景の成分を抽出した画像のモデル図である。

図 1 7は、静止している背景と共に図中の右側に移動するォブジェクトに対応する前景を撮像した画像の 3つのフレームの、隣接して 1列に並んでいる画素であって、フレーム上で同一の位置の画素の画素値を時間方向に展開したモデル図である。図 1 7において、アンカバードバックグラウンド領域が含まれている。図 1 7において、前景に対応するォブジェクトは、剛体であり、かつ等速で移動していると仮定できる。前景に対応するオブジェクトが、次のフレームにおいて 4画素分右側に表示されるように移動しているので、動き量 V は、 4である, 例えば、図 1 7中のフレーム #n-lの最も左側の画素の、シャツタが開いて最初の、シャツタ時間/ Vの前景の成分は、 F13/Vとなり、図 1 7中の左から 2番目の画素の、シャツタが開いて 2番目のシャツタ時間/ Vの前景の成分も、 F13/v となる。図 1 7中の左から 3番目の画素の、シャツタが開いて 3番目のシャツタ時間/ Vの前景の成分、および図 1 7中の左から 4番目の画素の、シャツタが開いて 4番目のシャツタ時間/ Vの前景の成分は、 F13/vとなる。

図 1 7中のフレーム #n- 1の左から 2番目の画素の、シャッタが開いて最初のシャツタ時間/ Vの前景の成分は、 F14/vとなり、図 1 7中の左から 3番目の画素の、シャツタが開いて 2番目のシャツタ時間/ Vの前景の成分も、 F14/vとなる。図 1 7中の左から 3番目の画素の、シャツタが開いて最初の、シャツタ時間 /vの前景の成分は、 F15/vとなる。

背景に対応するォブジェク卜が静止しているので、図 1 7中のフレーム #n- 1 の最も左側の画素の、シャツタが開いて 2番目乃至 4番目の、シャツタ時間/ V の背景の成分は、 B25/vとなる。図 1 7中のフレーム ίίη-lの左から 2番目の画素の、シャツタが開いて 3番目および 4番目の、シャツタ時間/ Vの背景の成分は、 Β26/νとなる。図 1 7中のフレーム ίίη-lの左から 3番目の画素の、シャツタが開いて 4番目のシャツタ時間 /νの背景の成分は、 Β27/νとなる。

図 1 7中のフレーム #η-1において、最も左側の画素乃至 3番目の画素は、ァンカバードバックグラウンド領域である混合領域に属する。

図 1 7中のフレーム #n- 1の左から 4番目の画素乃至 1 2番目の画素は、前景領域に属する。フレームの前景の成分は、 F 13/v乃至 F2Vvのいずれかである。図 1 7中のフレームの最も左側の画素乃至左から 4番目の画素は、背景領域に属し、画素値は、それぞれ、 Β25乃至 Β28となる。

前景に対応するオブジェクトが、剛体であり、等速で移動すると仮定でき、前景の画像が次のフレームにおいて 4画素右側に表示されるように移動するので、図 1 7中のフレーム #ηの左から 5番目の画素の、シャッタが開いて最初のシャッタ時間/ V の前景の成分は、 F 13/v となり、図 1 7中の左から 6番目の画素の. シャツタが開いて 2番目のシャツタ時間/ Vの前景の成分も、 F13/vとなる。図 1 7中の左から 7番目の画素の、シャツタが開いて 3番目のシャツタ時間/ Vの前景の成分、および図 1 7中の左から 8番目の画素の、シャツタが開いて 4番目のシャツタ時間/ Vの前景の成分は、 F13/vとなる。

図 1 7中のフレーム #ηの左から 6番目の画素の、シャツタが開いて最初のシャッタ時間/ Vの前景の成分は、 F /vとなり、図 1 7中の左から 7番目の画素の、シャツタが開いて 2番目のシャツタ時間/ V の前景の成分も、 F 14/v となる, 図 1 7中の左から 8番目の画素の、シャッタが開いて最初のシャッタ時間/ Vの前景の成分は、 F 15/vとなる。

背景に対応するォブジェクトが静止しているので、図 1 7中のフレーム #nの左から 5番目の画素の、シャツタが開いて 2番目乃至 4番目のシャツタ時間/ V の背景の成分は、 B29/vとなる。図 1 7中のフレームの左から 6番目の画素の、シャッタが開いて 3番目および 4番目のシャッタ時間/ Vの背景の成分は、 B30/vとなる。図 1 7中のフレームの左から 7番目の画素の、シャツタが開いて 4番目のシャッタ時間/ Vの背景の成分は、 B31 /Vとなる。

図 1 7中のフレーム #ηにおいて、左から 5番目の画素乃至 7番目の画素は、アンカバードバックグラウンド領域である混合領域に属する。

図 1 7中のフレーム ίίηの左から 8番目の画素乃至 1 2番目の画素は、前景領域に属する。フレーム #nの前景領域における、シャツタ時間/ Vの期間に対応する値は、 F13/v乃至 F20/vのいずれかである。

図 1 7中のフレーム #n+lの最も左側の画素乃至左から 8番目の画素は、背景領域に属し、画素値は、それぞれ、 B25乃至 B32となる。

前景に対応するオブジェクトが、剛体であり、等速で移動すると仮定でき、前景の画像が次のフレームにおいて 4画素右側に表示されるように移動するので、図 1 7中のフレーム #n+lの左から 9番目の画素の、シャッタが開いて最初のシャッタ時間/ Vの前景の成分は、 F13/vとなり、図 1 7中の左から 1 0番目の画素の、シャツタが開いて 2番目のシャツタ時間/ Vの前景の成分も、 F13/vとなる。図 1 7中の左から 1 1番目の画素の、シャツタが開いて 3番目のシャツタ時間/ Vの前景の成分、および図 1 7中の左から 1 2番目の画素の、シャツタが開いて 4番目のシャツタ時間/ Vの前景の成分は、 F13/vとなる。

図 1 7中のフレーム #n+ lの左から 1 0番目の画素の、シャッタが開いて最初のシャツタ時間/ Vの前景の成分は、 F14/v となり、図 1 7中の左から 1 1番目の画素の、シャツタが開いて 2番目のシャツタ時間/ Vの前景の成分も、 F14/V となる。図 1 7中の左から 1 2番目の画素の、シャツタが開いて最初のシャツタ時間/ Vの前景の成分は、 F15/vとなる。

背景に対応するォブジェクトが静止しているので、図 1 7中のフレーム #n+ l の左から 9番目の画素の、シャツタが開いて 2番目乃至 4番目の、シャツタ時間 /vの背景の成分は、 B33/vとなる。図 1 7中のフレーム ίίη+ lの左から 1 0番目の画素の、シャッタが開いて 3番目および 4番目のシャッタ時間/ Vの背景の成分は、 Β34/νとなる。図 1 7中のフレーム #η+ 1の左から 1 1番目の画素の、シャッタが開いて 4番目のシャッタ時間 /νの背景の成分は、 Β35/νとなる。

図 1 7中のフレーム #η+ 1において、左から 9番目の画素乃至 1 1番目の画素は、アンカバードバックグラウンド領域である混合領域に属する。

図 1 7中のフレーム ίίη+lの左から 1 2番目の画素は、前景領域に属する。フレーム #η+1の前景領域における、シャツタ時間/ Vの前景の成分は、 F13/v乃至 F16/vのいずれかである。

図 1 8は、図 1 7に示す画素値から前景の成分を抽出した画像のモデル図である。

図 2に戻り、領域特定部 1 0 3は、複数のフレームの画素値を用いて、前景領域、背景領域、カバードバックグラウンド領域、またはアンカバードバックダラゥンド領域に属することを示すフラグを画素毎に対応付けて、領域情報として、混合比算出部 1 ◦ 4および動きボケ調整部 1 0 6に供給する。

混合比算出部 1 0 4は、複数のフレームの画素値、および領域情報を基に、混合領域に含まれる画素について画素毎に混合比 a を算出し、算出した混合比ひを前景背景分離部 1 0 5に供給する。

前景背景分離部 1 0 5は、複数のフレームの画素値、領域情報、および混合比を基に、前景の成分のみからなる前景成分画像を抽出して、動きボケ調整部 1 0 6に供給する。

動きボケ調整部 1 0 6は、前景背景分離部 1 0 5から供給された前景成分画像、動き検出部 1 0 2から供給された動きベクトル、および領域特定部 1 0 3から供給された領域情報を基に、前景成分画像に含まれる動きボケの量を調整して、動きボケの量を調整した前景成分画像を出力する。

図 1 9のフローチヤ一トを参照して、画像処理装置による動きボケの量の調整の処理を説明する。ステップ S 1 1において、領域特定部 1 0 3は、入力画像を基に、入力画像の画素毎に前景領域、背景領域、カバードバックグラウンド領域、またはァンカバードバックグラウンド領域のいずれかに属するかを示す領域情報を生成する領域特定の処理を実行する。領域特定の処理の詳細は、後述する。領域特定部 1 0 3は、生成した領域情報を混合比算出部 1 0 4に供給する。

なお、ステップ S 1 1において、領域特定部 1 0 3は、入力画像を基に、入力画像の画素毎に前景領域、背景領域、または混合領域（カバードバックグラウンド領域、またはアンカバードバックグラウンド領域の区別をしない）のいずれかに属するかを示す領域情報を生成するようにしてもよい。この場合において、前景背景分離部 1 0 5および動きボケ調整部 1 0 6は、動きべクトルの方向を基に、混合領域がカバードバックグラウンド領域であるか、またはアンカバードバックグラウンド領域であるかを判定する。例えば、動きベクトルの方向に対応して、前景領域、混合領域、および背景領域と順に並んでいるとき、その混合領域は、カバードバックグラウンド領域と判定され、動きベクトルの方向に対応して、背景領域、混合領域、および前景領域と順に並んでいるとき、その混合領域は、ァンカバードバックグラウンド領域と判定される。

ステップ S 1 2において、混合比算出部 1 0 4は、入力画像および領域情報を基に、混合領域に含まれる画素毎に、混合比ひを算出する。混合比算出の処理の詳細は、後述する。混合比算出部 1 0 4は、算出した混合比ひを前景背景分離部 1 0 5に供給する。

ステップ S 1 3において、前景背景分離部 1 0 5は、領域情報、および混合比ひを基に、入力画像から前景の成分を抽出して、前景成分画像として動きボケ調整部 1 0 6に供給する。

ステップ S 1 4において、動きボケ調整部 1 0 6は、動きべクトルおよび領域情報を基に、動き方向に並ぶ連続した画素であって、アンカバードバックグラウンド領域、前景領域、およびカバードバックグラウンド領域のいずれかに属するものの画像上の位置を示す処理単位を生成し、処理単位に対応する前景成分に含まれる動きボケの量を調整する。動きボケの量の調整の処理の詳細については、後述する。

ステップ S 1 5において、画像処理装置は、画面全体について処理を終了したか否かを判定し、画面全体について処理を終了していないと判定された場合、ステツプ S 1 4に進み、処理単位に対応する前景の成分を対象とした動きボケの量の調整の処理を繰り返す。

ステップ S 1 5において、画面全体について処理を終了したと判定された場合、処理は終了する。

このように、画像処理装置は、前景と背景を分離して、前景に含まれる動きボケの量を調整することができる。すなわち、画像処理装置は、前景の画素の画素値であるサンプルデータに含まれる動きボケの量を調整することができる。

以下、領域特定部 1 0 3、混合比算出部 1 0 4、前景背景分離部 1 0 5、および動きボケ調整部 1 0 6のそれぞれの構成について説明する。

図 2 0は、領域特定部 1 0 3の構成の一例を示すブロック図である。図 2 0に構成を示す領域特定部 1 0 3は、動きベクトルを利用しない。フレームメモリ 2 0 1は、入力された画像をフレーム単位で記憶する。フレームメモリ 2 0 1は、処理の対象がフレーム ίίηであるとき、フレーム #ηの 2つ前のフレームであるフレーム #η-2、フレーム #η の 1つ前のフレームであるフレーム #η- 1、フレームのフレーム #ηの 1つ後のフレームであるフレーム #η+ 1、およびフレーム #ηの 2つ後のフレームであるフレーム #η+2を記憶する。

静動判定部 2 0 2 _ 1は、フレームの領域特定の対象である画素の画像上の位置と同一の位置にあるフレーム itn+2の画素の画素値、およびフレーム #nの領域特定の対象である画素の画像上の位置と同一の位置にあるフレーム #n+lの画素の画素値をフレームメモリ 2 0 1から読み出して、読み出した画素値の差の絶対値を算出する。静動判定部 2 0 2— 1は、フレーム +2の画素値とフレーム ίίη+1の画素値との差の絶対値が、予め設定している閾値 Thより大きいか否かを判定し、差の絶対値が閾値 Thより大きいと判定された場合、動きを示す静動判定を領域判定部 2 0 3— 1に供給する。フレーム #n+2の画素の画素値とフレーム #n+ lの画素の画素値との差の絶対値が閾値 Th以下であると判定された場合- 静動判定部 2 0 2— 1は、静止を示す静動判定を領域判定部 2 0 3— 1に供給する。

静動判定部 2 0 2— 2は、フレームの領域特定の対象である画素の画像上の位置と同一の位置にあるフレーム ίίη+ lの画素の画素値、およびフレーム t の対象となる画素の画素値をフレームメモリ 2 0 1から読み出して、画素値の差の絶対値を算出する。静動判定部 2 0 2— 2は、フレーム ίίη+ lの画素値とフレーム #ηの画素値との差の絶対値が、予め設定している閾値 Thより大きいか否かを判定し、画素値の差の絶対値が、閾値 Thより大きいと判定された場合、動きを示す静動判定を領域判定部 2 0 3 - 1および領域判定部 2 0 3— 2に供給する。フレーム ttn+1の画素の画素値とフレーム #nの画素の画素値との差の絶対値が、閾値 Th以下であると判定された場合、静動判定部 2 0 2— 2は、静止を示す静動判定を領域判定部 2 0 3— 1および領域判定部 2 0 3— 2に供給する。

静動判定部 2 0 2— 3は、フレーム tin の領域特定の対象である画素の画素値、およびフレーム #nの領域特定の対象である画素の画像上の位置と同一の位置にあるフレーム ίίη- 1の画素の画素値をフレームメモリ 2 0 1から読み出して、画素値の差の絶対値を算出する。静動判定部 2 0 2— 3は、フレーム #ηの画素値とフレーム #η - 1の画素値との差の絶対値が、予め設定している閾値 Thより大きいか否かを判定し、画素値の差の絶対値が、閾値 Thより大きいと判定された場合、動きを示す静動判定を領域判定部 2 0 3— 2および領域判定部 2 0 3— 3に供給する。フレームの画素の画素値とフレーム ίίη - 1の画素の画素値との差の絶対値が、閾値 Th以下であると判定された場合、静動判定部 2 0 2— 3は、静止を示す静動判定を領域判定部 2 0 3一 2および領域判定部 2 0 3 - 3に供給する。

静動判定部 2 0 2— 4は、フレーム ttnの領域特定の対象である画素の画像上の位置と同一の位置にあるフレーム ίίη-lの画素の画素値、およびフレームの領域特定の対象である画素の画像上の位置と同一の位置にあるフレーム #η-2の画素の画素値をフレームメモリ 2 0 1から読み出して、画素値の差の絶対値を算出する。静動判定部 2 0 2— 4は、フレーム ttn- 1の画素値とフレーム #η- 2の画素値との差の絶対値が、予め設定している閾値 Thより大きいか否かを判定し、画素値の差の絶対値が、閾値 Thより大きいと判定された場合、動きを示す静動判定を領域判定部 2 0 3 - 3に供給する。フレーム #n-lの画素の画素値とフレ一ム^- 2の画素の画素値との差の絶対値が、閾値 Th以下であると判定された場合、静動判定部 2 0 2— 4は、静止を示す静動判定を領域判定部 2 0 3— 3に供給する。領域判定部 2 0 3— 1は、静動判定部 2 0 2— 1から供給された静動判定が静止を示し、かつ、静動判定部 2 ΰ 2 _ 2から供給された静動判定が動きを示しているとき、フレームにおける領域特定の対象である画素がアンカバードバックグラウンド領域に属すると判定し、領域の判定される画素に対応するアンカバードバックグラウンド領域判定フラグに、アンカバードバックグラウンド領域に属することを示す" 1 " を設定する。

領域判定部 2 0 3— 1は、静動判定部 2 0 2 - 1から供給された静動判定が動きを示すか、または、静動判定部 2 0 2— 2から供給された静動判定が静止を示しているとき、フレーム #ηにおける領域特定の対象である画素がアンカバードバックグラウンド領域に属しないと判定し、領域の判定される画素に対応するァンカバードバックグラウンド領域判定フラグに、アンカバードバックグラウンド領域に属しないことを示す" 0 " を設定する。

領域判定部 2 0 3— 1は、このように" 1 " または" 0 " が設定されたアンカバードバックグラウンド領域判定フラグを判定フラグ格納フレームメモリ 2 0 4 に供給する。

領域判定部 2 0 3— 2は、静動判定部 2 0 2 _ 2から供給された静動判定が静止を示し、かつ、静動判定部 2 0 2— 3から供給された静動判定が静止を示しているとき、フレーム ίίηにおける領域特定の対象である画素が静止領域に属すると判定し、領域の判定される画素に対応する静止領域判定フラグに、静止領域に属することを示す" 1 " を設定する。

領域判定部 2 0 3— 2は、静動判定部 2 0 2— 2から供給された静動判定が動きを示すか、または、静動判定部 2 0 2— 3から供給された静動判定が動きを示しているとき、フレームにおける領域特定の対象である画素が静止領域に属しないと判定し、領域の判定される画素に対応する静止領域判定フラグに、静止領域に属しないことを示す" 0 " を設定する。

領域判定部 2 0 3— 2は、このように" 1 " または" 0 " が設定された静止領域判定フラグを判定フラグ格納フレームメモリ 2 0 4に供給する。領域判定部 2 0 3— 2は、静動判定部 2 0 2一 2から供給された静動判定が動きを示し、かつ、静動判定部 2 0 2— 3から供給された静動判定が動きを示しているとき、フレーム #nにおける領域特定の対象である画素が動き領域に属すると判定し、領域の判定される画素に対応する動き領域判定フラグに、動き領域に属することを示す" 1 " を設定する。

領域判定部 2 0 3— 2は、静動判定部 2 0 2— 2から供給された静動判定が静止を示すか、または、静動判定部 2 0 2— 3から供給された静動判定が静止を示しているとき、フレーム ttnにおける領域特定の対象である画素が動き領域に属しないと判定し、領域の判定される画素に対応する動き領域判定フラグに、動き領域に属しないことを示す'' 0 " を設定する。

領域判定部 2 0 3— 2は、このように" 1 " または" 0 " が設定された動き領域判定フラグを判定フラグ格納フレームメモリ 2 0 4に供給する。

領域判定部 2 0 3— 3は、静動判定部 2 0 2— 3から供給された静動判定が動きを示し、かつ、静動判定部 2 0 2— 4から供給された静動判定が静止を示しているとき、フレーム ttnにおける領域特定の対象である画素がカバードバックグラウンド領域に属すると判定し、領域の判定される画素に対応するカバードバックグラウンド領域判定フラグに、カバードバックグラウンド領域に属することを示す" 1 " を設定する。

領域判定部 2 0 3— 3は、静動判定部 2 0 2— 3から供給された静動判定が静止を示すか、または、静動判定部 2 0 2— 4から供給された静動判定が動きを示しているとき、フレーム #nにおける領域特定の対象である画素がカバードバックグラウンド領域に属しないと判定し、領域の判定される画素に対応するカバードバックグラウンド領域判定フラグに、カバードバックグラウンド領域に属しないことを示す" 0 " を設定する。

領域判定部 2 0 3— 3は、このように" 1 " または" 0 " が設定されたカバードバックグラウンド領域判定フラグを判定フラグ格納フレームメモリ 2 0 4に供給する。判定フラグ格納フレームメモリ 2 0 4は、領域判定部 2 0 3 - 1から供給されたアンカバードバックグラウンド領域判定フラグ、領域判定部 2 0 3— 2から供給された静止領域判定フラグ、領域判定部 2 0 3— 2から供給された動き領域判定フラグ、および領域判定部 2 0 3一 3から供給されたカバードバックグラウンド領域判定フラグをそれぞれ記憶する。

判定フラグ格納フレームメモリ 2 0 4は、記憶しているアンカバードバックグラウンド領域判定フラグ、静止領域判定フラグ、動き領域判定フラグ、および力バードバックグラウンド領域判定フラグを合成部 2 0 5に供給する。合成部 2 0 5は、判定フラグ格納フレームメモリ 2 0 4から供給された、アンカバードバックグラウンド領域判定フラグ、静止領域判定フラグ、動き領域判定フラグ、およびカバードバックグラウンド領域判定フラグを基に、各画素が、アンカバードバックグラウンド領域、静止領域、動き領域、およびカバードバックグラウンド領域のいずれかに属することを示す領域情報を生成し、判定フラグ格納フレームメモリ 2 0 6に供給する。

判定フラグ格納フレームメモリ 2 0 6は、合成部 2 0 5から供給された領域情報を記憶すると共に、記憶している領域情報を出力する。

次に、領域特定部 1 0 3の処理の例を図 2 1乃至図 2 5を参照して説明する。前景に対応するォブジェクトが移動しているとき、オブジェクトに対応する画像の画面上の位置は、フレーム毎に変化する。図 2 1に示すように、フレーム #nにおいて、 Yn (x，y)で示される位置に位置するオブジェクトに対応する画像は, 次のフレームであるフレーム ίίη+ lにおいて、 Υη+ 1 (X, y)に位置する。

前景のォブジクトに対応する画像の動き方向に隣接して 1列に並ぶ画素の画素値を時間方向に展開したモデル図を図 2 2に示す。例えば、前景のオブジェクトに対応する画像の動き方向が画面に対して水平であるとき、図 2 2におけるモデル図は、 1つのライン上の隣接する画素の画素値を時間方向に展開したモデルを示す。

図 2 2において、フレーム #nにおけるラインは、フレーム ttn+ 1におけるラインと同一である。

フレーム ίίηにおいて、左から 2番目の画素乃至 1 3番目の画素に含まれているオブジェクトに対応する前景の成分は、フレーム #η+1において、左から 6番目乃至 1 7番目の画素に含まれる。

フレーム ttnにおいて、カバードバックグラウンド領域に属する画素は、左から 1 1番目乃至 1 3番目の画素であり、アンカバードバックグラウンド領域に属する画素は、左から 2番目乃至 4番目の画素である。フレーム ίίη+ 1において、カバ—ドバックグラウンド領域に属する画素は、左から 1 5番目乃至 1 7番目の画素であり、アンカバードバックグラウンド領域に属する画素は、左から 6番目乃至 8番目の画素である。

図 2 2に示す例において、フレーム ί!ηに含まれる前景の成分が、フレーム #η+ 1 において 4画素移動しているので、動き量 V は、 4である。仮想分割数は、動き量 Vに対応し、 4である。

次に、注目しているフレームの前後における混合領域に属する画素の画素値の変化について説明する。

図 2 3に示す、背景が静止し、前景の動き量 Vが 4であるフレームにおいて、カバードバックグラウンド領域に属する画素は、左から 1 5番目乃至 1 7番目の画素である。動き量 Vが 4であるので、 1つ前のフレーム #η- 1において、左から 1 5番目乃至 1 7番目の画素は、背景の成分のみを含み、背景領域に属する。また、更に 1つ前のフレーム ttn-2において、左から 1 5番目乃至 1 7番目の画素は、背景の成分のみを含み、背景領域に属する。

ここで、背景に対応するオブジェクトが静止しているので、フレーム ίίη_ 1の左から 1 5番目の画素の画素値は、フレーム #η - 2の左から 1 5番目の画素の画素値から変化しない。同様に、フレーム ίίη- lの左から 1 6番目の画素の画素値は、フレーム - 2の左から 1 6番目の画素の画素値から変化せず、フレーム - 1の左から 1 7番目の画素の画素値は、フレーム ttn-2の左から 1 7番目の画素の画素値から変化しない。すなわち、フレーム #nにおけるカバードバックグラウンド領域に属する画素に対応する、フレーム - 1およびフレーム #n- 2の画素は、背景の成分のみから成り、画素値が変化しないので、その差の絶対値は、ほぼ 0の値となる。従って、フレーム #nにおける混合領域に属する画素に対応する、フレーム #n- lおよびフレーム #n- 2の画素に対する静動判定は、静動判定部 2 0 2— 4により、静止と判定される。

フレームにおけるカバードバックグラウンド領域に属する画素は、前景の成分を含むので、フレーム ίίη- lにおける背景の成分のみから成る場合と、画素値が異なる。従って、フレーム #ηにおける混合領域に属する画素、および対応するフレーム #η-1 の画素に対する静動判定は、静動判定部 2 0 2— 3により、動きと判定される。

このように、領域判定部 2 0 3— 3は、静動判定部 2 0 2一 3から動きを示す静動判定の結果が供給され、静動判定部 2 0 2— 4から静止を示す静動判定の結果が供給されたとき、対応する画素がカバードバックグラウンド領域に属すると判定する。

図 2 4に示す、背景が静止し、前景の動き量 Vが 4であるフレーム ttnにおいて、アンカバードバックグラウンド領域に含まれる画素は、左から 2番目乃至 4 番目の画素である。動き量 V が 4であるので、 1つ後のフレーム #n+ l において. 左から 2番目乃至 4番目の画素は、背景の成分のみを含み、背景領域に属する。また、更に 1つ後のフレーム ttn+2 において、左から 2番目乃至 4番目の画素は. 背景の成分のみを含み、背景領域に属する。

ここで、背景に対応するオブジェクトが静止しているので、フレーム +2の左から 2番目の画素の画素値は、フレーム #n+lの左から 2番目の画素の画素値から変化しない。同様に、フレーム ίίη+2の左から 3番目の画素の画素値は、フレーム ίίη+lの左から 3番目の画素の画素値から変化せず、フレーム ttn+2の左力ら 4番目の画素の画素値は、フレーム #n+lの左から 4番目の画素の画素値から変化しない。すなわち、フレーム ίίηにおけるアンカバードバックグラウンド領域に属する画素に対応する、フレーム #η+1およびフレーム +2の画素は、背景の成分のみから成り、画素値が変化しないので、その差の絶対値は、ほぼ 0の値となる。従つて、フレーム #ηにおける混合領域に属する画素に対応する、フレーム #η+1およびフレーム ttn+2の画素に対する静動判定は、静動判定部 2 0 2— 1により、静止と判定される。

フレームにおけるアンカバードバックグラウンド領域に属する画素は、前景の成分を含むので、フレーム #n+lにおける背景の成分のみから成る場合と、画素値が異なる。従って、フレーム #nにおける混合領域に属する画素、および対応するフレーム #n+lの画素に対する静動判定は、静動判定部 2 0 2— 2により、動きと判定される。

このように、領域判定部 2 0 3— 1は、静動判定部 2 0 2— 2から動きを示す静動判定の結果が供給され、静動判定部 2 0 2— 1から静止を示す静動判定の結果が供給されたとき、対応する画素がアンカバードバックグラウンド領域に属すると判定する。

図 2 5は、フレーム tin における領域特定部 1 0 3の判定条件を示す図である, フレーム ίίηの判定の対象となる画素の画像上の位置と同一の位置にあるフレーム - 2の画素と、フレームの判定の対象となる画素の画像上の位置と同一の位置にあるフレーム - 1の画素とが静止と判定され、フレーム ίίηの判定の対象となる画素の画像上の位置と同一の位置にあるフレーム #η - 1の画素と、フレーム ttnの画素とが動きと判定されたとき、領域特定部 1 0 3は、フレーム #nの判定の対象となる画素がカバードバックグラウンド領域に属すると判定する。

フレーム #_nの判定の対象となる画素の画像上の位置と同一の位置にあるフレ一ム*^- 1の画素と、フレーム #nの画素とが静止と判定され、フレーム #nの画素と、フレーム #nの判定の対象となる画素の画像上の位置と同一の位置にあるフレーム #n+lの画素とが静止と判定されたとき、領域特定部 1 0 3は、フレーム #nの判定の対象となる画素が静止領域に属すると判定する。フレームの判定の対象となる画素の画像上の位置と同一の位置にあるフレーム ίίη- lの画素と、フレームの画素とが動きと判定され、フレーム #ηの画素と、フレーム #_ηの判定の対象となる画素の画像上の位置と同一の位置にあるフレーム #η+1の画素とが動きと判定されたとき、領域特定部 1 0 3は、フレーム Unの判定の対象となる画素が動き領域に属すると判定する。

フレームの画素と、フレームの判定の対象となる画素の画像上の位置と同一の位置にあるフレーム ttn+1の画素とが動きと判定され、フレームの判定の対象となる画素の画像上の位置と同一の位置にあるフレーム #n+lの画素と、フレームの判定の対象となる画素の画像上の位置と同一の位置にあるフレーム #n+2の画素とが静止と判定されたとき、領域特定部 1 0 3は、フレームの判定の対象となる画素がアンカバ一ドバックグラウンド領域に属すると判定する, 図 2 6 A乃至図 2 6 Dは、領域特定部 1 0 3の領域の特定の結果の例を示す図である。図 2 6 Aにおいて、カバードバックグラウンド領域に属すると判定された画素は、白で表示されている。図 2 6 Bにおいて、アンカバードバックグラウンド領域に属すると判定された画素は、白で表示されている。

図 2 6 Cにおいて、動き領域に属すると判定された画素は、白で表示されている。図 2 6 Dにおいて、静止領域に属すると判定された画素は、白で表示されている。

図 2 7は、判定フラグ格納フレームメモリ 2 0 6が出力する領域情報の内、混合領域を示す領域情報を画像として示す図である。図 2 7において、カバードバックグラウンド領域またはアンカバードバックグラウンド領域に属すると判定された画素、すなわち混合領域に属すると判定された画素は、白で表示されている, 判定フラグ格納フレームメモリ 2 0 6が出力する混合領域を示す領域情報は、混合領域、および前景領域内のテクスチャの無い部分に囲まれたテクスチャの有る部分を示す。

次に、図 2 8のフローチャートを参照して、領域特定部 1 0 3の領域特定の処理を説明する。ステップ S 2 0 1において、フレームメモリ 2 0 1は、判定の対象となるフレーム ttnを含むフレーム #n- 2乃至フレーム #n+2の画像を取得する。ステップ S 2 0 2において、静動判定部 2 0 2— 3は、フレーム #n- 1の画素とフレーム #nの同一位置の画素とで、静止か否かを判定し、静止と判定された場合、ステップ S 2 0 3に進み、静動判定部 2 0 2— ²は、フレームの画素とフレーム #n+lの同一位置の画素とで、静止か否かを判定する。

ステップ S 2 0 3において、フレームの画素とフレーム #n+ lの同一位置の画素とで、静止と判定された場合、ステップ S 2 0 4に進み、領域判定部 2 0 3 一 2は、領域の判定される画素に対応する静止領域判定フラグに、静止領域に属することを示す" 1 " を設定する。領域判定部 2 0 3— 2は、静止領域判定フラグを判定フラグ格納フレームメモリ 2 0 4に供給し、手続きは、ステップ S 2 0 5に進む。

ステップ S 2 0 2において、フレーム #n- lの画素とフレーム #nの同一位置の画素とで、動きと判定された場合、または、ステップ S 2 0 3において、フレームの画素とフレーム #n+lの同一位置の画素とで、動きと判定された場合、フレームの画素が静止領域には属さないので、ステップ S 2 0 4の処理はスキップされ、手続きは、ステップ S 2 0 5に進む。

ステップ S 2 0 5において、静動判定部 2 0 2— 3は、フレーム ίίη- 1の画素とフレーム #_ηの同一位置の画素とで、動きか否かを判定し、動きと判定された場合、ステップ S 2 0 6に進み、静動判定部 2 0 2— 2は、フレーム #ηの画素とフレーム #η+1の同一位置の画素とで、動きか否かを判定する。

ステップ S 2 0 6において、フレーム tinの画素とフレーム #n+lの同一位置の画素とで、動きと判定された場合、ステップ S 2 0 7に進み、領域判定部 2 0 3 一 2は、領域の判定される画素に対応する動き領域判定フラグに、動き領域に属することを示す" 1 " を設定する。領域判定部 2 0 3— 2は、動き領域判定フラグを判定フラグ格納フレームメモリ 2 0 4に供給し、手続きは、ステップ S 2 0 8に進む。

ステップ S 2 0 5において、フレーム ttn- 1の画素とフレーム #nの同一位置の画素とで、静止と判定された場合、または、ステップ S 2 0 6において、フレーム #nの画素とフレーム #n+ lの同一位置の画素とで、静止と判定された場合、フレーム #nの画素が動き領域には属さないので、ステップ S 2 0 7の処理はスキップされ、手続きは、ステップ S 2 0 8に進む。

ステップ S 2 0 8において、静動判定部 2 0 2— 4は、フレーム #n-2の画素とフレーム - 1の同一位置の画素とで、静止か否かを判定し、静止と判定された場合、ステップ S 2 0 9に進み、静動判定部 2 0 2— 3は、フレーム #n- 1の画素とフレーム ίίηの同一位置の画素とで、動きか否かを判定する。

ステップ S 2 0 9において、フレーム ίίη- 1の画素とフレームの同一位置の画素とで、動きと判定された場合、ステップ S 2 1 0に進み、領域判定部 2 0 3 一 3は、領域の判定される画素に対応するカバードバックグラウンド領域判定フラグに、カバードバックグラウンド領域に属することを示す" 1 " を設定する。領域判定部 2 0 3— 3は、カバードバックグラウンド領域判定フラグを判定フラグ格納フレームメモリ 2 0 4に供給し、手続きは、ステップ S 2 1 1に進む。ステップ S 2 0 8において、フレーム #η-2の画素とフレーム - 1の同一位置の画素とで、動きと判定された場合、または、ステップ S 2 0 9において、フレーム #η- 1の画素とフレーム #ηの同一位置の画素とで、静止と判定された場合、フレーム #ηの画素がカバードバックグラウンド領域には属さないので、ステツプ S 2 1 0の処理はスキップされ、手続きは、ステップ S 2 1 1に進む。

ステップ S 2 1 1において、静動判定部 2 0 2— 2は、フレーム #ηの画素とフレーム ttn+1の同一位置の画素とで、動きか否かを判定し、動きと判定された場合、ステップ S 2 1 2に進み、静動判定部 2 0 2 _ 1は、フレーム #n+ lの画素とフレーム #n+2の同一位置の画素とで、静止か否かを判定する。

ステップ S 2 1 2において、フレーム #n+lの画素とフレーム #n+2の同一位置の画素とで、静止と判定された場合、ステップ S 2 1 3に進み、領域判定部 2 0 3— 1は、領域の判定される画素に対応するアンカバードバックグラウンド領域判定フラグに、アンカバードバックグラウンド領域に属することを示す" 1 " を設定する。領域判定部 2 0 3— 1は、アンカバードバックグラウンド領域判定フラグを判定フラグ格納フレームメモリ 2 0 4に供給し、手続きは、ステップ S 2 1 4に進む。

ステップ S 2 1 1において、フレーム #nの画素とフレーム #n+ lの同一位置の画素とで、静止と判定された場合、または、ステップ S 2 1 2において、フレーム ίΐη+ lの画素とフレーム +2の同一位置の画素とで、動きと判定された場合、フレーム #ηの画素がアンカバードバックグラウンド領域には属さないので、ステップ S 2 1 3の処理はスキップされ、手続きは、ステップ S 2 1 4に進む。

ステップ S 2 1 4において、領域特定部 1 0 3は、フレーム tinの全ての画素について領域を特定したか否かを判定し、フレーム tinの全ての画素について領域を特定していないと判定された場合、手続きは、ステップ S 2 0 2に戻り、他の画素について、領域特定の処理を繰り返す。

ステップ S 2 1 4において、フレーム t の全ての画素について領域を特定したと判定された場合、ステップ S 2 1 5に進み、合成部 2 0 5は、判定フラグ格納フレームメモリ 2 0 4に記憶されているアンカバードバックグラウンド領域判定フラグ、およびカバードバックグラウンド領域判定フラグを基に、混合領域を示す領域情報を生成し、更に、各画素が、アンカバードバックグラウンド領域、静止領域、動き領域、およびカバードバックグラウンド領域のいずれかに属することを示す領域情報を生成し、生成した領域情報を判定フラグ格納フレームメモリ 2 0 6に設定し、処理は終了する。

このように、領域特定部 1 0 3は、フレームに含まれている画素のそれぞれについて、動き領域、静止領域、アンカバードバックグラウンド領域、またはカバ一ドバックグラウンド領域に属することを示す領域情報を生成することができる < なお、領域特定部 1 0 3は、アンカバードバックグラウンド領域およびカバードバックグラウンド領域に対応する領域情報に論理和を適用することにより、混合領域に対応する領域情報を生成して、フレームに含まれている画素のそれぞれについて、動き領域、静止領域、または混合領域に属することを示すフラグから成る領域情報を生成するようにしてもよレ、。

前景に対応するオブジェクトがテクスチャを有す場合、領域特定部 1 0 3は、より正確に動き領域を特定することができる。

領域特定部 1 0 3は、動き領域を示す領域情報を前景領域を示す領域情報として、また、静止領域を示す領域情報を背景領域を示す領域情報として出力することができる。

なお、背景に対応するオブジェクトが静止しているとして説明したが、背景領域に対応する画像が動きを含んでいても上述した領域を特定する処理を適用することができる。例えば、背景領域に対応する画像が一様に動いているとき、領域特定部 1 0 3は、この動きに対応して画像全体をシフトさせ、背景に対応するォブジュタトが静止している場合と同様に処理する。また、背景領域に対応する画像が局所毎に異なる動きを含んでいるとき、領域特定部 1 0 3は、動きに対応した画素を選択して、上述の処理を実行する。

図 2 9は、領域特定部 1 0 3の構成の他の一例を示すブロック図である。図 2 9に示す領域特定部 1 0 3は、動きべクトルを使用しない。背景画像生成部 3 0 1は、入力画像に対応する背景画像を生成し、生成した背景画像を 2値オブジェクト画像抽出部 3 0 2に供給する。背景画像生成部 3 0 1は、例えば、入力画像に含まれる背景のォブジェク卜に対応する画像ォブジェクトを抽出して、背景画像を生成する。

前景のオブジェクトに対応する画像の動き方向に隣接して 1列に並ぶ画素の画素値を時間方向に展開したモデル図の例を図 3 0に示す。例えば、前景のォプジェクトに対応する画像の動き方向が画面に対して水平であるとき、図 3 0におけるモデル図は、 1つのライン上の隣接する画素の画素値を時間方向に展開したモデノレを示す。

図 3 0において、フレーム #ηにおけるラインは、フ I /一ム ίίη-lおよびフレーム ίίη+ 1におけるラインと同一である。

フレーム #ηにおいて、左から 6番目の画素乃至 1 7番目の画素に含まれているオブジェクトに対応する前景の成分は、フレーム #n- lにおいて、左から 2番目乃至 1 3番目の画素に含まれ、フレーム #n+ lにおいて、左から 1 0番目乃至 2 1番目の画素に含まれる。

フレーム #n- lにおいて、カバードバックグラウンド領域に属する画素は、左から 1 1番目乃至 1 3番目の画素であり、アンカバードバックグラウンド領域に属する画素は、左から 2番目乃至 4番目の画素である。フレーム #nにおいて、カバードバックグラウンド領域に属する画素は、左から 1 5番目乃至 1 7番目の画素であり、アンカバードバックグラウンド領域に属する画素は、左から 6番目乃至 8番目の画素である。フレーム Hn+ 1において、カバードバックグラウンド領域に属する画素は、左から 1 9番目乃至 2 1番目の画素であり、アンカバードバックグラウンド領域に属する画素は、左から 1 0番目乃至 1 2番目の画素である。

フレーム ίίη-lにおいて、背景領域に属する画素は、左から 1番目の画素、および左から 1 4番目乃至 2 1番目の画素である。フレーム #ηにおいて、背景領域に属する画素は、左から 1番目乃至 5番目の画素、および左から 1 8番目乃至 2 1番目の画素である。フレーム + 1において、背景領域に属する画素は、左から 1番目乃至 9番目の画素である。

背景画像生成部 3 0 1が生成する、図 3 0の例に対応する背景画像の例を図 3 1に示す。背景画像は、背景のオブジェクトに対応する画素から構成され、前景のオブジェクトに対応する画像の成分を含まない。

2値オブジェクト画像抽出部 3 0 2は、背景画像および入力画像の相関を基に 2値オブジェクト画像を生成し、生成した 2値ォブジェクト画像を時間変化検出部 3 0 3に供給する。

図 3 2は、 2値ォブジェクト画像抽出部 3 0 2の構成を示すプロック図である, 相関値演算部 3 2 1は、背景画像生成部 3 0 1から供給された背景画像および入力画像の相関を演算し、相関値を生成して、生成した相関値をしきい値処理部 3 2 2に供給する。相関値演算部 3 2 1は、例えば、図 3 3 Aに示すように、 X ₄を中心とした 3 X 3の背景画像の中のブロックと、図 3 3 Bに示すように、背景画像の中のブロックに対応する Y₄を中心とした 3 X 3の入力画像の中のブロックに、式（4 ) を適用して、 Υ₄に対応する相関値を算出する。相関値 = (4)

∑Xi

i=0

x = (5)

9

8

∑Yi

i= 0

Y = (6)

9

相関値演算部 3 2 1は、このように各画素に対応して算出された相関値をしきい値処理部 3 2 2に供給する。

また、相関値演算部 3 2 1は、例えば、図 3 4 Aに示すように、 X₄を中心とした 3 X 3の背景画像の中のブロックと、図 3 4 Bに示すように、背景画像の中のブロックに対応する Y₄を中心とした 3 X 3の入力画像の中のブロックに、式 ( 7 ) を適用して、 Υ₄に対応する差分絶対値を算出するようにしてもよい。差分絶対値和 = έι( - (?) 相関値演算部 3 2 1は、このように算出された差分絶対値を相関値として、しきい値処理部 3 2 2に供給する。

しきい値処理部 3 2 2は、相関画像の画素値としきい値 thOとを比較して、相関値がしきい値 thO以下である場合、 2値オブジェクト画像の画素値に 1を設定し、相関値がしきい値 thOより大きい場合、 2値オブジェクト画像の画素値に 0を設定して、 0または 1が画素値に設定された 2値オブジェクト画像を出力する。しきい値処理部 3 2 2は、しきい値 thOを予め記憶するようにしてもよく、または、外部から入力されたしきい値 thO を使用するようにしてもよい図 3 5は、図 3 0に示す入力画像のモデルに対応する 2値オブジェクト画像の例を示す図である。 2値オブジェクト画像において、背景画像と相関の強い画素には、画素値に 0が設定される。

図 3 6は、時間変化検出部 3 0 3の構成を示すブロック図である。フレームメモリ 3 4 1は、フレーム #nの画素について領域を判定するとき、 2値オブジェタト画像抽出部 3 0 2から供給された、フレーム - 1、フレーム #n、およびフレーム #n+ lの 2値ォブジ-クト画像を記憶する。

領域判定部 3 4 2は、フレームメモリ 3 4 1に記憶されているフレーム ΐ η - 1 , フレーム ttn、およびフレーム #n+lの 2値オブジェクト画像を基に、フレーム ίίη の各画素について領域を判定して、領域情報を生成し、生成した領域情報を出力する。

図 3 7は、領域判定部 3 4 2の判定を説明する図である。フレーム ttnの 2値オブジェクト画像の注目している画素が 0であるとき、領域判定部 3 4 2は、フレーム #nの注目している画素が背景領域に属すると判定する。

フレーム #nの 2値オブジェクト画像の注目している画素が 1であり、フレーム #n-lの 2値ォブジェクト画像の対応する画素が 1であり、フレーム ttn+ 1の 2 値オブジェクト画像の対応する画素が 1であるとき、領域判定部 3 4 2は、フレームの注目している画素が前景領域に属すると判定する。

フレームの 2値オブジェクト画像の注目している画素が 1であり、フレーム #n- lの 2値オブジェクト画像の対応する画素が 0であるとき、領域判定部 3 4 2は、フレーム #nの注目している画素がカバードバックグラウンド領域に属すると判定する。

フレームの 2値ォブジェクト画像の注目している画素が 1であり、フレーム + 1の 2値オブジェクト画像の対応する画素が 0であるとき、領域判定部 3 4 2は、フレーム #nの注目している画素がアンカバードバックグラウンド領域に属すると判定する。

図 3 8は、図 3 0に示す入力画像のモデルに対応する 2値オブジェクト画像について、時間変化検出部 3 0 3の判定した例を示す図である。時間変化検出部 3 0 3は、 2値オブジェクト画像のフレーム ttnの対応する画素が 0なので、フレーム t の左から 1番目乃至 5番目の画素を背景領域に属すると判定する。

時間変化検出部 3 0 3は、 2値ォブジェクト画像のフレーム tinの画素が 1であり、フレーム #n+ lの対応する画素が 0なので、左から 6番目乃至 9番目の画素をアンカバードバックグラウンド領域に属すると判定する。

時間変化検出部 3 0 3は、 2値ォブジェクト画像のフレーム #nの画素が 1であり、フレーム ttn- 1 の対応する画素が 1であり、フレーム #n+ l の対応する画素が 1なので、左から 1 0番目乃至 1 3番目の画素を前景領域に属すると判定する。

時間変化検出部 3 0 3は、 2値オブジェクト画像のフレーム ttnの画素が 1であり、フレーム ttn- 1の対応する画素が 0なので、左から 1 4番目乃至 1 7番目の画素をカバードバックグラウンド領域に属すると判定する。

時間変化検出部 3 0 3は、 2値オブジェクト画像のフレーム ttnの対応する画素が 0なので、左から 1 8番目乃至 2 1番目の画素を背景領域に属すると判定する。

次に、図 3 9のフローチャートを参照して、領域判定部 1 0 3の領域特定の処理を説明する。ステップ S 3 0 1において、領域判定部 1 0 3の背景画像生成部 3 0 1は、入力画像を基に、例えば、入力画像に含まれる背景のオブジェクトに対応する画像オブジェクトを抽出して背景画像を生成し、生成した背景画像を 2 値オブジェクト画像抽出部 3 0 2に供給する。

ステップ S 3 0 2において、 2値ォブジェクト画像抽出部 3 0 2は、例えば、図 3 3 Aおよび図 3 3 Bを参照して説明した演算により、入力画像と背景画像生成部 3 0 1から供給された背景画像との相関値を演算する。ステップ S 3 0 3において、 2値オブジェクト画像抽出部 3 0 2は、例えば、相関値としきい値 thO とを比較することにより、相関値およびしきい値 thOから 2値ォブジェクト画像を演算する。ステップ S 3 0 4において、時間変化検出部 3 0 3は、領域判定の処理を実行して、処理は終了する。

図 4 0のフローチヤ一トを参照して、ステップ S 3 0 4に対応する領域判定の処理の詳細を説明する。ステップ S 3 2 1において、時間変化検出部 3 0 3の領域判定部 3 4 2は、フレームメモリ 3 4 1に記憶されているフレームにおいて、注目する画素が 0であるか否かを判定し、フレーム #nにおいて、注目する画素が 0であると判定された場合、ステップ S 3 2 2に進み、フレーム #nの注目する画素が背景領域に属すると設定して、処理は終了する。

ステップ S 3 2 1において、フレーム itnにおいて、注目する画素が 1であると判定された場合、ステップ S 3 2 3に進み、時間変化検出部 3 0 3の領域判定部 3 4 2は、フレームメモリ 3 4 1に記憶されているフレーム #nにおいて、注目する画素が 1であり、かつ、フレーム #n- lにおいて、対応する画素が 0であるか否かを判定し、フレーム #nにおいて、注目する画素が 1であり、かつ、フレーム #η- 1において、対応する画素が 0であると判定された場合、ステップ S 3 2 4に進み、フレーム #nの注目する画素がカバードバックグラウンド領域に属すると設定して、処理は終了する。

ステップ S 3 2 3において、フレーム #nにおいて、注目する画素が 0であるか、または、フレーム ίίη- lにおいて、対応する画素が 1であると判定された場合、ステップ S 3 2 5に進み、時間変化検出部 3 0 3の領域判定部 3 4 2は、フレームメモリ 3 4 1に記憶されているフレーム #ηにおいて、注目する画素が 1 であり、かつ、フレーム #η+1において、対応する画素が 0であるか否かを判定し、フレーム #ηにおいて、注目する画素が 1であり、かつ、フレーム #η+ 1において、対応する画素が 0であると判定された場合、ステップ S 3 2 6に進み、フレーム #ηの注目する画素がアンカバードバックグラウンド領域に属すると設定して、処理は終了する。

ステップ S 3 2 5において、フレーム #nにおいて、注目する画素が 0であるか、または、フレーム #n+lにおいて、対応する画素が 1であると判定された場合、ステップ S 3 2 7に進み、時間変化検出部 3 0 3の領域判定部 3 4 2は、フレーム thの注目する画素を前景領域と設定して、処理は終了する。

このように、領域特定部 1 0 3は、入力された画像と対応する背景画像との相関値を基に、入力画像の画素が前景領域、背景領域、カバードバックグラウンド領域、およびアンカバードバックグラウンド領域のいずれかに属するかを特定して、特定した結果に対応する領域情報を生成することができる。

図 4 1は、領域特定部 1 0 3の他の構成を示すブロック図である。図 4 1に示す領域特定部 1 0 3は、動き検出部 1 0 2から供給される動きべクトルとその位置情報を使用する。図 2 9に示す場合と同様の部分には、同一の番号を付してあり、その説明は省略する。

口バスト化部 3 6 1は、 2値オブジェクト画像抽出部 3 0 2から供給された、 N個のフレームの 2値ォブジェクト画像を基に、ロバスト化された 2値オブジェクト画像を生成して、時間変化検出部 3 0 3に出力する。

図 4 2は、ロバスト化部 3 6 1の構成を説明するブロック図である。動き補償部 3 8 1は、動き検出部 1 0 2から供給された動きベクトルとその位置情報を基に、 N個のフレームの 2値オブジェクト画像の動きを補償して、動きが補償された 2値ォブジェクト画像をスィツチ 3 8 2に出力する。

図 4 3および図 4 4の例を参照して、動き補償部 3 8 1の動き補償について説明する。例えば、フレームの領域を判定するとき、図 4 3に例を示すフレーム ttn- 1、フレーム #n、およびフレーム ίίη+lの 2値オブジェクト画像が入力された場合、動き補償部 3 8 1は、動き検出部 1 0 2から供給された動きべクトルを基に、図 4 4に例を示すように、フレーム fln- 1の 2値オブジェクト画像、およびフレーム ίίη+ lの 2値オブジェクト画像を動き補償して、動き補償された 2値オブジェクト画像をスィツチ 3 8 2に供給する。

スィッチ 3 8 2は、 1番目のフレームの動き補償された 2値オブジェクト画像をフレームメモリ 3 8 3— 1に出力し、 2番目のフレームの動き補償された 2値オブジェクト画像をフレームメモリ 3 8 3— 2に出力する。同様に、スィッチ 3 8 2は、 3番目乃至 N _ 1番目のフレームの動き補償された 2値オブジェクト画像のそれぞれをフレームメモリ 3 8 3 - 3乃至フレームメモリ 3 8 3— ( N— 1 ) のいずれかに出力し、 N番目のフレームの動き補償された 2値オブジェクト画像をフレームメモリ 3 8 3— Nに出力する。

フレームメモリ 3 8 3— 1は、 1番目のフレームの動き補償された 2値ォブジェクト画像を記憶し、記憶されている 2値オブジェクト画像を重み付け部 3 8 4 _ 1に出力する。フレームメモリ 3 8 3— 2は、 2番目のフレームの動き補償された 2値オブジェクト画像を記憶し、記憶されている 2値オブジェクト画像を重み付け部 3 8 4 _ 2に出力する。

同様に、フレームメモリ 3 8 3— 3乃至フレームメモリ 3 8 3— （N— 1 ) のそれぞれは、 3番目のフレーム乃至 N— 1番目のフレームの動き補償された 2値オブジェクト画像のいずれかを記憶し、記憶されている 2値ォブジェクト画像を重み付け部 3 8 4— 3乃至重み付け部 3 8 4— （N— 1 ) のいずれかに出力する, フレームメモリ 3 8 3— Nは、 N番目のフレームの動き補償された 2値オブジェクト画像を記憶し、記憶されている 2値オブジェクト画像を重み付け部 3 8 4 - Nに出力する。

重み付け部 3 8 4— 1は、フレームメモリ 3 8 3— 1から供給された 1番目のフレームの動き補償された 2値ォブジェクト画像の画素値に予め定めた重み wl を乗じて、積算部 3 8 5に供給する。重み付け部 3 8 4— 2は、フレームメモリ 3 8 3— 2から供給された 2番目のフレームの動き補償された 2値ォブジェクト画像の画素値に予め定めた重み w2を乗じて、積算部 3 8 5に供給する。

同様に、重み付け部 3 8 4— 3乃至重み付け部 3 8 4— ( N - 1 ) のそれぞれは、フレームメモリ 3 8 3— 3乃至フレームメモリ 3 8 3— ( N - 1 ) のいずれかから供給された 3番目乃至 N— 1番目のいずれかのフレームの動き補償された 2値ォブジェクト画像の画素値に予め定めた重み w3乃至重み w (N- l )のいずれかを乗じて、積算部 3 8 5に供給する。重み付け部 3 8 4—Nは、フレームメモリ 3 8 3—Nから供給された N番目のフレームの動き補償された 2値ォブジェクト画像の画素値に予め定めた重み wNを乗じて、積算部 3 8 5に供給する。

積算部 3 8 5は、 1乃至 N番目のフレームの動き補償され、それぞれ重み wl 乃至 wNのいずれかが乗じられた、 2値ォブジェクト画像の対応する画素値を積算して、積算された画素値を予め定めたしきい値 thOと比較することにより 2 値オブジェクト画像を生成する。

このように、ロバスト化部 3 6 1は、 N個の 2値オブジェクト画像から口バスト化された 2値オブジェト画像を生成して、時間変化検出部 3 0 3に供給するので、図 4 1に構成を示す領域特定部 1 0 3は、入力画像にノイズが含まれていても、図 2 9に示す場合に比較して、より正確に領域を特定することができる。次に、図 4 1に構成を示す領域特定部 1 0 3の領域特定の処理について、図 4 5のフローチヤ一トを参照して説明する。ステップ S 3 4 1乃至ステップ S 3 4 3の処理は、図 3 9のフローチヤ一トで説明したステップ S 3 0 1乃至ステップ S 3 0 3とそれぞれ同様なのでその説明は省略する。

ステップ S 3 4 4において、ロバスト化部 3 6 1は、ロバスト化の処理を実行する。

ステップ S 3 4 5において、時間変化検出部 3 0 3は、領域判定の処理を実行して、処理は終了する。ステップ S 3 4 5の処理の詳細は、図 4 0のフローチヤ一トを参照して説明した処理と同様なのでその説明は省略する。

次に、図 4 6のフローチャートを参照して、図 4 5のステップ S 3 4 4の処理に対応する、ロバスト化の処理の詳細について説明する。ステップ S 3 6 1において、動き補償部 3 8 1は、動き検出部 1 0 2から供給される動きべクトルとその位置情報を基に、入力された 2値ォブジェクト画像の動き補償の処理を実行する。ステップ S 3 6 2において、フレームメモリ 3 8 3— 1乃至 3 8 3—Nのいずれかは、スィッチ 3 8 2を介して供給された動き補償された 2値ォブジェクト画像を記憶する。

ステップ S 3 6 3において、ロバスト化部 3 6 1は、 N個の 2値オブジェクト画像が記憶されたか否かを判定し、 N個の 2値オブジェクト画像が記憶されていないと判定された場合、ステップ S 3 6 1に戻り、 2値オブジェクト画像の動き補償の処理および 2値オブジェクト画像の記憶の処理を繰り返す。

ステップ S 3 6 3において、 N個の 2値ォブジェクト画像が記憶されたと判定された場合、ステップ S 3 6 4に進み、重み付け部 3 8 4— 1乃至 3 8 4— Nのそれぞれは、 N個の 2値オブジェクト画像のそれぞれに wl乃至 wNのいずれかの重みを乗じて、重み付けする。

ステップ S 3 6 5において、積算部 3 8 5は、重み付けされた N個の 2値ォブジェクト画像を積算する。

ステップ S 3 6 6において、積算部 3 8 5は、例えば、予め定められたしきい値 th l との比較などにより、積算された画像から 2値ォブジェクト画像を生成して、処理は終了する。

このように、図 4 1に構成を示す領域特定部 1 0 3は、ロバスト化された 2値ォブジェクト画像を基に、領域情報を生成することができる。

以上のように、領域特定部 1 0 3は、フレームに含まれている画素のそれぞれについて、動き領域、静止領域、アンカバードバックグラウンド領域、または力バードバックグラウンド領域に属することを示す領域情報を生成することができる。

図 4 7は、混合比算出部 1 0 4の構成の一例を示すブロック図である。推定混合比処理部 4 0 1は、入力画像を基に、カバードバックグラウンド領域のモデルに対応する演算により、画素毎に推定混合比を算出して、算出した推定混合比を混合比決定部 4 0 3に供給する。

推定混合比処理部 4 0 2は、入力画像を基に、アンカバードバックグラウンド領域のモデルに対応する演算により、画素毎に推定混合比を算出して、算出した推定混合比を混合比決定部 4 0 3に供給する。

前景に対応するオブジェクトがシャツタ時間内に等速で動いていると仮定できるので、混合領域に属する画素の混合比ひは、以下の性質を有する。すなわち. 混合比ひは、画素の位置の変化に対応して、直線的に変化する。画素の位置の変化を 1次元とすれば、混合比ひの変化は、直線で表現することができ、画素の位置の変化を 2次元とすれば、混合比 0? の変化は、平面で表現することができる。

なお、 1フレームの期間は短いので、前景に対応するオブジェクトが剛体であり、等速で移動していると仮定が成り立つ。

この場合、混合比ひの傾きは、前景のシャツタ時間内での動き量 Vの逆比となる。

理想的な混合比ひの例を図 4 8に示す。理想的な混合比 (X の混合領域における傾き 1は、動き量 Vの逆数として表すことができる。

図 4 8に示すように、理想的な混合比ひは、背景領域において、 1の値を有し、前景領域において、 0の値を有し、混合領域において、 0を越え 1未満の値を有する。

図 4 9の例において、フレーム #nの左から 7番目の画素の画素値 C06は、フレーム - 1の左から 7番目の画素の画素値 P06を用いて、式（8 ) で表すことができる。

C06 = B06/V + B06/v + FOllv + F02lv

= P06/V + P06/V + FOllv + F02lv

= 2/v -P06 +∑F v (8) 式（8 ) において、画素値 C06を混合領域の画素の画素値 Mと、画素値 P06 を背景領域の画素の画素値 Bと表現する。すなわち、混合領域の画素の画素値 M および背景領域の画素の画素値 Bは、それぞれ、式（9 ) および式（1 0 ) のように表現することができる。

M=C06 ( 9 )

B=P06 ( 1 0 )

式（8 ) 中の 2/vは、混合比に対応する。動き量 Vが 4なので、フレーム t の左から 7番目の画素の混合比ひは、 0. 5となる。

以上のように、注目しているフレーム ttnの画素値 Cを混合領域の画素値と見なし、フレームの前のフレーム #n-lの画素値 Pを背景領域の画素値と見なすことで、混合比ひを示す式（3) は、式（ 1 1 ) のように書き換えられる。

O · P+f ( 1 1 )

式（1 1) の f は、注目している画素に含まれる前景の成分の和 ∑iFi/vである, 式（1 1) に含まれる変数は、混合比 a および前景の成分の和 f の 2つである, 同様に、アンカバードバックグラウンド領域における、動き量 V が 4であり時間方向の仮想分割数が 4である、画素値を時間方向に展開したモデルを図 5 0 に示す。

アンカバ一ドバックグラウンド領域において、上述したカバードバックダラゥンド領域における表現と同様に、注目しているフレーム ίίηの画素値 Cを混合領域の画素値と見なし、フレームの後のフレーム ttn+1の画素値 Nを背景領域の画素値と見なすことで、混合比ひを示す式（3) は、式（1 2) のように表現することができる。

C=a - N+f ( 1 2)

なお、背景のオブジェクトが静止しているとして説明したが、背景のオブジェクトが動いている場合においても、背景の動き量 Vに対応させた位置の画素の画素値を利用することにより、式（8) 乃至式（ 1 2) を適用することができる, 例えば、図 4 9において、背景に対応するォブジェク卜の動き量 V が 2であり仮想分割数が 2であるとき、背景に対応するオブジェクトが図中の右側に動いているとき、式（1 0) における背景領域の画素の画素値 Bは、画素値 P04とされる。

式（1 1 ) および式（1 2) は、それぞれ 2つの変数を含むので、そのままでは混合比ひを求めることができない。ここで、画像は一般的に空間的に相関が強いので近接する画素同士でほぼ同じ画素値となる。

そこで、前景成分は、空間的に相関が強いので、前景の成分の和 f を前または後のフレームから導き出せるように式を変形して、混合比ひを求める。

図 5 1のフレーム ttnの左から 7番目の画素の画素値 Mcは、式（1 3) で表すことができる。

式（ 1 3) の右辺第 1項の 2/vは、混合比ひに相当する。式（ 1 3) の右辺第 2項は、後のフレーム #n+lの画素値を利用して、式（1 4) のように表すこととする。

ここで、前景の成分の空間相関を利用して、式（1 5) が成立するとする。

F=F05=F06=F07=F08=F09=F10=F11=F12 ( 1 5) 式（1 4) は、式（1 5) を利用して、式（1 6) のように置き換えることがでさる。

12 -J

∑ //v = -

= . F (16) 結果として、）8 は、式（ 1 7) で表すことができる。

)8=2/4 ( 1 7)

一般的に、式（1 5) に示すように混合領域に関係する前景の成分が等しいと仮定すると、混合領域の全ての画素について、内分比の関係から式（1 8) が成立する。

$=l-a ( 1 8)

式（1 8) が成立するとすれば、式（1 1 ) は、式（1 9) に示すように展開することができる。

C = -P+f

r+v-i

= -P + (l- )'∑Fi/v

= -P+(l-a)'N <¹⁹) 同様に、式（1 8) が成立するとすれば、式（1 2) は、式（20) に示すように展開することができる。

C = -N+f

= α·Ν+(ΐ— α)·ρ (2 ) 式（1 9) および式（20) において、 C, Ν、および Ρは、既知の画素値なので、式（1 9) および式（20) に含まれる変数は、混合比ひのみである。式（ 1 9) および式（20) における、 C， N、および P の関係を図 5 2に示す _c Cは、混合比ひを算出する、フレーム #nの注目している画素の画素値である。 Nは、注目している画素と空間方向の位置が対応する、フレーム +1の画素の画素値である。 Pは、注目している画素と空間方向の位置が対応する、フレーム #n-lの画素の画素値である。

従って、式（1 9) および式（20) のそれぞれに 1つの変数が含まれることとなるので、 3つのフレームの画素の画素値を利用して、混合比 α を算出することができる。式（1 9) および式（20) を解くことにより、正しい混合比ひが算出されるための条件は、混合領域に関係する前景の成分が等しい、すなわち、前景のオブジェクトが静止しているとき撮像された前景の画像オブジェクトにおいて、前景のオブジェクトの動きの方向に対応する、画像オブジェクトの境界に位置する画素であって、動き量 Vの 2倍の数の連続している画素の画素値が、一定であることである。

以上のように、カバードバックグラウンド領域に属する画素の混合比ひは、式（2 1) により算出され、アンカバードバックグラウンド領域に属する画素の混合比ひは、式（22) により算出される。

Of = (C-N) / (Ρ - Ν) (2 1)

ひ = (C-P)バ N - P) (22)

図 53は、推定混合比処理部 40 1の構成を示すブロック図である。フレームメモリ 4 2 1は、入力された画像をフレーム単位で記憶し、入力画像として入力されているフレームから 1つ後のフレームをフレームメモリ 4 2 2および混合比演算部 4 2 3に供給する。

フレームメモリ 4 2 2は、入力された画像をフレーム単位で記憶し、フレームメモリ 4 2 1から供給されているフレームから 1つ後のフレームを混合比演算部 4 2 3に供給する。

従って、入力画像としてフレーム ttn+ 1が混合比演算部 4 2 3に入力されているとき、フレームメモリ 4 ² 1は、フレーム #n を混合比演算部 4 2 3に供給し. フレームメモリ 4 2 2は、フレーム - 1を混合比演算部 4 2 3に供給する。

混合比演算部 4 2 3は、式（2 1 ) に示す演算により、フレーム #nの注目している画素の画素値（：、注目している画素と空間的位置が対応する、フレーム #n+ lの画素の画素値 N、および注目している画素と空間的位置が対応する、フレーム #n- 1の画素の画素値 Pを基に、注目している画素の推定混合比を算出して、算出した推定混合比を出力する。例えば、背景が静止しているとき、混合比演算部 4 2 3は、フレーム ίίηの注目している画素の画素値 C、注目している画素とフレーム内の位置が同じ、フレーム #n+lの画素の画素値 N、および注目している画素とフレーム内の位置が同じ、フレーム - 1 の画素の画素値 P を基に. 注目している画素の推定混合比を算出して、算出した推定混合比を出力する。

このように、推定混合比処理部 4 0 1は、入力画像を基に、推定混合比を算出して、混合比決定部 4 0 3に供給することができる。

なお、推定混合比処理部 4 0 2は、推定混合比処理部 4 0 1が式（2 1 ) に示す演算により、注目している画素の推定混合比を算出するのに対して、式（2 2 ) に示す演算により、注目している画素の推定混合比を算出する部分が異なることを除き、推定混合比処理部 4 0 1と同様なので、その説明は省略する。

図 5 4は、推定混合比処理部 4 0 1により算出された推定混合比の例を示す図である。図 5 4に示す推定混合比は、等速で動いているオブジェク卜に対応する前景の動き量 V が 1 1である場合の結果を、 1ラインに対して示すものである _t 推定混合比は、混合領域において、図 4 8に示すように、ほぼ直線的に変化していることがわかる。

図 4 7に戻り、混合比決定部 4 0 3は、領域特定部 1 0 3から供給された、混合比ひの算出の対象となる画素が、前景領域、背景領域、カバードバックダラゥンド領域、またはアンカバードバックグラウンド領域のいずれかに属するかを示す領域情報を基に、混合比ひを設定する。混合比決定部 4 0 3は、対象となる画素が前景領域に属する場合、 0を混合比ひに設定し、対象となる画素が背景領域に属する場合、 1を混合比ひに設定し、対象となる画素がカバードバックグラウンド領域に属する場合、推定混合比処理部 4 0 1から供給された推定混合比を混合比ひに設定し、対象となる画素がアンカバードバックグラウンド領域に属する場合、推定混合比処理部 4 0 2から供給された推定混合比を混合比 a に設定する。混合比決定部 4 0 3は、領域情報を基に設定した混合比 a を出力する。

図 5 5は、混合比算出部 1 0 4の他の構成を示すブロック図である。選択部 4 4 1は、領域特定部 1 0 3から供給された領域情報を基に、カバードバックグラゥンド領域に属する画素および、これに対応する前および後のフレームの画素を推定混合比処理部 4 4 2に供給する。選択部 4 4 1は、領域特定部 1 0 3から供給された領域情報を基に、アンカバードバックグラウンド領域に属する画素および、これに対応する前および後のフレームの画素を推定混合比処理部 4 4 3に供給する。

推定混合比処理部 4 4 2は、選択部 4 4 1から入力された画素値を基に、式 ( 2 1 ) に示す演算により、カバードバックグラウンド領域に属する、注目している画素の推定混合比を算出して、算出した推定混合比を選択部 4 4 4に供給する。

推定混合比処理部 4 4 3は、選択部 4 4 1から入力された画素値を基に、式 ( 2 2 ) に示す演算により、アンカバードバックグラウンド領域に属する、注目している画素の推定混合比を算出して、算出した推定混合比を選択部 4 4 4に供給する。

選択部 4 4 4は、領域特定部 1 0 3から供給された領域情報を基に、対象となる画素が前景領域に属する場合、 0である推定混合比を選択して、混合比ひに設定し、対象となる画素が背景領域に属する場合、 1である推定混合比を選択して、混合比ひに設定する。選択部 4 4 4は、対象となる画素がカバードバックグラウンド領域に属する場合、推定混合比処理部 4 4 2から供給された推定混合比を選択して混合比に設定し、対象となる画素がアンカバードバックグラウンド領域に属する場合、推定混合比処理部 4 4 3から供給された推定混合比を選択して混合比に設定する。選択部 4 4 4は、領域情報を基に選択して設定した混合比ひを出力する。

このように、図 5 5に示す他の構成を有する混合比算出部 1 0 4は、画像の含まれる画素毎に混合比ひを算出して、算出した混合比ひを出力することができる。

図 5 6のフローチャートを参照して、図 4 7に構成を示す混合比算出部 1 0 4 の混合比ひの算出の処理を説明する。ステップ S 4 0 1において、混合比算出部 1 0 4は、領域特定部 1 0 3から供給された領域情報を取得する。ステップ S 4 0 2において、推定混合比処理部 4 0 1は、カバードバックグラウンド領域に対応するモデルにより推定混合比の演算の処理を実行し、算出した推定混合比を混合比決定部 4 0 3に供給する。混合比推定の演算の処理の詳細は、図 5 7のフローチャートを参照して、後述する。

ステップ S 4 0 3において、推定混合比処理部 4 0 2は、アンカバードバックグラウンド領域に対応するモデルにより推定混合比の演算の処理を実行し、算出した推定混合比を混合比決定部 4 0 3に供給する。

ステップ S 4 0 4において、混合比算出部 1 0 4は、フレーム全体について、混合比ひを推定したか否かを判定し、フレーム全体について、混合比ひを推定していないと判定された場合、ステップ S 4 0 2に戻り、次の画素について混合比ひを推定する処理を実行する。ステップ S 4 0 4において、フレーム全体について、混合比ひを推定したと判定された場合、ステップ S 4 0 5に進み、混合比決定部 4 0 3は、画素が、前景領域、背景領域、カバードバックグラウンド領域、またはアンカバードバックグラウンド領域のいずれかに属するかを示す、領域特定部 1 0 3から供給された領域情報を基に、混合比ひを設定する。混合比決定部 4 0 3は、対象となる画素が前景領域に属する場合、 0を混合比ひに設定し、対象となる画素が背景領域に属する場合、 1を混合比ひに設定し、対象となる画素がカバードバックグラウンド領域に属する場合、推定混合比処理部 4 0 1から供給された推定混合比を混合比ひに設定し、対象となる画素がアンカバードバックグラウンド領域に属する場合、推定混合比処理部 4 0 2から供給された推定混合比を混合比 01 に設定し、処理は終了する。

このように、混合比算出部 1 0 4は、領域特定部 1 0 3から供給された領域情報、および入力画像を基に、各画素に対応する特徴量である混合比ひを算出することができる。

図 5 5に構成を示す混合比算出部 1 0 4の混合比ひの算出の処理は、図 5 6 のフローチャートで説明した処理と同様なので、その説明は省略する。

次に、図 5 6のステップ S 4 0 2に対応する、カバードバックグラウンド領域に対応するモデルによる混合比推定の処理を図 5 7のフローチヤ一トを参照して説明する。

ステップ S 4 2 1において、混合比演算部 4 2 3は、フレームメモリ 4 2 1力、ら、フレーム ttnの注目画素の画素値 Cを取得する。

ステップ S 4 2 2において、混合比演算部 4 2 3は、フレームメモリ 4 2 2から、注目画素に対応する、フレーム #n- lの画素の画素値 Pを取得する。

ステップ S 4 2 3において、混合比演算部 4 2 3は、入力画像に含まれる注目画素に対応する、フレーム ίίη+ lの画素の画素値 Nを取得する。

ステップ S 4 2 4において、混合比演算部 4 2 3は、フレーム ίίηの注目画素の画素値フレーム ttn- 1の画素の画素値 Ρ、およびフレーム #η+ 1の画素の画素値 Nを基に、推定混合比を演算する。

ステップ S 4 2 5において、混合比演算部 4 2 3は、フレーム全体について、推定混合比を演算する処理を終了したか否かを判定し、フレーム全体について、推定混合比を演算する処理を終了していないと判定された場合、ステップ S 4 2 1に戻り、次の画素について推定混合比を算出する処理を繰り返す。

ステップ S 4 2 5において、フレーム全体について、推定混合比を演算する処理を終了したと判定された場合、処理は終了する。

このように、推定混合比処理部 4 0 1は、入力画像を基に、推定混合比を演算することができる。

図 5 6のステップ S 4 0 3におけるアンカバードバックグラウンド領域に対応するモデルによる混合比推定の処理は、アンカバードバックグラウンド領域のモデルに対応する式を利用した、図 5 7のフローチヤ一トに示す処理と同様なので、その説明は省略する。

なお、図 5 5に示す推定混合比処理部 4 4 2および推定混合比処理部 4 4 3は, 図 5 7に示すフローチヤ一トと同様の処理を実行して推定混合比を演算するので- その説明は省略する。

また、背景に対応するオブジェクトが静止しているとして説明したが、背景領域に対応する画像が動きを含んでいても上述した混合比ひを求める処理を適用することができる。例えば、背景領域に対応する画像が一様に動いているとき、推定混合比処理部 4 0 1は、背景の動きに対応して画像全体をシフトさせ、背景に対応するオブジェクトが静止している場合と同様に処理する。また、背景領域に対応する画像が局所毎に異なる背景の動きを含んでいるとき、推定混合比処理部 4 0 1は、混合領域に属する画素に対応する画素として、背景の動きに対応した画素を選択して、上述の処理を実行する。

また、混合比算出部 1 0 4は、全ての画素について、カバードバックグラウンド領域に対応するモデルによる混合比推定の処理のみを実行して、算出された推定混合比を混合比ひとして出力するようにしてもよい。この場合において、混合比ひは、カバードバックグラウンド領域に属する画素について、背景の成分の割合を示し、アンカバードバックグラウンド領域に属する画素について、前景の成分の割合を示す。アンカバードバックグラウンド領域に属する画素について. このように算出された混合比と 1との差分の絶対値を算出して、算出した絶対値を混合比ひに設定すれば、画像処理装置は、アンカバードバックグラウンド領域に属する画素について、背景の成分の割合を示す混合比を求めることができる。

なお、同様に、混合比算出部 1 0 4は、全ての画素について、アンカバードバックグラウンド領域に対応するモデルによる混合比推定の処理のみを実行して、算出された推定混合比を混合比ひとして出力するようにしてもよい。

次に、混合比ひが直線的に変化する性質を利用して混合比ひを算出する混合比算出部 1 0 4について説明する。

上述したように、式（1 1 ) および式（1 2 ) は、それぞれ 2つの変数を含むので、そのままでは混合比ひを求めることができない。

そこで、シャツタ時間内において、前景に対応するオブジェクトが等速で動くことによる、画素の位置の変化に対応して、混合比ひが直線的に変化する性質を利用して、空間方向に、混合比と前景の成分の和 f とを近似した式を立てる。混合領域に属する画素の画素値および背景領域に属する画素の画素値の組の複数を利用して、混合比と前景の成分の和 f とを近似した式を解く。

混合比ひの変化を、直線として近似すると、混合比ひは、式（2 3 ) で表される。

a =i l+p ( 2 3 )

式（2 3 ) において、 iは、注目している画素の位置を 0とした空間方向のインデックスである。 1は、混合比ひの直線の傾きである。 pは、混合比ひの直線の切片である共に、注目している画素の混合比ひである。式（2 3 ) において, インデックス iは、既知であるが、傾き 1および切片 pは、未知である。

インデックスお傾きおよび切片 pの関係を図 5 8に示す。図 5 8において、白丸は、注目画素を示し、黒丸は、近傍画素を示す。

混合比ひを式（2 3) のように近似することにより、複数の画素に対して複数の異なる混合比ひは、 2つの変数で表現される。図 5 8に示す例において、 5つの画素に対する 5つの混合比は、 2つの変数である傾き 1および切片 pにより表現される。

図 5 9に示す平面で混合比ひを近似すると、画像の水平方向および垂直方向の 2つの方向に対応する動き V を考慮したとき、式（2 3 ) を平面に拡張して、混合比ひは、式（2 4) で表される。図 5 9において、白丸は、注目画素を示す。

Qf=jm+kq+p ( 2 4)

式（2 4) において、 jは、注目している画素の位置を 0とした水平方向のインデッタスであり、 kは、垂直方向のインデックスである。 mは、混合比の面の水平方向の傾きであり、 q は、混合比ひの面の垂直方向の傾きである。 P は、混合比ひの面の切片である。

例えば、図 4 9に示すフレーム #nにおいて、 C05乃至 C07について、それぞれ、式（2 5 ) 乃至式（2 7 ) が成立する。

C05=ar05-B05/v+f05 (2 5 )

C06= a 06 · B06/v+f06 ( 2 6)

C07=CV07-B07/v+f07 ( 2 7)

前景の成分が近傍で一致する、すなわち、 F01乃至 F03が等しいとして、 F01 乃至 F03を Fcに置き換えると式（2 8) が成立する。

f (x) = (l-a (x)) · Fc ( 2 8)

式（2 8 ) において、 xは、空間方向の位置を表す。

ひ (x ) を式（2 4) で置き換えると、式（2 8 ) は、式（2 9 ) として表すことができる。

f (x) = (l-(jm+kq+p)) · Fc

=]· . (_m · Fc) +k · (- q■ Fc) +((l-p) · Fc) =js+kt+u (2 9)

式（2 9) において、（- m · Fc) 、（- q · Fc) 、および（1- p) · Fcは、式 (3 0) 乃至式（3 2) に示すように置き換えられている。

s=-m · Fc (3 0)

tニ- q · Fc (3 1)

u=(l-p) - Fc (3 2)

式（2 9) において、 jは、注目している画素の位置を 0とした水平方向のィンデックスであり、 kは、垂直方向のインデックスである。

このように、前景に対応するオブジェクトがシャツタ時間内において等速に移動し、前景に対応する成分が近傍において一定であるという仮定が成立するので、前景の成分の和は、式（2 9) で近似される。

なお、混合比 α を直線で近似する場合、前景の成分の和は、式（3 3) で表すことができる。

f (x)=is+u (3 3)

式（1 3) の混合比および前景成分の和を、式（24) および式（2 9) を利用して置き換えると、画素値 Mは、式（3 4) で表される。

M=(jm+kq+p) - B+js+kt+u

= j'B · m+kB · q+B · p+j - s+k - t+u (3 4)

式（34) において、未知の変数は、混合比ひの面の水平方向の傾き tn、混合比ひの面の垂直方向の傾き q、混合比の面の切片 p、 s、 t、および uの 6 つである。

注目している画素の近傍の画素に対応させて、式（34) に示す正規方程式に、画素値 Mまたは画素値 Bを設定し、画素値 Mまたは画素値 Bが設定された複数の正規方程式を最小自乗法で解いて、混合比を算出する。

例えば、注目している画素の水平方向のインデックス jを 0とし、垂直方向のインデックス k を 0とし、注目している画素の近傍の 3 X 3の画素について, 式（3 4) に示す正規方程式に画素値 Mまたは画素値 Bを設定すると、式（3 5) 乃至式（4 3) を得る。

M — （- 1) · B一い i · m+(-l) · B-い L · q+B- — L■ P+ (- 1) · s+(- 1) · t+u ( 3 5) ΜΟ,-L二（0) ' · m+(-l) · Bo,.! · q+B₀,—【 · p+(0) · s+(- 1) · t+u (3 6) M+い（+1) · B_+1; · m+(-l) · B₊₁,_! · q+B₊い i · p+(+l) · s+(-l) · t+u (3 7) M__li0=(-1) · B 。 · m+(0) ■ B—し。 · q+B—し。 · p+(- 1) ' s+(0) ■ t+u (3 8) M₀,₀=(0) · B。,。 · ra+(0) ■ B。,。 · q+B。,。 · p+(0) · s+(0) · t+u (3 9) M₊₁,。=(+l) ■ B+し。 · m+(0) ' B+し。 · q+B+ 。 · p+(+l) · s+(0) · t+u (40) M_-t,₊₁=(-l) · B__li+1. m+(+l) . B__li+1 · q+B一い _t . p+ (- 1) . s+(+l) · t+u (4 1 ) M_0i+1=(0) · B₀,₊₁ · m+(+l) · B_{0 +1} · q+B₀,₊₁ ' p+(0) · s+(+l) · t+u (4 2)

M₊₁,₊₁=(+l) · B₊ m+(+l) · B₊ q+B +1, +1 p+(+l) - s+(+l) - t+u (4 3) 注目している画素の水平方向のインデックス jが 0であり、垂直方向のインデッタス k が 0であるので、注目している画素の混合比ひは、式（24) より j=0および k=0のときの値、すなわち、切片 pに等しい。

従って、式（3 5) 乃至式（4 3) の 9つの式を基に、最小自乗法により、水平方向の傾き m、垂直方向の傾き q、切片 p、 s、 t、および uのそれぞれの値を算出し、切片 pを混合比ひとして出力すればよい。

次に、最小自乗法を適用して混合比を算出するより具体的な手順を説明する。

インデックス i およびインデックス k を 1つのインデックス X で表現するとインデックス i、インデックスおよびインデックス Xの関係は、式（44) で表される。

x=(j+l) · 3+(k+l) (44)

水平方向の傾き m、垂直方向の傾き q、切片 p、 s、 t、および uをそれぞれ変数 w0, wl, w2, w3， w4、および W5と表現し、 jB, kB， B， j，および 1をそれぞれ a0, al, a2, a3, a4、および a5と表現する。誤差 exを考慮すると、式（3 5) 乃至式（4 3) は、式（4 5) に書き換えることができる。 Mx =∑,ay*Wy + ex (45) y = 式（4 5) において、 xは、 0乃至 8の整数のいずれかの値である。

式（4 5) から、式（4 6) を導くことができる。

€x = Mx-∑ay-Wy (46)

y = 0 ここで、最小自乗法を適用するため、誤差の自乗和 Eを式（4 7) に示すように定義する。

E=∑ex² (47)

x = o 誤差が最小になるためには、誤差の自乗和 Eに対する、変数 Wvの偏微分が 0 になればよい。ここで、 Vは、 0乃至 5の整数のいずれかの値である。従って、式（4 8) を満たすように wyを求める。

= 2-∑ex^av = 0 (48)

X = 0

式（48) に式（4 6) を代入すると、式（4 9) を得る。

∑(av∑ay Wy) =∑a_V'Mx (49)

x=0 y = x=0 式（4 9) の vに 0乃至 5の整数のいずれか 1つを代入して得られる 6つの式に、例えば、掃き出し法（Gauss- Jordanの消去法）などを適用して、 wyを算出する。上述したように、 w0は水平方向の傾き mであり、 wlは垂直方向の傾き qであり、 w2 は切片 pであり、 w3は sであり、 w4は tであり、 w5は uである, 以上のように、画素値 Mおよび画素値 Bを設定した式に、最小自乗法を適用することにより、水平方向の傾き m、垂直方向の傾き q、切片 p、 s、 t、および uを求めることができる。

式（3 5) 乃至式（4 3) に対応する説明において、混合領域に含まれる画素の画素値を Mとし、背景領域に含まれる画素の画素値を Bとして説明したが、注目している画素が、カバードバックグラウンド領域に含まれる場合、またはァンカバードバックグラウンド領域に含まれる場合のそれぞれに対して、正規方程式を立てる必要がある。

例えば、図 4 9に示す、フレーム ttnのカバードバックグラウンド領域に含まれる画素の混合比ひを求める場合、フレーム #nの画素の C04乃至 C08、およびフレーム #n-lの画素の画素値 P04乃至 P08力正規方程式に設定される。

図 5 0に示す、フレームのア +ンカバードバックグラウンド領域に含まれる

O

画素の混合比ひを求める場合、フレー a aム ttnの画素の C28乃至 C32、およびフレ

+ +

で +

ーム #n+lの画素の画素値 N28乃至 N32が、 + O正 1規方程式に設定される。

+

また、例えば、図 6 0に示す、カバードバックグラウンド領域に含まれる画素

+ + +

の混合比 Of を算出するとき、以下の式（5 0) 乃至 + + O o式（5 8) が立てられる。

、 '

図 6 0において、白丸は、背景と見なす画素を示し、黒、丸 +->は、混合領域の画素と

十 + +

+

見なす画素を示す。混合比を算出する画素の画素値は、 M +

+c5である。

Mcl = (- 1) • Bel - m+(-l) • Bel (5 0)

Mc2= (0) ■ Bc2 · m+(-l) - Bc2 · q+Bc2 · (5 1 )

Mc3= (+1) • Bc3 • m+ (- 1) • Bc3 • q+Bc3 (5 2)

Mc4= (-D • Bc4 • m+(0) · Bc4 · q+Bc4 · (5 3)

Mc5= (0) . Bc5 · m+(0) · Bc5 - q+Bc5 - p+(0) · s+(0) - t+u (54)

Mc6= (+1) • Bc6 • m+(0) · Bc6 · q+Bc6 · (5 5)

Mc7= (-D • Bc7 - m+(+l) • Bc7 • q+Bc7 • p+ (- 1) - s+(+l) · t+u (5 6)

Mc8= (0) - Bc8 · m+(+l) · Bc8 · q+Bc8 · (5 7)

Mc9= (+1) • Bc9 • m+(+l) • Bc9 • q+Bc9 • p+(+l) - s+(+l) · t+u (5 8) フレーム tinのカバードバックグラウンド領域に含まれる画素の混合比を算出するとき、式（5 0) 乃至式（5 8) において、フレーム ίίηの画素に対応する、フレーム #η- 1 の画素の背景領域の画素の画素値 Bel 乃至 Bc9が使用される: 図 60に示す、アンカバードバックグラウンド領域に含まれる画素の混合比を算出するとき、以下の式（5 9) 乃至式（6 7) が立てられる。混合比を算出する画素の画素値は、 Mu5である。

Mul=(-1) · Bui · m+(-l) · Bui · q+Bul · p+ (- 1) - s+(- 1) · t+u (5 9 Mu2=(0) - Bu2 - m+(-l) · Bu2 · q+Bu2 · p+(0) · s+(_l) - t+u (6 0 Mu3=(+1) · Bu3 · m+(-l) · Bu3 · q+Bu3 - p+(+l) - s+ (- 1) - t+u (6 1 Mu4=(-1) · Bu4 - m+(0) - Bu4 - q+Bu4 · p+ (- 1) · s+(0) - t+u (6 2

Mu5=(0) · Bu5 - m+(0) · Bu5 · q+Bu5 · p+ (0) - s+(0) - t+u (6 3

Mu6=(+1) · Bu6 · m+(0) - Bu6 - q+Bu6 - p+(+l) - s+(0) - t+u (64

Mu7=(-1) · Bu7 · m+(+l) - Bu7 · q+Bu7 - p+(-l) · s+(+l) - t+u (6 5 Mu8=(0) · Bu8 - m+(+l) · Bu8 · q+Bu8 · p+(0) · s+(+l) - t+u (6 6

Mu9=(+1) · Bu9 - m+(+l) · Bu9 - q+Bu9 · p+(+l) · s+(+l) - t+u (6 7 フレーム #nのアンカバードバックグラウンド領域に含まれる画素の混合比ひを算出するとき、式（5 9) 乃至式（6 7) において、フレーム #nの画素に対応する、フレーム +1の画素の背景領域の画素の画素値 Bui乃至 Bu9が使用される。

図 6 1は、推定混合比処理部 4 0 1の構成を示すブロック図である。推定混合比処理部 40 1に入力された画像は、遅延回路 5 0 1および足し込み部 5 0 2に供給される。

遅延回路 5 0 1は、入力画像を 1フレーム遅延させ、足し込み部 5 0 2に供給する。足し込み部 5 0 2に、入力画像としてフレーム #n が入力されているとき遅延回路 5 0 1は、フレーム #n- 1を足し込み部 5 0 2に供給する。

足し込み部 5 0 2は、混合比ひを算出する画素の近傍の画素の画素値、およびフレーム - 1の画素値を、正規方程式に設定する。例えば、足し込み部 5 0 2は、式（5 0) 乃至式（5 8) に基づいて、正規方程式に画素値 Mcl乃至 Mc9 および画素値 Bel乃至 Bc9を設定する。足し込み部 5 0 2は、画素値が設定された正規方程式を演算部 5 0 3に供給する。

演算部 5 0 3は、足し込み部 5 0 2から供給された正規方程式を掃き出し法などにより解いて推定混合比を求め、求められた推定混合比を出力する。

なお、推定混合比処理部 4 0 2は、推定混合比処理部 4 0 1と同様の構成を有するので、その説明は省略する。

図 6 2は、推定混合比処理部 4 0 1により算出された推定混合比の例を示す図である。図 6 2に示す推定混合比は、等速で動いているオブジェクトに対応する前景の動き Vが 1 1であり、 7 X 7画素のプロックを単位として方程式を生成して算出された結果を、 1ラインに対して示すものである。

推定混合比は、混合領域において、図 6 1に示すように、ほぼ直線的に変化していることがわかる。

次に、図 6 1に構成を示す推定混合比処理部 4 0 1による、カバードバックグラウンド領域に対応するモデルによる混合比推定の処理を図 6 3のフローチヤ一トを参照して説明する。

ステップ S 5 2 1において、足し込み部 5 0 2は、入力された画像に含まれる画素値、および遅延回路 5 0 1から供給される画像に含まれる画素値を、カバードバックグラウンド領域のモデルに対応する正規方程式に設定する。

ステップ S 5 2 2において、推定混合比処理部 4 0 1は、対象となる画素についての設定が終了したか否かを判定し、対象となる画素についての設定が終了していないと判定された場合、ステップ S 5 2 1に戻り、正規方程式への画素値の設定の処理を繰り返す。

ステップ S 5 2 2において、対象となる画素についての画素値の設定が終了したと判定された場合、ステップ S 5 2 3に進み、演算部 5 0 3は、画素値が設定された正規方程式を基に、推定混合比を演算して、求められた推定混合比を出力する。

このように、図 6 1に構成を示す推定混合比処理部 4 0 1は、入力画像を基に推定混合比を演算することができる。アンカバードバックグラウンド領域に対応するモデルによる混合比推定の処理は、アンカバードバックグラウンド領域のモデルに対応する正規方程式を利用した、図 6 3のフローチャートに示す処理と同様なので、その説明は省略する。なお、背景に対応するオブジェクトが静止しているとして説明したが、背景領域に対応する画像が動きを含んでいても上述した混合比を求める処理を適用することができる。例えば、背景領域に対応する画像が一様に動いているとき、推定混合比処理部 4 0 1は、この動きに対応して画像全体をシフ卜させ、背景に対応するオブジェクトが静止している場合と同様に処理する。また、背景領域に対応する画像が局所毎に異なる動きを含んでいるとき、推定混合比処理部 4 0 1は、混合領域に属する画素に対応する画素として、動きに対応した画素を選択して、上述の処理を実行する。

このように、混合比算出部 1 0 2は、領域特定部 1 0 1から供給された領域情報、および入力画像を基に、各画素に対応する特徴量である混合比ひを算出することができる。

混合比ひを利用することにより、動いているオブジェクトに対応する画像に含まれる動きボケの情報を残したままで、画素値に含まれる前景の成分と背景の成分とを分離することが可能になる。

また、混合比ひに基づいて画像を合成すれば、実世界を実際に撮影し直したような動いているオブジェクトのスピードに合わせた正しい動きボケを含む画像を作ることが可能になる。

次に、前景背景分離部 1 0 5について説明する。図 6 4は、前景背景分離部 1 0 5の構成の一例を示すプロック図である。前景背景分離部 1 0 5に供給された入力画像は、分離部 6 0 1、スィッチ 6 0 2、およびスィッチ 6 0 4に供給される。カバードバックグラウンド領域を示す情報、およびアンカバードバックダラゥンド領域を示す、領域特定部 1 0 3から供給された領域情報は、分離部 6 0 1 に供給される。前景領域を示す領域情報は、スィッチ 6 0 2に供給される。背景領域を示す領域情報は、スィッチ 6 0 4に供給される。混合比算出部 1 0 4から供給された混合比ひは、分離部 6 0 1に供給される分離部 6 0 1は、カバードバックグラウンド領域を示す領域情報、アンカバードバックグラウンド領域を示す領域情報、および混合比ひを基に、入力画像から前景の成分を分離して、分離した前景の成分を合成部 6 0 3に供給するとともに、入力画像から背景の成分を分離して、分離した背景の成分を合成部 6 0 5に供給する。

スィッチ 6 0 2は、前景領域を示す領域情報を基に、前景に対応する画素が入力されたとき、閉じられ、入力画像に含まれる前景に対応する画素のみを合成部 6 0 3に供給する。

スィツチ 6 0 4は、背景領域を示す領域情報を基に、背景に対応する画素が入力されたとき、閉じられ、入力画像に含まれる背景に対応する画素のみを合成部 6 0 5に供給する。

合成部 6 0 3は、分離部 6 0 1から供給された前景に対応する成分、スィッチ

6 0 2から供給された前景に対応する画素を基に、前景成分画像を合成し、合成した前景成分画像を出力する。前景領域と混合領域とは重複しないので、合成部

6 0 3は、例えば、前景に対応する成分と、前景に対応する画素とに論理和の演算を適用して、前景成分画像を合成する。

合成部 6 0 3は、前景成分画像の合成の処理の最初に実行される初期化の処理において、内蔵しているフレームメモリに全ての画素値が 0である画像を格納し, 前景成分画像の合成の処理において、前景成分画像を格納（上書き）する。従つて、合成部 6 0 3が出力する前景成分画像の内、背景領域に対応する画素には、画素値として 0が格納されている。

合成部 6 0 5は、分離部 6 0 1から供給された背景に対応する成分、スィッチ

6 0 4から供給された背景に対応する画素を基に、背景成分画像を合成して、合成した背景成分画像を出力する。背景領域と混合領域とは重複しないので、合成部 6 0 5は、例えば、背景に対応する成分と、背景に対応する画素とに論理和の演算を適用して、背景成分画像を合成する。合成部 6 0 5は、背景成分画像の合成の処理の最初に実行される初期化の処理において、内蔵しているフレームメモリに全ての画素値が 0である画像を格納し, 背景成分画像の合成の処理において、背景成分画像を格納（上書き）する。従つて、合成部 6 0 5が出力する背景成分画像の内、前景領域に対応する画素には、画素値として 0が格納されている。

図 6 5 Aは、前景背景分離部 1 0 5に入力される入力画像、並びに前景背景分離部 1 0 5から出力される前景成分画像および背景成分画像を示す図である。図 6 5 Bは、前景背景分離部 1 0 5に入力される入力画像、並びに前景背景分離部 1 0 5から出力される前景成分画像および背景成分画像のモデルを示す図である _c 図 6 5 Aは、表示される画像の模式図であり、図 6 5 Bは、図 6 5 Aに対応する前景領域に属する画素、背景領域に属する画素、および混合領域に属する画素を含む 1ラインの画素を時間方向に展開したモデル図を示す。

図 6 5 Aおよび図 6 5 Bに示すように、前景背景分離部 1 0 5から出力される背景成分画像は、背景領域に属する画素、および混合領域の画素に含まれる背景の成分から構成される。

図 6 5 Aおよび図 6 5 Bに示すように、前景背景分離部 1 0 5から出力される前景成分画像は、前景領域に属する画素、および混合領域の画素に含まれる前景の成分から構成される。

混合領域の画素の画素値は、前景背景分離部 1 0 5により、背景の成分と、前景の成分とに分離される。分離された背景の成分は、背景領域に属する画素と共に、背景成分画像を構成する。分離された前景の成分は、前景領域に属する画素と共に、前景成分画像を構成する。

このように、前景成分画像は、背景領域に対応する画素の画素値が 0とされ、前景領域に対応する画素および混合領域に対応する画素に意味のある画素値が設定される。同様に、背景成分画像は、前景領域に対応する画素の画素値が 0とされ、背景領域に対応する画素および混合領域に対応する画素に意味のある画素値が設定される。次に、分離部 6 0 1が実行する、混合領域に属する画素から前景の成分、および背景の成分を分離する処理について説明する。

図 6 6は、図中の左から右に移動するオブジェクトに対応する前景を含む、 2 つのフレームの前景の成分および背景の成分を示す画像のモデルである。図 6 6 に示す画像のモデルにおいて、前景の動き量 Vは 4であり、仮想分割数は、 4 とされている。

フレーム ttnにおいて、最も左の画素、および左から 1 4番目乃至 1 8番目の画素は、背景の成分のみから成り、背景領域に属する。フレーム ί!ηにおいて、左から 2番目乃至 4番目の画素は、背景の成分および前景の成分を含み、アンカバードバックグラウンド領域に属する。フレーム #ηにおいて、左から 1 1番目乃至 1 3番目の画素は、背景の成分および前景の成分を含み、カバードバックグラウンド領域に属する。フレーム #ηにおいて、左から 5番目乃至 1 0番目の画素は、前景の成分のみから成り、前景領域に属する。

フレーム #η+ 1において、左から 1番目乃至 5番目の画素、および左から 1 8 番目の画素は、背景の成分のみから成り、背景領域に属する。フレーム #η+ 1において、左から 6番目乃至 8番目の画素は、背景の成分および前景の成分を含み、アンカバードバックグラウンド領域に属する。フレーム #η+1において、左から 1 5番目乃至 1 7番目の画素は、背景の成分および前景の成分を含み、カバードバックグラウンド領域に属する。フレーム ttn+1において、左から 9番目乃至 1 4番目の画素は、前景の成分のみから成り、前景領域に属する。

図 6 7は、カバードバックグラウンド領域に属する画素から前景の成分を分離する処理を説明する図である。図 6 7において、ひ 1乃至ひ 1 8は、フレーム #nにおける画素のそれぞれに対応する混合比である。図 6 7において、左から 1 5番目乃至 1 7番目の画素は、カバードバックグラウンド領域に属する。

フレーム #n の左から 1 5番目の画素の画素値 C 15 は、式（6 8 ) で表される _c C15=B15/v+F09/v+F08/v+F07/v

=ひ 15 - B15+F09/v+F08/v+F07/v =ひ 15-P15+F09/v+F08/v+F07/v (6 8)

ここで、 15 は、フレーム #n の左から 1 5番目の画素の混合比である。 P15 は、フレーム #n- 1の左から 1 5番目の画素の画素値である。

式（6 8) を基に、フレーム #nの左から 1 5番目の画素の前景の成分の和 fl5は、式（6 9 ) で表される。

fl5=F09/v+F08/v+F07/v

=C15 - α15·Ρ15 ( 6 9)

同様に、フレーム #ηの左から 1 6番目の画素の前景の成分の和 Π6は、式 ( 7 0) で表され、フレーム #nの左から 1 7番目の画素の前景の成分の和 Π7 は、式（ 7 1 ) で表される。

fl6=C16-a 16-P16 ( 7 0)

fl7=C17-ひ 17·Ρ17 ( 7 1 )

このように、カバードバックグラウンド領域に属する画素の画素値 Cに含まれる前景の成分 fcは、式（7 2) で計算される。

fc=C—ひ ·Ρ ( 7 2)

Ρは、 1つ前のフレームの、対応する画素の画素値である。

図 6 8は、アンカバードバックグラウンド領域に属する画素から前景の成分を分離する処理を説明する図である。図 6 8において、ひ 1乃至 1 8は、フレーム #ηにおける画素のぞれぞれに対応する混合比である。図 6 8において、左から 2番目乃至 4番目の画素は、アンカバ一ドバックグラウンド領域に属する。フレーム #ηの左から 2番目の画素の画素値 C02は、式（7 3) で表される。

C02=B02/v+B02/v+B02/v+F01/v

=ひ 2'B02+F01/v

= a2-N02+F01/v ( 7 3 )

ここで、ひ 2は、フレーム ίΐηの左から 2番目の画素の混合比である。 Ν02は、フレーム ίίη+lの左から 2番目の画素の画素値である。

式（7 3 ) を基に、フレーム ίίηの左から 2番目の画素の前景の成分の和 f02 は、式（74) で表される。

f02=F01/v

=C02 -ひ 2-N02 (74)

同様に、フレームの左から 3番目の画素の前景の成分の和 f03は、式（7 5) で表され、フレーム #nの左から 4番目の画素の前景の成分の和 f04は、式 (7 6) で表される。

f03=C03 - 3·Ν03 ( 7 5 )

f04=C04-ひ 4-Ν04 ( 7 6 )

このように、アンカバードバックグラウンド領域に属する画素の画素値 Cに含まれる前景の成分 fuは、式（7 7) で計算される。

fu=C-ひ ·Ν (7 7)

Νは、 1つ後のフレームの、対応する画素の画素Sである。

このように、分離部 6 0 1は、領域情報に含まれる、カバードバックグラウンド領域を示す情報、およびアンカバードバックグラウンド領域を示す情報、並びに画素毎の混合比ひを基に、混合領域に属する画素から前景の成分、および背景の成分を分離することができる。

図 6 9は、以上で説明した処理を実行する分離部 6 0 1の構成の一例を示すブロック図である。分離部 6 0 1に入力された画像は、フレームメモリ 6 2 1に供給され、混合比算出部 1 04から供給されたカバードバックグラウンド領域およびアンカバードバックグラウンド領域を示す領域情報、並びに混合比ひは、分離処理ブロック 6 2 2に入力される。

フレームメモリ 6 2 1は、入力された画像をフレーム単位で記憶する。フレームメモリ 6 2 1は、処理の対象がフレーム ίίηであるとき、フレーム ίίηの 1つ前のフレームであるフレーム ίΐη- 1、フレーム、およびフレーム ttnの 1つ後のフレームであるフレーム ίίη+lを記憶する。

フレームメモリ 6 2 1は、フレーム #η- 1、フレーム #η、およびフレーム #η+1 の対応する画素を分離処理プロック 6 2 2に供給する。分離処理ブロック 6 2 2は、カバードバックグラウンド領域およびアンカバードバックグラウンド領域を示す領域情報、並びに混合比ひを基に、フレームメモリ 6 2 1から供給されたフレーム #n- l、フレームのおよびフレーム #n+lの対応する画素の画素値に図 6 7および図 6 8を参照して説明した演算を適用して. フレーム林 nの混合領域に属する画素から前景の成分および背景の成分を分離して、フレームメモリ 6 2 3に供給する。

分離処理ブロック 6 2 2は、アンカバード領域処理部 6 3 1、カバード領域処理部 6 3 2、合成部 6 3 3、および合成部 6 3 4で構成されている。

アンカバード領域処理部 6 3 1の乗算器 6 4 1は、混合比ひを、フレームメモリ 6 2 1から供給されたフレーム itn+ 1の画素の画素値に乗じて、スィッチ 6 4 2に出力する。スィッチ 6 4 2は、フレームメモリ 6 2 1から供給されたフレーム ttnの画素（フレーム ttn+ 1の画素に対応する）がアンカバードバックグラウンド領域であるとき、閉じられ、乗算器 6 4 1から供給された混合比ひを乗じた画素値を演算器 6 4 3および合成部 6 3 4に供給する。スィッチ 6 4 2から出力されるフレーム #n+lの画素の画素値に混合比ひを乗じた値は、フレームの対応する画素の画素値の背景の成分に等しい。

演算器 6 4 3は、フレームメモリ 6 2 1から供給されたフレーム #nの画素の画素値から、スィッチ 6 4 2から供給された背景の成分を減じて、前景の成分を求める。演算器 6 4 3は、アンカバードバックグラウンド領域に属する、フレーム t の画素の前景の成分を合成部 6 3 3に供給する。

カバード領域処理部 6 3 2の乗算器 6 5 1は、混合比ひを、フレームメモリ 6 2 1から供給されたフレーム - 1の画素の画素値に乗じて、スィツチ 6 5 2 に出力する。スィッチ 6 5 2は、フレームメモリ 6 2 1から供給されたフレーム #nの画素（フレーム ttn- 1の画素に対応する）がカバ一ドバックグラウンド領域であるとき、閉じられ、乗算器 6 5 1から供給された混合比ひを乗じた画素値を演算器 6 5 3および合成部 6 3 4に供給する。スィッチ 6 5 2から出力されるフレーム #n-lの画素の画素値に混合比ひを乗じた値は、フレーム #nの対応する画素の画素値の背景の成分に等しい。

演算器 6 5 3は、フレームメモリ 6 2 1から供給されたフレーム #nの画素の画素値から、スィッチ 6 5 2から供給された背景の成分を減じて、前景の成分を求める。演算器 6 5 3は、カバードバックグラウンド領域に属する、フレーム t の画素の前景の成分を合成部 6 3 3に供給する。

合成部 6 3 3は、フレームの、演算器 6 4 3から供給された、アンカバードバックグラウンド領域に属する画素の前景の成分、および演算器 6 5 3から供給された、カバードバックグラウンド領域に属する画素の前景の成分を合成して. フレームメモリ 6 2 3に供給する。

合成部 6 3 4は、フレームでの、スィッチ 6 4 2から供給された、アンカバードバックグラウンド領域に属する画素の背景の成分、およびスィッチ 6 5 2から供給された、カバードバックグラウンド領域に属する画素の背景の成分を合成して、フレームメモリ 6 2 3に供給する。

フレームメモリ 6 2 3は、分離処理ブロック 6 2 2から供給された、フレーム #nの混合領域の画素の前景の成分と、背景の成分とをそれぞれに記憶する。

フレームメモリ 6 2 3は、記憶しているフレーム #nの混合領域の画素の前景の成分、および記憶しているフレーム #nの混合領域の画素の背景の成分を出力する。

特徴量である混合比ひを利用することにより、画素値に含まれる前景の成分と背景の成分とを完全に分離することが可能になる。

合成部 6 0 3は、分離部 6 0 1から出力された、フレーム #nの混合領域の画素の前景の成分と、前景領域に属する画素とを合成して前景成分画像を生成する, 合成部 6 0 5は、分離部 6 0 1から出力された、フレーム #nの混合領域の画素の背景の成分と、背景領域に属する画素とを合成して背景成分画像を生成する。図 7 O Aは、図 6 6のフレーム tinに対応する、前景成分画像の例を示す。最も左の画素、および左から 1 4番目の画素は、前景と背景が分離される前において、背景の成分のみから成っていたので、画素値が 0とされる。左から 2番目乃至 4番目の画素は、前景と背景とが分離される前において、ァンカバ一ドバックグラウンド領域に属し、背景の成分が 0とされ、前景の成分がそのまま残されている。左から 1 1番目乃至 1 3番目の画素は、前景と背景とが分離される前において、カバードバックグラウンド領域に属し、背景の成分が 0 とされ、前景の成分がそのまま残されている。左から 5番目乃至 1 0番目の画素は、前景の成分のみから成るので、そのまま残される。

図 7 0 Bは、図 6 6のフレーム #nに対応する、背景成分画像の例を示す。最も左の画素、および左から 1 4番目の画素は、前景と背景とが分離される前において、背景の成分のみから成っていたので、そのまま残される。

左から 2番目乃至 4番目の画素は、前景と背景とが分離される前において、ァンカバ一ドバックグラウンド領域に属し、前景の成分が 0とされ、背景の成分がそのまま残されている。左から 1 1番目乃至 1 3番目の画素は、前景と背景とが分離される前において、カバードバックグラウンド領域に属し、前景の成分が 0 とされ、背景の成分がそのまま残されている。左から 5番目乃至 1 0番目の画素は、前景と背景とが分離される前において、前景の成分のみから成っていたので、画素値が 0とされる。

次に、図 7 1に示すフローチャートを参照して、前景背景分離部 1 0 5による前景と背景との分離の処理を説明する。ステップ S 6 0 1において、分離部 6 0 1のフレームメモリ 6 2 1は、入力画像を取得し、前景と背景との分離の対象となるフレーム ttnを、その前のフレーム #n-lおよびその後のフレーム ttn+1 と共に己 11する。

ステップ S 6 0 2において、分離部 6 0 1の分離処理ブロック 6 2 2は、混合比算出部 1 0 4から供給された領域情報を取得する。ステップ S 6 0 3において, 分離部 6 0 1の分離処理プロック 6 2 2は、混合比算出部 1 0 4から供給された混合比ひを取得する。

ステップ S 6 0 4において、アンカバード領域処理部 6 3 1は、領域情報および混合比ひを基に、フレームメモリ 6 2 1から供給された、アンカバードバックグラウンド領域に属する画素の画素値から、背景の成分を抽出する。

ステップ S 6 0 5において、アンカバード領域処理部 6 3 1は、領域情報および混合比ひを基に、フレームメモリ 6 2 1から供給された、アンカバードバックグラウンド領域に属する画素の画素値から、前景の成分を抽出する。

ステップ S 6 0 6において、カバード領域処理部 6 3 2は、領域情報および混合比 or を基に、フレームメモリ 6 2 1から供給された、カバードバックグラウンド領域に属する画素の画素値から、背景の成分を抽出する。

ステップ S 6 0 7において、カバード領域処理部 6 3 2は、領域情報および混合比 Of を基に、フレームメモリ 6 2 1から供給された、カバードバックグラウンド領域に属する画素の画素値から、前景の成分を抽出する。

ステップ S 6 0 8において、合成部 6 3 3は、ステップ S 6 0 5の処理で抽出されたアンカバードバックグラウンド領域に属する画素の前景の成分と、ステツプ S 6 0 7の処理で抽出されたカバードバックグラウンド領域に属する画素の前景の成分とを合成する。合成された前景の成分は、合成部 6 0 3に供給される。更に、合成部 6 0 3は、スィッチ 6 0 2を介して供給された前景領域に属する画素と、分離部 6 0 1から供給された前景の成分とを合成して、前景成分画像を生成する。

ステップ S 6 0 9において、合成部 6 3 4は、ステップ S 6 0 4の処理で抽出されたアンカバードバックグラウンド領域に属する画素の背景の成分と、ステツプ S 6 0 6の処理で抽出されたカバードバックグラウンド領域に属する画素の背景の成分とを合成する。合成された背景の成分は、合成部 6 0 5に供給される。更に、合成部 6 0 5は、スィッチ 6 0 4を介して供給された背景領域に属する画素と、分離部 6 0 1から供給された背景の成分とを合成して、背景成分画像を生成する。

ステップ S 6 1 0において、合成部 6 0 3は、前景成分画像を出力する。ステップ S 6 1 1において、合成部 6 0 5は、背景成分画像を出力し、処理は終了する。このように、前景背景分離部 1 0 5は、領域情報および混合比を基に、入力画像から前景の成分と、背景の成分とを分離し、前景の成分のみから成る前景成分画像、および背景の成分のみから成る背景成分画像を出力することができる, 次に、前景成分画像からの動きボケの量の調整について説明する。

図 7 2は、動きボケ調整部 1 0 6の構成の一例を示すプロック図である。動き検出部 1 0 2から供給された動きべクトルとその位置情報、および領域特定部 1 0 3から供給された領域情報は、処理単位決定部 8 0 1およびモデル化部 8 0 2 に供給される。前景背景分離部 1 0 5から供給された前景成分画像は、足し込み部 8 0 4に供給される。

処理単位決定部 8 0 1は、動きべクトルとその位置情報、および領域情報を基に、動きべクトルと共に、生成した処理単位をモデル化部 8 0 2に供給する。処理単位決定部 8 0 1は、生成した処理単位を足し込み部 8 0 4に供給する。

処理単位決定部 8 0 1が生成する処理単位は、図 7 3において Aで例を示すように、前景成分画像のカバ一ドバックグラウンド領域に対応する画素から始まりアンカバードバックグラウンド領域に対応する画素までの動き方向に並ぶ連続する画素、またはアンカバードバックグラウンド領域に対応する画素から始まり、カバードバックグラウンド領域に対応する画素までの動き方向に並ぶ連続する画素を示す。処理単位は、例えば、左上点（処理単位で指定される画素であって、画像上で最も左または最も上に位置する画素の位置）および右下点の 2つのデータから成る。

モデル化部 8 0 2は、動きべクトルおよび入力された処理単位を基に、モデル化を実行する。より具体的には、例えば、モデル化部 8 0 2は、処理単位に含まれる画素の数、画素値の時間方向の仮想分割数、および画素毎の前景の成分の数に対応する複数のモデルを予め記憶しておき、処理単位、および画素値の時間方向の仮想分割数を基に、図 7 4に示すような、画素値と前景の成分との対応を指定するモデルを選択するようにしても良い。

例えば、処理単位に対応する画素の数が 1 2でありシャツタ時間内の動き量 V が 5であるときにおいては、モデル化部 8 0 2は、仮想分割数を 5とし、最も左に位置する画素が 1つの前景の成分を含み、左から 2番目の画素が 2つの前景の成分を含み、左から 3番目の画素が 3つの前景の成分を含み、左から 4番目の画素が 4つの前景の成分を含み、左から 5番目の画素が 5つの前景の成分を含み、左から 6番目の画素が 5つの前景の成分を含み、左から 7番目の画素が 5つの前景の成分を含み、左から 8番目の画素が 5つの前景の成分を含み、左から 9番目の画素が 4つの前景の成分を含み、左から 1 0番目の画素が 3つの前景の成分を含み、左から 1 1番目の画素が 2つの前景の成分を含み、左から 1 2番目の画素が 1つの前景の成分を含み、全体として 8つの前景の成分から成るモデルを選択する。

なお、モデル化部 8 0 2は、予め記憶してあるモデルから選択するのではなく動きベクトル、および処理単位が供給されたとき、動きベクトル、および処理単位を基に、モデルを生成するようにしてもよい。

モデル化部 8 0 2は、選択したモデルを方程式生成部 8 0 3に供給する。

方程式生成部 8 0 3は、モデル化部 8 0 2から供給されたモデルを基に、方程式を生成する。図 7 4に示す前景成分画像のモデルを参照して、前景の成分の数が 8であり、処理単位に対応する画素の数が 1 2であり、動き量 V が 5であり仮想分割数が 5であるときの、方程式生成部 8 0 3が生成する方程式について説明する。

前景成分画像に含まれるシャツタ時間/ Vに対応する前景成分が FO l/v乃至

F08/vであるとき、 FO l/v乃至 F08/vと画素値 C01乃至 C12との関係は、式（7 8 ) 乃至式（8 9 ) で表される。

C01=F01/v ( 7 8 )

C02=F02/v+F01/v ( 7 9 )

C03=F03/v+F02/v+F01/v ( 8 0 )

C04=F04/v+F03/v+F02/v+F01/v ( 8 1 )

C05=F05/v+F04/v+F03/v+F02/v+F01/v ( 8 2 ) C06=F06/v+F05/v+F04/v+F03/v+F02/v (8 3)

C07=F07/v+F06/v+F05/v+F04/v+F03/v (84)

C08=F08/v+F07/v+F06/v+F05/v+F04/v (8 5)

C09=F08/v+F07/v+F06/v+F05/v (8 6)

C10=F08/v+F07/v+F06/v (8 7)

Cll=F08/v+F07/v (8 8)

C12=F08/v (8 9) 方程式生成部 80 3は、生成した方程式を変形して方程式を生成する。方程式生成部 8 0 3が生成する方程式を、式（ 9 0 ) 乃至式（1 0 1) に示す。

C01 = l · FOl/v+0 · F02/v+0 · F03/v+0■ F04/v+0 · F05/v

+0 · F06/v+0■ F07/v+0 · F08/v (90) C02=l - FOl/v+1 · F02/v+0 · F03/v+0 · F04/v+0 · F05/v

+0 · F06/V+0 - F07/v+0 - F08/v (9 1) C03=l · FOl/v+1 - F02/v+l · F03/v+0 · F04/v+0 · F05/v

+0 · F06/v+0 - F07/v+0 - F08/v (9 2)

C04=l · FOl/v+1 · F02/v+l · F03/v+l · F04/v+0 · F05/v

+0 - F06/v+0 - F07/v+0 - F08/v (9 3) C05=l ■ FOl/v+1 - F02/v+l - F03/v+l - F04/v+l · F05/v

+0 · F06/v+0 - F07/v+0 - F08/v (94) C06=0 · FOl/v+1 · F02/v+l · F03/v+l · F04/v+l - F05/v

+1 · F06/V+0 - F07/v+0 · F08/v (9 5) C07=0 - FOl/v+0 - F02/v+l - F03/v+l - F04/v+l - F05/v

+1 - F06/v+l · F07/v+0 · F08/v (9 6) C08=0 · FOl/v+0 · F02/v+0 · F03/v+l - F04/v+l - F05/v

+1 · F06/v+l - F07/v+l - F08/v (9 7)

C09=0 - FOl/v+0 - F02/v+0■ F03/v+0 - F04/v+l · F05/v

+1 · F06/v+l · F07/v+l - F08/v (9 8) C10=0 · FOl/v+0 · F02/v+0 · F03/v+0 - F04/v+0 · F05/v

+1 · F06/v+l · F07/v+l - F08/v (9 9)

CI 1=0 - FOl/v+0 - F02/v+0 - F03/v+0 · F04/v+0 - F05/v

+0 · F06/v+l · F07/v+l · F08/v (1 00)

C12=0 - FOl/v+0 - F02/v+0 · F03/v+0 - F04/v+0 · F05/v

+0 · F06/v+0 · F07/v+l · F08/v (1 0 1) 式（90) 乃至式（ 1 0 1 ) は、式（ 1 02) として表すこともできる。

OS

Cj =∑aij'Fi/v (102)

i=OI

式（10 2) において、 jは、画素の位置を示す。この例において、 jは、 1乃至 1 2のいずれか 1つの値を有する。また、 iは、前景値の位置を示す。この例において、 iは、 1乃至 8のいずれか 1つの値を有する。 aijは、 iおよび jの値に対応して、 0または 1のを有する。

誤差を考慮して表現すると、式（102) は、式（103) のように表すことができる。

08

Cj =∑aij'FUv + ej (103)

i=01

式（1 03) において、 ejは、注目画素 Cjに含まれる誤差である。

式（1 03) は、式（104) に書き換えることができる。

08

ej = Cj-∑aij*Fi/v (104)

-01

ここで、最小自乗法を適用するため、誤差の自乗和 Eを式（105) に示すように定義する。

E = y_Jej² (105)

j=01

誤差が最小になるためには、誤差の自乗和 Eに対する、変数 Fkによる偏微分の値が 0になればよい。式（106) を満たすように Fkを求める。 dE dej

= 2-∑ej

dFk =01 'dFk

Ί122 08

= 2 -∑{(Cj -∑aij'Fi/v)'(-akjlv) = 0 (106)

j=01 i=01

式（106) において、動き量 vは固定値であるから、式（107) を導く

.とができる。

12 08

∑ akj · (Cj -∑aij'FHv) = o (107)

-01 i=01 式（1 07) を展開して、移項すると、式（1 08) を得る。

1 „2 OS U

∑ (akj'∑aij-Fi) = v'∑akj' Cj (108)

j=01 ii==0011 j=OJ 式（1 08) の kに 1乃至 8の整数のいずれか 1つを代入して得られる 8つの式に展開する。得られた 8つの式を、行列により 1つの式により表すことができる。この式を正規方程式と呼ぶ。

このような最小自乗法に基づく、方程式生成部 803が生成する正規方程式の例を式（109) に示す。

式（109) を A'F=v'Cと表すと、 C，A, Vが既知であり、 Fは未知である。また、 A, Vは、モデル化の時点で既知だが、 Cは、足し込み動作において画素値を入力することで既知となる。最小自乗法に基づく正規方程式により前景成分を算出することにより、画素 C に含まれている誤差を分散させることができる。

方程式生成部 8 0 3は、このように生成された正規方程式を足し込み部 8 0 4 に供給する。

足し込み部 8 0 4は、処理単位決定部 8 0 1から供給された処理単位を基に、前景成分画像に含まれる画素値 Cを、方程式生成部 8 0 3から供給された行列の式に設定する。足し込み部 8 0 4は、画素値 Cを設定した行列を演算部 8 0 5に供給する。

演算部 8 0 5は、掃き出し法（Gauss-Jordanの消去法）などの解法に基づく処理により、動きボケが除去された前景成分 Fi/vを算出して、動きボケが除去された前景の画素値である、 0乃至 8の整数のいずれかの iに対応する Fiを算出して、図 7 5に例を示す、動きボケが除去された画素値である Fiから成る、動きボケが除去された前景成分画像を動きボケ付加部 8 0 6および選択部 8 0 7 に出力する。

なお、図 7 5に示す動きボケが除去された前景成分画像において、 C03乃至 C10のそれぞれに F01乃至 F08のそれぞれが設定されているのは、画面に対する前景成分画像の位置を変化させないためであり、任意の位置に対応させることができる。

動きボケ付加部 8 0 6は、動き量 V とは異なる値の動きボケ調整量 v '、例えば、動き量 Vの半分の値の動きボケ調整量 v'や、動き量 Vと無関係の値の動きボケ調整量 v'を与えることで、動きボケの量を調整することができる。例えば、図 7 6に示すように、動きボケ付加部 8 0 6は、動きボケが除去された前景の画素値 Fiを動きボケ調整量 v'で除すことにより、前景成分 Fi/v'を算出して、前景成分 Fi/v'の和を算出して、動きボケの量が調整された画素値を生成する。例えば、動きボケ調整量 v'が 3のとき、画素値 C02は、（F01 ) /v'とされ、画素値 C03は、（F01+F02) /v'とされ、画素値 C04は、（F01+F02+F03) /v'とされ、画素ィ直 C05は、（F02+F03+F04) /ν'とされる。動きボケ付加部 8 0 6は、動きボケの量を調整した前景成分画像を選択部 8 0 7に供給する。

選択部 8 0 7は、例えば使用者の選択に対応した選択信号を基に、演算部 8 0 5から供給された動きボケが除去された前景成分画像、および動きボケ付加部 8 0 6から供給された動きボケの量が調整された前景成分画像のいずれか一方を選択して、選択した前景成分画像を出力する。

このように、動きボケ調整部 1 0 6は、選択信号および動きボケ調整量 v'を基に、動きボケの量を調整することができる。

また、例えば、図 7 7に示すように、処理単位に対応する画素の数が 8であり動き量 Vが 4であるとき、動きボケ調整部 1 0 6は、式（1 1 0 ) に示す行列の式を生成する。

動きボケ調整部 1 0 6は、このように処理単位の長さに対応した数の式を立てて、動きボケの量が調整された画素値である Fiを算出する。同様に、例えば、処理単位に含まれる画素の数が 1 0 0あるとき、 1 0 0個の画素に対応する式を生成して、 Fiを算出する。

図 7 8は、動きボケ調整部 1 0 6の他の構成を示す図である。図 7 2に示す場合と同様の部分には同一の番号を付してあり、その説明は省略する。

選択部 8 2 1は、選択信号を基に、入力された動きべクトルとその位置信号をそのまま処理単位決定部 8 0 1およびモデル化部 8 0 2に供給するか、または動きべクトルの大きさを動きボケ調整量 v'に置き換えて、その大きさが動きボケ調整量 v'に置き換えられた動きべクトルとその位置信号を処理単位決定部 8 0 1およびモデル化部 8 0 2に供給する。

このようにすることで、図 7 8の動きボケ調整部 1 0 6の処理単位決定部 8 0 1乃至演算部 8 0 5は、動き量 Vと動きボケ調整量 v 'との値に対応して、動きボケの量を調整することができる。例えば、動き量 Vが 5であり、動きボケ調整量 v'が 3であるとき、図 7 8の動きボケ調整部 1 0 6の処理単位決定部 8 0 1乃至演算部 8 0 5は、図 7 4に示す動き量 Vが 5である前景成分画像に対して、 3である動きボケ調整量 v'対応する図 7 6に示すようなモデルに従って、演算を実行し、（動き量 V ) I (動きボケ調整量 ν' ) = 5/3、すなわちほぼ 1. 7 の動き量 Vに応じた動きボケを含む画像を算出する。なお、この場合、算出される画像は、 3である動き量 Vに対応した動きボケを含むのではないので、動きボケ付加部 8 0 6の結果とは動き量 V と動きボケ調整量 v'の関係の意味合いが異なる点に注意が必要である。

以上のように、動きボケ調整部 1 0 6は、動き量 Vおよび処理単位に対応して、式を生成し、生成した式に前景成分画像の画素値を設定して、動きボケの量が調整された前景成分画像を算出する。

次に、図 7 9のフローチャートを参照して、動きボケ調整部 1 0 6による前景成分画像に含まれる動きボケの量の調整の処理を説明する。

ステップ S 8 0 1において、動きボケ調整部 1 0 6の処理単位決定部 8 0 1は, 動きベクトルおよび領域情報を基に、処理単位を生成し、生成した処理単位をモデル化部 8 0 2に供給する。

ステップ S 8 0 2において、動きボケ調整部 1 0 6のモデル化部 8 0 2は、動き量 Vおよび処理単位に対応して、モデルの選択や生成を行う。ステップ S 8 0 3において、方程式生成部 8 0 3は、選択されたモデルを基に、正規方程式を作成する。

ステップ S 8 0 4において、足し込み部 8 0 4は、作成された正規方程式に前景成分画像の画素値を設定する。ステップ S 8 0 5において、足し込み部 8 0 4 は、処理単位に対応する全ての画素の画素値の設定を行ったか否かを判定し、処理単位に対応する全ての画素の画素値の設定を行っていないと判定された場合、ステップ S 8 0 4に戻り、正規方程式への画素値の設定の処理を繰り返す。ステップ S 8 0 5において、処理単位の全ての画素の画素値の設定を行ったと判定された場合、ステップ S 8 0 6に進み、演算部 8 0 5は、足し込み部 8 0 4 から供給された画素値が設定された正規方程式を基に、動きボケの量を調整した前景の画素値を算出して、処理は終了する。

このように、動きボケ調整部 1 0 6は、動きべクトルおよび領域情報を基に、動きボケを含む前景画像から動きボケの量を調整することができる。

すなわち、サンプルデータである画素値に含まれる動きボケの量を調整することができる。

以上のように、図 2に構成を示す画像処理装置は、入力画像に含まれる動きボケの量を調整することができる。図 2に構成を示す画像処理装置は、埋もれた情報である混合比ひを算出して、算出した混合比を出力することができる。図 8 0は、動きボケ調整部 1 0 6の構成の他の一例を示すブロック図である。動き検出部 1 0 2から供給された動きべクトルとその位置情報は、処理単位決定部 9 0 1および補正部 9 0 5に供給され、領域特定部 1 0 3から供給された領域情報は、処理単位決定部 9 0 1に供給される。前景背景分離部 1 0 5から供給された前景成分画像は、演算部 9 0 4に供給される。

処理単位決定部 9 0 1は、動きべクトルとその位置情報、および領域情報を基に、動きべクトルと共に、生成した処理単位をモデル化部 9 0 2に供給する。モデル化部 9 0 2は、動きべクトルおよび入力された処理単位を基に、モデル化を実行する。より具体的には、例えば、モデル化部 9 0 2は、処理単位に含まれる画素の数、画素値の時間方向の仮想分割数、および画素毎の前景の成分の数に対応する複数のモデルを予め記憶しておき、処理単位、および画素値の時間方向の仮想分割数を基に、図 8 1に示すような、画素値と前景の成分との対応を指定するモデルを選択するようにしても良い。

例えば、処理単位に対応する画素の数が 1 2であり動き量 Vが 5であるときにおいては、モデル化部 90 2は、仮想分割数を 5とし、最も左に位置する画素が 1つの前景の成分を含み、左から 2番目の画素が 2つの前景の成分を含み、左から 3番目の画素が 3つの前景の成分を含み、左から 4番目の画素が 4つの前景の成分を含み、左から 5番目の画素が 5つの前景の成分を含み、左から 6番目の画素が 5つの前景の成分を含み、左から 7番目の画素が 5つの前景の成分を含み, 左から 8番目の画素が 5つの前景の成分を含み、左から 9番目の画素が 4つの前景の成分を含み、左から 1 0番目の画素が 3つの前景の成分を含み、左から 1 1 番目の画素が 2つの前景の成分を含み、左から 1 2番目の画素が 1つの前景の成分を含み、全体として 8つの前景の成分から成るモデルを選択する。

なお、モデル化部 9 0 2は、予め記憶してあるモデルから選択するのではなく、動きベクトル、および処理単位が供給されたとき、動きべクトル、および処理単位を基に、モデルを生成するようにしてもよい。

方程式生成部 9 0 3は、モデル化部 9 0 2から供給されたモデルを基に、方程式を生成する。

図 8 1乃至図 8 3に示す前景成分画像のモデルを参照して、前景の成分の数が 8であり、処理単位に対応する画素の数が 1 2であり、動き量 Vが 5であるときの、方程式生成部 9 0 3が生成する方程式の例について説明する。

前景成分画像に含まれるシャッタ時間 /vに対応する前景成分が FOl/v乃至 F08/vであるとき、 FOl/v乃至 F08/vと画素値 C01乃至 C12との関係は、上述したように、式（7 8) 乃至式（8 9) で表される。

画素値 C12および C11に注目すると、画素値 C12は、式（1 1 1 ) に示すように、前景の成分 F08/vのみを含み、画素値 C11は、前景の成分 F08/vおよび前景の成分 F07/vの積和から成る。従って、前景の成分 F07/vは、式（1 1 2) で求めることができる。

F08/v=C12 ( i l l)

F07/v=Cll-C12 ( 1 1 2)

同様に、画素値 CIO乃至 C01に含まれる前景の成分を考慮すると、前景の成分 F06/v乃至 FOl/vは、式（1 1 3) 乃至式（ 1 1 8 ) により求めることができる。

F06/v=C10 - C11 ( 1 1 3)

F05/v=C09_C10 ( 1 1 4)

F04/v=C08 - C09 ( 1 1 5)

F03/v=C07 - C08+C12 ( 1 1 6)

F02/v=C06-C07+Cll-C12 ( 1 1 7)

F01/v=C05- C06+C10 - Cll ( 1 1 8)

方程式生成部 9 0 3は、式（1 1 1) 乃至式（1 1 8) に例を示す、画素値の差により前景の成分を算出するための方程式を生成する。方程式生成部 9 0 3は, 生成した方程式を演算部 9 04に供給する。

演算部 9 04は、方程式生成部 90 3から供給された方程式に前景成分画像の画素値を設定して、画素値を設定した方程式を基に、前景の成分を算出する。演算部 9 04は、例えば、式（1 1 1) 乃至式（1 1 8) が方程式生成部 9 0 3力、ら供給されたとき、式（1 1 1 ) 乃至式（1 1 8) に画素値 C05乃至 C12を設定する。

演算部 9 04は、画素値が設定された式に基づき、前景の成分を算出する。例えば、演算部 9 04は、画素値 C05乃至 C12が設定された式（1 1 1 ) 乃至式 (1 1 8) に基づく演算により、図 8 2に示すように、前景の成分 FOl/v乃至 F08/vを算出する。演算部 9 04は、前景の成分 FOl/v乃至 F08/vを補正部 9 0 5に供給する。

補正部 9 0 5は、演算部 9 04から供給された前景の成分に、処理単位決定部 9 0 1から供給された動きべクトルに含まれる動き量 Vを乗じて、動きボケを除去した前景の兩素値を算出する。例えば、補正部 9 0 5は、演算部 9 04から供給された前景の成分 FOl/v乃至 F08/vが供給されたとき、前景の成分 FOl/v 乃至 F08/vのそれぞれに、 5である動き量 Vを乗じることにより、図 8 3に示すように、動きボケを除去した前景の画素値 F01乃至 F08を算出する。補正部 9 0 5は、以上のように算出された、動きボケを除去した前景の画素値から成る前景成分画像を動きボケ付加部 9 0 6および選択部 9 0 7に供給する。動きボケ付加部 9 0 6は、動き量 Vとは異なる値の動きボケ調整量 v'、例えば、動き量 Vの半分の値の動きボケ調整量 v '、動き量 Vと無関係の値の動きボケ調整量 v'で、動きボケの量を調整することができる。例えば、図 7 6に示すように、動きボケ付加部 9 0 6は、動きボケが除去された前景の画素値 Fiを動きボケ調整量 v'で除すことにより、前景成分 Fi/v'を算出して、前景成分

Fi/v'の和を算出して、動きボケの量が調整された画素値を生成する。例えば、動きボケ調整量 v'が 3のとき、画素値 C02は、（F01 ) /v'とされ、画素値 C03 は、（F01+F02) /v'とされ、画素値 C04は、（F01+F02+F03) /v'とされ、画素値 C05は、 (F02+F03+F04) /v'とされる。

動きボケ付加部 9 0 6は、動きボケの量を調整した前景成分画像を選択部 9 0 7に供給する。

選択部 9 0 7は、例えば使用者の選択に対応した選択信号を基に、補正部 9 0 5から供給された動きボケが除去された前景成分画像、および動きボケ付加部 9 0 6から供給された動きボケの量が調整された前景成分画像のいずれか一方を選択して、選択した前景成分画像を出力する。

次に、図 8 0に構成を示す動きボケ調整部 1 0 6による前景の動きボケの量の調整の処理を図 8 4のフローチヤ一トを参照して説明する。

ステップ S 9 0 1において、動きボケ調整部 1 0 6の処理単位決定部 9 0 1は, 動きべクトルおよび領域情報を基に、処理単位を生成し、生成した処理単位をモデル化部 9 0 2およぴ補正部 9 0 5に供給する。

ステップ S 9 0 2において、動きボケ調整部 1 0 6のモデル化部 9 0 2は、動き量 Vおよび処理単位に対応して、モデルの選択や生成を行う。ステップ S 9 0 3において、方程式生成部 9 0 3は、選択または生成されたモデルを基に、前景成分画像の画素値の差により前景の成分を算出するための方程式を生成する。ステップ S 9 0 4において、演算部 9 0 4は、作成された方程式に前景成分画像の画素値を設定し、画素値が設定された方程式を基に、画素値の差分から前景の成分を抽出する。ステップ S 9 0 5において、演算部 9 0 4は、処理単位に対応する全ての前景の成分を抽出したか否かを判定し、処理単位に対応する全ての前景の成分を抽出していないと判定された場合、ステップ S 9 0 4に戻り、前景の成分を抽出の処理を繰り返す。

ステップ S 9 0 5において、処理単位に対応する全ての前景の成分を抽出したと判定された場合、ステップ S 9 0 6に進み、補正部 9 0 5は、動き量 Vを基に、演算部 9 0 4から供給された前景の成分 FO l/v乃至 F08/vのそれぞれを補正して、動きボケを除去した前景の画素値 F01乃至 F08を算出する。

ステップ S 9 0 7において、動きボケ付加部 9 0 6は、動きボケの量を調整した前景の画素値を算出して、選択部 9 0 7は、動きボケが除去された画像または動きボケの量が調整された画像のいずれかを選択して、選択した画像を出力して、処理は終了する。

このように、図 8 0に構成を示す動きボケ調整部 1 0 6は、より簡単な演算で、より迅速に、動きボケを含む前景画像から動きボケを調整することができる。

ウイナー ' フィルタなど従来の動きボケを部分的に除去する手法が、理想状態では効果が認められるが、量子化され、ノイズを含んだ実際の画像に対して十分な効果が得られないのに対し、図 8 0に構成を示す動きボケ調整部 1 0 6においても、量子化され、ノイズを含んだ実際の画像に対しても十分な効果が認められ、精度の良い動きボケの除去が可能となる。

図 8 5は、画像処理装置の機能の他の構成を示すブロック図である。

図 2に示す部分と同様の部分には同一の番号を付してあり、その説明は適宜省略する。

領域特定部 1 0 3は、領域情報を混合比算出部 1 0 4および合成部 1 0 0 1に供給する。混合比算出部 1 0 4は、混合比ひを前景背景分離部 1 0 5および合成部 1 0 0 1に供給する。

前景背景分離部 1 0 5は、前景成分画像を合成部 1 0 0 1に供給する。

合成部 1 0 0 1は、混合比算出部 1 0 4から供給された混合比ひ、領域特定部 1 0 3から供給された領域情報を基に、任意の背景画像と、前景背景分離部 1 0 5から供給された前景成分画像とを合成して、任意の背景画像と前景成分画像とが合成された合成画像を出力する。

図 8 6は、合成部 1 0 0 1の構成を示す図である。背景成分生成部 1 0 2 1は, 混合比ひおよび任意の背景画像を基に、背景成分画像を生成して、混合領域画像合成部 1 0 2 2に供給する。

混合領域画像合成部 1 0 2 2は、背景成分生成部 1 0 2 1から供給された背景成分画像と前景成分画像とを合成することにより、混合領域合成画像を生成して- 生成した混合領域合成画像を画像合成部 1 0 2 3に供給する。

画像合成部 1 0 2 3は、領域情報を基に、前景成分画像、混合領域画像合成部 1 0 2 2から供給された混合領域合成画像、および任意の背景画像を合成して、合成画像を生成して出力する。

このように、合成部 1 0 0 1は、前景成分画像を、任意の背景画像に合成することができる。

特徴量である混合比ひを基に前景成分画像を任意の背景画像と合成して得られた画像は、単に画素を合成した画像に比較し、より自然なものと成る。

図 8 7は、動きボケの量を調整する画像処理装置の機能の更に他の構成を示すプロック図である。図 2に示す画像処理装置が領域特定と混合比ひの算出を順番に行うのに対して、図 8 7に示す画像処理装置は、領域特定と混合比の算出を並行して行う。

図 2のブロック図に示す機能と同様の部分には同一の番号を付してあり、その説明は省略する。

入力画像は、混合比算出部 1 1 0 1、前景背景分離部 1 1 0 2、領域特定部 1 0 3、およびオブジェクト抽出部 1 0 1に供給される。

混合比算出部 1 1 0 1は、入力画像を基に、画素がカバードバックグラウンド領域に属すると仮定した場合における推定混合比、および画素がアンカバードバックグラウンド領域に属すると仮定した場合における推定混合比を、入力画像に含まれる画素のそれぞれに対して算出し、算出した画素がカバ一ドバックグラウンド領域に属すると仮定した場合における推定混合比、および画素がアンカバードバックグラウンド領域に属すると仮定した場合における推定混合比を前景背景分離部 1 1 0 2に供給する。

図 8 8は、混合比算出部 1 1 0 1の構成の一例を示すブロック図である。

図 8 8に示す推定混合比処理部 4 0 1は、図 4 7に示す推定混合比処理部 4 0 1と同じである。図 8 8に示す推定混合比処理部 4 0 2は、図 4 7に示す推定混合比処理部 4 0 2と同じである。

推定混合比処理部 4 0 1は、入力画像を基に、カバードバックグラウンド領域のモデルに対応する演算により、画素毎に推定混合比を算出して、算出した推定混合比を出力する。

推定混合比処理部 4 0 2は、入力画像を基に、アンカバードバックグラウンド領域のモデルに対応する演算により、画素毎に推定混合比を算出して、算出した推定混合比を出力する。

前景背景分離部 1 1 0 2は、混合比算出部 1 1 0 1から供給された、画素が力バードバックグラウンド領域に属すると仮定した場合における推定混合比、および画素がアンカバードバックグラウンド領域に属すると仮定した場合における推定混合比、並びに領域特定部 1 0 3から供給された領域情報を基に、入力画像から前景成分画像を生成し、生成した前景成分画像を動きボケ調整部 1 0 6および選択部 1 0 7に供給する。

図 8 9は、前景背景分離部 1 1 0 2の構成の一例を示すブロック図である。図 6 4に示す前景背景分離部 1 0 5と同様の部分には同一の番号を付してありその説明は省略する。選択部 1 1 2 1は、領域特定部 1 0 3から供給された領域情報を基に、混合比算出部 1 1 0 1から供給された、画素がカバードバックグラウンド領域に属すると仮定した場合における推定混合比、および画素がアンカバードバックグラウンド領域に属すると仮定した場合における推定混合比のいずれか一方を選択して、選択した推定混合比を混合比ひとして分離部 6 0 1に供給する。

分離部 6 0 1は、選択部 1 1 2 1から供給された混合比ひおよび領域情報を基に、混合領域に属する画素の画素値から前景の成分および背景の成分を抽出し、抽出した前景の成分を合成部 6 0 3に供給すると共に、背景の成分を合成部 6 0 5に供給する。

分離部 6 0 1は、図 6 9に示す構成と同じ構成とすることができる。

合成部 6 0 3は、前景成分画像を合成して、出力する。合成部 6 0 5は、背景成分画像を合成して出力する。

図 8 7に示す動きボケ調整部 1 0 6は、図 2に示す場合と同様の構成とすることができ、領域情報および動きべクトルを基に、前景背景分離部 1 1 0 2から供給された前景成分画像に含まれる動きボケの量を調整して、動きボケの量が調整された前景成分画像を出力する。

図 8 7に示す選択部 1 0 7は、例えば使用者の選択に対応した選択信号を基に. 前景背景分離部 1 1 0 2から供給された前景成分画像、および動きボケ調整部 1 0 6から供給された動きボケの量が調整された前景成分画像のいずれか一方を選択して、選択した前景成分画像を出力する。

このように、図 8 7に構成を示す画像処理装置は、入力画像に含まれる前景のオブジェクトに対応する画像に対して、その画像に含まれる動きボケの量を調整して出力することができる。図 8 7に構成を示す画像処理装置は、第 1の実施例と同様に、埋もれた情報である混合比ひを算出して、算出した混合比を出力することができる。

図 9 0は、前景成分画像を任意の背景画像と合成する画像処理装置の機能の他の構成を示すブロック図である。図 8 5に示す画像処理装置が領域特定と混合比ひの算出をシリアルに行うのに対して、図 9 0に示す画像処理装置は、領域特定と混合比の算出をパラレルに行う。

図 8 7のプロック図に示す機能と同様の部分には同一の番号を付してあり、その説明は省略する。

図 9 0に示す混合比算出部 1 1 0 1は、入力画像を基に、画素がカバードバックグラウンド領域に属すると仮定した場合における推定混合比、および画素がァンカバードバックグラウンド領域に属すると仮定した場合における推定混合比を、入力画像に含まれる画素のそれぞれに対して算出し、算出した画素がカバードバックグラウンド領域に属すると仮定した場合における推定混合比、および画素がアンカバードバックグラウンド領域に属すると仮定した場合における推定混合比を前景背景分離部 1 1 0 2および合成部 1 2 0 1に供給する。

図 9 0に示す前景背景分離部 1 1 0 2は、混合比算出部 1 1 0 1から供給された、画素がカバードバックグラウンド領域に属すると仮定した場合における推定混合比、および画素がアンカバードバックグラウンド領域に属すると仮定した場合における推定混合比、並びに領域特定部 1 0 3から供給された領域情報を基に- 入力画像から前景成分画像を生成し、生成した前景成分画像を合成部 1 2 0 1に供給する。

合成部 1 2 0 1は、混合比算出部 1 1 0 1から供給された、画素がカバードバックグラウンド領域に属すると仮定した場合における推定混合比、および画素がアンカバードバックグラウンド領域に属すると仮定した場合における推定混合比, 領域特定部 1 0 3から供給された領域情報を基に、任意の背景画像と、前景背景分離部 1 1 0 2から供給された前景成分画像とを合成して、任意の背景画像と前景成分画像とが合成された合成画像を出力する。

図 9 1は、合成部 1 2 0 1の構成を示す図である。図 8 6のプロック図に示す機能と同様の部分には同一の番号を付してあり、その説明は省略する。

選択部 1 2 2 1は、領域特定部 1 0 3から供給された領域情報を基に、混合比算出部 1 1 0 1から供給された、画素がカバードバックグラウンド領域に属すると仮定した場合における推定混合比、および画素がアンカバードバックグラウンド領域に属すると仮定した場合における推定混合比のいずれか一方を選択して、選択した推定混合比を混合比ひとして背景成分生成部 1 0 2 1に供給する。図 9 1に示す背景成分生成部 1 0 2 1は、選択部 1 2 2 1から供給された混合比ひおよび任意の背景画像を基に、背景成分画像を生成して、混合領域画像合成部 1 0 2 2に供給する。

図 9 1に示す混合領域画像合成部 1 0 2 2は、背景成分生成部 1 0 2 1から供給された背景成分画像と前景成分画像とを合成することにより、混合領域合成画像を生成して、生成した混合領域合成画像を画像合成部 1 0 2 3に供給する。画像合成部 1 0 2 3は、領域情報を基に、前景成分画像、混合領域画像合成部 1 0 2 2から供給された混合領域合成画像、および任意の背景画像を合成して、合成画像を生成して出力する。

このように、合成部 1 2 0 1は、前景成分画像を、任意の背景画像に合成することができる。

次に、コンポーネント信号として入力される入力画像を処理する本発明に係る画像処理装匱について説明する。

この明細書において、コンポーネントとは、コンポーネント信号における、輝度信号および色差信号、または R G B (Red-green-blue) 信号などの個別の信号をいう。

以下の説明において、コンポーネント 1は、輝度値 Yとし、コンポーネント 2は、色差 Uとし、コンポーネント 3は、色差 Vとした例を基に説明する。図 9 2は、コンポーネント信号として入力される入力画像を基に、領域情報を生成する画像処理装置の一実施の形態を示す図である。

入力画像のコンポーネント信号の 1つであるコンポーネント 1は、領域特定部 1 0 3— 1に入力される。入力画像のコンポーネント信号の他の 1つであるコンポーネント 2は、領域特定部 1 0 3 _ 2に入力される。入力画像のコンポーネント信号のさらに他の 1つであるコンポーネント 3は、領域特定部 1 0 3— 3に入力される。

領域特定部 1 0 3— 1は、コンポーネント 1を基に、領域情報 1を生成し、生成した領域情報 1を論理和処理部 1 3 0 1に供給する。領域特定部 1 0 3— 1は, 領域特定部 1 0 3と同様の構成を有するので、その説明は省略する。

領域特定部 1 0 3— 2は、コンポーネント 2を基に、領域情報 2を生成し、生成した領域情報 2を論理和処理部 1 3 0 1に供給する。領域特定部 1 0 3— 2は、領域特定部 1 0 3と同様の構成を有するので、その説明は省略する。

領域特定部 1 0 3— 3は、コンポーネント 3を基に、領域情報 3を生成し、生成した領域情報 3を論理和処理部 1 3 0 1に供給する。領域特定部 1 0 3— 3は- 領域特定部 1 0 3と同様の構成を有するので、その説明は省略する。

論理和処理部 1 3 0 1は、領域特定部 1 0 3— 1から供給された領域情報 1、領域特定部 1 0 3— 2から供給された領域情報 2、および領域特定部 1 0 3— 3 から供給された領域情報 3を基に、領域情報 1が示す前景領域、領域情報 2が示す前景領域、および領域情報 3が示す前景領域の論理和を演算して、論理和により演算された前景領域を設定した領域情報を生成する。論理和処理部 1 3 0 1は, 領域特定部 1 0 3 — 1から供給された領域情報 1、領域特定部 1 0 3 — 2から供給された領域情報 2、および領域特定部 1 0 3— 3から供給された領域情報 3を基に、領域情報 1が示す背景領域、領域情報 2が示す背景領域、および領域情報 3が示す背景領域の論理和を演算して、論理和により演算された背景領域を設定した領域情報を生成する。

論理和処理部 1 3 0 1は、領域特定部 1 0 3— 1から供給された領域情報 1、領域特定部 1 0 3— 2から供給されだ領域情報 2、および領域特定部 1 0 3— 3 から供給された領域情報 3を基に、領域情報 1が示すカバードバックグラウンド領域、領域情報 2が示すカバードバックグラウンド領域、および領域情報 3が示すカバードバックグラウンド領域の論理和を演算して、論理和により演算されたカバードバックグラウンド領域を設定した領域情報を生成する。論理和処理部 1

3 0 1は、領域特定部 1 0 3— 1から供給された領域情報 1、領域特定部 1 0 3 — 2から供給された領域情報 2、および領域特定部 1 0 3— 3から供給された領域情報 3を基に、領域情報 1が示すアンカバードバックグラウンド領域、領域情報 2が示すァンカバードバックグラウンド領域、および領域情報 3が示すァンカバードバックグラウンド領域の論理和を演算して、論理和により演算されたアンカバードバックグラウンド領域を設定した領域情報を生成する。

論理和処理部 1 3 0 1は、前景領域、背景領域、カバードバックグラウンド領域、およびアンカバードバックグラウンド領域が設定された領域情報を出力する, 図 9 3は、コンポーネント信号に含まれる、コンポーネント 1、コンポーネント 2、およびコンポーネント 3の関係を説明する図である。図 9 3において、 A は、コンポーネント 1を示し、 Bは、コンポーネント 2を示し、 Cは、コンポ一ネント 3を示す。

センサは、コンポーネント 1、コンポーネント 2、およびコンポーネント 3に対応する、例えば、 3つの CCDエリアセンサを有する。コンポーネント 1に対応する CCDェリァセンサの特性、コンポーネント 2に対応する CCDェリァセンサの特性、およびコンポーネント 3に対応する CCDエリアセンサの特性は、同一であり、コンポーネント 1、コンポーネント 2、およびコンポーネント 3に生じる歪みは、同一である。

センサは、 1つの前景に対応するォブジェクト 1 1 1および 1つの背景に対応するオブジェクト 1 1 2を撮像して、コンポーネント 1、コンポーネント 2、およびコンポーネント 3を出力する。

1つの前景に対応するォブジェクト 1 1 1および 1つの背景に対応するォブジェクト 1 1 2を含む現実世界は、 1つであって、現実世界で生じている現象は、 1つである。すなわち、例えば、前景に対応するオブジェクト 1 1 1の形状は、 1つであり、前景に対応するオブジェクト 1 1 1の動きは、 1つである。

従って、 1つの前景に対応するオブジェクト 1 1 1および 1つの背景に対応するォブジェクト 1 1 2をセンサで撮像したとき、コンポーネント 1の前景領域、背景領域、および混合領域、並びに混合比 α、コンポーネント 2の前景領域、背景領域、および混合領域、並びに混合比ひ、並びにコンポーネント 3の前景領域、背景領域、および混合領域、並びに混合比ひは、それぞれ同一である。

しかしながら、コンポーネント 1、コンポーネント 2、およびコンポーネント 3を基に、それぞれを同一の処理を行って、それぞれに、同一の領域情報および混合比 αを算出できるとは限らない。

例えば、色差信号であるコンポーネント 3に対応する色差信号がほぼ 0となる色彩を有する、前景に対応するオブジェクト 1 1 1および背景に対応するォブジェクト 1 1 2を撮像したとき、輝度信号であるコンポーネント 1および色差信号であるコンポーネント 2は、有効な値を含むが、色差信号であるコンポーネント 3は、有効な値をほとんど含まない。このような場合、コンポーネント 3を基に、領域信号および混合比ひを算出しても、有意な値を求めることはできない。

また、例えば、輝度信号であるコンポーネント 1が時間方向および空間方向にほとんど変化せず、色差信号のみが時間方向または空間方向の変化するとき、コンポーネント 1を基に、領域信号および混合比ひを算出しても、有意な値を求めることはできず、コンポーネント 2またはコンポーネント 3を基に、領域信号および混合比 αを算出すれば、有意な値を求めることができる。

また、特定のコンポーネントに対応する CCDエリアセンサがエラーを起こす場合があり得る。

以上のように、算出しょうとする 1つの領域情報および混合比ひに対応する、複数のコンポーネントを使用して処理を実行することにより、例えば、 1つのコンポーネント信号または 1つのコンポジット信号を使用した処理に比較して、より精度の高い結果が得られる。

また、複数のコンポーネントを使用して統計処理を行うとき、データが増えるので、処理結果の精度がより向上する。また、例えば、複数のコンポーネントに最小自乗法を適用して算出された混合比 αの精度は、 1つのコンポーネント信号または 1つのコンポジット信号を使用した処理により算出された混合比 αの精度に比較して、より高い。次に、図 9 4のフローチャートを参照して、図 9 2に構成を示す画像処理装置による、コンポーネント信号を利用した領域判定の処理を説明する。

ステップ S 1 3 0 1において、領域特定部 1 0 3— 1は、コンポーネント 1を基に、領域特定の処理を実行して、領域情報 1を生成し、生成した領域情報 1を論理和処理部 1 3 0 1に供給する。ステップ S 1 3 0 1の処理は、ステップ S 1 1の処理と同様なので、その詳細の説明は省略する。

ステップ S 1 3 0 2において、領域特定部 1 0 3— 2は、コンポーネント 2を基に、領域特定の処理を実行して、領域情報 2を生成し、生成した領域情報 2を論理和処理部 1 3 0 1に供給する。ステップ S 1 3 0 2の処理は、ステップ S 1 1の処理と同様なので、その詳細の説明は省略する。

ステップ S 1 3 0 3において、領域特定部 1 0 3 _ 3は、コンポーネント 3を基に、領域特定の処理を実行して、領域情報 3を生成し、生成した領域情報 3を論理和処理部 1 3 0 1に供給する。ステップ S 1 3 0 3の処理は、ステップ S 1 1の処理と同様なので、その詳細の説明は省略する。

ステップ S 1 3 0 4において、論理和処理部 1 3 0 1は、コンポーネント 1により特定された前景領域、コンポーネント 2により特定された前景領域、およびコンポーネント 3により特定された前景領域の論理和を求めて、論理和により演算された前景領域を領域情報に設定する。

ステップ S 1 3 0 5において、論理和処理部 1 3 0 1は、コンポーネント 1により特定された背景領域、コンポーネント 2により特定された背景領域、およびコンポーネント 3により特定された背景領域の論理和を求めて、論理和により演算された背景領域を領域情報に設定する。

ステップ S 1 3 0 6において、論理和処理部 1 3 0 1は、コンポーネント 1により特定されたカバードバックグラウンド領域、コンポーネント 2により特定されたカバードバックグラウンド領域、およびコンポーネント 3により特定されたカバードバックグラウンド領域の論理和を求めて、論理和により演算されたカバ一ドバックグラウンド領域を領域情報に設定する。ステップ S I 3 0 7において、論理和処理部 1 3 0 1は、コンポーネント 1により特定されたアンカバードバックグラウンド領域、コンポーネント 2により特定されたアンカバードバックグラウンド領域、およびコンポーネント 3により特定されたアンカバードバックグラウンド領域の論理和を求めて、論理和により演算されたアンカバードバックグラウンド領域を領域情報に設定する。論理和処理部 1 3 0 1は、前景領域、背景領域、カバードバックグラウンド領域、およびァンカバードバックグラウンド領域を設定した領域情報を出力して、処理は終了する。

このように、図 9 2に構成を示す画像処理装置は、コンポーネント信号の各コンポーネント毎に領域を特定し、特定された領域の論理和を求めて最終的な領域情報を生成する。図 9 2に構成を示す画像処理装置は、前景領域、背景領域、力バードバックグラウンド領域、およびアンカバードバックグラウンド領域の各領域を漏らさず特定した領域情報を出力することができる。

図 9 2に示す場合と同様の部分には同一の番号を付してあり、その説明は省略する。

論理積処理部 1 3 2 1は、領域特定部 1 0 3— 1から供給された領域情報 1、領域特定部 1 0 3— 2から供給された領域情報 2、および領域特定部 1 0 3— 3 から供給された領域情報 3を基に、領域情報 1が示す前景領域、領域情報 2が示す前景領域、および領域情報 3が示す前景領域の論理積を演算して、論理積により演算された前景領域を設定した領域情報を生成する。論理積処理部 1 3 2 1は、領域特定部 1 0 3— 1から供給された領域情報 1、領域特定部 1 0 3— 2から供給された領域情報 2、および領域特定部 1 0 3— 3から供給された領域情報 3を基に、領域情報 1が示す背景領域、領域情報 2が示す背景領域、および領域情報 3が示す背景領域の論理積を演算して、論理積により演算された背景領域を設定した領域情報を生成する。論理積処理部 1 3 2 1は、領域特定部 1 0 3— 1から供給された領域情報 1、領域特定部 1 0 3— 2から供給された領域情報 2、および領域特定部 1 0 3— 3 から供給された領域情報 3を基に、領域情報 1が示すカバードバックグラウンド領域、領域情報 2が示すカバードバックグラウンド領域、および領域情報 3が示すカバードバックグラウンド領域の論理積を演算して、論理積により演算されたカバードバックグラウンド領域を設定した領域情報を生成する。論理積処理部 1 3 2 1は、領域特定部 1 0 3— 1から供給された領域情報 1、領域特定部 1 0 3 一 2から供給された領域情報 2、および領域特定部 1 0 3— 3から供給された領域情報 3を基に、領域情報 1が示すアンカバードバックグラウンド領域、領域情報 2が示すアンカバードバックグラウンド領域、および領域情報 3が示すアンカバードバックグラウンド領域の論理積を演算して、論理積により演算されたアンカバードバックグラウンド領域を設定した領域情報を生成する。

論理積処理部 1 3 2 1は、前景領域、背景領域、カバードバックグラウンド領域、およびアンカバードバックグラウンド領域が設定された領域情報を出力する, 次に、図 9 6のフローチャートを参照して、図 9 5に構成を示す画像処理装置による、コンポーネントを利用した領域判定の処理を説明する。

ステップ S 1 3 2 1において、領域特定部 1 0 3— 1は、コンポーネント 1を基に、領域特定の処理を実行して、領域情報 1を生成し、生成した領域情報 1を論理積処理部 1 3 2 1に供給する。ステップ S 1 3 2 1の処理は、ステップ S 1 1の処理と同様なので、その詳細の説明は省略する。

ステップ S 1 3 2 2において、領域特定部 1 0 3— 2は、コンポーネント 2を基に、領域特定の処理を実行して、領域情報 2を生成し、生成した領域情報 2を論理積処理部 1 3 2 1に供給する。ステップ S 1 3 2 2の処理は、ステップ S 1 1の処理と同様なので、その詳細の説明は省略する。

ステップ S 1 3 2 3において、領域特定部 1 0 3— 3は、コンポーネント 3を基に、領域特定の処理を実行して、領域情報 3を生成し、生成した領域情報 3を論理積処理部 1 3 2 1に供給する。ステップ S 1 3 2 3の処理は、ステップ S 1 1の処理と同様なので、その詳細の説明は省略する。

ステップ S 1 3 2 4において、論理積処理部 1 3 2 1は、コンポーネント 1により特定された前景領域、コンポーネント 2により特定された前景領域、およびコンポーネント 3により特定された前景領域の論理積を求めて、論理積により演算された前景領域を領域情報に設定する。

ステップ S 1 3 2 5において、論理積処理部 1 3 2 1は、コンポーネント 1により特定された背景領域、コンポーネント 2により特定された背景領域、およびコンポーネント 3により特定された背景領域の論理積を求めて、論理積により演算された背景領域を領域情報に設定する。

ステップ S 1 3 2 6において、論理積処理部 1 3 2 1は、コンポーネント 1により特定されたカバードバックグラウンド領域、コンポーネント 2により特定されたカバードバックグラウンド領域、およびコンポーネント 3により特定されたカバードバックグラウンド領域の論理積を求めて、論理積により演算されたカバ一ドバックグラウンド領域を領域情報に設定する。

ステップ S 1 3 2 7において、論理積処理部 1 3 2 1は、コンポーネント 1により特定されたアンカバードバックグラウンド領域、コンポーネント 2により特定されたアンカバードバックグラウンド領域、およびコンポーネント 3により特定されたアンカバードバックグラウンド領域の論理積を求めて、論理積により演算されたアンカバードバックグラウンド領域を領域情報に設定する。論理積処理部 1 3 2 1は、前景領域、背景領域、カバードバックグラウンド領域、およびァンカバードバックグラウンド領域を設定した領域情報を出力して、処理は終了する。

このように、図 9 5に構成を示す画像処理装置は、各コンポーネント毎に領域を特定し、特定された領域の論理積を求めて最終的な領域情報を生成する。図 9 5に構成を示す画像処理装置は、エラーの少ない領域情報を出力することができる。

領域特定部 1 3 3 1は、入力されたコンポーネント信号に含まれるコンポーネント 1、コンポーネント 2、およびコンポーネント 3を画素毎に加算し、画素毎に加算されたコンポーネント 1、コンポーネント 2、およびコンポーネント 3を基に、画素毎に、動き領域であるか、または静止領域であるかを判定する。領域特定部 1 3 3 1は、動き領域または静止領域の判定の結果を基に、領域情報を生成し、生成した領域情報を出力する。

図 9 8乃至図 1 0 2を参照して、領域特定部 1 3 3 1の処理を説明する。画像の統計的な性質から、図 9 8に示すように、画像の静止領域において、時間相関は、空間相関に比較して強い。また、画像の動き領域において、逆に、空間相関は、時間相関に比較して強い。

領域特定部 1 3 3 1は、動き領域または静止領域の判定のための空間相関を算出するとき、図 9 9に示すように、例えば、注目している画素を中心として、 5 画素 X 5画素のブロックの画素について、隣り合う画素の画素値の差分を算出して、算出した差分の絶対値の総和を求める。領域特定部 1 3 3 1は、算出した差分の絶対値の総和を、差分の数で除算することにより、空間相関に対応する相関値を算出する。

例えば、領域特定部 1 3 3 1は、注目している画素が x33であって、プロックに含まれる画素の画素値が x l l乃至 x55であるとき、式（1 1 9 ) に示す、隣り合う画素の画素値の差分の絶対値の総和である差分絶対値和を算出する。差分絶対値和 = \(xU-xl2)\+\(xU-xl3)\+\(xl3-xl4)\+-

+ |(jdU )|+|(jcl/-jdJ)|+|(Jci/ - x4J)|十… + I (x25-x35)\+\(x35-x45)\+\(x45-x55) \

(U9)

領域特定部 1 3 3 1は、差分絶対値和を、差分の数、すなわち、 40で除算することにより、空間相関に対応する相関値を算出する。また、領域特定部 1 3 3 1は、動き領域または静止領域の判定のための時間相関を算出するとき、注目する画素の画素値と、前のフレームの対応する位置の画素の画素値との差分を算出すると共に、注目する画素の画素値と、次のフレームの対応する位置の画素の画素値との差分を算出する。より強い相関を示す差分を使用して、境界において、領域が広く判定されることを防止するため、領域特定部 1 3 3 1は、前のフレームの対応する位置の画素の画素値との差分、および前のフレームの対応する位置の画素の画素値との差分のうち、値の小さい差分を選択する。

領域特定部 1 3 3 1は、選択した差分の絶対値の総和を求める。領域特定部 1 3 3 1は、算出した差分の絶対値の総和を、差分の数で除算することにより、時間相関に対応する相関値を算出する。

例えば、領域特定部 1 3 3 1は、注目しているフレームがフレーム #nであるとき、図 1 0 0に示すように、例えば、注目している画素 x22を中心として、 3画素 X 3画素のプロックのそれぞれの画素について差分の算出する。

領域特定部 1 3 3 1は、フレーム #nの画素の画素値 xll と、フレーム ίίη-lの対応する位置の画素の画素値 xll との差分、およびフレーム #nの画素の画素値 xll と、フレーム #n+l の対応する位置の画素の画素値 xll との差分を算出する _c 領域特定部 1 3 3 1は、フレーム #n-lの対応する位置の画素の画素値 xll との差分、およびフレーム #n+l の対応する位置の画素の画素値 xll との差分のうち, 値の小さい差分を選択する。

同様に、領域特定部 1 3 3 1は、フレーム #nの画素の画素値 xl2乃至 x33のそれぞれと、フレーム ίίη- 1の対応する位置の画素の画素値 χ12乃至 χ33のそれぞれとの差分、およびフレームの画素の画素値 χ12乃至 χ33のそれぞれと、フレーム +1の対応する位置の画素の画素値 χ12乃至 χ33のそれぞれとの差分を算出する。領域特定部 1 3 3 1は、フレーム ίίη-lの対応する位置の画素の画素値 χ12乃至 χ33のそれぞれとの差分、およびフレーム #η+1の対応する位置の画素の画素値 χ12乃至 χ33のそれぞれとの対応する差分のうち、値の小さい差分を選択する。

領域特定部 1 3 3 1は、選択した 9つの差分の絶対値の総和を求める。領域特定部 1 3 3 1は、算出した差分の絶対値の総和を、差分の数、すなわち 9で除算することにより、時間相関に対応する相関値を算出する。

なお、領域特定部 1 3 3 1は、 1つの画素毎に時間相関および空間相関を算出するようにしてもよレ、。また、領域特定部 1 3 3 1は、時間相関および空間相関を示す値として、差分絶対値和に限らず、差分自乗和などその他の相関を示す値を算出するようにしてもよレ、。

なお、時間相関および空間相関を算出するブロックに含まれる画素の数は、本発明を限定するものではない。

図 1 0 1は、静止領域における時間相関および空間相関を説明する図である。例えば、静止領域において、画像が静止しているので、注目している画素の画素値 Jは、隣接するフレームにおける、位置が対応する画素の画素値 Jと同一である。従って、静止領域において、時間相関は、極めて強い。

これに対して、注目している画素に隣接する画素は、画素値 Jと異なる、画素値 Iまたは画素値 κを有する。

このように、静止領域において、空間相関は、時間相関に比較して、弱い。図 1 0 2は、動き領域における時間相関および空間相関を説明する図である。例えば、動き領域の、注目している画素に含まれる画像の成分 1/4， J/4，K/4、および L/4のうち、画像の成分 1/4， J/4、および K/4は、隣の画素に含まれ、画像の成分 J/4, K/4、および L/4は、他の隣の画素に含まれる。従って、動き領域において、空間相関は、強い。

これに対して、注目している画素に対応する、隣接するフレームの画素は、異なる画像の成分を含む。

このように、動き領域において、時間相関は、空間相関に比較して、弱い。以上のように、領域特定部 1 3 3 1は、空間相関および時間相関を求めて、空間相関と時間相関を比較することにより、注目画素が動き領域に含まれるか、または静止領域に含まれるかを知ることができる。

領域特定部 1 3 3 1は、フレームに含まれる全ての画素について、動き領域または静止領域の判定を実行する。

領域特定部 1 3 3 1は、動き領域または静止領域の判定の結果を基に、画素毎に、前景領域、背景領域、カバードバックグラウンド領域、およびアンカバードバックグラウンド領域のいずれかに属するかを判定して、領域情報を生成する。例えば、前景領域と同一の領域が動き領域として判定されるとき、領域特定部 1 3 3 1は、以下のように、画素毎に、前景領域、背景領域、カバードバックグラウンド領域、およびアンカバードバックグラウンド領域を判定する。領域特定部 1 3 3 1は、フレーム ί!ηの注目している画素が動きと判定されたとき、フレームの注目している画素が前景領域に属すると判定する。

領域特定部 1 3 3 1は、フレームの注目している画素が静止と判定され、フレームの注目している画素の画像上の位置と同一の位置にあるフレーム #η+ 1の画素が動きと判定されたとき、フレーム #ηの注目している画素がカバードバックグラウンド領域に属すると判定する。

領域特定部 1 3 3 1は、フレームの注目している画素が静止と判定され、フレーム ftnの注目している画素の画像上の位置と同一の位置にあるフレーム fin- 1の画素が動きと判定されたとき、フレーム ttnの注目している画素がアンカバードバックグラウンド領域に属すると判定する。

領域特定部 1 3 3 1は、静止と判定され、カバードバックグラウンド領域またはアンカバードバックグラウンド領域に属さない画素を背景領域に属すると判定する。

なお、前景領域および混合領域からなる領域が動き領域として判定されるとき領域特定部 1 3 3 1は、隣接するフレームの静止領域を参照して、画素毎に、前景領域、背景領域、力バ一ドバックグラウンド領域、およびアンカバードバックグラウンド領域を判定する。

図 1 0 3乃至図 1 0 6を参照して、処理結果の例について説明する。図 1 0 3は、領域特定部 1 3 3 1に入力されたコンポーネント 1、コンポーネント 2、およびコンポーネント 3に対応する入力画像の例を示す図である。

図 1 0 4は、図 1 0 3に示す入力画像に対応して、領域特定部 1 3 3 1力 1 画素毎に、動き領域または静止領域を判定した結果を示す図である。図 1 0 4において、白は、動き領域を示し、黒は、静止領域を示す。誤判定されている部分があるが、動き領域または静止領域が、全体として、ほぼ特定されていることがわ力る。

図 1 0 5は、図 1 0 3に示す入力画像に対応して、領域特定部 1 3 3 1力 1 5画素 X 1 5画素のブロックを単位として、動き領域または静止領域を判定した結果を示す図である。図 1 0 5において、白は、動き領域を示し、黒は、静止領域を示す。動き領域または静止領域が、ほぼ正確に特定されていることがわかる, 図 1 0 6は、図 1 0 5に示す、動き領域または静止領域の判定の結果を基に、領域特定部 1 3 3 1による、前景領域、背景領域、カバードバックグラウンド領域、およびアンカバードバックグラウンド領域の判定の結果を示す図である。図 1 0 6において、 Aは、背景領域を示し、 Bは、アンカバードバックグラウンド領域を示し、 Cは、前景領域を示し、 Dは、カバードバックグラウンド領域を示す。

ほぼ正確な動き領域または静止領域の特定に基づいて、領域が判定されているので、前景領域、背景領域、カバードバックグラウンド領域、およびアンカバードバックグラウンド領域をほぼ正確に特定できていることがわかる。

次に、図 1 0 7のフローチャートを参照して、領域特定部 1 3 3 1による、コンポーネントを利用した領域判定の処理を説明する。

ステップ S 1 3 3 1において、領域特定部 1 3 3 1は、各画素毎に、コンポ一ネントの総和を算出する。

ステップ S 1 3 3 2において、領域特定部 1 3 3 1は、例えば、所定の数の画素からなるブロックを単位として、空間相関を求める。ステップ S 1 3 3 3において、領域特定部 1 3 3 1は、例えば、所定の数の画素からなるブロックを単位として、時間相関を求める。

ステップ S 1 3 3 4において、領域特定部 1 3 3 1は、各画素毎に、空間相関と時間相関とを比較して、空間相関より時間相関が強いか否かを判定し、空間相関より時間相関が強いと判定された場合、ステップ S 1 3 3 5に進み、注目している画素を静止領域と設定し、処理は、ステップ S 1 3 3 7に進む。

ステップ S 1 3 3 4において、空間相関より時間相関が強くないと判定された場合、時間相関より空間相関が強いので、ステップ S 1 3 3 6に進み、領域特定部 1 3 3 1は、注目している画素を動き領域と設定し、処理は、ステップ S 1 3 3 7に進む。

ステップ S 1 3 3 4乃至ステップ S 1 3 3 6の処理は、フレーム内の全ての画素のそれぞれについて、実行される。

ステップ S 1 3 3 7において、領域特定部 1 3 3 1は、静止または動きの設定を基に、前景領域、背景領域、カバードバックグラウンド領域、またはアンカバ ―ドバックグラウンド領域を判定し、処理は終了する。

例えば、ステップ S 1 3 3 7において、フレーム ttnの注目している画素が動きと判定されたとき、領域特定部 1 3 3 1は、フレーム #nの注目している画素が前景領域に属すると判定する。

フレーム #nの注目している画素が静止と判定され、フレーム thの注目している画素の画像上の位置と同一の位置にあるフレーム ίίη+ lの画素が動きと判定されたとき、領域特定部 1 3 3 1は、フレーム ίίηの注目している画素がカバードバックグラウンド領域に属すると判定する。

フレーム ftnの注目している画素が静止と判定され、フレーム ίίηの注目している画素の画像上の位置と同一の位置にあるフレーム ίίη-lの画素が動きと判定されたとき、領域特定部 1 3 3 1は、フレームの注目している画素がアンカバ一ドバックグラウンド領域に属すると判定する。

このように、図 9 7に示す領域特定部 1 3 3 1は、コンポーネントを基に、前景領域、背景領域、カバードバックグラウンド領域、またはアンカバードバックグラウンド領域を特定することができる。

図 1 0 8は、コンポーネント信号として入力される入力画像および領域情報を基に、混合比 αを算出する画像処理装置の一実施の形態を示す図である。

混合比算出部 1 0 4— 1は、領域情報およびコンポーネント 1を基に、混合比 1を算出し、算出した混合比 1を平均処理部 1 4 0 1に供給する。混合比算出部 1 0 4— 1は、混合比算出部 1 0 4と同様の構成を有するので、その説明は省略する。

混合比算出部 1 0 4— 2は、領域情報およびコンポーネント 2を基に、混合比 2を算出し、算出した混合比 2を平均処理部 1 4 0 1に供給する。混合比算出部 1 0 4— 2は、混合比算出部 1 0 4と同様の構成を有するので、その説明は省略する。

混合比算出部 1 0 4— 3は、領域情報およびコンポーネント 3を基に、混合比 3を算出し、算出した混合比 3を平均処理部 1 4 0 1に供給する。混合比算出部 1 0 4— 3は、混合比算出部 1 0 4と同様の構成を有するので、その説明は省略する。

平均処理部 1 4 0 1は、混合比算出部 1 0 4— 1から供給された混合比 1、混合比算出部 1 0 4— 2から供給された混合比 2、および混合比算出部 1 0 4— 3 から供給された混合比 3の平均値を算出して、算出した平均値を混合比 αとして出力する。

図 1 0 9において Αで示すように、所定の画素における、コンポーネント 1である輝度値 Yに対応する混合比ひ、コンポーネント 2である色差 Uに対応する混合比ひ、コンポーネント 3である色差 Vに対応する混合比は同一である。図 1 0 8に構成を示す画像処理装置は、コンポーネント 1、コンポーネント 2、およびコンポーネント 3を使用して混合比ひを算出することにより、より正確な混合比ひを算出することができるようになる。

図 1 1 0のフローチヤ一トを参照して、図 1 0 8に構成を示す画像処理装置による、コンポーネント信号を利用した混合比ひの算出の処理を説明する。

ステップ S 1 4 0 1において、混合比算出部 1 0 4— 1は、領域情報およびコンポーネント 1を基に、混合比 1を算出する。混合比算出部 1 0 4— 1は、算出した混合比 1を平均処理部 1 4 0 1に供給する。ステップ S 1 4 0 1の処理は、ステップ S 1 2の処理と同様なので、その詳細の説明は省略する。

ステップ S 1 4 0 2において、混合比算出部 1 0 4— 2は、領域情報およびコンポーネント 2を基に、混合比 2を算出する。混合比算出部 1 0 4— 2は、算出した混合比 2を平均処理部 1 4◦ 1に供給する。ステップ S 1 4 0 2の処理は、ステップ S 1 2の処理と同様なので、その詳細の説明は省略する。

ステップ S 1 4 0 3において、混合比算出部 1 0 4— 3は、領域情報およびコンポーネント 3を基に、混合比 3を算出する。混合比算出部 1 0 4— 3は、算出した混合比 3を平均処理部 1 4 0 1に供給する。ステップ S 1 4 0 3の処理は、ステップ S 1 2の処理と同様なので、その詳細の説明は省略する。

ステップ S 1 4 0 4において、平均処理部 1 4 0 1は、コンポ一ネント 1を基にした混合比 1、コンポーネント 2を基にした混合比 2、およびコンポーネント 3を基にした混合比 3の平均値を求めて、算出した平均値を混合比ひとして出力して、処理は終了する。

このように、図 1 0 8に構成を示す画像処理装置は、各コンポーネント毎に混合比を算出し、算出された混合比の平均値を求めて最終的な混合比ひを生成する。図 1 0 8に構成を示す画像処理装置は、 1つのコンポーネントで発生したェラーによる影響を少なくした混合比ひを算出することができる。

図 1 1 1は、コンポーネント信号として入力される入力画像および領域情報を基に、混合比 αを算出する画像処理装置の他の実施の形態を示す図である。図 1 0 8に示す場合と同様の部分には、同一の番号を付してあり、その説明は省略する。多数決処理部 1 4 1 1は、混合比算出部 1 0 4— 1から供給された混合比 1 、混合比算出部 1 0 4— 2から供給された混合比 2、および混合比算出部 1 0 4 _ 3から供給された混合比 3を予め定めた区間で分類し、区間の代表値に対応する度数を求める。多数決処理部 1 4 1 1は、代表値に対応する度数を基に、混合比 a を定めて、定めた混合比を出力する。

例えば、区間の幅が 0. 1であり、代表値が、 0. 0， 0. 1, 0. 2, 0. 3， 0. 4， 0. 5， 0. 6， 0. 7, 0. 8, 0. 9、および 1. 0であるとき、多数決処理部 1 4 1 1は、混合比 1が 0. 12であり、混合比 2が 0. 13であり、混合比 3が 0. 41であるとき、代表値 0. 1の度数を 2とし、代表値 0. 4の度数を 1とする。多数決処理部 1 4 1 1は、最も大きい度数 2に対応する代表値 0. 1を混合比ひに設定する。

図 1 1 2のフローチヤ一トを参照して、図 1 1 1に構成を示す画像処理装置による、コンポーネントを利用した混合比ひの算出の処理を説明する。

ステップ S 1 4 1 1乃至ステップ S 1 4 1 3の処理のそれぞれは、ステップ S 1 4 0 1乃至ステップ S 1 4 0 3の処理のそれぞれと同様なので、その説明は省略する。

ステップ S 1 4 1 4において、多数決処理部 1 4 1 1は、各コンポーネントの混合比を、予め定めた区間で分類し、度数を求める。

ステップ S 1 4 1 5において、多数決処理部 1 4 1 1は、度数を基に、混合比 α を定めて、処理は終了する。

このように、図 1 1 1に構成を示す画像処理装置は、各コンポーネント毎に混合比を算出し、算出された混合比の度数を基に、最終的な混合比ひを生成する, 図 1 1 1に構成を示す画像処理装置は、 1つのコンポーネントのエラ一による、大きく値が異なる混合比の影響を除去した、信頼性の高い混合比ひを算出することができる。

図 1 1 3は、コンポーネント信号として入力される入力画像および領域情報を基に、混合比ひを算出する画像処理装置のさらに他の実施の形態を示す図である, 混合比算出部 1 4 2 1は、画素毎に、入力されたコンポーネント 1、コンポ一ネント 2、およびコンポーネント 3の画素値を加算し、加算されたコンポーネント 1、コンポーネント 2、およびコンポーネント 3の画素値、並びに領域情報を基に、混合比ひを算出し、算出した混合比ひを出力する。

図 1 1 4は、混合比算出部 1 4 2 1の構成を示すブロック図である。加算部 1 4 3 1は、画素毎に、入力されたコンポーネント 1、コンポーネント 2、およびコンポーネント 3の画素値を加算し、加算された値を推定混合比処理部 4 0 1および推定混合比処理部 4 0 2に供給する。

推定混合比処理部 4 0 1は、画素毎に、コンポーネント 1、コンポーネント 2、およびコンポーネント 3の画素値が加算された値を基に、カバードバックグラゥンド領域のモデルに対応する演算により、画素毎に推定混合比を算出して、算出した推定混合比を混合比決定部 4 0 3に供給する。

カバードバックグラウンド領域に属する画素の混合比 a を示す式（2 1 ) は、コンポーネント毎に、式（1 2 0 ) 乃至式（1 2 2 ) で表現することができる。

ひ Υ = (CY-NY) I (ΡΥ-ΝΥ) ( 1 2 0 ) a\i≡ (CU-NU) / (PU-NU) ( 1 2 1 ) a Y= (CV-NV) I (PV-NV) ( 1 2 2 )

CYは、輝度値 Yであるコンポーネント 1における、フレーム #nの画素値を示す。 NYは、コンポーネント 1における、フレーム ttnの後のフレーム ίίη+lの画素値を示す。 ΡΥは、コンポーネント 1における、フレーム #ηの前のフレーム #η - 1 の画素イ直を示す。

CUは、色差 Uであるコンポーネント 2における、フレーム #η の画素値を示す _c NUは、コンポーネント 2における、フレーム ίίηの後のフレーム #n+lの画素値を示す。 PUは、コンポーネント 2における、フレーム ttnの前のフレーム #n- 1の画素値を示す。

CVは、色差 Vであるコンポーネント 3における、フレーム #nの画素値を示す _c NVは、コンポーネント 3における、フレーム #nの後のフレーム ίίη+lの画素値を示す。 PVは、コンポーネント 3における、フレーム ttnの前のフレーム #η- 1の画素値を示す。

算出しょうとする混合比ひは、コンポーネント 1乃至コンポーネント 3において、同一の値なので、式（1 2 3) が成立する。

αΥ=αυ=αν ( 1 2 3)

式（1 2 0) 乃至式（1 2 3) から式（1 2 4) を導くことができる。

(CY-NY) I (ΡΥ-ΝΥ) = (CU-NU) / (PU-NU) = (CV-NV) / (PV-NV) ( 1 2 4)

さらに、式（1 2 4) から、混合比ひを算出するための式（1 2 5) を導くことができる。

= ( (CY+CU+CV) - (NY+NU+NV) ) / ( (PY+PU+PV)― (NY+NU+NV) ) ( 1 2 5) このように、コンポーネント 1、コンポーネント 2、およびコンポーネント 3 の画素値を加算した値を基に、混合比 αを算出することができる。

推定混合比処理部 40 2は、画素毎に、コンポーネント 1、コンポーネント 2、およびコンポーネント 3の画素値が加算された値を基に、アンカバードバックグラウンド領域のモデルに対応する演算により、画素毎に推定混合比を算出して、算出した推定混合比を混合比決定部 4 0 3に供給する。

混合比決定部 40 3は、対象となる画素が前景領域に属する場合、 0を混合比 a に設定し、対象となる画素が背景領域に属する場合、 1を混合比ひに設定し、対象となる画素がカバードバックグラウンド領域に属する場合、推定混合比処理部 4 0 1から供給された推定混合比を混合比ひに設定し、対象となる画素がァンカバードバックグラウンド領域に属する場合、推定混合比処理部 40 2から供給された推定混合比を混合比ひに設定する。混合比決定部 4 0 3は、領域情報を基に設定した混合比ひを出力する。

このように、混合比算出部 1 4 2 1は、コンポーネント 1、コンポーネント 2、およびコンポーネント 3を使用して、 1つの信号を基に算出した混合比ひに比較して、より精度の高い混合比ひを算出することができる。

次に、図 1 1 5のフローチヤ一トを参照して、図 1 1 3の画像処理装置による, コンポーネント信号として入力される入力画像および領域情報を基に、混合比 α を算出する処理を説明する。ステップ S 1 4 2 1において、加算部 1 4 3 1は、画素毎に、入力されたコンポーネント 1、コンポーネント 2、およびコンポーネント 3の画素値を合計する。加算部 1 4 3 1は、合計された画素値を推定混合比処理部 4 0 1および推定混合比処理部 4 0 2に供給する。

ステップ S 1 4 2 2において、推定混合比処理部 4 0 1は、合計された画素値を基に、カバードバックグラウンド領域のモデルに対応する演算により、画素毎に推定混合比を算出する。推定混合比処理部 4 0 1は、算出した推定混合比を混合比決定部 4 0 3に供給する。ステップ S 1 4 ² 2の処理の詳細は、ステップ S 4 0 2と同様なので、その説明は省略する。

ステップ S 1 4 2 3において、推定混合比処理部 4 0 2は、合計された画素値を基に、アンカバードバックグラウンド領域のモデルに対応する演算により、画素毎に推定混合比を算出する。推定混合比処理部 4 0 2は、算出した推定混合比を混合比決定部 4 0 3に供給する。ステップ S 1 4 2 3の処理の詳細は、ステツプ S 4 0 3と同様なので、その説明は省略する。

ステップ S 1 4 2 4において、混合比算出部 1 0 4は、フレーム全体について. 混合比を推定したか否かを判定し、フレーム全体について、混合比を推定していないと判定された場合、ステップ S 1 4 2 2に戻り、次の画素について混合比を推定する処理を繰り返す。

ステップ S 1 4 2 4において、フレーム全体について、混合比を推定したと判定された場合、ステップ S 1 4 2 5に進み、混合比決定部 4 0 3は、画素が、前景領域、背景領域、カバードバックグラウンド領域、またはアンカバードバックグラウンド領域のいずれかに属するかを示す領域情報を基に、混合比ひを設定する。混合比決定部 4 0 3は、対象となる画素が前景領域に属する場合、 0を混合比 d に設定し、対象となる画素が背景領域に属する場合、 1を混合比ひに設定し、対象となる画素がカバードバックグラウンド領域に属する場合、推定混合比処理部 4 0 1から供給された推定混合比を混合比に設定し、対象となる画素がアンカバードバックグラウンド領域に属する場合、推定混合比処理部 4 0 2 から供給された推定混合比を混合比ひに設定し、処理は終了する。

このように、図 1 1 3に構成を示す画像処理装置は、領域情報、並びにコンポ一ネント 1、コンポーネント 2、およびコンポーネント 3を基に、より精度よく , 各画素に対応する特徴量である混合比ひを算出することができる。

なお、混合比ひは、画素値に含まれる背景の成分の割合として説明したが、画素値に含まれる前景の成分の割合としてもよい。

また、前景となるオブジェクトの動きの方向は左から右として説明したが、その方向に限定されないことは勿論である。

以上においては、 3次元空間と時間軸情報を有する現実空間の画像をビデオ力メラを用いて 2次元空間と時間軸情報を有する時空間への射影を行った場合を例としたが、本発明は、この例に限らず、より多くの第 1の次元の第 1の情報を、より少ない第 2の次元の第 2の情報に射影した場合に、その射影によつて発生する歪みを補正したり、有意情報を抽出したり、またはより自然に画像を合成する場合に適応することが可能である。

なお、センサは、 CCDに限らず、固体撮像素子である、例えば、 CMOS

(Compl ementary Metal Oxi de Semi conductor (相補性金属酸化膜半導体） ) . BBD (Bucket Brigade Devi ce) 、 CID (Charge Inj ect ion Device; 、よたは CPD (Charge Priming Device) などのセンサでもよく、また、検出素子がマトリックス状に配置されているセンサに限らず、検出素子が 1列に並んでいるセンサでもよレヽ。

本発明の信号処理を行うプログラムを記録した記録媒体は、図 1に示すように、コンピュータとは別に、ユーザにプログラムを提供するために配布される、プログラムが記録されている磁気ディスク 5 1 (フロッピ（登録商標）ディスクを含む）、光ディスク 5 2 (CD-ROM (Compact Di sc-Read On l y Memory) ,

DVD (Di gi tal Versat i le Di sc)を含む）、光磁気ディスク 5 3 (M D (Mini- Di sc) (商標）を含む）、もしくは半導体メモリ 5 4などよりなるパッケージメディアにより構成されるだけでなく、コンピュータに予め組み込まれた状態でユーザに提供される、プログラムが記録されている ROM 2 2や、記憶部 2 8に含まれるハードディスクなどで構成される。

なお、本明細書において、記録媒体に記録されるプログラムを記述するステツプは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。産業上の利用可能性

第 1の本発明によれば、画像のおける混ざり合いの状態を知るが可能となる。第 2の本発明によれば、画像のおける混ざり合いの状態を知るが可能となる。

Claims

請求の範囲

1 . 時間積分効果を有する所定数の画素を有する撮像素子によって取得された所定数の画素データであって、同一画素位置に対して複数種類のコンポーネントを有する前記画素データからなる画像データを処理する画像処理装置において、前記画像データに対応して、前景オブジェクトを構成する前景ォブジェクト成分および背景オブジェクトを構成する背景オブジェクト成分が混合されてなる混合領域を特定する領域特定手段と、

前記画像データに対応して、前記前景オブジェクト成分と前記背景オブジェクト成分とが混合されてなる混合領域における、前記前景オブジェクト成分と前記背景オブジェクト成分との混合の割合を示す混合比を検出する混合比検出手段とを含み、

少なくとも前記領域特定手段および前記混合比検出手段のいずれか一方は、前記複数種類のコンポーネントに基づいて画像処理する

ことを特徴とする画像処理装置。

2 . 前記領域特定手段は、

前記複数種類のコンポーネント毎に前記混合領域を検出し、個々のコンポーネントに対応する検出結果をコンポーネント混合領域情報として出力するコンポ一ネント混合領域検出手段と、

前記コンポーネント混合領域検出手段で検出された前記複数種類のコンポーネントに対応する前記混合領域の検出結果に基づいて、前記画像データに対応する前記混合領域を特定する混合領域特定手段と

を含むことを特徴とする請求の範囲第 1項に記載の画像処理装置。

3 . 前記領域特定手段は、

前記画像データの注目フレームの注目画素に対応する注目画素データと、前記注目画素の空間方向の近傍に位置する空間近傍画素の画素データとの相関を示す空間相関値を、前記注目画素に対応する前記複数種類のコンポーネントに基づいて算出する空間相関値算出手段と、前記注目画素データと、前記注目画素の時間方向の近傍に位置する時間近傍画素の画素データとの相関を示す時間相関値を、前記注目画素に対応する前記複数種類のコンポーネントに基づいて算出する時間相関値算出手段と、

前記注目画素に対応する前記空間相関値および前記時間相関値を基に、前記前景ォブジェクト成分のみからなる前景領域を特定する前景領域特定手段とを含むことを特徴とする請求の範囲第 1項に記載の画像処理装置。

4 . 前記領域特定手段は、前記注目フレームの前記前景領域、および前記注目フレームの近傍の近傍フレームの前記前景領域を基に、前記混合領域を特定する混合領域特定手段をさらに含む

ことを特徴とする請求の範囲第 3項に記載の画像処理装置。

5 . 前記混合比検出手段は、

前記複数種類のコンポーネント毎に混合比を検出するコンポーネント混合比検出手段と、

前記コンポーネント混合比検出手段で検出された前記複数種類のコンポーネントに対応する混合比の検出結果を統合することにより、前記画像データに対応する混合比を検出するコンポーネント統合混合比検出手段と

6 . 前記混合比検出手段は、

前記複数種類のコンポーネントの画素値を画素毎に統合し、統合データとして出力する統合手段と、

前記統合データに基づいて、前記画像データに対応する混合比を検出する統合データ混合比検出手段と

7 . 前記統合手段は、前記複数種類のコンポーネントの前記画素値を画素毎に加算し、加算した結果を前記統合データとして出力する

ことを特徴とする請求の範囲第 6項に記載の画像処理装置。

8 . 時間積分効果を有する所定数の画素を有する撮像素子によって取得された所定数の画素データであって、同一画素位置に対して複数種類のコンポーネントを有する前記画素データからなる画像データを処理する画像処理方法において、前記画像データに対応して、前景オブジェクトを構成する前景オブジェクト成分および背景オブジェクトを構成する背景オブジェクト成分が混合されてなる混合領域を特定する領域特定ステップと、

前記画像データに対応して、前記前景ォブジェクト成分と前記背景オブジェクト成分とが混合されてなる混合領域における、前記前景オブジェクト成分と前記背景オブジェクト成分との混合の割合を示す混合比を検出する混合比検出ステツプと、

検出された前記混合比の出力を制御する出力制御ステップと

を含み、

少なくとも前記領域特定ステップぉよび前記混合比検出ステツプのいずれか一方は、前記複数種類のコンポーネントに基づいて画像処理する

ことを特徴とする画像処理方法。

9 . 前記領域特定ステップは、

前記複数種類のコンポーネント毎に前記混合領域を検出し、個々のコンポーネントに対応する検出結果をコンポーネント混合領域情報として出力するコンポ一ネント混合領域検出ステップと、

前記コンポーネント混合領域検出ステップの処理で検出された前記複数種類のコンポーネントに対応する前記混合領域の検出結果に基づいて、前記画像データに対応する前記混合領域を特定する混合領域特定ステツプと

を含むことを特徴とする請求の範囲第 8項に記載の画像処理方法。

1 0 . 前記領域特定ステップは、

前記画像データの注目フレームの注目画素に対応する注目画素データと、前記注目画素の空間方向の近傍に位置する空間近傍画素の画素データとの相関を示す空間相関値を、前記注目画素に対応する前記複数種類のコンポーネントに基づいて算出する空間相関値算出ステップと、前記注目画素データと、前記注目画素の時間方向の近傍に位置する時間近傍画素の画素データとの相関を示す時間相関値を、前記注目画素に対応する前記複数種類のコンポーネントに基づいて算出する時間相関値算出ステップと、

前記注目画素に対応する前記空間相関値および前記時間相関値を基に、前記前景ォブジェクト成分のみからなる前景領域を特定する前景領域特定ステップとを含むことを特徴とする請求の範囲第 8項に記載の画像処理方法。

1 1 . 前記領域特定ステップは、前記注目フレームの前記前景領域、および前記注目フレームの近傍の近傍フレームの前記前景領域を基に、前記混合領域を特定する混合領域特定ステップをさらに含む

ことを特徴とする請求の範囲第 1 0項に記載の画像処理方法。

1 2 . 前記混合比検出ステップは、

前記複数種類のコンポーネント毎に混合比を検出するコンポーネント混合比検出ステップと、

前記コンポーネント混合比検出ステップの処理で検出された前記複数種類のコンポーネントに対応する混合比の検出結果を統合することにより、前記画像データに対応する混合比を検出するコンポーネント統合混合比検出ステップとを含むことを特徴とする請求の範囲第 8項に記載の画像処理方法。

1 3 . 前記混合比検出ステップは、

前記複数種類のコンポーネントの画素値を画素毎に統合し、統合データとして出力する統合ステップと、

前記統合データに基づいて、前記画像データに対応する混合比を検出する統合データ混合比検出ステツプと

1 4 . 前記統合ステップにおいて、前記複数種類のコンポーネントの前記画素値が画素毎に加算され、加算された結果が前記統合データとして出力されることを特徴とする請求の範囲第 1 3項に記載の画像処理方法。

1 5 . 時間積分効果を有する所定数の画素を有する撮像素子によって取得された所定数の画素データであって、同一画素位置に対して複数種類のコンポ一ネントを有する前記画素データからなる画像データを処理する画像処理用のプログラムであって、

前記画像データに対応して、前景オブジェクトを構成する前景オブジェクト成分および背景オブジェクトを構成する背景オブジェクト成分が混合されてなる混合領域を特定する領域特定ステップと、

前記画像データに対応して、前記前景オブジェクト成分と前記背景オブジェクト成分とが混合されてなる混合領域における、前記前景ォブジェクト成分と前記背景ォブジェクト成分との混合の割合を示す混合比を検出する混合比検出ステツプと、

を含み、

少なくとも前記領域特定ステップおよび前記混合比検出ステップのいずれか一方は、前記複数種類のコンポーネントに基づいて画像処理させる

ことを特徴とするコンピュータが読み取り可能なプログラムが記録されている記録媒体。

1 6 . 前記領域特定ステップは、

前記複数種類のコンポーネント毎に前記混合領域を検出し、個々のコンポーネン卜に対応する検出結果をコンポーネント混合領域情報として出力するコンポ一ネント混合領域検出ステップと、

前記コンポーネント混合領域検出ステップの処理で検出された前記複数種類のコンポーネントに対応する前記混合領域の検出結果に基づいて、前記画像データに対応する前記混合領域を特定する混合領域特定ステップと

を含むことを特徴とする請求の範囲第 1 5項に記載の記録媒体。

1 7 . 前記領域特定ステップは、

前記画像データの注目フレームの注目画素に対応する注目画素データと、前記注目画素の空間方向の近傍に位置する空間近傍画素の画素データとの相関を示す空間相関値を、前記注目画素に対応する前記複数種類のコンポーネントに基づいて算出する空間相関値算出ステップと、

前記注目画素データと、前記注目画素の時間方向の近傍に位置する時間近傍画素の画素データとの相関を示す時間相関値を、前記注目画素に対応する前記複数種類のコンポーネントに基づいて算出する時間相関値算出ステップと、

前記注目画素に対応する前記空間相関値および前記時間相関値を基に、前記前景ォブジェクト成分のみからなる前景領域を特定する前景領域特定ステップとを含むことを特徴とする請求の範囲第 1 5項に記載の記録媒体。

1 8 . 前記領域特定ステップは、前記注目フレームの前記前景領域、および前記注目フレームの近傍の近傍フレームの前記前景領域を基に、前記混合領域を特定する混合領域特定ステップをさらに含む

ことを特徴とする請求の範囲第 1 7項に記載の記録媒体。

1 9 . 前記混合比検出ステップは、

前記コンポーネント混合比検出ステップの処理で検出された前記複数種類のコンポーネントに対応する混合比の検出結果を統合することにより、前記画像データに対応する混合比を検出するコンポーネント統合混合比検出ステップとを含むことを特徴とする請求の範囲第 1 5項に記載の記録媒体。

2 0 . 前記混合比検出ステップは、

前記統合データに基づいて、前記画像データに対応する混合比を検出する統合データ混合比検出ステップと

2 1 . 前記統合ステップにおいて、前記複数種類のコンポーネントの前記画素値が画素毎に加算され、加算された結果が前記統合データとして出力されることを特徴とする請求の範囲第 2 0項に記載の記録媒体。

2 2 . 時間積分効果を有する所定数の画素を有する撮像素子によって取得された所定数の画素データであって、同一画素位置に対して複数種類のコンポーネントを有する前記画素データからなる画像データを処理するコンピュータに、前記画像データに対応して、前景オブジェクトを構成する前景オブジェクト成分および背景オブジェクトを構成する背景オブジェクト成分が混合されてなる混合領域を特定する領域特定ステップと、

前記画像データに対応して、前記前景オブジェクト成分と前記背景ォブジェクト成分とが混合されてなる混合領域における、前記前景ォブジェクト成分と前記背景オブジェクト成分との混合の割合を示す混合比を検出する混合比検出ステツプと、

を実行させ、

ことを特徴とするプログラム。

2 3 . 前記領域特定ステツプは、

を含むことを特徴とする請求の範囲第 2 2項に記載のプログラム。

2 4 . 前記領域特定ステップは、

前記注目画素に対応する前記空間相関値および前記時間相関値を基に、前記前景ォブジェクト成分のみからなる前景領域を特定する前景領域特定ステツプとを含むことを特徴とする請求の範囲第 2 2項に記載のプログラム。

2 5 . 前記領域特定ステップは、前記注目フレームの前記前景領域、および前記注目フレームの近傍の近傍フレームの前記前景領域を基に、前記混合領域を特定する混合領域特定ステップをさらに含む

ことを特徴とする請求の範囲第 2 4項に記載のプログラム。

2 6 . 前記混合比検出ステップは、

前記複数種類のコンポーネント,毎に混合比を検出するコンポーネント混合比検出ステップと、

前記コンポーネント混合比検出ステップの処理で検出された前記複数種類のコンポーネントに対応する混合比の検出結果を統合することにより、前記画像データに対応する混合比を検出するコンポーネント統合混合比検出ステップとを含むことを特徴とする請求の範囲第 2 2項に記載のプログラム。

2 7 . 前記混合比検出ステップは、

2 8 . 前記統合ステップにおいて、前記複数種類のコンポーネントの前記画素値が画素毎に加算され、加算された結果が前記統合データとして出力されることを特徴とする請求の範囲第 2 7項に記載のプログラム。

2 9 . 時間積分効果を有する所定数の画素を有する撮像素子によって撮像された被写体画像を、同一画素位置に対して複数種類のコンポーネントを有する所定数の画素データからなる画像データとして出力する撮像手段と、

前記画像データに対応して、前景オブジェクトを構成する前景オブジェクト成分および背景オブジェクトを構成する背景オブジェクト成分が混合されてなる混合領域を特定する領域特定手段と、

前記画像データに対応して、前記前景オブジェクト成分と前記背景オブジェクト成分とが混合されてなる混合領域における、前記前景ォブジェクト成分と前記背景ォブジェクト成分との混合の割合を示す混合比を検出する混合比検出手段とを含み、

ことを特徴とする撮像装置。

3 0 . 前記領域特定手段は、

を含むことを特徴とする請求の範囲第 2 9項に記載の撮像装置。

3 1 . 前記領域特定手段は、

前記注目画素に対応する前記空間相関値および前記時間相関値を基に、前記前景ォブジェクト成分のみからなる前景領域を特定する前景領域特定手段とを含むことを特徴とする請求の範囲第 2 9項に記載の撮像装置。

3 2 . 前記領域特定手段は、前記注目フレームの前記前景領域、および前記注目フレームの近傍の近傍フレームの前記前景領域を基に、前記混合領域を特定する混合領域特定手段をさらに含む

ことを特徴とする請求の範囲第 3 1項に記載の撮像装置。

3 3 . 前記混合比検出手段は、

3 4 . 前記混合比検出手段は、

3 5 . 前記統合手段は、前記複数種類のコンポーネントの前記画素値を画素毎に加算し、加算した結果を前記統合データとして出力する

ことを特徴とする請求の範囲第 3 4項に記載の撮像装置。

3 6 . 時間積分効果を有する所定数の画素を有する撮像素子によって取得された所定数の画素データであって、同一画素位置に対して複数種類のコンポーネントを有する前記画素データからなる画像データを処理する画像処理装置において. 前記画像データを取得する画像データ取得手段と、

取得された前記画像データの前記複数種類のコンポーネントに基づいて、前記画像データに対応して、前景オブジェクトを構成する前景オブジェクト成分および背景オブジェクトを構成する背景ォブジェクト成分が混合されてなる混合領域を特定する領域特定処理、および前記画像データに対応して、前記前景オブジェクト成分と前記背景オブジェクト成分とが混合されてなる混合領域における、前記前景オブジェクト成分と前記背景オブジェクト成分との混合の割合を示す混合比を検出する混合比検出処理のいずれか一方の処理を実行する処理実行手段とを含むことを特徴とする画像処理装置。

3 7 . 前記処理実行手段は、取得された前記画像データの前記複数種類のコンポーネントに基づいて、前記画像データに対応して、前景オブジェクトを構成する前景オブジェクト成分および背景オブジェクトを構成する背景オブジェクト成分が混合されてなる混合領域を特定する領域特定処理を実行する

ことを特徴とする請求の範囲第 3 6項に記載の画像処理装置。

3 8 . 前記処理実行手段は、取得された前記画像データの前記複数種類のコンポーネントに基づいて、前記画像データに対応して、前記前景オブジェクト成分と前記背景ォブジェクト成分とが混合されてなる混合領域における、前記前景ォブジェクト成分と前記背景オブジェクト成分との混合の割合を示す混合比を検出する混合比検出処理を実行する

3 9 . 時間積分効果を有する所定数の画素を有する撮像素子によって取得された所定数の画素データであって、同一画素位置に対して複数種類のコンポーネントを有する前記画素データからなる画像データを処理する画像処理方法において. 前記画像データを取得する画像デ一タ取得ステップと、

取得された前記画像データの前記複数種類のコンポーネントに基づいて、前記画像データに対応して、前景オブジェクトを構成する前景オブジェクト成分および背景ォブジェクトを構成する背景オブジェクト成分が混合されてなる混合領域を特定する領域特定処理、および前記画像データに対応して、前記前景オブジェクト成分と前記背景ォブジェクト成分とが混合されてなる混合領域における、前記前景オブジェクト成分と前記背景オブジェクト成分との混合の割合を示す混合比を検出する混合比検出処理のいずれか一方の処理を実行する処理実行ステップと

を含むことを特徴とする画像処理方法。

4 0 . 前記処理実行ステップにおいて、取得された前記画像データの前記複数種類のコンポーネントに基づいて、前記画像データに対応して、前景オブジェクトを構成する前景オブジェクト成分および背景オブジェクトを構成する背景ォブジュクト成分が混合されてなる混合領域を特定する領域特定処理が実行されることを特徴とする請求の範囲第 3 9項に記載の画像処理方法。

4 1 . 前記処理実行ステップにおいて、取得された前記画像データの前記複数種類のコンポーネントに基づいて、前記画像データに対応して、前記前景ォブジエタト成分と前記背景オブジェクト成分とが混合されてなる混合領域における、前記前景オブジェクト成分と前記背景オブジェクト成分との混合の割合を示す混合比を検出する混合比検出処理が実行される

ことを特徴とする請求の範囲第 3 9項に記載の画像処理方法。

4 2 . 時間積分効果を有する所定数の画素を有する撮像素子によって取得された所定数の画素データであって、同一画素位置に対して複数種類のコンポ一ネントを有する前記画素データからなる画像データを処理する画像処理用のプログラムであって、

前記画像データを取得する画像データ取得ステツプと、

取得された前記画像データの前記複数種類のコンポーネントに基づいて、前記画像データに対応して、前景オブジェクトを構成する前景オブジェクト成分および背景ォブジ-クトを構成する背景オブジェクト成分が混合されてなる混合領域を特定する領域特定処理、および前記画像データに対応して、前記前景オブジェクト成分と前記背景ォブジェクト成分とが混合されてなる混合領域における、前記前景ォブジェクト成分と前記背景オブジェクト成分との混合の割合を示す混合比を検出する混合比検出処理のいずれか一方の処理を実行する処理実行ステップと

を含むことを特徴とするコンピュータが読み取り可能なプログラムが記録されている記録媒体。

4 3 . 前記処理実行ステップにおいて、取得された前記画像データの前記複数種類のコンポーネントに基づいて、前記画像データに対応して、前景オブジェクトを構成する前景オブジェクト成分および背景オブジェクトを構成する背景ォブジタト成分が混合されてなる混合領域を特定する領域特定処理が実行されることを特徴とする請求の範囲第 4 2項に記載の記録媒体。

4 4 . 前記処理実行ステップにおいて、取得された前記画像データの前記複数種類のコンポーネントに基づいて、前記画像データに対応して、前記前景ォブジエタト成分と前記背景オブジェクト成分とが混合されてなる混合領域における、前記前景オブジェクト成分と前記背景オブジェクト成分との混合の割合を示す混合比を検出する混合比検出処理が実行される

ことを特徴とする請求の範囲第 4 2項に記載の記録媒体。

4 5 . 時間積分効果を有する所定数の画素を有する撮像素子によって取得された所定数の画素データであって、同一画素位置に対して複数種類のコンポーネントを有する前記画素データからなる画像データを処理するコンピュータに、前記画像データを取得する画像データ取得ステツプと、

取得された前記画像データの前記複数種類のコンポーネントに基づいて、前記画像データに対応して、前景オブジェクトを構成する前景オブジェクト成分および背景オブジェクトを構成する背景オブジェクト成分が混合されてなる混合領域を特定する領域特定処理、および前記画像データに対応して、前記前景オブジェクト成分と前記背景オブジェクト成分とが混合されてなる混合領域における、前記前景オブジェクト成分と前記背景オブジェクト成分との混合の割合を示す混合比を検出する混合比検出処理のいずれか一方の処理を実行する処理実行ステップと

を実行させることを特徴とするプログラム。

4 6 . 前記処理実行ステップにおいて、取得された前記画像データの前記複数種類のコンポーネントに基づいて、前記画像データに対応して、前景オブジェクトを構成する前景オブジェクト成分および背景オブジェクトを構成する背景ォブジェクト成分が混合されてなる混合領域を特定する領域特定処理が実行されることを特徴とする請求の範囲第 4 5項に記載のプログラム。

4 7 . 前記処理実行ステップにおいて、取得された前記画像データの前記複数種類のコンポーネントに基づいて、前記画像データに対応して、前記前景ォブジェクト成分と前記背景オブジェクト成分とが混合されてなる混合領域における、前記前景ォブジェクト成分と前記背景オブジェクト成分との混合の割合を示す混合比を検出する混合比検出処理が実行される

ことを特徴とする請求の範囲第 4 5項に記載のプログラム。

4 8 . 時間積分効果を有する所定数の画素を有する撮像素子によって撮像された被写体画像を、同一画素位置に対して複数種類のコンポーネントを有する所定数の画素データからなる画像データとして出力する撮像手段と、

前記画像データの前記複数種類のコンポーネントに基づいて、前記画像データに対応して、前景オブジェクトを構成する前景オブジェクト成分および背景ォブジェクトを構成する背景オブジェクト成分が混合されてなる混合領域を特定する領域特定処理、および前記画像データに対応して、前記前景オブジェクト成分と前記背景オブジェクト成分とが混合されてなる混合領域における、前記前景ォブジェクト成分と前記背景オブジェクト成分との混合の割合を示す混合比を検出する混合比検出処理のいずれか一方の処理を実行する処理実行手段と

を含むことを特徴とする撮像装置。

4 9 . 前記処理実行手段は、前記画像データの前記複数種類のコンポーネントに基づいて、前記画像データに対応して、前景オブジェクトを構成する前景ォブジェクト成分および背景オブジェクトを構成する背景オブジェクト成分が混合されてなる混合領域を特定する領域特定処理を実行する

ことを特徴とする請求の範囲第 4 8項に記載の撮像装置。

5 0 . 前記処理実行手段は、前記画像データの前記複数種類のコンポーネントに基づいて、前記画像データに対応して、前記前景オブジェクト成分と前記背景オブジェクト成分とが混合されてなる混合領域における、前記前景オブジェクト成分と前記背景オブジェクト成分との混合の割合を示す混合比を検出する混合比検出処理を実行する

ことを特徴とする請求の範囲第 4 8項に記載の撮像装置。