JPWO2007129591A1 - 遮蔽物映像識別装置及び方法 - Google Patents

遮蔽物映像識別装置及び方法 Download PDF

Info

Publication number
JPWO2007129591A1
JPWO2007129591A1 JP2008514440A JP2008514440A JPWO2007129591A1 JP WO2007129591 A1 JPWO2007129591 A1 JP WO2007129591A1 JP 2008514440 A JP2008514440 A JP 2008514440A JP 2008514440 A JP2008514440 A JP 2008514440A JP WO2007129591 A1 JPWO2007129591 A1 JP WO2007129591A1
Authority
JP
Japan
Prior art keywords
area
frame
region
pixels
determination
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008514440A
Other languages
English (en)
Other versions
JP4913801B2 (ja
Inventor
岩村 宏
宏 岩村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Pioneer Corp
Original Assignee
Pioneer Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Pioneer Corp filed Critical Pioneer Corp
Priority to JP2008514440A priority Critical patent/JP4913801B2/ja
Publication of JPWO2007129591A1 publication Critical patent/JPWO2007129591A1/ja
Application granted granted Critical
Publication of JP4913801B2 publication Critical patent/JP4913801B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/215Motion-based segmentation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Studio Devices (AREA)

Abstract

映像信号をフレーム毎に画素単位又は複数の画素からなるブロック単位で周波数解析し、その周波数解析結果に応じて画素単位又はブロック単位で動きレベル又はぼけレベルを算出し、そのレベルの算出値を2値化した後、2次元連続領域を検出し、更にその領域のうちの大領域を抽出して大領域における面積比、形状及び位置の少なくとも1に基づいてその大領域を遮蔽物部分として判定する。

Description

本発明は、映像中の遮蔽物を識別する遮蔽物映像識別装置及び方法に関する。
ビデオカメラは一般ユーザに広く浸透しており、様々な行事や旅行などで多くの人が撮影を楽しんでいる。ところで、その撮影されたコンテンツをその後どうするかというと、せいぜい1回見るか見ないかでそのまましまい込んでしまう例が多く見受けられる。その主な理由の1つとして、撮影しただけではまだあくまでも「素材」であり、そのままでは観賞に適さないとういうことがある。観賞に適さない理由としては、撮影中にビデオカメラの直前を人が横切ったり、画面下部に人の頭が入り込んだりして見苦しいシーンが多く含まれていることが挙げられる。観賞に適する魅力あるコンテンツにするには、どうしても編集作業が必要になる。しかしながら、それには時間も手間もかかるため編集を諦め、結局撮りっぱなしになってしまうのである。
編集を行う場合には、先ず、最初に撮影した映像を全てチェックし、残すシーンと削除する不要シーンとを選別することが必要である。その後、必要であれば補正や加工を行い、最終的にテロップを入れたり繋ぎ目にトランジッション効果を加えたりすることが行われる。最後のテロップの挿入、及びトランジッション効果の追加の作業はクリエイティブで楽しい面も多いのだが、最初のシーン選別は、編集対象の撮影した映像全てを見る必要があり、大変時間もかかり面白みもない。そのため、この段階で嫌になって編集することを諦めてしまう場合も多い。
編集作業のうちの映像からの不要シーンの映像の選別を容易に行うためには、映像中における遮蔽物、すなわち被写体の手前を遮る物体を識別することが必要である。そのような遮蔽物として移動体を識別する従来方法としては、カメラで撮像されて得られた画像信号を記憶する画像メモリを設け、画像フレーム間での画像の動きのベクトル量(動きベクトル)を計測して動きのある移動領域を検出し、検出した移動領域のカメラ画像上の座標を実空間座標に変換し、該実空間座標に変換された物体の大きさ、縦横比または移動速度の少なくとも1つを予め複数の物体の特徴を登録したテーブルと照合し、該当する移動物体の種類を識別する方法がある(特許文献1)。
また、映像中の動きのある物体についての動きベクトルを抽出し、動き指標に基づき物体ブロックを抽出し、その統計量を求め、基準値と比較して目標移動体を判別する方法が公知である(特許文献2参照)。
更に、撮像された画像のぼけ領域を識別する方法としては、コントラスト比に応じて合焦状態が所定のレベル以下の領域についてその面積を検出し、検出した面積が所定の面積以上であればぼけ領域と判定する方法が公知である(特許文献3参照)。
特開2002−027449号公報 特開平09−252467号公報 特開2005−136727号公報
しかしながら、かかる従来の移動物体やぼけ部分の識別方法においては、カメラの情報が必要であったり特徴点の抽出・追跡が必要であり、一般的な映像信号から十分な精度で遮蔽物を識別することができないという欠点があった。
本発明が解決しようとする課題には、上記の欠点が一例として挙げられ、映像信号から映像中の遮蔽物を正確に識別することができる遮蔽物映像識別装置及び方法、並びに遮蔽物映像識別方法を実行するコンピュータ読取可能なプログラムを提供することが本発明の目的である。
請求項1に係る発明の遮蔽物映像識別装置は、映像中の遮蔽物を識別する遮蔽物映像識別装置であって、映像信号をフレーム毎に画素単位又はブロック単位で動きレベルを算出する動きレベル算出手段と、前記動きレベルの算出値を2値化する2値化手段と、フレーム毎に前記2値化手段の出力値が同一値をとった画素又はブロック間で隣接した連続的な領域を検出する2次元連続領域検出手段と、前記2次元連続領域検出手段によって検出された領域のうちで所定の面積以上の領域を大領域として抽出する大領域抽出手段と、前記大領域抽出手段によって検出された大領域における面積比、形状及び位置の少なくとも1に基づいてその大領域を遮蔽物部分として判定する判定手段と、を備えたことを特徴としている。
請求項8に係る発明の遮蔽物映像識別装置は、映像中の遮蔽物を識別する遮蔽物映像識別装置であって、
映像信号をフレーム毎に画素単位又はブロック単位で映像のぼけレベルを算出するぼけレベル算出手段と、前記ぼけレベルの算出値を2値化する2値化手段と、フレーム毎に前記2値化手段の出力値が同一値をとった画素又はブロック間で隣接した連続的な領域を検出する2次元連続領域検出手段と、前記2次元連続領域検出手段によって検出された領域のうちで所定の面積以上の領域を大領域として抽出する大領域抽出手段と、前記大領域抽出手段によって検出された大領域における面積比、形状及び位置の少なくとも1に基づいてその大領域を遮蔽物部分として判定する判定手段と、を備えたことを特徴としている。
請求項15に係る発明の遮蔽物映像識別装置は、映像中の遮蔽物を識別する遮蔽物映像識別装置であって、映像信号をフレーム毎に画素単位又はブロック単位で動きレベルを算出する動きレベル算出手段と、前記動きレベルの算出値を2値化する第1の2値化手段と、フレーム毎に前記第1の2値化手段の出力値が同一値をとった画素又はブロック間で隣接した連続的な領域を検出する第1の2次元連続領域検出手段と、前記第1の2次元連続領域検出手段によって検出された領域のうちで所定の面積以上の領域を大領域として抽出する第1の大領域抽出手段と、前記第1の大領域抽出手段によって検出された大領域における面積比、形状及び位置の少なくとも1に基づいてその大領域を遮蔽物部分として判定する第1の判定手段と、画素単位又はブロック単位で映像のぼけレベルを算出するぼけレベル算出手段と、前記ぼけレベルの算出値を2値化する第2の2値化手段と、フレーム毎に前記第2の2値化手段の出力値が同一値をとった画素又はブロック間で隣接した連続的な領域を検出する第2の2次元連続領域検出手段と、前記第2の2次元連続領域検出手段によって検出された領域のうちで所定の面積以上の領域を大領域として抽出する第2の大領域抽出手段と、前記第2の大領域抽出手段によって検出された大領域における面積比、形状及び位置の少なくとも1に基づいてその大領域を遮蔽物部分として判定する第2の判定手段と、を備えたことを特徴としている。
請求項20に係る発明の遮蔽物映像識別方法は、映像中の遮蔽物を識別する遮蔽物映像識別方法であって、映像信号をフレーム毎に画素単位又はブロック単位で動きレベルを算出する動きレベル算出ステップと、前記動きレベルの算出値を2値化する2値化ステップと、フレーム毎に前記2値化ステップにおいて2値化された値が同一値をとった画素又はブロック間で隣接した連続的な領域を検出する2次元連続領域検出ステップと、前記2次元連続領域検出ステップにおいて検出された領域のうちで所定の面積以上の領域を大領域として抽出する大領域抽出ステップと、前記大領域抽出ステップにおいて検出された大領域における面積比、形状及び位置の少なくとも1に基づいてその大領域を遮蔽物部分として判定する判定ステップと、を備えたことを特徴としている。
請求項21に係る発明の遮蔽物映像識別方法は、映像中の遮蔽物を識別する遮蔽物映像識別方法であって、映像信号をフレーム毎に画素単位又はブロック単位で映像のぼけレベルを算出するぼけレベル算出ステップと、前記ぼけレベルの算出値を2値化する2値化ステップと、フレーム毎に前記2値化ステップにおいて2値化された値が同一値をとった画素又はブロック間で隣接した連続的な領域を検出する2次元連続領域検出ステップと、前記2次元連続領域検出ステップにおいて検出された領域のうちで所定の面積以上の領域を大領域として抽出する大領域抽出ステップと、前記大領域抽出ステップにおいて検出された大領域における面積比、形状及び位置の少なくとも1に基づいてその大領域を遮蔽物部分として判定する判定ステップと、を備えたことを特徴としている。
請求項22に係る発明のプログラムは、映像中の遮蔽物を識別する遮蔽物映像識別方法を実行するコンピュータ読取可能なプログラムであって、映像信号をフレーム毎に画素単位又はブロック単位で動きレベルを算出する動きレベル算出ステップと、前記動きレベルの算出値を2値化する2値化ステップと、フレーム毎に前記2値化ステップにおいて2値化された値が同一値をとった画素又はブロック間で隣接した連続的な領域を検出する2次元連続領域検出ステップと、前記2次元連続領域検出ステップにおいて検出された領域のうちで所定の面積以上の領域を大領域として抽出する大領域抽出ステップと、前記大領域抽出ステップにおいて検出された大領域における面積比、形状及び位置の少なくとも1に基づいてその大領域を遮蔽物部分として判定する判定ステップと、を備えたことを特徴としている。
請求項23に係る発明のプログラムは、映像中の遮蔽物を識別する遮蔽物映像識別方法を実行するコンピュータ読取可能なプログラムであって、映像信号をフレーム毎に画素単位又はブロック単位で映像のぼけレベルを算出するぼけレベル算出ステップと、前記ぼけレベルの算出値を2値化する2値化ステップと、フレーム毎に前記2値化ステップにおいて2値化された値が同一値をとった画素又はブロック間で隣接した連続的な領域を検出する2次元連続領域検出ステップと、前記2次元連続領域検出ステップにおいて検出された領域のうちで所定の面積以上の領域を大領域として抽出する大領域抽出ステップと、前記大領域抽出ステップにおいて検出された大領域における面積比、形状及び位置の少なくとも1に基づいてその大領域を遮蔽物部分として判定する判定ステップと、を備えたことを特徴としている。
本発明の実施例を示すブロック図である。 動きレベルの算出を説明するための図である。 ぼけレベルの算出を説明するための図である。 動き遮蔽物が存在する映像についての判定動作の際の装置各部の状態を示す図である。 カメラパン時の映像についての判定動作の際の装置各部の状態を示す図である。 ぼけ遮蔽物が存在する映像についての判定動作の際の装置各部の状態を示す図である。 本発明の他の実施例を示すブロック図である。 本発明の実施例として動き遮蔽物判定系の構成だけを備えた遮蔽物映像識別装置を示すブロック図である。 本発明の実施例としてぼけ遮蔽物判定系の構成だけを備えた遮蔽物映像識別装置を示すブロック図である。 本発明の他の実施例を示すブロック図である。
符号の説明
1 2D−DCT回路
2 動き遮蔽物判定系
3 ぼけ遮蔽物判定系
4 判定結果統合部
5 検出枠拡大部
請求項1に係る発明によれば、映像信号をフレーム毎に画素単位又はブロック単位で動きレベルを動きレベル算出手段によって算出し、動きレベルの算出値を2値化した後、2次元連続領域検出手段によって2次元連続領域を検出し、更にその領域のうちの大領域を抽出して判定手段によって大領域における面積比、形状及び位置の少なくとも1に基づいてその大領域を遮蔽物部分として判定することが行われる。また、請求項20に係る発明によれば、映像信号をフレーム毎に画素単位又はブロック単位で動きレベルを算出し、動きレベルの算出値を2値化した後、2次元連続領域を検出し、更にその領域のうちの大領域を抽出して大領域における面積比、形状及び位置の少なくとも1におけるその大領域を遮蔽物部分として判定することが行われる。更に、請求項22に係る発明によれば請求項20に係る発明の遮蔽物映像識別方法と同様の方法がコンピュータによって実行される。
よって、請求項1、20及び21に係る発明によれば、映像信号から映像中の動きがある遮蔽物を正確に識別することができる。
請求項1の動きレベル算出手段は、周波数解析手段と、周波数解析結果に応じて垂直方向の最高周波数成分のパワー比を動きレベルの値とする。周波数解析手段は、複数の画素からなるブロック単位でDCT(2次元離散コサイン変換)又はDFT(離散フーリエ変換)を行う。請求項1の2次元連続領域検出手段は、フレーム毎に2値化手段の出力値に対するラベリング処理を行う。
請求項1の判定手段は、大領域の外接矩形面積と領域面積との比が第1所定の範囲の値であるとき面積比判定条件を満足すると判定する面積比判定部と、大領域の横幅と縦幅との比が第2所定の範囲の値であるとき形状判定条件を満たすと判定する形状判定部と、大領域の重心の垂直方向座標が画面全体の所定の下方部分にあるとき位置判定条件を満足すると判定する位置判定部と、を備えている。
所定の条件は、2次元連続領域検出手段によって検出された1フレーム内の領域の数が所定数以下である条件を含む。
請求項8に係る発明によれば、映像信号をフレーム毎に画素単位又はブロック単位でぼけレベルをぼけレベル算出手段によって算出し、ぼけレベルの算出値を2値化した後、2次元連続領域検出手段によって2次元連続領域を検出し、更にその領域のうちの大領域を抽出して判定手段によって大領域における面積比、形状及び位置の少なくとも1に基づいてその大領域を遮蔽物部分として判定することが行われる。また、請求項21に係る発明によれば、映像信号をフレーム毎に画素単位又はブロック単位でぼけレベルを算出し、ぼけレベルの算出値を2値化した後、2次元連続領域を検出し、更にその領域のうちの大領域を抽出して大領域における面積比、形状及び位置の少なくとも1に基づいてその大領域を遮蔽物部分として判定することが行われる。更に、請求項23に係る発明によれば請求項21に係る発明の遮蔽物映像識別方法と同様の方法がコンピュータによって実行される。
よって、請求項8、21及び23に係る発明によれば、映像信号から映像中の非合焦の遮蔽物を正確に識別することができる。
請求項8のぼけレベル算出手段は、周波数解析手段と、周波数解析結果に応じて低域の周波数成分パワーとそれを除く高域の周波数成分パワーとの比をぼけレベルの値とする。周波数解析手段は、複数の画素からなるブロック単位でDCT又はDFTを行う。請求項8の2次元連続領域検出手段は、フレーム毎に2値化手段の出力値に対するラベリング処理を行う。
請求項8の判定手段は、大領域の外接矩形面積と領域面積との比が第1所定の範囲の値であるとき面積比判定条件を満足すると判定する面積比判定部と、大領域の横幅と縦幅との比が第2所定の範囲の値であるとき形状判定条件を満たすと判定する形状判定部と、大領域の重心の垂直方向座標が画面全体の所定の下方部分にあるとき位置判定条件を満足すると判定する位置判定部と、を備えている。
所定の条件は、前記2次元連続領域検出手段によって検出された1フレーム内の領域の数が所定数以下である条件を含む。
請求項15に係る発明によれば、映像信号をフレーム毎に画素単位又は複数の画素からなるブロック単位で周波数解析し、その周波数解析結果に応じて画素単位又はブロック単位で動きレベルを算出し、動きレベルの算出値を2値化した後、2次元連続領域を検出し、更にその領域のうちの大領域を抽出して大領域における面積比、形状及び位置の少なくとも1に基づいてその大領域を遮蔽物部分として判定し、周波数解析結果に応じて画素単位又はブロック単位でぼけレベルを算出し、ぼけレベルの算出値を2値化した後、2次元連続領域を検出し、更にその領域のうちの大領域を抽出して大領域における面積比、形状及び位置の少なくとも1に基づいてその大領域を遮蔽物部分として判定することが行われる。よって、映像信号から映像中の動きがある遮蔽物及び非合焦の遮蔽物を共に正確に識別することができる。
以下、本発明の実施例を図面を参照しつつ詳細に説明する。
図1は本発明による遮蔽物映像識別装置を示している。この遮蔽物映像識別装置は、2D−DCT(2次元離散コサイン変換)回路1、動き遮蔽物判定系2、ぼけ遮蔽物判定系3、判定結果統合部4及び検出枠拡大部5を備えている。
2D−DCT回路1には入力映像信号が供給される。入力映像信号は720×480ピクセルの解像度の映像を示すとする。2D−DCT回路1は入力映像信号の1フレームを16×16ピクセルのブロックでDCT変換を行う。入力映像信号がインタレース方式の映像信号の場合には2フィールドを1フレームとする。また、プログレッシブ映像信号の場合には、1フレームの奇数フィールドとその次のフレームの偶数フィールドとを合わせて1フレームとする。奇数・偶数フィールドの組合わせは逆でも良いし、連続するフレームからではなく、数フレーム飛越して組合わせても良い。組合わせるフィールド同士の時間差が大きくなると、遅い動き物体にも反応するようになるが、その時間内の移動距離が処理ブロックの大きさを超えると逆に検出できなくなるので、通常数フレーム以内が望ましい。また、入力信号のプログレッシブ・インタレースにかかわらず、隣接フレームの奇数・偶数フィールドを組合わせるようにしても良い。こうすることにより、入力信号がプログレッシブであろうとインタレースであろうと検出できるようになる。さらに、奇数フィールド同士、偶数フィールド同士を組合わせても良い。
2D−DCT回路1の出力に動き遮蔽物判定系2及びぼけ遮蔽物判定系3が接続されている。動き遮蔽物判定系2は、動きレベル算出部21、2値化部22、ラベリング部23、大領域抽出部24、面積比判定部25、形状判定部26、位置判定部27、ラベル数判定部28、及び総合属性判定部29を備えている。
動きレベル算出部21は、DCT結果のDCT係数に応じて動き映像のブロックを検出するために動きの大きさを示す動きレベルを算出する。図3(a)に示すように、水平方向の画素数がm、垂直方向の画素数がnのブロックをDCTすると、図3(b)に示すように、水平方向uの空間周波数と垂直方向vの空間周波数からなる変換空間座標において動きレベルは、次式によって算出される。なお、DCT係数はX0,0〜XN−1,N−1であり、N=16である。
Figure 2007129591
2値化部22は、動きレベル算出部21の出力に接続され、動きレベル算出部21によって算出された動きレベルを所定の閾値で2値化する。
ラベリング部23は、2値化部22の出力に接続され、2値化した動きレベルをラベリング処理する。ラベリング処理とは、2値化した動きレベルが同一値の上下左右の4方向及び斜めの4方向のいずれかにおいて隣接するブロックを1つの領域(又はグループ)とし、同一領域のブロックに同一のラベルを付加して分類することである。例えば、2値化した動きレベルが明るいブロックが隣接しているならば、その塊が1つの領域(グループ)となり、その領域内の各ブロックに同一のラベルが付加される。ラベリング部23は領域の情報を大領域抽出部24に出力すると共にラベルを付加した数、すなわちラベル数をラベル数判定部28に出力する。
大領域抽出部24はラベリング処理の結果、作成された領域のうちのその面積が所定の面積以上の大領域を抽出する。所定の面積は、例えば、1フレームの面積の1/30の大きさである。大領域抽出部24は最大面積の領域を大領域として抽出しても良い。大領域抽出部24の出力に面積比判定部25、形状判定部26、及び位置判定部27が接続されている。
面積比判定部25は、フレーム毎に1フレームにおける所定の面積以上の面積の大領域の外接矩形面積と領域面積との比=外接矩形面積/領域面積を検出し、その比が第1所定の範囲の値(例えば、0.5以上1.0未満)であるときそのフレームの面積比判定条件を満足すると判定する。形状判定部26は、1フレームにおける所定の面積以上の面積の大領域の形状に応じてフレームの形状判定条件を満足するか否かを判定する。大領域の横幅/縦幅が第2所定の範囲の値(例えば、0.7以上7以下)であるとき形状判定条件を満たすと判定する。位置判定部27は、1フレームにおける大領域の位置に応じてフレームの位置判定条件を満足するか否かを判定する。大領域の重心の垂直方向座標が画面全体の下方2/3の部分にあるとき位置判定条件を満足すると判定する。
ラベル数判定部28は、ラベリング部23で付加されたラベルの数に応じてフレームが遮蔽物検出対象である否かを判定する。ラベル数が所定数(10)以下のときフレームが遮蔽物検出対象であると判定する。
総合属性判定部29は、面積比判定部25、形状判定部26、位置判定部27、及びラベル数判定部28各々の出力に接続され、フレーム毎に面積比判定部25による面積比判定結果、形状判定部26による形状判定結果、位置判定部27による位置判定結果、及びラベル数判定部28によるラベル数判定結果に応じて遮蔽物の存在を判定する。すなわち、ラベル数判定部28によって遮蔽物検出対象と判定され、かつ面積比判定条件、形状判定条件及び位置判定条件の各々が満足されているならば、総合属性判定部29では遮蔽物が存在すると判定される。
ぼけ遮蔽物判定系3は、ぼけレベル算出部31、2値化部32、ラベリング部33、大領域抽出部34、面積比判定部35、形状判定部36、位置判定部37、ラベル数判定部38、及び総合属性判定部39を備えている。
ぼけレベル算出部31は、DCT変換結果のDCT係数に応じて非合焦のブロックを検出するために非合焦の程度を示すぼけレベルを算出する。
図3(a)に示すように、水平方向の画素数がm、垂直方向の画素数がnのフレームをDCT変換すると、図3(b)に示すように、水平方向uの空間周波数と垂直方向vの空間周波数からなる変換空間座標において低域のDCT係数パワーを
Figure 2007129591
とすると、ぼけレベルは、次式によって算出される。
Figure 2007129591
かかる算出式から分かるように、ぼけレベルは低域のDCT係数パワーとそれを除く高域のDCT係数パワーとの比で表されているので、ブロックが非合焦であるほど大きな値となる。
2値化部32、ラベリング部33、大領域抽出部34、面積比判定部35、形状判定部36、位置判定部37、ラベル数判定部38、及び総合属性判定部39は、上記の動き遮蔽物判定系2の2値化部22、ラベリング部23、大領域抽出部24、面積比判定部25、形状判定部26、位置判定部27、ラベル数判定部28、及び総合属性判定部29と同一である。
2値化部32は、ぼけレベル算出部31の出力に接続され、ぼけレベル算出部31によって算出されたぼけレベルを所定の閾値で2値化する。ラベリング部33は、2値化部32の出力に接続され、2値化したぼけレベルをラベリング処理する。大領域抽出部34はラベリング処理の結果、作成された領域のうちのその面積が所定の面積以上の大領域を抽出する。面積比判定部35は、フレーム毎に面積比判定条件を満足するか否かと判定する。形状判定部36は、フレーム毎に形状判定条件を満足するか否かと判定する。位置判定部37は、1フレーム毎に位置判定条件を満足するか否かを判定する。ラベル数判定部38は、ラベリング部33で付加されたラベルの数に応じてフレームが遮蔽物検出対象である否かを判定する。総合属性判定部39は面積比判定部25、形状判定部26、位置判定部27、及びラベル数判定部28各々の判別結果に応じて遮蔽物の存在を判定する。
総合属性判定部29及び39の出力に判定結果統合部4が接続されている。判定結果統合部4は総合属性判定部29及び39のいずれか一方によって1つのフレームについて遮蔽物の存在が判別されたときそのフレームには遮蔽物が存在すると判定する。
検出枠拡大部5は、遮蔽物が存在すると判定されたフレームの前後のフレームを遮蔽物存在フレームと判定する。
かかる構成の遮蔽物映像識別装置においては、先ず、入力映像信号の1フレームのソース映像に図4(a)に示すよう、被写体の前を遮るように右側から人が入り込んできた場合について説明する。このような1フレームの映像に対して動きレベル算出部21ではブロック毎に動きレベルが算出される。図4(b)は2値化器22によって2値化された動きレベルの算出値を示している。黒の部分が動き部分である。この2値化後の映像はラベリング部23によってラベリング処理される。ラベリング処理では、図4(b)の黒の部分のブロックのうちの上下左右の4方向及び斜めの4方向のいずれかにおいて隣接するブロックが1つの領域とされる。図4(c)はラベリング処理の結果を示している。この例ではラベル数は5(Label #1〜#5)である。ラベリング部23では複数の領域が検出された場合にはその複数の領域のうちから大領域が大領域抽出部24によって抽出される。図4(c)のラベリング処理の結果に対して図4(d)に示すように、図4(a)の右側の動きのある人物に対応した領域が大領域として抽出される。その抽出領域は、面積比判定部25、形状判定部26、位置判定部27、及びラベル数判定部28各々の判定条件を満足すれば、総合属性判定部29によって図4(e)に示すように、動きのある遮蔽物として検出される。すなわち、現フレームは動きのある遮蔽物が含まれたフレームと判定される。よって、被写体の前を横切る人が含まれるような映像を識別することができる。
この例のようにカメラ前を人が横切った場合、突然入ってくるのであるから比較的速いスピードで移動しており、動きのある2次元連続領域として検出される。また、被写体とカメラの間を横切るのであるから当然その2次元連続領域面積は大きい。従って、上記の処理によって「カメラ前を横切った人」が検出される。被写体の後方を通った場合は、動き領域が被写体によって分断されるため、大きな連続領域とはならない。遠くを動く物体も同様である。また誤検出を防ぐため「領域属性判定」で、画面上部に重心がある領域、極端に横長な領域(=人間らしくない)、重心が画面中央にある(=被写体の可能性が高い)場合は検出しないなどの条件を設定することにより、「カメラ前を人が横切った場合」を精度良く検出することができる。「領域属性判定」は、その領域の支配色や明度なども条件に加えることもできる。
カメラが動いた場合、画面全体に渡って動き領域が存在してしまうことがあるが、これも「領域属性判定」で、ほぼ画面全体が一つの領域として検出された場合、領域数がある閾値以上ある(=小さな領域が画面全体に散らばっている)場合は検出しないなどの条件を設定することにより、カメラワークによる動きと遮蔽物による動きを区別することもできる。カメラワークとの区別は、カメラワーク検出を別に行って、その結果を参照するようにしても良い。
ビデオカメラがパンしたことにより、図5(a)に示すように、動きのある人物や物体が多数存在するソース映像となった場合には、動きレベルの算出値は画面全体で大きくなり、2値化器22によって2値化された動きレベルは図5(b)のようになる。更に、図5(c)はラベリング処理の結果を示しており、検出された領域数(=ラベル数、Label #1〜#50)が多いことが分かる。この多数の領域から最大面積の領域が図5(d)に示すように抽出されても、ラベル数が所定数より多いので、ラベル数判定部28がその大領域を遮蔽物検出対象とは判定しない。よって、ビデオカメラがパンしたときの映像では、図5(e)に示すように動きのある遮蔽物が含まれたフレームとしては判定されない。
一方、入力映像信号の1フレームのソース映像に図6(a)に示すよう、左下部に非合焦の人の頭が存在する場合には、ぼけレベル算出部31ではブロック毎にぼけレベルが算出される。図6(b)は2値化器32によって2値化されたぼけレベルの算出値を示している。黒の部分がぼけ部分である。この2値化後の映像はラベリング部33によってラベリング処理される。ラベリング処理では、図6(b)の黒の部分のブロックのうちの上下左右の4方向及び斜めの4方向のいずれかにおいて隣接するブロックが1つの領域とされる。図6(c)はラベリング処理の結果を示している。この例ではラベル数は8(Label #1〜#8)である。その複数の領域のうちから大領域が大領域抽出部24によって図6(d)に示すように抽出される。その抽出領域は、面積比判定部35、形状判定部36、位置判定部37、及びラベル数判定部38各々の判定条件を満足すれば、総合属性判定部29によって図6(e)に示すように、ぼけ遮蔽物として検出される。すなわち、現フレームはぼけ遮蔽物が含まれたフレームと判定される。よって、被写体の前を人の頭が遮るような映像を識別することができる。
この例のように画面下部に頭が入り込んだ場合、その場合の「頭」はピントの合ってないボケた比較的大きい2次元連続領域であるので、上記の処理によって「頭」が検出される。ボケレベル検出を周波数解析によって行った場合は、例えば空などの平坦部もボケ領域として誤検出されてしまうことがあるが、「領域属性判定」で画面上部に重心がある領域、極端に横長な領域(=人間らしくない)は検出しないなどの条件を設定することにより、「頭が入り込んだ場合」を精度良く検出することができる。「領域属性判定」は、その領域の支配色や明度なども条件に加えることもできる。
また、カメラが動いた場合に画面全体がボケたりすることがあるが、これも「領域属性判定」で、ほぼ画面全体が一つの領域として検出された場合、領域数がある閾値以上ある(=小さな領域が画面全体に散らばっている)場合は検出しないなどの条件を設定することにより、カメラワークによるボケと遮蔽物によるボケを区別することもできる。カメラワークとの区別は、カメラワーク検出を別に行って、その結果を参照するようにしても良い。
このように遮蔽物が存在するフレームが判定されると、その判定されたフレームとその前後のフレームとが遮蔽物存在フレームとして検出枠拡大部5によって判定される。
なお、上記した実施例においては、2D−DCT回路1によって映像信号を周波数解析し、その周波数解析した結果を用いて動きレベル及びぼけレベルを算出しているが、図7に示すように、映像信号を動きレベル算出部21及びぼけレベル算出部31に直接供給して映像信号に応じて動きレベル及びぼけレベルを別々の方法で算出しても良い。すなわち、動きレベル算出部21による動きレベル算出方法及びぼけレベル算出部31によるぼけレベル算出方法は上記した実施例に限定されない。
また、上記した実施例においては、動き遮蔽物判定系2とぼけ遮蔽物判定系3とが備えられ、判定結果統合部4においてその判定結果の論理和をとっているが、動き遮蔽物判定系2及びぼけ遮蔽物判定系3のうちのいずれか一方だけを備えても良い。すなわち、図8に示すように上記の動き遮蔽物判定系2の構成だけを備えた遮蔽物映像識別装置としても良いし、図9に示すように上記のぼけ遮蔽物判定系3の構成だけを備えた遮蔽物映像識別装置としても良い。
また、ぼけ遮蔽物判定系は、例えば、図10に示すように、検出枠拡大部5の出力信号を総合属性判定部39に入力する構成にすることにより、動き遮蔽物判定系で遮蔽物が検出された周辺ブロックのみや、動き遮蔽物判定系で遮蔽物が検出された後一定時間内に検出された場合だけぼけ遮蔽物判定し続けるようにしても良い。こうすることで、被写体の前を横切りそのままその場に留まってしまった遮蔽物を精度良く認識し、他のぼけ領域を遮蔽物として誤認識するのを避けることができる。
上記した実施例においては、面積比判定部25(35)、形状判定部26(36)及び位置判定部27(37)の各々の判定条件を全て満足しなければ、遮蔽物としての判定が決定されないが、その全ての判定条件のうちの少なくとも1の判定条件を満足すれば、大領域が遮蔽物部分と判定しても良い。また、ラベル数判定部28(38)のラベル数の判定はなくても良い。
また、上記した実施例においては、2D−DCT回路1によって映像信号をDCTしているが、変換方式としてはDCTではなく、DFT(離散フーリエ変換)を用いても良い。
更に、上記した実施例においては、遮蔽物の判定のために映像信号を1フレーム毎にブロック単位で処理したが、映像信号を1フレーム毎に画素単位で処理しても良い。また、ブロックとしては16画素×16画素に限らず、8画素×8画素等の画素数でも良い。
また、動きレベルの算出方法及びぼけレベルの算出方法について上記した実施例に限定されない。動きレベルとしてはMPEG符号化で用いられるような、ブロックマッチングによる動きベクトルから算出しても良いし、オプティカルフローから求めても良い。ぼけレベルは、ブロック単位のコントラストから求めても良い。
上記した動き遮蔽物判定系2及びぼけ遮蔽物判定系3を個別の又は単一のコンピュータによって構成しても良い。すなわち、動き遮蔽物判定系2の各部の行程を実行するコンピュータ読取可能なプログラム及びぼけ遮蔽物判定系3の各部の行程を実行するコンピュータ読取可能なプログラムをメモリに保存しておき、そのプログラムをコンピュータが実行することにより動き遮蔽物判定系2及びぼけ遮蔽物判定系3の各部の機能を達成させるのである。
以上の如く、本発明によれば、映像信号から映像中の動きがある遮蔽物及び非合焦の遮蔽物を共に正確に識別することができ、編集作業の際に映像からの不要シーンの映像の選別を容易に行うことができる。
請求項1に係る発明の遮蔽物映像識別装置は、映像中の遮蔽物を識別する遮蔽物映像識別装置であって、映像信号をフレーム毎に画素単位又はブロック単位で動きレベルを算出する動きレベル算出手段と、前記動きレベルの算出値を2値化する2値化手段と、フレーム毎に前記2値化手段の出力値が同一値をとった画素又はブロック間で隣接した連続的な領域を検出する2次元連続領域検出手段と、前記2次元連続領域検出手段によって検出された領域のうちで所定の面積以上の領域を大領域として抽出する大領域抽出手段と、前記大領域の外接矩形面積と領域面積との比が第1所定の範囲の値であるとき面積比判定条件を満足すると判定する面積比判定部と、前記大領域の横幅と縦幅との比が第2所定の範囲の値であるとき形状判定条件を満たすと判定する形状判定部と、前記大領域の重心の垂直方向座標が画面全体の所定の下方部分にあるとき位置判定条件を満足すると判定する位置判定部と、前記面積比判定条件、前記形状判定条件及び前記位置判定条件のうちの少なくとも1が満足されたとき前記大領域を遮蔽物部分として判定する遮蔽物判定手段と、を備えたことを特徴としている。
請求項に係る発明の遮蔽物映像識別装置は、映像中の遮蔽物を識別する遮蔽物映像識別装置であって、映像信号をフレーム毎に画素単位又は複数の画素からなるブロック単位で周波数解析する周波数解析手段と、前記周波数解析手段による周波数解析結果に応じて画素単位又はブロック単位で低域の周波数成分パワーとそれを除く高域の周波数成分パワーとの比を映像のぼけレベルの算出値とするぼけレベル算出手段と、前記ぼけレベルの算出値を2値化する2値化手段と、フレーム毎に前記2値化手段の出力値が同一値をとった画素又はブロック間で隣接した連続的な領域を検出する2次元連続領域検出手段と、前記2次元連続領域検出手段によって検出された領域のうちで所定の面積以上の領域を大領域として抽出する大領域抽出手段と、前記大領域抽出手段によって抽出された大領域における面積比、形状及び位置の少なくとも1に基づいてその大領域を遮蔽物部分として判定する判定手段と、を備えたことを特徴としている。
請求項13に係る発明の遮蔽物映像識別装置は、映像中の遮蔽物を識別する遮蔽物映像識別装置であって、映像信号をフレーム毎に画素単位又はブロック単位で動きレベルを算出する動きレベル算出手段と、前記動きレベルの算出値を2値化する第1の2値化手段と、フレーム毎に前記第1の2値化手段の出力値が同一値をとった画素又はブロック間で隣接した連続的な領域を検出する第1の2次元連続領域検出手段と、前記第1の2次元連続領域検出手段によって検出された領域のうちで所定の面積以上の領域を大領域として抽出する第1の大領域抽出手段と、前記第1の大領域抽出手段によって抽出された大領域における面積比、形状及び位置の少なくとも1に基づいてその大領域を遮蔽物部分として判定する第1の判定手段と、画素単位又はブロック単位で映像のぼけレベルを算出するぼけレベル算出手段と、前記ぼけレベルの算出値を2値化する第2の2値化手段と、フレーム毎に前記第2の2値化手段の出力値が同一値をとった画素又はブロック間で隣接した連続的な領域を検出する第2の2次元連続領域検出手段と、前記第2の2次元連続領域検出手段によって検出された領域のうちで所定の面積以上の領域を大領域として抽出する第2の大領域抽出手段と、前記第2の大領域抽出手段によって抽出された大領域における面積比、形状及び位置の少なくとも1に基づいてその大領域を遮蔽物部分として判定する第2の判定手段と、を備え、前記ぼけレベル算出手段は、映像信号をフレーム毎に画素単位又は複数の画素からなるブロック単位で周波数解析する周波数解析手段を有し、前記周波数解析手段による周波数解析結果に応じて画素単位又はブロック単位で低域の周波数成分パワーとそれを除く高域の周波数成分パワーとの比を前記ぼけレベルの算出値とすることを特徴としている。
請求項18に係る発明の遮蔽物映像識別方法は、映像中の遮蔽物を識別する遮蔽物映像識別方法であって、映像信号をフレーム毎に画素単位又はブロック単位で動きレベルを算出する動きレベル算出ステップと、前記動きレベルの算出値を2値化する2値化ステップと、フレーム毎に前記2値化ステップにおいて2値化された値が同一値をとった画素又はブロック間で隣接した連続的な領域を検出する2次元連続領域検出ステップと、前記2次元連続領域検出ステップにおいて検出された領域のうちで所定の面積以上の領域を大領域として抽出する大領域抽出ステップと、前記大領域の外接矩形面積と領域面積との比が第1所定の範囲の値であるとき面積比判定条件を満足すると判定する面積比判定ステップと、前記大領域の横幅と縦幅との比が第2所定の範囲の値であるとき形状判定条件を満たすと判定する形状判定ステップと、前記大領域の重心の垂直方向座標が画面全体の所定の下方部分にあるとき位置判定条件を満足すると判定する位置判定ステップと、前記面積比判定条件、前記形状判定条件及び前記位置判定条件のうちの少なくとも1が満足されたとき前記大領域を遮蔽物部分として判定する遮蔽物判定ステップと、を備えたことを特徴としている。
請求項19に係る発明の遮蔽物映像識別方法は、映像中の遮蔽物を識別する遮蔽物映像識別方法であって、映像信号をフレーム毎に画素単位又は複数の画素からなるブロック単位で周波数解析する周波数解析ステップと、前記周波数解析ステップによる周波数解析結果に応じて画素単位又はブロック単位で低域の周波数成分パワーとそれを除く高域の周波数成分パワーとの比を映像のぼけレベルの算出値とするぼけレベル算出ステップと、前記ぼけレベルの算出値を2値化する2値化ステップと、フレーム毎に前記2値化ステップにおいて2値化された値が同一値をとった画素又はブロック間で隣接した連続的な領域を検出する2次元連続領域検出ステップと、前記2次元連続領域検出ステップにおいて検出された領域のうちで所定の面積以上の領域を大領域として抽出する大領域抽出ステップと、前記大領域抽出ステップにおいて抽出された大領域における面積比、形状及び位置の少なくとも1に基づいてその大領域を遮蔽物部分として判定する判定ステップと、を備えたことを特徴としている。
請求項20に係る発明のプログラムは、映像中の遮蔽物を識別する遮蔽物映像識別方法を実行するコンピュータ読取可能なプログラムであって、映像信号をフレーム毎に画素単位又はブロック単位で動きレベルを算出する動きレベル算出ステップと、前記動きレベルの算出値を2値化する2値化ステップと、フレーム毎に前記2値化ステップにおいて2値化された値が同一値をとった画素又はブロック間で隣接した連続的な領域を検出する2次元連続領域検出ステップと、前記2次元連続領域検出ステップにおいて検出された領域のうちで所定の面積以上の領域を大領域として抽出する大領域抽出ステップと、前記大領域の外接矩形面積と領域面積との比が第1所定の範囲の値であるとき面積比判定条件を満足すると判定する面積比判定ステップと、前記大領域の横幅と縦幅との比が第2所定の範囲の値であるとき形状判定条件を満たすと判定する形状判定ステップと、前記大領域の重心の垂直方向座標が画面全体の所定の下方部分にあるとき位置判定条件を満足すると判定する位置判定ステップと、前記面積比判定条件、前記形状判定条件及び前記位置判定条件のうちの少なくとも1が満足されたとき前記大領域を遮蔽物部分として判定する遮蔽物判定ステップと、を備えたことを特徴としている。
請求項21に係る発明のプログラムは、映像中の遮蔽物を識別する遮蔽物映像識別方法を実行するコンピュータ読取可能なプログラムであって、映像信号をフレーム毎に画素単位又は複数の画素からなるブロック単位で周波数解析する周波数解析ステップと、前記周波数解析ステップによる周波数解析結果に応じて画素単位又はブロック単位で低域の周波数成分パワーとそれを除く高域の周波数成分パワーとの比を映像のぼけレベルの算出値とするぼけレベル算出ステップと、前記ぼけレベルの算出値を2値化する2値化ステップと、フレーム毎に前記2値化ステップにおいて2値化された値が同一値をとった画素又はブロック間で隣接した連続的な領域を検出する2次元連続領域検出ステップと、前記2次元連続領域検出ステップにおいて検出された領域のうちで所定の面積以上の領域を大領域として抽出する大領域抽出ステップと、前記大領域抽出ステップにおいて抽出された大領域における面積比、形状及び位置の少なくとも1に基づいてその大領域を遮蔽物部分として判定する判定ステップと、を備えたことを特徴としている。
請求項1に係る発明によれば、映像信号をフレーム毎に画素単位又はブロック単位で動きレベルを動きレベル算出手段によって算出し、動きレベルの算出値を2値化した後、2次元連続領域検出手段によって2次元連続領域を検出し、更にその領域のうちの大領域を抽出して面積比判定部によってその大領域の外接矩形面積と領域面積との比が第1所定の範囲の値であるとき面積比判定条件を満足すると判定し、形状判定部によって大領域の横幅と縦幅との比が第2所定の範囲の値であるとき形状判定条件を満たすと判定し、位置判定部によって大領域の重心の垂直方向座標が画面全体の所定の下方部分にあるとき位置判定条件を満足すると判定し、遮蔽物判定手段によって面積比判定条件、形状判定条件及び位置判定条件のうちの少なくとも1が満足されたときその大領域を遮蔽物部分として判定することが行われる。また、請求項18に係る発明によれば、映像信号をフレーム毎に画素単位又はブロック単位で動きレベルを算出し、動きレベルの算出値を2値化した後、2次元連続領域を検出し、更にその領域のうちの大領域を抽出してその大領域の外接矩形面積と領域面積との比が第1所定の範囲の値であるとき面積比判定条件を満足すると判定し、大領域の横幅と縦幅との比が第2所定の範囲の値であるとき形状判定条件を満たすと判定し、大領域の重心の垂直方向座標が画面全体の所定の下方部分にあるとき位置判定条件を満足すると判定し、面積比判定条件、形状判定条件及び位置判定条件のうちの少なくとも1が満足されたときその大領域を遮蔽物部分として判定することが行われる。更に、請求項20に係る発明によれば請求項18に係る発明の遮蔽物映像識別方法と同様の方法がコンピュータによって実行される。
よって、請求項1、18及び20に係る発明によれば、映像信号から映像中の動きがある遮蔽物を正確に識別することができる。
請求項1の動きレベル算出手段は、周波数解析手段周波数解析結果に応じて垂直方向の最高周波数成分のパワーと、直流成分を除いた全成分のパワーの和との比を動きレベルの値とする。周波数解析手段は、複数の画素からなるブロック単位でDCT(2次元離散コサイン変換)又はDFT(離散フーリエ変換)を行う。請求項1の2次元連続領域検出手段は、フレーム毎に2値化手段の出力値に対するラベリング処理を行う。
請求項に係る発明によれば、映像信号をフレーム毎に画素単位又はブロック単位でぼけレベルをぼけレベル算出手段によって算出し、ぼけレベルの算出値を2値化した後、2次元連続領域検出手段によって2次元連続領域を検出し、更にその領域のうちの大領域を抽出して判定手段によって大領域における面積比、形状及び位置の少なくとも1に基づいてその大領域を遮蔽物部分として判定することが行われる。また、請求項19に係る発明によれば、映像信号をフレーム毎に画素単位又はブロック単位でぼけレベルを算出し、ぼけレベルの算出値を2値化した後、2次元連続領域を検出し、更にその領域のうちの大領域を抽出して大領域における面積比、形状及び位置の少なくとも1に基づいてその大領域を遮蔽物部分として判定することが行われる。更に、請求項21に係る発明によれば請求項19に係る発明の遮蔽物映像識別方法と同様の方法がコンピュータによって実行される。
よって、請求項7、19及び21に係る発明によれば、映像信号から映像中の非合焦の遮蔽物を正確に識別することができる。
請求項のぼけレベル算出手段は、周波数解析手段と、周波数解析結果に応じて低域の周波数成分パワーとそれを除く高域の周波数成分パワーとの比をぼけレベルの値とする。周波数解析手段は、複数の画素からなるブロック単位でDCT又はDFTを行う。請求項の2次元連続領域検出手段は、フレーム毎に2値化手段の出力値に対するラベリング処理を行う。
請求項の判定手段は、大領域の外接矩形面積と領域面積との比が第1所定の範囲の値であるとき面積比判定条件を満足すると判定する面積比判定部と、大領域の横幅と縦幅との比が第2所定の範囲の値であるとき形状判定条件を満たすと判定する形状判定部と、大領域の重心の垂直方向座標が画面全体の所定の下方部分にあるとき位置判定条件を満足すると判定する位置判定部と、を備えている。
請求項13に係る発明によれば、映像信号をフレーム毎に画素単位又は複数の画素からなるブロック単位で周波数解析し、その周波数解析結果に応じて画素単位又はブロック単位で動きレベルを算出し、動きレベルの算出値を2値化した後、2次元連続領域を検出し、更にその領域のうちの大領域を抽出して大領域における面積比、形状及び位置の少なくとも1に基づいてその大領域を遮蔽物部分として判定し、周波数解析結果に応じて画素単位又はブロック単位でぼけレベルを算出し、ぼけレベルの算出値を2値化した後、2次元連続領域を検出し、更にその領域のうちの大領域を抽出して大領域における面積比、形状及び位置の少なくとも1に基づいてその大領域を遮蔽物部分として判定することが行われる。よって、映像信号から映像中の動きがある遮蔽物及び非合焦の遮蔽物を共に正確に識別することができる。
動きレベル算出部21は、DCT結果のDCT係数に応じて動き映像のブロックを検出するために動きの大きさを示す動きレベルを算出する。図2(a)に示すように、水平方向の画素数がm、垂直方向の画素数がnのブロックをDCTすると、図2(b)に示すように、水平方向uの空間周波数と垂直方向vの空間周波数からなる変換空間座標において動きレベルは、次式によって算出される。なお、DCT係数はX0,0〜XN−1,N−1であり、N=16である。
2値化部32は、ぼけレベル算出部31の出力に接続され、ぼけレベル算出部31によって算出されたぼけレベルを所定の閾値で2値化する。ラベリング部33は、2値化部32の出力に接続され、2値化したぼけレベルをラベリング処理する。大領域抽出部34はラベリング処理の結果、作成された領域のうちのその面積が所定の面積以上の大領域を抽出する。面積比判定部35は、フレーム毎に面積比判定条件を満足するか否かと判定する。形状判定部36は、フレーム毎に形状判定条件を満足するか否かと判定する。位置判定部37は、1フレーム毎に位置判定条件を満足するか否かを判定する。ラベル数判定部38は、ラベリング部33で付加されたラベルの数に応じてフレームが遮蔽物検出対象である否かを判定する。総合属性判定部39は面積比判定部35、形状判定部36、位置判定部37、及びラベル数判定部38各々の判別結果に応じて遮蔽物の存在を判定する。

Claims (23)

  1. 映像中の遮蔽物を識別する遮蔽物映像識別装置であって、
    映像信号をフレーム毎に画素単位又はブロック単位で動きレベルを算出する動きレベル算出手段と、
    前記動きレベルの算出値を2値化する2値化手段と、
    フレーム毎に前記2値化手段の出力値が同一値をとった画素又はブロック間で隣接した連続的な領域を検出する2次元連続領域検出手段と、
    前記2次元連続領域検出手段によって検出された領域のうちで所定の面積以上の領域を大領域として抽出する大領域抽出手段と、
    前記大領域抽出手段によって検出された大領域における面積比、形状及び位置の少なくとも1に基づいてその大領域を遮蔽物部分として判定する判定手段と、を備えたことを特徴とする遮蔽物映像識別装置。
  2. 前記動きレベル算出手段は、映像信号をフレーム毎に画素単位又は複数の画素からなるブロック単位で周波数解析する周波数解析手段を有し、前記周波数解析手段による周波数解析結果に応じて垂直方向の最高周波数成分のパワー比を前記動きレベルの値とすることを特徴とする請求項1記載の遮蔽物映像識別装置。
  3. 前記周波数解析手段は、複数の画素からなるブロック単位でDCT(2次元離散コサイン変換)又はDFT(離散フーリエ変換)を行うことを特徴とする請求項1記載の遮蔽物映像識別装置。
  4. 前記2次元連続領域検出手段は、フレーム毎に前記2値化手段の出力値に対するラベリング処理を行うことを特徴とする請求項1記載の遮蔽物映像識別装置。
  5. 前記判定手段は、前記大領域の外接矩形面積と領域面積との比が第1所定の範囲の値であるとき面積比判定条件を満足すると判定する面積比判定部と、前記大領域の横幅と縦幅との比が第2所定の範囲の値であるとき形状判定条件を満たすと判定する形状判定部と、前記大領域の重心の垂直方向座標が画面全体の所定の下方部分にあるとき位置判定条件を満足すると判定する位置判定部と、を備えたことを特徴とする請求項1記載の遮蔽物映像識別装置。
  6. 前記所定の条件は、前記2次元連続領域検出手段によって検出された1フレーム内の領域の数が所定数以下である条件を含むことを特徴とする請求項1記載の遮蔽物映像識別装置。
  7. 前記判定手段によって前記大領域が遮蔽物部分であると判定されたフレームと、その前後の所定フレーム区間とを、遮蔽物部分が存在する区間であると判定する検出枠拡大手段を有することを特徴とする請求項1記載の遮蔽物映像識別装置。
  8. 映像中の遮蔽物を識別する遮蔽物映像識別装置であって、
    映像信号をフレーム毎に画素単位又はブロック単位で映像のぼけレベルを算出するぼけレベル算出手段と、
    前記ぼけレベルの算出値を2値化する2値化手段と、
    フレーム毎に前記2値化手段の出力値が同一値をとった画素又はブロック間で隣接した連続的な領域を検出する2次元連続領域検出手段と、
    前記2次元連続領域検出手段によって検出された領域のうちで所定の面積以上の領域を大領域として抽出する大領域抽出手段と、
    前記大領域抽出手段によって検出された大領域における面積比、形状及び位置の少なくとも1に基づいてその大領域を遮蔽物部分として判定する判定手段と、を備えたことを特徴とする遮蔽物映像識別装置。
  9. 前記ぼけレベル算出手段は、映像信号をフレーム毎に画素単位又は複数の画素からなるブロック単位で周波数解析する周波数解析手段を有し、前記周波数解析手段による周波数解析結果に応じて低域の周波数成分パワーとそれを除く高域の周波数成分パワーとの比を前記ぼけレベルの値とすることを特徴とする請求項8記載の遮蔽物映像識別装置。
  10. 前記周波数解析手段は、複数の画素からなるブロック単位でDCT又はDFTを行うことを特徴とする請求項8記載の遮蔽物映像識別装置。
  11. 前記2次元連続領域検出手段は、フレーム毎に前記2値化手段の出力値に対するラベリング処理を行うことを特徴とする請求項8記載の遮蔽物映像識別装置。
  12. 前記判定手段は、前記大領域の外接矩形面積と領域面積との比が第1所定の範囲の値であるとき面積比判定条件を満足すると判定する面積比判定部と、前記大領域の横幅と縦幅との比が第2所定の範囲の値であるとき形状判定条件を満たすと判定する形状判定部と、前記大領域の重心の垂直方向座標が画面全体の所定の下方部分にあるとき位置判定条件を満足すると判定する位置判定部と、を備えたことを特徴とする請求項8記載の遮蔽物映像識別装置。
  13. 前記所定の条件は、前記2次元連続領域検出手段によって検出された1フレーム内の領域の数が所定数以下である条件を含むことを特徴とする請求項8記載の遮蔽物映像識別装置。
  14. 前記判定手段によって前記大領域が遮蔽物部分であると判定されたフレームと、その前後の所定フレーム区間とを、遮蔽物部分が存在する区間であると判定する検出枠拡大手段を有することを特徴とする請求項8記載の遮蔽物映像識別装置。
  15. 映像中の遮蔽物を識別する遮蔽物映像識別装置であって、
    映像信号をフレーム毎に画素単位又はブロック単位で動きレベルを算出する動きレベル算出手段と、
    前記動きレベルの算出値を2値化する第1の2値化手段と、
    フレーム毎に前記第1の2値化手段の出力値が同一値をとった画素又はブロック間で隣接した連続的な領域を検出する第1の2次元連続領域検出手段と、
    前記第1の2次元連続領域検出手段によって検出された領域のうちで所定の面積以上の領域を大領域として抽出する第1の大領域抽出手段と、
    前記第1の大領域抽出手段によって検出された大領域における面積比、形状及び位置の少なくとも1に基づいてその大領域を遮蔽物部分として判定する第1の判定手段と、
    画素単位又はブロック単位で映像のぼけレベルを算出するぼけレベル算出手段と、
    前記ぼけレベルの算出値を2値化する第2の2値化手段と、
    フレーム毎に前記第2の2値化手段の出力値が同一値をとった画素又はブロック間で隣接した連続的な領域を検出する第2の2次元連続領域検出手段と、
    前記第2の2次元連続領域検出手段によって検出された領域のうちで所定の面積以上の領域を大領域として抽出する第2の大領域抽出手段と、
    前記第2の大領域抽出手段によって検出された大領域における面積比、形状及び位置の少なくとも1に基づいてその大領域を遮蔽物部分として判定する第2の判定手段と、を備えたことを特徴とする遮蔽物映像識別装置。
  16. 前記第1の判定手段の判定結果と前記第2の判定手段の判定結果を元に、所定の条件を満たしたときを最終判定結果とする判定結果統合手段を有することを特徴とする請求項15記載の遮蔽物映像識別装置。
  17. 上記判定結果統合手段は、前記第1の判定手段の判定結果と、前記第2の判定手段の判定結果との論理和をとることを特徴とする請求項15記載の遮蔽物映像識別装置。
  18. 前記判定結果統合手段によって遮蔽物部分であると判定されたフレームと、その前後の所定フレーム区間とを、遮蔽物部分が存在する区間であると判定する検出枠拡大手段を有することを特徴とする請求項15記載の遮蔽物映像識別装置
  19. 前記第2の判定手段は、上記検出枠拡大手段で拡大された検出枠区間のみ、遮蔽物部分として判定することを特徴とする請求項15記載の遮蔽物映像識別装置。
  20. 映像中の遮蔽物を識別する遮蔽物映像識別方法であって、
    映像信号をフレーム毎に画素単位又はブロック単位で動きレベルを算出する動きレベル算出ステップと、
    前記動きレベルの算出値を2値化する2値化ステップと、
    フレーム毎に前記2値化ステップにおいて2値化された値が同一値をとった画素又はブロック間で隣接した連続的な領域を検出する2次元連続領域検出ステップと、
    前記2次元連続領域検出ステップにおいて検出された領域のうちで所定の面積以上の領域を大領域として抽出する大領域抽出ステップと、
    前記大領域抽出ステップにおいて検出された大領域における面積比、形状及び位置の少なくとも1に基づいてその大領域を遮蔽物部分として判定する判定ステップと、を備えたことを特徴とする遮蔽物映像識別方法。
  21. 映像中の遮蔽物を識別する遮蔽物映像識別方法であって、
    映像信号をフレーム毎に画素単位又はブロック単位で映像のぼけレベルを算出するぼけレベル算出ステップと、
    前記ぼけレベルの算出値を2値化する2値化ステップと、
    フレーム毎に前記2値化ステップにおいて2値化された値が同一値をとった画素又はブロック間で隣接した連続的な領域を検出する2次元連続領域検出ステップと、
    前記2次元連続領域検出ステップにおいて検出された領域のうちで所定の面積以上の領域を大領域として抽出する大領域抽出ステップと、
    前記大領域抽出ステップにおいて検出された大領域における面積比、形状及び位置の少なくとも1に基づいてその大領域を遮蔽物部分として判定する判定ステップと、を備えたことを特徴とする遮蔽物映像識別方法。
  22. 映像中の遮蔽物を識別する遮蔽物映像識別方法を実行するコンピュータ読取可能なプログラムであって、
    映像信号をフレーム毎に画素単位又はブロック単位で動きレベルを算出する動きレベル算出ステップと、
    前記動きレベルの算出値を2値化する2値化ステップと、
    フレーム毎に前記2値化ステップにおいて2値化された値が同一値をとった画素又はブロック間で隣接した連続的な領域を検出する2次元連続領域検出ステップと、
    前記2次元連続領域検出ステップにおいて検出された領域のうちで所定の面積以上の領域を大領域として抽出する大領域抽出ステップと、
    前記大領域抽出ステップにおいて検出された大領域における面積比、形状及び位置の少なくとも1に基づいてその大領域を遮蔽物部分として判定する判定ステップと、を備えたことを特徴とするプログラム。
  23. 映像中の遮蔽物を識別する遮蔽物映像識別方法を実行するコンピュータ読取可能なプログラムであって、
    映像信号をフレーム毎に画素単位又はブロック単位で映像のぼけレベルを算出するぼけレベル算出ステップと、
    前記ぼけレベルの算出値を2値化する2値化ステップと、
    フレーム毎に前記2値化ステップにおいて2値化された値が同一値をとった画素又はブロック間で隣接した連続的な領域を検出する2次元連続領域検出ステップと、
    前記2次元連続領域検出ステップにおいて検出された領域のうちで所定の面積以上の領域を大領域として抽出する大領域抽出ステップと、
    前記大領域抽出ステップにおいて検出された大領域における面積比、形状及び位置の少なくとも1に基づいてその大領域を遮蔽物部分として判定する判定ステップと、を備えたことを特徴とするプログラム。
JP2008514440A 2006-05-09 2007-04-26 遮蔽物映像識別装置及び方法 Expired - Fee Related JP4913801B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008514440A JP4913801B2 (ja) 2006-05-09 2007-04-26 遮蔽物映像識別装置及び方法

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2006130184 2006-05-09
JP2006130184 2006-05-09
PCT/JP2007/059029 WO2007129591A1 (ja) 2006-05-09 2007-04-26 遮蔽物映像識別装置及び方法
JP2008514440A JP4913801B2 (ja) 2006-05-09 2007-04-26 遮蔽物映像識別装置及び方法

Publications (2)

Publication Number Publication Date
JPWO2007129591A1 true JPWO2007129591A1 (ja) 2009-09-17
JP4913801B2 JP4913801B2 (ja) 2012-04-11

Family

ID=38667699

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008514440A Expired - Fee Related JP4913801B2 (ja) 2006-05-09 2007-04-26 遮蔽物映像識別装置及び方法

Country Status (4)

Country Link
US (1) US8311269B2 (ja)
EP (1) EP2017788A4 (ja)
JP (1) JP4913801B2 (ja)
WO (1) WO2007129591A1 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20110027238A (ko) * 2009-09-10 2011-03-16 삼성전자주식회사 휴대용 단말기의 영상 데이터 처리 장치 및 방법
KR101094304B1 (ko) * 2010-02-23 2011-12-19 삼성모바일디스플레이주식회사 표시 장치 및 그의 영상 처리 방법
JP2012133759A (ja) * 2010-11-29 2012-07-12 Canon Inc 侵入物体の検知を行うことができる物体追尾装置、物体追尾方法及び記憶媒体
EP2536143B1 (en) * 2011-06-16 2015-01-14 Axis AB Method and a digital video encoder system for encoding digital video data
CN110959284B (zh) * 2017-08-03 2021-09-21 Eizo株式会社 图像处理装置、图像处理方法、以及记录介质
SG10201913146VA (en) * 2019-12-24 2020-11-27 Sensetime Int Pte Ltd Method and apparatus for filtrating images and electronic device
CN113869295A (zh) * 2021-09-27 2021-12-31 上海商汤智能科技有限公司 对象检测方法及装置、电子设备和存储介质

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0765173A (ja) * 1993-08-30 1995-03-10 Oki Electric Ind Co Ltd 侵入物体認識方法
US5706361A (en) * 1995-01-26 1998-01-06 Autodesk, Inc. Video seed fill over time
JPH09252467A (ja) 1996-03-18 1997-09-22 Toshiba Corp 移動体検出装置
KR100253203B1 (ko) * 1997-10-29 2000-04-15 구자홍 동영상을 이용한 객체 추출방법
US6175650B1 (en) 1998-01-26 2001-01-16 Xerox Corporation Adaptive quantization compatible with the JPEG baseline sequential mode
JP2000073657A (ja) * 1998-09-01 2000-03-07 Mitsubishi Electric Corp 自動ドアシステム
JP2002027449A (ja) 2000-07-10 2002-01-25 Fujitsu Ltd 移動物体識別方法および移動物体識別装置
JP2004110542A (ja) * 2002-09-19 2004-04-08 Toshiba Corp 目標検出装置および目標検出方法
US7181082B2 (en) * 2002-12-18 2007-02-20 Sharp Laboratories Of America, Inc. Blur detection system
JP2005136727A (ja) 2003-10-30 2005-05-26 Canon Inc 電子カメラ装置、電子カメラ装置の制御方法、コンピュータプログラム及びコンピュータ読み取り可能な記録媒体
JP2006098152A (ja) * 2004-09-29 2006-04-13 Dainippon Screen Mfg Co Ltd 欠陥検出装置および欠陥検出方法

Also Published As

Publication number Publication date
WO2007129591A1 (ja) 2007-11-15
EP2017788A1 (en) 2009-01-21
JP4913801B2 (ja) 2012-04-11
EP2017788A4 (en) 2012-05-09
US20090180670A1 (en) 2009-07-16
US8311269B2 (en) 2012-11-13

Similar Documents

Publication Publication Date Title
KR101971866B1 (ko) 동화상에 있어서 물체를 검출하는 방법 및 장치, 및 그 프로그램을 기억한 기억 매체
US10540791B2 (en) Image processing apparatus, and image processing method for performing scaling processing based on image characteristics
US8254630B2 (en) Subject extracting method and device by eliminating a background region using binary masks
JP6371553B2 (ja) 映像表示装置および映像表示システム
JP4913801B2 (ja) 遮蔽物映像識別装置及び方法
JP5284048B2 (ja) 画像処理装置、撮像装置及び画像処理方法
JP4373840B2 (ja) 動物体追跡方法、動物体追跡プログラムおよびその記録媒体、ならびに、動物体追跡装置
WO2017179511A1 (en) Information processing apparatus and information processing method for detecting position of object
US8355079B2 (en) Temporally consistent caption detection on videos using a 3D spatiotemporal method
JP5484184B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2011188297A (ja) 電子ズーム装置、電子ズーム方法、及びプログラム
JP7159384B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP5725194B2 (ja) 夜景画像ボケ検出システム
JP7223079B2 (ja) 画像処理装置およびその制御方法、ならびに撮像装置
JPWO2013150789A1 (ja) 動画解析装置、動画解析方法、プログラム、及び集積回路
JP2010114752A (ja) 撮像装置及び撮像方法及びプログラム
JP2007188294A (ja) 画像処理による移動体候補の検出方法及び移動体候補から移動体を検出する移動体検出方法、移動体検出装置及び移動体検出プログラム
WO2016031573A1 (ja) 画像処理装置、画像処理方法、プログラムおよび記録媒体
JP4042602B2 (ja) 画像処理装置
JP4960442B2 (ja) アップショット検出装置及び方法、電子機器、並びにコンピュータプログラム
JP4096757B2 (ja) 画像追跡装置
Romić et al. Influence of the input image resolution on the staircase detection
Lavigne et al. Automatic Video Zooming for Sport Team Video Broadcasting on Smart Phones.
JP2007087049A (ja) 動画像処理装置
EP1612725A1 (en) Image processing method and image processing device

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111227

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120119

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150127

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees