JP4788787B2 - 特定画像検出装置、特定画像検出方法、プログラム及び特定画像検出システム - Google Patents
特定画像検出装置、特定画像検出方法、プログラム及び特定画像検出システム Download PDFInfo
- Publication number
- JP4788787B2 JP4788787B2 JP2009031752A JP2009031752A JP4788787B2 JP 4788787 B2 JP4788787 B2 JP 4788787B2 JP 2009031752 A JP2009031752 A JP 2009031752A JP 2009031752 A JP2009031752 A JP 2009031752A JP 4788787 B2 JP4788787 B2 JP 4788787B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- detecting
- specific
- specific image
- detection
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Television Signal Processing For Recording (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Description
本発明は、連続するフレーム単位の画像からなる映像に含まれる静止画像から特定の画像を検出する特定画像検出装置、特定画像検出方法、プログラム及び特定画像検出システムに関する。
従来、使用者(ユーザ)にとって重要である情報を予め登録しておき、その登録情報の特徴から画像を検索する技術がある。
例えば、特開2000−308017号公報(特許文献1)には、限られた時間において関連する映像を効率よく視聴する映像視聴装置が開示されている。この公報に記載の映像視聴装置は、動画像信号及び音声信号を含む入力映像信号を記憶する入力映像記憶手段と、この入力映像記憶手段に記憶された所定の入力映像信号を所定位置から再生する映像再生手段と、その入力映像信号の特徴値を算出する算出手段と、この算出手段により算出された特徴値を記憶する特徴値記憶手段と、算出手段からの特徴値が特徴値記憶手段の特徴値のいずれかと類似するかを検索し、類似した場合にこれらの特徴値が関連していることを示す映像関連情報を作成する映像検索手段と、映像関連情報を記憶する関連情報記憶手段と、この関連情報記憶手段が関連情報を記憶したときに関連情報の存在を表示して視聴者に通知する通知手段と、通知された関連情報が示す特徴値に対応する映像信号の再生を要求する要求信号を入力する入力手段と、要求された映像信号を再生する挿入手段とを有している。これにより、記憶された映像信号の中から現在視聴している映像に関連する映像信号を検出して関連映像信号を視聴することができ、限られた時間において関連する映像を効率よく視聴することができる。
また、特開平10−149373号公報(特許文献2)には、計算機中に大量の画像情報を蓄積・管理し、検索・利用を行う画像データベースシステムの検索のための画像蓄積・管理装置及び画像インデックス作成方法が開示されている。この公報に記載の画像蓄積・管理装置においては、原画像を入力する入力手段と、入力された原画像を蓄積する蓄積手段と、原画像の視覚特徴に基づいて領域分割をして領域分割情報を生成する領域分割手段と、原画像を格子状に分割し分割情報を生成するブロック分割手段と、これらの分割情報を入力し、各格子毎に代表領域番号を決定し配列化し、領域分割された領域毎に色情報を含む領域属性情報を抽出し画像インデックス情報を記述するインデックス生成手段と、画像インデックス情報を格納する格納手段とを有する。これにより、画像に対して利用者が持っている視覚的な手がかりを利用して画像を検索することができる。
しかしながら、上述の公報に記載の技術等の従来の技術においては、様々なパターンの画像の変化から目的の画像を効率よく検出する手法は確立されていない。即ち、様々なパターンの画像において、目的の画像を特定する特徴を示す物理量が得られていないこと、及び目的の画像を検索する際の厳密な検索が行えないこと等により、目的の画像を高効率で検出することができないという問題点がある。
本発明は、このような従来の実情に鑑みて提案されたものであり、連続する画像中から高効率で目的とする特定の画像をリアルタイムに検出することができる特定画像検出装置、特定画像検出方法、プログラム及び特定画像検出システムを提供することを目的とする。
上述した目的を達成するために、本発明に係る特定画像検出装置は、連続するフレーム単位の画像からなる映像に含まれる静止画部分を含む特定の画像を検出する特定画像検出装置であって、登録画像における特性が異なる1以上の特徴量を記憶する記憶手段と、フレーム画像とこれに時間的に近接する近接フレーム画像との間の輝度変化の割合を算出し、該輝度変化の割合が所定の閾値以下であるフレーム画像を候補画像として検出する候補画像検出手段と、上記候補画像における特性が異なる1以上の特徴量を検出する特徴量検出手段と、上記候補画像の特徴量と、上記登録画像の特徴量との類似度が所定の閾値以上であるとき、該候補画像を特定画像として検出する検出手段と、上記検出手段により検出された特定画像を表示手段に表示する提示手段と、少なくとも2つのチューナ手段とを有し、上記提示手段は、一方のチューナ手段により選局された受信チャンネルの映像を上記表示手段に表示し、上記検出手段は、他方のチューナ手段により選局された受信チャンネルの映像から上記特定画像を検出する。
また、本発明に係る特定画像検出装置は、連続するフレーム単位の画像からなる映像に含まれる静止画部分を含む特定の画像を検出する特定画像検出装置であって、登録画像における特性が異なる1以上の特徴量を記憶する記憶手段と、フレーム画像とこれに時間的に近接する近接フレーム画像との間の輝度変化の割合を算出し、該輝度変化の割合が所定の閾値以下であるフレーム画像を候補画像として検出する候補画像検出手段と、上記候補画像における特性が異なる1以上の特徴量を検出する特徴量検出手段と、上記候補画像の特徴量と、上記登録画像の特徴量との類似度が所定の閾値以上であるとき、該候補画像を特定画像として検出する検出手段と、上記検出手段により検出された特定画像を表示手段に表示する提示手段と、少なくとも2つのチューナ手段を有し、上記検出手段は、一方のチューナ手段により選局された受信チャンネルの映像から上記特定画像を検出し、上記提示手段は第1の表示手段及び第2の表示手段に接続され、他方のチューナ手段により選局された受信チャンネルの映像を該第1の表示手段に表示し、上記特定画像を該第2の表示手段に表示する。
さらに、本発明に係る特定画像検出装置は、連続するフレーム単位の画像からなる映像に含まれる静止画部分を含む特定の画像を検出する特定画像検出装置であって、登録画像における特性が異なる1以上の特徴量を記憶する記憶手段と、フレーム画像とこれに時間的に近接する近接フレーム画像との間の輝度変化の割合を算出し、該輝度変化の割合が所定の閾値以下であるフレーム画像を候補画像として検出する候補画像検出手段と、上記候補画像における特性が異なる1以上の特徴量を検出する特徴量検出手段と、上記候補画像の特徴量と、上記登録画像の特徴量との類似度が所定の閾値以上であるとき、該候補画像を特定画像として検出する検出手段と、上記検出手段により検出された特定画像を表示手段に表示する提示手段とを有し、上記提示手段は、上記検出手段により検出された上記特定画像を複数保持し、該複数の特定画像を縮小して上記表示手段に同時に表示する。
本発明においては、輝度変化の割合が所定の閾値以下であるフレーム画像を候補画像として検出し、予め、ユーザ等により登録した登録画像に類似する候補画像を特定画像として検出することにより、ユーザにとって重要である等の理由で登録された画像を高効率に選択して検出することができ、候補画像を検出してから特徴量により画像を特定するため、誤検出の頻度を軽減することができる。
また、上記記憶手段に記憶される特徴量は、上記登録画像における輝度情報、色情報、エッジ量、エッジ密度、輝度ヒストグラム、上記登録画像の静止時間、及び上記登録画像を含む所定期間の映像に含まれる効果音に関する情報のうち1以上の情報を含むものとすることができ、複数の異なる特性の特徴量を使用して類似度を判定することにより、更に正確に登録画像を検出することができる。例えば、テレビジョン映像から特定画像を検出する場合は、類似度の判定に輝度ヒストグラム及び静止時間を使用することにより、ノイズが多いテレビジョン映像等から特定画像を検出する場合にもロバスト性を向上することができる。
更に、上記登録画像は使用者が指定した画像であって、上記特徴量検出手段は、上記使用者が指定した画像である登録画像における特性が異なる1以上の特徴量し、上記記憶手段は、上記特徴量検出手段により検出された上記登録画像の特徴量を記憶することができ、必要に応じて使用者は登録画像を随時登録することができる。
更にまた、上記記憶手段は、上記登録画像の特徴量と上記類似度の閾値とからなるデータを有し、上記検出手段により検出された特定画像に対する使用者の評価を入力する入力手段と、上記入力手段を介して入力される使用者の評価に基づいて上記記憶手段の上記類似度の閾値を書き換える書き換え手段とを有することができ、使用者の評価によって類似度の閾値が書き換えられるため、更に誤検出が低減される。
また、上記検出手段により検出された特定画像を表示手段に表示する提示手段を有することができる。
更に、映像を供給する外部機器に接続され、上記検出手段は、上記外部機器から供給される映像から上記特定画像を検出することができる。
更にまた、少なくとも2つのチューナ手段を有し、上記提示手段は、一方のチューナ手段により選局された受信チャンネルの映像を上記表示手段に表示し、上記検出手段は、他方のチューナ手段により選局された受信チャンネルの映像から上記特定画像を検出することができ、使用者は、特定画像を検出させながら、テレビジョン映像を視聴することができる。
また、少なくとも2つのチューナ手段を有し、上記検出手段は、一方のチューナ手段により選局された受信チャンネルの映像から上記特定画像を検出し、上記提示手段は第1の表示手段及び第2の表示手段に接続され、他方のチューナ手段により選局された受信チャンネルの映像を該第1の表示手段に表示し、上記特定画像を該第2の表示手段に表示することができ、使用者は一方の表示手段でテレビジョン映像を視聴しながら、使用者が見ているテレビジョン映像とは異なるチャンネルのテレビジョン映像等から特定画面を検出させ、他方の表示手段により、検出された特定画像を見ることができる。
更に、上記検出手段は、時分割で選局された複数のチャンネルの映像から上記特定画像を検出することができる。
更にまた、上記提示手段は、上記検出手段により検出された上記特定画像を複数保持し、該複数の特定画像を縮小して上記表示手段に同時に表示してもよい。
また、上記フレーム画像を予め規定したサイズのブロックに分割するブロック分割手段を有し、上記検出手段は、フレーム画像と上記近接フレーム画像とで対応するブロック間の輝度変化が所定の閾値以下であるとき、該フレーム画像を候補画像として検出することができる。
更に、上記ブロック分割手段により分割されたブロック毎に輝度ヒストグラムを算出する輝度ヒストグラム算出手段を有し、上記候補画像検出手段は、フレーム画像と上記近接フレーム画像とで対応するブロック間の輝度ヒストグラムの相関係数が所定の閾値以下であるブロックの数が所定の閾値以下であるとき、該フレーム画像を候補画像として検出することができる。
更にまた、上記検出手段により特定画像が検出された際に使用者に知らせる通知手段を有してもよく、これにより、使用者の利便性を向上する。
本発明に係る特定画像検出方法は、連続するフレーム単位の画像からなる映像に含まれる静止画部分を含む特定の画像を検出する特定画像検出装置の特定画像検出方法であって、コンピュータに、フレーム画像とこれに時間的に近接する近接フレーム画像との間の輝度変化の割合を算出し、該輝度変化の割合が所定の閾値以下であるフレーム画像を候補画像として検出する候補画像検出工程と、上記候補画像における特性が異なる1以上の特徴量を検出する候補画像特徴量検出工程と、上記候補画像の特徴量と、記憶手段に記憶された登録画像における特性が異なる1以上の特徴量との類似度が所定の閾値以上であるとき、該候補画像を特定画像として検出する検出工程と、上記検出工程にて検出された特定画像を表示手段に表示する提示工程とを実行させ、上記特定画像検出装置は、少なくとも2つのチューナ手段を有し、上記提示工程では、一方のチューナ手段により選局された受信チャンネルの映像を上記表示手段に表示し、上記検出工程では、他方のチューナ手段により選局された受信チャンネルの映像から上記特定画像を検出する。
また、本発明に係る特定画像検出方法は、連続するフレーム単位の画像からなる映像に含まれる静止画部分を含む特定の画像を検出する特定画像検出装置の特定画像検出方法であって、コンピュータに、フレーム画像とこれに時間的に近接する近接フレーム画像との間の輝度変化の割合を算出し、該輝度変化の割合が所定の閾値以下であるフレーム画像を候補画像として検出する候補画像検出工程と、上記候補画像における特性が異なる1以上の特徴量を検出する候補画像特徴量検出工程と、上記候補画像の特徴量と、記憶手段に記憶された登録画像における特性が異なる1以上の特徴量との類似度が所定の閾値以上であるとき、該候補画像を特定画像として検出する検出工程と、上記検出工程にて検出された特定画像を表示手段に表示する提示工程とを実行させ、上記特定画像検出装置は、少なくとも2つのチューナ手段を有し、上記検出工程では、一方のチューナ手段により選局された受信チャンネルの映像から上記特定画像を検出し、上記提示工程では、他方のチューナ手段により選局された受信チャンネルの映像を第1の表示手段に表示し、上記特定画像を第2の表示手段に表示する。
さらに、本発明に係る特定画像検出方法は、連続するフレーム単位の画像からなる映像に含まれる静止画部分を含む特定の画像を検出する特定画像検出装置の特定画像検出方法であって、コンピュータに、フレーム画像とこれに時間的に近接する近接フレーム画像との間の輝度変化の割合を算出し、該輝度変化の割合が所定の閾値以下であるフレーム画像を候補画像として検出する候補画像検出工程と、上記候補画像における特性が異なる1以上の特徴量を検出する候補画像特徴量検出工程と、上記候補画像の特徴量と、記憶手段に記憶された登録画像における特性が異なる1以上の特徴量との類似度が所定の閾値以上であるとき、該候補画像を特定画像として検出する検出工程と、上記検出工程にて検出された特定画像を表示手段に表示する提示工程とを実行させ、上記提示工程では、上記検出工程にて検出された上記特定画像を複数保持し、該複数の特定画像を縮小して上記表示手段に同時に表示する。
本発明に係るプログラムは、連続するフレーム単位の画像からなる映像に含まれる静止画像から特定の画像を検出する特定画像検出装置の動作をコンピュータに実行させるためのプログラムであって、コンピュータに、フレーム画像とこれに時間的に近接する近接フレーム画像との間の輝度変化の割合を算出し、該輝度変化の割合が所定の閾値以下であるフレーム画像を候補画像として検出する候補画像検出工程と、上記候補画像における特性が異なる1以上の特徴量を検出する候補画像特徴量検出工程と、上記候補画像の特徴量と、記憶手段に記憶された登録画像における特性が異なる1以上の特徴量との類似度が所定の閾値以上であるとき、該候補画像を特定画像として検出する検出工程と、上記検出工程にて検出された特定画像を表示手段に表示する提示工程とを実行させ、上記特定画像検出装置は、少なくとも2つのチューナ手段を有し、上記提示工程では、一方のチューナ手段により選局された受信チャンネルの映像を上記表示手段に表示し、上記検出工程では、他方のチューナ手段により選局された受信チャンネルの映像から上記特定画像を検出する。
また、本発明に係るプログラムは、連続するフレーム単位の画像からなる映像に含まれる静止画像から特定の画像を検出する特定画像検出装置の動作をコンピュータに実行させるためのプログラムであって、コンピュータに、フレーム画像とこれに時間的に近接する近接フレーム画像との間の輝度変化の割合を算出し、該輝度変化の割合が所定の閾値以下であるフレーム画像を候補画像として検出する候補画像検出工程と、上記候補画像における特性が異なる1以上の特徴量を検出する候補画像特徴量検出工程と、上記候補画像の特徴量と、記憶手段に記憶された登録画像における特性が異なる1以上の特徴量との類似度が所定の閾値以上であるとき、該候補画像を特定画像として検出する検出工程と、上記検出工程にて検出された特定画像を表示手段に表示する提示工程とを実行させ、上記特定画像検出装置は、少なくとも2つのチューナ手段を有し、上記検出工程では、一方のチューナ手段により選局された受信チャンネルの映像から上記特定画像を検出し、上記提示工程では、他方のチューナ手段により選局された受信チャンネルの映像を第1の表示手段に表示し、上記特定画像を第2の表示手段に表示する。
さらに、本発明に係るプログラムは、連続するフレーム単位の画像からなる映像に含まれる静止画像から特定の画像を検出する動作をコンピュータに実行させるためのプログラムであって、コンピュータに、フレーム画像とこれに時間的に近接する近接フレーム画像との間の輝度変化の割合を算出し、該輝度変化の割合が所定の閾値以下であるフレーム画像を候補画像として検出する候補画像検出工程と、上記候補画像における特性が異なる1以上の特徴量を検出する候補画像特徴量検出工程と、上記候補画像の特徴量と、記憶手段に記憶された登録画像における特性が異なる1以上の特徴量との類似度が所定の閾値以上であるとき、該候補画像を特定画像として検出する検出工程と、上記検出工程にて検出された特定画像を表示手段に表示する提示工程とを実行させ、上記提示工程では、上記検出工程にて検出された上記特定画像を複数保持し、該複数の特定画像を縮小して上記表示手段に同時に表示する。
本発明に係る特定画像検出システムは、連続するフレーム単位の画像からなる映像に含まれる静止画部分を含む特定の画像を検出し、該特定画像を少なくとも1つの表示手段に表示する特定画像検出システムであって、少なくとも1つの表示手段と、登録画像における特性が異なる1以上の特徴量を記憶する記憶手段と、フレーム画像とこれに時間的に近接する近接フレーム画像との間の輝度変化の割合を算出し、該輝度変化の割合が所定の閾値以下であるフレーム画像を候補画像として検出する候補画像検出手段と、上記候補画像における特性が異なる1以上の特徴量を検出する特徴量検出手段と、上記候補画像の特徴量と、上記登録画像の特徴量との類似度が所定の閾値以上であるとき、該候補画像を特定画像として検出する検出手段と、上記表示手段に接続され上記検出手段により検出された上記特定画像を上記少なくとも1つの表示手段に表示する提示手段と、少なくとも2つのチューナ手段とを具備する特定画像検出手段とを有し、上記提示手段は、一方のチューナ手段により選局された受信チャンネルの映像を上記表示手段に表示し、上記検出手段は、他方のチューナ手段により選局された受信チャンネルの映像から上記特定画像を検出する。
また、本発明に係る特定画像検出システムは、連続するフレーム単位の画像からなる映像に含まれる静止画部分を含む特定の画像を検出し、該特定画像を少なくとも1つの表示手段に表示する特定画像検出システムであって、少なくとも1つの表示手段と、登録画像における特性が異なる1以上の特徴量を記憶する記憶手段と、フレーム画像とこれに時間的に近接する近接フレーム画像との間の輝度変化の割合を算出し、該輝度変化の割合が所定の閾値以下であるフレーム画像を候補画像として検出する候補画像検出手段と、上記候補画像における特性が異なる1以上の特徴量を検出する特徴量検出手段と、上記候補画像の特徴量と、上記登録画像の特徴量との類似度が所定の閾値以上であるとき、該候補画像を特定画像として検出する検出手段と、上記表示手段に接続され上記検出手段により検出された上記特定画像を上記少なくとも1つの表示手段に表示する提示手段と、少なくとも2つのチューナ手段とを具備する特定画像検出手段とを有し、上記検出手段は、一方のチューナ手段により選局された受信チャンネルの映像から上記特定画像を検出し、上記提示手段は、少なくとも第1及び第2の表示手段に接続され、他方のチューナ手段により選局された受信チャンネルの映像を該第1の表示手段に表示し、上記特定画像を該第2の表示手段に表示する。
さらに、本発明に係る特定画像検出システムは、連続するフレーム単位の画像からなる映像に含まれる静止画部分を含む特定の画像を検出し、該特定画像を少なくとも1つの表示手段に表示する特定画像検出システムであって、少なくとも1つの表示手段と、登録画像における特性が異なる1以上の特徴量を記憶する記憶手段と、フレーム画像とこれに時間的に近接する近接フレーム画像との間の輝度変化の割合を算出し、該輝度変化の割合が所定の閾値以下であるフレーム画像を候補画像として検出する候補画像検出手段と、上記候補画像における特性が異なる1以上の特徴量を検出する特徴量検出手段と、上記候補画像の特徴量と、上記登録画像の特徴量との類似度が所定の閾値以上であるとき、該候補画像を特定画像として検出する検出手段と、上記表示手段に接続され上記検出手段により検出された上記特定画像を上記少なくとも1つの表示手段に表示する提示手段と、少なくとも2つのチューナ手段とを具備する特定画像検出手段とを有し、上記提示手段は、上記検出手段により検出された上記特定画像を複数保持し、該複数の特定画像を縮小して上記表示手段に同時に表示する。
本発明によれば、予め、ユーザに特化した重要な画像等を登録画像として登録しておき、TV放送等の連続する画像中から、輝度変化の割合が所定の閾値以下であるフレーム画像のみを候補画像として検出し、登録画像に類似する候補画像を特定画像として検出することにより、ユーザにとって重要である等の理由で登録された画像を高効率に選択してリアルタイムで検出することができ、候補画像を検出してから特徴量により画像を特定するため、誤検出の頻度を軽減することができる。
以下、本発明を適用した具体的な実施の形態について、図面を参照しながら詳細に説明する。この実施の形態は、本発明を、連続する画像中からユーザが指定した重要情報を有する特定画像を検出及び表示する特定画像検出システムに適用したものである。
この特定画像検出システムにおいては、予めユーザが登録画像を登録し、テレビジョン(TV)放送等の映像に含まれる画像を検索し、登録画像に類似した特定画像を検出し、これをリアルタイムで表示(提示、呈示)するものである。ここで、登録画像との類似度判定が行われ、特定画像が検出されるが、検出結果の表示は様々なタイミングで行われるため、本実施の形態においては、ユーザが検出結果を評価する評価手段を設けるものとする。即ち、その時のユーザの状態によって、検出結果の評価が変化しても、検出結果に対するその時のユーザの評価をフィードバックさせることができる。これにより、例えば類似度判定における判定基準を変化させることができ、以降の検出に反映させることができる。こうしてユーザとのやり取りで、効率的に重要な情報(特定画像)を検出して表示することができる。
図1は、本実施の形態の特定画像検出システムを示すブロック図である。図1に示すように、特定画像検出装置20に、例えばTV放送された映像からユーザが登録した特定画像を検出するものであって、ユーザが、例えば、TV放送、又はビデオ等の映像を視聴するメインモニタ12と、映像から検出した特定画像を表示するサブモニタ11とが接続され、特定画像検出システム30が構成されている。本実施の形態においては、通常のTV映像等を視聴する際に使用されるテレビ受像機等のメインモニタ12に加え、検出した特定画像を表示するサブモニタ11を使用することで効率的な表示を行う。
一般に、TV放送は、受信可能な放送が複数であり、各放送局が独自のコンテンツを放送しているが、それらがユーザにとって見やすい順に並んでいないことは多々あるといえる。例えば、ニュース番組を例にとってみると、複数の放送局が同時刻にニュース番組を放送しているという場合、同じニュース番組であってもその内容は各放送局で異なる。その為、目的とするニュースを見落としてしまう可能性があり、一方、ユーザにとって個人的に興味がないニュースを観ているという場合も考えられる。ここで要求されるのは、複数の番組のある特定部分をユーザにとって重要なものから順に効率よく視聴できるシステムである。ニュース以外でも、例えば天気予報を観たいときに、ニュース番組の中でいつ始まるか分からないという理由から興味がないニュースを観ていなければならなくなったり、ユーザの住む地方とは別の地方のものまで観ることになったりしてしまう等の不便な点がある。更に、TV放送以外であって、外部機器から供給される他の映像を視聴している場合において、TV放送の特定の情報を視聴したい場合、他の映像の視聴を一旦停止しなければならず不便である。本発明の特定画像検出システムは、このような不便な点を解消し、番組を効率よく表示することを可能にするものである。
ここで、本実施の形態においては、特定画像検出装置20が複数のチューナ手段を有し、一方のチューナ手段により選局された受信チャンネルの映像をメインモニタ12に表示し、他のチューナ手段により選局された受信チャンネルの映像から特定画像を検出してサブモニタ11に表示することができる。例えば、2つのチューナ手段を有するときは、TV放送には複数のチャンネルがあるため、ユーザが指定した複数のチャンネル又は全チャンネルを時分割で選局し、この時分割で選局した各チャンネルのTV映像から特定画像を検出することができる。また、メインモニタ12用のチューナ手段と、特定画像を検出するために全TVチャンネルに対応するチューナ手段を設けてもよい。
また、サブモニタ11及びメインモニタ12にチューナ手段を設け、サブモニタ11及びメインモニタ12がTV放送を受信して特定画像検出装置20に映像を供給するものとしてもよい。また、特定画像検出システムにチューナ手段を有する外部機器を接続して映像を供給するものとしてもよい。なお、特定画像検出装置20には、外部機器として、例えばビデオデッキ、DVD、BS(Broadcast Satelite)デジタルチューナ等のSTB等を接続すれば、例えばメインモニタ12に各種映像を供給して視聴しながら、必要に応じてサブモニタ11又はメインモニタ12に特定画像を表示させることができる。
以下、本実施の形態に係る特定画像検出装置について詳細に説明する。図2は、本実施の形態の特定画像検出装置におけるデータの流れを説明する説明図である。 図2に示すように、特定画像検出装置20は、入力端子1を介して映像信号が供給される画像特徴量取得部(特徴量検出手段)3、遅延回路(DL)5及び静止判定部(候補画像検出手段)6と、静止判定部6から静止判定された候補画像が供給される画像特徴量取得部(特徴量検出手段)7と、入力端子2を介してユーザからの登録指示信号が供給された場合の入力画像(登録画像)の特徴量が供給され、これを記憶する特徴量テーブル(記憶手段)4と、特徴量テーブル4の特徴と画像特徴量取得部7から供給される候補画像の特徴量との類似度を判定し、登録画像と類似している候補画像を検出する検出手段である類似度判定部8と、類似後判定部8で類似していると判定された類似画像をサブモニタ11に供給すると共に、入力端子10を介してサブモニタ11に表示された類似画像に対するユーザの評価信号が供給され、この評価に応じて類似画像をメインモニタ12に供給する提示制御部(提示手段)9とから構成されている。
ここでは、入力端子を介して映像信号(入力画像列)が供給されるものとしているが、上述したように、供給される映像信号は、装置内にチューナ手段を設け、これにより選局された受信チャンネルのTV映像であっても、外部から供給される映像であってもよい。
遅延回路5は、入力されるフレーム単位の画像を、例えば1フレーム等、所定フレーム遅延して静止判定部6に供給する。静止判定部6は、入力フレーム画像と、遅延回路5から供給される入力画像より所定フレーム遅延された遅延フレームとの輝度変化が所定の閾値以下である場合、入力フレーム画像を候補画像であると判定する。ここで、候補画像は、静止画像又は静止画部分を含む画像である。ユーザが検出を希望する画像は登録画像として登録されるが、この登録画像が静止画像であるか、静止画部分を含む画像であるかによって、適宜上記閾値を設定するものとする。
画像特徴量取得部3は、端子2を介して登録指示信号が供給されると、そのときの入力画像(登録画像)から特徴量を取得し、特徴量テーブル4に送る。特徴量テーブル4は、入力画像のうち、ユーザが重要である、必要である等の理由により登録したい登録画像の特徴量が記憶されるものである。
また、画像特徴量取得手段7は、画像特徴量取得部3と同様に、候補画像から特徴量を取得する。なお、図2においては、画像検出装置20は、画像特徴量取得部3,7を備えるものとしたが、いずれか一方の画像特徴量取得部において取得した特徴量を使用するものとしてもよい。
類似度判定部8は、特徴量テーブル4に記憶されている全ての特徴量と、候補画像から検出された特徴量とを比較し、類似度を判定する。具体的には、例えば、特徴量の類似度を所定の閾値(判定閾値)を使用して判定するため、特徴量テーブル4には、各登録画像の特徴量と共に、各特徴量に対する判定閾値が記憶されている。この類似度判定部8は、類似度が所定の判定閾値以上であった候補画像を類似画像として提示制御部9に出力し、サブモニタ11に表示させる。
サブモニタ11は、ユーザに評価させるため、検出された類似画像を表示するモニタである。ユーザの評価は端子10を介して提示制御部9に入力される。そして、ユーザの評価を例えば複数用意しておき、この評価に基づき提示制御部9の制御を設定しておくことができる。
提示制御部9は、ユーザ評価が端子10を介して入力されると、この評価に基づきサブモニタ11、メインモニタ12に出力する画像を制御すると共に特徴量テーブル4に記憶されているデータの書き換え等を行う。例えば、ユーザがサブモニタ11に表示された類似画像を見て、この類似画像がユーザの希望した画像(登録画像)であった場合、これを評価するユーザからの評価信号により、類似画像を特定画像としてメインモニタ12に出力するようにすること等ができる。一方、サブモニタ11に表示された類似画像が登録画像と異なる画像、即ち、誤検出である場合、誤検出であることを指摘するユーザからの評価信号により、提示制御部9は、この類似画像を検出した際の特徴量テーブル4に記憶されている判定閾値を書き換えるよう制御すること等ができる。このように、ユーザの評価に応じて判定閾値を書き換えることで、不要である画像、誤検出である画像が再び検出されることを防止することができる。更に、以前登録した登録画像であって不要になった場合等、不要の登録画像に類似する画像が検出された場合は、これを破棄するよう設定すること等ができる。
また、本実施の形態の特定画像検出装置20は、提示制御部9により、類似画像をサブモニタ11に出力し、特定画像をメインモニタ12に出力するため、例えば、ユーザが天気予報に関する画像が必要であってこれを登録しておくことにより、特定画像検出装置20は、天気予報に関する画像を特定画像として検出するが、その間、ユーザは、メインモニタ12において、例えばビデオ等により映画を視聴したり、他のTV番組を視聴したりすることが可能であり、メインモニタ12で視聴していないいわゆる裏番組から登録画像を検出してサブモニタ11に表示することができる。
次に、下記表1に、特徴量テーブル4に保存される特徴量の例を示す。
本実施の形態においては、上記表1に示す特徴量の中から、輝度ヒストグラムと静止時間とを使用する場合について説明する。ここで、例えば上記表1に示す例えば全ての特徴量を使用する等して特定画像を検出するものとしてもよいが、入力される映像に合わせ、例えば厳しい判定基準を設定することがロバスト性に影響することがある場合等を考慮して特徴量の種類及び判定基準(判定閾値)等は適宜設定するものとする。本実施の形態において、TV放送される映像から特定画像を検出する際に、輝度ヒストグラム及び静止時間を利用する理由としては、ノイズが入ることが予想されるTV放送においても、ロバスト性を向上するためである。また、以下の説明においては、検出する特定画像は静止画像とするが、上述したように、静止画部分を含む画像、即ち、例えば背景となる部分は動画であって、所定の領域のみが静止しているような場合等においても、同様に検出することができる。
図3は、本実施の形態の特定画像検出装置における特定画像検出方法を示すフローチャートである。図3(a)に示すように、先ず、入力されるテレビジョン放映された映像等、連続する画像から候補画像(以下、静止画像という。)を検出するための静止判定が行われる(ステップS1)。一方、入力画像と共に、ユーザにより画像登録信号が入力された場合は、その入力画像を登録画像として登録するため、当該登録画像の特徴量を取得(検出)し(ステップS11)、この特徴量を特徴量テーブル4に記憶する(ステップS12)。この特徴量テーブル4には、ユーザから指定された登録画像の特徴量、即ち、本実施の形態においては、ユーザから登録が指示される毎に、その登録画像の輝度ヒストグラム及び静止時間が取得されて随時記憶され保存される。
一方、入力画像から静止判定をして静止画像を検出した場合は、静止画像の特徴量を検出し、得られた特徴量は類似度判定部8に送られ、特徴量テーブル4に記憶されている全ての登録画像の特徴量と比較し、閾値を基に類似度判定が行われる(ステップS2)。本実施の形態においては、輝度ヒストグラムに対する後述する相関係数e、変化がない無変化ブロックの割合、及び図示しない静止カウンタのカウント値である静止時間を基に、類似度判定を行う。
図4は、特徴量テーブル4を示す模式図である。図4に示すように、特徴量テーブル4には、各登録画像毎に識別番号(No.0、1、2・・・)が付され、各登録画像に対応する輝度ヒストグラム、静止時間、並びに相関係数、変化ブロックの割合、及び時間誤差等に関する判定閾値が記憶されている。
図3に戻って、ステップS3において、登録画像と静止画像とが類似していると判定された場合、提示制御部9にこの画像のデータが送られ、サブモニタ11に表示指示が送られて表示される(ステップS3)。そして、本実施の形態においては、静止画像は表示された後、例えばユーザの注意を促すためのアラームを鳴らし、ユーザから、入力端子10を介して入力される評価を待つ待機状態となる(ステップS4)。一方、類似していないと判定された場合は次のフレームの処理へ進む。
次に、表示された画像に対するユーザによる評価が行われる。ユーザの評価としては、上述したように、様々なものが考えられ、複数の評価を設定しておき、これに応じた処理を設定することができる。本実施の形態においては、表示された画像がユーザの指定した登録画像であると判定する(必要であると判定する)場合(Good)、及びユーザの指定した登録画像ではないと判定する(不要であると判定する)場合(Nogood)の2パターンとした場合について説明する。ここで、Nogoodの評価が入力された場合には、類似と判定した際に使用された特徴量テーブル4内の登録画像の判定閾値の値を変更(更新)し(ステップS6)、次のフレームの処理に進む。一方、Goodと評価され、類似画像が登録画像であると判定した場合は、この特定画像をメインモニタ12に出力し(ステップS7)、次のフレームの処理に進む。上述したように、ユーザの評価がNogoodである場合は、判定閾値の値を書き換え、類似と判定する基準を厳しくすることにより、以降の検出において、同様の誤検出が生じることを防止する。また、ここでは、特定画像をメインモニタ12に出力するものとしたが、メインモニタ12には出力せず例えばサブモニタ11に記憶手段を設けてこれを所定期間保持し、ユーザの都合で所望の時間に表示させるようにしてもよい。
以下、本実施の形態における特定画像検出方法について更に詳細に説明する。先ず、画像特徴量取得部3における登録画像の特徴量取得方法について説明する。 図5は、登録画像の特徴量取得方法を示すフローチャートである。図5では、フレーム(以下、iフレームという。)画像の画素値(F(i,pxl))が入力され、端子2を介してユーザから登録指示信号が入力された場合、即ち、iフレーム画像の特徴量取得の指示が出され、iフレーム画像を登録画像として登録する場合について説明する。本実施の形態においては、上述したように、登録画像の特徴量として、その輝度ヒストグラムと、静止時間とを取得し、特徴量メモリ4に記憶する。
図5に示すように、先ず、iフレーム画像のデータが端子1を介して供給されると共に端子2を介して登録指示信号が供給され、iフレームが登録画像として選択されると、画像特徴量取得部3は、このiフレーム画像のデータを規定のブロックに分割し、各ブロック内で輝度値のヒストグラムを求め、得られた輝度ヒストグラムH(i,j)を保持する(ステップS21)。ここで、H(i,j)は、iフレームにおけるj番目のブロックの輝度ヒストグラムを示すものとする。更に、得られた輝度ヒストグラムを特徴量としてコピーし、特徴量テーブル4に保存する(ステップS22)。
次に、フレーム番号をインクリメントし(ステップS23)、iフレームとは時間的に連続する(i+1)フレームの画素値(F(i+1,pxl))を入力する。画像特徴量取得部3は、iフレームと同様に、(i+1)フレーム画像においても、ブロック単位の輝度ヒストグラムH(i+1,j)を求めて保持する。
そして、得られた輝度ヒストグラムH(i+1,j)と先に求めた輝度ヒストグラムH(i,j)との間で、空間的に対応するブロック間の相関係数eを下記式(1)により計算する。
そして、計算した相関係数eと、所定の閾値(Th_coef)とを比較する(ステップS26)。j番目のブロックにおける相関係数e(j)が閾値(Th_coef)以下ならば、これを変化ブロックとしてカウントし、カウントされた変化ブロックの割合e2(j)が閾値(Th_diff)未満ならば静止画像として静止カウンタのカウント値(stillcnt)の値をインクリメントし(ステップS27)、次のフレーム((i+2)フレーム)へ移り、ステップS23乃至ステップS27の処理を繰り返す。一方、変化ブロックの割合e2(j)が閾値(Th_diff)以上なら静止カウンタのカウント値を特徴量テーブル4に保存し(ステップS28)、終了する。ここで、静止カウンタのカウント値が画像特徴量取得部3で取得された登録画像の静止時間である。このようにして、画像特徴量取得部3は、登録画像に指定されたiフレーム画像の特徴量としてその輝度ヒストグラムと静止時間とを取得し、特徴量テーブル4に記憶させることができる。
次に、静止判定部の静止画像検出方法について説明する。静止画像は、フレーム遅延回路5を通した遅延フレーム画像と入力フレーム画像とが静止判定部6に送られ、上述のステップS27と同様に、両者の変化ブロックの割合から静止しているか否かが判定されて静止画像(候補画像)が検出される。図6は、静止判定部6における静止画像の検出方法を示すフローチャートである。
静止判定部6は、端子1を介して入力されたiフレーム画像を規定のブロックに分割し、各ブロック内で輝度値のヒストグラムを求め、得られた輝度ヒストグラムH(i,j)を保持する(ステップS31)。次に、フレーム番号を例えば1つインクリメントし(ステップS32)、(i+1)フレームの画素値(F(i+1,pxl))を入力し(ステップS33)、iフレームと同様に、(i+1)フレーム画像においても、ブロック単位の輝度ヒストグラムH(i+1,j)を求めて保持する(ステップS34)。
そして、得られた輝度ヒストグラムH(i+1,j)と先に求めた輝度ヒストグラムH(i,j)との間で、空間的に対応するブロック間の相関係数e(j)を上記式(1)により計算し、この相関係数e(j)と、所定の閾値(Th_coef)とを比較し(ステップS35)、変化ブロックの割合を検出する(ステップS36)。j番目のブロックの相関係数e(j)が閾値(Th_coef)以下ならば、これを変化ブロックとしてカウントし、カウントされた変化ブロックの割合e2(j)が閾値(Th_diff)未満ならば、iフレーム画像の輝度ヒストグラムおよび静止カウンタのカウンタ値を保存し(ステップ37)、このiフレーム画像を静止画像とみなして、画像特徴量取得部7に送る。一方、変化ブロックの割合が閾値(Th_diff)以上なら、処理を終了し、次のフレームの処理に進む。
静止画像とみなされ画像特徴量取得部7に送られたiフレーム画像は、上述の図5に示す特徴量取得部3の静止時間の取得と同様に静止時間がカウントされ、特徴量として取得される。
なお、図6において、説明を簡単にするため、iフレームと(i+1)フレームとで対応するブロックの相関係数を比較するものとしたが、静止判定部6は、実際には、時間的に近接するフレーム間での相関が所定の閾値以下であるか否かを判定するものであり、例えば、図2に示す例では、静止判定部6には、入力フレーム画像(iフレーム画像)と、遅延回路5を介して、入力フレーム画像より所定フレーム遅延されたフレーム画像((i−2)フレーム画像)とが供給され、両者の間の相関が判定されている。
次に、画像特徴量取得部3,7におけるヒストグラムの計算方法について説明する。本実施の形態においては、上述したように、静止判定部6の静止判定及び特徴量として輝度ヒストグラムを使用する。輝度ヒストグラムを計算するヒストグラム生成部は、例えば画像特徴量取得部3,7、及び静止判定部6に個別に用意されていてもよく、又は、図2において図示しない輝度ヒストグラム生成部を用意し、その輝度ヒストグラム生成部に必要に応じて画像のデータを送り、輝度ヒストグラムを生成するようにしてもよい。
図7は、ヒストグラム計算及びこのヒストグラムをフレーム間で比較する方法を示すフローチャートである。ここでは、iフレームと(i−2)フレームとの間の輝度ヒストグラムを比較する場合について説明する。図7に示すように、先ず、入力されるフレーム画像(iフレーム画像とする。)を規定のサイズのブロックに分割する(ステップS41)。例えば、フレーム画像を例えば720×480ピクセル等とすることができ、ブロックサイズを例えば32×32ピクセル等とすることができる。そして、iフレームにおいて分割したj番目のブロックの輝度ヒストグラムH(i,j)を計算する。次に、既に計算済みの(i−2)フレームのj番目の輝度ヒストグラムH(i−2,j)を読み込み(ステップS43)、上記式(1)により、iフレームにおけるj番目のブロックの輝度ヒストグラムの相関係数e(i,j)を計算し(ステップS45)、閾値判定により変化ブロックであるか否かを判定する。このとき、変化ブロックであると判定された場合には、フラグE(i,j)に1を、無変化ブロックであると判定された場合には、フラグE(i,j)に0を立てる。輝度ヒストグラムH(i,j)は、(i+2)フレームとの相関係数を比較する際に使用するため保存し、カウンタjをインクリメントし(ステップS46)、全部ロックが終了しているか否かを判定し(ステップS47)、全部ロックについて変化ブロックの判定が終了していない場合は、ステップS42乃至ステップS47の処理を繰り返し、全てのブロックにおいて変化ブロックの判定がなされている場合は処理を終了する。こうして、得られた全部ロックのフラグE(i,j)の値を加算し、この値が所定値以下である場合は、iフレーム画像を静止画像と判定することができる。
以下、本実施の形態の具体例として、天気予報番組を登録画像とし、これを検出する場合について説明する。天気予報番組の特徴として、以下に示すものがある。即ち、
1.毎回、同様の画面を組み合わせて構成される
2.毎回ほぼ同時刻に放送される
3、番組枠として設定されていないものが多く、番組表からは正確な開始時刻が不明
4.静止画像を使用する頻度が高い
5.地域の依存性など、ユーザ毎に重要とされる画面にばらつきがある
等の特徴を有する。
1.毎回、同様の画面を組み合わせて構成される
2.毎回ほぼ同時刻に放送される
3、番組枠として設定されていないものが多く、番組表からは正確な開始時刻が不明
4.静止画像を使用する頻度が高い
5.地域の依存性など、ユーザ毎に重要とされる画面にばらつきがある
等の特徴を有する。
このような天気予報番組は、同様の画像が繰り返し使用されているため、登録画像(登録画面)が長期に亘り使用可能である。また、天気予報番組は、おおよその開始時刻を知ることは可能だが、ニュース番組に含まれる等の状況で天気予報番組のみを正確に試聴することは困難であり、特に他局の放送を試聴しているとき等には、ユーザにとって関心が薄い内容を見ることになり極めて不便である。更に、ユーザが住む地域によって必要ではない情報となる内容もあることから、選択的に画像を抽出するメリットが大きい。
ユーザは、番組試聴時に、希望する画像があれば登録指示を出す。図8(a)乃至(c)は、ユーザが登録指示を出した登録画像の一例を示す図であって、夫々東日本の予想天気、東日本の予想気温及び東日本の週間天気を示す画面の模式図である。
ここでは、ユーザが関東地方の情報を重要とし、関連する画像を登録した場合について説明する。先ず、登録された画像に類似した画像が検出されるとサブ画面に検出結果として表示される。図9(a)は、サブ画面(検出画面)に表示される類似画像を示す模式図、図9(b)は、そのときのメインモニタ12での表示例、図9(c)は、検出された複数の特定画像を保存し、同時にサブモニタ11に表示した様子を示す模式図である。例えば、図9(b)に示すように、メインモニタ12で、ユーザが映画等、天気予報番組が表示されない映像を試聴していた場合に、図9(a)に示すように、予め登録しておいた登録画像と類似した画像が他局で放送された場合、この登録画像の類似画像が検出されてサブモニタ11に表示される。
ここで、ユーザは検出結果の続きを試聴するか否かの判断を行い、例えば、ユーザが試聴する指示を出すとサブモニタ11に表示されていた検出画像がメインモニタ12が切り替わって表示されるようにすること等が可能である。ここで、ユーザに判断を委ねることでその場の状況によって不愉快な表示を行うことを防ぐことができる。また、登録画像とは異なる画面等が検出されユーザによって試聴を選択されなかった場合には、その検出結果に対応する登録画面の判定閾値を変化させることで、その後の誤検出を防止して更に検出効率を向上すると共に、画面に固有の精度が高い検出判定閾値を生成することができる。
更に、本実施の形態においては、サブモニタ11を複数台用意し、図9(c)に示すように、検出された画像を保存し、縮小して過去の一覧としてリスト表示してもよい。制作者の意図を考えると、静止画像は、視聴者に注目してもらいたい重要な情報が含まれる場合が多い。更に、何らかの情報をその1枚で表現するために工夫された画像である。そのため、通常の動画における1フレームに比して、静止画像が有する情報量は多く、その1枚を表示するだけでも多くの情報伝達が可能となる。よって、保存すること、一定時間表示すること、及び縮小してリスト表示すること等により、使用者が後から振り返って情報を確認することができ、また、情報を整理する際に極めて便利である。
また、チューナ手段を有するサブモニタ11を複数台用意し、各サブモニタ11のチューナを使用し、各サブモニタ11から映像信号を供給することにより、同時に検索できる放送局の数を増やすことができる。
また、天気予報番組と同様の効果を奏する例として、ニュース番組のニュースタイトル画面等がある。ニュース番組では、ニュース毎にアナウンサのアンカショット(バストショット)とニュースタイトルのテロップが表示されることが多く、一定時間ほぼ変化がない状態が続く。また、ニュース番組に依存してテロップの演出及び背景等も一定であり、検出対象に好適である。更に、ニュース番組は、必ずしも番組表の時間通り放映されない場合があり、このような画像を登録することにより、任意の番組を見ながら、これとは異なる放送局のニュースタイトルを検出結果として知ることができ、ユーザにとって関心がある場合、又は関心がある内容である場合のみ視聴することが可能である。このような登録に適した登録画像としては、例えば、マーケット情報、スポーツの試合結果、及び番組内の特定コーナのタイトル画面等がある。
本実施の形態においては、TV放送等の連続する画像中から予めユーザに特化した重要な画像を選択しておき、この画像の類似画像をリアルタイムに検出しユーザに知らせることで、より効率的な重要情報の表示が可能になる。更に、複数のチューナ手段を有するか、時分割で複数のチャンネルを検索する等により複数の放送から特定画像を検出することで、ユーザが現在視聴している番組とは異なる裏番組の監視も可能となる。
更に、静止判定することにより、候補となる静止画像を絞込み、この静止画像と登録画像との類似度を判定することにより、特徴量を取得して類似度判定するデータが少なくてよく、TV放送等の映像からリアルタイムに特定画像を検出することが可能であり、ユーザにとっての重要な情報を効率的に選択して視聴することができると共に、重要な情報の見落としを防止することができる。
また、複数の特徴量を統合的に使用することで、誤検出の頻度を軽減することができる。更に、検出結果を一定時間表示し、ユーザからの評価を促すことで、困難である画像検出の精度を柔軟に設定することができる。更にまた、精度を柔軟にすることでロバスト性を向上し、表示された状態でのユーザの判断を活かすことができる。
1,2,10 入力端子、3 画像特徴量取得部、4 特徴量テーブル、5 遅延回路、6 静止判定部、7 画像特徴量取得部、8 類似度判定部、9 提示制御部、11 サブモニタ、12 メインモニタ、20 特定画像検出装置
Claims (13)
- 連続するフレーム単位の画像からなる映像に含まれる静止画部分を含む特定の画像を検出する特定画像検出装置であって、
登録画像における特性が異なる1以上の特徴量を記憶する記憶手段と、
フレーム画像とこれに時間的に近接する近接フレーム画像との間の輝度変化の割合を算出し、該輝度変化の割合が所定の閾値以下であるフレーム画像を候補画像として検出する候補画像検出手段と、
上記候補画像における特性が異なる1以上の特徴量を検出する特徴量検出手段と、
上記候補画像の特徴量と、上記登録画像の特徴量との類似度が所定の閾値以上であるとき、該候補画像を特定画像として検出する検出手段と、
上記検出手段により検出された特定画像を表示手段に表示する提示手段と、
少なくとも2つのチューナ手段とを有し、
上記提示手段は、一方のチューナ手段により選局された受信チャンネルの映像を上記表示手段に表示し、
上記検出手段は、他方のチューナ手段により選局された受信チャンネルの映像から上記特定画像を検出する
特定画像検出装置。 - 連続するフレーム単位の画像からなる映像に含まれる静止画部分を含む特定の画像を検出する特定画像検出装置であって、
登録画像における特性が異なる1以上の特徴量を記憶する記憶手段と、
フレーム画像とこれに時間的に近接する近接フレーム画像との間の輝度変化の割合を算出し、該輝度変化の割合が所定の閾値以下であるフレーム画像を候補画像として検出する候補画像検出手段と、
上記候補画像における特性が異なる1以上の特徴量を検出する特徴量検出手段と、
上記候補画像の特徴量と、上記登録画像の特徴量との類似度が所定の閾値以上であるとき、該候補画像を特定画像として検出する検出手段と、
上記検出手段により検出された特定画像を表示手段に表示する提示手段と、
少なくとも2つのチューナ手段を有し、
上記検出手段は、一方のチューナ手段により選局された受信チャンネルの映像から上記特定画像を検出し、
上記提示手段は第1の表示手段及び第2の表示手段に接続され、他方のチューナ手段により選局された受信チャンネルの映像を該第1の表示手段に表示し、上記特定画像を該第2の表示手段に表示する
特定画像検出装置。 - 上記検出手段は、時分割で選局された複数の受信チャンネルの映像から上記特定画像を検出する
請求項2記載の特定画像検出装置。 - 連続するフレーム単位の画像からなる映像に含まれる静止画部分を含む特定の画像を検出する特定画像検出装置であって、
登録画像における特性が異なる1以上の特徴量を記憶する記憶手段と、
フレーム画像とこれに時間的に近接する近接フレーム画像との間の輝度変化の割合を算出し、該輝度変化の割合が所定の閾値以下であるフレーム画像を候補画像として検出する候補画像検出手段と、
上記候補画像における特性が異なる1以上の特徴量を検出する特徴量検出手段と、
上記候補画像の特徴量と、上記登録画像の特徴量との類似度が所定の閾値以上であるとき、該候補画像を特定画像として検出する検出手段と、
上記検出手段により検出された特定画像を表示手段に表示する提示手段とを有し、
上記提示手段は、上記検出手段により検出された上記特定画像を複数保持し、該複数の特定画像を縮小して上記表示手段に同時に表示する
特定画像検出装置。 - 連続するフレーム単位の画像からなる映像に含まれる静止画部分を含む特定の画像を検出する特定画像検出装置の特定画像検出方法であって、
コンピュータに、
フレーム画像とこれに時間的に近接する近接フレーム画像との間の輝度変化の割合を算出し、該輝度変化の割合が所定の閾値以下であるフレーム画像を候補画像として検出する候補画像検出工程と、
上記候補画像における特性が異なる1以上の特徴量を検出する候補画像特徴量検出工程と、
上記候補画像の特徴量と、記憶手段に記憶された登録画像における特性が異なる1以上の特徴量との類似度が所定の閾値以上であるとき、該候補画像を特定画像として検出する検出工程と、
上記検出工程にて検出された特定画像を表示手段に表示する提示工程と
を実行させ、
上記特定画像検出装置は、少なくとも2つのチューナ手段を有し、
上記提示工程では、一方のチューナ手段により選局された受信チャンネルの映像を上記表示手段に表示し、
上記検出工程では、他方のチューナ手段により選局された受信チャンネルの映像から上記特定画像を検出する
特定画像検出方法。 - 連続するフレーム単位の画像からなる映像に含まれる静止画部分を含む特定の画像を検出する特定画像検出装置の特定画像検出方法であって、
コンピュータに、
フレーム画像とこれに時間的に近接する近接フレーム画像との間の輝度変化の割合を算出し、該輝度変化の割合が所定の閾値以下であるフレーム画像を候補画像として検出する候補画像検出工程と、
上記候補画像における特性が異なる1以上の特徴量を検出する候補画像特徴量検出工程と、
上記候補画像の特徴量と、記憶手段に記憶された登録画像における特性が異なる1以上の特徴量との類似度が所定の閾値以上であるとき、該候補画像を特定画像として検出する検出工程と、
上記検出工程にて検出された特定画像を表示手段に表示する提示工程と
を実行させ、
上記特定画像検出装置は、少なくとも2つのチューナ手段を有し、
上記検出工程では、一方のチューナ手段により選局された受信チャンネルの映像から上記特定画像を検出し、
上記提示工程では、他方のチューナ手段により選局された受信チャンネルの映像を第1の表示手段に表示し、上記特定画像を第2の表示手段に表示する
特定画像検出方法。 - 連続するフレーム単位の画像からなる映像に含まれる静止画部分を含む特定の画像を検出する特定画像検出装置の特定画像検出方法であって、
コンピュータに、
フレーム画像とこれに時間的に近接する近接フレーム画像との間の輝度変化の割合を算出し、該輝度変化の割合が所定の閾値以下であるフレーム画像を候補画像として検出する候補画像検出工程と、
上記候補画像における特性が異なる1以上の特徴量を検出する候補画像特徴量検出工程と、
上記候補画像の特徴量と、記憶手段に記憶された登録画像における特性が異なる1以上の特徴量との類似度が所定の閾値以上であるとき、該候補画像を特定画像として検出する検出工程と、
上記検出工程にて検出された特定画像を表示手段に表示する提示工程と
を実行させ、
上記提示工程では、上記検出工程にて検出された上記特定画像を複数保持し、該複数の特定画像を縮小して上記表示手段に同時に表示する
特定画像検出方法。 - 連続するフレーム単位の画像からなる映像に含まれる静止画像から特定の画像を検出する特定画像検出装置の動作をコンピュータに実行させるためのプログラムであって、
コンピュータに、
フレーム画像とこれに時間的に近接する近接フレーム画像との間の輝度変化の割合を算出し、該輝度変化の割合が所定の閾値以下であるフレーム画像を候補画像として検出する候補画像検出工程と、
上記候補画像における特性が異なる1以上の特徴量を検出する候補画像特徴量検出工程と、
上記候補画像の特徴量と、記憶手段に記憶された登録画像における特性が異なる1以上の特徴量との類似度が所定の閾値以上であるとき、該候補画像を特定画像として検出する検出工程と、
上記検出工程にて検出された特定画像を表示手段に表示する提示工程と
を実行させ、
上記特定画像検出装置は、少なくとも2つのチューナ手段を有し、
上記提示工程では、一方のチューナ手段により選局された受信チャンネルの映像を上記表示手段に表示し、
上記検出工程では、他方のチューナ手段により選局された受信チャンネルの映像から上記特定画像を検出する
プログラム。 - 連続するフレーム単位の画像からなる映像に含まれる静止画像から特定の画像を検出する特定画像検出装置の動作をコンピュータに実行させるためのプログラムであって、
コンピュータに、
フレーム画像とこれに時間的に近接する近接フレーム画像との間の輝度変化の割合を算出し、該輝度変化の割合が所定の閾値以下であるフレーム画像を候補画像として検出する候補画像検出工程と、
上記候補画像における特性が異なる1以上の特徴量を検出する候補画像特徴量検出工程と、
上記候補画像の特徴量と、記憶手段に記憶された登録画像における特性が異なる1以上の特徴量との類似度が所定の閾値以上であるとき、該候補画像を特定画像として検出する検出工程と、
上記検出工程にて検出された特定画像を表示手段に表示する提示工程と
を実行させ、
上記特定画像検出装置は、少なくとも2つのチューナ手段を有し、
上記検出工程では、一方のチューナ手段により選局された受信チャンネルの映像から上記特定画像を検出し、
上記提示工程では、他方のチューナ手段により選局された受信チャンネルの映像を第1の表示手段に表示し、上記特定画像を第2の表示手段に表示する
プログラム。 - 連続するフレーム単位の画像からなる映像に含まれる静止画像から特定の画像を検出する動作をコンピュータに実行させるためのプログラムであって、
コンピュータに、
フレーム画像とこれに時間的に近接する近接フレーム画像との間の輝度変化の割合を算出し、該輝度変化の割合が所定の閾値以下であるフレーム画像を候補画像として検出する候補画像検出工程と、
上記候補画像における特性が異なる1以上の特徴量を検出する候補画像特徴量検出工程と、
上記候補画像の特徴量と、記憶手段に記憶された登録画像における特性が異なる1以上の特徴量との類似度が所定の閾値以上であるとき、該候補画像を特定画像として検出する検出工程と、
上記検出工程にて検出された特定画像を表示手段に表示する提示工程と
を実行させ、
上記提示工程では、上記検出工程にて検出された上記特定画像を複数保持し、該複数の特定画像を縮小して上記表示手段に同時に表示する
プログラム。 - 連続するフレーム単位の画像からなる映像に含まれる静止画部分を含む特定の画像を検出し、該特定画像を少なくとも1つの表示手段に表示する特定画像検出システムであって、
少なくとも1つの表示手段と、
登録画像における特性が異なる1以上の特徴量を記憶する記憶手段と、フレーム画像とこれに時間的に近接する近接フレーム画像との間の輝度変化の割合を算出し、該輝度変化の割合が所定の閾値以下であるフレーム画像を候補画像として検出する候補画像検出手段と、上記候補画像における特性が異なる1以上の特徴量を検出する特徴量検出手段と、上記候補画像の特徴量と、上記登録画像の特徴量との類似度が所定の閾値以上であるとき、該候補画像を特定画像として検出する検出手段と、上記表示手段に接続され上記検出手段により検出された上記特定画像を上記少なくとも1つの表示手段に表示する提示手段と、少なくとも2つのチューナ手段とを具備する特定画像検出手段と
を有し、
上記提示手段は、一方のチューナ手段により選局された受信チャンネルの映像を上記表示手段に表示し、
上記検出手段は、他方のチューナ手段により選局された受信チャンネルの映像から上記特定画像を検出する
特定画像検出システム。 - 連続するフレーム単位の画像からなる映像に含まれる静止画部分を含む特定の画像を検出し、該特定画像を少なくとも1つの表示手段に表示する特定画像検出システムであって、
少なくとも1つの表示手段と、
登録画像における特性が異なる1以上の特徴量を記憶する記憶手段と、フレーム画像とこれに時間的に近接する近接フレーム画像との間の輝度変化の割合を算出し、該輝度変化の割合が所定の閾値以下であるフレーム画像を候補画像として検出する候補画像検出手段と、上記候補画像における特性が異なる1以上の特徴量を検出する特徴量検出手段と、上記候補画像の特徴量と、上記登録画像の特徴量との類似度が所定の閾値以上であるとき、該候補画像を特定画像として検出する検出手段と、上記表示手段に接続され上記検出手段により検出された上記特定画像を上記少なくとも1つの表示手段に表示する提示手段と、少なくとも2つのチューナ手段とを具備する特定画像検出手段と
を有し、
上記検出手段は、一方のチューナ手段により選局された受信チャンネルの映像から上記特定画像を検出し、
上記提示手段は、少なくとも第1及び第2の表示手段に接続され、他方のチューナ手段により選局された受信チャンネルの映像を該第1の表示手段に表示し、上記特定画像を該第2の表示手段に表示する
特定画像検出システム。 - 連続するフレーム単位の画像からなる映像に含まれる静止画部分を含む特定の画像を検出し、該特定画像を少なくとも1つの表示手段に表示する特定画像検出システムであって、
少なくとも1つの表示手段と、
登録画像における特性が異なる1以上の特徴量を記憶する記憶手段と、フレーム画像とこれに時間的に近接する近接フレーム画像との間の輝度変化の割合を算出し、該輝度変化の割合が所定の閾値以下であるフレーム画像を候補画像として検出する候補画像検出手段と、上記候補画像における特性が異なる1以上の特徴量を検出する特徴量検出手段と、上記候補画像の特徴量と、上記登録画像の特徴量との類似度が所定の閾値以上であるとき、該候補画像を特定画像として検出する検出手段と、上記表示手段に接続され上記検出手段により検出された上記特定画像を上記少なくとも1つの表示手段に表示する提示手段と、少なくとも2つのチューナ手段とを具備する特定画像検出手段と
を有し、
上記提示手段は、上記検出手段により検出された上記特定画像を複数保持し、該複数の特定画像を縮小して上記表示手段に同時に表示する
特定画像検出システム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009031752A JP4788787B2 (ja) | 2009-02-13 | 2009-02-13 | 特定画像検出装置、特定画像検出方法、プログラム及び特定画像検出システム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009031752A JP4788787B2 (ja) | 2009-02-13 | 2009-02-13 | 特定画像検出装置、特定画像検出方法、プログラム及び特定画像検出システム |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002221838A Division JP4292762B2 (ja) | 2002-07-30 | 2002-07-30 | 特定画像検出装置、特定画像検出方法、プログラム及び記録媒体、並びに特定画像検出システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2009177822A JP2009177822A (ja) | 2009-08-06 |
JP4788787B2 true JP4788787B2 (ja) | 2011-10-05 |
Family
ID=41032358
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009031752A Expired - Fee Related JP4788787B2 (ja) | 2009-02-13 | 2009-02-13 | 特定画像検出装置、特定画像検出方法、プログラム及び特定画像検出システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4788787B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012003407A (ja) | 2010-06-15 | 2012-01-05 | Sony Corp | 情報処理装置、同一性判定システム、同一性判定方法およびコンピュータプログラム |
-
2009
- 2009-02-13 JP JP2009031752A patent/JP4788787B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2009177822A (ja) | 2009-08-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108024145B (zh) | 视频推荐方法、装置、计算机设备和存储介质 | |
US20090009532A1 (en) | Video content identification using ocr | |
KR100821623B1 (ko) | 방송 프로그램 추천 방법, 장치 및 그 방법을 컴퓨터에서 실행하기 위한 프로그램을 기록하는 컴퓨터 판독 가능한 기록 매체 | |
CN108293140B (zh) | 公共媒体段的检测 | |
US7676821B2 (en) | Method and related system for detecting advertising sections of video signal by integrating results based on different detecting rules | |
CN105916004A (zh) | 一种图像的叠加显示方法和系统 | |
US8629939B1 (en) | Television ticker overlay | |
KR20030026529A (ko) | 키프레임 기반 비디오 요약 시스템 | |
JP2009147679A (ja) | コンテンツ処理装置および方法、プログラム、並びに記録媒体 | |
US8904440B2 (en) | Apparatuses and methods for favorite program recommendations | |
CN101466013B (zh) | 信号处理器和信号处理方法 | |
JPH11164217A (ja) | 嗜好統計番組検索テレビシステム | |
CN111314734A (zh) | 智能电视中的信息推送方法、装置及控制器 | |
US20040019899A1 (en) | Method of and system for signal detection | |
JP4788787B2 (ja) | 特定画像検出装置、特定画像検出方法、プログラム及び特定画像検出システム | |
CN100508594C (zh) | 商用消息搜索方法和设备及伴随信息提供方法和设备 | |
JP4710350B2 (ja) | Cm付加情報供給方法、cm付加情報供給装置、cm付加情報受給装置及びcm付加情報供給システム | |
JP4292762B2 (ja) | 特定画像検出装置、特定画像検出方法、プログラム及び記録媒体、並びに特定画像検出システム | |
CN110740378A (zh) | 一种视频中广告识别方法、系统、装置和存储介质 | |
US20140344730A1 (en) | Method and apparatus for reproducing content | |
JP5224896B2 (ja) | 放送受信装置及びその制御方法、プログラム | |
KR101396361B1 (ko) | 디지털 방송 프로그램의 알림 메시지 제공 방법 및 장치 | |
JP4288909B2 (ja) | 文字情報検出装置及び文字情報検出方法、並びにプログラム及び記録媒体 | |
JP2004072617A (ja) | 特定情報検出装置、特定情報検出方法、プログラム、及び記録媒体並びに特定情報検出システム | |
JP2008028901A (ja) | コンテンツ受信再生装置及び視聴履歴情報記録プログラム及びコンテンツ嗜好傾向判別方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20110621 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20110704 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140729 Year of fee payment: 3 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |