JP5086393B2 - 複数のコンテンツ・ウィンドウを含むマルチメディア・プレゼンテーションを監視する方法および装置 - Google Patents

複数のコンテンツ・ウィンドウを含むマルチメディア・プレゼンテーションを監視する方法および装置 Download PDF

Info

Publication number
JP5086393B2
JP5086393B2 JP2010124786A JP2010124786A JP5086393B2 JP 5086393 B2 JP5086393 B2 JP 5086393B2 JP 2010124786 A JP2010124786 A JP 2010124786A JP 2010124786 A JP2010124786 A JP 2010124786A JP 5086393 B2 JP5086393 B2 JP 5086393B2
Authority
JP
Japan
Prior art keywords
content
window
region
monitored image
monitored
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2010124786A
Other languages
English (en)
Other versions
JP2010277594A (ja
Inventor
ヂャン ミン
クーパー スコット
ターンボウ ダグ
Original Assignee
ザ ニールセン カンパニー (ユー エス) エルエルシー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ザ ニールセン カンパニー (ユー エス) エルエルシー filed Critical ザ ニールセン カンパニー (ユー エス) エルエルシー
Publication of JP2010277594A publication Critical patent/JP2010277594A/ja
Application granted granted Critical
Publication of JP5086393B2 publication Critical patent/JP5086393B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/482End-user interface for program selection
    • H04N21/4821End-user interface for program selection using a grid, e.g. sorted out by channel and broadcast time
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04HBROADCAST COMMUNICATION
    • H04H60/00Arrangements for broadcast applications with a direct linking to broadcast information or broadcast space-time; Broadcast-related systems
    • H04H60/29Arrangements for monitoring broadcast services or broadcast-related services
    • H04H60/31Arrangements for monitoring the use made of the broadcast services
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04HBROADCAST COMMUNICATION
    • H04H60/00Arrangements for broadcast applications with a direct linking to broadcast information or broadcast space-time; Broadcast-related systems
    • H04H60/56Arrangements characterised by components specially adapted for monitoring, identification or recognition covered by groups H04H60/29-H04H60/54
    • H04H60/59Arrangements characterised by components specially adapted for monitoring, identification or recognition covered by groups H04H60/29-H04H60/54 of video
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/234363Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by altering the spatial resolution, e.g. for clients with a lower screen resolution
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H04N21/4312Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations
    • H04N21/4316Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations for displaying supplemental content in a region of the screen, e.g. an advertisement in a separate window
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/439Processing of audio elementary streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications

Description

この開示は、概してマルチメディア・プレゼンテーションの監視に関し、より詳細には複数のコンテンツ・ウィンドウを含むマルチメディア・プレゼンテーションを監視する方法および装置に関する。
多くの広帯域ケーブルおよび衛星サービス・プロバイダは、現在、単一のマルチメディア・コンテンツ・プレゼンテーション内に含まれる複数のコンテンツ・ウィンドウの同時的な視聴およびインタラクション(interaction;相互作用)を視聴者が行うことを可能にするインタラクティブ・ソリューションを提供する。一例のインタラクティブ・テレビジョン(TV)ソリューションにおいては、各コンテンツ・ウィンドウを個別に構成して特定のブロードキャスト・ネットワークによって提供されるコンテンツを呈示すること、そのほかのインタラクティブ・サービスのための視聴者ナビゲーション・メニューを呈示することが可能である。たとえば、ディッシュ・ネットワーク(DISH Network(登録商標))によって提供されるダイレクト・ブロードキャスト・サテライト(DBS)サービスの加入者は、マルチウィンドウ・ビデオ・ディスプレイ・モザイク内に含まれる6つのビデオ・コンテンツ・ウィンドウのそれぞれを通じたナビゲーションを可能にするDISHホーム・ポータル・チャンネルを選択できる。ウィンドウのナビゲーションは、リモート・コントロールの方向矢印を使用して達成される。ネットワーク・メディア・コンテンツを呈示しているマルチウィンドウ・ビデオ・ディスプレイの異なるウィンドウを視聴者がナビゲート(navigate)するとき、視聴者によって強調された特定のウィンドウに対応してオーディオ(音声)・プレゼンテーションが変化する。強調されているネットワーク・メディア・コンテンツを呈示するウィンドウが、その後に続いて視聴するために選択されると、選択されたネットワーク・メディア・コンテンツに対応するフルスクリーンのビデオおよびオーディオが呈示される。DISHホーム・ポータル・チャンネルは、多くの形でアクセス可能であり、アクセスの態様は、限定ではないが、あらかじめ定義されたチャンネルへの同調(たとえば、チャンネル100)、リモート・コントロール上のインタラクティブTVボタン押し、電子プログラム案内(EPG)からのホーム・ポータル・チャンネルの起動、および別のチャンネル上のトリガされた宣伝の選択を含む。
しかしながら視聴者が、何らかのそのほかの非オーディオ・インタラクティブ・アプリケーションを呈示しているウィンドウに移動し、強調するときには、オーディオが、最後に強調されたネットワーク・メディア・コンテンツを呈示するウィンドウに取り残される。
ここでは複数のコンテンツ・ウィンドウを含むマルチメディア・プレゼンテーションを監視する方法および装置を開示する。ここに開示された例においては、複数のコンテンツ・ウィンドウを含むことができるメディア・プレゼンテーションを提供する一例のメディア・デバイスを監視する方法が、メディア・デバイスによって提供されるメディア・プレゼンテーションに対応する被監視画像を獲得するステップを包含する。この例の方法は、被監視画像内の第1の領域のルミナンス(luminance)またはクロミナンス(chrominance)のうちの少なくとも1つを表現する第1のパラメータ値を判定するステップも包含し、当該第1の領域の形状は複数のコンテンツ・ウィンドウのうちの少なくとも1つの表現になる。さらにまた、この例の方法は、第1のパラメータ値を強調閾値と比較し、被監視画像内の第1の領域の場所に関連付けされた第1のコンテンツ・ウィンドウが強調されているか否かを判定するステップを包含する。
ここに開示された別の例においては、機械可読製品が、機械可読命令を格納し、この機械可読命令は、実行時に、メディア・デバイスによって提供されるメディア・プレゼンテーションに対応する被監視画像を機械に獲得させ、メディア・プレゼンテーションは、複数のコンテンツ・ウィンドウを含むことができる。またこの例の格納された機械可読命令の実行は、この例の機械に、被監視画像内の第1の領域のルミナンスまたはクロミナンスのうちの少なくとも1つを表現する第1のパラメータ値を決定させ、第1の領域の形状は、複数のコンテンツ・ウィンドウのうちの少なくとも1つの表現となる。さらにまたこの例の格納された機械可読命令の実行は、この例の機械に、第1のパラメータ値と強調閾値の比較を行わせ、被監視画像内の第1の領域の場所に関連付けされた第1のコンテンツ・ウィンドウが強調されているか否かを判定させる。
ここに開示されたさらに別の例においては、メディア・デバイス監視ユニットが、一例のメディア・デバイスのカメラ出力またはビデオ出力のうちの少なくとも1つと通信するように接続されて、当該メディア・デバイスによって提供されるメディア・プレゼンテーションに対応する被監視画像を獲得する一例のビデオ・インターフェースを包含し、当該メディア・デバイスは、メディア・プレゼンテーション内に複数のコンテンツ・ウィンドウを含むことができる。この例のメディア・デバイス監視ユニットは、この例のビデオ・インターフェースと通信するよう接続され、被監視画像内の第1の領域のルミナンスまたはクロミナンスのうちの少なくとも1つを表現する第1のパラメータ値を決定するべく動作する一例の被強調ウィンドウ検出器も包含し、この第1の領域の形状は、複数のコンテンツ・ウィンドウのうちの少なくとも1つの表現となる。それに加えてこの例の被強調ウィンドウ検出器は、第1のパラメータ値を強調閾値と比較し、被監視画像内の第1の領域の場所に関連付けされた第1のコンテンツ・ウィンドウが強調されているか否かを判定するべく動作する。さらにまたこの例のメディア・デバイス監視ユニットは、複数のコンテンツ・ウィンドウのうちの少なくとも1つの形状に対応するテンプレート、または複数のコンテンツ・ウィンドウのそれぞれに対応する複数の関心領域のうちの少なくとも1つを指定する一例の構成インターフェースを包含する。実装の一例においては、被強調ウィンドウ検出器が、この例の構成インターフェースによって指定されたテンプレートまたは複数の関心領域のうちの少なくとも1つを使用して被監視画像内の第1の領域を決定するべく動作する。
多くの既存のメディア・コンテンツ監視手法は、単一のメディア・コンテンツ・プレゼンテーションだけを表すと仮定されたビデオおよび/またはオーディオ信号を処理することによってコンテンツ監視を実行する。それとは対照的にここに述べられている一例のメディア・コンテンツ監視手法は、マルチウィンドウ・マルチメディア・プレゼンテーションのいずれのコンテンツ・ウィンドウが(たとえば、いずれのコンテンツ・プレゼンテーションまたはディスプレイ領域等が)視聴者により現在のところ強調されているかを検出することによって複数のコンテンツ・ウィンドウを含むマルチメディア・プレゼンテーションとの視聴者のインタラクションを決定する。概して言えば、視聴者は、ナビゲーションまたはそれ以外の方法で当初ウィンドウ(または、たとえばウィンドウに関連付けされたラベルまたはそのほかの識別子)を選択し、それによって選択されたコンテンツ・ウィンドウ(またはラベル等々)をマルチウィンドウ・マルチメディア・プレゼンテーション内のそのほかのコンテンツ・ウィンドウ(1つまたは複数)(またはラベル(1つまたは複数)等々)に関して強調させることによって特定のコンテンツ・ウィンドウを強調することができる。したがって、ここに述べられている一例のメディア・コンテンツ監視手法は、マルチウィンドウ・マルチメディア・プレゼンテーションに対応する被監視画像(たとえば、取り込まれたビデオ・フレーム等)を受動的かつ非侵襲的に処理し、被監視画像内に含まれるルミナンスおよび/またはクロミナンス情報を使用していずれのコンテンツ・ウィンドウが(たとえば、いずれのコンテンツ・プレゼンテーションまたはディスプレイ領域等が)視聴者によって強調されているかを決定できる。
ここに述べられているメディア・コンテンツ監視手法のさらに別の実装例においては、一例の監視ユニットが、マルチメディア・プレゼンテーションの既知の場所内に複数の選択可能なコンテンツ・ウィンドウを含むマルチメディア・プレゼンテーションを提供できるメディア・デバイスを監視するべく構成される。コンテンツ・ウィンドウのうちの少なくともいくつかは、視聴者によって強調されるようにできる。その種の例においては、監視ユニットが、視聴者によって強調されることが可能な複数のコンテンツ・ウィンドウの既知の場所に対応するマルチメディア・プレゼンテーション内のあらかじめ定義された関心領域を用いて構成されるか、または学習される。それに加えて、またはそれに代えて、あらかじめ定義された関心領域は、各コンテンツ・ウィンドウをラベル付けするマルチメディア・プレゼンテーション内の識別領域に対応可能であり、かつ対応するコンテンツ・ウィンドウを選択するべく視聴者によって強調されることが可能である。
あらかじめ定義された関心領域を用いて構成した後、この例の監視ユニットは、監視されるマルチメディア・プレゼンテーションを表すビデオ・フレーム(または、別の言い方では画像)を取り込み、デジタル化するか、またはそれ以外の形で獲得する。この例の監視ユニットは、その後、被監視ビデオ・フレーム(または、被監視画像)のあらかじめ定義された各関心領域に関連付けされたルミナンスおよび/またはクロミナンス情報を分析して、関連するコンテンツ・ウィンドウのうちの1つまたは複数が視聴者によって強調されているか否かを判定する。たとえば、コンテンツ・ウィンドウが強調されているとき、強調されているウィンドウに対応するマルチメディア・プレゼンテーションの領域は、すべてではないとしても、ほとんどの領域全体を通じて通常は一貫性があり、かつ高いルミナンスおよびクロミナンスのレベルを呈する。したがって、この例においては、監視されているビデオ・フレーム(または被監視画像)の特定の関心領域内のルミナンスおよび/またはクロミナンスが特定の評価基準を満たす場合(たとえば、特定のあらかじめ定義された関心領域についてのルミナンスが閾値より上であり、かつそのほかのあらかじめ定義された関心領域に関連付けされたルミナンスより大きいといった場合)に、その特定の関心領域に関連付けされたコンテンツ・ウィンドウが視聴者によって強調されていると判定される。
別の実装例においては、この例の監視ユニットが、これらに加えて、またはこれらに代えてマルチメディア・プレゼンテーションの(既知の場所はもとより)可能性として未知の場所内に複数の選択可能なコンテンツ・ウィンドウを含むマルチメディア・プレゼンテーションを提供することができるメディア・デバイスを監視するべく構成される。その種の例においては、監視ユニットが、被監視マルチメディア・プレゼンテーション内の強調される可能性のあるすべてのコンテンツ・ウィンドウおよび/または識別領域の形状(1つまたは複数)を表すテンプレート(たとえば二値画像、画像領域の形状および/またはサイズを指定するデータ、画像領域のピクセル境界を指定するデータ等々の形式)のセットを伴って構成される。動作の間に、この例の監視ユニットは、監視されているマルチメディア・プレゼンテーションを表す被監視ビデオ・フレーム(または、別の言い方で被監視画像)を取り込み、かつ処理するか、またはそれ以外の形で獲得する。この例の監視ユニットは、その後被監視ビデオ・フレーム(または被監視画像)をそのテンプレートのセットと比較し、強調されているコンテンツ・ウィンドウ(存在する場合)とそのテンプレートのうちの1つまたは複数の間の整合を識別する。
二値化や点相関等の多様なデジタル画像処理およびマッチング手法を使用して被監視ビデオ・フレームまたは被監視画像とテンプレートのセットの比較することができる。たとえば、デジタル画像の二値化は、カラーまたはグレイスケールの画像から二値画像(たとえば白黒画像)への変換を伴い、デジタル画像相関は、2つの画像が整合するか否かを決定する2つのデジタル画像の間の関連の類似度の測度を提供する。特定の実装例においては、監視ユニットが、被監視マルチメディア・プレゼンテーションに対応するビデオ・フレームを取り込み、デジタル化し、かつ二値化して、被監視マルチメディア・プレゼンテーションを表す二値被監視画像を獲得する。その後この例の監視ユニットは、構成されたテンプレートのいくつかまたはすべてを、二値被監視画像にわたって水平および垂直両方の方向においてシフトし(またはそれ以外の形で、二値被監視画像の場所(たとえばピクセル・ロケーション)および領域(たとえばピクセル境界)を、構成されたテンプレート(1つまたは複数)との比較のために選択し)、いずれかのテンプレートがその二値被監視画像内の任意の場所において整合をもたらすか否かを決定する。整合が見つかった場合には、その整合の場所および整合をもたらしているその特定のテンプレートを使用して、その被監視マルチメディア・プレゼンテーション内のコンテンツ・ウィンドウが視聴者によって強調されたことを示す。
視聴者によってコンテンツ・ウィンドウが強調されたか否か、およびどのコンテンツ・ウィンドウが強調されたかを決定した後、ここに述べられている例の監視手法の少なくともいくつかは、その強調されているコンテンツ・ウィンドウ内に呈示されたメディア・コンテンツを識別するべく動作する。たとえば各コンテンツ・ウィンドウは、特定の放送チャンネルまたは、より一般的にコンテンツ・ソースにあらかじめ割り当てることができる。その種の例においては、強調されているコンテンツ・ウィンドウの識別が、コンテンツ・ソースの一意的な識別も行う。それに加えて、またはそれに代えて光学文字認識(OCR)および/またはロゴ検出を使用して強調されているコンテンツ・ウィンドウ内に呈示されたコンテンツを処理し、その強調されているコンテンツ・ウィンドウ内に呈示されたコンテンツのソースの識別に使用できる識別情報(たとえば、放送チャンネル番号、名前、ロゴ等々)を獲得することができる。監視されているメディア・デバイスによって発せられるオーディオ信号から決定されるオーディオ・コード/署名、および/またはそのメディア・デバイスによって発せられるビデオ信号から決定されるビデオ・コード/署名もまた、被監視マルチメディア・プレゼンテーションの強調されているコンテンツ・ウィンドウ内に呈示されたコンテンツの識別に使用できる。
ここに述べられるメディア・コンテンツ監視手法を実装できる一例のメディア・コンテンツ監視システムのブロック図である。 複数のコンテンツ・ウィンドウを含むマルチメディア・プレゼンテーションを監視することが可能であり、かつ図1の例のメディア・コンテンツ監視システムの実装に使用できる監視ユニットの例のブロック図である。 図2の例の監視ユニットによって使用され、被監視マルチメディア・プレゼンテーション内に含まれるコンテンツ・ウィンドウが強調されているか否かを判定することができるあらかじめ定義された関心領域の第1の例のセットを図示した説明図である。 図2の例の監視ユニットによって使用され、被監視マルチメディア・プレゼンテーション内に含まれるコンテンツ・ウィンドウが強調されているか否かを判定することができるあらかじめ定義された関心領域の第2の例のセットを図示した説明図である。 図2の監視ユニットによって使用され、被監視マルチメディア・プレゼンテーション内に含まれるコンテンツ・ウィンドウが強調されているか否かを判定することができるテンプレートのセットの例を図示した説明図である。 図2の例の監視ユニットの実装に使用することができる一例の被強調ウィンドウ検出器のブロック図である。 図2の例の監視ユニットを実装する一例の構成手順を行うべく実行できる一例の機械可読命令を示すフローチャートである。 図2の例の監視ユニットを実装する一例の監視手順を行うべく実行できる一例の機械可読命令を示すフローチャートである。 図9Bと併せて図8の例の機械可読命令および/または図2の例の監視ユニットを実装する一例の被強調ウィンドウ検出手順を行うべく実行できる一例の機械可読命令を形成するフローチャートである。 併せて図8の例の機械可読命令および/または図2の例の監視ユニットを実装する一例の被強調ウィンドウ検出手順を行うべく実行できる一例の機械可読命令を形成するフローチャートである。 図2の例の監視ユニットを実装する図7、図8、および/または図9A〜図9Bの例の機械可読命令を格納および/または実行できる一例のコンピュータ・システムのブロック図である。
図を参照すると、ここに述べられているメディア・コンテンツ監視手法を実装できる一例のメディア・コンテンツ監視システム100のブロック図が図1に図解されている。この例のメディア・コンテンツ監視システム100は、一例のサービス・プロバイダ115から受信されるメディア・コンテンツを使用して一例のマルチメディア・プレゼンテーション110を呈示するべく構成された一例のメディア・デバイス105を含む。この例のメディア・コンテンツ監視システム100は、この例のメディア・デバイス105によって提供される一例のマルチメディア・プレゼンテーション110を監視するべく構成された一例の監視ユニット120も含む。この例のメディア・コンテンツ監視システム100は、さらに、一例のネットワーク130を介して一例の監視ユニット120と通信し、かつ監視ユニット120によって決定された被監視データを受信するべく構成された一例の中央処理機構125を含む。それに加えて、このメディア・コンテンツ監視システム100の少なくともいくつかの実装例は、この例の監視ユニット120の局所的な構成を可能にする一例の構成端末135を含む。それに加えて、またはそれに代えて、少なくともいくつかの実装例は、この例の中央処理機構125およびこの例のネットワーク130を介してこの例の監視ユニット120の遠隔構成を可能にする。それに加えて、またはそれに代えて、少なくともいくつかの実装例においては、この例の監視ユニット120が、たとえばリモート・コントロールまたはそのほかの入力デバイスから入力される構成データを受信するこの例の監視ユニット120とともに、この例のメディア・デバイス105に、1つまたは複数の構成ウィンドウを呈示させるべく構成できる。
より詳細に図1を考察すると、この例のサービス・プロバイダ115は、この例のメディア・コンテンツ監視システム100に対する入力として動作し、かつ放送ケーブル・テレビジョン・サービス・プロバイダ、衛星テレビジョン・サービス・プロバイダ(たとえばディッシュ・ネットワーク(DISH Network)等)、ダイレクト・サテライト・フィード、無線周波数(RF)テレビジョン・サービス・プロバイダ、インターネット・サービス・プロバイダ、インターネット・ストリーミング・ビデオ/オーディオ・プロバイダ(たとえば、ネットフリックス・インク(Netflix, Inc.)等)、ビデオ−オン−デマンド(VOD)プロバイダ等々といった任意タイプのサービス・プロバイダによって実装できる。それに加えて、またはそれに代えて、この例のサービス・プロバイダ115は、デジタル多用途ディスク(DVD)プレーヤ、ビデオ・カセット・レコーダ(VCR)、ビデオ・ゲーム・コンソール、デジタル・ビデオ・レコーダ(DVR)等々といった1つまたは複数の局所的なメディア・コンテンツ・ソースによって置換または増強することができる。さらにまた、この例のサービス・プロバイダ115は、それぞれ上述したようなサービス・プロバイダおよび/または局所的なメディア・コンテンツ・ソースを任意数用いた、任意の組み合わせによって実装できる。
この例のメディア・デバイス105は、テレビジョン、セットトップ・ボックス(STB)、マルチメディア・コンピュータ・システム、マルチメディア対応携帯電話、携帯情報端末(PDA)等々といった任意のタイプのメディア・デバイスによって実装できる。さらにまた、いくつかの実装例においては、この例のメディア・デバイス105は、上で述べたこの例のサービス・プロバイダ115の説明にあるような1つまたは複数の局所的なメディア・コンテンツ・ソースと接続されてもよいし、あるいは統合されてもよい。より一般的に述べれば、この例のメディア・デバイス105は、メディア・コンテンツを処理し、図解された例のマルチメディア・プレゼンテーション110等の複数のコンテンツ・エリアまたはウィンドウを含むマルチメディア・プレゼンテーションを提供できる任意タイプのメディア・デバイスによって実装できる。したがって、この例のメディア・デバイス105は、テレビジョン等のマルチウィンドウ・マルチメディア・プレゼンテーションが呈示(たとえば、表示)可能なデバイスに対応できるか、またはこの例のメディア・デバイス105は、プレゼンテーションのためにテレビジョン等の別のデバイスにマルチウィンドウ・マルチメディア・プレゼンテーションが提供可能なSTB等のデバイスに対応できる。
図解されている例のメディア・デバイス105は、6つのメディア・コンテンツ・ウィンドウ140A〜140F、および6つの関連する識別ラベル145A〜145Fを含む一例のマルチメディア・プレゼンテーション110を提供できる。この例のメディア・デバイス105は、この例のマルチウィンドウ・マルチメディア・プレゼンテーション110を連続的に提供できる。それに加えて、またはそれに代えて、一例のメディア・デバイス105は、特定の動作条件の下にだけこの例のマルチウィンドウ・マルチメディア・プレゼンテーション110を提供してもよく、この特定の動作条件の例として、そのメディア・デバイス105が特定のチャンネルに同調されている場合、特定のプレゼンテーション/表示モードで動作するべく構成されている場合、特定のマルチメディア・プレゼンテーション・アプリケーションを実行するべく構成されている場合などが挙げられる。この図解された例のマルチメディア・プレゼンテーション110は、6つのコンテンツ・ウィンドウを含むが、ここに述べられている例の監視手法は、任意の数のコンテンツ・ウィンドウを含むマルチウィンドウ・マルチメディア・プレゼンテーションをサポートする。さらにまたマルチウィンドウ・マルチメディア・プレゼンテーション内に含まれるコンテンツ・ウィンドウのそれぞれは、縁あり、または縁なしの任意タイプのディスプレイ・ウィンドウ、領域、バナー、メニュー等々とすることができる。また、マルチウィンドウ・マルチメディア・プレゼンテーション内の各コンテンツ・ウィンドウは、概して異なるメディア・ソースに関連付けされる。たとえば、第1のコンテンツ・ウィンドウは、それのソースとして、サービス・プロバイダ115によって提供される第1の放送チャンネルを有することが可能であり、第2のコンテンツ・ウィンドウは、それのソースとして、サービス・プロバイダ115によって提供されるか、またはメディア・デバイス105によって生成されるメニュー・ディスプレイ・データを有することが可能である。別の例においては、第2のコンテンツ・ウィンドウが、それのソースとして、サービス・プロバイダ115によって提供される第2の放送チャンネルを有することができる。さらに別の例においては、第2のコンテンツ・ウィンドウが、局所的なメディア・コンテンツ・ソースからそれの入力を獲得することができる。これらの例は、例証に過ぎず、限定を意味しない。
第1の例証となる例として、この例のサービス・プロバイダ115が、ディッシュ・ネットワーク(DISH Network(登録商標))のダイレクト・ブロードキャスト・サテライト・サービスに対応するものとし、メディア・デバイス105は、ディッシュ・ネットワーク(DISH Network(登録商標))のダイレクト・ブロードキャスト・サテライト・サービスを介して受信されるメディア・コンテンツを受信し、呈示することができるメディア・デバイスに対応するものとすることができる。その種の例においては、この例のメディア・デバイス105によって呈示されるマルチメディア・プレゼンテーション110が、DISHホーム・ポータル・チャンネルのプレゼンテーションに対応することができる。この例のメディア・デバイス105は、限定ではないが、あらかじめ定義されたチャンネル(たとえばチャンネル100)に同調すること、リモート・コントロール(図示せず)上のインタラクティブTVボタンを押すこと、電子プログラム案内(EPG)からホーム・ポータル・チャンネルを起動すること、別のチャンネル上のトリガされた宣伝を選択すること等々を含む多くの形でDISHホーム・ポータル・チャンネルにアクセスできる。
図解された例に示されているとおり、DISHホーム・ポータル・チャンネルは、マルチメディア・プレゼンテーション110内に含めるための6つのビデオ・コンテンツ・ウィンドウ140A〜140Fを提供し、この例のメディア・デバイス105によって表示され、結果としてマルチウィンドウ・ビデオ・ディスプレイ・モザイクをもたらす。各コンテンツ・ウィンドウ140A〜140Fは、ディッシュ・ネットワーク(DISH Network(登録商標))ダイレクト・ブロードキャスト・サテライト・サービスによって伝えられる特定の放送ネットワーク、またはそのほかのインタラクティブ・サービスのための視聴者ナビゲーション・メニューによって提供されるコンテンツを呈示するべく個別に構成できる。6つのビデオ・コンテンツ・ウィンドウ140A〜140Fのそれぞれを通るナビゲーションは、リモート・コントロール(図示せず)の方向矢印を使用して達成される。視聴者が、マルチメディア・プレゼンテーション110の特定のビデオ・コンテンツ・ウィンドウ140A〜140Fへナビゲートするとき、選択されたビデオ・コンテンツ・ウィンドウが強調される。たとえばこのマルチメディア・プレゼンテーション110は、強調されているとして第1のコンテンツ・ウィンドウ140Aを図示している(それとともに、第1の情報ラベル145Aも強調されている)。
DISHホーム・ポータル・チャンネルの例においては、視聴者が特定のビデオ・コンテンツ・ウィンドウ140A〜140Fを強調し、強調されたコンテンツ・ウィンドウがメディア・コンテンツを呈示するとき、この例のメディア・デバイス105によって出力されるオーディオ信号が、強調されたコンテンツ・ウィンドウ内に呈示されるメディア・コンテンツに対応する。たとえば、図解された例における強調された第1のコンテンツ・ウィンドウ140Aがディッシュ・ネットワーク(DISH Network(登録商標))によって伝えられる特定の放送ネットワークによって提供されるメディア・コンテンツを呈示しているとき、この例のメディア・デバイス105によって出力されるオーディオ信号は、強調されている第1のコンテンツ・ウィンドウ140A内に呈示されているネットワーク・メディア・コンテンツに対応するべく変化する。ネットワーク・メディア・コンテンツを呈示している強調されているコンテンツ・ウィンドウ(たとえば第1のコンテンツ・ウィンドウ140A)が視聴のためにその後に続いて再び選択されると、選択されたネットワーク・メディア・コンテンツに対応するフルスクリーンのビデオおよびオーディオが呈示される。しかしながら、視聴者が、そのほかの何らかの非オーディオ・インタラクティブ・アプリケーション(たとえばインタラクティブ・プログラム案内等)を呈示するコンテンツ・ウィンドウ140A〜140Fへナビゲートし、それを強調すると、この例のメディア・デバイス105によって出力されるオーディオは、ネットワーク・メディア・コンテンツを呈示する最後の強調されていたウィンドウに対応することになる。たとえば視聴者が、先にオーディオ・コンテンツを伴う放送プログラムを呈示する第1のコンテンツ・ウィンドウを強調していた後に、インタラクティブ・プログラム案内を呈示する第2のコンテンツ・ウィンドウを強調した場合、メディア・デバイス105は、今は第2のコンテンツ・ウィンドウがインタラクティブ・プログラム案内を強調しているにもかかわらず第1のコンテンツ・ウィンドウ内に呈示されていた放送プログラムに対応するオーディオを出力し続けることになる。したがって、呈示されるオーディオが必ずしもすべてのケースにおいて強調されているコンテンツ・ウィンドウに対応しないことから、この例のメディア・デバイス105によって出力されるオーディオの監視だけでは、視聴者によって強調されたこの例のマルチメディア・プレゼンテーション110内に含まれるコンテンツ・ウィンドウ140A〜140Fの正確な識別に充分でないことがある。
第2の例証となる例として、この例のサービス・プロバイダ115は、インターネット・サービス・プロバイダおよび/または1つまたは複数のインターネット・ストリーミング・ビデオ/オーディオ・プロバイダに対応することができ、メディア・デバイス105は、マルチメディア・コンピュータ・システム、マルチメディア対応携帯電話、PDA等々に対応することができる。その種の例においては、この例のメディア・デバイス105によって呈示されるマルチメディア・プレゼンテーション110が、複数のメディア・コンテンツ・プレゼンテーションのそれぞれを呈示するために開かれている複数のメディア・コンテンツ・ウィンドウ140A〜140Fに対応し得る。たとえば各コンテンツ・ウィンドウ140A〜140Fは、異なるストリーミングまたはダウンロードされるオーディオ/ビデオ・コンテンツを呈示するべく開かれ、構成されてもよい。その種の例においては、視聴者が、マウス、ポインタ等々(図示せず)といった入力デバイスを使用して、複数のコンテンツ・ウィンドウ140A〜140Fのうちのいずれかアクティブとするものを強調することができる。
上述の例によって示されるとおり、図1の例のメディア・デバイス105によって提供されるこの例のマルチメディア・プレゼンテーション110内に含まれるメディア・コンテンツ・ウィンドウ140A〜140Fのそれぞれは、限定ではないが広帯域オーディオ/ビデオ・コンテンツ、ストリーミング・オーディオ/ビデオ・コンテンツ、ダウンロードされたファイルから呈示されるオーディオ/ビデオ・コンテンツ、画像、メニュー、グラフィック等々を含む任意タイプのメディア・コンテンツを呈示できる。識別ラベル145A〜145Fは、対応するメディア・コンテンツ・ウィンドウ140A〜140F内に呈示しているメディア・コンテンツに対応する放送チャンネル番号、チャンネル名、プログラム名、ファイル名、ウェブサイト、ロゴ等々といった任意タイプの識別情報を含んでいてよい。上述の例で考察したとおり、この例のマルチメディア・プレゼンテーション110内に含まれるメディア・コンテンツ・ウィンドウ140A〜140Fのそれぞれは、視聴者によって強調され、この例のメディア・デバイス105によって提供されるこの例のマルチメディア・プレゼンテーション110とその視聴者のインタラクションを可能にすることができる。一例の実装においては、視聴者が特定のメディア・コンテンツ・ウィンドウを選択すると、選択されたコンテンツ・ウィンドウまたは少なくともそれらの実質的な部分が強調される。たとえば、あるコンテンツ・ウィンドウが強調されているとき、その強調されているウィンドウに対応するマルチメディア・プレゼンテーションの領域が、そのほかのコンテンツ・ウィンドウ(1つまたは複数)に対応するマルチメディア・プレゼンテーションの領域(1つまたは複数)と実質的に異なる(たとえば、より高い、より低い等々)ルミナンスおよび/またはクロミナンスのレベル(または、テクスチャ、シェーディング等々といったそのほかの画像特性)を呈する。たとえば図1においては、第1のメディア・コンテンツ・ウィンドウ140Aが、視聴者によって強調されているとして図示されている。それに加えて、またはそれに代えて、視聴者が特定のメディア・コンテンツ・ウィンドウを選択するとき、その選択されたコンテンツ・ウィンドウに関連付けされた識別ラベルまたは少なくともその実質的な部分が強調される。たとえば図1においては、第1のコンテンツ・ウィンドウ140Aに関連付けされた第1の識別ラベル145Aもまた、視聴者によって強調されているとして図示されている。
この例のメディア・デバイス105によって提供されるこの例のマルチメディア・プレゼンテーション110を監視するために、この例のメディア・コンテンツ監視システム100は、例示的な監視ユニット120を含む。すべてではないとしても多くの従来的なメディア・コンテンツ監視とは異なり、この例の監視ユニット120は、この例のマルチメディア・プレゼンテーション110を監視し、複数のコンテンツ・ウィンドウ140A〜140Fのうちの視聴者によって強調されている1つまたは複数を決定できる。それに加えて少なくともいくつかの実装例において、監視ユニット120は、強調されていると決定された特定のコンテンツ・ウィンドウ140A〜140F内に呈示される特定のメディア・コンテンツを識別できる。さらにまた少なくともいくつかの実装例において、監視ユニット120は、被監視メディア・デバイス105が特定のチャンネルに同調されているか否か、またはそれ以外の形で複数のコンテンツ・ウィンドウ140A〜140Fを含むこの例のマルチメディア・プレゼンテーション110を呈示するべく特別に構成されているか否かを決定できる。
図解された例においては、監視ユニット120が、この例のメディア・デバイス105によって出力されるビデオ信号を受け入れるビデオ信号入力150を含む。それに加えて、またはそれに代えて、この図解された例の監視ユニット120は、メディア・デバイス105のディスプレイに対応する画像を取り込むべく位置決め可能なカメラ155(たとえば、ビデオ・カメラまたはスチル・カメラ等)を含む。例示的なビデオ信号入力150および例示的なカメラ155を含むとして図示されているが、この例の監視ユニット120は、この例のメディア・デバイス105によって提供されるこの例のマルチメディア・プレゼンテーション110の受信、検出、および/またはそれ以外の形の処理を行うことができる任意タイプのセンサを含むことができる。この例の監視ユニット120内に例示的なビデオ信号入力150および/または例示的なカメラ155および/またはそのほかの任意の適切なセンサを含めることは、監視ユニット120がこの例のメディア・デバイス105によって提供されるこの例のマルチメディア・プレゼンテーション110を、非侵襲的に(すなわち、この例のメディア・デバイス105の修正なしに)監視することを可能にする。
たとえば、より詳細を下に述べるとおり、監視ユニット120は、この例のビデオ信号入力150を介して受信されるビデオ信号および/またはこの例のカメラ155を介して撮られる画像(1つまたは複数)を使用して、この例のメディア・デバイス105によって提供されるこの例のマルチメディア・プレゼンテーション110に対応する被監視画像(または等価的に、被監視ビデオ・フレーム)を決定する(たとえば、取り込む)。この例の監視ユニット120は、その後、その被監視画像内に含まれるルミナンスおよび/またはクロミナンス情報を処理し、対応する被監視マルチメディア・プレゼンテーション110が、図解された例の複数のコンテンツ・ウィンドウ140A〜140F等の複数のコンテンツ・ウィンドウを含むか否かを判定する。被監視マルチメディア・プレゼンテーション110が複数のコンテンツ・ウィンドウ(たとえば複数のコンテンツ・ウィンドウ140A〜140F等)を含むと判定された場合に、この例の監視ユニット120は、さらにコンテンツ・ウィンドウのうちのいずれの1つまたは複数が視聴者によって強調されているかを判定する。
たとえば被監視マルチメディア・プレゼンテーション110に含まれる複数のコンテンツ・ウィンドウ140A〜140Fが既知の場所を有するというシナリオにおいては、この例の監視ユニット120を、複数のコンテンツ・ウィンドウ140A〜140Fの既知の場所に対応するマルチメディア・プレゼンテーション110内のあらかじめ定義された関心領域を用いて構成するか、または学習させることができる。それに加えて、またはそれに代えて、特定のコンテンツ・ウィンドウに関連付けされた識別ラベルを強調できるというシナリオをサポートするために、この例の監視ユニット120を、複数の識別ラベル145A〜145Fの既知の場所に対応するマルチメディア・プレゼンテーション110内のあらかじめ定義された関心領域を用いて構成するか、または学習させることができる。あらかじめ定義された関心領域を用いて構成/学習が行われた後、この例の監視ユニット120は、各あらかじめ定義された関心領域の被監視画像内に含まれるルミナンスおよび/またはクロミナンス情報を処理し、関連するコンテンツ・ウィンドウのうちの1つまたは複数が強調されているか否かを決定する。その種の関心領域の処理は、図2に図解されるところの監視ユニット120の実装例の説明に関連してより詳細が以下に述べられている。
被監視マルチメディア・プレゼンテーション110に含まれる複数のコンテンツ・ウィンドウ140A〜140Fが可能性として(既知の場所はもとより)未知の場所を有するというシナリオについては、これらに加えて、またはこれらに代えて、被監視マルチメディア・プレゼンテーション110内の強調される可能性のあるすべてのコンテンツ・ウィンドウ140A〜140Fおよび/または識別領域145A〜145Fの形状(1つまたは複数)を表すテンプレート(たとえば、二値画像、画像領域の形状および/またはサイズを指定するデータ、画像領域のピクセル境界を指定するデータ等々の形式)のセットを用いてこの例の監視ユニット120を構成し、または学習させることができる。テンプレートのセットを用いて構成/学習が行われた後、この例の監視ユニット120は、二値化、相関等々の多様なデジタル画像処理およびマッチング・手法を利用し、被監視画像をテンプレートのセットと比較する。たとえば監視ユニット120は、構成されたテンプレートのいくつかまたはすべてを、被監視画像にわたって水平および垂直両方の方向においてシフトし(またはそれ以外の形で、二値被監視画像の場所(たとえばピクセル・ロケーション)および領域(たとえばピクセル境界)を、構成されたテンプレート(1つまたは複数)との比較のために選択し)、その被監視画像内の任意の場所においていずれかのテンプレートと被監視画像の相関が整合をもたらすか否かを決定する。整合が見つかった場合には、整合の場所およびその整合をもたらしているその特定のテンプレートを使用して、被監視マルチメディア・プレゼンテーション110内の関連するコンテンツ・ウィンドウ140A〜140Fおよび/または識別ラベル145A〜145Fが強調されたことを示す。その種のテンプレート処理は、図2内に図解された監視ユニット120の実装の説明に関連して、より詳細を後述する。
いくつかの実装例において監視ユニット120は、強調されているコンテンツ・ウィンドウの検出を(たとえば、上で述べた関心領域またはテンプレート処理を使用して)試みる前に、図解された例の複数のコンテンツ・ウィンドウ140A〜140F等の複数のコンテンツ・ウィンドウを被監視マルチメディア・プレゼンテーション110が含むか否かに関しての初期判定を行ってもよい。たとえば、監視ユニット120の処理要件を低減するために、マルチメディア・プレゼンテーション110に対応する被監視画像の初期処理が、マルチメディア・プレゼンテーション110が複数のコンテンツ・ウィンドウを含むことを示す場合にだけ、その種の強調されているウィンドウの検出が実施されるようにしてもよい。たとえば、被監視画像のルミナンスおよび/またはクロミナンス値の処理に基づいて、ライン検出またはエッジ検出手法等の任意の適切な画像処理手法を使用して、被監視マルチメディア・プレゼンテーション110内に複数のコンテンツ・ウィンドウが含まれるか否かを判定してもよい。
この例の監視ユニット120は、被監視マルチメディア・プレゼンテーション110内に含まれるこの例のコンテンツ・ウィンドウ140A等のコンテンツ・ウィンドウが強調されていることを仮定し、さらに、図解された例の監視ユニット120は、強調されているコンテンツ・ウィンドウ140A内に呈示されるメディア・コンテンツを識別するべく動作する。たとえば、各コンテンツ・ウィンドウ140A〜140Fに特定の放送チャンネルまたはより一般的に、この例のサービス・プロバイダ115によって提供されるコンテンツ・ソースが割り当てられている場合、この例の監視ユニット120は、強調されているコンテンツ・ウィンドウ140A内に呈示されるメディア・コンテンツを、被監視マルチメディア・プレゼンテーション110内におけるそれの場所によって識別できる。
それに加えて、またはそれに代えて、この例の監視ユニット120は、光学文字認識(OCR)および/またはロゴ検出を採用し、強調されているコンテンツ・ウィンドウ140Aを処理して、その強調されているコンテンツ・ウィンドウ140A内に呈示されるメディア・コンテンツの識別に使用可能な識別情報(たとえば、放送チャンネル番号、名前、ロゴ等々)を獲得してもよい。それに加えて、またはそれに代えて、この例の監視ユニット120は、この例のビデオ信号入力150および/またはこの例のカメラ155を介して獲得されるビデオ/画像データを使用してビデオ・コード/署名を判定し、強調されているコンテンツ・ウィンドウ140A内に呈示されるメディア・コンテンツを識別してもよい。
さらにまた、この例の監視ユニット120は、この例のメディア・デバイス105から発せられるオーディオを取り込むマイクロフォン160を含む。図示されていないが、この例の監視ユニット120は、この例のマイクロフォン160に加えて、またはそれの代替としてオーディオ・ライン入力も含んでいてよい。図解されている例の監視ユニット120は、マイクロフォン160を使用して、この例のメディア・デバイス105からの、この例の被監視マルチメディア・プレゼンテーション110に対応する被監視オーディオ信号を取り込む。その後この例の監視ユニット120は、任意の適切な手法を使用して被監視オーディオ信号からオーディオ・コード/署名を判定し、強調されているコンテンツ・ウィンドウ140A内に呈示されたメディア・コンテンツを識別する。たとえば、また上で述べたとおり、少なくともいくつかの例のマルチメディア・プレゼンテーション110の異なるコンテンツ・ウィンドウ140A〜140F(たとえば、DISHホーム・ポータル・チャンネルに対応するプレゼンテーション等)を通って視聴者がナビゲートするとき、メディア・デバイス105から発するオーディオが、視聴者によって強調されている特定のコンテンツ・ウィンドウに対応するべく変化する。その種の例においては、被監視オーディオ信号から判定されたオーディオ・コード/署名が、強調されているコンテンツ・ウィンドウ(たとえば、コンテンツ・ウィンドウ140A)内に呈示されたメディア・コンテンツに対応することになり、したがってその種のメディア・コンテンツの識別に使用できる。
この例の監視ユニット120は、あらかじめ決定された時間間隔および/または特定の事象(たとえば、中央処理機構125から監視ユニット120に促す任意の利用可能な監視データのレポートのプロンプト等)の発生時に監視データを格納し、この例の中央処理機構125にレポートする。監視データは、たとえば複数のコンテンツ・ウィンドウ(たとえば、ウィンドウ140A〜140F等)を含むこの例のマルチメディア・プレゼンテーション110の検出、その種のコンテンツ・ウィンドウのいずれが視聴者によって強調されているかの判定、その種の強調されているコンテンツ・ウィンドウ内に呈示されたメディア・コンテンツについての識別情報等々を含む。図解されている例においては、この例の監視ユニット120が、この例のネットワーク130を介してこの例の中央処理機構125と通信する。この例のネットワーク130は、たとえば会社/企業のローカル・エリア・ネットワーク(LAN)、広帯域ケーブル・ネットワーク、広帯域衛星ネットワーク、広帯域携帯電話ネットワーク、インターネットへのアクセスを提供するインターネット・サービス・プロバイダ(ISP)、ダイアルアップ接続等々といった任意のタイプの通信ネットワークによって実装できる。
図解されている例の中央処理機構125は、この例の監視ユニット120から受信される監視データを処理し、格付け情報、コンテンツ検証情報、目標とされる宣伝情報等々を決定する。それに加えて少なくともいくつかの実装例においては、中央処理機構125が、監視ユニット120の遠隔構成を提供し、たとえば強調されているウィンドウの検出の実行に使用されるあらかじめ決定された関心領域および/またはテンプレートのセットを構成する。図解されている例の監視ユニット120は、この例の構成端末135を介して、たとえば強調されているウィンドウの検出の実行に使用されるあらかじめ決定された関心領域および/またはテンプレートのセットの局所的な構成もサポートする。この例の構成端末135は、コンピュータ・ワークステーション、PDA、ハンドヘルド端末、携帯電話等々といった任意のタイプの端末またはコンピュータを使用して実装できる。
図1の監視ユニット120の実装例のブロック図を図2に図解する。図2の例の監視ユニット120は、一例のビデオ入力150(および、それによってそれらと通信するように接続された被監視メディア・デバイスのビデオ出力)および/または監視ユニット120内に含まれる一例のカメラ155と通信するように接続されることができ、図1の例のメディア・デバイス105等の被監視メディア・デバイスによって提供されるマルチメディア・プレゼンテーションに対応する被監視画像を決定する(たとえば、取り込む)ことができる任意のビデオ・インターフェース・テクノロジを使用して実装される一例のビデオ・インターフェース205を含む。図2の例の監視ユニット120は、この例のマイクロフォン160および/または監視ユニット120内に含まれる一例のオーディオ・ライン入力(図示せず)から被監視オーディオ信号を獲得できる任意のオーディオ・インターフェース・テクノロジを使用して実装される一例のオーディオ・インターフェース210も含む。図2の例の監視ユニット120は、さらに、この例のネットワーク130とインターフェースして図1の例の中央処理機構125等の中央処理機構との通信をサポートできる任意のネットワーク・テクノロジを使用して実装される一例のネットワーク・インターフェース215を含む。この例のネットワーク・インターフェース215は、図1の例の構成端末135とのインターフェースもサポートする。
それに加えて、この例のROI構成ユニット225は、この例のビデオ・インターフェース205を介して獲得される被監視画像データ、この例のオーディオ・インターフェース210を介して獲得される被監視オーディオ・データ、および/またはそれらの任意の組み合わせを格納する被監視データ・ストレージ・ユニット218を含む。この例の被監視データ・ストレージ・ユニット218は、任意タイプのメモリまたはストレージ・テクノロジを使用して実装できる。たとえば被監視データ・ストレージ・ユニット218は、図10に図解され、かつより詳細を後述するこの例のシステム1000内に含まれる揮発性メモリ1018および/または大容量ストレージ・デバイス1030によって実装できる。
図1の例のマルチメディア・プレゼンテーション110等の被監視マルチメディア・プレゼンテーションが、この例のコンテンツ・ウィンドウ140A〜140F等の複数のコンテンツ・ウィンドウを含むか否かを決定するため、およびその種のコンテンツ・ウィンドウのうちのいずれかが視聴者によって強調されているか否かを決定するために、図2の例の監視ユニット120は、被強調ウィンドウ検出器220、関心領域(region of interest, ROI)構成ユニット225、およびテンプレート構成ユニット230を含む。この例のROI構成ユニット225は、あらかじめ決定された関心領域のセットがこの例の監視ユニット120によって監視されるマルチメディア・プレゼンテーション内の既知の場所を有する1つまたは複数のコンテンツ・ウィンドウに対応するとして指定されることを可能にする。図解された例においては、ROI構成ユニット225が図1の例の中央処理機構125および/またはその例の構成端末135からネットワーク・インターフェース215を介して獲得されるROI構成情報を受け入れる。この例のROI構成ユニット225によって受け入れられる一例のROI構成情報は、被監視マルチメディア・プレゼンテーション内に含まれるコンテンツ・ウィンドウの数、各コンテンツ・ウィンドウの場所、各コンテンツ・ウィンドウのサイズ(たとえば、コンテンツ・ウィンドウが多様なサイズを伴うあらかじめ決定された形状を有する場合)、各コンテンツ・ウィンドウの形状(たとえば、特定の場所において特定のコンテンツ・ウィンドウを境界設定する点または頂点、異なるサイズを有する可能性のある形状のセットから選択される形状およびサイズ等々として指定される)等々を含む。
この例のROI構成ユニット225は、一例の構成データ・ストレージ・ユニット235内に、獲得されたROI構成情報を使用して指定されるあらかじめ定義された関心領域のセットを格納する。この例の構成データ・ストレージ・ユニット235は、任意のタイプのメモリまたはストレージ・テクノロジを使用して実装できる。たとえばこの構成データ・ストレージ・ユニット235は、図10に図解されている一例のシステム1000内に含まれ、より詳細を後述する不揮発性メモリ1020によって実装できる。それに加えて、またはそれに代えて、この構成データ・ストレージ・ユニット235は、図10に図解されている一例のシステム1000内に含まれ、より詳細を後述する揮発性メモリ1018および/または大容量ストレージ・デバイス1030によって実装できる。より詳細を後述するとおり、この例の被強調ウィンドウ検出器220は、この例の構成データ・ストレージ・ユニット235内に格納されているあらかじめ定義された関心領域のセットを検索し、被監視マルチメディア・プレゼンテーション内に含まれるコンテンツ・ウィンドウが既知の場所を有するというシナリオについて、強調されているコンテンツ・ウィンドウの検出を実行することができる。
この例のROI構成ユニット225によって指定され、格納されることのある第1の例のあらかじめ決定された関心領域のセット300を図3に図解する。第1の例のあらかじめ決定された関心領域のセット300は、図1の例のマルチメディア・プレゼンテーション110に対応する。より詳しく述べれば、第1の例のあらかじめ決定された関心領域のセット300は、この例のコンテンツ・ウィンドウ140A〜140Fに関連付けされたこの例のマルチメディア・プレゼンテーション110の領域を表す。したがって、第1の例のあらかじめ決定された関心領域のセット300は、6つのあらかじめ決定された関心領域305A〜305Fを含む。6つのあらかじめ決定された関心領域305A〜305Fは、それぞれ、この例のマルチメディア・プレゼンテーション110の6つの例のコンテンツ・ウィンドウ140A〜140Fに対応する。6つのあらかじめ決定された関心領域305A〜305Fは、場所、サイズ、および/または形状情報の任意の組み合わせ、または任意のそのほかのタイプの、画像、ビデオ・フレーム等々の中の複数の領域を指定できる構成情報を使用して、この例のROI構成ユニット225によって指定できる。
この例のROI構成ユニット225によって指定され、格納されることのある第2の例のあらかじめ決定された関心領域のセット400を図4に図解する。第2の例のあらかじめ決定された関心領域のセット400もまた、図1の例のマルチメディア・プレゼンテーション110に対応する。より詳しく述べれば、第2の例のあらかじめ決定された関心領域のセット400は、この例の識別ラベル145A〜Fに関連付けされたこの例のマルチメディア・プレゼンテーション110の領域を表す。したがって、第2の例のあらかじめ決定された関心領域のセット400は、6つのあらかじめ決定された領域405A〜405Fを含む。6つのあらかじめ決定された関心領域405A〜Fは、それぞれ、この例のマルチメディア・プレゼンテーション110内に含まれる6つの例の識別ラベル145A〜145Fに対応する。図3の例と同様に、図4の6つのあらかじめ決定された関心領域405A〜405Fは、場所、サイズ、および/または形状情報の任意の組み合わせ、または任意のそのほかのタイプの、画像、ビデオ・フレーム等々の中の複数の領域を指定できる構成情報を使用して、この例のROI構成ユニット225によって指定できる。
図3および図4の例以外のあらかじめ決定された関心領域のセットもまた、この例のROI構成ユニット225によって構成できる。
図2に戻るが、この例のテンプレート構成ユニット230は、この例の監視ユニット120によって監視されるマルチメディア・プレゼンテーション内に(既知の場所はもとより)未知の場所を可能性として有する1つまたは複数のコンテンツ・ウィンドウを見つけ出すときの使用のためにテンプレートのセットが指定されることを可能にする。図解されている例においては、テンプレート構成ユニット230が、図1の例の中央処理機構125および/またはその例の構成端末135からネットワーク・インターフェース215を介して獲得されるテンプレート構成情報を受け入れる。この例のテンプレート構成ユニット230によって獲得される一例のテンプレート構成情報は、被監視マルチメディア・プレゼンテーションのサーチに使用されることになるテンプレートの数、各テンプレートのサイズ(たとえば、テンプレートが多様なサイズを伴うあらかじめ決定された形状を有する場合)、各テンプレートの形状(たとえば、テンプレートの境界を設定する点または頂点、可能性のあるテンプレートのグループからの選択等々として指定される)等々を含む。
この例のテンプレート構成ユニット230は、この例の構成データ・ストレージ・ユニット235内に、獲得されたテンプレート構成情報を使用して指定されるテンプレートのセットを格納する。より詳細を後述するとおり、この例の被強調ウィンドウ検出器220は、この例の構成データ・ストレージ・ユニット235内に格納されているテンプレートのセットを検索し、被監視マルチメディア・プレゼンテーション内に含まれるコンテンツ・ウィンドウが(既知の場所はもとより)可能性として未知の場所を有するというシナリオについて、強調されているコンテンツ・ウィンドウの検出を実行することができる。
この例のテンプレート構成ユニット230によって指定され、かつ格納されることのある一例のテンプレートのセット500を図5に図解する。この例のテンプレートのセット500は、単独で、または一緒に使用されて図1の例のマルチメディア・プレゼンテーション110に関連付けされた被強調ウィンドウ検出を実行することができるテンプレート505および510を含む。たとえばこのテンプレート505は、この例のマルチメディア・プレゼンテーション110内に含まれる一例のコンテンツ・ウィンドウ140A〜140Fに対応する指定された形状およびサイズを有し、より詳細を後述するとおり、この例のコンテンツ・ウィンドウ140A〜140Fのうちの1つまたは複数が強調されているか否かを検出するために使用できる。この例のテンプレート510は、この例のマルチメディア・プレゼンテーション110内に含まれる一例の識別ラベル145A〜145Fに対応する指定された形状およびサイズを有し、より詳細を後述するとおり、この例の識別ラベル145A〜145Fのうちの1つまたは複数が強調されているか否かを検出するために使用できる。この被監視マルチメディア・プレゼンテーション内に含めることができる、そのほかの可能性のあるコンテンツ・ウィンドウ、識別ラベル、メニュー、アイコン等々に対応する形状およびサイズを有するそのほかの例のテンプレート515、520、および525が図5内に図解されている。図5に図解された例と異なる形状およびサイズを有するテンプレートも、この例のテンプレート構成ユニット230によって構成できる。
図2に戻るが、この例の監視ユニット120内に含まれるこの例の被強調ウィンドウ検出器220は、この例のビデオ・インターフェース205と(たとえば、この例の被監視データ・ストレージ・ユニット218を介して)通信するように接続され、ビデオ・インターフェース205によって決定され(たとえば、取り込まれ)、かつ図1の例のメディア・デバイス105によって提供されるこの例のマルチメディア・プレゼンテーション105等の複数のコンテンツ・ウィンドウを含む被監視マルチメディア・プレゼンテーションに対応する被監視画像(1つまたは複数)を獲得する。たとえば、このビデオ・インターフェース205は、この例の被強調ウィンドウ検出器220による検索のためにこの例の被監視データ・ストレージ・ユニット218内に被監視画像を格納できる。図解された被強調ウィンドウ検出器220は、被監視画像の領域を処理し、コンテンツ・ウィンドウが被監視マルチメディア・プレゼンテーション内に含まれるか否かを判定し、かつ、含まれる場合はそのコンテンツ・ウィンドウが強調されているか否かを示す各処理済みの領域についてのそれぞれのパラメータ値を決定する。後述するとおり、各処理済みの領域は、この例の構成データ・ストレージ・ユニット235内に格納されている関心領域のセットおよび/またはテンプレートのセットを使用して、被強調ウィンドウ検出器220によって選択される。したがって、この被監視画像の各処理済みの領域は、被監視マルチメディア・プレゼンテーション内に含まれるそれぞれのコンテンツ・ウィンドウに対応する形状および可能性として場所を有する。
複数のコンテンツ・ウィンドウを含む多くのマルチメディア・プレゼンテーションにおいては、コンテンツ・ウィンドウが強調されているとき、強調されているウィンドウに対応するマルチメディア・プレゼンテーションの領域の少なくとも一部(たとえば、強調されているウィンドウの実質的な全体、または強調されているウィンドウ周囲またはそのウィンドウのセグメントに沿った境界だけ等々)は、通常、その領域(またはその領域の部分)全体を通じて一貫性があり、かつこのマルチメディア・プレゼンテーションのそのほかのコンテンツ・ウィンドウに関連付けされた領域を含むこのマルチメディア・プレゼンテーションの残りに関連付けされたルミナンスおよびクロミナンス・レベルより有意に高いか、またはより低いルミナンスおよび/またはクロミナンス・レベルを呈する。したがって、この図解された例においては、被強調ウィンドウ検出器220が、処理済みの領域に関連付けされたルミナンスおよび/またはクロミナンスを表すことになる各処理済みの領域のためのパラメータ値を決定する。この例の被強調ウィンドウ検出器220は、その後、その処理済みの領域のための決定されたルミナンスおよび/またはクロミナンス・パラメータ値を、強調閾値と比較して、その処理済みの領域が強調されているコンテンツ・ウィンドウに対応するか否かを判定する。一例の実装においては、強調閾値を、コンテンツ・ウィンドウが強調されているとして信頼をもって検出されるためにそのコンテンツ・ウィンドウが到達するか、または超えなければならないルミナンスおよび/またはクロミナンス・パラメータを表すべく決定された一定の閾値とすることができる。別の実装例においては、強調閾値を、全体の被監視画像に関連付けされた全体的なルミナンスおよび/またはクロミナンス、被監視画像内の可能性のあるコンテンツ・ウィンドウに関連付けされた領域のいくつかまたはすべてに関連付けされた平均のルミナンスおよび/またはクロミナンス、またはこれらのルミナンスおよび/またはクロミナンス値の組み合わせ等々に基づいて決定される可変(たとえば適応型)閾値とすることができる。その種の実装例においては、その領域のルミナンスおよび/またはクロミナンス・パラメータが可変(たとえば適応型)強調閾値を超える場合、または何らかの指定された量、要因等々によってその可変(たとえば適応型)強調閾値から逸れる場合に、処理済みの領域は強調されているコンテンツ・ウィンドウに対応していると判定できる。
図2の被強調ウィンドウ検出器220の実装例を図6に図解する。図6を参照すると、図解された例の被強調ウィンドウ検出器220は、領域セレクタ605、ルミナンス比較器610、およびクロミナンス比較器615を含み、図3および図4に関連して上で述べたあらかじめ定義された関心領域のセット300および/または400等のあらかじめ定義された関心領域のセットを使用して被強調コンテンツ・ウィンドウ検出を実行する。図6の例の被強調ウィンドウ検出器220は、二値画像コンバータ620およびテンプレート相関器625も含み、図5に関連して上で述べたテンプレート500のセット等のテンプレートのセットを使用して被強調コンテンツ・ウィンドウ検出を実行する。図6の例の被強調ウィンドウ検出器220は、さらに、この例のルミナンス比較器610、この例のクロミナンス比較器615、および/またはこの例のテンプレート相関器625によって決定された情報に基づいて被監視マルチメディア・プレゼンテーション内に含まれる強調されているコンテンツ・ウィンドウを検出する判定ユニット630を含む。
あらかじめ決定された関心領域に基づいた強調されているコンテンツ・ウィンドウの検出をサポートするために、領域セレクタ605が、たとえば図2のROI構成ユニット225によって構成されたあらかじめ定義された関心領域のセットから、たとえば図2のビデオ・インターフェース205によって獲得される(たとえば、取り込まれる)被監視画像のあらかじめ決定された領域を選択する。たとえば、領域セレクタ605は、被監視画像の、図3におけるあらかじめ定義された関心領域305A〜305F、または図4における405A〜405Fのうちの1つを選択することができる。この例の領域セレクタ605は、その後、被監視画像の選択された領域をこの例のルミナンス比較器610および/またはこの例のクロミナンス比較器615に、その後に続く、これらの選択された領域それぞれのルミナンスおよび/またはクロミナンス・パラメータ値を決定する処理のために提供する。特定の実装例に応じて、領域セレクタ605は、構成されたあらかじめ決定された関心領域のセットからあらかじめ決定された関心領域を、たとえばすべての関心領域が処理済みとなるまで、関心領域の指定されたサブセットが処理済みとなるまで、強調されているコンテンツ・ウィンドウが検出されるまで等々の条件で継続して選択する。
図6の例の被強調ウィンドウ検出器220内に含まれるこの例のルミナンス比較器610は、この例の領域セレクタ605によって提供された被監視画像の選択された領域を処理し、それぞれの選択された領域のルミナンス・パラメータ値を決定する。図解されている例のルミナンス比較器610は、被監視画像の選択された領域に関連付けされたルミナンスを決定するための任意の手法を使用して実装できる。たとえば、ルミナンス比較器610は、被監視画像の選択された領域に関連付けされたルミナンスを、その選択された領域内に含まれる各ピクセルを処理し、各ピクセルのルミナンスを決定し、その後、合計、平均、積分等々を行うか、またはそれ以外の形で各ピクセルのルミナンスを組み合わせてその選択された領域のためのルミナンス・パラメータ値を決定することによって決定できる。いくつかの実装例においては、被監視画像の選択された領域内のすべてのピクセルを処理する代わりに、ルミナンス比較器610を、たとえばアウトライアの除外、処理要件の低減等々のために選択された領域のピクセルのサブセットを処理するべく構成できる。
またこの例のルミナンス比較器610は、被監視画像の選択された領域のために決定されたルミナンス・パラメータ値をルミナンス‐ベースの強調閾値と比較し、被監視画像内の選択された領域の場所に関連付けされたそれぞれのコンテンツ・ウィンドウが強調されているか否かを判定する。図解されている例においては、この例のルミナンス比較器610によって使用されるルミナンス‐ベースの強調閾値が、被監視マルチメディア・プレゼンテーション内に含まれる複数のコンテンツ・ウィンドウのうちの少なくとも1つの、人間が知覚可能な強調に関連付けされたルミナンスに対応する。一例の実装においては、ルミナンス比較器610が、コンテンツ・ウィンドウが強調されているとして信頼をもって検出されるためにそれぞれのコンテンツ・ウィンドウに対応する選択された領域が到達するか、または超えなければならないルミナンス・パラメータを表すべく決定された一定のルミナンス‐ベースの強調閾値を伴って構成される。別の実装例においては、ルミナンス‐ベースの強調閾値が、この例のルミナンス比較器610によって決定されるところの全体の被監視画像に関連付けされた全体的なルミナンス、被監視画像内の可能性のあるコンテンツ・ウィンドウに関連付けされた領域のいくつかまたはすべてに関連付けされた平均のルミナンス、これらのルミナンス値の組み合わせ等々に基づいて決定される可変(たとえば適応型)閾値になる。
図6の例の被強調ウィンドウ検出器220に含まれるこの例のクロミナンス比較器615は、この例の領域セレクタ605によって提供される被監視画像の選択された領域を処理し、その選択された領域それぞれのクロミナンス・パラメータ値を決定する。図解された例のクロミナンス比較器615は、被監視画像の選択された領域に関連付けされたクロミナンスを決定するための任意の手法を使用して実装できる。たとえば、クロミナンス比較器615は、被監視画像の選択された領域に関連付けされたクロミナンスを、その選択された領域内に含まれる各ピクセルを処理し、各ピクセルのクロミナンスを決定し、その後、合計、平均、積分等々を行うか、またはそれ以外の形で各ピクセルのクロミナンスを組み合わせて、その選択された領域のためのクロミナンス・パラメータ値を決定することによって決定できる。いくつかの実装例においては、被監視画像の選択された領域内のすべてのピクセルを処理する代わりに、クロミナンス比較器615を、たとえばアウトライアの除外、処理要件の低減等々のために選択された領域のピクセルのサブセットを処理するべく構成できる。
またこの例のクロミナンス比較器615は、被監視画像の選択された領域のために決定されたクロミナンス・パラメータ値をクロミナンス‐ベースの強調閾値と比較し、被監視画像内の選択された領域の場所に関連付けされたそれぞれのコンテンツ・ウィンドウが強調されているか否かを判定する。図解されている例においては、この例のクロミナンス比較器615によって使用されるクロミナンス‐ベースの強調閾値が、被監視マルチメディア・プレゼンテーション内に含まれる複数のコンテンツ・ウィンドウのうちの少なくとも1つの、人間が知覚可能な強調に関連付けされたクロミナンスに対応する。一例の実装においては、クロミナンス比較器615が、コンテンツ・ウィンドウが強調されているとして信頼をもって検出されるためにそれぞれのコンテンツ・ウィンドウに対応する選択された領域が到達するか、または超えなければならないクロミナンス・パラメータを表すべく決定された一定のクロミナンス‐ベースの強調閾値を伴って構成される。別の実装例においては、クロミナンス‐ベースの強調閾値が、この例のクロミナンス比較器615によって決定されるところの全体の被監視画像に関連付けされた全体的なクロミナンス、被監視画像内の可能性のあるコンテンツ・ウィンドウに関連付けされた領域のいくつかまたはすべてに関連付けされた平均のクロミナンス、これらのクロミナンス値の組み合わせ等々に基づいて決定される可変(たとえば適応型)閾値になる。
図6の例の被強調ウィンドウ検出器220内に含まれるこの例の判定ユニット630は、この例のルミナンス比較器610および/またはこの例のクロミナンス比較器615によって判定された比較結果を処理し、被監視画像内の選択された領域の場所に関連付けされたそれぞれのコンテンツ・ウィンドウが強調されているか否かを判定する。一例の実装においては、この例のルミナンス比較器610および/またはこの例のクロミナンス比較器615によって判定された比較結果が、決定されたルミナンスおよび/またはクロミナンス・パラメータ値が関連する強調閾値より大きいか、または等しいことを示す場合に、被監視画像の選択された領域の場所は被監視マルチウィンドウ・マルチメディア・プレゼンテーション内の強調されているコンテンツ・ウィンドウに対応すると判定するべく判定ユニット630が構成される。別の実装例においては、この例のルミナンス比較器610および/またはこの例のクロミナンス比較器615によって決定された比較結果が、決定されたルミナンスおよび/またはクロミナンス・パラメータが何らかの指定された量、要因等々によって関連強調閾値から逸れることを示す場合に、被監視画像の選択された領域の場所は被監視マルチウィンドウ・マルチメディア・プレゼンテーション内の強調されているコンテンツ・ウィンドウに対応すると判定するべく判定ユニット630が構成される。特定の実装例に応じて、判定ユニット630は、決定されたルミナンスおよび/またはクロミナンス・パラメータ値のうちのいずれか一方が関連する閾値より大きいか、または等しいか、あるいは閾値から外れる場合に、被監視画像の選択された領域の場所が被監視マルチウィンドウ・マルチメディア・プレゼンテーション内の強調されているコンテンツ・ウィンドウに対応すると決定するように構成されていてもよいし、あるいは、強調されているコンテンツ・ウィンドウが被監視画像の選択された領域にあると判定ユニット630が決定するために、ルミナンスおよびクロミナンス・パラメータ値の両方が関連する閾値より大きいか、または等しいか、あるいは閾値から外れていなければならないことを要求するように判定ユニット630を構成してもよい。
テンプレートのセットに基づいた、強調されているコンテンツ・ウィンドウの検出をサポートするために、図6の例の二値画像コンバータ620が、たとえば図2のビデオ・インターフェース205によって獲得される(たとえば、取り込まれる)被監視画像を被監視マルチメディア・プレゼンテーションに対応する二値被監視画像に変換する。図解された例においては、二値画像コンバータ620が、二値変換閾値を使用して被監視画像のグレイスケールまたはカラー・ピクセルを、二値被監視画像のそれぞれの二値ピクセルに変換する。各二値ピクセルは、黒または白といった2つの可能値のうちの1つを有する。一例の実装においては、二値変換閾値が、マルチウィンドウ・マルチメディア・プレゼンテーション内に含まれるコンテンツ・ウィンドウの、人間が知覚可能な強調に関連付けされたピクセル・ルミナンス値に対応するべく構成および/または決定される。別の実装例においては、二値変換閾値が、マルチウィンドウ・マルチメディア・プレゼンテーション内に含まれるコンテンツ・ウィンドウの、人間が知覚可能な強調に関連付けされたピクセル・クロミナンスに対応するべく構成および/または決定される。さらに別の実装例においては、二値変換閾値が、マルチウィンドウ・マルチメディア・プレゼンテーション内に含まれるコンテンツ・ウィンドウの、人間が知覚可能な強調に関連付けされた組み合わせのピクセル・ルミナンスおよびクロミナンス値に対応するべく構成および/または決定される。その種の二値変換閾値は、一定とすること、または可変として、強調されているコンテンツ・ウィンドウを含むことが既知の画像および強調されているコンテンツ・ウィンドウを含まないことが既知のそのほかの画像を用いたこの例の二値画像コンバータ620の構成または学習に基づくとし、二値画像変換を、監視されている特定のマルチメディア・プレゼンテーションおよび/またはメディア・デバイスに対して調整することが可能である。
図6の例の被強調ウィンドウ検出器220内に含まれるこの例のテンプレート相関器625は、たとえば図2のテンプレート構成ユニット230によって構成されたテンプレートのセットから選択されたテンプレートを使用して、この例の二値画像コンバータ620によって決定される二値被監視画像を処理する。たとえば、テンプレート相関器625は、二値被監視画像の処理に使用するために図5のテンプレート505A〜505Fのうちの1つを選択することができる。特定の実装例に応じて、テンプレート相関器625は、二値被監視画像の処理に使用するためのテンプレートを、構成されたテンプレートのセットから、たとえばすべてのテンプレートが処理済みとなるまで、そのテンプレートの指定されたサブセットが処理済みとなるまで、強調されているコンテンツ・ウィンドウが検出されるまで等々の条件で継続して選択する。
特定のテンプレートを選択した後、この例のテンプレート相関器625は、二値被監視画像のいくつかまたはすべてをカバーする水平シフト位置および垂直シフト位置の組み合わせにわたって、選択されたテンプレートのシフトを開始する。各水平シフト位置および垂直シフト位置について、この例のテンプレート相関器625は、その特定の水平シフト位置および垂直シフト位置に配置され、かつそのテンプレートによって境界設定された二値被監視画像のそれぞれの領域を選択する。その後この例のテンプレート相関器625は、二値被監視画像の選択された領域をテンプレートと相関させて、その二値被監視画像の選択された領域に関連付けされた相関パラメータ値を決定する。二値画像コンバータ620が、ピクセル・ルミナンス値、ピクセル・クロミナンス値、またはその両方に基づいた二値変換閾値を使用していることから、二値被監視画像の選択された領域について、この例のテンプレート相関器625によって決定される相関パラメータ値は、二値変換閾値より大きいか、またはそれに等しいルミナンス値および/またはクロミナンス値を有する被監視画像の選択された領域内のピクセルの数を表す。
図6の例の被強調ウィンドウ検出器220内に含まれるこの例の判定ユニット630は、その後、この例のテンプレート相関器625によって決定された相関パラメータ値を処理し、その二値被監視画像の選択された領域に関連付けされた水平シフト位置および垂直シフト位置における被監視マルチメディア・プレゼンテーション内において、コンテンツ・ウィンドウが強調され、かつ配置されているか否かを判定する。一例の実装においては、判定ユニット630が、選択された領域と選択されたテンプレートの相関によって決定された相関パラメータ値が強調閾値より大きいか、または等しい場合に、特定の水平シフト位置および垂直シフト位置に配置されている被監視画像の選択された領域が被監視マルチウィンドウ・マルチメディア・プレゼンテーション内の強調されているコンテンツ・ウィンドウに対応すると判定するべく構成される。別の実装例においては、判定ユニット630が、選択された領域と選択されたテンプレートの相関によって決定された相関パラメータ値が何らかの指定された量、要因等々によって強調閾値から外れる場合に、特定の水平シフト位置および垂直シフト位置に配置されている被監視画像の選択された領域が被監視マルチウィンドウ・マルチメディア・プレゼンテーション内の強調されているコンテンツ・ウィンドウに対応すると判定するべく構成される。その二値被監視画像のその選択された領域について本例のテンプレート相関器625によって決定されるパラメータ値は、二値変換閾値より大きいか、または等しいルミナンス値および/またはクロミナンス値を有する、被監視画像の選択された領域内のピクセルの数を表すことから、強調閾値は、その選択された領域が強調されているコンテンツ・ウィンドウに対応するものであると判定されるために、その二値変換閾値より大きいか、または等しいルミナンス値および/またはクロミナンス値を有することが要求されるピクセルの数の最小値として指定できる。
図6には、図2の被強調ウィンドウ検出器220を実装する一例の態様が図解されているが、図6内に図解された要素、プロセス、および/またはデバイスのうちの1つまたは複数を組み合わせること、分割すること、再配列すること、省略すること、除去すること、および/または任意のそのほかの方法で実装することができる。さらにこの例の領域セレクタ605、この例のルミナンス比較器610、この例のクロミナンス比較器615、この例の二値画像コンバータ620、この例のテンプレート相関器625、この例の判定ユニット630、および/またはより包括的に、図6の例の被強調ウィンドウ検出器220は、ハードウエア、ソフトウエア、ファームウエアによって、および/またはハードウエア、ソフトウエア、および/またはファームウエアの任意の組み合わせによって実装できる。したがって、たとえばこの例の領域セレクタ605、この例のルミナンス比較器610、この例のクロミナンス比較器615、この例の二値画像コンバータ620、この例のテンプレート相関器625、この例の判定ユニット630、および/またはより包括的に、この例の被強調ウィンドウ検出器220のうちのいずれも、1つまたは複数の回路(1つまたは複数)、プログラマブル・プロセッサ(1つまたは複数)、特定用途向けIC(ASIC)(1つまたは複数)、プログラマブル論理デバイス(programmable logic device, PLD)(1つまたは複数)、および/または現場プログラム可能論理デバイス(field programmable logic device, FPLD)(1つまたは複数)等々によって実装できる。付随する請求項のうちのいずれかが純粋にソフトウエアおよび/またはファームウエア実装を保護していると読み取られるとき、この例の被強調ウィンドウ検出器220、この例の領域セレクタ605、この例のルミナンス比較器610、この例のクロミナンス比較器615、この例の二値画像コンバータ620、この例のテンプレート相関器625、および/またはこの例の判定ユニット630のうちの少なくとも1つは、メモリ、デジタル多用途ディスク(DVD)、コンパクト・ディスク(CD)等々といったその種のソフトウエアおよび/またはファームウエアを格納する有体の媒体を含むことがここに明確に定義される。さらにまた、図6の例の被強調ウィンドウ検出器220は、図6に図解されているものに加えて、またはそれらの代わりとして1つまたは複数の要素、プロセス、および/またはデバイスを含むことができるか、かつ/または図解されている要素、プロセス、およびデバイスのいずれかまたはすべてを1つより多く含むことができる。
図2に戻るが、図解されている例の監視ユニット120は、さらに、監視ユニット120によって監視されているメディア・デバイス(たとえば、この例のメディア・デバイス105等)が、複数のコンテンツ・ウィンドウを含むマルチメディア・プレゼンテーション(たとえば、複数のコンテンツ・ウィンドウ140A〜140Fを含むこの例のマルチメディア・プレゼンテーション110等)を提供できる特定の既知のチャンネルに同調されたか否かを決定するチャンネル検出器240を含む。図解されている例においては、チャンネル検出器240がこの例の被強調ウィンドウ検出器220と通信するように接続され、この例の被強調ウィンドウ検出器220が被監視マルチメディア・プレゼンテーション内のコンテンツ・ウィンドウが強調されていることを検出すると、複数の同調可能なチャンネルから特定の既知のチャンネル(たとえば、DISHホーム・ポータル・チャンネル等)に、被監視メディア・デバイスが同調されるという表示を提供する。呈示されている被監視マルチメディア内のその種の強調されているコンテンツ・ウィンドウの検出は、この例の監視ユニット120によって監視されているメディア・デバイスがマルチウィンドウ・マルチメディア・プレゼンテーションを提供できる既知の特定のチャンネルに同調されているという良好な表示となり得る。この例のチャンネル検出器240は、被監視メディア・デバイスが同調されたチャンネルを決定できるそのほかの任意のタイプのチャンネル検出テクノロジも含むことができる。
図解されている例の監視ユニット120は、被監視マルチウィンドウ・マルチメディア・プレゼンテーションの強調されているコンテンツ・ウィンドウ内に呈示されるコンテンツを識別するコンテンツ識別器245も含む。図解されている例においては、コンテンツ識別器245が、この例の被強調ウィンドウ検出器220と通信結合され、その被監視マルチメディア・プレゼンテーション内において強調されているとして被強調ウィンドウ検出器220が検出した特定のコンテンツ・ウィンドウ内に呈示されるメディア・コンテンツだけを識別するべく動作する。一例の実装においては、被監視マルチメディア・プレゼンテーション内に含まれる各コンテンツ・ウィンドウが、特定の放送チャンネルまたは、より一般的に言えば、コンテンツ・ソースにあらかじめ割り当てられる。その種の例においては、コンテンツ識別器245が、強調されているコンテンツ・ウィンドウに割り当てられた特定の放送チャンネルまたはコンテンツ・ソースに対応するとしてこの例の被強調ウィンドウ検出器220によって検出された強調されているコンテンツ・ウィンドウ内に呈示されるコンテンツを識別する。別の実装例においては、コンテンツ識別器245がOCRおよび/またはロゴ検出を採用して、この例の被強調ウィンドウ検出器220によって検出された強調されているコンテンツ・ウィンドウ内に呈示されるコンテンツを処理し、その強調されているコンテンツ・ウィンドウ内に呈示されるコンテンツのソースの識別に使用できる識別情報(たとえば、放送チャンネル番号、名前、ロゴ等々)を獲得する。さらに別の実装例においては、コンテンツ識別器245が、監視されているメディア・デバイスによって発せられるオーディオ信号からオーディオ・コードおよび/または署名を、および/またはそのメディア・デバイスによって発せられるビデオ信号からビデオ・コードおよび/または署名を判定し、この例の被強調ウィンドウ検出器220によって検出された強調されているコンテンツ・ウィンドウ内に呈示されるコンテンツを識別する。さらに別の実装例においては、コンテンツ識別器245が、あらかじめ割り当てられた放送チャンネルおよび/またはコンテンツ・ソース、OCRおよび/またはロゴ検出、オーディオおよび/またはビデオ・コードおよび/または署名等々の任意の組み合わせを使用して、この例の被強調ウィンドウ検出器220によって検出された強調されているコンテンツ・ウィンドウ内に呈示されるコンテンツを識別する。
図2には、図1の例の監視ユニット120を実装する一例の態様を図解したが、図2に図解されている要素、プロセス、および/またはデバイスのうちの1つまたは複数を組み合わせること、分割すること、再配列すること、省略すること、除去すること、および/または任意のそのほかの方法で実装することができる。さらにこの例のビデオ・インターフェース205、この例のオーディオ・インターフェース210、この例のネットワーク・インターフェース215、この例の被強調ウィンドウ検出器220、この例のROI構成ユニット225、この例のテンプレート構成ユニット230、この例のチャンネル検出器240、この例のコンテンツ識別器245、および/またはより包括的に、図2の例の監視ユニット120は、ハードウエア、ソフトウエア、ファームウエアによって、および/またはハードウエア、ソフトウエア、および/またはファームウエアの任意の組み合わせによって実装できる。したがって、たとえばこの例のビデオ・インターフェース205、この例のオーディオ・インターフェース210、この例のネットワーク・インターフェース215、この例の被強調ウィンドウ検出器220、この例のROI構成ユニット225、この例のテンプレート構成ユニット230、この例のチャンネル検出器240、この例のコンテンツ識別器245、および/またはより包括的に、この例の監視ユニット120のうちのいずれも、1つまたは複数の回路(1つまたは複数)、プログラマブル・プロセッサ(1つまたは複数)、特定用途向けIC(ASIC)(1つまたは複数)、プログラマブル論理デバイス(PLD)(1つまたは複数)、および/または現場プログラム可能論理デバイス(FPLD)(1つまたは複数)等々によって実装できる。付随する請求項のうちのいずれかが純粋にソフトウエアおよび/またはファームウエア実装を保護すると読み取られるとき、この例の監視ユニット120、この例のビデオ・インターフェース205、この例のオーディオ・インターフェース210、この例のネットワーク・インターフェース215、この例の被強調ウィンドウ検出器220、この例のROI構成ユニット225、この例のテンプレート構成ユニット230、この例のチャンネル検出器240、および/またはこの例のコンテンツ識別器245のうちの少なくとも1つは、メモリ、デジタル多用途ディスク(DVD)、コンパクト・ディスク(CD)等々といったその種のソフトウエアおよび/またはファームウエアを格納する有体の媒体を含むことがここに明確に定義される。さらにまた、図2の例の監視ユニット120は、図2に図解されているものに加えて、またはそれらの代わりとして1つまたは複数の要素、プロセス、および/またはデバイスを含むことができるか、かつ/または図解されている要素、プロセス、およびデバイスのいずれか、またはすべてを1つより多く含むことができる。
この例のメディア・コンテンツ監視システム100、この例の監視ユニット120、この例のビデオ・インターフェース205、この例のオーディオ・インターフェース210、この例のネットワーク・インターフェース215、この例の被強調ウィンドウ検出器220、この例のROI構成ユニット225、この例のテンプレート構成ユニット230、この例のチャンネル検出器240、この例のコンテンツ識別器245、この例の領域セレクタ605、この例のルミナンス比較器610、この例のクロミナンス比較器615、この例の二値画像コンバータ620、この例のテンプレート相関器625、および/またはこの例の判定ユニット630を実装するべく実行できる一例の機械可読命令を表すフローチャート図7、図8、および図9A〜図9Bに示す。これらの例においては、各フローチャートによって表される機械可読命令が、(a)図10に関連して後述するこの例のコンピュータ1000の中に示されるプロセッサ1012等のプロセッサ、(b)コントローラ、および/または(c)任意のそのほかの適切なデバイスによる実行のための1つまたは複数のプログラムを包含できる。1つまたは複数のプログラムは、たとえばフラッシュ・メモリ、CD−ROM、フロッピー(登録商標)・ディスク、ハードドライブ、DVD、またはプロセッサ1012に関連付けされたメモリ等の有体の媒体上に格納されるソフトウエア内に埋め込むことができるが、それに代えて全体のプログラムおよび/またはプログラムの部分を、プロセッサ1012以外のデバイスによって実行すること、および/またはファームウエアまたは専用のハードウエア(たとえば、特定用途向けIC(ASIC)、プログラマブル論理デバイス(PLD)、現場プログラム可能論理デバイス(FPLD)、ディスクリート論理素子等々によって実装される)内に埋め込むことができる。たとえば、この例のメディア・コンテンツ監視システム100、この例の監視ユニット120、この例のビデオ・インターフェース205、この例のオーディオ・インターフェース210、この例のネットワーク・インターフェース215、この例の被強調ウィンドウ検出器220、この例のROI構成ユニット225、この例のテンプレート構成ユニット230、この例のチャンネル検出器240、この例のコンテンツ識別器245、この例の領域セレクタ605、この例のルミナンス比較器610、この例のクロミナンス比較器615、この例の二値画像コンバータ620、この例のテンプレート相関器625、および/またはこの例の判定ユニット630のいずれかまたはすべては、ソフトウエア、ハードウエア、および/またはファームウエアの任意の組み合わせによって実装できる。また。図7、図8、および図9A〜図9Bのフローチャートによって表される機械可読命令のいくつかのまたはすべてをマニュアルで実装することもできる。さらに、この例の機械可読命令は、図7、図8、および図9A〜図9Bに図解されたフローチャートに関連して述べられるが、それに代えて、この例の方法およびここに述べられている装置を実装するためそのほかの多くの手法が使用できる。たとえば図7、図8、および図9A〜図9Bに図解されているフローチャートに関連していえば、これらのブロックの実行順序が変更できるか、かつ/または記述されているブロックのいくつかを変更すること、除去すること、組み合わせること、および/または複数のブロックに細分することができる。
図1および/または図2の例の監視ユニット120を実装する構成手順を行うべく実行できる一例の機械可読命令700は、図7に示されたフローチャートによって表される。この例の機械可読命令700は、この例の監視ユニット120が電源投入されるとき、および/またはリスタートされるとき、この例の監視ユニット120の構成モードの起動が行われるとき等々、またはそれらの任意の組み合わせがあったときに実行できる。図2の例の監視ユニット120に関連して、機械可読命令700は、図7のブロック705において実行を開始し、それにおいて、この例の監視ユニット120内に含まれるこの例のROI構成ユニット225が、被監視マルチメディア・プレゼンテーション内に含まれるコンテンツ・ウィンドウのそれぞれのセットの既知の場所に対応するあらかじめ決定された関心領域のセットを構成する。たとえばブロック705において、ROI構成ユニット225が、この例の中央処理機構125および/またはこの例の構成端末135からネットワーク・インターフェース215を介して獲得されるROI構成情報を受け入れる。一例の実装においては、獲得されるROI構成情報は、数、場所、サイズ、形状、および/または任意のそのほかのタイプの情報であって、この例のROI構成ユニット225が複数のコンテンツ・ウィンドウ140A〜140Fを有するこの例のマルチメディア・プレゼンテーション110に対応するこの例のあらかじめ決定された関心領域のセット300および/または400を特定することを可能にする情報を含む。
次にコントロールがブロック710に進み、それにおいてこの例の監視ユニット120内に含まれるこの例のテンプレート構成ユニット230が、被監視マルチメディア・プレゼンテーション内に(既知の場所はもとより)可能性として未知の場所を有する1つまたは複数のコンテンツ・ウィンドウを見つける上で使用するためのテンプレートのセットを構成する。たとえばブロック710において、この例のテンプレート構成ユニット230は、この例の中央処理機構125および/またはこの例の構成端末135からネットワーク・インターフェース215を介して獲得されるテンプレート構成情報を受け入れる。一例の実装においては、獲得されるテンプレート構成情報は、数、サイズ、形状、および/または任意のそのほかのタイプの情報であって、この例のテンプレート構成ユニット230が、複数のコンテンツ・ウィンドウ140A〜140Fを有するこの例のマルチメディア・プレゼンテーション110内の強調されているコンテンツ・ウィンドウの検出に使用できるこの例のテンプレートのセット500を特定することを可能にする情報を含む。ブロック710における処理が完了した後、この例の機械可読命令700の実行が終了する。
図1および/または図2の例の監視ユニット120を実装する監視手順を行うべく実行できる一例の機械可読命令800は、図8に示されたフローチャートによって表される。この例の機械可読命令800は、あらかじめ決定された間隔で、事象の検出(たとえば、チャンネルを変更する事象の検出、リモート・コントロール・ボタンを押す事象の検出、リモート・コントロールまたはそのほかの入力デバイスによって送信される命令の検出等々)等に基づいて、あるいは、それらの任意の組み合わせで、連続的に実行できる。図2の例の監視ユニット120に関連して、機械可読命令800は、図8のブロック805において実行を開始し、それにおいてはこの例の監視ユニット120が、被監視メディア・デバイス(たとえば、この例のメディア・デバイス105等)が複数のコンテンツ・ウィンドウを含むマルチメディア・プレゼンテーション(たとえば、複数のコンテンツ・ウィンドウ140A〜140Fを含むこの例のマルチメディア・プレゼンテーション110等)を提供できるチャンネルに同調されているか否かの判定のために予備的なチャンネル検出手順が利用可能であるか否かを判定する。その種の予備的なチャンネル検出手順が利用可能である場合には(ブロック805)、コントロールがブロック810に進み、それにおいてこの例のチャンネル検出器240が任意の適切なチャンネル検出手法を実装して、『マルチウィンドウ・チャンネル』とも呼ばれる複数のコンテンツ・ウィンドウを含むマルチメディア・プレゼンテーションを提供できる既知の(たとえば、あらかじめ定義された、あるいは以前に認識された)チャンネルに、監視されているメディア・デバイスが同調されているか否かを決定する。その種のマルチウィンドウ・チャンネルがブロック810において検出されるか、またはブロック805において予備的なチャンネル検出手順が利用可能でない場合にはコントロールがブロック815に進む。それ以外はコントロールがブロック820に進む。
ブロック815においては、この例の監視ユニット120が、被強調ウィンドウ検出手順を実装して被監視マルチメディア・プレゼンテーション(たとえば、マルチメディア・プレゼンテーション110等)が1つまたは複数の強調されているコンテンツ・ウィンドウ(たとえば、この例の強調されているコンテンツ・ウィンドウ140A等)を含むか否かを判定する。ブロック815における処理を実装するべく実行できる一例の機械可読命令が、より詳細を後述する図9A〜図9B内に図解されている。次にコントロールがブロック825に進み、それにおいてこの例の監視ユニット120が、ブロック815における処理を介して強調されているコンテンツ・ウィンドウが検出されたか否かを判定する。強調されているコンテンツ・ウィンドウがブロック825において検出されなかった場合には、コントロールがブロック820に進む。しかしながら強調されているコンテンツ・ウィンドウが検出された場合(ブロック825)には、コントロールがブロック830に進む。
ブロック830においては、この例の監視ユニット120内に含まれるこの例のチャンネル検出器240が、監視ユニット120によって監視されているメディア・デバイス(たとえば、この例のメディア・デバイス105等)がマルチウィンドウ・チャンネルに同調されているか否かを決定する。たとえばブロック830において、この例のチャンネル検出器240は、被監視マルチメディア・プレゼンテーション内のコンテンツ・ウィンドウが強調されていることをブロック815における処理が検出したことから、被監視メディア・デバイスが複数の同調可能なチャンネルのうちの特定の既知のチャンネル(たとえば、DISHホーム・ポータル・チャンネル等)に同調されているという表示を提供する。次にコントロールがブロック835に進み、それにおいてこの例の監視ユニット120内に含まれるこの例のコンテンツ識別器245が、ブロック815における被強調ウィンドウ検出処理を介して検出された強調されているコンテンツ・ウィンドウ内に呈示されるコンテンツを識別する。たとえば、またより詳細を上で述べたとおり、ブロック835においてこの例のコンテンツ識別器245は、あらかじめ割り当てられた放送チャンネルおよび/またはコンテンツ・ソース、OCRおよび/またはロゴ検出、オーディオおよび/またはビデオ・コードおよび/または署名等々のうちの任意の1つ、またはそれらの組み合わせを使用してブロック815における処理によって検出された強調されているコンテンツ・ウィンドウ内に呈示されるコンテンツを識別することができる。
次にコントロールがブロック820に進み、監視を続けるべきか否かをこの例の監視ユニット120が決定する。たとえば、ブロック820においてこの例の監視ユニット120は、監視を続けるべきであるか否かを、監視ユニット120が連続的な監視、あらかじめ決定された間隔における監視、特定の事象の検出時における監視等々を行うべく構成されているか否かに基づいて決定できる。監視を続けるべきである場合には(ブロック820)、コントロールがブロック805およびその後に続くブロックに戻り、監視処理を続ける。しかしながら監視を続けない場合には(ブロック820)、この例の機械可読命令800の実行が終了する。
図8のブロック815における処理をおよび/または図2および/または図6の例の被強調ウィンドウ検出器220を実装する被強調ウィンドウ検出手順を行うべく実行できる一例の機械可読命令815が、図9A〜図9B内に示されたフローチャートによって表されている。図6の例の被強調ウィンドウ検出器220に関連して、機械可読命令815は、図9Aのブロック905において実行を開始し、それにおいてこの例の被強調ウィンドウ検出器220が、この例のメディア・デバイス105等の被監視メディア・デバイスのディスプレイに対応するこの例のビデオ・インターフェース205から被監視画像を獲得する。たとえばブロック905において、被監視画像が、被監視メディア・デバイスのビデオ出力と通信するように接続されたこの例のビデオ入力150からこの例のビデオ・インターフェース205によって決定される(たとえば、取り込まれる)とすることができる。代替例として、ブロック905において被監視画像が、被監視メディア・デバイスのディスプレイを臨むべく位置決めされたこの例のカメラ155からこの例のビデオ・インターフェース205によって決定される(たとえば、取り込まれる)とすることができる。
次にコントロールがブロック910に進み、それにおいてこの例の被強調ウィンドウ検出器220が、関心領域マッチングに基づく(たとえば、被強調ウィンドウ検出器220および/または監視ユニット120内に維持されている構成データに基づく)被強調ウィンドウ検出がサポートされているか否かを判定する。関心領域マッチングに基づく被強調ウィンドウ検出がサポートされている場合には(ブロック910)、コントロールがブロック915に進み、それにおいてこの例の被強調ウィンドウ検出器220内に含まれるこの例の領域セレクタ605が、ブロック905において獲得された被監視画像からあらかじめ定義された関心領域を選択する(たとえば、抽出する)。ブロック915においては、選択された(たとえば、抽出された)被監視画像の領域が、たとえば図7の例の機械可読命令700の実行によって構成されたあらかじめ定義された関心領域のセットから選択された関心領域に対応する。
その後コントロールがブロック920に進み、それにおいてこの例の被強調ウィンドウ検出器220内に含まれるこの例のルミナンス比較器610が、ブロック915において決定された被監視画像の選択された領域を処理し、より詳細を上で述べたとおり、選択された領域のそれぞれのルミナンス・パラメータ値を決定する。それに加えて、またはそれに代えて、ブロック920においてこの例の被強調ウィンドウ検出器220内に含まれるこの例のクロミナンス比較器615が、ブロック915において決定された被監視画像の選択された領域を処理し、より詳細を上で述べたとおり、選択された領域のそれぞれのクロミナンス・パラメータ値を決定する。次にコントロールがブロック925に進み、それにおいてこの例のルミナンス比較器610が、この被監視画像の選択された領域についてブロック920において決定されたルミナンス・パラメータ値を、一定の、または可変ルミナンス‐ベースの強調閾値と比較する。それに加えて、またはそれに代えて、ブロック925においてこの例のクロミナンス比較器615が、この被監視画像の選択された領域についてブロック920において決定されたクロミナンス・パラメータ値を、一定の、または可変クロミナンス‐ベースの強調閾値と比較する。ブロック920においては、強調閾値(1つまたは複数)が、より詳細を上で述べたとおり、被監視マルチメディア・プレゼンテーション内に含まれる複数のコンテンツ・ウィンドウのうちの少なくとも1つの、人間が知覚可能な強調に関連付けされたルミナンスおよび/またはクロミナンスを表すべく構成および/または決定される。
次にコントロールはブロック930に進み、それにおいてこの例の被強調ウィンドウ検出器220内に含まれるこの例の判定ユニット630は、ブロック925における選択された領域のためのルミナンスおよび/またはクロミナンス・パラメータ値とそれぞれのルミナンス‐ベースおよび/またはクロミナンス‐ベースの強調閾値との比較が、被強調ウィンドウ検出の評価基準を満たしているか否かを判定する。たとえば、ブロック925においてこの例の判定ユニット630は、ブロック925において決定された比較結果が、決定されたルミナンスおよび/またはクロミナンス・パラメータ値がそれぞれの強調閾値(1つまたは複数)より大きいか、または等しいことを示す場合に、強調されているコンテンツ・ウィンドウが処理中の被監視画像の選択された領域に対応すると判定することができる。それに加えて、またはそれに代えて、ブロック925においてこの判定ユニット630は、ブロック925において決定された比較結果が、決定されたルミナンスおよび/またはクロミナンス・パラメータがそれぞれの強調閾値(1つまたは複数)から何らかの指定された量、要因等々によって外れていたことを示す場合に、強調されているコンテンツ・ウィンドウが処理中の被監視画像の選択された領域に対応すると判定することができる。この例の判定ユニット630が、被強調ウィンドウ検出の評価基準が満たされたと判定した場合には(ブロック930)、コントロールがブロック935に進み、それにおいてこの例の判定ユニット630が、処理中の選択された関心領域に対応するコンテンツ・ウィンドウは被監視マルチメディア・プレゼンテーション内において強調されていると示す。その後この例の機械可読命令815の実行が終了する。
しかしながらこの例の判定ユニット630が、被強調ウィンドウ検出評価基準が満たされなかったと判定した場合には(ブロック930)、コントロールがブロック940に進み、それにおいてこの例の被強調ウィンドウ検出器220内に含まれるこの例の領域セレクタ605が、構成されたすべての関心領域が処理済みであるか否かを判定する。すべての関心領域が処理済みでない場合には(ブロック940)、コントロールがブロック915およびその後に続くブロックに戻り、それにおいてこの例の領域セレクタ605が、構成された関心領域のセット内の次の関心領域を処理のために選択する。しかしながら、すべての関心領域が処理済みであるか(ブロック940)または関心領域マッチングに基づく被強調ウィンドウ検出がサポートされていない場合には(ブロック910)、コントロールが図9Bのブロック945に進む。
図9Bを参照するとブロック945において、この例の被強調ウィンドウ検出器220が、テンプレート・マッチングに基づく(たとえば、被強調ウィンドウ検出器220および/または監視ユニット120内に維持される構成データに基づく)被強調ウィンドウ検出がサポートされているか否かを判定する。テンプレート・マッチングに基づく被強調ウィンドウ検出がサポートされていない場合には(ブロック945)、この例の機械可読命令815の実行が終了する。しかしながら、テンプレート・マッチングに基づく被強調ウィンドウ検出がサポートされていれば(ブロック945)、コントロールがブロック950に進み、それにおいてこの例の被強調ウィンドウ検出器220内に含まれるこの例の二値画像コンバータ620が、図9Aのブロック905において獲得された被監視画像を二値被監視画像に変換する。たとえば、またより詳細を上で述べたとおり、ブロック950においてこの例の二値画像コンバータ620は、ピクセル・ルミナンスおよび/またはクロミナンス値に基づく二値変換閾値を使用して、被監視画像のグレイスケールまたはカラー・ピクセルを二値被監視画像のそれぞれの二値ピクセルに変換する。
次にコントロールがブロック955に進み、それにおいてこの例の被強調ウィンドウ検出器220内に含まれるこの例のテンプレート相関器625が、たとえば図7の例の機械可読命令700の実行によって構成されたテンプレートのセットからテンプレートを選択する。その後コントロールがブロック960に進み、それにおいてこの例のテンプレート相関器625が、二値被監視画像のいくつかのまたはすべてをカバーする水平シフト位置および垂直シフト位置の組み合わせにわたって選択されたテンプレートをシフトする。詳細を上で述べたとおり、各水平シフト位置および垂直シフト位置について、この例のテンプレート相関器625は、そのテンプレートによって境界設定された二値被監視画像のそれぞれの領域を選択し、選択したその二値被監視画像の領域をテンプレートと相関させて、選択したその被監視画像の領域内の、二値変換閾値より大きいか、または等しいルミナンスおよび/またはクロミナンス値を有するピクセルの数を表す相関パラメータ値を決定する。
次にコントロールがブロック965に進み、それにおいてこの例の被強調ウィンドウ検出器220内に含まれるこの例の判定ユニット630が、いずれかの水平シフト位置および垂直シフト位置において二値被監視画像を選択されたテンプレートと相関させることによってブロック925において決定された相関パラメータ値が被強調ウィンドウ検出の評価基準を満たしていることを示すか否かを判定する。たとえばブロック965においてこの例の判定ユニット630は、特定の水平シフト位置および垂直シフト位置における、その被監視二値画像とその選択されたテンプレートの相関についてのパラメータ値が強調閾値より大きいか、または等しい場合、またはそれに代えて強調閾値から外れている場合に、その場所についての相関パラメータ値は、その被監視マルチメディア・プレゼンテーションのその場所において強調されているコンテンツ・ウィンドウを示すものと判定する。特定のシフト位置における選択されたテンプレートと二値被監視画像の相関によってブロック960において決定された相関パラメータ値が、二値変換閾値より大きいか、または等しいルミナンス値および/またはクロミナンス値を有するテンプレート領域内の被監視画像ピクセル数を表すことから、この強調閾値は、特定のシフト位置におけるその被監視画像の領域が強調されているコンテンツ・ウィンドウに対応すると判定されるために、その二値変換閾値より大きいか、または等しいルミナンス値および/またはクロミナンス値を有することが要求されるピクセルの数の最小値として指定できる。
この例の判定ユニット630が、被強調ウィンドウ検出の評価基準が満たされたと判定すると(ブロック965)、コントロールがブロック970に進み、それにおいてこの例の判定ユニット630が、その検出評価基準を満たす相関パラメータ値をもたらした特定の水平および垂直シフト位置に強調されているコンテンツ・ウィンドウが配置されていることを示す。その後この例の機械可読命令815の実行が終了する。しかしながら、この例の判定ユニット630が、被強調ウィンドウ検出の評価基準は満たされていないと判定すると(ブロック965)、コントロールがブロック975に進み、それにおいてこの例の被強調ウィンドウ検出器220内に含まれるこの例のテンプレート相関器625は、構成されたテンプレートのセット内のすべてのテンプレートが処理済みであるか否かを判定する。すべてのテンプレートが処理済みでなければ(ブロック975)コントロールがブロック955およびその後に続くブロックに戻り、それにおいてこの構成されたテンプレートから次のテンプレートが、この被監視二値画像の処理に使用するために選択される。しかしながらすべてのテンプレートが処理済みであれば(ブロック975)、この例の機械可読命令815の実行が終了する。
図10は、ここに開示されている装置および方法を実装できる一例のコンピュータ1000のブロック図である。このコンピュータ1000は、たとえばサーバ、パーソナル・コンピュータ、携帯情報端末(PDA)、インターネット機器、DVDプレーヤ、CDプレーヤ、デジタル・ビデオ・レコーダ、パーソナル・ビデオ・レコーダ、セットトップ・ボックス、または任意のそのほかのタイプのコンピューティング・デバイスとすることができる。
この例のシステム1000は、汎用プログラマブル・プロセッサ等のプロセッサ1012を含む。プロセッサ1012は、ローカル・メモリ1014を含み、ローカル・メモリ1014および/または別のメモリ・デバイス内にあるコード化された命令1016を実行する。プロセッサ1012は、とりわけ図7、図8、および/または図9A〜図9B内に表されている機械可読命令を実行できる。プロセッサ1012は、インテル(Intel(登録商標))セントリーノ(Centrino(登録商標))ファミリのマイクロプロセッサ、インテル(Intel(登録商標))ペンティアム(pentium(登録商標))ファミリのマイクロプロセッサ、インテル(Intel(登録商標))アイテニアム(Itanium(登録商標))ファミリのマイクロプロセッサ、および/またはインテル(Intel(登録商標))エックススケール(XScale(登録商標))ファミリのプロセッサのうちの1つまたは複数のマイクロプロセッサといった、任意のタイプ処理ユニットとすることができる。当然のことながら、そのほかのファミリのプロセッサも適切である。
プロセッサ1012は、揮発性メモリ1018および不揮発性メモリ1020を含むメイン・メモリと、バス1022を介して通信する。揮発性メモリ1018は、スタティック・ランダム・アクセス・メモリ(SRAM)、同期ダイナミック・ランダム・アクセス・メモリ(SDRAM)、ダイナミック・ランダム・アクセス・メモリ(DRAM)、RAMBUSダイナミック・ランダム・アクセス・メモリ(RDRAM)、および/または任意のそのほかのタイプのランダム・アクセス・メモリ・デバイスによって実装できる。不揮発性メモリ1020は、フラッシュ・メモリおよび/または任意のそのほかの望ましいタイプのメモリ・デバイスによって実装できる。メイン・メモリ1018、1020へのアクセスは、通常、メモリ・コントローラ(図示せず)によってコントロールされる。
コンピュータ1000は、インターフェース回路1024も含む。インターフェース回路1024は、イーサネット(登録商標)・インターフェース、ユニバーサル・シリアル・バス(USB)、および/または第3世代の入力/出力(3GIO)インターフェース等の任意のタイプのインターフェース標準によって実装できる。
1つまたは複数の入力デバイス1026が、インターフェース回路1024に接続されている。入力デバイス1026は、ユーザがデータおよび命令をプロセッサ1012に入力することを可能にする。入力デバイス(1つまたは複数)は、たとえばキーボード、マウス、タッチスクリーン、トラックパッド、トラックボール、アイソポイント、および/または音声認識システムによって実装できる。
1つまたは複数の出力デバイス1028が、インターフェース回路1024に接続されている。出力デバイス1028は、たとえばディスプレイ・デバイス(たとえば、液体結晶ディスプレイ、陰極線管ディスプレイ(CRT)によって、プリンタによって、および/またはスピーカによって実装できる。したがってインターフェース回路1024は、通常、グラフィック・ドライバ・カードを含む。
インターフェース回路1024は、モデムまたはネットワーク・インターフェース・カード等の通信デバイスも含み、ネットワーク(たとえば、イーサネット(登録商標)接続、デジタル加入者回線(DSL)、電話回線、同軸ケーブル、携帯電話システム等々)を介した外部コンピュータとのデータ交換を容易にする。
またコンピュータ1000は、ソフトウエアおよびデータを格納するための1つまたは複数の大容量ストレージ・デバイス1030も含む。その種の大容量ストレージ・デバイス1030の例は、フロッピー(登録商標)・ディスク・ドライブ、ハード・ディスク・ドライブ、コンパクト・ディスク・ドライブ、およびデジタル多用途ディスク(DVD)ドライブを含む。大容量ストレージ・デバイス1030は、この例の被監視データ・ストレージ・ユニット218、および/またはこの例の構成データ・ストレージ・ユニット235を実装できる。それに加えて、またはそれに代えて、揮発性メモリ1018が、この例の被監視データ・ストレージ・ユニット218および/またはこの例の構成データ・ストレージ・ユニット235を実装できる。それに加えて、またはそれに代えて、不揮発性メモリ1020が、この例の構成データ・ストレージ・ユニット235を実装できる。
図10のデバイス等の、ここに述べられているシステムにおける方法および/または装置の代替実装として、ここに述べられている方法および/または装置は、プロセッサおよび/またはASIC(特定用途向けIC)等の構造内に埋め込むことができる。
最後に、ここでは方法、装置、および製品の特定の例を述べてきたが、この特許の保護範囲は、それらに限定されない。逆にこの特許は、付随する請求項の範囲内に、文字どおりに、または均等論の下に公正に含まれるあらゆる方法、装置、および製品を保護する。

Claims (25)

  1. 複数のコンテンツ・ウィンドウを含むことができるメディア・プレゼンテーションを提供するメディア・デバイスを監視する方法であって、
    前記メディア・デバイスによって提供される前記メディア・プレゼンテーションに対応する被監視画像を獲得するステップと、
    前記被監視画像内の第1の領域のルミナンスまたはクロミナンスのうちの少なくとも一方を表す第1のパラメータ値を決定するステップであって、前記第1の領域の形状は前記複数のコンテンツ・ウィンドウのうちの少なくとも1つを表す、ステップと、
    前記第1のパラメータ値を強調閾値と比較して、前記被監視画像内の前記第1の領域の場所に関連付けされた第1のコンテンツ・ウィンドウが強調されているか否かを判定するステップと、
    を包含する方法。
  2. さらに、前記メディア・デバイスによって提供される前記メディア・プレゼンテーションを臨むべく位置決めされたカメラから前記被監視画像を取り込むステップ、または前記メディア・デバイスによって出力されるビデオ信号を処理して前記被監視画像を獲得するステップのうちの少なくとも1つを包含する、
    請求項1に記載の方法。
  3. さらに、複数のあらかじめ決定された関心領域のうちの1つに対応する前記第1の領域を選択するステップを包含し、あらかじめ決定された関心領域のそれぞれは、前記複数のコンテンツ・ウィンドウ内のそれぞれのコンテンツ・ウィンドウに対応する、
    請求項1に記載の方法。
  4. さらに、
    前記複数のコンテンツ・ウィンドウのうちの少なくとも1つを表すテンプレートを、前記被監視画像の複数の水平シフト位置および複数の垂直シフト位置にわたってシフトするステップと、
    前記テンプレートによって境界設定され、かつ前記テンプレートの第1の水平シフト位置および第1の垂直シフト位置に配置される前記被監視画像のエリアに対応する前記第1の領域を選択するステップと、
    を包含する請求項1に記載の方法。
  5. さらに、
    入力画像の二値変換を実行して前記被監視画像を決定するステップであって、前記二値変換が、前記入力画像のグレイスケールまたはカラー・ピクセルのうちの少なくとも1つを前記被監視画像のそれぞれの二値ピクセルに変換する二値変換閾値を使用して実行されるステップと、
    前記第1の領域を前記テンプレートと相関させて前記第1のパラメータ値を決定するステップと、
    を包含する請求項4に記載の方法。
  6. 前記二値変換閾値は、前記複数のコンテンツ・ウィンドウのうちの1つの、人間が知覚可能な強調に関連付けされたピクセル・ルミナンス値またはピクセル・クロミナンス値のうちの少なくとも1つに対応する、
    請求項5に記載の方法。
  7. 前記強調閾値は、前記第1の領域が強調されているコンテンツ・ウィンドウに対応すると判定定されるために、前記二値変換閾値より大きいか、または等しいピクセル・ルミナンス値またはピクセル・クロミナンス値のうちの少なくとも一方を有することが要求される前記第1の領域内のピクセルの最小数に対応する、
    請求項6に記載の方法。
  8. さらに、前記第1のパラメータ値が前記強調閾値より大きいか、または等しいときに、前記第1のコンテンツ・ウィンドウが強調されており、かつ前記第1の水平シフト位置および前記第1の垂直シフト位置に配置されていることを示すステップを包含する、
    請求項4に記載の方法。
  9. 前記強調閾値は、前記複数のコンテンツ・ウィンドウのうちの少なくとも1つの、人間が知覚可能な強調に関連付けされたルミナンスまたはクロミナンスのうちの少なくとも一方に対応する、
    請求項1に記載の方法。
  10. さらに、前記第1のパラメータ値が前記強調閾値より大きいか、または等しいときに、前記第1の領域の場所に関連付けされた前記第1のコンテンツ・ウィンドウが強調されていることを示すステップを包含する、
    請求項1に記載の方法。
  11. さらに、前記第1のパラメータ値が前記強調閾値より大きいか、または等しいときに、前記メディア・デバイスが、複数の同調可能なチャンネルのうちの第1のチャンネルに同調されていることを示すステップを包含し、
    前記第1のチャンネルは、前記複数のコンテンツ・ウィンドウを使用して呈示できるコンテンツを提供するべく構成される、
    請求項1に記載の方法。
  12. さらに、前記第1のパラメータ値が前記強調閾値より大きいか、または等しいときに、前記被監視画像の前記第1の領域内において光学文字認識を実行し、前記第1のコンテンツ・ウィンドウ内に呈示される第1のコンテンツを識別するステップを包含し、
    前記第1のコンテンツは、前記メディア・プレゼンテーション内に含まれる第2のコンテンツ・ウィンドウ内に呈示される第2のコンテンツと異なる、
    請求項1に記載の方法。
  13. さらに、前記第1のパラメータ値が前記強調閾値より大きいか、または等しいとき、前記メディア・デバイスによって提供されるオーディオ信号またはビデオ信号のうちの少なくとも1つを処理して前記第1のコンテンツ・ウィンドウ内に呈示される第1のコンテンツを識別するステップを包含し、
    前記第1のコンテンツは、前記メディア・プレゼンテーション内に含まれる第2のコンテンツ・ウィンドウ内に呈示される第2のコンテンツと異なる、
    請求項1に記載の方法。
  14. 前記複数のコンテンツ・ウィンドウは、それぞれの複数のコンテンツ・ソースにマップされ、さらに、前記第1のパラメータ値が前記強調閾値より大きいか、または等しいとき、前記第1のコンテンツ・ウィンドウにマップされる第1のコンテンツ・ソースに対応するとして前記第1のコンテンツ・ウィンドウ内に呈示される第1のコンテンツを識別するステップを包含し、
    前記第1のコンテンツは、前記メディア・プレゼンテーション内に含まれる第2のコンテンツ・ウィンドウ内に呈示される第2のコンテンツと異なる、
    請求項1に記載の方法。
  15. さらに、前記第1のパラメータ値が前記強調閾値より小さいとき、
    前記被監視画像内の第2の領域のルミナンスまたはクロミナンスのうちの少なくとも一方を表す第2のパラメータ値を決定するステップであって前記第2の領域の形状が前記複数のコンテンツ・ウィンドウのうちの少なくとも1つを表す、ステップと、
    前記第2のパラメータ値を前記強調閾値と比較して、前記被監視画像内の前記第2の領域の場所に関連付けされた第2のコンテンツ・ウィンドウが強調されているか否かを判定するステップと、
    を包含する、
    請求項1に記載の方法。
  16. 機械可読命令を格納する機械可読製品であって、実行されると、機械に、
    メディア・デバイスによって提供されるメディア・プレゼンテーションであって、複数のコンテンツ・ウィンドウを含むことができるメディア・プレゼンテーションに対応する被監視画像を獲得させ、
    前記被監視画像内の第1の領域のルミナンスまたはクロミナンスのうちの少なくとも一方を表す第1のパラメータ値を決定させ、前記第1の領域の形状は前記複数のコンテンツ・ウィンドウのうちの少なくとも1つを表し、
    前記第1のパラメータ値を強調閾値と比較させて、前記被監視画像内の前記第1の領域の場所に関連付けされた第1のコンテンツ・ウィンドウが強調されているか否かを判定させる、
    命令を格納する機械可読製品。
  17. 前記機械可読命令は、実行されると、前記機械に、さらに、
    複数のあらかじめ決定された関心領域のうちの1つに対応する前記第1の領域を選択させ、あらかじめ決定された関心領域のそれぞれは、前記複数のコンテンツ・ウィンドウ内のそれぞれのコンテンツ・ウィンドウに対応する、
    請求項16に記載の製品。
  18. 前記機械可読命令は、実行されると、さらに、前記機械に、
    前記被監視画像のグレイスケールまたはカラー・ピクセルのうちの少なくとも1つを二値被監視画像のそれぞれの二値ピクセルに変換する二値変換閾値を用いて前記被監視画像を前記二値被監視画像に変換させ、前記二値変換閾値は、前記複数のコンテンツ・ウィンドウのうちの1つの、人間が知覚可能な強調に関連付けされたピクセル・ルミナンス値またはピクセル・クロミナンス値のうちの少なくとも一方に対応し、
    前記複数のコンテンツ・ウィンドウのうちの少なくとも1つを表すテンプレートを、前記二値被監視画像の複数の水平シフト位置および複数の垂直シフト位置にわたってシフトさせ、
    前記テンプレートによって境界設定され、かつ前記テンプレートの第1の水平シフト位置および第1の垂直シフト位置に配置される前記二値被監視画像のエリアに対応する前記第1の領域を選択させ、
    前記第1の領域を前記テンプレートと相関させて前記第1のパラメータ値を決定させる、
    請求項16に記載の製品。
  19. 前記機械可読命令は、実行されると、さらに、前記機械に、
    前記第1のコンテンツ・ウィンドウが強調されていると判定されたときに、前記メディア・デバイスが複数の同調可能なチャンネルのうちの第1のチャンネルに同調されていることを示させ、
    前記第1のチャンネルは、前記複数のコンテンツ・ウィンドウを使用して呈示できるコンテンツを提供するべく構成される、
    請求項16に記載の製品。
  20. 前記機械可読命令は、実行されると、さらに、前記機械に、
    前記第1のコンテンツ・ウィンドウが強調されていると決定されたとき、前記第1のコンテンツ・ウィンドウ内に呈示される第1のコンテンツを識別させ、前記第1のコンテンツは、前記メディア・プレゼンテーション内に含まれる第2のコンテンツ・ウィンドウ内に呈示される第2のコンテンツと異なり、
    さらに前記機械に、
    前記被監視画像の前記第1の領域内において光学文字認識を実行することと、
    前記メディア・デバイスによって提供されるオーディオ信号またはビデオ信号のうちの少なくとも1つを処理すること、または
    前記複数のコンテンツ・ウィンドウがそれぞれの複数のコンテンツ・ソースにマップされており、前記第1のコンテンツを前記第1のコンテンツ・ウィンドウにマップされた第1のコンテンツ・ソースと関連付けすること、
    のうちの少なくとも1つによって前記第1のコンテンツを識別させる、
    請求項16に記載の製品。
  21. メディア・デバイス監視ユニットであって、
    カメラまたはメディア・デバイスのビデオ出力の少なくとも1つと通信するように接続されて、前記メディア・デバイスによって提供されるメディア・プレゼンテーションに対応する被監視画像を獲得するビデオ・インターフェースであって、前記メディア・デバイスは、前記メディア・プレゼンテーション内に複数のコンテンツ・ウィンドウを含むことができる、ビデオ・インターフェースと、
    前記ビデオ・インターフェースと通信するように接続される被強調ウィンドウ検出器であって、
    前記被監視画像内の第1の領域のルミナンスまたはクロミナンスのうちの少なくとも1つを表す第1のパラメータ値を決定し、前記第1の領域の形状が前記複数のコンテンツ・ウィンドウのうちの少なくとも1つを表し、
    前記第1のパラメータ値を強調閾値と比較して、前記被監視画像内の前記第1の領域の場所に関連付けされた第1のコンテンツ・ウィンドウが強調されているか否かを判定する、被強調ウィンドウ検出器と、
    前記複数のコンテンツ・ウィンドウのうちの少なくとも1つの形状に対応するテンプレート、または前記複数のコンテンツ・ウィンドウにそれぞれ対応する複数の関心領域のうちの少なくとも1つを指定する構成インターフェースと、
    を包含し、
    前記被強調ウィンドウ検出器は、前記テンプレートまたは前記複数の関心領域のうちの少なくとも1つを使用して前記被監視画像内の前記第1の領域を決定する、
    メディア・デバイス監視ユニット。
  22. 前記被強調ウィンドウ検出器は、
    前記被監視画像のグレイスケールまたはカラー・ピクセルのうちの少なくとも1つを二値被監視画像のそれぞれの二値ピクセルの変換する二値変換閾値を用いて前記被監視画像を前記二値被監視画像に変換する二値画像コンバータであって、前記二値変換閾値は、前記複数のコンテンツ・ウィンドウのうちの1つの、人間が知覚可能な強調に関連付けされたピクセル・ルミナンス値に対応する、二値画像コンバータと、
    テンプレート相関器であって、
    前記構成インターフェースによって指定される前記テンプレートを、前記二値被監視画像の複数の水平シフト位置および複数の垂直シフト位置にわたってシフトし、
    前記テンプレートによって境界設定され、かつ前記テンプレートの第1の水平シフト位置および第1の垂直シフト位置に配置される前記二値被監視画像のエリアに対応する前記第1の領域を選択し、
    前記第1の領域を前記テンプレートと相関させて前記第1のパラメータ値を決定する、テンプレート相関器と、
    前記第1のパラメータ値が前記強調閾値より大きいか、または等しいとき、前記第1のコンテンツ・ウィンドウが強調されており、かつ前記第1の水平シフト位置および前記第1の垂直シフト位置に配置されていることを示す判定ユニットと、
    を包含する、請求項21に記載の監視ユニット。
  23. 前記被強調ウィンドウ検出器は、
    前記構成インターフェースによって指定される前記複数の関心領域から第1の関心領域に対応する前記被監視画像内の前記第1の領域を選択する領域セレクタと、
    ルミナンス比較器であって、
    前記被監視画像内の前記第1の領域の前記ルミナンスを表す前記第1のパラメータ値を決定し、
    前記第1のパラメータ値を、前記複数のコンテンツ・ウィンドウのうちの少なくとも1つの、人間が知覚可能な強調に関連付けされたルミナンスに対応する前記強調閾値と比較する、ルミナンス比較器と、
    前記第1の関心領域に関連付けされた前記第1のコンテンツ・ウィンドウが強調されているか否かを、前記第1のパラメータ値と前記強調閾値の比較に基づいて判定する判定ユニットと、
    を包含する、請求項21に記載の監視ユニット。
  24. さらに、前記被強調ウィンドウ検出器と通信するように接続されるチャンネル検出器を包含し、前記チャンネル検出器は、前記第1のコンテンツ・ウィンドウが強調されていることを前記被強調ウィンドウ検出器が検出するとき、複数の同調可能なチャンネルのうちの第1のチャンネルに前記メディア・デバイスが同調されていることを示し、前記第1のチャンネルは、前記複数のコンテンツ・ウィンドウを使用して呈示できるコンテンツを提供するべく構成される、
    請求項21に記載の監視ユニット。
  25. さらに、前記被強調ウィンドウ検出器と通信するように接続されるコンテンツ識別器を包含し、前記コンテンツ識別器は、前記第1のコンテンツ・ウィンドウが強調されていることを前記被強調ウィンドウ検出器が検出すると、前記第1のコンテンツ・ウィンドウ内に呈示される第1のコンテンツを識別し、前記第1のコンテンツは、前記メディア・プレゼンテーション内に含まれる第2のコンテンツ・ウィンドウ内に呈示される第2のコンテンツと異なる、
    請求項21に記載の監視ユニット。
JP2010124786A 2009-05-29 2010-05-31 複数のコンテンツ・ウィンドウを含むマルチメディア・プレゼンテーションを監視する方法および装置 Active JP5086393B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US12/474,906 US20100303365A1 (en) 2009-05-29 2009-05-29 Methods and apparatus to monitor a multimedia presentation including multiple content windows
US12/474,906 2009-05-29

Publications (2)

Publication Number Publication Date
JP2010277594A JP2010277594A (ja) 2010-12-09
JP5086393B2 true JP5086393B2 (ja) 2012-11-28

Family

ID=42338039

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010124786A Active JP5086393B2 (ja) 2009-05-29 2010-05-31 複数のコンテンツ・ウィンドウを含むマルチメディア・プレゼンテーションを監視する方法および装置

Country Status (5)

Country Link
US (1) US20100303365A1 (ja)
EP (1) EP2259577A1 (ja)
JP (1) JP5086393B2 (ja)
CN (2) CN101959055A (ja)
AU (1) AU2010202212B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106484257A (zh) * 2016-09-22 2017-03-08 广东欧珀移动通信有限公司 拍照控制方法、装置和电子设备

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8107010B2 (en) * 2005-01-05 2012-01-31 Rovi Solutions Corporation Windows management in a television environment
US9172960B1 (en) * 2010-09-23 2015-10-27 Qualcomm Technologies, Inc. Quantization based on statistics and threshold of luminanceand chrominance
WO2015038338A1 (en) * 2013-09-16 2015-03-19 Thomson Licensing Browsing videos by searching multiple user comments and overlaying those into the content
KR102213212B1 (ko) * 2014-01-02 2021-02-08 삼성전자주식회사 멀티윈도우 제어 방법 및 이를 지원하는 전자 장치
US9179184B1 (en) * 2014-06-20 2015-11-03 Google Inc. Methods, systems, and media for detecting a presentation of media content on a display device
KR20160060846A (ko) * 2014-11-20 2016-05-31 삼성전자주식회사 디스플레이 장치 및 디스플레이 방법
JP7045856B2 (ja) * 2015-01-22 2022-04-01 ハドリー インコーポレイテッド 独立符号化バックグラウンド更新に基づく映像伝送
US9917999B2 (en) 2016-03-09 2018-03-13 Wipro Limited System and method for capturing multi-media of an area of interest using multi-media capturing devices
CN107507475B (zh) * 2017-07-27 2020-06-16 北京华文众合科技有限公司 中控系统、交互教学系统及方法
US10839225B2 (en) 2018-07-11 2020-11-17 The Nielsen Company (Us), Llc Methods and apparatus to monitor a split screen media presentation

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5521841A (en) * 1994-03-31 1996-05-28 Siemens Corporate Research, Inc. Browsing contents of a given video sequence
US6366296B1 (en) * 1998-09-11 2002-04-02 Xerox Corporation Media browser using multimodal analysis
US6906743B1 (en) * 1999-01-13 2005-06-14 Tektronix, Inc. Detecting content based defects in a video stream
KR100346259B1 (ko) * 1999-05-29 2002-07-26 엘지전자주식회사 다수개의 영역특징정보를 이용한 이미지 검색 방법
US7039229B2 (en) * 2000-08-14 2006-05-02 National Instruments Corporation Locating regions in a target image using color match, luminance pattern match and hill-climbing techniques
KR100464075B1 (ko) * 2001-12-28 2004-12-30 엘지전자 주식회사 비디오 하이라이트 자동 생성 방법 및 장치
JP3915621B2 (ja) * 2002-07-29 2007-05-16 日産自動車株式会社 レーンマーク検出装置
CN101116339A (zh) * 2005-02-10 2008-01-30 松下电器产业株式会社 通信方法、活动图像重放装置和因特网连接装置
JP4690226B2 (ja) * 2006-03-13 2011-06-01 Necシステムテクノロジー株式会社 情報処理装置、機密データ監視方法およびプログラム
CN1852410A (zh) * 2006-04-07 2006-10-25 Ut斯达康通讯有限公司 一种电视个性化广告实现方法和装置
CN101536513B (zh) * 2006-06-20 2012-01-11 尼尔森(美国)有限公司 用于检测屏上媒体源的方法和设备
US20080091713A1 (en) * 2006-10-16 2008-04-17 Candelore Brant L Capture of television metadata via OCR
JP4775230B2 (ja) * 2006-11-06 2011-09-21 株式会社ニコン 画像処理装置、撮像装置、及び画像処理プログラム
US7831063B2 (en) * 2007-02-19 2010-11-09 Laughlin Richard H Small event detector in presence of clutter
CN101094249A (zh) * 2007-07-04 2007-12-26 迪岸网络技术(上海)有限公司 媒体电子广告、海报播放设备远程监视互动通讯方法
US8059865B2 (en) * 2007-11-09 2011-11-15 The Nielsen Company (Us), Llc Methods and apparatus to specify regions of interest in video frames

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106484257A (zh) * 2016-09-22 2017-03-08 广东欧珀移动通信有限公司 拍照控制方法、装置和电子设备

Also Published As

Publication number Publication date
EP2259577A1 (en) 2010-12-08
US20100303365A1 (en) 2010-12-02
AU2010202212A1 (en) 2010-12-16
AU2010202212B2 (en) 2013-05-16
CN102917193A (zh) 2013-02-06
CN101959055A (zh) 2011-01-26
JP2010277594A (ja) 2010-12-09

Similar Documents

Publication Publication Date Title
JP5086393B2 (ja) 複数のコンテンツ・ウィンドウを含むマルチメディア・プレゼンテーションを監視する方法および装置
US8553148B2 (en) Methods and apparatus to distinguish a signal originating from a local device from a broadcast signal
US8917937B2 (en) Methods and apparatus for identifying primary media content in a post-production media content presentation
JP2021525031A (ja) 埋め込まれた情報カード位置特定およびコンテンツ抽出のためのビデオ処理
US20090009532A1 (en) Video content identification using ocr
US20140201773A1 (en) Systems and methods for on-screen graphics detection
US11317144B2 (en) Detection of mute and compensation therefor during media replacement event
US9854232B2 (en) Systems and methods for picture quality monitoring
US20060140581A1 (en) Video recorder and method for reserve-recording a broadcast program
KR20120051208A (ko) 멀티미디어 장치의 사물을 이용한 제스쳐 인식 방법 및 장치
US8804052B2 (en) System and method for filtering a television channel list based on channel characteristics
KR20140046370A (ko) 디스플레이 장치 및 이의 채널 변경 감지 방법
US20230119783A1 (en) Methods and apparatus to monitor a split screen media presentation
US20050283793A1 (en) Advertising detection method and related system for detecting advertising according to specific beginning/ending images of advertising sections
US20170094373A1 (en) Audio/video state detector
CN113473175B (zh) 一种内容显示方法及显示设备
US20230300407A1 (en) System and method for channel change detection and overlay detection for a broadcast output
CN115529482A (zh) 一种防止录屏方法及相关装置
AU2012268871A1 (en) Methods and apparatus for identifying primary media content in a post-production media content presentation
MXPA06007503A (es) Metodos y aparatos para distinguir una señal que se origina desde un dispositivo local de una señal de difusion

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120720

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120814

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120906

R150 Certificate of patent or registration of utility model

Ref document number: 5086393

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150914

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250