JP2004535129A - 目標エリアが画像ストリーム内に含まれる持続時間を算出する方法およびシステム - Google Patents

目標エリアが画像ストリーム内に含まれる持続時間を算出する方法およびシステム Download PDF

Info

Publication number
JP2004535129A
JP2004535129A JP2003512933A JP2003512933A JP2004535129A JP 2004535129 A JP2004535129 A JP 2004535129A JP 2003512933 A JP2003512933 A JP 2003512933A JP 2003512933 A JP2003512933 A JP 2003512933A JP 2004535129 A JP2004535129 A JP 2004535129A
Authority
JP
Japan
Prior art keywords
image
target area
stream
duration
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2003512933A
Other languages
English (en)
Other versions
JP2004535129A5 (ja
JP4176010B2 (ja
Inventor
ジェイ オーバートン、ケネス
エス ミュンチ、マーク
ジュニア、チャールズ エイチ ハイデン
エス カーマイケル、ノーマン
Original Assignee
ビスタス アンリミテッド、インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ビスタス アンリミテッド、インコーポレイテッド filed Critical ビスタス アンリミテッド、インコーポレイテッド
Publication of JP2004535129A publication Critical patent/JP2004535129A/ja
Publication of JP2004535129A5 publication Critical patent/JP2004535129A5/ja
Application granted granted Critical
Publication of JP4176010B2 publication Critical patent/JP4176010B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30221Sports video; Sports image

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Geometry (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Image Processing (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

目標エリアが画像ストリーム内に含まれる持続時間を算出するシステムおよび方法は、サイト内の少なくとも1つの目標エリアの三次元モデルを利用する。目標エリアが画像ストリーム内に含まれる時は、期間中に、たとえば、フレーム・バイ・フレーム・ベースでカウンタが増分される。目標エリアが画像ストリーム内に含まれる算出された持続時間を調節するために閉塞パラメータが計算される。閉塞パラメータは、目標エリア障害物の変動の考慮を容易にし、持続時間を示すカウンタが目標エリアの障害物の変動を反映するようにカウンタを調節するのに使用される。目標エリアの算出された持続時間を調節するために目標エリアに関連する前景パラメータが計算される。前景パラメータは、さまざまなカメラ・ズームにより生じる目標エリア内に含まれる画像の可視性の変動の考慮を容易にする。

Description

【技術分野】
【0001】
(発明の技術分野)
本発明は、一般的に映像伝送システムに関し、特に画像が画像ストリーム内に含まれる持続時間を測定するシステムおよび方法に関する。
【背景技術】
【0002】
(発明の背景)
チーム、リーグおよび開催地のオーナは、典型的にスポーツ・テレビ放送の一部分中にそれらのバナーや標示が周期的に現れる時に広告主に高い料金を請求する。長い間、スポーツイベントは、コマーシャル中だけでなくテレビ放送イベント中にも追加広告収入を提供してきている。たとえば、放送会社は、スポーツ・イベント・テレビ放送の一部中に見られるコマーシャルを有する広告主にオン・エア時間当たり料金を請求する。広告主は、しばしば視聴者がスポーツ・アレナおよびパークに共通の広告ロゴおよびバナーを見ることがあるテレビ放送内のオン・エア時間に関連する料金を請求される。たとえば、野球場の壁は、一般的に非常に多くの隣接パネルにより構成され、そのひとつ以上は、典型的に広告主ロゴを展示するために広告主に賃貸しされる。アイスホッケも氷自体の下だけでなく典型的にホッケ・リンクのダッシュ・ボード上に展示される広告バナーを含んでいる。さらに、フットボール場は、しばしばスタジアム壁上のロゴの他にフットボール場の上に描かれたスポンサ・ロゴを含んでいる。スポーツ・フランチャイズおよびスポーツ放送会社は、回転バナー広告も使用する。これらのバナー広告は、放送の持続時間中、固定されるのではなく、ゲーム中に異なる壁パネル広告を展示できる回転可能なシャーシ上に維持される。放送会社は、映像の放送中に展示される画像の一部の測定に興味を持つことがある。
【0003】
映像内に画像を挿入する1つの誘因は、テレビ放送会社に対する広告収入の増加または追加を実現することである。広告等の静止画像および動画像をリアル・タイムで映像内に挿入するための多くのシステムおよび方法が提案されてきている。これらの従来技術システムおよび方法には、さまざまな欠点および問題点があり、それらの多くは、ディシコ等の米国特許第5,892,554号に詳細に示されている。新しく開発された技術は、たとえば、スポーツ・イベント放送における広告に革命をもたらすことを約束する。コンピュータ促進放送システムは、画像、たとえば、広告主のバナーのグラフィック画像を映像ストリーム・テレビ放送内に挿入することができる。一般的に、テレビ放送が実施されるサイトは、それから作られた三次元モデルを有する。このモデルは、グラフィックまたはビデオ画像を挿入する目標エリアを含んでいる。目標エリアは、サイトの実エリア、たとえば、ホッケ・リンクのダッシュ・ボードまたは仮想表面、たとえば、合成ビルボードとすることができる。一般的に、映像伝送の各フレームが解析され、画像は、放送される目標エリアを含む任意のフレーム内の目標エリア内に書き込まれる。サイトの三次元モデルは、さまざまなカメラ方位および焦点中に得られる現実性を考慮する。
【0004】
放送会社は、物理的に存在し、または映像ストリーム中に挿入される広告のオンエア持続時間を決定しなければならない。残念ながら、テレビ放送中にこれらの画像に対する露出時間を測定する技術には多くの欠点がある。たとえば、物理的シグネージ(signage)の放送持続時間は、手動算出され、典型的には放送が行われた後でしか算出されない。広告のテレビ放送伝送時間、すなわち、オンエア時間の手動算出は、一般的に手起動ストップ・ウォッチ等の増加測定技術を使用してオペレータにより実施される。この方法は、オペレータの注意深さの減退およびオペレータの遅延時間を含む多くのエラーおよび不正確さを免れない。さらに、オペレータは、放送がなされた幾分後でオリジナル放送のテープを観察することによりこれらの測定を実施する。また、これらの技術は、テープにとられた放送の同じまたは別のバージョンを観察して多数の広告に対する測定を行うための多くのオペレータを必要とする。その結果、これらの従来の方法は、多数のリソースを必要とし、さらに測定の不正確さおよび遅延に苦しみ、その使用が制限される。
【0005】
さらに、広告に対する料金は、通常、これらの従来技術を使用して算出され、典型的に従来および既存のバナー広告から引き出すことができる収入に限定される。
【0006】
「テレビ放送」および「放送」という用語は、本明細書において本発明の理解を容易にするために使用される。しかしながら、テレビ放送および放送メディアは、例にすぎない。本発明は、テレビ伝送への応用に限定されるものではない。本発明は、グラフィック・メディア(たとえば、画像ストリーム)を伝送することができるテレビジョン、ケーブル、インターネット、衛星、デジタル劇場等の任意数の通信技術において使用することができる。
【0007】
映像内に挿入された画像を提供する技術が開発されているが、そこからの広告収入を正確に評価する技術は、まだ取り組まれていない。公正な料金請求システムを実現するために、典型的には放送が行われた後で、これらのバナーの放送持続時間が手動算出される。広告のテレビ放送伝送時間、すなわち、オンエア時間の手動算出は、一般的に放送が行われたしばらく後でオリジナル放送のテープを観察する人によって行われる。しばしば、特定の広告のオンタイム伝送の計算は、単純な手起動ストップ・ウォッチのような不完全で誤差を生じやすい技術で行われる。これまで、画像挿入技術に従って行われた広告に対する料金は、従来のバナー広告主に対して利用される従来技術に限定されている。
【発明の開示】
【発明が解決しようとする課題】
【0008】
本発明の目的は、従来技術の方法および装置の1つ以上の問題点を克服し、合成または実画像またはその一部が画像ストリーム内に含まれる持続時間を算出する方法およびシステムを提供することである。
【課題を解決するための手段】
【0009】
(発明の概要)
本発明の実施例において、1つ以上の目標エリアが画像ストリーム内に含まれる持続時間の算出システムおよび方法は、そこから画像ストリームが取り込まれるサイト内の物理的エリアに割り当てられた少なくとも1つの目標エリアを含むサイトの三次元モデルを利用する。目標エリアが画像ストリーム内に含まれる時は、たとえば、フレーム・バイ・フレームまたはフィールド・バイ・フィールド・ベースで目標エリアに関連して維持されるカウンタが期間中に増分される。そのため、目標エリアに関連して維持されるカウンタは、目標エリア内の画像が画像ストリーム内に含まれる持続時間の表示を与える。したがって、カウンタは、目標エリアに対応する物理的エリア(そこから取り込まれた画像は、物理的画像と呼ばれる)内に含まれるサイトの一部が画像ストリーム内に含まれる持続時間測定値を与える。
【0010】
本発明のもう1つの実施例では、1つ以上のカメラ等の画像捕捉システムにより取り込まれる画像ストリームは、画像捕捉が行われたサイト内に存在しない合成画像を含むように処理することができる。取り込まれた画像ストリームは、画像挿入技術により操作され、サイトの物理的エリアに関連する目標エリア内に挿入された合成画像を含むように処理することができる。したがって、カウンタは、合成画像が処理された画像ストリームの目標エリア内に含まれる持続時間の表示を与える。
【0011】
本発明のもう1つの実施例では、視野内の目標エリアのパーセンテージを使用して目標エリアに関連するカウンタが増加されるかどうかを決定することができる。
【0012】
本発明のもう1つの実施例では、目標エリアが画像ストリーム内に含まれる算出された持続時間を調節するために目標エリアに関連する閉塞パラメータが算出される。閉塞パラメータは、目標エリアの一部に対応する画像(物理的または合成)への障害物の変動の考慮を容易にし、そのカウントが画像の障害物の変動を示すようにカウンタを調節するのに使用される。
【0013】
本発明のもう1つの実施例では、目標エリアが画像ストリーム内に含まれる算出された持続時間を調節するために目標エリアに関連する前景パラメータが計算される。前景パラメータは、さまざまなカメラ・ズームにより生じる目標エリア内の画像の可視性の変動の考慮を容易にする。
【0014】
さらにもう1つの実施例では、任意の閉塞体のエリアを考慮および除外して、目標エリアにより覆われる可視ビデオ画像のパーセンテージの閾値によりカウンタをトリガすることができる。
【0015】
さらにもう1つの実施例では、1つ以上の目標エリアが画像ストリーム内に含まれる持続時間のリアル・タイムの算出により合成画像が画像ストリーム内に含まれる所望の持続時間が満たされることを保証する機構が提供される。画像取込みまたは伝送中に収集され、かつ目標エリアが画像ストリーム内に含まれる持続時間を示すメトリクスその他の統計データの解析は、特定の目標エリアに割り当てられた画像データが予め定められた所望の持続時間だけ画像ストリーム内に含まれることがありそうにないことを示すことがある。画像データの画像ストリーム内への所望の持続時間の包含を達成するために画像データをもう1つの目標エリアに再割当てすることができる。
【実施例】
【0016】
(図面の詳細な説明)
本発明のこれらおよびその他の目的および利点は、添付図面を参照して本発明の好ましい実施例の下記の記載から明らかとなる。本発明の目的および利点をより完全に理解するために、添付図面に関して以下の記述が参照される。本発明の好ましい実施例およびその利点は、さまざまな図面の同じまたは対応する部分に対して同じ番号が使用されている、図1から図18を参照すれば最もよく理解される。
【0017】
画像ストリームの操作に対するリアル・タイム画像挿入システムの1つの応用は、スタジアム、アレナ、トラック、コースその他のスポーツまたは娯楽開催地からのスポーツまたは娯楽イベント等のライブ放送におけるものである。このようなシステムは、この応用に関連して以下に説明される。本発明のシステムは、画像ストリーム内の合成画像の露出持続時間のリアル・タイム測定に使用することができる。たとえば、そこから画像ストリームが取り込まれ、操作され放送される娯楽開催地に物理的に存在しない広告等の挿入された画像の持続時間を本発明の教示に従って正確にリアル・タイムで測定することができる。次に、これらの挿入された画像に対する広告収入および/または料金を所望により挿入された画像が画像ストリーム内に含まれる算出された持続時間に応じて計算することができる。
【0018】
本発明の画像持続時間測定システムは、画像ストリーム操作システムと共に使用される場合に著しい利点を有するが、他の応用で使用することもできる。本発明のシステムは、画像ストリームが取り込まれるサイト内に存在する物理的物体から画像例えば、画像ストリームが取り込まれる娯楽開催地内の物理的広告から取り込まれる画像が取り込まれる持続時間のリアルタイム測定にも使用することができる。
【0019】
画像測定の詳細および図1に示す画像測定システム100により実施される画像ストリーム操作技術は、本発明の範囲外であり、記述される技術は、例にすぎない。画像挿入システムは、そこから画像ストリームが取り込まれるサイトの三次元モデルを操作し画像、たとえば、広告のグラフィック描写を与えるビットマップを画像ストリームのフレーム内に挿入するように動作することを理解しなければならない。したがって、画像ストリームは、合成画像が挿入された画像ストリームの画像だけでなく画像捕捉システム、たとえば、カメラ・システム104A−104Nから得られる画像を含むことができ、典型的な技術は、図1から図10について一般的に後述する操作を含んでいる。
【0020】
取り込まれた画像ストリームは、ここでは、画像捕捉システムによりサイト内に存在する物理的物体から取り込まれた1つ以上のフレーム(またはフィールド)として定義される。画像ストリームは、ここでは、取り込まれた画像ストリームおよび/または画像挿入技術による操作を含む画像ストリーム内の画像の操作等の取り込まれた画像ストリームに対して実施することができる処理の結果として定義される。画像ストリームは、画像ストリームが取り込まれる物理的サイトからだけ取り込まれた画像を含むことができ、あるいは画像ストリームは、サイトから取り込まれた画像および/またはそこから画像ストリームが取り込まれるサイト内に物理的に存在しない合成画像(画像ストリーム内に挿入された)を含むことができる。
【0021】
物理的画像は、ここでは、画像捕捉システムにより物理的物体から取り込まれる画像ストリーム内の画像として定義される。合成画像は、ここでは、そこから画像ストリームが取り込まれるサイト内に物理的に存在する物体から取り込まれない画像ストリーム内に挿入された画像として定義される。
【0022】
目標エリアは、ここでは、物理的サイト内の興味あるエリアおよび/または物理的サイトのモデル内の対応するエリアとして定義される。画像捕捉システムの視野が興味あるエリア(またはその一部)を含む場合、取り込まれた画像ストリームおよび画像ストリームは、目標エリアまたはその一部を含むといわれる。たとえば、ホッケ・アレナにおけるダッシュ・ボードは、目標エリアとして指定することができる。目標エリアとして指定されたダッシュ・ボードは、やはり目標エリアと呼ばれるホッケ・アレナの三次元モデル内に対応するエリアを有する。本発明は、画像捕捉システムにより得られる画像ストリーム内に1つ以上の目標エリアが含まれることがある持続時間の算出をもくろむものである。目標エリアは、特定の開催地における単一イベントまたは別々の開催地における多数のイベント中に得られる画像ストリーム内に存在することができる。
【0023】
目標画像は、ここでは、画像ストリーム内の目標エリア内の画像として定義され物理的画像または合成画像またはそれらの複合画像とすることができる。
【0024】
基準画像は、閉塞処理に使用される実際のサイト内の目標エリア表面の外観であり画像レンダリング・システムによりレンダリングされる目標エリアに関連づけられた画像とすることができる。基準画像は、物理的物体(そこから画像ストリームが取り込まれるサイト内の物理的物体等)のレンダリングされた画像とすることができ、あるいは基準画像は、画像ストリーム内の画像の目標エリア内に挿入される合成画像のレンダリングされた画像とすることができる。基準画像は、一般的に、目標エリア内に挿入して、その持続時間測定を促進し、あるいはそこに割り当てられた目標エリアを有する物理的画像の持続時間測定を促進する目標画像を形成するのに利用される。合成目標画像は、一部、レンダリングされた基準画像により展開される。
【0025】
ここに記載するように、本発明は、目標エリアが画像ストリーム内に含まれる持続時間を算出する技術および機構を提供する。したがって、この技術および機構は、画像(物理的または合成)が目標エリア内に含まれる持続時間を算出し、画像が画像ストリーム内に含まれる持続時間の算出に応用することができる。
【0026】
次に図1について、1つ以上の目標エリアが画像ストリーム内に含まれる持続時間を算出するリアル・タイム画像測定システム100がその主要な機能的構成要素により略示されている。これらの構成要素は、ハードウェアおよびソフトウェアの組合せとして実現され、特記なき限り個別のハードウェアやソフトウェア構成要素を表したり任意特定のインプリメンテーションに限定されるものではない。
【0027】
画像測定システム100は、画像製作システム102から画像ストリームを受信する。画像製作システム102は、カメラ・システム104Aまたは複数の他のカメラ・システム104B-104Nの中の1つから画像信号を選択する。次に、この選択された画像ストリームは、既存のシグネージ、広告等の合成画像または画像ストリームが処理される後で挿入される合成画像を有することがある画像ストリーム内のエリア等の物理的開催地内の物理的画像の持続時間を測定するために画像測定システム100に供給される。画像測定システムは、たとえば、移動製作施設における映像製作システム内に設置することができる。それは中央製作施設に遠隔設置したり、地方テレビ局またはケーブル・オペレータ等のさらに下流に設置することもできる。あるいは、画像持続時間測定は、たとえば、製作システムに提供される前に各カメラ・システムからの画像ストリーム内の画像を測定することにより、画像ストリームの選択の前に行うことができる。
【0028】
もう1つの実施例では、図11に関して詳細に検討するように製作システム102は、画像測定システム内にさらに機能性を取り入れることができる。一般的に、他のカメラシステム104B−104Nにより多数の入力が提供される製作システム102の出力を比較することができ製作トラック等の製作制御ユニットにより選択されるカメラ入力に対する持続時間カウンタを更新することができる。たとえば、多数のカメラは、単一開催地から画像ストリームを取り込むのに一般的に使用される。多数のカメラからの画像ストリームは、次に、製作システムに供給される。製作システムは、画像ストリーム/テレメトリ・セパレータ118に入力を与えるように操作できる。一般的に、画像ストリーム/テレメトリ・セパレータ118に供給される任意所定の場合の入力は、他のカメラ・システム104B−104Nの単一カメラから取り出された画像ストリームを含んでいる。したがって、製作システム102は、処理される映像/テレメトリ・セパレータに供給される画像ストリームを切り替えて、終局的にシステムからの選択された画像ストリームを映像テレビ放送または処理された画像ストリームの形で出力するように操作できる。したがって、画像が出力画像ストリーム内に含まれる持続時間を累積するのにカウンタ(後述する)が使用されるため、切替機構は、1つ以上の他のカメラシステム104B−104Nにより取り込まれた任意の画像ストリーム内に画像が含まれる時にカウンタを増分するのではなく、製作システム102により出力される画像ストリーム内に画像が含まれる時だけカウンタが増分されるように利用されなければならない。
【0029】
カメラシステム104Aは、サイトの基準の既知または予め定められた三次元フレームに関して少なくともどこをカメラが指しているかを示すテレメトリ・データにより符号化された画像ストリームを発生する。カメラ・システムは、カメラ・ヘッド110に接続された従来のビデオ・カメラ108を含んでいる。カメラ・ヘッド110は、方位角および高度またはカメラ108の光軸の方向を規定する他の座標を示す情報を発生するセンサを含んでいる。このテレメトリ情報は、テレメトリ・プロセッサおよびエンコーダ112に与えられる。カメラ108または他の付属センサは、たとえば、カメラのレンズの焦点距離および開口を示す追加テレメトリ情報もテレメトリ・プロセッサおよびエンコーダに供給する。焦点距離は、レンズのズームの度合いと共に変動する。開口は、変化する光状態と共に変動する。随意、追加センサ情報、たとえば、全地球測位衛星情報114もその経度、緯度および高度に関するカメラの位置を示す情報をテレメトリ・プロセッサおよびエンコーダに供給することができる。カメラの位置は、容易に決定することができ予め定められた場所に固定されたままとするのではなく移動することができる。カメラにより供給される画像ストリーム・タイミング信号を使用して、テレメトリ・プロセッサおよびエンコーダは、カメラにより発生される画像ストリームと同期させることができるデータ信号を発生する。このデータ信号は、カメラにより発生される画像ストリームの各フレームに対するテレメトリ情報を符号化する。テレメトリ・プロセッサの一部とすることができる画像ストリーム/テレメトリ・コンバイナ116は、次に、データ信号を画像ストリームと結合する。テレメトリ情報が画像ストリーム内で同期的に符号化されるため、カメラシステム下流の任意の点で画像ストリームに合成画像を挿入できるようにするのに十分な情報が供給される。
【0030】
画像ストリーム内に含まれる1つ以上のフレームに関して画像ストリームの操作が説明されるが、フレームは、サブ要素、たとえば、フィールドを含むことがあることを理解しなければならない。たとえば、典型的な映像テレビ放送のフレームは、偶数および奇数フィールドにより構成される。したがって、30Hzフレームレートを有する映像ストリーム、すなわち、テレビ放送を含む画像ストリームは、実際上、2つの60Hzフィールドにより形成される。フレーム・ベース操作に関して、ここに記述される画像ストリーム、すなわち、画像テレビ放送の操作および解析は、例にすぎず検討を簡単にするために、そのように記述される。フィールド・ベース操作を使用して同じ一般的手順および技術を実現できることが理解される。
【0031】
画像測定システム100が符号化された画像ストリームを受信すると、画像ストリーム/テレメトリ・セパレータ118は、画像ストリーム内の特定の画像に対するテレメトリ・データを抽出する。画像ストリームは、さらに、画像ストリーム・デコーダ/バッファ119により復号されて画像ストリームの各フレームから画像を抽出して格納する。カメラにより発生された画像ストリーム内に含まれる画像の例が図2に画像400として例示されている。この特定の例は、アイスホッケ・ゲームのものである。それは、ダッシュ・ボード402、第1のホッケ・プレーヤ404および第2のホッケ・プレーヤ406を含んでいる。画像測定システム100および画像測定プロセスの操作を以下に画像400について記述する。しかしながら、画像測定プロセスは、少なくとも画像がフレーム間で変化する範囲まで画像ストリームの各連続フレーム内の画像に対して繰り返される。
【0032】
コントローラ120は、画像測定システム100の機能的構成要素内で生じるプロセスを調整するソフトウェアおよびハードウェア・エンティティまたはエンティティの集まりを表す。テレメトリ・データおよびサイトで生じるイベントを記述する他の情報、たとえば、野球のインニング数、スコアまたはスポーツ・ゲームのフロー上の他の情報を使用して、コントローラ120は、データ・ベース122内の予め定められた画像測定ルールにアクセスし、少なくとも部分的にテレメトリ・データ内に埋め込まれたカメラ識別子に基づいて、開催地内に含まれかつ画像ストリーム(またはその一部)全体にわたって持続時間測定が行われる画像ストリーム内に含めることができるエリア(ここでは目標エリアと呼ばれる)を決定する。目標エリアは、たとえば、広告ディスプレイが処理された画像ストリーム内に合成的に挿入されるスポーツ・アレナ内のエリアである。あるいは、目標エリアは、たとえば、物理的シグネージがサイトに存在し画像ストリームにより取り込まれることがあるスポーツ・アレナ内のエリアである。したがって、画像ストリーム内に含まれるサイトの目標エリアは、その内に含まれる物理的画像/および/または合成画像を有することができる。予め定められたルールを有することにより予め選択された目標エリアに持続時間測定を行うことができ、その結果、目標エリアが画像ストリーム内に含まれる持続時間の量的尺度が生じる。目標エリアが画像ストリーム内に含まれる持続時間の量的尺度を算出することにより、物理的画像または合成画像が目標エリア内に含まれる持続時間も作られる。さらに、目標エリアは、予め定められた時間または期間にあるいは画像が取り込まれるイベントの状態に基づいて変化することがあり、すなわち、サイト内の目標エリアの場所は、画像ストリーム取込または処理中に変化することがある。
【0033】
広告ディレクタは、たとえば、コントローラ120にコマンドおよびデータを入力するソフトウェアおよびハードウェアを含むディレクタのコンソール123を使用してイベント中に測定プロセスを監視および制御することもできる。たとえば、ディレクタは、そのような情報がデータ・ベースから入手できない場合に、サイトにおけるイベントの状態に関する情報をシステムに供給することができる。また、ディレクタは、データ・ベース122内の画像測定ルールをオーバライドして持続時間測定のための目標エリアを手動選択するか、あるいはルールをダイナミックに修正することができる。また、広告ディレクタは、目標エリアを維持するデータ・ベースを設定および維持することができる。広告ディレクタのコンソールは、目標エリアの持続時間測定中にディレクタが画像ストリームを監視できるようにモニタを含んでいる。また、広告ディレクタのコンソールは、後述するように、ディレクタが基準画像に対するCADモデルを格納するデータ・ベースを修正し、かつ、後述するように、目標エリア測定プロセスのステップを監視および調節できるようにする。
【0034】
画像ストリームまたは処理された画像ストリーム内に含まれる各目標エリアに対して、サイトにおける予め定められた目標エリアに基準画像を割り当てることができる。基準画像は、目標エリアの予め定められた基準モデルに基づいてレンダリングされる。2つ以上の目標エリアを定義することができ任意所定の画像ストリーム内に現れることがある。モデルは、好ましくは、目標エリアの表面(実または仮想)を数学的に定義してモデルを任意の角度からレンダリングできるようにするコンピュータ支援設計(CAD)モデルである。取り込まれた画像ストリームから抽出されたテレメトリ・データにより、画像ストリームを発生するカメラの場所および方位と実質的に同じ観点からモデルをレンダリングすることができる。実際には画像ストリームと一線上に揃えられるサイトの目標エリアの合成画像であるこのレンダリングは、次に、画像ストリーム内の目標エリアの持続時間測定を案内するのに使用される。フレーム間でカメラ位置が変化する場合には、このレンダリングは、このような各フレームに対して行われる。しかしながら、フレーム間で変化しない場合には、前のフレームに対するレンダリングを使用することができる。したがって、物理的画像対象に対応する基準画像は、そこから物理的画像を取り込むことができるさまざまな方位および焦点においてレンダリングすることができる。
【0035】
しばらく図2および3を参照して、図3の画像502は、図2に示す画像が取り出されたサイトの予め定められたモデルのレンダリングの例である。標準とすることができる市販のCADソフトウェアをコンピュータで実行するコンピュータ支援設計(CAD)は、予め定められたモデルからレンダリングを発生する。レンダリングは、図2のビデオ画像と同じ位置およびカメラ・アングルからは作られないことに注目される。この例の目標エリア504は、ダッシュ・ボード402の表面の予め定められたエリアである。このモデルは、目標エリアとして定義される仮想表面も有する。たとえば、このモデルは、ホッケ・アレナの天井から吊下げられた仮想バナーの位置を定義していることがある。実であれ仮想であれ、目標エリア表面は、平坦である必要がない。この図では、目標エリアは、基準画像によりレンダリングされている。基準画像は、たとえば、レンダリングされたモデル内に挿入されるビット・マップ画像として格納することができる。この特定の例では、それはブランク白壁であり、すなわち、それと共に指示される目標エリアを有するダッシュ・ボードの一部が白、すなわち、ブランクであり、したがって同じ基準画像により表される。しかしながら、基準画像はたとえば会社ロゴ等のダッシュ・ボード402上に物理的に配置される広告の画像とすることができる。基準画像は、そこに割り当てられた目標エリアを有する物理的エリアを画像ストリーム内で取り込むことができる異なる方位に対応するように、さまざまなアングルからレンダリングすることができる。基準画像は、後で画像内にも挿入される合成要素の画像とすることができる。たとえば、広告は、特定の目標エリア内に挿入することができ、したがって最終処理画像の目標エリア内に現れる。各目標エリアに対する基準画像を有するサイトの基準モデルは、図1に示すCADファイル124内に格納される。
【0036】
次に、図1,図2および図5について、CADモデル・レンダラ128が図2に示す取り込まれた画像400を有するカメラからのテレメトリ・データに基づいてCADファイル124内に格納されたCADモデルのベース・ライン画像700をレンダリングする。図4のベース・ライン画像700は、目標エリア504内に挿入された目標エリア基準画像506を含んでいる。前記したように、テレメトリ・データは、画像400を取るカメラの識別、アングル、焦点距離および開口設定を含んでいる。テレメトリ・データは、カメラの位置が固定されていない場合にカメラの位置を示すこともできる。
【0037】
本発明の画像持続時間測定プロセスは、目標エリア・マスクの発生を含むこともできる。図5は、図2の典型的な画像400に対するマスク画像900を示す。目標エリア・マスク502がモデル・レンダラ128により発生される基準画像を使用してマスク・ビルダ502により発生される。マスク画像900を発生するために、マスク画像900内の目標エリア・マスク502は、その中の全ピクセルを予め定められた値に設定し、目標エリア・マスク502の外側の全ピクセルは、もう1つの予め定められた値に設定される。マスク画像900内では、全ての目標エリア・マスク502ピクセルが白であり、目標エリアマスク502を取り巻く全てのピクセルが黒である。
【0038】
目標エリア・マスク502は、閉塞処理ステップに関して、いくつかの目的に使用される。次に、図1について、目標エリア・マスク502は、モデル・レンダラ128により発生されるベース・ライン画像700内の各目標エリア基準画像56を分離、すなわち、マスクするために背景/目標エリア基準画像セパレータ138により使用される。図4に示す例では、マスクは、ベース・ライン画像700内の目標エリア基準画像56を残りの画像から分離するのに使用され、図6に示すマスクされた基準画像700aを生じる。目標エリア・マスク502は、オリジナル画像内に目標エリアを配置し、背景と呼ばれる画像の残りの非目標エリアから分離するのに使用される。この機能は、背景/目標エリア基準画像セパレータ136により実施される。
【0039】
図7および図8は、図2に示すオリジナル画像400内の目標エリアから背景を分離して生じる2つの画像を示す。図7は、マスクされた背景画像400aであり、ブランクである目標エリア5045内の部分を除くオリジナル画像の全てを含んでいる。図8は、マスクされた目標エリア画像400bであり、目標エリア504内に含まれるオリジナル画像400の一部1200を含んでいる。マスクは、モデル・レンダラ130によりレンダリングされる画像内の目標画像を分離するために背景/目標画像セパレータ140によっても使用される。
【0040】
図2の画像400の例において、ホッケ・プレーヤ404の一部は、本発明に従って持続時間測定を行う目標エリア504がそこに割り当てられているダッシュ・ボード402の一部を覆っている。目標エリア504が画像400を含む画像ストリーム内に含まれる持続時間を測定して目標エリア504内に含まれる画像の「可視性」を反映する持続時間の量的尺度を提供するために、閉塞と呼ばれる目標エリア504内のホッケ・プレーヤ404の一部をオリジナル画像400の目標エリア504の残りとは区別し、対応するエリアを目標エリア504内の残りの非閉塞画像から除去しなければならない。この分離を行うために、閉塞セパレータ144は、マスクされた目標エリア画像400bをマスクされた基準画像700aと比較する。任意の違いは、閉塞、すなわち、カメラと目標エリア504が割り当てられている表面(すなわち、合成表面)間の物体の画像と推定される。マスクされた基準画像とカメラ内の電子的ノイズにより導入されるマスクされた目標画像間の小さな違いは、画像処理の分野で一般的に実施されるいくつかの技術、たとえば、小領域除去により調整することができる。テレメトリ測定システム内のエラーによる目標エリアの不正確な位置決めは、一般的に実施される目標追跡技術、たとえば、カルマン・フィルタリングを使用してテレメトリ・データをフィルタリングすることにより調整することができる。図示する例では、図8に示すマスクされた目標エリア画像400bは、図6に示すマスクされた基準画像700aと比較される。図9に示す結果的に生じる閉塞画像400cは、閉塞しか含んでおらず、図示する例では、それは目標エリア504内の画像400内に取り込まれたホッケ・プレーヤ404の一部である。閉塞画像400cの残りは、ブランクである。閉塞セパレータ144は、閉塞マスクも生成する。閉塞マスクは、閉塞を構成するオリジナル画像400内の一部も識別する。この例では、閉塞マスクは、図9の閉塞画像400cから発生される。マスクされた背景画像400a、マスクされた目標画像800aおよび閉塞画像400cは、画像コンバイナ146により結合されて画像400の代わりに画像ストリーム中に挿入することができる複合、すなわち、最終画像400eを形成することができる。目標画像604は、合成画像を含むことができ、したがって、発生された複合画像は、合成画像の一部が最終画像内に含まれ、合成画像があたかもオリジナル画像400の一部に見えるような閉塞を有する合成画像を含む操作された画像を提供する。マスクされた背景画像、マスクされた目標画像および閉塞画像は、画像コンバイナ146により結合されて複合、すなわち、最終画像を形成する。最終画像は、画像ストリーム中に挿入するために画像操作技術により使用されることがある。したがって、最終画像またはその構成要素は、その中に含まれた目標エリアの持続時間算出のために画像測定システム100により使用されることがある。基準画像が合成画像を含んだ場合、次に、最終画像は、画像ストリーム中に挿入することができる。しかしながら、最終画像またはその一部は、目標エリアに関連する持続時間測定値の算出にしか使用されないことがあり、画像ストリーム中に挿入されないことがある。後者のシナリオは、目標エリアが割り当てられている物理的シグネージに対する持続時間測定値の算出に使用することができ、その場合、最終画像構成により目標エリアに関連する物理的画像に対応する画像データの持続時間算出が促進になり、画像ストリームは、画像挿入技術を適用されない。したがって、持続時間測定値の算出により物理的画像が画像ストリーム内に含まれる持続時間の表示が提供される。
【0041】
もっとも単純な形では、目標エリア504が画像ストリーム内に含まれる持続時間測定値を決定するシステムは、目標エリア504を含む画像ストリーム内の最終画像400eの数をカウントすることを含んでいる。次に、たとえば、画像ストリーム伝送および/または捕捉における毎秒フレームに基づいて、目標エリア504およびそこに含まれた画像を有する画像ストリームの一部の累積持続時間を算出することができる。このようにして、1つ以上の目標エリアが画像捕捉システムおよび/または画像操作システムにより作り出される画像ストリーム内に含まれる持続時間、したがって、その中に画像データが包含される持続時間の測定システムは、1つ以上の目標エリア504に包含され、目標エリアと関連して目標エリア504内に包含される画像データの対応する最終画像400eまたはその構成要素の解析を含んでいる。
【0042】
図11は、本発明の教示に従った画像捕捉および目標エリア持続時間測定システムを例示する。1つ以上の画像捕捉およびテレメトリ・システム104A−104Nは、スポーツまたは娯楽開催地等のサイトから画像ストリームを取り込むことができる。各画像捕捉およびテレメトリ・システム104A−104Nは、それぞれのテレメトリ装置を含んでいる。したがって、画像捕捉およびテレメトリ・システム104A−104Nにより捕捉された画像データは、捕捉された画像ストリーム内で符号化されたテレメトリ情報を有する。テレメトリ情報は、画像捕捉装置位置決めデータ、画像捕捉装置方位データ、画像捕捉装置のズームに関連する焦点情報等を含むことができる。画像およびテレメトリ情報は、各画像捕捉およびテレメトリ・システム104A−104Nから1つ以上の持続時間測定システム100A−100Nおよび製作システム102に出力することができる。製作システム102は、捕捉された画像データの処理を実施し画像データが出力される1つの画像捕捉およびテレメトリ・システム104A−104Nを選択する切替機能を提供することができる。典型的に、画像ストリーム出力は、任意所定の時点において単一画像源からの画像ストリーム、すなわち、処理された画像ストリームを含んでいる。広告主にとって興味をそそる持続時間測定を実現するために、本発明は、目標エリアが出力画像ストリーム内に含まれる持続時間の正確な測定を提供する。
【0043】
非常に多くの画像捕捉およびテレメトリ・システム104A−104Nを使用して製作システム102にイベントのさまざまな画像ビューを供給することができるため、異なるビューは、特定の目標エリアを含むことができ、他は、目標エリアを含まない。したがって、各画像捕捉およびテレメトリ・システムは、好ましくは、対応するカメラを識別するタグを捕捉された画像およびテレメトリ・データに埋め込む。カメラおよび/または画像およびテレメトリ・データを識別する他の技術が知られている。したがって、製作システム102は、目標エリアが出力画像ストリーム内に含まれる持続時間を測定するカウンタを増分することができる。このような測定の調整は、出力画像ストリームだけでなく画像捕捉およびテレメトリ・システム104A−104Nから得られる画像測定データを供給される測定調整装置またはシステム121Aにより実施することができる。したがって、目標エリアに割り当てられたカウンタは、目標エリアが製作システム102により出力される画像ストリーム内に含まれる時しか測定調整装置またはシステム121Aにより増分することができない。図11に示す実施例は、さまざまな方法を使用して実現することができる。たとえば、画像捕捉およびテレメトリ・システム104A−104Nおよび画像測定システム104A−104Nは、同じまたは別々のハードウェアまたはソフトウェア・プラットホームを使用して実現することができる。これらのシステムは、単一開催地の同じイベント、または異なる開催地における異なるイベントからの画像データを仮想的に同時に取り込むように使用することができ、また同じまたは別々の開催地に配置したり製作トラック等の製作制御ユニット内に一緒に配置したりすることができる。
【0044】
図12は、リアル・タイム持続時間算出モジュール147の処理を示すフロー図である。この方法は、本発明の方法に従って画像内に含まれる1つ以上の目標エリアに対して実施することができ、したがって、持続時間算出は、目標エリア504に挿入された合成画像だけでなく目標エリア504内の物理的画像により行うことができる。ステップ1500において、モジュール147は、閉塞セパレータ144および背景/目標エリア基準セパレータ138からの入力を受信する。複数の目標エリアを有するモデルでは、各目標エリアは、それを識別するために一意的インデクスが割り当てられる。ステップ1502において、モジュールは、最終画像400eまたはその1つ以上の構成要素を目標エリアに対して解析し、目標エリアがフレーム内に現れなければ、ステップ1504においてインデクスiが増分され、ステップ1506においてモデル内に含まれる目標エリアの総数に対応するFINALインデクス値と比較される。FINALインデクス値に達していなければ、モジュール処理は、ステップ1500に戻る。ステップ1506においてFINALインデクス値に達しておれば、モジュール147処理は、現在のフレームに対して終了し、任意の後続フレームに対してステップ1500から開始される。
【0045】
ステップ1502において最終画像400e内への目標エリアの包含が確認されると、ステップ1508において目標エリアに関連するオンエア・カウンタが増分される。カウンタは、算出モジュール147または画像測定システム100の任意の他の構成要素内で維持することができ、好ましくは、関連する目標エリアが画像ストリーム内に含まれる累積持続時間を表すデジタル記憶値である。測定された累積持続時間は、たとえば、秒で計った持続時間、フレーム数、フィールド数等の任意数の単位とすることができる。さらに、持続時間単位は、聴衆に画像ストリームを出力するために使用される特定の画像標準に応じて決めることができる。たとえば、NTSC(National Television Standards Copmmittee)標準、PAL(phase altering line)標準、その他の非常に多くの映像標準は、それぞれ、所定時間当たり画像ストリーム内に含まれる画像フレームまたはフィールド数を規定する送信周波数を規定している。任意の規定された標準に従って聴衆に送信される画像ストリーム内に含まれる目標エリアの持続時間測定は、それに従って行うことができる。さらに、後述するように、測定された持続時間は、目標エリア504内の画像の可視性に影響を及ぼす閉塞および前景パラメータを含む非常に多くの要因により重み付けすることができる。次に、ステップ1510においてインデクスiが増分されステップ1512においてインデクスiとFINALインデクスが比較される。FINALインデクス値に達していなければ、モジュール147プロセスは、ステップ1500に戻る。しかしながら、FINALインデクス値に達しておれば、モジュール処理は、現在のフレームに対して完了しステップ1500において任意の後続フレームに対して継続される。
【0046】
したがって、モデル内に含まれかつ最終画像400e内に目標画像が挿入されている任意の目標エリアがその特定の最終画像400eに対して増分された関連するカウンタを有する。同様に、モデル内に含まれ、かつ目標エリア内に画像が挿入されておらず、サイト内に物理的に配置されたシグネージ等の興味あるエリアに目標エリアが割り当てられている任意の目標エリアは、画像ストリームの特定の最終画像400e内の物理的標示を示す特定の最終画像400eに対して増分された関連するカウンタを有する。最終画像400e内に目標画像が挿入されているフレームのカウントは、画像の処理と同時にリアルタイムで行うことができることに注目される。しかしながら、明らかに目標エリアが画像ストリーム内に含まれるフレーム数の算出は、画像ストリームのテレビ放送、伝送その他の処理に関して遅延することがある。図12において一般的に記述するプロセスに従って各目標エリアに対するフレーム・カウントが行われると、目標エリア内に含まれる任意の目標画像(物理的および合成)の持続時間は、フレーム・カウンタと画像ストリームの毎秒フレームの積として算出することができる。したがって、目標画像が画像ストリーム内に含まれる持続時間を考慮する持続時間ベースで画像ストリーム内に挿入された目標画像の形で広告主に料金を請求することができる。同様に、物理的シグネージを含むサイトの特定のエリアに割り当てられた目標エリアが画像ストリーム内に含まれる持続時間を算出することにより画像ストリーム内に取り込まれるサイト内に配置された物理的シグネージの形で広告主に料金を請求することができる。
【0047】
目標画像が画像ストリーム内に含まれる持続時間を算出する技術は、所定の目標画像の「読取可能性」、すなわち、可視性に影響を及ぼす要因を考慮することにより向上させることができる。より望ましい持続時間測定値は、目標画像の閉塞に対してオンエア・カウンタを考慮し調節して算出することができる。図12に関して前記した技術に従って、特定数の画像フレームに対する目標エリアが同じ持続時間カウントに評価され、したがって、目標エリアが全く塞がれなかったか、またはその任意のさまざまな部分が塞がれたかにかかわらず、ここに示す技術に従って同じ料金がかけらる。本発明のこのようなインプリメンテーションは、潜在的広告主に対して反対を引き起こすことがある。
【0048】
図10に示すものよりも幾分後で生じることがあるシナリオにおける第1のホッケ・プレーヤ404および第2のホッケ・プレーヤ406を含む最終画像400eを図13に示す。図10に示す閉塞は、もはや存在せず、すなわち、プレーヤ404は、目標エリア504を超えて移動しており目標画像604は、完全に見られ、したがって、目標画像604は、全体が最終画像400e内に含まれる。それに比べて、図10に示すシナリオに対しては、目標画像604の一部しか最終画像400e内に含まれない。
【0049】
モジュール147は、目標エリア504に対する障害物の変動を説明する閉塞パラメータ(Δ)およびその内に含まれる目標画像604を計算することができ、目標画像604のテレビ放送その他の形の視聴に対して広告主に課される料金は、目標画像604の全体可視性の観点からより適切に徴収することができる。閉塞パラメータを計算するための典型的な構成は、モジュール147により、閉塞画像400cに関する情報を閉塞セパレータ144に問い合わせることを含んでいる。モジュール147は、目標エリア504内に含まれるホッケ・プレーヤ404の画像400eの一部分だけのピクセル・カウントである閉塞のピクセル・カウントを閉塞セパレータ144から取得することができる。同様に、目標画像802のピクセル・カウントを背景/目標画像セパレータ140から得ることができる。たとえば、目標画像802ピクセル・カウントに対する閉塞画像400eピクセル・カウントの比を発生することにより閉塞のピクセル・カウントおよび目標画像802のピクセル・カウントから単純な閉塞パラメータを計算することができる。目標エリアに関連する持続時間カウンタをそれに従って調節することができる。
【0050】
図14は、1つ以上の目標画像が画像ストリーム内に含まれ、かつ算出された持続時間内の1つ以上の目標画像の閉塞変動を反映する持続時間を測定するように操作できるリアル・タイム算出モジュール147の処理を示すフロー図である。ステップ1700において、モジュール147は、画像コンバイナ146から最終画像400を受信する。複数の目標エリアを有するモデルでは、各目標エリアにそれを識別するための一意的インデクスiを割り当てることができる。ステップ1702において、モデルは、目標エリアの包含についてフレームを解析し、フレーム内に目標エリアが現れなければ、ステップ1704においてインデクスiが増分され、ステップ1706において、モデル内に存在する目標エリア数に対応するFINALインデクス値と比較される。FINALインデクス値に達していなければ、モジュール処理は、ステップ1700に戻る。ステップ1706においてFINALインデクス値に達しておれば、モジュール147処理は、現在のフレームに対して終了し、ステップ1700において任意の後続フレームに対して繰り返される。
【0051】
ステップ1702において目標エリアが確認されると、ステップ1708においてモジュール147は、目標エリアの任意の閉塞のピクセル・カウントを得る。次に、ステップ1710においてモジュール147は、目標エリアのピクセルカウントを得る。閉塞パラメータΔ、たとえば、目標画像ピクセル・カウントに対する閉塞画像ピクセルカウントの比は、次にステップ1712においてモジュール147により計算される。あるいは、閉塞パラメータは、目標画像ピクセル・カウントに対する閉塞画像ピクセルカウントの比として計算することができる。閉塞パラメータの他の変動も可能である。次に、ステップ1714において閉塞パラメータの関数としてカウンタが増分される。たとえば、完全非閉塞目標エリア(または目標画像)によりカウンタは、1だけ増分され、カウンタへの増分の変動は、カウンタが1の増分からΔを減じて行われる。Δの典型的な計算に従って、完全に塞がれた目標エリア(または目標画像)によりiのゼロ増分が生じ、それは閉塞のピクセル・カウントが目標エリア(または目標画像)のピクセル・カウントに等しいためである。カウンタ値処理が実施されていてもカウンタ値に変化が生じないことが望ましい。さらに、カウンタは、目標エリアの閉塞量に反比例して増加する。
【0052】
次に、ステップ1716においてインデクスが増分され、ステップ1718においてインデクスとFINALインデクスの比較がなされる。FINALインデクス値に達していなければ、モジュール147プロセスは、ステップ1700に戻る。しかしながら、FINALインデクス値に達しておれば、モジュール処理は、現在のフレームに対して完了し、ステップ1700において任意の後続フレームに対して継続される。
【0053】
したがって、モデル内に含まれ最終画像400e内に目標画像を有する任意の目標エリアは、その特定の最終画像400eに対して増分された関連するカウンタを有し、画像ストリームにわたって累積された目標エリアに関連する任意の最終カウントは、その内に含まれる目標画像の実際の可視性の量をより正確に反映する。次に、フレーム・カウンタおよび画像ストリームの毎秒フレームの積として目標エリア内に含まれる任意の目標画像の持続時間を決定することができる。したがって、持続時間ベースで画像ストリームの目標エリア内に含まれる目標画像の形で作られた広告の料金がより正確に徴収される。
【0054】
前記した本発明は、目標エリア内に含まれる目標画像の可視性に影響を及ぼすカメラ・ズームを考慮することによりさらに向上させることができる。図18Aおよび18Bは、それぞれ、異なるカメラズームで得られる最終画像400eを示す。各最終画像内で、その中に目標画像604を有する目標エリア504が最終画像400e内に含まれている。図18に示す画像400eは、前記した教示に従って解析して最終画像400eを含む画像ストリーム内に含まれる目標エリアの持続時間算出を決定することができる。特定のシナリオ内での同等性(すなわち、目標エリア閉塞の同等性等)を仮定すると、カメラ・ズームにより遥かに見えにくいが、それでも画像400e内に現れる目標画像604は、前記した教示に従って最終画像400eの背景に現れる目標画像604(図15B)と同等に増分された持続時間カウンタが関連している。目標画像のオンエア持続時間カウントのこのようなインプリメンテーションは、潜在的な広告主の反対を引き起こすことがあるが、本発明は、目標画像の可視性に影響を及ぼすカメラ・ズームの変動に従って目標エリアに関連し、したがって、目標画像に関連するカウンタを修正するさらなる改善を提供する。
【0055】
モジュール147は、目標エリア504内の目標画像604の可視性の差を生じるカメラ・ズームの変動を考慮する背景パラメータγを計算することができ、したがって、目標画像604の広告主に適用される料金は、目標画像604の全体可視性を考えてより適切に徴収することができる。前景パラメータを計算する典型的な構成は、モジュール147により、目標画像802のピクセル・カウントあるいは最終画像400eに含まれる目標エリア505のピクセル・カウントについて背景/目標画像セパレータ140を問い合わせることを含んでいる。次に、たとえば、最終画像400eピクセル・カウントに対する目標画像802(または目標エリア504)ピクセル・カウントの比を発生することにより、目標画像802(または目標エリア504)のピクセル・カウントおよび最終画像400eのピクセル・カウントから単純な前景パラメータを計算することができる。一般的に、最終画像400eのピクセル・カウントは、既知であり固定定数である。目標画像802に関連する持続時間算出は、目標画像802ピクセル・カウントおよび最終画像400eピクセル・カウントの比の関数として調節して目標画像802の全体可視性を正確に反映させることができる。
【0056】
図16は、リアル・タイム持続時間算出モジュール147の処理を示すフロー図である。ステップ1900において、モジュール147は、画像コンバイナ146から最終画像400eを受信する。前記したように、複数の目標エリアを有するモデルでは、各目標エリアにそれを識別するための一意的インデクスを割り当てることができる。ステップ1902において、モデルは、目標エリアの包含についてフレームを解析し目標エリアがフレーム内に現れなければ、ステップ1904においてインデクスは、増分され、ステップ1906においてモデル内に存在する目標エリア数に対応するFINALインデクス値と比較される。FINALインデクス値に達していなければ、モジュール処理は、ステップ1900に戻る。ステップ1906においてFINALインデクス値に達しておれば、モジュール147処理は、現在のフレームに対して終了し、任意の後続フレームに対してステップ1900から繰り返される。
【0057】
ステップ1902において画像400e内への目標エリアの包含が確認されると、ステップ1910においてモジュールは、目標エリア(または目標画像)のピクセル・カウントを得る。次に、ステップ1912において前景パラメータγ、たとえば、最終画像400eピクセル・カウントに対する目標画像ピクセル・カウントの比がモジュール147により算出される。次に、ステップ1914において、たとえば、カウンタをγの算出値だけ単純に増分することによりカウンタは、前景パラメータの関数により増分される。目標画像が最終画像400eの全体を占有すると、前景パラメータγの典型的な計算に従ってカウンタが1だけ増分する。カメラ・ズームの変動により背景において次第に遠くにみえる目標画像は、カウンタへの増分が比例的に低減される。次に、ステップ1916においてインデクスが増分されステップ1918においてインデクスとFINALインデクス間の比較が行われる。FINALインデクス値に達していなければ、モジュール147処理は、ステップ1900に戻される。しかしながら、FINALインデクス値に達しておれば、モジュール処理は、現在のフレームに対して完了され、ステップ1900において任意の後続フレームに対して継続される。
【0058】
したがって、モデル内に含まれ、かつ最終画像400e内に含まれた目標画像を有する任意の目標エリアは、その特定の最終画像400eに対して増分された関連するカウンタを有し、画像ストリームにわたって累積された目標エリアに関連する任意の最終カウントは、目標画像の可視性の変動を正確に反映し、任意数の最終画像400eを製作するのに異なるカメラ・ズームが使用される。次に、画像ストリームの1つ以上のフレーム内に含まれる目標エリア内に含まれる任意の目標画像の持続時間をフレーム・カウンタと画像ストリームの毎秒フレームの積として決定することができる。したがって、画像ストリーム内に含まれる目標エリア内の目標画像の形で作られた広告の料金をより正確に徴収することができる。
【0059】
好ましくは、図1に示す画像測定システムは、ディレクタのコンソール123と画像算出モジュール147間の通信チャネルを有することができる。これらの閾値は、ディレクタのコンソール123のオペレータにより設定、すなわち、規定することができる。目標エリアまたは目標画像がテレビ放送のフレーム内にまだ含まれているのに、特定の目標エリアまたは目標画像の閉塞量が大きすぎてテレビ放送の視聴者が閉塞された目標エリア内に含まれる特定の目標画像を認識できない場合があることが考慮されている。たとえば、目標画像は、画像ストリーム内に含まれる時に目標エリアの小部分しか占有しない会社の印しか含まないことがある。目標エリアの一部が閉塞されると、目標画像の形で挿入された印が画像ストリームの視聴者には見えない、すなわち、認識できないのに目標エリア自体は、その相当な部分が閉塞されていないことがある。前記した新しい技術に従って、このような状況において目標エリアに関連するカウンタは、それでも増分され、それは目標エリアの一部が関連するフレーム内に含まれるためである。カウンタの関数として計算された任意の料金は、印が見えない、すなわち、認識できないテレビ放送フレームに対して少なくともその一部を含むことになる。閾値は、このような状況の改善を促進するように実現することができる。閉塞閾値は、目標エリアの指定されたパーセンテージが閉塞される時にカウンタへの増分が許されない、すなわち、閉塞パラメータが閉塞閾値よりも大きければ、閉塞閾値は、カウンタへの増分を許さないように規定することができる。サイトモデル内に2つ以上の目標エリアが含まれる場合には、閉塞閾値は、各目標エリアに対して規定することができ互いに独立に実施することができる。したがって、広告ディレクタは、所定の目標エリア内に含まれる特定の目標画像に向かって特別に料金を適応させることができる。
【0060】
また、閉塞閾値は、画面上に現れ、フレーム内であり、閉塞されない目標エリアまたは目標画像のパーセンテージの関数として実現することができる。たとえば、スポーツ・イベント中にカメラ・パンニングがしばしば生じて目標エリアがフレーム内に部分的にしか含まれないフレームが生じる。これらの状況では前記したものとは異なる閉塞パラメータを実現することができる。したがって、目標エリアに関連するカウンタへの増分を許さない異なる閉塞パラメータをフレーム内に完全には含まれない目標エリアに対して実現することができる。
【0061】
本発明のさらにもう1つの実施例は、目標エリア504内のサブ目標エリア504Aおよび504Bを利用する。サブ目標エリアに個別のカウンタを割り当てることにより個別のサブ目標エリアの料金を計算することができる。個別の独立した閉塞パラメータおよび前景パラメータを各サブ目標エリア504Aおよび504Bに対して計算して、ここに記述された持続時間算出技術における追加改善を促進することができる。サブ目標エリア504Aおよび504Bは、たとえば、目標画像がテキストだけでなく企業ロゴ等のグラフィックスを含む場合に有用である。グラフィックスは、多かれ少なかれテキストよりも認識できるため、両方を含む目標画像は、より大きい目標エリア内に画定される多数のサブ目標エリアを有することができる。サブ目標エリア504Aおよび504Bの持続時間算出により目標エリア504内の目標画像の持続時間の独立算出が可能となるように、1つ以上の目標画像を目標エリア504内に含めることができる。したがって、独立したカウンタをそれぞれサブ目標エリアに関連づけることができる。その結果、サブ目標エリアに対して個別に料金を定めることができる。同様に、サブ目標エリア504Aおよび504Bの各々に対して個別の閉塞パラメータおよび/または前景パラメータを計算することができる。サブ目標エリア504Aおよび504Bの各々に対して異なる閉塞閾値を設定することもできる。
【0062】
閉塞パラメータおよび前景パラメータを計算しおよび/またはそこへ閾値を割り当てる前記した特定技術は、例にすぎないことを理解しなければならない。閉塞による可視性の差を考慮する変動および画像ストリームを取り込むカメラのズームの変動も可能である。たとえば、閉塞されるか否かにかかわらず画像フレーム内にある目標エリアのパーセンテージを算出することができる。次に、画像フレーム内の目標エリアのパーセンテージを算出する前に、目標エリアへの全ての閉塞の総面積を完全な画像フレームの面積から減じることができる。
【0063】
さらに、目標エリアの前景補償を変動させることができる。目標エリアを含むフレーム/フィールドのカウントは、全フレームエリア内の目標エリアの算出パーセンテージの閾値および画面エリアのパーセンテージに依存することができる。図18について、画像フレームの総面積2200、すなわち、フレーム信号をAで示し、画像フレーム2201の可視部の総面積をAで示し、カメラからのテレメトリに従ってレンダリングされた目標エリア2202の総面積をAで示し、画面上で見える目標エリアの面積2203をATsで示し、目標エリアの全閉塞体の総面積2204をAToで示す。θは、カウント増分を許す標示のフレーム・エリアに対する閾値として定義される。好ましくは、θは、ユーザが設定可能である。θToは、全閉塞体の面積が考慮される対応する閾値である。θは、画面面積のパーセンテージとして閉塞体を考慮しない可視目標エリアに対するユーザ設定可能な閾値である。θSoは、画像フレーム面積のパーセンテージとして閉塞を考慮する可視目標エリアに対する閾値を示す。次に、目標エリアに割り当てられたカウンタが増分されるかどうかを決定する下記の可能なテストを実施することができる。
【0064】
【数1】
Figure 2004535129
【0065】
【数2】
Figure 2004535129
【0066】
【数3】
Figure 2004535129
【0067】
【数4】
Figure 2004535129
【0068】
式(1)−(4)により各目標エリアに割り当てられたカウンタへの増分を支配する閾値を設定することができる。目標エリアのカウンタへの増分の許可/不許可も、所望により、これらの式の論理的または重み付け結合から決定することができる。
【0069】
本発明は、目標エリア内に画定された1つ以上のサブ目標エリア、たとえば、目標エリアに対応する標示(物理的または合成)内の広告主のロゴを含むことを考慮している。再度図18について、目標エリア2202内のサブ目標エリアの総面積2205をAとして示し、可視画像フレーム内のサブ目標エリアの面積2206をALsとして示し、全閉塞体により閉塞されるサブ目標エリアの面積2207をALoとして示す。次に、下記の閾値を定義することができる。φは、総サブ目標エリアのパーセンテージとしてのサブ目標エリアの画像フレーム・エリアの閾値、φ oは、総サブ目標エリアのパーセンテージとしての全閉塞体の総面積よりも小さい画像フレームエリアの閾値、φは、総可視画像フレームエリアのパーセンテージとしてのサブ目標エリアの閾値、φSoは、サブ目標エリアの任意の閉塞されたエリアよりも小さい総画像フレームエリアに関する閾値である。
【0070】
次に、目標エリアに割り当てられたカウンタへの増分を許可/不許可する下記のテストを定義することができる。
【0071】
【数5】
Figure 2004535129
【0072】
【数6】
Figure 2004535129
【0073】
【数7】
Figure 2004535129
【0074】
【数8】
Figure 2004535129
【0075】
目標エリアのカウンタへの増分の許可/不許可も式 (5)−(8)の論理的または重み付け結合から決定することができる。洗練化の追加レベルとして、式(1)−(4)を式(5)−(8)と結合してカウンタ増分の許可/不許可に対するハイブリッドメトリックを提供することができる。
【0076】
好ましくは、オンエア持続時間算出モジュール147を含む画像測定システム100は、図17および図19および/または式(1)−(8)の1つ以上に関して記述された閉塞および前景変動の両方に対する調節を有する。しかしながら、本発明の教示は、図12および付随する記述に従って最も単純な形で実現することができる。前記したように、フレームではなくフィールド・ベース機構で計算を実施することができる。したがって、目標エリアが画像ストリーム内に含まれる持続時間を測定する前記したカウンタは、テレビ放送される映像ストリームの1つ以上のフィールドの解析により実施することができる。
【0077】
本発明の他の修正も可能である。たとえば、1つ以上の目標エリアが画像ストリーム内に含まれる持続時間をリアル・タイムで算出できる前記した技術は、合成画像が画像ストリーム内に含まれる所望の持続時間が達成されることを保証する機構も提供する。たとえば、広告主は、スポーツ・イベントのテレビ放送等の画像ストリーム内に広告を包含させる契約をすることができる。本発明により契約は、広告または他の合成画像が画像ストリーム内に含まれる最大露出時間、最小露出時間または厳密な露出時間等の持続時間を指定することができる。契約は、広告または他の画像が画像ストリーム内に含まれる秒または画像ストリームのフレーム等のいくつかの単位を指定することができる。したがって、画像ストリーム内の広告の包含に対して徴収される広告料金は、画像ストリームをテレビ放送する前の持続時間ベースまたは他の伝送機構で行うことができる。これは、画像ストリームのテレビ放送または他の伝送後に、広告が画像ストリーム内に含まれる持続時間の算出を必要とする従来技術を凌ぐ注目すべき改善である。画像ストリーム内に含まれる画像に対する持続時間ベース料金は、従来技術に従って画像ストリームのテレビ放送後まで徴収されないことがある。したがって、特定の画像が画像ストリーム内に含まれる持続時間は、従来技術に従ってテレビ放送の送信前に規定されないことがある。
【0078】
本発明の実施例に従って、合成画像は、それを挿入させた画像ストリームが送信される前に規定された所望の露出時間を有することができる。本発明の教示に従って、その中に挿入する目標エリアに合成画像を割り当て画像ストリーム送信中に目標エリアがダイナミックに再割当されるのを許すことにより、画像が画像ストリーム内に含まれる予め定められた所望の持続時間を容易に満たすことができる。たとえば、スポーツ・イベント・テレビ放送中に、目標エリア内に挿入するために割り当てらた合成画像は、画像ストリームの送信前に規定された予め定められた所望の露出持続時間を有することができる。目標エリアが合成画像をそこに割り当てた持続時間の露出時間のリアル・タイム算出は、画像ストリーム送信中のある点において、広告主の所望の持続時間だけ目標エリアが画像ストリーム内に含まれないことがあることを示すことがある。画像データに関連するオリジナルの予め定められた持続時間だけ画像ストリーム内に含まれるより大きい尤度を提供するように決定されるもう1つの目標エリアに合成画像を再割当てすることができる。たとえば、広告主は、野球場の右翼壁等のスポーツ開催地の目標エリア内に予め定められた持続時間だけ合成画像を挿入させる契約を行うことができる。野球ゲームの送信中に、画像ストリームの捕捉中に収集され画像データをそこに割り当てた目標エリアに対して算出された持続時間測定値、メトリクスその他の統計データの解析により、開催地から画像ストリームを送信する前に広告主により表示され承諾された所望持続時間よりも短い持続時間だけ目標エリアが含まれそうであることを表示することができる。したがって、目標エリアに割り当てられた画像データは、もう1つの目標エリアに再割当てすることができる。たとえば、画像ストリームの送信中に目標エリアがそこに画像データを割り当てた実際の持続時間は、予め定められた所望持続時間よりも短くなりそうであることが決定され、目標エリアに割り当てられた画像データは、もう1つの目標エリア、たとえば、元々そこに割り当てられた画像データを有する目標エリアに対してより大きな露出持続時間を示す持続時間算出結果を有する中堅壁等の開催地のもっと見えるエリア内の目標エリアに再割当てすることができる。したがって、画像データがもう1つの目標エリアに再割当てされると、画像データが画像ストリーム内に含まれる持続時間は、予め定められた所望の持続時間を達成するように増加することができる。同様に、画像データは、多数の目標エリアに再割当てすることができ、その再割当ては、そこから再割当てされる目標エリアで画像データの割当てを維持することを妨害せず、すなわち、画像データは、第1の目標エリアに割り当てることができ、かつ元々第1の目標エリアに割り当てられた画像データが第2の目標エリアまたは第1および第2の目標エリアを含む画像フレームの画像内に現れる第2の目標エリアに再割当てすることができる。画像データの再割当ては、そこに割り当てられた画像データが予め定められた持続時間だけ画像ストリーム内に含まれるように、任意数の目標エリアに対して行うことができる。したがって、ここに記述されたカウンタ機構のバリエーションは、1つ以上の目標エリア内に含まれ、かつ他の目標エリアに再割当てできる画像データの持続時間測定を促進させるように行うことができる。たとえば、目標エリアに割り当てられるカウンタは、同様に、ここの教示に従って画像ストリームの画像内に挿入することができる特定の画像データに割り当てかつ計算することができる。したがって、目標エリア内に挿入される画像データに関連する特定のカウンタは、目標エリアが画像ストリームの画像内に含まれ、かつ特定の画像データを含んでいる時しか増分できない。画像データを再割当てしたらカウンタを異なる目標エリアに再割当てすることができる。さらに、カウンタへの増分は、画像ストリームの画像内への複数の目標エリアのいずれか1つの包含の決定時に行って画像データの再割当ておよびその持続時間算出を促進することができる。
【0079】
前記記述は、本発明の典型的な実施例に関して行われた。しかしながら、実施例は、本発明の範囲を逸脱することなく修正または変更することができ、発明の範囲は、添付の特許請求の範囲によってのみ規定され限定される。
【図面の簡単な説明】
【0080】
【図1】画像ストリームを操作するリアル・タイム挿入システムを表す略図である。
【図2】目標画像を挿入する前にビデオ・カメラにより発生されるビデオ画像の例を示す図である。
【図3】図2のビデオ画像が取り出されその中に基準画像を含む目標エリアが画定されるサイトのモデルのレンダリングを示す図である。
【図4】基準画像によるサイトのモデルのレンダリングを含み、図2のビデオ画像を発生するカメラの同じ位置およびアングルからレンダリングされた画像を示す図である。
【図5】図4の画像から発生されたマスクを処理する目標エリアを示す図である。
【図6】図5のマスクを図4の画像に適用して発生されたマスクされた基準画像を示す図である。
【図7】図5の目標エリア・マスクを図2のオリジナル・ビデオ画像に適用して発生されたマスクされた背景画像を示す図である。
【図8】図5の目標エリア・マスクを図2のオリジナル・ビデオ画像に適用して発生されたマスクされた目標エリア画像を示す図である。
【図9】図8のマスクされた目標エリア画像を図6のマスクされた基準画像と比較して発生された閉塞画像を示す図である。
【図10】図7の閉塞画像をマスクされた背景画像およびマスクされた目標画像と結合して発生される目標画像を含む最終複合画像を示す図である。
【図11】製作システムが多数の入力信号の1つ以上を出力として選択する前に、ビデオ・ストリームの測定処理がマルチ・カメラ・システム内で実施される画像測定システムの略図である。
【図12】画像が映像テレビ放送内に挿入される持続時間を算出するモジュールの処理のフロー図である。
【図13】時間経過後の図8に示すシナリオを示す最終画像である。
【図14】挿入された画像の閉塞の変動を反映するように画像が映像内に含まれる持続時間の算出を調節するように操作できるモジュールの処理を示すフロー図である。
【図15A】異なるカメラ位置、パンおよびチルト・アングル並びにズーム設定において得られる最終複合画像をそれぞれ示す図である。
【図15B】異なるカメラ位置、パンおよびチルト・アングル並びにズーム設定において得られる最終複合画像をそれぞれ示す図である。
【図16】カメラ・ズームの違いから生じる挿入された画像の可視性の変動を反映するように画像が映像内に挿入される持続時間の算出を調節するように操作できるモジュールの処理を示すフロー図である。
【図17】本発明の実施例に従って多数のサブ目標エリアを有する目標エリアを示す図である。
【図18】目標エリア・カウンタへの増分を許可/不許可する閾値を指定するように設計されたさまざまな画像エリアを有する画像フレームを示す図である。

Claims (30)

  1. 画像捕捉システムにより得られる画像ストリーム内に目標エリアが含まれる持続時間の算出方法であって、
    目標エリアの包含について画像ストリームの少なくとも1つのフィールドを解析するステップと、
    目標エリアが少なくとも1つのフィールド内に含まれることを確認したらカウンタを自動的に増分するステップと、
    を含む方法。
  2. 請求項1に記載の方法であって、さらに、目標エリアの閉塞パラメータを計算するステップを含む方法。
  3. 請求項1に記載の方法であって、カウンタに応答して料金が計算される方法。
  4. 請求項2に記載の方法であって、目標エリアの閉塞のピクセル・カウントおよび目標エリアのピクセル・カウントに応答して閉塞パラメータが計算される方法。
  5. 請求項4に記載の方法であって、閉塞パラメータは、目標エリアの閉塞のピクセル・カウントに対する閉塞のピクセル・カウントの比である方法。
  6. 請求項2に記載の方法であって、増分は、1から減じられた閉塞パラメータの数値的結果である方法。
  7. 請求項1に記載の方法であって、さらに、目標エリアの前景パラメータを計算するステップを含む方法。
  8. 請求項7に記載の方法であって、前景パラメータは、目標エリアのピクセル・カウントおよび少なくとも1つのフィールドのピクセル・カウントに応答して計算される方法。
  9. 請求項8に記載の方法であって、前景パラメータは、少なくとも1つのフィールドのピクセル・カウントに対する目標エリアのピクセル・カウントの比である方法。
  10. 請求項7に記載の方法であって、増分は、前景パラメータの計算された値と等価である方法。
  11. 請求項2に記載の方法であって、さらに、閉塞閾値を規定するステップを含み、閉塞閾値は、閉塞パラメータを超える場合にはカウンタへの増分が許可されない方法。
  12. 請求項1に記載の方法であって、目標エリアは、画像ストリームが取り込まれたサイトに存在するシグネージおよびサイトに存在しない合成画像からなるグループから選択された画像データを含む方法。
  13. 請求項1に記載の方法であって、さらに、
    目標エリア内に挿入される画像データを割り当てるステップと、
    画像ストリーム内に含まれる第2の目標エリアに画像データを再割当てするステップと、
    を含む方法。
  14. 請求項13に記載の方法であって、第2の目標エリアに画像データを再割当てするステップは、さらに、画像ストリームが取り込まれる時に画像データを第2の目標エリアに再割当てするステップを含む方法。
  15. 請求項13に記載の方法であって、さらに、
    画像ストリームが取り込まれる前に画像データが画像ストリーム内に含まれる持続時間を指定するステップと、
    画像データを再割当てする前に画像ストリームが取り込まれる時に目標エリアおよび第2の目標エリアからなるグループの少なくとも1つが画像ストリーム内に含まれる持続時間を示す統計データを収集するステップと、
    を含む方法。
  16. 請求項15に記載の方法であって、第2の目標エリアに画像データを再割当てするステップは、さらに、第2の目標エリアが画像ストリーム内に含まれる持続時間が目標エリアよりも長いことを示す統計データに応答して画像データを第2の目標エリアに再割当てするステップを含む方法。
  17. 請求項13に記載の方法であって、さらに、第1の目標エリアに関連するカウンタへの各増分を第2の目標エリアに関連する第2のカウンタへの増分と合計して画像データが画像ストリーム内に含まれる持続時間を計算するステップを含み、合計増分は、画像データが目標エリアおよび第2の目標エリアの1つ以上にそれぞれに割り当てられる時に行われる目標エリアへの各増分に制限される方法。
  18. 目標エリアが画像ストリーム内に含まれる持続時間を算出するシステムであって、
    画像ストリームが取り込まれるサイトからの目標エリアのモデルと、
    画像ストリームの少なくとも1つのフィールド内への目標エリアの包含を識別する持続時間算出モジュールであって、少なくとも1つのフィールド内への目標エリアの包含が確認されると増分されるカウンタを含むモジュールとを含み、
    サイトが画像ストリーム内に含まれる時に目標エリアは、少なくとも1つのフィールド内に含まれるシステム。
  19. 請求項18に記載のシステムであって、さらに、
    画像ストリームの複数のフィールドの中の少なくとも1つに目標画像を挿入する画像挿入システムであって、持続時間算出モジュールと通信する画像挿入システムと、
    画像測定システムに画像を提供する画像捕捉システムであって、画像供給システムが画像挿入システムと通信する画像捕捉システムとを含むシステム。
  20. 請求項18に記載のシステムであって、持続時間算出モジュールは、画像挿入システム内に含まれるシステム。
  21. 請求項18に記載のシステムであって、画像測定システムは、さらに、
    画像供給システム内に含まれるカメラの既知の位置からサイト内の目標エリアの予め定められた三次元基準モデルに基づいて合成画像を発生するモデル・レンダラであって、合成画像は、その目標エリア内に挿入された目標画像を有するモデル・レンダラと、
    カメラにより発生された映像信号のフレーム内に含まれるビデオ画像から目標エリアをマスクしてマスクされた背景画像を生成し、基準画像を画像の残りから分離することにより画像セパレータによりマスクされた基準画像が生成される画像セパレータと、
    マスクされた目標エリア画像をマスクされた基準画像と比較するように操作できる閉塞セパレータであって、その間の差は、目標画像の閉塞を表す閉塞セパレータとを含むシステム。
  22. 請求項21に記載のシステムであって、モジュールは、画像セパレータから得られた情報から閉塞パラメータを計算するシステム。
  23. 請求項22に記載のシステムであって、閉塞パラメータは、目標画像のピクセル・カウントに対する閉塞のピクセル・カウントの比として計算されるシステム。
  24. 請求項22に記載のシステムであって、増分は、閉塞パラメータの関数であるシステム。
  25. 請求項21に記載のシステムであって、モジュールは、画像挿入システムから得られた情報から前景パラメータを計算するシステム。
  26. 請求項24に記載のシステムであって、さらに、マスクされた背景画像および閉塞から最終画像を作り出す画像コンバイナを含み、モジュールは、画像セパレータからの目標エリアのピクセル・カウントおよび画像コンバイナからの最終画像のピクセル・カウントを得、前景パラメータは、目標エリアのピクセル・カウントおよび最終画像のピクセル・カウントから計算されるシステム。
  27. 請求項24に記載のシステムであって、増分は、前景パラメータの関数であるシステム。
  28. 請求項21に記載のシステムであって、閉塞パラメータが閉塞閾値を超えるとき、カウンタへの増分は、許可されないシステム。
  29. 請求項21に記載のシステムであって、目標エリアは、画像ストリームが取り込まれたサイト内に存在するシグネージおよびサイトには存在しない合成画像からなるグループから選択された画像データを含むシステム。
  30. 請求項21に記載のシステムであって、さらに、
    画像ストリームが取り込まれる第2のサイトからの目標エリアのモデルと、
    第2のサイトからの目標エリアが画像ストリームの少なくとも1つのフィールド内に含まれることを識別する持続時間算出モジュールであって、目標エリアが少なくとも1つのフィールド内に含まれることを確認したら増分されるカウンタを含み、第2のサイトが画像ストリーム内に含まれる時は第2のサイトからの目標エリアは、少なくとも1つのフィールド内に含まれる持続時間算出モジュールとを含むシステム。
JP2003512933A 2001-07-10 2001-08-16 目標エリアが画像ストリーム内に含まれる持続時間を算出する方法およびシステム Expired - Lifetime JP4176010B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US09/903,122 US7206434B2 (en) 2001-07-10 2001-07-10 Method and system for measurement of the duration an area is included in an image stream
PCT/US2001/025813 WO2003007245A2 (en) 2001-07-10 2001-08-16 Method and system for measurement of the duration an area is included in an image stream

Publications (3)

Publication Number Publication Date
JP2004535129A true JP2004535129A (ja) 2004-11-18
JP2004535129A5 JP2004535129A5 (ja) 2006-01-05
JP4176010B2 JP4176010B2 (ja) 2008-11-05

Family

ID=25416979

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003512933A Expired - Lifetime JP4176010B2 (ja) 2001-07-10 2001-08-16 目標エリアが画像ストリーム内に含まれる持続時間を算出する方法およびシステム

Country Status (13)

Country Link
US (1) US7206434B2 (ja)
EP (1) EP1405266B1 (ja)
JP (1) JP4176010B2 (ja)
AT (1) ATE394756T1 (ja)
AU (1) AU2001283437B2 (ja)
BR (1) BR0117076A (ja)
CA (1) CA2454297C (ja)
DE (1) DE60133944D1 (ja)
ES (1) ES2306724T3 (ja)
HK (1) HK1064776A1 (ja)
IL (2) IL159788A0 (ja)
MX (1) MXPA04000307A (ja)
WO (1) WO2003007245A2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013504938A (ja) * 2009-09-11 2013-02-07 ディズニー エンタープライズ,インコーポレイテッド 3dビデオへの仮想インサート
JP2014532202A (ja) * 2011-08-31 2014-12-04 ロックス インターナショナル グループ プロプライエタリー リミテッド 仮想広告プラットフォーム
JPWO2020195657A1 (ja) * 2019-03-28 2020-10-01
JPWO2022049694A1 (ja) * 2020-09-03 2022-03-10
US12039746B2 (en) 2019-03-28 2024-07-16 Sony Group Corporation Information processing device and information processing method for extracting information from an image

Families Citing this family (59)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030187730A1 (en) * 2002-03-27 2003-10-02 Jai Natarajan System and method of measuring exposure of assets on the client side
JP4136420B2 (ja) * 2002-03-29 2008-08-20 キヤノン株式会社 情報処理方法および装置
JP4298407B2 (ja) * 2002-09-30 2009-07-22 キヤノン株式会社 映像合成装置及び映像合成方法
US20040070691A1 (en) * 2002-10-11 2004-04-15 Akio Kojima Image processing method of sporting events
US7574070B2 (en) * 2003-09-30 2009-08-11 Canon Kabushiki Kaisha Correction of subject area detection information, and image combining apparatus and method using the correction
US20050110801A1 (en) * 2003-11-20 2005-05-26 I-Jong Lin Methods and systems for processing displayed images
US9087380B2 (en) * 2004-05-26 2015-07-21 Timothy J. Lock Method and system for creating event data and making same available to be served
US7868914B2 (en) * 2004-06-07 2011-01-11 Sportsmedia Technology Corporation Video event statistic tracking system
US7620266B2 (en) * 2005-01-20 2009-11-17 International Business Machines Corporation Robust and efficient foreground analysis for real-time video surveillance
US8738787B2 (en) 2005-04-20 2014-05-27 Limelight Networks, Inc. Ad server integration
US8291095B2 (en) * 2005-04-20 2012-10-16 Limelight Networks, Inc. Methods and systems for content insertion
US20080010083A1 (en) * 2005-07-01 2008-01-10 Searete Llc, A Limited Liability Corporation Of The State Of Delaware Approval technique for media content alteration
US9583141B2 (en) 2005-07-01 2017-02-28 Invention Science Fund I, Llc Implementing audio substitution options in media works
US7978192B2 (en) * 2005-10-04 2011-07-12 Rdv Systems Ltd. Method and apparatus for evaluating sight distance
US7692649B2 (en) 2005-10-04 2010-04-06 Rdv Systems Ltd. Method and apparatus for virtual reality presentation of civil engineering, land planning and infrastructure
WO2008139251A2 (en) * 2006-04-14 2008-11-20 Patrick Levy Rosenthal Virtual video camera device with three-dimensional tracking and virtual object insertion
US20080219504A1 (en) * 2007-03-05 2008-09-11 Adams Henry W Automatic measurement of advertising effectiveness
US8376226B2 (en) * 2007-04-03 2013-02-19 International Business Machines Corporation System and method for interactive marketing to consumers
US8314791B2 (en) * 2007-11-19 2012-11-20 Rdv Systems Ltd. Method and apparatus for determining view impact
US8611591B2 (en) * 2007-12-21 2013-12-17 21 Ct, Inc. System and method for visually tracking with occlusions
US9031279B2 (en) * 2008-07-09 2015-05-12 Disney Enterprises, Inc. Multiple-object tracking and team identification for game strategy analysis
US8458147B2 (en) * 2008-08-20 2013-06-04 Intel Corporation Techniques for the association, customization and automation of content from multiple sources on a single display
US8427473B2 (en) * 2008-09-28 2013-04-23 Rdv Systems Ltd. Pseudo-realistic rendering of BIM data responsive to positional indicator
US20100091036A1 (en) * 2008-10-10 2010-04-15 Honeywell International Inc. Method and System for Integrating Virtual Entities Within Live Video
US9190110B2 (en) 2009-05-12 2015-11-17 JBF Interlude 2009 LTD System and method for assembling a recorded composition
US9533418B2 (en) * 2009-05-29 2017-01-03 Cognex Corporation Methods and apparatus for practical 3D vision system
US11232458B2 (en) 2010-02-17 2022-01-25 JBF Interlude 2009 LTD System and method for data mining within interactive multimedia
JP5709906B2 (ja) * 2010-02-24 2015-04-30 アイピープレックス ホールディングス コーポレーション 視覚障害者支援用拡張現実パノラマ
KR101841313B1 (ko) * 2010-09-22 2018-03-22 톰슨 라이센싱 멀티미디어 흐름 처리 방법 및 대응하는 장치
JP5656567B2 (ja) * 2010-11-05 2015-01-21 キヤノン株式会社 映像処理装置および方法
US8601380B2 (en) * 2011-03-16 2013-12-03 Nokia Corporation Method and apparatus for displaying interactive preview information in a location-based user interface
US9514381B1 (en) 2013-03-15 2016-12-06 Pandoodle Corporation Method of identifying and replacing an object or area in a digital image with another object or area
EP2884460B1 (en) * 2013-12-13 2020-01-01 Panasonic Intellectual Property Management Co., Ltd. Image capturing apparatus, monitoring system, image processing apparatus, image capturing method, and non-transitory computer readable recording medium
US10511580B2 (en) 2014-03-31 2019-12-17 Monticello Enterprises LLC System and method for providing a social media shopping experience
US12008629B2 (en) 2014-03-31 2024-06-11 Monticello Enterprises LLC System and method for providing a social media shopping experience
US11080777B2 (en) * 2014-03-31 2021-08-03 Monticello Enterprises LLC System and method for providing a social media shopping experience
US11004139B2 (en) 2014-03-31 2021-05-11 Monticello Enterprises LLC System and method for providing simplified in store purchases and in-app purchases using a use-interface-based payment API
US9653115B2 (en) 2014-04-10 2017-05-16 JBF Interlude 2009 LTD Systems and methods for creating linear video from branched video
GB2529182B (en) * 2014-08-12 2019-03-27 Supponor Oy Method and apparatus for dynamic image content manipulation
US9792957B2 (en) 2014-10-08 2017-10-17 JBF Interlude 2009 LTD Systems and methods for dynamic video bookmarking
US11412276B2 (en) 2014-10-10 2022-08-09 JBF Interlude 2009 LTD Systems and methods for parallel track transitions
CN105006006A (zh) * 2015-07-01 2015-10-28 广东省城乡规划设计研究院 一种城市高温区通风廊道的计算方法及系统
US10460765B2 (en) 2015-08-26 2019-10-29 JBF Interlude 2009 LTD Systems and methods for adaptive and responsive video
US11164548B2 (en) 2015-12-22 2021-11-02 JBF Interlude 2009 LTD Intelligent buffering of large-scale video
US11128853B2 (en) 2015-12-22 2021-09-21 JBF Interlude 2009 LTD Seamless transitions in large-scale video
CN105530514A (zh) * 2016-01-28 2016-04-27 长光卫星技术有限公司 一种用于卫星平台微振动对相机成像影响的测试装置
WO2017165538A1 (en) * 2016-03-22 2017-09-28 Uru, Inc. Apparatus, systems, and methods for integrating digital media content into other digital media content
US11856271B2 (en) * 2016-04-12 2023-12-26 JBF Interlude 2009 LTD Symbiotic interactive video
US11050809B2 (en) 2016-12-30 2021-06-29 JBF Interlude 2009 LTD Systems and methods for dynamic weighting of branched video paths
JP7018566B2 (ja) * 2017-04-28 2022-02-14 パナソニックIpマネジメント株式会社 撮像装置、画像処理方法及びプログラム
US10257578B1 (en) 2018-01-05 2019-04-09 JBF Interlude 2009 LTD Dynamic library display for interactive videos
US11601721B2 (en) 2018-06-04 2023-03-07 JBF Interlude 2009 LTD Interactive video dynamic adaptation and user profiling
US11490047B2 (en) 2019-10-02 2022-11-01 JBF Interlude 2009 LTD Systems and methods for dynamically adjusting video aspect ratios
FR3103343B1 (fr) * 2019-11-20 2022-07-01 Affaticati Jean Luc Procédé de modification d’un flux vidéo
JP7330507B2 (ja) * 2019-12-13 2023-08-22 株式会社Agama-X 情報処理装置、プログラム、及び、方法
US11245961B2 (en) 2020-02-18 2022-02-08 JBF Interlude 2009 LTD System and methods for detecting anomalous activities for interactive videos
US11206453B2 (en) 2020-04-14 2021-12-21 International Business Machines Corporation Cognitive broadcasting of an event
US11882337B2 (en) 2021-05-28 2024-01-23 JBF Interlude 2009 LTD Automated platform for generating interactive videos
US11934477B2 (en) 2021-09-24 2024-03-19 JBF Interlude 2009 LTD Video player integration within websites

Family Cites Families (47)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4084184A (en) 1976-07-26 1978-04-11 Crain David W Tv object locator and image identifier
EP0089212B1 (en) * 1982-03-13 1987-10-28 Kabushiki Kaisha Ishida Koki Seisakusho Method and apparatus for sorting articles
US4970666A (en) 1988-03-30 1990-11-13 Land Development Laboratory, Inc. Computerized video imaging system for creating a realistic depiction of a simulated object in an actual environment
FR2661061B1 (fr) 1990-04-11 1992-08-07 Multi Media Tech Procede et dispositif de modification de zone d'images.
FR2675977B1 (fr) 1991-04-26 1997-09-12 Inst Nat Audiovisuel Procede de modelisation d'un systeme de prise de vues et procede et systeme de realisation de combinaisons d'images reelles et d'images de synthese.
ATE181631T1 (de) 1991-07-19 1999-07-15 Princeton Video Image Inc Fernsehanzeigen mit ausgewählten eingeblendeten zeichen
GB9119964D0 (en) 1991-09-18 1991-10-30 Sarnoff David Res Center Pattern-key video insertion
US5715018A (en) 1992-04-10 1998-02-03 Avid Technology, Inc. Digital advertisement insertion system
US5903317A (en) 1993-02-14 1999-05-11 Orad Hi-Tech Systems Ltd. Apparatus and method for detecting, identifying and incorporating advertisements in a video
ATE192622T1 (de) 1993-02-14 2000-05-15 Orad Inc Vorrichtung und verfahren zur detektierung, identifizierung und einfügung in ein video
CA2121151A1 (en) 1993-04-16 1994-10-17 Trevor Lambert Method and apparatus for automatic insertion of a television signal from a remote source
AU7975094A (en) 1993-10-12 1995-05-04 Orad, Inc. Sports event video
NZ271237A (en) 1993-10-27 1996-09-25 Princeton Video Image Inc Electronic billboard insertion of images into broadcast video stream
JPH07220452A (ja) 1993-12-17 1995-08-18 Imix Inc ビデオ編集及び実時間処理のための方法及び装置
IL108957A (en) 1994-03-14 1998-09-24 Scidel Technologies Ltd Video sequence imaging system
IL109487A (en) 1994-04-29 1996-09-12 Orad Hi Tec Systems Ltd Chromakeying system
US5436672A (en) 1994-05-27 1995-07-25 Symah Vision Video processing system for modifying a zone in successive images
IL110573A (en) 1994-08-04 1998-10-30 Orad Hi Tec Systems Ltd Video transmission device and method
US5627915A (en) 1995-01-31 1997-05-06 Princeton Video Image, Inc. Pattern recognition system employing unlike templates to detect objects having distinctive features in a video field
FR2730837B1 (fr) 1995-02-22 1997-05-30 Sciamma Dominique Systeme d'insertion en temps reel ou differe de panneaux publicitaires ou informationnels virtuels dans des emissions televisees
US5600366A (en) 1995-03-22 1997-02-04 Npb Partners, Ltd. Methods and apparatus for digital advertisement insertion in video programming
US5850352A (en) 1995-03-31 1998-12-15 The Regents Of The University Of California Immersive video, including video hypermosaicing to generate from multiple video views of a scene a three-dimensional video mosaic from which diverse virtual video scene images are synthesized, including panoramic, scene interactive and stereoscopic images
US5892554A (en) 1995-11-28 1999-04-06 Princeton Video Image, Inc. System and method for inserting static and dynamic images into a live video broadcast
JPH11507797A (ja) 1995-06-16 1999-07-06 プリンストン ビデオ イメージ,インコーポレイテッド 合成基準画像を用いる適応形オクルージョンを用いた映像内へのリアルタイム挿入システムおよび方法
US5808695A (en) 1995-06-16 1998-09-15 Princeton Video Image, Inc. Method of tracking scene motion for live video insertion systems
EP0838068B1 (en) 1995-07-10 2005-10-26 Sarnoff Corporation Method and system for rendering and combining images
GB9514313D0 (en) 1995-07-13 1995-09-13 Beattie Robert J Live-ads
GB9601101D0 (en) 1995-09-08 1996-03-20 Orad Hi Tech Systems Limited Method and apparatus for automatic electronic replacement of billboards in a video image
IL115288A (en) 1995-09-13 1999-06-20 Scidel Technologies Ltd Method and apparatus for implanting images into a video sequence
GB2312582A (en) 1996-01-19 1997-10-29 Orad Hi Tech Systems Limited Insertion of virtual objects into a video sequence
US5799055A (en) 1996-05-15 1998-08-25 Northwestern University Apparatus and method for planning a stereotactic surgical procedure using coordinated fluoroscopy
SE506544C2 (sv) 1996-06-20 1998-01-12 Telia Ab Anordning och metod för generering av digitala reklamskyltar
US5914748A (en) 1996-08-30 1999-06-22 Eastman Kodak Company Method and apparatus for generating a composite image using the difference of two images
US5917553A (en) 1996-10-22 1999-06-29 Fox Sports Productions Inc. Method and apparatus for enhancing the broadcast of a live event
JPH10145674A (ja) 1996-11-12 1998-05-29 Sony Corp ビデオ信号処理装置及びビデオ信号処理方法
US6100925A (en) 1996-11-27 2000-08-08 Princeton Video Image, Inc. Image insertion in video streams using a combination of physical sensors and pattern recognition
US5871437A (en) 1996-12-10 1999-02-16 Inflow Dynamics, Inc. Radioactive stent for treating blood vessels to prevent restenosis
ATE223132T1 (de) 1996-12-20 2002-09-15 Princeton Video Image Inc Aufsatzgerät für gezielte elektronische einblendung von zeichen in videosignale
GB2323735C (en) 1997-03-27 2006-08-10 Quantel Ltd An image processing system
EP0907145A3 (en) 1997-10-03 2003-03-26 Nippon Telegraph and Telephone Corporation Method and equipment for extracting image features from image sequence
IL122194A0 (en) 1997-11-13 1998-06-15 Scidel Technologies Ltd Method and apparatus for personalized images inserted into a video stream
JPH11205648A (ja) 1998-01-09 1999-07-30 Olympus Optical Co Ltd 画像合成装置
US6487721B1 (en) 1998-01-30 2002-11-26 General Instrument Corporation Apparatus and method for digital advertisement insertion in a bitstream
US6327004B1 (en) 1998-03-18 2001-12-04 Nippon Television Network Corp. Picture replacement system and method of the same
US6266100B1 (en) 1998-09-04 2001-07-24 Sportvision, Inc. System for enhancing a video presentation of a live event
US6731788B1 (en) * 1999-01-28 2004-05-04 Koninklijke Philips Electronics N.V. Symbol Classification with shape features applied to neural network
US6525741B1 (en) 1999-08-30 2003-02-25 Xerox Corporation Chroma key of antialiased images

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013504938A (ja) * 2009-09-11 2013-02-07 ディズニー エンタープライズ,インコーポレイテッド 3dビデオへの仮想インサート
JP2014532202A (ja) * 2011-08-31 2014-12-04 ロックス インターナショナル グループ プロプライエタリー リミテッド 仮想広告プラットフォーム
JPWO2020195657A1 (ja) * 2019-03-28 2020-10-01
WO2020195657A1 (ja) * 2019-03-28 2020-10-01 ソニー株式会社 情報処理装置、情報処理方法及びプログラム
JP7420134B2 (ja) 2019-03-28 2024-01-23 ソニーグループ株式会社 情報処理装置、情報処理方法及びプログラム
US12039746B2 (en) 2019-03-28 2024-07-16 Sony Group Corporation Information processing device and information processing method for extracting information from an image
JPWO2022049694A1 (ja) * 2020-09-03 2022-03-10
WO2022049694A1 (ja) * 2020-09-03 2022-03-10 日本電信電話株式会社 学習装置、推定装置、学習方法、及び学習プログラム
JP7393701B2 (ja) 2020-09-03 2023-12-07 日本電信電話株式会社 学習装置、推定装置、学習方法、及び学習プログラム

Also Published As

Publication number Publication date
EP1405266A2 (en) 2004-04-07
WO2003007245A3 (en) 2003-08-28
BR0117076A (pt) 2004-08-17
HK1064776A1 (en) 2005-02-04
US20030012409A1 (en) 2003-01-16
MXPA04000307A (es) 2005-03-07
WO2003007245A2 (en) 2003-01-23
ATE394756T1 (de) 2008-05-15
DE60133944D1 (de) 2008-06-19
IL159788A (en) 2010-04-15
IL159788A0 (en) 2004-06-20
JP4176010B2 (ja) 2008-11-05
CA2454297C (en) 2012-05-22
CA2454297A1 (en) 2003-01-23
ES2306724T3 (es) 2008-11-16
US7206434B2 (en) 2007-04-17
AU2001283437B2 (en) 2007-05-17
EP1405266B1 (en) 2008-05-07

Similar Documents

Publication Publication Date Title
JP4176010B2 (ja) 目標エリアが画像ストリーム内に含まれる持続時間を算出する方法およびシステム
AU2001283437A1 (en) Method and system for measurement of the duration an area is included in an image stream
US9298986B2 (en) Systems and methods for video processing
US7868914B2 (en) Video event statistic tracking system
JP4794453B2 (ja) インタラクティブ・ビデオ・ディスプレイ・システムを管理する方法及びシステム
US7075556B1 (en) Telestrator system
US6297853B1 (en) Apparatus and method for detecting, identifying and incorporating advertisements in a video image
EP0683961B1 (en) Apparatus and method for detecting, identifying and incorporating advertisements in a video
US10652519B2 (en) Virtual insertions in 3D video
US20100313214A1 (en) Display system, system for measuring display effect, display method, method for measuring display effect, and recording medium
US8922718B2 (en) Key generation through spatial detection of dynamic objects
JP2018107793A (ja) 仮想視点画像の生成装置、生成方法及びプログラム
JP2020534724A (ja) 仮想画像処理方法、画像処理システムおよび記憶媒体
EP0595808A1 (en) Television displays having selected inserted indicia
KR20160048178A (ko) 영상 프로덕션을 만들기 위한 방법 및 그 시스템
JP2009505553A (ja) ビデオストリームへの視覚効果の挿入を管理するためのシステムおよび方法
KR20170082735A (ko) 객체 추적 기반의 객체 영상 제공 방법
US7091989B2 (en) System and method for data assisted chroma-keying
US9906769B1 (en) Methods and apparatus for collaborative multi-view augmented reality video
KR20040041297A (ko) 여러 대의 카메라 영상을 이용하여 운동물체의 위치 및움직임을 추적하고 표시하는 방법
JP4668500B2 (ja) リアル・タイムで画像をビデオに挿入する方法および装置
Carrillo et al. Automatic football video production system with edge processing
CN102254267A (zh) 户外媒体受众数量分析方法及装置
JP2002325246A (ja) 競技場用中継システム
JPH08511392A (ja) 映像内における広告の検出、識別および編入のための装置および方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050524

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050524

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080215

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20080515

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20080522

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20080616

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20080623

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080715

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080808

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080819

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110829

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4176010

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110829

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120829

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130829

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term