JP6873321B2 - 自動コンテンツ認識のための広告フレームのフラッギング - Google Patents

自動コンテンツ認識のための広告フレームのフラッギング Download PDF

Info

Publication number
JP6873321B2
JP6873321B2 JP2020515215A JP2020515215A JP6873321B2 JP 6873321 B2 JP6873321 B2 JP 6873321B2 JP 2020515215 A JP2020515215 A JP 2020515215A JP 2020515215 A JP2020515215 A JP 2020515215A JP 6873321 B2 JP6873321 B2 JP 6873321B2
Authority
JP
Japan
Prior art keywords
broadcast
scene
fingerprint
frame
advertisement
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020515215A
Other languages
English (en)
Other versions
JP2020533920A (ja
Inventor
ジュイクン チェン
ジュイクン チェン
Original Assignee
ザ ニールセン カンパニー ユーエス リミテッド ライアビリティ カンパニー
ザ ニールセン カンパニー ユーエス リミテッド ライアビリティ カンパニー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ザ ニールセン カンパニー ユーエス リミテッド ライアビリティ カンパニー, ザ ニールセン カンパニー ユーエス リミテッド ライアビリティ カンパニー filed Critical ザ ニールセン カンパニー ユーエス リミテッド ライアビリティ カンパニー
Publication of JP2020533920A publication Critical patent/JP2020533920A/ja
Priority to JP2021070822A priority Critical patent/JP7240437B2/ja
Application granted granted Critical
Publication of JP6873321B2 publication Critical patent/JP6873321B2/ja
Priority to JP2023032982A priority patent/JP2023078202A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/44016Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving splicing one content stream with another content stream, e.g. for substituting a video clip
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/46Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/23424Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving splicing one content stream with another content stream, e.g. for inserting or substituting an advertisement
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/238Interfacing the downstream path of the transmission network, e.g. adapting the transmission rate of a video stream to network bandwidth; Processing of multiplex streams
    • H04N21/2389Multiplex stream processing, e.g. multiplex stream encrypting
    • H04N21/23892Multiplex stream processing, e.g. multiplex stream encrypting involving embedding information at multiplex stream level, e.g. embedding a watermark at packet level
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/435Processing of additional data, e.g. decrypting of additional data, reconstructing software from modules extracted from the transport stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/44008Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/812Monomedia components thereof involving advertisement data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/147Scene change detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Marketing (AREA)
  • Business, Economics & Management (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Image Analysis (AREA)
  • Television Systems (AREA)
  • Collating Specific Patterns (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Description

本開示は、自動コンテンツ認識中における広告フレームのフラッギング(flagging)に関する。
今日ではメディア装置がますます一般的になってきており、テレビなどの家庭内に欠かせないものからメディアの消費者と共に移動するモバイル装置にまで及ぶことができる。テレビ、セットトップボックス、携帯電話機、ラップトップ及びタブレットなどのメディア装置は、様々なソースからのメディアコンテンツにアクセスしてこれらを検索することができる。例えば、メディア装置は、衛星、無線放送、或いは有線又は無線接続からのストリーミングシステムを介してメディアコンテンツを受け取ることができる。メディア装置の使用が増加し続けるにつれ、メディア装置がメディアコンテンツに接続することも増えた。この増加とともに新たなメディアコンテンツ市場が出現し、古いメディアコンテンツ市場は、メディア消費者とコンテキスト的に関連するメディアコンテンツを理解して提供するように適応してきた。
本開示の1つの態様は、自動コンテンツ認識のための広告フレームのフラッギング方法を提供する。この方法は、データ処理ハードウェアにおいて、メディアストリームの放送フレームを示す放送フィンガープリントを受け取るステップを含む。メディアストリームは、一連の放送シーンを含む。方法は、データ処理ハードウェアにおいて、広告シーンの広告フレームを示す広告(ad)フィンガープリントを受け取るステップも含む。方法は、データ処理ハードウェアが、第1の放送シーンと第2の放送シーンとの間のシーン変化を判定するステップを含む。シーン変化は、第2の放送シーンの最初の放送フレームの最初の放送フィンガープリントと、第1の放送シーンの最後の放送フレームの最後の放送フィンガープリントとの間のシーン変化ピアソン相関係数(scene−change Pearson correlation coefficient)に基づく。方法は、データ処理ハードウェアが、第2の放送シーンが広告シーンのうちの1つであるかどうかを判定するステップも含む。第2の放送シーンが広告シーンのうちの1つである場合、この方法では、データ処理ハードウェアが、第2の放送シーンの識別を広告シーンのうちの1つとして関連付ける。
本開示の実装は、以下の任意の特徴うちの1つ又は2つ以上を含むことができる。いくつかの実装では、シーン変化が、第2の放送シーンの最初の放送フレームの最初の放送フィンガープリントと、第1の放送シーンの最後の放送フレームの最後の放送フィンガープリントとの間のシーン変化ピアソン相関係数を求めるステップを含む。シーン変化は、データ処理ハードウェアが、シーン変化ピアソン相関係数がシーン変化相関閾値を満たすと判定するステップを含むこともできる。
いくつかの例では、方法が、各シーケンシャルに隣接する放送フレームの対についてシーン変化を判定するステップを含む。この例では、方法が、放送フレームの対の第1の放送フレームの第1の放送フィンガープリントと、放送フレームの対の第2の放送フレームの第2の放送フィンガープリントとの間のシーン変化ピアソン相関係数を求めることができる。方法は、データ処理ハードウェアが、シーン変化ピアソン相関係数がシーン変化相関閾値を満たすかどうかを判定するステップを含むこともできる。シーン変化ピアソン相関係数がシーン変化相関閾値を満たす場合、方法は、放送フレームの対の第1の放送フレームを、対応する放送シーンの最後の放送フレームとして識別することができる。シーン変化ピアソン相関係数がシーン変化相関閾値を満たす場合、方法は、放送フレームの対の第2の放送フレームを、対応するシーケンシャルに隣接する放送シーンの最初の放送フレームとして識別することもできる。
いくつかの構成では、方法が、第1の放送シーンの最後の放送フレームの最後の放送フィンガープリントの後に、第2の放送シーンが広告シーンのうちの1つであるかどうかを判定するまで閾値期間待つステップを含む。各広告フィンガープリントについて第2の放送シーンが広告シーンのうちの1つであるかどうかを判定するステップは、データ処理ハードウェアが、それぞれの広告フィンガープリントと第2の放送フィンガープリントとの間の一致ピアソン相関係数(match Pearson correlation coefficient)を求めるステップを含むことができる。方法は、データ処理ハードウェアが、一致ピアソン相関係数が一致相関閾値を満たすかどうかを判定するステップを含むこともできる。一致ピアソン相関係数が一致相関閾値を満たす場合、この方法では、データ処理ハードウェアが、第2の放送シーンをそれぞれの広告フィンガープリントの広告シーンに対応するものとして識別することができる。
いくつかの実装では、第2の放送シーンを広告シーンのうちの1つとすることができる。これらの実装における方法では、データ処理ハードウェアが、第2の放送シーンが別の広告シーン内に存在するかどうか、又は別の広告シーンにシーケンシャルに隣接するかどうかを判定することができる。この方法では、データ処理ハードウェアが、第2の放送シーンに広告識別器を関連付けることもできる。
いくつかの例では、各フィンガープリントが、対応するフレームの少なくとも1つのピクセルを表す。各フィンガープリントは、対応するフレームのグレースケール値の合計を表す平均ピクセル値を含むこともできる。これに加えて、又はこれとは別に、各フィンガープリントは、16個のサブフレームの平均ピクセル値に対応する16個の整数ベクトルを表すことができ、16個のサブフレームは、対応するフレームの4×4配列を定める。
本開示の別の態様は、自動コンテンツ認識のための広告フレームのフラッギング方法を提供する。方法は、データ処理ハードウェアにおいて、メディアストリームの放送フレームを示す放送フィンガープリントを受け取るステップを含む。方法は、データ処理ハードウェアにおいて、広告シーンの広告フレームを示す広告(ad)フィンガープリントを受け取るステップも含む。方法は、各シーケンシャルに隣接する放送フレームの対について、データ処理ハードウェアが、放送フレームの対の第1の放送フレームの第1の放送フィンガープリントと、放送フレームの対の第2の放送フレームの第2の放送フィンガープリントとの間のシーン変化ピアソン相関係数を求めるステップを含む。方法は、各シーケンシャルに隣接する放送フレームの対について、データ処理ハードウェアが、シーン変化ピアソン相関係数がシーン変化相関閾値を満たすかどうかを判定するステップをさらに含む。シーン変化ピアソン相関係数がシーン変化相関閾値を満たす場合、この方法では、データ処理ハードウェアが、第1の放送シーンを第1の放送フレームの終了部分として識別し、第2の放送シーンを第2の放送フレームの開始部分として識別する。各広告フィンガープリントについて、シーン変化ピアソン相関係数がシーン変化相関閾値を満たす場合、この方法では、データ処理ハードウェアが、それぞれの広告フィンガープリントと第2の放送フィンガープリントとの間の一致ピアソン相関係数を求め、一致ピアソン相関係数が一致相関閾値を満たすかどうかを判定する。一致ピアソン相関係数が一致相関閾値を満たす場合、方法は、データ処理ハードウェアが、第2の放送シーンをそれぞれの広告フィンガープリントの広告シーンとして識別するステップを含む。
本開示の実装は、以下の任意の特徴うちの1つ又は2つ以上を含むことができる。いくつかの例では、第2の放送シーンが広告シーンのうちの1つである場合、方法は、データ処理ハードウェアが、第2の放送シーンが別の広告シーン内に存在するかどうか又は別の広告シーンにシーケンシャルに隣接するかどうかを判定するステップを含む。第2の放送シーンが広告シーンのうちの1つである場合、方法は、データ処理ハードウェアが、第2の放送シーンに広告識別器を関連付けるステップをさらに含むことができる。
いくつかの実装では、各フィンガープリントが、対応するフレームの少なくとも1つのピクセルを表す。これに加えて、又はこれとは別に、各フィンガープリントは、16個のサブフレームの平均ピクセル値に対応する16個の整数ベクトルを表すこともでき、16個のサブフレームは、対応するフレームの4×4配列を定める。
本開示の別の態様は、自動コンテンツ認識のための広告フレームのフラッギングシステムを提供する。このシステムは、データ処理ハードウェアと、データ処理ハードウェアと通信するメモリハードウェアとを含む。メモリハードウェアは、データ処理ハードウェア上で実行された時に、データ処理ハードウェアに動作を実行させる命令を記憶する。この動作は、メディアストリームの放送フレームを示す放送フィンガープリントを受け取るステップを含む。メディアストリームは、一連の放送シーンを含む。動作は、広告シーンの広告フレームを示す広告(ad)フィンガープリントを受け取るステップも含む。動作は、シーン変化ピアソン相関係数に基づいて、第1の放送シーンと第2の放送シーンとの間のシーン変化を判定するステップをさらに含む。シーン変化ピアソン相関係数は、第2の放送シーンの最初の放送フレームの最初の放送フィンガープリントと、第1の放送シーンの最後の放送フレームの最後の放送フィンガープリントとの間のものである。動作は、第2の放送シーンが広告シーンのうちの1つであるかどうかを判定するステップも含む。第2の放送シーンが広告シーンのうちの1つである場合、動作は、第2の放送シーンの識別を広告シーンのうちの1つとして関連付けるステップを含む。
本開示の実装は、以下の任意の特徴うちの1つ又は2つ以上を含むことができる。いくつかの例では、システムが、シーン変化を判定するステップを含む。これらの例では、シーン変化が、第2の放送シーンの最初の放送フレームの最初の放送フィンガープリントと、第1の放送シーンの最後の放送フレームの最後の放送フィンガープリントとの間のシーン変化ピアソン相関係数を求めるステップを含むことができる。システムは、シーン変化ピアソン相関係数がシーン変化相関閾値を満たすと判定するステップを含むこともできる。
いくつかの構成では、各シーケンシャルに隣接する放送フレームの対について、シーン変化を判定するステップが、放送フレームの対の第1の放送フレームの第1の放送フィンガープリントと、放送フレームの対の第2の放送フレームの第2の放送フィンガープリントとの間のシーン変化ピアソン相関係数を求めるステップを含む。シーン変化を判定するステップは、各シーケンシャルに隣接する放送フレームの対について、シーン変化ピアソン相関係数がシーン変化相関閾値を満たすかどうかを判定するステップを含むこともできる。シーン変化ピアソン相関係数がシーン変化相関閾値を満たす場合、システムは、放送フレームの対の第1の放送フレームを、対応する放送シーンの最後の放送フレームとして識別するステップを含むことができる。システムは、放送フレームの対の第2の放送フレームを、対応するシーケンシャルに隣接する放送シーンの最初の放送フレームとして識別するステップを含むこともできる。動作は、第1の放送シーンの最後の放送フレームの最後の放送フィンガープリントの後に、第2の放送シーンが広告シーンのうちの1つであるかどうかを判定するまで閾値期間待つステップをさらに含むことができる。
いくつかの実装では、各広告フィンガープリントについて第2の放送シーンが広告シーンのうちの1つであるかどうかを判定するステップが、それぞれの広告フィンガープリントと第2の放送フィンガープリントとの間の一致ピアソン相関係数を求めるステップと、一致ピアソン相関係数が一致相関閾値を満たすかどうかを判定するステップとを含む。一致ピアソン相関係数が一致相関閾値を満たす場合、システムは、第2の放送シーンをそれぞれの広告フィンガープリントの広告シーンに対応するものとして識別することができる。
いくつかの例では、第2の放送シーンが広告シーンのうちの1つである場合、動作が、第2の放送シーンが別の広告シーン内に存在するかどうか、又は別の広告シーンにシーケンシャルに隣接するかどうかを判定するステップをさらに含む。これに加えて、又はこれとは別に、第2の放送シーンが広告シーンのうちの1つである場合、動作は、第2の放送シーンに広告識別器を関連付けるステップを含むことができる。このシステムでは、各フィンガープリントが、対応するフレームの少なくとも1つのピクセルを表すことができる。各フィンガープリントは、対応するフレームのグレースケール値の合計を表す平均ピクセル値を含むこともできる。各フィンガープリントは、16個のサブフレームの平均ピクセル値に対応する16個の整数ベクトルをさらに表すことができ、16個のサブフレームは、対応するフレームの4×4配列を定める。
本開示のさらに別の態様は、自動コンテンツ認識のための広告フレームのフラッギングシステムを提供する。このシステムは、データ処理ハードウェアと、データ処理ハードウェアと通信するメモリハードウェアとを含む。メモリハードウェアは、データ処理ハードウェア上で実行された時に、データ処理ハードウェアに動作を実行させる命令を記憶する。この動作は、メディアストリームの放送フレームを示す放送フィンガープリントを受け取るステップを含む。動作は、広告シーンの広告フレームを示す広告(ad)フィンガープリントを受け取るステップをさらに含む。動作は、各シーケンシャルに隣接する放送フレームの対について、放送フレームの対の第1の放送フレームの第1の放送フィンガープリントと、放送フレームの対の第2の放送フレームの第2の放送フィンガープリントとの間のシーン変化ピアソン相関係数を求めるステップも含む。動作は、各シーケンシャルに隣接する放送フレームの対について、シーン変化ピアソン相関係数がシーン変化相関閾値を満たすかどうかを判定するステップをさらに含む。シーン変化ピアソン相関係数がシーン変化相関閾値を満たす場合、動作は、第1の放送シーンを第1の放送フレームの終了部分として識別し、第2の放送シーンを第2の放送フレームの開始部分として識別するステップを含む。動作は、各広告フィンガープリントについて、それぞれの広告フィンガープリントと第2の放送フィンガープリントとの間の一致ピアソン相関係数を求めるステップと、一致ピアソン相関係数が一致相関閾値を満たすかどうかを判定するステップとをさらに含む。一致ピアソン相関係数が一致相関閾値を満たす場合、動作は、第2の放送シーンをそれぞれの広告フィンガープリントの広告シーンとして識別するステップを含む。
本開示の実装は、以下の任意の特徴うちの1つ又は2つ以上を含むことができる。いくつかの実装では、第2の放送シーンが広告シーンのうちの1つである場合、動作が、第2の放送シーンが別の広告シーン内に存在するかどうか、又は別の広告シーンにシーケンシャルに隣接するかどうかを判定するステップをさらに含む。第2の放送シーンが広告シーンのうちの1つである場合、動作は、第2の放送シーンに広告識別器を関連付けるステップを含むことができる。各フィンガープリントは、対応するフレームの少なくとも1つのピクセルを表すことができる。各フィンガープリントは、16個のサブフレームの平均ピクセル値に対応する16個の整数ベクトルを表すこともでき、16個のサブフレームは、対応するフレームの4×4配列を定める。
添付図面及び以下の説明に、本開示の1又は2以上の実装の詳細を示す。これらの説明及び図面、並びに特許請求の範囲からは、他の態様、特徴及び利点も明らかになるであろう。
自動コンテンツ認識環境例の概略図である。 自動コンテンツ認識環境例の概略図である。 自動コンテンツ認識環境のサーバ例の概略図である。 広告識別器例の概略図である。 広告識別器例の概略図である。 広告識別器例の概略図である。 広告識別器例の概略図である。 広告識別器例の概略図である。 広告識別器例の概略図である。 本明細書で説明するシステム及び方法を実装するために使用できるコンピュータ装置例の概略図である。
様々な図面における同じ参照記号は同じ要素を表す。
一般に、自動コンテンツ認識(ACR)は、メディア装置上又はメディアファイル内のメディアコンテンツを自動的に識別するプロセスである。ACRは、日々社会によって消費される大量のメディアコンテンツを識別するためにますます有用になってきている。商業的視点から見れば、企業及びその他のエンティティは、ACRによってメディアコンテンツの消費を理解し、場合によってはメディアコンテンツの消費者(すなわち、メディア装置ユーザ)のマーケティング又はターゲッティングをさらに効率的に行うことができる。例えば、メディア装置のユーザに対して広告が個別化されれば、広告又は提案がさらに効果的になる可能性がある。従って、放送局、商用プロバイダ、広告主及びその他のエンティティは、どの番組が視聴されているか、或いはさらに具体的には視聴中に番組内のどこにユーザが存在するかを知りたいと望んでいる。メディア装置ユーザは、この種の情報によってさらに正確に対象化されたメディアコンテンツを受け取ることができる。
メディアコンテンツを理解して識別する方法では、システムが、放送局又はその他のコンテンツプロバイダがメディアコンテンツ消費者に配信する広告(ad)を、先駆として識別することができる。放送局又はその他のコンテンツプロバイダは、予め広告を識別することによって、メディア装置においてACRをさらに効率的かつ効果的に実行することができる。その後、ACR機能の一部又は結果として、識別された広告は、メディアコンテンツのターゲット消費者に対して、置き換えられ、重ね合わせられ、又は修正されることができる。
図1Aは、ACR環境10の例である。ACR環境10は、メディア装置30のユーザ20(すなわち、視聴者)にメディアコンテンツを配信するための複数の層を含むことができる。図1Aでは、メディアコンテンツ配信プロセスを放送層100、追加コンテンツ層110、ネットワーク層120及び装置層130という4つの層に単純化するように試みている。各層100、110、120、130は、メディアストリームSに影響を与えるエンティティを有することができる。放送層100は、放送メディアストリームSBの生成に関与し得る放送エンティティを表す。これらの放送エンティティは、放送局102及び放送配信業者104を含むことができる。放送局102は、地方放送局、多チャンネルネットワーク又はその他のメディアコンテンツ所有者などの、1又は2以上のメディアコンテンツプロバイダとすることができる。放送配信業者104は、メディアコンテンツを配信するためのインフラ又はリソース(例えば、信号線、通信タワー、通信アンテナ、サーバなど)を提供する放送エンティティである。放送局102及び放送配信業者104は、提供されるメディアコンテンツのタイプ又はメディアコンテンツを受け取るメディア装置のタイプなどの放送変数(broadcasting variables)に応じて、同じ放送エンティティ又は異なる放送エンティティとすることができる。
いくつかの実装では、メディアストリームSが、追加コンテンツ層110として表すコンテンツエンティティからの追加メディアコンテンツストリームSCを含む。これらのコンテンツエンティティは、商用プロバイダ112、広告主114、又はメディアストリームSに追加メディアコンテンツを提供するその他のエンティティを含む。一般に、商用プロバイダ112は、追加メディアコンテンツストリームSCを作成及び/又はホストするコンテンツエンティティであるのに対し、広告主114は、広告、提案、取引、割引、利益又はその他の商品及び/又はサービスプロモーションなどの、追加メディアコンテンツストリームSCを生成するコンテンツエンティティである。これに加えて、又はこれとは別に、商用プロバイダ112及び広告主114は、同じコンテンツエンティティとすることもできる。追加コンテンツ層110は、放送層100、ネットワーク層120、装置層130、又はこれらの任意の組み合わせに追加メディアコンテンツストリームSCを伝えることができる。任意に、追加コンテンツ層110は、追加メディアコンテンツストリームSCと放送メディアストリームSBとを一組にして、放送メディアストリームSB及び追加メディアコンテンツストリームSCを含むメディアストリームSを形成することができる。
さらに図1Aを参照すると、ネットワーク層120は、放送層110及び/又は追加コンテンツ層110から放送メディアストリームSB及び追加メディアコンテンツストリームSCを受け取るように構成される。例えば、ネットワーク層120は、放送層100からメディアストリームSを受け取る場合、追加メディアコンテンツストリームSCを含む放送メディアストリームSB、又は追加メディアコンテンツストリームSCから独立した放送メディアストリームSBを受け取ることができる。同様に、ネットワーク層120は、追加コンテンツ層110からメディアストリームSを受け取る場合、追加メディアコンテンツストリームSCを含む放送メディアストリームSB、又は追加メディアコンテンツストリームSCから独立した放送メディアストリームSBを受け取ることができる。いくつかの実装では、ネットワーク層120が、放送層100からの放送メディアストリームSBと追加コンテンツ層110からの追加メディアコンテンツストリームSCとを一組にして、追加メディアコンテンツストリームSCで満たされた放送メディアストリームSBを表すネットワークメディアストリームSNを生成することができる。
ネットワーク層120は、フィンガープリンタ200を含む。フィンガープリンタ200は、データ処理ハードウェア212とメモリハードウェア214とを有するサーバ210上で動作するように構成される。フィンガープリンタ200は、フィンガープリント生成器220を含む。ネットワーク層120は、フィンガープリント222とフィンガープリント222に関連するメタデータ224とを放送フィンガープリントデータベース又は広告フィンガープリントデータデータベースなどのフィンガープリントデータベース230及び/又はメタデータデータベース240に記憶するように構成することができる。ネットワーク層120は、フィンガープリント生成器220によってフィンガープリント222を生成し、又はACR環境10内の別のコンテンツエンティティからフィンガープリント222を受け取るように構成することができる。例えば、ネットワーク層120は、放送層100及び/又は追加コンテンツ層110から、広告フレームFadを示す広告フィンガープリント222、222aを受け取る。一般に、フィンガープリント222は、メディアストリームSの少なくとも1つのフレームFnに対応する少なくとも1つの一意的な識別子である。例えば、この少なくとも1つの一意的な識別子は、値(例えば、ピクセル値)、英数字表現、又はオーディオビジュアル画像の圧縮版とすることができる。これに加えて、又はこれとは別に、ネットワーク層120は、放送メディアストリームSB、追加メディアコンテンツストリームSC、又はこれらの両方を記憶するようにも構成される。
ネットワーク層120は、広告識別器300をさらに含む。図1Aには、実際には広告識別器300がネットワーク層120を除く他の層(すなわち、放送層100、追加コンテンツ層110又は装置層130)にも存在できることを表すように、広告識別器300を点線ボックスで示す。広告識別器300は、フィンガープリント222を受け取って、フィンガープリント222が広告に対応するかどうかを判定するように構成される。いくつかの例では、広告識別器300が、広告フィンガープリント222、222aを受け取って、放送フィンガープリント222、222bが広告フィンガープリント222、222aに対応した場合を示す。広告識別器300には、放送局102、放送配信業者104、商用プロバイダ112、又は広告主114などの他の層からのコンテンツエンティティが広告フレームFad及び/又は広告フィンガープリント222、222aを提供することができる。広告識別器300は、放送フィンガープリント222、222bが広告フィンガープリント222、222aに対応すると判定した場合、ACR環境10内の1又は2以上のコンテンツエンティティ、ACRモジュール132及び/又はメディア装置30に識別332を伝えることができる。
図1Aには、あらゆる層(すなわち、放送層100、追加コンテンツ層110、又はネットワーク層120)が装置層130と通信できることも示す。装置層130では、テレビ、セットトップボックス、PC、ラップトップ、タブレット又は携帯電話機などのメディア装置130がメディア装置ストリームSD(例えば、放送メディアストリームSB、追加コンテンツストリームSC又はネットワークメディアストリームSNの任意の組み合わせ)を受け取り、対応するメディア装置ストリームSD(例えば、放送メディアストリームSB、追加コンテンツストリームSC又はネットワークメディアストリームSNの任意の組み合わせ)の全部又は一部をユーザ20に伝えることができる。装置は、何らかの形のメディアコンテンツを受信又は通信するように構成された、メディア装置30に関連するあらゆるハードウェア又はあらゆるソフトウェアを意味することができる。さらに、装置は、データ処理ハードウェア及び/又はメモリハードウェアを含むことができる。いくつかの実装では、メディア装置30を、対応するメディアストリーム(例えば、放送メディアストリームSB、追加コンテンツストリームSC又はネットワークメディアストリームSNの任意の組み合わせ)を解釈し、又はこのようなメディアストリームと相互作用するように構成することができる。例えば、メディア装置30は、放送メディアストリームSBからの追加メディアコンテンツストリームSCを識別する。メディア装置30は、放送メディアストリームSBの追加メディアコンテンツストリームSCを代替メディアコンテンツに置き換え、又は放送メディアストリームSBの追加メディアコンテンツストリームSCに代替メディアコンテンツを重ね合わせることができる。メディア装置30は、所定のコンテンツのメディアストリームSをフィルタ処理することができる。これに加えて、又はこれとは別に、メディア装置30は、メディアストリーム(例えば、放送メディアストリームSB、追加コンテンツストリームSC又はネットワークメディアストリームSNの任意の組み合わせ)に関連する情報又はデータを、放送層100、追加コンテンツ層110、ネットワーク層120、又は装置層130の他のメディア装置30に伝えるように構成することもできる。メディア装置30は、ACRモジュール132を実行し、又はACRモジュール132を実行する他のデータ処理ハードウェアと通信することができる。ACRモジュール132は、メディアストリームの一部をサンプリングし、サンプルを処理し、このサンプルを、オーディオ又はビデオフィンガープリント又はウォーターマークなどの一意的な特徴によってコンテンツを識別したソースサービスと比較することに基づいて、メディアストリーム内のコンテンツ要素(例えば、オーディオ、ビデオ又はデジタル画像)を識別するように構成することができる。
図1Bに、ACR環境例10を示す。ACR環境10は、放送局102と、広告フィンガープリンタ200、200aと、放送フィンガープリンタ200、200bと、広告識別器300とを含む。いくつかの例では、広告フィンガープリンタ200、200a及び放送フィンガープリンタ200、200bが同じフィンガープリンタ200であるが、簡単にするために、図1BのACR環境10は、広告フレームFad(広告フィンガープリンタ200、200a)及び放送フレームFB(1〜n)(放送フィンガープリンタ200、200b)のそれぞれのフィンガープリント222を生成するフィンガープリンタ200を有する。ここでは、放送局102が、広告フィンガープリンタ200、200aに広告フレームFad(1〜n)を伝える。広告フレームFad(1〜n)は、広告シーン302、302aに分割できる広告に対応する。各広告シーン302、302aは、広告全体の一部に関連することができる。一例として、広告の長さは様々(例えば、1分広告、30秒広告、15秒広告、10秒広告など)であり、従ってフレーム分析を標準化するために、各広告を広告シーン302、302aに対応する離散数の広告フレームFad(1〜n)に変える。広告フィンガープリンタ200、200aは、広告フィンガープリント生成器220、220aにおいて各広告フレームFad(1〜n)の広告フィンガープリント222、222aを生成し、シーン302、302aに従って広告フィンガープリント222、222aを広告シーンデータベース250に記憶することができる。一般に、広告フィンガープリント222、222aは、少なくとも広告フレームFad(1〜n)に対応する少なくとも1つの一意的な識別子である。これに加えて、又はこれとは別に、放送局102以外のコンテンツエンティティが広告フィンガープリンタ200、200aに広告フレームFad(1〜n)を伝えることもできる。広告フィンガープリンタ200、200aは、広告フィンガープリント222、222aを取得すると、これらのフィンガープリント222、222aを広告識別器300に送信することができる。広告フィンガープリント222、222aは、自動的に広告識別器300に送信され、又は広告識別器300が広告識別のために少なくとも1つのフィンガープリント222、222aを問い合わせ、若しくは検索することもできる。
さらに図1Bを参照すると、放送局102は、放送メディアストリームSBをチャンネルCh1〜nによって放送フレームレートRBで放送フィンガープリンタ200、200bに送信する。放送フレームレートRBは、各放送フレームFB(1〜n)が放送メディアストリームSB内のピクセルによって表されるオーディオビジュアル画像に対応するように、放送メディアストリームSBを放送フレームFB(1〜n)に分割する。フィンガープリンタ200、200bは、放送フィンガープリント生成器220、220bにおいて各放送フレームFB(1〜n)を受け取るように構成される。放送フィンガープリント生成器220、220bは、各放送フレームFB(1〜n)を受け取って、各放送フレームFB(1〜n)を示す放送フィンガープリント222、222bを生成するように構成される。一般に、放送フィンガープリント222、222bは、少なくとも1つの放送フレームFB(1〜n)に対応する少なくとも1つの一意的な識別子である。フィンガープリンタ200、200bは、各放送フィンガープリント222、222bをフィンガープリントデータベース230などのデータベースに記憶することができる。いくつかの例では、フィンガープリンタ200が、フレーム位置(例えば、フレーム時間コード)、フレームタイプ(例えば、生番組又は広告)又はフィンガープリント識別子タグなどの、フレームFに対応するメタデータ224に従って又はメタデータ224と共に各フィンガープリント222を記憶する。他の例では、フィンガープリンタ200が、各放送フィンガープリント222のメタデータ224に対応する1又は複数の個別のデータベースを有する。フィンガープリンタ200は、メタデータ224のための個別のデータベースによってより多くの放送フィンガープリント222を記憶することができる。その後、放送フィンガープリンタ200、200bは、放送フィンガープリント222、222bを広告識別器300に伝えることができる。
いくつかの例では、広告識別器300が、広告フィンガープリンタ200、200aから広告フィンガープリント222、222aを受け取り、放送フィンガープリンタ200、200bから放送フィンガープリント222、222bを受け取る。広告識別器300は、放送フィンガープリント222、222bを広告フィンガープリント222、222aと比較して、放送フィンガープリント222、222bが広告フィンガープリント222、222aでもある場合を識別することができる。換言すれば、広告識別器300は、放送フレームFB(1〜n)が広告フレームFadに一致することを識別する。
図2は、フィンガープリンタ200のフィンガープリント生成器220の例である。フィンガープリント生成器220は、放送メディアストリームSBのチャンネルCh1〜n又は広告Ad(1〜n)に対応するフレームF1〜n(放送フレームFB(1〜n)又は広告フレームFad(1〜n))を受け取る。フィンガープリント生成器220は、受け取った各フレームF1〜nのフィンガープリント222を生成し、これらをフィンガープリントデータベース230又は広告シーンデータベース250などのデータベースに記憶することができる。いくつかの例では、各フィンガープリント222が、対応するチャンネルCh又は広告AdのフレームF1〜nの少なくとも1つのピクセル値VPを表す。少なくとも1つのピクセル値VPは、フレームF1〜nの平均ピクセル値又は色空間値の合計とすることができる。例えば、フィンガープリント生成器220がグレーUV(YUV)色空間に従ってフィンガープリント222を生成する場合、少なくとも1つのピクセル値VPは、対応するフレームF1〜nのグレースケール値の合計及び/又は平均を表すことができる。換言すれば、対応するフレームF1〜nの各ピクセルは、フィンガープリント222がピクセル領域のグレースケール値の合計及び/又は平均を表すようにグレースケール値によって表される。いくつかの実装では、フィンガープリント222(例えば、広告フィンガープリント222、222a又は放送フィンガープリント222、222b)が、対応するフレームF1〜nのサブフレームFsubに基づく一意的な識別子である。各サブフレームFsubは、サブフレームFsub当たりのピクセルに応じて、対応するピクセル値VP又は対応する平均ピクセル値を有することができる。
図2には、サブフレームFsubに分割されたフレームF(例えば、放送フレームFB(1〜n)又は広告フレームFad)に対応するフィンガープリント222、F1〜nの例も示す。いくつかの例では、フィンガープリント生成器220が、各フレームFをサブフレームFsubに分割して、フレームF1〜n同士をより正確に比較又は区別することができる。サブフレームFsubでは、各フィンガープリント222(例えば、広告フィンガープリント222、222a又は放送フィンガープリント222、222b)が、対応するフレームF1〜nの複数の平均ピクセル値VPを表すことができる。各フレームF1〜nをサブフレームFsubに分割することにより、フィンガープリント生成中に、フレームF1〜n全体のピクセル値VP(又は平均ピクセル値)に基づいてフィンガープリント222よりも多くの詳細(例えば、各サブフレームFsubのピクセル)が考慮される。従って、フィンガープリント生成器220が各フレームF1〜nを分割するサブフレームFsubの数は、望ましい精度レベルに依存する。例えば、図2に示すように、フィンガープリント生成器220は、各フレームF1〜nを、4×4配列を定める16個のサブフレームFsubに分割する。16個のサブフレームFsubの各サブフレームFsubは、平均ピクセル値VP11〜44を有し、従って各フィンガープリント222は、各サブフレームFsubに関連する整数値を有する16個の値の整数ベクトルによって各対応するフレームF1〜nを表すようになる。図には、各フレームF1〜n又は各メディア装置フレームFD1〜nを4×4配列として示しているが、あらゆるサブフレーム分割が可能である。
従来、フィンガープリント222間(例えば、広告フィンガープリント222、222aと放送フィンガープリント222、222bとの間)の比較では解像度の問題が生じやすい。例えば、通常、いくつかのシステムは、各フレームFに対応する平均ピクセル値VPのランクに従ってフレームF(1〜n)にインデックスを付ける。ランクに従ってインデックス付けすることにより、ピクセル値のアウトライアーによってランクの偏りが大きくなることがある。また、単一のピクセル値VPとしてのランクでは、システムがピクセルの変化を検知しにくくなることもある。例示的な例えとして、科学的測定は、精度を示す数字の桁である有効数字を含む。例えば、1つの有効数字の測定値である0.1は小数点第1位までしか正確でなく、0.10〜0.19間で変動し得るのに対し、2つの有効数字の測定値である0.12は小数点第2位まで正確であり、変動範囲が0.120〜0.129となり得る。換言すれば、単一のピクセル値VPのランクに従うフィンガープリント222は1つの有効数字と同様のものであるのに対し、複数のピクセル値VPのベクトルに従うフィンガープリント222は1つよりも多くの有効数字と同様のものである。ランクに従うフィンガープリント222では、ピクセル変動が考慮されることなくこの変動が大きくなってしまう恐れがあり、従ってフレームFの複数のベクトル値VPのベクトル表現であるフィンガープリント222と比べると、このランクが実際にフレームFのピクセルを表す可能性が低い。広告識別器300では、このことが、広告のいくつかのピクセル値VPがライブ番組と同様のものである時に、ランクのフィンガープリント222を使用するシーン識別器310が広告の識別に苦労することを意味する。
図3A〜図3Fに、広告識別器300の例を示す。広告識別器300は、シーン識別器310と、照合器320と、広告インジケータ330とを含む。シーン識別器310は、シーン302が別のシーン302に変化した時点(すなわち、シーン変化312)をメディアストリームSから判定するように構成される。一般に、シーン302は、同様のピクセル値VPを有する一連の連続フレームF1〜nである。シーン302が同様のピクセル値VPを有する理由は、通常、各フレームFが、フレームレートRに基づくほんの一瞬に相当するからである。各フレームFによって表されるオーディオビジュアル画像としてほんの一瞬として取り込まれる対象は、シーン302が変化しない限り瞬時に変化することはできない。従って、フィンガープリント222によって表される少なくとも1つのピクセル値VPは、2つのシーケンシャルに隣接するフレームFadj、F1〜nに対応するフィンガープリント222間のピクセル値VPの相違によってシーン変化312を判定することができる。シーン識別器310がシーン変化312を判定すると、照合器320は、シーン変化312の次のシーン304が広告(例えば、広告シーンデータベース250内の広告)に対応するかどうかを判定するように構成される。次のシーン304が広告に対応する場合、広告インジケータ330は、次のシーン304に対応するメディアストリームSの少なくとも1つの放送フレームFBの識別332を提供するように構成される。
図3A〜図3F全体を通じ、一般に点線ボックスは、広告識別器300の機能を例示するための1又は複数の要素の選択を示す。例えば、図によっては、点線ボックスが(単複の)要素の選択を広告識別器300の入力又は出力として示すものもある。また、図によっては、点線ボックスが広告識別器300に関連するハードウェア及び/又はソフトウェアの論理的決定を示すものもある。
図3A及び図3Bには、広告識別器300のシーン識別器310部分の例を示す。シーン識別器310は、メディアストリームSの放送フレームFB(1〜n)を示す放送フィンガープリント222、222bを受け取る。同様のピクセル値VPを有する放送フレームFB(1〜n)のシーケンスは、メディアストリームSが一連の放送シーン302、302b(1〜n)を含むように放送シーン302、302bを定める。シーン識別器310は、シーン変化相関に基づいて第1の放送シーン302、302b(1)と第2の放送シーン302、302b(2)との間のシーン変化312を判定する。シーン変化相関とは、フレームF間及び/又はフレームFに対応するフィンガープリント222間の類似性を示す類似性測定のことである。類似性測定は、2つの変数間の関連性を測定する統計的相関(例えば、ピアソンの相関、ケンドールの相関、又はスピアマンの相関)などの定量的相関とすることができる。いくつかの実装では、シーン変化相関が異なる類似性レベルを有し、各類似性レベルが、フレームF間及び/又はフレームFに対応するフィンガープリント222間の異なる類似度を示す。図3Aには、シーン変化相関がシーン変化ピアソン相関係数Pである基本例を示す。この例では、シーン変化ピアソン相関係数Pが、高類似性及び低類似性という2つの類似性レベルを有する。一例として、高類似性及び低類似性は、離散定量測定範囲(discrete quantitative measurement ranges)に対応する(例えば、低=0〜0.50、高=0.051〜1.0)。これらの離散定量測定範囲は、シーン識別器310のために予めプログラムすることも、或いはシーン識別器310において測定されたシーン変化相関に基づいて調整することもできる。
いくつかの例では、シーン識別器310が、メディアストリームS内の各シーケンシャルに隣接する(すなわち、近接する)放送フレームの対FB(1〜n)、FBadj間のシーン変化ピアソン相関係数Pを求めることによってシーン変化312を識別する。これらの例では、シーン識別器310が、放送フレームの対FB(1〜n)、FBadjの第1の放送フレームFB(1)の第1の放送フィンガープリント222、222b(1)と、放送フレームの対FB(1〜n)、FBadjの第2の放送フレームFB(2)の第2の放送フィンガープリント222、222b(2)との間のシーン変化ピアソン相関係数Pを求める。図3C及び図3Dなどのいくつかの実装では、シーン識別器310が、シーケンシャルに隣接する放送フレームの対FB(1〜n)、FBadj間のシーン変化ピアソン相関係数Pがシーン変化312に対応すると判定した時に、第1の放送シーン302、302b(1)及び第2の放送シーン302、302b(2)を識別する。換言すれば、シーン識別器310は、第2の放送シーン302、302b(2)を第1の放送シーン302、302b(1)の次のシーン304として識別する。例えば、シーン識別器310は、放送フレームの対FB(1〜n)、FBadjの第1の放送フィンガープリント222、222b(1)を第1の放送シーン302、302b(1)の最後の放送フレームFB(L)の最後の放送フィンガープリント222、222b(L)として識別し、放送フレームの対FB(1〜n)、FBadjの第2の放送フィンガープリント222、222b(2)を第2の放送シーン302、302b(2)の最初の放送フレームFB(i)の最初の放送フィンガープリント222、222b(i)として識別する。
さらに図3Aを参照すると、放送フレームの対FB(1〜n)、FBadjに対応する放送フィンガープリント222、222b間のシーン変化ピアソン相関係数Pは、(例えば、1.0に向かう)高測定値又は(例えば、0に向かう)低測定値とすることができる。例えば、シーン変化ピアソン相関係数Pが高い場合、放送フレームの対FB(1〜n)、FBadjの第1の放送フィンガープリント222、222b(1)及び第2の放送フィンガープリント222、222b(2)は、シーン変化312が発生しなかったことを示す類似性を有する。これとは逆に、シーン変化ピアソン相関係数Pが低い場合、放送フレームの対FB(1〜n)、FBadjの第1の放送フィンガープリント222、222b(1)及び第2の放送フィンガープリント222、222b(2)は、シーン変化312が発生したことを示す非類似性を有する。いくつかの例では、シーン識別器310が、シーン変化ピアソン相関係数Pがシーン変化相関閾値Tを満たすかどうかを判定する。シーン変化ピアソン相関係数Pがシーン変化相関閾値Tを満たす場合、シーン識別器310は、シーン識別器310がどのように構成されているかに応じて、シーン変化312が発生したか、それともしなかったかを判定することができる。一例として、図3Bには、シーン変化ピアソン相関係数Pがシーン変化相関閾値Tを満たす場合にシーン変化312が発生したと識別するように構成されたシーン識別器310を示す。図3A及び図3Bには、いずれもシーン識別器310が、放送フレームの対FB(1〜n)、FBadjの第1の放送フィンガープリント222、222b(1)と第2の放送フィンガープリント222、222b(2)との間にシーン変化312が発生しなかったと判定したことを示す。
図3C〜図3Fに示すように、広告識別器300は、照合器320をさらに含む。照合器320は、広告シーン302、302a(1〜n)の広告フレームFad(1〜n)を示す広告フィンガープリント222、222aを受け取る。いくつかの例では、シーン識別器310がシーン変化312を判定すると、照合器320が、広告シーンデータベース250から広告フィンガープリント222、222aを取得することができる。他の例では、コンテンツエンティティが照合器320に広告フィンガープリント222、222aを直接提供することができる。これに加えて、又はこれとは別に、照合器320は、広告フィンガープリント222、222a及び/又は広告フレームFad(1〜n)を記憶するように構成された広告シーンデータベース250を含むこともできる。シーン識別器310がシーン変化312を判定して第1の放送シーン302、302b(1)が第2の放送シーン302、302b(2)に変化したと識別した場合、広告識別器300は、第2の放送シーン302、302b(2)が広告シーン302、302a(1〜n)のうちのうちの1つであるかどうかを判定する。いくつかの実装では、照合器320が、受け取った各広告シーン302、302aについて、広告シーン302、302aに対応するそれぞれの広告フィンガープリント222、222aと第2の放送シーン302、302b(2)の少なくとも1つの放送フィンガープリント222、222bとの間の一致相関を求める。いくつかの例では、第2の放送シーン302、302b(2)の少なくとも1つの放送フィンガープリント222、222bが、放送フレームの対FB(1〜n)、FBadjの第2の放送フィンガープリント222、222b(2)である。いくつかの例では、この一致相関が、シーン変化相関と同様にピアソンの相関、ケンドールの相関又はスピアマンの相関などの統計的相関である。図3C〜図3Fには、一致相関の例を一致ピアソン相関係数PMとして示す。例えば、照合器320は、第2の放送シーン302、302bの少なくとも1つの放送フィンガープリント222、222bと、各広告シーン302、302aに対応する各それぞれの広告フィンガープリント222、222aとの間の一致相関ピアソン相関係数PMを求める。
いくつかの例では、照合器320が、広告シーン302、302aの複数の広告フィンガープリント222、222aに対応する(例えば、それぞれの広告フィンガープリント222、222aを含む)広告フィンガープリントブロック222、222a(block)と、第2の放送シーン302、302b(2)の複数の放送フィンガープリント222、222bに対応する放送フィンガープリントブロック222、222b(block)との間の一致相関を求める。広告フィンガープリントブロック222、222a(block)及び放送フィンガープリントブロック222、222b(block)の各ブロックは、所定数のフィンガープリント222を含むことができる。いくつかの実装では、各ブロックが同様の数のフィンガープリント222を含むことにより、照合器320による一致相関が、等しい数の広告フィンガープリント222、222aを等しい数の放送フィンガープリント222、222bと比較する。例えば、広告フィンガープリントブロック222、222a(block)及び放送フィンガープリントブロック222、222b(block)の各ブロックが2秒のフィンガープリント222に対応し、従って毎秒30フレームのフレームレートでは、各ブロックが60個のフィンガープリント(例えば、広告フィンガープリント222、222a(1〜60)及び放送フィンガープリント222、222b(1〜60))を含むようになる。説明例として、図3C、図3D及び図3Fには、(各広告シーン302、302aにおける点線選択ボックス内の)4つの広告フィンガープリント222、222aと、(放送シーン302、302bにおける点線選択ボックス内の)4つの放送フィンガープリント222、222bとに関する一致相関を実行する照合器320を示す。
いくつかの例では、広告シーン302、302aが広告全体又は広告の一部に対応する。従って、広告シーンデータベース250は、広告の全ての広告フレームFad(1〜n)、又は広告に関するいずれかの数の広告フレームFad(1〜n)を含むことができる。いくつかの例では、広告識別器300による一貫性を保証するように、各広告シーン302、302aが設定数のフレームFad(1〜n)である。例えば、各広告が広告の最初の2秒間において一意のものであると仮定すると、各広告シーン302、302aは、2秒の広告フレームFad(1〜n)に対応する。この例では、フレームレートが毎秒30フレームである場合、2秒の広告フレームFad(1〜n)が約60個の広告フレームFad(1〜60)に等しい。他の例では、各広告シーン302、302aがいずれかの量の広告フレームFad(1〜n)であるが、照合器320が、設定数の広告フレームFad(1〜n)(例えば、2秒の広告フレームFad(1〜n))と第2の放送シーン302、302b(2)(すなわち、次の放送シーン)の同様の数の放送フレームFB(1〜n)との間の一致相関を求めるように構成される。設定数の広告フレームFad(1〜n)は、広告シーンデータベース250に必要とされる記憶量を低減することができる。状況によっては、広告シーンデータベース250に必要とされる記憶量を低減することによって照合器320の処理能力を抑えることができる。例えば、広告は、しばしば約10秒のショートバージョンから約1分のロングバージョンにまで及ぶ。フレームの観点から見れば、ロングバージョンは、ショートバージョンよりも千個を超える多くのフレームを含むことができる。この点、広告シーンデータベース250は、広告全体の千フレームを超える潜在的記憶容量を各広告の設定数の広告フレーム(Fad(1〜n))に低減することができ、この記憶容量の低減を利用して、各広告フィンガープリント222、222aが広告フレームFad内により多くのサブフレームFsubを、従ってより多くのピクセル値VPを組み込むようにする。換言すれば、フィンガープリント222(例えば、広告フィンガープリント222、222a又は放送フィンガープリント222、222b)は、単一の平均ピクセル値VPのみのフィンガープリント222よりもはるかに多くのピクセル値VPのベクトル(例えば、16個の整数ベクトル)を表すことができるので、照合器320は、広告の一部(すなわち、離散数の広告フレームFad(1〜n))によって放送シーン302、302bが1つの広告に対応することを正確に識別できるようになる。
さらに、図3C及び図3Dには、シーン識別器310がシーン変化312を判定する例を示す。これらの例では、シーン識別器310が、シーケンシャルに隣接する放送フレームの対FB(1)、FB(2)間のシーン変化ピアソン相関係数Pがシーン変化312に対応すると判定した時に、放送フレームの対FB(1)、FB(2)の第1の放送フィンガープリント222、222b(1)を第1の放送シーン302、302b(1)の最後の放送フレームFB(L)の最後の放送フィンガープリント222、222b(L)として識別し、放送フレームの対FB(1)、FB(2)の第2の放送フィンガープリント222、222b(2)を第2の放送シーン302、302b(2)の最初の放送フレームFB(i)の最初の放送フィンガープリント222、222b(i)として識別する。シーン変化312が判定されると、照合器320は、第2の放送シーン302、302b(2)が広告シーンのうちの1つであるかどうかを判定する。図3C及び図3Dでは、照合器320が、同様の数のフレームF(1〜n)を表す広告フィンガープリント222、222a及び放送フィンガープリント222、222bを受け取る。場合によっては、広告識別器300に関連するデータ処理ハードウェア及び/又はメモリハードウェアを効率化するために、照合器320が同様の寸法又はベクトルのフィンガープリント222を受け取ることが有利となり得る。いくつかの例では、シーン識別器310が、照合器320に次のシーン304の放送フィンガープリント222、222bを伝える。他の例では、シーン識別器310がシーン変化312を判定した時に、照合器320が次のシーン304の放送フィンガープリント222、222bを取得することができる。図3C及び図3Dでは、照合器320が、第2の放送シーン302、302b(2)(すなわち、次のシーン304)の4つの放送フレームFB(2〜5)に関連する放送フィンガープリント222、222bと、各広告シーン302、302a(1〜n)の4つの広告フレームFad(1〜4)に関連する広告フィンガープリント222、222aとを受け取る。例えば、照合器320は、広告シーンデータベース250から広告フィンガープリント222、222aを受け取る。
図3C及び図3Dには、第2の放送シーン302、302b(2)が広告シーン302、302a(1〜n)のうちの1つであるかどうかを一致ピアソン相関係数PMに基づいて判定する照合器320を示す。照合器320は、シーン識別器310と同様に、一致ピアソン相関係数PMに類似性レベル又は類似性閾値を使用することができる。図3Cなどのいくつかの例では、照合器320が、一致ピアソン相関係数PMが類似性レベル(例えば、図3Aなどの高類似性及び低類似性)に対応する時に、第2の放送シーン302、302b(2)が広告シーン302、302a(1〜n)のうちの1つであると判定する。図3Cでは、照合器320が、第2の放送シーン302、302b(2)の放送フィンガープリント222、222bが広告シーン302、302a(1〜n)の少なくとも1つの広告フィンガープリント222、222aとの高い類似性を有すると判定している。図3Dなどの他の例では、照合器320が、一致ピアソン相関係数PMが一致相関閾値TMを満たす時に、第2の放送シーン302、302b(2)が広告シーン302、302a(1〜n)のうちの1つであると判定することができる。一致相関閾値TMは、シーン識別器310のシーン変化ピアソン相関閾値Tと同様に、照合器320がどのように構成されているかに応じて、次のシーン304が広告シーン302、302aに一致するかどうかを判定することができる。一例として、図3Dには、一致ピアソン相関係数PMが一致相関閾値TMを満たす時に次のシーン304が広告シーン302、302aに一致すると識別するように構成された照合器320を示す。図3C〜図3Fには一致相関として一致ピアソン相関係数PMを示しているが、照合器320は、類似性レベル及び/又は閾値と共にあらゆる統計的相関を使用することができる。さらに、図3A〜図3Fにはシーン識別器310及び照合器320の複数の組み合わせを示しているが、任意の組み合わせが可能である。例えば、これらの図には、シーン識別器310が閾値を使用して照合器320が類似性レベルを使用する、又はシーン識別器310が類似性レベルを使用して照合器320が閾値を使用する広告識別器300を示していない。これらの図には、シーン識別器310がシーン変化312を判定したにもかかわらず、照合器320が一致する広告シーン302、302aを決定しないことも示していない。この状況は、メディアストリームSの番組中にライブ番組がシーンを変更したにもかかわらず、番組が広告に移行しない場合に発生し得る。
いくつかの実装では、照合器320が、第2の放送シーン302、302b(2)の少なくとも1つの放送フィンガープリント222、222bに関して各広告シーン302、302aの一致相関を求める。照合器320は、各一致相関に関して、最大一致相関を有する広告シーン302、302aを、第2の放送シーン302、302b(2)の少なくとも1つの放送フィンガープリント222、222bに一致する広告シーン302、302aとして識別するように構成することができる。例えば、この構成は、広告シーン302、302aが同様の広告ではあるが長さが異なる広告を含む時に、照合器320を正確にするのに役立つことができる。
いくつかの例では、シーン識別器310がシーン変化312を判定した場合、照合器320が、シーン変化312に対応する放送フレームの対FB(1)、FB(2)の第1の放送フィンガープリント222、222b(1)の後、第2の放送シーン302、302b(2)が広告シーン302、302a(1〜n)のうちの1つであるかどうかを判定する前に閾値期間PT待つ。いくつかの実装では、照合器320が、第1の放送シーン302、302b(1)の最後の放送フレーム222、222b(L)の最後の放送フィンガープリント222、222b(L)の後、閾値期間PT待つ。例えば、図3C〜図3Fでは、第2の放送シーン302、302b(2)の放送フィンガープリント222、222bが、放送フレームFB(2〜5)の閾値期間PTに対応する。換言すれば、照合器320によって分析される第2の放送シーン302、302b(2)の放送フィンガープリント222、222bは、複数の放送フレームFB(1〜n)に対応することができる。いくつかの例では、閾値期間PTは、照合器320が各広告シーン302、302aについて受け取る設定数の広告フレームFad(1〜n)を占めるように機能する。閾値期間PTは、設定数の広告フレームFad(1〜n)を占めることにより、フィンガープリント222を比較するための同等サイズのベクトル又はピクセル値を照合器320に提供することができる。例えば、各広告シーン302、302aが2秒の広告フレームFad(1〜n)に対応する場合、閾値期間PTは、第2の放送シーン302、302b(2)が広告シーン302、302a(1〜n)のうちの1つであるかどうかを判定する前の少なくとも2秒である。照合器320は、この2秒により、第2の放送シーン302、302b(2)が広告シーン302、302aのうちの1つであるかどうかを2秒の放送フレームFB(1〜n)に基づいて判定できるようになる。
図3C〜図3Fには、広告識別器300の広告インジケータ330も示す。広告インジケータ330は、一致相関が照合器320の一致基準(例えば、一致相関閾値TM又は類似性レベル)を満たす時に、第2の放送シーン302、302b(2)の識別332を広告シーン302、302a(1〜n)のうちの1つとして関連付けることができる。例えば、広告インジケータ330は、第2の放送シーン302、302b(2)を、照合器320が受け取って第2の放送シーン302、302b(2)の放送フィンガープリント222、222bに一致すると判定されたそれぞれの広告フィンガープリント222、222aの広告シーン302、302aに対応するものとして識別する。いくつかの例では、メディア装置30におけるリアルタイム観察中に第2の放送シーン302、302b(2)を容易に識別できるように、識別332がコンテンツエンティティ又はACRモジュール132への通信である。この識別332に従って、広告に対応する第2の放送シーン302、302b(2)を別のコンテンツに置き換え、重ね合わせ、又は修正することができる。広告識別器300は、第2の放送シーン302、302b(2)が広告であるという識別332を提供することにより、メディア装置30におけるACRモジュール132のより効率的かつ効果的な機能を可能にすることができる。これに加えて、又はこれとは別に、識別332は、第2の放送シーン302、302b(2)に関連するメタデータタグなどの識別子でもある。識別子のいくつかの例としては、対応する広告シーン302、302aに関する情報(例えば、広告主、製品、サービス、広告の長さなど)又は放送フレームデータ(例えば、フレーム位置)が挙げられる。換言すれば、この識別子は、メディア装置30がメディアストリームSを受け取った時にコンテンツエンティティ又はACRモジュール132が対応する広告シーン302、302aを識別するのを支援できるいずれかのデータとすることができる。広告識別器300は、広告の識別332を提供することにより、ACRモジュール132における何らかの広告識別エラーを排除することができる。これに加えて、又はこれとは別に、広告識別器300は、ACRモジュール132が広告識別器300と同様の機能の実行に消費したはずの処理能力を抑えることもできる。
いくつかの広告は、より複雑な形態の広告となり得る。一例として、互いに入れ子状になった広告、互いにシーケンシャルに隣接する広告、又は別の広告の前に通常番組の短いひとコマが後続する広告が挙げられる。例えば、ゴルフクラブメーカーは、ゴルフクラブ及び/又はゴルフスイングをクローズアップした標準的な広告のみならず、高級車メーカーと提携することもできる。この例では、車を運転してゴルフコースに行くことから始まって標準的なゴルフクラブの広告及びゴルフクラブのクローズアップで終わることができる広告、ゴルフクラブから始まってゴルフクラブを車に積んで走り去ることで終了する広告、又は車から始まって車で終わるが中間部分に標準的なゴルフクラブの広告を含むことができる広告といった複数の異なる広告シーケンスが存在することができる。広告識別器300は、これらのいずれの広告シーケンスについても、第2の放送シーン302、302b(2)が別の広告シーン302、302a内に存在するかどうか、又は別の広告シーン302、302aにシーケンシャルに隣接するかどうかを判定するように構成される。
図3E及び図3Fには、第2の放送シーン302、302b(2)が別の広告シーン302、302a内に存在するかどうか、又は別の広告シーン302、302aにシーケンシャルに隣接するかどうかを判定する広告識別器300を示す。広告インジケータ330が第2の放送シーン302、302b(2)の識別332及び/又は識別子を提供すると、識別332は、シーン識別器310が、第2の放送フレーム302、302b(2)の放送フィンガープリント222、222bの次の放送フレームFBに第3の放送シーン302、302b(3)が存在するかどうかを判定することをトリガすることができる。換言すれば、シーン識別器310は、後続する放送フレームの対FB(1〜n)、FBadj間のシーン変化相関を求めることができる。いくつかの例では、シーン識別器310が、メディアストリームSの放送フレームの各シーケンシャルに隣接する対FB(1〜n)、FBadj間のシーン変化相関を再帰的に実行する。他の例では、第1の反復において照合器320によって分析された放送フレームFB(1〜n)の閾値期間PTの最終放送フレームFB(f)から放送フレームの対FB(1〜n)、FBadjの第2の反復が開始する。例えば、図3E及び図3Fには、放送フレームFB(1〜n)の閾値期間PTの最終放送フレームFB(f)(すなわち、図3C及び図3Dの放送フレームFB(5))から放送フレームの対FB(1〜n)、FBadjの第2の反復が開始することを示す。これらの例では、放送フレームFB(1〜n)の閾値期間PTの最終放送フレームFB(f)が、第2の反復の放送フレームの対FB(1〜n)、FBadjの第1の放送フレームFB(1)になる。図3Eには、シーン識別器310が第2の放送シーン302、302b(2)内にシーン変化312が存在しないと判定することを除き、図3Bと同様のシーン識別器310のプロセスを示す。
一方で、図3Fは、第2の放送シーン302、302b(2)の広告シーン302、302a内の、又はこれにシーケンシャルに隣接する広告を決定する広告識別器300の例である。ここでは、シーン識別器310が、第2の放送シーン302、302b(2)と第3の放送シーン302、302b(3)との間のシーン変化312を識別する。照合器320は、閾値期間PT(4つの放送フレームFB(2〜5))にわたって待機し、第3の放送シーン302、302b(3)が別の広告シーン302、302aに対応すると判定する。広告インジケータ330は、この照合器320による判定に基づいて識別332を第3の放送シーン302、302b(3)に関連付ける。
ソフトウェアアプリケーション(すなわち、ソフトウェアリソース)は、コンピュータ装置にタスクを実行させるコンピュータソフトウェアを意味することができる。いくつかの例では、ソフトウェアアプリケーションを「アプリケーション」、「アプリ」、又は「プログラム」と呼ぶこともできる。アプリケーション例としては、以下に限定するわけではないが、システム診断アプリケーション、システム管理アプリケーション、システムメンテナンスアプリケーション、ワープロアプリケーション、スプレッドシートアプリケーション、メッセージングアプリケーション、メディアストリーミングアプリケーション、ソーシャルネットワーキングアプリケーション、及びゲームアプリケーションが挙げられる。
図4は、本文書で説明したシステム及び方法を実装するために使用できるコンピュータ装置例400の概略図である。コンピュータ装置400は、ラップトップ、デスクトップ、ワークステーション、携帯情報端末、サーバ、ブレードサーバ、メインフレーム、及びその他の適切なコンピュータなどの様々な形態のデジタルコンピュータを表すように意図される。図示のコンポーネント、その接続及び関係、並びにその機能は例示を目的とするものにすぎず、本文書で説明した及び/又は特許請求する発明の実装を限定するものではない。
コンピュータ装置400は、プロセッサ410と、メモリ420と、記憶装置430と、メモリ420及び高速拡張ポート450に接続する高速インターフェイス/コントローラ440と、低速バス470及び記憶装置430に接続する低速インターフェイス/コントローラ460とを含む。コンポーネント410、420、430、440、450及び460の各々は、様々なバスを使用して相互接続され、必要に応じて共通マザーボード上に又は他の形で取り付けることができる。プロセッサ410は、メモリ420又は記憶装置430に記憶された命令を含む、コンピュータ装置400内で実行される命令を処理して、高速インターフェイス440に結合されたディスプレイ480などの外部入力/出力装置上にグラフィカルユーザインターフェイス(GUI)のためのグラフィック情報を表示することができる。他の実装では、必要に応じて複数のメモリ及びメモリタイプと共に複数のプロセッサ及び/又は複数のバスを使用することができる。また、複数のコンピュータ装置400を接続して、各装置が(例えば、サーババンク、一群のブレードサーバ、又はマルチプロセッサシステムとして)必要な動作の一部を提供することもできる。
メモリ420は、コンピュータ装置400内に非一時的に情報を記憶する。メモリ420は、コンピュータ可読媒体、(単複の)揮発性メモリユニット、又は(単複の)不揮発性メモリユニットとすることができる。非一時的メモリ420は、コンピュータ装置400が使用するプログラム(例えば、一連の命令)又はデータ(例えば、プログラム状態情報)を一時的又は恒久的に記憶するために使用される物理的装置とすることができる。不揮発性メモリの例としては、以下に限定するわけではないが、フラッシュメモリ及びリードオンリメモリ(ROM)/プログラマブルリードオンリメモリ(PROM)/消去可能プログラマブルリードオンリメモリ(EPROM)/電気的消去可能プログラマブルリードオンリメモリ(EEPROM)(例えば、典型的にはブートプログラムなどのファームウェアに使用されるもの)が挙げられる。揮発性メモリの例としては、以下に限定するわけではないが、ランダムアクセスメモリ(RAM)、ダイナミックランダムアクセスメモリ(DRAM)、スタティックランダムアクセスメモリ(SRAM)、相変化メモリ(PCM)、及びディスク又はテープが挙げられる。
記憶装置430は、コンピュータ装置400のための大容量ストレージを提供することができる。いくつかの実装では、記憶装置430がコンピュータ可読媒体である。様々な異なる実装では、記憶装置430を、フロッピーディスク装置、ハードディスク装置、光ディスク装置、又はテープ装置、フラッシュメモリ又は他の同様の固体メモリデバイス、或いはストレージエリアネットワーク又はその他の構成を含む一連の装置とすることができる。さらなる実装では、コンピュータプログラム製品が情報キャリア内で有形的に具体化される。コンピュータプログラム製品は、実行時に上述したような1又は2以上の方法を実行する命令を含む。情報キャリアは、メモリ420、記憶装置430、又はプロセッサ410上のメモリなどのコンピュータ可読媒体又は機械可読媒体である。
高速コントローラ440は、コンピュータ装置400の帯域幅集約動作を管理し、低速コントローラ460は、低帯域幅集約動作を管理する。このような作業の割り当ては例示にすぎない。いくつかの実装では、高速コントローラ440が、メモリ420と、ディスプレイ480と、様々な拡張カード(図示せず)を受け入れることができる高速拡張ポート450とに(例えば、グラフィックスプロセッサ又はアクセラレータを介して)結合される。いくつかの実装では、低速コントローラ460が、記憶装置430及び低速拡張ポート490に結合される。様々な通信ポート(例えば、USB、Bluetooth、イーサネット、ワイヤレスイーサネット)を含むことができる低速拡張ポート490は、キーボード、ポインティングデバイス、スキャナなどの1又は2以上の入力/出力装置に、或いはネットワークアダプタなどを介してスイッチ又はルータなどのネットワーク装置に結合することができる。
コンピュータ装置400は、図示のような複数の異なる形態で実装することができる。例えば、コンピュータ装置400は、標準サーバ400aとして、又は一群のこのようなサーバ400aにおいて複数回、ラップトップコンピュータ400bとして、或いはラックサーバシステム400cの一部として実装することができる。
本明細書で説明したシステム及び技術の様々な実装は、デジタル電子回路及び/又は光回路、集積回路、特別に設計されたASIC(特定用途向け集積回路)、コンピュータハードウェア、ファームウェア、ソフトウェア、及び/又はこれらの組み合わせで実現することができる。これらの様々な実装は、ストレージシステム、少なくとも1つの入力装置及び少なくとも1つの出力装置との間でデータ及び命令を送受信するように結合された、専用又は汎用とすることができる少なくとも1つのプログラマブルプロセッサを含むプログラマブルシステム上で実行可能及び/又は解釈可能な1又は2以上のコンピュータプログラムでの実装を含むことができる。
これらの(プログラム、ソフトウェア、ソフトウェアアプリケーション又はコードとしても知られている)コンピュータプログラムは、プログラマブルプロセッサのための機械命令を含み、高水準手続き型言語及び/又はオブジェクト指向型プログラミング言語、及び/又はアセンブリ/機械言語で実装することができる。本明細書で使用する「機械可読媒体」及び「コンピュータ可読媒体」という用語は、機械可読信号としての機械命令を受け取る機械可読媒体を含む、プログラマブルプロセッサに機械命令及び/又はデータを提供するために使用されるあらゆるコンピュータプログラム製品、非一時的コンピュータ可読媒体、装置及び/又はデバイス(例えば、磁気ディスク、光学ディスク、メモリ、プログラマブル論理装置(PLD))を意味する。「機械可読信号」という用語は、プログラマブルプロセッサに機械命令及び/又はデータを提供するために使用されるあらゆる信号を意味する。
本明細書で説明したプロセス及びロジックフローは、1又は2以上のコンピュータプログラムを実行する1又は2以上のプログラマブルプロセッサによって、入力データに作用して出力を生成することによって機能を実行するように実行することができる。プロセス及びロジックフローは、例えばFPGA(フィールドプログラマブルゲートアレイ)又はASIC(特定用途向け集積回路)などの専用論理回路によって実行することもできる。コンピュータプログラムを実行するのに適したプロセッサとしては、一例として、汎用マイクロプロセッサ及び専用マイクロプロセッサの両方、並びにいずれか1つ又は2つのあらゆる種類のデジタルコンピュータのプロセッサが挙げられる。一般に、プロセッサは、リードオンリメモリ又はランダムアクセスメモリ、或いはこれらの両方から命令及びデータを受け取る。コンピュータの必須要素は、命令を実行するためのプロセッサ、並びに命令及びデータを記憶するための1又は2以上のメモリデバイスである。一般に、コンピュータは、磁気ディスク、光磁気ディスク又は光学ディスクなどの、データを記憶する1又は2以上の大容量記憶装置も含み、或いはこのような記憶装置との間でデータの受け取り及びデータの転送、又はこれらの両方を行うように動作可能に結合される。しかしながら、コンピュータは、このような装置を有していなくてもよい。コンピュータプログラム命令及びデータを記憶するのに適したコンピュータ可読媒体としては、一例としてEPROM、EEPROM及びフラッシュメモリデバイスなどの半導体メモリデバイス、内蔵ハードディスク又は取り外し可能ディスクなどの磁気ディスク、磁気光学ディスク、並びにCD ROM及びDVD−ROMディスクを含む、全ての形態の不揮発性メモリ、媒体及びメモリデバイスが挙げられる。プロセッサ及びメモリは、専用論理回路によって補完することも、或いは専用論理回路に組み込むこともできる。
本開示の1又は2以上の態様は、ユーザとの相互作用を可能にするために、CRT(ブラウン管)、LCD(液晶ディスプレイ)モニタ又はタッチ画面などの、ユーザに情報を表示するためのディスプレイ装置と、任意にユーザがコンピュータに入力を提供できるようにするキーボード、及びマウス又はトラックボールなどのポインティングデバイスとを有するコンピュータに実装することができる。他の種類の装置を用いてユーザとの相互作用を可能にすることもでき、例えば、ユーザに提供されるフィードバックは、視覚フィードバック、聴覚フィードバック又は触覚フィードバックなどのあらゆる形の感覚フィードバックとすることができ、ユーザからの入力は、音響入力、発話入力又は触覚入力を含むあらゆる形で受け取ることができる。また、コンピュータは、ユーザが使用する装置との間で文書を送受信することにより、例えばユーザのクライアント装置上のウェブブラウザから受け取った要求に応答してこのウェブブラウザにウェブページを送信することによってユーザとの相互作用を行うこともできる。
複数の実装について説明した。それでもなお、本開示の趣旨及び範囲から逸脱することなく様々な修正を行うことができると理解されるであろう。従って、以下の特許請求の範囲には他の実装も含まれる。
10 自動コンテンツ認識環境
20 ユーザ
30 メディア装置
100 放送層
102 放送局
104 放送配信業者
110 追加コンテンツ層
112 商用プロバイダ
114 広告主
120 ネットワーク層
130 装置層
132 ACRモジュール
200 フィンガープリンタ
210 サーバ
212 データ処理ハードウェア
214 メモリハードウェア
220 フィンガープリント生成器
230 フィンガープリント
240 メタデータ
300 広告識別器
S メディアストリーム
B 放送メディアストリーム
C 追加メディアコンテンツ
D メディア装置ストリーム
N ネットワークメディアストリーム

Claims (30)

  1. データ処理ハードウェアにおいて、一連の放送シーンを含むメディアストリームの放送フレームを示す放送フィンガープリントを受け取るステップと、
    前記データ処理ハードウェアにおいて、広告シーンの広告フレームを示す広告(ad)フィンガープリントを受け取るステップと、
    前記データ処理ハードウェアが、第2の放送シーンの最初の放送フレームの最初の放送フィンガープリントと、第1の放送シーンの最後の放送フレームの最後の放送フィンガープリントとの間のシーン変化ピアソン相関係数に基づいて、前記第1の放送シーンと前記第2の放送シーンとの間のシーン変化が発生したかどうかを判定するステップと、
    前記シーン変化が発生したと判定された場合、前記データ処理ハードウェアが、前記第2の放送シーンが前記広告シーンのうちの1つであるかどうかを判定するステップと、
    前記第2の放送シーンが前記広告シーンのうちの1つである場合、前記データ処理ハードウェアが、前記第2の放送シーンの識別を前記広告シーンのうちの前記1つとして関連付けるステップと、
    を含むことを特徴とする方法。
  2. 前記シーン変化が発生したかどうかを判定するステップは、
    前記第2の放送シーンの前記最初の放送フレームの前記最初の放送フィンガープリントと、前記第1の放送シーンの前記最後の放送フレームの前記最後の放送フィンガープリントとの間の前記シーン変化ピアソン相関係数を求めるステップと、
    前記データ処理ハードウェアが、前記シーン変化ピアソン相関係数がシーン変化相関閾値を満たすかどうかを判定するステップと、
    を含む、請求項1に記載の方法。
  3. 前記シーン変化が発生したかどうかを判定するステップは、
    各シーケンシャルに隣接する放送フレームの対について、
    前記放送フレームの対の第1の放送フレームの第1の放送フィンガープリントと、前記放送フレームの対の第2の放送フレームの第2の放送フィンガープリントとの間の前記シーン変化ピアソン相関係数を求めるステップと、
    前記データ処理ハードウェアが、前記シーン変化ピアソン相関係数がシーン変化相関閾値を満たすかどうかを判定するステップと、
    前記シーン変化ピアソン相関係数が前記シーン変化相関閾値を満たす場合、
    前記放送フレームの対の前記第1の放送フレームを、対応する放送シーンの最後の放送フレームとして識別するステップと、
    前記放送フレームの対の前記第2の放送フレームを、対応するシーケンシャルに隣接する放送シーンの最初の放送フレームとして識別するステップと、
    を含む、請求項1に記載の方法。
  4. 前記第1の放送シーンの前記最後の放送フレームの前記最後の放送フィンガープリントの後、前記第2の放送シーンが前記広告シーンのうちの1つであるかどうかを判定する前に閾値期間待つステップをさらに含む、
    請求項1から3のいずれか1項に記載の方法。
  5. 前記第2の放送シーンが前記広告シーンのうちの1つであるかどうかを判定するステップは、
    各広告フィンガープリントについて、
    前記データ処理ハードウェアが、前記それぞれの広告フィンガープリントと前記第2の放送フィンガープリントとの間の一致ピアソン相関係数を求めるステップと、
    前記データ処理ハードウェアが、前記一致ピアソン相関係数が一致相関閾値を満たすかどうかを判定するステップと、
    前記一致ピアソン相関係数が前記一致相関閾値を満たす場合、前記データ処理ハードウェアが、前記第2の放送シーンを前記それぞれの広告フィンガープリントの前記広告シーンに対応するものとして識別するステップと、
    を含む、請求項に記載の方法。
  6. 前記第2の放送シーンが前記広告シーンのうちの1つである場合、前記データ処理ハードウェアが、前記第2の放送シーンが別の広告シーン内に存在するかどうか、又は該別の広告シーンにシーケンシャルに隣接するかどうかを判定するステップをさらに含む、
    請求項1から5のいずれか1項に記載の方法。
  7. 前記第2の放送シーンが前記広告シーンのうちの1つである場合、前記データ処理ハードウェアが、前記第2の放送シーンに広告識別器を関連付けるステップをさらに含む、
    請求項1から6のいずれか1項に記載の方法。
  8. 各フィンガープリントは、対応するフレームの少なくとも1つのピクセルを表す、
    請求項1から7のいずれか1項に記載の方法。
  9. 各フィンガープリントは、対応するフレームのグレースケール値の合計を表す平均ピクセル値を含む、
    請求項1から8のいずれか1項に記載の方法。
  10. 各フィンガープリントは、16個のサブフレームの平均ピクセル値に対応する16個の整数ベクトルを表し、前記16個のサブフレームは、対応するフレームの4×4配列を定める、
    請求項1から9のいずれか1項に記載の方法。
  11. データ処理ハードウェアにおいて、メディアストリームの放送フレームを示す放送フィンガープリントを受け取るステップと、
    前記データ処理ハードウェアにおいて、広告シーンの広告フレームを示す広告(ad)フィンガープリントを受け取るステップと、
    各シーケンシャルに隣接する放送フレームの対について、
    前記データ処理ハードウェアが、前記放送フレームの対の第1の放送フレームの第1の放送フィンガープリントと、前記放送フレームの対の第2の放送フレームの第2の放送フィンガープリントとの間のシーン変化ピアソン相関係数を求めるステップと、
    前記データ処理ハードウェアが、前記シーン変化ピアソン相関係数がシーン変化相関閾値を満たすかどうかを判定するステップと、
    前記シーン変化ピアソン相関係数が前記シーン変化相関閾値を満たす場合、
    前記データ処理ハードウェアが、第1の放送シーンが前記第1の放送フレームにおいて終了すると識別するステップと、
    前記データ処理ハードウェアが、第2の放送シーンが前記第2の放送フレームにおいて開始すると識別するステップと、
    各広告フィンガープリントについて、
    前記データ処理ハードウェアが、前記それぞれの広告フィンガープリントと前記第2の放送フィンガープリントとの間の一致ピアソン相関係数を求めるステップと、
    前記データ処理ハードウェアが、前記一致ピアソン相関係数が一致相関閾値を満たすかどうかを判定するステップと、
    前記一致ピアソン相関係数が前記一致相関閾値を満たす場合、前記データ処理ハードウェアが、前記第2の放送シーンを前記それぞれの広告フィンガープリントの前記広告シーンとして識別するステップと、
    を含むことを特徴とする方法。
  12. 前記第2の放送シーンが前記広告シーンのうちの1つである場合、前記データ処理ハードウェアが、前記第2の放送シーンが別の広告シーン内に存在するかどうか、又は該別の広告シーンにシーケンシャルに隣接するかどうかを判定するステップをさらに含む、
    請求項11に記載の方法。
  13. 前記第2の放送シーンが前記広告シーンのうちの1つである場合、前記データ処理ハードウェアが、前記第2の放送シーンに広告識別器を関連付けるステップをさらに含む、
    請求項11又は12に記載の方法。
  14. 各フィンガープリントは、対応するフレームの少なくとも1つのピクセルを表す、
    請求項11から13のいずれか1項に記載の方法。
  15. 各フィンガープリントは、16個のサブフレームの平均ピクセル値に対応する16個の整数ベクトルを表し、前記16個のサブフレームは、対応するフレームの4×4配列を定める、
    請求項11から14のいずれか1項に記載の方法。
  16. データ処理ハードウェアと、
    前記データ処理ハードウェアと通信するメモリハードウェアと、
    を備えたシステムであって、前記メモリハードウェアは命令を記憶しており、該命令は、前記データ処理ハードウェア上で実行された時に、前記データ処理ハードウェアに、
    一連の放送シーンを含むメディアストリームの放送フレームを示す放送フィンガープリントを受け取るステップと、
    広告シーンの広告フレームを示す広告(ad)フィンガープリントを受け取るステップと、
    第2の放送シーンの最初の放送フレームの最初の放送フィンガープリントと、第1の放送シーンの最後の放送フレームの最後の放送フィンガープリントとの間のシーン変化ピアソン相関係数に基づいて、前記第1の放送シーンと前記第2の放送シーンとの間のシーン変化が発生したかどうかを判定するステップと、
    前記シーン変化が発生したと判定された場合、前記第2の放送シーンが前記広告シーンのうちの1つであるかどうかを判定するステップと、
    前記第2の放送シーンが前記広告シーンのうちの1つである場合、前記第2の放送シーンの識別を前記広告シーンのうちの前記1つとして関連付けるステップと、
    を含む動作を実行させる、ことを特徴とするシステム。
  17. 前記シーン変化が発生したかどうかを判定するステップは、
    前記第2の放送シーンの前記最初の放送フレームの前記最初の放送フィンガープリントと、前記第1の放送シーンの前記最後の放送フレームの前記最後の放送フィンガープリントとの間の前記シーン変化ピアソン相関係数を求めるステップと、
    前記シーン変化ピアソン相関係数がシーン変化相関閾値を満たすかどうかを判定するステップと、
    を含む、請求項16に記載のシステム。
  18. 前記シーン変化が発生したかどうかを判定するステップは、
    各シーケンシャルに隣接する放送フレームの対について、
    前記放送フレームの対の第1の放送フレームの第1の放送フィンガープリントと、前記放送フレームの対の第2の放送フレームの第2の放送フィンガープリントとの間の前記シーン変化ピアソン相関係数を求めるステップと、
    前記シーン変化ピアソン相関係数がシーン変化相関閾値を満たすかどうかを判定するステップと、
    前記シーン変化ピアソン相関係数が前記シーン変化相関閾値を満たす場合、
    前記放送フレームの対の前記第1の放送フレームを、対応する放送シーン(302b)の最後の放送フレームとして識別するステップと、
    前記放送フレームの対の前記第2の放送フレームを、対応するシーケンシャルに隣接する放送シーンの最初の放送フレームとして識別するステップと、
    を含む、請求項16に記載のシステム。
  19. 前記動作は、前記第1の放送シーンの前記最後の放送フレームの前記最後の放送フィンガープリントの後、前記第2の放送シーンが前記広告シーンのうちの1つであるかどうかを判定する前に閾値期間待つステップをさらに含む、
    請求項16から18のいずれか1項に記載のシステム。
  20. 前記第2の放送シーンが前記広告シーンのうちの1つであるかどうかを判定するステップは、
    各広告フィンガープリントについて、
    前記それぞれの広告フィンガープリントと前記第2の放送フィンガープリントとの間の一致ピアソン相関係数を求めるステップと、
    前記一致ピアソン相関係数が一致相関閾値を満たすかどうかを判定するステップと、
    前記一致ピアソン相関係数が前記一致相関閾値を満たす場合、前記第2の放送シーンを前記それぞれの広告フィンガープリントの前記広告シーンに対応するものとして識別するステップと、
    を含む、請求項18に記載のシステム。
  21. 前記動作は、前記第2の放送シーンが前記広告シーンのうちの1つである場合、前記第2の放送シーンが別の広告シーン内に存在するかどうか、又は該別の広告シーンにシーケンシャルに隣接するかどうかを判定するステップをさらに含む、
    請求項16から20のいずれか1項に記載のシステム。
  22. 前記動作は、前記第2の放送シーンが前記広告シーンのうちの1つである場合、前記第2の放送シーンに広告識別器を関連付けるステップをさらに含む、
    請求項16から21のいずれか1項に記載のシステム。
  23. 各フィンガープリントは、対応するフレームの少なくとも1つのピクセルを表す、
    請求項16から22のいずれか1項に記載のシステム。
  24. 各フィンガープリントは、対応するフレームのグレースケール値の合計を表す平均ピクセル値を含む、
    請求項16から23のいずれか1項に記載のシステム。
  25. 各フィンガープリントは、16個のサブフレームの平均ピクセル値に対応する16個の整数ベクトルを表し、前記16個のサブフレームは、対応するフレームの4×4配列を定める、
    請求項16から24のいずれか1項に記載のシステム。
  26. データ処理ハードウェアと、
    前記データ処理ハードウェアと通信するメモリハードウェアと、
    を備えたシステムであって、前記メモリハードウェアは命令を記憶しており、該命令は、前記データ処理ハードウェア上で実行された時に、前記データ処理ハードウェアに、
    メディアストリームの放送フレームを示す放送フィンガープリントを受け取るステップと、
    広告シーンの広告フレームを示す広告(ad)フィンガープリントを受け取るステップと、
    各シーケンシャルに隣接する放送フレームの対について、
    前記放送フレームの対の第1の放送フレームの第1の放送フィンガープリントと、前記放送フレームの対の第2の放送フレームの第2の放送フィンガープリントとの間のシーン変化ピアソン相関係数を求めるステップと、
    前記シーン変化ピアソン相関係数がシーン変化相関閾値を満たすかどうかを判定するステップと、
    前記シーン変化ピアソン相関係数が前記シーン変化相関閾値を満たす場合、
    第1の放送シーンが前記第1の放送フレームにおいて終了すると識別するステップと、
    第2の放送シーンが前記第2の放送フレームにおいて開始すると識別するステップと、
    各広告フィンガープリントについて、
    前記それぞれの広告フィンガープリントと前記第2の放送フィンガープリントとの間の一致ピアソン相関係数を求めるステップと、
    前記一致ピアソン相関係数が一致相関閾値を満たすかどうかを判定するステップと、
    前記一致ピアソン相関係数が前記一致相関閾値を満たす場合、前記第2の放送シーンを前記それぞれの広告フィンガープリントの前記広告シーンとして識別するステップと、
    を含む動作を実行させる、ことを特徴とするシステム。
  27. 前記動作は、前記第2の放送シーンが前記広告シーンのうちの1つである場合、前記第2の放送シーンが別の広告シーン内に存在するかどうか、又は該別の広告シーンにシーケンシャルに隣接するかどうかを判定するステップをさらに含む、
    請求項26に記載のシステム。
  28. 前記動作は、前記第2の放送シーンが前記広告シーンのうちの1つである場合、前記第2の放送シーンに広告識別器を関連付けるステップをさらに含む、
    請求項26又は27に記載のシステム。
  29. 各フィンガープリントは、対応するフレームの少なくとも1つのピクセルを表す、
    請求項26から28のいずれか1項に記載のシステム。
  30. 各フィンガープリントは、16個のサブフレームの平均ピクセル値に対応する16個の整数ベクトルを表し、前記16個のサブフレームは、対応するフレームの4×4配列を定める、
    請求項26から29のいずれか1項に記載のシステム。
JP2020515215A 2017-09-13 2018-09-10 自動コンテンツ認識のための広告フレームのフラッギング Active JP6873321B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2021070822A JP7240437B2 (ja) 2017-09-13 2021-04-20 自動コンテンツ認識のための広告フレームのフラッギング
JP2023032982A JP2023078202A (ja) 2017-09-13 2023-03-03 自動コンテンツ認識のための広告フレームのフラッギング

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US15/703,391 2017-09-13
US15/703,391 US10306333B2 (en) 2017-09-13 2017-09-13 Flagging advertisement frames for automatic content recognition
PCT/US2018/050184 WO2019055338A1 (en) 2017-09-13 2018-09-10 MARKING ADVERTISING FRAMES FOR AUTOMATIC RECOGNITION OF CONTENT

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2021070822A Division JP7240437B2 (ja) 2017-09-13 2021-04-20 自動コンテンツ認識のための広告フレームのフラッギング

Publications (2)

Publication Number Publication Date
JP2020533920A JP2020533920A (ja) 2020-11-19
JP6873321B2 true JP6873321B2 (ja) 2021-05-19

Family

ID=63722769

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2020515215A Active JP6873321B2 (ja) 2017-09-13 2018-09-10 自動コンテンツ認識のための広告フレームのフラッギング
JP2021070822A Active JP7240437B2 (ja) 2017-09-13 2021-04-20 自動コンテンツ認識のための広告フレームのフラッギング
JP2023032982A Pending JP2023078202A (ja) 2017-09-13 2023-03-03 自動コンテンツ認識のための広告フレームのフラッギング

Family Applications After (2)

Application Number Title Priority Date Filing Date
JP2021070822A Active JP7240437B2 (ja) 2017-09-13 2021-04-20 自動コンテンツ認識のための広告フレームのフラッギング
JP2023032982A Pending JP2023078202A (ja) 2017-09-13 2023-03-03 自動コンテンツ認識のための広告フレームのフラッギング

Country Status (9)

Country Link
US (3) US10306333B2 (ja)
EP (1) EP3682643A1 (ja)
JP (3) JP6873321B2 (ja)
KR (2) KR102148248B1 (ja)
CN (2) CN111095940B (ja)
AU (2) AU2018331308B2 (ja)
BR (1) BR112020005086B1 (ja)
CA (1) CA3075620C (ja)
WO (1) WO2019055338A1 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11917240B2 (en) * 2018-08-14 2024-02-27 Inscape Data, Inc. Dynamic content serving using automated content recognition (ACR) and digital media watermarks
US20200275168A1 (en) * 2019-02-22 2020-08-27 The Nielsen Company (Us), Llc Use of Watermarking to Trigger Fingerprint-Related Action
KR20200142787A (ko) 2019-06-13 2020-12-23 네이버 주식회사 멀티미디어 신호 인식을 위한 전자 장치 및 그의 동작 방법
CN110636330B (zh) * 2019-09-20 2021-10-26 深圳市梦网视讯有限公司 基于压缩信息的片源场景复杂度分析方法和系统
CN111182303A (zh) * 2019-10-08 2020-05-19 腾讯科技(深圳)有限公司 共享屏幕的编码方法、装置、计算机可读介质及电子设备
CN110956648A (zh) * 2019-11-15 2020-04-03 深圳市宏电技术股份有限公司 一种视频图像处理方法、装置、设备及存储介质
CN111970559B (zh) * 2020-07-09 2022-07-22 北京百度网讯科技有限公司 视频获取方法、装置、电子设备及存储介质
US11974024B2 (en) * 2020-09-11 2024-04-30 Sling TV L.L.C. Automated program promotion detection in a video streaming system
US20220264171A1 (en) * 2021-02-12 2022-08-18 Roku, Inc. Use of In-Band Data to Facilitate Ad Harvesting for Dynamic Ad Replacement
US11770566B1 (en) 2022-03-16 2023-09-26 Roku, Inc. Automatically determining an optimal supplemental content spot in a media stream

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2001035654A2 (en) * 1999-11-10 2001-05-17 Thomson Licensing S.A. Fading feature for a dvd recorder
US6714594B2 (en) * 2001-05-14 2004-03-30 Koninklijke Philips Electronics N.V. Video content detection method and system leveraging data-compression constructs
US7809154B2 (en) 2003-03-07 2010-10-05 Technology, Patents & Licensing, Inc. Video entity recognition in compressed digital video streams
US20040194130A1 (en) * 2003-03-07 2004-09-30 Richard Konig Method and system for advertisement detection and subsitution
JP4296503B2 (ja) * 2004-10-04 2009-07-15 ソニー株式会社 情報処理装置および方法、並びにプログラム
JP2008011316A (ja) * 2006-06-30 2008-01-17 Casio Comput Co Ltd カメラ装置及びカメラ装置制御プログラム
US8358381B1 (en) * 2007-04-10 2013-01-22 Nvidia Corporation Real-time video segmentation on a GPU for scene and take indexing
US8195689B2 (en) * 2009-06-10 2012-06-05 Zeitera, Llc Media fingerprinting and identification system
JP5710604B2 (ja) 2009-05-21 2015-04-30 ディジマーク コーポレイション ウォーターマーキングとフィンガープリンティングとの組合せ
EP2437498A1 (en) * 2010-09-30 2012-04-04 British Telecommunications Public Limited Company Digital video fingerprinting
US8786785B2 (en) * 2011-04-05 2014-07-22 Microsoft Corporation Video signature
EP4221235A3 (en) * 2013-03-15 2023-09-20 Inscape Data, Inc. Systems and methods for identifying video segments for displaying contextually relevant content
CN105190618B (zh) * 2013-04-05 2019-01-25 杜比实验室特许公司 用于自动文件检测的对来自基于文件的媒体的特有信息的获取、恢复和匹配
KR101456926B1 (ko) * 2013-06-14 2014-10-31 (주)엔써즈 핑거프린트에 기반한 광고 검출 시스템 및 방법
CN104023251B (zh) * 2014-06-13 2015-08-19 腾讯科技(深圳)有限公司 基于视频的互动方法和系统
JP6432047B2 (ja) * 2014-08-21 2018-12-05 パナソニックIpマネジメント株式会社 コンテンツ認識装置およびコンテンツ認識方法
KR20170047267A (ko) 2014-08-29 2017-05-04 도쿠리츠다이가쿠호징 가나자와다이가쿠 폴리올레핀계 수지 조성물, 성형체 및 폴리올레핀계 수지 필름
CN104581222A (zh) * 2015-01-05 2015-04-29 李伟贤 一种在视频中快速识别广告位并嵌入广告的方法
US9578394B2 (en) * 2015-03-25 2017-02-21 Cisco Technology, Inc. Video signature creation and matching
US9516377B1 (en) 2015-06-12 2016-12-06 Sorenson Media, Inc. Detecting channel change in automatic content recognition fingerprint matching
US9854326B1 (en) 2015-09-09 2017-12-26 Sorenson Media, Inc. Creating and fulfilling dynamic advertisement replacement inventory
US9813781B2 (en) 2015-10-27 2017-11-07 Sorenson Media, Inc. Media content matching and indexing

Also Published As

Publication number Publication date
US20190268670A1 (en) 2019-08-29
AU2020289863A1 (en) 2021-01-28
US20190082231A1 (en) 2019-03-14
JP7240437B2 (ja) 2023-03-15
JP2021122117A (ja) 2021-08-26
AU2020289863B2 (en) 2021-09-23
US20210084386A1 (en) 2021-03-18
WO2019055338A1 (en) 2019-03-21
CN113283321A (zh) 2021-08-20
JP2020533920A (ja) 2020-11-19
US11303974B2 (en) 2022-04-12
US10306333B2 (en) 2019-05-28
EP3682643A1 (en) 2020-07-22
KR102148248B1 (ko) 2020-08-27
CA3075620C (en) 2022-01-11
US10887667B2 (en) 2021-01-05
AU2018331308A1 (en) 2020-04-02
CN111095940B (zh) 2021-05-25
KR102272767B1 (ko) 2021-07-06
BR112020005086A2 (pt) 2020-08-18
KR20200103117A (ko) 2020-09-01
CN111095940A (zh) 2020-05-01
JP2023078202A (ja) 2023-06-06
AU2018331308B2 (en) 2020-09-24
BR112020005086B1 (pt) 2022-07-12
CA3075620A1 (en) 2019-03-21
KR20200037423A (ko) 2020-04-08

Similar Documents

Publication Publication Date Title
JP6873321B2 (ja) 自動コンテンツ認識のための広告フレームのフラッギング
US10922551B2 (en) Scene frame matching for automatic content recognition
US11184682B2 (en) Obtaining viewer demographics through advertisement selections
JP7028888B2 (ja) 自動コンテンツ認識のためのフレーム確実性
AU2021201776B2 (en) Cold matching by automatic content recognition
CN110555157B (zh) 内容推荐方法、内容推荐装置和电子设备

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200511

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200511

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20200511

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20200728

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201015

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210115

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210408

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210420

R150 Certificate of patent or registration of utility model

Ref document number: 6873321

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250