JP5852304B2 - シグネチャ曲線発生装置及び方法 - Google Patents

シグネチャ曲線発生装置及び方法 Download PDF

Info

Publication number
JP5852304B2
JP5852304B2 JP2010226969A JP2010226969A JP5852304B2 JP 5852304 B2 JP5852304 B2 JP 5852304B2 JP 2010226969 A JP2010226969 A JP 2010226969A JP 2010226969 A JP2010226969 A JP 2010226969A JP 5852304 B2 JP5852304 B2 JP 5852304B2
Authority
JP
Japan
Prior art keywords
audio
video
filtered
signature curve
generate
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010226969A
Other languages
English (en)
Other versions
JP2011091798A (ja
Inventor
ダニエル・ジー・ベーカー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tektronix Inc
Original Assignee
Tektronix Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tektronix Inc filed Critical Tektronix Inc
Publication of JP2011091798A publication Critical patent/JP2011091798A/ja
Application granted granted Critical
Publication of JP5852304B2 publication Critical patent/JP5852304B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/004Diagnosis, testing or measuring for television systems or their details for digital television systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本発明は、一般にビデオ試験測定機器に関し、特に、オーディオ/ビデオ(AV)遅延の測定及び補正に利用するシグネチャ曲線の発生装置及び方法に関する。
サテライト及び他の地上ディストリビューション(分配)パスでのアナログ、デジタル又は圧縮のデータにおけるプログラムのオーディオ及びビデオのディストリビューション又はストリーミングにおいて、ビデオ信号に対するオーディオ信号のタイミング又は遅延スキューが生じるが、これは「リップ・シンク」問題として知られている。この原因は、種々であるが、一般には、オーディオをビデオと別に処理すると、異なる処理又はディストリビューションの遅延により生じる。例えば、サテライトパスを介してビデオを伝送し、オーディオを低遅延地上パスにより伝送すると、ある共通の宛先ポイントにてオーディオ及びビデオを再同期する必要が生じる。また、オーディオ及びビデオの圧縮マルチ・チャネルでの別々の符号化及び復号化(コーデック:CODIC)の遅延により、ビデオに対するオーディオの再同期が必要となる。
多くの場合、プログラム・ビデオ信号に関連したマルチ・チャネル・プログラム・オーディオは、ある開始ポイント(origination point)にて正しいタイミング関係を有する。また、異なる伝搬遅延又はコーデック遅延を補正するために、宛先ポイント(destination point)にてオーディオ又はビデオを遅延させて、その関係を再構築するのが望ましい。これは、宛先ポイントにおけるプログラム・オーディオに対して、オーディオ・トーン・バースト又はこれと均等なものを挿入することにより、「サービス非提供時(out-of-service)」にて実行できる。なお、このオーディオ・トーン・バーストなどは、ビデオ・フラッシュ、回転ホイール、電子クラップ・ボード(clap-board)又はこれらと均等なものと同期して、宛先ポイントにてAV遅延を測定し補正できる。
しかし、このアプローチには、2つの大きな欠点がある。第1に、試験には、サービス非提供時に通常プログラムのオーディオ及びビデオ必要となる。第2に、測定したサービス非提供時の補正値を最早無効とするコーデック変化及びパス変化により、AV処理遅延が時間と伴に変化する。
米国特許第6246439号明細書「ビデオ信号へのデータの透明埋め込み」(特開平10-304322号公報に対応)は、異なるアプローチを開示しており、測定及び補正用にオーディオ包絡線「シグネチャ曲線(signature curve)」をデコーダに送るために、不可視のウォータマーク又は何らかの他のメタデータのパスをビデオ信号に追加する。この方法において、オーディオ及びビデオを同期するように連続的に調整できる。このアプローチは、米国オレゴン州ビーバートンのテクトロニクス社が販売するAVDC100型オーディオ対ビデオ遅延補正器(現在は販売終了)に用いられている。しかし、ビデオ信号のウォータマークは、しばしば許容できず、また、ビデオ効果及びスケーリングの後ではウォータマークを検出できない。
上述の米国特許明細書に記載と同じ方法でAV遅延を測定及び補正するために、代わりに、メタデータとして又はある形式のオーディオ・ウォータマークによって、ビデオ・シグネチャ曲線をオーディオ・チャネルに埋め込むことができる。しかし、オーディオ信号ウォータマーク変調が許容されず、メタデータ・パスがしばしばディストリビューション・チェーンにおいて保護(preserve)されない。
特開平10−304322号公報
そこで、上述の従来のアプローチの欠点を克服したオーディオ信号及びビデオ信号の間の遅延の測定し、その遅延を補正するために利用可能な改善された手法が望まれている。
上述の課題を解決する本発明の概念は、次の通りである。
(1)ディストリビューション(分配)パスに沿ったポイントにて、オーディオ信号及びビデオ信号を有するオーディオ/ビデオ(AV)プログラム(番組)を受ける入力装置と;上記オーディオ信号を処理してオーディオ・シグネチャ曲線を発生すると共に、上記ビデオ信号を処理してビデオ・シグネチャ曲線を発生するプロセッサとを具えた装置。
(2)上記ディストリビューション・パス以外にセパレート(別の)データ・パスを経由して上記オーディオ・シグネチャ曲線及び上記ビデオ・シグネチャ曲線を分配する出力部を更に具える概念1の装置。
(3)上記プロセッサは、上記ビデオ信号の隣接フレームの共分散(co-variance)に基づいて上記ビデオ・シグネチャ曲線を発生する手段を具える概念1の装置。
(4)上記プロセッサは、上記ビデオ信号の隣接フレーム差の共分散に基づいて上記ビデオ・シグネチャ曲線を発生する手段を具える概念1の装置。
(5)上記プロセッサは;上記オーディオ信号の左チャネルを濾波して濾波済み左チャネルを生じる第1バンドパス・フィルタと;上記濾波済み左チャネルの包絡線を検出する第1包絡線検出器と;上記オーディオ信号の右チャネルを濾波して濾波済み右チャネルを発生する第2バンドパス・フィルタと;上記濾波済み左チャネルの包絡線及び上記濾波済み右チャネルの包絡線を加算して加算結果を生じる加算器と;上記加算結果を濾波して濾波済み加算結果を生じるロウパス・フィルタと;上記フレーム又はフィールドのレートで上記濾波済み加算結果をサンプリングして上記オーディオ・シグネチャ曲線を生じるサンプラとを具えた概念1の装置。
(6)オーディオ・シグネチャ曲線及びビデオ・シグネチャ曲線を受ける入力手段と;上記オーディオ・シグネチャ曲線及び上記ビデオ・シグネチャ曲線に基づいてオーディオ/ビデオ(AV)プログラムの測定AV遅延を計算するプロセッサとを具えた装置。
(7)上記ディストリビューション・パス内のインライン遅延を調整して上記測定AV遅延を補正する手段を更に具えた概念6の装置。
(8)上記プロセッサが上記測定AV遅延を計算するために、2つのオーディオ・シグネチャ曲線を整列(アライメント)させてオーディオ・アライメント・オフセットを発生し;2つのビデオ・シグネチャ曲線を整列させてビデオ・アライメント・オフセットを発生し;上記オーディオ・アライメント・オフセット及び上記ビデオ・アライメント・オフセットに基づいて上記測定AV遅延を測定する概念6の装置。
(9)概念1の1個以上の装置と;概念6の装置とを具えたシステム。
(10)上記セパレート・データ・パスはディストリビューション・ネットワークを具える概念9のシステム。
(11)ディストリビューション・パスに沿ったポイントにて、オーディオ信号及びビデオ信号を有するオーディオ/ビデオ(AV)プログラムを受け;上記オーディオ信号に基づいてオーディオ・シグネチャ曲線を発生すると共に、上記ビデオ信号に基づいてビデオ・シグネチャ曲線を発生する方法。
(12)上記ディストリビューション・パス以外にセパレート・データ・パスを介して上記オーディオ・シグネチャ曲線及び上記ビデオ・シグネチャ曲線を分配するステップを更に具える概念11の方法。
(13)上記ビデオ信号の隣接するフレームの共分散に基づいて上記ビデオ・シグネチャ曲線を発生する概念11の方法。
(14)上記ビデオ信号の隣接するフレーム差の共分散に基づいて上記ビデオ・シグネチャ曲線を発生する概念11の方法。
(15)上記オーディオ・シグネチャ曲線を発生するために;上記オーディオ信号の左チャネルを濾波して濾波済み左チャネルを生じ;上記濾波済み左チャネルの包絡線を検出し;上記オーディオ信号の右チャネルを濾波して濾波済み右チャネルを発生し;上記濾波済み左チャネルの包絡線及び上記濾波済み右チャネルの包絡線を加算して加算結果を生じ;上記加算結果を濾波して濾波済み加算結果を生じ;上記フレーム又はフィールドのレートで上記濾波済み加算結果をサンプリングして上記オーディオ・シグネチャ曲線を生じる概念11の方法。
(16)オーディオ・シグネチャ曲線及びビデオ・シグネチャ曲線を受け;上記オーディオ・シグネチャ曲線及び上記ビデオ・シグネチャ曲線に基づいてオーディオ・/ビデオ(AV)プログラムの測定AV遅延を計算する方法。
(17)上記ディストリビューション・パス内のインライン遅延を調整して上記測定AV遅延を補正するステップを更に具えた概要16の方法。
(18)上記測定AV遅延を計算するステップは;2つのオーディオ・シグネチャ曲線を整列させてオーディオ・アライメント・オフセットを発生し;2つのビデオ・シグネチャ曲線を整列させてビデオ・アライメント・オフセットを発生し;上記オーディオ・アライメント・オフセット及び上記ビデオ・アライメント・オフセットに基づいて上記測定AV遅延を計算する概念16の方法。
(19)ディストリビューション・パスに沿ったポイントにおけるオーディオ/ビデオ(AV)プログラムに夫々対応するオーディオ・シグネチャ曲線及びビデオ・シグネチャ曲線の複数対を発生し;上記ディストリビューション・パス以外のセパレート・データ・パスを介して上記シグネチャ曲線の複数対を収集する方法。
(20)上記シグネチャ曲線の対に基づいて上記AVプログラムの測定AV遅延を計算するステップを更に具えた概要19の方法。
よって、本発明によれば、非侵入「サービス提供中(in-service)」AV遅延の検出及び補正するためのシグネチャ曲線発生装置及び方法が得られる。これら装置及び方法は、オーディオ信号又はビデオ信号を変更せず、ディストリビューション(分配)パスを介してのオーディオ信号又はビデオ信号と伝送される任意のメタデータにも依存しない。その代わりに、ディストリビューション・パスに沿った種々のポイントに配置されたエージェントは、オーディオ信号及びビデオ信号用に非常に小さなシグネチャ曲線を発生し、これらシグネチャ曲線をディストリビューション・パス以外のセパレート(別の)パスを介してマネージャーに分配する。マネージャーは、ディストリビューション・パスが発生した測定AV遅延をこれらシグネチャ曲線に基づいて計算し、また、オプションとして、ディストリビューション・パスのインライン遅延を調整することにより測定AV遅延を補正する。
本発明の目的、利点及び新規な特徴は、添付図を参照した以下の詳細な説明から明らかになろう。
本発明によりAV遅延を測定し補正する装置及び方法を示す第1実施例のブロック図である。 本発明によりAV遅延を測定し補正する装置及び方法を示す第2実施例のブロック図である。 米国特許第6751360号明細書に記載された方法を用いて発生したビデオ・シグネチャ曲線を示す図である。 本発明の実施例によるフレーム差方法を用いて発生したビデオ・シグネチャ曲線を示す図である。 図3Aのビデオ・シグネチャ曲線及びその受信レプリカの相互相関と、図3Bのビデオ・シグネチャ曲線及びその受信レプリカの相互相関とを示す図である。 オーディオ・シグネチャ曲線を発生する装置及び方法を示すブロック図である。 図5の装置及び方法を用いて発生したオーディオ信号及びオーディオ・シグネチャ曲線を示す図である。 測定AV遅延を計算する方法の流れ図である。
図1は、本発明によりAV遅延を測定及び補正する装置及び方法の第1実施例を示すブロック図である。AVプログラムは、オーディオ信号及びビデオ信号から成る。開始(origination)ポイントに配置され「エージェント」として示される第1装置(入力装置)105は、その入力端にてAVプログラム(オーディオ/ビデオ番組)を受ける。種々の実施例において、このAVプログラムは、オーディオ/ビデオ圧縮コーダなどで構成できる。次に、エージェント105は、プロセッサ(図示せず)を用いて、オーディオ信号を処理してオーディオ・シグネチャ曲線(ASCo)を発生すると共に、ビデオ信号を処理してビデオ・シグネチャ曲線(VSCo)を発生する。次に、AVプログラムは、開始ポイントからディストリビューション(分配)パス100を介して宛先(destination)ポイントに分配される。宛先ポイントに配置され「エージェント」として示される第2装置110は、AVプログラムを受け、受信したオーディオ信号に基づいてオーディオ・シグネチャ曲線(ASCr)を発生すると共に、受信したビデオ信号に基づいてビデオ・シグネチャ曲線(VSCr)を発生する。オプションとして、第2エージェント110は、組み込みで調整可能なインライン・プログラム・オーディオ及び/又はビデオの遅延手段(図示せず)を有する。
「マネージャー」として示す第3装置120は、(1)セパレート(別の)データ・パス115を介してエージェント105及び110からのASCo、VSCo、ASCr及びVSCrを収集し、(2)ディストリビューション・パス100により生じたAVプログラムの測定AV遅延をASCo、VSCo、ASCr及びVSCrに基づいて計算し、(3)オプションとしてセパレート・データ・パス115を介してエージェント110のインライン遅延を調整して測定AV遅延を補正する。セパレート・データ・パス115は、ディストリビューション・パス100以外の任意のデータ・パスである。なお、ASCo、VSCo、ASCr及びVSCrをまとめて、単にSC(シグネチャ曲線)として示す。例えば、種々の実施例において、セパレート・データ・パス115は、インターネット、プライベート・ネットワーク又は専用データ・パスなどの分散ネットワークでもよい。エージェント105及び110並びにマネージャー120は、セパレート・データ・パス115を介して通信を行うのに適する通信端子(例えば、入力及び出力)を有する。例えば、セパレート・データ・パス115がインターネットである実施例において、エージェント105及び110とマネージャー120とは、各々がインターネット・プロトコル(IP)ターミナルを有する。いくつかの実施例において、遠隔パーソナル・コンピュータ上で動作するソフトウェア・アプリケーションとして、マネージャー120を実現する。
シグネチャ曲線(SC)は、基本となる実際のオーディオ又はビデオのデータ・セットよりもはるかに小さい非常に簡単でコンパクトなデータ・セットである。すなわち、SCを非常に迅速に発生し、分配し、処理できるので、実時間でAV遅延の測定及び補正が可能となる。本発明の目的にとってSCの重要な特徴は、コンパクトであるが、オーディオ又はビデオの時間的特徴充分にあって、所望の分解能での時間的アライメント(配列)を容易にすることである。この重要な特徴を有するSCの発生及び処理について、詳細に後述する。
いくつかの実施例において、エージェント105及び110は、米国オレゴン州ビーバートンのテクトロニクス社が販売するWFM8000シリーズ波形モニタの如きビデオ試験測定機器内に組み込まれている。他の実施例において、エージェント105及び110は、プログラムのオーディオ及びビデオをモニタするのに用いる専用のスタンドアロン装置である。
いくつかの実施例において、特に、セパレート・データ・パス115がインターネットの如き分配ネットワークであると、マネージャー120とエージェント105及び110とは、シンプル・ネットワーク・マネージメント・プロトコル(SNMP)の如きプロトコルを介して通信できる。これらの実施例において、マネージャー120を「SNMPマネージャー」として実現できるし、エージェント105及び110を「SNMPエージェント」として実現できる。他の任意の通信プロトコルも利用できることが理解できよう。
図2は、本発明によりAV遅延を測定し補正する装置及び方法の実施例を示すブロック図である。図1と同様に、AVプログラムは、オーディオ信号及びビデオ信号から構成されている。開始ポイントに配置された第1装置(入力装置)205は、オーディオ信号に基づいてオーディオ・シグネチャ曲線(ASCo)を発生し、ビデオ信号に基づいてビデオ・シグネチャ曲線(VSCo)を発生する。次に、オーディオ信号及びビデオ信号は、開始ポイントからディストリビューション・パス200を介して宛先ポイントに分配される。宛先ポイントに配置された第2装置210は、受信したオーディオ信号に基づいてオーディオ・シグネチャ曲線(ASCr)を発生し、受信したビデオ信号に基づいてビデオ・シグネチャ曲線(VSCr)を発生する。オプションとして、第2装置210は、組み込みの調整可能インライン・プログラム・オーディオ及び/又はビデオの遅延手段(図示せず)を有する。しかし、図1と異なり、マネージャーとして機能する第3装置がない。その代わり、装置205及び210の一方は、エージェント及びマネージャーの両方として機能する。
第1装置205がマネージャー及びエージェントとして機能する実施例において、この第1装置205は、(1)第2装置210からのASCr及びVSCrを収集し、(2)ASCo、VSCo、ASCr及びVSCrに基づいてディストリビューション・パス200により生じたAVプログラムの測定AV遅延を計算し、(3)オプションとして、第2装置210のインライン遅延を調整して、測定AV遅延を補正する。第2装置210がマネージャー及びエージェントの両方として作用する実施例において、(1)第1装置205からのASCo及びVSCoを収集し、(2)ASCo、VSCo、ASCr及びVSCrに基づいてディストリビューション・パス200により生じたAVプログラムの測定AV遅延を計算し、(3)オプションとして、第2装置210のインライン遅延を調整して測定AV遅延を補正する。いくつかの実施例において、第1装置205及び第2装置210は、必要に応じて、役割を変えて、マネージャー又はエージェントのいずれかとして機能する。
[ビデオ・シグネチャ曲線(VSC)の発生]
いくつかの実施例において、米国特許第6751360号明細書「高速ビデオ時間アライメント・エスカレーション」(以下、単に360特許という)に記載された方法を用いてビデオ・シグネチャ曲線VSCを発生する。この方法の概要は次の通りである。
まず、ビデオ・フレームのブロックにわたるイメージ又はビデオの各フレームの平均mfを計算する。
mf:=mean(Tf)
ここで、Tはイメージ又はビデオのフレームであり、fはフレームのブロックをスパンするフレーム・インデックスであり、meanは平均を意味する。次に、隣接するフレームの共分散(co-variance)を計算する。
Figure 0005852304
次に、オプションとして、正規化された差(最大値から最小値)を計算して、オーディオへのアライメントを決定するためにVSCに充分なACエネルギー又は時間的変動があるかを判断する。
Figure 0005852304
他の実施例において、隣接のフレームではなく、隣接するフレームの差で動作する改良方法(「フレーム差」方法)を用いて、VSCを発生する。この改良方法を次に説明する。
まず、フレーム差のシーケンスを計算する。
Tdf:=Tf-Tf-1
次に、隣接するフレーム差の共分散を計算する。
Figure 0005852304
有利な点として、フレーム差方法では、差分が平均をゼロに設定するので、上述の360特許に記載の方法のようにフレームの平均の計算を必要としない。これは、共分散の計算を簡略化する。
図3Aは、トーキング・ヘッド・ビデオ・シーケンス(ルミナンスのみ)の13フレームに対して360特許に記載の方法を用いて生成したVSC300を示す。図3Bは、同じ13フレームに対してフレーム差方法を用いて生成したVSC305を示す。フレーム差方法を用いて生成したVSC305は、オフセットがなく、伝送用に圧縮するのが容易になる点に留意されたい。
後述の如く、AV遅延を決定する期間中に、VSCoをVSCrと相互相関をとって、適切な時間アライメントのポイントを見つける。図4は、360特許の方法を用いて求めたVSCo及びVSCrの相互相関400と、フレーム差方法を用いて求めたVSCo及びVSCrの相互相関405とを示す。フレーム13での最大値410は、これがVSCo及びVSCrの間の最適時間アライメントのポイントであることを示す。図4を作成するのに用いた相互相関の方法は、便宜上、最大を1単位とするために、個別の標準偏差及びシーケンス長によって共分散を正規化することにより計算した共通ピアソン相関係数である点に留意されたい。VSCo及びVSCrの相互相関を実行する他の方法を用いて、最適な時間アライメントを見つけることができる。フレーム差方法を用いて生成した相互相関405は、360特許の方法を用いて生成した相互相関400よりも幅が狭くサイド・ローブが低いので、時間分解能が改善される点に留意されたい。
VSCを発生するこれら両方の方法の利点は、プログラム・ビデオ信号は、大幅に圧縮可能で、ノイズが多くてもよく、回転でき、スケーリングでき、ストレッチでき、クロップでき、コントラスト/明るさを調整でき、又はグラフィック・オーバーレイでマスクできる。また、VSCo及びVSCr相互相関は、宛先ポイントにて1フレーム未満に予め整列(アライメント)できる。
[オーディオ・シグネチャ曲線(ASC)の発生]
図5は、上述のAVDC100型に用いるASCを発生する装置及び方法のブロック図を示す。オーディオ信号の左チャネルは、第1バンドパス・フィルタ(BPF)500により濾波される。次に、第1包絡線検出器505を用いて、濾波済み左チャネルの包絡線を検出する。同様に、オーディオ信号の右チャネルを第2バンドパス・フィルタ(BPF)510で濾波する。第2包絡線検出器515を用いて、濾波済み右チャネルの包絡線を検出する。次に、加算器520により、左チャネルの包絡線及び右チャネルの包絡線を互いに加算する。この加算結果の和は、10Hzのロウパス・フィルタ(LPF)525により濾波され、サンプラ530によりフレーム又はフィールドのレートでサンプリングされて、ASCを発生する。
図6は、図5で説明した装置及び方法を用いて、スピーチ600及びこれから導出したASC605の2つの2次ロング・サンプルを示す。ASCがVSCと同じレート(フィールド又はフレーム)でサンプリングされる点に留意されたい。
[AV遅延の決定]
エージェントは、対応するASC及びVSCを生成するのと同じ順序の対としてこれらASC及びVSCを蓄積することにより、AVプログラム用のオーディオ対ビデオ関係を設定する。一緒にサンプリングしたAVSCは、複素数と考えられる。ここで、実数部分は、一方の成分に対応し、虚数部分は、他方の成分に対応する。例えば、実数部分は、VSCフレーム・サンプルに対応し、虚数部分は、同時点のASCフレーム・サンプルに対応するか、又はその逆である。
図7は、測定AV遅延を計算する方法の流れ図である。マネージャーは、以下のように、ASCo、VSCo、ASCr及びVSCrを処理して、測定AV遅延を計算する。まず、ステップ700において、マネージャーは、VSCrとVSCoの相互相関により、受信したビデオ信号を分配したビデオ信号に整列されて(ビデオ対ビデオ)、その結果の最大値を探す。この最大値の位置が、適切な時間アライメントのポイントを示す。ビデオ・アライメントの結果は、ビデオ・アライメント・オフセット(上述の例では13フレーム)である。次に、ステップ705において、マネージャーは、ASCrとASCoの相互相関により、受信したオーディオ信号を分配したオーディオ信号に整列させて(オーディオ対オーディオ)、その結果の最大値を見つける。この最大値の位置が、適切な時間アライメントのポイントを示す。オーディオ・アライメントの結果は、オーディオ・アライメント・オフセットである。最後に、ステップ710において、ビデオ・アライメント・オフセット及びオーディオ・アライメント・オフセットの間の差(正又は負)として、測定AV遅延を計算する。ビデオ対ビデオ・アライメントの前にオーディオ対オーディオ・アライメントを実行しても同様な結果が得られることが理解できよう。また、代わりに、オーディオ・アライメント・オフセット及びビデオ・アライメント・オフセットの間の差としてAV遅延を計算して、負であるが同様な結果を得ることが理解できよう。いくつかの実施例において、正規化した相関係数を用いて、結果から受信利得エラーの影響及びオーディオ緩和影響を除去できる。AV遅延をフレーム数として計算するので、AV遅延測定の分解能は1フレームである。さらに、いくつかの実施例において、VSCo及びVSCrを補間して、サブ・フレーム分解能を得る。
[追加の実施例]
たった1つの宛先ポイントを有するものとしてディストリビューション・パス100及び200を示したが、ディストリビューション・パスは、多数のディストリビューション・ポイント(即ち、多数の出力)を有してもよい。これらの場合、システム(装置)は、各ディストリビューション・ポイントに配置された1つのエージェントを有し、これらエージェントの全てが単一のマネージャーに管理されてもよい。ディストリビューション・パスは、開始ポイント及び宛先ポイントの間のディストリビューション・パスに沿って1つ以上の中間ポイントを有してもよい。これらの場合、システムは、中間ポイントにてAV遅延を測定し補正できるように、各中間ポイントに配置されたエージェントを有する。
いくつかの実施例において、エージェントは、AV対のSCにタイムスタンプを付し、これらを信号源(ソース)にてプログラムID名としてラベルを付して蓄積する。ストリーミング・メディアに対して、各表示ポイントにて発生したSCを蓄積してタイムスタンプを付すか、又は同様にIDラベルを付すことができる。
いくつかの実施例において、オーディオ包絡線及びフレーム差ACエネルギーの両方がプリセットしきい値を超えない限り、ASCo及びVSCoが捕捉されない。このように、簡単に相互相関をとって時間アライメントを達成できるシグネチャのみを送る。(ACエネルギーが小さいと、ビデオの動き又は破裂音のオーディオがないので、もはやリップ・シンクを調整する必要がない点に留意されたい。)
いくつかの実施例において、長期間(数分又は数時間)にわたってシグネチャ曲線にタイムスタンプを付し蓄積して、ディストリビューション・パスの遅延が非常に長くても相関を行えるようにする。
いくつかの実施例において、低い相関が生じた場合、調整的なAV遅延補正を所定時間だけ休止するように設定し、所定プリセット値に戻すことができる。計算したAV遅延も濾波して(中間値又は平均値)、これら値を用いてAV値を補正する前に、スプリアス値を除去できる。
いくつかの実施例において、SCにタイムスタンプを付す他に、資料ID用の他のメタデータをマネージャー又はエージェントに送ることができる。
SCの相互相関を任意のオフセットに対して連続的に1に近づけないと、受信したオーディオ又はビデオが誤ったプログラムになるかもしれない。よって、いくつかの実施例において、セパレート・データ・パスを介して、内容識別及びプログラム再生確認を行い、モニタする。
いくつかの実施例において、マネージャーが、AV遅延測定及び補正値を遠隔でモニタし、遅延補正値を手動で無視できる。
いくつかの実施例において、SNMPデータを認証用にコード化し、非公開として、未承認使用又は干渉を防止できる。
ここで説明したエージェント及びマネージャーは、プロセッサを有する。このプロセッサはハードディスク、ソフトウェア又はこれら2つの組合せにより実現でき、汎用プロセッサ、デジタル信号プロセッサ(DSP)、用途特定集積回路(ASIC)、フィールド・プログラマブル・ゲート・アレイ(FPGA)などで構成及び/又は実行できることが理解できよう。
本発明は、ビデオ試験測定機器の分野にて顕著な利点を有することが上述から理解できよう。説明のために本発明の特定実施例を図示し説明したが、本発明の要旨を逸脱することなく種々の変更を可能なことが理解できよう。
100、200 ディストリビューション・パス
105 エージェント(入力装置)
110 エージェント
115、215 セパレート・データ・パス
120 マネージャー
205 エージェント/マネージャー(入力装置)
210 エージェント/マネージャー
300、305 VSC
400 従来の方法を用いて求めたVSCo及びVSCrの相互相関
405 本発明によるフレーム差方法を用いて求めたVSCo及びVSCrの相互相関
410 最大値
500、510 バンドパス・フィルタ
505、515 包絡線検出器
520 加算器
525 10Hzロウパス・フィルタ
600 スピーチ
605 スピーチから導出したASC

Claims (2)

  1. ディストリビューション・パスに沿ったポイントにて、オーディオ信号及びビデオ信号を有するオーディオ/ビデオ(AV)プログラムを受ける入力装置と、
    上記オーディオ信号を処理してオーディオ・シグネチャ曲線を発生すると共に、上記ビデオ信号を処理してビデオ・シグネチャ曲線を発生するプロセッサとを具え、
    上記プロセッサが、
    上記オーディオ信号の左チャネルを濾波して濾波済み左チャネルを発生させる第1バンドパス・フィルタと、
    上記濾波済み左チャネルの包絡線を検出する第1包絡線検出器と、
    上記オーディオ信号の右チャネルを濾波して濾波済み右チャネルを発生させる第2バンドパス・フィルタと、
    上記濾波済み右チャネルの包絡線を検出する第2包絡線検出器と、
    上記濾波済み左チャネルの包絡線及び上記濾波済み右チャネルの包絡線を加算して加算結果を発生させる加算器と、
    上記加算結果を濾波して濾波済み加算結果を発生させるロウパス・フィルタと、
    上記フレーム又はフィールドのレートで上記濾波済み加算結果をサンプリングして上記オーディオ・シグネチャ曲線を発生させるサンプラと、
    上記ビデオ信号の隣接フレーム差の共分散に基づいて上記ビデオ・シグネチャ曲線の各ポイントを発生させる手段と
    を具えるシグネチャ曲線発生装置。
  2. ディストリビューション・パスに沿ったポイントにて、オーディオ信号及びビデオ信号を有するオーディオ/ビデオ(AV)プログラムを受けるステップと、
    上記オーディオ信号に基づいてオーディオ・シグネチャ曲線を発生すると共に、上記ビデオ信号に基づいてビデオ・シグネチャ曲線を発生するステップとを具え、
    上記オーディオ・シグネチャ曲線を、
    上記オーディオ信号の左チャネルを濾波して濾波済み左チャネルを発生させる処理と、
    上記濾波済み左チャネルの包絡線を検出する処理と、
    上記オーディオ信号の右チャネルを濾波して濾波済み右チャネルを発生させる処理と、
    上記濾波済み左チャネルの包絡線及び上記濾波済み右チャネルの包絡線を加算して加算結果を発生させる処理と、
    上記加算結果を濾波して濾波済み加算結果を発生させる処理と、
    上記フレーム又はフィールドのレートで上記濾波済み加算結果をサンプリングして上記オーディオ・シグネチャ曲線を発生させる処理とによって発生させ、
    上記ビデオ・シグネチャ曲線の各ポイントを、上記ビデオ信号の隣接フレーム差の共分散に基づいて発生させることを特徴とするシグネチャ曲線発生方法。
JP2010226969A 2009-10-25 2010-10-06 シグネチャ曲線発生装置及び方法 Expired - Fee Related JP5852304B2 (ja)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US25473309P 2009-10-25 2009-10-25
US61/254,733 2009-10-25
US12/892,836 2010-09-28
US12/892,836 US8436939B2 (en) 2009-10-25 2010-09-28 AV delay measurement and correction via signature curves

Publications (2)

Publication Number Publication Date
JP2011091798A JP2011091798A (ja) 2011-05-06
JP5852304B2 true JP5852304B2 (ja) 2016-02-03

Family

ID=43589876

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010226969A Expired - Fee Related JP5852304B2 (ja) 2009-10-25 2010-10-06 シグネチャ曲線発生装置及び方法

Country Status (4)

Country Link
US (1) US8436939B2 (ja)
EP (1) EP2315455B1 (ja)
JP (1) JP5852304B2 (ja)
CN (1) CN102244805B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7191762B2 (ja) 2019-04-17 2022-12-19 東日本旅客鉄道株式会社 仮設防雪柵

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130243408A1 (en) * 2011-09-13 2013-09-19 Cinegenix Llc Video recording system
US9479762B2 (en) * 2011-12-05 2016-10-25 Tektronix, Inc. Stereoscopic video temporal frame offset measurement
US10158927B1 (en) * 2012-09-05 2018-12-18 Google Llc Systems and methods for detecting audio-video synchronization using timestamps
KR102531634B1 (ko) * 2018-08-10 2023-05-11 삼성전자주식회사 오디오 장치 및 그 제어방법
US11632582B2 (en) * 2020-02-13 2023-04-18 Ssimwave, Inc. Distributed measurement of latency and synchronization delay between audio/video streams

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2561996B2 (ja) * 1993-05-27 1996-12-11 讀賣テレビ放送株式会社 映像信号と音声信号間の時間ずれ調整装置
JPH0993615A (ja) * 1995-09-25 1997-04-04 Nippon Hoso Kyokai <Nhk> 映像と音声の時間差測定方法
US6836295B1 (en) * 1995-12-07 2004-12-28 J. Carl Cooper Audio to video timing measurement for MPEG type television systems
US6211919B1 (en) * 1997-03-28 2001-04-03 Tektronix, Inc. Transparent embedment of data in a video signal
US6480902B1 (en) * 1999-05-25 2002-11-12 Institute For Information Industry Intermedia synchronization system for communicating multimedia data in a computer network
US6751360B1 (en) 2000-11-14 2004-06-15 Tektronix, Inc. Fast video temporal alignment estimation
US6753925B2 (en) * 2001-03-30 2004-06-22 Tektronix, Inc. Audio/video processing engine
US7212248B2 (en) * 2002-09-09 2007-05-01 The Directv Group, Inc. Method and apparatus for lipsync measurement and correction
DE10354973B3 (de) * 2003-11-25 2005-06-16 Rundfunk Berlin-Brandenburg (RBB), Anstalt des öffentlichen Rechts Verfahren zum Ermitteln von Laufzeitunterschieden zwischen Bild- und Tonsignalen auf Fernseh-Übertragungsstrecken
WO2005081829A2 (en) * 2004-02-26 2005-09-09 Mediaguide, Inc. Method and apparatus for automatic detection and identification of broadcast audio or video programming signal
WO2005099251A1 (en) * 2004-04-07 2005-10-20 Koninklijke Philips Electronics N.V. Video-audio synchronization
KR100875592B1 (ko) * 2005-03-18 2008-12-23 후지쯔 가부시끼가이샤 영상 장치에서의 영상 신호와 음성 신호와의 동기 제어방법 및 장치
DE102005014477A1 (de) * 2005-03-30 2006-10-12 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung und Verfahren zum Erzeugen eines Datenstroms und zum Erzeugen einer Multikanal-Darstellung
US8259806B2 (en) * 2006-11-30 2012-09-04 Dolby Laboratories Licensing Corporation Extracting features of video and audio signal content to provide reliable identification of the signals
WO2009008745A2 (en) * 2007-07-06 2009-01-15 Industrial Research Limited Laser speckle imaging systems and methods
GB2457694B (en) * 2008-02-21 2012-09-26 Snell Ltd Method of Deriving an Audio-Visual Signature
CN102177726B (zh) * 2008-08-21 2014-12-03 杜比实验室特许公司 用于音频和视频签名生成和检测的特征优化和可靠性估计

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7191762B2 (ja) 2019-04-17 2022-12-19 東日本旅客鉄道株式会社 仮設防雪柵

Also Published As

Publication number Publication date
EP2315455A2 (en) 2011-04-27
EP2315455B1 (en) 2017-12-06
JP2011091798A (ja) 2011-05-06
CN102244805A (zh) 2011-11-16
EP2315455A3 (en) 2014-06-11
CN102244805B (zh) 2016-07-27
US8436939B2 (en) 2013-05-07
US20110096173A1 (en) 2011-04-28

Similar Documents

Publication Publication Date Title
JP5852304B2 (ja) シグネチャ曲線発生装置及び方法
US7593061B2 (en) Method and apparatus for measuring and/or correcting audio/visual synchronization
US20080079851A1 (en) Audio video timing measurement and synchronization
US7423978B2 (en) Delivery of streaming media
Garg et al. “Seeing” ENF: power-signature-based timestamp for digital multimedia via optical sensing and signal processing
EP1468416B1 (fr) Procede d&#39;evaluation qualitative d&#39;un signal audio numerique.
US8677437B2 (en) Systems and methods for calculating the delay between media signals
JP2006251676A (ja) 振幅変調を用いた音響信号への電子透かしデータの埋め込み・検出装置
US20130057761A1 (en) Audio video offset detector
US20140114456A1 (en) Methods and Systems for Clock Correction and/or Synchronization for Audio Media Measurement Systems
JP2011232754A (ja) オーディオ透かしデコーディングを遂行する方法、装置及び製造物品
CN108712666B (zh) 一种基于互动音频水印的移动终端与电视互动方法与系统
EP2337328A1 (en) Method, system and apparatus for processing 3d audio signal
WO2007049451A1 (ja) 映像と音声のずれ時間を、高精度かつ簡便に計測する方法および計測装置
Thompson et al. Binaural processing of modulated interaural level differences
WO2019081649A1 (en) METHOD FOR DETERMINING THE QUALITY OF VOICE DATA WITH TRANSMISSION VIA A NETWORK, METHOD AND APPARATUS FOR REALIZING A TELEPHONE CALL
CN105554590B (zh) 一种基于音频指纹的直播流媒体识别系统
EP1387514A2 (en) Signal comparison method and apparatus
Piotrowski et al. Fidelity estimation of watermarked audio signals according to the itu-r bs. 1116-1 standard
US7587015B2 (en) Asynchronous digital data capture
Peltoketo Objective verification of audio-video synchronization
FR2984581A1 (fr) Methode pour mesurer une distorsion causee par un appareil audionumerique
Papp et al. Real-time AV synchronization delay measurement for multimedia devices
WO2023076566A1 (en) Method for time aligning in-band on-channel digital radio audio with fm radio audio
Kondo et al. On a Synchronization Method for Audio Watermarks Robust Against Aerial Transmission Using Embedded Random Synchronization Pattern

Legal Events

Date Code Title Description
A625 Written request for application examination (by other person)

Free format text: JAPANESE INTERMEDIATE CODE: A625

Effective date: 20121219

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20131213

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140128

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20140425

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20140501

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20140528

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20140602

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20140627

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20140702

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140728

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140819

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20141119

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20141125

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20141219

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20141225

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20150116

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150219

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20150317

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150716

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150805

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20150811

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20151104

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20151204

R150 Certificate of patent or registration of utility model

Ref document number: 5852304

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees