JP5383520B2 - 映像フレーム及び音声フレームとの間の同期外れを補正する中継装置、プログラム、システム及び方法 - Google Patents
映像フレーム及び音声フレームとの間の同期外れを補正する中継装置、プログラム、システム及び方法 Download PDFInfo
- Publication number
- JP5383520B2 JP5383520B2 JP2010003978A JP2010003978A JP5383520B2 JP 5383520 B2 JP5383520 B2 JP 5383520B2 JP 2010003978 A JP2010003978 A JP 2010003978A JP 2010003978 A JP2010003978 A JP 2010003978A JP 5383520 B2 JP5383520 B2 JP 5383520B2
- Authority
- JP
- Japan
- Prior art keywords
- frame
- video
- audio
- video frame
- synchronization
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Details Of Television Systems (AREA)
Description
他の装置から受信した映像フレームを一時的に蓄積する映像バッファ手段と、
他の装置から受信した音声フレームを一時的に蓄積する音声バッファ手段と、
映像バッファ手段及び音声バッファ手段から映像フレーム及び音声フレームを出力させるバッファ出力制御手段と、
映像フレームに、当該中継装置の現同期情報をメタデータとして含める映像メタデータ挿入手段と、
音声フレームに、当該中継装置の現同期情報をメタデータとして含める音声メタデータ挿入手段と、
映像フレームについて、現同期情報と、1つ前のホップで付加された前同期情報とを比較して、映像フレームの同期差分を検出する映像同期差分検知手段と、
音声フレームについて、現同期情報と、1つ前のホップで付加された前同期情報とを比較して、音声フレームの同期差分を検出する音声同期差分検知手段と、
映像フレーム/音声フレームの同期差分が音声フレーム/映像フレームの同期差分よりも大きい場合、音声フレーム/映像フレームを、映像フレーム/音声フレームと同期が一致するように遅延させるべくバッファ制御手段を制御する同期差分補正手段と
を有することを特徴とする。
現時刻を出力するタイマ手段を更に含んでおり、
同期情報は、時刻であり、
映像メタデータ挿入手段は、映像フレームのメタデータに、タイマ手段から出力された同一時刻に基づく現同期情報を含め、
音声メタデータ挿入手段は、音声フレームのメタデータに、タイマ手段から出力された同一時刻に基づく現同期情報を含める
ことも好ましい。
映像フレームから特徴量を検出する映像特徴量検出手段と、
音声フレームから特徴量を検出する音声特徴量検出手段と
を更に有し、
同期情報は、特徴量であり、
映像メタデータ挿入手段は、映像フレームのメタデータに、映像特徴量検出手段から出力された特徴量に基づく現同期情報を含め、
音声メタデータ挿入手段は、音声フレームのメタデータに、音声特徴量検出手段から出力された特徴量に基づく現同期情報を含める
ことも好ましい。
同期差分補正手段は、現時刻tにおける両フレームの同期差分を補正する際に、映像バッファ手段及び音声バッファ手段に蓄積された過去時刻t-nにおける両フレームを、現時刻tにおける映像フレーム又は音声フレームに対する遅延量よりも小さい遅延量で、両バッファ制御手段が両フレームを出力するべく制御することも好ましい。
送信装置は、
映像フレームに、当該中継装置の現同期情報をメタデータとして含める映像メタデータ挿入手段と、
音声フレームに、当該中継装置の現同期情報をメタデータとして含める音声メタデータ挿入手段と、
映像バッファ手段及び音声バッファ手段から映像フレーム及び音声フレームを出力させるバッファ制御手段と
を有し、
受信装置は、
他の装置から受信した映像フレームを一時的に蓄積する映像バッファ手段と、
他の装置から受信した音声フレームを一時的に蓄積する音声バッファ手段と、
映像バッファ手段及び音声バッファ手段から映像フレーム及び音声フレームを出力させるバッファ制御手段と、
映像フレームについて、現同期情報と、1つ前のホップで付加された前同期情報とを比較して、映像フレームの同期差分を検出する映像同期差分検知手段と、
音声フレームについて、現同期情報と、1つ前のホップで付加された前同期情報とを比較して、音声フレームの同期差分を検出する音声同期差分検知手段と、
映像フレーム/音声フレームの同期差分が音声フレーム/映像フレームの同期差分よりも大きい場合、音声フレーム/映像フレームを、映像フレーム/音声フレームと同期が一致するように遅延させるべくバッファ制御手段を制御する同期差分補正手段と
を有することを特徴とする。
送信装置は、送信装置又は中継装置であり、
受信装置は、中継装置又は受信装置であることも好ましい。
送信装置が、映像フレームに、当該中継装置の現同期情報をメタデータとして含めると共に、音声フレームに、当該中継装置の現同期情報をメタデータとして含める第1のステップと、
送信装置が、同期する映像フレーム及び音声フレームを伝送する第2のステップと、
受信装置が、他の装置から受信した映像フレームを映像バッファ部に一時的に蓄積すると共に、他の装置から受信した音声フレームを音声バッファ部に一時的に蓄積する第3のステップと、
受信装置が、映像フレームについて、現同期情報と、1つ前のホップで付加された前同期情報とを比較して、映像フレームの同期差分を検出すると共に、音声フレームについて、現同期情報と、1つ前のホップで付加された前同期情報とを比較して、音声フレームの同期差分を検出する第4のステップと、
受信装置が、映像フレーム/音声フレームの同期差分が音声フレーム/映像フレームの同期差分よりも大きい場合、音声フレーム/映像フレームを、映像フレーム/音声フレームと同期が一致するように遅延させる第5のステップと、
受信装置が、映像バッファ部及び音声バッファ部から映像フレーム及び音声フレームを出力する第6のステップと
を有することを特徴とする。
Information)がある。また、音声フレームにおける特徴量として、音声同相情報AII(Audio In-phase Information)、音声逆相情報AOI(Audio Out-phase Information)及び/又は音声振幅情報AMI(Audio Magnitude Information)がある。中継装置aは、現同期情報のメタデータを挿入した映像フレーム及び音声フレームを、同期がとれた状態で、中継装置bへ送信する。
100 入力インタフェース部
101 出力インタフェース部
111 映像バッファ部
112 映像特徴量検出部
113 映像メタデータ挿入部
114 映像同期差分検知部
121 音声バッファ部
122 音声特徴量検出部
123 音声メタデータ挿入部
124 音声同期差分検知部
131 タイマ部
132 同期差分補正部
133 バッファ出力制御部
2 送信装置
3 受信装置
Claims (8)
- 映像フレームと、該映像フレームに同期する音声フレームとを伝送する中継装置において、
他の装置から受信した映像フレームを一時的に蓄積する映像バッファ手段と、
他の装置から受信した音声フレームを一時的に蓄積する音声バッファ手段と、
前記映像バッファ手段及び前記音声バッファ手段から前記映像フレーム及び前記音声フレームを出力させるバッファ出力制御手段と、
前記映像フレームに、当該中継装置の現同期情報をメタデータとして含める映像メタデータ挿入手段と、
前記音声フレームに、当該中継装置の現同期情報をメタデータとして含める音声メタデータ挿入手段と、
前記映像フレームについて、現同期情報と、1つ前のホップで付加された前同期情報とを比較して、映像フレームの同期差分を検出する映像同期差分検知手段と、
前記音声フレームについて、現同期情報と、1つ前のホップで付加された前同期情報とを比較して、音声フレームの同期差分を検出する音声同期差分検知手段と、
前記映像フレーム/音声フレームの同期差分が前記音声フレーム/映像フレームの同期差分よりも大きい場合、前記音声フレーム/映像フレームを、前記映像フレーム/音声フレームと同期が一致するように遅延させるべく前記バッファ制御手段を制御する同期差分補正手段と
を有することを特徴とする中継装置。 - 現時刻を出力するタイマ手段を更に含んでおり、
前記同期情報は、時刻であり、
前記映像メタデータ挿入手段は、前記映像フレームのメタデータに、前記タイマ手段から出力された同一時刻に基づく現同期情報を含め、
前記音声メタデータ挿入手段は、前記音声フレームのメタデータに、前記タイマ手段から出力された同一時刻に基づく現同期情報を含める
ことを特徴とする請求項1に記載の中継装置。 - 映像フレームから特徴量を検出する映像特徴量検出手段と、
音声フレームから特徴量を検出する音声特徴量検出手段と
を更に有し、
前記同期情報は、特徴量であり、
前記映像メタデータ挿入手段は、前記映像フレームのメタデータに、前記映像特徴量検出手段から出力された特徴量に基づく現同期情報を含め、
前記音声メタデータ挿入手段は、前記音声フレームのメタデータに、前記音声特徴量検出手段から出力された特徴量に基づく現同期情報を含める
ことを特徴とする請求項1に記載の中継装置。 - 前記同期差分補正手段は、現時刻tにおける両フレームの同期差分を補正する際に、前記映像バッファ手段及び前記音声バッファ手段に蓄積された過去時刻t-nにおける両フレームを、現時刻tにおける前記映像フレーム又は前記音声フレームに対する遅延量よりも小さい遅延量で、前記両バッファ制御手段が両フレームを出力するべく制御することによって、フレーム間に生じる一時的に長い時間的隔たりを、前方の任意のフレーム間に分散させることを特徴とする請求項1から3のいずれか1項に記載の中継装置。
- 映像フレームと、該映像フレームに同期する音声フレームとを伝送する中継装置に搭載されたコンピュータを機能させるプログラムにおいて、
他の装置から受信した映像フレームを一時的に蓄積する映像バッファ手段と、
他の装置から受信した音声フレームを一時的に蓄積する音声バッファ手段と、
前記映像バッファ手段及び前記音声バッファ手段から前記映像フレーム及び前記音声フレームを出力させるバッファ出力制御手段と、
前記映像フレームに、当該中継装置の現同期情報をメタデータとして含める映像メタデータ挿入手段と、
前記音声フレームに、当該中継装置の現同期情報をメタデータとして含める音声メタデータ挿入手段と、
前記映像フレームについて、現同期情報と、1つ前のホップで付加された前同期情報とを比較して、映像フレームの同期差分を検出する映像同期差分検知手段と、
前記音声フレームについて、現同期情報と、1つ前のホップで付加された前同期情報とを比較して、音声フレームの同期差分を検出する音声同期差分検知手段と、
前記映像フレーム/音声フレームの同期差分が前記音声フレーム/映像フレームの同期差分よりも大きい場合、前記音声フレーム/映像フレームを、前記映像フレーム/音声フレームと同期が一致するように遅延させるべく前記バッファ制御手段を制御する同期差分補正手段と
してコンピュータを機能させることを特徴とする中継装置用のプログラム。 - 送信装置及び受信装置を有し、映像フレームと、前記映像フレームに同期する音声フレームとを伝送するシステムにおいて、
前記送信装置は、
前記映像フレームに、当該中継装置の現同期情報をメタデータとして含める映像メタデータ挿入手段と、
前記音声フレームに、当該中継装置の現同期情報をメタデータとして含める音声メタデータ挿入手段と、
前記映像バッファ手段及び前記音声バッファ手段から前記映像フレーム及び前記音声フレームを出力させるバッファ制御手段と
を有し、
前記受信装置は、
他の装置から受信した映像フレームを一時的に蓄積する映像バッファ手段と、
他の装置から受信した音声フレームを一時的に蓄積する音声バッファ手段と、
前記映像バッファ手段及び前記音声バッファ手段から前記映像フレーム及び前記音声フレームを出力させるバッファ制御手段と、
前記映像フレームについて、現同期情報と、1つ前のホップで付加された前同期情報とを比較して、映像フレームの同期差分を検出する映像同期差分検知手段と、
前記音声フレームについて、現同期情報と、1つ前のホップで付加された前同期情報とを比較して、音声フレームの同期差分を検出する音声同期差分検知手段と、
前記映像フレーム/音声フレームの同期差分が前記音声フレーム/映像フレームの同期差分よりも大きい場合、前記音声フレーム/映像フレームを、前記映像フレーム/音声フレームと同期が一致するように遅延させるべく前記バッファ制御手段を制御する同期差分補正手段と
を有することを特徴とするシステム。 - 前記送信装置は、送信装置又は中継装置であり、
前記受信装置は、中継装置又は受信装置である
ことを特徴とする請求項6に記載のシステム。 - 送信装置と受信装置とを有するシステムであって、映像フレームと、前記映像フレームに同期する音声フレームとを伝送する伝送方法において、
前記送信装置が、前記映像フレームに、当該中継装置の現同期情報をメタデータとして含めると共に、前記音声フレームに、当該中継装置の現同期情報をメタデータとして含める第1のステップと、
前記送信装置が、同期する映像フレーム及び音声フレームを伝送する第2のステップと、
前記受信装置が、他の装置から受信した映像フレームを映像バッファ部に一時的に蓄積すると共に、他の装置から受信した音声フレームを音声バッファ部に一時的に蓄積する第3のステップと、
前記受信装置が、前記映像フレームについて、現同期情報と、1つ前のホップで付加された前同期情報とを比較して、映像フレームの同期差分を検出すると共に、前記音声フレームについて、現同期情報と、1つ前のホップで付加された前同期情報とを比較して、音声フレームの同期差分を検出する第4のステップと、
前記受信装置が、前記映像フレーム/音声フレームの同期差分が前記音声フレーム/映像フレームの同期差分よりも大きい場合、前記音声フレーム/映像フレームを、前記映像フレーム/音声フレームと同期が一致するように遅延させる第5のステップと、
前記受信装置が、前記映像バッファ部及び前記音声バッファ部から前記映像フレーム及び前記音声フレームを出力する第6のステップと
を有することを特徴とする伝送方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010003978A JP5383520B2 (ja) | 2010-01-12 | 2010-01-12 | 映像フレーム及び音声フレームとの間の同期外れを補正する中継装置、プログラム、システム及び方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010003978A JP5383520B2 (ja) | 2010-01-12 | 2010-01-12 | 映像フレーム及び音声フレームとの間の同期外れを補正する中継装置、プログラム、システム及び方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2011146783A JP2011146783A (ja) | 2011-07-28 |
JP5383520B2 true JP5383520B2 (ja) | 2014-01-08 |
Family
ID=44461278
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010003978A Expired - Fee Related JP5383520B2 (ja) | 2010-01-12 | 2010-01-12 | 映像フレーム及び音声フレームとの間の同期外れを補正する中継装置、プログラム、システム及び方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5383520B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11228799B2 (en) | 2019-04-17 | 2022-01-18 | Comcast Cable Communications, Llc | Methods and systems for content synchronization |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012244413A (ja) * | 2011-05-19 | 2012-12-10 | Nippon Hoso Kyokai <Nhk> | 信号監視装置およびプログラム、信号補正装置およびプログラム |
DE112013005221T5 (de) * | 2012-10-30 | 2015-08-20 | Mitsubishi Electric Corporation | Audio/Video-Reproduktionssystem, Video-Anzeigevorrichtung und Audio-Ausgabevorrichtung |
CN111641858A (zh) * | 2020-04-29 | 2020-09-08 | 上海推乐信息技术服务有限公司 | 一种音视频同步方法及系统 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4059597B2 (ja) * | 1999-07-06 | 2008-03-12 | 三洋電機株式会社 | 映像音声送受信装置 |
JP4313522B2 (ja) * | 2001-07-30 | 2009-08-12 | 日本放送協会 | リップシンク制御装置 |
JP2004242130A (ja) * | 2003-02-07 | 2004-08-26 | Nippon Hoso Kyokai <Nhk> | 映像・音声伝送時間差測定用の信号発生装置およびその方法、並びに信号解析装置およびその方法 |
JP2007312192A (ja) * | 2006-05-19 | 2007-11-29 | Oki Electric Ind Co Ltd | リップシンク評価装置、及びリップシンク調整装置 |
JP2008131591A (ja) * | 2006-11-24 | 2008-06-05 | Toshiba Corp | リップシンク制御装置及びリップシンク制御方法 |
-
2010
- 2010-01-12 JP JP2010003978A patent/JP5383520B2/ja not_active Expired - Fee Related
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11228799B2 (en) | 2019-04-17 | 2022-01-18 | Comcast Cable Communications, Llc | Methods and systems for content synchronization |
Also Published As
Publication number | Publication date |
---|---|
JP2011146783A (ja) | 2011-07-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN101827271B (zh) | 音频视频同步方法、装置以及数据接收终端 | |
JP4565011B2 (ja) | デジタル放送多重装置 | |
US8842218B2 (en) | Video/audio data output device and method | |
US10491944B2 (en) | Decoding device, reception device, transmission device, transmission/reception system, decoding method, and storage medium having decoding program stored therein | |
JP2008205979A (ja) | 放送データ変換装置 | |
JP2008271253A (ja) | ストリーム再生装置 | |
JP5383520B2 (ja) | 映像フレーム及び音声フレームとの間の同期外れを補正する中継装置、プログラム、システム及び方法 | |
US10523467B2 (en) | Transmission device, transmission method, reception device and reception method | |
US11128911B2 (en) | Decoding device, reception device, transmission device, transmission/reception system, decoding method, and storage medium having decoding program stored therein | |
JP2008236040A (ja) | ストリーム再生装置 | |
JP2008193151A (ja) | ストリーム記録装置 | |
KR100864009B1 (ko) | 오디오/비디오 동기화 방법 | |
JP6822407B2 (ja) | 受信装置、データ処理方法、及び、プログラム | |
CA2915022A1 (en) | Broadcasting transmission/reception apparatus and broadcasting transmission/reception method | |
JP4589355B2 (ja) | ストリーム再生装置 | |
KR100663565B1 (ko) | Pcr 및 데이터 레이트의 보정 장치 및 보정 방법 | |
JP6596363B2 (ja) | 時刻マッピング情報生成装置、同期再生システム、時刻マッピング情報生成方法及び時刻マッピング情報生成プログラム | |
JP6684433B2 (ja) | 送信装置、送信方法、並びに、プログラム | |
US10531136B2 (en) | Data processing device, data processing method, and program | |
JP5433245B2 (ja) | データ制御装置、データ制御システム、制御方法及びプログラム | |
KR101014575B1 (ko) | 디지털 방송 수신장치 및 수신방법 | |
JP2021005880A (ja) | 受信装置、および通信システム | |
JP2008016905A (ja) | コンテンツ送信装置、コンテンツ受信装置及びコンテンツ配信方法 | |
JP2017112453A (ja) | 多重化装置および多重化方法 | |
JP2005223452A (ja) | デジタル放送送信装置、デジタル放送受信装置、その方法およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20120809 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20130930 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20131001 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5383520 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |