JP5074834B2 - 音声・映像同期方法、音声・映像同期システム及び音声・映像受信端末 - Google Patents
音声・映像同期方法、音声・映像同期システム及び音声・映像受信端末 Download PDFInfo
- Publication number
- JP5074834B2 JP5074834B2 JP2007172297A JP2007172297A JP5074834B2 JP 5074834 B2 JP5074834 B2 JP 5074834B2 JP 2007172297 A JP2007172297 A JP 2007172297A JP 2007172297 A JP2007172297 A JP 2007172297A JP 5074834 B2 JP5074834 B2 JP 5074834B2
- Authority
- JP
- Japan
- Prior art keywords
- video
- audio
- time
- notification signal
- local
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Description
以下、本発明による音声・映像同期方法及び音声・映像同期システムを、テレビ電話システムに適用した一実施形態を、図面を参照しながら説明する。
この実施形態のテレビ電話システム1は、図2に示すように、2台のテレビ電話端末2A及び2Bが、IP網3を介して、音声信号及び映像信号を授受するものである。音声信号及び映像信号は、別個のパケットによって授受され、何らの対策がなされないと仮定した場合には、音声及び映像の同期がとれないシステムを前提としている。
次に、実施形態のテレビ電話システム1の動作、特に、受信側における音声と映像とを同期化させる動作(実施形態の音声・映像同期方法)を、図4を参照しながら詳述する。図4は、S1処理部33−1〜S5処理部33−5の処理をそれぞれ示す説明図である。テレビ電話システム1では、2つのテレビ電話端末2A及び2B間で双方向通信が実行されるが、以下では、テレビ電話端末2Aが送信側、テレビ電話端末2Bが受信側として説明する。
テレビ電話端末2BのS1処理部33−1は、音声に係るRTCPパケットを受信した場合には、定義された共通関数などを使用し、当該テレビ電話端末2Bが受信した時刻LOCAL_NTP_Aを求める。この受信時刻LOCAL_NTP_Aは、NTPを適用したものであるので、概ね正確なものである。
テレビ電話端末2BのS2処理部33−2は、処理S1を起動させたRTCPパケット受信時における音声処理部(ストリーミング受信部16及び音声解凍部17)の内部の処理待ちバッファを確認し、当該RTCPパケットヘッダ内のRTPタイムスタンプに対応するRTPパケットが、どのタイミングで再生されるのかを計算する。すなわち、RTPタイムスタンプに対応するRTPパケットの処理待ち時間Queue_Aを計算する。
テレビ電話端末2BのS3処理部33−3は、処理S1及びS2で得られた2つのパラメータLOCAL_NTP_A、Queue_Aと、受信したRTCPパケット内のNTPタイムスタンプREMOTE_NTP_Aとから、(1)式に示す時刻差分OFFSET_Aを算出する。
LOCAL_NTP_A−REMOTE_NTP_A+Queue_A (1)
受信したRTCPパケット内のNTPタイムスタンプREMOTE_NTP_Aは、送信側のテレビ電話端末2Aが送信した時刻を表しているので、(1)式におけるLOCAL_NTP_A−REMOTE_NTP_Aの部分は、IP網3での伝搬遅延に相当する。この伝搬遅延に、受信側のテレビ電話端末2Bにおける処理待ち時間Queue_Aを加算しているので、(1)式に示す時刻差分OFFSET_Aは、送信側のテレビ電話端末2AがRTPパケットを送信してから、受信側のテレビ電話端末2BがそのRTPパケットの処理を開始するまでの時刻差を表している。
テレビ電話端末2BのS4処理部33−4は、映像に係るRTCPパケットを受信した場合には、受信したRTCPヘッダ内の対向するテレビ電話端末2Aの送出時刻を表すNTPタイムスタンプREMOTE_NTP_VとRTPタイムスタンプREMOTE_RTP_Vとに対し、(2)式及び(3)式を実行し、その実行後の値を、映像処理部(ストリーミング受信部19及び映像解凍部20)に渡す。
LOCAL_RTP_V=REMOTE_RTP_V (3)
(2)式に示す時刻LOCAL_NTP_Vは、音声に係るRTCPパケットが送信されてから受信側でそのRTCPパケットの処理が開始されるまでの時間差分OFFSET_Aを、送信側のテレビ電話端末2Aが映像に係るRTCPパケットを送信した時点に加算したものであり、時刻LOCAL_NTP_Vに、受信した映像に係るRTCPパケットの処理を開始すると仮定すると、送信側のテレビ電話端末2AがRTCPパケットを送信した時点から、受信側のテレビ電話端末2BがRTCPパケットの処理を開始するまでの時間が、音声と映像とで同一時間となる。
テレビ電話端末2BのS5処理部33−5は、(2)式及び(3)式で求められた情報に基づき、映像処理部が同期処理を行うようにさせる。映像処理部は、対応するRTPパケットと、当該テレビ電話端末2Bの時刻情報を元に、映像の再生タイミングを同期させ、これにより、音声を基準とした映像同期を実現する。
上記実施形態によれば、受信側における音声及び映像の同期のために、送信側が行う処理は、RFC準拠のRTP/RTCPパケットを送信するだけで良く、既存の処理と同様である。そのため、送信側及び受信側の構成を備える端末の場合、音声及び映像の同期確立のための構成を小規模のものとすることができ、また、音声及び映像の同期確立のための処理を簡易にし得る。
上記実施形態では、本発明をテレビ電話システム(ピアツーピア接続の一例)に適用したものを示したが、テレビ会議システムなどの1対多通信にも、本発明を適用でき、音声を基準とした映像同期を実現することができる。
Claims (3)
- 音声・映像送信端末が音声・映像受信端末への音声信号及び映像信号を並行的にネットワークに送信し、上記音声・映像受信端末が、上記音声・映像送信端末からの音声信号及び映像信号を同期化させる音声・映像同期システムにおいて、
上記音声・映像送信端末は、
自己が有するローカル時計の時刻を含む音声についての音声ローカル時刻通知信号を上記音声・映像受信端末に向けて送信する音声ローカル時刻通知信号送信手段と、
ネットワークで調停済みの自己が有する調停済時計の時刻を含む音声についての調停済時刻通知信号を上記音声・映像受信端末に向けて送信する音声調停済時刻通知信号送信手段と、
自己が有するローカル時計の時刻を含む映像についてのローカル時刻通知信号を上記音声・映像受信端末に向けて送信する映像ローカル時刻通知信号送信手段と、
ネットワークで調停済みの自己が有する調停済時計の時刻を含む映像についての調停済時刻通知信号を上記音声・映像受信端末に向けて送信する映像調停済時刻通知信号送信手段とを備え、
上記音声・映像受信端末は、
上記音声調停済時刻通知信号が与えられたときに、ネットワークで調停済みの自己が有する調停済時計での受信時刻と、その通知信号での時刻と、上記音声ローカル時刻通知信号の当該音声・映像受信端末での再生タイミングに基づいて得た音声についての処理待ち時間とから、映像についてのオフセット時間を得る映像オフセット時間取得手段と、
上記映像調停済時刻通知信号が与えられたときに、自己が有する上記調停済時計での受信時刻を上記オフセット時間分だけ修正すると共に、上記映像ローカル時刻通知信号が与えられたときに、自己が有するローカル時計の時刻を、その通知信号での時刻に修正する映像時刻修正手段と、
上記映像時刻修正手段が修正した2種類の時刻に基づいて、上記音声・映像送信端末が送信した映像信号を、上記音声・映像送信端末が送信した音声信号に同期化させる処理を行う映像処理手段とを備える
ことを特徴とする音声・映像同期システム。 - 音声・映像送信端末が音声・映像受信端末への音声信号及び映像信号を並行的にネットワークに送信し、上記音声・映像受信端末が、上記音声・映像送信端末からの音声信号及び映像信号を同期化させる音声・映像同期方法において、
上記音声・映像送信端末は、音声ローカル時刻通知信号送信手段、音声調停済時刻通知信号送信手段、映像ローカル時刻通知信号送信手段及び映像調停済時刻通知信号送信手段を備え、
上記音声ローカル時刻通知信号送信手段は、自己が有するローカル時計の時刻を含む音声についての音声ローカル時刻通知信号を上記音声・映像受信端末に向けて送信し、
上記音声調停済時刻通知信号送信手段は、ネットワークで調停済みの自己が有する調停済時計の時刻を含む音声についての調停済時刻通知信号を上記音声・映像受信端末に向けて送信し、
上記映像ローカル時刻通知信号送信手段は、自己が有するローカル時計の時刻を含む映像についてのローカル時刻通知信号を上記音声・映像受信端末に向けて送信し、
上記映像調停済時刻通知信号送信手段は、ネットワークで調停済みの自己が有する調停済時計の時刻を含む映像についての調停済時刻通知信号を上記音声・映像受信端末に向けて送信すると共に、
上記音声・映像受信端末は、映像オフセット時間取得手段、映像時刻修正手段及び映像処理手段を備え、
上記映像オフセット時間取得手段は、上記音声調停済時刻通知信号が与えられたときに、ネットワークで調停済みの自己が有する調停済時計での受信時刻と、その通知信号での時刻と、上記音声ローカル時刻通知信号の当該音声・映像受信端末での再生タイミングに基づいて得た音声についての処理待ち時間とから、映像についてのオフセット時間を得、 上記映像時刻修正手段は、上記映像調停済時刻通知信号が与えられたときに、自己が有する上記調停済時計での受信時刻を上記オフセット時間分だけ修正すると共に、上記映像ローカル時刻通知信号が与えられたときに、自己が有するローカル時計の時刻を、その通知信号での時刻に修正し、
上記映像処理手段は、上記映像時刻修正手段が修正した2種類の時刻に基づいて、上記音声・映像送信端末が送信した映像信号を上記音声・映像送信端末が送信した音声信号に同期化させる処理を行う
ことを特徴とする音声・映像同期方法。 - 音声・映像送信端末が並行的にネットワークに送信した音声信号及び映像信号が与えられ、上記音声・映像送信端末からの音声信号及び映像信号を同期化させる音声・映像受信端末において、
対向する上記音声・映像送信端末が、
自己が有するローカル時計の時刻を含む音声についての音声ローカル時刻通知信号を上記音声・映像受信端末に向けて送信する音声ローカル時刻通知信号送信手段と、
ネットワークで調停済みの自己が有する調停済時計の時刻を含む音声についての調停済時刻通知信号を上記音声・映像受信端末に向けて送信する音声調停済時刻通知信号送信手段と、
自己が有するローカル時計の時刻を含む映像についてのローカル時刻通知信号を上記音声・映像受信端末に向けて送信する映像ローカル時刻通知信号送信手段と、
ネットワークで調停済みの自己が有する調停済時計の時刻を含む映像についての調停済時刻通知信号を上記音声・映像受信端末に向けて送信する映像調停済時刻通知信号送信手段とを備えたものであり、
自端末は、
上記音声調停済時刻通知信号が与えられたときに、ネットワークで調停済みの自己が有する調停済時計での受信時刻と、その通知信号での時刻と、上記音声ローカル時刻通知信号の当該音声・映像受信端末での再生タイミングに基づいて得た音声についての処理待ち時間とから、映像についてのオフセット時間を得る映像オフセット時間取得手段と、
上記映像調停済時刻通知信号が与えられたときに、自己が有する上記調停済時計での受信時刻を上記オフセット時間分だけ修正すると共に、上記映像ローカル時刻通知信号が与えられたときに、自己が有するローカル時計の時刻を、その通知信号での時刻に修正する映像時刻修正手段と、
上記映像時刻修正手段が修正した2種類の時刻に基づいて、上記音声・映像送信端末が送信した映像信号を上記音声・映像送信端末が送信した音声信号に同期化させる処理を行う映像処理手段とを備える
ことを特徴とする音声・映像受信端末。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007172297A JP5074834B2 (ja) | 2007-06-29 | 2007-06-29 | 音声・映像同期方法、音声・映像同期システム及び音声・映像受信端末 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007172297A JP5074834B2 (ja) | 2007-06-29 | 2007-06-29 | 音声・映像同期方法、音声・映像同期システム及び音声・映像受信端末 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2009010863A JP2009010863A (ja) | 2009-01-15 |
JP5074834B2 true JP5074834B2 (ja) | 2012-11-14 |
Family
ID=40325453
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007172297A Active JP5074834B2 (ja) | 2007-06-29 | 2007-06-29 | 音声・映像同期方法、音声・映像同期システム及び音声・映像受信端末 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5074834B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021159329A1 (zh) * | 2020-02-12 | 2021-08-19 | 深圳元戎启行科技有限公司 | 流媒体网络时延确定方法、装置、计算机设备、可读存储介质和远程驾驶系统 |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2013132541A1 (ja) * | 2012-03-09 | 2013-09-12 | ネクシオン株式会社 | 映像データ伝送システム |
US20160006526A1 (en) * | 2014-07-03 | 2016-01-07 | Qualcomm Incorporated | Systems and methods of network clock comparison |
CN113796090A (zh) * | 2019-05-10 | 2021-12-14 | 电影音频私人有限公司 | 用于将移动设备上的音频内容同步到分离的视觉显示系统的系统和方法 |
CN114697720B (zh) * | 2020-12-31 | 2023-11-07 | 北京易掌云峰科技有限公司 | 自适应音视频rtp时间戳的同步方法和装置 |
CN114584811B (zh) * | 2022-05-09 | 2022-07-22 | 江西师范大学 | 基于rtp协议的流媒体视频的同步方法及系统 |
JP7469525B1 (ja) | 2023-01-10 | 2024-04-16 | ソフトバンク株式会社 | 時刻調整システム、端末装置、およびサーバ装置 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0750818A (ja) * | 1993-08-06 | 1995-02-21 | Matsushita Electric Ind Co Ltd | 音声と映像のパケット同期転送制御方法 |
JP3063824B2 (ja) * | 1996-10-29 | 2000-07-12 | 日本電気株式会社 | オーディオ・ビデオ同期再生装置 |
JPH10271482A (ja) * | 1997-03-27 | 1998-10-09 | Nippon Telegr & Teleph Corp <Ntt> | 符号化映像の同期再生制御方法およびシステム |
JP4649091B2 (ja) * | 2002-01-30 | 2011-03-09 | 株式会社エヌ・ティ・ティ・ドコモ | 通信端末、サーバ装置、中継装置、放送通信システム、放送通信方法及びプログラム |
JP2006310964A (ja) * | 2005-04-26 | 2006-11-09 | Canon Inc | 通信端末装置及びその制御方法、並びにプログラム |
-
2007
- 2007-06-29 JP JP2007172297A patent/JP5074834B2/ja active Active
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021159329A1 (zh) * | 2020-02-12 | 2021-08-19 | 深圳元戎启行科技有限公司 | 流媒体网络时延确定方法、装置、计算机设备、可读存储介质和远程驾驶系统 |
Also Published As
Publication number | Publication date |
---|---|
JP2009010863A (ja) | 2009-01-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7843974B2 (en) | Audio and video synchronization | |
KR101354793B1 (ko) | 입력 오디오 스트림 및 입력 비디오 스트림을 동기화하는 방법, 복수의 컴퓨팅 장치에 걸쳐서 전송되고 있는 미디어 스트림들을 동기화하기 위한 시스템, 및 컴퓨터 판독가능 매체 | |
JP5074834B2 (ja) | 音声・映像同期方法、音声・映像同期システム及び音声・映像受信端末 | |
US7764713B2 (en) | Synchronization watermarking in multimedia streams | |
US9426423B2 (en) | Method and system for synchronizing audio and video streams in media relay conferencing | |
US8208460B2 (en) | Method and system for in-band signaling of multiple media streams | |
KR20100075656A (ko) | Mbms 세션으로 pss 세션을 재동기화하는 시스템 및 방법 | |
JP5267416B2 (ja) | 通信装置、通信装置の通信方法及び通信装置の通信制御プログラム | |
US6646674B1 (en) | TV telephone system | |
US20090021639A1 (en) | Audio and Video Communication | |
JP2008131591A (ja) | リップシンク制御装置及びリップシンク制御方法 | |
EP1998510B1 (en) | Encoded stream sending device | |
JP2015171065A (ja) | システムおよび方法 | |
JP4311176B2 (ja) | 映像音声通信システム | |
US20110078314A1 (en) | Signal processing device, signal processing program and communication system | |
JP2006238175A (ja) | 通信制御方法 | |
JP2007067826A (ja) | 音声動画通信システム及びデータ通信端末装置 | |
JP2005136675A (ja) | 映像音声送信装置及び映像音声受信装置 | |
JP2007081623A (ja) | 音声動画通信システム及びデータ通信端末装置 | |
WO2015136474A1 (en) | A non-intrusive method of sending the transmission configuration information from the transmitter to the receiver | |
JP2005286449A (ja) | データ送信装置 | |
JP2008085821A (ja) | 着信転送方法および着信転送システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20100316 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20101129 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120509 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120515 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120713 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120807 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120824 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5074834 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150831 Year of fee payment: 3 |