JP2002176643A - 映像・音声復号処理における映像・音声の同期再生方式 - Google Patents
映像・音声復号処理における映像・音声の同期再生方式Info
- Publication number
- JP2002176643A JP2002176643A JP2000372026A JP2000372026A JP2002176643A JP 2002176643 A JP2002176643 A JP 2002176643A JP 2000372026 A JP2000372026 A JP 2000372026A JP 2000372026 A JP2000372026 A JP 2000372026A JP 2002176643 A JP2002176643 A JP 2002176643A
- Authority
- JP
- Japan
- Prior art keywords
- video
- audio
- mpeg
- stream
- pts
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Abstract
おいて、映像と音声の同期再生を完全に一致させること
のできる同期再生方式の実現。 【解決手段】 映像信号・音声信号を伝送するシステム
において、受信側に、伝送路から入力されたTSまたは
PSをMPEGビデオ・ストリーム及びMPEGオーデ
ィオ・ストリームに分離するデマルチプレクサと、上記
MPEGビデオ・ストリームを復号化するPTSを抽出
可能なMPEGビデオ・デコーダと、上記MPEGオー
ディオ・ストリームを復号化するMPEGオーディオ・
デコーダと、抽出された上記PTSをホールドするPT
Sホールド部と、表示制御器のフレーム同期信号で、ホ
ールドされた上記PTSをSTCにロード可能な受信側
カウンタを有する映像・音声復号処理における映像・音
声の同期再生方式である。
Description
伝送するシステムにおいて、受信装置での映像・音声復
号処理の際の映像・音声の同期再生をより正確にする方
式に関するものである。
る方式として、国際規格のMPEG−2(Moving Pictur
es Experts Group)がある。図7に、一般的なMPEG
−2を用いた映像・音声信号伝送システムの一例を示
す。 この例では伝送路2に送信部1、受信部3がそれ
ぞれ接続されている。送信部1は、入力された映像信号
及び音声信号を、それぞれMPEGビデオ・エンコーダ
1−1及びMPEGオーディオ・エンコーダ1−2によ
り、MPEGビデオ・ストリーム及びMPEGオーディ
オ・ストリームに符号化する。送信側と受信側のシステ
ム・クロック(符号化、復号化のための基準クロック)の
同期をとるため使用されるプログラム・クロック・リフ
ァレンス(PCR)、またはシステム・クロック・リファ
レンス(SCR)と呼ばれる時刻基準を示す信号を、送信
側のシステム・クロックで動作する送信側カウンタ1−
3の出力であるシステム・タイム・クロック(STC)の
値を所定間隔でサンプリングし、マルチプレクサ1−4
により、トランスポート・ストリーム(TS)またはプロ
グラム・ストリーム(PS)として多重化し、伝送路2に
出力する。受信部3は、伝送路2から入力されたTS又
はPSをデマルチプレクサ3−1によりMPEGビデオ
・ストリーム及びMPEGオーディオ・ストリームに分
離し、それぞれ、MPEGビデオ・デコーダ3−2、お
よびMPEGオーディオ・デコーダ3−3により、映像
信号及び音声信号に復号化し出力する。
PSから抽出したPCR又はSCRの値と、受信側シス
テム・クロックで動作する受信側カウンタ3−4の出力
であるSTCの、PCR又はSCR到着時の値との差分
が一定になるように、差分器3−5、ローパスフィルタ
3−6、増幅器3−7、周波数発振器3−8及び受信側
カウンタ3−4からなるPLL回路を制御する。 PC
R又はSCRの値と、PCR又はSCR到着時のSTC
の値との差分が一定になることにより、受信側カウンタ
1−3と送信側カウンタ3−4とが同じ周波数で動作す
ることになり、送信側と受信側のシステム・クロックが
同期する。MPEG−2では、映像と音声を同期して再
生するための手段として、プレゼンテーション・タイム
・スタンプ(PTS)、デコーディング・タイム・スタン
プ(DTS)を使用した方法が規定されている。 この
タイム・スタンプは、映像、音声それぞれ、ビデオ・ア
クセス・ユニット(VAU)、オーディオ・アクセス・ユ
ニット(AAU)毎に付加されており、受信側で映像・
音声を出力する際、前述の受信側システム・クロックと
比較することにより、映像・音声の同期を取るために使
用される。ここで、1VAUの時間間隔は、映像の1フ
レームと同じ時間で、1AAUの時間間隔は、オーディ
オの符号化方式により異なる時間となる。
を図8〜図11を用いて説明する。なお、ここでは説明
を簡単にするため、タイム・スタンプは、画像・音声の
出力するタイミングであるPTSのみを用いて説明す
る。図8に送信部の映像・音声復号化装置におけるPT
S付加処理部のブロック図を、図9にその動作を説明す
るための図を示す。MPEGビデオ・エンコーダ1−1
で入力された映像1フレームVin1の符号化が完了する
と、ビデオ・パケット化部1−3-1は、その時点の受信
側カウンタ1−4のSTCの値STCv1に、復号化処理
を考慮したαを加算してPTSv1を計算し、それをMP
EGビデオ・ストリームVAU1に付加する。同様に、
MPEGオーディオ・エンコーダ1−2で、入力された
音声1ブロックAin1の符号化が完了すると、オーディ
オ・パケット化部1−3-2は、その時点の受信側カウン
タのSTCの値STCa1に、復号化処理を考慮したβを
加算して、PTSa1を計算し、それを、MPEGオーデ
ィオ・ストリームAAU1に付加する。以降のPTSの
演算は、1つ前のPTSに、ビデオなら1フレーム分の
時間、オーディオなら1ブロック分の時間を加算して計
算する。図9の例では、Vin1とAin1の入力開始時間が
一致しているため、PTSv1とPTSa1の値は等しくな
る。
化装置における、同期再生処理部のブロック図を、図1
1にその動作を説明するための図を示す。MPEGビデ
オ・デコーダ3−2は、デマルチプレクサ3−1から入
力されたMPEGビデオ・ストリームVAU1に付加さ
れているPTSv1を抽出し、復号化処理が完了した映像
を出力する時に、PTSv1と受信側カウンタ3−4のS
TCの値STCv1とが等しくなった時点で、映像信号V
out1を出力しようとする。同様に、MPEGオーディオ
・デコーダ3−3は、デマルチプレクサ3−1から入力
されたMPEGオーディオ・ストリームAAU1に付加
されているPTSa1を抽出し、復号化処理が完了した音
声を出力する時に、PTSa1と受信側カウンタ3-4の
STCの値STVa1とが等しくなった時点で、音声信号
Aout1を出力する。図11の例では、PTSv1とPTS
a1の値が等しい場合で、ビデオ・デコーダの出力タイミ
ングとオーディオ・デコーダの出力が一致する。
図10に示すように、表示制御器3−9から、MPEG
ビデオ・デコーダ3−2にフレーム同期信号を送ること
により、表示制御器3−9に同期して行われる。ここ
で、図11に示すように、MPEGビデオ・デコーダ3
-2の出力タイミングと表示制御器3−9の出力Vout1
の間で、最大1フレームの遅延Dが発生してしまう。
1フレームの時間は、約30〜40m sec程度である
が、従来の方法でMPEGの符号化・復号化処理を複数
回行うと、映像の遅延は音声に対して、大幅に大きくな
ってしまう。本発明はこれらの欠点を除去し、復号化処
理において、映像と音声の同期再生を完全に一致させる
ことのできる同期再生方式の実現を目的とする。
成するため、映像信号・音声信号を伝送するシステムに
おいて、受信側に、伝送路から入力されたトランスポー
ト・ストリーム(TS)またはプログラム・ストリーム
(PS)をMPEGビデオ・ストリーム及びMPEGオー
ディオ・ストリームに分離するデマルチプレクサと、上
記MPEGビデオ・ストリームを復号化するプレゼンテ
ーション・タイム・スタンプ(PTS)を抽出可能なMP
EGビデオ・デコーダと、上記MPEGオーディオ・ス
トリームを復号化するMPEGオーディオ・デコーダ
と、抽出された上記PTSをホールドするPTSホール
ド部と、表示制御器のフレーム同期信号で、ホールドさ
れた上記PTSをシステム・タイム・クロック(STC)
にロード可能な受信側カウンタを有する映像・音声復号
処理における映像・音声の同期再生方式である。また、
映像信号・音声信号を伝送するシステムにおいて、受信
側に、伝送路から入力されたTSまたはPSをMPEG
ビデオ・ストリーム及びMPEGオーディオ・ストリー
ムに分離するデマルチプレクサと、上記MPEGビデオ
・ストリームを復号化するPTSを抽出可能なMPEG
ビデオ・デコーダと、上記MPEGオーディオ・ストリ
ームを復号化するMPEGオーディオ・デコーダと、抽
出された上記PTSをホールドするPTSホールド部
と、表示制御器のフレーム同期信号でSTCをホールド
するSTCホールド部と、上記PTSとSTCとの差分
をとる減算器と、復号された音声信号出力を遅延させる
遅延器を有する映像・音声復号処理における映像・音声
の同期再生方式である。また、映像信号・音声信号を伝
送するシステムにおいて、受信側に、伝送路から入力さ
れたTSまたはPSをMPEGビデオ・ストリーム及び
MPEGオーディオ・ストリームに分離するデマルチプ
レクサと、上記MPEGビデオ・ストリームを復号化す
るMPEGビデオ・ストリームの出力タイミングが検出
可能なMPEGビデオ・デコーダと、上記MPEGオー
ディオ・ストリームを復号化するMPEGオーディオ・
デコーダと、上記MPEGビデオ・デコーダの出力タイ
ミングでフレーム同期信号をリセットする表示制御器
と、受信側STCを発生する受信側カウンタを有する映
像・音声復号処理における映像・音声の同期再生方式で
ある。
1、図2を用いて説明する。MPEGビデオ・デコーダ
3−10に入力された、MPEGビデオ・ストリームV
AU1に対するPTSがPTSv1であるとき、STCが
PTSv1と等しくなるタイミングSTCv1で映像を出力
したいのだが、表示制御器3−9のフレーム同期信号が
PTSv1に対してDだけ遅れているとする。ここで、ビ
デオ・デコーダ3−10の出力タイミング直後のフレー
ム同期信号において、PTSv1の値を受信側カウンタ3
−12にロードしてやれば、STCとPTSv1とが等し
くなる。ここで、STCは、元の値よりDだけ遅れるこ
とにより、音声のオーディオの出力タイミングもDだけ
遅れる。 図2の例では、PTSv1とPTSa1の値が等
しい場合で、上記処理を行うことにより、映像出力Vou
t1と音声出力Aout1の出力開始タイミングが一致するよ
うになる。
4を用いて詳細に説明する。MPEGビデオ・デコーダ
3−13に入力されたMPEGビデオ・ストリームVA
U1に対するPTSがPTSv1であるとき、STCがP
TSv1と等しくなるタイミングで映像を出力したいのだ
が、表示制御器のフレーム同期タイミングがPTSv1に
対してDだけ遅れているとする。このDの値は、PTS
ホールド部3−14により保持されたPTSv1と、ST
Cホールド部3−15により表示制御器3−9のフレー
ム同期信号で保持されたSTCの値STCv1を、差分器
3−16でSTCv1−PTSv1を計算することで求める
ことができる。この値を遅延器3−17に設定すること
で、音声の出力をDだけ遅らせることができ、映像出力
Vout1と音声出力Aout1の出力開始タイミングが一致す
るようになる。次に、本発明の第3の実施例について、
図5、図6を用いて詳細に説明する。MPEGビデオ・
デコーダ3−18に入力されたMPEGビデオ・ストリ
ームVAU1に対するPTSがPTSv1であり、STC
がビデオ・デコーダの出力タイミングPTSv1と等しく
なったとき、表示制御器3−19のフレーム同期信号を
リセットすると、即座に映像が出力されるので、映像出
力Vout1と音声出力Aout1の出力開始タイミングが一致
するようになる。
PEGビデオ復号器に同期信号を送るような映像・音声
復号装置において、映像と音声の出力が完全に同期する
ようになる。 また、複数回の符号化・復号化処理を行
っても、映像と音声の同期がずれることはなくなる。
化装置のブロック図
ための図
化装置のブロック図
ための図
化装置のブロック図
ための図
送システムのブロック図
部のブロック図
生処理部のブロック図
−2:MPEGオーディオ・エンコーダ、1−3:送信
側カウンタ、1−4:マルチプレクサ、2:伝送路、
3:受信部、3−1:デマルチプレクサ、3−2,3−
10,3−13,3−18:MPEGビデオ・デコー
ダ、3−3:MPEGオーディオ・デコーダ、3−4,
3−12:受信側カウンタ、3−5:差分器、3−6:
ロー・パス・フィルタ、3−7:増幅器、3−8:周波
数発振器、3−9:表示制御器、3−11,3−14:
PTSホールド部、3−15:STCホールド部、3−
16:減算器、3−17:遅延器、3−19:表示制御
器。
Claims (3)
- 【請求項1】 映像信号・音声信号を伝送するシステム
において、受信側に、伝送路から入力されたトランスポ
ート・ストリーム(TS)またはプログラム・ストリーム
(PS)をMPEGビデオ・ストリーム及びMPEGオー
ディオ・ストリームに分離するデマルチプレクサと、上
記MPEGビデオ・ストリームを復号化するプレゼンテ
ーション・タイム・スタンプ(PTS)を抽出可能なMP
EGビデオ・デコーダと、上記MPEGオーディオ・ス
トリームを復号化するMPEGオーディオ・デコーダ
と、抽出された上記PTSをホールドするPTSホール
ド部と、表示制御器のフレーム同期信号で、ホールドさ
れた上記PTSをシステム・タイム・クロック(STC)
にロード可能な受信側カウンタを有することを特徴とす
る映像・音声復号処理における映像・音声の同期再生方
式。 - 【請求項2】 映像信号・音声信号を伝送するシステム
において、受信側に、伝送路から入力されたトランスポ
ート・ストリーム(TS)またはプログラム・ストリーム
(PS)をMPEGビデオ・ストリーム及びMPEGオー
ディオ・ストリームに分離するデマルチプレクサと、上
記MPEGビデオ・ストリームを復号化するプレゼンテ
ーション・タイム・スタンプ(PTS)を抽出可能なMP
EGビデオ・デコーダと、上記MPEGオーディオ・ス
トリームを復号化するMPEGオーディオ・デコーダ
と、抽出された上記PTSをホールドするPTSホール
ド部と、表示制御器のフレーム同期信号でシステム・タ
イム・クロック(STC)をホールドするSTCホールド
部と、上記PTSとSTCとの差分をとる減算器と、復
号された音声信号出力を遅延させる遅延器を有すること
を特徴とする映像・音声復号処理における映像・音声の
同期再生方式。 - 【請求項3】 映像信号・音声信号を伝送するシステム
において、受信側に、伝送路から入力されたトランスポ
ート・ストリーム(TS)またはプログラム・ストリーム
(PS)をMPEGビデオ・ストリーム及びMPEGオー
ディオ・ストリームに分離するデマルチプレクサと、上
記MPEGビデオ・ストリームを復号化するMPEGビ
デオ・ストリームの出力タイミングが検出可能なMPE
Gビデオ・デコーダと、上記MPEGオーディオ・スト
リームを復号化するMPEGオーディオ・デコーダと、
上記MPEGビデオ・デコーダの出力タイミングでフレ
ーム同期信号をリセットする表示制御器と、受信側シス
テム・タイム・クロック(STC)を発生する受信側カウ
ンタを有することを特徴とする映像・音声復号処理にお
ける映像・音声の同期再生方式。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000372026A JP2002176643A (ja) | 2000-12-06 | 2000-12-06 | 映像・音声復号処理における映像・音声の同期再生方式 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000372026A JP2002176643A (ja) | 2000-12-06 | 2000-12-06 | 映像・音声復号処理における映像・音声の同期再生方式 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2002176643A true JP2002176643A (ja) | 2002-06-21 |
JP2002176643A5 JP2002176643A5 (ja) | 2005-09-15 |
Family
ID=18841637
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000372026A Pending JP2002176643A (ja) | 2000-12-06 | 2000-12-06 | 映像・音声復号処理における映像・音声の同期再生方式 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2002176643A (ja) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100619034B1 (ko) | 2004-06-19 | 2006-08-31 | 삼성전자주식회사 | 디지털 멀티미디어 데이터 수신기에서 송수신 데이터 동기방법 및 장치 |
JP2007104030A (ja) * | 2005-09-30 | 2007-04-19 | Sony Corp | データ処理装置、その方法、およびプログラム |
CN100455027C (zh) * | 2004-12-27 | 2009-01-21 | 株式会社东芝 | 信号处理设备和流处理方法 |
WO2009028038A1 (ja) * | 2007-08-27 | 2009-03-05 | Fujitsu Limited | デコーダ装置、およびデコード方法 |
US7600240B2 (en) | 2004-11-17 | 2009-10-06 | Sony Corporation | Data processing apparatus and method |
WO2013145225A1 (ja) * | 2012-03-29 | 2013-10-03 | 富士通株式会社 | エレメンタリストリームをエンコードし、多重し、またはデコードするための方法、装置、およびプログラム |
US8620134B2 (en) | 2005-07-19 | 2013-12-31 | Nec Viewtechnology, Ltd. | Video and audio reproducing apparatus and video and audio reproducing method for reproducing video images and sound based on video and audio streams |
KR101523390B1 (ko) * | 2007-11-22 | 2015-05-27 | 소니 주식회사 | 재생 장치, 표시 장치, 재생 방법 및 표시 방법 |
-
2000
- 2000-12-06 JP JP2000372026A patent/JP2002176643A/ja active Pending
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100619034B1 (ko) | 2004-06-19 | 2006-08-31 | 삼성전자주식회사 | 디지털 멀티미디어 데이터 수신기에서 송수신 데이터 동기방법 및 장치 |
US7600240B2 (en) | 2004-11-17 | 2009-10-06 | Sony Corporation | Data processing apparatus and method |
CN100455027C (zh) * | 2004-12-27 | 2009-01-21 | 株式会社东芝 | 信号处理设备和流处理方法 |
US8620134B2 (en) | 2005-07-19 | 2013-12-31 | Nec Viewtechnology, Ltd. | Video and audio reproducing apparatus and video and audio reproducing method for reproducing video images and sound based on video and audio streams |
JP2007104030A (ja) * | 2005-09-30 | 2007-04-19 | Sony Corp | データ処理装置、その方法、およびプログラム |
WO2009028038A1 (ja) * | 2007-08-27 | 2009-03-05 | Fujitsu Limited | デコーダ装置、およびデコード方法 |
JP4983923B2 (ja) * | 2007-08-27 | 2012-07-25 | 富士通株式会社 | デコーダ装置、およびデコード方法 |
US8526501B2 (en) | 2007-08-27 | 2013-09-03 | Fujitsu Limited | Decoder and decoding method based on video and audio time information |
KR101132043B1 (ko) | 2007-08-27 | 2012-04-02 | 후지쯔 가부시끼가이샤 | 디코더 장치 및 디코드 방법 |
KR101523390B1 (ko) * | 2007-11-22 | 2015-05-27 | 소니 주식회사 | 재생 장치, 표시 장치, 재생 방법 및 표시 방법 |
WO2013145225A1 (ja) * | 2012-03-29 | 2013-10-03 | 富士通株式会社 | エレメンタリストリームをエンコードし、多重し、またはデコードするための方法、装置、およびプログラム |
JPWO2013145225A1 (ja) * | 2012-03-29 | 2015-08-03 | 富士通株式会社 | エレメンタリストリームをエンコードし、多重し、またはデコードするための方法、装置、およびプログラム |
US9866898B2 (en) | 2012-03-29 | 2018-01-09 | Fujitsu Limited | Elementary stream multiplexing method, multiplexing system, encoding or decoding method and apparatus |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8620134B2 (en) | Video and audio reproducing apparatus and video and audio reproducing method for reproducing video images and sound based on video and audio streams | |
US7656947B2 (en) | Synchronization device and synchronization method in digital broadcast receiver | |
US8526501B2 (en) | Decoder and decoding method based on video and audio time information | |
US20060274827A1 (en) | Apparatus and method for synchronized playback | |
JP2002064788A (ja) | データストリーム処理装置および方法、並びにプログラム格納媒体 | |
TW200806050A (en) | Method and system for synchronizing audio and video data signals | |
US20120081604A1 (en) | Electronic apparatus | |
KR20070008069A (ko) | 음성/영상신호의 동기화 장치 및 방법 | |
US6233695B1 (en) | Data transmission control system in set top box | |
JP2002176643A (ja) | 映像・音声復号処理における映像・音声の同期再生方式 | |
US7600240B2 (en) | Data processing apparatus and method | |
WO2017082059A1 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
US9866898B2 (en) | Elementary stream multiplexing method, multiplexing system, encoding or decoding method and apparatus | |
JP2002369163A (ja) | マルチストリーム出力時刻制御方法及びその制御装置 | |
JP2002176643A5 (ja) | ||
WO2013150852A1 (ja) | デジタルデータ配信装置及び方法、及びデジタルデータ再生装置及び方法、同期再生システム、プログラム、並びに記録媒体 | |
JP2003348489A (ja) | 放送受信機 | |
JP2004015553A (ja) | 同期制御方法と装置およびそれを用いた同期再生装置およびテレビジョン受信装置 | |
KR100240331B1 (ko) | 디코더 시스템의 비디오/오디오 동기화 장치 | |
JP3958531B2 (ja) | 同期制御装置 | |
JP3944845B2 (ja) | 情報処理装置および方法、記録媒体、並びにプログラム | |
KR20030082117A (ko) | 디지털 방송 수신기에서의 오디오/비디오 립 싱크 제어 방법 | |
JPH09219859A (ja) | Mpegシステム復号器及びオーディオ/ビデオ信号同期方法 | |
JP2001111610A (ja) | 情報データ伝送システムの受信装置 | |
JP2002281498A (ja) | 受信再生装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050331 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050331 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050331 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070130 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20070605 |