JP5172874B2 - 映像同期装置、映像表示装置、映像同期方法及びプログラム - Google Patents

映像同期装置、映像表示装置、映像同期方法及びプログラム Download PDF

Info

Publication number
JP5172874B2
JP5172874B2 JP2010029385A JP2010029385A JP5172874B2 JP 5172874 B2 JP5172874 B2 JP 5172874B2 JP 2010029385 A JP2010029385 A JP 2010029385A JP 2010029385 A JP2010029385 A JP 2010029385A JP 5172874 B2 JP5172874 B2 JP 5172874B2
Authority
JP
Japan
Prior art keywords
video
information
poc
image information
frame image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010029385A
Other languages
English (en)
Other versions
JP2011166615A (ja
Inventor
卓 佐野
裕江 岩崎
一人 上倉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2010029385A priority Critical patent/JP5172874B2/ja
Publication of JP2011166615A publication Critical patent/JP2011166615A/ja
Application granted granted Critical
Publication of JP5172874B2 publication Critical patent/JP5172874B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本発明は、複数の映像符号化ストリームを復号するシステムに係わる映像同期装置、映像表示装置、映像同期方法及びプログラムに関する。
ネットワークを介して複数の映像符号化ストリームを送信し、受信した複数の映像符号化ストリームを復号し、複数の映像符号化ストリームの間の同期を取って表示装置に表示させるシステムがある。このようなシステムにおいて、複数の映像符号化ストリームを送信する際には、TSパケット(Transport Packet)やRTPパケット(Real-time Transport Protocol Packet)を使用する。この場合、各パケットのヘッダ情報に埋め込まれたタイムコードに基づいて複数の映像符号化ストリームの間の同期を取っていた。また、NTPサーバ(Network Time Protocol Server)から時刻情報を取得し、映像情報間の同期を取る方式が開示されている(特許文献1を参照)。
特開2004−032273号公報
しかしながら、複数の映像符号化ストリームを送信する際に、TSパケット又はRTPパケットを使用する場合、タイムコードは、パケット毎に付与される。そのタイムコードは、画像フレームとの対応を取って付与されたものではない。そのため、複数の映像符号化ストリーム間で同期を取ることは困難である。また、映像符号化ストリームにタイムコードによるヘッダ情報が付加されるため、全体の情報量が増大する問題がある。そのため、ネットワーク上の負荷が高くなり、複数の映像符号化ストリーム間で同期を取ることができないという問題がある。
また、特許文献1が示す、NTPサーバから時刻情報を取得する方式においては、NTPクライアント機能が必要になる。また、NTPサーバから時刻情報を毎回、ネットワークを介して取得する必要があるため、ネットワーク上の負荷が高くなり、複数の映像符号化ストリーム間で同期を取ることができないという問題がある。
本発明は、上記問題を解決すべくなされたもので、その目的は、複数の映像符号化ストリーム間で同期して映像表示させることを可能とする映像同期装置、映像表示装置、映像同期方法及びプログラムを提供することにある。
上記問題を解決するために、本発明は、受信した複数の映像情報に基づいてそれぞれ生成されるフレーム画像情報の間の同期を取って出力する映像同期装置であって、前記映像情報ごとに順序付けられた前記フレーム画像情報を、前記映像情報ごとに記憶するバッファ部と、受信した前記映像情報に基づいてフレーム画像単位で表示させるフレーム画像情報を生成し、前記映像情報ごとに、前記フレーム画像情報を表示させる順序番号を生成し、前記フレーム画像情報にそれぞれ付与して、前記バッファ部にそれぞれ記憶させる画像情報生成部と、前記フレーム画像情報にそれぞれ付与された前記順序番号に基づいて、前記映像情報ごとに記憶されたフレーム画像情報について、前記複数の映像情報の間の同期を取って、前記フレーム画像情報を出力する映像同期処理部とを備え、前記映像同期処理部は、前記順序番号の内、前記映像情報ごとに付与された前記順序番号の最小値が前記複数の映像情報の間で全て一致するかを判定し、前記複数の映像情報の間で少なくとも1つの前記最小値が一致しないと判定した場合に、前記判定の前に同期を取って出力した状態を保持することを特徴とする映像同期装置である。
また、本発明は上記発明において、前記映像同期処理部は、前記最小値が前記複数の映像情報の間で全て一致すると判定した場合に、一致した前記最小値に応じた前記映像情報ごとの前記フレーム画像情報の間の同期を取って出力し、前記複数の映像情報の間で少なくとも前記最小値の1つが一致しない場合に、前記最小値の内、最小の前記順序番号に応じた前記フレーム画像情報を破棄することを特徴とする。
また、本発明は上記発明において、前記映像同期処理部は、前記最小値が前記複数の映像情報の間で全て一致すると判定した場合に、表示させるフレームの計数値と前記最小値が一致するかを判定し、前記表示させるフレームの計数値と前記最小値が一致すると判定した場合に、前記最小値に応じた前記映像情報ごとの前記フレーム画像情報の間の同期を取って出力し、前記表示させるフレームの計数値と前記最小値が一致しない場合に、前記表示させるフレームの計数値と前記最小値が一致するかの判定前に同期を取って出力した状態を保持することを特徴とする。
また、本発明は上記発明において、前記画像情報生成部は、前記受信した映像情報を送信時に符号化された符号化方式に基づいて復号化処理を行い、該符号化方式の制御情報に基づいて前記順序番号を生成することを特徴とする。
また、本発明は上記発明において、前記符号化方式は、ITU−T H.264勧告に基づくことを特徴とする。
また、本発明は、上記発明における映像同期装置を用いて同期化された複数の映像情報を表示する映像表示装置である。
また、本発明は、受信した複数の映像情報に基づいてそれぞれ生成されるフレーム画像情報の間の同期を取って出力する映像同期方法であって、前記映像情報ごとに順序付けられた前記フレーム画像情報を、前記映像情報ごとに記憶する過程と、受信した前記映像情報に基づいてフレーム画像単位で表示させるフレーム画像情報を生成し、前記映像情報ごとに、前記フレーム画像情報を表示させる順序番号を生成し、前記フレーム画像情報にそれぞれ付与して、バッファ部にそれぞれ記憶させる画像情報生成処理過程と、前記フレーム画像情報にそれぞれ付与された前記順序番号に基づいて、前記バッファ部に前記映像情報ごとに記憶された前記フレーム画像情報の間の同期を取って、前記フレーム画像情報を出力する映像同期処理過程とを含み、前記映像同期処理過程は、前記順序番号の内、前記映像情報ごとに付与された前記順序番号の最小値が前記複数の映像情報の間で全て一致するかを判定し、前記複数の映像情報の間で少なくとも1つの前記最小値が一致しないと判定した場合に、前記判定の前に同期を取って出力した状態を保持することを特徴とする映像同期方法である。
また、本発明は、コンピュータに、受信した複数の映像情報に基づいてそれぞれ生成されるフレーム画像情報の間の同期を取って出力させるプログラムであって、バッファ部が、前記映像情報ごとに順序付けられた前記フレーム画像情報を、前記映像情報ごとに記憶する処理ステップと、画像情報生成部が、受信した前記映像情報に基づいてフレーム画像単位で表示させるフレーム画像情報を生成し、前記映像情報ごとに、前記フレーム画像情報を表示させる順序番号を生成し、前記フレーム画像情報にそれぞれ付与して、前記バッファ部にそれぞれ記憶させる画像情報生成処理ステップと、映像同期処理部が、前記フレーム画像情報にそれぞれ付与された前記順序番号に基づいて、前記バッファ部に前記映像情報ごとに記憶された前記フレーム画像情報の間の同期を取って、前記フレーム画像情報を出力する映像同期処理ステップであって、前記順序番号の内、前記映像情報ごとに付与された前記順序番号の最小値が前記複数の映像情報の間で全て一致するかを判定し、前記複数の映像情報の間で少なくとも1つの前記最小値が一致しないと判定した場合に、前記判定の前に同期を取って出力した状態を保持する映像同期処理ステップとを前記コンピュータに実行させるためのプログラムである。
この本発明によれば、画像情報生成部が、受信した複数の映像情報に基づいてフレーム画像単位で表示させるフレーム画像情報を生成し、映像情報ごとに、フレーム画像情報を表示させる順序番号を生成し、フレーム画像情報にそれぞれ付与して、バッファ部にそれぞれ記憶させる。映像同期処理部が、フレーム画像情報にそれぞれ付与された順序番号に基づいて、バッファ部に映像情報ごとに記憶されたフレーム画像情報の間の同期を取って、フレーム画像情報を出力する。これにより、映像同期装置は、複数の映像情報間で同期を取ることができる。
第1の実施形態による映像同期装置を示すブロック図である。 同実施形態における映像同期装置の映像表示の一形態を示す図である。 同実施形態における映像情報の流れを示す図である。 同実施形態における伸長復号部の動作を示すフローチャートある。 同実施形態における映像同期処理部の動作を示す図である。 同実施形態における映像同期処理部の動作を示すフローチャートである。 第2の実施形態による映像同期装置を示すブロック図である。 同実施形態における映像同期装置の映像表示の一形態を示す図である。
<第1の実施形態>
以下、本発明の第1の実施形態による映像同期装置について図面を参照して説明する。
図1は、本実施形態における映像同期装置を示すブロック図である。
図1に示される映像同期装置1は、インターネットプロトコル(以下IPという。)を用いて通信を行うネットワーク(以下IPネットワークという。)2と接続される。また、IPネットワーク2には、映像送信装置60が接続され、映像同期装置1と映像送信装置60は、通信可能な状態にある。映像送信装置60が送信した映像符号化ストリームを、映像同期装置1が受信する。
映像送信装置60は、2つの映像情報を並列して取り込む映像取り込み部3と、取り込んだ映像情報に基づき、映像符号化ストリームに圧縮符号化する圧縮符号化器4、5とを備える。また、映像送信装置60は、圧縮符号化器4、5が圧縮符号化した映像符号化ストリームを、IPネットワーク2を介して映像同期装置1に送信する。ここで、圧縮符号化器4、5が行う圧縮符号化の処理は、例えば、ITU−T(International Telecommunication Union Telecommunication Standardization Sector)H.264勧告に基づいて行なわれる。
また、図1の全体を映像同期システム100とする。
この図に示される映像同期装置1は、映像データ通信処理部10、映像復号処理部20、映像出力バッファ30、映像同期処理部40及び映像表示部50を備える。
映像データ通信処理部10は、IPネットワーク2に接続され、IPネットワーク2を介して2つの映像符号化ストリームを並列して受信する。また、映像データ通信処理部10は、受信した2つの映像符号化ストリームE1、E2を映像復号処理部20に供給する。
映像復号処理部20は、伸長復号部21、22を備える。映像復号処理部20は、映像データ通信処理部10より供給される2つの映像符号化ストリームE1、E2に基づき、H.264勧告による伸長復号処理を並列に行う。これにより、映像復号処理部20は、フレーム単位の画像データ(G1、G2)を生成する。また、映像復号処理部20は、生成したフレーム単位の画像データ(G1、G2)に、H.264勧告の符号化情報に含まれるPOC(Picture Order Count:画像順序番号)を付与したPOC付き画像データF1、F2を生成する。映像復号処理部20は、POC付き画像データF1、F2を映像出力バッファ30に記憶させる。
伸長復号部21は、映像符号化ストリームE1に基づきH.264勧告による伸長復号処理を行う。これにより、伸長復号部21は、フレーム単位の画像データ(G1)を生成して、POCを付与したPOC付き画像データF1を、映像出力バッファ30に記憶させる。また、伸長復号部22は、映像符号化ストリームE2に基づきH.264勧告による伸長復号処理を行う。これにより、伸長復号部22は、フレーム単位の画像データ(G2)を生成して、POCを付与したPOC付き画像データF2を、映像出力バッファ30に記憶させる。
映像出力バッファ30は、2つの映像符号化ストリームE1、E2にそれぞれ対応した領域を有する。この領域は、複数フレーム分の画像データF1、F2を記憶することができる。映像出力バッファ30は、映像復号処理部20より供給されるPOC付き画像データF1、F2を記憶する。また、映像出力バッファ30は、POC付き画像データF1、F2を映像同期処理部40に供給する。
映像同期処理部40は、映像出力バッファ30と映像表示部50との間に配置される。映像同期処理部40は、映像出力バッファ30が記憶するPOC付き画像データF1、F2を参照する。映像同期処理部40は、POC付き画像データF1、F2に付与されたPOCに基づき、POC付き画像データF1、F2間の同期を取る。また、映像同期処理部40は、POC付き画像データF1、F2からPOCを除いたフレーム単位の画像データG1、G2を生成し、2つを同期して映像表示部50に出力する。
映像表示部50は、映像同期処理部40に接続され、映像同期処理部40が供給するフレーム単位の画像データG1、G2を図示しない表示画面に表示する。
次に、本実施形態の動作について説明する。
図2は、本実施形態における映像同期装置の映像表示の一形態を示す図である。この図において、映像送信装置60(図1)の映像取り込み部3(図1)が左目映像31と右目映像32を取り込み、映像表示部50(図1)が3次元映像51を表示する映像同期システム100を示す。
図3は、本実施形態における映像情報の流れを示す図である。
図3において、映像取り込み部3(図1)が取り込んだ左目映像31及び右目映像32の映像情報は、それぞれ、圧縮符号化器4、5により、H.264勧告の符号化処理が行われる。これにより、2つの映像符号化ストリームE1、E2が生成される。また、映像符号化ストリームE1、E2は、映像送信装置60(図1)によりそれぞれIPネットワーク2を介して送信される。ここで、映像符号化ストリームE1が左目映像31の映像ストリームであり、映像符号化ストリームE2が左目映像32の映像ストリームである。
映像符号化ストリームE1、E2は、映像データ通信処理部10(図1)により受信され、伸長復号部21、22に供給される。伸長復号部21、22は、H.264勧告に基づいた映像符号化ストリームE1、E2をそれぞれ伸長復号して、POC付き画像データF1、F2を生成する。また、伸長復号部21、22は、生成したPOC付き画像データF1、F2を映像出力バッファ30に記憶させる。
映像出力バッファ30は、左目映像31の映像符号化ストリームE1用の領域と右目映像32の映像符号化ストリームE2用の領域の2つの領域を有している。ここで、映像符号化ストリームE1用の領域を領域[1]とし、映像符号化ストリームE2用の領域を領域[2]とする。また、領域[1]及び領域[2]は、それぞれ複数のPOC付き画像データを記憶するための記憶容量を有する。映像出力バッファ30は、伸長復号部21より供給されるPOC付き画像データF1を、領域[1]に順次記憶する。
また、映像出力バッファ30は、伸長復号部22より供給されるPOC付き画像データF2を、領域[2]に順次記憶する。
この図において、映像出力バッファ30は、POC=1及びPOC=2のPOC付き画像データを記憶した状態を示す。ここで、領域[1]に記憶されるPOC付き画像データF1のPOCをPOCとし、領域[2]に記憶されるPOC付き画像データF2のPOCをPOCとする。
映像出力バッファ30に記憶されたPOC付き画像データF1、F2は、映像復号処理部20(図1)に参照される。同じPOCが付与されたフレーム単位の画像データG1、G2は、2つの間の同期が取られて、映像復号処理部20により映像表示部50に出力される。これにより、映像表示部50は、左目映像31と右目映像32を同期して3次元映像51として表示する。
次に、図1に戻り各部の動作を説明する。
図1において、映像送信装置60は、映像取り込み部3が取り込んだ左目映像31及び右目映像32の映像情報を、圧縮符号化器4、5によりそれぞれH.264勧告の符号化処理を行う。これにより生成された映像符号化ストリームE1、E2はパケットに順次分割され、映像送信装置60により、それぞれIPネットワーク2を介して送信される。
映像同期装置1の映像データ通信処理部10は、IPネットワーク2を介してパケットを受信する。映像データ通信処理部10は、受信したパケットを映像符号化ストリームE1、E2に順次戻して、伸長復号部21、22にそれぞれ供給する。ここで、パケットロス等のエラーが発生した場合、映像符号化ストリームE1、E2は、エラーの部分が欠損した映像符号化ストリームとなる。
伸長復号部21は、映像データ通信処理部10より供給される映像符号化ストリームE1に基づきH.264勧告による伸長復号処理を順次行う。これにより、伸長復号部21は、フレーム単位の画像データ(G1)を生成する。更に、伸長復号部21は、生成したフレーム単位の画像データ(G1)にPOCを付与したPOC付き画像データF1を順次生成し、映像出力バッファ30の領域[1]に順次記憶させる。
伸長復号部22は、映像データ通信処理部10より供給される映像符号化ストリームE2に基づきH.264勧告による伸長復号処理を順次行う。これにより、伸長復号部22は、フレーム単位の画像データ(G2)を生成する。更に、伸長復号部22は、生成したフレーム単位の画像データ(G2)にPOCを付与したPOC付き画像データF2を順次生成し、映像出力バッファ30の領域[2]に順次記憶させる。
ここでPOCには、H.264勧告における符号化情報の1つであるPOC(画像順序番号)を流用して使用する。また、上述の処理は、伸長復号部21、22において、並列して行われる。
映像同期処理部40は、映像出力バッファ30の領域[1]及び領域[2]に記憶されたPOC付き画像データF1、F2のPOC部分(POC及びPOC)を順次参照する。映像同期処理部40は、参照したPOCの内、POCの最小値とPOCの最小値が一致すると判定した場合に、対応するPOC付き画像データF1、F2を参照する。更に、映像同期処理部40は、一致したPOC(POC及びPOC)を除いたフレーム単位の画像データG1、G2を、2つの間の同期を取って映像表示部50に出力する。映像同期処理部40は、この動作を繰り返し、同期されたフレーム単位の画像データG1、G2が映像表示部50に順次出力される。なお、フレーム単位の画像データG1、G2は、映像符号化ストリームE1、E2のフレームレートに応じて、予め定められた時間間隔により出力される。
映像表示部50は、映像同期処理部40から供給されるフレーム単位の画像データG1、G2を同期して順次表示する。これにより、映像表示部50は、3次元映像51を表示する。
図4は、本実施形態における伸長復号部の動作を示すフローチャートある。
伸長復号部21、22は、並列して同様の処理を行う。そこで、図4において、伸長復号部21における処理を示す。
この図において、伸長復号部21は、映像データ通信処理部10より映像符号化ストリームE1の供給を受けて、処理を開始する。
まず、ステップS21において、伸長復号部21は、映像符号化ストリームE1に基づきH.264勧告による伸長復号処理を行う。これにより、フレーム単位の画像データ(G1)が生成される。次に、ステップS22において、伸長復号部21は、H.264勧告における符号化情報であるPOC(画像順序番号)をフレーム単位の画像データ(G1)に付与し、POC付き画像データF1を生成する。また、伸長復号部21は、生成したPOC付き画像データF1を映像出力バッファ30に出力し、領域[1]に記憶させる。
ステップS23において、伸長復号部21は、映像データ通信処理部10から供給されるデータに基づいて、続いて伸長復号処理するデータがあるか否かを判定する。続いて伸長復号処理するデータがあると判定した場合、伸長復号部21は、ステップS21の処理に戻り、ステップS21からS22の処理を繰り返す。また、続いて伸長復号処理するデータがないと判定した場合、伸長復号部21は、処理を終了する。
伸長復号部22においても、上述のステップS21からS23の処理と同様の処理が行われる。ただし、伸長復号部22の場合、映像符号化ストリームE2に基づき、POC付き画像データF2が生成され、映像出力バッファ30の領域[2]に記憶される。
次に、伝送エラーが発生した場合の映像同期処理部40の動作を説明する。
図5は、本実施形態における映像同期処理部40の動作を示す図である。
図5の(a)から図5の(d)は、時間の経過に伴って行われる各フレームにおける映像同期装置1の処理状態を示す。また、フレーム単位の画像データG1及びG2には、ここでは、POCの値を付加して示す。また、POC付き画像データF1及びF2には、ここでは、POCの値を付加して示す。例えば、POCの値が“2”の場合、G12及びG22ならびにF12及びF22として示す。
図5の(a)は、状態(1)を示す。状態(1)において、伸長復号部21、22は、POCの値が“2”(POC=2、POC=2)となるフレーム単位の画像データ(G12、G22)を伸長復号して生成する。なお、ここでは、パケットロス等の伝送エラーが発生したとする。そのため、伸長復号部22は、(POC=2)となるフレーム単位の画像データ(G22)を生成できない。
また、状態(1)において、映像出力バッファ30は、領域[1]及び領域[2]に、それぞれPOCの値に“1”(POC=1、POC=1)が付加されたPOC付き画像データ(F11、F21)が記憶されている。また、映像表示部50は、まだ映像を表示していない状態である。
また、状態(1)において、映像同期処理部40は、映像出力バッファ30の領域[1]及び領域[2]に記憶されたPOC付き画像データF1及びF2を参照し、付与されたPOC(POCとPOCの値)が一致するか否かを判定する。この場合、POCとPOCの値がいずれも“1”で一致するため、映像同期処理部40は、POCを除いたフレーム単位の画像データ(G11、G21)を、2つの間の同期を取って、次の状態(2)において映像表示部50に出力する。
図5の(b)は、状態(2)を示す。この状態は、フレーム番号Nが“1”(N=1)の状態である。
状態(2)において、伸長復号部21、22は、POCの値が“3”(POC=3、POC=3)となるフレーム単位の画像データ(G13、G23)を伸長復号して生成する。
また、状態(2)において、映像出力バッファ30は、領域[1]に、(POC=2)が付加されたPOC付き画像データ(F12)が記憶されている。しかし、状態(1)において、(POC=2)となるフレーム単位の画像データ(G22)が生成されていない。このため、映像出力バッファ30の領域[2]には、(POC=2)が付加されたPOC付き画像データ(F22)がない状態である。
また、状態(2)において、映像表示部50は、POCの値が“1”に対応したフレーム単位の画像データ(G11、G21)を表示する。
また、状態(2)において、映像同期処理部40は、映像出力バッファ30の領域[1]及び領域[2]に記憶されたPOC付き画像データF1及びF2を参照し、付与されたPOC(POCとPOCの値)が一致するか否かを判定する。この場合、POCの値がないため、映像同期処理部40は、次の状態(3)においてフレーム単位の画像データ(G12、G22)を出力しない。
図5の(c)は、状態(3)を示す。この状態は、フレーム番号Nが“2”(N=2)の状態である。
状態(3)において、伸長復号部21、22は、POCの値が“4”(POC=4、POC=4)となるフレーム単位の画像データ(G14、G24)を伸長復号して生成する。
また、状態(3)において、映像出力バッファ30は、領域[1]に、POCの値に“2”と“3”(POC=2とPOC=3)が付加された2つのPOC付き画像データ(F12、F13)が記憶されている。また、領域[2]には、POCの値に“3”(POC=3)が付加されたPOC付き画像データ(F23)が記憶されている。
また、状態(3)において、映像表示部50は、POCの値が1に対応したフレーム単位の画像データ(G11、G21)の表示状態を保持する。つまり、最後に表示されたフレーム番号(N=1)の表示状態を保持する。
また、状態(3)において、映像同期処理部40は、次に表示するフレーム番号よりも小さいPOC(POC=2)のPOC付き画像データ(F12)を破棄する。また、映像同期処理部40は、映像出力バッファ30の領域[1]及び領域[2]に記憶されたPOC付き画像データF1及びF2を参照し、付与されたPOC(POCとPOCの値)が一致するか否かを判定する。この場合、POCとPOCの値がいずれも“3”で一致する。そのため、映像同期処理部40は、POCを除いたフレーム単位の画像データ(G13、G23)を、2つの間の同期を取って、次の状態(4)において映像表示部50に出力する。
図5の(d)は、状態(4)を示す。この状態は、フレーム番号Nが“3”(N=3)の状態である。
状態(4)において、伸長復号部21、22は、POCの値が“5”(POC=5、POC=5)となるフレーム単位の画像データ(G15、G25)を伸長復号して生成する。
また、状態(4)において、映像出力バッファ30は、領域[1]及び領域[2]に、それぞれPOC値に“4”(POC=4、POC=4)が付加されたPOC付き画像データ(F14、F24)が記憶されている。
また、状態(4)において、映像表示部50は、POCの値が“3”に対応したフレーム単位の画像データ(G13、G23)を表示する。これにより、映像表示部50の表示の更新が再開され、映像表示部50は、正常な映像表示が行われる状態となる。
また、状態(4)において、映像同期処理部40は、映像出力バッファ30の領域[1]及び領域[2]に記憶されたPOC付き画像データF1及びF2を参照し、付与されたPOC(POCとPOCの値)が一致するか否かを判定する。この場合、POCとPOCの値が“4”で一致する。そのため、映像同期処理部40は、POCを除いたフレーム単位の画像データ(G14、G24)を、2つの間の同期を取って、次のフレーム番号(N=4)の状態において映像表示部50に出力する。
次に、映像同期処理部40の一態様の処理についてフローチャートを用いて詳細に説明する。
図6は、実施形態における映像同期処理部40の動作を示すフローチャートである。
まず、ステップS41において、映像同期処理部40は、フレーム番号Nを初期化する。フレーム番号Nは、映像同期処理部40の図示しない記憶部に記憶され、“1”に 初期化される。次に、ステップS42において、映像同期処理部40は、映像出力バッファ30の領域[1]及び領域[2]のPOC(POC、POC)を参照する。
次に、ステップS43において、映像同期処理部40は、参照したPOC(POC、POC)の内、領域[1]に記憶されたPOC付き画像データF1に付与されたPOCの最小値と領域[2]に記憶されたPOC付き画像データF2に付与されたPOCの最小値とが一致するか否かを判定する。POCの最小値とPOCの最小値が一致すると判定された場合、映像同期処理部40は、ステップS44の処理に進む。また、POCの最小値とPOCの最小値が一致しないと判定された場合、映像同期処理部40は、ステップS45の処理に進む。すなわち、POCの最小値とPOCの最小値が不一致の場合は、伸長復号部21、22のいずれか一方において、エラーが発生し、フレーム単位の画像データ(G1又はG2)を生成できなかった場合である。
ステップS44において、映像同期処理部40は、POCの最小値とフレーム番号Nとが一致するか否かを判定し、一致すると判定した場合はステップS46の処理に進み、一致しないと判定した場合は、ステップS47の処理に進む。なお、フレーム番号Nと比較するPOCの値は、POCの最小値とPOCの最小値のいずれでも良いが、ここでは、POCの最小値とする。POCの最小値とフレーム番号Nが不一致の場合は、伸長復号部21、22の両方において、エラーが発生し、フレーム単位の画像データ(G1、G2)を生成できなかった場合である。
また、ステップS45において、映像同期処理部40は、POCの最小値とPOCの最小値の小さい方のPOCの値に対応する、POC付き画像データ(F1又はF2)を、映像出力バッファ30から破棄する。例えば、POCの最小値の方が小さいとする。この場合、映像同期処理部40は、POCの最小値に対応するPOC付き画像データ(F1)を映像出力バッファ30から消去する。次に、映像同期処理部40は、ステップS47の処理に進む。
ステップS46において、映像同期処理部40は、(POC=N)に対応するPOC付き画像データ(F1)を参照し、POCを除いたフレーム単位の画像データ(G1)を生成する。映像同期処理部40は、(POC=N)に対応するPOC付き画像データ(F2)を参照し、POCを除いたフレーム単位の画像データ(G2)を生成する。また、映像同期処理部40は、フレーム単位の画像データ(G1、G2)を、2つの間の同期を取って、映像表示部50に出力する。
次に、ステップS47において、映像同期処理部40は、フレーム番号Nを更新する。つまり、映像同期処理部40は、図示しない記憶部に記憶されたフレーム番号Nの値を参照し、“1”を加算した値を記憶部に記憶させる。
なお、ステップS44の処理、又はステップS45の処理からステップS47の処理に進んだ場合、ステップS46の処理が行われない。つまり、この場合、映像同期処理部40は、フレーム単位の新たな画像データ(G1、G2)を映像表示部50に出力しない。このため、映像表示部50は、最後に出力された(最後に同期が取れた)フレーム単位の画像データ(G1、G2)を表示する状態を保持する。
次に、ステップS48の処理において、映像同期処理部40は、次のフレーム番号Nの画像データを表示させる必要があるか否かを判定する。次のフレーム番号Nの画像データを表示させる必要があるか否かの判定は、例えば、映像復号処理部20が映像符号化ストリーム(E1、E2)の伸長復号処理を完了し、映像出力バッファ30のいずれか一方が空であることを検出して判定する。必要がある場合は、ステップS42の処理に戻り、ステップS42からS47の処理が繰り返される。これにより、フレーム番号Nに応じた画像データ(G1,G3)が、映像表示部50に順次表示される。つまり、映像表示部50には、連続的に更新される3次元映像51が表示される。
また、表示させる必要がない場合、映像同期処理部40は処理を終了する。
以上のように、映像復号処理部20が、2つの映像符号化ストリームを並列に復号し、映像符号化ストリーム毎のPOC付き画像データ(F1、F2)を映像出力バッファ30に記憶させる。また、映像同期処理部40が、映像出力バッファ30に記憶された映像符号化ストリーム毎のPOC付き画像データ(F1、F2)を参照し、POCの値が一致するフレーム単位の画像データ(G1、G2)を、2つの間の同期を取って、映像表示部50に順次表示させる。つまり、映像同期装置1は、映像符号化ストリームを伸長復号する際にPOCを付与することで、複数の映像符号化ストリーム(E1、E2)を同期させた3次元映像51を映像表示部50に表示させることができる。これにより、映像同期装置1は、複数の映像符号化ストリーム(E1、E2)を送信する際に、TSパケット又はRTPパケットを使用する必要がない。このため、送信するパケットにタイムコードのヘッダ情報が不要となり、全体の情報量が低減できる。このため、映像同期装置1は、IPネットワーク2上の負荷を低減できる。
また、上述の通り映像同期装置1は、NTPサーバから時刻情報を取得する必要がない。これにより、映像同期装置1は、NTPクライアント機能を持つ必要がなく、NTPサーバから時刻情報を毎回、IPネットワーク2を介して取得する必要がない。このため、映像同期装置1は、ネットワーク上の負荷を低減できる。
<第2の実施形態>
以下、本発明の第2の実施形態による映像同期装置について説明する。
図7は、本実施形態における映像同期装置を示すブロック図である。
図7に示される映像同期装置1aは、IPネットワーク2と接続される。また、映像送信装置60aが、IPネットワーク2に接続され、映像同期装置1aと映像送信装置60aは、通信可能な状態にある。
この図において、図1と同じ構成には同一の符号を付す。
映像送信装置60aは、映像取り込み部3aと、圧縮符号化器4〜7とを備える。映像取り込み部3aは、4k×2k(ヨンケイニケイ)精細度の1つの映像を4分の1の画素数で構成される4つのHD(High Definition)映像に分割して、並列に取り込む。圧縮符号化器4〜7は、取り込んだ4つの映像情報に基づき、映像符号化ストリームに圧縮符号化すると。また、映像送信装置60aは、圧縮符号化器4〜7が圧縮符号化した映像符号化ストリームを、IPネットワーク2を介して映像同期装置1aに送信する。ここで、圧縮符号化器4〜7が行う圧縮符号化の処理は、例えば、ITU−T H.264勧告に基づいて行われる。また、圧縮符号化器4〜7は、図1の圧縮符号化器4、5と同じ構成である。
また、図1の全体を映像同期システム100aとする。
この図において、映像同期装置1aは、映像データ通信処理部10a、映像復号処理部20a、映像出力バッファ30a、映像同期処理部40a及び映像表示部50aを備える。
映像データ通信処理部10aは、IPネットワーク2に接続され、IPネットワーク2を介して4つの映像符号化ストリームを並列して受信する。また、映像データ通信処理部10aは、受信した4つの映像符号化ストリームE1〜E4を映像復号処理部20aに供給する。
映像復号処理部20aは、伸長復号部21〜24を備える。映像復号処理部20aは、映像データ通信処理部10aより供給される4つの映像符号化ストリームE1〜E4に基づき、H.264勧告による伸長復号処理を並列に行う。これにより、映像復号処理部20aは、フレーム単位の画像データ(G1〜G4)を生成する。また、映像復号処理部20aは、生成したフレーム単位の画像データ(G1〜G4)に、H.264勧告の符号化情報であるPOC(画像順序番号)を付与したPOC付き画像データF1〜F4を生成する。映像復号処理部20aは、POC付き画像データF1〜F4を映像出力バッファ30aに記憶させる。
伸長復号部21〜24は、図1の伸長復号部21、22と同じ構成である。
映像出力バッファ30aは、映像復号処理部20aと映像同期処理部40aとの間に配置され、4つの映像符号化ストリームE1〜E4にそれぞれ対応した領域を有する。この領域は、複数フレーム分のPOC付き画像データF1〜F4を記憶することができる。映像出力バッファ30aは、映像復号処理部20aより供給されるPOC付き画像データF1〜F4を記憶する。また、映像出力バッファ30aは、記憶するPOCを付与したPOC付き画像データF1〜F4を映像同期処理部40aに供給する。
映像同期処理部40aは、映像出力バッファ30aと映像表示部50aとの間に配置される。映像同期処理部40aは、映像出力バッファ30aが記憶するPOCを付与したPOC付き画像データF1〜F4を参照する。映像同期処理部40aは、POC付き画像データF1〜F4に付与されたPOCに基づき、POC付き画像データF1〜F4の同期を取る。また、映像同期処理部40aは、POCを除いたフレーム単位の画像データG1〜G4を、4つの間の同期を取って映像表示部50aに出力する。
映像表示部50aは、映像同期処理部40aに接続され、映像同期処理部40aが供給するフレーム単位の画像データG1〜G4を図示しない表示画面に表示する。
次に、本実施形態の動作について説明する。
図8は、本実施形態における映像同期装置の映像表示の一形態を示す図である。
この図は、本実施形態における映像同期システム100aの動作の概要を示す。映像同期システム100aにおいて、映像送信装置60a(図7)と映像同期装置1a(図7)がそれぞれIPネットワーク2に接続されている。映像送信装置60a(図7)は、取り込んだ4k×2k映像を4つのHD映像に分割して、IPネットワーク2を介して送信する。4つのHD映像は、左上4分の1のHD映像33、右上4分の1のHD映像34、左下4分の1のHD映像35、右下4分の1のHD映像36である。映像同期装置1a(図7)は、IPネットワーク2を介して4つのHD映像33〜36を受信し、4つのHD映像33〜36を、4つの間の同期を取って、4k×2k映像52として映像表示部50a(図5)に表示する。
次に、図7に戻り各部の動作を説明する。
図7において、映像符号化ストリームの数が4つになった点を除き、基本的な動作は、第1の実施形態と同じである。
映像送信装置60aは、映像取り込み部3aが取り込んだ4k×2k映像を、4分の1の面積の4つのHD映像に分割する。分割された4つのHD映像情報は、圧縮符号化器4〜7によりそれぞれH.264勧告の符号化処理を並列して行う。これにより生成された映像符号化ストリームE1〜E4はパケットに順次分割され、映像送信装置60aにより、それぞれIPネットワーク2を介して送信される。
映像同期装置1aの映像データ通信処理部10aは、IPネットワーク2を介してパケットを受信する。映像データ通信処理部10aは、受信したパケットを映像符号化ストリームE1〜E4に順次戻して、伸長復号部21〜24にそれぞれ供給する。ここで、パケットロス等のエラーが発生した場合、映像符号化ストリームE1〜E4は、エラーの部分が欠損した映像符号化ストリームとなる。
伸長復号部21〜24の動作は、基本的に図4のフローチャートに示される動作と同じである。
伸長復号部21〜24は、映像データ通信処理部10aより供給される映像符号化ストリームE1〜E4に基づき、それぞれH.264勧告による伸長復号処理を順次行う。これにより、伸長復号部21〜24は、フレーム単位の画像データ(G1〜G4)をそれぞれ生成する。更に、伸長復号部21〜24は、生成したフレーム単位の画像データ(G1〜G4)にPOCを付与したPOC付き画像データF1〜F4をそれぞれ生成し、映像出力バッファ30aの領域[1]〜領域[4]に順次記憶させる。なお、フレーム単位の画像データ(G1〜G4)は、HD精細度の画像サイズ(HDサイズ)である。
ここでPOCには、H.264勧告における符号化情報の1つであるPOC(画像順序番号)を流用して使用する。
映像同期処理部40aは、映像出力バッファ30aの領域[1]〜領域[4]に記憶されたPOC付き画像データF1〜F4のPOC部分(POC〜POC)を順次参照する。映像同期処理部40aは、参照したPOCの内、POCの最小値〜POCの最小値が全て一致すると判定した場合に、対応するPOC付き画像データF1〜F4を参照する。更に、映像同期処理部40aは、一致したPOC(POC〜POC)を除いたフレーム単位の画像データG1〜G4を、4つの間の同期を取って、映像表示部50aに出力する。映像同期処理部40aは、この動作を繰り返し、同期されたフレーム単位の画像データG1〜G4が映像表示部50aに順次出力される。なお、フレーム単位の画像データG1〜G4は、映像符号化ストリームE1〜E4のフレームレートに応じて、予め定められた時間間隔により出力される。
映像表示部50aは、映像同期処理部40aから供給されるフレーム単位のHDサイズ画像データG1〜G4を同期して順次表示する。これにより、映像表示部50aは、4k×2k映像52を表示する。
また、上述のPOCの最小値〜POCの最小値が不一致である場合の処理は、基本的に図6のフローチャートに示される動作と同じである。本実施形態において、POCは、POCの最小値〜POCの最小値の4つある。そのため、図6のステップS45の処理において、本実施形態の場合、4つの最小値の内、最小のPOCに対応するPOC付き画像データを破棄すれば良い。
以上のように、映像復号処理部20aが、4つのHDサイズの映像符号化ストリームを並列に復号し、映像符号化ストリーム毎のPOC付き画像データ(F1〜F4)を映像出力バッファ30aに記憶させる。また、映像同期処理部40aが、映像出力バッファ30aに記憶された映像符号化ストリーム毎のPOC付き画像データ(F1〜F4)を参照し、POCの値が一致するフレーム単位の画像データ(G1〜G4)を、4つの間の同期を取って、映像表示部50aに順次表示させる。つまり、映像同期装置1aは、映像符号化ストリームを伸長復号する際にPOCを付与することで、複数の映像符号化ストリーム(E1〜E4)を同期させた4k×2k映像52を映像表示部50aに表示させることができる。これにより、映像同期装置1aは、複数の映像符号化ストリーム(E1〜E4)を送信する際に、TSパケット又はRTPパケットを使用する必要がない。このため、送信するパケットにタイムコードのヘッダ情報が不要となり、全体の情報量が低減できる。このため、映像同期装置1aは、IPネットワーク2上の負荷を低減できる。
また、上述の通り映像同期装置1aは、NTPサーバから時刻情報を取得する必要がない。これにより、映像同期装置1aは、NTPクライアント機能を持つ必要がなく、NTPサーバから時刻情報を毎回、IPネットワーク2を介して取得する必要がない。このため、映像同期装置1aは、ネットワーク上の負荷を低減できる。
また、本実施形態では、4k×2k精細度の映像を、4分の1のHD精細度の映像として圧縮符号化/伸長復号処理できる。このため、映像同期システム100a全体で処理する情報量を低減できる。
なお、本発明の実施形態によれば、映像同期装置1(又は1a)では、映像出力バッファ30(又は30a)が、複数の映像符号化ストリームE1、E2(又はE1〜E4)ごとに順序付けられたフレーム単位の画像データG1、G2(又はG1〜G4)を、映像符号化ストリームE1、E2(又はE1〜E4)ごとに記憶する。映像復号処理部20(又は20a)が、受信した映像符号化ストリームE1、E2(又はE1〜E4)に基づいてフレーム画像単位で表示させるフレーム単位の画像データG1、G2(又はG1〜G4)を生成し、映像符号化ストリームE1、E2(又はE1〜E4)ごとに、フレーム単位の画像データG1、G2(又はG1〜G4)を表示させる画像順序番号(POC)を生成し、フレーム単位の画像データG1、G2(又はG1〜G4)にそれぞれ付与して、映像出力バッファ30(又は30a)にそれぞれ記憶させる。映像同期処理部40(又は40a)が、フレーム単位の画像データG1、G2(又はG1〜G4)にそれぞれ付与された画像順序番号(POC)に基づいて、映像符号化ストリームE1、E2(又はE1〜E4)ごとに記憶されたフレーム単位の画像データG1、G2(又はG1〜G4)について、映像符号化ストリームE1、E2(又はE1〜E4)の間の同期を取って、フレーム単位の画像データG1、G2(又はG1〜G4)を出力する。
これにより、映像同期装置1(又は1a)は、複数の映像符号化ストリームE1、E2(又はE1〜E4)を送信する際に、TSパケット又はRTPパケットを使用する必要なしに、複数の映像符号化ストリームE1、E2(又はE1〜E4)の間の同期を取って、映像表示部50(又は50a)に表示させることができる。このため、送信するパケットにタイムコードのヘッダ情報が不要となり、全体の情報量が低減できる。このため、映像同期装置1(又は1a)は、IPネットワーク2上の負荷を低減できる。
また、上述の通り映像同期装置1(又は1a)は、NTPサーバから時刻情報を取得する必要がない。これにより、映像同期装置1(又は1a)は、NTPクライアント機能を持つ必要がなく、NTPサーバから時刻情報を毎回、IPネットワーク2を介して取得する必要がない。このため、映像同期装置1(又は1a)は、ネットワーク上の負荷を低減できる。
また、映像同期処理部40(又は40a)は、画像順序番号POC、POC(又はPOC〜POC)の内、映像符号化ストリームE1、E2(又はE1〜E4)ごとに付与されたPOC、POC(又はPOC〜POC)の最小値が映像符号化ストリームE1、E2(又はE1〜E4)の間で全て一致するかを判定し、映像符号化ストリームE1、E2(又はE1〜E4)の間で少なくとも1つの画像順序番号POC、POC(又はPOC〜POC)の最小値の1つが一致しないと判定した場合に、全て一致するかの判定の前に同期を取って出力した状態を保持する。
また、映像同期処理部40(又は40a)は、画像順序番号POC、POC(又はPOC〜POC)の最小値が映像符号化ストリームE1、E2(又はE1〜E4)の間で全て一致すると判定した場合に、一致したPOC、POC(又はPOC〜POC)の最小値に応じた映像符号化ストリームE1、E2(又はE1〜E4)ごとのフレーム単位の画像データG1、G2(又はG1〜G4)の間の同期を取って出力し、映像符号化ストリームE1、E2(又はE1〜E4)の間で少なくとも画像順序番号POC、POC(又はPOC〜POC)の最小値の1つが一致しないと判定した場合に、画像順序番号POC、POC(又はPOC〜POC)の最小値の内、最小の画像順序番号に応じたフレーム単位の画像データを破棄する。
これにより、複数の映像符号化ストリームE1、E2(又はE1〜E4)のいずれかに、パケットロス等のIPネットワーク2上のエラーが発生した場合において、同期ずれを防止できる。そのため、映像同期装置1(又は1a)は、複数の映像符号化ストリームE1、E2(又はE1〜E4)を同期して映像表示部50(又は50a)に表示することができる。
また、映像同期処理部40(又は40a)は、画像順序番号POC、POC(又はPOC〜POC)の最小値が映像符号化ストリームE1、E2(又はE1〜E4)の間で全て一致すると判定した場合に、連続して出力すべきフレームの計数値(フレーム番号N)と画像順序番号POC、POC(又はPOC〜POC)の最小値が一致するか否かを判定し、フレームの計数値(フレーム番号N)と画像順序番号POC、POC(又はPOC〜POC)の最小値が一致すると判定した場合に、画像順序番号POC、POC(又はPOC〜POC)の最小値に応じた映像符号化ストリームE1、E2(又はE1〜E4)ごとのフレーム単位の画像データG1、G2(又はG1〜G4)の間の同期を取って出力し、フレームの計数値(フレーム番号N)と画像順序番号POC、POC(又はPOC〜POC)の最小値が一致しないと判定した場合に、フレームの計数値(フレーム番号N)と画像順序番号POC、POC(又はPOC〜POC)の最小値が一致するかの判定前に同期を取って出力した状態を保持する。
これにより、全ての映像符号化ストリームE1、E2(又はE1〜E4)に、パケットロス等のIPネットワーク2上のエラーが発生した場合、映像同期装置1(又は1a)は、最後に出力された(最後に同期が取れた)フレーム単位の画像データG1、G2(又はG1〜G4)を表示する状態を保持する。このため、映像同期装置1(又は1a)は、映像符号化ストリームE1、E2(又はE1〜E4)のフレームずれにより映像表示時間が短くなることを防止できる。
また、映像復号処理部20(又は20a)は、受信した映像符号化ストリームE1、E2(又はE1〜E4)を送信時に符号化された符号化方式(ITU−T H.264勧告)に基づいて復号化処理を行い、符号化方式(H.264勧告)の制御情報(符号化情報)に基づいて画像順序番号POCを生成する。
これにより、映像復号処理部20(又は20a)は、自らフレーム番号Nを計数する必要がない。このため、映像同期装置1(又は1a)は、映像復号処理部20(又は20a)の処理を簡略化できる。
なお、本発明は、上記の各実施形態に限定されるものではなく、本発明の趣旨を逸脱しない範囲で変更可能である。本発明に用いる映像符号化の方式は、H.264勧告に限定されるものではなく、他の方式でも良いし、符号化されない映像情報に基づいてフレーム単位の画像データを生成しても良い。また、本実施形態において、画像順序番号(POC)は、H.264勧告の符号化情報であるPOCを使用したが、これに限定されるものではない。例えば、映像復号処理部20(又は20a)は、自ら計数したフレーム番号を使用しても良い。
また、映像表示部50(又は50a)は、映像同期装置1(又は1a)に含まれる形態を説明したが、外部ディスプレイやプロジェクタなどの表示装置に表示する形態でも良い。また、映像同期装置1(又は1a)は、映像符号化ストリーム間の同期を取って、記憶媒体などに出力する形態でも良い。また、映像送信装置60(又は60a)は、映像取り込み部3(又は3a)を含み、リアルタイムに圧縮符号化した映像符号化ストリームを送信する形態を説明したが、予め圧縮符号化して取り込まれた映像符号化ストリームを送信する形態でも良い。例えば、映像送信装置60(又は60a)は、複数の映像符号化ストリームを配信するサーバ装置などでも良い。また、2つの映像符号化ストリーム(E1、E2)と4つの映像符号化ストリーム(E1〜E4)の同期を取る形態を説明したが、これに限定されるものではなく、他の数の映像符号化ストリームを同期させる形態でも良い。
また、3次元映像51を表示する映像同期システム100と4k×2k映像52を表示する映像同期システム100aの形態を説明したが、本発明は、これに限定されるものではない。例えば、テレビ会議システムなどのIPネットワーク2を介した映像伝送システムに適用しても良い。
また、図6のステップS45において、映像同期処理部40は、最後に同期が取れたフレーム単位の画像データG1、G2を映像表示部50に再出力しない形態を説明した。しかし、最後に同期が取れたフレーム単位の画像データG1、G2を再出力する形態でも良い。
また、ステップS44において、ステップS47の処理に進む前に、最後に同期が取れたフレーム単位の画像データG1、G2を再出力する形態でも良い。
また、フレーム番号Nを記憶する図示しない記憶部を映像同期処理部40に備えた形態を説明したが、映像出力バッファ部30に備えても良い。
上述の映像同期装置1、1aは内部に、コンピュータシステムを有している。そして、上述した複数の映像符号化ストリームを同期させて映像表示部50、50aに表示させる映像同期の処理過程は、プログラムの形式でコンピュータ読み取り可能な記録媒体に記憶されており、このプログラムをコンピュータが読み出して実行することによって、上記処理が行われる。ここでコンピュータ読み取り可能な記録媒体とは、磁気ディスク、光磁気ディスク、CD−ROM、DVD−ROM、半導体メモリ等をいう。また、このコンピュータプログラムを通信回線によってコンピュータに配信し、この配信を受けたコンピュータが当該プログラムを実行するようにしても良い。
なお、本発明のバッファ部は、映像出力バッファ部30(又は30a)に対応する。また、本発明の画像情報生成部は、映像復号処理部20(又は20a)に対応する。また、本発明のフレーム画像情報は、フレーム単位の画像データG1、G2(又はG1〜G4)に対応する。また、本発明の複数の映像情報は、映像符号化ストリームE1、E2(又はE1〜E4)に対応する。また、本発明の順序番号は、画像順序番号(POC)に対応する。
1、1a 映像同期装置
2 IPネットワーク
3、3a 映像取り込み部
4、5、6、7 圧縮符号化器
10、10a 映像データ通信処理部
20、20a 映像復号処理部
21、22、23、24 伸長復号部
30、30a 映像出力バッファ
31 左目映像
32 右目映像
33 左上4分の1のHD映像
34 右上4分の1のHD映像
35 左下4分の1のHD映像
36 右下4分の1のHD映像
40、40a 映像同期処理部
50、50a 映像表示部
51 3次元映像
52 4k×2k映像
100、100a 映像同期システム

Claims (8)

  1. 受信した複数の映像情報に基づいてそれぞれ生成されるフレーム画像情報の間の同期を取って出力する映像同期装置であって、
    前記映像情報ごとに順序付けられた前記フレーム画像情報を、前記映像情報ごとに記憶するバッファ部と、
    受信した前記映像情報に基づいてフレーム画像単位で表示させるフレーム画像情報を生成し、前記映像情報ごとに、前記フレーム画像情報を表示させる順序番号を生成し、前記フレーム画像情報にそれぞれ付与して、前記バッファ部にそれぞれ記憶させる画像情報生成部と、
    前記フレーム画像情報にそれぞれ付与された前記順序番号に基づいて、前記映像情報ごとに記憶されたフレーム画像情報について、前記複数の映像情報の間の同期を取って、前記フレーム画像情報を出力する映像同期処理部と
    を備え
    前記映像同期処理部は、
    前記順序番号の内、前記映像情報ごとに付与された前記順序番号の最小値が前記複数の映像情報の間で全て一致するかを判定し、前記複数の映像情報の間で少なくとも1つの前記最小値が一致しないと判定した場合に、前記判定の前に同期を取って出力した状態を保持する
    ことを特徴とする映像同期装置。
  2. 前記映像同期処理部は、
    前記最小値が前記複数の映像情報の間で全て一致すると判定した場合に、一致した前記最小値に応じた前記映像情報ごとの前記フレーム画像情報の間の同期を取って出力し、
    前記複数の映像情報の間で少なくとも前記最小値の1つが一致しないと判定した場合に、前記最小値の内、最小の前記順序番号に応じた前記フレーム画像情報を破棄する
    ことを特徴とする請求項に記載の映像同期装置。
  3. 前記映像同期処理部は、
    前記最小値が前記複数の映像情報の間で全て一致すると判定した場合に、連続して出力すべきフレームの計数値と前記最小値が一致するか否かを判定し、前記フレームの計数値と前記最小値が一致すると判定した場合に、前記最小値に応じた前記映像情報ごとの前記フレーム画像情報の間の同期を取って出力し、
    前記フレームの計数値と前記最小値が一致しないと判定した場合に、前記フレームの計数値と前記最小値が一致するかの判定前に同期を取って出力した状態を保持する
    ことを特徴とする請求項又は請求項に記載の映像同期装置。
  4. 前記画像情報生成部は、
    前記受信した映像情報を送信時に符号化された符号化方式に基づいて復号化処理を行い、該符号化方式の制御情報に基づいて前記順序番号を生成する
    ことを特徴とする請求項1から請求項のいずれか一項に記載の映像同期装置。
  5. 前記符号化方式は、ITU−T H.264勧告に基づく
    ことを特徴とする請求項1から請求項のいずれか一項に記載の映像同期装置。
  6. 請求項1から請求項のいずれか一項に記載の映像同期装置を用いて同期化された複数の映像情報を表示する
    ことを特徴とする映像表示装置。
  7. 受信した複数の映像情報に基づいてそれぞれ生成されるフレーム画像情報の間の同期を取って出力する映像同期方法であって、
    前記映像情報ごとに順序付けられた前記フレーム画像情報を、前記映像情報ごとに記憶する過程と、
    受信した前記映像情報に基づいてフレーム画像単位で表示させるフレーム画像情報を生成し、前記映像情報ごとに、前記フレーム画像情報を表示させる順序番号を生成し、前記フレーム画像情報にそれぞれ付与して、バッファ部にそれぞれ記憶させる画像情報生成処理過程と、
    前記フレーム画像情報にそれぞれ付与された前記順序番号に基づいて、前記映像情報ごとに記憶されたフレーム画像情報について、前記複数の映像情報の間の同期を取って、前記フレーム画像情報を出力する映像同期処理過程と
    を含み、
    前記映像同期処理過程は、
    前記順序番号の内、前記映像情報ごとに付与された前記順序番号の最小値が前記複数の映像情報の間で全て一致するかを判定し、前記複数の映像情報の間で少なくとも1つの前記最小値が一致しないと判定した場合に、前記判定の前に同期を取って出力した状態を保持する
    ことを特徴とする映像同期方法。
  8. コンピュータに、受信した複数の映像情報に基づいてそれぞれ生成されるフレーム画像情報の間の同期を取って出力させるプログラムであって、
    バッファ部が、前記映像情報ごとに順序付けられた前記フレーム画像情報を、前記映像情報ごとに記憶する処理ステップと、
    画像情報生成部が、受信した前記映像情報に基づいてフレーム画像単位で表示させるフレーム画像情報を生成し、前記映像情報ごとに、前記フレーム画像情報を表示させる順序番号を生成し、前記フレーム画像情報にそれぞれ付与して、前記バッファ部にそれぞれ記憶させる画像情報生成処理ステップと、
    映像同期処理部が、前記フレーム画像情報にそれぞれ付与された前記順序番号に基づいて、前記映像情報ごとに記憶されたフレーム画像情報について、前記複数の映像情報の間の同期を取って、前記フレーム画像情報を出力する映像同期処理ステップであって、前記順序番号の内、前記映像情報ごとに付与された前記順序番号の最小値が前記複数の映像情報の間で全て一致するかを判定し、前記複数の映像情報の間で少なくとも1つの前記最小値が一致しないと判定した場合に、前記判定の前に同期を取って出力した状態を保持する映像同期処理ステップと、
    を前記コンピュータに実行させるためのプログラム。
JP2010029385A 2010-02-12 2010-02-12 映像同期装置、映像表示装置、映像同期方法及びプログラム Expired - Fee Related JP5172874B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010029385A JP5172874B2 (ja) 2010-02-12 2010-02-12 映像同期装置、映像表示装置、映像同期方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010029385A JP5172874B2 (ja) 2010-02-12 2010-02-12 映像同期装置、映像表示装置、映像同期方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2011166615A JP2011166615A (ja) 2011-08-25
JP5172874B2 true JP5172874B2 (ja) 2013-03-27

Family

ID=44596740

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010029385A Expired - Fee Related JP5172874B2 (ja) 2010-02-12 2010-02-12 映像同期装置、映像表示装置、映像同期方法及びプログラム

Country Status (1)

Country Link
JP (1) JP5172874B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5367771B2 (ja) * 2011-07-20 2013-12-11 日本電信電話株式会社 映像伝送システム
JP6313704B2 (ja) * 2012-06-22 2018-04-18 サターン ライセンシング エルエルシーSaturn Licensing LLC 受信装置およびその同期処理方法
CN105959798B (zh) * 2016-06-30 2019-05-31 北京小米移动软件有限公司 视频流的帧定位方法、装置和设备
CN113923432B (zh) * 2021-12-06 2022-02-11 极限人工智能有限公司 视频读取方法、装置、电子设备及存储介质
US12039955B2 (en) * 2022-03-10 2024-07-16 Rockwell Collins, Inc. Methodology for image synchronization to video imaging devices

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3332575B2 (ja) * 1994-05-23 2002-10-07 三洋電機株式会社 立体動画像再生装置
JP3338183B2 (ja) * 1994-07-26 2002-10-28 三洋電機株式会社 立体動画像の復号装置
JP2000092519A (ja) * 1998-09-10 2000-03-31 Toshiba Corp 立体画像受信装置及び立体画像表示システム
JP4614612B2 (ja) * 2002-06-25 2011-01-19 ソニー株式会社 画像表示システム
JP2009004939A (ja) * 2007-06-20 2009-01-08 Victor Co Of Japan Ltd 多視点画像復号方法、多視点画像復号装置及び多視点画像復号プログラム

Also Published As

Publication number Publication date
JP2011166615A (ja) 2011-08-25

Similar Documents

Publication Publication Date Title
KR101442278B1 (ko) 정보 처리 장치 및 방법
KR101426097B1 (ko) 정보 처리 장치 및 방법과, 프로그램
KR0167798B1 (ko) 주화상에 부화상을 중첩하기 위한 다중화/디멀티플렉싱하는 방법
JP4425635B2 (ja) 両眼/多視点3次元動画像処理システム及びその方法
TWI499275B (zh) 用於視頻傳輸的方法和系統
KR20070084128A (ko) 중간 형식으로 변환하는 2단계 산술 복호
JP5172874B2 (ja) 映像同期装置、映像表示装置、映像同期方法及びプログラム
JP2008034892A (ja) 多視点画像符号化装置
WO2013146636A1 (ja) 画像符号化装置、画像復号装置、画像符号化方法、画像復号方法およびプログラム
KR100746005B1 (ko) 다중 목적의 비디오 스트림을 처리하는 장치 및 방법
JP2009004939A (ja) 多視点画像復号方法、多視点画像復号装置及び多視点画像復号プログラム
JP2006319956A (ja) Mpeg符号化ストリーム復号装置
KR20040065170A (ko) 화상 정보 복호 장치 및 방법
US9930422B2 (en) Video transmission system, video encoding apparatus, and video decoding apparatus
JP2005110113A (ja) 多視点画像伝送システムと方法、多視点画像圧縮装置と方法、多視点画像伸長装置と方法およびプログラム
JP3822821B2 (ja) 画像再生表示装置
US9479823B2 (en) Transmitting device and receiving device
JP2008034893A (ja) 多視点画像復号装置
JP5367771B2 (ja) 映像伝送システム
JP2006050491A (ja) マルチチャネル画像コーデック装置
JP4892541B2 (ja) 画像伝送方法および画像伝送システム
JP2004056234A (ja) 画像符号化装置および画像符号化方法
JP6303829B2 (ja) 多重化プログラム、多重化装置、及び多重化方法
KR101336820B1 (ko) 다채널 트릭 모드에 특화된 복호화 장치 및 방법
JP2013211777A (ja) 画像符号化装置、画像復号装置、画像符号化方法、画像復号方法およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120216

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121016

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20121017

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121127

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121218

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121226

R151 Written notification of patent or utility model registration

Ref document number: 5172874

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160111

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees