JP5172874B2 - 映像同期装置、映像表示装置、映像同期方法及びプログラム - Google Patents
映像同期装置、映像表示装置、映像同期方法及びプログラム Download PDFInfo
- Publication number
- JP5172874B2 JP5172874B2 JP2010029385A JP2010029385A JP5172874B2 JP 5172874 B2 JP5172874 B2 JP 5172874B2 JP 2010029385 A JP2010029385 A JP 2010029385A JP 2010029385 A JP2010029385 A JP 2010029385A JP 5172874 B2 JP5172874 B2 JP 5172874B2
- Authority
- JP
- Japan
- Prior art keywords
- video
- information
- poc
- image information
- frame image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Description
また、特許文献1が示す、NTPサーバから時刻情報を取得する方式においては、NTPクライアント機能が必要になる。また、NTPサーバから時刻情報を毎回、ネットワークを介して取得する必要があるため、ネットワーク上の負荷が高くなり、複数の映像符号化ストリーム間で同期を取ることができないという問題がある。
以下、本発明の第1の実施形態による映像同期装置について図面を参照して説明する。
図1は、本実施形態における映像同期装置を示すブロック図である。
図1に示される映像同期装置1は、インターネットプロトコル(以下IPという。)を用いて通信を行うネットワーク(以下IPネットワークという。)2と接続される。また、IPネットワーク2には、映像送信装置60が接続され、映像同期装置1と映像送信装置60は、通信可能な状態にある。映像送信装置60が送信した映像符号化ストリームを、映像同期装置1が受信する。
映像送信装置60は、2つの映像情報を並列して取り込む映像取り込み部3と、取り込んだ映像情報に基づき、映像符号化ストリームに圧縮符号化する圧縮符号化器4、5とを備える。また、映像送信装置60は、圧縮符号化器4、5が圧縮符号化した映像符号化ストリームを、IPネットワーク2を介して映像同期装置1に送信する。ここで、圧縮符号化器4、5が行う圧縮符号化の処理は、例えば、ITU−T(International Telecommunication Union Telecommunication Standardization Sector)H.264勧告に基づいて行なわれる。
また、図1の全体を映像同期システム100とする。
映像データ通信処理部10は、IPネットワーク2に接続され、IPネットワーク2を介して2つの映像符号化ストリームを並列して受信する。また、映像データ通信処理部10は、受信した2つの映像符号化ストリームE1、E2を映像復号処理部20に供給する。
映像復号処理部20は、伸長復号部21、22を備える。映像復号処理部20は、映像データ通信処理部10より供給される2つの映像符号化ストリームE1、E2に基づき、H.264勧告による伸長復号処理を並列に行う。これにより、映像復号処理部20は、フレーム単位の画像データ(G1、G2)を生成する。また、映像復号処理部20は、生成したフレーム単位の画像データ(G1、G2)に、H.264勧告の符号化情報に含まれるPOC(Picture Order Count:画像順序番号)を付与したPOC付き画像データF1、F2を生成する。映像復号処理部20は、POC付き画像データF1、F2を映像出力バッファ30に記憶させる。
伸長復号部21は、映像符号化ストリームE1に基づきH.264勧告による伸長復号処理を行う。これにより、伸長復号部21は、フレーム単位の画像データ(G1)を生成して、POCを付与したPOC付き画像データF1を、映像出力バッファ30に記憶させる。また、伸長復号部22は、映像符号化ストリームE2に基づきH.264勧告による伸長復号処理を行う。これにより、伸長復号部22は、フレーム単位の画像データ(G2)を生成して、POCを付与したPOC付き画像データF2を、映像出力バッファ30に記憶させる。
映像同期処理部40は、映像出力バッファ30と映像表示部50との間に配置される。映像同期処理部40は、映像出力バッファ30が記憶するPOC付き画像データF1、F2を参照する。映像同期処理部40は、POC付き画像データF1、F2に付与されたPOCに基づき、POC付き画像データF1、F2間の同期を取る。また、映像同期処理部40は、POC付き画像データF1、F2からPOCを除いたフレーム単位の画像データG1、G2を生成し、2つを同期して映像表示部50に出力する。
映像表示部50は、映像同期処理部40に接続され、映像同期処理部40が供給するフレーム単位の画像データG1、G2を図示しない表示画面に表示する。
図2は、本実施形態における映像同期装置の映像表示の一形態を示す図である。この図において、映像送信装置60(図1)の映像取り込み部3(図1)が左目映像31と右目映像32を取り込み、映像表示部50(図1)が3次元映像51を表示する映像同期システム100を示す。
図3において、映像取り込み部3(図1)が取り込んだ左目映像31及び右目映像32の映像情報は、それぞれ、圧縮符号化器4、5により、H.264勧告の符号化処理が行われる。これにより、2つの映像符号化ストリームE1、E2が生成される。また、映像符号化ストリームE1、E2は、映像送信装置60(図1)によりそれぞれIPネットワーク2を介して送信される。ここで、映像符号化ストリームE1が左目映像31の映像ストリームであり、映像符号化ストリームE2が左目映像32の映像ストリームである。
映像符号化ストリームE1、E2は、映像データ通信処理部10(図1)により受信され、伸長復号部21、22に供給される。伸長復号部21、22は、H.264勧告に基づいた映像符号化ストリームE1、E2をそれぞれ伸長復号して、POC付き画像データF1、F2を生成する。また、伸長復号部21、22は、生成したPOC付き画像データF1、F2を映像出力バッファ30に記憶させる。
また、映像出力バッファ30は、伸長復号部22より供給されるPOC付き画像データF2を、領域[2]に順次記憶する。
この図において、映像出力バッファ30は、POC=1及びPOC=2のPOC付き画像データを記憶した状態を示す。ここで、領域[1]に記憶されるPOC付き画像データF1のPOCをPOC1とし、領域[2]に記憶されるPOC付き画像データF2のPOCをPOC2とする。
図1において、映像送信装置60は、映像取り込み部3が取り込んだ左目映像31及び右目映像32の映像情報を、圧縮符号化器4、5によりそれぞれH.264勧告の符号化処理を行う。これにより生成された映像符号化ストリームE1、E2はパケットに順次分割され、映像送信装置60により、それぞれIPネットワーク2を介して送信される。
映像同期装置1の映像データ通信処理部10は、IPネットワーク2を介してパケットを受信する。映像データ通信処理部10は、受信したパケットを映像符号化ストリームE1、E2に順次戻して、伸長復号部21、22にそれぞれ供給する。ここで、パケットロス等のエラーが発生した場合、映像符号化ストリームE1、E2は、エラーの部分が欠損した映像符号化ストリームとなる。
伸長復号部22は、映像データ通信処理部10より供給される映像符号化ストリームE2に基づきH.264勧告による伸長復号処理を順次行う。これにより、伸長復号部22は、フレーム単位の画像データ(G2)を生成する。更に、伸長復号部22は、生成したフレーム単位の画像データ(G2)にPOCを付与したPOC付き画像データF2を順次生成し、映像出力バッファ30の領域[2]に順次記憶させる。
ここでPOCには、H.264勧告における符号化情報の1つであるPOC(画像順序番号)を流用して使用する。また、上述の処理は、伸長復号部21、22において、並列して行われる。
映像表示部50は、映像同期処理部40から供給されるフレーム単位の画像データG1、G2を同期して順次表示する。これにより、映像表示部50は、3次元映像51を表示する。
伸長復号部21、22は、並列して同様の処理を行う。そこで、図4において、伸長復号部21における処理を示す。
この図において、伸長復号部21は、映像データ通信処理部10より映像符号化ストリームE1の供給を受けて、処理を開始する。
まず、ステップS21において、伸長復号部21は、映像符号化ストリームE1に基づきH.264勧告による伸長復号処理を行う。これにより、フレーム単位の画像データ(G1)が生成される。次に、ステップS22において、伸長復号部21は、H.264勧告における符号化情報であるPOC(画像順序番号)をフレーム単位の画像データ(G1)に付与し、POC付き画像データF1を生成する。また、伸長復号部21は、生成したPOC付き画像データF1を映像出力バッファ30に出力し、領域[1]に記憶させる。
ステップS23において、伸長復号部21は、映像データ通信処理部10から供給されるデータに基づいて、続いて伸長復号処理するデータがあるか否かを判定する。続いて伸長復号処理するデータがあると判定した場合、伸長復号部21は、ステップS21の処理に戻り、ステップS21からS22の処理を繰り返す。また、続いて伸長復号処理するデータがないと判定した場合、伸長復号部21は、処理を終了する。
図5は、本実施形態における映像同期処理部40の動作を示す図である。
図5の(a)から図5の(d)は、時間の経過に伴って行われる各フレームにおける映像同期装置1の処理状態を示す。また、フレーム単位の画像データG1及びG2には、ここでは、POCの値を付加して示す。また、POC付き画像データF1及びF2には、ここでは、POCの値を付加して示す。例えば、POCの値が“2”の場合、G12及びG22ならびにF12及びF22として示す。
図5の(a)は、状態(1)を示す。状態(1)において、伸長復号部21、22は、POCの値が“2”(POC1=2、POC2=2)となるフレーム単位の画像データ(G12、G22)を伸長復号して生成する。なお、ここでは、パケットロス等の伝送エラーが発生したとする。そのため、伸長復号部22は、(POC2=2)となるフレーム単位の画像データ(G22)を生成できない。
また、状態(1)において、映像出力バッファ30は、領域[1]及び領域[2]に、それぞれPOCの値に“1”(POC1=1、POC2=1)が付加されたPOC付き画像データ(F11、F21)が記憶されている。また、映像表示部50は、まだ映像を表示していない状態である。
また、状態(1)において、映像同期処理部40は、映像出力バッファ30の領域[1]及び領域[2]に記憶されたPOC付き画像データF1及びF2を参照し、付与されたPOC(POC1とPOC2の値)が一致するか否かを判定する。この場合、POC1とPOC2の値がいずれも“1”で一致するため、映像同期処理部40は、POCを除いたフレーム単位の画像データ(G11、G21)を、2つの間の同期を取って、次の状態(2)において映像表示部50に出力する。
状態(2)において、伸長復号部21、22は、POCの値が“3”(POC1=3、POC2=3)となるフレーム単位の画像データ(G13、G23)を伸長復号して生成する。
また、状態(2)において、映像出力バッファ30は、領域[1]に、(POC1=2)が付加されたPOC付き画像データ(F12)が記憶されている。しかし、状態(1)において、(POC2=2)となるフレーム単位の画像データ(G22)が生成されていない。このため、映像出力バッファ30の領域[2]には、(POC2=2)が付加されたPOC付き画像データ(F22)がない状態である。
また、状態(2)において、映像表示部50は、POCの値が“1”に対応したフレーム単位の画像データ(G11、G21)を表示する。
また、状態(2)において、映像同期処理部40は、映像出力バッファ30の領域[1]及び領域[2]に記憶されたPOC付き画像データF1及びF2を参照し、付与されたPOC(POC1とPOC2の値)が一致するか否かを判定する。この場合、POC2の値がないため、映像同期処理部40は、次の状態(3)においてフレーム単位の画像データ(G12、G22)を出力しない。
状態(3)において、伸長復号部21、22は、POCの値が“4”(POC1=4、POC2=4)となるフレーム単位の画像データ(G14、G24)を伸長復号して生成する。
また、状態(3)において、映像出力バッファ30は、領域[1]に、POCの値に“2”と“3”(POC1=2とPOC1=3)が付加された2つのPOC付き画像データ(F12、F13)が記憶されている。また、領域[2]には、POCの値に“3”(POC2=3)が付加されたPOC付き画像データ(F23)が記憶されている。
また、状態(3)において、映像表示部50は、POCの値が1に対応したフレーム単位の画像データ(G11、G21)の表示状態を保持する。つまり、最後に表示されたフレーム番号(N=1)の表示状態を保持する。
また、状態(3)において、映像同期処理部40は、次に表示するフレーム番号よりも小さいPOC(POC1=2)のPOC付き画像データ(F12)を破棄する。また、映像同期処理部40は、映像出力バッファ30の領域[1]及び領域[2]に記憶されたPOC付き画像データF1及びF2を参照し、付与されたPOC(POC1とPOC2の値)が一致するか否かを判定する。この場合、POC1とPOC2の値がいずれも“3”で一致する。そのため、映像同期処理部40は、POCを除いたフレーム単位の画像データ(G13、G23)を、2つの間の同期を取って、次の状態(4)において映像表示部50に出力する。
状態(4)において、伸長復号部21、22は、POCの値が“5”(POC1=5、POC2=5)となるフレーム単位の画像データ(G15、G25)を伸長復号して生成する。
また、状態(4)において、映像出力バッファ30は、領域[1]及び領域[2]に、それぞれPOC値に“4”(POC1=4、POC2=4)が付加されたPOC付き画像データ(F14、F24)が記憶されている。
また、状態(4)において、映像表示部50は、POCの値が“3”に対応したフレーム単位の画像データ(G13、G23)を表示する。これにより、映像表示部50の表示の更新が再開され、映像表示部50は、正常な映像表示が行われる状態となる。
また、状態(4)において、映像同期処理部40は、映像出力バッファ30の領域[1]及び領域[2]に記憶されたPOC付き画像データF1及びF2を参照し、付与されたPOC(POC1とPOC2の値)が一致するか否かを判定する。この場合、POC1とPOC2の値が“4”で一致する。そのため、映像同期処理部40は、POCを除いたフレーム単位の画像データ(G14、G24)を、2つの間の同期を取って、次のフレーム番号(N=4)の状態において映像表示部50に出力する。
図6は、実施形態における映像同期処理部40の動作を示すフローチャートである。
まず、ステップS41において、映像同期処理部40は、フレーム番号Nを初期化する。フレーム番号Nは、映像同期処理部40の図示しない記憶部に記憶され、“1”に 初期化される。次に、ステップS42において、映像同期処理部40は、映像出力バッファ30の領域[1]及び領域[2]のPOC(POC1、POC2)を参照する。
次に、ステップS43において、映像同期処理部40は、参照したPOC(POC1、POC2)の内、領域[1]に記憶されたPOC付き画像データF1に付与されたPOC1の最小値と領域[2]に記憶されたPOC付き画像データF2に付与されたPOC2の最小値とが一致するか否かを判定する。POC1の最小値とPOC2の最小値が一致すると判定された場合、映像同期処理部40は、ステップS44の処理に進む。また、POC1の最小値とPOC2の最小値が一致しないと判定された場合、映像同期処理部40は、ステップS45の処理に進む。すなわち、POC1の最小値とPOC2の最小値が不一致の場合は、伸長復号部21、22のいずれか一方において、エラーが発生し、フレーム単位の画像データ(G1又はG2)を生成できなかった場合である。
また、ステップS45において、映像同期処理部40は、POC1の最小値とPOC2の最小値の小さい方のPOCの値に対応する、POC付き画像データ(F1又はF2)を、映像出力バッファ30から破棄する。例えば、POC1の最小値の方が小さいとする。この場合、映像同期処理部40は、POC1の最小値に対応するPOC付き画像データ(F1)を映像出力バッファ30から消去する。次に、映像同期処理部40は、ステップS47の処理に進む。
次に、ステップS47において、映像同期処理部40は、フレーム番号Nを更新する。つまり、映像同期処理部40は、図示しない記憶部に記憶されたフレーム番号Nの値を参照し、“1”を加算した値を記憶部に記憶させる。
なお、ステップS44の処理、又はステップS45の処理からステップS47の処理に進んだ場合、ステップS46の処理が行われない。つまり、この場合、映像同期処理部40は、フレーム単位の新たな画像データ(G1、G2)を映像表示部50に出力しない。このため、映像表示部50は、最後に出力された(最後に同期が取れた)フレーム単位の画像データ(G1、G2)を表示する状態を保持する。
また、表示させる必要がない場合、映像同期処理部40は処理を終了する。
また、上述の通り映像同期装置1は、NTPサーバから時刻情報を取得する必要がない。これにより、映像同期装置1は、NTPクライアント機能を持つ必要がなく、NTPサーバから時刻情報を毎回、IPネットワーク2を介して取得する必要がない。このため、映像同期装置1は、ネットワーク上の負荷を低減できる。
以下、本発明の第2の実施形態による映像同期装置について説明する。
図7は、本実施形態における映像同期装置を示すブロック図である。
図7に示される映像同期装置1aは、IPネットワーク2と接続される。また、映像送信装置60aが、IPネットワーク2に接続され、映像同期装置1aと映像送信装置60aは、通信可能な状態にある。
この図において、図1と同じ構成には同一の符号を付す。
映像送信装置60aは、映像取り込み部3aと、圧縮符号化器4〜7とを備える。映像取り込み部3aは、4k×2k(ヨンケイニケイ)精細度の1つの映像を4分の1の画素数で構成される4つのHD(High Definition)映像に分割して、並列に取り込む。圧縮符号化器4〜7は、取り込んだ4つの映像情報に基づき、映像符号化ストリームに圧縮符号化すると。また、映像送信装置60aは、圧縮符号化器4〜7が圧縮符号化した映像符号化ストリームを、IPネットワーク2を介して映像同期装置1aに送信する。ここで、圧縮符号化器4〜7が行う圧縮符号化の処理は、例えば、ITU−T H.264勧告に基づいて行われる。また、圧縮符号化器4〜7は、図1の圧縮符号化器4、5と同じ構成である。
また、図1の全体を映像同期システム100aとする。
映像データ通信処理部10aは、IPネットワーク2に接続され、IPネットワーク2を介して4つの映像符号化ストリームを並列して受信する。また、映像データ通信処理部10aは、受信した4つの映像符号化ストリームE1〜E4を映像復号処理部20aに供給する。
映像復号処理部20aは、伸長復号部21〜24を備える。映像復号処理部20aは、映像データ通信処理部10aより供給される4つの映像符号化ストリームE1〜E4に基づき、H.264勧告による伸長復号処理を並列に行う。これにより、映像復号処理部20aは、フレーム単位の画像データ(G1〜G4)を生成する。また、映像復号処理部20aは、生成したフレーム単位の画像データ(G1〜G4)に、H.264勧告の符号化情報であるPOC(画像順序番号)を付与したPOC付き画像データF1〜F4を生成する。映像復号処理部20aは、POC付き画像データF1〜F4を映像出力バッファ30aに記憶させる。
伸長復号部21〜24は、図1の伸長復号部21、22と同じ構成である。
映像同期処理部40aは、映像出力バッファ30aと映像表示部50aとの間に配置される。映像同期処理部40aは、映像出力バッファ30aが記憶するPOCを付与したPOC付き画像データF1〜F4を参照する。映像同期処理部40aは、POC付き画像データF1〜F4に付与されたPOCに基づき、POC付き画像データF1〜F4の同期を取る。また、映像同期処理部40aは、POCを除いたフレーム単位の画像データG1〜G4を、4つの間の同期を取って映像表示部50aに出力する。
映像表示部50aは、映像同期処理部40aに接続され、映像同期処理部40aが供給するフレーム単位の画像データG1〜G4を図示しない表示画面に表示する。
図8は、本実施形態における映像同期装置の映像表示の一形態を示す図である。
この図は、本実施形態における映像同期システム100aの動作の概要を示す。映像同期システム100aにおいて、映像送信装置60a(図7)と映像同期装置1a(図7)がそれぞれIPネットワーク2に接続されている。映像送信装置60a(図7)は、取り込んだ4k×2k映像を4つのHD映像に分割して、IPネットワーク2を介して送信する。4つのHD映像は、左上4分の1のHD映像33、右上4分の1のHD映像34、左下4分の1のHD映像35、右下4分の1のHD映像36である。映像同期装置1a(図7)は、IPネットワーク2を介して4つのHD映像33〜36を受信し、4つのHD映像33〜36を、4つの間の同期を取って、4k×2k映像52として映像表示部50a(図5)に表示する。
図7において、映像符号化ストリームの数が4つになった点を除き、基本的な動作は、第1の実施形態と同じである。
映像送信装置60aは、映像取り込み部3aが取り込んだ4k×2k映像を、4分の1の面積の4つのHD映像に分割する。分割された4つのHD映像情報は、圧縮符号化器4〜7によりそれぞれH.264勧告の符号化処理を並列して行う。これにより生成された映像符号化ストリームE1〜E4はパケットに順次分割され、映像送信装置60aにより、それぞれIPネットワーク2を介して送信される。
映像同期装置1aの映像データ通信処理部10aは、IPネットワーク2を介してパケットを受信する。映像データ通信処理部10aは、受信したパケットを映像符号化ストリームE1〜E4に順次戻して、伸長復号部21〜24にそれぞれ供給する。ここで、パケットロス等のエラーが発生した場合、映像符号化ストリームE1〜E4は、エラーの部分が欠損した映像符号化ストリームとなる。
伸長復号部21〜24は、映像データ通信処理部10aより供給される映像符号化ストリームE1〜E4に基づき、それぞれH.264勧告による伸長復号処理を順次行う。これにより、伸長復号部21〜24は、フレーム単位の画像データ(G1〜G4)をそれぞれ生成する。更に、伸長復号部21〜24は、生成したフレーム単位の画像データ(G1〜G4)にPOCを付与したPOC付き画像データF1〜F4をそれぞれ生成し、映像出力バッファ30aの領域[1]〜領域[4]に順次記憶させる。なお、フレーム単位の画像データ(G1〜G4)は、HD精細度の画像サイズ(HDサイズ)である。
ここでPOCには、H.264勧告における符号化情報の1つであるPOC(画像順序番号)を流用して使用する。
映像表示部50aは、映像同期処理部40aから供給されるフレーム単位のHDサイズ画像データG1〜G4を同期して順次表示する。これにより、映像表示部50aは、4k×2k映像52を表示する。
また、上述の通り映像同期装置1aは、NTPサーバから時刻情報を取得する必要がない。これにより、映像同期装置1aは、NTPクライアント機能を持つ必要がなく、NTPサーバから時刻情報を毎回、IPネットワーク2を介して取得する必要がない。このため、映像同期装置1aは、ネットワーク上の負荷を低減できる。
また、本実施形態では、4k×2k精細度の映像を、4分の1のHD精細度の映像として圧縮符号化/伸長復号処理できる。このため、映像同期システム100a全体で処理する情報量を低減できる。
また、上述の通り映像同期装置1(又は1a)は、NTPサーバから時刻情報を取得する必要がない。これにより、映像同期装置1(又は1a)は、NTPクライアント機能を持つ必要がなく、NTPサーバから時刻情報を毎回、IPネットワーク2を介して取得する必要がない。このため、映像同期装置1(又は1a)は、ネットワーク上の負荷を低減できる。
また、映像同期処理部40(又は40a)は、画像順序番号POC1、POC2(又はPOC1〜POC4)の最小値が映像符号化ストリームE1、E2(又はE1〜E4)の間で全て一致すると判定した場合に、一致したPOC1、POC2(又はPOC1〜POC4)の最小値に応じた映像符号化ストリームE1、E2(又はE1〜E4)ごとのフレーム単位の画像データG1、G2(又はG1〜G4)の間の同期を取って出力し、映像符号化ストリームE1、E2(又はE1〜E4)の間で少なくとも画像順序番号POC1、POC2(又はPOC1〜POC4)の最小値の1つが一致しないと判定した場合に、画像順序番号POC1、POC2(又はPOC1〜POC4)の最小値の内、最小の画像順序番号に応じたフレーム単位の画像データを破棄する。
これにより、複数の映像符号化ストリームE1、E2(又はE1〜E4)のいずれかに、パケットロス等のIPネットワーク2上のエラーが発生した場合において、同期ずれを防止できる。そのため、映像同期装置1(又は1a)は、複数の映像符号化ストリームE1、E2(又はE1〜E4)を同期して映像表示部50(又は50a)に表示することができる。
これにより、全ての映像符号化ストリームE1、E2(又はE1〜E4)に、パケットロス等のIPネットワーク2上のエラーが発生した場合、映像同期装置1(又は1a)は、最後に出力された(最後に同期が取れた)フレーム単位の画像データG1、G2(又はG1〜G4)を表示する状態を保持する。このため、映像同期装置1(又は1a)は、映像符号化ストリームE1、E2(又はE1〜E4)のフレームずれにより映像表示時間が短くなることを防止できる。
これにより、映像復号処理部20(又は20a)は、自らフレーム番号Nを計数する必要がない。このため、映像同期装置1(又は1a)は、映像復号処理部20(又は20a)の処理を簡略化できる。
また、映像表示部50(又は50a)は、映像同期装置1(又は1a)に含まれる形態を説明したが、外部ディスプレイやプロジェクタなどの表示装置に表示する形態でも良い。また、映像同期装置1(又は1a)は、映像符号化ストリーム間の同期を取って、記憶媒体などに出力する形態でも良い。また、映像送信装置60(又は60a)は、映像取り込み部3(又は3a)を含み、リアルタイムに圧縮符号化した映像符号化ストリームを送信する形態を説明したが、予め圧縮符号化して取り込まれた映像符号化ストリームを送信する形態でも良い。例えば、映像送信装置60(又は60a)は、複数の映像符号化ストリームを配信するサーバ装置などでも良い。また、2つの映像符号化ストリーム(E1、E2)と4つの映像符号化ストリーム(E1〜E4)の同期を取る形態を説明したが、これに限定されるものではなく、他の数の映像符号化ストリームを同期させる形態でも良い。
また、図6のステップS45において、映像同期処理部40は、最後に同期が取れたフレーム単位の画像データG1、G2を映像表示部50に再出力しない形態を説明した。しかし、最後に同期が取れたフレーム単位の画像データG1、G2を再出力する形態でも良い。
また、ステップS44において、ステップS47の処理に進む前に、最後に同期が取れたフレーム単位の画像データG1、G2を再出力する形態でも良い。
また、フレーム番号Nを記憶する図示しない記憶部を映像同期処理部40に備えた形態を説明したが、映像出力バッファ部30に備えても良い。
2 IPネットワーク
3、3a 映像取り込み部
4、5、6、7 圧縮符号化器
10、10a 映像データ通信処理部
20、20a 映像復号処理部
21、22、23、24 伸長復号部
30、30a 映像出力バッファ
31 左目映像
32 右目映像
33 左上4分の1のHD映像
34 右上4分の1のHD映像
35 左下4分の1のHD映像
36 右下4分の1のHD映像
40、40a 映像同期処理部
50、50a 映像表示部
51 3次元映像
52 4k×2k映像
100、100a 映像同期システム
Claims (8)
- 受信した複数の映像情報に基づいてそれぞれ生成されるフレーム画像情報の間の同期を取って出力する映像同期装置であって、
前記映像情報ごとに順序付けられた前記フレーム画像情報を、前記映像情報ごとに記憶するバッファ部と、
受信した前記映像情報に基づいてフレーム画像単位で表示させるフレーム画像情報を生成し、前記映像情報ごとに、前記フレーム画像情報を表示させる順序番号を生成し、前記フレーム画像情報にそれぞれ付与して、前記バッファ部にそれぞれ記憶させる画像情報生成部と、
前記フレーム画像情報にそれぞれ付与された前記順序番号に基づいて、前記映像情報ごとに記憶されたフレーム画像情報について、前記複数の映像情報の間の同期を取って、前記フレーム画像情報を出力する映像同期処理部と
を備え、
前記映像同期処理部は、
前記順序番号の内、前記映像情報ごとに付与された前記順序番号の最小値が前記複数の映像情報の間で全て一致するかを判定し、前記複数の映像情報の間で少なくとも1つの前記最小値が一致しないと判定した場合に、前記判定の前に同期を取って出力した状態を保持する
ことを特徴とする映像同期装置。 - 前記映像同期処理部は、
前記最小値が前記複数の映像情報の間で全て一致すると判定した場合に、一致した前記最小値に応じた前記映像情報ごとの前記フレーム画像情報の間の同期を取って出力し、
前記複数の映像情報の間で少なくとも前記最小値の1つが一致しないと判定した場合に、前記最小値の内、最小の前記順序番号に応じた前記フレーム画像情報を破棄する
ことを特徴とする請求項1に記載の映像同期装置。 - 前記映像同期処理部は、
前記最小値が前記複数の映像情報の間で全て一致すると判定した場合に、連続して出力すべきフレームの計数値と前記最小値が一致するか否かを判定し、前記フレームの計数値と前記最小値が一致すると判定した場合に、前記最小値に応じた前記映像情報ごとの前記フレーム画像情報の間の同期を取って出力し、
前記フレームの計数値と前記最小値が一致しないと判定した場合に、前記フレームの計数値と前記最小値が一致するかの判定前に同期を取って出力した状態を保持する
ことを特徴とする請求項1又は請求項2に記載の映像同期装置。 - 前記画像情報生成部は、
前記受信した映像情報を送信時に符号化された符号化方式に基づいて復号化処理を行い、該符号化方式の制御情報に基づいて前記順序番号を生成する
ことを特徴とする請求項1から請求項3のいずれか一項に記載の映像同期装置。 - 前記符号化方式は、ITU−T H.264勧告に基づく
ことを特徴とする請求項1から請求項4のいずれか一項に記載の映像同期装置。 - 請求項1から請求項5のいずれか一項に記載の映像同期装置を用いて同期化された複数の映像情報を表示する
ことを特徴とする映像表示装置。 - 受信した複数の映像情報に基づいてそれぞれ生成されるフレーム画像情報の間の同期を取って出力する映像同期方法であって、
前記映像情報ごとに順序付けられた前記フレーム画像情報を、前記映像情報ごとに記憶する過程と、
受信した前記映像情報に基づいてフレーム画像単位で表示させるフレーム画像情報を生成し、前記映像情報ごとに、前記フレーム画像情報を表示させる順序番号を生成し、前記フレーム画像情報にそれぞれ付与して、バッファ部にそれぞれ記憶させる画像情報生成処理過程と、
前記フレーム画像情報にそれぞれ付与された前記順序番号に基づいて、前記映像情報ごとに記憶されたフレーム画像情報について、前記複数の映像情報の間の同期を取って、前記フレーム画像情報を出力する映像同期処理過程と
を含み、
前記映像同期処理過程は、
前記順序番号の内、前記映像情報ごとに付与された前記順序番号の最小値が前記複数の映像情報の間で全て一致するかを判定し、前記複数の映像情報の間で少なくとも1つの前記最小値が一致しないと判定した場合に、前記判定の前に同期を取って出力した状態を保持する
ことを特徴とする映像同期方法。 - コンピュータに、受信した複数の映像情報に基づいてそれぞれ生成されるフレーム画像情報の間の同期を取って出力させるプログラムであって、
バッファ部が、前記映像情報ごとに順序付けられた前記フレーム画像情報を、前記映像情報ごとに記憶する処理ステップと、
画像情報生成部が、受信した前記映像情報に基づいてフレーム画像単位で表示させるフレーム画像情報を生成し、前記映像情報ごとに、前記フレーム画像情報を表示させる順序番号を生成し、前記フレーム画像情報にそれぞれ付与して、前記バッファ部にそれぞれ記憶させる画像情報生成処理ステップと、
映像同期処理部が、前記フレーム画像情報にそれぞれ付与された前記順序番号に基づいて、前記映像情報ごとに記憶されたフレーム画像情報について、前記複数の映像情報の間の同期を取って、前記フレーム画像情報を出力する映像同期処理ステップであって、前記順序番号の内、前記映像情報ごとに付与された前記順序番号の最小値が前記複数の映像情報の間で全て一致するかを判定し、前記複数の映像情報の間で少なくとも1つの前記最小値が一致しないと判定した場合に、前記判定の前に同期を取って出力した状態を保持する映像同期処理ステップと、
を前記コンピュータに実行させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010029385A JP5172874B2 (ja) | 2010-02-12 | 2010-02-12 | 映像同期装置、映像表示装置、映像同期方法及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010029385A JP5172874B2 (ja) | 2010-02-12 | 2010-02-12 | 映像同期装置、映像表示装置、映像同期方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2011166615A JP2011166615A (ja) | 2011-08-25 |
JP5172874B2 true JP5172874B2 (ja) | 2013-03-27 |
Family
ID=44596740
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010029385A Expired - Fee Related JP5172874B2 (ja) | 2010-02-12 | 2010-02-12 | 映像同期装置、映像表示装置、映像同期方法及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5172874B2 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5367771B2 (ja) * | 2011-07-20 | 2013-12-11 | 日本電信電話株式会社 | 映像伝送システム |
JP6313704B2 (ja) * | 2012-06-22 | 2018-04-18 | サターン ライセンシング エルエルシーSaturn Licensing LLC | 受信装置およびその同期処理方法 |
CN105959798B (zh) * | 2016-06-30 | 2019-05-31 | 北京小米移动软件有限公司 | 视频流的帧定位方法、装置和设备 |
CN113923432B (zh) * | 2021-12-06 | 2022-02-11 | 极限人工智能有限公司 | 视频读取方法、装置、电子设备及存储介质 |
US12039955B2 (en) * | 2022-03-10 | 2024-07-16 | Rockwell Collins, Inc. | Methodology for image synchronization to video imaging devices |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3332575B2 (ja) * | 1994-05-23 | 2002-10-07 | 三洋電機株式会社 | 立体動画像再生装置 |
JP3338183B2 (ja) * | 1994-07-26 | 2002-10-28 | 三洋電機株式会社 | 立体動画像の復号装置 |
JP2000092519A (ja) * | 1998-09-10 | 2000-03-31 | Toshiba Corp | 立体画像受信装置及び立体画像表示システム |
JP4614612B2 (ja) * | 2002-06-25 | 2011-01-19 | ソニー株式会社 | 画像表示システム |
JP2009004939A (ja) * | 2007-06-20 | 2009-01-08 | Victor Co Of Japan Ltd | 多視点画像復号方法、多視点画像復号装置及び多視点画像復号プログラム |
-
2010
- 2010-02-12 JP JP2010029385A patent/JP5172874B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2011166615A (ja) | 2011-08-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101442278B1 (ko) | 정보 처리 장치 및 방법 | |
KR101426097B1 (ko) | 정보 처리 장치 및 방법과, 프로그램 | |
KR0167798B1 (ko) | 주화상에 부화상을 중첩하기 위한 다중화/디멀티플렉싱하는 방법 | |
JP4425635B2 (ja) | 両眼/多視点3次元動画像処理システム及びその方法 | |
TWI499275B (zh) | 用於視頻傳輸的方法和系統 | |
KR20070084128A (ko) | 중간 형식으로 변환하는 2단계 산술 복호 | |
JP5172874B2 (ja) | 映像同期装置、映像表示装置、映像同期方法及びプログラム | |
JP2008034892A (ja) | 多視点画像符号化装置 | |
WO2013146636A1 (ja) | 画像符号化装置、画像復号装置、画像符号化方法、画像復号方法およびプログラム | |
KR100746005B1 (ko) | 다중 목적의 비디오 스트림을 처리하는 장치 및 방법 | |
JP2009004939A (ja) | 多視点画像復号方法、多視点画像復号装置及び多視点画像復号プログラム | |
JP2006319956A (ja) | Mpeg符号化ストリーム復号装置 | |
KR20040065170A (ko) | 화상 정보 복호 장치 및 방법 | |
US9930422B2 (en) | Video transmission system, video encoding apparatus, and video decoding apparatus | |
JP2005110113A (ja) | 多視点画像伝送システムと方法、多視点画像圧縮装置と方法、多視点画像伸長装置と方法およびプログラム | |
JP3822821B2 (ja) | 画像再生表示装置 | |
US9479823B2 (en) | Transmitting device and receiving device | |
JP2008034893A (ja) | 多視点画像復号装置 | |
JP5367771B2 (ja) | 映像伝送システム | |
JP2006050491A (ja) | マルチチャネル画像コーデック装置 | |
JP4892541B2 (ja) | 画像伝送方法および画像伝送システム | |
JP2004056234A (ja) | 画像符号化装置および画像符号化方法 | |
JP6303829B2 (ja) | 多重化プログラム、多重化装置、及び多重化方法 | |
KR101336820B1 (ko) | 다채널 트릭 모드에 특화된 복호화 장치 및 방법 | |
JP2013211777A (ja) | 画像符号化装置、画像復号装置、画像符号化方法、画像復号方法およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20120216 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20121016 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20121017 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20121127 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20121218 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20121226 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5172874 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20160111 Year of fee payment: 3 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |