JP5761446B2 - 符号化装置、復号化装置、符号化方法および復号化方法 - Google Patents

符号化装置、復号化装置、符号化方法および復号化方法 Download PDF

Info

Publication number
JP5761446B2
JP5761446B2 JP2014505819A JP2014505819A JP5761446B2 JP 5761446 B2 JP5761446 B2 JP 5761446B2 JP 2014505819 A JP2014505819 A JP 2014505819A JP 2014505819 A JP2014505819 A JP 2014505819A JP 5761446 B2 JP5761446 B2 JP 5761446B2
Authority
JP
Japan
Prior art keywords
time
video
divided
unit
encoding
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014505819A
Other languages
English (en)
Other versions
JPWO2013140485A1 (ja
Inventor
井原 範幸
範幸 井原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Publication of JPWO2013140485A1 publication Critical patent/JPWO2013140485A1/ja
Application granted granted Critical
Publication of JP5761446B2 publication Critical patent/JP5761446B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/167Synchronising or controlling image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/161Encoding, multiplexing or demultiplexing different image signal components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/242Synchronization processes, e.g. processing of PCR [Program Clock References]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/4302Content synchronisation processes, e.g. decoder synchronisation
    • H04N21/4305Synchronising client clock from received content stream, e.g. locking decoder clock with encoder clock, extraction of the PCR packets
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83Generation or processing of protective or descriptive data associated with content; Content structuring
    • H04N21/845Structuring of content, e.g. decomposing content into time segments
    • H04N21/8456Structuring of content, e.g. decomposing content into time segments by decomposing the content in the time domain, e.g. in time segments
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85Assembly of content; Generation of multimedia applications
    • H04N21/854Content authoring

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Security & Cryptography (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本発明は、符号化装置、復号化装置、符号化方法および復号化方法に関する。
現在、例えばデジタルシネマで用いられている4K2Kサイズ(ハイビジョン(商標)、解像度1920×1080の4倍)や、スーパーハイビジョンサイズ(ハイビジョンの16倍)の映像を1台で圧縮/伝送が可能なコーデックは少なく、高価である。このため、4K2Kサイズやスーパーハイビジョンサイズの映像(以下、超高精細映像という)の伝送を行う場合、映像を4分割または16分割し、安価なハイビジョン用コーデックを複数台用いて伝送したいという要求がある。さらに、このような超高精細映像の伝送を、回線コストの安いInternet Protocol(IP)ネットワークを利用して実現したいという要望がある。また同様な分割伝送として、3Difinition(3D)映像における左右の映像を、各々ハイビジョンで伝送したいといった要望も上がっている。
複数台の装置を用いた伝送の場合には、デコーダは、受信した各々のエンコーダの映像の再生すべきフレームの同期を合わせて再生する必要がある。しかしながら、単純に映像を分割して複数のエンコーダで映像/音声を圧縮し、IPネットワークで伝送を行い、デコーダが出力映像を合成するだけでは、分割映像のデコーダの出力を、同一タイミングに合わせることができない。各々のエンコーダ・デコーダの符号化・復号化遅延やネットワークの伝送遅延が異なるためである。
そこで、デコーダの分割映像を同期させるため、エンコーダで分割映像にカウンタ値等を付加し、デコーダで伝送された映像を復号し、カウンタの一致した画面を合成して表示することも考えられる。しかし、これだけでは、分割画像の表示タイミングが一定にならず、例えば放送業界で用いられる29.97ヘルツの正確なフレームレートで映像が出力されない。
このため、放送業界で使用可能な正確なレートで、1つの映像を分割して複数のエンコーダ・デコーダで伝送するためには、放送業界で広く使用されている正確な表示クロックも伝送できる映像/音声多重化方式を用いて伝送する必要がある。例えば、Moving Picture Exports Group−Transport Stream(MPEG2−TS)方式である。
ところで、上記のような場合には、複数のエンコーダは、映像/音声をH.264、MPEG2等/MPEG1−Layer2、Advanced Audio Coding(AAC)、High Efficiency(HE)−AAC等で圧縮する。さらに、エンコーダは、圧縮したデータをMPEG2−TS方式を用いて伝送する。このとき、デコーダで全ての映像の同期を合わせて再生するためには、ネットワークの遅延が全てのエンコーダ−デコーダ間で同一である必要がある。
放送業界で広く使用されているDigital Video Broadcasting−Asynchronous Serial Interface(DVB−ASI)を使用した場合、ネットワークの伝送速度は一定であることが前提である。よって、全てのエンコーダ−デコーダ間で、伝送速度を同一にすることが可能である。
しかしながら、DVB−ASIを単純にIPネットワークに置き換えた場合には、分割した複数の映像が別々のIPストリームとして伝送され、IPネットワークで各ストリームの遅延がまちまちとなる。よって、エンコーダが同時に送信した映像がデコーダで同時には再生されず、複数映像の同期を合わせて再生することができなくなる。
このため、各エンコーダからDVB−ASIで出力したものを1ストリームにまとめてIPネットワークで伝送し、受信側でDVB−ASIに分解することで、IPネットワークの遅延を全てのエンコーダ−デコーダ間で同一にする技術が知られている。
具体的には、各エンコーダからDVB−ASIで出力し、各Transport Stream(TS)ストリームをMultiplex(MUX)装置で1つのTSストリームに多重し、DVB−ASIで出力する。そして、DVB−ASI−IP変換装置で、TSストリームをIPネットワークで伝送し、IP−DVB−ASI変換装置でIPネットワーク上のTSストリームを受信しDVB−ASIで出力する。さらに、Demultiplex(DEMUX)装置で個々のTSストリームに分解し、各デコーダに入力する。これにより、IPネットワーク上は1つのストリームで伝送されるため、デコーダで受信する各TSストリームの遅延は同じとなり、デコーダで全ての映像の同期を合わせて再生することが可能となる。
また、別なシステムとして、複数の符号化装置の各々において、System Time Clock(STC)カウンタ値に、共通に決定された符号化遅延時間を加算した値を第1の時刻として算出する例がある。この例では、第1の時刻を含んで作成されたストリームを、符号化装置に1対1で対応付けられた符号化装置に伝送する。このシステムでは、復号化装置は、符号化装置の間で生じているストリーム揺らぎの値に復号化遅延時間を加算し、加算された値の最大であろう値として、複数の復号化装置の間で共通に決定された最大値に第1の時刻を加算した値を、第2の時刻としている。復号化装置は、復号化された画像データを第2の時刻に画像データを合成する合成部に出力する。
特開2010−279082号公報
しかし、各エンコーダからDVB−ASIで出力したものを1ストリームにまとめる場合には、以下のような問題がある。すなわち、DVB−ASIで伝送する場合と比較して、MUX装置、DVB−ASI−IP変換装置、IP−DVB−ASI変換装置、DEMUX装置といった装置が余分に必要となり高価なシステムとなる。
複数の符号化装置の各々において、STCカウンタ値に、共通に決定された符号化遅延時間を加算した値を第1の時刻とし、複数の復号化装置の間で共通に決定された最大値に第1の時刻を加算した値を、第2の時刻とするシステムでは、次のような問題がある。すなわち、IPネットワークのように、情報ごとに伝送速度が大きく異なる可能性のあるシステムでは、符号化装置から送出された情報がどの映像を符号化したものであるか判別できない場合がある。また、符号化遅延の最大値を決定することが困難であるという問題がある。
そこで、変換装置のような装置を必要とせず、安価なIPネットワークで同期のとれた分割映像をリアルタイムで伝送できる符号化装置、復号化装置、符号化方法および復号化方法を提供することを目的としている。
ひとつの態様である符号化装置は、分割映像取得部、識別時刻通知部、符号化部、送信部を有する主符号化装置と、分割映像取得部、識別時刻取得部、符号化部、送信部を有する従符号化装置とを有する。分割映像取得部は、一画面の元映像が複数に分割された分割映像を時系列に取得する。識別時刻通知部は、分割映像を識別するための識別時刻を取得し、従符号化装置に通知する。符号化部は、分割映像を符号化して符号化分割映像を生成するとともに、符号化分割映像と識別時刻とを含む符号化情報が時系列に含まれた符号化送信情報を生成する。送信部は、符号化送信情報を送信する。従符号化装置において、識別時刻取得部は、識別時刻を主符号化装置から取得する。
ひとつの態様である復号化装置は、主復号化装置と従復号化装置を有している。主復号化装置は、符号化情報取得部、主再生時刻計算部、従再生時刻取得部、再生時刻設定部、再生時刻通知部、復号化部、および再生部を有している。従復号化装置は、符号化情報取得部、従再生時刻取得部、従再生時刻通知部、再生時刻取得部、復号化部、および再生部を有している。
主符号化装置の符号化情報取得部は、一画面の元映像が複数に分割された分割映像のうちの一つを符号化した符号化分割映像と、前記分割映像を識別する識別時刻とを含む符号化情報を時系列に取得する。主再生時刻計算部は、前記識別時刻に基づき、取得された前記分割映像の次の前記分割映像を再生する主再生時刻を計算する。従再生時刻取得部は、前記識別時刻に基づき計算された、前記少なくとも一つの従復号化装置が取得した前記識別時刻を有する前記分割映像の次の前記分割映像を再生する従再生時刻をそれぞれ取得する。再生時刻設定部は、前記主再生時刻と、少なくとも一つの前記従再生時刻との中で、最も遅い時刻を再生時刻として設定する。再生時刻通知部は、前記再生時刻を少なくとも一つの前記従復号化装置に通知する。復号化部は、前記符号化分割映像を復号化する。再生部は、前記再生時刻及び前記識別時刻に基づき、復号化された前記分割映像を再生する。
従符号化装置の符号化情報取得部は、前記元映像の分割映像のうち、前記主復号化装置が復号化する分割映像以外の分割画像のいずれかを符号化した符号化分割映像と、前記分割映像を識別する識別時刻とを含む符号化情報を時系列に取得する。従再生時刻取得部は、前記従復号化装置において取得された、前記識別時刻に対応する前記分割映像の次の分割映像を再生する従再生時刻を取得する。従再生時刻通知部は、前記従再生時刻を前記主復号化装置に通知する。再生時刻取得部は、前記主復号化装置から、前記次の分割映像の再生時刻を取得する。復号化部は、前記符号化分割映像を復号化する。再生部は、前記再生時刻及び前記識別時刻に基づき、復号化された前記分割映像を再生する。
ひとつの態様である符号化方法は、主符号化装置が、一画面の元映像が複数に分割された分割映像のうちの一つを時系列に取得し、前記分割映像を識別するための識別時刻を取得する。また、主符号化装置は、前記従符号化装置に前記識別時刻を通知し、取得した前記分割映像を符号化して符号化分割映像を生成するとともに、前記符号化分割映像と前記識別時刻とを含む符号化情報が時系列に含まれた符号化送信情報を生成する。
従符号化装置は、前記一つ以外の分割映像のうちのいずれかを時系列に取得し、前記分割映像を識別するために設定される前記識別時刻を前記主符号化装置から取得し、取得した前記分割映像を符号化した符号化分割映像を生成するとともに、前記符号化分割映像と前記識別時刻とを含む符号化情報が時系列に含まれた符号化送信情報を生成する。
また、ひとつの態様である復号化方法は、主復号化装置が、一画面の元映像が複数に分割された分割映像のうちの一つを符号化した符号化分割映像と、前記分割映像を識別する識別時刻とを含む符号化情報を時系列に取得する。主復号化装置は、前記識別時刻に基づき、取得された前記分割映像の次の前記分割映像を再生する主再生時刻を計算する。また、主符号化装置は、前記識別時刻に基づき計算された、前記少なくとも一つの従復号化装置が取得した前記識別時刻を有する前記分割映像の次の前記分割映像を再生する従再生時刻をそれぞれ取得する。さらに、主復号化装置は、前記主再生時刻と、少なくとも一つの前記従再生時刻との中で、最も遅い時刻を再生時刻として設定し、前記再生時刻を少なくとも一つの前記従復号化装置に通知し、前記符号化分割映像を復号化する。主復号化装置は、前記再生時刻及び前記識別時刻に基づき、復号化された前記分割映像を再生する。
従復号化装置は、前記元映像の分割映像のうち、前記主復号化装置が復号化する分割映像以外の分割画像のいずれかを符号化した符号化分割映像と、前記分割映像を識別する識別時刻とを含む符号化情報を時系列に取得する。従復号化装置は、従復号化装置で取得された、前記識別時刻に対応する前記分割映像の次の分割映像を再生する従再生時刻を取得し、前記従再生時刻を前記主復号化装置に通知し、前記主復号化装置から、前記次の分割映像の再生時刻を取得する。さらに、従復号化装置は、前記符号化分割映像を復号化し、前記再生時刻及び前記識別時刻に基づき、復号化された前記分割映像を再生する。
上記態様の符号化装置及び復号化装置によれば、各種変換装置等がなくても、安価なIPネットワークで同期のとれた分割映像をリアルタイムで伝送できる符号化装置、復号化装置、符号化方法および復号化方法を提供することができる。
一実施の形態による映像伝送システムの構成を示す図である。 一実施の形態による映像伝送システムの動作の概念を示す図である。 一実施の形態によるエンコーダのハードウエア構成を示す図である。 一実施の形態によるエンコーダの機能ブロック図である。 一実施の形態によるエンコーダの機能ブロック図である。 一実施の形態によるデコーダのハードウエア構成を示すブロック図である。 一実施の形態によるデコーダのハードウエア構成を示すブロック図である。 一実施の形態によるデコーダの機能を示すブロック図である。 一実施の形態によるデコーダの機能を示すブロック図である。 一実施の形態によるPTSのSTC同期を行わない場合のTSストリームを概念的に示す図である。 一実施の形態によるPTSのSTC同期を行った場合のTSストリームを概念的に示す図である。 一実施の形態によるPTSのSTC同期を行なった場合のTSストリームの、IPネットワークで通信された後の状態の一例を示す概念図である。 一実施の形態によるPTSのSTC同期を行なった場合のTSストリーム350〜380の、IPネットワーク7で通信された後の状態の一例を示す概念図である。 一実施の形態によるエンコーダの動作を示すフローチャートである。 一実施の形態によるエンコーダの動作を示すフローチャートである。 一実施の形態によるデコーダの再生開始の動作を示すフローチャートである。 一実施の形態によるデコーダの再生開始の動作を示すフローチャートである。 一実施の形態によるデコーダの再生開始の動作を示すフローチャートである。 一実施の形態によるデコーダの再生中の動作を示すフローチャートである。 一実施の形態によるデコーダの再生中の動作を示すフローチャートである。
以下、一実施の形態を図面に基づいて説明する。以下、映像信号とは、カメラから出力される映像及び音声を含む信号、または、表示装置に入力される映像及び音声を含む信号であり、映像情報、音声情報とは、映像信号から分離されるそれぞれ映像部分、音声部分に相当する情報であるとする。ピクチャデータとは、映像情報から符号化された1ピクチャに相当する情報であり、符号化ピクチャとは、ピクチャデータに後述するPresentation Time Stamp(PTS)値を付加した情報であるとする。符号化音声は、音声情報を圧縮符号化した情報であるとする。ストリームとは、複数の符号化ピクチャが連続した情報、符号化音声、および復号の際の基準時刻となるProgram Clock Referebce(PCR)を含む情報であるとする。
図1は、一実施の形態による映像伝送システム1の構成を示す図、図2は、映像伝送システム1の動作の概念を示す図である。図1に示すように、映像伝送システム1は、カメラ9が接続された符号化装置3と、表示装置11が接続された復号化装置5とが、IPネットワーク7を介して接続されたシステムである。映像伝送システム1は、4K2Kサイズの映像、スーパーハイビジョン等の4K2Kサイズ以上の超高精細映像や、3Dの映像を分割して符号化し、リアルタイムでIPネットワーク7を用いて伝送し、復号化装置で同期を合わせて再生するシステムである。本実施の形態においては、例えばMoving Picture Experts Group2−Transport Stream(MPEG2−TS)方式により、映像情報を伝送する。
本実施の形態による符号化装置3は、4つのエンコーダ31〜37および、HUB39を有している。図1、図2に示すように、エンコーダ31〜37は、元映像20を4分割した分割映像22〜28をそれぞれ符号化してストリームとして出力する符号化装置である。HUB39は、複数のケーブルを集約して情報伝達を行う装置である。カメラ9は、例えば4K2Kの映像信号を複数の分割映像に分割して出力する撮影装置である。
各エンコーダ31〜37は、1台のカメラ9に接続されており、カメラ9で4分割された映像信号をそれぞれ取得する。エンコーダ31〜37は、一台のカメラ9に同期して符号化を行うため、符号化される各ピクチャの垂直同期信号(Vsync)のタイミングは一致している。単純に各エンコーダ31〜37に分割映像22〜28を入力して符号化を行った場合、エンコーダ31〜37が取込む垂直同期信号が同期しているため、各エンコーダ31〜37のSystem Time Clock(STC)の進みは一致する。しかし、STCの初期値は異なるためSTC値はバラバラとなり、各エンコーダ31〜37で符号化された同一の元映像20の分割映像22〜28に基づくピクチャに付加されるPTSの値も、後述するようにバラバラとなる。そこで、本実施の形態においては、エンコーダ31〜37のうちの1つは、主符号化装置(マスタエンコーダ)として機能させ、他の3つは、従符号化装置として機能させることにより、PTSの値がバラバラとなるのを防止する。詳細は後述する。
本実施の形態による復号化装置5は、4つのデコーダ51〜57、分配器59、およびHUB61を有している。図1、図2に示すように、復号化装置5は、符号化装置3により符号化されて、IPネットワーク7を介して伝送された情報を復号化し、分割映像42〜48を表示することにより再生映像40を再生するための復号化装置である。分配器59は、デコーダ51から取得したクロック(Generator Lock:GENLOCK)を、デコーダ53〜57に分配する装置である。HUB61は、複数のケーブルを集約して情報伝達を行う装置である。表示装置11は、復号化装置5で復号化された分割映像42〜48を合成して表示する装置である。
デコーダ51〜57のうちの一つは、主復号化装置(マスタデコーダ)として機能し、他の3つは、従復号化装置として機能する。主復号化装置は、符号化された映像を復号化するとともに、従復号化装置に映像を再生するタイミングを指示するデコーダである。どのエンコーダ31〜37が出力した符号化ピクチャをどのデコーダ51〜57が復号化するかは、互いに限定されない。主復号化装置も、デコーダ51〜57のいずれでもよい。
以下、分割映像22を符号化するエンコーダ31を、主符号化装置として説明するが、どの分割映像22〜28を符号化するエンコーダを主符号化装置とするかは、これに限定されない。1台の主符号化装置として、エンコーダ31が決定されている場合、エンコーダ31は、Local Area Network(LAN)121を介してエンコーダ33〜37に次の垂直同期信号のタイミングのSTC値を通知する。エンコーダ33〜37は、次の垂直同期信号のSTC値を、エンコーダ31から通知されたSTC値に変更する。このとき、エンコーダ31からは、ユニキャストでエンコーダ33〜37に個別に通知し、エンコーダ33〜37から応答を受信することができるが、ブロードキャストやマルチキャストを使用することで、3台のエンコーダ33〜37に一度にSTC値を通知してもよい。これにより、エンコーダ31〜37のSTCの同期をとり、各垂直同期信号のSTC値から作成する、符号化後の各ピクチャのPTS値を一致させる。
以下、図3から図5を参照しながらエンコーダ31〜37の構成について説明する。図3は、エンコーダ31〜37のハードウエア構成を示す図である。エンコーダ31〜37は、受信装置70、Phase Locked Loop(PLL)72、符号化部74、メモリ82、Central Processing Unit(CPU)84、LAN制御部86を有している。
符号化部74は、映像部76、音声部78、多重化装置80を有している。受信装置70は、カメラ9から出力される、例えば、High Definition−Serial Digital Interface(HD−SDI)方式の映像信号100を受信する。符号化部74は、受信した映像信号を符号化する。このとき、映像部76は、映像信号の中の映像情報を符号化し、音声部78は、音声情報を符号化する。多重化装置80は、符号化された映像及び音声を多重化してストリームを生成する装置である。メモリ82は、生成されたストリームが一時的に保持される記憶装置である。CPU84は、符号化部74から出力され、メモリ82を経由したストリームをLAN制御部86を介してLAN121に出力する。PLL72はエンコーダ31〜37に入力される映像信号から符号化部74の動作クロックを生成する。
図4は、エンコーダ31の機能ブロック図である。図3に示したハードウエア構成を有し、主符号化装置となるエンコーダ31は、図4に示すように、映像取込部101、映像符号化部103、音声取込部105、音声符号化部107、映像/音声多重部109の機能を有している。さらに、エンコーダ31は、垂直同期信号取込部111、STC読出部113、STCクロック生成部115、PTSクロック生成部117、送信部119の機能を有している。
映像取込部101は、例えば、HD−SDI方式の映像信号のうちの映像部分(映像情報)を取得する。映像符号化部103は、映像取込部101が取得した映像情報を符号化する。このとき、映像符号化部103は、例えば、MPEG2の規格に応じて、映像情報を符号化して符号化ピクチャを生成する。
音声取込部105は、例えば、HD−SDI方式の映像信号のうちの音声部分(音声情報)を取得する。音声符号化部107は、音声取込部105が取得した音声情報を符号化して符号化音声を生成する。このとき、音声符号化部107は、例えば、AAC、HE−AAC等の規格に応じて音声情報を符号化する。
STCクロック生成部115は、映像信号100の垂直同期信号に同期したクロックを、エンコーダ31における基準となるクロックとして生成し、映像取込部101、音声取込部105、STC読出部113、PCRクロック生成部117に出力する。STCは、H.264やMPEG2の映像符号化で、各符号化装置、復号化装置において符号化や再生の基準となるクロックである。垂直同期信号取込部111は、カメラ9の映像信号から垂直同期信号(Vsync)を取得し、映像取込部101、STC読出部113に出力するとともに、垂直同期信号の周期を計測する。
映像取込部101は、垂直同期信号毎に、映像情報を取得する。このとき、映像取込部101は、分割映像22を後述する垂直同期信号毎に取り込み、分割映像22を取り込んだ時のSTC値をPTS値として保存し、映像符号化部103は、映像情報をピクチャデータに符号化する。また、映像符号化部103は、各ピクチャデータに、復号化装置5での再生時刻を示す値として、保存したPTS値を付加することにより、符号化ピクチャを生成する。音声取込部105は、カメラ9から、音声情報を取得する。
PCRクロック生成部117は、STC値に、エンコードの処理遅延時間を加算してPCRを生成する。映像/音声多重部109は、符号化された映像、音声、および生成されたPCRの多重化を行い、符号化ピクチャが時系列に含まれたTSストリームを生成する。送信部119は、生成されたTSストリームを、LAN121、HUB39を介してIPネットワーク7に送信する。
一方、STC読出部113は、垂直同期信号取込部111が垂直同期信号を取得した時刻にSTC値を読み出す。また、STC読出部113は、取得したSTC値に垂直同期信号取込部111が計測した垂直同期信号の周期を加算することにより、次の垂直同期信号のSTC値を計算する。STC読出部113は、計算したSTC値を、送信部119、LAN121を介して、エンコーダ33〜37に、ユニキャスト、ブロードキャスト、またはマルチキャストで通知する。
図5は、エンコーダ33〜37の機能ブロック図である。エンコーダ33〜37は、互いに同一の機能ブロック図で表される。図5において、エンコーダ31と同一の構成には、同一の符号を付し、詳細説明を省略する。図5に示すように、エンコーダ33〜37は、デコーダ51と同様に、映像取込部101、映像符号化部103、音声取込部105、音声符号化部107、映像/音声多重部109の機能を有している。さらに、エンコーダ33〜37は、デコーダ51と同様に、垂直同期信号取込部111、STCクロック生成部115、PCRクロック生成部117、送信部119の機能を有している。また、エンコーダ33〜37は、STC設定部123、受信部125の機能を有している。
受信部125は、例えばLAN121を介して、エンコーダ31から通知された、次の垂直同期信号のSTC値を受信する。STC設定部123は、受信部125を介して次の垂直同期信号のSTC値を取得し、STCクロック生成部115に、次の垂直同期信号のSTC値として設定する。
映像取込部101は、カメラ9からの分割映像24〜28を垂直同期信号毎に取り込み、取り込んだ時のSTC値をPTS値として保存する。このとき、上述のように、STCクロック生成部115が生成するSTCは、エンコーダ31から通知されたSTC値が反映されているため、保存されるPTS値は、エンコーダ31におけるPTS値と同一の値となる。映像符号化部103、音声取込部105、音声符号化部107、映像/音声多重部109などの動作は、エンコーダ31と同様であり、エンコーダ31と同様にTSストリームを出力する。
以上のようにエンコーダ31〜37を構成することにより、IPネットワーク7を介して送信される元映像20に基づくストリームは、分割映像22〜28をそれぞれ符号化した、4つの別々のストリームとなる。しかし、各符号化ピクチャに含まれるPTS値は、エンコーダ31で予め定められた値となり、PTSのSTC同期が行われている。
続いて、本実施の形態によるデコーダについて説明する。図6は、本実施の形態によるデコーダ51のハードウエア構成を示すブロック図、図7は、本実施の形態によるデコーダ53〜57のハードウエア構成を示すブロック図である。本実施の形態においては、デコーダ51〜57のなかから、デコーダ51が主復号化装置として決定されており、デコーダ51〜57の映像再生のタイミングを同期させるように構成されている。
図6に示すようにデコーダ51は、LAN制御部153、メモリ155、CPU157、復号部159、PLL167、映像出力部169、GENLOCK出力部171を有している。復号部159は、分離装置161、映像部163、音声部165を有している。
LAN制御部153は、デコーダ53〜57、分配器59などとの間のLAN121による通信を制御する。メモリ155は、LAN200を介して受信した、符号化された映像のストリーム等を保持する記憶装置である。CPU157は、メモリ155からのデータの転送等を制御する演算処理装置である。
復号部159は、LAN200を介して取得した、符号化された映像のストリームを復号化する。このとき、分離装置161は、受信したストリームから映像部分、音声部分、およびPCRを分離する。映像部163は、映像部分の情報を復号化する。音声部165は、音声部分の情報を復号化する。
PLL167は、分離装置161で分離されたPCRに基づき、復号部159の動作クロックを生成する。映像出力部169は、復号化された映像及び音声の情報を出力する。GENLOCK出力部171は、PLL167に基づきGENLOCK信号231を生成し、分配器59にGENLOCK信号231を出力する。
デコーダ51は、LAN制御部153を介して符号化された映像のストリームを取り込み、CPU157は、取込んだストリームをメモリ155を経由して復号部159に入力する。復号部159においては、分離装置161が、入力されたストリームを映像部分と音声部分に分離し、それぞれ映像部163、音声部165に出力する。また、分離装置161は、入力されたストリームからPCRを分離し、PLL167は、PCRに基づき復号部159の動作クロックを生成する。映像部163、音声部165で復号された例えばHD−SDI方式の映像信号235は、映像出力部169から出力される。また、デコーダ51は、GENLOCK出力部171により、GENLOCK信号231を分配器59へ出力する。
図7に示すようにデコーダ53〜57において、デコーダ51と同様の構成については、同一番号を付し、詳細説明を省略する。デコーダ53〜57は、デコーダ51と同様に、LAN制御部153、メモリ155、CPU157、復号部159、PLL167、映像出力部169を有している。復号部159は、分離装置161、映像部163、音声部165を有している。デコーダ53〜57は、デコーダ51のGENLOCK出力部171に代えて、GENLOCK入力部173を有している。
デコーダ53〜57では、GENLOCK入力部173が、分配器59からのGENLOCK信号231を取得し、PLL167は、GENLOCK信号231に基づきクロックを生成する。他の構成についてはデコーダ51と同様である。
次に、図8、図9を参照しながら、本実施の形態によるデコーダ51〜57の機能について説明する。図8は、デコーダ51の機能を示すブロック図、図9は、デコーダ53〜57の機能を示すブロック図である。上記のように、本実施の形態において、エンコーダ31〜37の4台のエンコーダのTSストリームは別々のTSストリームで送信されるため、デコーダには個々のTSストリームが異なる時刻で到着する。よって、復号化装置5が、受信したTSストリームを同期を行わずに単純にデコーダ51〜57で再生した場合、分割画面毎に異なる映像を再生することになる。
以下、図8を参照しながら、デコーダ51の機能について説明する。図8に示すように、デコーダ51は、受信部201、受信バッファ部203、映像/音声分離部205、映像復号化部207、音声復号化部209、映像表示部211、音声表示部213の機能を有している。また、デコーダ51は、PCRクロック取得部215、STCクロック生成部217、垂直同期信号生成部219、STC計算部221、STC設定部223、STC読出部225、送信部227の機能を有している。
受信部201は、元映像20を分割して符号化され、IPネットワーク7を介して送信された、例えばTSストリームを受信する。受信バッファ部203は、受信した情報を一時的に格納することにより、IPネットワーク7の揺らぎの平滑化を行う。映像/音声分離部205は、受信したTSストリームから、映像部分、音声部分およびPCRを分離する。映像/音声分離部205は、分離したPCRをPCRクロック取得部215に出力するとともに、分離した符号化ピクチャ、符号化音声をそれぞれ映像復号化部207、音声復号化部209に出力する。
PCRクロック取得部215は、分離されたPCRを取得し、STCクロック生成部217に出力する。STCクロック生成部217は、取得したPCRに基づき、STCクロックを生成する。
また、受信部201は、デコーダ53〜57から、次の垂直同期信号のSTC値をそれぞれ取得し、STC計算部221に出力する。STC計算部221は、取得した各デコーダ53〜57からのSTC値と、自身の次の垂直同期信号のSTC値とから、最も遅いSTC値を計算し、STC設定部223に出力するとともに、送信部227を介してデコーダ53〜57に通知する。
STC設定部223は、計算されたSTC値をSTCクロック生成部217に通知する。STCクロック生成部217は、次の垂直同期信号のSTC値を設定されたSTC値に設定することにより、設定されたSTC値に同期したSTCクロックを生成し、映像表示部211、音声表示部213、垂直同期信号生成部219に出力する。垂直同期信号生成部219は、生成されたSTCクロックを用いて垂直同期信号を生成するとともに、GENLOCK信号231として分配器59に出力し、GENLOCK信号231においても生成された垂直同期信号を出力させる。GENLOCK信号231は、デコーダ51〜57を同期させるための信号である。
STC読出部225は、垂直同期信号生成部219から垂直同期信号を取得して、STCクロック生成部217で生成されたクロックを参照することにより次の垂直同期信号のSTC値を取得し、送信部227に通知する。
映像復号化部207は、映像を復号化し、映像表示部211に出力する。音声復号化部209は、音声を復号化し、音声表示部213に出力する。映像表示部211は、復号化した映像情報をSTCおよびPTSに基づき出力し、音声表示部213は、復号化した音声情報を出力する。映像情報及び音声情報は、垂直同期信号生成部219が出力する垂直同期信号に応じて映像信号235として出力され、表示装置11に分割映像42を表示させる。
以下、図9を参照しながら、デコーダ53〜57の機能について説明する。デコーダ51と同一の構成には、同一の符号を付し、詳細説明を省略する。図9に示すように、デコーダ53〜57は、デコーダ51と同様に、受信部201、受信バッファ部203、映像/音声分離部205、映像復号化部207、音声復号化部209、映像表示部211、音声表示部213を有している。また、デコーダ53〜57は、PCRクロック取得部215、GENLOCKクロック生成部237、クロック選択部239、STCクロック生成部241、垂直同期信号生成部243、STC設定部245、STC読出部247、送信部249を有している。
PCRクロック取得部215は、TSストリーム受信開始時は、デコーダ51と同様に、映像/音声分離部205が分離したPCRを取得する。クロック選択部239は、PCRクロック取得部215と、GENLOCKクロック生成部237のいずれをSTCクロック生成部241に接続させるかを切り換えることにより、STCクロックの基準になるクロックを切り換える。クロック選択部239は、TSストリーム受信開始時は、デコーダ51と同様に、PCRクロック取得部215が取得したPCRクロックからSTCクロックを生成するよう、PCRクロック取得部215をSTCクロック生成部241に接続する。デコーダ51から、次の垂直同期信号のSTC値が通知されると、クロック選択部239は、GENLOCKクロック生成部237をSTCクロック生成部241に接続する。GENLOCKクロック生成部237は、分配器59からGENLOCK信号231を取得する。
STCクロック生成部241は、クロック選択部239を介して入力されるクロックに基づきSTCクロックを生成する。垂直同期信号生成部243は、PCRクロック取得部215がSTCクロック生成部241に接続されている場合には、デコーダ51と同様に、STCクロックを用いて垂直同期信号生成部243で垂直同期信号を生成する。垂直同期信号生成部243は、GENLOCKクロック生成部237がSTCクロック生成部241に接続されている場合には、GENLOCK信号231により垂直同期信号を生成する。生成された垂直同期信号に基づき、映像情報、音声情報は表示装置11に出力される。
STC読出部247は、STCクロック生成部241でSTCクロック生成が開始された後、デコーダ51からの要求により、次の垂直同期信号のタイミング毎の各々のSTC値を読み出し、送信部249及びLAN200を介してデコーダ51に通知する。
受信部201は、デコーダ51から、次の垂直同期信号のSTC値を受信し、STC設定部245に通知する。STC設定部245は、受信したSTC値をSTCクロック生成部241に通知することにより、自身のSTC値を、デコーダ51から通知されたSTC値に設定する。このように設定されたSTC値、垂直同期信号に基づき、デコーダ53〜57は、映像信号235を出力し、表示装置11に分割映像44〜48を表示させる。
続いて、上記符号化装置3により生成されるストリームの概念を、図10、図11を参照しながら説明する。図10は、上記のようなPTSのSTC同期を行わない場合のTSストリーム300、310、320、330(まとめてTSストリーム300〜330という、以下同様)を概念的に示す図である。図10に示すように、エンコーダ31〜33は、カメラ9から取得した分割映像の映像信号を符号化し、TSストリーム300〜330を生成する。例えばTSストリーム300は、符号化ピクチャ302、符号化ピクチャ306などを有している。例えばTSストリーム310は、符号化ピクチャ312、符号化ピクチャ316などを有している。
このとき、例えば、符号化ピクチャ302は、符号化ピクチャ312と同一の元映像20を分割した分割映像22、24を符号化したものであるが、添付されているPTS303、PTS313は、それぞれPTS(1、1)、PTS(2、1)と異なる値となっている。
図11は、一実施の形態によるPTSのSTC同期を行なった場合のTSストリーム350〜380の一例を示す概念図である。例えば、エンコーダ31〜37は、それぞれTSストリーム350〜380を出力する。上述のように、エンコーダ31は、エンコーダ33〜37に、次の垂直同期信号の時刻となるSTC値として、PTS(1)を通知する。このとき、各エンコーダ31〜37は、この例では垂直同期信号390の立下りの時刻392を、同一のSTCとしてPTS(1)と設定する。よって、同一の元映像20の分割映像22〜28を取込んで符号化した各符号化ピクチャ352、362、372、382に付加されるPTS353、363等は、同一のPTS=PTS(1)となる。
同様に、符号化ピクチャ356、366等に付加されるPTS357等は、同一の値=PTS(2)となる。以上のように、同一の元映像20の分割映像22〜28に基づくTSストリームには、同一のPTSが付加される。このように、エンコーダ31〜37のSTCの同期が可能となり、各垂直同期信号のSTC値から作成する、符号化後の各ピクチャのPTS値を一致させることができる。
図12は、符号化装置3においてPTSのSTC同期を行なった場合のTSストリーム350〜380の、IPネットワーク7で通信された後の状態の一例を示す概念図である。図12に示すように、IPネットワーク7を介してTSストリーム350〜380が送信されると、送信による遅延時間が一定でないため、デコーダ51〜57への到着時刻はそれぞれ異なる。しかしながら、上述のように、同一の元映像20の分割映像22〜28には、同一のPTSが付加されているため、デコーダ51〜57側では、同一の元映像20のTSストリームは識別可能になる。
図13は、PTSのSTC同期を行なった場合のTSストリーム350〜380の、デコーダ51〜57で復号化される際の一例を示す概念図である。図13に示すように、デコーダ51は、デコーダ53〜57に、分配器59を介してGENLOCK信号231を供給する。また、STC要求393のように、デコーダ51が、次の垂直同期信号のSTC値をデコーダ53〜57に要求すると、デコーダ53〜57は、STC通知395のように、それぞれSTC値をデコーダ51に通知する。デコーダ51は、通知されたSTC値と自身の次の垂直同期信号のSTC値との最も遅い値に基づき、次の垂直同期信号の時刻を通知397のように通知し、デコーダ51〜57に設定させる。よって、デコーダ51〜57側では、同一の元映像20のTSストリームが同期されて表示装置11に出力される。
以上のように構成された符号化装置3、復号化装置5の動作を、フローチャートを参照しながら説明する。まず、図14、図15を参照しながら、本実施の形態による符号化装置3の動作について説明する。図14は、エンコーダ31の動作を示すフローチャート、図15は、エンコーダ33〜37の動作を示すフローチャートである。
図14に示すように、エンコーダ31は、カメラ9から取得した映像信号において、まず、垂直同期信号のタイミングを検出し、検出時のSTC値を取得する(S401)。エンコーダ31は、取得したSTC値に基づき、次の垂直同期信号のSTC値を算出し、エンコーダ33〜37に通知し(S402)、例えば、TSストリーム350を出力するとともに、S401に戻って処理を繰り返す。
図15に示すように、エンコーダ33〜37は、エンコーダ31から次の垂直同期信号のSTC値を受信すると(S411)、垂直同期信号のタイミングを検出する(S412)。STC設定部245は、次の垂直同期信号のSTC値を、受信した値に設定して(S413)、映像信号の符号化を行い、例えばTSストリーム360〜380を出力するとともに、S411に戻って処理を繰り返す。
次に、デコーダ51〜57の再生開始動作について説明する。図16A,図16Bは、デコーダ51の再生開始動作を示すフローチャート、図17は、デコーダ53〜57の再生開始動作を示すフローチャートである。
図16Aに示すように、デコーダ51の受信部201は、例えばTSストリーム350の受信を開始する(S501)。受信バッファ部203が一時的に保持したTSストリーム350から、映像/音声分離部205が、映像/音声/PCRを分離する。PCRクロック取得部215は、映像/音声分離部205からPCRを取得し、STCクロック生成部217に出力する。STCクロック生成部217は、PCRに同期したSTCクロックを生成する(S502)。デコーダ51は、デコーダ53〜57が同様に、PCRに同期したSTCクロックの生成を完了するのを待つ(S503)。
デコーダ51は、送信部227を介してデコーダ53〜57に、次の垂直同期信号のSTC値を要求する(S504)。デコーダ51は、次の垂直同期信号が取得されるまでに、デコーダ53〜57の次の垂直同期信号のSTC値が、受信部201において受信されたか否かを判別する(S505)。STC値が受信されていない場合には(S505:NO)、デコーダ51は、STC値が受信できていないデコーダ53〜57に、次の垂直同期信号のSTC値を再度要求する(S506)。デコーダ51は、次の垂直同期信号が取得されるまでに、再度要求したデコーダ53〜57からの次の垂直同期信号のSTC値が、受信部201において受信されたか否かを判別する(S507)。
再度要求したSTC値が受信されない場合には(S507:NO)、デコーダ51は、S506に戻って処理を繰り返す。再度要求したSTC値が受信されると(S507:YES)、デコーダ51は、STC計算部221において、受信した各デコーダ53〜57のSTC値と、自身の次の垂直同期信号のSTC値との中から、最大の値を計算する(S508)。
図16Bに示すように、デコーダ51は、計算された最大のSTC値を、STC設定部223を介して次の垂直同期信号のSTC値として設定する(S509)。デコーダ51は、計算された最大のSTC値を、送信部227を介してデコーダ53〜57に、次の垂直同期信号のSTC値として設定させる。また、デコーダ51は、クロック選択部239がSTCクロック生成部241とGENLOCKクロック生成部237とを接続させることを要求する(S510)。これによりデコーダ53〜57は、GENLOCK信号231に基づく動作となり、デコーダ51〜57の垂直同期信号、およびSTCクロックの同期をとることができる。
デコーダ51は、次の垂直同期信号のSTC値の時刻までに、デコーダ53〜57においてSTC値の設定が完了したか否か判別する(S511)。完了していない場合には(S511:NO)、デコーダ51は、送信部227を介して、設定完了していないデコーダ53〜57に、次の垂直同期信号のSTC値の設定、およびクロック選択部239がSTCクロック生成部241とGENLOCKクロック生成部237とを接続させることを要求する(S512)。デコーダ51は、全てのデコーダ53〜57が、STC値の設定及びクロック選択部239の切替を完了したか否か判別し(S513)、完了していない場合には(S513:NO)、S512の要求を繰り返す。完了した場合には、デコーダ51は、デコーダ53〜57に、分割映像44〜48の表示開始を要求する(S514)。また、デコーダ51は、映像復号化部207で復号化した映像、及び音声復号化部209で復号化した音声を、それぞれ映像表示部211、音声表示部213を介して映像信号235として出力し、表示装置11に分割映像42の表示を開始させる(S515)。
図17に示すように、デコーダ53〜57の受信部201は、それぞれ例えばTSストリーム360〜380の受信を開始する(S521)。受信バッファ部203が一時的に保持したTSストリーム360〜380から、映像/音声分離部205が、映像/音声/PCRを分離する。PCRクロック取得部215は、映像/音声分離部205からPCRを取得する。このとき、クロック選択部239は、PCRクロック取得部215とSTCクロック生成部241とを接続させている状態であるため、STCクロック生成部217は、PCRに同期したSTCクロックを生成する(S522)。
デコーダ53〜57は、デコーダ51が、デコーダ51の送信部227及びデコーダ53〜57の受信部201を介して、次の垂直同期信号のSTC値を要求するまで待機する(S523)。デコーダ53〜57は、次の垂直同期信号のSTC値の要求が受信されない場合には(S523:NO)、受信されたか否か再度確認し(S524)、S523の処理を繰り返す。
次の垂直同期信号のSTC値の要求が受信された場合には(S523:YES)、デコーダ53〜57は、STC読出部247が読み出して計算した、次の垂直同期信号のSTC値をデコーダ51に返信する(S525)。
デコーダ53〜57は、デコーダ51が、デコーダ51の送信部227及びデコーダ53〜57の受信部201を介して、次の垂直同期信号のSTC値と、GENLOCK信号231に基づく動作の指示を受信するまで待機する(S526)。デコーダ53〜57は、指示が受信されない場合には(S526:NO)、受信されたか否か再度確認し(S527)、S526の処理を繰り返す。
次の垂直同期信号のSTC値と、GENLOCK信号231に基づく動作の指示を受信すると(S526:YES)、クロック選択部239は、GENLOCKクロック生成部237とSTCクロック生成部241とを接続させる。また、STCクロック生成部241は、垂直同期信号生成部243に通知された次の垂直同期信号のSTC値を設定し、送信部249を介して、変更完了をデコーダ51に通知する(S528)。
デコーダ53〜57は、デコーダ51から、分割映像44〜48の表示開始の指示を受信するまで待機する(S529)。デコーダ53〜57は、指示が受信されない場合には(S529:NO)、受信されたか否か再度確認し(S530)、S529の処理を繰り返す。指示を受信すると(S529:YES)、デコーダ53〜57は、映像復号化部207で復号化した映像情報、及び音声復号化部209で復号化した音声情報を、それぞれの映像表示部211、音声表示部213を介して映像信号235として出力する。これにより、表示装置11に分割映像44〜48を表示させる(S531)。
続いて、デコーダ51〜57の再生中の動作について説明する。図18は、デコーダ51の再生中の動作を示すフローチャート、図19は、デコーダ53〜57の再生中の動作を示すフローチャートである。
図18に示すように、デコーダ51は、STC読出部225が垂直同期信号生成部219から垂直同期信号のSTC値を検出し(S541)、次の垂直同期信号のSTC値を計算し、送信部227を介してデコーダ53〜57に通知する(S542)。デコーダ51は、後述する初期化要求をデコーダ53〜57から受信したか否か判別し(S543)、受信していない場合にはS541から処理を繰り返し(S543:NO)、受信した場合には、再び送信開始処理を行う(S543:YES)。
図19に示すように、デコーダ53〜57は、垂直同期信号生成部243から垂直同期信号のタイミングを検出する(S551)。デコーダ53〜57は、受信バッファ部203が、アンダーフローまたはオーバーフローしているか否かを判別する(S552)。アンダーフローまたはオーバーフローしていない場合には(S552:NO)、次の垂直同期信号のSTC値を受信し(S553)、している場合には(S552:YES)、S556に処理を進める。
次の垂直同期信号のSTC値を受信すると、デコーダ53〜57は、通知されたSTC値が、自身の次の垂直同期信号のSTC値と一致しているか否か判別し(S554)、一致している場合には、S551に処理を戻す。一致していない場合には(S554:NO)、デコーダ53〜57は、不一致回数が規定回数以下か否かを判別し(S555)、規定回数以下の場合には(S555:YES)、S551に処理を戻す。不一致回数が規定回数を超えた場合には(S555:NO)、デコーダ53〜57は、デコーダ51に初期化要求を送信し(S556)、S551に戻って処理を繰り返す。
以上説明したように、一実施の形態による映像伝送システム1によれば、例えばエンコーダ31を主符号化装置とし、元映像20の符号化の際、エンコーダ31で計算された次の垂直同期信号に対応するSTC値をエンコーダ33〜37に通知させる。エンコーダ33〜37は、通知されたSTC値を、次の垂直同期信号のSTC値として設定する。これにより、エンコーダ31〜37で符号化される符号化ピクチャに付加されるPTS値は、同一の元映像20に基づくものについて同一の値となる。エンコーダ31〜37で符号化されたTSストリームは、IPネットワーク7を介して送信される。
復号化の際には、例えばデコーダ51が主復号化装置であるとすると、デコーダ51は、符号化装置3から送られてきたPCRに同期してSTCを再生する。デコーダ51は、例えば、再生された映像信号のBlack Burst信号(BB信号)を、GENLOCK信号231として分配器59に与える。分配器59は、デコーダ53〜57に、GENLOCK信号231を分配する。
デコーダ53〜57は、現在受信したPCRに同期してSTCを再生し、次の垂直同期信号のSTC値を読み出して、垂直同期信号の1周期分を加算し、デコーダ51に通知する。デコーダ51は、自身の次の垂直同期信号のSTC値、及びデコーダ53〜57から通知された次の垂直同期信号のSTC値を比較する。デコーダ51は、一番遅く受信されたTSストリームが再生可能となるように、最も遅いSTC値を自身のSTC値、及びデコーダ53〜57のSTC値として設定させる。すなわち、デコーダ51は、垂直同期信号のタイミングに1周期分のオフセットを加算したSTC値の中の最も遅い値を、次の垂直同期信号の時刻に対応するSTCの設定値として、デコーダ53〜57に通知する。デコーダ53〜57は、次の垂直同期信号のSTC値を、デコーダ51から通知されたSTC値に変更する。このとき、デコーダ53〜57では、クロック選択部239は、STCクロック生成部241の接続先をGENLOCKクロック生成部237に切り換える。
これにより、デコーダ51〜57は、同一のPTS値を有する符号化ピクチャを同時に表示させることで、IPネットワーク7で発生する個々のTSストリームの遅延を吸収するので、復号化装置5で分割映像の同期を合わせて再生できる。
以上のように、IPネットワーク7を介する送信で、エンコーダ31〜37において、同一の元映像20の分割映像に基づく符号化ピクチャには、同一のPTS値が含まれる。よって、復号化装置5に到着する時刻に差があっても、同一の元映像20の分割映像の情報を識別することができる。また、復号化装置5に到着する時刻に差があっても、デコーダ51〜57は、次の垂直同期信号に対応するSTC値を、一番遅く送信されてきた符号化ピクチャの、次の垂直同期信号に同期して設定する。よって、デコーダ51〜57のSTCクロックが互いに同期される。これにより、分割映像42〜48を、同一タイミングで安定して表示装置11で再生することが可能になる。このとき、符号化装置3、復号化装置5には、さらなる変換装置などを設けることは不要であり、シンプルな機器構成でも4K2Kやスーパーハイビジョン、3D等の高品位なIP映像伝送が可能となり、コストダウンが図れる。
さらに、再生映像40の再生中、デコーダ51は、次の垂直同期信号のタイミングでSTC値をデコーダ53〜57に通知する。また、デコーダ53〜57は、受信バッファ部203によるバッファのオーバーフロー、アンダーフロー等、STC設定部245などによるSTC値の規定回数を超えるずれなどの異常を監視し、異常が検出された場合には、通信開始処理を再度実行することができる。
上記実施の形態において、エンコーダ31は、主符号化装置の一例であり、エンコーダ33〜37は、従符号化装置の一例である。映像取込部101は、分割映像取得部の一例であり、STC読出部113は、識別時刻通知部の一例であり、映像符号化部103は、符号化部の一例である。また、STC設定部123は、識別時刻取得部の一例である。
デコーダ51は、主復号化装置の一例であり、デコーダ53〜57は、従復号化装置の一例である。受信部201は、符号化情報取得部の一例であり、STC計算部221は、主再生時刻計算部、従再生時刻取得部の一例である。STC設定部223は、再生時刻設定部の一例であり、STC読出部225は、再生時刻通知部の一例であり、映像復号化部207は、復号化部の一例であり、映像表示部211は、再生部の一例である。
STC読出し部247は、従再生時刻取得部の一例であり、送信部249は、従再生時刻通知部の一例であり、STC設定部245は、再生時刻取得部の一例である。
ピクチャデータ358等は、符号化分割映像の一例であり、符号化ピクチャ352等は、符号化情報の一例であり、PTS値は、識別時刻の一例である。次の垂直同期信号のSTCの計算値は、主再生時刻、従再生時刻の一例であり、次の垂直同期信号のSTCの設定値は、再生時刻の一例であり、TSストリーム350〜380は、符号化送信情報の一例である。
なお、本発明は、以上に述べた実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲内で種々の構成または実施形態を採ることができる。例えば、各エンコーダ33〜37は、エンコーダ31から通知される次の垂直同期信号STC値の通知が遅れたりしたときの保護として、通知されたSTC値が自身の次の垂直同期信号のSTC値と違っていても即座に反映させるとは限らない。連続で閾値以上ずれた回数や、STC値のずれの閾値を予め決めておき、所定回数以上連続で閾値以上ずれた場合や、ずれが閾値を上回った場合にSTC設定部123がSTC値を更新するようにしてもよい。これにより、ネットワークの揺らぎによるSTC値反映の誤動作を排除することも可能である。この場合、符号化ピクチャに付加されるPTS値は、ある閾値内の値となる。
上記実施の形態において、符号化装置3は、全てのエンコーダ31〜37において同一のPTS値をストリームに付加するようにしたが、例えば、エンコーダ31に対するエンコーダ33〜37のSTC値のずれを送信するようにしてもよい。これにより、復号化装置5において、同一の元映像20の分割映像を識別することができる。
また、デコーダ53〜57がデコーダ51に通知する値は、次の垂直同期信号のSTC値以外に、PTS値やPCRを使用してもよい。また、デコーダ51〜57が受信するTSストリームが全てマルチキャストの場合、デコーダ51は、デコーダ53〜57からPTS値又はPCR値の通知を受けるのではなく、他のデコーダ53〜57宛のTSストリームもデコードせずに受信のみ行い、その中からPTS値又はPCR値を抽出することで、STCのオフセット値を算出することも可能である。
1 映像伝送システム
3 符号化装置
5 復号化装置
7 IPネットワーク
9 カメラ
11 表示装置
20 元映像
22〜28 分割映像
31 エンコーダ
33〜37 エンコーダ
39 HUB
51 デコーダ
53〜57 デコーダ
59 分配器
61 HUB
40 再生映像
42〜48 分割映像
70 受信装置
72 PLL
74 符号化部
76 映像部
78 音声部
80 多重化装置
82 メモリ
84 CPU
86 LAN制御部
101 映像取込部
103 映像符号化部
105 音声取込部
107 音声符号化部
109 映像/音声多重部
111 垂直同期信号取込部
113 STC読出部
115 STCクロック生成部
117 PCRクロック生成部
119 送信部
121 LAN
123 STC設定部
125 受信部

Claims (10)

  1. 主符号化装置と少なくとも一つの従符号化装置と、
    を有し、
    前記主符号化装置は、
    一画面の元映像が複数に分割された分割映像のうちの一つを時系列に取得する分割映像取得部と、
    時系列に取得される前記分割映像を識別するための識別時刻を取得するとともに、前記従符号化装置に前記識別時刻を通知する識別時刻通知部と、
    取得した前記分割映像を符号化して符号化分割映像を生成するとともに、前記符号化分割映像と前記識別時刻とを含む符号化情報が時系列に含まれた符号化送信情報を生成する符号化部と、
    前記符号化送信情報を送信する送信部と、
    を有し、
    前記従符号化装置は、
    前記一つ以外の分割映像のうちのいずれかを時系列に取得する分割映像取得部と
    前記分割映像を識別するために設定される前記識別時刻を前記主符号化装置から取得する識別時刻取得部と、
    取得した前記分割映像を符号化した符号化分割映像を生成するとともに、前記符号化分割映像と前記識別時刻とを含む符号化情報が時系列に含まれた符号化送信情報を生成する符号化部と、
    前記符号化送信情報を送信する送信部と、
    を有することを特徴とする符号化装置。
  2. 前記識別時刻は、前記主符号化装置が前記分割映像の垂直同期信号を取得した時刻に、前記垂直同期信号の周期を加算した時刻であり、
    前記従符号化装置は、次の垂直同期信号を取得した時刻を、通知された前記識別時刻に設定することにより、同一の前記元映像に基づく符号化情報に同一の前記識別時刻を含ませることを特徴とする請求項1に記載の符号化装置。
  3. 前記識別時刻は、前記主符号化装置が前記分割映像の垂直同期信号を取得した時刻に、前記垂直同期信号の周期を加算した時刻であり、
    前記従符号化装置は、次の垂直同期信号を取得した時刻と、通知された前記識別時刻とが、予め定められた閾値以上ずれた回数が、所定回数以上の場合に、次の垂直同期信号を取得した時刻を前記識別時刻に設定することを特徴とする請求項1に記載の符号化装置。
  4. 前記符号化送信情報は、IPネットワークを介して送信されることを特徴とする請求項1から請求項3のいずれか一項に記載の符号化装置。
  5. 主復号化装置と少なくとも一つの従復号化装置と、
    を有し、
    前記主復号化装置は、
    一画面の元映像が複数に分割された分割映像のうちの一つを符号化した符号化分割映像と、前記分割映像を識別する識別時刻とを含む符号化情報を時系列に取得する符号化情報取得部と、
    前記識別時刻に基づき、取得された前記分割映像の次の前記分割映像を再生する主再生時刻を計算する主再生時刻計算部と、
    前記識別時刻に基づき計算された、前記少なくとも一つの従復号化装置が取得した前記識別時刻を有する前記分割映像の次の前記分割映像を再生する従再生時刻をそれぞれ取得する従再生時刻取得部と、
    前記主再生時刻と、少なくとも一つの前記従再生時刻との中で、最も遅い時刻を再生時刻として設定する再生時刻設定部と、
    前記再生時刻を少なくとも一つの前記従復号化装置に通知する再生時刻通知部と、
    前記符号化分割映像を復号化する復号化部と、
    前記再生時刻及び前記識別時刻に基づき、復号化された前記分割映像を再生する再生部と、
    を有し、
    前記従復号化装置は、
    前記元映像の分割映像のうち、前記主復号化装置が復号化する分割映像以外の分割画像のいずれかを符号化した符号化分割映像と、前記分割映像を識別する識別時刻とを含む符号化情報を時系列に取得する符号化情報取得部と、
    前記従復号化装置において取得された、前記識別時刻に対応する前記分割映像の次の分割映像を再生する従再生時刻を取得する従再生時刻取得部と、
    前記従再生時刻を前記主復号化装置に通知する従再生時刻通知部と、
    前記主復号化装置から、前記次の分割映像の再生時刻を取得する再生時刻取得部と、
    前記符号化分割映像を復号化する復号化部と、
    前記再生時刻及び前記識別時刻に基づき、復号化された前記分割映像を再生する再生部と、
    を有することを特徴とする復号化装置。
  6. 前記再生時刻は、前記主復号化装置が前記分割映像の垂直同期信号を取得した時刻に、前記垂直同期信号の周期を加算した時刻であり、
    前記従復号化装置は、次の垂直同期信号を取得した時刻を、通知された前記再生時刻に設定することにより、同一の前記元映像に基づく前記分割映像を再生することを特徴とする請求項に記載の復号化装置。
  7. 前記再生時刻は、前記主符号化装置が前記分割映像の垂直同期信号を取得した時刻に、前記垂直同期信号の周期を加算した時刻であり、
    前記従復号化装置は、次の垂直同期信号を取得した時刻と、通知された前記再生時刻とが、予め定められた閾値以上ずれた回数が、所定回数以上の場合に、次の垂直同期信号を取得した時刻を前記再生時刻に設定することを特徴とする請求項に記載の復号化装置。
  8. 前記符号化情報は、IPネットワークを介して取得されることを特徴とする請求項5から請求項7のいずれか一項に記載の復号化装置。
  9. 主符号化装置が、
    一画面の元映像が複数に分割された分割映像のうちの一つを時系列に取得し、前記分割映像を識別するための識別時刻を取得し、
    符号化装置に前記識別時刻を通知し、
    取得した前記分割映像を符号化して符号化分割映像を生成するとともに、前記符号化分割映像と前記識別時刻とを含む符号化情報が時系列に含まれた符号化送信情報を生成し、
    前記従符号化装置が、
    前記一つ以外の分割映像のうちのいずれかを時系列に取得し、前記分割映像を識別するために設定される前記識別時刻を前記主符号化装置から取得し、
    取得した前記分割映像を符号化した符号化分割映像を生成するとともに、前記符号化分割映像と前記識別時刻とを含む符号化情報が時系列に含まれた符号化送信情報を生成する
    ことを特徴とする符号化方法。
  10. 主復号化装置が、
    一画面の元映像が複数に分割された分割映像のうちの一つを符号化した符号化分割映像と、前記分割映像を識別する識別時刻とを含む符号化情報を時系列に取得し、
    前記識別時刻に基づき、取得された前記分割映像の次の前記分割映像を再生する主再生時刻を計算し、
    前記識別時刻に基づき計算された、前記少なくとも一つの従復号化装置が取得した前記識別時刻を有する前記分割映像の次の前記分割映像を再生する従再生時刻をそれぞれ取得し、
    前記主再生時刻と、少なくとも一つの前記従再生時刻との中で、最も遅い時刻を再生時刻として設定し、
    前記再生時刻を少なくとも一つの前記従復号化装置に通知し、
    前記符号化分割映像を復号化し、
    前記再生時刻及び前記識別時刻に基づき、復号化された前記分割映像を再生し、
    従復号化装置が、
    前記元映像の分割映像のうち、前記主復号化装置が復号化する分割映像以外の分割画像のいずれかを符号化した符号化分割映像と、前記分割映像を識別する識別時刻とを含む符号化情報を時系列に取得し、
    前記従復号化装置において取得された、前記識別時刻に対応する前記分割映像の次の分割映像を再生する従再生時刻を取得し、
    前記従再生時刻を前記主復号化装置に通知し、
    前記主復号化装置から、前記次の分割映像の再生時刻を取得し、
    前記符号化分割映像を復号化し、
    前記再生時刻及び前記識別時刻に基づき、復号化された前記分割映像を再生することを特徴とする復号化方法。
JP2014505819A 2012-03-17 2012-03-17 符号化装置、復号化装置、符号化方法および復号化方法 Active JP5761446B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2012/056946 WO2013140485A1 (ja) 2012-03-17 2012-03-17 符号化装置、復号化装置、符号化方法および復号化方法

Publications (2)

Publication Number Publication Date
JPWO2013140485A1 JPWO2013140485A1 (ja) 2015-08-03
JP5761446B2 true JP5761446B2 (ja) 2015-08-12

Family

ID=49221981

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014505819A Active JP5761446B2 (ja) 2012-03-17 2012-03-17 符号化装置、復号化装置、符号化方法および復号化方法

Country Status (3)

Country Link
US (1) US9591283B2 (ja)
JP (1) JP5761446B2 (ja)
WO (1) WO2013140485A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2013145126A1 (ja) * 2012-03-27 2015-08-03 富士通株式会社 符号化システム、符号化装置、符号化方法、プログラム、及びプログラムを記録したコンピュータ読取可能な記録媒体

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101952260B1 (ko) 2012-04-03 2019-02-26 삼성전자주식회사 다수의 동영상 썸네일을 동시에 표시하기 위한 영상 재생 장치 및 방법
JP6244642B2 (ja) * 2013-04-10 2017-12-13 富士通株式会社 符号化装置、復号化装置、符号化方法、復号化方法およびプログラム
JP6268066B2 (ja) * 2013-09-20 2018-01-24 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 送信方法、受信方法、送信装置及び受信装置
JP6385057B2 (ja) * 2013-12-25 2018-09-05 キヤノン株式会社 制御装置及び制御方法
JP6596363B2 (ja) * 2016-03-08 2019-10-23 日本放送協会 時刻マッピング情報生成装置、同期再生システム、時刻マッピング情報生成方法及び時刻マッピング情報生成プログラム
JP6823540B2 (ja) * 2017-05-29 2021-02-03 日本電信電話株式会社 映像処理方法、映像処理システム及び映像送信装置
US11049219B2 (en) * 2017-06-06 2021-06-29 Gopro, Inc. Methods and apparatus for multi-encoder processing of high resolution content
CN108737689A (zh) * 2018-04-27 2018-11-02 浙江大华技术股份有限公司 一种视频的拼接显示方法及显示控制设备
US11228781B2 (en) 2019-06-26 2022-01-18 Gopro, Inc. Methods and apparatus for maximizing codec bandwidth in video applications
JP7335764B2 (ja) 2019-09-25 2023-08-30 日本放送協会 送信装置、受信装置及びプログラム
EP4040431A4 (en) * 2019-09-30 2023-08-30 Sony Interactive Entertainment Inc. IMAGE PROCESSING DEVICE, IMAGE DISPLAY SYSTEM, IMAGE DATA TRANSFER DEVICE AND IMAGE PROCESSING METHOD
US11481863B2 (en) 2019-10-23 2022-10-25 Gopro, Inc. Methods and apparatus for hardware accelerated image processing for spherical projections
JP2021190868A (ja) * 2020-05-29 2021-12-13 キヤノン株式会社 映像同期装置、映像同期装置の制御方法及びプログラム
CN112672166B (zh) * 2020-12-24 2023-05-05 北京睿芯高通量科技有限公司 一种视频解码器的多码流解码加速系统及方法

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3237806B2 (ja) * 1994-09-06 2001-12-10 日本電信電話株式会社 画面分割映像符号化復号化装置
JPH08116534A (ja) 1994-10-18 1996-05-07 Seiko Epson Corp 画像データ符号化装置およびその方法並びに画像データ復号化装置およびその方法
JPH10234043A (ja) * 1997-02-20 1998-09-02 Toshiba Corp 動画像符号化/復号化装置
JPH11239347A (ja) * 1998-02-23 1999-08-31 Victor Co Of Japan Ltd 画像データ符号化装置及び画像データ符号化方法
JP4427827B2 (ja) 1998-07-15 2010-03-10 ソニー株式会社 データ処理方法、データ処理装置及び記録媒体
JP2002125203A (ja) 2000-10-12 2002-04-26 Mitsubishi Electric Corp メディア符号器及びメディア復号器
EP1626579A1 (en) * 2004-08-11 2006-02-15 Thomson Licensing Device pairing
JP2006211617A (ja) 2005-01-31 2006-08-10 Toshiba Corp 動画像符号化装置・復号化装置及び符号化ストリーム生成方法
JP4607856B2 (ja) 2006-12-26 2011-01-05 富士通株式会社 符号化復号システム及び符号化復号方法
EP2211553A4 (en) 2007-11-13 2011-02-02 Fujitsu Ltd CODIER AND DECODER
JP5068282B2 (ja) 2009-06-01 2012-11-07 日本電信電話株式会社 映像伝送装置及び方法
JP5537293B2 (ja) * 2009-07-03 2014-07-02 パナソニック株式会社 画像符号化装置及び画像復号化装置
EP2330824A1 (en) * 2009-11-27 2011-06-08 Thomson Licensing Local statistical multiplexing of video streams over internet protocol
JP4893849B2 (ja) 2010-09-13 2012-03-07 富士通株式会社 画像処理システム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2013145126A1 (ja) * 2012-03-27 2015-08-03 富士通株式会社 符号化システム、符号化装置、符号化方法、プログラム、及びプログラムを記録したコンピュータ読取可能な記録媒体

Also Published As

Publication number Publication date
US20140348248A1 (en) 2014-11-27
US9591283B2 (en) 2017-03-07
WO2013140485A1 (ja) 2013-09-26
JPWO2013140485A1 (ja) 2015-08-03

Similar Documents

Publication Publication Date Title
JP5761446B2 (ja) 符号化装置、復号化装置、符号化方法および復号化方法
US9948940B2 (en) Encoding apparatus, decoding apparatus, encoding method, and decoding method
US6429902B1 (en) Method and apparatus for audio and video end-to-end synchronization
JP6184408B2 (ja) 受信装置及びその受信方法
JP2013026787A (ja) 送信装置、受信システム、通信システム、送信方法、受信方法、及びプログラム
JPH11205696A (ja) 映像伝送装置及び映像伝送方法
US8547995B2 (en) High definition video/audio data over IP networks
JP2011029969A (ja) 映像監視表示装置および映像監視システム
JP6197211B2 (ja) 映像音声配信システム、音声映像配信方法及びプログラム
KR100924170B1 (ko) 전송 효율을 높이기 위한 다시점 파노라믹 콘텐츠 송/수신시스템 및 그 방법
JP6813933B2 (ja) 映像音声伝送システム、伝送方法、送信装置及び受信装置
US9866898B2 (en) Elementary stream multiplexing method, multiplexing system, encoding or decoding method and apparatus
JP6318953B2 (ja) 送信装置、送信方法、受信装置および受信方法
JP2012134760A (ja) 立体映像伝送システム
JP6717670B2 (ja) タイムコード送信装置、タイムコード受信装置、映像信号送信装置及び映像信号受信装置
JP5068282B2 (ja) 映像伝送装置及び方法
JP4357070B2 (ja) デジタル放送信号同期切替送出装置
JP2010141498A (ja) 映像受信装置及び映像送信装置
JP5023190B2 (ja) 映像伝送システム
JP2010028642A (ja) 画像伝送システム
CN102447871A (zh) 一种可实现多路高清视频远距离同步传输的高清矩阵
JP2005223821A (ja) マルチストリーム再生システム
JP2002290969A (ja) 同期制御装置
JP2001359059A (ja) プログラム多重化システム
JP5632710B2 (ja) 送信装置、受信装置及び伝送システム

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150512

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150525

R150 Certificate of patent or registration of utility model

Ref document number: 5761446

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150