JP5375490B2 - 送信装置、受信装置、通信システム及びプログラム - Google Patents

送信装置、受信装置、通信システム及びプログラム Download PDF

Info

Publication number
JP5375490B2
JP5375490B2 JP2009224013A JP2009224013A JP5375490B2 JP 5375490 B2 JP5375490 B2 JP 5375490B2 JP 2009224013 A JP2009224013 A JP 2009224013A JP 2009224013 A JP2009224013 A JP 2009224013A JP 5375490 B2 JP5375490 B2 JP 5375490B2
Authority
JP
Japan
Prior art keywords
data
frame
area
video
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009224013A
Other languages
English (en)
Other versions
JP2011077599A (ja
Inventor
郁夫 塚越
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2009224013A priority Critical patent/JP5375490B2/ja
Priority to US12/807,791 priority patent/US8896663B2/en
Priority to KR20100090354A priority patent/KR20110035895A/ko
Priority to EP20100177805 priority patent/EP2302943A3/en
Priority to BRPI1004245-8A priority patent/BRPI1004245A2/pt
Priority to RU2010139093/07A priority patent/RU2010139093A/ru
Priority to CN201010294296.4A priority patent/CN102036085B/zh
Publication of JP2011077599A publication Critical patent/JP2011077599A/ja
Application granted granted Critical
Publication of JP5375490B2 publication Critical patent/JP5375490B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/139Format conversion, e.g. of frame-rate or size
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/156Mixing image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/161Encoding, multiplexing or demultiplexing different image signal components

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Television Systems (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Description

本発明は、送信装置、受信装置、通信システム及びプログラムに関する。
近時では、映像を表示するための信号としてインターレース画像による映像信号が広く用いられている。その一方で、より情報量を増大することのできるプログレッシブ画像による映像信号の導入もされつつある。
また、例えば下記の特許文献に記載されているように、視差を有する左目用画像及び右目用画像を所定周期で交互にディスプレイに供給し、この画像を所定周期に同期して駆動される液晶シャッターを備える眼鏡で観察する方法が知られている。
特開平9−138384号公報 特開2000−36969号公報 特開2003−45343号公報
しかしながら、送信側の装置からは、インターレース画像又はプログレッシブ画像の映像信号が送られた場合に、受信装置側では、インターレース画像又はプログレッシブ画像をデコードする機能を備えていないと、適切な受信を行うことができなくなる問題が生じる。
そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、インターレース画像とプログレッシブ画像の互換性を確実に確保することが可能な、新規かつ改良された送信装置、受信装置、通信システム及びプログラムを提供することにある。
上記課題を解決するために、本発明のある観点によれば、フレーム単位で取得した映像信号について、フレーム内の垂直方向において所定のライン毎にデータを抜き出してフレーム内の別の領域に配置して出力するフレーミング部と、前記映像信号を受信装置へ送信するため、前記フレーミング部からの出力をエンコードするエンコード部と、を備え、前記フレーミング部は、プログレッシブ画像の場合、前記別の領域に配置したデータ同士を前後のフレーム間で交換して出力し、インターレース画像の場合、前記交換を行うことなく出力する、送信装置が提供される。
また、前記映像信号は、立体画像を構成する左目用映像又は右目用映像の信号であってもよい。
また、前記フレーミング部は、前記所定のライン毎にデータを抜き出してフレーム内の別の領域に配置した後、時系列に対応する左目用映像のデータと右目用映像のデータを合体して1つのフレームとして出力するものであってもよい。
また、前記フレーミング部は、プログレッシブ画像の場合、垂直方向の1行おきにデータを抜き出して前記別の領域に配置して出力するものであってもよい。
また、前記フレーミング部は、インターレース画像の場合、垂直方向の2行を1組として、1組おきにデータを抜き出して前記別の領域に配置して出力するものであってもよい。
また、前記フレーミング部の前段に、前記映像信号を水平方向にサブサンプリングするスケーリング部を備えるものであってもよい。
また、前記左目用映像のデータと右目用映像のデータとが合体されたフレームのデータについて、フレーム内の任意の領域を指定するための情報を挿入する領域指定部を備えるものであってもよい。
また、上記課題を解決するために、本発明のある観点によれば、送信装置から送信されてフレーム単位で取得した映像信号をデコードするデコード部と、フレーム内の第1の領域のデータに対して第2の領域のデータを所定のライン毎に挿入して出力するフレーミング部と、を備え、前記フレーミング部は、プログレッシブ画像の場合は、フレーム内の前記第2の領域に配置されたデータ同士を前後のフレーム間で交換した後、フレーム内の前記第1の領域のデータに対して前記第1の領域のデータを所定のライン毎に挿入し、インターレース画像の場合は、フレーム内の前記第1の領域に配置されたデータを現フレームのデータとして出力し、前記第2の領域に配置されたデータを次のフレームのデータとして出力する、受信装置が提供される。
また、前記フレーム単位で取得した映像信号は、立体画像を構成する左目用映像及び右目用映像が各フレーム内の所定領域に配置された映像信号であり、前記フレーミング部は、各フレームについて前記左目用映像及び右目用映像を分離した後、フレーム内の第1の領域のデータに対して第2の領域のデータを所定のライン毎に挿入するものであってもよい。
また、前記フレーミング部の後段に、前記映像信号を水平方向にサブサンプリングするスケーリング部を備えるものであってもよい。
また、前記フレーミング部は、プログレッシブ画像の場合、第2の領域のデータの行間に前記第1の領域のデータを1行ずつ挿入するものであってもよい。
また、前記フレーミング部は、インターレース画像の場合、第2の領域のデータの2行ずつの行間に前記第1の領域のデータを2行ずつ挿入するものであってもよい。
また、上記課題を解決するために、本発明のある観点によれば、フレーム単位で取得した映像信号について、フレーム内の垂直方向において所定のライン毎にデータを抜き出してフレーム内の別の領域に配置して出力する第1のフレーミング部と、前記映像信号を受信装置へ送信するため、前記フレーミング部からの出力をエンコードするエンコード部と、を有し、前記第1のフレーミング部は、プログレッシブ画像の場合、前記別の領域に配置したデータ同士を前後のフレーム間で交換して出力し、インターレース画像の場合、前記交換を行うことなく出力する、送信装置と、前記送信装置から送信されてフレーム単位で取得した映像信号をデコードするデコード部と、フレーム内の第1の領域のデータに対して第2の領域のデータを所定のライン毎に挿入して出力する第2のフレーミング部と、を有し、前記第2のフレーミング部は、プログレッシブ画像の場合は、フレーム内の前記第2の領域に配置されたデータ同士を前後のフレーム間で交換した後、フレーム内の前記第1の領域のデータに対して前記第1の領域のデータを所定のライン毎に挿入し、インターレース画像の場合は、フレーム内の前記第1の領域に配置されたデータを現フレームのデータとして出力し、前記第2の領域に配置されたデータを次のフレームのデータとして出力する、受信装置と、を備える通信システムが提供される。
また、上記課題を解決するために、本発明のある観点によれば、フレーム単位で取得した映像信号について、フレーム内の垂直方向において所定のライン毎にデータを抜き出してフレーム内の別の領域に配置して出力し、プログレッシブ画像の場合、前記別の領域に配置したデータ同士を前後のフレーム間で交換して出力し、インターレース画像の場合、前記交換を行うことなく出力する手段、前記映像信号を受信装置へ送信するため、前記フレーミング部からの出力をエンコードする手段、としてコンピュータを機能させるためのプログラムが提供される。
また、上記課題を解決するために、本発明のある観点によれば、送信装置から送信されてフレーム単位で取得した映像信号をデコードする手段、フレーム内の第1の領域のデータに対して第2の領域のデータを所定のライン毎に挿入して出力し、プログレッシブ画像の場合は、フレーム内の前記第2の領域に配置されたデータ同士を前後のフレーム間で交換した後、フレーム内の前記第1の領域のデータに対して前記第1の領域のデータを所定のライン毎に挿入し、インターレース画像の場合は、フレーム内の前記第1の領域に配置されたデータを現フレームのデータとして出力し、前記第2の領域に配置されたデータを次のフレームのデータとして出力する手段、としてコンピュータを機能させるためのプログラムが提供される。
本発明によれば、インターレース画像とプログレッシブ画像の互換性を確実に確保することが可能となる。
本発明の実施形態にかかる送信装置の構成例を示す模式図である。 送信装置の各段階における映像データの構成を模式的に示す図である。 プログレッシブの場合にスケーリング部、及びフレーミング部で行われる処理を示す模式図である。 インターレースの場合にスケーリング部、及びフレーミング部で行われる処理を示す模式図である。 図3及び図4におけるサブサンプリングについて説明するための模式図である。 4:2:0の配置において、プログレッシブ、およびインターレースの場合のサンプリング構造を示す模式図である。 プログレッシブの場合にフレーミング部で行われる処理を示す模式図である。 インターレースの場合にフレーミング部で行われる処理を示す模式図である。 インターレースの場合にフレーミング部で行われる処理を示す模式図である。 データスワップの方法を説明するための模式図である。 インターレースの場合の処理を示す模式図である。 受信装置の構成を示す模式図である。 受信装置の各段階における映像データの構成を模式的に示す図である。 インターレースの60Hzの映像信号(60i)を受信装置が受信した場合に、受信装置側でインターレースの映像信号としてデコードを行う場合を示す模式図である。 60p/60i Scalabilityのシグナリングシンタクスを示す模式図である。 送信装置側で2Dの映像信号を処理する場合を示す模式図である。 図13の下段の処理を行った場合に、受信装置での制約を示す模式図である。 送信装置から送信され、受信装置のデコーダでデコードされた映像データを示す模式図である。 識別情報の一例を示す模式図である。 識別情報の一例を示す模式図である。
以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
なお、説明は以下の順序で行うものとする。
1.第1の実施の形態(インターレース画像とプログレッシブ画像の互換性確保について)
2.第2の実施の形態(映像データの領域指定について)
<1.第1の実施形態>
まず、図面に基づいて、本発明の第1の実施形態に係る送信装置100の概略構成について説明する。図1は、送信装置100の構成例を示す模式図である。送信装置100は、例えば左目用映像と右目用映像とから構成される立体映像を符号化して、後述する受信装置200へ伝送するものである。図1に示すように、第1の実施形態に係る送信装置100は、スケーリング部102、フレーミング部104、エンコーダ部106、Muxer108を備える。
図2は、送信装置100の各段階における映像データの構成を模式的に示す図である。図1に示すステージ(Stage)E1〜E3は、図2のE1〜E3とそれぞれ対応しており、図2において、E1はスケーリング部102へ入力されるデータを模式的に示している。また、図2において、E2は、スケーリング部102から出力されてフレーミング部104へ入力されるデータを模式的に示している。また、E3は、フレーミング部104から出力されてエンコーダ106へ入力されるデータを模式的に示している。
本実施形態の送信装置100は、プログレッシブ(Progressive)画像の場合とインターレース画像の場合とで異なる処理が行われる。プログレッシブ画像の場合は、1フレーム毎ごとに1水平ラインを単位として、Even Line Group、Odd Line Groupとにグループ分けし、Frame-pairを構成する1st Frame, 2nd Frameのフレーム間でOdd Line Groupをswapする。これにより、Frame-pairのうち1st Frameにinterlaceフレームにした場合の全構成要素を集中させることができる。
以下、送信装置100におけるデータ処理について詳細に説明する。最初に、図2に基づいて、送信装置100におけるデータ処理の概要を説明する。スケーリング部102には、デジタルカメラなどで撮影された画像データ(Camera Out)が入力される。図2は、映像データがプログレッシブ(progressive)の場合とインターレース(interlaced)の場合をそれぞれ示しており、上段がプログレッシブの場合を、下段がインターレースの場合を示している。
先ず、プログレッシブの場合について説明すると、図2の上段は周波数が60Hzの場合(60p)を例示しており、カメラからの出力として、左目用映像Lと右目用映像Rが1フレーム毎にスケーリング部102へ入力される。ここで、左目用映像とL右目用映像Rは、それぞれ1920×1080ピクセル(画素)であり、60Hzの周波数で1フレーム毎にスケーリング部102へ入力される。図2では、左右映像(L,R)のそれぞれにおいて、1番目のフレーム(1stフレーム)と2番目のフレーム(2ndフレーム)がスケーリング部102へ入力される様子を示している。
スケーリング部102では、左目用映像Lと右目用映像Rのそれぞれについて、水平方向のデータを間引いて、水平方向に圧縮する処理を行う。すなわち、スケーリング部102では、画像データを水平方向にサブサンプリング(Subsampling)し、水平解像度を1/2にする処理を行う。水平方向に圧縮されたデータは、フレーミング部104へ入力される。フレーミング部104では、垂直方向に並んだ画像データについて、1行おきに抜き出して横に配置する処理を行う。これらの処理について、図3に基づいて説明する。
図3は、プログレッシブの場合、すなわちプログレッシブフレームのエンコードの場合にスケーリング部102、及びフレーミング部104で行われる処理を示す模式図である。図3において、○、△、◎、□等の記号は、個々の画素のデータを模式的に示している。図3に示すソースイメージ(1.Source Image)は、図1の上段の最も左に位置する左目用映像Lと右目用映像Rのそれぞれを示しており、カメラ出力(Camera Out)によるソースイメージのデータである。ソースイメージは、スケーリング部104にて水平方向にサブサンプリングされ、図3の2.Horizontally Subsampledに示すデータとなる。このサブサンプリングでは、図3に示すように、水平方向において1ピクセルおきにデータが間引かれ、水平解像度が1/2とされる。従って、実施形態において、3D伝送の際、縦方向解像度はソース画レベルの高解像度を維持することができる。
サブサンプリングされたデータは、フレーミング部106でフレーミングされて、垂直方向の1行おきに空間内の右側の領域に移動される。図3の3.Framing (V-H Repositioned)は、フレーミング部106による処理を示している。フレーミング部106では、垂直方向の行を上から順に0,1,2,・・・行とすると、奇数行(0は奇数に含まれるものとする)のデータを抜き出して画素が配置された空間内の右側の領域に移動する。その後、垂直方向において行間の空白の行が無くなるように行毎にデータを上に移動する。これにより、図3に示す4.Resulting Pixel Alignmentのデータが得られる。
図3に示す2.Horizontally Subsampledのデータは、元々1920×1080ピクセルのデータに対して水平方向にサブサンプリングを行っているため、図2の上段のステージE2に示す960×1080ピクセルのデータに対応する。また、図3に示す4.Resulting Pixel Alignmentのデータは、2.Horizontally Subsampledのデータに対して垂直方向の1行おきにデータを空間内の右側の領域に移動しているため、1920×540ピクセルのデータであり、図2の上段のステージE2に示す1920×540ピクセルのデータに対応する。
その後、1920×540ピクセルのデータは、フレーミング部104にて左目用映像Lと右目用映像Rのデータが合体されて、図2の上段のE3に示すように、1920×1080ピクセルのデータとなり、エンコーダ106へ入力される。エンコーダ106では、入力された1920×1080ピクセルのデータの符号化を行う。
以上のように、プログレッシブ画像の場合は、左目用映像L、右目用映像Rのそれぞれ2フレーム分のデータ(計4フレーム)は、スケーリング部102及びフレーミング部104で処理される。そして、左目用映像Lと右目用映像Rのデータが合体されて、1920×1080ピクセルの2フレームのデータとしてエンコーダ106へ送られる。プログレッシブの場合は、図3に示すEven Line GroupとOdd Line Groupとを交互に読み出すことで、Interlace fieldとして扱うことが可能である。
次に、インターレースの場合について説明する。図2の下段は周波数が60Hzの場合(60i)を例示しており、カメラからの出力として、左目用映像Lと右目用映像Rが1フレーム毎にスケーリング部102へ入力される。ここで、左目用映像Lと右目用映像Rは、それぞれ1920×540ピクセルであり、60Hzの周波数で1フレーム毎にスケーリング部102へ入力される。インターレースにおいては、連続する2つのフレームにより、1つの左目用映像L(または右目用映像R)が構成される。図2では、左右映像(L,R)のそれぞれにおいて、1番目のフレーム(トップフレーム)と2番目のフレーム(ボトムフレーム)がスケーリング部102へ入力される様子を示している。
スケーリング部102では、左目用映像Lと右目用映像Rのそれぞれについて、プログレッシブの場合と同様に、水平方向において1列おきにデータを間引き、水平方向に圧縮する処理を行う。水平方向に間引かれたデータは、フレーミング部104へ入力される。フレーミング部104では、垂直方向に並んだ画像データについて、2行おきに抜き出して横に配置する処理を行う。
図4は、インターレースの場合、すなわちインターレースフレームのエンコードの場合にスケーリング部102、及びフレーミング部104で行われる処理を示す模式図である。図4においても、○、△、◎、□等の記号は、個々の画素のデータを示している。図4に示すソースイメージ(1.Source Image)は、図3と同様に、図1の下段の最も左に示す左目用映像Lと右目用映像Rのそれぞれを示しており、カメラ出力(Camera Out)によるソースイメージのデータである。ソースイメージは、スケーリング部104にて水平方向にサブサンプリングされ、水平方向において1列おきにデータが間引かれ、2.Horizontally Subsampledに示すデータとなる。このサブサンプリングでは、図4に示すように、水平方向において1ピクセルおきにデータが間引かれ、水平解像度が1/2とされる。
サブサンプリングされたデータは、フレーミング部106でフレーミングされて、垂直方向の2行毎(2行おき)に空間内の右側の領域に移動される。図4の3.Framing (V-H Repositioned)は、フレーミング部106による処理を示している。フレーミング部106では、垂直方向の行を上から順に0,1,2,・・・行とすると、2行おきに、2,3,6,7,10,11・・・行のデータを抜き出して空間内の右側の領域に移動する。これにより、画像データは、図4の3.Framing (V-H Repositioned)に示す状態となる。その後、垂直方向において行間の空白の行が無くなるように行毎にデータを上に移動する。これにより、図4に示す4.Resulting Pixel Alignmentのデータが得られる。
図4に示す2.Horizontally Subsampledのデータは、元々1920×540ピクセルのデータに対して水平方向にサブサンプリングを行っているため、図2の下段のステージE2に示す960×540ピクセルのデータに対応する。また、図4に示す4.Resulting Pixel Alignmentのデータは、2.Horizontally Subsampledのデータに対して更に垂直方向の2行おきにデータを空間内の右側の領域に移動しているため、1920×270ピクセルのデータであり、図2の下段のE2に示す1920×270ピクセルのデータに対応する。
その後、1920×270ピクセルのデータは、フレーミング部104にて左目用映像Lと右目用映像Rのデータが合体されて、図2の下段のE3に示すように、1920×540ピクセルのデータとなり、エンコーダ106へ入力される。エンコーダ106では、入力された1920×540ピクセルのデータの符号化を行う。
以上のようにインターレース画像の場合は、左目用映像L、右目用映像Rのそれぞれについて、1フレームを構成するデータ(トップフレーム及びボトムフレーム)が、スケーリング部102及びフレーミング部104で処理される。そして、左目用映像Lと右目用映像Rのデータが合体されて、1920×540ピクセルの2フレームのデータとしてエンコーダ106へ送られる。
このように、本実施形態では、フレーミング部104の処理において、プログレッシブの場合は奇数ラインを抜き出して偶数ラインの横に配置する。一方、インターレースの場合は、2行を1つの組として、垂直方向の上から順に1組おきに抜き出して、空間内の右側の領域に配置する。これにより、例えば画素レベルで左目用の画像と右目用の画像が混在する方式(チェッカーボードなどの方式)により左右画像を配置した場合と比較すると、隣接する画素の相関度を高めることができ、左右映像に視差がある場合であっても高い相関度を確保できるため、圧縮の符号化効率を大幅に高めることが可能である。また、水平方向のみデータを間引く処理を行うため、色差信号の行を残すことができ、画質の劣化を最小限に抑えることが可能である。
以下、図5〜図9に基づいて、スケーリング部102及びフレーミング104の処理について、特にプログレッシブとインターレースとでフレーミング部104の処理を異ならせる理由について説明する。先ず、図5に基づいて、図3及び図4におけるサブサンプリングについて説明する。図5は、スケーリング部102による水平方向のサブサンプリングを示す模式図である。図5では、4:2:0の配置を示しており、輝度を表すピクセル(図5中にxで示す)の行に色差を表す信号(図5中にoで示す)が配置された状態を示している。図5に示すように、4:2:0の配置では、輝度の行の1行おきに色差信号(o)が配置され、色差信号(o)の数は輝度xの4個に対して2個とされる。図5に示すように、水平方向の4列(C0、C1、C2、C3)のデータは、サブサンプリングによりC1列とC3列が間引かれることにより、C0’列とC2’列の2列になる。
また、図6は、4:2:0の配置において、プログレッシブ、およびインターレースの場合のサンプリング構造を示す模式図であって、左側にプログレッシブの場合を、中央にインターレースのトップフィールドを、右側にインターレースのボトムフィールドを示している。
図6の左に示すプログレッシブのデータは、このデータのみで1フレームの映像データが構成される。一方、中央と右に示すインターレースのデータは、トップフィールドとボトムフィールドの2つのデータにより1フレームの映像データが構成される。
図6に示すように、プログレッシブのデータ配置に対して、インターレースのトップフィールドでは、プログレッシブの奇数行の輝度xのデータが配置される。ボトムフィールドでは、プログレッシブの偶数行の輝度xのデータが配置される。また、色差信号(o)については、プログレッシブでは1行おきに輝度xに付加されているが、インターレースでは、垂直方向で見た場合に、トップフィールドとボトムフィールドのそれぞれで輝度xに対して1行おきに色差信号(o)が交互に付加され、トップフィールドとボトムフィールドに交互に色差信号(o)が付加される。また、色差信号(o)は、トップフィールドにおいては垂直方向で輝度xの下側に、ボトムフィールドにおいては垂直方向で輝度xの上側に付加される。
図7は、プログレッシブの場合にフレーミング部104で行われる処理を示す模式図であり、図2の上段及び図3の処理に対応する。図2及び図3で説明したように、プログレッシブの場合は、偶数ラインを動かさずに、奇数ラインのデータを抜き出して偶数ラインの横に配置する。
図8及び図9は、インターレースの場合にフレーミング部104で行われる処理を示す模式図であり、図2の下段及び図4の処理に対応する。ここで、図8は、インターレースのトップフィールドについてフレーミング部104で行われる処理を示す模式図である。同様に、図9は、インターレースのボトムフィールドについてフレーミング部104で行われる処理を示す模式図である。図2の下段及び図4で説明したように、インターレースの場合は、2行を1組として、垂直方向の最初の2行は動かさずに、次の2行を動かして横に配置し、以降、同様の処理を垂直方向に並んだ2行毎に繰り返す。
ここで、インターレースの場合は、図6で説明したように、トップフィールドとボトムフィールドに交互に色差信号(o)が付加される。また、色差信号(o)は、トップフィールドにおいては垂直方向で輝度xの下側に、ボトムフィールドにおいては垂直方向で輝度xの上側に付加される。このため、仮にプログレッシブと同様に1行おきに信号を抜き出してしまうと、トップフィールドにおいては、右側に移動した奇数ラインに色差信号(o)が存在しなくなってしまう。また、1行おきに信号を抜き出した場合、ボトムフィールドの場合は、右側に移動した奇数ラインのみに色差信号(o)が存在し、左側の偶数ラインには色差信号(o)が存在しない事態が生じる。本実施形態では、インターレースの場合は、図8及び図9に示すように、2行ずつ信号を抜き出しているため、移動した右側の領域と左側の奇数組または偶数組の双方に色差信号(o)を分散させることができる。そして、このような構成によれば、後述する受信装置200側での処理において、インターレースのデコードを行った場合に、前後のフレームに色差信号(o)を分散させることが可能である。
以上説明したように、図2の例によれば、スケーリング部102及びフレーミング部104でデータ処理を行うことにより、映像信号がプログレッシブの場合(60p)、インターレースの場合(60i)のいずれの場合においても、左右の映像信号が合体された2フレームのデータに変換してエンコーダ106へ入力することができる。
次に、図10に基づいて、本実施形態に係るデータスワップの方法を説明する。図10は、プログレッシブの場合に、本実施形態に係る手法によりデータスワップを行った例を示す模式図である。図10において、ステージE2までの処理は図2の上段の処理と同様である。図10のデータスワップでは、図3及び図4で説明した3.Framing (V-H Repositioned)のデータを生成した後、生成したデータの右半分のデータを次に続くフレームの右半分のデータと交換(スワップ)する処理を行う。図10に示すように、スワップは、左目用映像Lと右目用映像Rのそれぞれについて行う。
より詳細に説明すると、入力信号がプログレッシブ画像の場合は、フレーミング部104にて、1フレーム毎ごとに1水平ラインを単位として、奇数ラインを右側に移動したことにより、1920×540ピクセルの左側のEven Line Groupと、右側のOdd Line Groupとにグループ分けが行われる。そして、フレームペア(Frame−pair)を構成する第1フレーム(1st Frame)と第2フレーム(2nd Frame)のフレーム間でOdd Line Group同士を交換(swap)する。これにより、プログレッシブのフレームペアのうち、第1フレーム(1st Frame)の中に、インターレースのフレームにした場合の全構成要素を集中させることができる。従って、後述するように、インターレースのデコードを行った場合に、第1フレームのみをデコードすることでインターレースのトップフレームとボトムフレームの双方を構成することができる。
データスワップを行って得られた1920×540ピクセルのデータは、図2の上段の場合と同様に、左目用映像Lと右目用映像Rのデータが合体されて、1920×1080ピクセルのデータとされて、エンコーダ106へ入力される。エンコーダ106では、プログレッシブシーケンスのエンコードについては、フレームペアの制約を満たすエンコードを行う。
図11は、入力信号がインターレースの場合の処理を示しており、図2の下段と同じ処理を示している。図11に示すように、インターレースの場合は、データスワップを行わない。このため、図2の下段で説明したように、インターレース画像の場合は、フィールド(field)ごとに2水平ラインを単位としてEven LineとOdd Lineからなる全ピクセルを、Even Line GroupとOdd Line Groupとにグループ分けする。そして、インターレースの場合は、データスワップを行うことなく、フレーミング部104から出力された1920×540ピクセルのデータをエンコーダ106へ入力する。以上のように、送信装置100がプログレッシブ対応の場合は図10に示す処理を行い、インターレース対応の場合は図11に示す処理を行う。なお、送信装置100がプログレッシブ対応の場合は、通常、インターレースにも対応できるため、図11の処理を行うことが可能である。
次に、上述した送信装置100から送信された映像信号をデコードする機能を備えた、本実施形態に係る受信装置の構成例について説明する。図12は、受信装置200の構成を示す模式図である。図12に示すように、受信装置200は、Demuxer202、デコーダ204、デフレーミング部206、スケーリング部208を備える。
また、図13は、受信装置200の各段階における映像データの構成を模式的に示す図である。図13に示すステージ(Stage)D1〜D3は、図12のD1〜D3とそれぞれ対応しており、図13において、D3はデコーダ204から出力されてデフレーミング部206へ入力されるデータを模式的に示している。また、図13において、D4は、デフレーミング部206から出力されてスケーリング部208へ入力されるデータを模式的に示している。また、D5は、スケーリング部208から出力されるデータを模式的に示している。
以下、受信装置200におけるデータ処理について詳細に説明する。図13の上段は、映像データがプログレッシブの場合において、映像信号が60Hzで送信された場合(60p)を示している。換言すれば、図13の上段は、図10の処理の結果、送信装置100から送信された映像データを受信して、プログレッシブ画像を出力する場合を示している。また、図13の下段は、映像データがプログレッシブの60Hzで送信された場合(60i)、または映像データがプログレッシブの30Hzで送信された場合に、インターレースの映像信号を出力する場合を示している。換言すれば、図13の下段は、図10の処理の結果、送信装置100から送信された映像データを受信して、インタレース画像を出力する場合を示している。
Demuxer202は、送信装置100から送られた映像データ、音声データ、字幕データ等を受信する。Demuxer202では、受信した映像データ、音声データ、字幕データ等を分離し、映像データをデコーダ204へ送る。デコーダ204は、入力された映像データをデコードする。これにより、図13に示すD3のデータが得られる。
先ず、受信装置200において、受信した60Hzのプログレッシブ画像(60p)をプログレッシブ画像としてデコードする場合について説明する。図13の上段に示すように、デコーダ204で復号されて得られたステージD3のデータは、1920×1080ピクセルのデータであり、図10のステージE3のデータと同一である。すなわち、ステージD3のデータは、上半分の1920×540ピクセルが左目用映像Lのデータであり、下半分の1920×540ピクセルが右目用映像Rのデータである。また、左目用映像L及び右目用映像Rのそれぞれにおいて、1920×540ピクセルの右半分のデータは、フレームペアの片方のフレームとの間でデータスワップが行われている。
デコーダ204からの出力がデフレーミング部206へ入力されると、デフレーミング部206では、1920×1080ピクセルのデータを左目用映像Lと右目用映像Rとに分離し、更に、2つ連続するフレーム間(フレームペア間)において右半分のデータを互いにスワップする。
更に、デフレーミング部206では、スワップ後の1920×540ピクセルのデータのそれぞれについて、左半分のデータの1行おきに右半分のデータを1行ずつ挿入する処理を行う。つまり、ここでは、図3で説明した3.Framing (V-H Repositioned)と逆の処理を行う。これにより、960×1080ピクセルのデータが得られ、このデータは、スケーリング部208へ送られる。
スケーリング部208では、960×1080ピクセルの各データに対して、水平方向の補間処理を行う。すなわち、ここでは、図3で説明したサブサンプリングと逆の処理を行う。これにより、左目用映像L、右目用映像Rのそれぞれについて、元の1920×1080ピクセルのデータが得られる。
以上のように、プログレッシブの映像信号が入力された場合に、受信装置200がプログレッシブ画像に対応可能な機器である場合は、デフレーミング部206にて、左右の映像を分離して得られた1920×540ピクセルのデータについて、フレームペアとなる前後のフレーム間でデータスワップを行う。これにより、送信装置100側でデータスワップが行われる前の状態に戻すことができる。そして、データスワップの後にスケーリング部208で補間処理を行うことにより、プログレッシブの60Hzの映像信号(60p)を得ることができる。つまり、60p符号化されたstream を読む60pデコーダの出力データは、Frame-pairの1st frameと2nd frameとで、Odd Line Group同士をswapする。その後、各フレームで、Even Line GroupとOdd Line Groupで、各々の水平構成要素の画素が垂直方向に交互となるようマージし、水平垂直の画素を再構成する。そして、60pデコーダのシステムでは、frameごとに水平補間を行う。
次に、図13の下段に基づいて、送信装置100から送られた映像信号がプログレッシブの場合に、インターレースの映像信号を出力する場合について説明する。受信装置200がプログレッシブ画像に対応していない場合等においては、受信装置200は、受信した映像信号をインターレース画像の信号として得ることができる。
図13の下段に示すように、インターレースの映像信号を出力する場合、デコーダ204では、入力された映像信号の1フレーム毎にはデコードを行わず、1フレームおきにデコードを行う。このため、図13の下段のステージD3のデータに示すように、デコードが行われた1920×1080ピクセルの第1フレームはデコードが行われるが、60Hzの周波数で時系列的に続く第2フレームはデコードが行われない。従って、第2フレームのデータは受信装置200には取得されていない状態となる。
デコーダ204からの出力がデフレーミング部206へ入力されると、デフレーミング部206では、デコードされた1920×1080ピクセルのデータを左目用映像Lと右目用映像Rとに分離する。更に、左目用映像Lと右目用映像Rのそれぞれにおいて、1920×540ピクセルのデータの右半分のデータを60Hzの周波数で次に続く1フレーム後のフレームに移動する。図10で説明したように、送信装置100から送信されたデータは、フレームペア間でスワップされているため、第1フレーム(1st Frame)の中に、60Hzの周波数で隣接するインターレースのフレームにした場合のデータが集約されている。このため、図13の下段のステージD4において、1960×540ピクセルのデータフレームの左半分はインターレースのトップフレームのデータに相当し、右半分はボトムフレームのデータに相当する。従って、1920×540ピクセルのデータフレームの右半分を60Hzの周波数で時間的に隣接する1つ後ろのフレームに移動することで、インターレースのトップフィールドとボトムフィールドのデータを得ることができる。なお、この状態では、図13の下段のステージD4に示すように、トップフィールドとボトムフィールドの各フレームは960×540ピクセルとなる。
スケーリング部208では、デフレーミング部206から入力された960×540ピクセルの各データに対して、水平方向の補間処理を行う。これにより、左目用映像L、右目用映像Rのそれぞれについて、インターレースのトップフィールドとボトムフィールドに相当する2つの1920×540ピクセルのデータフレームが得られる。ここで得られたデータフレームは、インターレースの映像信号であるため、隣接する2つのフレーム(トップフィールド、ボトムフィールド)により1フレームの画像が構成されることになる。
このように、受信装置200がプログレッシブに対応していな場合は、受信装置200側でデコードを1フレームおきに行い、左右の映像信号の1920×540ピクセルのデータを水平方向に分割して前後のフレームに振り分けることにより、インターレースの映像信号を得ることが可能となる。
また、受信装置200が30Hzのプログレッシブ画像を受信した場合の処理は、上述した図13の下段と同様の処理を行う。送信装置100から送られた映像信号がプログレッシブの30Hzの場合は、プログレッシブの60Hzと比べてデータ数が1/2になるため、1フレームおきにデコードを行う必要がなく、全てのフレームをデコードする。つまり、60p符号化されたstreamを読む30pデコーダあるいは60iデコーダの出力データは、Odd Line Groupの表示タイミングを1/2 Frame周期遅らせて表示するか、あるいはinterlaceのbottom field表示用のバッファへ移すようにする。このように、30pデコーダは、Frame-pairの片方のみデコードし、60pデコーダは、Frame-pairのすべてのフレームをデコードする。また、30pデコーダのシステムでは、interlaceのfieldごとに水平補間を行う。また、必要に応じ適宜垂直方向にフィルタを掛けることも可能である。
図14は、インターレースの60Hzの映像信号(60i)を受信装置200が受信した場合に、受信装置200側でインターレースの映像信号としてデコードを行う場合を示している。換言すれば、図14は、図11の処理の結果、送信装置100から送信された映像データを受信して、インターレース画像を出力する場合を示している。この場合は、図2の下段又は図11で説明した処理と逆の処理を行う。すなわち、デフレーミング部204では、デコーダ204から出力された1920×540ピクセルの左右の映像データを分離し(ステージD4)、1920×270ピクセルのデータについて、右側のデータを2行ずつ左側のデータの2行おきに挿入して、960×540ピクセルのデータを得る。その後、スケーリング部206で水平方向に補間処理を行い、左右映像のそれぞれについて、1920×540ピクセルの2つのフレーム(トップフィールド、ボトムフィールド)を得る。このように、60i符号化されたstreamを読む60iデコーダの出力データは、Even Line GroupとOdd Line Groupとの間で、各々の水平構成要素の画素が垂直方向に交互になるよう2水平ラインごとにマージし、水平垂直画素を再構成する。
以上のような送信装置100と受信装置200から構成されるシステムによれば、プログレッシブ画像とインターレース画像の互換性を確保することができる。従って、送信装置100から送信する画像がプログレッシブ、インターレースのいずれの場合においても、受信装置200は、自身がプログレッシブ対応か、またはインターレース対応かに応じて、受信した映像信号をプログレッシブまたはインターレースの映像信号として取得することができる。なお、受信装置200がプログレッシブ対応の場合、通常はインターレースにも対応するため、図13、図14に示す全ての処理が可能である。
上述したように、送信装置100からは、プログレッシブ画像の場合、図10の右側に示す左右の映像データがエンコードされて受信装置200に送信される。また、送信装置100からは、インターレース画像の場合、図11の右側に示す映像データがエンコードされて受信装置200に送信される。
受信装置200では、受信した映像信号からプログレッシブ画像かインターレース画像かを判定し、またフレームの周波数を取得して、図13の上段若しくは下段の処理、または図14の処理を行う。以下では、受信装置200側で、いずれの処理を行うかを決定する手法について説明する。
送信装置100は、アクセスユニット(Access Unit)単位、すなわちピクチャ(picture)単位でScalable_Frame情報をSEI(Supplement Enhancement
Information:補助情報)で伝送する。60Hzのフレームを2フレームごとにペア(pair)とし、1番目のフレーム(1st frame)と2番目のフレーム(2nd frame)とで、インターレースのフレームを前提としたフレームペア(Frame-Pair)構成とする。
図15は、60p/60i Scalabilityのシグナリングシンタクスを示す模式図である。図15に示すように、映像データがプログレッシブの場合は、プログレッシブフレームフラグ(progressive_frame_flag)が“1”とされる。従って、受信装置200側では、プログレッシブフレームフラグを確認することにより、送られてきたデータがプログレッシブかインターレースかを判別することができ、判別の結果に応じて、図13の上段若しくは下段、または図14のいずれかの処理を行うことができる。
また、図15に示すように、プログレッシブフレームフラグが“1”の場合、更に1st_frame_indicatorにより、現在(カレント)のフレームが1st_frameであるか否かが指定される。また、Alternative_frame_pair_indicatorにより、別のフレームが次のフレームであるか否かが示される。
以上のように、送信装置100では、図15に示す各フラグを設定して映像信号に挿入する。受信装置200は、フラグを識別することにより、プログレッシブ、インターレースのそれぞれに応じたフレーミングの処理を実行する。これにより、プログレッシブ、インターレースのコンパチビリティーを確保することが可能となる。
本実施形態に係る手法は、3Dの映像信号のみならず、2Dの映像信号にも適用することができる。図16は、送信装置100側で2Dの映像信号を処理する場合を示す模式図である。図16は、1920×1080ピクセルの各フレームからなるハイビジョン(HDD)の2Dの映像信号について、処理を行った例を示す模式図である。
図16に示すように、2Dの映像信号の場合は、サブサンプリングを行うことなく、フレーミング部104での処理を行う。フレーミング部104では、1フレーム毎ごとに1水平ラインを単位として、奇数ラインを右側に移動し、1920×540ピクセルのEven Line Groupと、Odd Line Groupとにグループ分けが行われる。そして、フレームペア(Frame−pair)を構成する第1フレーム(1st Frame)と第2フレーム(2nd Frame)のフレーム間でOdd Line Group同士を交換(swap)する。これにより、プログレッシブのフォレームペアのうち、第1フレーム(1st Frame)の中に、インターレースのフレームにした場合の全構成要素を集中させることができる。従って、インターレースのデコードを行った場合に、第1フレームのみをデコードすることでインターレースのトップフレームとボトムフレームの双方を構成することができる。
データスワップを行って得られた1920×1080ピクセルのデータは、エンコーダ106へ入力される。エンコーダ106は、1920×1080ピクセルのデータをフレーム毎にエンコードし、受信装置200へ送信する。
受信装置200では、プログレッシブ画像として出力する場合は、図13の上段で説明した場合と同様に、デコーダ204の出力に対してデフレーミング部208にてデータスワップを行う。また、プログレッシブ画像として出力する場合は、図13の下段で説明した場合と同様に、1フレームおきにデコードを行い、1920×1080ピクセルのデータのうち、Even Line Groupを現フレームのデータとし、Odd Line Groupを次に続く1フレーム後のフレームに移動する。なお、プログレッシブ、インターレースのいずれの場合においても、送信装置100側でサブサンプリングを行っていないため、スケーリング部208による処理は不要である。
図17は、図13の下段の処理を行った場合に、受信装置200での制約を示す模式図である。図17に示すような符号化ストリームに対して、デコーダでは、60P対応デコーダは、Frame-pairを全部デコードする。30pデコーダは、Frame-pairのうち、上図偶数番pictureのみをデコードし、奇数番pictureはデコードせずに次のFrame-pairの偶数番picture をサーチし、然るべきタイミングでそれをデコードする。
図17において、偶数番pictureは次の奇数番pictureとでFrame-Pairを構成する。エンコーダ204では、このFrame-pairのうち、上図偶数番picture(図17中にハッチングでマークを付したもの)は時間予測を行う際、偶数番pictureのみ参照可能とする。奇数番pictureに対しては、参照可能pictureに制限はない。尚、B pictureの適用や参照フレーム数の上限値に関しては、MPEG規格などに準拠する。
以上説明したように第1の実施形態によれば、3D伝送の際、水平方向にサンプリングを行うので、縦方向解像度はソース画レベルの高解像度を維持することができる。また、インターレースの画像において、Side-by-Sideと同等の画質を得ることが可能となる。更に、画素レベルでL/Rが混在する方式(Checker Board等)と比較すると、隣接画素の相関度を維持することができるため、符号化効率を大幅に高めることが可能となる。
<2.第2の実施形態>
次に、本発明の第2の実施形態について説明する。第2の実施形態は、第1の実施形態の手法によりフレーミングが行われた映像データについて、データの所定範囲を指定して所望の映像を視聴者に提供するものである。
第1の実施形態で説明したように、送信装置100では、スケーリング部102及びフレーミング部104の処理により、プログレッシブ画像、インターレース画像をそれぞれエンコードする。図18は、送信装置100から送信され、受信装置200のデコーダ202でデコードされた映像データを示す模式図である。
図18は、デコーダ202でデコードされたフレームペアを示しており、図13の上段若しくは下段の最も左に位置するデータ、または図14の最も左に位置するデータに対応する。
第1の実施形態で説明したスケーリング部102及びフレーミング部104の処理により、図18に示すデータの異なる領域を指定することで、異なる映像データを選択することができる。
以下、詳細に説明すると、先ず、図18に示すフレームペアがプログレッシブの第1のフレーム及び第2フレームの場合、受信装置200側で領域Aのデータを指定すると、プログレッシブの左目用映像Lのみを取得することができる。また、領域Bのデータを指定すると、プログレッシブの右目用映像Rのみを取得することができる。
また、図18に示すフレームが、インターレースのフレームの場合、すなわち、図13の下段の最も左側に示すフレームの場合は、受信装置200側で領域Cのデータを指定すると、インターレースのトップフィールドの左右の映像を取得することができる。また、領域Dのデータを指定すると、インターレースのボトムフィールドの左右の映像を取得することができる。
また、図18に示すフレームが、インターレースのフレームの場合、受信装置200側で領域Eのデータを指定すると、インターレースの左右の映像を取得することができる。更に、図18に示すフレームが、インターレースのフレームの場合は、受信装置200側で領域Eのデータを指定すると、通常の半分の解像度で左目用画像Lを取得することができる。
送信装置100は、受信装置200が図18に示す適切な領域を選択できるように、領域を示す識別情報を受信装置200へ送信する。この際、識別情報は、送信装置100のフレーミング部104において映像信号の中に挿入される。また、受信装置200側では、デフレーミング部206において映像信号の中から識別情報が抽出され、取得される。図19及び図20は、識別情報の一例を示す模式図である。図19及び図20に示す情報もSEIのユーザデータで伝送することができる。
図19及び図20の例では、図18に示す各フレームにおいて、始点(Start position)と終点(end position)のx座標及びy座標が指定されることにより、図18に示す領域A〜Fのいずれかを指定することが可能である。従って、送信装置100側で所望の範囲を指定する識別情報をユーザデータに挿入することにより、受信装置200側では、識別情報に基づいて指定された範囲の映像を取得することが可能となる。
以上説明したように第2の実施形態によれば、プログレッシブとインターレースのいずれかの映像データのフレーム内の領域を指定することで、所望の映像を取得することが可能となる。
以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
100 送信装置
102 フレーミング部
106 エンコーダ部
200 受信装置
204 デコーダ部
206 フレーミング部

Claims (15)

  1. フレーム単位で取得した映像信号について、フレーム内の垂直方向において所定のライン毎にデータを抜き出して、フレーム内の当該データが抜き出された領域と隣接し、縦横の画素数が当該データが抜き出された領域と同一である別の領域に配置して出力するフレーミング部と、
    前記映像信号を受信装置へ送信するため、前記フレーミング部からの出力をエンコードするエンコード部と、を備え、
    前記フレーミング部は、1つのフレームにより1つの映像が構成されるプログレッシブ画像対応の場合、前記別の領域に配置したデータ同士を前後のフレーム間で交換して出力し、連続する2つのフレームにより1つの映像が構成されるインターレース画像対応の場合、前記交換を行うことなく出力する、送信装置。
  2. 前記映像信号は、立体画像を構成する左目用映像又は右目用映像の信号である、請求項1に記載の送信装置。
  3. 前記フレーミング部は、前記所定のライン毎にデータを抜き出してフレーム内の別の領域に配置した後、時系列に対応する左目用映像のデータと右目用映像のデータを合体して1つのフレームとして出力する、請求項2に記載の送信装置。
  4. 前記フレーミング部は、プログレッシブ画像対応の場合、垂直方向の1行おきにデータを抜き出して前記別の領域に配置して出力する、請求項1に記載の送信装置。
  5. 前記フレーミング部は、インターレース画像対応の場合、垂直方向の2行を1組として、1組おきにデータを抜き出して前記別の領域に配置して出力する、請求項1に記載の送信装置。
  6. 前記フレーミング部の前段に、前記映像信号を水平方向にサブサンプリングするスケーリング部を備える、請求項1に記載の送信装置。
  7. 前記左目用映像のデータと右目用映像のデータとが合体されたフレームのデータについて、フレーム内の任意の領域を指定するための情報を挿入する領域指定部を備える、請求項2に記載の送信装置。
  8. 送信装置から送信されてフレーム単位で取得した映像信号をデコードするデコード部と、
    フレーム内の第1の領域のデータに対して、前記第1の領域と隣接し、縦横の画素数が前記第1の領域と同一である第2の領域のデータを所定のライン毎に挿入して出力するフレーミング部と、を備え、
    前記フレーミング部は、
    1つのフレームにより1つの映像が構成されるプログレッシブ画像対応の場合は、フレーム内の前記第2の領域に配置されたデータ同士を前後のフレーム間で交換した後、フレーム内の前記第1の領域のデータに対して前記第1の領域のデータを所定のライン毎に挿入し、
    連続する2つのフレームにより1つの映像が構成されるインターレース画像対応の場合は、フレーム内の前記第1の領域に配置されたデータを現フレームのデータとして出力し、前記第2の領域に配置されたデータを次のフレームのデータとして出力する、受信装置。
  9. 前記フレーム単位で取得した映像信号は、立体画像を構成する左目用映像及び右目用映像が各フレーム内の所定領域に配置された映像信号であり、
    前記フレーミング部は、各フレームについて前記左目用映像及び右目用映像を分離した後、フレーム内の第1の領域のデータに対して第2の領域のデータを所定のライン毎に挿入する、請求項8に記載の受信装置。
  10. 前記フレーミング部の後段に、前記映像信号を水平方向にサブサンプリングするスケーリング部を備える、請求項8に記載の受信装置。
  11. 前記フレーミング部は、プログレッシブ画像対応の場合、第2の領域のデータの行間に前記第1の領域のデータを1行ずつ挿入する、請求項8に記載の送信装置。
  12. 前記フレーミング部は、インターレース画像対応の場合、第2の領域のデータの2行ずつの行間に前記第1の領域のデータを2行ずつ挿入する、請求項8に記載の送信装置。
  13. フレーム単位で取得した映像信号について、フレーム内の垂直方向において所定のライン毎にデータを抜き出して、フレーム内の当該データが抜き出された第1の領域と隣接し、縦横の画素数が前記第1の領域と同一である第2の領域に配置して出力する第1のフレーミング部と、
    前記映像信号を受信装置へ送信するため、前記第1のフレーミング部からの出力をエンコードするエンコード部と、を有し、
    前記第1のフレーミング部は、1つのフレームにより1つの映像が構成されるプログレッシブ画像対応の場合、前記第2の領域に配置したデータ同士を前後のフレーム間で交換して出力し、連続する2つのフレームにより1つの映像が構成されるインターレース画像対応の場合、前記交換を行うことなく出力する、送信装置と、
    前記送信装置から送信されてフレーム単位で取得した映像信号をデコードするデコード部と、
    前記デコードにより得られたフレーム内の前記第1の領域のデータに対して前記第2の領域のデータを所定のライン毎に挿入して出力する第2のフレーミング部と、を有し、
    前記第2のフレーミング部は、
    プログレッシブ画像対応の場合は、フレーム内の前記第2の領域に配置されたデータ同士を前後のフレーム間で交換した後、フレーム内の前記第1の領域のデータに対して前記第1の領域のデータを所定のライン毎に挿入し、
    インターレース画像対応の場合は、フレーム内の前記第1の領域に配置されたデータを現フレームのデータとして出力し、前記第2の領域に配置されたデータを次のフレームのデータとして出力する、受信装置と、
    を備える通信システム。
  14. フレーム単位で取得した映像信号について、フレーム内の垂直方向において所定のライン毎にデータを抜き出して、フレーム内の当該データが抜き出された領域と隣接し、縦横の画素数が当該データが抜き出された領域と同一である別の領域に配置して出力し、1つのフレームにより1つの映像が構成されるプログレッシブ画像対応の場合、前記別の領域に配置したデータ同士を前後のフレーム間で交換して出力し、連続する2つのフレームにより1つの映像が構成されるインターレース画像対応の場合、前記交換を行うことなく出力する手段、
    前記映像信号を受信装置へ送信するため、前記出力をエンコードする手段、
    としてコンピュータを機能させるためのプログラム。
  15. 送信装置から送信されてフレーム単位で取得した映像信号をデコードする手段、
    フレーム内の第1の領域のデータに対して、前記第1の領域と隣接し、縦横の画素数が前記第1の領域と同一である第2の領域のデータを所定のライン毎に挿入して出力し、1つのフレームにより1つの映像が構成されるプログレッシブ画像対応の場合は、フレーム内の前記第2の領域に配置されたデータ同士を前後のフレーム間で交換した後、フレーム内の前記第1の領域のデータに対して前記第1の領域のデータを所定のライン毎に挿入し、連続する2つのフレームにより1つの映像が構成されるインターレース画像対応の場合は、フレーム内の前記第1の領域に配置されたデータを現フレームのデータとして出力し、前記第2の領域に配置されたデータを次のフレームのデータとして出力する手段、
    としてコンピュータを機能させるためのプログラム。
JP2009224013A 2009-09-29 2009-09-29 送信装置、受信装置、通信システム及びプログラム Expired - Fee Related JP5375490B2 (ja)

Priority Applications (7)

Application Number Priority Date Filing Date Title
JP2009224013A JP5375490B2 (ja) 2009-09-29 2009-09-29 送信装置、受信装置、通信システム及びプログラム
US12/807,791 US8896663B2 (en) 2009-09-29 2010-09-14 Transmitting device, receiving device, communication system and program
KR20100090354A KR20110035895A (ko) 2009-09-29 2010-09-15 송신 장치, 수신 장치, 통신 시스템 및 프로그램
EP20100177805 EP2302943A3 (en) 2009-09-29 2010-09-21 Transmitting device, receiving device, communication and system and program
BRPI1004245-8A BRPI1004245A2 (pt) 2009-09-29 2010-09-22 dispositivo de transmissço, dispositivo de recepÇço, e, sistema de comunicaÇço
RU2010139093/07A RU2010139093A (ru) 2009-09-29 2010-09-22 Передающее устройство, приемное устройство, система связи и программа
CN201010294296.4A CN102036085B (zh) 2009-09-29 2010-09-25 发送装置、接收装置、通信系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009224013A JP5375490B2 (ja) 2009-09-29 2009-09-29 送信装置、受信装置、通信システム及びプログラム

Publications (2)

Publication Number Publication Date
JP2011077599A JP2011077599A (ja) 2011-04-14
JP5375490B2 true JP5375490B2 (ja) 2013-12-25

Family

ID=43064708

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009224013A Expired - Fee Related JP5375490B2 (ja) 2009-09-29 2009-09-29 送信装置、受信装置、通信システム及びプログラム

Country Status (7)

Country Link
US (1) US8896663B2 (ja)
EP (1) EP2302943A3 (ja)
JP (1) JP5375490B2 (ja)
KR (1) KR20110035895A (ja)
CN (1) CN102036085B (ja)
BR (1) BRPI1004245A2 (ja)
RU (1) RU2010139093A (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9007435B2 (en) * 2011-05-17 2015-04-14 Himax Technologies Limited Real-time depth-aware image enhancement system
US9800825B2 (en) * 2015-03-02 2017-10-24 Chih-Ta Star Sung Semiconductor display driver device, mobile multimedia apparatus and method for frame rate conversion
JP7321685B2 (ja) * 2018-08-22 2023-08-07 キヤノン株式会社 撮像装置

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06284392A (ja) * 1993-03-30 1994-10-07 Toshiba Corp 映像信号送受信装置
JPH0870475A (ja) * 1994-06-23 1996-03-12 Sanyo Electric Co Ltd 立体動画像の符号化・復号化方法及び装置
US5767898A (en) 1994-06-23 1998-06-16 Sanyo Electric Co., Ltd. Three-dimensional image coding by merger of left and right images
JP3066298B2 (ja) 1995-11-15 2000-07-17 三洋電機株式会社 立体画像観察用眼鏡の制御方法
JP3784967B2 (ja) 1998-07-21 2006-06-14 日本放送協会 立体画像表示方法および装置
JP2002359833A (ja) * 2001-03-27 2002-12-13 Hitachi Ltd データ通信システムおよび送信装置、通信端末
JP2003045343A (ja) 2001-08-03 2003-02-14 Nippon Hoso Kyokai <Nhk> 立体画像表示装置
JP4467224B2 (ja) * 2002-04-01 2010-05-26 富士フイルム株式会社 画像送受信システム、画像送信装置並びに画像受信装置
JP4154569B2 (ja) * 2002-07-10 2008-09-24 日本電気株式会社 画像圧縮伸長装置
JP4406914B2 (ja) * 2003-04-30 2010-02-03 日本電気株式会社 立体画像圧縮装置及び立体画像伸長装置
JP2005079793A (ja) * 2003-08-29 2005-03-24 Nec Corp 画像通信方法、画像通信システム、画像送信装置および画像受信装置
JPWO2007066710A1 (ja) * 2005-12-07 2009-05-21 ソニー株式会社 符号化装置、符号化方法および符号化プログラム、ならびに、復号装置、復号方法および復号プログラム
JP4825561B2 (ja) * 2006-03-29 2011-11-30 株式会社東芝 画像表示装置
GB0613352D0 (en) * 2006-07-05 2006-08-16 Ashbey James A Improvements in stereoscopic imaging systems
CN101193261B (zh) * 2007-03-28 2010-07-21 腾讯科技(深圳)有限公司 一种视频通信系统及方法

Also Published As

Publication number Publication date
US20110074920A1 (en) 2011-03-31
CN102036085A (zh) 2011-04-27
JP2011077599A (ja) 2011-04-14
EP2302943A3 (en) 2013-09-18
RU2010139093A (ru) 2012-03-27
CN102036085B (zh) 2015-01-07
US8896663B2 (en) 2014-11-25
KR20110035895A (ko) 2011-04-06
EP2302943A2 (en) 2011-03-30
BRPI1004245A2 (pt) 2013-01-08

Similar Documents

Publication Publication Date Title
US11012680B2 (en) Process and system for encoding and playback of stereoscopic video sequences
US7746931B2 (en) Moving picture encoding apparatus and method, moving picture decoding apparatus and method
JP5482254B2 (ja) 受信装置、送信装置、通信システム、表示制御方法、プログラム、及びデータ構造
US20090315979A1 (en) Method and apparatus for processing 3d video image
KR20070041745A (ko) 비디오 정보를 전송하기 위한 시스템 및 방법
US20140078248A1 (en) Transmitting apparatus, transmitting method, receiving apparatus, and receiving method
US9088777B2 (en) Methods and systems for processing stereoscopic video data
US20140168366A1 (en) Encoding device and encoding method, and decoding device and decoding method
US9723259B2 (en) Apparatus and method for adding synchronization information to an auxiliary data space in a video signal and synchronizing a video
JP5238528B2 (ja) 符号化装置および方法、ならびに、復号装置および方法
JP5375490B2 (ja) 送信装置、受信装置、通信システム及びプログラム
US9693033B2 (en) Transmitting apparatus, transmitting method, receiving apparatus and receiving method for transmission and reception of image data for stereoscopic display using multiview configuration and container with predetermined format
EP2309766A2 (en) Method and system for rendering 3D graphics based on 3D display capabilities
JP2007312407A (ja) 立体画像表示装置およびその方法
JP5928118B2 (ja) 送信装置、送信方法、受信装置および受信方法
JP2003319417A (ja) 立体画像作成装置、立体画像表示装置およびそれらの方法
JP5250158B2 (ja) 符号化装置・方法
JP2013168982A (ja) 符号化装置および方法、ならびに、復号装置および方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120924

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130416

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130430

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130624

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130709

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130809

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130827

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130909

LAPS Cancellation because of no payment of annual fees