JP2012235383A - エンコーダ、デコーダ、エンコーダシステム、デコーダシステム、伝送アダプタ、エンコード方法、デコード方法、および撮像装置 - Google Patents

エンコーダ、デコーダ、エンコーダシステム、デコーダシステム、伝送アダプタ、エンコード方法、デコード方法、および撮像装置 Download PDF

Info

Publication number
JP2012235383A
JP2012235383A JP2011103579A JP2011103579A JP2012235383A JP 2012235383 A JP2012235383 A JP 2012235383A JP 2011103579 A JP2011103579 A JP 2011103579A JP 2011103579 A JP2011103579 A JP 2011103579A JP 2012235383 A JP2012235383 A JP 2012235383A
Authority
JP
Japan
Prior art keywords
image
unit
component
transmission
channel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2011103579A
Other languages
English (en)
Inventor
Hiroshi Arai
洋 新井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2011103579A priority Critical patent/JP2012235383A/ja
Priority to US13/456,664 priority patent/US8774539B2/en
Priority to CN2012101368844A priority patent/CN102780881A/zh
Publication of JP2012235383A publication Critical patent/JP2012235383A/ja
Withdrawn legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/65Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using error resilience
    • H04N19/66Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using error resilience involving data partitioning, i.e. separation of data into packets or partitions according to importance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/161Encoding, multiplexing or demultiplexing different image signal components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/172Processing image signals image signals comprising non-image signal components, e.g. headers or format information
    • H04N13/178Metadata, e.g. disparity information
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/194Transmission of image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/33Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability in the spatial domain
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/37Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability with arrangements for assigning different transmission priorities to video input data or to video coded data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/587Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal sub-sampling or interpolation, e.g. decimation or subsequent interpolation of pictures in a video sequence
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/59Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/63Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/89Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Library & Information Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

【課題】次世代ハイビジョン映像のシステム環境の実現に寄与し得るエンコーダなどを提供する。
【解決手段】 このエンコーダは、画像を入力し、この入力された画像を、互いに結合することにより復元可能な、モニタリング画像として利用可能な第1の成分とその他の第2の成分とに周波数分解によって分解する画像分解部と、前記分解された前記第1の成分を第1のチャンネルの伝送画像として出力する第1の伝送部と、前記第2の成分を圧縮符号化する圧縮符号化部と、前記圧縮符号化された第2の成分を第2のチャンネルの伝送画像として出力する第2の伝送部とを具備する。
【選択図】図1

Description

本技術は、画像を圧縮符号化して伝送するエンコーダ、圧縮符号化された画像を復号するデコーダ、複数のエンコーダで構成されるエンコーダシステム、複数のデコーダで構成されるデコーダシステム、エンコーダに接続されて用いられる伝送アダプタ、エンコード方法、デコード方法、およびエンコーダ内蔵型の撮像装置に関する。
地上デジタル放送への移行に伴いデジタルハイビジョン放送が急速に普及しつつある。さらに、近年では、3Dハイビジョン映像の放送も一般的なものとなっている。3Dハイビジョン映像の伝送は、例えば、同期した2台のハイビジョンカメラで撮影された左右2本の映像ストリームをデジタルハイビジョン放送の2チャンネルを使って同期伝送することなどによって実現される(特許文献1参照)。
また、現在のハイビジョンデータは1920×1080画素の画像として規定されているが、さらに高解像度の約4000×2000画素からなる4K画像や約8000×4000画素からなる8K画像などの超高解像度ハイビジョン映像、ウルトラスローモーションに対応するために例えば120fps、240fpsといった超高速ハイビジョン映像、複数のHDVカメラで撮影されたハイビジョン映像のスティッチングによる広角映像などの次世代ハイビジョン映像技術が登場してきている。
特開2004−266497号公報(段落[0013]、図1)
現在の放送現場においてはハイビジョン映像を対象としたシステム環境が主流であるのに対し、今後、超高解像度ハイビジョン、超高速ハイビジョン、広角ハイビジョンなどの次世代ハイビジョン映像へのシステム環境への移行が検討されることが必至と思われる。しかしながら、次世代ハイビジョン映像のシステム環境への移行には膨大なコストがかかることが予測され、実現が先送りされる懸念がある。
以上のような事情に鑑み、本技術の目的は、次世代ハイビジョン映像のシステム環境の実現に寄与し得るエンコーダ、デコーダ、エンコーダシステム、デコーダシステム、エンコード方法、デコード方法、伝送アダプタおよび撮像装置を提供することにある。
上記の課題を解決するために、本技術に係るエンコーダは、
画像を入力し、この入力された画像を、互いに結合することにより復元可能な、モニタリング画像として利用可能な第1の成分とその他の第2の成分とに周波数分解によって分解する画像分解部と、
前記分解された前記第1の成分を第1のチャンネルの伝送画像として出力する第1の伝送部と、
前記第2の成分を圧縮符号化する圧縮符号化部と、前記圧縮符号化された第2の成分を第2のチャンネルの伝送画像として出力する第2の伝送部とを具備する。
このエンコーダは、前記第1の成分にモニタリング用の補助画像を付加する補助画像付加部と、前記補助画像の付加された前記第1の成分を前記モニタリング画像として出力する出力部とをさらに具備するものであってよい。
このエンコーダは、前記圧縮符号化された第2の成分の容量を解析して解析結果を可視情報として出力する圧縮解析部をさらに具備するものであってもよい。
本技術の別の観点に基づくデコーダは、画像を入力し、この入力された画像を、互いに結合することにより復元可能な、モニタリング画像として利用可能な第1の成分とその他の第2の成分とに周波数分解によって分解する画像分解部と、
前記分解された前記第1の成分を第1のチャンネルの伝送画像として出力する第1の伝送部と、
前記第2の成分を圧縮符号化する圧縮符号化部と、
前記圧縮符号化された第2の成分を第2のチャンネルの伝送画像として出力する第2の伝送部と
を具備するエンコーダと組み合わせて用いることが可能なデコーダであって、
前記第1のチャンネルの伝送画像として伝送された前記第1の成分および前記第2のチャンネルの伝送画像として伝送された前記第2の成分をそれぞれ取得する画像取得部と、
前記取得した第2の成分を伸張復号する伸張復号部と、
前記取得した前記第1の成分と前記伸張復号された第2の成分とを結合して元の画像を復元する画像復元部と
を具備する。
上記のエンコーダおよびデコーダによれば、例えば現行の3D画像伝送システムなどのインフラをそのまま用いて、例えば4Kハイビジョン画像、8Kハイビジョン画像といった次世代の超高解像度画像の伝送を行うことができるとともに、カメラのモニターやビューファインダーにモニタリング画像を表示させることが可能になる。
本技術のさらに別の観点に基づくエンコーダは、
画像を入力し、この入力された画像を、互いに結合することにより復元可能な、モニタリング画像として利用可能な第1の成分と、その他の第2の成分とに分解する画像分解部であって、前記入力された画像からダウンコンバートによって前記モニタリング画像として利用可能なサイズの画像を前記第1の成分として生成するダウンコン部と、前記第1の成分を前記入力された画像のサイズまで画素拡大させた画像と前記入力された画像との差分を前記第2の成分として生成する第1の差分生成部と、を有する画像分解部と、
前記分解された前記第1の成分を第1のチャンネルの伝送画像として出力する第1の伝送部と、
前記第2の成分を圧縮符号化する圧縮符号化部と、
前記圧縮符号化された第2の成分を第2のチャンネルの伝送画像として出力する第2の伝送部と
を具備する。
本技術のさらに別の観点に基づくデコーダは、
画像を入力し、この入力された画像を、互いに結合することにより復元可能な、モニタリング画像として利用可能な第1の成分と、その他の第2の成分とに分解する画像分解部であって、前記入力された画像からダウンコンバートによって前記モニタリング画像として利用可能なサイズの画像を前記第1の成分として生成するダウンコン部と、前記第1の成分を前記入力された画像のサイズまで画素拡大させた画像と前記入力された画像との差分を前記第2の成分として生成する第1の差分生成部と、を有する画像分解部と、
前記分解された前記第1の成分を第1のチャンネルの伝送画像として出力する第1の伝送部と、
前記第2の成分を圧縮符号化する圧縮符号化部と、
前記圧縮符号化された第2の成分を第2のチャンネルの伝送画像として出力する第2の伝送部と
を具備するエンコーダと組み合わせて用いることが可能なデコーダであって、
前記第1のチャンネルの伝送画像として伝送された前記第1の成分および前記第2のチャンネルの伝送画像として伝送された前記第2の成分をそれぞれ取得する画像取得部と、
前記取得した第2の成分の伸張復号する伸張復号部と、
前記取得した前記第1の成分と前記伸張復号された第2の成分とを結合して元の画像を復元する画像復元部であって、前記第1の成分を画素拡大により拡大し、この拡大画像と前記伸張復号された第2の成分とを加算することによって前記元の画像を復元する画像復元部と
を具備する。
上記のエンコーダおよびデコーダによれば、例えば現行の3D画像伝送システムなどのインフラをそのまま用いて、例えば4Kハイビジョン画像、8Kハイビジョン画像といった次世代の超高解像度画像の伝送を良好に行うことができる。また、十分な高周波成分が含まれたモニタリング画像として得られるので、フォーカス調整など、画像の精細度が求められるカメラ調整を良好に行うことができる。
本技術のさらに別の観点に基づくエンコーダは、
モニタリングのフレームレートより高いフレームレートで順次撮影された複数のフレームで構成される画像を入力し、この入力された画像を、互いに結合することにより復元可能な、モニタリング画像として利用可能な第1の成分と、その他の第2の成分とに分解する画像分解部であって、前記入力画像の前記複数のフレームから前記モニタリングのフレームレートでフレームをモニタリングフレームとして分離して前記第1の成分を生成するフレーム分離部と、前記入力画像の各フレームそれぞれを周波数分解によって低周波成分と高周波成分に分解する周波数分解部と、前記分解された各フレームそれぞれの低周波成分について、前記モニタリングフレームと、このモニタリングフレームから次のモニタリングフレームまでの間の1以上のフレームである非モニタリングフレームとのそれぞれの差分を前記第2の成分として生成する差分生成部と、を有する画像分解部と、
前記分解された前記第1の成分を第1のチャンネルの伝送画像として出力する第1の伝送部と、
前記第2の成分を圧縮符号化する圧縮符号化部と、
前記圧縮符号化された第2の成分を第2のチャンネルの伝送画像として出力する第2の伝送部と
を具備する。
本技術のさらに別の観点に基づくデコーダは、
モニタリングのフレームレートより高いフレームレートで順次撮影された複数のフレームで構成される画像を入力し、この入力された画像を、互いに結合することにより復元可能な、モニタリング画像として利用可能な第1の成分と、その他の第2の成分とに分解する画像分解部であって、前記入力画像の前記複数のフレームから前記モニタリングのフレームレートでフレームをモニタリングフレームとして分離して前記第1の成分を生成するフレーム分離部と、前記入力画像の各フレームそれぞれを周波数分解によって低周波成分と高周波成分に分解する周波数分解部と、前記分解された各フレームそれぞれの低周波成分について、前記モニタリングフレームと、このモニタリングフレームから次のモニタリングフレームまでの間の1以上のフレームである非モニタリングフレームとのそれぞれの差分を前記第2の成分として生成する差分生成部と、を有する画像分解部と、
前記分解された前記第1の成分を第1のチャンネルの伝送画像として出力する第1の伝送部と、
前記第2の成分を圧縮符号化する圧縮符号化部と、
前記圧縮符号化された第2の成分を第2のチャンネルの伝送画像として出力する第2の伝送部と
を具備するエンコーダと組み合わせて用いることが可能なデコーダであって、
前記第1のチャンネルの伝送画像として伝送された前記第1の成分および前記第2のチャンネルの伝送画像として伝送された前記第2の成分をそれぞれ取得する画像取得部と、
前記取得した第2の成分の伸張復号する伸張復号部と、
前記取得した前記第1の成分と前記伸張復号された第2の成分とを結合して元の画像を復元する画像復元部であって、前記取得した第1の成分を周波数分解によって低周波成分と高周波成分に分解する周波数分解部と、前記分解された低周波成分と前記伸張復号された第2の成分とから前記非モニタリングフレームの低周波成分を復元する差分復元部と、前記復元された低周波成分と前記第2の成分に含まれる高周波成分とから周波数逆分解によって前記非モニタリングフレームを復元する周波数逆分解部と、前記第2の画像取得部により取得された前記第1の成分であるモニタリングフレームと前記周波数逆分解部により復元された1以上の非モニタリングフレームとを連結するフレーム連結部と、を有する画像復元部と
を具備する。
上記のエンコーダおよびデコーダによれば、例えば現行の3D画像伝送システムなどのインフラをそのまま用いて、現行のシステムのモニタリングのフレームレートより高いフレームレートを有する超高速ハイビジョン画像を伝送することができる。また、カメラのモニターやビューファインダーにモニタリング画像を表示させることも可能になる。
本技術のさらに別の観点に基づくエンコーダは、
立体画像を構成するために異なる視点で撮影された複数のフレームで構成される画像を入力し、この入力された画像を、互いに結合することにより復元可能な、モニタリング画像として利用可能な第1の成分と、その他の第2の成分とに分解する画像分解部であって、前記入力画像をフレーム毎に分離するフレーム分離部と、前記分離された各フレームをそれぞれ周波数分解により低周波成分と高周波成分に分解して、高周波成分を前記第2の成分として生成する周波数分解部と、前記各フレームについて前記分解された各低周波成分を結合して前記第1の成分を生成する結合部と、を有する画像分解部と、
前記分解された前記第1の成分を第1のチャンネルの伝送画像として出力する第1の伝送部と、
前記第2の成分を圧縮符号化する圧縮符号化部と、
前記圧縮符号化された第2の成分を第2のチャンネルの伝送画像として出力する第2の伝送部と
を具備する。
本技術のさらに別の観点に基づくデコーダは、
立体画像を構成するために異なる視点で撮影された複数のフレームで構成される画像を入力し、この入力された画像を、互いに結合することにより復元可能な、モニタリング画像として利用可能な第1の成分と、その他の第2の成分とに分解する画像分解部であって、前記入力画像をフレーム毎に分離するフレーム分離部と、前記分離された各フレームをそれぞれ周波数分解により低周波成分と高周波成分に分解して、高周波成分を前記第2の成分として生成する周波数分解部と、前記各フレームについて前記分解された各低周波成分を結合して前記第1の成分を生成する結合部と、を有する画像分解部と、
前記分解された前記第1の成分を第1のチャンネルの伝送画像として出力する第1の伝送部と、
前記第2の成分を圧縮符号化する圧縮符号化部と、
前記圧縮符号化された第2の成分を第2のチャンネルの伝送画像として出力する第2の伝送部と
を具備するエンコーダと組み合わせて用いることが可能なデコーダであって、
前記第1のチャンネルの伝送画像として伝送された前記第1の成分および前記第2のチャンネルの伝送画像として伝送された前記第2の成分をそれぞれ取得する画像取得部と、
前記取得した第2の成分を伸張復号する伸張復号部と、
前記取得した前記第1の成分と前記伸張復号された第2の成分とを結合して元の画像を復元する画像復元部であって、前記取得した第1の成分をフレーム毎に分離するフレーム分離部と、前記フレーム毎に分離された前記第1の成分と、前記伸張復号された第2の成分とを結合する結合部と、前記結合された前記第1の成分と第2の成分から周波数逆分解によって前記立体画像を復元する周波数逆分解部と、を有する画像復元部と
を具備する。
上記のエンコーダおよびデコーダによれば、例えば現行の3D画像伝送システムなどのインフラをそのまま用いて、超立体画像を良好に伝送することができる。また、カメラのモニターやビューファインダーにモニタリング画像を表示させることも可能になる。
本技術のさらに別の観点に基づくエンコーダは、
モニタリング用の画面の縦横比に対して異なる縦横比を有する画像を入力し、この入力された画像を、前記モニタリング用の画面の縦横比となるように分離および/または結合するサイズ調整部と、
前記サイズ調整部より出力された画像を、互いに結合することにより復元可能な、モニタリング画像として利用可能な第1の成分と、その他の第2の成分とに分解する画像分解部と、
前記分解された前記第1の成分を第1のチャンネルの伝送画像として出力する第1の伝送部と、
前記第2の成分を圧縮符号化する圧縮符号化部と、
前記圧縮符号化された第2の成分を第2のチャンネルの伝送画像として出力する第2の伝送部と
を具備する。
本技術のさらに別の観点に基づくデコーダは、
モニタリング用の画面の縦横比に対して異なる縦横比を有する画像を入力し、この入力された画像を、前記モニタリング用の画面の縦横比となるように分離および/または結合するサイズ調整部と、
前記サイズ調整部より出力された画像を、互いに結合することにより復元可能な、モニタリング画像として利用可能な第1の成分と、その他の第2の成分とに分解する画像分解部と、
前記分解された前記第1の成分を第1のチャンネルの伝送画像として出力する第1の伝送部と、
前記第2の成分を圧縮符号化する圧縮符号化部と、
前記圧縮符号化された第2の成分を第2のチャンネルの伝送画像として出力する第2の伝送部と、を具備するエンコーダと組み合わせて用いられるデコーダであって、
前記第1のチャンネルの伝送画像として伝送された前記第1の成分および前記第2のチャンネルの伝送画像として伝送された前記第2の成分をそれぞれ取得する画像取得部と、
前記取得した第2の成分の伸張復号する伸張復号部と、
前記取得した前記第1の成分と前記伸張復号された第2の成分とを結合して元の画像を復元する画像復元部と
を具備する。
上記のエンコーダおよびデコーダによれば、例えば現行の3D画像伝送システムなどのインフラをそのまま用いて、超広角画像や複数のスティッチング画像など、モニタリング用の画面と縦横比が異なる画像を伝送することができる。また、カメラのモニターやビューファインダーにモニタリング画像を表示させることも可能になる。
本技術のさらに別の観点に基づくエンコーダシステムは、
入力された画像を、互いに結合することにより復元可能な、モニタリング画像として利用可能な第1の成分と、その他の第2の成分とに分解する画像分解部と、前記第2の成分を圧縮符号化する圧縮符号化部とを具備し、前記分解された前記第1の成分を出力するとともに、前記圧縮符号化された第2の成分を出力することが可能な複数のエンコーダであって、それぞれ前記画像分解部による画像分解の方式が互いに異なる複数のエンコーダと;
入力された画像のエンコードに使用する複数の前記エンコーダを選択するエンコーダ選択部と;
前記選択された複数のエンコーダより出力された複数の前記第1の成分を第1のチャンネルの伝送画像の空間を分割する複数のセクションに割り当て、当該割り当てに関する情報を少なくとも含む第1のヘッダ情報を生成して前記第1のチャンネルの伝送画像に付加する第1の伝送画像構成部と;
前記第1のヘッダ情報が付加された前記第1のチャンネルの伝送画像を伝送する第1の伝送部と;
前記選択された複数のエンコーダより出力された複数の前記第2の成分を前記第2のチャンネルの伝送画像の空間内を区分する複数のセクションに割り当て、当該割り当てに関する情報を少なくとも含む第2のヘッダ情報を生成して前記第2のチャンネルの伝送画像に付加する第2の伝送画像構成部と;
前記第2のヘッダ情報が付加された前記第2のチャンネルの伝送画像を伝送する第2の伝送部と;
を具備する。
このエンコーダシステムにおいて、前記第1の伝送画像構成部および前記第2の伝送画像構成部のうち少なくとも一方は、前記第1のチャンネルの伝送画像の個々のセッションに割り当てられた個々の前記第1の成分と、前記第2のチャンネルの伝送画像の個々のセッションに割り当てられた個々の前記第2の成分とを互いに紐付ける紐付け情報を生成して、前記第1のヘッダ情報および前記第2のヘッダ情報の少なくとも一方に付加するものであってよい。
本技術のさらに別の観点に基づくデコーダシステムは、
入力された画像を、互いに結合することにより復元可能な、モニタリング画像として利用可能な第1の成分と、その他の第2の成分とに分解する画像分解部と、前記第2の成分を圧縮符号化する圧縮符号化部とを具備し、前記分解された前記第1の成分を出力するとともに、前記圧縮符号化された第2の成分を出力することが可能な複数のエンコーダであって、それぞれ前記画像分解部による画像分解の方式が互いに異なる複数のエンコーダと;
入力された画像のエンコードに使用する複数の前記エンコーダを選択するエンコーダ選択部と;
前記選択された複数のエンコーダより出力された複数の前記第1の成分を第1のチャンネルの伝送画像の空間を分割する複数のセクションに割り当て、当該割り当てに関する情報を少なくとも含む第1のヘッダ情報を生成して前記第1のチャンネルの伝送画像に付加する第1の伝送画像構成部と;
前記第1のヘッダ情報が付加された前記第1のチャンネルの伝送画像を伝送する第1の伝送部と;
前記選択された複数のエンコーダより出力された複数の前記第2の成分を前記第2のチャンネルの伝送画像の空間内を区分する複数のセクションに割り当て、当該割り当てに関する情報を少なくとも含む第2のヘッダ情報を生成して前記第2のチャンネルの伝送画像に付加する第2の伝送画像構成部と;
前記第2のヘッダ情報が付加された前記第2のチャンネルの伝送画像を伝送する第2の伝送部と;を具備するエンコーダシステムと組み合わせて用いられるデコードシステムであって、
前記複数のエンコーダにそれぞれ対応する複数のデコーダと;
前記エンコーダシステムより伝送された前記第1のチャンネルの伝送画像および前記第2のチャンネルの伝送画像をそれぞれ取得する画像取得部と、
前記取得された第1のチャンネルの伝送画像に付加された前記第1のヘッダ情報をもとに、前記第1のチャンネルの伝送画像の前記複数のセッションにそれぞれ割り当てられた複数の前記第1の成分を前記複数のデコーダに選択的に供給する第1のヘッダ解析部と、
前記取得された第2のチャンネルの伝送画像に付加された前記第2のヘッダ情報をもとに、前記第2のチャンネルの伝送画像の前記複数のセッションにそれぞれ割り当てられた複数の前記第2の成分を前記複数のデコーダに選択的に供給する第2のヘッダ解析部と、
を具備する
上記のエンコーダシステムおよびデコーダシステムによれば、2チャンネルの伝送画像に複数の種類のエンコーダによって圧縮符号化された複数の画像を混在させて伝送し、デコーダ側でそれぞれの画像のエンコード方法に合せてデコード処理を行うことができる。
本技術のさらに別の観点に基づく伝送アダプタは、
画像を入力し、この入力された画像を、互いに結合することにより復元可能な、モニタリング画像として利用可能な第1の成分とその他の第2の成分とに周波数分解によって分解する画像分解部と、
前記分解された前記第1の成分を第1のチャンネルの伝送画像として出力する第1の伝送部と、
前記第2の成分を圧縮符号化する圧縮符号化部と、
前記圧縮符号化された第2の成分を第2のチャンネルの伝送画像として出力する第2の伝送部と、を具備するエンコーダより伝送された前記第1のチャンネルの伝送画像を受信する第1の受信部と、
前記エンコーダより伝送された前記第2のチャンネルの伝送画像を受信する第2の受信部と、
前記第1の受信部により受信された前記第1のチャンネルの伝送画像および前記第2の受信部により受信された前記第2のチャンネルの伝送画像を結合し、伝送形式を変換して送信する送信部と
を具備する。
本技術のさらに別の観点に基づくエンコード方法は、
入力された画像を、互いに結合することにより復元可能な、モニタリング画像として利用可能な第1の成分と、その他の第2の成分とに分解し、
前記分解された前記第1の成分を第1のチャンネルの伝送画像として出力し、
前記第2の成分を圧縮符号化し、
前記圧縮符号化された第2の成分を第2のチャンネルの伝送画像として出力する。
本技術のさらに別の観点に基づくデコード方法は、
入力された画像を、互いに結合することにより復元可能な、モニタリング画像として利用可能な第1の成分と、その他の第2の成分とに分解し、
前記分解された前記第1の成分を第1のチャンネルの伝送画像として出力し、
前記第2の成分を圧縮符号化し、
前記圧縮符号化された第2の成分を第2のチャンネルの伝送画像として出力するエンコード方法により前記第1のチャンネルの伝送画像として出力された前記第1の成分および前記第2のチャンネルの伝送画像として出力された前記第2の成分をそれぞれ取得し、
取得した前記第2の成分の伸張復号し、
前記取得した前記第1の成分と前記伸張復号された第2の成分とを結合して元の画像を復元する。
本技術のさらに別の観点に基づく撮像装置は、
画像を入力し、この入力された画像を、互いに結合することにより復元可能な、モニタリング画像として利用可能な第1の成分とその他の第2の成分とに周波数分解によって分解する画像分解部と、
前記分解された前記第1の成分を第1のチャンネルの伝送画像として出力する第1の伝送部と、
前記第2の成分を圧縮符号化する圧縮符号化部と、
前記圧縮符号化された第2の成分を第2のチャンネルの伝送画像として出力する第2の伝送部と
を具備するエンコーダを内蔵する。
以上のように、本技術によれば、次世代ハイビジョン映像のシステム環境の実現に寄与し得る。
本技術に係る第1の実施形態のエンコーダ100の構成を示すブロック図である。 第1の実施形態のエンコーダ100の動作の手順を示すフローチャートである。 第1の実施形態のエンコード処理およびデコード処理の概念図である。 第1の実施形態のデコーダ150の構成を示すブロック図である。 第1の実施形態のデコーダ150の動作の手順を示すフローチャートである。 本技術に係る第2の実施形態のエンコーダ200の構成を示すブロック図である。 第2の実施形態のエンコーダ200の動作の手順を示すフローチャートである。 第2の実施形態のエンコード処理の概念図である。 第2の実施形態のデコーダ250の構成を示すブロック図である。 第2の実施形態のデコーダ250の動作の手順を示すフローチャートである。 本技術に係る第3の実施形態のエンコーダ300の構成を示すブロック図である。 第3の実施形態のエンコーダ300の動作の手順を示すフローチャートである。 第3の実施形態のエンコード処理の概念図である。 第3の実施形態のデコーダ350の構成を示すブロック図である。 第3の実施形態のデコーダ350の動作の手順を示すフローチャートである。 本技術に係る第4の実施形態のエンコーダ400の構成を示すブロック図である。 第4の実施形態のエンコーダ400の動作の手順を示すフローチャートである。 第4の実施形態のエンコード処理の概念図である。 第4の実施形態のデコーダ450の構成を示すブロック図である。 第4の実施形態のデコーダ450の動作の手順を示すフローチャートである。 本技術に係る第5の実施形態のエンコーダ500の構成を示すブロック図である。 第5の実施形態のエンコーダ500の動作の手順を示すフローチャートである。 第5の実施形態のエンコード処理の概念図である。 第5の実施形態のデコーダ550の構成を示すブロック図である。 第5の実施形態のデコーダ550の動作の手順を示すフローチャートである。 第6の実施形態に係るハイビジョンサイズの3つのスティッチング画像と4Kハイビジョンサイズの1つの超高解像度画像をエンコードする場合の概念図である。 第1の伝送画像のデータ構造の例を示す図である。 第2の伝送画像のデータ構造の例を示す図である。 第6の実施形態のハイブリッド方式のエンコーダシステム600の構成を示すブロック図である。 第6の実施形態のハイブリッド方式のデコーダシステム650の構成を示すブロック図である。 本技術に係る実施形態のカメラシステム1000の構成を示すブロック図である。 本技術に係る変形例1の伝送アダプタを用いたカメラシステム1100の構成を示すブロック図である。 変形例1の伝送アダプタ1110の構成を示すブロック図である。 本技術に係る変形例1のカスケード接続によるマルチカメラシステム1200の構成を示すブロック図である。
以下、本技術に係る実施形態を、図面を参照しながら説明する。
本技術は、画像を圧縮符号化するエンコーダおよび圧縮符号化された画像を復号するデコーダに関するものである。
本技術に係る実施形態には以下があり、これらを順に説明する。
1.超高解像度画像に適したエンコーダとデコーダ
2.超高解像度画像およびフォーカス調整に適したエンコーダとデコーダ
3.超高速画像に適したエンコーダとデコーダ
4.超立体画像に適したエンコーダとデコーダ
5.超広角画像に適したエンコーダとデコーダ
6.ハイブリッド方式のエンコーダシステムとデコーダシステム
<第1の実施形態>
[1.超高解像度画像に適したエンコーダとデコーダ]
本実施形態は、2チャンネルのデジタル信号伝送路を用いて2つのハイビジョン画像を同時伝送することが可能な例えば現行の3D画像伝送システムなどをインフラとして用いて、例えば4Kハイビジョン画像、8Kハイビジョン画像といった次世代超高解像度のハイビジョン画像を伝送することができるエンコーダとデコーダに関するものである。
現行の3D画像伝送システムはチャンネル毎にハイビジョンサイズの画像が伝送されることを想定しているため、そのままでは4Kハイビジョン画像、8Kハイビジョン画像といった超高解像度画像の伝送は困難である。また、現行の3D画像伝送システムでは一方のチャンネルを使って伝送されるハイビジョン画像をカメラのモニターやビューファインダーなどにそのまま表示させて撮影映像のモニタリングを行っている。したがって、4Kハイビジョン画像、8Kハイビジョン画像などの超高解像度画像をカメラのモニターやビューファインダーなどを通してモニタリングすることもできないことになる。本実施形態は、このような課題を解決することができるものである。
デジタル信号の伝送には、i.Link(登録商標)、光ファイバー伝送、3G−SDI(3G-Single Document Interface)、ストレージ装置などが用いられる。本実施形態では2チャンネルのi.Link(登録商標)であるLink−AとLink−Bとを採用した場合を説明する。
[エンコーダ100の構成]
図1は、本技術に係る第1の実施形態の超高解像度画像に適したエンコーダ100の構成を示すブロック図である。
同図に示すように、このエンコーダ100は、周波数分解部101(画像分解部)、分岐部102、補助画像付加部103、第1の伝送部105、エントロピー符号化部106(圧縮符号化部)、誤り訂正符号化部107、第2の伝送部108、圧縮解析部109および表示処理部110(出力部)を備える。
周波数分解部101は、入力された超高解像度画像(以下、本実施形態において単に「画像」と呼ぶ。)を周波数分解によって、モニタリング画像として利用可能な低周波成分(第1の成分)とその他の高周波成分(第2の成分)とに分離する。ここで、周波数分離の方法としては、例えばWavelet変換などを用いることができる。Wavelet変換では、画像は低周波成分と、X方向高周波成分、Y方向高周波成分、XY方向高周波成分に分離される。入力された画像が4Kハイビジョン画像である場合、低周波成分は1回のWavelet変換によってハイビジョンサイズまで縮小された画像になる。また、入力された画像が8Kハイビジョン画像である場合、Wavelet変換を2段階に行うことによって低周波成分はハイビジョンサイズまで縮小される。ここでモニタリング画像の解像度は例えばハイビジョンサイズなどとする。
分岐部102は、周波数分解部101によって得られた画像の低周波成分を補助画像付加部103と第1の伝送部105に供給する。
補助画像付加部103は、分岐部102より供給された画像の低周波成分に、例えばマーカー、ゼブラ、文字列など、撮影画像をモニタリングするユーザを補助するための補助画像を付加する。補助画像を付加された画像の低周波成分はモニタリング画像として利用可能であり、表示処理部110を通してカメラのモニターやビューファインダーなどに供給されて表示される。
第1の伝送部105は、分岐部102より供給された画像の低周波成分をi.Link(登録商標)のLink−Aを用いて伝送する。
エントロピー符号化部106は、周波数分解部101によって得られた画像の高周波成分をエントロピー符号化により圧縮する。エントロピー符号化の方式としては、ハフマン符号、算術符号などがある。
誤り訂正符号化部107は、エントロピー符号化された画像の高周波成分に誤り訂正符号を付加する。
第2の伝送部108は、誤り訂正符号化部107にて誤り訂正符号の付加された画像の高周波成分をLink−Bを用いて伝送する。
圧縮解析部109は、誤り訂正符号が付加された画像の高周波成分の容量を解析してその結果を表示処理部110を通じてカメラのモニターやビューファインダーなどに供給する。
[エンコーダ100の動作]
図2は第1の実施形態のエンコーダ100の動作の手順を示すフローチャートである。
まず、エンコーダ100内のレジスタおよびメモリの初期化など、エンコーダ100の初期化処理が行われる(ステップS101)。この後、画像がエンコーダ100に入力される(ステップS102)。エンコーダ100に入力された画像は、図3に示すように、周波数分解部101にて低周波成分と高周波成分とに分離される(ステップS103)。
図3は入力画像121を4Kハイビジョン画像とし、周波数分解の方法としてWavelet変換を用いた場合のエンコードおよびデコードの概念図である。このように、周波数分解部101にて分離された低周波成分は、入力画像が4Kハイビジョン画像である場合にはハイビジョンサイズの画像122となって分岐部102に供給される。
図2に戻って、分岐部102によって画像の低周波成分は第1の伝送部105と補助画像付加部103に供給される。これにより画像の低周波成分が第1の伝送部105によってLink−Aを使って伝送される(ステップS106)。また、補助画像付加部103により補助画像が付加された低周波成分は、表示処理部110を通してカメラのモニターやビューファインダーなどに供給されて表示される。
一方、周波数分解部101で分離された画像の高周波成分(図3の符号123)はエントロピー符号化部106にてエントロピー符号化(図3の符号124)された後(ステップS104)、誤り訂正符号化部107にて誤り訂正符号が付加される(ステップS105)。誤り訂正符号が付加された画像の高周波成分は第2の伝送部108によってLink−Bを使って伝送される(ステップS106)。
さらに、誤り訂正符号の付加された画像の高周波成分は圧縮解析部109に供給される。圧縮解析部109は、エントロピー符号化された画像の高周波成分の容量を解析し、その結果を表示処理部110を通じてカメラのモニターやビューファインダーなどに供給して表示させる。
[デコーダ150の構成]
次に、上記のエンコーダ100により圧縮符号化された画像をデコードするデコーダ150の構成を説明する。
図4はデコーダ150の構成を示すブロック図である。このデコーダ150は、第1の伝送部151(画像取得部)、第2の伝送部152(画像取得部)、誤り訂正復号部153、エントロピー逆符号化部154(伸張復号部)、および周波数逆分解部155(画像復元部)を備える。
第1の伝送部151は、Link−Aを通じて伝送されてきた画像の低周波成分を受信して周波数逆分解部155に供給する。
第2の伝送部152は、Link−Bを通じて伝送されてきた画像の高周波成分を受信し、誤り訂正復号部153に供給する。
誤り訂正復号部153は、第2の伝送部152より供給された画像の高周波成分の誤り訂正復号を行う。
エントロピー逆符号化部154は、誤り訂正復号部153にて復号された画像の高周波成分のエントロピー逆符号化を行う。
周波数逆分解部155は、エントロピー逆符号化された画像の高周波成分(図3の符号125)と、第1の伝送部151より供給された画像の低周波成分(図3の符号122)とを周波数逆分解により結合して超高解像度画像(図3の符号126)を復元する。
[デコーダ150の動作]
図5は第1の実施形態のデコーダ150の動作の手順を示すフローチャートである。
まず、デコーダ150の初期化処理が行われる(ステップS201)。この後、第1の伝送部151と第2の伝送部152にて、Link−Aを通じて伝送されてきた画像の低周波成分(図3の符号122)とLink−Bを通じて伝送されてきた画像の高周波成分(図3の符号125)を受信する(ステップS202)。
第1の伝送部151にて受信された画像の低周波成分(図3の符号122)は周波数逆分解部155に供給される。一方、第2の伝送部152にて受信された画像の高周波成分(図3の符号124)は誤り訂正復号部153にて復号された後(ステップS203)、エントロピー逆符号化部154にて逆符号化され(ステップS204)、周波数逆分解部155に供給される。そして、周波数逆分解部155にて、画像の低周波成分(図3の符号122)とエントロピー逆符号化部154にて逆符号化された画像の高周波成分(図3の符号125)とが周波数逆分解によって結合される(ステップS205)。これにより元の超高解像度画像(図3の符号126)が復元される。
以上のように、本実施形態のエンコーダ100およびデコーダ150によれば、例えば現行の3D画像伝送システムなどのインフラをそのまま用いて、例えば4Kハイビジョン画像、8Kハイビジョン画像といった次世代の超高解像度画像の伝送を行うことができるとともに、カメラのモニターやビューファインダーにモニタリング画像を表示させることも可能になる。
<第2の実施形態>
[2.超高解像度画像およびフォーカス調整等に適したエンコーダとデコーダ]
第1の実施形態では、周波数分解により得られた画像の低周波成分を表示処理部110やカメラのモニターやビューファインダーなどに供給して表示させる。ここで、カメラのビューファインダーなどを通してカメラマンが画像を見ながらフォーカス合わせを行う場合や、その画像をもとにオートフォーカスを行う場合、高い精度でフォーカス調整を行うことは困難である。第2の実施形態は、この課題を解決することができるものである。
[超高解像度画像およびフォーカス調整等に適したエンコーダ200の構成]
図6は、本技術に係る第2の実施形態の超高解像度画像およびフォーカス調整等に適したエンコーダ200の構成を示すブロック図である。
同図に示すように、このエンコーダ200は、ダウンコン部201、分岐部202、補助画像付加部203、第1の伝送部205(第1の伝送部)、差分生成部204、エントロピー符号化部206(圧縮符号化部)、誤り訂正符号化部207、第2の伝送部208(第2の伝送部)、圧縮解析部209、表示処理部210および周波数分解部211を備える。ここで、ダウンコン部201と差分生成部204とで画像分割部が構成される。
ダウンコン部201は、入力された超高解像度画像をダウンコンバートによってモニタリング画像として利用可能なハイビジョンサイズの画像を生成するダウンコン画像(第1の成分)を生成する。十分な高周波成分を含むダウンコン画像を生成するために、ダウンコンバート方法としては高精細なディテールを残したままでの画像の縮小が可能な例えばバイキュービック法などが採用される。バイキュービック法は、三次関数を用いて、中心の画素値から周辺の画素値を算出する方法である。なお、本技術においてはバイキュービック法を採用することに限定されない。高精細なディテールを残したままでの画像の縮小が可能な方式であれば何でもよい。
分岐部202は、ダウンコン部201によって生成されたダウンコン画像を補助画像付加部203と第1の伝送部205に供給する。
第1の伝送部205は、分岐部202より供給されたダウンコン画像をLink−Aを用いて伝送する。
補助画像付加部203は、分岐部202より供給された画像の低周波成分に、例えばマーカー、ゼブラ、文字列など、撮影画像をモニタリングするユーザを補助するための補助画像を付加する。補助画像を付加された画像の低周波成分はモニタリング画像として利用可能であり、表示処理部210を通してカメラのモニターやビューファインダーなどに供給されて表示される。
差分生成部204は、ダウンコン画像を入力画像の解像度(例えば4Kハイビジョン)まで画素拡大により拡大した画像と入力画像との差分をアップコン用補間画像として生成する。
エントロピー符号化部206は、差分生成部204により生成されたアップコン用補間画像をエントロピー符号化する。エントロピー符号化の方式としては、ハフマン符号、算術符号などがある。
誤り訂正符号化部207は、エントロピー符号化されたアップコン用補間画像に誤り訂正符号を付加する。
第2の伝送部208は、誤り訂正符号が付加されたアップコン用補間画像をLink−Bを用いて伝送する。
圧縮解析部209は、エントロピー符号化されたアップコン用補間画像の容量を解析して、その結果を表示処理部210を通じてカメラのモニターやビューファインダーなどに供給して表示させる。
また、このエンコーダ200において、差分生成部204により生成されたアップコン用補間画像を周波数分解部211にて周波数分解してから高周波成分のみをエントロピー符号化部206に供給するようにしてもよいし、必要に応じて、周波数分解の実行のオン/オフをユーザが適宜切り替えるようにしてもよい。例えば、圧縮解析部209によって得られる、アップコン用補間画像の容量解析結果をユーザがカメラのモニターなどを通して確認し、その容量がある基準値よりも過大な場合には周波数分解をオンにすること、などが考えられる。
図7は第2の実施形態のエンコーダ200の動作の手順を示すフローチャートである。
まず、エンコーダ200内のレジスタおよびメモリの初期化など、エンコーダ200の初期化処理が行われる(ステップS301)。この後、例えば4Kハイビジョンなどの超高解像度の画像がエンコーダ200に入力される(ステップS302)。
図8は入力画像221を4Kハイビジョン画像とし、ダウンコンバートの方法として例えばバイキュービック法などを用いた場合のエンコードおよびデコードの概念図である。
本実施形態のエンコーダ200によるエンコード動作の概念図である。このようにエンコーダ200に入力された超高解像度の画像221は、ダウンコン部201によって高精細なディテールを残したハイビジョンサイズの画像にまでダウンコンバートされることによって、モニタリング画像として利用可能なダウンコン画像222となる(ステップS303)。
ダウンコン画像222は分岐部202と差分生成部204にそれぞれ供給され、さらに分岐部202によって第1の伝送部205と補助画像付加部203に供給される。そしてダウンコン画像は、第1の伝送部205によってLink−Aを使って伝送される(ステップS307)。また、補助画像付加部203により補助画像が付加された低周波成分はモニタリング画像として利用可能であり、表示処理部210を通してカメラのモニターやビューファインダーなどに供給されて表示される。ここで、ダウンコン画像には十分な高周波成分が残されているので、このダウンコン画像を用いてマニュアルフォーカス調整、オートフォーカス調整など、画像の精細度が求められる調整処理を良好に行うことができる。
一方、差分生成部204は、分岐部202より入力されたダウンコン画像を入力画像の解像度(例えば4Kハイビジョンサイズ)まで画素拡大により拡大して、図8に示す拡大画像223を生成する。差分生成部204は、この拡大画像223と入力画像221との差分をアップコン用補間画像224として生成し(ステップS304)、エントロピー符号化部206に供給する。アップコン用補間画像はエントロピー符号化部206にてエントロピー符号化された後(ステップS305)、誤り訂正符号化部207にて誤り訂正符号が付加される(ステップS306)。この後、誤り訂正符号が付加されたアップコン用補間画像のデータは、第2の伝送部208によってLink−Bを使って伝送される(ステップS307)。
また、エントロピー符号化された高周波成分は圧縮解析部209に供給される。圧縮解析部209は、エントロピー符号化された高周波成分の容量を解析してその結果を表示処理部210を通じてカメラのモニターやビューファインダーなどに供給して表示させる。この際、例えば、エントロピー符号化されたアップコン用補間画像の容量の解決結果の値がある基準値よりも大きい場合など、必要に応じて、差分生成部204により生成されたアップコン用補間画像を周波数分解部211にて周波数分解して高周波成分のみをエントロピー符号化部206に供給するようにする。これにより、エントロピー符号化されたアップコン用補間画像の容量を下げて、伝送帯域との関係からアップコン用補間画像の伝送が間に合わない事態が発生することを可及的に抑制できる。
[デコーダ250の構成]
次に、上記のエンコーダ200により圧縮符号化された画像をデコードするデコーダ250の構成を説明する。
図9は、デコーダ250の構成を示すブロック図である。デコーダ250は、第1の伝送部251(画像取得部)、第2の伝送部252(画像取得部)、誤り訂正復号部253、エントロピー逆符号化部254(伸張復号部)、およびアップコン部256(画像復元部)を備える。
第1の伝送部251は、Link−Aを通じて伝送されてきたダウンコン画像を受信し、アップコン部256に供給する。
第2の伝送部252は、Link−Bを通じて伝送されてきたアップコン用補間画像を受信し、誤り訂正復号部253に供給する。
誤り訂正復号部253は、第2の伝送部252より供給されたアップコン用補間画像の誤り訂正復号を行う。
エントロピー逆符号化部254は、誤り訂正復号部253にて誤り訂正復号されたアップコン用補間画像のエントロピー逆符号化を行い、その結果をアップコン部256に供給する。
アップコン部256は、第1の伝送部251より供給されたダウンコン画像を、エントロピー逆符号化部254より供給されたアップコン用補間画像を用いてアップコンバートして元の超高解像度画像を復元する。より具体的には、アップコン部256は、ダウンコン画像を画素拡大により拡大し、この拡大画像とアップコン用補間画像とを加算する、という手順で元の超高解像度画像を復元することかできる。
[デコーダ250の動作]
図10は第2の実施形態のデコーダ250の動作の手順を示すフローチャートである。
まず、デコーダ250内のレジスタおよびメモリの初期化など、デコーダ250の初期化処理が行われる(ステップS401)。この後、Link−AとLink−Bを通じてそれぞれ伝送されてきたダウンコン画像とアップコン用補間画像がそれぞれ第1の伝送部251および第2の伝送部252にて受信される(ステップS402)。
第1の伝送部251にて受信されたダウンコン画像はアップコン部256に供給される。一方、第2の伝送部252にて受信されたアップコン用補間画像は誤り訂正復号部253にて復号された後(ステップS403)、エントロピー逆符号化部254にて逆符号化されて(ステップS404)、アップコン部256に供給される。そして、アップコン部256にて、ダウンコン画像がエントロピー逆符号化されたアップコン用補間画像を用いてアップコンバートされることにより、元の超高解像度画像が復元される(ステップS405)。
以上のように、本実施形態のエンコーダ200およびデコーダ250によれば、例えば現行の3D画像伝送システムなどのインフラをそのまま用いて、例えば4Kハイビジョン画像、8Kハイビジョン画像といった次世代の超高解像度画像の伝送を良好に行うことができる。また、本実施形態のエンコーダ200では、十分な高周波成分が含まれたダウンコン画像がモニタリング画像として得られるので、フォーカス調整など、画像の精細度が求められるカメラ調整を良好に行うことができる。
<第3の実施形態>
[3.超高速画像に適したエンコーダとデコーダ]
本実施形態は、例えば、2チャンネルのデジタル信号伝送路を用いて2つのハイビジョン画像をそれぞれ59.94フレーム/秒で同時伝送することが可能な現行の3D画像伝送システムなどをインフラとして用いて、現行のシステムのモニタリングのフレームレートより高いフレームレートを有する超高速ハイビジョン画像(以下「超高速画像」と呼ぶ。)を伝送することのできるエンコーダとデコーダに関するものである。
[超高速画像に適したエンコーダ300の構成]
図11は、本技術に係る第3の実施形態のエンコーダ300の構成を示すブロック図である。
同図に示すように、このエンコーダ300は、フレーム分離部301、分岐部302、補助画像付加部303、周波数分解部311、第1の伝送部305、差分生成部304、エントロピー符号化部306(圧縮符号化部)、誤り訂正符号化部307、第2の伝送部308、圧縮解析部309、および表示処理部310を備える。ここで、フレーム分離部301、周波数分解部311、差分生成部304で画像分解部が構成される。
このエンコーダ300には、インフラとして用いられる例えば現行の3D画像伝送システムなどにおける仕様上のチャンネル毎のフレームレート(以下「標準フレームレート」と呼ぶ。)よりも高いフレームレートで順次撮影された複数のフレームで構成される超高速画像が入力される。また、現行の3D画像伝送システムでは一方のチャンネルを使って伝送されるハイビジョン画像をカメラのモニターやビューファインダーなどにそのまま表示させて撮影映像のモニタリングを行っているので、カメラでのモニタリングのフレームレートは標準フレームレートと同じである。
フレーム分離部301は、入力された超高速画像を周波数分解部311に供給する一方で、超高速画像から標準フレームレートでフレームを分離して、これを等倍速フレーム(モニタリングフレーム=第1の成分)として分岐部302に供給する。
分岐部302は、フレーム分離部301によって分離された等倍速フレームを補助画像付加部303と第1の伝送部305に供給する。
補助画像付加部303は、分岐部302より供給された等倍速フレームに例えばマーカー、ゼブラ、文字列など、画像をモニタリングするユーザを補助するための補助画像を付加する。補助画像を付加された等倍速フレームは、表示処理部310を通してカメラのモニターやビューファインダーなどに供給されてモニタリング画像として表示される。
第1の伝送部305は、分岐部302より供給された等倍速フレームをLink−Aを用いて伝送する。
周波数分解部311は、入力された超高速画像を低周波成分と高周波成分とに分離する。周波数分解の方法としては、例えば、上記のWavelet変換などを用いることができる。
差分生成部304は、周波数分解部311によって分離された超高速画像の低周波成分について、等倍速フレームとその他のフレーム(非モニタリングフレーム)との差分と非モニタリングフレームの高周波成分とを組み合わせてエントロピー符号化部306に供給する。
エントロピー符号化部306は、差分生成部304より供給されたデータをエントロピー符号化により圧縮する。エントロピー符号化の方式としては、ハフマン符号、算術符号などがある。
誤り訂正符号化部307は、エントロピー符号化されたデータに誤り訂正符号を付加して第2の伝送部308に供給する。
第2の伝送部308は、誤り訂正符号化部307にて誤り訂正符号の付加されたデータを「フレーム間補間画像」(第2の成分)としてLink−Bを用いて伝送する。
圧縮解析部309は、フレーム間補間画像の容量を解析してその結果を表示処理部310を通じてカメラのモニターやビューファインダーなどに可視情報として供給する。
[エンコーダ300の動作]
図12はエンコーダ300の動作の手順を示すフローチャートである。
まず、エンコーダ300内のレジスタおよびメモリの初期化など、エンコーダ300の初期化処理が行われる(ステップS501)。この後、超高速画像がエンコーダ300に入力される(ステップS502)。エンコーダ300に入力された超高速画像は、フレーム分離部301に入力される。フレーム分離部301は、入力された超高速画像をそのまま周波数分解部311に供給する一方で、超高速画像から標準フレームレートでフレームを分離して、これを等倍速フレーム(モニタリングフレーム)として分岐部302に供給する。等倍速フレームは、分岐部302によって第1の伝送部205と補助画像付加部203に供給される。そして等倍速フレームは、第1の伝送部305によってLink−Aを使って伝送される(ステップS508)。
また、補助画像付加部303により補助画像が付加された等倍速フレームは、表示処理部310を通してカメラのモニターやビューファインダーなどに供給されてモニタリング画像として表示される。
一方、周波数分解部311は、フレーム分離部301より供給された超高速画像の各フレームから低周波成分を分離して差分生成部304に供給する(ステップS504)。差分生成部304は、周波数分解部311より供給された超高速画像の低周波成分について、等倍速フレーム(モニタリングフレーム)と、この等倍速フレームから次の等倍速フレームまでの間の1以上のフレーム(非モニタリングフレーム)との1以上の差分データを求める。差分生成部304は、それぞれの非モニタリングフレームについて、差分データと、非モニタリングフレームから周波数分解部311によって分離された高周波成分との組み合わせをエントロピー符号化部306に出力する(ステップS505)。
続いて、差分生成部304の出力データはエントロピー符号化部306にてエントロピー符号化された後(ステップS506)、誤り訂正符号化部307にて誤り訂正符号が付加される(ステップS507)。誤り訂正符号が付加されたデータは、第2の伝送部308によってフレーム間補間画像(第2の成分)としてLink−Bを使って伝送される(ステップS508)。
図13は、エンコーダ300による処理の概念図である。この概念図では、標準フレームレートの16倍の超高速画像320を伝送する場合を示している。連続する16フレームであるframe0−frame15の中からフレーム分離部301によって1つのフレームであるframe0が等倍速フレーム321として分離されて差分生成部304に供給される。一方、周波数分解部311は、frame0−frame15を低周波成分321a、322aと高周波成分321b、322bとに分離する。ここで、321aは等倍速フレーム321の低周波成分、322aは非モニタリングフレーム322の低周波成分、321bは等倍速フレーム321の高周波成分、322bは非モニタリングフレーム322の高周波成分である。周波数分解部311は、frame0−frame15の低周波成分321a、322bを差分生成部304に供給する。ここで、周波数分解の方法としてWavelet変換を採用した場合、1つのフレームに対してWavelet変換を2段階行うことによって、画像の低周波成分のサイズ(画素数)は元の1/16になる。差分生成部304は、等倍速フレーム321(frame0)の低周波成分321aと非モニタリングフレーム322(frame1−frame15)の低周波成分322aとの計15個の差分データを求める。差分生成部304は、それぞれの差分データと非モニタリングフレーム322の高周波成分322bとを組み合わせ、計15個の組み合わせ325をエントロピー符号化部306に供給する。計15個の組み合わせ325は、エントロピー符号化部306と誤り訂正符号化部307によって圧縮符号化され、第2の伝送部308によってフレーム間補間画像(第2の成分)326としてLink−Bを使って伝送される。
[デコーダ350の構成]
次に、上記のエンコーダ300により符号化された画像をデコードするデコーダ350の構成を説明する。
図14はデコーダ350の構成を示すブロック図である。このデコーダ350は、第1の伝送部351(画像取得部)、第2の伝送部352(画像取得部)、周波数分解部358、誤り訂正復号部353、エントロピー逆符号化部354(伸張復号部)、周波数逆分解部355、差分復元部356、およびフレーム連結部357を備える。ここで、周波数分解部358、周波数逆分解部355、差分復元部356、フレーム連結部357で画像復元部が構成されている。
第1の伝送部351は、Link−Aを通じて伝送されてきた等倍速フレームを受信し、周波数分解部358およびフレーム連結部357に供給する。
周波数分解部358は、等倍速フレームから低周波成分を分離して差分復元部356に供給する。
第2の伝送部352は、Link−Bを通じて伝送されてきたフレーム間補間画像を受信し、誤り訂正復号部353に供給する。
誤り訂正復号部353は、第2の伝送部352より供給されたフレーム間補間画像の誤り訂正復号を行う。
エントロピー逆符号化部354は、誤り訂正復号部353にて復号されたフレーム間補間画像のエントロピー逆符号化を行い、その結果を差分復元部356に供給する。
差分復元部356は、周波数分解部358より供給された等倍速フレーム(モニタリングフレーム)の低周波成分と、エントロピー逆符号化部354より供給されたフレーム間補間画像に含まれる差分データとから非モニタリングフレームの低周波成分をそれぞれ復元する。
周波数逆分解部355は、差分復元部356により復元された非モニタリングフレームの低周波成分とフレーム間補間画像に含まれる当該非モニタリングフレームの高周波成分とから周波数逆分解によって非モニタリングフレームを復元する。
フレーム連結部357は、周波数分解部358より供給された等倍速フレームと周波数逆分解部355によって復元された非モニタリングフレームとを元の高速画像の順序で連結して出力する。
[デコーダ350の動作]
図15はデコーダ350の動作の手順を示すフローチャートである。
まず、デコーダ350の初期化処理が行われる(ステップS601)。この後、Link−AとLink−Bを通じて伝送されてきた等倍速フレームとフレーム間補間画像をそれぞれ第1の伝送部351および第2の伝送部352で受信する(ステップS602)。
第1の伝送部351にて受信された等倍速フレームは周波数分解部358とフレーム連結部357に供給される。周波数分解部358は供給された等倍速フレームから低周波成分を分離して差分復元部356に供給する(ステップS603)。
一方、第2の伝送部352にて受信されたフレーム間補間画像は、誤り訂正復号部353にて復号された後(ステップS604)、エントロピー逆符号化部354にて逆符号化され、その結果が差分復元部356に供給される(ステップS605)。
差分復元部356は、周波数分解部358からの等倍速フレームの低周波成分とエントロピー逆符号化部354からのフレーム間補間画像を入力すると、これらの情報から等倍速フレーム以外の各フレームの低周波成分を復元して周波数逆分解部355に供給する(ステップS606)。
周波数逆分解部355では、差分復元部356より供給された等倍速フレーム以外の各フレームの低周波成分と非モニタリングフレームの高周波成分とから周波数逆分解によって非モニタリングフレームが復元され、その結果がフレーム連結部357に供給される(ステップS607)。
そしてフレーム連結部357において、周波数分解部358より供給された等倍速フレームと周波数逆分解部355より供給された非モニタリングフレームとが元の高速画像の順序で連結されて出力される(ステップS608)。
以上のように、本実施形態のエンコーダ300およびデコーダ350によれば、例えば現行の3D画像伝送システムなどのインフラをそのまま用いて、現行のシステムのモニタリングのフレームレートより高いフレームレートを有する超高速ハイビジョン画像を伝送することができる。また、カメラのモニターやビューファインダーにモニタリング画像を表示させることも可能になる。
<第4の実施形態>
[4.超立体画像に適したエンコーダとデコーダ]
本実施形態は、例えば2チャンネルのデジタル信号伝送路を用いて2つのハイビジョン画像を同時伝送することが可能な例えば現行の3D画像伝送システムなどをインフラとして用いて、超立体画像を伝送することが可能なエンコーダとデコーダに関するものである。
図16は、本技術に係る第4の実施形態のエンコーダ400の構成を示すブロック図である。
同図に示すように、このエンコーダ400は、フレーム分離部401、周波数分解部411、分離結合部412、分岐部402、変換部413、補助画像付加部403、第1の伝送部405、エントロピー符号化部406、誤り訂正符号化部407、第2の伝送部408、圧縮解析部409、および表示処理部410を備える。ここで、フレーム分離部401、周波数分解部411、分離結合部412(結合部)は画像分解部を構成する。
このエンコーダ400には、立体画像を構成するために異なる視点で撮影された複数のフレームで構成される画像が入力される。
フレーム分離部401は、入力された画像を視点毎つまりフレーム毎の画像に分離して周波数分解部411に供給する。
周波数分解部411は、フレーム毎の画像を低周波成分と高周波成分に分離する。ここで、周波数分解は、水平方向のみに視差を有する超立体画像を得る場合には水平方向の周波数についてのみ行い、垂直方向のみに視差を有する超立体画像を得る場合には垂直方向の周波数についてのみ行い、水平方向と垂直方向に視差を有する超立体画像を得る場合には水平方向および垂直方向それぞれの周波数について行えばよい。なお、この実施形態では、例えば16台のカメラにより撮影された16個の画像により超立体画像を得ることとしている。この場合、周波数分解部411は、1つのフレームに対してWavelet変換を2段階行うことによってフレーム毎に1/16のサイズの低周波成分を生成する。
分離結合部412は、周波数分解部411によって分離された各フレームの低周波成分を結合して立体モニター用のダウンコン画像(第1の成分)を生成して分岐部402に供給するとともに、周波数分解部411によって分離された各フレームの高周波成分をアップコン用補間画像(第2の成分)としてエントロピー符号化部406に供給する。
分岐部402は、分離結合部412より供給された立体モニター用のダウンコン画像を変換部413と第1の伝送部405に供給する。
第1の伝送部405は、分岐部402より供給された立体モニター用のダウンコン画像をLink−Aを用いて伝送する。
変換部413は、立体モニターのレンチキュラーレンズの仕様に合せて、立体モニター用のダウンコン画像のライン入れ替えを行い、その結果を補助画像付加部403に供給する。
補助画像付加部403は、変換部413より供給された立体モニター用のダウンコン画像に例えばマーカー、ゼブラ、文字列など、画像をモニタリングするユーザを補助するための補助画像を付加する。補助画像を付加された立体モニター用のダウンコン画像は表示処理部410を通してカメラのモニターやビューファインダーなどに供給されてモニタリング画像として表示される。
エントロピー符号化部406は、分離結合部412より供給されたフレーム毎のアップコン用補間画像をエントロピー符号化して誤り訂正符号化部407に供給する。エントロピー符号化の方式としては、ハフマン符号、算術符号などがある。
誤り訂正符号化部407は、エントロピー符号化部406より供給されたフレーム毎のアップコン用補間画像に誤り訂正符号を付加して第2の伝送部408および圧縮解析部409に供給する。
第2の伝送部408は、誤り訂正符号化部407より供給されたフレーム毎のアップコン用補間画像をLink−Bを用いて伝送する。
圧縮解析部409は、エントロピー符号化されたフレーム毎のアップコン用補間画像の容量を解析して、その結果を表示処理部410を通じてカメラのモニターやビューファインダーなどに可視情報として供給して表示させる。
[エンコーダ400の動作]
図17はエンコーダ400の動作の手順を示すフローチャートである。
まず、エンコーダ400内のレジスタおよびメモリの初期化など、エンコーダ400の初期化処理が行われる(ステップS701)。この後、立体画像を構成するために異なる視点で撮影された複数のフレームで構成される画像がエンコーダ400に入力される(ステップS702)。
エンコーダ400に入力された画像は、フレーム分離部401にて、視点毎つまりフレーム毎の画像に分離されて周波数分解部411に供給される(ステップS703)。フレーム毎の画像は、周波数分解部411にて低周波成分と高周波成分に分離され(ステップS704)、それぞれ分離結合部412に供給される。分離結合部412は、各フレームの低周波成分を結合して立体モニター用のダウンコン画像を生成して分岐部402に供給する一方で、各フレームの高周波成分をアップコン用補間画像としてエントロピー符号化部406に供給する(ステップS705)。
立体モニター用のダウンコン画像は分岐部402を通じて第1の伝送部405に供給され、この第1の伝送部405によってLink−Aを通じて伝送される(ステップS)。また、この際、変換部413にて、立体モニターのレンチキュラーレンズの仕様に合せて、ダウンコン画像においてカメラ毎の撮影画像が占めるラインを入れ替える必要がある。ラインの不足が発生する場合には、隣り合うライン同士からの画像補間、画像予測によって得たラインで不足分が補われる。この後、立体モニター用のダウンコン画像は補助画像付加部403によって補助画像が付加され、表示処理部410を通じてカメラの立体モニターなどに供給されて表示される。
一方、分離結合部412より分離されたフレーム毎のアップコン用補間画像はエントロピー符号化部406にてエントロピー符号化された後(ステップS706)、誤り訂正符号化部407にて誤り訂正符号が付加され(ステップS707)、第2の伝送部408によってLink−Bを使って伝送される(ステップS708)。
図18は、エンコーダ400によるここまでの処理の概念図である。この図では16台のカメラによる16視点の超立体画像420を伝送する場合を示している。フレーム分離部401は、16視点の超立体画像420を視点毎の画像であるフレーム421(frame0−frame15)に分離する。周波数分解部411は、分離されたフレーム421を低周波成分422と高周波成分423にさらに分離するが、この例では、水平方向のみに視差を有する超立体画像を得るために、水平方向の周波数についてのみ周波数分解を行った場合を示している。この場合、16視点の画像の低周波成分をハイビジョンサイズにダウンコンバートするために、周波数分解部411は周波数分解を4段階行うことによって元の1/16のサイズの低周波成分422を生成する。生成された16個の低周波成分422は分離結合部412にて互いに結合されて立体モニター用のダウンコン画像424となる。
図17に戻って、一方、各フレーム421の高周波成分423はそれぞれフレーム毎のアップコン用補間画像として、エントロピー符号化部406と誤り訂正符号化部407によって圧縮符号化された後(ステップS706、S707)、第2の伝送部408によってLink−Bを使って伝送される(ステップS708)。
[デコーダ450の構成]
次に、上記のエンコーダ400により圧縮符号化された画像をデコードするデコーダ350の構成を説明する。
図19はデコーダ450の構成を示すブロック図である。このデコーダ450は、第1の伝送部451(画像取得部)、分離部455(フレーム分離部)、第2の伝送部452(画像取得部)、誤り訂正復号部453、エントロピー逆符号化部454(伸張復号分)、結合部456、周波数逆分解部457を備える。ここで、分離部455、結合部456、周波数逆分解部457は画像復元部を構成する。
第1の伝送部451は、Link−Aを通じて伝送されてきた立体モニター用のダウンコン画像を受信し、分離部455に供給する。
分離部455は、第1の伝送部451より供給された立体モニター用のダウンコン画像からフレーム毎の低周波成分を分離して結合部456に供給する。
第2の伝送部452は、Link−Bを通じて伝送されてきたフレーム毎のアップコン用補間画像を受信し、誤り訂正復号部453に供給する。
誤り訂正復号部453は、第2の伝送部452より供給されたフレーム毎のアップコン用補間画像の誤り訂正復号を行う。
エントロピー逆符号化部454は、誤り訂正復号部453にて復号されたフレーム毎のアップコン用補間画像のエントロピー逆符号化を行って、その結果を結合部456に供給する。
結合部456は、分離部455より供給されたフレーム毎の低周波成分とエントロピー逆符号化部454より供給されたアップコン用補間画像とを同じ視点のものどうし結合して、その結果を周波数逆分解部457に供給する。
周波数逆分解部457は、結合部456によって互いに結合された画像の低周波成分とアップコン用補間画像とから周波数逆分解によって超立体画像を復元する。
[デコーダ450の動作]
図20はデコーダ450の動作の手順を示すフローチャートである。
まず、デコーダ450の初期化処理が行われる(ステップS801)。この後、Link−AとLink−Bを通じて伝送されてきた立体モニター用のダウンコン画像とフレーム毎のアップコン用補間画像をそれぞれ第1の伝送部451および第2の伝送部452で受信する(ステップS802)。
第1の伝送部451にて受信された立体モニター用のダウンコン画像は分離部455にてフレーム毎の低周波成分に分離され(ステップS803)、結合部456に供給される。
その一方で、第2の伝送部452にて受信されたフレーム毎のアップコン用補間画像は、誤り訂正復号部453にて復号された後(ステップS804)、エントロピー逆符号化部454にてエントロピー逆符号化されて(ステップS805)、その結果は結合部456に供給される。
結合部456では、分離部455から供給されたフレーム毎の低周波成分と、誤り訂正復号部453から供給されたフレーム毎のアップコン用補間画像とが結合され(ステップS806)、その結果が周波数逆分解部457に供給される。そして、周波数逆分解部457にて、結合部456により互いに結合された低周波成分とアップコン用補間画像とから周波数逆分解によって超立体画像が復元される(ステップS807)。
以上のように、本実施形態のエンコーダ400およびデコーダ450によれば、例えば現行の3D画像伝送システムなどのインフラをそのまま用いて、超立体画像を良好に伝送することができる。また、カメラのモニターやビューファインダーにモニタリング画像を表示させることも可能になる。
<第5の実施形態>
[5.超広角画像に適したエンコーダとデコーダ]
本実施形態は、2チャンネルのデジタル信号伝送路を用いて2つのハイビジョン画像を同時伝送することが可能な例えば現行の3D画像伝送システムなどをインフラとして用いて、超広角画像や複数のスティッチング画像など、モニタリング用の画面と縦横比が異なる画像を伝送することのできるエンコーダとデコーダに関するものである。
[エンコーダ500の構成]
図21は、本技術に係る第5の実施形態のエンコーダ500の構成を示すブロック図である。
同図に示すように、このエンコーダ500は、サイズ調整部511、周波数分解部501(画像分解部)、分岐部502、補助画像付加部503、第1の伝送部505、エントロピー符号化部506、誤り訂正符号化部507、第2の伝送部508、圧縮解析部509および表示処理部510を備える。
このエンコーダ500には、超広角画像または複数のスティッチング画像など、モニタリング用の画面と縦横比が異なる画像が入力される。
サイズ調整部511は、入力された画像をモニタリング用の画面の縦横比となるように分離および/または結合することによってサイズの調整を行う。
周波数分解部501は、サイズ調整部511によってサイズ調整された画像を低周波成分と高周波成分に分離して分岐部502とエントロピー符号化部506に供給する。
分岐部502、補助画像付加部503、第1の伝送部505、エントロピー符号化部506、誤り訂正符号化部507、第2の伝送部508、および圧縮解析部509は、第1の実施形態のエンコーダ100と同様であるため、説明を省略する。
[エンコーダ500の動作]
図22は第5の実施形態のエンコーダ500の動作の手順を示すフローチャートである。
まず、エンコーダ500の初期化処理が行われる(ステップS901)。この後、超広角画像や複数のスティッチング画像など、モニタリング用の画面と縦横比が異なる画像がエンコーダ500に入力される(ステップS902)。エンコーダ500に入力された画像は、サイズ調整部511にて、モニタリング用の画面の縦横比となるように分離および/または結合することによってサイズの調整がされる。
サイズ調整がされた画像は、その後、周波数分解部501にて低周波成分と高周波成分とに分離され、低周波成分は分岐部502に供給され、高周波成分はエントロピー符号化部506に供給される(ステップS903)。
低周波成分は、分岐部502にて第1の伝送部505と補助画像付加部503にそれぞれ供給される。これにより低周波成分が第1の伝送部505によってLink−Aを使って伝送される(ステップS906)。また、補助画像付加部503により補助画像が付加された低周波成分は、表示処理部310を通してカメラのモニターやビューファインダーなどに供給されてモニタリング画像として表示される。
図23は入力された超広角画像の横方向の解像度がハイビジョンサイズの8倍、縦方向の解像度がハイビジョンサイズの2倍である場合のエンコーダ500の処理の概念図である。この場合、サイズ調整部511は超広角画像を左右に2等分の位置で分離し、上下に連結することによって、ハイビジョンサイズの16倍の解像度の画像521とする。周波数分解部501は、この画像521に対して2段階の周波数分離を行うことによってハイビジョンサイズの低周波成分522を生成する。
一方、周波数分解部501で分離された高周波成分(図23の符号523)はエントロピー符号化部506にてエントロピー符号化された後(ステップS904)、誤り訂正符号化部507にて誤り訂正符号が付加される(ステップS905)。誤り訂正符号が付加された高周波成分は第2の伝送部508によってLink−Bを使って伝送される(ステップS906)。
[デコーダ550の構成]
次に、上記のエンコーダ500により圧縮符号化された画像をデコードするデコーダ550の構成を説明する。
図24はデコーダ550の構成を示すブロック図である。このデコーダ550は、第1の伝送部551(画像取得部)、第2の伝送部552(画像取得部)、誤り訂正復号部553、エントロピー逆符号化部554、周波数逆分解部555、および分離結合部556を備える。
第1の伝送部551は、Link−Aを通じて伝送されてきた超広角画像の低周波成分を受信し、分離結合部556に供給する。
第2の伝送部552は、Link−Bを通じて伝送されてきた超広角画像の高周波成分を受信し、誤り訂正復号部553に供給する。
誤り訂正復号部553は、第2の伝送部552より供給された超広角画像の高周波成分の誤り訂正復号を行う。
エントロピー逆符号化部554は、誤り訂正復号部553にて復号された超広角画像の高周波成分のエントロピー逆符号化を行う。
周波数逆分解部555は、第1の伝送部551より供給される超広角画像の低周波成分とエントロピー逆符号化部554より供給される超広角画像の高周波成分とを周波数逆分解により結合して、サイズ調整後の超広角画像(図23の符号521)を復元する。
分離結合部556は、周波数逆分解部555により復元された超広角画像がモニター画面に収まるように、復元された超広角画像を分離する。
[デコーダ550の動作]
図25はデコーダ550の動作の手順を示すフローチャートである。
まず、デコーダ550の初期化処理が行われる(ステップS1001)。この後、Link−AとLink−Bを通じてそれぞれ伝送されてきた超広角画像や複数のスティッチング画像など、モニタリング用の画面と縦横比が異なる画像の低周波成分と超広角画像の高周波成分をそれぞれ第1の伝送部551および第2の伝送部552で受信する(ステップS1002)。
第1の伝送部551にて受信された画像の低周波成分は周波数逆分解部555に供給される。一方、第2の伝送部552にて受信された画像の高周波成分は、誤り訂正復号部553にて復号された後(ステップS1003)、エントロピー逆符号化部554にて逆符号化されて(ステップS1004)、周波数逆分解部555に供給される。そして周波数逆分解部555にて、第1の伝送部551より供給された画像の低周波成分とエントロピー逆符号化部554より供給された高周波成分とが周波数逆分解により結合され、サイズ調整前の画像が復元される。
以上のように、本実施形態のエンコーダ500およびデコーダ550によれば、例えば現行の3D画像伝送システムなどのインフラをそのまま用いて、超広角画像や複数のスティッチング画像など、モニタリング用の画面と縦横比が異なる画像を伝送することができる。また、カメラのモニターやビューファインダーにモニタリング画像を表示させることも可能になる。
<第6の実施形態>
[6.ハイブリッド方式のエンコーダシステムとデコーダシステム]
本実施形態は、2チャンネルの伝送画像に複数の種類のエンコーダによって圧縮符号化された複数の画像を混在させて伝送し、デコーダ側でそれぞれの画像のエンコード方法に合せてデコード処理を行うことのできるハイブリッド方式のエンコーダシステムとデコーダシステムに関するものである。
2チャンネルの伝送画像に複数の種類のエンコーダによって圧縮符号化された複数の画像を混在させて伝送するとは、例えは次のようなことである。
図26は、ハイビジョンサイズの3つのスティッチング画像621、622、623と4Kハイビジョンサイズの1つの超高解像度画像624を2チャンネルの伝送画像にエンコードする場合の概念図である。
ここで、ハイビジョンサイズの3つのスティッチング画像621、622、623はそれぞれ、低周波成分621L、622L、623Lと高周波成分のエントロピー符号画像621H、622H、623Hとに分離されたこととする。一方、4Kハイビジョンサイズの超高解像画像624はダウンコン画像624Lと高周波成分のエントロピー符号画像624Hとに分離されたこととする。
3つのスティッチング画像の低周波成分621L、622L、623Lとダウンコン画像624Lはそれぞれ、Link−Aを伝送される伝送画像(以下「第1のチャンネルの伝送画像」と呼ぶ。)の空間を分割する4つのセクションにそれぞれ割り当てられて伝送される。また、3つのエントロピー符号画像621H、622H、623Hとエントロピー符号画像624Hは、Link−Bを伝送される画像(以下「第2のチャンネルの伝送画像」と呼ぶ。)の空間内の4つのセクションに割り当てられて伝送される。
また、図27および図28に示すように、第1のチャンネルの伝送画像および第2のチャンネルの伝送画像それぞれの空間内のセクションは、これを分割するさらに細かい複数のセクションで構成されてもよい。
ところで、2チャンネルの伝送画像に複数の種類のエンコーダによって圧縮符号化された複数の画像を混在させて伝送する場合には、デコーダ時に少なくとも次のような情報が必要である。
1.第1のチャンネルの伝送画像の各セッションへの画像の割当に関する情報(第1の割当情報)、
2.第2のチャンネルの伝送画像の各セッションへの画像の割当に関する情報(第2の割当情報)、
3.第1のチャンネルの伝送画像におけるセッションと第2のチャンネルの伝送画像におけるセッションとの対応関係を示す紐付け情報。
そこで、これらの情報をヘッダ情報として第1のチャンネルの伝送画像および第2のチャンネルの伝送画像にそれぞれ付加し、デコード時にそのヘッダ情報を解析してその結果をもとにデコードを行う、といった仕組みが必要である。以下、この仕組みを用いたエンコーダシステムおよびデコーダシステムをそれぞれハイブリッド方式のエンコーダシステムおよびデコーダシステムとして説明する。
[ハイブリッド方式のエンコーダシステムの構成]
図29はハイブリッド方式のエンコーダシステム600の構成を示すブロック図である。
このエンコーダシステム600は、エンコーダ選択部601、複数の種類のエンコーダ100a,200a,300a,400a,500a、第1の伝送画像構成部602、第2の伝送画像構成部603、第1の伝送部604、および第2の伝送部605を有する。
エンコーダ選択部601は、入力画像に対して処理を行うエンコーダを選択する。このエンコーダ選択部601によってどの入力画像をどのエンコーダで処理するかは、例えばユーザによって設定されてもよい。
複数の種類のエンコーダ100a,200a,300a,400a,500aはそれぞれ、例えば、第1の実施形態から第5の実施形態のエンコーダ100、200、300、400、500の構成から少なくとも第1の伝送部、第2の伝送部などを除いたものである。
第1の伝送画像構成部602は、エンコーダ選択部601によって選択された複数のエンコーダによる処理結果のうち、第1のチャンネルの伝送画像に割り当てられる処理結果(例えば超高解像度画像の低周波成分およびダウンコン画像、超高速画像の等倍速フレーム、超立体画像のダウンコン画像、超広角画像およびスティッチング画像の低周波成分など)を第1のチャンネルの伝送画像における複数のセクションに割り当てる。第1の伝送画像構成部602は、第1の割当情報と紐付け情報を含む第1のヘッダ情報を生成し、これを第1のチャンネルの伝送画像に付加して第1の伝送部604に供給する。
第2の伝送画像構成部603は、エンコーダ選択部601によって選択された複数のエンコーダによる処理結果のうち、第2のチャンネルの伝送画像に割り当てられる処理結果(例えば超高解像度画像の高周波成分のエントロピー符号画像、超高解像度画像のアップコン用補間画像のエントロピー符号画像、超高速画像のフレーム間補間画像のエントロピー符号画像、超立体画像のアップコン用補間画像のエントロピー符号画像、超広角画像およびスティッチング画像の高周波成分のエントロピー符号画像)を第2のチャンネルの伝送画像における複数のセクションに割り当てる。第2の伝送画像構成部603は、第2の割当情報と紐付け情報を含む第2のヘッダ情報を生成して第2のチャンネルの伝送画像に付加して第2の伝送部605に供給する。
なお、紐付け情報は、第1のヘッダ情報および第2のヘッダ情報のいずれか一方に含まれていればよい。また、第1のヘッダ情報と第2のヘッダ情報の内容を合わせて1つのヘッダ情報とし、これを第1のチャンネルの伝送画像および第2のチャンネルの伝送画像のいずれか一方に付加するだけでも構わない。すなわち、第1の割当情報、第2の割当情報、紐付け情報が、選択されたデコーダに伝達されれば、どのような仕組みで伝達してもよい。
第1の伝送部604は、第1の伝送画像構成部602により生成された第1のチャンネルの伝送画像をLink−Aを通じて伝送する。
第2の伝送部605は、第2の伝送画像構成部603により生成された第2のチャンネルの伝送画像をLink−Bを通じて伝送する。
次に、図26に示したように、ハイビジョンサイズの3つのスティッチング画像621、622、623と4Kハイビジョンサイズの1つの超高解像度画像624を入力画像とした場合のエンコーダシステム600の動作を説明する。
まず、エンコーダ選択部601は、例えば、予めユーザにより設定された情報をもとに、ハイビジョンサイズの3つのスティッチング画像621、622、623を処理するエンコーダとしてエンコーダ500aを選択し、4Kハイビジョンサイズの超高解像度画像624を処理するエンコーダとしてエンコーダ200aを選択する。
エンコーダ500aによって、3つのスティッチング画像621、622、623からそれぞれ、低周波成分621L、622L、623Lと高周波成分のエントロピー符号画像621H、622H、623Hが生成される。
一方、エンコーダ200aによって、4Kハイビジョンサイズの超高解像度画像624から、ダウンコン画像624Lと高周波成分のエントロピー符号画像624Hが生成される。
第1の伝送画像構成部602は、エンコーダ500aによって生成された3つの低周波成分621L、622L、623Lと、エンコーダ200aによって生成されたダウンコン画像624Lを第1のチャンネルの伝送画像における4つのセクションに割り当て、第1の割当情報を生成する。
一方、第2の伝送画像構成部603は、エンコーダ500aによって生成された高周波成分のエントロピー符号画像621H、622H、623Hとエンコーダ200aによって生成された高周波成分のエントロピー符号画像624Hを第2のチャンネルの伝送画像における4つのセクションに割り当て、第2の割当情報を生成する。
第1の伝送画像構成部602および第2の伝送画像構成部603は、各自の割当情報を交換し、これらをもとに紐付け情報を生成し、第1のヘッダ情報および第2のヘッダ情報を作成する。
第1の伝送画像構成部602は、第1の割当情報と紐付け情報を含む第1のヘッダ情報を第1のチャンネルの伝送画像に付加して第1の伝送部604に供給する。この後、第1の伝送部604によって、第1のヘッダ情報が付加された第1のチャンネルの伝送画像がLink−Aを使って伝送される。
一方、第2の伝送画像構成部603も同様に、第2の割当情報と紐付け情報を含む第2のヘッダ情報を第2のチャンネルの伝送画像に付加して第2の伝送部605に供給する。この後、第2の伝送部605によって、第2のヘッダ情報が付加された第2のチャンネルの伝送画像がLink−Bを使って伝送される。
[ハイブリッド方式のデコーダシステムの構成]
図30は、ハイブリッド方式のデコーダシステム650の構成を示すブロック図である。
このデコーダシステム650は、第1の伝送部651(画像取得部)、第2の伝送部652(画像取得部)、第1のヘッダ解析部653、第2のヘッダ解析部654、複数の種類のデコーダ150a,250a,350a,450a,550aを有する。
第1の伝送部651は、Link−Aを通じて伝送されてきた第1のチャンネルの伝送画像を受信し、第1のヘッダ解析部653に供給する。
第2の伝送部652は、Link−Bを通じて伝送されてきた第2のチャンネルの伝送画像を受信し、第2のヘッダ解析部654に供給する。
第1のヘッダ解析部653は、第1の伝送部651より供給された第1のチャンネルの伝送画像に付加された第1のヘッダ情報に含まれる第1の割当情報をもとに、第1のチャンネルの伝送画像におけるセクション毎の画像のデコードに適したそれそれのデコーダを判断して、それらのデコーダにセッション毎の画像を供給する。
第2のヘッダ解析部654は、第2の伝送部652より供給された第2のチャンネルの伝送画像に付加された第2のヘッダ情報に含まれる第2の割当情報をもとに、第2のチャンネルの伝送画像におけるセクション毎の画像のデコードに適したそれそれのデコーダを判断して、それらのデコーダにセッション毎の画像を供給する。
また、第1のヘッダ解析部653および第2のヘッダ解析部654は、第1のヘッダ情報および第2のヘッダ情報にそれぞれ含まれる紐付け情報をもとに、第1のチャンネルの伝送画像における各セッションの画像と第2のチャンネルの伝送画像における各セクションの画像において互いに同期して共通のデコーダに供給すべき画像を判断する。これにより、それぞれのデコーダにおいて、組み合せて処理すべき2つの画像が正しく取得される。
複数の種類のデコーダ150a,250a,350a,450a,550aは、例えば、第1の実施形態から第5の実施形態のデコーダ150、250、350、450、550の構成から少なくとも第1の伝送部、第2の伝送部などを除いたものである。
次に、図26に示した第1のチャンネルの伝送画像と第2のチャンネルの伝送画像を受信した場合のデコーダシステム650の動作を説明する。
第1のヘッダ解析部653は、第1のチャンネルの伝送画像に付加された第1のヘッダ情報に含まれる第1の割当情報から、第1のチャンネルの伝送画像における各セクションには、3つのスティッチング画像621、622、623それぞれの低周波成分621L、622L、623Lと、超高解像画像624のダウンコン画像624Lが割り当てられていることを判定する。
一方、第2のヘッダ解析部654は、第2のチャンネルの伝送画像に付加された第2のヘッダ情報に含まれる第2の割当情報から、第2のチャンネルの伝送画像における各セクションには、3つのスティッチング画像621、622、623それぞれの高周波成分のエントロピー符号画像621H、622H、623Hと、超高解像画像624の高周波成分のエントロピー符号画像624Hが割り当てられていることを判定する。
さらに、第1のヘッダ解析部653および第2のヘッダ解析部654は第1のヘッダ情報および第2のヘッダ情報にそれぞれ含まれる紐付け情報をもとに、第1のチャンネルの伝送画像における各セッションの画像と第2のチャンネルの伝送画像における各セクションの画像において互いに同期して共通のデコーダに供給すべき画像を判断する。
第1のヘッダ解析部653および第2のヘッダ解析部654は、以上の判定結果をもとに、次のように第1のチャンネルの伝送画像および第2のチャンネルの伝送画像の各セクションの画像を各デコーダ150a,250a,350a,450a,550aに選択的に供給する。
1.第1のヘッダ解析部653からデコーダ550aに、スティッチング画像621の低周波成分621Lが供給されるとともに、第2のヘッダ解析部654からデコーダ550aにスティッチング画像621の高周波成分のエントロピー符号画像621Hが供給される。これによりデコーダ550aにおいてスティッチング画像621のデコードが行われる。
2.次に、第1のヘッダ解析部653からデコーダ550aに、スティッチング画像622の低周波成分622Lが供給されるとともに、第2のヘッダ解析部654からデコーダ550aにスティッチング画像622の高周波成分のエントロピー符号画像622Hが供給される。これによりデコーダ550aにおいてスティッチング画像622のデコードが行われる。
3.次に、第1のヘッダ解析部653からデコーダ550aに、スティッチング画像623の低周波成分623Lが供給されるとともに、第2のヘッダ解析部654からデコーダ550aにスティッチング画像623の高周波成分のエントロピー符号画像623Hが供給される。これによりデコーダ550aにおいてスティッチング画像623のデコードが行われる。
4.第1のヘッダ解析部653からデコーダ250aに、超高解像画像624のダウンコン画像624Lが供給されるとともに、第2のヘッダ解析部654からデコーダ250aに、超高解像画像624の高周波成分のエントロピー符号画像624Hが供給される。これによりデコーダ250aにおいて超高解像画像624のデコードが実行される。
以上のように、本実施形態によれば、2チャンネルの伝送画像に複数の種類のエンコーダによって圧縮符号化された複数の画像を混在させて伝送し、デコーダ側でそれぞれの画像のエンコード方法に合せてデコード処理を行うことができる。
なお、伝送画像の空間を複数の矩形領域に分割した場合は最大1フレーム程度の遅延が発生する可能性がある。これを低減するために、ピクセル単位で順番に各セクションの画像情報を並べていくなどの対策がある。ただし、ピクセルを交互にならべた場合は、このままモニターを見ても複数画像が混ざった画像になるため、モニター表示の際に、ピクセルの並び変え処理が必要となる。
[カメラシステム]
図31は上記の各実施形態のエンコーダおよびデコーダを用いたカメラシステム1000の構成を示すブロック図である。
カメラシステム1000は、カメラ1001、CCU(Camera Control Unit)1002、デコーダBOX1003などで構成される。カメラ1001とCCU1002とは、現行の3D画像伝送システムにおいて採用されてきた2チャンネルの伝送路を通じて互いに双方向に通信可能なように接続される。CCU1002とデコーダBOX1003も同様に2チャンネルの伝送路を通じて互いに接続される。
カメラ1001はエンコーダを内蔵する。カメラ1001は例えば超高解像度カメラ、超高速カメラ、超立体画像を得るために視点毎の複数のカメラ、超広角カメラなどとすることができる。
CCU1002には、ユーザからの操作入力を受け付けることのできるコントロールパネル1004が接続されている。CCU1002は、コントロールパネル1004に対するユーザからの指示入力を受け付けて、この指示に対応するコマンドを生成し、カメラ1001に送信することによってカメラ1001を制御することが可能である。
デコーダBOX1003はデコーダを内蔵する機器である。
2チャンネルの伝送路としては、例えば、i.Link(登録商標)、光ファイバー伝送、3G−SDI(3G-Single Document Interface)などが用いられるが、これらに限定されない。また、2チャンネルの伝送路はストレージのような非同期の伝送手段であってもよい。
<変形例1>
[伝送アダプタ]
以上、本技術に係る実施形態として、エンコーダおよびデコーダを説明したが、本技術は、エンコーダより出力された画像を取り込み、他の伝送形式のデータに変換して他の機器に出力する伝送アダプタに応用することが可能である。
図32は、伝送アダプタを用いたカメラシステム1100の構成を示すブロック図である。
このカメラシステム1100は、カメラ1101、伝送アダプタ1110、CCU(Camera Control Unit)1102、デコーダBOX1103などで構成される。カメラ1101と伝送アダプタ1110とはLink−AおよびLink−Bで互いに接続されている。伝送アダプタ1110とCCU1102とは双方向の光ファイバー伝送路を通じて互いに接続されている。CCU1102とデコーダBOX1103とはLink−AおよびLink−Bにより互いに接続されている。
CCU1102は、コントロールパネル1104に対するユーザからの指示入力を受け付けて、この指示に対応するコマンドを生成し、伝送アダプタ1110を通じてカメラ1101に送信することによってカメラ1101を制御することが可能である。伝送アダプタ1110は表示部1120を有しており、例えば、Wavret変換された画像の低周波成分、ダウンコン画像など、Link−Aを伝送される画像を表示部1120を通して見ることが可能である。
図33は、本変形例1の伝送アダプタ1110の構成を示すブロック図である。
伝送アダプタ1110は、第1の受信部1111、第2の受信部1112、第1の分岐部1113、第2の分岐部1114、補助情報付加部1115、表示処理部1116、圧縮解析部1117、送信部1118を有する。
第1の受信部1111は、カメラ1101内のエンコーダよりLink−Aを通じて送信されてきた画像を受信して第1の分岐部1113に供給する。
第2の受信部1112は、カメラ1101内のエンコーダよりLink−Bを通じて送信されてきた画像を受信して第2の分岐部1114に供給する。
第1の分岐部1113は、第1の受信部1111より供給された画像を補助情報付加部1115および送信部1118に供給する。
第2の分岐部1114は、第2の受信部1112より供給された画像を圧縮解析部1117および送信部1118に供給する。
補助情報付加部1115は、第1の分岐部1113より供給された画像に例えばマーカー、ゼブラ、文字列など、画像をモニタリングするユーザを補助するための補助画像を付加する。補助画像を付加された画像は表示部1120に供給されて表示される。
圧縮解析部1117は、第2の分岐部1114より供給された画像の容量を解析してその結果を表示部1120に供給して表示させる。
送信部1118は、第1の分岐部1113より供給された画像および第2の分岐部1114より供給された画像の伝送形式を変換して相手側の機器に送信する。例えば、i.Link(登録商標)から光ファイバー伝送への変換、その逆向きの変換などを行うことが可能である。
この伝送アダプタ1110において、カメラ1101内のエンコーダよりLink−Aを通じて送信されてきた画像は第1の受信部1111にて受信される一方で、Link−Bを通じて送信されてきた画像は第2の受信部1112にて受信される。第1の受信部1111にて受信された画像は第1の分岐部1113によって、補助情報付加部1115に出力され、ユーザを補助するための補助画像を付加されて表示部1120に表示される一方で、送信部1118にも供給される。
また、第2の受信部1112にて受信された画像は第2の分岐部1114によって圧縮解析部1117に出力され、ここで画像の容量が解析されて、その解析結果が表示部1120に表示されるとともに送信部1118にも供給される。そして送信部1118では、第1の分岐部1113より供給された画像および第2の分岐部1114より供給された画像が結合され、他の伝送形式の符号に変換され、CCU1102に伝送される。
<変形例2>
次に、超立体画像などを生成するために複数のカメラにより撮影された画像の伝送に好適なマルチカメラ接続方式について説明する。マルチカメラ接続方式としてはカスケード接続がある。
図34はこのカスケード接続によるマルチカメラシステム1200の構成を示すブロック図である。
このマルチカメラシステム1200において、複数のカメラ1201は一本の画像伝送ライン1202と一本の同期信号ライン1203で互いに直列に接続されている。各カメラ1201にはエンコーダがそれぞれ内蔵されている。最下流のカメラ1201のエンコーダの出力は伝送アダプタ1204と接続され、さらに伝送アダプタ1204はCCU1205と光伝送路などの伝送路を通じて互いに接続される。
画像伝送ライン1202はそれぞれのカメラ1201のエンコーダで時分割に使用される。すなわち、それぞれのカメラに内蔵されたエンコーダの第1の伝送部および第2の伝送部は、同期信号を基準に自らに予め割り当てられたタイミングで画像伝送ライン1202を使用して画像を伝送する。
この構成により、複数のカメラ1201および伝送アダプタ1204が一本の画像伝送ライン1202と同期信号ライン1203とで直列に接続されたマルチカメラシステム1200を実現できる。
なお、この構成によると、撮像時には、各カメラ1201での同期信号の遅延量の違いを加味して撮像タイミングを進相または遅延させる処理を行うことが望ましい。あるいは、デコーダにおいて各カメラでの同期信号の遅延量を加味して同期補正を行うようにしてもよい。
ここまで、現行の3D画像伝送システムのインフラの利用を意識して2チャンネルのハイビジョン伝送画像で様々な形式の画像を伝送するためのエンコーダおよびデコーダについて説明してきた。しかし、本技術は、この現行の3D画像伝送システムのインフラの利用に縛られるものではない。例えば、第1の伝送部および/または第2の伝送部がそれぞれ、伝送画像をさらに複数のチャンネルに分割して伝送するような構成を採るようにしてもよい。より具体的には、次のような方式が考えられる。
1.1本のLinkに、ダウンコン画像伝送用の1.5Gbpsの帯域を割り当て、他の3本のリンクに圧縮符号化された画像伝送用の4.5Gbpsの帯域を割り当てる。
2.2本のLinkに、ダウンコン画像伝送用の3.0Gbpsの帯域を割り当て、他の2本のリンクに圧縮符号化された画像伝送用の3.0Gbpsの帯域を割り当てる。
3.1本のLinkに、ダウンコン画像伝送用の1.5Gbpsの帯域を割り当て、他の5本のリンクに圧縮符号化された画像伝送用の7.5Gbpsの帯域を割り当てる。
その他、様々な応用が考えられる。
なお、本技術は以下のような構成も取ることができる。
(1) 画像を入力し、この入力された画像を、互いに結合することにより復元可能な、モニタリング画像として利用可能な第1の成分と、その他の第2の成分とに分解する画像分解部であって、前記入力された画像からダウンコンバートによって前記モニタリング画像として利用可能なサイズの画像を前記第1の成分として生成するダウンコン部と、前記第1の成分を前記入力された画像のサイズまで画素拡大させた画像と前記入力された画像との差分を前記第2の成分として生成する第1の差分生成部と、を有する画像分解部と、
前記分解された前記第1の成分を第1のチャンネルの伝送画像として出力する第1の伝送部と、
前記第2の成分を圧縮符号化する圧縮符号化部と、
前記圧縮符号化された第2の成分を第2のチャンネルの伝送画像として出力する第2の伝送部と
を具備するエンコーダ。
(2) モニタリングのフレームレートより高いフレームレートで順次撮影された複数のフレームで構成される画像を入力し、この入力された画像を、互いに結合することにより復元可能な、モニタリング画像として利用可能な第1の成分と、その他の第2の成分とに分解する画像分解部であって、前記入力画像の前記複数のフレームから前記モニタリングのフレームレートでフレームをモニタリングフレームとして分離して前記第1の成分を生成するフレーム分離部と、前記入力画像の各フレームそれぞれを周波数分解によって低周波成分と高周波成分に分解する周波数分解部と、前記分解された各フレームそれぞれの低周波成分について、前記モニタリングフレームと、このモニタリングフレームから次のモニタリングフレームまでの間の1以上のフレームである非モニタリングフレームとのそれぞれの差分を前記第2の成分として生成する差分生成部と、を有する画像分解部と、
前記分解された前記第1の成分を第1のチャンネルの伝送画像として出力する第1の伝送部と、
前記第2の成分を圧縮符号化する圧縮符号化部と、
前記圧縮符号化された第2の成分を第2のチャンネルの伝送画像として出力する第2の伝送部と
を具備するエンコーダ。
(3) 立体画像を構成するために異なる視点で撮影された複数のフレームで構成される画像を入力し、この入力された画像を、互いに結合することにより復元可能な、モニタリング画像として利用可能な第1の成分と、その他の第2の成分とに分解する画像分解部であって、前記入力画像をフレーム毎に分離するフレーム分離部と、前記分離された各フレームをそれぞれ周波数分解により低周波成分と高周波成分に分解して、高周波成分を前記第2の成分として生成する周波数分解部と、前記各フレームについて前記分解された各低周波成分を結合して前記第1の成分を生成する結合部と、を有する画像分解部と、
前記分解された前記第1の成分を第1のチャンネルの伝送画像として出力する第1の伝送部と、
前記第2の成分を圧縮符号化する圧縮符号化部と、
前記圧縮符号化された第2の成分を第2のチャンネルの伝送画像として出力する第2の伝送部と
を具備するエンコーダ。
(4) モニタリング用の画面の縦横比に対して異なる縦横比を有する画像を入力し、この入力された画像を、前記モニタリング用の画面の縦横比となるように分離および/または結合するサイズ調整部と、
前記サイズ調整部より出力された画像を、互いに結合することにより復元可能な、モニタリング画像として利用可能な第1の成分と、その他の第2の成分とに分解する画像分解部と、
前記分解された前記第1の成分を第1のチャンネルの伝送画像として出力する第1の伝送部と、
前記第2の成分を圧縮符号化する圧縮符号化部と、
前記圧縮符号化された第2の成分を第2のチャンネルの伝送画像として出力する第2の伝送部と
を具備するエンコーダ。
(5)前記(1)から(4)のいずれかに記載のエンコーダより伝送された前記第1のチャンネルの伝送画像を受信する第1の受信部と、
前記エンコーダより伝送された前記第2のチャンネルの伝送画像を受信する第2の受信部と、
前記第1の受信部により受信された前記第1のチャンネルの伝送画像および前記第2の受信部により受信された前記第2のチャンネルの伝送画像を結合し、伝送形式を変換して送信する送信部と
を具備する伝送アダプタ。
(6)前記(1)から(4)のいずれかに記載のエンコーダを内蔵する撮像装置。
100…エンコーダ
101…周波数分解部
103…補助画像付加部
105…第1の伝送部
106…エントロピー符号化部
107…誤り訂正符号化部
108…第2の伝送部
109…圧縮解析部
110…表示処理部
150…デコーダ
151…第1の伝送部
152…第2の伝送部
153…誤り訂正復号部
154…エントロピー逆符号化部
155…周波数逆分解部
200…エンコーダ
201…ダウンコン部
203…補助画像付加部
204…差分生成部
205…第1の伝送部
206…エントロピー符号化部
207…誤り訂正符号化部
208…第2の伝送部
209…圧縮解析部
210…表示処理部
211…周波数分解部
250…デコーダ
251…第1の伝送部
252…第2の伝送部
253…誤り訂正復号部
254…エントロピー逆符号化部
256…アップコン部
300…エンコーダ
301…フレーム分離部
303…補助画像付加部
304…差分生成部
305…第1の伝送部
306…エントロピー符号化部
307…誤り訂正符号化部
308…第2の伝送部
309…圧縮解析部
310…表示処理部
311…周波数分解部
350…デコーダ
351…第1の伝送部
352…第2の伝送部
353…誤り訂正復号部
354…エントロピー逆符号化部
355…周波数逆分解部
356…差分復元部
357…フレーム連結部
358…周波数分解部
400…エンコーダ
401…フレーム分離部
403…補助画像付加部
405…第1の伝送部
406…エントロピー符号化部
407…誤り訂正符号化部
408…第2の伝送部
409…圧縮解析部
410…表示処理部
411…周波数分解部
412…分離結合部
413…変換部
450…デコーダ
451…第1の伝送部
452…第2の伝送部
453…誤り訂正復号部
454…エントロピー逆符号化部
455…分離部
456…結合部
457…周波数逆分解部
500…エンコーダ
501…周波数分解部
503…補助画像付加部
505…第1の伝送部
506…エントロピー符号化部
507…誤り訂正符号化部
508…第2の伝送部
509…圧縮解析部
510…表示処理部
511…サイズ調整部
550…デコーダ
551…第1の伝送部
552…第1の伝送部
553…誤り訂正復号部
554…エントロピー逆符号化部
555…周波数逆分解部
556…分離結合部
600…エンコーダシステム
601…エンコーダ選択部
602…第1の伝送画像構成部
603…第2の伝送画像構成部
604…第1の伝送部
605…第2の伝送部
650…デコーダシステム
651…第1の伝送部
652…第2の伝送部
653…第1のヘッダ解析部
654…第2のヘッダ解析部
1000…カメラシステム
1001…カメラ
1002…CCU
1003…デコーダBOX
1004…コントロールパネル
1100…カメラシステム
1101…カメラ
1110…伝送アダプタ
1111…第1の受信部
1112…第2の受信部
1117…圧縮解析部
1118…送信部

Claims (20)

  1. 画像を入力し、この入力された画像を、互いに結合することにより復元可能な、モニタリング画像として利用可能な第1の成分とその他の第2の成分とに周波数分解によって分解する画像分解部と、
    前記分解された前記第1の成分を第1のチャンネルの伝送画像として出力する第1の伝送部と、
    前記第2の成分を圧縮符号化する圧縮符号化部と、
    前記圧縮符号化された第2の成分を第2のチャンネルの伝送画像として出力する第2の伝送部と
    を具備するエンコーダ。
  2. 請求項1に記載のエンコーダであって、
    前記第1の成分にモニタリング用の補助画像を付加する補助画像付加部と、
    前記補助画像の付加された前記第1の成分を前記モニタリング画像として出力する出力部とをさらに具備する
    エンコーダ。
  3. 請求項2に記載のエンコーダであって、
    前記圧縮符号化された第2の成分の容量を解析して解析結果を可視情報として出力する圧縮解析部をさらに具備する
    エンコーダ。
  4. 請求項1に記載のエンコーダであって、
    前記第1の伝送部および/または前記第2の伝送部が、伝送画像をさらに複数のチャンネルに分割して伝送する
    エンコーダ。
  5. 画像を入力し、この入力された画像を、互いに結合することにより復元可能な、モニタリング画像として利用可能な第1の成分とその他の第2の成分とに周波数分解によって分解する画像分解部と、
    前記分解された前記第1の成分を第1のチャンネルの伝送画像として出力する第1の伝送部と、
    前記第2の成分を圧縮符号化する圧縮符号化部と、
    前記圧縮符号化された第2の成分を第2のチャンネルの伝送画像として出力する第2の伝送部と
    を具備するエンコーダと組み合わせて用いることが可能なデコーダであって、
    前記第1のチャンネルの伝送画像として伝送された前記第1の成分および前記第2のチャンネルの伝送画像として伝送された前記第2の成分をそれぞれ取得する画像取得部と、
    前記取得した第2の成分を伸張復号する伸張復号部と、
    前記取得した前記第1の成分と前記伸張復号された第2の成分とを結合して元の画像を復元する画像復元部と
    を具備するデコーダ。
  6. 画像を入力し、この入力された画像を、互いに結合することにより復元可能な、モニタリング画像として利用可能な第1の成分と、その他の第2の成分とに分解する画像分解部であって、前記入力された画像からダウンコンバートによって前記モニタリング画像として利用可能なサイズの画像を前記第1の成分として生成するダウンコン部と、前記第1の成分を前記入力された画像のサイズまで画素拡大させた画像と前記入力された画像との差分を前記第2の成分として生成する差分生成部と、を有する画像分解部と、
    前記分解された前記第1の成分を第1のチャンネルの伝送画像として出力する第1の伝送部と、
    前記第2の成分を圧縮符号化する圧縮符号化部と、
    前記圧縮符号化された第2の成分を第2のチャンネルの伝送画像として出力する第2の伝送部と
    を具備するエンコーダ。
  7. 画像を入力し、この入力された画像を、互いに結合することにより復元可能な、モニタリング画像として利用可能な第1の成分と、その他の第2の成分とに分解する画像分解部であって、前記入力された画像からダウンコンバートによって前記モニタリング画像として利用可能なサイズの画像を前記第1の成分として生成するダウンコン部と、前記第1の成分を前記入力された画像のサイズまで画素拡大させた画像と前記入力された画像との差分を前記第2の成分として生成する差分生成部と、を有する画像分解部と、
    前記分解された前記第1の成分を第1のチャンネルの伝送画像として出力する第1の伝送部と、
    前記第2の成分を圧縮符号化する圧縮符号化部と、
    前記圧縮符号化された第2の成分を第2のチャンネルの伝送画像として出力する第2の伝送部と
    を具備するエンコーダと組み合わせて用いることが可能なデコーダであって、
    前記第1のチャンネルの伝送画像として伝送された前記第1の成分および前記第2のチャンネルの伝送画像として伝送された前記第2の成分をそれぞれ取得する画像取得部と、
    前記取得した第2の成分の伸張復号する伸張復号部と、
    前記取得した前記第1の成分と前記伸張復号された第2の成分とを結合して元の画像を復元する画像復元部であって、前記第1の成分を画素拡大により拡大し、この拡大画像と前記伸張復号された第2の成分とを加算することによって前記元の画像を復元する画像復元部と
    を具備するデコーダ。
  8. モニタリングのフレームレートより高いフレームレートで順次撮影された複数のフレームで構成される画像を入力し、この入力された画像を、互いに結合することにより復元可能な、モニタリング画像として利用可能な第1の成分と、その他の第2の成分とに分解する画像分解部であって、前記入力画像の前記複数のフレームから前記モニタリングのフレームレートでフレームをモニタリングフレームとして分離して前記第1の成分を生成するフレーム分離部と、前記入力画像の各フレームそれぞれを周波数分解によって低周波成分と高周波成分に分解する周波数分解部と、前記分解された各フレームそれぞれの低周波成分について、前記モニタリングフレームと、このモニタリングフレームから次のモニタリングフレームまでの間の1以上のフレームである非モニタリングフレームとのそれぞれの差分を前記第2の成分として生成する差分生成部と、を有する画像分解部と、
    前記分解された前記第1の成分を第1のチャンネルの伝送画像として出力する第1の伝送部と、
    前記第2の成分を圧縮符号化する圧縮符号化部と、
    前記圧縮符号化された第2の成分を第2のチャンネルの伝送画像として出力する第2の伝送部と
    を具備するエンコーダ。
  9. モニタリングのフレームレートより高いフレームレートで順次撮影された複数のフレームで構成される画像を入力し、この入力された画像を、互いに結合することにより復元可能な、モニタリング画像として利用可能な第1の成分と、その他の第2の成分とに分解する画像分解部であって、前記入力画像の前記複数のフレームから前記モニタリングのフレームレートでフレームをモニタリングフレームとして分離して前記第1の成分を生成するフレーム分離部と、前記入力画像の各フレームそれぞれを周波数分解によって低周波成分と高周波成分に分解する周波数分解部と、前記分解された各フレームそれぞれの低周波成分について、前記モニタリングフレームと、このモニタリングフレームから次のモニタリングフレームまでの間の1以上のフレームである非モニタリングフレームとのそれぞれの差分を前記第2の成分として生成する差分生成部と、を有する画像分解部と、
    前記分解された前記第1の成分を第1のチャンネルの伝送画像として出力する第1の伝送部と、
    前記第2の成分を圧縮符号化する圧縮符号化部と、
    前記圧縮符号化された第2の成分を第2のチャンネルの伝送画像として出力する第2の伝送部と
    を具備するエンコーダと組み合わせて用いることが可能なデコーダであって、
    前記第1のチャンネルの伝送画像として伝送された前記第1の成分および前記第2のチャンネルの伝送画像として伝送された前記第2の成分をそれぞれ取得する画像取得部と、
    前記取得した第2の成分の伸張復号する伸張復号部と、
    前記取得した前記第1の成分と前記伸張復号された第2の成分とを結合して元の画像を復元する画像復元部であって、前記取得した第1の成分を周波数分解によって低周波成分と高周波成分に分解する周波数分解部と、前記分解された低周波成分と前記伸張復号された第2の成分とから前記非モニタリングフレームの低周波成分を復元する差分復元部と、前記復元された低周波成分と前記第2の成分に含まれる高周波成分とから周波数逆分解によって前記非モニタリングフレームを復元する周波数逆分解部と、前記第2の画像取得部により取得された前記第1の成分であるモニタリングフレームと前記周波数逆分解部により復元された1以上の非モニタリングフレームとを連結するフレーム連結部と、を有する画像復元部と
    を具備するデコーダ。
  10. 立体画像を構成するために異なる視点で撮影された複数のフレームで構成される画像を入力し、この入力された画像を、互いに結合することにより復元可能な、モニタリング画像として利用可能な第1の成分と、その他の第2の成分とに分解する画像分解部であって、前記入力画像をフレーム毎に分離するフレーム分離部と、前記分離された各フレームをそれぞれ周波数分解により低周波成分と高周波成分に分解して、高周波成分を前記第2の成分として生成する周波数分解部と、前記各フレームについて前記分解された各低周波成分を結合して前記第1の成分を生成する結合部と、を有する画像分解部と、
    前記分解された前記第1の成分を第1のチャンネルの伝送画像として出力する第1の伝送部と、
    前記第2の成分を圧縮符号化する圧縮符号化部と、
    前記圧縮符号化された第2の成分を第2のチャンネルの伝送画像として出力する第2の伝送部と
    を具備するエンコーダ。
  11. 立体画像を構成するために異なる視点で撮影された複数のフレームで構成される画像を入力し、この入力された画像を、互いに結合することにより復元可能な、モニタリング画像として利用可能な第1の成分と、その他の第2の成分とに分解する画像分解部であって、前記入力画像をフレーム毎に分離するフレーム分離部と、前記分離された各フレームをそれぞれ周波数分解により低周波成分と高周波成分に分解して、高周波成分を前記第2の成分として生成する周波数分解部と、前記各フレームについて前記分解された各低周波成分を結合して前記第1の成分を生成する結合部と、を有する画像分解部と、
    前記分解された前記第1の成分を第1のチャンネルの伝送画像として出力する第1の伝送部と、
    前記第2の成分を圧縮符号化する圧縮符号化部と、
    前記圧縮符号化された第2の成分を第2のチャンネルの伝送画像として出力する第2の伝送部と
    を具備するエンコーダと組み合わせて用いることが可能なデコーダであって、
    前記第1のチャンネルの伝送画像として伝送された前記第1の成分および前記第2のチャンネルの伝送画像として伝送された前記第2の成分をそれぞれ取得する画像取得部と、
    前記取得した第2の成分を伸張復号する伸張復号部と、
    前記取得した前記第1の成分と前記伸張復号された第2の成分とを結合して元の画像を復元する画像復元部であって、前記取得した第1の成分をフレーム毎に分離するフレーム分離部と、前記フレーム毎に分離された前記第1の成分と、前記伸張復号された第2の成分とを結合する結合部と、前記結合された前記第1の成分と第2の成分から周波数逆分解によって前記立体画像を復元する周波数逆分解部と、を有する画像復元部と
    を具備するデコーダ。
  12. モニタリング用の画面の縦横比に対して異なる縦横比を有する画像を入力し、この入力された画像を、前記モニタリング用の画面の縦横比となるように分離および/または結合するサイズ調整部と、
    前記サイズ調整部より出力された画像を、互いに結合することにより復元可能な、モニタリング画像として利用可能な第1の成分と、その他の第2の成分とに分解する画像分解部と、
    前記分解された前記第1の成分を第1のチャンネルの伝送画像として出力する第1の伝送部と、
    前記第2の成分を圧縮符号化する圧縮符号化部と、
    前記圧縮符号化された第2の成分を第2のチャンネルの伝送画像として出力する第2の伝送部と
    を具備するエンコーダ。
  13. モニタリング用の画面の縦横比に対して異なる縦横比を有する画像を入力し、この入力された画像を、前記モニタリング用の画面の縦横比となるように分離および/または結合するサイズ調整部と、
    前記サイズ調整部より出力された画像を、互いに結合することにより復元可能な、モニタリング画像として利用可能な第1の成分と、その他の第2の成分とに分解する画像分解部と、
    前記分解された前記第1の成分を第1のチャンネルの伝送画像として出力する第1の伝送部と、
    前記第2の成分を圧縮符号化する圧縮符号化部と、
    前記圧縮符号化された第2の成分を第2のチャンネルの伝送画像として出力する第2の伝送部と、を具備するエンコーダと組み合わせて用いられるデコーダであって、
    前記第1のチャンネルの伝送画像として伝送された前記第1の成分および前記第2のチャンネルの伝送画像として伝送された前記第2の成分をそれぞれ取得する画像取得部と、
    前記取得した第2の成分の伸張復号する伸張復号部と、
    前記取得した前記第1の成分と前記伸張復号された第2の成分とを結合して元の画像を復元する画像復元部と
    を具備するデコーダ。
  14. 入力された画像を、互いに結合することにより復元可能な、モニタリング画像として利用可能な第1の成分と、その他の第2の成分とに分解する画像分解部と、前記第2の成分を圧縮符号化する圧縮符号化部とを具備し、前記分解された前記第1の成分を出力するとともに、前記圧縮符号化された第2の成分を出力することが可能な複数のエンコーダであって、それぞれ前記画像分解部による画像分解の方式が互いに異なる複数のエンコーダと;
    入力された画像のエンコードに使用する複数の前記エンコーダを選択するエンコーダ選択部と;
    前記選択された複数のエンコーダより出力された複数の前記第1の成分を第1のチャンネルの伝送画像の空間を分割する複数のセクションに割り当て、当該割り当てに関する情報を少なくとも含む第1のヘッダ情報を生成して前記第1のチャンネルの伝送画像に付加する第1の伝送画像構成部と;
    前記第1のヘッダ情報が付加された前記第1のチャンネルの伝送画像を伝送する第1の伝送部と;
    前記選択された複数のエンコーダより出力された複数の前記第2の成分を前記第2のチャンネルの伝送画像の空間内を区分する複数のセクションに割り当て、当該割り当てに関する情報を少なくとも含む第2のヘッダ情報を生成して前記第2のチャンネルの伝送画像に付加する第2の伝送画像構成部と;
    前記第2のヘッダ情報が付加された前記第2のチャンネルの伝送画像を伝送する第2の伝送部と;
    を具備するエンコーダシステム。
  15. 請求項14に記載のエンコーダシステムであって、
    前記第1の伝送画像構成部および前記第2の伝送画像構成部のうち少なくとも一方は、前記第1のチャンネルの伝送画像の個々のセッションに割り当てられた個々の前記第1の成分と、前記第2のチャンネルの伝送画像の個々のセッションに割り当てられた個々の前記第2の成分とを互いに紐付ける紐付け情報を生成して、前記第1のヘッダ情報および前記第2のヘッダ情報の少なくとも一方に付加する
    エンコーダシステム。
  16. 入力された画像を、互いに結合することにより復元可能な、モニタリング画像として利用可能な第1の成分と、その他の第2の成分とに分解する画像分解部と、前記第2の成分を圧縮符号化する圧縮符号化部とを具備し、前記分解された前記第1の成分を出力するとともに、前記圧縮符号化された第2の成分を出力することが可能な複数のエンコーダであって、それぞれ前記画像分解部による画像分解の方式が互いに異なる複数のエンコーダと;
    入力された画像のエンコードに使用する複数の前記エンコーダを選択するエンコーダ選択部と;
    前記選択された複数のエンコーダより出力された複数の前記第1の成分を第1のチャンネルの伝送画像の空間を分割する複数のセクションに割り当て、当該割り当てに関する情報を少なくとも含む第1のヘッダ情報を生成して前記第1のチャンネルの伝送画像に付加する第1の伝送画像構成部と;
    前記第1のヘッダ情報が付加された前記第1のチャンネルの伝送画像を伝送する第1の伝送部と;
    前記選択された複数のエンコーダより出力された複数の前記第2の成分を前記第2のチャンネルの伝送画像の空間内を区分する複数のセクションに割り当て、当該割り当てに関する情報を少なくとも含む第2のヘッダ情報を生成して前記第2のチャンネルの伝送画像に付加する第2の伝送画像構成部と;
    前記第2のヘッダ情報が付加された前記第2のチャンネルの伝送画像を伝送する第2の伝送部と;を具備するエンコーダシステムと組み合わせて用いられるデコーダシステムであって、
    前記複数のエンコーダにそれぞれ対応する複数のデコーダと;
    前記エンコーダシステムより伝送された前記第1のチャンネルの伝送画像および前記第2のチャンネルの伝送画像をそれぞれ取得する画像取得部と、
    前記取得された第1のチャンネルの伝送画像に付加された前記第1のヘッダ情報をもとに、前記第1のチャンネルの伝送画像の前記複数のセッションにそれぞれ割り当てられた複数の前記第1の成分を前記複数のデコーダに選択的に供給する第1のヘッダ解析部と、
    前記取得された第2のチャンネルの伝送画像に付加された前記第2のヘッダ情報をもとに、前記第2のチャンネルの伝送画像の前記複数のセッションにそれぞれ割り当てられた複数の前記第2の成分を前記複数のデコーダに選択的に供給する第2のヘッダ解析部と、
    を具備するデコーダシステム
  17. 画像を入力し、この入力された画像を、互いに結合することにより復元可能な、モニタリング画像として利用可能な第1の成分とその他の第2の成分とに周波数分解によって分解する画像分解部と、
    前記分解された前記第1の成分を第1のチャンネルの伝送画像として出力する第1の伝送部と、
    前記第2の成分を圧縮符号化する圧縮符号化部と、
    前記圧縮符号化された第2の成分を第2のチャンネルの伝送画像として出力する第2の伝送部と、を具備するエンコーダより伝送された前記第1のチャンネルの伝送画像を受信する第1の受信部と、
    前記エンコーダより伝送された前記第2のチャンネルの伝送画像を受信する第2の受信部と、
    前記第1の受信部により受信された前記第1のチャンネルの伝送画像および前記第2の受信部により受信された前記第2のチャンネルの伝送画像を結合し、伝送形式を変換して送信する送信部と
    を具備する伝送アダプタ。
  18. 入力された画像を、互いに結合することにより復元可能な、モニタリング画像として利用可能な第1の成分と、その他の第2の成分とに分解し、
    前記分解された前記第1の成分を第1のチャンネルの伝送画像として出力し、
    前記第2の成分を圧縮符号化し、
    前記圧縮符号化された第2の成分を第2のチャンネルの伝送画像として出力する
    エンコード方法。
  19. 入力された画像を、互いに結合することにより復元可能な、モニタリング画像として利用可能な第1の成分と、その他の第2の成分とに分解し、
    前記分解された前記第1の成分を第1のチャンネルの伝送画像として出力し、
    前記第2の成分を圧縮符号化し、
    前記圧縮符号化された第2の成分を第2のチャンネルの伝送画像として出力するエンコード方法により前記第1のチャンネルの伝送画像として出力された前記第1の成分および前記第2のチャンネルの伝送画像として出力された前記第2の成分をそれぞれ取得し、
    取得した前記第2の成分の伸張復号し、
    前記取得した前記第1の成分と前記伸張復号された第2の成分とを結合して元の画像を復元する
    デコード方法。
  20. 画像を入力し、この入力された画像を、互いに結合することにより復元可能な、モニタリング画像として利用可能な第1の成分とその他の第2の成分とに周波数分解によって分解する画像分解部と、
    前記分解された前記第1の成分を第1のチャンネルの伝送画像として出力する第1の伝送部と、
    前記第2の成分を圧縮符号化する圧縮符号化部と、
    前記圧縮符号化された第2の成分を第2のチャンネルの伝送画像として出力する第2の伝送部と
    を具備するエンコーダを内蔵する
    撮像装置。
JP2011103579A 2011-05-06 2011-05-06 エンコーダ、デコーダ、エンコーダシステム、デコーダシステム、伝送アダプタ、エンコード方法、デコード方法、および撮像装置 Withdrawn JP2012235383A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2011103579A JP2012235383A (ja) 2011-05-06 2011-05-06 エンコーダ、デコーダ、エンコーダシステム、デコーダシステム、伝送アダプタ、エンコード方法、デコード方法、および撮像装置
US13/456,664 US8774539B2 (en) 2011-05-06 2012-04-26 Encoder, decoder, encoder system, decoder system, transmission adapter, encoding method, decoding method, and imaging apparatus
CN2012101368844A CN102780881A (zh) 2011-05-06 2012-04-28 编解码器、编解码系统及方法、传送适配器和成像装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011103579A JP2012235383A (ja) 2011-05-06 2011-05-06 エンコーダ、デコーダ、エンコーダシステム、デコーダシステム、伝送アダプタ、エンコード方法、デコード方法、および撮像装置

Publications (1)

Publication Number Publication Date
JP2012235383A true JP2012235383A (ja) 2012-11-29

Family

ID=47090284

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011103579A Withdrawn JP2012235383A (ja) 2011-05-06 2011-05-06 エンコーダ、デコーダ、エンコーダシステム、デコーダシステム、伝送アダプタ、エンコード方法、デコード方法、および撮像装置

Country Status (3)

Country Link
US (1) US8774539B2 (ja)
JP (1) JP2012235383A (ja)
CN (1) CN102780881A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013026805A (ja) * 2011-07-20 2013-02-04 Nippon Telegr & Teleph Corp <Ntt> 映像符号化装置及び映像復号装置

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9025899B2 (en) * 2011-10-14 2015-05-05 Advanced Micro Devices, Inc. Region-based image compression
US9836433B1 (en) * 2012-04-02 2017-12-05 Rockwell Collins, Inc. Image processing using multiprocessor discrete wavelet transform
JP2014060543A (ja) * 2012-09-14 2014-04-03 Sony Corp エンコード装置、デコード装置およびスイッチャ装置
GB2524250A (en) * 2014-03-17 2015-09-23 Sony Comp Entertainment Europe Image processing
FR3038484B1 (fr) * 2015-07-01 2017-07-28 Ateme Procede d'encodage d'image et equipement pour la mise en oeuvre du procede
CN105677283B (zh) * 2016-03-02 2018-10-09 广东农工商职业技术学院(农业部华南农垦干部培训中心) 一种应用于多屏拼接显示的视频信号传输方法及装置
CN105847778B (zh) * 2016-03-29 2018-06-19 朱光喜 360°多视点3d全息视频采集方法、设备及实现方法
CN114416000B (zh) * 2021-12-29 2024-02-20 上海赫千电子科技有限公司 一种应用于智能汽车的多屏互动方法、多屏互动系统

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5235420A (en) * 1991-03-22 1993-08-10 Bell Communications Research, Inc. Multilayer universal video coder
US5253058A (en) * 1992-04-01 1993-10-12 Bell Communications Research, Inc. Efficient coding scheme for multilevel video transmission
US6091777A (en) * 1997-09-18 2000-07-18 Cubic Video Technologies, Inc. Continuously adaptive digital video compression system and method for a web streamer
JP4281309B2 (ja) * 2002-08-23 2009-06-17 ソニー株式会社 画像処理装置、画像処理方法、および画像フレームデータ記憶媒体、並びにコンピュータ・プログラム
JP2004266497A (ja) 2003-02-28 2004-09-24 Rikogaku Shinkokai ステレオ映像放送受信用セットトップボックスおよびステレオ映像放送方法
EP2092747B1 (en) * 2006-12-14 2015-08-12 Thomson Licensing Method and apparatus for encoding and/or decoding bit depth scalable video data using adaptive enhancement layer prediction
US8249142B2 (en) * 2008-04-24 2012-08-21 Motorola Mobility Llc Method and apparatus for encoding and decoding video using redundant encoding and decoding techniques
US8488680B2 (en) * 2008-07-30 2013-07-16 Stmicroelectronics S.R.L. Encoding and decoding methods and apparatus, signal and computer program product therefor
KR101012980B1 (ko) * 2009-03-16 2011-02-10 한국방송공사 계층적 방송 장치 및 방법

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013026805A (ja) * 2011-07-20 2013-02-04 Nippon Telegr & Teleph Corp <Ntt> 映像符号化装置及び映像復号装置

Also Published As

Publication number Publication date
US20120281927A1 (en) 2012-11-08
CN102780881A (zh) 2012-11-14
US8774539B2 (en) 2014-07-08

Similar Documents

Publication Publication Date Title
JP2012235383A (ja) エンコーダ、デコーダ、エンコーダシステム、デコーダシステム、伝送アダプタ、エンコード方法、デコード方法、および撮像装置
KR102090344B1 (ko) 화상 처리 장치 및 방법, 및 기록 매체
CN101253774B (zh) 使用视角时间参考图像缓冲器的预测编码/解码装置及使用其的方法
US9131247B2 (en) Multi-view video coding using scalable video coding
KR102343700B1 (ko) 독립적으로 인코딩된 배경 업데이트들에 기초한 비디오 송신
US20090190662A1 (en) Method and apparatus for encoding and decoding multiview video
WO1999011073A1 (en) Stereoscopic image video signal generator, stereoscopic image video signal transmitter, stereoscopic image video signal receiver, and stereoscopic image video signal transmission switching device
US9473788B2 (en) Frame-compatible full resolution stereoscopic 3D compression and decompression
KR100285599B1 (ko) 격행 부호화에서의 움직임 추정을 위한 텍스쳐 패딩 장치 및그 패딩 방법
KR20080037593A (ko) 다시점 비디오의 스케일러블 코딩 및 디코딩 방법과, 코딩및 디코딩 장치
CN101656825A (zh) 一种信号处理的方法及系统
JP2010148089A (ja) 映像分割基盤超高解像度ビデオ符号化および復号化装置、およびその制御方法
CN104243966A (zh) 用于生成、存储、传送、接收和再现深度图的方法和设备
CN111953996B (zh) 视频解码的方法和装置
US20100195900A1 (en) Apparatus and method for encoding and decoding multi-view image
WO2007013194A1 (ja) 画像情報圧縮方法及び自由視点テレビシステム
KR100704938B1 (ko) 스테레오스코픽 영상의 부호화/복호화 방법 및 장치
US20080008241A1 (en) Method and apparatus for encoding/decoding a first frame sequence layer based on a second frame sequence layer
JP2000308089A (ja) 立体画像符号化装置および復号化装置
JP5172874B2 (ja) 映像同期装置、映像表示装置、映像同期方法及びプログラム
JP4104895B2 (ja) 立体画像符号化装置および立体画像復号装置
US20070242747A1 (en) Method and apparatus for encoding/decoding a first frame sequence layer based on a second frame sequence layer
US20070280354A1 (en) Method and apparatus for encoding/decoding a first frame sequence layer based on a second frame sequence layer
KR100898700B1 (ko) 다중 시점의 영상을 이용한 초고해상도 방송 시스템 및방법
KR20160008011A (ko) 초고해상도 영상 처리를 위한 장치

Legal Events

Date Code Title Description
A300 Application deemed to be withdrawn because no request for examination was validly filed

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20140805