JP2009189058A - 動画像データの符号変換伝送方法及び装置と符号変換受信方法及び装置 - Google Patents

動画像データの符号変換伝送方法及び装置と符号変換受信方法及び装置 Download PDF

Info

Publication number
JP2009189058A
JP2009189058A JP2009125263A JP2009125263A JP2009189058A JP 2009189058 A JP2009189058 A JP 2009189058A JP 2009125263 A JP2009125263 A JP 2009125263A JP 2009125263 A JP2009125263 A JP 2009125263A JP 2009189058 A JP2009189058 A JP 2009189058A
Authority
JP
Japan
Prior art keywords
code conversion
data
moving image
transmission
encoded
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009125263A
Other languages
English (en)
Other versions
JP5463733B2 (ja
Inventor
Hiroaki Idei
洋明 出井
Atsushi Hatao
敦史 幡生
Kazunori Ozawa
一範 小澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2009125263A priority Critical patent/JP5463733B2/ja
Publication of JP2009189058A publication Critical patent/JP2009189058A/ja
Application granted granted Critical
Publication of JP5463733B2 publication Critical patent/JP5463733B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/89Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder
    • H04N19/895Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder in combination with error concealment
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/40Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video transcoding, i.e. partial or full decoding of a coded input stream followed by re-encoding of the decoded output stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/89Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

【課題】符号化データの伝送エラーにより生じる受信側復号画像の著しい乱れを、目立たない程度まで抑えることができる画像データの伝送方法及び装置を提供する。
【解決手段】圧縮符号化データを入力して変換し伝送路に出力する符号変換伝送装置は、入力された符号化データと入力された符号化データを再符号化した符号化データ、又は、入力された符号化データをそれぞれ別々に再符号化した符号化データよりなる複数の符号化データを出力し、複数の符号化データを少なくとも1つの伝送路に送出する符号変換送信部を備えている。入力された符号化データと、再符号化した符号化データのそれぞれの少なくとも一部が伝送路に送出される。
【選択図】図7

Description

本発明は、符号データの伝送技術に関し、特に、符号化された動画像データを受信し、伝送路でのデータ損失、データ誤りに対する耐性を有する方式のデータへ変換してその変換された動画像データを伝送する方法及び装置と、動画像符号化データを受信し復号する方法及び装置に関する。
近年、動画像データを効率良く伝送する方法として、フレーム間予測に基づいた高能率圧縮を行い、この高能率圧縮による符号化データを伝送する方法が多く用いられている。これらの方法では、時間的に前後に配置したフレームから符号化画像を予測して得られた予測パラメータと予測残差画像データとを符号化することで、時間方向の相関が高い動画像データの情報量が削減される。さらに、予測残差画像データを変換符号化や量子化により高能率に圧縮符号化することで、少ない伝送帯域での動画像データ伝送を可能としている。
その代表例として、MPEG(Moving Picture Expert Group)−1、MPEG−2、MPEG−4などの圧縮符号化方式を用いる方法がある。これらの圧縮符号化方式では、入力画像フレームをマクロブロックとよばれる一定サイズの矩形領域に分割し、矩形領域単位で動き補償によるフレーム間予測を行い、得られた動きベクトルと予測残差画像データとに2次元離散コサイン変換及び量子化を施して圧縮した信号データを可変長符号化する。
しかしながら、従来の動画像伝送方法においては、誤り訂正符号を用いても復元不可能な長いバースト性をもった伝送データの誤りや伝送パケットの欠落が発生すると、受信側では、そのエラーが発生したフレームの画像データを正しく復号できない。
このようなエラーに対する受信側での対策として、エラーフレームに対して時間的に前後に存在するとともに正しくデコードできたフレームの画像や、フレーム内でのエラー領域の周囲の画像データから、誤りをなるべく目立たなくするような画像データを生成するエラーコンシールメント手法があるが、このエラーコンシールメント手法によっても、復号画像の乱れを除去することは不可能である。さらに、フレーム間予測を利用しているため、一度発生した画像の乱れが後続フレームにも伝搬してしまう、という問題がある。
そして、マルチキャスト/ブロードキャストによる情報配信を用いる場合には、受信したデータにおける誤りや伝送パケットの欠落情報を受信側から送信側へ伝送することができない。また、受信側からエラー情報を折り返し、送信側へ伝送する場合、このフィードバック情報により、通信路の帯域が占有されることにもなる。
本発明の第1の目的は、符号化データの伝送エラーにより生じる受信側復号画像の著しい乱れを、目立たない程度まで抑えることができる画像データの伝送方法及び装置を提供することにある。
本発明の第2の目的は、画像データ伝送に使用することのできる伝送帯域と画質とのトレードオフを使用者が設定し得る方法及び装置を提供することにある。
本発明の第3の目的は、圧縮符号化データの復号に要する演算量の増大を防ぐことができる方法及び装置を提供することにある。
本発明の第4の目的は、受信側からのフィードバック情報を送信側に送ることなく、符号化データの伝送エラーにより生じる受信側復号画像の著しい乱れを、目立たない程度まで抑えることができる画像データの伝送方法及び装置を提供することにある。
本発明に係る符号変換伝送装置は、圧縮符号化データを入力して変換し伝送路に出力する符号変換伝送装置であって、入力された符号化データ及び/又は、入力された符号化データを再符号化した符号化データよりなる複数の符号化データを少なくとも1つの伝送路に送出する符号変換送信手段を備えており、入力された符号化データと、再符号化した符号化データの少なくとも一部を伝送路に送出する。
本発明に係る符号変換受信装置は、上述した符号変換伝送装置から伝送路に送信された符号化データを受信する符号変換受信装置であって、受信する伝送路を選択する手段と、選択された伝送路から符号化データを受信し、正常に受信された符号化データに基づき、符号化データを再構成する手段と、を備えている。
本発明に係るシステムは、上述した符号変換伝送装置に対して上述した符号変換受信装置を複数備え、符号化データを配信する装置から送信された符号化データを符号変換伝送装置が受け取り、符号変換受信装置で受信されるシステム構成を有してもよい。
本発明の他のアスペクトに係る動画像データの符号変換伝送装置は、
(a)圧縮された符号化データを入力し、入力された符号化データの少なくとも一部のフレームを送出する第1の動画像符号変換送信手段と、
(b)Nを2以上の所定の整数として、入力された符号化データの少なくとも一部を復号し、復号して得られたデータを符号化し、得られた符号化データの少なくとも一部のフレームを出力する第2乃至第Nの動画像符号変換送信手段と、
(c)Mを1以上の所定の整数として、第1乃至第Nの動画像符号変換送信手段の出力のうち少なくとも1つを、第1乃至第Mの伝送路へ送出する手段と、を備えている。
本発明の他のアスペクトに係る動画像データの符号変換受信装置は、上述した符号変換伝送装置からの符号化データを受け取る受信装置であって、
(d)上述した第1乃至第Mの伝送路から符号化データを受信する伝送路を選択する選択手段と、
(e)選択手段で選択された伝送路から複数の符号化データを受信し、伝送誤りがなく、欠落がなく受信された符号化データを抽出し、抽出された符号化データに基づき、符号化データを再構成して出力する手段と、を備えている。
本発明の他のアスペクトに係る動画像データの符号変換伝送装置は、
(a)圧縮された符号化パケットデータを入力し、入力された符号化パケットの少なくとも一部を出力する第1の動画像符号変換送信手段と、
(b)Nを2以上の所定の整数として、入力された符号化パケットデータの少なくとも一部を復号し、復号して得られたデータを符号化し、得られたパケットデータの少なくとも一部を出力する第2乃至第Nの動画像符号変換送信手段と、
(c)Mを1以上の所定の整数として、第1乃至第Nの動画像符号変換送信手段の出力のうち少なくとも1つを、第1乃至第Mの伝送路へ送出する手段と、を備える。
本発明の他のアスペクトに係る動画像データの符号変換受信装置は、上述した符号変換伝送装置からの符号化データを受け取る受信装置であって、
(d)上述した第1乃至第Mの伝送路から符号化データを受信する伝送路を選択する選択手段と、
(e)選択手段で選択された伝送路から符号化データを受信し、伝送誤りがない、又は欠落がなく受信された符号化したパケットデータを抽出し、抽出された符号化パケットデータに基づき、符号化パケットデータを再構成して出力する手段と、を備えている。
本発明の他のアスペクトに係る方法は、Nを2以上の所定の整数として、第1乃至第Nの動画像符号変換送信手段を備える符号変換伝送装置による動画像データの符号変換伝送方法であって、
(a)第1の動画像符号変換送信手段が、圧縮された符号化データを入力し、入力された符号化データの少なくとも一部のフレームを出力するステップと、
(b)第2乃至第Nの動画像符号変換送信手段が、入力された符号化データの少なくとも一部を復号し、復号して得られたデータを符号化し、得られた符号化データの少なくとも一部のフレームを出力するステップと、
(c)Mを1以上の所定の整数として、第1乃至第Nの動画像符号変換送信手段の出力のうち少なくとも1つを、第1乃至第Mの伝送路へ送出するステップと、を含む。
本発明の他のアスペクトに係る受信方法は、Mを1以上の所定の整数として、M個の伝送路から少なくとも1個の伝送路を選択するステップと、選択された伝送路から符号化データを受信し、伝送誤りがなく、欠落がなく受信された符号化データを抽出し、抽出された符号化データに基づき、符号化データを再構成して出力するステップと、を含む。
本発明の他のアスペクトに係るコンピュータプログラムは、動画像データの符号変換伝送装置を構成するコンピュータを、
(a)圧縮された符号化データが入力され、入力された符号化データの少なくとも一部のフレームを出力する第1の動画像符号変換送信手段、
(b)Nを2以上の所定の整数として、入力された符号化データの少なくとも一部を復号し、復号して得られたデータを符号化し、得られた符号化データの少なくとも一部のフレームを出力する第2乃至第Nの動画像符号変換送信手段、
(c)Mを1以上の所定の整数として、第1乃至第Nの動画像符号変換送信手段の出力のうち少なくとも1つを、第1乃至第Mの伝送路へ送出する手段、
として機能させ、これによってコンピュータに動画像データの符号変換送信処理を実行させるものである。
本発明の他のアスペクトに係るコンピュータプログラムは、動画像データの符号変換受信装置を構成するコンピュータに動画像データの符号変換処理を実行させるプログラムであって、Mを1以上の所定の整数として、M個の伝送路から少なくとも1個の伝送路を選択する処理と、選択された伝送路から符号化データを受信し、伝送誤りがなく、欠落がなく受信された符号化データを抽出し、抽出された符号化データに基づき、符号化データを再構成して出力する処理と、をコンピュータに実行させるためのプログラムである。
本発明においては、動画像圧縮符号化データの伝送エラーによる著しい復号画像の乱れを防ぐため、符号変換伝送装置において、情報提供源をなす動画像符号化装置(サーバ装置)からの符号化データを受信し、伝送路でのデータ損失、データ誤りに耐性を有する方式へとその符号化データを変換し、符号変換受信装置側へ送信する。
本発明において、符号変換伝送装置は、Nを2以上の整数、Mを1以上の整数として、第1乃至第Nの符号変換送信手段と、それらの第1乃至第Mの伝送路への送信手段を備え、動画像データをN個の符号化データに圧縮符号化して送信する。符号変換受信装置側はM個の伝送路の少なくとも1個の伝送路から正常に受信できた符号化データの中で、例えば符号化の最も圧縮率が低く画質の良い符号化データを選択して復号する。
本発明において、第1乃至第Nの符号変換送信手段で得られたN個の符号化データは、一定又は適応的に変化する時間差を設けて送信される。例えばクライアント端末をなす符号変換受信装置側は、M個の伝送路の少なくとも1個の伝送路から正常に受信できた符号化データの中から、例えば最も圧縮率が低く、画質の良い符号化データをフレーム又はパケット単位で選択する。符号変換受信装置からの符号化データは、復号装置(デコーダ)に受け渡されて復号される。
また、本発明では、第1乃至第Mの伝送路において使用することのできる伝送帯域にあわせて、第1乃至第Nの符号変換送信手段の圧縮率、及び/又は送信符号化データ数を選択することができる。また、第2乃至第Nの符号変換送信手段は第1の符号変換送信手段と同等、ないしはそれよりも高い圧縮率で符号化するか、その圧縮率を任意に設定することができる。
本発明において、複数の符号化データ送信に伴う受信側での演算量増大を防ぐため、符号変換伝送装置側は同一のフレーム又は同一画像領域を含む符号化データを生成し、受信側は受信した複数の符号化データの中から少なくとも1個のフレーム又はパケット単位で選択して復号する。
より具体的には、本発明に係る装置において、任意の2以上の整数N、任意の1以上の整数Mに対して、符号変換伝送装置は、
a)圧縮された符号化データを入力し、全てのフレーム、もしくは入力動画像の性質又は予め定められた規則に従い適応的に選択されたフレームを、所定の伝送手段を用いて送信する制御を行う第1の動画像符号変換送信手段と、
b)入力された符号化データの少なくとも一部を復号し、第1の動画像符号変換送信手段と同等もしくはそれより高い圧縮率となるよう圧縮符号化し、得られた符号化データの全てのフレーム、もしくは入力動画像の性質又は予め定められた規則に従い適応的に選択されたフレームを、所定の伝送手段を用い、一定又は適応的に変化する送信時間差を設けて制御する制御を行う第2乃至第Nの動画像符号変換送信手段と、
c)第1乃至第Mの伝送路に使用できる帯域にあわせて、第1乃至第Nの動画像符号変換送信手段の圧縮率、及び/又は、送信符号化データ数を選択し、第1乃至第Mの伝送路へ符号化データを送出する手段と、を備えている。
符号変換受信装置は、M個の伝送路から少なくとも1個の伝送路を選択し、選択された伝送路からN個の符号化データを受信し、伝送誤りがない、又は欠落がなく受信された符号化データを抽出し、同一フレームの符号化データの中から、例えば圧縮率が最も低い、画質の良い動画像符号化データを選択して出力する選択手段を備えている。
また、本発明の第2のアスペクトに係る装置において、任意の2以上の整数N、任意の1以上の整数Mに対して、符号変換伝送装置は、
a)圧縮された符号化パケットデータを入力し、全てのパケット、もしくは入力動画像の性質又は予め定められた規則に従い適応的に選択されたパケットを、所定の伝送手段を用いて送信する制御を行う第1の動画像符号変換送信手段と、
b)入力された符号化パケットデータの少なくとも一部を復号し、第1の動画像符号変換送信手段と同等もしくはそれより高い圧縮率となるよう、受信パケットデータと同一画像領域を含む1個のパケットデータに圧縮符号化し、得られた全てのパケットデータ、もしくは入力動画像の性質又は予め定められた規則に従い適応的に選択されたパケットデータを所定の伝送手段を用い、一定又は適応的に変化する送信時間差を設けて送信する制御を行う第2乃至第Nの動画像符号変換送信手段と、
c)第1乃至第Mの伝送路に使用できる帯域にあわせて、第1乃至第Nの動画像符号変換送信手段の圧縮率、及び/又は、送信符号化データ数を選択し、第1乃至第Mの伝送路へ符号化データを送出する手段と、を備えている。
符号変換受信装置は、M個の伝送路から少なくとも1個の伝送路を選択し、選択された伝送路からN個の符号化データを受信し、伝送誤りがない、又は欠落がなく受信された、同一フレームの同一領域の画像を符号化したパケットデータの中から、例えば圧縮率が最も低い、画質の良い符号化パケットデータを選択して出力する選択手段を備えている。
また、本発明の第3のアスペクトに係る装置において、任意の2以上の整数N、任意の1以上の整数Mに対して、符号変換伝送装置側は、
a)圧縮された符号化データを入力し、復号した動画像データの全てのフレーム、もしくは入力動画像の性質又は予め定められた規則に従い適応的に選択されたフレームを、入力した動画像データと同等もしくはそれよりも高い圧縮率となるよう圧縮符号化し、得られた符号化データの少なくとも一部を所定の伝送手段を用いて送信する制御を行う第1の動画像符号変換送信手段と、
b)第1の動画像符号変換手段が符号化した全てのフレーム、もしくは入力動画像の性質又は予め定められた規則に従い適応的に選択されたフレームを、当該フレームに対する第1の動画像符号変換送信手段によるフレーム間予測で得られたフレーム間予測パラメータ又は予測差分データの少なくとも一方を再利用して、第1の動画像符号変換送信手段と同等もしくはそれよりも高い圧縮率となるように符号化し、得られた符号化データを所定の伝送手段を用い、一定又は適応的に変化する送信時間差を設けて送信する制御を行う第2乃至第Nの動画像符号変換送信手段と、
c)第1乃至第Mの伝送路に使用できる帯域にあわせて、第1乃至第Nの動画像符号変換送信手段の圧縮率、及び/又は、送信符号化データ数を選択し、第1乃至第Mの伝送路へ符号化データを送出する手段と、を備えている。
符号変換受信装置は、M個の伝送路から少なくとも1個の伝送路を選択し、選択された伝送路からN個の符号化データを受信し、伝送誤りがない、又は欠落がなく受信された符号化データを抽出し、同一フレームの符号化データの中から、例えば圧縮率が最も低い、画質の良い動画像符号化データを選択して出力する選択手段を備えている。
また、本発明の第4のアスペクトに係る装置において、任意の2以上の整数N、任意の1以上の整数Mに対して、符号変換伝送装置は、
a)入力された符号化パケットデータの少なくとも一部を復号し、入力された動画像データと同等もしくはそれよりも高い圧縮率となるよう圧縮符号化し、得られた符号化パケットデータの少なくとも一部を、所定の伝送手段を用いて送信する制御を行う第1の動画像符号変換送信手段と、
b)第1の動画像符号変換手段が符号化した全てのパケットデータ、もしくは入力動画像の性質又は予め定められた規則に従い適応的に選択されたパケットデータに対し、各々のパケットデータが符号化した画像領域を、当該画像領域に対する第1の動画像符号変換送信手段によるフレーム間予測で得られたフレーム間予測パラメータ又は予測差分データの少なくとも一方を再利用して、第1の動画像符号変換送信手段と同等もしくはそれよりも高い圧縮率となるように、当該パケットデータと同一画像領域を含む1個のパケットデータに符号化し、得られた符号化パケットデータの少なくとも一部を所定の伝送手段を用い、一定又は適応的に変化する送信時間差を設けて送信する制御を行う第2乃至第Nの動画像符号変換送信手段と、
c)第1乃至第Mの伝送路に使用できる帯域にあわせて、第1乃至第Nの動画像符号変換送信手段の圧縮率、及び/又は、送信符号化データ数を選択し、第1乃至第Mの伝送路へ符号化データを送出する手段と、を備えている。
符号変換受信装置側は、M個の伝送路から少なくとも1個の伝送路を選択し、選択された伝送路からN個の符号化データを受信し、伝送誤りがない、又は欠落がなく受信された、同一フレームの同一領域の画像を符号化したパケットデータの中から、例えば圧縮率が最も低い、画質の良い符号化パケットデータを選択して出力する選択手段を備えている。
また、本発明の第5のアスペクトに係る装置において、任意の2以上の整数N、任意の1以上の整数Mに対して、符号変換伝送装置は、
a)圧縮された符号化データを入力し、復号した動画像データの全てのフレーム、もしくは入力動画像の性質又は予め定められた規則に従い適応的に選択されたフレームを、受信した動画像データと同等もしくはそれよりも高い圧縮率となるよう圧縮符号化し、得られた符号化データの少なくとも一部を所定の伝送手段を用いて送信する制御を行う第1の動画像符号変換送信手段と、
b)第1の動画像符号変換手段が再符号化した全てのフレーム、もしくは入力動画像の性質又は予め定められた規則に従い適応的に選択されたフレームを、当該フレームに対する第1の動画像符号変換送信手段によるフレーム間予測で用いられた参照フレーム画像を利用して、第1の動画像符号変換送信手段と同等もしくはそれよりも高い圧縮率となるように符号化し、得られた符号化データの少なくとも一部を所定の伝送手段を用い、一定又は適応的に変化する送信時間差を設けて送信する制御を行う第2乃至第Nの動画像符号変換送信手段と、
c)第1乃至第Mの伝送路に使用できる帯域にあわせて、第1乃至第Nの動画像符号変換送信手段の圧縮率、及び/又は、送信符号化データ数を選択し、第1乃至第Mの伝送路へ符号化データを送出する手段と、を備えている。
符号変換受信装置側は、M個の伝送路から少なくとも1個の伝送路を選択し、選択された伝送路からN個の符号化データを受信し、伝送誤りがない、又は欠落がなく受信された符号化データを抽出し、同一フレームの符号化データの中から、例えば圧縮率が最も低い、画質の良い動画像符号化データを選択して出力する選択手段を備えている。
また、本発明の第6のアスペクトに係る装置において、任意の2以上の整数N、任意の1以上の整数Mに対して、符号変換伝送装置は、
a)圧縮された符号化パケットデータを入力し、復号した動画像データを入力された動画像データと同等もしくはそれよりも高い圧縮率となるよう圧縮符号化し、得られた符号化パケットデータの少なくとも一部を、所定の伝送手段を用いて送信する制御を行う第1の動画像符号変換送信手段と、
b)第1の動画像符号変換送信手段が符号化した全てのパケットデータ、もしくは入力動画像の性質又は予め定められた規則に従い適応的に選択されたパケットデータに対し、各々のパケットデータが符号化した画像領域を、当該画像領域に対する第1の動画像符号変換送信手段によるフレーム間予測で用いられた参照フレーム画像を利用して、第1の動画像符号変換送信手段と同等もしくはそれよりも高い圧縮率となるように、当該パケットデータと同一画像領域を含む1個のパケットデータに符号化し、得られたパケットデータの少なくとも一部を所定の伝送手段を用い、一定又は適応的に変化する送信時間差を設けて送信する制御を行う第2乃至第Nの動画像符号変換送信手段と、
c)第1乃至第Mの伝送路に使用できる帯域にあわせて、第1乃至第Nの動画像符号変換送信手段の圧縮率、及び/又は、送信符号化データ数を選択し、第1乃至第Mの伝送路へ符号化データを送出する手段と、を備えている。
符号変換受信装置は、M個の伝送路から少なくとも1個の伝送路を選択し、選択された伝送路からN個の符号化データを受信し、伝送誤りがない、又は欠落がなく受信された、同一フレームの同一領域の画像を符号化したパケットデータの中から、例えば圧縮率が最も低い、画質の良い符号化パケットデータを選択して出力する選択手段を備えている。
また、本発明の第7のアスペクトに係る装置において、任意の2以上の整数N、任意の1以上の整数Mに対して、符号変換伝送装置は、
a)符号化パケットデータを入力し、所定の伝送手段を用いて送信する制御を行う第1の動画像符号変換送信手段と、
b)第1の動画像符号変換送信手段が符号化した全てのパケットデータ、もしくは入力動画像の性質又は予め定められた規則に従い適応的に選択されたパケットデータに対し、パケットを複製し、得られたパケットデータの少なくとも一部を所定の伝送手段を用い、一定又は適応的に変化する送信時間差を設けて送信する制御を行う第2乃至第Nの動画像符号変換送信手段と、
c)第1乃至第Mの伝送路に使用できる帯域にあわせて、第1乃至第Nの動画像符号変換送信手段の送信符号化データ数を選択し、第1乃至第Mの伝送路へ符号化データを送出する手段と、を備えている。
符号変換受信装置は、M個の伝送路から少なくとも1個の伝送路を選択し、選択された伝送路からN個の符号化データを受信し、伝送誤りがない、又は欠落がなく受信された、同一フレームの同一領域の画像を符号化したパケットデータの中から、例えば、圧縮率が最も低い、画質の良い符号化パケットデータを選択して出力する選択手段を備えている。
また、本発明の第8のアスペクトに係る装置において、任意の2以上の整数N、任意の1以上の整数Mに対して、符号変換伝送装置は、
a)圧縮された符号化データを入力し、入力された符号化データの少なくとも一部を復号し、入力された符号化データと同等もしくはそれより高い圧縮率となるよう圧縮符号化し、全てのフレーム、もしくは入力動画像の性質又は予め定められた規則に従い適応的に選択されたフレームを、所定の伝送手段を用いて送信する制御を行う第1の動画像符号変換送信手段と、
b)入力された符号化データの少なくとも一部を復号し、第1の動画像符号変換送信手段と同等もしくはそれより高い圧縮率となるよう圧縮符号化し、得られた符号化データの全てのフレーム、もしくは入力動画像の性質又は予め定められた規則に従い適応的に選択されたフレームを、所定の伝送手段を用い、一定又は適応的に変化する送信時間差を設けて送信する制御を行う第2乃至第Nの動画像符号変換送信手段と、
c)第1乃至第Mの伝送路に使用できる帯域にあわせて、第1乃至第Nの動画像符号変換送信手段の圧縮率、及び/又は、送信符号化データ数を選択し、第1乃至第Mの伝送路へ符号化データを送出する手段と、を備えている。
符号変換受信装置側は、M個の伝送路から少なくとも1個の伝送路を選択し、選択された伝送路からN個の符号化データを受信し、伝送誤りがない、又は欠落がなく受信された符号化データを抽出し、同一フレームの符号化データの中から、例えば圧縮率が最も低い、画質の良い動画像符号化データを選択して出力する選択手段を備えている。
また、本発明の第9のアスペクトに係る装置において、任意の2以上の整数N、任意の1以上の整数Mに対して、符号変換伝送装置は、
a)圧縮された符号化パケットデータを入力し、入力された符号化パケットデータの少なくとも一部を復号し、入力された符号化データと同等もしくはそれより高い圧縮率となるよう圧縮符号化し、全てのパケット、もしくは入力動画像の性質又は予め定められた規則に従い適応的に選択されたパケットを、所定の伝送手段を用いて送信する制御を行う第1の動画像符号変換送信手段と、
b)入力された符号化パケットデータの少なくとも一部を復号し、第1の動画像符号変換送信手段と同等もしくはそれより高い圧縮率となるよう、受信パケットデータと同一画像領域を含む1個のパケットデータに圧縮符号化し、得られた全てのパケットデータ、もしくは入力動画像の性質又は予め定められた規則に従い適応的に選択されたパケットデータを所定の伝送手段を用い、一定又は適応的に変化する送信時間差を設けて送信する制御を行う第2乃至第Nの動画像符号変換送信手段と、
c)第1乃至第Mの伝送路に使用できる帯域にあわせて、第1乃至第Nの動画像符号変換送信手段の圧縮率、及び/又は、送信符号化データ数を選択し、第1乃至第Mの伝送路へ符号化データを送出する手段と、を備えている。
符号変換受信装置は、M個の伝送路から少なくとも1個の伝送路を選択し、選択された伝送路からN個の符号化データを受信し、伝送誤りがない、又は欠落がなく受信された、同一フレームの同一領域の画像を符号化したパケットデータの中から、例えば圧縮率が最も低い、画質の良い符号化パケットデータを選択して出力する選択手段を備えている。
本発明においては、Mを1以上の整数として、それぞれが、第1乃至第Nの動画像符号変換送信手段を備えた第1乃至第Mの符号変換送信処理部を備え、第1乃至第Mの符号変換送信処理部の第1乃至第Nの動画像符号変換送信手段の第1乃至第Nの符号化データ出力は、それぞれ、第1乃至第Mの伝送路に送出される構成としてもよい。
あるいは、本発明においては、Mを1以上の整数として、それぞれが、第1乃至第Nの動画像符号変換送信手段を備えた第1乃至第Mの符号変換送信処理部を備え、第1乃至第Mの符号変換送信処理部が、それぞれ、第1乃至第Nの動画像符号変換送信手段の第1乃至第Nの符号化データ出力を、時間間隔差を設けて多重化して出力する手段を備えた構成としてもよい。
また、本発明に係るシステムにおいては、動画像データの符号化装置と、上述の各アスペクトに係る変換伝送装置と、上述の各アスペクトに係る複数の符号変換受信装置と、符号変換受信装置に対応する複数の復号装置(デコーダ)とを備え、符号化装置からの符号化データを符号変換伝送装置が入力し、複数の符号変換受信装置が符号変換伝送装置からの出力を入力し、複数の復号装置が複数の符号変換受信装置からそれぞれ符号化データを入力して復号する構成としてもよい。
本発明は、バースト性の高い伝送エラーやパケットロスが発生する信頼性の低い伝送路を用いた場合でも、もとのパケットと複製パケットの複数個の符号化データとの全てが、誤って伝送される確率は小さくなり、パケットロス発生時等にも、復号画像の劣化を、効率よく防止することができる、という効果を奏する。その理由は次の通りである。
本発明において、任意の2以上の整数N、任意の1以上の整数Mに対し、符号変換伝送装置側は、第1乃至第Mの伝送路上で、第1乃至第Nの動画像符号変換送信手段を備えており、第1の動画像符号変換送信手段は、動画像データのフレーム又はパケットを、伝送レートにあわせて少なくとも一部を伝送するか、復号後、動画像データをN個の符号化データに圧縮符号化して、一定又は適応的に変化する時間差を設けて送信し、第2乃至第Nの動画像符号変換送信手段は、入力されたフレームを、第1の動画像符号変換送信手段による当該フレームの符号化で得られたフレーム間予測パラメータ又は予測残差画像データの少なくとも一方、もしくは第1の符号変換送信手段で利用した参照フレーム画像を利用して符号化しており、符号変換受信装置側は、M個の伝送路の少なくとも1個の伝送路から正常に受信できた符号化データの中から、例えば最も圧縮率が低く画質の良い符号化データをフレーム又はパケット単位で選択して復号する構成としているためである。
本発明によれば、第1乃至第Mの伝送路により、伝送路で動画像データの伝送に使用できる帯域にあわせて、第1乃至第Nの動画像符号変換送信手段の圧縮率、及び/又は送信符号化データ数を選択することができ、伝送路の状態もしくは動画像データ送信者の意図に沿った送信が可能である。
また、本発明によれば、第2乃至第Nの動画像符号変換送信手段は第1の動画像符号変換送信手段と同等もしくはそれよりも高い圧縮率で符号化し、また、第2乃至第Nの動画像符号変換送信手段による符号化データの送信制御においては、第1の動画像符号変換送信手段が符号化したフレーム又は画像領域の一部に対してだけ行うことが可能であるため、複数の符号化データ送信による伝送レートの増大を抑止することができる。
さらに、本発明によれば、符号変換伝送装置側は、同一のフレーム又は同一画像領域を含む符号化データを生成し、符号変換受信装置側は受信した複数の符号化データの中から1個だけをフレーム又はパケット単位で選択して復号するため、受信側は同一フレーム又は同一画像領域の復号のために、受信した2個の符号化データの中から少なくとも1個のデータを復号すればよいことから、受信側に要求される演算量の増大を抑えることができる。
その上、本発明によれば、符号変換伝送装置は、符号変換受信装置側からのフィードバック情報を用いることなく、符号化データの伝送エラーにより生じる受信側復号画像の著しい乱れを、目立たない程度まで抑えることができるため、フィードバック情報に要するトラヒックの増加が発生せず、また符号変換伝送装置及び符号変換受信装置の構造を簡単にすることができる。
図1は、本発明の第1及び第2の実施の形態における符号変換伝送システムの構成を示すブロック図である。 図2は、図1に示すシステムにおける動画像符号変換伝送装置の構成を示すブロック図である。 図3は、本発明に基づく動画像符号変換受信装置の構成の一例を示すブロック図である。 図4は、第1の実施の形態における動画像符号変換受信装置での符号化データ再構成手順を示すフローチャートである。 図5は、本発明に基づく動画像符号化データパケット伝送システムの構成の一例を示すブロック図である。 図6は、第2の実施の形態における動画像符号変換受信装置での符号化データ再構成手順を示すフローチャートである。 図7は、本発明の第3乃至第6の実施の形態における符号変換伝送システムの構成を示すブロック図である。 図8は、第3及び第4の実施の形態における動画像符号変換伝送装置の構成を示すブロック図である。 図9は、第3、第5及び第8の実施の形態における動画像符号変換受信装置での符号化データ再構成手順を示すフローチャートである。 図10は、第4、第6及び第9の実施の形態における動画像符号変換受信装置での符号化データ再構成手順を示すフローチャートである。 図11は、第5及び第6の実施の形態における動画像符号変換伝送装置の構成を示すブロック図である。 図12は、本発明の第7の実施の形態の符号変換伝送システムの構成を示すブロック図である。 図13は、図12に示すシステムにおける動画像符号変換伝送装置の構成を示すブロック図である。 図14は、本発明の第8及び第9の実施の形態の符号変換伝送システムの構成を示すブロック図である。 図15は、図14に示すシステムにおける動画像符号変換伝送装置の構成を示すブロック図である。 図16は、本発明の第10の実施の形態でのシステム構成の一例を示すブロック図である。
(1)第1の実施の形態:
本発明の第1の実施の形態では、図1に示すように、任意の2以上の整数N、任意の1以上の整数Mに対して、符号変換伝送装置100は、
a)圧縮された符号化データを入力し、全てのフレーム、もしくは入力動画像の性質又は予め定められた規則に従い適応的に選択されたフレームを、所定の伝送手段を用いて送出する制御を行う第1の動画像符号変換送信部102と、
b)入力された符号化データの少なくとも一部を復号し、第1の動画像符号変換送信部102と同等もしくはそれより高い圧縮率となるよう圧縮符号化し、得られた符号化データの全てのフレーム、もしくは入力動画像の性質又は予め定められた規則に従い適応的に選択されたフレームを、第1の動画像符号変換送信部102と同一又は異なる伝送手段を用いて、一定又は適応的に変化する時間差を設けて送出する制御を行う第2乃至第Nの動画像符号変換送信部104〜106と、
c)第1乃至第Mの伝送路に使用できる帯域にあわせて、第1乃至第Nの動画像符号変換送信部の圧縮率、及び/又は、送信符号化データ数を選択し、第1乃至第Mの伝送路へ符号化データを送出する機構と、を備えている。
また符号変換受信装置120は、M個の伝送路から少なくとも1個の伝送路を選択する受信伝送路選択部107と、選択された伝送路からN個の符号化データを受信し、伝送誤りがない、又は欠落がなく受信された符号化データを抽出する符号化データ受信部108〜111と、同一フレームの符号化データの中から、例えば圧縮率が最も低い、画質の良い動画像符号化データを選択して出力する符号化データ再構成部112と、を備えている。符号変換伝送装置100、符号変換受信装置120それぞれの各構成要素は、符号変換伝送装置あるいは符号変換受信装置を構成するコンピュータで実行されるプログラムによりその処理・機能が実現されてもよい。
以下、第1の実施形態についてさらに詳しく説明する。
(1.A)概要:
図1は、本発明の第1の実施形態の構成を示す図である。図1に示すように、動画像データの符号変換伝送装置100と、符号変換受信装置120、及び符号化データを伝送するための伝送路130から構成される。整数Nは、符号変換伝送装置100が送信する符号化データの個数を表し、2以上とする。整数Mは、N個の符号化データが送出される伝送路の個数を表し、1以上とする。なお、符号変換伝送装置100と、符号変換受信装置120は、それぞれ、動画像符号変換伝送装置、動画像符号変換受信装置ともいう。
符号変換伝送装置100は、例えば符号化装置(図1では図示されない、例えば図16の符号化装置40参照)より動画像データを入力し、入力された動画像データを、N個の符号化データに符号化し、第1乃至第Nの動画像符号化データとして第1乃至第M(Mは1以上の整数)の伝送路130へ送出する。図1に示すように、この符号変換伝送部装置100は、第1乃至第Mの伝送路130に対応して、M個の符号変換送信処理部1〜Mを備えている。符号変換送信処理部1〜Mは、それぞれに対応する第1乃至第MのM個の伝送路130へ符号化データを送出する。
符号変換送信処理部1〜Mは、いずれも、第1乃至第NのN個の動画像符号変換送信部102、104〜106を備えており、第1乃至第Nの符号化データを出力する。符号変換送信処理部2〜Mは、符号変換送信処理部1で一旦受信された符号化データを共通に入力しているほかは、符号変換送信処理部1と同一の構成とされている。図1には、簡単のため、符号変換送信処理部1の構成のみが示されている。以下では、符号変換送信処理部1について説明し、符号変換送信処理部2〜Mの説明は省略する。
符号変換送信処理部1の動画像データ受信部101は、動画像符号化データを受信する。符号変換送信処理部1の動画像データ受信部101で受信された動画像符号化データは、符号変換送信処理部2〜Mへも供給される。
第1の動画像符号変換送信部102は、入力された動画像データのフレームの少なくとも一部を、動画像符号変換受信装置120に送出する。入力された動画像データは、動画像データ復号部103で復号される。
第2の動画像符号変換送信部104は、動画像データ復号部103で得られた動画像を、第1の動画像符号化データと同等もしくはそれより高い圧縮率で所定の圧縮符号化を行い、符号化データの少なくとも一部を動画像符号変換受信装置120へ送出する。
Nが3以上の場合、第3乃至第Nの動画像符号変換送信部105,106は、第1の動画像変換送信部102で符号化されたフレームの少なくとも一部のフレームを、当該フレームに対する第2の動画像符号化送信部104のフレーム間予測で得られたフレーム間予測パラメータ又は予測差分画像データの少なくとも一方を利用して、第2の動画像符号化送信部104と同等もしくはそれよりも高い圧縮率で符号化し、得られた符号化データの少なくとも一部を、動画像符号変換受信装置120へ送出する。
符号変換送信処理部1〜Mからの第1乃至第Nの動画像符号化データは、第1乃至第Mの伝送路130上へ送出される。第1〜第Mの伝送路130に使用できる帯域にあわせて、第1乃至第Nの動画像符号変換送信部の圧縮率、及び/又は、送信符号化データ数を選択し、第1乃至第Mの伝送路130へ送出する制御を行うようにしてもよい。符号変換送信処理部1〜Mを複数並設する代わりに、1つの符号変換送信処理部1の第1乃至第Nの動画像符号変換送信部の出力を、第1乃至第Mの伝送路130へ分配するようにしてよい。さらに、符号変換送信処理部1〜Mの出力方路を切替え、第1乃至第Mの伝送路130の接続の切替えを行ってもよい。
動画像符号変換受信装置120は、受信伝送路選択部107で、符号変換伝送装置が送信したM個の伝送路から少なくとも1個の伝送路を選択し、選択された伝送路からのN個の符号化データを受信し、復号変換を行う。
図1に示すように、受信伝送路選択部107で選択された伝送路からの符号化データを符号変換受信部が受信する。符号変換受信部は、符号変換伝送装置の備える第1乃至第Nの動画像符号変換送信部によって送信された符号化データを受信する第1乃至第Nの符号化データ受信部108〜111を備えている。
符号変換受信部の第1乃至第Nの符号化データ受信部108〜111からの出力を入力する符号化データ再構成部112を備える。
符号化データ再構成部112は、符号化データ受信部108〜111で伝送誤りも欠落もなく受信された最大N個の符号化データの中から、例えば圧縮率が最も低い、画質の良いデータを選択して出力する。あるいは、符号化データ再構成部112は、受信される最大N個の符号化データの中から、例えば最初に正常に受信された符号化データ等、圧縮率とは異なる所定の判定基準にしたがって、符号化データを選択して動画像符号データの再構成を行うようにしてもよい。符号化データ再構成部112で再構成された符号化データは、図示されない復号装置に入力されて、復号装置は、符号化データの復号処理を行う。
(1.B)符号変換伝送装置:
図2は、本発明の第1の実施形態における動画像符号変換伝送装置の詳細な構成を示している。簡単のため、この装置が出力する符号化データの個数Nを3とし、符号化データを伝送する伝送路の個数Mを2としている。
図2において、第1の動画像符号化送信部200は、第1の送信フレーム/パケット選択部201と、第1の第1の誤り検出符号・フレーム/パケット識別番号付加部202を備えている。なお、この第1の動画像符号化送信部200は、図1の第1の動画像符号変換送信部102に対応している。
第1の送信フレーム/パケット選択部201は、入力された動画像フレームを入力動画像のうち、画像の性質や伝送路の状況に従い、適応的に、伝送路に送出するフレームを選択する。選択にあたり、例えば一定周期(nパケットに1回)ごとにパケットを選択して出力してもよい。あるいは、動画像フレームのパケット中の特徴パラメータを参照して、適応的に、伝送すべき選択符号化パケットを決定する。例えば、符号化パケット中の特徴パラメータとして、例えば動きベクトルなど、ビット誤りあるいはパケットロスによる復号画像の画質への影響が大きいパラメータを参照して、適応的に、伝送すべき符号化パケットを決定する。あるいは、符号化がMPEG方式の場合、ビクチャタイプにしたがって、例えば、Iピクチャは必ず選択する等の規則を設けておいてもよいし、この選択用の規則を動的に可変させるようにしてもよい。
第1の誤り検出符号・フレーム/パケット識別番号付加部202は、第1の送信フレーム/パケット選択部201が出力した符号化パケットデータの伝送誤りとパケットロスを受信装置で検出するための、誤り検出符号とフレーム/パケット識別番号を付加する。
同じく図2において、第2の動画像符号変換送信部220は、復号部203、フレーム間予測部204、予測残差算出部205、第2の予測誤差圧縮符号化部206、第2の符号化パケット生成部207、第2の誤り検出符号・フレーム/パケット識別番号付加部208、予測残差復号部209、参照フレーム格納メモリ211、復号画像算出部210を備えている。なお、この第2の動画像符号変換送信部220は、図1の第2の動画像符号変換送信部104に対応しており、復号部203は、図1の動画像データ復号部103に対応する。
図2において、復号部203は、入力された動画像符号化データの少なくとも一部を復号する。
フレーム間予測部204は、参照フレーム格納メモリ211に格納された少なくとも1つの復号画像から、入力された画像へのフレーム間予測を行う。
予測残差算出部205は入力フレーム画像から、フレーム間予測部204で得られた予測画像を減算することで予測残差を算出する。
第2の予測残差圧縮符号化部206は予測残差算出部205で得られた予測残差画像を所定の方法で圧縮符号化する。
第2の符号化パケット生成部207はフレーム間予測部204で得られたフレーム間予測パラメータと第2の予測誤差圧縮符号化部206で得られた予測残差画像の圧縮データをビット列に可変長符号化し、所定のパケット単位で出力する。
第2の誤り検出符号・フレーム/パケット識別番号付加部208は、第2の符号化パケット生成部207が出力した符号化パケットデータの伝送誤りとパケットロスを受信装置で検出するための、誤り検出符号とフレーム/パケット識別番号を付加する。
予測残差復号部209は、第2の誤り検出符号・フレーム/パケット識別番号付加部208で符号化された予測残差の復号データを求める。
復号画像算出部210はフレーム間予測部204で生成された予測画像と、予測残差復号部209で復号された予測残差の和により復号画像を求める。
参照フレーム格納メモリ211は、次のフレームの符号化に備え復号画像を格納する。
図2において、第3の動画像符号変換送信部230は、第3の予測残差圧縮符号化部212、第3の符号化パケット生成部213、第3の誤り検出符号・フレーム/パケット識別番号付加部214を備えている。第3の動画像符号変換送信部は、図1の第3の動画像符号変換送信部105に対応する。
第3の予測残差圧縮符号化部212は、予測残差算出部205で得られた予測残差画像を、第1(第2)の予測残差圧縮符号化部206と同等もしくはそれよりも高い圧縮率で符号化する。
第3の符号化パケット生成部213は、フレーム間予測部204で得られたフレーム間予測パラメータと第3の予測残差圧縮符号化部212で得られた予測残差の圧縮データを、ビット列に可変長符号化し、所定のパケット単位で出力する。
第3の誤り検出符号・フレーム/パケット識別番号付加部214は、第3の符号化パケット生成部213が出力した圧縮パケットデータの伝送誤りとパケットロスを受信装置で検出するための、誤り検出符号とフレーム/パケット識別番号を付加する。
以上の処理部の動作により第3の動画像符号化データが得られ、所定の送信手段によってパケット単位で送信される。
本実施形態では、Mを2、Nを3としているため、2個の伝送路それぞれに、以上の第1乃至第3の動画像符号化データのうち、伝送路に使用できる帯域にあわせて選択された動画像符号化データが送信される。図1において、2つの符号変換送信処理部1、符号変換送信処理部2を備え、符号変換送信処理部1、2は、各々3本の伝送路のそれぞれに送出する。
本実施形態において、第1の誤り検出符号付加・フレーム/パケット識別番号付加部202を設け、第1の送信フレーム/パケット選択部201から出力された第1の符号化データに誤り検出符号とフレーム/パケット識別番号を付加しているが、入力された動画像パケットデータに、既にこのような情報が付加されていれば、第1の誤り検出符号付加・フレーム/パケット識別番号付加部202は設けなくてもよい。また、送信された符号化パケットデータの伝送誤りとパケットロスを符号変換受信装置で検出することを可能にする方法であれば、他のいかなる実現方法であっても構わない。例えば、第1の符号化パケットの伝送路において伝送誤り検出を行う機構が備わっている場合は、第1の誤り検出符号付加・フレーム/パケット識別番号付加部202で誤り検出符号化を付加する必要は無い。別の例として、第1の送信フレーム/パケット選択部201から出力された符号化データにフレームやパケットを識別できる情報が含まれているならば、第1の誤り検出符号付加・フレーム/パケット識別番号付加部202でフレーム/パケット識別番号を付加する必要は無い。
同様に、第2の誤り検出符号付加・フレーム/パケット識別番号付加部208を設け、第2の符号化データに誤り検出符号とフレーム/パケット識別番号を付加しているが、送信された符号化データの伝送誤りとパケットロスを符号変換受信装置で検出することを可能にする方法であれば、他のいかなる実現方法であっても構わない。
同様に、第3の誤り検出符号付加・フレーム/パケット識別番号付加部214を設け、第3の符号化データに誤り検出符号とフレーム/パケット識別番号を付加しているが、送信された符号化データの伝送誤りとパケットロスを符号変換受信装置で検出することを可能にする方法であれば、他のいかなる実現方法であっても構わない。
以上で説明した本実施形態を更に好ましく具体化した例では、動画像符号変換伝送装置は、インターネット通信網に接続され、例えばCCD(charge coupled device)カメラなどを介して撮像・入力された動画像をMPEG−4ビジュアル(Visual)方式に従った符号化データに圧縮し、UDP(User Datagram Protocol)/IP(Internet Protocol)プロトコルを用いて伝送されるデータを入力する。
図2において、フレーム間予測部204は動き補償によるフレーム間予測を行う。第1の予測残差圧縮符号化部206と第3の予測残差圧縮符号化部212は2次元離散コサイン変換(2D−DCT)と量子化による圧縮処理を行う。第2の予測残差圧縮符号化部212は、第1の予測残差圧縮符号化部206よりも大きい量子化パラメータを用いて2D−DCT係数を量子化する方法や、高次の2D−DCT係数を適応的に除去するなどの方法で、第3の符号化データの圧縮率が第1の符号化データの圧縮率と同等もしくはそれよりも高くなるように圧縮する。予測残差復号部209は逆量子化と逆2次元離散コサイン変換(2D−IDCT)を行う。
第2の符号化パケット生成部207は第2の予測残差圧縮符号化部206から出力される量子化DCT係数とフレーム間予測部204から出力される動きベクトルなどを、MPEG−4 Visualで規定されたシンタックスに従って符号化する。同様に、第3の符号化パケット生成部213は、第3の予測残差圧縮符号化部212から出力される量子化DCT係数と、フレーム間予測部204から出力される動きベクトルなどを、MPEG−4 Visualで規定されたシンタックスに従って符号化する。第1の誤り検出符号付加・フレーム/パケット識別番号付加部202と、第2の誤り検出符号付加・フレーム/パケット識別番号付加部208と、第3の誤り検出符号付加・フレーム/パケット識別番号付加部214は、誤り検出のためのチェックサムを含んだUDPデータグラムを作成し、インターネットに接続された符号変換受信装置に送出する。
(1.C)符号変換受信装置:
図3は、本発明の第1の実施形態における動画像符号変換受信装置120(図1参照)の詳細な構成を示している。図3において、動画像符号変換受信装置は、伝送路選択部300と、第1乃至第3の符号化データ受信部320、330、340と、符号化データ再構成部310と、を備えている。
第1の符号化データ受信部320は、第1のパケット受信バッファ301と、第1の符号化データ抽出部302と、第1のエラー/パケットロス検出部303を備えている。第2、第3の符号化データ受信部も第1の符号化データ受信部と同様の構成とされている。
図1では受信伝送路選択部107として示されている受信伝送路選択部300は、符号化変換受信装置120(図1参照)が動画像データを受信する伝送路130(図1参照)を選択する。第1のパケット受信バッファ301は、符号変換伝送装置100(図1参照)から送信された第1の符号化パケットデータを受信する。第1の符号化データ抽出部302は、第1のパケット受信バッファ301で受信されたパケットデータから、動画像符号化データを抽出する。第1のエラー/パケットロス検出部303は、第1の符号化パケットデータの伝送時に発生したビットエラー及び/又はパケットロスを検出する。
また第2の符号化データ受信部330において、第2のパケット受信バッファ304は、符号変換伝送装置100(図1参照)から送信された第2の符号化パケットデータを受信する。第2の符号化データ抽出部305は、第2のパケット受信バッファ304で受信されたパケットデータから、動画像符号化データを抽出する。第2のエラー検出/パケットロス検出部306は、第2の符号化パケットデータの伝送時に発生したビットエラー及び/又はパケットロスを検出する。
第3の符号化データ受信部340において、第3のパケット受信バッファ307は、符号変換伝送装置100(図1参照)から送信された第3の符号化パケットデータを受信する。第3の符号化データ抽出部308は、第3のパケット受信バッファ307で受信されたパケットデータから、動画像符号化データを抽出する。第3のエラー検出/パケットロス検出部309は、第3の符号化パケットデータの伝送時に発生したビットエラー及び/又はパケットロスを検出する。
符号化データ再構成部310は、第1乃至第3のエラー検出・パケットロス検出部303、306、309においてビットエラー及び/又はパケットロスを検出した結果に従って、符号変換伝送装置より送信された2つの符号化データを1つの符号化データに再構成する。
本実施形態における、符号化データ再構成部310での符号化データ再構成手順を、図4のフローチャートをもとに説明する。図4の一連の手順は、ある整数nに対し、第nフレームの符号化データ再構成処理を示している。
ステップS401では、第nフレームの全ての符号化データが第1の受信パケットバッファ301と第2の受信パケットバッファ304に到着すべき時刻に、所定の許容される最大遅延時間を加えた時刻まで待機した後、ステップS402に進む。
ステップS402では、第1の誤り検出・パケットロス検出部303における誤りとパケットロスの検出結果に従い、第1の受信パケットバッファ301中の第nフレームデータにパケットロス、ビット誤りがないどうかを判定する。
第1の受信パケットバッファ301に第nフレームの全ての符号化データが受信され、かつデータに誤りが検出されない場合は、ステップS403に分岐する。それ以外の場合には、ステップS404に進む。
ステップS403に分岐した場合には、第1の符号化データ抽出部302が出力する第nフレームの符号化データを出力し、符号化データ再構成処理を終了する。
ステップS402の判定の結果、ステップS404に進んだ場合、第2の誤り検出・パケットロス検出部306における誤りとパケットロスの検出結果に従い、第2の受信パケットバッファ304中の第nフレームデータにパケットロス、ビット誤りがないかどうかを判定する。第2の受信パケットバッファ304に第nフレームの全ての符号化データが受信され、かつデータに誤りが検出されない場合には、ステップS405に分岐する。それ以外の場合は、ステップS406に進む。
ステップS406に進んだ場合は、第3の誤り検出・パケットロス検出部309における誤りとパケットロスの検出結果に従い、第3の受信パケットバッファ307中の第nフレームデータにパケットロス、ビット誤りがないかどうかを判定する。第3の受信パケットバッファ307に第nフレームの全ての符号化データが受信され、かつデータに誤りが検出されない場合には、ステップS407に進む。それ以外の場合は、ステップS403に分岐する。
ステップS407では、第3の符号化データ抽出部308が出力する第nフレームの符号化データを復号する符号化データとして出力し、符号化データ再構成処理を終了する。
本実施形態において、第1のエラー検出・パケットロス検出部303における第1の符号化データの伝送誤り及び/又は誤りパケットロスを検出する方法は、いかなる方法でも構わない。例えば、本実施形態の符号変換伝送装置で付加された誤り検出符号とフレーム/パケット番号により検出を行っても良い。あるいは、符号化データの伝送路に誤り検出機能が備わっている場合は、その検出結果を利用してもよい。符号化されたフレームを特定する情報が符号化データに含まれている場合には、符号化データに含まれる情報を利用しても良い。
同様に、第2のエラー検出・パケットロス検出部306において第2の符号化データの伝送誤り及び/又は誤りパケットロスを検出する方法は、いかなる方法でも構わない。第3のエラー検出・パケットロス検出部309において第3の符号化データの伝送誤り及び/又は誤りパケットロスを検出する方法も、いかなる方法でも構わない。
符号化データ再構成部310における符号化データの再構成手順において、ステップS401で第nフレーム符号化データ受信を待機する方法は、パケット伝送遅延を所定の範囲内に抑えながらパケットロスを検出できる方法であれば、他のいかなる方法でも構わない。
符号化データ再構成部310における符号化データ再構成手順において、ステップS406で第3の受信パケットバッファで受信した符号化データに伝送エラーかパケットロスが検出された場合、すなわち第1乃至第3の符号化データ全てに伝送エラーかパケットロスが発生した場合に関しては、符号化データ再構成部310は、他のいかなる対応を行っても構わない。
本実施形態では、図4のステップS403に進み、第1の符号化データを復号する符号化データとして出力しているが、例えば第nフレームの出力を取り止め、一つ前に出力された第(n−1)フレームの画像データを第nフレームの出力とするなど、他の方法で対応しても構わない。
本実施形態を実施した具体例では、符号変換受信装置は、インターネット通信網に接続され、別地点でインターネット通信網に接続された符号変換伝送装置からUDP/IPプロトコルを用いて送信されるパケットデータを受信し、受信したUDPデータグラムに含まれる動画像符号化データを変換して復号装置に出力する。動画像符号化データはMPEG−4 Visual方式に従っている。第1のエラー検出/パケットロス検出部303と、第2のエラー検出/パケットロス検出部306と、第3のエラー検出/パケットロス検出部309とは、UDPデータグラムに含まれるチェックサムを計算することで、伝送誤りを検出する。
(1.D)符号化パケットデータの伝送形態:
本発明では、第1ないし第2の符号化パケットデータを符号変換伝送装置100(図1参照)から符号変換受信装置120(図1参照)へいかなる方法で伝送しても構わない。ただし、本発明の効果を高めるには、第1の符号化パケットデータに発生するビット誤りやパケットロスと、同一フレーム画像を符号化した第2の符号化パケットデータに発生するビット誤りやパケットロスとの相関が小さくなる方法が好ましい。
図5は、このような好ましい符号化パケットデータ伝送方法の一例を示している。図5において、符号変換伝送装置501は、図2を参照して説明した符号変換伝送装置である。遅延付加部502乃至503は、符号変換伝送装置501から出力される第2乃至第3の符号化パケットデータに、一定又は適応的に変化する遅延時間を加えて出力する。
多重化部504は、図1においては符号変換伝送装置100として示されている符号変換伝送装置501から出力される第1の符号化データと、遅延付加部502から出力される第2の符号化データと、遅延付加部503から出力される第3の符号化データとを多重化して、伝送路505に送出する。
伝送路505は、多重化部504で多重化されたデータを、送信装置から受信装置へ伝送する。同様に、遅延付加部506、507と多重化部508は、第2の伝送路509へ同様のデータを送出する処理を行う。
伝送路選択部510は、伝送路505又は伝送路509の少なくとも一方の伝送路を選択する。分離部511は、伝送路選択部510からデータを受信し、第1の符号化データと第2の符号化データに分離する。動画像受信復号装置512は、図3を参照して説明した動画像符号変換受信装置よりなる。
ここで、遅延付加部502、503で、第2乃至第3の符号化データに加えられる遅延は、伝送路505で発生するビット誤りやパケットロスの最大バースト時間により決定される。これにより、伝送路505でバーストエラーが発生しても、同一フレームを符号化した第1乃至第3の符号化データのいずれもがエラーの影響を受ける確率が小さくなるため、フレーム符号化データの損失による著しい画質の劣化の発生を少なくすることが可能である。遅延付加部で設定される遅延は、受信装置のバッファサイズや、伝送路の転送レート(ビットレート)に基づき設定される。
同様に、遅延付加部506、507で第2乃至第3の符号化データに加えられる遅延時間は、伝送路509で発生するビット誤りやパケットロスの最大バースト時間により決定される。これにより、伝送路509でバーストエラーが発生しても、同一フレームを符号化した第1乃至第3の符号化データのいずれもがエラーの影響を受ける確率が小さくなるため、フレーム符号化データの損失による著しい画質の劣化の発生を少なくすることが可能である。遅延付加部、あるいは遅延付加部と多重化部を、符号変換伝送装置501内に設ける構成としてもよい。
(1.E)効果:
この第1の実施形態によれば、動画像符号変換伝送装置100は、同一の動画像データを、3個の符号化データに変換して、一定又は適応的に変化する時間差を設けて伝送路130に送出する。
第1の符号変換送信部102は、入力された動画像データのフレームを動画像の性質又は予め定められた規則に従い適応的に選択して出力する。第2の符号変換送信部104は、入力された動画像データの少なくとも一部を復号し、入力データと同等もしくはそれより高い圧縮率で符号化し、送信する。第3の符号変換送信部105は、第2の符号変換送信部104で符号化されたフレームを、第2の符号変換送信部104による当該フレームの符号化で得られたフレーム間予測パラメータ又は予測残差画像データの少なくとも一方を利用して符号化する。
符号変換受信装置120側は、M個の伝送路のうち少なくとも1個の伝送路からのデータを受信し、正常に受信できた符号化データの中から圧縮率が低く画質の良い符号化データを、フレーム単位で選択し、出力する。
その結果、バースト性の高い伝送エラーやパケットロスが頻発する信頼性の低い伝送路を用いる場合でも、3個の符号化データのいずれもが誤って伝送される確率が小さくなり、伝送後の復号画像に著しい乱れが生じるのを防ぐことができる。
さらに、第2乃至第3の符号化データの圧縮率を高くすることで、これらの符号化データ送信に伴う伝送帯域の増大を小さく抑えることができる。加えて、使用できる帯域にあわせて、帯域の異なった複数の伝送路へ第1乃至第3の符号化データを送信することができ、さらに伝送路での誤りの影響を低減できる。また、動画像符号変換受信装置で、受信した3個の符号化データの中から少なくとも1個のデータが選択され、動画像復号装置へ出力されるので、動画像復号装置は、通常の動画像復号装置と比べて必要な演算量が大きく増大することはない。
本実施形態では、符号変換伝送装置及び符号変換受信装置を組み合わせて使用しているが、それぞれ独立して使用しても問題ない。また、第1乃至第Nの符号変換データは、インタリーブ法等により、パケット順序をシャフルして多重化してもよい。インタリーブ法によれば、時間的に変化する回線等の伝送路の影響を平均化することができる。
(2)第2の実施の形態:
本発明の第2の実施の形態では、任意の2以上の整数N、任意の1以上の整数Mに対して、符号変換伝送装置は、
(a)圧縮された符号化パケットデータを入力し、全てのパケット、もしくは入力動画像の性質又は予め定められた規則に従い適応的に選択されたパケットを、所定の伝送手段を用いて送信する制御を行う第1の動画像符号変換送信部と、
(b)入力された符号化パケットデータの少なくとも一部を復号し、第1の動画像符号変換送信部と同等もしくはそれより高い圧縮率となるようなパケットデータに圧縮符号化し、得られた全てのパケットデータ、もしくは入力動画像の性質又は予め定められた規則に従い適応的に選択されたパケットデータを所定の伝送手段を用い、一定又は適応的に変化する送信時間差を設けて送信する制御を行う第2乃至第Nの動画像符号変換送信部と、
(c)第1乃至第Mの伝送路に使用できる帯域にあわせて、第1乃至第Nの動画像符号変換送信部の圧縮率、及び/又は、送信符号化データ数を選択し、第1乃至第Mの伝送路へ符号化データを送出する機構と、を備えている。
符号変換受信装置側は、M個の伝送路から少なくとも1個の伝送路を選択し、選択された伝送路からN個の符号化データを受信し、伝送誤りがない、又は欠落がなく受信された、同一フレームの同一領域の画像を符号化したパケットデータの中から、例えば圧縮率が最も低い、画質の良い符号化パケットデータを選択して出力する選択部、を備えている。
これらの符号変換伝送装置、符号変換受信装置の各構成要素は、符号変換伝送装置あるいは符号変換受信装置を構成するコンピュータで実行されるプログラムにより、その処理・機能が実現されてもよい。
以下、第2の実施形態についてさらに詳しく説明する。
(2.A)概要:
本実施形態のシステムの構成及び動作は第1の実施形態とほぼ同じであり、図1に示されるように、動画像符号変換伝送装置100と符号変換受信装置120及び符号化データを伝送するための伝送路130から構成される。整数Nは、符号変換伝送装置が送信する符号化データの個数を表し、2以上とする。整数Mは、N個の符号化データが送出される伝送路の個数を表し、1以上とする。
動画像符号変換伝送装置100の構成は、第1の実施形態とほぼ同じであるが、この装置を構成する各部の動作が若干異なる。以下では、この実施形態での動作と第1の実施形態での動作との相違点についてのみ説明する。
第1の動画像符号化送信部(第1の動画像符号変換送信部)102で符号化される入力フレーム画像の符号化データは、少なくとも一個のパケットデータから構成されており、各パケットデータには、入力フレーム画像に含まれる画像領域に対するフレーム間予測パラメータ及び差分画像圧縮データが符号化されている。第1の動画像符号化送信部102は、入力された動画像データのパケットの少なくとも一部を、動画像符号変換受信装置に送信する。
第2の動画変換送信部(第2の動画像符号変換送信部)104は、入力された動画像データの少なくとも一部を復号し、得られた画像を第1の動画像符号化データと同等もしくはそれより高い圧縮率で所定の圧縮符号化を行い、符号化データの少なくとも一部を動画像符号変換受信装置へ送信する。
また、第3乃至第Nの動画像符号化送信部(第3乃至第Nの動画像符号変換送信部)105は、第2の動画像符号変換化送信部で符号化されたパケットの全て又はパケットが含む画像領域を、当該画像領域に対する第2の動画像符号化送信部のフレーム間予測で得られたフレーム間予測パラメータ又は予測差分画像の少なくとも一方のデータを利用して、第2の動画像符号化送信部と同等もしくはそれよりも高い圧縮率で符号化し、得られた符号化パケットデータの少なくとも一部を動画像符号変換受信装置へ送信する。これ以外の他の動作は、第1の実施形態と実質的に同一である。
動画像符号変換受信装置の構成も第1の実施形態とほぼ同じであるが、この装置を構成する各部の動作が若干異なる。以下では、この実施形態における動作が、第1の実施形態での動作と相違する点について説明する。
符号化データ再構成部112は、第1の実施形態と同様に、第1乃至第Nの符号化データ受信部で伝送誤り又は欠落がなく受信され同一フレームの同一領域の圧縮データを含む最大N個の符号化パケットデータの中から、例えば圧縮率が最も低い、画質の良いパケットを復号される符号化データとして選択し、この選択を符号変換伝送装置が送信するパケットデータ単位で行う。これ以外の他の動作は、第1の実施形態と実質的に同一である。
(2.B)符号変換伝送装置:
本実施形態における動画像データ符号変換伝送装置の構成及び動作は、図2に示した第1の実施形態における動画像符号変換伝送装置とほぼ同じである。ただし、図2における第1の符号化パケット選択部201と、第2の符号化パケット生成部207と、第3の符号化パケット生成部213と、第1の誤り検出符号付加・フレーム/パケット番号付加部202と、第2の誤り検出符号付加・フレーム/パケット番号付加部208と、第3の誤り検出符号付加・フレーム/パケット番号付加部214の動作が、第1の実施形態と相違する。以下相違点について説明し、同一部分の説明は省略する。
本実施形態における動画像データ符号変換伝送装置において、第1の符号化パケット選択部201と第2の符号化パケット生成部207と第3の符号化パケット生成部213は、第1の符号化パケット選択部201で選択される符号化パケットデータが含む画像領域と、第2の符号化パケット生成部207で生成する符号化パケットデータが含む画像領域と、第3の符号化パケット生成部213で生成する符号化パケットデータが含む画像領域とが一致するように、符号化パケットデータを生成する。
第1の誤り検出符号付加・フレーム/パケット番号付加部202と、第2の誤り検出符号付加・フレーム/パケット番号付加部207と、第3の誤り検出符号付加・フレーム/パケット番号付加部213とは、同一フレームの同一画像領域に対応する符号化パケットデータに、同一のパケット識別番号が付加されるように動作する。ただし、第1乃至第3の符号化パケット生成部が符号化するパケットデータに、フレームの番号や、当該パケットデータが含む画像領域の位置を特定するための情報が含まれる場合は、フレーム/パケット識別番号を付加しなくても良い。
本実施形態を具体化した例では、動画像の圧縮符号化にMPEG−4 ビジュアル(Visual)方式を利用している。この方式では、入力画像フレームを、「マクロブロック」と呼ばれる一定サイズの矩形領域に分割して圧縮し、マクロブロック単位で圧縮された画像情報をビデオパケットと呼ばれるパケット単位でビット列に符号化する。ビデオパケットは同一フレーム内の任意個数のマクロブロックに関する圧縮データを含み、同方式により符号化されたビット列データはビデオパケット単位で復号可能である。第1の符号化パケット選択部201と第2の符号化パケット生成部207と第3の符号化パケット生成部213は、符号化データをビデオパケット単位で出力する。第2の符号化パケット生成部207で符号化されたビデオパケットと、第3の符号化パケット生成部213で符号化されたビデオパケットは、第1の符号化パケット選択部201で選択されたビデオパケットと同一領域のマクロブロックを含むように生成される。
(2.C)符号変換受信装置:
本実施形態における動画像符号変換受信装置の構成及び動作は、図3に示した第1の実施形態における動画像符号変換受信装置とほぼ同じであり、図3における符号化データ再構成部310の動作のみが相違する。以下相違点について説明し、同一部分の説明は省略する。
本実施形態における、符号化データ再構成部310での符号化データ再構成の手順を、図6のフローチャートをもとに説明する。図6の一連の手順は、ある整数nに対し第nフレームの符号化データ再構成処理を示している。
ステップS601では、第nフレームの全ての符号化データが第1の受信パケットバッファ301と第2の受信パケットバッファ304と第3の受信パケットバッファ307に到着すべき時刻に所定の許容される最大遅延時間を加えた時刻まで待機した後、ステップS602に進む。
ステップS602では、パケット番号を記憶する変数aに第nフレームのパケット番号の最小値を格納し、変数bに第nフレームのパケット番号の最大値を格納する。
ステップS603では、パケット番号を記憶する変数iに変数aの値を代入し、ステップS604からの繰り返し処理を開始する。
ステップS604では、第1の誤り検出・パケットロス検出部303における誤りとパケットロスの検出結果に従い、第1の受信パケットバッファ301中に第nフレームの第iパケットが存在し、ビット誤りがないかどうかを判定する。第1の受信パケットバッファ301に第nフレームの第iパケットが受信され、かつデータに誤りが検出されない場合は、ステップS608に進む。それ以外の場合は、ステップS605に進む。
ステップS608に進んだ場合には、第1の符号化データ抽出部302が出力する第nフレームの符号化データを復号する符号化データとして出力し、ステップS610に進む。
ステップS605に進んだ場合には、第2の誤り検出・パケットロス検出部306における誤りとパケットロスの検出結果に従い、第2の受信パケットバッファ304中に第nフレームの第iパケットが存在し、ビット誤りがないかどうかを判定する。第2の受信パケットバッファ304に第nフレームの第iパケットが受信され、かつデータに誤りが検出されない場合は、ステップS607に進む。それ以外の場合は、ステップS606に進む。
ステップS607では、第2の符号化データ抽出部305が出力する第nフレームの符号化データを復号する符号化データとして出力し、ステップS610に進む。
ステップS606に進んだ場合は、第3の誤り検出・パケットロス検出部309における誤りとパケットロスの検出結果に従い、第3の受信パケットバッファ307中に第nフレームの第iパケットが存在し、ビット誤りがないかどうかを判定する。第3の受信パケットバッファ307に第nフレームの第iパケットが受信され、かつデータに誤りが検出されない場合は、ステップS609に進む。それ以外の場合は、ステップS610に進む。
ステップS610では、変数iを1増加させる。続くステップS611では、変数iが変数bの値を超えていないか判定し、超えていない場合はステップS604からの処理を繰り返す。変数iが変数bの値を超えた場合は、一連の繰り返し処理を終え、第nフレーム符号化データの再構成処理を終了する。
なお、本実施形態の符号化データ再構成部310での符号化データ再構成手順における、ステップS601での第nフレーム符号化データの受信を待機する方法は、パケット伝送遅延を所定の範囲内に抑えながらパケットロスを検出できる方法であれば、他のいかなる方法でも構わない。
(2.D)効果:
この第2の実施形態によれば、動画像符号変換伝送装置は、同一の動画像データを3個の符号化データに符号化して、一定又は適応的に変化する時間差を設けて送信する。第2乃至第3の動画像符号変換送信部は、第1の動画像符号変換送信部で変換されたパケットが含む画像領域を符号化する。第3の符号化送信部は、第2の符号化送信部で符号化されたパケットが含む画像領域を、第1の動画像符号変換送信部による当該フレームの符号化で得られたフレーム間予測パラメータ又は予測残差画像データの少なくとも一方を利用して符号化する。
動画像符号変換受信装置側は正常に受信できた符号化データの中から圧縮率が低く画質の良い符号化データをパケット単位で選択して復号する。
その結果、バースト性の高い伝送エラーやパケットロスが頻発する信頼性の低い伝送路を用いる場合でも、3個の符号化データのいずれもが誤って伝送される確率が小さくなり、伝送後の復号画像に著しい乱れが生じるのを防ぐことができる。
さらに、第2乃至第3の符号化データの圧縮率を高くすることで、これらの符号化データ送信に伴う伝送帯域の増大を小さく抑えることができる。
さらに、使用できる帯域にあわせて、帯域の異なった複数の伝送路へ第1乃至第3の符号化データを送信することができ、さらに伝送路での誤りの影響を低減できる。
また、動画像符号変換受信装置で、受信した3個の符号化データの中から少なくとも1個のデータが選択され、動画像復号装置へ出力されるので、動画像復号装置は、通常の動画像復号装置と比べて必要な演算量が大きく増大することはない。
本実施形態では、符号変換伝送装置及び符号変換受信装置を組み合わせて使用しているが、それぞれ独立して使用しても問題ない。
(3)第3の実施の形態:
本発明の第3の実施の形態では、任意の2以上の整数N、任意の1以上の整数Mに対して、符号変換伝送装置は、
(a)圧縮された符号化データを入力し、復号した動画像データの全てのフレーム、もしくは入力動画像の性質又は予め定められた規則に従い適応的に選択されたフレームを、入力した動画像データと同等もしくはそれよりも高い圧縮率となるよう圧縮符号化し、得られた符号化データの少なくとも一部を所定の伝送手段を用いて送信する制御を行う第1の動画像符号変換送信部と、
(b)第1の動画像符号変換送信部が符号化した全てのフレーム、もしくは入力動画像の性質又は予め定められた規則に従い適応的に選択されたフレームを、当該フレームに対する第1の動画像符号変換送信部によるフレーム間予測で得られたフレーム間予測パラメータ又は予測差分データの少なくとも一方を再利用して、第1の動画像符号変換送信部と同等もしくはそれよりも高い圧縮率となるように符号化し、得られた符号化データを第1の動画像符号変換送信部と同一又は異なる伝送路を用い、一定又は適応的に変化する送信時間差を設けて送信する制御を行う第2乃至第Nの動画像符号変換送信部と、
(c)第1乃至第Mの伝送路に使用できる帯域にあわせて、第1乃至第Nの動画像符号変換送信手段の圧縮率、及び/又は、送信符号化データ数を選択し、第1乃至第Mの伝送路へ符号化データを送出する機構と、を備えている。
符号変換受信装置は、M個の伝送路から少なくとも1個の伝送路を選択し、選択された伝送路からN個の符号化データを受信し、伝送誤りがない、又は欠落がなく受信された符号化データを抽出し、同一フレームの符号化データの中から、例えば圧縮率が最も低い、画質の良い動画像符号化データを選択して出力する選択部を備えている。
これらの符号変換伝送装置、符号変換受信装置の各構成要素は、符号変換伝送装置あるいは符号変換受信装置を構成するコンピュータで実行されるプログラムにより、その処理・機能が実現されてもよい。
以下、第3の実施形態について、さらに詳しく説明する。
(3.A)概要:
図7は、本発明の第3の実施形態でのシステム構成を示す図である。図7に示すように、動画像データの符号変換伝送装置700と、符号変換受信装置720及び符号化データを伝送するための伝送路730から構成される。整数Nは、符号変換伝送装置が送信する符号化データの個数を表す。Nは2以上とする。整数Mは、N個の符号化データが送出される伝送路730の個数を表し、1以上とする。
動画像符号変換伝送装置700は、入力された符号化された動画像データの少なくとも一部を復号し、得られた画像を入力データと同等もしくはそれより高い圧縮率で所定の圧縮符号化を行い、符号変換データを動画像符号変換受信装置720へ送信する。入力された動画像データをN個の符号化データに符号化し、第1乃至第Nの動画像符号化データとして第1乃至第Mの伝送路730に送信する。
図7に示すように、この装置は、第1乃至第NのN個の動画像符号化送信部(第1乃至第Nの動画像符号変換送信部)703〜705を備える。
動画像データ受信部701は、動画像データを受信する。動画像復号部702は、入力された動画像符号化データの少なくとも一部を復号する。
第1の動画像符号化送信部(第1の動画像符号変換送信部)703は、符号変換伝送装置(符号化変換伝送部)に入力されたフレームに対し所定の圧縮符号化を行い、得られた符号化データの少なくとも一部を動画像符号変換受信装置へ送信する制御を行う。第2乃至第Nの動画像符号化送信部(動画像符号変換送信部)704,705は、第1の動画像符号化送信部703で符号化されたフレームの少なくとも一部のフレームを、当該フレームに対する第1の動画像符号化送信部のフレーム間予測で得られたフレーム間予測パラメータ又は予測差分画像データの少なくとも一方を利用して、第1の動画像符号化送信部703と同等もしくはそれよりも高い圧縮率で符号化し、得られた符号化データの少なくとも一部を、伝送路730を介して動画像符号変換受信装置720へ送信する。第1乃至第Nの動画像符号化データのうち、伝送路に使用できる帯域にあわせて選択された動画像符号化データは、第1乃至第Mの伝送路上へ送出される。
動画像符号変換受信装置720は、受信伝送路選択部706で、動画像符号変換伝送装置が送信したM個の伝送路から少なくとも1個の伝送路を選択し、選択された伝送路からのN個の符号化データを受信し、復号変換を行う。
図7に示すように、動画像符号変換受信装置720は、符号変換伝送装置700の備える第1乃至第Nの動画像符号変換送信部703〜705によって伝送路730上に送信された符号化データを受信する第1乃至第Nの符号化データ受信部707〜709と、符号化データ再構成部710を備える。符号化データ再構成部710は、符号化データ受信部707乃至709で伝送誤りも欠落もなく受信された最大N個の符号化データの中から、例えば圧縮率が最も低い、画質の良いデータを選択して出力する。
(3.B)符号変換伝送装置:
図8は、図7に示した第3の実施形態における動画像符号変換伝送装置の詳細な構成を示している。図8では、簡単のため、この装置が出力する符号化データの個数Nを2、符号化データを送信する伝送路の個数Mを2としている。
図8において、復号部801は、入力された動画像データの少なくとも一部を復号する。フレーム間予測部802は参照フレーム格納メモリ809に格納された少なくとも1つの復号画像から、復号部801より出力された画像へのフレーム間予測を行う。予測残差算出部803は入力フレーム画像から、フレーム間予測部802で得られた予測画像を減算することで予測残差を算出する。第1の予測残差圧縮符号化部804は予測残差算出部803で得られた予測残差画像を所定の方法で圧縮符号化する。第1の符号化パケット生成部805は、フレーム間予測部802で得られたフレーム間予測パラメータと、第1の予測残差圧縮符号化部804で得られた予測残差画像の圧縮データをビット列に可変長符号化し、所定のパケット単位で出力する。第1の誤り検出符号・フレーム/パケット識別番号付加部806は、第1の符号化パケット生成部805が出力した符号化パケットデータの伝送誤りとパケットロスを受信装置で検出するための、誤り検出符号とフレーム/パケット識別番号を付加する。予測残差復号部807は第1の誤り検出符号・フレーム/パケット識別番号付加部806で符号化された予測残差の復号データを求める。復号画像算出部808はフレーム間予測部802で生成された予測画像と予測残差復号部807で復号された予測残差の和により復号画像を求める。参照フレーム格納メモリ809は次のフレームの符号化に備え復号画像を格納する。
図8において、第2の予測残差圧縮符号化部810は、予測残差算出部803で得られた予測残差画像を第1の予測残差圧縮符号化部と同等もしくはそれよりも高い圧縮率で符号化する。第2の符号化パケット生成部811は、フレーム間予測部802で得られたフレーム間予測パラメータと、第2の予測残差圧縮符号化部810で得られた予測残差の圧縮データをビット列に可変長符号化し、所定のパケット単位で出力する。第2の誤り検出符号付加・フレーム/パケット識別番号付加部812は、第2の符号化パケット生成部811が出力した圧縮パケットデータの伝送誤りとパケットロスを受信装置で検出するための、誤り検出符号とフレーム/パケット識別番号を付加する。これによって、第2の動画像符号化データが得られ、所定の送信機構によってパケット単位で送信される。
本実施形態では、Mを2、Nを2としているため、2個の伝送路それぞれに、以上の第1乃至第2の動画像符号化データのうち、伝送路に使用できる帯域にあわせて選択された動画像符号化データが送信される。
本実施形態において、第1の誤り検出符号付加・フレーム/パケット識別番号付加部806を設け、第1の符号化パケット生成部805から出力された第1の符号化パケットデータに誤り検出符号とフレーム/パケット識別番号を付加しているが、送信された符号化パケットデータの伝送誤りとパケットロスを符号変換受信装置で検出することを可能にする方法であれば、他のいかなる実現方法であっても構わない。例えば、第1の符号化パケットの伝送路において伝送誤り検出を行う機構が備わっている場合は、第1の誤り検出符号付加・フレーム/パケット識別番号付加部806で誤り検出符号化を付加する必要は無い。別の例として、第1の符号化パケット生成部805から出力された符号化データにフレームやパケットを識別できる情報が含まれているならば、第1の誤り検出符号付加・フレーム/パケット識別番号付加部806でフレーム/パケット識別番号を付加する必要は無い。
同様に、第2の誤り検出符号付加・フレーム/パケット識別番号付加部812を設け、第2の符号化パケットデータに誤り検出符号とフレーム/パケット識別番号を付加しているが、送信された符号化パケットデータの伝送誤りとパケットロスを符号変換受信装置で検出することを可能にする方法であれば、他のいかなる実現方法であっても構わない。
以上で説明した本実施形態を更に好ましく具体化した例は、上述の第1の実施形態と同様である。
(3.C)符号変換受信装置:
本発明の第3の実施形態における動画像符号変換受信装置は、図3に示す構成と同様である。ただし図3に示すものでは、伝送路の個数Mを3としているが、本実施形態では2であるため、第3の符号化受信部は本実施形態では存在しない。また、符号化データ再構成部310の動作は、Mが2であるため、手順が異なる。
本実施形態における、符号化データ再構成部310での動作手順を、図9のフローチャートをもとに説明する。図9の一連の手順は、ある整数nに対し第nフレームの符号化データ再構成処理を示している。
ステップS901では、第nフレームの全ての符号化データが第1の受信パケットバッファ301と第2の受信パケットバッファ304に到着すべき時刻に所定の許容される最大遅延時間を加えた時刻まで待機した後、ステップS902に進む。
ステップS902では、第1の誤り検出・パケットロス検出部303における誤りとパケットロスの検出結果に従い、第1の受信パケットバッファ301中に第nフレームデータが存在し、ビット誤りがないかどうかを判定する。第1の受信パケットバッファ301に第nフレームの全ての符号化データが受信され、かつデータに誤りが検出されない場合は、ステップS903に進む。それ以外の場合は、ステップS904に進む。
ステップS903に進んだ場合は、第1の符号化データ抽出部302が出力する第nフレームの符号化データを復号する符号化データとして、可変長復号部(図示されていないが、例えば図16に示す復号装置に含まれる)に受け渡し、符号化データ再構成処理を終了する。
ステップS904に進んだ場合は、第2の誤り検出・パケットロス検出部306における誤りとパケットロスの検出結果に従い、第2の受信パケットバッファ304中に第nフレームデータが存在し、ビット誤りがないかどうかを判定する。第2の受信パケットバッファ304に第nフレームの全ての符号化データが受信され、かつデータに誤りが検出されない場合は、ステップS905に進む。それ以外の場合は、ステップS903に進む。
ステップS905では、第2の符号化データ抽出部305が出力する第nフレームの符号化データを復号する符号化データとして可変長復号部(図示されていないが、例えば図16に示す復号装置に含まれる)に受け渡し、符号化データ再構成処理を終了する。
本実施形態におけるこれ以外の各部の動作、好ましい具体例は、第1の実施形態の場合と同様である。
(3.D)効果:
第3の実施形態によれば、動画像符号変換伝送装置は、入力された動画像データの少なくとも一部を復号し、これを同一の動画像データを2個の符号化データに符号化して、一定又は適応的に変化する時間差を設けて送信する。第2の動画像符号変換送信部は、第1の動画像符号変換送信部で符号化されたフレームを、第1の動画像符号変換送信部による当該フレームの符号化で得られたフレーム間予測パラメータ又は予測残差画像データの少なくとも一方を利用して符号化する。
符号変換受信装置側は、正常に受信できた符号化データの中から圧縮率が低く画質の良い符号化データをフレーム単位で選択し、出力する。
その結果、バースト性の高い伝送エラーやパケットロスが頻発する信頼性の低い伝送路を用いる場合でも、2個の符号化データの両方が誤って伝送される確率が小さくなり、伝送後の復号画像に著しい乱れが生じるのを防ぐことができる。
さらに、第2の符号化データの圧縮率を高くすることで、第2の符号化データ送信に伴う伝送帯域の増大を小さく抑えることができる。
加えて、伝送路の状況、動画像送信者又は動画像受信者の意図により、帯域の異なった複数の伝送路へ第1乃至第2の符号化データを送信することができ、さらに伝送路での誤りの影響を低減できる。
また、動画像符号変換受信装置で、受信した2個の符号化データの中から少なくとも1個のデータが選択され、動画像符号変換受信装置で、受信した2個の符号化データの中から動画像復号装置へ出力されるので、動画像復号装置は、通常の動画像復号装置と比べて必要な演算量が大きく増大することはない。
本実施形態では、符号変換伝送装置及び符号変換受信装置を組み合わせて使用しているが、それぞれ独立して使用しても問題ない。また、第1乃至第Nの符号変換データは、時間間隔以外によるインタリーブでも構わない。
(4)第4の実施の形態:
本発明の第4の実施の形態では、任意の2以上の整数N、任意の1以上の整数Mに対して、符号変換伝送装置は、
(a)入力された符号化パケットデータの少なくとも一部を復号し、入力された動画像データと同等もしくはそれよりも高い圧縮率となるよう圧縮符号化し、得られた符号化パケットデータの少なくとも一部を、所定の伝送手段を用いて送信する制御を行う第1の動画像符号変換送信部と、
(b)第1の動画像符号変換送信部が符号化した全てのパケットデータ、もしくは入力動画像の性質又は予め定められた規則に従い適応的に選択されたパケットデータに対し、各々のパケットデータが符号化した画像領域を、その画像領域に対する第1の動画像符号変換送信部によるフレーム間予測で得られたフレーム間予測パラメータ又は予測差分データの少なくとも一方を再利用して、第1の動画像符号変換送信部と同等もしくはそれよりも高い圧縮率となるような1個のパケットデータに符号化し、得られた符号化パケットデータを第1の動画像符号変換送信部と同一又は異なる伝送手段を用い、一定又は適応的に変化する送信時間差を設けて送信する制御を行う第2乃至第Nの動画像符号変換送信部と、
(c)第1乃至第Mの伝送路に使用できる帯域にあわせて、第1乃至第Nの動画像符号変換送信部の圧縮率、及び/又は、送信符号化データ数を選択し、第1乃至第Mの伝送路へ符号化データを送出する手段と、を備えている。
受信側の装置は、M個の伝送路から少なくとも1個の伝送路を選択し、選択された伝送路からN個の符号化データを受信し、伝送誤りがない、又は欠落がなく受信された、同一フレームの同一領域の画像を符号化したパケットデータの中から、例えば圧縮率が最も低い、画質の良い符号化パケットデータを選択して出力する選択部を備えている。
これらの符号変換伝送装置、符号変換受信装置の各構成要素は、符号変換伝送装置、符号変換受信装置を構成するコンピュータで実行されるプログラムによりその処理・機能が実現されてもよい。
以下、第4の実施形態についてさらに詳しく説明する。
(4.A)概要:
本実施形態の構成及び動作は第3実施形態とほぼ同じであり、図7に示されるように、動画像符号変換伝送装置、符号変換受信装置及び符号化データを伝送するための伝送路から構成される。整数Nは、符号変換伝送装置が送信する符号化データの個数を表し、2以上とする。整数Mは、N個の符号化データが送出される伝送路の個数を表し、1以上とする。
動画像符号変換伝送装置の構成は、第3の実施形態とほぼ同じであるが、この装置を構成する各部の動作が若干異なる。以下相違点についてのみ説明し、同一部分の説明は省略する。
入力された動画像符号化データの少なくとも一部を復号し、得られた画像を入力画像データと同等もしくはそれより高い圧縮率で所定の圧縮符号化を行い、符号変換データを動画像符号変換受信装置へ送信する動画像符号変換送信処理部で符号化される入力フレーム画像の符号化データは、少なくとも1個のパケットデータから構成されており、各パケットデータには入力フレーム画像に含まれる一部の画像領域に対するフレーム間予測パラメータ及び差分画像圧縮データが符号化されている。また、第2乃至第Nの動画像符号化送信部は、第1の動画像符号化送信部で符号化されたパケットの少なくとも一部のパケットが含む画像領域を、当該画像領域に対する第1の動画像符号化送信部のフレーム間予測で得られたフレーム間予測パラメータ又は予測差分画像データの少なくとも一方を利用して、第1の動画像符号化送信部と同等もしくはそれよりも高い圧縮率で符号化し、得られた符号化パケットデータを動画像符号変換受信装置へ送信する。上記以外の動作に関しては、基本的に第3の実施形態と同じである。
動画像符号変換受信装置の構成も第3の実施形態とほぼ同じであるが、この装置を構成する各部の動作が若干異なる。以下相違点についてのみ説明し、同一部分の説明は省略する。
図7を参照すると、この実施形態において、符号化データ再構成部710は、第3の実施形態と同様に、第1乃至第Nの符号化データ受信部で伝送誤りも欠落もなく受信され、同一フレームの同一領域の圧縮データを含む最大N個の符号化パケットデータの中から、例えば圧縮率が最も低い、画質の良いパケットの少なくとも一部を復号される符号化データとして選択し、この選択を符号変換伝送装置が送信するパケットデータ単位で行う。上記以外の動作に関しては、基本的に第3の実施形態と同じである。
(4.B)符号変換伝送装置:
本実施形態における動画像データ符号変換伝送装置の構成及び動作は、図8に示した第3の実施形態における動画像データ符号変換伝送装置とほぼ同じであり、図8における第1の符号化パケット生成部805と、第2の符号化パケット生成部811と、第1の誤り検出符号付加・フレーム/パケット番号付加部806と、第2の誤り検出符号付加・フレーム/パケット番号付加部812の動作のみが相違する。
本実施形態における動画像データ符号変換伝送装置において、第1の符号化パケット生成部805と第2の符号化パケット生成部811は、第1の符号化パケット生成部805で生成する符号化パケットデータが含む画像領域と、第2の符号化パケット生成部811で生成する符号化パケットデータが含む画像領域が一致するように、符号化パケットデータを生成する。
第1の誤り検出符号付加・フレーム/パケット番号付加部806と第2の誤り検出符号付加・フレーム/パケット番号付加部812は、同一フレームの同一画像領域に対応する符号化パケットデータに同一のパケット識別番号が付加されるように動作する。ただし、第1乃至第2の符号化パケット生成部が符号化するパケットデータに、フレームの番号や、当該パケットデータが含む画像領域の位置を特定するための情報が含まれる場合は、フレーム/パケット識別番号を付加しなくても良い。
上記以外の処理部の動作は、第3の実施形態と同様である。以上で説明した本実施形態を更に好ましく具体化した例は、第2の実施形態の場合と同様である。
(4.C)符号変換受信装置:
本実施形態における動画像符号変換受信装置の構成及び動作は、図3に示した第2の実施形態における動画像符号変換受信装置とほぼ同じである。図3に示す例では、伝送路の個数Mを3としているが、本実施形態ではMを2としているため、第3の符号化データ受信部は存在しない。また、符号化データの再構成310の動作は、Mが2であるため、手順が異なる。
本実施形態における、符号化データ再構成部310での動作手順を、図10のフローチャートをもとに説明する。図10の一連の手順は、ある整数nに対し第nフレームの符号化データ再構成処理を示している。
ステップS1001では、第nフレームの全ての符号化データが第1の受信パケットバッファ301と第2の受信パケットバッファ304に到着すべき時刻に所定の許容される最大遅延時間を加えた時刻まで待機した後、ステップS1002に進む。
ステップS1002では、パケット番号を記憶する変数aに第nフレームのパケット番号の最小値を格納し、変数bに第nフレームのパケット番号の最大値を格納する。
ステップS1003では、パケット番号を記憶する変数iに変数aの値を代入し、ステップS1004からの繰り返し処理を開始する。
ステップS1004では、第1の誤り検出・パケットロス検出部303における誤りとパケットロスの検出結果に従い、第1の受信パケットバッファ301に第nフレームの第iパケットが存在し、ビット誤りがないかどうか判定する。第1の受信パケットバッファ301に第nフレームの第iパケットが受信され、かつデータに誤りが検出されない場合は、ステップS1005に進む。それ以外の場合は、ステップS1006に進む。
ステップS1005に進んだ場合は、第1の符号化データ抽出部302が出力する第nフレームの符号化データを復号する符号化データとして可変長復号部308に受け渡し、ステップS1008に進む。
ステップS1006に進んだ場合は、第2の誤り検出・パケットロス検出部306における誤りとパケットロスの検出結果に従い、第2の受信パケットバッファ304に第nフレームの第iパケットが存在し、ビット誤りがないかどうか判定する。第2の受信パケットバッファ304に第nフレームの第iパケットが受信され、かつデータに誤りが検出されない場合は、ステップS1007に進む。それ以外の場合は、ステップS1008に進む。
ステップS1007では、第2の符号化データ抽出部305が出力する第nフレームの符号化データを復号する符号化データとして可変長復号部308に受け渡し、ステップS1008に進む。
ステップS1008では、変数iを1増加させる。続くステップS1009では、変数iが変数bの値を超えていないか判定し、超えていない場合はステップS1004からの処理を繰り返す。変数iが変数bの値を超えた場合は、一連の繰り返し処理を終え、第nフレーム符号化データの再構成処理を終了する。
本実施形態におけるこれ以外の各部の動作、好ましい具体例は、第3の実施形態の場合と同様である。
(4.D)効果:
本発明の第4の実施形態によれば、動画像符号変換伝送装置は入力された動画像データの少なくとも一部を復号し、これを同一の動画像データを2個の符号化データに符号化して、一定又は適応的に変化する時間差を設けて送信する。
第2の動画像符号変換送信部は、第1の動画像符号変換送信部で符号化されたパケットが含む画像領域を、第1の動画像符号変換送信部による当該フレームの符号化で得られたフレーム間予測パラメータ又は予測残差画像データの少なくとも一方を利用して符号化する。
符号変換受信装置側は正常に受信できた符号化データの中から圧縮率が低い、及び/又は、画質の良い符号化データをパケット単位で選択し、出力する。
その結果、バースト性の高い伝送エラーやパケットロスが頻発する信頼性の低い伝送路を用いる場合でも、2個の符号化データの両方が誤って伝送される確率が小さくなり、伝送後の復号画像に著しい乱れが生じるのを防ぐことができる。
さらに、第2の符号化データの圧縮率を高くすることで、第2の符号化データ送信に伴う伝送帯域の増大を小さく抑えることができる。
加えて、伝送路の状況、動画像送信者又は動画像受信者の意図により、帯域の異なった複数の伝送路へ第1乃至第2の符号化データを送信することができ、さらに伝送路での誤りの影響を低減できる。
また、動画像符号変換受信装置で、受信した2個の符号化データの中から少なくとも1個のデータが選択され、動画像符号変換受信装置で、受信した2個の符号化データの中から動画像復号装置へ出力されるので、動画像復号装置は、通常の動画像復号装置と比べて必要な演算量が大きく増大することはない。
本実施形態では、符号変換伝送装置及び符号変換受信装置を組み合わせて使用しているが、それぞれ独立して使用しても問題ない。また、第1乃至第Nの符号変換データは、時間間隔以外によるインタリーブでも構わない。
(5)第5の実施の形態:
本発明の第5の実施の形態では、任意の2以上の整数N、任意の1以上の整数Mに対して、符号変換伝送装置側は、
(a)圧縮された符号化データを入力し、復号した動画像データの全てのフレーム、もしくは入力動画像の性質又は予め定められた規則に従い適応的に選択されたフレームを、受信した動画像データと同等もしくはそれよりも高い圧縮率となるよう圧縮符号化し、得られた符号化データの少なくとも一部を所定の伝送手段を用いて送信する制御を行う第1の動画像符号変換送信部と、
(b)第1の動画像符号変換送信部が再符号化した全てのフレーム、もしくは入力動画像の性質又は予め定められた規則に従い適応的に選択されたフレームを、当該フレームに対する第1の動画像符号変換送信部によるフレーム間予測で用いられた参照フレーム画像を利用して、第1の動画像符号変換送信部と同等もしくはそれよりも高い圧縮率となるように符号化し、得られた符号化データの少なくとも一部を第1の動画像符号変換送信部と同一又は異なる伝送手段を用い、一定又は適応的に変化する送信時間差を設けて送信する制御を行う第2乃至第Nの動画像符号変換送信部と、
(c)第1乃至第Mの伝送路に使用できる帯域にあわせて、第1乃至第Nの動画像符号変換送信部の圧縮率、及び/又は、送信符号化データ数を選択し、第1乃至第Mの伝送路へ符号化データを送出する機構と、を備えている。
符号変換受信装置側は、M個の伝送路から少なくとも1個の伝送路を選択し、選択された伝送路からN個の符号化データを受信し、伝送誤りがない、又は欠落がなく受信された符号化データを抽出し、同一フレームの符号化データの中から、例えば圧縮率が最も低い、画質の良い動画像符号化データを選択して出力する選択部を備えている。
これら符号変換伝送装置、符号変換受信装置の各構成要素は、符号変換伝送装置あるいは符号変換受信装置を構成するコンピュータで実行されるプログラムにより、その処理・機能が実現されてもよい。
以下、第5の実施形態について、さらに詳しく説明する。
(5−A)概要:
本実施形態のシステムの構成及び動作は第3の実施形態の場合とほぼ同じであり、図7に示されるように、動画像データの符号変換伝送装置と符号変換受信装置及び符号化データを伝送するための伝送路から構成される。整数Nは、符号変換伝送装置が送信する符号化データの個数を表し、2以上とする。整数Mは、N個の符号化データが送出される伝送路の個数を表し、1以上とする。
動画像符号変換伝送装置の構成は第3の実施形態とほぼ同じであるが、この装置を構成する各部の動作が若干異なる。以下相違点についてのみ説明し、同一部分の説明は省略する。
入力された動画像符号化データの少なくとも一部を復号し、得られた画像を入力画像データと同等もしくはそれより高い圧縮率で所定の圧縮符号化を行い、符号変換データの少なくとも一部を動画像符号変換受信装置へ送信する制御を行う第2乃至第Nの動画像符号化送信部における入力フレーム画像の符号化は、当該フレームに対する第1の動画像符号化送信部のフレーム間予測で用いた参照フレーム画像を用いて行われる。第1の動画像符号化送信部と異なる制御によりフレーム間予測を行って得られた、第1の動画像符号化送信部と異なるフレーム間予測パラメータと予測差分画像データを符号化しても良い。上記以外の動作に関しては、基本的に第3の実施形態と同じである。
動画像符号変換受信装置の構成は第3の実施形態の場合と同じである。
(5.B)符号変換伝送装置:
図11は、第5の実施形態における動画像符号変換伝送装置の詳細な構成を示している。簡単のため、この装置が出力する符号化データの個数Nを2としている。図11において、参照符号1101〜1109は、本実施形態における動画像符号変換伝送装置が備える第1の動画像符号化送信部を構成する処理部を示しており、これらの処理部は、図8における第1の動画像符号変換送信部の処理部と同様に動作する。同じく図11において、フレーム間予測部1110、予測残差算出部1111、第2の予測残差圧縮符号化部1112、第2の符号化パケット生成部1113、1114は、本実施形態における動画像符号変換伝送装置が備える第2の動画像符号化送信部を構成する処理部である。ただし、第1の実施形態における動画像符号化送信部とは異なる動作をする。
フレーム間予測部1110は、参照フレーム格納メモリ1109に格納された少なくとも1つの復号画像から、復号部1101より入力された画像へのフレーム間予測を行う。予測残差算出部1111は入力フレーム画像から、フレーム間予測部1110で得られた予測画像を減算することで予測残差を算出する。第2の予測残差圧縮符号化部1112は、予測残差算出部1111で得られた予測残差画像を第1の予測残差圧縮符号化部1104と同等もしくはそれよりも高い圧縮率で符号化する。第2の符号化パケット生成部1113はフレーム間予測部1110で得られたフレーム間予測パラメータと1112で得られた予測残差の圧縮データをビット列に可変長符号化し、所定のパケット単位で出力する。第2の誤り検出符号付加・フレーム/パケット識別番号付加部1114は、第2の符号化パケット生成部1113が出力した圧縮パケットデータの伝送誤りとパケットロスを受信装置で検出するための、誤り検出符号とフレーム/パケット識別番号を付加する。以上の処理部の動作により第2の動画像符号化データが得られ、所定の送信手段によってパケット単位で送信される。
(5.C)効果:
本発明の第5の実施形態によれば、動画像符号変換伝送装置は、入力された動画像データの少なくとも一部を復号し、これを同一の動画像データを2個の符号化データに符号化して、一定又は適応的に変化する時間差を設けて送信する。
第2の動画像符号変換送信部は、第1の動画像符号変換送信部で符号化されたフレームを、第1の動画像符号変換送信部による当該フレームの符号化で用いられた参照フレーム画像を利用して符号化する。
符号変換受信装置側は、正常に受信できた符号化データの中から圧縮率が低く画質の良い符号化データをフレーム単位で選択し、かつ2個の伝送路から受信したデータのうち、品質の高いデータを選択し、出力する。
その結果、バースト性の高い伝送エラーやパケットロスが頻発する信頼性の低い伝送路を用いる場合でも、2個の符号化データの両方が誤って伝送される確率が小さくなり、伝送後の復号画像に著しい乱れが生じるのを防ぐことができる。
さらに、第2の符号化データの圧縮率を高くすることで、第2の符号化データ送信に伴う伝送帯域の増大を小さく抑えることができる。
加えて、伝送路の状況、動画像送信者又は動画像受信者の意図により、帯域の異なった複数の伝送路へ第1、第2の符号化データを送信することができ、さらに伝送路での誤りの影響を低減できる。
また、動画像符号変換受信装置で、受信した2個の符号化データの中から少なくとも1個のデータが選択され、動画像符号変換受信装置で、受信した2個の符号化データの中から動画像復号装置へ出力されるので、動画像復号装置は、通常の動画像復号装置と比べて必要な演算量が大きく増大することはない。
本実施形態では、符号変換伝送装置及び符号変換受信装置を組み合わせて使用しているが、それぞれ独立して使用しても問題ない。また、第1乃至第Nの符号変換データは、時間間隔以外によるインタリーブでも構わない。
(6)第6の実施の形態:
本発明の第6の実施の形態では、任意の2以上の整数N、任意の1以上の整数Mに対して、符号変換伝送装置側は、
(a)圧縮された符号化パケットデータを入力し、復号した動画像データを入力された動画像データと同等もしくはそれよりも高い圧縮率となるよう圧縮符号化し、得られた符号化パケットデータの少なくとも一部を、所定の伝送手段を用いて送信する制御を行う第1の動画像符号変換送信部と、
(b)第1の動画像符号変換送信部が符号化した全てのパケットデータ、もしくは入力動画像の性質又は予め定められた規則に従い適応的に選択されたパケットデータに対し、各々のパケットデータが符号化した画像領域を、当該画像領域に対する第1の動画像符号変換送信部によるフレーム間予測で用いられた参照フレーム画像を利用して、第1の動画像符号変換送信部と同等もしくはそれよりも高い圧縮率となるようなパケットデータに符号化し、得られたパケットデータの少なくとも一部を所定の伝送手段を用い、一定又は適応的に変化する送信時間差を設けて送信する制御を行う第2乃至第Nの動画像符号変換送信部と、
(c)第1乃至第Mの伝送路に使用できる帯域にあわせて、第1乃至第Nの動画像符号変換送信部の圧縮率、及び/又は、送信符号化データ数を選択し、第1乃至第Mの伝送路へ符号化データを送出する機構と、を備えている。
符号変換受信装置側は、M個の伝送路から少なくとも1個の伝送路を選択し、選択された伝送路からN個の符号化データを受信し、伝送誤りがない、又は欠落がなく受信された、同一フレームの同一領域の画像を符号化したパケットデータの中から、例えば圧縮率が最も低い、画質の良い符号化パケットデータを選択して出力する選択部を備えている。
これら符号変換伝送装置、符号変換受信装置の各構成要素は、符号変換伝送装置あるいは符号変換受信装置を構成するコンピュータで実行されるプログラムにより、その処理・機能が実現されてもよい。
以下、第6の実施形態について、さらに詳しく説明する。
(6.A)概要:
本実施形態のシステムの構成は第5の実施形態におけるものとほぼ同じであり、図7に示されるように、動画像データの符号変換伝送装置、符号変換受信装置及び符号化データを伝送するための伝送路から構成される。整数Nは、符号変換伝送装置が送信する符号化データの個数を表し、2以上とする。整数Mは、N個の符号化データが送出される伝送路の個数を表し、1以上とする。
動画像符号変換伝送装置の構成は第5の実施形態の場合とほぼ同じであるが、この装置を構成する各部の動作が若干異なる。以下では相違点について説明する。
入力された動画像符号化データの少なくとも一部を復号し、得られた画像を入力画像データと同等もしくはそれより高い圧縮率で符号化する第1の動画像符号化送信部で符号化される入力フレーム画像の符号化データは、少なくとも一個のパケットデータから構成されており、各パケットデータには入力フレーム画像に含まれる一部の画像領域に対するフレーム間予測パラメータ及び差分画像圧縮データが符号化されている。また、第2乃至第Nの動画像符号化送信部は、第1の動画像符号化送信部で符号化されたパケットの少なくとも一部のパケットが含む画像領域を、当該画像領域に対する第1の動画像符号化送信部のフレーム間予測で用いた参照フレーム画像を利用して、第1の動画像符号化送信部と同等もしくはそれよりも高い圧縮率で符号化し、得られた符号化パケットデータの少なくとも一部を動画像符号変換受信装置へ送信する。上記以外の動作に関しては、基本的に第5の実施形態と同じである。
本発明の第6の実施形態での動画像符号変換受信装置の構成及び動作は、第4の実施形態の場合と同じであり、第5の実施形態とは異なっている。
(6.B)符号変換伝送装置:
本実施形態における動画像符号変換伝送装置の構成及び動作は、図9に示した第5の実施形態における動画像符号変換伝送装置とほぼ同じであり、図11における第1の符号化パケット生成1105と、第2の符号化パケット生成部1113と、第1の誤り検出符号付加・フレーム/パケット番号付加部1106と、第2の誤り検出符号付加・フレーム/パケット番号付加部1114の動作のみが相違する。第5の実施形態との相違点について以下に説明する。
本実施形態における動画像データ符号変換伝送装置において、第1の符号化パケット生成部1105と第2の符号化パケット生成部1113は、第1の符号化パケット生成部1105で生成する符号化パケットデータが含む画像領域と、第2の符号化パケット生成部1113で生成する符号化パケットデータが含む画像領域が一致するように、符号化パケットデータを生成する。
第1の誤り検出符号付加・フレーム/パケット番号付加部1106と第2の誤り検出符号付加・フレーム/パケット番号付加部1114は、同一フレームの同一画像領域に対応する符号化パケットデータに同一のパケット識別番号が付加されるように動作する。ただし、第1乃至第2の符号化パケット生成部が符号化するパケットデータに、フレームの番号や、当該パケットデータが含む画像領域を特定するための情報が含まれる場合は、フレーム/パケット識別番号を付加しなくても良い。
(6.C)効果:
以上で説明した第6の実施形態によれば、動画像符号変換伝送装置は入力された動画像データの少なくとも一部を復号し、これを同一の動画像データを2個の符号化データに符号化して、一定又は適応的に変化する時間差を設けて送信する。
第2の動画像符号変換送信部は、第1の動画像符号変換送信部で符号化されたパケットが含む画像領域を、第1の動画像符号変換送信部による当該フレームの符号化で用いられた参照フレーム画像を利用して符号化する。符号変換受信装置側は正常に受信できた符号化データの中から圧縮率が低く画質の良い符号化データをパケット単位で選択し、かつ2個の伝送路から受信したデータのうち、品質の高いデータを選択し、出力する。
その結果、バースト性の高い伝送エラーやパケットロスが頻発する信頼性の低い伝送路を用いる場合でも、2個の符号化データの両方が誤って伝送される確率が小さくなり、伝送後の復号画像に著しい乱れが生じるのを防ぐことができる。
さらに、第2の符号化データの圧縮率を高くすることで、第2の符号化データ送信に伴う伝送帯域の増大を小さく抑えることができる。加えて、伝送路の状況、動画像送信者又は動画像受信者の意図により、帯域の異なった複数の伝送路へ第1、第2の符号化データを送信することができ、さらに伝送路での誤りの影響を低減できる。
また、動画像符号変換受信装置で、受信した2個の符号化データの中から少なくとも1個のデータが選択され、動画像符号変換受信装置で、受信した2個の符号化データの中から動画像復号装置へ出力されるので、動画像復号装置は、通常の動画像復号装置と比べて必要な演算量が大きく増大することはない。
本実施形態では、符号変換伝送装置及び符号変換受信装置を組み合わせて使用しているが、それぞれ独立して使用しても問題ない。また、第1乃至第Nの符号変換データは、時間間隔以外によるインタリーブでも構わない。
(7)第7の実施の形態:
本発明の第7の実施の形態では、任意の2以上の整数N、任意の1以上の整数Mに対して、符号変換伝送装置は、
(a)符号化パケットデータを入力し、所定の伝送手段を用いて送信する制御を行う第1の動画像符号変換送信部と、
(b)第1の動画像符号変換送信部が符号化した全てのパケットデータ、もしくは入力動画像の性質又は予め定められた規則に従い適応的に選択されたパケットデータに対し、パケットを複製し、得られたパケットデータの少なくとも一部を第1の動画像符号変換送信部と同一又は異なる伝送手段を用い、一定又は適応的に変化する送信時間差を設けて送信する制御を行う第2乃至第Nの動画像符号変換送信部と、
(c)第1乃至第Mの伝送路に使用できる帯域にあわせて、第1乃至第Nの動画像符号変換送信部の送信符号化データ数を選択し、第1乃至第Mの伝送路へ符号化データを送出する機構と、を備えている。
符号変換受信装置側は、M個の伝送路から少なくとも1個の伝送路を選択し、選択された伝送路からN個の符号化データを受信し、伝送誤りがない、又は欠落がなく受信された、同一フレームの同一領域の画像を符号化したパケットデータの中から、例えば最初に正常に受信した符号化パケットデータを選択して出力する選択部、を備えている。
これらの符号変換伝送装置、符号変換受信装置の各構成要素は、符号変換伝送装置あるいは符号変換受信装置を構成するコンピュータで実行されるプログラムにより、その処理・機能が実現されてもよい。
以下、第7の実施形態について、さらに詳しく説明する。
(7.A)概要:
図12は、本発明の第7の実施形態におけるシステムの構成を示す図である。図12に示すように、第7の実施形態のシステムは、動画像データの符号変換伝送装置1200、符号変換受信装置1220及び符号化データを伝送するための伝送路1230から構成される。整数Nは、符号変換伝送装置が送信する符号化データの個数を表し、2以上とする。整数Mは、N個の符号化データが送出される伝送路1230の個数を表し、1以上とする。
符号変換伝送装置1200は、動画像パケットデータを入力し、その少なくとも一部を選択し、第1乃至第Mの伝送路1230へ送出する。
図12に示すように、この装置1200は、動画像符号化パケットデータを、第1乃至第MのM個の伝送路へ送出する制御を行う第1乃至第NのN個の動画像符号変換送信部1202〜1205を備える。動画像データ受信部1201は、動画像パケットデータを受信する。第1の動画像符号変換送信部1202は、入力された動画像パケットデータの少なくとも一部のパケットを、動画像符号変換受信装置1220に送出する処理を行う。動画像データ複製部1203は、受信したパケットを複製し、第2乃至第Nの動画像符号変換送信部1204乃至1205へ出力する。第2の動画像符号変換送信部1204乃至1205は、複製されたパケットの少なくとも一部を、動画像符号変換受信装置1220へ送出する。第1乃至第Nの動画像符号化データのうち、伝送路に使用できる帯域にあわせて選択された符号化データは、第1乃至第Mの伝送路1230上へ送出される。
動画像符号変換受信装置1220は、受信伝送路選択部1206で、符号変換伝送装置が送信したM個の伝送路から少なくとも1個の伝送路を選択し、選択された伝送路からのN個の符号化データを受信し、復号変換を行う。
図12に示すように、動画像符号変換受信装置1220は、符号変換伝送装置1200が備える第1乃至第Nの動画像符号変換送信部1202乃至1205によって送信された符号化データを受信する第1乃至第Nの符号化データ受信部1207乃至1209と、符号化データ再構成部1210を備える。
符号化データ再構成部1210は、符号化データ受信部1207〜1209で伝送誤りも欠落もなく受信された最大N個の符号化データの中から、データを選択して出力する。最大N個の符号化データの圧縮率は同じであるため、例えば最初に、正常に受信した符号化データを出力する等の選択が行われる。
(7.B)符号化変換伝送装置:
図13は、本発明の第7の実施形態における動画像符号変換伝送装置1200(図7参照)の詳細な構成を示している。簡単のため、この装置が出力する符号化データの個数Nを2、符号化データを送信する伝送路の個数Mを2としている。
図13において、第1の動画像符号変換送信部1300の第1の送信パケット選択部1301は、入力された動画像パケットデータのうち、画像の性質や伝送路の状況に従い、適応的に送信するパケットを選択する。選択にあたり、例えば一定周期(nパケットに1回)ごとにパケットを選択して送信してもよい。あるいは、動画像フレームのパケット中の特徴パラメータを参照して、適応的に、伝送すべき選択符号化パケットを決定する。例えば、符号化パケット中の特徴パラメータとして、動きベクトルなどビット誤りあるいはパケットロスによる復号画像の画質への影響が大きいパラメータを参照して、適応的に、伝送すべき符号化パケットを決定するようにしてもよい。あるいは、符号化がMPEGの場合、例えばIピクチャは、必ず選択する等の規則(動的に可変させる場合も含む)にしたがって選択するようにしてもよい。
第1の誤り検出符号・フレーム/パケット識別番号付加部1302は、出力した符号化パケットデータの伝送誤りとパケットロスを受信装置で検出するための、誤り検出符号とフレーム/パケット識別番号を付加する。
図13において、第2の動画像符号変換送信部1310のパケット複製部1303は、入力された動画像符号化パケットデータを複製する。
第2の送信パケット選択部1304は、複製された動画像パケットデータのうち、第1の動画像符号変換送信部と同じ、もしくは異なった個数で、画像の性質や伝送路の状況に従って適応的に送信するパケットを選択する。異なった個数で選択する場合、上記したように、動きベクトルなど特徴パラメータとその閾値の関係(規則)に基づき、選択するようにしてもよいし、符号化がMPEGの場合、例えばIピクチャは必ず選択する等の規則にしたがって選択するようにしてもよい。
第2の誤り検出符号・フレーム/パケット識別番号付加部1305は、選択部1304が出力した符号化パケットデータの伝送誤りとパケットロスを受信装置で検出するための、誤り検出符号とパケット識別番号を付加する。
本実施形態では、Mを2、Nを2としているため、2個の伝送路それぞれに、以上の第1乃至第2の動画像符号化データのうち、伝送路に使用できる帯域にあわせて選択された動画像符号化データが送信される。
上記以外の処理部の動作は、第4の実施形態と同様である。
本実施形態を更に好ましくした具体化した例は、第2の実施形態の場合と同様である。動画像符号変換受信装置の構成及び動作は、第4の実施形態の場合と同じである。
(7.C)効果:
以上で説明した第7の実施形態によれば、動画像符号変換伝送装置は同一の動画像パケットデータを2個の符号化データに変換して、一定又は適応的に変化する時間差を設けて送信する。
第1の動画像符号変換送信部は、入力された動画像パケットデータを、動画像の性質又は予め定められた規則に従い適応的に選択して送信する。第2の動画像符号変換送信部は、入力された動画像パケットデータを複製し、少なくともその一部を選択し、送信する。
符号変換受信装置側は正常に受信できた符号化パケットデータの中から誤りもしくは欠落のないデータを、パケット単位で選択し、かつ2個の伝送路から受信したデータのうち、例えば最初に到着したデータを選択し、出力する。
その結果、バースト性の高い伝送エラーやパケットロスが頻発する信頼性の低い伝送路を用いる場合でも、2個の符号化データの両方が誤って伝送される確率が小さくなり、伝送後の復号画像に著しい乱れが生じるのを防ぐことができる。
さらに、第2の符号化パケットデータの選択個数を小さくすることで、第2の符号化データ送信に伴う伝送帯域の増大を小さく抑えることができる。
加えて、伝送路の状況、動画像送信者又は動画像受信者の意図により、帯域の異なった複数の伝送路へ第1乃至第2の符号化データを送信することができ、さらに伝送路での誤りの影響を低減できる。
また、動画像符号変換受信装置で、受信した2個の符号化データの中から少なくとも1個のデータが選択され、動画像符号変換受信装置で、受信した2個の符号化データの中から動画像復号装置へ出力されるので、動画像復号装置は、通常の動画像復号装置と比べて必要な演算量が大きく増大することはない。
本実施形態では、符号変換伝送装置及び符号変換受信装置を組み合わせて使用しているが、それぞれ独立して使用しても問題ない。また、第1乃至第Nの符号変換データは、時間間隔以外によるインタリーブでも構わない。
(8)第8の実施の形態:
本発明の第8の実施の形態では、任意の2以上の整数N、任意の1以上の整数Mに対して、符号変換伝送装置側は、
(a)圧縮された符号化データを入力し、入力された符号化データの少なくとも一部を復号し、入力された符号化データと同等もしくはそれより高い圧縮率となるよう圧縮符号化し、全てのフレーム、もしくは入力動画像の性質又は予め定められた規則に従い適応的に選択されたフレームを、所定の伝送手段を用いて送信する制御を行う第1の動画像符号変換送信部と、
(b)入力された符号化データの少なくとも一部を復号し、第1の動画像符号変換送信部と同等もしくはそれより高い圧縮率となるよう圧縮符号化し、得られた符号化データの全てのフレーム、もしくは入力動画像の性質又は予め定められた規則に従い適応的に選択されたフレームを、第1の動画像符号変換送信部と同一又は異なる伝送手段を用い、一定又は適応的に変化する送信時間差を設けて送信する制御を行う第2乃至第Nの動画像符号変換送信部と、
(c)第1乃至第Mの伝送路に使用できる帯域にあわせて、第1乃至第Nの動画像符号変換送信部の圧縮率、及び/又は、送信符号化データ数を選択し、第1乃至第Mの伝送路へ符号化データを送出する機構と、を備えている。
符号変換受信装置側は、M個の伝送路から少なくとも1個の伝送路を選択し、選択された伝送路からN個の符号化データを受信し、伝送誤りがない、又は欠落がなく受信された符号化データを抽出し、同一フレームの符号化データの中から、例えば圧縮率が最も低い、画質の良い動画像符号化データを選択して出力する選択部を備えている。
これらの符号変換伝送装置、符号変換受信装置の各構成要素は、符号変換伝送装置あるいは符号変換受信装置を構成するコンピュータで実行されるプログラムにより、その処理・機能が実現されてもよい。
以下、第8の実施形態についてさらに詳しく説明する。
(8.A)概要:
図14は、本発明の第8の実施形態でのシステムの構成を示す図である。図14に示すように、このシステムは、動画像データの符号変換伝送装置1400、符号変換受信装置1420及び符号化データを伝送するための伝送路1430から構成されている。整数Nは、符号変換伝送装置が送信する符号化データの個数を表す。Nは2以上とする。整数Mは、N個の符号化データが送出される伝送路1430の個数を表し、1以上とする。
動画像符号変換伝送装置1400は、入力された符号化された動画像データの少なくとも一部を復号し、得られた画像を入力データと同等もしくはそれより高い圧縮率で所定の圧縮符号化を行い、符号変換データの少なくとも一部を動画像符号変換受信装置へ送信する。動画像符号変換伝送装置1400は、入力された動画像データをN個の符号化データに符号化し、第1乃至第Nの動画像符号化データとして第1乃至第Mの伝送路に送信する。図14に示すように、この装置は第1乃至第Nの動画像符号変換送信部1403〜1405を備える。
動画像データ受信部1401は、動画像データを受信する。動画像復号部1402は、入力された動画像符号化データの少なくとも一部を復号する。第1の動画像符号変換送信部1403は、符号変換伝送装置に入力されたフレームに対し所定の圧縮符号化を行い、得られた符号化データの少なくとも一部を動画像符号変換受信装置1420へ送信する。第2乃至第Nの動画像符号変換送信部1403〜1405は、第1の動画像符号変換送信部1403と同等もしくはそれよりも高い圧縮率で符号化し、得られた符号化データの少なくとも一部を動画像符号変換受信装置1420へ送出する。第1乃至第Nの動画像符号化データのうち、伝送路に使用できる帯域にあわせて選択された符号化データは、第1乃至第Mの伝送路1430上へ送出される。
動画像符号変換受信装置1430は、受信伝送路選択部1406で、動画像符号変換伝送装置が送信したM個の伝送路から少なくとも1個の伝送路を選択し、選択された伝送路からのN個の符号化データを受信し、復号変換を行う。
図14に示すように、動画像符号変換受信装置1430は、符号変換伝送装置1400が備える第1乃至第Nの動画像符号変換送信部1403〜1405により送信された符号化データを受信する第1乃至第Nの符号化データ受信部1407乃至1409と、符号化データ再構成部1410とを備える。
符号化データ再構成部1410は、符号化データ受信部1407〜1409で伝送誤りも欠落もなく受信された最大N個の符号化データの中から、例えば圧縮率が最も低い、画質の良いデータを選択して出力する。
(8.B)符号変換伝送装置:
図15は、本発明の第8の実施形態における動画像符号変換伝送装置1400(図14参照)の詳細な構成を示す図である。簡単のため、この装置が出力する符号化データの個数Nを2、符号化データを送信する伝送路の個数Mを2としている。
図15において、復号部1501は、入力された動画像データの少なくとも一部を復号する。図14においては第1の動画像符号変換送信部1403と示されている第1の動画像符号変換送信部1500の第1の送信フレーム/パケット生成部1502は、復号された動画像データを、入力されたデータと同等、もしくはそれより高い圧縮率で符号化し、第1の誤り検出符号・フレーム/パケット識別番号付加部1503へ出力する。第1の誤り検出符号・フレーム/パケット識別番号付加部1503は、第1の送信フレーム/パケット生成部1502が出力した符号化データの伝送誤りとパケットロスを受信装置で検出するための、誤り検出符号とフレーム/パケット識別番号を付加する。これによって、第1の動画像符号化データが得られ、所定の送信手段によって送信される。同じく図15において、図14においては第2の動画像符号変換送信部1404と記載されている第2の動画像符号変換送信部1510の第2の送信フレーム/パケット生成部1504は、第1の動画像符号変換送信部1500と同等、もしくはそれより高い圧縮率で符号化し、第2の誤り検出符号・フレーム/パケット識別番号付加部1505へ出力する。第2の誤り検出符号・フレーム/パケット識別番号付加部1505は、第2の送信フレーム/パケット生成部1504が出力した符号化データの伝送誤りとパケットロスを受信装置で検出するための、誤り検出符号とフレーム/パケット識別番号を付加する。これによって第2の動画像符号化データが得られ、所定の送信手段によって送信される。
本実施形態では、Mを2、Nを2としているため、2個の伝送路それぞれに、以上の第1乃至第2の動画像符号変換送信データが送信される。
上記以外の処理部の動作は、第3の実施形態と同様である。
本実施形態を更に好ましく具体化した例は、本発明の第1の実施形態の場合と同様である。また動画像符号変換受信装置の構成及び動作は、第3の実施形態の場合と同じである。
(8.C)効果:
本実施形態によれば、動画像符号変換伝送装置は入力された動画像データの少なくとも一部を復号し、これを同一の動画像データを2個の符号化データに符号化して、一定又は適応的に変化する時間差を設けて送信する。
符号変換受信装置側は、正常に受信できた符号化データの中から圧縮率が低く画質の良い符号化データをフレーム単位で選択し、出力する。
その結果、バースト性の高い伝送エラーやパケットロスが頻発する信頼性の低い伝送路を用いる場合でも、2個の符号化データの両方が誤って伝送される確率が小さくなり、伝送後の復号画像に著しい乱れが生じるのを防ぐことができる。
さらに、第2の符号化データの圧縮率を高くすることで、第2の符号化データ送信に伴う伝送帯域の増大を小さく抑えることができる。
加えて、伝送路の状況、動画像送信者又は動画像受信者の意図により、帯域の異なった複数の伝送路へ第1乃至第2の符号化データを送信することができ、さらに伝送路での誤りの影響を低減できる。
また、動画像符号変換受信装置で、受信した2個の符号化データの中から少なくとも1個のデータが選択され、動画像符号変換受信装置で、受信した2個の符号化データの中から動画像復号装置へ出力されるので、動画像復号装置は、通常の動画像復号装置と比べて必要な演算量が大きく増大することはない。
本実施形態では、符号変換伝送装置及び符号変換受信装置を組み合わせて使用しているが、それぞれ独立して使用しても問題ない。また、第1乃至第Nの符号変換データは、時間間隔以外によるインタリーブでも構わない。
(9)第9の実施の形態:
本発明の第9の実施の形態では、任意の2以上の整数N、任意の1以上の整数Mに対して、符号変換伝送装置側は、
(a)圧縮された符号化パケットデータを入力し、入力された符号化パケットデータの少なくとも一部を復号し、入力された符号化データと同等もしくはそれより高い圧縮率となるよう圧縮符号化し、全てのパケット、もしくは入力動画像の性質又は予め定められた規則に従い適応的に選択されたパケットを、所定の伝送手段を用いて送信する制御を行う第1の動画像符号変換送信部と、
(b)入力された符号化パケットデータの少なくとも一部を復号し、第1の動画像符号変換送信部と同等もしくはそれより高い圧縮率となるようなパケットデータに圧縮符号化し、得られた全てのパケットデータ、もしくは入力動画像の性質又は予め定められた規則に従い適応的に選択されたパケットデータを所定の伝送手段を用い、一定又は適応的に変化する送信時間差を設けて送信する制御を行う第2乃至第Nの動画像符号変換送信部と、
(c)第1乃至第Mの伝送路に使用できる帯域にあわせて、第1乃至第Nの動画像符号変換送信部の圧縮率、及び/又は、送信符号化データ数を選択し、第1乃至第Mの伝送路へ符号化データを送出する機構と、を備えている。
符号変換受信装置側は、M個の伝送路から少なくとも1個の伝送路を選択し、選択された伝送路からN個の符号化データを受信し、伝送誤りがない、又は欠落がなく受信された、同一フレームの同一領域の画像を符号化したパケットデータの中から、例えば圧縮率が最も低い、画質の良い符号化パケットデータを選択して出力する選択部を備えている。
これらの符号変換伝送装置、符号変換受信装置の各構成要素は、符号変換伝送装置あるいは符号変換受信装置を構成するコンピュータで実行されるプログラムにより、その処理・機能が実現されてもよい。
以下、第9の実施形態について、さらに詳しく説明する。
(9.A)概要:
本実施形態の構成及び動作は第8実施形態とほぼ同じであり、図14に示されるように、システムは、動画像符号変換伝送装置と符号変換受信装置及び符号化データを伝送するための伝送路から構成される。整数Nは、符号変換伝送装置が送信する符号化データの個数を表し、2以上とする。整数Mは、N個の符号化データが送出される伝送路の個数を表し、1以上とする。
動画像符号変換伝送装置の構成は第8の実施形態の場合とほぼ同じであるが、この装置を構成する各部の動作が若干異なる。以下では第8の実施形態との相違点についてのみ説明する。
入力された動画像符号化データの少なくとも一部を復号し、得られた画像を入力画像データと同等もしくはそれより高い圧縮率で所定の圧縮符号化を行い、符号変換データを動画像符号変換受信装置へ送信する動画像符号変換送信処理部で符号化される入力フレーム画像の符号化データは、1個又は複数個のパケットデータから構成されており、各パケットデータには入力フレーム画像に含まれる一部の画像領域に対するフレーム間予測パラメータ及び差分画像圧縮データが符号化されている。また、第2乃至第Nの動画像符号化送信部は、第1の動画像符号化送信部で符号化されたパケットの少なくとも一部のパケットが含む画像領域を、第1の動画像符号化送信部と同等もしくはそれよりも高い圧縮率で符号化し、得られた符号化パケットデータを動画像符号変換受信装置へ送信する。
動画像符号変換受信装置の構成も第8の実施形態とほぼ同じであるが、この装置を構成する各部の動作が若干異なる。以下では第8の実施形態との相違点についてのみ説明する。
符号化データ再構成部1410は、第8の実施形態の場合と同様に、第1乃至第Nの符号化データ受信部で伝送誤りも欠落もなく受信され、同一フレームの同一領域の圧縮データを含む最大N個の符号化パケットデータの中から、例えば圧縮率が最も低い、画質の良いパケットを復号される符号化データとして選択し、この選択を符号変換伝送装置が送信するパケットデータ単位で行う。
(9.B)符号変換伝送装置:
本実施形態における動画像データ符号変換伝送装置の構成及び動作は、図15に示した第8の実施形態における動画像データ符号変換伝送装置とほぼ同じであり、図15における第1の符号化パケット生成部1502と、第2の符号化パケット生成部1504と、第1の誤り検出符号付加・フレーム/パケット番号付加部1503と、第2の誤り検出符号付加・フレーム/パケット番号付加部1505の動作のみが相違する。以下では、動作の相違点についてのみ説明する。
本実施形態における動画像データ符号変換伝送装置において、第1の符号化パケット生成部1502と第2の符号化パケット生成部1504は、第1の符号化パケット生成部1502で生成する符号化パケットデータが含む画像領域と、第2の符号化パケット生成部1504で生成する符号化パケットデータが含む画像領域が一致するように、符号化パケットデータを生成する。
以上で説明した本実施形態を更に好ましく具体化した例は、第2の実施形態の場合と同様である。動画像符号変換受信装置の構成及び動作は、第4の実施形態と同じである。
(9.C)効果:
第9の実施形態によれば、動画像符号変換伝送装置は入力された動画像データの少なくとも一部を復号し、これを同一の動画像データを2個の符号化データに符号化して、一定又は適応的に変化する時間差を設けて送信する。
第2の動画像符号変換送信部は、第1の動画像符号変換送信部で符号化されたパケットが含む画像領域を符号化する。符号変換受信装置側は正常に受信できた符号化データの中から圧縮率が低く画質の良い符号化データをパケット単位で選択し、出力する。
その結果、バースト性の高い伝送エラーやパケットロスが頻発する信頼性の低い伝送路を用いる場合でも、2個の符号化データの両方が誤って伝送される確率が小さくなり、伝送後の復号画像に著しい乱れが生じるのを防ぐことができる。
さらに、第2の符号化データの圧縮率を高くすることで、第2の符号化データ送信に伴う伝送帯域の増大を小さく抑えることができる。
加えて、伝送路の状況、動画像送信者又は動画像受信者の意図により、帯域の異なった複数の伝送路へ第1、第2の符号化データを送信することができ、さらに伝送路での誤りの影響を低減できる。
また、動画像符号変換受信装置で、受信した2個の符号化データの中から少なくとも1個のデータが選択され、動画像符号変換受信装置で、受信した2個の符号化データの中から動画像復号装置へ出力されるので、動画像復号装置は、通常の動画像復号装置と比べて必要な演算量が大きく増大することはない。
本実施形態では、符号変換伝送装置及び符号変換受信装置を組み合わせて使用しているが、それぞれ独立して使用しても問題ない。また、第1乃至第Nの符号変換データは、時間間隔以外による、インタリーブ法で送信しても構わない。第1乃至第Nの符号変換データの送信順序は、インタリーブ法によってシャフルされて出力され、第mの符号化データが、第nの符号化データ(ただし、m<n)よりも後に送信されるようにしてもよい。第1乃至第Nの符号変換データは、多重装置で多重化して送信するようにしてもよいし、また並列伝送してもよい。
上記各実施形態の変形例として、動画像符号変換伝送装置の第2乃至第Nの動画像符号変換送信部からの第2乃至第Nの動画像符号化データを遅延させる図5に示した遅延付加部502、503あるいは遅延付加部506、507と、第1の動画像符号変換送信部からの第1の動画像符号化データ出力と遅延が付加された第2乃至第Nの動画像符号化データを多重化させる図5に示した多重化部504、508を、動画像符号変換伝送装置内に設ける構成としてもよい。あるいは遅延付加部を備える変わりに、多重化部504、508が、動画像符号変換伝送装置の第1乃至第Nの動画像符号変換送信部からの第1乃至第Nの動画像符号化データをインタリーブして多重化出力する構成を、動画像符号変換伝送装置内に設ける構成としてもよい。またM個の伝送路130(図1参照)のそれぞれは同一の通信媒体であっても、無線と有線等のように異なる媒体を含むものであってもよい。
(10)第10の実施の形態:
さらに本発明の別の実施の形態について説明する。図16は、本発明の第10の実施の形態のシステム構成を示している。図16を参照すると、符号化データを出力する符号化装置40と、動画像データの符号変換伝送装置10と、複数(K個)の動画像データの符号変換受信装置201〜20Kと、符号変換受信装置201〜20Kに接続される複数(K個)の復号装置301〜30Kとを備えている。符号化装置40は、符号化データを配信する情報提供源をなし、公知のサーバ装置が用いられる。符号変換伝送装置10は、第1乃至第9の実施形態を参照して説明した本発明の符号変換伝送装置、例えば図1に示した符号変換伝送装置100からなる。
複数の動画像データの符号変換受信装置20は、第1乃至第9の実施形態を参照して説明した本発明の符号変換受信装置、例えば図1に示した符号変換受信装置120からなる。復号装置30は、符号変換受信装置20からの符号化データを復号して表示する装置(デコーダ)であり、既製品がそのまま利用される。
図16に示す例では、符号変換伝送装置10と各符号変換受信装置201〜20Kとのそれぞれの情報転送に用いられる伝送路13は、各符号変換受信装置につき1本とされている。すなわち、図1に示した実施形態でのM個の伝送路130のMは1個とされており、図1の符号変換受信装置120を複数個備えた構成としたものである。符号変換伝送装置10は、図示されないN個の動画像符号変換送信部を備えておりN本の符号化データを出力することは、上述の各実施形態と同じである。
この実施形態の具体例をなす一例として、符号変換伝送装置10は、インターネット通信網(あるいはイントラネット)に接続され、符号化装置40から、符号化データを例えばUDP/IPプロトコルを用いて伝送される符号化データを入力する。符号変換伝送装置10の図示されない動画像符号変換送信部の処理は、RTP(Real-time Transport Protocol)に対応する処理を行う。符号変換受信装置20は、例えばインターネット通信網に接続されるクライアント端末とする。
この実施形態で、伝送路が、無線の場合、符号変換伝送装置10からの符号変換出力(N本の符号化データ)はUDP/IPプロトコル、物理層を介して出力され、ルータ及びゲートウエイ等を介して移動体パケット通信システム網内の基地局を介し宛先の符号変換受信装置20に送信され、符号変換受信装置20では、符号化装置40と復号装置30との間の符号変換伝送装置10で符号変換されたデータを、符号化装置40のもとの符号化に対応した符号化データに再構成して出力し、復号装置30は符号化装置40の符号化と対応する復号処理を行うことで、図示されない表示装置に動画像等を表示する。符号変換受信装置20に接続される復号装置(デコーダ)30は、符号変換受信装置20と一体化した端末として構成してもよいし、あるいは、符号変換受信装置20を構成する端末と通信接続する端末(パーソナルコンピュータ)等に備えた構成としてもよい。
この実施形態において、符号変換受信装置20は、符号変換伝送装置10に制御信号(リクエスト信号)を出力する構成とされ、符号変換伝送装置10は、この制御信号を受けて、符号化データを符号変換受信装置20に送信する。図16には、制御信号が、符号変換伝送装置10からの符号化データ出力とは異なるものであることを表している。
また、符号変換受信装置20側から符号変換伝送装置10に送信される制御信号を使って、符号変換受信装置20のシステム情報、例えばIPアドレス、装置情報、復号装置30で対応可能な符号化方式(例えばITU−T勧告であるH.261あるいはH.263、ISO/IEC勧告であるMPEG−4 Visual)等の情報を、符号変換伝送装置10を通知することで、リクエスト信号を受けた符号変換伝送装置10では、符号変換受信装置20、復号装置30に適合した符号変換を行うようにしてもよい。なお、本発明において、伝送路が有線の場合にも適用できることはもちろんである。
図16に示す構成において、符号変換伝送装置10から各伝送路13にそれぞれ出力される複数本(N本)の符号化データを、図5のように、遅延付加部により、時間間隔を設けて多重化部で多重してもよいし、N本の符号化データを多重化部でインタリーブして送信順序をシャフルし、時間差を設けて多重化出力を伝送路に送出するようにしてもよい。符号変換伝送装置10内に、図5に示した遅延付加部、及び、多重化部を設ける構成としてもよい。この場合、符号変換受信装置20は、図5の分離部511を備える。受信伝送路選択部で選択された伝送路から受信された多重化伝送パケットは、各符号化データのパケットに分離されて、符号化データの抽出処理、再構成処理が行われる。この実施例によれば、情報提供源をなす符号化装置40からの符号化データを符号変換伝送装置10で受信し、符号変換伝送装置10は伝送路13でのデータ損失、データ誤りに耐性を有する方式へと変換し、符号変換受信装置20側へ送信し、伝送路13上での伝送に適した効率的な符号伝送を行うことができる。復号装置30は符号化装置40の符号化方式に対応して復号処理を行う。
以上本発明を上記実施形態に即して説明したが、本発明は、上記実施形態の構成にのみ限定されるものでなく、特許請求の範囲の各請求項の発明の範囲内で当業者であればなし得るであろう各種変形、修正を含むことは、もちろんのことである。

Claims (57)

  1. (a)圧縮された符号化データを入力し、前記入力した符号化データを復号して得られた動画像データの少なくとも一部のフレームを符号化し、得られた符号化データの少なくとも一部を出力する第1の動画像符号変換送信手段と、
    (b)Nを2以上の所定の整数として、前記第1の動画像符号変換手段が符号化した少なくとも一部のフレームを、当該フレームに対する前記第1の動画像符号変換送信手段によるフレーム間予測で得られた、フレーム間予測パラメータ又は予測差分データの少なくとも一方を用いて再符号化し、得られた符号化データを出力する第2乃至第Nの動画像符号変換送信手段と、
    (c)Mを1以上の所定の整数として、前記第1乃至第Nの動画像符号変換送信手段の出力のうち少なくとも1つを、第1乃至第Mの伝送路へ送出する手段と、
    を備える、動画像データの符号変換伝送装置。
  2. (a)入力された符号化パケットデータの少なくとも一部を復号し、復号して得られたデータを再符号化し、得られた符号化パケットデータの少なくとも一部を出力する第1の動画像符号変換送信手段と、
    (b)Nを2以上の所定の整数として、前記第1の動画像符号変換手段が符号化したパケットデータの少なくとも一部に対し、各前記パケットデータが符号化した画像領域を、該画像領域に対する前記第1の動画像符号変換送信手段によるフレーム間予測で得られたフレーム間予測パラメータ又は予測差分データの少なくとも一方を用いて符号化し、得られた符号化パケットデータの少なくとも一部を出力する第2乃至第Nの動画像符号変換送信手段と、
    (c)Mを1以上の所定の整数として、前記第1乃至第Nの動画像符号変換送信手段の出力のうち少なくとも1つを、第1乃至第Mの伝送路へ送出する手段と、
    を備える、動画像データの符号変換伝送装置。
  3. (a)圧縮された符号化データを入力して復号し、復号して得られたデータの少なくとも一部のフレームを符号化し、得られた符号化データの少なくとも一部を出力する第1の動画像符号変換送信手段と、
    (b)Nを2以上の所定の整数として、前記第1の動画像符号変換手段が符号化した少なくとも一部のフレームを、当該フレームに対する前記第1の動画像符号変換送信手段によるフレーム間予測で用いられた参照フレーム画像を用いて符号化し、得られた符号化データの少なくとも一部を出力する第2乃至第Nの動画像符号変換送信手段と、
    (c)Mを1以上の所定の整数として、前記第1乃至第Nの動画像符号変換送信手段の出力のうち少なくとも1つを、第1乃至第Mの前記伝送路へ送出する手段と、
    を備える、動画像データの符号変換伝送装置。
  4. (a)圧縮された符号化パケットデータを入力して復号し、復号して得られたデータの少なくとも一部を符号化し、得られた符号化パケットデータの少なくとも一部を出力する第1の動画像符号変換送信手段と、
    (b)Nを2以上の所定の整数として、前記第1の動画像符号変換送信手段が符号化した少なくとも一部のパケットデータに対し、前記各パケットデータが符号化した画像領域を、該画像領域に対する前記第1の動画像符号変換送信手段によるフレーム間予測で用いられた参照フレーム画像を利用して符号化し、得られたパケットデータの少なくとも一部を出力する第2乃至第Nの動画像符号変換送信手段と、
    (c)Mを1以上の所定の整数として、前記第1乃至第Nの動画像符号変換送信手段の出力のうち少なくとも1つを、第1乃至第Mの伝送路へ送出する手段と、
    を備える、動画像データの符号変換伝送装置。
  5. (a)圧縮された符号化パケットデータを入力し、入力したパケットの少なくとも一部を出力する第1の動画像符号変換送信手段と、
    (b)Nを2以上の所定の整数として、前記第1の動画像符号変換送信手段が入力するパケットデータの少なくとも一部のパケットに対して当該パケットを複製し、得られたパケットデータの少なくとも一部を、時間差を設けて出力する第2乃至第Nの動画像符号変換送信手段と、
    (c)Mを1以上の所定の整数として、前記第1乃至第Nの動画像符号変換送信手段の出力のうち少なくとも1つを、第1乃至第Mの伝送路へ送出する手段と、
    を備える、動画像データの符号変換伝送装置。
  6. 前記第1乃至第Nの動画像符号変換送信手段の少なくとも1つが、一部のフレームを選択するにあたり、動画像の性質又は予め定められた規則に従ってフレームを選択する、請求項1または3に記載の符号変換伝送装置。
  7. 前記第1乃至第Nの動画像符号変換送信手段の少なくとも1つが、一部のパケットを選択するにあたり、動画像の性質又は予め定められた規則に従ってパケットを選択する、請求項2、4、5のいずれか1項に記載の符号変換伝送装置。
  8. 前記第1の動画像符号変換送信手段において前記入力された符号化データを復号し前記復号して得られたデータを符号化するにあたり、前記入力された符号化データの圧縮率と同等もしくはそれより高い圧縮率で圧縮する、請求項1乃至4のいずれか1項に記載の符号変換伝送装置。
  9. 前記第2乃至第Nの動画像符号変換送信手段において前記入力された符号化データを復号し前記復号して得られたデータを符号化するにあたり、前記第1の動画像符号変換送信手段の圧縮率と同等もしくはそれより高い圧縮率で圧縮する、請求項1乃至4のいずれか1項に記載の符号変換伝送装置。
  10. 前記第2乃至第Nの動画像符号変換送信手段の出力と、前記第1の動画像符号変換送信手段からの出力とを、時間差を設けて出力されるように制御する、もしくは前記第1乃至第Nの動画像符号変換送信手段のそれぞれに時間差を設けて出力されるように制御する手段を備える、請求項1乃至5のいずれか1項に記載の符号変換伝送装置。
  11. 前記第1乃至第Nの動画像符号変換送信手段の、出力の時間差を、伝送路の状態、及び/又は、予め定められた規則にしたがって設定する、請求項10に記載の符号変換伝送装置。
  12. 前記第1乃至第Mの伝送路に使用できる帯域にあわせて、前記第1乃至第Nの動画像符号変換送信手段の圧縮率、及び/又は、送信符号化データ数を選択し、前記第1乃至第Mの伝送路へ送出する手段を備える、請求項1乃至5のいずれか1項に記載の符号変換伝送装置。
  13. それぞれが、前記第1乃至第Nの動画像符号変換送信手段を備えた第1乃至第Mの符号変換送信処理部を備え、
    前記第1乃至第Mの符号変換送信処理部の出力が、それぞれ、前記第1乃至第Mの伝送路に送出される、請求項1乃至5のいずれか1項に記載の符号変換伝送装置。
  14. それぞれが、前記第1乃至第Nの動画像符号変換送信手段を備えた第1乃至第Mの符号変換送信処理部と、
    前記第1乃至第Mの符号変換送信処理部の前記第1乃至第Nの動画像符号変換送信手段の第1乃至第Nの符号化データ出力を、時間差を設けて多重化して出力する手段と、
    を備え、第1乃至第Mの符号変換送信処理部の多重化出力が、前記第1乃至第Mの伝送路に送出される、請求項1乃至5のいずれか1項に記載の符号変換伝送装置。
  15. 前記第1乃至第Nの動画像符号変換送信手段の出力を多重化する際に設ける時間差を、伝送路の状態、及び/又は、予め定められた規則にしたがって設定する、請求項14に記載の符号変換伝送装置。
  16. 前記第1乃至第Nの動画像符号変換送信手段のうちの複数の動画像符号変換送信手段に対して共通に設けられた、前記入力された符号化データを復号して出力する動画像復号手段を備え、
    前記複数の動画像符号変換送信手段は、符号化データを符号化する場合に、前記動画像復号手段から出力される復号されたデータを符号化する、請求項1または3に記載の符号変換伝送装置。
  17. 前記第1乃至第Nの動画像符号変換送信手段のうちの複数の動画像符号変換送信手段に対して共通に設けられた、前記入力された符号化データを復号して出力する動画像復号手段を備え、
    前記複数の動画像符号変換送信手段のそれぞれは、パケットデータを符号化する場合に、前記動画像復号手段から出力される復号されたパケットデータを符号化する、請求項2または4に記載の符号変換伝送装置。
  18. Mを1以上の所定の整数として、第1乃至第Mの伝送路から符号化データを受信する伝送路を選択する選択手段と、
    前記選択手段で選択された伝送路から符号化データを受信し、伝送誤りがなく、欠落がなく受信された符号化データを抽出し、抽出された符号化データに基づき、符号化データを再構成して出力する手段と、
    を備える、動画像データの符号変換受信装置。
  19. Mを1以上の所定の整数として、第1乃至第Mの伝送路から符号化データを受信する伝送路を選択する選択手段と、
    前記選択手段で選択された伝送路から符号化データを受信し、伝送誤りがない、又は欠落がなく受信された符号化したパケットデータを抽出し、抽出された符号化パケットデータに基づき、符号化パケットデータを再構成して出力する手段と、
    を備える、動画像データの符号変換受信装置。
  20. 前記選択された伝送路より受信した同一フレームの符号化データの中から、圧縮率、及び/又は、画質に基づき、1つを選択する手段を備える、請求項18に記載の符号変換受信装置。
  21. 前記選択された伝送路より受信した同一フレームの同一領域の画像を符号化したパケットデータの中から圧縮率、及び/又は、画質に基づき1つを選択する手段を備える、請求項19に記載の符号変換受信装置。
  22. 請求項1または3に記載の符号変換伝送装置と、請求項18または20に記載の符号変換受信装置と、を備える、動画像データの符号変換伝送システム。
  23. 請求項2、4、5のいずれか1項に記載の符号変換伝送装置と、請求項19または21に記載の符号変換受信装置と、を備える、動画像データの符号変換伝送システム。
  24. 前記動画像データの符号変換伝送装置の前記第1乃至第Nの動画像符号変換送信手段の出力を時間差を設けて伝送されるように、遅延を制御し、前記各データを多重化して出力する手段を備え、多重化されたデータが伝送路に送信される、請求項22または23に記載の符号変換伝送システム。
  25. 前記動画像データ符号変換伝送装置の第1乃至第Nの動画像符号変換送信手段の、出力の時間差を、伝送路の状態、及び/又は、予め定められた規則にしたがって設定する、請求項24に記載の符号変換伝送システム。
  26. 符号化データを出力する符号化装置と、請求項1または3に記載の符号変換伝送装置と、請求項18又は20に記載の複数の符号変換受信装置と、複数の復号装置と、を備え、
    前記符号化装置からの符号化データを前記動画像データの符号変換伝送装置が入力し、
    前記複数の動画像データの符号変換受信装置が前記動画像データの符号変換伝送装置からの出力を入力し、
    前記複数の復号装置が前記複数の動画像データの符号変換受信装置から符号化データを入力して復号する、動画像データの符号変換伝送システム。
  27. 符号化データを出力する符号化装置と、請求項2、4、5のいずれか1項に記載の符号変換伝送装置と、請求項19又は21に記載の複数の符号変換受信装置と、複数の復号装置と、を備え、
    前記符号化装置からの符号化データを前記動画像データの符号変換伝送装置が入力し、
    前記複数の動画像データの符号変換受信装置が前記動画像データの符号変換伝送装置からの出力を入力し、
    前記複数の復号装置が前記複数の動画像データの符号変換受信装置から符号化データを入力して復号する、動画像データの符号変換伝送システム。
  28. 前記動画像データの符号変換伝送装置は、前記複数の動画像データの符号変換受信装置のそれぞれからの制御信号を受けて符号化データを前記複数の動画像データの符号変換受信装置のそれぞれに送出する、請求項26または27に記載の符号変換伝送システム。
  29. Nを2以上の所定の整数として、第1乃至第Nの動画像符号変換送信手段を備える符号変換伝送装置による動画像データの符号変換伝送方法であって、
    (a)前記第1の動画像符号変換送信手段が、圧縮された符号化データを入力し、入力した符号化データを復号した動画像データの少なくとも一部のフレームを符号化し、得られた符号化データの少なくとも一部を出力するステップと、
    (b)前記第2乃至第Nの動画像符号変換送信手段が、それぞれ、前記第1の動画像符号変換手段が符号化した少なくとも一部のフレームを、該フレームに対する前記第1の動画像符号変換送信手段によるフレーム間予測で得られた、フレーム間予測パラメータ又は予測差分データの少なくとも一方を用いて再符号化し、得られた符号化データの少なくとも一部を出力するステップと、
    (c)Mを1以上の所定の整数として、前記第1乃至第Nの動画像符号変換送信手段の出力のうち少なくとも1つを、第1乃至第Mの伝送路へ送出するステップと、
    を含む、符号変換伝送方法。
  30. Nを2以上の所定の整数として、第1乃至第Nの動画像符号変換送信手段を備える符号変換伝送装置による動画像データの符号変換伝送方法であって、
    (a)前記第1の動画像符号変換送信手段が、入力された符号化パケットデータの少なくとも一部を復号し、復号して得られたデータを再符号化し、得られた符号化パケットデータの少なくとも一部を出力するステップと、
    (b)前記第2乃至第Nの動画像符号変換送信手段が、それぞれ、前記第1の動画像符号変換手段が符号化したパケットデータの少なくとも一部に対し、各前記パケットデータが符号化した画像領域を、該画像領域に対する前記第1の動画像符号変換送信手段によるフレーム間予測で得られたフレーム間予測パラメータ又は予測差分データの少なくとも一方を用いて符号化し、得られた符号化パケットデータの少なくとも一部を出力するステップと、
    (c)Mを1以上の所定の整数として、前記第1乃至第Nの動画像符号変換送信手段の出力の少なくとも1つを、第1乃至第Mの伝送路へ送出するステップと、
    を含む、符号変換伝送方法。
  31. Nを2以上の所定の整数として、第1乃至第Nの動画像符号変換送信手段を備える符号変換伝送装置による動画像データの符号変換伝送方法であって、
    (a)前記第1の動画像符号変換送信手段が、圧縮された符号化データを入力して復号し、復号して得られたデータの少なくとも一部のフレームを符号化し、得られた符号化データの少なくとも一部を出力するステップと、
    (b)前記第2乃至第Nの動画像符号変換送信手段が、それぞれ、前記第1の動画像符号変換手段が符号化した少なくとも一部のフレームを、該フレームに対する前記第1の動画像符号変換送信手段によるフレーム間予測で用いられた参照フレーム画像を用いて符号化し、得られた符号化データの少なくとも一部を出力するステップと、
    (c)Mを1以上の所定の整数として、前記第1乃至第Nの動画像符号変換送信手段の出力のうち少なくとも1つを、第1乃至第Mの伝送路へ送出するステップと、
    を含む、符号変換伝送方法。
  32. Nを2以上の所定の整数として、第1乃至第Nの動画像符号変換送信手段を備える符号変換伝送装置による動画像データの符号変換伝送方法であって、
    (a)前記第1の動画像符号変換送信手段が、圧縮された符号化パケットデータを入力して復号し、復号して得られたデータを符号化し、得られた符号化パケットデータの少なくとも一部を出力するステップと、
    (b)前記第2乃至第Nの動画像符号変換送信手段が、それぞれ、前記第1の動画像符号変換送信手段が符号化した少なくとも一部のパケットデータに対し、前記各パケットデータが符号化した画像領域を、該画像領域に対する前記第1の動画像符号変換送信手段によるフレーム間予測で用いられた参照フレーム画像を利用して符号化し、得られたパケットデータの少なくとも一部を出力するステップと、
    (c)Mを1以上の所定の整数として、前記第1乃至第Nの動画像符号変換送信手段の出力のうち少なくとも1つを、第1乃至第Mの伝送路へ送出するステップと、
    を含む、符号変換伝送方法。
  33. Nを2以上の所定の整数として、第1乃至第Nの動画像符号変換送信手段を備える符号変換伝送装置による動画像データの符号変換伝送方法であって、
    (a)前記第1の動画像符号変換送信手段が、圧縮された符号化パケットデータを入力し、入力したパケットの少なくとも一部を出力するステップと、
    (b)前記第2乃至第Nの動画像符号変換送信手段が、それぞれ、前記第1の動画像符号変換送信手段が入力するパケットデータの少なくとも一部のパケットに対して該パケットを複製し、得られたパケットデータの少なくとも一部を、時間差を設けて出力するステップと、
    (c)Mを1以上の所定の整数として、前記第1乃至第Nの動画像符号変換送信手段の出力のうち少なくとも1つを、第1乃至第Mの伝送路へ送出するステップと、
    を含む、符号変換伝送方法。
  34. 一部のフレームを選択するにあたり、動画像の性質又は予め定められた規則に従ってフレームを選択する、請求項29または31に記載の符号変換伝送方法。
  35. 一部のパケットを選択する際に、動画像の性質又は予め定められた規則に従ってパケットを選択する、請求項30、32、33のいずれか1項に記載の符号変換伝送方法。
  36. 前記ステップ(a)において、前記第1の動画像符号変換送信手段は、前記入力された符号化データを復号し、前記復号して得られたデータを符号化するにあたり、前記入力された符号化データの圧縮率と同等もしくはそれより高い圧縮率で圧縮する、請求項29乃至33のいずれか1項に記載の符号変換伝送方法。
  37. 前記ステップ(b)において、前記第2乃至第Nの動画像符号変換送信手段は、前記入力された符号化データを復号し、前記復号して得られたデータを符号化するにあたり、前記第2乃至第Nの動画像符号変換送信手段での圧縮率と同等もしくはそれより高い圧縮率で圧縮する、請求項29乃至33のいずれか1項に記載の符号変換伝送方法。
  38. 前記ステップ(b)での前記第2乃至第Nの動画像符号変換送信手段のそれぞれの出力は、前記ステップ(a)での出力と時間差を設けて出力される、及び/又は、前記ステップ(b)での出力のそれぞれが、時間差を設けて出力される、請求項29乃至33のいずれか1項に記載の符号変換伝送方法。
  39. 前記動画像符号変換送信手段の、出力の時間差を、伝送路の状態、及び/又は、予め定められた規則にしたがって設定する、請求項38に記載の符号変換伝送装置。
  40. 前記第1乃至第Mの伝送路に使用できる帯域にあわせて、前記第1乃至第Nの動画像符号変換送信手段の圧縮率、及び/又は、送信符号化データ数を選択し、前記第1乃至第Mの伝送路へ送出する、請求項29乃至33のいずれか1項に記載の符号変換伝送方法。
  41. 前記第1乃至第Nの動画像符号変換送信手段のうち、動画像データを復号して得られたデータを符号化する複数の動画像符号変換送信手段に対して、共通の動画像復号手段で復号して得られたデータが供給される、請求項29乃至32のいずれか1項に記載の符号変換伝送方法。
  42. Mを1以上の所定の整数として、M個の伝送路から少なくとも1個の伝送路を選択するステップと、
    前記選択された伝送路から符号化データを受信し、伝送誤りがなく、欠落がなく受信された符号化データを抽出し、抽出された符号化データに基づき、符号化データを再構成して出力するステップと、
    を含む動画像データの符号変換受信方法。
  43. Mを1以上の所定の整数として、M個の伝送路から少なくとも1個の伝送路を選択するステップと、
    前記選択された伝送路から符号化データを受信し、伝送誤りがなく、欠落がなく受信された符号化したパケットデータを抽出し、抽出された符号化パケットデータに基づき、符号化パケットデータを再構成して出力するステップと、
    を含む動画像データの符号変換受信方法。
  44. 同一フレームの符号化データが複数受信された場合、圧縮率、及び/または、画質に基づき、1つを選択する、請求項42に記載の符号変換受信方法。
  45. 同一フレームの同一領域の画像を符号化したパケットデータが複数受信された場合、圧縮率、及び/または、画質に基づき、1つを選択する、請求項43に記載の符号変換受信方法。
  46. 請求項29または31に記載の符号変換伝送方法で送信された符号化データを、請求項42または44に記載の符号変換受信方法で受信する、動画像データの符号伝送方法。
  47. 請求項30、32、33のいずれか1項に記載の符号変換伝送方法で送信された符号化データを、請求項43又は45に記載の符号変換受信方法で受信する、動画像データの符号伝送方法。
  48. 動画像データの符号変換伝送装置を構成するコンピュータを、
    (a)圧縮された符号化データを入力し、前記入力した符号化データを復号して得られた動画像データの少なくとも一部のフレームを符号化し、得られた符号化データの少なくとも一部を出力する第1の動画像符号変換送信手段、
    (b)Nを2以上の所定の整数として、前記第1の動画像符号変換手段が符号化した少なくとも一部のフレームを、該フレームに対する前記第1の動画像符号変換送信手段によるフレーム間予測で得られた、フレーム間予測パラメータ又は予測差分データの少なくとも一方を用いて再符号化し、得られた符号化データの少なくとも一部を出力する第2乃至第Nの動画像符号変換送信手段、
    (c)Mを1以上の所定の整数として、前記第1乃至第Nの動画像符号変換送信手段の出力のうち少なくとも1つを、第1乃至第Mの伝送路へ送出する手段、
    として機能させるプログラム。
  49. 動画像データの符号変換伝送装置を構成するコンピュータを、
    (a)入力された符号化パケットデータの少なくとも一部を復号し、復号して得られたデータを再符号化し、得られた符号化パケットデータの少なくとも一部を出力する第1の動画像符号変換送信手段、
    (b)Nを2以上の所定の整数として、前記第1の動画像符号変換手段が符号化したパケットデータの少なくとも一部に対し、各前記パケットデータが符号化した画像領域を、該画像領域に対する前記第1の動画像符号変換送信手段によるフレーム間予測で得られたフレーム間予測パラメータ又は予測差分データの少なくとも一方を用いて符号化し、得られた符号化パケットデータの少なくとも一部を出力する第2乃至第Nの動画像符号変換送信手段、
    (c)Mを1以上の所定の整数として、前記第1乃至第Nの動画像符号変換送信手段の出力のうち少なくとも1つを、第1乃至第Mの伝送路へ送出する手段、
    として機能させるプログラム。
  50. 動画像データの符号変換伝送装置を構成するコンピュータを、
    (a)圧縮された符号化データを入力して復号し、復号して得られたデータの少なくとも一部のフレームを符号化し、得られた符号化データの少なくとも一部を出力する第1の動画像符号変換送信手段、
    (b)Nを2以上の所定の整数として、前記第1の動画像符号変換手段が符号化した少なくとも一部のフレームを、該フレームに対する前記第1の動画像符号変換送信手段によるフレーム間予測で用いられた参照フレーム画像を用いて符号化し、得られた符号化データの少なくとも一部を出力する第2乃至第Nの動画像符号変換送信手段、
    (c)Mを1以上の所定の整数として、前記第1乃至第Nの動画像符号変換送信手段の出力のうち少なくとも1つを、第1乃至第Mの前記伝送路へ送出する手段、
    として機能させるプログラム。
  51. 動画像データの符号変換伝送装置を構成するコンピュータを、
    (a)圧縮された符号化パケットデータを入力して復号し、復号して得られたデータの少なくとも一部を符号化し、得られた符号化パケットデータの少なくとも一部を出力する第1の動画像符号変換送信手段、
    (b)Nを2以上の所定の整数として、前記第1の動画像符号変換送信手段が符号化した少なくとも一部のパケットデータに対し、前記各パケットデータが符号化した画像領域を、該画像領域に対する前記第1の動画像符号変換送信手段によるフレーム間予測で用いられた参照フレーム画像を利用して符号化し、得られたパケットデータの少なくとも一部を出力する第2乃至第Nの動画像符号変換送信手段、
    (c)Mを1以上の所定の整数として、前記第1乃至第Nの動画像符号変換送信手段の出力のうち少なくとも1つを、第1乃至第Mの伝送路へ送出する手段、
    として機能させるプログラム。
  52. 動画像データの符号変換伝送装置を構成するコンピュータを、
    (a)圧縮された符号化パケットデータを入力し、入力したパケットの少なくとも一部を出力する第1の動画像符号変換送信手段、
    (b)Nを2以上の所定の整数として、前記第1の動画像符号変換送信手段が入力するパケットデータの少なくとも一部のパケットに対して該パケットを複製し、得られたパケットデータの少なくとも一部を、時間差を設けて出力する第2乃至第Nの動画像符号変換送信手段、
    (c)Mを1以上の所定の整数として、前記第1乃至第Nの動画像符号変換送信手段の出力のうち少なくとも1つを、第1乃至第Mの伝送路へ送出する手段、
    として機能させるプログラム。
  53. 前記コンピュータを、さらに、前記第1乃至第Nの動画像符号変換送信手段のうち、動画像データを復号して得られたデータを符号化する複数の動画像符号変換送信手段に対して共通に設けられ、入力された動画像符号化データを復号し、得られた復号データを、前記複数の動画像符号変換送信手段に供給する動画像復号手段として機能させる、請求項48乃至51のいずれか1項に記載のプログラム。
  54. 動画像データの符号変換受信装置を構成するコンピュータに、
    Mを1以上の所定の整数として、M個の伝送路から少なくとも1個の伝送路を選択する処理と、
    選択された伝送路から符号化データを受信し、伝送誤りがなく、欠落がなく受信された符号化データを抽出し、抽出された符号化データに基づき、符号化データを再構成して出力する処理と、
    を実行させるためのプログラム。
  55. 動画像データの符号変換受信装置を構成するコンピュータに、
    Mを1以上の所定の整数として、M個の伝送路から少なくとも1個の伝送路を選択する処理と、
    前記選択された伝送路から符号化データを受信し、伝送誤りがなく、欠落がなく受信されたパケットデータを抽出し、抽出されたパケットデータに基づき、符号化データを再構成して出力する処理と、
    を実行させるプログラム。
  56. 前記選択された伝送路から受信した同一フレームの符号化データが複数存在する場合、圧縮率、及び/または、画質に基づき、符号化データを選択し、選択された符号化データを出力する処理をさらに前記コンピュータに実行させる、請求項54に記載のプログラム。
  57. 前記選択された伝送路から受信した同一フレームの同一領域の画像を符号化したパケットデータが複数存在する場合、圧縮率、及び/又は、画質に基づき、符号化パケットデータを選択し、符号化データを再構成して出力する処理をさらに前記コンピュータに実行させる、請求項55に記載のプログラム。
JP2009125263A 2002-04-26 2009-05-25 動画像データの符号変換伝送システム及び符号伝送方法 Expired - Fee Related JP5463733B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009125263A JP5463733B2 (ja) 2002-04-26 2009-05-25 動画像データの符号変換伝送システム及び符号伝送方法

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2002126674 2002-04-26
JP2002126674 2002-04-26
JP2009125263A JP5463733B2 (ja) 2002-04-26 2009-05-25 動画像データの符号変換伝送システム及び符号伝送方法

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2004501992A Division JP4803343B2 (ja) 2002-04-26 2003-04-28 動画像データの符号変換伝送システム、符号伝送方法及び符号変換受信装置

Publications (2)

Publication Number Publication Date
JP2009189058A true JP2009189058A (ja) 2009-08-20
JP5463733B2 JP5463733B2 (ja) 2014-04-09

Family

ID=29267609

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2004501992A Expired - Fee Related JP4803343B2 (ja) 2002-04-26 2003-04-28 動画像データの符号変換伝送システム、符号伝送方法及び符号変換受信装置
JP2009125263A Expired - Fee Related JP5463733B2 (ja) 2002-04-26 2009-05-25 動画像データの符号変換伝送システム及び符号伝送方法

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2004501992A Expired - Fee Related JP4803343B2 (ja) 2002-04-26 2003-04-28 動画像データの符号変換伝送システム、符号伝送方法及び符号変換受信装置

Country Status (8)

Country Link
US (2) US7957465B2 (ja)
EP (1) EP1501310A4 (ja)
JP (2) JP4803343B2 (ja)
KR (1) KR100752287B1 (ja)
CN (1) CN100380976C (ja)
CA (1) CA2483516C (ja)
HK (1) HK1075779A1 (ja)
WO (1) WO2003092296A1 (ja)

Families Citing this family (40)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100798162B1 (ko) * 2003-04-10 2008-01-28 닛본 덴끼 가부시끼가이샤 동화상 압축 부호화 방식 변환 장치 및 동화상 통신 시스템
CN1914922B (zh) 2004-01-28 2012-03-14 日本电气株式会社 内容的编码、分发及接收的方法、装置、系统
JPWO2005074182A1 (ja) * 2004-01-28 2008-01-10 日本電気株式会社 コンテンツの配信方法、エンコード方法及び受信再生方法と装置並びにプログラム
US7653869B2 (en) * 2005-02-18 2010-01-26 Sony Corporation System and method for error correction in high definition TV signal
WO2007026604A1 (ja) * 2005-08-29 2007-03-08 Nec Corporation マルチキャストノード装置とマルチキャスト転送方法ならびにプログラム
JP4577574B2 (ja) * 2006-02-07 2010-11-10 日本電気株式会社 データ送信装置及びデータ受信装置並びにデータ送信方法及びデータ受信方法
US8031701B2 (en) 2006-09-11 2011-10-04 Cisco Technology, Inc. Retransmission-based stream repair and stream join
US8875199B2 (en) 2006-11-13 2014-10-28 Cisco Technology, Inc. Indicating picture usefulness for playback optimization
US8155207B2 (en) 2008-01-09 2012-04-10 Cisco Technology, Inc. Processing and managing pictures at the concatenation of two video streams
US8769591B2 (en) 2007-02-12 2014-07-01 Cisco Technology, Inc. Fast channel change on a bandwidth constrained network
JP4777274B2 (ja) * 2007-02-19 2011-09-21 キヤノン株式会社 映像再生装置及びその制御方法
JP4765980B2 (ja) * 2007-03-30 2011-09-07 株式会社日立製作所 通信ネットワークシステム
US20080253369A1 (en) 2007-04-16 2008-10-16 Cisco Technology, Inc. Monitoring and correcting upstream packet loss
US8958486B2 (en) 2007-07-31 2015-02-17 Cisco Technology, Inc. Simultaneous processing of media and redundancy streams for mitigating impairments
US8804845B2 (en) * 2007-07-31 2014-08-12 Cisco Technology, Inc. Non-enhancing media redundancy coding for mitigating transmission impairments
US8718388B2 (en) 2007-12-11 2014-05-06 Cisco Technology, Inc. Video processing with tiered interdependencies of pictures
US7995578B2 (en) * 2007-12-14 2011-08-09 Electronics And Telecommunications Research Institute Repetition apparatus and method for repeatedly transmitting and receiving data packet using different puncturing patterns
US8780123B2 (en) 2007-12-17 2014-07-15 Nvidia Corporation Interrupt handling techniques in the rasterizer of a GPU
US9064333B2 (en) 2007-12-17 2015-06-23 Nvidia Corporation Interrupt handling techniques in the rasterizer of a GPU
US8787153B2 (en) 2008-02-10 2014-07-22 Cisco Technology, Inc. Forward error correction based data recovery with path diversity
US8332884B2 (en) * 2008-02-20 2012-12-11 Rovi Solutions Corporation Apparatus for and a method of providing content data
US8923385B2 (en) 2008-05-01 2014-12-30 Nvidia Corporation Rewind-enabled hardware encoder
US8681861B2 (en) * 2008-05-01 2014-03-25 Nvidia Corporation Multistandard hardware video encoder
WO2009152450A1 (en) 2008-06-12 2009-12-17 Cisco Technology, Inc. Picture interdependencies signals in context of mmco to assist stream manipulation
US8971402B2 (en) 2008-06-17 2015-03-03 Cisco Technology, Inc. Processing of impaired and incomplete multi-latticed video streams
US8705631B2 (en) 2008-06-17 2014-04-22 Cisco Technology, Inc. Time-shifted transport of multi-latticed video for resiliency from burst-error effects
US8699578B2 (en) 2008-06-17 2014-04-15 Cisco Technology, Inc. Methods and systems for processing multi-latticed video streams
US8949883B2 (en) 2009-05-12 2015-02-03 Cisco Technology, Inc. Signalling buffer characteristics for splicing operations of video streams
US8457425B2 (en) * 2009-06-09 2013-06-04 Sony Corporation Embedded graphics coding for images with sparse histograms
US8964851B2 (en) * 2009-06-09 2015-02-24 Sony Corporation Dual-mode compression of images and videos for reliable real-time transmission
US8279926B2 (en) 2009-06-18 2012-10-02 Cisco Technology, Inc. Dynamic streaming with latticed representations of video
US8582654B1 (en) * 2009-09-30 2013-11-12 Hewlett-Packard Development Company, L.P. Generating a deblocked version of video frames using motion estimation
GB0921831D0 (en) 2009-12-14 2010-01-27 British Telecomm Graphical data delivery
GB201000738D0 (en) * 2010-01-18 2010-03-03 British Telecomm Graphical data processing
US9621930B2 (en) * 2010-05-07 2017-04-11 Deutsche Telekom Ag Distributed transcoding of video frames for transmission in a communication network
JP2013143747A (ja) * 2012-01-12 2013-07-22 Fuji Xerox Co Ltd 画像転送装置及びプログラム
US11093327B1 (en) 2012-06-25 2021-08-17 Pure Storage, Inc. Failure abatement approach for failed storage units common to multiple vaults
US9292212B2 (en) 2012-06-25 2016-03-22 International Business Machines Corporation Detecting storage errors in a dispersed storage network
US9584804B2 (en) 2012-07-10 2017-02-28 Qualcomm Incorporated Coding SEI NAL units for video coding
JP6439414B2 (ja) * 2014-12-01 2018-12-19 富士通株式会社 通信装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11177939A (ja) * 1997-12-09 1999-07-02 Matsushita Electric Ind Co Ltd ディジタル放送方法およびその受信装置
JP2001007786A (ja) * 1999-06-21 2001-01-12 Matsushita Electric Ind Co Ltd データ通信方法およびシステム
US6181711B1 (en) * 1997-06-26 2001-01-30 Cisco Systems, Inc. System and method for transporting a compressed video and data bit stream over a communication channel
JP2001169278A (ja) * 1999-12-06 2001-06-22 Sony Corp ストリーム生成装置および方法、ストリーム伝送装置および方法、符号化装置および方法、並びに記録媒体

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0748711B2 (ja) * 1987-02-20 1995-05-24 日本電信電話株式会社 信号伝送方式
US6275988B1 (en) * 1995-06-30 2001-08-14 Canon Kabushiki Kaisha Image transmission apparatus, image transmission system, and communication apparatus
JPH10224746A (ja) 1997-02-05 1998-08-21 Kokusai Electric Co Ltd 画像伝送システム
US6014694A (en) * 1997-06-26 2000-01-11 Citrix Systems, Inc. System for adaptive video/audio transport over a network
JP3495922B2 (ja) 1997-09-26 2004-02-09 フーリエ有限会社 映像データの伝送方法
JPH11225161A (ja) * 1998-02-05 1999-08-17 Matsushita Electric Ind Co Ltd データ処理方法およびデータ処理装置
JPH11331305A (ja) * 1998-05-08 1999-11-30 Sony Corp 送信装置および送信方法、受信装置および受信方法、並びに提供媒体
JP3974712B2 (ja) * 1998-08-31 2007-09-12 富士通株式会社 ディジタル放送用送信・受信再生方法及びディジタル放送用送信・受信再生システム並びにディジタル放送用送信装置及びディジタル放送用受信再生装置
US7016337B1 (en) * 1999-03-02 2006-03-21 Cisco Technology, Inc. System and method for multiple channel statistical re-multiplexing
US6795506B1 (en) * 1999-10-05 2004-09-21 Cisco Technology, Inc. Methods and apparatus for efficient scheduling and multiplexing
US6493386B1 (en) * 2000-02-02 2002-12-10 Mitsubishi Electric Research Laboratories, Inc. Object based bitstream transcoder
JP2001333094A (ja) 2000-05-22 2001-11-30 Sony Corp 通信装置および通信方法
US6904094B1 (en) * 2000-09-20 2005-06-07 General Instrument Corporation Processing mode selection for channels in a video multi-processor system
US7103669B2 (en) * 2001-02-16 2006-09-05 Hewlett-Packard Development Company, L.P. Video communication method and system employing multiple state encoding and path diversity
GB2377573B (en) * 2001-07-11 2004-03-31 Motorola Inc Video transmission system, video tranmission unit and methods of encoding/decoding video data
US7088398B1 (en) * 2001-12-24 2006-08-08 Silicon Image, Inc. Method and apparatus for regenerating a clock for auxiliary data transmitted over a serial link with video data
US7391807B2 (en) * 2002-04-24 2008-06-24 Mitsubishi Electric Research Laboratories, Inc. Video transcoding of scalable multi-layer videos to single layer video
JP4016709B2 (ja) * 2002-04-26 2007-12-05 日本電気株式会社 オーディオデータの符号変換伝送方法と符号変換受信方法及び装置とシステムならびにプログラム
JP4521679B2 (ja) * 2006-07-14 2010-08-11 賢二郎 穴井 イカ角投入器

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6181711B1 (en) * 1997-06-26 2001-01-30 Cisco Systems, Inc. System and method for transporting a compressed video and data bit stream over a communication channel
JPH11177939A (ja) * 1997-12-09 1999-07-02 Matsushita Electric Ind Co Ltd ディジタル放送方法およびその受信装置
JP2001007786A (ja) * 1999-06-21 2001-01-12 Matsushita Electric Ind Co Ltd データ通信方法およびシステム
JP2001169278A (ja) * 1999-12-06 2001-06-22 Sony Corp ストリーム生成装置および方法、ストリーム伝送装置および方法、符号化装置および方法、並びに記録媒体

Also Published As

Publication number Publication date
JP4803343B2 (ja) 2011-10-26
EP1501310A4 (en) 2012-07-11
CA2483516A1 (en) 2003-11-06
HK1075779A1 (en) 2005-12-23
CN1663282A (zh) 2005-08-31
US20110194604A1 (en) 2011-08-11
CA2483516C (en) 2010-02-09
KR100752287B1 (ko) 2007-08-29
WO2003092296A1 (en) 2003-11-06
JPWO2003092296A1 (ja) 2005-09-08
US7957465B2 (en) 2011-06-07
EP1501310A1 (en) 2005-01-26
US20050226325A1 (en) 2005-10-13
KR20040106388A (ko) 2004-12-17
JP5463733B2 (ja) 2014-04-09
CN100380976C (zh) 2008-04-09

Similar Documents

Publication Publication Date Title
JP5463733B2 (ja) 動画像データの符号変換伝送システム及び符号伝送方法
JP4016709B2 (ja) オーディオデータの符号変換伝送方法と符号変換受信方法及び装置とシステムならびにプログラム
KR100844224B1 (ko) 영상 통신 에러를 처리하는 방법 및 장치
US8139642B2 (en) Method for encoding signals, related systems and program product therefor
US20030043908A1 (en) Bandwidth scalable video transcoder
JP4135395B2 (ja) 符号化パケット伝送受信方法およびその装置ならびにプログラム
JP4732428B2 (ja) 多重記述トランスコーディングのためのトランスコーディング・ノード及びトランスコーディング方法
KR20050031460A (ko) 하이브리드 예측 코드를 사용하는 다중 표현 움직임보상을 수행하는 방법 및 장치
US7627184B2 (en) Content distribution/reception device, content transmission/reception method, and content distribution/reception program
JP4280927B2 (ja) 動画像伝送システム、動画像符号化装置、動画像復号化装置、動画像伝送プログラム及び動画像伝送方法
JPWO2003092295A1 (ja) 動画像伝送システム、動画像符号化装置、動画像復号化装置、及び動画像伝送プログラム
WO2002019708A1 (en) Dual priority video transmission for mobile applications
Duong New h. 266/vvc based multiple description coding for robust video transmission over error-prone networks
Zhao et al. RD-Based Adaptive UEP for H. 264 Video Transmission in Wireless Networks
Conci et al. Real-time multiple description intra-coding by sorting and interpolation of coefficients
Eranti et al. Efficient video streaming in wireless P2P network using HIS-MDC technique
Conci et al. Multiple description video coding by coefficients ordering and interpolation
Prajapati et al. Hybrid error correction method using HEVC standard in heterogeneous environment
KR20110054805A (ko) 분산 비디오 코딩을 위한 비트스트림의 재구성 방법 및 장치

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090525

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120403

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120601

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130129

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130315

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131105

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131204

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131224

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140106

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees