JP4315998B2 - 動画像データ伝送装置 - Google Patents

動画像データ伝送装置 Download PDF

Info

Publication number
JP4315998B2
JP4315998B2 JP2008189120A JP2008189120A JP4315998B2 JP 4315998 B2 JP4315998 B2 JP 4315998B2 JP 2008189120 A JP2008189120 A JP 2008189120A JP 2008189120 A JP2008189120 A JP 2008189120A JP 4315998 B2 JP4315998 B2 JP 4315998B2
Authority
JP
Japan
Prior art keywords
macroblock
packet
image data
moving image
data transmission
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008189120A
Other languages
English (en)
Other versions
JP2008263658A (ja
Inventor
健治 大井
一晃 岡本
英雄 廣野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sanyo Electric Co Ltd
Original Assignee
Sanyo Electric Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sanyo Electric Co Ltd filed Critical Sanyo Electric Co Ltd
Priority to JP2008189120A priority Critical patent/JP4315998B2/ja
Publication of JP2008263658A publication Critical patent/JP2008263658A/ja
Application granted granted Critical
Publication of JP4315998B2 publication Critical patent/JP4315998B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Detection And Prevention Of Errors In Transmission (AREA)

Description

本発明は、動画像データを伝送する動画像データ伝送装置に関し、特に、当該動画像データのうち、画面上において動きがある重要部分をより確実に伝送することができる動画像データ伝送装置に関する。
MPEGなどの動画像符号化方式を用いる動画像通信では、通常のデータ通信や音声通信と比較して、一般的に処理負荷が高くなることが知られている。
そこで、このような高い処理負荷に起因する動画像データの伝送(処理)遅延を低減するため、様々方法が提案、実現されている。
例えば、MPEG−4/FGS(Fine Granularity Scalability)に基づいて符号化されたマクロブロック単位の動画像データのヘッダ情報を当該動画像データよりも早期に生成することによって、動画像データの伝送遅延を低減する方法が開示されている(特許文献1参照)。
特開2004−343511号公報(第11−13頁、第3図)
ところで、動画像データには、一般的に、画面(画像フレーム)上において動きがあり、確実に送信先に伝送することが望ましい“重要部分”と、当該重要部分以外のその他の部分とが含まれている。
しかしながら、上述した従来の方法では、“重要部分”を含むマクロブロックと、当該重要部分以外のその他の部分を含むマクロブロックとは、同様に取り扱われる。このため、重要部分を含むマクロブロックを他のマクロブロックと差別して伝送することができないといった問題があった。
すなわち、上述した従来の方法では、重要部分を含むマクロブロックを他のマクロブロックと異なる取扱いをする(例えば、重要部分を含むマクロブロックを複数回送信する)ことによって、重要部分を含むマクロブロックをより確実に伝送することができないといった問題があった。
そこで、本発明は、このような状況に鑑みてなされたものであり、重要部分を含むマクロブロックをより確実に伝送することができる動画像データ伝送装置を提供することを目的とする。
上述した問題を解決するため、本発明は、次のような特徴を有している。まず、本発明の第1の特徴は、第1の画像フレーム(画像フレームF)上における参照画像要素(参照画像要素R)の位置と、前記第1の画像フレームよりも後に再生される第2の画像フレーム(画像フレームFn+1)上において前記参照画像要素を含む後方マクロブロック(マクロブロックMB(n+1,k))の位置とに基づいて、前記後方マクロブロックの動きベクトル(動きベクトルV(n+1,k))を演算する動きベクトル演算部(動きベクトル演算部103)と、前記動きベクトル演算部によって演算された前記動きベクトルに基づいて、前記参照画像要素を含む前記第1の画像フレーム上の領域である参照画像ブロック(例えば、参照画像ブロックSB(n+1,k))を決定する参照画像ブロック決定部(参照画像ブロック決定部105)と、前記第1の画像フレーム上におけるマクロブロック(マクロブロックMB(n,m))と前記参照画像ブロックとが画像フレーム(画像フレームF)上において重なる重複領域(例えば、重複領域OL)の割合に応じて、前記マクロブロックに重みを付与する重み付与部(重み付与部107)と、前記重み付与部によって付与された前記重みに基づいて、前記マクロブロックの伝送方法を制御する伝送方法制御部(通信部109)とを備える動画像データ伝送装置であることを要旨とする。
このような特徴によれば、マクロブロックと参照画像ブロックとが画像フレーム上において重なる重複領域の割合に応じて、マクロブロックに重みが付与される。さらに、伝送方法制御部が、付与された重みに基づいてマクロブロックの伝送方法を制御、例えば、重みが所定の閾値を超える場合、マクロブロックを複数回送信するため、重要部分を含むマクロブロックをより確実に伝送することができる。
本発明の第2の特徴は、本発明の第1の特徴に係り、前記重み付与部は、前記重複領域と前記マクロブロックが占める領域との比率を前記重みとして付与することを要旨とする。
本発明の第3の特徴は、本発明の第1または第2の特徴に係り、前記重み付与部は、前記参照画像ブロック決定部によって決定された複数の前記参照画像ブロックを用いて、前記マクロブロックに付与する前記重みを決定することを要旨とする。
本発明の第4の特徴は、本発明の第1乃至第3の特徴に係り、前記伝送方法制御部は、前記重みの値が所定の閾値を超える場合、前記マクロブロックを送信先に向けて複数回送信することを要旨とする。
本発明の第5の特徴は、本発明の第1乃至第3の特徴に係り、前記伝送方法制御部は、送信されるパケット(IPパケットP1)に含まれる複数の前記マクロブロックに付与されている前記重みの合計が所定の閾値を超える場合、前記パケットを送信先に向けて複数回送信することを要旨とする。
本発明の第6の特徴は、本発明の第1乃至第4の特徴に係り、前記伝送方法制御部は、送信されるパケット(例えば、IPパケットP3)に含まれる複数の前記マクロブロックに付与されている前記重みの合計が所定の範囲内となるように、前記パケットを生成することを要旨とする。
本発明の第7の特徴は、本発明の第1乃至第6の特徴に係り、前記伝送方法制御部は、前記マクロブロックに付与されている前記重みが、所定の閾値を下回る場合、前記マクロブロックを廃棄することを要旨とする。
本発明の第8の特徴は、第1の画像フレーム上における参照画像要素の位置と、前記第1の画像フレームよりも後に再生される第2の画像フレーム上において前記参照画像要素を含むマクロブロックの位置とに基づいて、前記マクロブロックの動きベクトルを演算するステップと、前記演算するステップにおいて演算された前記動きベクトルに基づいて、前記参照画像要素を含む前記第1の画像フレーム上の領域である参照画像ブロックを決定するステップと、前記マクロブロックと前記参照画像ブロックとが画像フレーム上において重なる割合に応じて、前記マクロブロックに重みを付与するステップと、前記重みを付与するステップにおいて付与された前記重みに基づいて、前記マクロブロックの伝送方法を制御するステップとを備える動画像データ伝送方法であることを要旨とする。
本発明の第9の特徴は、本発明の第8の特徴に係り、前記重みを付与するステップでは、前記マクロブロックと前記参照画像ブロックとが前記画像フレーム上において重なる重複領域と前記マクロブロックが占める領域との比率を前記重みとして付与することを要旨とする。
本発明の第10の特徴は、本発明の第8または第9の特徴に係り、前記重みを付与するステップでは、前記参照画像ブロック決定部によって決定された複数の前記参照画像ブロックを用いて、前記マクロブロックに付与する前記重みを決定することを要旨とする。
本発明の第11の特徴は、本発明の第8乃至第10の特徴に係り、前記伝送方法を制御するステップでは、前記重みの値が所定の閾値を超える場合、前記マクロブロックを送信先に向けて複数回送信することを要旨とする。
本発明の第12の特徴は、本発明の第8乃至第10の特徴に係り、前記伝送方法を制御するステップでは、送信されるパケットに含まれる複数の前記マクロブロックに付与されている前記重みの合計が所定の閾値を超える場合、前記パケットを送信先に向けて複数回送信することを要旨とする。
本発明の第13の特徴は、本発明の第8乃至第11の特徴に係り、前記伝送方法を制御するステップでは、送信されるパケットに含まれる複数の前記マクロブロックに付与されている前記重みの合計が所定の範囲内となる前記パケットを生成することを要旨とする。
本発明の第14の特徴は、本発明の第8乃至第13の特徴に係り、前記伝送方法を制御するステップでは、前記マクロブロックに付与されている前記重みが、所定の閾値を下回る場合、前記マクロブロックを廃棄することを要旨とする。
本発明の第15の特徴は、本発明の第1乃至第7の特徴に係り、前記マクロブロックに付与されている前記重みを示すマクロブロック重要度(例えば、マクロブロック重要度W1)を送信先に送信する重要度送信部(パケット重要度送信部111)をさらに備えることを要旨とする。
本発明の第16の特徴は、本発明の第15の特徴に係り、前記重要度送信部は、前記マクロブロックが含まれるパケット(IPパケットP22)よりも前に送信される前方パケット(IPパケットP21)に含まれるマクロブロックのマクロブロック重要度(マクロブロック重要度W1)、または前記パケットよりも後に送信される後方パケット(IPパケットP23)に含まれるマクロブロックのマクロブロック重要度(マクロブロック重要度W3)の少なくとも何れかを前記パケットに含めて送信することを要旨とする。
本発明の第17の特徴は、本発明の第15の特徴に係り、前記重要度送信部は、前記マクロブロックが含まれるパケットと異なるパケット(IPパケットP12)に、前記マクロブロック重要度を含めて送信することを要旨とする。
本発明の第18の特徴は、本発明の第1乃至第7の特徴に係り、送信されるパケット(IPパケットP10)に含まれる前記マクロブロックに付与されている前記重みの値に基づいて、前記パケットに対してエラー訂正符号(FEC)を付加するか否かを判定する判定部(エラー訂正処理部113)をさらに備え、前記伝送方法制御部は、前記判定部が前記パケットに対して前記エラー訂正符号を付加しないと判定した場合、前記エラー訂正符号を付加しない前記パケットを送信することを要旨とする。
本発明の第19の特徴は、画像フレーム(例えば、画像フレームF)が分割されたマクロブロック(例えば、マクロブロックMB31〜MB34)を含むパケット(例えば、IPパケットP21)を順次受信するパケット受信部(通信部201)と、前記マクロブロックに付与されている重みを示すマクロブロック重要度(例えば、マクロブロック重要度W1)を受信する重要度受信部(パケット重要度処理部203)と、前記重要度受信部が受信した複数の前記マクロブロックのマクロブロック重要度に基づいて、前記パケット受信部が受信できずに喪失した特定パケット(例えば、IPパケットP22)に含まれるマクロブロックの特定マクロブロック重要度(マクロブロック重要度W2)を決定する重要度決定部(パケット重要度処理部203)と、前記重要度決定部によって決定された前記特定マクロブロック重要度が所定の閾値を超える場合、前記特定パケットの再送を要求する再送要求部(通信部201)とを備える動画像データ伝送装置(動画像データ伝送装置200)であることを要旨とする。
このような特徴によれば、特定マクロブロック重要度が所定の閾値を超える場合のみ、特定パケットの再送が要求される。つまり、動画像データの再生にあまり重要でないマクロブロックを含むパケットの再送が要求されないため、より高速にマクロブロックの復号処理を実行することができる。
さらに、当該パケットの再送が要求されないため、通信ネットワークを介して送受信されるパケット量を低減することができる。特に、パケットの喪失は、通信ネットワークが輻輳している場合に発生し易いため、再送するパケット数を低減することによって、通信ネットワークの輻輳の改善に寄与する。
本発明の第20の特徴は、本発明の第19の特徴に係り、前記特定パケットよりも前に受信した前方パケット、または前記特定パケットよりも後に受信した後方パケット(例えば、IPパケットP22)には、前記特定マクロブロック重要度が含まれ、前記重要度決定部は、前記前方パケットまたは前記後方パケットに含まれる前記特定マクロブロック重要度を用いて、前記特定マクロブロック重要度を決定することを要旨とする。
本発明の第21の特徴は、画像フレーム(例えば、画像フレームF)が分割されたマクロブロック(例えば、マクロブロックMB31〜MB34)を含むパケット(例えば、IPパケットP21)を順次受信するパケット受信部(通信部201)と、前記パケット受信部が受信した前記マクロブロックの復号処理を実行する復号処理部(動画像データ処理部205)と、前記マクロブロックに付与されている重みを示すマクロブロック重要度(例えば、マクロブロック重要度W1)を受信する重要度受信部(パケット重要度処理部203)とを備え、前記復号処理部は、前記重要度受信部が受信した前記マクロブロック重要度が所定の閾値以下の場合、前記復号処理の少なくとも一部を省略する動画像データ伝送装置(動画像データ伝送装置200)であることを要旨とする。
本発明の第22の特徴は、本発明の第8乃至第14の特徴に係り、前記マクロブロックに付与されている前記重みを示すマクロブロック重要度を送信先に送信するステップをさらに備えることを要旨とする。
本発明の第23の特徴は、本発明の第22の特徴に係り、前記マクロブロック重要度を送信するステップでは、前記マクロブロックが含まれるパケットよりも前に送信される前方パケットに含まれるマクロブロックのマクロブロック重要度、または前記パケットよりも後に送信される後方パケットに含まれるマクロブロックのマクロブロック重要度の少なくとも何れかを前記パケットに含めて送信することを要旨とする。
本発明の第24の特徴は、本発明の第22の特徴に係り、前記マクロブロック重要度を送信するステップでは、前記マクロブロックが含まれるパケットと異なるパケットに、前記マクロブロック重要度を含めて送信することを要旨とする。
本発明の第25の特徴は、本発明の第8乃至第14の特徴に係り、送信されるパケットに含まれる前記マクロブロックに付与されている前記重みの値に基づいて、前記パケットに対してエラー訂正符号を付加するか否かを判定するステップをさらに備え、
前記伝送方法を制御するステップでは、前記パケットに対して前記エラー訂正符号を付加しないと判定された場合、前記エラー訂正符号を付加しない前記パケットを送信することを要旨とする。
本発明の第26の特徴は、画像フレームが分割されたマクロブロックを含むパケットを順次受信するステップと、前記マクロブロックに付与されている重みを示すマクロブロック重要度を受信するステップと、受信した複数のマクロブロックの前記マクロブロック重要度に基づいて、前記パケットを受信するステップにおいて受信できずに喪失した特定パケットに含まれるマクロブロックの特定マクロブロック重要度を決定するステップと、前記特定マクロブロック重要度を決定するステップにおいて決定された前記特定マクロブロック重要度が所定の閾値を超える場合、前記特定パケットの再送を要求するステップとを備える動画像データ伝送方法であることを要旨とする。
本発明の第27の特徴は、本発明の第26の特徴に係り、前記特定パケットよりも前に受信した前方パケット、または前記特定パケットよりも後に受信した後方パケットには、前記特定マクロブロック重要度が含まれ、前記特定マクロブロック重要度を決定するステップでは、前記前方パケットまたは前記後方パケットに含まれる前記特定マクロブロック重要度を用いて、前記特定マクロブロック重要度を決定することを要旨とする。
本発明の第28の特徴は、画像フレームが分割されたマクロブロックを含むパケットを順次受信するステップと、受信した前記マクロブロックの復号処理を実行するステップと、前記マクロブロックに付与されている重みを示すマクロブロック重要度を受信するステップとを備え、前記復号処理を実行するステップでは、受信した前記マクロブロック重要度が所定の閾値以下の場合、前記復号処理の少なくとも一部を省略する動画像データ伝送方法であることを要旨とする。
本発明の特徴によれば、重要部分を含むマクロブロックをより確実に伝送することができる動画像データ伝送装置を提供することができる。
[第1実施形態]
次に、本発明の第1実施形態について説明する。なお、以下の図面の記載において、同一または類似の部分には、同一または類似の符号を付している。ただし、図面は模式的なものであり、各寸法の比率などは現実のものとは異なることに留意すべきである。
したがって、具体的な寸法などは以下の説明を参酌して判断すべきものである。また、図面相互間においても互いの寸法の関係や比率が異なる部分が含まれていることは勿論である。
(動画像データ伝送装置の論理ブロック構成)
図1は、本実施形態に係る動画像データ伝送装置100の論理ブロック構成を示している。なお、以下、本発明との関連がある部分について主に説明する。したがって、動画像データ伝送装置100は、動画像データ伝送装置100の機能を実現する上で必須な、図示しない或いは説明を省略した論理ブロック(電源部など)を備える場合があることに留意されたい。
同図に示すように、動画像データ伝送装置100は、有線または無線によって、通信ネットワーク10に接続される。
通信ネットワーク10は、動画像データ伝送装置100によって送信された動画像データを含むIPパケットを伝送するための通信ネットワークである。
動画像データ伝送装置100は、動画像データ取得部101、動きベクトル演算部103、参照画像ブロック決定部105、重み付与部107及び通信部109を備えている。
動画像データ取得部101は、動画像データを取得するものである。具体的には、動画像データ取得部101は、通信ネットワーク10を介してアクセスすることができるサーバ(不図示)から、動画像データを取得することができる。
また、動画像データ取得部101は、記録媒体(例えば、DVDやテープ)とのアクセスインターフェースを具備し、当該記録媒体に記録されている動画像データを取得するようにしてもよい。
動きベクトル演算部103は、画像フレームに含まれるマクロブロック(16画像×16ライン)の動きベクトルを演算するものである。
具体的には、図3に示すように、動きベクトル演算部103は、画像フレームF(第1の画像フレーム)上における参照画像要素Rの位置と、画像フレームFよりも後に再生される画像フレームFn+1(第2の画像フレーム)上において参照画像要素Rを含むマクロブロックMB(n+1,k)(後方マクロブロック)の位置とに基づいて、マクロブロックMB(n+1,k)の動きベクトルV(n+1,k)、つまり、画像フレーム上におけるマクロブロックMB(n+1,k)の移動方向と移動量を演算する。
なお、マクロブロックMB(n+1,k)には、参照画像要素Rのすべてではなく、一部が含まれる形態でもよい。
より具体的には、動きベクトル演算部103は、マクロブロックMB(n+1,k)を構成する輝度信号及び色差信号を用いて、動きベクトルV(n+1,k)を演算する。なお、動きベクトル演算部103は、輝度信号または色差信号の何れかの信号を用いて、動きベクトルV(n+1,k)を演算してもよい。
図1に示す参照画像ブロック決定部105は、動きベクトル演算部103によって演算された動きベクトルV(n+1,k)に基づいて、参照画像要素Rを含む画像フレームF上の領域である参照画像ブロックSB(n+1,k)(図4参照)を決定するものである。
具体的には、参照画像ブロック決定部105は、動きベクトルV(n+1,k)に基づいて、マクロブロックと同一サイズ(16画素×16ライン)の参照画像ブロックSB(n+1,k)を決定する。
重み付与部107は、画像フレームF上におけるマクロブロックMB(n,m)と参照画像ブロックSB(n+1,k)とが画像フレームF上において重なる重複領域の割合に応じて、マクロブロックMB(n,m)に重みを付与するものである。
具体的には、図5に示すように、重み付与部107は、マクロブロックMB(n,m)と参照画像ブロックSB(n+1,k)とが画像フレームF上において重なる重複領域OLとマクロブロックMB(n,m)が占める領域との比率を重みとして付与する。
より具体的には、重み付与部107は、(式1)を用いて、重み(W)を演算する。
ここで、SB(n+1,k)∩MB(n,m)とは、参照画像ブロックSB(n+1,k)と、マクロブロックMB(n,m)とが重なる重複領域OLの面積である。
例えば,マクロブロックMB(n,k)と参照画像ブロックSB(n+1,k)とが重なる場合,動きベクトルV(n+1,k)=(a,b)とすると,マクロブロックMB(n,k)の重み(W)は,以下のように演算される。
また、重み付与部107は、参照画像ブロック決定部105によって決定された複数の参照画像ブロックを用いて、マクロブロックMB(n,m)に付与する重みを決定することができる。
例えば、図6に示すように、参照画像ブロックSB(n+1,i)及び参照画像ブロックSB(n+1,j)の2つの参照画像ブロックがある場合、重み付与部107は、マクロブロックMB(n,m)との重複領域OL1,OL2に基づいて、複数の参照画像ブロックに基づく重み(W)を演算する。
具体的には、重み付与部107は、(式2)を用いて、複数の参照画像ブロックに基づく重み(W)を演算する。
図1に示す通信部109は、通信ネットワーク10と接続するための通信インターフェースを提供するものである。通信部109は、通信ネットワーク10の構成によって適宜適切な通信インターフェースを具備することができる。例えば、通信部109は、100BASE-TXなどのLANインターフェースを具備することができる。
また、通信部109は、重み付与部107によって付与された重み(例えば、重み(W))に基づいて、マクロブロックの伝送方法を制御するものである。本実施形態において、通信部109は、伝送方法制御部を構成する。
具体的には、図7(a)及び(b)に示すように、通信部109は、重みの値が所定の閾値(例えば、1.0)を超える場合、通信ネットワーク10を介して接続することができる送信先(不図示)に向けて、マクロブロックを複数回送信する。
より具体的には、通信部109は、送信されるIPパケット(パケット)に含まれる複数のマクロブロックに付与されている重みの合計が所定の閾値(例えば、1.0)を超える場合、当該IPパケットを送信先に向けて複数回送信する。
また、通信部109は、マクロブロックに付与されている重みが、所定の閾値(例えば、0.5)を下回る場合、前記マクロブロックを送信せずに廃棄する。
さらに、図8(a)及び(b)に示すように、通信部109は、送信されるIPパケットに含まれる複数のマクロブロックに付与されている重みの合計が所定の範囲内(例えば、0.8〜1.2)となるように、IPパケットを生成することもできる。なお、通信部109のさらに具体的な動作については、後述する。
(動画像データ伝送装置の動作)
次に、上述した本実施形態に係る動画像データ伝送装置100の動作について説明する。図2は、動画像データ伝送装置100の動作フロー図である。
同図に示すように、ステップS10において、動画像データ伝送装置100は、画像フレームFに含まれるマクロブロック(16画像×16ライン)の動きベクトルを演算する。
具体的には、動画像データ伝送装置100は、上述したように、画像フレームF上における参照画像要素Rの位置と、画像フレームFよりも後に再生される画像フレームFn+1上において参照画像要素Rを含むマクロブロックMB(n+1,k)の位置とに基づいて、マクロブロックMB(n+1,k)の動きベクトルV(n+1,k)を演算する(図3参照)。
ステップS20において、動画像データ伝送装置100は、演算した動きベクトルV(n+1,k)に基づいて、参照画像要素Rを含む画像フレームF上の領域である参照画像ブロックSB(n+1,k)を決定する(図4参照)。なお、動画像データ伝送装置100は、ステップS20において、複数の参照画像ブロックを決定することもできる。
ステップS30において、動画像データ伝送装置100は、マクロブロックMB(n,m)と参照画像ブロックSB(n+1,k)とが、画像フレームF上において重なる重複領域の割合に応じて、マクロブロックMB(n,m)の重みを演算する(図5及び図6参照)。
具体的には、動画像データ伝送装置100は、上述したように、式1(または式2)を用いて、重み(W)(または重み(W))を演算する。
ステップS40において、動画像データ伝送装置100は、演算した重み(W)(または重み(W))をマクロブロックMB(n,m)に付与する。
例えば、図7(a)に示すように、動画像データ伝送装置100は、マクロブロックMB1〜MB4に、演算した重み(図中の“0.2”や“0.3”など)をそれぞれ付与する。
なお、当該重みを示す情報は、マクロブロックMB(n,m)を構成するデータフィールドの適当なビットを用いて表現すればよい。
次いで、図2に示すように、ステップS50において、動画像データ伝送装置100は、上述したステップS30,S40の処理において対象とした参照画像ブロックSB(n+1,k)の他に、画像フレームF上においてマクロブロックMB(n,m)と重なる参照画像ブロックがあるか否かを判定する。
マクロブロックMB(n,m)と重なる他の参照画像ブロックがある場合(ステップS50のYES)、動画像データ伝送装置100は、ステップS30からの処理を繰り返す。
マクロブロックMB(n,m)と重なる他の参照画像ブロックがない場合(ステップS50のNO)、ステップS60において、動画像データ伝送装置100は、付与した重みに応じて、マクロブロックMB(n,m)を伝送する。動画像データ伝送装置100は、設定内容に応じて、マクロブロックMB(n,m)をどのように伝送するかを決定する。
例えば、図7(a)及び(b)に示すように、IPパケットP1に含まれているマクロブロックMB1〜MB4に付与された重みの合計は、“1.0”となっている。また、IPパケットP2に含まれているマクロブロックMB5〜MB8に付与された重みの合計は、“0.7”となっている。
この場合、動画像データ伝送装置100は、IPパケットP1のみを送信し、IPパケットP2を送信せずに廃棄する。
また、図8(a)及び(b)に示すように、動画像データ伝送装置100は、送信されるIPパケットに含まれる複数のマクロブロックに付与されている重みの合計が所定の範囲内(例えば、0.8〜1.2)となるように、IPパケットを生成することもできる。
IPパケットP3は、“4つ”のマクロブロックMB11〜MB14を含み、当該マクロブロックの重みの合計は、“1.0”である。
一方、IPパケットP4は、“5つ”のマクロブロックMB21〜25を含んでいるが、当該マクロブロックの重みの合計は、IPパケットP3と同じ“1.0”となっている。
すなわち、動画像データ伝送装置100は、送信されるIPパケットに含まれる複数のマクロブロックに付与されている重みの合計が所定の範囲内となるように、IPパケットに含まれるマクロブロックの数、つまり、パケット長を調整する。
(作用・効果)
以上説明した本実施形態に係る動画像データ伝送装置100によれば、マクロブロックMB(n,m)と参照画像ブロックSB(n+1,k)とが画像フレームF上において重なる重複領域OLの割合に応じて、マクロブロックMB(n,m)に重み(W)が付与される。
さらに、通信部109が、付与された重み(W)に基づいてマクロブロックMB(n,m)の伝送方法を制御、具体的には、重み(W)が所定の閾値を超える場合、マクロブロックMB(n,m)を複数回送信するため、重要部分を含むマクロブロックをより確実に伝送することができる。
動画像データ伝送装置100によれば、複数の参照画像ブロック(参照画像ブロックSB(n+1,i),SB(n+1,j))を用いて、マクロブロックMB(n,m)に付与する重み(W)が決定される。このため、確実に送信先に伝送することが望ましい“重要部分”を含むマクロブロック、つまり、画像フレームF上において動きがあるマクロブロックをさらに精度よく決定することができる。
動画像データ伝送装置100によれば、送信されるIPパケット(IPパケットP3,P4)に含まれる複数のマクロブロックに付与されている重みの合計が所定の範囲内となるように、IPパケットが生成される。
このため、動画像データ伝送装置100によって送信されたIPパケットが、通信ネットワーク10上において喪失(いわゆるパケットロス)したり、エラーを含んだりしても、送信先において再生される動画像データへの影響をほぼ一定にすることができる。
すなわち、IPパケットが送信先に到達せずに喪失した場合でも、動画像データの劣化の程度を一定のレベルに抑えることができる。
動画像データ伝送装置100によれば、マクロブロックに付与されている重みが、所定の閾値を下回る場合、当該マクロブロックを送信せずに廃棄することができる。
このため、通信ネットワーク10の通信帯域(スループット)が制限されている場合など、比較的重みの低いマクロブロックを削除することによって、画質を大きく劣化させることなく、通信ネットワーク10の通信帯域に応じた動画像データの伝送を実現することができる。
(変更例)
上述した本実施形態では、マクロブロックに付与された重みに基づいて、マクロブロックの伝送方法を制御する例を説明したが、当該伝送方法は、上述の実施形態に限定されるものではない。
例えば、マクロブロックに付与された重みに基づいて、IPパケットの送信について優先制御などのQoS制御を実行してもよい。
また、上述した本発明の実施形態では、(式1)を用いて求められる重複領域OLとマクロブロックMB(n,m)が占める領域との比率を重みとして用いたが、重複領域OLとマクロブロックMB(n,m)が占める領域との比率が求められる式であれば、(式1)と異なる式を用いてもよい。
さらに、マクロブロックに付与される重みの演算方法は、以下のように変更することができる。
図9(a)及び(b)は、画像フレームFと、画像フレームFよりも後に再生される画像フレームFn+1に含まれるマクロブロックをそれぞれ示している。ここでは、画像フレームFに含まれるマクロブロックをA〜Iとし、画像フレームFn+1に含まれるマクロブロックをa〜iとする。
図10は、図9(b)に示したマクロブロックa〜iの動きベクトルに基づいて決定された参照画像ブロックSBa〜SBiを示している。
動画像データ伝送装置100は、図9(a)に示した画像フレームF上におけるマクロブロックA〜Iと、図10に示した参照画像ブロックSBa〜SBiとが重なる重複領域の割合に基づいて、マクロブロックA〜Iに付与する重みを演算する。
例えば、動画像データ伝送装置100は、(式3)を用いて、画像フレームFのほぼ中央に位置するマクロブロックE(MB(E))の重みWを演算する。
ここで、例えば、MB(E)∩SB(a)とは、マクロブロックAと、参照画像ブロックSBaとが重なる重複領域の面積である。また、w〜wは、動画像データ伝送装置100が取り扱う動画像データの内容などによって、任意の値に設定することができる。
(式3)を用いたマクロブロックの重みの演算によれば、例えば、マクロブロックEの上下方向に位置するマクロブロックA,B,C,G,H,I用として用いられるw,w,w,w,w,wの値を大きくすることによって、当該マクロブロックを他のマクロブロックよりも優先的に伝送することができる。
さらに、画像フレームFn+1よりも後に再生される画像フレーム(例えば、2〜3画像フレーム先まで)を対象として重みを演算し、当該重みをw〜wに反映するようにしてもよい。
このような方法によれば、現在の画像フレームから数フレーム先の画像フレームの状態を反映したマクロブロックへの重みの付与が可能となる。
[第2実施形態]
次に、本発明の第2実施形態について説明する。本実施形態では、マクロブロックの重みをさらに有効に活用して、“重要部分”を含むマクロブロックを一層確実に伝送する。
(動画像データ伝送装置の論理ブロック構成)
図11は、本実施形態に係る動画像データ伝送装置100A及び動画像データ伝送装置200の論理ブロック構成を示している。なお、以下、第1実施形態と異なる部分について主に説明するものとし、同様の部分については、説明を適宜省略する。
(1)動画像データ伝送装置100A
動画像データ伝送装置100Aは、第1実施形態に係る動画像データ伝送装置100(図1参照)と比較すると、パケット重要度送信部111及びエラー訂正処理部113が追加されている。
パケット重要度送信部111は、マクロブロックに付与されている重みを示すマクロブロック重要度を送信先、具体的には動画像データ伝送装置200に送信するものである。
図17は、動画像データ伝送装置100Aから動画像データ伝送装置200に送信されるIPパケットの一例を示している。図17に示すように、IPパケットP11は、マクロブロックMB31〜MB34を含む。
パケット重要度送信部111は、マクロブロックMB31〜MB34の重みの値(0.2/0.3/0.1/0.4)をマクロブロック重要度W0に含める。パケット重要度送信部111は、マクロブロック重要度W0をIPパケットP11に付加して送信する。
また、パケット重要度送信部111は、マクロブロックが含まれるIPパケットと異なるIPパケットに、当該マクロブロックのマクロブロック重要度を含めて送信することもできる。
図18は、動画像データ伝送装置100Aから動画像データ伝送装置200に送信されるIPパケットの他の例を示している。図18に示すように、IPパケットP12は、IPパケットP1(図7(a)参照)に含まれるマクロブロックMB1〜MB4の重みの合計であるマクロブロック重要度W1と、IPパケットP2(図7(b)参照)に含まれるマクロブロックMB5〜MB8の重みの合計であるマクロブロック重要度W2とを含む。
パケット重要度送信部111は、マクロブロック(MB1〜MB8)が含まれるIPパケットP1及びP2と異なるIPパケットP12に、マクロブロック重要度W1及びW2を含めて送信することができる。
パケット重要度送信部111は、図17及び図18に示した形態とも異なる形態によって、マクロブロック重要度を動画像データ伝送装置200に送信することもできる。
図19(a)〜(c)は、動画像データ伝送装置100Aから動画像データ伝送装置200に送信されるIPパケットの他の例を示している。
図19(a)に示すように、動画像データ伝送装置100Aから動画像データ伝送装置200には、IPパケットP21,P22,P23が順次送信される。
IPパケットP21は、マクロブロックMB31〜MB34を含む。同様に、IPパケットP22は、マクロブロックMB35〜MB38を含み、IPパケットP23は、マクロブロックMB39〜MB42を含む。また、IPパケットP21〜P23には、マクロブロック重要度W21〜W23がそれぞれ付加される。
図19(b)は、IPパケットP22に付加されるマクロブロック重要度W22の内容を示している。マクロブロック重要度W22は、IPパケットP22に含まれるマクロブロックMB35〜MB38の重みの合計(0.7)であるマクロブロック重要度W2と、IPパケットP22よりも前に送信されるIPパケットP21に含まれるマクロブロックMB31〜MB34の重みの合計(1.0)であるマクロブロック重要度W1とを含む。
つまり、パケット重要度送信部111は、IPパケットP22よりも前に送信されるIPパケットP21(前方パケット)に含まれるマクロブロックMB31〜MB34のマクロブロック重要度W1を、IPパケットP22に含めて送信することができる。
また、パケット重要度送信部111は、マクロブロック重要度W22に代えて、図19(c)に示すようなマクロブロック重要度W22Aを送信することもできる。マクロブロック重要度W22Aは、マクロブロック重要度W2と、IPパケットP22よりも後に送信されるIPパケットP23に含まれるマクロブロックMB39〜MB42の重みの合計(1.3)であるマクロブロック重要度W3とを含む。
つまり、パケット重要度送信部111は、IPパケットP22よりも後に送信されるIPパケットP23(後方パケット)に含まれるマクロブロックMB39〜MB42のマクロブロック重要度W3を、IPパケットP22に含めて送信することもできる。
エラー訂正処理部113は、動画像データ伝送装置200に送信されるIPパケットにエラー訂正符号、具体的にはFEC(forward error correction)コードを付加するものである。
図20は、動画像データ伝送装置100Aによって送信されるIPパケットの具体的な構成例を示している。図20に示すように、IPパケットP10は、IPヘッダ、UDPヘッダ、RTPヘッダ、重みW(マクロブロック重要度)、画像データ(マクロブロック)及びFECコードによって構成されている。
特に、本実施形態では、エラー訂正処理部113は、送信されるIPパケットP10に含まれるマクロブロックに付与されている重み(W)の値に基づいて、IPパケットP10に対してFECコードを付加するか否かを判定することができる。本実施形態において、エラー訂正処理部113は、判定部を構成する。
また、本実施形態に係る通信部109は、エラー訂正処理部113がIPパケットP10に対してFECコードを付加しないと判定した場合、FECコードを付加しないIPパケットP10を送信する。
なお、重みW(マクロブロック重要度)は、図20に示すように、IPパケットP10のヘッダとして付加する形態に限らず、画像データのヘッダ部分に付加する形態でもよい。
(2)動画像データ伝送装置200
図11に示すように、動画像データ伝送装置200は、通信ネットワーク10を介して動画像データ伝送装置100Aによって送信されたIPパケットを受信する。さらに、動画像データ伝送装置200は、受信したIPパケットに含まれるマクロブロックの復号処理を実行し、動画像データを再生する。
動画像データ伝送装置200は、通信部201、パケット重要度処理部203、動画像データ処理部205及びエラー訂正処理部207を備えている。
通信部201は、通信ネットワーク10と接続するための通信インターフェースを提供するものである。通信部201は、通信ネットワーク10の構成によって適宜適切な通信インターフェースを具備することができる。
特に、本実施形態では、通信部201は、画像フレーム(例えば、図3に示した画像フレームF)が分割されたマクロブロックを含むIPパケットを順次受信する。本実施形態において、通信部201は、パケット受信部を構成する。
また、通信部201は、パケット重要度処理部203によって決定されたマクロブロック重要度が所定の閾値を超える場合、当該マクロブロック重要度が付与されたマクロブロックを含むIPパケット(特定パケット)の再送を要求する。本実施形態において、通信部201は、再送要求部を構成する。
パケット重要度処理部203は、マクロブロックに付与されている重みを示すマクロブロック重要度に関する処理を実行するものである。
パケット重要度処理部203は、動画像データ伝送装置100Aによって送信されたIPパケット(例えば、図17に示すIPパケットP11)に含まれるマクロブロック重要度を受信する。本実施形態において、パケット重要度処理部203は、重要度受信部を構成する。
また、パケット重要度処理部203は、受信した複数のマクロブロックのマクロブロック重要度に基づいて、通信部201が受信できずに喪失したIPパケット(特定パケット)に含まれるマクロブロックのマクロブロック重要度(特定マクロブロック重要度)を決定する。本実施形態において、パケット重要度処理部203は、重要度決定部を構成する。
具体的には、パケット重要度処理部203は、通信部201が受信したIPパケットに基づいて、一つの画像フレーム(例えば、画像フレームF)を構成するマクロブロックの重み(マクロブロック重要度)の合計値(受信合計値)を演算する。ここで、画像フレームごとの重みの合計値(基準合計値)は、ほぼ一定である。
そこで、パケット重要度処理部203は、基準合計値から受信合計値を減算することによって、喪失したIPパケットに含まれるマクロブロックの重み(マクロブロック重要度)を決定する。
また、パケット重要度処理部203は、マクロブロック重要度のみを含むIPパケット(例えば、図18に示すIPパケットP12)を受信することもできる。
さらに、パケット重要度処理部203は、図19(a)及び(b)に示すように、喪失したIPパケットがIPパケットP21(特定パケット)である場合、IPパケットP21よりも後に受信したIPパケットP22(後方パケット)に含まれるマクロブロック重要度W1(特定マクロブロック重要度)を用いて、喪失したIPパケットP21に含まれるマクロブロックのマクロブロック重要度W1を決定することもできる。
或いは、パケット重要度処理部203は、図19(a)及び(c)に示すように、喪失したIPパケットがIPパケットP23(特定パケット)である場合、IPパケットP23よりも前に受信したIPパケットP22(前方パケット)に含まれるマクロブロック重要度W3(特定マクロブロック重要度)を用いて、喪失したIPパケットP23に含まれるマクロブロックのマクロブロック重要度W3を決定することもできる。
動画像データ処理部205は、通信部201が受信したIPパケットに含まれるマクロブロックの復号処理を実行するものである。本実施形態において、動画像データ処理部205は、復号処理部を構成する。
特に、本実施形態では、動画像データ処理部205は、パケット重要度処理部203が受信したマクロブロック重要度に基づいて、復号処理の内容を変更することができる。
例えば、動画像データ処理部205は、マクロブロック重要度が所定の閾値以下の場合、復号処理の少なくとも一部を省略することができる。具体的には、動画像データ処理部205は、当該マクロブロック重要度に対応するマクロブロック(例えば、マクロブロックMB31〜MB34)のうち、重みが所定の閾値(例えば、0.3)以上のマクロブロックについてのみ復号処理を実行したり、当該マクロブロックの復号処理をすべて省略したりすることができる。
エラー訂正処理部207は、通信部201が受信したIPパケットに含まれるFECコード(図20参照)を用いて、エラー訂正処理を実行するものである。なお、エラー訂正処理部207は、IPパケットにFECコードが付加されていない場合、何らエラー訂正処理を実行しない。
(動画像データ伝送装置の動作)
次に、上述した本実施形態に係る動画像データ伝送装置100A及び動画像データ伝送装置200の動作について説明する。
(1)マクロブロック重要度の送信
図12(a)〜(c)は、動画像データ伝送装置100Aにおけるマクロブロック重要度の送信動作フロー図である。
(1.1)マクロブロック重要度合計値の送信
図12(a)に示すように、ステップS110において、動画像データ伝送装置100Aは、IPパケットに含まれるマクロブロックの重みの合計値を、マクロブロック重要度W1として演算する。例えば、動画像データ伝送装置100Aは、図18に示すマクロブロック重要度W1及びW2を演算する。
ステップS120において、動画像データ伝送装置100Aは、演算した合計値を、マクロブロック重要度W1及びW2として、受信側の動画像データ伝送装置200に送信する。
具体的には、動画像データ伝送装置100Aは、マクロブロック重要度W1及びW2を含むIPパケットP12を動画像データ伝送装置200に送信する。
(1.2)一部のマクロブロック重要度の送信
動画像データ伝送装置100Aは、図12(a)に示す動作に代えて、図12(b)に示す動作を実行することもできる。図12(b)に示すように、ステップS110Aにおいて、動画像データ伝送装置100Aは、IPパケットに含まれる各マクロブロックの重みのうち、重みが大きい順に、所定数の重みを取得する。
例えば、図17に示すIPパケットP11であれば、動画像データ伝送装置100Aは、重みが最も大きいマクロブロックMB34、及び重みがマクロブロックMB34に次いで大きいマクロブロックMB32の重み(0.4及び0.3)を取得する。
ステップS120Aにおいて、動画像データ伝送装置100Aは、当該所定数の重み(0.4及び0.3)をマクロブロック重要度W0(図17参照)として、受信側の動画像データ伝送装置200に送信する。
具体的には、動画像データ伝送装置100Aは、マクロブロック重要度W0を含むIPパケットP11を動画像データ伝送装置200に送信する。
(1.3)特定のマクロブロック重要度の送信
動画像データ伝送装置100Aは、さらに、図12(c)に示す動作を実行することもできる。図12(c)に示すように、ステップS110Bにおいて、動画像データ伝送装置100Aは、IPパケットに含まれる各マクロブロックの重みのうち、重みが大きい(または小さい)マクロブロックの番号を取得する。
例えば、図17に示すIPパケットP11であれば、動画像データ伝送装置100Aは、重みが最も大きいマクロブロックMB34の番号を取得する。
ステップS120Bにおいて、動画像データ伝送装置100Aは、当該マクロブロックの番号をマクロブロック重要度W0(図17参照)として、受信側の動画像データ伝送装置200に送信する。
(2)マクロブロック重要度を用いた復号処理
次に、マクロブロック重要度を用いた復号処理に係る動作について説明する。具体的には、受信側の動画像データ伝送装置200における3つの動作例について説明する。
(2.1)動作例1
本動作例では、マクロブロック重要度を用いて喪失したIPパケットの再送を要求するか否かが判定される。
図13に示すように、ステップS210において、動画像データ伝送装置200は、動画像データ伝送装置100Aから受信したIPパケットに含まれるシーケンス番号に基づいて、通信ネットワーク10内において喪失したIPパケット(例えば、IPパケットP11)を検出する。
ステップS220において、動画像データ伝送装置200は、受信したIPパケットに含まれるマクロブロックのマクロブロック重要度を取得する。
ステップS230において、動画像データ伝送装置200は、取得したマクロブロック重要度に基づいて、喪失したIPパケット(IPパケットP11)に含まれるマクロブロックのマクロブロック重要度を決定する。
具体的には、動画像データ伝送装置200は、上述したように、画像フレームを構成するマクロブロックのマクロブロック重要度の基準合計値から、受信したIPパケットに含まれるマクロブロックのマクロブロック重要度の合計値である受信合計値を減算することによって、喪失したIPパケットに含まれるマクロブロックの重み(マクロブロック重要度)を決定する。
ステップS240において、動画像データ伝送装置200は、喪失したIPパケット(マクロブロック)のマクロブロック重要度が所定の閾値を超えるか否かを判定する。
マクロブロック重要度が所定の閾値を超える場合(ステップS240のYES)、ステップS250において、動画像データ伝送装置200は、喪失したIPパケットの再送を要求する。
ステップS260において、動画像データ伝送装置200は、喪失したIPパケットを受信したか否かを判定する。
喪失したIPパケットを受信した場合(ステップS260のYES)、ステップS270において、動画像データ伝送装置200は、再送されたIPパケットに含まれるマクロブロックを用いて、復号処理を実行する。
喪失したIPパケットを受信できない場合(ステップS260のNO)、動画像データ伝送装置200は、ステップS250からの処理を繰り返す。
また、マクロブロック重要度が所定の閾値以下の場合(ステップS240のNO)、ステップS280において、動画像データ伝送装置200は、喪失したIPパケットに含まれるマクロブロックを用いずに、復号処理を実行する。
なお、図18に示すように、マクロブロック重要度が、マクロブロックを含むIPパケットと異なるIPパケットP12によって送信される場合、動画像データ伝送装置200は、IPパケットP12に含まれるマクロブロック重要度に基づいて、ステップS240からの処理を実行すればよい。
(2.2)動作例2
図14は、図13に示した動作例1に係るフローにおけるステップS210〜S230に代えて実行される動作フロー図である。
ステップS210Aは、図13に示したステップS210と同様である。ステップS220Aにおいて、動画像データ伝送装置200は、喪失したIPパケット(例えば、図19(a)に示すIPパケットP21)よりも後に受信したIPパケット(IPパケットP22)に含まれるマクロブロック重要度(マクロブロック重要度W22)を取得する。
ステップS230Aにおいて、動画像データ伝送装置200は、取得したマクロブロック重要度(マクロブロック重要度W22)に基づいて、喪失したIPパケットのマクロブロック重要度(マクロブロック重要度W1)を決定する。
具体的には、動画像データ伝送装置200は、図19(b)に示すように、マクロブロック重要度W22に含まれるマクロブロック重要度W1に基づいて、喪失したIPパケットP21のマクロブロック重要度を決定する。
なお、動画像データ伝送装置200は、図19(a)及び(c)に示すように、喪失したIPパケットがIPパケットP23である場合、IPパケットP23よりも前に受信したIPパケットP22に含まれるマクロブロック重要度W22Aに基づいて、マクロブロック重要度W3を決定することもできる。
(2.3)動作例3
本動作例では、受信したマクロブロック重要度に基づいて、マクロブロックの復号処理を実行するか否かが判定される。
図15に示すように、ステップS310において、動画像データ伝送装置200は、動画像データ伝送装置100AからIPパケットを受信する。
ステップS320において、動画像データ伝送装置200は、受信したIPパケットに含まれるマクロブロックのマクロブロック重要度を取得する。
ステップS330において、動画像データ伝送装置200は、受信したIPパケット(マクロブロック)のマクロブロック重要度が所定の閾値を超えるか否かを判定する。
マクロブロック重要度が所定の閾値を超える場合(ステップS330のYES)、ステップS340において、動画像データ伝送装置200は、受信したIPパケットに含まれるマクロブロックを用いて、復号処理を実行する。
マクロブロック重要度が所定の閾値以下の場合(ステップS330のNO)、ステップS350において、動画像データ伝送装置200は、受信したIPパケットに含まれるマクロブロックを用いずに、復号処理を実行する。
(3)エラー訂正符号の省略
図16は、動画像データ伝送装置100Aにおけるエラー訂正符号(FECコード)の付加動作フロー図である。
図16に示すように、ステップS410において、動画像データ伝送装置100Aは、IPパケットに含まれるマクロブロックの重みの合計値を、マクロブロック重要度として演算する。
ステップS420において、動画像データ伝送装置100Aは、演算したマクロブロック重要度が所定の閾値を超えるか否かを判定する。
マクロブロック重要度が所定の閾値を超える場合(ステップS420のYES)、ステップS430において、動画像データ伝送装置100Aは、当該IPパケットにFECコードを付加する。
ステップS440において、動画像データ伝送装置100Aは、当該IPパケットを受信側の動画像データ伝送装置200に送信する。
なお、マクロブロック重要度が所定の閾値以下の場合(ステップS420のNO)、動画像データ伝送装置100Aは、当該IPパケットにFECコードを付加せずに、当該IPパケットを受信側の動画像データ伝送装置200に送信する。
(作用・効果)
以上説明した本実施形態に係る動画像データ伝送装置100A及び動画像データ伝送装置200によれば、喪失したIPパケットのマクロブロック重要度(特定マクロブロック重要度)が所定の閾値を超える場合のみ、当該IPパケットの再送が要求される。つまり、動画像データの再生にあまり重要でないマクロブロックを含むIPパケットの再送が要求されないため、動画像データ伝送装置200は、より高速にマクロブロックの復号処理を実行することができる。
さらに、当該IPパケットの再送が要求されないため、通信ネットワーク10を介して送受信されるIPパケット量を低減することができる。特に、IPパケットの喪失は、通信ネットワーク10が輻輳している場合に発生し易いため、再送するIPパケット数を低減することによって、通信ネットワーク10の輻輳の改善に寄与する。
本実施形態によれば、マクロブロック重要度が、マクロブロックを含むIPパケットと異なるIPパケット(図18に示すIPパケットP12)によって送信することができる。
このため、受信側の動画像データ伝送装置がマクロブロック重要度を用いた処理に対応している場合には、当該IPパケットを用いればよい。一方、受信側の動画像データ伝送装置が当該処理に対応していない場合、マクロブロックを含むIPパケットは、従来と何ら変わらないため、当該動画像データ伝送装置も正常に動作することができる。
さらに、図19(b)及び(c)に示したように、IPパケットP22よりも後(前)に送信されるIPパケットP23(IPパケットP21)に含まれるマクロブロックのマクロブロック重要度を、IPパケットP22に含めて送信することができる。
このため、特定のIPパケットが喪失した場合でも、喪失したIPパケットのマクロブロック重要度を速やかに認識することができる。
本実施形態によれば、マクロブロック重要度が所定の閾値以下の場合、マクロブロックの復号処理の少なくとも一部が省略されるため、より高速に復号処理を実行することができる。特に、当該復号処理をソフトウェアにおいて実行している場合に、CPUに掛かる負荷を軽減したり、音声と比較して遅延することが多い動画像の復号処理をより確実に実行したりすることができる。
本実施形態によれば、マクロブロック重要度が所定の閾値以下の場合、FECコードの付加が省略されるため、重要なマクロブロックのエラー耐性を維持しつつ、通信ネットワーク10に送信されるデータ量を低減することができる。
[その他の実施形態]
上述したように、本発明の第1及び第2実施形態を通じて本発明の内容を開示したが、この開示の一部をなす論述及び図面は、本発明を限定するものであると理解すべきではない。この開示から当業者には様々な代替実施の形態が明らかとなろう。
例えば、上述した動画像データ伝送装置100,100A及び200(LANインターフェースを構成するハードウェア部分などを除く)は、パーソナル・コンピュータなどで実行可能なコンピュータ・プログラムとして提供することもできる。
上述した第2実施形態では、通信ネットワーク10を介して動画像データ伝送装置100Aと動画像データ伝送装置200とが接続されていたが、動画像データ伝送装置100Aと動画像データ伝送装置200とは、必ずしも通信ネットワーク10を介さず、通信ケーブルなどで接続される形態でも構わない。
また、IPパケットP12(図18参照)は、マクロブロックを含むIPパケットが伝送される通信ネットワーク10と別個の通信ネットワークを介して伝送してもよい。
上述した第1及び第2実施形態では、マクロブロックをIPパケット化する形態としたが、マクロブロックは、IPパケットではなく、他の形態(例えば、ATMセル)として伝送してもよい。
さらに、第2実施形態では、エラー訂正符号としてFECコードを用いる形態としたが、FECコードに代えて、CRCなど、他のエラー訂正符号を用いても構わない。
このように、本発明は、ここでは記載していない様々な実施の形態などを含むことは勿論である。したがって、本発明の技術的範囲は、上述の説明から妥当な特許請求の範囲に係る発明特定事項によってのみ定められるものである。
本発明の第1実施形態に係る動画像データ伝送装置の論理ブロック構成図である。 本発明の第1実施形態に係る動画像データ伝送装置の動作フロー図である。 画像フレームの構成例を示す図である。 参照画像ブロックの例を示す図である。 参照画像ブロック及びマクロブロックの例を示す図である。 参照画像ブロック及びマクロブロックの例を示す図である。 パケットの構成例を示す図である。 パケットの構成例を示す図である。 本発明の第1実施形態の変更例に係る画像フレームの構成例を示す図である。 本発明の第1実施形態の変更例に係る参照画像ブロックの構成例を示す図である。 本発明の第2実施形態に係る動画像データ伝送装置の論理ブロック構成図である。 本発明の第2実施形態に係る動画像データ伝送装置の動作フロー図である。 本発明の第2実施形態に係る動画像データ伝送装置の動作フロー図である。 本発明の第2実施形態に係る動画像データ伝送装置の動作フロー図である。 本発明の第2実施形態に係る動画像データ伝送装置の動作フロー図である。 本発明の第2実施形態に係る動画像データ伝送装置の動作フロー図である。 本発明の第2実施形態に係るパケットの構成例を示す図である。 本発明の第2実施形態に係るパケットの構成例を示す図である。 本発明の第2実施形態に係るパケットの構成例を示す図である。 本発明の第2実施形態に係るパケットの具体的構成例を示す図である。
符号の説明
10…通信ネットワーク、100,100A…動画像データ伝送装置、101…動画像データ取得部、103…動きベクトル演算部、105…参照画像ブロック決定部、107…重み付与部、109…通信部、111…パケット重要度送信部、113…エラー訂正処理部、200…動画像データ伝送装置、201…通信部、203…パケット重要度処理部、205…動画像データ処理部、207…エラー訂正処理部、F…画像フレーム、MB…マクロブロック、OL,OL1,OL2…重複領域、P1〜P4…IPパケット、R…参照画像要素、SB…参照画像ブロック、V…動きベクトル、W…マクロブロック重要度(重み)

Claims (2)

  1. 第1の画像フレーム上における参照画像要素の位置と、1の画像フレームよりも後に再生される第2の画像フレーム上において照画像要素を含む後方マクロブロックの位置とに基づいて、方マクロブロックの動きベクトルを演算する動きベクトル演算部と、
    きベクトル演算部によって演算されたきベクトルに基づいて、照画像要素を含む1の画像フレーム上の領域である参照画像ブロックを決定する参照画像ブロック決定部と、
    1の画像フレーム上におけるマクロブロックと照画像ブロックとが画像フレーム上において重なる重複領域の割合に応じて、クロブロックに重みを付与する重み付与部と、
    み付与部によって付与されたみに基づいて、クロブロックの伝送方法を制御する伝送方法制御部と、を備えることを特徴とする動画像データ伝送装置。
  2. 第1の画像フレーム上における参照画像要素の位置と、1の画像フレームよりも後に再生される第2の画像フレーム上における参照画像要素の位置とに基づいて、参照画像要素を含む第2の画像フレーム上におけるマクロブロックの動きベクトルを演算する動きベクトル演算部と、
    きベクトル演算部によって演算されたきベクトルに基づいて、照画像要素を含む1の画像フレーム上の領域である参照画像ブロックを決定する参照画像ブロック決定部と、
    1の画像フレーム上におけるマクロブロックと照画像ブロックとが画像フレーム上において重なる重複領域の割合に応じて、クロブロックに重みを付与する重み付与部と、
    み付与部によって付与されたみに基づいて、クロブロックの伝送方法を制御する伝送方法制御部と、を備えることを特徴とする動画像データ伝送装置。
JP2008189120A 2005-01-26 2008-07-22 動画像データ伝送装置 Expired - Fee Related JP4315998B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008189120A JP4315998B2 (ja) 2005-01-26 2008-07-22 動画像データ伝送装置

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2005018945 2005-01-26
JP2008189120A JP4315998B2 (ja) 2005-01-26 2008-07-22 動画像データ伝送装置

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2006016949A Division JP4187746B2 (ja) 2005-01-26 2006-01-25 動画像データ伝送装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2009082601A Division JP4767334B2 (ja) 2005-01-26 2009-03-30 動画像データ受信装置

Publications (2)

Publication Number Publication Date
JP2008263658A JP2008263658A (ja) 2008-10-30
JP4315998B2 true JP4315998B2 (ja) 2009-08-19

Family

ID=39985746

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2008189120A Expired - Fee Related JP4315998B2 (ja) 2005-01-26 2008-07-22 動画像データ伝送装置
JP2009082601A Expired - Fee Related JP4767334B2 (ja) 2005-01-26 2009-03-30 動画像データ受信装置

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2009082601A Expired - Fee Related JP4767334B2 (ja) 2005-01-26 2009-03-30 動画像データ受信装置

Country Status (1)

Country Link
JP (2) JP4315998B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5176146B2 (ja) 2008-10-08 2013-04-03 富士通株式会社 マイクロ可動素子および光スイッチング装置
US9589399B2 (en) 2012-07-02 2017-03-07 Synaptics Incorporated Credential quality assessment engine systems and methods

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0364185A (ja) * 1989-08-02 1991-03-19 Toshiba Corp 画像データ伝送方式
JPH11225161A (ja) * 1998-02-05 1999-08-17 Matsushita Electric Ind Co Ltd データ処理方法およびデータ処理装置
JPH11331839A (ja) * 1998-05-13 1999-11-30 Matsushita Electric Ind Co Ltd 映像伝送再送の装置及び方法
JP2002077240A (ja) * 2000-09-04 2002-03-15 Matsushita Electric Ind Co Ltd フロー制御方式およびそれを実行する送信端末
US7123658B2 (en) * 2001-06-08 2006-10-17 Koninklijke Philips Electronics N.V. System and method for creating multi-priority streams
JP2003309594A (ja) * 2002-04-16 2003-10-31 Hitachi Ltd 映像情報伝送システム

Also Published As

Publication number Publication date
JP2009153198A (ja) 2009-07-09
JP4767334B2 (ja) 2011-09-07
JP2008263658A (ja) 2008-10-30

Similar Documents

Publication Publication Date Title
JP4187746B2 (ja) 動画像データ伝送装置
US11949512B2 (en) Retransmission of data in packet networks
Chilamkurti et al. Wireless multimedia delivery over 802.11 e with cross-layer optimization techniques
KR102328615B1 (ko) 다중 경로 송신 제어 프로토콜 연결을 사용하여 데이터를 전송하는 장치 및 방법
CN109729439A (zh) 实时视频传输方法
Nightingale et al. Optimised transmission of H. 264 scalable video streams over multiple paths in mobile networks
JP5117512B2 (ja) 再送回数を動的に適合させる方法及び装置
US7885280B2 (en) Packet relaying apparatus and packet relaying method
CN112995048B (zh) 数据中心网络的阻塞控制与调度融合方法及终端设备
EP3742746A1 (en) Method and device for realizing video service, and communication system and computer-readable storage medium
JP4315998B2 (ja) 動画像データ伝送装置
JP2013066188A (ja) QoS保証方法及び装置
Xing et al. A stream-aware MPQUIC scheduler for HTTP traffic in mobile networks
Hsiao et al. Video over TCP with receiver-based delay control
KR101682627B1 (ko) 영상 스트림 제공 방법 및 시스템과 중계 장치
Li et al. Elastically reliable video transport protocol over lossy satellite links
Sutinen et al. Towards ubiquitous video services through scalable video coding and cross-layer optimization
EP3202061B1 (en) Managing jitter buffer depth
JP5945003B2 (ja) ネットワークゲートウェイ、および、データストリームのパケットを送信する方法
EP2015527A1 (en) A system and method for adaptive wireless transmission
Oda et al. Design, implementation and evaluation of congestion control mechanism for video streaming
KR102140267B1 (ko) 적어도 둘 이상의 무선 경로들을 통해 비디오 데이터 프레임의 패킷을 전송하는 적응적 비디오 스트리밍 방법 및 시스템
Chakareski et al. Rate-distortion optimized packet scheduling over bottleneck links
Funasaka et al. Timeout Reduction Method for Multistream Segmented Download Using PR-SCTP
JP7485018B2 (ja) コンテンツ配信システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20081205

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090127

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090330

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090421

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090519

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120529

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130529

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130529

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140529

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees