JP2016131405A - 画像復号装置 - Google Patents
画像復号装置 Download PDFInfo
- Publication number
- JP2016131405A JP2016131405A JP2016085082A JP2016085082A JP2016131405A JP 2016131405 A JP2016131405 A JP 2016131405A JP 2016085082 A JP2016085082 A JP 2016085082A JP 2016085082 A JP2016085082 A JP 2016085082A JP 2016131405 A JP2016131405 A JP 2016131405A
- Authority
- JP
- Japan
- Prior art keywords
- image
- depth
- unit
- information
- encoded
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
Description
これらの動画像符号化方式では、動き補償フレーム間予測符号化を行う。動き補償フレーム間予測符号化は、動画像の時間方向の相関性を利用して符号量を削減する。この動き補償フレーム間予測符号化では、符号化対象の画像をブロック単位に分割し、ブロック毎に動きベクトルを求めて、さらに動きベクトルにより示される参照画像のブロックの画素値を予測に用いることで、効率的な符号化を実現している。
デプス画像とはカメラから被写体までの距離を表した情報である。このデプス画像は、例えば、撮影装置の近傍に設置された距離を測定する装置から取得することにより生成することができる。また、デプス画像は、複数視点の撮影装置により撮影された画像を解析することによって生成することもできる。
ステムの構成例を示している。
この図に示す画像処理システムは、撮影装置100−1、100−2、画像前置処理部200、画像符号化装置300、画像復号装置400を備える。
このために、画像前置処理部200は、例えば、まず、撮影装置100−1から入力したテクスチャ画像Ptx1を基準画像と定める。そして、画像前置処理部200は、この基準画像と、他の撮影装置(この例では撮影装置100−2)から入力したテクスチャ画像Ptx2との視差を画素ごとに算出する。これにより、画像前置処理部200は、撮影装置100−1により撮影されたテクスチャ画像Ptx1に対応するデプス画像Pdp1を生成する。
また、テクスチャ画像は、例えばフレーム単位により生成される。これに応じて、デプス画像も例えばフレーム単位により生成される。
なお、テクスチャ画像Ptx1、Ptx2は、例えば撮影装置100−1と100−2の撮影画像である。つまり、テクスチャ画像Ptxは、複数の視点ごとに応じた画像として画像符号化装置300に入力される。また、デプス画像Pdpは、一部のテクスチャ画像Ptxに対応するもののみが入力されてもよいし、すべてのテクスチャ画像Ptxごとに対応するデプス画像Pdpが入力されてもよい。また、テクスチャ画像Ptx、デプス画像Pdpは動画像に対応するものであってもよいし、静止画像に対応するものであってもよい。
また、画像符号化装置300は、入力した符号化制御パラメータpmtを利用して、シーケンス情報を生成する。シーケンス情報は、画像(テクスチャ画像とデプス画像)のシーケンスについての情報であり、例えば、画像サイズ、アスペクト比、フレームレート、ビットレート、カラーフォーマット、ピクチャ表示順などの情報を含む。
そのうえで、画像符号化装置300は、シーケンス情報についても符号化(圧縮)する。この際、画像符号化装置300は、例えばシーケンス情報をSPS(Sequence
Parameter Set)の形式となるように符号化する。
また、画像復号装置400は、分離された符号化デプス画像についてシーケンス情報を利用して復号を行ってデプス画像Pdp1_dec、Pdp2_decを生成する。画像復号装置400は、このように生成したテクスチャ画像Ptx1_dec、Ptx2_decと、デプス画像Pdp1_dec、Pdp2_decを外部に出力する。
cとデプス画像Pdp1_dec、Pdp2_decは、例えば図示しない再生装置や再生回路が入力して再生を行うことで、例えば多視点画像の表示が行われる。
また、伝送路500は、例えば映像信号を伝送するケーブルのようなものであってもよいし、ネットワークであってもよい。また、画像復号装置400は、伝送路500により接続されない独立した装置とされ、例えばビットストリームeに相当するデータが記録された記録媒体からテクスチャ画像Ptxとデプス画像Pdpを生成するものであってもよい。
符号化管理部311は、符号化制御パラメータpmtを入力し、この入力した符号化制御パラメータpmtを利用してシーケンス情報Dseqを生成し、テクスチャ画像およびデプス画像に関連するヘッダ情報(NAL(Network Abstraction Layer)ユニットヘッダ)などを生成する。シーケンス情報Dseqは、シーケンス情報符号化部340に入力される。
ただし、符号化制御パラメータpmtに含まれるデプス情報利用指示情報が、デプス情報を利用した符号化を実行してはならない旨を指示している場合には、デプス情報を利用せずにテクスチャ画像Ptxを符号化する必要がある。
そのうえで、テクスチャ画像符号化部320は、テクスチャ画像Ptxを符号化する際に、デプス画像符号化部330から入力されるデプス情報Ddpを利用して符号化することができる。しかし、制御部310がデプス情報Ddpを利用した符号化を実行してはならないと判定した場合には、デプス情報Ddpを利用せずにテクスチャ画像Ptxを符号化する。
テクスチャ画像符号化処理部321は、テクスチャ画像Ptx1、Ptx2を入力して符号化処理を実行することで符号化テクスチャ画像Ptx1_enc、Ptx2_encを生成する。この際に、デプス情報入力部322からデプス情報Ddpが出力される場合には、このデプス情報入力部322が出力するデプス情報Ddpを利用してテクスチャ画像Ptx1、Ptx2を符号化する。これに対して、デプス情報入力部322からデプス情報Ddpが出力されていない場合には、デプス情報Ddpを利用せずにテクスチャ画像Ptx1、Ptx2を符号化する。
このような構成により、テクスチャ画像符号化部320は、デプス情報を利用したテクスチャ画像Ptxの符号化と、デプス情報を利用しないテクスチャ画像Ptxの符号化とで、符号化の動作を切り替えることができる。
また、デプス画像符号化部330は、符号化処理を行ったデプス画像Pdpに関する所定の情報を有するデプス情報Ddpを生成し、テクスチャ画像符号化部320に出力する
。
一例として、デプス画像符号化部330は、以下のようにデプス情報Ddpを生成する。つまり、デプス画像符号化部330は、フレーム単位による符号化デプス画像Pdp_encについて逆処理、すなわち、復号を行って復号デプス画像を生成する。この復号デプス画像は、画像復号装置400において復号されるデプス画像Pdpと同一のデータである。このように、画像符号化装置300と画像復号装置400とでデプス画像を同一とすることにより、生成される予測ベクトルを一致させることができる。
そして、デプス画像符号化部330は、例えばこの復号デプス画像の画素値を、デプス情報Ddpとして出力する。
また、デプス情報Ddpは、デプス画像を符号化した際の各ブロックの符号化モードや分割方法(例えば16×16、8×8など)や、動きベクトル、視差ベクトル、または、参照画像を指定するインデックスなどの情報のすべてあるいは一部を含むようなものであってもよい。
シーケンス情報符号化処理部341は、シーケンス情報Dseqを入力して符号化処理を実行し、符号化シーケンス情報Dseq_encを生成する。また、シーケンス情報符号化処理部341は、利用結果情報符号化部342から符号化利用結果情報が入力されるのに応じて、この符号化利用結果情報を付加して符号化シーケンス情報Dseq_encを生成する。
このために、利用結果情報符号化部342は、シーケンス情報Dseqを入力して、こ
のシーケンス情報Dseqに含まれるデプス情報利用指示情報を参照する。利用結果情報符号化部342は、デプス情報利用指示情報がデプス情報Ddpを利用した符号化を指示していれば、テクスチャ画像Ptxの符号化に際してデプス情報Ddpを利用したことを示す利用結果情報を生成する。一方、利用結果情報符号化部342は、デプス情報利用指示情報がデプス情報Ddpを利用した符号化を指示していなければ、テクスチャ画像Ptxの符号化に際してデプス情報Ddpを利用していないことを示す利用結果情報を生成する。
そして、利用結果情報符号化部342は、上記のように生成した利用結果情報を符号化する。
このように、画像符号化装置300は、圧縮符号化されたテクスチャ画像とデプス画像に対して、テクスチャ画像Ptxの符号化に際して対応のデプス情報Ddpを利用したか否かを示す利用結果情報をシーケンス情報に付加して出力することができる。
MPEG−4 AVC/H.264におけるビットストリームのシンタックスにおいては、VCL(Video Coding Layer)とNAL(Network Abstraction Layer)の2層構造であるべきことが規定されている。
これらのNALユニットは、ユニット識別子(nal_unit_type)を含む。このユニット識別子により、符号化シーケンス情報Dseq_encと、符号化テクスチャ画像Ptx1_enc、Ptx2_encと、符号化デプス画像Pdp1_enc、Pdp2_encの各NALユニットは、シーケンス情報、テクスチャ画像、デプス画像のいずれの種類であるのかが識別できる。
類される。コンテンツのデータの実体に相当する符号化テクスチャ画像Ptx1_enc、Ptx2_encのNALユニットは、VCL−NALユニットに該当する。また、符号化デプス画像Pdp1_enc、Pdp2_encのNALユニットもVCL−NALユニットに該当する。これに対して、例えばSPSとして生成される符号化シーケンス情報Dseq_encのNALユニットは、非VCL−NALユニットに該当する。
図3において、制御部310における符号化管理部311は、符号化制御パラメータpmtを入力し(ステップS101)、シーケンス情報Dseqを生成する(ステップS102)。
また、制御部310におけるデプス情報利用可否判定部312は、符号化制御パラメータpmtにおけるデプス情報利用指示情報を参照して、テクスチャ画像Ptxを符号化するにあたりデプス情報Ddpを利用すべきか否かについて判定する(ステップS103)。
encをビットストリームeに対して時分割多重する(ステップS110)。
そこで、利用結果情報符号化部342は、デプス情報利用指示情報がデプス情報を利用すべきことを示している場合(ステップS112−YES)、「0」の値を有する利用結果情報を生成する(ステップS113)。
そして、利用結果情報符号化部342は、ステップS113またはS114により生成し符号化した利用結果情報を符号化して、符号化利用結果情報を生成する(ステップS115)。
図5は、画像復号装置400の構成例を示している。この図に示す画像復号装置400は、分離部410、シーケンス情報復号部420、テクスチャ画像復号部430、デプス画像復号部440を備える。
分離部410は、入力したビットストリームeから、符号化シーケンス情報Dseq_encと、符号化テクスチャ画像Ptx1_enc、Ptx2_encと、符号化デプス画像Pdp1_enc、Pdp2_encとを分離する。
分離部410は、ユニット識別子がシーケンス情報を示していると認識した場合、このNALユニットのデータを符号化シーケンス情報Dseq_encとしてシーケンス情報復号部420に出力する。
また、分離部410は、ユニット識別子がテクスチャ画像を示していると認識した場合には、そのユニット識別子を含むNALユニットのデータを符号化テクスチャ画像Ptx_encとしてテクスチャ画像復号部430に出力する。
また、分離部410は、ユニット識別子がデプス画像を示していると認識した場合には、そのユニット識別子を含むNALユニットのデータを符号化デプス画像Pdp_encとしてデプス画像復号部440に出力する。
このために、シーケンス情報復号部420は、例えばシーケンス情報復号処理部421と利用結果情報復号部422を備える。
そのうえで、デプス画像復号部440は、デプス情報Ddpが符号化テクスチャ画像P
tx_encの符号化に際して利用されていたことが利用結果情報により示されている場合、符号化デプス画像Pdp_encを復号する復号処理を実行する。また、デプス画像復号部440は、デプス情報Ddpが符号化テクスチャ画像Ptx_encの符号化に際して利用されていないことが利用結果情報により示されている場合、上記の復号処理を省略する。つまり、このときのデプス画像復号部440は、符号化デプス画像Pdp_encの復号を行わない。
ここで、「0」の値を有する利用結果情報は、テクスチャ画像Ptxの符号化に際してデプス情報Ddpが利用されていたことを示す。この場合、符号化テクスチャ画像Ptx_encを復号したテクスチャ画像Ptxを再生するにあたっては、そのテクスチャ画像Ptxに対応するデプス画像Pdpを必要とする。
そこで、復号可否判定部441は、利用結果情報の値が「0」であると認識した場合、符号化デプス画像Pdp_encについて復号処理を実行すべきであると判定する。
そこで、復号可否判定部441は、利用結果情報の値が「1」であると認識した場合、符号化デプス画像Pdp_encについて復号処理を実行すべきでないと判定する。
デプス画像要求信号RQdがデプス画像の要求を示している場合、復号可否判定部441は、利用結果情報の値が「0」と「1」のいずれであるのかに係わらず、デプス画像を復号する。
一方、デプス画像要求信号RQdがデプス画像の要求を示していない場合、復号可否判定部441は、利用結果情報にしたがう。つまり、復号可否判定部441は、利用結果情報の値が「0」であると認識した場合にはデプス画像を復号し、利用結果情報の値が「1」であると認識した場合にはデプス画像の復号を省略する。
一方、デプス画像復号処理部442は、復号可否判定部441により復号処理を実行すべきでないと判定された場合には、判定対象とされた符号化デプス画像Pdp_encの復号処理を実行しないようにする。
また、復号されない符号化デプス画像Pdp_encは、以降の画像再生において利用されない。そこで、デプス画像復号処理部442は、復号処理を実行しなかった符号化デプス画像Pdp_encについては、例えば破棄するようにする。
分離部410は、入力されるビットストリームeから例えばNALユニット単位のデータを分離する(ステップS201)。次に、分離部410は、分離したNALユニットのデータに含まれるユニット識別子の内容を認識した結果、この分離したNALユニットのデータが符号化シーケンス情報Dseq_encであるか否かについて判定する(ステップS202)。
符号化シーケンス情報Dseq_encである場合(ステップS202−YES)、シーケンス情報復号部420におけるシーケンス情報復号処理部421は、NALユニットとしての符号化シーケンス情報Dseq_encを復号する(ステップS203)。また、シーケンス情報復号部420における利用結果情報復号部422は、この符号化シーケンス情報Dseq_encに付加されていた符号化利用結果情報を抽出し、この抽出した符号化利用結果情報を復号する(ステップS204)。
分離したNALユニットのデータが符号化テクスチャ画像Ptx_encである場合(ステップS206−YES)、テクスチャ画像復号部430は、分離された符号化テクスチャ画像Ptx_encを復号してテクスチャ画像Ptx_decを生成する(ステップS207)。
分離したNALユニットのデータが符号化デプス画像Pdp_encである場合(ステップS208−YES)、デプス画像復号部440における復号可否判定部441は、デプス画像要求信号RQdがデプス画像の要求を示しているか否かについて判定する(ステ
ップS209)。
デプス画像の要求を示している場合(ステップS209−YES)、復号可否判定部441は、利用結果情報の値に係わらず、符号化デプス画像Pdp_encの復号をすべきと判定し、後述のステップS211に進む。
一方、デプス画像の要求を示していない場合(ステップS209−NO)、復号可否判定部441は、さらにシーケンス情報Dseqに付加されている利用結果情報の値が「0」と「1」のいずれであるのかを判定する(ステップS210)。
このように符号化デプス画像Pdp_encの復号をすべきと判定された場合、デプス画像復号処理部442は、符号化デプス画像Pdp_encを復号してデプス画像Pdp_decを生成する(ステップS211)。これとともに、デプス画像復号処理部442は、デプス画像Pdp_decに基づくデプス情報Ddpを生成する(ステップS211)。
この場合、デプス画像復号処理部442は、判定結果にしたがって、ステップS211の符号化デプス画像Pdp_encの復号処理を省略する。つまり、符号化デプス画像Pdp_encの復号処理を実行しないようにする。
すべてのデータの復号が終了していない場合(ステップS213−NO)、分離部410は、ステップS201に戻る。これに対して、すべてのデータの復号が終了した場合には(ステップS213−YES)、この図に示す復号のための処理が終了される。
化してもよい。
この場合において、画像符号化装置300または画像復号装置400を構成する各機能部は、個別にプロセッサ化されてもよいし、その一部またはすべてが集積されてプロセッサ化されてもよい。
また、画像符号化装置300または画像復号装置400を集積回路化するにあたっては、例えば専用回路として具現化されてもよいし、汎用プロセッサにより具現化されてもよい。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(RAM)のように、一定時間プログラムを保持しているものも含むものとする。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよい。
200 画像前置処理部
300 画像符号化装置
310 制御部
311 符号化管理部
312 デプス情報利用可否判定部
320 テクスチャ画像符号化部
321 テクスチャ画像符号化処理部
322 デプス情報入力部
330 デプス画像符号化部
340 シーケンス情報符号化部
341 シーケンス情報符号化処理部
342 利用結果情報符号化部
350 多重化部
400 画像復号装置
410 分離部
420 シーケンス情報復号部
421 シーケンス情報復号処理部
422 利用結果情報復号部
430 テクスチャ画像復号部
440 デプス画像復号部
441 復号可否判定部
442 デプス画像復号処理部
500 伝送路
Claims (2)
- テクスチャ画像及びデプス画像を含むビットストリームを受信する受信部と、
前記テクスチャ画像を復号するテクスチャ画像復号部と、
前記デプス画像を復号するデプス画像復号部と、
利用結果情報フラグを復号する利用結果情報復号部と、を備え、
前記テクスチャ画像復号部は、前記利用結果情報フラグを用いて前記デプス画像を前記テクスチャ画像の復号に際して利用するか否かを判定し、前記デプス画像を利用する場合には、前記デプス画像を利用して前記テクスチャ画像を復号することを特徴とする画像復号装置。 - 前記受信部は、前記ビットストリームに含まれるNALユニットのユニット識別子に基づいて前記NALユニットの内容が前記テクスチャ画像又は前記デプス画像であることを判定することを特徴とする請求項1に記載の画像復号装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016085082A JP2016131405A (ja) | 2016-04-21 | 2016-04-21 | 画像復号装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016085082A JP2016131405A (ja) | 2016-04-21 | 2016-04-21 | 画像復号装置 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012065537A Division JP2013198059A (ja) | 2012-03-22 | 2012-03-22 | 画像符号化装置、画像復号装置、画像符号化方法、画像復号方法およびプログラム |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017160997A Division JP2017204898A (ja) | 2017-08-24 | 2017-08-24 | 画像復号装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2016131405A true JP2016131405A (ja) | 2016-07-21 |
Family
ID=56416036
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016085082A Pending JP2016131405A (ja) | 2016-04-21 | 2016-04-21 | 画像復号装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2016131405A (ja) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010157825A (ja) * | 2008-12-26 | 2010-07-15 | Victor Co Of Japan Ltd | 画像符号化装置、画像符号化方法およびそのプログラム |
JP2011519226A (ja) * | 2008-04-25 | 2011-06-30 | トムソン ライセンシング | 奥行きを用いた視点間スキップモード |
-
2016
- 2016-04-21 JP JP2016085082A patent/JP2016131405A/ja active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011519226A (ja) * | 2008-04-25 | 2011-06-30 | トムソン ライセンシング | 奥行きを用いた視点間スキップモード |
JP2010157825A (ja) * | 2008-12-26 | 2010-07-15 | Victor Co Of Japan Ltd | 画像符号化装置、画像符号化方法およびそのプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101619450B1 (ko) | 뎁스 정보를 이용한 비디오 신호 처리 방법 및 장치 | |
US9363500B2 (en) | Image processing device, image processing method, and program | |
CA2941085C (en) | Method for low-latency illumination compensation process and depth lookup table based coding | |
US9350972B2 (en) | Encoding device and encoding method, and decoding device and decoding method | |
US20130271565A1 (en) | View synthesis based on asymmetric texture and depth resolutions | |
US9924197B2 (en) | Image encoding method, image decoding method, image encoding apparatus, image decoding apparatus, image encoding program, and image decoding program | |
KR20150034131A (ko) | 화상 처리 장치 및 방법 | |
JP6039178B2 (ja) | 画像符号化装置、画像復号装置、並びにそれらの方法及びプログラム | |
US8798356B2 (en) | Apparatus and method for encoding and decoding multi-view image | |
US20150288985A1 (en) | Method and apparatus of constrained disparity vector derivation in 3d video coding | |
WO2012060156A1 (ja) | 多視点画像符号化装置及び多視点画像復号装置 | |
JP6571646B2 (ja) | マルチビュービデオのデコード方法及び装置 | |
JP2015005899A (ja) | 復号装置および復号方法、並びに、符号化装置および符号化方法 | |
KR20160034259A (ko) | 비디오 신호 처리 방법 및 장치 | |
WO2013146636A1 (ja) | 画像符号化装置、画像復号装置、画像符号化方法、画像復号方法およびプログラム | |
WO2013031573A1 (ja) | 符号化装置および符号化方法、復号装置および復号方法 | |
KR20140124919A (ko) | 객체 기반 적응적 밝기 보상 방법 및 장치 | |
WO2013141075A1 (ja) | 画像符号化装置、画像復号装置、画像符号化方法、画像復号方法およびプログラム | |
JP2017204898A (ja) | 画像復号装置 | |
JP2016131405A (ja) | 画像復号装置 | |
JP6232117B2 (ja) | 画像符号化方法、画像復号方法、及び記録媒体 | |
TWI782382B (zh) | 編解碼器及編解碼方法、電腦程式產品、非暫態性存儲介質 | |
TWI545935B (zh) | Encoding apparatus and an encoding method, a decoding apparatus and decoding method | |
KR101672008B1 (ko) | 변이 벡터 예측 방법 및 장치 | |
KR20130116826A (ko) | 3d 비디오 부호화/복호화 장치 및 부호화/복호화 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20160421 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20160624 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20170116 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170124 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170302 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170328 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170523 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20170606 |