JP6191296B2 - 動画像処理装置、動画像処理方法及びプログラム - Google Patents

動画像処理装置、動画像処理方法及びプログラム Download PDF

Info

Publication number
JP6191296B2
JP6191296B2 JP2013147966A JP2013147966A JP6191296B2 JP 6191296 B2 JP6191296 B2 JP 6191296B2 JP 2013147966 A JP2013147966 A JP 2013147966A JP 2013147966 A JP2013147966 A JP 2013147966A JP 6191296 B2 JP6191296 B2 JP 6191296B2
Authority
JP
Japan
Prior art keywords
vector
information
unit
prediction
difference
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013147966A
Other languages
English (en)
Other versions
JP2015023318A (ja
Inventor
智史 島田
智史 島田
数井 君彦
君彦 数井
純平 小山
純平 小山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2013147966A priority Critical patent/JP6191296B2/ja
Priority to US14/331,366 priority patent/US20150023418A1/en
Publication of JP2015023318A publication Critical patent/JP2015023318A/ja
Application granted granted Critical
Publication of JP6191296B2 publication Critical patent/JP6191296B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/513Processing of motion vectors

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本発明は、動画像処理装置、動画像処理方法及びプログラムに関する。
近年の動画像符号化では、画像をブロックに分割し、ブロックに含まれる画素を予測して予測差分を符号化することで高い圧縮率を達成している。符号化対象のピクチャ内の画素から予測画素を構成する予測モードをイントラ予測といい、過去に符号化した画像を参照画像とし、参照画像から予測画素を構成する予測モードをインター予測という。
インター予測は動き補償とも呼ばれる。動画像符号化装置において、インター予測では、予測画素として参照する領域を動きベクトルという水平(x)成分・垂直(y)成分の2次元座標データで表現し、動きベクトルと画素の予測差分データを符号化する。
動きベクトルについては、その符号量を抑えるため、符号化対象ブロックに隣接するブロックの動きベクトルから予測ベクトル(予測値)を生成し、動きベクトルと予測ベクトルとの差分ベクトルが符号化される。
動画像復号装置においても、各ブロックで動画像符号化装置と同一の予測ベクトルを決定し、符号化された差分ベクトルと予測ベクトルを加算することによって動きベクトルを復元する。そのため、動画像符号化装置と動画像復号装置は、同一の動きベクトル予測部を備える。
動画像復号装置において、各ブロックは、一般には画像の左上から右下に向かってラスタースキャンやzスキャンの順序で復号される。そのため、動画像符号化装置と動画像復号装置とにおける動きベクトル予測部が予測に利用できる周辺ブロックの動きベクトルは、動画像復号装置にて処理対象ブロックを復号するときに既に復号済みとなる左や上に隣接するブロックの動きベクトルとなる。
さらに、MPEG−4 AVC/H.264では、処理ピクチャではなく、過去に符号化・復号処理した参照ピクチャの動きベクトルを用いて予測ベクトルを決定することもある(例えば非特許文献1参照)。
予測ベクトル決定方法の技術として、国際標準化団体ISO/IECとITU-Tが共同に標準化を検討している動画像符号化方式High Efficiency Video Coding(以下HEVC)の技術がある(例えば非特許文献2参照)。また、参照ソフトウェアとしてHM Software(Version 8 .0)が開示されている。
以下に、動画像符号化技術としてのHEVCに関する概要説明を行う。HEVCでは、参照可能なピクチャのリスト(以後参照ピクチャリスト)として、L0と、L1という2つのリストを持つ。
各ブロックは、L0とL1それぞれに対応する動きベクトルによって、最大2つの参照ピクチャの領域をインター予測に使用することができる。L0とL1とは、一般には、表示時間の方向に対応し、L0は処理ピクチャに対して過去のピクチャの参照リストであり、L1は未来のピクチャの参照リストである。
参照ピクチャリストの各エントリは、画素データの記憶位置と、そのピクチャの表示時間情報POC(Picture Order Count)値とを含む情報を有する。POCとは、各ピクチャの表示順序と相対的な表示時間を表す整数値である。POC値が0となるピクチャの表示時間を0としたときに、あるピクチャの表示時間は、そのピクチャのPOC値の定数倍で表すことができる。
例えば、フレームの表示周期(Hz)をfr、POC値がpであるピクチャの表示時間は、式(1)により表すことができる。これにより、POCは、ある定数(秒)を単位とした表示時間と見なすことができる。
表示時間=p×(fr/2) ・・・式(1)
1つの参照ピクチャリストのエントリ数が2以上であった場合、各動きベクトルは、参照ピクチャリスト内のインデックス番号(参照インデックス)によって、どの参照ピクチャを参照するかを指定する。
特に参照ピクチャリストのエントリ数が1ピクチャしか含まない場合、そのリストに対応する動きベクトルの参照インデックスは自動的に0番となるため、明示的に指定する必要はない。すなわち、ブロックの動きベクトルは、L0/L1リスト識別子と、参照インデックスと、ベクトルデータ(Vx、Vy)を含む。L0/L1リスト識別子と、参照インデックスにより参照ピクチャが指定され、参照ピクチャ内の領域が(Vx、Vy)で指定される。
VxとVyは、それぞれ水平方向と垂直方向における参照領域の座標と現ブロックの座標の差であり、1/4画素単位で表現される。L0/L1リスト識別子と、参照インデックスを参照ピクチャ識別子とし、(Vx、Vy)をベクトルデータと呼ぶこととする。L0かL1かのどちらかの動きベクトルを用いてインター予測画像を生成するものを片方向予測といい、2つとも用いるものを両方向予測または両予測という。
HEVCにおける予測ベクトルの決定方法について説明する。予測ベクトルは、L0/L1リスト識別子と、参照インデックスで指定された参照ピクチャごとに決定される。参照ピクチャリストがLX(X=0or1)、参照インデックスがrefidxで指定される参照ピクチャを参照する動きベクトルに対して、予測ベクトルのベクトルデータmvpを決定するとき、第一に最大で3つのベクトルデータが予測ベクトル候補として算出される。
処理ブロックに対して空間方向と時間方向とに隣接するブロックが、左方向に隣接したブロック、上方向に隣接したブロック、時間方向に隣接したブロックの3つに分類される。
この3グループからそれぞれ最大で1本の予測ベクトル候補が選出される。選出された予測ベクトル候補は、左に隣接したグループ、上に隣接したグループ、時間方向に隣接したグループ、の優先順序でリスト化される。この予測ベクトル候補リストを配列mvp_candとする。
予測ベクトル候補リストの要素数は最大2であり、予測ベクトル候補が3本選できた場合は、優先順位が低い予測ベクトル候補は捨てられる。もし、予測ベクトル候補が2に満たない場合、ゼロベクトルがmvp_candに追加される。
図1は、予測ベクトル候補リストの一例を示す図である。図1に示す例では、上に隣接したグループで選出されたブロックの予測ベクトル候補が、mvp_cand[0]である。また、左に隣接したグループで選出されたブロックの予測ベクトル候補が、mvp_cand[1]である。
第二に、予測ベクトル候補リスト内のいずれの予測ベクトル候補を予測ベクトルとして選択するかについて、予測ベクトル候補の選択情報の識別子としては、予測ベクトル候補インデックスmvp_idxが用いられる。
すなわち、mvpは、mvp_candのmvp_idx番目にエントリされた予測ベクトル候補のベクトルデータとなる。
動画像符号化装置において、符号化対象ブロックのLXのrefidxを参照する動きベクトルがmvであったとき、mvp_candの中で、mvと最も近い候補を探し、そのインデックスがmvp_idxとなる。
さらに、差分ベクトルmvdが式(2)で算出され、リストLXの動きベクトル情報として、refidx、mvd、mvp_idxが符号化され、動画像復号装置に送信される。
mvd=mv−mvp・・・式(2)
動画像復号装置は、refidx、mvd、mvp_idxを復号し、refidxに基づき、mvp_candを決定し、予測ベクトルmvpを、mvp_candのmvp_idx番目の予測ベクトル候補とする。式(3)により、処理ブロックの動きベクトルmvを復元する。
mv=mvd+mvp ・・・式(3)
一方で、圧縮・符号化する動画像データに、透かし情報や、動画像に関連する情報を埋め込む技術が知られている。例えば、動きベクトルを利用した情報の埋め込みについては、以下の技術がある。電子透かし情報を埋め込む符号化装置は、まず、最適な動きベクトルを1画素単位で求める。この符号化装置は、電子透かし情報から1ビットを取り出し、そのビットの値(0または1)によって、半画素単位の動きベクトルの探索範囲を限定する。次に、符号化装置は、1画素単位で求めた最適な動きベクトルが指す参照画素の周囲の8つの半画素(ハーフペル)から最も原画素に近い画素を求め、求めた画素を指すベクトルを新たな動きベクトルとする。電子透かし情報を取り出す復号装置では、動きベクトルを復号し、動きベクトルのx成分、y成分が半画素か否かを検出して、x成分とy成分の組み合わせにより透かし情報を算出する(例えば非特許文献3参照)。
また、上記非特許文献3に対して、動きベクトルを用いて情報を埋め込む際に画質を維持するための自由度を高めると同時に、情報を埋め込む方法を変更しても情報を抽出する技術がある(例えば特許文献1参照)。
ISO/IEC 14496-10 (MPEG-4 Part 10) / ITU-TRec.H.264 Thomas Wiegand、Woo-Jin Han、Benjamin Bross、Jens-Rainer Ohm、Gary J. Sullivan、"Working Draft 8 ofHigh-Efficiency Video Coding" JCTVC-J1003, 2012-07 Stockholm 「MPEG2における「デジタル透かし」利用による著作権保護の一検討」、「電子情報通信学会暗号と情報セキュリティシンポジウム」、(1997年1月29日)、中沢英徳、小舘亮之、ジェフモリソン、富永英義著、(社)電子情報通信学会 発行
特開2008−259059号公報
従来の埋め込み技術の問題点は、すでに圧縮符号化した動画像データに、従来技術のような動きベクトルの値だけを操作するなどして透かし情報を埋め込むと、圧縮した動画像データの復号画像に、埋め込み前後で誤差が発生してしまう。つまり、埋め込み後の復号画像の画質が劣化するという問題があった。
復号画像は、インター予測画像と予測差分の和として算出される。そのため、動きベクトルが変わることで、本来の動きベクトルとは異なる参照領域がインター予測画像として用いられるために、復号画像に誤差が発生する。
さらに、各ピクチャに対して情報が埋め込まれると、インター予測によって、情報埋め込みによる画質劣化が蓄積し、画質劣化が大きくなってしまう。すでに圧縮された動画像データのインター予測は、埋め込み前の復号画素を参照画像として圧縮されているため、参照画像に誤差が発生すると、処理ピクチャにも誤差が伝搬するからである。
このように、参照画像に誤差が発生し、インター予測によって誤差が蓄積していく劣化は、ドリフト誤差と呼ばれる。埋め込みによる復号画像の画質劣化や、ドリフト誤差による画質劣化を回避するためには、圧縮された動画像データを復号処理し、再度符号化処理を行うことが必要となる。
つまり、復号処理で得られた復号画像に対して、動きベクトルの検出処理や情報の埋め込み操作が行われ、埋め込み操作を行った結果の動きベクトルが参照する領域をインター予測画像として、再度動画像の符号化処理が行われる。
例えば、動画像データを複数のユーザに配信する場合に、配信する動画像データにユーザIDのようなユーザ固有の情報を埋め込むことを考えると、ユーザごとに動画像圧縮処理を行う必要があり、ユーザの拡大とともに計算量が膨大なものとなる。
そのため、従来技術では、圧縮された動画像データに対して、計算量の増加を抑え、画質の劣化を生じさせずに情報を埋め込むことができないという問題があった。
そこで、開示の技術は、計算量の増加を抑えつつ、画質の劣化を生じさせずに情報を埋め込むことができることを目的とする。
開示の一態様における動画像処理装置は、画像符号化データを可変長復号し、処理ブロック毎に符号化パラメータ情報を取得する取得部と、処理ブロック毎に、該処理ブロックの動きベクトルに対する2つの予測ベクトル候補を含む予測ベクトル候補リストを生成する候補リスト生成部と、前記予測ベクトル候補リストと、前記符号化パラメータ情報に含まれる予測ベクトル候補の選択情報及び差分ベクトルとを取得し、動きベクトルを復元する復元部と、前記予測ベクトル候補の選択情報を所定情報で更新する選択情報更新部と、前記所定情報で更新することで該所定情報が埋め込まれた予測ベクトル候補と、復元された前記動きベクトルとに基づき算出した差分ベクトルにより、前記符号化パラメータ情報から取得した差分ベクトルを更新する差分ベクトル更新部と、前記所定情報が埋め込まれた予測ベクトル候補と、更新された差分ベクトルとを含む前記符号化パラメータ情報に基づいて、処理ブロックを可変長符号化し、画像符号化データを生成する可変長符号化部と有する。
また、他の態様における動画像処理装置は、ブロック単位で符号化された動画像データを可変長復号し、復号された符号化パラメータ情報を取得する可変長復号部と、前記符号化パラメータ情報に含まれる、処理ブロックにおける予測ベクトル候補の選択情報から所定情報を復元する情報復元部と、前記予測ベクトル候補の選択情報に前記所定情報が埋め込まれたことによる符号量増加量を推定する推定部と、前記符号量増加量に基づいて、前記処理ブロックが前記所定情報の埋め込み対象であるか否かを判定する判定部を有する。
開示の技術によれば、計算量の増加を抑えつつ、画質の劣化を生じさせずに情報を埋め込むことができる。
予測ベクトル候補リストの一例を示す図。 実施例における画像処理システム1を説明する図。 実施例1における動画像処理装置の構成の一例を示すブロック図。 実施例1における動画像処理の一例を示すフローチャート。 実施例2における動画像処理装置の構成の一例を示すブロック図。 実施例2における判定部の構成の一例を示すブロック図。 実施例2における第2の埋め込み判定処理の一例を示すフローチャート。 実施例3における動画像復号装置の構成の一例を示すブロック図。 実施例3における動画像処理の一例を示すフローチャート。 変形例1における動画像処理装置の構成の一例を示すブロック図。 変形例2における動画像処理装置の構成の一例を示すブロック図。
以下、添付図面を参照しながら各実施例について詳細に説明する。まず、各実施例における画像処理システム1について説明する。図2は、実施例における画像処理システム1を説明する図である。図2に示すように、画像処理システム1は、動画像符号化装置5と、動画像処理装置10と、動画像復号装置20とを有する。
動画像符号化装置5は、動画像に対して符号化処理、例えばHEVCの符号化技術を用いて符号化処理を行う。符号化された動画像データ(ビットストリーム)は、動画像処理装置10に出力される。
動画像処理装置10は、動画像データを取得し、この動画像データに対して所定情報を埋め込む。所定情報は、例えばユーザIDなどの固有の情報を表す埋め込み情報である。また、動画像処理装置10は、所定情報を動画像データに埋め込むため、埋め込み装置としても機能する。
動画像処理装置10は、例えばユーザIDを動画像データに埋め込む場合、ユーザID毎に動画像データに埋め込み処理を行い、対応する動画像復号装置20に対し、動画像データを、ネットワークを介して出力する。動画像処理装置10は、計算量の増加を抑えつつ、画質の劣化を生じさせずに情報を埋め込むことができる。なお、動画像処理装置10は、動画像符号化装置5に組み込まれてもよい。
動画像復号装置20は、各ユーザに対応しており、例えばユーザ1は、動画像復号装置20−1を、ユーザ2は、動画像復号装置20−2を、ユーザ3は、動画像復号装置20−3を所持する。各動画像復号装置は、同様の機能を有しており、各装置を区別する必要がないときは、総称して動画像復号装置20と表記する。
動画像復号装置20は、動画像データを受信すると、動画像データを復号する際、埋め込まれた所定情報を検出する。また、動画像復号装置20と動画像符号化装置5とは、動画像処理装置とも呼ぶ。
[実施例1]
次に、実施例1における動画像処理装置10について説明する。実施例1における動画像処理装置を10Aと表記する。
<構成>
図3は、実施例1における動画像処理装置10Aの構成の一例を示すブロック図である。図3に示す例では、動画像処理装置10Aは、可変長復号部101と、記憶部102と、候補リスト生成部103と、差分ベクトル算出部104と、可変長符号化部105とを有する。各部は、データ通信可能なように接続されている。
可変長復号部101は、動画像符号化装置5から送信された動画像データを受信し、この動画像データに対して可変長符号化の復号処理を行う。この復号処理で、処理ブロックの符号化パラメータ情報が復号される。
可変長復号部101は、ブロックのイントラかインターかを表す予測モードや、L0の参照インデックスと差分ベクトル、予測候補インデックス、及びL1の参照インデックスと差分ベクトル、予測候補インデックス、直交変換係数などを復号する。復号された情報は、符号化パラメータ情報とも称す。
記憶部102は、可変長復号部101により復号された符号化パラメータ情報を記憶する。すなわち、記憶部102は、複数のブロックに分割された画像に対し、各ブロック単位で符号化することで生成された符号化パラメータ情報を記憶する。
候補リスト生成部103は、処理ブロック毎に、この処理ブロックの動きベクトルに対する2つの予測ベクトル候補を含む予測ベクトル候補リストを生成する。候補リスト生成部103は、復号されたLX(X=0,1)の参照インデックスに基づき、LXの予測ベクトルの候補リストmvp_candを算出する。
予測ベクトルの候補リストを生成する方法は、1例としては、HEVCの予測ベクトル候補リスト生成方法のように、処理ブロックの上に位置するブロック、左に位置するブロック、時間方向に隣接するブロックの動きベクトルから生成する方法がある。ここでは、HEVCと同様にmvp_candの要素数は、2となるように予測ベクトル候補が生成されるとする。そのため、mvp_idxは0または1となる。
候補リスト生成部103は、生成した予測ベクトル候補リストを、動きベクトル復元部141、差分ベクトル更新部144に出力する。
差分ベクトル算出部104は、処理ブロックがインター予測される場合、所定情報の1ビットを、予測ベクトル候補の選択情報(mvp_idx)に設定する。また、差分ベクトル算出部104は、処理ブロックの動きベクトルと、選択情報が示す予測ベクトル候補との差分ベクトルを算出する。
また、差分ベクトル算出部104は、差分ベクトルを算出するため、動きベクトル復元部141と、判定部142と、選択情報更新部143と、差分ベクトル更新部144とを有する。
動きベクトル復元部141は、候補リスト生成部103により生成された予測ベクトル候補リストと、記憶部102に記憶された符号化パラメータ情報に含まれる予測ベクトル候補の選択情報と、差分ベクトルとを取得し、処理ブロックの動きベクトルを復元する。
動きベクトル復元部141は、例えば可変長復号部101により復号されたLX予測候補インデックスmvp_idx(選択情報)と、差分ベクトルmvdとを取得する。動きベクトル復元部141は、予測ベクトル候補リストの中から予測候補インデックスによって識別される予測ベクトルmvpをmvp=mvp_cand[mvp_idx]として算出する。動きベクトル復元部141は、差分ベクトルmvdと予測ベクトルmvpとを加算することにより(式(3))、LXの動きベクトルがそれぞれ復元される。
復元されたLXの参照インデックスや動きベクトルは、記憶部102に保持され、次以降のブロックの処理に利用される。動きベクトル復元部141は、復元した動きベクトルを差分ベクトル更新部144に出力する。
判定部142は、記憶部102に記憶されている符号化パラメータ情報を用いて、処理ブロックがインター予測されたブロックであるか否かに基づき、処理ブロックが所定情報の埋め込み対象であるか否かを判定する。例えば、判定部142は、処理ブロックのLXの予測ベクトルの選択情報mvp_idxに対し、埋め込み情報が埋め込み可能か否かを判定する。
判定部142は、処理ブロックがイントラ予測モードであった場合、LXのmvp_idxは符号化されないため、埋め込み不可能と判定する。判定部142は、インター予測モードがL0しか存在しない予測モードであれば、L1のmvp_idxへの埋め込み不可能と判定する。
さらに、判定部142は、予測モードがL1しか存在しない予測モードであれば、L0のmvp_idxに埋め込み不可能と判定する。また、判定部142は、インター予測であっても、mvp_candの要素数が1となるような場合、mvp_idxが0固定となるため、埋め込みが不可能となる。このような場合も、判定部142は、埋め込み不可能と判定する。
また、判定部142は、L0とL1片方だけに情報を埋め込むように、L0、L1どちらかについては常に不可能と判定してもよい。また、判定部142は、所定基準に従って、処理ブロックの画像内での位置に依存して、埋め込み不可能と判定してもよい。所定基準とは、例えば埋め込む処理ブロックを飛び飛びにしたり、画像内での右上領域だけに埋め込んだりするような基準である。これにより、検出側では所定基準を知らないと所定情報を検出できなくなるので、セキュリティが向上する。
判定部142は、処理ブロックに埋め込むことができる場合に、その旨を選択情報更新部143に通知する。
選択情報更新部143は、処理ブロックが埋め込み対象となる場合、所定情報に基づいて、記憶部102に記憶された符号化パラメータ情報に含まれる予測ベクトル候補の選択情報を更新する。
例えば、選択情報更新部143は、LXのmvp_idxに埋め込み可能と判定された場合、次に埋め込みたい所定情報に基づき、予測ベクトル候補インデックスmvp_idxを変更する。つまり、選択情報更新部143は、所定情報から次に埋め込みたい1bit取り出し、その値をy(y=0、1)とすると、mvp_idx=yとする。選択情報更新部143は、更新した選択情報を、差分ベクトル更新部144に出力する。
差分ベクトル更新部144は、予測ベクトル候補リストに含まれる、更新された選択情報が示す予測ベクトル候補と、復元された動きベクトルとから差分ベクトルを算出する。差分ベクトル更新部144は、記憶部102に記憶された符号化パラメータ情報に含まれる差分ベクトルを、算出された差分ベクトルに更新する。
例えば、差分ベクトル更新部144は、変更された選択情報mvp_idxに基づき予測ベクトルを選択し、動きベクトル復元部141で復元された動きベクトルとの差分ベクトルmvdを下の式(4)を用いて算出する。これにより、記憶部102の差分ベクトルmvdが変更される。
mvd=mv−mvp_cand[mvp_idx] ・・・式(4)
差分ベクトル更新部144は、更新した差分ベクトルを記憶部102に記憶する。
可変長符号化部105は、処理ブロックの、更新された符号化パラメータ情報に基づき、可変長符号化を行い、動画像データを生成し、出力する。以上で、処理ブロックの処理が終了し、次のブロックの処理に移行される。
以上の構成を有することで、動画像処理装置10Aは、符号化された動画像データに対し、予測ベクトル候補の選択情報に所定情報を埋め込む。これにより、画像全体を復号し再符号化する必要がないため、計算量を抑えつつ、画質劣化の生じない埋め込み処理が可能になる。
<動作>
次に、動画像処理装置10Aの動作について説明する。図4は、実施例1における動画像処理の一例を示すフローチャートである。図4に示す処理では、符号化された動画像データに、所定情報を埋め込む例を示す。
ステップS101で、可変長復号部101は、符号化された動画像データ(圧縮されたストリームデータ)に対し、可変長復号する。
ステップS102で、動画像処理装置10Aは、参照ピクチャリストのXを0に設定する。
ステップS103で、候補リスト生成部103は、参照ピクチャリストLXの予測ベクトル候補リストを生成する。
ステップS104で、動きベクトル復元部141は、式(3)を用いて、参照ピクチャリストLXの動きベクトルを復元する。
ステップS105で、判定部142は、処理ブロックに所定情報を埋め込むことが可能な否かを判定する。判定部142は、例えば予測モードがインター予測であれば埋め込み可能と判定する。埋め込み可能であれば(ステップS105−YES)ステップS106に進み、埋め込み不可であれば(ステップS105−NO)ステップS108に進む。
ステップS106で、選択情報更新部143は、埋め込み対象の所定情報に基づいて、予測ベクトル候補の選択情報を更新する。
ステップS107で、差分ベクトル更新部144は、更新された選択情報が示す予測ベクトル候補と、復元された動きベクトルとを用いて差分ベクトルを更新する。
ステップS108で、動画像処理装置10Aは、参照ピクチャリストのXが1であるか否かを判定する。Xが1であれば(ステップS108−YES)ステップS110に進み、Xが0であれば(ステップS108−NO)ステップS109に進む。
ステップS109で、動画像処理装置10Aは、参照ピクチャリストのXを1に設定し、ステップS103の処理に戻る。
ステップS110で、可変長符号化部105は、更新された符号化パラメータ情報を可変長符号化する。
ステップS111で、動画像処理装置10Aは、処理ブロックが最後のブロックか否かを判定する。処理ブロックが最後のブロックであれば(ステップS111−YES)処理が終了し、処理ブロックが最後のブロックでなければ(ステップS111−NO)ステップS101に戻る。
以上、実施例1によれば、符号化された動画像データに対して、所定情報を埋め込む際に、計算量の増加を抑えつつ、画質の劣化を生じさせずに情報を埋め込むことができる。
[実施例2]
実施例1では、入力された動画像データのmvp_idxを所定情報(埋め込み情報)に基づき変更する。そのため、実施例1の動画像処理装置は、入力された動画像データの差分ベクトルmvdを変更することで、埋め込み前後で復号される動きベクトルが変化しないように制御している。しかし、mvdを変更するため、mvdに要する符号量が増加する可能性がある。
そこで、実施例2では、mvdの符号量が増加することを防ぐために、判定部は、mvdの符号量の増加量が一定の範囲内に収まるように判定制御してもよい。実施例2における動画像処理装置を動画像処理装置10Bと表記する。
<構成>
図5は、実施例2における動画像処理装置10Bの構成の一例を示すブロック図である。図5に示す構成で、実施例1と同様の構成(図3に示す構成)のものは同じ符号を付す。以下では、実施例1と異なる構成を主に説明する。
候補リスト生成部103は、生成した予測ベクトル候補を差分ベクトル算出部107の判定部171と、差分ベクトル更新部144とに出力する。
判定部171は、実施例1の判定に加え、さらに符号量の増加を抑制するように、埋め込み対象のブロックを判定する。判定部171の詳細は、図6を用いて説明する。
図6は、実施例2における判定部171の構成の一例を示すブロック図である。図6に示す判定部171は、推定部172と、埋め込み判定部176とを有する。
推定部172は、予測ベクトル候補の選択情報が更新された場合、この場合の符号量増加量を推定する。推定部172は、推定した符号量増加量を埋め込み判定部176に出力する。
また、推定部172は、差分ベクトルリスト生成部173と、符号量推定部174と、増加量推定部175とを有する。
差分ベクトルリスト生成部173は、処理ブロックの予測ベクトル候補リストに含まれる各予測ベクトル候補と、動きベクトルとから算出される各差分ベクトルを含む差分ベクトルリストを生成する。
例えば、差分ベクトルリスト生成部173は、候補リスト生成部103から予測ベクトル候補リストmvp_candと、記憶部102から動きベクトルmvとを取得する。差分ベクトルリスト生成部173は、mvp_candの全ての予測候補に対して、式(2)により差分ベクトルmvdのリストmvd_candを算出する。
ここで、mvp_cand[i]と、mvd_cand[i]とが対応するとし、mvd_cand[i]=mv−mvp_cand[i]となる。差分ベクトルリスト生成部173は、生成した差分ベクトルリストを符号量推定部174に出力する。
符号量推定部174は、差分ベクトルリストに含まれる各差分ベクトルの符号量の推定値を算出する。
例えば、符号量推定部174は、差分ベクトルとしてmvd_candの各要素について符号化した場合の符号量を推定する。mvdの符号化方法としては、mvdの水平成分と垂直成分をそれぞれ、指数ゴロム符号化する方法や、指数ゴロム符号化して得たbit列を算術符号化する方法が挙げられる。
符号量の推定値は、実際に符号化した場合の符号量であってもよいし、予測値であってもよい。実際に符号化した場合の符号量を用いれば、符号量推定部174は、正確に符号量の増加を制御できる。
予測値の1例としては、差分ベクトルは2次元データであるため、mvd_cand[i]の長さを予測値としてもよい。すなわち、予測値は、mvd_cand[i]のx成分とy成分の絶対値の和である。
以降では、各符号量の推定値のリストをmvdlen_candと表記する。mvd_cand[i]と、mvdlen_cand[i]とが対応する。符号量推定部174は、推定値のリストmvdlen_candを増加量推定部175に出力する。
増加量推定部175は、差分ベクトルリストに含まれる全ての差分ベクトルの推定値のうち、最大値と最小値との差を算出し、この差を符号量増加量に設定する。
例えば、増加量推定部175は、まずmvdlen_cand[i]の最大値と最小値を算出する。増加量推定部175は、最大値、最小値をそれぞれmvdlen_max、mvdlen_minとし、mvdlen_max−mvdlen_minを符号量増加量として、埋め込み判定部176に出力する。
埋め込み判定部176は、推定された符号量増加量に基づいて、処理ブロックが埋め込み対象であるか否かを判定する。埋め込み判定部176は、埋め込み対象であると判定した場合、その旨を選択情報更新部143に出力する。
例えば、埋め込み判定部176は、符号量の増加を制御するために、所定の閾値をCとして、符号量増加量(=mvdlen_max−mvdlen_min)≧Cであれば、埋め込み不可能と判定する。
これにより、符号量の推定方法が正確であれば、情報埋め込みによりmvp_idxを変更してもmvdによる符号量の増加は最悪でもC未満であることが保証できる。また、符号量の推定方法が予測値であっても、mvdによる符号量の増加を抑制することが可能となる。閾値Cは、固定値であっても良いし、過去に処理したブロックにおける埋め込み情報による符号量の増加度合いにより、動的に変更されても良い。
<動作>
次に、実施例2における動画像処理装置10Bの動作について説明する。実施例2における動画像処理は、実施例1における動画像処理と基本的には同様であり、ステップS105とステップS106との間に第2の埋め込み判定を行う。よって、以下では、実施例2における第2の埋め込み判定処理について説明する。
図7は、実施例2における第2の埋め込み判定処理の一例を示すフローチャートである。図7に示すステップS201で、差分ベクトルリスト生成部173は、処理ブロックの予測ベクトル候補リストに含まれる各予測ベクトル候補と、動きベクトルとから算出される各差分ベクトルを含む差分ベクトルリストを生成する。
ステップS202で、符号量推定部174は、差分ベクトルリストに含まれる各差分ベクトルの符号量を推定する。
ステップS203で、増加量推定部175は、差分ベクトルリストに含まれる全ての差分ベクトルの推定値のうち、最大値と最小値との差を算出し、この差を前記符号量増加量に設定する。
ステップS204で、埋め込み判定部176は、推定された符号量増加量が閾値C以上か否かを判定する。符号量増加量≧Cであれば(ステップS204−YES)ステップS106に進み、符号量増加量<Cであれば(ステップS204−NO)ステップS108に進む。
以上、実施例2によれば、符号化された動画像データに対して、所定情報を埋め込む際に、計算量の増加と符号量の増加を抑えつつ、画質の劣化を生じさせずに情報を埋め込むことができる。
[実施例3]
次に、実施例3における画像復号装置について説明する。実施例3では、実施例1や実施例2を用いて埋め込まれた所定情報を検出することができる。
<構成>
図8は、実施例3における動画像復号装置20の構成の一例を示すブロック図である。図8に示す動画像復号装置20は、可変長復号部201と、記憶部202と、予測ベクトル生成部203と、動きベクトル復元部204と、判定部205と、情報復元部206と、画像復号部207とを有する。
可変長復号部201は、ブロック単位で符号化された動画像データを可変長復号し、復号された符号化パラメータ情報を取得する。可変長復号部201は、復号された符号化パラメータ情報を記憶部202に記憶する。
記憶部202は、可変長復号部201により復号された符号化パラメータ情報を記憶する。
候補リスト生成部203は、処理ブロック毎に、この処理ブロックの動きベクトルに対する2つの予測ベクトル候補を含む予測ベクトル候補リストを生成する。
動きベクトル復元部204は、候補リスト生成部203により生成された予測ベクトル候補リストと、記憶部202に記憶された符号化パラメータ情報に含まれる予測ベクトル候補の選択情報と、差分ベクトルとを取得する。動きベクトル復元部204は、選択情報が示す予測ベクトル候補に差分ベクトルを加算して動きベクトルを復元する。
判定部205は、処理ブロックがインター予測されたブロックであるか否かに基づき、処理ブロックが所定情報の埋め込み対象であるか否かを判定する。判定部205は、実施例1により所定情報が埋め込まれている場合は、実施例1の判定部142と同様の判定を行い、実施例2により所定情報が埋め込まれている場合は、実施例2の判定部171と同様の処理を行う。よって、実施例2により所定情報が埋め込まれている場合は、判定部205は、図6に示す構成を有する。判定部205は、判定結果を情報復元部206に出力する。
情報復元部206は、処理ブロックが埋め込み対象である場合、記憶部202に記憶された符号化パラメータ情報に含まれる、処理ブロックにおける予測ベクトル候補の選択情報から所定情報を復元する。
例えば、情報復元部206は、判定部205から埋め込み可能のブロックと通知された場合、記憶部202から予測ベクトル候補の選択情報mvp_idxの値xを取得し、その値を埋め込み情報として出力する。
画像復号部207は、動きベクトル復元部204により復元された動きベクトルなどを用いて動き補償を行ったり、逆量子化を行なったり、逆周波数変換を行なったりして、画像を復号する。画像復号部207は、例えばHEVCに対応する復号処理を行うことができればよい。
これにより、実施例1や実施例2の動画像処理装置で埋め込まれた所定情報を検出することができる。
<動作>
次に、実施例3における動画像復号装置20の動作について説明する。図9は、実施例3における動画像処理の一例を示すフローチャートである。図9に示す処理では、所定情報が埋め込まれた動画像データを復号しつつ、所定情報を検出する例を示す。また、図9に示す処理は、実施例1における動画像処理装置10Aにより所定情報が埋め込まれた動画像データに対する処理である。
ステップS301で、可変長復号部201は、符号化された動画像データ(圧縮されたストリームデータ)に対し、可変長復号する。
ステップS302で、動画像復号装置20は、参照ピクチャリストのXを0に設定する。
ステップS303で、候補リスト生成部203は、参照ピクチャリストLXの予測ベクトル候補リストを生成する。
ステップS304で、動きベクトル復元部204は、式(3)を用いて、参照ピクチャリストLXの動きベクトルを復元する。
ステップS305で、判定部205は、処理ブロックに所定情報を埋め込まれているか否かを判定する。判定部205は、例えば予測モードがインター予測であれば埋め込まれていると判定する。所定情報が埋め込まれていれば(ステップS305−YES)ステップS306に進み、所定情報が埋め込まれていなければ(ステップS305−NO)ステップS307に進む。
ステップS306で、情報復元部206は、処理ブロックに所定情報が埋め込まれていると判定された場合、記憶部202に記憶された符号化パラメータ情報に含まれる、処理ブロックにおける予測ベクトル候補の選択情報から所定情報を復元する。
ステップS307で、動画像復号装置20は、参照ピクチャリストのXが1であるか否かを判定する。Xが1であれば(ステップS307−YES)ステップS309に進み、Xが0であれば(ステップS307−NO)ステップS308に進む。
ステップS308で、動画像復号装置20は、参照ピクチャリストのXを1に設定し、ステップS303の処理に戻る。
ステップS309で、動画像復号装置20は、処理ブロックが最後のブロックか否かを判定する。処理ブロックが最後のブロックであれば(ステップS309−YES)処理が終了し、処理ブロックが最後のブロックでなければ(ステップS309−NO)ステップS301に戻る。
なお、図9に示す処理において、実施例2における動画像処理装置10Bにより所定情報が埋め込まれた動画像データを処理する場合は、ステップS305とS306との間に、図7に示す処理を追加する。この場合、図7に示すステップS106は、図9に示すステップS306に変更し、図7に示すステップS108は、図9に示すステップS307に変更する。
以上、実施例3によれば、実施例1や実施例2の動画像処理装置により埋め込まれた所定情報を、画質の劣化を生じさせずに検出することができる。
[変形例1]
次に、上記実施例の動画像処理装置10と動画像符号化装置5とを組み合わせた動画像処理装置について説明する。変形例1における動画像処理装置を動画像処理装置10Cと表記する。
<構成>
図10は、変形例1における動画像処理装置10Cの構成の一例を示すブロック図である。図10に示す動画像処理装置10Cは、動き検出部301、参照ピクチャリスト記憶部302、復号画像記憶部303、予測情報記憶部304、予測ベクトル生成部305、差分ベクトル算出部306を有する。
また、動画像処理装置10Cは、予測信号生成部309、予測誤差生成部310、直交変換部311、量子化部312、逆量子化部313、逆直交変換部314、復号画素生成部315、エントロピー符号化部316を有する。
動き検出部301は、原画像を取得し、参照ピクチャリスト記憶部302から参照ピクチャの記憶位置を取得し、復号画像記憶部303から参照ピクチャの画素データを取得する。動き検出部301は、L0、L1の予測フラグと参照インデックスと動きベクトルとを検出する。動き検出部301は、検出された動きベクトルが参照する参照画像の領域位置情報を予測信号生成部309に出力する。
参照ピクチャリスト記憶部302は、参照ピクチャの記憶位置と、処理ブロックが参照可能なピクチャのPOC情報を含むピクチャ情報を記憶する。
復号画像記憶部303は、動き補償の参照ピクチャとして利用するため、過去に符号化処理し、動画像符号化装置内で局所復号処理されたピクチャを記憶する。
予測情報記憶部304は、動き検出部301で検出された動きベクトル及びL0とL1の予測フラグ、参照インデックス情報を含む動きベクトル情報を記憶する。予測情報記憶部304は、例えば、処理ブロックに対して空間的及び時間的に隣接するブロックの動きベクトル、この動きベクトルが参照するピクチャを示す参照ピクチャ識別子を含む動きベクトル情報を記憶する。参照ピクチャリスト記憶部302及び予測情報記憶部304は、記憶部102に対応する。
予測ベクトル生成部305は、L0とL1との予測フラグと参照インデックスとを用いて、L0とL1との予測ベクトル候補リストを生成する。予測ベクトル生成部305は、候補リスト生成部103に対応する。予測ベクトル候補を生成する処理は、例えば、非特許文献2に記載のHEVCなどの従来技術と同様でよい。
差分ベクトル算出部306は、動き検出部301からL0とL1の動きベクトルを取得し、予測ベクトル生成部305からL0とL1の予測フラグ、参照インデックス、及び予測ベクトル候補リストを取得し、それぞれの差分ベクトルを算出する。
例えば、差分ベクトル算出部306は、埋め込み対象の所定情報の1ビットを予測ベクトル候補の選択情報に設定し、この選択情報が示す予測ベクトルを予測ベクトル候補リストの中からそれぞれ選択する。差分ベクトル算出部306は、選択された予測ベクトルと予測ベクトル候補インデックスをそれぞれ決定する。
さらに、差分ベクトル算出部306は、L0の動きベクトルからL0の予測ベクトルを減算してL0の差分ベクトルを生成し、L1の動きベクトルからL1の予測ベクトルを減算してL1の差分ベクトルを生成し、エントロピー符号化部316に出力する。
予測信号生成部309は、入力された参照画像の領域位置情報に基づいて、復号画像記憶部303から参照画素を取得し、予測画素信号を生成する。
予測誤差生成部310は、原画像と予測画素信号とを取得し、原画像と予測画素信号の差分を算出することで予測誤差信号を生成する。
直交変換部311は、予測誤差信号に離散コサイン変換などの直交変換処理を行い、直交変換係数を量子化部312に出力する。量子化部312は、直交変換係数を量子化する。
逆量子化部313は、量子化された直交変換係数に対し、逆量子化処理を行う。逆直交変換部314は、逆量子化された係数に対し、逆直交変換処理を行う。
復号画素生成部315は、予測誤差信号と予測画素信号とを加算することで、復号画素を生成する。生成された復号画素を含む復号画像は、復号画像記憶部303に記憶される。
エントロピー符号化部316は、入力されたL0参照インデックス、L0差分ベクトル、L0予測ベクトル候補インデックス、L1参照インデックス、L1差分ベクトル、L1予測ベクトル候補インデックス、および、量子化された直交変換係数情報をエントロピー符号化してストリームデータとして出力する。
以上、変形例1によれば、動画像を符号化する際に、所定データを直接埋め込んでいくことが可能になる。
[変形例2]
次に、変形例2における動画像処理装置について説明する。変形例2における動画像処理装置を動画像処理装置10Dと表記する。
<構成>
図11は、変形例2における動画像処理装置10Dの構成の一例を示すブロック図である。動画像処理装置10Dは、各実施例で説明した動画像処理装置10、又は動画像復号装置20の一例である。
図11に示すように、動画像処理装置10Dは、制御部401、主記憶部402、補助記憶部403、ドライブ装置404、ネットワークI/F部406、入力部407、表示部408を含む。これら各構成は、バスを介して相互にデータ送受信可能に接続されている。
制御部401は、コンピュータの中で、各装置の制御やデータの演算、加工を行うCPUである。また、制御部401は、主記憶部402や補助記憶部403に記憶されたプログラムを実行する演算装置であり、入力部407や記憶装置からデータを受け取り、演算、加工した上で、表示部408や記憶装置などに出力する。
制御部401は、各実施例の動画像処理プログラムを実行することで、各実施例の各部として機能することができる。
主記憶部402は、ROM(Read Only Memory)やRAM(Random Access Memory)などであり、制御部401が実行する基本ソフトウェアであるOSやアプリケーションソフトウェアなどのプログラムやデータを記憶又は一時保存する記憶装置である。
補助記憶部403は、HDD(Hard Disk Drive)などであり、アプリケーションソフトウェアなどに関連するデータを記憶する記憶装置である。
ドライブ装置404は、記録媒体405、例えばフレキシブルディスクからプログラムを読み出し、記憶装置にインストールする。
また、記録媒体405は、各実施例の動画像処理プログラムを格納する。この記録媒体405に格納されたプログラムは、ドライブ装置404を介して動画像処理装置10Dにインストールされる。インストールされた動画像処理プログラムは、動画像処理装置10Dにより実行可能となる。
ネットワークI/F部406は、有線及び/又は無線回線などのデータ伝送路により構築されたLAN(Local Area Network)、WAN(Wide Area Network)などのネットワークを介して接続された通信機能を有する周辺機器と動画像処理装置10Dとのインターフェースである。
入力部407は、カーソルキー、数字入力及び各種機能キー等を備えたキーボード、表示部408の表示画面上でキーの選択等を行うためのマウスやスライドパッド等を有する。また、入力部407は、ユーザが制御部401に操作指示を与えたり、データを入力したりするためのユーザインターフェースである。
表示部408は、LCD(Liquid Crystal Display)等を有し、制御部401から入力される表示データに応じた表示が行われる。なお、表示部408は、外部に設けられてもよく、その場合は、動画像処理装置10Dは、表示制御部を有する。
このように、前述した実施例で説明した動画像処理又は動画像復号処理は、コンピュータに実行させるためのプログラムとして実現されてもよい。このプログラムをサーバ等からインストールしてコンピュータに実行させることで、前述した動画像処理又は動画像復号処理を実現することができる。
また、この動画像処理プログラム又は動画像復号プログラムを記録媒体405に記録し、このプログラムが記録された記録媒体405をコンピュータや携帯端末に読み取らせて、前述した動画像処理又は動画像復号処理を実現させることも可能である。
なお、記録媒体405は、CD−ROM、フレキシブルディスク、光磁気ディスク等の様に情報を光学的、電気的或いは磁気的に記録する記録媒体、ROM、フラッシュメモリ等の様に情報を電気的に記録する半導体メモリ等、様々なタイプの記録媒体を用いることができる。なお、記録媒体405には、搬送波は含まれない。
動画像処理装置10Dで実行されるプログラムは、各実施例で説明した各部を含むモジュール構成となっている。実際のハードウェアとしては、制御部401が補助記憶部403からプログラムを読み出して実行することにより上記各部のうち1又は複数の各部が主記憶部402上にロードされ、1又は複数の各部が主記憶部402上に生成されるようになっている。
また、前述した各実施例で説明した動画像処理又は動画像復号処理は、1つ又は複数の集積回路に実装してもよい。
以上、各実施例について詳述したが、特定の実施例に限定されるものではなく、特許請求の範囲に記載された範囲内において、種々の変形及び変更が可能である。また、前述した実施例の構成要素を全部又は複数を組み合わせることも可能である。
なお、以上の実施例に関し、さらに以下の付記を開示する。
(付記1)
複数のブロックに分割された画像に対し、各ブロック単位で符号化することで生成された符号化パラメータ情報を記憶する記憶部と、
処理ブロック毎に、該処理ブロックの動きベクトルに対する2つの予測ベクトル候補を含む予測ベクトル候補リストを生成する候補リスト生成部と、
前記処理ブロックがインター予測される場合、所定情報の1ビットを、予測ベクトル候補の選択情報に設定し、前記処理ブロックの動きベクトルと、前記選択情報が示す予測ベクトル候補との差分ベクトルを算出する差分ベクトル算出部と、
前記差分ベクトルと、前記選択情報とを含む符号化パラメータ情報を可変長符号化する可変長符号化部と、
を有する動画像処理装置。
(付記2)
入力された画像符号化データを可変長復号し、復号された符号化パラメータ情報を前記記憶部に記憶する可変長復号部をさらに有し、
前記差分ベクトル算出部は、
前記候補リスト生成部により生成された予測ベクトル候補リストと、前記記憶部に記憶された符号化パラメータ情報に含まれる予測ベクトル候補の選択情報と、差分ベクトルとを取得し、動きベクトルを復元する動きベクトル復元部と、
前記処理ブロックがインター予測されたブロックであるか否かに基づき、前記処理ブロックが前記所定情報の埋め込み対象であるか否かを判定する判定部と、
前記処理ブロックが埋め込み対象となる場合、前記所定情報に基づいて、前記記憶部に記憶された符号化パラメータ情報に含まれる予測ベクトル候補の選択情報を更新する選択情報更新部と、
前記予測ベクトル候補リストに含まれる、更新された選択情報が示す予測ベクトル候補と、復元された動きベクトルとから差分ベクトルを算出し、前記記憶部に記憶された符号化パラメータ情報に含まれる差分ベクトルを、算出された差分ベクトルに更新する差分ベクトル更新部と、
を有する付記1記載の動画像処理装置。
(付記3)
前記判定部は、
予測ベクトル候補の選択情報が更新された場合の符号量増加量を推定する推定部と、
前記符号量増加量に基づいて、埋め込み対象であるか否かを判定する埋め込み判定部と、
を有する付記1記載の動画像処理装置。
(付記4)
前記推定部は、
前記処理ブロックの予測ベクトル候補リストに含まれる各予測ベクトル候補と、前記動きベクトルとから算出される各差分ベクトルを含む差分ベクトルリストを生成する差分ベクトルリスト生成部と、
前記差分ベクトルリストに含まれる各差分ベクトルの符号量の推定値を算出する符号量推定部と、
前記差分ベクトルリストに含まれる全ての差分ベクトルの推定値のうち、最大値と最小値との差を算出し、該差を前記符号量増加量に設定する増加量推定部と、
を有し、
前記埋め込み判定部は、
前記符号量増加量が閾値より小さい場合に、埋め込み対象であると判定する付記3記載の動画像処理装置。
(付記5)
ブロック単位で符号化された動画像データを可変長復号し、復号された符号化パラメータ情報を取得する可変長復号部と、
前記符号化パラメータ情報を記憶する記憶部と、
処理ブロックがインター予測されたブロックであるか否かに基づき、前記処理ブロックが所定情報の埋め込み対象であるか否かを判定する判定部と、
前記処理ブロックが埋め込み対象である場合、前記記憶部に記憶された符号化パラメータ情報に含まれる、前記処理ブロックにおける予測ベクトル候補の選択情報から所定情報を復元する情報復元部と、
を有する動画像処理装置。
(付記6)
前記判定部は、
前記予測ベクトル候補の選択情報に前記所定情報が埋め込まれている場合の符号量増加量を推定する推定部と、
前記符号量増加量に基づいて、埋め込み対象であるか否かを判定する埋め込み判定部と、
有する付記5記載の動画像処理装置。
(付記7)
処理ブロック毎に、該処理ブロックの動きベクトルに対する2つの予測ベクトル候補を含む予測ベクトル候補リストを生成する候補リスト生成部と、
前記候補リスト生成部により生成された予測ベクトル候補リストと、前記記憶部に記憶された符号化パラメータ情報に含まれる予測ベクトル候補の選択情報と、差分ベクトルとを取得し、動きベクトルを復元する動きベクトル復元部と、
をさらに有し、
前記推定部は、
前記処理ブロックの予測ベクトル候補リストに含まれる各予測ベクトル候補と、復元された動きベクトルとから算出される各差分ベクトルを含む差分ベクトルリストを生成する差分ベクトルリスト生成部と、
前記差分ベクトルリストに含まれる各差分ベクトルの符号量の推定値を算出する符号量推定部と、
前記差分ベクトルリストに含まれる全ての差分ベクトルの推定値のうち、最大値と最小値との差を算出し、該差を前記符号量増加量に設定する増加量推定部と、
を有し、
前記埋め込み判定部は、
前記符号量増加量が閾値より小さい場合に、埋め込み対象であると判定する付記6記載の動画像処理装置。
(付記8)
複数のブロックに分割された画像に対し、各ブロック単位で符号化することで生成された符号化パラメータ情報を記憶する記憶部を有するコンピュータが実行する動画像処理方法であって、
処理ブロック毎に、該処理ブロックの動きベクトルに対する2つの予測ベクトル候補を含む予測ベクトル候補リストを生成し、
前記処理ブロックがインター予測される場合、所定情報の1ビットを、予測ベクトル候補の選択情報に設定し、
前記処理ブロックの動きベクトルと、前記選択情報が示す予測ベクトル候補との差分ベクトルを算出し、
前記差分ベクトルと、前記選択情報とを含む符号化パラメータ情報を可変長符号化する処理
を含む動画像処理方法。
(付記9)
ブロック単位で符号化された動画像データを可変長復号し、復号された符号化パラメータ情報を取得し、
前記符号化パラメータ情報を記憶部に記憶し、
処理ブロックがインター予測されたブロックであるか否かに基づき、前記処理ブロックが所定情報の埋め込み対象であるか否かを判定し、
前記処理ブロックが埋め込み対象である場合、前記記憶部に記憶された符号化パラメータ情報に含まれる、前記処理ブロックにおける予測ベクトル候補の選択情報から所定情報を復元する処理
をコンピュータが実行する動画像処理方法。
(付記10)
複数のブロックに分割された画像に対し、各ブロック単位で符号化することで生成された符号化パラメータ情報を記憶する記憶部を有するコンピュータに実行させるプログラムであって、
処理ブロック毎に、該処理ブロックの動きベクトルに対する2つの予測ベクトル候補を含む予測ベクトル候補リストを生成し、
前記処理ブロックがインター予測される場合、所定情報の1ビットを、予測ベクトル候補の選択情報に設定し、
前記処理ブロックの動きベクトルと、前記選択情報が示す予測ベクトル候補との差分ベクトルを算出し、
前記差分ベクトルと、前記選択情報とを含む符号化パラメータ情報を可変長符号化する処理
を含むプログラム。
(付記11)
ブロック単位で符号化された動画像データを可変長復号し、復号された符号化パラメータ情報を取得し、
前記符号化パラメータ情報を記憶部に記憶し、
処理ブロックがインター予測されたブロックであるか否かに基づき、前記処理ブロックが所定情報の埋め込み対象であるか否かを判定し、
前記処理ブロックが埋め込み対象である場合、前記記憶部に記憶された符号化パラメータ情報に含まれる、前記処理ブロックにおける予測ベクトル候補の選択情報から所定情報を復元する処理
をコンピュータに実行させるプログラム。
5 動画像符号化装置
10 動画像処理装置
20 動画像復号装置
101、201 可変長復号部
102、202 記憶部
103、203 候補リスト生成部
104、204 差分ベクトル算出部
105 可変長符号化部
141、205 動きベクトル復元部
142、171、205 判定部
143 選択情報更新部
144 差分ベクトル更新部
172 推定部
173 差分ベクトルリスト生成部
174 符号量推定部
175 増加量推定部
176 埋め込み判定部
206 情報復元部
207 画像復号部
401 制御部

Claims (10)

  1. 画像符号化データを可変長復号し、処理ブロック毎に符号化パラメータ情報を取得する取得部と、
    処理ブロック毎に、該処理ブロックの動きベクトルに対する2つの予測ベクトル候補を含む予測ベクトル候補リストを生成する候補リスト生成部と、
    前記予測ベクトル候補リストと、前記符号化パラメータ情報に含まれる予測ベクトル候補の選択情報及び差分ベクトルとを取得し、動きベクトルを復元する復元部と、
    前記予測ベクトル候補の選択情報を所定情報で更新する選択情報更新部と、
    前記所定情報で更新することで該所定情報が埋め込まれた予測ベクトル候補と、復元された前記動きベクトルとに基づき算出した差分ベクトルにより、前記符号化パラメータ情報から取得した差分ベクトルを更新する差分ベクトル更新部と、
    前記所定情報が埋め込まれた予測ベクトル候補と、更新された差分ベクトルとを含む前記符号化パラメータ情報に基づいて、処理ブロックを可変長符号化し、画像符号化データを生成する可変長符号化部と
    を有する動画像処理装置。
  2. 前記差分ベクトル更新部は、復元された前記動きベクトルが変化しないように、前記差分ベクトルを更新する請求項1記載の動画像処理装置。
  3. 前記予測ベクトル候補の選択情報を所定情報で更新した場合の符号量増加量を推定する推定部と、
    前記符号量増加量に基づいて、処理ブロックが、前記予測ベクトル候補に前記所定情報が埋め込まれる対象となる対象処理ブロックであるか否かを判定する埋め込み判定部と、
    を有する請求項1記載の動画像処理装置。
  4. 前記推定部は、
    前記処理ブロックの予測ベクトル候補リストに含まれる各予測ベクトル候補と、前記動きベクトルとから算出される各差分ベクトルを含む差分ベクトルリストを生成する差分ベクトルリスト生成部と、
    前記差分ベクトルリストに含まれる各差分ベクトルの符号量の推定値を算出する符号量推定部と、
    前記差分ベクトルリストに含まれる全ての差分ベクトルの推定値のうち、最大値と最小値との差を算出し、該差を前記符号量増加量に設定する増加量推定部と、
    を有し、
    前記埋め込み判定部は、
    前記符号量増加量が閾値より小さい場合に、前記対象処理ブロックであると判定する請求項3記載の動画像処理装置。
  5. ブロック単位で符号化された動画像データを可変長復号し、復号された符号化パラメータ情報を取得する可変長復号部と、
    前記符号化パラメータ情報に含まれる、処理ブロックにおける予測ベクトル候補の選択情報から所定情報を復元する情報復元部と、
    前記予測ベクトル候補の選択情報に前記所定情報が埋め込まれたことによる符号量増加量を推定する推定部と、
    前記符号量増加量に基づいて、前記処理ブロックが前記所定情報の埋め込み対象であるか否かを判定する判定部
    を有する動画像処理装置。
  6. 処理ブロック毎に、該処理ブロックの動きベクトルに対する2つの予測ベクトル候補を含む予測ベクトル候補リストを生成する候補リスト生成部と、
    前記候補リスト生成部により生成された予測ベクトル候補リストと、前記符号化パラメータ情報に含まれる予測ベクトル候補の選択情報と、差分ベクトルとを取得し、動きベクトルを復元する動きベクトル復元部と、
    をさらに有し、
    前記推定部は、
    前記処理ブロックの予測ベクトル候補リストに含まれる各予測ベクトル候補と、復元された動きベクトルとから算出される各差分ベクトルを含む差分ベクトルリストを生成する差分ベクトルリスト生成部と、
    前記差分ベクトルリストに含まれる各差分ベクトルの符号量の推定値を算出する符号量推定部と、
    前記差分ベクトルリストに含まれる全ての差分ベクトルの推定値のうち、最大値と最小値との差を算出し、該差を前記符号量増加量に設定する増加量推定部と、
    を有し、
    前記判定部は、
    前記符号量増加量が閾値より小さい場合に、埋め込み対象であると判定する請求項記載の動画像処理装置。
  7. 画像符号化データを可変長復号し、処理ブロック毎に符号化パラメータ情報を取得し、
    処理ブロック毎に、該処理ブロックの動きベクトルに対する2つの予測ベクトル候補を含む予測ベクトル候補リストを生成し、
    前記予測ベクトル候補リストと、前記符号化パラメータ情報に含まれる予測ベクトル候補の選択情報及び差分ベクトルとを取得し、動きベクトルを復元し、
    前記予測ベクトル候補の選択情報を所定情報で更新し、
    前記所定情報で更新することで該所定情報が埋め込まれた予測ベクトル候補と、復元された前記動きベクトルとに基づき算出した差分ベクトルにより、前記符号化パラメータ情報から取得した差分ベクトルを更新し、
    前記所定情報が埋め込まれた予測ベクトル候補と、更新された差分ベクトルとを含む前記符号化パラメータ情報に基づいて、処理ブロックを可変長符号化し、画像符号化データを生成する処理
    コンピュータが実行する動画像処理方法。
  8. ブロック単位で符号化された動画像データを可変長復号し、復号された符号化パラメータ情報を取得し、
    前記符号化パラメータ情報に含まれる、処理ブロックにおける予測ベクトル候補の選択情報から所定情報を復元し、
    前記予測ベクトル候補の選択情報に前記所定情報が埋め込まれたことによる符号量増加量を推定し、
    前記符号量増加量に基づいて、前記処理ブロックが前記所定情報の埋め込み対象であるか否かを判定する処理
    をコンピュータが実行する動画像処理方法。
  9. 画像符号化データを可変長復号し、処理ブロック毎に符号化パラメータ情報を取得し、
    処理ブロック毎に、該処理ブロックの動きベクトルに対する2つの予測ベクトル候補を含む予測ベクトル候補リストを生成し、
    前記予測ベクトル候補リストと、前記符号化パラメータ情報に含まれる予測ベクトル候補の選択情報及び差分ベクトルとを取得し、動きベクトルを復元し、
    前記予測ベクトル候補の選択情報を所定情報で更新し、
    前記所定情報で更新することで該所定情報が埋め込まれた予測ベクトル候補と、復元された前記動きベクトルとに基づき算出した差分ベクトルにより、前記符号化パラメータ情報から取得した差分ベクトルを更新し、
    前記所定情報が埋め込まれた予測ベクトル候補と、更新された差分ベクトルとを含む前記符号化パラメータ情報に基づいて、処理ブロックを可変長符号化し、画像符号化データを生成する処理
    コンピュータに実行させるプログラム。
  10. ブロック単位で符号化された動画像データを可変長復号し、復号された符号化パラメータ情報を取得し、
    前記符号化パラメータ情報に含まれる、処理ブロックにおける予測ベクトル候補の選択情報から所定情報を復元し、
    前記予測ベクトル候補の選択情報に前記所定情報が埋め込まれたことによる符号量増加量を推定し、
    前記符号量増加量に基づいて、前記処理ブロックが前記所定情報の埋め込み対象であるか否かを判定する処理
    をコンピュータに実行させるプログラム。
JP2013147966A 2013-07-16 2013-07-16 動画像処理装置、動画像処理方法及びプログラム Expired - Fee Related JP6191296B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2013147966A JP6191296B2 (ja) 2013-07-16 2013-07-16 動画像処理装置、動画像処理方法及びプログラム
US14/331,366 US20150023418A1 (en) 2013-07-16 2014-07-15 Image processing apparatus and image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013147966A JP6191296B2 (ja) 2013-07-16 2013-07-16 動画像処理装置、動画像処理方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2015023318A JP2015023318A (ja) 2015-02-02
JP6191296B2 true JP6191296B2 (ja) 2017-09-06

Family

ID=52343558

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013147966A Expired - Fee Related JP6191296B2 (ja) 2013-07-16 2013-07-16 動画像処理装置、動画像処理方法及びプログラム

Country Status (2)

Country Link
US (1) US20150023418A1 (ja)
JP (1) JP6191296B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
NZ773814A (en) * 2015-03-16 2023-03-31 Magic Leap Inc Methods and systems for diagnosing and treating health ailments
BR112021001245A2 (pt) * 2018-08-27 2021-04-27 Panasonic Intellectual Property Corporation Of America codificador, decodificador, método de codificação e método de decodificação
KR102662874B1 (ko) * 2019-04-28 2024-05-07 베이징 바이트댄스 네트워크 테크놀로지 컴퍼니, 리미티드 대칭 모션 벡터 차이 코딩

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR2853792A1 (fr) * 2003-04-11 2004-10-15 France Telecom Procede de tatouage d'une sequence video a selection adaptative de la zone d'insertion du tatouage, procede de detection, dispositifs, support de donnees et programmes d'ordinateur correspondants
JP4685825B2 (ja) * 2007-04-06 2011-05-18 学校法人東京理科大学 動画像復号装置、方法及びプログラム、並びに、動画像符号化装置、方法及びプログラム
WO2009008435A1 (ja) * 2007-07-11 2009-01-15 Sharp Kabushiki Kaisha 光情報記録媒体及び光情報記録媒体駆動装置
KR101633443B1 (ko) * 2008-08-19 2016-06-24 톰슨 라이센싱 휘도 평가
JP5394212B2 (ja) * 2008-12-19 2014-01-22 トムソン ライセンシング データを挿入する方法、挿入されたデータを読み出す方法
WO2012096164A1 (ja) * 2011-01-12 2012-07-19 パナソニック株式会社 画像符号化方法、画像復号方法、画像符号化装置および画像復号装置
US20130170553A1 (en) * 2012-01-04 2013-07-04 Qualcomm Incorporated Coding motion vector difference
JP2013207755A (ja) * 2012-03-29 2013-10-07 Sony Corp 画像処理装置および方法
CA2897152C (en) * 2013-01-07 2019-03-05 Kemal Ugur Inter-layer video encoding and decoding with adaptive resolution change at indicated switching points

Also Published As

Publication number Publication date
US20150023418A1 (en) 2015-01-22
JP2015023318A (ja) 2015-02-02

Similar Documents

Publication Publication Date Title
JP5768662B2 (ja) 動画像復号装置、動画像符号化装置、動画像復号方法、動画像符号化方法、動画像復号プログラム及び動画像符号化プログラム
KR101429408B1 (ko) 동화상 복호 방법
KR101630688B1 (ko) 움직임 예측 장치 및 방법과 영상 처리 장치
JP5747559B2 (ja) 動画像復号方法、動画像符号化方法、動画像復号装置、及び動画像復号プログラム
WO2012124121A1 (ja) 動画像復号方法、動画像符号化方法、動画像復号装置及び動画像復号プログラム
JP5983430B2 (ja) 動画像符号化装置、動画像符号化方法及び動画像復号装置ならびに動画像復号方法
US20130223526A1 (en) Image decoding method, image coding method, image decoding device, image coding device, and recording medium
JP2017069866A (ja) 動画像符号化装置、動画像符号化方法及び動画像符号化用コンピュータプログラム
JP2018107580A (ja) 動画像符号化装置、動画像符号化方法、動画像符号化用コンピュータプログラム、動画像復号装置及び動画像復号方法ならびに動画像復号用コンピュータプログラム
JP2019022120A (ja) 動画像符号化装置、動画像符号化方法、動画像符号化用コンピュータプログラム、動画像復号装置及び動画像復号方法ならびに動画像復号用コンピュータプログラム
JP6191296B2 (ja) 動画像処理装置、動画像処理方法及びプログラム
JP5807402B2 (ja) 動画像復号装置、動画像符号化装置、動画像復号方法、動画像符号化方法、動画像復号プログラム及び動画像符号化プログラム
JP5786988B2 (ja) 動画像復号方法、動画像復号装置、及び動画像復号プログラム
JP5472476B2 (ja) 画像復号方法、画像符号化方法、画像復号装置、画像符号化装置、画像復号プログラム、及び画像符号化プログラム
JP5786989B2 (ja) 動画像符号化方法、動画像符号化装置、及び動画像符号化プログラム
JP5786987B2 (ja) 動画像符号化装置、動画像符号化方法、及び動画像符号化プログラム
JP2015046920A (ja) 動画像復号方法、動画像符号化方法、動画像復号装置及び動画像復号プログラム
JP2015122606A (ja) 画像符号化装置、画像符号化方法、画像復号装置、及び画像復号方法
JP2013031131A (ja) 動画像符号化装置、動画像符号化方法及び動画像符号化プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160405

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170308

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170425

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170621

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170711

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170724

R150 Certificate of patent or registration of utility model

Ref document number: 6191296

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees