JP2006325202A - データ処理装置及びデータ処理方法 - Google Patents
データ処理装置及びデータ処理方法 Download PDFInfo
- Publication number
- JP2006325202A JP2006325202A JP2006129163A JP2006129163A JP2006325202A JP 2006325202 A JP2006325202 A JP 2006325202A JP 2006129163 A JP2006129163 A JP 2006129163A JP 2006129163 A JP2006129163 A JP 2006129163A JP 2006325202 A JP2006325202 A JP 2006325202A
- Authority
- JP
- Japan
- Prior art keywords
- data
- macroblock
- image frame
- visible watermark
- watermark
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 50
- 238000003672 processing method Methods 0.000 title description 2
- 238000007906 compression Methods 0.000 claims abstract description 27
- 230000006835 compression Effects 0.000 claims abstract description 26
- 230000008859 change Effects 0.000 claims abstract description 4
- 238000000034 method Methods 0.000 claims description 26
- 239000000463 material Substances 0.000 claims description 8
- 230000008569 process Effects 0.000 description 7
- 239000000284 extract Substances 0.000 description 5
- 230000002441 reversible effect Effects 0.000 description 5
- 238000012856 packing Methods 0.000 description 4
- 230000008901 benefit Effects 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 2
- 238000013139 quantization Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 238000004590 computer program Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000003550 marker Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 238000012552 review Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T1/00—General purpose image data processing
- G06T1/0021—Image watermarking
- G06T1/0085—Time domain based watermarking, e.g. watermarks spread over several images
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/32—Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
- H04N1/32101—Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
- H04N1/32144—Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title embedded in the image data, i.e. enclosed or integrated in the image, e.g. watermark, super-imposed logo or stamp
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/46—Embedding additional information in the video signal during the compression process
- H04N19/467—Embedding additional information in the video signal during the compression process characterised by the embedded information being invisible, e.g. watermarking
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
- H04N19/61—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Editing Of Facsimile Originals (AREA)
- Image Processing (AREA)
Abstract
【課題】圧縮符号化ビデオ画像に可視ウォータマークを導入するデータ符号化処理装置を提供する。
【解決手段】データ符号化処理装置は、圧縮符号化ビットストリームにおいて、可視ウォータマークを表すために必要な更なる量のデータが、各画像フレーム内の予備データ領域に収容できるかを判定する。追加的データを収容できる場合、データ符号化処理装置は、画像フレームの選択されたマクロブロックを、可視ウォータマークを表すように変更し、可視ウォータマークを表すために変更された元の画像フレーム内のマクロブロックを表すビットパターンを生成する。ウォータマークを表すために必要なデータをフレームに格納することにより、ウォータマークがフレーム毎に変化するように可視ウォータマークが付されたビットストリームを生成できる。一具体例においては、可視ウォータマークは、タイムコードを表す。
【選択図】 図4
【解決手段】データ符号化処理装置は、圧縮符号化ビットストリームにおいて、可視ウォータマークを表すために必要な更なる量のデータが、各画像フレーム内の予備データ領域に収容できるかを判定する。追加的データを収容できる場合、データ符号化処理装置は、画像フレームの選択されたマクロブロックを、可視ウォータマークを表すように変更し、可視ウォータマークを表すために変更された元の画像フレーム内のマクロブロックを表すビットパターンを生成する。ウォータマークを表すために必要なデータをフレームに格納することにより、ウォータマークがフレーム毎に変化するように可視ウォータマークが付されたビットストリームを生成できる。一具体例においては、可視ウォータマークは、タイムコードを表す。
【選択図】 図4
Description
本発明は、圧縮符号化ビットストリームにより表されるビデオ画像に可視ウォータマークを導入するデータ処理装置に関する。
ウォータマークは、ビデオ画像等のホストマテリアル内で、情報を結合又は何らかの手法で表現する技術である。マテリアル内で情報を表すことには、様々な理由がある。ある用途では、情報の存在を検出することが可能な限り困難となるように、マテリアルに情報を付加する。他の用途では、ビデオ画像内で情報が可視となるように、ビデオマテリアルにウォータマークを付加する。
特許文献1には、ビデオ画像に可視ウォータマークを導入するための構成が開示されている。ここでは、ビデオ画像のデジタルサンプルの一部を選択し、これらのサンプルを、可視ウォータマークを表すように変更することにより、可視ウォータマークが導入される。更に、ビデオマテリアル内でウォータマークを符号化し、これを除去することにより、元のビデオ画像が復元される。すなわち、ウォータマークは、可逆関数によってビデオ画像内で符号化される。また、特許文献1では、ウォータマークを表すために変更される画像のサンプルを表すビットマップテンプレートを生成することが開示されている。
特許文献2は、MPEG−2符号化ビデオ画像にウォータマークを導入する構成を開示している。ウォータマークは、ビデオ画像を表す圧縮符号化データの量を増加させないようにMPEG−2ビデオ画像のDCT係数を適応化することによって導入される。ウォータマークを表すために変更されたビデオ画像の一部は、取り除かれ、変更されたMPEG−2ビットストリームの最後に設けられた予備データ領域内に導入される。
特許文献3、特許文献4は、実質的に可逆なアルゴリズムに基づいて、ビットストリームを疑似ランダム的に変更することによって、圧縮符号化ビットストリームに可視ウォータマークを導入する構成を開示している。これらの変更は、後に元に戻すことができ、及びアルゴリズムがエントロピー符号化ビットのビット数を実質的に変更せず、したがって、従来のデコーダで圧縮符号化ビットストリームを復号することができるという意味で、可逆である。可視ウォータマークは、符号化ビデオ画像を表す離散コサイン変換(DCT)係数を変更することによって導入される。
幾つかの具体例では、可視ウォータマーク技術は、ユーザがそのコンテンツの取得を決定する前に、コンテンツのサンプルを確認する機会をユーザに与えるためのビデオコンテンツのプレビューを可能にする構成を提供する。すなわち、例えば、ユーザは、コンテンツを購入する前に、コンテンツをプレビューでき、プレビューされたコンテンツは、ウォータマークを含み、このため、所定の料金を支払わなければ、ユーザは完全なコンテンツをコピー又は使用できない。上述のように、可視ウォータマークは、可逆な手法によって導入されており、料金の支払いに応じて、ウォータマークを除去するためのデータをユーザに送ることができる。
これらの既知のウォータマーク技術を用いて、圧縮符号化ビットストリームに可視ウォータマークを導入することもできるが、圧縮符号化が複雑になると、ビデオ画像内で可視ウォータマークを適応化することが困難になる場合がある。
本発明の目的は、圧縮符号化ビットストリーム内の予備データ領域を用いて、可視ウォータマークに関連するデータを搬送する構成を提供することである。
本発明は、所定のフォーマットを有する圧縮符号化ビットストリームが表す圧縮符号化ビデオ画像に可視ウォータマークを導入するデータ符号化処理装置を提供する。圧縮符号化ビットストリームのフォーマットは、マクロブロックによって表される画像フレームを提供し、マクロブロックのそれぞれは、画像フレームからの画素のブロックを表し、マクロブロックは、圧縮符号化ビットストリームの固定データ部分に含まれているマクロブロックのグループにグループ化される。固定データ部分は、固定の所定量のデータを収容できる。データ符号化処理装置は、圧縮符号化ビットストリームを解析し、ビデオ画像の各フレームを特定し、各画像フレームについて、固定データ部分が上記マクロブロックによって完全には満たされていない結果として予備データ領域を提供する圧縮符号化ビットストリームの領域を判定する。また、データ符号化処理装置は、圧縮符号化ビットストリームにおいて、可視ウォータマークを表すために必要な更なる量のデータが、各画像フレーム内の予備データ領域に収容できるかを判定する。予備データ領域内に可視ウォータマークを表す追加的データを収容できる場合、データ符号化処理装置は、画像フレームの選択されたマクロブロックを、可視ウォータマークを表すように変更し、可視ウォータマークを表すために変更された元の画像フレーム内のマクロブロックを表すビットパターンを生成する。そして、データ符号化処理装置は、画像フレームの固定データ部分の予備データ領域を提供する領域に、ビットマップ及び可視ウォータマークを表すために変更された各マクロブロックの元の形式に関連するデータを含む追加的データを挿入する。
幾つかの実施形態では、ビデオ画像は、デジタルビデオ(Digital Video:DV)又はDVモードとして知られる米国映画テレビ技術者協会(Society for Motion Picture Television Engineers:SMPTE)ビデオ符号化規格に基づいて符号化される。民生用機器のためのIEC61834でも、これに対応する規格が定義されている。したがって、本明細書で用いるDV又はDVモードという用語は、これらの規格の何れにも適用されることは明らかである。圧縮符号化データストリームの形式は、如何なる特定のデータフォーマットにも制限されず、したがって、圧縮符号化ビットストリームは、テープ状のフォーマット、光ディスク、及び他の光記録媒体に保存してもよく、信号として伝送してもよい。
本発明に基づくデータ符号化処理装置は、圧縮符号化ビットストリーム内の予備データ領域を利用して、可視ウォータマークに関連するデータを搬送するように構成される。
可視ウォータマークをビデオ画像に符号化するためには、様々な手法がある。幾つかの実施形態では、可視ウォータマークに関連するマクロブロックを抽出し、特定のパターン、例えば、白のパターンを表すマクロブロックによって置換し、これを適切な変換領域係数で符号化してもよい。例えば、変換領域表現は、離散コサイン変換(DCT)を用いて生成してもよい。他の実施形態では、可視ウォータマークは、モザイクパターンとして形成され、この場合、変換領域表現のAC係数が除去され、マクロブロックは、DC係数のみによって表される。すなわち、可視ウォータマークは、選択され、AC係数が除去されたマクロブロックに基づいて生成される。このように、本発明の幾つかの実施形態では、圧縮符号化ビットストリームから、ビットストリームの予備データ領域内で搬送される追加的データの一部として含まれている幾つかのデータを抽出することができ、したがって、後にウォータマークを除去することができる。本発明の実施形態では、可視ウォータマークに基づいて変更された各画像フレーム内のマクロブロックブロックを特定するビットマップを生成し、圧縮符号化ビットストリームの予備データ領域に保存する。幾つかの実施形態では、ビットマップをエントロピー符号化してもよい。
更に、幾つかの実施形態では、可視ウォータマークにより変更された圧縮符号化ビットストリームの各フレームを特定するキーワードを圧縮符号化ビットストリームに加える。この結果、本発明の実施形態は、特定の利点を有する可視ウォータマーク技術を提供する。1つの利点は、ウォータマークをフレーム毎に変更できるという点である。他の利点は、各フレーム内のキーワードを検出することによって、各フレームからウォータマークをより容易に除去できるという点である。フレームにキーワードが存在している場合、デコーダは、画像フレームが可視ウォータマークを含むことを知ることができ、したがって、ビットマップテンプレートを抽出し、変更されたマクロブロックを特定することによって、可視ウォータマークを処理することができる。
本発明の実施形態は、圧縮符号化ビデオ画像のフレーム毎に可視ウォータマークを導入できる構成を提供できる。これにより、可視ウォータマークは、ビデオ画像の処理を容易にすることができる有益な情報を提供できる。例えば、幾つかの実施形態では、可視ウォータマークにより、ビデオ画像を撮影した特定のカメラを特定できる。他の実施形態では、圧縮符号化ビットストリームからタイムコード情報を抽出し、各フレーム毎に可視ウォータマークとして表現してもよい。ビデオ画像を撮影したカメラ及びタイムコードは、ビデオ画像の編集を容易にすることできる有益な情報の具体例であり、これらは、ビデオ画像の最終版を生成する際、容易に除去することができる。他の具体例として、可視ウォータマークにより、完全な帯域幅のビデオ画像の低解像度表現を提供するプロキシビデオを表してもよい。
幾つかの実施形態では、各画像フレームに、以下に例示的に示す追加的データを含ませてもよい。
*フレームが可視ウォータマークを表すように適応化されたことを示すキーワード
*一意的マテリアル識別子(UMID)
*画像フレームの現在のウォータマークの種類を示すフラグ
*可視ウォータマークを表すためにビットストリームから抽出された何らかのデータ
*画像フレーム内の変更されたマクロブロックを特定するビットマップ
フラグによって示されるウォータマークタイプの具体例は、モザイク、タイムコード又は圧縮符号化ビットストリームのビデオフォーマット等である。
*フレームが可視ウォータマークを表すように適応化されたことを示すキーワード
*一意的マテリアル識別子(UMID)
*画像フレームの現在のウォータマークの種類を示すフラグ
*可視ウォータマークを表すためにビットストリームから抽出された何らかのデータ
*画像フレーム内の変更されたマクロブロックを特定するビットマップ
フラグによって示されるウォータマークタイプの具体例は、モザイク、タイムコード又は圧縮符号化ビットストリームのビデオフォーマット等である。
本発明の様々な更なる側面及び特徴は、特許請求の範囲に定義されている。これらの側面は、可視ウォータマークを除去するデータ処理装置、可視ウォータマークを導入するデータ処理方法、可視ウォータマーク導入方法を表すコンピュータプログラム等を含む。
ビデオ画像に可視ウォータマークを導入するための構成を図1に示す。図1に示すように、ビデオカメラ1は、画像を捕捉し、チャンネル2を介して、ウォータマークデータプロセッサ4に供給される画像を表すビデオ信号を生成する。ウォータマークデータプロセッサ4は、チャンネル8を介して、ウォータマークデータ生成器6から、ビデオ画像に導入される可視ウォータマークを表すデータを受け取る。これにより、ウォータマークデータプロセッサの出力信号10は、可視ウォータマークを含むビデオ画像を表す。したがって、例えば、ウォータマークが付された画像がビデオ再生器12に供給されると、ビデオ再生器12は、表示画面14に表示されるビデオ画像を生成し、可視ウォータマークは、ビデオ画像18にスーパーインポーズされ、又は視覚的に認識できるウォータマークデータ16の可視表現を含む。幾つかの実施形態では、ビデオ画像から取り除くことが困難になるように可視ウォータマークを符号化してもよい。このために、ビデオストリーム内で可視ウォータマークを表すデータを暗号化してもよく、この結果、適切な暗号鍵なしでは、可視ウォータマークを除去することができなくなる。なお、可視ウォータマークを除去することが望まれる場合もある。このため、図1に示す構成では、ウォータマークウォッシャ(watermark washer)20と呼ばれるウォータマーク除去データプロセッサを備え、ウォータマークウォッシャ20は、入力チャンネル22を介してウォータマークが付された画像を受け取り、可視ウォータマークを除去する。この場合、ディスプレイ装置26に表示するためのビデオ画像がビデオ再生器24により再生されると、元の画像3が、可視ウォータマークの存在なしで生成される。
本発明では、各フレームが可視ウォータマークを含み又は含まないように圧縮符号化ビデオ画像に可視ウォータマークを導入する。更に、各フレームにおいて、ウォータマークを異ならせることもできる。このため、本発明に基づいて構成されたウォータマークデータプロセッサ4は、ビデオ画像を適応化し、フレーム毎に可視ウォータマークを導入し、適応化された圧縮符号化ビットストリームを生成する。適応化された圧縮符号化ビットストリームは、適応化されたビデオ画像を表す。適応化された圧縮符号化ビットストリームは、各画像フレームから取り除かれた全てのデータを含み、これにより、可視ウォータマークは、元の形式の圧縮符号化ビットストリーム、したがって元の形式のビデオ画像を復元するために必要である追加的データと共に表現できる。したがって、適応化された圧縮符号化ビットストリームを生成するために、圧縮符号化ビデオストリーム内に、適応化された圧縮符号化ビデオストリームのビットレートを高めることなく、この更なるウォータマークデータを導入するために十分な空間があるかを判定する必要がある。適応化された圧縮符号化ビットストリームのビットレートを高めないことにより、圧縮符号化/復号規格に基づいて動作するデコーダがビデオ画像を正しく復号することができる。なお、多少のビットレートの変化は許容される。
本発明に適用できる圧縮符号化/復号処理の一具体例としては、デジタルビデオ(Digital Video:DV)すなわちDVモードがある。DVは、標準化された圧縮符号化処理である。この規格は、国際規格機構(International Standards Organisation:ISO)により管理され、映画テレビ技術者協会(Society of Motion Picture and Television Engineers:SMPTE)によって定義されている。ここでは、DVモードの全てについては説明しない。なお、以下の章では、図2、図3、図4を用いて、本発明に関連するDVモード圧縮符号化ビットストリームに関して簡単な説明を行う。
DVには様々なモードがある。毎秒25メガビットのデータレートを提供する1つのモードは、DV25と呼ばれる。DV25は、イントラフレーム離散コサイン変換(DCT)圧縮処理を用い、ここでは、各フレームがマクロブロックに分割され、各マクロブロックは、DCT領域に変換され、圧縮符号化される。DV25モードでは、フレーム間の予測を行わず、したがって、全てのフレームは、イントラフレーム符号化フレームとして符号化される。一具体例においては、画像の色サンプリングは、それぞれの2つの色差サンプルに対し4つの輝度サンプルを用いて4:1:1で行う。圧縮符号化ビットストリームでは、マクロブロックのグループは、セグメントに分割され、各セグメントには、圧縮符号化データストリーム内で固定データ部分を構成する固定の所定量のデータを割り当てる。これにより、図2に示すように、圧縮符号化されたDVモードビットストリームは、複数の画像フレーム30、32、34、36、38を符号化し、ビデオ画像40、42、44を表す。第2のフレーム32について示すように、画像フレームは、マクロブロック40、42、44の複数のセグメントとして符号化される。後述するように、各セグメントは、5つのマクロブロックMB1、MB2、MB3、MB4、MB5を含み、各マクロブロックには、ビットストリーム内でデータ容量の固定部分を割り当てる。したがって、マクロブロックは、固定量のデータ領域内に格納しなくてはならず、これができない場合、他のマクロブロックが割り当てられたデータ容量の全体を占有していない場合、そのマクロブロックに割り当てられた他のデータ領域にオーバフローする。後述するように、マクロブロックに割り当てられたデータ領域の全てが、そのマクロブロックを表すデータによって占有されていない場合、これらを連結することにより、ウォータマークを表すデータを収容するための十分な量の領域を提供できる。
本発明では、例えば、DVモードに基づいて圧縮された符号化ビットストリームを解析し、それぞれの固定データ部分のデータ量と、マクロブロックによって実際に占有されるデータ量とを比較することにより、各画像フレームの予備データ領域の大きさを特定する。
本発明に基づくウォータマークデータ符号化処理装置の具体例を図3(A)及び図3(B)に示す。図3(A)及び図3(B)の両方に示すように、ウォータマークデータ符号化処理装置は、入力チャンネル2を介して、DVモードビットストリームを受け取る。DVモード解析器50は、圧縮符号化ビットストリームを受け取り、マクロブロックグループを含む各固定データ部分を解析し、画像フレーム毎に予備データ領域の総量を算出する。そして、ウォータマークエンコーダ54は、予備データ領域の総量を示す情報を受け取り、1フレームあたりの予備データ領域の総量が可視ウォータマークに関連する追加的データを収容できる場合、各画像フレームが可視ウォータマークを含むように各画像フレームを適応化する。
図3(B)に示すデータ符号化処理装置は、ウォータマークデータ生成器58(図1に示す具体例に対応する。)を備える点が、図3(A)に示すデータ符号化処理装置とは異なる。図3(A)に示すように、各画像フレームで使用可能な領域の大きさに関する情報をウォータマークエンコーダ54に供給するチャンネル52に加えて、チャンネル56が設けられている。図3(A)に示す第2のチャンネル56は、ビデオ画像内で可視ウォータマークとして表されるデータをウォータマークエンコーダ54に供給する。本発明では、可視ウォータマークは、圧縮符号化ビットストリームの一部として符号化されるデータを表すことができる。DVモードの具体例では、DVモード圧縮符号化ビットストリームにより表現された各フレームについて、タイムコード情報を提供する。すなわち、一具体例では、DVモード解析器50は、タイムコードを表すデータをウォータマークエンコーダ54に供給し、ビデオ画像内で表現される可視ウォータマークは、フレームの実際のタイムコードである。他の具体例では、ビットストリームのヘッダに格納されるDVモードの特定のフォーマットを示す情報をチャンネル56を介して提供し、可視ウォータマークを表す。
一方、図3(B)に示すウォータマークデータ符号化処理装置は、例えば、図1に示すように、独立したウォータマークを生成する。
以下、ウォータマークエンコーダ54によって実行される、圧縮符号化ビデオストリームにおける可視ウォータマークの符号化について図4及び図5を用いて説明する。
DVモード圧縮符号化規格では、ブロック/マクロブロックの階層構造を用いる。各画像の画素は、8×8のブロックに分割され、離散コサイン変換される。各DCTブロックは、1つのDC係数と、多くの場合、複数のAC係数とから構成される。量子化の前には、1個のDC係数及び8×8−1個のAC係数がある。これらのDCTブロックは、量子化及び可変長(エントロピー)符号化等の後に、色規格(4:2:2,4:1:1,4:2:0)に応じてマクロブロックにグループ化される。したがって、1つのマクロブロックは、6つのDCTブロック(4:2:0の具体例では、4つの輝度サンプル+2つの色差サンプル)を構成する階層構造の次の階層は、マクロブロックユニットである。これらは、DVの仕様では、マクロブロックセグメントと呼ばれる5つのマクロブロックのグループの集合である。
各DCTブロックには、固定量の空間が割り当てられている。この空間が、DCTブロックのエントロピー符号化された係数を格納するのに不十分であれば、そのマクロブロック内の他のDCTブロックの何れかが、それらに割り当てられた空間を使用していない場合、この空間を用いて、そのマクロブロックに割り当てられた固定のデータ量内で割り当てることができないマクロブロックの追加的データを格納する。同様に、マクロブロックユニット内に何らかの予備空間があれば、ウォータマークを表現するために必要なデータを格納することができる。図4は、5つのマクロブロックがセグメント内にパッキングされ、使用可能な予備空間があるマクロブロックセグメント101を示している。図4に示すように、第1のマクロブロックMB1には、セグメント101の領域102として、所定量の空間が割り当てられている。しかしながら、マクロブロックMB1を符号化した場合、この具体例では、割り当てられた領域102は、マクロブロックMB1の符号化を表すために必要なデータの全てを収容するためには十分でない。一方、5つのマクロブロックのうちの第2のマクロブロックMB2を格納するように割り当てられた第2のデータ領域104内は、予備データ領域106を有している。図4に示すように、この具体例では、予備データ領域106を用いて、第1のマクロブロックMB1に割り当てられた領域102内に収容できなかったマクロブロックMB1の残りの部分のデータ108を格納する。また、この具体例では、予備データ領域106の残りの部分は、第4のデータ領域112内に収容できなかった第4のマクロブロックMB4の一部のデータ110を保存するために割り当てられている。その領域に割り当てられたマクロブロックからのデータを搬送するために、完全には使用されていない領域を用いて、他のマクロブロックに割り当てられた領域内に収容できないマクロブロックからのデータを搬送するようにデータ容量を割り当てることは、「パッキング(packing)」と呼ばれる。更なる具体例として、図4に示すように、第3のマクロブロックMB3は、領域114内に、第4のマクロブロックMB4からのデータを搬送するために割り当てられた予備領域116を提供する。最後に、この具体例では、5つのマクロブロックのうちの第5のマクロブロックMB5を搬送するために割り当てられたデータ領域120内の領域118に、画像のウォータマークを表すために必要な追加的データを格納している。すなわち、この具体例では、5つのマクロブロックMB1、MB2、MB3、MB4、MB5は、それぞれ、これらのマクロブロックに割り当てられた領域102、104、114、112、120内に格納されている。
図5は、各マクロブロックに割り当てられた領域内に収容することができないマクロブロックからのデータを収容するためのパッキングが不要なマクロブロックセグメント121のより詳細な具体例を示している。図5に示すように、マクロブロックセグメント122は、5つのマクロブロックMB1、MB2、MB3、MB4、MB5を表すデータを、5つの各領域124、126、128、130、132を用いて搬送する。図5に示す具体例に示す領域124、126、128、130、132は、対応するマクロブロックMB1、MB2、MB3、MB4、MB5を表すデータによって完全には占有されず、したがって、各領域124、126、128、130、132は、データを収容するための予備空間となる領域134、136、138、140、142を提供する。すなわち、フレームのマクロブロックセグメントに亘る領域134、136、138、140、142の合計が、ウォータマークに関連する追加的データを搬送するための予備空間となる。すなわち、データの各フレームについて、マクロブロックセグメントを解析し、予備データ空間の総量を判定する。そして、この予備データ空間と、ウォータマークを表すために必要な追加的データの総量とを比較する。後述するように、追加的データは、フレーム内のウォータマークデータの存在を示すキーワード、一意的マテリアル識別子、フレーム内のウォータマークの位置を特定するビットマップ、ウォータマークの種類を示すフラグ、及びウォータマークを生成するために挿入されたあらゆるデータを含む。このデータを予備データ空間内に収容できる場合、フレームの予備データ空間に更なるウォータマークデータが加えられ、すなわち、このフレームにウォータマークが付される。
図5は、マクロブロックの輝度及び色差サンプルについて、マクロブロックを構成するDCTブロックを表している。領域128からのマクロブロックMB3について示すように、マクロブロックセグメント144内において、マクロブロックMB3を表すデータは、2つの輝度データサンプルY0(146)、Y1(148)と、2つの色差データサンプルCB0(150)、CR0(152)とについて、一組のDCTブロックを含む。第2の色差ブロックCR0の具体例について示すように、割り当てられた領域152内で、データサンプルは、一組のDCT係数154を含む。一組のDCT係数154は、1つのDC係数156と、4つのAC係数158とを含む。
可変長符号化が行われた場合、各DCTブロックは、エンドオブブロック(End of Block:EOB)マーカ又はEOBコードで終えられる。したがって、上述した4:2:0の具体例の場合、1つのマクロブロックにおいて、1つのDCTブロックにつき1つ、すなわち、4つのEOBがある。これに対応して、4:1:1、4:2:0の場合、6つのEOBコードが存在する。この結果、各DCTブロックがEOBコードで終わるので、そのDCTブロックの固定の空間においてEOBが検出されない場合、DVモード解析器50は、マクロブロックの残りの部分は、割り当てられた空間を使用していない他のDCTブロックにより形成された空間に書き込まれたと判定する。同様にそのDCTブロックの固定の空間の最後に達する前にEOBが復号されると、DVモード解析器50は、残りの空間に他のDCTブロックがオーバフローされていると判定でき、このオーバフローされたデータもEOBコードで終わる。ここで、残りの空間にEOBが検出されない場合、DVモード解析器50は、残りの領域が予備空間であり、したがって、追加的データを搬送するために利用できると判定する。
要約すれば、以下のように、3つの処理段階を含む復号により、DVモードビットストリームを解析し、予備データ空間を特定することができる。
(1)固定の空間の端部まで、又はEOBコードまで、各DCTブロックの固定の空間を復号する。
(2)EOBコードが検出されなかったマクロブロックの各DCTブロックについて、他のDCTブロック(EOBが検出されたDCTブロック)の残りのコード空間を読み出す。
(3)EOBコードが検出されないDCTブロックがまだあれば、マクロブロックセグメントに亘ってステップ2を実行する。
(1)固定の空間の端部まで、又はEOBコードまで、各DCTブロックの固定の空間を復号する。
(2)EOBコードが検出されなかったマクロブロックの各DCTブロックについて、他のDCTブロック(EOBが検出されたDCTブロック)の残りのコード空間を読み出す。
(3)EOBコードが検出されないDCTブロックがまだあれば、マクロブロックセグメントに亘ってステップ2を実行する。
上述した3つの復号ステップにより、DVモードビットストリーム内の更なるウォータマークデータを収容する予備データ空間の大きさが特定される。これは、全てのDCTブロックから、割り当てられた空間の全てを必要としない空間を特定すると解釈できる。そして、固定の空間を満たす第1の試みの後に、これらの空間を連結する。「パッキング」は、連結されたオーバフローデータを連結された空間に格納する処理を含む。この処理は、まず、同じマクロブロック内のDCTブロックについて行われる。そして、オーバフローデータがまだあれば、同じマクロブロックセグメント内のマクロブロックについて、各マクロブロックの予備空間を連結し、各マクロブロックからの追加的データを個別に連結し、これらのデータを空間に格納することにより、同様の処理を行う。5つのマクロブロックからのデータを割り当てられた領域に格納した後に、利用可能な空間がまだあれば、この空間は、追加的データを搬送するための予備データ容量として認識される。このように、予備データ容量を特定するためには、圧縮符号化ビットストリームを解析し、ビットストリームを部分的に復号し、この予備データ容量を特定する必要がある。
上述したように、ウォータマークを表すために、固定部分から抽出され、予備空間に格納された元のマクロブロックデータに加えて、ウォータマークエンコーダは、ウォータマークをより容易に除去できるように、追加的な情報を加える。この追加的な情報のフォーマットを図6に示す。追加的な情報は、例えば、OXDEADBABE等、所定の16進数の単語に設定されるキーワード200を含む。キーワード200は、可視ウォータマークを表すために符号化されたビデオのフレームが変更されたことを示す。キーワード200の後に追加的データは、SMPTE標準に基づくUMID202を含む。当業者に周知のように、UMIDとは、ビデオマテリアルを一意的に特定する一意的マテリアル識別子(Unique Material Identifier:UMID)である。UMID202に続いて、ウォータマークの種類を示すフラグ204が設けられている。この具体例では、ウォータマークには、「モザイク」ウォータマーク(後述)、「タイムコード」及び「ビデオフォーマット」の3つの種類がある。タイムコードは、上述したように、ビデオ符号化ビットストリームから抽出され、可視ウォータマークを表すために用いられる。一方、ビデオフォーマットは、符号化ビットストリームのヘッダから抽出され、可視ウォータマークとして表される。ウォータマークの種類を示すフラグの後に、マクロブロックデータから抽出された、ウォータマークを表す何らかのデータを、図4及び図5に示す、固定データ部分の連結された予備データ領域に格納する。図6に示す具体例では、キーワード、UMID及びウォータマークタイプのフラグは、例えば、連結されたデータフィールド207に格納される。連結されたデータフィールドは、更なるウォータマークデータを搬送するために利用可能な画像フレームの容量を提供する全ての予備空間を概念的に表している。そして、最後のデータ位置には、テンプレートビットマップ208が格納される。
デコーダ/ウォータマーク除去器が検出できるように、キーワードを所定の位置に設けてもよい。例えば、キーワードは、フレームの第1のフリーデータ領域に挿入してもよい。図6に示すように、テンプレートビットマップは、画像フレーム内の各マクロブロックについてのビットを含む。これらのビットは、所定の値に設定され、例えばマクロブロックが変更されていない場合「0」に、マクロブロックがウォータマークのマクロブロックを表すために変更されている場合「1」に設定される。変形例では、テンプレートビットマップは、各マクロブロックの各DCT係数についてのビットを含んでいてもよく、これにより、DCT係数が変更されていることを、例えば0又は1等の対応する所定の値によって表すことができる。図6に示すように、テンプレートビットマップは、連結されたデータフィールドに保存される。本発明の幾つかの具体例では、ビットマップをエントロピー符号化してもよい。
ウォータマーキング法の具体例
圧縮符号化ビットストリーム内でウォータマークを表すために使用できる様々な技術がある。一具体例においては、画像内の選択されたマクロブロックを、画像内でウォータマークを形成するマクロブロックによって置換することができる。図7は、図4のマクロブロックセグメントを適応化して、ウォータマークWM1の1つのマクロブロックを含ませる具体例を示している。図7の具体例では、マクロブロックセグメントの5つのマクロブロックMB1、MB2、MB3、MB4、MB5を表す符号化データを収容するために、5つのデータ領域200、202、204、206、208が設けられている。この具体例では、第1のマクロブロックMB1は、ウォータマークWM1からのマクロブロックによって置換される。この具体例に示すように、ウォータマークブロックWM1を表すデータは、符号化ビットストリーム内の第1のマクロブロックMB1に割り当てられた容量のうちの比較的小さい部分210のみを占める。この具体例では、第4のマクロブロックMB4を表すために必要なデータ量は、第4のマクロブロックMB4に割り当てられた領域200として利用可能な容量を超えている。そこで、第4のマクロブロックMB4を表す残りのデータは、第1のマクロブロック領域200の領域212にパッキングされる。なお、符号化ビットストリーム内でウォータマークを表すために必要な更なるウォータマークデータを搬送するために利用可能な領域214が残っている。更に、他の領域216、218、220も、追加的データを搬送するために利用可能である。追加的データは、除去された第1のマクロブロックデータ及びDCTデータMB1と、ウォータマークキーワード、UMID、ウォータマークフラグ及び画像内のウォータマークの位置を示すビットマップとを含む。追加的データは、予備データの全ての領域に亘って分散され、結合された予備データを形成する。
圧縮符号化ビットストリーム内でウォータマークを表すために使用できる様々な技術がある。一具体例においては、画像内の選択されたマクロブロックを、画像内でウォータマークを形成するマクロブロックによって置換することができる。図7は、図4のマクロブロックセグメントを適応化して、ウォータマークWM1の1つのマクロブロックを含ませる具体例を示している。図7の具体例では、マクロブロックセグメントの5つのマクロブロックMB1、MB2、MB3、MB4、MB5を表す符号化データを収容するために、5つのデータ領域200、202、204、206、208が設けられている。この具体例では、第1のマクロブロックMB1は、ウォータマークWM1からのマクロブロックによって置換される。この具体例に示すように、ウォータマークブロックWM1を表すデータは、符号化ビットストリーム内の第1のマクロブロックMB1に割り当てられた容量のうちの比較的小さい部分210のみを占める。この具体例では、第4のマクロブロックMB4を表すために必要なデータ量は、第4のマクロブロックMB4に割り当てられた領域200として利用可能な容量を超えている。そこで、第4のマクロブロックMB4を表す残りのデータは、第1のマクロブロック領域200の領域212にパッキングされる。なお、符号化ビットストリーム内でウォータマークを表すために必要な更なるウォータマークデータを搬送するために利用可能な領域214が残っている。更に、他の領域216、218、220も、追加的データを搬送するために利用可能である。追加的データは、除去された第1のマクロブロックデータ及びDCTデータMB1と、ウォータマークキーワード、UMID、ウォータマークフラグ及び画像内のウォータマークの位置を示すビットマップとを含む。追加的データは、予備データの全ての領域に亘って分散され、結合された予備データを形成する。
上述したように、他の可視ウォータマークタイプとして、モザイクがある。モザイクは、マクロブロックのAC係数を抽出し、DC係数のみによってウォータマークが付されたマクロブロックを表すことにより生成される。このような構成を図8に示す。図8に示すように、図7に示す具体例からのウォータマークマクロブロックWM1を符号化し、モザイクウォータマークの一部を形成する。この具体例では、ウォータマークマクロブロックWM1は、各DCTブロック内のDC係数302の後に付加的なEOBコード300を含み、これによりモザイク効果を生じさせている。図8に示すように、ここでは、DCTブロックのDC係数だけを提供するので、予備空間は、マクロブロック内の各DCTブロックの領域304に存在している。図7に示すウォータマーキング法の具体例のように、各DCTブロックから除外されたAC係数及びEOBコードは、ウォータマーキングデータの集合に加えられ、フレーム内の連結された予備データ領域に亘って分散される。
本発明に基づき可視ウォータマークによって表すことができる情報の具体例を図9に示す。図9では、ウォータマークが付された画像の5つの具体例を示しており、最初の2つ(上)の画像400、404は、タイムコードを表し、次の2つ(中央)の画像406、408は、ビデオ画像を撮影したカメラ番号を表し、最後の1つ(下)の画像410は、ビデオプロキシからの可視ウォータマークを表している。図9に示すように、上の2つの例示的な画像400、404は、タイムコードと共に符号化され、従って、画像400と次の画像404とではタイムコードが変化している。他の具体例では、同じ画像を異なるカメラで撮影しており、中央の左の画像406は、カメラ1によって撮影され、右の画像408は、カメラ2によって撮影されている。これに対応して、可視ウォータマークは、画像を生成したカメラ1(CAMERA 1)又はカメラ2(CAMERA 2)を表す。最後の具体例では、ウォータマークが付された画像410は、例示的な画像内の適切な位置に挿入されたプロキシビデオ412を含む。一具体例においては、プロキシビデオは、第2のカメラ(カメラ2)が撮影した他のビデオ画像の低解像度バージョンから生成され、第1のカメラ(カメラ1)が撮影したビデオ画像内に表示される。これにより、ユーザは、2つのカメラが提供する2つの異なる視点から、同じシーンを比較することができる。
図10は、本発明に基づく図3(A)及び図3(B)に示すデータ符号化処理装置によって符号化された可視ウォータマークをビデオ画像から除去する具体的構成例を示している。図10に示すように、ウォータマーク符号化ビデオ画像は、チャンネル500を介して、データ処理装置503内のDVモード解析器502及びウォータマーク除去器504に供給される。DVモード解析器502は、ビデオ符号化ビットストリームを解析し、各フレームについて、各符号化画像フレーム内の予備容量の第1の領域内にキーワードが存在しているかを判定する。キーワードが存在している場合、DVモード解析器502は、可視ウォータマークに関連するデータを抽出し、接続チャンネル506を介して、ウォータマーク除去器504にこのデータを供給する。
変形例では、DVモード解析器502は、圧縮符号化ビットストリームを解析し、固定データ部分がマクロブロックによって完全には占有されていない結果として、それぞれの固定データ部分から提供される各フレーム内の予備データ容量の総量を判定する。DVモード解析器502は、上述したDVモード解析器50と同じ動作を実行して、圧縮符号化ビットストリーム内の予備空間を特定し、これにより、可視ウォータマークに関連する追加的データを特定する。幾つかの実施形態においては、データ領域の第1の部分は、画像フレームにウォータマークが付されていることを示すキーワードを含んでいてもよく、又はDVモード解析器502は、この予備データ領域から、画像がウォータマークを含むことを仮定する。キーワードが特定された場合、DVモード解析器502は、追加的データを抽出し、接続チャンネル506を介して、ウォータマーク除去器504にこのデータを供給する。
各フレーム内のキーワードの存在を示す信号は、チャンネル508を介してウォータマーク除去器504に供給される。したがって、ウォータマーク除去器504は、各フレーム毎に、可視ウォータマークを表すように適応化されているか否かを知らされる。フレームが適応化されている場合、ウォータマーク除去器504は、各フレームについて、DVモード解析器502から受け取ったビットマップに基づいて、各フレーム内の変更されたマクロブロック又はDCTブロックを特定する。ウォータマーク除去器504は、ウォータマークマクロブロックを除去し、再び、DVモード解析器502から提供されるウォータマークが付された画像フレームから抽出された追加的データからの元のマクロブロック及び/又はDCT係数によってこれらを置換する。例えば図8に示すように、可視ウォータマークが除去された符号化ビットストリームは、接続チャンネル510を介して、DVモードデコーダ512に供給される。DVモードデコーダ512は、ビデオ画像を伸長し、元の画像を再生し、表示画面514に表示する。
動作の概要
可視ウォータマークと共にDVモードビットストリームを符号化するウォータマークデータ符号化処理装置の処理を表すフローチャートを図11に示し、以下に説明する。
可視ウォータマークと共にDVモードビットストリームを符号化するウォータマークデータ符号化処理装置の処理を表すフローチャートを図11に示し、以下に説明する。
S2:DVモード圧縮符号化規格に基づいて符号化された画像をソースから受け取る。このソースは、カメラ、ビデオ再生装置又はテレビジョン受像機であってもよい。
S4:DVモードビットストリームを解析し、各画像フレームを特定し、及びビットストリームの一部を解析し、フレームを構成する固定データ部分内で、可視ウォータマークに関連する追加的データを挿入できる予備データ容量を特定する。
S6:各画像フレームについて予備データ容量の合計を算出する。この予備データ容量の合計と、画像フレーム内で可視ウォータマークを表現するために必要な追加的データの総量とを比較する。各画像フレームを順次処理し、そのフレーム内の予備データ容量の合計と、可視ウォータマークを表現するために必要な追加的データの量とを比較する。
S8:現在のフレームについて、このフレームが追加的データを収容できるかを判定する。
S10:フレームが可視ウォータマークに関連する追加的データを収容できる場合、可視ウォータマークに関連するマクロブロック情報を抽出し、ウォータマークマクロブロックにより置換する。
S12:マクロブロックの画像フレーム内で可視ウォータマークを表現するように変更された位置を特定するテンプレートを提供するビットマップを生成する。変形例として、ビットマップは、各画像ブロック内で可視ウォータマークを表すために変更されたDCT係数を特定してもよい。これは画像フレームに導入するウォータマークの種類による。例えば、ウォータマークタイプがモザイクである場合、ビットマップテンプレートは、変更されたDCT係数を特定する。幾つかの具体例では、ビットマップは、エントロピー符号化してもよい。
S14:可視ウォータマークを表すために画像フレームが変更されたことを示すキーワードを画像フレーム内の第1の予備データ領域に加える。画像フレームを特定するUMIDを生成し、ウォータマークを表すために画像フレームが符号化された可視ウォータマークの種類を示すフラグと共に画像フレームの予備データ領域に追加する。
S16:可視ウォータマークの一部を表す、マクロブロックの元の形式からの変化を表す抽出されたマクロブロック情報を画像フレームの固定部分内の予備データ領域に追加する。最後に、画像フレームの予備領域内の追加的データの最後の部分として、ビットマップテンプレートを加える。そして、処理はステップS6に戻り、次の画像フレームの処理を開始する。
符号化ビットストリームからウォータマークを除去(wash)するためのデータ処理装置の動作を示すフローチャートを図12に示す。以下、図12のフローチャートの各ステップについて説明する。
S20:ビットストリームが表すビデオ画像からウォータマークを除去するために、可視ウォータマークを含むDVモードビットストリームを受け取る。ビットストリームを解析し、圧縮符号化ビットストリームが表す画像フレームを特定する。
S22:画像フレームのそれぞれを順次特定及び解析する。
S24:各画像フレームを解析し、圧縮符号化ビットストリームの第1の予備空間に所定のキーワードがあるかを判定する。
S26:圧縮符号化画像フレーム内にキーワードが存在している場合、画像フレームの予備データ領域内の追加的データの最後の位置からビットマップ情報を抽出する。ビットマップを抽出し、可視ウォータマークを表すために変更されたマクロブロックの位置を特定する。
S28:可視ウォータマークの部分を表すために変更された各マクロブロックについて、その変更されたマクロブロックに対応する元のマクロブロックを抽出し、元のマクロブロックにより置換し、元の画像フレームを復元する。そして、処理はステップS22に戻る。また、画像画像フレームがキーワードを含んでいない場合も処理は、ステップS22に戻り、次の画像フレームに進む。
なお、本発明は、特定のビデオ画像に関連するメタデータを可視ウォータマークとして符号化するアプリケーションに適用してもよい。可視ウォータマークとして表示されるメタデータは、例えば、編集者がビデオストリームを編集する際の補助となり、これらの可視ウォータマークは、可逆であり及び/又は除去可能である。なお、ビデオ画像がカメラ/レコーダ機器によって捕捉された際に、このビデオ画像に視覚的なウォータマークを付してもよい。記録媒体に保存されている既存のビデオ画像データをウォータマークエンコーダに供給し、可視ウォータマークを含むように再符号化してもよい。なお、コンテンツ仲介又は配信システムにおいて、可視ウォータマークを用いて、第1のクライアントコンピュータが可視ウォータマークを作成し、第2のクライアントコンピュータに提供してもよい。第2のクライアントコンピュータのユーザは、可視ウォータマークが付された画像を見て、可視ウォータマークが付されたこのビデオ画像の元の画像を見たい又は使用したいかを判断し、第1のクライアントコンピュータ(ビデオ画像の所有者又は他の権利者を代理するサーバコンピュータ)に対し、可視ウォータマークを除去するためのデータを要求する。例えば、ウォータマーク除去器等のウォータマーク除去データを用いる装置は、第2のクライアントコンピュータにより実現できる。
本発明の範囲から逸脱することなく、本明細書に開示した例示的な実施形態を様々に変更することができる。例えば、DVモードは、本発明の実施形態に適用される圧縮符号化規格の1つの具体例に過ぎない。
Claims (24)
- 所定のフォーマットを有する圧縮符号化ビットストリームが表す圧縮符号化ビデオ画像に可視ウォータマークを導入するデータ符号化処理装置において、該圧縮符号化ビットストリームのフォーマットは、マクロブロックによって表される画像フレームを提供し、該マクロブロックのそれぞれは、画像フレームからの画素のブロックを表し、該マクロブロックは、該圧縮符号化ビットストリームの固定データ部分に含まれているマクロブロックのグループにグループ化され、該固定データ部分は、該圧縮符号化ビットストリームにおいて、固定の所定量のデータを収容でき、当該データ符号化処理装置は、
上記圧縮符号化ビットストリームを解析し、ビデオ画像の各フレームを特定し、該各画像フレームについて、上記固定データ部分が上記マクロブロックによって完全には満たされていない結果として予備データ領域を提供する圧縮符号化ビットストリームの領域を判定し、
上記圧縮符号化ビットストリームにおいて、上記可視ウォータマークを表すために必要な更なる量のデータが、各画像フレーム内の予備データ領域に収容できるかを判定し、該予備データ領域内に該可視ウォータマークを表す追加的データを収容できる場合、
上記画像フレームの選択されたマクロブロックを、上記可視ウォータマークを表すように変更し、
上記可視ウォータマークを表すために変更された元の画像フレーム内のマクロブロックを表すビットパターンを生成し、
上記画像フレームの固定データ部分の予備データ領域を提供する領域に、上記ビットマップ及び上記可視ウォータマークを表すために変更された各マクロブロックの元の形式に関連するデータを含む追加的データを挿入するデータ符号化処理装置。 - 上記データ符号化処理装置は、可視ウォータマークを表すために上記追加的データが加えられた画像フレームの所定位置における上記固定データ部分にキーワードを挿入することを特徴とする請求項1記載のデータ符号化処理装置。
- 上記可視ウォータマークは、2つ以上の画像フレーム間で異なることを特徴とする請求項1記載のデータ符号化処理装置。
- 上記可視ウォータマークは、上記圧縮符号化ビットストリームから抽出されるタイムコードを表すことを特徴とする請求項1記載のデータ符号化処理装置。
- 上記可視ウォータマークは、上記圧縮符号化ビデオ画像の所定のフォーマットに基づいて、上記圧縮符号化ビットストリームから抽出されるビデオ圧縮符号化規格を示すデータを表すことを特徴とする請求項1記載のデータ符号化処理装置。
- 上記可視ウォータマークは、プロキシビデオを表すことを特徴とする請求項1記載のデータ符号化処理装置。
- 上記ビデオ画像内において可視ウォータマークとして表されるウォータマークデータを提供するウォータマーク生成器を更に備える請求項1記載のデータ符号化処理装置。
- 上記各画像フレームに加えられる追加的データは、可視ウォータマークを表すように画像フレームが変更されたことを示すキーワード、汎用マテリアル識別子(UMID)、ウォータマークの種類を示すフラグ、及び上記圧縮符号化ビットストリーム内の所定の位置で上記ビデオ符号化ビットストリームから除外されたデータ量を示すデータを含むことを特徴とする請求項2記載のデータ符号化処理装置。
- 上記マクロブロックは、複数の変換領域係数から構成され、上記ビットマップは、各マクロブロックにおいて、どの変換領域係数が変更されたかを示すことを特徴とする請求項1記載のデータ符号化処理装置。
- 上記ビットマップをエントロピー符号化した後、上記画像フレームに加えるウォータマークエンコーダを更に備える請求項1記載のデータ符号化処理装置。
- 上記ビデオ画像は、米国映画テレビ技術者協会(SMPTE)デジタルビデオ規格に基づく符号化ビットストリームを生成するように符号化されことを特徴とする請求項1記載のデータ符号化処理装置。
- 所定のフォーマットを有する圧縮符号化ビットストリームが表す圧縮符号化ビデオ画像に可視ウォータマークを導入する可視ウォータマーク導入方法において、該圧縮符号化ビットストリームのフォーマットは、マクロブロックによって表される画像フレームを提供し、該マクロブロックのそれぞれは、画像フレームからの画素のブロックを表し、該マクロブロックは、該圧縮符号化ビットストリームの固定データ部分に含まれているマクロブロックのグループにグループ化され、該固定データ部分は、該圧縮符号化ビットストリームにおいて、固定の所定量のデータを収容でき、当該可視ウォータマーク導入方法は、
上記圧縮符号化ビットストリームを解析し、ビデオ画像の各フレームを特定し、該各画像フレームについて、上記固定データ部分が上記マクロブロックによって完全には満たされていない結果として予備データ領域を提供する該圧縮符号化ビットストリームの領域を判定するステップと、
上記圧縮符号化ビットストリームにおいて、上記可視ウォータマークを表すために必要な更なる量のデータが、各画像フレーム内の予備データ領域に収容できるかを判定するステップと、該予備データ領域内に該可視ウォータマークを表す追加的データを収容できる場合、
上記画像フレームの選択されたマクロブロックを、上記可視ウォータマークを表すように変更するステップと、
上記可視ウォータマークを表すために変更された元の画像フレーム内のマクロブロックを表すビットパターンを生成するステップと、
上記画像フレームの固定データ部分の予備データ領域を提供する領域に、上記ビットマップ及び上記可視ウォータマークを表すために変更された各マクロブロックの元の形式に関連するデータを含む追加的データを挿入するステップとを有する可視ウォータマーク導入方法。 - 請求項1記載のデータ符号化処理装置によって生成された圧縮符号化ビットストリームにおいて、当該圧縮符号化ビットストリームは、マクロブロックによって表される画像フレームを提供する所定のフォーマットを有し、該マクロブロックのそれぞれは、画像フレームからの画素のブロックを表し、該マクロブロックは、当該圧縮符号化ビットストリームの固定データ部分に含まれているマクロブロックのグループにグループ化され、該固定データ部分は、固定の所定量のデータを有し、上記マクロブロックによって使用されていない固定データ部分の予備データ領域内に、追加的データ含み、該追加的データは、可視ウォータマークを表すために変更された元の画像フレーム内のマクロブロック及び可視ウォータマークを表すために変更された元の形式のマクロブロックのそれぞれに関連するデータを表すビットパターンを含む圧縮符号化ビットストリーム。
- 上記各画像フレームに加えられる追加的データは、可視ウォータマーク、汎用マテリアル識別子(UMID)、ウォータマークの種類を示すフラグ、及び上記可視ウォータマーク画像フレームを表す当該圧縮符号化ビットストリーム内の所定の位置で上記ビデオ符号化ビットストリームから除外されたデータ量を示すデータを表すように画像フレームが変更されたことを示すキーワードを含むことを特徴とする請求項13記載の圧縮符号化ビットストリーム。
- 請求項1記載のデータ符号化処理装置によって生成された圧縮符号化データを含むデータファイルにおいて、該圧縮符号化ビットストリームのフォーマットは、マクロブロックによって表される画像フレームを提供し、該マクロブロックのそれぞれは、画像フレームからの画素のブロックを表し、該マクロブロックは、上記圧縮符号化ビットストリームの固定データ部分に含まれているマクロブロックのグループにグループ化され、該固定データ部分は、固定の所定量のデータを有し、上記マクロブロックによって使用されていない固定データ部分の予備データ領域内に、追加的データ含み、該追加的データは、可視ウォータマークを表すために変更された元の画像フレーム内のマクロブロック及び可視ウォータマークを表すために変更された元の形式のマクロブロックのそれぞれに関連するデータを表すビットパターンを含むデータファイル。
- 請求項1記載のデータ符号化処理装置によって生成された圧縮符号化ビットストリームから可視ウォータマークを除去するデータ復号処理装置において、該圧縮符号化ビットストリームのフォーマットは、マクロブロックによって表される画像フレームを提供し、該マクロブロックのそれぞれは、画像フレームからの画素のブロックを表し、該マクロブロックは、圧縮符号化ビットストリームの固定データ部分に含まれているマクロブロックのグループにグループ化され、該固定データ部分は、固定の所定量のデータを収容でき、上記マクロブロックによって使用されていない固定データ部分の予備データ領域内に、追加的データ含み、該追加的データは、可視ウォータマークを表すために変更された元の画像フレーム内のマクロブロック及び可視ウォータマークを表すために変更された元の形式のマクロブロックのそれぞれに関連するデータを表すビットパターンを含み、当該データ復号処理装置は、
上記圧縮符号化ビットストリームを解析して該圧縮符号化ビットストリームが表すビデオ画像の画像フレームを特定し、
上記画像フレームが可視ウォータマークを含むかを判定し、該画像フレームが可視ウォータマークを含む場合、
上記画像フレーム内の上記追加的データから上記可視ウォータマークを表すために変更されたマクロブロックの位置を提供するビットパターンを復元し、
可視ウォータマークを表すために変更されたそれぞれのマクロブロックの元の形式に関連するデータを復元し、
それぞれのマクロブロックの元の形式に関連するデータを用いて、ビットパターンによって特定される元のマクロブロックを再生し、画像から可視ウォータマークを除去するデータ復号処理装置。 - 上記可視ウォータマークを含むビデオ画像を表す圧縮符号化ビットストリームは、可視ウォータマークを表すように適応化された各画像フレームの所定の位置にキーワードを含み、当該データ復号処理装置は、上記各画像フレーム内の所定の位置の上記キーワードの存在を検出することによって各画像フレームが可視ウォータマークを含むかを判定することを特徴とする請求項16記載のデータ復号処理装置。
- 請求項12記載の可視ウォータマーク導入方法によって生成された圧縮符号化ビットストリームから可視ウォータマークを除去する可視ウォータマーク除去方法において、
上記圧縮符号化ビットストリームは、マクロブロックによって表される画像フレームを提供する所定のフォーマットを有し、該マクロブロックのそれぞれは、画像フレームからの画素のブロックを表し、該マクロブロックは、圧縮符号化ビットストリームの固定データ部分に含まれているマクロブロックのグループにグループ化され、該固定データ部分は、固定の所定量のデータを有し、上記マクロブロックによって使用されていない固定データ部分の予備データ領域内に、追加的データ含み、該追加的データは、可視ウォータマークを表すために変更された元の画像フレーム内のマクロブロック及び可視ウォータマークを表すために変更された元の形式のマクロブロックのそれぞれに関連するデータを表すビットパターンを含み、当該可視ウォータマーク除去方法は、
上記圧縮符号化ビットストリームを解析して該圧縮符号化ビットストリームが表すビデオ画像の画像フレームを特定するステップと、
上記画像フレームが可視ウォータマークを含むかを判定するステップと、該画像フレームが可視ウォータマークを含む場合、
上記画像フレーム内の上記追加的データから上記可視ウォータマークを表すために変更されたマクロブロックの位置を提供するビットパターンを復元するステップと、
可視ウォータマークを表すために変更されたそれぞれのマクロブロックの元の形式に関連するデータを復元するステップと、
それぞれのマクロブロックの元の形式に関連するデータを用いて、ビットパターンによって特定される元のマクロブロックを再生し、画像から可視ウォータマークを取り除くステップとを有する可視ウォータマーク除去方法。 - コンピュータ上で実行されると、所定のフォーマットを有する圧縮符号化ビットストリームが表す圧縮符号化ビデオ画像に可視ウォータマークを導入する可視ウォータマーク導入方法を実行するプログラムコードを有するコンピュータソフトウェアにおいて、該圧縮符号化ビットストリームのフォーマットは、マクロブロックによって表される画像フレームを提供し、該マクロブロックのそれぞれは、画像フレームからの画素のブロックを表し、該マクロブロックは、圧縮符号化ビットストリームの固定データ部分に含まれているマクロブロックのグループにグループ化され、該固定データ部分は、圧縮符号化ビットストリームにおいて、固定の所定量のデータを収容でき、該可視ウォータマーク導入方法は、
上記圧縮符号化ビットストリームを解析し、ビデオ画像の各フレームを特定し、該各画像フレームについて、上記固定データ部分が上記マクロブロックによって完全には満たされていない結果として予備データ領域を提供する圧縮符号化ビットストリームの領域を判定するステップと、
上記圧縮符号化ビットストリームにおいて、上記可視ウォータマークを表すために必要な更なる量のデータが、各画像フレーム内の予備データ領域に収容できるかを判定するステップと、該予備データ領域内に該可視ウォータマークを表す追加的データを収容できる場合、
上記画像フレームの選択されたマクロブロックを、上記可視ウォータマークを表すように変更するステップと、
上記可視ウォータマークを表すために変更された元の画像フレーム内のマクロブロックを表すビットパターンを生成するステップと、
上記画像フレームの固定データ部分の予備データ領域を提供する領域に、上記ビットマップ及び上記可視ウォータマークを表すために変更された各マクロブロックの元の形式に関連するデータを含む追加的データを挿入するステップとを有するコンピュータソフトウェア。 - コンピュータ上で実行されると、請求項12記載の可視ウォータマーク導入方法によって生成された圧縮符号化ビットストリームから可視ウォータマークを除去する可視ウォータマーク除去方法を実行するコンピュータソフトウェアにおいて、
上記圧縮符号化ビットストリームは、マクロブロックによって表される画像フレームを提供する所定のフォーマットを有し、該マクロブロックのそれぞれは、画像フレームからの画素のブロックを表し、該マクロブロックは、該圧縮符号化ビットストリームの固定データ部分に含まれているマクロブロックのグループにグループ化され、該固定データ部分は、固定の所定量のデータを有し、上記マクロブロックによって使用されていない固定データ部分の予備データ領域内に、追加的データ含み、該追加的データは、可視ウォータマークを表すために変更された元の画像フレーム内のマクロブロック及び可視ウォータマークを表すために変更された元の形式のマクロブロックのそれぞれに関連するデータを表すビットパターンを含み、該可視ウォータマーク除去方法は、
上記圧縮符号化ビットストリームを解析して該圧縮符号化ビットストリームが表すビデオ画像の画像フレームを特定するステップと、
上記画像フレームが可視ウォータマークを含むかを判定するステップと、該画像フレームが可視ウォータマークを含む場合、
上記画像フレーム内の上記追加的データから上記可視ウォータマークを表すために変更されたマクロブロックの位置を提供するビットパターンを復元するステップと、
可視ウォータマークを表すために変更されたそれぞれのマクロブロックの元の形式に関連するデータを復元するステップと、
それぞれのマクロブロックの元の形式に関連するデータを用いて、ビットパターンによって特定される元のマクロブロックを再生し、画像から可視ウォータマークを除去するステップとを有するコンピュータソフトウェア。 - 請求項19記載のプログラムコードを提供する提供媒体。
- 当該提供媒体は、記録媒体であることを特徴とする請求項21記載の提供媒体。
- 請求項20記載のプログラムコードを提供する提供媒体。
- 当該提供媒体は、記録媒体であることを特徴とする請求項23記載の提供媒体。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
GB0509218A GB2425906B (en) | 2005-05-05 | 2005-05-05 | Data processing apparatus and method |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2006325202A true JP2006325202A (ja) | 2006-11-30 |
Family
ID=34685152
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006129163A Pending JP2006325202A (ja) | 2005-05-05 | 2006-05-08 | データ処理装置及びデータ処理方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US7965858B2 (ja) |
JP (1) | JP2006325202A (ja) |
GB (1) | GB2425906B (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016111534A (ja) * | 2014-12-08 | 2016-06-20 | 京セラドキュメントソリューションズ株式会社 | 画像形成装置 |
Families Citing this family (25)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8363882B2 (en) * | 2006-07-25 | 2013-01-29 | Adobe Systems Incorporated | User discernible watermarking |
WO2008033507A2 (en) * | 2006-09-14 | 2008-03-20 | Hickman Paul L | Content server systems and methods |
US8201018B2 (en) * | 2007-09-18 | 2012-06-12 | Hewlett-Packard Development Company, L.P. | Control of sparing in storage systems |
JP2010009442A (ja) * | 2008-06-30 | 2010-01-14 | Fujitsu Ltd | ディスクアレイシステム、ディスク制御装置及びその再構築処理方法 |
US8340343B2 (en) * | 2008-10-31 | 2012-12-25 | General Instrument Corporation | Adaptive video fingerprinting |
PL395303A1 (pl) * | 2011-06-16 | 2012-12-17 | Akademia Górniczo-Hutnicza im. Stanislawa Staszica | Sposób i uklad do zabezpieczania dostepu do wrazliwych tresci obrazów cyfrowych |
GB2509056B (en) * | 2012-12-12 | 2019-06-19 | Snell Advanced Media Ltd | Method and apparatus for modifying a video stream |
EP2843963A1 (en) * | 2013-08-30 | 2015-03-04 | Thomson Licensing | Method for watermarking a content |
US9418396B2 (en) | 2015-01-15 | 2016-08-16 | Gopro, Inc. | Watermarking digital images to increase bit depth |
US9877036B2 (en) * | 2015-01-15 | 2018-01-23 | Gopro, Inc. | Inter frame watermark in a digital video |
EP3254469A1 (en) | 2015-02-05 | 2017-12-13 | Telefonaktiebolaget LM Ericsson (publ) | Video distribution control |
GB2527662B (en) * | 2015-05-12 | 2016-05-25 | Gamesys Ltd | Data synchronisation |
US20170006219A1 (en) | 2015-06-30 | 2017-01-05 | Gopro, Inc. | Image stitching in a multi-camera array |
US9930271B2 (en) | 2015-09-28 | 2018-03-27 | Gopro, Inc. | Automatic composition of video with dynamic background and composite frames selected based on frame criteria |
ES2629484B1 (es) * | 2016-02-09 | 2018-03-08 | Eloi MOLINAS LOMBART | Método y sistema de sincronización de vídeo y datos |
US9749738B1 (en) | 2016-06-20 | 2017-08-29 | Gopro, Inc. | Synthesizing audio corresponding to a virtual microphone location |
US10045120B2 (en) | 2016-06-20 | 2018-08-07 | Gopro, Inc. | Associating audio with three-dimensional objects in videos |
US10134114B2 (en) | 2016-09-20 | 2018-11-20 | Gopro, Inc. | Apparatus and methods for video image post-processing for segmentation-based interpolation |
US10313686B2 (en) | 2016-09-20 | 2019-06-04 | Gopro, Inc. | Apparatus and methods for compressing video content using adaptive projection selection |
US10003768B2 (en) | 2016-09-28 | 2018-06-19 | Gopro, Inc. | Apparatus and methods for frame interpolation based on spatial considerations |
US10136098B2 (en) | 2017-03-28 | 2018-11-20 | International Business Machines Corporation | Integrity verification of an audio-visual data stream |
US10489897B2 (en) | 2017-05-01 | 2019-11-26 | Gopro, Inc. | Apparatus and methods for artifact detection and removal using frame interpolation techniques |
GB2569547B (en) * | 2017-12-19 | 2021-05-12 | Samsung Electronics Co Ltd | Reconstruction of original images from modified images |
CN111382398B (zh) * | 2018-12-27 | 2023-11-14 | 阿里巴巴集团控股有限公司 | 信息处理、隐藏信息解析和嵌入的方法、装置及设备 |
CN116501744B (zh) * | 2023-06-30 | 2023-09-19 | 中国人民解放军国防科技大学 | 仿真数据的自动化建表与入库方法、装置和计算机设备 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1215907A3 (en) * | 2000-12-07 | 2006-04-26 | Sony United Kingdom Limited | Watermarking material and transferring watermarked material |
GB2369943A (en) * | 2000-12-07 | 2002-06-12 | Sony Uk Ltd | Perceptible modification of material |
US6912294B2 (en) * | 2000-12-29 | 2005-06-28 | Contentguard Holdings, Inc. | Multi-stage watermarking process and system |
JP4564753B2 (ja) * | 2002-02-06 | 2010-10-20 | ソニー ヨーロッパ リミテッド | ビットストリームの変更方法及び装置 |
US8601504B2 (en) * | 2002-06-20 | 2013-12-03 | Verance Corporation | Secure tracking system and method for video program content |
GB2394611A (en) * | 2002-10-21 | 2004-04-28 | Sony Uk Ltd | Metadata generation providing a quasi-unique reference value |
-
2005
- 2005-05-05 GB GB0509218A patent/GB2425906B/en not_active Expired - Fee Related
-
2006
- 2006-03-27 US US11/389,248 patent/US7965858B2/en not_active Expired - Fee Related
- 2006-05-08 JP JP2006129163A patent/JP2006325202A/ja active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016111534A (ja) * | 2014-12-08 | 2016-06-20 | 京セラドキュメントソリューションズ株式会社 | 画像形成装置 |
Also Published As
Publication number | Publication date |
---|---|
US20060251289A1 (en) | 2006-11-09 |
GB0509218D0 (en) | 2005-06-15 |
US7965858B2 (en) | 2011-06-21 |
GB2425906B (en) | 2011-04-06 |
GB2425906A (en) | 2006-11-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2006325202A (ja) | データ処理装置及びデータ処理方法 | |
JP4213592B2 (ja) | ウォーターマークの埋め込み | |
Langelaar et al. | Real-time labeling of MPEG-2 compressed video | |
JP5373909B2 (ja) | 圧縮ビデオにおける構文要素のcabac/avc準拠の透かし入れ | |
US7920713B2 (en) | Recorded video broadcast, streaming, download, and disk distribution with watermarking instructions | |
US6192138B1 (en) | Apparatus and method for embedding/unembedding supplemental information | |
TW503664B (en) | Method and apparatus for embedding data in encoded digital bitstreams | |
EP1139660B1 (en) | System for embedding additional information in video data, and embedding method | |
KR101240089B1 (ko) | 화상 부호화 장치 및 화상 복호화 장치 | |
US6842540B1 (en) | Surveillance system | |
JP2005510160A5 (ja) | ||
Langelaar et al. | Copy protection for multimedia data based on labeling techniques | |
US7630512B2 (en) | Method for performing recoverable video and image watermarking which survives block-based video and image compression | |
Zou et al. | H. 264 stream replacement watermarking with CABAC encoding | |
JP3325542B2 (ja) | ウォーターマーキングを用いたデジタル映像コーディング及びデコーディング装置並びにその方法 | |
JPH11355736A (ja) | 画像処理装置、画像処理方法及びコンピュ―タ読み取り可能な記憶媒体 | |
KR20050038020A (ko) | 결합된 비디오 디코더 및 워터마크 생성기 | |
JP2009534968A (ja) | デジタル透かし入れ方法 | |
US8243824B2 (en) | Information processing apparatus and method | |
US20060268989A1 (en) | Bit stream generation method and bit stream generatation apparatus | |
US9105299B2 (en) | Media data encoding apparatus and method | |
MXPA03001242A (es) | Metodo y dispositivo para detectar una marca de agua. | |
JP2004080094A (ja) | 情報処理装置及び情報処理方法並びにプログラム及びコンピュータ読み取り可能な記録媒体 | |
KR102036077B1 (ko) | 비저블 워터마크가 삽입되는 영상을 처리하는 방법 및 그 영상 처리 장치 | |
JP3655115B2 (ja) | 復号化装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20080418 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20080423 |