JP2004048567A - 信号処理装置およびその方法 - Google Patents
信号処理装置およびその方法 Download PDFInfo
- Publication number
- JP2004048567A JP2004048567A JP2002205665A JP2002205665A JP2004048567A JP 2004048567 A JP2004048567 A JP 2004048567A JP 2002205665 A JP2002205665 A JP 2002205665A JP 2002205665 A JP2002205665 A JP 2002205665A JP 2004048567 A JP2004048567 A JP 2004048567A
- Authority
- JP
- Japan
- Prior art keywords
- signal
- digital watermark
- image
- motion vector
- watermark signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Editing Of Facsimile Originals (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
- Image Processing (AREA)
- Television Systems (AREA)
Abstract
【課題】動きのある画像パターンを含む画像の画像信号に電子透かし信号を重畳する場合に、当該画像信号の画質劣化を抑制しながら、電子透かし信号を高い信頼性で検出可能な状態で当該画像信号に重畳できる信号処理装置を提供する。
【解決手段】デジタルビデオ信号DV01の動きベクトルMVを検出する動き検出部23と、デジタルビデオ信号DV02に対応した画像内で電子透かし信号WM2に対応した画像が視覚困難になるように、動きベクトルMVに基づいてデジタルビデオ信号WM1を変調して電子透かし信号WM2を生成する変調部24と、デジタルビデオ信号DV1に電子透かし信号WM2を重畳する加算部25とを有する。
【選択図】 図2
【解決手段】デジタルビデオ信号DV01の動きベクトルMVを検出する動き検出部23と、デジタルビデオ信号DV02に対応した画像内で電子透かし信号WM2に対応した画像が視覚困難になるように、動きベクトルMVに基づいてデジタルビデオ信号WM1を変調して電子透かし信号WM2を生成する変調部24と、デジタルビデオ信号DV1に電子透かし信号WM2を重畳する加算部25とを有する。
【選択図】 図2
Description
【0001】
【発明の属する技術分野】
本発明は、電子透かし信号を画像信号に重畳する信号処理装置およびその方法に関する。
【0002】
【従来の技術】
従来、光ディスク等の記録媒体や、放送局等より衛星波や地上波、ケーブル等の媒体を介して伝送されるコンテンツデータ等について、いわゆる電子透かしにより著作権の保護を図る方法が提案されている。この方法は、ビデオ信号やオーディオ信号等の再生に影響を与えない程度の微小な信号レベルにより、著作権に関するデータの変調信号等をビデオ信号やオーディオ信号等に重畳して記録するものである。画像、音声、データ等様々なデジタルコンテンツデータが劣化のない状態でコピーされたり配信されたりする可能性のあるデジタルネットワーク時代において、電子透かし技術はコンテンツデータ自身に情報を埋め込むことにより著作権を保護することのできる有力な技術である。
【0003】
例えばデジタルビデオ信号等の画像信号において、電子透かしを実現する手法について説明する。ここでは画像信号の持つ統計的な性質に基づいて、PN系列の乱数データを基本パターンとして電子透かしを埋め込む場合について考える。簡単のため輝度信号のフレーム画像データを水平サイズ8画素、垂直サイズ6画素とする。
そして、PN系列の乱数データPNを、例えば、下記式(1)のように規定する。
【0004】
【数1】
【0005】
この乱数データPNは統計的に総和が0になるように生成される。次に電子透かしデータDCをこのような性質を持つ乱数データPNによりスペクトラム拡散する。すなわち電子透かしデータDCの極性が“1”の場合には、乱数データPNのパターンをそのまま使用することにより、電子透かし信号WMは、下記式(2)のように規定される。
【0006】
【数2】
【0007】
また電子透かしデータDCの極性が“0”の場合には、乱数データPNのパターンを反転したものを使用することにより、電子透かし信号WMは、下記式(3)のように規定される。
【0008】
【数3】
【0009】
なお、電子透かしデータDCが複数の情報ビットから構成される場合には、例えば輝度信号に応じたフレーム画像を適当な小領域に分割し、各情報ビットをそれぞれの小領域に対応させればよい。また、例えば互いに直交するような複数の異なる電子透かしパターンを使用し、各情報ビットをそれぞれの電子透かしパターンに対応させればよい。また、これらの手法を組み合わせて使用してもよい。
【0010】
一方、デジタルビデオ信号等の画像信号において、近接する輝度信号は同程度の画素値を持つという性質から、輝度信号のデジタルビデオ信号DV1(フレーム画像データ)を、下記式(4)のように規定する。
【0011】
【数4】
【0012】
電子透かしの埋め込みは、デジタルビデオ信号DV1に電子透かし信号WMを加算することによって実現する。電子透かしデータDCの極性が“1”の場合には、電子透かしを埋め込んだデジタルビデオ信号DV2は、下記式(5)で示される。
【0013】
【数5】
【0014】
このようにして電子透かしを埋め込んだデジタルビデオ信号DV2から、電子透かしデータDCを検出するためには、埋め込み時と同一のPN系列の乱数データPNを使用する。
元の輝度信号のフレーム画像データDV1と乱数データPNとの内積値P1は、下記式(6)で示される。
【0015】
【数6】
【0016】
画像信号の持つ統計的な性質から内積値P1は0近傍の値となる。これに対して電子透かしを埋め込んだデジタルビデオ信号DV2と乱数データPNとの内積値P2は、電子透かしデータDCの極性が“1”の場合には、下記式(7)で示される。
【0017】
【数7】
【0018】
一方、デジタルビデオ信号DV2と乱数データPNとの内積値P2は、電子透かしデータ情報DCの極性が“0”の場合には、下記式(8)で示される。
【0019】
【数8】
【0020】
上記内積値P2の絶対値は、乱数データPN自身の内積値PN2近傍の値となる。元のデジタルビデオ信号DV1と乱数データPNの内積値P1および、電子透かしを埋め込んだデジタルビデオ信号DV2と乱数データPNの内積値P2を様々な画像に対して計算すると、内積値P1およびP2の分布は、図20に示すような確率密度関数で表現することができる。したがって、下記式(9)に示すように、適当な非負の閾値THを設定することにより、デジタルビデオ信号DV2から電子透かしデータDCを検出することができる。
【0021】
【数9】
【0022】
実際に電子透かしを実現する際には、電子透かし検出の信頼性と、電子透かしの画質に及ぼす影響の2点が重要なポイントである。
電子透かしの有無を正確に判別するためには、図20における“電子透かしあり”の場合の確率密度関数と、“電子透かしなし”の場合の確率密度関数の分離を精度良く行うような閾値THを設定しなければならない。しかし実際には確率密度関数の裾野が重なり合い、電子透かしの有無を正確に判別できるような閾値THの選択は難しい。
電子透かしが埋め込まれていないのに“電子透かしあり”と判断されてしまう確率を特にFalse Positiveと呼び、健全なコンテンツデータ流通を保証するためには極めて小さいFalse Positive値が要求される。したがって電子透かし検出の信頼性を向上するためには、下記式(10)に示すように、非負のスカラー量Cを用いて電子透かしの埋め込み強度を大きくし、下記式(11)に示すように、電子透かしを埋め込んだデジタルビデオ信号DV2と乱数データPNの内積値P2を十分に大きくすればよい。
【0023】
【数10】
【0024】
【数11】
【0025】
【発明が解決しようとする課題】
電子透かし検出の信頼性と電子透かしの画質に及ぼす影響とはトレードオフの関係にあり、検出精度を向上するために電子透かしの埋め込み強度を大きくすると画質の劣化が無視できないものになり、画質に及ぼす影響を抑制するために電子透かしの埋め込み強度を小さくすると検出の信頼性が確保できなくなる。
電子透かしの重畳・検出に際しては様々な方式が提案されているが、信頼性の高く安定した検出特性と劣化を知覚できないレベルの画質特性は未だ達成されておらず、これらを両立した電子透かし埋め込み方法を効果的に実現する必要がある。
ところで、人間の視覚が静止している電子透かしパターンを感知しやすいような画像信号の動き量が存在し、画像信号の動きがこれらの中間程度の場合には、人間の目が画像信号の動きに追従しながらも静止している電子透かしパターンを感知できる範囲になる。これにより動きのある画像信号においては、画面全体が動く場合には画面全体にわたって、一部の物体が動く場合にはその物体の近傍において、静止している電子透かしパターンが容易に知覚される状態になり、電子透かしの画質に及ぼす影響は無視できないものになってしまう。このためこのような動きのある画像信号においては、人間の視覚特性を考慮して電子透かしの画質に及ぼす影響を効果的に抑制する必要がある。
【0026】
本発明は、動きのある画像パターンを含む画像の画像信号に電子透かし信号を重畳する場合に、当該画像信号の画質劣化を抑制しながら、電子透かし信号を高い信頼性で検出可能な状態で当該画像信号に重畳できる信号処理装置およびその方法を提供する。
【0027】
【課題を解決するための手段】
上記の目的を達成するために、第1の発明の信号処理装置は、画像信号の動きベクトルを検出する検出手段と、前記画像信号に電子透かし信号を重畳した信号に対応した画像内で前記電子透かし信号に対応した画像が視覚困難になるように、前記動きベクトルに基づいて、前記電子透かし信号を変調する変調手段と、前記変調手段で変調された前記電子透かし信号を前記画像信号に重畳する重畳手段とを有する。
【0028】
第1の発明の信号処理装置の作用は以下のようになる。
検出手段が、画像信号の動きベクトルを検出する。
次に、変調手段が、前記画像信号に電子透かし信号を重畳した信号に対応した画像内で前記電子透かし信号に対応した画像が視覚困難になるように、前記動きベクトルに基づいて、前記電子透かし信号を変調する。
次に、重畳手段が、前記変調手段で変調された前記電子透かし信号を前記画像信号に重畳する。
【0029】
第1の発明の信号処理装置は、好ましくは、前記変調手段は、前記検出手段が検出した前記動きベクトルの水平成分が大きくなるに従って前記電子透かし信号の水平周波数成分を減衰率を高め、前記動きベクトルの垂直成分が大きくなるに従って前記電子透かし信号の垂直周波数成分を減衰率を高めるように、前記電子透かし信号を変調する。
【0030】
第2の発明の信号処理装置は、画像信号によって規定される画像内の予め決められた区分けされた複数の領域毎に動きベクトルを検出する検出手段と、前記画像信号に電子透かし信号を重畳した信号に対応した画像内で前記電子透かし信号に対応した画像が視覚困難になるように、前記複数の領域毎に当該領域の前記動きベクトルに基づいて前記電子透かし信号を変調する変調手段と、前記変調手段で変調された前記電子透かし信号を前記画像信号に重畳する重畳手段とを有する。
【0031】
第2の発明の信号処理装置の作用は以下のようになる。
検出手段が、画像信号によって規定される画像内の予め決められた区分けされた複数の領域毎に動きベクトルを検出する。
次に、変調手段が、前記画像信号に電子透かし信号を重畳した信号に対応した画像内で前記電子透かし信号に対応した画像が視覚困難になるように、前記複数の領域毎に当該領域の前記動きベクトルに基づいて前記電子透かし信号を変調する。
次に、重畳手段が、前記変調手段で変調された前記電子透かし信号を前記画像信号に重畳する。
【0032】
第3の発明の信号処理装置は、画像信号によって規定される画像内のオブジェクト毎に動きベクトルを検出する検出手段と、前記画像信号に電子透かし信号を重畳した信号に対応した画像内で前記電子透かし信号に対応した画像が視覚困難になるように、前記オブジェクト毎に当該オブジェクトの前記動きベクトルに基づいて、前記電子透かし信号を変調する変調手段と、前記変調手段で変調された前記電子透かし信号を前記画像信号に重畳する重畳手段とを有する。
【0033】
第3の発明の信号処理装置の作用は以下のようになる。
検出手段、画像信号によって規定される画像内のオブジェクト毎に動きベクトルを検出する。
次に、変調手段が、前記画像信号に電子透かし信号を重畳した信号に対応した画像内で前記電子透かし信号に対応した画像が視覚困難になるように、前記オブジェクト毎に当該オブジェクトの前記動きベクトルに基づいて、前記電子透かし信号を変調する。
次に、重畳手段が、前記変調手段で変調された前記電子透かし信号を前記画像信号に重畳する。
【0034】
第4の発明の信号処理方法は、画像信号の動きベクトルを検出する第1の工程と、前記画像信号に電子透かし信号を重畳した信号に対応した画像内で前記電子透かし信号に対応した画像が視覚困難になるように、前記動きベクトルに基づいて、前記電子透かし信号を変調する第2の工程と、前記第2の工程で変調された前記電子透かし信号を前記画像信号に重畳する第3の工程とを有する。
【0035】
第5の発明の信号処理方法は、画像信号によって規定される画像内の予め決められた区分けされた複数の領域毎に動きベクトルを検出する第1の工程と、前記画像信号に電子透かし信号を重畳した信号に対応した画像内で前記電子透かし信号に対応した画像が視覚困難になるように、前記複数の領域毎に当該領域の前記動きベクトルに基づいて前記電子透かし信号を変調する第2の工程と、前記第2の工程で変調された前記電子透かし信号を前記画像信号に重畳する第3の工程とを有する。
【0036】
第6の発明の信号処理方法は、画像信号によって規定される画像内のオブジェクト毎に動きベクトルを検出する第1の工程と、前記画像信号に電子透かし信号を重畳した信号に対応した画像内で前記電子透かし信号に対応した画像が視覚困難になるように、前記オブジェクト毎に当該オブジェクトの前記動きベクトルに基づいて、前記電子透かし信号を変調する第2の工程と、前記第2の工程で変調された前記電子透かし信号を前記画像信号に重畳する第3の工程とを有する。
【0037】
【発明の実施の形態】
第1実施形態
本実施形態は、第1および第4の発明に対応している。
以下、本発明の実施形態に係わる著作権保護システムについて説明する。
図1は、本実施形態の著作権保護システム101の全体構成図である。
図1に示す著作権保護システム101では、例えば、ビデオソースであるデジタルビデオ信号DV01を放送局等より衛星波や地上波、ケーブル等の媒体を介して送信する場合に、電子透かし埋込装置1が、デジタルビデオ信号DV01に電子透かしデータDC0を付加(重畳)して生成したデジタルビデオ信号DV02を送信する。
電子透かしデータDC0はビデオソースの著作権情報等を示し、例えば、“CopyOnce”(1回コピー可)を示している。
また、電子透かし埋込装置1は、例えば、”NeverCopy”(コピー不可)を示す電子透かしデータDC0をデジタルビデオ信号DV01に付加したデジタルビデオ信号DV05を光ディスク8に記録する。
【0038】
デジタルビデオ信号DV02がセットトップボックス等により受信されると、例えば、録画機器2に内蔵された電子透かし検出装置3によって、デジタルビデオ信号DV02に埋め込まれた電子透かし信号DC0が検出され、検出された電子透かし信号DC0が“CopyOnce”(1回コピー可)を示す場合に、録画機器2に内蔵された電子透かし書換装置4により、電子透かし信号DC0を書き換えたデジタルビデオ信号DV04を光ディスク5に記録する。
ここで書き換えられた電子透かし信号DC0はビデオソースの著作権情報等により構成され、“NoMoreCopy”(これ以上のコピー禁止)を示す。
【0039】
録画機器6は、このようにして得られた光ディスク5,8に記録されたデジタルビデオ信号DV04,DV05を再生して、当該デジタルビデオ信号に重畳された電子透かし信号DC0を検出し、電子透かし信号DC0が“NoMoreCopy”あるいは”NeverCopy”を示す場合には、再生したデジタルビデオ信号を光ディスク7に記録するのを中止し、これによりコピー世代を管理する。
【0040】
著作権保護システム101では、電子透かし埋込装置1が、デジタルビデオ信号DV01の動きベクトルMVを検出し、当該動きベクトルMVに基づいて、デジタルビデオ信号DV01に電子透かし信号を重畳した信号による画像内で当該電子透かし信号による画像が視覚困難になるように、電子透かし信号を変調し、当該変調された電子透かし信号をデジタルビデオ信号DV01に重畳してデジタルビデオ信号DV02を生成する。
また、電子透かし埋込装置1が同様に、デジタルビデオ信号DV05を生成する。
また、電子透かし書換装置4も同様に、書き換えた電子透かし信号を変調し、当該変調された電子透かし信号をデジタルビデオ信号DV02に重畳してデジタルビデオ信号DV04を生成する。
【0041】
様々な速さで動く画像パターン(絵柄)を含むデジタルビデオ信号に対して、静止している電子透かしパターンの電子透かし信号を重畳する場合について考える。
このように動いている画像パターンと静止している電子透かしパターンが同時に存在する画像においては、人間の視覚特性は動いている画像パターンの動きの大きさに依存する。
画像パターンが静止しているか、もしくは画像パターンの動きが極めて小さい場合には、人間の目には画像パターンおよび電子透かしパターンの双方が静止しているように認識されるため、電子透かしパターンによる画質の劣化を知覚しにくくなる。
また、画像パターンの動きが極めて大きい場合には、人間の目は画像パターンの動きに追従して静止している電子透かしパターンを感知できなくなり、電子透かしパターンによる画質の劣化を知覚しにくくなる。
【0042】
これらに対して、人間の視覚が静止している電子透かしパターンを感知しやすいような画像パターンの動き量が存在する。
すなわち、画像パターンの動きが中間程度の場合には、人間の目が画像パターンの動きに追従しながらも静止している電子透かしパターンを感知できる範囲になる。
これにより、画面全体が動く場合には画面全体にわたって、一部の物体が動く場合にはその物体の近傍において、静止している電子透かしパターンが容易に知覚される状態になり、電子透かしの画質に及ぼす影響は無視できないものになってしまう。
著作権保護システム101では、電子透かし埋込装置1および電子透かし書換装置4が、デジタルビデオ信号DV01,DV03の動きベクトルMVを検出し、当該動きベクトルMVに基づいて、電子透かし信号WMを変調してデジタルビデオ信号DV01,DV03に重畳することで、電子透かしの埋込強度を適切に保ちながら、電子透かしの画質に及ぼす影響を抑制する。
【0043】
〔電子透かし埋込装置1〕
図2は、図1に示す電子透かし埋込装置1の機能ブロック図である。
図2に示すように、電子透かし埋込装置1は、例えば、PN生成部21、乗算部22、動き検出部23、変調部24および加算部25を有する。
動き検出部23が本発明の検出手段に対応し、変調部24が本発明の変調手段に対応し、加算部25が本発明の重畳手段に対応している。
また、PN生成部21および乗算部22が本発明の信号生成手段に対応している。
【0044】
PN生成部21は、PN系列の乱数データPNを生成し、これを乗算部22に出力する。
乗算部22は、乱数データPNを用いて電子透かしデータDC0をスペクトラム拡散して電子透かし信号WM1を生成し、これを変調部24に出力する。
これにより、解析困難な電子透かしパターンWM1が生成される。
【0045】
動き検出部23は、順次入力されるデジタルビデオ信号DV01に対して画像の動き検出を行って動きベクトルMV=(MVx,MVy)を生成し、これを変調部24に出力する。
動き検出部23による動き検出は人間の視覚特性を考慮した画像分析手法を基に行われ、動画像符号化の国際標準規格MPEG2(Moving Picture Experts Group−2)やサンプリングレート変換等に用いられる。
【0046】
変調部24は、動き検出部23から入力した動きベクトルMVを基に、人間の視覚特性を考慮して、デジタルビデオ信号DV2に対応した画像内で電子透かし信号WM2に対応した画像が視覚困難になるように、電子透かし信号WM1を変調して電子透かし信号WM2を生成し、これを加算部25に出力する。
具体的には、変調部24は、動きベクトルMV(=(MVx,MVy))の水平成分MVxが大きくなるに従って電子透かし信号WM1の水平周波数成分(MVxの方向に対して垂直に生じるパターンの成分)の減衰率を高め、動きベクトルMVの垂直成分MVyが大きくなるに従って電子透かし信号WM1の垂直周波数成分(MVyの方向に対して垂直に生じるパターンの成分)のを減衰率を高めるように、電子透かし信号WM1を変調する。
例えば、変調部24は、水平方向成分MVxが値を有する場合には電子透かし信号WM1の水平周波数成分を減衰させ、垂直方向成分MVyが値を有する場合には電子透かし信号WM1の垂直周波数成分を減衰させる。
これにより、デジタルビデオ信号DV01に重畳されたときに、電子透かしパターンを人間の目に感知しにくくできる。
【0047】
図3および図4は、デジタルビデオ信号DV01が規定するフレーム画像内の画像パターンが水平方向にシフトする場合の動きベクトル検出、並びに電子透かし信号の変調を説明するための概念図である。
この例は走行している車と背景の家や木、そしてさらに後方の景色といった具合に、フレーム画像内の複数の画像パターンのそれぞれに動きベクトルMVが存在している。
時間的に連続する図3(a)に示すフレーム画像と、図3(b)に示すフレーム画像とに対して動きベクトル検出を行うと、動きベクトルMVは図3(c)に示すように面積比が大きい物体(画像パターン)の動きベクトルになる。
このような図3(a),(b)に示すフレーム画像のデジタルビデオ信号DV01に、スペクトラム拡散された図3(d)に示す電子透かしパターンの電子透かし信号WM1をそのまま重畳すると、動きベクトルMVの方向に動く絵柄の近傍において静止している図3(d)に示す電子透かしパターンが容易に知覚される状態になり、電子透かしの画質に及ぼす影響は無視できないものになってしまう。
例えば、図3(a),(b)に示す動きベクトル方向に動く車や地平線上において、特に動きベクトルに垂直に生じる電子透かしパターンが縦縞状のアーティファクトとなって現れ、画質の劣化を引き起こす。
【0048】
変調部24は、このような画質劣化を抑制するため、デジタルビデオ信号DV01の動きベクトルMVに基づいて、電子透かし信号WM1を以下に示すように変調する。
すなわち、図3(d)に示す電子透かしパターンの電子透かし信号WM1を、図4(e)に示すパターンを生じる水平周波数成分と、図4(f)に示すパターンを生じる垂直周波数成分とに分離することができた場合に、変調部24は、動きベクトルMV=(MVx,MVy)の成分と大きさに応じて電子透かし信号WM1の水平周波数成分と垂直周波数成分とをそれぞれ独立に変調する。
【0049】
図4の例においては動きベクトルV=(MVx,0)であるから、変調部24は、電子透かしパターンの図4(e)に示す水平周波数成分を図4(g)に示すようにゼロに変調する。あるいは、変調部24は、MVxの大きさに応じて当該水平周波数成分を減衰する等の制御を行う。
一方、MVy=0であるから、変調部24は、電子透かしパターンの図4(f)に示す垂直周波数成分を変調しない。あるいは、変調部24は、電子透かし信号の水平周波数成分での減衰量を補償するために、図4(h)に示すように、当該垂直周波数成分を増幅してもよい。
このようにすれば、画像信号の動きベクトルに垂直なパターンを生じる電子透かし成分のみを適応的に減衰することができ、人間の目に感知しにくくなるように電子透かしを埋め込むことが可能になり、電子透かしの画質に及ぼす影響を効果的に抑えることができる。
また減衰させた埋め込み量を動きベクトルに平行なパターンを生じる電子透かし成分に再配分することにより、全体の埋め込み強度を一定に保持して電子透かし検出の信頼性を確保することが可能になる。
【0050】
図5は、図2に示す変調部24の機能ブロック図である。
図5に示すように、変調部24は、例えば、フィルタ係数制御部31、水平フィルタ部32および垂直フィルタ部33を有する。
フィルタ係数制御部31は、図2に示す動き検出部23から入力した動きベクトルMV=(MVx,MVy)に応じてフィルタ係数Cx,Cyを生成し、フィルタ係数Cxを水平フィルタ部32に出力し、フィルタ係数Cyを垂直フィルタ部33に出力する。
ここで、フィルタ係数CxおよびCyは、それぞれ水平フィルタ部32および垂直フィルタ部33の周波数特性を決定するパラメータ群であり、例えば遮断周波数(カットオフ周波数)やタップ長(遮断帯域の急峻度)等である。
具体的には、フィルタ係数制御部31は、動きベクトルMV(=(MVx,MVy))の水平周波数成分MVxが大きくなるに従って電子透かし信号WM1の水平周波数成分を減衰率を高めるようにフィルタ係数Cxを決定し、動きベクトルMVの垂直周波数成分MVyが大きくなるに従って電子透かし信号WM1の垂直周波数成分を減衰率を高めるようにフィルタ係数Cyを決定する。
【0051】
図6は、フィルタ係数制御部31によるフィルタ係数Cx,Cyの決定方法を説明するための図である。
フィルタ係数制御部31は、図6に示すように、フィルタ係数Cx,Cyを用いて、水平フィルタ部32および垂直フィルタ部33のカットオフ周波数を制御する。
例えば、フィルタ係数制御部31は、動きベクトルMVの水平成分MVxが大きくなるに従って水平フィルタ部32のカットオフ周波数が小さくなるように、フィルタ係数Cxを決定する。
また、フィルタ係数制御部31は、動きベクトルMVの垂直成分MVyが大きくなるに従って垂直フィルタ部33のカットオフ周波数が小さくなるように、フィルタ係数Cyを決定する。
また、図7に示すように、フィルタ係数制御部31は、フィルタ係数Cx,Cyを用いて水平フィルタ部32および垂直フィルタ部33のタップを指定して、水平フィルタ部32および垂直フィルタ部33のフィルタ特性を制御してもよい。
【0052】
水平フィルタ部32は、図2に示す乗算部22から入力した電子透かし信号WM1の水平周波数成分を、フィルタ係数制御部31から入力したフィルタ係数Cxに応じたカットオフ周波数でフィルタ処理して電子透かし信号WM1’を生成し、これを垂直フィルタ部33に出力する。
垂直フィルタ部33は、水平フィルタ部32から入力した電子透かし信号WM1の垂直周波数成分を、フィルタ係数制御部31から入力したフィルタ係数Cyに応じたカットオフ周波数でフィルタ処理して電子透かし信号WM2を生成し、これを図2に示す加算部25に出力する。
【0053】
加算部25は、変調部24から入力した電子透かし信号WM2をデジタルビデオ信号DV01に加算(重畳)してデジタルビデオ信号DV02を生成する。
デジタルビデオ信号DV02は、前述したように、変調されて放送されたり、光ディスク8に書き込まれる。
【0054】
以下、図2に示す電子透かし埋込装置1の動作例を説明する。
図8は、当該動作例を説明するためのフローチャートである。
ステップSP11:
PN生成部21が、PN系列の乱数データPNを生成する。
ステップSP12:
乗算部22が、PN生成部21が生成したPN系列の乱数データPNを用いて、電子透かしデータDC0をスペクトラム拡散して電子透かし信号WM1を生成し、これを変調部24に出力する。
ステップSP13:
動き検出部23が、デジタルビデオ信号DV01内の連続したフレーム画像データを読み込む。
【0055】
ステップSP14:
動き検出部23が、ステップSP13で読み込まれたフレーム画像データの動き検出を行って動きベクトルMV=(MVx,MVy)を生成し、これを変調部24に出力する。
ステップSP15:
変調部24のフィルタ係数制御部31が、前述したように、ステップSP14で入力した動きベクトルMV=(MVx,MVy)に応じてフィルタ係数Cx,Cyを生成し、フィルタ係数Cxを水平フィルタ部32に出力し、フィルタ係数Cyを垂直フィルタ部33に出力する。
ステップSP16:
変調部24の水平フィルタ部32および垂直フィルタ部33が、ステップSP15で入力したフィルタ係数Cx,Cyを基に電子透かし信号WM1をフィルタ処理(変調)して電子透かし信号WM2を生成し、これを図2に示す加算部25に出力する。
【0056】
ステップSP17:
図2に示す加算部25が、変調部24から入力した電子透かし信号WM2をデジタルビデオ信号DV01(フレーム画像データ)に加算(重畳)してデジタルビデオ信号DV02を生成する。
ステップSP18:
電子透かし埋込装置1が、ステップSP17で生成したデジタルビデオ信号DV02を、送信したり、光ディスク8に書き込む。
ステップSP19:
電子透かし埋込装置1が、デジタルビデオ信号DV01の入力が終了したと判断した場合には処理を終了し、そうでない場合にはステップSP13の処理に戻る。
【0057】
〔電子透かし書換装置4〕
電子透かし書換装置4は、基本的に前述した電子透かし埋込装置1と同じ構成を有し、電子透かし検出装置3で検出された電子透かしデータに基づいて、所定の電子透かしデータをデジタルビデオ信号に重畳する。
【0058】
〔電子透かし検出装置3〕
電子透かし検出装置3は、前述したように、デジタルビデオ信号DV02,DV04,DV05に重畳された電子透かし信号WM2を検出する。
図9は、電子透かし検出装置3の機能ブロック図である。
図9に示すように、電子透かし検出装置3は、PN生成部41、内積演算部42および比較判定部43を有する。
PN生成部41は、PN生成部21と同じPN系列の乱数データPNを生成し、これを内積演算部42に出力する。
内積演算部42は、入力したデジタルビデオ信号DV02,DV04,DV05に対して乱数データPNとの内積値を計算し、内積値Sを出力する。
比較判定部43は、この内積値Sを最適に設定した閾値と比較することにより、電子透かし情報DC0の有無、さらには埋め込まれた電子透かしデータDC0の極性を判定する。
すなわち、比較判定部43は、非負の閾値THを用いて、下記式(12)で示される判定基準で判定を行い、判定した電子透かしデータDC0を出力する。
【0059】
【数12】
【0060】
以下、図9に示す電子透かし検出装置3の動作例を説明する。
図10は、当該動作例を説明するためのフローチャートである。
ステップSP51:
PN生成部41が、PN生成部21と同じPN系列の乱数データPNを生成し、これを内積演算部42に出力する。
ステップSP52:
内積演算部42が、入力したデジタルビデオ信号DV02,DV04,DV05内のフレーム画像データを読み込む。
ステップSP53:
内積演算部42が、ステップSP52で読み込まれたフレーム画像データに対して、ステップSP51で入力された乱数データPNとの内積値を計算し、内積値Sを比較判定部43に出力する。
【0061】
ステップSP54:
比較判定部43が、ステップSP53で入力した内積値Sを最適に設定した閾値と比較することにより、電子透かし情報DC0の有無、さらには埋め込まれた電子透かしデータDC0の極性を判定(検出)する。
ステップSP55:
比較判定部43が、ステップSP54で判定(検出)した電子透かしデータDC0を出力する。
ステップSP56:
電子透かし検出装置3が、デジタルビデオ信号DV02,DV04,DV05の入力が終了したか否かを判断し、終了したと判断した場合には処理を終了し、そうでない場合にはステップSP52の処理に戻る。
【0062】
図1に示す録画機器2では、電子透かし検出装置3において検出された電子透かしデータDC0が”CopyOnce”を示す場合に、電子透かし書換装置4に”NoMoreCopy”を示すように指示する。
また、録画機器6は、電子透かし検出装置3において検出された電子透かしデータDC0が”NeverCopy”を示す場合に、光ディスク5,8から読み出したデジタルビデオ信号DV04,DV05を光ディスク7に記録することを禁止する(コピー制限する)。
【0063】
以下、図1に示す著作権保護システム101の全体動作例を説明する。
例えば、ビデオソースであるデジタルビデオ信号DV01が放送局等より衛星波や地上波、ケーブル等の媒体を介して送信される。
そして、電子透かし埋込装置1が、デジタルビデオ信号DV01に電子透かしデータDC0を付加して生成したデジタルビデオ信号DV02を送信する。
電子透かしデータDC0はビデオソースの著作権情報等を示し、例えば、“CopyOnce”(1回コピー可)を示している。
また、電子透かし埋込装置1は、例えば、”NeverCopy”を示す電子透かしデータDC0をデジタルビデオ信号DV01に付加したデジタルビデオ信号DV05を光ディスク8に記録する。
このとき、電子透かし埋込装置1が、電子透かし信号DC0を用いて電子透かし信号WM1を生成すると共に、デジタルビデオ信号DV01の動きベクトルMVを検出する。
そして、電子透かし埋込装置1が、当該動きベクトルMVに基づいて、デジタルビデオ信号DV01に電子透かし信号WMを重畳した信号による画像内で電子透かし信号WMによる画像が視覚困難になるように、電子透かし信号WMを変調し、当該電子透かし信号WMをデジタルビデオ信号DV01に重畳してデジタルビデオ信号DV02を生成して送信する。
また、電子透かし埋込装置1が同様に、デジタルビデオ信号DV05を生成して光ディスク8に記録する。
【0064】
デジタルビデオ信号DV02がセットトップボックス等により受信されると、例えば、録画機器2に内蔵された電子透かし検出装置3によって、デジタルビデオ信号DV02に埋め込まれた電子透かしデータDC0が検出され、検出された電子透かしデータDC0が“CopyOnce”を示す場合に、録画機器2に内蔵された電子透かし書換装置4により、電子透かし信号DC0を書き換えたデジタルビデオ信号DV04を光ディスク5に記録する。
ここで書き換えられた電子透かし信号DC0はビデオソースの著作権情報等により構成され、“NoMoreCopy”(コピー禁止)を示す。
【0065】
一方、録画機器6は、このようにして得られた光ディスク5,8に記録されたデジタルビデオ信号DV04,DV05を再生して、前述したように、当該デジタルビデオ信号に付加された電子透かしデータDC0を検出し、電子透かし信号DC0が“NoMoreCopy”あるいは”NeverCopy”を示す場合には、再生したデジタルビデオ信号を光ディスク7に記録するのを中止し、これによりコピー世代を管理する。
【0066】
以上に説明したように、電子透かし埋込装置1および電子透かし書換装置4によれば、入力したデジタルビデオ信号を処理する際に、入力した時間的に連続するフレーム画像データから構成されるデジタルビデオ信号に対して動きベクトルMVの検出を行い、検出された動きベクトルMVに基づいて電子透かし信号を対応する周波数成分毎に適応的に変調することにより、フレーム画像データの動きベクトルに垂直なパターンとして現れる電子透かし成分のみを適応的に減衰することができる。
そのため、電子透かし埋込装置1および電子透かし書換装置4によれば、人間の目に感知しにくくなるようにデジタルビデオ信号に電子透かし信号を重畳することが可能になり、電子透かしが画質に及ぼす影響を効果的に抑制することができる。
また、電子透かし埋込装置1および電子透かし書換装置4によれば、減衰させた埋め込み量を画像信号の動きベクトルに平行な電子透かし成分に再配分することにより、全体の埋め込み強度を一定に保持して電子透かし検出装置3による電子透かし検出の信頼性を確保することが可能になる。
これらにより、デジタルネットワーク時代のコンテンツ配信において、画質劣化の少なく信頼性の高い著作権保護システムを構築することが可能になる。
【0067】
第2実施形態
本実施形態は、第2および第5の発明に対応している。
上述した第1実施形態では、図3および図4を用いて説明したように、図2に示す動き検出部23における動きベクトルMVの検出、並びに変調部24における電子透かし信号WM1の変調を、フレーム画像データ全体を対象として検出した動きベクトルを用いて行う場合を例示した。
本実施形態の電子透かし埋込装置1aは、図2に示す動き検出部23における動きベクトルMVの検出、並びに変調部24における電子透かし信号WM1の変調を、フレーム画像データ内に規定された複数のブロックについて各ブロックを単位として行う。電子透かし埋込装置1aのその他の機能は、第1実施形態で説明した電子透かし埋込装置1と同じだといえる。
【0068】
図11および図12は、本実施形態の電子透かし埋込装置1aによる処理を説明するための図である。
例えば、図11(a),(b)に示すようにデジタルビデオ信号DV01内の2枚のフレーム画像データ間で動きベクトルMVを検出する場合に、動き検出部23aは、図11(a),(b)のフレーム画像データを、図11(c),(d)に示すように、3×3の6枚のブロックに分割して各ブロック毎に動きベクトルMVの検出を行う。
この場合に、動き検出部23aが検出した各ブロックの動きベクトルMV(=(MVx,MVy))は、例えば、図12(e)のようになる。
そして、変調部24が、図12(e)に示す各ブロックの動きベクトルMVを基に、図12(f)示すようにスペクトラム拡散された電子透かし信号WM1を各ブロック毎にデジタルビデオ信号DV01に重畳する。
変調部24aは、各ブロックに対して検出された動きベクトルV=(Vx,Vy)の成分と大きさに応じて、第1実施形態と同様に、図12(f)に示す電子透かしパターンの水平周波数成分と垂直周波数成分とを各ブロック毎に、電子透かし信号に対応した画像がデジタルビデオ信号DV2に応じた画像内で視覚困難になるように電子透かし信号WM1を変調して電子透かし信号WM2を生成する。
【0069】
図11および図12に示す例においては、車の画像パターンが含まれるブロックでは動きベクトルV=(Vx,0)(Vx:大)であるから、変調部24aは、電子透かしパターンの水平周波数成分をゼロにし、水平周波数成分での減衰量を補償するために垂直周波数成分を増幅する等の制御を行う。
また、家や木の画像パターンが含まれるブロックでは動きベクトルV=(Vx,0)(Vx:小)であるから、変調部24aは、電子透かしパターンの水平周波数成分を減衰し、電子透かしパターンの垂直周波数成分を変調しない等の制御を行う。
さらに、その他のブロックでは動きベクトルV=(Vx,0)(Vx≒0)またはV=(0,0)であるから、変調部24aは、このようなブロックは静止画像であると見なして図12(f)に示す電子透かしパターンをそのままデジタルビデオ信号DV01に重畳する等の制御を行う。
これにより、このように各ブロック毎に適応的な変調を行った電子透かしパターンの水平周波数成分および垂直周波数成分は、それぞれ図12(g),(h)に示すようになる。
【0070】
第3実施形態
本実施形態は、第3および第6の発明に対応している。
本実施形態では、電子透かし埋込装置1において、デジタルビデオ信号DV01のフレーム画像データを、上述した第2実施形態よりも細密なブロックに分割し、分割を行った上で、複数のブロックから構成されるオブジェクトを特定し、当該オブジェクト毎に動きベクトルの検出、並びに電子透かし信号の変調処理を行う。
【0071】
図13および図14は、本実施形態における動き検出部23および変調部24の処理を説明するための図である。
例えば、図13(a),(b)に示すようにデジタルビデオ信号DV01内の2枚のフレーム画像データ間で動きベクトルMVを検出する場合に、動き検出部23bは、図13(a),(b)のフレーム画像データを、例えば、フレーム画像データ内の種々の画像パターンを特定可能な程度に小さいブロックを単位として分割し、図13(c),(d)に示すように、複数のブロックを組み合わせて各画像パターンを特定する。
そして、動き検出部23bが、図14(e)に示すように、当該特定された画像パターン毎に動きベクトルMV(=(MVx,MVy))の検出を行う。
そして、変調部24bが、図14(e)に示す各画像パターンの動きベクトルMVを基に、図14(f)に示すようにスペクトラム拡散された電子透かしパターンを各画像パターン毎にデジタルビデオ信号DV01に重畳する。
変調部24bは、各画像パターンに対して検出された動きベクトルMV=(MVx,MVy)の成分と大きさに応じて、第1実施形態と同様に、図14(f)に示す電子透かしパターンの水平周波数成分と垂直周波数成分とを各画像パターン毎に、電子透かし信号に対応した画像がデジタルビデオ信号DV2に応じた画像内で視覚困難になるように、電子透かし信号WM1を変調して電子透かし信号WM2を生成する。
【0072】
図13および図14の例においては車のオブジェクトでは動きベクトルMV=(MVx,0)(MVx:大)であるから、変調部24bは、電子透かしパターンの水平周波数成分をゼロにし、水平周波数成分での減衰量を補償するために垂直周波数成分を増幅する等の制御を行う。
また、家や木のオブジェクトでは動きベクトルMV=(MVx,0)(MVx:小)であるから、変調部24は、電子透かしパターンの水平周波数成分を減衰し、電子透かしパターンの垂直周波数成分を変調しない等の制御を行う。
さらに、その他の領域では動きベクトルMV=(MVx,0)(MVx≒0)またはMV=(0,0)であるから、変調部24bは、このような領域は静止画像であると見なして図14(f)に示す電子透かしパターンをそのままデジタルビデオ信号DV01に重畳する等の制御を行う。
このように各オブジェクト毎に適応的な変調を行った電子透かしパターンの水平周波数成分および垂直周波数成分は、例えば、それぞれ図14(g),(h)のようになる。
【0073】
上述したように、本実施形態の電子透かし埋込装置1bによれば、デジタルビデオ信号DV01に対してブロック分割等の前処理を施した上で動き検出と適応処理を行うことで、各オブジェクトに対して検出された動きベクトルに基づいて電子透かしパターンを各オブジェクト毎に適応的に変調することができる。
これにより、複数の動きベクトルが存在するようなデジタルビデオ信号DV01に対しても動きベクトルMVの向きと大きさに応じて適応的に電子透かしを埋め込むことが可能になる。
そのため、電子透かし埋込装置1bによれば、デジタルビデオ信号DV01の動きベクトルに垂直な電子透かし成分のみを適応的に減衰することができ、人間の目に感知しにくくなるように電子透かしを埋め込むことが可能になり、電子透かしの画質に及ぼす影響を効果的に抑えることができる。また、第1実施形態で説明したように、減衰させた埋め込み量を画像信号の動きベクトルに平行な電子透かし成分に再配分することにより、全体の埋め込み強度を一定に保持して電子透かし検出の信頼性を確保することが可能になる。
【0074】
第4実施形態
上述した第1実施形態では、図6に示すように、動きベクトルMVに基づいて各フィルタのフィルタ係数を制御することで、電子透かし信号WM1の垂直周波数成分および水平周波数成分を変調する場合を例示した。
本実施形態では、電子透かし信号MW1をFFT処理して変調する場合を例示する。
図15は、本実施形態における図2に示す変調部24cの機能ブロック図である。
本実施形態の電子透かし埋込装置は、変調部24cの構成を除いて、第1実施形態の電子透かし埋込装置1と同じ構成を有している。
【0075】
図15に示すように、本実施形態の変調部24cは、例えば、FFT(Fast Fourier Transformation) 部34、FFT係数制御部35およびIFFT(Inverse
FFT) 部36を有する。
FFT部34は、電子透かし信号WM1に対してFFT演算を施し、FFT係数DS1を出力する。すなわち、FFT部34は、電子透かし信号WM1を周波数領域に変換する。
FFT係数制御部35は、動き検出部23から入力した動きベクトルMV=(MVx,MVy)に応じてFFT係数DS1を適応的に制御し、変調後のFFT係数DS2を出力する。
IFFT部36は、FFT係数制御部35から入力したFFT係数DS2にIFFT演算を施して電子透かし信号WM2を生成し、これを図2に示す加算部25に出力する。
【0076】
図16および図17は、本実施形態の変調部24cのFFT係数制御部35の処理を説明するための図である。
図16および図17において、横軸は電子透かし信号WM1の水平周波数成分の値を示し、縦軸は電子透かし信号WM1の垂直周波数成分の値を示している。そして、縦軸と横軸とによって規定される位置に表示されたパターンは、対応する水平周波数成分および垂直周波数成分を持つ電子透かし信号のパターンを示している。
図16および図17に示すように、原点から離れて周波数が高くなるほど上記パターンの縞模様が細かくなっている。
【0077】
図15に示すFFT係数制御部35は、動きベクトルMV=(MVx,MVy)に応じて電子透かし信号WM1の水平周波数成分および垂直周波数成分を周波数空間において適応的にフィルタ処理する場合に、FFT係数DS1の高周波成分側から減衰するように制御することにより、人間の視覚特性を考慮したFFT係数DS2を出力する。
FFT係数制御部35は、例えば、動きベクトルMVの水平成分MVxが大きい場合にはFFT係数の水平周波数方向にフィルタ処理を行い、動きベクトルの垂直成分MVyが大きい場合にはFFT係数の垂直周波数方向にフィルタ処理を行うことにより、動きベクトルMVに応じて電子透かしパターンの水平周波数成分および垂直周波数成分を適応的に減衰する。
例えば、FFT係数制御部35は、動きベクトルMV=(MVx,0)の場合にはFFT係数の水平周波数成分を適応的に減衰し、この減衰量をFFT係数の垂直周波数成分に再配分することにより、全体の埋め込み強度を一定に保持して電子透かし検出の信頼性を確保する。
【0078】
以下、本発明の実施形態の電子透かし埋込装置1の動作例を説明する。
図18は、当該動作例を説明するためのフローチャートである。
ステップSP31:
PN生成部21が、PN系列の乱数データPNを生成する。
ステップSP32:
乗算部22が、PN生成部21が生成したPN系列の乱数データPNを用いて、電子透かしデータDC0をスペクトラム拡散して電子透かし信号WM1を生成し、これを変調部24に出力する。
ステップSP33:
動き検出部23が、デジタルビデオ信号DV01内の連続したフレーム画像データを読み込む。
【0079】
ステップSP34:
動き検出部23が、ステップSP33で読み込まれたフレーム画像データの動き検出を行って動きベクトルMV=(MVx,MVy)を生成し、これを変調部24に出力する。
ステップSP35:
図15に示す変調部24のFFT部34が、電子透かし信号WM1に対してFFT演算を施し、FFT係数DS1を出力する。
ステップSP36:
FFT係数制御部35が、前述したように、動き検出部23から入力した動きベクトルMV=(MVx,MVy)に応じてFFT係数DS1を適応的に制御し、変調後のFFT係数DS2を出力する。
【0080】
ステップSP37:
IFFT部36が、FFT係数制御部35から入力したFFT係数DS2にIFFT演算を施して電子透かし信号WM2を生成し、これを図2に示す加算部25に出力する。
【0081】
ステップSP38:
図2に示す加算部25が、変調部24から入力した電子透かし信号WM2をデジタルビデオ信号DV01(フレーム画像データ)に加算(重畳)してデジタルビデオ信号DV02を生成する。
ステップSP39:
電子透かし埋込装置1が、ステップSP38で生成したデジタルビデオ信号DV02を出力する。
ステップSP40:
電子透かし埋込装置1が、デジタルビデオ信号DV01の入力が終了したと判断した場合には処理を終了し、そうでない場合にはステップSP33の処理に戻る。
【0082】
本発明は上述した実施形態には限定されない。
例えば、第1実施形態の変調部24は、デジタルビデオ信号DV02に対応した画像内で電子透かし信号WM2に対応した画像が視覚困難になるように、デジタルビデオ信号DV01に対応した画像の粗さに基づいて、電子透かし信号WM1を変調して電子透かし信号WM2を生成してもよい。
【0083】
また、例えば、上述した実施形態では、図5に示すように、電子透かし信号WM1に対して水平フィルタ部32による水平周数成分についてのフィルタ処理に続いて、垂直フィルタ部33による垂直周波数成分のフィルタ処理を行ったが、図19に示すように、電子透かし信号WM1に対して垂直フィルタ部33による垂直周数成分についてのフィルタ処理に続いて、水平フィルタ部32による水平周波数成分のフィルタ処理を行ってもよい。
【0084】
また上述の実施の形態においては、デジタルビデオ信号の動きベクトルMVを検出して電子透かしパターンを適応的に変調する場合について述べたが、本発明はこれに限らず、デジタルビデオ信号のエッジ情報等を検出して電子透かしパターンを変調する場合や、デジタルビデオ信号の輝度情報や色情報等の種々の情報を分析して処理する場合等と組み合わせて電子透かしの重畳を行う場合に広く適用することができる。このようにすれば人間の目に感知しにくくなるように電子透かしを埋め込むことが可能になり、電子透かしの画質に及ぼす影響を効果的に抑えることができる。
【0085】
また上述の実施の形態においては、著作権情報を乱数データによりスペクトラム拡散することで電子透かしパターンを生成し、この電子透かしパターンをデジタルビデオ信号に加算する場合について述べたが、本発明はこれに限らず、デジタルビデオ信号のベースバンド信号上で電子透かしの重畳を行う種々の電子透かし埋め込み方式、さらにはデジタルビデオ信号のビットストリーム信号上で電子透かしの重畳を行う種々の電子透かし埋め込み方式に広く適用することができる。
【0086】
また上述の実施の形態においては、著作権情報をPN系列の乱数データによりスペクトラム拡散する場合について述べたが、本発明はこれに限らず、統計的に総和が0になるような種々の数値パターンにより著作権情報を解析困難に変調する場合に広く適用することができる。
【0087】
さらに上述の実施の形態においては、著作権情報を重畳する場合について述べたが、本発明はこれに限らず、必要に応じて種々の情報を重畳して伝送する場合に広く適用することができる。
【0088】
また上述の実施の形態においては、放送局等よりデジタルビデオ信号を衛星波や地上波、ケーブル等の媒体を介して伝送する場合、および光ディスクにデジタルビデオ信号を記録、再生する場合について述べたが、本発明はこれに限らず、例えばインターネットを介して種々の情報を伝送する場合等に広く適用することができる。
【0089】
【発明の効果】
以上説明したように、本発明によれば、動きのある画像パターンを含む画像の画像信号に電子透かし信号を重畳する場合に、当該画像信号の画質劣化を抑制しながら、電子透かし信号を高い信頼性で検出可能な状態で当該画像信号に重畳できる信号処理装置およびその方法を提供することができる。
【図面の簡単な説明】
【図1】図1は、本発明の第1実施形態の著作権保護システムの全体構成図である。
【図2】図2は、図1に示す電子透かし埋込装置の機能ブロック図である。
【図3】図3は、本発明の第1実施形態において、デジタルビデオ信号DV01内の画像パターンが水平方向にシフトする場合の動きベクトル検出、並びに電子透かし信号の変調を説明するたの概念図である。
【図4】図4は、本発明の第1実施形態において、デジタルビデオ信号DV01内の画像パターンが水平方向にシフトする場合の動きベクトル検出、並びに電子透かし信号の変調を説明するたの概念図である。
【図5】図5は、図2に示す変調部の機能ブロック図である。
【図6】図6は、図5に示すフィルタ係数制御部による制御を説明するための図である。
【図7】図7は、図5に示すフィルタ係数制御部による制御を説明するための図である。
【図8】図8は、図2に示す電子透かし埋込装置の動作例を説明するためのフローチャートである。
【図9】図9は、図1に示す電子透かし検出装置の機能ブロック図である。
【図10】図10は、図9に示す電子透かし検出装置の動作例を説明するためのフローチャートである。
【図11】図11は、本発明の第2実施形態において、デジタルビデオ信号DV01内の画像パターンが水平方向にシフトする場合の動きベクトル検出、並びに電子透かし信号の変調を説明するための概念図である。
【図12】図12は、本発明の第2実施形態において、デジタルビデオ信号DV01内の画像パターンが水平方向にシフトする場合の動きベクトル検出、並びに電子透かし信号の変調を説明するための概念図である。
【図13】図13は、本発明の第3実施形態において、デジタルビデオ信号DV01内の画像パターンが水平方向にシフトする場合の動きベクトル検出、並びに電子透かし信号の変調を説明するための概念図である。
【図14】図14は、本発明の第3実施形態において、デジタルビデオ信号DV01内の画像パターンが水平方向にシフトする場合の動きベクトル検出、並びに電子透かし信号の変調を説明するための概念図である。
【図15】図15は、本発明の第4実施形態における図2に示す変調部の機能ブロック図である。
【図16】図16は、図15に示すFFT係数制御部による制御を説明するための図である。
【図17】図17は、図15に示すFFT係数制御部による制御を説明するための図である。
【図18】図18は、本発明の第4実施形態の電子透かし埋込装置の動作例を説明するための図である。
【図19】図19は、図5に示す変調部の変形例を説明するための図である。
【図20】図20は、従来技術の問題点を説明するための図である。
【符号の説明】
1…電子透かし埋込装置、3…電子透かし検出装置、4…電子透かし書換装置、2,6…録画機器、21…PN生成部、22…乗算部、23…動き検出部、24…変調部、25…加算部、31…フィルタ係数制御部、32…水平フィルタ部、33…垂直フィルタ部、41…PN生成部、42…内積演算部、43…比較判定部
【発明の属する技術分野】
本発明は、電子透かし信号を画像信号に重畳する信号処理装置およびその方法に関する。
【0002】
【従来の技術】
従来、光ディスク等の記録媒体や、放送局等より衛星波や地上波、ケーブル等の媒体を介して伝送されるコンテンツデータ等について、いわゆる電子透かしにより著作権の保護を図る方法が提案されている。この方法は、ビデオ信号やオーディオ信号等の再生に影響を与えない程度の微小な信号レベルにより、著作権に関するデータの変調信号等をビデオ信号やオーディオ信号等に重畳して記録するものである。画像、音声、データ等様々なデジタルコンテンツデータが劣化のない状態でコピーされたり配信されたりする可能性のあるデジタルネットワーク時代において、電子透かし技術はコンテンツデータ自身に情報を埋め込むことにより著作権を保護することのできる有力な技術である。
【0003】
例えばデジタルビデオ信号等の画像信号において、電子透かしを実現する手法について説明する。ここでは画像信号の持つ統計的な性質に基づいて、PN系列の乱数データを基本パターンとして電子透かしを埋め込む場合について考える。簡単のため輝度信号のフレーム画像データを水平サイズ8画素、垂直サイズ6画素とする。
そして、PN系列の乱数データPNを、例えば、下記式(1)のように規定する。
【0004】
【数1】
【0005】
この乱数データPNは統計的に総和が0になるように生成される。次に電子透かしデータDCをこのような性質を持つ乱数データPNによりスペクトラム拡散する。すなわち電子透かしデータDCの極性が“1”の場合には、乱数データPNのパターンをそのまま使用することにより、電子透かし信号WMは、下記式(2)のように規定される。
【0006】
【数2】
【0007】
また電子透かしデータDCの極性が“0”の場合には、乱数データPNのパターンを反転したものを使用することにより、電子透かし信号WMは、下記式(3)のように規定される。
【0008】
【数3】
【0009】
なお、電子透かしデータDCが複数の情報ビットから構成される場合には、例えば輝度信号に応じたフレーム画像を適当な小領域に分割し、各情報ビットをそれぞれの小領域に対応させればよい。また、例えば互いに直交するような複数の異なる電子透かしパターンを使用し、各情報ビットをそれぞれの電子透かしパターンに対応させればよい。また、これらの手法を組み合わせて使用してもよい。
【0010】
一方、デジタルビデオ信号等の画像信号において、近接する輝度信号は同程度の画素値を持つという性質から、輝度信号のデジタルビデオ信号DV1(フレーム画像データ)を、下記式(4)のように規定する。
【0011】
【数4】
【0012】
電子透かしの埋め込みは、デジタルビデオ信号DV1に電子透かし信号WMを加算することによって実現する。電子透かしデータDCの極性が“1”の場合には、電子透かしを埋め込んだデジタルビデオ信号DV2は、下記式(5)で示される。
【0013】
【数5】
【0014】
このようにして電子透かしを埋め込んだデジタルビデオ信号DV2から、電子透かしデータDCを検出するためには、埋め込み時と同一のPN系列の乱数データPNを使用する。
元の輝度信号のフレーム画像データDV1と乱数データPNとの内積値P1は、下記式(6)で示される。
【0015】
【数6】
【0016】
画像信号の持つ統計的な性質から内積値P1は0近傍の値となる。これに対して電子透かしを埋め込んだデジタルビデオ信号DV2と乱数データPNとの内積値P2は、電子透かしデータDCの極性が“1”の場合には、下記式(7)で示される。
【0017】
【数7】
【0018】
一方、デジタルビデオ信号DV2と乱数データPNとの内積値P2は、電子透かしデータ情報DCの極性が“0”の場合には、下記式(8)で示される。
【0019】
【数8】
【0020】
上記内積値P2の絶対値は、乱数データPN自身の内積値PN2近傍の値となる。元のデジタルビデオ信号DV1と乱数データPNの内積値P1および、電子透かしを埋め込んだデジタルビデオ信号DV2と乱数データPNの内積値P2を様々な画像に対して計算すると、内積値P1およびP2の分布は、図20に示すような確率密度関数で表現することができる。したがって、下記式(9)に示すように、適当な非負の閾値THを設定することにより、デジタルビデオ信号DV2から電子透かしデータDCを検出することができる。
【0021】
【数9】
【0022】
実際に電子透かしを実現する際には、電子透かし検出の信頼性と、電子透かしの画質に及ぼす影響の2点が重要なポイントである。
電子透かしの有無を正確に判別するためには、図20における“電子透かしあり”の場合の確率密度関数と、“電子透かしなし”の場合の確率密度関数の分離を精度良く行うような閾値THを設定しなければならない。しかし実際には確率密度関数の裾野が重なり合い、電子透かしの有無を正確に判別できるような閾値THの選択は難しい。
電子透かしが埋め込まれていないのに“電子透かしあり”と判断されてしまう確率を特にFalse Positiveと呼び、健全なコンテンツデータ流通を保証するためには極めて小さいFalse Positive値が要求される。したがって電子透かし検出の信頼性を向上するためには、下記式(10)に示すように、非負のスカラー量Cを用いて電子透かしの埋め込み強度を大きくし、下記式(11)に示すように、電子透かしを埋め込んだデジタルビデオ信号DV2と乱数データPNの内積値P2を十分に大きくすればよい。
【0023】
【数10】
【0024】
【数11】
【0025】
【発明が解決しようとする課題】
電子透かし検出の信頼性と電子透かしの画質に及ぼす影響とはトレードオフの関係にあり、検出精度を向上するために電子透かしの埋め込み強度を大きくすると画質の劣化が無視できないものになり、画質に及ぼす影響を抑制するために電子透かしの埋め込み強度を小さくすると検出の信頼性が確保できなくなる。
電子透かしの重畳・検出に際しては様々な方式が提案されているが、信頼性の高く安定した検出特性と劣化を知覚できないレベルの画質特性は未だ達成されておらず、これらを両立した電子透かし埋め込み方法を効果的に実現する必要がある。
ところで、人間の視覚が静止している電子透かしパターンを感知しやすいような画像信号の動き量が存在し、画像信号の動きがこれらの中間程度の場合には、人間の目が画像信号の動きに追従しながらも静止している電子透かしパターンを感知できる範囲になる。これにより動きのある画像信号においては、画面全体が動く場合には画面全体にわたって、一部の物体が動く場合にはその物体の近傍において、静止している電子透かしパターンが容易に知覚される状態になり、電子透かしの画質に及ぼす影響は無視できないものになってしまう。このためこのような動きのある画像信号においては、人間の視覚特性を考慮して電子透かしの画質に及ぼす影響を効果的に抑制する必要がある。
【0026】
本発明は、動きのある画像パターンを含む画像の画像信号に電子透かし信号を重畳する場合に、当該画像信号の画質劣化を抑制しながら、電子透かし信号を高い信頼性で検出可能な状態で当該画像信号に重畳できる信号処理装置およびその方法を提供する。
【0027】
【課題を解決するための手段】
上記の目的を達成するために、第1の発明の信号処理装置は、画像信号の動きベクトルを検出する検出手段と、前記画像信号に電子透かし信号を重畳した信号に対応した画像内で前記電子透かし信号に対応した画像が視覚困難になるように、前記動きベクトルに基づいて、前記電子透かし信号を変調する変調手段と、前記変調手段で変調された前記電子透かし信号を前記画像信号に重畳する重畳手段とを有する。
【0028】
第1の発明の信号処理装置の作用は以下のようになる。
検出手段が、画像信号の動きベクトルを検出する。
次に、変調手段が、前記画像信号に電子透かし信号を重畳した信号に対応した画像内で前記電子透かし信号に対応した画像が視覚困難になるように、前記動きベクトルに基づいて、前記電子透かし信号を変調する。
次に、重畳手段が、前記変調手段で変調された前記電子透かし信号を前記画像信号に重畳する。
【0029】
第1の発明の信号処理装置は、好ましくは、前記変調手段は、前記検出手段が検出した前記動きベクトルの水平成分が大きくなるに従って前記電子透かし信号の水平周波数成分を減衰率を高め、前記動きベクトルの垂直成分が大きくなるに従って前記電子透かし信号の垂直周波数成分を減衰率を高めるように、前記電子透かし信号を変調する。
【0030】
第2の発明の信号処理装置は、画像信号によって規定される画像内の予め決められた区分けされた複数の領域毎に動きベクトルを検出する検出手段と、前記画像信号に電子透かし信号を重畳した信号に対応した画像内で前記電子透かし信号に対応した画像が視覚困難になるように、前記複数の領域毎に当該領域の前記動きベクトルに基づいて前記電子透かし信号を変調する変調手段と、前記変調手段で変調された前記電子透かし信号を前記画像信号に重畳する重畳手段とを有する。
【0031】
第2の発明の信号処理装置の作用は以下のようになる。
検出手段が、画像信号によって規定される画像内の予め決められた区分けされた複数の領域毎に動きベクトルを検出する。
次に、変調手段が、前記画像信号に電子透かし信号を重畳した信号に対応した画像内で前記電子透かし信号に対応した画像が視覚困難になるように、前記複数の領域毎に当該領域の前記動きベクトルに基づいて前記電子透かし信号を変調する。
次に、重畳手段が、前記変調手段で変調された前記電子透かし信号を前記画像信号に重畳する。
【0032】
第3の発明の信号処理装置は、画像信号によって規定される画像内のオブジェクト毎に動きベクトルを検出する検出手段と、前記画像信号に電子透かし信号を重畳した信号に対応した画像内で前記電子透かし信号に対応した画像が視覚困難になるように、前記オブジェクト毎に当該オブジェクトの前記動きベクトルに基づいて、前記電子透かし信号を変調する変調手段と、前記変調手段で変調された前記電子透かし信号を前記画像信号に重畳する重畳手段とを有する。
【0033】
第3の発明の信号処理装置の作用は以下のようになる。
検出手段、画像信号によって規定される画像内のオブジェクト毎に動きベクトルを検出する。
次に、変調手段が、前記画像信号に電子透かし信号を重畳した信号に対応した画像内で前記電子透かし信号に対応した画像が視覚困難になるように、前記オブジェクト毎に当該オブジェクトの前記動きベクトルに基づいて、前記電子透かし信号を変調する。
次に、重畳手段が、前記変調手段で変調された前記電子透かし信号を前記画像信号に重畳する。
【0034】
第4の発明の信号処理方法は、画像信号の動きベクトルを検出する第1の工程と、前記画像信号に電子透かし信号を重畳した信号に対応した画像内で前記電子透かし信号に対応した画像が視覚困難になるように、前記動きベクトルに基づいて、前記電子透かし信号を変調する第2の工程と、前記第2の工程で変調された前記電子透かし信号を前記画像信号に重畳する第3の工程とを有する。
【0035】
第5の発明の信号処理方法は、画像信号によって規定される画像内の予め決められた区分けされた複数の領域毎に動きベクトルを検出する第1の工程と、前記画像信号に電子透かし信号を重畳した信号に対応した画像内で前記電子透かし信号に対応した画像が視覚困難になるように、前記複数の領域毎に当該領域の前記動きベクトルに基づいて前記電子透かし信号を変調する第2の工程と、前記第2の工程で変調された前記電子透かし信号を前記画像信号に重畳する第3の工程とを有する。
【0036】
第6の発明の信号処理方法は、画像信号によって規定される画像内のオブジェクト毎に動きベクトルを検出する第1の工程と、前記画像信号に電子透かし信号を重畳した信号に対応した画像内で前記電子透かし信号に対応した画像が視覚困難になるように、前記オブジェクト毎に当該オブジェクトの前記動きベクトルに基づいて、前記電子透かし信号を変調する第2の工程と、前記第2の工程で変調された前記電子透かし信号を前記画像信号に重畳する第3の工程とを有する。
【0037】
【発明の実施の形態】
第1実施形態
本実施形態は、第1および第4の発明に対応している。
以下、本発明の実施形態に係わる著作権保護システムについて説明する。
図1は、本実施形態の著作権保護システム101の全体構成図である。
図1に示す著作権保護システム101では、例えば、ビデオソースであるデジタルビデオ信号DV01を放送局等より衛星波や地上波、ケーブル等の媒体を介して送信する場合に、電子透かし埋込装置1が、デジタルビデオ信号DV01に電子透かしデータDC0を付加(重畳)して生成したデジタルビデオ信号DV02を送信する。
電子透かしデータDC0はビデオソースの著作権情報等を示し、例えば、“CopyOnce”(1回コピー可)を示している。
また、電子透かし埋込装置1は、例えば、”NeverCopy”(コピー不可)を示す電子透かしデータDC0をデジタルビデオ信号DV01に付加したデジタルビデオ信号DV05を光ディスク8に記録する。
【0038】
デジタルビデオ信号DV02がセットトップボックス等により受信されると、例えば、録画機器2に内蔵された電子透かし検出装置3によって、デジタルビデオ信号DV02に埋め込まれた電子透かし信号DC0が検出され、検出された電子透かし信号DC0が“CopyOnce”(1回コピー可)を示す場合に、録画機器2に内蔵された電子透かし書換装置4により、電子透かし信号DC0を書き換えたデジタルビデオ信号DV04を光ディスク5に記録する。
ここで書き換えられた電子透かし信号DC0はビデオソースの著作権情報等により構成され、“NoMoreCopy”(これ以上のコピー禁止)を示す。
【0039】
録画機器6は、このようにして得られた光ディスク5,8に記録されたデジタルビデオ信号DV04,DV05を再生して、当該デジタルビデオ信号に重畳された電子透かし信号DC0を検出し、電子透かし信号DC0が“NoMoreCopy”あるいは”NeverCopy”を示す場合には、再生したデジタルビデオ信号を光ディスク7に記録するのを中止し、これによりコピー世代を管理する。
【0040】
著作権保護システム101では、電子透かし埋込装置1が、デジタルビデオ信号DV01の動きベクトルMVを検出し、当該動きベクトルMVに基づいて、デジタルビデオ信号DV01に電子透かし信号を重畳した信号による画像内で当該電子透かし信号による画像が視覚困難になるように、電子透かし信号を変調し、当該変調された電子透かし信号をデジタルビデオ信号DV01に重畳してデジタルビデオ信号DV02を生成する。
また、電子透かし埋込装置1が同様に、デジタルビデオ信号DV05を生成する。
また、電子透かし書換装置4も同様に、書き換えた電子透かし信号を変調し、当該変調された電子透かし信号をデジタルビデオ信号DV02に重畳してデジタルビデオ信号DV04を生成する。
【0041】
様々な速さで動く画像パターン(絵柄)を含むデジタルビデオ信号に対して、静止している電子透かしパターンの電子透かし信号を重畳する場合について考える。
このように動いている画像パターンと静止している電子透かしパターンが同時に存在する画像においては、人間の視覚特性は動いている画像パターンの動きの大きさに依存する。
画像パターンが静止しているか、もしくは画像パターンの動きが極めて小さい場合には、人間の目には画像パターンおよび電子透かしパターンの双方が静止しているように認識されるため、電子透かしパターンによる画質の劣化を知覚しにくくなる。
また、画像パターンの動きが極めて大きい場合には、人間の目は画像パターンの動きに追従して静止している電子透かしパターンを感知できなくなり、電子透かしパターンによる画質の劣化を知覚しにくくなる。
【0042】
これらに対して、人間の視覚が静止している電子透かしパターンを感知しやすいような画像パターンの動き量が存在する。
すなわち、画像パターンの動きが中間程度の場合には、人間の目が画像パターンの動きに追従しながらも静止している電子透かしパターンを感知できる範囲になる。
これにより、画面全体が動く場合には画面全体にわたって、一部の物体が動く場合にはその物体の近傍において、静止している電子透かしパターンが容易に知覚される状態になり、電子透かしの画質に及ぼす影響は無視できないものになってしまう。
著作権保護システム101では、電子透かし埋込装置1および電子透かし書換装置4が、デジタルビデオ信号DV01,DV03の動きベクトルMVを検出し、当該動きベクトルMVに基づいて、電子透かし信号WMを変調してデジタルビデオ信号DV01,DV03に重畳することで、電子透かしの埋込強度を適切に保ちながら、電子透かしの画質に及ぼす影響を抑制する。
【0043】
〔電子透かし埋込装置1〕
図2は、図1に示す電子透かし埋込装置1の機能ブロック図である。
図2に示すように、電子透かし埋込装置1は、例えば、PN生成部21、乗算部22、動き検出部23、変調部24および加算部25を有する。
動き検出部23が本発明の検出手段に対応し、変調部24が本発明の変調手段に対応し、加算部25が本発明の重畳手段に対応している。
また、PN生成部21および乗算部22が本発明の信号生成手段に対応している。
【0044】
PN生成部21は、PN系列の乱数データPNを生成し、これを乗算部22に出力する。
乗算部22は、乱数データPNを用いて電子透かしデータDC0をスペクトラム拡散して電子透かし信号WM1を生成し、これを変調部24に出力する。
これにより、解析困難な電子透かしパターンWM1が生成される。
【0045】
動き検出部23は、順次入力されるデジタルビデオ信号DV01に対して画像の動き検出を行って動きベクトルMV=(MVx,MVy)を生成し、これを変調部24に出力する。
動き検出部23による動き検出は人間の視覚特性を考慮した画像分析手法を基に行われ、動画像符号化の国際標準規格MPEG2(Moving Picture Experts Group−2)やサンプリングレート変換等に用いられる。
【0046】
変調部24は、動き検出部23から入力した動きベクトルMVを基に、人間の視覚特性を考慮して、デジタルビデオ信号DV2に対応した画像内で電子透かし信号WM2に対応した画像が視覚困難になるように、電子透かし信号WM1を変調して電子透かし信号WM2を生成し、これを加算部25に出力する。
具体的には、変調部24は、動きベクトルMV(=(MVx,MVy))の水平成分MVxが大きくなるに従って電子透かし信号WM1の水平周波数成分(MVxの方向に対して垂直に生じるパターンの成分)の減衰率を高め、動きベクトルMVの垂直成分MVyが大きくなるに従って電子透かし信号WM1の垂直周波数成分(MVyの方向に対して垂直に生じるパターンの成分)のを減衰率を高めるように、電子透かし信号WM1を変調する。
例えば、変調部24は、水平方向成分MVxが値を有する場合には電子透かし信号WM1の水平周波数成分を減衰させ、垂直方向成分MVyが値を有する場合には電子透かし信号WM1の垂直周波数成分を減衰させる。
これにより、デジタルビデオ信号DV01に重畳されたときに、電子透かしパターンを人間の目に感知しにくくできる。
【0047】
図3および図4は、デジタルビデオ信号DV01が規定するフレーム画像内の画像パターンが水平方向にシフトする場合の動きベクトル検出、並びに電子透かし信号の変調を説明するための概念図である。
この例は走行している車と背景の家や木、そしてさらに後方の景色といった具合に、フレーム画像内の複数の画像パターンのそれぞれに動きベクトルMVが存在している。
時間的に連続する図3(a)に示すフレーム画像と、図3(b)に示すフレーム画像とに対して動きベクトル検出を行うと、動きベクトルMVは図3(c)に示すように面積比が大きい物体(画像パターン)の動きベクトルになる。
このような図3(a),(b)に示すフレーム画像のデジタルビデオ信号DV01に、スペクトラム拡散された図3(d)に示す電子透かしパターンの電子透かし信号WM1をそのまま重畳すると、動きベクトルMVの方向に動く絵柄の近傍において静止している図3(d)に示す電子透かしパターンが容易に知覚される状態になり、電子透かしの画質に及ぼす影響は無視できないものになってしまう。
例えば、図3(a),(b)に示す動きベクトル方向に動く車や地平線上において、特に動きベクトルに垂直に生じる電子透かしパターンが縦縞状のアーティファクトとなって現れ、画質の劣化を引き起こす。
【0048】
変調部24は、このような画質劣化を抑制するため、デジタルビデオ信号DV01の動きベクトルMVに基づいて、電子透かし信号WM1を以下に示すように変調する。
すなわち、図3(d)に示す電子透かしパターンの電子透かし信号WM1を、図4(e)に示すパターンを生じる水平周波数成分と、図4(f)に示すパターンを生じる垂直周波数成分とに分離することができた場合に、変調部24は、動きベクトルMV=(MVx,MVy)の成分と大きさに応じて電子透かし信号WM1の水平周波数成分と垂直周波数成分とをそれぞれ独立に変調する。
【0049】
図4の例においては動きベクトルV=(MVx,0)であるから、変調部24は、電子透かしパターンの図4(e)に示す水平周波数成分を図4(g)に示すようにゼロに変調する。あるいは、変調部24は、MVxの大きさに応じて当該水平周波数成分を減衰する等の制御を行う。
一方、MVy=0であるから、変調部24は、電子透かしパターンの図4(f)に示す垂直周波数成分を変調しない。あるいは、変調部24は、電子透かし信号の水平周波数成分での減衰量を補償するために、図4(h)に示すように、当該垂直周波数成分を増幅してもよい。
このようにすれば、画像信号の動きベクトルに垂直なパターンを生じる電子透かし成分のみを適応的に減衰することができ、人間の目に感知しにくくなるように電子透かしを埋め込むことが可能になり、電子透かしの画質に及ぼす影響を効果的に抑えることができる。
また減衰させた埋め込み量を動きベクトルに平行なパターンを生じる電子透かし成分に再配分することにより、全体の埋め込み強度を一定に保持して電子透かし検出の信頼性を確保することが可能になる。
【0050】
図5は、図2に示す変調部24の機能ブロック図である。
図5に示すように、変調部24は、例えば、フィルタ係数制御部31、水平フィルタ部32および垂直フィルタ部33を有する。
フィルタ係数制御部31は、図2に示す動き検出部23から入力した動きベクトルMV=(MVx,MVy)に応じてフィルタ係数Cx,Cyを生成し、フィルタ係数Cxを水平フィルタ部32に出力し、フィルタ係数Cyを垂直フィルタ部33に出力する。
ここで、フィルタ係数CxおよびCyは、それぞれ水平フィルタ部32および垂直フィルタ部33の周波数特性を決定するパラメータ群であり、例えば遮断周波数(カットオフ周波数)やタップ長(遮断帯域の急峻度)等である。
具体的には、フィルタ係数制御部31は、動きベクトルMV(=(MVx,MVy))の水平周波数成分MVxが大きくなるに従って電子透かし信号WM1の水平周波数成分を減衰率を高めるようにフィルタ係数Cxを決定し、動きベクトルMVの垂直周波数成分MVyが大きくなるに従って電子透かし信号WM1の垂直周波数成分を減衰率を高めるようにフィルタ係数Cyを決定する。
【0051】
図6は、フィルタ係数制御部31によるフィルタ係数Cx,Cyの決定方法を説明するための図である。
フィルタ係数制御部31は、図6に示すように、フィルタ係数Cx,Cyを用いて、水平フィルタ部32および垂直フィルタ部33のカットオフ周波数を制御する。
例えば、フィルタ係数制御部31は、動きベクトルMVの水平成分MVxが大きくなるに従って水平フィルタ部32のカットオフ周波数が小さくなるように、フィルタ係数Cxを決定する。
また、フィルタ係数制御部31は、動きベクトルMVの垂直成分MVyが大きくなるに従って垂直フィルタ部33のカットオフ周波数が小さくなるように、フィルタ係数Cyを決定する。
また、図7に示すように、フィルタ係数制御部31は、フィルタ係数Cx,Cyを用いて水平フィルタ部32および垂直フィルタ部33のタップを指定して、水平フィルタ部32および垂直フィルタ部33のフィルタ特性を制御してもよい。
【0052】
水平フィルタ部32は、図2に示す乗算部22から入力した電子透かし信号WM1の水平周波数成分を、フィルタ係数制御部31から入力したフィルタ係数Cxに応じたカットオフ周波数でフィルタ処理して電子透かし信号WM1’を生成し、これを垂直フィルタ部33に出力する。
垂直フィルタ部33は、水平フィルタ部32から入力した電子透かし信号WM1の垂直周波数成分を、フィルタ係数制御部31から入力したフィルタ係数Cyに応じたカットオフ周波数でフィルタ処理して電子透かし信号WM2を生成し、これを図2に示す加算部25に出力する。
【0053】
加算部25は、変調部24から入力した電子透かし信号WM2をデジタルビデオ信号DV01に加算(重畳)してデジタルビデオ信号DV02を生成する。
デジタルビデオ信号DV02は、前述したように、変調されて放送されたり、光ディスク8に書き込まれる。
【0054】
以下、図2に示す電子透かし埋込装置1の動作例を説明する。
図8は、当該動作例を説明するためのフローチャートである。
ステップSP11:
PN生成部21が、PN系列の乱数データPNを生成する。
ステップSP12:
乗算部22が、PN生成部21が生成したPN系列の乱数データPNを用いて、電子透かしデータDC0をスペクトラム拡散して電子透かし信号WM1を生成し、これを変調部24に出力する。
ステップSP13:
動き検出部23が、デジタルビデオ信号DV01内の連続したフレーム画像データを読み込む。
【0055】
ステップSP14:
動き検出部23が、ステップSP13で読み込まれたフレーム画像データの動き検出を行って動きベクトルMV=(MVx,MVy)を生成し、これを変調部24に出力する。
ステップSP15:
変調部24のフィルタ係数制御部31が、前述したように、ステップSP14で入力した動きベクトルMV=(MVx,MVy)に応じてフィルタ係数Cx,Cyを生成し、フィルタ係数Cxを水平フィルタ部32に出力し、フィルタ係数Cyを垂直フィルタ部33に出力する。
ステップSP16:
変調部24の水平フィルタ部32および垂直フィルタ部33が、ステップSP15で入力したフィルタ係数Cx,Cyを基に電子透かし信号WM1をフィルタ処理(変調)して電子透かし信号WM2を生成し、これを図2に示す加算部25に出力する。
【0056】
ステップSP17:
図2に示す加算部25が、変調部24から入力した電子透かし信号WM2をデジタルビデオ信号DV01(フレーム画像データ)に加算(重畳)してデジタルビデオ信号DV02を生成する。
ステップSP18:
電子透かし埋込装置1が、ステップSP17で生成したデジタルビデオ信号DV02を、送信したり、光ディスク8に書き込む。
ステップSP19:
電子透かし埋込装置1が、デジタルビデオ信号DV01の入力が終了したと判断した場合には処理を終了し、そうでない場合にはステップSP13の処理に戻る。
【0057】
〔電子透かし書換装置4〕
電子透かし書換装置4は、基本的に前述した電子透かし埋込装置1と同じ構成を有し、電子透かし検出装置3で検出された電子透かしデータに基づいて、所定の電子透かしデータをデジタルビデオ信号に重畳する。
【0058】
〔電子透かし検出装置3〕
電子透かし検出装置3は、前述したように、デジタルビデオ信号DV02,DV04,DV05に重畳された電子透かし信号WM2を検出する。
図9は、電子透かし検出装置3の機能ブロック図である。
図9に示すように、電子透かし検出装置3は、PN生成部41、内積演算部42および比較判定部43を有する。
PN生成部41は、PN生成部21と同じPN系列の乱数データPNを生成し、これを内積演算部42に出力する。
内積演算部42は、入力したデジタルビデオ信号DV02,DV04,DV05に対して乱数データPNとの内積値を計算し、内積値Sを出力する。
比較判定部43は、この内積値Sを最適に設定した閾値と比較することにより、電子透かし情報DC0の有無、さらには埋め込まれた電子透かしデータDC0の極性を判定する。
すなわち、比較判定部43は、非負の閾値THを用いて、下記式(12)で示される判定基準で判定を行い、判定した電子透かしデータDC0を出力する。
【0059】
【数12】
【0060】
以下、図9に示す電子透かし検出装置3の動作例を説明する。
図10は、当該動作例を説明するためのフローチャートである。
ステップSP51:
PN生成部41が、PN生成部21と同じPN系列の乱数データPNを生成し、これを内積演算部42に出力する。
ステップSP52:
内積演算部42が、入力したデジタルビデオ信号DV02,DV04,DV05内のフレーム画像データを読み込む。
ステップSP53:
内積演算部42が、ステップSP52で読み込まれたフレーム画像データに対して、ステップSP51で入力された乱数データPNとの内積値を計算し、内積値Sを比較判定部43に出力する。
【0061】
ステップSP54:
比較判定部43が、ステップSP53で入力した内積値Sを最適に設定した閾値と比較することにより、電子透かし情報DC0の有無、さらには埋め込まれた電子透かしデータDC0の極性を判定(検出)する。
ステップSP55:
比較判定部43が、ステップSP54で判定(検出)した電子透かしデータDC0を出力する。
ステップSP56:
電子透かし検出装置3が、デジタルビデオ信号DV02,DV04,DV05の入力が終了したか否かを判断し、終了したと判断した場合には処理を終了し、そうでない場合にはステップSP52の処理に戻る。
【0062】
図1に示す録画機器2では、電子透かし検出装置3において検出された電子透かしデータDC0が”CopyOnce”を示す場合に、電子透かし書換装置4に”NoMoreCopy”を示すように指示する。
また、録画機器6は、電子透かし検出装置3において検出された電子透かしデータDC0が”NeverCopy”を示す場合に、光ディスク5,8から読み出したデジタルビデオ信号DV04,DV05を光ディスク7に記録することを禁止する(コピー制限する)。
【0063】
以下、図1に示す著作権保護システム101の全体動作例を説明する。
例えば、ビデオソースであるデジタルビデオ信号DV01が放送局等より衛星波や地上波、ケーブル等の媒体を介して送信される。
そして、電子透かし埋込装置1が、デジタルビデオ信号DV01に電子透かしデータDC0を付加して生成したデジタルビデオ信号DV02を送信する。
電子透かしデータDC0はビデオソースの著作権情報等を示し、例えば、“CopyOnce”(1回コピー可)を示している。
また、電子透かし埋込装置1は、例えば、”NeverCopy”を示す電子透かしデータDC0をデジタルビデオ信号DV01に付加したデジタルビデオ信号DV05を光ディスク8に記録する。
このとき、電子透かし埋込装置1が、電子透かし信号DC0を用いて電子透かし信号WM1を生成すると共に、デジタルビデオ信号DV01の動きベクトルMVを検出する。
そして、電子透かし埋込装置1が、当該動きベクトルMVに基づいて、デジタルビデオ信号DV01に電子透かし信号WMを重畳した信号による画像内で電子透かし信号WMによる画像が視覚困難になるように、電子透かし信号WMを変調し、当該電子透かし信号WMをデジタルビデオ信号DV01に重畳してデジタルビデオ信号DV02を生成して送信する。
また、電子透かし埋込装置1が同様に、デジタルビデオ信号DV05を生成して光ディスク8に記録する。
【0064】
デジタルビデオ信号DV02がセットトップボックス等により受信されると、例えば、録画機器2に内蔵された電子透かし検出装置3によって、デジタルビデオ信号DV02に埋め込まれた電子透かしデータDC0が検出され、検出された電子透かしデータDC0が“CopyOnce”を示す場合に、録画機器2に内蔵された電子透かし書換装置4により、電子透かし信号DC0を書き換えたデジタルビデオ信号DV04を光ディスク5に記録する。
ここで書き換えられた電子透かし信号DC0はビデオソースの著作権情報等により構成され、“NoMoreCopy”(コピー禁止)を示す。
【0065】
一方、録画機器6は、このようにして得られた光ディスク5,8に記録されたデジタルビデオ信号DV04,DV05を再生して、前述したように、当該デジタルビデオ信号に付加された電子透かしデータDC0を検出し、電子透かし信号DC0が“NoMoreCopy”あるいは”NeverCopy”を示す場合には、再生したデジタルビデオ信号を光ディスク7に記録するのを中止し、これによりコピー世代を管理する。
【0066】
以上に説明したように、電子透かし埋込装置1および電子透かし書換装置4によれば、入力したデジタルビデオ信号を処理する際に、入力した時間的に連続するフレーム画像データから構成されるデジタルビデオ信号に対して動きベクトルMVの検出を行い、検出された動きベクトルMVに基づいて電子透かし信号を対応する周波数成分毎に適応的に変調することにより、フレーム画像データの動きベクトルに垂直なパターンとして現れる電子透かし成分のみを適応的に減衰することができる。
そのため、電子透かし埋込装置1および電子透かし書換装置4によれば、人間の目に感知しにくくなるようにデジタルビデオ信号に電子透かし信号を重畳することが可能になり、電子透かしが画質に及ぼす影響を効果的に抑制することができる。
また、電子透かし埋込装置1および電子透かし書換装置4によれば、減衰させた埋め込み量を画像信号の動きベクトルに平行な電子透かし成分に再配分することにより、全体の埋め込み強度を一定に保持して電子透かし検出装置3による電子透かし検出の信頼性を確保することが可能になる。
これらにより、デジタルネットワーク時代のコンテンツ配信において、画質劣化の少なく信頼性の高い著作権保護システムを構築することが可能になる。
【0067】
第2実施形態
本実施形態は、第2および第5の発明に対応している。
上述した第1実施形態では、図3および図4を用いて説明したように、図2に示す動き検出部23における動きベクトルMVの検出、並びに変調部24における電子透かし信号WM1の変調を、フレーム画像データ全体を対象として検出した動きベクトルを用いて行う場合を例示した。
本実施形態の電子透かし埋込装置1aは、図2に示す動き検出部23における動きベクトルMVの検出、並びに変調部24における電子透かし信号WM1の変調を、フレーム画像データ内に規定された複数のブロックについて各ブロックを単位として行う。電子透かし埋込装置1aのその他の機能は、第1実施形態で説明した電子透かし埋込装置1と同じだといえる。
【0068】
図11および図12は、本実施形態の電子透かし埋込装置1aによる処理を説明するための図である。
例えば、図11(a),(b)に示すようにデジタルビデオ信号DV01内の2枚のフレーム画像データ間で動きベクトルMVを検出する場合に、動き検出部23aは、図11(a),(b)のフレーム画像データを、図11(c),(d)に示すように、3×3の6枚のブロックに分割して各ブロック毎に動きベクトルMVの検出を行う。
この場合に、動き検出部23aが検出した各ブロックの動きベクトルMV(=(MVx,MVy))は、例えば、図12(e)のようになる。
そして、変調部24が、図12(e)に示す各ブロックの動きベクトルMVを基に、図12(f)示すようにスペクトラム拡散された電子透かし信号WM1を各ブロック毎にデジタルビデオ信号DV01に重畳する。
変調部24aは、各ブロックに対して検出された動きベクトルV=(Vx,Vy)の成分と大きさに応じて、第1実施形態と同様に、図12(f)に示す電子透かしパターンの水平周波数成分と垂直周波数成分とを各ブロック毎に、電子透かし信号に対応した画像がデジタルビデオ信号DV2に応じた画像内で視覚困難になるように電子透かし信号WM1を変調して電子透かし信号WM2を生成する。
【0069】
図11および図12に示す例においては、車の画像パターンが含まれるブロックでは動きベクトルV=(Vx,0)(Vx:大)であるから、変調部24aは、電子透かしパターンの水平周波数成分をゼロにし、水平周波数成分での減衰量を補償するために垂直周波数成分を増幅する等の制御を行う。
また、家や木の画像パターンが含まれるブロックでは動きベクトルV=(Vx,0)(Vx:小)であるから、変調部24aは、電子透かしパターンの水平周波数成分を減衰し、電子透かしパターンの垂直周波数成分を変調しない等の制御を行う。
さらに、その他のブロックでは動きベクトルV=(Vx,0)(Vx≒0)またはV=(0,0)であるから、変調部24aは、このようなブロックは静止画像であると見なして図12(f)に示す電子透かしパターンをそのままデジタルビデオ信号DV01に重畳する等の制御を行う。
これにより、このように各ブロック毎に適応的な変調を行った電子透かしパターンの水平周波数成分および垂直周波数成分は、それぞれ図12(g),(h)に示すようになる。
【0070】
第3実施形態
本実施形態は、第3および第6の発明に対応している。
本実施形態では、電子透かし埋込装置1において、デジタルビデオ信号DV01のフレーム画像データを、上述した第2実施形態よりも細密なブロックに分割し、分割を行った上で、複数のブロックから構成されるオブジェクトを特定し、当該オブジェクト毎に動きベクトルの検出、並びに電子透かし信号の変調処理を行う。
【0071】
図13および図14は、本実施形態における動き検出部23および変調部24の処理を説明するための図である。
例えば、図13(a),(b)に示すようにデジタルビデオ信号DV01内の2枚のフレーム画像データ間で動きベクトルMVを検出する場合に、動き検出部23bは、図13(a),(b)のフレーム画像データを、例えば、フレーム画像データ内の種々の画像パターンを特定可能な程度に小さいブロックを単位として分割し、図13(c),(d)に示すように、複数のブロックを組み合わせて各画像パターンを特定する。
そして、動き検出部23bが、図14(e)に示すように、当該特定された画像パターン毎に動きベクトルMV(=(MVx,MVy))の検出を行う。
そして、変調部24bが、図14(e)に示す各画像パターンの動きベクトルMVを基に、図14(f)に示すようにスペクトラム拡散された電子透かしパターンを各画像パターン毎にデジタルビデオ信号DV01に重畳する。
変調部24bは、各画像パターンに対して検出された動きベクトルMV=(MVx,MVy)の成分と大きさに応じて、第1実施形態と同様に、図14(f)に示す電子透かしパターンの水平周波数成分と垂直周波数成分とを各画像パターン毎に、電子透かし信号に対応した画像がデジタルビデオ信号DV2に応じた画像内で視覚困難になるように、電子透かし信号WM1を変調して電子透かし信号WM2を生成する。
【0072】
図13および図14の例においては車のオブジェクトでは動きベクトルMV=(MVx,0)(MVx:大)であるから、変調部24bは、電子透かしパターンの水平周波数成分をゼロにし、水平周波数成分での減衰量を補償するために垂直周波数成分を増幅する等の制御を行う。
また、家や木のオブジェクトでは動きベクトルMV=(MVx,0)(MVx:小)であるから、変調部24は、電子透かしパターンの水平周波数成分を減衰し、電子透かしパターンの垂直周波数成分を変調しない等の制御を行う。
さらに、その他の領域では動きベクトルMV=(MVx,0)(MVx≒0)またはMV=(0,0)であるから、変調部24bは、このような領域は静止画像であると見なして図14(f)に示す電子透かしパターンをそのままデジタルビデオ信号DV01に重畳する等の制御を行う。
このように各オブジェクト毎に適応的な変調を行った電子透かしパターンの水平周波数成分および垂直周波数成分は、例えば、それぞれ図14(g),(h)のようになる。
【0073】
上述したように、本実施形態の電子透かし埋込装置1bによれば、デジタルビデオ信号DV01に対してブロック分割等の前処理を施した上で動き検出と適応処理を行うことで、各オブジェクトに対して検出された動きベクトルに基づいて電子透かしパターンを各オブジェクト毎に適応的に変調することができる。
これにより、複数の動きベクトルが存在するようなデジタルビデオ信号DV01に対しても動きベクトルMVの向きと大きさに応じて適応的に電子透かしを埋め込むことが可能になる。
そのため、電子透かし埋込装置1bによれば、デジタルビデオ信号DV01の動きベクトルに垂直な電子透かし成分のみを適応的に減衰することができ、人間の目に感知しにくくなるように電子透かしを埋め込むことが可能になり、電子透かしの画質に及ぼす影響を効果的に抑えることができる。また、第1実施形態で説明したように、減衰させた埋め込み量を画像信号の動きベクトルに平行な電子透かし成分に再配分することにより、全体の埋め込み強度を一定に保持して電子透かし検出の信頼性を確保することが可能になる。
【0074】
第4実施形態
上述した第1実施形態では、図6に示すように、動きベクトルMVに基づいて各フィルタのフィルタ係数を制御することで、電子透かし信号WM1の垂直周波数成分および水平周波数成分を変調する場合を例示した。
本実施形態では、電子透かし信号MW1をFFT処理して変調する場合を例示する。
図15は、本実施形態における図2に示す変調部24cの機能ブロック図である。
本実施形態の電子透かし埋込装置は、変調部24cの構成を除いて、第1実施形態の電子透かし埋込装置1と同じ構成を有している。
【0075】
図15に示すように、本実施形態の変調部24cは、例えば、FFT(Fast Fourier Transformation) 部34、FFT係数制御部35およびIFFT(Inverse
FFT) 部36を有する。
FFT部34は、電子透かし信号WM1に対してFFT演算を施し、FFT係数DS1を出力する。すなわち、FFT部34は、電子透かし信号WM1を周波数領域に変換する。
FFT係数制御部35は、動き検出部23から入力した動きベクトルMV=(MVx,MVy)に応じてFFT係数DS1を適応的に制御し、変調後のFFT係数DS2を出力する。
IFFT部36は、FFT係数制御部35から入力したFFT係数DS2にIFFT演算を施して電子透かし信号WM2を生成し、これを図2に示す加算部25に出力する。
【0076】
図16および図17は、本実施形態の変調部24cのFFT係数制御部35の処理を説明するための図である。
図16および図17において、横軸は電子透かし信号WM1の水平周波数成分の値を示し、縦軸は電子透かし信号WM1の垂直周波数成分の値を示している。そして、縦軸と横軸とによって規定される位置に表示されたパターンは、対応する水平周波数成分および垂直周波数成分を持つ電子透かし信号のパターンを示している。
図16および図17に示すように、原点から離れて周波数が高くなるほど上記パターンの縞模様が細かくなっている。
【0077】
図15に示すFFT係数制御部35は、動きベクトルMV=(MVx,MVy)に応じて電子透かし信号WM1の水平周波数成分および垂直周波数成分を周波数空間において適応的にフィルタ処理する場合に、FFT係数DS1の高周波成分側から減衰するように制御することにより、人間の視覚特性を考慮したFFT係数DS2を出力する。
FFT係数制御部35は、例えば、動きベクトルMVの水平成分MVxが大きい場合にはFFT係数の水平周波数方向にフィルタ処理を行い、動きベクトルの垂直成分MVyが大きい場合にはFFT係数の垂直周波数方向にフィルタ処理を行うことにより、動きベクトルMVに応じて電子透かしパターンの水平周波数成分および垂直周波数成分を適応的に減衰する。
例えば、FFT係数制御部35は、動きベクトルMV=(MVx,0)の場合にはFFT係数の水平周波数成分を適応的に減衰し、この減衰量をFFT係数の垂直周波数成分に再配分することにより、全体の埋め込み強度を一定に保持して電子透かし検出の信頼性を確保する。
【0078】
以下、本発明の実施形態の電子透かし埋込装置1の動作例を説明する。
図18は、当該動作例を説明するためのフローチャートである。
ステップSP31:
PN生成部21が、PN系列の乱数データPNを生成する。
ステップSP32:
乗算部22が、PN生成部21が生成したPN系列の乱数データPNを用いて、電子透かしデータDC0をスペクトラム拡散して電子透かし信号WM1を生成し、これを変調部24に出力する。
ステップSP33:
動き検出部23が、デジタルビデオ信号DV01内の連続したフレーム画像データを読み込む。
【0079】
ステップSP34:
動き検出部23が、ステップSP33で読み込まれたフレーム画像データの動き検出を行って動きベクトルMV=(MVx,MVy)を生成し、これを変調部24に出力する。
ステップSP35:
図15に示す変調部24のFFT部34が、電子透かし信号WM1に対してFFT演算を施し、FFT係数DS1を出力する。
ステップSP36:
FFT係数制御部35が、前述したように、動き検出部23から入力した動きベクトルMV=(MVx,MVy)に応じてFFT係数DS1を適応的に制御し、変調後のFFT係数DS2を出力する。
【0080】
ステップSP37:
IFFT部36が、FFT係数制御部35から入力したFFT係数DS2にIFFT演算を施して電子透かし信号WM2を生成し、これを図2に示す加算部25に出力する。
【0081】
ステップSP38:
図2に示す加算部25が、変調部24から入力した電子透かし信号WM2をデジタルビデオ信号DV01(フレーム画像データ)に加算(重畳)してデジタルビデオ信号DV02を生成する。
ステップSP39:
電子透かし埋込装置1が、ステップSP38で生成したデジタルビデオ信号DV02を出力する。
ステップSP40:
電子透かし埋込装置1が、デジタルビデオ信号DV01の入力が終了したと判断した場合には処理を終了し、そうでない場合にはステップSP33の処理に戻る。
【0082】
本発明は上述した実施形態には限定されない。
例えば、第1実施形態の変調部24は、デジタルビデオ信号DV02に対応した画像内で電子透かし信号WM2に対応した画像が視覚困難になるように、デジタルビデオ信号DV01に対応した画像の粗さに基づいて、電子透かし信号WM1を変調して電子透かし信号WM2を生成してもよい。
【0083】
また、例えば、上述した実施形態では、図5に示すように、電子透かし信号WM1に対して水平フィルタ部32による水平周数成分についてのフィルタ処理に続いて、垂直フィルタ部33による垂直周波数成分のフィルタ処理を行ったが、図19に示すように、電子透かし信号WM1に対して垂直フィルタ部33による垂直周数成分についてのフィルタ処理に続いて、水平フィルタ部32による水平周波数成分のフィルタ処理を行ってもよい。
【0084】
また上述の実施の形態においては、デジタルビデオ信号の動きベクトルMVを検出して電子透かしパターンを適応的に変調する場合について述べたが、本発明はこれに限らず、デジタルビデオ信号のエッジ情報等を検出して電子透かしパターンを変調する場合や、デジタルビデオ信号の輝度情報や色情報等の種々の情報を分析して処理する場合等と組み合わせて電子透かしの重畳を行う場合に広く適用することができる。このようにすれば人間の目に感知しにくくなるように電子透かしを埋め込むことが可能になり、電子透かしの画質に及ぼす影響を効果的に抑えることができる。
【0085】
また上述の実施の形態においては、著作権情報を乱数データによりスペクトラム拡散することで電子透かしパターンを生成し、この電子透かしパターンをデジタルビデオ信号に加算する場合について述べたが、本発明はこれに限らず、デジタルビデオ信号のベースバンド信号上で電子透かしの重畳を行う種々の電子透かし埋め込み方式、さらにはデジタルビデオ信号のビットストリーム信号上で電子透かしの重畳を行う種々の電子透かし埋め込み方式に広く適用することができる。
【0086】
また上述の実施の形態においては、著作権情報をPN系列の乱数データによりスペクトラム拡散する場合について述べたが、本発明はこれに限らず、統計的に総和が0になるような種々の数値パターンにより著作権情報を解析困難に変調する場合に広く適用することができる。
【0087】
さらに上述の実施の形態においては、著作権情報を重畳する場合について述べたが、本発明はこれに限らず、必要に応じて種々の情報を重畳して伝送する場合に広く適用することができる。
【0088】
また上述の実施の形態においては、放送局等よりデジタルビデオ信号を衛星波や地上波、ケーブル等の媒体を介して伝送する場合、および光ディスクにデジタルビデオ信号を記録、再生する場合について述べたが、本発明はこれに限らず、例えばインターネットを介して種々の情報を伝送する場合等に広く適用することができる。
【0089】
【発明の効果】
以上説明したように、本発明によれば、動きのある画像パターンを含む画像の画像信号に電子透かし信号を重畳する場合に、当該画像信号の画質劣化を抑制しながら、電子透かし信号を高い信頼性で検出可能な状態で当該画像信号に重畳できる信号処理装置およびその方法を提供することができる。
【図面の簡単な説明】
【図1】図1は、本発明の第1実施形態の著作権保護システムの全体構成図である。
【図2】図2は、図1に示す電子透かし埋込装置の機能ブロック図である。
【図3】図3は、本発明の第1実施形態において、デジタルビデオ信号DV01内の画像パターンが水平方向にシフトする場合の動きベクトル検出、並びに電子透かし信号の変調を説明するたの概念図である。
【図4】図4は、本発明の第1実施形態において、デジタルビデオ信号DV01内の画像パターンが水平方向にシフトする場合の動きベクトル検出、並びに電子透かし信号の変調を説明するたの概念図である。
【図5】図5は、図2に示す変調部の機能ブロック図である。
【図6】図6は、図5に示すフィルタ係数制御部による制御を説明するための図である。
【図7】図7は、図5に示すフィルタ係数制御部による制御を説明するための図である。
【図8】図8は、図2に示す電子透かし埋込装置の動作例を説明するためのフローチャートである。
【図9】図9は、図1に示す電子透かし検出装置の機能ブロック図である。
【図10】図10は、図9に示す電子透かし検出装置の動作例を説明するためのフローチャートである。
【図11】図11は、本発明の第2実施形態において、デジタルビデオ信号DV01内の画像パターンが水平方向にシフトする場合の動きベクトル検出、並びに電子透かし信号の変調を説明するための概念図である。
【図12】図12は、本発明の第2実施形態において、デジタルビデオ信号DV01内の画像パターンが水平方向にシフトする場合の動きベクトル検出、並びに電子透かし信号の変調を説明するための概念図である。
【図13】図13は、本発明の第3実施形態において、デジタルビデオ信号DV01内の画像パターンが水平方向にシフトする場合の動きベクトル検出、並びに電子透かし信号の変調を説明するための概念図である。
【図14】図14は、本発明の第3実施形態において、デジタルビデオ信号DV01内の画像パターンが水平方向にシフトする場合の動きベクトル検出、並びに電子透かし信号の変調を説明するための概念図である。
【図15】図15は、本発明の第4実施形態における図2に示す変調部の機能ブロック図である。
【図16】図16は、図15に示すFFT係数制御部による制御を説明するための図である。
【図17】図17は、図15に示すFFT係数制御部による制御を説明するための図である。
【図18】図18は、本発明の第4実施形態の電子透かし埋込装置の動作例を説明するための図である。
【図19】図19は、図5に示す変調部の変形例を説明するための図である。
【図20】図20は、従来技術の問題点を説明するための図である。
【符号の説明】
1…電子透かし埋込装置、3…電子透かし検出装置、4…電子透かし書換装置、2,6…録画機器、21…PN生成部、22…乗算部、23…動き検出部、24…変調部、25…加算部、31…フィルタ係数制御部、32…水平フィルタ部、33…垂直フィルタ部、41…PN生成部、42…内積演算部、43…比較判定部
Claims (13)
- 画像信号の動きベクトルを検出する検出手段と、
前記画像信号に電子透かし信号を重畳した信号に対応した画像内で前記電子透かし信号に対応した画像が視覚困難になるように、前記動きベクトルに基づいて、前記電子透かし信号を変調する変調手段と、
前記変調手段で変調された前記電子透かし信号を前記画像信号に重畳する重畳手段と
を有する信号処理装置。 - 前記変調手段は、前記検出手段が検出した前記動きベクトルの水平成分が大きくなるに従って前記電子透かし信号の水平周波数成分を減衰率を高め、前記動きベクトルの垂直成分が大きくなるに従って前記電子透かし信号の垂直周波数成分を減衰率を高めるように、前記電子透かし信号を変調する
請求項1に記載の信号処理装置。 - 前記変調手段は、
前記電子透かし信号をフィルタ処理して前記水平周波数成分の大きさを調整する第1のフィルタ回路と、
前記電子透かし信号をフィルタ処理して前記垂直周波数成分の大きさを調整する第2のフィルタ回路と、
前記動きベクトルに基づいて、前記第1のフィルタ回路および前記第2のフィルタ回路のフィルタ処理を制御するフィルタ制御回路と
を有する
請求項2に記載の信号処理装置。 - 前記変調手段は、
前記電子透かし信号を周波数領域に直交変換する直交変換手段と、
前記直交変換手段によって得られた周波数領域の前記電子透かし信号の前記水平周波数成分および前記垂直周波数成分を、前記動きベクトルに基づいて調整する調整手段と、
前記調整手段で調整された前記周波数領域の前記電子透かし信号を逆直交変換する逆直交変換手段と
を有する
請求項1記載の信号処理装置。 - 前記変調手段は、
乱数データを生成し、当該乱数データを基に所定のデータをスペクトル拡散して前記電子透かし信号を生成する信号生成回路
を有する
請求項1に記載の信号処理装置。 - 前記変調手段は、前記画像信号に電子透かし信号を重畳した信号に対応した画像内で前記電子透かし信号に対応した画像が視覚困難になるように、前記画像信号に対応した画像の粗さに基づいて、前記電子透かし信号を変調する
請求項1に記載の信号処理装置。 - 画像信号によって規定される画像内の予め決められた区分けされた複数の領域毎に動きベクトルを検出する検出手段と、
前記画像信号に電子透かし信号を重畳した信号に対応した画像内で前記電子透かし信号に対応した画像が視覚困難になるように、前記複数の領域毎に当該領域の前記動きベクトルに基づいて前記電子透かし信号を変調する変調手段と、
前記変調手段で変調された前記電子透かし信号を前記画像信号に重畳する重畳手段と
を有する信号処理装置。 - 画像信号によって規定される画像内のオブジェクト毎に動きベクトルを検出する検出手段と、
前記画像信号に電子透かし信号を重畳した信号に対応した画像内で前記電子透かし信号に対応した画像が視覚困難になるように、前記オブジェクト毎に当該オブジェクトの前記動きベクトルに基づいて、前記電子透かし信号を変調する変調手段と、
前記変調手段で変調された前記電子透かし信号を前記画像信号に重畳する重畳手段と
を有する信号処理装置。 - 画像信号の動きベクトルを検出する第1の工程と、
前記画像信号に電子透かし信号を重畳した信号に対応した画像内で前記電子透かし信号に対応した画像が視覚困難になるように、前記動きベクトルに基づいて、前記電子透かし信号を変調する第2の工程と、
前記第2の工程で変調された前記電子透かし信号を前記画像信号に重畳する第3の工程と
を有する信号処理方法。 - 前記第2の工程は、前記第1の工程で検出した前記動きベクトルの水平成分が大きくなるに従って前記電子透かし信号の水平周波数成分を減衰率を高め、前記動きベクトルの垂直成分が大きくなるに従って前記電子透かし信号の垂直周波数成分を減衰率を高めるように、前記電子透かし信号を変調する
請求項9に記載の信号処理方法。 - 前記第2の工程は、前記画像信号に電子透かし信号を重畳した信号に対応した画像内で前記電子透かし信号に対応した画像が視覚困難になるように、前記画像信号に対応した画像の粗さに基づいて、前記電子透かし信号を変調する
請求項9に記載の信号処理方法。 - 画像信号によって規定される画像内の予め決められた区分けされた複数の領域毎に動きベクトルを検出する第1の工程と、
前記画像信号に電子透かし信号を重畳した信号に対応した画像内で前記電子透かし信号に対応した画像が視覚困難になるように、前記複数の領域毎に当該領域の前記動きベクトルに基づいて前記電子透かし信号を変調する第2の工程と、
前記第2の工程で変調された前記電子透かし信号を前記画像信号に重畳する第3の工程と
を有する信号処理方法。 - 画像信号によって規定される画像内のオブジェクト毎に動きベクトルを検出する第1の工程と、
前記画像信号に電子透かし信号を重畳した信号に対応した画像内で前記電子透かし信号に対応した画像が視覚困難になるように、前記オブジェクト毎に当該オブジェクトの前記動きベクトルに基づいて、前記電子透かし信号を変調する第2の工程と、
前記第2の工程で変調された前記電子透かし信号を前記画像信号に重畳する第3の工程と
を有する信号処理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002205665A JP2004048567A (ja) | 2002-07-15 | 2002-07-15 | 信号処理装置およびその方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002205665A JP2004048567A (ja) | 2002-07-15 | 2002-07-15 | 信号処理装置およびその方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004048567A true JP2004048567A (ja) | 2004-02-12 |
Family
ID=31710907
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002205665A Pending JP2004048567A (ja) | 2002-07-15 | 2002-07-15 | 信号処理装置およびその方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004048567A (ja) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005318596A (ja) * | 2004-04-28 | 2005-11-10 | Thomson Licensing | 画像を表示するための装置及び方法 |
JP2007006482A (ja) * | 2005-06-21 | 2007-01-11 | Thomson Licensing | 画像表示装置及び方法 |
JP2009508376A (ja) * | 2005-09-08 | 2009-02-26 | トムソン ライセンシング | 表示画像のための方法およびデバイス |
JP2009201069A (ja) * | 2008-02-25 | 2009-09-03 | Seiko Instruments Inc | 電子透かし生成装置、電子透かし生成方法、電子透かし生成プログラム、電子透かし検出装置、及び電子透かし検出プログラム。 |
CN106131553A (zh) * | 2016-07-04 | 2016-11-16 | 武汉大学 | 一种基于运动矢量残差相关性的视频隐写分析方法 |
CN112312138A (zh) * | 2020-08-17 | 2021-02-02 | 中国科学技术大学 | 一种抑制帧间残差信号失真传播的视频隐写方法 |
-
2002
- 2002-07-15 JP JP2002205665A patent/JP2004048567A/ja active Pending
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005318596A (ja) * | 2004-04-28 | 2005-11-10 | Thomson Licensing | 画像を表示するための装置及び方法 |
JP4644519B2 (ja) * | 2004-04-28 | 2011-03-02 | トムソン ライセンシング | 画像を表示するための装置及び方法 |
JP2007006482A (ja) * | 2005-06-21 | 2007-01-11 | Thomson Licensing | 画像表示装置及び方法 |
JP2009508376A (ja) * | 2005-09-08 | 2009-02-26 | トムソン ライセンシング | 表示画像のための方法およびデバイス |
JP2009201069A (ja) * | 2008-02-25 | 2009-09-03 | Seiko Instruments Inc | 電子透かし生成装置、電子透かし生成方法、電子透かし生成プログラム、電子透かし検出装置、及び電子透かし検出プログラム。 |
CN106131553A (zh) * | 2016-07-04 | 2016-11-16 | 武汉大学 | 一种基于运动矢量残差相关性的视频隐写分析方法 |
CN112312138A (zh) * | 2020-08-17 | 2021-02-02 | 中国科学技术大学 | 一种抑制帧间残差信号失真传播的视频隐写方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4764433B2 (ja) | 安全、堅固かつ高忠実度の透かし入れ | |
US9996891B2 (en) | System and method for digital watermarking | |
JP4696121B2 (ja) | フィルム粒子のシミュレーション方法 | |
Lubin et al. | Robust content-dependent high-fidelity watermark for tracking in digital cinema | |
KR100791434B1 (ko) | Wm 신호 생성 장치, wm 신호 생성 방법, wm 신호 생성 방법을 실행하기 위한 컴퓨터 실행 가능한 프로그램을 기록한 컴퓨터 판독 가능한 기록 매체, 전자 워터마크 매립 장치 및 그 전자 워터마크 매립 장치를 포함하는 디지털 텔레비전 장치 | |
US6639996B2 (en) | Image processing apparatus, image processing method and computer readable memory medium | |
JP2004533143A (ja) | 画像の時空間チャネル | |
JP2009514305A (ja) | 情報信号にデータを埋め込む方法 | |
JP2003134330A (ja) | 電子透かし埋め込み処理装置、および電子透かし埋め込み処理方法、並びにコンピュータ・プログラム | |
JP3861623B2 (ja) | 電子透かし埋め込み処理装置、および電子透かし埋め込み処理方法、並びにプログラム | |
JP2009508376A (ja) | 表示画像のための方法およびデバイス | |
US7336799B2 (en) | Digital watermark embedding device and digital watermark embedding method | |
JP2004048567A (ja) | 信号処理装置およびその方法 | |
JPWO2006025382A1 (ja) | 情報多重装置及び方法、情報抽出装置及び方法、並びにコンピュータプログラム | |
JP5509061B2 (ja) | 潜像重畳方法、および、潜像重畳装置、潜像重畳システム | |
WO2001056279A2 (en) | Cinema anti-piracy measures | |
van Leest et al. | On digital cinema and watermarking | |
JP5508896B2 (ja) | 画像処理方法 | |
JP2004056224A (ja) | 信号処理装置およびその方法 | |
JP2007006482A (ja) | 画像表示装置及び方法 | |
KR19990029702A (ko) | 영상신호에 정보를 부가하는 방법 및 정보부가장치 | |
JP2003235016A (ja) | データ処理装置 | |
US7634089B1 (en) | Cinema anti-piracy measures | |
JP2002369161A (ja) | 電子透かし埋め込み処理装置、および電子透かし埋め込み処理方法、並びにプログラム | |
CN117751378A (zh) | 数字水印的系统和方法 |