JP3785642B2 - 電子透かしに含めた暗号鍵を用いた符号化装置及び復号化装置並びにそれらの方法 - Google Patents

電子透かしに含めた暗号鍵を用いた符号化装置及び復号化装置並びにそれらの方法 Download PDF

Info

Publication number
JP3785642B2
JP3785642B2 JP2003311589A JP2003311589A JP3785642B2 JP 3785642 B2 JP3785642 B2 JP 3785642B2 JP 2003311589 A JP2003311589 A JP 2003311589A JP 2003311589 A JP2003311589 A JP 2003311589A JP 3785642 B2 JP3785642 B2 JP 3785642B2
Authority
JP
Japan
Prior art keywords
digital watermark
data
encryption key
watermark
picture
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2003311589A
Other languages
English (en)
Other versions
JP2005080204A (ja
Inventor
淳也 渡辺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2003311589A priority Critical patent/JP3785642B2/ja
Publication of JP2005080204A publication Critical patent/JP2005080204A/ja
Application granted granted Critical
Publication of JP3785642B2 publication Critical patent/JP3785642B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Image Processing (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本発明は、デジタルデータに電子透かしを挿入する方法及び装置並びにデジタルデータから電子透かしを検出する方法及び装置に関し、特に、デジタル画像データに電子透かしを挿入する方法及び装置並びにデジタル画像データから電子透かしを検出する方法及び装置に関する。
また、本発明はデジタルデータを暗号化する方法及び装置並びに暗号化されたデジタルデータを復号する方法及び装置に関し、特に、デジタル画像データを暗号化する方法及び装置並びに暗号化されたデジタル画像データを復号する方法及び装置に関する。
近年、画像データや音声データは、デジタル化されてから蓄積、伝送、配布等がされるようになってきた。一方、デジタル化に伴うデータの違法な複製が大きな問題となっている。電子透かしデータの挿入・検出技術は、そのような違法な複製を防止する技術として注目を浴びており、実現化に向けて検討が進んでいる。また、電子透かしデータとは別にデータやプログラム等の改竄を防ぐ技術として暗号化方式がある。これは、データやプログラム自体をある暗号キーにより暗号化し、その暗号キーがなければそのデータやプログラムがデータやプログラムとして成り立たないようにする技術である。
しかし、暗号化技術は、一度その暗号キーを解読されてしまうと、暗号化したデータも簡単にアクセスできてしまうと言う弱点があり、DVD(Digital Versatile Disk)に施されているCSS(Contents Scrambling System)のように、同一の暗号鍵(単一の暗号鍵又は1組の暗号鍵)で全てのDVDコンテンツを暗号化した場合、その暗号鍵を解読されると、全てのDVDコンテンツの暗号を解いて、不正にコピー出来てしまうと言うことになる。
そこで、各コンテンツをコンテンツ毎の暗号鍵を用いて暗号化することによりCSSの問題点を解決できる。しかし、暗号鍵をコンテンツとは別のルートでDVDの購買者に送付すると、購買者はコンテンツ毎に異なった暗号鍵を再生機又は再生ソフトに設定しなければならず、購買者の操作が煩わしい。また、暗号鍵をMPEG(Moving Picture Experts Group)データの特定の領域に挿入すると、不正者が容易にMPEGデータから暗号鍵を抜き取り、抜き取った暗号鍵により暗号化されていないMPEGデータを取り出し、暗号化されていないMPEGデータを複製することが可能となってしまう。
特許文献1に記載の技術は、電子透かしを画像データに挿入すると共に、電子透かしをスクランブルのための座標変換データの一部として使用して、画像ブロック単位で画像をスクランブルすることにより、再生側で、画像データに挿入された電子透かしと同一の電子透かしを用意している場合に限り、スクランブルを解除できるようにしたものである。しかし、この技術では、画像データの暗号化が行われておらず、画像ブロック単位でスクランブルが行われているだけであるので、スクランブルを解かなくても、どのフレームからも電子透かしを検出することができ、電子透かしを隠蔽することが全く出来ない。また、画像データを圧縮しようとした際、画像ブロック単位でスクランブルが行われているので、空間の連続性が無くなり、画像ブロックの動きベクトルを検出できず、動き補償フレーム間予測符号化を用いることが出来なくなってしまい、従って、高能率に圧縮することが出来なくなってしまう。
そこで、本願の出願人は、電子透かし技術と、暗号化技術のそれぞれの特徴を活かし、よりセキュアなデジタルコンテンツの再生制限をすること可能とする、電子透かしに含めた暗号鍵を用いた符号化装置及びその方法並びに電子透かしに含めた暗号鍵を用いた復号化装置及びその方法を発明した。この発明は、例えば、特許文献2に記載されているように、第1の暗号鍵を含んだ第1の電子透かしを生成する生成手段と、データの第1の部分に前記第1の暗号鍵を含んだ前記第1の電子透かしを挿入する電子透かし挿入手段と、前記データの第2の部分を前記第1の暗号鍵で暗号化する暗号化手段と、を備えることを特徴とする電子透かしに含めた暗号鍵を用いた符号化装置及びデータの第1の部分より第1の電子透かしを検出する電子透かし検出手段と、前記第1の電子透かしより第1の暗号鍵を抽出する暗号鍵抽出手段と、前記データの第2の部分を前記第1の暗号鍵で暗号解読する暗号解読手段と、を備えることを特徴とする電子透かしに含めた暗号鍵を用いた復号化装置である。この符号化装置において、前記電子透かし生成手段は、第n(nは1より大きい整数)の暗号鍵を含んだ第nの電子透かしを生成し、前記電子透かし挿入手段は、第nの部分が前記暗号化手段により第(n−1)の暗号鍵で暗号化される前に、前記第nの部分に前記第nの電子透かしを挿入し、前記暗号化手段は、前記データの第(n+1)の部分を前記第nの暗号鍵で暗号化してもよい。また、この復号化装置において、前記電子透かし検出手段は、前記暗号解読手段により第(n−1)(nは1より大きい整数)の暗号鍵で暗号解読された第nの部分より第nの電子透かしを検出し、前記暗号鍵抽出手段は、前記第nの電子透かしより第nの暗号鍵を抽出し、前記暗号解読手段は、前記データの第(n+1)の部分を前記第nの暗号鍵で暗号解読してもよい。
ここで、他の従来技術について説明すると、特許文献3に記載の発明は、SMTPヘッダ、伝送情報及びイメージデータより構成されるデータセットに対し、イメージデータを電子透かしで認証処理し、電子透かしを復号するための復号鍵及び伝送情報を強い暗号の暗号鍵で暗号化するものである。
特許文献4に記載の発明は、動画再生したときには視認できないが、静止画再生したときには視認できる電子透かしを動画の一部のフレームに挿入するものである。
特開平11−317859号公報 特開2002−232412号公報 特開平11−88319号公報 特開平11−136618号公報
しかし、特許文献2に記載されている発明には以下の問題点がある。すなわち、復号化装置においては、データの第1の部分から電子透かしを検出しなければ、データの第2の部分の暗号解読をすることができず、データの第2の部分の暗号解読及びデータの第2の部分からの電子透かしの検出ができなければデータの第3の部分の暗号解読をすることができず、データの第3の部分の暗号解読及びデータの第3の部分からの電子透かしの検出ができなければデータの第4の部分の暗号解読ができなく、この様なことが続く。従って、コンテンツを先頭から末尾まで順を追って再生する場合には、問題が生ずることがないが、コンテンツをランダムアクセスする場合に、暗号解読ができない。特に、ランダムアクセスすることができるDVDへの適用が多いことを考慮すると、それは大きな問題となる。
そこで本発明は、電子透かしを検出できなければ暗号解読ができないという秘匿性を維持したまま、ランダムアクセスを可能とする電子透かしに含めた暗号鍵を用いた符号化装置及びその方法並びに電子透かしに含めた暗号鍵を用いた復号化装置及びその方法を提供することを目的とする。
本発明の第1の観点によれば、暗号鍵の全部又は一部を含んだ電子透かしを生成する電子透かし生成手段と、データの第1の部分に前記暗号鍵の全部又は一部を含んだ前記電子透かしを挿入する電子透かし挿入手段と、前記データの第2の部分を前記暗号鍵により暗号化する暗号化手段と、を備える電子透かしに含めた暗号鍵を用いた符号化装置において、前記データの第1の部分は、データ伸張において、前記データの第2の部分が復元されたことを条件として、復元できるデータであり、前記第1の部分と前記第2の部分は同一のGOPに含まれることを特徴とする符号化装置が提供される
上記の電子透かしに含めた暗号鍵を用いた符号化装置において、前記電子透かし挿入手段は、前記データの第2の部分の全部又は一部にも前記暗号鍵の全部又は一部を含んだ前記電子透かしを挿入するようにしてもよい。
本発明の第2の観点によれば、データの第1の部分から電子透かしを検出する電子透かし検出手段と、前記電子透かしより暗号鍵の全部又は一部を抽出する暗号鍵抽出手段と、前記データの第2の部分を前記暗号鍵で暗号解読する暗号解読手段と、を備える電子透かしに含めた暗号鍵を用いた復号化装置において、前記データの第1の部分は、データ伸張において、前記データの第2の部分が復元されていることを条件として、復元できるデータであることを特徴とする電子透かしに含めた暗号鍵を用いた復号化装置であって、前記第1の部分と前記第2の部分は同一のGOPに含まれることを特徴とする復号化装置が提供される。
上記の電子透かしに含めた暗号鍵を用いた復号化装置において、前記電子透かし検出挿入手段は、前記データの第2の部分の全部又は一部からも前記暗号鍵の全部又は一部を含んだ前記電子透かしを検出するようにしてもよい。
データの第2の部分が復元されたことを条件として復元できるデータの第1の部分にデータの第2の部分の暗号解読をするための暗号鍵を含んだ電子透かしを挿入するので、データの第1の部分の電子透かしを検出することができなければ、データの第1の部分及びデータの第2の部分の両方を復元することができない。従って、データの一部であるデータの第2の部分のみを暗号化するのみで、データの秘匿性を高めることができる。従って、データの一部であるデータの第2の部分以外の部分であるデータの第1の部分に、暗号化されてしまうと挿入することが不可能な電子透かしを挿入することとしている。こうすることにより、データの第1の部分又はデータの第2の部分でない他の領域のデータに暗号鍵を含んだ電子透かしを挿入する必要が無くなるので、データの第1の部分及びデータの第2の部分を復元するために他の領域にアクセスする必要が無くなり、ランダムアクセスに対応することができる。
データの第2の部分を暗号化しているので、その第2の部分の暗号解読ができなければ、他の部分が暗号化されていなくても、復号化データは、意味を持たないものとなる。従って、データの一部であるデータの第2の部分以外の部分であるデータの第1の部分に、暗号解読をするための暗号鍵を含んだ電子透かしを挿入することとしている。こうすることにより、データの第1の部分又はデータの第2の部分でない他の領域のデータに暗号鍵を含んだ電子透かしを挿入する必要が無くなるので、データの第1の部分及びデータの第2の部分を意味のあるものに復元するために他の領域にアクセスする必要が無くなり、ランダムアクセスに対応することができる。
以下、図面を参照して本発明の実施形態について詳細に説明する。
[実施形態1]
まず、実施形態1による符号化装置について説明する。図1は、実施形態1による符号化装置の構成を示すブロック図である。
図1を参照すると、実施形態1による符号化装置は、電子透かし生成部101、電子透かし挿入部103及び暗号化部105を備える。
電子透かし生成部101は、暗号鍵111の全部又は一部を含んだ電子透かし112を生成する。ここで、電子透かし112が暗号鍵111を含むとは、電子透かし112の各成分に暗号鍵の全部又は一部の各数値又は文字が対応付けられることをいう。暗号鍵111は、原データのコンテンツ毎に異なったものであることが好ましい。こうすることにより、あるコンテンツに対応した暗号鍵がハッキングされても、他のコンテンツを暗号解読することができない。また、暗号鍵111は、復号側でも用いられることを考慮し、共通鍵である。また、電子透かしを各フレームから検出することができるならば、暗号鍵111をフレーム毎に変化させてもよい。電子透かしを検出するために、数フレーム必要なのであれば、暗号鍵を数フレーム毎に変化させてもよい。こうすることにより、暗号鍵のハッキングに多大な時間を要することとなり、コンテンツの秘匿性を高めることができる。
電子透かし挿入部103は、原データ113に電子透かし112を挿入し、電子透かしが挿入された中間データ115を生成する。原データ113は、実施形態では、例えば、動画像データである。電子透かし挿入部103の詳細については後述する。
原データ113及び中間データ115のフィールド又はフレーム(以下、フィールド及び1以上のフレームを含めて単にフレームという。)の構成の模式図を図2に示す。図2に示す原データ113等の番号が付された四角は、画素又はブロックを示すが、以下、画素及びブロックを含めて単にブロックという。図2に示す中間データ115において、数字が円で囲まれたブロックに電子透かしが挿入されており、その他のブロックには電子透かしは挿入されていない。図2には、2種類の中間データ115(115A及び115B)を示す。一方の種類の中間データ115Aは、一部のブロックに電子透かしが挿入されたものであり、他方の種類の中間データ115Bは、全部のブロックに電子透かしが挿入されたものである。電子透かし挿入部103は、どちらの種類の中間データ115を生成しても良い。
暗号化部105は、中間データ115を暗号鍵111で暗号化し、符号化データ117を生成する。図2に符号化データ117(117A及び117B)の2種類の模式図を示す。図2に示す符号化データ117において、数字にバツを付しているブロックが暗号化され、その他のブロックは暗号化されない。暗号化されていないブロックは、原データ113とほぼ同様の内容を有するが、一部のブロックが暗号化されているので、符号化データ117は、フレーム全体で見ると認識できないデータとなっているので、秘匿性が得られている。
電子透かし挿入部103が上述した第1の種類の中間データ115を生成する場合には、電子透かしが挿入されたブロックは暗号化されない。これは、ブロックに電子透かしが挿入された後に、そのブロックが暗号化されると、そのブロックから電子透かしを検出できなくなるからである。
しかし、全部のブロックに電子透かしが挿入された後に、一部のブロックが暗号化された場合には、暗号化されたブロックから電子透かしを検出することができなくなるが、暗号化されていないブロックから電子透かしを検出することができる。また、電子透かしを挿入したブロックを暗号化し、暗号解読することは問題なくできる。従って、あるブロックに電子透かしを挿入し、そのブロックを暗号化しても何ら支障はない。他方、全部のブロックに電子透かしを挿入する場合には、電子透かしを挿入するかしないかについての判断部を設ける必要が無く、電子透かし挿入部103を簡素化できる。従って、電子透かし挿入部103の簡素化を目的として、電子透かし挿入部103が全部のブロックに電子透かしを挿入した上述の第2の種類の中間データ115を生成するようにしてもよい。
また、電子透かし挿入部103は、暗号化されないブロックのうちの全てのブロック及び暗号化されるブロックのうちの一部のブロックに電子透かしを挿入しても良い。更に、電子透かしの検出が不可能とならない範囲で、暗号化されないブロックのうちの一部のブロックのみに電子透かしを挿入しても良い。
次に、電子透かし挿入部103の詳細について図3を参照して説明する。
図3を参照すると、電子透かし挿入部103は、離散コサイン変換器103−1、電子透かし保持部103−2、挿入部103−3及び逆離散コサイン変換器103−4を備える。
離散コサイン変換器103−1は、空間領域の原画像データx(j)に対して、例えば8画素×8画素の2次元の離散コサイン変換を行い、周波数領域のDCT係数f(i)を出力する。ここで、jは、2次元から1次元に並べられた後の画素の番号を表し、iは、2次元から1次元に並べられた後のDCT係数の番号を表す。
電子透かしデータ保持部103−2は、電子透かし112
w(1)、w(2)、・・・、w(n)
を保持する。なお、電子透かしデータは平均0、分散1の正規分布に従う。
挿入部103−3は、以下のことを行う。すなわち、DCT係数f(i)と電子透かしデータw(i)を基に、電子透かし挿入後のDCT係数F(i)を、
F(i)=f(i)+α×avg(f(i))×w(i)
の計算式により各iについて計算する。ここで、αはスケーリング要素であり、avg(f(i))はf(i)の近傍3点の絶対値の平均を取った部分平均である。そして、F(i)を出力する。
逆離散コサイン変換器103−4は、電子透かし挿入後のDCT係数F(i)に対して、逆離散コサイン変換を行い、空間領域の電子透かし挿入済画像データX(j)を出力する。
次に、実施形態1による復号化装置について説明する。図4は、実施形態1による復号化装置の構成を示すブロック図である。
図4を参照すると、実施形態1による復号化装置は、電子透かし検出部121、遅延部122、暗号鍵抽出部123及び暗号解読部125を備える。
電子透かし検出部121は、符号化データ117から電子透かし131を検出する。電子透かし検出部121の詳細については後述する。暗号鍵抽出部123は、電子透かし131から暗号鍵133を抽出する。ここで、暗号鍵133は電子透かし生成部101が電子透かしに挿入した暗号鍵であり、暗号鍵111の全部又は一部である。電子透かし131が電子透かし111の一部である場合には、暗号鍵抽出部123が抽出した暗号鍵131に電子透かし111の残りの部分を合わせる。電子透かし111の残りの部分は、例えば、ユーザがインターネットを介してコンテンツ提供者より入手して、復号化装置に入力する。このように、電子透かし133は電子透かし111の一部である場合もあるが、以降の説明では、説明を簡単にするために、電子透かし111と電子透かし133が同一であるとする。遅延部122は、符号化データ117を、符号化データ117から電子透かし検出部121及び暗号鍵抽出部123により暗号鍵133を得るのに必要な時間だけ遅延させることにより、暗号鍵133が得られてから、その暗号鍵133を含んでいたフレームのデータが暗号解読部125に供給されるようにする。暗号解読部125は、暗号鍵133を用いて符号化データ117の暗号解読をして、復元データ135を生成する。
2種類の中間データ115A及び115Bに対応した2種類の復元データ135A及び135Bの構成を図2に示す。図2から明らかなように、復元データ135A及び135Bは、それぞれ、中間データ115A及び115Bと同一である。すなわち、復元データ135は暗号解読されているが、電子透かしが挿入されたままである。電子透かしは視覚上画質に影響を与えないので、電子透かしが挿入されたままであっても問題はない。
次に、電子透かし検出部121の詳細について図5を参照して説明する。
図5を参照すると、電子透かし検出部121は、離散コサイン変換器121−1、電子透かしデータ候補保持部121−2及び検出部121−3を備える。
離散コサイン変換器121−1は、空間領域の電子透かし挿入済画像データX(j)に対して離散コサイン変換を行い、電子透かし挿入後のDCT係数F(i)を出力する。
電子透かしデータ候補保持部121−2は、複数の電子透かしデータ候補を保持する。
検出部121−3は、電子透かし挿入後のDCT係数F(i)を基に、電子透かしデータW(i)を、
W(i)=F(i)/avg(F(i))
の計算式により計算し、1フレーム分のW(i)の総和WF(i)を各iについて計算する。
次に、検出部121−3は、電子透かし候補w(i)とWF(i)との統計的類似度Cをベクトルの内積を利用して、
C=WF×w/(WFD×wD)
の計算式により計算する。ここで、
WF=(WF(1)、WF(2)、・・・、WF(n))、
w=(w(1)、w(2)、・・・、w(n))、
WFD=ベクトルWFの絶対値、
wD=ベクトルwの絶対値
である。統計的類似度Cがある特定の値以上である場合には、該当電子透かしデータが埋め込まれていると判定する。
電子透かしを検出するために、1フレームのうちの電子透かしが挿入されていて暗号化されていないブロックのみを必要とする場合には、各フレーム毎に暗号鍵を変えることができる。これに対し、電子透かしを検出するために、複数フレームのうちの電子透かしが挿入されていて暗号化されていないブロックを必要とする場合には、複数フレーム毎に暗号鍵を変えることができる。
[実施形態2]
次に、実施形態2の符号化装置及び復号化装置の説明をする前に、実施形態2の符号化装置及び復号化装置が扱うMPEGデータのうちの映像データについて説明する。
MPEGデータのうちの映像データは、動き補償双方向フレーム間符号化が行われたものである。映像データは、GOP(Group Of Picture)といわれるグループに分割される。ここで、ピクチャとは、フレームのことである。図6に示すように、GOPは、複数のピクチャより構成される。ピクチャは、Iピクチャ、Bピクチャ及びPピクチャに分類される。Iピクチャは、フレーム内符号化されるピクチャであり、1つのGOPに1つある。Pピクチャは、前方向予測符号化が行われるピクチャである。Bピクチャは双方向予測符号化が行われるピクチャである。図6のピクチャ間を結ぶ矢印の先にあるピクチャはその矢印の元にあるピクチャを基準にして予測符号化される。例えば、P6ピクチャは、I3ピクチャを基準にして予測符号化され、B1ピクチャは、I3ピクチャ及びP6ピクチャを基準にして予測符号化され、B2ピクチャはI3ピクチャ及びP6ピクチャを基準にして予測符号化され、P9ピクチャは、P6ピクチャを基準にして予測符号化される。従って、復号化装置で、例えば、P6ピクチャを復元するためには、予めI3ピクチャが復元されていなければならず、B1ピクチャを復元するためには、予めI3ピクチャ及びP6ピクチャが復元されていなければならず、B2ピクチャを復元するためには、予めI3ピクチャ及びP6ピクチャが復元されていなければならず、P9ピクチャを復元するためには、予めP6ピクチャが復元されていなければならない。従って、復号化装置において、あるGOPに1つしか存在しないIピクチャが復元できなければ、そのGOPの全てのピクチャを復元することができない。また、図6の例では、I3ピクチャが復元できたとしても、GOP内の最初のPピクチャであるP6ピクチャが復元できなければ、I3ピクチャを除き、これらが属するGOPに属する全てのピクチャを復元することができない。
次に、実施形態2による符号化装置について説明する。図7は、実施形態2による符号化装置の構成を示すブロック図である。
図7を参照すると、実施形態2による符号化装置は、MPEGエンコーダ201、電子透かし生成部203、電子透かし挿入部205及び暗号化部207を備える。
MPEGエンコーダ201は、原画像データ213及び原音声データ214を入力し、MPEG規格に従ってこれらを符号化し、MPEGデータである第1の中間データ215を生成する。図8に第1の中間データ215の各ピクチャを示す。
電子透かし生成部203は、暗号鍵211の全部又は一部を含んだ電子透かし212を生成する。暗号鍵211は、原画像データ213及び原音声データ214のコンテンツ毎に異なったものであることが好ましい。こうすることにより、あるコンテンツに対応した暗号鍵がハッキングされても、他のコンテンツを暗号解読することができない。また、暗号鍵211は、復号側でも用いられることを考慮し、共通鍵である。また、電子透かしを各GOPから検出することができるならば、暗号鍵111をGOP毎に変化させてもよい。こうすることにより、暗号鍵のハッキングに多大な時間を要することとなり、コンテンツの秘匿性を高めることができる。
電子透かし挿入部205は、第1の中間データ215のうちのDCT係数の部分に電子透かしを挿入し、電子透かしが挿入された第2の中間データ217を生成する。電子透かし挿入部205の詳細については後述する。図8に第2の中間データ217の各ピクチャを示す。図8に示す第2の中間データ217において、数字が円で囲まれたピックチャに電子透かしが挿入されており、その他のピクチャには電子透かしは挿入されていない。すなわち、Iピクチャには電子透かしが挿入されないが、他の全てのピクチャには電子透かしが挿入される。
次に、電子透かし挿入部205の詳細について図9を参照して説明する。
図9を参照すると、電子透かし挿入部205は、可変長復号化部205−1、電子透かし保持部205−2、挿入部205−3、調整部205−4、可変長符号化部205−5、遅延部205−6及びマルチプレクサ205−7を備える。
可変長復号化部205−1は、第1の中間データ215を可変長復号し、各画像ブロックのDCT係数f(i)を出力する。
電子透かしデータ保持部205−2は、電子透かし212
w(1)、w(2)、・・・、w(n)
を保持する。なお、電子透かしデータは平均0、分散1の正規分布に従う。
挿入部205−3は、以下のことを行う。すなわち、DCT係数f(i)と電子透かしデータw(i)を基に、電子透かし挿入後のDCT係数F(i)を、
F(i)=f(i)+α×avg(f(i))×w(i)
の計算式により各iについて計算する。ここで、αはスケーリング要素であり、avg(f(i))はf(i)の近傍3点の絶対値の平均を取った部分平均である。そして、F(i)を出力する。
調整部205−4は、調整後の各画像ブロックのDCT係数を可変長符号化したときの各画像ブロック当たりの総符号長が、電子透かしを挿入する前の各画像ブロックのDCT係数を可変長符号化したときの各画像ブロック当たりの総符号長が等しくなるように、各画像ブロックのDCT係数のレベルを調整する。
可変長符号化部205−5は、調整部205−4が出力するDCT係数を可変長符号化する。
遅延部205−6は、可変長復号化部205−1、挿入部205−3、調整部205−4及び可変長符号化部205−5でのデータの遅延時間と同一の時間だけ第1の中間データ215を遅延させる。
マルチプレクサ205−7は、可変長符号化部205−5が出力する可変長符号と、遅延部205−6が出力する第1の中間データのうちのDCT係数の可変長符号を除いた部分とをマルチプレクスする。つまり、マルチプレクサ205−7は、遅延部205−6が出力する第1の中間データのうちDCT係数に関連する符号だけ可変長符号化部205−5が出力する符号にすげ替える。
このようにして、電子透かし挿入部205は、MPEGデータのうちのDCT係数の可変長符号の部分だけに変更を加える。電子透かし挿入部205の詳細については、特開2001−007705に記載されている。
なお、電子透かし挿入後の符号量が電子透かし挿入前の符号量と等しくなくても良いのならば、調整部205−4は不要であり、可変長符号化部205−5とマルチプレクサ205−7の間に可変遅延部を設け、遅延部205−6を可変とし、これらの遅延部からデータを出力用クロックで読み出す。
図7に戻り、暗号化部207は、第2の中間データ217を暗号鍵211で暗号化し、符号化データ219を生成する。図8に符号化データ219の各ピクチャを示す。図8に示す符号化データ219において、数字にバツを付しているピクチャが暗号化され、その他のピクチャは暗号化されない。すなわち、Iピクチャのみが暗号化される。従って、Iピクチャには、電子透かしが挿入されないが、Iピクチャは暗号化される。他方、Iピクチャ以外のピクチャには、電子透かしが挿入されるが、Iピクチャ以外のピクチャは暗号化されない。
従って、Iピクチャの暗号解読ができない限り、GOPの全てのピクチャを復元することができない。Iピクチャを暗号解読するための暗号鍵は、電子透かしの形態でIピクチャ以外のピクチャに挿入されている。従って、復号化装置において、Iピクチャ以外のピクチャから電子透かしを検出し、検出された電子透かしから暗号鍵を抽出しない限り、Iピクチャの暗号解読ができない。従って、Iピクチャ以外のピクチャから電子透かしを検出しない限り、GOPの全てのピクチャを復元することができない。
一方、Iピクチャ以外のピクチャから電子透かしを検出すれば、Iピクチャの暗号解読をすることができるので、Iピクチャ以外のピクチャから電子透かしを検出すれば、GOPの全てのピクチャを復元することができる。すなわち、あるGOPの全てのピクチャを復元するためには、そのGOPのIピクチャ以外のピクチャに挿入されている電子透かしが検出できれば良く、他のGOPのピクチャに挿入されている電子透かしを検出する必要はない。元々、MPEGデータの性質上、ランダムアクセスはフレーム単位で行うことができず、GOP単位で行うこととなるが、本発明によりこれ以上の制限を加えることがなくなる。特許文献2の発明の場合には、あるGOPを再生するために他のGOPのデータが必要とされる。従って、特許文献2の発明は、ランダムアクセスへの適合性を有さないが、本発明は、ランダムアクセスへの適合性を有する。
図10(a)〜(c)に符号化データ219の他のパターンを示す。図10(a)に示すパターンでは、Iピクチャ及びGOP内の最初のピクチャが暗号化され、GOPの他のピクチャに暗号鍵を含む電子透かしが挿入される。図10(b)に示すパターンでは、Iピクチャ及びGOP内の全てのPピクチャが暗号化され、GOP内の全てのBピクチャに暗号鍵を含む電子透かしが挿入される。図10(c)に示すパターンでは、Iピクチャ、GOP内の全てのPピクチャ及びGOPの一部のBピクチャが暗号化され、GOP内の残りのBピクチャに暗号鍵を含む電子透かしが挿入される。
図11(a)〜(d)に符号化データ219の更に他のパターンを示す。図11(a)〜(d)に示すパターンにおいては、全てのピクチャに電子透かしが挿入される。そして、図11(a)に示すパターンでは、Iピクチャのみが暗号化され、図11(b)に示すパターンでは、Iピクチャ及びGOP内の最初のピクチャが暗号化され、図11(c)に示すパターンでは、Iピクチャ及びGOP内の全てのPピクチャが暗号化され、図11(d)に示すパターンでは、Iピクチャ、GOP内の全てのPピクチャ及びGOP内の一部のBピクチャが暗号化される。実施形態1と同様に、暗号化されるピクチャに電子透かしが挿入されていても、暗号化及び暗号解読に支障はない。また、ピクチャの区別無く電子透かしを挿入すれば、電子透かしを挿入するかしないかを決定するための部分が不要であるため、電子透かし挿入部205を簡素化することができる。従って、電子透かし挿入部205を簡素化する目的のために、全てのピクチャに電子透かしを挿入するようにしても良い。
また、図11(b)、(c)又は(d)のパターンを変形させて、電子透かしが挿入されないピクチャをピクチャI3のみとしても良いし、電子透かしが挿入されないピクチャをピクチャI3及びP6のみとしてもよい。
図8に示す符号化データ、図10(a)に示す符号化データ、図10(b)に示す符号化データ、図10(c)に示す符号化データの順に、暗号化されるピクチャの数が増加し、暗号鍵を含む電子透かしが挿入されるピクチャの数が減少する。
Pピクチャ及びBピクチャには、画像の内容によっては、フレーム内符号化されるイントラマクロブロックが含まれる場合がある。イントラマクロブロックは、Iピクチャが復元されていなくても、復元することができる。従って、復元できるイントラマクロブロックを減らして、暗号解読できない場合の画像の認識性を低くするためには、暗号化されるピクチャの数が多い方が好ましい。一方、暗号化されるピクチャの数を多くすると、暗号鍵を含んだ電子透かしであって検出できるものを挿入できるピクチャの数が少なくなり、電子透かしの検出の精度が下がる。従って、暗号化されるピクチャの数を、暗号解読できない場合の画像の認識性と電子透かしの検出の精度を考慮して定める。
次に、実施形態2による復号化装置について説明する。図12は、実施形態2による復号化装置の構成を示すブロック図である。
図12を参照すると、実施形態2による復号化装置は、電子透かし検出部221、遅延部222、暗号鍵抽出部223、暗号解読部225及びMPEGデコーダ227を備える。
電子透かし検出部221は、符号化データ219から電子透かし231を検出する。電子透かし検出部221の詳細については後述する。暗号鍵抽出部223は、電子透かし231から暗号鍵233を抽出する。実施形態1の場合と同様に暗号鍵233は暗号鍵211の全部又は一部であり、暗号鍵233に暗号鍵211の残りの部分を合わせて暗号解読部225に供給する必要があるが、説明の簡単のために暗号鍵233は暗号鍵211と同一であるとする。遅延部222は、暗号鍵抽出部223が暗号鍵233を出力するまでの間、符号化データ219が暗号解読部225に入力されるタイミングを遅らせるために、符号化データ219を遅延させる。暗号解読部225は、暗号鍵233を用いて遅延された符号化データ219の暗号解読をして、第3の中間データ235を生成する。MPEGデコーダ227は、第3の中間データ235を復号して、復元画像データ237及び復元音声データ239を生成する。
第3の中間データ235は、図8に示すように、暗号解読されているが、電子透かしは挿入されたままである。同様に、復元画像データ237も、図8に示すように、暗号解読されているが、電子透かしは挿入されたままである。
次に、電子透かし検出部221の詳細について図13を参照して説明する。
図13を参照すると、電子透かし検出部221は、可変長復号部221−1、電子透かしデータ候補保持部221−2及び検出部221−3を備える。
可変長復号部221−1は、符号化データ219を可変長復号し、暗号化されていないピクチャの各ブロックの電子透かし挿入後のDCT係数F(i)を出力する。なお、本実施形態では、MPEGデータ中の各種のビデオスタートコードを暗号化しないので、ビデオスタートコードの一種であるピクチャースタートコードにより各ピクチャーの先頭を検出することができるので、途中に暗号化されているピクチャが混じっていても各ピクチャを認識することができる。
電子透かしデータ候補保持部221−2は、複数の電子透かしデータ候補を保持する。
検出部221−3は、電子透かし挿入後のDCT係数F(i)を基に、電子透かしデータW(i)を、
W(i)=F(i)/avg(F(i))
の計算式により計算し、1フレーム分のW(i)の総和WF(i)を各iについて計算する。
次に、検出部221−3は、電子透かし候補w(i)とWF(i)との統計的類似度Cをベクトルの内積を利用して、
C=WF×w/(WFD×wD)
の計算式により計算する。ここで、
WF=(WF(1)、WF(2)、・・・、WF(n))、
w=(w(1)、w(2)、・・・、w(n))、
WFD=ベクトルWFの絶対値、
wD=ベクトルwの絶対値
である。統計的類似度Cがある特定の値以上である場合には、該当電子透かしデータが埋め込まれていると判定する。
[実施形態3]
実施形態2においては、符号化装置において、MPEGエンコーダ201の後段に電子透かし挿入部205を配置していた。これに対し、実施形態7においては、図14に示すように、符号化装置において、MPEGエンコーダ201の前段に電子透かし挿入部209を配置する。電子透かし挿入部209の構成は図3に示すようなものである。図14において、電子透かし挿入部209が出力する第1の中間データ251は、全部又は一部のピクチャに電子透かしが挿入された画像データである。MPEGエンコーダ201が出力する第2の中間データ253は、全部又は一部のピクチャに電子透かしが挿入されたMPEGデータである。実施形態3の符号化装置が出力する符号化データ219は、実施形態2の符号化装置が出力する符号化データ219と同一である。
なお、上記の実施形態の符号化装置の各部及び復号化装置の各部は、ハードウェアによって実現することもできるし、コンピュータをこれらの部分として機能させるためのプログラムをコンピュータが読み込んで実行することによっても実現することができるし、ハードウェアとソフトウェアのハイブリッド構成で実現することもできる。
また、上記の実施形態では、共通鍵により暗号化及び暗号解読をするとした。この代わりに、公開鍵によりデータの暗号化を行い、データに秘密鍵を電子透かしの形態で挿入し、復号側で、電子透かしを検出し、秘密鍵を抽出し、抽出された秘密鍵でデータの暗号解読を行うようにしてもよい。
本発明は、DVD等に記録された映画等のコンテンツの秘匿性を高め、且つ、ランダムアクセスに対応するために用いることができる。
本発明の実施形態1による符号化装置の構成を示すブロック図である。 本発明の実施形態1による符号化装置の各部におけるデータの構成を示す図である。 本発明の実施形態1による符号化装置で用いられる電子透かし挿入部の構成を示すブロック図である。 本発明の実施形態1による復号化装置の構成を示すブロック図である。 本発明の実施形態1による復号化装置で用いられる電子透かし検出部の構成を示すブロック図である。 本発明の実施形態2で扱うMPEGデータの構成を示す概念図である。 本発明の実施形態2による符号化装置の構成を示すブロック図である。 本発明の実施形態2による符号化装置及び復号化装置の各部におけるデータの構成を示す図である。 本発明の実施形態2による符号化装置で用いる電子透かし挿入部の構成を示すブロック図である。 本発明の実施形態2による符号化装置が出力する符号化データの各バリエーションの構成を示す図である。 本発明の実施形態2による符号化装置が出力する符号化データの各バリエーションの構成を示す図である。 本発明の実施形態2による復号化装置の構成を示すブロック図である。 本発明の実施形態2による復号化装置で用いる電子透かし検出部の構成を示すブロック図である。 本発明の実施形態3による符号化装置の構成を示すブロック図である。
符号の説明
101 電子透かし生成部
103 電子透かし挿入部
105 暗号化部
121 電子透かし検出部
123 暗号鍵抽出部
125 暗号解読部
201 MPEGエンコーダ
203 電子透かし生成部
205 電子透かし挿入部
207 暗号化部
221 電子透かし検出部
222 遅延部
223 暗号鍵抽出部
225 暗号解読部
227 MPEGデコーダ

Claims (9)

  1. 暗号鍵の全部又は一部を含んだ電子透かしを生成する電子透かし生成手段と、
    データの第1の部分に前記暗号鍵の全部又は一部を含んだ前記電子透かしを挿入する電子透かし挿入手段と、
    前記データの第2の部分を前記暗号鍵により暗号化する暗号化手段と、
    を備える電子透かしに含めた暗号鍵を用いた符号化装置において、
    前記データの第1の部分は、データ伸張において、前記データの第2の部分が復元されたことを条件として、復元できるデータであり、
    前記第1の部分と前記第2の部分は同一のGOPに含まれることを特徴とする符号化装置。
  2. 請求項1に記載の電子透かしに含めた暗号鍵を用いた符号化装置において、
    前記電子透かし挿入手段は、前記データの第2の部分の全部又は一部にも前記暗号鍵の全部又は一部を含んだ前記電子透かしを挿入することを特徴とする電子透かしに含めた暗号鍵を用いた符号化装置。
  3. データの第1の部分から電子透かしを検出する電子透かし検出手段と、
    前記電子透かしより暗号鍵の全部又は一部を抽出する暗号鍵抽出手段と、
    前記データの第2の部分を前記暗号鍵で暗号解読する暗号解読手段と、
    を備える電子透かしに含めた暗号鍵を用いた復号化装置において、
    前記データの第1の部分は、データ伸張において、前記データの第2の部分が復元されていることを条件として、復元できるデータであることを特徴とする電子透かしに含めた暗号鍵を用いた復号化装置であって、
    前記第1の部分と前記第2の部分は同一のGOPに含まれることを特徴とする復号化装置
  4. 請求項3に記載の電子透かしに含めた暗号鍵を用いた復号化装置において、
    前記電子透かし検出挿入手段は、前記データの第2の部分の全部又は一部からも前記暗号鍵の全部又は一部を含んだ前記電子透かしを検出することを特徴とする電子透かしに含めた暗号鍵を用いた復号化装置。
  5. 暗号鍵の全部又は一部を含んだ電子透かしを生成する電子透かし生成ステップと、
    データの第1の部分に前記暗号鍵の全部又は一部を含んだ前記電子透かしを挿入する電子透かし挿入ステップと、
    前記データの第2の部分を前記暗号鍵により暗号化する暗号化ステップと、
    を備える電子透かしに含めた暗号鍵を用いた符号化方法において、
    前記データの第1の部分は、データ伸張において、前記データの第2の部分が復元されたことを条件として、復元できるデータであり、
    前記第1の部分と前記第2の部分は同一のGOPに含まれることを特徴とする符号化方法。
  6. 請求項に記載の電子透かしに含めた暗号鍵を用いた符号化方法において、
    前記電子透かし挿入ステップは、前記データの第2の部分の全部又は一部にも前記暗号鍵の全部又は一部を含んだ前記電子透かしを挿入することを特徴とする電子透かしに含めた暗号鍵を用いた符号化方法。
  7. データの第1の部分から電子透かしを検出する電子透かし検出ステップと、
    前記電子透かしより暗号鍵の全部又は一部を抽出する暗号鍵抽出ステップと、
    前記データの第2の部分を前記暗号鍵で暗号解読する暗号解読ステップと、
    を備える電子透かしに含めた暗号鍵を用いた復号化方法において、
    前記データの第1の部分は、データ伸張において、前記データの第2の部分が復元されていることを条件として、復元できるデータであることを特徴とする電子透かしに含めた暗号鍵を用いた復号化方法であって、
    前記第1の部分と前記第2の部分は同一のGOPに含まれることを特徴とする復号化方法
  8. 請求項7に記載の電子透かしに含めた暗号鍵を用いた復号化方法において、
    前記電子透かし検出挿入ステップは、前記データの第2の部分の全部又は一部からも前記暗号鍵の全部又は一部を含んだ前記電子透かしを検出することを特徴とする電子透かしに含めた暗号鍵を用いた復号化方法。
  9. 請求項5乃至8の何れか1項に記載の方法をコンピュータに実行させるためのプログラム。
JP2003311589A 2003-09-03 2003-09-03 電子透かしに含めた暗号鍵を用いた符号化装置及び復号化装置並びにそれらの方法 Expired - Lifetime JP3785642B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003311589A JP3785642B2 (ja) 2003-09-03 2003-09-03 電子透かしに含めた暗号鍵を用いた符号化装置及び復号化装置並びにそれらの方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003311589A JP3785642B2 (ja) 2003-09-03 2003-09-03 電子透かしに含めた暗号鍵を用いた符号化装置及び復号化装置並びにそれらの方法

Publications (2)

Publication Number Publication Date
JP2005080204A JP2005080204A (ja) 2005-03-24
JP3785642B2 true JP3785642B2 (ja) 2006-06-14

Family

ID=34413121

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003311589A Expired - Lifetime JP3785642B2 (ja) 2003-09-03 2003-09-03 電子透かしに含めた暗号鍵を用いた符号化装置及び復号化装置並びにそれらの方法

Country Status (1)

Country Link
JP (1) JP3785642B2 (ja)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1999883A4 (en) 2006-03-14 2013-03-06 Divx Llc FEDERATED DIGITAL RIGHTS MANAGEMENT SYSTEM COMPRISING CONFIDENCE SYSTEMS
CA2749170C (en) 2009-01-07 2016-06-21 Divx, Inc. Singular, collective and automated creation of a media guide for online content
CA2782825C (en) * 2009-12-04 2016-04-26 Divx, Llc Elementary bitstream cryptographic material transport systems and methods
US9247312B2 (en) 2011-01-05 2016-01-26 Sonic Ip, Inc. Systems and methods for encoding source media in matroska container files for adaptive bitrate streaming using hypertext transfer protocol
US9467708B2 (en) 2011-08-30 2016-10-11 Sonic Ip, Inc. Selection of resolutions for seamless resolution switching of multimedia content
US8964977B2 (en) 2011-09-01 2015-02-24 Sonic Ip, Inc. Systems and methods for saving encoded media streamed using adaptive bitrate streaming
US8909922B2 (en) 2011-09-01 2014-12-09 Sonic Ip, Inc. Systems and methods for playing back alternative streams of protected content protected using common cryptographic information
US9191457B2 (en) 2012-12-31 2015-11-17 Sonic Ip, Inc. Systems, methods, and media for controlling delivery of content
US9313510B2 (en) 2012-12-31 2016-04-12 Sonic Ip, Inc. Use of objective quality measures of streamed content to reduce streaming bandwidth
US9906785B2 (en) 2013-03-15 2018-02-27 Sonic Ip, Inc. Systems, methods, and media for transcoding video data according to encoding parameters indicated by received metadata
US10397292B2 (en) 2013-03-15 2019-08-27 Divx, Llc Systems, methods, and media for delivery of content
US9094737B2 (en) 2013-05-30 2015-07-28 Sonic Ip, Inc. Network video streaming with trick play based on separate trick play files
US9967305B2 (en) 2013-06-28 2018-05-08 Divx, Llc Systems, methods, and media for streaming media content
US9866878B2 (en) 2014-04-05 2018-01-09 Sonic Ip, Inc. Systems and methods for encoding and playing back video at different frame rates using enhancement layers
US10498795B2 (en) 2017-02-17 2019-12-03 Divx, Llc Systems and methods for adaptive switching between multiple content delivery networks during adaptive bitrate streaming

Also Published As

Publication number Publication date
JP2005080204A (ja) 2005-03-24

Similar Documents

Publication Publication Date Title
US7146501B2 (en) Method and apparatus for encrypting and decrypting data using encrypting key contained in electronic watermark
US6996717B2 (en) Semi-fragile watermarking system for MPEG video authentication
JP3768705B2 (ja) 電子透かし埋め込み装置、出力制御装置及びコンピュータ読み取り可能な記憶媒体
KR100314774B1 (ko) 데이터스트림처리장치및방법
JP4298499B2 (ja) ディジタル映像にウォーターマーキングする装置及び方法
JP3785642B2 (ja) 電子透かしに含めた暗号鍵を用いた符号化装置及び復号化装置並びにそれらの方法
KR101538338B1 (ko) 픽셀 블록들의 리로케이션을 통한 비디오 스크램블링
AU781797B2 (en) Stream continuity enforcement
US20020188570A1 (en) Partial protection of content
JP2002523809A (ja) スクランブルをかけた情報セグメントを利用した安全な情報分配システム
JP4583924B2 (ja) 条件付きアクセスによるオーディオ/ビデオ/データストリームのトリックプレイ
JP2002099213A (ja) ディジタルコンテンツ生成装置及び再生装置
US6944296B1 (en) Video bit scrambling
JP4630073B2 (ja) コンテンツ暗号化装置及びそのプログラム
US20070110236A1 (en) Encryption/recording device and method
US7567670B2 (en) Verification information for digital video signal
JP3754847B2 (ja) データ処理方法、データ処理装置およびその記憶媒体
JP4902274B2 (ja) 暗号化コンテンツ作成装置およびそのプログラム、ならびに、コンテンツ復号化装置およびそのプログラム
JP2007141095A (ja) データ処理装置およびデータ処理方法
JP4814615B2 (ja) コンテンツ暗号化装置、その方法およびそのプログラム、ならびに、コンテンツ復号化装置、その方法およびそのプログラム
JP5409214B2 (ja) メディアファイル修復方法、メディアファイル作成方法及びメディアファイル再生方法並びに装置
JP4445692B2 (ja) 暗号化装置及び暗号解読装置並びに電子透かし挿入装置及び電子透かし検出装置
WO2016158554A1 (ja) 情報処理装置、情報記録媒体、および情報処理方法、並びにプログラム
KR20180099110A (ko) 해쉬 체인을 이용한 비디오 워터 마킹 방법 및 장치
JP2002034018A (ja) パケット処理装置、パケット処理方法及びその記憶媒体

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20051122

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20051125

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060124

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060227

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060312

R150 Certificate of patent or registration of utility model

Ref document number: 3785642

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100331

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100331

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110331

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110331

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120331

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120331

Year of fee payment: 6

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120331

Year of fee payment: 6

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120331

Year of fee payment: 6

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120331

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120331

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130331

Year of fee payment: 7

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130331

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130331

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140331

Year of fee payment: 8

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250