JP4534530B2 - Digital watermark detection method and digital watermark detection apparatus - Google Patents
Digital watermark detection method and digital watermark detection apparatus Download PDFInfo
- Publication number
- JP4534530B2 JP4534530B2 JP2004063855A JP2004063855A JP4534530B2 JP 4534530 B2 JP4534530 B2 JP 4534530B2 JP 2004063855 A JP2004063855 A JP 2004063855A JP 2004063855 A JP2004063855 A JP 2004063855A JP 4534530 B2 JP4534530 B2 JP 4534530B2
- Authority
- JP
- Japan
- Prior art keywords
- frame
- integration
- time
- spreading code
- digital watermark
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
- Television Systems (AREA)
Description
この発明は、たとえば映像の著作権管理などを目的として、映像データに他の情報(署名等の透かし情報)を秘匿する電子透かし技術に関し、特に透かし情報の埋め込み方法および検出方法に関する。 The present invention relates to a digital watermark technique for concealing other information (watermark information such as a signature) in video data for the purpose of, for example, video copyright management, and more particularly to a watermark information embedding method and detection method.
従来の透かし情報の埋め込み技術としては、画像をウェーブレット変換した低周波成分をスペクトラム拡散した後にブロック分割し、そのブロックの平均値を量子化することにより情報を埋め込む方法がある(非特許文献1)。 As a conventional watermark information embedding technique, there is a method of embedding information by spectrum-spreading a low-frequency component obtained by wavelet transform of an image and then quantizing an average value of the block (Non-patent Document 1). .
また、画像を周波数変換した後、振幅成分の値を操作することにより情報を埋め込み、検出時には、原画との差分画像について、埋め込み情報との相関を計算して埋め込み情報を判別する方法がある(非特許文献2)。 Further, after frequency-converting the image, information is embedded by manipulating the value of the amplitude component, and at the time of detection, there is a method of determining the embedded information by calculating the correlation with the embedded information for the difference image from the original image ( Non-patent document 2).
さらに、画素値がランダムに分布していることを前提に、空間的にランダムに2点を選択してその差をとった場合、差の総和が0に収束することを利用して情報を埋め込む方法がある(非特許文献3)。 Furthermore, assuming that pixel values are randomly distributed, information is embedded using the fact that the sum of the differences converges to 0 when two points are selected randomly and the difference is taken. There is a method (Non-patent Document 3).
上記非特許文献1のような従来の透かし情報埋め込み技術では、量子化により情報を埋め込んでいるため、たとえばアナログ処理等によりすべての画素値に同じ値が加算されるなどして全体の画素値分布を移動させると埋め込んだ情報が変化してしまい検出できなくなってしまう等の問題点があった。また、情報の埋め込み時にブロックごとの画素平均値を操作するため、ブロックノイズが生じやすいという問題点があった。
In the conventional watermark information embedding technique as described in
また上記非特許文献2のような従来の透かし情報埋め込み技術では、埋め込まれた情報の検出時に原画を必要とするため、検出対象画像に対応する原画像が存在しない、または入手できない場合に検出ができなかったり、あるいは透かし検出対象画像に対応する「正しい」原画像を膨大なライブラリから検索/発見後、透かし検出器に「正しく」設定する必要があり、作業にかかる手間が膨大となり得るという問題点があった。
In addition, the conventional watermark information embedding technique as described in Non-Patent
さらに、上記非特許文献3のような従来の透かし情報埋め込み技術では、、画素値がランダムに分布していることを前提にしているが、画像によっては必ずしも画素値がランダムに分布しているとは限らないため、差の総和を0に収束させるためには多数の画素を必要とする。つまり、安定して情報を正しく検出するためには多数の画素について計算する必要があったり、埋め込み情報量を少なくする必要があった。
Furthermore, in the conventional watermark information embedding technique such as Non-Patent
この発明は上記のような問題点を解決するためになされたもので、映像信号にアナログ処理が行われる等の画素値の変化があっても電子透かし情報が劣化しにくく、映像情報の画質劣化が抑制される電子透かし埋め込みを実現することを目的とする。また、原画を必要としない安定した電子透かしの検出を実現することを目的とする。 The present invention has been made to solve the above-described problems, and even if there is a change in pixel value such as analog processing performed on the video signal, the digital watermark information is hardly deteriorated, and the image quality of the video information is deteriorated. An object of the present invention is to realize digital watermark embedding in which the image is suppressed. It is another object of the present invention to realize stable digital watermark detection that does not require an original image.
この発明は、映像を構成する映像フレーム毎に設定された+1および−1からなる時間方向拡散符号列を発生させ、各映像フレームに対応した時間方向拡散符号を対応する映像フレームの各画素値に積算した時間方向拡散フレームを得る積算ステップと、この積算ステップで得られた時間方向拡散フレームについて、隣接フレームを指定フレーム数だけフレーム積分したフレーム積分画像を得る積分ステップと、この積分ステップでフレーム積分される上記指定フレーム数の時間方向拡散フレームに積算された、上記積算ステップが発生させた時間方向拡散符号列の正負の符号数が一致しない場合に、上記正負の符号数が一致するまで上記指定フレーム数を変更する変更ステップと、上記積分ステップで得たフレーム積分画像において、上記映像に埋め込まれた電子透かし情報を検出する上記フレーム積分画像上の画素位置を決定する画素位置決定ステップと、この画素位置決定ステップで決定された画素位置の画素値集合の統計値に基づいて上記電子透かし情報を検出する検出ステップとを備えるようにしたものである。 The present invention generates a time direction spreading code string composed of +1 and −1 set for each video frame constituting a video, and sets a time direction spreading code corresponding to each video frame to each pixel value of the corresponding video frame. An integration step for obtaining an integrated time direction spread frame, an integration step for obtaining a frame integration image obtained by integrating the adjacent frames by a specified number of frames for the time direction diffusion frame obtained in this integration step, and frame integration in this integration step. If the positive and negative code numbers of the time-direction spreading code sequences generated by the integration step that have been added to the specified number of time-direction spread frames do not match, the specification is made until the positive and negative code numbers match. In the change step for changing the number of frames and the frame integration image obtained in the integration step, the above A pixel position determining step for determining a pixel position on the frame integral image for detecting digital watermark information embedded in an image, and a statistical value of a pixel value set at the pixel position determined in the pixel position determining step; And a detection step of detecting digital watermark information .
この発明によれば、電子透かし情報を拡散して映像情報に埋め込むので、映像信号に対し符号化などの処理を施したり、アナログ処理などの故意の処理が施されても電子透かし情報が劣化しにくい電子透かし埋め込みを行うことができる。 According to the present invention, since the digital watermark information is diffused and embedded in the video information, the digital watermark information deteriorates even if the video signal is subjected to processing such as encoding or intentional processing such as analog processing. It is possible to perform difficult digital watermark embedding.
また、映像に対する電子透かし情報の埋め込み時と同一の各フレーム毎に設定された拡散符号からなる拡散パターンに基き電子透かし情報の逆拡散を行うことで映像に埋め込まれた電子透かし情報を検出するので、原画を用いることなく安定した電子透かし情報の検出ができる。 In addition, the digital watermark information embedded in the video is detected by despreading the digital watermark information based on the diffusion pattern consisting of the diffusion code set for each frame that is the same as when the digital watermark information is embedded in the video. Thus, stable digital watermark information can be detected without using an original image.
実施の形態1.
図1はこの発明の実施の形態における電子透かし埋め込み装置を示すブロック図である。
図において、11は電子透かし埋め込み装置である。電子透かし埋め込み装置11は、時間方向拡散符号発生部12、アドレス発生部13、ブロック化部14、情報埋め込み部15、ビット発生部16、ブロック解除部17、第1の積算手段100、第2の積算手段101から構成される。
FIG. 1 is a block diagram showing a digital watermark embedding apparatus according to an embodiment of the present invention.
In the figure, 11 is a digital watermark embedding device. The digital watermark embedding device 11 includes a time direction spreading
次に動作について説明する。
以下の説明では、映像に埋め込む電子透かし情報は、所定のビット数のビット列からなるデジタル情報であって、ここではビット数N(Nは正の整数)であるものとする。
まず、電子透かし情報の埋め込み対象である入力映像を電子透かし埋め込み装置11に入力する。なお、入力映像はオリジナルの映像から抽出した各フレーム毎の低域成分の信号としてもよい。
Next, the operation will be described.
In the following description, it is assumed that the digital watermark information embedded in the video is digital information composed of a bit string having a predetermined number of bits, and here is the number of bits N (N is a positive integer).
First, an input video to be embedded with digital watermark information is input to the digital watermark embedding device 11. Note that the input video may be a low-frequency component signal for each frame extracted from the original video.
時間方向拡散符号発生部12においては、+1および−1からなる拡散符号列(拡散パターン)を発生させる。この拡散符号列の1つ1つは、図2に示すように、入力映像を構成する各フレームごとに順番に対応させるものである。図2において、21は入力映像を構成する各フレーム、22は入力映像を構成する各フレームに対応した拡散符号である。
この拡散符号は、固定的な拡散符号列を使っても良いし、あるいはセキュリティを考慮して、たとえば+1および−1を出力する乱数の種として秘密の値を用いて拡散符号列を発生させてもよい。
The time direction spreading
For this spreading code, a fixed spreading code string may be used, or in consideration of security, for example, a spreading code string is generated using a secret value as a seed of a random number for outputting +1 and -1. Also good.
そして、第1の積算手段100において、入力された映像情報のフレームを構成する各画素値に対して、その対応する拡散符号を積算する。
たとえば、簡単のため入力映像が2×2画素の大きさのフレーム列から構成され、あるフレームの画素値が走査順に10、200、50、35であり、当該フレームに対応する拡散符号が−1であるとする。このとき、当該フレームと当該拡散符号を積算した結果の画素値は走査順に−10、−200、−50、−35となる。以後、積算された結果のフレームを「拡散フレーム」と呼ぶ。この各拡散フレームは、ブロック化部14に入力される。
Then, in the first integrating means 100, the corresponding spreading code is integrated for each pixel value constituting the frame of the input video information.
For example, for simplicity, the input video is composed of a frame sequence having a size of 2 × 2 pixels, the pixel values of a certain frame are 10, 200, 50, and 35 in the scanning order, and the spreading code corresponding to the frame is −1. Suppose that At this time, pixel values obtained by integrating the frame and the spreading code are −10, −200, −50, and −35 in the scanning order. Hereinafter, the resulting frame is referred to as a “spread frame”. Each spread frame is input to the
アドレス発生部13は、ブロック化部14に取り込まれた各拡散フレームに対して、電子透かしのビット数に応じたN個分のブロックに対応する領域を決定し、その領域に含まれる画素の位置を示すアドレスを発生する。すなわち、アドレス発生部13は、電子透かし情報を埋め込む画素位置としての領域を決定する画素位置決定部としての機能を持つ。
なお、上記領域としては、隣接する画素の集まりとしてもよいし、離れた画素をランダムに抽出した集まりとしてもよい。
The
Note that the region may be a group of adjacent pixels or a group of randomly extracted pixels.
ブロック化部14に各拡散フレームが入力されるとともに、ここではアドレス発生部13で発生された画素位置に関する情報に基づいて、電子透かしのビット数(N)に応じたN個の画素値集合(ブロック)を抽出する。
Each spread frame is input to the
なお、上述したアドレス発生部13が、ブロック化部14によってブロック化される画素値集合に含まれる画素値の位置が一様に分布するように画素位置に関するアドレス情報を発生するように構成しても良い。このとき、画像上で一様に画素が分布していさえすれば、ランダムに画素が配置されていても、画素が規則的な配列をなしていてもよい。
The
ブロック化部14で抽出されたN個のブロックは画素値変更部としての情報埋め込み部15に入力される。一方、ビット発生部16では電子透かし情報のビットごとのデジタル値(埋め込み情報)が発生され情報埋め込み部15に入力される。そして、情報埋め込み部15では、電子透かし情報のビットごとのデジタル値に応じて、対応するブロック内の各画素値をあらかじめ決められた変位だけ加算あるいは減算等の変更を行う。
The N blocks extracted by the
ブロック解除部11は、電子透かしを埋め込んだ情報を画像信号に戻す処理を実行し、電子透かし埋め込み済みの拡散フレーム列として出力する。 The deblocking unit 11 executes processing for returning the information in which the digital watermark is embedded to the image signal, and outputs it as a spread frame sequence in which the digital watermark is embedded.
そして、第2の積算部101において、入力映像を構成する各フレームごとに対応させて第1の積算部100で積算したものと同一の拡散符号列を、ブロック解除部11から出力された拡散フレーム列の1つ1つに同じ順番に対応させ、拡散フレームを構成する各画素値に対してその符号を積算する。たとえば、簡単のため入力映像が2×2画素の大きさのフレーム列から構成されている場合、電子透かし情報埋め込み済みのある拡散フレームの画素値が走査順に−9、−199、−49、−34であり、当該フレームに対応する拡散符号が−1であるとする。このとき、当該拡散フレームと当該拡散符号を積算した結果の画素値は走査順に9、199、49、34となる。積算した結果のフレーム列を情報埋め込み後映像として出力する。
Then, the second spreading
以上のようにこの実施の形態においては、+1および−1からなる時間方向の拡散符号列を発生させ、入力映像を構成する各フレームごとに当該拡散符号列の1つ1つを順番に対応させ、フレームを構成する各画素値に対してその符号を積算して拡散フレームを生成し、当該拡散フレームに電子透かし情報を埋め込み後、先に積算したものと同一の時間方向の拡散符号列を再度積算することによって電子透かしを埋め込んだ拡散フレームをもとの映像信号に戻す処理を実行するようにしたものである。 As described above, in this embodiment, a spreading code sequence in the time direction consisting of +1 and −1 is generated, and each of the spreading code sequences is sequentially associated with each frame constituting the input video. Then, the code is added to each pixel value constituting the frame to generate a spread frame, and after embedding the digital watermark information in the spread frame, the same spread code sequence in the time direction as that previously accumulated is again generated. A process of returning the diffusion frame in which the digital watermark is embedded to the original video signal by executing the integration is executed.
このようにすることで、特に第2の積算部101における積算によって、拡散フレーム化された入力映像信号についてはもとの映像信号に近い信号に戻るとともに、情報埋め込み部で埋め込まれた電子透かし情報は、この第2の積算部101における拡散処理によって拡散されることになる。いいかえれば、埋めこんだ電子透かし情報を拡散する処理に対応した演算(第1の積算部100での積算)を映像信号に対して行っておき、映像信号に電子透かし情報を埋め込み、その後、拡散符号列を再度積算することで映像信号をもとに戻すとともに電子透かし情報を拡散するものである。
By doing so, the digital video information embedded in the information embedding unit is returned to the signal close to the original video signal with respect to the input video signal that has been converted into the diffusion frame by the integration in the
電子透かし情報がスペクトル拡散されることにより、映像信号に対して符号化などの処理を施したり、アナログ処理などの故意の処理が施されても、電子透かし情報自体は劣化しにくくなるので、頑強な電子透かし埋め込みを実行することができる。 Since the digital watermark information is spread spectrum, the digital watermark information itself is less likely to deteriorate even if the video signal is subjected to processing such as encoding or deliberate processing such as analog processing. Digital watermark embedding can be performed.
また、所定の電子透かし情報を複数のフレームにわたって(時間方向に拡散させて)埋め込むので、電子透かし埋め込み後の画像の画質劣化を抑えたり、多数のビット情報を電子透かしとして埋め込むことができる。 Also, since predetermined digital watermark information is embedded over a plurality of frames (diffused in the time direction), it is possible to suppress image quality deterioration of an image after the digital watermark is embedded, and to embed a large amount of bit information as a digital watermark.
また、埋め込み位置など埋め込み方法に関する情報(埋め込み領域や拡散符号列)を知らない者が埋め込まれた電子透かしを消去あるいは改ざんしようとしても、それらが困難であったり、無理に消去しようとすれば画質そのものが著しく劣化してしまうような電子透かし埋め込みを実行することができる。そのため、映像信号の操作に対する電子透かし情報の耐性の向上が可能となる。 In addition, even if a person who does not know information about the embedding method (embedding area and spreading code string) such as the embedding position tries to erase or tamper with the embedded digital watermark, it is difficult or forcibly erases the image quality. It is possible to execute digital watermark embedding that itself deteriorates significantly. Therefore, it is possible to improve the resistance of the digital watermark information to the operation of the video signal.
なお、以上の説明では、拡散符号列は固定的な拡散符号列、あるいは+1および−1を出力する乱数の種として秘密の値を用いて拡散符号列を発生させてもよいとして説明したが、さらに別の例として、拡散符号列中の符号の偏りをなくすために、たとえばランダムに発生させた拡散符号列を奇数フレームに対してだけ対応させ、偶数フレームについては1つ前の隣接した奇数フレームの符号を変えた符号としてもよい。この例を図3に示す。31はランダムに発生させた拡散符号列を奇数フレームに対してだけ対応させ、偶数フレームについては1つ前の隣接した奇数フレームの符号を変えた符号としたときの拡散符号列である。
In the above description, the spreading code string is a fixed spreading code string, or a spreading code string may be generated using a secret value as a seed of random numbers for outputting +1 and −1. As another example, in order to eliminate the code bias in the spread code string, for example, a randomly generated spread code string is made to correspond only to an odd frame, and for an even frame, the previous adjacent odd frame It is good also as a code | symbol which changed the code | symbol. An example of this is shown in FIG.
実施形態2.
以上の実施形態1では、+1および−1からなる時間方向の拡散符号列を発生させ、入力映像を構成する各フレームごとに当該拡散符号列の1つ1つを順番に対応させ、フレームを構成する各画素値に対してその符号を積算して拡散フレームを生成し、当該拡散フレームに電子透かし情報を埋め込み後、先に積算したものと同一の時間方向の拡散符号列を再度付加することによって電子透かしを埋め込んだ情報を画像信号に戻す処理を実行するようにしたものであるが、次に時間方向の拡散符号列に加え、空間方向の拡散符号列も利用する場合の実施形態を示す。
図4は、このような場合の電子透かしの埋め込み装置を示すブロック図であり、図1において説明した構成に、空間方向拡散符号発生部41、および第3の積算部400、第4の積算部401を追加したものである。
In the first embodiment described above, a spreading code string in the time direction composed of +1 and −1 is generated, and each spreading code string is sequentially associated with each frame constituting the input video to form a frame. By adding the code to each pixel value to generate a spread frame, embedding digital watermark information in the spread frame, and then re-adding the same spread code sequence in the time direction as previously accumulated In this embodiment, processing for returning information embedded with a digital watermark to an image signal is executed. Next, in addition to a spreading code sequence in the time direction, a spreading code sequence in the spatial direction is used.
FIG. 4 is a block diagram showing a digital watermark embedding apparatus in such a case. The configuration described in FIG. 1 is the same as that of the spatial direction spreading code generation unit 41, the third integration unit 400, and the fourth integration unit. 401 is added.
次に動作について説明する。
実施の形態1と同様、時間方向拡散符号発生部12において、+1および−1からなる拡散符号列を発生させ、入力映像を構成する各フレームごとに当該拡散符号列の1つ1つを順番に対応させ、フレームを構成する各画素値に対してその符号を積算する。
たとえば、簡単のため入力映像が2×2画素の大きさのフレーム列から構成され、あるフレームの画素値が走査順に10、200、50、35であり、当該フレームに対応する拡散符号が−1であるとする。このとき、当該フレームと当該拡散符号を積算した結果の画素値は走査順に−10、−200、−50、−35となる。以後、積算された結果のフレームを「時間方向拡散フレーム」と呼ぶ。
Next, the operation will be described.
Similar to the first embodiment, the time direction spreading
For example, for simplicity, the input video is composed of a frame sequence having a size of 2 × 2 pixels, the pixel values of a certain frame are 10, 200, 50, and 35 in the scanning order, and the spreading code corresponding to the frame is −1. Suppose that At this time, pixel values obtained by integrating the frame and the spreading code are −10, −200, −50, and −35 in the scanning order. Hereinafter, the frame resulting from the integration is referred to as a “time direction spread frame”.
次に、空間方向拡散符号発生部41において、+1および−1からなる空間方向拡散符号列を発生させ、各時間方向拡散フレーム内の各画素に当該空間方向拡散符号列の1つ1つを順番に対応させ、時間方向拡散フレームを構成する各画素値に対してその符号を積算する。ここで、空間方向拡散符号発生部41において発生させる空間方向拡散符号列は、複数の空間方向拡散符号列の組み合わせによって生成させても良い。
図5に複数の空間方向拡散符号列の組み合わせによって最終的に空間方向拡散符号発生部41において発生させる空間方向拡散符号列の例を示す。図5において、51は+1と−1とを画素ごとに交互に設定した空間方向拡散符号列1であり、52は2×2画素単位で+1と−1とを交互に設定した空間方向拡散符号列2であり、53は空間方向拡散符号列1と空間方向拡散符号列2とを組み合わせて生成した最終的な空間方向拡散符号列である。
Next, the spatial direction spreading code generation unit 41 generates a spatial direction spreading code sequence consisting of +1 and −1, and sequentially assigns each spatial direction spreading code sequence to each pixel in each time direction spreading frame. The code is integrated for each pixel value constituting the time-direction spread frame. Here, the spatial direction spreading code sequence generated in the spatial direction spreading code generation unit 41 may be generated by a combination of a plurality of spatial direction spreading code sequences.
FIG. 5 shows an example of a spatial direction spreading code sequence finally generated in the spatial direction spreading code generation unit 41 by a combination of a plurality of spatial direction spreading code sequences. In FIG. 5, 51 is a spatial direction spreading
また、空間方向拡散符号列として固定的な拡散符号列を使っても良いし、あるいはセキュリティを考慮して、たとえば+1および−1を出力する乱数の種として秘密の値を用いて拡散符号列を発生させてもよい。図6に2つの空間方向拡散符号列の組み合わせによって最終的に空間方向拡散符号発生部41において発生させるときに、そのうちの1つの空間方向拡散符号列が+1および−1を出力する乱数の種として秘密の値を用いて発生させた拡散符号列である場合の例を示す。
図6において、61は+1と−1とを画素ごとに固定的に交互に設定した空間方向拡散符号列1であり、62は2×2画素単位で+1と−1とを交互にランダムに設定した空間方向拡散符号列3であり、63は空間方向拡散符号列1と空間方向拡散符号列3とを組み合わせて生成した最終的な空間方向拡散符号列である。
Further, a fixed spreading code string may be used as the spatial spreading code string, or in consideration of security, for example, a spreading code string is used by using a secret value as a seed of random numbers for outputting +1 and −1. It may be generated. As a seed of random numbers in which one spatial direction spreading code sequence outputs +1 and -1 when finally generated in the spatial direction spreading code generation unit 41 by a combination of two spatial direction spreading code sequences in FIG. An example in the case of a spreading code string generated using a secret value is shown.
In FIG. 6, 61 is a spatial spreading
たとえば、簡単のため入力映像が2×2画素の大きさのフレーム列から構成され、ある時間方向拡散フレームの画素値が走査順に−10、−200、−50、−35であり、当該フレームの各画素に対応する空間方向拡散符号がそれぞれ+1、−1、+1、−1、であるとする。このとき、当該フレームと当該拡散符号を積算した結果の画素値は走査順に−10、+200、−50、+35となる。 For example, for simplicity, the input video is composed of a frame sequence having a size of 2 × 2 pixels, and the pixel values of a certain time direction diffusion frame are −10, −200, −50, and −35 in the scanning order. Assume that the spatial direction spreading codes corresponding to each pixel are +1, -1, +1, -1, respectively. At this time, pixel values obtained by integrating the frame and the spreading code are −10, +200, −50, and +35 in the scanning order.
以後、空間方向拡散符号が積算された結果のフレームを「空間・時間方向拡散フレーム」と呼ぶ。各空間・時間拡散フレームはブロック化部14に入力される。
Hereinafter, a frame obtained by integrating the spatial direction spreading codes is referred to as a “space / time direction spreading frame”. Each space / time spread frame is input to the blocking
ブロック化部14からブロック解除部17までの処理は実施の形態1と同様である。すなわち、アドレス発生部13は、ブロック化部14に取り込まれた各拡散フレームに対して、電子透かしのビット数に応じたN個分のブロックに対応する領域に含まれる画素の位置を決定する。
ブロック化部14では、アドレス発生部13から入力された画素位置に関する情報に基づいて、電子透かしのビット数に応じたN個の画素値集合(ブロック)を抽出する。
また、上述したアドレス発生部13が、ブロック化部14によってブロック化される画素値集合に含まれる画素値の位置が一様に分布するように画素位置に関するアドレス情報を発生するように構成しても良い。このとき、画像上で一様に画素が分布していさえすれば、ランダムに画素が配置されていても、画素が規則的な配列をなしていてもよい。
情報埋め込み部15では、ビット発生部16から入力された電子透かし情報のビットごとのデジタル値(埋め込み情報)に応じて、対応するブロック内の各画素値をあらかじめ決められた変位だけ加算あるいは減算する。ブロック解除部11は、電子透かしを埋め込んだ情報を画像信号に戻す処理を実行し、電子透かし埋め込み済みの空間・時間拡散フレーム列として出力する。
The processing from the blocking
The blocking
Further, the
In the
次に、ブロック化部14への入力前に時間方向拡散フレームごとに対応させて積算したものと同一の空間方向拡散符号列を、ブロック解除部11から出力された電子透かし埋め込み済みの空間・時間拡散フレーム列に同じ順番に対応させ、電子透かし埋め込み済みの空間・時間拡散フレームを構成する各画素値に対してその符号を積算する。
たとえば、簡単のため入力映像が2×2画素の大きさのフレーム列から構成されている場合、ある電子透かし情報埋め込み済みの空間・時間拡散フレームの画素値が走査順に−9、+201、−49、+36であり、当該電子透かし埋め込み済み空間・時間フレームの各画素に対応する空間方向拡散符号がそれぞれ+1、−1、+1、−1、であるとする。このとき、当該電子透かし埋め込み済み空間・時間拡散フレームと当該空間拡散符号を積算した結果の画素値は走査順に−9、−201、−49、−36となる。積算した結果のフレーム列を「電子透かし埋め込み後時間拡散フレーム列」と呼ぶことにする。
Next, the same spatial direction spreading code string that has been integrated corresponding to each time direction spreading frame before being input to the blocking
For example, if the input video is composed of a frame sequence of 2 × 2 pixels for the sake of simplicity, the pixel values of a certain space / time-spread frame embedded with digital watermark information are −9, +201, −49 in the scanning order. , +36, and the spatial direction spreading codes corresponding to the respective pixels of the digital watermark embedded space / time frame are +1, -1, +1, -1, respectively. At this time, pixel values obtained by integrating the digital watermark embedded space / time spread frame and the space spread code are −9, −201, −49, and −36 in the scanning order. The frame sequence obtained as a result of integration is referred to as a “time-spread frame sequence after embedding a digital watermark”.
そして、入力映像を構成する各フレームごとに対応させて積算したものと同一の時間方向拡散符号列を、電子透かし埋め込み後時間拡散フレーム列の1つ1つに同じ順番に対応させ、電子透かし埋め込み後時間拡散フレームを構成する各画素値に対してその符号を積算する。
上記の例では、ある電子透かし埋め込み後時間拡散フレームの画素値が走査順に−9、−201、−49、−36であり、これに対応する入力映像を構成する各フレームごとに対応させて積算したものと同一の時間方向拡散符号が−1であるので、当該電子透かし埋め込み後時間拡散フレームと当該時間方向拡散符号を積算した結果の画素値は走査順に9、201、49、36となる。
Then, the same time-direction spreading code sequence as that correspondingly accumulated for each frame constituting the input video is made to correspond to each of the time-spreading frame sequences after embedding the digital watermark in the same order, and the digital watermark embedding is performed. The sign is integrated for each pixel value constituting the post-time spread frame.
In the above example, the pixel values of a time-spread frame after embedding a digital watermark are −9, −201, −49, and −36 in the scanning order, and integration is performed for each frame constituting the corresponding input video. Since the same time direction spreading code is −1, the pixel values obtained by integrating the time spreading frame after embedding the digital watermark and the time direction spreading code are 9, 201, 49, and 36 in the scanning order.
以上のように、この実施の形態においては、+1および−1からなる時間方向拡散符号列を発生させ、入力映像を構成する各フレームごとに当該時間方向拡散符号列の1つ1つを順番に対応させ、フレームを構成する各画素値に対してその符号を積算して時間拡散フレームを生成し、次に+1および−1からなる空間方向拡散符号列を発生させ、各時間方向拡散フレーム内の各画素に当該空間方向拡散符号列の1つ1つを順番に対応させ、時間方向拡散フレームを構成する各画素値に対してその符号を積算して空間・時間拡散フレームを生成し、当該空間・時間拡散フレームに電子透かし情報を埋め込み後、先に積算したものと同一の空間方向拡散符号列および時間方向の拡散符号列を再度付加することによって電子透かしを埋め込んだ情報を画像信号に戻す処理を実行するようにしたものである。 As described above, in this embodiment, a time-direction spreading code string composed of +1 and −1 is generated, and each time-direction spreading code string is sequentially arranged for each frame constituting the input video. Corresponding to each pixel value constituting the frame to generate a time spreading frame, and then generate a spatial direction spreading code string consisting of +1 and −1. Each space direction spreading code string is associated with each pixel in turn, and the code is added to each pixel value constituting the time direction spreading frame to generate a space / time spreading frame.・ Embedded digital watermark information by embedding digital watermark information in a time-spread frame and then re-adding the same spatial direction spreading code sequence and time direction spreading code sequence as previously accumulated It is obtained so as to perform a process for returning the image signal.
このようにすることで、電子透かし情報は、この第2の積算部101、第4の積算部401における拡散処理によって拡散されることになり、映像信号に対して符号化などの処理を施したり、アナログ処理などの故意の処理が施されても、電子透かし情報自体は劣化しにくくなるので、頑強な電子透かし埋め込みを実行することができる。
In this way, the digital watermark information is diffused by the diffusion processing in the
また、所定の電子透かし情報を複数のフレームにわたって(時間方向に拡散させて)埋め込むので、電子透かし埋め込み後の画像の画質劣化を抑えたり、多数のビット情報を電子透かしとして埋め込むことができる。 Also, since predetermined digital watermark information is embedded over a plurality of frames (diffused in the time direction), it is possible to suppress image quality deterioration of an image after the digital watermark is embedded, and to embed a large amount of bit information as a digital watermark.
また、埋め込み位置など埋め込み方法に関する情報(埋め込み領域や拡散符号列等)を知らない者が埋め込まれた電子透かしを消去あるいは改ざんしようとしても、それらが困難であったり、無理に消去しようとすれば画質そのものが著しく劣化してしまうような電子透かし埋め込みを実行することができる。そのため、映像信号の操作に対する電子透かし情報の耐性の向上が可能となる。 Also, even if a person who does not know information about the embedding method (embedding area, spreading code string, etc.) such as the embedding position tries to erase or tamper with the embedded digital watermark, it is difficult or forcibly to erase it. It is possible to execute digital watermark embedding in which the image quality itself is significantly deteriorated. Therefore, it is possible to improve the resistance of the digital watermark information to the operation of the video signal.
また、拡散符号列は実施形態1で説明したように、固定的な拡散符号列、あるいは+1および−1を出力する乱数の種として秘密の値を用いて拡散符号列を発生させてもよいし、図3に示したように、拡散符号列中の符号の偏りをなくすために、たとえばランダムに発生させた拡散符号列を奇数フレームに対してだけ対応させ、偶数フレームについては1つ前の隣接した奇数フレームの符号を変えた符号としてもよい。 Further, as described in the first embodiment, the spreading code string may be generated by using a fixed spreading code string or a secret value as a seed of random numbers for outputting +1 and −1. As shown in FIG. 3, in order to eliminate the code bias in the spread code string, for example, a randomly generated spread code string is made to correspond only to the odd frame, and the even frame is adjacent to the previous one. The code of the odd frame may be changed.
なお、以上のいずれの実施形態も、映像を一度拡散して、電子透かし情報を埋め込み、再度拡散パターンを積算することで、映像情報を拡散フレームから戻す際に埋めこんだ電子透かし情報を拡散するものを示したが、電子透かし情報を拡散しておき、映像情報に埋め込むようにしても、映像信号に対し符号化などの処理を施したり、アナログ処理などの故意の処理が施されても電子透かし情報が劣化しにくい電子透かし埋め込みを行える。 In any of the embodiments described above, by spreading the video once, embedding the digital watermark information, and accumulating the diffusion pattern again, the digital watermark information embedded when returning the video information from the spread frame is spread. Although the digital watermark information is spread and embedded in the video information, the video signal is processed even if the video signal is subjected to processing such as encoding or intentional processing such as analog processing. It is possible to embed a digital watermark in which watermark information is unlikely to deteriorate.
なお、以上の説明では、電子透かし埋め込み装置を説明したが、たとえば汎用コンピュータなどを用いて、本発明に従う電子透かし埋め込み方法を実行させるプログラムによって具現化することもできる。
つまり、電子透かし埋め込みプログラムをコンピュータに実行させて図1や図4に示す各構成要素として機能させることにより、本発明による電子透かし埋め込みを実行することができるものである。
In the above description, the electronic watermark embedding apparatus has been described. However, the electronic watermark embedding apparatus may be embodied by a program for executing the electronic watermark embedding method according to the present invention using, for example, a general-purpose computer.
That is, the electronic watermark embedding according to the present invention can be executed by causing the computer to execute the electronic watermark embedding program and function as each component shown in FIGS.
実施形態3.
次に、電子透かしの検出について説明する。図7はこの発明の実施の形態における電子透かし検出装置を示すブロック図である。
図7において、71は電子透かし検出装置である。電子透かし検出装置71は、時間方向拡散符号発生部72、アドレス発生部73、フレーム積分部74、ブロック化部75、検出部76、第5の積算部700から構成される。
Next, detection of a digital watermark will be described. FIG. 7 is a block diagram showing a digital watermark detection apparatus according to an embodiment of the present invention.
In FIG. 7,
次に動作について説明する。
以下の説明では、検出する電子透かし情報は、所定のビット数のビット列からなるデジタル情報であって、ここではビット数N(Nは正の整数)であるものとする。
まず、電子透かし情報の検出対象である入力映像を電子透かし検出装置71に入力する。なお、電子透かし情報の埋め込みがオリジナルの映像から抽出した低域成分映像に対して行われた場合、低域成分映像を入力映像としてもよい。
Next, the operation will be described.
In the following description, it is assumed that the digital watermark information to be detected is digital information including a bit string having a predetermined number of bits, and here, the number of bits is N (N is a positive integer).
First, an input video that is a detection target of digital watermark information is input to the digital
時間方向拡散符号発生部72においては、+1および−1からなる時間方向拡散符号列(拡散パターン)を発生させる。この拡散符号列の1つ1つは、図2に示すように、入力映像を構成する各フレームごとに順番に対応させるものである。図2において、21は入力映像を構成する各フレーム、22は入力映像を構成する各フレームに対応した拡散符号である。
この拡散符号は、固定的な拡散符号列を使っても良いし、あるいはセキュリティを考慮して、たとえば+1および−1を出力する乱数の種として秘密の値を用いて拡散符号列を発生させてもよい。
The time direction spreading
For this spreading code, a fixed spreading code string may be used, or in consideration of security, for example, a spreading code string is generated using a secret value as a seed of a random number for outputting +1 and -1. Also good.
そして、第5の積算部700において、入力映像を構成する各フレームごとに当該拡散符号列の1つ1つを順番に対応させ、フレームを構成する各画素値に対してその符号を積算する。
たとえば、簡単のため入力映像が2×2画素の大きさのフレーム列から構成され、あるフレームの画素値が走査順に10、200、50、35であり、当該フレームに対応する拡散符号が−1であるとする。このとき、当該フレームと当該拡散符号を積算した結果の画素値は走査順に−10、−200、−50、−35となる。以後、積算された結果のフレーム列を「拡散フレーム列」と呼ぶ。拡散フレーム列はフレーム積分部74に入力される。
Then, in the fifth accumulating
For example, for simplicity, the input video is composed of a frame sequence having a size of 2 × 2 pixels, the pixel values of a certain frame are 10, 200, 50, and 35 in the scanning order, and the spreading code corresponding to the frame is −1. Suppose that At this time, pixel values obtained by integrating the frame and the spreading code are −10, −200, −50, and −35 in the scanning order. Hereinafter, the frame sequence resulting from the integration is referred to as a “spread frame sequence”. The spread frame sequence is input to the
フレーム積分部74では、入力された拡散フレーム列から指定された数だけ隣接フレームを抽出し、抽出したすべての拡散フレーム内の同じ位置にある画素の値を足し合わせ(フレーム積分)、1枚のフレーム積分画像を生成する。
ここで、フレーム積分時にフレーム積分対象となっている拡散フレームに対応する拡散パターンの正負の符号数が一致しない場合に、符号数が一致するまでフレーム積分数を動的に増加させるようにしてもよい。
このとき、増加させるフレーム積分数の上限を定め、上限に達したときにはフレーム積分を打ち切るようにしてもよい。
また、フレーム積分時にフレーム積分対象となっている拡散フレームに対応する拡散パターンの正負の符号数が一致しない場合に、符号数が一致するまでフレーム積分数を動的に減少させるようにしてもよい。
図8に時間方向拡散符号列を使ったときのフレーム積分の実施例を示す。図8において、81は電子透かし検出装置71に入力された入力映像のフレーム列、82は時間方向拡散符号発生部72において生成された拡散符号列、83は入力映像を構成する各フレームごとに当該拡散符号列の1つ1つを順番に対応させてフレームを構成する各画素値に対してその符号を積算した結果得られた拡散フレーム列、84は拡散フレーム内の同じ位置にある画素の値を足し合わせた結果得られたフレーム積分画像である。
The
Here, when the number of positive and negative codes of the spreading pattern corresponding to the spreading frame that is the subject of frame integration does not match during frame integration, the number of frame integrations may be dynamically increased until the number of codes matches. Good.
At this time, the upper limit of the number of frame integrations to be increased may be determined, and the frame integration may be terminated when the upper limit is reached.
In addition, when the number of positive and negative codes of the spreading pattern corresponding to the spreading frame that is subject to frame integration does not match during frame integration, the number of frame integration may be dynamically decreased until the number of codes matches. .
FIG. 8 shows an embodiment of frame integration when a time direction spreading code string is used. In FIG. 8, 81 is a frame sequence of the input video input to the digital
ブロック化部75では、アドレス発生部73から入力された埋め込み時と同一の画素位置に関する情報に基づいて、電子透かしのビット数に応じたN個の画素値集合(ブロック)を抽出する。
The blocking
検出部76では、対応するブロック内の画素値の統計値を調べ、埋め込まれているビットの種類を判断する。調べる分布の特徴として、たとえばブロック内の画素値の平均値に着目し、平均値がある値δ(>0)以上ならビット“1”が埋め込まれているものと判断し、−δ以下なら“0”が埋め込まれていると判断する。
ここで、ブロック内の画素値集合の分布の統計的な性質から検出情報の信頼度を計算し、信頼度が低い場合はあらかじめ定めた信頼度に至るまでフレーム積分数を増加させるために、フレーム積分部74に増加させたフレーム積分数を改めて指定して処理を戻しても良い。
このとき、増加させるフレーム積分数の上限を定め、上限に達したときにはフレーム積分を打ち切るようにしてもよい。
また、ブロック内の画素値集合の分布の統計的な性質から検出情報の信頼度を計算し、信頼度が低い場合はあらかじめ定めた信頼度に至るまでフレーム積分数を減少させるために、フレーム積分部74に減少させたフレーム積分数を改めて指定して処理を戻しても良い。
信頼度として、たとえば画素値の分散を用いることができる。すなわち、分散があらかじめ定めた値よりも小さい場合には検出に必要な信頼度を満たしていると判断し、分散があらかじめ定めた値以上の場合には検出に必要な信頼度を満たしていないと判断する。分散の変わりに標準偏差を使ってもよい。検出部76では検出結果を出力する。
The
Here, the reliability of the detection information is calculated from the statistical property of the distribution of the pixel value set in the block. If the reliability is low, the frame integration number is increased until the predetermined reliability is reached. The
At this time, the upper limit of the number of frame integrations to be increased may be determined, and the frame integration may be terminated when the upper limit is reached.
In addition, the reliability of the detection information is calculated from the statistical properties of the distribution of the pixel value set in the block. If the reliability is low, the frame integration is performed to reduce the number of frame integrations until a predetermined reliability is reached. The process may be returned by designating the reduced number of frame integrations in the
As the reliability, for example, dispersion of pixel values can be used. That is, if the variance is smaller than a predetermined value, it is determined that the reliability necessary for detection is satisfied. If the variance is greater than a predetermined value, the reliability necessary for detection is not satisfied. to decide. Standard deviation may be used instead of variance. The
以上のように、この実施の形態3においては、入力映像に秘匿されたNビットの電子透かし情報を検出するにあたり、+1および−1からなる拡散符号列を発生させ、入力映像を構成する各フレームごとに当該拡散符号列の1つ1つを順番に対応させ、フレームを構成する各画素値に対してその符号を積算して拡散フレーム列を生成し、当該拡散フレーム列から指定された数だけ隣接フレームを抽出し、抽出したすべての拡散フレーム内の同じ位置にある画素の値を足し合わせて1枚のフレーム積分画像を生成し、当該フレーム積分画像から埋め込み時と同一の画素位置に関する情報に基づいて、電子透かしのビット数に応じたN個の画素値集合(ブロック)を抽出し、抽出した当該ブロック内の画素値の統計値を調べ、埋め込まれているビットの種類を判断するようにしたものである。 As described above, in the third embodiment, when detecting N-bit digital watermark information concealed in the input video, a spreading code string consisting of +1 and −1 is generated, and each frame constituting the input video is generated. Each of the spreading code sequences is associated with each of the spreading code sequences in turn, and the code is added to each pixel value constituting the frame to generate a spreading frame sequence, and only the number specified from the spreading frame sequence Extract adjacent frames, add the values of the pixels at the same position in all the extracted diffusion frames to generate one frame integrated image, and use the frame integrated image as information on the same pixel position as at the time of embedding. Based on this, N pixel value sets (blocks) corresponding to the number of bits of the digital watermark are extracted, the statistical values of the pixel values in the extracted block are examined, and the embedded video values are checked. It is obtained so as to determine the door of the kind.
これにより、映像信号に対して符号化などの処理を施したり、アナログ処理などの故意の処理が施されても、埋め込んだ電子透かしと同一の電子透かし情報をより正確に検出することができる。また、多数のビット情報をより正確に検出することができる。 As a result, even if the video signal is subjected to processing such as encoding or intentional processing such as analog processing, the same digital watermark information as the embedded digital watermark can be detected more accurately. In addition, a large amount of bit information can be detected more accurately.
また、原画画像列がなくても、埋め込んだ電子透かしと同一の電子透かし情報をより正確に検出することができる。 Even if there is no original image sequence, it is possible to more accurately detect the same digital watermark information as the embedded digital watermark.
また、埋め込み位置など埋め込み方法に関する情報を知らない人が埋め込まれた電子透かしを不正に検出しようとしても、それらが困難であるような安全な電子透かし検出を実行することができる。 In addition, even if a person who does not know information about an embedding method such as an embedding position tries to detect a digital watermark improperly, it is possible to perform safe digital watermark detection that makes it difficult.
実施形態4.
以上の実施の形態3では、+1および−1からなる拡散符号列を発生させ、入力映像を構成する各フレームごとに当該拡散符号列の1つ1つを順番に対応させ、フレームを構成する各画素値に対してその符号を積算して拡散フレーム列を生成し、当該拡散フレーム列から指定された数だけ隣接フレームを抽出し、抽出したすべての拡散フレーム内の同じ位置にある画素の値を足し合わせて1枚のフレーム積分画像を生成し、当該フレーム積分画像から埋め込み時と同一の画素位置に関する情報に基づいて、電子透かしのビット数に応じたN個の画素値集合(ブロック)を抽出し、抽出した当該ブロック内の画素値の統計値を調べ、埋め込まれているビットの種類を判断するようにしたものであるが、次に時間方向の拡散符号列に加え、空間方向の拡散符号列も利用する場合の実施形態を示す。
図9は、このような場合の電子透かし検出装置を示すブロック図であり、図7において説明した構成に、空間方向拡散符号発生部91および第6の積算部900を追加したものである。
In the third embodiment described above, a spreading code sequence composed of +1 and −1 is generated, and each of the spreading code sequences is sequentially associated with each frame constituting the input video, and each frame constituting the frame is configured. A code is added to the pixel value to generate a spread frame sequence, a specified number of adjacent frames are extracted from the spread frame sequence, and the value of the pixel at the same position in all the extracted spread frames is extracted. Add together to generate one frame integrated image, and extract N pixel value sets (blocks) according to the number of bits of the digital watermark from the frame integrated image based on the information about the same pixel position at the time of embedding Then, the statistical value of the pixel value in the extracted block is examined to determine the type of embedded bit. Next, in addition to the spreading code sequence in the time direction, the spatial direction Also the spreading code sequence showing an embodiment in which use.
FIG. 9 is a block diagram showing a digital watermark detection apparatus in such a case, in which a spatial direction spreading code generation unit 91 and a
次に動作について説明する。
実施の形態3と同様、時間方向拡散符号発生部72において、+1および−1からなる拡散符号列を発生させ、入力映像を構成する各フレームごとに当該拡散符号列の1つ1つを順番に対応させ、フレームを構成する各画素値に対してその符号を積算する。
たとえば、簡単のため入力映像が2×2画素の大きさのフレーム列から構成され、あるフレームの画素値が走査順に10、200、50、35であり、当該フレームに対応する拡散符号が−1であるとする。このとき、当該フレームと当該拡散符号を積算した結果の画素値は走査順に−10、−200、−50、−35となる。以後、積算された結果のフレーム列を「時間方向拡散フレーム列」と呼ぶ。
Next, the operation will be described.
Similar to the third embodiment, the time-direction spreading
For example, for simplicity, the input video is composed of a frame sequence having a size of 2 × 2 pixels, the pixel values of a certain frame are 10, 200, 50, and 35 in the scanning order, and the spreading code corresponding to the frame is −1. Suppose that At this time, pixel values obtained by integrating the frame and the spreading code are −10, −200, −50, and −35 in the scanning order. Hereinafter, the frame sequence obtained as a result of integration is referred to as a “time-direction spread frame sequence”.
次に、空間方向拡散符号発生部91において、+1および−1からなる空間方向拡散符号列を発生させ、各時間方向拡散フレーム内の各画素に当該空間方向拡散符号列の1つ1つを順番に対応させ、時間方向拡散フレームを構成する各画素値に対してその符号を積算する。ここで、時間方向拡散符号列は埋め込み時と同一の拡散符号列が得られることを前提として、空間方向拡散符号発生部91において発生させる空間方向拡散符号列は、複数の空間方向拡散符号列の組み合わせによって生成させても良い。
上述した図5に複数の空間方向拡散符号列の組み合わせによって最終的に空間方向拡散符号発生部41において発生させる空間方向拡散符号列の例を示す。
また、空間方向拡散符号列として固定的な拡散符号列を使っても良いし、あるいはセキュリティを考慮して、たとえば+1および−1を出力する乱数の種として秘密の値を用いて拡散符号列を発生させてもよい。
上述した図6に2つの空間方向拡散符号列の組み合わせによって最終的に空間方向拡散符号発生部41において発生させるときに、そのうちの1つの空間方向拡散符号列が+1および−1を出力する乱数の種として秘密の値を用いて発生させた拡散符号列である場合の例を示す。
Next, the spatial direction spreading code generation unit 91 generates a spatial direction spreading code sequence consisting of +1 and −1, and sequentially assigns each spatial direction spreading code sequence to each pixel in each time direction spreading frame. The code is integrated for each pixel value constituting the time-direction spread frame. Here, on the assumption that the same spreading code sequence as that at the time of embedding is obtained as the time direction spreading code sequence, the spatial direction spreading code sequence generated in the spatial direction spreading code generation unit 91 is a plurality of spatial direction spreading code sequences. It may be generated by a combination.
FIG. 5 described above shows an example of a spatial direction spreading code sequence finally generated in the spatial direction spreading code generation unit 41 by a combination of a plurality of spatial direction spreading code sequences.
Further, a fixed spreading code string may be used as the spatial spreading code string, or in consideration of security, for example, a spreading code string is used by using a secret value as a seed of random numbers for outputting +1 and −1. It may be generated.
When the spatial direction spreading code generator 41 finally generates a combination of two spatial direction spreading code sequences in FIG. 6 described above, one of the spatial direction spreading code sequences outputs random numbers +1 and −1. An example in the case of a spreading code string generated using a secret value as a seed is shown.
たとえば、簡単のため入力映像が2×2画素の大きさのフレーム列から構成され、ある時間方向拡散フレームの画素値が走査順に−10、−200、−50、−35であり、当該フレームの各画素に対応する空間方向拡散符号がそれぞれ+1、−1、+1、−1、であるとする。このとき、当該フレームと当該拡散符号を積算した結果の画素値は走査順に−10、+200、−50、+35となる。 For example, for simplicity, the input video is composed of a frame sequence having a size of 2 × 2 pixels, and the pixel values of a certain time direction diffusion frame are −10, −200, −50, and −35 in the scanning order. Assume that the spatial direction spreading codes corresponding to each pixel are +1, -1, +1, -1, respectively. At this time, pixel values obtained by integrating the frame and the spreading code are −10, +200, −50, and +35 in the scanning order.
以後、空間方向拡散符号が積算された結果のフレーム列を「空間・時間方向拡散フレーム列」と呼ぶ。空間・時間拡散フレーム列フレーム積分部74に入力される。
Hereinafter, a frame sequence obtained by integrating the spatial direction spreading codes is referred to as a “space / time direction spreading frame sequence”. This is input to the space / time-spread frame sequence
フレーム積分部74以降の処理は実施の形態3と同様である。すなわち、フレーム積分部74では、入力された空間・時間方向拡散フレーム列から指定された数だけ隣接フレームを抽出し、抽出したすべての空間・時間方向拡散フレーム内の同じ位置にある画素の値を足し合わせ(フレーム積分)、1枚のフレーム積分画像を生成する。
ここで、フレーム積分時にフレーム積分対象となっている空間・時間方向拡散フレームに対応する時間方向拡散パターンの正負の符号数が一致しない場合に、符号数が一致するまでフレーム積分数を動的に増加させるようにしてもよい。
このとき、増加させるフレーム積分数の上限を定め、上限に達したときにはフレーム積分を打ち切るようにしてもよい。また、フレーム積分時にフレーム積分対象となっている空間・時間方向拡散フレームに対応する時間方向拡散パターンの正負の符号数が一致しない場合に、符号数が一致するまでフレーム積分数を動的に減少させるようにしてもよい。
図10に空間方向拡散パターンを適用したときのフレーム積分の実施例を示す。図10において、81は電子透かし検出装置71に入力された入力映像のフレーム列、1001は空間方向拡散符号発生部91において生成された空間方向拡散符号列、82は時間方向拡散符号発生部72において生成された拡散符号列、1002は入力映像を構成する各フレームごとに時間方向拡散符号列および空間方向拡散符号列の1つ1つを順番に対応させてフレームを構成する各画素値に対してその符号を積算した結果得られた空間・時間方向拡散フレーム列、1003は空間・時間方向拡散フレーム内の同じ位置にある画素の値を足し合わせた結果得られたフレーム積分画像である。
The processing after the
Here, if the number of positive and negative codes in the time direction spreading pattern corresponding to the space / time direction spreading frame that is the frame integration target during frame integration does not match, the frame integration number is dynamically changed until the number of codes matches. You may make it increase.
At this time, the upper limit of the number of frame integrations to be increased may be determined, and the frame integration may be terminated when the upper limit is reached. Also, when the number of positive and negative codes in the time direction spreading pattern corresponding to the space / time direction spreading frame that is the frame integration target during frame integration does not match, the number of frame integrations is dynamically reduced until the number of codes matches. You may make it make it.
FIG. 10 shows an example of frame integration when the spatial diffusion pattern is applied. In FIG. 10, 81 is a frame sequence of the input video input to the digital
ブロック化部75では、アドレス発生部73から入力された埋め込み時と同一の画素位置に関する情報に基づいて、電子透かしのビット数に応じたN個の画素値集合(ブロック)を抽出する。
The blocking
検出部76では、対応するブロック内の画素値の統計値を調べ、埋め込まれているビットの種類を判断する。調べる分布の特徴として、たとえばブロック内の画素値の平均値に着目し、平均値がある値δ(>0)以上ならビット“1”が埋め込まれているものと判断し、−δ以下なら“0”が埋め込まれていると判断する。ここで、ブロック内の画素値集合の分布の統計的な性質から検出情報の信頼度を計算し、信頼度が低い場合はあらかじめ定めた信頼度に至るまでフレーム積分数を増加させるために、フレーム積分部74に増加させたフレーム積分数を改めて指定して処理を戻しても良い。
このとき、増加させるフレーム積分数の上限を定め、上限に達したときにはフレーム積分を打ち切るようにしてもよい。また、ブロック内の画素値集合の分布の統計的な性質から検出情報の信頼度を計算し、信頼度が低い場合はあらかじめ定めた信頼度に至るまでフレーム積分数を減少させるために、フレーム積分部74に減少させたフレーム積分数を改めて指定して処理を戻しても良い。信頼度として、たとえば画素値の分散を用いることができる。すなわち、分散があらかじめ定めた値よりも小さい場合には検出に必要な信頼度を満たしていると判断し、分散があらかじめ定めた値以上の場合には検出に必要な信頼度を満たしていないと判断する。分散の変わりに標準偏差を使ってもよい。検出部76では検出結果を出力する。
The
At this time, the upper limit of the number of frame integrations to be increased may be determined, and the frame integration may be terminated when the upper limit is reached. In addition, the reliability of the detection information is calculated from the statistical properties of the distribution of the pixel value set in the block. If the reliability is low, the frame integration is performed to reduce the number of frame integrations until a predetermined reliability is reached. The process may be returned by designating the reduced number of frame integrations in the
以上のように、この実施の形態4においては、入力映像に秘匿されたNビットの電子透かし情報を検出するにあたり、+1および−1からなる時間方向拡散符号列を発生させ、入力映像を構成する各フレームごとに当該拡散符号列の1つ1つを順番に対応させ、フレームを構成する各画素値に対してその符号を積算して時間方向拡散フレーム列を生成し、+1および−1からなる空間方向拡散符号列を発生させ、各時間方向拡散フレーム内の各画素に当該空間方向拡散符号列の1つ1つを順番に対応させ、時間方向拡散フレームを構成する各画素値に対してその符号を積算して空間・時間方向拡散フレーム列を生成し、当該空間・時間方向拡散フレーム列から指定された数だけ隣接フレームを抽出し、抽出したすべての拡散フレーム内の同じ位置にある画素の値を足し合わせて1枚のフレーム積分画像を生成し、当該フレーム積分画像から埋め込み時と同一の画素位置に関する情報に基づいて、電子透かしのビット数に応じたN個の画素値集合(ブロック)を抽出し、抽出した当該ブロック内の画素値の統計値を調べ、埋め込まれているビットの種類を判断するようにしたものである。 As described above, in the fourth embodiment, when detecting N-bit digital watermark information concealed in the input video, a time-direction spreading code string composed of +1 and −1 is generated to form the input video. Each of the spreading code sequences is associated with each frame in turn for each frame, and the codes are added to each pixel value constituting the frame to generate a time-direction spreading frame sequence, which consists of +1 and -1. A spatial direction spreading code sequence is generated, and each of the spatial direction spreading code sequences is sequentially associated with each pixel in each time direction spreading frame, and for each pixel value constituting the time direction spreading frame, Codes are integrated to generate a spatial / temporal spread frame sequence, and a specified number of adjacent frames are extracted from the spatial / temporal spread frame sequence, and the same in all extracted spread frames A pixel integrated image is generated by adding the values of the pixels in the position, and N pixels corresponding to the number of bits of the digital watermark are generated from the frame integrated image based on the information regarding the same pixel position as that at the time of embedding. A value set (block) is extracted, a statistical value of pixel values in the extracted block is examined, and the type of embedded bit is determined.
これにより、映像信号に対して符号化などの処理を施したり、アナログ処理などの故意の処理が施されても、埋め込んだ電子透かしと同一の電子透かし情報をより正確に検出することができる。また、多数のビット情報をより正確に検出することができる。 As a result, even if the video signal is subjected to processing such as encoding or intentional processing such as analog processing, the same digital watermark information as the embedded digital watermark can be detected more accurately. In addition, a large amount of bit information can be detected more accurately.
また、原画画像列がなくても、埋め込んだ電子透かしと同一の電子透かし情報をより正確に検出することができる。 Even if there is no original image sequence, it is possible to more accurately detect the same digital watermark information as the embedded digital watermark.
また、埋め込み位置など埋め込み方法に関する情報を知らない人が埋め込まれた電子透かしを不正に検出しようとしても、それらが困難であるような安全な電子透かし検出を実行することができる。 In addition, even if a person who does not know information about an embedding method such as an embedding position tries to detect a digital watermark improperly, it is possible to perform safe digital watermark detection that makes it difficult.
なお、拡散符号列は実施形態3で説明したように、固定的な拡散符号列、あるいは+1および−1を出力する乱数の種として秘密の値を用いて拡散符号列を発生させてもよいし、図3に示したように、拡散符号列中の符号の偏りをなくすために、たとえばランダムに発生させた拡散符号列を奇数フレームに対してだけ対応させ、偶数フレームについては1つ前の隣接した奇数フレームの符号を変えた符号としてもよい。 As described in the third embodiment, the spreading code string may be generated by using a fixed spreading code string or a secret value as a seed of random numbers for outputting +1 and −1. As shown in FIG. 3, in order to eliminate the code bias in the spread code string, for example, a randomly generated spread code string is made to correspond only to the odd frame, and the even frame is adjacent to the previous one. The code of the odd frame may be changed.
なお、以上の説明では、電子透かし検出装置を説明したが、たとえば汎用コンピュータなどを用いて、本発明に従う電子透かし検出方法を実行させるプログラムによって具現化することもできる。
つまり、電子透かし検出プログラムをコンピュータに実行させて図7や図9に示す各構成要素として機能させることにより、本発明による電子透かし埋め込みを実行することができるものである。
In the above description, the digital watermark detection apparatus has been described. However, the digital watermark detection apparatus may be embodied by a program that executes a digital watermark detection method according to the present invention using, for example, a general-purpose computer.
That is, the electronic watermark embedding according to the present invention can be executed by causing the computer to execute the electronic watermark detection program and function as each component shown in FIGS.
11 電子透かし埋め込み装置
12 時間方向拡散符号発生部
13 アドレス発生部
14 ブロック化部
15 情報埋め込み部
16 ビット発生部
17 ブロック解除部
21 入力映像を構成する各フレーム
22 入力映像を構成する各フレームに対応した拡散符号
31 拡散符号列
41 空間方向拡散符号発生部
51 空間方向拡散符号列
52 空間方向拡散符号列
53 空間方向拡散符号列
61 空間方向拡散符号列
62 空間方向拡散符号列
63 空間方向拡散符号列
71 電子透かし検出装置
72 時間方向拡散符号発生部
73 アドレス発生部
74 フレーム積分部
75 ブロック化部
76 検出部
81 入力映像のフレーム列
82 拡散符号列
83 拡散フレーム列
84 フレーム積分画像
91 空間方向拡散符号発生部
100 第1の積算部
101 第2の積算部
400 第3の積算部
401 第4の積算部
700 第5の積算部
900 第6の積算部
1001 空間方向拡散符号列
1002 空間・時間方向拡散フレーム列
1003 フレーム積分画像
DESCRIPTION OF SYMBOLS 11 Digital
Claims (4)
この積算ステップで得られた時間方向拡散フレームについて、隣接フレームを指定フレーム数だけフレーム積分したフレーム積分画像を得る積分ステップと、
この積分ステップでフレーム積分される上記指定フレーム数の時間方向拡散フレームに積算された、上記積算ステップが発生させた時間方向拡散符号列の正負の符号数が一致しない場合に、上記正負の符号数が一致するまで上記指定フレーム数を変更する変更ステップと、
上記積分ステップで得たフレーム積分画像において、上記映像に埋め込まれた電子透かし情報を検出する上記フレーム積分画像上の画素位置を決定する画素位置決定ステップと、
この画素位置決定ステップで決定された画素位置の画素値集合の統計値に基づいて上記電子透かし情報を検出する検出ステップと
を備えたことを特徴とする電子透かし検出方法。 To generate a time-direction spreading code sequence consisting of +1 and -1 is set for each video frame constituting an image, by integrating the time direction spreading code corresponding to each video frame to each pixel value of the corresponding movies Zofu frame An integration step to obtain a time direction spread frame ;
For the time direction spread frame obtained in this integration step, an integration step for obtaining a frame integration image obtained by integrating the adjacent frames by the specified number of frames, and
The number of positive and negative codes when the number of positive and negative codes of the time-direction spreading code sequence generated by the integration step integrated with the specified number of frames in the time-direction spreading frame integrated in the integration step does not match A change step for changing the number of designated frames until the values match,
In the frame integration image obtained in the integration step, a pixel position determination step for determining a pixel position on the frame integration image for detecting digital watermark information embedded in the video ;
And a detection step of detecting the digital watermark information based on a statistical value of a set of pixel values at the pixel position determined in the pixel position determination step .
この第1の積算ステップで得られた時間方向拡散フレーム毎に設定された+1および−1からなる空間方向拡散符号列を発生させ、各時間方向拡散フレームに対応した空間方向拡散符号を対応する時間方向拡散フレームの各画素値に積算した空間・時間方向拡散フレームを得る第2の積算ステップと、A spatial direction spreading code string composed of +1 and −1 set for each time direction spreading frame obtained in the first integration step is generated, and a time corresponding to the space direction spreading code corresponding to each time direction spreading frame is generated. A second integration step for obtaining a space / time direction diffusion frame integrated with each pixel value of the direction diffusion frame;
この第2の積算ステップで得られた空間・時間方向拡散フレームについて、隣接フレームを指定フレーム数だけフレーム積分したフレーム積分画像を得る積分ステップと、An integration step for obtaining a frame integration image obtained by integrating the adjacent frames by a specified number of frames with respect to the spatial / temporal spread frame obtained in the second integration step;
この積分ステップでフレーム積分される上記指定フレーム数の空間・時間方向拡散フレームに対応した上記時間方向拡散フレームに積算された、上記第1の積算ステップが発生させた時間方向拡散符号列の正負の符号数が一致しない場合に、上記正負の符号数が一致するまで上記指定フレーム数を変更する変更ステップと、The positive and negative signs of the time-direction spreading code sequence generated by the first integration step, integrated to the time-direction spreading frame corresponding to the space / time-direction spreading frames of the specified number of frames to be integrated in this integration step. A change step of changing the designated frame number until the positive and negative code numbers match when the code numbers do not match;
上記積分ステップで得たフレーム積分画像において、上記映像に埋め込まれた電子透かし情報を検出する上記フレーム積分画像上の画素位置を決定する画素位置決定ステップと、In the frame integration image obtained in the integration step, a pixel position determination step for determining a pixel position on the frame integration image for detecting digital watermark information embedded in the video;
この画素位置決定ステップで決定された画素位置の画素値集合の統計値に基づいて上記電子透かし情報を検出する検出ステップとA detecting step for detecting the digital watermark information based on a statistical value of a pixel value set at the pixel position determined in the pixel position determining step;
を備えたことを特徴とする電子透かし検出方法。An electronic watermark detection method comprising:
この積算部で得られた時間方向拡散フレームについて、隣接フレームを指定フレーム数だけフレーム積分したフレーム積分画像を得る積分部と、
この積分部でフレーム積分される上記指定フレーム数の時間方向拡散フレームに積算された、上記積算部が発生させた時間方向拡散符号列の正負の符号数が一致しない場合に、上記正負の符号数が一致するまで上記指定フレーム数を変更する変更部と、
上記積分部で得たフレーム積分画像において、上記映像に埋め込まれた電子透かし情報を検出する上記フレーム積分画像上の画素位置を決定する画素位置決定部と、
この画素位置決定部で決定された画素位置の画素値集合の統計値に基づいて上記電子透かし情報を検出する検出部と
を備えたことを特徴とする電子透かし検出装置。 To generate a time-direction spreading code sequence consisting of +1 and -1 is set for each video frame constituting an image, the time direction obtained by integrating the pixel values of the corresponding video frame and the time direction spreading code corresponding to each video frame An accumulator for obtaining a spread frame ;
For the time-direction spread frame obtained by this integration unit, an integration unit for obtaining a frame integration image obtained by integrating the adjacent frames by the specified number of frames, and
The number of positive and negative codes when the number of positive and negative codes of the time direction spreading code sequence generated by the integration unit integrated with the specified number of time direction spread frames integrated by the integration unit does not match. A change unit for changing the number of designated frames until the two match,
In the frame integration image obtained by the integration unit, a pixel position determination unit that determines a pixel position on the frame integration image that detects digital watermark information embedded in the video ; and
A digital watermark detection apparatus comprising: a detection unit that detects the digital watermark information based on a statistical value of a pixel value set at a pixel position determined by the pixel position determination unit .
この第1の積算部で得られた時間方向拡散フレーム毎に設定された+1および−1からなる空間方向拡散符号列を発生させ、各時間方向拡散フレームに対応した空間方向拡散符号を対応する時間方向拡散フレームの各画素値に積算した空間・時間方向拡散フレームを得る第2の積算部と、A time direction spreading code sequence consisting of +1 and −1 set for each time direction spreading frame obtained by the first integration unit is generated, and a time corresponding to the space direction spreading code corresponding to each time direction spreading frame is generated. A second integration unit for obtaining a space / time direction diffusion frame integrated with each pixel value of the direction diffusion frame;
この第2の積算部で得られた空間・時間方向拡散フレームについて、隣接フレームを指定フレーム数だけフレーム積分したフレーム積分画像を得る積分部と、An integration unit that obtains a frame integration image obtained by integrating the adjacent frames by a specified number of frames with respect to the spatial / temporal spread frame obtained by the second integration unit;
この積分部でフレーム積分される上記指定フレーム数の空間・時間方向拡散フレームに対応した上記時間方向拡散フレームに積算された、上記第1の積算部が発生させた時間方向拡散符号列の正負の符号数が一致しない場合に、上記正負の符号数が一致するまで上記指定フレーム数を変更する変更部と、The positive and negative signs of the time-direction spreading code sequence generated by the first integration unit integrated with the time-direction spreading frame corresponding to the space / time-direction spreading frame of the specified number of frames integrated by the integration unit. A changing unit that changes the designated frame number until the positive and negative code numbers match when the code numbers do not match;
上記積分部で得たフレーム積分画像において、上記映像に埋め込まれた電子透かし情報を検出する上記フレーム積分画像上の画素位置を決定する画素位置決定部と、In the frame integration image obtained by the integration unit, a pixel position determination unit that determines a pixel position on the frame integration image that detects digital watermark information embedded in the video; and
この画素位置決定部で決定された画素位置の画素値集合の統計値に基づいて上記電子透かし情報を検出する検出部とA detection unit for detecting the digital watermark information based on a statistical value of a set of pixel values at the pixel position determined by the pixel position determination unit;
を備えたことを特徴とする電子透かし検出装置。An electronic watermark detection apparatus comprising:
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004063855A JP4534530B2 (en) | 2004-03-08 | 2004-03-08 | Digital watermark detection method and digital watermark detection apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004063855A JP4534530B2 (en) | 2004-03-08 | 2004-03-08 | Digital watermark detection method and digital watermark detection apparatus |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2005252957A JP2005252957A (en) | 2005-09-15 |
JP4534530B2 true JP4534530B2 (en) | 2010-09-01 |
Family
ID=35032985
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004063855A Expired - Fee Related JP4534530B2 (en) | 2004-03-08 | 2004-03-08 | Digital watermark detection method and digital watermark detection apparatus |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4534530B2 (en) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7970164B2 (en) | 2005-08-04 | 2011-06-28 | Nippon Telegraph And Telephone Corporation | Digital watermark padding method, digital watermark padding device, digital watermark detecting method, digital watermark detecting device, and program |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001525151A (en) * | 1998-03-04 | 2001-12-04 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | Watermark detection |
JP2002533958A (en) * | 1998-12-18 | 2002-10-08 | シグナファイ、 インコーポレイテッド | Field-based watermark insertion and detection |
JP2003259319A (en) * | 2002-03-05 | 2003-09-12 | Oki Electric Ind Co Ltd | Electronic watermark embedding apparatus and detecting apparatus |
JP2006517068A (en) * | 2003-01-20 | 2006-07-13 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | Method for embedding and detecting watermark in video signal |
-
2004
- 2004-03-08 JP JP2004063855A patent/JP4534530B2/en not_active Expired - Fee Related
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001525151A (en) * | 1998-03-04 | 2001-12-04 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | Watermark detection |
JP2002533958A (en) * | 1998-12-18 | 2002-10-08 | シグナファイ、 インコーポレイテッド | Field-based watermark insertion and detection |
JP2003259319A (en) * | 2002-03-05 | 2003-09-12 | Oki Electric Ind Co Ltd | Electronic watermark embedding apparatus and detecting apparatus |
JP2006517068A (en) * | 2003-01-20 | 2006-07-13 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | Method for embedding and detecting watermark in video signal |
Also Published As
Publication number | Publication date |
---|---|
JP2005252957A (en) | 2005-09-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Ahmed et al. | A secure and robust hash-based scheme for image authentication | |
US6757405B1 (en) | Digital watermark embedding device, digital watermark detection device and recording medium recording computer readable program for realizing functions of two devices | |
Yang et al. | A contrast-sensitive reversible visible image watermarking technique | |
Jung et al. | High-capacity index based data hiding method | |
Zhang et al. | Self-embedding fragile watermarking based on DCT and fast fractal coding | |
Yang et al. | Removable visible image watermarking algorithm in the discrete cosine transform domain | |
Abdullah et al. | Recursive reversible image watermarking using enhancement of difference expansion techniques | |
Rigoni et al. | Detecting tampering in audio-visual content using QIM watermarking | |
Ahmed et al. | Hash-based authentication of digital images in noisy channels | |
Nilizadeh et al. | Information Hiding in RGB Images Using an Improved Matrix Pattern Approach. | |
Khan et al. | A secure true edge based 4 least significant bits steganography | |
Amirtharajan et al. | Tri-layer stego for enhanced security-A keyless random approach | |
JP4602983B2 (en) | Method and apparatus for embedding and detecting structured watermarks | |
Barani et al. | Image forgery detection in contourlet transform domain based on new chaotic cellular automata | |
Mitekin et al. | A new method for high-capacity information hiding in video robust against temporal desynchronization | |
JP4534530B2 (en) | Digital watermark detection method and digital watermark detection apparatus | |
Maheswari et al. | Image Steganography using Hybrid Edge Detector and Ridgelet Transform. | |
Mitekin | A new key recovery attack against DM-QIM image watermarking algorithm | |
JP4863219B2 (en) | Digital watermark detection apparatus, digital watermark detection method, digital watermark detection program, and digital watermark processing system | |
JP5806648B2 (en) | Digital watermark embedding device, digital watermark detection device, digital watermark embedding method, digital watermark detection method, and program | |
Manimegalai et al. | The image steganography and steganalysis based on peak-shaped technique for Mp3 audio and video | |
Sivasubramanian et al. | High capacity multi‐bit data hiding based on modified histogram shifting technique | |
Sk et al. | The Efficient and Blind Digital Image Watermarking in Spatial Domain | |
Liu et al. | Cost assignment based adaptive active forensics scheme for image tampers | |
Gosavi et al. | Video authentication and copyright protection using unique watermark generation technique and singular value decomposition |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20061225 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100302 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100427 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100525 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100607 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130625 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |