JP2003348553A - Digital watermark-embedding apparatus, method thereof, and recording medium having recorded therein program for performing the method - Google Patents

Digital watermark-embedding apparatus, method thereof, and recording medium having recorded therein program for performing the method

Info

Publication number
JP2003348553A
JP2003348553A JP2003076023A JP2003076023A JP2003348553A JP 2003348553 A JP2003348553 A JP 2003348553A JP 2003076023 A JP2003076023 A JP 2003076023A JP 2003076023 A JP2003076023 A JP 2003076023A JP 2003348553 A JP2003348553 A JP 2003348553A
Authority
JP
Japan
Prior art keywords
digital watermark
embedding
digital
image
watermark
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2003076023A
Other languages
Japanese (ja)
Other versions
JP4383760B2 (en
Inventor
Takashi Inoue
尚 井上
Kenichi Noritomi
賢一 乗富
Takuji Katsura
卓史 桂
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Priority to JP2003076023A priority Critical patent/JP4383760B2/en
Publication of JP2003348553A publication Critical patent/JP2003348553A/en
Application granted granted Critical
Publication of JP4383760B2 publication Critical patent/JP4383760B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Abstract

<P>PROBLEM TO BE SOLVED: To provide a technology which makes a degradation in image quality compatible with compression resistance by adjusting embedment intensity. <P>SOLUTION: An input image is divided into local regions, each of which is a macro block unit. Embedment intensity is determined for each of the local regions using calculated characteristic amount and a compression bit rate. The determined embedment intensity is used to insert digital watermarks into each of the local regions, and the input image is encoded, thereby outputting a compressed bit stream that has the digital watermarks embedded therein. Since a characteristics amount is calculated for each of small regions of the input image, the embedment intensity can be adjusted for each region and the degradation in image quality can be suppressed. A correspondence table corresponding to a predetermined compressed bit rate is used to adjust the embedment intensity, thereby determining the embedment intensity while taking into consideration the image quality of a digital watermark-inserted image subjected to image encoding. <P>COPYRIGHT: (C)2004,JPO

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は、電子透かし埋め込
み装置、その方法及び当該方法を実行するためのプログ
ラムを記録した媒体に関し、特に、デジタル画像に電子
透かしを埋め込む強度の調整方法に関するものである。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a digital watermark embedding device, a method thereof, and a medium storing a program for executing the method, and more particularly to a method of adjusting the strength of embedding a digital watermark in a digital image. .

【0002】[0002]

【従来の技術】近年、デジタル化された音声や映像デー
タなどのデジタルコンテンツは、オリジナルと全く同じ
ものを簡単に複製できるため、コンテンツの著作権保護
が重要な課題となっている。この解決策の一つとして、
「電子透かし」が利用されている。
2. Description of the Related Art In recent years, since digital contents such as digitized audio and video data can be easily duplicated exactly as the original, copyright protection of the contents has become an important issue. As one of the solutions,
"Digital watermark" is used.

【0003】電子透かしは、映像データの中に、人間に
は画質劣化を知覚できないようにデータを埋め込み、こ
の埋め込み画像データから、埋め込まれたデータを検出
する技術である。
[0003] Digital watermarking is a technique for embedding data in video data so that humans cannot perceive image quality degradation, and detecting the embedded data from the embedded image data.

【0004】さらに、画像圧縮やノイズ付加などの画像
処理が施された画像からでも、画像データに埋め込まれ
た電子透かしは、正しく検出できるように工夫しなくて
はならない。本明細書において、このような画像処理を
施した際に、電子透かしが検出に耐える度合いを、画像
処理に対する耐性と呼ぶ。
Further, even from an image on which image processing such as image compression and noise addition has been performed, it is necessary to devise a digital watermark embedded in the image data so that it can be correctly detected. In the present specification, when such image processing is performed, the degree to which the digital watermark withstands detection is referred to as resistance to image processing.

【0005】この画質劣化と、画像処理に対する耐性
は、トレードオフの関係にあり、埋め込み強度の値を調
整することで、両者のバランスが図られる。
[0005] There is a trade-off between the image quality degradation and the resistance to image processing, and the balance between the two can be achieved by adjusting the value of the embedding strength.

【0006】例えば、埋め込み強度の値を大きくする
と、電子透かしを埋め込んだ画像の画質劣化は大きくな
るが、画像処理に対する耐性は向上する。逆に、埋め込
み強度の値を小さくすると、画質劣化を抑えることがで
きるが、耐性は低下する。
For example, when the value of the embedding strength is increased, the image quality of the image in which the digital watermark is embedded becomes larger, but the resistance to the image processing is improved. Conversely, when the value of the embedding strength is reduced, image quality degradation can be suppressed, but the durability decreases.

【0007】このようなトレードオフの関係を自動的に
調整する従来の電子透かし埋め込み方法の一例が、特許
文献1に示されている。以下、この文献に記載されてい
る従来の電子透かし埋め込み方法を簡単に説明する。
An example of a conventional digital watermark embedding method that automatically adjusts such a trade-off relationship is disclosed in Japanese Patent Application Laid-Open No. H11-163,878. Hereinafter, a conventional digital watermark embedding method described in this document will be briefly described.

【0008】図4は、従来の電子透かし挿入システムの
ブロック図である。図4において、カテゴリ分類部40
1は、入力画像の特徴量を計算し、得られた特徴量から
画像の属するカテゴリを求め、カテゴリインデックスを
蓄積装置402へ出力する。
FIG. 4 is a block diagram of a conventional digital watermark insertion system. In FIG. 4, the category classification unit 40
1 calculates a feature amount of the input image, obtains a category to which the image belongs from the obtained feature amount, and outputs a category index to the storage device 402.

【0009】蓄積装置402は、カテゴリインデックス
ごとに、電子透かし強度と画質劣化度とアタック(画像
処理)に対する耐性評価値との対応を記述した電子透か
し特性表を持ち、カテゴリ分類部401から入力される
カテゴリインデックスに応じて、使用する電子透かし特
性表を選択する。
The storage device 402 has, for each category index, a digital watermark characteristic table in which the correspondence between the digital watermark strength, the image quality deterioration degree, and the resistance evaluation value against attack (image processing) is described. The digital watermark characteristic table to be used is selected according to the category index to be used.

【0010】電子透かし強度算出部403は、電子透か
し強度を蓄積装置402に出力し、蓄積装置402から
出力される画質劣化度と耐性評価値と、ユーザから入力
される制約情報とを用いて、最適電子透かし強度を算出
し、電子透かし挿入部404へ出力する。
[0010] The digital watermark strength calculation unit 403 outputs the digital watermark strength to the storage device 402, and uses the image quality deterioration degree and the resistance evaluation value output from the storage device 402, and constraint information input by the user, and The optimum digital watermark strength is calculated and output to the digital watermark insertion unit 404.

【0011】電子透かし挿入部404は、埋め込みデー
タを、電子透かしに変換し、電子透かし強度算出部40
3から入力した最適電子透かし強度で、入力画像に電子
透かしを挿入し、電子透かし挿入画像を出力する。
A digital watermark insertion unit 404 converts the embedded data into a digital watermark, and
The digital watermark is inserted into the input image at the optimum digital watermark strength input from Step 3 and the digital watermark inserted image is output.

【0012】(1)従来技術では、入力画像の特徴量と
して、画像全体のアクティビティ(交流周波数成分の二
乗平均値)を用いている。
(1) In the prior art, the activity of the entire image (mean square value of the AC frequency component) is used as the feature amount of the input image.

【0013】しかしながら、入力画像は、全体的に一様
の画像であるとは限らず、変化が多い複雑な部分もあれ
ば、変化の少ない単調な部分もある場合が、殆どであ
る。
However, the input image is not necessarily a uniform image as a whole, and in most cases there are complex portions with many changes and monotonous portions with little change.

【0014】電子透かしの埋め込み強度が、画像に対し
て強すぎると、電子透かしによる画質劣化が目立ってし
まう。特に、変化の少ない部分においては、この画質劣
化が一層顕著になる。
If the embedding strength of the digital watermark is too strong for the image, the deterioration of the image quality due to the digital watermark becomes conspicuous. In particular, in a portion where the change is small, the deterioration of the image quality becomes more remarkable.

【0015】したがって、従来技術によると、入力画像
において、部分的に電子透かしの埋め込み強度が不適切
になる場合が多く、画質劣化が避けられないという問題
点があった。
Therefore, according to the prior art, the embedding strength of a digital watermark is often inappropriate in an input image in some cases, and there is a problem that image quality degradation is inevitable.

【0016】(2)従来技術における画質劣化度は、電
子透かしを挿入した直後の電子透かし挿入画像と入力画
像とで計算した数値である。
(2) The image quality deterioration degree in the prior art is a numerical value calculated from the digital watermark inserted image immediately after the digital watermark is inserted and the input image.

【0017】しかしながら、実際に映像データをハード
ディスク等の記録媒体に蓄積・保存し、その後、ネット
ワークなどで伝送・配信する場合、データ量を削減する
ために、映像データを構成する画像は、動画であれば、
例えばMPEG方式など、静止画であれば、例えばJP
EG方式など、に従って符号化される。
However, when video data is actually stored and stored on a recording medium such as a hard disk and then transmitted and distributed over a network or the like, in order to reduce the amount of data, the image constituting the video data must be a moving image. if there is,
For example, in the case of a still image such as an MPEG method, for example, JP
Encoding is performed according to the EG method or the like.

【0018】このため、符号化される前の電子透かし挿
入画像と、符号化された後の電子透かし挿入画像とは、
一般に異なるものとなる。
For this reason, the digital watermark inserted image before encoding and the digital watermark inserted image after encoding are
Generally different.

【0019】例えば、低圧縮ビットレートで圧縮された
電子透かし挿入画像は、圧縮によるブロック歪が顕著に
あらわれ、圧縮される前の電子透かし挿入画像に対し、
大きく画質が劣化する。
For example, in a digital watermark inserted image compressed at a low compression bit rate, block distortion due to compression appears remarkably.
The image quality is greatly deteriorated.

【0020】即ち、従来技術では、圧縮前後における画
質の変化を何ら考慮していなかったので、好ましい埋め
込み強度で、入力画像に電子透かしを埋め込むことがで
きず、画質劣化と画像処理に対する耐性との関係が不適
切になりやすいという問題点があった。
That is, in the prior art, since no change in image quality before and after compression is taken into account, a digital watermark cannot be embedded in an input image with a preferable embedding strength. There was a problem that the relationship was likely to be inappropriate.

【特許文献1】 特開平11−346302号公報(第
9−11頁、図1)
[Patent Document 1] JP-A-11-346302 (pages 9-11, FIG. 1)

【特許文献2】 特開2001−352441号公報
(第3−4頁、図1)
[Patent Document 2] JP-A-2001-352441 (page 3-4, FIG. 1)

【0021】[0021]

【発明が解決しようとする課題】本発明の第1の目的
は、画質劣化を抑制できる技術を提供することである。
SUMMARY OF THE INVENTION A first object of the present invention is to provide a technique capable of suppressing image quality deterioration.

【0022】本発明の第2の目的は、圧縮を行う場合に
も、入力画像に、適切な埋め込み強度で電子透かしを埋
め込める技術を提供することである。
A second object of the present invention is to provide a technique for embedding a digital watermark with an appropriate embedding strength in an input image even when performing compression.

【0023】[0023]

【課題を解決するための手段】第1の発明に係る電子透
かし埋め込み装置は、デジタル画像の特徴量を算出する
特徴量算出部と、特徴量算出部が算出する特徴量と、符
号化において使用する圧縮ビットレートとを用いて埋め
込み強度を求める埋め込み強度判定部と、埋め込み強度
判定部が求める埋め込み強度を用いてデジタル画像に電
子透かしを埋め込む電子透かし挿入部と、電子透かし挿
入部が電子透かしを埋め込んだデジタル画像を、圧縮ビ
ットレートで符号化し、圧縮ビットストリームを出力す
る画像符号化部とを備える。
According to a first aspect of the present invention, there is provided a digital watermark embedding apparatus for calculating a feature amount of a digital image, a feature amount calculated by the feature amount calculation unit, and a feature amount used in encoding. An embedding strength determining unit for obtaining an embedding strength using a compression bit rate to be embedded, a digital watermark inserting unit for embedding a digital watermark in a digital image using the embedding strength determined by the embedding strength determining unit, An image encoding unit that encodes the embedded digital image at a compression bit rate and outputs a compressed bit stream.

【0024】この構成により、符号化に使用する圧縮ビ
ットレートと、入力画像の特徴量とに基づいて、電子透
かし強度を求めることができる。即ち、画像符号化され
た後の電子透かし挿入画像の画質を考慮して、電子透か
しの埋め込み強度を求め、圧縮の程度を反映して、デジ
タル画像に電子透かしを埋め込むことができる。
According to this configuration, the digital watermark strength can be obtained based on the compression bit rate used for encoding and the feature amount of the input image. That is, the embedding strength of the digital watermark is obtained in consideration of the image quality of the digital watermark inserted image after image encoding, and the digital watermark can be embedded in the digital image by reflecting the degree of compression.

【0025】第2の発明は、第1の発明に従属する発明
であって、特徴量算出部は、デジタル画像の一部を構成
する部分領域ごとに特徴量を算出する。
A second invention is an invention according to the first invention, wherein the feature value calculating section calculates a feature value for each partial region constituting a part of the digital image.

【0026】この構成において、入力画像の部分領域ご
との特徴量を計算することで、部分領域ごとに、埋め込
み強度を調整し、画質劣化を抑えることができる。即
ち、部分領域毎に、特徴量に合わせた埋め込み強度によ
って、部分領域の状態に合わせて、電子透かしが埋め込
まれるため、電子透かしの埋め込みによる画質劣化を抑
制できる。
In this configuration, by calculating the feature amount for each partial region of the input image, the embedding strength can be adjusted for each partial region, and image quality degradation can be suppressed. That is, since the digital watermark is embedded for each partial region according to the state of the partial region by the embedding strength according to the feature amount, it is possible to suppress the image quality deterioration due to the embedding of the digital watermark.

【0027】第3の発明は、第1の発明に従属する発明
であって、埋め込み強度判定部は、特徴量算出部が算出
する特徴量と画像符号化部の符号化において使用する圧
縮ビットレートとの、一方又は双方と、電子透かしの埋
め込み強度との対応表を用いる。
[0027] A third invention is an invention according to the first invention, wherein the embedding strength judging unit includes a feature amount calculated by the feature amount calculating unit and a compression bit rate used in encoding of the image encoding unit. And a correspondence table of one or both of the above and the embedding strength of the digital watermark is used.

【0028】この構成における対応表を使用することに
より、圧縮ビットレートを反映して埋め込み強度を調整
できる。即ち、画像符号化された後の電子透かし挿入画
像の画質を考慮した、埋め込み強度により、デジタル画
像に電子透かしを埋め込める。
By using the correspondence table in this configuration, the embedding strength can be adjusted by reflecting the compression bit rate. That is, the digital watermark can be embedded in the digital image by the embedding strength in consideration of the image quality of the digital watermark inserted image after the image encoding.

【0029】[0029]

【発明の実施の形態】以下、図面を参照しながら、本発
明の実施の形態を説明する。図1は、本発明の一実施の
形態に係る電子透かし埋め込み装置の構成を示すブロッ
ク図である。
Embodiments of the present invention will be described below with reference to the drawings. FIG. 1 is a block diagram showing a configuration of a digital watermark embedding device according to one embodiment of the present invention.

【0030】図1に示すように、この電子透かし埋め込
み装置は、特徴量算出部101と、埋め込み強度判定部
102と、電子透かし挿入部103と、画像符号化部1
04とを備える。ここで、本形態における画像符号化部
104は、電子透かしが埋め込まれたデジタル画像に対
し、所定の信号処理を行う処理部に相当する。
As shown in FIG. 1, the digital watermark embedding apparatus includes a feature amount calculating unit 101, an embedding strength determining unit 102, a digital watermark inserting unit 103, and an image encoding unit 1.
04. Here, the image encoding unit 104 according to the present embodiment corresponds to a processing unit that performs predetermined signal processing on a digital image in which a digital watermark is embedded.

【0031】以下、図2から図3をさらに参照して、電
子透かし埋め込み処理の内容について説明する。図2
は、同電子透かし埋め込む装置のフローチャートであ
る。
The details of the digital watermark embedding process will be described below with reference to FIGS. FIG.
5 is a flowchart of the digital watermark embedding device.

【0032】まず、特徴量算出部101は、入力するデ
ジタル画像を、予め定めた画素単位の複数の部分領域の
画像に分割し、部分領域単位で特徴量を算出する(ステ
ップS201)。
First, the characteristic amount calculation unit 101 divides an input digital image into a plurality of partial region images in a predetermined pixel unit, and calculates a characteristic amount in partial region units (step S201).

【0033】本形態における部分領域は、16×16画
素サイズのマクロブロックである。また、その部分領域
毎の特徴量は、輝度成分の平均値である。
The partial area in the present embodiment is a macro block having a size of 16 × 16 pixels. Further, the feature amount for each partial region is an average value of the luminance component.

【0034】ここで、部分領域は、上述のように、1つ
のマクロブロックとしたり、1ラインを構成する複数の
マクロブロックとしたり、オブジェクト単位とするな
ど、画像符号化に応じた処理単位にするように変更して
もよい。
Here, as described above, the partial area is a processing unit corresponding to image coding, such as one macro block, a plurality of macro blocks constituting one line, or an object unit. It may be changed as follows.

【0035】1ラインを構成する複数のマクロブロック
を部分領域とすると、1つのマクロブロックを部分領域
とするよりも、演算量を削減できるので、システム資源
に余裕がない場合に適用しやすい。
When a plurality of macroblocks constituting one line are used as partial areas, the amount of calculation can be reduced as compared with a case where one macroblock is used as a partial area. Therefore, the present invention is easily applied when there is not enough system resources.

【0036】また、特徴量は、輝度成分の平均値の他、
次のような、水平および垂直方向隣接画素の差分絶対値
の総和を用いてもよい。ここで、部分領域が、16×1
6画素サイズであり、各画素の輝度データがd(i,
j)(0≦i≦15,0≦j≦15)であるとき、水平
方向隣接画素の差分絶対値の総和Shは、次式で定義で
きる。
In addition to the average value of the luminance component,
The following sum of the absolute differences of the horizontal and vertical adjacent pixels may be used. Here, the partial area is 16 × 1
It has a size of 6 pixels, and the luminance data of each pixel is d (i,
j) When (0 ≦ i ≦ 15, 0 ≦ j ≦ 15), the total sum Sh of absolute differences between horizontally adjacent pixels can be defined by the following equation.

【0037】[0037]

【数1】 (Equation 1)

【0038】また、垂直方向隣接画素の差分絶対値の総
和Svは、次式で定義できる。
The sum Sv of absolute differences between adjacent pixels in the vertical direction can be defined by the following equation.

【0039】[0039]

【数2】 (Equation 2)

【0040】さらに、人間の視覚特性にあった特徴量を
算出して実施すると、画質劣化を知覚されにくく、埋め
込み強度を大きくできる効果がある。勿論、以上述べた
特徴量は、いずれも例示に過ぎず、本発明は、他の特徴
量を用いる場合も含む。
Further, when a characteristic amount suitable for human visual characteristics is calculated and executed, there is an effect that image quality deterioration is hardly perceived and the embedding strength can be increased. Of course, the above-described feature amounts are merely examples, and the present invention includes a case in which another feature amount is used.

【0041】次に、埋め込み強度判定部102の処理
(ステップS202)について、図3を用いて説明す
る。図3(a)に示すテーブル1と、図3(b)に示す
テーブル2とは、それぞれ特徴量と圧縮ビットレートと
に対する、埋め込み強度の対応表である。
Next, the processing of the embedding strength determination unit 102 (step S202) will be described with reference to FIG. Table 1 shown in FIG. 3A and Table 2 shown in FIG. 3B are correspondence tables of the embedding strength with respect to the feature amount and the compression bit rate, respectively.

【0042】テーブル1を用いるときには、特徴量算出
部101で算出した特徴量と、予め定めたしきい値Y
1、Y2(Y2<Y1)とが、比較される。そして、特
徴量の範囲に基づいて、「強度1」が求められる。例え
ば、特徴量の値が、しきい値Y1より大きい場合には、
「強度1」として「3」が出力される。
When the table 1 is used, the characteristic amount calculated by the characteristic amount calculating section 101 and a predetermined threshold value Y
1, Y2 (Y2 <Y1) are compared. Then, “strength 1” is obtained based on the range of the feature amount. For example, when the value of the feature amount is larger than the threshold value Y1,
“3” is output as “strength 1”.

【0043】テーブル2を用いるときには、画像符号化
部104が使用する圧縮ビットレートと、予め定めたし
きい値B1,B2(B2<B1)とが、比較される。そ
して、圧縮ビットレートの範囲に基づいて、「強度2」
が求められる。例えば、圧縮ビットレートの値が、しき
い値B2より小さい場合には、「強度2」として「3」
が出力される。
When Table 2 is used, the compression bit rate used by the image encoding unit 104 is compared with predetermined thresholds B1 and B2 (B2 <B1). Then, based on the compression bit rate range, “strength 2”
Is required. For example, when the value of the compression bit rate is smaller than the threshold value B2, “3” is set as “strength 2”.
Is output.

【0044】さらに、埋め込み強度判定部102は、
「強度1」と「強度2」を加算し、これらの和を、埋め
込み強度として、電子透かし挿入部103へ出力する。
上記例では、埋め込み強度は、3+3=6となる。
Further, the embedding strength judgment unit 102
The “strength 1” and the “strength 2” are added, and the sum is output to the digital watermark insertion unit 103 as the embedding strength.
In the above example, the embedding strength is 3 + 3 = 6.

【0045】なお、以上では、出力される埋め込み強度
は、「強度1」と「強度2」との和であるが、本発明
は、これに限定されない。出力される埋め込み強度は、
例えば、「強度1」と「強度2」との積であってもよ
い。
In the above description, the output embedding strength is the sum of "strength 1" and "strength 2", but the present invention is not limited to this. The output embedding strength is
For example, the product of “strength 1” and “strength 2” may be used.

【0046】次に、電子透かし挿入部103は、埋め込
み強度判定部102で求めた埋め込み強度を用いて、部
分領域(ここではマクロブロック)の画像に電子透かし
を埋め込み、埋め込み済みの部分領域の画像を、画像符
号化部104へ出力する(ステップS203)。
Next, the digital watermark insertion unit 103 embeds a digital watermark in an image of a partial area (here, a macroblock) using the embedding strength obtained by the embedding strength determination unit 102, and obtains an image of the embedded partial area. Is output to the image encoding unit 104 (step S203).

【0047】このようにすると、特徴量算出部101、
電子透かし挿入部103及び画像符号化部104の各処
理が、マクロブロック単位で並行して進行することにな
り、待ち時間が少なく効率が良い。
By doing so, the characteristic amount calculation unit 101,
The respective processes of the digital watermark insertion unit 103 and the image encoding unit 104 proceed in parallel in macroblock units, so that the waiting time is small and the efficiency is high.

【0048】次に、画像符号化部104は、電子透かし
が挿入された部分領域の画像を、予め定めた圧縮ビット
レートに応じて、符号化し、圧縮されたビットストリー
ムを出力する(ステップS204)。
Next, the image encoding unit 104 encodes the image of the partial area into which the digital watermark has been inserted, according to a predetermined compression bit rate, and outputs a compressed bit stream (step S204). .

【0049】以上のように、本形態に係る電子透かし埋
め込み装置によれば、デジタル画像を予め定めた画素単
位の複数の部分領域に分割し、部分領域ごとの特徴量を
算出する。そして、特徴量と予め定めた圧縮ビットレー
トに応じた対応表を用いて埋め込み強度を判定する。
As described above, according to the digital watermark embedding device according to the present embodiment, a digital image is divided into a plurality of partial regions in a predetermined pixel unit, and the feature amount for each partial region is calculated. Then, the embedding strength is determined using a correspondence table corresponding to the feature amount and a predetermined compression bit rate.

【0050】これにより、入力画像の小さな領域ごとの
特徴量を計算することで、領域ごとの埋め込み強度を調
整でき、画質劣化を抑えることができる。しかも、圧縮
ビットレートに応じた埋め込み強度を調整することで、
画像符号化された後の電子透かし挿入画像の画質を考慮
した埋め込み強度の判定を行うことができる。
As a result, by calculating the feature amount for each small area of the input image, the embedding strength for each area can be adjusted, and image quality deterioration can be suppressed. In addition, by adjusting the embedding strength according to the compression bit rate,
The embedding strength can be determined in consideration of the image quality of the digital watermark inserted image after the image encoding.

【0051】なお、典型的には、本形態に係る電子透か
し埋め込み装置が実現する各機能は、所定のプログラム
データが格納された記憶装置(ROM、RAM、ハード
ディスク等)と、当該プログラムデータを実行するCP
U(セントラル・プロセッシング・ユニット)とによっ
て実現される。この場合、各プログラムデータは、CD
−ROMやフレキシブルディスク等の記憶媒体を介して
導入されてもよい。
Typically, each function realized by the digital watermark embedding device according to the present embodiment is implemented by a storage device (ROM, RAM, hard disk, etc.) storing predetermined program data, and executing the program data. CP to do
U (Central Processing Unit). In this case, each program data is stored on a CD.
-It may be introduced via a storage medium such as a ROM or a flexible disk.

【0052】[0052]

【発明の効果】本発明によれば、入力画像の小さな領域
ごとに特徴量を算出するので、領域ごとの埋め込み強度
を調整でき、画質劣化を抑えることができる。また、予
め定めた圧縮ビットレートに応じた対応表を用いて埋め
込み強度を調整することで、画像符号化された後の電子
透かし挿入画像の画質を考慮して、埋め込み強度を決定
できる。
According to the present invention, since the characteristic amount is calculated for each small area of the input image, the embedding strength for each area can be adjusted, and the deterioration of the image quality can be suppressed. In addition, by adjusting the embedding strength using a correspondence table corresponding to a predetermined compression bit rate, the embedding strength can be determined in consideration of the image quality of the digital watermark inserted image after image encoding.

【0053】この結果、MPEGなどの標準画像符号化
に対する耐性が向上できる。例えば、低圧縮ビットレー
ト(高圧縮・低画質)で圧縮した場合、埋め込み強度を
大きくすることで、圧縮に対する耐性を向上できる。し
かも、埋め込みによる画質劣化よりも圧縮によるブロッ
ク歪等の画質劣化が知覚されやすくなることで、埋め込
み強度を大きくしても埋め込みによる画質劣化を抑える
ことができる。
As a result, the resistance to standard image coding such as MPEG can be improved. For example, when compression is performed at a low compression bit rate (high compression / low image quality), by increasing the embedding strength, resistance to compression can be improved. In addition, since image quality deterioration such as block distortion due to compression is more easily perceived than image quality deterioration due to embedding, even if the embedding strength is increased, image quality deterioration due to embedding can be suppressed.

【0054】反対に、高圧縮ビットレート(低圧縮・高
画質)で圧縮した場合、埋め込み強度を小さくすること
で、埋め込みによる画質劣化を抑えることができる。し
かも、圧縮による劣化が小さいことで、埋め込み強度を
小さくしても圧縮に対する耐性は維持できる。
On the other hand, when the compression is performed at a high compression bit rate (low compression and high image quality), deterioration of the image quality due to embedding can be suppressed by reducing the embedding strength. Moreover, since the deterioration due to compression is small, the resistance to compression can be maintained even if the embedding strength is reduced.

【図面の簡単な説明】[Brief description of the drawings]

【図1】本発明の一実施の形態における電子透かし埋め
込み装置のブロック図
FIG. 1 is a block diagram of a digital watermark embedding device according to an embodiment of the present invention.

【図2】同電子透かし埋め込み装置のフローチャートFIG. 2 is a flowchart of the digital watermark embedding device.

【図3】(a)同対応表(特徴量)の例示図 (b)同対応表(圧縮ビットレート)の例示図FIG. 3A shows an example of the correspondence table (feature amount); (B) Illustration of the correspondence table (compression bit rate)

【図4】従来の電子透かし埋め込み装置のブロック図FIG. 4 is a block diagram of a conventional digital watermark embedding device.

【符号の説明】[Explanation of symbols]

101 特徴量算出部 102 埋め込み強度判定部 103 電子透かし挿入部 104 画像符号化部 401 カテゴリ分類部 402 蓄積装置 403 電子透かし強度算出部 404 電子透かし挿入部 101 feature amount calculation unit 102 Embedding strength judgment unit 103 Digital watermark insertion unit 104 image encoding unit 401 Category Classification Unit 402 storage device 403 Digital watermark strength calculation unit 404 Digital watermark insertion unit

───────────────────────────────────────────────────── フロントページの続き (72)発明者 桂 卓史 大阪府門真市大字門真1006番地 松下電器 産業株式会社内 Fターム(参考) 5B057 AA20 CA08 CA12 CA16 CB08 CB12 CB16 CC01 CE08 DA20 DB02 DB09 DC30 DC36 5C053 GB07 GB21 GB37 JA30 5C063 AB03 AC01 AC10 DA13 DA20 DB10 5C076 AA14 BA06    ────────────────────────────────────────────────── ─── Continuation of front page    (72) Inventor Takashi Katsura             Matsushita Electric, 1006 Kadoma, Kazuma, Osaka             Sangyo Co., Ltd. F term (reference) 5B057 AA20 CA08 CA12 CA16 CB08                       CB12 CB16 CC01 CE08 DA20                       DB02 DB09 DC30 DC36                 5C053 GB07 GB21 GB37 JA30                 5C063 AB03 AC01 AC10 DA13 DA20                       DB10                 5C076 AA14 BA06

Claims (27)

【特許請求の範囲】[Claims] 【請求項1】デジタル画像に電子透かしを埋め込む電子
透かし挿入部と、 電子透かしが埋め込まれたデジタル画像に対し所定の信
号処理を行う処理部とを備え、 前記電子透かし挿入部が埋め込む電子透かしの埋め込み
強度は、前記処理部の信号処理の内容に基づいて定めら
れる、電子透かし埋め込み装置。
An electronic watermark insertion unit for embedding an electronic watermark in a digital image; and a processing unit for performing predetermined signal processing on the digital image in which the electronic watermark is embedded. An electronic watermark embedding device, wherein the embedding strength is determined based on the content of the signal processing of the processing unit.
【請求項2】デジタル画像の特徴量を求める特徴量算出
部を備え、 前記電子透かし挿入部が埋め込む電子透かしの埋め込み
強度は、前記処理部の信号処理の内容と前記特徴量算出
部が算出する特徴量とに基づいて定められる、請求項1
記載の電子透かし埋め込み装置。
2. A digital watermark embedding unit for calculating a digital image characteristic amount, wherein a digital watermark embedding strength of the digital watermark inserting unit is calculated by the signal processing content of the processing unit and the characteristic amount calculating unit. 2. The method according to claim 1, wherein the value is determined based on the characteristic amount.
Electronic watermark embedding device according to the above.
【請求項3】前記特徴量算出部は、デジタル画像の一部
を構成する部分領域ごとに特徴量を求め、前記電子透か
し挿入部は、前記部分領域ごとに定められた埋め込み強
度により電子透かしを埋め込む、請求項2記載の電子透
かし埋め込み装置。
3. The feature amount calculating section calculates a feature amount for each partial area constituting a part of a digital image, and the digital watermark inserting section inserts a digital watermark according to an embedding strength determined for each partial area. 3. The digital watermark embedding device according to claim 2, wherein the electronic watermark is embedded.
【請求項4】前記処理部は、電子透かしが埋め込まれた
デジタル画像を符号化する画像符号化部を備え、 前記電子透かし挿入部が埋め込む電子透かしの埋め込み
強度は、前記画像符号化部の圧縮ビットレートに基づい
て定められる、請求項1から3記載の電子透かし埋め込
み装置。
4. The image processing apparatus according to claim 1, wherein the processing unit includes an image encoding unit that encodes the digital image in which the digital watermark is embedded. 4. The digital watermark embedding device according to claim 1, wherein the digital watermark embedding device is determined based on a bit rate.
【請求項5】前記部分領域は、前記画像符号化部の符号
化において使用される単数又は複数のマクロブロックで
ある、請求項3記載の電子透かし埋め込み装置。
5. The digital watermark embedding device according to claim 3, wherein said partial area is one or more macroblocks used in encoding of said image encoding unit.
【請求項6】デジタル画像に電子透かしを埋め込む電子
透かし挿入部を備え、 前記電子透かし挿入部は、デジタル画像の一部を構成す
る部分領域ごとに定められた埋め込み強度により電子透
かしを埋め込む、電子透かし埋め込み装置。
6. A digital watermark embedding unit for embedding a digital watermark in a digital image, wherein the digital watermark embedding unit embeds a digital watermark with an embedding strength determined for each partial region constituting a part of the digital image. Watermark embedding device.
【請求項7】デジタル画像の特徴量を算出する特徴量算
出部と、 前記特徴量算出部が算出する特徴量と、符号化において
使用する圧縮ビットレートとを用いて埋め込み強度を求
める埋め込み強度判定部と、 前記埋め込み強度判定部が求める埋め込み強度を用いて
前記デジタル画像に電子透かしを埋め込む電子透かし挿
入部と、 前記電子透かし挿入部が電子透かしを埋め込んだデジタ
ル画像を、前記圧縮ビットレートで符号化し、圧縮ビッ
トストリームを出力する画像符号化部とを備える、電子
透かし埋め込み装置。
7. A feature value calculation unit for calculating a feature value of a digital image, an embedding strength determination for obtaining an embedding strength using the feature value calculated by the feature value calculation unit and a compression bit rate used in encoding. A digital watermark insertion unit that embeds a digital watermark in the digital image using the embedment strength determined by the embedment strength determination unit; and encodes the digital image in which the digital watermark insertion unit embeds a digital watermark at the compression bit rate. And an image encoding unit that outputs a compressed bit stream.
【請求項8】前記特徴量算出部は、前記デジタル画像の
一部を構成する部分領域ごとに特徴量を算出する、請求
項7記載の電子透かし埋め込み装置。
8. The digital watermark embedding device according to claim 7, wherein said characteristic amount calculating section calculates a characteristic amount for each partial region constituting a part of said digital image.
【請求項9】前記特徴量は、部分領域における輝度成分
の平均値と、部分領域における水平および垂直方向隣接
画素の差分絶対値の総和とを備える、請求項8記載の電
子透かし埋め込み装置。
9. The electronic watermark embedding device according to claim 8, wherein the feature amount includes an average value of the luminance component in the partial region and a sum of absolute differences of horizontal and vertical adjacent pixels in the partial region.
【請求項10】前記部分領域は、前記画像符号化部の符
号化において使用される単数又は複数のマクロブロック
である、請求項8から9記載の電子透かし埋め込み装
置。
10. The digital watermark embedding device according to claim 8, wherein the partial area is one or more macroblocks used in encoding of the image encoding unit.
【請求項11】前記埋め込み強度判定部は、 前記特徴量算出部が算出する特徴量と前記画像符号化部
の符号化において使用する圧縮ビットレートとの、一方
又は双方と、 電子透かしの埋め込み強度との対応表を用いる、請求項
7から10記載の電子透かし埋め込み装置。
11. An embedding strength determination unit, comprising: one or both of a feature amount calculated by the feature amount calculation unit and a compression bit rate used in encoding of the image encoding unit; 11. The electronic watermark embedding device according to claim 7, wherein a correspondence table is used.
【請求項12】前記対応表は、前記圧縮ビットレートが
高いとき電子透かしが弱く埋め込まれ、前記圧縮ビット
レートが低いとき電子透かしが強く埋め込まれるように
設定される、請求項11記載の電子透かし埋め込み装
置。
12. The digital watermark according to claim 11, wherein the correspondence table is set such that the digital watermark is weakly embedded when the compression bit rate is high, and the digital watermark is strongly embedded when the compression bit rate is low. Implant device.
【請求項13】前記電子透かし挿入部は、前記デジタル
画像の一部を構成する部分領域毎に、一般に異なる埋め
込み強度で電子透かしを埋め込む、請求項7から12記
載の電子透かし埋め込み装置。
13. The digital watermark embedding device according to claim 7, wherein said digital watermark insertion unit embeds a digital watermark with a generally different embedding strength for each partial region constituting a part of said digital image.
【請求項14】デジタル画像に電子透かしを埋め込み、 電子透かしが埋め込まれたデジタル画像に対し所定の信
号処理を行う、方法であって、 電子透かしの埋め込み強度は、前記所定の信号処理の内
容に基づいて定められる、電子透かし埋め込み方法。
14. A method for embedding a digital watermark in a digital image and performing predetermined signal processing on the digital image in which the digital watermark is embedded, wherein the embedding strength of the digital watermark is determined by the content of the predetermined signal processing. A digital watermark embedding method determined based on this.
【請求項15】デジタル画像の特徴量を求め、 電子透かしの埋め込み強度は、前記所定の信号処理の内
容と求めた特徴量とに基づいて定められる、請求項14
記載の電子透かし埋め込み方法。
15. A feature amount of a digital image is obtained, and embedding strength of a digital watermark is determined based on the content of the predetermined signal processing and the obtained feature amount.
Digital watermark embedding method described.
【請求項16】デジタル画像の一部を構成する部分領域
ごとに特徴量を求め、 前記部分領域ごとに定められた埋め込み強度により電子
透かしを埋め込む、請求項15記載の電子透かし埋め込
み方法。
16. The digital watermark embedding method according to claim 15, wherein a characteristic amount is obtained for each partial region constituting a part of the digital image, and a digital watermark is embedded with an embedding strength determined for each partial region.
【請求項17】前記所定の処理は、電子透かしが埋め込
まれたデジタル画像を符号化する処理であり、 電子透かしの埋め込み強度は、前記符号化の圧縮ビット
レートに基づいて定められる、請求項14から16記載
の電子透かし埋め込み方法。
17. The method according to claim 14, wherein the predetermined process is a process of encoding a digital image in which a digital watermark is embedded, and the embedding strength of the digital watermark is determined based on a compression bit rate of the encoding. 15. The method for embedding a digital watermark according to items 16 to 16.
【請求項18】前記部分領域は、前記符号化において使
用される単数又は複数のマクロブロックである、請求項
16記載の電子透かし埋め込み方法。
18. The digital watermark embedding method according to claim 16, wherein said partial area is one or more macroblocks used in said encoding.
【請求項19】デジタル画像に電子透かしを埋め込む、
方法であって、 デジタル画像の一部を構成する部分領域ごとに定められ
た埋め込み強度により電子透かしを埋め込む、電子透か
し埋め込み方法。
19. Embedding a digital watermark in a digital image;
A method for embedding a digital watermark with an embedding strength determined for each partial region constituting a part of a digital image.
【請求項20】デジタル画像の特徴量を算出し、 算出した特徴量と、符号化において使用する圧縮ビット
レートとを用いて埋め込み強度を求め、 求めた埋め込み強度を用いて前記デジタル画像に電子透
かしを埋め込み、 電子透かしが埋め込まれたデジタル画像を、前記圧縮ビ
ットレートで符号化し、圧縮ビットストリームを出力す
る、電子透かし埋め込み方法。
20. A method for calculating a feature amount of a digital image, obtaining an embedding strength using the calculated feature amount and a compression bit rate used in encoding, and using the obtained embedding strength to digitally watermark the digital image. A digital watermark embedding method, wherein a digital image in which a digital watermark is embedded is encoded at the compression bit rate, and a compressed bit stream is output.
【請求項21】前記デジタル画像の一部を構成する部分
領域ごとに特徴量を算出する、請求項20記載の電子透
かし埋め込み方法。
21. The digital watermark embedding method according to claim 20, wherein a feature amount is calculated for each partial region constituting a part of the digital image.
【請求項22】前記特徴量は、部分領域における輝度成
分の平均値と、部分領域における水平および垂直方向隣
接画素の差分絶対値の総和とを備える、請求項21記載
の電子透かし埋め込み方法。
22. The digital watermark embedding method according to claim 21, wherein the feature quantity includes an average value of luminance components in the partial area and a sum of absolute differences of horizontal and vertical adjacent pixels in the partial area.
【請求項23】前記部分領域は、前記符号化において使
用される単数又は複数のマクロブロックである、請求項
21から22記載の電子透かし埋め込み方法。
23. A digital watermark embedding method according to claim 21, wherein said partial area is one or more macroblocks used in said encoding.
【請求項24】算出した特徴量と前記符号化において使
用する圧縮ビットレートとの、一方又は双方と、 電子透かしの埋め込み強度との対応表を用いる、請求項
20から23記載の電子透かし埋め込み方法。
24. A digital watermark embedding method according to claim 20, wherein a correspondence table between one or both of the calculated feature amount and the compression bit rate used in the encoding and the digital watermark embedding strength is used. .
【請求項25】前記対応表は、前記圧縮ビットレートが
高いとき電子透かしが弱く埋め込まれ、前記圧縮ビット
レートが低いとき電子透かしが強く埋め込まれるように
設定される、請求項24記載の電子透かし埋め込み方
法。
25. The digital watermark according to claim 24, wherein the correspondence table is set such that when the compression bit rate is high, the digital watermark is weakly embedded, and when the compression bit rate is low, the digital watermark is strongly embedded. Embedding method.
【請求項26】前記デジタル画像の一部を構成する部分
領域毎に、一般に異なる埋め込み強度で電子透かしを埋
め込む、請求項20から25記載の電子透かし埋め込み
方法。
26. The digital watermark embedding method according to claim 20, wherein an electronic watermark is embedded with generally different embedding strengths for each partial region constituting a part of the digital image.
【請求項27】デジタル画像の特徴量を算出し、 算出した特徴量と、符号化において使用する圧縮ビット
レートとを用いて埋め込み強度を求め、 求めた埋め込み強度を用いて前記デジタル画像に電子透
かしを埋め込み、 電子透かしが埋め込まれたデジタル画像を、前記圧縮ビ
ットレートで符号化し、圧縮ビットストリームを出力す
る、電子透かし埋め込みプログラムをコンピュータが読
み込み可能に格納した記録媒体。
27. A method for calculating a feature amount of a digital image, obtaining an embedding strength using the calculated feature amount and a compression bit rate used in encoding, and electronically watermarking the digital image using the obtained embedding strength. A computer-readable recording medium storing a digital watermark embedding program for encoding a digital image with a digital watermark embedded therein at the compression bit rate and outputting a compressed bit stream.
JP2003076023A 2002-03-20 2003-03-19 Digital watermark embedding apparatus, method thereof, and storage medium storing program for executing the method Expired - Fee Related JP4383760B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003076023A JP4383760B2 (en) 2002-03-20 2003-03-19 Digital watermark embedding apparatus, method thereof, and storage medium storing program for executing the method

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2002078370 2002-03-20
JP2002-78370 2002-03-20
JP2003076023A JP4383760B2 (en) 2002-03-20 2003-03-19 Digital watermark embedding apparatus, method thereof, and storage medium storing program for executing the method

Publications (2)

Publication Number Publication Date
JP2003348553A true JP2003348553A (en) 2003-12-05
JP4383760B2 JP4383760B2 (en) 2009-12-16

Family

ID=29781939

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003076023A Expired - Fee Related JP4383760B2 (en) 2002-03-20 2003-03-19 Digital watermark embedding apparatus, method thereof, and storage medium storing program for executing the method

Country Status (1)

Country Link
JP (1) JP4383760B2 (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006140934A (en) * 2004-11-15 2006-06-01 Mitsubishi Electric Corp Electronic watermark embedding device
JP2006165895A (en) * 2004-12-06 2006-06-22 Nippon Hoso Kyokai <Nhk> Analog electronic watermark embedding device and its program and analog electronic watermark detecting device and its program
KR100768669B1 (en) 2005-11-28 2007-10-23 김종남 The methode of blind video watermarking using minimum modification technique of motion vectors
US7676056B2 (en) 2005-09-26 2010-03-09 Fujitsu Limited Method and apparatus for determining encoding availability, and computer product
KR101213161B1 (en) * 2006-06-14 2012-12-17 삼성전자주식회사 Video watermarking apparatus in compression domain and method using the same

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006140934A (en) * 2004-11-15 2006-06-01 Mitsubishi Electric Corp Electronic watermark embedding device
JP2006165895A (en) * 2004-12-06 2006-06-22 Nippon Hoso Kyokai <Nhk> Analog electronic watermark embedding device and its program and analog electronic watermark detecting device and its program
US7676056B2 (en) 2005-09-26 2010-03-09 Fujitsu Limited Method and apparatus for determining encoding availability, and computer product
KR100768669B1 (en) 2005-11-28 2007-10-23 김종남 The methode of blind video watermarking using minimum modification technique of motion vectors
KR101213161B1 (en) * 2006-06-14 2012-12-17 삼성전자주식회사 Video watermarking apparatus in compression domain and method using the same

Also Published As

Publication number Publication date
JP4383760B2 (en) 2009-12-16

Similar Documents

Publication Publication Date Title
US6798893B1 (en) Digital watermarking technique
Sherly et al. A compressed video steganography using TPVD
US7295615B1 (en) System for embedding additional information in video data, and embedding method
US20110064325A1 (en) Method and apparatus for encoding and decoding image based on skip mode
US6823089B1 (en) Method of determining the extent of blocking and contouring artifacts in a digital image
US6643410B1 (en) Method of determining the extent of blocking artifacts in a digital image
JP2003517796A (en) How to reduce the &#34;uneven picture&#34; effect
JP4023324B2 (en) Watermark embedding and image compression unit
JP4340532B2 (en) Error concealment method and apparatus
KR20040098770A (en) Image Watermarking Method Using Human Visual System
Kim et al. An entropy masking model for multimedia content watermarking
JP3762655B2 (en) Information embedding device, detection device, data processing method, program, and storage medium
JP2003348553A (en) Digital watermark-embedding apparatus, method thereof, and recording medium having recorded therein program for performing the method
US7095870B2 (en) Electronic watermark embedding apparatus and method and a format conversion device having a watermark embedding function
JP2004048219A (en) Inserting method of electronic watermark information
US20140270330A1 (en) Method and apparatus for embedding and detecting watermark
KR20010074604A (en) Real-Time Watermarking Insertion/Extraction method for MPEG Stream using Block unit Quantization
US6944314B2 (en) Digital information embedding device embedding digital watermark information in exact digital content, computer-readable recording medium having digital information embedding program recorded therein, and method of embedding digital information
US7187782B2 (en) Digital watermark-embedding apparatus, digital watermark-embedding method, and recording medium having recoded therein a program for performing the digital watermark-embedding method
JP3566924B2 (en) Digital watermark embedding method, detection method, digital watermark embedding device, detection device, recording medium recording digital watermark embedding program, and recording medium recording detection program
JP2003219376A (en) Electronic watermark embedding and detecting system
JP4119637B2 (en) Digital watermark embedding method, digital watermark embedding device, digital watermark embedding program, digital watermark detection method, digital watermark detection device, and digital watermark detection program
JP2006352846A (en) Watermarking method and apparatus
Dittmann et al. Customer identification for MPEG video based on digital fingerprinting
Kang et al. Real-time video watermarking for MPEG streams

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20051227

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080528

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080718

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090120

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090304

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090902

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090924

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121002

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4383760

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131002

Year of fee payment: 4

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees