JP4414328B2 - Image processing apparatus and image processing apparatus - Google Patents

Image processing apparatus and image processing apparatus Download PDF

Info

Publication number
JP4414328B2
JP4414328B2 JP2004375002A JP2004375002A JP4414328B2 JP 4414328 B2 JP4414328 B2 JP 4414328B2 JP 2004375002 A JP2004375002 A JP 2004375002A JP 2004375002 A JP2004375002 A JP 2004375002A JP 4414328 B2 JP4414328 B2 JP 4414328B2
Authority
JP
Japan
Prior art keywords
quantization
quantization table
data
quantized
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004375002A
Other languages
Japanese (ja)
Other versions
JP2005210704A (en
Inventor
尚 井上
賢一 乗富
將高 江島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2004375002A priority Critical patent/JP4414328B2/en
Publication of JP2005210704A publication Critical patent/JP2005210704A/en
Application granted granted Critical
Publication of JP4414328B2 publication Critical patent/JP4414328B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Editing Of Facsimile Originals (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)
  • Image Processing (AREA)

Description

本発明は、量子化された周波数画像データに大量の付加情報を埋め込み得る画像処理装置及びその関連技術に関するものである。   The present invention relates to an image processing apparatus capable of embedding a large amount of additional information in quantized frequency image data and a related technique.

近年、電子化された音声や映像データであるデジタルコンテンツが増加している。デジタルコンテンツは、オリジナルとまったく同じものを簡単に複製できるため、コンテンツの著作権の保護が重要な課題である。不法に複製、配布されたコンテンツは、オリジナルと区別がつかないため、コンテンツの著作権を主張する証拠を示すことは困難であり、著作権保護の方法が検討されている。   In recent years, digital contents that are digitized audio and video data are increasing. Since digital content can be easily copied exactly the same as the original, protecting the copyright of the content is an important issue. Since illegally copied and distributed content is indistinguishable from the original, it is difficult to provide evidence that claims the copyright of the content, and copyright protection methods are being studied.

デジタルコンテンツの著作権保護の方法として、「電子透かし」が利用されている。電子透かしとは、音声や映像データの中に、視聴者に知覚困難にデータを埋め込み、また、この埋め込まれたデータから、埋め込まれたデータを取り出す技術である。著作権の保護を行うために、著作権者名や日付等の著作権情報が音声や映像データに電子透かしとして埋め込まれる。不正な複製されたコンテンツから埋め込まれた著作権情報が検出され、そのコンテンツの著作権者を明らかし、不正な複製が防止される。また、情報がコンテンツ全体に埋め込めまれていれば、改ざんの有無だけでなく、具体的な改ざんの個所を特定することも可能である。   “Digital watermark” is used as a method for protecting the copyright of digital contents. Digital watermarking is a technology that embeds data in audio or video data so that it is difficult for the viewer to perceive, and extracts the embedded data from the embedded data. In order to protect the copyright, copyright information such as a copyright holder name and date is embedded as a digital watermark in audio or video data. The copyright information embedded from the illegally copied content is detected, the copyright owner of the content is identified, and illegal copying is prevented. If information is embedded in the entire content, it is possible to specify not only the presence / absence of alteration but also the specific alteration location.

また、JPEG/MPEGなどの国際標準規格で画像圧縮された画像符号化データに付加情報を埋め込み、復号時に前記付加情報を取り出す手法が幾つか提案されている。   Several methods have been proposed in which additional information is embedded in encoded image data compressed in accordance with an international standard such as JPEG / MPEG and the additional information is extracted during decoding.

例えば、特許文献1(特開2002−330279号公報)は、画像へのデータ埋め込み方法及び当該データの抽出方法を開示する。   For example, Patent Document 1 (Japanese Patent Laid-Open No. 2002-330279) discloses a method for embedding data in an image and a method for extracting the data.

埋め込み時に、原画像が8×8画素のブロック単位に分割される。全画面を構成する全てのブロック単位がDCTされ、周波数画像データ(ここでは、DCT係数)が生成される。そして、各ブロックが量子化テーブルを用いて量子化され、量子化された周波数画像データのうち最高域に属する1つの係数が1ビットのデータに置き換えられる。この置き換えにより、埋め込むべきデータが量子化された周波数画像データに埋め込まれることになる。さらに、ランレングス符号化とハフマン符号化とが順に実施され、さらに、量子化テーブルの値のうち最高域に属する1つの係数に対応する値が、「1」に置き換えられる。   At the time of embedding, the original image is divided into 8 × 8 pixel block units. All block units constituting the entire screen are subjected to DCT, and frequency image data (here, DCT coefficients) is generated. Each block is quantized using a quantization table, and one coefficient belonging to the highest frequency in the quantized frequency image data is replaced with 1-bit data. By this replacement, the data to be embedded is embedded in the quantized frequency image data. Furthermore, run-length encoding and Huffman encoding are performed in sequence, and a value corresponding to one coefficient belonging to the highest range among the values in the quantization table is replaced with “1”.

JPEG符号化を用いるデジタルカメラやカラーファクシミリなどの装置は、ハードウェアにより入力画像を圧縮符号化するので、圧縮符号化の前に電子透かしを埋め込む処理を追加すると、多大なコスト増を招く。これを避けるには、符号化されたデータまたは量子化された周波数画像データを入力し、入力データの符号化に用いられたテーブルまたは量子化に用いられたテーブルに基づき電子透かし情報を入力データに埋め込めばよい。   A device such as a digital camera or a color facsimile using JPEG encoding compresses and encodes an input image by hardware. Therefore, adding a process of embedding a digital watermark before compression encoding increases the cost significantly. To avoid this, the encoded data or quantized frequency image data is input, and the digital watermark information is input to the input data based on the table used for encoding the input data or the table used for quantization. Just embed.

しかしながら、画像圧縮された画像符号化データに数百バイト以上の大量の付加情報を埋め込む場合、特許文献1によると、各ブロック単位の量子化された周波数画像データを、埋め込みたい所望の個数(一般に「1」ではない)だけ1ビットのデータに置き換える必要がある。   However, when embedding a large amount of additional information of several hundred bytes or more in image-compressed image-compressed data, according to Patent Document 1, a desired number of frequency image data to be embedded (generally, generally, It is necessary to replace the data with 1 bit only (not “1”).

ところで、高域成分のDCT係数は、量子化によって「0」になることが多く、しばしば高域成分の末尾に至る「0」の塊があらわれる。この性質を利用し、符号化/復号プロセスでは、直流成分から始まり高域成分の末尾までに至るジグザグスキャンのパス上において、高域成分の末尾に至る「0」の塊を、EOB(End of Block)という特有の符号に置き換えている。こうすれば、数個〜数十個の「0」の塊をたった1つの符号で置き換えることができるから、符号量を著しく削減できる。   By the way, the DCT coefficient of the high-frequency component often becomes “0” by quantization, and a “0” lump that often reaches the end of the high-frequency component appears. Using this property, in the encoding / decoding process, on the zigzag scan path starting from the direct current component to the end of the high frequency component, a block of “0” reaching the end of the high frequency component is converted to EOB (End of Block) is replaced with a unique code. By doing so, several to several tens of “0” chunks can be replaced with only one code, and the amount of codes can be significantly reduced.

ところが、従来の技術では、最高域に属する1つの係数が「1」に置き換えられると、高域成分の末尾が「1」になるから、高域成分の末尾に至る「0」の塊が存在しないことになる。したがって、EOBによる置き換えができなくなり、その結果、符号量が大幅に増加してしまう。   However, in the conventional technique, when one coefficient belonging to the highest range is replaced with “1”, the end of the high frequency component becomes “1”, and therefore there is a “0” block leading to the end of the high frequency component. Will not. Therefore, replacement by EOB cannot be performed, and as a result, the amount of codes is greatly increased.

また、中低域成分のDCT係数を置き換えることは不可能ではない。しかしながら、上述の技術において最高域に属する1つの係数を置き換えているのは、この係数を置き換えても画質劣化が少ないと考えられるからである。中低域成分のDCT係数を置き換えると、これらの係数は、画質に深く関与し比較的大きな値を持つため、画質劣化が避けられない。   In addition, it is not impossible to replace the DCT coefficients of the middle and low frequency components. However, the reason why one coefficient belonging to the highest range is replaced in the above-described technique is that image quality degradation is considered to be small even if this coefficient is replaced. If the DCT coefficients of the middle and low frequency components are replaced, these coefficients are deeply related to the image quality and have a relatively large value, so that the image quality deterioration cannot be avoided.

また、特許文献2(特開2000−151973号公報)は、大量の付加情報を画像データに埋め込める技術を開示する。さて、情報の埋め込み前と情報の埋め込み後の間において、周波数画像データの差分の絶対値の総和は、極力小さいことが望ましい。なぜなら、この総和が大きいと言うことは、画像が大きく変化したこと、言い換えれば、情報が埋め込まれた画像の画質が、埋め込み前の画像に比べて大幅に劣化したことを意味するからである。   Japanese Patent Laid-Open No. 2000-151973 discloses a technique for embedding a large amount of additional information in image data. Now, it is desirable that the sum of the absolute values of the differences between the frequency image data is as small as possible before and after the information is embedded. This is because the fact that the total sum is large means that the image has changed greatly, in other words, the image quality of the image in which the information is embedded is significantly deteriorated as compared with the image before embedding.

逆量子化処理は、基本的に、量子化テーブルの該当値と量子化された周波数画像データの該当値とを乗算する処理である。一般に、比較的圧縮率が高い場合、量子化テーブルの値は非常に大きい。したがって、特許文献2にしたがい、量子化された周波数画像データの値を、情報を埋め込むためにほんの僅か操作した(例えば「+1」等)としても、比較的圧縮率が高い場合、量子化テーブルの値が非常に大きい(例えば「100」)から、ほんの僅かの操作が何倍〜百倍以上にも増幅されてしまう(差分:+1*100=+100)結果となり、情報の埋め込みによって、復号画像の画質が著しく劣化するという問題点がある。
特開2002−330279号公報 特開2000−151973号公報
The inverse quantization process is basically a process of multiplying the corresponding value of the quantization table by the corresponding value of the quantized frequency image data. In general, when the compression rate is relatively high, the value of the quantization table is very large. Therefore, according to Patent Document 2, even if the value of the quantized frequency image data is slightly manipulated to embed information (for example, “+1”, etc.), if the compression ratio is relatively high, Since the value is very large (for example, “100”), only a few operations are amplified several times to hundred times or more (difference: + 1 * 100 = + 100), and the image quality of the decoded image is obtained by embedding information. There is a problem that the quality of the material deteriorates significantly.
JP 2002-330279 A JP 2000-151973 A

そこで本発明は、高い圧縮率で符号化される入力データについても、画質劣化を抑えつつ、大量の付加情報を埋め込める画像処理装置を提供することを目的とする。   Therefore, an object of the present invention is to provide an image processing apparatus that can embed a large amount of additional information while suppressing deterioration in image quality even for input data encoded at a high compression rate.

第1の発明に係る画像処理装置は、第1の量子化テーブルと、第1の量子化テーブルとは異なる第2の量子化テーブルと、第1の量子化テーブルを用いて第1の量子化されたデータを逆量子化し周波数画像データを生成する逆量子化部と、周波数画像データを、第2の量子化テーブルを用いて量子化し、第2の量子化データを生成する量子化部と、第2の量子化データに付加情報を埋め込む情報埋め込み部とを備える。   An image processing apparatus according to a first invention uses a first quantization table, a second quantization table different from the first quantization table, and a first quantization using the first quantization table. An inverse quantization unit that inversely quantizes the generated data to generate frequency image data, a quantization unit that quantizes the frequency image data using a second quantization table, and generates second quantized data; An information embedding unit that embeds additional information in the second quantized data.

第2の発明に係る画像処理装置は、第2の量子化テーブルの要素において、少なくとも付加情報が埋め込まれる部分に属する要素の値は、第1の量子化テーブルの要素において付加情報が埋め込まれる部分に属する要素の値よりも小さい。   In the image processing apparatus according to the second invention, in the second quantization table element, at least the value of the element belonging to the part where the additional information is embedded is the part where the additional information is embedded in the element of the first quantization table. Is smaller than the value of the element belonging to.

上記の構成により、付加情報の埋め込みのための操作が、量子化テーブルの大きな値で増幅されることを回避できる。したがって、多種多様な圧縮率で符号化された入力データに対して、画質劣化を抑えつつ、大量な付加情報を埋め込むことができる。   With the above configuration, the operation for embedding additional information can be prevented from being amplified by a large value in the quantization table. Therefore, a large amount of additional information can be embedded in input data encoded at various compression rates while suppressing deterioration in image quality.

本発明によれば、圧縮符号化された入力データの画質を維持しながら、大量な付加情報を埋め込むことができる。   According to the present invention, a large amount of additional information can be embedded while maintaining the image quality of compression-encoded input data.

以下、図面を参照しながら、本発明の実施の形態を説明する。   Hereinafter, embodiments of the present invention will be described with reference to the drawings.

(実施の形態1)
図1は、本発明の実施の形態における画像処理装置のブロック図である。図1に示すように、本形態の画像処理装置は、復号部101と逆量子化部102と量子化部103と情報埋め込み部104と符号化部105を備える。この画像処理装置は、さらに、第1の量子化テーブル106、第2の量子化テーブル107、テーブル制御部108、情報埋め込み部104に埋め込み情報を供給する埋め込み情報記憶部109を備える。
(Embodiment 1)
FIG. 1 is a block diagram of an image processing apparatus according to an embodiment of the present invention. As shown in FIG. 1, the image processing apparatus according to the present embodiment includes a decoding unit 101, an inverse quantization unit 102, a quantization unit 103, an information embedding unit 104, and an encoding unit 105. The image processing apparatus further includes a first quantization table 106, a second quantization table 107, a table control unit 108, and an embedded information storage unit 109 that supplies embedded information to the information embedding unit 104.

復号部101は、ビットストリームを入力しこれを復号し量子化された周波数画像データ(DCT係数)を生成する。逆量子化部102は、図3に例示されているような第1の量子化テーブル106を用いて量子化されたDCT係数を逆量子化しDCT係数を生成する。例えば、量子化されたDCT係数が図7(a)に示すものであり、第1の量子化テーブル106の内容が、図7(b)に示すものであるとき、図7(c)に示すようなDCT係数が出力されることになる。   The decoding unit 101 receives a bit stream, decodes the bit stream, and generates quantized frequency image data (DCT coefficients). The inverse quantization unit 102 inversely quantizes the DCT coefficient quantized using the first quantization table 106 illustrated in FIG. 3 to generate a DCT coefficient. For example, when the quantized DCT coefficients are as shown in FIG. 7A and the contents of the first quantization table 106 are as shown in FIG. Such a DCT coefficient is output.

量子化部103は、図4または図5に例示されているような第2の量子化テーブル107を用いてDCT係数を量子化し量子化されたDCT係数を生成する。例えば、DCT係数が図8(a)に示すものであり、第2の量子化テーブル107の内容が、図8(b)に示すものであるとき、図8(c)に示すような量子化されたDCT係数が出力されることになる。   The quantization unit 103 quantizes the DCT coefficient using the second quantization table 107 as illustrated in FIG. 4 or FIG. 5 to generate a quantized DCT coefficient. For example, when the DCT coefficient is as shown in FIG. 8A and the content of the second quantization table 107 is as shown in FIG. 8B, the quantization as shown in FIG. The obtained DCT coefficient is output.

後に詳述するように、本形態では、第1の量子化テーブル106と第2の量子化テーブル107との関係は、テーブル制御部108により制御される。但し、第1の量子化テーブル106と第2の量子化テーブル107の両方を予め固定的に決定できるときは、テーブル制御部108を省略しても良い。   As will be described in detail later, in this embodiment, the relationship between the first quantization table 106 and the second quantization table 107 is controlled by the table control unit 108. However, when both the first quantization table 106 and the second quantization table 107 can be fixedly determined in advance, the table control unit 108 may be omitted.

情報埋め込み部104は、埋め込み情報記憶部109から埋め込み情報を入力し、後述する規則に従い、量子化部103から出力される、量子化されたDCT係数に情報を埋め込む。   The information embedding unit 104 inputs the embedding information from the embedding information storage unit 109 and embeds the information in the quantized DCT coefficient output from the quantization unit 103 according to a rule described later.

符号化部105は、情報埋め込み部104により情報が埋め込まれた、量子化されたDCT係数を符号化し、ビットストリームを生成する。   The encoding unit 105 encodes the quantized DCT coefficient in which information is embedded by the information embedding unit 104, and generates a bit stream.

次に、図10(a)に示すように、埋め込み情報(13,46)を埋め込む場合を例にとって、さらに詳しく説明する。ここでは、第1の量子化テーブル106が図3に示す内容であるものとする。   Next, as shown in FIG. 10A, the case where the embedded information (13, 46) is embedded will be described in detail. Here, it is assumed that the first quantization table 106 has the contents shown in FIG.

図6に示すように、テーブル制御部108は、ステップ300にて、埋め込み情報記憶部109から埋め込み情報(13,46)を取得しこれを二値化する。その結果、(0,0,0,0,1,1,0,1,0,0,1,0,0,1,1,0)という16ビット長をもつビット列が得られる。ステップ301にて、テーブル制御部108は、この二値化により、情報埋め込みに関与する対象係数の位置を決定する。図10(a)の矢印Nで示すように、この例では、直流成分から始めジグザグスキャンのパスに沿って、16個の対象係数が定められるものとする。   As shown in FIG. 6, the table control unit 108 acquires the embedding information (13, 46) from the embedding information storage unit 109 in step 300 and binarizes it. As a result, a bit string having a 16-bit length of (0, 0, 0, 0, 1, 1, 0, 1, 0, 0, 1, 0, 0, 1, 1, 0) is obtained. In step 301, the table control unit 108 determines the position of the target coefficient involved in information embedding by this binarization. As indicated by an arrow N in FIG. 10A, in this example, 16 target coefficients are determined along the zigzag scan path starting from the DC component.

ステップ302にて、テーブル制御部108は、図3に示される第1の量子化テーブル106の対象係数(16,11,12,14,・・・,24,40)を得る。そして、これらの二乗和Sを求める。また、ステップ303にて、テーブル制御部108は、第1の量子化テーブル106の内容をそのまま第2の量子化テーブル107へ複写する。   In step 302, the table control unit 108 obtains the target coefficients (16, 11, 12, 14,..., 24, 40) of the first quantization table 106 shown in FIG. Then, the square sum S is obtained. In step 303, the table control unit 108 copies the contents of the first quantization table 106 as they are to the second quantization table 107.

ステップ304にて、テーブル制御部108は、二乗和Sと予め設定されている閾値THとを大小比較する。S>THならば、第2の量子化テーブル107の値が比較的大きく、圧縮率が高いということができる。このとき、ステップ305にて、テーブル制御部108は、乗算値K(0<K<1)を求める。乗算値Kは、予め定めた一定値(例えば、K=0.5等)でもよいし、二乗和Sに基づいて定めても良い。そして、ステップ306にて、テーブル制御部108は、乗算値Kを第2の量子化テーブル107の各値に乗算する。0<k<1であるから、当然乗算結果の絶対値は、乗算前のそれよりも小さくなる。   In step 304, the table control unit 108 compares the square sum S with a preset threshold value TH. If S> TH, it can be said that the value of the second quantization table 107 is relatively large and the compression rate is high. At this time, in step 305, the table control unit 108 obtains a multiplication value K (0 <K <1). The multiplication value K may be a predetermined constant value (for example, K = 0.5) or may be determined based on the square sum S. In step 306, the table control unit 108 multiplies each value in the second quantization table 107 by the multiplication value K. Since 0 <k <1, the absolute value of the multiplication result is naturally smaller than that before the multiplication.

図3に示す第1の量子化テーブル106の全ての値に、乗算値K=0.5が乗算されると、第2の量子化テーブル107は、図4に示すようになる。但し、情報の埋め込みに関与するのは、対象係数に対応する箇所だけであるから、図5に示すように、第1の量子化テーブル106の一部の値だけに乗算値Kを乗算しても良い。   When all the values in the first quantization table 106 shown in FIG. 3 are multiplied by the multiplication value K = 0.5, the second quantization table 107 becomes as shown in FIG. However, since only the portion corresponding to the target coefficient is involved in the information embedding, as shown in FIG. 5, only a part of the values in the first quantization table 106 is multiplied by the multiplication value K. Also good.

さて、ステップ304にて、二乗和Sが閾値TH以下であるときは、第2の量子化テーブル107の値が比較的小さく、圧縮率が低いと言うことができる。このとき、本形態では、テーブル制御部108は、第2の量子化テーブル107の値を変えずにそのまま使用する。その結果、第1の量子化テーブル106と同じ量子化テーブルが使用されることになる。しかしながら、このときも、大きめの乗算値K(例えばK=0.9等)を乗算するようにすることもできる。   In step 304, when the sum of squares S is less than or equal to the threshold value TH, it can be said that the value of the second quantization table 107 is relatively small and the compression rate is low. At this time, in this embodiment, the table control unit 108 uses the second quantization table 107 as it is without changing the value. As a result, the same quantization table as the first quantization table 106 is used. However, even at this time, a larger multiplication value K (for example, K = 0.9) can be multiplied.

次に、図9を参照しながら、情報埋め込み部104の処理を説明する。情報埋め込み部104は、量子化部103から量子化されたDCT係数を入力すると、ステップ400にて、埋め込み情報記憶部109から埋め込み情報を取得し、これを二値化する。そして、ステップ401にて、情報埋め込み部104は、二値化された埋め込み情報のビット長Lを求め、カウンタiを「1」に初期化し、情報埋め込み部104は、ステップ402以降においてビット長Lの全てのビットについて、次のようなビット操作を行い、その結果、埋め込み情報を量子化されたDCT係数に埋め込む。   Next, the processing of the information embedding unit 104 will be described with reference to FIG. When the information embedding unit 104 receives the quantized DCT coefficient from the quantizing unit 103, in step 400, the information embedding unit 104 acquires the embedding information from the embedding information storage unit 109 and binarizes it. In step 401, the information embedding unit 104 obtains the bit length L of the binarized embedded information, initializes the counter i to “1”, and the information embedding unit 104 performs the bit length L in step 402 and subsequent steps. As a result, the embedded information is embedded in the quantized DCT coefficient.

即ち、ステップ403にて、情報埋め込み部104は、埋め込み情報のi番目のビット値を変数Valにセットし、量子化されたDCT係数におけるジグザグスキャン(先頭は直流成分;図10(a)矢印N参照)のi番目の係数を変数Cにセットする。   That is, in step 403, the information embedding unit 104 sets the i-th bit value of the embedded information to the variable Val, and performs a zigzag scan on the quantized DCT coefficient (the head is a DC component; FIG. 10A arrow N The i-th coefficient of (see) is set in the variable C.

ステップ404にて、変数Valにより処理が分岐する。変数Valが「0」のときはステップ405へ処理が移行し、変数Valが「1」のときはステップ409へ処理が移行する。   In step 404, the process branches depending on the variable Val. When the variable Val is “0”, the process proceeds to step 405, and when the variable Val is “1”, the process proceeds to step 409.

ステップ405では、情報埋め込み部104は、変数Cが奇数かどうかチェックし、偶数ならばステップ413へ処理を移行する。奇数ならば、ステップ406にて、変数Cが正かどうかチェックし、正ならばステップ408にて変数Cから「1」を引き、負ならばステップ407にて変数Cへ「1」を加える。これにより、変数Cは、「0」へ近づくことになる。   In step 405, the information embedding unit 104 checks whether the variable C is an odd number. If the variable C is an even number, the information embedding unit 104 shifts the processing to step 413. If it is an odd number, it is checked in step 406 whether the variable C is positive. If it is positive, “1” is subtracted from the variable C in step 408, and if negative, “1” is added to the variable C in step 407. As a result, the variable C approaches “0”.

ステップ409では、情報埋め込み部104は、変数Cが偶数かどうかチェックし、奇数ならばステップ413へ処理を移行する。偶数ならば、ステップ410にて、変数Cが正かどうかチェックし、正ならばステップ411にて変数Cから「1」を引き、負ならばステップ412にて変数Cへ「1」を加える。これにより、変数Cは、「0」へ近づくことになる。   In step 409, the information embedding unit 104 checks whether or not the variable C is an even number. If the variable C is an odd number, the process proceeds to step 413. If it is an even number, it is checked in step 410 whether the variable C is positive. If it is positive, “1” is subtracted from the variable C in step 411, and if negative, “1” is added to the variable C in step 412. As a result, the variable C approaches “0”.

そして、ステップ413にて、情報埋め込み部104は、カウンタiに「1」を加えて、ステップ402以降の処理を繰り返す。   In step 413, the information embedding unit 104 adds “1” to the counter i, and repeats the processing from step 402.

上述したように、図10(a)に示すように、例えば、埋め込み情報が(13,46)であるとき、これを二値化した結果、(0,0,0,0,1,1,0,1,0,0,1,0,0,1,1,0)という16ビット長をもつビット列が得られる。この場合、ビット列の先頭3ビットは全て「0」であるから、これらのビットに対応するDCT係数(32,9,−14)において、DCT係数(32)は、偶数であり変更されない。次のDCT係数(9)は奇数であるから「0」に近い偶数「8」に変更される。さらに、次のDCT係数(−14)は偶数であるから変更されない。以下同様に、情報埋め込み部104による処理が行われ、その結果は、図10(b)に示すようになる。なお、図10(b)において斜線が付された矩形は、対象係数である。   As described above, as shown in FIG. 10A, for example, when the embedded information is (13, 46), as a result of binarization, (0, 0, 0, 0, 1, 1, A bit string having a 16-bit length of 0, 1, 0, 0, 1, 0, 0, 1, 1, 0) is obtained. In this case, since the first 3 bits of the bit string are all “0”, in the DCT coefficients (32, 9, -14) corresponding to these bits, the DCT coefficient (32) is an even number and is not changed. Since the next DCT coefficient (9) is an odd number, it is changed to an even number “8” close to “0”. Further, since the next DCT coefficient (−14) is an even number, it is not changed. Similarly, processing by the information embedding unit 104 is performed, and the result is as shown in FIG. Note that the hatched rectangle in FIG. 10B is a target coefficient.

次に、図2を参照しながら、本形態の画像処理装置による全体的な処理を説明する。図2は、図1の画像処理装置で行う処理を示すフローチャートである。   Next, the overall processing by the image processing apparatus of this embodiment will be described with reference to FIG. FIG. 2 is a flowchart showing processing performed by the image processing apparatus of FIG.

まず、復号部101は、入力される圧縮符号化データをハフマン復号などのエントロピー復号を行い、第1の量子化データを生成する(ステップS201)。一般に、静止画の場合、入力される圧縮符号化データはJPEGデータである。   First, the decoding unit 101 performs entropy decoding such as Huffman decoding on the input compressed encoded data to generate first quantized data (step S201). In general, in the case of a still image, the input compressed encoded data is JPEG data.

次に、逆量子化部102は、復号部101で出力された第1の量子化データを、量子化時に用いた第1の量子化テーブル106に基づき逆量子化して周波数画像データを生成する(ステップS202)。ここでは、周波数画像データは、JPEGデータから生成されたものであるから、DCT係数である。   Next, the inverse quantization unit 102 inversely quantizes the first quantized data output from the decoding unit 101 based on the first quantization table 106 used at the time of quantization to generate frequency image data ( Step S202). Here, since the frequency image data is generated from JPEG data, it is a DCT coefficient.

次に、量子化部103は、逆量子化部102で用いた第1の量子化テーブルと異なる、図4の第2の量子化テーブル(第1の量子化テーブル106とは異なる)を用いて、周波数画像データ(DCT係数)を量子化して、第2の量子化データを生成する(ステップS203)。なお、第2の量子化テーブル107の各要素は、第1の量子化テーブル106の各要素より、小さい値である。   Next, the quantization unit 103 uses the second quantization table in FIG. 4 (different from the first quantization table 106), which is different from the first quantization table used in the inverse quantization unit 102. The frequency image data (DCT coefficient) is quantized to generate second quantized data (step S203). Note that each element of the second quantization table 107 has a smaller value than each element of the first quantization table 106.

次に、情報埋め込み部104は、量子化部103で出力された第2の量子化データに所定の規則で操作することにより、所定の付加情報を埋め込む(ステップS204)。なお、所定の規則で操作する埋め込み法は、上述のように、付加情報のビット値に応じて量子化データの値を偶数か奇数に変更するものでよい。   Next, the information embedding unit 104 embeds predetermined additional information by operating the second quantized data output from the quantizing unit 103 according to a predetermined rule (step S204). Note that the embedding method operated according to a predetermined rule may change the value of the quantized data to an even number or an odd number according to the bit value of the additional information as described above.

埋め込みデータ量に関し、例えば、入力画像サイズが320×240画素であり、8×8画素のDCTブロック単位に16ビット(2バイト)の付加情報を埋め込む場合、320×240画素からなる入力画像について、1200個のDCTブロックを利用でき、合計2400バイトの情報を埋め込むことができる。   Regarding the amount of embedded data, for example, when the input image size is 320 × 240 pixels and additional information of 16 bits (2 bytes) is embedded in a DCT block unit of 8 × 8 pixels, the input image composed of 320 × 240 pixels is 1200 DCT blocks can be used, and a total of 2400 bytes of information can be embedded.

次に、符号化部105は、付加情報が埋め込まれた量子化データをハフマン符号などのエントロピー符号化して付加情報が埋め込まれたJPEG圧縮データを生成する(ステップS205)。   Next, the encoding unit 105 generates JPEG compressed data in which the additional information is embedded by entropy encoding the quantized data in which the additional information is embedded, such as a Huffman code (step S205).

次に、図11を参照しながら、本形態の画像処理装置による、情報が埋め込まれた、量子化されたDCT係数と、値が比較的大きく圧縮率が高い第1の量子化テーブル106を第2の量子化テーブル107としてそのまま用いた場合を、具体的に比較する。まず、情報を埋め込む前の量子化されたDCT係数が図11(a)に示すような内容であるものとする。   Next, referring to FIG. 11, the quantized DCT coefficient in which information is embedded and the first quantization table 106 having a relatively large value and a high compression rate by the image processing apparatus according to the present embodiment are stored. The case where the second quantization table 107 is used as it is will be specifically compared. First, it is assumed that the quantized DCT coefficient before embedding information has contents as shown in FIG.

このとき、本形態によれば、図11(b)のような結果が得られる。このとき、埋め込み前後においてDCT係数の差分の絶対値の総和を求めると、「54」である。   At this time, according to this embodiment, a result as shown in FIG. 11B is obtained. At this time, the sum of the absolute values of the DCT coefficient differences before and after embedding is “54”.

一方、同じ場合、第1の量子化テーブル106をそのまま第2の量子化テーブル107として処理すると、図11(c)のような結果が得られる。このとき、上記総和は、「124」である。   On the other hand, in the same case, if the first quantization table 106 is directly processed as the second quantization table 107, a result as shown in FIG. 11C is obtained. At this time, the sum is “124”.

即ち、本形態によると、上記総和が1/2以下に縮小されている。言い換えると、同じ情報を埋め込んでいるにもかかわらず、本形態によれば、画質の劣化が大幅に抑制できることが理解されよう。   That is, according to the present embodiment, the sum is reduced to 1/2 or less. In other words, it will be understood that, although the same information is embedded, according to the present embodiment, image quality deterioration can be significantly suppressed.

以上のように、本形態の画像処理装置によれば、既に大きな値の量子化テーブルで画像圧縮して符号化されたデータに対して、量子化テーブルの各要素を小さい値に変換して、量子化しているため、量子化データの値を微小に変更して付加情報を埋め込んだとしても、逆量子化により変換された値は、埋め込む前の値と大きな差とならない。この結果、圧縮符号化された入力データの画質を維持しながら、大量な付加情報を埋め込むことができる。   As described above, according to the image processing apparatus of this embodiment, each element of the quantization table is converted into a small value for the data that has already been compressed and encoded with the quantization table having a large value. Since quantization is performed, even if the value of the quantized data is slightly changed to embed additional information, the value converted by inverse quantization does not greatly differ from the value before embedding. As a result, a large amount of additional information can be embedded while maintaining the image quality of the compression-encoded input data.

また、既に第1の量子化テーブルである大きな値の量子化テーブルで画像圧縮して符号化されたデータは、高域成分のDCT係数はほとんど零となっているため、再度、第2の量子化デーブルで量子化したとしてもそのまま零となり、中低域成分に対応する量子化データのみに付加情報を埋め込むことで符号化データの符号量増加を削減できる。   In addition, since the high frequency component DCT coefficient of the data that has already been compressed with the large quantization table, which is the first quantization table, is almost zero, the second quantum table again. Even if it is quantized with the quantization table, it becomes zero as it is, and by embedding the additional information only in the quantized data corresponding to the middle and low frequency components, it is possible to reduce the increase in the code amount of the encoded data.

なお、入力される圧縮符号化データは、JPEGデータ以外にも動画像符号化MPEGデータやJPEG2000などの圧縮符号化データでもよい。つまり、量子化を伴う符号化データであればこれに限定されない。   Note that the input compressed encoded data may be compressed encoded data such as moving image encoded MPEG data or JPEG 2000 in addition to JPEG data. That is, the present invention is not limited to this as long as it is encoded data with quantization.

さらに、図5に示すように、第2の量子化テーブル107は、全ての要素が第1の量子化テーブル106より小さい値である必要はなく、付加情報を埋め込む量子化データに対応する左上の位置の値のみが第1の量子化テーブル106より小さくなっていれば十分である。   Furthermore, as shown in FIG. 5, the second quantization table 107 does not have to be all elements smaller than the first quantization table 106, and the upper left corresponding to the quantized data in which the additional information is embedded It is sufficient that only the position value is smaller than the first quantization table 106.

また、第1の量子化テーブル106がはじめから小さい値である場合は、第2の量子化テーブル107に置き換える必要はなく、そのまま第1の量子化テーブル106を用いても同様な効果がある。   If the first quantization table 106 has a small value from the beginning, it is not necessary to replace the second quantization table 107, and the same effect can be obtained by using the first quantization table 106 as it is.

なお、典型的には、本形態の画像処理装置を構成する各機能は、所定のプログラムデータが格納されたROM、RAM、ハードディスク等の記憶装置と、当該プログラムデータを実行するCPU(セントラル・プロセッシング・ユニット)とによって実現される。この場合、各プログラムデータは、CD−ROMやフレキシブルディスク等の記憶媒体を介して導入されてもよい。   Typically, each function constituting the image processing apparatus according to the present embodiment includes a storage device such as a ROM, a RAM, and a hard disk in which predetermined program data is stored, and a CPU (central processing) that executes the program data.・ Unit). In this case, each program data may be introduced via a storage medium such as a CD-ROM or a flexible disk.

本発明に係る画像処理装置は、例えば、JPEG/MPEG等の規格に準拠したデータに情報を埋め込む分野等において好適に利用できる。   The image processing apparatus according to the present invention can be suitably used, for example, in the field of embedding information in data compliant with standards such as JPEG / MPEG.

本発明の実施の形態1における画像処理装置のブロック図1 is a block diagram of an image processing apparatus according to Embodiment 1 of the present invention. 本発明の実施の形態1における画像処理装置のフローチャートFlowchart of the image processing apparatus in Embodiment 1 of the present invention 本発明の実施の形態1における第1の量子化テーブルの例示図FIG. 3 is an exemplary diagram of a first quantization table in Embodiment 1 of the present invention. 本発明の実施の形態1における第2の量子化テーブルの例示図Exemplary diagram of second quantization table in Embodiment 1 of the present invention 本発明の実施の形態1における第2の量子化テーブルの例示図Exemplary diagram of second quantization table in Embodiment 1 of the present invention 本発明の実施の形態1におけるテーブル制御部のフローチャートFlowchart of the table control unit in Embodiment 1 of the present invention (a)本発明の実施の形態1における量子化されたDCT係数の例示図 (b)本発明の実施の形態1における第1の量子化テーブルの例示図 (c)本発明の実施の形態1におけるDCT係数の例示図(A) Exemplary diagram of quantized DCT coefficients in Embodiment 1 of the present invention (b) Exemplary diagram of first quantization table in Embodiment 1 of the present invention (c) Embodiment 1 of the present invention Of DCT coefficient (a)本発明の実施の形態1におけるDCT係数の例示図 (b)本発明の実施の形態1における第2の量子化テーブルの例示図 (c)本発明の実施の形態1における量子化されたDCT係数の例示図(A) Illustration of DCT coefficient in Embodiment 1 of the present invention (b) Illustration of second quantization table in Embodiment 1 of the present invention (c) Quantization in Embodiment 1 of the present invention Of DCT coefficient 本発明の実施の形態1における情報埋め込み部のフローチャートFlowchart of information embedding unit in Embodiment 1 of the present invention (a)本発明の実施の形態1における情報埋め込み処理の説明図 (b)本発明の実施の形態1における情報埋め込み結果の例示図(A) Explanatory drawing of the information embedding process in Embodiment 1 of this invention (b) The example figure of the information embedding result in Embodiment 1 of this invention (a)本発明の実施の形態1におけるDCT係数(埋め込み前)の例示図 (b)本発明の実施の形態1におけるDCT係数(埋め込み後)の例示図 (c)比較例におけるDCT係数(埋め込み後)の例示図(A) Exemplary diagram of DCT coefficient (before embedding) in the first embodiment of the present invention (b) Exemplary diagram of DCT coefficient (after embedding) in the first embodiment of the present invention (c) DCT coefficient (embedding) in the comparative example Illustration after)

符号の説明Explanation of symbols

101 復号部
102 逆量子化部
103 量子化部
104 情報埋め込み部
105 符号化部
101 Decoding unit 102 Inverse quantization unit 103 Quantization unit 104 Information embedding unit 105 Encoding unit

Claims (7)

第1の量子化テーブルと、
前記第1の量子化テーブルとは異なり、かつ少なくとも付加情報が埋め込まれる部分に属する要素の値が、前記第1の量子化テーブルの要素において前記前記付加情報が埋め込まれる部分に属する要素の値よりも小さい第2の量子化テーブルと、
前記第1の量子化テーブルを用いて量子化された第1の量子化データを逆量子化し周波数画像データを生成する逆量子化部と、
前記周波数画像データを、前記第2の量子化テーブルを用いて量子化し、第2の量子化データを生成する量子化部と、
前記第2の量子化データに前記付加情報を埋め込む情報埋め込み部とを備える画像処理装置。
A first quantization table;
The first Unlike quantization table, and the value of elements belonging to at least portions of the additional information is embedded, the first value of belonging to subelements said additional information is embedded in the elements of the quantization table A second quantization table smaller than ,
And inverse quantization unit for generating frequency image data and first inverse quantization quantum cade over data that has been quantized using said first quantization table,
A quantization unit that quantizes the frequency image data using the second quantization table and generates second quantized data;
An image processing apparatus comprising : an information embedding unit that embeds the additional information in the second quantized data.
圧縮データを復号して前記第1の量子化データを生成する復号部と、
前記情報埋め込み部により付加情報が埋め込まれた前記第2の量子化データを符号化して圧縮データを生成する符号化部とをさらに備える請求項1記載の画像処理装置。
A decoding unit which generates the first quantum Cadet over data by decoding the compressed data,
The image processing apparatus according to claim 1, further comprising: an encoding unit that encodes the second quantized data in which additional information is embedded by the information embedding unit to generate compressed data.
前記情報埋め込み部は、埋め込み後の値が埋め込み前の値よりも「0」に近づくように前記付加情報を埋め込む請求項1または2記載の画像処理装置。 The information embedding unit embeds the value after the embedding image processing device of the preceding than the value embedding the additional information to be closer to "0" according to claim 1 or 2 wherein. 前記第1の量子化テーブルの値に基づいて、前記第2の量子化テーブルの値を制御するテーブル制御部をさらに備える請求項1から3のいずれかに記載の画像処理装置。 The image processing apparatus according to claim 1, further comprising: a table control unit that controls a value of the second quantization table based on a value of the first quantization table. 前記付加情報が埋め込まれる部分に属する要素は、直流成分を基点としてジグザグスキャンの経路に沿って定められる請求項1から4のいずれかに記載の画像処理装置。 The additional information belonging to a part is embedded element, the image processing apparatus according to claim 1 which is defined along the path of the zigzag scanning as a base point a DC component 4. 第1の量子化テーブルを用いて量子化された第1の量子化データを逆量子化し周波数画像データを生成する逆量子化ステップと、
前記周波数画像データを、前記第1の量子化テーブルとは異なる第2の量子化テーブルを用いて量子化し、第2の量子化データを生成する量子化ステップと、
前記第2の量子化データに付加情報を埋め込む情報埋込ステップとを備え、
前記第2の量子化テーブルの要素において、少なくとも前記付加情報が埋め込まれる部分に属する要素の値は、前記第1の量子化テーブルの要素において前記前記付加情報が埋め込まれる部分に属する要素の値よりも小さい画像処理方法。
And inverse quantization step of generating a first inverse quantizing the quantization cade over data frequency image data quantized using a first quantization table,
The frequency image data, the quantization step said quantized using different second quantization table and the first quantization table, thereby generating a second quantization data,
An information embedding step of embedding additional information in the second quantized data,
In the second quantization table element, at least the value of the element belonging to the portion in which the additional information is embedded is greater than the value of the element belonging to the portion in which the additional information is embedded in the first quantization table element. Even a small image processing method.
第1の量子化テーブルを用いて量子化された第1の量子化データを前記第1の量子化テーブルを用いて逆量子化し周波数画像データを生成する逆量子化ステップと、
前記周波数画像データを、前記第1の量子化テーブルとは異なる第2の量子化テーブルを用いて量子化し、第2の量子化データを生成する量子化ステップと、
前記第2の量子化データに付加情報を埋め込む情報埋込ステップとを備える画像処理プログラムであって、
前記第2の量子化テーブルの要素において、少なくとも前記付加情報が埋め込まれる部分に属する要素の値は、前記第1の量子化テーブルの要素において前記前記付加情報が埋め込まれる部分に属する要素の値よりも小さい画像処理プログラムをコンピュータ読み取り可能に記録した記録媒体。
And inverse quantization step of generating an inverse-quantized frequency image data using the first said quantum Cadet chromatography data of the first quantization table quantized using a first quantization table,
The frequency image data, the quantization step said quantized using different second quantization table and the first quantization table, thereby generating a second quantization data,
An information processing program comprising an information embedding step of embedding additional information in the second quantized data,
In the second quantization table element, at least the value of the element belonging to the portion in which the additional information is embedded is greater than the value of the element belonging to the portion in which the additional information is embedded in the first quantization table element. A recording medium on which a small image processing program is recorded so as to be readable by a computer.
JP2004375002A 2003-12-26 2004-12-24 Image processing apparatus and image processing apparatus Expired - Fee Related JP4414328B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004375002A JP4414328B2 (en) 2003-12-26 2004-12-24 Image processing apparatus and image processing apparatus

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2003433157 2003-12-26
JP2004375002A JP4414328B2 (en) 2003-12-26 2004-12-24 Image processing apparatus and image processing apparatus

Publications (2)

Publication Number Publication Date
JP2005210704A JP2005210704A (en) 2005-08-04
JP4414328B2 true JP4414328B2 (en) 2010-02-10

Family

ID=34914264

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004375002A Expired - Fee Related JP4414328B2 (en) 2003-12-26 2004-12-24 Image processing apparatus and image processing apparatus

Country Status (1)

Country Link
JP (1) JP4414328B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9967564B2 (en) 2011-02-10 2018-05-08 Velos Media, Llc Image processing device and image processing method

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7970165B2 (en) 2007-03-13 2011-06-28 Taiwan Semiconductor Manufacturing Company, Ltd. System and method for watermarking data
KR101158401B1 (en) * 2011-04-19 2012-06-25 서광기연 주식회사 Hydraulic pressure test machine for pipes

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9967564B2 (en) 2011-02-10 2018-05-08 Velos Media, Llc Image processing device and image processing method
US9986241B2 (en) 2011-02-10 2018-05-29 Velos Media, Llc Image processing device and image processing method
KR101874143B1 (en) * 2011-02-10 2018-07-03 벨로스 미디어 인터내셔널 리미티드 Image processing device and image processing method
KR20180080334A (en) * 2011-02-10 2018-07-11 벨로스 미디어 인터내셔널 리미티드 Image processing device and image processing method
US10225554B2 (en) 2011-02-10 2019-03-05 Velos Media, Llc Image processing device and image processing method
US10257515B2 (en) 2011-02-10 2019-04-09 Velos Media, Llc Image processing device and image processing method
KR101989613B1 (en) * 2011-02-10 2019-06-14 벨로스 미디어 인터내셔널 리미티드 Image processing device and image processing method
US10531089B2 (en) 2011-02-10 2020-01-07 Velos Media, Llc Image processing device and image processing method
US10674153B2 (en) 2011-02-10 2020-06-02 Velos Media, Llc Image processing device and image processing method
KR20200105544A (en) * 2011-02-10 2020-09-07 벨로스 미디어 인터내셔널 리미티드 Image processing device and image processing method
KR102205752B1 (en) 2011-02-10 2021-01-22 벨로스 미디어 인터내셔널 리미티드 Image processing device and image processing method
US11166024B2 (en) 2011-02-10 2021-11-02 Velos Media, Llc Image processing device and image processing method
US11196996B2 (en) 2011-02-10 2021-12-07 Velos Media, Llc Image processing device and image processing method
US11825089B2 (en) 2011-02-10 2023-11-21 Sony Group Corporation Image processing device and image processing method
US11831873B2 (en) 2011-02-10 2023-11-28 Sony Group Corporation Image processing device and image processing method

Also Published As

Publication number Publication date
JP2005210704A (en) 2005-08-04

Similar Documents

Publication Publication Date Title
US6725372B1 (en) Digital watermarking
Tew et al. An overview of information hiding in H. 264/AVC compressed video
US8144923B2 (en) Watermarking encoded content
Noorkami et al. Compressed-domain video watermarking for H. 264
US8588459B2 (en) Modifying a coded bitstream
EP2130173B1 (en) Modifying a coded bitstream
US6606393B1 (en) Message authentication code using image histograms
JPH11284843A (en) Method and device for incorporating watermark in bit stream representation of digital image sequence
Fridrich et al. Lossless data embedding with file size preservation
KR20050038020A (en) Combined video decoder and watermark creator
JP2004536531A (en) Processing compressed media signals
US7418110B2 (en) Method and apparatus for compressed-domain watermarking
JP4997243B2 (en) Image coding apparatus, method thereof and integrated circuit thereof
JP4414328B2 (en) Image processing apparatus and image processing apparatus
US6687824B1 (en) Digital image coding/decoding apparatus and method for recording and restoring a signature image using watermarking
JP4642509B2 (en) Apparatus for embedding confidential information in compressed image data and apparatus for encoding confidential data
Li et al. A reversible data hiding scheme for JPEG images
EP1555630B1 (en) Watermarking of images
JP5235850B2 (en) Image encoding apparatus, image decoding apparatus, image encoding / decoding system and method thereof
JP2007535262A (en) How to watermark a compressed information signal
US20080215605A1 (en) Method for Embedding Data
KR20030033994A (en) Method of copying compressed digital data
JP5174878B2 (en) Secret information extraction device and rewrite device
Kong et al. Adaptive video watermarking scheme
Sajiyya et al. Information Hiding in H. 264 Compressed Video

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20071120

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090703

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090729

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090918

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20091028

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091119

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121127

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4414328

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121127

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131127

Year of fee payment: 4

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees