JP4182603B2 - 符号化装置および符号化方法、復号装置および復号方法、記録媒体、並びにデータ処理装置 - Google Patents

符号化装置および符号化方法、復号装置および復号方法、記録媒体、並びにデータ処理装置 Download PDF

Info

Publication number
JP4182603B2
JP4182603B2 JP28420099A JP28420099A JP4182603B2 JP 4182603 B2 JP4182603 B2 JP 4182603B2 JP 28420099 A JP28420099 A JP 28420099A JP 28420099 A JP28420099 A JP 28420099A JP 4182603 B2 JP4182603 B2 JP 4182603B2
Authority
JP
Japan
Prior art keywords
data
decoding
image
encoding
embedded
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP28420099A
Other languages
English (en)
Other versions
JP2000232365A (ja
Inventor
哲二郎 近藤
義教 渡邊
健司 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP28420099A priority Critical patent/JP4182603B2/ja
Priority to US09/413,134 priority patent/US6804372B1/en
Priority to US09/636,138 priority patent/US6965697B1/en
Publication of JP2000232365A publication Critical patent/JP2000232365A/ja
Priority to US10/935,792 priority patent/US7424130B2/en
Priority to US11/134,737 priority patent/US7738711B2/en
Application granted granted Critical
Publication of JP4182603B2 publication Critical patent/JP4182603B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0021Image watermarking
    • G06T1/0028Adaptive watermarking, e.g. Human Visual System [HVS]-based watermarking
    • G06T1/0035Output size adaptive watermarking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0021Image watermarking
    • G06T1/0028Adaptive watermarking, e.g. Human Visual System [HVS]-based watermarking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N1/32101Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N1/32144Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title embedded in the image data, i.e. enclosed or integrated in the image, e.g. watermark, super-imposed logo or stamp
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N1/32101Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N1/32144Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title embedded in the image data, i.e. enclosed or integrated in the image, e.g. watermark, super-imposed logo or stamp
    • H04N1/32149Methods relating to embedding, encoding, decoding, detection or retrieval operations
    • H04N1/32203Spatial or amplitude domain methods
    • H04N1/32224Replacing pixels of an image with other pixels from the same image, e.g. texture block coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2201/00General purpose image data processing
    • G06T2201/005Image watermarking
    • G06T2201/0051Embedding of the watermark in the spatial domain
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2201/00General purpose image data processing
    • G06T2201/005Image watermarking
    • G06T2201/0083Image watermarking whereby only watermarked image required at decoder, e.g. source-based, blind, oblivious
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2201/00General purpose image data processing
    • G06T2201/005Image watermarking
    • G06T2201/0203Image watermarking whereby the image with embedded watermark is reverted to the original condition before embedding, e.g. lossless, distortion-free or invertible watermarking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/91Television signal processing therefor
    • H04N5/913Television signal processing therefor for scrambling ; for copy protection
    • H04N2005/91307Television signal processing therefor for scrambling ; for copy protection by adding a copy protection signal to the video signal
    • H04N2005/91335Television signal processing therefor for scrambling ; for copy protection by adding a copy protection signal to the video signal the copy protection signal being a watermark
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/78Television signal recording using magnetic recording
    • H04N5/781Television signal recording using magnetic recording on disks or drums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/84Television signal recording using optical recording
    • H04N5/85Television signal recording using optical recording on discs or drums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/907Television signal recording using static stores, e.g. storage tubes or semiconductor memories

Description

【0001】
【発明の属する技術分野】
本発明は、符号化装置および符号化方法、復号装置および復号方法、記録媒体、並びにデータ処理装置に関し、特に、例えば、復号画像の画質の劣化を極力なくし、かつデータ量を増加せずに、画像に情報を埋め込むことができるようにする符号化装置および符号化方法、復号装置および復号方法、記録媒体、並びにデータ処理装置に関する。
【0002】
【従来の技術】
信号に対して、そのデータ量を増加させることなく、情報を埋め込む手法としては、例えば、ディジタルオーディオデータの最下位ビットや、下位2ビットなどを、埋め込む情報に変換するものなどがある。この手法は、ディジタルオーディオデータの下位ビットが、その音質にあまり影響を与えないことを利用し、その下位ビットを、単に、埋め込む情報に置き換えるものであり、従って、再生時には、情報が埋め込まれたディジタルオーディオデータは、その下位ビットを元に戻さずに、そのまま出力される。即ち、情報が埋め込まれた下位ビットを、元に戻すのは困難であり、また、下位ビットは、音質に、あまり影響を与えないことから、ディジタルオーディオデータは、情報が埋め込まれた状態で出力される。
【0003】
【発明が解決しようとする課題】
しかしながら、以上のような手法では、本来の信号と異なる信号が出力される。従って、信号がオーディオデータである場合には、その音質に、また、信号がビデオデータである場合には、その画質に、少なからず影響がある。
【0004】
本発明は、このような状況に鑑みてなされたものであり、画像の画質の劣化を極力なくし、かつデータ量を増加せずに、画像に情報を埋め込むことができるようにするものである。
【0005】
【課題を解決するための手段】
本発明の第1の側面の符号化装置は、第1のデータの少なくとも一部のデータを記憶する記憶手段と、第2のデータにしたがって、記憶手段に記憶された一部のデータを入れ替えることにより、第1のデータに、第2のデータに関連するデータを埋め込む符号化手段とを備え、第1のデータの一部は、符号化手段による入れ替えが禁止されている符号化装置である。
【0012】
本発明の第1の側面の符号化方法は、第1のデータの少なくとも一部のデータを記憶する記憶ステップと、第2のデータにしたがって、記憶ステップで記憶された一部のデータを入れ替えることにより、第1のデータに、第2のデータに関連するデータを埋め込む符号化ステップとを備え、第1のデータの一部は、符号化ステップによる入れ替えが禁止されている符号化方法である。
【0013】
本発明の第1の側面の記録媒体は、第1のデータの少なくとも一部のデータを記憶する記憶ステップと、第2のデータにしたがって、記憶ステップで記憶された一部のデータを入れ替えることにより、第1のデータに、第2のデータに関連するデータを埋め込む符号化ステップとを備え、第1のデータの一部は、符号化ステップによる入れ替えが禁止されているプログラムが記録されている記録媒体である。
【0014】
本発明の第2の側面の復号装置は、符号化データの一部のデータと、他の一部のデータとの関係を表す関係値を計算する関係値計算手段と、関係値計算手段によって求められた関係値に基づいて、一部のデータと他の一部のデータとの位置を入れ替えることにより、符号化データを、第1のデータに復号するとともに、その位置の入れ替えに応じて、符号化データに埋め込まれていた第2のデータを復号する復号手段とを備え、関係値計算手段は、一部のデータと他の一部のデータとの連続性を表す関係値を計算する復号装置である。
【0020】
本発明の第2の側面の復号方法は、符号化データの一部のデータと、他の一部のデータとの関係を表す関係値を計算する関係値計算ステップと、関係値計算ステップにおいて求められた関係値に基づいて、一部のデータと他の一部のデータとの位置を入れ替えることにより、符号化データを、第1のデータに復号するとともに、その位置の入れ替えに応じて、符号化データに埋め込まれていた第2のデータを復号する復号ステップとを備え、関係値計算ステップでは、一部のデータと他の一部のデータとの連続性を表す関係値を計算する復号方法である。
【0021】
本発明の第2の側面の記録媒体は、符号化データの一部のデータと、他の一部のデータとの関係を表す関係値を計算する関係値計算ステップと、関係値計算ステップにおいて求められた関係値に基づいて、一部のデータと他の一部のデータとの位置を入れ替えることにより、符号化データを、第1のデータに復号するとともに、その位置の入れ替えに応じて、符号化データに埋め込まれていた第2のデータを復号する復号ステップとを備え、関係値計算ステップでは、一部のデータと他の一部のデータとの連続性を表す関係値を計算するプログラムが記録されている記録媒体である。
本発明の第3の側面の復号装置は、符号化データの一部のデータと、他の一部のデータとの関係を表す関係値を計算する関係値計算手段と、関係値計算手段によって求められた関係値に基づいて、一部のデータと他の一部のデータとの位置を入れ替えることにより、符号化データを、第1のデータに復号するとともに、その位置の入れ替えに応じて、符号化データに埋め込まれていた第2のデータを復号する復号手段とを備え、復号手段は、一部のデータとの関係値を最大にする他の一部のデータと、一部のデータとが隣接するように入れ替えを行う復号装置である。
本発明の第3の側面の復号方法は、符号化データの一部のデータと、他の一部のデータとの関係を表す関係値を計算する関係値計算ステップと、関係値計算ステップにおいて求められた関係値に基づいて、一部のデータと他の一部のデータとの位置を入れ替えることにより、符号化データを、第1のデータに復号するとともに、その位置の入れ替えに応じて、符号化データに埋め込まれていた第2のデータを復号する復号ステップとを備え、復号ステップでは、一部のデータとの関係値を最大にする他の一部のデータと、一部のデータとが隣接するように入れ替えを行う復号方法である。
本発明の第3の側面の記録媒体は、符号化データの一部のデータと、他の一部のデータとの関係を表す関係値を計算する関係値計算ステップと、関係値計算ステップにおいて求められた関係値に基づいて、一部のデータと他の一部のデータとの位置を入れ替えることにより、符号化データを、第1のデータに復号するとともに、その位置の入れ替えに応じて、符号化データに埋め込まれていた第2のデータを復号する復号ステップとを備え、復号ステップでは、一部のデータとの関係値を最大にする他の一部のデータと、一部のデータとが隣接するように入れ替えを行うプログラムが記録されている記録媒体である。
本発明の第4の側面の復号装置は、符号化データの一部のデータと、他の一部のデータとの関係を表す関係値を計算する関係値計算手段と、関係値計算手段によって求められた関係値に基づいて、一部のデータと他の一部のデータとの位置を入れ替えることにより、符号化データを、第1のデータに復号するとともに、その位置の入れ替えに応じて、符号化データに埋め込まれていた第2のデータを復号する復号手段とを備え、符号化データの一部は、復号手段による入れ替えが禁止されている復号装置である。
本発明の第4の側面の復号方法は、符号化データの一部のデータと、他の一部のデータとの関係を表す関係値を計算する関係値計算ステップと、関係値計算ステップにおいて求められた関係値に基づいて、一部のデータと他の一部のデータとの位置を入れ替えることにより、符号化データを、第1のデータに復号するとともに、その位置の入れ替えに応じて、符号化データに埋め込まれていた第2のデータを復号する復号ステップとを備え、符号化データの一部は、復号ステップによる入れ替えが禁止されている復号方法である。
本発明の第4の側面の記録媒体は、符号化データの一部のデータと、他の一部のデータとの関係を表す関係値を計算する関係値計算ステップと、関係値計算ステップにおいて求められた関係値に基づいて、一部のデータと他の一部のデータとの位置を入れ替えることにより、符号化データを、第1のデータに復号するとともに、その位置の入れ替えに応じて、符号化データに埋め込まれていた第2のデータを復号する復号ステップとを備え、符号化データの一部は、復号ステップによる入れ替えが禁止されているプログラムが記録されている記録媒体である。
【0022】
本発明の第5の側面のデータ処理装置は、第1のデータの少なくとも一部のデータを記憶する記憶手段と、第2のデータにしたがって、記憶手段に記憶された第1のデータの一部のデータを入れ替えることにより、第1のデータに、第2のデータに関連するデータを埋め込み、符号化データとする符号化手段と、符号化データの一部のデータと、他の一部のデータとの関係を表す関係値を計算する関係値計算手段と、関係値計算手段によって求められた関係値に基づいて、符号化データの一部のデータと他の一部のデータとの位置を入れ替えることにより、符号化データを、第1のデータに復号するとともに、その位置の入れ替えに応じて、符号化データに埋め込まれていた第2のデータを復号する復号手段とを備え、第1のデータの一部は、符号化手段による入れ替えが禁止され、その入れ替えが禁止されている第1のデータの一部に対応する、符号化データの一部は、復号手段による入れ替えが禁止されているデータ処理装置である。
【0023】
本発明の第1の側面においては、第1のデータの少なくとも一部のデータが記憶され、第2のデータにしたがって、記憶された一部のデータを入れ替えることにより、第1のデータに、第2のデータに関連するデータが埋め込まれる。但し、第1のデータの一部は、入れ替えが禁止されている。
【0024】
本発明の第2ないし第4の側面においては、符号化データの一部のデータと、他の一部のデータとの関係を表す関係値が計算され、その関係値に基づいて、一部のデータと他の一部のデータとの位置を入れ替えることにより、符号化データが、第1のデータに復号されるとともに、その位置の入れ替えに応じて、符号化データに埋め込まれていた第2のデータが復号される。
そして、第2の側面では、関係値として、一部のデータと他の一部のデータとの連続性を表す値が計算される。
第3の側面では、一部のデータとの関係値を最大にする他の一部のデータと、一部のデータとが隣接するように入れ替えが行われる。
第4の側面では、符号化データの一部は、入れ替えが禁止されている。
【0025】
本発明の第5の側面においては、第1のデータの少なくとも一部のデータが記憶され、第2のデータにしたがって、記憶された第1のデータの一部のデータを入れ替えることにより、第1のデータに、第2のデータに関連するデータが埋め込まれ、符号化データとされる。一方、符号化データの一部のデータと、他の一部のデータとの関係を表す関係値が計算され、その関係値に基づいて、符号化データの一部のデータと他の一部のデータとの位置を入れ替えることにより、符号化データが、第1のデータに復号されるとともに、その位置の入れ替えに応じて、符号化データに埋め込まれていた第2のデータが復号される。但し、第1のデータの一部は、入れ替えが禁止され、その入れ替えが禁止されている第1のデータの一部に対応する、符号化データの一部も、入れ替えが禁止されている。
【0026】
【発明の実施の形態】
図1は、本発明を適用した画像伝送システム(システムとは、複数の装置が論理的に集合した物をいい、各構成の装置が同一筐体中にあるか否かは問わない)の一実施の形態の構成例を示している。
【0027】
この画像伝送システムは、符号化装置10および復号装置20で構成されており、符号化装置10は、符号化対象としての、例えば、画像を符号化して符号化データを出力し、復号装置20は、その符号化データを、元の画像に復号するようになされている。
【0028】
即ち、画像データベース1は、符号化すべき画像(例えば、ディジタル画像)を記憶している。そして、画像データベース1からは、そこに記憶されている画像が読み出され、埋め込み符号化器3に供給される。
【0029】
また、付加情報データベース2は、符号化対象の画像に埋め込むべき情報としての付加情報(ディジタルデータ)を記憶している。そして、付加情報データベース2からも、そこに記憶されている付加情報が読み出され、埋め込み符号化器3に供給される。
【0030】
埋め込み符号化器3では、画像データベース1からの画像、および付加情報データベース2からの付加情報が受信される。さらに、埋め込み符号化器3は、画像データベース1からの画像が有するエネルギの偏りを利用して復号を行うことができるように、その画像を、付加情報データベース2からの付加情報にしたがって符号化して出力する。即ち、埋め込み符号化器3は、画像が有するエネルギの偏りを利用して復号を行うことができるように、画像に付加情報を埋め込むことで、その画像を符号化し、符号化データを出力する。埋め込み符号化器3が出力する符号化データは、例えば、半導体メモリ、光磁気ディスク、磁気ディスク、光ディスク、磁気テープ、相変化ディスクなどでなる記録媒体4に記録され、あるいは、また、例えば、地上波、衛星回線、CATV(Cable Television)網、インターネット、公衆回線などでなる伝送媒体5を介して伝送され、復号装置20に提供される。
【0031】
復号装置20は、埋め込み復号器6で構成され、そこでは、記録媒体4または伝送媒体5を介して提供される符号化データが受信される。さらに、埋め込み復号器6は、その符号化データを、画像が有するエネルギの偏りを利用して、元の画像および付加情報に復号する。復号された画像は、例えば、図示せぬモニタに供給されて表示される。
【0032】
なお、付加情報としては、例えば、元の画像に関連するテキストデータや、音声データ、その画像を縮小した縮小画像等は勿論、元の画像に無関係なデータも用いることができる。
【0033】
次に、図1の埋め込み符号化器3における符号化(埋め込み符号化)、および埋め込み復号器6における復号(埋め込み復号)の原理について説明する。
【0034】
一般に、情報と呼ばれるものは、エネルギ(エントロピー)の偏り(普遍性)を有し、この偏りが、情報(価値ある情報)として認識される。即ち、例えば、ある風景を撮影して得られる画像が、そのような風景の画像であると人によって認識されるのは、画像(画像を構成する各画素の画素値など)が、その風景に対応したエネルギの偏りを有するからであり、エネルギの偏りがない画像は、雑音等にすぎず、情報としての利用価値はない。
【0035】
従って、価値ある情報に対して、何らかの操作を施し、その情報が有する本来のエネルギの偏りを、いわば破壊した場合でも、その破壊されたエネルギの偏りを元に戻すことで、何らかの操作が施された情報も、元の情報に戻すことができる。即ち、情報を符号化して得られる符号化データは、その情報が有する本来のエネルギの偏りを利用して、元の価値ある情報に復号することができる。
【0036】
ここで、情報が有するエネルギ(の偏り)を表すものとしては、例えば、相関性、連続性、相似性などがある。
【0037】
情報の相関性とは、その情報の構成要素(例えば、画像であれば、その画像を構成する画素やラインなど)どうしの相関(例えば、自己相関や、ある構成要素と他の構成要素との距離など)を意味する。例えば、画像の相関性を表すものとしては、画像のライン間の相関があり、この相関を表す相関値としては、例えば、2つのラインにおける、対応する各画素値の差分の2乗和等を用いることができる(この場合、相関値が小さいことは、ライン間の相関が大きいことを表し、相関値が大きいことは、ライン間の相関が小さいことを表す)。
【0038】
即ち、例えば、いま、図2に示すようなHライン102を有する画像101があった場合に、その上から1行目のライン(第1ライン)103と、他のラインとの相関は、一般に、図3(A)に示すように、第1ライン103との距離が近いライン(図2における画像101の上側のライン)ほど、第Mライン104についての相関201として示すように大きくなり、第1ライン103との距離が遠いライン(図2における画像の下側のライン)ほど、第Nライン105についての相関202として示すように小さくなる。従って、第1ライン103から近いほど、第1ライン103との相関が大きくなり、遠いほど相関が小さくなるという相関の偏りがある。
【0039】
そこで、いま、図2の画像101において、第1ライン103から比較的近い第Mライン104と、第1ライン103から比較的遠い第Nライン105との画素値を入れ替える操作を行い(1<M<N≦H)、その入れ替え後の画像101について、第1ライン103と、他のラインとの相関を計算値すると、それは、例えば、図3(B)に示すようになる。
【0040】
即ち、入れ替え後の画像101では、第1ライン103から近い第Mライン(入れ替え前の第Nライン105)との相関203が小さくなり、第1ライン103から遠い第Nライン(入れ替え前の第Mライン104)との相関204が大きくなる。
【0041】
従って、図3(B)では、第1ライン103から近いほど相関が大きくなり、遠いほど相関が小さくなるという相関性の偏りが破壊されている。しかしながら、画像については、一般に、第1ライン103から近いほど相関が大きくなり、遠いほど相関が小さくなるという相関性の偏りを利用することにより、破壊された相関性の偏りを復元することができる。即ち、図3(B)において、第1ライン103から近い第Mラインとの相関203が小さく、第1ライン103から遠い第Nラインとの相関204が大きいのは、画像101が有する本来の相関性の偏りからすれば、明らかに不自然であり(おかしく)、第Mラインと第Nラインとは入れ替えるべきである。そして、図3(B)における第Mラインと第Nラインとを入れ替えることで、図3(A)に示すような本来の相関性の偏りを有する画像、即ち、元の画像101を復号することができる。
【0042】
ここで、図2および図3で説明した場合においては、ラインの入れ替えが、画像の符号化を行うこととなる。また、その符号化に際し、埋め込み符号化器3では、例えば、何ライン目を移動するかや、どのラインどうしを入れ替えるかなどが、付加情報にしたがって決定されることになる。一方、埋め込み復号器6では、符号化後の画像、即ち、ラインの入れ替えられた画像を、その相関を利用して、ラインを元の位置に入れ替えることにより、元の画像に戻すことが、画像を復号することとなる。さらに、その復号に際し、埋め込み復号器6において、例えば、何ライン目を移動したかや、どのラインどうしを入れ替えたかなどを検出することが、画像に埋め込まれた付加情報を復号することになる。
【0043】
次に、情報の連続性についてであるが、例えば、画像のある1ラインについて注目した場合に、その注目ラインにおいて、図4(A)に示すような、画素値の変化パターンが連続している波形301が観察されたとすると、その注目ラインと離れた他のラインでは、注目ラインとは異なる画素値の変化パターンが観察される。従って、注目ラインと、その注目ラインと離れた他のラインとにおいては、画素値の変化パターンが異なり、連続性においても偏りがある。即ち、画像のある部分の画素値の変化パターンに注目すると、その注目部分に隣接する部分には、同様の画素値の変化パターンが存在し、注目部分から離れるにつれて、異なる画素値の変化パターンが存在するという連続性の偏りがある。
【0044】
そこで、いま、図4(A)に示した、画像のあるラインにおける、画素値の変化パターンが連続している波形301の一部を、例えば、図4(B)に示すように、離れたラインにおける波形302と入れ替える。
【0045】
この場合、画像の連続性の偏りが破壊される。しかしながら、近接する部分の画素値の変化パターンは連続しており、離れるほど、画素値の変化パターンが異なるという連続性の偏りを利用することにより、破壊された連続性の偏りを復元することができる。即ち、図4(B)において、波形の一部302の画素値の変化パターンが、他の部分の画素値の変化パターンに比較して大きく異なっているのは、波形が有する本来の連続性の偏りからすれば、明らかに不自然であり、他の部分の画素値の変化パターンと異なっている部分302は、他の部分の画素値の変化パターンと同様の波形に入れ替えるべきである。そして、そのような入れ替えを行うことで、連続性の偏りが復元され、これにより、図4(B)に示した波形から、図4(A)に示した元の波形を復号することができる。
【0046】
ここで、図4で説明した場合においては、波形の一部を、その周辺の画素値の変化パターンとは大きく異なる画素値の変化パターンの波形に入れ替えることが、画像の符号化を行うこととなる。また、その符号化に際し、埋め込み符号化器3では、例えば、波形のどの部分の画素値の変化パターンを入れ替えるのかや、画素値の変化パターンをどの程度大きく変化させるのかなどが、付加情報にしたがって決定されることになる。一方、埋め込み復号器6では、符号化後の信号、即ち、大きく異なる画素値の変化パターンを一部に有する波形を、周辺の画素値の変化パターンは連続しており、離れるほど、画素値の変化パターンが異なるという連続性の偏りを利用して、元の波形に戻すことが、その元の波形を復号することとなる。さらに、その復号に際し、埋め込み復号器6において、例えば、波形のどの部分の画素値の変化パターンが大きく変化していたのかや、画素値の変化パターンがどの程度大きく変化していたのかなどを検出することが、埋め込まれた付加情報を復号することになる。
【0047】
次に、情報の相似性についてであるが、例えば、風景を撮影した画像等の一部は、画像のフラクタル性(自己相似性)を利用して生成することができることが知られている。即ち、例えば、図5(A)に示すような、海401と森402を撮影した画像においては、海401全体の画素値の変化パターンと、その海401の一部の画素値の変化パターンとの相似性は高いが、それらの変化パターンと、海401から離れた森402の画素値の変化パターンとの相似性は低いという相似性の偏りがある。ここで、画像の相似性は、上述のように画素値の変化パターンを比較して考えるのではなく、エッジ形状を比較して考えても良い。
【0048】
そこで、いま、図5(A)に示した海401の一部403と、森402の一部404とを入れ替える。
【0049】
この場合、画像の相似性の偏りが破壊され、図5(B)に示すような画像が得られる。しかしながら、近接する部分の画素値の変化パターンは相似性が高く、離れるほど、画素値の変化パターンの相似性が低くなるという相似性の偏りを利用することにより、破壊された相似性の偏りを復元することができる。即ち、図5(B)において、海401の画像の一部が、海401と相似性の低い森402の画像の一部404になっていること、および森402の画像の一部が、森402と相似性の低い海401の画像の一部403となっていることは、画像が有する本来の相似性の偏りからすれば、明らかに不自然である。具体的には、図5(B)において、海401の画像の中の、森402の画像の一部404についての相似性は、海401の他の部分についての相似性に比較して極端に低くなっており、また、森402の画像の中の、海401の画像の一部403についての相似性も、森402の他の部分についての相似性に比較して極端に低くなっている。
【0050】
従って、画像が本来有する相似性の偏りからすれば、海401の画像の一部となっている、森402の画像の一部404と、森402の画像の一部となっている、海401の画像の一部403とは入れ替えるべきである。そして、そのような入れ替えを行うことで、画像の相似性の偏りが復元され、これにより、図5(B)に示した画像から、図5(A)に示した元の画像を復号することができる。
【0051】
ここで、図5で説明した場合においては、海401の画像の一部403と、森402の画像の一部404とを入れ替えることが、画像の符号化を行うこととなる。また、その符号化に際し、埋め込み符号化器3では、例えば、海401の画像のどの部分(画面上の位置)と、森402の画像のどの部分とを入れ替えるのかなどが、付加情報にしたがって決定されることになる。一方、埋め込み復号器6では、符号化後の信号、即ち、海401の一部が、森402の一部404となっているとともに、森402の一部が、海401の一部403となっている画像を、周辺の画素値の変化パターンの相似性は高く、離れるほど、画素値の変化パターンの相似性が低くなっていくという相似性の偏りを利用して、元の画像に戻すことが、その元の画像を復号することとなる。さらに、その復号に際し、埋め込み復号器6において、例えば、海の画像のどの部分と、森の画像のどの部分とが入れ替えられていたのかなどを検出することが、埋め込まれた付加情報を復号することになる。
【0052】
以上のように、埋め込み符号化器3において、符号化対象の画像が有するエネルギの偏りを利用して復号を行うことができるように、その画像を、付加情報にしたがって符号化して、符号化データを出力する場合には、埋め込み復号器6では、その符号化データを、画像が有するエネルギの偏りを利用することにより、復号のためのオーバヘッドなしで、元の画像および付加情報に復号することができる。
【0053】
また、符号化対象の画像には、付加情報が埋め込まれることで、その埋め込みの結果得られる画像は、元の画像と異なる画像とされ、人が価値ある情報として認識することのできる画像ではなくなることから、符号化対象の画像については、オーバヘッドなしの暗号化を実現することができる。
【0054】
さらに、完全可逆の電子透かしを実現することができる。即ち、従来の電子透かしでは、例えば、画質にあまり影響のない画素値の下位ビットが、電子透かしに対応する値に、単に変更されていたが、この場合、その下位ビットを、元の値に戻すことは困難である。従って、復号画像の画質は、電子透かしとしての下位ビットの変更により、少なからず劣化する。これに対して、符号化データを、元の画像が有するエネルギの偏りを利用して復号する場合には、劣化のない元の画像および付加情報を得ることができ、従って、付加情報を電子透かしとして用いることで、電子透かしに起因して復号画像の画質が劣化することはない。
【0055】
また、埋め込まれた付加情報は、符号化データから画像を復号することで取り出すことができるので、画像の符号化結果とともに、オーバヘッドなしでサイドインフォメーションを提供することができる。言い換えれば、付加情報を取り出すためのオーバヘッドなしで、その付加情報を画像に埋め込むことができるので、その埋め込みの結果得られる符号化データは、付加情報の分だけ圧縮(埋め込み圧縮)されているということができる。従って、例えば、ある画像の半分を符号化対象とするとともに、残りの半分を付加情報とすれば、符号化対象である半分の画像に、残りの半分の画像を埋め込むことができるから、この場合、画像は、単純には、1/2に圧縮されることになる。
【0056】
さらに、符号化データは、元の画像が有するエネルギの偏りという、いわば統計量を利用して復号されるため、誤りに対する耐性の強いものとなる。即ち、ロバスト性の高い符号化であるロバスト符号化(統計的符号化)を実現することができる。
【0057】
また、符号化データは、元の画像が有するエネルギの偏りを利用して復号されるため、そのエネルギの偏りに特徴があるほど、即ち、例えば、画像については、そのアクティビティが高いほど、あるいは、冗長性が低いほど、多くの付加情報を埋め込むことができる。ここで、上述したように、付加情報の埋め込みの結果得られる符号化データは、付加情報の分だけ圧縮されているということができるが、この圧縮という観点からすれば、符号化対象の情報が有するエネルギの偏りを利用して復号を行うことができるように、その情報を、付加情報にしたがって符号化する方式(埋め込み符号化方式)によれば、画像のアクティビティが高いほど、あるいは、画像の冗長性が低いほど、圧縮率が高くなる。この点、埋め込み符号化方式は、従来の符号化方式と大きく異なる(従来の符号化方式である、例えばMPEG(Moving Picture Experts Group)方式などでは、基本的に、画像のアクティビティが高いほど、あるいは、画像の冗長性が低いほど、圧縮率は低くなる)。
【0058】
さらに、例えば、上述したように、画像を符号化対象とする一方、付加情報として、画像とは異なるメディアの、例えば、音声を用いるようにすることで、音声をキーとして、画像の提供を行うようなことが可能となる。即ち、符号化装置10側において、例えば、契約者が発話した音声「開けゴマ」など付加情報として画像に埋め込んでおき、復号装置20側では、ユーザに、音声「開けゴマ」を発話してもらい、その音声と、画像に埋め込まれた音声とを用いて話者認識を行うようにする。このようにすることで、例えば、話者認識の結果、ユーザが契約者である場合にのみ、自動的に、画像を提示するようなことが可能となる。なお、この場合、付加情報としての音声は、いわゆる特徴パラメータではなく、音声波形そのものを用いることが可能である。
【0059】
また、例えば、音声を符号化対象とする一方、付加情報として、音声とは異なるメディアの、例えば、画像を用いるようにすることで、画像をキーとして、音声の提供を行うようなこと(例えば、顔認識後の音声応答)が可能となる。即ち、符号化装置10側において、例えば、ユーザへの応答としての音声に、そのユーザの顔の画像を埋め込み、復号装置20側では、ユーザの顔を撮影し、その結果得られる画像とマッチングする顔画像が埋め込まれている音声を出力するようにすることで、ユーザごとに異なる音声応答を行う音声応答システムを実現することが可能となる。
【0060】
さらに、音声に、音声を埋め込んだり、画像に、画像を埋め込んだりするような、あるメディアの情報に、それと同一メディアの情報を埋め込むようなことも可能である。あるいは、また、画像に、契約者の音声と顔画像を埋め込んでおけば、ユーザの音声と顔画像とが、画像に埋め込まれているものと一致するときのみ、その画像を提示するようにする、いわば二重鍵システムなどの実現も可能となる。
【0061】
また、例えば、テレビジョン放送信号を構成する、いわば同期した画像と音声のうちのいずれか一方に、他方を埋め込むようなことも可能であり、この場合、異なるメディアの情報どうしを統合した、いわば統合符号化を実現することができる。
【0062】
さらに、埋め込み符号化方式では、上述したように、情報には、そのエネルギの偏りに特徴があるほど、多くの付加情報を埋め込むことができる。従って、例えば、ある2つの情報について、エネルギの偏りに特徴がある方を適応的に選択し、その選択した方に、他方を埋め込むようにすることで、全体のデータ量を制御することが可能となる。即ち、2つの情報どうしの間で、一方の情報によって、他方の情報量を、いわば吸収するようなことが可能となる。そして、このように全体のデータ量を制御することができる結果、伝送路の伝送帯域や使用状況、その他の伝送環境にあったデータ量による情報伝送(環境対応ネットワーク伝送)が可能となる。
【0063】
また、例えば、画像に、その画像を縮小した画像を埋め込むことで(あるいは、音声に、その音声を間引いたものを埋め込むことで)、データ量を増加することなく、いわゆる階層符号化(下位階層の情報を少なくすることにより、上位階層の情報を生成する符号化)を実現することができる。
【0064】
さらに、例えば、画像に、その画像を検索するためのキーとなる画像を埋め込んでおくことで、そのキーとなる画像に基づいて、画像の検索を行うデータベースを実現することが可能となる。
【0065】
次に、図6は、画像の相関性を利用して元に戻すことができるように、画像に付加情報を埋め込む埋め込み符号化を行う場合の図1の埋め込み符号化器3のハードウェアの構成例を示している。
【0066】
画像データベース1から供給される画像は、フレームメモリ31に供給されるようになされており、フレームメモリ31は、画像データベース1からの画像を、例えば、フレーム単位で一時記憶するようになされている。
【0067】
CPU(Central Processing Unit)32は、プログラムメモリ33に記憶されたプログラムを実行することで、後述する埋め込み符号化処理を行うようになされている。即ち、CPU32は、プログラムメモリ33に記憶されたプログラムにしたがって、付加情報データベース2から供給される付加情報を受信し、その付加情報を、フレームメモリ31に記憶された画像に埋め込むようになされている。具体的には、CPU32は、フレームメモリ31に記憶された画像を構成する画素の位置を、例えば、1列(垂直方向に並ぶ画素列)単位で、付加情報に基づいて入れ替える(スワップする)ことで、各列に、付加情報を埋め込むようになされている。この付加情報が埋め込まれた画像は、符号化データとして出力されるようになされている。
【0068】
プログラムメモリ33は、例えば、ROM(Read Only Memory)やRAM(Random Access Memory)などで構成され、CPU32に、埋め込み符号化処理を行わせるためのコンピュータプログラムを記憶している。
【0069】
なお、フレームメモリ31は、複数のフレームを記憶することのできるように、複数バンクで構成されており、バンク切り替えを行うことで、フレームメモリ31では、画像データベース1から供給される画像の記憶、CPU32による埋め込み符号化処理の対象となっている画像の記憶、および埋め込み符号化処理後の画像(符号化データ)の出力を、同時に行うことができるようになされている。これにより、画像データベース1から供給される画像が、動画であっても、符号化データのリアルタイム出力を行うことができるようになされている。
【0070】
次に、図7は、図6の埋め込み符号化器3の機能的な構成例を示している。なお、この図7に示した機能的な構成は、CPU32がプログラムメモリ33に記憶されたコンピュータプログラムを実行することで実現されるようになされている。
【0071】
フレームメモリ31は、図6で説明したように、画像データベース1から供給される画像を一時記憶するようになされている。
【0072】
スワップ情報生成部36は、付加情報データベース2から付加情報を読み出し、その付加情報に基づいて、フレームメモリ31に記憶された1フレームの画像の各列の位置を、どのように入れ替えるかを表すスワップ情報を生成するようになされている。即ち、フレームメモリ31に記憶された1フレームの画像が、M行N列の画素で構成される場合において、その画像の第n列(左からn番目の列)を、第n’列に入れ替えるときには、スワップ情報生成部36において、nとn’とが対応付けられたスワップ情報が生成される(n,n’は、1以上N以下の整数)。
【0073】
ここで、1フレームの画像の列数がN列である場合、その入れ替え方は、そのすべての列を入れ替えの対象とすると、N!(!は、階乗を表す)通りだけある。従って、この場合、1フレームには、最大で、log2(N!)ビットの付加情報の埋め込みが可能となる。
【0074】
スワップ情報生成部36で生成されたスワップ情報は、スワッピング部37に供給されるようになされている。スワッピング部37は、スワップ情報生成部36から供給されるスワップ情報にしたがって、フレームメモリ31に記憶された1フレームの画像の各列の位置を入れ替えるようになされている。
【0075】
次に、図8のフローチャートを参照して、図7の埋め込み符号化器3において行われる埋め込み符号化処理について説明する。
【0076】
画像データベース1からは、そこに記憶されている画像が読み出され、フレームメモリ31に、順次供給されて記憶される。
【0077】
一方、スワップ情報生成部36では、ステップS1において、1フレームの画像に埋め込み可能なデータ量の付加情報が、付加情報データベース2から読み出される。即ち、例えば、上述したように、1フレームの画像の列数がN列であり、そのすべての列を入れ替えの対象とする場合には、1フレームには、最大で、log2(N!)ビットの付加情報の埋め込みが可能であるから、そのようなビット数(以下)の付加情報が、付加情報データベース2から読み出される。
【0078】
そして、スワップ情報生成部36は、ステップS2に進み、ステップS1で読み出した付加情報に基づいて、スワップ情報を生成する。即ち、スワップ情報生成部36は、付加情報に基づき、フレームメモリ31に記憶された処理対象のフレームの第1列乃至第N列のうちの、例えば、第1列を除く第2列乃至第N列それぞれを、第何列に入れ替えるかを表すスワップ情報を生成する。このスワップ情報は、スワッピング部37に供給される。
【0079】
スワッピング部37は、スワップ情報生成部36からスワップ情報を受信すると、ステップS3に進み、そのスワップ情報にしたがって、フレームメモリ31に記憶された処理対象のフレームの各列の位置を入れ替える。そして、列の位置の入れ替えが行われたフレームは、フレームメモリ31から読み出され、符号化データとして出力される。
【0080】
なお、フレームの各列の位置の入れ替えは、フレームメモリ31における画像データ(を構成する画素)の記憶位置を変更することで行うことができるが、その他、例えば、フレームメモリ31からフレームを読み出すときのアドレスを制御することによって、結果として、列の位置の入れ替えが行われたフレームが、フレームメモリ31から読み出されるようにしても良い。
【0081】
また、本実施の形態では、上述したように、スワップ情報には、第2列乃至第N列それぞれを、第何列に入れ替えるかを表す情報が含まれているが、第1列を、第何列に入れ替えるかを表す情報は含まれていない。従って、スワッピング部37では、第2列乃至第N列それぞれの入れ替えは行われるが、第1列の入れ替えは行われない。
【0082】
処理対象のフレームの第2列乃至第N列すべての入れ替えが終了すると、ステップS4に進み、フレームメモリ31に、まだ処理の対象とされていないフレームが記憶されているかどうかが判定され、記憶されていると判定された場合、ステップS1に戻り、まだ処理されていないフレームを対象に、同様の処理が繰り返される。
【0083】
また、ステップS4において、フレームメモリ31に、まだ処理の対象とされていないフレームが記憶されていないと判定された場合、埋め込み符号化処理を終了する。
【0084】
以上のような埋め込み符号化処理によれば、ある1フレームの画像は、次のような符号化データに符号化される。
【0085】
即ち、いま、付加情報が、例えば、図9に示すように、N列(図9(A))の処理対象フレームの第2列を第6列に(図9(B))、第3列を第9列に(図9(C))、第4列を第7列に(図9(D))、第5列を第3列に(図9(E))、第6列を第8列に(図9(F))、第7列を第4列に(図9(G))、第8列を第5列に(図9(H))、第9列を第2列に(図9(I))、・・・、第N列を第N列に、それぞれ入れ替えるものに対応するとすると、そのような入れ替えを表すスワップ情報が、スワップ情報生成部36において生成される。そして、スワッピング部37では、例えば、図9(J)に示すようなフレームが、上述のようなスワップ情報にしたがい、第2列が第6列に、第3列が第9列に、第4列が第7列に、第5列が第3列に、第6列が第8列に、第7列が第4列に、第8列を第5列に、第9列が第2列に、・・・、第N列が第N列に、それぞれ入れ替えられる。その結果、図9(J)の画像は、図9(K)に示すような画像に符号化される。
【0086】
ここで、図9における第1列乃至第9列に注目して、埋め込み符号化処理について、さらに説明する。
【0087】
本実施の形態では、第1列は入れ替えの対象になっていない(禁止されている)ので、まず、第2列については、第1列乃至第9列のうちの第1列を除く第2列乃至第9列の合計8列の中から入れ替え先が決定される。この場合、第2列の入れ替え先は8通り存在するので、付加情報として、例えば、0乃至7の8通りの値のうちのいずれかを埋め込むことが可能である。いま、第2列乃至第8列への入れ替えに、それぞれ0乃至7の付加情報を割り当てると、図9(B)に示したように、第2列が第6列に入れ替えられる場合は、第6列への入れ替えに割り当てられた4が、付加情報として埋め込まれることになる。
【0088】
第2列が第6列に入れ替えられると、残りの入れ替え先は第2列乃至第5列および第7列乃至第9列の合計7列となり、第3列については、この7列の中から入れ替え先が決定される。従って、この場合、付加情報として、例えば、0乃至6の7通りの値のうちのいずれかを埋め込むことが可能である。いま、上述した場合と同様に、第2列乃至第5列、第7列乃至第9列への入れ替えに、それぞれ0乃至6の付加情報を割り当てると、図9(C)に示したように、第3列が第9列に入れ替えられる場合は、第9列への入れ替えに割り当てられた6が、付加情報として埋め込まれることになる。
【0089】
以下、同様にして、画像に付加情報が埋め込まれるが、このような埋め込み手法による場合には、付加情報の埋め込みが進行するほど、埋め込み可能な付加情報のビット数が減少していくことになる。
【0090】
以上のように、フレームメモリ31に記憶された画像を構成する1以上の画素の集合としての、各列の画素の位置を、付加情報に対応して入れ替えることにより、各列に、付加情報を埋め込む場合には、その逆の入れ替えを行うことで、元の画像を復号することができ、さらに、どのような入れ替えを行ったかということが付加情報となる。従って、画像の画質の劣化を極力なくし、かつデータ量を増加せずに、画像に付加情報を埋め込むことができる。
【0091】
即ち、付加情報が埋め込まれた画像である、列の位置の入れ替えが行われた画像の各列は、その画像の相関性、即ち、ここでは、元の画像と同様の正しい位置にある列との間の相関を利用することにより、オーバヘッドなしで、元の位置に入れ替えることができ、さらに、その入れ替え方により、付加情報を復号ことができる。従って、その結果得られる復号画像(再生画像)には、基本的に、付加情報を埋め込むことによる画質の劣化は生じない。
【0092】
なお、符号化データに、正しい位置にある列が存在しない場合には、上述のように画像の相関性を利用して、画像と付加情報を復号するのは困難である。そこで、ここでは、図8の埋め込み符号化処理において、各フレームの第1列は、入れ替えを行わないで、そのまま、符号化データとして出力するようにしている。
【0093】
但し、第1列を含むすべての列を入れ替えの対象として、埋め込み符号化を行うことも可能であり、この場合、入れ替え後の列の少なくとも1以上の元の位置を、オーバヘッドとして、符号化データに含めることで、画像と付加情報の復号が容易に可能となる。
【0094】
また、付加情報は、上述のように、列を、順次入れ替えることにより、画像に埋め込んでいく他、すべての列を一度に入れ替えることにより、画像に埋め込むことも可能である。この場合、すべての列を一度に入れ替えるときの場合の数は、その列数の階乗通りだけあるが、その階乗通りの中から、どのような入れ替えパターンを選択するかが、付加情報によって決定される。また、その復号は、付加情報が埋め込まれた画像について、すべての列の階乗通りの入れ替えが行われ、その階乗通りの入れ替えパターンの中から、相関に基づいて、1つの入れ替えパターンが決定されることにより行われる。
【0095】
さらに、ここでは、画像の列を、付加情報そのものにしたがって入れ替えるようにしたが、列の入れ替えは、その他、例えば、付加情報の特徴量(例えば、付加情報のヒストグラムや、分散、ダイナミックレンジ等)に応じて行うようにすることも可能である。
【0096】
次に、図10は、図7の埋め込み符号化器3が出力する符号化データを、画像の相関性を利用して元の画像と付加情報に復号する図1の埋め込み復号器6のハードウェアの構成例を示している。
【0097】
符号化データ、即ち、付加情報が埋め込まれた画像(以下、適宜、埋め込み画像ともいう)は、フレームメモリ41に供給されるようになされており、フレームメモリ41は、埋め込み画像を、例えば、フレーム単位で一時記憶するようになされている。なお、フレームメモリ41も、図6のフレームメモリ31と同様に構成され、バンク切り替えを行うことにより、埋め込み画像が、動画であっても、そのリアルタイム処理が可能となっている。
【0098】
CPU42は、プログラムメモリ43に記憶されたプログラムを実行することで、埋め込み復号処理を行うようになされている。即ち、CPU42は、フレームメモリ41に記憶された埋め込み画像を、画像の相関性を利用して元の画像と付加情報に復号するようになされている。具体的には、CPU42は、埋め込み画像を構成する列のうち、既に復号した最新の列と、他の列との相関を計算する。そして、既に復号した列との相関を最大にする列を、その既に復号した列の右隣の位置に入れ替えることを、埋め込み画像を構成するすべての列について行うことで、元の画像を復号し、さらに、埋め込み画像を元の画像に復号する際の、埋め込み画像の各列の位置の入れ替え方に基づいて、付加情報を復号する。
【0099】
プログラムメモリ43は、例えば、図6のプログラムメモリ33と同様に構成され、CPU42に、埋め込み復号処理を行わせるためのコンピュータプログラムを記憶している。
【0100】
次に、図11は、図10の埋め込み復号器6の機能的な構成例を示している。なお、この図11に示した機能的な構成は、CPU42がプログラムメモリ43に記憶されたコンピュータプログラムを実行することで実現されるようになされている。
【0101】
フレームメモリ41は、図10で説明したように、埋め込み画像を一時記憶するようになされている。
【0102】
スワッピング部46は、フレームメモリ41に記憶された処理対象のフレームの、既に元の位置に入れ替えられた最新の列と、他の列(まだ、元の位置に戻されていない列)との相関を計算し、その相関に基づいて、処理対象のフレームの中の、まだ元の位置に戻されていない列の位置を入れ替えることで元に戻す(列の位置を復号する)ようになされている。さらに、スワッピング部46は、フレームの各列をどのように入れ替えたかを表すスワップ情報を、スワップ情報変換部47に供給するようにもなされている。
【0103】
スワップ情報変換部47は、スワッピング部46からのスワップ情報、即ち、処理対象のフレームの各列の、入れ替え前の位置と、入れ替え後の位置との対応関係に基づいて、埋め込み画像に埋め込まれた付加情報を復号するようになされている。
【0104】
次に、図12のフローチャートを参照して、図11の埋め込み復号器6において行われる埋め込み復号処理について説明する。
【0105】
フレームメモリ41では、そこに供給される埋め込み画像(符号化データ)が、例えば、1フレーム単位で順次記憶される。
【0106】
一方、スワッピング部46では、ステップS11において、フレームの列数をカウントするための変数nに、初期値としての、例えば、1がセットされ、ステップS12に進み、変数nが、フレームの列数であるNから1を減算したN−1以下であるかどうかが判定される。
【0107】
ステップS12において、変数nがN−1以下であると判定された場合、ステップS13に進み、スワッピング部46は、フレームメモリ41に記憶された処理対象のフレームから、第n列の画素(画素列)を読み出し、その第n列の各画素(の画素値)を要素として並べたベクトル(以下、適宜、列ベクトルという)vnを生成する。ここで、本実施の形態では、上述したように、フレームがM行の画素で構成されるから、列ベクトルvn(後述する列ベクトルvkも同様)は、M次元のベクトルとなる。
【0108】
その後、ステップS14において、第n列より右側にある列をカウントするための変数kに、初期値としてのn+1がセットされ、ステップS15に進み、スワッピング部46は、第k列の画素を読み出し、その第k列の画素を要素とする列ベクトルvkを生成して、ステップS16に進む。
【0109】
ステップS16では、スワッピング部46において、列ベクトルvnおよびvkを用いて、第n列と第k列との相関が求められる。
【0110】
即ち、スワッピング部46では、列ベクトルvnとvkとの距離d(n,k)が、次式にしたがって計算される。
【0111】
Figure 0004182603
但し、上式において、Σは、mを、1からMに変化させてのサメーションを表す。また、また、A(i,j)は、処理対象になっているフレームの第i行第j列の画素(画素値)を表す。
【0112】
そして、スワッピング部46では、列ベクトルvnとvkとの距離d(n,k)の逆数1/d(n,k)が、第n列と第k列との相関(を表す相関値)として求められる。
【0113】
第n列と第k列との相関の算出後は、ステップS17に進み、変数kが、フレームの列数であるNから1を減算したN−1以下であるかどうかが判定される。ステップS17において、変数kがN−1以下であると判定された場合、ステップS18に進み、変数kが1だけインクリメントされ、ステップS15に戻り、以下、ステップS17において、変数kがN−1以下でないと判定されるまで、ステップS15乃至S18の処理を繰り返す。即ち、これにより、第n列と、それより右側にある埋め込み画像の列それぞれとの相関が求められる。
【0114】
その後、ステップS17において、変数kがN−1以下でないと判定されると、ステップS18に進み、スワッピング部46において、第n列との相関を最大にするkが求められる。そして、第n列との相関を最大にするkを、例えばKと表すと、スワッピング部46は、ステップS20において、フレームメモリ41に記憶された処理対象のフレームの第n+1列と第K列とをスワッピング、即ち、第K列を、第n列の右隣の第n+1列に入れ替える。
【0115】
その後、ステップS21において、変数nが1だけインクリメントされ、ステップS12に戻り、以下、ステップS12において、変数nがN−1以下でないと判定されるまで、ステップS12乃至S21の処理を繰り返す。
【0116】
ここで、本実施の形態では、埋め込み画像の第1列は、元の画像の第1列のままであるから、変数nが、初期値である1のときは、第1列との相関が最も高い埋め込み画像の列が、第1列の右隣の第2列に入れ替えられる。第1列との相関が最も高い列は、画像の相関性から、基本的に、元の画像の第2列であるから、この場合、埋め込み符号化処理において、埋め込み画像のどこかの列に入れ替えられた元の画像の第2列は、元の位置に戻される(復号される)ことになる。
【0117】
そして、変数nが2となると、上述したようにして元の位置に入れ替えられた第2列との相関が最も高い埋め込み画像の列が、その第2列の右隣の第3列に入れ替えられる。第2列との相関が最も高い列は、やはり、画像の相関性から、基本的に、元の画像の第3列であるから、この場合、埋め込み符号化処理において、埋め込み画像のどこかの列に入れ替えられた元の画像の第3列は、元の位置に戻されることになる。
【0118】
以下、同様にして、フレームメモリ41に記憶された埋め込み画像は、元の画像に復号されていく。
【0119】
そして、ステップS12において、変数nがN−1以下でないと判定された場合、即ち、埋め込み画像を構成する第2列乃至第N列すべてが、画像の相関性を利用して元の位置に戻され、これにより、フレームメモリ41に記憶された埋め込み画像が、元の画像が復号された場合、ステップS22に進み、その復号された画像が、フレームメモリ41から読み出される。さらに、ステップS22では、スワッピング部46が、埋め込み画像を元の画像に復号した際の、埋め込み画像の第2列乃至第N列それぞれの入れ替え方を表すスワップ情報が、スワップ情報変換部47に出力される。そして、スワップ情報変換部47では、スワッピング部46からのスワップ情報に基づいて、埋め込み画像に埋め込まれていた付加情報が復号されて出力される。
【0120】
その後、ステップS23に進み、フレームメモリ41に、まだ処理の対象とされていない埋め込み画像のフレームが記憶されているかどうかが判定され、記憶されていると判定された場合、ステップS11に戻り、まだ処理の対象とされていない埋め込み画像のフレームを対象に、同様の処理が繰り返される。
【0121】
また、ステップS23において、フレームメモリ41に、まだ処理の対象とされていないフレームが記憶されていないと判定された場合、埋め込み復号処理を終了する。
【0122】
以上のように、付加情報が埋め込まれた画像である符号化データを、画像の相関性を利用して、元の画像と付加情報に復号するようにしたので、その復号のためのオーバヘッドがなくても、符号化データを、元の画像と付加情報に復号することができる。従って、その復号画像には、基本的に、付加情報を埋め込むことによる画質の劣化は生じない。
【0123】
なお、図12の埋め込み復号処理においては、既に復号された最新の列(n=1の場合においては、埋め込み符号化時に入れ替えられていない第1列)と、まだ復号されていない列との相関を求め、その相関に基づいて、既に復号された最新の列の右隣の位置に入れ替えられるべき列を検出するようにしたが、その他、例えば、既に復号された複数の列と、まだ復号されていない列との相関を演算することにより、既に復号された最新の列の右隣に入れ替えられるべき列を検出するようにすることも可能である。
【0124】
ここで、図13乃至図15に、以上のような埋め込み符号化処理および復号化処理のシミュレーション結果を示す。
【0125】
図13は、埋め込み符号化処理の対象とした画像(原画像)で、長手方向を縦にして見た場合に、横×縦が512画素×832画素で構成されている。
【0126】
図14は、図13の画像に対して、埋め込み符号化処理を施した処理結果を示している。図14の画像(埋め込み画像)には、log2(512!)ビットの付加情報が埋め込まれている。なお、同図からも明らかなように、埋め込み符号化は、上述したように、画像の暗号化という機能
(効果)を有する。
【0127】
図15は、図14の埋め込み符号化処理の結果を、埋め込み復号処理により復号した復号画像を示している。図13と図15とを比較することにより、画質の劣化なく、元の画像に復号されていることが分かる。なお、埋め込み復号処理により、埋め込み画像が元の画像に正確に復号されれば、その復号の際の、埋め込み画像の各列の入れ替え方に基づいて、付加情報も、正確に復号される。
【0128】
次に、上述の場合においては、埋め込み符号化器3には、例えば、図16に示すような、N列でなる画像を符号化対象とし、第1列は固定して、第2乃至第N列を、付加情報にしたがって入れ替えることにより埋め込み符号化を行わせ、埋め込み復号器6には、その埋め込み符号化結果を、画像の相関性を利用して、元の画像と付加情報に復号させるようにしたが、埋め込み復号器6には、画像の相関性の他、以下のような連続性をも利用して、埋め込み符号化結果の復号を行わせることが可能である。
【0129】
即ち、図12における場合には、図16の画像の各列について、その列を構成する画素の画素値を要素とする列ベクトルvnを用い、その列ベクトルどうしの距離の逆数を、相関として定義し、この相関のみを利用して、符号化データの復号を行うようにしたが、この場合、埋め込み復号器6では、まず、符号化データから、第1列(第1列は、上述したように固定)の列ベクトルと最も距離の近い列ベクトルが検出され、その列ベクトルに対応する列が、第2列とされる。さらに、埋め込み復号器6では、符号化データから、第2列の列ベクトルと最も距離の近い列ベクトルが検出され、その列ベクトルに対応する列が、第3列とされる。以下、同様にして、符号化データから、第N列までが検出され、これにより、元の画像が復号されるとともに、第2乃至第N列が、どのように入れ替えられていたかが、埋め込まれた付加情報として復号される。
【0130】
一方、図16の画像の第n列(n=1,2,・・・,N)の列ベクトルv1,v2,・・・、vNが列ベクトル空間内に描く軌跡が、例えば、図17に、細い点線で示すようであったとする。
【0131】
この場合、上述したように、第1列から、最も距離の近い列ベクトルを順次検出していくと、図17に太い点線で示す軌跡が描かれる。即ち、v1,v2,v13,v3,v14,v15,v4,v5,v6,・・・といった順番で、列ベクトルが検出されていく。従って、図17の実施の形態においては、相関(ここでは、列ベクトルどうしの距離)だけでは、列ベクトルは、正しい順序で検出されず、その結果、画像および付加情報も正しく復号することができないことになる。
【0132】
そこで、第1列の列ベクトルv1と最も距離の近い列ベクトルを検出し、その列ベクトルに対応する列を、第2列とした後は、例えば、図18に示すように、第2列の列ベクトルv2と、第1列の列ベクトルv1との差分ベクトル△v12を求める。そして、列ベクトルv2に、その差分ベクトル△v12を加算したベクトルによって表される点P12に最も近い列ベクトルを検出し、その列ベクトルに対応する列を第3列とする。
【0133】
さらに、第4列については、第3列の列ベクトルv3と、第2列の列ベクトルv2との差分ベクトルを求めて、その差分ベクトルを、列ベクトルv3に加算したベクトルによって表される点に最も近い列ベクトルを検出し、その列ベクトルに対応する列を第4列とする。以下、同様にして、第N列までを求めていくようにする。
【0134】
以上のように、第n列と第n+1列との間の相関性だけでなく、第n列の列ベクトルvnと、第n+1列の列ベクトルvn+1との間の連続性、即ち、ここでは、差分ベクトルvn+1−vnの変化が連続しているということをも利用することで、図17において、細い点線で示した軌跡が描かれるような正しい順番で、列ベクトルが検出され、その結果、画像および付加情報を正しく復号することができる。
【0135】
次に、図9の実施の形態においては、符号化対象の画像の画素(但し、第1列の画素を除く)を、列単位で、付加情報に基づいて入れ替えることで、付加情報の、画像への埋め込み、即ち、埋め込み符号化を行うようにしたが、埋め込み符号化は、例えば、符号化対象の画像の画素を、行単位で入れ替えたり、また、時間方向に並ぶ所定数のフレームの同一位置にある画素列の位置を入れ替えたりすることで行うことも可能である。
【0136】
さらに、埋め込み符号化は、例えば、符号化対象の画像の画素を、列単位で入れ替え、さらに、その入れ替え後の画像の画素を、行単位で入れ替えることにより行うことも可能である。
【0137】
即ち、例えば、図19に示すような、横×縦がN×M画素でなる画像の列を、付加情報に基づいて入れ替え、例えば、図20(A)に示すような埋め込み画像とする。ここで、図20(A)においては、図19の画像の第1列が第5列に、第2列が第N列に、第3列が第1列に、第4列が第2列に、第5列が第4列に、第6列が第3列に、・・・、第N列が第6列に、それぞれ入れ替えられている。
【0138】
そして、図20(A)の画像の行を、付加情報に基づいて入れ替え、例えば、図20(B)に示すような埋め込み画像とする。ここで、図20(B)においては、図20(A)の画像の第1行が第3行に、第2行が第5行に、第3行が第2行に、第4行が第M行に、第5行が第1行に、・・・、第M行が第4行に、それぞれ入れ替えられている。
【0139】
図20(B)に示した埋め込み画像は、例えば、その第1列の左側に、入れ替えを行っていない列があるとすれば、その列を第1列として、図12で説明した埋め込み復号処理を行うことにより、図19に示した元の画像に復号することができる。即ち、列方向と行方向の両方向の入れ替えを行った埋め込み画像については、式(1)におけるΣにおいて加算される項の順番が変化するだけで、加算される項自体は変化しない。従って、式(1)によって求められる距離d(n,k)は、埋め込み符号化された画像が同一であれば、列だけ入れ替えた場合と、列と行の両方を入れ替えた場合とで変化しないため、列と行の両方を入れ替えた埋め込み画像も、列だけ入れ替えた埋め込み画像と同様に、図12の埋め込み復号処理によって、元の画像と付加情報に復号することができる。
【0140】
以上から、列と行の両方を入れ替える場合には、行と列のうち、いずれの入れ替えを先または後に行うかは、埋め込み復号処理に影響を与えない。従って、埋め込み符号化処理においては、行と列の入れ替えのうちのいずれを先または後に行っても良いし、埋め込み復号処理においても、行と列の入れ替えのうちのいずれを先または後に行っても良い。また、行と列の入れ替えを、交互に行うようなことも可能である。
【0141】
なお、埋め込み符号化処理において、列だけの入れ替えを行う場合には、埋め込み画像を元の画像に復号した際の、埋め込み画像の列の入れ替え方が、付加情報の復号結果となるが、行と列の両方の入れ替えを行う場合には、埋め込み画像の第m行n列の位置(m,n)にある画素が、復号画像のどの位置(m’,n’)に入れ替えられたかが、付加情報の復号結果となる。
【0142】
次に、図8の埋め込み符号化処理では、符号化対象の画像の第1列だけを固定にし、埋め込み復号器6では、この第1列を、いわば復号の基準として、埋め込み画像の他の列の入れ替えを行うようにしたが、復号の基準は、第1列でなくても、あらかじめ、埋め込み符号化器3と埋め込み復号器6に設定されていれば、最後の第N列であっても良いし、その他の任意の列でも良い。さらに、復号の基準は、1列の画素である必要はなく、極端には、1画素であっても良い。
【0143】
ところで、例えば、第1列を、いわば復号の基準とし、画像の相関を利用して、埋め込み画像の他の列の入れ替えを行う場合には、1の列の入れ替えを誤ると、その後の列(本実施の形態では、入れ替えを誤った列の右側にある列)の入れ替えも誤る可能性が高くなる。この場合、元の画像を復号することができないから、正しい付加情報を復号することもできなくなる。
【0144】
そこで、埋め込み符号化処理においては、複数の列を、復号の基準として残しておく(入れ替えの対象としない)(入れ替えを禁止する)ようにすることが可能である。
【0145】
即ち、例えば、画像の列方向に並ぶ画素の集合を1の入れ替え単位として入れ替えを行う場合においては、例えば、図21に斜線を付して示すように、1列おきの列を、復号の基準とし、残りの列(図21において、白抜きで示す部分)を、入れ替えの対象とすることが可能である。
【0146】
なお、図21に示した場合において、画像の列数が2N列であれば、その画像に埋め込むことのできる付加情報のデータ量は、最大で、log2(N!)ビットとなる

【0147】
次に、埋め込み符号化は、列や行単位より細かい単位で、1以上の画素の集合を入れ替えることで行うことが可能である。
【0148】
即ち、例えば、図22に示すように、画像の各列を、5画素などの1以上の連続して並ぶ画素の集合に分け、その集合を1の入れ替え単位として入れ替えを行うことが可能である。さらに、この場合、図22に示すように、入れ替え単位を市松模様状に2つに分類し、一方(例えば、図22において白抜きの部分)を入れ替え対象とし、他方(例えば、図22において斜線を付してある部分)を復号の基準とすることが可能である。なお、このようにした場合において、画像の行数が、入れ替え単位がM個だけ並ぶ画素数で構成され、列数が2N列であれば、その画像に埋め込むことのできる付加情報のデータ量は、最大で、log2((M×N)!)ビットとなる。
【0149】
また、例えば、図23に示すように、画像の各列の画素を、6画素などの所定の画素数おきに抽出し、その抽出した画素の集合(図23において、○を付してある画素の集合や、×を付してある画素の集合、△を付してある画素の集合など)を、1の入れ替え単位として入れ替えを行うことが可能である。さらに、この場合、図23に示すように、画像を構成する各画素を市松模様状に2つに分類し、一方(例えば、図23において白抜きの部分)を入れ替え対象とし、他方(例えば、図23において斜線を付してある部分)を復号の基準とすることが可能である。なお、このようにした場合において、画像の各列から2M画素おき(図23の実施の形態では、6画素おき)に抽出した画素の集合を1の入れ替え単位とし、画像の列数がN列であれば、その画像に埋め込むことのできる付加情報のデータ量は、最大で、log2((M×N)!)ビットとなる。即ち、例えば、図23において○印で示す入れ替え単位は、同図において、420や、421、422で示すように、各列に存在し、従って、各列における○印で示す入れ替え単位のみに注目すれば、N!通りの入れ替えが可能である。よって、画像の各列から2M画素おきに抽出した画素の集合を1の入れ替え単位とする場合には、各列には、M個の入れ替え単位が存在するから、図23に示した画像全体では、最大で、(M×N)!通りの入れ替えが可能であり、その結果、画像に埋め込むことのできる付加情報のデータ量は、log2((M×N)!)ビットとなる。
【0150】
ここで、図21乃至図23に示した場合においては、入れ替え対象の画素(図21乃至図23において白抜きの部分)の集合が、複数の復号の基準(図21乃至図23において斜線を付してある部分)に隣接している。このような場合においては、例えば、その複数の復号の基準それぞれと、入れ替え対象の画素の集合との距離の自乗和の逆数などを相関として利用することができる。
【0151】
以上のように、埋め込み符号化時および埋め込み復号時における入れ替え単位は、特に限定されるものではない。
【0152】
また、復号の基準とする画素の集合も特に限定されるものではない。
【0153】
なお、復号の正確さの観点からすれば、入れ替え対象の画素が、より多数の、復号の基準とされている画素に隣接しているのが好ましく、従って、図23に示した場合が最も好ましい。さらに、復号の正確さの観点からすれば、復号の基準とする画素が多い方が好ましい。
【0154】
但し、復号の基準とする画素は入れ替えの対象とされないから、その数が多い場合には、画像に埋め込むことのできる付加情報のデータ量が少なくなる。さらに、復号の基準とする画素が多い場合や、入れ替え対象の画素が、より多数の、復号の基準とされている画素に隣接している場合には、暗号化の効果が弱まる。
【0155】
従って、復号の基準とする画素の数やその配置パターンは、復号の正確さと、埋め込む付加情報のデータ量および暗号化の効果とを考慮し、埋め込み符号化および埋め込み復号の用途に応じて設定するのが望ましい。
【0156】
また、ある列が、それに近い列に入れ替えられたり、あるいは、近い位置にある列どうしが、同様の位置関係のまま入れ替えられたりする場合には、やはり、暗号化の効果が弱まるので、そのような入れ替えが行われないように、埋め込み符号化処理において、各列は、元の位置より、所定距離以上離れた位置の列に入れ替えるといった制限や、近い位置にある列どうしは、所定距離以上離れた位置の列に入れ替えるといった制限を付すことが可能である。
【0157】
さらに、埋め込み符号化の対象とする画像が、例えば、RGBコンポーネント信号で構成されるカラー画像である場合には、RGBのすべてを同一位置に入れ替えても良いし、RGBの各コンポーネントを、独立に入れ替えても良い。RGBのすべてを同一位置に入れ替える場合には、RGBの各コンポーネントを、独立に入れ替える場合に比較して、埋め込むことのできる付加情報のデータ量は少なくなるが、埋め込み復号時における復号精度を向上させることができる。一方、RGBの各コンポーネントを、独立に入れ替える場合には、RGBのすべてを同一位置に入れ替える場合に比較して、埋め込み復号時における復号精度は劣化するが、埋め込むことのできる付加情報のデータ量を多くすることができる。
【0158】
また、付加情報として用いる情報は、特に限定されるものではなく、例えば、画像や、音声、テキスト、コンピュータプログラム、制御信号、その他のデータを付加情報として用いることが可能である。なお、画像データベース1の画像の一部を付加情報とし、残りを、フレームメモリ31への供給対象とすれば、その残りの部分に、付加情報とされた画像の一部分が埋め込まれるから、画像の圧縮が実現されることになる。
【0159】
さらに、本実施の形態では、付加情報を、画像に埋め込むようにしたが、付加情報は、その他、例えば、音声に埋め込むことも可能である。即ち、例えば、時系列の音声データを、適当なフレームに区切り、各フレームの音声データを、付加情報にしたがって入れ替えることで、付加情報を、音声に埋め込むことが可能である。
【0160】
また、本実施の形態では、付加情報が埋め込まれた埋め込み画像を、画像の相関性、さらには必要に応じて連続性に基づいて、付加情報と元の画像に復号するようにしたが、埋め込み画像は、その他、上述の相似性に基づいて復号することも可能である。即ち、埋め込み画像の復号は、既に復号された列と、まだ復号されていない列との相似性の関係を表す値を求め、その値に基づいて行うことが可能である。
【0161】
さらに、本実施の形態では、CPU32または42に、コンピュータプログラムを実行させることで、埋め込み符号化処理または埋め込み復号処理をそれぞれ行うようにしたが、これらの処理は、それ専用のハードウェアによって行うことも可能である。
【0162】
また、本実施の形態では、CPU32または42に実行させるコンピュータプログラムを、プログラムメモリ33または43にそれぞれ記憶させておくようにしたが、このコンピュータプログラムは、例えば、半導体メモリ、磁気テープ、磁気ディスク、光ディスク、光磁気ディスク、相変化ディスクなどの記録媒体や、インターネット、地上波、衛星回線、公衆網、CATV(Cable Television)網などの伝送媒体を介して提供するようにすることが可能である。
【0163】
次に、上述した一連の処理は、コンピュータに、プログラムをインストールして行わせることが可能である。
【0164】
そこで、図24を参照して、上述した一連の処理を実行するプログラムをコンピュータにインストールし、コンピュータによって実行可能な状態とするために用いられる、そのプログラムが記録されている記録媒体について説明する。
【0165】
プログラムは、図24(A)に示すように、コンピュータ601に内蔵されている記録媒体としてのハードディスク602や半導体メモリ603に予め記録しておくことができる。
【0166】
あるいはまた、プログラムは、図24(B)に示すように、フロッピーディスク611、CD-ROM(Compact Disc Read Only Memory)612,MO(Magneto optical)ディスク613,DVD(Digital Versatile Disc)614、磁気ディスク615、半導体メモリ616などの記録媒体に、一時的あるいは永続的に格納(記録)しておくことができる。このような記録媒体は、いわゆるパッケージソフトウエアとして提供することができる。
【0167】
なお、プログラムは、上述したような記録媒体からコンピュータにインストールする他、図24(C)に示すように、ダウンロードサイト621から、ディジタル衛星放送用の人工衛星622を介して、コンピュータ601に無線で転送したり、LAN(Local Area Network)、インターネットといったネットワーク631を介して、コンピュータ601に有線で転送し、コンピュータ601において、内蔵するハードディスク602などにインストールすることができる。
【0168】
ここで、本明細書において、コンピュータに各種の処理を行わせるためのプログラムを記述する処理ステップは、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はなく、並列的あるいは個別に実行される処理(例えば、並列処理あるいはオブジェクトによる処理)も含むものである。
【0169】
また、プログラムは、1のコンピュータにより処理されるものであっても良いし、複数のコンピュータによって分散処理されるものであっても良い。さらに、プログラムは、遠方のコンピュータに転送されて実行されるものであっても良い。
【0170】
次に、図25は、図24のコンピュータ601の構成例を示している。
【0171】
コンピュータ601は、図25に示すように、CPU(Central Processing Unit)642を内蔵している。CPU642には、バス641を介して、入出力インタフェース645が接続されており、CPU642は、入出力インタフェース645を介して、ユーザによって、キーボードやマウス等で構成される入力部647が操作されることにより指令が入力されると、それにしたがって、図24(A)の半導体メモリ603に対応するROM(Read Only Memory)643に格納されているプログラムを実行する。あるいは、また、CPU642は、ハードディスク602に格納されているプログラム、衛星622若しくはネットワーク631から転送され、通信部648で受信されてハードディスク602にインストールされたプログラム、ドライブ649に装着されたフロッピディスク611、CD-ROM612、MOディスク613、DVD614、若しくは磁気ディスク615から読み出されてハードディスク602にインストールされたプログラム、または半導体メモリ616から読み出されたプログラムを、RAM(Random Access Memory)644にロードして実行する。これにより、図8や図12に示したフローチャートにしたがった処理が行われる。そして、CPU642は、その処理結果を、必要に応じて、例えば、入出力インタフェース645を介して、LCD(Liquid CryStal Display)等で構成される表示部646に出力し、あるいは通信部648から送信する。
【0174】
【発明の効果】
本発明の第1ないし第5の側面によれば、例えば、相関性等を利用することで、元の第1および第2のデータを復号すること、すなわち、劣化のない第1および第2のデータを得ることが可能となる。
【図面の簡単な説明】
【図1】本発明を適用した画像伝送システムの一実施の形態の構成例を示すブロック図である。
【図2】符号化対象の画像を示す図である。
【図3】相関性を利用した符号化/復号を説明するための図である。
【図4】連続性を利用した符号化/復号を説明するための図である。
【図5】相似性を利用した符号化/復号を説明するための図である。
【図6】図1の埋め込み符号化器3のハードウェアの構成例を示すブロック図である。
【図7】図6の埋め込み符号化器3の機能的構成例を示すブロック図である。
【図8】埋め込み符号化処理を説明するためのフローチャートである。
【図9】埋め込み符号化処理の結果を説明するための図である。
【図10】図1の埋め込み復号器6のハードウェアの構成例を示すブロック図である。
【図11】図10の埋め込み復号器6の機能的構成例を示すブロック図である。
【図12】埋め込み復号処理を説明するためのフローチャートである。
【図13】埋め込み符号化のシミュレーションに用いた原画像を示すディスプレイ上に表示された中間階調の写真である。
【図14】埋め込み符号化のシミュレーション結果を示すディスプレイ上に表示された中間階調の写真である。
【図15】埋め込み復号のシミュレーション結果を示すディスプレイ上に表示された中間階調の写真である。
【図16】列ベクトルを説明するための図である。
【図17】列ベクトル空間を示す図である。
【図18】列ベクトル空間を示す図である。
【図19】行と列の両方向の入れ替えを説明するための図である。
【図20】行と列の両方向の入れ替えを説明するための図である。
【図21】復号の基準とする画素を示す図である。
【図22】復号の基準とする画素を示す図である。
【図23】復号の基準とする画素を示す図である。
【図24】本発明を適用した記録媒体を説明するための図である。
【図25】図24のコンピュータ601の構成例を示すブロック図である。
【符号の説明】
1 画像データベース, 2 付加情報データベース, 3 埋め込み符号化器, 4 記録媒体, 5 伝送媒体, 6 埋め込み復号器, 10 符号化装置, 20 復号装置, 31 フレームメモリ, 32 CPU, 33 プログラムメモリ, 36 スワップ情報生成部, 37 スワッピング部, 41 フレームメモリ, 42 CPU, 43 プログラムメモリ, 46 スワッピング部, 47 スワップ情報変換部, 601 コンピュータ, 602 ハードディスク, 603 半導体メモリ, 611 フロッピーディスク, 612 CD-ROM, 613 MOディスク, 614 DVD, 615 磁気ディスク, 616 半導体メモリ, 621 ダウンロードサイト, 622 衛星, 631 ネットワーク, 641 バス, 642 CPU, 643 ROM, 644 RAM, 645 入出力インタフェース, 646 表示部, 647 入力部, 648 通信部, 649 ドライブ

Claims (20)

  1. 第1のデータを、第2のデータにしたがって符号化する符号化装置であって、
    前記第1のデータの少なくとも一部のデータを記憶する記憶手段と、
    前記第2のデータにしたがって、前記記憶手段に記憶された前記一部のデータを入れ替えることにより、前記第1のデータに、前記第2のデータに関連するデータを埋め込む符号化手段と
    を備え
    前記第1のデータの一部は、前記符号化手段による入れ替えが禁止されている
    号化装置。
  2. 前記第1および第2のデータを入力する入力手段をさらに備える
    求項1に記載の符号化装置。
  3. 前記第1のデータは、複数の画素データから構成される画像データであり、
    前記記憶手段は、前記画像データを記憶し、
    前記符号化手段は、前記記憶手段に記憶された前記画像データを構成する1以上の画素データの集合の位置を、前記第2のデータにしたがって入れ替えることにより、前記画像データに、前記第2のデータに関連するデータを埋め込む
    求項1に記載の符号化装置。
  4. 前記符号化手段は、前記画像データの画枠内にある1以上の前記画素データの集合の位置を、前記第2のデータにしたがって入れ替える
    求項3に記載の符号化装置。
  5. 前記符号化手段は、前記画像データを構成する画素データの位置を、1行または1列単位で入れ替える
    求項3に記載の符号化装置。
  6. 前記符号化手段は、前記画像データを構成する1以上の画素データの集合の位置を、前記第2のデータの値に相当する画素数に応じて入れ替える
    求項3に記載の符号化装置。
  7. 第1のデータを、第2のデータにしたがって符号化する符号化方法であって、
    前記第1のデータの少なくとも一部のデータを記憶する記憶ステップと、
    前記第2のデータにしたがって、前記記憶ステップで記憶された前記一部のデータを入れ替えることにより、前記第1のデータに、前記第2のデータに関連するデータを埋め込む符号化ステップと
    を備え
    前記第1のデータの一部は、前記符号化ステップによる入れ替えが禁止されている
    符号化方法。
  8. 第1のデータを、第2のデータにしたがって符号化する符号化処理を、コンピュータに行わせるプログラムが記録されている記録媒体であって、
    前記第1のデータの少なくとも一部のデータを記憶する記憶ステップと、
    前記第2のデータにしたがって、前記記憶ステップで記憶された前記一部のデータを入れ替えることにより、前記第1のデータに、前記第2のデータに関連するデータを埋め込む符号化ステップと
    を備え
    前記第1のデータの一部は、前記符号化ステップによる入れ替えが禁止されている
    プログラムが記録されている記録媒体。
  9. 第1のデータを、第2のデータにしたがって符号化した符号化データを復号する復号装置であって、
    前記符号化データの一部のデータと、他の一部のデータとの関係を表す関係値を計算する関係値計算手段と、
    前記関係値計算手段によって求められた前記関係値に基づいて、前記一部のデータと他の一部のデータとの位置を入れ替えることにより、前記符号化データを、前記第1のデータに復号するとともに、その位置の入れ替えに応じて、前記符号化データに埋め込まれていた前記第2のデータを復号する復号手段と
    を備え
    前記関係値計算手段は、前記一部のデータと他の一部のデータとの連続性を表す前記関係値を計算する
    号装置。
  10. 前記第1のデータは、複数の画素データから構成される画像データであり、
    前記復号手段は、前記符号化データを構成する前記画素データの位置を、1行または1列単位で入れ替える
    請求項9に記載の復号装置。
  11. 前記復号手段は、前記一部のデータと他の一部のデータとの位置の入れ替えパターンに相当する値を、前記第2のデータとして復号する
    請求項9に記載の復号装置。
  12. 第1のデータを、第2のデータにしたがって符号化した符号化データを復号する復号方法であって、
    前記符号化データの一部のデータと、他の一部のデータとの関係を表す関係値を計算する関係値計算ステップと、
    前記関係値計算ステップにおいて求められた前記関係値に基づいて、前記一部のデータと他の一部のデータとの位置を入れ替えることにより、前記符号化データを、前記第1のデータに復号するとともに、その位置の入れ替えに応じて、前記符号化データに埋め込まれていた前記第2のデータを復号する復号ステップと
    を備え
    前記関係値計算ステップでは、前記一部のデータと他の一部のデータとの連続性を表す前記関係値を計算する
    号方法。
  13. 第1のデータを、第2のデータにしたがって符号化した符号化データを復号する復号処理を、コンピュータに行わせるプログラムが記録されている記録媒体であって、
    前記符号化データの一部のデータと、他の一部のデータとの関係を表す関係値を計算する関係値計算ステップと、
    前記関係値計算ステップにおいて求められた前記関係値に基づいて、前記一部のデータと他の一部のデータとの位置を入れ替えることにより、前記符号化データを、前記第1のデータに復号するとともに、その位置の入れ替えに応じて、前記符号化データに埋め込まれていた前記第2のデータを復号する復号ステップと
    を備え
    前記関係値計算ステップでは、前記一部のデータと他の一部のデータとの連続性を表す前記関係値を計算する
    プログラムが記録されている録媒体。
  14. 第1のデータを、第2のデータにしたがって符号化した符号化データを復号する復号装置であって、
    前記符号化データの一部のデータと、他の一部のデータとの関係を表す関係値を計算する関係値計算手段と、
    前記関係値計算手段によって求められた前記関係値に基づいて、前記一部のデータと他の一部のデータとの位置を入れ替えることにより、前記符号化データを、前記第1のデータに復号するとともに、その位置の入れ替えに応じて、前記符号化データに埋め込まれていた前記第2のデータを復号する復号手段と
    を備え、
    前記復号手段は、前記一部のデータとの前記関係値を最大にする前記他の一部のデータと、前記一部のデータとが隣接するように入れ替えを行う
    号装置。
  15. 第1のデータを、第2のデータにしたがって符号化した符号化データを復号する復号方法であって、
    前記符号化データの一部のデータと、他の一部のデータとの関係を表す関係値を計算する関係値計算ステップと、
    前記関係値計算ステップにおいて求められた前記関係値に基づいて、前記一部のデータと他の一部のデータとの位置を入れ替えることにより、前記符号化データを、前記第1のデータに復号するとともに、その位置の入れ替えに応じて、前記符号化データに埋め込まれていた前記第2のデータを復号する復号ステップと
    を備え、
    前記復号ステップでは、前記一部のデータとの前記関係値を最大にする前記他の一部のデータと、前記一部のデータとが隣接するように入れ替えを行う
    復号方法。
  16. 第1のデータを、第2のデータにしたがって符号化した符号化データを復号する復号処理を、コンピュータに行わせるプログラムが記録されている記録媒体であって、
    前記符号化データの一部のデータと、他の一部のデータとの関係を表す関係値を計算する関係値計算ステップと、
    前記関係値計算ステップにおいて求められた前記関係値に基づいて、前記一部のデータと他の一部のデータとの位置を入れ替えることにより、前記符号化データを、前記第1のデータに復号するとともに、その位置の入れ替えに応じて、前記符号化データに埋め込まれていた前記第2のデータを復号する復号ステップと
    を備え、
    前記復号ステップでは、前記一部のデータとの前記関係値を最大にする前記他の一部のデータと、前記一部のデータとが隣接するように入れ替えを行う
    プログラムが記録されている記録媒体。
  17. 第1のデータを、第2のデータにしたがって符号化した符号化データを復号する復号装置であって、
    前記符号化データの一部のデータと、他の一部のデータとの関係を表す関係値を計算する関係値計算手段と、
    前記関係値計算手段によって求められた前記関係値に基づいて、前記一部のデータと他の一部のデータとの位置を入れ替えることにより、前記符号化データを、前記第1のデータに復号するとともに、その位置の入れ替えに応じて、前記符号化データに埋め込まれていた前記第2のデータを復号する復号手段と
    を備え、
    前記符号化データの一部は、前記復号手段による入れ替えが禁止されている
    号装置。
  18. 第1のデータを、第2のデータにしたがって符号化した符号化データを復号する復号方法であって、
    前記符号化データの一部のデータと、他の一部のデータとの関係を表す関係値を計算する関係値計算ステップと、
    前記関係値計算ステップにおいて求められた前記関係値に基づいて、前記一部のデータと他の一部のデータとの位置を入れ替えることにより、前記符号化データを、前記第1のデータに復号するとともに、その位置の入れ替えに応じて、前記符号化データに埋め込まれていた前記第2のデータを復号する復号ステップと
    を備え、
    前記符号化データの一部は、前記復号ステップによる入れ替えが禁止されている
    復号方法。
  19. 第1のデータを、第2のデータにしたがって符号化した符号化データを復号する復号処理を、コンピュータに行わせるプログラムが記録されている記録媒体であって、
    前記符号化データの一部のデータと、他の一部のデータとの関係を表す関係値を計算する関係値計算ステップと、
    前記関係値計算ステップにおいて求められた前記関係値に基づいて、前記一部のデータと他の一部のデータとの位置を入れ替えることにより、前記符号化データを、前記第1のデータに復号するとともに、その位置の入れ替えに応じて、前記符号化データに埋め込まれていた前記第2のデータを復号する復号ステップと
    を備え、
    前記符号化データの一部は、前記復号ステップによる入れ替えが禁止されている
    プログラムが記録されている記録媒体。
  20. 第1のデータを、第2のデータにしたがって符号化して符号化データとし、その符号化データを復号するデータ処理装置であって、
    前記第1のデータの少なくとも一部のデータを記憶する記憶手段と、
    前記第2のデータにしたがって、前記記憶手段に記憶された前記第1のデータの一部のデータを入れ替えることにより、前記第1のデータに、前記第2のデータに関連するデータを埋め込み、前記符号化データとする符号化手段と、
    前記符号化データの一部のデータと、他の一部のデータとの関係を表す関係値を計算する関係値計算手段と、
    前記関係値計算手段によって求められた前記関係値に基づいて、前記符号化データの一部のデータと他の一部のデータとの位置を入れ替えることにより、前記符号化データを、前記第1のデータに復号するとともに、その位置の入れ替えに応じて、前記符号化データに埋め込まれていた前記第2のデータを復号する復号手段と
    を備え
    前記第1のデータの一部は、前記符号化手段による入れ替えが禁止され、その入れ替えが禁止されている前記第1のデータの一部に対応する、前記符号化データの一部は、前記復号手段による入れ替えが禁止されている
    ータ処理装置。
JP28420099A 1998-07-15 1999-10-05 符号化装置および符号化方法、復号装置および復号方法、記録媒体、並びにデータ処理装置 Expired - Fee Related JP4182603B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP28420099A JP4182603B2 (ja) 1998-10-07 1999-10-05 符号化装置および符号化方法、復号装置および復号方法、記録媒体、並びにデータ処理装置
US09/413,134 US6804372B1 (en) 1998-10-07 1999-10-06 Coding apparatus and method, decoding apparatus and method, data processing system, storage medium, and signal
US09/636,138 US6965697B1 (en) 1998-07-15 2000-08-10 Coding apparatus and method, decoding apparatus and method, data processing system, storage medium, and signal
US10/935,792 US7424130B2 (en) 1998-10-07 2004-09-07 Coding apparatus and method, decoding apparatus and method, data processing system, storage medium, and signal
US11/134,737 US7738711B2 (en) 1998-07-15 2005-05-20 Coding apparatus and method, decoding apparatus and method, data processing system, storage medium, and signal

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP28530898 1998-10-07
JP10-285308 1998-10-07
JP28420099A JP4182603B2 (ja) 1998-10-07 1999-10-05 符号化装置および符号化方法、復号装置および復号方法、記録媒体、並びにデータ処理装置

Publications (2)

Publication Number Publication Date
JP2000232365A JP2000232365A (ja) 2000-08-22
JP4182603B2 true JP4182603B2 (ja) 2008-11-19

Family

ID=26555367

Family Applications (1)

Application Number Title Priority Date Filing Date
JP28420099A Expired - Fee Related JP4182603B2 (ja) 1998-07-15 1999-10-05 符号化装置および符号化方法、復号装置および復号方法、記録媒体、並びにデータ処理装置

Country Status (2)

Country Link
US (2) US6804372B1 (ja)
JP (1) JP4182603B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008236777A (ja) * 1998-10-07 2008-10-02 Sony Corp 復号装置および復号方法、記録媒体、並びにデータ処理装置

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6965697B1 (en) 1998-07-15 2005-11-15 Sony Corporation Coding apparatus and method, decoding apparatus and method, data processing system, storage medium, and signal
US6870944B1 (en) * 1999-06-08 2005-03-22 Sony Corporation Image processing apparatus, image processing method, and storage medium
JP4556087B2 (ja) * 2001-03-22 2010-10-06 ソニー株式会社 データ処理装置およびデータ処理方法、並びにプログラムおよびプログラム記録媒体
US7191233B2 (en) * 2001-09-17 2007-03-13 Telecommunication Systems, Inc. System for automated, mid-session, user-directed, device-to-device session transfer system
US7426535B2 (en) * 2002-10-08 2008-09-16 Telecommunication Systems, Inc. Coordination of data received from one or more sources over one or more channels into a single context
US7583833B2 (en) * 2006-01-27 2009-09-01 Advanced Micro Devices, Inc. Method and apparatus for manufacturing data indexing
US8412755B2 (en) * 2009-06-23 2013-04-02 Hewlett-Packard Development Company, L.P. Permuting records in a database for leak detection and tracing
JP5471580B2 (ja) * 2010-02-23 2014-04-16 富士ゼロックス株式会社 画像処理装置及びプログラム
WO2014091943A1 (ja) * 2012-12-14 2014-06-19 ソニー株式会社 画像処理装置および方法
FR3033116B1 (fr) * 2015-02-20 2017-03-24 Stmicroelectronics (Grenoble 2) Sas Procede de selection d’une solution de placement des pixels d’une image en fonction du rendu visuel
CN111382398B (zh) * 2018-12-27 2023-11-14 阿里巴巴集团控股有限公司 信息处理、隐藏信息解析和嵌入的方法、装置及设备

Family Cites Families (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4663659A (en) 1985-10-31 1987-05-05 Rca Corporation Video signal scrambling system employing full line reversal and double burst coding
EP0626793B1 (fr) 1986-04-18 2001-11-28 Nagra Plus S.A. Système de télévision à péage
FR2631192A1 (fr) 1988-05-06 1989-11-10 Europ Rech Electr Lab Procede d'embrouillage d'images de television
JP2824910B2 (ja) 1989-04-07 1998-11-18 甲子雄 松井 画像へのデータ合成方法
US5077794A (en) * 1989-11-16 1991-12-31 Verilink Corporation Dual framing bit sequence alignment apparatus and method
US5721788A (en) * 1992-07-31 1998-02-24 Corbis Corporation Method and system for digital image signatures
US6122403A (en) * 1995-07-27 2000-09-19 Digimarc Corporation Computer system linked by using information in data objects
US5778102A (en) 1995-05-17 1998-07-07 The Regents Of The University Of California, Office Of Technology Transfer Compression embedding
US5727092A (en) 1995-05-17 1998-03-10 The Regents Of The University Of California Compression embedding
JPH0935032A (ja) 1995-07-24 1997-02-07 Mitsubishi Electric Corp Icカードと情報機器端末
US5815572A (en) 1995-08-31 1998-09-29 Lucent Technologies Inc. Video scrambling
WO1998034403A1 (en) * 1995-09-29 1998-08-06 Intel Corporation Apparatus and method for securing captured data transmitted between two sources
JPH09154007A (ja) 1995-09-30 1997-06-10 Intec:Kk 機密情報記録方法
JP3881733B2 (ja) 1995-09-30 2007-02-14 インテック・ウェブ・アンド・ゲノム・インフォマティクス株式会社 機密情報記録方法
AU2435297A (en) * 1996-04-02 1997-11-07 Theodore G Handel Data embedding
US5768163A (en) 1996-04-15 1998-06-16 Hewlett-Packard Versatile attachment of handheld devices to a host computing system
US5850482A (en) * 1996-04-17 1998-12-15 Mcdonnell Douglas Corporation Error resilient method and apparatus for entropy coding
US6229924B1 (en) 1996-05-16 2001-05-08 Digimarc Corporation Method and apparatus for watermarking video images
US6188776B1 (en) 1996-05-21 2001-02-13 Interval Research Corporation Principle component analysis of images for the automatic location of control points
DE69739969D1 (de) 1996-06-20 2010-10-07 Ibm Verfahren zum verstecken von daten
TW312770B (en) * 1996-10-15 1997-08-11 Japen Ibm Kk The hiding and taking out method of data
US5825892A (en) 1996-10-28 1998-10-20 International Business Machines Corporation Protecting images with an image watermark
JP3649537B2 (ja) 1996-11-27 2005-05-18 日本アイ・ビー・エム株式会社 データハイディング方法及びデータ抽出方法
JP3154325B2 (ja) 1996-11-28 2001-04-09 日本アイ・ビー・エム株式会社 認証情報を画像に隠し込むシステム及び画像認証システム
US5875249A (en) * 1997-01-08 1999-02-23 International Business Machines Corporation Invisible image watermark for image verification
CA2227381C (en) 1997-02-14 2001-05-29 Nec Corporation Image data encoding system and image inputting apparatus
US5801919A (en) 1997-04-04 1998-09-01 Gateway 2000, Inc. Adjustably mounted camera assembly for portable computers
US5880928A (en) 1997-06-13 1999-03-09 Ma; His-Kuang Notebook computer with audio and video effects
TW352206U (en) 1997-12-30 1999-02-01 First Int Computer Inc Structure for hidden type image picking apparatus of notebook computer
US6148333A (en) 1998-05-13 2000-11-14 Mgi Software Corporation Method and system for server access control and tracking
JP3991249B2 (ja) 1998-07-15 2007-10-17 ソニー株式会社 符号化装置および符号化方法、復号装置および復号方法、情報処理装置および情報処理方法、並びに記録媒体
US5946414A (en) * 1998-08-28 1999-08-31 Xerox Corporation Encoding data in color images using patterned color modulated image regions

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008236777A (ja) * 1998-10-07 2008-10-02 Sony Corp 復号装置および復号方法、記録媒体、並びにデータ処理装置
JP4556147B2 (ja) * 1998-10-07 2010-10-06 ソニー株式会社 復号装置および復号方法、記録媒体、並びにデータ処理装置

Also Published As

Publication number Publication date
JP2000232365A (ja) 2000-08-22
US6804372B1 (en) 2004-10-12
US7424130B2 (en) 2008-09-09
US20050031161A1 (en) 2005-02-10

Similar Documents

Publication Publication Date Title
JP4147700B2 (ja) 符号化装置および符号化方法、並びに記録媒体
JP4822304B2 (ja) 画像処理装置および画像処理方法、並びに記録媒体
US7738711B2 (en) Coding apparatus and method, decoding apparatus and method, data processing system, storage medium, and signal
JP3924967B2 (ja) 符号化装置および方法、復号装置および方法、記録媒体、並びにデータ処理システム
JP4182603B2 (ja) 符号化装置および符号化方法、復号装置および復号方法、記録媒体、並びにデータ処理装置
JP3991249B2 (ja) 符号化装置および符号化方法、復号装置および復号方法、情報処理装置および情報処理方法、並びに記録媒体
JP4556147B2 (ja) 復号装置および復号方法、記録媒体、並びにデータ処理装置
JP4143884B2 (ja) 符号化装置および符号化方法、復号装置および復号方法、記録媒体、並びにデータ処理装置
JP4232118B2 (ja) データ処理装置、データ処理方法、およびプログラム
KR100711012B1 (ko) 코딩 장치 및 방법, 디코딩 장치 및 방법, 데이터 처리 시스템, 기억 매체 및 신호
KR100777144B1 (ko) 코딩 장치와 방법, 디코딩 장치와 방법, 데이터 처리 시스템, 저장 매체, 및 기록 매체
JP3940986B2 (ja) データ処理装置およびデータ処理方法、並びにプログラム
JP3944821B2 (ja) データ処理装置、データ処理方法、およびプログラム
JP4099687B2 (ja) 画像処理装置および画像処理方法、並びに媒体
JP2000324482A (ja) データ処理装置およびデータ処理方法、並びに画像処理装置および画像処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060221

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080519

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080522

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080718

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080812

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080825

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110912

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110912

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110912

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120912

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120912

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130912

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees