JP5508896B2 - Image processing method - Google Patents

Image processing method Download PDF

Info

Publication number
JP5508896B2
JP5508896B2 JP2010036784A JP2010036784A JP5508896B2 JP 5508896 B2 JP5508896 B2 JP 5508896B2 JP 2010036784 A JP2010036784 A JP 2010036784A JP 2010036784 A JP2010036784 A JP 2010036784A JP 5508896 B2 JP5508896 B2 JP 5508896B2
Authority
JP
Japan
Prior art keywords
image
superimposed
information
superimposed image
stego
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010036784A
Other languages
Japanese (ja)
Other versions
JP2011176385A (en
Inventor
隆亮 山田
由泰 高橋
竜 海老澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2010036784A priority Critical patent/JP5508896B2/en
Priority to PCT/JP2011/051715 priority patent/WO2011105164A1/en
Publication of JP2011176385A publication Critical patent/JP2011176385A/en
Application granted granted Critical
Publication of JP5508896B2 publication Critical patent/JP5508896B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00838Preventing unauthorised reproduction
    • H04N1/00856Preventive measures
    • H04N1/00864Modifying the reproduction, e.g. outputting a modified copy of a scanned original
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0021Image watermarking
    • G06T1/005Robust watermarking, e.g. average attack or collusion attack resistant
    • G06T1/0064Geometric transfor invariant watermarking, e.g. affine transform invariant
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00838Preventing unauthorised reproduction
    • H04N1/00883Auto-copy-preventive originals, i.e. originals that are designed not to allow faithful reproduction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N1/32101Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N1/32144Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title embedded in the image data, i.e. enclosed or integrated in the image, e.g. watermark, super-imposed logo or stamp
    • H04N1/32149Methods relating to embedding, encoding, decoding, detection or retrieval operations
    • H04N1/32203Spatial or amplitude domain methods
    • H04N1/32208Spatial or amplitude domain methods involving changing the magnitude of selected pixels, e.g. overlay of information or super-imposition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2201/00General purpose image data processing
    • G06T2201/005Image watermarking
    • G06T2201/0601Image watermarking whereby calibration information is embedded in the watermark, e.g. a grid, a scale, a list of transformations

Description

本発明は、静止画,動画などの画像に,人の目に判りにくいように情報を潜像として埋め込み,画像に何らかの処理が施された場合に,埋め込まれた情報を潜像として検知,処理する技術,および情報を埋め込む方法に関する。   The present invention embeds information as a latent image in an image such as a still image or a moving image so that it is difficult for the human eye to understand, and detects and processes the embedded information as a latent image when some processing is applied to the image. Technology and a method of embedding information.

画像に情報を付与する技術には,大別して,下記3種類がある。
・情報を画像とは別に保持して両者を一体として扱う方法
・情報を画像の中に可視状態で重畳する方法
・情報を画像の中に不可視状態に隠す方法
情報を画像の中に不可視状態に隠す方法の例として,電子透かし技術は,コンテンツの冗長部分を利用して,埋め込んだ識別情報を表現する技術である。埋め込まれた識別情報はコンテンツを人が見る分には不可視だが,特殊な検出方法を使うとコンテンツから抽出できる。
There are roughly the following three types of techniques for adding information to images.
・ A method to keep information separately from the image and handle them together ・ A method to superimpose information in the image in a visible state ・ A method to hide information in an invisible state in an image Information to be invisible in an image As an example of the concealment method, the digital watermark technique is a technique for expressing embedded identification information by using a redundant part of content. The embedded identification information is invisible to the person viewing the content, but can be extracted from the content using a special detection method.

デジタルコンテンツ向けにも使える潜像技術には,次のような技術が開示されている。   The following technologies are disclosed as latent image technologies that can also be used for digital contents.

特開平8−197828号公報(要約)JP-A-8-197828 (summary) 特開2003−118200号公報(段落0009)JP 2003-118200 A (paragraph 0009) 特開2000−76418号公報(段落0011)JP 2000-76418 A (paragraph 0011)

従来の潜像技術は主として印刷物向けに開発された技術であり,デジタルコンテンツ向けに利用することが難しい。以下では,潜像という用語を広義に用い,潜像を隠すことによりセキュリティやサービスを充実化する技術を潜像技術と称する。
ここでは,印刷物技術との用語の混乱を回避するために,原本の画像Aに対して,潜像を隠した画像Bがあるとき,前者Aをカバー画像,後者Bをステゴ画像と称する。隠す潜像はカバー画像に重畳することから,重畳画像と称する。画像とは静止画,動画,3D動画などを指す。
Conventional latent image technology has been developed mainly for printed materials and is difficult to use for digital content. Hereinafter, the term “latent image” is used in a broad sense, and a technique for enhancing security and services by hiding the latent image is referred to as a “latent image technique”.
Here, in order to avoid the confusion of the term “printed material technology”, when there is an image B in which the latent image is hidden with respect to the original image A, the former A is referred to as a cover image and the latter B is referred to as a stego image. Since the hidden latent image is superimposed on the cover image, it is referred to as a superimposed image. Images refer to still images, moving images, 3D moving images, and the like.

本発明は,従来の印刷用途以外にも,ステゴ画像がデジタルコンテンツの場合に,ステゴ画像に画像処理が加えられる場合についても対象とする。   In addition to conventional printing applications, the present invention is also intended for cases where image processing is applied to a stego image when the stego image is digital content.

特許文献1によって,ステゴ画像上に加えられた細線は,デジタル画像処理によって大きな変化を生じにくい。また,特許文献2の微小点でも同様である。例えば,圧縮符号化処理ではノイズ除去フィルタ処理を行うこともあり,微小点で表現した重畳画像は消失しやすい。カバー画像が細線で構成する模様の場合,画格縮小処理によって,カバー画像の模様全体が平滑化されやすく,細線も太線も,大きな面積の中の濃淡平均値で平滑化された時に,濃淡差を生じない。   According to Patent Document 1, a fine line added on a stego image is unlikely to change greatly due to digital image processing. The same applies to the minute points in Patent Document 2. For example, a noise reduction filter process may be performed in the compression encoding process, and a superimposed image expressed by minute points is likely to disappear. When the cover image is a pattern composed of thin lines, the entire pattern of the cover image is easily smoothed by the scale reduction process, and when both the thin lines and the thick lines are smoothed with the average value of the density in a large area, the density difference Does not occur.

特許文献3の技術は,カバー画像上で不可視の状態であり,人の目で重畳画像を直接認識できない。   The technique of Patent Document 3 is invisible on the cover image, and the superimposed image cannot be directly recognized by human eyes.

本発明は,デジタルコンテンツのステゴ画像に対しても,アナログ/デジタルの画像処理が施されたときに,隠した情報が可視化する(受動的に目視検知可能となる)ステゴ画像の作成方法および検知方法,運用方法を提供する。特に,デジタル画像処理として縮小処理,再圧縮符号化処理に伴う画像加工において,処理後に強調される成分に着目した潜像技術を提供する。   The present invention also provides a method and a method for creating a stego image in which hidden information is visualized (passive visual detection is possible) when analog / digital image processing is performed on a stego image of digital content. Provide methods and operational methods. In particular, the present invention provides a latent image technique that focuses on components emphasized after processing in image processing accompanying reduction processing and recompression encoding processing as digital image processing.

本発明は、また,意識的に隠した情報を検出する方法を提供する。   The present invention also provides a method for detecting consciously hidden information.

本明細書において開示される技術のうち,一つの観点に従う構成と作用は以下のとおりである。   Of the techniques disclosed in this specification, the configuration and operation according to one aspect are as follows.

なお、以下の説明において、画像をデータという場合がある。   In the following description, an image may be referred to as data.

重畳画像をカバーデータに人の目に見えないように隠し,ステゴデータを作成し,画像処理を経たステゴデータから重畳画像を検知する。重畳処理は,カバーデータを微小に変更することにより行う。重畳画像に、縮小により顕像化する特性(幾何変形特性という)と,再圧縮符号化により顕像化する特性(再圧縮符号化特性という)と、を付与し,重畳画像を、潜像としてカバーデータに薄く重畳する。重畳画像が人の目で検知困難であるため,ステゴデータを普通に販売,流通させることができる。   The superimposed image is hidden in the cover data so as not to be visible to the human eye, stego data is created, and the superimposed image is detected from the stego data that has undergone image processing. The superimposition process is performed by changing the cover data slightly. The superimposed image is given a characteristic that is visualized by reduction (referred to as a geometric deformation characteristic) and a characteristic that is visualized by recompression coding (referred to as a recompressed coding characteristic), and the superimposed image is used as a latent image. Lightly superimpose on the cover data. Since it is difficult for human eyes to detect superimposed images, stego data can be sold and distributed normally.

しかし,ステゴデータが画像処理を経た場合。幾何変形特性,再圧縮符号化特性により、重畳画像の信号成分が強調されることから,重畳画像が顕像化され,人の目に見えるようになる。また,重畳画像に不正行為を牽制する文字を書いたり,証明しようとする画像生成時刻を表示したりすると,潜像としてステゴデータに隠された文字などの情報を,必要に応じて検知できる。さらに,検知結果を用いて他の機器やシステム動作に反映させることができる。   However, when stego data has undergone image processing. Since the signal component of the superimposed image is enhanced by the geometric deformation characteristic and the recompression coding characteristic, the superimposed image is visualized and made visible to the human eye. In addition, when a character for checking fraud is written on the superimposed image or an image generation time to be proved is displayed, information such as a character hidden in the stego data as a latent image can be detected as necessary. Furthermore, the detection result can be reflected in other devices and system operations.

画像重畳装置は,演算手段,入力手段,出力手段,メモリ(一次記憶手段),ディスク(二次記憶手段)、通信を備えた計算機上で,画像重畳方法を実現するプログラム(またはモジュール)をメモリ上で動作させることによって実現できる。   An image superimposing device stores a program (or module) for realizing an image superimposing method on a computer equipped with arithmetic means, input means, output means, memory (primary storage means), disk (secondary storage means), and communication. This can be realized by operating above.

画像重畳方法は,重畳位置マップ位置あわせ指定処理,スクランブル化処理,時間空間領域分割処理,バッファ,幾何変形特性設定処理,再圧縮特性設定処理,重畳データ作成処理,重畳処理,圧縮符号化パラメータ調整処理,ステゴデータ出力処理,補助情報出力処理,電子署名処理,暗号化処理,画質解析処理,変換係数/量子化テーブル抽出処理を含む。さらに,重畳位置マップを用いてカバーデータと重畳画像の位置合わせを行い,強度マップテーブルを用いて,重畳画像の強度調整を行う。   Image superposition method includes superposition position map alignment specification processing, scramble processing, time-space domain division processing, buffer, geometric deformation characteristic setting processing, recompression characteristic setting processing, superimposition data creation processing, superimposition processing, compression coding parameter adjustment Processing, stego data output processing, auxiliary information output processing, electronic signature processing, encryption processing, image quality analysis processing, conversion coefficient / quantization table extraction processing. Further, the cover data and the superimposed image are aligned using the superimposed position map, and the intensity of the superimposed image is adjusted using the intensity map table.

幾何変形特性設定処理では,次のような技術原理に基づいて,重畳画像を加工する。カバー画像を,ある比率Rで縮小したときに,重畳画像の大きさになるようなカバー画像の部分領域に注目する。重畳処理においては,カバー画像上の部分領域で,重畳画像の絵柄と対応付く場所Aと,対応がない場所Bに注目する。場所Aについては,カバー画像上の部分領域の画素値の平均値を少し変化させる。場所Bについては,変化させない。このような変化をカバー画像に与えると,カバー画像を縮小した時に,意図的に平均値を変化させた場所同士がつながって人間に知覚され,重畳画像が浮き上がって見える。   In the geometric deformation characteristic setting process, the superimposed image is processed based on the following technical principle. Attention is paid to a partial area of the cover image that becomes the size of the superimposed image when the cover image is reduced by a certain ratio R. In the superimposition processing, attention is paid to a location A that corresponds to the pattern of the superimposed image and a location B that does not correspond in the partial area on the cover image. For the location A, the average value of the pixel values of the partial areas on the cover image is slightly changed. Place B is not changed. When such a change is given to the cover image, when the cover image is reduced, places where the average value is intentionally changed are connected to each other and perceived by humans, and the superimposed image appears to float.

再圧縮特性設定処理では,次のような技術原理に基づいて,重畳画像を加工する。再圧縮符号化条件(ビットレートなど)に応じたカットオフ周波数を設定し,重畳画像からカットオフ周波数以上の周波数成分を除去し,カットオフ周波数未満の周波数であって、予め定めた範囲の周波数成分の信号電力を増強する。この処理により,重畳画像には,形状特徴に応じたモスキートノイズが強調される。重畳画像が重畳されたステゴデータを再圧縮符号化すると,カバー画像に中間周波数成分,高周波成分が多く含まれている場合には,再圧縮符号化処理後に,重畳画像の中間周波数成分,高周波成分も多く残る。再圧縮符号化処理は,注目する部分領域(マクロブロック)ごとに処理を行う。このため,注目領域の画素値と,注目領域の隣にある別の領域の画素値との連続性が担保されない。そのため,人の視覚では,重畳画像を構成する画素の位置で,強調したモスキートノイズに加えて,ブロックノイズを認知する。これらの視認されたノイズが複数の注目領域に渡ってつながって見えることにより,人が重畳画像を知覚しやすくなる。   In the recompression characteristic setting process, the superimposed image is processed based on the following technical principle. Set a cutoff frequency according to the recompression encoding conditions (bit rate, etc.), remove the frequency component higher than the cutoff frequency from the superimposed image, and have a frequency within the predetermined range that is lower than the cutoff frequency. Increase the signal power of the component. By this processing, mosquito noise corresponding to the shape feature is emphasized in the superimposed image. If the cover image contains many intermediate frequency components and high frequency components when the stego data on which the superimposed image is superimposed is recompressed, the intermediate frequency components and high frequency components of the superimposed image are processed after the recompression encoding process. Many remain. The recompression encoding process is performed for each partial area (macroblock) of interest. For this reason, the continuity between the pixel value of the attention area and the pixel value of another area adjacent to the attention area is not ensured. Therefore, in human vision, block noise is recognized in addition to the emphasized mosquito noise at the position of the pixels constituting the superimposed image. Since these visually recognized noises appear to be connected across a plurality of attention areas, it becomes easier for a person to perceive a superimposed image.

一つの観点に従った上記態様によって得られる効果は以下のとおりである。
・ステゴ画像は画像処理を加えない限り,通常の視聴において支障とならない。
・重畳画像は可視マークよりも邪魔にならない。
・不可視の電子透かしと比べて,偽造コンテンツや不正コピー(海賊版)から直接見えるため,不正抑止効果が大きい。
・重畳画像の検出が誰でも可能である。
・ステゴ画像に対する携帯電話,ビデオカメラによる再撮行為によっても重畳画像が可視化する。
・画像全体に対する一方向処理が可能なため,重畳画像(牽制模様)を消去困難である。仮に,強引に消去しようとしても重畳画像(牽制模様)の痕跡が残り,原画の価値を大幅に低下させると共に,牽制効果が継続する。
・ステゴ画像を作成する際に,強度調整することにより,必要な画質に設定可能である。
・重畳画像付加によってステゴ画像データ量が増大することを抑制する。
・検出アルゴリズム(目視)を公開しても,システムとして,コンテンツの安全性や信頼性が低下しない。従来の電子透かしはアルゴリズムを秘匿しない限り,安全性を担保できなかった。本発明は,アルゴリズムを公開しても安全な電子透かしを提供する。
・重畳画像自体をスクランブル化し,スクランブル鍵を安全に配送することにより,適切な鍵を持つ人だけが重畳画像を確認可能となって,重畳画像(牽制模様)自体のセキュリティ確立が可能である。鍵交換可能な電子透かしの新しい構成を提供する。
・目視確認できる重畳画像(ロゴや牽制模様など)の代わりに機械読み取り可能な重畳画像を用いることによって,従来の電子透かし同等機能を提供可能である。
The effects obtained by the above embodiment according to one aspect are as follows.
• Stego images do not interfere with normal viewing unless image processing is added.
-The superimposed image is less disturbing than the visible mark.
-Compared with invisible digital watermarks, it can be seen directly from counterfeit content and illegal copies (pirated versions), so it has a greater anti-fraud effect.
-Anyone can detect the superimposed image.
-Superimposed images can also be visualized by taking pictures of stego images with a mobile phone or video camera.
-Since one-way processing of the entire image is possible, it is difficult to delete the superimposed image (check pattern). Even if the image is forcibly erased, the trace of the superimposed image (check pattern) remains, and the value of the original picture is greatly reduced and the check effect continues.
-When creating a stego image, it is possible to set the required image quality by adjusting the intensity.
-Suppressing an increase in the amount of stego image data due to the addition of superimposed images
-Even if the detection algorithm (visual) is disclosed, the safety and reliability of the content will not be reduced as a system. Conventional digital watermarks could not guarantee safety unless the algorithm was kept secret. The present invention provides a digital watermark that is safe even if the algorithm is disclosed.
-By superimposing the superimposed image itself and delivering the scramble key safely, only the person with the appropriate key can confirm the superimposed image, and the security of the superimposed image (check pattern) itself can be established. A new configuration of key exchangeable digital watermark is provided.
-A conventional digital watermark equivalent function can be provided by using a machine-readable superimposed image instead of a visually identifiable superimposed image (such as a logo or check pattern).

さらに,本明細書が開示する潜像技術を応用する代表的なシステムによって得られる効果は、以下のとおりである。
・コンテンツ認証:
認証情報,オーソリティ連絡先等を文字画像として重畳することにより,検証作業が容易なコンテンツ認証手段を提供できる。
・改ざん検知:
真正性情報を文字画像として重畳することにより,画像処理が加えられた偽造物か原本かを目視検知できる。真正性の確認に特別な装置が不要であり,プレーヤ操作により,視聴画面サイズを変更すると牽制模様が可視化するなど,検証作業が容易化する。
・著作権保護:
映像視聴者IDや配信経路情報を牽制模様として重畳することにより。モニタ出力画面をビデオカメラ等を用いて再撮されるような不正コピー作成時に,画質上のコンテンツ価値が大幅低下する。また,利用者を明示的に牽制できるため,不正コピー抑止に寄与する。
・情報漏えい抑止:
アクセス者IDや管理組織名などを牽制模様として重畳することにより,不正利用者本人を明示的に牽制できるため,操作間違いによる情報漏洩を防止する。悪意を持った情報漏えいに対しても抑止効果がある。
・コピー世代管理:
電子透かしなど他のセキュリティ技術と併用することにより,上記各応用システムのセキュリティを強化できる。重畳画像と同じ情報が電子透かしとしても検出できないと,画像は偽物と判断できる。ステゴ画像作成時に電子透かしを埋め込んでおくことにより,もし,カバー画像から電子透かしを検出すると,そのカバー画像は重畳画像が既に書き込まれた画像であると判定し,重畳画像の二度書きを防止する。
・情報ハイディング:
重畳画像をバーコード状の模様表現とすることにより,目視確認でなく,機械読み取り精度を高めることができる。
・ソフトウェア保護:
カバー画像に製品シリアル番号を重畳したステゴ画像を出力する画像処理ソフトウェアは,どのソフトウェアで処理した画像であるか身元の証明が容易になる。
・流通管理:
重畳画像として,経路,管理者,サーバ名などを表示することにより,どの経路を経てきた画像であるか身元の証明が容易になる。
・課金:
ステゴ画像に上に重畳画像として,課金/決済済み(非済み)マークを表示することにより,利用者に課金状況などのコンテンツのステータスを容易に確認させることができる。
Furthermore, the effects obtained by a typical system to which the latent image technology disclosed in this specification is applied are as follows.
・ Content authentication:
By superimposing authentication information, authority contact information, etc. as a character image, it is possible to provide a content authentication means that can be easily verified.
・ Falsification detection:
By superimposing the authenticity information as a character image, it is possible to visually detect whether the image is a forgery or an original. A special device is not required to check the authenticity, and the verification operation is facilitated by making the check pattern visible when the viewing screen size is changed by the player operation.
・ Copyright protection:
By superimposing the video viewer ID and distribution route information as a check pattern. The content value in terms of image quality is greatly reduced when an illegal copy is created such that the monitor output screen is re-captured using a video camera or the like. In addition, the user can be explicitly controlled, which contributes to the prevention of unauthorized copying.
・ Information leakage suppression:
By superimposing the accessor ID, the management organization name, etc. as a check pattern, the unauthorized user can be explicitly checked, thus preventing information leakage due to an operation error. It also has a deterrent effect on malicious information leakage.
-Copy generation management:
By using it together with other security technologies such as digital watermarking, the security of each application system can be enhanced. If the same information as the superimposed image cannot be detected as a digital watermark, the image can be determined to be fake. By embedding a digital watermark when creating a stego image, if a digital watermark is detected from a cover image, the cover image is determined to be an image in which the superimposed image has already been written, and the superimposed image is prevented from being written twice. To do.
・ Information hiding:
By making the superimposed image a bar-code-like pattern expression, the machine reading accuracy can be improved instead of visual confirmation.
Software protection:
Image processing software that outputs a stego image in which a product serial number is superimposed on a cover image makes it easy to prove the identity of the software processed image.
・ Distribution management:
By displaying the route, administrator, server name, etc. as the superimposed image, it becomes easy to prove the identity of the route through which the image has passed.
・ Billing:
By displaying a charged / settled (non-completed) mark as a superimposed image on the stego image, the user can easily check the status of the content such as the charging status.

本明細書が開示する潜像技術は、画像に情報を隠し,隠した情報を検出し処理するソフトウェア,装置,サービス,システム,コンテンツ,媒体およびその応用用途に適用可能である。特に,コンテンツ認証,改ざん検知,著作権保護,情報漏えい抑止,コピー世代管理,記録管理,情報ハイディング,ソフトウェア保護,流通管理,課金管理などに利用できる。   The latent image technology disclosed in the present specification can be applied to software, devices, services, systems, contents, media, and application applications for hiding information in images and detecting and processing the hidden information. In particular, it can be used for content authentication, falsification detection, copyright protection, information leakage suppression, copy generation management, record management, information hiding, software protection, distribution management, billing management, and the like.

本発明により、情報を隠したステゴ画像に対して,画像処理が施されたときに,隠した情報が可視化するようなステゴ画像の作成方法または検知方法,運用方法が提供される。   According to the present invention, there is provided a stego image creation method, a detection method, and an operation method in which hidden information is visualized when image processing is performed on the stego image with hidden information.

潜像技術の概念図である。It is a conceptual diagram of a latent image technique. 潜像技術のシステム実装例である。It is a system implementation example of latent image technology. 潜像の検知方法の例である。It is an example of the detection method of a latent image. 画像重畳装置の構成例である。It is an example of composition of an image superposition device. 重畳画像への幾何変形特性の付与原理の概念図である。It is a conceptual diagram of the principle of giving geometric deformation characteristics to a superimposed image. 重畳画像への幾何変形特性を付与する処理手順を例示する図である。It is a figure which illustrates the process sequence which provides the geometric deformation characteristic to a superimposition image. 強度マップの作成方法を詳細に例示する図である。It is a figure which illustrates in detail the creation method of an intensity map. 強度マップテーブルの説明図である。It is explanatory drawing of an intensity map table. 動画像を例示した場合のカバー画像と重畳画像の重畳処理手順を例示する図である。It is a figure which illustrates the superimposition processing procedure of a cover image at the time of illustrating a moving image, and a superimposed image. 重畳画像への再圧縮符号化特性の付与処理手順の概念を例示する図である。It is a figure which illustrates the concept of the provision process procedure of the recompression encoding characteristic to a superimposition image. 再圧縮符号化特性の付与において,ステゴ画像が圧縮符号化画像処理を経ると重畳画像が可視化する基本原理の説明図である。FIG. 10 is an explanatory diagram of a basic principle that a superposed image is visualized when a stego image undergoes compression-encoded image processing in giving re-compression encoding characteristics. ステゴ画像に対して再圧縮符号化特性を付与する詳細な手順を例示する図である。It is a figure which illustrates the detailed procedure which provides the recompression encoding characteristic with respect to a stego image. 重畳位置マップに応じて重畳された重畳画像のイメージ図である。It is an image figure of the superimposition image superimposed according to the superposition position map. 人の目の認知によらず,機械が重畳画像の検知を自動判定する上で,重畳装置の処理手順を例示する図である。It is a figure which illustrates the process sequence of a superimposition apparatus, when a machine determines automatically the detection of a superimposition image irrespective of recognition of a human eye. 人の目の認知によらず,機械が重畳画像の検知を自動判定する上で,検出装置の処理手順を例示する図である。It is a figure which illustrates the process sequence of a detection apparatus, when a machine automatically determines the detection of a superimposed image irrespective of recognition of a human eye. 重畳画像自体に埋め込まれた電子透かし検出の処理手順を例示する図である。It is a figure which illustrates the process sequence of the electronic watermark detection embedded in the superimposed image itself.

以下、本発明の実施の形態を図面に基づいて詳細に説明する。なお、実施の形態を説明するための全図において、同一の部材には原則として同一の符号を付し、その繰り返しの説明は省略する。   Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings. Note that components having the same function are denoted by the same reference symbols throughout the drawings for describing the embodiment, and the repetitive description thereof will be omitted.

図1に,潜像技術の概念図を示す。   FIG. 1 shows a conceptual diagram of the latent image technology.

本実施例における潜像技術とは,重畳画像102をカバーデータ101に人の目に見えないように隠し,ステゴデータ104を作成し,画像処理105を経たステゴデータ106から重畳画像102を検知する技術をいう。重畳処理103は,カバーデータを微小に変更することにより行う。重畳画像が人の目に見えないため,ステゴデータ104を普通に販売,流通させることができる。しかし,ステゴデータ104が画像処理105を経た場合。重畳画像が可視化され,人の目に見えるようになる。例えば,重畳画像102に不正行為を牽制する文字を書いたり,証明しようとする画像生成時刻を表示したりすることにより,不正行為抑止や真正性証明に利用できる。   The latent image technique in this embodiment is to hide the superimposed image 102 from the cover data 101 so as not to be seen by human eyes, create stego data 104, and detect the superimposed image 102 from the stego data 106 that has undergone image processing 105. Refers to technology. The superimposing process 103 is performed by minutely changing the cover data. Since the superimposed image is not visible to the human eye, the stego data 104 can be sold and distributed normally. However, when the stego data 104 has undergone the image processing 105. The superimposed image is visualized and becomes visible to the human eye. For example, it can be used for fraud deterrence or authenticity proof by writing a character for checking fraud on the superimposed image 102 or displaying an image generation time to be proved.

図2に,潜像技術のシステム実装例を示す。   FIG. 2 shows a system implementation example of the latent image technology.

利用者は,画像重畳装置203の入力装置に対して,カバーデータ101を入力する。さらに,文字,音声,画像,動画,データベース(DB)検索結果などを利用者が指定し,重畳画像102としてユーザが入力する。あるいは,GPS(Global Positioning System)等を用いた位置時刻発生源やDBなどの別システムの出力結果を,ネットワークを介して,画像重畳装置203に入力してもよい。画像重畳装置203はカバーデータ101に重畳画像102を重畳し,ステゴデータ104を出力する。図2の例では,重畳画像102あるいは牽制模様として,ステゴデータ配布先利用者のIDと,画像の複写が禁止されていることを示す文字列を指定する。ステゴデータ104をデコーダ205(プレーヤ,あるいは再生機)に入力すると,モニタ206に出力され,人207の目には,カバーデータ101と同じに見える。   The user inputs the cover data 101 to the input device of the image superimposing device 203. Further, the user designates characters, sounds, images, moving images, database (DB) search results, etc., and the user inputs them as the superimposed image 102. Alternatively, a position time generation source using a GPS (Global Positioning System) or the like, or an output result of another system such as a DB may be input to the image superimposing device 203 via a network. The image superimposing device 203 superimposes the superimposed image 102 on the cover data 101 and outputs the stego data 104. In the example of FIG. 2, the ID of the stego data distribution destination user and a character string indicating that image copying is prohibited are designated as the superimposed image 102 or the check pattern. When the stego data 104 is input to the decoder 205 (player or player), it is output to the monitor 206 and looks to the eyes of the person 207 the same as the cover data 101.

もしも,ステゴデータ104が不正コピーされるなどされて,不正コピーステゴデータ208がトランスコーダなどの画像処理装置209を経ると,その画像処理を受けた処理画像210が出力される。処理画像210をデコーダ211(プレーヤ,あるいは再生機)に入力すると,モニタ212に出力され,人213の目には,カバーデータの上に重畳画像が重畳されて見える。あるいは,ステゴデータ208を検出装置214に入力することにより,あらかじめ利用者が入力指定した,重畳画像102,あるいは,重畳画像102の元となった文字,音声,画像などの情報215が出力される。   If the stego data 104 is illegally copied and the illegal copy stego data 208 passes through an image processing device 209 such as a transcoder, a processed image 210 subjected to the image processing is output. When the processed image 210 is input to the decoder 211 (player or player), the processed image 210 is output to the monitor 212, and the person 213 sees the superimposed image superimposed on the cover data. Alternatively, by inputting the stego data 208 to the detection device 214, the superimposed image 102 or information 215 such as characters, sounds, and images that are the basis of the superimposed image 102, which is designated by the user in advance, is output. .

検出装置214の出力を,ネットワークなどの通信装置を介して,さらに別のシステムやサービスに接続し,システム動作,サービス内容を検出情報に対応させて制御してもよい。検出情報215が4ビット相当のコピー制御情報(禁複写,複写可など)の場合,別システムで,検出情報215に対応したコピー制御や再送信制御,管理記録制御などの機器制御をステゴデータに対して行うことができる。   The output of the detection device 214 may be connected to another system or service via a communication device such as a network, and the system operation and service content may be controlled in correspondence with the detection information. If the detection information 215 is copy control information corresponding to 4 bits (prohibited copying, copying permitted, etc.), the device control such as copy control, retransmission control, management record control corresponding to the detection information 215 is converted into stego data in another system. Can be done against.

図3に,潜像の検知方法の例を示す。   FIG. 3 shows an example of a latent image detection method.

潜像は,トランスコーダなどの画像処理装置を経ても検知できるが,他にも容易に検知する方法がある。デコーダ302を調整して再生画像を縮小表示させても人304の目に潜像が検知できる。あるいは,デコーダ302を通常再生し,デコーダ302のモニタ303への出力(この段階では人に不可視の状態の場合に)をビデオカメラ305,デジカメ306,カメラ付携帯電話307で撮影すると,ステゴデータ301はDA−AD変換(アナログ変換),幾何変形(縮小など),再圧縮符号化処理を受ける。このような再圧縮符号化処理後の処理画像は,トランスコーダと同様に,潜像を可視化させるため,これらの方法によってでも,人308の目に検知できる。ビデオプリンタ307を用いて画面を印刷してもよい。   Although the latent image can be detected through an image processing apparatus such as a transcoder, there are other methods for easily detecting the latent image. Even if the reproduced image is reduced and displayed by adjusting the decoder 302, the latent image can be detected by the eyes of the person 304. Alternatively, when the decoder 302 is normally played back and the output to the monitor 303 of the decoder 302 (when it is invisible to humans at this stage) is captured by the video camera 305, the digital camera 306, and the camera-equipped mobile phone 307, the stego data 301 Are subjected to DA-AD conversion (analog conversion), geometric deformation (reduction, etc.), and recompression coding processing. The processed image after such recompression encoding processing can be detected by the eyes of the person 308 even by these methods in order to visualize the latent image in the same manner as the transcoder. A screen may be printed using the video printer 307.

図4に,画像重畳装置を実現する処理部の構成例を示す。   FIG. 4 shows a configuration example of a processing unit that realizes the image superimposing apparatus.

画像重畳装置203は,演算装置(CPU),入力装置,出力装置,メモリ(一次記憶装置),ディスク(二次記憶装置)、通信装置を備えた計算機上で,画像重畳方法を実現するプログラム(またはモジュール)をメモリ上で動作させることによって実現できる。   The image superimposing device 203 is a program that realizes an image superimposing method on a computer that includes an arithmetic unit (CPU), an input device, an output device, a memory (primary storage device), a disk (secondary storage device), and a communication device ( Or a module) on a memory.

プログラムは、あらかじめ、上記計算機内のメモリまたはディスクに格納されていても良いし、必要なときに、上記計算機が利用可能な媒体を介して、他の装置から導入されてもよい。媒体とは、たとえば、上記計算機に着脱可能な記憶媒体、または通信媒体(すなわち有線、無線、光などのネットワーク、または当該ネットワークを伝搬する搬送波やディジタル信号)を指す。   The program may be stored in advance in a memory or a disk in the computer, or may be introduced from another device via a medium that can be used by the computer when necessary. The medium refers to, for example, a storage medium that can be attached to and detached from the computer, or a communication medium (that is, a wired, wireless, optical network, or a carrier wave or digital signal that propagates through the network).

図4に示す各処理部は、メモリまたはディスクに格納されたそれぞれの処理部を実現するプログラム(またはモジュール)をCPUが実行することにより、実現される。   Each processing unit shown in FIG. 4 is realized by the CPU executing a program (or module) that realizes each processing unit stored in a memory or a disk.

プログラムが実現する入力受付処理として,証明鍵生成/入力処理401,ワーク鍵生成/入力処理402,カバーデータ入力処理403,重畳情報入力処理404,重畳データ入力・編集・画像化処理405,スクランブル鍵生成/入力処理406,強度入力/強度マップ設定処理407がある。入力装置は,マルチモーダルユーザインタフェースを備え,上記各処理では、利用者による入力と別システムからの入力を受け付ける。   As input reception processing realized by the program, certification key generation / input processing 401, work key generation / input processing 402, cover data input processing 403, superimposition information input processing 404, superimposition data input / editing / imaging processing 405, scramble key There is a generation / input process 406 and an intensity input / intensity map setting process 407. The input device includes a multimodal user interface, and in each of the above processes, an input by a user and an input from another system are accepted.

変換係数/量子化テーブル検出処理408は、カバーデータ入力処理403が入力を受け付けたカバーデータから,画像の特徴として変換係数と量子化テーブルを抽出する。カバーデータが圧縮符号化済みデータの時には,周波数変換されていることが多く,例えば,MPEGの場合,変換係数はDCT(Discrete Cosign Transformation)係数を指す。カバーデータが非圧縮データの場合には,所定の量子化テーブルを用いて周波数変換を行い,変換係数を得る。   A conversion coefficient / quantization table detection process 408 extracts a conversion coefficient and a quantization table as image features from the cover data received by the cover data input process 403. When the cover data is compression-encoded data, the frequency conversion is often performed. For example, in the case of MPEG, the conversion coefficient indicates a DCT (Discrete Cosign Transformation) coefficient. When the cover data is uncompressed data, frequency conversion is performed using a predetermined quantization table to obtain a conversion coefficient.

重畳情報入力処理404が入力を受け付けた情報は,カバーデータに対する重畳データの位置合わせの元となる情報であり,右上,中央,全体などを指定し,これらを元に重畳位置マップを作成する。位置あわせの概念については図13を参照されたい。重畳データ入力・編集・画像化処理405が入力を受け付けた利用者指定情報が文字の場合,それを文字画像化して重畳データに変換する。音声の場合は,音声認識により文字化,文字画像化して重畳データに変換する。文字,音声,画像,動画などを編集してもよい。重畳データの元の大きさと,カバーデータの大きさ,および,どの幾何変形方法で重畳データが浮き上がるようにするかの倍率等のパラメータを指定する。面積比1/2で反応するようにするなど,あらかじめ定めてある規定値を用いてもよいし,複数のパラメータを画像の部分領域ごとに別々に定めてもよい。   The information received by the superimposition information input process 404 is information that is the basis for positioning the superimposition data with respect to the cover data. The upper right, the center, the whole, etc. are designated, and a superposition position map is created based on these. See FIG. 13 for the concept of alignment. If the user designation information received by the superimposition data input / editing / imaging processing 405 is a character, it is converted into a superimposition data by converting it into a character image. In the case of voice, it is converted into superimposition data by converting it into a character and a character image by voice recognition. You may edit text, audio, images, video, etc. Specify the parameters such as the original size of the superimposed data, the size of the cover data, and the scaling factor by which geometric deformation method is used to float the superimposed data. A predetermined value such as a reaction at an area ratio of ½ may be used, or a plurality of parameters may be determined separately for each partial region of the image.

重畳情報入力処理404は,重畳位置マップに関わる利用者の指定情報の入力を受け付ける。重畳位置マップ位置あわせ指定処理409は,重畳位置マップを生成する。重畳位置マップは,カバーデータの画像座標系において,重畳画像(あるいはその縮小・拡大画像)の大きさ,重畳画像の位置,フレーム時刻,数,可視化特性,種類,元データのメモリ格納アドレスなどを定めるデータである(図13も参照)。   The superimposition information input process 404 accepts input of user designation information related to the superposition position map. The superposition position map alignment designation processing 409 generates a superposition position map. The superimposition position map shows the size of the superimposition image (or its reduced / enlarged image), the position of the superimposition image, the frame time, number, visualization characteristics, type, memory storage address of the original data, etc. in the image coordinate system of the cover data. This data is determined (see also FIG. 13).

重畳情報入力処理404は,重畳画像に対して電子透かし技術を用いて情報を埋め込んでおいてもよい。例えば,公開特許公報2007−013357号には,牽制文字などの二値画像に対しても適用可能な電子透かし技術が開示されている。入力装置で指定された情報でもよいし,時刻などの自動生成情報でもよい。   In the superimposition information input process 404, information may be embedded in the superimposed image using a digital watermark technique. For example, Japanese Patent Application Publication No. 2007-013357 discloses a digital watermark technique that can be applied to binary images such as check characters. It may be information specified by the input device or automatically generated information such as time.

スクランブル鍵生成/入力処理406が生成,あるいは入力を受け付けたスクランブル鍵を用いて,スクランブル化処理411は,重畳データを暗号化する。これは,重畳情報入力処理404において,重畳データを暗号化するよう指定があった場合に行う。重畳画像がスクランブル化処理411によってスクランブルされる場合には,重畳画像に用いた鍵と同じスクランブル鍵を用いて,強度マップをスクランブル化処理416によってスクランブルすることにより,強度マップと重畳画像の画素の位置の対応を取る。その後,重畳データ作成処理417は、強度マップを反映させた重畳データを作成する。   Using the scramble key generated or received by the scramble key generation / input process 406, the scramble process 411 encrypts the superimposed data. This is performed when it is designated in the superimposition information input process 404 that the superimposition data is encrypted. When the superimposed image is scrambled by the scramble processing 411, the intensity map is scrambled by the scramble processing 416 using the same scramble key as the key used for the superimposed image, whereby the intensity map and the pixel of the superimposed image are Take position correspondence. Thereafter, the superimposition data creation processing 417 creates superimposition data reflecting the intensity map.

時間空間領域分割処理412は,時間,空間を部分領域に分割する。時間空間領域分割処理412は,重畳情報入力処理404,重畳位置マップ位置あわせ指定処理409によって入力受け付け/生成された重畳位置マップの指定に従う。動画の場合,フレーム種類によって処理のためのバッファ413を用いる場合がある。さらに,時間空間領域分割処理412が、重畳データ入力・編集・画像化処理405の出力する重畳画像(あるいはスクランブル化された重畳画像)に対して,幾何変形特性設定処理414,再圧縮特性設定処理415を用いて,後で説明する特殊な加工を施した後,重畳データ作成処理417が,重畳データを作成する。   The time-space area dividing process 412 divides time and space into partial areas. The time-space region division processing 412 follows the designation of the superposition position map that is accepted / generated by the superposition information input processing 404 and the superposition position map position designation processing 409. In the case of a moving image, a buffer 413 for processing may be used depending on the frame type. Further, the space-time domain division processing 412 performs geometric deformation characteristic setting processing 414, recompression characteristic setting processing on the superimposed image (or scrambled superimposed image) output from the superimposed data input / edit / image processing 405. After performing special processing, which will be described later, using 415, a superimposed data creation process 417 creates superimposed data.

強度入力/強度マップ設定処理407は,利用者の指定した強度マップを入力/設定/生成し,後に,重畳データの強度を調整し,重畳データを作成する作業を補佐する。強度マップは,画像の画素値の変更量や周波数成分の変更量の上限下限などをあらかじめ定めておくか,利用者が指定してもよいし,カバーデータの輝度値との関係から算出してもよい。作成あるいは入力あるいは予め定められた強度マップのデータは,メモリあるいはディスク上の強度マップテーブル(強度マップテーブルの概念については図8参照)に格納しておく。   The intensity input / intensity map setting process 407 inputs / sets / generates an intensity map designated by the user, and later adjusts the intensity of the superimposed data to assist the work of creating the superimposed data. The intensity map is determined in advance by setting the upper and lower limits of the amount of change in the pixel value of the image and the amount of change in the frequency component, or may be specified by the user or calculated from the relationship with the brightness value of the cover data. Also good. The data of the created or input or predetermined intensity map is stored in an intensity map table on the memory or disk (see FIG. 8 for the concept of the intensity map table).

重畳処理418は,重畳位置マップ位置あわせ指定処理409の指定する重畳位置マップに沿って,重畳データとカバーデータの重畳を行う。画像の重畳には,画像の周波数成分の加算によって重畳してもよいし,輝度色差信号成分の画素値同士の加算でもよい。加算に際して,カバーデータの画質が著しく劣化することのないよう,事前に,画質解析処理424が、カバーデータあるいは重畳データに対して,重畳データの成分の強弱を調整してもよい。   The superimposition process 418 performs superimposition of the superimposition data and the cover data along the superimposition position map designated by the superimposition position map alignment designation process 409. The image may be superimposed by adding the frequency components of the image or by adding the pixel values of the luminance / color difference signal components. At the time of addition, the image quality analysis processing 424 may adjust the strength of the superimposed data component in advance with respect to the cover data or the superimposed data so that the image quality of the cover data does not deteriorate significantly.

圧縮符号化パラメータ調整処理419は,重畳処理を経た画像に対して,それが非圧縮であれば圧縮符号化する。また,重畳処理を経た画像が圧縮符号化済みで,変換係数の加算によって生成されていれば,その操作に伴うデータの変化(例えばデータサイズ,上限値,変更された量子化テーブルの差し替えなど)について,ヘッダ情報やファイル管理情報などのパラメータ調整を行う。   The compression coding parameter adjustment processing 419 performs compression coding on an image that has undergone the superimposition processing if it is uncompressed. In addition, if the image that has undergone the superimposition process has been compression-encoded and has been generated by adding transform coefficients, the data change (for example, data size, upper limit value, changed quantization table replacement, etc.) associated with the operation Adjust parameters such as header information and file management information.

ステゴデータ出力処理420は,潜像を含むステゴデータを出力する。利用者からステゴデータを暗号化するよう指示があった場合には,ワーク鍵生成/入力処理402が生成/入力受け付けしたワーク鍵を用いて,暗号化処理421がステゴデータを暗号化し,出力する。ステゴデータあるいは暗号化ステゴデータは,さらに,証明鍵生成/入力処理401が生成/入力受け付けした署名鍵を用いて,電子署名処理422が電子署名データ,証明書データを付与してもよい。   The stego data output process 420 outputs stego data including a latent image. When the user gives an instruction to encrypt the stego data, the encryption process 421 encrypts and outputs the stego data using the work key generated / input accepted by the work key generation / input process 402. . For the stego data or the encrypted stego data, the electronic signature processing 422 may add the electronic signature data and certificate data by using the signature key generated / input accepted by the certification key generation / input processing 401.

補助情報出力処理423は,スクランブル鍵,ワーク鍵,電子署名,証明書,署名鍵,タイムスタンプ,時刻情報,管理情報,ユーザ情報などを出力する。ステゴデータ出力処理420の出力先,および,補助情報出力処理423の出力先は,ディスクであってもよいし,モニタや可搬媒体であってもよいし,ネットワーク接続された別システムであってもよい。   The auxiliary information output processing 423 outputs a scramble key, work key, electronic signature, certificate, signature key, time stamp, time information, management information, user information, and the like. The output destination of the stego data output processing 420 and the output destination of the auxiliary information output processing 423 may be a disk, a monitor, a portable medium, or another system connected to the network. Also good.

図5は,重畳画像への幾何変形特性の付与原理を示す概念図である。   FIG. 5 is a conceptual diagram showing the principle of imparting geometric deformation characteristics to a superimposed image.

カバー画像501を,ある比率Rで縮小したときに,重畳画像の大きさになるようなカバー画像yo501の部分領域yo502に注目する。重畳画像ymは503,幅wd,高さhdとする。カバー画像yo501のうちの部分領域は幅ws,高さhsとする。最小公倍数を求める関数をLCM( )とする。   Attention is paid to a partial area yo502 of the cover image yo501 that becomes the size of the superimposed image when the cover image 501 is reduced by a certain ratio R. The superimposed image ym is set to 503, a width wd, and a height hd. The partial area of the cover image yo501 has a width ws and a height hs. A function for obtaining the least common multiple is LCM ().

仮想上の矩形領域505で,幅LCM(ws,wd),高さLCM(hs,hd)の領域は,重畳画像503の幅,高さを整数倍したものと等価である。同様に,この同じ矩形領域505は,カバー画像501の注目領域502の幅,高さを,別の整数で整数倍したものと等価である。これらの幾何関係に注目すると,重畳画像503の中でのある1画素509は,カバー画像501の中で,(ws/wd)*(hs/hd)領域508に対応する。なお,図5で,重畳画像を示す黒い小ブロック503は重畳画像の1画素に相当するが,カバー画像の黒い小ブロック508や仮想上の矩形領域の黒い小ブロック506は,それぞれの画素と直接対応せず画像全体の中の相対的な位置と大きさを示している。   In the virtual rectangular area 505, an area having a width LCM (ws, wd) and a height LCM (hs, hd) is equivalent to an integral multiple of the width and height of the superimposed image 503. Similarly, the same rectangular area 505 is equivalent to a value obtained by multiplying the width and height of the attention area 502 of the cover image 501 by another integer. Paying attention to these geometrical relationships, one pixel 509 in the superimposed image 503 corresponds to the (ws / wd) * (hs / hd) region 508 in the cover image 501. In FIG. 5, the black small block 503 indicating the superimposed image corresponds to one pixel of the superimposed image, but the black small block 508 of the cover image and the black small block 506 of the virtual rectangular area are directly connected to the respective pixels. It shows the relative position and size in the whole image without corresponding.

カバー画像yo501の中で,(ws/wd)*(hs/hd)注目領域508が,縮小時に重畳画像サイズの画素として反映される画素値となる。例えば,注目領域508の画素値の平均が,カバー画像を縮小した後に,縮小カバー画像のある1画素の画素値となる場合がある。あるいは,注目領域508の中の特定の1画素の画素値が,カバー画像を縮小した後に,縮小カバー画像のある1画素の画素値となる場合がある。   In the cover image yo501, the (ws / wd) * (hs / hd) attention area 508 is a pixel value reflected as a pixel of the superimposed image size at the time of reduction. For example, the average pixel value of the attention area 508 may become the pixel value of one pixel of the reduced cover image after the cover image is reduced. Alternatively, the pixel value of one specific pixel in the attention area 508 may become the pixel value of one pixel of the reduced cover image after the cover image is reduced.

重畳処理においては,カバー画像上の部分領域で,重畳画像の絵柄と対応付く場所Aと,対応がない場所Bに注目する。場所Aについては,カバー画像上の部分領域の画素値の平均値を少し変化させる。場所Bについては,変化させない。このような変化をカバー画像に与えると,カバー画像を縮小した時に,意図的に平均値を変化させた場所同士がつながって人間に知覚され,重畳画像が浮き上がって見える。カバー画像の部分領域が完全に重畳画像のサイズに縮小されれば,最もはっきりと重畳画像が浮き出て見える。認知心理学の研究成果により,人間には,離れた図形をつなげて見ようとする心理が働くことが知られている。このため,別の縮小の場合でも重畳画像が浮き出て見える。   In the superimposition processing, attention is paid to a location A that corresponds to the pattern of the superimposed image and a location B that does not correspond in the partial area on the cover image. For the location A, the average value of the pixel values of the partial areas on the cover image is slightly changed. Place B is not changed. When such a change is given to the cover image, when the cover image is reduced, places where the average value is intentionally changed are connected to each other and perceived by humans, and the superimposed image appears to float. If the partial area of the cover image is completely reduced to the size of the superimposed image, the superimposed image appears most clearly. It is known from the research results of cognitive psychology that human beings have a psychology that tries to connect distant figures. For this reason, the superimposed image appears to appear even in another reduction.

図6は,幾何変形特性設定処理414における,重畳画像への幾何変形特性を付与する処理手順を示す図である。   FIG. 6 is a diagram showing a processing procedure for imparting a geometric deformation characteristic to the superimposed image in the geometric deformation characteristic setting process 414.

重畳データ入力・編集画像化処理405において,入力受け付け/生成した重畳画像を重畳画像sAと呼ぶ。また,カバーデータ入力処理403において,入力受け付け/生成した画像をカバー画像501として用いる。重畳位置マップ位置あわせ指定処理409が生成した重畳位置マップは,カバーデータの画像座標系において,重畳画像(あるいはその縮小・拡大画像)の大きさ,重畳画像の位置,フレーム時刻,数,可視化特性,種類,元データのメモリ格納アドレスなどを定めるデータである(図13も参照)。カバー画像yo501を,ある比率Rで縮小したときに,重畳画像503の大きさになるようなカバー画像yoの部分領域507に注目する。重畳画像ym503は,幅wd,高さhdとする(図5参照)。カバー画像501の注目領域507は,重畳位置マップの示す複数の重畳位置候補の中から一つを選択する。ステップ601の前処理として,これらの処理を繰り返し/順次処理してゆく。   In the superimposed data input / edited image processing 405, the superimposed image that has been accepted / generated is referred to as a superimposed image sA. Further, in the cover data input process 403, an input accepted / generated image is used as the cover image 501. The superposition position map generated by the superposition position map alignment designation processing 409 is the size of the superposition image (or its reduced / enlarged image), the position of the superposition image, the frame time, the number, and the visualization characteristics in the image coordinate system of the cover data. , Type, data for determining the memory storage address of the original data, etc. (see also FIG. 13). Attention is paid to a partial area 507 of the cover image yo that becomes the size of the superimposed image 503 when the cover image yo 501 is reduced by a certain ratio R. The superimposed image ym503 has a width wd and a height hd (see FIG. 5). As the attention area 507 of the cover image 501, one is selected from a plurality of overlapping position candidates indicated by the overlapping position map. As pre-processing of step 601, these processes are repeated / sequentially processed.

ステップ601において,重畳画像sAに電子透かしを用いて管理情報を埋め込み,重畳画像sBを作成する。この管理情報は,前述したように,ユーザ入力によるものであってもよいし,予め定められたものであってもよいし,外部から別のシステム(時刻発生源など)の入力を用いてもよい。   In step 601, management information is embedded in the superimposed image sA using a digital watermark to create a superimposed image sB. As described above, the management information may be input by a user, may be determined in advance, or may be input from another system (such as a time generation source) from the outside. Good.

ステップ602において,重畳画像sBを縦横xs1倍,ys1倍に拡大し,重畳画像sBが二値画像(1画素1ビット)の場合これを多値化(例,1画素8ビット)して,多値画像の重畳画像sCを得る。   In step 602, the superimposed image sB is enlarged to xs1 times and ys1 times in the vertical and horizontal directions, and when the superimposed image sB is a binary image (1 bit per pixel), it is converted into a multivalued (eg, 8 bits per pixel) A superimposed image sC of the value image is obtained.

xs1=LCM(ws,wd) / wd
ys1=LCM(ws,wd) / wd
ステップ603において,拡大された重畳画像sCにローパスフィルタ(LPF)をかけて,重畳画像sDを得る。なお,重畳画像sDの大きさは,LCM(ws,wd) * LCM(hs,hd)である。
xs1 = LCM (ws, wd) / wd
ys1 = LCM (ws, wd) / wd
In step 603, a low-pass filter (LPF) is applied to the enlarged superimposed image sC to obtain a superimposed image sD. Note that the size of the superimposed image sD is LCM (ws, wd) * LCM (hs, hd).

ステップ604において,LPF後の重畳画像sDを縦横1/xs2,1/ys2に縮小して,重畳画像sEを得る。   In step 604, the superimposed image sD after LPF is reduced to 1 / xs2, 1 / ys2 in the vertical and horizontal directions to obtain a superimposed image sE.

xs2=LCM(ws,wd) / ws
ys2=LCM(hs,hd) / hs
ステップ605において,強度入力/強度マップ設定処理407は,強度マップを読み込み,設定する(図7,図8も参照)。強度マップに従って重畳時に,注目ブロックの平均ピクセル値が変化するよう,均質に/選択的に重ね合せて,重畳画像sFを作成する。あるいは,カバー画像の画質を維持するように重ね合せる。例えば,注目ブロックの平均ピクセル値が変化しないよう,選択的に重ね合せる場合には次のようにする。注目ブロックの平均ピクセル値が変化しなくても,特定の画素値が突出した状態を作成すると,縮小時などで特定の画素値だけが選択的に処理画像上に反映される画像処理(最近傍法による縮小など)の場合などには,ステゴ画像の画質劣化を抑えながら潜像を隠すことができる。このような多様な処理の判断基準となる強度マップを予め用意,あるいは動的に生成して利用者が選択利用する。
xs2 = LCM (ws, wd) / ws
ys2 = LCM (hs, hd) / hs
In step 605, the intensity input / intensity map setting process 407 reads and sets the intensity map (see also FIGS. 7 and 8). A superimposed image sF is created by superimposing uniformly / selectively so that the average pixel value of the block of interest changes during superimposition according to the intensity map. Alternatively, they are superimposed so as to maintain the image quality of the cover image. For example, in the case of selectively overlapping so that the average pixel value of the block of interest does not change, the following is performed. Even if the average pixel value of the block of interest does not change, if you create a state in which a specific pixel value protrudes, image processing in which only the specific pixel value is selectively reflected on the processed image at the time of reduction (the nearest neighbor) In the case of reduction by the law), it is possible to hide the latent image while suppressing deterioration of the image quality of the stego image. An intensity map serving as a judgment criterion for such various processes is prepared in advance or dynamically generated and selected and used by the user.

ステップ606において,カバー画像と重畳画像sFを重畳し,ステゴ画像を得る。重畳処理418が行う。カバー画像の重畳対象は輝度成分であってもよいし,色差成分やRGB成分であってもよい。重畳画像も輝度濃淡と解釈してもよいし,8ビット情報の上位4ビットを赤色成分,下位4ビットの反転情報(0に近いものほど大きな値として評価)を青色成分など,別の色に分離してもよい。   In step 606, the cover image and the superimposed image sF are superimposed to obtain a stego image. Superimposition processing 418 is performed. The superimposition target of the cover image may be a luminance component, a color difference component, or an RGB component. Superimposed images may also be interpreted as luminance shading, and the upper 4 bits of 8-bit information are red components, and the inversion information of lower 4 bits (evaluated as a larger value closer to 0) is a different color such as a blue component. It may be separated.

図7は,ステップ605で述べた強度マップの作成方法を詳細に示す図である。   FIG. 7 is a diagram showing in detail the method for creating the intensity map described in step 605.

ステップ701において,重畳画像sE709を読み込む。   In step 701, the superimposed image sE709 is read.

ステップ702において,ユーザが指定する管理情報の設定を行う。   In step 702, management information designated by the user is set.

ステップ703において,重畳画像全域において,重畳画像の中を小さな部分領域に分割し,下記ステップ704からステップ707の処理を繰り返す。   In step 703, the entire superimposed image is divided into small partial areas in the entire superimposed image, and the following steps 704 to 707 are repeated.

ステップ704において,重畳画像の注目部分領域を設定する。   In step 704, the target partial area of the superimposed image is set.

ステップ705において,強度マップを格納してある強度マップテーブル(図8参照)を参照する。   In step 705, the intensity map table (see FIG. 8) storing the intensity map is referred to.

ステップ706において,重畳画像を分析し,重畳画像の特徴量を求める。線分方向(8方向),オブジェクトの凹凸度(白黒密度),面積,重心などの判定を行う。線分方向の判定は,上下左右斜め8方向を向いた線分画像と重畳画像の画素値との相関計算によって行い,相関値の最小となった方向を線分方向として設定する。凹凸度は注目部分領域の周波数成分の大きさで図ることができる。   In step 706, the superimposed image is analyzed to obtain a feature amount of the superimposed image. The line segment direction (eight directions), the degree of unevenness of the object (black and white density), area, center of gravity, etc. are determined. The determination of the line segment direction is performed by calculating the correlation between the line segment image directed in the eight directions of up, down, left and right and the pixel value of the superimposed image, and the direction having the minimum correlation value is set as the line segment direction. The unevenness can be achieved by the size of the frequency component of the target partial region.

ステップ707において,部分領域の特徴量に応じた強度マップデータを選択する。多様な選択方法が考えられる。例えば,線分方向に対して平行に大きな強度値を分布したマップを選択する,あるいは,線分方向に対して直交する方向に大きな強度値を分布したマップを選択する,あるいは,凹凸度が大きい/小さい場合に,均質な/分散した強度マップを選択する。利用者が選択してもよい。   In step 707, intensity map data corresponding to the feature amount of the partial area is selected. Various selection methods are possible. For example, select a map that distributes large intensity values parallel to the line segment direction, or select a map that distributes large intensity values in a direction orthogonal to the line segment direction, or has a large degree of unevenness / If small, select a homogeneous / distributed intensity map. The user may select it.

ステップ707において,選択した強度マップに指定された強度情報(強度パラメータ)にユーザ指定の強度設定の値を加算あるいは乗算し,強度マップ710を作成する。もし,この強度マップを適切な比率で縮小すると,縮小強度マップ711に示すように,離れた点がつながって見えて,潜像がよりはっきりと可視化しやすくなる。   In step 707, an intensity map 710 is created by adding or multiplying the intensity information (intensity parameter) specified in the selected intensity map by a user-specified intensity setting value. If the intensity map is reduced at an appropriate ratio, as shown in the reduced intensity map 711, distant points are connected and the latent image is easily visualized more clearly.

ステップ708において,重畳画像sFを出力する。   In step 708, the superimposed image sF is output.

図8は,強度マップテーブルを示す説明図である。   FIG. 8 is an explanatory diagram showing an intensity map table.

図7の強度マップの作成方法に基づいて定められた強度マップは,ディスクまたはメモリ上の強度マップテーブル801に格納する。強度マップテーブル801の各レコードは,部分領域の画素並び802,ID803,線分方向804,オブジェクトの凹凸度(白黒密度)805,管理情報806,強度設定値807を含んで構成される。面積,重心などの関連情報を格納してもよい。重畳時に,平均ピクセル値が変化するよう,均質に/選択的に重ね合せ。管理情報806は,ステップ605,ステップ606において,カバー画像の画質を維持するように重ね合せ,などのユーザ指定を反映しない場合に指定されるフラグである。このフラグが消えていると,ユーザ指定を優先して処理する。   The intensity map determined based on the intensity map creation method of FIG. 7 is stored in an intensity map table 801 on a disk or memory. Each record of the intensity map table 801 includes a partial region pixel array 802, ID 803, line segment direction 804, object unevenness (black and white density) 805, management information 806, and intensity setting value 807. Related information such as area and center of gravity may be stored. Homogeneous / selective superposition so that the average pixel value changes during superposition. The management information 806 is a flag specified in step 605 and step 606 when the user specification such as overlaying so as to maintain the image quality of the cover image is not reflected. When this flag is off, priority is given to user designation.

ステップ707において,部分領域の特徴量に応じた強度マップデータを選択する。注目する部分領域の画素値の並び(図8では白黒二値の4x4領域で例示)に応じて,強度設定値807を選択する。あるいは,線分方向804,オブジェクトの凹凸度(白黒密度)805などをテーブル検索キーとして,強度設定値807を得てもよい。   In step 707, intensity map data corresponding to the feature amount of the partial area is selected. The intensity setting value 807 is selected according to the arrangement of pixel values of the partial area of interest (illustrated as a 4 × 4 area of black and white binary in FIG. 8). Alternatively, the strength setting value 807 may be obtained using the line segment direction 804, the degree of unevenness (monochrome density) 805 of the object, etc. as a table search key.

図9は,動画像を例示した場合のカバー画像と重畳画像の重畳処理手順を示す説明図である。   FIG. 9 is an explanatory diagram illustrating a procedure for superimposing a cover image and a superimposed image when a moving image is exemplified.

ステップ901において,重畳位置マップ作成を行う。   In step 901, a superimposed position map is created.

ステップ902において,重畳画像を周波数変換,量子化を行う。   In step 902, the superimposed image is subjected to frequency conversion and quantization.

ステップ903において,カバー画像読み込み,復号化,色空間調整を行う。   In step 903, cover image reading, decoding, and color space adjustment are performed.

ステップ904において,カバー画像のGOP(Group Of Picture)単位,あるいは,フレーム単位での繰り返し制御を行う。   In step 904, iterative control is performed in GOP (Group Of Picture) units or frame units of the cover image.

ステップ905において,フレームデータをフレームバッファに格納する。   In step 905, the frame data is stored in the frame buffer.

ステップ914において,あるフレームの中に含まれる輝度情報,色差情報について,スライス単位あるいはマクロブロック単位での繰り返し制御を行い,順次,一つのマクロブロックに注目する。マクロブロックの大きさは16x16などである。   In step 914, the luminance information and chrominance information included in a certain frame are repeatedly controlled in units of slices or macroblocks, and attention is paid sequentially to one macroblock. The size of the macroblock is 16 × 16 or the like.

ステップ906において,重畳位置マップを参照する。   In step 906, the superimposed position map is referred to.

ステップ907において,注目マクロブロックの位置が,重畳位置マップで指定された位置(カバー画像の中で重畳画像を重ねる位置)かどうか判定を行う。重畳位置でなければ,次のマクロブロックを参照するようステップ914の処理に戻る。ステップ907において,注目マクロブロックの位置が,重畳位置である場合には,ステップ908からステップ913の処理を行う。   In step 907, it is determined whether or not the position of the macro block of interest is a position specified in the superimposition position map (a position where the superimposition image is superimposed in the cover image). If it is not the superposition position, the process returns to step 914 to refer to the next macroblock. If it is determined in step 907 that the position of the macro block of interest is a superposition position, the processing from step 908 to step 913 is performed.

ステップ908において,注目マクロブロックがイントラマクロブロックかどうかの判定を行う。イントラマクロブロックでない場合,注目マクロブロックの情報は,他の時刻のフレーム情報の中の特定のマクロブロックを実体として,動きベクトルを用いてアドレス参照する形で存在する。   In step 908, it is determined whether the target macroblock is an intra macroblock. When the macro block is not an intra macro block, information on the target macro block exists in a form in which a specific macro block in the frame information at another time is used as an entity and an address is referenced using a motion vector.

ステップ909において,フレームバッファを参照し,注目マクロブロックに対応するマクロブロック情報で,時刻上別フレームに存在するマクロブロック情報(言わば絵柄に相当)を得る。   In step 909, the macro buffer information (corresponding to a picture) existing in another frame in time is obtained from the macro block information corresponding to the target macro block with reference to the frame buffer.

ステップ910において,注目するマクロブロック情報を,必要に応じて時刻上別フレームに存在するマクロブロック情報の実体に置き換える。すなわち,動きベクトルによる圧縮表現を,局所的にキャンセルして画素値集合の周波数成分に変換する。   In step 910, the noticed macroblock information is replaced with the actual macroblock information existing in another frame in time as necessary. That is, the compressed expression by the motion vector is locally canceled and converted to the frequency component of the pixel value set.

重畳位置マップを参照しながら,マクロブロックをさらに小さなマクロブロックに置き換えて,必要最小限のキャンセル操作を行えば,動きベクトルキャンセルに伴う出力データ量増大が抑制できる。   By referring to the superposition position map and replacing the macroblock with a smaller macroblock and performing the minimum necessary cancel operation, an increase in the amount of output data due to motion vector cancellation can be suppressed.

また,時刻上別フレームに存在するマクロブロック情報がすでに重畳画像を重畳していた場合には,局所的に動きベクトルをキャンセルしない場合もある。例えば,動きベクトルによる圧縮表現で,動きがない背景部分で,時刻上別フレームに存在するマクロブロック情報を参照する場合である。あるマクロブロック情報を書き換えると,そのマクロブロックを参照する他のフレームでは,そのまま書き換え結果が反映される。   In addition, when macroblock information existing in another frame in time has already superimposed a superimposed image, the motion vector may not be locally canceled. For example, this is a case in which macroblock information existing in another frame in time is referred to in a background portion having no motion in a compressed expression using a motion vector. When a certain macroblock information is rewritten, the rewrite result is reflected as it is in other frames referring to the macroblock.

ステップ911において,重畳画像とカバー画像のマクロブロック同士を重畳する。周波数変換によるデータ表現の場合,変換関数の線形性から,周波数領域上で加算した値を空間領域に逆変換した画素値は,空間上(すなわち絵柄)の画素値としてカバー画像と重畳画像を加算した結果の画素値と技術的に同等である。   In step 911, the macro blocks of the superimposed image and the cover image are superimposed. In the case of data representation by frequency transformation, the pixel value obtained by inversely transforming the value added in the frequency domain into the spatial domain is added to the cover image and the superimposed image as the spatial (ie, picture) pixel value due to the linearity of the transformation function. The resulting pixel value is technically equivalent.

ステップ912において,以上の処理におけるGOP構造,フレーム情報,スライス情報,マクロブロック情報の書き替えに伴って,圧縮符号化パラメータ調整を行う。例えば,データ量が変化するので変化後のデータ量を記録,計算する。   In step 912, compression coding parameter adjustment is performed along with rewriting of the GOP structure, frame information, slice information, and macroblock information in the above processing. For example, since the data amount changes, the data amount after the change is recorded and calculated.

ステップ913において,出力するヘッダ情報を設定する。   In step 913, header information to be output is set.

ステップ915において,変換係数などの符号化処理を行う。   In step 915, encoding processing such as transform coefficients is performed.

ステップ916において,GOP単位の処理が済んでいれば,バッファからGOP情報を読み出して出力を行う。GOP途中やフレーム処理の途中であれば,ステップ905に戻り,バッファに上記の中間情報を格納して次の処理(ステップ914)に移る。ステップ904において,すべてのGOPが処理されれば終了する。   In step 916, if processing in units of GOP has been completed, GOP information is read from the buffer and output. If it is in the middle of GOP or frame processing, the process returns to step 905, the intermediate information is stored in the buffer, and the process proceeds to the next process (step 914). In step 904, if all GOPs have been processed, the process ends.

図10は,重畳画像への再圧縮符号化特性の付与処理手順の概念を示す説明図である。   FIG. 10 is an explanatory diagram showing the concept of a re-compression encoding characteristic imparting processing procedure for a superimposed image.

再圧縮符号化特性の付与は,再圧縮特性設定処理415における処理である。カバー画像101の中の部分領域1002に注目する。この部分領域のデータ1003は,JPEG,MPEGなどのマクロブロックに相当し,例えば16x16などの矩形領域である。図10では4x4の例を示す。重畳画像102の中の部分領域1005に注目し,さらに,図5に示す幾何変形特性を付与する。幾何変形特性付与後のデータ群1006は,データ群1003と同じ画格となる。また,重畳位置マップ,強度マップの設定を反映し,図7の絵柄710と技術的に同等な状態の絵柄であり,このままでは人の目には重畳画像の絵柄が見難い。   The addition of the recompression coding characteristic is a process in the recompression characteristic setting process 415. Attention is paid to a partial area 1002 in the cover image 101. This partial area data 1003 corresponds to a macroblock such as JPEG or MPEG, and is a rectangular area such as 16 × 16. FIG. 10 shows a 4 × 4 example. Attention is paid to the partial area 1005 in the superimposed image 102, and the geometric deformation characteristics shown in FIG. The data group 1006 after giving the geometric deformation characteristics has the same picture size as the data group 1003. In addition, the setting of the superimposed position map and the intensity map is reflected, and the pattern is in a state that is technically equivalent to the pattern 710 in FIG. 7, and it is difficult for human eyes to see the pattern of the superimposed image.

MPEG,JPEGなどの圧縮符号化処理では周波数変換にはDCT変換が用いられる。圧縮符号化処理では,周波数変換後に,低周波数成分に多くのビットを割り当てるように量子化を行い,データ圧縮を行う。周波数成分の数値は量子化後に非可逆となって,量子化周波数成分を逆変換して得られる画素値は,元の画素値と微小に異なる。自然画像では低周波数成分に信号電力が集中するという特性を利用するものである。しかし,重畳画像の絵柄は,牽制文字を書く場合など,自然画像ではない場合があり,低周波成分だけでなく高周波成分も重要である。高周波成分を適切に維持,加工することにより,重畳画像へ再圧縮符号化特性を付与することができる。しかし周波数成分を低周波,中間周波,高周波とレベル分けをすると,高周波成分は圧縮符号化処理によって消失しやすいため。中間周波の選定,加工程度が重要となる。   In compression encoding processing such as MPEG and JPEG, DCT conversion is used for frequency conversion. In the compression encoding process, after frequency conversion, quantization is performed so that many bits are allocated to low frequency components, and data compression is performed. The numerical value of the frequency component becomes irreversible after quantization, and the pixel value obtained by inversely transforming the quantized frequency component is slightly different from the original pixel value. A natural image uses the characteristic that signal power concentrates on low frequency components. However, the pattern of the superimposed image may not be a natural image, such as when checking characters are written, and not only low frequency components but also high frequency components are important. By appropriately maintaining and processing the high-frequency component, it is possible to impart recompression coding characteristics to the superimposed image. However, if the frequency component is divided into low frequency, intermediate frequency, and high frequency, the high frequency component is easily lost by the compression encoding process. The selection and processing level of the intermediate frequency is important.

量子化変換係数テーブル1007は,データ群1003を周波数変換,量子化を通して得られた値の集合である。DCT変換係数の慣用的記法では,左上の低周波成分に有効な値が偏り,右下の高周波成分は多くの場合にゼロである。量子化変換係数の値がゼロになる周波数のうち,一番周波数が低いものをここでは,カットオフ周波数と呼ぶ。   The quantization transform coefficient table 1007 is a set of values obtained by frequency transforming and quantizing the data group 1003. In the conventional notation of DCT transform coefficients, the effective value is biased to the upper left low frequency component, and the lower right high frequency component is often zero. Here, the lowest frequency among the frequencies at which the value of the quantized transform coefficient is zero is referred to as a cutoff frequency.

図10(a)は,カバー画像101の部分領域のデータ1003を周波数変換,量子化して得られる周波数成分を示すグラフである。グラフは横軸が画像の周波数,縦軸が変換領域でのスペクトル値を示す。   FIG. 10A is a graph showing frequency components obtained by frequency-converting and quantizing the partial region data 1003 of the cover image 101. In the graph, the horizontal axis represents the frequency of the image, and the vertical axis represents the spectral value in the conversion region.

図10(b)は,重畳画像1004の幾何変形特性付与後のデータ群1006を周波数変換して得られる周波数成分を示すグラフである。図10(b)の中でカットオフ周波数を越える周波数部分をカットオフ領域1008と呼ぶ。   FIG. 10B is a graph showing frequency components obtained by frequency conversion of the data group 1006 after the geometric deformation characteristics of the superimposed image 1004 are given. In FIG. 10B, a frequency portion exceeding the cutoff frequency is referred to as a cutoff region 1008.

図10(c)は,図10(b)に示した周波数成分に対して,カットオフ周波数を適用し,高周波成分を除去したグラフである。このカットオフ周波数には量子化変換係数テーブル1007で計算された周波数を用いる。あるいは,カットオフ周波数を予め定めた範囲で微小に変化させた値を用いてもよい。   FIG. 10C is a graph obtained by applying a cutoff frequency to the frequency component shown in FIG. 10B and removing the high frequency component. The frequency calculated by the quantization transformation coefficient table 1007 is used as this cutoff frequency. Alternatively, a value obtained by minutely changing the cutoff frequency within a predetermined range may be used.

仮に,高周波成分を除去した周波数成分の集合は,逆周波数変換(IDCTなど)によって,空間領域に戻してみると,およそ元の絵柄に近い絵柄が再現される。ただし,除去される高周波成分は,元の重畳画像1005のエッジ部分近くに多く含まれている。周波数領域で,高周波成分だけが選択的に除去された場合,逆周波数変換(IDCTなど)によって,空間領域に戻した後,重畳画像のエッジ部分は乱れて,モスキートノイズが現れることがある。モスキートノイズとなって見える部分は,カットオフ周波数以上の周波数部分の波が,カットオフ周波数を壁として反射波が折り返したように,カットオフ周波数近くの周波数帯域に認知上の影響が現れ,人に知覚されやすくなる。   If a set of frequency components from which high-frequency components have been removed is returned to the spatial domain by inverse frequency transformation (IDCT or the like), a pattern that is close to the original pattern is reproduced. However, many high-frequency components to be removed are included near the edge portion of the original superimposed image 1005. When only high-frequency components are selectively removed in the frequency domain, after returning to the spatial domain by inverse frequency transformation (such as IDCT), the edge portion of the superimposed image may be disturbed and mosquito noise may appear. The part that appears to be mosquito noise has a cognitive effect on the frequency band near the cutoff frequency, such that the wave of the frequency part above the cutoff frequency is reflected by the cut-off frequency as a wall. It becomes easy to perceive.

図10(d)は,図10(b)に示した周波数成分に対して,カットオフ周波数以上の高周波成分を除去した後,カットオフ周波数未満の周波数帯(帯域幅fd)に加工を加えたものである。帯域幅fdの最大値,最小値をあらかじめ定数を定めてもよい。DCT変換の場合,周波数軸は,基底周波数θの倍数kθ(k=1〜n)で表せる。   In FIG. 10D, after removing the high frequency component higher than the cutoff frequency from the frequency component shown in FIG. 10B, the frequency band (bandwidth fd) below the cutoff frequency is processed. Is. Constants may be determined in advance for the maximum and minimum values of the bandwidth fd. In the case of DCT conversion, the frequency axis can be expressed by a multiple kθ (k = 1 to n) of the base frequency θ.

カットオフ周波数となるkの値をkcとするとき,(kco)×θの周波数成分は,図10(b)の横軸において,カットオフ周波数より1単位分低周波の周波数を示す。上記の加工は,(kc−1)×θの周波数成分に集中させて加工してもよい。あるいは,あらかじめ定めた2定数α,βを用いて,(kc−α)×θ〜(kc−β)×θの周波数帯域を帯域幅fdとして,加工対象としてもよい。   When the value of k as the cutoff frequency is kc, the frequency component of (kco) × θ indicates a frequency one unit lower than the cutoff frequency on the horizontal axis in FIG. The above processing may be performed by concentrating on the frequency component of (kc-1) × θ. Alternatively, using the predetermined two constants α and β, the frequency band of (kc−α) × θ to (kc−β) × θ may be set as the bandwidth fd and may be processed.

カットオフ周波数未満の周波数帯(帯域幅fd)に対して,カットオフ領域以上の領域部分のスペクトル値が持つ電力相当の値を加算する。電力は,グラフ上では波形の面積計算として得られ,計算範囲にある周波数帯におけるスペクトル値の和となる。あるいは,このスペクトル値の電力を,予め定めた範囲で微小に変化させた値を用いてもよい。   For the frequency band (bandwidth fd) lower than the cut-off frequency, a value corresponding to the power of the spectrum value in the region portion above the cut-off region is added. The power is obtained as a waveform area calculation on the graph and is the sum of the spectrum values in the frequency band within the calculation range. Alternatively, a value obtained by slightly changing the power of the spectrum value within a predetermined range may be used.

図10(e)は,出力されるステゴ画像の周波数成分を示すグラフである。図10(a)に示したカバー画像の部分領域のデータ1003を周波数変換/量子化して得られる周波数成分をAとする。重畳画像の幾何変形特性付与後のデータ群1006を周波数変換して得られる周波数成分に図10(d)に示した加工を施した周波数成分をBとする。図8で定めた強度設定値807に,予め定めた定数を乗算して得るパラメータαとしたとき,ステゴ画像の周波数成分CはAとBの線形和として計算できる(C=A+αB)。   FIG. 10E is a graph showing frequency components of the output stego image. A frequency component obtained by frequency conversion / quantization of the data 1003 of the partial region of the cover image shown in FIG. A frequency component obtained by performing the processing shown in FIG. 10D on the frequency component obtained by frequency-converting the data group 1006 after the geometric deformation characteristics of the superimposed image are defined as B. When the parameter α obtained by multiplying the intensity setting value 807 determined in FIG. 8 by a predetermined constant is used, the frequency component C of the stego image can be calculated as a linear sum of A and B (C = A + αB).

カットオフ周波数は,周波数変換時の設定によっても変わる。JPEGやMPEGの圧縮設定が高圧縮で小さなファイルを出力するとき,カットオフ周波数は低周波数に設定される。低圧縮の場合,高周波数となる。逆に,カットオフ周波数を意図的に低く設定すれば,高圧縮時に可視化されやすくなる重畳画像や,逆に,低圧縮時に可視化されやすくなる重畳画像を重畳できる。このように,ステゴ画像を圧縮する時のビットレートや画質などの設定に応じて,それに対応する再圧縮特性を持った重畳画像を作成できる。   The cut-off frequency also changes depending on the setting during frequency conversion. When a JPEG or MPEG compression setting is high compression and a small file is output, the cutoff frequency is set to a low frequency. In the case of low compression, the frequency is high. Conversely, if the cut-off frequency is intentionally set low, it is possible to superimpose a superimposed image that is easily visualized at high compression, and conversely, a superimposed image that is easily visualized at low compression. In this manner, a superimposed image having a recompression characteristic corresponding to the setting such as the bit rate and the image quality when the stego image is compressed can be created.

図11は,再圧縮符号化特性の付与において,ステゴ画像が圧縮符号化画像処理を経ると重畳画像が可視化する基本原理を示す説明図である。   FIG. 11 is an explanatory diagram showing the basic principle that a superimposed image is visualized when a stego image undergoes compression-encoded image processing in the provision of recompression encoding characteristics.

図11(e)は,図10(e)と同等の図であり,出力されるステゴ画像の周波数成分を示すグラフである。グラフは横軸が画像の周波数,縦軸が変換領域でのスペクトル値を示す。縦軸を量子化後のDCT係数と考えてもよい。   FIG.11 (e) is a figure equivalent to FIG.10 (e), and is a graph which shows the frequency component of the stego image output. In the graph, the horizontal axis represents the frequency of the image, and the vertical axis represents the spectral value in the conversion region. The vertical axis may be considered as a DCT coefficient after quantization.

図11(e)において,ステゴ画像の周波数成分を逆変換することにより得られるステゴ画像の空間成分(画素値)1101は,カバー画像101の注目領域1002と,幾何変形特性および再圧縮符号化特性を付与した重畳画像Xを重畳した絵柄となる。より詳細には,重畳画像102の注目領域のデータ1005に対して,幾何変形特性を付与した領域のデータ1106に,再圧縮符号化特性を付与する処理を加え,図10(d)の変換成分を持つデータが重畳画像Xである。重畳画像Xを重畳したステゴ画像の空間成分1101,および,空間成分1101を一部の領域1102に含むステゴ画像全体104を,人が目視すると,元の重畳画像102の絵柄が見えにくい。   In FIG. 11E, the spatial component (pixel value) 1101 of the stego image obtained by inversely transforming the frequency component of the stego image includes the region of interest 1002 of the cover image 101, the geometric deformation characteristics, and the recompression coding characteristics. The superimposed image X to which is added is a picture superimposed. More specifically, a process of adding a recompression coding characteristic to the data 1106 of the area to which the geometric deformation characteristic is given is added to the data 1005 of the attention area of the superimposed image 102, and the transform component shown in FIG. Is the superimposed image X. When a person visually observes the stego image of the stego image 1101 on which the superimposition image X is superimposed and the entire stego image 104 including the spatial component 1101 in a part of the region 1102, the design of the original superimposition image 102 is difficult to see.

図11(f)は,ステゴ画像104の一部の領域1102を再圧縮符号化処理によって変換し,得られる周波数成分を示すグラフである。図11(f)に示す周波数成分をさらに逆変換すると,カバー画像の注目領域1002に重畳画像102を重畳した絵柄に近い絵柄として見え,重畳画像の形状や文字が視認しやすくなる。   FIG. 11F is a graph showing frequency components obtained by converting a partial region 1102 of the stego image 104 by recompression encoding processing. When the frequency component shown in FIG. 11 (f) is further inversely transformed, it appears as a pattern close to the pattern in which the superimposed image 102 is superimposed on the attention area 1002 of the cover image, and the shape and characters of the superimposed image are easily visible.

再圧縮符号化処理では,図10(d)の処理によって強調されたモスキートノイズ状のノイズを打ち消すように,平滑化フィルタなどの画像処理が働く。また,ステゴ画像104の中の注目領域1104における重畳画像の成分を取り出すと,重畳されたカバー画像の影響を受けて,再圧縮符号化処理後に,にじむように空間的に広がる。また,カバー画像に中間周波数成分,高周波成分が多く含まれている場合には,再圧縮符号化処理後に,重畳画像の中間周波数成分,高周波成分も多く残る。しかし,再圧縮符号化処理は,注目する部分領域(マクロブロック)ごとに処理を行う。このため,注目領域1104の隣にある別のマクロブロックとの画素値の連続性が担保されない。そのため,人の視覚では,重畳画像を構成する画素の位置で,強調したモスキートノイズに加えて,ブロックノイズを認知する。これらの視認されたノイズが複数の注目領域1104に渡ってつながって見えることにより,人は重畳画像を知覚する。   In the recompression coding process, image processing such as a smoothing filter works so as to cancel out the mosquito noise-like noise emphasized by the process of FIG. Further, when a component of the superimposed image in the attention area 1104 in the stego image 104 is extracted, it is spatially spread so as to blur after the recompression encoding process due to the influence of the superimposed cover image. In addition, when the cover image includes many intermediate frequency components and high frequency components, many intermediate frequency components and high frequency components of the superimposed image remain after the recompression coding process. However, the recompression encoding process is performed for each partial area (macroblock) of interest. For this reason, continuity of pixel values with another macro block adjacent to the attention area 1104 is not ensured. Therefore, in human vision, block noise is recognized in addition to the emphasized mosquito noise at the position of the pixels constituting the superimposed image. When these visually recognized noises appear to be connected across a plurality of attention areas 1104, a person perceives a superimposed image.

図11(d’)は,ステゴ画像104の注目領域1104を再度周波数変換して得られる周波数特性である。変換成分量子化値,カットオフ周波数が変化し,重畳画像の周波数特性(変換帯域特性)が近似的に復元される。   FIG. 11D ′ shows frequency characteristics obtained by frequency-converting the attention area 1104 of the stego image 104 again. The transform component quantization value and the cut-off frequency change, and the frequency characteristic (transform band characteristic) of the superimposed image is approximately restored.

図12は,ステゴ画像に対して再圧縮符号化特性を付与する詳細な手順を示す説明図である。   FIG. 12 is an explanatory diagram showing a detailed procedure for giving a recompression coding characteristic to a stego image.

ステップ1201において,符号化されたカバー画像の変換係数を復元し,マクロブロック,量子化テーブル情報を抽出する。   In step 1201, the transform coefficient of the encoded cover image is restored, and the macroblock and quantization table information are extracted.

ステップ1202において,マクロブロックの量子化変換係数情報1007のゼロ値をスキャンし,カットオフ周波数を設定する。   In step 1202, the zero value of the macroblock quantization transform coefficient information 1007 is scanned to set a cutoff frequency.

ステップ1203において,重畳画像データを読み込み,領域分割する。重畳位置マップに従って,カバー画像と対応する位置を判別し,部分領域ごとに周波数変換,量子化を行い,変換係数を計算する。   In step 1203, the superimposed image data is read and divided into regions. According to the superposition position map, the position corresponding to the cover image is determined, frequency conversion and quantization are performed for each partial region, and a conversion coefficient is calculated.

ステップ1204において,重畳画像の変換係数のうち,カバー画像のカットオフ周波数より大きな周波数成分をより分けて,ステップ1205,ステップ1206の処理を行う。   In step 1204, the frequency components larger than the cut-off frequency of the cover image are further divided out of the conversion coefficients of the superimposed image, and the processing in steps 1205 and 1206 is performed.

ステップ1205において,図10(b)に示したような重畳画像の変換係数から,カットオフ周波数を設定する。利用者の入力指示により,再圧縮条件(ビットレートなど)を指定して,それに対応するカットオフ周波数として,低め,高めに設定してもよい。   In step 1205, a cutoff frequency is set from the conversion coefficient of the superimposed image as shown in FIG. A recompression condition (such as a bit rate) may be designated by a user input instruction, and the corresponding cut-off frequency may be set lower or higher.

ステップ1206において,重畳画像の変換係数に対して,カットオフ周波数未満の変換係数を通過させるLPFをかけて,図10(c)に示したカットオフ領域を除去する。   In step 1206, the cut-off area shown in FIG. 10C is removed by applying an LPF that passes a conversion coefficient lower than the cut-off frequency to the conversion coefficient of the superimposed image.

ステップ1210において,重畳画像の信号電力(変換係数の総和)を計算する。信号電力の適切さの判断を行い,信号電力が予め定めた定数値Emaxより小さければ,ステップ1207,ステップ1208,ステップ1209の処理を行う。   In step 1210, the signal power (total conversion coefficient) of the superimposed image is calculated. The appropriateness of the signal power is determined, and if the signal power is smaller than a predetermined constant value Emax, the processing of step 1207, step 1208, and step 1209 is performed.

ステップ1207において,重畳画像のカットオフ領域のエネルギー計算を行う。カットオフ領域1008の信号電力(変換係数の総和,グラフ面積),スペクトル形状(左より,右より,均質など),カットオフ周波数帯域(どの周波数が削除されるかの周波数範囲)の3つのパラメータを得る。   In step 1207, the energy of the cut-off area of the superimposed image is calculated. Three parameters: signal power (total conversion coefficient, graph area), spectrum shape (from left, right, homogeneous, etc.), and cutoff frequency band (frequency range of which frequencies are deleted) in cutoff region 1008 Get.

ステップ1208において,重畳画像のカットオフ領域のエネルギー調整を行う。カットオフ領域の信号電力が予め定めたしきい値より小さければ,信号電力を底上げする。大きければ信号電力を削る。   In step 1208, the energy of the cut-off area of the superimposed image is adjusted. If the signal power in the cutoff region is smaller than a predetermined threshold value, the signal power is raised. If it is larger, the signal power is reduced.

ステップ1209において,重畳画像の非カットオフ領域のエネルギー調整を行う。カットオフ周波数帯域の幅(周波数の差)に応じて,重畳画像の非カットオフ領域のエネルギーに対して加工を施す。重畳画像のカットオフ領域のエネルギーに対応する値を追加,あるいは削除する。あるいは,あらかじめ定めた定数を乗じた値を用いてもよい。図10(d)のグラフのように,非カットオフ領域にあって,かつカットオフ周波数より低い周波数成分にあるスペクトル値について,カットオフ周波数帯域の幅の分,信号電力を調整する。   In step 1209, the energy of the non-cut-off region of the superimposed image is adjusted. Processing is performed on the energy in the non-cut-off region of the superimposed image according to the width (frequency difference) of the cut-off frequency band. A value corresponding to the energy of the cut-off area of the superimposed image is added or deleted. Alternatively, a value obtained by multiplying a predetermined constant may be used. As shown in the graph of FIG. 10 (d), the signal power is adjusted by the width of the cutoff frequency band for the spectrum value that is in the non-cutoff region and is in the frequency component lower than the cutoff frequency.

ステップ1211において,カバー画像の変換係数と重畳画像の変換係数の演算を行う。演算は加算する。減算でもよいし乗算などでもよい。単純に加算すると,カバー画像が全体に明るくなってしまうため,カバー画像に対して画像処理フィルタをかけて,カバー画像の信号電力を予め下げておく/上げておく方法を用いてもよい。この画像処理フィルタはノイズ除去フィルタを用いてもよい。   In step 1211, the conversion coefficient of the cover image and the conversion coefficient of the superimposed image are calculated. Operations are added. Subtraction or multiplication may be used. If the sum is simply added, the cover image becomes brighter as a whole. Therefore, a method may be used in which an image processing filter is applied to the cover image so that the signal power of the cover image is lowered / increased in advance. This image processing filter may be a noise removal filter.

ステップ1211において,ステゴ画像のマクロブロック情報を調整し,符号化を行う。重畳に際して,カバー画像の量子化テーブルを別のテーブルに変えることもできる。その場合には,使ったテーブルを出力するよう,ステゴ画像のマクロブロック情報を調整する。   In step 1211, the macroblock information of the stego image is adjusted and encoding is performed. At the time of superposition, the quantization table of the cover image can be changed to another table. In that case, the macro block information of the stego image is adjusted so as to output the used table.

図13は,重畳位置マップに応じて重畳された重畳画像を示すイメージ図である。   FIG. 13 is an image diagram showing a superimposed image superimposed according to the superimposed position map.

ステゴ画像では,幾何変形や再圧縮符号化をしない限り,重畳画像が視認されにくいが,図が視認できないと説明が難しいため,説明上,視認可能な重畳画像を描いている。   In a stego image, a superimposed image is difficult to be visually recognized unless geometric deformation or recompression coding is performed. However, since it is difficult to explain if a diagram cannot be visually recognized, a visible superimposed image is drawn for explanation.

図13(a)は,カバー画像を複数の部分領域に分割し,可視特性(幾何変形特性,再圧縮符号化特性など)の異なる複数の重畳画像を重畳した場合の概念説明図である。部分領域1302,部分領域1303,部分領域1304,部分領域1304は,それぞれ異なる倍率の幾何変形特性を備える。例えばステゴ画像が面積比70%に縮小された場合,部分領域1302が可視化し,面積比50%に縮小された場合,部分領域1303と部分領域1304が可視化する。部分領域は互いにオーバーラップしていてもよいし,別々の領域にあってもよい。また,セキュア領域1305には,「禁複写ID:0011」を暗号化,署名付与,検証情報,秘密情報,牽制文字の存在を示す1ビット情報などをバーコード状に符号化したものを用いる。牽制文字の存在を示す1ビット情報が検出されるにも関わらず,牽制文字が消えて見える場合には,何らかの手段によって牽制文字が消去されたことがわかるため,改ざん検知などの用途に寄与する。部分領域1302,部分領域1303,部分領域1304,部分領域1304が,それぞれ異なる圧縮率の再圧縮符号化特性を備えてもよい。   FIG. 13A is a conceptual explanatory diagram when a cover image is divided into a plurality of partial regions and a plurality of superimposed images having different visible characteristics (geometric deformation characteristics, recompression encoding characteristics, etc.) are superimposed. The partial area 1302, the partial area 1303, the partial area 1304, and the partial area 1304 have different geometric deformation characteristics. For example, when the stego image is reduced to an area ratio of 70%, the partial area 1302 is visualized, and when the area ratio is reduced to 50%, the partial area 1303 and the partial area 1304 are visualized. The partial areas may overlap each other or may be in different areas. The secure area 1305 is obtained by encrypting “prohibited copy ID: 0011”, encoding a signature, verification information, secret information, 1-bit information indicating the presence of a check character, and the like in a bar code form. If 1-bit information indicating the presence of a check character is detected, but the check character appears to disappear, it can be seen that the check character has been deleted by some means, contributing to applications such as tampering detection. . The partial region 1302, the partial region 1303, the partial region 1304, and the partial region 1304 may have recompression encoding characteristics with different compression rates.

図13(b)は,動画フレーム時刻によって可視特性の異なる重畳画像を重畳する例を示している。動画は複数フレーム1306を含んで構成される。可視特性(幾何変形特性,再圧縮符号化特性など)の異なる複数の重畳画像を,複数のフレームに重畳しておく。重畳画像自体を動きのある動画データとしてもよい。動画全体が画像処理を経ると,可視特性(幾何変形特性,再圧縮符号化特性など)を持った重畳画像の場所が変化して,重畳画像が人の目に認知されやすくなる。   FIG. 13B shows an example in which superimposed images having different visual characteristics are superimposed depending on the moving image frame time. The moving image includes a plurality of frames 1306. A plurality of superimposed images having different visibility characteristics (geometric deformation characteristics, recompression encoding characteristics, etc.) are superimposed on a plurality of frames. The superimposed image itself may be moving image data with movement. When the entire moving image undergoes image processing, the location of the superimposed image having visible characteristics (geometric deformation characteristics, recompression coding characteristics, etc.) changes, and the superimposed image is easily recognized by human eyes.

図14は,人の目の認知によらず,機械が重畳画像の検知を自動判定する上で,画像重畳装置203の処理手順を示す説明図である。   FIG. 14 is an explanatory diagram showing a processing procedure of the image superimposing device 203 when the machine automatically determines the detection of the superimposed image regardless of recognition of human eyes.

ステップ1401において,カバーデータ入力処理403が、カバー画像の入力を受け付ける。   In step 1401, the cover data input process 403 receives an input of a cover image.

ステップ1402において,重畳位置マップ位置あわせ指定処理409が、セキュア領域の設定を行う。   In step 1402, the superimposition position map alignment designation process 409 sets a secure area.

ステップ1403において,重畳データ入力・編集画像化処理405が、重畳情報の符号化を行う。電子署名処理422が、重畳情報としてユーザIDなどの基本情報に,さらに,電子署名,公開鍵証明書を付与する。重畳データ入力・編集画像化処理405が、これらを1ビット符号化し,0110001・・・という長さNのビット列を構成する。符号化には,JISコードなどの既存のコード体系を用いてもよい。さらに,ビット列に誤り訂正符号を追加する。   In step 1403, the superimposed data input / edited image processing 405 encodes the superimposed information. The electronic signature processing 422 further adds an electronic signature and a public key certificate to basic information such as a user ID as superimposition information. Superimposition data input / edited image processing 405 encodes these bits to form a bit string having a length N of 0110001,. For encoding, an existing code system such as a JIS code may be used. Further, an error correction code is added to the bit string.

このようにしてビット列として符号化された重畳情報を,重畳画像データ形式に符号化する。a画素四方を1マスとして,n*nマスの領域(n*nはN以下)を定義する。重畳情報ビット列の値に応じて,0なら黒,1なら白として,左上から右下に向けて,白か黒に着色されたマスを順次並べていく。nマス並べると下の行の操作に移る。このようにして,符号化した重畳画像データを作成する。重畳画像データは2次元バーコード状の絵柄1305となる。多値画像に変換してもよいし,ランダムに並べてもよい。ランダムに並べた並びを示す情報を鍵として外部に持ち,検出時に利用してもよい。   The superimposition information encoded as a bit string in this way is encoded into a superimposed image data format. An area of n * n cells (n * n is equal to or less than N) is defined with four squares of a pixels as one cell. In accordance with the value of the superimposition information bit string, black if 0, white if 1, and white or black colored cells are sequentially arranged from the upper left to the lower right. When n squares are arranged, the operation moves to the lower row. In this way, encoded superimposed image data is created. The superimposed image data becomes a two-dimensional barcode-like pattern 1305. It may be converted into a multi-value image or may be arranged at random. Information indicating a randomly arranged arrangement may be held outside as a key and used at the time of detection.

ステップ1404において,重畳処理418が、重畳画像の重畳を行う。   In step 1404, the superimposition process 418 performs superimposition of the superimposed image.

ステップ1405において,ステゴデータ出力処理420が、ステゴ画像出力を行う。   In step 1405, the stego data output process 420 performs stego image output.

図15は,人の目の認知によらず,機械が重畳画像の検知を判定する上で,検出装置214の処理手順を示す説明図である。   FIG. 15 is an explanatory diagram illustrating the processing procedure of the detection device 214 when the machine determines whether to detect a superimposed image regardless of human eye recognition.

検出装置214は,演算装置(CPU),入力装置,出力装置,メモリ(一次記憶装置),ディスク(二次記憶装置)、通信装置を備えた計算機上で,検出装置214を実現するプログラム(またはモジュール)をメモリ上で動作させることによって実現できる。   The detection device 214 is a program (or a program for realizing the detection device 214) on a computer including an arithmetic unit (CPU), an input device, an output device, a memory (primary storage device), a disk (secondary storage device), and a communication device (or This can be realized by operating the module on the memory.

プログラムは、あらかじめ、上記計算機内のメモリまたはディスクに格納されていても良いし、必要なときに、上記計算機が利用可能な媒体を介して、他の装置から導入されてもよい。媒体とは、たとえば、上記計算機に着脱可能な記憶媒体、または通信媒体(すなわち有線、無線、光などのネットワーク、または当該ネットワークを伝搬する搬送波やディジタル信号)を指す。   The program may be stored in advance in a memory or a disk in the computer, or may be introduced from another device via a medium that can be used by the computer when necessary. The medium refers to, for example, a storage medium that can be attached to and detached from the computer, or a communication medium (that is, a wired, wireless, optical network, or a carrier wave or digital signal that propagates through the network).

図15に示す各処理は、メモリまたはディスクに格納されたそれぞれの処理を実現するプログラム(またはモジュール)をCPUが実行することにより、プロセスとして実現される。   Each process shown in FIG. 15 is realized as a process by the CPU executing a program (or module) that realizes each process stored in the memory or the disk.

ステップ1501において,ステゴ画像の入力を受け付ける。   In step 1501, an input of a stego image is accepted.

ステップ1502において,ステゴ画像からセキュア領域1305の重畳画像分離を行う。セキュア領域は2次元バーコード状なので,ステゴ画像を周波数変換した後,1ビット相応の1マスを周波数の基底とした倍数周波数成分を持った変換成分を抽出し,逆変換して絵柄を再構成すればよい。   In step 1502, superimposed image separation of the secure area 1305 is performed from the stego image. Since the secure area is in the form of a two-dimensional bar code, after converting the frequency of a stego image, a transform component having a multiple frequency component with one square corresponding to one bit as the base of the frequency is extracted, and inversely transformed to reconstruct the pattern. do it.

ステップ1503において,重畳情報の復号化を行う。再構成したセキュア領域は,1辺が(a*n)の長さの画像矩形領域であり,n*nマスが含まれる。先にステップ1403において設定した1マスの画素値の平均値を計算し,それとしきい値と比較することにより,そのマスが0か1かを判断する。n*n分の1ビット情報のビット列を抽出する。得られたビット列から,重畳情報としてユーザIDなどを復号化する。   In step 1503, the superimposition information is decoded. The reconstructed secure area is an image rectangular area with one side having a length of (a * n) and includes n * n cells. The average value of the pixel values of one square set in step 1403 is calculated and compared with a threshold value to determine whether the square is 0 or 1. A bit string of 1-bit information of n * n is extracted. A user ID or the like is decoded as superimposition information from the obtained bit string.

ステップ1504において,重畳情報の正当性検証を行う。誤り訂正符号で復号する。さらに,電子署名,公開鍵証明書の検証を行う。誤り訂正符号で復号できたこと,あるいは,署名検証がなされたことをもって,正当性が検証できる。   In step 1504, the validity of the superimposed information is verified. Decode with error correction code. In addition, the electronic signature and public key certificate are verified. The validity can be verified when the error correction code is decoded or the signature is verified.

ステップ1505において,重畳情報出力を行う。重畳情報としてユーザIDなどの基本情報を出力する。   In step 1505, superimposition information is output. Basic information such as a user ID is output as superimposition information.

図16は,検出装置214による、重畳画像自体に埋め込まれた電子透かし検出の処理手順を示す説明図である。   FIG. 16 is an explanatory diagram showing a processing procedure for detecting the digital watermark embedded in the superimposed image itself by the detection device 214.

図16に示す各処理は、上述した検出装置214のメモリまたはディスクに格納されたそれぞれの処理を実現するプログラム(またはモジュール)をCPUが実行することにより、プロセスとして実現される。   Each process shown in FIG. 16 is realized as a process by the CPU executing a program (or module) that realizes each process stored in the memory or the disk of the detection device 214 described above.

電子透かしは,重畳情報入力処理404により重畳画像自体に埋め込まれる。   The digital watermark is embedded in the superimposed image itself by the superimposed information input process 404.

ステップ1601において,ステゴ画像の入力を受け付ける。   In step 1601, an input of a stego image is accepted.

ステップ1602において,ステゴ画像を解析する。   In step 1602, the stego image is analyzed.

設定した重畳位置マップに応じて,重畳画像領域を抽出する。設定した強度マップに応じて,重畳画像構成画素を抽出する。抽出した画素情報を幾何変形特性に応じて縮小操作する。   A superimposed image region is extracted according to the set superimposed position map. The superimposed image constituent pixels are extracted according to the set intensity map. The extracted pixel information is reduced according to the geometric deformation characteristics.

ステップ1603において,重畳画像を分離する。   In step 1603, the superimposed image is separated.

ステップ1604において,重畳画像から電子透かしを検出する。電子透かしパターンとの相関計算によって検出できる。公開特許公報2007−013357号には,牽制文字などの二値画像に対しても適用可能な電子透かし技術が開示されている。重畳情報を抽出する。   In step 1604, a digital watermark is detected from the superimposed image. It can be detected by calculating the correlation with the digital watermark pattern. Japanese Patent Application Publication No. 2007-013357 discloses a digital watermark technique that can be applied to binary images such as check characters. Extract superimposition information.

ステップ1605において,埋め込み情報の正当性検証を行う。検証には,誤り訂正符号や電子署名が利用できる。   In step 1605, the validity of the embedded information is verified. For the verification, an error correction code or an electronic signature can be used.

ステップ1606において,埋め込み情報を出力する。検出装置に接続した出力装置の一つであるモニタに出力して,検出結果を人が視認してもよい。   In step 1606, the embedded information is output. The result may be output to a monitor, which is one of output devices connected to the detection device, so that the person can visually recognize the detection result.

ステップ1607において,対応機器を制御する。   In step 1607, the corresponding device is controlled.

検出装置の出力装置は,ネットワークや機器接続による通信装置を備え,他の機器,システムと接続利用する。検出装置と接続する対応機器には,静止画視聴装置,静止画記録装置,印刷装置,デジタルカメラ,動画再生装置,動画録画装置,ビデオプリンタ,ビデオカメラなどがある。デジタルサイネージ,フォトフレームなどを接続してもよい。これらの機器のレンダリング,エンコード,デコード,保存,印刷などの各機能に対応して,動作方法を指定する機能情報を定義する。また,録画中や再生中などの機器状態ごとに状態情報を定義する。機能情報,状態情報は,通し番号体系でもよい。また,「倍速録画OK」などの意味の制御情報であってもよい。   The output device of the detection device is equipped with a communication device through a network or device connection, and is connected to other devices and systems. Corresponding devices connected to the detection device include a still image viewing device, a still image recording device, a printing device, a digital camera, a moving image reproducing device, a moving image recording device, a video printer, and a video camera. Digital signage, photo frames, etc. may be connected. Function information that specifies the operation method is defined corresponding to each function such as rendering, encoding, decoding, saving, and printing of these devices. Also, state information is defined for each device state such as recording or playback. The function information and status information may be a serial number system. Also, the control information may mean “double speed recording OK”.

対応機器は,入力装置,出力装置,ディスク,メモリ,演算装置,制御装置を備え,対応機器の入力装置は検出装置と接続する。対応機器の入力装置から機能情報,状態情報を受け取ると,対応機器の制御装置によって,機能情報,状態情報に対応した動作を行う制御を行う。あらかじめ,機能情報,状態情報などを電子透かし埋め込み情報として表現し,ステゴ画像の中の重畳画像に電子透かしとして埋め込んでおく。ステップ1607において,電子透かしとして検出した機能情報,状態情報などの情報を対応危機に送り,対応機器の制御を行う。   The corresponding device includes an input device, an output device, a disk, a memory, an arithmetic device, and a control device, and the input device of the corresponding device is connected to the detection device. When function information and status information is received from the input device of the corresponding device, the control device of the corresponding device performs control corresponding to the function information and status information. In advance, function information, state information, and the like are expressed as digital watermark embedding information, and embedded as a digital watermark in a superimposed image in a stego image. In step 1607, information such as function information and status information detected as a digital watermark is sent to the response crisis, and the corresponding device is controlled.

その応用として,例えば,検出装置および動画録画装置を備えた一体型のビデオカメラが構成できる。カメラレンズを経由して撮影されたステゴ画像は検出装置に入力され,機能情報として録画OKと検出された場合には,動画録画装置に機能情報が送られ,動画録画装置はビデオ録画を行う。録画NGと検出された場合,ビデオ録画を行わない,あるいは,停止する。   As an application thereof, for example, an integrated video camera including a detection device and a moving image recording device can be configured. The stego image taken via the camera lens is input to the detection device, and when the recording is detected as function information, the function information is sent to the moving image recording device, and the moving image recording device performs video recording. When recording NG is detected, video recording is not performed or stopped.

101:カバーデータ、102:重畳画像、104:ステゴデータ、203:画像重畳装置、214:検出装置、801:強度マップテーブル。 101: Cover data, 102: Superimposed image, 104: Stego data, 203: Image superimposing device, 214: Detection device, 801: Intensity map table.

Claims (10)

計算機を用いて、情報を埋め込む前のカバー画像に、前記情報を表す重畳画像を潜像として重畳したステゴ画像を生成する画像処理方法であって,
前記ステゴ画像を縮小したときに、前記重畳画像が顕像化されるよう、前記重畳画像を加工する幾何変形特性設定ステップと、
前記ステゴ画像を縮小したときに、前記重畳画像が顕像化されるよう、前記重畳画像を加工する再圧縮特性設定ステップと、を備える
ことを特徴とする画像処理方法。
An image processing method using a computer to generate a stego image obtained by superimposing a superimposed image representing the information as a latent image on a cover image before embedding information,
A geometric deformation characteristic setting step for processing the superimposed image so that the superimposed image is visualized when the stego image is reduced;
And a recompression characteristic setting step for processing the superimposed image so that the superimposed image is visualized when the stego image is reduced.
請求項1に記載の画像処理方法において、
前記幾何変形特性設定ステップは、カバー画像を、比率Rで縮小したときに,重畳画像の大きさになる、前記カバー画像の部分領域のうち、前記重畳画像の構成要素と対応付く部分領域については,前記カバー画像上の前記部分領域の画素値の平均値を変化させ,対応付かない部分領域については,前記画素値を変化させずに維持するステップを備える
ことを特徴とする画像処理方法。
The image processing method according to claim 1,
In the geometric deformation characteristic setting step , when the cover image is reduced by the ratio R, the size of the superimposed image becomes the size of the superimposed image. An image processing method comprising: changing an average value of pixel values of the partial areas on the cover image, and maintaining the pixel values without changing the partial areas that do not correspond.
請求項2に記載の画像処理方法において,
前記計算機は、画素集合の位置と重畳強度を定めた強度マップと,
重畳画像の画素とカバー画像の部分領域に含まれる画素集合の位置を対応させる重畳位置マップと、を備え,
前記幾何変形特性設定ステップは、カバー画像の部分領域に対して,重畳画像の画素値および前記強度マップに従って前記部分領域の画素値を選択的に変化させるステップと、
ステゴ画像を出力するステップと、を備える
ことを特徴とする画像処理方法。
The image processing method according to claim 2,
The calculator includes an intensity map that defines a position of a pixel set and an overlap intensity;
A superimposed position map that associates the pixels of the superimposed image with the positions of the pixel set included in the partial area of the cover image,
The geometric deformation characteristic setting step selectively changes the pixel value of the partial region according to the pixel value of the superimposed image and the intensity map with respect to the partial region of the cover image;
And a step of outputting a stego image.
請求項1ないし3いずれか一に記載の画像処理方法において、
前記再圧縮特性設定ステップは、
再圧縮符号化条件に応じて、前記カバー画像のカットオフ周波数を計算するステップと、
前記再圧縮符号化条件に応じて、前記重畳画像のカットオフ周波数を設定するステップと、
前記重畳画像のカットオフ周波数以下の周波数成分を加工するステップと、を備える
ことを特徴とする画像処理方法。
The image processing method according to any one of claims 1 to 3,
The recompression characteristic setting step includes:
Calculating a cutoff frequency of the cover image according to re-compression encoding conditions;
Setting a cutoff frequency of the superimposed image according to the recompression encoding condition;
And a step of processing a frequency component equal to or lower than a cutoff frequency of the superimposed image.
請求項4に記載の画像処理方法において、
前記再圧縮特性設定ステップは、
前記カットオフ周波数以上の周波数成分を、前記重畳画像から除去するステップと,
前記重畳画像の、前記カットオフ周波数未満の周波数帯であって,予め定めた範囲に対して,前記カットオフ周波数以上のスペクトル値が持つ電力相当の値を加算するステップと、を備える
ことを特徴とする画像処理方法。
The image processing method according to claim 4,
The recompression characteristic setting step includes:
Removing a frequency component equal to or higher than the cutoff frequency from the superimposed image;
Adding a value corresponding to power of a spectrum value equal to or higher than the cutoff frequency to a predetermined range in a frequency band lower than the cutoff frequency of the superimposed image. An image processing method.
計算機において、請求項1ないし5いずれか一に記載の画像処理方法で作成した前記ステゴ画像から、前記重畳画像を検知する潜像検知方法であって,
前記ステゴ画像を幾何変形した結果を表示,または、印刷、
または、表示または印刷された前記ステゴ画像を撮影した結果の表示、のいずれかによって,前記重畳情報を可視化する潜像検知方法。
In the computer, a latent image detection method for detecting the superimposed image from the stego image created by the image processing method according to any one of claims 1 to 5,
Display or print the result of geometric deformation of the stego image,
Alternatively, a latent image detection method for visualizing the superimposition information by either displaying the result of photographing the displayed or printed stego image.
請求項3に記載の画像処理方法であって,
前記重畳位置マップは,1つまたは複数の重畳領域の位置と,大きさと,画像処理特性と、を備え,
前記強度マップは,部分領域の画素値の並び情報と,IDと,線分方向と,凹凸係数と,管理情報と,強度設定値と、を備え,前記線分方向と直交する方向の強度を強く設定した強度設定値を含むレコードを含み,
前記重畳位置マップに従って,前記カバー画像の1つまたは複数の位置に対して重畳画像を重畳するステップと、
前記カバー画像の前記部分領域の画素値の並びをキーとして,前記重畳位置マップの前記画素値の並び情報の一致するレコードを検索するステップと、
前記レコードの前記強度設定値を,前記カバー画像の前記部分領域の変更において反映させるステップと、
前記レコードの前記強度設定値について複数のレコードが検索された場合に,
前記重畳画像の線分方向Aを計算するステップと、
前記線分方向Aをキーとして,検索された前記複数レコードについて、強度設定値情報Bを検索するステップと、
前記強度設定値情報Bを,前記カバー画像の前記部分領域の変更において反映させるステップと、を備える
ことを特徴とする画像処理方法。
The image processing method according to claim 3,
The superposition position map includes the position, size, and image processing characteristics of one or more superposition areas,
The intensity map includes arrangement information of pixel values of partial areas, an ID, a line segment direction, an unevenness coefficient, management information, and an intensity setting value, and the intensity in a direction orthogonal to the line segment direction. Contains records that contain strongly set strength settings,
Superimposing a superimposed image on one or more positions of the cover image according to the superimposed position map;
Searching for a record in which the arrangement information of the pixel values of the superimposition position map matches using the arrangement of the pixel values of the partial area of the cover image as a key;
Reflecting the intensity setting value of the record in changing the partial area of the cover image;
When a plurality of records are searched for the strength setting value of the record,
Calculating a line segment direction A of the superimposed image;
Searching for the intensity setting value information B for the plurality of records searched using the line segment direction A as a key;
Reflecting the intensity set value information B in the change of the partial area of the cover image.
請求項7の画像処理方法であって,
前記カバー画像および前記重畳画像は、周波数成分で表現され,
前記重畳画像に縮小処理特性あるいは再圧縮符号化処理特性を付与するステップと、
前記カバー画像と前記重畳画像の重畳処理を周波数空間上の演算として行うステップと、
前記カバー画像のデータに動きベクトル表現があれば,前記動きベクトルを画素値集合の周波数成分に変換するステップと、を備える
ことを特徴とする画像処理方法。
The image processing method according to claim 7, comprising:
The cover image and the superimposed image are represented by frequency components,
Imparting a reduction processing characteristic or a recompression encoding processing characteristic to the superimposed image;
Performing a process of superimposing the cover image and the superimposed image on a frequency space;
And a step of converting the motion vector into a frequency component of a pixel value set if the cover image data includes a motion vector expression.
請求項1ないし8いずれか一に記載の画像処理方法で作成された前記ステゴ画像から前記重畳画像を検知する潜像画像検知方法において,
前記ステゴ画像から前記重畳画像を抽出するステップと、
前記重畳画像から情報を検出するステップと、
抽出した前記情報を出力するステップと、を備える
ことを特徴とする潜像画像検知方法。
In the latent image detection method for detecting the superimposed image from the stego image created by the image processing method according to any one of claims 1 to 8,
Extracting the superimposed image from the stego image;
Detecting information from the superimposed image;
And outputting the extracted information. A latent image detection method comprising:
メモリ,演算手段,通信手段,入出力手段を備えた計算機Aと、メモリ,演算手段,通信手段,入出力手段を備えた計算機Bとが、ネットワークで接続されるシステムにおける、計算機の入出力制御方法であって、
前記計算機Aは,
請求項1ないし8いずれか一に記載の画像処理方法を実行するステップと、
前記ステゴ画像から抽出した情報を,前記計算機Bに送信するステップと、を備え,
前記計算機Bは,前記情報を受信し,前記情報に基づいて,当該計算機Bの入出力制御を行うステップを備える
ことを特徴とする計算機の入出力制御方法。
Computer input / output control in a system in which a computer A having memory, arithmetic means, communication means, and input / output means and a computer B having memory, arithmetic means, communication means, and input / output means are connected by a network. A method,
The computer A is
Executing the image processing method according to any one of claims 1 to 8,
Transmitting the information extracted from the stego image to the computer B,
The computer B includes a step of receiving the information and performing input / output control of the computer B based on the information.
JP2010036784A 2010-02-23 2010-02-23 Image processing method Expired - Fee Related JP5508896B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2010036784A JP5508896B2 (en) 2010-02-23 2010-02-23 Image processing method
PCT/JP2011/051715 WO2011105164A1 (en) 2010-02-23 2011-01-28 Image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010036784A JP5508896B2 (en) 2010-02-23 2010-02-23 Image processing method

Publications (2)

Publication Number Publication Date
JP2011176385A JP2011176385A (en) 2011-09-08
JP5508896B2 true JP5508896B2 (en) 2014-06-04

Family

ID=44506585

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010036784A Expired - Fee Related JP5508896B2 (en) 2010-02-23 2010-02-23 Image processing method

Country Status (2)

Country Link
JP (1) JP5508896B2 (en)
WO (1) WO2011105164A1 (en)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5509061B2 (en) * 2010-12-27 2014-06-04 株式会社日立ソリューションズ Latent image superimposing method, latent image superimposing apparatus, and latent image superimposing system
JP5656082B2 (en) 2011-05-25 2015-01-21 株式会社日立ソリューションズ Image processing apparatus, image generation apparatus, image processing method, and image generation method
JP5988596B2 (en) * 2012-01-25 2016-09-07 株式会社日立ソリューションズ Image quality maintenance method of latent image embedding process
JP6763309B2 (en) * 2017-01-18 2020-09-30 セイコーエプソン株式会社 Information processing device and conversion method setting program

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005236864A (en) * 2004-02-23 2005-09-02 Toppan Printing Co Ltd Electronic watermark system and its method
WO2006017848A1 (en) * 2004-08-11 2006-02-16 Stevens Institute Of Technology Robust hidden data extraction method for scaling attacks

Also Published As

Publication number Publication date
WO2011105164A1 (en) 2011-09-01
JP2011176385A (en) 2011-09-08

Similar Documents

Publication Publication Date Title
Asikuzzaman et al. An overview of digital video watermarking
JP4764433B2 (en) Safe, robust and high fidelity watermarking
US7853040B2 (en) Covert and robust mark for media identification
Asikuzzaman et al. Robust DT CWT-based DIBR 3D video watermarking using chrominance embedding
US6885757B2 (en) Method and apparatus for providing an asymmetric watermark carrier
Menendez-Ortiz et al. A survey on reversible watermarking for multimedia content: A robustness overview
Queluz Authentication of digital images and video: Generic models and a new contribution
EP1437897A2 (en) Methods and apparatus for embedding and detecting digital watermarks
Celik et al. Localized lossless authentication watermark (LAW)
Lu et al. Lossless information hiding in images
JP5508896B2 (en) Image processing method
Huang et al. Unseen visible watermarking: a novel methodology for auxiliary information delivery via visual contents
Garcia Freitas et al. Secure self-recovery watermarking scheme for error concealment and tampering detection
KR101200345B1 (en) Block-bases image authentication method using reversible watermarking based on progressive differential histogram
Maiorana et al. Multi‐bit watermarking of high dynamic range images based on perceptual models
JP5086951B2 (en) Image generation apparatus, image generation method, computer-executable program, and computer-readable recording medium
US20060020806A1 (en) Method and apparatus for imprinting ID information into a digital content and for reading out the same
Obimbo et al. Using digital watermarking for copyright protection
KR101094809B1 (en) An watermarking method for digital contents using digital holography
Kumar Steganography using visual cryptography
Gupta Improving Security for Video Watermarking
Alaa Watermarking Images for Fact–Checking and Fake News Inquiry
JP2024021961A (en) Digital watermarking method for videos
KR20110017090A (en) Holomarking: digital watermarking method using fresnel hologram
Kalra et al. A Review of Frame Selection and Video Watermarking Techniques to Balance Quality and Security

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120903

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131112

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140110

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140225

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140324

LAPS Cancellation because of no payment of annual fees