JP2004282708A - 印刷物生成装置および方法、情報検出装置および方法並びにプログラム - Google Patents

印刷物生成装置および方法、情報検出装置および方法並びにプログラム Download PDF

Info

Publication number
JP2004282708A
JP2004282708A JP2003417985A JP2003417985A JP2004282708A JP 2004282708 A JP2004282708 A JP 2004282708A JP 2003417985 A JP2003417985 A JP 2003417985A JP 2003417985 A JP2003417985 A JP 2003417985A JP 2004282708 A JP2004282708 A JP 2004282708A
Authority
JP
Japan
Prior art keywords
information
image data
printed matter
captured image
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2003417985A
Other languages
English (en)
Inventor
Akira Yoda
章 依田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Holdings Corp
Original Assignee
Fuji Photo Film Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Photo Film Co Ltd filed Critical Fuji Photo Film Co Ltd
Priority to JP2003417985A priority Critical patent/JP2004282708A/ja
Priority to US10/786,503 priority patent/US20040169892A1/en
Publication of JP2004282708A publication Critical patent/JP2004282708A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0021Image watermarking
    • G06T1/005Robust watermarking, e.g. average attack or collusion attack resistant
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06KGRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K1/00Methods or arrangements for marking the record carrier in digital fashion
    • G06K1/12Methods or arrangements for marking the record carrier in digital fashion otherwise than by punching
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06KGRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K19/00Record carriers for use with machines and with at least a part designed to carry digital markings
    • G06K19/06Record carriers for use with machines and with at least a part designed to carry digital markings characterised by the kind of the digital marking, e.g. shape, nature, code
    • G06K19/06009Record carriers for use with machines and with at least a part designed to carry digital markings characterised by the kind of the digital marking, e.g. shape, nature, code with optically detectable marking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06KGRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K7/00Methods or arrangements for sensing record carriers, e.g. for reading patterns
    • G06K7/10Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation
    • G06K7/14Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation using light without selection of wavelength, e.g. sensing reflected white light
    • G06K7/1404Methods for optical code recognition
    • G06K7/1439Methods for optical code recognition including a method step for retrieval of the optical code
    • G06K7/1447Methods for optical code recognition including a method step for retrieval of the optical code extracting optical codes from image or text carrying said optical code
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2201/00General purpose image data processing
    • G06T2201/005Image watermarking
    • G06T2201/0065Extraction of an embedded watermark; Reliable detection

Abstract

【課題】 電子透かしが埋め込まれた画像に対してのみ、電子透かし検出のための処理を行う。
【解決手段】 3人の人物を含む原画像S0の各人物の顔領域に対応する部分に、各人物の声を表す音声データM1〜M3の保管場所のURLを表すコードC1〜C3を埋め込む。さらに、コードC1〜C3が埋め込まれていることを表す付与済み情報Wを原画像S0に埋め込む。コードC1〜C3および付与済み情報Wが埋め込まれた画像を記録したプリントPをカメラ付き携帯電話3の撮像部31により撮像して撮像画像データS2を得、像の歪みを補正して補正画像データS3を得る。補正画像データS3から付与済み情報Wが検出可能か否かを判定し、検出可能である場合にのみ、コードC1〜C3を検出する処理を行う。
【選択図】 図1

Description

本発明は、画像に情報を付与して情報が付与された画像を記録した印刷物を生成する印刷物生成装置および方法、画像に付与された情報を検出する情報検出装置および方法並びに情報検出方法をコンピュータに実行させるためのプログラムに関するものである。
例えばURLのように、電子情報が存在する場所を表す情報をバーコードとして、あるいは電子透かしとして画像データに付与し、これをプリントアウトすることにより画像が記録されたプリント等の印刷物を得、この印刷物をスキャナ等の読取装置により読み取り、さらに読み取って得られた画像データを解析することにより、画像に付与された情報を検出し、電子情報が存在する場所にアクセスして電子情報を取得するようにしたシステムが広く用いられている(特許文献1、特許文献2、非特許文献1等)。
また、画像に電子透かしを2階層に埋め込む方法も提案されている(特許文献3、非特許文献2等)。特許文献3の方法によれば、複数の機関に共通の透かし埋め込み方式により機関を特定するための第1の情報を埋め込むとともに、各機関独自の透かし埋め込み方式により第2の情報を埋め込み、ある機関において画像から共通の透かし抽出方式により第1の情報を抽出してその透かしが埋め込まれた機関を特定し、その特定された機関に画像を転送するようにしたものである。また、非特許文献2の方法は、予め登録された透かしの方式を表す情報を標準的な透かし埋め込み方式により画像に埋め込み、予め登録された透かしの方式により種々の情報を画像に埋め込むようにしたものである。
一方、携帯電話の普及には目覚ましいものがあるが、近年、撮影により画像データを取得するデジタルカメラを有するカメラ付き携帯電話等のカメラ付き携帯端末装置が普及しつつある(例えば特許文献4,5等)。また、PDA等の携帯端末装置においてカメラを内蔵させたカメラ付き携帯端末装置も提案されている(特許文献6,7等)。
このようなカメラ付きの携帯端末装置を用いることにより、撮影により取得した自分の好みの画像データを携帯端末装置の液晶モニタにおいて待ち受け画面に設定できる。また、撮影により取得した画像データを電子メールに添付して友人に送信することができるため、約束をキャンセルせざるを得ないような状況になったとき、あるいは待ち合わせ時刻に遅刻しそうなときに、申し訳なさそうな自分の表情を撮影して友人に送信する等、現在の自分の状況を友人に知らせることができることから、友人とのコミュニケーションをはかるのに便利である。
また、カメラ付き携帯端末装置を用いて上述したように情報が埋め込まれた印刷物を撮影し、上記と同様に電子情報が存在する場所の情報を検出することにより、カメラ付き携帯端末装置からその場所にアクセスして電子情報を取得することができる。
米国特許第5,841,978号 特開2000−232573号公報 特開2000−287067号公報 特開平6−233020号公報 特開2000−253290号公報 特開平8−140072号公報 特開平9−65268号公報 Digimarc MediaBiridge Home Page, Connect to what you want from the web(2002年3月5日検索), インターネット<URL:http://www.digimarc.com/mediabridge/> Content ID Forum(2002年10月28日検索),インターネット<URL:http://www.cidf.org/japanese/specification.html>
しかしながら、電子透かしは所定の情報を画像に秘匿的に埋め込むものであるため、透かしが埋め込まれた画像を記録した印刷物を一見しただけでは、その印刷物に記録された画像に透かしが埋め込まれているか否かを判断することはできない。このため、上記特許文献1,2および非特許文献1に記載されたシステムにおいては、透かしの有無を知るためには印刷物から透かしを検出するための処理を行う必要があるが、透かしが埋め込まれていない場合には、その処理が無駄になってしまう。とくに、処理を行う装置が複数の端末から送信された印刷物を撮像して得られた画像データを受け付けるサーバに設置されている場合には、処理を行っても無駄な画像データの送信を受け付けてしまうことによりサーバが混雑し、真に透かしが埋め込まれている印刷物から得た撮像画像データから透かしを検出する処理が遅滞してしまう。
また、透かし検出のための処理を行うとその処理のためのサービス料金が発生し、サービス料金は透かし検出の処理を依頼したユーザに課金される。しかしながら、透かしが埋め込まれていない場合にも透かしを検出する処理が行われるためユーザには課金されてしまい、その結果、ユーザは無駄な出費を強いられることとなる。
本発明は上記事情に鑑みなされたものであり、透かしが埋め込まれた画像に対してのみ、透かしの検出のための処理を行うことを目的とする。
本発明による印刷物生成装置は、画像に所定の情報を秘匿的に埋め込むことにより情報付与済み画像を取得し、該情報付与済み画像を記録した印刷物を生成する印刷物生成装置において、
前記画像に前記所定の情報が埋め込まれたことを表す付与済み情報を前記印刷物に付与する付与手段を備えたことを特徴とするものである。
「付与済み情報」は、所定の情報が秘匿的に埋め込まれていることを認識可能であればいかなる情報をも用いることができる。例えば、所定の情報が埋め込まれていることを示す記号、テキスト文書等の視認可能なマークの他、秘匿的に埋め込む電子透かし等を用いることができる。
なお、本発明による印刷物生成装置においては、前記付与手段を、前記付与済み情報を前記所定の情報の埋め込み方式とは異なる埋め込み方式により前記画像に秘匿的に埋め込むことにより、前記付与済み情報を前記印刷物に付与する手段としてもよい。
「異なる埋め込み方式」とは、所定の情報を埋め込む埋め込み方式よりも、処理が容易であるとともに、埋め込んだ付与済み情報を容易に検出ことができる埋め込み方式を意味する。例えば、付与済み情報は、画像に所定の情報が埋め込まれていることのみが分かればよい情報であるため、所定の情報の埋め込み方式よりも少ない情報量による埋め込み方式や、狭い帯域幅の埋め込み方式を採用することができ、このような埋め込み方式を採用することにより、付与済み情報の検出も容易となる。
また、前記付与手段を、視認可能なマークにより前記付与済み情報を前記印刷物に付与する手段としてもよい。
本発明による第1の情報検出装置は、付与済み情報を画像に秘匿的に埋め込むようにした本発明の印刷物生成装置により生成された前記印刷物を含む任意の印刷物を撮像手段によって撮像することにより得られた撮像画像データの入力を受け付ける入力受付手段と、
該撮像画像データから前記付与済み情報が検出されるか否かを判定する判定手段と、
前記付与済み情報が検出された撮像画像データにのみ前記所定の情報の検出のための処理を行う処理手段とを備えたことを特徴とするものである。
「撮像手段」とは、印刷物に記録された画像を表す画像データを取得できるものであれば、デジタルカメラ、スキャナ等あらゆる手段を用いることができる。
「所定の情報の検出のための処理」は、結果として所定の情報を検出できる処理であればよく、具体的には、所定の情報を検出する処理のみならず、所定の情報を検出する装置や、この装置を設置したサーバ等に撮像画像データを送信する処理を含む。
なお、本発明による第1の情報検出装置においては、前記処理手段が、前記所定の情報の検出のための処理として、該所定の情報の検出を行う手段である場合において、前記撮像画像データの幾何学的歪みを補正する歪み補正手段をさらに備えるものとし、
前記判定手段および前記処理手段を、該歪み補正手段により補正された撮像画像データに対して前記判定および前記所定の情報の検出を行う手段としてもよい。
この場合、前記歪み補正手段を、前記撮像手段が有する撮像レンズに起因する幾何学的歪みおよび/または前記印刷物の撮像時における光軸の傾きに起因する幾何学的歪みを補正する手段としてもよい。
また、本発明による第1の情報検出装置においては、前記処理手段を、前記所定の情報の検出のための処理として、前記所定の情報を検出する装置に前記撮像画像データを送信する処理を行う手段とし、前記判定手段が前記撮像画像データから前記付与済み情報を検出した場合にのみ、前記撮像画像データを前記所定の情報を検出する装置に送信する手段としてもよい。
本発明による第2の情報検出装置は、付与済み情報を画像に視認可能に印刷物に付与するようにした本発明の印刷物生成装置により生成された前記印刷物を含む任意の印刷物を撮像手段によって撮像することにより得られた撮像画像データの入力を受け付ける入力受付手段と、
前記所定の情報の検出のための処理を行う処理手段とを備えたことを特徴とするものである。
なお、本発明による第2の情報検出装置においては、前記処理手段が、前記所定の情報の検出のための処理として、該所定の情報の検出を行う手段である場合において、前記撮像画像データの幾何学的歪みを補正する歪み補正手段をさらに備えるものとし、
前記処理手段を、該歪み補正手段により補正された撮像画像データに対して前記検出のための処理を行う手段としてもよい。
この場合、前記歪み補正手段を、前記撮像手段が有する撮像レンズに起因する幾何学的歪みおよび/または前記印刷物の撮像時における光軸の傾きに起因する幾何学的歪みを補正する手段としてもよい。
また、本発明による第1および第2の情報検出装置においては、前記撮像手段を携帯端末装置に設けられたカメラとしてもよい。
また、本発明による第1および第2の情報検出装置においては、前記撮像手段を、撮像する前記印刷物を表示する表示手段と、
該撮像手段の前記印刷物に対する光軸の傾きを検出する傾き検出手段と、
該傾き検出手段が検出した光軸の傾きを表す情報を前記表示手段に表示する表示制御手段とを備えてなるものとしてもよい。
また、本発明による第1および第2の情報検出装置においては、前記所定の情報を前記画像に対応付けられた音声データの格納場所を表す格納場所情報とし、
該格納場所情報に基づいて前記音声データを取得する音声データ取得手段をさらに備えるものとしてもよい。
本発明による印刷物生成方法は、画像に所定の情報を秘匿的に埋め込むことにより情報付与済み画像を取得し、該情報付与済み画像を記録した印刷物を生成する印刷物生成方法において、
前記画像に前記所定の情報が埋め込まれたことを表す付与済み情報を前記印刷物に付与することを特徴とするものである。
なお、本発明による印刷物生成方法においては、前記付与済み情報を前記所定の情報の埋め込み方式とは異なる埋め込み方式により前記画像に秘匿的に埋め込むことにより、前記付与済み情報を前記印刷物に付与するようにしてもよい。
本発明による情報検出方法は、本発明の印刷物生成方法により生成された前記印刷物を含む任意の印刷物を撮像手段によって撮像することにより得られた撮像画像データの入力を受け付け、
該撮像画像データから前記付与済み情報が検出されるか否かを判定し、
前記付与済み情報が検出された撮像画像データにのみ前記所定の情報の検出のための処理を行うことを特徴とするものである。
なお、本発明による印刷物生成方法および情報検出方法をコンピュータに実行させるためのプログラムとして提供してもよい。
本発明の印刷物生成装置および方法によれば、所定の情報が埋め込まれたことを表す付与済み情報が印刷物に付与される。このため、印刷物における付与済み情報の有無に基づくことにより、印刷物に記録された画像に所定の情報が秘匿的に埋め込まれているか否かを容易に判定することができる。
とくに、電子透かしのように画像に秘匿的に埋め込むことにより付与済み情報を印刷物に付与すれば、印刷物に記録された画像に所定の情報が埋め込まれていることを表す付与済み情報でさえも容易に解読できない態様にて画像に付与することができるため、付与済み情報の秘匿性を保つ上で好ましい。また、所定の情報とは異なる埋め込み方式により付与済み情報を画像に秘匿的に埋め込むことにより、付与済み情報を所定の情報よりも簡易に検出することができる。
また、付与済み情報を視認可能なマークにより印刷物に付与することにより、印刷物を見れば、画像に所定の情報が埋め込まれているか否かを直ちに認識することができる。
本発明の第1の情報検出装置および方法によれば、本発明の印刷物生成方法および装置により付与済み情報が画像に秘匿的に埋め込まれることにより生成された印刷物を含む任意の印刷物が撮像手段によって撮像され、印刷物に記録された情報付与済み画像を表す撮像画像データが取得される。そして、撮像画像データから付与済み情報が検出されるか否かが判定され、付与済み情報が検出された撮像画像データにのみ所定の情報の検出のための処理が施される。ここで、付与済み情報は所定の情報の埋め込み方式とは異なる埋め込み方式により画像に埋め込まれているため、その検出は所定の情報の検出よりも容易である。したがって、所定の情報が埋め込まれているか否かの判定を容易に行って、所定の情報が埋め込まれた印刷物にのみ所定の情報を検出するための処理を施すことができる。
また、所定の情報の検出のための処理は所定の情報が埋め込まれた画像が記録された印刷物に対してのみ施されるため、処理を行う装置が所定の情報が埋め込まれていない画像が記録された印刷物に所定の情報検出のための処理を施すことがなくなり、これにより、処理を行う装置の負担を低減することができる。また、所定の情報の検出のための処理に課金がされる場合であっても、所定の情報が検出される印刷物に対してのみ処理が施されるため、所定の情報の検出処理を依頼したユーザが無駄な出費をすることもなくなる。
また、撮像画像データの幾何学的歪みを補正し、幾何学的歪みを補正した撮像画像データから付与済み情報および所定の情報を検出することにより、撮像画像データが幾何学的歪みを含むものであっても、付与済み情報および所定の情報を歪みのない状態で精度よく検出することができる。
この場合、撮像手段が携帯端末装置に設けられたカメラのように、低価格の撮像レンズを使用しているために得られる画像の幾何学歪みが大きい場合、あるいは撮像手段の光軸を印刷物に対して垂直にして撮影することが困難な場合には、本発明による補正の効果は非常に大きい。
本発明の第2の情報検出装置および方法によれば、本発明の印刷物生成装置および方法により付与済み情報が視認可能に印刷物に付与されることにより生成された印刷物を含む任意の印刷物が撮像手段によって撮像され、印刷物に記録された情報付与済み画像を表す撮像画像データが取得される。そして、撮像画像データに所定の情報の検出のための処理が施される。ここで、印刷物には付与済み情報が視認可能に付与されているため、処理を行う装置が所定の情報が埋め込まれていない画像が記録された印刷物に所定の情報検出のための処理を施すことがなくなり、これにより、処理を行う装置の負担を低減することができる。また、所定の情報の検出のための処理に課金がされる場合であっても、所定の情報が検出される印刷物に対してのみ処理が施されるため、所定の情報の検出処理を依頼したユーザが無駄な出費をすることもなくなる。
また、撮像画像データの幾何学的歪みを補正し、幾何学的歪みを補正した撮像画像データから所定の情報を検出することにより、撮像画像データが幾何学的歪みを含むものであっても、所定の情報を歪みのない状態で精度よく検出することができる。
この場合、撮像手段が携帯端末装置に設けられたカメラのように、低価格の撮像レンズを使用しているために得られる画像の幾何学歪みが大きい場合、あるいは撮像手段の光軸を印刷物に対して垂直にすることが困難な場合には、本発明による補正の効果は非常に大きい。
なお、カメラの表示手段に光軸の傾きを表す情報を表示することにより、印刷物に対して光軸がほぼ垂直となるように印刷物を撮像することができるため、所定の情報の検出精度を向上させることができる。
また、所定の情報が画像に対応付けられた音声データのURL等の格納場所を表す格納場所情報である場合、この格納場所情報に基づいて音声データの格納場所にアクセスして音声データを取得することにより、音声データを取得したユーザは画像に対応付けられた音声を再生して楽しむことができる。
以下図面を参照して本発明の実施形態について説明する。図1は本発明の実施形態による印刷物生成装置を備えた情報付与システムの構成を示す概略ブロック図である。図1に示すように、本実施形態による印刷物生成装置を備えた情報付与システム1は、画像データS0のプリントを受け付ける写真店に設置されてなるものであり、画像データS0および画像データS0と関連付ける音声データMnの入力を受け付ける入力部11と、画像データS0により表される画像に含まれる被写体を抽出する被写体抽出部12と、画像を被写体毎の領域にブロック化するブロック化処理部13と、音声データMnの保管場所を表すコードCnを発生する入力データ処理部14と、音声データMn等種々の情報を保管する情報記憶部15と、コードCnを画像データS0に埋め込むとともに、コードCnが埋め込まれていることを表す付与済み情報Wを埋め込んでコードCnおよび付与済み情報Wが埋め込まれた情報付与済み画像データS1を取得する埋め込み処理部16と、情報付与済み画像データS1をプリント出力するプリンタ17とを備える。
なお、本実施形態においては、画像データS0により表される画像を原画像とし、画像データS0と同様に原画像についても参照符号としてS0を用いるものとする。また、原画像S0には3人の人物が含まれており、音声データMnは3人の人物それぞれの声を表す3つの音声データMn(n=1〜3)とする。
ここで、音声データM1〜M3は、画像データS0を取得したユーザ(以下取得ユーザとする)が録音したものである。音声データM1〜M3は、例えばデジタルカメラにおいて画像データS0の撮像時に録音されて画像データS0とともにメモリカードに記録される。そして、取得ユーザがメモリカードを写真店に持参することにより、音声データM1〜M3は写真店の情報記憶部15に保管される。なお、取得ユーザは、自分が所有するパソコンを用いてインターネット経由で音声データM1〜M3を情報付与システム1に送信してもよい。
なお、デジタルビデオカメラにより撮像された動画の1フレームをプリントアウトする場合がある。この場合、音声データM1〜M3としては、動画とともに録音されている音声を表すものを用いることができる。
入力部11は、画像データS0および音声データM1〜M3が記録されたCD−R、DVD−R、メモリカード等の種々のメディアから画像データS0および音声データM1〜M3を読み出すメディアドライブ、ネットワーク経由で送信された画像データS0および音声データM1〜M3の入力を受け付ける通信インターフェース等、画像データS0および音声データM1〜M3の入力を受け付けることが可能なあらゆる手段を用いることができる。
被写体抽出部12は、原画像から肌色領域を抽出したり顔の輪郭を抽出することにより、図2に示すように、原画像から人物の顔を含む顔領域F1〜F3を抽出する。
ブロック化処理部13は、被写体抽出部12が抽出した顔領域F1〜F3を含みかつ各顔領域F1〜F3が他の顔領域と重複しないように、原画像S0にコードC1〜C3を埋め込むためのブロック領域B1〜B3を設定する。本実施形態においては、例えば図3に示すようにブロック領域B1〜B3を設定する。
なお、本実施形態においては、原画像S0から顔領域を抽出しているが、海、山、花等の特定の被写体を検出し、これを含むように原画像S0にブロック領域を設定してもよい。
また、原画像S0を輝度や色差等の特徴量に基づいて複数の領域に分割することにより、顔等の特定の被写体を抽出することなく、原画像S0にブロック領域を設定してもよい。
入力データ処理部14は、入力部11が入力を受け付けた音声データM1〜M3を情報記憶部15に保管するとともに、音声データM1〜M3のそれぞれに対応したユニークなコードC1〜C3を発生する。このコードC1〜C3は、音声データM1〜M3の保管場所のURLを128ビットの情報で表したものである。
情報記憶部15は、後述するようにパソコンや携帯電話等からアクセスされるサーバに設置されてなるものである。
埋め込み処理部16は、コードC1〜C3を、原画像S0のブロック領域B1〜B3にそれぞれ電子透かしとして埋め込む。図4は、埋め込み処理部16が行う電子透かしの埋め込みアルゴリズムを説明するための図である。まず、m種類(本実施形態においては、コードC1〜C3が128ビットであるから128種類)の疑似ランダムパターンRi(i=1〜m)を生成する。なお、ランダムパターンRiは実際には2次元のパターンRi(x,y)であるが、ここでは説明のために1次元のパターンRi(x)として表すものとする。そして、音声データM1〜M3の保管場所のURLを128ビットの情報で表した場合におけるi番目ビットの値を、対応するi番目のランダムパターンRi(x)に乗算する。すなわち、音声データM1の保管場所のURLが例えば、1ビット目から順に1,1,0,0,…1というコードC1により表されている場合、R1(x)×1,R2(x)×1,R3(x)×0,R4(x)×0,…,Ri(x)×(i番目ビット値),…Rm(x)×1を算出する。さらに、R1(x)×1,R2(x)×1,R3(x)×0,R4(x)×0,…Rm(x)×1の総和Sum(=ΣRi(x)×(i番目ビット値))を算出する。そして算出したSumを原画像S0におけるブロック領域B1内の画像データS0に加算することにより、コードC1を画像データS0に埋め込む。
同様に、コードC2,C3についてもコードC2,C3とランダムパターンRi(x)との乗算値の総和Sumを算出し、これをブロック領域B2,B3内の画像データS0に加算することにより、コードC2,C3を画像データS0に埋め込む。
また、埋め込み処理部16は、コードC1〜C3が埋め込まれていることを表す付与済み情報Wを画像データS0に埋め込む。ここで、付与済み情報Wは、画像データS0にコードC1〜C3が埋め込まれているか否かを表す情報であるため、1ビットの情報量で十分である。具体的には、付与済み情報Wを表す2次元のパターンW(x,y)を画像データS0に加算することにより付与済み情報Wを画像データS0に埋め込む。ここで、付与済み情報Wは1ビットのように情報量が少ないため、パターンW(x,y)を空間的に低周波なものとすることができる。
以上のようにして、コードC1〜C3および付与済み情報Wが埋め込まれた画像データを情報付与済み画像データS1とする。
プリンタ17は、コードC1〜C3および付与済み情報Wが埋め込まれた情報付与済み画像データS1をプリント出力してプリントPを得る。
次いで、情報の付与時に行われる処理について説明する。図5は情報の付与時に行われる処理を示すフローチャートである。まず、入力部11が画像データS0および音声データM1〜M3の入力を受け付け(ステップS1)、被写体抽出部12が原画像S0から顔領域F1〜F3を抽出し(ステップS2)、さらにブロック化処理部13が顔領域F1〜F3を含むブロック領域B1〜B3を原画像S0に設定する(ステップS3)。
一方、入力データ処理部14は音声データM1〜M3を情報記憶部15に保管し(ステップS4)、さらに音声データM1〜M3の保管場所のURLを表すコードC1〜C3を発生する(ステップS5)。なお、ステップS4およびステップS5の処理は逆に行ってもよいが、並列に行うことが好ましい。また、ステップS2およびS3の処理と、ステップS4および5の処理は逆に行ってもよいが、並列に行うことが好ましい。
続いて、埋め込み処理部16がコードC1〜C3を原画像S0のブロック領域1〜B3にそれぞれ埋め込むとともに、付与済み情報Wを原画像S0に埋め込み、コードC1〜C3および付与済み情報Wが埋め込まれた情報付与済み画像を表す情報付与済み画像データS1を生成する(ステップS6)。そして、プリンタ17が情報付与済み画像データS1をプリント出力してプリントPを生成し(ステップS7)、処理を終了する。
次いで、本実施形態による情報検出装置を備えた情報送信システムについて説明する。図6は本発明による情報検出装置を適用した情報送信システムの第1の実施形態の構成を示す概略ブロック図である。図6に示すように、第1の実施形態による情報送信システムは、上記情報付与システム1とともに写真店に設置されてなるものであり、カメラ付き携帯電話3と上記情報付与システム1における情報記憶部15を備えたサーバ4との間で公衆回線5を介してデータのやり取りを行うものである。
カメラ付き携帯電話3は、上記情報付与システム1において生成されたプリントPや後述するプリントP′を撮像してプリントP,P′に記録された画像を表す撮像画像データS2を取得する撮像部31と、画像や種々の情報を表示する表示部32と、十字キー等の複数の入力キーからなるキー入力部33と、公衆回線5を介して通話、メールの送受信およびデータの送受信を行う通信部34と、撮像部31において取得された撮像画像データS2をメモリカード等に記憶する記憶部35と、撮像画像データS2の歪みを補正して補正画像データS3を得る歪み補正部36と、補正画像データS3における付与済み情報Wの有無に基づいて撮像したプリントにコードC1〜C3が埋め込まれているか否かを判定する第1の情報検出部37Aと、第1の情報検出部37Aが付与済み情報Wを検出した場合にのみ、補正画像データS3からプリントに埋め込まれたコードC1〜C3を取得する第2の情報検出部37Bと、音声を出力するスピーカ等の音声出力部38とを備える。
撮像部31は、撮像レンズ、シャッタ、撮像デバイス等からなる。なお、撮像レンズは35mmカメラ換算でf≦28mmの広角レンズが使用される。また、撮像デバイスとしては、例えばカラーCMOSセンサやカラーCCDセンサを用いることができる。
表示部32は液晶モニタ等からなる。なお、本実施形態においては、撮像画像データS2を縮小して得られた画像の全体が表示部32に表示されるようにしてもよいが、撮像画像データS2を縮小することなくそのまま表示部32に表示してもよい。この場合は、キー入力部33の十字キーを用いて表示された画像をスクロールすることにより、画像上の全領域を把握することができる。
ここで、撮像部31において撮像されるプリントには、上記情報付与システム1により、プリントに含まれる被写体に対応する音声データM1〜M3の保管場所のURLを表すコードC1〜C3が電子透かしとして埋め込まれたプリントPのみならず、何ら情報が埋め込まれていないプリントP′も含まれる。
撮像部31においてプリントPを撮像した場合、取得される撮像画像データS2は、情報付与システム1において取得された情報付与済み画像データS1に対応したものとなっているはずである。しかしながら、撮像部31においては撮像レンズとして広角レンズを使用しているため、撮像画像データS2により表される画像は撮像部31における撮像レンズの幾何学的歪みを含んだものとなっている。したがって、コードC1〜C3および付与済み情報Wの検出のために、撮像画像データS2と疑似ランダムパターンRi(x,y)およびパターンW(x,y)との相関値を算出しても、埋め込まれた疑似ランダムパターンRi(x,y)およびパターンW(x,y)が歪んでいるため相関値が大きくならず、プリントPに埋め込まれたコードC1〜C3を検出することができない。
このため、本実施形態においては、歪み補正部36において、撮像画像データS2により表される画像に含まれる撮像レンズに起因する幾何学的歪みを補正して補正画像データS3を取得するようにしたものである。
また、プリントPを撮像する際には、図7(a)に示すようにカメラ付き携帯電話3における撮像部31の光軸XがプリントPに対して垂直となるように撮像することが好ましいが、図7(b)に示すように光軸Xが傾いてしまうことが多い。このように光軸Xが傾くと撮像画像データS2により表される画像には光軸Xが傾くことに起因する幾何学的歪みを含んだものとなり、プリントPに埋め込まれたコードC1〜C3を検出することができないこととなってしまう。このため、歪み補正部36は、撮像画像データS2により表される画像に含まれる、光軸が傾くことに起因する幾何学的歪みをも補正して補正画像データS3を取得する。
ここで、光軸が傾いた状態でプリントPを撮像すると、撮像画像データS2により表される画像には、例えば図8(a)に示すようにプリントPの直交する2辺の角度が90度よりも大きくなったり小さくなったりして、本来矩形であるはずのプリントPの形状が台形となっている。このため、歪み補正部36は台形となっているプリントPの形状が図8(b)に示すように矩形となるように、撮像レンズに起因する幾何学的歪みが補正された撮像画像データS2を補正して補正画像データS3を取得する。
第1の情報検出部37Aは、補正画像データS3とパターンW(x,y)との相関値を求め、相関値が予め定められたしきい値以上の場合に、撮像したプリントには付与済み情報Wが埋め込まれており、その結果、コードC1〜C3が埋め込まれていると判定する。一方、相関値がしきい値未満の場合には、撮像したプリントにはコードC1〜C3が埋め込まれていないと判定し、その旨を表す「コードが埋め込まれていません」等のメッセージを表示部32に表示する。
なお、パターンW(x,y)は低周波の情報であるため、撮像レンズに起因する歪みおよび光軸の傾きに起因する歪みの影響を受けにくい。このため、撮像画像データS2とパターンW(x,y)との相関値を求めて撮像したプリントにコードC1〜C3が埋め込まれているか否かを判定し、埋め込まれていると判定された場合にのみ、歪み補正部36により撮像画像データS2を補正するようにしてもよい。
第2の情報検出部37Bは、撮像したプリントにコードC1〜C3が埋め込まれていると第1の情報検出部37Aが判定した場合に、補正画像データS3と疑似ランダムパターンRi(x,y)との相関値を求め、撮像したプリントに埋め込まれた音声データM1〜M3の保管場所のURLを表すコードC1〜C3を取得する。
具体的には、補正画像データS3とすべての疑似ランダムパターンRi(x,y)との相関値を算出し、相関値が比較的大きい疑似ランダムパターンRi(x,y)については1を、それ以外の疑似ランダムパターンRi(x,y)については0を割り当て、割り当てられた値1,0を1番目の疑似ランダムパターンRi(x,y)から順に並べることにより、128ビットの情報、すなわち音声データM1〜M3の保管場所のURLを検出することができる。
サーバ4は、公衆回線5を介してのデータの送受信を行う通信部51と、音声データM1〜M3等種々の情報を記憶した上記情報付与システム1に含まれる情報記憶部15と、カメラ付き携帯電話3から送信されたコードC1〜C3に基づいて、情報記憶部15を検索してコードC1〜C3により表されるURLが指定する音声データM1〜M3を取得する情報検索部52とを備える。
次いで、情報送信システムの第1の実施形態において行われる処理について説明する。図9は第1の実施形態において行われる処理を示すフローチャートである。なお、カメラ付き携帯電話3のユーザ(以下受信ユーザとする)には、プリントP,P′が渡されているものとする。まず、受信ユーザの指示により撮像部31がプリントP,P′を撮像し、プリントP,P′の画像を表す撮像画像データS2を取得する(ステップS11)。記憶部35は撮像画像データS2を一旦記憶する(ステップS12)。そして、歪み補正部36が記憶部35から撮像画像データS2を読み出し、撮像画像データS2に含まれる撮像レンズおよび撮像時の光軸の傾きに起因する幾何学的歪みを補正して補正画像データS3を取得する(ステップS13)。
そして、第1の情報検出部37Aが補正画像データS3から付与済み情報Wが検出されるか否かを判定する(ステップS14)。ステップS14が否定されると、表示部32に例えば「コードが埋め込まれていません」等のメッセージを表示し(ステップS15)、処理を終了する。
ステップS15が肯定されると、第2の情報検出部37Bが、補正画像データS3に埋め込まれている音声データM1〜M3の保管場所のURLを表すコードC1〜C3を検出する(ステップS16)。コードC1〜C3を検出すると、通信部34が公衆回線5を介してコードC1〜C3をサーバ4に送信する(ステップS17)。
サーバ4の通信部51はコードC1〜C3を受信し(ステップS18)、情報検索部52がコードC1〜C3により表されるURLに基づいて情報記憶部15から音声データM1〜M3を検索し(ステップS19)、通信部51が検索した音声データM1〜M3を公衆回線5を介してカメラ付き携帯電話3に送信する(ステップS20)。
カメラ付き携帯電話3の通信部34は音声データM1〜M3を受信し(ステップS21)、音声出力部38が音声データM1〜M3を再生し(ステップS22)、処理を終了する。
ここで、送信される音声データM1〜M3はプリントPに含まれる3人の人物の声であるため、受信ユーザは、カメラ付き携帯電話3の表示部32に表示された画像とともに、その画像に含まれる人物の声を聞くことができる。
このように、本実施形態においては、原画像S0に含まれる被写体毎に音声データM1〜M3の保管場所のURLを表すコードC1〜C3を埋め込むとともに、コードC1〜C3が埋め込まれていることを表す付与済み情報Wを埋め込み、コードC1〜C3および付与済み情報Wが埋め込まれた情報付与済み画像データS1をプリントするようにしたものである。そして、このようにして得られたプリントPまたは何ら情報が埋め込まれていないプリントP′をカメラ付き携帯電話3の撮像部31により撮像して撮像画像データS2を得、さらにこれを補正することにより得られた補正画像データS3に付与済み情報Wが埋め込まれているか否かを判定し、付与済み情報Wが埋め込まれている場合にのみ補正画像データS3からコードC1〜C3を取得するようにしたものである。
ここで、付与済み情報WはプリントPにコードC1〜C3が埋め込まれているか否かのみを表す情報であり、情報の付与および検出を容易に行うことができるため、付与済み情報Wの検出は、コードC1〜C3の検出よりも少ない演算にて行うことができる。したがって、カメラ付き携帯電話3は、負担の少ない処理により、プリントP,P′にコードC1〜C3が埋め込まれているか否かを判断でき、さらに、付与済み情報Wが検出された場合にのみ、コードC1〜C3を検出する処理を行えばよいこととなる。したがって、コードC1〜C3が埋め込まれていないプリントP′を撮像して得られた撮像画像データS2に対しては、演算量の多いコードC1〜C3を検出する処理を行う必要がなくなり、これにより、カメラ付き携帯電話3において行われる処理の負担を軽減することができる。
また、撮像部31の撮像レンズに起因する幾何学的歪みおよび撮像時の光軸の傾きに起因する幾何学的歪みを補正しているため、撮像部31がそれほど高性能のものではなく、得られた撮像画像データS2が撮像部31の撮像レンズに起因する幾何学的歪みを含むものであっても、また、プリントPの撮像時に撮像部31の光軸がプリントPに対して垂直でなくても、補正画像データS3により表される補正画像おいては、プリントPに記録された画像に埋め込まれたコードC1〜C3および付与済み情報Wが歪みのない状態で埋め込まれていることとなる。したがって、埋め込まれたコードC1〜C3および付与済み情報Wを精度よく検出することができる。
また、上記第1の実施形態においては、プリントPには3人の人物が含まれているため、撮像画像データS2により表される画像から各人物の顔領域を抽出し、各人物の顔を受信ユーザに選択させるようにしてもよい。具体的には、各人物の顔画像を表示部3に切り替え表示する、各人物の顔画像を並べて表示する、各人物の顔画像に番号を付与して番号を表示して選択させる等により、各人物の顔画像を選択させることができる。顔画像の選択後は、受信ユーザが選択した顔画像からコードを検出し、検出したコードをサーバ4に送信して、選択した人物に対応する音声データのみを情報記憶部15から検索してカメラ付き携帯電話3に送信すればよい。
次いで、本発明の情報検出装置の第2の実施形態について説明する。図10は本発明の情報検出装置を適用した情報送信システムの第2の実施形態の構成を示す概略ブロック図である。なお、第2の実施形態において、第1の実施形態と同一の構成については同一の参照番号を付し、詳細な説明は省略する。第2の実施形態においては、カメラ付き携帯電話3において取得された撮像画像データS2から付与済み情報Wを検出できた場合にのみ撮像画像データS2をサーバ4に送信し、サーバ4においてコードC1〜C3を検出するようにした点が第1の実施形態と異なる。このため、第2の実施形態においては、カメラ付き携帯電話3が第1の情報検出部37Aのみを有し、サーバ4が第1の実施形態における歪み補正部36および第2の情報検出部37Bに対応する歪み補正部54および情報検出部55を備える。
なお、第2の実施形態においては、歪み補正部54は、カメラ付き携帯電話3の機種に応じた撮像レンズの歪み特性情報を記憶したメモリ54Aを備える。このメモリ54Aには、カメラ付き携帯電話3の機種情報と歪み特性情報とが対応付けられて記憶されている。そして、カメラ付き携帯電話3から送信された機種情報に基づいて、対応する機種の歪み特性情報を読み出して撮像画像データS2の撮像レンズに起因する幾何学的歪みの補正を行うものである。なお、カメラ付き携帯電話3においては、機種に応じて特有の電話番号が割り当てられている。このため、電話番号と機種情報とを対応付けた情報をもメモリ54Aに記憶しておき、カメラ付き携帯電話3から電話番号を送信することにより、歪み特性情報を読み出すようにしてもよい。
ここで、付与済み情報WのパターンW(x,y)は低周波の情報であるため、撮像レンズに起因する幾何学的歪みや撮像時の光軸の傾きに起因する幾何学的歪みの影響を受けにくい。このため、撮像画像データS2とパターンW(x,y)との相関値を求めることにより、撮像したプリントにコードC1〜C3が埋め込まれているか否かを判定することができるものである。なお、カメラ付き携帯電話3に歪み補正部を設け、撮像画像データS2における撮像レンズに起因する幾何学的歪みや撮像時の光軸の傾きに起因する幾何学的歪み幾何学的歪みを補正してから第1の情報検出部37Aにおいて付与済み情報Wを検出してもよいことはもちろんである。この場合、サーバ4には歪み補正部54が不要となる。
次いで、第2の実施形態において行われる処理について説明する。図11は第2の実施形態において行われる処理を示すフローチャートである。なお、受信ユーザには、プリントP,P′が渡されているものとする。まず、受信ユーザの指示により、撮像部31がプリントP,P′を撮像し、プリントP,P′の画像を表す撮像画像データS2を取得する(ステップS31)。記憶部35は撮像画像データS2を一旦記憶する(ステップS32)。
そして、第1の情報検出部37Aが撮像画像データS2から付与済み情報Wが検出されるか否かを判定する(ステップS33)。ステップS33が否定されると、表示部32に例えば「コードが埋め込まれていません」等のメッセージを表示し(ステップS34)、処理を終了する。
ステップS34が肯定されると、通信部34が記憶部35から撮像画像データS2を読み出し、公衆回線5を介して撮像画像データS2をサーバ4に送信する(ステップS35)。
サーバ4の通信部51は撮像画像データS2を受信し(ステップS36)、歪み補正部54が撮像画像データS2に含まれる撮像レンズおよび撮像時の光軸の傾きに起因する幾何学的歪みを補正して補正画像データS3を取得する(ステップS37)。そして、情報検出部55が、補正画像データS3に埋め込まれている音声データM1〜M3の保管場所のURLを表すコードC1〜C3を検出する(ステップS38)。コードC1〜C3を検出すると、情報検索部52がコードC1〜C3により表されるURLに基づいて情報記憶部15から音声データM1〜M3を検索し(ステップS39)、通信部51が、検索した音声データM1〜M3を公衆回線5を介してカメラ付き携帯電話3に送信する(ステップS40)。
カメラ付き携帯電話3の通信部34は音声データM1〜M3を受信し(ステップS41)、音声出力部38が音声データM1〜M3を再生し(ステップS42)、処理を終了する。
このように、第2の実施形態においては、撮像したプリントにコードC1〜C3が埋め込まれている場合にのみ、撮像画像データS2をサーバ4に送信するようにしたため、サーバ4はコードC1〜C3が埋め込まれていない撮像画像データS2に対して歪み補正や情報検出のための処理を行う必要がなくなり、これにより、サーバの無用な混雑を防止することができる。また、受信ユーザは、無駄な撮像画像データS2をサーバ4に送信することがなくなるため、通信費およびサーバ4において発生するコードC1〜C3の検出のための費用を節約することができる。
また、第2の実施形態においては、サーバ4においてコードC1〜C3を検出しているため、カメラ付き携帯電話3においてはコードC1〜C3を検出するための処理を行う必要がなく、その結果、第1の実施形態と比較してカメラ付き携帯電話3の処理の負担を軽減することができる。また、カメラ付き携帯電話3に歪み補正部および第2の情報検出部を設ける必要がなくなるため、第1の実施形態と比較して、カメラ付き携帯電話3のコストを低減することができるとともに、カメラ付き携帯電話3の消費電力を低減することができる。
さらに、コードC1〜C3を埋め込むアルゴリズムは日々更新されるが、サーバ4に情報検出部55を設けることにより、アルゴリズムの頻繁な更新にも対応することができる。
また、上記第2の実施形態において、プリントPには3人の人物が含まれているため、撮像画像データS2により表される画像から各人物の顔領域を抽出し、撮像画像データS2に代えて各人物の顔を表す顔画像データをサーバ4に送信するようにしてもよい。具体的には、各人物の顔画像を表示部3に切り替え表示する、各人物の顔画像を並べて表示する、各人物の顔画像に番号を付与して番号を表示して選択させる等により、各人物の顔を選択させ、撮像画像データS2から選択させた顔に対応する画像データを顔画像データとして抽出し、抽出した顔画像データをサーバ4に送信する。サーバ4は、選択した人物に対応する音声データのみを情報記憶部15から検索してカメラ付き携帯電話3に送信すればよい。
これにより、撮像画像データS2を送信する場合と比較して、カメラ付き携帯電話3からサーバ4に送信するデータのデータ量を少なくすることができる。また、サーバ4において埋め込まれたコードを検出するための演算時間を短縮することができ、これにより、音声データを迅速に受信ユーザに送信することができる。
なお、上記第2の実施形態においては、歪み補正部54において、光軸の傾きに起因する幾何学的歪みを補正しているが、プリントPに対する光軸の角度を少しずつ変化させながら複数回プリントPを撮像し、第1の情報検出部37Aにおいて複数回の撮像により取得されたすべての撮像画像データS2とパターンW(x,y)との相関値を求め、最も相関値が高い撮像画像データS2のみを通信部34からサーバ4に送信するようにしてもよい。これにより、サーバ4に歪み補正部54においては、撮像画像データS2に含まれる光軸の傾きに起因する幾何学的歪みを補正する必要がなくなる。
また、第1の実施形態においても、同様にプリントPに対する光軸の角度を少しずつ変化させながら複数回プリントPを撮像し、複数回の撮像により取得されたすべての撮像画像データS2を一旦第1の情報検出部37Aに入力してすべての撮像画像データS2とパターンW(x,y)との相関値を求め、最も相関値が高い撮像画像データS2のみを記憶部35に記憶するようにしてもよい。
ところで、携帯電話を用いてインターネットにアクセスしたり、電子メールの送受信を行うために、携帯電話会社はウェブサーバやメールサーバにアクセスするための中継サーバを提供しており、携帯電話からは中継サーバを介してウェブサイトにアクセスしたり、電子メールの送受信を行っている。このため、ウェブサーバに音声データM1〜M3を保管しておき、中継サーバに本発明による情報検出装置を設けるようにしてもよい。以下、これを第3の実施形態として説明する。
図12は、本発明の情報検出装置を適用した情報送信システムの第3の実施形態である携帯電話中継システムの構成を示す概略ブロック図である。なお、第3の実施形態において、第1の実施形態と同一の構成については同一の参照番号を付し、詳細な説明は省略する。
図12に示すように、情報送信システムの第3の実施形態である携帯電話中継システムは、カメラ付き携帯電話3と、中継サーバ6と、ウェブサーバやメールサーバ等からなるサーバ群7との間で公衆回線5およびネットワーク8を介してデータのやり取りを行うものである。
なお、第3の実施形態においては、カメラ付き携帯電話3は第1の実施形態による情報送信システムに用いられているカメラ付き携帯電話3における撮像部31、表示部32、キー入力部33、通信部34、記憶部35および音声出力部38のみを有し、第1および第2の情報検出部37A,37Bは有さない。
中継サーバ6は、カメラ付き携帯電話3およびサーバ群7を中継する中継システム61と、第2の実施形態の歪み補正部54に対応する歪み補正部62と、第1の実施形態の第1および第2の情報検出部37A,37Bに対応する第1および第2の情報検出部63A,63Bと、カメラ付き携帯電話3の通信料金を管理する課金システム64とを備える。なお、歪み補正部62は、第2の実施形態のメモリ54Aに対応する、カメラ付き携帯電話3の機種に応じた歪み特性情報を記憶したメモリ62Aを備えている。
なお、第3の実施形態においては、第2の情報検出部63Bは、補正画像データS3から付与済み情報Wが検出された場合に、補正画像データS3からコードC1〜C3を検出するとともに、コードC1〜C3に対応するURLを中継システム61に入力する機能を有する。
中継システム61は、第2の情報検出部63BからURLが入力されるとそのURLに対応するウェブサーバ(7Aとする)にアクセスして、そこに保管されている音声データM1〜M3を読み出し、カメラ付き携帯電話3に送信する。
なお、第1の情報検出部63Aにおいて、補正画像データS3から付与済み情報Wが検出できない場合には、第1の情報検出部63Aからその旨が中継システム61に入力される。中継システム61はその旨を記述した電子メールをカメラ付き携帯電話3に送信して、カメラ付き携帯電話3から送信された撮像画像データS2には、コードC1〜C3が付与されていなかったことをカメラ付き携帯電話3のユーザに通知する。
課金システム64は、カメラ付き携帯電話3の通信料金の管理を行う。本実施形態においては、撮像したプリントにコードC1〜C3が埋め込まれており、中継システム61が音声データM1〜M3を取得するためにウェブサーバ7Aにアクセスした段階において課金システム64が課金を開始し、撮像したプリントにコードC1〜C3が埋め込まれていない場合には、中継システム61はサーバ群7のいずれにもアクセスしないため、課金はされないこととなる。
次いで、第3の実施形態において行われる処理について説明する。図13は第3の実施形態において行われる処理を示すフローチャートである。なお、受信ユーザには、プリントP,P′が渡されているものとする。まず、受信ユーザの指示により、撮像部31がプリントP,P′を撮像し、プリントP,P′の画像を表す撮像画像データS2を取得する(ステップS51)。記憶部35は撮像画像データS2を一旦記憶する(ステップS52)。そして、通信部34が記憶部35から撮像画像データS2を読み出し、公衆回線5を介して撮像画像データS2を中継サーバ6に送信する(ステップS53)。
中継サーバ6の中継システム61は撮像画像データS2を受信し(ステップS54)、歪み補正部62が撮像画像データS2に含まれる撮像レンズおよび撮像時の光軸の傾きに起因する幾何学的歪みを補正して補正画像データS3を取得する(ステップS55)。そして、第1の情報検出部63Aが、補正画像データS3から付与済み情報Wが検出されるか否かを判定する(ステップS56)。
ステップS56が肯定されると、情報検出部63が、補正画像データS3からコードC1〜C3を検出して、さらにコードC1〜C3からURLを生成して中継システム61に入力する(ステップS57)。中継システム61はURLに基づいてウェブサーバ7Aにネットワーク8を介してアクセスする(ステップS58)。
ウェブサーバ7Aは音声データM1〜M3を検索し(ステップS59)、検索した音声データM1〜M3をネットワーク8を介して中継システム61に送信する(ステップS60)。中継システム61は音声データM1〜M3を中継してカメラ付き携帯電話3に送信する(ステップS61)。
カメラ付き携帯電話3の通信部34は音声データM1〜M3を受信し(ステップS62)、音声出力部38が音声データM1〜M3を再生し(ステップS63)、処理を終了する。
一方、ステップS56が否定されると、撮像したプリントにコードC1〜C3が埋め込まれていない旨を記述した電子メールを中継システム61がカメラ付き携帯電話3に送信し(ステップS64)、処理を終了する。
ここで、第3の実施形態においては、中継サーバ6に第1および第2の情報検出部63A,63Bを設けているが、カメラ付き携帯電話3に第1の情報検出部63Aのみを、中継サーバ6に第2の情報検出部63Bのみを設けるようにしてもよい。これにより、中継サーバ6はコードC1〜C3が埋め込まれていないプリントP′から得られた撮像画像データS2に対して歪み補正や情報検出のための処理を行う必要がなくなり、これにより、中継サーバ6の無用な混雑を防止することができる。また、受信ユーザは、無駄な撮像画像データS2を中継サーバ6に送信することがなくなるため、通信費および中継サーバ6において発生するコードC1〜C3の検出のための費用を節約することができる。
なお、上記第1から第3の実施形態においては、コードC1〜C3が埋め込まれたことを表す付与済み情報WをプリントPに埋め込んでいるが、プリントPに図14に示すようにコードC1〜C3が埋め込まれていることを示す◎印のパターン等の記号等のマークKを付与済み情報Wとしてプリントするようにしてもよい。なお、マークKは図14に示すように画像に影響を与えないプリントの周辺部にプリントすることが好ましいが、プリントPの裏にプリントしてもよい。なお、プリントPの裏であれば例えば「この写真には音声がリンクされています。」のようなテキストをマークKとしてプリントしてもよい。
これにより、受信ユーザはプリントPを見るのみで、マークKの有無により撮像するプリントにコードC1〜C3が埋め込まれているか否かを判断でき、付与済み情報Wが付与されているプリントPのみを撮像すればよいこととなる。したがって、図15に示す第4の実施形態による情報送信システムのように、第1および第2の実施形態と比較してカメラ付き携帯電話3の第1の情報検出部37Aを省略することができる。また、第3の実施形態と比較して中継サーバ6の第1の情報検出部63Aを省略することができる。
なお、図14に示すようにマークKを付与済み情報Wとしてプリントした場合は、歪み補正部における撮像画像データS2からの光軸の傾きに起因する幾何学的歪みの補正を、マークKを用いて行うことができる。例えば、図14に示すように◎印のパターンからなるマークKがプリントされている場合、プリントPに対して垂直となるように撮像した場合は◎印のパターンは図16(a)に示すように円が2つ重なった形状となるが、光軸が傾いていると図16(b)に示すように楕円が2つ重なった形状となる。このため、歪み補正部は楕円形状となっているマークKの形状が図16(a)に示すように円形状となるように撮像レンズに起因する幾何学的歪みが補正された撮像画像データS2を補正して補正画像データを得るようにすればよい。
ここで、マークKとしては◎印のパターンに限定されるものではなく、円形のパターン、楕円形のパターン、星形状のパターン、正方形パターンおよび長方形パターン等の少なくとも直交する対称軸が2つあるパターンを用いることにより、◎印のパターンと同様に撮像画像データS2における光軸の傾きに起因する幾何学的歪みを補正することができる。なお、これらのパターンに代えて、メッシュ状のパターンからなる記号をマークKとしてプリントすることによっても、◎印のパターンと同様に撮像画像データS2における光軸の傾きに起因する幾何学的歪みを補正することができる。
なお、マークKとしては、プリントPに含まれる被写体に応じたものとしてもよい。例えばプリントPが自動車の画像である場合には自動車のマークを、商品の画像である場合には商品のロゴをマークKとして用いてもよい。
また、上記第1から第4の実施形態においては、人物を被写体としたプリントPに人物の音声データのURLをコードとして埋め込んでいるが、例えば自動車、洋服および食品等の商品の画像のプリントPにその商品を説明するためのウェブサイトや商品を説明するための音声データ等のURLをコードとして埋め込んでおき、プリントPを撮像してコードをサーバ4に送信すると、その商品のウェブサイトにアクセスしたり、商品の説明の音声データの送信を受けるようにしてもよい。
また、上記第1から第4の実施形態においては、歪み補正部36,54,62において、光軸の傾きに起因する幾何学的歪みを補正しているが、図17に示すカメラ付き携帯電話3′のように、カメラ付き携帯電話3に撮像部31のプリントPに対する光軸の傾きを検出する傾き検出部41と、傾き検出部41が検出した光軸の傾きを表す情報を表示部32に表示する表示制御部42を設けるようにしてもよい。
ここで、傾き検出部41は、撮像画像データS2により表される画像に含まれるプリントPの直交する2辺の角度を90度との差を算出する手法、プリントPに付与済み情報WがマークKにより付与されている場合は、撮像画像データS2により表される画像に含まれるマークKの元のマークKからの歪み量を算出する手法等により、光軸の角度を検出する。
表示制御部42は、傾き検出部41が検出した光軸の傾きを表す情報を表示部32に表示する。具体的には、図18(a)に示すように角度を数値で表示したり、図18(b)に示すように水準器43を表示する。なお、水準器43はそこに含まれる黒丸44が撮像部31の光軸に対する角度に応じて移動し、黒丸44基準線45に位置するときに光軸がプリントPに対して垂直であることを示すものである。
また、上記第1から第4の実施形態においては、音声データM1〜M3の保管場所のURLを電子透かしとして埋め込んでいるが、プリントPに含まれる人物の電話番号を埋め込んでもよい。この場合、プリントPに含まれる人物は自分の電話番号を他人に知られることなく密かにカメラ付き携帯電話3のユーザに伝えることができる。一方、カメラ付き携帯電話3のユーザは、カメラ付き携帯電話3においてプリントPを撮像することにより得られた撮像画像データS2からプリントPに含まれる人物の電話番号を得ることができ、これによりカメラ付き携帯電話3のユーザはプリントPに含まれる人物に電話をかけることができる。
また、上記第1から第4の実施形態においては、撮像画像データS2を補正することにより得られた補正画像データS3からコードC1〜C3を検出しているが、撮像部31の撮像レンズが高性能であって幾何学的歪みを含まなかったり含んでいてもごく僅かなものである場合がある。このような場合には、撮像画像データS2の撮像レンズに起因する幾何学的歪みを補正することなく、撮像画像データS2からコードC1〜C3を検出することができる。また、プリントPの撮像時に光軸がプリントPに対して垂直となるように撮像を行うことにより、撮像画像データS2の光軸の傾きに起因する幾何学的歪みを補正することなく、撮像画像データS2からコードC1〜C3を検出することができる。
また、上記第1から第4の実施形態においては、カメラ付き携帯電話3においてプリントPを撮像して、カメラ付き携帯電話3に音声データM1〜M3を送信しているが、パソコンに接続されたカメラ、スキャナ等によりプリントPから画像を読み取って撮像画像データS2を得、パソコンに音声データM1〜M3を送信して再生するようにしてもよい。
また、上記第1から第4の実施形態においては、音声データをカメラ付き携帯電話3に送信しているが、音声データの送信に代えて、カメラ付き携帯電話3に電話をかけて、通話状態にて音声データをカメラ付き携帯電話3において再生させるようにしてもよい。
本発明の実施形態による印刷物生成装置を備えた情報付与システムの構成を示す概略ブロック図 顔領域の抽出を説明するための図 ブロック領域の設定を説明するための図 電子透かしの埋め込みアルゴリズムを説明するための図 情報の付与時に行われる処理を示すフローチャート 情報送信システムの第1の実施形態の構成を示す概略ブロック図 光軸の傾きを説明するための図 光軸が傾いている場合および傾いていない場合のプリントの形状を示す図 第1の実施形態において行われる処理を示すフローチャート 情報送信システムの第2の実施形態の構成を示す概略ブロック図 第2の実施形態において行われる処理を示すフローチャート 情報送信システムの第3の実施形態である携帯電話中継システムの構成を示す概略ブロック図 第3の実施形態において行われる処理を示すフローチャート 記号がプリントされた状態を示す図 情報送信システムの第2の実施形態の構成を示す概略ブロック図 光軸が傾いている場合および傾いていない場合の◎印のパターンの形状を示す図 カメラ付き携帯電話の他の例の構成を示す概略ブロック図 光軸の傾きを表す情報の表示形態を説明するための図
符号の説明
1 情報付与システム
3,3′ カメラ付き携帯電話
4 サーバ
5 公衆回線
6 中継サーバ
7 サーバ群
8 ネットワーク
11 入力部
12 被写体抽出部
13 ブロック化処理部
14 入力データ処理部
15 情報記憶部
16 埋め込み処理部
17 プリンタ
31 撮像部
32 表示部
33 キー入力部
34,51 通信部
35 記憶部
36,54,62 歪み補正部
37A,37B,55,63A,63B 情報検出部
38 音声出力部
41 傾き検出部
42 表示制御部
52 情報検索部
61 中継システム
64 課金システム

Claims (19)

  1. 画像に所定の情報を秘匿的に埋め込むことにより情報付与済み画像を取得し、該情報付与済み画像を記録した印刷物を生成する印刷物生成装置において、
    前記画像に前記所定の情報が埋め込まれたことを表す付与済み情報を前記印刷物に付与する付与手段を備えたことを特徴とする印刷物生成装置。
  2. 前記付与手段は、前記付与済み情報を前記所定の情報の埋め込み方式とは異なる埋め込み方式により前記画像に秘匿的に埋め込むことにより、前記付与済み情報を前記印刷物に付与する手段であることを特徴とする請求項1記載の印刷物生成装置。
  3. 前記付与手段は、視認可能なマークにより前記付与済み情報を前記印刷物に付与する手段であることを特徴とする請求項1記載の印刷物生成装置。
  4. 請求項2記載の印刷物生成装置により生成された前記印刷物を含む任意の印刷物を撮像手段によって撮像することにより得られた撮像画像データの入力を受け付ける入力受付手段と、
    該撮像画像データから前記付与済み情報が検出されるか否かを判定する判定手段と、
    前記付与済み情報が検出された撮像画像データにのみ前記所定の情報の検出のための処理を行う処理手段とを備えたことを特徴とする情報検出装置。
  5. 前記処理手段が、前記所定の情報の検出のための処理として、該所定の情報の検出を行う手段である場合において、前記撮像画像データの幾何学的歪みを補正する歪み補正手段をさらに備え、
    前記判定手段および前記処理手段は、該歪み補正手段により補正された撮像画像データに対して前記判定および前記所定の情報の検出を行う手段であることを特徴とする請求項4記載の情報検出装置。
  6. 前記歪み補正手段は、前記撮像手段が有する撮像レンズに起因する幾何学的歪みおよび/または前記印刷物の撮像時における光軸の傾きに起因する幾何学的歪みを補正する手段であることを特徴とする請求項5記載の情報検出装置。
  7. 前記処理手段が、前記所定の情報の検出のための処理として、前記所定の情報を検出する装置に前記撮像画像データを送信する処理を行う手段であり、前記判定手段が前記撮像画像データから前記付与済み情報を検出した場合にのみ、前記撮像画像データを前記所定の情報を検出する装置に送信する手段であることを特徴とする請求項4記載の情報検出装置。
  8. 請求項3記載の印刷物生成装置により生成された前記印刷物を含む任意の印刷物を撮像手段によって撮像することにより得られた撮像画像データの入力を受け付ける入力受付手段と、
    前記所定の情報の検出のための処理を行う処理手段とを備えたことを特徴とする情報検出装置。
  9. 前記処理手段が、前記所定の情報の検出のための処理として、該所定の情報の検出を行う手段である場合において、前記撮像画像データの幾何学的歪みを補正する歪み補正手段をさらに備え、
    前記処理手段は、該歪み補正手段により補正された撮像画像データに対して前記検出のための処理を行う手段であることを特徴とする請求項8記載の情報検出装置。
  10. 前記歪み補正手段は、前記撮像手段が有する撮像レンズに起因する幾何学的歪みおよび/または前記印刷物の撮像時における光軸の傾きに起因する幾何学的歪みを補正する手段であることを特徴とする請求項9記載の情報検出装置。
  11. 前記撮像手段は携帯端末装置に設けられたカメラであることを特徴とする請求項4から10のいずれか1項記載の情報検出装置。
  12. 前記撮像手段は、撮像する前記印刷物を表示する表示手段と、
    該撮像手段の前記印刷物に対する光軸の傾きを検出する傾き検出手段と、
    該傾き検出手段が検出した光軸の傾きを表す情報を前記表示手段に表示する表示制御手段とを備えてなることを特徴とする請求項4から11のいずれか1項記載の情報検出装置。
  13. 前記所定の情報は前記画像に対応付けられた音声データの格納場所を表す格納場所情報であり、
    該格納場所情報に基づいて前記音声データを取得する音声データ取得手段をさらに備えたことを特徴とする請求項4から12のいずれか1項記載の情報検出装置。
  14. 画像に所定の情報を秘匿的に埋め込むことにより情報付与済み画像を取得し、該情報付与済み画像を記録した印刷物を生成する印刷物生成方法において、
    前記画像に前記所定の情報が埋め込まれたことを表す付与済み情報を前記印刷物に付与することを特徴とする印刷物生成方法。
  15. 前記付与済み情報を前記所定の情報の埋め込み方式とは異なる埋め込み方式により前記画像に秘匿的に埋め込むことにより、前記付与済み情報を前記印刷物に付与することを特徴とする請求項14記載の印刷物生成方法。
  16. 請求項15記載の印刷物生成方法により生成された前記印刷物を含む任意の印刷物を撮像手段によって撮像することにより得られた撮像画像データの入力を受け付け、
    該撮像画像データから前記付与済み情報が検出されるか否かを判定し、
    前記付与済み情報が検出された撮像画像データにのみ前記所定の情報の検出のための処理を行うことを特徴とする情報検出方法。
  17. 画像に所定の情報を秘匿的に埋め込むことにより情報付与済み画像を取得し、該情報付与済み画像を記録した印刷物を生成する印刷物生成方法をコンピュータに実行させるためのプログラムにおいて、
    前記画像に前記所定の情報が埋め込まれたことを表す付与済み情報を前記印刷物に付与する手順を有することを特徴とするプログラム。
  18. 前記付与済み情報を前記印刷物に付与する手順は、前記付与済み情報を前記所定の情報の埋め込み方式とは異なる埋め込み方式により前記画像に秘匿的に埋め込むことにより、前記付与済み情報を前記印刷物に付与する手順であることを特徴とする請求項17記載のプログラム。
  19. 請求項18記載の印刷物生成方法により生成された前記印刷物を含む任意の印刷物を撮像手段によって撮像することにより得られた撮像画像データの入力を受け付ける手順と、
    該撮像画像データから前記付与済み情報が検出されるか否かを判定する手順と、
    前記付与済み情報が検出された撮像画像データにのみ前記所定の情報の検出のための処理を行う手順とを有することを特徴とする情報検出方法をコンピュータに実行させるためのプログラム。
JP2003417985A 2003-02-28 2003-12-16 印刷物生成装置および方法、情報検出装置および方法並びにプログラム Pending JP2004282708A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2003417985A JP2004282708A (ja) 2003-02-28 2003-12-16 印刷物生成装置および方法、情報検出装置および方法並びにプログラム
US10/786,503 US20040169892A1 (en) 2003-02-28 2004-02-26 Device and method for generating a print, device and method for detecting information, and program for causing a computer to execute the information detecting method

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2003053480 2003-02-28
JP2003417985A JP2004282708A (ja) 2003-02-28 2003-12-16 印刷物生成装置および方法、情報検出装置および方法並びにプログラム

Publications (1)

Publication Number Publication Date
JP2004282708A true JP2004282708A (ja) 2004-10-07

Family

ID=32911454

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003417985A Pending JP2004282708A (ja) 2003-02-28 2003-12-16 印刷物生成装置および方法、情報検出装置および方法並びにプログラム

Country Status (2)

Country Link
US (1) US20040169892A1 (ja)
JP (1) JP2004282708A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008228161A (ja) * 2007-03-15 2008-09-25 Ricoh Co Ltd 画像処理装置,画像処理方法,プログラム,および記録媒体
JP2014157595A (ja) * 2013-02-15 2014-08-28 Fuji Xerox Co Ltd メディアもしくは機能識別方法及びプログラム、マーカを含む物品、及びマーカ配置方法
US10412265B2 (en) 2015-10-06 2019-09-10 Canon Kabushiki Kaisha Information processing apparatus that displays a prompt to move the apparatus and information processing method

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8094949B1 (en) 1994-10-21 2012-01-10 Digimarc Corporation Music methods and systems
US6965682B1 (en) * 1999-05-19 2005-11-15 Digimarc Corp Data transmission by watermark proxy
US7006661B2 (en) 1995-07-27 2006-02-28 Digimarc Corp Digital watermarking systems and methods
AU2002232817A1 (en) 2000-12-21 2002-07-01 Digimarc Corporation Methods, apparatus and programs for generating and utilizing content signatures
US7046819B2 (en) 2001-04-25 2006-05-16 Digimarc Corporation Encoded reference signal for digital watermarks
JP2006121655A (ja) 2004-09-24 2006-05-11 Ricoh Co Ltd 改竄検出装置、改竄検出方法、その方法をコンピュータに実行させるためのプログラム
US7506801B2 (en) * 2005-04-07 2009-03-24 Toshiba Corporation Document audit trail system and method
JP2007110448A (ja) * 2005-10-13 2007-04-26 Fujitsu Ltd エンコード装置、デコード装置、エンコード方法、エンコードプログラムおよびこれらによって生成された印刷物
FR2892540A1 (fr) * 2005-10-24 2007-04-27 Brev Et Patents Sarl Procede de caracterisation d'elements aleatoires de la production de graphismes leur conferant les proprietes de sceau
JP4631760B2 (ja) * 2006-03-17 2011-02-16 カシオ計算機株式会社 デジタルカメラ、画像処理方法及びプログラム
US8917424B2 (en) 2007-10-26 2014-12-23 Zazzle.Com, Inc. Screen printing techniques
US9147213B2 (en) 2007-10-26 2015-09-29 Zazzle Inc. Visualizing a custom product in situ
US9213920B2 (en) 2010-05-28 2015-12-15 Zazzle.Com, Inc. Using infrared imaging to create digital images for use in product customization
US8712566B1 (en) 2013-03-14 2014-04-29 Zazzle Inc. Segmentation of a product markup image based on color and color differences

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7720249B2 (en) * 1993-11-18 2010-05-18 Digimarc Corporation Watermark embedder and reader
US5841978A (en) * 1993-11-18 1998-11-24 Digimarc Corporation Network linking method using steganographically embedded data objects
US6233684B1 (en) * 1997-02-28 2001-05-15 Contenaguard Holdings, Inc. System for controlling the distribution and use of rendered digital works through watermaking
US6603885B1 (en) * 1998-04-30 2003-08-05 Fuji Photo Film Co., Ltd. Image processing method and apparatus
US7707082B1 (en) * 1999-05-25 2010-04-27 Silverbrook Research Pty Ltd Method and system for bill management
US6826290B1 (en) * 1999-10-20 2004-11-30 Canon Kabushiki Kaisha Image processing apparatus and method and storage medium
JP4447799B2 (ja) * 2000-04-26 2010-04-07 キヤノン株式会社 撮像装置及びその制御方法
JP2001359126A (ja) * 2000-06-16 2001-12-26 Sony Corp 光軸傾斜角度検出装置とそれを備えた画像測定装置
JP3846851B2 (ja) * 2001-02-01 2006-11-15 松下電器産業株式会社 画像のマッチング処理方法及びその装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008228161A (ja) * 2007-03-15 2008-09-25 Ricoh Co Ltd 画像処理装置,画像処理方法,プログラム,および記録媒体
JP2014157595A (ja) * 2013-02-15 2014-08-28 Fuji Xerox Co Ltd メディアもしくは機能識別方法及びプログラム、マーカを含む物品、及びマーカ配置方法
US10412265B2 (en) 2015-10-06 2019-09-10 Canon Kabushiki Kaisha Information processing apparatus that displays a prompt to move the apparatus and information processing method

Also Published As

Publication number Publication date
US20040169892A1 (en) 2004-09-02

Similar Documents

Publication Publication Date Title
JP4676852B2 (ja) コンテンツ送信装置
US8224041B2 (en) Media data processing apparatus and media data processing method
US7783890B2 (en) Multimedia recording apparatus, object-specifying information providing apparatus, server apparatus, verification apparatus, multimedia recording method, object-specifying information providing method, server method, verification method, and multimedia recording system
JP2004282708A (ja) 印刷物生成装置および方法、情報検出装置および方法並びにプログラム
JP2006502660A (ja) 遠隔操作撮影のシステムおよび方法
US20040003052A1 (en) Data detection method, apparatus, and program
KR20110047398A (ko) 영상제공시스템 및 그 영상제공방법
JP2007257491A (ja) 偽札検出システム及び携帯通信端末
JP5500639B2 (ja) 端末装置、認証システム及びプログラム
JP2007168099A (ja) 名刺および端末装置
JP2003348327A (ja) 情報検出方法および装置並びにプログラム
JP4618356B2 (ja) 電子機器、及び、プログラム
JP4368906B2 (ja) 情報検出方法および装置並びにプログラム
JP2004282709A (ja) 情報付与装置および方法、情報検出装置および方法並びにプログラム
JP2008090447A (ja) 画像アルバム作成装置及び方法、通信端末、並びに、画像収集装置
JP4353467B2 (ja) 画像サーバおよびその制御方法
KR101630018B1 (ko) 촬영 단말기 및 그 제어방법, 촬영 단말기와 통신하는 그룹 영상 관리 시스템 및 그 제어방법과 이를 위한 기록 매체
JP4920492B2 (ja) 撮像装置
JP2005286823A (ja) 画像入力装置、通信システム、制御方法、コンピュータプログラム及び記憶媒体
JP5174228B2 (ja) 携帯端末
JP5718392B2 (ja) 情報機器および情報機器の制御方法
JP2005074856A (ja) 印刷システム
JP2003283819A (ja) 画像補正方法および装置並びにプログラム
JP5548253B2 (ja) 情報機器の制御方法
JP5225450B2 (ja) 画像管理サーバー

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060519

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20061206

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20071101

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071106

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071228

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20080205