JP5013694B2 - 画像処理方法、画像処理装置、プログラムコード及び記憶媒体 - Google Patents

画像処理方法、画像処理装置、プログラムコード及び記憶媒体 Download PDF

Info

Publication number
JP5013694B2
JP5013694B2 JP2005262655A JP2005262655A JP5013694B2 JP 5013694 B2 JP5013694 B2 JP 5013694B2 JP 2005262655 A JP2005262655 A JP 2005262655A JP 2005262655 A JP2005262655 A JP 2005262655A JP 5013694 B2 JP5013694 B2 JP 5013694B2
Authority
JP
Japan
Prior art keywords
electronic signature
information
verification
control
signature
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005262655A
Other languages
English (en)
Other versions
JP2007081452A (ja
Inventor
知俊 金津
淳一 林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2005262655A priority Critical patent/JP5013694B2/ja
Priority to US11/468,004 priority patent/US20070061583A1/en
Priority to CNB2006101291156A priority patent/CN100458819C/zh
Publication of JP2007081452A publication Critical patent/JP2007081452A/ja
Application granted granted Critical
Publication of JP5013694B2 publication Critical patent/JP5013694B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04KSECRET COMMUNICATION; JAMMING OF COMMUNICATION
    • H04K1/00Secret communication
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00Network architectures or network communication protocols for network security
    • H04L63/12Applying verification of the received information
    • H04L63/123Applying verification of the received information received data contents, e.g. message integrity
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L9/00Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols
    • H04L9/32Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols including means for verifying the identity or authority of a user of the system or for message authentication, e.g. authorization, entity authentication, data integrity or data verification, non-repudiation, key authentication or verification of credentials
    • H04L9/3247Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols including means for verifying the identity or authority of a user of the system or for message authentication, e.g. authorization, entity authentication, data integrity or data verification, non-repudiation, key authentication or verification of credentials involving digital signatures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L2209/00Additional information or applications relating to cryptographic mechanisms or cryptographic arrangements for secret or secure communication H04L9/00
    • H04L2209/68Special signature format, e.g. XML format
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L2209/00Additional information or applications relating to cryptographic mechanisms or cryptographic arrangements for secret or secure communication H04L9/00
    • H04L2209/80Wireless

Description

本発明は画像の電子署名を扱う技術に関する。
近年、コンピュータとそのネットワークの急速な発達及び普及により、文字データ、画像データ、音声データなど、多種の情報がデジタル化されている。デジタルデータは、経年変化などによる劣化がなく、いつまでも完全な状態で保存できる一方、容易に複製や編集・加工を施すことが可能である。こうしたデジタルデータの複製、編集、加工はユーザにとって大変有益である反面、デジタルデータの保護が大きな問題となっている。
そこで、送信されてきたデータが改ざんされたかどうかをユーザが検出するために、改ざん防止用の付加データを検証する方式として電子署名という技術が提案されている。電子署名技術は、データ改ざんだけではなく、ネットワーク上でのなりすまし、否認などを防止する効果も持ち合わせている。
この技術を利用し、電子文書(画像データ)を操作する装置に電子署名を検証する検証機能を備えることで、電子文書を操作する前(例えば表示、印刷或いは編集等の操作)に電子署名の検証を行い、その電子文書が信頼できるか否かを自動的に判断することが可能である。また、判断結果に応じて当該電子文書に対する操作内容を変更する装置が実現可能である。
例えば特許文献1では、電子署名の検証が成功した場合には電子文書に認証マークを付加して印刷し、電子署名の検証が失敗した場合には電子文書を印刷せず、かわりにエラー通知を印刷するという技術が開示されている。
特開2002−316465号公報
しかしながら、上記従来技術においては、電子文書等のデータの電子署名を検証した後に、そのデータを如何に扱うかの決定は、電子署名の検証者(電子署名を検証する人)、もしくは検証装置の判断に依存していた。
言い換えれば、従来の電子署名の検証後の処理においては、署名者(電子署名を生成した人)の意図に沿った処理は行われていなかった。
例えば、署名者は、改ざんされた電子文書の印刷は禁止させたいにもかかわらず、検証者が改ざんされた文書を印刷してしまう心配があった。
本発明はかかる事情に鑑みてなされたものであり、電子署名が付加された電子文書の署名を検証した際に、署名者の意図に沿った処理を実行できる技術を提供することを目的とする。
また、上記署名者の意図に沿った処理を行える様な、電子署名付き画像データを生成する技術を提供することを目的とする。
本発明の目的を達成するために、本発明の画像処理方法は情報取得手段、署名検証手段、処理能力取得手段、制御手段を備える画像処理装置の制御方法であって、前記情報取得手段が、画像データの電子署名を検証した結果に応じてどのように該画像データの操作を制御するかを示す制御情報を取得する情報取得工程と、前記署名検証手段が、前記電子署名を検証する署名検証工程と、
前記処理能力取得手段が、前記画像処理装置の処理能力を取得する処理能力取得工程と、前記制御手段が、前記電子署名を検証した結果と前記制御情報に基づいて、前記画像データの操作を制御する制御工程とを備え、前記制御情報には、電子署名の検証が成功した場合に実行できる操作を表す第1の操作情報と、電子署名の検証が失敗した場合に実行できる操作を表す複数の第2の操作情報とを含み、前記制御工程は、前記署名検証工程による電子署名の検証が失敗した場合、前記複数の第2の操作情報のうち、前記処理能力取得工程が取得した画像処理装置で処理可能な操作を選択して、実行することを特徴とする。
本発明によれば、電子文書の電子署名を検証した結果に基づいて、署名者の意図に沿った処理の制御が可能になる。
<実施形態1>
図1は本実施形態を用いたシステムのイメージ図である。101は紙文書を画像データに変換するスキャナである。102は電子文書(画像データ)を生成するコンピュータである。103は電子文書に対応する電子署名の検証、および印刷データの生成を行うコンピュータである。104はプリンタであり、その印刷データが表す画像を印刷する。101、102、103、104はネットワーク105に接続されている。なお、図1では4つの装置からシステムが構成されているが、本発明はこれに限らない。例えば101と102の代わりに、これら2つの装置の機能を含む単一の装置(高性能スキャナ、或いは複写機)を代用してもよい。同様に103と104の代わりに、これら2つの装置の機能を含む単一の装置(高性能プリンタ、或いは複写機)を代用してもよい。
次に、図2を用いて、本実施形態に適応可能なホストコンピュータについて説明する。
図2はホストコンピュータ201の基本構成を示すと共に、その周辺の機器との関係を示す図である。このホストコンピュータ201は、後述する電子文書生成装置301、及び電子文書操作装置302の夫々として適用される。なお、ホストコンピュータ201は、例えば一般に普及しているパーソナルコンピュータである。図中、202は、ホストコンピュータ201からの種々の情報を表示することの出来るモニタである。
203は、ホストコンピュータ201内の各部の動作を制御、或いはRAM205にロードされたプログラムを実行することのできるCPUである。204は、BIOSやブートプログラムを記憶しているROMである。205はCPU203にて処理を行うために一時的にプログラムや処理対象の画像データを格納しておくRAMであり、ここにOSやCPU203が後述の各種処理を行うためのプログラムがロードされることになる。
206は、RAM等に転送されるOSやプログラムを格納したり、装置が動作中に画像データを格納したり、読出すために使用されるハードディスク(HD)である。207は、外部記憶媒体の一つであるCD−ROM(CD−R)に記憶されたデータを読み込み或いは書き出すことのできるCD−ROMドライブである。208は、CD−ROMドライブ207と同様にFD(フロッピー(登録商標)ディスク)からの読み込み、FDへの書き出しができるFDドライブである。
209も、CD−ROMドライブ207と同様にDVD−ROMからの読み込み、DVD−RAMへの書き出しができるDVD−ROM(DVD−RAM)ドライブである。尚、CD−ROM、FD、DVD−ROM等に画像処理用のプログラムが記憶されている場合には、これらプログラムをHD206にインストールし、必要に応じてRAM205に転送されるようになっている。
211は、インターネットなどのネットワークに接続するネットワークインターフェースカード(NIC210)にホストコンピュータ201を接続するためのI/Fである。I/F211を介してホストコンピュータ201は、I/F211を通じてインターネットへデータを送信したり、インターネットからデータを受信する。215は、ホストコンピュータ201にマウス213やキーボード214を接続するためのI/Fで、I/F215を介してマウス213やキーボード214から入力された各種の指示がCPU203に入力される。
ホストコンピュータ201は、HD206、CD207、FD208、及びDVD209などに画像データなどを蓄積したり、或いは、蓄積されている画像データをモニタ202に表示したりすることが可能である。
更に、NIC210などを用いて、これらの画像データをインターネットなどを通じて配布させることが可能である。また、ユーザからの各種指示等は、マウス213、及びキーボード214からの入力により行われる。ホストコンピュータ201の内部では、バス216により後述する各ブロックが接続され、種々のデータの受け渡しが可能である。
図3は本実施形態の機能構成を示す図である。同図に示すように、本実施形態は電子文書生成装置301と、電子文書操作装置302から構成される。
電子文書生成装置301は、以下の処理部から構成される。304は紙文書303を入力する紙文書入力部である。305は紙文書を解析し構造化データを生成する構造化データ生成部である。307は構造化データおよび秘密鍵306から電子署名を生成する署名生成部である。318は電子文書の操作を制御する制御情報を生成する制御情報生成部である。なお、制御情報生成部318は、制御情報を入力するための表示部を保持してもよい。308は、制御情報生成部から取得した制御情報と、署名生成部から取得した電子署名を構造化データに関連付ける情報付加部である。309は構造化データと電子署名と制御情報を統合し電子文書311を生成する電子文書統合部である。310は電子文書311を電子文書操作装置302に送信する電子文書送信部310である。
電子文書操作装置302は、以下の処理部から構成される。312は電子文書311を受信する電子文書受信部である。313は統合された電子文書311を展開して構造化データと電子署名、制御情報を取得する電子文書展開部である。315は構造化データ、電子署名、公開鍵314をもとに電子署名の検証を行う署名検証部である。316は制御情報を解釈する制御情報解釈部であり、317は展開した電子文書を検証結果の成否と制御情報に従って加工、編集、印刷などの操作を行う操作実行部である。
以下、上述した各処理ブロックを詳細に説明する。
まず、電子文書生成装置301に含まれる各処理ブロックを説明する。
図3の紙文書入力部304では、公知の光電変換技術を備えるスキャナ101などにより、紙文書を画像データに電子化する。
次に、構造化データ生成部305の詳細を説明する。
図4は本実施形態における構造化データ生成部305の処理フローチャートであり、以下構造化データ生成部305の詳細について図5を例に説明する。
図5(A)は電子化される紙文書(画像)の一例である。
S401において、1画面分の画像を、各領域の属性に基づいて、部分領域(部分画像)に分割する。この部分領域とは同じ属性の領域が連続している画像の集合体である。ここで言う属性とは、文字、写真、表、線画などの特性、いわゆる画像の種類を差す。画像を部分領域に分割する技術は公知であるので詳細な説明は省略する。例えば、文書画像中の黒画素の塊、白画素の塊の集合を検出し、その形状、大きさ、集合状態等の特徴量から、文字、絵や図、表、枠、線といった特徴名で領域を抽出することができる。
図5(B)は、図5(A)の1画面分の画像を表す画像データから抽出した特徴量に基づいて各部分領域の属性を判別し、領域分割(各部分領域の取得)を行った結果である。図5(B)に示される各部分領域の属性は、502、504、505、506は文字領域、503はカラー写真領域となる。
そして、S401の処理結果として構造情報を生成する。構造情報とは、領域分割によって得られた各部分領域の属性、および上記1画面の画像内の位置座標等からなるレイアウトの情報を表す。
S402では、前記ステップS401で得られた部分領域ごとに伝達情報を生成する。伝達情報とは、この部分領域のレンダリングに必要な画像情報のことである。具体例として、この部分領域が写真や自然画であれば、これに対応する画像情報はカラーラスタデータやモノクロラスタデータのことである。また部分領域が線画や文字であれば、画像情報とは領域内のオブジェクトの輪郭をベクタ表現したベクタデータのことである。さらには部分領域が文字であれば、文字認識した結果である各文字コードの文字位置、およびフォント情報などからなるテキスト情報である。なお、本発明はこれに限らず、元の画像情報から得られる別の情報を伝達情報としてもよい。例えば部分領域が文字であれば、その領域に含まれる文字を電子的に発音した場合の音声情報を伝達情報としてもよい。
本実施形態では、図5(A)のような画像を表す画像データが電子文書生成装置301に入力された場合、図5(B)のように分割された各部分領域において、文字領域502、504、505、506についてはベクタデータが生成される。また、カラー写真領域503についてはカラーラスタデータが伝達情報として生成される。
次にS403では、S401で生成された構造情報とS402で生成された伝達情報を関連付ける。関連付けられた各情報は、図10のようなツリー構造で記述される。
S404では前記ステップS403までで生成されたデータ群を構造化データとして保存する。保存の形式は図10のようなツリー構造を表現可能な形式であればよい。本実施形態ではXML(eXtensible Markup Language)で保存するものとする。
次に、図3の署名生成部307について説明する。
署名生成部307は、電子署名の生成技術を用いて、構造化データに対し電子署名を生成する。
図18は、電子署名の作成処理および電子署名の検証処理を表す模式図である。電子署名の生成にはハッシュ関数と公開鍵暗号とが用いられる。ここでは、秘密鍵を1806、公開鍵を1811とすれば、送信者は、入力データ1801にハッシュ処理1802を施して固定長データであるダイジェスト値1803を算出する。その後、秘密鍵で上記固定長データに変換処理1804を施して電子署名1805を作成し、電子署名1805と入力データ1801とを受信者に送信する。受信者は、検証処理1812において、電子署名1810(電子署名1805と同じもの)を公開鍵1811で変換(復号)処理を施したデータと、入力データ1807にハッシュ処理1808を施したデータ1809とが一致するかどうか検証する。そして、上記検証の結果1813が一致していないならば、入力データ1807の改ざんが行われたことを検出できる。
図18の電子署名の生成処理フローに従うと、署名生成部307は、入力データ1801となる伝達情報にハッシュ処理1802を施して固定長データであるダイジェスト値1803を算出する。その後、秘密鍵1806として図3の秘密鍵306を用いて、ダイジェスト値1803に変換処理1804を施し署名データ1805を生成する。
なお、構造化データがもつ全ての伝達情報の各々から電子署名を生成してもよいし、任意の一部の伝達情報のみから電子署名を生成してもよい。更に、構造情報に対して電子署名を生成してもよい。また本実施形態ではこの電子署名データをXML形式で記述したXML署名データを用いるものとするが、他の記述形式を用いてもよい。
署名生成部307に入力される秘密鍵306は、電子文書の署名者により、電子文書生成装置301のハードウェアである記憶部(HD206等)にあらかじめ記憶された複数の秘密鍵から選択して用いてもよい。また、秘密鍵を保持するICカードのような記憶媒体を電子文書生成装置301に接続してこの秘密鍵を読み取らせてもよい。
次に制御情報生成部318について説明する。
制御情報生成部318は、電子署名を検証した後の電子文書操作装置302による動作を制御する情報(制御情報)を生成する。
この制御情報は、以下の3種類の情報を有する。まず1つ目は、電子文書を入力した電子文書操作装置302が、電子文書中の、電子署名の施された部分領域(被署名領域)に対して行われる可能性のある操作を示す情報である。例えば、この操作とは、入力データが表す画像の印刷、或いは表示のことである。2つ目は、前述した各操作の種類に対して、電子署名の検証が成功した場合に装置が実際に行うことができる操作の情報である。例えば印刷操作の場合について言えば、入力データが表す画像を正規画像として如何に印刷するかを示す選択肢に相当する。3つ目は、電子署名の検証が失敗した場合に行うことができる操作の情報である。例えば印刷操作の場合について言えば、入力データが表す画像を不正画像として如何に処理するかを示す選択肢に相当する。なお、電子署名の検証が成功した場合、あるいは失敗した場合に、電子文書操作装置302が行うべき操作の選択肢は、一つであっても複数であってもよい。複数の操作を選択できる場合には、電子文書操作装置302のユーザが、行うべき操作をマニュアル指定してもよく、予め決められた優先順序に従って自動的、或いはマニュアルで選択するようにしてもよい。上記選択は、電子文書操作装置302に適用されるホストコンピュータのモニタ202を見ながら、マウス213或いはキーボード214を介してユーザが行うことができるであろう。
なお、制御情報は前記3種類の情報でなくてもよい。例えば、制御情報は電子署名の検証が失敗した場合の制御情報だけでもよい。また制御情報は電子署名の検証が成功した場合の制御情報だけでもよい。また、制御情報の種類はユーザによって選択できるようにしてもよい。
図8に制御情報をXML形式のテキストデータとして記述した例を示す。801は伝達情報aを対象にする制御を記述する要素であり、対象である伝達情報をユーザが操作する際の制御を記述する要素802、807を含む。802は対象である画像を印刷しようとする際の制御を記述する要素であり、対象である画像に対応する電子署名を検証した結果に基づいて実際に実行することができる操作を記述する要素803、805を含む。803は電子署名の検証が成功した場合に実行することができる操作を記述する要素であり、対象である画像を印刷する指示を記述する要素804を含む。805は電子署名の検証が失敗した場合に実行することができる操作を記述する要素であり、対象である画像を黒く塗りつぶして印刷する指示を記述する要素806を含む。807は対象である画像を表示しようとする際の制御を記述する要素である。808は電子署名の検証が成功した場合に実行することができる操作を記述する要素で、対象である画像を表示する指示を記述する要素809を含む。810は電子署名の検証が失敗した場合に実行することができる操作を記述する要素で、対象である画像を表示しない指示を記述する要素811を含む。
図9は制御情報の別の記述例である。901は電子文書(画像データ)全体の被署名領域(電子署名の施された部分領域)を対象に制御を記述し、902は対象である被署名領域を印刷する際の制御を記述する。903は対象である被署名領域に対応する電子署名の検証が成功した場合の記述であり、後述の指示904〜905からユーザが選択することを示す。904は電子署名の検証が成功した被署名領域に、電子署名の検証が成功したことを表す認証マークを表示されている画像に付加して印刷する指示である。905は、表示されている画像に何も付加せず、画像を印刷する指示を記述する。906は対象である被署名領域に対応する電子署名の検証が失敗した場合の記述であり、後述の指示907〜910から、実行可能な印刷処理をユーザが選択することを示す。907は電子文書中の被署名領域であり、かつ電子署名の検証が失敗した被署名領域のみをカッター(切除手段)で切除して印刷する指示である。908は上記領域を黒塗りして印刷する指示である。909は上記領域を空白(非印刷)にして印刷する指示である。910はエラーを通知する紙を印刷する指示である。
図8や図9のような制御情報は、それぞれ署名者の意図によって画像の処理の内容が決定される。よって、例えば図14のような制御情報設定画面を電子文書生成装置301に設け、署名者であるユーザが、上記制御情報設定画面により制御情報を作成すればよい。或いは、複数種類の制御情報を蓄積しておき、署名者であるユーザがそれらから一つを選択して電子文書に付加するようにしてもよい。
次に情報付加部308について図6を用いて説明する。
本実施形態では、図5の画像データの写真領域503に対する伝達情報と文字領域506に対する伝達情報に電子署名を付加する例を示す。なお、本発明はこれに限らず、すべての伝達情報と構造情報に電子署名を付加してもよい。
601は、図5(B)の写真領域503の伝達情報であり、602は文字領域506の伝達情報である。603は電子文書全体(1画面分の画像全体)の構造情報である。604は署名生成部307で生成された写真領域503に対する伝達情報の電子署名であり、605は文字領域506に対する伝達情報の電子署名である。電子署名には、被署名データにあたる伝達情報や構造情報を指し示すポインタ情報を埋め込む。図6では、電子署名604内には被署名データである伝達情報601を指し示すポインタ情報606を埋め込む。電子署名と被署名データは一対一対応でなくてもよく、例えば、電子署名605には被署名データである伝達情報602を指し示すポインタ情報607や、電子文書全体の構造を表す構造情報603を指し示すポインタ608の両方を埋め込んでもよい。
また情報付加部308では、図6における伝達情報601,602のそれぞれに対し、制御情報生成部318で生成された制御情報609,610を付加する。
制御情報は図6のように伝達情報のそれぞれを対象とするように個別に付加されていても、一つの制御情報で複数の伝達情報を対象とするように付加されていてもよい。或いは、電子文書全体に対して一つの制御情報が付加されていて、前記制御情報は、電子文書内のすべて或いは一部の伝達情報を対象としてもよい。
次に、電子文書統合部309について図6および図7を用いて説明する。
図6の構造化データの情報601、602、603、および電子署名604、605、更に制御情報609、610は、それぞれ個別のXMLデータ、あるいは画像のバイナリデータの集合体である。電子文書統合部309は前記個別のデータをひとつに統合した電子文書を生成する。具体的な統合方法として公知のアーカイブ技術、例えばZIP方式などを用いればよい。
図7は電子文書統合部309により構造化データ、電子署名、制御情報を統合したときの模式図である。
なお、統合データは、図7に示される様なひとつのファイルに限らず、上記個別のデータを夫々別個の互いにリンクが貼られた別ファイルであってもよい。また統合する上記個別のデータをユーザに選択させてもよい。
電子文書送信部310は、電子文書統合部309が統合したデータを電子文書311として装置外へと送信する。
次に、電子文書操作装置302について説明する。
電子文書受信部312は、電子文書送信部310により送信された電子文書311を受信する。
電子文書展開部313は、図7の708のように統合された電子文書311内の各要素701〜707を図6のように伝達情報、構造情報、電子署名、および制御情報の個々データへと展開する。
次に、署名検証部315について図3,図7,図18を用いて説明する。
署名検証部315は、電子署名検証技術を用いて、電子文書311に含まれる被署名領域に対応する電子署名検証を行う。
図18の署名検証処理フローに従うと、入力データ1807となる図7の電子文書708中の被署名データである伝達情報a702に対し、ハッシュ処理1808を施して固定長データであるダイジェスト値1809を算出する。
そして上記ダイジェスト値1809と、公開鍵1811でよって復号された署名データ1810とが、一致するかどうかを検出する。なお、公開鍵情報はあらかじめ電子文書操作装置302に保存されているものとする。
次に、制御情報解釈部316および操作実行部317について説明する。
制御情報解釈部316は、電子文書内に含まれる制御情報を参照し、対象である被署名領域に対し実際に行うことのできる操作を決定する。操作実行部317は上記決定された操作を実行する。
以下具体例を示す。図5の電子文書生成装置301によって生成された電子文書311をプリンタが印刷する際に、図8に示す制御情報を適用する例を、図11のフローチャートを用いて説明する。なお、図8の制御を適用する対象801が示す伝達情報aは、図5の写真領域503の部分画像(カラーラスタデータ)が対応している。また本例では、写真領域503にのみ電子署名が施されているものとする。
ステップS1101において、電子文書を印刷する際にプリンタに送られる画像データとして白紙のページを表す画像データが生成される。
ステップS1102において、電子文書311から、その構造情報が取得される。構造情報に記述される部分領域が順にステップS1103以降の処理対象となる。
ステップS1103において、注目する部分領域に対応付けられた伝達情報に電子署名を生成する処理が施されているかどうかを調べる。電子署名が生成されている場合はステップS1104に進み、電子署名が生成されていない場合はステップS1105へ進む。
ステップS1104において、注目する部分領域に対応付けられた伝達情報が、制御の対象になっているかどうかを調べる。制御の対象である場合はステップS1106に進み、制御の対象でない場合はステップS1105へ進む。
ステップS1105では、注目する部分領域に対応付けられた伝達情報に対する、制御非対象領域の処理を行う。
本実施形態では、伝達情報の内容が、プリンタに送られるページ画像情報上にレンダリングされる。例えば、伝達情報がカラーラスタデータの場合は、そのラスタ画素を1ページの画像内の対応領域内にコピーする。また伝達情報がベクタデータの場合は、そのデータに従って1ページの画像上にベクタの描画を行う。
ステップS1106において、注目する部分領域に関する電子署名の検証を行う。
ステップS1107において、前記ステップS1106の電子署名の検証が成功の場合はステップS1108に進む。電子署名の検証が失敗した場合はステップS1109へ進む。
ステップS1108において、制御情報に記述されるその伝達情報に対する電子署名の検証が成功した時の処理を実行する。
図8中の、電子署名の検証が成功した場合の制御804に従う処理として、その部分領域が通常に印刷される様、ステップS1105と同様のレンダリング処理が行われる。
ステップS1109において、制御情報に記述されるその伝達情報に対する電子署名の検証が失敗した場合の処理を実行する。
図8中の、電子署名の検証が失敗した場合の制御806に従う処理として、その部分領域が黒塗りされるようなレンダリング処理が行われる。
ステップS1110において、全ての部分領域を処理した場合は終了する。まだ未処理の部分領域がある場合はステップS1103に戻って繰り返す。
これにより、もし電子文書に改ざんがなかった場合には、図5(A)と同じ見た目の印刷物が得られる。一方、電子文書中の写真領域503のデータに改ざんがあった場合には、この部分領域に対する署名検証ステップS1106が失敗し、ステップS1109の検証が失敗した場合の処理として領域内の黒塗り操作が行われる。よって得られる印刷物は図12のようになる。すなわち、電子署名の検証が成功した場合と、失敗した場合のいずれにおいても、その署名の後処理として、署名者の意図したとおりの処理が実行される。
同様に、図5(A)の電子文書生成装置301によって生成された電子文書311を、プリンタによって印刷する操作を行う際に、図9の制御情報を適用した場合の例を示す。
もし電子文書に改ざんがなかった場合は、904の指示である「認証マークを付けて印刷」と905の指示である通常の「印刷」のどちらを行うかをユーザに選択させる選択画面を表示する。この表示は上述した様に、電子文書操作装置302にホストコンピュータ201を適用した場合には、モニタ202によって実現できるであろう。図19は、その表示画面の一例である。図19では、電子署名の検証が成功した場合の操作のみ、ユーザが選択できる様に表示する。本発明はこれに限らず、ユーザが選択できる操作のみ表示してもよい。
次に、ユーザによって選択された印刷を行う。図13に認証マーク付きでの印刷を選択した場合の印刷結果の例を示す。1301が認証マークの例である。
一方、例えば写真領域503のデータに改ざんがあった場合、図9の制御情報は電子文書全体の被署名領域に適用され、検証が失敗した場合の制御記述906に従った処理が実行される。この場合、操作をおこなおうとする機器(主に電子文書操作装置302)の処理能力が調べられ、907〜910の中で実際に機器が実行可能なものが選択される。まず機器の出力部がカッターを備え、出力用紙の一部を切り取る能力の有無が調べられ、能力がある場合は1番目の指示907が実行される。機器がカッターを持たない場合は、2番目の黒塗り能力の有無、3番目の空白にする能力の有無が調べられ、可能なものが見つかり次第、その能力による操作が選択される。それらのすべてが不可能な場合には、上記不正処理に相当する文書の印刷の代わりとして、エラー通知を印刷してユーザに報知する。
以上、電子署名の検証が成功した場合にも、失敗した場合にも、署名検証の後処理として、署名者の意図したとおりの処理を行わせることができる。
以上の実施形態においては、署名者が電子文書(複数の部分画像から構成される画像等)に電子署名を施す際に、この電子署名を検証した結果に対し署名者が希望する電子文書の操作の選択肢(制御情報)を、電子文書(部分画像及び電子署名)に付加させる。そしてこの電子文書に対して操作を行う装置は、電子署名の検証後、上記選択肢(制御情報)に基づいて、署名者の意図に沿った処理の制御が可能になる。
<実施形態2>
図15は、本発明の実施形態2を適応させたシステムのイメージを示す図である。1501はデジタルカメラであり、デジタルカメラに内蔵のメモリカード等に撮影した画像をデジタルデータとして保存することができる。1502はプリンタであり、1501デジタルカメラを優先ケーブル1503、または無線などで接続することで、デジタルカメラ中の画像データを印刷することが可能である。
図16は本発明の実施形態2に適用するシステムの機能構成を示す図である。
撮像装置1601内部の撮像部1603が被写体を撮影した画像データを生成する。そして署名生成部1604が、秘密鍵1605を用いて上記画像データに対する電子署名を生成する。ここで秘密鍵1605は撮像装置内部にて保持されていてもよいし、外部の記憶媒体等から撮像装置内に取り込んでもよい。
制御情報生成部1606は、上記画像データおよび、その電子署名を検証した結果に応じた操作の制御情報を入力する。情報付加部1607は画像データに電子署名と制御情報を付加する。データ統合部1608は画像データ、電子署名、制御情報を実施形態1同様に統合する。
データ保存部1609は、データ統合部1608で統合された統合データを保存する。データ送信部1610は統合データを印刷装置1602に送信する。統合データ受信部1612は、データ送信部1610と通信して統合データを取得する。
統合データ展開部は統合データ受信部で取得した統合データを展開して画像データ、電子署名、制御情報を取り出す。署名検証部1615は公開鍵1614を用いて電子署名を検証する。
制御情報解釈部1616は、制御情報を解釈して、画像データに対応した電子署名を検証した結果に沿った操作を指示する。印刷出力部1617は、制御解釈部1616の指示に沿って画像データを印刷する。もしくは表示部1618が、制御情報解釈部1616の指示に沿って表示を行う。
例えば、本発明の実施形態2の撮像装置1601で撮影された画像に対し、撮影者(署名者)による電子署名、および図17の制御情報が入力されたものとする。それらを統合したデータは撮像装置1601内蔵のメモリカード等に蓄積される。
次に、任意のユーザが撮像装置1601内のデータを印刷装置1602で印刷するために、撮像装置1601と印刷装置1602を接続する。そして撮像装置1601または印刷装置1602の表示部で印刷を指示すると、データが印刷装置1602へと読み込まれ、画像データに付加された電子署名の検証と制御情報の解釈がおこなわれる。
画像データに改ざんがない場合は、図17に示す、電子署名の検証が成功した場合の制御記述に従って、通常の印刷が実行される。一方画像データに改ざんがあった場合、電子署名の検証が失敗すると共に、図17に示す、電子署名の検証が失敗した場合の制御記述から、以下のような制御がおこなわれる。
1.印刷装置1602が表示部を備えていれば、その表示部に電子署名の検証が失敗した旨を示す通知を表示する
2.接続された撮像装置の表示部が使用可能であれば、撮像装置の表示部に電子署名の検証が失敗した旨を示す通知を表示する
3.いずれも不可能であれば、印刷装置で電子署名の検証が失敗した旨を示す通知を印刷する
以上、電子署名の検証が成功した場合にも、失敗した場合にも、署名検証の後処理として、署名者の意図したとおりの処理を行わせることができる。
以上の実施形態においては、撮影者(署名者)が、撮像装置によって撮影された画像データに電子署名を施す際に、この電子署名を検証した結果に対し撮影者が希望する画像データの操作の選択肢(制御情報)を、画像データに付加させる。そしてこの画像データに対して操作を行う装置は、電子署名の検証後、上記選択肢(制御情報)に基づいて、撮影者の意図に沿った処理の制御が可能になる。
<実施形態3>
本発明の実施形態1および2において、制御情報に対しても電子署名を施し、その電子署名を検証した結果に応じても、電子文書の操作の制御を行うようにしてもよい。
例えば、制御情報に基づいて電子署名の施された電子文書に重大な操作を行う場合には、制御情報自体の信頼性が重要となる。よって制御情報にも電子署名を施すことでその信頼性を確保することができる。
そしてこの制御情報に対する電子署名の検証が成功した場合は、重大な操作でも実施させる。電子署名の検証が失敗した場合は、比較的重大ではない操作を実施させるような記述を制御情報に含めるようにする。
これにより、電子文書を操作する装置において、署名検証の後処理として、署名者の意図したとおりの処理を行わせることができる。
<他の実施形態>
本発明における画像データとは、文書と写真画像が存在する電子文書だけでなく、JPEG等で圧縮処理された画像のみのデータや、アスキーコード等で記述された文書のみのデータでもよい。
また、本発明における画像データの操作とは、表示や印刷だけでなく、読み出し或いは編集等の操作でもよい。
また、本発明における関連付けて保持するということは、制御情報、電子署名、構造情報などが夫々の位置情報等で関連付けられてればよく、図7の様に、ひとつもしくは複数のファイルに統合しなくてもよい。
また、本発明は上記実施形態を実現する為の装置及び方法のみに限定されるものではない。上記システム又は装置内のコンピュータ(CPUあるいはMPU)に、上記実施形態を実現する為のソフトウェアのプログラムコードを供給し、このプログラムコードに従って上記システムあるいは装置のコンピュータが上記各種デバイスを動作させる。これにより上記実施形態を実現する場合も本発明の範疇に含まれる。
またこの場合、ソフトウェアのプログラムコード自体が上記実施形態の機能を実現することになる。つまり、そのプログラムコード自体、及びそのプログラムコードをコンピュータに供給する為の手段、具体的には上記プログラムコードを格納した記憶媒体は本発明の範疇に含まれる。
この様なプログラムコードを格納する記憶媒体としては、例えばフロッピー(登録商標)ディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、磁気テープ、不揮発性のメモリカード、ROM等を用いることができる。
また、上記コンピュータが、供給されたプログラムコードのみに従って各種デバイスを制御することにより、上記実施形態の機能が実現される。またこの場合だけではなく、上記プログラムコードがコンピュータ上で稼働しているOS(オペレーティングシステム)、あるいは他のアプリケーションソフト等と共同して上記実施形態が実現される場合にもかかるプログラムコードは本発明の範疇に含まれる。
更に、この供給されたプログラムコードの指示に基づいてコンピュータの機能拡張ボードやコンピュータに接続された機能格納ユニットに備わるCPU等が処理の一部又は全部を行い、その処理によって上記実施形態が実現される場合も本発明の範疇に含まれる。
実施形態1のシステム概観を示す図 電子文書生成装置301及び電子文書操作装置302のハードウェア構成を示す図 実施形態1のシステムの機能構成を示す図 図4中の構造化データ生成部305のフローを示す図 電子文書化される紙文書および領域分割の例 情報付加部308を説明する図 電子文書統合部により統合された電子文書311の模式図の例 実施形態1を説明する制御情報の例 実施形態1を説明する別の制御情報の例 構造化データのツリー構造の例 制御情報解釈部316および操作実行部317を示すフローチャート 図8の制御情報に基づく署名検証失敗時の出力例 図9の制御情報に基づく署名検証成功時の出力例 制御情報設定UIの例 実施形態2のシステム概観図 実施形態2のシステムの機能構成を示す図 実施形態2を説明する制御情報の例 署名作成処理および署名検証処理を表す模式図 操作方法を選択させる選択UIの例
符号の説明
305 構造化データ生成部
307 署名生成部
318 制御情報生成部
308 情報付加部

Claims (8)

  1. 情報取得手段、署名検証手段、処理能力取得手段、制御手段を備える画像処理装置の制御方法であって、
    前記情報取得手段が、画像データと、前記画像データの電子署名と、前記画像データの電子署名を検証した結果に応じてどのように該画像データの操作を制御するかを示す制御情報を取得する情報取得工程と、
    前記署名検証手段が、前記電子署名を検証する署名検証工程と、
    前記処理能力取得手段が、前記画像処理装置の処理能力を取得する処理能力取得工程と、
    前記制御手段が、前記電子署名を検証した結果と前記制御情報に基づいて、前記画像データの操作を制御する制御工程とを備え、
    前記制御情報には、電子署名の検証が成功した場合に実行できる操作を表す第1の操作情報と、電子署名の検証が失敗した場合に実行できる操作を表す複数の第2の操作情報とを含み、
    前記制御工程は、前記署名検証工程による電子署名の検証が失敗した場合、前記複数の第2の操作情報のうち、前記処理能力取得工程が取得した画像処理装置で処理可能な操作を選択して、実行することを特徴とする画像処理装置の制御方法。
  2. 前記制御工程は、前記電子署名を検証した結果と前記制御情報に基づいて、前記画像データが表す画像の印刷、または、表示を制御することを特徴とする請求項に記載の画像処理装置の制御方法。
  3. 前記第1の操作情報は、認証マーク付き印刷、通常印刷、通常表示のいずれかであり、かつ、前記第2の操作情報は、黒塗り印刷、空白印刷、非表示、エラー通知印刷のいずれかであることを特徴とする請求項1又は請求項2に記載の画像処理装置の制御方法。
  4. 画像処理装置であって、
    画像データの電子署名を検証した結果に応じてどのように該画像データの操作を制御するかを示す制御情報を取得する情報取得手段と、
    前記電子署名を検証する署名検証手段と、
    前記画像処理装置の処理能力を取得する処理能力取得工程と、
    前記電子署名を検証した結果と前記制御情報に基づいて、前記画像データの操作を制御する制御手段とを備え、
    前記制御情報には、電子署名の検証が成功した場合に実行できる操作を表す第1の操作情報と、電子署名の検証が失敗した場合に実行できる操作を表す複数の第2の操作情報とを含み、
    前記制御手段は、前記署名検証手段による電子署名の検証が失敗した場合、前記複数の第2の操作情報のうち、前記処理能力取得工程が取得した画像処理装置で処理可能な操作を選択して、実行することを特徴とする画像処理装置。
  5. 前記制御手段は、前記電子署名を検証した結果と前記制御情報に基づいて、前記画像データが表す画像の印刷、または、表示を制御することを特徴とする請求項に記載の画像処理装置。
  6. 前記第1の操作情報は、認証マーク付き印刷、通常印刷、通常表示のいずれかであり、かつ、前記第2の操作情報は、黒塗り印刷、空白印刷、非表示、エラー通知印刷のいずれかであることを特徴とする請求項4又は請求項5に記載の画像処理装置。
  7. コンピュータを、請求項乃至の何れか1項に記載の画像処理装置が有する各手段として機能させるためのコンピュータプログラム。
  8. 請求項に記載のコンピュータプログラムを格納し、コンピュータが読み込み可能な記憶媒体。
JP2005262655A 2005-09-09 2005-09-09 画像処理方法、画像処理装置、プログラムコード及び記憶媒体 Expired - Fee Related JP5013694B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2005262655A JP5013694B2 (ja) 2005-09-09 2005-09-09 画像処理方法、画像処理装置、プログラムコード及び記憶媒体
US11/468,004 US20070061583A1 (en) 2005-09-09 2006-08-29 Image processing method, image processing apparatus, and storage medium
CNB2006101291156A CN100458819C (zh) 2005-09-09 2006-09-08 图像处理方法、图像处理装置和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005262655A JP5013694B2 (ja) 2005-09-09 2005-09-09 画像処理方法、画像処理装置、プログラムコード及び記憶媒体

Publications (2)

Publication Number Publication Date
JP2007081452A JP2007081452A (ja) 2007-03-29
JP5013694B2 true JP5013694B2 (ja) 2012-08-29

Family

ID=37856684

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005262655A Expired - Fee Related JP5013694B2 (ja) 2005-09-09 2005-09-09 画像処理方法、画像処理装置、プログラムコード及び記憶媒体

Country Status (3)

Country Link
US (1) US20070061583A1 (ja)
JP (1) JP5013694B2 (ja)
CN (1) CN100458819C (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4993674B2 (ja) * 2005-09-09 2012-08-08 キヤノン株式会社 情報処理装置、検証処理装置及びそれらの制御方法、コンピュータプログラム及び記憶媒体
JP4687625B2 (ja) * 2006-10-02 2011-05-25 富士ゼロックス株式会社 画像処理システムおよび画像処理プログラム
JP4352274B2 (ja) * 2006-11-16 2009-10-28 コニカミノルタビジネステクノロジーズ株式会社 画像形成装置及び印刷方法並びに制御プログラム
JP2008149592A (ja) * 2006-12-19 2008-07-03 Konica Minolta Business Technologies Inc 画像形成装置及び印刷方法並びに制御プログラム
JP2008312032A (ja) * 2007-06-15 2008-12-25 Kyocera Mita Corp 画像転送システム及び画像形成装置
JP2011118517A (ja) * 2009-12-01 2011-06-16 Fujifilm Corp 文書画像生成サーバ及びプログラム、並びに文書閲覧システム
JP4743306B2 (ja) 2009-03-31 2011-08-10 ブラザー工業株式会社 通信装置
JP5397019B2 (ja) 2009-05-28 2014-01-22 ブラザー工業株式会社 通信装置
JP5807537B2 (ja) * 2011-12-15 2015-11-10 富士通株式会社 検証方法、検証装置、および検証プログラム
KR20130115742A (ko) * 2012-04-13 2013-10-22 삼성전자주식회사 전자 서명 인증 방법 및 전자 서명 인증 장치
CN104113419B (zh) * 2014-07-18 2016-07-13 努比亚技术有限公司 电子签名的认证方法和系统
JP6286329B2 (ja) * 2014-09-19 2018-02-28 株式会社沖データ 画像形成装置及び情報提供方法
WO2017097270A1 (zh) * 2015-12-09 2017-06-15 周兴昌 一种传输数据的方法及传输数据的装置

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5787175A (en) * 1995-10-23 1998-07-28 Novell, Inc. Method and apparatus for collaborative document control
US5898779A (en) * 1997-04-14 1999-04-27 Eastman Kodak Company Photograhic system with selected area image authentication
US6785815B1 (en) * 1999-06-08 2004-08-31 Intertrust Technologies Corp. Methods and systems for encoding and protecting data using digital signature and watermarking techniques
JP4392926B2 (ja) * 1999-12-27 2010-01-06 キヤノン株式会社 画像処理装置、画像処理方法及び記憶媒体
EP1624609B1 (en) * 2000-01-21 2011-08-24 Sony Computer Entertainment Inc. Encryption data processing apparatus and method
JP4649760B2 (ja) * 2000-05-31 2011-03-16 ソニー株式会社 コンテンツ・コピー管理システム及び方法、情報処理装置及び方法、並びに、記憶媒体
US20020080959A1 (en) * 2000-12-27 2002-06-27 Xerox Corporation Automatic authentication of printed documents
TWI238637B (en) * 2001-01-10 2005-08-21 Ibm Method and system for processing of documents with electronic signatures
JP4103340B2 (ja) * 2001-05-08 2008-06-18 株式会社日立製作所 デジタル署名表示装置
JP2003114884A (ja) * 2001-10-05 2003-04-18 Hitachi Ltd 電子文書編集表示システム
JP4664572B2 (ja) * 2001-11-27 2011-04-06 富士通株式会社 文書配布方法および文書管理方法
JP3997085B2 (ja) * 2001-12-28 2007-10-24 キヤノン株式会社 画像生成装置
JP3916984B2 (ja) * 2002-03-25 2007-05-23 沖電気工業株式会社 電子透かし装置
JP2003298830A (ja) * 2002-03-29 2003-10-17 Canon Inc 画像処理装置およびその方法
JP2004282677A (ja) * 2003-01-21 2004-10-07 Canon Inc 画像処理方法
JP3941711B2 (ja) * 2003-02-24 2007-07-04 富士ゼロックス株式会社 電子機器および電子機器の制御方法
JP2005175652A (ja) * 2003-12-09 2005-06-30 Hitachi Ltd コンテンツ流通システム
JP4706453B2 (ja) * 2005-11-18 2011-06-22 富士ゼロックス株式会社 印刷システム及び該システムにおける電子文書の処理方法及びプログラム

Also Published As

Publication number Publication date
US20070061583A1 (en) 2007-03-15
CN100458819C (zh) 2009-02-04
JP2007081452A (ja) 2007-03-29
CN1928882A (zh) 2007-03-14

Similar Documents

Publication Publication Date Title
JP5013694B2 (ja) 画像処理方法、画像処理装置、プログラムコード及び記憶媒体
JP4865282B2 (ja) 画像処理装置の制御方法、画像処理装置、プログラムコード及び記憶媒体
US7706568B2 (en) Information processing apparatus, information processing method, and computer readable storage medium
US7769200B2 (en) Method, apparatus, and computer product for embedding an electronic watermark into image data
EP2264995B1 (en) Image processing apparatus, image processing method, and computer program
JP6277868B2 (ja) ドキュメント管理システム、ドキュメント再現装置、ドキュメント管理方法、およびコンピュータプログラム
US20090293134A1 (en) Image processing apparatus, image processing method, and program
JP4229190B2 (ja) 画像形成装置、画像形成方法及び文書出力処理プログラム
US7586641B2 (en) System for certifying whether printed material corresponds to original
US7283261B2 (en) Image processing method, manipulation detection method, image processing device, manipulation detection device, image processing program, manipulation detection program, and image formation medium
JP3922037B2 (ja) 文書管理装置およびプログラム
KR20110005549A (ko) 부가정보 추가 문서를 생성하는 방법 및 이를 수행하는 화상형성장치
US7952750B2 (en) Image processing apparatus and image processing method
JP2006191365A (ja) 印刷装置および印刷媒体
JP2010081598A (ja) コピー保護文書をプレビューするシステム及び方法
US20040218064A1 (en) Image sensing apparatus and control method therefor
US8422057B2 (en) Apparatus and method for manufacturing the same
JP2012114718A (ja) コードを扱うことができる画像形成装置及びその制御方法
JP2006227707A (ja) 画像のサムネイルを表示・非表示制御する画像処理装置及び方法
JP2005165854A (ja) データ管理装置、方法、コンピュータプログラム、及びコンピュータ読み取り可能な記録媒体
US7298932B2 (en) Control apparatus and control method for image sensing apparatus
KR101080412B1 (ko) 스캐너 드라이버에서의 rfid를 이용한 부분 스캔/복사방법 및 장치
JP2008153853A (ja) 画像入出力システム、文書画像出力装置、文書画像入出力装置、画像入出力方法、および画像入出力プログラム
JP2002281279A (ja) 定形図重畳プログラム、定形図重畳プログラムを記録した媒体、定形図重畳装置および定形図重畳方法
JP2005210327A (ja) ドキュメント処理装置及びドキュメントの出力方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080908

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20100201

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20100630

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110607

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110805

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120110

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120309

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120529

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120605

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150615

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 5013694

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150615

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees