JP5140773B2 - Image processing program, portable terminal, and image processing method - Google Patents

Image processing program, portable terminal, and image processing method Download PDF

Info

Publication number
JP5140773B2
JP5140773B2 JP2012100423A JP2012100423A JP5140773B2 JP 5140773 B2 JP5140773 B2 JP 5140773B2 JP 2012100423 A JP2012100423 A JP 2012100423A JP 2012100423 A JP2012100423 A JP 2012100423A JP 5140773 B2 JP5140773 B2 JP 5140773B2
Authority
JP
Japan
Prior art keywords
image data
positioning
symbol
image processing
range
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012100423A
Other languages
Japanese (ja)
Other versions
JP2012142030A (en
Inventor
洋一 日根
慎 遠藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
King Jim Co Ltd
Original Assignee
King Jim Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by King Jim Co Ltd filed Critical King Jim Co Ltd
Priority to JP2012100423A priority Critical patent/JP5140773B2/en
Publication of JP2012142030A publication Critical patent/JP2012142030A/en
Application granted granted Critical
Publication of JP5140773B2 publication Critical patent/JP5140773B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、コンパクトデジカメや携帯電話のカメラ機能を用いてドキュメントを撮像する技術に適用して有効な技術である。   The present invention is a technique that is effective when applied to a technique for imaging a document using a camera function of a compact digital camera or a mobile phone.

コンパクトなデジタルカメラ、携帯電話やスマートフォンに搭載されたデジタルカメラは、数百万画素以上の高精度撮影が可能になってきており、風景や人物等の撮影のみならず、紙製のドキュメント、メモや名刺等を撮影するために用いられることが多くなってきている。   Compact digital cameras and digital cameras mounted on mobile phones and smartphones are capable of high-accuracy shooting with millions of pixels and more, not only for shooting landscapes and people, but also for paper documents and memos. It is increasingly used for photographing business cards and business cards.

代表的なスマートフォンであるアップル社のiPhone(アップル社が許諾を受けたアイホン社の登録商標)では、搭載されたカメラで撮影した紙媒体の表面画像を読み込んで、連続的な画素の変化から当該紙媒体のエッジを認識して、斜め方向から撮影しているために台形状態となっているエッジを方形に補正(台形補正)して、紙媒体をあたかも接写方式のドキュメントスキャナで読み込んだような画像に仕上げる、スキャナアプリと呼ばれるアプリケーションが数種類知られている。   A typical smartphone, Apple's iPhone (a registered trademark of Apple Inc., licensed by Apple Inc.), reads the surface image of a paper medium photographed with an installed camera and It recognizes the edge of a paper medium, corrects the trapezoidal edge to a square shape (trapezoid correction) because it is shooting from an oblique direction, and reads the paper medium with a close-up document scanner. There are several types of applications called scanner applications that finish images.

一方、上記のようなカメラで撮影したドキュメントの画像を補正する技術としては、特開2010−130181号公報(特許文献1)がある。この特許文献1では、請求項7および段落0047に記載されているように、パーソナルコンピュータ(本体PCB)のキーボードの両側に沿ってマーカーとしての赤線RLを設けておき、撮像画像の画面側縁との傾き角を補正パラメータとして台形補正する技術が示されている。   On the other hand, Japanese Patent Application Laid-Open No. 2010-130181 (Patent Document 1) discloses a technique for correcting an image of a document captured by a camera as described above. In Patent Document 1, as described in claim 7 and paragraph 0047, a red line RL as a marker is provided along both sides of a keyboard of a personal computer (main body PCB), and a screen side edge of a captured image is provided. A technique for correcting a trapezoid using a tilt angle as a correction parameter is shown.

特開2010−130181号公報JP 2010-130181 A

前記特許文献1は、パーソナルコンピュータ(本体PCB)の両側に設けられた斜め方向に撮影される赤線RLのマーカーを基準に台形補正を行うため、台形補正の自動化ができるという利点はあるものの、パーソナルコンピュータ(本体PCB)の前に置かれたドキュメントが、パーソナルコンピュータ(本体PCB)に対して正確な位置に置いておかないと、正確な台形補正ができない問題点があった。つまり、ドキュメント(DCM)が僅かでも斜め方向に傾いて置かれてしまっている場合、傾いたままの撮像画像に台形補正を施したとしても、画像として再現されたドキュメント(DCM)が変形してしまい、違和感のあるものになってしまう可能性が高かった。   Since Patent Document 1 performs keystone correction based on the marker of the red line RL photographed in an oblique direction provided on both sides of a personal computer (main body PCB), there is an advantage that keystone correction can be automated. If the document placed in front of the personal computer (main body PCB) is not placed at an accurate position with respect to the personal computer (main body PCB), there is a problem that accurate keystone correction cannot be performed. In other words, if the document (DCM) is slightly tilted, the document (DCM) reproduced as an image will be deformed even if trapezoidal correction is performed on the tilted captured image. There was a high possibility that it would be uncomfortable.

さらに、前述のドキュメントのエッジ部分を認識して台形補正を行う従来技術を併用したとしても、複雑な補正計算を行う必要がある上に、ドキュメントがその用紙色と同系色の机の上に載置されていたり、角部がステープラーの針によって破砕されたり折り曲がっていると、エッジ部分の認識率が低くなり、正確なドキュメントの再現ができない場合が多かった。   Furthermore, even if the conventional technology for recognizing the edge portion of the document and correcting the keystone is used together, it is necessary to perform a complicated correction calculation, and the document is placed on a desk having a color similar to the paper color. If it is placed, or the corners are crushed or bent by the staples of the stapler, the recognition rate of the edge portion becomes low and accurate document reproduction is often impossible.

本発明はこのような点に鑑みてなされたものであり、ドキュメントの置き方やカメラの位置に影響されずに、かつ用紙の色や角部の破砕があったとしても、画像補整が可能でドキュメントの再現性が高い撮像技術を提供することを課題とする。   The present invention has been made in view of the above points, and image correction is possible without being affected by the placement of the document or the position of the camera, and even when the paper color or the corners are crushed. It is an object to provide an imaging technique with high document reproducibility.

本発明は、前記課題を解決するために、以下の手段を採用した。   The present invention employs the following means in order to solve the above problems.

より詳細には、本発明の画像処理システムは、少なくとも2箇所の所定位置に、多値化された図形からなるシンボルコードにより形成された位置決め用シンボルを有する撮像対象物と、当該撮像対象物を撮像する撮像手段と、当該撮像手段が撮像した原画像データから前記位置決めシンボルを検出し、当該位置決めシンボルを基準に算出された所定領域を第一範囲として認識し、当該第一範囲にある画像データのみを切り出して切出画像データとして取得する画像取得手段と、当該画像取得手段が取得した切出画像をデータを保存する画像データ保存手段と、により構成される、画像処理システム。   More specifically, the image processing system of the present invention includes an imaging object having a positioning symbol formed by a symbol code composed of multi-valued graphics at at least two predetermined positions, and the imaging object. Image data that is in the first range by detecting the positioning symbol from the imaging unit for imaging and the original image data captured by the imaging unit, recognizing the predetermined area calculated based on the positioning symbol as the first range An image processing system comprising: an image acquisition unit that cuts out only the image and acquires it as cut-out image data; and an image data storage unit that stores the cut-out image acquired by the image acquisition unit.

本発明によれば、撮像対象物としてのドキュメントやメモそのものに位置決め用シンボル(シンボルコード)を設けているため、ドキュメントの置き方やカメラの位置に影響されずに、かつ用紙の色や角部の破砕があったとしても、画像補整が可能で再現性の高いドキュメント画像を得ることができる。多値化された図形からなるシンボルコードとは、換言すると、現出部と非現出部とを有するシンボルコードである。なお、位置決めシンボルは、2箇所以上あれば外形を認識することができ、3箇所あれば画像の座標を求めることが可能となる。但し、撮像時の歪み対策として頂点検出用セルを設けることが好ましい。位置決めシンボルが4箇所であれば撮像時に歪んでも外形がわかるが方向がわからなくなることから方向決めシンボルを設けることが好ましい。   According to the present invention, since a positioning symbol (symbol code) is provided on a document or memo itself as an imaging object, it is not affected by how the document is placed or the position of the camera, and the color or corner of the paper. Even if there is crushing of the image, it is possible to correct the image and obtain a highly reproducible document image. In other words, the symbol code consisting of a multi-valued figure is a symbol code having an appearing part and a non-appearing part. If there are two or more positioning symbols, the outer shape can be recognized, and if there are three positioning symbols, the coordinates of the image can be obtained. However, it is preferable to provide a vertex detection cell as a countermeasure against distortion during imaging. If there are four positioning symbols, it is preferable to provide a direction determining symbol because the outer shape can be understood even if it is distorted during imaging, but the direction cannot be known.

また、本発明の画像処理システムにおいて、前記撮像対象物には、前記第一範囲の所定位置に当該第一範囲の方向を認識するための方向認識用シンボルと、前記第一範囲内または第一範囲とは別領域として設けられた第二範囲を有し、前記画像取得手段又は画像データ保存手段には、予め照合用文字情報が記憶されており、当該画像取得手段が、前記方向認識用シンボルを基準に前記第一範囲の方向を認識し、認識した方向情報に基づいて前記第二範囲を検出し、当該第二範囲に描かれた画像と前記文字情報とを照合し、当該画像が文字であること認識したときに、当該文字を前記第一範囲から読み取った画像データの関連情報として保存するようにしてもよい。   In the image processing system of the present invention, the imaging object includes a direction recognition symbol for recognizing the direction of the first range at a predetermined position of the first range, and the first range or the first range. The image acquisition unit or the image data storage unit stores character information for collation in advance, and the image acquisition unit includes the direction recognition symbol. The direction of the first range is recognized based on the direction, the second range is detected based on the recognized direction information, the image drawn in the second range is compared with the character information, and the image is a character. When this is recognized, the character may be stored as related information of the image data read from the first range.

本発明によれば、第一範囲から読み取られる画像データに対して、関連情報として第二範囲に記載された文字を文字情報として認識して記憶しておくことができるため、当該文字情報を画像データのインデックスとして使用でき、画像データの検索性を高めることができる。第一範囲の所定位置とは、例えば、第一範囲の上部や位置決めシンボルの内の一つである。関連情報とは、例えば日付である。   According to the present invention, the character data described in the second range as the related information can be recognized and stored as the character information for the image data read from the first range. It can be used as a data index, and the searchability of image data can be improved. The predetermined position of the first range is, for example, one of the upper part of the first range and the positioning symbol. The related information is, for example, a date.

また、本発明において、前記照合用文字情報は、英文字と数字とのうち少なくとも何れか一方とすることができる。第二範囲に記載された文字の認識を英数字に限定することによって認識率を高め、処理を高速化することができる。   In the present invention, the collation character information may be at least one of English characters and numbers. By limiting the recognition of characters described in the second range to alphanumeric characters, the recognition rate can be increased and the processing speed can be increased.

また、本発明の画像処理システムにおいて、前記撮像手段は、前記撮像対象物を読み取り、読み取った画像から前記位置決めシンボルを少なくとも3箇所検出したらその撮像画像を前記画像取得手段に引き渡すようにしてもよい。撮像手段が少なくとも3箇所の位置決めシンボルを検出することで画像の座標を求めることが可能となり、撮像画像データを画像処理手段に引き渡すことにより、自動シャッターを実現できる。その結果、ユーザの余計な操作なしに最適なタイミングで画像データの取得が可能になる。   In the image processing system of the present invention, the imaging unit may read the imaging target and deliver the captured image to the image acquisition unit when detecting at least three positioning symbols from the read image. . The image pickup means can detect the coordinates of the image by detecting at least three positioning symbols, and an automatic shutter can be realized by transferring the picked-up image data to the image processing means. As a result, it is possible to acquire image data at an optimal timing without unnecessary user operations.

また、本発明の画像処理システムにおいて、撮像対象物上の前記第一範囲は、矩形状を呈し、当該矩形の4頂点に夫々前記位置決め用シンボルが配設されており、前記画像取得
手段は、予め記憶されていた各位置決め用シンボル間の基準距離を読み出して、撮像画像における前記各位置決め用シンボル間の距離が前記あらかじめ記憶された各位置決め用シンボル間の基準距離と一致するか否かを照合し、一致しない場合は、撮像された画像における各位置決め用シンボルの距離を前記各位置決め用シンボル間の基準距離に一致するように撮像された画像を補正するようにしてもよい。
In the image processing system of the present invention, the first range on the imaging object has a rectangular shape, and the positioning symbols are respectively arranged at the four vertices of the rectangle. The reference distance between the positioning symbols stored in advance is read, and it is verified whether or not the distance between the positioning symbols in the captured image matches the reference distance between the positioning symbols stored in advance. If they do not match, the captured images may be corrected so that the distance between the positioning symbols in the captured image matches the reference distance between the positioning symbols.

本発明によれば、ドキュメント、メモ等の撮像対象物そのものに位置決め用シンボルが設けられており、この位置決め用シンボルを基準に画像補正(台形補正)処理を行うため、用紙のエッジの認識を行う場合に比べて、撮像対処物の置き方(方向、位置やその場所)に左右されることなく画像データの取得範囲を確実に認識することが可能となる。   According to the present invention, a positioning symbol is provided on an object to be imaged such as a document or a memo, and the edge of the paper is recognized in order to perform image correction (trapezoid correction) processing based on the positioning symbol. Compared to the case, it is possible to reliably recognize the acquisition range of the image data without being influenced by how to place the imaging object (direction, position, and location).

また、本発明の画像処理システムにおいて、前記撮像対象物の表面は、電子的に複写すると所定の位置に、他の位置とは異なる形状で設けられた禁止シンボルが現出する印刷処理が施されており、前記撮像対象物を撮像した前記撮像手段は、撮像画像中に前記禁止シンボルを認識したときには、当該撮像画像を前記画像取得手段に引き渡す処理を実行しないようにしてもよい。   In the image processing system of the present invention, the surface of the imaging object is subjected to a printing process in which prohibited symbols provided in shapes different from other positions appear at predetermined positions when electronically copied. The imaging unit that captured the imaging object may not execute the process of transferring the captured image to the image acquisition unit when the prohibited symbol is recognized in the captured image.

本発明によれば、電子的に複写した(コピーした)撮像対象物を撮像手段で撮像しようとしても、画像取得手段による画像処理が行われないため、不正な電子複写(コピー)を防止することができる。   According to the present invention, even if an imaging object that has been electronically copied (copied) is to be imaged by the imaging means, image processing by the image acquisition means is not performed, so that unauthorized electronic copying (copying) is prevented. Can do.

また、本発明は、本発明の画像処理システムで用いられる撮像対象物として特定することができる。すなわち、本発明は、上述した画像処理システムの撮像対象物であって、少なくとも2箇所の所定位置に、多値化された図形からなるシンボルコードにより形成された位置決め用シンボルを有する。   Moreover, this invention can be specified as an imaging target object used with the image processing system of this invention. That is, the present invention is an imaging object of the above-described image processing system, and has positioning symbols formed by symbol codes composed of multi-valued graphics at at least two predetermined positions.

本発明の撮像対象物によれば、少なくとも2カ所(たとえば左上と右下)に、特殊な形状の位置決め用シンボルを設定することで、第一範囲に記載された手書き文字等の図形と明らかに区別するとともに、その範囲を確定することが容易になる。位置決め用シンボルには、QRコード(商標登録第4075066号)で用いられる決め用シンボルと同様のものを用いてもよい。   According to the object to be imaged of the present invention, by setting positioning symbols having a special shape in at least two places (for example, upper left and lower right), it is clearly seen as a figure such as a handwritten character described in the first range. While distinguishing, it becomes easy to determine the range. As the positioning symbol, the same symbol as that used in the QR code (trademark registration No. 4075066) may be used.

また、本発明の撮像対象物において、前記多値化された図形からなるシンボルコードは、現出部と非現出部とを有し、前記非現出部は、前記撮像手段から得られた撮像画像では可視化されない異なる模様を有する背景部と潜像部とを有し、当該読取対象物を電子的に複写し、当該複写物を印刷すると、背景部と潜像部とが現出した複写物が可視化された状態で再現されてもよい。   In the imaging object of the present invention, the symbol code including the multi-valued figure has a appearing portion and a non-appearing portion, and the non-appearing portion is obtained from the imaging means. A copy that has a background portion and a latent image portion that have different patterns that cannot be visualized in the captured image, electronically copies the read object, and prints the copy, and the background portion and the latent image portion appear. The object may be reproduced in a visualized state.

本発明によれば、位置決めシンボルの図形中に撮像手段では可視化されず、電子複写(コピー機によるコピー)によって可視的に現出する背景部と潜像部を設けておくことによって、複製された撮像対象物の不正使用を防止できる。すなわち、電子複写(コピー機によるコピー)を用いて複写された撮像対象物を撮像した場合には、位置決めシンボルの背景部と潜像部が現出することにより、位置決めシンボルの図形そのものが異なった形状のものとして撮像手段に認識されてしまうことになる。そのため、撮像手段は位置決めシンボルを特定することができずに画像取得手段に引き渡すことができなくなる。   According to the present invention, in the figure of the positioning symbol, the image is not visualized by the image pickup means, but is copied by providing a background portion and a latent image portion that appear visually by electronic copying (copying by a copying machine). Unauthorized use of the imaging object can be prevented. In other words, when the object to be copied was imaged using electronic copying (copying by a copying machine), the positioning symbol figure itself was different because the background portion and latent image portion of the positioning symbol appeared. It will be recognized by the imaging means as having a shape. For this reason, the image pickup unit cannot specify the positioning symbol and cannot transfer it to the image acquisition unit.

また、本発明は、位置決め用シンボルが形成された領域を除く所定の箇所に、撮像手段から得られた撮像画像では可視化されない異なる模様を有する背景部と潜像部とを有し、当該読取対象物を電子的に複写し、当該複写物を印刷すると、背景部と潜像部とが現出した禁止シンボルが可視化された状態で再現されるようにしてもよい。所定の箇所に撮像手
段では可視化されず、電子複写(コピー機によるコピー)によって可視的に現出する背景部と潜像部を設けておくことによって、複製された撮像対象物の不正使用を防止できる。すなわち、撮像手段が可視的に現出する背景部と潜像部、すなわち禁止シンボルを検出したときには、撮像画像データを画像取得手段に引き渡さないようにすることで、不正使用を防止できる。
In addition, the present invention includes a background portion and a latent image portion having different patterns that are not visualized in a captured image obtained from the imaging means at a predetermined location excluding an area where a positioning symbol is formed, and the reading target When an object is electronically copied and the copy is printed, the prohibited symbol in which the background portion and the latent image portion appear can be reproduced in a visualized state. By providing a background and latent image that are not visualized by the imaging means at a predetermined location but appear visually by electronic copying (copying by a copying machine), illegal use of the copied imaging object is prevented. it can. That is, when the imaging unit detects a background part and a latent image part that appear visually, that is, a prohibited symbol, unauthorized use can be prevented by not passing the captured image data to the image acquisition unit.

また、本発明は、少なくとも2箇所の所定位置に、多値化された図形からなるシンボルコードにより形成された位置決め用シンボルが配設され、撮像対象物としての用紙の上に載置される透明シートと、当該撮像対象物を撮像する撮像手段と、当該撮像手段が前記透明シートを介して撮像した用紙表面の原画像データから前記位置決めシンボルを検出し、当該位置決めシンボルを基準に算出された所定領域を第一範囲として認識し、当該第一範囲にある画像データのみを切り出して切出画像データとして取得する画像取得手段と、当該画像取得手段が取得した切出画像をデータを保存する画像データ保存手段と、により構成される画像処理システムとしてもよい。   Further, according to the present invention, a positioning symbol formed by a symbol code consisting of a multi-valued figure is disposed at at least two predetermined positions, and is placed on a sheet as an imaging object. A sheet, an imaging unit for imaging the imaging object, and a predetermined symbol calculated based on the positioning symbol by detecting the positioning symbol from the original image data on the surface of the paper imaged by the imaging unit through the transparent sheet. Image acquisition means for recognizing a region as a first range, cutting out only image data in the first range and acquiring it as cut-out image data, and image data for storing the cut-out image acquired by the image acquisition means The image processing system may include a storage unit.

また、本発明は、撮像対象物としての用紙の上に貼付され、多値化された図形からなるシンボルコードにより形成された位置決め用シンボルからなる2以上のシール片と、当該撮像対象物を撮像する撮像手段と、当該撮像手段が撮像した用紙表面の原画像データから前記シール片の位置決めシンボルを検出し、当該位置決めシンボルを基準に算出された所定領域を第一範囲として認識し、当該第一範囲にある画像データのみを切り出して切出画像データとして取得する画像取得手段と、当該画像取得手段が取得した切出画像をデータを保存する画像データ保存手段と、により構成される画像処理システムとしてもよい。位置決め用シンボルを透明シートに配設し、又は位置決め用シンボルをシール片によって構成することで、撮像対象物としてのドキュメントやメモが位置決め用シンボルを有しない場合でも、画像補整が可能となる。   Further, the present invention images two or more seal pieces made of a positioning symbol formed by a symbol code made of a multi-valued graphic that is affixed on a paper as an image pickup object, and the image pickup object. And detecting a positioning symbol of the sticker piece from the original image data on the surface of the paper imaged by the imaging unit, recognizing a predetermined area calculated based on the positioning symbol as a first range, As an image processing system comprising an image acquisition unit that cuts out only image data in a range and acquires it as cut-out image data, and an image data storage unit that stores the cut-out image acquired by the image acquisition unit Also good. By arranging the positioning symbol on the transparent sheet or configuring the positioning symbol with a seal piece, it is possible to correct the image even when the document or memo as the imaging target does not have the positioning symbol.

また、本発明は、画像処理方法として特定することもできる。すなわち、本発明は、少なくとも2箇所の所定位置に、多値化された図形からなるシンボルコードにより形成された位置決め用シンボルを有する撮像対象物の表面を撮像手段で撮像して、その原画像データを画像取得手段で処理し、画像データ保存手段に登録する画像処理システムにおいて、前記撮像手段が、少なくとも前記2カ所の所定位置の位置決めシンボルが含まれるように前記撮像対象物を撮像するステップと、前記画像取得手段が、撮像された原画像データから前記位置決めシンボルを検出し、当該位置決めシンボルを基準に算出された所定領域を第一範囲として認識ステップと、当該第一範囲にある画像データのみを切り出して切出画像データとして取得するステップと、前記画像データ保存手段に前記切出画像をデータを保存するステップとからなる画像処理方法である。   The present invention can also be specified as an image processing method. That is, according to the present invention, the surface of an imaging object having a positioning symbol formed by a symbol code consisting of multi-valued graphics at at least two predetermined positions is imaged by an imaging means, and the original image data In the image processing system in which the image acquisition unit processes and registers in the image data storage unit, the imaging unit images the imaging object so that positioning symbols at predetermined positions in the two locations are included, and The image acquisition means detects the positioning symbol from the captured original image data, recognizes a predetermined area calculated based on the positioning symbol as a first range, and only image data in the first range. Cutting out and obtaining as cut image data; and storing the cut image data in the image data storage means That is an image processing method comprising the steps.

また、本発明は、画像処理プログラムとして特定することもできる。すなわち、本発明は、少なくとも2箇所の所定位置に、多値化された図形からなるシンボルコードにより形成された位置決め用シンボルを有する撮像対象物の表面を撮像手段で撮像して、その原画像データを画像取得手段で処理し、画像データ保存手段に登録する画像処理システムで実行可能な画像処理プログラムであって、前記撮像手段が、少なくとも前記2カ所の所定位置の位置決めシンボルが含まれるように前記撮像対象物を撮像するステップと、前記画像取得手段が、撮像された原画像データから前記位置決めシンボルを検出し、当該位置決めシンボルを基準に算出された所定領域を第一範囲として認識ステップと、当該第一範囲にある画像データのみを切り出して切出画像データとして取得するステップと、前記画像データ保存手段に前記切出画像をデータを保存するステップとからなる画像処理システムで実行可能な画像処理プログラムである。   The present invention can also be specified as an image processing program. That is, according to the present invention, the surface of an imaging object having a positioning symbol formed by a symbol code consisting of multi-valued graphics at at least two predetermined positions is imaged by an imaging means, and the original image data An image processing program that can be executed by an image processing system that processes the image by the image acquisition means and registers the image data storage means, wherein the imaging means includes positioning symbols at at least two predetermined positions. A step of imaging an imaging target; and a step of detecting the positioning symbol from the captured original image data and recognizing a predetermined area calculated based on the positioning symbol as a first range; Cutting out only image data in the first range and obtaining it as cut-out image data; and An executable image processing program in the clipped images image processing system comprising the step of storing the data to.

また、本発明は、撮像手段によって撮像され、その画像データを画像取得手段で処理し
、データ保存手段に保存する画像処理システムで用いられる撮像対象物であって、前記撮像対象物の撮像範囲を確定するために少なくとも2箇所の所定位置に設けられた、多値化された図形からなるシンボルコードにより形成された位置決め用シンボルと、前記位置決めシンボルを基準にして所定の位置に設けられ、前記画像取得手段に画像データの切り出しを行わせるための第一範囲とからなる画像処理システムで用いられる撮像対象物としてもよい。
Further, the present invention is an imaging object used in an image processing system that is imaged by an imaging means, processes the image data by an image acquisition means, and saves the data in the data storage means, and the imaging range of the imaging object A positioning symbol formed by a symbol code composed of multi-valued graphics provided at at least two predetermined positions for confirmation, and the image provided at a predetermined position with reference to the positioning symbol; The imaging target may be used in an image processing system including a first range for causing the obtaining unit to cut out image data.

更に、本発明の撮像対象物において、前記撮像対象物には、前記第一範囲の所定位置に当該第一範囲の方向を認識するための方向認識用シンボルと、前記第一範囲内または第一範囲とは別領域として設けられ、前記方向認識用シンボルとの位置関係でその方向が認識されるとともに、前記画像データ保存手段に予め記憶されている照合用文字情報と照合するための文字が記載される第二範囲が設けられていてもよい。   Furthermore, in the imaging target of the present invention, the imaging target includes a direction recognition symbol for recognizing the direction of the first range at a predetermined position of the first range, and the first range or the first range. A character is provided that is provided as a separate area from the range, whose direction is recognized by the positional relationship with the direction recognition symbol, and for collation with collation character information stored in advance in the image data storage means. A second range may be provided.

更に、本発明は、少なくとも2箇所の所定位置に、多値化された図形からなるシンボルコードにより形成された位置決め用シンボルを有する撮像対象物と、当該撮像対象物を撮像する撮像手段と、撮像手段により撮像した原画像データをネットワークを介して送信する送信手段と、前記ネットワークを介して原画像データを受信する画像処理サーバにおいて、当該撮像手段が撮像した原画像データから前記位置決めシンボルを検出し、当該位置決めシンボルを基準に算出された所定領域を第一範囲として認識し、当該第一範囲にある画像データのみを切り出して切出画像データとして取得する画像取得手段と、当該画像取得手段が取得した切出画像をデータを保存する画像データ保存手段と、により構成されるネットワークを介した画像処理システムとして特定することもできる。   Furthermore, the present invention provides an imaging object having a positioning symbol formed by a symbol code consisting of multi-valued graphics at at least two predetermined positions, an imaging means for imaging the imaging object, and imaging In the transmitting means for transmitting the original image data captured by the means via the network and the image processing server for receiving the original image data via the network, the positioning symbol is detected from the original image data captured by the imaging means. An image acquisition unit that recognizes a predetermined area calculated based on the positioning symbol as a first range, cuts out only image data in the first range and acquires it as cut-out image data, and the image acquisition unit acquires Image processing via a network composed of image data storage means for storing the cut out image data It can also be identified as a stem.

本発明によれば、ドキュメントの置き方やカメラの位置に影響されずに、かつ用紙の色や角部の破砕があったとしても、画像補整が可能でドキュメントの再現性が高い撮像技術を提供することができる。   According to the present invention, it is possible to provide an imaging technique that is capable of image correction and high document reproducibility even if the document is not affected by the placement of the document and the position of the camera, and even if the color of the paper or the corner portion is crushed. can do.

実施形態における撮像対象物としてのメモ用紙を示す図(1)The figure which shows the memo paper as an imaging target object in embodiment (1) 実施形態における撮像対象物としてのメモ用紙を示す図(2)The figure which shows the memo paper as an imaging target object in embodiment (2) 実施形態における撮像対象物としてのメモ用紙を示す図(3)The figure which shows the memo paper as an imaging target object in embodiment (3) 実施形態に用いるカメラ付きスマートフォンの構成図Configuration diagram of a camera-equipped smartphone used in the embodiment 実施形態をネットワークで利用した場合の説明図Explanatory diagram when the embodiment is used on a network 実施形態の処理の一例を示すフロー図Flow chart showing an example of processing of the embodiment 実施形態における撮影状態と、位置決めマークが印刷された透明プレートを示す図The figure which shows the imaging | photography state in embodiment, and the transparent plate on which the positioning mark was printed 実施形態における撮像対象物としてのメモ用紙を示す図(4)The figure which shows the memo paper as an imaging target object in embodiment (4) 実施形態に用いる位置決めマークを印刷したシールを示す図The figure which shows the seal | sticker which printed the positioning mark used for embodiment 実施形態の処理の他の例を示すフロー図Flow chart showing another example of processing of the embodiment

(実施形態1)
本発明を図に基づいて説明する。図1は、本実施形態におけるメモ用紙(撮像対象物)(DOC)の表面の構成を示している。同図に示すように、このメモ用紙(DOC)は、上部に設けられた綴じ代(US)と、用紙本体とで構成されている。用紙本体の上方には綴じ代(US)に沿って同図水平方向ミシン目(ML)が設けられていて、メモ用紙本体を切り取ることができるようになっていてもよい。
(Embodiment 1)
The present invention will be described with reference to the drawings. FIG. 1 shows the configuration of the surface of a memo paper (imaging object) (DOC) in this embodiment. As shown in the figure, this memo paper (DOC) is composed of a binding margin (US) provided at the top and a paper body. A horizontal perforation (ML) in the figure may be provided above the paper body along the binding margin (US) so that the memo paper body can be cut off.

メモ用紙本体の表面には、四隅近傍に位置決めシンボル(M1〜M4)が印刷されてい
る。4個の位置決めシンボルのうち、左上(M1)、左下(M2)および右下(M3)の位置決めシンボルは、本発明の多値化された図形からなるシンボルコードに対応するものであり、四角形状の太線形状の線図(現出部)の内部に白紙の地色部分の領域(非現出部)で囲まれた塗り潰し印刷の四角形(現出部)が配置されている。この太線形状は、汎用の筆記具(鉛筆、ボールペン、サインペン)よりも太線で印刷するようにして、後述の第一範囲に記述された筆記具の筆跡とは明確に区別されるようにすることが好ましい。なお、位置決めシンボルは、カラーコードとしてもよい。
On the surface of the memo paper main body, positioning symbols (M1 to M4) are printed near the four corners. Of the four positioning symbols, the upper left (M1), lower left (M2), and lower right (M3) positioning symbols correspond to the symbol codes made up of multi-valued figures of the present invention, and have a rectangular shape. A solid quadrilateral (appearing portion) surrounded by a blank background area (non-appearing portion) is arranged inside the thick line diagram (appearing portion). This thick line shape is preferably printed with a thicker line than a general-purpose writing instrument (pencil, ballpoint pen, sign pen) so that it can be clearly distinguished from the handwriting of the writing instrument described in the first range described later. . The positioning symbol may be a color code.

用紙本体の右上には前記位置決めシンボルとは異なる形状の方向決めシンボル(M4)が印刷されている。方向決めシンボル(M4)は、本発明の多値化された図形からなるシンボルコードに対応するものであり、前記左上(M1)、左下(M2)および右下(M3)の位置決めシンボルとは異なる形状である。このように、4個のシンボルのうち1個だけその形状を異なる形状とすることによって、カメラ(CAM)で査定したときに、メモ用紙(DOC)の正方向を検出することができるようになっている。   A direction determination symbol (M4) having a shape different from that of the positioning symbol is printed on the upper right of the paper body. The direction determination symbol (M4) corresponds to the symbol code composed of the multi-valued graphic of the present invention, and is different from the positioning symbols of the upper left (M1), lower left (M2) and lower right (M3). Shape. In this way, by changing the shape of only one of the four symbols to a different shape, the positive direction of the memo paper (DOC) can be detected when assessed by the camera (CAM). Yes.

前記4個の位置決めシンボル(M1〜M4)に囲まれた領域は、第一範囲(AR1)として、ユーザが手書きの文字、図形、記号、絵等を描画できるようになっている。そしてこの第一範囲(AR1)が原画像データとしてイメージ読み込みがされる。   A region surrounded by the four positioning symbols (M1 to M4) is configured as a first range (AR1) so that a user can draw handwritten characters, figures, symbols, pictures, and the like. The first range (AR1) is read as original image data.

なお、この例では、第一範囲(AR1)を4個の位置決めシンボル(M1〜M4)に囲まれた部分として認識されるようにしたが、位置決めシンボルは必ずしも4個配置する必要はなく、図3に示すように、左上(M6)と右下(M7)だけに配置してもよい。すなわち、左上の位置決めマーカ(M6)と右下の位置決めマーカ(M7)を結んだ線を対角線とする矩形領域を第一範囲(AR1)と認識してもよい。   In this example, the first range (AR1) is recognized as a portion surrounded by four positioning symbols (M1 to M4), but four positioning symbols are not necessarily arranged. As shown in FIG. 3, it may be arranged only in the upper left (M6) and lower right (M7). That is, a rectangular area having a diagonal line connecting the upper left positioning marker (M6) and the lower right positioning marker (M7) may be recognized as the first range (AR1).

また、上記の説明では、4個の位置決めシンボル(M1〜M4)のうち、右上のシンボルの形状を変更して方向決めシンボルとしたが、この方向決めシンボルは位置決めシンボル(M1〜M4)の他に、図1、図2のM5で示すように別の部位に印刷してもよい。   In the above description, among the four positioning symbols (M1 to M4), the shape of the upper right symbol is changed to be a direction determination symbol, but this direction determination symbol is not only the positioning symbol (M1 to M4). In addition, it may be printed on another part as indicated by M5 in FIGS.

更に、位置決めシンボル(M1)と位置決めシンボル(M2)の相対的な位置関係から第二範囲(AR2)を認識してもよい。位置決めシンボル同士の相対的な位置関係に代えて、位置決めシンボルと方向決めシンボルとの相対的な位置関係から第二範囲(AR2)を認識してもよい。また、図3に示す例では、綴じ代(US)を基準として第二範囲(AR2)を認識してもよい。   Further, the second range (AR2) may be recognized from the relative positional relationship between the positioning symbol (M1) and the positioning symbol (M2). Instead of the relative positional relationship between the positioning symbols, the second range (AR2) may be recognized from the relative positional relationship between the positioning symbol and the direction determination symbol. In the example shown in FIG. 3, the second range (AR2) may be recognized based on the binding margin (US).

図1において、第一範囲(AR1)の方向決めシンボル(M4)の直近左側領域には、第二範囲(AR2)が設けられている。この第二範囲(AR2)は、方向決めシンボルの高さと同じ高さを有しており、方向決めシンボル(M4)の左端側辺が第二範囲の右端側辺と一致しているため、カメラ(CAM)で撮像した原画像データから方向決めシンボル(M4)を検出できれば、第二範囲も検出できるようになっている。   In FIG. 1, a second range (AR2) is provided in the immediate left region of the direction determining symbol (M4) in the first range (AR1). The second range (AR2) has the same height as the direction determination symbol, and the left end side of the direction determination symbol (M4) matches the right end side of the second range. If the direction determination symbol (M4) can be detected from the original image data captured by (CAM), the second range can also be detected.

第二範囲には、図1では詳細が示されていないが、図3に示すように、7セグメントを構成する直線片からなる記入ガイドが薄色で印刷されている。すなわち7セグメントを構成する記入ガイド部分上を筆記具でなぞることによって夫々のセグメントで0〜9までの数字を電光掲示板の数字表示のように記述することができる。   Although details are not shown in FIG. 1 in the second range, as shown in FIG. 3, a filling guide made of straight pieces constituting 7 segments is printed in a light color. That is, by tracing the entry guide portion constituting 7 segments with a writing instrument, numbers from 0 to 9 can be described in each segment as shown on the electronic bulletin board.

このように7セグメントの記入ガイドを設けることによって、記入された数字の認識率を高めることが可能となっている。なお、7セグメントの記入ガイドを設けて記入された数字の認識が容易になる例で説明したが、これに限らず、1文字ずつの枠を薄色で印刷して、この枠内に記入された数字や英文字を文字認識できるようにしてもよい。つまり、こ
の第二範囲(AR2)に記入した文字(英数字)をカメラ(CAM)で読み取り、メモリ(MEM)に記憶されている文字パターン(照合用文字情報)と比較することで、文字認識を行うことができる。
Thus, by providing a 7-segment entry guide, the recognition rate of the entered numbers can be increased. In addition, although the example of providing a 7-segment entry guide makes it easy to recognize the entered numbers, this is not restrictive, and each character's frame is printed in a light color and entered in this frame. It may be possible to recognize characters such as numbers and English characters. In other words, the characters (alphanumeric characters) entered in the second range (AR2) are read by the camera (CAM) and compared with the character pattern (character information for verification) stored in the memory (MEM). It can be performed.

図2に示すように、用紙メモ(DOC)の方向決めシンボル(M4)の直下部分には、禁止シンボル(AS1)が設けられている。この禁止シンボルは可視的に認識できない印刷、たとえば地紋印刷が施されており、コピー装置等で電子的に複写されたときに可視的な禁止シンボルとして現れるようになっている。なお、禁止シンボルは、第一範囲(AR1)内の所定位置にあればよく、例えば図2に示すように、左下の位置決めシンボル(M2)の直上位置に配置されていてもよい。   As shown in FIG. 2, a prohibition symbol (AS1) is provided immediately below the direction determination symbol (M4) of the paper memo (DOC). The prohibition symbol is subjected to printing that cannot be visually recognized, for example, tint block printing, and appears as a visible prohibition symbol when electronically copied by a copying apparatus or the like. The prohibited symbol only needs to be at a predetermined position in the first range (AR1), and may be arranged at a position immediately above the lower left positioning symbol (M2), for example, as shown in FIG.

また、地紋印刷を現出化(可視化)させることによって、プログラムによって積極的に禁止シンボルとして認識させてもよい。このようにメモ用紙(DOC)上に禁止シンボルが存在することを認識した段階で、中央処理装置(CPU)はプログラムに基づいて、画像処理を中止して、ディスプレイ(DISP)上に「この用紙は正規の用紙ではありません」等の表示を行ってもよい。   Further, by making the tint block print appear (visualize), it may be positively recognized as a prohibited symbol by a program. When the CPU recognizes that the prohibited symbol exists on the memo paper (DOC) in this way, the central processing unit (CPU) stops the image processing based on the program and displays “This paper is on the display (DISP)”. “It is not regular paper” may be displayed.

次に、図4を用いて本実施形態に用いるカメラ付きスマートフォン(MP)のハードウエア構成を説明する。このスマートフォン(MP)は、たとえばアップル社のiPhone(アイホン社から許諾を受けた登録商標)である。   Next, the hardware configuration of the camera-equipped smartphone (MP) used in this embodiment will be described with reference to FIG. The smartphone (MP) is, for example, Apple's iPhone (a registered trademark licensed from Aiphone).

本体にはホームボタン(BTN)が設けられており、ディスプレイ(DISP)に表示されるアイコンやメニューをホーム画面に復帰させたり、カメラ(CAM)のシャッターとして機能させるようになっている。   A home button (BTN) is provided on the main body, and icons and menus displayed on the display (DISP) are returned to the home screen or function as a shutter of the camera (CAM).

スマートフォン(MP)内部は、中央処理装置(CPU)を中心にメインメモリ(MM)、バス(BUS)を介して接続されたメモリユニット(MEM)、通信インターフェース(TIF)、カメラ(CAM)、前述のボタン(BTN)、タッチパネル(TPN)とディスプレイ(DISP)が一体化されたタッチパネルディスプレイ、スピーカ(SPK)を有している。   The inside of the smartphone (MP) includes a central memory (MM), a memory unit (MEM) connected via a bus (BUS), a communication interface (TIF), a camera (CAM) Buttons (BTN), a touch panel display in which a touch panel (TPN) and a display (DISP) are integrated, and a speaker (SPK).

通信インターフェース(TIF)は、図5に示すように、無線電話回線を通じて基地局(BS)を経由して汎用のネットワーク(NW)に接続可能となっている。また、この通信インターフェース(TIF)は、無線LANのアクセスポイント(AP)と通信可能となっており、いずれかの通信手段を経由してネットワークへの接続が可能となっている。   As shown in FIG. 5, the communication interface (TIF) can be connected to a general-purpose network (NW) via a base station (BS) through a wireless telephone line. The communication interface (TIF) can communicate with a wireless LAN access point (AP), and can be connected to a network via any communication means.

メモリユニット(MEM)には、オペレーティングシステム(OS)とともに、画像処理アプリケーションプログラム(APL)、原画像データや文字情報を保持するためのユーザデータエリア(UDT)が設けられている。   The memory unit (MEM) is provided with an operating system (OS), an image processing application program (APL), and a user data area (UDT) for holding original image data and character information.

本実施形態において前述のメモ用紙(DOC)の撮像およびその画像処理は、メモリユニット(MEM)の画像処理アプリケーションプログラム(APL)をバス(BUS)およびメインメモリ(MM)を介して中央処理装置(CPU)が読み込んで順次実行することによって実現される。この処理を図6の処理フローに基づいて説明する。   In the present embodiment, the above-described imaging of memo paper (DOC) and its image processing are performed by the CPU (CPU) and the central processing unit (CPU) via the bus (BUS) and the main memory (MM). ) Is read and executed sequentially. This process will be described based on the process flow of FIG.

まず、ユーザのタッチパネル(TPN)のタッチ操作によって本画像処理アプリケーションプログラム(APL)が選択・起動されると(ステップ601)、カメラ(CAM)の機能が作動状態となり、撮像対象物であるメモ用紙(DOC)が撮影されて、この撮影画像に対して、中央処理装置(CPU)がプログラムに基づいて読み込んで図2で説明した禁止シンボルの有無を判定する(ステップ603)。この禁止シンボルの判定は、メモ
リユニットに記録された基準となる禁止シンボルの画像データを読み出して、カメラ(CAM)からの原画像データと比較することによって行う。
First, when the image processing application program (APL) is selected and activated by the user's touch operation on the touch panel (TPN) (step 601), the function of the camera (CAM) is activated, and the memo paper (image object) DOC) is photographed, and the central processing unit (CPU) reads the photographed image based on the program to determine the presence or absence of the prohibited symbol described with reference to FIG. 2 (step 603). The determination of the prohibited symbol is performed by reading the image data of the reference prohibited symbol recorded in the memory unit and comparing it with the original image data from the camera (CAM).

ここで、禁止シンボルが検出された場合には、その後の処理を行わずにステップ602に戻る。なお、このとき禁止シンボルを検出したことをユーザに通知するための、前述のように、ディスプレイ(DISP)上に「この用紙は正規の用紙ではありません」等の表示を行ってもよい。   If a prohibited symbol is detected, the process returns to step 602 without performing the subsequent processing. At this time, as described above, a message such as “This sheet is not a regular sheet” may be displayed on the display (DISP) to notify the user that a prohibited symbol has been detected.

禁止シンボルが検出されなかったときには、中央処理装置(CPU)は原画像データから位置決めシンボルを探し出す(ステップ604)。この位置決めシンボルの検索も、メモリユニットに記録された基準となる位置決めシンボルの画像データを読み出して、カメラ(CAM)からの原画像データと比較することによって行う。   When the prohibition symbol is not detected, the central processing unit (CPU) searches for a positioning symbol from the original image data (step 604). This positioning symbol search is also performed by reading the reference positioning symbol image data recorded in the memory unit and comparing it with the original image data from the camera (CAM).

位置決めシンボルを検出したときには、その段階での原画像データをメモリユニット(MEM)に保存する(ステップ605)。このときの当該原画像データの採用を決定することを通知するためのシャッター音をスピーカ(SPK)から出力させてもよい。また、ステップ604において位置決めシンボルを認識しない場合でも、ユーザのボタン(BTN)操作によってシャッター音を発生させて(ステップ611)その時点での原画像データをメモリユニット(MEM)に保存するとともに位置決めシンボルの検索を続けてもよい(ステップ612)。この場合も、一定時間に位置決めシンボルを検出できなかった場合には当該原画像データをそのまま保持するか、ステップ602に復帰させて再度撮影させるかを選択させるようにしてもよい(ステップ613)。   When the positioning symbol is detected, the original image data at that stage is stored in the memory unit (MEM) (step 605). At this time, a shutter sound for notifying that the adoption of the original image data is determined may be output from a speaker (SPK). Even if the positioning symbol is not recognized in step 604, a shutter sound is generated by the user's button (BTN) operation (step 611), and the original image data at that time is stored in the memory unit (MEM) and the positioning symbol is also displayed. May continue (step 612). Also in this case, if the positioning symbol cannot be detected within a certain time, it may be selected whether to retain the original image data as it is or to return to step 602 and shoot again (step 613).

ステップ605で原画像データを保持したときは、位置決めシンボルの数をカウントする(ステップ606)ここで、3個の位置決めシンボルだけが検出されたときには、この3個の位置から残りの1個の位置決めシンボルを推定して、擬似的に4個目の位置決めシンボルを追加設定する(ステップ610)。   When the original image data is held in step 605, the number of positioning symbols is counted (step 606). When only three positioning symbols are detected, the remaining one positioning position is detected from these three positions. A symbol is estimated and a fourth positioning symbol is additionally set in a pseudo manner (step 610).

4個すべての位置決めシンボル(M1〜M4)が確定したときには、この4個の位置決めシンボルの外縁同士を結ぶ4本の仮想線を設定し、この仮想線で囲まれる部分を第一範囲として画像切り出しを行う(ステップ607)。   When all four positioning symbols (M1 to M4) are determined, four virtual lines connecting the outer edges of the four positioning symbols are set, and an image is cut out using a portion surrounded by the virtual lines as a first range. (Step 607).

次に、切り出し画像について、4辺の位置と距離をあらかじめメモリユニットに記憶されている基準位置・距離と整合させるように台形補正を行い(ステップ608)、補正後の画像をメモ用紙(DOC)の再現画像としてメモリユニット(MEM)に保存する(ステップ609)。   Next, trapezoidal correction is performed on the clipped image so that the position and distance of the four sides are matched with the reference position / distance stored in advance in the memory unit (step 608), and the corrected image is recorded on the memo paper (DOC). The reproduced image is stored in the memory unit (MEM) (step 609).

なお、図6では、禁止シンボルが(AS1)、用紙メモ(DOC)の方向決めシンボル(M4)の直下部分や左下の位置決めシンボル(M2)の直上位置に配置されている場合の処理について説明した。ここで、禁止シンボルは、図2に示すように、位置決めシンボル(たとえばM3)の非現出部(白地部分)に地紋印刷により設けられていてもよい。また、禁止シンボルは、別の位置決めシンボル(たとえばM3)の非現出部(白地部分)に地紋印刷により設けられていてもよい。このように位置決めシンボル(M3)と禁止シンボル(AS3)とを重畳印刷しておくことにより、本メモ用紙(DOC)がコピー装置等で電子的に複写されると、この複写物の位置決めシンボル(M3)は形状が異なったものになってしまうため、カメラ(CAM)で読み取った後の画像処理において、中央処理装置(CPU)はプログラムによって位置決めシンボル(M3)として認識しない処理を行う。これによって、第一範囲の原画像データの処理を行わないようにしてもよい。   In FIG. 6, the processing when the prohibited symbol is (AS1) and is arranged at a position immediately below the direction determination symbol (M4) of the paper memo (DOC) or at the position directly above the lower left positioning symbol (M2) has been described. . Here, as shown in FIG. 2, the prohibited symbol may be provided by non-appearing portion (white background portion) of the positioning symbol (for example, M3) by tint block printing. Further, the prohibition symbol may be provided by non-appearing portion (white background portion) of another positioning symbol (for example, M3) by tint block printing. In this way, when the positioning symbol (M3) and the prohibition symbol (AS3) are printed in a superimposed manner, when the memo paper (DOC) is electronically copied by a copying apparatus or the like, the positioning symbol (M3) of this copy is obtained. ) Has a different shape, the central processing unit (CPU) performs processing that is not recognized as a positioning symbol (M3) by a program in image processing after being read by the camera (CAM). Thereby, the processing of the original image data in the first range may not be performed.

上記のように、禁止シンボルを位置決めシンボルの非現出部(白地部分)に地紋印刷に
より設ける場合、禁止シンボルを認識する必要がない。そこで、撮像及び画像処理は、図10に示す処理フローにより行うことができる。図10に示す処理は、図6における禁止シンボルの有無を判定する処理(ステップ603)を行わずに位置決めシンボルを探し出す処理(ステップ1004)が行われる点で、図6に示す処理フローと異なる。なお、図10の各ステップの符号の末尾2桁の数字と図6の各ステップの符号の末尾2桁の数字は対応しており、末尾2桁の数字が同じステップは同様の処理が行われるものとする。
As described above, when the prohibition symbol is provided by the copy-forgery-inhibited pattern printing on the non-appearing portion (white portion) of the positioning symbol, it is not necessary to recognize the prohibition symbol. Therefore, imaging and image processing can be performed by the processing flow shown in FIG. The process shown in FIG. 10 differs from the process flow shown in FIG. 6 in that a process (step 1004) for finding a positioning symbol is performed without performing the process (step 603) for determining the presence or absence of a prohibited symbol in FIG. Note that the last two digits of the code of each step in FIG. 10 correspond to the last two digits of the code of each step in FIG. 6, and the same processing is performed for steps having the same last two digits. Shall.

なお、上述の処理フローでは、4個の位置決めシンボルの全てを用いて台形補正を行った例で説明したが、これに限らず図3で説明したように、左上の位置決めシンボル(M6)と右下の位置決めシンボル(M7)のみを基準にして台形補正を実行してもよい。この場合にはステップ606において2個の位置決めシンボルのみを検出すればよい。また、残りの2つの位置決めシンボルはその位置を推定して擬似位置決めシンボルを設定してもよい。   In the above-described processing flow, the example in which the keystone correction is performed using all of the four positioning symbols has been described. However, the present invention is not limited to this, and as described in FIG. 3, the upper left positioning symbol (M6) and the right Keystone correction may be executed based on only the lower positioning symbol (M7). In this case, only two positioning symbols need be detected in step 606. Further, the positions of the remaining two positioning symbols may be estimated and pseudo positioning symbols may be set.

以上の説明では、スマートフォン(MP)で全ての処理を行う場合で説明したが、処理の一部をネットワーク(NW)を介して接続されたサーバ(SV)に実行させてもよい。   In the above description, the case where all processes are performed by the smartphone (MP) has been described, but a part of the processes may be executed by the server (SV) connected via the network (NW).

たとえば、カメラ(CAM)によりメモ用紙(DOC)の撮影を行った後、原画像データを一旦メモリユニット(MEM)に保存するとともに、通信インターフェース(TIF)およびネットワーク(NW)を介してサーバ(SV)に送信する。   For example, after taking a memo paper (DOC) with a camera (CAM), the original image data is temporarily stored in the memory unit (MEM) and the server (SV) via the communication interface (TIF) and the network (NW). Send to.

前記原画像データを受信したサーバ(SV)ではサーバに格納した画像処理プログラムに基づいて、原画像データから前記位置決めシンボルを検出し、当該位置決めシンボルを基準に算出された所定領域を第一範囲として認識し、当該第一範囲にある画像データのみを切り出して切出画像データとしてサーバ(SV)に保存するようにしてもよい。   The server (SV) that receives the original image data detects the positioning symbol from the original image data based on an image processing program stored in the server, and uses a predetermined area calculated based on the positioning symbol as a first range. It is also possible to recognize and cut out only the image data in the first range and store it in the server (SV) as cut-out image data.

サーバ(SV)に保存した画像データは、スマートフォン(MP)からネットワーク(NW)を介してアクセスできるようにしてもよい。   The image data stored in the server (SV) may be accessible from the smartphone (MP) via the network (NW).

以上の説明では、メモ用紙(DOC)そのものに位置決めシンボルや方向決めシンボルを直接印刷した例で説明したが、これに限らず、透明のプラスチックシート(PL)に位置決めシンボルや方向決めシンボルを印刷または印刷したシールを貼付しておき、このプラスチックシート(PL)をメモ用紙(DOC)の上に被せた状態にして、カメラ(CAM)でプラスチックシートを透過させてメモ用紙(DOC)の表面を撮像してもよい。   In the above description, the example in which the positioning symbol and the direction determination symbol are directly printed on the memo paper (DOC) itself is described. However, the present invention is not limited to this, and the positioning symbol and the direction determination symbol are printed or printed on the transparent plastic sheet (PL). Even if the plastic sheet (PL) is put on the memo paper (DOC) and the plastic sheet is transmitted through the camera (CAM) and the surface of the memo paper (DOC) is imaged. Good.

また、図9に示すように位置決めシンボルや方向決めシンボルを印刷したプラスチックフィルムからなるシール(SL)として提供し、このシール(SL)の裏面に粘着面を設けておき、汎用のメモ用紙やレポート用紙に貼付してもよい。   In addition, as shown in FIG. 9, it is provided as a seal (SL) made of a plastic film on which a positioning symbol and a direction determining symbol are printed, and an adhesive surface is provided on the back surface of the seal (SL), so that a general-purpose memo paper or report paper is provided. It may be affixed to.

なお、上記の説明では撮像対象物は、メモ用紙(DOC)として説明したが、A4サイズ程度のレポート用紙、白紙、印刷済みのドキュメントから名刺あるいは名刺サイズのメモ用紙等、位置決めシンボルや方向決めシンボルが設定できるものであればいかなる大きさのものであってもよい。   In the above description, the object to be imaged is described as memo paper (DOC). However, positioning symbols and orientation symbols such as A4 size report paper, blank paper, printed documents, business cards or business card size memo paper are set. Any size is possible as long as possible.

本発明は、カメラを用いて非接写によるドキュメント撮影を行う画像処理分野に利用できる。   The present invention can be used in the field of image processing for taking a document by non-close-up photography using a camera.

DOC 撮像対象物(メモ用紙)
AR1 第一範囲
AR2 第二範囲
US 綴じ代
M1〜M4、M6、M7 位置決めシンボル(M4は方向決めシンボル)
M5 方向決めシンボル
AS1〜AS3 禁止シンボル
MP スマートフォン
CAM カメラ
PL プラスチックシート
SL シール
CPU 中央処理装置
MM メインメモリ
BUS バス
MEM メモリユニット
OS オペレーティングシステム
APL 画像処理プログラム
UDT ユーザデータエリア
TIF 通信インターフェース
BTN ホームボタン
TPN タッチパネル
DISP ディスプレイパネル
SPK スピーカ
BS 基地局
AP アクセスポイント
DOC Imaging object (memo paper)
AR1 First range AR2 Second range US Binding margins M1 to M4, M6, M7 Positioning symbol (M4 is a direction determining symbol)
M5 Direction determination symbol AS1 to AS3 Prohibited symbol MP Smartphone CAM Camera PL Plastic sheet SL Seal CPU Central processing unit MM Main memory BUS Bus MEM Memory unit OS Operating system APL Image processing program UDT User data area TIF Communication interface BTN Home button TPN Touch panel DISP Display panel SPK Speaker BS Base station AP Access point

Claims (10)

少なくとも2箇所の所定位置に配された多値化された図形からなるシンボルコードにより形成された位置決め用シンボルを有する撮像対象物を撮像手段で撮像して、その原画像データをCPUで処理し、画像データ保存手段に登録する画像処理システムで実行可能な画像処理プログラムであって、
前記位置決め用シンボルは、矩形状の用紙本体の四隅近傍のうちの少なくとも2箇所に設けられた少なくとも2種類の矩形状の前記位置決め用シンボルであって、多値化された図形からなるシンボルコードにより形成され、
前記位置決め用シンボルは、前記用紙本体の地色と異なる色値からなる現出部と、当該用紙本体の地色からなる非現出部とを有し、
第一の位置決め用シンボルの前記現出部は、前記用紙本体の隅から延びる2辺と夫々平行な2本の直線部と、当該2本の直線部の端部同士が接する角部とを有する枠状の現出部を含み、第一の位置決め用シンボルの前記非現出部は、前記枠状の現出部に囲まれた地色の領域からなり、
第二の位置決め用シンボルの前記現出部は、前記用紙本体の隅から延びる2辺と夫々平行な2本の直線部と、当該2本の直線部の端部同士が接する角部とを有する、直線部と角部を有する現出部と、当該直線部と角部を有する現出部の内側に位置する矩形状の現出部とを少なくとも含み、前記非現出部は、前記直線部と角部を有する現出部と前記矩形状の現出部との間の領域からなり、
前記第二の位置決め用シンボルは、前記2本の直線部と、当該2本の直線部の両端のうち前記角部を形成しないそれぞれの端部と前記矩形状の現出部の4つの角部のうち前記角部から最も遠い角部とを結ぶ2本の仮想直線と、が四辺を構成する仮想矩形によって構成され
前記CPUに、
前記撮像手段によって撮像された、少なくとも前記2カ所の所定位置の位置決め用シンボルを含む前記撮像対象物の原画像データから前記位置決め用シンボルを検出するステップと、
当該位置決め用シンボルを基準に算出された所定領域を第一範囲として認識するステップと、
当該第一範囲にある画像データのみを切り出して切出画像データとして取得するステップと、
前記画像データ保存手段に前記切出画像データを保存するステップと、
を実行させる画像処理プログラム。
Imaging an imaging object having a positioning symbol formed by a symbol code composed of multi-valued graphics arranged at at least two predetermined positions with an imaging means, and processing the original image data with a CPU, An image processing program executable by the image processing system registered in the image data storage means,
The positioning symbols are at least two types of rectangular positioning symbols provided in at least two locations in the vicinity of the four corners of the rectangular paper body, and are represented by a symbol code consisting of multi-valued figures. Formed,
The positioning symbol has an appearing portion having a color value different from the ground color of the paper body, and a non-appearing portion having a ground color of the paper body,
The appearing portion of the first positioning symbol has two straight portions that are parallel to the two sides extending from the corner of the sheet body, and a corner portion where the ends of the two straight portions are in contact with each other. The non-appearing part of the first positioning symbol includes a frame-like appearing part, and is composed of a ground-colored region surrounded by the frame-like appearing part,
The appearing portion of the second positioning symbol has two straight portions that are parallel to the two sides extending from the corner of the sheet body, and a corner portion where the ends of the two straight portions are in contact with each other. At least a protruding portion having a straight line portion and a corner portion, and a rectangular protruding portion located inside the protruding portion having the straight line portion and the corner portion, wherein the non-protruding portion is the straight line portion. And a region between the protruding portion having a corner and the rectangular protruding portion,
The second positioning symbol includes four corners of the two straight portions, each end of the two straight portions not forming the corner, and the rectangular appearance portion. And two virtual straight lines connecting the corners farthest from the corners are constituted by virtual rectangles forming four sides ,
In the CPU,
Detecting the positioning symbol from original image data of the imaging object including positioning symbols at at least two predetermined positions imaged by the imaging means;
Recognizing a predetermined area calculated based on the positioning symbol as a first range;
Cutting out only image data in the first range and obtaining it as cut-out image data;
Storing the cut image data in the image data storage means;
An image processing program for executing
前記位置決め用シンボルを検出するステップでは、前記原画像データから少なくとも2種類の形状からなる複数の位置決め用シンボルを検出し、
前記CPUに、前記撮像対象物の第一範囲の方向を認識するために前記複数の位置決め用シンボル間の位置関係に一致するように予め記憶された各位置決め用シンボルの基準位置を読み出し、当該基準位置に基づいて、第一範囲の方向を認識するステップを更に実行させる
請求項1に記載の画像処理プログラム。
In the step of detecting the positioning symbols, a plurality of positioning symbols having at least two types of shapes are detected from the original image data,
The CPU reads out the reference position of each positioning symbol stored in advance so as to match the positional relationship between the plurality of positioning symbols in order to recognize the direction of the first range of the imaging object, The image processing program according to claim 1, further comprising executing a step of recognizing a direction of the first range based on the position.
前記CPUに、前記第一範囲とは異なる第二範囲を認識し、当該第二範囲に描かれた画像と前記画像データ保存手段に予め記憶された照合用情報とを照合し、前記照合用情報に該当すると認識したときに、当該画像を前記第一範囲から読み取った画像データの関連情報として保存するステップを更に実行させる、
請求項1又は2に記載の画像処理プログラム。
The CPU recognizes a second range different from the first range, collates an image drawn in the second range with collation information stored in advance in the image data storage unit, and the collation information When the image data is recognized as corresponding to the image data, the image data read from the first range is stored as related information.
The image processing program according to claim 1 or 2.
前記位置決め用シンボルを検出するステップでは、前記原画像データから複数の位置決め用シンボルを検出し、
前記CPUに、予め記憶された各位置決め用シンボル間の基準距離を読み出し、前記複数の位置決め用シンボル間の距離が前記基準距離と一致するか否かを照合し、一致しない場合は、前記複数の位置決め用シンボル間の距離が前記基準距離に一致するように、撮像された画像を補正するステップを更に実行させる、
請求項1から3の何れか1項に記載の画像処理プログラム。
In the step of detecting the positioning symbols, a plurality of positioning symbols are detected from the original image data,
The CPU reads out a reference distance between the positioning symbols stored in advance, and collates whether or not the distances between the plurality of positioning symbols match the reference distance. Further executing a step of correcting the captured image so that the distance between the positioning symbols matches the reference distance.
The image processing program according to any one of claims 1 to 3.
位置決め用シンボルを検出するステップでは、前記原画像データから4つの位置決め用シンボルを検出し、
前記取得するステップでは、当該第一範囲にある画像データのみを切り出して、前記4つの位置決め用シンボルの近傍を頂点とする矩形からなる前記切り出し画像データとして取得する、
請求項1から4のいずれか1項に記載の画像処理プログラム。
In the step of detecting positioning symbols, four positioning symbols are detected from the original image data,
In the obtaining step, only the image data in the first range is cut out, and is acquired as the cut-out image data including a rectangle whose apex is the vicinity of the four positioning symbols.
The image processing program according to any one of claims 1 to 4.
位置決め用シンボルを検出するステップでは、前記原画像データから5つの位置決め用シンボルを検出し、
前記取得するステップでは、当該第一範囲にある画像データのみを切り出して、前記5つの位置決め用シンボルのうち4つ位置決め用シンボルの近傍を頂点とする矩形であり、他の1つの位置決め用シンボルは、前記画像取得手段が前記撮像対象物の撮像方向を定義するための方向決め用シンボルである、前記切り出し画像データとして取得する、
請求項1から4のいずれか1項に記載の画像処理プログラム。
In the step of detecting positioning symbols, five positioning symbols are detected from the original image data,
In the obtaining step, only the image data in the first range is cut out, a rectangle having a vertex in the vicinity of four positioning symbols among the five positioning symbols, and the other one positioning symbol is The image acquisition means acquires the cut-out image data, which is a direction determining symbol for defining the imaging direction of the imaging object.
The image processing program according to any one of claims 1 to 4.
前記CPUに、撮像された前記撮像対象物の画像から前記位置決めシンボルが複数箇所検出されると、自動的に前記切出画像データを取得させる、
請求項1から6の何れか1項に記載の画像処理プログラム。
When the CPU detects a plurality of positioning symbols from the captured image of the imaging object, the CPU automatically acquires the cut-out image data.
The image processing program according to any one of claims 1 to 6.
前記CPUに、前記切り出し画像データをサーバに保存するステップを更に実行させる、
請求項1から7の何れか1項に記載の画像処理プログラム。
Causing the CPU to further execute a step of storing the cut-out image data in a server;
The image processing program according to any one of claims 1 to 7.
請求項1〜8のいずれか1項に記載の画像処理プログラムがインストールされた、前記画像処理システムである携帯端末。   The portable terminal which is the said image processing system in which the image processing program of any one of Claims 1-8 was installed. 少なくとも2箇所の所定位置に配された多値化された図形からなるシンボルコードにより形成された位置決め用シンボルを有する撮像対象物を撮像手段で撮像して、その原画像データをCPUで処理し、画像データ保存手段に登録する画像処理システムで実行可能な画像処理方法であって、
前記位置決め用シンボルは、矩形状の用紙本体の四隅近傍のうちの少なくとも2箇所に設けられた少なくとも2種類の矩形状の前記位置決め用シンボルであって、多値化された図形からなるシンボルコードにより形成され、
前記位置決め用シンボルは、前記用紙本体の地色と異なる色値からなる現出部と、当該用紙本体の地色からなる非現出部とを有し、
第一の位置決め用シンボルの前記現出部は、前記用紙本体の隅から延びる2辺と夫々平行な2本の直線部と、当該2本の直線部の端部同士が接する角部とを有する枠状の現出部を含み、第一の位置決め用シンボルの前記非現出部は、前記枠状の現出部に囲まれた地色の領域からなり、
第二の位置決め用シンボルの前記現出部は、前記用紙本体の隅から延びる2辺と夫々平行な2本の直線部と、当該2本の直線部の端部同士が接する角部とを有する、直線部と角部を有する現出部と、当該直線部と角部を有する現出部の内側に位置する矩形状の現出部とを少なくとも含み、前記非現出部は、前記直線部と角部を有する現出部と前記矩形状の現出部との間の領域からなり、
前記第二の位置決め用シンボルは、前記2本の直線部と、当該2本の直線部の両端のうち前記角部を形成しないそれぞれの端部と前記矩形状の現出部の4つの角部のうち前記角部から最も遠い角部とを結ぶ2本の仮想直線と、が四辺を構成する仮想矩形によって構成され
前記CPUが、
前記撮像手段によって撮像された、少なくとも前記2カ所の所定位置の位置決め用シンボルを含む前記撮像対象物の原画像データから前記位置決め用シンボルを検出するステップと、
当該位置決め用シンボルを基準に算出された所定領域を第一範囲として認識するステップと、
当該第一範囲にある画像データのみを切り出して切出画像データとして取得するステップと、
前記画像データ保存手段に前記切出画像データを保存するステップと、
を実行する画像処理方法。
Imaging an imaging object having a positioning symbol formed by a symbol code composed of multi-valued graphics arranged at at least two predetermined positions with an imaging means, and processing the original image data with a CPU, An image processing method executable by an image processing system registered in an image data storage means,
The positioning symbols are at least two types of rectangular positioning symbols provided in at least two locations in the vicinity of the four corners of the rectangular paper body, and are represented by a symbol code consisting of multi-valued figures. Formed,
The positioning symbol has an appearing portion having a color value different from the ground color of the paper body, and a non-appearing portion having a ground color of the paper body,
The appearing portion of the first positioning symbol has two straight portions that are parallel to the two sides extending from the corner of the sheet body, and a corner portion where the ends of the two straight portions are in contact with each other. The non-appearing part of the first positioning symbol includes a frame-like appearing part, and is composed of a ground-colored region surrounded by the frame-like appearing part,
The appearing portion of the second positioning symbol has two straight portions that are parallel to the two sides extending from the corner of the sheet body, and a corner portion where the ends of the two straight portions are in contact with each other. At least a protruding portion having a straight line portion and a corner portion, and a rectangular protruding portion located inside the protruding portion having the straight line portion and the corner portion, wherein the non-protruding portion is the straight line portion. And a region between the protruding portion having a corner and the rectangular protruding portion,
The second positioning symbol includes four corners of the two straight portions, each end of the two straight portions not forming the corner, and the rectangular appearance portion. And two virtual straight lines connecting the corners farthest from the corners are constituted by virtual rectangles forming four sides ,
The CPU is
Detecting the positioning symbol from original image data of the imaging object including positioning symbols at at least two predetermined positions imaged by the imaging means;
Recognizing a predetermined area calculated based on the positioning symbol as a first range;
Cutting out only image data in the first range and obtaining it as cut-out image data;
Storing the cut image data in the image data storage means;
An image processing method for executing.
JP2012100423A 2012-04-25 2012-04-25 Image processing program, portable terminal, and image processing method Expired - Fee Related JP5140773B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012100423A JP5140773B2 (en) 2012-04-25 2012-04-25 Image processing program, portable terminal, and image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012100423A JP5140773B2 (en) 2012-04-25 2012-04-25 Image processing program, portable terminal, and image processing method

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2011022818A Division JP2012069082A (en) 2010-09-21 2011-02-04 Image processing system and imaging object used for the same

Publications (2)

Publication Number Publication Date
JP2012142030A JP2012142030A (en) 2012-07-26
JP5140773B2 true JP5140773B2 (en) 2013-02-13

Family

ID=46678163

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012100423A Expired - Fee Related JP5140773B2 (en) 2012-04-25 2012-04-25 Image processing program, portable terminal, and image processing method

Country Status (1)

Country Link
JP (1) JP5140773B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6061653B2 (en) 2011-12-21 2017-01-18 キヤノン株式会社 Development device, process cartridge

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH077616A (en) * 1993-06-16 1995-01-10 Fuji Xerox Co Ltd Inclination detection device
GB2384067A (en) * 2002-01-10 2003-07-16 Hewlett Packard Co Method of associating two record sets comprising a set of processor states and a set of notes
JP4755415B2 (en) * 2004-12-21 2011-08-24 株式会社アドイン研究所 Color two-dimensional code
JP4715527B2 (en) * 2006-01-18 2011-07-06 カシオ計算機株式会社 Imaging apparatus, image processing method and program for captured image
JP5117982B2 (en) * 2008-10-07 2013-01-16 株式会社リコー Information extraction apparatus, information extraction method, program, and recording medium

Also Published As

Publication number Publication date
JP2012142030A (en) 2012-07-26

Similar Documents

Publication Publication Date Title
JP4904426B1 (en) Image processing system and imaging object used therefor
WO2012039185A1 (en) Image processing system and object of image capturing used therewith
US8654218B2 (en) Image processing system and imaging object used for same
JP5602925B2 (en) Image processing program and image processing method
JP5651221B2 (en) Symbol piece, image processing program, and image processing method
JP5140773B2 (en) Image processing program, portable terminal, and image processing method
JP5101740B2 (en) Object to be imaged
JP5140772B2 (en) Image processing program, portable terminal, and image processing method
JP5140767B2 (en) Object to be imaged
JP5602926B2 (en) Imaging object, image processing program, and image processing method
JP5140777B2 (en) Imaging object, image processing program, and image processing method
JP5140774B2 (en) Transparent sheet
JP5602927B2 (en) Imaging object, image processing program, and image processing method
JP2014007768A (en) Imaging target, image processing program, and image processing method
JP2012130080A (en) Image processing program, portable terminal and image processing method
JP2012170145A (en) Image processing system, image processing program, portable terminal, image processing method, and transparent sheet
JP2012069082A (en) Image processing system and imaging object used for the same

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120425

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20120425

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20120628

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120717

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120907

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121113

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121119

R150 Certificate of patent or registration of utility model

Ref document number: 5140773

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151122

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151122

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees