JP2009017092A - Program for reading information embedded in figure - Google Patents

Program for reading information embedded in figure Download PDF

Info

Publication number
JP2009017092A
JP2009017092A JP2007175019A JP2007175019A JP2009017092A JP 2009017092 A JP2009017092 A JP 2009017092A JP 2007175019 A JP2007175019 A JP 2007175019A JP 2007175019 A JP2007175019 A JP 2007175019A JP 2009017092 A JP2009017092 A JP 2009017092A
Authority
JP
Japan
Prior art keywords
information
main body
graphic
embedded
expansion coefficient
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007175019A
Other languages
Japanese (ja)
Other versions
JP4863088B2 (en
Inventor
Akira Sato
佐藤  明
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Dai Nippon Printing Co Ltd
Original Assignee
Dai Nippon Printing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Dai Nippon Printing Co Ltd filed Critical Dai Nippon Printing Co Ltd
Priority to JP2007175019A priority Critical patent/JP4863088B2/en
Publication of JP2009017092A publication Critical patent/JP2009017092A/en
Application granted granted Critical
Publication of JP4863088B2 publication Critical patent/JP4863088B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To provide a program which clarifies that embedded information exists and reads the information embedded in an elaborately-designed figure. <P>SOLUTION: This is an information reading program for reading the embedded information from a figure embedded with information and is executed on a mobile terminal device having a camera portion and a display portion, and the figure consists of a main part and an extended part. This figure information read program includes a main part region recognizing means for recognizing the main part region of the figure captured by the camera portion, an extended part region recognizing means for recognizing the extended part region of the figure captured by the camera portion, a start position setting means for setting the starting position of reading the embedded information, and an expansion coefficient calculating means for calculating the expansion coefficient from the extended part region. This program makes the mobile terminal serve as an information restoring means for making the embedded information restore by using the calculated expansion coefficient. <P>COPYRIGHT: (C)2009,JPO&INPIT

Description

本発明は、ロゴ・線画・マークなどの図形において、輪郭図形として符号化された情報を読み取るプログラムに関するものである。
The present invention relates to a program for reading information encoded as a contour graphic in a graphic such as a logo, a line drawing, or a mark.

従来から、バーコードあるいは、2次元コードを情報担体として用いて、生産管理、商品管理等に用いられてきた。また、携帯電話に2次元コードの読取機能が搭載されるようになってからは、2次元コードにURLの情報を持たせることによって、ユーザをメーカーが行っているキャンペーンサイトへ誘導する手段の一つとして用いられるようになってきた。しかし、バーコード、2次元コードを意匠性に乏しく、ポスター、カタログ、情報誌に掲載する場合に意匠性を損なうといった問題点があった。   Conventionally, bar codes or two-dimensional codes have been used as information carriers for production management, product management, and the like. In addition, since the mobile phone is equipped with a two-dimensional code reading function, URL information is given to the two-dimensional code to guide the user to a campaign site performed by the manufacturer. It has come to be used as one. However, the barcode and the two-dimensional code have poor design properties, and there is a problem that the design properties are impaired when the barcode, the catalog, and the information magazine are published.

特許文献1では、2次元コードのエラー訂正コード図形を分散させて配置することで、意匠形状を改善して高める技術が開示されている。 Patent Document 1 discloses a technique for improving and enhancing a design shape by dispersing and arranging error correction code figures of a two-dimensional code.

他方、意匠性を損なわない手法として、たとえば、電子透かしの技術を利用して、絵柄等に情報を埋めこむ方法がある。
特許文献2では、フーリエ関数を用いて、印刷線画に、人間では認識できない細かさの分断線を用いて、情報を埋め込む技術が開示されている。
特開2006−235672号公報(段落0022、図6) 特開2003−246134号公報(段落0058−段落0061、図1−3)
On the other hand, as a technique that does not impair the designability, for example, there is a method of embedding information in a picture or the like using a digital watermark technique.
Patent Document 2 discloses a technique for embedding information in a printed line drawing using a fine line that cannot be recognized by humans using a Fourier function.
Japanese Patent Laying-Open No. 2006-235672 (paragraph 0022, FIG. 6) JP 2003-246134 A (paragraph 0058-paragraph 0061, FIG. 1-3)

ところで、特許文献1の技術では、2次元コードの形状が白黒矩形図形を組み合わせあるので、意匠性の改善には限界があった。
また、特許文献2の技術では、電子透かしの目的として情報が埋め込まれていることを気づかれないことにあるので、利用者が情報の在処を目視できず、情報の受け渡しに用いることには問題があった。
By the way, in the technique of Patent Document 1, since the shape of the two-dimensional code is a combination of black and white rectangular figures, there is a limit to the improvement in design.
Further, in the technique of Patent Document 2, there is a problem that the user cannot visually recognize that the information is embedded as the purpose of the digital watermark. was there.

本発明はこのような点を解決するためになされたものであって、本発明の課題は、埋め込んだ情報が存在することを明確にした、意匠性のある図形に埋め込まれた情報を読み取るプログラムを提供することである。
The present invention has been made to solve such a problem, and an object of the present invention is to provide a program for reading information embedded in a figure having a design property that makes it clear that embedded information exists. Is to provide.

本発明は、以下のような解決手段により、前記課題を解決する。すなわち、請求項1の発明は、情報が埋め込まれた図形から、埋め込まれた情報を読み取るための情報読取プログラムであって、前記情報読取プログラムは、カメラ部および表示部を有する携帯端末装置により実行され、前記図形は、本体部と外延部とから構成されて、カメラ部で撮影した図形の本体部領域を認識する本体部領域認識手段と、カメラ部で撮影した図形の外延部領域を認識する外延部領域認識手段と、埋め込まれた情報の読み取り開始位置を設定する開始位置設定手段と、外延部領域から展開係数を算出する展開係数算出手段と、算出された展開係数を用いて埋め込まれた情報を復元する情報復元手段として携帯端末を機能させることを特徴とする図形情報読取プログラムである。 The present invention solves the above problems by the following means. That is, the invention of claim 1 is an information reading program for reading embedded information from a figure in which information is embedded, and the information reading program is executed by a portable terminal device having a camera unit and a display unit. The figure is composed of a body part and an extension part, and recognizes a body part area recognition means for recognizing the body part area of the figure photographed by the camera part, and recognizes the extension part area of the figure photographed by the camera part. The extension part area recognition means, the start position setting means for setting the reading start position of the embedded information, the expansion coefficient calculation means for calculating the expansion coefficient from the extension part area, and the embedded expansion using the calculated expansion coefficient A graphic information reading program which causes a portable terminal to function as information restoring means for restoring information.

ここで、図形の外延部に埋め込まれた情報を取り出すことができる。 Here, the information embedded in the extended part of the figure can be taken out.

請求項2の発明は、前記本体部領域認識手段は、カーソルによって指定された位置の近傍から、カメラ部で撮影した図形の本体部領域の平網部の色を入手することで、図形の本体部領域を認識することを特徴とする請求項1に記載の図形情報読取プログラムである。 According to a second aspect of the present invention, the main body region recognizing means obtains the color of the flat portion of the main body region of the graphic photographed by the camera unit from the vicinity of the position designated by the cursor, thereby The graphic information reading program according to claim 1, wherein a partial area is recognized.

請求項3の発明は、撮影する図形の分解能が十分に得られない場合に、前記カメラ部は、図形を複数に分割して撮影し、前記本体部領域認識手段および前記外延部領域認識手段は、それらの相対位置をパターンマッチングにより決定し、それらを合成することで撮影した図形を得ることを特徴とする請求項1に記載の図形情報読取プログラムである。 According to a third aspect of the present invention, when the resolution of the figure to be photographed is not sufficiently obtained, the camera unit shoots the figure divided into a plurality of parts, and the body part region recognition unit and the extension part region recognition unit are 2. The graphic information reading program according to claim 1, wherein a relative figure is determined by pattern matching and a photographed figure is obtained by combining them.

請求項4の発明は、図形の本体部の重心を算出する重心算出手段として機能することを特徴とする請求項1に記載の図形情報読取プログラムである。 The invention according to claim 4 functions as a center of gravity calculating means for calculating the center of gravity of the main body of the figure.

請求項5の発明は、前記展開係数は、フーリエ展開式の係数であることを特徴とする請求項1から請求項4のいずれか一項に記載の図形情報読取プログラムである。 The invention according to claim 5 is the graphic information reading program according to any one of claims 1 to 4, wherein the expansion coefficient is a Fourier expansion coefficient.

請求項6の発明は、前記開始位置設定手段は、撮影図形のフーリエ展開係数の最低周波の係数を定数として用いて、埋め込まれた情報の読み取り開始位置を設定することを特徴とする請求項5に記載の図形情報読取プログラムである。 The invention according to claim 6 is characterized in that the start position setting means sets the read start position of the embedded information by using the lowest frequency coefficient of the Fourier expansion coefficient of the photographed figure as a constant. The graphic information reading program described in the above.

請求項7の発明は、前記展開係数は、シャウダー展開式の係数であることを特徴とする請求項1から請求項4のいずれか一項に記載の図形情報読取プログラムである。 The invention according to claim 7 is the graphic information reading program according to any one of claims 1 to 4, wherein the expansion coefficient is a coefficient of a Schauder expansion formula.

請求項8の発明は、前記図形は、本体部と外延部とから構成されて、前記本体部と外延部との間の境界は境界線が存在して、前記本体部は、凸図形であって、前記外延部が有する境界のうち、本体部境界とは反対側の境界は、外延線を有して、図形の本体部領域にある点から伸ばした半直線が境界線と外延線と交わる線分の長さ情報と、開始位置からの距離情報とから、埋め込んだ情報を復元することができることを特徴とする請求項1から請求項7のいずれか一項に記載の図形情報読取プログラムである。 According to an eighth aspect of the present invention, the figure is composed of a main body part and an outer extension part, a boundary exists between the main body part and the outer extension part, and the main body part is a convex figure. Of the boundaries of the extension part, the boundary opposite to the body part boundary has an extension line, and a half line extending from a point in the body part region of the figure intersects the boundary line and the extension line The graphic information reading program according to any one of claims 1 to 7, wherein the embedded information can be restored from the length information of the line segment and the distance information from the start position. is there.

請求項9の発明は、前記図形の本体部が単一網パーセントによる平網で形成されて、外延部が本体部平網と識別可能な平網で形成されることを特徴とする請求項8に記載の図形情報読取プログラムである。 The invention according to claim 9 is characterized in that the main part of the figure is formed by a flat net by a single net percentage, and the outer extension part is formed by a flat net that can be distinguished from the main part flat net. The graphic information reading program described in the above.

請求項10の発明は、
前記図形の読み取り開始位置は、展開係数としてシャウダー展開式の係数を用いる場合に、撮影した図形の本体部輪郭と平行な一定長さの外延部輪郭を有する部分を設けることによって形成されていることを特徴とする請求項8または請求項9に記載の図形情報読取プログラムである。
The invention of claim 10
The graphic reading start position is formed by providing a portion having an extended portion contour of a certain length parallel to the main body contour of the photographed graphic when using a Chowder expansion type coefficient as the expansion coefficient. A graphic information reading program according to claim 8 or 9, wherein:

本願発明によれば、
(1)意匠性のある図形から埋め込まれた情報を読み取ることが可能である。
(2)埋め込まれた情報が存在することを明確に示すことができる図形から、埋め込まれた情報を読み取ることが可能である。
According to the present invention,
(1) Information embedded from a designable figure can be read.
(2) The embedded information can be read from a graphic that can clearly indicate that the embedded information exists.

以下、図面等を参照しながら、本発明の実施の形態について、更に詳しく説明する。
図1は、本発明の手法を用いて情報を埋め込こんだ図形100を示している。
図形100は、意匠性のあるマークである本体部104と情報が埋めこまれている外延部106とから構成されている。
本体部104と外延部106との間には、本体部104と情報が埋めこまれている外延部106の境界がわかるように境界線105が描かれている。
本体部104は、均一な網点101(以下、平網101)が印刷されている。図形100をカメラ等で撮影して画像処理を行うときに、本体部104の平網101と境界線105が判別でるように、両者は十分な色空間上の距離がとられている。本体部104には、マークの意匠を構成する要素として線画103が描かれていてもよい。
このとき線画103と本体部104の平網101との間には十分な色空間上の距離がとられているものとする。図形の外延部106には、外延線109が描かれており、外延部106の形状が定まる。外延部106には平網107が印刷されている。
外延線109の形状は、埋め込まれる情報702により決まり、この外延線109の形状から埋め込まれた情報702を復元することができる。
Hereinafter, embodiments of the present invention will be described in more detail with reference to the drawings.
FIG. 1 shows a figure 100 with information embedded using the technique of the present invention.
The figure 100 includes a main body portion 104 that is a design mark and an extended portion 106 in which information is embedded.
A boundary line 105 is drawn between the main body part 104 and the extended part 106 so that the boundary between the main body part 104 and the extended part 106 in which information is embedded can be seen.
The main body 104 is printed with a uniform halftone dot 101 (hereinafter, a flat halftone 101). When the figure 100 is photographed with a camera or the like and image processing is performed, the two are separated from each other by a sufficient color space so that the flat screen 101 and the boundary line 105 of the main body 104 can be distinguished. A line drawing 103 may be drawn on the main body 104 as an element constituting the design of the mark.
At this time, it is assumed that there is a sufficient distance in the color space between the line drawing 103 and the flat screen 101 of the main body 104. An extension line 109 is drawn on the extension part 106 of the figure, and the shape of the extension part 106 is determined. A flat net 107 is printed on the extended portion 106.
The shape of the extended line 109 is determined by the embedded information 702, and the embedded information 702 can be restored from the shape of the extended line 109.

図2は、本発明による図形から情報を取り出す様子を説明する図である。印刷媒体300には、本発明の手法により情報を埋め込こんだ図形100が印刷されている。携帯電話200には、カメラと撮影した図形100の画像から情報を抽出するための携帯アプリケーションプログラムを備える。   FIG. 2 is a diagram for explaining how information is extracted from a graphic according to the present invention. On the print medium 300, a graphic 100 in which information is embedded by the method of the present invention is printed. The mobile phone 200 includes a mobile application program for extracting information from the image of the graphic 100 taken with the camera.

携帯電話200において、携帯アプリケーションを起動すると、携帯電話200の表示部221に、「図形の本体部の平網にカーソルを合わせる」よう指示を表示する。同時に、携帯電話の表示部221にカーソル203が表示される。
まず、図形本体部の平網101の色情報を取得する。利用者は、携帯電話200の表示部221に表示された図形本体部の平網101にカーソル203を位置合わせて、決定(=撮影)ボタンを押して撮影を行い、携帯電話200は、カーソル位置から図形本体部の平網101の色情報を取得する(図2(1))。
When the mobile application is activated on the mobile phone 200, an instruction is displayed on the display unit 221 of the mobile phone 200 to “move the cursor to the flat screen of the main body of the figure”. At the same time, the cursor 203 is displayed on the display unit 221 of the mobile phone.
First, the color information of the flat net 101 of the figure main body is acquired. The user positions the cursor 203 on the flat screen 101 of the graphic main body displayed on the display unit 221 of the mobile phone 200, and presses the enter (= shoot) button to perform shooting. The mobile phone 200 starts shooting from the cursor position. The color information of the flat screen 101 of the figure main body is acquired (FIG. 2 (1)).

次に、携帯電話200は、「外延部の全体を撮影する」ように指示を画面に表示する。携帯利用者が、図形の外延部106全体が撮影視野に入るようカメラを構えて、携帯電話の表示部221のカーソル203を、図形外延部106のほぼ中心に置いて、決定ボタンを押して撮影する(同(2))。   Next, the mobile phone 200 displays an instruction on the screen so as to “shoot the entire extension part”. The portable user holds the camera so that the entire extension part 106 of the figure is in the field of view for shooting, places the cursor 203 of the display part 221 of the cellular phone almost at the center of the extension part 106 of the figure, and presses the enter button to take a picture. (Same as (2)).

このとき、十分な解像度で画像が撮影出来ない場合には、携帯電話200は、「ズームアップして複数の画像にわけて撮影する」よう指示を表示する。携帯利用者が、図形の外延部106を分割撮影すると、携帯電話200は、分割撮影された画像から外延部106を取り出して、一つに結合する。 At this time, if an image cannot be taken with sufficient resolution, the mobile phone 200 displays an instruction to “zoom up and take a plurality of images”. When the mobile user divides and shoots the graphic extension 106, the mobile phone 200 takes out the extension 106 from the divided photographic images and combines them.

携帯電話200は、撮影された外延部106に埋め込まれていた情報を読み出して(=復号して)、読み取り結果を表示部221に表示する(同(3))。 The cellular phone 200 reads (= decodes) the information embedded in the photographed extension part 106 and displays the reading result on the display unit 221 ((3)).

図3は、本発明による情報を埋め込んだ図形の詳細な説明図である。
図形の本体部104は、円形のような凸図形である。
ちなみに、凸図形とは図形内の任意の2点を結ぶ線分は、すべて図形内に含まれるような図形のことをいう。
本体部が凸図形である図形では、本体部104の一点(たとえば、重心点)から放射状に伸びる半直線110は、すべて境界線105と1点で交差する。
FIG. 3 is a detailed explanatory diagram of a figure in which information according to the present invention is embedded.
The figure main body 104 is a convex figure such as a circle.
Incidentally, a convex figure refers to a figure in which all line segments connecting any two points in the figure are included in the figure.
In a figure in which the main body part is a convex figure, all the half lines 110 extending radially from one point (for example, the center of gravity) of the main body part 104 intersect with the boundary line 105 at one point.

半直線110の傾き角度が「θ」であるとき、外延線109と境界線105の距離の値は「h」であるとする。
ここで、傾き角度「θ」と距離の値は「h」の関係について説明する。
埋め込まれる情報702は、複数の情報に分割されており、分割した情報と角度「θ」とが対応付けられている。分割情報を用いて距離の値「h」を算出する。(詳細は後述する)分割した情報から算出した「h」に「θ」を対応付けたリストを作成しておく。この「h」と「θ」のリストを用いて、図3の傾き角度「θ」の半直線110上で、境界線105の交点から距離「h」の位置に、図形の外延部が生成される。
When the inclination angle of the half line 110 is “θ”, the value of the distance between the extension line 109 and the boundary line 105 is “h”.
Here, the relationship between the inclination angle “θ” and the distance value “h” will be described.
The embedded information 702 is divided into a plurality of pieces of information, and the divided information and the angle “θ” are associated with each other. A distance value “h” is calculated using the division information. A list in which “θ” is associated with “h” calculated from the divided information (details will be described later) is created. Using this list of “h” and “θ”, an extended part of the figure is generated at a position of a distance “h” from the intersection of the boundary line 105 on the half line 110 of the inclination angle “θ” of FIG. The

このようにして、情報を埋め込んだ外延部106を作成する。 In this way, the extension part 106 in which information is embedded is created.

外延部106に埋め込まれた情報は、半直線110の傾き角度「θ」と対応付けて、距離の値を「h」を読み出すことにより、「θ」毎の分割情報を算出することができる。更に、算出した分割情報を再構成することで、埋め込まれた情報を復元して読み出すことができる。 The information embedded in the extension part 106 can be associated with the inclination angle “θ” of the half line 110 and the distance value “h” is read to calculate the division information for each “θ”. Furthermore, by reconstructing the calculated division information, the embedded information can be restored and read.

図4は、外延部を展開した図である。
半直線110の傾き角度「θ」と外延線109と境界線105の距離の値「h」を直交座標系で表現した図である。
FIG. 4 is a developed view of the extended portion.
FIG. 6 is a diagram in which an inclination angle “θ” of a half line 110 and a distance value “h” between an extension line 109 and a boundary line 105 are expressed in an orthogonal coordinate system.

フーリエ展開係数を用いて外延部106を作成の手順を説明する。。
ここで、フーリエ展開の展開係数列「β」(詳細は後述する)には、分割された情報が対応付けられて設定されている。
図5から図7は、埋め込まれた情報から図形外延部の外延線109を算出する式を説明する図である。
A procedure for creating the extension part 106 using the Fourier expansion coefficient will be described. .
Here, the division information is set in association with the expansion coefficient sequence “β” (details will be described later) of the Fourier expansion.
FIG. 5 to FIG. 7 are diagrams for explaining formulas for calculating the extension line 109 of the figure extension part from the embedded information.

図5は、外延部の形状を算出する式ある。
「(x(θ)、y(θ))」は、外延部106の外延線109の座標値を表現する。
「R(θ)」は、本体部104の重心から伸ばした半直線が境界線105と交差するまでの長さを示している。
「h(θ)」は、当該半直線上の外延部106の長さ(境界線105から外延線109までの距離)を示す。
FIG. 5 is an equation for calculating the shape of the extended portion.
“(X (θ), y (θ))” represents the coordinate value of the extension line 109 of the extension part 106.
“R (θ)” indicates the length until the half line extending from the center of gravity of the main body 104 intersects the boundary line 105.
“H (θ)” indicates the length (distance from the boundary line 105 to the extension line 109) of the extension part 106 on the semi-line.

図6は、半直線上の外延部106の長さを算出する式を説明する図である。
「l」は、境界線105から得られる特徴長さで、外延部の幅「h」を求めるための外延の特徴値として用いる。たとえば図形本体104を囲む正方形辺の長さなどを用いる。
なお、展開計算値が負であると、外延部106が本体部104の内側に来てしまうこととなり、望ましくないので、「l」を用いて、h(θ)が常に正値となるように下駄を履かせるための値である。フーリエ展開係数値を用いて外延部106を作るときに、本体部104にくいこまないようにするためのシフト値のようなものと考えてよい。
「u」は、係数値を図形に反映するための単位値であることを示す。
「β*」は、誤り訂正符号によって符号化する処理された展開係数で、偶数の個数から構成される。なお、誤り訂正符号によって符号化する処理の詳細は、後述する。
FIG. 6 is a diagram for explaining an expression for calculating the length of the extended portion 106 on the half straight line.
“L” is a feature length obtained from the boundary line 105 and is used as a feature value of the extension for obtaining the width “h” of the extension part. For example, the length of a square side surrounding the figure body 104 is used.
If the calculated expansion value is negative, the extension portion 106 comes to the inside of the main body portion 104, which is not desirable, so that “l” is used so that h (θ) is always a positive value. It is a value for putting on clogs. When the extension 106 is formed using the Fourier expansion coefficient value, it may be considered as a shift value for preventing the main body 104 from becoming hard.
“U” indicates a unit value for reflecting the coefficient value in the figure.
“Β * ” is a processed expansion coefficient that is encoded by an error correction code, and is composed of an even number. Details of the encoding process using the error correction code will be described later.

図7は、境界線105から得られる特徴長さ「l」を算出する式を説明する図である。
「l0」は、予め固有に定めた正値であり、外延部の幅hがゼロとなってしまうことを防ぐために設けた値である。
なお、「l」の算出過程で図7で示す式「min(シグマ(β2iuCOS(θ)+β2i+1
SI
N(θ))」」の算出方法は、外延部106を形づくるフーリエ関数を決めた後に、各θに対応する「シグマ(β2iuCOS(θ)+β2i+1uSIN(θ))」の値を算出して、最小値を
もとめればよい。
FIG. 7 is a diagram for explaining an equation for calculating the feature length “l” obtained from the boundary line 105.
“L 0 ” is a positive value uniquely determined in advance, and is a value provided to prevent the width h of the extended portion from becoming zero.
In the process of calculating “l”, the expression “min (sigma (β 2i uCOS (θ) + β 2i + 1 u
SI
N (θ)) ”is calculated by determining the Fourier function that forms the extension 106 and then calculating the value of“ sigma (β 2i uCOS (θ) + β 2i + 1 uSIN (θ)) ”corresponding to each θ. Can be calculated to find the minimum value.

図8は、外延部106に埋め込む情報702からフーリエ展開の展開係数を作成する処理の手順を説明する図である。
埋め込む情報702は、1バイトで構成されいる「αi」のバイト列である。
ここで、「j」は、埋め込まれた情報702バイト数の値が「M」バイトの時には、「0 〜 (M−1)」とする。
埋め込む情報702には、先頭に識別子701が追加される。
先頭の識別子701には、埋め込む情報702のバイト数(バイト数の値=M)などが格納される。
FIG. 8 is a diagram illustrating a procedure of processing for creating a Fourier expansion expansion coefficient from information 702 embedded in the extension part 106.
The information to be embedded 702 is a byte sequence of “α i ” composed of 1 byte.
Here, “j” is “0 to (M−1)” when the value of the number of embedded information 702 bytes is “M” bytes.
An identifier 701 is added to the head of the information 702 to be embedded.
The head identifier 701 stores the number of bytes of the information 702 to be embedded (value of the number of bytes = M).

まず、先頭の識別子701と埋め込む情報702とに対して、誤り訂正符号化処理を行い、誤り訂正符号化ビット列703を得る(図8(1))。
ここで、誤り訂正符号化処理には、よく知られたリード・ソロモン符号化処理や、BCH符号化処理を用いればよい。
なお、1バイトの情報を誤り訂正符号化処理する例を示したが、バイトが固定していれば、2バイト以上の情報を誤り訂正符号化処理してもよい。
First, error correction coding processing is performed on the head identifier 701 and embedded information 702 to obtain an error correction coded bit string 703 (FIG. 8 (1)).
Here, the well-known Reed-Solomon encoding process or BCH encoding process may be used for the error correction encoding process.
Although an example in which error correction encoding processing is performed on 1-byte information has been shown, information on 2 bytes or more may be subjected to error correction encoding processing if the bytes are fixed.

次に、誤り訂正符号化ビット列703に対して、3ビット毎にフーリエ展開係数を割り当ててを行い、展開係数「β2i, β2i+1」を得る(同(2))。
なお、フーリエ展開の係数作成処理においては、読み取り時に入手画像から極座標の角度ゼロに相当する位相を確定することが必要とされるので展開係数「β0」と「β1」の値には、予め定めた定数を設定する。図8においては704に示されるようにβ0を(111)2、β1を(000)2と設定した例を示した。この展開係数「β0」と「β1」は、最低周波数の係数に相当するため、このように設定しておくことで情報を埋めこんだ図形から情報を取り出すときに、ローパスフィルタで最低周波数、すなわち波長が2πとなる項を取り出すことで、位相情報を復元することができる。
図8には、誤り訂正符号化ビット列703の「3」ビット(=κ値)が盛り込まれた展開係数「β2i, β2i+1」が例示されている。
なお、展開係数「β2i, β2i+1」の個数は偶数でなければならないので、必要に応じてビット値0をパディングして展開係数「β2i, β2i+1」の総数が偶数個になるようにする。
Next, Fourier expansion coefficients are assigned to the error correction coded bit string 703 every 3 bits to obtain expansion coefficients “β 2i, β 2i + 1 ” ((2)).
In the Fourier expansion coefficient creation process, since it is necessary to determine the phase corresponding to the polar coordinate angle zero from the obtained image at the time of reading, the values of the expansion coefficients “β 0 ” and “β 1 ” Set a predetermined constant. FIG. 8 shows an example in which β 0 is set to (111) 2 and β 1 is set to (000) 2 as indicated by 704. Since the expansion coefficients “β 0 ” and “β 1 ” correspond to the coefficient of the lowest frequency, when the information is extracted from the figure in which the information is embedded by setting in this way, the lowest frequency is obtained by the low-pass filter. That is, the phase information can be restored by taking out the term whose wavelength is 2π.
FIG. 8 illustrates expansion coefficients “β 2i, β 2i + 1 ” in which “3” bits (= κ value) of the error correction coding bit string 703 are included.
Since the number of expansion coefficients “β 2i, β 2i + 1 ” must be an even number, the bit number 0 is padded as necessary, and the total number of expansion coefficients “β 2i, β 2i + 1 ” is an even number. To be.

このようにして、埋め込む情報702から外延部106の形状を決める関数を定めることが出来るので、この関数に従って、外延線109を描けばよい。 In this way, since a function for determining the shape of the extension part 106 can be determined from the information 702 to be embedded, the extension line 109 may be drawn according to this function.

なお、チェビシェフ多項式のような直交多項式による展開を用いても、同様の効果を得ることができる。 Note that the same effect can be obtained even by using expansion by an orthogonal polynomial such as a Chebyshev polynomial.

次に、このように設計された外延腺109から埋め込む情報702を復元する処理を説明する。 Next, a process for restoring the information 702 to be embedded from the extended gland 109 designed in this way will be described.

図9は、図形埋め込み情報の読取処理フローである。
(1)判断:まず、図形が分割撮影されているか判断する。(ステップS201)
(2)画像データ合成:画像データが分割されている場合には、外延部を含む図形がひとつに構成されるように、マッチングによる合成を行う。(ステップS202)
(3)ノイズ低減:図形画像データをメディアンフィルタのようなノイズフィルタを用いて、ノイズ低減処理を行う。(ステップS203)
(4)本体部抽出:予め測定してある本体部の平網色情報に基づいて、図形画像データを走査して本体部104の領域を抽出する。あるいは、本体部の指定された位置(=カーソル203で指定された位置)から近傍探索で広げてゆき、画素をサンプリングして同一色と判断できる領域を選択してもよい。(ステップS204)
このとき、境界線105の位置情報も入手する。なお、境界線105の位置情報を入手するときには図形の本体部の平網部101の輪郭トレース403を行う。この輪郭トレース結果から得られた輪郭が右回りか左回りかを判定することで本体内部に描かれた線画か本体部輪郭(=境界線)かを識別することが出来る。
(5)本体部重心決定:本体部104の領域に対して重心計算を行って、本体部の重心座標を決定する。(ステップS205)
(6)外延部抽出:予め測定してある外延部の平網色情報に基づいて、平網部図形画像データを走査して、外延部106の領域を抽出する。このとき、外延線109の位置情報も入手する。(ステップS206)
あるいは、本体部輪郭の外部に平網部を探索し、その平網部に関して、同様の近傍走査を行うことで外延部の領域を認識してもよい。
(7)開始位置探索:先に得られた本体部重心座標から半直線を延ばして、半直線と交わる境界線105と外延線109から、外延部の厚み「h」を求めて、半直線の角度をパラメータとして表現したフーリエ展開関数にローパスフィルタをほどこすことで、最低周波(すなわち波長2πの項)の位相を求め、極座標の角度ゼロに相当する軸をその位相から設定する。(ステップS207)
(8)フーリエ展開係数決定:フーリエ展開を行って係数値を決定する。(ステップS208)
(9)ビット列形成:得られたフーリエ展開係数は、システム固有のビット長「κ」(図8ではこのκは3に設定した例を示した)によって区分されている。そこでそれらから位相確定に用いる展開係数「β0」と「β1」を除いた上で順に繋ぎ合わせたビット列を合成し、元データに誤り訂正ためのパリティビットを付加したビット長さにあわせて区分しなおす。そのようにして誤り訂正符号化ビット列703を得る。(ステップS209)
(10)誤り訂正:区分けした誤り訂正符号化ビット列703に対して、誤り訂正処理を施して、復号したビット列を生成する。(ステップS210)
(11)埋め込み情報復元:先頭の識別子から指定バイト長の値を読み出して、復号ビット列から指定バイトを切り出して、バイト列を作成して埋め込み情報701を求める。(ステップS211)
FIG. 9 is a flowchart of the graphic embedding information reading process.
(1) Judgment: First, it is judged whether a figure is divided and photographed. (Step S201)
(2) Image data composition: When image data is divided, composition by matching is performed so that a figure including an extended portion is formed into one. (Step S202)
(3) Noise reduction: Noise reduction processing is performed on graphic image data using a noise filter such as a median filter. (Step S203)
(4) Extraction of main body part: Based on the flat mesh color information of the main body part that has been measured in advance, the graphic image data is scanned to extract the area of the main body part 104. Alternatively, an area that can be determined to be the same color by sampling the pixels from the specified position of the main body (= the position specified by the cursor 203) by proximity search may be used. (Step S204)
At this time, position information of the boundary line 105 is also obtained. When obtaining the position information of the boundary line 105, the contour trace 403 of the flat mesh portion 101 of the main body of the figure is performed. By determining whether the contour obtained from the contour trace result is clockwise or counterclockwise, it is possible to identify whether it is a line drawing drawn inside the main body or a main body portion contour (= boundary line).
(5) Determining the center of gravity of the main body: The center of gravity is calculated for the region of the main body 104 to determine the center of gravity coordinates of the main body. (Step S205)
(6) Extraction of the extended portion: The area of the extended portion 106 is extracted by scanning the flat portion graphic image data based on the flat mesh color information of the extended portion measured in advance. At this time, position information of the extended line 109 is also obtained. (Step S206)
Alternatively, the region of the extended portion may be recognized by searching for a flat mesh portion outside the outline of the main body portion and performing similar proximity scanning on the flat mesh portion.
(7) Search for start position: A half line is extended from the body part center-of-gravity coordinates obtained previously, and the thickness “h” of the extension part is obtained from the boundary line 105 and the extension line 109 intersecting with the half line. By applying a low-pass filter to the Fourier expansion function expressing the angle as a parameter, the phase of the lowest frequency (that is, the term of the wavelength 2π) is obtained, and the axis corresponding to the polar angle of zero is set from the phase. (Step S207)
(8) Fourier expansion coefficient determination: Fourier expansion is performed to determine coefficient values. (Step S208)
(9) Bit stream formation: The obtained Fourier expansion coefficients are classified by the system-specific bit length “κ” (in FIG. 8, an example in which κ is set to 3 is shown). Therefore, after removing the expansion coefficients “β 0 ” and “β 1 ” used to determine the phase from them, a bit string that is connected in order is synthesized, and the original data is added with a parity bit for error correction to match the bit length Reclassify. In this way, an error correction coded bit string 703 is obtained. (Step S209)
(10) Error correction: An error correction process is performed on the divided error correction coded bit string 703 to generate a decoded bit string. (Step S210)
(11) Embedding information restoration: A value of a specified byte length is read from the head identifier, a specified byte is cut out from the decoded bit string, a byte string is created, and embedded information 701 is obtained. (Step S211)

(実施例)
シャウダー展開式による情報埋め込みの例を説明する。
シャウダー展開式は、曲線の形状を、三角形を用いて近似してゆく手法であり、図形の一部に欠陥が生じても、欠陥による情報復元の悪影響が局所的にとどまるという効果がある。そのため、図形に欠落があっても、欠落がない図形の情報は正しく復元されるので、図形の汚れや疵に強い情報埋め込み方法である。
(Example)
An example of information embedding by the shauder expansion formula will be described.
The Schauder expansion formula is a method of approximating the shape of a curve using a triangle, and even if a defect occurs in a part of a figure, there is an effect that an adverse effect of information restoration due to the defect remains locally. For this reason, even if there is a missing figure, the information of the figure without the missing is correctly restored.

図10から図12で、シャウダー展開式を説明する。図10は、シャウダー展開式である。
「ak,i」は、展開係数であり、「F」は、基底関数である。
The shouter expansion formula will be described with reference to FIGS. FIG. 10 shows a shouter expansion type.
“A k, i ” is an expansion coefficient, and “F” is a basis function.

図11は、シャウダー展開係数「ak,i」の説明図である。 FIG. 11 is an explanatory diagram of the shauder expansion coefficient “ ak, i ”.

図12は、シャウダー展開式の基底関数列を説明する図である。 FIG. 12 is a diagram for explaining a basis function sequence of the Schauder expansion formula.

埋め込む情報702を利用してシャウダー展開式から求め外延部106を作成する方法を説明する。
シャウダー展開係数「ak,i」に埋め込み情報702を割り当てる手法は、フーリエ展開係数を求めたときと同様に、誤り訂正符号化ビット列703に対して、3ビット毎にシャウダー展開係数を割り当てて、展開係数「ak,i」を得る。展開係数が定まれば、図12で求めた基底関数列を用いて、図10のシャウダー展開式を求めることができる。シャウダー展開式から外延部106の形状を決めることができる。
A method of creating the extension part 106 obtained from the shauder expansion formula using the embedded information 702 will be described.
The technique of assigning the embedding information 702 to the shauder expansion coefficient “a k, i ” is to assign a shauder expansion coefficient for every 3 bits to the error correction coded bit string 703 as in the case of obtaining the Fourier expansion coefficient. The expansion coefficient “a k, i ” is obtained. If the expansion coefficient is determined, the Schauder expansion formula of FIG. 10 can be obtained using the basis function sequence obtained in FIG. The shape of the extended portion 106 can be determined from the shouter deployment type.

次に、図形埋め込み情報の読取処理フローを説明する。 Next, a processing flow for reading figure embedding information will be described.

(1)判断:画像データ合成:ノイズ低減:本体部106抽出:本体部重心決定:外延部106の抽出は、図9のステップS201からステップ206までと同じである。(ステップS401)
(2)開始位置探索:開始位置としては、境界線105と並行な部分(すなわち同一厚み。たとえば、図3の外延線119を開始位置とする。(ステップS402)
(3)シャウダー展開係数算出:外延線109の形状から、シャウダー展開係数を算出409する。(ステップS403)(4)ビット列形成:誤り訂正:シャウダー展開係数から埋め込んだ情報を求めて、復元方法は、図9のステップS209からステップ211までと同様に行う。(ステップS404)
(1) Determination: Image data synthesis: Noise reduction: Extraction of main body part 106: Determination of center of gravity of main body part: Extraction of the extension part 106 is the same as steps S201 to 206 in FIG. (Step S401)
(2) Start position search: As the start position, a portion parallel to the boundary line 105 (that is, the same thickness. For example, the extended line 119 in FIG. 3 is set as the start position (step S402).
(3) Calculation of the shauder expansion coefficient: From the shape of the extension line 109, the calculation of the shauder expansion coefficient is performed 409. (Step S403) (4) Bit string formation: Error correction: The information embedded from the Schauder expansion coefficient is obtained, and the restoration method is performed in the same manner as Steps S209 to 211 in FIG. (Step S404)

本発明による情報を埋め込こんだ図形100の概念図Conceptual diagram of figure 100 in which information according to the present invention is embedded 本発明による図形から情報を取り出す様子を説明する図The figure explaining a mode that information is extracted from the figure by this invention 本発明による情報を埋め込んだ図形の詳細な説明図Detailed explanatory diagram of figure embedded with information according to the present invention 距離の値を「h」展開図Expand the distance value to “h” 外延部の形状を算出する式Formula for calculating the shape of the extension 半直線上の外延部の長さを算出する式を説明する図The figure explaining the formula which calculates the length of the extension part on a half line 境界線105から得られる特徴長さ「l」を算出する式を説明する図The figure explaining the formula which calculates feature length "l" obtained from the boundary line 105 埋め込まれた情報からフーリエ展開の展開係数を作成する処理の手順Procedure for creating a Fourier expansion expansion coefficient from embedded information 図形埋め込み情報の読取処理フローProcess for reading figure-embedding information (実施例)シャウダー展開式(Example) Shouter deployment type (実施例)シャウダー展開係数「ak,i」の説明図(Example) Explanatory diagram of the shauder expansion coefficient “a k, i (実施例)シャウダー展開式の基底関数列(Example) Basis function sequence of the Schauder expansion formula

符号の説明Explanation of symbols

100 情報を埋め込んだ図形
101 本体部の平網
103 線画
104 本体部
105 境界線
106 外延部
107 外延部の平網
109 外延線
110 本体部104の重心から放射状に伸びる半直線
200 携帯電話
203 カーソル
221 表示部
300 印刷媒体
701 先頭の識別子
702 埋め込まれた情報
703 誤り訂正符号化ビット列

DESCRIPTION OF SYMBOLS 100 Information embedded figure 101 Main part flat net 103 Line drawing 104 Main body part 105 Border line 106 Outer extension part 107 Outer extension flat net 109 Outer extension line 110 Half line 200 extending radially from the center of gravity of the main part 104 Mobile phone 203 Cursor 221 Display unit 300 Print medium 701 First identifier 702 Embedded information 703 Error correction encoded bit string

Claims (10)

情報が埋め込まれた図形から、埋め込まれた情報を読み取るための情報読取プログラムであって、
前記情報読取プログラムは、カメラ部および表示部を有する携帯端末装置により実行され、
前記図形は、本体部と外延部とから構成されて、
カメラ部で撮影した図形の本体部領域を認識する本体部領域認識手段と、
カメラ部で撮影した図形の外延部領域を認識する外延部領域認識手段と、
埋め込まれた情報の読み取り開始位置を設定する開始位置設定手段と、
外延部領域から展開係数を算出する展開係数算出手段と、
算出された展開係数を用いて埋め込まれた情報を復元する情報復元手段
として携帯端末を機能させることを特徴とする図形情報読取プログラム。
An information reading program for reading embedded information from a figure in which information is embedded,
The information reading program is executed by a mobile terminal device having a camera unit and a display unit,
The figure is composed of a main body part and an extension part,
A body part region recognition means for recognizing a body part region of a figure photographed by the camera part;
An extended area recognition means for recognizing an extended area of a graphic photographed by the camera unit;
Start position setting means for setting the reading start position of the embedded information;
An expansion coefficient calculating means for calculating the expansion coefficient from the extension area,
A graphic information reading program for causing a portable terminal to function as information restoring means for restoring information embedded using a calculated expansion coefficient.
前記本体部領域認識手段は、カーソルによって指定された位置の近傍から、カメラ部で撮影した図形の本体部領域の平網部の色を入手することで、図形の本体部領域を認識する
ことを特徴とする請求項1に記載の図形情報読取プログラム。
The main body region recognition means recognizes the main body region of the figure by obtaining the color of the flat part of the main body region of the figure photographed by the camera unit from the vicinity of the position designated by the cursor. The graphic information reading program according to claim 1, wherein:
撮影する図形の分解能が十分に得られない場合に、
前記カメラ部は、図形を複数に分割して撮影し、
前記本体部領域認識手段および前記外延部領域認識手段は、それらの相対位置をパターンマッチングにより決定し、それらを合成することで撮影した図形を得る
ことを特徴とする請求項1に記載の図形情報読取プログラム。
When the resolution of the figure to be photographed is not enough,
The camera unit shoots a figure divided into a plurality of parts,
2. The graphic information according to claim 1, wherein the main body region recognition unit and the extension portion region recognition unit determine their relative positions by pattern matching and combine them to obtain a photographed figure. Reading program.
図形の本体部の重心を算出する重心算出手段
として機能することを特徴とする請求項1に記載の図形情報読取プログラム。
2. The graphic information reading program according to claim 1, wherein the graphic information reading program functions as a centroid calculating means for calculating the centroid of the main body of the graphic.
前記展開係数は、フーリエ展開式の係数である
ことを特徴とする請求項1から請求項4のいずれか一項に記載の図形情報読取プログラム。
5. The graphic information reading program according to claim 1, wherein the expansion coefficient is a Fourier expansion coefficient.
前記開始位置設定手段は、撮影図形のフーリエ展開係数の最低周波の係数を定数として用いて、埋め込まれた情報の読み取り開始位置を設定する
ことを特徴とする請求項5に記載の図形情報読取プログラム。
6. The graphic information reading program according to claim 5, wherein the starting position setting means sets a reading start position of embedded information using a coefficient of a lowest frequency of a Fourier expansion coefficient of a photographed graphic as a constant. .
前記展開係数は、シャウダー展開式の係数である
ことを特徴とする請求項1から請求項4のいずれか一項に記載の図形情報読取プログラム。
The graphic information reading program according to any one of claims 1 to 4, wherein the expansion coefficient is a coefficient of a Schauder expansion formula.
前記図形は、本体部と外延部とから構成されて、
前記本体部と外延部との間の境界は境界線が存在して、
前記本体部は、凸図形であって、
前記外延部が有する境界のうち、本体部境界とは反対側の境界は、外延線を有して、
図形の本体部領域にある点から伸ばした半直線が境界線と外延線と交わる線分の長さ情報と、開始位置からの距離情報とから、埋め込んだ情報を復元することができる
ことを特徴とする請求項1から請求項7のいずれか一項に記載の図形情報読取プログラム。
The figure is composed of a main body part and an extension part,
The boundary between the main body part and the extension part has a boundary line,
The main body is a convex figure,
Of the boundaries of the outer extension, the boundary opposite to the main body boundary has an extension line,
The embedded information can be restored from the length information of the line segment where the half line extended from the point in the main body area of the figure intersects the boundary line and the extension line, and the distance information from the start position The graphic information reading program according to any one of claims 1 to 7.
前記図形の本体部が単一網パーセントによる平網で形成されて、外延部が本体部平網と識別可能な平網で形成されることを特徴とする請求項8に記載の図形情報読取プログラム。   9. The graphic information reading program according to claim 8, wherein the main body portion of the graphic is formed by a flat net made of a single net percentage, and the extended portion is formed by a flat net that can be distinguished from the main body flat net. . 前記図形の読み取り開始位置は、
展開係数としてシャウダー展開式の係数を用いる場合に、
撮影した図形の本体部輪郭と平行な一定長さの外延部輪郭を有する部分を設けることによって形成されていることを特徴とする請求項8または請求項9に記載の図形情報読取プログラム。
The reading start position of the figure is
When using the coefficient of the Schauder expansion formula as the expansion coefficient,
10. The graphic information reading program according to claim 8, wherein the graphic information reading program is formed by providing a portion having an extended portion contour of a certain length parallel to the main body contour of the photographed graphic.
JP2007175019A 2007-07-03 2007-07-03 A program that reads information embedded in figures Expired - Fee Related JP4863088B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007175019A JP4863088B2 (en) 2007-07-03 2007-07-03 A program that reads information embedded in figures

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007175019A JP4863088B2 (en) 2007-07-03 2007-07-03 A program that reads information embedded in figures

Publications (2)

Publication Number Publication Date
JP2009017092A true JP2009017092A (en) 2009-01-22
JP4863088B2 JP4863088B2 (en) 2012-01-25

Family

ID=40357461

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007175019A Expired - Fee Related JP4863088B2 (en) 2007-07-03 2007-07-03 A program that reads information embedded in figures

Country Status (1)

Country Link
JP (1) JP4863088B2 (en)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003179746A (en) * 2001-09-04 2003-06-27 Stmicroelectronics Sa Method for inserting binary messages in digital image
JP2007096379A (en) * 2005-09-27 2007-04-12 Casio Comput Co Ltd Imaging apparatus, image recording and retrieving apparatus and program

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003179746A (en) * 2001-09-04 2003-06-27 Stmicroelectronics Sa Method for inserting binary messages in digital image
JP2007096379A (en) * 2005-09-27 2007-04-12 Casio Comput Co Ltd Imaging apparatus, image recording and retrieving apparatus and program

Also Published As

Publication number Publication date
JP4863088B2 (en) 2012-01-25

Similar Documents

Publication Publication Date Title
JP5471580B2 (en) Image processing apparatus and program
JP5834879B2 (en) Image printing apparatus, method, program, image processing apparatus, method, and program
JP6029021B2 (en) Image processing apparatus, imaging apparatus, and image processing method
JP2004140764A (en) Image processing device and method therefor
CN105825478A (en) Structure analysis method for recovering missing structures in an image after object removal
JP2008283649A (en) Image processing method, image region detecting method, image processing program, image region detection program, image processing apparatus, and image region detecting apparatus
US10992837B2 (en) Information processing apparatus, control method thereof, and storage medium
JP2008219152A (en) Image processor and processing method
JP2010035173A (en) Image processing apparatus and method
JP4550769B2 (en) Image detection apparatus and image detection method
JP4863088B2 (en) A program that reads information embedded in figures
JP2007067629A (en) Information embedding apparatus, printed matter, and information embedding program
JP4232689B2 (en) Information embedding method and information extracting method
JPWO2006115128A1 (en) Digital watermark detection device, method, program, and integrated circuit device
JP2008258938A (en) Image processor, image processing system, communication terminal and image processing program
JP4232676B2 (en) Information detection apparatus, image processing system, and information detection method
JP6118295B2 (en) Marker embedding device, marker detection device, method, and program
JP2003110844A (en) Image processor, its control method, computer program and recording medium
JP6724547B2 (en) Information processing apparatus, information processing method, and information processing program
JP4881141B2 (en) Image processing apparatus and image processing apparatus control method
JP2007049440A (en) Image processor, image processing method and image processing program
JP2017072958A (en) Image processing device, method and program for decoding information multiplexed on image
JP2011049690A (en) Two-dimensional code generator, image forming system, two-dimensional code reader, computer program, and medium
JP2019091976A (en) Program, image processing apparatus, and image processing method
JP4550745B2 (en) Image processing method and image processing apparatus

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100520

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110704

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110712

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110912

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111013

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111026

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141118

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees