JP2003319165A - Image composition method and system - Google Patents

Image composition method and system

Info

Publication number
JP2003319165A
JP2003319165A JP2002121788A JP2002121788A JP2003319165A JP 2003319165 A JP2003319165 A JP 2003319165A JP 2002121788 A JP2002121788 A JP 2002121788A JP 2002121788 A JP2002121788 A JP 2002121788A JP 2003319165 A JP2003319165 A JP 2003319165A
Authority
JP
Japan
Prior art keywords
image
images
overlap
pixel
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2002121788A
Other languages
Japanese (ja)
Other versions
JP3935768B2 (en
Inventor
Naoki Kawai
直樹 河合
Katsuyoshi Kitaoka
且好 北岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Dai Nippon Printing Co Ltd
Original Assignee
Dai Nippon Printing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Dai Nippon Printing Co Ltd filed Critical Dai Nippon Printing Co Ltd
Priority to JP2002121788A priority Critical patent/JP3935768B2/en
Publication of JP2003319165A publication Critical patent/JP2003319165A/en
Application granted granted Critical
Publication of JP3935768B2 publication Critical patent/JP3935768B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Image Processing (AREA)
  • Editing Of Facsimile Originals (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide an image composition method and system for applying composition processing to a composited part without losing a feature of both images in the case of compositing parts of the images, in particular, performing the composition required for processing of the joints of the images. <P>SOLUTION: An original image being an object of composition processing is received (S1). After setting an overlap amount (S2), an overlap area is prepared in a part on which two original images are overlapped (S3), and the occurrence probability of pixels of each original image is calculated on the basis of an interior division ratio of each pixel sequence in the overlap area to a distance of the border of the overlap area (S4). The composited image can be obtained by deciding (S5) which of pixels of the original images is to be used as a pixel in each pixel sequence according to the occurrence probability. <P>COPYRIGHT: (C)2004,JPO

Description

【発明の詳細な説明】Detailed Description of the Invention

【0001】[0001]

【産業上の利用分野】本発明は、模様等を有する画像の
一部を合成する場合に、高周波成分を損なうことなく自
然な合成を行うための技術に関する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a technique for synthesizing a part of an image having a pattern or the like for natural synthesizing without damaging high frequency components.

【0002】[0002]

【従来の技術】従来より複数の画像を元に新たな画像を
作成する際に、画像の合成処理が行われている。これ
は、複数の画像の各画素の値を元に新たな画像の画素の
値を決定することにより行われる。この画素の決定のル
ールには様々なものがあり、画像の特徴、画像が利用さ
れる用途に応じて最適なものが利用されている。
2. Description of the Related Art Conventionally, when a new image is created based on a plurality of images, image synthesizing processing is performed. This is done by determining the pixel values of the new image based on the pixel values of the multiple images. There are various rules for determining the pixel, and the most suitable rule is used according to the characteristics of the image and the purpose for which the image is used.

【0003】また、一口に画像の合成といっても、全く
新しい画像を得るために、画像全体を合成する場合や、
画像の加工の際、必要に応じて一部だけを合成する場合
がある。後者の例として、特に建材印刷物に用いられる
画像の繋ぎ目における合成処理が挙げられる。ここで、
建材印刷物および建材印刷物に用いられる画像について
説明しておく。建材印刷物は、出版印刷物、商業用印刷
物等の汎用印刷物に比べて、長さが非常に長い(長
尺)。例えば、壁面に加飾する印刷物を考えると、建物
の床から天井までの長さは、通常2.5m程度はあり、
また部屋の端から端までの水平方向長さも、6畳間の場
合で、長辺が3.5m程度はある。したがって、建材印
刷物用の画像も、最低限その程度の長さは繋ぎ目なく連
続し、一続きとなったエンドレスな画像、すなわちエン
ドレス画像が必要となる。
Further, even if it is said that the images are combined in one bit, when the whole image is combined in order to obtain a completely new image,
When processing an image, only a part may be combined as needed. As an example of the latter, there is a synthesizing process at a joint between images used in a building material printed matter. here,
The building material printed matter and the image used for the building material printed matter will be described. Building material prints are much longer (longer) than general-purpose prints such as publication prints and commercial prints. For example, considering a printed material to decorate the wall surface, the length from the floor to the ceiling of the building is usually about 2.5 m,
In addition, the horizontal length from the end to the end of the room is about 3.5 m in the case of 6 tatami mats. Therefore, the images for printed materials for building materials are also required to be endless images, that is, a continuous continuous image of at least that length, that is, an endless image.

【0004】上記のような長尺の画像を印刷用版胴の1
円周以内に収めることは不可能である。そのため、1円
周分の画像の印刷方向の始端部の辺と終端部の辺とを版
胴上で接続して(繋いで)製版する。そして、印刷時に
版胴が1回転するごとに1円周分の画像が途切れること
なく繰返し印刷されることによって、任意の長さの長尺
印刷物を得ている。
The long image as described above is printed on the printing cylinder 1
It is impossible to fit within the circumference. Therefore, the side of the start end and the side of the end of the image for one circumference in the printing direction are connected (connected) on the plate cylinder to perform plate making. Then, each time the plate cylinder makes one rotation during printing, an image for one circumference is repeatedly printed without interruption, thereby obtaining a long printed matter of an arbitrary length.

【0005】ただし、単に1円周分の画像の印刷方向の
始端部の辺と終端部の辺とを突合わせて接続したのみで
は、接続部(繋ぎ目)で画像が不連続となり、エンドレ
ス画像は得られない。版胴画像のエンドレス化のために
は、画像の繋ぎ目において、繋ぎ目を境界として両側画
像の不連続部分を連続化して、繋ぎ目を目視で認識不能
とする作業、すなわち、シームレス化が必要となる。
However, if the side of the start end and the side of the end in the printing direction of the image for one circumference are simply butted and connected, the image becomes discontinuous at the connecting portion (joint), and the endless image is obtained. Can't get In order to make the plate cylinder image endless, it is necessary to make the discontinuity of both images continuous at the seam of the image and make the seam unrecognizable, that is, seamless. Becomes

【0006】そこで、特に木目模様の場合に有効な、画
像繋ぎ目のシームレス化による版胴画像のエンドレス化
の手法として、特公昭43−2065号公報等記載のご
とく、円周上の繋ぎ目を波形、あるいはジグザグの折れ
線として、繋ぎ目自体を目立ち難い形状とし、かつ繋ぎ
目近傍領域を熟練工が手作業で加筆、脱色、染色、削除
等を行うことにより、画像の不連続を修正してシームレ
ス化することが広く行われてきた(従来技術)。
Therefore, as a method of making the plate cylinder image endless by seamlessizing the image joints, which is particularly effective in the case of a wood grain pattern, as described in Japanese Patent Publication No. 43-2065, etc. As a wavy line or zigzag broken line, the joint itself is made inconspicuous and the area near the joint is manually added, decolorized, dyed, deleted, etc. by a skilled worker to correct the discontinuity of the image and seamless Has been widely used (prior art).

【0007】又近年は、電子計算機を応用したデジタル
画像処理技術の進歩によって、原稿画像をスキャナーで
読込んでデジタルデータ化し、CRT等の表示装置上で
マウス、タブレット、カーソル等により修正箇所を指定
し、画面内の他の部分等から適当な領域の画素をコピー
して移植する等の手法により、より作業性を向上させる
ことが試みられている(従来技術)。さらに、繋ぎ目
のシームレス化の作業を両側画像の平均化演算処理によ
って、自動的に所定の式で計算することによって効率化
する方法も提案されている(従来技術)。
Further, in recent years, due to the progress of digital image processing technology applying an electronic computer, a document image is read by a scanner to be converted into digital data, and a correction portion is designated by a mouse, a tablet, a cursor or the like on a display device such as a CRT. It has been attempted to improve workability by a technique such as copying and transplanting pixels in an appropriate area from another portion of the screen (conventional technology). Furthermore, a method has also been proposed in which the work of seamlessening the joint is made efficient by automatically calculating it by a predetermined formula by averaging calculation processing of both-sided images (prior art).

【0008】[0008]

【発明が解決しようとする課題】しかしながら、上記従
来技術においては、シームレス化は、全て熟練工の手
作業によるため、作業効率が低く、かつ近年では熟練工
の確保も困難となってきている。なおかつ、再版時に全
く同一のシームレス処理の版を再現することも困難であ
る。
However, in the above-mentioned prior art, since the seamless operation is performed manually by a skilled worker, the work efficiency is low and it has become difficult to secure a skilled worker in recent years. Moreover, it is also difficult to reproduce a completely seamless plate when reprinting.

【0009】上記従来技術においては、シームレス化
の作業にデジタル化、機械化した処理を採用することに
より、上記従来技術に比べれば、画像の繋ぎ目等の工
程については、作業の効率化は図れた。しかし、特にシ
ームレス化の作業自体は、依然として熟練工の勘と手作
業に依存する点においては、ほとんど改善にはなってい
ない。
In the above-mentioned prior art, by adopting the digitized and mechanized processing for the work of the seamless operation, the work efficiency can be improved in the steps such as the joint of the images as compared with the above-mentioned prior art. . However, the seamlessness work itself has not been improved much in that it depends on the intuition and manual work of a skilled worker.

【0010】上記従来技術では、シームレス化の作業
をもデジタル処理により自動化することによって効率化
は図られた。しかし、シームレス化が、単に両側の画像
を繋ぎ目において加算(平均化)しているため、繋ぎ目
近傍において、空間周波数の高周波成分が欠落し、画像
の微細構造ないしは先鋭度が低下する。そのため、遠く
から見ると依然として繋ぎ目が認識されてしまうという
問題点が残ることになる。
In the above-mentioned prior art, the efficiency has been improved by automating the work of making it seamless by digital processing. However, since the seamlessization simply adds (averages) the images on both sides at the joint, the high frequency component of the spatial frequency is lost near the joint, and the fine structure or sharpness of the image is reduced. Therefore, the problem remains that the joint is still recognized when viewed from a distance.

【0011】上記のような点に鑑み、本発明は、画像の
一部の合成、特に画像の繋ぎ目部分の処理に必要な合成
を行う場合に、その合成部分において両画像の特徴が損
なわれないような合成処理を行うことが可能な画像合成
方法およびシステムを提供することを課題とする。
In view of the above points, according to the present invention, when synthesizing a part of an image, particularly, synthesizing necessary for processing a joint portion of the image, the characteristics of both images are impaired in the synthesizing part. An object of the present invention is to provide an image synthesizing method and system capable of performing such a synthesizing process.

【0012】[0012]

【課題を解決するための手段】上記課題を解決するた
め、本発明では、複数の画像の一部を重ね合わせて新た
な画素値を与えることにより画像を合成する方法とし
て、合成対象とする複数の画像を入力する段階、前記入
力された複数の画像のオーバーラップ量を設定する段
階、前記設定されたオーバーラップ量に基づいてオーバ
ーラップ領域を作成する段階、前記オーバーラップ領域
において、前記入力されたどちらかの画像の画素値を与
えることにより画像を修正する画像修正段階を実行し、
前記画像修正段階において、どちらの画像の画素値を与
えるかの決定は、新たに値を与えられる画素の前記両画
像からの距離に基づいて決定するようにしたことを特徴
とする。
In order to solve the above-mentioned problems, according to the present invention, a method of combining a plurality of images by superimposing a part of the plurality of images and giving a new pixel value Inputting an image, setting an overlap amount of the input plurality of images, creating an overlap region based on the set overlap amount, and inputting the overlap region in the overlap region. Perform an image modification step that modifies the image by giving the pixel value of either image
It is characterized in that in the image correction step, the determination of which image pixel value is to be given is made based on the distance of the pixel to which a new value is given from both the images.

【0013】本発明によれば、複数の画像の重複部分で
あるオーバーラップ領域の各画素に新たな画素値を与え
る際、元の両画像の画素値に何らかの補正を行うのでは
なく、どちらかの画素の画素値をそのまま用いるように
したので、画像の高周波成分を損なうことなく元の両画
像の特徴を有した画像の合成が可能となる。その際、ど
ちらの画像の画素を用いるかを、元の画像からの距離の
内分比に基づく出現確率に従って決定するようにしたの
で、画像を全体として見たときにオーバーラップ領域に
おいて画像が滑らかに変化する。また、同一の画像を複
数並べる際に、その繋ぎ目部分の合成に利用すれば、繋
ぎ目が目立たないエンドレスな画像を作成することがで
きる。
According to the present invention, when a new pixel value is given to each pixel of the overlap area which is an overlapping portion of a plurality of images, some correction is not performed on the pixel values of both original images, but either of them is corrected. Since the pixel values of the pixels are used as they are, it is possible to combine the images having the characteristics of the original two images without damaging the high frequency components of the images. At that time, which image pixel is used is determined according to the appearance probability based on the internal division ratio of the distance from the original image. Therefore, when the image is viewed as a whole, the image is smooth in the overlap region. Changes to. Further, when a plurality of the same images are lined up and used for synthesizing the joint portion, an endless image in which the joints are not conspicuous can be created.

【0014】[0014]

【発明の実施の形態】以下、図面を参照して本発明の一
実施形態について詳細に説明する。 (1.システム構成)まず、本発明に係る画像合成システ
ムのシステム構成について説明する。図1は、画像合成
システムの一実施形態を示すシステム構成図である。図
1において、1は原画像入力手段、2はオーバーラップ
量設定手段、3は演算制御装置、3aはオーバーラップ
領域作成手段、3bは出現確率算出手段、3cは画素決
定手段、4は画像出力手段である。
DETAILED DESCRIPTION OF THE INVENTION An embodiment of the present invention will be described in detail below with reference to the drawings. (1. System Configuration) First, the system configuration of the image composition system according to the present invention will be described. FIG. 1 is a system configuration diagram showing an embodiment of an image composition system. In FIG. 1, 1 is an original image input means, 2 is an overlap amount setting means, 3 is an arithmetic control device, 3a is an overlap area creating means, 3b is an appearance probability calculating means, 3c is a pixel determining means, 4 is an image output. It is a means.

【0015】原画像入力手段1は、合成処理の対象とな
る原画像を入力するためのものであり、デジタルデータ
の読取装置で原画像データを読取らせることにより実現
される。また、原画像が紙媒体等に描画されている場合
は、スキャナ、デジタルカメラ等を利用してデジタル化
した後入力する。オーバーラップ量設定手段2は、複数
の画像(もしくは1つの画像の端部と対向する端部)を
どの程度オーバーラップ、すなわち重複させるかを設定
するためのものであり、マウス、キーボード等の入力機
器で実現される。
The original image input means 1 is for inputting an original image to be a subject of the combining process, and is realized by reading the original image data with a digital data reading device. When the original image is drawn on a paper medium or the like, it is input after being digitized by using a scanner, a digital camera or the like. The overlap amount setting means 2 is for setting the extent to which a plurality of images (or the end portions facing the end portions of one image) are overlapped, that is, overlapped with each other. Realized with equipment.

【0016】演算制御装置3は、本発明の中心的な役割
を有するものであり、入力された原画像、設定されたオ
ーバーラップ量に基づいて、複数の画像の重複領域を合
成することにより合成画像を作成する機能を有してい
る。実際には、コンピュータのCPU、メモリで構成さ
れ、メモリに専用のプログラムを読込み、CPUが順次
実行することにより実現される。演算制御装置3は、さ
らにオーバーラップ領域作成手段3a、出現確率算出手
段3b、画素決定手段3cを有している。オーバーラッ
プ領域作成手段3aは、入力された原画像のサイズおよ
び設定されたオーバーラップ量に基づいて、オーバーラ
ップ領域のサイズを計算し、算出された大きさのメモリ
空間を確保する機能を有している。出現確率算出手段3
bは、オーバーラップ領域内の各画素が、オーバーラッ
プ領域の両端からどの程度離れているかを、その比率で
求める機能を有している。画素決定手段3cは、算出さ
れた内分比に基づいて、オーバーラップ領域上の各画素
として、どちらの画像の画素を採用するかを決定する機
能を有している。オーバーラップ領域作成手段3a、出
現確率算出手段3b、画素決定手段3cはそれぞれ専用
のプログラムをCPUで実行することにより実現され
る。画像出力手段4は、合成処理により得られた合成画
像を出力する機能を有しており、画像を表示するための
ディスプレイ装置、印刷するためのプリンター、データ
として出力するためのハードディスク等の外部記憶装
置、携帯可能な電子記録媒体への記録装置、さらにネッ
トワークを介して遠隔地へ送信するための通信装置等が
適用可能である。
The arithmetic and control unit 3 plays a central role in the present invention, and synthesizes the overlapping regions of a plurality of images by synthesizing them based on the input original image and the set overlap amount. It has the function of creating images. Actually, it is configured by a CPU of a computer and a memory, a dedicated program is read into the memory, and the CPU sequentially executes the program. The arithmetic and control unit 3 further includes an overlap area creating unit 3a, an appearance probability calculating unit 3b, and a pixel determining unit 3c. The overlap area creating means 3a has a function of calculating the size of the overlap area based on the size of the input original image and the set overlap amount, and ensuring a memory space of the calculated size. ing. Appearance probability calculation means 3
b has a function of determining how far each pixel in the overlap region is from both ends of the overlap region by the ratio. The pixel determining means 3c has a function of determining which image pixel is to be adopted as each pixel on the overlap area based on the calculated internal division ratio. The overlapping area creating means 3a, the appearance probability calculating means 3b, and the pixel determining means 3c are realized by executing their own dedicated programs by the CPU. The image output unit 4 has a function of outputting a combined image obtained by the combining process, and has an external storage such as a display device for displaying the image, a printer for printing, a hard disk for outputting as data, or the like. A device, a recording device for a portable electronic recording medium, a communication device for transmitting to a remote place via a network, and the like are applicable.

【0017】(2.処理の流れ)次に、本発明に係る画像
合成方法について、図1に示した画像合成システムの処
理動作と共に説明する。図2は本発明に係る画像合成方
法の概要を示すフローチャートである。ここでは、1つ
の画像を複数並べた際に、その繋ぎ目が目立たないよう
にエンドレス画像とする処理を行う場合を例にとって説
明する。まず、原画像入力手段1より、エンドレス処理
を行う対象とする原画像を入力する(ステップS1)。
次に、オーバーラップ量設定手段2を用いて、オーバー
ラップ量の設定を行う(ステップS2)。オーバーラッ
プ量は、原画像の端部と対向する端部を互いにオーバー
ラップさせる量であり、このオーバーラップ量に基づい
てオーバーラップ領域が決定される。オーバーラップ領
域とは、原画像の端部と対向する端部の合成処理を行う
領域である。この合成処理を行わないと、原画像を複数
並べた際に、互いの境界部で段差が目立つことになる。
本実施形態では、オーバーラップ量の設定は、1方向で
原画像の端部と対向する端部が互いに重なり合う画素数
で設定される。
(2. Process Flow) Next, the image synthesizing method according to the present invention will be described together with the processing operation of the image synthesizing system shown in FIG. FIG. 2 is a flowchart showing an outline of the image synthesizing method according to the present invention. Here, a case will be described as an example in which, when a plurality of one images are arranged, a process of making an endless image so that the joints are not noticeable is performed. First, the original image input means 1 inputs an original image to be subjected to endless processing (step S1).
Next, the overlap amount setting means 2 is used to set the overlap amount (step S2). The overlap amount is an amount by which the end portions of the original image, which are opposed to the end portions, overlap each other, and the overlap region is determined based on this overlap amount. The overlap area is an area in which an edge portion of the original image facing the edge portion is combined. If this synthesizing process is not performed, when a plurality of original images are arranged, a step becomes conspicuous at the boundary between them.
In the present embodiment, the overlap amount is set by the number of pixels in which the end portions of the original image facing each other in one direction overlap each other.

【0018】続いて、入力された原画像のサイズ、およ
び設定されたオーバーラップ量に基づいてオーバーラッ
プ領域の作成を行う(ステップS3)。具体的には、オ
ーバーラップ領域作成手段3aが、コンピュータの主記
憶装置内にオーバーラップ領域として必要なメモリ空間
の確保を行う。例えば、原画像GORIのサイズ(画素
数)が横xp×縦ypであったとする。このとき、図3
(b)に示すように原画像GORIをx軸方向(図中左右
方向)に複数並べた際に、隣接する原画像GORIと接す
る辺の長さ(画素数)はypであるので、オーバーラッ
プ量がαであるとすると、yp×αの大きさのオーバー
ラップ領域Oが作成される。本実施形態で処理する原画
像GORIは1つだけであり、図3(b)に示したように
複数並べた場合の左右の画像は同じ原画像GORIである
が、ここでは説明の便宜上、一方を原画像GL、他方を
原画像GRとする。図3(b)に示すように原画像GL
原画像GRにまたがってyp×αの大きさのオーバーラ
ップ領域が作成されることになる。
Then, an overlap area is created based on the size of the input original image and the set overlap amount (step S3). Specifically, the overlap area creating means 3a secures a memory space required as an overlap area in the main storage device of the computer. For example, assume that the size (the number of pixels) of the original image G ORI is horizontal xp x vertical yp. At this time,
As shown in (b), when a plurality of original images G ORI are arranged in the x-axis direction (horizontal direction in the figure), the length (number of pixels) of the side in contact with the adjacent original image G ORI is yp. Assuming that the overlap amount is α, an overlap region O having a size of yp × α is created. Only one original image G ORI is processed in the present embodiment, and the left and right images when the plural images are arranged as shown in FIG. 3B are the same original image G ORI , but here, for convenience of explanation. , One is the original image G L , and the other is the original image G R. As shown in FIG. 3B, an overlapping area having a size of yp × α is created across the original image G L and the original image G R.

【0019】オーバーラップ領域が作成されたら、次
に、このオーバーラップ領域内の画素の集合である画素
列における各原画像の画素の出現確率を算出する(ステ
ップS4)。各原画像の画素の出現確率とは、各画素列
においてどちらの画像の画素がどの程度で出現するかを
示す割合である。この出現確率は、各画素列とオーバー
ラップ領域の境界との距離の内分比に基づいて算出され
る。出現確率の算出の様子を図4を用いて説明する。図
4にオーバーラップ量α=6とした場合の原画像GL
原画像GRのオーバーラップ領域O付近を示す。図4の
例では、α=6であるため、オーバーラップ領域にはx
軸方向(図の左右方向)に6画素分用意されることにな
る。y軸方向の画素の集合を画素列と定義すると、図4
に示すオーバーラップ領域Oには、原画像GL側から順
に、第1列目、第2列目、・・・第6列目までの6つの
画素列が存在することになる。このようなオーバーラッ
プ領域において、第xo列目の画素列における原画像
L、GRの出現確率PL 、PRは、以下の〔数式1〕に
より算出される。
After the overlap area is created, next, the appearance probability of the pixel of each original image in the pixel row, which is a set of pixels in the overlap area, is calculated (step S4). The appearance probability of the pixel of each original image is a ratio indicating the degree of appearance of the pixel of which image in each pixel column. This appearance probability is calculated based on the internal division ratio of the distance between each pixel column and the boundary of the overlap region. How the appearance probability is calculated will be described with reference to FIG. FIG. 4 shows the vicinity of the overlap area O of the original image G L and the original image G R when the overlap amount α = 6. In the example of FIG. 4, since α = 6, x is included in the overlap area.
Six pixels are prepared in the axial direction (left and right direction in the figure). When a set of pixels in the y-axis direction is defined as a pixel column, the pixel array shown in FIG.
In the overlap region O shown, in order from the original image G L side, first row, so that the second row, six pixel columns of ... up to the sixth column exists. In such an overlap region, the appearance probabilities P L and P R of the original images G L and G R in the pixel column of the x o th column are calculated by the following [Formula 1].

【0020】〔数式1〕 PL =(d − x0 )/d PR = x0/d[0020] [Equation 1] P L = (d - x 0 ) / d P R = x 0 / d

【0021】上記〔数式1〕において、出現確率PL
Rはそれぞれ原画像GLの画素、原画像GRの画素を採
用する確率である。また、 xoは、1≦ xo ≦d−1
の範囲の整数値をとる。図4に示す例では、d(=α+
1)=7であり、 xo =1〜6の値をとることにな
る。すなわち、図4の例では、出現確率PLは第1列目
が6/7、第2列目が5/7、第3列目が4/7、第4
列目が3/7、第5列目が2/7、第6列目が1/7と
なり、出現確率PRは第1列目が1/7、第2列目が2
/7、第3列目が3/7、第4列目が4/7、第5列目
が5/7、第6列目が6/7となる。
In the above [Formula 1], the occurrence probability P L ,
P R is the probability of adopting the pixels of the original image G L and the pixels of the original image G R , respectively. Further, x o is 1 ≦ x o ≦ d−1.
Takes an integer value in the range. In the example shown in FIG. 4, d (= α +
1) = 7, and x o = 1-6. That is, in the example of FIG. 4, the appearance probability P L is 6/7 in the first column, 5/7 in the second column, 4/7 in the third column, and 4th in the third column.
The third column is 3/7, the fifth column is 2/7, the sixth column is 1/7, and the appearance probability P R is 1/7 in the first column and 2 in the second column.
/ 7, the third row is 3/7, the fourth row is 4/7, the fifth row is 5/7, and the sixth row is 6/7.

【0022】続いて、算出された出現確率に基づき、オ
ーバーラップ領域内の各画素に、2つの画像のどちらの
画素を採用するかの決定を行う(ステップS5)。具体
的には、オーバーラップ領域の各列単位で、出現確率P
L 、出現確率PRを満たすように各画素を決定してい
く。例えば、図4に示した第1列の場合、出現確率PL
が6/7、出現確率PRが1/7であるので、この確率
を満たすように画素の決定が行われる。すなわち、図4
に示すようにyp行の画素がある場合、第1列目では、
原画像GLの画素がyp×6/7個、画像GRの画素がy
p×1/7個選択されることになる。第2列目から第6
列目までも同様に算出された出現確率に基づいて決定さ
れる。
Then, based on the calculated appearance probability, it is determined which pixel of the two images is to be used for each pixel in the overlap area (step S5). Specifically, the appearance probability P is set for each column of the overlap region.
Each pixel is determined so as to satisfy L and the appearance probability P R. For example, in the case of the first column shown in FIG. 4, the occurrence probability P L
Is 6/7 and the appearance probability P R is 1/7, the pixels are determined so as to satisfy this probability. That is, FIG.
If there is a pixel in the yp row as shown in, in the first column,
The pixels of the original image G L are yp × 6/7, and the pixels of the image G R are y
p × 1/7 pieces will be selected. 2nd row to 6th
The columns up to the row are also determined based on the calculated appearance probability.

【0023】各列単位での画素の決定は、出現確率P
L 、出現確率PRを満たすように行われるのであるが、
この手法としては、様々な手法を用いることができる。
本実施形態では、画素ごとに0から1の値をとる一様分
布乱数を発生させ、PL未満であれば、原画像GLから対
応する位置の画素値をコピーし、PL以上であれば、原
画像GRから対応する位置の画素値をコピーする。この
結果、図5に示すような画素が割り当てられることにな
る。図5において、「L」で示された画素は原画像GL
の画素が、「R」で示された画素は原画像GRの画素が
それぞれ与えられることを示している。このようにして
オーバーラップ領域内の画素値を修正することにより合
成画像が得られたら、画像出力手段4より出力する(ス
テップS6)。
Pixels are determined for each column by determining the appearance probability P.
L and appearance probability P R are satisfied,
Various methods can be used as this method.
In this embodiment, a uniformly distributed random number having a value of 0 to 1 is generated for each pixel, and if it is less than P L , the pixel value at the corresponding position is copied from the original image G L , and if it is P L or more. For example, the pixel value at the corresponding position is copied from the original image G R. As a result, the pixels shown in FIG. 5 are assigned. In FIG. 5, the pixel indicated by "L" is the original image G L.
The pixels indicated by “R” indicate that the pixels of the original image G R are given. When the composite image is obtained by thus correcting the pixel values in the overlap area, the image output means 4 outputs the composite image (step S6).

【0024】上記の例のように、1つの原画像をエンド
レス化するために合成処理を行った場合、図6(a)に
示すように、オーバーラップ領域Oは、領域O’と同じ
となる。そのため、実際には、原画像の片側(例えば右
側)のオーバーラップ領域Oを削除し、オーバーラップ
領域Oの画素値を、対応する左側のオーバーラップ領域
O’にコピーする。具体的には、図6(b)に示すよう
に、1つのオーバーラップ領域を削除したサイズの合成
画像が得られることになる。
When the synthesizing process is performed to make one original image endless as in the above example, the overlap area O becomes the same as the area O'as shown in FIG. 6 (a). . Therefore, actually, the overlap area O on one side (for example, the right side) of the original image is deleted, and the pixel value of the overlap area O is copied to the corresponding left overlap area O ′. Specifically, as shown in FIG. 6B, a combined image having a size in which one overlap area is deleted can be obtained.

【0025】(3.応用例)上記の例では、原画像をx軸
方向に複数配列する場合にエンドレス画像となるよう
に、オーバーラップ領域における両画像の合成を行うこ
とにより画像の修正を行ったが、y軸方向に複数配列す
る場合であってもx軸とy軸が入れ替わるだけであり、
本質的には同様の処理が行われる。また、x軸方向、y
軸方向の双方に画像を配列する場合には、x軸方向、y
軸方向の双方に上記画像合成処理を行うことにより、縦
横の2次元に画像を配列した場合でも全ての繋ぎ目が目
立たないような合成画像を得ることが可能となる。
(3. Application Example) In the above example, when the original images are arranged in the x-axis direction, the images are corrected by synthesizing the two images in the overlap area so that the images become endless images. However, even when a plurality of arrays are arranged in the y-axis direction, only the x-axis and the y-axis are exchanged,
Essentially the same process is performed. Also, x-axis direction, y
When arranging images in both the axial directions, the x-axis direction, y
By performing the image combining processing in both the axial directions, it is possible to obtain a combined image in which all the joints are inconspicuous even when the images are arranged in two dimensions in the vertical and horizontal directions.

【0026】また、上記の例では、同一の画像を複数並
べる場合について説明したが、接続する辺の長さ(画素
数)が等しい複数の画像を順に繋ぎ目を目立たないよう
に接続し、左端の画像の左端部と右端の画像の右端部を
同様にオーバーラップ領域で合成処理を行うことで、シ
ームレスな画像を作成することもできる。例えば、図6
(c)に示すように、原画像GR、原画像GLとしてサイ
ズが横xL×縦yLの画像、横xR×縦yLの画像を適用し
て合成処理を行うことになる。この場合、合成する辺の
長さはyLで同一であるが、横方向は異なっていても良
い。図6(c)に示す例の場合、合成後の画像のサイズ
は、横(xL+xR−α)×縦yLとなる。
In the above example, the case where a plurality of the same images are lined up has been described. However, a plurality of images having the same side length (number of pixels) to be connected are sequentially connected so that the joints are not conspicuous, and the left end is connected. It is also possible to create a seamless image by similarly performing the combining process on the left end portion of the image and the right end portion of the right end image in the overlapping area. For example, in FIG.
As shown in (c), as the original image G R and the original image G L , an image having a size of horizontal x L x vertical y L and an image of horizontal x R x vertical y L are applied to perform the combining process. . In this case, the sides to be combined have the same length y L , but may be different in the lateral direction. In the case of the example shown in FIG. 6C, the size of the combined image is horizontal (x L + x R −α) × vertical y L.

【0027】さらに、本発明は、画像の不適当な部分を
別の小画像で置き換える処理に適用することもできる。
特に、建材製品等の表面を装飾するものとして用いられ
ている模様画像は、撮影した画像を変形処理して作成し
たり、コンピュータの演算により人工的に作成したりす
ることにより得られているが、このような模様画像の初
期作成時においては、しばしば好ましくない部分が生じ
ることがある。このような場合、好ましくない部分を他
の小画像で置き換えることが行われるが、元々別の画像
であるため、置き換えた画像の周囲の境界部分で両画像
の画素値が大きく異なる。そのため、見た目には置き換
えた部分がはっきりと目立つことになり、置き換えた方
が逆に好ましくない画像になってしまう場合もある。こ
れを防ぐために本発明を適用するのである。
Further, the present invention can be applied to a process of replacing an inappropriate portion of an image with another small image.
In particular, a pattern image used for decorating the surface of a building material product or the like is obtained by transforming a photographed image or artificially created by computer calculation. However, at the time of initial creation of such a pattern image, an unfavorable portion may often occur. In such a case, the unfavorable portion is replaced with another small image, but since it is another image originally, the pixel values of both images are greatly different at the boundary portion around the replaced image. For this reason, the replaced portion is clearly visible, and in some cases, the replaced portion may result in an unfavorable image. The present invention is applied to prevent this.

【0028】この場合の処理について具体的に説明す
る。まず、修正対象とする原画像GOR Iと、小画像であ
るパッチ画像GPATを入力する。続いて、原画像GORI
の修正すべき箇所、すなわち、パッチ画像GPATで置き
換える位置を指定する。すると、上記実施形態と同様に
オーバーラップ領域が作成される。ただし、上記実施形
態と異なるのは、ここでは、パッチ画像GPATの4辺全
てが原画像GORIと接している点である。このため、オ
ーバーラップ領域も4辺に対応して作成されることにな
る。ここで、原画像GORI、パッチ画像GPAT、オーバー
ラップ領域の関係を図7(a)に、オーバーラップ領域
の詳細を図7(b)に示す。パッチ画像のx方向の画素
数をxs、y方向の画素数をys、オーバーラップ量が
αであるとすると、xs×αの大きさの領域が2つ、
(ys−2α)×αの大きさの領域が2つの計4つのオ
ーバーラップ領域が作成される。図7(b)に示すよう
に(ys−2α)×αの大きさのオーバーラップ領域O
A、OC、xs×αの大きさのオーバーラップ領域OB
Dが得られることになる。このオーバーラップ領域に
対して上記実施形態のステップS4、ステップS5の処
理を行うことにより合成画像が得られることになる。た
だし、オーバーラップ領域OA、OCについては、そのま
ま行えば良いが、オーバーラップ領域OB、ODについて
は、x軸方向とy軸方向を入れ替えて処理を行う必要が
ある。
The processing in this case will be specifically described. First, the original image G OR I to be corrected and the patch image G PAT which is a small image are input. Then, a position on the original image G ORI to be corrected, that is, a position to be replaced with the patch image G PAT is designated. Then, the overlap region is created as in the above embodiment. However, the difference from the above embodiment is that all four sides of the patch image G PAT are in contact with the original image G ORI . Therefore, the overlap area is also created corresponding to the four sides. Here, the relationship between the original image G ORI , the patch image G PAT , and the overlap area is shown in FIG. 7A, and the details of the overlap area are shown in FIG. 7B. If the number of pixels in the x direction of the patch image is xs, the number of pixels in the y direction is ys, and the overlap amount is α, there are two regions of size xs × α,
A total of four overlapping areas with two areas having a size of (ys-2α) × α are created. As shown in FIG. 7B, the overlap region O having a size of (ys-2α) × α
A, O C, overlap size of xs × alpha region O B,
O D will be obtained. By performing the processing of step S4 and step S5 of the above embodiment on this overlapping area, a composite image can be obtained. However, the overlap region O A, the O C is may be performed as it is, the overlap area O B, the O D, it is necessary to perform processing interchanged x-axis and y-axis directions.

【0029】[0029]

【発明の効果】以上、説明したように本発明によれば、
合成対象とする複数の画像を入力し、入力された複数の
画像のオーバーラップ量を設定し、設定されたオーバー
ラップ量に基づいてオーバーラップ領域を作成し、オー
バーラップ領域において、入力されたどちらかの画像の
画素値を与えることにより画像を修正する。この画像の
修正の際、どちらの画像の画素値を与えるかの決定は、
新たに値を与えられる画素の両画像からの距離に基づい
て決定するようにしたので、画像の高周波成分を損なう
ことなく元の両画像の特徴を有した画像の合成が可能と
なるという効果を奏する。また、同一の画像を複数並べ
る際に、その繋ぎ目部分の合成に利用すれば、繋ぎ目が
目立たないエンドレスな画像を作成することができると
いう効果を奏する。
As described above, according to the present invention,
Input multiple images to be composited, set the overlap amount of the input multiple images, create an overlap area based on the set overlap amount. The image is modified by giving the pixel values of that image. When modifying this image, the decision of which image pixel value to give is
Since the decision is made based on the distance of the pixel to which a new value is given from both images, it is possible to combine the images having the characteristics of the original images without damaging the high frequency components of the images. Play. Further, when a plurality of the same images are arranged, if they are used for composition of the joint portion, it is possible to create an endless image in which the joints are inconspicuous.

【図面の簡単な説明】[Brief description of drawings]

【図1】本発明に係る画像合成システムの構成図であ
る。
FIG. 1 is a configuration diagram of an image composition system according to the present invention.

【図2】本発明に係る画像合成方法のフローチャートで
ある。
FIG. 2 is a flowchart of an image synthesizing method according to the present invention.

【図3】原画像GORI、および原画像GORIを複数並べる
場合のオーバーラップ領域Oの関係を示す図である。
3 is a diagram showing the relationship between the overlap region O of the case of arranging plural original images G ORI, and the original image G ORI.

【図4】オーバーラップ領域O付近を示す図である。FIG. 4 is a diagram showing the vicinity of an overlap region O.

【図5】画素決定後のオーバーラップ領域O付近を示す
図である。
FIG. 5 is a diagram showing the vicinity of an overlap area O after pixel determination.

【図6】合成処理後の画像の状態を示す図である。FIG. 6 is a diagram showing a state of an image after a combining process.

【図7】本発明の応用例を説明するための図である。FIG. 7 is a diagram for explaining an application example of the present invention.

【符号の説明】[Explanation of symbols]

1・・・原画像入力手段 2・・・オーバーラップ量設定手段 3・・・演算制御装置 3a・・・オーバーラップ領域作成手段 3b・・・出現確率算出手段 3c・・・画素決定手段 4・・・画像出力手段 1. Original image input means 2 ... Overlap amount setting means 3 ... Arithmetic control device 3a ... Overlap area creating means 3b ... Appearance probability calculation means 3c ... Pixel determining means 4 ... Image output means

Claims (5)

【特許請求の範囲】[Claims] 【請求項1】複数の画像の一部を重ね合わせて新たな画
素値を与えることにより画像を合成する方法であって、 合成対象とする複数の画像を入力する段階と、 前記入力された複数の画像のオーバーラップ量を設定す
る段階と、 前記設定されたオーバーラップ量に基づいてオーバーラ
ップ領域を作成する段階と、 前記オーバーラップ領域において、前記入力されたどち
らかの画像の画素値を与えることにより画像を修正する
画像修正段階を有し、 前記画像修正段階において、どちらの画像の画素値を与
えるかの決定は、新たに値を与えられる画素の前記両画
像からの距離に基づいて決定するものであることを特徴
とする画像合成方法。
1. A method of synthesizing images by superimposing a part of a plurality of images and giving new pixel values, the method comprising: inputting a plurality of images to be synthesized; Setting an overlap amount of the image, creating an overlap region based on the set overlap amount, and giving a pixel value of either of the input images in the overlap region. An image modification step of modifying the image by means of which the determination of which image pixel value to provide in said image modification step is based on the distance of the newly valued pixel from both images. An image synthesizing method characterized by:
【請求項2】前記画像修正段階は、前記作成されたオー
バーラップ領域の各列について、前記オーバーラップ領
域両端からの距離の内分比に基づいて、各画像の画素の
出現する確率を算出する出現確率算出段階と、 前記オーバーラップ領域内の各列における画素への両画
像からの割り当てを、前記各画像の出現確率とほぼ同一
になるように行う画素決定段階により行われるものであ
ることを特徴とする画像合成方法。
2. The image correcting step calculates a probability of appearance of a pixel of each image for each column of the created overlap area based on an internal division ratio of distances from both ends of the overlap area. The appearance probability calculation step and the pixel determination step of allocating pixels from both images to pixels in each column in the overlap area so that the appearance probabilities of the respective images are almost the same. Characteristic image composition method.
【請求項3】同一の画像の端部と対向する端部を繋ぎ合
わせた際に、その繋ぎ目が目立たないように画像の一部
を合成する方法であって、 合成対象となる画像を入力する画像入力段階と、 前記入力された画像の繋ぎ目部分におけるオーバーラッ
プ量を設定する段階と、 前記設定されたオーバーラップ量に基づいてオーバーラ
ップ領域を作成する段階と、 前記オーバーラップ領域の各列について、前記オーバー
ラップ領域両端からの距離の内分比に基づいて、各画像
の画素の出現する確率を算出する出現確率算出段階と、 前記オーバーラップ領域内の各列における画素への両画
像からの割り当てを、前記各画像の出現確率とほぼ同一
になるように行う画素決定段階と、 を有することを特徴とする画像合成方法。
3. A method for synthesizing a part of an image so that when the edges of the same image and the edges facing each other are connected, the edges of the image are combined, and an image to be combined is input. An image input step, a step of setting an overlap amount in a joint portion of the input image, a step of creating an overlap region based on the set overlap amount, and each of the overlap regions. For a column, an appearance probability calculating step of calculating a probability of appearance of a pixel in each image based on an internal division ratio of distances from both ends of the overlap region, and both images to pixels in each column in the overlap region. And a pixel determination step of performing the allocation from 1 to approximately the same as the appearance probability of each image, and the image combining method.
【請求項4】合成対象とする原画像を入力する原画像入
力手段と、 前記入力された原画像のオーバーラップ量を設定するオ
ーバーラップ量設定手段と、 前記設定されたオーバーラップ量に基づいてオーバーラ
ップ領域を作成するオーバーラップ領域作成手段と、 前記作成されたオーバーラップ領域内の各列について、
前記両原画像の画素の出現確率を算出する出現確率算出
手段と、 前記算出された出現確率に基づいて、当該出現確率とほ
ぼ同一の割合となるように各列の画素の値を決定する画
素決定手段と、 各画素を決定することにより得られる合成画像を出力す
る画像出力手段と、 を有することを特徴とする画像合成システム。
4. An original image input unit for inputting an original image to be combined, an overlap amount setting unit for setting an overlap amount of the input original image, and an overlap amount setting unit based on the set overlap amount. Overlap area creating means for creating an overlap area, and for each column in the created overlap area,
Appearance probability calculating means for calculating the appearance probability of pixels of both original images, and pixels for determining the values of the pixels in each column so as to have a ratio substantially the same as the appearance probability based on the calculated appearance probability An image synthesizing system comprising: a deciding unit; and an image outputting unit that outputs a synthetic image obtained by deciding each pixel.
【請求項5】コンピュータに、 合成対象とする複数の画像を入力する段階、 前記入力された複数の画像のオーバーラップ量を設定す
る段階、 前記設定されたオーバーラップ量に基づいてオーバーラ
ップ領域を作成する段階、 前記オーバーラップ領域において、前記入力されたどち
らかの画像の画素値を与えることにより画像を修正する
画像修正段階を実行させ、 前記画像修正段階において、どちらの画像の画素値を与
えるかの決定は、新たに値を与えられる画素の前記両画
像からの距離に基づいて決定するものであることを特徴
とするプログラム。
5. A step of inputting a plurality of images to be combined into a computer, a step of setting an overlap amount of the input plurality of images, and an overlap area based on the set overlap amount. A step of creating, in the overlap area, an image correction step of correcting an image by giving a pixel value of either of the input images is executed, and a pixel value of either image is given in the image correction step. The program is characterized in that the determination is made on the basis of the distances of pixels to be newly given a value from the both images.
JP2002121788A 2002-04-24 2002-04-24 Image composition method and system Expired - Lifetime JP3935768B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002121788A JP3935768B2 (en) 2002-04-24 2002-04-24 Image composition method and system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002121788A JP3935768B2 (en) 2002-04-24 2002-04-24 Image composition method and system

Publications (2)

Publication Number Publication Date
JP2003319165A true JP2003319165A (en) 2003-11-07
JP3935768B2 JP3935768B2 (en) 2007-06-27

Family

ID=29537591

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002121788A Expired - Lifetime JP3935768B2 (en) 2002-04-24 2002-04-24 Image composition method and system

Country Status (1)

Country Link
JP (1) JP3935768B2 (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009015629A (en) * 2007-07-05 2009-01-22 Nippon Telegr & Teleph Corp <Ntt> Image correcting apparatus and method
JP2009178448A (en) * 2008-01-31 2009-08-13 Toshiba Corp Ultrasonic diagnostic apparatus, image diagnostic apparatus and program
KR20150036203A (en) * 2012-06-27 2015-04-07 가부시끼가이샤 사따께 Device for measuring appearance of grains

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009015629A (en) * 2007-07-05 2009-01-22 Nippon Telegr & Teleph Corp <Ntt> Image correcting apparatus and method
JP4537426B2 (en) * 2007-07-05 2010-09-01 日本電信電話株式会社 Image correction apparatus and method
JP2009178448A (en) * 2008-01-31 2009-08-13 Toshiba Corp Ultrasonic diagnostic apparatus, image diagnostic apparatus and program
US8911374B2 (en) 2008-01-31 2014-12-16 Kabushiki Kaisha Toshiba Ultrasonic diagnostic apparatus, diagnostic imaging apparatus, and program
KR20150036203A (en) * 2012-06-27 2015-04-07 가부시끼가이샤 사따께 Device for measuring appearance of grains
EP2869065A4 (en) * 2012-06-27 2016-02-17 Satake Eng Co Ltd Device for measuring appearance of grains
CN104428657B (en) * 2012-06-27 2016-11-09 株式会社佐竹 Grain outward appearance determinator
US9607368B2 (en) 2012-06-27 2017-03-28 Satake Corporation Grain appearance measuring apparatus
KR102037560B1 (en) * 2012-06-27 2019-10-28 가부시끼가이샤 사따께 Device for measuring appearance of grains

Also Published As

Publication number Publication date
JP3935768B2 (en) 2007-06-27

Similar Documents

Publication Publication Date Title
JP4184703B2 (en) Image correction method and system
US6813391B1 (en) System and method for exposure compensation
EP1299850B1 (en) Merging images to form a panoramic image
JP2004334843A (en) Method of composting image from two or more images
JP2003319165A (en) Image composition method and system
JP3584179B2 (en) Image processing method, image processing device, and storage medium
JP3825916B2 (en) Image processing method and apparatus
JPH11144037A (en) Image layout method, system therefor and manufacture of printed matter
JP2004021578A (en) Image processing method
JP2004147143A (en) Multi-image projection method using a plurality of projectors, projector device therefor, program, and recording medium
JP4184704B2 (en) Image correction method and system
JP2003187244A (en) Image correction method
JPH11345313A (en) Picture processor and picture processing method
JP3652167B2 (en) Image processing apparatus and method and storage medium therefor
JP3584198B2 (en) Image processing method and apparatus
JP2000276584A (en) Method and device for image processing, and storage medium
JP2996735B2 (en) Abstract printing plate making method for printing building materials
JP3503136B2 (en) Pixel interpolation device and pixel interpolation method
JP2005196444A (en) Image data processor, image data processing method and its program
JP2003023536A (en) Image correcting method and system thereof
JPH0865519A (en) Method for correcting defect of picture and device therefor
JP4202661B2 (en) Image creation method
JP3327961B2 (en) Image processing device
JPH0620038A (en) Image processor
JP2000276606A (en) Image preparation device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050418

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20061102

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20061121

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070119

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070221

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070320

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100330

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110330

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110330

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120330

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130330

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130330

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140330

Year of fee payment: 7