JP3515502B2 - Synthetic image forming device - Google Patents

Synthetic image forming device

Info

Publication number
JP3515502B2
JP3515502B2 JP2000268516A JP2000268516A JP3515502B2 JP 3515502 B2 JP3515502 B2 JP 3515502B2 JP 2000268516 A JP2000268516 A JP 2000268516A JP 2000268516 A JP2000268516 A JP 2000268516A JP 3515502 B2 JP3515502 B2 JP 3515502B2
Authority
JP
Japan
Prior art keywords
image
images
subject
camera
coordinate system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2000268516A
Other languages
Japanese (ja)
Other versions
JP2002077725A (en
Inventor
健 増谷
益孝 井上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sanyo Electric Co Ltd
Original Assignee
Sanyo Electric Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sanyo Electric Co Ltd filed Critical Sanyo Electric Co Ltd
Priority to JP2000268516A priority Critical patent/JP3515502B2/en
Publication of JP2002077725A publication Critical patent/JP2002077725A/en
Application granted granted Critical
Publication of JP3515502B2 publication Critical patent/JP3515502B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Studio Circuits (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Description

【発明の詳細な説明】Detailed Description of the Invention

【0001】[0001]

【発明の属する技術分野】この発明は、合成画像形成装
置に係り、座標系の変換及び特殊効果合成画像を作成す
る合成画像形成装置に関する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a composite image forming apparatus, and more particularly to a composite image forming apparatus for converting a coordinate system and creating a special effect composite image.

【0002】[0002]

【従来の技術】図3に示すように、例えば、背景に木2
3がある道路21上を自動車22が走っており、この自
動車22に焦点が合うように写真撮影する場合、シャッ
タースピードを早くして画像がぼけないようにするのが
一般的である。
2. Description of the Related Art As shown in FIG.
When a car 22 is running on a road 21 where 3 is located and the photograph is taken so that the car 22 is in focus, it is common to increase the shutter speed so that the image is not blurred.

【0003】このような撮影方法で、自動車に焦点があ
っていて、なおかつ背景が流れるような特殊効果画像を
得るためには、カメラのシャッタースピードを遅くし、
図4に示すように、シャッターが開いている間、自動車
22がカメラ1の視野中に正確に同じ場所に位置し続け
るようにカメラ1を移動させながら撮影する。このと
き、カメラ1は、自動車22の座標系上で静止している
ことになる。
In order to obtain a special effect image in which the automobile is focused and the background is flowing by such a photographing method, the shutter speed of the camera is slowed down,
As shown in FIG. 4, while the shutter is open, the vehicle 1 is photographed while moving the camera 1 so that the vehicle 22 continues to be located at the exact same position in the field of view of the camera 1. At this time, the camera 1 is stationary on the coordinate system of the automobile 22.

【0004】また、シャッターが開いている間、図5に
示すように、自動車22がカメラ1の視野のほぼ同じ場
所に位置し続けるように、カメラ1を回転させながら撮
影してもよい。このときカメラ1の回転角θが小さい場
合は、カメラ1は自動車22の座標系上で静止している
のとほぼ同等の効果が得られる。
Further, as shown in FIG. 5, while the shutter is open, the camera 1 may be rotated while the camera 1 is rotated so that the automobile 22 continues to be positioned at substantially the same position in the field of view of the camera 1. At this time, when the rotation angle θ of the camera 1 is small, the same effect as that when the camera 1 is stationary on the coordinate system of the automobile 22 is obtained.

【0005】[0005]

【発明が解決しようとする課題】従来の方法では、実際
には、シャッターが開いている間、自動車がカメラの視
野の正確に同じ場所に位置し続けるように、カメラを移
動または回転させながら撮影するのは不可能である。
In the conventional method, in practice, while the shutter is open, the camera is moved or rotated so that the vehicle remains in the exact same position in the field of view. It is impossible to do.

【0006】また、そのような撮影が出来ないため、被
写体に焦点があっていて、なおかつ背景が流れるような
特殊効果画像を得ることは出来ない。
Further, since such photographing cannot be performed, it is impossible to obtain a special effect image in which the subject is focused and the background is flowing.

【0007】この発明は、上述した事情に鑑みなされた
ものにして、特殊効果を有する画像を容易に作成するこ
とができる合成画像形成装置を提供することを目的とす
る。
The present invention has been made in view of the above circumstances, and an object of the present invention is to provide a composite image forming apparatus capable of easily forming an image having a special effect.

【0008】[0008]

【課題を解決するための手段】この発明は、上記問題を
解決するために、画像を入力する手段と、動いている物
体を撮影した連続画像を記憶する記憶手段と、前記記憶
手段に記憶されている画像から被写体を抽出し、それぞ
れの画像における被写体の位置が全て一致するように変
換する変換手段と、この変換手段にて変換された画像を
合成する手段と、を備えることを特徴とする。
In order to solve the above-mentioned problems, the present invention stores means for inputting an image, storage means for storing continuous images of moving objects, and the storage means. A conversion means for extracting a subject from the image and converting it so that the positions of the subject in the respective images all match, and a means for synthesizing the images converted by this conversion means. .

【0009】また、この発明は、変換された画像をそれ
ぞれの画像の濃さを変えて合成することを特徴とする
Further, the present invention is characterized in that the converted images are combined by changing the density of each image.

【0010】上記したように、この発明によれば、動い
ている物体を撮影した連続画像や動画映像において、画
像処理により被写体を抽出し、それぞれの画像における
被写体の位置が全て一致するように処理を行うことによ
り、画像の座標系が変換され、動きのある被写体(自動
車)の座標系とほぼ一致する。
As described above, according to the present invention, a subject is extracted by image processing in a continuous image or a moving image in which a moving object is photographed, and processing is performed so that all the positions of the subject in each image match. By performing the above, the coordinate system of the image is converted, and the coordinate system of the moving subject (automobile) substantially matches.

【0011】そして、変換された画像を合成することに
より、通常の撮影方法では作成不可能なシャッタースピ
ードを遅くして動く被写体を撮影した写真と同等の特殊
効果写真が簡単に作成できる。
By combining the converted images, it is possible to easily create a special effect photograph equivalent to a photograph of a moving subject with a slow shutter speed, which cannot be produced by a normal photographing method.

【0012】また、本発明の座標系の変換により変換さ
れた画像を、それぞれの画像の濃さを変えて合成するこ
とにより、特殊効果写真における背景の流れの見え方に
変化を付けることが出来、ポスターなどに利用すると効
果的である。
Further, by synthesizing the images converted by the coordinate system conversion of the present invention by changing the darkness of each image, it is possible to change the appearance of the background flow in the special effect photograph. It is effective when used for posters.

【0013】[0013]

【発明の実施の形態】以下、この発明の実施の形態を図
面に基づいて説明する。図1は、この発明の実施形態に
かかる合成画像形成装置を示すブロック図である。
BEST MODE FOR CARRYING OUT THE INVENTION Embodiments of the present invention will be described below with reference to the drawings. FIG. 1 is a block diagram showing a composite image forming apparatus according to an embodiment of the present invention.

【0014】CCD等の撮像素子を備えたカメラ又はカ
ムコーダで構成されるカメラ1にて被写体が撮像され、
撮像した画像が画像処理回路2へ与えられる。この画像
処理回路2は、CDSクランプ回路やゲイン調整回路等
のアナログ処理回路の他、A/D変換器、輝度補正回路
等のデジタル処理回路を含む。
A subject is imaged by a camera 1 including a camera or a camcorder having an image pickup device such as a CCD,
The captured image is given to the image processing circuit 2. The image processing circuit 2 includes analog processing circuits such as a CDS clamp circuit and a gain adjustment circuit, as well as digital processing circuits such as an A / D converter and a brightness correction circuit.

【0015】この画像処理回路2はカメラ1からの画像
信号を適宜処理して被写体像を示す画像データを生成す
る。この画像処理回路2からの画像データが画像メモリ
3に与えられる。この画像メモリ3は複数のフレームメ
モリ31〜フレームメモリ3nで構成され、画像処理部
2から与えられる時系列的な画像データが逐次各フレー
ムメモリ31…に格納される。
The image processing circuit 2 appropriately processes the image signal from the camera 1 to generate image data representing a subject image. The image data from the image processing circuit 2 is given to the image memory 3. The image memory 3 is composed of a plurality of frame memories 31 to 3n, and time-series image data given from the image processing unit 2 is sequentially stored in each frame memory 31 ...

【0016】カメラ1は、例えば、図3に示すような状
態で撮影されており、上述した従来例と同様、図4に示
すように、カメラ1を移動させながら撮影している。従
来例と異なる点は、シャッタースピードが全ての被写体
がボケない速さであり、且つ複数枚数による連続画像デ
ータであるという点である。このような連続画像データ
は、カムコーダにより撮影された動画像で代用すること
もできる。このように撮像した連続画像データが画像メ
モリ3の各フレームメモリ31…に逐次格納される。
The camera 1 is photographed, for example, in a state as shown in FIG. 3, and like the conventional example described above, the camera 1 is photographed while moving as shown in FIG. The difference from the conventional example is that the shutter speed is a speed at which all the subjects are not blurred, and is continuous image data of a plurality of sheets. Such continuous image data may be replaced with a moving image captured by a camcorder. The continuous image data thus captured is sequentially stored in each frame memory 31 of the image memory 3.

【0017】そして、画像メモリ3の各フレームメモリ
31…から画像データが基準被写体抽出部4に与えられ
る。この基準被写体抽出部4は、図示しない制御回路よ
り抽出すべき被写体、この実施形態においては自動車2
2の領域を指定すると、フレームメモリ31…から転送
された画像データ内から所定の被写体を抽出し、その抽
出したデータをマッチング処理部5に与える。マッチン
グ処理部5では、それぞれのフレームメモリ31…から
得られる撮像画像について、全ての画像を重ねたとき
に、被写体(自動車)の位置が全て一致するように位置
や角度に基づく変換関数を算出する。この算出した結果
を画像変換処理部6に与える。
Then, the image data is supplied from the frame memories 31 ... Of the image memory 3 to the reference subject extracting section 4. The reference subject extraction unit 4 is a subject to be extracted by a control circuit (not shown), that is, the automobile 2 in this embodiment.
When the area 2 is designated, a predetermined subject is extracted from the image data transferred from the frame memory 31 ... And the extracted data is given to the matching processing unit 5. The matching processing unit 5 calculates a conversion function based on the position and the angle so that all the positions of the subject (automobile) match the captured images obtained from the respective frame memories 31 ... . The calculated result is given to the image conversion processing unit 6.

【0018】画像変換処理部6では、算出された変換関
数に基づき、画像メモリ3の各フレームメモリ31…か
らの画像データに補正演算を施し、全ての画像を重ねた
ときに、自動車の位置が全て一致するように位置や角度
が調整する。更に全ての画像が写っている領域を抽出し
て画像データを作成する。このようにして、画像変換処
理部6にて画像の座標系は自動車の座標系とほぼ一致す
るように変換され、自動車と同じ座標系から撮影したの
と同等の連続画像データを画像メモリ7に送り、画像メ
モリ7の各フレームメモリ71〜7nにそれぞれ格納す
る。
The image conversion processing unit 6 performs a correction calculation on the image data from each frame memory 31 of the image memory 3 based on the calculated conversion function, and when all the images are superposed, the position of the automobile is determined. Adjust the position and angle so that they all match. Furthermore, the image data is created by extracting the area in which all the images are shown. In this way, the image conversion processing unit 6 converts the coordinate system of the image so that it substantially matches the coordinate system of the automobile, and the continuous image data equivalent to that captured from the same coordinate system as the automobile is stored in the image memory 7. It is sent and stored in each of the frame memories 71 to 7n of the image memory 7.

【0019】画像メモリ7の格納された画像データは画
像合成処理部7に与えられ、この画像合成処理部7で1
枚の合成画像データを形成し、プリンタなどの出力部9
に与える。出力部9は与えられた合成データに基づき、
特殊効果を有する合成写真を出力する。
The image data stored in the image memory 7 is given to the image synthesizing processing unit 7, and the image synthesizing processing unit 7
An output unit 9 such as a printer for forming composite image data for one sheet
Give to. The output unit 9 is based on the given synthetic data,
Output a composite photo with a special effect.

【0020】上記した実施の形態においては、基準被写
体抽出部4、マッチング処理部5、画像変換処理部6を
それぞれ別の回路で構成しているが、マイクロコンピュ
ータとRAM、ROMを用いて、ソフトウェアにより上
記した動作を行うように構成してもよい。
In the above-described embodiment, the reference subject extraction unit 4, the matching processing unit 5, and the image conversion processing unit 6 are respectively configured by different circuits, but software is used by using a microcomputer, RAM, and ROM. May be configured to perform the above operation.

【0021】次に、上記した画像合成につき図2を参照
して更に説明する。
Next, the above image composition will be further described with reference to FIG.

【0022】11a、11b、11cは、図3に示すよ
うな状態で撮影されており、図4示すように、カメラ1
を移動させながら撮影した場合の画像を示している。
11a, 11b and 11c are photographed in the state shown in FIG. 3, and as shown in FIG.
4 shows an image taken when moving the.

【0023】こうして得られた連続写真は図2中の12
に示すように、画像処理が施される。ここでは、基準被
写体抽出部4にて全ての画像から被写体である自動車を
抽出し、マッチング処理部5及び画像変換処理部6に
て、全ての画像を重ねたときに、自動車の位置が全て一
致するように位置や角度が調整される。更に、全ての画
像が写っている領域122を抽出している。
The continuous photograph thus obtained is 12 in FIG.
As shown in, image processing is performed. Here, when the reference subject extraction unit 4 extracts the automobile, which is the subject, from all the images, and when the matching processing unit 5 and the image conversion processing unit 6 overlap all the images, the positions of the automobiles all match. The position and angle are adjusted so that Further, the area 122 in which all the images are shown is extracted.

【0024】このようにして、画像の座標系は自動車の
座標系とほぼ一致するように変換され、図中13aに示
すように、自動車と同じ座標系から撮影したのと同等の
連続写真が出力部9より得られる。
In this way, the coordinate system of the image is converted so as to substantially match the coordinate system of the automobile, and as shown at 13a in the figure, a continuous photograph equivalent to that taken from the same coordinate system as the automobile is output. Obtained from Part 9.

【0025】本実施例ではカメラ1を移動させながら撮
影したが、従来と同様、図4のようにカメラ24を回転
させながら撮影してもよい。このとき、カメラの回転角
θが小さい場合は、撮影角度による自動車の見え方の違
いは無視できるので、同じ処理を行うことで、画像の座
標系は自動車の座標系とほぼ一致するように変換され、
自動車と同じ座標系から撮影したのと同等の連続写真が
得られる。
In this embodiment, the image is taken while moving the camera 1, but the image may be taken while rotating the camera 24 as shown in FIG. At this time, if the rotation angle θ of the camera is small, the difference in the appearance of the car due to the shooting angle can be ignored. Therefore, the same processing is performed so that the coordinate system of the image is converted so that it almost matches the coordinate system of the car. Is
You can get a series of photographs that are equivalent to those taken from the same coordinate system as the car.

【0026】上記した実施形態では、一例として連続写
真のうちの3枚の画像を図示しているが、実際にはこれ
より多くの画像を用意し、上記のように処理して得られ
た画像を重ね合わせて合成すると13aのように、シャ
ッタースピードを遅くして動く自動車を撮影した写真と
同等の特殊効果写真が得られる。
In the above embodiment, as an example, three images of the continuous photograph are shown, but in reality, more images than this are prepared, and the images obtained by processing as described above. By superimposing and synthesizing, a special effect photograph similar to a photograph of a moving automobile with a slow shutter speed can be obtained as in 13a.

【0027】この合成において、それぞれの画像の濃さ
を変化させて合成してもよい。例えば、時間的に最も早
い画像の濃さを濃くし、それより時間的に遅い画像を全
て薄くすることにより、背景の流れをより強調すること
が出来る。このようにして得られた画像は、ポスターな
どに利用すると効果的である。
In this combination, the density of each image may be changed and combined. For example, the background flow can be more emphasized by making the image that is earliest in time darker and the images that are later in time darker. The image thus obtained is effectively used for a poster or the like.

【0028】[0028]

【発明の効果】以上に説明したように、この発明は、動
いている物体を撮影した連続写真や動画映像において、
画像処理により被写体を抽出し、それぞれの画像におけ
る被写体の位置が全て一致するように処理を行うことに
より、画像の座標系が変換され、自動車の座標系とほぼ
一致させることができる。
As described above, according to the present invention, in a continuous photograph or a moving image of a moving object,
By extracting a subject by image processing and performing processing so that the positions of the subject in each image are all matched, the coordinate system of the image is converted and can be made to substantially match the coordinate system of the automobile.

【0029】また、この発明の座標系の変換により変換
された画像を合成することにより、通常の撮影方法では
作成不可能なシャッタースピードを遅くして動く被写体
を撮影した写真と同等の特殊効果写真が簡単に作成でき
る。
Further, by synthesizing the images converted by the conversion of the coordinate system of the present invention, a special effect photograph equivalent to a photograph of a moving subject with a slow shutter speed, which cannot be created by a normal photographing method. Can be created easily.

【0030】また、本発明の座標系の変換により変換さ
れた画像を、それぞれの画像の濃さを変えて合成するこ
とにより、特殊効果写真の背景の流れの見え方に変化を
付けることが出来る。
Also, by synthesizing the images transformed by the transformation of the coordinate system of the present invention by changing the darkness of each image, the appearance of the background flow of the special effect photograph can be changed. .

【図面の簡単な説明】[Brief description of drawings]

【図1】この発明の実施形態にかかる合成画像形成装置
を示すブロック図である。
FIG. 1 is a block diagram showing a composite image forming apparatus according to an embodiment of the present invention.

【図2】画像合成を行う方法を示した模式図である。FIG. 2 is a schematic diagram showing a method of performing image combination.

【図3】被写体を示す模式図である。FIG. 3 is a schematic diagram showing a subject.

【図4】図3に示す被写体を撮影する方法の一例を示す
模式図である。
FIG. 4 is a schematic diagram showing an example of a method of photographing the subject shown in FIG.

【図5】図3に示す被写体を撮影する方法の他の例を示
す模式図である。
5A and 5B are schematic diagrams showing another example of the method of photographing the subject shown in FIG.

【符号の説明】[Explanation of symbols]

1 カメラ 2 画像処理部 3 画像メモリ 4 基準被写体抽出部 5 マッチング処理部 6 画像変換部 7 画像メモリ 8 画像合成処理部 9 出力部 1 camera 2 Image processing unit 3 image memory 4 Reference subject extraction unit 5 Matching processing unit 6 Image converter 7 Image memory 8 Image composition processing unit 9 Output section

───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.7 識別記号 FI H04N 1/387 H04N 1/387 5/232 5/232 Z 7/18 7/18 V (58)調査した分野(Int.Cl.7,DB名) H04N 5/222 - 5/28 G06T 3/00 300 H04N 1/38 - 1/393 H04N 7/18 ─────────────────────────────────────────────────── ─── Continuation of front page (51) Int.Cl. 7 Identification code FI H04N 1/387 H04N 1/387 5/232 5/232 Z 7/18 7/18 V (58) Fields investigated (Int.Cl . 7, DB name) H04N 5/222 - 5/28 G06T 3/00 300 H04N 1/38 - 1/393 H04N 7/18

Claims (2)

(57)【特許請求の範囲】(57) [Claims] 【請求項1】 画像を入力する手段と、動いている物体
を撮影した連続画像を記憶する記憶手段と、前記記憶手
段に記憶されている画像から被写体を抽出し、それぞれ
の画像における被写体の位置が全て一致するように変換
する変換手段と、この変換手段にて変換された画像を合
成する手段と、を備えることを特徴とする合成画像形成
装置。
1. A means for inputting an image, a storage means for storing successive images of moving objects, a subject extracted from the images stored in the storage means, and a position of the subject in each image. A composite image forming apparatus, comprising: a conversion unit for converting so that all of the two match, and a unit for combining the images converted by the conversion unit.
【請求項2】 変換された画像をそれぞれの画像の濃さ
を変えて合成することを特徴とする請求項1に記載の合
成画像形成装置。
2. The combined image forming apparatus according to claim 1, wherein the converted images are combined by changing the darkness of each image.
JP2000268516A 2000-09-05 2000-09-05 Synthetic image forming device Expired - Fee Related JP3515502B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000268516A JP3515502B2 (en) 2000-09-05 2000-09-05 Synthetic image forming device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000268516A JP3515502B2 (en) 2000-09-05 2000-09-05 Synthetic image forming device

Publications (2)

Publication Number Publication Date
JP2002077725A JP2002077725A (en) 2002-03-15
JP3515502B2 true JP3515502B2 (en) 2004-04-05

Family

ID=18755288

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000268516A Expired - Fee Related JP3515502B2 (en) 2000-09-05 2000-09-05 Synthetic image forming device

Country Status (1)

Country Link
JP (1) JP3515502B2 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8331723B2 (en) 2004-03-25 2012-12-11 Ozluturk Fatih M Method and apparatus to correct digital image blur due to motion of subject or imaging device
WO2007032082A1 (en) * 2005-09-16 2007-03-22 Fujitsu Limited Image processing method, and image processing device
JP5458865B2 (en) * 2009-09-18 2014-04-02 ソニー株式会社 Image processing apparatus, imaging apparatus, image processing method, and program

Also Published As

Publication number Publication date
JP2002077725A (en) 2002-03-15

Similar Documents

Publication Publication Date Title
US7221395B2 (en) Digital camera and method for compositing images
JP4760973B2 (en) Imaging apparatus and image processing method
JP2004062565A (en) Image processor and image processing method, and program storage medium
JP2002532761A5 (en)
JP2007324965A (en) Digital camera, photography control method, and image output system
JP2011217065A (en) Imager, imaging method, and program
JP2000069352A (en) Method and device for image input
JP5129031B2 (en) Surveillance camera device
JP2001177752A (en) Image pickup method and device to generate combined output image having image components photographed by different focal distances
JP2004072685A (en) Device, method and program for compositing image and recording medium recording the program
JP3515502B2 (en) Synthetic image forming device
JP2003189325A (en) Image processing apparatus and color image photographic apparatus
JP3925059B2 (en) Electronic camera and fixed point photographing method
JP2005012660A (en) Image forming method, and image forming apparatus
KR100561449B1 (en) Digital zoom out processing apparatus
JP2004096488A (en) Object detection apparatus, object detection method and object detection program
JP4467231B2 (en) Image processing device
JP4524047B2 (en) Image processing method and apparatus, camera, and photographing system
JP4288992B2 (en) Imaging apparatus and method
JPH07303250A (en) Image photographing device for certification photograph
JPH05189691A (en) Character detector and parked vehicle detector
JP2004072677A (en) Device, method and program for compositing image and recording medium recording the program
JP2009089083A (en) Age estimation photographing device and age estimation photographing method
JPH09212620A (en) Manufacture of face image
JP4031301B2 (en) Outside monitoring device

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20031224

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040115

R151 Written notification of patent or utility model registration

Ref document number: 3515502

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090123

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090123

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100123

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100123

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110123

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110123

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120123

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130123

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140123

Year of fee payment: 10

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140123

Year of fee payment: 10

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees