JPH0461489A - Video conference system - Google Patents

Video conference system

Info

Publication number
JPH0461489A
JPH0461489A JP17156990A JP17156990A JPH0461489A JP H0461489 A JPH0461489 A JP H0461489A JP 17156990 A JP17156990 A JP 17156990A JP 17156990 A JP17156990 A JP 17156990A JP H0461489 A JPH0461489 A JP H0461489A
Authority
JP
Japan
Prior art keywords
image
section
picture
transmission
pattern
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP17156990A
Other languages
Japanese (ja)
Other versions
JP2592983B2 (en
Inventor
Keiichi Hibi
慶一 日比
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2171569A priority Critical patent/JP2592983B2/en
Publication of JPH0461489A publication Critical patent/JPH0461489A/en
Application granted granted Critical
Publication of JP2592983B2 publication Critical patent/JP2592983B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Abstract

PURPOSE:To realize the video conference system with high general-purpose application and full of presence without increase in the transmission cost by revising adaptively the pattern synthesis method during communication depending on a content of a sent picture. CONSTITUTION:The system consists of a picture input section 11, a picture synthesis section 12, a picture coding section 13, a transmission line control section 14, a picture decoding section 15, a picture demultiplexer section 16, a picture output section 17 and a mode changeover section 18. When both camera inputs are a full scene pattern, the mode changeover section 18 selects the spatial split mode for the transmission of a picture and when the full pattern transmission is required in the case of a zoom-up pattern or the like, the section 18 selects the time division mode for the picture transmission. Thus, even during communication, since the pattern synthesis method is properly selected depending on the picture, the advantage of the respective pattern synthesis methods is utilized. Thus, the low transmission cost is realized and the video conference system is realized with simple constitution and full of presence.

Description

【発明の詳細な説明】 [産業上の利用分野] この発明は、離れた地点にある会議場間を通信回線で接
続し、画像および音声を相互に伝送することによって、
複数人が会議を行なうためのテレビ会議方式に関する。
[Detailed Description of the Invention] [Industrial Application Field] This invention connects conference halls located at distant locations through communication lines and mutually transmits images and sounds.
This invention relates to a video conference system for holding meetings between multiple people.

[従来の技術] I SDNに代表されるディジタル伝送路の整備、普及
と、画像処理技術の進歩および高速ディジタル信号処理
技術の発展によって、近年、様々な画像通信サービスの
実現に対する要求が非常に高まってきている。これらの
中でも、最も期待されているサービスのひとつにテレビ
会議サービスがあテレビ会議は、遠隔地点間の会議場を
通信回線によって接続し、il像、音声、文書等の情報
を双方向に伝送することによって、これらの情報の共有
を図り、同一会議場で行なう場合と同様な環境で会議を
行なうものであり、時間的、地理的な制約を容易に克服
することができる。
[Prior Art] With the development and popularization of digital transmission paths represented by ISDN, advances in image processing technology, and development of high-speed digital signal processing technology, the demand for realizing various image communication services has increased significantly in recent years. It's coming. Among these, one of the most anticipated services is the videoconferencing service.Videoconferencing connects conference halls between remote locations via communication lines, and transmits information such as images, audio, and documents in both directions. By doing so, this information can be shared and the conference can be held in the same environment as in the same conference hall, making it possible to easily overcome temporal and geographical constraints.

テレビ会議で扱う情報の中でも、特に画像情報は情報量
が多く、リアルタイム性が強く、テレビ会議の臨場感に
与える影響が大きい。
Among the information handled in a video conference, image information in particular has a large amount of information, is highly real-time, and has a large impact on the sense of realism of the video conference.

一般に、テレビ会議においては、画像情報は。Generally, in video conferencing, image information is

まずディジタル信号に変換されてから適当な処理によっ
て冗長度抑圧符号化されて、伝送路に適した情報量に圧
縮されて通信回線に送出される。
First, the signal is converted into a digital signal, then redundancy suppressed and encoded through appropriate processing, compressed to an amount of information suitable for the transmission path, and sent to the communication line.

第3図に従来のテレビ会議システムの画像情報処理部の
構成の概略ブロック図を示す。
FIG. 3 shows a schematic block diagram of the configuration of an image information processing section of a conventional video conference system.

テレビカメラ等のiI像入力機器からの画像信号は、画
像入力部31に入力され、A/D変換、フィルタ処理等
の前処理が行なわれる。ディジタル化された画像信号は
画像符号化部33において冗長度抑圧符号化され、適当
な情報量の符号列に符号化されて、伝送路制御部34を
通して回線へ送出されるや 回線から受信された符号列は伝送路制御部34を介して
画像復号部35で復号されてディジタル画像信号が復元
される。この画像信号は画像出力部37において、D/
A変換、フィルタ処理等の後処理が行なわれ、ディスグ
レイ等へ出力され、ii@が表示される。
An image signal from an iI image input device such as a television camera is input to an image input section 31, and is subjected to preprocessing such as A/D conversion and filter processing. The digitized image signal is subjected to redundancy suppression encoding in the image encoding unit 33, encoded into a code string with an appropriate amount of information, and sent to the line through the transmission line control unit 34 and received from the line. The code string is decoded by an image decoding unit 35 via a transmission path control unit 34 to restore a digital image signal. This image signal is outputted to the image output section 37 by D/
Post-processing such as A conversion and filter processing is performed, and the signal is output to a disk gray or the like, and ii@ is displayed.

tた。テレビ会議システムにおいては、通常、1画面に
は3〜4人を表示することが参力a者の表情を判別でき
る限界と言われており、会議参加者がこれ以上、例えば
6〜8人の場合には、別々のテレビカメラ等を使用して
画像を入力し、画面を合成して伝送する方法が行なわれ
ている。
It was. In video conferencing systems, it is said that the limit for distinguishing the facial expressions of participants is usually to display 3 to 4 people on one screen. In some cases, a method is used in which images are input using separate television cameras and the images are combined and transmitted.

以下に、画面合成を行なう場合の動作の例について説明
する。
An example of the operation when performing screen composition will be described below.

2系統のテレビカメラからのWi画像信号、それぞt′
L両像入力部31から画像合成部32へ送られる。画像
合成部32では、第4図(a)に示すように各入力画面
の上下1/4の部分が除去され、中心の1/2の部分だ
けが取り出される。これら2つの画面が1画面として上
下に合成され(以下、空間分割モードと称す)、画像符
号化部33へ送られる。受信側では、il像復号部35
で復号された画像信号は、画像分離部36へ送られる。
Wi image signals from two TV cameras, each t'
It is sent from the L-both image input section 31 to the image composition section 32. In the image synthesis section 32, the upper and lower 1/4 parts of each input screen are removed, and only the central 1/2 part is extracted, as shown in FIG. 4(a). These two screens are combined vertically as one screen (hereinafter referred to as space division mode) and sent to the image encoding unit 33. On the receiving side, an il image decoding unit 35
The decoded image signal is sent to the image separation section 36.

画像分離部36では、送信側で上下に合成された画面が
、再び2つの画面に分離され、それぞれ画像出力部37
から興なるデイスプレィに表示される。
In the image separation unit 36, the screen that has been vertically combined on the transmission side is separated into two screens again, and each screen is sent to the image output unit 37.
will be displayed on the display.

別の合成方法として、第4図(b)に示すように画像フ
レーム毎に入力系統を切り換える方法(以下、時分割モ
ードと称す)が考えられる。このとき、画像合成部32
は1フレーム毎に画像入力系統を切り換え、画像符号化
部33へ送る。
Another possible synthesis method is to switch the input system for each image frame (hereinafter referred to as time division mode) as shown in FIG. 4(b). At this time, the image composition section 32
switches the image input system for each frame and sends it to the image encoding section 33.

受信側の画像分離部36では、これとは逆に、フレーム
毎に出力系統を切り換えて表示を行なう。
On the contrary, the image separation unit 36 on the receiving side switches the output system for each frame and performs display.

時分割モードでは、伝送路上で独立の2系統の画像を多
重化して伝送する動作と等価である。
In the time division mode, the operation is equivalent to multiplexing and transmitting two independent systems of images on a transmission path.

[発明が解決しようとする課M] しかしながら、前記テレビ会議方式において、空間分割
モードを使用すると、画面の全部を伝送することができ
ないから、発信者のズームアツプのように全画面を伝送
する必要がある場合には、1系統の入力画像しか伝送す
ることができない。
[Problem M to be solved by the invention] However, in the video conference system, when the space division mode is used, the entire screen cannot be transmitted, so it is necessary to transmit the entire screen, such as when zooming in on the caller. In some cases, only one series of input images can be transmitted.

時分割モードの場合には、各画像系統で伝送路を分割し
て使用することになるため、一方の入力画像に対して使
用する伝送路容量の半分だけが割り当てられることとな
り、伝送される画像の品質が低下し、高品質の画像を得
るためには、より高帯域の伝送路が必要となるという問
題点がある。
In the case of time division mode, the transmission path is divided and used for each image system, so only half of the transmission path capacity used for one input image is allocated, and the transmitted image There is a problem in that the quality of images deteriorates and a higher bandwidth transmission path is required in order to obtain high quality images.

本発明は係る点に鑑みてなされたものであり、複数の入
力系統からの画面を合成して1画面として伝送する場合
でも、伝送コストが安価に実現でき、簡単な構成で臨場
感のあるテレビ会議を行なうためのテレビ会議方式を提
供することを目的とする。
The present invention has been made in view of the above-mentioned points, and even when screens from multiple input systems are combined and transmitted as one screen, the transmission cost can be realized at low cost, and a television with a simple configuration can provide a sense of realism. The purpose is to provide a video conference method for holding meetings.

[課題を解決するための手段] 上述の課題を解決するため、この発明においては、テレ
ビカメラ等から画像信号を入力する画像入力手段と。
[Means for Solving the Problems] In order to solve the above-mentioned problems, the present invention provides an image input means for inputting an image signal from a television camera or the like.

画像信号を符号化する画像符号化手段と、符号化された
画像データを伝送路へ送出または伝送路からの受信を行
なう伝送路制御手段と、受信画像データを復号する画像
復号手段と、画像信号をモニタディスプレイ等に表示す
る画像表示手段と、 2系統の入力画像信号を合成する画像合成手段と、 画像信号を2系列に分離するための画像分離手段と、 送受信される画像の内容に従って、2系列の入力Wi像
信号を1画像フレームを領域分割して該各領域内へ合成
する空間分割モードと、 1画像フレーム毎に入力系統
を切り換える時分割モードを選択するモード切換手段と
を備え、 通信中に、前記空間分割モードと前記時分割モードとの
うちのいずれかのモードを適応的に選択して切り換える
ようにしたことを特徴とするものである9 [作 用コ モード切換部18において、両方の入力が共に全景画面
であるような場合には、空間分割モードに切り換えて画
像を伝送し、ズームアツプ画面等のように全画面を伝送
する必要がある場合には、時分割モードに切り換えて画
像を伝送する。
An image encoding means for encoding an image signal, a transmission line control means for transmitting encoded image data to a transmission line or receiving it from a transmission line, an image decoding means for decoding received image data, and an image signal. image display means for displaying the image on a monitor display, etc.; image synthesis means for synthesizing the two systems of input image signals; image separation means for separating the image signals into two systems; Communication means includes a space division mode in which a series of input Wi image signals is divided into regions and synthesized into each region, and a mode switching means for selecting a time division mode in which the input system is switched for each image frame. In the co-mode switching unit 18, either mode of the space division mode or the time division mode is adaptively selected and switched. When both inputs are full-view screens, the image is transmitted by switching to space division mode, and when it is necessary to transmit the entire screen, such as a zoom-up screen, it is switched to time-division mode and the image is transmitted. to transmit.

このことによって、通信中であっても、画像に応じて適
当な画面の合成方法を選択できるから、それぞれの画面
合成方法の利点を活用できる。
With this, even during communication, an appropriate screen composition method can be selected depending on the image, so that the advantages of each screen composition method can be utilized.

[実  施  例コ 続いて、この発明に係るテレビ会議方式の一例について
、図面を参照して詳細に説明する。
[Embodiment] Next, an example of the video conference system according to the present invention will be explained in detail with reference to the drawings.

第1図に本発明のテレビ会議システムの画像情報処理部
の構成の概略ブロック図を示す。
FIG. 1 shows a schematic block diagram of the configuration of the image information processing section of the video conference system of the present invention.

Wii像入力部11、画像符号化部13、伝送路制御部
14、画像復号部1らおよび画像出力部17の動作は従
来のテレビ会議システムと同様である。
The operations of the Wii image input section 11, image encoding section 13, transmission path control section 14, image decoding section 1, etc., and image output section 17 are similar to those of the conventional video conference system.

本発明のテレビ会議システムは、モード切換部18を備
えている。モード切換部18において、両方の入力が共
に全景画面であるような場合には、空間分割モードに切
り換えて画像を伝送し、ズームアツプ画面等のように全
画面を伝送する必要がある場合には1時分割モードに切
り換えてagAを伝送する。
The video conference system of the present invention includes a mode switching section 18. In the mode switching unit 18, when both inputs are full-view screens, the image is switched to the space division mode and the image is transmitted, and when it is necessary to transmit the entire screen such as a zoom-up screen, 1 Switch to time division mode and transmit agA.

以下に、画面合成を行なう場合の動作の例について説明
する。第2図に画面合成の例を示す。
An example of the operation when performing screen composition will be described below. Figure 2 shows an example of screen composition.

2系統のテレビカメラは、それぞれ3〜4人の全景画像
を写しており、各カメラからの画像は、画像合成部12
において空間分割モードで画面の上下の領域として合成
されて伝送されている。
Each of the two television cameras captures a panoramic image of 3 to 4 people, and the images from each camera are sent to an image synthesis unit 12.
In the spatial division mode, the upper and lower regions of the screen are combined and transmitted.

一方のテレビカメラからの画面が発言者のズームアツプ
画面等に変わり、全画面を伝送する必要が生じると、モ
ード切換部18は、画像合成部12に対して画面の合成
方法を空間分割モードから時分割モードへ切り換えるこ
とを指示する。即ち、画像合成部12は、一方のテレビ
カメラからのズームアツプ画面と、他方のテレビカメラ
からの全景画面とを1フレーム毎に切り換えて伝送する
ように動作を変更する。
When the screen from one TV camera changes to a zoom-up screen of the speaker, etc., and it becomes necessary to transmit the entire screen, the mode switching unit 18 changes the screen compositing method to the image combining unit 12 from the spatial division mode to Instructs to switch to split mode. That is, the image synthesis unit 12 changes its operation so that the zoomed-up screen from one television camera and the panoramic screen from the other television camera are switched and transmitted frame by frame.

このとき、ズームアツプ画面については画面の全部を、
全景画面については上下1/4を削除した1/2の画面
を伝送すればよいから、伝送路の容量をズームアツプ画
面により多く剖り当てることができ、通常の時分割モー
ドよりも良好な画像品質を得られる。
At this time, for the zoom up screen, the entire screen
As for the panoramic screen, it is only necessary to transmit 1/2 of the screen by removing 1/4 of the top and bottom, so more of the capacity of the transmission path can be used for the zoom-up screen, resulting in better image quality than the normal time-sharing mode. You can get .

両方のテレビカメラからの画像が再び全景画面に戻され
ると、モード切換部18は画像合成部12に対して指示
を送ることにより、空間分割モードでの画面の合成に動
作を変更する。
When the images from both television cameras are returned to the full-view screen, the mode switching unit 18 sends an instruction to the image combining unit 12 to change the operation to combining the screens in the space division mode.

受信側においては、これとは逆の動作を行なえばよく、
空間分割モードで画面が合成されている場合には1画像
分離部16において、合成された画面が上下に分離され
て、それぞれ表示出力される。
On the receiving side, the opposite operation should be performed.
When the screens are combined in the space division mode, the single image separation unit 16 separates the combined screen into upper and lower parts and outputs them for display.

そして、送信側のモードが時分割モードに変更されると
、モード切換部18はWi像分離部16に対して動作モ
ードの変更を指示する。そして、画像分離部16は伝送
されてくる画像の1フレーム毎に出力系統を振り分ける
ように動作する。
Then, when the transmission side mode is changed to the time division mode, the mode switching section 18 instructs the Wi image separation section 16 to change the operation mode. The image separation unit 16 operates to allocate output systems for each frame of the transmitted image.

[発明の効果コ 以上説明したように、本発明のテレビ会議方式によれば
、伝送される画像の内容によって、通信中に画面の合成
方法を適応的に変更することができるため、柔軟な画像
伝送に対応することができる。
[Effects of the Invention] As explained above, according to the video conference system of the present invention, it is possible to adaptively change the screen composition method during communication depending on the content of the transmitted image, so it is possible to create flexible images. It can correspond to transmission.

また、限られた伝送路の容量をより効率良く利用するこ
とができる。
Furthermore, the limited capacity of the transmission path can be used more efficiently.

そのため、伝送コストを増加させることなく、汎用性の
高い、臨場感のあるテレビ会議システムを提供すること
ができる。
Therefore, a highly versatile and realistic video conference system can be provided without increasing transmission costs.

13 ・ 18 ・ 画像符号化部 ・伝送路制御部 画[1号部 画像分離部 画像出力部 モード切換部13・ 18・ Image encoding section ・Transmission line control section Picture [Part 1 Image separation section Image output section Mode switching section

【図面の簡単な説明】[Brief explanation of the drawing]

第11]はこの発明の実斃例の構成を示す概略ブロック
図、第2図は本発明による画面合成のモード切り換えの
例を示した図、第3図は従来のテレビ会議方式の画像処
理部の構成例を示す概略ブロック図、第4図は画面を合
成する例を示した図である。 11・・ 画像入力部 12・ ・画像合成部
11] is a schematic block diagram showing the configuration of an actual example of this invention, FIG. 2 is a diagram showing an example of mode switching of screen composition according to the invention, and FIG. 3 is a conventional image processing unit of a video conference system. FIG. 4 is a schematic block diagram showing an example of the configuration of the screen, and FIG. 4 is a diagram showing an example of combining screens. 11... Image input unit 12... Image synthesis unit

Claims (1)

【特許請求の範囲】[Claims] (1)テレビカメラ等から画像信号を入力する画像入力
手段と、 画像信号を符号化する画像符号化手段と、 符号化された画像データを伝送路へ送出または伝送路か
らの受信を行なう伝送路制御手段と、受信画像データを
復号する画像復号手段と、画像信号をモニタディスプレ
イ等に表示する画像表示手段と、 2系統の入力画像信号を合成する画像合成手段と、 画像信号を2系列に分離するための画像分離手段と、 送受信される画像の内容に従って、2系列の入力画像信
号を1画像フレームを領域分割して該各領域内へ合成す
る空間分割モードと、1画像フレーム毎に入力系統を切
り換える時分割モードを選択するモード切換手段とを備
え、 通信中に、前記空間分割モードと前記時分割モードとの
うちのいずれかのモードを適応的に選択して切り換える
ようにしたことを特徴とするテレビ会議方式。
(1) An image input means for inputting an image signal from a television camera, etc., an image encoding means for encoding the image signal, and a transmission line for transmitting encoded image data to or receiving the encoded image data from the transmission line. A control means, an image decoding means for decoding the received image data, an image display means for displaying the image signal on a monitor display, etc., an image synthesizing means for synthesizing the two systems of input image signals, and separating the image signal into two systems. a space division mode in which two series of input image signals are divided into regions of one image frame and combined into each region according to the content of the image to be transmitted and received; and an input system for each image frame. and a mode switching means for selecting a time division mode for switching, and adaptively selecting and switching between the space division mode and the time division mode during communication. A video conferencing method.
JP2171569A 1990-06-29 1990-06-29 Video conference system Expired - Lifetime JP2592983B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2171569A JP2592983B2 (en) 1990-06-29 1990-06-29 Video conference system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2171569A JP2592983B2 (en) 1990-06-29 1990-06-29 Video conference system

Publications (2)

Publication Number Publication Date
JPH0461489A true JPH0461489A (en) 1992-02-27
JP2592983B2 JP2592983B2 (en) 1997-03-19

Family

ID=15925577

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2171569A Expired - Lifetime JP2592983B2 (en) 1990-06-29 1990-06-29 Video conference system

Country Status (1)

Country Link
JP (1) JP2592983B2 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002137736A (en) * 2000-11-01 2002-05-14 Koito Ind Ltd Point information transmitting device to moving body
JP2018007198A (en) * 2016-07-08 2018-01-11 Kddi株式会社 Decoding device, program and server

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS62108690A (en) * 1985-11-06 1987-05-19 Nippon Telegr & Teleph Corp <Ntt> Inter-multiple points video conference system
JPS62245889A (en) * 1986-04-18 1987-10-27 Sony Corp Television conference device
JPH01254082A (en) * 1988-04-02 1989-10-11 Fujitsu Ltd Multi-screen transmission control system
JPH0435592A (en) * 1990-05-31 1992-02-06 Nec Corp Picture signal transmission system

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS62108690A (en) * 1985-11-06 1987-05-19 Nippon Telegr & Teleph Corp <Ntt> Inter-multiple points video conference system
JPS62245889A (en) * 1986-04-18 1987-10-27 Sony Corp Television conference device
JPH01254082A (en) * 1988-04-02 1989-10-11 Fujitsu Ltd Multi-screen transmission control system
JPH0435592A (en) * 1990-05-31 1992-02-06 Nec Corp Picture signal transmission system

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002137736A (en) * 2000-11-01 2002-05-14 Koito Ind Ltd Point information transmitting device to moving body
JP2018007198A (en) * 2016-07-08 2018-01-11 Kddi株式会社 Decoding device, program and server

Also Published As

Publication number Publication date
JP2592983B2 (en) 1997-03-19

Similar Documents

Publication Publication Date Title
US6356294B1 (en) Multi-point communication arrangement and method
JP2001251595A (en) Video communication system, decoder circuit, video display system, encoder circuit and video data receiving method
JPH0670040A (en) Display form changing system for multi-position video conference system
JP2592983B2 (en) Video conference system
JPH0983987A (en) Inter-multi-point communication controller
JP2573177B2 (en) Graphic display device in electronic conference system
JP2839295B2 (en) Screen Update Method for Multipoint Video Conference System
JPH09116882A (en) Audio visual communication equipment
JPH0463084A (en) Television conference system among scattered sites
JPH0715708A (en) Image transmission system
JPH08317366A (en) Multi-spot video conference system
JP2769195B2 (en) Multipoint video conference still image display system
JPH08251567A (en) Television conference device
JPH10164542A (en) Picture multi-spot communication system
JP2515174B2 (en) Multi-source video conference system
JPH06209470A (en) Video transmission processing unit
JPH05153583A (en) Video communication system among multi-points
JPH0686277A (en) Video conference device
JPH09270954A (en) Screen compositing circuit
JPH03270391A (en) Multi-spot video conference system
JPH1028260A (en) Method for transmitting video data and multipoint video conference device
JP3031309B2 (en) Video conferencing equipment
JPH0564184A (en) Screen configuration system for video conference system
JPH0472887A (en) Multisite video conference system
JPH07154767A (en) Intermulti-spot communication control equipment

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20071219

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081219

Year of fee payment: 12

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091219

Year of fee payment: 13

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091219

Year of fee payment: 13

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101219

Year of fee payment: 14

EXPY Cancellation because of completion of term
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101219

Year of fee payment: 14