JP3452914B2 - データ蓄積通信方法及びデータ生成方法 - Google Patents

データ蓄積通信方法及びデータ生成方法

Info

Publication number
JP3452914B2
JP3452914B2 JP2002145286A JP2002145286A JP3452914B2 JP 3452914 B2 JP3452914 B2 JP 3452914B2 JP 2002145286 A JP2002145286 A JP 2002145286A JP 2002145286 A JP2002145286 A JP 2002145286A JP 3452914 B2 JP3452914 B2 JP 3452914B2
Authority
JP
Japan
Prior art keywords
data
packet
time stamp
unit
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002145286A
Other languages
English (en)
Other versions
JP2003078894A (ja
Inventor
正弘 辰巳
慶一 日比
恒明 岩野
博隆 中野
修 中村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Sharp Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp, Sharp Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2002145286A priority Critical patent/JP3452914B2/ja
Publication of JP2003078894A publication Critical patent/JP2003078894A/ja
Application granted granted Critical
Publication of JP3452914B2 publication Critical patent/JP3452914B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、TV電話等に代表
される映像情報の通信を行う端末から送出される、特
に、ITU(国際電気通信連合)−T勧告に準拠した画
像や音声データを蓄積し、任意の端末から蓄積データの
再生を行うことが可能なデータ蓄積通信方法及びデータ
生成方法に関するものである。
【0002】
【従来の技術】近年、従来からある電話やFAX(ファ
クシミリ)等の対話型の通信サービスに加えて、音声情
報を網のセンターに記憶して、それを随時再生すること
ができる蓄積型のサービスが提供されている。また、I
SDN(Integrated Services Digital Network:サービ
ス総合ディジタル網)に代表されるディジタル通信網の
整備により、例えば、テレビ電話に代表される画像通信
サービスを利用することが可能となってきている。この
ような背景の中で、画像を利用した蓄積型のサービスに
対する要求が高まり、一部実用化されつつある。
【0003】図5は、従来のデータ蓄積通信装置の構成
図である。図中、49は多重化データ送受信部の受信
部、50は多重化データ送受信部の送信部、51は回線
データ分離部、52はFEC(Forward Error Correcti
on)の誤り訂正部、53はビデオフレーム抽出部、54
はパケット生成部、55はパケット分解部、56はデー
タ処理部、57は回線データ多重化部である。回線デー
タ分離部51は、システム制御部からの指示に従って、
受信した回線多重化データから画像や音声等のデータの
分離を行う。誤り訂正部52は、回線データ分離部51
から出力される画像データにFECの誤り訂正を行う。
【0004】ビデオフレーム抽出部53は、誤り訂正が
行われたデータからビデオフレームの抽出を行う。パケ
ット生成部54は、ビデオフレーム抽出部53で抽出さ
れたビデオフレームと回線データ分離部51で分解され
た音声データからパケットの生成を行う。パケット分解
部55は、記憶装置から出力されるパケットを画像や音
声データに分解する。データ処理部56は、パケット分
解部55から出力されるデータに何らかの処理を行う。
回線データ多重化部57は、データ処理部56から出力
されるデータから回線多重化データを生成する。
【0005】図6は、従来のパケット構成図である。図
中、61は蓄積時の端末の伝送レートや多重化レート及
び各データの符号化方式等の情報が含まれるヘッダ情
報、62は画像のデータ長、63は音声のデータ長、6
4は画像のビデオフレーム数、65はビデオフレームの
データ長とビデオフレームデータ、66は音声データで
ある。図7(a),(b)は、従来のデータ多重フォー
マットを示す図で、現在テレビ電話等で用いられている
データの多重化形式を示す図である。このデータ多重フ
ォーマットは、国際標準として採用されており、この多
重化方式を用いることにより、テレビ電話等の相互接続
性が確保される。
【0006】図中、71,72はそれぞれ音声データ、
画像データに割り当てられる領域、73はフレーム同期
用ビット、74は端末間の能力・コマンド通信用ビッ
ト、75は通信回線へのデータ送出順序である。各デー
タの多重化条件は能力・コマンド通信用ビット74を使
用して端末−ホスト間でいつでも変更することが可能で
ある。データ蓄積時には、網から受信される回線多重化
データは、図5の回線データ分離部51で画像や音声デ
ータに分離され、画像データはFECの誤り訂正部5
2、音声データはパケット生成部54に出力される。F
ECの誤り訂正部52では、受信データの誤り訂正やフ
ィルピット等の余計なデータを取り除いてビデオフレー
ム抽出部53に出力する。
【0007】該ビデオフレーム抽出部53では、PSC
(フレーム開始符号)の探索を行ってビデオフレーム抽
出を行い、パケット生成部54に出力する。該パケット
生成部54では、図6のパケットフォーマットに従って
パケットの生成を行い、記憶装置に出力する。データ再
生時には、記憶装置から出力されるパケットデータは、
パケット分解部55で受信される。該パケット分解部5
5は、パケットのヘッダ情報をシステム制御部に通知す
る。システム制御部は、回線データ多重化部57に対し
て、図7のBAS74を使用して蓄積時の通信端末の動
作モードと再生時の通信端末の動作モードの整合を図る
ように指示する。
【0008】回線データ多重化部57で動作モードの整
合が完了したら、パケット分解部55では、パケットの
分解を行い、画像や音声データをそれぞれデータ処理部
56に出力する。該データ処理部56では、何らかの適
当な処理を行って、回線データ多重化部57にそれぞれ
のデータを出力する。該回線データ多重化部57では、
図7の多重化フォーマットに従って多重化データを生成
し、通信網に送出する。
【0009】
【発明が解決しようとする課題】前述のように、従来の
データ蓄積通信装置では、多重化されたデータを画像や
音声等に分離し、何らかの処理を行って蓄積又は送出を
行っているため、送出時に画像と音声との間に遅延差が
生じるという問題点がある。本発明は、このような実情
に鑑みてなされたもので、画像データ及び音声データの
蓄積時にタイムスタンプを付加してパケット化して蓄積
し、画像データ及び音声データの送出時に付加されたタ
イムスタンプから、該画像データ及び音声データの遅延
差の吸収を行うようにしたデータ蓄積通信方法を提供す
ることを目的とする。
【0010】
【課題を解決するための手段】本願の第1の発明は、画
像データ及び音声データを多重化し、通信網を介して、
通信端末へ伝送するために、画像データ及び音声データ
を蓄積しておくデータ蓄積通信方法であって、画像デー
タ及び音声データをパケット化するパケット生成ステッ
プと、前記パケット生成ステップにより生成されたパケ
ットを蓄積する記憶ステップと、前記画像データを前記
通信網に送出するタイミングを示す第1のタイムスタン
及び音声データを前記通信網に送出するタイミングを
示す第2のタイムスタンプを生成するタイムスタンプ生
成ステップとを備え、前記パケット生成ステップは、前
記タイムスタンプ生成ステップで生成した第1のタイム
スタンプ及び第2のタイムスタンプを、前記画像データ
及び音声データに付加して蓄積するものである。本願の
第2の発明は、画像データを通信網に送出するタイミン
グを示す第1のタイムスタンプ及び音声データを通信網
に送出するタイミングを示す第2のタイムスタンプが付
加された画像データ及び音声データからなるパケットを
蓄積する記憶ステップと、前記記憶ステップによって蓄
積された画像データ及び音声データを多重化し、通信網
を介して、通信端末に伝送する多重化データ送信ステッ
プとを備えたデータ蓄積通信方法であって、前記多重化
データ送信ステップは、前記記憶ステップによって蓄積
されたパケットに含まれるタイムスタンプに基づいて、
該パケットに含まれる画像データ及び音声データを、所
定のタイミングで前記通信網に送出するものである。
【0011】本願の第3の発明は、画像データ及び音声
データからなるパケットを作成するデータ生成方法であ
って、前記画像データを作成する画像符号化ステップ
と、前記音声データを作成する音声符号化ステップと、
前記画像データ及び前記音声データを多重するデータ多
ステップとを備え、前記パケットは、画像データを通
信網に送出するタイミングを示す第1のタイムスタンプ
及び音声データを通信網に送出するタイミングを示す第
2のタイムスタンプが付加されたものである。
【0012】
【発明の実施の形態】本発明の一実施形態について、図
面を参照して以下に説明する。図1は、本発明実施形態
のデータ蓄積通信方法を説明するための構成図である。
図1中、1は通信端末、2は通信ホスト、3はISDN
等の通信網である。4は画像入力用のカメラ、5は画像
出力用のモニタ、6は音声入出力用のハンドセット、7
は端末のシステム制御部、8は画像の符号化/復号化
部、9は音声の符号化/復号化部、10は多重化データ
送受信部であり、多重化データ送受信部10は、符号化
画像データと符号化音声データと制御情報を多重化して
回線に送出する。
【0013】11はホストのシステム制御部、12はホ
ストの多重化データ送受信部であり、多重化データ送受
信部12は、多重化データから制御情報を分離多重化す
る。13はデータを記憶蓄積する記録装置である。通信
端末1側のカメラ4から入力された動画像は、画像符号
化部8でフレーム間予測符号化される。符号化された符
号化画像データは、ハンドセット6から入力され、音声
符号化部9で符号化された符号化音声データと制御情報
等と共に多重化データ送信部10で多重化され、通信網
3を通じてホスト2へ伝送される。通信ホスト2側で
は、通信端末1から送られてきた多重化データを多重化
データ受信部12で受信する。該多重化データ受信部1
2では、受信した画像・音声等が多重化されたデータか
ら蓄積パケットデータを生成し、記憶装置13に転出す
る。該記憶装置13では、適当な形のファイルとして蓄
積する。
【0014】記憶されたデータは、ユーザまたはホスト
からの指示により、記憶装置13から読み出され、ホス
トの多重化データ送信部12に送られる。該多重化デー
タ送信部12では、システム制御部11の指示により、
蓄積時にそのまま記憶された制御情報を新たな制御情報
に書き換え、通信網3を通じて通信端末1に伝送する。
該通信端末1では、ホストから送られてきた制御情報を
書き換えた多重化データを多重化データ受信部10で受
信する。該多重化データ受信部10では、制御情報と画
像データと音声データ等を分離し、制御情報はシステム
制御部7に送られる。
【0015】また、多重化データ受信部10で受信され
た符号化画像データは画像復号化部8に送られ、システ
ム制御部7からの指示に従って、動画像の復号・再生が
行われ、再生画像がモニタ5に表示される。分離された
音声データは、音声復号化部9で復号・再生され、ハン
ドセット6から出力される。なお、記憶再生動作時で
も、回線による通信は常に双方向で行われており、制御
情報は回線接続状態では画像データ等の有無に関わらず
通信が可能である。図2は、図1のホスト多重化データ
送受信部の一例を説明するための構成図である。図2
中、14は受信部、15は送信部、21は回線データ分
離部、22はFEC(Forward Error Correction)の誤
り訂正部、23はビデオフレーム抽出部、24はパケッ
ト生成部、25はタイムスタンプ生成部、26はパケッ
ト分解部、27はデータ処理部、28は遅延差吸収部、
29は回線データ多重化部である。
【0016】回線データ分離部21は、通信網3から受
信される多重化データの分離を行う。誤り訂正部22
は、回線データ分離部21で分離された画像データのF
ECの誤り訂正を行う。ビデオフレーム抽出部23は、
誤り訂正が行われた画像データからビデオフレームの抽
出を行う。パケット生成部24は、画像や音声等のデー
タからパケットを生成する。タイムスタンプ生成部25
は、回線データ分離部21から出力されるオクテットタ
イミングからタイムスタンプを生成する。
【0017】パケット分解部26は、受信したパケット
を画像や音声等のデータに分解する。データ処理部27
は、画像や音声等に何らかの適当な処理を行う。遅延差
吸収部28は、画像や音声間に生じる遅延差を付随する
タイムスタンプをもとに吸収する。回線データ多重化部
29は、遅延差吸収部28から出力される画像や音声デ
ータ等から回線多重化データを生成する。図3(a)〜
(c)は、図2の受信部14のモジュール間の画像デー
タを表した図である。図3(a)は、図2中の信号aに
相当し、FECの同期を確立するための同期信号とFE
Cの誤り訂正を行うためのパリティビット、符号化デー
タ量の調整を行うためのフィルビットおよび情報ビット
で構成されている。
【0018】図3(b)は、図2中の信号bに相当し、
FECの誤り訂正が行われ、フィルビット等の余計なデ
ータが取り除かれたものである。図3(c)は、図2中
の信号cに相当し、PSC(フレーム開始符号)ごとに
抽出されたビデオフレームである。図4は、蓄積を行う
ときのパケット構成図である。41は蓄積時の多重化レ
ート、符号化方式及び符号化能力等の情報が明記された
ヘッダ情報、42は画像のデータ長、43は音声のデー
タ長、44は画像のビデオフレーム数、45は画像のタ
イムスタンプとビデオフレームのデータ長及びビデオフ
レームデータ、46は音声のタイムスタンプ、47は音
声データである。
【0019】次に、本実施形態のデータ蓄積通信方法の
動作について説明する。データ蓄積時には、回線データ
分離部21で、通信網3から受信された多重化データを
画像や音声等に分離し、画像データはFECの誤り訂正
部22,音声データはパケット生成部24,及びオクテ
ットタイミングはタイムスタンプ生成部25に各々出力
する。タイムスタンプ生成部25では、オクテット毎に
タイムスタンプを生成しビデーフレーム抽出部23とパ
ケット生成部24とに出力する。FECの誤り訂正部2
2では、図3(a)に示す信号の状態の画像データを受
信し、FECの誤り訂正等を行って、図3(b)に示す
信号の状態の画像データをビデオフレーム抽出部23に
出力する。
【0020】該ビデオフレーム抽出部23では、受信し
たデータからPSCを探索し、図3(c)に示す信号の
状態のデータとPSCが発見された時点のタイムスタン
プをパケット生成部24に出力する。該パケット生成部
24では受信した画像や音声データ及び付随したタイム
スタンプから、図4のパケットフォーマットに従ってパ
ケットを生成し、ヘッダ情報には、多重化レート、符号
化方式及び符号化能力等の再生時に必要となる情報を明
記し、記憶装置13に対して出力する。
【0021】データ再生時には、パケット分解部26
で、記憶装置13から出力されたパケットを受信する。
パケットを受信したパケット分解部26は、ヘッダ情報
を抽出し、システム制御部11に通知する。該システム
制御部11は、回線データ多重化部29に対して、図7
に示すBSA74を使用して蓄積時の通信端末の動作モ
ードと再生時の通信端末の動作モードとの整合をとるよ
うに指示する。回線データ多重化部29で動作モードの
整合が完了したら、パケット分解部26では、パケット
の分解を行い、画像や音声データ及び付随したタイムス
タンプをデータ処理部27に出力する。該データ処理部
27では、画像や音声データに何らかの適当な処理を行
い、遅延差吸収部28にデータ及びタイムスタンプを出
力する。該遅延差吸収部28では、付随するタイムスタ
ンプから遅延差の吸収を行い、回線データ多重化部29
に出力する。該回線データ多重化部29では、画像や音
声等のデータを、図7に示す多重化フォーマットに従っ
て多重化して回線多重化データを生成し通信網3に送出
する。
【0022】
【発明の効果】以上の説明から明らかなように、本発明
によると、画像データ及び音声データを通信網に送出す
るタイミングを示すタイムスタンプを、前記画像データ
及び音声データに付加してパケット化し、記憶手段に蓄
積して、再生されたパケットに含まれるタイムスタンプ
に基づいて、該パケットに含まれる画像データ及び音声
データの遅延差を吸収して、通信網に送出することが可
能となる。
【図面の簡単な説明】
【図1】本発明のデータ蓄積通信方法の一実施形態を説
明するための構成図である。
【図2】図1における多重化データ送受信部の構成図で
ある。
【図3】図2の受信部におけるモジュール間の画像デー
タの構成図である。
【図4】本発明のデータ蓄積通信方法の一実施形態によ
る蓄積時のパケットフォーマットを示した図である。
【図5】従来の蓄積型画像通信システムにおける多重化
データ送受信部の構成図である。
【図6】従来の蓄積時のパケットフォーマットを示した
図である。
【図7】従来のデータ多重化フォーマットを示した図で
ある。
【符号の説明】 1…通信端末、2…通信ホスト、3…ISDN等の通信
網、4…画像入力用のカメラ、5…画像出力用のモニ
タ、6…音声入出力用のハンドセット、7…端末のシス
テム制御部、8…画像の符号化/復号化部、9…音声の
符号化/復号化部、10…端末の多重化データ送受信
部、11…ホストのシステム制御部、12…ホストの多
重化データ送受信部、13…記憶装置、14…受信部、
15…送信部、21…回線データ分離部、22…FEC
の誤り訂正部、23…ビデオフレーム抽出部、24…パ
ケット生成部、25…タイムスタンプ生成部、26…パ
ケット分解部、27…データ処理部、28…遅延差吸収
部、29…回線データ多重化部。
フロントページの続き (72)発明者 岩野 恒明 大阪府大阪市阿倍野区長池町22番22号 シャープ株式会社内 (72)発明者 中野 博隆 東京都千代田区大手町2−3−1 日本 電信電話株式会社内 (72)発明者 中村 修 東京都千代田区大手町2−3−1 日本 電信電話株式会社内 (56)参考文献 特開 平5−236009(JP,A) 特開 平5−37893(JP,A) 特開 平7−30886(JP,A) 特開 平2−5660(JP,A) (58)調査した分野(Int.Cl.7,DB名) H04L 12/56 H04N 7/08

Claims (3)

    (57)【特許請求の範囲】
  1. 【請求項1】 画像データ及び音声データを多重化し、
    通信網を介して、通信端末へ伝送するために、画像デー
    タ及び音声データを蓄積しておくデータ蓄積通信方法で
    あって、 画像データ及び音声データをパケット化するパケット生
    成ステップと、 前記パケット生成ステップにより生成されたパケットを
    蓄積する記憶ステップと、 前記画像データを前記通信網に送出するタイミングを示
    す第1のタイムスタンプ及び音声データを前記通信網に
    送出するタイミングを示す第2のタイムスタンプを生成
    するタイムスタンプ生成ステップとを備え、 前記パケット生成ステップは、前記タイムスタンプ生成
    ステップで生成した第1のタイムスタンプ及び第2のタ
    イムスタンプを、前記画像データ及び音声データに付加
    して蓄積することを特徴とするデータ蓄積通信方法。
  2. 【請求項2】 画像データを通信網に送出するタイミン
    グを示す第1のタイムスタンプ及び音声データを通信網
    に送出するタイミングを示す第2のタイムスタンプが付
    加された画像データ及び音声データからなるパケットを
    蓄積する記憶ステップと、 前記記憶ステップによって蓄積された画像データ及び音
    声データを多重化し、通信網を介して、通信端末に伝送
    する多重化データ送信ステップとを備えたデータ蓄積通
    信方法であって、 前記多重化データ送信ステップは、前記記憶ステップに
    よって蓄積されたパケットに含まれるタイムスタンプに
    基づいて、該パケットに含まれる画像データ及び音声デ
    ータを、所定のタイミングで前記通信網に送出すること
    を特徴とするデータ蓄積通信方法。
  3. 【請求項3】 画像データ及び音声データからなるパケ
    ットを作成するデータ生成方法であって、 前記画像データを作成する画像符号化ステップと、 前記音声データを作成する音声符号化ステップと、 前記画像データ及び前記音声データを多重するデータ多
    ステップとを備え、 前記パケットは、画像データを通信網に送出するタイミ
    ングを示す第1のタイムスタンプ及び音声データを通信
    網に送出するタイミングを示す第2のタイムスタンプが
    付加されたものであることを特徴とするデータ生成
    法。
JP2002145286A 2002-05-20 2002-05-20 データ蓄積通信方法及びデータ生成方法 Expired - Fee Related JP3452914B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002145286A JP3452914B2 (ja) 2002-05-20 2002-05-20 データ蓄積通信方法及びデータ生成方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002145286A JP3452914B2 (ja) 2002-05-20 2002-05-20 データ蓄積通信方法及びデータ生成方法

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP37232599A Division JP3361786B2 (ja) 1993-12-24 1999-12-28 データ蓄積通信装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2003065896A Division JP2003299017A (ja) 2003-03-12 2003-03-12 データ蓄積装置

Publications (2)

Publication Number Publication Date
JP2003078894A JP2003078894A (ja) 2003-03-14
JP3452914B2 true JP3452914B2 (ja) 2003-10-06

Family

ID=19194654

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002145286A Expired - Fee Related JP3452914B2 (ja) 2002-05-20 2002-05-20 データ蓄積通信方法及びデータ生成方法

Country Status (1)

Country Link
JP (1) JP3452914B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4660184B2 (ja) * 2004-12-27 2011-03-30 株式会社東芝 信号中継装置及び信号中継方法

Also Published As

Publication number Publication date
JP2003078894A (ja) 2003-03-14

Similar Documents

Publication Publication Date Title
EP1024657B1 (en) Stored image regenerating device
JP3002348B2 (ja) 画像通信システム
JP4612171B2 (ja) 動画像復号再生モジュールと再生時刻管理プログラムとマルチメディア情報受信装置
US6233251B1 (en) Multiplex transmission method and system, and audio jitter absorbing method used therein
CN101827271A (zh) 音频视频同步方法、装置以及数据接收终端
US20060215711A1 (en) Apparatus for receiving packet stream
JP3361786B2 (ja) データ蓄積通信装置
JP3452914B2 (ja) データ蓄積通信方法及びデータ生成方法
JP3252935B2 (ja) 多重化データ蓄積再生装置
JP4192766B2 (ja) 受信装置および方法、記録媒体、並びにプログラム
JP3266226B2 (ja) 画像蓄積装置及び蓄積画像再生装置
JP3592289B2 (ja) 画像蓄積方法及び蓄積画像再生方法
JP2003299017A (ja) データ蓄積装置
JP3169767B2 (ja) 蓄積画像データ再生制御方法およびこれを用いたマルチメディア情報蓄積交換システム
US6198499B1 (en) Radio-communication video terminal device
JP2002152181A (ja) マルチメディアデータ通信方法およびマルチメディアデータ通信装置
JP3172425B2 (ja) マルチメディア情報送信システム、マルチメディア情報受信システム、マルチメディア情報送信方法、並びにマルチメディア情報受信方法
JP2001309375A (ja) メディア分離方法と画像復号方法及び装置
JP2010028642A (ja) 画像伝送システム
JP2012239123A (ja) 映像データ送信装置及び受信装置
KR100701032B1 (ko) 네트워크 상의 동영상 데이터 전송 조절 시스템과 그 방법
JPH0832621A (ja) 画像音声符号化データ伝送装置
JP2003259292A (ja) マルチメディア通信装置とその信号処理モジュール
JP2005223471A (ja) Ipネットワークを使用した通信システム
JPH06284417A (ja) マルチメディア多重化信号蓄積再生方法

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20070718

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080718

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080718

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090718

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090718

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100718

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110718

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110718

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120718

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120718

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130718

Year of fee payment: 10

LAPS Cancellation because of no payment of annual fees