JP2001111993A - 動画像データ通信システム - Google Patents

動画像データ通信システム

Info

Publication number
JP2001111993A
JP2001111993A JP28470899A JP28470899A JP2001111993A JP 2001111993 A JP2001111993 A JP 2001111993A JP 28470899 A JP28470899 A JP 28470899A JP 28470899 A JP28470899 A JP 28470899A JP 2001111993 A JP2001111993 A JP 2001111993A
Authority
JP
Japan
Prior art keywords
image data
unit
frame mode
intra
error
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP28470899A
Other languages
English (en)
Other versions
JP3622590B2 (ja
Inventor
Taku Terajima
卓 寺島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP28470899A priority Critical patent/JP3622590B2/ja
Publication of JP2001111993A publication Critical patent/JP2001111993A/ja
Application granted granted Critical
Publication of JP3622590B2 publication Critical patent/JP3622590B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Detection And Prevention Of Errors In Transmission (AREA)

Abstract

(57)【要約】 【課題】 無駄なデータを送出することを最小限にとど
め、動画像の伝送遅れを抑制して表示画面の更新間隔を
短縮する。 【解決手段】 フレーム内またはフレーム間モードの動
画像データを送受信する動画像データ通信システム10
0において、受信装置120は、各種コマンドを生成す
るコマンド生成部と、フレーム間モードの圧縮画像デー
タのエラーを検出したときにフレーム内モードコマンド
を生成するよう指示する送信制御部と、生成したコマン
ドを送信する送信部とを含み、送信装置110は、フレ
ーム内モードコマンドに基づきこれから処理するフレー
ムデータをフレーム内モードで圧縮する圧縮部と、圧縮
画像データを送信する送信部とを含む。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、圧縮処理した動画
像データの送受信をネットワークを介して行なう動画像
データ通信システムに関し、特に、エラー発生頻度の高
いネットワークに用いるのに適した動画像データ通信シ
ステムに関する。
【0002】
【従来の技術】従来から、ネットワークを介して動画像
データを伝送し、送信先で動画像の再生を行なう通信シ
ステムが開発されている。このような通信システムは、
取り扱うデータ量が大きいため、送信側でデータ圧縮な
どを行なったあとネットワークに送出し、受信側でデー
タ伸張して再生する構成とされている。
【0003】
【発明が解決しようとする課題】しかし、上述のシステ
ムでは、圧縮した動画像データを含むパケットが伝送路
上で損失した場合や、ネットワーク上でノイズが混入す
るなどしてデータ誤りといったエラーが発生した場合に
は、修正処理を行なうことなくそのまま無視するように
していた。すなわち、上述のシステムでは、エラーが発
生した場合に、一定の間隔で送信されてくるフレーム内
モードの画像データによって全画面が更新されるまで画
面の更新を停止するか、エラーによって乱れた画像を表
示し続けるようにしていた。このように、エラーが発生
したときにそのまま無視して全画面が更新されるまで待
つようにすると、次のフレーム内モードの画像フレーム
が送信されてくるまで画像が更新されないか、あるい
は、エラーによって乱れた画像を表示し続けることにな
る。また、その間に送信されてくるフレーム間モードの
データは正しく伸張することができない。従って、表示
画面が見づらいものとなると共に、無駄となるデータを
ネットワーク上に流してしまうことになるという問題が
あった。
【0004】また、エラーが発生した場合に、受信側が
送信側に対して再送要求を通知してエラーが起こったデ
ータを再度送信するようにし、正しいデータを受け取っ
たら画面を更新することが考えられる。しかし、エラー
発生時に送信側に再送要求を通知してエラーが起こった
フレームのデータを再送すると、再送要求通知や再度同
じデータを送る処理の時間が必要となる。従って、画像
フレームが正常に再送されたときに、その画像フレーム
は既に通常よりも遅延したものとなってしまうという問
題がある。また、再送要求が何度も繰返されて無駄なデ
ータをネットワーク上に繰返し流すことになるという問
題もある。このような問題は、特に、エラー発生頻度が
高いネットワークで著しい。
【0005】さらに、エラーが発生した場合に、送信側
に対してフレーム内モードで圧縮処理して送信する要求
を通知して、そのフレーム内モードの画像フレームデー
タが送られてきたときに全画面を更新することが考えら
れる。しかし、エラー発生時に送信側に対してフレーム
内モードの画像フレームの送信要求を通知する方法で
は、要求したフレーム内モードの画像フレームを送信し
ている間にエラーが発生した場合にそのデータが無駄と
なるだけでなく、再度フレーム内モード画像フレームの
送信要求を通知する必要がある。このため、上記のシス
テムは、特にネットワークのエラー発生頻度が高い状態
ではフレーム内モード画像フレームの送信要求を繰返し
通知することになる。従って、画像の更新時間が長くな
ってしまうことに加えて、無駄となる多くのデータをネ
ットワーク上に繰返し流してしまうという問題がある。
【0006】本発明は上述した問題を解消し、特にエラ
ー発生頻度が高い動画像通信ネットワークにおいて、無
駄なデータをネットワーク上に送出してしまうことを最
小限にとどめ、動画像の伝送遅れを抑制すると共に、表
示画面の更新間隔を短縮することを目的とする。
【0007】
【課題を解決するための手段】上記の問題を解決するた
めに、本発明は、動画像データをフレーム内モードまた
はフレーム間モードで圧縮した圧縮画像データを通信ネ
ットワークを介して送信する送信装置と、圧縮画像デー
タを受信して伸張する受信装置とを含む動画像データ通
信システムにおいて、受信装置は、各種コマンドを生成
するコマンド生成部と、フレーム間モードの圧縮画像デ
ータの受信の際にパケット損失またはデータ誤りのエラ
ーを検出したときに再送コマンドではなくフレーム内モ
ードコマンドを生成するようコマンド生成部を制御する
送信制御部と、コマンド生成部が生成したコマンドを送
信する送信部とを含み、送信装置は、フレーム内モード
コマンドに基づいてこれから処理するフレームデータを
フレーム内モードで圧縮する圧縮部と、圧縮部が処理し
た圧縮画像データを送信する送信部とを含むものであ
る。
【0008】上記の構成としたことで、動画像の伝送遅
れを抑制すると共に、表示画面の更新間隔を短縮するこ
とができる。
【0009】
【発明の実施の形態】本発明の第1の実施の形態につい
て図面を参照して説明する。図1は、本例の動画像デー
タ通信システム100の構成を示すブロック図である。
動画像データ通信システム100は、2つの動画像デー
タ通信装置110,120と、ネットワークインタフェ
ース130,140と、例えばインターネットなどの通
信ネットワーク190とを含む。本例では、動画像デー
タ通信装置110,120は、それぞれ同一の構成をな
しており、それぞれ動画像データの送受信機能を有して
いる。各動画像データ通信装置110,120は、それ
ぞれネットワークインタフェース130,140を介し
てネットワーク190に接続されている。各動画像デー
タ通信装置110,120は、それぞれ、例えばビデオ
カメラ装置などの映像入力装置から画像を1フレームず
つディジタル化して取り込む画像取り込み装置150,
160と、例えばCRT(陰極線管)やLCD(液晶表
示装置)などで構成されるの画像表示装置170,18
0とが接続されている。なお、ネットワークに接続され
る動画像データ通信装置は、いくつであっても良い。
【0010】図2は、動画像データ通信装置110の構
成を示すブロック図である。動画像データ通信装置11
0は、画像圧縮部111と、誤り検出符号付加部112
と、パケット送信部113と、パケット受信部114
と、誤り検出部115と、画像伸張部116と、パケッ
ト損失検出部117と、コマンド生成解析部118と、
送信制御部119とを含む。なお、動画像データ通信装
置120の構成については、動画像データ通信装置11
0の構成と同一であるため、その詳細な説明は省略す
る。
【0011】画像圧縮部111は、例えばITU−T
(電気通信標準化部門)のH.261勧告やISO(国
際標準化機構)のMPEG標準で定められているフレー
ム内およびフレーム間での画像圧縮符号化方式を用いて
データ圧縮処理を行なう。画像圧縮部111は、画像取
り込み装置150から入力される画像データを、1フレ
ーム毎に縦横複数個のマクロブロックと呼ばれる小画面
に分割して、そのマクロブロック単位でデータ圧縮を行
なう。
【0012】誤り検出符号付加部112は、画像圧縮部
111から小画面単位で出力される圧縮データそれぞれ
の先頭に誤り検出用の符号を生成して付加する。
【0013】パケット送信部113は、誤り検出符号付
加部112から出力されるデータに、送信先でパケット
損失を検出するための連続番号や、送信先のアドレス情
報などを付加してパケット化する。また、パケット送信
部113は、ネットワークインタフェース130を制御
してネットワーク190にパケット化したデータを送出
する。パケット送信部113は、送信先からフレーム間
モードの圧縮画像データにエラーが発生した旨の通知を
受けたときは、内部バッファにて送信待ちとなっている
圧縮画像データを破棄する送信データ破棄機能を有す
る。
【0014】パケット受信部114は、ネットワークイ
ンタフェース130を制御して、ネットワーク190を
介して伝送されてきたパケットを受信する。また、パケ
ット受信部114は、受信したパケットに付加されてい
るパケット損失検出用の連続番号を抽出してパケット損
失検出部117に通知する。パケット受信部114は、
パケット損失検出部117においてフレーム間モードの
圧縮画像データにパケット損失があることが検出された
場合に、損失したパケットを含んでいるフレームデータ
のうちの既に受信したデータを破棄する受信済データ破
棄機能を有している。また、パケット受信部114は、
フレーム間モードの圧縮画像データについてパケット損
失が検出されたあとは、フレーム内モードの画像データ
を受信するまで受信データ(フレーム間モードで圧縮さ
れた画像データ)を破棄する受信データ破棄機能を有し
ている。
【0015】誤り検出部115は、受信した各パケット
に付加されている誤り検出符号を検査することにより、
データ誤りがあるかどうかの判断を行なう。データ誤り
があると判断した場合には、誤り検出部115は、エラ
ーを検出したことを送信制御部119に通知する。誤り
検出部115は、フレーム間モードの圧縮画像データに
データ誤りがあることを検出した場合に、誤りのあるデ
ータをその場で破棄する誤りデータ破棄機能を有してい
る。また、誤り検出部115は、フレーム間モードの圧
縮画像データについてデータ誤りが検出されたあとは、
フレーム内モードの画像データを受信するまで受信デー
タ(フレーム間モードで圧縮された画像データ)を破棄
する受信データ破棄機能を有している。
【0016】画像伸張部116は、受信した圧縮画像デ
ータを伸張して小画面に分割されていた画像フレームを
再構成する。
【0017】パケット損失検出部117は、パケット受
信部114から受信した各パケットに付加されている連
続番号の通知を受け、その番号に基づいてネットワーク
上で消失したパケットの有無を検出する。すなわち、パ
ケット損失検出部117は、例えば一定時間内(例えば
0.5秒程度)に連続番号を構成するためのパケットが
受信されたかった場合には、ネットワーク上でパケット
が損失したものと判断する。パケット損失検出部117
は、パケットが損失したと判断すると、エラーを検出し
たことを送信制御部119に通知する。
【0018】コマンド生成解析部118は、受信データ
にエラーが発生した時に送信制御部119の指示により
送信側に通知するためのコマンドを生成し、送信側のコ
マンド生成解析部に対してパケット送信部113を介し
てコマンドパケットを送信する。また、コマンド生成解
析部118は、パケット受信部114で受信したコマン
ドパケットを受け取ってコマンドの解析を行なう。
【0019】送信制御部119は、装置110全体の制
御を行なう。送信制御部119は、パケット損失検出部
117および誤り検出部115で検出されたエラー情報
を取得し、コマンド生成解析部118に対してエラーの
通知や再送要求を行なうためのコマンドを発行するよう
要求する。また、送信制御部119は、相手端末側から
エラー発生や再送要求のコマンドを受信した場合、コマ
ンド生成解析部118からの要求に応じて、画像圧縮部
111を制御してフレーム内モードの圧縮画像データを
生成するように要求したり、パケット送信部113内部
のバッファに保持されているフレーム内モードの圧縮画
像データを再送するように要求する。
【0020】次に、動画像データ伝送システム100に
おける動画像データ伝送処理について、送信処理、正常
受信処理、エラー発生時の処理に分けて、図面を参照し
て説明する。なお、ここでは動画像データ通信装置11
0から、動画像データ送信装置120に向けて動画像デ
ータを伝送する場合のデータ伝送処理について説明す
る。また、以下の説明において、動画像データ通信装置
120の各部には、動画像データ通信装置110の各部
に対応する符号を付与するものとする。
【0021】(a)送信側の動画像データ通信装置11
0による送信処理 画像取り込み装置150から入力した動画像データをネ
ットワーク190に送出する際には、先ず、動画像デー
タ通信装置110の画像圧縮部111は、画像取り込み
装置150から順次入力されるフレーム画像データを、
取り扱う画像データやフレームレートなどに応じて設定
したほぼ一定(例えば、0.5秒〜15秒程度の範囲内
毎)の間隔でフレーム内モードの圧縮処理を行い、フレ
ーム内モードの各画像フレームの間にあるフレームはフ
レーム間モードで圧縮処理する。
【0022】なお、フレーム内モードの圧縮処理を行な
う間隔は、処理を行なう動画像の対象が、例えばテレビ
ジョン放送などの一般の映像(ある程度動きが激しい映
像)であるか、あるいはテレビ会議や遠隔監視システム
などの映像(動きが少ない映像)であるかなどにより、
間隔を定める上で考慮すべき範囲が異なる。すなわち、
テレビジョン放送などの一般の映像を対象とする場合
は、MPEG1標準やMPEG2標準を用いて、例えば
0.5秒から1秒間隔と定めるようにする。また、テレ
ビ会議などの映像を対象とする場合は、ITU−Tの
H.261勧告やH.263勧告などを用いる。例えば
H.261勧告によれば少なくとも132フレームに1
回の間隔と定められており、フレームレートが最高で3
0[フレーム/秒]の場合は4.4秒間隔となり、一般
には回線伝送速度の関係から10〜15[フレーム/
秒]であるため8.8秒〜13.2秒間隔となる。従っ
て、テレビ会議システムなどの動きの少ない映像を対象
とする場合は、例えば5秒から15秒程度の範囲でフレ
ーム内モードで処理する間隔を設定する。また、一般の
ビデオカメラなどの映像を対象とする場合は、例えば1
秒から5秒程度の範囲でフレーム内モードで処理する間
隔を設定する。なお、フレーム内モードで処理する間隔
の設定は、対象とする動画像データの内容や用途などに
応じて上述した範囲以外の値に設定しても良い。
【0023】データ圧縮を行なうと、画像圧縮部111
は、圧縮データを誤り検出符号付加部112に出力す
る。誤り検出符号付加部112は、受信した圧縮データ
に誤り検出符号を付加してパケット送信部113に出力
する。そして、パケット送信部113は、入力した画像
圧縮データをパケット化し、パケット化した画像圧縮デ
ータをネットワークインタフェース130を経由してネ
ットワーク190に送出する。パケット送信部113
は、1フレーム分のパケットデータが正常に送信された
と判断すると、送信したフレームデータを内部に有する
バッファから削除すると共に、次の画像フレームのパケ
ット化した画像圧縮データの送信を開始する。このよう
にして、動画像データ通信装置110は、ネットワーク
190にパケット化した圧縮データを順次送出し、動画
像データの送信を行なう。
【0024】(b)受信側の動画像データ通信装置12
0の正常受信処理 送信側の動画像データ通信装置110によりパケットデ
ータが順次送信されると、受信側の動画像データ通信装
置120のパケット受信部124は、ネットワークイン
タフェース140を制御して、ネットワーク190から
パケットデータを受信する。パケット損失検出部127
でのパケット損失の検出、または誤り検出部125での
データ誤りの検出がなければ、受信した圧縮画像データ
を画像伸張部126にて伸張すると共に小画面に分割さ
れていた画像フレームを再構成する。そして、画像伸張
部126は、再構成した画像フレームを順次画像表示装
置180に出力する。
【0025】(c)受信側の動画像データ通信装置12
0でフレーム間モードで圧縮されたデータの受信の際に
エラーが検出された場合のシステム100の処理 受信側装置120のパケット損失検出部127は、パケ
ット受信部124で受信した各パケットに付加されてい
る番号を調べることによりパケット損失を検出すると、
パケット損失があったことを送信制御部129に通知す
る。また、パケット損失が検出されると、パケット受信
部124は、内部バッファに保持している損失したパケ
ットを含んでいるフレームデータを破棄する。
【0026】また、受信側装置120の誤り検出部12
5が、パケットに付加されている誤り検出符号を検査す
ることによりデータ誤りがあることを検出すると、誤り
検出部125は、データ誤りがあったことを送信制御部
129に通知すると共に、誤りのある圧縮画像データを
画像伸張部126に送ることなく直ちに破棄する。
【0027】そして、パケット損失またはデータ誤りが
あることを検出して、上述のようにエラー発生に関する
データを破棄すると、パケット受信部124または誤り
検出部125は、そのあとフレーム内モードの画像デー
タを受信するまで、受信したデータ(フレーム間モード
で圧縮された画像データ)を破棄する。
【0028】動画像データ通信装置120の送信制御部
129は、例えば図3に示すように、フレーム間モード
の圧縮画像データを受信しているある時刻Aに、パケッ
ト損失検出部127または誤り検出部125からエラー
検出の通知を受けると、コマンド生成解析部128にフ
レーム内モードの画像フレームを送信要求するコマンド
(以下、「フレーム内モードコマンド」という)31を
発行するように要求する。コマンド生成解析部128
は、パケット送信部123にフレーム内モードコマンド
31を含むパケットを生成して送信側装置110に送信
するよう要求する。パケット送信部123は、ネットワ
ークインタフェース140、ネットワーク190、およ
びネットワークインタフェース130を介して、送信側
装置110に向けてフレーム内モードコマンド31を含
むパケットを出力する。
【0029】フレーム内モードコマンド31は、送信側
装置110のパケット受信部114により受信され、コ
マンド生成解析部118に入力される。コマンド生成解
析部118は、コマンド31の内容を解析し、フレーム
内モードの画像フレームの送信が要求されたことを検出
する。そして、コマンド生成解析部118は、コマンド
31の解析結果を送信制御部119に通知する。送信制
御部119は、パケット送信部113に対してパケット
送信部113が内部に有するバッファで送信待ちとなっ
ている圧縮画像データを破棄するように要求する。ま
た、送信制御部119は、画像圧縮部111にこれから
処理を行なおうとしていたフレームデータをフレーム内
モードで圧縮処理するよう要求する。
【0030】パケット送信部113は、送信制御部11
9の要求に応じて内部に有するバッファに保持している
圧縮画像データを破棄する。また、画像圧縮部111
は、送信制御部119の要求に応じてフレーム内モード
で圧縮した画像フレームを生成する。そして、フレーム
内モードで圧縮されたフレームデータは、検出符号付加
部112やパケット送信部113などを介して受信側装
置120に向けてネットワーク190に送出される。
【0031】受信側の動画像データ通信装置120のパ
ケット受信部124は、ネットワーク190などを介し
てフレーム内モードの圧縮画像データ32を受信する。
フレーム内モード圧縮画像データ32は、パケット損失
検出部127でのパケット損失の検出、および誤り検出
部125でのデータ誤りの検出がなければ、画像伸張部
126に送られ、正常な受信処理が行われる。すなわ
ち、画像伸張部126は、受信した圧縮画像データを伸
張すると共に小画面に分割されていた画像フレームを再
構成する。画像伸張部126は、再構成した画像フレー
ムを順次画像表示装置180に出力する。そして、画像
表示装置180では、全画面の表示が更新されて、正常
な受信処理が行われるようになる。
【0032】ここで、受信側装置120の要求に応じて
送信側装置110より送信されたフレーム内モードの圧
縮画像データ32の受信処理において、例えば図3に示
す時刻Bに、パケット損失検出部127または誤り検出
部125にてエラーが検出された場合の処理について説
明する。先ず、送信制御部129は、パケット損失検出
部127または誤り検出部125からエラー検出の通知
を受ける。すると、送信制御部129は、コマンド生成
解析部128に圧縮画像データ32に含まれているパケ
ット34(受信側でエラーが発生してしまったパケッ
ト。以下、「エラーパケット」という。)の再送要求コ
マンド33を発行するように要求する。コマンド生成解
析部128は、再送要求コマンド33を発行して、パケ
ット送信部123に再送要求コマンド33のパケットを
送信側装置110に送信するよう要求する。パケット送
信部123は、パケット化された再送要求コマンド33
を、ネットワークインタフェース140、ネットワーク
190、およびネットワークインタフェース130を介
して送信側装置110に通知する。
【0033】再送要求コマンド33は、送信側装置11
0のパケット受信部114により受信され、コマンド生
成解析部118に入力される。コマンド生成解析部11
8は、コマンド33の内容を解析し、圧縮画像データ3
2のエラーパケット34が再送要求されたことを検出す
る。コマンド生成解析部118は、コマンド33解析の
結果を送信制御部119に通知する。送信制御部119
は、パケット送信部113に対し、パケット送信部11
3が内部に有するバッファに保持しているエラーパケッ
ト34を再送するように要求する。パケット送信部11
3は、送信制御部119の要求に応じて、エラーパケッ
ト34を受信側装置120に向けてネットワーク190
に再送する。
【0034】受信側の動画像データ通信装置120のパ
ケット受信部124は、ネットワーク190などを介し
て圧縮画像データ32のエラーパケット34を再度受信
する。エラーパケット34は、パケット損失検出部12
7でのパケット損失の検出、および誤り検出部125で
のデータ誤りの検出がなければ、画像伸張部126に送
られ、上述したような正常な受信処理が行われるように
なる。
【0035】ここでさらに、受信側装置120の要求に
応じて送信側装置110より再送された圧縮画像データ
32のエラーパケット34の受信処理において、例えば
図3に示す時刻Cに、パケット損失検出部127または
誤り検出部125にてエラーが検出された場合の処理に
ついて説明する。エラーパケット34の受信処理におい
てエラーが検出されたときには、再び上述した時刻B以
降の処理を繰り返す。すなわち、再送要求コマンド33
を、再度送信側装置110に通知する。そして、圧縮画
像データ32のエラーパケット34が正しく受信される
まで上述した処理を繰り返す。
【0036】しかし、エラーの発生頻度が高いために再
送動作を繰返し、例えば図3に示す時刻Dになってもエ
ラーパケット34が正しく受信されない場合には、圧縮
画像データ32に基づく画面の更新を断念する。この場
合、時刻Dは、本例では、時刻Aのあとのコマンド31
の通知により要求した圧縮画像データ32を受信した時
点から、フレーム内モードの画像データを送信する間隔
の半分の時間が経過したときの時刻とする。なお、時刻
Dを定める場合に、測定を開始する時点は上記以外の時
点(例えば、時刻A)であっても良い。また、測定時間
は、遅延の少ない画像で更新できるようにするため、フ
レーム内モードの画像データを送信する間隔よりも短い
時間であれば上記以外の時間(例えば、フレーム内モー
ドの画像データ送信間隔の1/4の時間)であっても良
い。この場合、測定を開始する時点を時刻Aとするとき
には、使用するシステムでの送受信装置間の往復にかか
る時間を考慮して測定時間を定める(例えば、往復時間
が1秒である場合には、測定時間をフレーム内モードの
画像データを送信する間隔の半分の時間に1秒加算した
時間などと定めるようにする)。
【0037】そして、動画像データ通信装置120は、
上述した時刻A以降の処理と同様の処理を行なう。すな
わち、動画像データ通信装置120は、フレーム内モー
ドコマンド31を送信側装置110に向けて送出する。
通知を受けた送信側装置110の送信制御部119は、
パケット送信部113に対して送信待ちとなっている圧
縮画像データを破棄するように要求する。また、送信制
御部119は、画像圧縮部111にこれから処理を行な
う画像フレームをフレーム内モードで圧縮するよう要求
する。
【0038】パケット送信部113は、送信制御部11
9の要求に応じて送信待ちとなっている圧縮画像データ
を破棄する。また、画像圧縮部111は、送信制御部1
19の要求に応じてフレーム内モードで処理した圧縮画
像データ35を生成する。そして、圧縮画像データ35
は、検出符号付加部112やパケット送信部113など
を介して受信側装置120に向けてネットワーク190
に出力される。
【0039】受信側の動画像データ通信装置120のパ
ケット受信部124は、ネットワーク190などを介し
て圧縮画像データ35を受信する。圧縮画像データ35
は、パケット損失検出部127でのパケット損失の検
出、および誤り検出部125でのデータ誤りの検出がな
ければ、画像伸張部126に送られ、上述したと同様に
正常な受信処理が行われる。
【0040】なお、受信側装置120においてフレーム
内モードで圧縮されたデータの受信の際に最初のエラー
が検出された場合は、動画像データ通信システム100
は、上述した時刻B以降の処理を行なう。
【0041】以上説明したように、フレーム間モードの
圧縮画像データの受信の際にエラーが発生したときは再
送要求は行なわず、これから処理が行われるフレームデ
ータをフレーム内モードの圧縮画像データとして送信要
求する構成としたことで、現在送信中の残りのパケット
を送信しなくて済み、無駄なデータをネットワーク上に
送出してしまうことを最小限に止めることができ、動画
像の伝送遅れを抑制すると共に、表示画面の更新間隔を
短縮することができる。かかる効果は、特にエラー発生
頻度が高い動画像通信ネットワークにおいて顕著に発揮
される。
【0042】また、上述したようにフレーム内モードで
圧縮した画像フレームを受信しているときにエラーを検
出した場合にのみ再送要求を行なう構成としたことで、
迅速にフレーム内モードの画像フレームにて画面表示の
更新を行うことができ、動画像の伝送遅れを抑制すると
共に、表示画面の更新間隔を短縮することができる。
【0043】さらに、上述したように再送動作を行なう
際に一定期間内に正しいデータが受信できなかった場合
には再送動作を停止し、次のフレーム内モードの画像デ
ータを送信する構成としたことで、ネットワークのエラ
ー発生頻度が高い場合であっても、ネットワーク上での
無駄な再送データを減らすことができ、画像データの遅
延も最小限に抑えることができる。
【0044】次に、本発明の第2の実施の形態について
説明する。本例では、上述した図1、図2に示した動画
像データ通信システム100により、特にMPEG2を
用いた場合の画像データ通信処理について、送信処理、
正常受信処理、エラー発生時の処理に分けて、図面を参
照して説明する。また、本例では、上述した第1の実施
の形態で既に説明した構成および処理と同様の構成およ
び処理となる各部についての詳細な説明は省略する。な
お、ここでは動画像データ通信装置110から、動画像
データ送信装置120に向けて動画像データを伝送する
とした場合のデータ伝送処理について説明する。また、
以下の説明において、動画像データ通信装置120の各
部には、動画像データ通信装置110の各部に対応する
符号を付与するものとする。
【0045】(a)送信側の動画像データ通信装置11
0による送信処理 画像取り込み装置150から入力した動画像データをネ
ットワーク190に向けて送出する際には、先ず、送信
側の動画像データ通信装置110の画像圧縮部111
は、画像取り込み装置150から順次入力されるフレー
ム画像データの画像フォーマットに対応した処理を行
い、ほぼ一定の間隔(0.5〜1秒程度)でフレーム画
像データに基づいてIピクチャを生成する。また、画像
圧縮部111は、各Iピクチャの画像フレーム間にある
フレーム画像データをPピクチャ(あるいは、Pピクチ
ャまたはBピクチャ)として圧縮処理する。
【0046】なお、Iピクチャを生成する間隔は、本例
ではMPEG2標準を用いて、ある程度動きの激しい映
像に関する動画像データの処理を想定しているため、
0.5秒から1秒間隔としている。なお、Iピクチャを
生成する間隔の設定は、対象とする動画像データなどに
応じて上述した範囲以外の値に設定しても良い。
【0047】生成された各ピクチャは、それぞれ誤り検
出符号付加部112にて誤り検出符号が付加され、パケ
ット送信部113にてパケット化されてネットワークイ
ンタフェース130を経由してネットワーク190に送
出される。パケット送信部113は、1フレーム分のパ
ケットデータが正常に送信されたと判断すると、送信し
たフレームデータを削除すると共に、次のフレームをパ
ケット化した画像圧縮データの送信を開始する。このよ
うにして、動画像データ通信装置110は、ネットワー
ク190に各ピクチャのデータを順次送出し、動画像デ
ータの送信を行なう。
【0048】(b)受信側の動画像データ通信装置12
0の正常受信処理 受信側装置120のパケット受信部124は、動画像デ
ータ通信装置110により送信された各ピクチャのパケ
ットデータを受信する。受信データにエラーがなけれ
ば、画像伸張部126が、圧縮画像データの伸張処理お
よび画像フレームの再構成を行なう。そして、画像伸張
部126は、再構成した画像フレームを順次画像表示装
置180に出力する。
【0049】(c)受信側の動画像データ通信装置12
0においてPピクチャまたはBピクチャの受信の際にエ
ラーが検出された場合のシステム100の処理 パケット損失検出部127は、受信側装置120におけ
るPピクチャまたはBピクチャの受信処理の際にパケッ
ト損失を検出すると、エラーがあったことを送信制御部
129に通知する。また、パケット損失が検出される
と、パケット受信部124は、損失したパケットを含む
PピクチャまたはBピクチャのデータを破棄する。
【0050】また、誤り検出部125は、受信側装置1
20におけるPピクチャまたはBピクチャの受信処理の
際にデータ誤りを検出すると、エラーがあったことを送
信制御部129に通知すると共に、誤りのあるパケット
を破棄する。
【0051】そして、上述したようにエラー発生に関す
るデータを破棄すると、パケット受信部124は、その
後Iピクチャが送られてくるまで受信したデータを破棄
する。
【0052】動画像データ通信装置120の送信制御部
129は、例えば図4に示すように、時刻Aにエラーの
通知を受けると、コマンド生成解析部128にIピクチ
ャを送信要求するコマンド(以下、「Iピクチャコマン
ド」という)41を発行するように要求する。コマンド
生成解析部128は、パケット送信部123にIピクチ
ャコマンド41のパケットを送信側装置110に送信す
るよう要求する。パケット送信部123は、送信側装置
110に向けてIピクチャコマンド41を送信する。
【0053】Iピクチャコマンド41は、送信側装置1
10のパケット受信部114により受信され、コマンド
生成解析部118に入力される。コマンド生成解析部1
18は、コマンドの内容を解析してIピクチャの送信が
要求されたことを検出する。そして、コマンド生成解析
部118は、送信制御部119にコマンドの解析結果を
通知する。送信制御部119は、パケット送信部113
に対して送信待ちとなっている圧縮画像データを破棄す
るように要求する。また、送信制御部119は、画像圧
縮部111に対してこれから処理を行なう画像フレーム
に基づいてIピクチャを生成するよう要求する。
【0054】パケット送信部113は、送信制御部11
9の要求に応じて圧縮画像データを破棄する。また、画
像圧縮部111は、送信制御部119の要求に応じてI
ピクチャ42を生成する。そして、生成されたIピクチ
ャ42は、検出符号付加部112やパケット送信部11
3などを介して受信側装置120に向けてネットワーク
190に出力される。
【0055】受信側の動画像データ通信装置120のパ
ケット受信部124は、ネットワーク190などを介し
てIピクチャ42を受信する。Iピクチャ42は、エラ
ーの検出がなければ、画像伸張部126に送られて正常
な受信処理が行われる。すなわち、画像伸張部126
は、受信したIピクチャを伸張すると共に小画面に分割
されていた画像フレームを再構成する。画像伸張部12
6は、再構成した画像フレームを順次画像表示装置18
0に出力する。そして、画像表示装置180における全
画面の表示を更新し、正常な受信処理が行われるように
なる。
【0056】ここで、受信側装置120の要求に応じて
送信側装置110より送信されたIピクチャ42の受信
処理において、例えば図4に示す時刻Bに、エラーが検
出された場合の処理について説明する。先ず、送信制御
部129は、パケット損失検出部127または誤り検出
部125からエラー検出の通知を受ける。すると、送信
制御部129は、コマンド生成解析部128にIピクチ
ャ42のデータに含まれているパケット44(受信側で
エラーが発生してしまったパケット。以下、「エラーパ
ケット」という。)の再送要求コマンド43を発行する
ように要求する。パケット送信部123は、コマンド生
成解析部128が発行した再送要求コマンド43をネッ
トワーク190に送出して送信側装置110に通知す
る。
【0057】再送要求コマンド43は、送信側装置11
0のパケット受信部114により受信され、コマンド生
成解析部118に入力される。コマンド生成解析部11
8は、コマンド43の内容を解析してIピクチャ42の
エラーパケット44が再送要求がされたことを検出す
る。コマンド生成解析部118は、コマンド43の解析
結果を送信制御部119に通知する。送信制御部119
は、パケット送信部113に対して内部に保持している
エラーパケット44を再送するように要求する。パケッ
ト送信部113は、送信制御部119の要求に応じて、
エラーパケット44を受信側装置120に向けてネット
ワーク190に再送する。
【0058】受信側の動画像データ通信装置120のパ
ケット受信部124は、ネットワーク190などを介し
てIピクチャ42のエラーパケット44を再度受信す
る。エラーパケット44は、受信側の装置120にてエ
ラーの検出がされなければ画像伸張部126に送られ
る。そして、上述したように、画像表示装置180に
て、Iピクチャ42に基づく表示画面の更新がなされ、
正常な受信処理が行われる。
【0059】ここでさらに、受信側装置120の要求に
応じて送信側装置110より再送されたIピクチャ42
のエラーパケット44の受信処理において、例えば図4
に示す時刻Cに、パケット損失検出部127または誤り
検出部125にてエラーが検出された場合の処理につい
て説明する。エラーパケット44の受信処理においてエ
ラーが検出されたときには、再び上述した処理を繰り返
す。すなわち、受信側装置120は、再送要求コマンド
43を再度送信側装置110に通知する。そして、シス
テム100は、Iピクチャ42のエラーパケット44が
正しく受信されるまで上述した処理を繰り返す。
【0060】しかし、エラーの発生頻度が高いために再
送動作を繰返し、例えば図4に示す時刻D(例えば、時
刻Aから1〜2秒後)になってもIピクチャ42のエラ
ーパケット44が正しく受信されない場合には、Iピク
チャ42での画面の更新を断念する。時刻Dは、本例で
は、時刻Aのあとのコマンド41通知により要求したI
ピクチャ42を受信した時点から、Iピクチャを送信す
る間隔の半分の時間が経過したときの時刻とする。な
お、時刻Dを定める場合に、測定を開始する時点は上記
以外の時点(例えば、時刻A)であっても良く、また、
測定時間についてはIピクチャを送信する間隔よりも短
い時間であれば上記以外の時間(例えば、Iピクチャ送
信間隔の1/4の時間)であっても良い。
【0061】そして、動画像データ通信装置120は、
時刻Aでエラーを検出した際の処理と同様の処理を行な
う。すなわち、受信側の動画像データ通信装置120
は、Iピクチャコマンド41をネットワーク190を介
して送信側の動画像データ通信装置110に通知する。
【0062】通知を受けた送信側装置110では、パケ
ット送信部113の有している送信待ちの圧縮画像デー
タが破棄され、画像圧縮部111が処理しようとしてい
たフレームデータに基づいてIピクチャ45が生成され
る。そして、新たに生成されたIピクチャ45は、検出
符号付加部112やパケット送信部113などを介して
受信側装置120に向けてネットワーク190に出力さ
れる。
【0063】受信側の動画像データ通信装置120のパ
ケット受信部124は、ネットワーク190などを介し
てIピクチャ45を受信する。Iピクチャ45は、受信
側の装置120にてにてエラーが検出されなければ画像
伸張部126に送られる。そして、上述したと同様に、
画像表示装置180にて、Iピクチャ45に基づく全画
面の表示の更新が行われ、正常な受信処理が行われる。
【0064】なお、受信側装置120においてIピクチ
ャのデータを受信処理しているときに最初のエラーが検
出された場合は、動画像データ通信システム100は、
上述した時刻B以降の処理を行なう。
【0065】以上説明したように、PピクチャまたはB
ピクチャの受信の際にエラーが発生したときは再送要求
を行なわず、これから処理が行われるフレームデータを
Iピクチャとして送信要求する構成としたことで、現在
送信中の残りのパケットを送信しなくて済み、無駄なデ
ータをネットワーク上に送出してしまうことを最小限に
とどめることができ、動画像の伝送遅れを抑制すると共
に、表示画面の更新間隔を短縮することができる。かか
る効果は、特にエラー発生頻度が高い動画像通信ネット
ワークにおいて顕著に発揮される。
【0066】また、上述したようにIピクチャを受信し
ているときにエラーを検出した場合にのみ再送要求を行
なう構成としたことで、迅速にIピクチャの画像フレー
ムにて画面表示の更新を行うことができ、動画像の伝送
遅れを抑制すると共に、表示画面の更新間隔を短縮する
ことができる。
【0067】さらに、上述したように再送動作を行なう
際に一定期間内に正しいデータが受信できなかった場合
には再送動作を停止し、これから圧縮処理しようとする
フレームデータをIピクチャとして処理して送信する構
成としたことで、ネットワークのエラー発生頻度が高い
場合であっても、ネットワーク上での無駄な再送データ
を減らすことができ、画像データの遅延も最小限に抑え
ることができる。
【0068】なお、上述した各実施の形態では、2つの
動画像データ通信装置110,120を同一の構成とし
ていたが、同一構成でなくても良く、例えば、一方の装
置に送信側の機能のみを持たせ、他方の装置に受信側の
機能のみを持たせるようにしても良い。
【0069】また、上述した各実施の形態では、圧縮画
像データをパケット化して送信する構成としたが、パケ
ット化せずに送信するとしても良い。
【0070】
【発明の効果】以上のように、本発明によれば、動画像
データをフレーム内モードまたはフレーム間モードで圧
縮した圧縮画像データを通信ネットワークを介して送信
する送信装置と、圧縮画像データを受信して伸張する受
信装置とを含む動画像データ通信システムにおいて、受
信装置は、各種コマンドを生成するコマンド生成部と、
フレーム間モードの圧縮画像データのエラーを検出した
ときにフレーム内モードコマンドを生成するようコマン
ド生成部を制御する送信制御部と、コマンド生成部が生
成したコマンドを送信する送信部とを含み、送信装置
は、フレーム内モードコマンドに基づいてこれから処理
するフレームデータをフレーム内モードで圧縮する圧縮
部と、該圧縮部が処理した圧縮画像データを送信する送
信部とを含むため、動画像の伝送遅れを抑制すると共
に、表示画面の更新間隔を短縮することができる。
【0071】受信装置は、フレーム間モードの圧縮画像
データのエラーの検出によりエラー発生データに関する
圧縮画像データを破棄するデータ破棄手段と、エラーの
検出によりフレーム内モードの圧縮画像データを受信す
るまで受信データを破棄する受信データ破棄手段とを備
えた受信部を含むとした場合には、不必要なデータの受
信処理を行なうことを避けることができるため、表示画
面の更新間隔を短縮することができる。
【0072】送信部は、フレーム内モードコマンドに基
づいて送信待ちとなっている圧縮画像データを破棄する
送信データ破棄手段を備えるとした場合には、現在送信
中の残りのパケットを送信しなくて済み、無駄なデータ
をネットワーク上に送出してしまうことを最小限にとど
めることができ、動画像の伝送遅れを抑制すると共に、
表示画面の更新間隔を短縮することができる。かかる効
果は、特にエラー発生頻度が高い動画像通信ネットワー
クにおいて顕著に発揮される。
【0073】コマンド生成部は、フレーム内モードの圧
縮画像データのエラーを検出したときに再送コマンドを
生成し、送信部は、再送コマンドに基づいてエラーの発
生した圧縮画像データを再送するとした場合には、迅速
にフレーム内モードの画像フレームにて画面表示の更新
を行うことができ、動画像の伝送遅れを抑制すると共
に、表示画面の更新間隔を短縮することができる。
【0074】コマンド生成部は、エラーが発生したあと
所定時間が経過したときまでに正常な受信がされないと
きは、再度フレーム内モードコマンドを生成するとした
場合には、ネットワークのエラー発生頻度が高い場合で
あっても、エラーが発生したあと所定時間経過後に再度
フレーム内モードコマンドを生成するため、ネットワー
ク上での無駄な再送データを減らすことができ、画像デ
ータの遅延も最小限に抑えることができる。
【0075】コマンド生成部は、最初に再送されたフレ
ーム内モードの圧縮画像データを受信したあと所定時間
が経過したときまでに正常な受信がされないときは、再
度フレーム内モードコマンドを生成するとした場合に
は、ネットワークのエラー発生頻度が高い場合であって
も、再送データを受信したあとの所定時間経過後に再度
フレーム内モードコマンドを生成するため、ネットワー
ク上での無駄な再送データを減らすことができ、画像デ
ータの遅延も最小限に抑えることができる。
【0076】所定時間は、フレーム内モードの画像デー
タの送信間隔の半分の時間よりも短い時間とした場合に
は、ネットワーク上での無駄な再送データを減らすこと
ができ、画像データの遅延も最小限に抑えることができ
る。
【図面の簡単な説明】
【図1】 本発明の実施の形態における動画像データ通
信システムの構成の例を示すブロック図である。
【図2】 本発明の実施の形態における動画像データ通
信装置の構成の例を示すブロック図である。
【図3】 本発明の第1の実施の形態における動画像デ
ータ通信システムの通信処理の例を示すシーケンス図で
ある。
【図4】 本発明の第2の実施の形態における動画像デ
ータ通信システムの通信処理の例を示すシーケンス図で
ある。
【符号の説明】
100 動画像データ通信システム 110,120 動画像データ通信装置 111 画像圧縮部 112 誤り検出符号付加部 113 パケット送信部 114 パケット受信部 115 誤り検出部 116 画像伸張部 117 パケット損失検出部 118 コマンド生成解析部 119 送信制御部 130,140 ネットワークインタフェース 150,160 画像取り込み装置 170,180 画像表示装置 190 ネットワーク

Claims (7)

    【特許請求の範囲】
  1. 【請求項1】 動画像データをフレーム内モードまたは
    フレーム間モードで圧縮した圧縮画像データを通信ネッ
    トワークを介して送信する送信装置と、上記圧縮画像デ
    ータを受信して伸張する受信装置とを含む動画像データ
    通信システムにおいて、 受信装置は、各種コマンドを生成するコマンド生成部
    と、フレーム間モードの圧縮画像データのエラーを検出
    したときにフレーム内モードコマンドを生成するよう上
    記コマンド生成部を制御する送信制御部と、上記コマン
    ド生成部が生成したコマンドを送信する送信部とを含
    み、 送信装置は、上記フレーム内モードコマンドに基づいて
    これから処理するフレームデータをフレーム内モードで
    圧縮する圧縮部と、該圧縮部が処理した圧縮画像データ
    を送信する送信部とを含む動画像データ通信システム。
  2. 【請求項2】 受信装置は、フレーム間モードの圧縮画
    像データのエラーの検出によりエラー発生データに関す
    る圧縮画像データを破棄するデータ破棄手段と、上記エ
    ラーの検出によりフレーム内モードの圧縮画像データを
    受信するまで受信データを破棄する受信データ破棄手段
    とを備えた受信部を含む請求項1記載の動画像データ通
    信システム。
  3. 【請求項3】 送信部は、フレーム内モードコマンドに
    基づいて送信待ちとなっている圧縮画像データを破棄す
    る送信データ破棄手段を備える請求項2記載の動画像デ
    ータ通信システム。
  4. 【請求項4】 コマンド生成部は、フレーム内モードの
    圧縮画像データのエラーを検出したときに再送コマンド
    を生成し、 送信部は、上記再送コマンドに基づいてエラーの発生し
    た圧縮画像データを再送する請求項1ないし請求項3記
    載の動画像データ通信システム。
  5. 【請求項5】 コマンド生成部は、エラーが発生したあ
    と所定時間が経過したときまでに正常な受信がされない
    ときは、再度フレーム内モードコマンドを生成する請求
    項1ないし請求項4記載の動画像データ通信システム。
  6. 【請求項6】 コマンド生成部は、最初に再送されたフ
    レーム内モードの圧縮画像データを受信したあと所定時
    間が経過したときまでに正常な受信がされないときは、
    再度フレーム内モードコマンドを生成する請求項1ない
    し請求項4記載の動画像データ通信システム。
  7. 【請求項7】 所定時間は、フレーム内モードの画像デ
    ータの送信間隔の半分の時間よりも短い時間とした請求
    項6記載の動画像データ通信システム。
JP28470899A 1999-10-05 1999-10-05 動画像データ通信システム Expired - Fee Related JP3622590B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP28470899A JP3622590B2 (ja) 1999-10-05 1999-10-05 動画像データ通信システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP28470899A JP3622590B2 (ja) 1999-10-05 1999-10-05 動画像データ通信システム

Publications (2)

Publication Number Publication Date
JP2001111993A true JP2001111993A (ja) 2001-04-20
JP3622590B2 JP3622590B2 (ja) 2005-02-23

Family

ID=17681961

Family Applications (1)

Application Number Title Priority Date Filing Date
JP28470899A Expired - Fee Related JP3622590B2 (ja) 1999-10-05 1999-10-05 動画像データ通信システム

Country Status (1)

Country Link
JP (1) JP3622590B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002335505A (ja) * 2001-05-08 2002-11-22 Mega Chips Corp 画像信号処理装置および画像配信システム
JP2009246895A (ja) * 2008-03-31 2009-10-22 Saxa Inc 映像通信装置および映像通信方法
JP2010245638A (ja) * 2009-04-01 2010-10-28 Fujitsu Semiconductor Ltd 映像データ通信システム

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002335505A (ja) * 2001-05-08 2002-11-22 Mega Chips Corp 画像信号処理装置および画像配信システム
JP2009246895A (ja) * 2008-03-31 2009-10-22 Saxa Inc 映像通信装置および映像通信方法
JP2010245638A (ja) * 2009-04-01 2010-10-28 Fujitsu Semiconductor Ltd 映像データ通信システム

Also Published As

Publication number Publication date
JP3622590B2 (ja) 2005-02-23

Similar Documents

Publication Publication Date Title
US8681197B2 (en) Communication system, terminal apparatus and computer program
US8005028B2 (en) Data communication system, data transmitting device, data transmitting method, data receiving device, and data receiving method
CN107231328B (zh) 实时视频传输方法、装置、设备及系统
KR100552343B1 (ko) 세그먼트프레임을사용하는비디오코딩및채널에러를극복하기위한재전송
JP5356652B2 (ja) 分類されたメディア経験の質
JPH09191314A (ja) 連続データ伝送方法および連続データ伝送装置
JP2007143113A (ja) 送受信システム、送信装置、および送信方法
CN111866526B (zh) 一种直播业务处理方法和装置
JPWO2012114774A1 (ja) 動画像符号化装置および動画像復号装置
CN109862400B (zh) 一种流媒体传输方法、装置及其系统
Lehman et al. Experiments with delivery of HDTV over IP networks
US8731069B2 (en) Remote display system and method
JP4488958B2 (ja) 映像伝送システム及び映像伝送方法
JP2001111993A (ja) 動画像データ通信システム
JP2000278720A (ja) 動画通信評価装置、及び動画通信評価方法
KR101487771B1 (ko) 이동통신 시스템에서 영상 정보를 복구하기 위한 방법 및장치
JPH08191451A (ja) 動画像送信装置
KR100363550B1 (ko) 동영상 인코딩 장치 및 무선 단말기의 동영상 디코딩 장치
JP2004282340A (ja) 映像データ処理システム及び方法並びに映像データ処理装置
JP7264517B2 (ja) 送信装置、受信装置、制御方法、およびプログラム
US11184502B2 (en) Communication system, reception terminal, communication method, and recording medium
JP7431207B2 (ja) データ受信装置、データ受信方法、及び、プログラム
CN115102927B (zh) 一种保持视频清晰的sip对讲方法、系统、存储装置
JP3530094B2 (ja) データ通信装置及び通信制御方法
EP4262218A1 (en) Wireless screen projection method and apparatus

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040810

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20041007

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20041102

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20041115

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20071203

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081203

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091203

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091203

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101203

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101203

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111203

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111203

Year of fee payment: 7

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111203

Year of fee payment: 7

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111203

Year of fee payment: 7

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121203

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121203

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121203

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121203

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131203

Year of fee payment: 9

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees