JP3668110B2 - 画像伝送システムおよび画像伝送方法 - Google Patents
画像伝送システムおよび画像伝送方法 Download PDFInfo
- Publication number
- JP3668110B2 JP3668110B2 JP2000264384A JP2000264384A JP3668110B2 JP 3668110 B2 JP3668110 B2 JP 3668110B2 JP 2000264384 A JP2000264384 A JP 2000264384A JP 2000264384 A JP2000264384 A JP 2000264384A JP 3668110 B2 JP3668110 B2 JP 3668110B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- data
- unit
- buffer
- transmission
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/30—Flow control; Congestion control in combination with information about buffer occupancy at either end or at transit nodes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/24—Traffic characterised by specific attributes, e.g. priority or QoS
- H04L47/2458—Modification of priorities while in transit
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
- H04L67/62—Establishing a time schedule for servicing the requests
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L69/00—Network arrangements, protocols or services independent of the application payload and not provided for in the other groups of this subclass
- H04L69/30—Definitions, standards or architectural aspects of layered protocol stacks
- H04L69/32—Architecture of open systems interconnection [OSI] 7-layer type protocol stacks, e.g. the interfaces between the data link level and the physical level
- H04L69/322—Intralayer communication protocols among peer entities or protocol data unit [PDU] definitions
- H04L69/329—Intralayer communication protocols among peer entities or protocol data unit [PDU] definitions in the application layer [OSI layer 7]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/32—Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
- H04N1/32609—Fault detection or counter-measures, e.g. original mis-positioned, shortage of paper
- H04N1/32614—Fault detection or counter-measures, e.g. original mis-positioned, shortage of paper related to a single-mode communication, e.g. at the transmitter or at the receiver
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/32—Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
- H04N1/32609—Fault detection or counter-measures, e.g. original mis-positioned, shortage of paper
- H04N1/32625—Fault detection
- H04N1/32641—Fault detection of transmission or transmitted data, e.g. interruption or wrong number of pages
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/32—Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
- H04N1/32609—Fault detection or counter-measures, e.g. original mis-positioned, shortage of paper
- H04N1/32646—Counter-measures
- H04N1/32683—Preventive counter-measures, e.g. using redundant hardware, or anticipating a fault
Description
【発明の属する技術分野】
本発明は画像伝送のためのシステムおよび方法に関し、特に符号化された動画像/静止画像をISDNやインターネット等の有線通信網、あるいはPHSや衛星通信等の無線通信網を用いて伝送するシステムおよび方法に関する。
【0002】
【従来の技術】
近年、画像をはじめとする各種情報のディジタル符号化技術および広帯域ネットワーク技術の進展により、これらを利用したアプリケーションの開発が盛んになっており、圧縮符号化した画像などを、通信網を利用して伝送するシステムが開発されている。
【0003】
特に近年、インターネット・イントラネットの普及により、データをパケット化して送受信するアプリケーションやシステムが増加してきている。パケット化は通信路の帯域を効率よく複数のユーザで共有するための非常に有効な手段となっている。インターネット・イントラネットでパケットデータを送受信するプロトコルとしてはTCP/IPやUDP/IPなどが存在する。TCP/IPは再送などの枠組みが組み込まれていることから誤りなどに強く、多少時間がかかっても正しくデータを受信したいダウンロード型のアプリケーションで有効である。これに対し、UDP/IPは再送の枠組みがない反面、再送などにかかる遅延がなく、リアルタイム性を求められるアプリケーションには非常に有効である。
【0004】
通常の動画像通信の場合、画像データは非常に膨大なデータ量であり、ネットワークの帯域に収まらない場合がほとんどである。その場合、画像データを符号化し、データ量を小さくしてから伝送するという手法が用いられる。動画像信号の圧縮符号化技術としては動き補償、離散コサイン変換(DCT)、サブバンド符号化、ピラミッド符号化、可変長符号化等の技術やこれらを組み合わせた方式が開発されている。動画像符号化の国際標準方式としてはISO MPEG−1,MPEG−2,ITU−T H.261,H.262,H.263が存在し、また動画像、音声・オーディオ信号を圧縮した符号列や他のデータを多重化する国際標準方式としてはISO MPEGシステム、ITU−T H.221,H.223が存在する。
【0005】
従来、動画像データをインターネット・イントラネット上で伝送する場合、図23に示すような構成が用いられていた。画像入力部101から出力された画像データ131を画像符号化部102において符号化しネットワークの帯域に合った符号化データ132に変換される。符号化データ132は符号化データ送信部107において、指定された受信先へ送信データ136として送信されることとなる。ここで画像符号化部102では、ネットワークの帯域に合った形でデータを符号化する必要がある。通常、動画像データのフレームレートはNTSCで29.97fps、PALで25fpsとなっている。しかし、このフレームレートそのままでは既存の符号化方式を用いてもインターネットやイントラネットといった回線の帯域では有効な画質を得ることが難しい。そこで、図24のように、全フレームを符号化するのではなくフレームを間引きながら符号化して、データ量を抑える方式を取ることが多い。
【0006】
しかしこのようなフレーム間引き符号化方式を用いると、画像符号化部102から出力される符号化データ132の出力タイミングが図25に示すように非常に偏ったものとなる。符号化データ送信部107で符号化データ132をそのまま受信側に送信すると、全体ではネットワークの帯域以下のデータでも一部区間を見ると帯域を越えているため、正しく送受信できなくなる。そこで従来は、図26に示すようなバッファ制御を用いて、必要な伝送レートが平滑化するように制御していた。バッファを含む符号化データ送信部107の基本構成を図28に示す。
【0007】
画像符号化部102から出力された符号化データ132はパケット構成部103においてある長さのパケット133に分割された後にバッファ部104に蓄えられる。送信部105では、このバッファ部104からデータ134を順次取り出し、受信側へ送信する。この手法をとることによりネットワークの帯域に合わせた送信を行うことが可能となる。
【0008】
ネットワークの帯域に合わせるためのバッファ制御などを行う場合、送信部によるデータの送出量が画像符号化部からのデータの出力量よりも少ないと、バッファがデータで一杯になった状態になってしまう。最悪は、バッファに入りきらないデータが発生してしまい、バッファあふれの状態になってしまう。従来はバッファが一杯になった場合は、画像符号化部を一旦停止し、送信部がデータを出力しバッファに空き容量が出来た時点で画像符号化部を再度動作させるという手順をとることでバッファあふれの問題を回避している。
【0009】
【発明が解決しようとする課題】
従来では伝送路の帯域に合わせるためにバッファ制御を行っていた。しかし、バッファ制御を利用しても、パケットの送信間隔には粗密な状態が発生してしまう。密な部分では、図27に示すようにパケットの送信間隔が狭くなるので、たとえデータ量が少なくネットワークの帯域は満足していても受信側のバッファやネットワークの途中のルータなどのバッファあふれによるデータ損失が発生する。
【0010】
また、送信側におけるバッファあふれの問題に関しては、従来方式では画像符号化部を一旦停止させるなどの処理によってデータの損失につながるようなあふれ状態は未然に防いでいる。しかし、この場合、バッファは常に一杯の状態で使用されることが多くなり、画像符号化部が動作したり停止したりと安定的に動作できない状態になってしまう。これでは、フレーム間引き符号化を行った際、図29に示すように、フレームの間隔が一定でなくなり、非常に見ずらい画像となってしまう。さらに、バッファの中にデータが入っている時間が多くなるため、図30に示されているように、取り込んだ画像が受信側に届くまで非常に時間がかかることになる。これはリアルタイムコミュニケーションにおいては致命的な問題となる。
【0011】
本発明は上述の事情を考慮してなされたものであり、受信側のバッファやネットワークの途中のルータなどのバッファあふれによるデータ損失を防止でき、またバッファの状態を考慮した効率のよいシステム動作を実現することが可能な画像伝送システムを提供することを目的とする。
【0012】
【課題を解決するための手段】
上述の課題を解決するため、本発明の画像伝送システムは、画像信号を入力する画像入力手段と、前記画像入力手段によって入力された入力画像信号を符号化する画像符号化手段と、前記画像符号化手段によって符号化されたデータをパケット化して送信する符号化データ送信手段であって、パケット化されたデータを蓄えるバッファと、前記バッファに蓄えられたパケットデータそれぞれが少なくとも予め決められた所定間隔以上空けて送信されるように、パケットデータ毎にその送信タイミングを遅延させるための遅延手段とを含む符号化データ送信手段と、前記バッファの蓄積データ量に応じて、前記画像入力手段、前記画像符号化手段および前記符号化データ送信手段それぞれの動作処理の優先度を変化させて前記入力画像信号のフレームレートを変化させる手段とを具備することを特徴とする。
【0013】
この画像伝送システムにおいては、符号化データ送信手段にパケットデータを遅延させて出力するための遅延手段が設けられており、この遅延手段による遅延時間の設定により、パケットデータに所定の送信時間間隔を設定することが可能となる。よって、パケットデータそれぞれを少なくとも予め決められた所定間隔以上空けて送信することができるので、非常に短い送信間隔でのパケット送出を抑制することが可能となり、受信側におけるデータ損失を少なくすることができる。
【0016】
また、前記バッファの蓄積データ量に応じて、前記画像入力手段、前記画像符号化手段および前記符号化データ送信手段それぞれの動作処理の優先度を変化させて前記入力画像信号のフレームレートを変化させることにより、バランス良く各処理を実行することが可能となる。よって、フレーム間引きの偏りなどの問題を解消できると共に、バッファにあまりデータが溜まらないように各処理を制御することで、画像伝送のリアルタイム性の向上を図ることも可能となる。特に、本画像伝送システムをマイクロプロセッサベースやソフトウェアによって実現する場合には、各処理の優先度はシステムリソースの割り当てによって容易に実現できる。
【0017】
また、前記入力画像信号の画像サイズに基づいて前記バッファのバッファサイズを算出するバッファサイズ算出手段と、前記バッファサイズ算出手段によって算出されたバッファサイズに基づいて、前記バッファとして使用されるデータ格納領域をメモリ上に確保する手段とをさらに具備することにより、メモリの使用量についても必要な分だけに留めることが可能となる。
【0018】
【発明の実施の形態】
(第1の実施形態)
図1は本発明の第1の実施形態に係る画像送信装置の基本構成図である。この画像送信装置は入力画像信号を符号化し、その符号化された画信号を有線通信網あるいは無線通信網を用いて伝送するためのものであり、図示のように、画像入力部101、画像符号化部102、パケット構成部103、バッファ部104、遅延発生部105、および送信部106を備えている。
【0019】
画像入力部101より入力された動画像/静止画像などの画像信号131は画像符号化部102で符号化される。画像符号化部102により符号化された符号化データ132はパケット構成部103に入力される。パケット構成部103では、符号化データ132をある決まった規則にしたがいヘッダ情報を付加しパケット化する。パケット構成部103で構成されたパケットデータ133はバッファ部104に入力され、そこに一時的に蓄えられる。
【0020】
バッファ部104から出力されたパケットデータ134は遅延発生部105に入力され、遅延発生部105により決定された時間だけ遅延される。遅延発生部105により遅延されたパケットデータ135は送信部106に入力され、有線通信網あるいは無線通信網を介して送信データ136として受信側に送信される。以下では場合により、パケット構成部103、バッファ部104、遅延発生部105、送信部106を合わせて符号化データ送信部107と呼ぶ。この符号化データ送信部107は、符号化データをパケット化し、パケットデータ毎にその送信タイミングを遅延発生部105を用いて遅延させることにより、パケットデータそれぞれを少なくとも予め決められた所定間隔以上空けて送信するためのものである。
【0021】
図2に遅延発生部105の詳細な構成図を示す。
【0022】
遅延発生部105は、図示のように、遅延部201、遅延量計算部202、およびタイマ部203から構成されている。バッファ部104から出力されたパケットデータ134は遅延部201に入力される。遅延部201では、入力されたパケットデータ134のデータサイズ、パケットデータの時間情報等のパケット構成情報231を遅延量計算部202に通知する。遅延量計算部202では遅延部201から通知されたパケット構成情報231から遅延量232を計算し、遅延部201に計算結果を遅延量232として通知する。遅延部201では遅延量計算部202から通知された遅延量232を元にタイマ部203からの時刻情報233と比較し、送信部106へのパケットデータ135の出力を一時的に中断し遅延させる。
【0023】
遅延量計算部202ではパケットデータのサイズとあらかじめ設定されているネットワークの帯域、および最低遅延時間とから遅延時間を計算する。最低遅延時間は、パケットデータの最小送信時間間隔に相当するものである。
【0024】
例えばパケットデータサイズをN(byte)、ネットワークの帯域(伝送レート)をR(bps)、最低遅延時間t(msec)とすると、以下に数1として示す数式1により求められるT(msec)が、遅延量として計算される。
【0025】
【数1】
【0026】
この式を利用して遅延時間を求めることで、ネットワークの帯域が非常に余裕がある場合など((N*8/R)*1000が非常に小さく0に近くなる場合など)でも最低遅延時間tにより連続してパケットが送出されることがなくなり、受信側へ安定したデータ伝送が可能となる。すなわち、(N*8/R)*1000が最低遅延時間t以上であれば、遅延量T(msec)は(N*8/R)*1000となり、(N*8/R)*1000が最低遅延時間tよりも小さい場合には、遅延量T(msec)は最低遅延時間tとなる。
【0027】
また、ネットワークの帯域については、あらかじめ設定された値を用いる他に、RTP/RTCP(Real Time Transport Protocol/Real Time Control Protocol)などのプロトコルを利用する等で実際の帯域を知ることが可能である。これらの値からRを動的に変化させて計算することで、さらにネットワークの状況に応じた遅延時間の制御を行うことも可能である。
【0028】
図3に本実施形態でのパケット送出間隔と従来例との比較の図を示す。従来型ではパケットの送信間隔が粗密な状態で密な部分では受信側でパケットロスを起こす可能性が存在した。これを本実施形態を採用し非常に短い送信間隔でのパケット送出を抑制することで、問題点を解決している。つまり、本実施形態では、バッファ部104に蓄積されたパケットを待ち時間をおかずに連続して送信するのではなく、遅延発生部105による遅延時間の制御により、パケットデータの送信時間間隔を最低遅延時間t以上に保ちながら送信しているので、粗密の少ない安定したパケットデータ送信が可能となるのである。
【0029】
図4に本実施形態での画像データの変換過程とそれに伴う処理時刻の推移について示す。これは、パケットそれぞれの送信タイミング間に、ある固定間隔だけ時間を空け、連続してパケットが送出されないようにしている例であり、符号化データから生成されたパケットデータ(a)〜(d)はそれぞれパケット送出間隔Δtだけ時間を空けて送信される。図5が同様に従来型の例を示した図であり、パケット送出間隔はゼロであり、待ち時間を置かずに連続的に送信される。さらに図6が前述の数式1を用いてパケット送出間隔を制御した場合の例であり、パケットデータ(a)〜(d)それぞれのデータサイズの違いにより、それぞれ最適なパケット送出間隔Δta ,Δtb,Δtc,Δtdが設定される。なお、図4は、数式1のRを無限大にした場合の特殊解と位置付けることも可能であり、本実施形態の範囲で説明付けることが可能である。
【0030】
(第1の実施形態の効果)
本実施形態を用いることで伝送ネットワークの帯域と受信側の処理速度双方に適応したデータ送信間隔を実現することが可能となる。これにより、帯域、処理速度等の理由によるデータ損失や誤りといった現象を防ぐことが可能となり、受信側での再生画像の品質低下を防ぐ効果がある。
【0031】
(第1の実施形態の変形例)
図1においてパケット構成部103、バッファ部104、遅延発生部105の構成順序は、特にこの接続に限定されるものではない。例えば、図7に示すように画像符号化部102から出力された符号化データ132をバッファ部104で保持し、その後、遅延発生部105を経てパケット構成部103に入力し、送信部106へ出力する構成でも本実施形態の効果を得ることが可能である。また、図8に示すようにバッファ部104の出力をパケット構成部103に入力後、遅延発生部105を経て送信部106へ出力される構成でも同様である。図1、図7、図8のいずれの場合でも、バッファ部104に蓄積されるのは符号化後のデータである。
【0032】
また、図9に示すように、予め符号化されたデータが符号化データ蓄積部901に存在し、それを前述の図1の実施形態と同様にパケット構成部103に入力し、その後バッファ部104で蓄積、遅延発生部105により遅延を生じさせ、送信部106から送信するというシステムを構成することも可能である。この例では符号化データを蓄積していたが、他の方法として、図10に示すように、符号化データをパケット化した後のパケットデータをパケットデータ蓄積部1001に予め蓄積しておき、それをバッファ部104、遅延発生部105、送信部106を介して送信するというシステム構成を利用しても良い。
【0033】
(第2の実施形態)
図11は本発明の第2の実施形態に係る画像送信装置の基本構成図である。ここでは、第1の実施形態と同一部分には同一の符号を付して説明を簡略化し、第1の実施形態と異なる部分を中心に説明することにする。
【0034】
画像入力部101より入力された画像信号131は画像符号化部102で符号化される。画像符号化部102により符号化された符号化データ132は符号化データ送信部107に入力される。符号化データ送信部107では、入力された符号化データ107を受信側に送信する。画像入力部101および画像符号化部102、符号化データ送信部107は、それぞれの処理量等の負荷情報1131,1132,1133を制御部1101に入力する。制御部1101では画像入力部101、画像符号化部102、符号化データ送信部107より入力された負荷情報1131,1132,1133から画像入力部101、画像符号化部102、符号化データ送信部107の優先度を決定する。
【0035】
制御部1101で決定された画像入力部101、画像符号化部102、符号化データ送信部107の優先度情報1134,1135,1136はそれぞれ画像入力部101、画像符号化部102、符号化データ送信部107に出力される。画像入力部101、画像符号化部102、符号化データ送信部107では入力された優先度情報1134,1135,1136に基づき動作を行う。
【0036】
次に制御部1101による優先度の割当方法について述べる。これはどのような方法でも用いることは可能であるが、効果的な例について以下に述べる。
【0037】
まず、画像入力部101、画像符号化部102、符号化データ送信部107に対し全て同じ優先度で動作を開始する。画像入力部101、画像符号化部102、符号化データ送信部107それぞれの負荷情報1131,1132,1133は例えば画像入力部101については入力画像のフレームレート(fps)を、画像符号化部102も符号化するフレームレート(fps)、符号化データ送信部107ではバッファ部104に蓄えられているデータ量を用いることとする。
【0038】
ただし、画像符号化部102のフレームレートは画像入力部101のフレームレートが下がると自動的に下がることから、画像入力部101の負荷情報1131と優先度1134で、画像入力部101および画像符号化部102の両方を制御しているのと同等とみなすことができる。よって、以下では画像入力部101および符号化データ送信部107の優先度の設定方法について述べるものとする。
【0039】
リアルタイム通信の場合、遅延というのが非常に問題になることから、バッファ部104内にデータがあまり溜まらない状態にすることが望ましい。そこで、符号化データ送信部107のバッファ部104に存在するデータ数がある値を超えた場合に、優先度に変化をつける制御を行う。基本的な制御フローを図12に示す。
【0040】
まずステップ1301でバッファ部104内のデータ数がある値Lを超えたかどうかの判定を行う。超えている場合はステップ1302で符号化データ送信部の優先度を上げ、反対に画像入力部の優先度を下げ、バッファ部104からデータがなくなりやすく制御を行う。超えていない場合は、特に優先度の変更はしない。例えば、最初どの部の負荷が大きいかわからないようなシステムでは、本制御方式を利用することで、適切な優先度の設定が可能となる。
【0041】
次に図13に一度変化させた優先度を元に戻すステップを組み込んだ方式のフローを示す。まずステップ1301でバッファ部104内のデータ数がある値Lを超えているかどうかの判定を行う。超えていた場合にはステップ1302で前述の方法と同様に符号化データ送信部107の優先度を上げ、反対に画像入力部101の優先度を下げる制御を行う。超えていなかった場合には、ステップ1401で符号化データ送信部107、画像入力部101を同一または初期値にする。この方法ではバッファ部104にデータが溜まりすぎている状態では符号化データ送信部107の優先度を上げることで、バッファ溜まりを解消するように動作し、バッファ部104に余裕が出てきた場合には、逆にフレームレートを上げ品質を高める方向に動作するようにできる。特に、システムの負荷がいつも一定ではなく、上下するようなシステムに対して有効である。
【0042】
図14は図13の方式を発展させた制御方法である。図13の制御方法はバッファ部104側の負荷にだけ対応し、それ以外は初期値や均等な優先度で動作していた。それに対し図14の方法では、画像入力部104側をより優先度を高くする制御も可能となる。この方式は、まずステップ1301でバッファ部104内のデータ数がL1を超えているかどうかの判定を行う。超えていた場合、ステップ1302で符号化データ送信部107の優先度を上げ、反対に画像入力部101の優先度を下げる制御を行う。反対にステップ1301でバッファ部104内のデータ数がL1を超えていない場合、ステップ1501に進む。ステップ1501では、バッファ部104内のデータ数がL2以下かどうかの判定を行う。L2以下の場合には、バッファ部104に余裕が出てきたと判定し、符号化データ送信部107の優先度を下げ、反対に画像入力部101の優先度を上げる制御を行う。もし、L2を超えていた場合には、まだバッファ部104に余裕がないことから、現状を維持する。
【0043】
このように、バッファ部104の蓄積データ量に応じて、画像入力部101、画像符号化部102、符号化データ送信部107のどの処理を優先的に実行させるかを制御することにより、バランス良く各処理を実行することが可能となる。よって、フレーム間引き符号化を行う場合でも、間引きフレームの偏りなどの問題を解消できると共に、バッファ部104にあまりデータが溜まらないように各処理を制御することで、画像伝送のリアルタイム性の向上を図ることが可能となる。
【0044】
優先度の制御は画像入力部101、画像符号化部102、符号化データ送信部107それぞれの動作処理速度を可変設定したり、あるいは本システムがマイクロプロセッサベースやコンピュータプログラムなどによって実現される場合には、画像入力部101、画像符号化部102、符号化データ送信部107それぞれに対するリソースの割り当てによって各部の動作処理の優先度を制御することができる。
【0045】
図15に本発明を受信側のシステムに適用した場合の構成図を示す。
【0046】
送信側からの符号化データ1631は符号化データ受信部1601で受信され、符号化データ1632として画像復号化部1302に入力される。画像復号化部1602では入力された符号化データ1632を復号し、画像信号1633を再生する。画像復号化部1602から出力された画像信号1633は画像出力部1603に入力され、画面に表示されたり、記憶媒体に記録されたりする。その際、符号化データ受信部1601および画像復号化部1602、画像出力部1603は、それぞれの処理量等の負荷情報1634,1635,1636を制御部1604に入力する。制御部1604では符号化データ受信部1601、画像復号化部1602、画像出力部1603より入力された負荷情報1634,1635,1636から符号化データ受信部1601、画像復号化部1602、画像出力部1603の優先度を決定する。制御部1604で決定された符号化データ受信部1601、画像復号化部1602、画像出力部1603の優先度情報1637,1638,1639はそれぞれ符号化データ受信部1601、画像復号化部1602、画像出力部1603に出力される。符号化データ受信部1601、画像復号化部1602、画像出力部1603では入力された優先度情報1637,1638,1639に基づき動作を行う。
【0047】
優先度の設定方法については、前述の画像送信装置と同様に行うことが可能である。図16に示すように符号化データ受信部1601では、受信部1801が受信したパケットデータ1831を一旦バッファ部1802に蓄積し、パケット復号部1803で元の符号化データ1632に復元した後、画像復号化部1602に出力する。これにより、バッファ部1802のところで画像送信装置と同様のバッファ溜まりの問題が発生する。そこで、画像受信装置の場合には図17で示すようなフローで制御を行う。
【0048】
まずステップ1701でバッファ部1802内のデータ数がある値Lを超えたかどうかの判定を行う。超えている場合はステップ1702で符号化データ受信部1601の優先度を下げ、反対に画像復号化部1602の優先度を上げ、バッファ部1802からデータがなくなりやすく制御を行う。超えていない場合は、特に優先度の変更はしない。
【0049】
(第2の実施形態の効果)
本実施形態を用いることでシステム全体として最適なパフォーマンスを得ることができるようになる。特にパーソナルコンピュータ上で実行されるソフトウェアを用いて画像送信/画像受信を行う場合には、各処理に対するCPUの割り当てを最適化することが可能となる。
【0050】
(第3の実施形態)
図18は本発明の第3の実施形態に係る画像送信装置の基本構成図である。ここでは、第1の実施形態と同一部分には同一の符号を付して説明を簡略化し、第1の実施形態と異なる部分を中心に説明することにする。
【0051】
画像入力部101より入力された画像信号131は画像符号化部102で符号化される。画像符号化部102により符号化された符号化データ132はパケット構成部103に入力される。パケット構成部103では、符号化データ132をある決まった規則にしたがいヘッダ情報を付加しパケット化する。パケット構成部103で構成されたパケットデータ133はバッファ部104に入力されパケットデータ133が一時的に蓄えられる。バッファ部104から出力されたパケットデータ134は遅延発生部105に入力され、遅延発生部105により決定された時間だけ遅延される。遅延発生部105により遅延されたパケットデータ135は送信部106に入力され、受信側に送信される。
【0052】
画像入力部101、画像符号化部102、パケット構成部103、バッファ部104、遅延発生部105、送信部106は、制御部1901から出力される制御情報1931,1932,1933,1934,1935,1936を用いて動作を行う。図19にバッファ部104の詳細な構成図を示す。
【0053】
バッファ部104はバッファサイズ計算部2101とデータ格納部2102とから構成されている。バッファサイズ計算部2101では、制御部1901から通知された画像サイズ、パケットサイズ等の制御情報1934からバッファ量として適当なサイズを計算する。算出されたバッファサイズ2131はデータ格納部2102に入力されバッファサイズ2131に基づきデータ格納領域の確保が行われる。その後、パケット構成部103から出力されたパケットデータ133がデータ格納部に蓄えられるとともに、順次遅延発生部105に対してパケットデータ134を出力していく。
【0054】
ここで述べるバッファサイズというのはデータ格納部でパケットデータをいくつ保存することができるかという値である。ここでは、Nb 個と定義する。ビットレートBR(bps)、パケットサイズSp (byte)、バッファに蓄える最大時間T(sec)とした場合、Nb は、以下に数2として示す式により求められる。
【0055】
【数2】
【0056】
ここでαはシステムに余裕をもたせるための値で、任意に設定することが可能である。
【0057】
例えばコンピュータ上で実行されるソフトウェアによって画像送信装置を実現した場合には、コンピュータのメモリ上にバッファ部104のデータ格納部2102が確保されることになるが、上述のようなバッファサイズの最適化機能を組み込むことにより、メモリの使用量を必要分だけにとどめることが可能となる。
【0058】
次に画像受信装置について述べる。画像受信装置でも前述の画像送信装置と同様の手法が利用可能である。
【0059】
図20に画像受信装置の基本構成図を示す。
送信側からの符号化データ1631は符号化データ受信部1601で受信され、符号化データ1632として画像復号化部1602に入力される。画像復号化部1602では入力された符号化データ1632を復号し、画像信号1633を再生する。画像復号化部1602から出力された画像信号1633は画像出力部1603に入力され、画面に表示されたり、記憶媒体に記録されたりする。符号化データ受信部1601は、図示のように、受信部1801、バッファ部1802、パケット復号部1803から構成される。受信部1801では送信側から送信されたデータ1631を受信し、そのデータ受信部1801から出力する。バッファ部1802では受信部1801から出力された受信データ1831を入力し、一時蓄積を行いパケット復号部1803へ出力する。パケット復号部1803ではバッファ部1802から出力されたパケットデータ1832から元の符号化データ1632を復号し画像復号化部1602へ出力する。
【0060】
受信部1801、バッファ部1802、パケット復号部1803、画像復号化部1602、および画像出力部1603は、制御部2001から出力される制御情報2031,2032,2033,2034,2035を用いて動作を行う。バッファ部1802の構成は画像送信装置と同様に図21のようになる。
【0061】
すなわち、バッファ部1802は、バッファサイズ計算部2101とデータ格納部2102とから構成されている。バッファサイズ計算部2101では、制御部2001から通知された画像サイズ、パケットサイズ等の制御情報2032からバッファ量として適当なサイズを計算する。算出されたバッファサイズ2131はデータ格納部2102に入力されバッファサイズに基づきデータ格納領域の確保が行われる。その後、受信部1801から出力されたパケットデータ1831がデータ格納部2102に蓄えられるとともに、順次パケット復号部1803に対してパケットデータ1832を出力していく。
【0062】
ここで、受信側は初期状態ではどのような画像サイズの画像が送信されてくるか不明な場合がある。MPEG−4のような画像符号化データなどはその符号化データの中に画像サイズ等の情報を含んでいる。そこで、初期状態ではバッファサイズは未定とし、最初のデータを受信、パケット内容を解析してから、バッファサイズを決定する方法も可能である。この方式に対応した構成図を図22に示す。図20と異なる点は、画像復号化部1602から制御部2001に対して復号した画像サイズ等のデータ2231を通知することが可能となっている点である。これにより、バッファ部1802ではまず、初期値のバッファサイズで格納領域を確保し、その後受信したデータを復号することにより判明した画像サイズ等のデータで再度バッファの格納領域を決定し動作する。
【0063】
(第3の実施形態の効果)
バッファサイズを、伝送する画像サイズ(解像度)に合わせて適応的に変更することで、メモリ等の資源を有効活用することが可能である。例えば、NTSCのTVサイズ(720画素×486画素)で画像を伝送する場合と、非常に小さなQCIF(176画素×144画素)で画像を伝送する場合で同じバッファ量を確保していてはQCIFの場合は無駄になる。特に、携帯電話やPDAなどのようにメモリ容量の小さな機器などで動作させることを考える場合この方法は有効である。
【0064】
以上、各実施形態に分けてその機能及び動作について説明したが、実施形態1〜3は適宜組み合わせて利用することができる。また、各実施形態の画像送信装置/画像受信装置の機能はコンピュータプログラムによって実現することもでき、そのコンピュータプログラムをコンピュータ読み取り可能な記憶媒体に記憶しておき、その記憶媒体からコンピュータプログラムを読み取ってCPUに実行させることにより、通常のコンピュータ上で本実施形態と同様の効果を容易に得ることが可能となる。
【0065】
なお、本発明は、上記各実施形態に限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で種々に変形することが可能である。更に、上記実施形態には種々の段階の発明が含まれており、開示される複数の構成要件における適宜な組み合わせにより種々の発明が抽出され得る。例えば、実施形態に示される全構成要件から幾つかの構成要件が削除されても、発明が解決しようとする課題の欄で述べた課題の少なくとも1つが解決でき、発明の効果の欄で述べられている効果の少なくとも1つが得られる場合には、この構成要件が削除された構成が発明として抽出され得る。
【0066】
【発明の効果】
以上説明したように、本発明によれば、パケットデータそれぞれを少なくとも予め決められた所定間隔以上空けて送信することにより、受信側におけるデータ損失を少なくすることができる。また、効率的に優先度を設定することでシステム全体を効率的に動作させることも可能となる。さらに、メモリの使用量を必要分だけにとどめることが可能となる。
【図面の簡単な説明】
【図1】本発明の第1実施形態に係る画像送信装置の構成を示すブロック図。
【図2】同第1実施形態の画像送信装置に設けられている遅延発生部の構成を示すブロック図。
【図3】従来型のパケット送信間隔と同第1実施形態の画像送信装置のパケット送信間隔を示す図。
【図4】同第1実施形態の画像送信装置によるデータ変換過程と処理時間との関係を示す図。
【図5】従来型のデータ変換過程と処理時間との関係を示した図。
【図6】同第1実施形態の画像送信装置によるデータ変換過程と処理時間との関係の別の例を示す図。
【図7】同第1実施形態の画像送信装置に適用される符号化データ送信部の第2の構成例を示すブロック図。
【図8】同第1実施形態の画像送信装置に適用される符号化データ送信部の第3の構成例を示すブロック図。
【図9】同第1実施形態の画像送信装置の変形例を示すブロック図。
【図10】同第1実施形態の画像送信装置の他の変形例を示すブロック図。
【図11】本発明の第2実施形態に係る画像送信装置の構成を示すブロック図。
【図12】同第2実施形態の画像送信装置における優先度割当方法の第1の例を示すフローチャート。
【図13】同第2実施形態の画像送信装置における優先度割当方法の第2の例を示すフローチャート。
【図14】同第2実施形態の画像送信装置における優先度割当方法の第3の例を示すフローチャート。
【図15】同第2実施形態の画像送信装置の優先度割当方法を適用した画像受信装置の構成を示すブロック図。
【図16】図15の画像受信装置に設けられる符号化データ受信部の構成を示すブロック図。
【図17】図15の画像受信装置における優先度割当方法の例を示すフローチャート。
【図18】本発明の第3実施形態に係る画像送信装置の構成を示すブロック図。
【図19】同第3実施形態の画像送信装置に設けられるバッファ部の構成を示すブロック図。
【図20】同第3実施形態の画像送信装置におけるバッファサイズ割り当て方法を適用した画像受信装置の構成を示すブロック図。
【図21】図20の画像受信装置に設けられるバッファ部の構成を示すブロック図。
【図22】図20の画像受信装置の他の構成例を示すブロック図。
【図23】従来の画像送信装置の基本構成図。
【図24】全フレーム符号化とフレーム間引き符号化の説明図。
【図25】全フレーム符号化とフレーム間引き符号化のデータ量を示す図。
【図26】バッファ未使用とバッファ使用の画像送信装置における伝送レートの推移を示す図。
【図27】従来のパケット送信間隔による受信失敗の例を示す図。
【図28】従来の符号化データ送信部の構成図。
【図29】従来のバッファを利用した画像送信装置の出力フレームの例を示す図。
【図30】従来のバッファを利用した場合の総遅延時間を表した図。
【符号の説明】
101…画像入力部
102…画像符号化部
103…パケット構成部
104,1802…バッファ部
105…遅延発生部
106…送信部
107…符号化データ送信部
201…遅延部
202…遅延計算部
203…タイマ部
231…パケット構成情報
901…符号化データ蓄積部
1001…バケットデータ蓄積部
1101,1604,1901,2001…制御部
1601…符号化データ受信部
1602…画像復号化部
1603…画像出力部
1801…受信部
1803…パケット復号部
2101…バッファサイズ計算部
2102…データ格納部
Claims (6)
- 画像信号を入力する画像入力手段と、
前記画像入力手段によって入力された入力画像信号を符号化する画像符号化手段と、
前記画像符号化手段によって符号化されたデータをパケット化して送信する符号化データ送信手段であって、パケット化されたデータを蓄えるバッファと、前記バッファに蓄えられたパケットデータそれぞれが少なくとも予め決められた所定間隔以上空けて送信されるように、パケットデータ毎にその送信タイミングを遅延させるための遅延手段とを含む符号化データ送信手段と、
前記バッファの蓄積データ量に応じて、前記画像入力手段、前記画像符号化手段および前記符号化データ送信手段それぞれの動作処理の優先度を変化させて前記入力画像信号のフレームレートを変化させる手段とを具備することを特徴とする画像伝送システム。 - 前記入力画像信号の画像サイズに基づいて前記バッファのバッファサイズを算出するバッファサイズ算出手段と、
前記バッファサイズ算出手段によって算出されたバッファサイズに基づいて、前記バッファとして使用されるデータ格納領域をメモリ上に確保する手段とをさらに具備することを特徴とする請求項1記載の画像伝送システム。 - 前記遅延手段による遅延時間は、前記所定間隔を示す最小遅延時間と、前記パケットデータの送信に使用されるネットワークの帯域と、前記パケットデータのデータサイズとに基づいて決定されることを特徴とする請求項1または請求項2記載の画像伝送システム。
- 符号化された画像信号をパケット化して送信するための画像伝送方法であって、
画像信号を入力する画像入力処理を実行するステップと、
入力された画像信号を間引いて符号化する画像符号化処理を実行するステップと、
符号化によって得られたデータをパケット化して送信する符号化データ送信処理であって、前記パケット化されたデータをバッファに蓄積する処理と、パケットデータ毎にその送信タイミングを遅延させることにより、パケットデータそれぞれを少なくとも予め決められた所定間隔以上空けて送信する処理とを含む符号化データ送信処理を実行するステップと、
前記バッファの蓄積データ量に応じて、前記画像入力処理、前記画像符号化処理および前記符号化データ送信処理それぞれの動作処理の優先度を変化させて前記入力画像信号のフレームレートを変化させるステップとを具備することを特徴とする画像伝送方法。 - 前記入力画像信号の画像サイズに基づいて前記バッファのバッファサイズを算出するステップと、
前記算出されたバッファサイズに基づいて、前記バッファとして使用されるデータ格納領域をメモリ上に確保するステップとをさらに具備することを特徴とする請求項4記載の画像伝送方法。 - 前記符号化データ送信処理を実行するステップにおける前記所定間隔以上空けて送信する処理による遅延時間は、前記所定間隔を示す最小遅延時間と、前記パケットデータの送信に使用されるネットワークの帯域と、前記パケットデータのデータサイズとに基づいて決定されることを特徴とする請求項4または請求項5記載の画像伝送方法。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000264384A JP3668110B2 (ja) | 2000-08-31 | 2000-08-31 | 画像伝送システムおよび画像伝送方法 |
EP20010307364 EP1187460A3 (en) | 2000-08-31 | 2001-08-30 | Image transmitting method and apparatus and image receiving method and apparatus |
US09/941,686 US20020054635A1 (en) | 2000-08-31 | 2001-08-30 | Image transmitting method and apparatus and image receiving method and apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000264384A JP3668110B2 (ja) | 2000-08-31 | 2000-08-31 | 画像伝送システムおよび画像伝送方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2002077260A JP2002077260A (ja) | 2002-03-15 |
JP3668110B2 true JP3668110B2 (ja) | 2005-07-06 |
Family
ID=18751810
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000264384A Expired - Fee Related JP3668110B2 (ja) | 2000-08-31 | 2000-08-31 | 画像伝送システムおよび画像伝送方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20020054635A1 (ja) |
EP (1) | EP1187460A3 (ja) |
JP (1) | JP3668110B2 (ja) |
Families Citing this family (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4585155B2 (ja) * | 2001-09-07 | 2010-11-24 | 株式会社リコー | 通信端末装置の伝送制御方法及び通信端末装置 |
JP2003209594A (ja) * | 2002-01-16 | 2003-07-25 | Sony Corp | プログラム、記録媒体、並びに情報送信装置および方法 |
EP1581004B1 (en) * | 2002-11-29 | 2014-10-29 | Sony Corporation | Encoder and its method |
US6886203B2 (en) * | 2003-01-15 | 2005-05-03 | Louis J. Drakos | Mattress lifter |
KR100602916B1 (ko) * | 2003-05-23 | 2006-07-19 | 가부시키가이샤 히다치 고쿠사이 덴키 | 화상전송방법 및 화상전송장치 |
JP4541758B2 (ja) * | 2003-05-23 | 2010-09-08 | 株式会社日立国際電気 | 画像伝送装置 |
KR101014233B1 (ko) * | 2003-10-22 | 2011-02-14 | 엘지전자 주식회사 | 대화형 광디스크의 부가 오디오 파일 관리 및 재생방법 |
JP4289138B2 (ja) * | 2003-12-09 | 2009-07-01 | ソニー株式会社 | データ処理装置およびその方法と符号化装置 |
KR100652689B1 (ko) * | 2004-10-26 | 2006-12-07 | 엘지전자 주식회사 | 휴대단말기에서의 컨텐츠의 사이즈 분석 방법 |
US20060239152A1 (en) * | 2005-04-25 | 2006-10-26 | Mediatek Incorporation | Disc recording methods and systems |
JP4404848B2 (ja) * | 2005-12-05 | 2010-01-27 | Necアクセステクニカ株式会社 | 帯域制限方法および装置、それを用いたネットワーク通信機器 |
JP2007200076A (ja) * | 2006-01-27 | 2007-08-09 | Toshiba Corp | データ送受信システム、データ送信装置、データ送受信方法、及びプログラム |
JP4488027B2 (ja) * | 2007-05-17 | 2010-06-23 | ソニー株式会社 | 情報処理装置および方法、並びに、情報処理システム |
JP4936542B2 (ja) | 2007-08-14 | 2012-05-23 | キヤノン株式会社 | 通信制御装置、通信制御方法、及びコンピュータプログラム |
JP5449010B2 (ja) * | 2010-04-28 | 2014-03-19 | 三菱電機株式会社 | 映像信号送信端末、映像信号受信端末、及び通信システム |
JP5776022B2 (ja) | 2011-04-13 | 2015-09-09 | パナソニックIpマネジメント株式会社 | 制御装置 |
CN102739511B (zh) * | 2011-04-14 | 2015-06-24 | 富士通株式会社 | 数据处理系统及数据处理方法 |
US20170244894A1 (en) * | 2016-02-22 | 2017-08-24 | Seastar Labs, Inc. | Method and Apparatus for Managing Latency of Remote Video Production |
US10904224B2 (en) * | 2017-09-29 | 2021-01-26 | Rolls-Royce Corporation | Aircraft engine monitoring system |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5566208A (en) * | 1994-03-17 | 1996-10-15 | Philips Electronics North America Corp. | Encoder buffer having an effective size which varies automatically with the channel bit-rate |
US5668599A (en) * | 1996-03-19 | 1997-09-16 | International Business Machines Corporation | Memory management for an MPEG2 compliant decoder |
JP3908789B2 (ja) * | 1996-08-30 | 2007-04-25 | コーニンクレッカ、フィリップス、エレクトロニクス、エヌ.ヴィ. | ビデオ伝送システム |
US5995488A (en) * | 1996-10-08 | 1999-11-30 | Advanced Micro Devices, Inc. | Method and apparatus for regulating data flow in networks |
US5838688A (en) * | 1996-10-11 | 1998-11-17 | Advanced Micro Devices, Inc. | Determining the number of active nudes on an ethernet network by counting a number of packet receptions |
US5963560A (en) * | 1997-03-05 | 1999-10-05 | Advanced Micro Devices, Inc. | Method and arrangement for providing multi-level priority in a rotating priority arrangement for access to medium in an ethernet network |
US6040866A (en) * | 1997-08-19 | 2000-03-21 | Chen; Meng-Chang | Transmission of variable-bit-rate information data on constant-bit-rate channel |
US6625656B2 (en) * | 1999-05-04 | 2003-09-23 | Enounce, Incorporated | Method and apparatus for continuous playback or distribution of information including audio-visual streamed multimedia |
US7031306B2 (en) * | 2000-04-07 | 2006-04-18 | Artel Video Systems, Inc. | Transmitting MPEG data packets received from a non-constant delay network |
-
2000
- 2000-08-31 JP JP2000264384A patent/JP3668110B2/ja not_active Expired - Fee Related
-
2001
- 2001-08-30 US US09/941,686 patent/US20020054635A1/en not_active Abandoned
- 2001-08-30 EP EP20010307364 patent/EP1187460A3/en not_active Withdrawn
Also Published As
Publication number | Publication date |
---|---|
EP1187460A3 (en) | 2002-11-20 |
US20020054635A1 (en) | 2002-05-09 |
JP2002077260A (ja) | 2002-03-15 |
EP1187460A2 (en) | 2002-03-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3668110B2 (ja) | 画像伝送システムおよび画像伝送方法 | |
US8848790B2 (en) | Encoding processing apparatus and method for a moving image | |
JP4309098B2 (ja) | 階層型ビデオ符号化情報の伝送方法 | |
US8711929B2 (en) | Network-based dynamic encoding | |
US8837605B2 (en) | Method and apparatus for compressed video bitstream conversion with reduced-algorithmic-delay | |
JP2003244695A (ja) | 映像情報伝送方式、それに用いられる装置およびプログラム | |
JP2003525547A (ja) | スケーラブルビデオをストリーミングするための方法及び装置 | |
JP2007089137A (ja) | ロバストなストリーミングを行うためのサーバメディア処理による適応型メディアプレイアウト | |
JP2005260935A (ja) | 圧縮ビデオ・ビットストリームにおいて平均イメージ・リフレッシュ・レートを増加させる方法及び装置 | |
JP4903435B2 (ja) | メディア信号の送信方法と受信方法ならびに送受信方法及び装置 | |
US20050089092A1 (en) | Moving picture encoding apparatus | |
KR100601615B1 (ko) | 네트워크 대역폭에 적응적인 영상 압축 장치 | |
EP1371225A1 (en) | A low-delay video encoding method for concealing the effects of packet loss in multi-channel packet switched networks | |
JPH10336670A (ja) | 画像伝送装置および画像伝送方法、提供媒体 | |
US6412013B1 (en) | System for controlling data output to a network | |
KR100511034B1 (ko) | 화상전송장치및화상전송방법 | |
US9009344B2 (en) | Method of sending data and associated device | |
JP2005322995A (ja) | リアルタイム映像転送におけるバッファ制御方法、送信端末、受信端末、映像配信システム、およびプログラム | |
US20070110168A1 (en) | Method for generating high quality, low delay video streaming | |
JP2003023639A (ja) | データ伝送装置及び方法、データ伝送プログラム、並びに記録媒体 | |
JP2008263443A (ja) | 情報処理装置および方法、並びにプログラム | |
JP3948597B2 (ja) | 動画像圧縮符号化送信装置、受信装置および送受信装置 | |
JP5675164B2 (ja) | 送信装置、送信方法、並びにプログラム | |
JP4343808B2 (ja) | 双方向画像通信システムにおけるサーバ及びその処理方法並びにプログラム | |
JP4049378B2 (ja) | 双方向画像通信システムにおけるサーバ及びその処理方法並びにプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20041007 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20041012 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20041213 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20050405 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20050407 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080415 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090415 Year of fee payment: 4 |
|
LAPS | Cancellation because of no payment of annual fees |