JP2000197043A - デ―タ通信制御装置及びその制御方法、画像処理装置及びその方法、及びデ―タ通信システム - Google Patents

デ―タ通信制御装置及びその制御方法、画像処理装置及びその方法、及びデ―タ通信システム

Info

Publication number
JP2000197043A
JP2000197043A JP37147898A JP37147898A JP2000197043A JP 2000197043 A JP2000197043 A JP 2000197043A JP 37147898 A JP37147898 A JP 37147898A JP 37147898 A JP37147898 A JP 37147898A JP 2000197043 A JP2000197043 A JP 2000197043A
Authority
JP
Japan
Prior art keywords
image data
data
compression
communication
data communication
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP37147898A
Other languages
English (en)
Other versions
JP4208315B2 (ja
JP2000197043A5 (ja
Inventor
Masami Kato
政美 加藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP37147898A priority Critical patent/JP4208315B2/ja
Priority to US09/469,798 priority patent/US6744927B1/en
Priority to US09/469,789 priority patent/US6684360B1/en
Publication of JP2000197043A publication Critical patent/JP2000197043A/ja
Priority to US10/852,159 priority patent/US20040213474A1/en
Publication of JP2000197043A5 publication Critical patent/JP2000197043A5/ja
Application granted granted Critical
Publication of JP4208315B2 publication Critical patent/JP4208315B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H03ELECTRONIC CIRCUITRY
    • H03MCODING; DECODING; CODE CONVERSION IN GENERAL
    • H03M13/00Coding, decoding or code conversion, for error detection or error correction; Coding theory basic assumptions; Coding bounds; Error probability evaluation methods; Channel models; Simulation or testing of codes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • G06T9/005Statistical coding, e.g. Huffman, run length coding
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B20/00Signal processing not specific to the method of recording or reproducing; Circuits therefor
    • G11B20/10Digital recording or reproducing
    • G11B20/18Error detection or correction; Testing, e.g. of drop-outs

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Probability & Statistics with Applications (AREA)
  • Multimedia (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Telephonic Communication Services (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)
  • Communication Control (AREA)

Abstract

(57)【要約】 【課題】 テレビ会議システムにおいて複数の会議参加
者の表情を高品位に表示することは困難であった。 【解決手段】 テレビ会議端末から送信されてきた画像
データをデコードした後、顔領域認識部15で顔領域を
認識し、量子化制御部17は顔領域以外の領域について
は量子化係数が大きくなるように設定する。そして、画
像エンコーダ16で該画像データを量子化係数に基づい
て圧縮して各端末に配信することにより、重要部位であ
る顔領域が鮮明に表示可能となる。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明はデータ通信制御装置
及びその制御方法、画像処理装置及びその方法、及びデ
ータ通信システムに関し、例えば、複数地点間の相互映
像通信を実現するデータ通信制御装置及びその制御方
法、画像処理装置及びその方法、及びデータ通信システ
ムに関する。
【0002】
【従来の技術】現在普及している多地点テレビ会議シス
テムは、ITU-T勧告H.320規格等に準拠するテレビ会議端
末を多地点間で相互通信可能とするものである。
【0003】このようなテレビ会議端末の多地点におけ
る接続を制御する多地点接続装置に関する標準規格とし
ては、多地点接続装置の機能構成や多地点通信の形態を
定義するITU-T勧告H.231、インチャンネルの通信手順を
定めたITU-T勧告H.243等が策定されている。
【0004】図1に、従来のテレビ会議システムの構成
を示す。同図によれば、多地点接続装置122は、3ポイン
ト以上のテレビ会議端末21a〜21nを相互接続し、音声の
ミキシング、映像データの配信制御あるいは映像データ
の多画面合成、更には、会議進行のための議長制御等を
司る。H.320規格に準ずる端末であれば、このような多
地点接続装置を使用して接続する事で、複数の遠隔地を
結ぶ多地点会議を実現する事が可能である。
【0005】従来のH.320規格に準ずるテレビ会議シス
テムにおいて多地点の相互映像通信を実現する場合、例
えば図1に示す多地点接続装置22からテレビ会議端末21a
〜21nへ画像データを配信する方法としては、(1)議長端
末が指示する特定のテレビ会議端末の映像を各テレビ会
議端末へ配信する方法、(2)図10に示す様に、多地点接
続装置22において各テレビ会議端末の映像を縮小して合
成することによって、各テレビ会議端末21a〜21nの画像
を限られた帯域で同時に配信する方法、等が実施されて
いる。尚、図10において31a〜31dは、各テレビ会議端末
21a〜21dから送出される映像データ、32は多地点接続装
置22から各テレビ会議端末21a〜21dへ配信される縮小合
成映像データを示す。
【0006】また、インターネット環境におけるテレビ
会議システムを実現するために、例えば米WhitePine社
のCU-SeeMe等のソフトウエアが提供されている。これら
の多地点テレビ会議システムによれば、各クライアント
端末から送出された画像データは多地点接続サーバを経
由して各クライアント端末にそのまま配信される。図11
に、当該方式における映像データ転送の様子を示す。図
11において41a〜41cはクライアントとなる端末であり、
映像・音声入出力機能を有するパーソナルコンピュータ
等により実現される。42は多地点接続サーバであり、各
クライアント端末41a〜41cの映像及び音声をそのまま各
クライアント端末41a〜41cに配信する。
【0007】
【発明が解決しようとする課題】しかしながら、上記従
来のH.320等の標準規格に基づく多地点接線方法による
テレビ会議システムにおいては、その各端末に対して限
られた帯域による通信を行なうため、(1)特定の会議参
加者の映像のみしか配信されない、あるいは、(2)複数
の会議参加者の縮小画像を伝送するため、各話者の画像
が不明瞭となる、等の問題があり、テレビ会議端末にお
いて複数の会議参加者を鮮明に表示することは困難であ
った。
【0008】また、図11に示すようなインターネットを
利用したテレビ会議システムにおいては、多地点接続サ
ーバ42は、各クライアント端末41a〜41cの映像及び音声
をそのまま各クライアント端末41a〜41cに配信する。例
えば多地点接続サーバ42とクライアント端末41a間にお
いては、クライアント端末41aから多地点接続サーバ42
へ端末情報Aを送出し、多地点接続サーバ42からクライ
アント端末41aへ他のクライアント端末41b,41cの端末
情報B,Cが転送される。従って、多地点接続サーバ42
からクライアント端末41a〜41cに配信される画像データ
の符号量は、参加者(端末)の数に比例して増加する。従
って、通信路に十分な帯域が確保されていない場合、ク
ライアント端末41a〜41cで受信される画像のフレームレ
ートが著しく低下してしまうため、受信した画像は例え
ばコマ落とし表示せざるを得ないという問題があった。
【0009】本発明は、このような問題を解決するため
になされたものであり、狭帯域通信路における高品位の
画像通信を可能とするデータ通信制御装置及びその制御
方法、及びデータ通信システムを提供することを目的と
する。
【0010】また、多地点テレビ会議システムにおいて
会議参加者の表情を鮮明に表示可能なデータ通信制御装
置及びその制御方法、及びデータ通信システムを提供す
ることを目的とする。
【0011】また、本発明は与えられた圧縮画像データ
を再利用する際の画質の劣化を低減した画像処理装置及
びその方法を提供することを他の目的とする。
【0012】
【課題を解決するための手段】上記目的を達成するため
の一手段として、本発明のデータ通信制御装置は以下の
構成を備える。
【0013】即ち、接続された複数の通信端末間におけ
るデータ通信を制御するデータ通信制御装置であって、
画像データの特定領域を認識する認識手段と、該特定領
域であるか否かに応じて前記画像データの圧縮方法を制
御する圧縮制御手段と、前記圧縮制御手段によって制御
された圧縮方法によって前記画像データを圧縮する圧縮
手段と、前記圧縮された画像データを前記通信端末に送
信する通信手段と、を有することを特徴とする。
【0014】更に、前記通信手段によって前記通信端末
から入力された圧縮画像データを伸張する伸張手段を有
し、前記認識手段は該伸張された画像データの特定領域
を認識することを特徴とする。
【0015】例えば、前記圧縮制御手段は、量子化係数
を制御することを特徴とする。
【0016】例えば、前記圧縮制御手段は、前記画像デ
ータに対して空間フィルタ処理を施すか否かを制御する
ことを特徴とする。
【0017】また、上記目的を達成するための一手段と
して、本発明の画像処理装置は以下の構成を備える。
【0018】即ち、与えられた圧縮画像データにより表
される画像の特定領域を認識する認識手段と、前記認識
手段による認識に基づいて前記与えられた圧縮画像デー
タの再圧縮方法を制御する圧縮制御手段と、を有するこ
とを特徴とする。
【0019】
【発明の実施の形態】以下、本発明に係る一実施形態に
ついて図面を参照して詳細に説明する。
【0020】<第1実施形態>本実施形態におけるテレ
ビ会議システムの基本構成は上述した従来例に示した図
1と同様であり、多地点接続装置22によって、3ポイント
以上のテレビ会議端末21a〜21nが相互接続されている。
画像データは、多地点接続装置22を経由してテレビ会議
端末(以下、単に端末と称する)21a〜21nへ配信される。
【0021】図2に、本実施形態における多地点接続装
置22の機能ブロック構成を示す。同図において、11a〜1
1nは遠隔地の端末21a〜21nを収容するための網インタフ
ェース部であり、ISDN、PSTN等の回線インタフェースを
司る。12a〜12nは多重/分離部であり、例えばITU-T勧
告H.221等に従って、画像・音声・制御等に関する各種
データの多重/分離処理を行なう。尚、多地点接続装置
22においては、網インタフェース部11a〜11n及び、多重
/分離部12a〜12nは本多地点接続装置に直接接続可能な
テレビ会議端末の数だけ有する。また、網インタフェー
ス部11a〜11n及び多重/分離部12a〜12nを介して、他の
多地点接続装置やサーバ等に接続する事も可能である。
【0022】13は音声処理部であり、各端末21a〜21nか
ら送出された音声符号データに対して伸張/ミキシング
処理を施した後、再び圧縮符号化して各端末21a〜21dに
分配する。14は画像デコーダ部であり、多重分離部12a
〜12nで分離された圧縮画像の符号データをデコード
し、非圧縮の画像データを生成する。15は顔領域認識部
であり、画像デコーダ14により復元された画像データの
中から、人物の顔領域を認識する。16は画像エンコーダ
であり、画像デコーダ14によって復元された画像データ
を再び圧縮する。17は量子化制御部であり、顔領域認識
結果に従って、再圧縮時の量子化制御を行う。具体的に
は、量子化に使用する量子化テーブルを複数用意し、量
子化対象画像が顔領域認識によって顔以外の領域である
と判定された場合は、デコードに使用した量子化係数よ
りも大きいステップの係数を選択する。18はシステム制
御部であり、各種通信プロトコル処理及び多地点接続装
置22全体の動作を司るものである。
【0023】図3は、本実施形態の多地点テレビ会議シ
ステムにおける端末21a〜21nに表示される画面構成の一
例を示す図である。例えば、尚、図3に示す画面が端末2
1dにおける表示画面であるとすると、71は当該端末21d
のユーザ自身の映像を表示するウインドウ、72a〜72cは
会議に参加している他端末(例えば端末21a〜21c)におけ
るユーザの映像を示すウィンドウである。73はホワイト
ボード等の、会議における共有画面ウインドウである。
【0024】以下、多地点接続装置22における画像処理
について、図4に示すフローチャートを参照して詳細に
説明する。
【0025】端末21a〜21nを収容する通信インタフェー
ス11a〜11nを介して送られたマルチメディア多重データ
は、多重/分離部12a〜12nによってフレーム分離され、
音声圧縮データ,映像圧縮データ,データ会議用低速デ
ータ,システム制御用データ等が分離抽出される(S100
1)。分離された音声圧縮データは音声処理部13で伸張処
理され、各多重/分離処理部12a〜12nで分離された他の
音声圧縮データを伸張したものとミキシング処理され
る。尚、ミキシング処理された音声データは圧縮され、
多重/分離部12a〜12nにおいて画像データ等の他のデー
タと共に多重化されて、各端末21a〜21nに配信される。
【0026】一方、分離抽出された映像圧縮データは、
当該データの配信先となる端末からの指示に従って、符
号量制御を行なうか否かがシステム制御部18において判
断される(S1002)。符号量制御を行わない場合にはその
まま、多重/分離部12a〜12nにおいて再び他のデータと
共に符号多重処理される(S1009)。これにより、多地点
接続装置22において、例えばユーザによって指示された
特定端末の映像に関しては、背景画像を含めた詳細な画
像として配信する事も可能である。
【0027】一方、符号量制御を行う場合には、映像圧
縮データは画像デコーダ14によりデコードされ(S100
3)、画像デコーダ内14内の不図示のRAM等に一時格納さ
れる。そして顔領域認識部15において、該復元された画
像データに対して顔領域の認識処理が行われる(S100
4)。尚、顔領域認識部15における認識方法は特に限定さ
れないが、例えば横尾、萩原「遺伝的アルゴリズムを用
いた自然画像からの複数顔領域抽出」(電気学会論文誌
C Vo1.117-C,No.9,Sep.,1997)に記載された方法等によ
り、人物の顔を含む領域を認識することができる。
【0028】尚、顔領域の認識処理としてはどのような
方法を用いても良く、装置の処理能力が十分であれば、
顔領域の正確な輪郭を抽出する等のより高度な方法を用
いることも可能である。また、顔領域の認識手法によっ
ては、画像デコーダ14において画像データを完全にデコ
ードする必要が無い場合も有る。
【0029】顔領域の認識後、復元された画像データは
画像エンコーダ16において再び圧縮されるが、本実施形
態においてはこの圧縮処理の際に、顔領域認識結果に基
づいた量子化係数の制御を行うことを特徴とする。
【0030】顔領域の認識結果は量子化制御部17に出力
される。量子化制御部17においては、画像デコーダ14に
おけるデコード時に使用した量子化係数(あるいは量子
化のためのQファクタ)と、それをn倍(n>1)した量子化
係数が予め用意されており、前者の係数がデフォルトと
して設定されている。そして、ステップS1005で顔領域
であると判定された領域に対してはデコード時と同一の
係数(デフォルト)を、顔領域以外と判定された領域に対
してはn倍された係数を設定(S1006)した後、画像エンコ
ーダ16において、画像デコーダ14内に保持されている画
像データに対して該量子化係数に基づく量子化を含む圧
縮処理を施す(S1007)。
【0031】これにより、画像データ内において重要度
の高い顔領域については画像を劣化させること無く再圧
縮し、背景等、重要度の低い顔領域以外の領域について
は量子化ステップが大きくなるように変更して圧縮する
ことにより、符号量を削減することができる。
【0032】多地点接続装置22においては、以上の処理
を各端末21a〜21nから転送されてくるデータ毎に独立に
処理する。尚、再圧縮された画像データは、多重/分離
部12a〜12nにおいて音声圧縮データと共に多重化された
後(S1008)、通信プロトコルに従って各端末21a〜21nへ
配信される。
【0033】図5は、本実施形態のテレビ会議システム
において、例えば端末21dにおいて撮影され、多地点接
続装置22において上述したように処理された後に、各端
末21a〜21nに配信された画像データの表示例を示す。図
5において、51で示す円内の領域は顔領域と認識された
領域、52は顔領域以外であると認識された背景領域を示
す。背景領域52は大きな量子化係数によって量子化され
るために解像度の低下した画像となるが、顔領域51につ
いては、端末21dにおいて撮影された際の画像と同等の
品質が得られることになる。
【0034】以上説明したように本実施形態によれば、
テレビ会議システムの各端末に対して、他端末の撮影画
像のうちの重要部位のみを高精細に転送する事が可能と
なる。従って、たとえ各端末が狭帯域通信路により接続
された場合であっても、重要部位については高品位の画
像通信を行なうことが可能となるため、各端末において
は、他端末から転送されてくる画像を縮小或いはコマ落
としすること無く、重要部位である顔領域、即ちユーザ
の表情を鮮明に表示することができる。。
【0035】更に、端末からの指示により、他の任意の
端末からの画像を随時、全画面高画質で受信することも
可能である。
【0036】尚、本実施形態におけるデコード及びエン
コード処理は、もちろん画像データの所定ブロック単位
で行われても良い。この場合、各ブロック単位で、上述
したステップS1003〜S1007の処理を繰り返すことにな
る。
【0037】<第2実施形態>以下、本発明に係る第2
実施形態について説明する。
【0038】第2実施形態におけるテレビ会議システム
の基本構成は上述した第1実施形態に示した図1と同様で
あるため、説明を省略する。
【0039】図6は、第2実施形態における多地点接続装
置22の機能ブロック構成を示す。同図において、第1実
施形態に示した図2と基本的に同様の処理を行なう構成
には同一番号を付し、説明を省略する。
【0040】図6において、86は空間フィルタ処理部で
あり、顔領域認識部15における認識結果に基づいて、デ
コードされた画像データに対して低周波フィルタ処理を
施す。具体的には、顔以外の領域のみに対して低域通過
フィルタによる空間フィルタ処理を施し、高周波成分を
減衰させる。
【0041】以下、第2実施形態の多地点接続装置22に
おける画像処理について、図7に示すフローチャートを
参照して詳細に説明する。尚、図7において上述した第1
実施形態で説明した図4のフローチャートと同様の処理
を行なうステップについては同一ステップ番号を付し、
説明を省略する。
【0042】第1実施形態と同様に、ステップS1004にお
ける顔領域の認識後、復元された画像データは画像エン
コーダ16において再び圧縮されるが、第2実施形態にお
いてはこの圧縮処理の際に、顔領域認識結果に基づいた
空間フィルタ処理を行なうことを特徴とする。
【0043】空間フィルタ処理部86には、デコードされ
た画像データと、その顔領域認識結果が入力される。空
間フィルタ処理部86には、予め低域通過フィルタが用意
されており、ステップS1005で顔領域であると判定され
た領域に対して、該低域通過フィルタによる空間フィル
タ処理を施す(S1106)。その後、画像エンコーダ16にお
いて、空間フィルタ処理後の画像データを圧縮する(S10
08)。
【0044】ここで、空間フィルタ処理部86における低
域通過フィルタの例を図8に示す。該フィルタにより、
次式(1)に示すフィルタ処理が行われる。
【0045】 P'(x,y)=(P(x-1,y-1)+P(x,y-1)+P(x+1,y-1) +P(x-1,y) +P(x,y)+ P(x+1,y) +P(x-1,y+1)+P(x,y+1)+P(x+1,y+1))/9 …(1) 尚、P(x,y)は座標(x,y)の画素値。
【0046】尚、第2実施形態における空間フィルタは
図8に示す例に限定されず、低域通過フィルタであれば
どのようなものであっても良い。
【0047】また、第2実施形態においては顔領域であ
るか否かに応じて空間フィルタ処理を施すか否かを制御
する例について説明したが、例えば、いずれの場合にも
空間フィルタ処理を施すものとし、顔領域であるか否か
に応じて低域通過フィルタを切り替えるようにしても良
い。即ち、顔領域以外に対するフィルタを、前記特定領
域に対するフィルタよりも高周波成分を除去するように
設定すれば良い。
【0048】以上説明したように第2実施形態によれ
ば、画像データ内において重要度の高い顔領域について
は画像を劣化させること無く再圧縮し、背景等、重要度
の低い顔領域以外の領域については高周波成分を減衰さ
せることにより、符号量を削減することができる。従っ
て、上述した第1実施形態と同様の効果を得ることがで
きる。
【0049】更に、第2実施形態においては空間フィル
タ処理により解像度を制御するため、上述した第1実施
形態で示した量子化係数の制御により符号量を削減する
方法に比べて、画像品質の劣化が視覚的に目立たないと
言う効果を奏する。
【0050】<第3実施形態>以下、本発明に係る第3
実施形態について説明する。第3実施形態におけるテレ
ビ会議システムの基本構成は上述した第1実施形態に示
した図1と同様であるため、説明を省略する。
【0051】第3実施形態においては、第1実施形態に示
した機能を有する多地点接続装置22を、その主要な処理
をソフトウェアによって実現する様に構成することを特
徴とする。
【0052】図9は、第3実施形態における多地点接続装
置22の構成を示すブロック図である。61は通信インタフ
ェース部であり、ISDNやPSTN等の通信インタフェースを
司る。62は主要な信号処理を司るメディアプロセッサで
あり、例えばマルチメディア信号処理用に特化されたプ
ロセッサやDSP(Digital Signal Processor)等により、
各種のディジタル信号処理を行う。第3実施形態におい
てはメディアプロセッサ62を利用して、マルチタスク処
理によって各データを処理する事で、専用のハードウエ
アを用意すること無く、簡易な構成でテレビ会議システ
ムを低コストに実現する事が可能となる。
【0053】63はRAM(Randam Access Memory)であり、
メディアプロセッサ62の動作に必要なメモリ及び処理す
べき画像・音声データの各種バッファメモリとして使用
される。RAM63は、例えばSDRAM(Synchronous DRAM)等の
高速大容量のメモリにより実現される。64はCPUであ
り、多地点接続装置22のシステム制御、通信プロトコル
処理などを司る。65は、CPU64の動作に必要な作業バッ
ファ等に利用されるRAMである。66はROM(Read Only Mem
ory)であり、CPU64の動作に必要な制御プログラムおよ
びメディアプロセッサ62の動作に必要な制御プログラム
を格納する。メディアプロセッサ62の動作に必要なプロ
グラムは、システムの初期化時にROM66からRAM63へ転送
される。
【0054】第3実施形態においては、上記構成によ
り、図4のフローチャートに示す処理を実現する。即
ち、該処理を実現する制御プログラムがROM66に予め格
納されており、これがRAM63又はRAM65上に展開されて、
メディアプロセッサ62やCPU64によって実行される。例
えば、特にデータの圧縮/伸張に関する処理はメディア
プロセッサ62によって行われ、その他の処理はCPU64に
よって制御される。
【0055】以上説明した様に第3実施形態によれば、
上述した第1実施形態で説明した処理をソフトウェアに
よって実現することにより、第1実施形態と同様の効果
が得られる。
【0056】尚、第3実施形態においては第1実施形態に
示した多地点接続装置22をソフトウェアによって実現す
る例について説明したが、第2実施形態に示した多地点
接続装置22をソフトウェアによって実現することも、も
ちろん同様に可能である。
【0057】尚、上述した第1乃至第3実施形態において
適用される符号化方式はどのようなものであっても良
く、例えばH.320で使用されるH.261等のDCT(離散コサイ
ン変換)をベースとした符号化方式を適用することも可
能である。その場合、顔領域の認識結果による量子化係
数の制御はマクロブロック単位で行われることになる。
【0058】更に、本発明の符号化制御方法としては、
第1実施形態に示した量子化制御と、第2実施形態に示し
た空間フィルタ制御の両方を組み合わせることにより、
配信する画像データのさらなる高画質化を実現すること
も可能である。
【0059】また、本発明における多地点接続装置に接
続されるテレビ会議端末は、専用端末であっても良い
し、パーソナルコンピュータ等の汎用端末に対して所定
のアプリケーション(ソフトウェア)を動作させるもので
あっても良い。
【0060】加えて、本発明の多地点接続装置として
は、多地点の端末の接続に関する機能に加えて、HTML(H
yper Text Markup Language)データの自動生成機能及び
HTTP(Hyper Text Transfer Protocol)サーバ機能等を有
していても良い。これにより、多地点接続装置に内蔵す
るHTTPサーバに蓄積された画像・音声等のデータを表示
・可聴化する事が可能な汎用通信端末を接続することが
可能となる。この汎用通信端末としては、所謂WWWブラ
ウザを内蔵するパーソナルコンピュータやネットワーク
コンピュータが適用可能であり、近年の半導体技術の発
展により、携帯環境での使用も可能とする簡便な端末と
して使用できる。これら汎用通信端末は、ISDNやPSTN等
の公衆網やイーサネット等のLAN(Local Area Network)
を介して、多地点接続装置にIP(Internet Protocol)接
続する。これにより、既存のテレビ会議専用端末と、パ
ーソナルコンピュータやネットワークコンピュータ等の
汎用端末とを相互接続することができる。
【0061】<他の実施形態>なお、本発明は、複数の
機器(例えばホストコンピュータ,インタフェイス機
器,リーダ,プリンタなど)から構成されるシステムに
適用しても、一つの機器からなる装置(例えば、複写
機,ファクシミリ装置など)に適用してもよい。
【0062】また、本発明の目的は、前述した実施形態
の機能を実現するソフトウェアのプログラムコードを記
録した記憶媒体を、システムあるいは装置に供給し、そ
のシステムあるいは装置のコンピュータ(またはCPU
やMPU)が記憶媒体に格納されたプログラムコードを
読出し実行することによっても、達成されることは言う
までもない。
【0063】この場合、記憶媒体から読出されたプログ
ラムコード自体が前述した実施形態の機能を実現するこ
とになり、そのプログラムコードを記憶した記憶媒体は
本発明を構成することになる。
【0064】プログラムコードを供給するための記憶媒
体としては、例えば、フロッピディスク,ハードディス
ク,光ディスク,光磁気ディスク,CD−ROM,CD
−R,磁気テープ,不揮発性のメモリカード,ROMな
どを用いることができる。
【0065】また、コンピュータが読出したプログラム
コードを実行することにより、前述した実施形態の機能
が実現されるだけでなく、そのプログラムコードの指示
に基づき、コンピュータ上で稼働しているOS(オペレ
ーティングシステム)などが実際の処理の一部または全
部を行い、その処理によって前述した実施形態の機能が
実現される場合も含まれることは言うまでもない。
【0066】さらに、記憶媒体から読出されたプログラ
ムコードが、コンピュータに挿入された機能拡張ボード
やコンピュータに接続された機能拡張ユニットに備わる
メモリに書込まれた後、そのプログラムコードの指示に
基づき、その機能拡張ボードや機能拡張ユニットに備わ
るCPUなどが実際の処理の一部または全部を行い、そ
の処理によって前述した実施形態の機能が実現される場
合も含まれることは言うまでもない。本発明を上記記憶
媒体に適用する場合、その記憶媒体には、先に説明した
フローチャートに対応するプログラムコードを格納する
ことになる。
【0067】
【発明の効果】以上説明した様に本発明によれば、狭帯
域通信路における多地点テレビ会議システムにおいて会
議参加者の表情を鮮明に表示することが可能となる。
【0068】また、圧縮された画像データの再圧縮を行
なう際に、画像品位の劣化を低減することができる。
【0069】
【図面の簡単な説明】
【図1】本発明に係る一実施形態における多地点テレビ
会議システムの構成を示すブロック図、
【図2】多地点接続装置の基本構成を示すブロック図、
【図3】テレビ会議端末における表示画面例を示す図、
【図4】多地点接続装置における画像処理を示すフロー
チャート、
【図5】本実施形態により配信される画像例を示す図、
【図6】第2実施形態における多地点接続装置の基本構
成を示すブロック図、
【図7】多地点接続装置における画像処理を示すフロー
チャート、
【図8】空間フィルタ例を示す図、
【図9】本発明に係る第3実施形態における多地点接続
装置の構成を示すブロック図、
【図10】従来の多地点接続装置における画像処理例を
示す図、
【図11】インターネット型の多地点テレビ会議システ
ムを説明する図、である。
【符号の説明】
11a〜11n 網インタフェース 12a〜12n 多重/分離処理部 13 音声処理部 14 画像デコーダ 15 顔領域認識部 16 画像エンコーダ 17 量子化制御部 18 システム制御部 21a〜21n テレビ会議端末 22 多地点接続装置
───────────────────────────────────────────────────── フロントページの続き Fターム(参考) 5C059 KK01 LB05 MB02 MC11 MD09 ME01 PP22 PP28 RA08 SS07 UA02 UA11 5C064 AA02 AB04 AD02 AD08 AD09 AD14 5C078 AA04 CA02 CA39 DB01 DB07 EA07 5K030 GA16 HA01 HA09 HB02 HC02 JA07 JT04 LA07 5K034 CC02 DD03 FF11 FF13 HH01 HH16 HH63

Claims (20)

    【特許請求の範囲】
  1. 【請求項1】 接続された複数の通信端末間におけるデ
    ータ通信を制御するデータ通信制御装置であって、 画像データの特定領域を認識する認識手段と、 該特定領域であるか否かに応じて前記画像データの圧縮
    方法を制御する圧縮制御手段と、 前記圧縮制御手段によって制御された圧縮方法によって
    前記画像データを圧縮する圧縮手段と、 前記圧縮された画像データを前記通信端末に送信する通
    信手段と、を有することを特徴とするデータ通信制御装
    置。
  2. 【請求項2】 更に、前記通信手段によって前記通信端
    末から入力された圧縮画像データを伸張する伸張手段を
    有し、 前記認識手段は該伸張された画像データの特定領域を認
    識することを特徴とする請求項1記載のデータ通信制御
    装置。
  3. 【請求項3】 前記圧縮制御手段は、量子化係数を制御
    することを特徴とする請求項1記載のデータ通信制御装
    置。
  4. 【請求項4】 前記圧縮制御手段は、前記特定領域以外
    の領域に対する量子化係数が前記特定領域に対する量子
    化係数よりも大きくなるように制御することを特徴とす
    る請求項3記載のデータ通信制御装置。
  5. 【請求項5】 前記圧縮制御手段は、前記画像データに
    対して空間フィルタ処理を施すか否かを制御することを
    特徴とする請求項1記載のデータ通信制御装置。
  6. 【請求項6】 前記圧縮制御手段は、前記特定領域以外
    の領域に対して空間フィルタ処理を施すように制御する
    ことを特徴とする請求項5記載のデータ通信制御装置。
  7. 【請求項7】 前記圧縮制御手段は、低域通過フィルタ
    による空間フィルタ処理を行なうことを特徴とする請求
    項6記載のデータ通信制御装置。
  8. 【請求項8】 前記圧縮制御手段は、空間フィルタを制
    御することを特徴とする請求項1記載の画像処理装置。
  9. 【請求項9】 前記圧縮制御手段は、前記特定領域以外
    に対する空間フィルタを、前記特定領域に対する空間フ
    ィルタよりも高周波成分を除去するように設定すること
    を特徴とする請求項8記載のデータ通信制御装置。
  10. 【請求項10】 前記圧縮制御手段は、画像データの送
    信先である通信端末からの指示に基づいて、制御方法を
    変更することを特徴とする請求項1記載のデータ通信制
    御装置。
  11. 【請求項11】 前記通信手段は、 前記通信端末から入力された多重化データを分離して圧
    縮画像データを入力し、 圧縮された画像データを他のデータと多重化して前記通
    信端末に送信することを特徴とする請求項2記載のデー
    タ通信制御装置。
  12. 【請求項12】 前記特定領域は顔領域であることを特
    徴とする請求項1乃至11のいずれかに記載のデータ通
    信制御装置。
  13. 【請求項13】 前記複数の通信端末は、公衆回線網を
    介して接続されていることを特徴とする請求項1記載の
    データ通信制御装置。
  14. 【請求項14】 前記複数の通信端末は、インターネッ
    トプロトコルによって接続されていることを特徴とする
    請求項13記載のデータ通信制御装置。
  15. 【請求項15】 接続された複数の通信端末間における
    データ通信を制御するデータ通信制御装置における制御
    方法であって、 画像データの特定領域を認識する認識工程と、 該特定領域であるか否かに応じて前記画像データの圧縮
    方法を制御する圧縮制御工程と、 前記圧縮制御工程において制御された圧縮方法によって
    前記画像データを圧縮する圧縮工程と、 前記圧縮された画像データを前記通信端末に送信する送
    信工程と、 を有することを特徴とするデータ通信制御方法。
  16. 【請求項16】 更に、前記通信端末から圧縮画像デー
    タを受信する受信工程と、該圧縮画像データを伸張する
    伸張工程と、を有し、 前記認識工程においては、該伸張された画像データの特
    定領域を認識することを特徴とする請求項15記載のデ
    ータ通信制御方法。
  17. 【請求項17】 データ通信制御装置を介して複数の通
    信端末を接続し、該複数の通信端末間におけるデータ通
    信を行なうデータ通信システムであって、 該データ通信制御装置は、 画像データの特定領域を認識する認識手段と、 該特定領域であるか否かに応じて前記画像データの圧縮
    方法を制御する圧縮制御手段と、 前記圧縮制御手段によって制御された圧縮方法によって
    前記画像データを圧縮する圧縮手段と、 前記圧縮された画像データを前記通信端末に送信する通
    信手段と、 を有することを特徴とするデータ通信システム。
  18. 【請求項18】 接続された複数の通信端末間における
    データ通信を制御するデータ通信制御装置における制御
    プログラムコードを記録した記録媒体であって、該プロ
    グラムコードは、 画像データの特定領域を認識する認識工程のコードと、 該特定領域であるか否かに応じて前記画像データの圧縮
    方法を制御する圧縮制御工程のコードと、 前記圧縮制御工程において制御された圧縮方法によって
    前記画像データを圧縮する圧縮工程のコードと、 前記圧縮された画像データを前記通信端末に送信する送
    信工程のコードと、を有することを特徴とする記録媒
    体。
  19. 【請求項19】 与えられた圧縮画像データにより表さ
    れる画像の特定領域を認識する認識手段と、 前記認識手段による認識に基づいて前記与えられた圧縮
    画像データの再圧縮方法を制御する圧縮制御手段と、を
    有することを特徴とする画像処理装置。
  20. 【請求項20】 与えられた圧縮画像データにより表さ
    れる画像の特定領域を認識する認識工程と、 前記認識工程による認識に基づいて前記与えられた圧縮
    画像データの再圧縮方法を制御する圧縮制御工程と、を
    有することを特徴とする画像処理方法。
JP37147898A 1998-12-25 1998-12-25 データ通信制御装置及びその制御方法、データ通信システム、記録媒体 Expired - Fee Related JP4208315B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP37147898A JP4208315B2 (ja) 1998-12-25 1998-12-25 データ通信制御装置及びその制御方法、データ通信システム、記録媒体
US09/469,798 US6744927B1 (en) 1998-12-25 1999-12-22 Data communication control apparatus and its control method, image processing apparatus and its method, and data communication system
US09/469,789 US6684360B1 (en) 1998-12-25 1999-12-22 Transmission apparatus, reception apparatus, transmission method and reception method, each for efficiently transmitting error information
US10/852,159 US20040213474A1 (en) 1998-12-25 2004-05-25 Data communication control apparatus and its control method, image processing apparatus and its method, and data communication system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP37147898A JP4208315B2 (ja) 1998-12-25 1998-12-25 データ通信制御装置及びその制御方法、データ通信システム、記録媒体

Publications (3)

Publication Number Publication Date
JP2000197043A true JP2000197043A (ja) 2000-07-14
JP2000197043A5 JP2000197043A5 (ja) 2006-03-09
JP4208315B2 JP4208315B2 (ja) 2009-01-14

Family

ID=18498779

Family Applications (1)

Application Number Title Priority Date Filing Date
JP37147898A Expired - Fee Related JP4208315B2 (ja) 1998-12-25 1998-12-25 データ通信制御装置及びその制御方法、データ通信システム、記録媒体

Country Status (2)

Country Link
US (2) US6744927B1 (ja)
JP (1) JP4208315B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004120224A (ja) * 2002-09-25 2004-04-15 Fuji Photo Film Co Ltd 画像補正処理装置及びプログラム
JP2009251964A (ja) * 2008-04-07 2009-10-29 Fujifilm Corp 画像処理システム、画像処理方法、およびプログラム

Families Citing this family (52)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8977683B2 (en) 2000-12-26 2015-03-10 Polycom, Inc. Speakerphone transmitting password information to a remote device
US9001702B2 (en) 2000-12-26 2015-04-07 Polycom, Inc. Speakerphone using a secure audio connection to initiate a second secure connection
US7339605B2 (en) 2004-04-16 2008-03-04 Polycom, Inc. Conference link between a speakerphone and a video conference unit
US8948059B2 (en) 2000-12-26 2015-02-03 Polycom, Inc. Conference endpoint controlling audio volume of a remote device
US8964604B2 (en) 2000-12-26 2015-02-24 Polycom, Inc. Conference endpoint instructing conference bridge to dial phone number
US7864938B2 (en) 2000-12-26 2011-01-04 Polycom, Inc. Speakerphone transmitting URL information to a remote device
US8934382B2 (en) 2001-05-10 2015-01-13 Polycom, Inc. Conference endpoint controlling functions of a remote device
JP4231698B2 (ja) 2001-05-10 2009-03-04 ポリコム イスラエル リミテッド 多地点マルチメディア/音声システムの制御ユニット
US8976712B2 (en) 2001-05-10 2015-03-10 Polycom, Inc. Speakerphone and conference bridge which request and perform polling operations
DE10138267A1 (de) * 2001-08-03 2003-02-20 Siemens Ag Verfahren und Endeinrichtung zur Mehrpunktkommunikation
US8947487B2 (en) 2001-12-31 2015-02-03 Polycom, Inc. Method and apparatus for combining speakerphone and video conference unit operations
US8885523B2 (en) 2001-12-31 2014-11-11 Polycom, Inc. Speakerphone transmitting control information embedded in audio information through a conference bridge
US8144854B2 (en) 2001-12-31 2012-03-27 Polycom Inc. Conference bridge which detects control information embedded in audio information to prioritize operations
US7978838B2 (en) 2001-12-31 2011-07-12 Polycom, Inc. Conference endpoint instructing conference bridge to mute participants
US7787605B2 (en) * 2001-12-31 2010-08-31 Polycom, Inc. Conference bridge which decodes and responds to control information embedded in audio information
US8223942B2 (en) * 2001-12-31 2012-07-17 Polycom, Inc. Conference endpoint requesting and receiving billing information from a conference bridge
US7742588B2 (en) * 2001-12-31 2010-06-22 Polycom, Inc. Speakerphone establishing and using a second connection of graphics information
US8102984B2 (en) 2001-12-31 2012-01-24 Polycom Inc. Speakerphone and conference bridge which receive and provide participant monitoring information
US8934381B2 (en) * 2001-12-31 2015-01-13 Polycom, Inc. Conference endpoint instructing a remote device to establish a new connection
US8705719B2 (en) 2001-12-31 2014-04-22 Polycom, Inc. Speakerphone and conference bridge which receive and provide participant monitoring information
JP2003208085A (ja) * 2002-01-10 2003-07-25 Nova:Kk フリートークサービスを提供する教育サービス提供方法、教育サービス提供装置およびプログラム
JP4015934B2 (ja) 2002-04-18 2007-11-28 株式会社東芝 動画像符号化方法及び装置
US7602809B2 (en) * 2002-03-22 2009-10-13 Telefonaktiebolaget L M Ericsson (Publ) Reducing transmission time for data packets controlled by a link layer protocol comprising a fragmenting/defragmenting capability
JP3716225B2 (ja) * 2002-04-05 2005-11-16 松下電器産業株式会社 符号量制御装置および符号量制御方法
KR100539923B1 (ko) * 2003-02-10 2005-12-28 삼성전자주식회사 화상통화시 화자의 영상을 구분하여 차등적 부호화할 수있는 비디오 엔코더 및 이를 이용한 비디오신호의 압축방법
JP3787633B2 (ja) * 2003-04-21 2006-06-21 独立行政法人情報通信研究機構 実時間コンテンツ編集システム
US20050008240A1 (en) * 2003-05-02 2005-01-13 Ashish Banerji Stitching of video for continuous presence multipoint video conferencing
JP4346966B2 (ja) * 2003-06-13 2009-10-21 キヤノン株式会社 撮像装置
EP1727352B1 (en) * 2004-02-23 2014-05-07 Toa Corporation Image compression method, image compression device, image transmission system, data compression pre-processing device, and computer program
JP2005346202A (ja) * 2004-05-31 2005-12-15 Toshiba Corp 電子機器
US7580685B2 (en) * 2004-07-09 2009-08-25 Hitachi Kokusai Electric, Inc. Radio communication system
US7539341B2 (en) * 2004-07-29 2009-05-26 Xerox Corporation Systems and methods for processing image data prior to compression
US7620892B2 (en) * 2004-07-29 2009-11-17 Xerox Corporation Server based image processing for client display of documents
US20060106929A1 (en) * 2004-10-15 2006-05-18 Kenoyer Michael L Network conference communications
US7706576B1 (en) * 2004-12-28 2010-04-27 Avaya Inc. Dynamic video equalization of images using face-tracking
US7460150B1 (en) 2005-03-14 2008-12-02 Avaya Inc. Using gaze detection to determine an area of interest within a scene
KR101194518B1 (ko) * 2005-04-05 2012-10-24 톰슨 라이센싱 양자화 단계를 국부적으로 조정하기 위한 방법
US7564476B1 (en) 2005-05-13 2009-07-21 Avaya Inc. Prevent video calls based on appearance
US8126029B2 (en) 2005-06-08 2012-02-28 Polycom, Inc. Voice interference correction for mixed voice and spread spectrum data signaling
US8199791B2 (en) 2005-06-08 2012-06-12 Polycom, Inc. Mixed voice and spread spectrum data signaling with enhanced concealment of data
US7796565B2 (en) * 2005-06-08 2010-09-14 Polycom, Inc. Mixed voice and spread spectrum data signaling with multiplexing multiple users with CDMA
WO2007063922A1 (ja) * 2005-11-29 2007-06-07 Kyocera Corporation 通信端末および通信システム、並びに通信端末の表示方法
US8812978B2 (en) * 2005-12-22 2014-08-19 Xerox Corporation System and method for dynamic zoom to view documents on small displays
US7489772B2 (en) 2005-12-30 2009-02-10 Nokia Corporation Network entity, method and computer program product for effectuating a conference session
US8165282B1 (en) 2006-05-25 2012-04-24 Avaya Inc. Exploiting facial characteristics for improved agent selection
JP5181294B2 (ja) * 2008-03-31 2013-04-10 富士フイルム株式会社 撮像システム、撮像方法、およびプログラム
US8913668B2 (en) * 2008-09-29 2014-12-16 Microsoft Corporation Perceptual mechanism for the selection of residues in video coders
US8457194B2 (en) * 2008-09-29 2013-06-04 Microsoft Corporation Processing real-time video
CN101742324A (zh) * 2008-11-14 2010-06-16 北京中星微电子有限公司 视频编解码方法、视频编解码系统及编解码器
US20100188476A1 (en) * 2009-01-29 2010-07-29 Optical Fusion Inc. Image Quality of Video Conferences
JP2014060577A (ja) * 2012-09-18 2014-04-03 Sony Corp 通信端末、プログラムおよび情報処理装置
US11798204B2 (en) * 2022-03-02 2023-10-24 Qualcomm Incorporated Systems and methods of image processing based on gaze detection

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0330455A3 (en) * 1988-02-22 1990-07-04 Kabushiki Kaisha Toshiba Image encoding apparatus
JPH07154763A (ja) * 1993-11-26 1995-06-16 Fujitsu Ltd 在席テレビ会議装置
JPH0818979A (ja) 1994-06-27 1996-01-19 Canon Inc 画像処理装置
US6343313B1 (en) * 1996-03-26 2002-01-29 Pixion, Inc. Computer conferencing system with real-time multipoint, multi-speed, multi-stream scalability
US6181711B1 (en) * 1997-06-26 2001-01-30 Cisco Systems, Inc. System and method for transporting a compressed video and data bit stream over a communication channel
US6285661B1 (en) * 1998-01-28 2001-09-04 Picturetel Corporation Low delay real time digital video mixing for multipoint video conferencing
US6112233A (en) * 1998-02-04 2000-08-29 Intel Corporation Saving and retrieving a message via a network server using an index page
JP3684525B2 (ja) * 1998-02-19 2005-08-17 富士通株式会社 多画面合成方法及び多画面合成装置
AUPP248498A0 (en) * 1998-03-20 1998-04-23 Canon Kabushiki Kaisha A method and apparatus for encoding and decoding an image

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004120224A (ja) * 2002-09-25 2004-04-15 Fuji Photo Film Co Ltd 画像補正処理装置及びプログラム
JP2009251964A (ja) * 2008-04-07 2009-10-29 Fujifilm Corp 画像処理システム、画像処理方法、およびプログラム

Also Published As

Publication number Publication date
US20040213474A1 (en) 2004-10-28
JP4208315B2 (ja) 2009-01-14
US6744927B1 (en) 2004-06-01

Similar Documents

Publication Publication Date Title
JP4208315B2 (ja) データ通信制御装置及びその制御方法、データ通信システム、記録媒体
US7039675B1 (en) Data communication control apparatus and method adapted to control distribution of data corresponding to various types of a plurality of terminals
US6989868B2 (en) Method of converting format of encoded video data and apparatus therefor
EP3562163A1 (en) Audio-video synthesis method and system
US7865833B2 (en) Data processing apparatus, data processing server, data processing system, method of controlling data processing apparatus, method of controlling data processing server, computer program, and computer readable storage medium
US6603501B1 (en) Videoconferencing using distributed processing
JP2004506347A (ja) 分散処理構造を有するパーソナル・テレビ会議システム
JP2000013769A (ja) 多点画像会議システム及びその具現方法
JP2002007294A (ja) 画像配信システム及び方法並びに記憶媒体
JPH09252462A (ja) 送信処理装置、テレビ会議システム、送信処理方法及び記憶媒体
JPH11134264A (ja) データ変換装置、データ変換装置を有するネットワークシステム、および、データ変換装置上で動作するプログラムを記録した記録媒体
WO2020215454A1 (zh) 一种屏幕录制的方法、客户端和终端设备
JP2002262288A (ja) 画像データ送信装置および画像データ受信装置
JP3193525B2 (ja) 情報処理装置
JP3460625B2 (ja) テレビ電話装置およびテレビ電話装置における情報処理方法
JP2000042247A5 (ja)
JP2002077844A (ja) 画像伝送装置及び画像伝送方法並びに画像伝送プログラムを記録したコンピュータ読み取り可能な記録媒体
JPH1169330A (ja) 留守録機能を備えた画像通信装置
CN114938460B (zh) 直播数据处理方法、装置、设备及存储介质
CN211670946U (zh) 一种实时音视频综合处理板卡
JPH10322674A (ja) テレビ会議システム
JPH11187372A (ja) 多地点テレビ会議システム
CN112995568B (zh) 一种基于视频客服系统及构建方法
JP3849103B2 (ja) Mpeg−audio復号処理方式
JPH0723378A (ja) ネットワークシステムおよび圧縮動画データ再生方法

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20051220

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20051220

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7426

Effective date: 20051220

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20051220

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20071106

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071109

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071226

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20080723

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20080807

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080912

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080926

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20081014

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081021

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111031

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111031

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121031

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131031

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees