JP2003348556A - テレビ電話システムおよびその端末装置 - Google Patents

テレビ電話システムおよびその端末装置

Info

Publication number
JP2003348556A
JP2003348556A JP2002154940A JP2002154940A JP2003348556A JP 2003348556 A JP2003348556 A JP 2003348556A JP 2002154940 A JP2002154940 A JP 2002154940A JP 2002154940 A JP2002154940 A JP 2002154940A JP 2003348556 A JP2003348556 A JP 2003348556A
Authority
JP
Japan
Prior art keywords
video
terminal device
audio
size
encoding
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2002154940A
Other languages
English (en)
Other versions
JP3775346B2 (ja
Inventor
Kazue Hiroi
和重 廣井
Nobukazu Kondo
伸和 近藤
Kazuchika Ogiwara
一親 荻原
Tatsu Yokozawa
横沢  達
Takeo Tomokane
武郎 友兼
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2002154940A priority Critical patent/JP3775346B2/ja
Priority to US10/372,811 priority patent/US6850267B2/en
Publication of JP2003348556A publication Critical patent/JP2003348556A/ja
Application granted granted Critical
Publication of JP3775346B2 publication Critical patent/JP3775346B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/141Systems for two-way working between two video terminals, e.g. videophone
    • H04N7/147Communication arrangements, e.g. identifying the communication as a video-communication, intermediate storage of the signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/141Systems for two-way working between two video terminals, e.g. videophone
    • H04N7/148Interfacing a video terminal to a particular transmission medium, e.g. ISDN

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Mobile Radio Communication Systems (AREA)
  • Telephonic Communication Services (AREA)

Abstract

(57)【要約】 【課題】多種多様な性能および表示画面サイズをもつ端
末装置に対応し、効率よく映像を符号化して送受信でき
るテレビ電話システム及びその端末装置を提供すること
である。 【解決手段】本発明のテレビ電話システムおよびその端
末装置では、端末装置が受信に適した映像の符号化方
式、画素単位のサイズ、フレームレート、ビットレー
ト、及びキーフレームの挿入間隔等を不揮発性のメモリ
に格納する。受信側の端末装置は、上記情報を送信側の
端末装置に通知し、送信側の端末装置は、該情報をもと
に撮像した映像を符号化して送信する。また、送信側の
端末装置は、撮像映像のサイズ、送信側端末装置が送信
に適した画素単位のサイズ、受信側の端末装置において
受信等に適した画素単位のサイズの内、最も小さいサイ
ズ以下のサイズの映像を前記撮像した映像から切り出し
て、符号化及び送信する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、映像を符号化して
送受信するテレビ電話システムおよびその端末装置に係
り、特に映像の送受信能力が異なる端末装置からなるテ
レビ電話システムおよびその端末装置に関する。
【0002】
【従来の技術】テレビ電話システムに関する規格として
は、例えばITU-Tで勧告化されているH.323等がある。こ
の勧告では、さらに同ITU-Tで勧告化されており、テレ
ビ電話システムを構築する上で必要となる以下の勧告を
使用する。呼の確立および通信相手のアドレス解決、通
信可否制御、および通信経路の帯域制御を行うためのH.
225.0勧告、端末装置間で伝送する映像や音声の符号化
方式等をネゴシエーションするためのH.245勧告、送信
映像を符号化するためのH.261およびH.263勧告、送信音
声を符号化するためのG.711、G.722、G.723.1、G.728、
およびG.729勧告である。
【0003】また、このH.323勧告では、符号化された
音声/映像データの伝送プロトコルおよび音声/映像デー
タのフロー制御のプロトコルとして、それぞれRTP(Real
-timeTransport Protocol)およびRTCP(RTP Control Pro
tocol)を使用することが決められており、これらの勧告
やプロトコルに準拠することにより、テレビ電話システ
ムを構築することが可能となっている。
【0004】特に、端末装置間で伝送する映像や音声の
符号化方式等をネゴシエーションするためのH.245勧告
では、受信側の端末装置が復号化可能な映像や音声の符
号化方式を送信側の端末装置に通知することが可能とな
っている。また、受信側の端末装置が復号化可能な映像
のサイズとして、CIF(Common Intermediate Format)やQ
CIF(Quarter CIF)等の決められたサイズを指定し、送信
側の端末装置に通知することが可能となっており、機種
の異なる端末装置間での映像の送受信が可能となってい
る。
【0005】
【発明が解決しようとする課題】しかしながら、端末装
置の表示画面のサイズには、多種多様なものがあり、こ
れらは画素単位で異なっている。例えば携帯電話やPDA
(Personal Digital Assistants)等の携帯端末装置で
は、携帯性の向上や低コスト化が考慮され、表示画面が
小さくされたものや、逆に、見易さが考慮され、表示画
面が大きくされたものなどがあり、表示に適した映像の
解像度も画素単位で異なっている。このため、これらの
端末装置の表示画面は必ずしもCIFやQCIFといった決め
られたサイズではなく、これらの端末装置にCIFやQCIF
といった決められたサイズの映像を符号化および送信す
ることは、端末装置の性能を活かしきれないか、または
無駄に大きな映像を符号化および復号化することにより
処理量に無駄が生じる結果となる。
【0006】また、端末装置の中には、低価格化の観点
からそれに搭載されているメモリや処理装置の性能に制
限があるものも存在し、これらの制限から、復号化可能
な映像のサイズのみでなく、復号化可能な映像のフレー
ムレート、ビットレート、およびキーフレームの挿入間
隔に制限があるものもある。この場合、端末装置が持つ
制限を越えた映像が送られると、映像の動きがぎこちな
くなるばかりでなく、最悪の場合受信した映像を復号化
および表示ができない場合がある。なお、フレームレー
トとは1秒間中の画像の枚数であり,ビットレートとは
1秒間中のデータ量をビット単位で示したものである。
また,キーフレームとは映像を構成する画像において、
他の画像を参照することなく復号することが可能な画像
である。
【0007】さらに、端末装置での処理に目を向ける
と、映像を送信する場合には、撮像した映像を受信側の
端末装置における復号化可能な映像のサイズに拡大縮小
して、符号化するとともに、前記撮像した映像を送信側
の端末装置における表示画面の自映像表示エリアのサイ
ズに拡大縮小して、該自映像表示エリアに表示する必要
がある。また、同時に、受信した映像を復号化して、相
手映像表示エリアのサイズに合わせて拡大縮小して、該
相手映像表示エリアに表示する必要があり、多大のメモ
リ量と処理能力を必要とする。このため、端末装置が高
価になるという問題があった。
【0008】
【課題を解決するための手段】本発明は以上を鑑みて発
明されたものであり、、多種多様な表示画面のサイズを
もつ端末装置に対応し、該表示画面のサイズが画素単位
で異なっている場合でも効率よく映像を符号化して送受
信できるテレビ電話システムおよびその端末装置を提供
する。
【0009】また、端末装置において、復号化、表示、
および受信可能な映像のサイズのみでなく,復号化,表
示,および受信可能なフレームレート、ビットレート、
およびキーフレームの挿入間隔に制限がある場合でも、
これらの制限に合わせて映像の符号化および送信を行
い、受信した映像がスムーズに動作可能なテレビ電話シ
ステムおよびその端末装置を提供する。
【0010】また、端末装置において、以下の処理に要
する処理量を削減し、低コストな端末装置にてテレビ電
話システムを構築可能とするテレビ電話システムおよび
その端末装置を提供する。 (1)送信する映像の符号化 (2)送信する映像の自映像表示エリアへの表示 (3)受信した映像の復号化 (4)受信した映像の相手映像表示エリアへの表示 上記課題を解決するため、本発明のテレビ電話システム
およびその端末装置では、端末装置における撮像映像の
水平方向サイズおよび垂直方向サイズを不揮発性のメモ
リに格納する。また、端末装置が符号化および送信に適
した映像の符号化方式、任意の画素単位の水平方向サイ
ズ、任意の画素単位の垂直方向サイズ、フレームレー
ト、任意の数値のビットレート、およびキーフレームの
挿入間隔を不揮発性のメモリに格納する。
【0011】さらに、端末装置が復号、表示、および受
信に適した映像の符号化方式、任意の画素単位の水平方
向サイズ、任意の画素単位の垂直方向サイズ、フレーム
レート、任意の数値のビットレート、およびキーフレー
ムの挿入間隔を不揮発性のメモリに格納する。そして、
受信側の端末装置が、前記不揮発性のメモリから、復号
化、表示、および受信に適した符号化方式、任意の画素
単位の映像サイズ、フレームレート、任意の数値のビッ
トレート、およびキーフレームの挿入間隔を読み出し、
これらの情報を送信側の端末装置に通知し、送信側の端
末装置はこれらの通知された情報に基づいて送信する映
像の属性を決定して符号化を行う。
【0012】また、送信側の端末装置は、「撮像した映
像のサイズ」と、「該送信側の端末装置において符号化
および送信に適した任意の画素単位の映像サイズ」と、
「前記通知された受信側の端末装置において復号化、表
示、および受信に適した任意の画素単位の映像サイズ」
を基にして送信映像のサイズを決定し、該決定したサイ
ズの映像を撮像した映像から切り出して取得し、該切り
出して取得した映像を拡大あるいは縮小することなく符
号化して送信する。
【0013】さらに、前記送信側の端末装置は、前記撮
像した映像から切り出して取得した映像を該送信側の端
末装置の自映像表示エリアに拡大あるいは縮小して表示
し、受信側の端末装置では、受信した映像を復号化し
て、縮小することなく相手映像表示エリアに表示する。
【0014】
【発明の実施の形態】以下、本発明にかかる実施例につ
いて図面を参照して説明する。図1は本発明の実施例に
かかるテレビ電話システムの構成図である。図1に示す
ように、本実施例にかかるテレビ電話システムは、少な
くとも2つの通信拠点A001および通信拠点B002
から構成される。
【0015】通信拠点A001は、少なくとも端末装置
101と、無線アクセスポイント107と、ルータ10
6と、ゲートキーパ102から構成され、無線アクセス
ポイント107と、ルータ106と、ゲートキーパ10
2は、それぞれLAN等のネットワークで接続されてい
るとともに、ネットワーク103に接続されている。同
様に、通信拠点B002は、少なくとも端末装置105
と、無線アクセスポイント109と、ルータ108と、
ゲートキーパ104から構成され、無線アクセスポイン
ト109と、ルータ108と、ゲートキーパ104は、
それぞれLAN等のネットワークで接続されているとと
もに、ネットワーク103に接続されている。
【0016】ここで、ネットワーク103はインターネ
ット等に代表されるIPネットワークや公衆電話回線網あ
るいはISDNによって構成される。
【0017】端末装置101および端末装置105は、
本システムの利用者が音声および映像のデータを送受信
可能な端末装置であり、例えば図2に示すような携帯電
話型の端末装置200あるいは図3に示すようなPDA型
の端末装置300とすることができる。なお、図2およ
び図3において、201および301は端末装置本体で
あり、映像を入力するためのカメラ202および30
2、液晶等により構成され映像を表示するための表示画
面203および303、端末装置における動作設定情報
や通信相手の電話番号を入力するための操作ボタン20
4および304、音声を出力するためのスピーカ205
および305、音声を入力するためのマイク206およ
び306、および無線により無線アクセスポイント10
7および109とデータの送受信を行うためのアンテナ
207および307を備えている。
【0018】無線アクセスポイント107および109
は、例えば既存の無線LANアクセスポイントとするこ
とができ、端末装置101および105との無線による
データ送受信が可能である。
【0019】無線アクセスポイントは、例えば、無線LA
Nアクセスポイント、Bluetoothのアクセスポイント、携
帯電話の基地局等が挙げられるが、端末装置をネットワ
ークを介して相手の端末装置に接続する機能を有する機
器であれば代替可能である。
【0020】ゲートキーパ102および104は、例え
ばコンピュータシステムで構成され、端末装置間の呼制
御や、端末装置のアドレス管理、電話番号をキーにした
通信先の端末装置のアドレス検索および取得を行う。
【0021】ルータ106および108は、例えばコン
ピュータシステムにより構成され、通信先のアドレスの
端末装置までの通信経路の決定およびデータの送信を行
う。
【0022】これらの装置により、例えば端末装置10
1から通信先である端末装置105の電話番号が入力さ
れると、無線アクセスポイント107経由で端末装置1
05の電話番号がゲートキーパ102に通知され、ゲー
トキーパ102において、端末装置105の電話番号を
キーにして端末装置105のアドレスが検索および取得
される。そして、取得されたアドレスが無線アクセスポ
イント107経由で端末装置101に通知され、端末装
置101は、無線アクセスポイント107、ルータ10
6、ネットワーク103、ルータ108、および無線ア
クセスポイント109を介して端末装置105にデータ
を送信することが可能となる。また、このとき、端末装
置105は、端末装置101から端末装置101のアド
レスを受信して、無線アクセスポイント109、ルータ
108、ネットワーク103、ルータ106、無線アク
セスポイント107を介して端末装置101にデータを
送信することが可能となり、端末装置101と端末装置
105は互いにデータの送受信が可能となる。
【0023】さて、上記において、ゲートキーパ、ルー
タ、および無線アクセスポイントについては、既に利用
されているものを適用可能であるので、詳細な説明を省
略し、以下では端末装置の構成および動作内容について
説明する。まず、端末装置の構成を説明する。図4は端
末装置の構成を示すブロック図である。図4に示すよう
に端末装置は、中央処理装置501と、記憶装置502
と、音声入力装置503と、音声出力装置504と、映
像入力装置505と、表示装置506と、設定入力装置
507と、通信制御/入出力装置508と、二次記憶装
置509から構成され、これらはバス510を介して互
いにデータのやり取りが可能なように構成されている。
【0024】なお、これらの端末装置を構成する装置と
しては、既存の装置を利用することが可能である。すな
わち、設定入力装置507は、操作ボタン等によって実
現され、本端末装置の利用者は、本設定入力装置507
により、本端末装置における動作設定情報や通信先の電
話番号を入力する。また、本端末装置の利用者は、本設
定入力装置507により、通信の開始や終了を指示する
ことが可能である。通信制御/入出力装置508は、例
えば無線LANにおける無線LANカードとアンテナによって
構成され、無線によりゲートキーパとデータの送受信を
行う。音声入力装置503は、マイク等によって構成さ
れ、外部の音声を端末装置内に入力する。映像入力装置
505は、カメラ等により構成され、外部の映像を端末
装置内に入力する。音声出力装置504は、スピーカ等
によって構成され、音声を出力する。表示装置506
は、液晶等により構成され、映像を表示する。
【0025】中央処理装置501は、汎用のプロセッサ
であり、本端末装置の動作を規定するプログラムに基づ
き、本端末装置における動作を制御するとともに、音声
入力装置503および映像入力装置505からの音声デ
ータおよび映像データの取得、映像データの切り出しお
よび表示装置506への表示、およびこれらの音声デー
タおよび映像データの符号化、パケット生成、通信制御
/入出力装置508を介して相手端末へのパケット送信
を行う。
【0026】また、通信制御/入出力装置508を介し
てパケットを受信し、受信したパケットから符号化され
た映像および音声のデータを取得して、これらの映像お
よび音声データの復号化を行って、復号化された音声デ
ータを音声出力装置504を介して出力するとともに、
復号化された映像データを表示装置506へ表示する。
記憶装置502は、RAMやROM等によって構成され、中央
処理装置501で実行されるプログラム、音声入力装置
503によって入力された音声データ、映像入力装置5
05によって入力された映像データ、通信制御/入出力
装置508によって入出力されるデータ、中央処理装置
501によって符号化した映像データ、符号化した音声
データ、復号化された映像データ、および復号化された
音声データ等、中央処理装置501で処理されるデータ
を格納する。二次記憶装置509は、例えばフラッシュ
メモリ等の不揮発性メモリにより構成され、通話相手の
電話番号を含む電話帳データ等を格納することが可能で
ある。
【0027】また、本二次記憶装置509には、前記映
像入力装置505により取得する映像の水平方向サイズ
および垂直方向サイズを格納する。なお、本水平方向サ
イズおよび垂直方向サイズは画素単位で格納される。ま
た、本二次記憶装置509には、本端末装置で符号化お
よび送信に適した映像の符号化方式、任意の画素単位の
水平方向サイズ、任意の画素単位の垂直方向サイズ、フ
レームレート、任意の数値のビットレート、およびキー
フレームの挿入間隔を格納する。また、本端末装置で符
号化および送信に適した映像の符号化方式が複数存在す
る場合には、それぞれの符号化方式ごとに、その符号化
方式で符号化および送信に適した映像の任意の画素単位
の水平方向サイズ、任意の画素単位の垂直方向サイズ、
フレームレート、任意の数値のビットレート、およびキ
ーフレームの挿入間隔を格納する。
【0028】さらに、本二次記憶装置509には、本端
末装置で復号化、表示、および受信に適した映像の符号
化方式、任意の画素単位の水平方向サイズ、任意の画素
単位の垂直方向サイズ、フレームレート、任意の数値の
ビットレート、およびキーフレームの挿入間隔を格納す
る。また、本端末装置で復号化、表示、および受信に適
した映像の符号化方式が複数存在する場合には、それぞ
れの符号化方式ごとに、その符号化方式で復号化、表
示、および受信に適した映像の任意の画素単位の水平方
向サイズ、任意の画素単位の垂直方向サイズ、フレーム
レート、任意の数値のビットレート、およびキーフレー
ムの挿入間隔を格納する。
【0029】次に、端末装置の中央処理装置により行わ
れる端末装置の動作内容を説明する。図5は端末装置の
中央処理装置501によって実行されるプログラムの処
理内容を示す図であり、同時に端末装置の動作内容を示
すフローチャートである。
【0030】図5に示すように、端末装置は、ゲートキ
ーパを介して通信相手の端末装置との間に呼を確立する
(ステップ701)。
【0031】続いて、端末装置は、ステップ701にお
ける呼の確立が失敗したか否かを判断し(ステップ70
2)、失敗した場合には処理を終了する。一方、ステッ
プ702において、ステップ701における呼の確立が
成功したと判断した場合には、相手端末装置に自端末装
置の能力情報を通知する(ステップ703)。具体的に
は、自端末装置において符号化,送信,復号化,および
受信に適した音声の符号化方式およびビットレートの他
に、図6に示す通り、端末装置101’で符号化、送
信、復号化、表示、および受信に適した映像の符号化方
式、任意の画素単位の水平方向サイズ、任意の画素単位
の垂直方向サイズ、フレームレート、任意の数値のビッ
トレート、およびキーフレームの挿入間隔を、前記符号
化、送信、復号化、表示、および受信に適した映像の符
号化方式ごとに端末装置105’に送信することによっ
てなされる。ここで、キーフレームとは映像を構成する
画像において、他の画像を参照することなく復号するこ
とが可能な画像である。
【0032】なお、端末装置において符号化,送信,復
号化,および受信に適した音声の符号化方式およびビッ
トレートの通知方法については、例えばH.245勧告で規
定されている方法等であるので説明を省略する。他方、
端末装置101’で符号化、送信、復号化、表示、およ
び受信に適した映像の符号化方式、任意の画素単位のサ
イズ、フレームレート、任意の数値のビットレート、お
よびキーフレームの挿入間隔を端末装置105’に通知
する方法としては、例えば図7に示す通り、端末装置で
符号化、送信、復号化、表示、および受信に適した映像
に関する情報の伝送の開始を示す識別子1001に続い
て、端末装置で符号化および送信に適した映像に関する
情報の開始を示す識別子1002を送信し、続いて端末
装置で符号化および送信に適した映像に関する情報とし
て、映像の符号化方式を示す識別子1003、映像の任
意の画素単位の水平方向サイズ1004、任意の画素単
位の垂直方向サイズ1005、フレームレート100
6、キーフレームの挿入間隔1007、任意の数値のビ
ットレート1008、および端末装置で符号化および送
信に適した映像に関する情報の終了を示す識別子100
9を送信する。
【0033】なお、本端末装置で符号化および送信に適
した映像の符号化方式が複数存在する場合には、それぞ
れの符号化方式ごとに上記1002乃至1009のセッ
トを送信する。さらに、これらの端末装置で符号化およ
び送信に適した映像に関する情報に続いて、端末装置で
復号化、表示、および受信に適した映像に関する情報の
開始を示す識別子1010を送信し、続いて端末装置で
復号化、表示、および受信に適した映像に関する情報と
して、映像の符号化方式を示す識別子1011、映像の
任意の画素単位の水平方向サイズ1012、任意の画素
単位の垂直方向サイズ1013、フレームレート101
4、キーフレームの挿入間隔1015、任意の数値のビ
ットレート1016、および端末装置で復号化、表示、
および受信に適した映像に関する情報の終了を示す識別
子1017を送信する。
【0034】なお、本端末装置で復号化、表示、および
受信に適した映像の符号化方式が複数存在する場合に
は、それぞれの符号化方式ごとに上記1010乃至10
17のセットを送信する。そして最後に端末装置で符号
化、送信、復号化、表示、および受信に適した映像に関
する情報の伝送の終了を示す識別子1018を送信す
る。
【0035】ここで、端末装置で符号化、送信、復号
化、表示、および受信に適した映像に関する情報の伝送
の開始を示す識別子1001、端末装置で符号化、送
信、復号化、表示、および受信に適した映像に関する情
報の伝送の終了を示す識別子1018、端末装置で符号
化および送信に適した映像に関する情報の開始を示す識
別子1002、端末装置で符号化および送信に適した映
像に関する情報の終了を示す識別子1009、端末装置
で復号化、表示、および受信に適した映像に関する情報
の開始を示す識別子1010、端末装置で復号化、表
示、および受信に適した映像に関する情報の終了を示す
識別子1017は、それぞれ別の、ある決められた識別
子あるいは数値とすれば良い。
【0036】また、端末装置で符号化および送信に適し
た映像の符号化方式を示す識別子1003および端末装
置で復号化、表示、および受信に適した映像の符号化方
式を示す識別子1011は、例えばH.263勧告で規定さ
れている符号化方式を示す場合には「1」とするなど、
ある決められた識別子あるいは数値とすれば良い。ま
た、端末装置で符号化および送信に適した映像の任意の
画素単位の水平方向サイズ1004および端末装置で符
号化および送信に適した映像の任意の画素単位の垂直方
向サイズ1005は、端末装置で符号化および送信に適
した映像のサイズの画素数を送ればよい。この場合、例
えば、ある端末装置で水平方向最大160画素、垂直方
向最大120画素の映像を符号化および送信できる場合
には、端末装置で符号化および送信に適した映像の任意
の画素単位の水平方向サイズ1004は「160」、端
末装置で符号化および送信に適した映像の任意の画素単
位の垂直方向サイズ1005は「120」とすれば良
い。
【0037】また、端末装置で符号化および送信に適し
た映像のフレームレート1006、端末装置で符号化お
よび送信に適した映像のキーフレームの挿入間隔100
7、および端末装置で符号化および送信に適した映像の
任意の数値のビットレート1008は、端末装置で符号
化および送信に適した映像のフレームレート、キーフレ
ームの挿入間隔、およびビットレートを数値で送ればよ
い。この場合、例えば、ある端末装置で最大15フレー
ム/秒、キーフレームの間隔が最大5フレーム、および
ビットレートが最大60Kbpsの映像を符号化および
送信できる場合には、端末装置で符号化および送信に適
した映像のフレームレート1006は「15」、端末装
置で符号化および送信に適した映像のキーフレームの挿
入間隔1007は「5」、および端末装置で符号化およ
び送信に適した映像の任意の数値のビットレート100
8は「60000」とすればよい。
【0038】同様に、端末装置で復号化、表示、および
受信に適した映像の任意の画素単位の水平方向サイズ1
012および端末装置で復号化、表示、および受信に適
した映像の任意の画素単位の垂直方向サイズ1013
は、端末装置で復号化、表示、および受信に適した映像
のサイズの画素数を送れば良い。この場合、例えば、あ
る端末装置で水平方向最大320画素、垂直方向最大2
40画素の映像を復号化、表示、および受信できる場合
には、端末装置で復号化、表示、および受信に適した映
像の任意の画素単位の水平方向サイズ1012は「32
0」、端末装置で復号化、表示、および受信に適した映
像の任意の画素単位の垂直方向サイズ1013は「24
0」となる。
【0039】また、端末装置で復号化、表示、および受
信に適した映像のフレームレート1014、端末装置で
復号化、表示、および受信に適した映像のキーフレーム
の挿入間隔1015、および端末装置で復号化、表示、
および受信に適した映像の任意の数値のビットレート1
016は、端末装置で復号化、表示、および受信に適し
た映像のフレームレート、キーフレームの挿入間隔、お
よびビットレートを数値で送ればよい。
【0040】この場合、例えば、ある端末装置で最大3
0フレーム/秒、キーフレームの間隔が最大15フレー
ム、およびビットレートが最大100Kbpsの映像を
復号化、表示、および受信できる場合には、端末装置で
復号化、表示、および受信に適した映像のフレームレー
ト1014は「30」、端末装置で復号化、表示、およ
び受信に適した映像のキーフレームの挿入間隔1015
は「15」、および端末装置で復号化、表示、および受
信に適した映像の任意の数値のビットレート1016は
「100000」とすればよい。ここで、これらのデー
タは決められたビット数で送られても良いし、それぞれ
ある識別子とともに送られても良い。これにより、デー
タ間の区切りを識別できる。また、これらのデータは、
例えば端末装置の二次記憶装置509に格納されてお
り、これを読み出すことにより送信すれば良い。
【0041】さて、図5における説明に戻り、端末装置
は、図6における904に示すように、相手端末装置か
ら送信された相手端末の能力情報を受信することによっ
て、相手端末の能力情報を得る(ステップ704)。こ
れはステップ703で既に説明したことと同様に、相手
端末装置がその端末装置において復号化および受信に適
した音声の符号化方式およびビットレート、および図7
に示す符号化、送信、復号化、表示、および受信に適し
た映像の情報を送信し、それを受信することによってな
される。
【0042】続いて、端末装置は、送信する映像および
音声の属性を決定する(ステップ705)。ここで、送
信する音声の属性とは,送信する音声の符号化方式およ
びビットレート等であり,送信する映像の属性とは,送
信する映像の符号化方式、サイズ、フレームレート、キ
ーフレームの挿入間隔、およびビットレート等である。
ここで、送信する音声の符号化方式およびビットレート
の決定方法については説明を省略し、送信する映像の符
号化方式、サイズ、フレームレート、キーフレームの挿
入間隔、およびビットレートを決定方法について説明す
る。まず、送信する映像の符号化方式としては、本端末
装置が符号化および送信に適した映像の符号化方式と受
信側の端末装置が復号、表示、および受信に適した映像
の符号化方式とで一致する符号化方式を選択する。な
お、本端末装置が符号化および送信に適した映像の符号
化方式については、本端末装置の二次記憶装置509か
ら読み出すことにより得られる。
【0043】また、受信側の端末装置が復号、表示、お
よび受信に適した映像の符号化方式については、上記ス
テップ704で得た相手端末の能力情報に含まれている
ので、これを利用することができる。次に、送信する映
像のサイズとしては、例えば、「ステップ706で取得
する映像の水平方向サイズ」と、「本端末装置が符号化
および送信に適した映像の任意の画素単位の水平方向サ
イズ」と、「受信側の端末装置が復号、表示、および受
信に適した映像の任意の画素単位の水平方向サイズ」の
内、最も小さいサイズ以下のサイズを送信する映像の水
平方向サイズとし、「ステップ706で取得する映像の
垂直方向サイズ」と、「本端末装置が符号化および送信
に適した映像の任意の画素単位の垂直方向サイズ」と、
「受信側の端末装置が復号、表示、および受信に適した
映像の任意の画素単位の垂直方向サイズ」の内、最も小
さいサイズ以下のサイズを送信する映像の垂直方向サイ
ズとすることにより決定できる。
【0044】なお、本端末装置がステップ706で取得
する映像の水平方向サイズおよび垂直方向サイズ、およ
び本端末装置が符号化および送信に適した映像の任意の
画素単位の水平方向サイズおよび任意の画素単位の垂直
方向サイズについては、本端末装置の二次記憶装置50
9から読み出すことにより得ることができる。また、受
信側の端末装置が復号、表示、および受信に適した映像
の任意の画素単位の水平方向サイズおよび任意の画素単
位の垂直方向サイズについては、上記ステップ704で
得た相手端末の能力情報に含まれているので、これを利
用することができる。次に、送信する映像のフレームレ
ートとしては、例えば、本端末装置が符号化および送信
に適した映像のフレームレートと受信側の端末装置が復
号、表示、および受信に適した映像のフレームレートの
内、小さいほうのフレームレート以下のフレームレート
を符号化および送信する映像のフレームレートとすれば
良い。
【0045】なお、本端末装置が符号化および送信に適
した映像のフレームレートについては、本端末装置の二
次記憶装置509から読み出すことにより得ることがで
きる。また、受信側の端末装置が復号、表示、および受
信に適した映像のフレームレートについては、上記ステ
ップ704で得た相手端末の能力情報に含まれているの
で、これを利用することができる。次に、送信する映像
おけるキーフレームの挿入間隔としては、例えば、本端
末装置が符号化および送信に適した映像のキーフレーム
の挿入間隔と受信側の端末装置が復号、表示、および受
信に適した映像のキーフレームの挿入間隔の内、小さい
ほうのキーフレームの挿入間隔以下のキーフレームの挿
入間隔を符号化および送信する映像のキーフレームの挿
入間隔とすれば良い。なお、本端末装置が符号化および
送信に適した映像のキーフレームの挿入間隔について
は、本端末装置の二次記憶装置509から読み出すこと
により取得することができる。また、受信側の端末装置
が復号、表示、および受信に適した映像のキーフレーム
の挿入間隔については、上記ステップ704で得た相手
端末の能力情報に含まれているので、これを利用するこ
とができる。
【0046】次に、送信する映像のビットレートとして
は、例えば、本端末装置が符号化および送信に適した映
像の任意の数値のビットレートと受信側の端末装置が復
号、表示、および受信に適した映像の任意の数値のビッ
トレートの内、小さいほうのビットレート以下のビット
レートを符号化および送信する映像のビットレートとす
れば良い。なお、本端末装置が符号化および送信に適し
た映像の任意の数値のビットレートについては、本端末
装置の二次記憶装置509から読み出すことにより得る
ことができる。また、受信側の端末装置が復号、表示、
および受信に適した映像の任意の数値のビットレートに
ついては、上記ステップ704で得た相手端末の能力情
報に含まれているので、これを利用することができる。
【0047】さて、図5における説明に戻り、端末装置
は、映像入力装置からの映像の取得および音声入力装置
からの音声の取得を開始する(ステップ706)。な
お、本映像の取得および音声の取得処理は中央処理装置
501において他の処理と並行して実行される1つのプ
ログラムとすればよい。
【0048】続いて、端末装置は、映像入力装置505
により取得した映像データからステップ705で決定し
た送信する映像のサイズ分の映像の切り出しを開始する
(ステップ707)。これは例えば、図8に示す通り、
映像入力装置505から記憶装置502内に取得した映
像1101の中心を中心として、送信する映像のサイズ
分の映像1102を切り出し、映像データ1102’を
生成することにより実施される。または、設定入力装置
507によりユーザから切り出し位置が指定されるよう
にしても良い。なお、図8では一例として映像入力装置
505から記憶装置502内に取得した映像の水平方向
サイズおよび垂直方向サイズが、それぞれ640画素お
よび480画素であり、ステップ705で決定した送信
する映像の水平方向サイズおよび垂直方向サイズ、すな
わち切り出す映像の水平方向サイズおよび垂直方向サイ
ズが、それぞれ320画素および240画素である場合
を示している。なお、本映像の切り出し処理は中央処理
装置501において他の処理と並行して実行される1つ
のプログラムとすれば良い。
【0049】さて、端末装置は、続いて本映像の切り出
し処理で切り出した映像の表示を開始する(ステップ7
08)。これは、図8に示すように切り出した映像11
02’を端末装置においてあらかじめ決められた自映像
表示エリア1102’’のサイズにあわせて拡大あるい
は縮小して該自映像表示エリア1102’’に表示すれ
ばよい。なお、本自映像の表示処理は中央処理装置50
1において他の処理と並行して実行される1つのプログ
ラムとすればよい。
【0050】続いて、端末装置は、上記映像の切り出し
処理で切り出した映像の符号化および音声入力装置50
3から取得した音声の符号化を開始する(ステップ70
9)。ここで、音声の符号化については、ステップ70
5で決定した送信する音声の属性に準拠して符号化す
る。また、映像の符号化についても同様に、ステップ7
05で決定した送信する映像の属性に準拠して符号化す
る。なお、本映像および音声データの符号化処理は中央
処理装置501において他の処理と並行して実行される
1つのプログラムとすればよい。ただし、本発明の特徴
として、映像の符号化処理において、映像のサイズにつ
いては、上記映像の切り出し処理で切り出した映像が既
にステップ705で決定した映像のサイズに準拠してい
るので拡大あるいは縮小等をする必要はなく、このまま
のサイズで符号化を行えばよい。
【0051】続いて、端末装置は、上記映像および音声
データの符号化処理で符号化した音声および映像のデー
タの多重化およびパケットの生成を開始し(ステップ7
10)、生成されたパケットの通信相手の端末装置への
送信を開始する(ステップ711)。なお、本パケット
の生成処理およびパケットの送信処理は,それぞれ中央
処理装置501において他の処理と並行して実行される
プログラムとすればよい。
【0052】続いて、端末装置は、通信相手の端末装置
からのパケットの受信を開始し(ステップ712)、受
信したパケットから符号化された映像データおよび音声
データの取得を開始して(ステップ713)、取得した
符号化された映像データの復号化および音声データの復
号化を開始(ステップ714)し、復号化した相手映像
の表示開始(ステップ715)および復号化した相手音
声の出力を開始する(ステップ716)。なお、本パケ
ットの受信処理、受信したパケットからの符号化された
映像データおよび音声データの取得処理、符号化された
映像データの復号化および音声データの復号化処理、復
号化した相手映像の表示処理、および復号化した相手音
声の出力処理は、それぞれ中央処理装置501において
他の処理と並行して実行されるプログラムとすればよ
い。ただし、本発明の特徴として、復号化した相手映像
の表示処理においては以下の注目すべき点がある。
【0053】すなわち、復号化された映像110
2’’’は、図8に示すように、符号化された映像のサ
イズと同じであり、送信側の端末装置において取得した
映像から切り出した映像1102’のサイズと同じであ
るため、この映像を受信した端末装置の表示画面のサイ
ズと等しいかあるいはそれより小さいはずである。この
ため、復号化した相手映像の表示においては、図8に示
すように、復号化した映像1102’’’を縮小するこ
となく、表示画面303に表示することが可能である。
なお、もし、復号化した映像1102’’’が表示画面
303より小さい場合には、例えば、復号化した映像1
102’’’を表示画面303の中心に配置し、映像を
表示していない部分を黒色表示してもよいし、復号化し
た映像1102’’’を表示画面303のサイズに合わ
せて拡大して表示してもよい。
【0054】さて、端末装置は本端末装置の利用者から
終了が指示されるか、または、通信相手の端末装置から
通話の終了を指示するデータを受信するまで待ち(ステ
ップ717)、本端末装置の利用者から終了が指示され
たか、または、通信相手の端末装置から通話の終了を指
示するデータを受信した場合には、相手音声の出力を終
了し(ステップ718)、相手映像の表示を終了する
(ステップ719)。また、映像データの復号化および
音声データの復号化を終了し(ステップ720)、受信
したパケットからの符号化された映像データおよび音声
データの取得を終了して(ステップ721)、通信相手
の端末装置からのパケットの受信を終了する(ステップ
722)ことにより、通信相手の音声および映像の受信
を終了する。
【0055】さらに、上記ステップ717において,本
端末装置の利用者から終了が指示されたか、または、通
信相手の端末装置から通話の終了を指示するデータを受
信した場合には,さらに通信相手の端末装置へのパケッ
トの送信を終了し(ステップ723)、パケットの生成
を終了して(ステップ724)、送信する映像の符号化
および音声の符号化を終了する(ステップ725)。ま
た、自映像表示エリアへの映像表示を終了し(ステップ
726)、映像入力装置から入力した映像の切り出しを
終了して(ステップ727)、映像入力装置からの映像
の取得および音声入力装置からの音声の取得を終了する
(ステップ728)。なお、これらの終了処理は各処理
を行うプログラムを終了することによって実現できる。
【0056】そして、端末装置は、ゲートキーパを介し
て通信相手の端末装置との間の呼を解放して(ステップ
729)、本端末装置における処理を終了する。なお、
ゲートキーパを介して通信相手の端末装置との間の呼を
解放する方法、手順、および処理内容については、説明
を省略する。
【0057】なお,本発明の実施例においては,二次記
憶装置509には、映像のサイズに関する情報が画素単
位で格納されていたが,必ずしもこの限りではなく,例
えばビット単位あるいはバイト単位等,映像のサイズに
関して画素単位の数値に換算可能な単位で格納されてい
ても良く,この場合には,映像のサイズに関する情報を
使用する際に画素単位の数値に変換して用いればよい。
また,本発明の実施例においては,「端末装置で符号化
および送信に適した映像の任意の画素単位の水平方向サ
イズ」および「端末装置で符号化および送信に適した映
像の任意の画素単位の垂直方向サイズ」として、該端末
装置で符号化および送信に適した映像のサイズの画素数
を送ればよいと記載したが,必ずしもこの限りではな
く,例えば映像のサイズを示すビット数あるいはバイト
数等,映像のサイズに関して画素単位の数値に換算可能
な数値を送るようにしてもよい。この場合には,これら
の情報を受信する端末装置がこれらの情報を画素単位の
数値に変換して用いればよい。また,以上の説明におい
ては、映像入力装置から取得した映像に対して、ステッ
プ705で決定した送信する映像のサイズ分の映像の切
り出し、自映像の表示処理では、この切り出した映像を
自映像表示エリアに表示するとともに、映像データの符
号化処理では、この切り出した映像をステップ709で
符号化したが、これを例えば以下のように変更してもよ
い。すなわち、図9に示すように、自映像の表示処理に
おいては映像入力装置505から取得した映像1101
に対して、ステップ705で決定した送信する映像のサ
イズ分の枠1501をつけるなどしてマーキングし、こ
の枠がつけられた映像1101’’をステップ708で
自映像表示エリア1502に表示するとともに、映像デ
ータの符号化処理では、この枠で囲まれた内部の映像1
503を符号化する。この場合、やはり受信側の端末で
受信および復号化された映像1503’は、送信側の端
末装置において取得した映像に対して枠がつけられた内
部の映像1101’のサイズと同じであるため、この映
像を受信した端末装置の表示画面のサイズと等しいかあ
るいはそれより小さくなる。このため、復号化した相手
映像の表示においては、復号化した映像1503’を縮
小することなく、表示画面303に表示することが可能
であり、上記で説明した映像を切り出す場合と同様の効
果が得られる。
【0058】なお、マーキングの位置については、映像
入力装置505から取得した映像1101の中心をマー
キングの領域の中心とすればよい。または、設定入力装
置507によって、ユーザからマーキングの位置が指定
されるようにしても良い。
【0059】また、以上の説明では、送信側の端末にお
いて、映像入力装置から取得した映像から送信する映像
のサイズ分の映像を切り出す、あるいは送信する映像の
サイズ分の枠をつけるなどしてマーキングし、この枠で
囲まれた内部の映像を符号化するとしたが、例えばパー
ソナルコンピュータ等のように高性能な端末装置の場合
には、必ずしもこの限りではなく、映像入力装置から取
得した映像を縮小するようにしても良い。また、端末装
置は映像を送信する際に,その端末装置の性能を判断し
て、映像入力装置から取得した映像を切り出すか縮小す
るかを判断し、この判断結果に応じて映像入力装置から
取得した映像から送信する映像のサイズ分の映像を切り
出すか縮小するようにしても良い。この場合、図10に
示すように、中央処理装置501がステップ1001に
おいて、映像の切り出しを行うか縮小を行うか判断す
る。これは、例えば映像入力装置から取得した数フレー
ム分の映像を送信する映像のサイズに縮小して符号化す
るとともに、自映像表示エリアのサイズに縮小して、ス
テップ705で決定した送信する映像の属性に準拠して
符号化が可能か否かを判断することにより判断可能であ
る。
【0060】すなわち、中央処理装置501がステップ
1001において,映像入力装置から取得した映像を送
信する映像のサイズに縮小して符号化するとともに、自
映像表示エリアのサイズに縮小して、ステップ705で
決定した送信する映像の属性に準拠して符号化すること
が可能と判断した場合は映像入力装置から取得した映像
を縮小すると判断する。一方、中央処理装置501がス
テップ1001において,映像入力装置から取得した映
像を送信する映像のサイズに縮小して符号化するととも
に、自映像表示エリアのサイズに縮小した場合、ステッ
プ705で決定した送信する映像の属性に準拠して符号
化することが不可能と判断した場合には、映像入力装置
から取得した映像を切り出すと判断する。続いて、ステ
ップ1001において映像入力装置から取得した映像を
切り出すと判断した場合には、前述の通り映像の切り出
しを開始し、一方、ステップ1001において映像入力
装置から取得した映像を縮小すると判断した場合には、
映像入力装置から取得した映像の縮小を開始する(ステ
ップ1002)。
【0061】また、この場合、自映像表示開始処理で
は、ステップ1001において映像入力装置から取得し
た映像を切り出すと判断した場合には、前述の通り切り
出した映像の表示を開始し、ステップ1001において
映像入力装置から取得した映像を縮小すると判断した場
合には、映像入力装置から取得した映像を自映像表示エ
リアのサイズにあわせて拡大あるいは縮小して表示する
(ステップ708’)。
【0062】また、本端末装置における処理を終了する
際には、ステップ1001において映像入力装置から取
得した映像を切り出すと判断したかどうかを判断して
(ステップ1003)、映像を切り出すと判断した場合
には、前述の通り切り出し処理を終了し、映像を縮小す
ると判断した場合には、ステップ1002で開始してい
る映像の縮小処理を終了する。なお、図10において、
図5と同じ内容の処理については同じ番号を付してあ
る。また、本発明の実施形態の説明では、映像の取得お
よび音声の取得処理、映像の切り出し処理、映像の縮小
処理、自映像の表示処理、映像および音声データの符号
化処理、パケットの生成処理、パケットの受信処理、受
信したパケットからの符号化された映像データおよび音
声データの取得処理、符号化された映像データの復号化
および音声データの復号化処理、復号化した相手映像の
表示処理、および復号化した相手音声の出力処理を,そ
れぞれ中央処理装置501において実行されるプログラ
ムとしたが、これらの処理をそれぞれハードウェアによ
り実現してもよい。
【0063】
【発明の効果】本発明によれば、表示画面の属性が異な
っている場合でも効率よく情報を送受信できる。また、
端末装置に必要となるメモリ量や処理能力を少なくし、
低コストな端末装置にて情報通信システムを構築するこ
とが可能である。
【図面の簡単な説明】
【図1】本発明の実施例にかかるテレビ電話システムの
構成図である。
【図2】本発明の実施例にかかるテレビ電話システムに
おける端末装置の一例を示す図であり、特に携帯電話型
の端末装置を示す図である。
【図3】本発明の実施例にかかるテレビ電話システムに
おける端末装置の他の例を示す図であり、特にPDA型の
端末装置を示す図である。
【図4】本発明の実施例にかかるテレビ電話システムに
おける端末装置の構成の一例を示す図である。
【図5】本発明の実施例にかかるテレビ電話システムに
おける端末装置の動作内容を示す図である。
【図6】本発明の実施例にかかるテレビ電話システムに
おける端末装置が相手側の端末装置に自端末装置の能力
情報を通知することおよび相手端末装置から送信された
相手端末装置の能力情報を受信することによって、相手
端末の能力情報を得ることを示す図であり、特に端末装
置間で符号化、送信、復号化、表示、および受信に適し
た映像の符号化方式、任意の画素単位のサイズ、フレー
ムレート、キーフレームの挿入間隔、および任意の数値
のビットレートを通知しあうことを示す図である。
【図7】本発明の実施例にかかるテレビ電話システムに
おける端末装置間で符号化、送信、復号化、表示、およ
び受信に適した映像の符号化方式、任意の画素単位のサ
イズ、フレームレート、キーフレームの挿入間隔、およ
び任意の数値のビットレートを通知しあう際の送受信す
るデータの構造を示す図である。
【図8】本発明の実施例にかかるテレビ電話システムに
おける端末装置が映像入力装置から取得した映像に対し
て、送信する映像のサイズ分の映像を切り出し、この切
り出した映像を自映像表示エリアに表示するとともに、
この切り出した映像を符号化し、相手側の端末装置に送
信することを示す図である。また、受信側の端末装置で
は、この映像を復号化し、縮小することなく、表示画面
に表示することが可能であることを示す図である。
【図9】本発明の実施例にかかるテレビ電話システムに
おける端末装置が映像入力装置から取得した映像に対し
て、送信する映像のサイズ分の枠をつけ、この枠がつけ
られた映像を自映像表示エリアに表示するとともに、こ
の枠で囲まれた内部の映像を符号化し、相手側の端末装
置に送信することを示す図である。また、受信側の端末
装置では、この映像を復号化し、縮小することなく、表
示画面に表示することが可能であることを示す図であ
る。
【図10】本発明の実施例にかかるテレビ電話システム
における端末装置の動作内容を示す図であり、特に端末
装置の性能を判断して、映像入力装置から取得した映像
を切り出すか縮小するかを判断し、この判断結果に応じ
て映像入力装置から取得した映像から、送信する映像の
サイズ分の映像を切り出すか縮小する場合の端末装置の
動作内容を示す図である。
【符号の説明】
001…通信拠点A 002…通信拠点B 101…端末装置 102…ゲートキーパ 103…ネットワーク 104…ゲートキーパ 105…端末装置 106…ルータ 107…無線アクセスポイント 108…ルータ 109…無線アクセスポイント 200…端末装置 201…端末装置本体 202…カメラ 203…表示画面 204…操作ボタン 205…スピーカ 206…マイク 207…アンテナ 300…端末装置 301…端末装置本体 302…カメラ 303…表示画面 304…操作ボタン 305…スピーカ 306…マイク 307…アンテナ 501…中央処理装置 502…記憶装置 503…音声入力装置 504…音声出力装置 505…映像入力装置 506…表示装置 507…設定入力装置 508…通信制御/入出力装置 509…二次記憶装置 510…バス
───────────────────────────────────────────────────── フロントページの続き (72)発明者 荻原 一親 茨城県ひたちなか市稲田1410番地 株式会 社日立製作所モバイル端末事業部内 (72)発明者 横沢 達 神奈川県横浜市戸塚区吉田町292番地 株 式会社日立製作所デジタルメディア開発本 部内 (72)発明者 友兼 武郎 神奈川県川崎市麻生区王禅寺1099番地 株 式会社日立製作所システム開発研究所内 Fターム(参考) 5C064 AA01 AC04 AC06 AC13 AC15 AC16 AC18 AD02 AD08 AD14 5K067 AA13 BB04 DD52 DD54 EE02 FF02 FF23 FF31

Claims (20)

    【特許請求の範囲】
  1. 【請求項1】少なくとも2つの端末装置の間で映像を送
    受信するテレビ電話システムであって、第1の端末装置
    は、該第1の端末装置が受信に適した映像に関する情報
    を第2の端末装置に通知し、前記第2の端末装置は、前
    記映像に関する情報に基づき、映像を処理した後に前記
    第1の端末装置に処理後の映像を送信することを特徴と
    するテレビ電話システム。
  2. 【請求項2】請求項1記載のテレビ電話システムであっ
    て、前記第1の端末装置は、前記映像に関する情報とし
    て、前記第1の端末装置が復号化、表示、または受信に
    適した映像のサイズを任意の画素単位で通知することを
    特徴とするテレビ電話システム。
  3. 【請求項3】請求項1記載のテレビ電話システムであっ
    て、前記第1の端末装置は、前記映像に関する情報とし
    て、前記第1の端末装置が復号化、表示、または受信に
    適した映像のフレームレートを通知することを特徴とす
    るテレビ電話システム。
  4. 【請求項4】請求項1記載のテレビ電話システムであっ
    て、前記第1の端末装置は、前記映像に関する情報とし
    て、前記第1の端末装置が復号化、表示、および受信に
    適した映像のビットレートを任意の数値で通知すること
    を特徴とするテレビ電話システム。
  5. 【請求項5】請求項1記載のテレビ電話システムであっ
    て、前記第1の端末装置は、前記映像に関する情報とし
    て、前記第1の端末装置が復号化、表示、および受信に
    適した映像のキーフレームの挿入間隔を通知することを
    特徴とするテレビ電話システム。
  6. 【請求項6】外部の音声を該端末装置に入力するための
    音声入力手段と、外部の映像を該端末装置に入力するた
    めの映像入力手段と、該音声入力手段により入力した音
    声を符号化する音声データ符号化手段と、該映像入力手
    段により入力した映像を符号化する映像データ符号化手
    段と、受信した符号化音声データを復号化する音声デー
    タ復号化手段と、受信した符号化映像データを復号化す
    る映像データ復号化手段と、復号化した音声を外部に出
    力するための音声出力手段と、復号化した映像を表示す
    るための表示手段と、符号化された音声データおよび映
    像データを送受信するための通信手段と、通信相手の端
    末装置において復号化、表示、および受信に適した映像
    のサイズに関する情報を取得する相手端末能力取得手段
    と、を有する端末装置であって、該端末装置はさらに前
    記映像入力手段で入力した映像から送信すべき映像デー
    タを生成する送信映像生成手段を備え、該送信映像生成
    手段は、前記相手端末能力取得手段で取得した通信相手
    の端末装置において復号化、表示、および受信に適した
    映像のサイズ以下のサイズを送信映像サイズとして決定
    し、前記映像入力手段で入力した映像から該送信映像サ
    イズ分の映像を切り出すことにより送信すべき映像デー
    タを生成し、前記映像データ符号化手段は、該送信映像
    生成手段によって生成された映像データを符号化するこ
    とを特徴とするテレビ電話システムの端末装置。
  7. 【請求項7】請求項6に記載のテレビ電話システムの端
    末装置であって、該端末装置は、さらに切り出し位置指
    定手段を備え、該切り出し位置指定手段により、前記送
    信映像生成手段において前記映像入力手段で入力した映
    像から該送信映像サイズ分の映像を切り出す際の切り出
    し位置を指定できることを特徴としたテレビ電話システ
    ムの端末装置。
  8. 【請求項8】請求項6乃至請求項7に記載のテレビ電話
    システムの端末装置であって、前記送信映像生成手段
    は、前記映像入力手段により入力した映像のサイズと、
    該端末装置において符号化および送信に適した映像のサ
    イズと、前記相手端末能力取得手段で取得した通信相手
    の端末装置において復号化、表示、および受信に適した
    映像のサイズの内、最も小さい水平方向のサイズ以下を
    水平方向サイズとし,最も小さい垂直方向のサイズ以下
    を垂直方向サイズとして送信映像サイズを決定し、前記
    映像入力手段で入力した映像から該送信映像サイズ分の
    映像を切り出すことにより送信すべき映像データを生成
    することを特徴とするテレビ電話システムの端末装置。
  9. 【請求項9】請求項6または請求項8のいずれかに記載
    のテレビ電話システムの端末装置であって、前記送信映
    像生成手段は、該端末装置において前記映像入力手段に
    より入力した映像を前記決定した送信映像サイズに縮小
    するだけの性能があるか否かを判断し、該性能があると
    判断した場合には、前記映像入力手段により入力した映
    像を前記決定した送信映像サイズに縮小することによ
    り、送信すべき映像データを生成し、前記性能がないと
    判断した場合には、前記映像入力手段で入力した映像か
    ら該送信映像サイズ分の映像を切り出すことにより送信
    すべき映像データを生成することを特徴とするテレビ電
    話システムの端末装置。
  10. 【請求項10】請求項6乃至請求項9のいずれかに記載
    のテレビ電話システムの端末装置であって、前記表示手
    段は、前記送信映像生成手段によって生成された送信す
    べき映像データをあらかじめ定められたエリアに表示す
    ることを特徴とするテレビ電話システムの端末装置。
  11. 【請求項11】請求項10に記載のテレビ電話システム
    の端末装置であって、該端末装置は、さらに送信映像領
    域マーキング手段を備え、該送信映像領域マーキング手
    段は、前記送信映像生成手段によって生成された送信す
    べき映像データの領域を、前記映像入力手段により入力
    した映像中にマーキングし、前記表示手段は、該マーキ
    ングされた映像データをあらかじめ定められたエリアに
    表示することを特徴とするテレビ電話システムの端末装
    置。
  12. 【請求項12】請求項6乃至請求項11のいずれかに記
    載のテレビ電話システムの端末装置であって、前記相手
    端末能力取得手段は、前記通信相手の端末装置において
    復号化、表示、および受信に適した映像のサイズを任意
    の画素単位で取得することを特徴とするテレビ電話シス
    テムの端末装置。
  13. 【請求項13】請求項6乃至請求項12のいずれかに記
    載のテレビ電話システムの端末装置であって、該端末装
    置は、さらに自端末能力通知手段を備え、該自端末能力
    通知手段は、該自端末装置において復号化、表示、およ
    び受信に適した映像のサイズを任意の画素単位で相手端
    末装置に通知することを特徴とするテレビ電話システム
    の端末装置。
  14. 【請求項14】請求項13に記載のテレビ電話システム
    の端末装置であって、前記映像データ復号化手段では、
    受信した符号化映像データを縮小することなく復号化
    し、前記表示手段は、前記復号化した映像を縮小するこ
    となくあらかじめ定められたエリアに表示することを特
    徴とするテレビ電話システムの端末装置。
  15. 【請求項15】外部の音声を該端末装置に入力するため
    の音声入力手段と、外部の映像を該端末装置に入力する
    ための映像入力手段と、該音声入力手段により入力した
    音声を符号化する音声データ符号化手段と、該映像入力
    手段により入力した映像を符号化する映像データ符号化
    手段と、受信した符号化音声データを復号化する音声デ
    ータ復号化手段と、受信した符号化映像データを復号化
    する映像データ復号化手段と、復号化した音声を外部に
    出力するための音声出力手段と、復号化した映像を表示
    するための表示手段と、符号化された音声データおよび
    映像データを送受信するための通信手段と、を備えた端
    末装置であって、該端末装置は、さらに通信相手の端末
    装置において復号化、表示、および受信に適した映像の
    フレームレートを取得する相手端末能力取得手段を備
    え、前記映像データ符号化手段は、該相手端末能力取得
    手段により取得した通信相手の端末装置において復号
    化、表示、および受信に適した映像のフレームレート以
    下のフレームレートで前記映像入力手段から入力した映
    像を符号化することを特徴とするテレビ電話システムの
    端末装置。
  16. 【請求項16】請求項15に記載のテレビ電話システム
    の端末装置であって、該端末装置は、さらに自端末能力
    通知手段を備え、該自端末能力通知手段は、該自端末装
    置において復号化、表示、および受信に適した映像のフ
    レームレートを相手端末装置に通知することを特徴とす
    るテレビ電話システムの端末装置。
  17. 【請求項17】外部の音声を該端末装置に入力するため
    の音声入力手段と、外部の映像を該端末装置に入力する
    ための映像入力手段と、該音声入力手段により入力した
    音声を符号化する音声データ符号化手段と、該映像入力
    手段により入力した映像を符号化する映像データ符号化
    手段と、受信した符号化音声データを復号化する音声デ
    ータ復号化手段と、受信した符号化映像データを復号化
    する映像データ復号化手段と、復号化した音声を外部に
    出力するための音声出力手段と、復号化した映像を表示
    するための表示手段と、符号化された音声データおよび
    映像データを送受信するための通信手段と、を備えた端
    末装置であって、該端末装置は、さらに通信相手の端末
    装置において復号化、表示、および受信に適した映像の
    ビットレートを任意の数値で取得する相手端末能力取得
    手段を備え、前記映像データ符号化手段は、該相手端末
    能力取得手段により取得した通信相手の端末装置におい
    て復号化、表示、および受信に適した映像のビットレー
    ト以下のビットレートで前記映像入力手段から入力した
    映像を符号化することを特徴とするテレビ電話システム
    の端末装置。
  18. 【請求項18】請求項17に記載のテレビ電話システム
    の端末装置であって、該端末装置は、さらに自端末能力
    通知手段を備え、該自端末能力通知手段は、該自端末装
    置において復号化、表示、および受信に適した映像のビ
    ットレートを任意の数値で相手端末装置に通知すること
    を特徴とするテレビ電話システムの端末装置。
  19. 【請求項19】外部の音声を該端末装置に入力するため
    の音声入力手段と、外部の映像を該端末装置に入力する
    ための映像入力手段と、該音声入力手段により入力した
    音声を符号化する音声データ符号化手段と、該映像入力
    手段により入力した映像を符号化する映像データ符号化
    手段と、受信した符号化音声データを復号化する音声デ
    ータ復号化手段と、受信した符号化映像データを復号化
    する映像データ復号化手段と、復号化した音声を外部に
    出力するための音声出力手段と、復号化した映像を表示
    するための表示手段と、符号化された音声データおよび
    映像データを送受信するための通信手段と、を備えた端
    末装置であって、該端末装置は、さらに通信相手の端末
    装置において復号化、表示、および受信に適した映像の
    キーフレームの挿入間隔を取得する相手端末能力取得手
    段を備え、前記映像データ符号化手段は、該相手端末能
    力取得手段により取得した通信相手の端末装置において
    復号化、表示、および受信に適した映像のキーフレーム
    の挿入間隔を元にして、前記映像入力手段から入力した
    映像を符号化する際のキーフレームの挿入間隔を決定
    し、該キーフレームの挿入間隔でキーフレームを挿入し
    つつ前記映像入力手段から入力した映像を符号化するこ
    とを特徴とするテレビ電話システムの端末装置。
  20. 【請求項20】請求項19に記載のテレビ電話システム
    の端末装置であって、該端末装置は、さらに自端末能力
    通知手段を備え、該自端末能力通知手段は、該自端末装
    置において復号化、表示、および受信に適した映像のキ
    ーフレームの挿入間隔を相手端末装置に通知することを
    特徴とするテレビ電話システムの端末装置。
JP2002154940A 2002-05-29 2002-05-29 テレビ電話システムおよびその端末装置 Expired - Fee Related JP3775346B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2002154940A JP3775346B2 (ja) 2002-05-29 2002-05-29 テレビ電話システムおよびその端末装置
US10/372,811 US6850267B2 (en) 2002-05-29 2003-02-26 Video telephone system and terminal device therefor

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002154940A JP3775346B2 (ja) 2002-05-29 2002-05-29 テレビ電話システムおよびその端末装置

Publications (2)

Publication Number Publication Date
JP2003348556A true JP2003348556A (ja) 2003-12-05
JP3775346B2 JP3775346B2 (ja) 2006-05-17

Family

ID=29561389

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002154940A Expired - Fee Related JP3775346B2 (ja) 2002-05-29 2002-05-29 テレビ電話システムおよびその端末装置

Country Status (2)

Country Link
US (1) US6850267B2 (ja)
JP (1) JP3775346B2 (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006109783A1 (ja) * 2005-04-11 2006-10-19 Ntt Docomo, Inc. 移動通信システム及び移動機
JP2009055366A (ja) * 2007-08-27 2009-03-12 Panasonic Electric Works Co Ltd 映像伝送システム
JP2009055368A (ja) * 2007-08-27 2009-03-12 Panasonic Electric Works Co Ltd 映像伝送システム
JP2010521856A (ja) * 2007-03-13 2010-06-24 スカイプ・リミテッド 通信システムにおけるデータ伝送方法
JP2010536232A (ja) * 2007-08-23 2010-11-25 サムスン エレクトロニクス カンパニー リミテッド モバイルビデオ電話間の好適画像フォーマットを決定する方法及び装置
US8115797B2 (en) * 2003-12-22 2012-02-14 At&T Intellectual Property I, L.P. Network-enabled peer-to-peer video calling systems, methods, and storage medium
JP2015119423A (ja) * 2013-12-19 2015-06-25 カシオ計算機株式会社 通信装置、通信方法及びプログラム
JP2015525530A (ja) * 2012-12-06 2015-09-03 小米科技有限▲責▼任公司Xiaomi Inc. ビデオ通信方法、ビデオ通信装置、プログラム及び記録媒体
JP2016005264A (ja) * 2014-06-20 2016-01-12 船井電機株式会社 映像送信装置及び映像送信方法

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20040093208A (ko) * 2003-04-22 2004-11-05 삼성전자주식회사 이동통신 단말기에서 수신된 텔레비전 신호를 전송하는장치 및방법
WO2005029237A2 (en) * 2003-09-15 2005-03-31 Digital Networks North America, Inc. Method and system for adaptive transcoding and transrating in a video network
US7609286B2 (en) * 2004-01-08 2009-10-27 Sorenson Communications, Inc. Method and apparatus for video conferencing
FR2866503A1 (fr) * 2004-02-12 2005-08-19 France Telecom Systeme de messagerie multimedia
US20060004834A1 (en) * 2004-06-30 2006-01-05 Nokia Corporation Dynamic shortcuts
US7127230B2 (en) * 2004-12-10 2006-10-24 Bellsouth Intellectual Property Corporation Methods and computer program products for providing communications in emergency situations
EP1717755B1 (en) * 2005-03-08 2011-02-09 Oculus Info Inc. System and method for large scale information analysis using data visualization techniques
US7535484B2 (en) * 2005-03-14 2009-05-19 Sony Ericsson Mobile Communications Ab Communication terminals that vary a video stream based on how it is displayed
JP2009540835A (ja) * 2006-06-22 2009-11-26 ジェネンテック・インコーポレーテッド ヘプシンをターゲティングするための方法と組成物
CN101115021B (zh) * 2006-07-28 2010-05-12 腾讯科技(深圳)有限公司 一种即时通信视频质量调节方法及装置
KR100755789B1 (ko) * 2006-07-31 2007-09-05 삼성전자주식회사 휴대용 단말기에서 화상통화 방법 및 장치
WO2008049916A1 (en) * 2006-10-26 2008-05-02 Seereal Technologies S.A. Mobile tlephony system comprising holographic display
WO2009002021A1 (en) * 2007-06-28 2008-12-31 Kt Corporation System for supporting video message service and method thereof
US20100054326A1 (en) * 2008-08-26 2010-03-04 General Instrument Corporation Method and apparatus for detecting start and end of a video sequence
US8446452B2 (en) * 2008-11-07 2013-05-21 Magor Communications Corporation Video rate adaptation for congestion control
US8937638B2 (en) * 2012-08-10 2015-01-20 Tellybean Oy Method and apparatus for tracking active subject in video call service
CN103595978B (zh) * 2012-08-16 2017-06-16 中国电信股份有限公司 用于在视频通信中协商编码分辨率的方法和系统
US8760489B1 (en) 2013-06-25 2014-06-24 Vonage Network Llc Method and apparatus for dynamically adjusting aspect ratio of images during a video call
US20160205406A1 (en) * 2013-09-30 2016-07-14 Coolpad Software Tech (Shenzhen) Co., Ltd Image encoding and decoding method and system and terminal
JP6756269B2 (ja) * 2017-01-05 2020-09-16 株式会社リコー 通信端末、画像通信システム、通信方法、及びプログラム
CN109976646B (zh) * 2019-03-22 2020-11-10 上海沈德医疗器械科技有限公司 磁共振扫描控制和影像传输方法、服务端和程序

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08139719A (ja) * 1994-11-09 1996-05-31 Matsushita Electric Ind Co Ltd データ伝送装置
JPH10248053A (ja) * 1997-03-05 1998-09-14 Sharp Corp 画像端末装置
JPH10257461A (ja) * 1997-03-11 1998-09-25 Toshiba Corp 画像送信装置、画像受信装置、画像通信システム及び画像通信方法
JPH11112955A (ja) * 1997-09-30 1999-04-23 Canon Inc 遠隔会議システム及び端末装置
JPH11215481A (ja) * 1998-01-22 1999-08-06 Fujitsu Ltd 画像データ送受信システムおよびその送信側装置およびその受信側装置並びにそのプログラムを記憶した記憶媒体
JP2000115730A (ja) * 1998-09-30 2000-04-21 Nec Corp テレビ電話装置とそのモード設定方法
JP2001025013A (ja) * 1999-07-12 2001-01-26 Matsushita Electric Ind Co Ltd 送受信方法及びその装置
JP2001045097A (ja) * 1999-07-30 2001-02-16 Kyocera Corp 通信端末または通信システム
JP2001069472A (ja) * 1999-08-26 2001-03-16 Toshiba Corp 映像通信端末
JP2001197298A (ja) * 2000-01-07 2001-07-19 Minolta Co Ltd 画像データの送信方法および通信端末装置
JP2002051315A (ja) * 2000-05-24 2002-02-15 Sony Corp データ伝送方法およびその装置、並びにデータ伝送システム

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE69106183T2 (de) * 1990-03-15 1995-06-22 Canon Kk Gerät zur Sprach- und Videoübertragung.
US6538686B2 (en) * 2000-01-07 2003-03-25 Minolta Co., Ltd. Method for transmitting image data and communication terminal

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08139719A (ja) * 1994-11-09 1996-05-31 Matsushita Electric Ind Co Ltd データ伝送装置
JPH10248053A (ja) * 1997-03-05 1998-09-14 Sharp Corp 画像端末装置
JPH10257461A (ja) * 1997-03-11 1998-09-25 Toshiba Corp 画像送信装置、画像受信装置、画像通信システム及び画像通信方法
JPH11112955A (ja) * 1997-09-30 1999-04-23 Canon Inc 遠隔会議システム及び端末装置
JPH11215481A (ja) * 1998-01-22 1999-08-06 Fujitsu Ltd 画像データ送受信システムおよびその送信側装置およびその受信側装置並びにそのプログラムを記憶した記憶媒体
JP2000115730A (ja) * 1998-09-30 2000-04-21 Nec Corp テレビ電話装置とそのモード設定方法
JP2001025013A (ja) * 1999-07-12 2001-01-26 Matsushita Electric Ind Co Ltd 送受信方法及びその装置
JP2001045097A (ja) * 1999-07-30 2001-02-16 Kyocera Corp 通信端末または通信システム
JP2001069472A (ja) * 1999-08-26 2001-03-16 Toshiba Corp 映像通信端末
JP2001197298A (ja) * 2000-01-07 2001-07-19 Minolta Co Ltd 画像データの送信方法および通信端末装置
JP2002051315A (ja) * 2000-05-24 2002-02-15 Sony Corp データ伝送方法およびその装置、並びにデータ伝送システム

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8115797B2 (en) * 2003-12-22 2012-02-14 At&T Intellectual Property I, L.P. Network-enabled peer-to-peer video calling systems, methods, and storage medium
WO2006109783A1 (ja) * 2005-04-11 2006-10-19 Ntt Docomo, Inc. 移動通信システム及び移動機
JP2010521856A (ja) * 2007-03-13 2010-06-24 スカイプ・リミテッド 通信システムにおけるデータ伝送方法
JP2013179654A (ja) * 2007-08-23 2013-09-09 Samsung Electronics Co Ltd モバイルビデオ電話間の選好画像フォーマットを決定する方法及び装置
JP2010536232A (ja) * 2007-08-23 2010-11-25 サムスン エレクトロニクス カンパニー リミテッド モバイルビデオ電話間の好適画像フォーマットを決定する方法及び装置
US8606325B2 (en) 2007-08-23 2013-12-10 Samsung Electronics Co., Ltd. Method and apparatus for determining preferred image format between mobile video telephones
US9549013B2 (en) 2007-08-23 2017-01-17 Samsung Electronics Co., Ltd. Method and apparatus for determining preferred image format between mobile video telephones
JP2009055368A (ja) * 2007-08-27 2009-03-12 Panasonic Electric Works Co Ltd 映像伝送システム
JP2009055366A (ja) * 2007-08-27 2009-03-12 Panasonic Electric Works Co Ltd 映像伝送システム
JP2015525530A (ja) * 2012-12-06 2015-09-03 小米科技有限▲責▼任公司Xiaomi Inc. ビデオ通信方法、ビデオ通信装置、プログラム及び記録媒体
US9591256B2 (en) 2012-12-06 2017-03-07 Xiaomi Inc. Methods and devices for video communication
KR101813196B1 (ko) * 2012-12-06 2017-12-28 시아오미 아이엔씨. 화상 통신 방법, 장치, 프로그램 및 기록매체
JP2015119423A (ja) * 2013-12-19 2015-06-25 カシオ計算機株式会社 通信装置、通信方法及びプログラム
JP2016005264A (ja) * 2014-06-20 2016-01-12 船井電機株式会社 映像送信装置及び映像送信方法

Also Published As

Publication number Publication date
US20030222973A1 (en) 2003-12-04
JP3775346B2 (ja) 2006-05-17
US6850267B2 (en) 2005-02-01

Similar Documents

Publication Publication Date Title
JP2003348556A (ja) テレビ電話システムおよびその端末装置
US7535484B2 (en) Communication terminals that vary a video stream based on how it is displayed
JP4443181B2 (ja) コミュニケーションシステム及び方法
CN101156374B (zh) 一种监听视频呼叫的系统和方法
US20070070181A1 (en) Method and apparatus for controlling image in wireless terminal
KR20050015932A (ko) 전화 통신 시스템
JP4331049B2 (ja) データ伝送装置およびデータ伝送方法
US8274545B2 (en) Apparatus and method for casting video data and audio data to web during video telephony in mobile communication terminal
CN114221909B (zh) 数据传输方法、装置、终端及存储介质
US10244207B2 (en) Videoconference communication device
US8159970B2 (en) Method of transmitting image data in video telephone mode of a wireless terminal
KR100538704B1 (ko) 카메라 내장형 이동 단말기의 오디오 비디오 인코딩 방법및 디코딩 방법
JP2010016885A (ja) 通信装置および方法、通信システム、並びにプログラム記録媒体
KR20040059662A (ko) 스트리밍 방식을 이용한 동영상메일 통신장치 및 방법
KR101341862B1 (ko) 플로우 모션 영상 촬영 방법 및 시스템
JP5282389B2 (ja) 電話装置および電子会議装置
JP2004165949A (ja) テレビ電話システム
JP2005182629A (ja) 情報送受信システムおよび方法、送信装置および送信方法、受信装置および受信方法、並びにプログラム
JP2007041718A (ja) 情報配信システム、情報配信装置、情報受信装置、および、プログラム
KR20010067993A (ko) 배경화상 제거 또는 의사 배경화상 삽입 서비스가 가능한이동통신 시스템과 이를 이용한 방법
JP2004186757A (ja) 通信ネットワークを用いた電話システムの使用方法
JP6481937B2 (ja) テレビ会議用通信装置
JP2007281766A (ja) 画像送信装置及びその送信方法
JP4383935B2 (ja) アドレス生成方法、通信方法
JP2007006085A (ja) 無線携帯端末、並びに、それを用いた撮像方法および通信方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040323

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050712

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050905

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20051108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20051228

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060131

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060213

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100303

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110303

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees