JP4568442B2 - テレビ会議システム - Google Patents

テレビ会議システム Download PDF

Info

Publication number
JP4568442B2
JP4568442B2 JP2001069604A JP2001069604A JP4568442B2 JP 4568442 B2 JP4568442 B2 JP 4568442B2 JP 2001069604 A JP2001069604 A JP 2001069604A JP 2001069604 A JP2001069604 A JP 2001069604A JP 4568442 B2 JP4568442 B2 JP 4568442B2
Authority
JP
Japan
Prior art keywords
display
terminal
video signal
capability
side terminal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2001069604A
Other languages
English (en)
Other versions
JP2002271763A5 (ja
JP2002271763A (ja
Inventor
俊彦 楳田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2001069604A priority Critical patent/JP4568442B2/ja
Publication of JP2002271763A publication Critical patent/JP2002271763A/ja
Publication of JP2002271763A5 publication Critical patent/JP2002271763A5/ja
Application granted granted Critical
Publication of JP4568442B2 publication Critical patent/JP4568442B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Description

【0001】
【発明の属する技術分野】
本発明は、テレビ会議システムに関し、特にコンピュータデータを主体に映像情報をあわせて表示可能なテレビ会議システムに関する。
【0002】
【従来の技術】
テレビ会議システムに関する基本動作説明は、楳田発明 特開平5−183654号公報の「lSDN端末装置の制御方法」および角田発明 特開平8−307845号公報の「テレビ会診通信端末装置の制御方法」にある。図1に、従来のテレビ会議システムの構成装置の例を、図2に、その構成装置各部の接続の例を示す。テレビ会議システムは、PTZカメラを含むテレビ会議システム本体と、マイク兼スピーカ装置と、相手PTZカメラ操作用の電話回線に接続されるリモコン装置と、メインのテレビモニタと、テレビ会議システム本体とIP接続(Internet ProtocolConnection)されたパソコンなどで構成される。図3にテレビ会議システム本体の構成を表すブロック図を示す。また、図4にテレビ会議システム本体にIP接続されたパソコンにおけるアプリケーション共有のブロック図を示す。これらの内容についてはすでに公知であるのでここではとくに述べない。ところで、従来のテレビ会議システムは優先的に配信する情報は映像情報であることは公知のことである。優先的に配信するとは通信回線では伝送帯域を他のメディアである音声、データ領域と比較して極端に広く取り、またはローカルエリアネットワーク(LAN)においてはデータパケット量を同様に極端に多く取ることである。これらは、相手に伝える主情報がビデオ情報と音声であることから当然といえる。このため受信側では一般的にQCIFまたはCIF形式で受信したビデオ情報をNTSCなどのビデオ情報に変換してテレビモニターに表示し音声をスピーカーで拡声聴取する。
【0003】
このビデオ情報を重視する趣旨で従来提案された技術として、特開平6−141312号公報は、送信側の同席複数人物の顔を静止画データで送信し、主プレゼンターの映像を動画像で伝送し、受信側でテレビモニタに合成することを、動画像コーディックの出力ビデオ信号に静止画像の小サイズをビデオ信号でピクチャーインピクチャーする方式で提案している。ここで一般的に2つのビデオ信号をピクチャーインピクテヤーで片方を小さく表示する技術についてはNHKにおいて昭和40年代に開発され、既に公知の技術である。
【0004】
また、別のケースとして、相手動画像に自画像を小さくはめ込み表示する技術として、特開平6−253299号公報では、受信側で送信側から送られたビデオ画像に自席カメラの画像をモニター表示するために、CIFデータをメモリ上で合成する手段を用いて行う方法が提案されている。また、別のケースとして相手動画像に、複数の自画像を小さくはめ込み表示するサイズとレイアウト位置の自由度を与える技術として、特開平7−46564号公報では、小画面のサイズ縮小率と合成位置を入力、指示する手段を用いて行う方法が提案されている。
【0005】
また、ビデオ会議の模様をVTRに録画したり、その場のメンバーがビデオモニターを見ているときに、相手側の発言場面か自分側の発言場面かを判りやすくする技術として、特開平7−264568号公報では、相手側か自分側かを対向で会議をして発言している両者の音声信号のレベルの高低で判定して、両者のビデオ信号のうち、どちら側を親画面として大きく表示するかを制御し、ビデオ信号でピクチャーインピクテヤーする方法が提案されている。また、相手画像に自画像をモニター表示する場合に発生する両者の画質差と時間遅れを補償するため、自画像を劣化させ、または遅延させる技術として、特開平8−125992号公報では、自画像を送信するためにCIF変換した際のコーデックからの劣化フレームデータをデジタル合成し、通信相手からの画質に合わせ、なおかつ時聞遅れも発生させることにより、自然な画像にする試みも提案されている。
【0006】
また、安価なMCU装置の実現として、複数の通信相手からの映像情報を分割合成する技術として、特開平8−251567号公報では、各端末から受信したQCIF情報を自画像QCIFと共に配置合成し、各端末に送り返すことで多地点会議システム装置を構成することを提案している。これらの技術は、テレビ会議装置内のディジタル映像データを外部表示に適する形式、例えば、NTSC信号などに変換する部分において画像合成しようとするもので、欠点は専用装置化して他社装置との互換性が取れないという点である。
【0007】
また、多地点会議において、各地点の発言者(発言地点)の発言回数を受信画像にスーパーインポーズし、会議全体の発言数の均一化、活性化を行う方法として特開平5−207456号公報があり、別途、モニターに表示する方法が提案されている。また、遠隔側カメラの方向調整時に、操作ガイドとして相手映像にカメラの位置情報をスーパーインボーズする技術として、特開平5−276510号公報では撮像位置表示メモリの内容と受信画像情報を合成表示し、操作の手助けを行う方法が提案されている。
【0008】
また、グラフィック表示データ(コンピュータデータと解される)と動画データをスーパーインポーズする技術として、特開平10−191292号公報では動画デコード用のメモリを共用して構成部品を減少させる方法が提案されている。これらの技術も、映像信号を主体に、少々のカウンタ数字、文字、絵文字などを合成表示する主旨での技術提案である。欠点は、専用会議端末となり機能的に他社互換が損なわれること。また基本的に映像、音声主体で補完的表示としてデータ(ガイダンス)を合成表示するものであるという点である。
【0009】
このような従来の映像主体のテレビ会議の使い方ではなく、パソコンでのブレゼンを遠隔端末に伝える「データ会議」を主体とした利用方法を実現しようというのが本発明の主旨である。図33に、CCITT勧告のデータ会議プロトコル構成を例示する。ここでは、表示モニタとして用いる図5にその一例を示すような大画面のコンピュータモニタ表示装置としては、
A プラズマディスプレイ
B リヤプロジェクション・ディスプレイ(液晶、DMA、TMA)
C フロントプロジェクター(液晶、DMA、TMA)
D SED
E FED
F PALC
など、図6に示す公知のRGBの3原色セルの集合体パネルと、3管式CRTプロジェクターおよび従来のRGB−CRTモニタの利用などを考えている。これら大型パネルは、複数入力信号の切り替え、RGBのほかNTSC、PALなどの映像信号も使用することが出来るようになされるものである。
【0010】
ここで、遠隔会議の一般的シナリオと使用メディアを記すると
1.挨拶(映像+音声)
2.導入説明(映像+音声)
3.具体的プレゼン(コンピュータデータ[パワーポイント資料]の提示)
4.質疑応答(映像+音声+パワーポイント資料の再提示)
5.しめくくり(映像+音声)
となる。従来タイプのテレビ会議では、プレゼン資料を事前にFAXなどで送り、相手側で出席者にコピー配布し、これを元にテレビでプレゼンテータの顔を伝送して説明を行うものであった。本発明では、遠隔会議のシナリオをすべてディスプレイで行い、ペーパーレスな会議を行うものである。とくに、上記の2.〜5.のシナリオで使用するメディアの映像、コンピュータデータの表示切り替えをスムーズに行い、1台の大型ディスプレイでまかなう利用方法を提供するものである。
【0011】
【発明が解決しようとする課題】
上述のごとく、従来のテレビ会議では、プレゼン資料を事前に出席者に配布し、これを元にテレビでプレゼンテータの顔を伝送して説明する物で、事前の処理が必要であった。本発明は、コンピュータデータなどの資料提示とメディアの映像による会議の進行とを1台のディスプレイで行い、画面表示の制御、処理を容易にしたテレビ会議システムの実現を課題とする。
【0012】
【課題を解決するための手段】
上記課題を達成するため、本発明は、ローカルエリアネットワークまたはディジタル通信回線を用いて端末側カメラからの映像信号を受信しながら、コンピュータデータを端末から受信して送信側端末と共有利用するテレビ会議システムにおいて、前記受信したコンピュータデータをRGB表示するモニタディスプレイと、前記受信した映像信号を前記モニタディスプレイにスーパーインポーズ表示するスーパーインポーズ表示手段と、送信側端末に設けた表示レイアウト指示を映像信号のCODEに重ね合わせ重ね合わせ手段と、受信側端末に設けた映像信号から前記重ね合わせ手段によって重ね合わせられた表示レイアウト指示を分離する分離手段と、前記重ね合わせ手段および前記分離手段を用いて前記送信側端末から前記受信側端末の画面表示を遠隔操作する画面表示遠隔操作手段と、前記送信側端末に設けられた前記受信側端末の表示能力の読み出し要求を映像信号のCODEに重ね合わせて送信する能力読み出し要求手段と、前記送信側端末に設けられた前記受信側端末からの前記能力読み出し要求に対する返送を受信して内容を解析する返送解析手段と、前記送信側端末に設けられた前記受信側端末に前記画面表示遠隔操作手段によって画面表示を遠隔操作するGUIを生成するGUI生成手段と、前記受信側端末に設けられた表示能力の情報を記憶する記憶手段と、前記受信側端末に設けられた前記送信側端末からの前記能力読み出し要求が重ね合わせられた映像信号を受信した場合には、前記記憶手段から読み出した前記表示能力の情報を返送する能力返送手段とを備え、前記GUI生成手段は、前記返送解析手段による解析に基づき、前記受信側端末の表示能力があらかじめパターン化されたテンプレート情報を読み出し、前記受信側端末の画面表示を遠隔操作するGUIを当該送信側端末に表示することを特徴とする。
【0013】
また、ローカルエリアネットワークまたはディジタル通信回線を用いて端末側カメラからの映像信号を受信しながら、コンピュータデータを端末から受信して送信側端末と共有利用するテレビ会議システムにおいて、受信したコンピュータデータをRGB表示するモニタディスプレイと、前記受信した映像信号をRGB表示する第1のモニタディスプレイ入力手段と、前記受信したコンピュータデータをRGB表示する第2のモニタディスプレイ入力手段と、前記第1のモニタディスプレイ入力手段および前記第2のモニタディスプレイ入力手段からの入力を切り替える切り替え手段と、送信側端末に設けた表示レイアウト指示を映像信号のCODEに重ね合わせ重ね合わせ手段と、受信側端末に設けた映像信号から前記重ね合わせ手段によって重ね合わせられ表示レイアウト指示を分離する分離手段と、前記重ね合わせ手段および前記分離手段を用いて前記送信側端末から前記受信側端末の画面表示を遠隔操作する画面表示遠隔操作手段と、前記送信側端末に設けられた前記受信側端末の表示能力の読み出し要求を映像信号のCODEに重ね合わせて送信する能力読み出し要求手段と、前記送信側端末に設けられた前記受信側端末からの前記能力読み出し要求に対する返送を受信して内容を解析する返送解析手段と、前記送信側端末に設けられた前記受信側端末に前記画面表示遠隔操作手段によって画面表示を遠隔操作するGUIを生成するGUI生成手段と、前記受信側端末に設けられた表示能力の情報を記憶する記憶手段と、前記受信側端末に設けられた前記送信側端末からの前記能力読み出し要求が重ね合わせられた映像信号を受信した場合には、前記記憶手段から読み出した前記表示能力の情報を返送する能力返送手段とを備え、前記GUI生成手段は、前記返送解析手段による解析に基づき、前記受信側端末の表示能力があらかじめパターン化されたテンプレート情報を読み出し、前記受信側端末の画面表示を遠隔操作するGUIを当該送信側端末に表示することを特徴とする。これらにより、資料提示とメディアの映像による会議の進行とを1台のディスプレイで行うことが可能なテレビ会議システムを実現することができる。
【0014】
【発明の実施の形態】
以下、本発明にかかるテレビ会議システムを添付図面を参照にして詳細に説明する。
【0015】
第1の実施の形態(本発明における参考例)では、表示ディスプレイに入力される複数の入力信号を「操作ボタン」で選択し、図25に示すセレクタおよび図26に示すスーパーインポーズを用いて構成する。一方の入力にコンピュータ信号(例えばRGB信号)を入力し、別の入力にテレビ信号(例えばNTSC/PAL/SECAM信号)を入力する。コンピュータ信号はRGB信号のほか、DVI(Digital Video Interface)信号であっても良いし、テレビ信号はIEEE1394やデジタル映像信号(D3、D5)であっても良い。受信側の「操作ボタン」でテレビ信号を縮小し、コンピュータ信号の表示画面にスーパーインポーズして図8のように表示する。図7にこの実施の形態の構成を示す。これにより、受信側の操作によって、表示をディスプレイ1台で兼用することができ、装置を節約することができる。
【0016】
第2の実施の形態(本発明における参考例)では、表示ディスプレイに入力される複数の入力信号を「操作ボタン」で選択できる構成にし、一方の入力にコンピュータ信号(例えばRGB信号)を入力し、別の入力にテレビ信号を入力する。コンピュータ信号はRGB信号のほか、DVI信号であっても良いし、テレビ信号はIEEE1394やデジタル映像信号であっても良い。図9にこの実施の形態の構成を示す。この構成により、受信側の「操作ボタン」でテレビ信号の選択とコンピュータ信号のいずれかの選択を行って、一般会議シナリオにあったメディアをディスプレイ画面に優先表示する。これにより、受信側の操作によって、表示をディスプレイ1台で兼用することができ、装置を節約することができる。
【0017】
図10および図13に第3の実施の形態(本発明における参考例)の構成を、図11にその受信側PC(Personal Computer)の、図12にその送信側PCの構成を示す。第3の実施の形態では、図12に示す送信側PCからキーボード(KYB)マウスの操作により、「レイアウト指示処理タスク」を起動し、通信相手端末に図33のCCIT勧告で規定されたT123トランスポート・プロトコルを使い、相手側の表示構成の変更を指示する。KYBマウスの操作の替わりに自端末に備えたタツチパネルからの操作で指示することも可能である。受信端末は、図10および図11に示すように、IP接続(InternetProtocol Connection)で、テレビ会議システム本体と接続されている。図11では、「TCP/IP(Transmission Control Protocol/Internet Protocol)」ポートから出力される送信側から送られてきた「表示構成の変更の指示」を「レイアウト指示受信処理タスク」によって処理し、「スーパーインポーズ操作指示」を行う。この指示は図10の「パソコン」から「スーパーインポーズ回路」に伝えられ、この回路の働きで、図8の表示がなされる。「パソコン」と「スーパーインポーズ回路」への接続は、RS232C、RS422、USB、IEEE1394、SCSI、別のLANなどで構成されてもよい。
【0018】
また、別の構成例として、図13のように、受信端末側において通信相手端末に図33のCCITT勧告で既定されたT123トランスポート・プロトコルを「通信制御統合部」で処理し「スーパーインポーズ回路」へ伝え、同回路が動作して図8の表示がなされるケースも考えられる。さらにPTZカメラを使用しない場合は、この制御ポートを画面制御に転用することも可能である。これにより、遠隔端末の画面表示を制御することができ、ディスプレイ1台ですべての表示を兼用することができ、またプレゼン聴取者が理解しやすい表示が行えて円滑に会議シナリオを運用することができる。
【0019】
図14および図16に第4の実施の形態(本発明における参考例)の構成を、図15にその受信側PCの、図12にその送信側PCの構成を示す。第4の実施の形態は、第3の実施の形態の「スーパーインポーズ回路」を「セレクタ」と読み替え、表示を「映像信号」と「コンピュータ画面」とに切り替えることで説明できる。これにより、遠隔端末の画面表示を制御でき、ディスプレイが1台で表示をすべての兼用することができ、またプレゼン聴取者が理解しやすい表示が行えて円滑に会議シナリオを運用することができる。
【0020】
図17および図18に第5の実施の形態の受信側の構成を、図21〜図24にはその送信側の構成を示す。第5の実施の形態は、送受信側端末において、これまで説明したCCITT勧告で既定されたT123トランスポート・プロトコルを使わずに、相手端末の画面構成の変更指示コードを送信映像信号コードに重ね合わせる手段で実現したものである。
【0021】
受信端末でのこの指示コードの取り出し方法は図17、図18に示すような2通り考えられる。まず、図17には、映像信号の垂直ブランキング期間に限りなく近い部分でNTSCなどのビデオ信号に重ね合わせたコードを、「制御信号分離」で取り出して、これにより「スーパーインポーズ回路」を動作させ、映像信号をコンピュータ表示画面にスーパーインポーズする方法を示している。また、図18には、CIFまたはQCIFコードに「透かしコード」として混入されたデータを解凍する「制御信号解凍」の手段の構成を示す。
【0022】
これに対応する送信側には、図21、図22、図23、図24の4通りの手段が考えられる。図21では「リモコン」から指示した内容を「レイアウト指示信号発生」手段を使い、カメラからの映像信号の垂直ブランキング期間に限りなく近い部分でNTSCなどのビデオ信号中に重ね合わせる方法を示している。図22では、「リモコン」から指示した内容を「レイアウト指示コード発生」手段を使い、映像信号をCIFまたはQCIFコードに変換する際に「透かしコード」として重ね合わせを行う方法を示している。図23では、パソコンからの指示を図21のように「レイアウト指示信号発生」手段を使ってビデオ信号中に重ね合わせる方法を、また、図24ではパソコンからの指示を図22のように「レイアウト指示コード発生」手段を使い重ね合わせを行う方法を示している。ここで、まとめておくと、図21、図23の「レイアウト指示信号発生」手段を使用した場合は、受信側では、図17の「制御信号分離」で取り出し、図22、図24の「レイアウト指示コード発生」手段を使用した場合は、図18の「制御信号解凍」で取り出すことになる。これらの方法により、制御ポートを使用せずに受信端末の画面制御を実現することができる。
【0023】
図19および図20に第6の実施の形態の受信側の構成を、図21〜図24にはその送信側の構成を示す。第6の実施の形態では、第5の実施の形態の「スーパーインポーズ回路」を「セレクタ」と読み替え、表示を「映像信号」と「コンピュータ画面」とに切り替えることで説明することができる。これらの方法により、制御ポートを使用せずに受信端末の画面制御を実現することができる。
【0024】
ところで、以上の方法では、送信側では受信端末側のエンターテイメント能力がどのようなものか判らないので、自動的にその能力を確認し、それにあった表示/拡声指示を行う方法を第7の実施の形態として示す。まず受信端末には、初期設定時に、あらかじめ決められた能力情報を設定し記憶させておく。この能力情報荷は多元性が含まれ、表示能力では、表示入力がスーパーインポーズできる能力、画面切り替えができる能力、画面解像度の能力(SVGA、XGA、SXGA、SXGAPlus、UXGA、QUXGA)、色再現能力(256色、16ビット、24ビット、32ビツト)、また音響能力(モノラル、ステレオ、デジタル、3Dサラウンド、5.1チャネル)などの能力が含まれる。さらに、スーパーインポーズでは子画面サイズ種類、表示位置、同時表示個数が含まれる。
【0025】
図27に示すように受信側端末では、これらの自己データを電源投入後の初期設定であるイニシャライズで記憶エリアから読みだし、「能力宣言」エリアに一時退避させる。送信側からの「能力読みだし要求」をCCITT T.120手順や前出の画像情報コードに重ね合わせたコマンドにより受信した場合は、「応答返送」する。送信側端末では「返送受信」内容を解析し、相手端末の能力を、あらかじめパターン化したテンプレート情報を格納域(通常はディスク)から読みだし、相手端末の画面構成を変更するグラフィック・ユーザ・インタフェース(GUI)を自分の端末の画面上に表示し、操作者からの指示を容易にする。図27に示すGUIはその一例であって、相手端末画面を模した表示、スタジオ調整卓を模したGUIでも良い。さらに、音響能力の指示も同様にGUI表示する。例えば、スピーカの個数、2個、3個、5個、サラウンド効果絵など多彩にテンプレート格納し、これを選択表示する。また、画面解像度が相手端末と一致しない場合は、共有アプリケーションの伝送後、相手端末での表示に支障が発生するため、ユーザ画面または自端末の音響を使いユーザにアラーム警告を与える。これにより、相手端末の画面表示能力に合った指示を出すことができる。
【0026】
図28に第8の実施の形態の受信側の構成を示す。これまでの第1〜第6の実施の形態までは、受信側の表示を切り替える方法として「コマンドコード」を相手端末に伝送する方法を示してきた。第8の実施の形態では特別なコマンドコードを用いずに受信表示の切り替えを行う方法を提示する。送信側では遠隔会議の一般的シナリオに基づき、音声でプレゼンする場合の各段階での説明を行う。
【0027】
受信側ではあらかじめ決められたシナリオによる遷移で表示切替を行うように設定されている。例えば、1.コンピュータ表示→2.コンピュータ+子ビデオ(スーパーインポーズ)→1.コンピュータ表示にもどる。のシーケンシャルな遷移で移行変化する。この組み合わせはパターンとしてあらかじめディスクなどに記憶されている。送信側のプレゼンテータは、受信側のこのパターンをあらかじめ知っているものとする。ここで、送信側では、各遷移時期において、「それでは」と発声する。この音声はとぎれることなくCODE化伝送され、相手端末では図28のようにDECODEされる。このDECODEされた音声情報を「音声認識」により認識し、「スーパーインポーズ回路」に伝えられ、画面のスーパーインポーズ処理が行われ、表示が行われる。音声認識はワード検出を主に行うことによって実現できる。「それでは」の言葉のほかに、「それじゃ」「ほんじゃらま」「ウェルヒアウィゴウ」など、少数複数の言葉を、男女の声の音質で、ホルマント分析した情報で所持していても、直接サンプリングしたパターンとして持っていても利用可能である。これにより、送信側に特別な回路を設けることなく、受信側の画面にスーパーインポーズを一定の順序で行うことができる。
【0028】
図29に第9の実施の形態の受信側の構成を示す。図29のように第8の実施の形態の「スーパーインポーズ回路」を「セレクタ」と読み替え、遷移を、例えば、1.ビデオ→2.コンピュータ→1.ビデオにもどる。のシーケンシャルな遷移で移行変化することができる。表示を「映像信号」と「コンピュータ画面」とに切り替えることで説明可能である。これにより、送信側に特別な回路を設けることなく、受信側の画面を切り替えを一定の順序で行うことができる。
【0029】
図30に第10の実施の形態の受信側の構成を、図31に第11の実施の形態の受信側の構成を示す。第10および第11の実施の形態では、第8および第9の実施の形態のシーケンシャルな遷移を自由な遷移にするため「音声認識」と「画像認識」の2つの手段を使用した例である。図32に示すようにプレゼンテーターは、遷移させたい場面で音声で「それでは」と発声し、あらかじめ決められたタイミング範囲でカメラに向かって所定のゼスチャーを行う。受信側端末では、図30に示すように「音声認識」手段では「それでは」の音声がトリガとなり、「画像認識」手段を起動させ、あらかじめ決められたタイミング範囲で受信画像の中から「スーパーインポーズ」指示のゼスチャーコマンドを認識する。音声認識はワード検出を主に行うことによって実現できる。「それでは」の言葉のほかに、「それじゃ」「ほんじゃらま」「ウェルヒアウィゴウ」など、少数複数の言葉を、男女の声の音質で、ホルマント分析した情報で所持していても、直接サンプリングしたパターンとして持っていても利用可能である事は前述の通りである。
【0030】
ゼスチャーコマンドは公知の技術を画像送信先の受信端末側で応用することで可能になる。この例では、画面の右上空間をプレゼンテーターが手で差し示すと「スーパーインポーズ」指示となり、左上空間を差し示すと「入力切り替え」指示となり、また、両手で右上空間および左上空間を差すとコンピュータ画面のみとなる。このゼスチャーは腕の動作だけでなく、ウィンクや顔全体を左右に振る動作を行い、これを検出することでも実現できる。これにより、送信側では特別な回路手段なしに、受信側の画面でのスーパーインポーズまたは切り替えが自由な順序で行える。
【0031】
図36およびに図37に第12の実施の形態の送信側の構成を、図39および図40に第12の実施の形態の受信側の構成を示す。また、図34にこの実施の形態の送信側のゼスチャーパターン動作例を、図35にこの実施の形態の送信側の動作時間を、さらに、図38に受信側でのゼスチャーパターン検出動作フローチャートを示す。
【0032】
ゼスチャーコマンドの認識は、通常フレーム内の特定位置検出、またはフレーム内の特定形状検出、または動きベクトル検出で行う。しかし、会議プレゼンテーション映像を送信しているフレーム内で特別のゼスチャーを行うことは視聴側に若干の不快感を与えることになる。図34に示すように、カメラ撮像範囲外に身体の一部または指示棒等の物品を「はみ出させる動作」を行って、これでゼスチャーを行う方法を考える。この「はみ出し」「戻し」動作を連続的に行うと、図35に示すように「はみ出し」を行う画像フレームの境界付近では「はみ出し」がクロス、「戻し」状態はオープンの状態となり、単位時間Δtではオン、オフと変化する。この画像を連続的に受信側でQCIFまたはCIF形式で受信し、図39または図40の「画像認識」部でゼスチャー判定を行う。
【0033】
図36に示すようにゼスチャーの画像領域をΔt時間毎にサンプリングし、直前のサンプリング画像と比較検出する。この結果を「ゼスチャーパターン検出」部で判定し、送信側で指示しているゼスチャーコマンドを認識する。ゼスチャーパターンの認識処理は、図38に示すように、比較検出の結果が割り込み起動されることから開始され、信号オンオフ一時記憶処理サブルーチンで時系列的にゼスチャー動作が記録ビットに記録される。前記サブルーチンは一時記録エリアの内容を順次シフトし、現イベントを記録する。一時記録エリアの「動作指示パターンTBL」にあらかじめ登録しているゼスチャーパターンと、一時記録エリアの現イベントパターンとが一致した場合に、その検出したパターンに対応したように「セレクタ」または「スーパーインポーズ回路」を動作させ、所望の表示を行わせる。
【0034】
なお、ゼスチャーを行う領域を分割し、さらに動作指示をワンタッチで、または細かく設定することもできる。この場合は図37に示すように、比較検出対象を「A、B、C」のように複数設けることができる。これにより、同時に2つの動作、例えば両手でのゼスチャー指示が可能となる。これにより、視聴側に不快な印象を与えることなく、標準的なテレビ会議システムである送信側から受信側に対して高機能な画像表示を円滑に行わせることができる。
【0035】
【発明の効果】
以上説明したように本発明の請求項1及び9の発明によると、受信側の操作により、一台のディスプレイにスーパーインポーズで映像とコンピュータデータとを表示することができ、装置を節約することができる。また、制御ポートを使用せずに一台のディスプレイにスーパーインポーズで映像とコンピュータデータとを表示することができると共に、相手端末の画面表示能力に合った指示をすることができる。
【0036】
請求項2及び10の発明によると、受信側の操作により、一台のディスプレイに切り替えによって映像とコンピュータデータとを表示することができ、装置を節約することができる。また、制御ポートを使用せずに一台のディスプレイに切り替えによって映像とコンピュータデータとを表示することができると共に、相手端末の画面表示能力に合った指示をすることができる。
【0038】
請求項4の発明によると、送信側に特別な回路手段を設けることなしに、受信側の画面にスーパーインポーズを順序で行うことができる。
【0039】
請求項5の発明によると、送信側に特別な回路手段を設けることなしに、受信側の画面の切り替えを順序で行うことができる。
【0040】
請求項6の発明によると、送信側に特別な回路手段を設けることなしに、受信側の画面にスーパーインポーズを自由な順序で行うことができる。
【0041】
請求項7の発明によると、送信側に特別な回路手段を設けることなしに、受信側の画面の切り替えを自由な順序で行うことができる。
【0042】
請求項8の発明によると、視聴側に深いナイン証を与えることなく、送信側の標準的なテレビ会議システムで、受信側の高機能な画面表示を円滑に行わせることができる。
【図面の簡単な説明】
【図1】従来のテレビ会議システムの構成装置の一例を示す外観図。
【図2】従来のテレビ会議システムの接続の一例を示す説明図。
【図3】従来のテレビ会議システムの構成の一例を示すブロック図。
【図4】従来のテレビ会議システムでのアプリケーションの共有の一例を示す説明図。
【図5】本発明で用いられる大型マルチメディアディスプレイの外観図。
【図6】大型RGB表示パネル方式の諸元を示す一覧図。
【図7】本発明の一実施の形態の構成を示すブロック図。
【図8】本発明の一実施の形態でのスーパーインポーズ表示の例。
【図9】本発明の他の実施の形態の構成を示すブロック図。
【図10】本発明の他の実施の形態の構成を示すブロック図。
【図11】図10の実施の形態での受信側タスク処理の構成図。
【図12】図10の実施の形態での送信側タスク処理の構成図。
【図13】本発明の他の実施の形態の構成を示すブロック図。
【図14】本発明の他の実施の形態の構成を示すブロック図。
【図15】図14の実施の形態での受信側タスク処理の構成図。
【図16】本発明の他の実施の形態の構成を示すブロック図。
【図17】本発明の他の実施の形態の受信側の構成を示すブロック図。
【図18】本発明の他の実施の形態の受信側の構成を示すブロック図。
【図19】本発明の他の実施の形態の受信側の構成を示すブロック図。
【図20】本発明の他の実施の形態の受信側の構成を示すブロック図。
【図21】図17ないし図20の実施の形態の送信側の構成の一例を示すブロック図。
【図22】図17ないし図20の実施の形態の送信側の構成の他の例を示すブロック図。
【図23】図17ないし図20の実施の形態の送信側の構成の他の例を示すブロック図。
【図24】図17ないし図20の実施の形態の送信側の構成の他の例を示すブロック図。
【図25】本発明に用いられるセレクタの構成の一例を示すブロック図。
【図26】本発明に用いられるスーパーインポーズの構成の一例を示すブロック図。
【図27】本発明の他の実施の形態でのシーケンス処理を示すフローチャート。
【図28】本発明の他の実施の形態の受信側の構成を示すブロック図。
【図29】本発明の他の実施の形態の受信側の構成を示すブロック図。
【図30】本発明の他の実施の形態の受信側の構成を示すブロック図。
【図31】本発明の他の実施の形態の受信側の構成を示すブロック図。
【図32】本発明の他の実施の形態での音声指示とゼスチヤー指示の一例を示す説明図。
【図33】CCITT T.120に記述されているデータ会議システムのプロトコル構成の一部。
【図34】本発明の他の実施の形態でのゼスチヤー指示の一例を示す説明図。
【図35】図34の実施の形態でのゼスチヤー動作の動作時間例。
【図36】図34の実施の形態でのゼスチヤー指示認識装置の一例のブロック図。
【図37】図34の実施の形態でのゼスチヤー指示認識装置の他の例のブロック図。
【図38】図34の実施の形態でのゼスチヤーパターン検出動作のフローチャート。
【図39】図34の実施の形態の受信側の構成を示すブロック図。
【図40】図34の実施の形態の受信側の構成を示すブロック図。

Claims (10)

  1. ローカルエリアネットワークまたはディジタル通信回線を用いて端末側カメラからの映像信号を受信しながら、コンピュータデータを端末から受信して送信側端末と共有利用するテレビ会議システムにおいて、
    前記受信したコンピュータデータをRGB表示するモニタディスプレイと、
    前記受信した映像信号を前記モニタディスプレイにスーパーインポーズ表示するスーパーインポーズ表示手段と、
    送信側端末に設けた表示レイアウト指示を映像信号のCODEに重ね合わせ重ね合わせ手段と、
    受信側端末に設けた映像信号から前記重ね合わせ手段によって重ね合わせられた表示レイアウト指示を分離する分離手段と、
    前記重ね合わせ手段および前記分離手段を用いて前記送信側端末から前記受信側端末の画面表示を遠隔操作する画面表示遠隔操作手段と
    前記送信側端末に設けられた前記受信側端末の表示能力の読み出し要求を映像信号のCODEに重ね合わせて送信する能力読み出し要求手段と、
    前記送信側端末に設けられた前記受信側端末からの前記能力読み出し要求に対する返送を受信して内容を解析する返送解析手段と、
    前記送信側端末に設けられた前記受信側端末に前記画面表示遠隔操作手段によって画面表示を遠隔操作するGUIを生成するGUI生成手段と、
    前記受信側端末に設けられた表示能力の情報を記憶する記憶手段と、
    前記受信側端末に設けられた前記送信側端末からの前記能力読み出し要求が重ね合わせられた映像信号を受信した場合には、前記記憶手段から読み出した前記表示能力の情報を返送する能力返送手段とを備え
    前記GUI生成手段は、前記返送解析手段による解析に基づき、前記受信側端末の表示能力があらかじめパターン化されたテンプレート情報を読み出し、前記受信側端末の画面表示を遠隔操作するGUIを当該送信側端末に表示することを特徴とするテレビ会議システム。
  2. ローカルエリアネットワークまたはディジタル通信回線を用いて端末側カメラからの映像信号を受信しながら、コンピュータデータを端末から受信して送信側端末と共有利用するテレビ会議システムにおいて、
    受信したコンピュータデータをRGB表示するモニタディスプレイと、
    前記受信した映像信号をRGB表示する第1のモニタディスプレイ入力手段と、
    前記受信したコンピュータデータをRGB表示する第2のモニタディスプレイ入力手段と、
    前記第1のモニタディスプレイ入力手段および前記第2のモニタディスプレイ入力手段からの入力を切り替える切り替え手段と、
    送信側端末に設けた表示レイアウト指示を映像信号のCODEに重ね合わせ重ね合わせ手段と、
    受信側端末に設けた映像信号から前記重ね合わせ手段によって重ね合わせられ表示レイアウト指示を分離する分離手段と、
    前記重ね合わせ手段および前記分離手段を用いて前記送信側端末から前記受信側端末の画面表示を遠隔操作する画面表示遠隔操作手段と
    前記送信側端末に設けられた前記受信側端末の表示能力の読み出し要求を映像信号のCODEに重ね合わせて送信する能力読み出し要求手段と、
    前記送信側端末に設けられた前記受信側端末からの前記能力読み出し要求に対する返送を受信して内容を解析する返送解析手段と、
    前記送信側端末に設けられた前記受信側端末に前記画面表示遠隔操作手段によって画面表示を遠隔操作するGUIを生成するGUI生成手段と、
    前記受信側端末に設けられた表示能力の情報を記憶する記憶手段と、
    前記受信側端末に設けられた前記送信側端末からの前記能力読み出し要求が重ね合わせられた映像信号を受信した場合には、前記記憶手段から読み出した前記表示能力の情報を返送する能力返送手段とを備え
    前記GUI生成手段は、前記返送解析手段による解析に基づき、前記受信側端末の表示能力があらかじめパターン化されたテンプレート情報を読み出し、前記受信側端末の画面表示を遠隔操作するGUIを当該送信側端末に表示することを特徴とするテレビ会議システム。
  3. 前記表示能力の情報は、少なくとも画像解析度の能力を含み、
    前記返送解析手段によって前記受信側端末の画像解像度が前記送信側端末と一致しないと判定された場合は、共有アプリケーションの伝送後、受信側端末または送信側端末の音響を用いて警告を与えることを特徴とする請求項1または2に記載のテレビ会議システム。
  4. 記受信した映像信号を前記モニタディスプレイにスーパーインポーズ表示する映像信号スーパーインポーズ表示手段と、
    受信した音声情報からスーパーインポーズ表示指示を認識するスーパーインポーズ指示認識手段と、
    前記スーパーインポーズ指示認識手段が認識した表示指示に従ってスーパーインポーズ表示するスーパーインポーズ表示手段とを備えたことを特徴とする請求項1または2に記載のテレビ会議システム。
  5. 信した映像信号をRGB表示する第1のモニタディスプレイ入力手段と、
    受信したコンピュータデータをRGB表示する第2のモニタディスプレイ入力手段と、
    前記第1のモニタディスプレイ入力手段および前記第2のモニタディスプレイ入力手段の入力を切り替え表示する切り替え手段と、
    受信した音声情報から表示の切り替え指示を認識する切り替え指示認識手段と、
    前記切り替え指示認識手段が認識した切り替え指示に従って切り替えを行う切り替え手段とを備えたことを特徴とする請求項1または2に記載のテレビ会議システム。
  6. 信した映像信号をモニタディスプレイにスーパーインポーズ表示するスーパーインポーズ表示手段と、
    受信した音声情報からスーパーインポーズ表示トリガー指示を音声認識する音声指示認識手段と、
    前記受信した映像信号からスーパーインポーズ指示をゼスチャー認識するゼスチャー指示認識手段とを備えたことを特徴とする請求項1または2に記載のテレビ会議システム。
  7. 信した映像信号をRGB表示する第1のモニタディスプレイ入力手段と、
    受信したコンピュータデータをRGB表示する第2のモニタディスプレイ入力手段と、
    前記第1のモニタディスプレイ入力手段および前記第2のモニタディスプレイ入力手段からの入力を切り替える切り替え手段と、
    受信した音声情報から表示切り替えトリガー指示を音声認識する音声指示認識手段と、
    前記受信した映像信号から表示切り替え指示をゼスチャー認識するゼスチャー指示認識手段とを備えたことを特徴とする請求項1または2に記載のテレビ会議システム。
  8. 信した映像信号をRGB表示する第1のモニタディスプレイ入力手段と、
    受信したコンピュータデータをRGB表示する第2のモニタディスプレイ入力手段と、
    前記第1のモニタディスプレイ入力手段および前記第2のモニタディスプレイ入力手段からの入力を切り替える切り替え手段と、
    前記受信したコンピュータデータをRGB表示するRGBモニタディスプレイと、
    前記受信した映像信号を前記RGBモニタディスプレイにスーパーインポーズ表示するスーパーインポーズ表示手段と、
    受信した映像信号から送信側のゼスチャーを認識するゼスチャー指示認識手段と、
    表示入力を切り替え表示またはスーパーインポーズ表示する表示制御手段とを備えたことを特徴とする請求項1または2に記載のテレビ会議システム。
  9. ローカルエリアネットワークまたはディジタル通信回線を用いて端末側カメラからの映像信号を受信しながら、コンピュータデータを端末から受信して送信側端末と共有利用するテレビ会議システムの制御方法において、
    前記受信したコンピュータデータをRGB表示するモニタディスプレイと、
    前記受信した映像信号を前記モニタディスプレイにスーパーインポーズ表示するスーパーインポーズ表示工程と、
    送信側端末に設けた表示レイアウト指示を映像信号のCODEに重ね合わせる重ね合わせ工程と、
    受信側端末に設けた映像信号から前記重ね合わせ工程によって重ね合わせられた表示レイアウト指示を分離する分離工程と、
    前記重ね合わせ工程および前記分離工程を用いて前記送信側端末から前記受信側端末の画面表示を遠隔操作する画面表示遠隔操作工程と、
    前記送信側端末に設けられた前記受信側端末の表示能力の読み出し要求を映像信号のCODEに重ね合わせて送信する能力読み出し要求工程と、
    前記送信側端末に設けられた前記受信側端末からの前記能力読み出し要求に対する返送を受信して内容を解析する返送解析工程と、
    前記送信側端末に設けられた前記受信側端末に前記画面表示遠隔操作工程によって画面表示を遠隔操作するGUIを生成するGUI生成工程と、
    前記受信側端末に設けられた表示能力の情報を記憶する記憶工程と、
    前記受信側端末に設けられた前記送信側端末からの前記能力読み出し要求が重ね合わせられた映像信号を受信した場合には、前記記憶工程から読み出した前記表示能力の情報を返送する能力返送工程とを備え、
    前記GUI生成工程は、前記返送解析工程による解析に基づき、前記受信側端末の表示能力があらかじめパターン化されたテンプレート情報を読み出し、前記受信側端末の画面表示を遠隔操作するGUIを当該送信側端末に表示することを特徴とするテレビ会議システムの制御方法。
  10. ローカルエリアネットワークまたはディジタル通信回線を用いて端末側カメラからの映像信号を受信しながら、コンピュータデータを端末から受信して送信側端末と共有利用するテレビ会議システムの制御方法において、
    受信したコンピュータデータをRGB表示するモニタディスプレイと、
    前記受信した映像信号をRGB表示する第1のモニタディスプレイ入力工程と、
    前記受信したコンピュータデータをRGB表示する第2のモニタディスプレイ入力工程と、
    前記第1のモニタディスプレイ入力工程および前記第2のモニタディスプレイ入力工程からの入力を切り替える切り替え工程と、
    送信側端末に設けた表示レイアウト指示を映像信号のCODEに重ね合わせる重ね合わせ工程と、
    受信側端末に設けた映像信号から前記重ね合わせ工程によって重ね合わせられ表示レイアウト指示を分離する分離工程と、
    前記重ね合わせ工程および前記分離工程を用いて前記送信側端末から前記受信側端末の画面表示を遠隔操作する画面表示遠隔操作工程と、
    前記送信側端末に設けられた前記受信側端末の表示能力の読み出し要求を映像信号のCODEに重ね合わせて送信する能力読み出し要求工程と、
    前記送信側端末に設けられた前記受信側端末からの前記能力読み出し要求に対する返送を受信して内容を解析する返送解析工程と、
    前記送信側端末に設けられた前記受信側端末に前記画面表示遠隔操作工程によって画面表示を遠隔操作するGUIを生成するGUI生成工程と、
    前記受信側端末に設けられた表示能力の情報を記憶する記憶工程と、
    前記受信側端末に設けられた前記送信側端末からの前記能力読み出し要求が重ね合わせられた映像信号を受信した場合には、前記記憶工程から読み出した前記表示能力の情報を返送する能力返送工程とを備え、
    前記GUI生成工程は、前記返送解析工程による解析に基づき、前記受信側端末の表示能力があらかじめパターン化されたテンプレート情報を読み出し、前記受信側端末の画面表示を遠隔操作するGUIを当該送信側端末に表示することを特徴とするテレビ会議システムの制御方法。
JP2001069604A 2001-03-13 2001-03-13 テレビ会議システム Expired - Fee Related JP4568442B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001069604A JP4568442B2 (ja) 2001-03-13 2001-03-13 テレビ会議システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001069604A JP4568442B2 (ja) 2001-03-13 2001-03-13 テレビ会議システム

Publications (3)

Publication Number Publication Date
JP2002271763A JP2002271763A (ja) 2002-09-20
JP2002271763A5 JP2002271763A5 (ja) 2008-04-24
JP4568442B2 true JP4568442B2 (ja) 2010-10-27

Family

ID=18927622

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001069604A Expired - Fee Related JP4568442B2 (ja) 2001-03-13 2001-03-13 テレビ会議システム

Country Status (1)

Country Link
JP (1) JP4568442B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4876605B2 (ja) * 2006-02-07 2012-02-15 富士ゼロックス株式会社 電子会議システム、電子会議支援プログラム及び会議制御用端末装置
US9654730B2 (en) 2010-11-04 2017-05-16 Ricoh Company, Ltd. Communication terminal, communication method and computer readable information recording medium
JP5892021B2 (ja) * 2011-12-26 2016-03-23 キヤノンマーケティングジャパン株式会社 会議サーバ、会議システム、会議サーバの制御方法、プログラムおよび記録媒体

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000184346A (ja) * 1998-12-17 2000-06-30 Toshiba Corp 情報端末装置及び情報通信システム並びに表示状態制御方法
JP2000341659A (ja) * 1999-05-31 2000-12-08 Toshiba Corp リモートプレゼンテーションシステム、処理装置、及び記録媒体
JP2003528543A (ja) * 2000-03-17 2003-09-24 アメリカ オンライン インコーポレーテッド 音声インスタント・メッセージング

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0818941A (ja) * 1994-06-28 1996-01-19 Canon Inc 画像処理装置及び多対地会議方法
JPH09162996A (ja) * 1995-12-11 1997-06-20 Fujitsu Ltd テレビ会議装置及びテレビ会議システム
JPH09289631A (ja) * 1996-02-20 1997-11-04 Canon Inc 撮像制御方法及び装置及び撮像システムと前記方法を実行するプログラムを記憶した記憶媒体

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000184346A (ja) * 1998-12-17 2000-06-30 Toshiba Corp 情報端末装置及び情報通信システム並びに表示状態制御方法
JP2000341659A (ja) * 1999-05-31 2000-12-08 Toshiba Corp リモートプレゼンテーションシステム、処理装置、及び記録媒体
JP2003528543A (ja) * 2000-03-17 2003-09-24 アメリカ オンライン インコーポレーテッド 音声インスタント・メッセージング

Also Published As

Publication number Publication date
JP2002271763A (ja) 2002-09-20

Similar Documents

Publication Publication Date Title
US5808663A (en) Multimedia carousel for video conferencing and multimedia presentation applications
US7236209B2 (en) Method and apparatus for automatic selection of video interface
US8379075B2 (en) Method, device, and computer-readable medium for processing images during video conferencing
US7990410B2 (en) Status and control icons on a continuous presence display in a videoconferencing system
US9088688B2 (en) System and method for collaboration revelation and participant stacking in a network environment
JPH07336660A (ja) テレビ会議システム
WO2010115364A1 (zh) 一种基于图像的视讯会议控制方法、终端及系统
JPH09505448A (ja) マルチメディアが可能とされたネットワーク
WO1999030253A2 (en) System for obtaining assistance in operating an apparatus
JP2003023612A (ja) 画像通信端末装置
JP4568442B2 (ja) テレビ会議システム
JPH08149130A (ja) 映像コミュニケーションシステム
JPH0670040A (ja) 多地点テレビ会議システムにおける表示形態変更方式
JP2002271763A5 (ja)
WO2001005144A1 (fr) Procede de commande d'affichage video, systeme de traitement d'affichage video, dispositif de traitement d'affichage video, et dispositif d'affichage sur ecran
JPH11355747A (ja) 映像・音声通信装置と同装置を用いたテレビ会議装置
JP2003339034A (ja) ネットワーク会議システム、ネットワーク会議方法およびネットワーク会議プログラム
JPH09163336A (ja) テレビ会議システム
Chagas et al. Exploring Practices and Systems for Remote Teaching
JP4565855B2 (ja) 放送番組制作装置
KR101969957B1 (ko) 포터블 통합 방송장비 컨트롤 시스템 및 이를 이용한 컨트롤 방법
JP3001513U (ja) デュエット画像合成表示装置
KR100493324B1 (ko) 디스플레이 장치
KR20080002275A (ko) Fpga를 이용한 영상합성 제어장치
TWM612611U (zh) 4k多頻道串流導播製錄裝置

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080311

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080311

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20080311

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100420

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100621

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100803

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100809

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130813

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees