JP4085685B2 - Video conference system, terminal device included therein, and communication method - Google Patents
Video conference system, terminal device included therein, and communication method Download PDFInfo
- Publication number
- JP4085685B2 JP4085685B2 JP2002126743A JP2002126743A JP4085685B2 JP 4085685 B2 JP4085685 B2 JP 4085685B2 JP 2002126743 A JP2002126743 A JP 2002126743A JP 2002126743 A JP2002126743 A JP 2002126743A JP 4085685 B2 JP4085685 B2 JP 4085685B2
- Authority
- JP
- Japan
- Prior art keywords
- conversation
- users
- dialogue
- user
- management table
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
【0001】
【発明の属する技術分野】
この発明は、所定の伝送手段で接続された複数の端末装置のうち対話相手として選択された端末装置ごとに複数種類のメディアによるデータ送受信を行うことにより、所定タイミングで逐次編成される対話グループごとに個別に双方向対話を実現するテレビ会議システム等に関するものである。
【0002】
【従来の技術】
従来、カウンセリング分野においては、カウンセリング参加者間で本音と本音の交流を一定期間、例えば数時間〜数週間、維持するエンカウンターグループが知られている。このエンカウンターは、各参加者の人間的成長の促進を目標とし、集団学習体験を通して各参加者の行動変容が図られる。また、任意に編成された対話グループを構成して行われるグループエンカウンターは、援助者(ファシリテーター)により推進されるが、該ファシリテーターが課題をプログラムして進める構成的グループエンカウンターと、課題を参加者自身が決めていく非構成的グループエンカウンター(ベーシックエンカウンター)がある。いずれのエンカウンターでも、感情交流や固有の内的世界の共有など、本音の交流を通じて、自己理解、他者理解を深め、自己成長、信頼感の形成が行われる。
【0003】
【発明が解決しようとする課題】
発明者は、従来のグループエンカウンターについて検討した結果、以下のような課題を発見した。すなわち、任意に編成された対話グループごとに短時間で簡易に実施できるエンカウンターとして、構成的グループエンカウンターなどが提案されているが、地方から参加する場合、金銭的かつ時間的な制約が発生するため、実際のエンカウンターの実施では、このような地理的制約をまず克服する必要があった。
【0004】
さらに、エンカウンターに参加する人数が増えれば増えるほど、より大きな開催スペースを確保しなければならず、例えば数百人が参加するエンカウンターでは、開催会場として、体育館や講堂など限られた場所でなければ実施できないという課題があった。
【0005】
この発明は上述のような課題を解決するためになされたものであり、複数の端末装置を介して行われる多人数によるエンカウンターなどの特殊な遠隔地対話の実施を可能にするテレビ会議システム、通信方法、該通信方法を実行するコンピュータプログラム及び該コンピュータプログラムが記録された記録媒体を提供することを目的としている。
【0006】
【課題を解決するための手段】
この発明に係るテレビ会議システムは、所定の伝送手段で接続された複数の端末装置を介して双方向対話を実現する。特に、当該テレビ会議システムは、各会議参加者の対話状況を管理するための管理テーブルと、通信制御手段を備える。上記管理テーブルは、会議参加者として予め登録された、複数の端末装置それぞれの利用者の対話履歴とともに、該利用者のうち対話中の利用者同士を対応付けた対話状況とを管理する。また、上記通信制御手段は、管理テーブルを参照しながら、端末利用者のうち対話が行われる組ごとに利用者間でのデータ送受信を制御する一方、所定タイミングで利用者の対話相手が切り替わるよう、管理テーブルを逐次更新しながら該利用者のうち対話を行う利用者の組を再編成していく。
【0007】
特に、対話を行う利用者の組(対話グループ)の編成に関し、上記通信制御手段は、対話中の利用者あるいはそれ以外の利用者からの指示に従って、あるいは、一定時間が経過するごとに自動的に、該対話中の利用者の対話相手を切り替えるとともに、上記管理テーブルの対話状況を更新する。なお、一定時間が経過するごとに自動的に対話相手を切替える場合、上記通信制御手段は、対話中の利用者の対話相手として、対話を行ったことのない利用者を、上記管理テーブルに記録された該利用者の対話履歴を参照して決定する。
【0008】
上述のような構造を備えたテレビ会議システムは、複数の端末装置を含むが、上記通信制御手段は、所定の伝送手段上にデータ配信用として別途用意されたサーバであっても、各利用者の端末装置のいずれかが通信制御手段として機能してもよい。特に、この発明に係る端末装置は、上記管理テーブルを格納するデータベースと、上記通信制御手段として機能する制御部とを少なくとも備える。
【0009】
次に、この発明に係る通信方法は、上述のように、所定の伝送手段で接続された複数の端末装置を介して複数種類のメディアによるデータ送受信が行われる通信システムに適した通信方法である。
【0010】
具体的に、この発明に係る通信方法は、予め登録された前記利用者の対話履歴と該利用者のうち対話中の利用者同士を対応付けた対話状況とを管理テーブルを利用しながら管理し、該管理テーブルを参照しながら、利用者のうち対話が行われる対話グループごとに利用者間でのデータ送受信を制御する一方、所定タイミングで前記利用者の対話相手が切り替わるよう、前記管理テーブルを逐次更新しながら新たな対話グループを再編成していく。
【0011】
特に、対話中の利用者あるいはそれ以外の利用者からの指示が合った場合、あるいは、一定時間が経過するごとに自動的に、該対話中の利用者の対話相手を切り替える。また、一定時間経過するごとに自動的に対話相手を切替える場合、対話中の利用者の対話相手として、対話を行ったことのない利用者を、上記管理テーブルに記録された利用者の対話履歴を参照して決定するのが好ましい。
【0012】
上述のような通信方法は、コンピュータ等で実行されるプログラムであってもよく、この場合、当該プログラムは、有線、無線を問わずネットワークを介して配信されてもよく、また、CD、DVD、フラッシュメモリ等の記録媒体に格納されていてもよい。
【0013】
【発明の実施の形態】
以下、この発明に係るテレビ会議システム等の各実施形態について、図1〜図11を用いて詳細に説明する。なお、図面の説明において、同一部位には同一符号を付して重複する説明を省略する。
【0014】
図1は、この発明に係るテレビ会議システムの概略構成を示す図である。特に、図1(a)に示されたように、この発明に係るテレビ会議システムは、所定の伝送手段27で接続された複数の端末装置を介して複数種類のメディア、例えば端末利用者3A〜3Cの映像、音声、スライド画像、テキストデータ、あるいはこれらの合成データなどによるデータ送受信が行われる多点接続型の双方向対話型システムを含み、複数の端末装置を介して行われる多人数による遠隔地対話においても、スムーズな対話進行を可能にする構造を備える。
【0015】
この発明に係るテレビ会議システムは、上述のように参加者ごとに異なる情報を配信する通信制御手段としてサーバ200を備える。このサーバ200は、情報を会議参加者のうち共通の議題について対話する組を管理するための管理テーブル250を備える。特に、管理テーブル250は、会議参加者として予め登録された、複数の端末装置それぞれの利用者3A〜3Cの対話履歴とともに、該利用者3A〜3Cのうち対話中の利用者同士を対応付けた対話状況とを管理することで、例えば利用者3A〜3Cのうち利用者3A、3B間の双方向対話を個別にサポートする。なお、上述のような構造を備えたテレビ会議システムは会議参加者が利用する複数の端末装置を含むが、上記通信制御手段は、上述のように所定の伝送手段27上にデータ配信用として別途用意されたサーバ200であっても、各利用者の端末装置のいずれかであってもよい。
【0016】
上述のようなテレビ会議システムの適用例としては、図1(b)に示されたように、伝送手段27を介して互いに接続された複数の端末装置のうち特定対話グループに区分される端末装置20A、20B間での対話をファシリテーター20(サーバー200を含む)が一括管理するエンカウンターがある。このエンカウンターには、種々の実施形態があるが、会議参加者それぞれに自由に対話させる非構成的エンカウンター(ベーシックエンカウンター)や、ある程度質問事項や対話テーマを限定して対話グループごとに対話を進める構成的エンカウンターが代表的である。構成的エンカウンターの場合、エンカウンターの進行は援助者(ファシリテーター)20により行われ、該ファシリテーターが課題をプログラムして進めることになる。
【0017】
特に、この発明に係るテレビ会議システム及び通信方法は、伝送手段27を介して接続された端末装置間での遠隔地対話を実現する、例えば特許第3074677号に記載された双方向対話型システムが適応可能であり、特定利用者間(例えば、図1(a)における利用者3Aと利用者3B)での視線一致を可能にする多点接続型の双方向対話型システムに適している。
【0018】
まず、ここでは、当該テレビ会議システムに適用される双方向対話型システムについて説明する。なお、この双方向対話型システムは、視線一致した状態での一対一を基本とした遠隔地対話を実現するシステムであるが、対話者間で視線一致できない構成であって単にテキストデータや画像データの送受信が可能な双方向対話型システムにも適応可能である。
【0019】
図2は、遠隔地に居る対話者間の視線一致を可能にする双方向対話型システム全体を示す論理構成図である。このシステムは、A地点(第1地点)にいる対話者3A(第1対話者)とB地点(第2地点)にいる対話者3B(第2対話者)との間で双方向対話を実現するシステムである。特に、このシステムは遠隔地にいる対話者間でも親密な信頼関係を確立し綿密なコミュニケーションを実現するカウンセリング・システムや家庭学習に適したシステムであり、少なくとも一方の対話者として、教師、医師、心理学者などのカウンセラや会議全体を指導するファシリテーターが想定できる。したがって、このシステムはこれらカウンセラがカウンセリングを行うために必要な情報、及び理想的なカウンセリング環境を提供できるよう種々の機能及び構成を備える。
【0020】
具体的には、A地点において、(a)対話者3A(例えはカウンセラ)が座る椅子4A(高さ調節機構40Aを有する)と、(b)対話者3Aが向かうテーブル2Aと、(c)伝送手段27を介して対話者間の視線を一致させるための機構を備えた端末装置20Aとが設置され、対話者3Aはパーティション22Aによって隔離されている。一方、B地点には、(a)対話者3B(例えばカウンセリングを受けるクライアント)が座る椅子4B(高さ調節機構40Bを有する)と、(b)対話者3Bが向かうテーブル2Bと、(c)伝送手段27を介して対話者間の視線を一致させるための機構を備えた端末装置20Bとが設置され、対話者3Bはパーティション22Bにより隔離されている。ここで、伝送手段27は、A地点の端末装置20AとB地点の端末装置20Bとの間で画像情報及び音声情報の送受信を可能にするため、光ファイバ伝送路31(主伝送路)及び衛星通信伝送路32(バックアップ用伝送路)等を含む。なお、この伝送手段27は有線、無線のいずれであってもよい。また、伝送手段は、既に敷設された電話回線網等のネットワークを含み、さらに種々のデータベースを備えた電子掲示板システム(BBS: Bulletin Board System)も含む。
【0021】
A地点において、上述の椅子4Aは対話者3Aの位置を規定するために機能する。この椅子4Aは端末装置20Aの表示部21Aとの距離を一定に保つために固定されるのが好ましい。しかし、該椅子4Aが固定されていない場合であっても、テーブル2Aを対話者3Aと表示部21Aに設置することによりこの椅子4Aと表示部21Aとの距離を一定に保つことが可能になる(テーブル2Aの存在が対話者3Aの心理的な距離の基準となる事実が確認されている)。なお、相手側の対話者3B(例えば、カウンセリングを受ける者等)がいるB地点の端末装置20Bの構成も同様である。
【0022】
A地点において、端末装置20Aは、(1)B地点の端末装置20Bから伝送手段27を介して伝送されてきた画像情報に基づいて対話者3Bの映像などを表示する、テーブル2Aの上に配置された、モニタTV1Aを備えた表示部21Aと、(2)CCDカメラ5Aで撮像された対話者3Aの映像を画像情報として取り込み、B地点の端末装置20Bへ向けて伝送するための撮像ユニット6Aと、(3)B地点の端末装置20Bから伝送手段27を介して伝送されてきた音声情報に基づいて対話者3Bの音声を出力するための音声出力部23A(スピーカ)と、(4)対話者3Aの音声を音声情報として集音し、B地点の端末装置20Bへ向けて伝送するための音声入力部24A(マイク)を備える。さらに、このシステムはカウンセリング・システムとしてより綿密なコミュニケーションを実現するため、(5)対話者3Aが文字や図形を入力し、入力された文字や図形を表示部21Aに表示するとともに、文字図形情報としてB地点の端末装置20Bへ向けて伝送するための文字図形入力部25A(キーボード、ポインティング・デバイス、タッチパネルなどのインターフェース)と、(6)上記各構成要素と伝送手段27との間に設けられ、信号処理、伝送制御及び映像データの編集作業等を行う映像処理装置26A(制御部含む)とを備える。なお、B地点の端末装置20Bも、上述したA地点の端末装置20Aと同様に構成されており、具体的には、表示部21B、CCDカメラ5Bと撮像ユニット6Bからなる撮像装置600B、音声出力部23B、音声入力部24B、文字図形入力部25B、及び映像処理装置26Bを備える。
【0023】
さらに、A地点及びB地点の端末装置20A、20Bにおいて、撮像装置600A、600B(撮像手段)の構成を説明する。なお、説明の都合上、A地点及びB地点の各端末装置20A、20Bに共通する構成要素について言及する場合には、例えば撮像装置600のように、各地点を区別する文字A、Bを省略して説明する。また、特に説明がされていない場合には、原則としてA地点の端末装置20Aについて説明しているものとして、共通する構成を有するB地点の端末装置20Bについては重複する説明は省略する。
【0024】
この撮像装置600は、撮像部である超小型CCDカメラ5(5A)、該CCDカメラ5を支持した状態で所定位置に設置するための支持機構10(図3参照)、及び該CCDカメラ5を制御するための撮像ユニット6(6A)とを備える。モニタTV1(1A)はテーブル2(2A)の上に載置されており、対話者3(3A)はこのモニタTV1から距離L(m)離れて置かれた高さ調整機構40(40A)を備えた椅子4(4A)に座っている。この距離L(LA)は0.5m以上5m以下に設定される。撮影される対話者3及びモニタTV1間には、外径φ20mm以下,長さ約100mmの円筒状の超小型CCDカメラ5が設けられている。また、このCCDカメラ5はその撮像方向が撮影される対話者3に向けられるよう設置されている。そしてカメラ5で撮像された対話者3の映像は、画像情報として撮像ユニット6から他方の対話者側に伝送される(伝送手段27を介してB地点の端末装置20Bに伝送される)。なお、対話者によっては表示部21と該対話者間の間隔が弱冠ずれる可能性もある。したがって、このような状況にも対処すべく、CCDカメラ5は焦点深度の深いものを選択するのが好ましい。
【0025】
次に、超小型CCDカメラ5の具体的な設置位置を図3を用いて説明する。
【0026】
まず、撮像装置600の撮像ユニット6は伝送されてきた他方の対話者の映像を表示するための表示部21上に設置される。この撮像ユニット6本体にはカメラ5によって撮影された対話者自身の映像(カメラケーブル50を介して撮像ユニット6に取り込まれる)の表示と、伝送されてきた他方の対話者3Bの映像の表示を切り換えるための、切り換えスイッチ6aの他、種々の調節用スイッチ6bが設けられている。なお、スイッチ210はモニタTV1の電源をオン/オフする電源スイッチ等を含む。CCDカメラ5は、伝送されてきた他方の対話者3Bの像9が表示されるモニタ画面8の前方の所定位置に支持機構10(ロボット・アーム)によって設置される。なお、このモニタ画面8は4インチ程度であれば十分に利用できる。
【0027】
具体的には、CCDカメラ5はモニタ画面8から前方w(cm)の位置であって、該モニタ画面8に表示された対話者像9の頭部9a付近に配置される。円筒状CCDカメラ5の中心軸は、点線で示す対話者像9の目の位置の上方h(cm)の部位に位置している。
【0028】
このように超小型のCCDカメラ5は、大型モニタTV1の画面8に表示された対話者像9の目の位置より上の頭部付近に位置しているため、双方向対話に特別な支障は生じない。例えば、CCDカメラ5が画面8に表示された対話者像9の目の位置(図中、点線で示す位置)の上方h=約10(cm)に設けられ、モニタTV1および対話者3間の距離Lが約2.5(m)に設定されているシステム構成の場合、視差角は2.3°で十分検知限界の視差角3°を下回ることが可能である(モニタ画面8とCCDカメラ5の間隔wが10(cm)程度ある場合でも、視差角の変動には特に影響はない)。つまり、視線一致時に相手の目(モニタ画面8に表示された他方の対話者3Bの像の目)がはっきりと見えれば、その頭部辺りに超小型のカメラ5が設けてあっても、モニタTV1の画面8が大型であれば、双方向対話に支障はほとんどないことが確認されている。この画面8の大きさは、実験の結果、横35cm,縦26cm程度以上の大きさがあれば良好な双方向対話が実現できることも確認されている。なお、相互の対話者が知人同志であれば、画面の大きさは小さくとも心理的な障害も少ない傾向を示す結果も得られており、画面サイズに関しては用途に応じて使いわけるとよい。
【0029】
さらに、視差角について、図4を用いて説明する。この明細書において、視差角とは、図4に示されたように、モニタ画面8に表示された対話者像9へ向けられた、撮影される対話者3の視線と、CCDカメラ5へ向けられた、該対話者3の視線とがなす角度θを言う。換言すれば、対話者3の視線に対するCCDカメラ5の設置位置のずれ角を意味している。また、ここでいう視線一致とは、昭和42年電気四学会連合大会(No.1998)で報告されているように、CCDカメラ5の設置位置による不自然さの許容限界以下を意味している。定量的には、視差角として、左右方向4.5°以下(対話者像9の目の中心Aに対し、該像9の両こめかみ側),真上方向12°(像中心Aに対し、像9の頭部9b側),真下方向8°(像中心Aに対し、像9の胴体側)以下を視線一致範囲内としている。もちろん、この視差角は小さい方が良く、左右上下方向3°以下が検知限界とされている。したがって、CCDカメラ5が設置可能な領域は、図5に示された円錐領域である。なお、この円錐領域は、対話者3の目30とモニタ画面8に表示された対話者像9の中心点A(この実施形態では、対話者像9の両目の中心を該対話者像9の中心点Aとして定義している)とを結ぶ該対話者3の視線31に対し、所定距離L(m)離れた時のモニタ画面8上の視線一致領域9b、及び、該対話者3の目30の位置とで規定される。
【0030】
なお、モニタ画面8上に表示される対話者像9のサイズが小さい場合には、必ずしも該CCDカメラ5と対話者像9の頭部が重なっている必要はない。むしろ対話者9の頭部がCCDカメラ5に隠れてしまい見にくくなる。上述のように視線一致の条件は視差角3°の領域内にCCDカメラ5と対話者像9の目が存在することであり、具体的に画面から50cm離れた位置で約3cm程度(図2におけるh)である。したがって、この範囲内であればCCDカメラ5と対話者像9の頭部をずらしても視線一致状態は維持される。この対話者像9とCCDカメラ5をずらすには、例えばモニタ画面8上における画像表示位置を調節したり、CCDカメラ5の支持部を調節してCCDカメラ5自体の位置を変更することにより実現される。
【0031】
図6は、この発明に係る端末装置の概略構成を示す図である。この端末装置は、モニタ等の表示部21(図2に示された双方向対話型システムにおける表示部21A、21Bに相当)と、映像処理部26(図2に示された双方向対話型システムにおける映像処理装置26A、26Bに相当)と、外部記録装置700と、マウス等のポインティングデバイス900と、表示部21の前方に位置する対話者を撮像するCCDカメラ5等の撮像部及び撮像ユニット6からなる撮像装置600、会議参加者の音声を出力するためのスピーカー910とを備える。上記映像処理部26は、撮像手段に含まれる撮像ユニット6からの画像情報や他の情報メディアの取り込みや伝送手段27を介して相手側対話者の画像情報の送受信を行うためのデータ入出力部261(図中、I/O)と、制御部263、送受信される画像情報の他、予め対話者自身が用意した文字データ、映像データ等を格納しておくためのデータベース262(図中、D/B)、表示部21へ制御手段263の指示に従って所定のパターンを表示させる描画部264と、マウス等のポインティングデバイス900からの位置情報の取り込みや外部記録装置700とのデータ授受を可能にするデータ入出力部265(図中、I/O)、スピーカー910から出力される音声データを生成する音源コントローラ266とを備える。なお、外部記録装置700は、例えば磁気テープ、CD、光ディスク、ハードディスク、DVD、フラッシュメモリ等を含む。
【0032】
なお、当該端末装置がサーバ200として機能する場合、上記制御部263がこの発明に係る通信方法を実現するための通信制御手段として機能し、管理テーブル250は、D/B262に格納される。
【0033】
以下、図2に示されたテレビ会議システムによる通信方法の具体例として、遠隔地間で行われるテレエンカウンターを例に説明する。なお、各参加者の端末装置間の構成は図2に示された双方向対話型システムと同様である。
【0034】
このテレエンカウンターは、図1(b)に示された接続状態で、まず、ファシリテーター20から各端末装置20A、20bに対して、エクササイズやルールについての説明が行われる。このとき、会議参加者の端末装置では、図7(a)に示されたように、表示部21のモニタ画面8上に、ファシリテーター20の映像ウィンドウ800aが視線一致可能な状態で表示されるとともに、ファシリテーター20に関する情報カードが表示される。一方、ファシリテーター20の端末装置では、図7(b)に示されたように、表示部21のモニタ画面8上に会議参加者の各映像ウィンドウ810aが表示される。このとき、各会議参加者と視線一致可能にするため、ウィンドウごとにCCDカメラが配置されてもよく、また、参加人数が多い場合には、参加者映像の代えて名前を表示する情報カード820がモニタ画面8上に表示されてもよい。
【0035】
次に、ファシリテーター20は、図8(a)に示されたように、自動的に2名の対話グループをそれぞれ選択し、これら対話グループの組み合わせ情報を管理テーブル250へ記録する。なお、ファシリテーター20による自動選択は、全くランダムであってもよく、また、血液型、出身地等、何らかの条件を満たす参加者同士が1つの対話グループを構成するよう選択(編成)されてもよい。
【0036】
上述のようにファシリテーター20により1つの対話グループとして選択された参加者同士は、一定時間、図2に示された構造を有する双方向対話型システムを利用して対話を行う。この対話時には、ファシリテーター20から各会議参加者に対して予め用意された質問事項やテーマ項目が提供される。また、この対話時には、1つの対話グループに所属することになった各参加者の映像データの送受信だけでなく、参加者がキーボード等を介して入力したコメント(テキスト情報)も対話データとして送受信される。このような対話中に入力されたコメント内容も、該コメントを入力した参加者を特定する氏名、ニックネームなどとともに対話終了時にファシリテーター20側のD/B262に記録される。また、ファシリテーター20は、各対話グループにおける対話状況をリアルタイムで観察しているため、対話の進行状況によっては、任意の対話グループに対して強制的にアナウンスをモニタ画面8上に表示させたり、あるいはスピーカー910a、910bからファシリテーター20の音声を出力させるようにしてもよい。
【0037】
続いて、ファシリテーター20は、この対話を、例えば3分〜5分間で一旦打ち切り、図8(b)に示されたように、新たな組合わせになるよう対話相手を自動的に切替える。このような対話相手の切替えは、対話中参加者にとっては対話環境が突然変化することになるため、予め各参加者側端末装置のモニタ画面8上に対話終了のカウントダウンが表示されたり、効果音等がスピーカー910から出力されるよう構成しておくことにより、各会議参加者の対話環境の変化に対する準備が可能になる。また、対話相手の切替え時に、参加者全員に対して、少なくとも共通の音楽等の聴覚情報や、文字、図名等の視覚情報を提供するようにしてもよい。
【0038】
なお、ファシリテーター20の選択により1つの対話グループに所属することとなった参加者間での対話では、各参加者の映像、音声の他、図9に示されたように、各参加者の情報カードがモニタ画面8上に表示されるのが、話題が提供され好ましい。この情報カードは、ファシリテーター20の指示により、各参加者が予め入力しておくのがよい。また、入力自体を各参加者が行い、質問事項のみをモニタ画面8上に表示させておいてもよい。さらい、各参加者の情報カードには、参加者固有のBGMや映像がリンクされていてもよく、参加者全員に同じ該BGMや映像が配信されるようにしてもよい。この実施形態では、対話相手の切替えは、ファシリテーター20側(サーバー200)が一定時間ごとに自動的に行っているが、各参加者ごとに用意される情報カードを事前に選択することにより、参加者自身が次の対話相手を選択してもよい。
【0039】
図9(a)には、1つの対話グループに所属することとなった相手側参加者の自己紹介画面を示す図であり、表示部21のモニタ画面8上には、対話相手となった「山本」さんの視線一致した状態での映像ウィンドウ800b、該「山本」さんの情報カード830(この情報カード830には、予め撮影されD/B262に格納されていた「山本」さんの静止画像も表示される)、そして、キーボードなどを介してのコメント入力を行うコメントカード840が表示されている。図9(b)には、対話相手が所定時間経過して「山本」さんから「鈴木」さんに切替えられたときのモニタ画面8を示す図である。このとき、モニタ画面8上には新たな対話相手である「鈴木」さんの視線一致した状態での映像ウィンドウ800c及びコメントカード840とともに、「山本」さんの情報カードに重ねて新たに「鈴木」さんの情報カード830が表示される。この「鈴木」さんの情報カードにも予め撮影されD/B262に格納されていた「鈴木」さんの静止画像が表示される。コメントカード840は、新しく入手した情報などを状況に応じて書き込みに利用すれば、記録データとしても有効に活用できる。上記情報カード830の内容は、基本的に公開データであるのに対し、コメントカード840の内容は非公開データとする。これら情報カード830及びコメントカード840の各内容はペアとなって各参加者に対応付けられた状対でD/B262に格納される。公開データである情報カード830は、文字情報が中心であるが、本人の顔写真(静止画像)やCMなどの動画像、好きな音楽(BGM)などがリンクされていれば、より個性的な対話演出が可能になる。これらマルチメディアを組み合わせることにより、従来のエンカウンターにはない対話演出効果や、データ蓄積、検索の便が向上する。
【0040】
ファシリテーター20が各対話グループの対話に介入する場合、各参加者側の端末装置では、図10(A)に示されたように、表示部21のモニタ画面8上にファシリテーター20の映像ウィンドウ800aとともに、指示カード850が優先的に表示される。特に、現在行われているエクササイズを終了するときや、新しいエクササイズに移行するときには、このようにファシリテーター20の対話介入が必要になる場合が多い。
【0041】
通常、エンカウンターでは、2人一組での対話がある程度進行すると、次の段階として、4人一組による対話に進む。このとき、既に出会った2人の一方を新たに対話に参加する2人(管理テーブル250を参照して、ファシリテーター20側の制御部263対話履歴や個人情報などの条件から選択する)に紹介する他者紹介もエンカウンターに取り入れられている。図10(b)は、このように、対話中の一方の参加者が新たな参加者に他者紹介を行うときのモニタ画面8を示す図である。このような他者紹介では、直接対話相手となる参加者との間で視線一致した状態を維持するのが好ましい。そのため、各参加者と個別に視線一致できるようCCDカメラを所定位置にそれぞれ配置しておくのが、新たに編成された対話グループでの対話進行をスムーズに行えることからより好ましい。このように既に出会った2人(対話中)と新たな2人との出会い(再編成)を行うには、コンピュータ検索と割り当てが極めて有効である。また、対話グループを構成する2人の出会いや新たにこの対話グループに参加する2人を含めた合計4人の出会いに関しても、時間があればさらに多くの参加組を増やすことができ、このような対話グループの再編成もコンピュータで行えば、より効率的に行える。図11は、6人での対話を行う場合の、モニタ画面8を示す図であり、このモニタ画面8上には、同じ組となった5人の対話相手の映像ウィンドウ810aと、各対話相手のデータボード860が表示される。なお、この場合も、各対話相手それぞれと視線一致状態を可能にするよう、CCDカメラそれぞれが所望の位置に配置されてもよい。
【0042】
特に、エンカウンターへの参加者が数百人を超えるような場合、同じ部屋でも移動の問題、椅子の確保、隣グループの話し声(ノイズ)などの問題を解決する必要があるが、所定の伝送手段を介して接続された複数の端末装置間で行われるテレエンカウンターでは、所望の組み合わせで、他の組の存在を意識することなく容易に対話空間を提供することができる。特に、上述の情報カードとBGMとをリンクさせることにより、各参加者自身の好きな曲、BGMをその場で出力できるため、参加者はより強烈な個性を表すことができる。
【0043】
【発明の効果】
以上のようにこの発明によれば、会議参加者の対話状況を管理テーブルにより管理し、1つの対話グループに所属するようになった参加者間に種々のデータを提供できるように構成したので、複数の端末装置を介して行われる多人数によるエンカウンターなどの特殊な遠隔地対話の実施が可能になるという効果がある。
【図面の簡単な説明】
【図1】この発明に係るテレビ会議システムの概略構成を示す図である。
【図2】遠隔地間において伝送手段を介して視線一致を実現する双方向対話型システムの一構成を示す図である。
【図3】図2に示された撮像装置を示す図であって、視線一致のためのCCDカメラの設置方法を説明するための図である。
【図4】視差角を説明するための図である。
【図5】CCDカメラが設置されるべき領域を示す図である。
【図6】この発明に係るテレビ会議システムにおける端末装置の構成を示すブロック図である。
【図7】この発明に係るテレビ会議システムにおいて、ファシリテーター側端末装置及び参加者側端末装置の各モニタ画面の一例を示す図である。
【図8】この発明に係るテレビ会議システムにおいて、対話者切替え動作を説明するための図である。
【図9】この発明に係るテレビ会議システムにおいて、対話を行っている参加者側端末装置の各モニタ画面の一例を示す図である。
【図10】この発明に係るテレビ会議システムにおいて、ファシリテーターの対話介入時におけるモニタ画面及び他者紹介時の参加者側端末装置のモニタ画面の一例を示す図である。
【図11】この発明に係るテレビ会議システムにおける各参加者側端末装置のマルチウィンドウ表示の一例を示す図である。
【符号の説明】
8…モニタ画面、21(21A、21B)…表示部、3(3A、3B)…対話者A、B、5(5A、5B)…CCDカメラ、6(6A、6B)…撮像ユニット、600(600A、600B)…撮像装置、26(26A、26B)…映像処理装置、200…サーバ、250…管理テーブル、262…D/B、263…制御部、266…音源コントローラ、900…マウス(ポインティング・デバイス)、910…スピーカー。[0001]
BACKGROUND OF THE INVENTION
The present invention relates to each conversation group that is sequentially organized at a predetermined timing by performing data transmission / reception with a plurality of types of media for each terminal apparatus selected as a conversation partner among a plurality of terminal apparatuses connected by a predetermined transmission means. In particular, the present invention relates to a video conferencing system and the like that individually realize two-way dialogue.
[0002]
[Prior art]
Conventionally, in the field of counseling, an encounter group is known that maintains the exchange of real intention and real intention among counseling participants for a certain period, for example, several hours to several weeks. This encounter aims to promote the personal growth of each participant, and the behavior of each participant is changed through a group learning experience. In addition, group encounters organized by arbitrarily organized dialogue groups are promoted by an assistant (facilitator), and the facilitator programs the tasks and participates in the structured group encounter. There is a non-structural group encounter (basic encounter) that is decided by the person himself. In any encounter, through self-interest, such as emotional exchange and sharing of a unique inner world, self-understanding and understanding of others are deepened, and self-growth and trust are formed.
[0003]
[Problems to be solved by the invention]
As a result of examining the conventional group encounter, the inventor has found the following problems. In other words, structured group encounters have been proposed as encounters that can be easily implemented in a short time for each arbitrarily organized dialogue group, but there are financial and time constraints when participating from rural areas. Therefore, in actual implementation of the encounter, it was necessary to overcome such geographical constraints first.
[0004]
In addition, as the number of people participating in the encounter increases, a larger holding space must be secured. For example, in an encounter where hundreds of people participate, the venue is limited to places such as gymnasiums and auditoriums. There was a problem that it could not be implemented without it.
[0005]
The present invention has been made to solve the above-described problems, and is a video conference system that enables a special remote location dialogue such as an encounter by a large number of people to be performed via a plurality of terminal devices, It is an object to provide a communication method, a computer program for executing the communication method, and a recording medium on which the computer program is recorded.
[0006]
[Means for Solving the Problems]
The video conference system according to the present invention realizes interactive dialogue through a plurality of terminal devices connected by predetermined transmission means. In particular, the video conference system includes a management table for managing the conversation status of each conference participant, and communication control means. The above management table manages the conversation history of the users of each of the plurality of terminal devices registered in advance as conference participants and the conversation status in which the users who are interacting among the users are associated with each other. The communication control means controls the data transmission / reception between the users for each group in which the conversation is performed among the terminal users while referring to the management table, while the conversation partner of the user is switched at a predetermined timing. Then, the group of users who interact with each other among the users is reorganized while sequentially updating the management table.
[0007]
In particular, with respect to the organization of a group of users (dialog groups) who perform dialogue, the communication control means automatically follows the instructions from the user during dialogue or other users, or every time a certain time elapses. In addition, the conversation partner of the user during the conversation is switched, and the conversation status of the management table is updated. When the conversation partner is automatically switched every time a certain period of time elapses, the communication control means records, in the management table, the user who has not had a conversation as the conversation partner of the user during the conversation. It is determined with reference to the user's dialogue history.
[0008]
The video conference system having the above-described structure includes a plurality of terminal devices. However, the communication control unit may be a server separately prepared for data distribution on a predetermined transmission unit. Any of the terminal devices may function as communication control means. In particular, the terminal device according to the present invention includes at least a database that stores the management table and a control unit that functions as the communication control unit.
[0009]
Next, the communication method according to the present invention is a communication method suitable for a communication system in which data transmission / reception is performed using a plurality of types of media via a plurality of terminal devices connected by predetermined transmission means as described above. .
[0010]
Specifically, the communication method according to the present invention manages the dialogue history of the user registered in advance and the dialogue state in which the users who are talking among the users are associated with each other using a management table. The management table is controlled so that the user's conversation partner is switched at a predetermined timing while controlling the data transmission / reception between the users for each conversation group in which the conversation is performed among the users while referring to the management table. Reorganize new dialogue groups while updating them sequentially.
[0011]
In particular, when an instruction is received from the user during the conversation or from other users or when a certain time elapses, the conversation partner of the user during the conversation is automatically switched. In addition, when the conversation partner is automatically switched every time a certain period of time elapses, the user's conversation history recorded in the management table is a user who has not had a conversation as the conversation partner of the user during the conversation. Is preferably determined with reference to FIG.
[0012]
The communication method as described above may be a program executed by a computer or the like. In this case, the program may be distributed via a network regardless of wired or wireless, and a CD, DVD, It may be stored in a recording medium such as a flash memory.
[0013]
DETAILED DESCRIPTION OF THE INVENTION
Hereinafter, embodiments of the video conference system and the like according to the present invention will be described in detail with reference to FIGS. In the description of the drawings, the same portions are denoted by the same reference numerals and redundant description is omitted.
[0014]
FIG. 1 is a diagram showing a schematic configuration of a video conference system according to the present invention. In particular, as shown in FIG. 1 (a), the video conference system according to the present invention has a plurality of types of media such as
[0015]
The video conference system according to the present invention includes the
[0016]
As an application example of the video conference system as described above, as shown in FIG. 1 (b), terminal devices classified into specific dialogue groups among a plurality of terminal devices connected to each other via the transmission means 27. There is an encounter where the facilitator 20 (including the server 200) collectively manages the dialogue between 20A and 20B. There are various embodiments of this encounter, but there is an unstructured encounter (basic encounter) that allows each participant to freely interact with each other. A structured encounter is a typical example. In the case of a structured encounter, the progress of the encounter is performed by an assistant 20 (facilitator), and the facilitator programs the task and proceeds.
[0017]
In particular, the video conference system and the communication method according to the present invention provide a two-way interactive system described in, for example, Japanese Patent No. 3074677, which realizes remote conversation between terminal devices connected via the transmission means 27. It is adaptable, and is suitable for a multipoint connection type interactive interactive system that enables line-of-sight matching between specific users (for example,
[0018]
First, here, a bidirectional interactive system applied to the video conference system will be described. Note that this interactive interactive system is a system that realizes a remote conversation based on a one-to-one basis with a line-of-sight match, but is configured so that the line-of-sight cannot be matched between the interlocutors and is simply text data or image data. It is also applicable to a two-way interactive system that can send and receive.
[0019]
FIG. 2 is a logical configuration diagram showing the whole interactive interactive system that enables line-of-sight matching between interlocutors in remote locations. This system realizes a two-way dialogue between a
[0020]
Specifically, at point A, (a) a
[0021]
At point A, the above-described
[0022]
At the point A, the
[0023]
Further, the configuration of the
[0024]
The
[0025]
Next, the specific installation position of the
[0026]
First, the
[0027]
Specifically, the
[0028]
As described above, since the
[0029]
Further, the parallax angle will be described with reference to FIG. In this specification, the parallax angle refers to the line of sight of the
[0030]
In addition, when the size of the conversation person image 9 displayed on the
[0031]
FIG. 6 is a diagram showing a schematic configuration of the terminal device according to the present invention. This terminal device includes a
[0032]
When the terminal device functions as the
[0033]
Hereinafter, as a specific example of the communication method using the video conference system shown in FIG. 2, a teleencounter performed between remote locations will be described as an example. The configuration of each participant's terminal device is the same as that of the interactive interactive system shown in FIG.
[0034]
In the tele-encounter in the connected state shown in FIG. 1 (b), first, the
[0035]
Next, as shown in FIG. 8A, the
[0036]
As described above, the participants selected as one dialogue group by the
[0037]
Subsequently, the
[0038]
In the dialogue between the participants who belong to one dialogue group by the selection of the
[0039]
FIG. 9A is a diagram showing a self-introduction screen of a partner participant who belongs to one dialogue group. On the
[0040]
When the
[0041]
Normally, in an encounter, when a dialogue between two people progresses to some extent, the next step proceeds to a dialogue with four people. At this time, one of the two people who have already met is introduced to the two who are newly participating in the dialogue (refer to the management table 250 and selected from the conditions such as the
[0042]
In particular, if there are more than several hundred participants in the encounter, it is necessary to solve problems such as movement problems, securing of chairs, and speaking voice (noise) of neighboring groups in the same room. In the teleencounter performed between a plurality of terminal devices connected via the means, a dialogue space can be easily provided in a desired combination without being conscious of the existence of other groups. In particular, by linking the above-described information card and BGM, each participant's own favorite song and BGM can be output on the spot, so that the participant can express a stronger personality.
[0043]
【The invention's effect】
As described above, according to the present invention, the conversation status of the conference participants is managed by the management table, so that various data can be provided between the participants who belong to one dialogue group. There is an effect that it is possible to carry out a special remote place dialogue such as an encounter by a large number of people through a plurality of terminal devices.
[Brief description of the drawings]
FIG. 1 is a diagram showing a schematic configuration of a video conference system according to the present invention.
FIG. 2 is a diagram showing a configuration of a two-way interactive system that realizes line-of-sight matching between remote locations via transmission means.
FIG. 3 is a diagram illustrating the imaging apparatus illustrated in FIG. 2 for explaining a method of installing a CCD camera for line-of-sight matching.
FIG. 4 is a diagram for explaining a parallax angle.
FIG. 5 is a diagram showing a region where a CCD camera is to be installed.
FIG. 6 is a block diagram showing a configuration of a terminal device in the video conference system according to the present invention.
FIG. 7 is a diagram showing an example of each monitor screen of the facilitator-side terminal device and the participant-side terminal device in the video conference system according to the present invention.
FIG. 8 is a diagram for explaining a conversation switcher operation in the video conference system according to the present invention.
FIG. 9 is a diagram showing an example of each monitor screen of a participant's terminal device that is conducting a conversation in the video conference system according to the present invention.
FIG. 10 is a diagram showing an example of a monitor screen when a facilitator intervenes in a dialog and a monitor screen of a participant's terminal device when introducing another person in the video conference system according to the present invention.
FIG. 11 is a diagram showing an example of multi-window display of each participant side terminal device in the video conference system according to the present invention.
[Explanation of symbols]
8 ... monitor screen, 21 (21A, 21B) ... display unit, 3 (3A, 3B) ... interviewers A, B, 5 (5A, 5B) ... CCD camera, 6 (6A, 6B) ... imaging unit, 600 ( 600A, 600B) ... imaging device, 26 (26A, 26B) ... video processing device, 200 ... server, 250 ... management table, 262 ... D / B, 263 ... control unit, 266 ... sound source controller, 900 ... mouse (pointing Device), 910 ... Speaker.
Claims (14)
会議参加者として予め登録された、前記複数の端末装置それぞれの利用者の対話履歴とともに、該利用者のうち対話中の利用者同士を対応付けた対話状況とを管理する管理テーブルと、
前記登録された利用者全員のうちからそれぞれ編成された対話が行われる組ごとに、前記管理テーブルを参照しながら利用者間でのデータ送受信を制御する一方、所定タイミングで前記利用者の対話相手が切り替わるよう前記管理テーブルを逐次更新しながら、該利用者全員のうちから少なくとも対話相手の組み合わせ及び人数に関する条件を変更することにより対話を行う利用者の組を再編成していく通信制御手段とを備えたテレビ会議システム。A video conference system that realizes two-way dialogue through a plurality of terminal devices connected by a predetermined transmission means,
A management table for managing a dialogue situation in which the users who are in conversation among the users are associated with the dialogue history of each of the plurality of terminal devices registered in advance as a conference participant,
For each set of dialogues organized from each of the registered users all takes place, while each reference sample the management table to control the data transmission and reception among RaToshi for users, the user at a predetermined time while the dialogue partner sequential by cormorants before Symbol management table is switched to be updated, and re-organize the user's set to perform the dialogue by changing the conditions for the combination and the number of at least dialogue partner from among the users all Video conferencing system with communication control means.
会議参加者として予め登録された、前記複数の端末装置それぞれの利用者の対話履歴とともに、該利用者のうち対話中の利用者同士を対応付けた対話状況とを管理するための管理テーブルが格納されたデータベースと、
前記登録された利用者全員のうちからそれぞれ編成された対話が行われる組ごとに、前記管理テーブルを参照しながら利用者間でのデータ送受信を制御する一方、所定タイミングで前記利用者の対話相手が切り替わるよう前記管理テーブルを逐次更新しながら、該利用者全員のうちから少なくとも対話相手の組み合わせ及び人数に関する条件を変更することにより対話を行う利用者の組を再編成していく通信制御手段とを備えた端末装置。A terminal device that realizes a two-way dialogue by performing data transmission / reception with at least one of a plurality of terminal devices connected to a predetermined transmission means,
A management table for managing the dialog history of each of the plurality of terminal devices registered in advance as a conference participant and the dialog status associated with the users who are interacting among the users is stored. Database and
For each set of dialogues organized from each of the registered users all takes place, while each reference sample the management table to control the data transmission and reception among RaToshi for users, the user at a predetermined time while the dialogue partner sequential by cormorants before Symbol management table is switched to be updated, and re-organize the user's set to perform the dialogue by changing the conditions for the combination and the number of at least dialogue partner from among the users all A terminal device comprising a communication control means.
予め登録された前記利用者の対話履歴と該利用者のうち対話中の利用者同士を対応付けた対話状況とを管理テーブルを利用しながら管理し、
前記登録された利用者全員のうちからそれぞれ編成された対話が行われる組ごとに、前記管理テーブルを参照しながら利用者間でのデータ送受信を制御する一方、所定タイミングで前記利用者の対話相手が切り替わるよう前記管理テーブルを逐次更新しながら、該利用者全員のうちから少なくとも対話相手の組み合わせ及び人数に関する条件を変更することにより対話を行う利用者の組を再編成していく通信方法。A communication method for carrying out a two-way dialogue between the selected dialogue persons by performing data transmission / reception via a predetermined transmission means between the users selected as dialogue partners among a plurality of terminal users,
Managing the user's dialogue history registered in advance and the dialogue status in which the users who are talking among the users are associated with each other using a management table;
For each set of dialogues organized from each of the registered users all takes place, while each reference sample the management table to control the data transmission and reception among RaToshi for users, the user at a predetermined time while the dialogue partner sequential by cormorants before Symbol management table is switched to be updated, and re-organize the user's set to perform the dialogue by changing the conditions for the combination and the number of at least dialogue partner from among the users all Communication method to go.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002126743A JP4085685B2 (en) | 2002-04-26 | 2002-04-26 | Video conference system, terminal device included therein, and communication method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002126743A JP4085685B2 (en) | 2002-04-26 | 2002-04-26 | Video conference system, terminal device included therein, and communication method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2003319357A JP2003319357A (en) | 2003-11-07 |
JP4085685B2 true JP4085685B2 (en) | 2008-05-14 |
Family
ID=29541073
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002126743A Expired - Fee Related JP4085685B2 (en) | 2002-04-26 | 2002-04-26 | Video conference system, terminal device included therein, and communication method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4085685B2 (en) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4595397B2 (en) * | 2004-06-11 | 2010-12-08 | 住友電気工業株式会社 | Image display method, terminal device, and interactive dialogue system |
US20140139616A1 (en) * | 2012-01-27 | 2014-05-22 | Intouch Technologies, Inc. | Enhanced Diagnostics for a Telepresence Robot |
JP6945867B2 (en) * | 2019-04-26 | 2021-10-06 | 株式会社Nlcc | Party system and server device for party system |
WO2023286678A1 (en) * | 2021-07-13 | 2023-01-19 | 京セラ株式会社 | Electronic device, program, and system |
-
2002
- 2002-04-26 JP JP2002126743A patent/JP4085685B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2003319357A (en) | 2003-11-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US6950119B2 (en) | Videoconference system, terminal equipment included therein and data delivery method | |
Buxton et al. | EuroPARC’s integrated interactive intermedia facility (IIIF): Early experiences | |
US8154583B2 (en) | Eye gazing imaging for video communications | |
US8159519B2 (en) | Personal controls for personal video communications | |
US20040254982A1 (en) | Receiving system for video conferencing system | |
US8063929B2 (en) | Managing scene transitions for video communication | |
Yankelovich et al. | Porta-person: Telepresence for the connected conference room | |
US20080297587A1 (en) | Multi-camera residential communication system | |
EP1876825B1 (en) | Videoconference system | |
JPH07255044A (en) | Animated electronic conference room and video conference system and method | |
JP3660198B2 (en) | Three-dimensional shared virtual space display method, three-dimensional shared virtual space communication system and method, virtual conference system, and recording medium recording user terminal program therefor | |
Norris et al. | CamBlend: an object focused collaboration tool | |
Bajpai et al. | Recommendations for designing hybrid conferences | |
Ursu et al. | Orchestration: Tv-like mixing grammars applied to video-communication for social groups | |
JP4085685B2 (en) | Video conference system, terminal device included therein, and communication method | |
US20040249889A1 (en) | Method and system for processing interactive communications | |
JP2004007561A (en) | Video conference system, terminal equipment included in the same system, and data distributing method | |
JP2007221437A (en) | Remote conference system | |
Boll | Multimedia at CHI: telepresence at work for remote conference participation | |
JP2003101981A (en) | Electronic cooperative work system and program for cooperative work system | |
WO2003049064A1 (en) | Interactive teaching / learning system | |
JP6610076B2 (en) | Information processing apparatus, information processing system, program, and recording medium | |
Harrison | A brief history of media space research and mediated life | |
Sadasue et al. | Development and Evaluation of Systems to Enjoy a Wedding Reception for People with Low Vision | |
JP2011018213A (en) | Job offer information collection system and installation structure for job hunting fair conference |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050203 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070710 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070910 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080129 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080211 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110228 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110228 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120229 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120229 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130228 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140228 Year of fee payment: 6 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |