JP4054775B2 - Video display method and video display control method in video conference system, user terminal and server computer used in video conference system, program for user terminal and server computer program used in video conference system - Google Patents

Video display method and video display control method in video conference system, user terminal and server computer used in video conference system, program for user terminal and server computer program used in video conference system Download PDF

Info

Publication number
JP4054775B2
JP4054775B2 JP2004073385A JP2004073385A JP4054775B2 JP 4054775 B2 JP4054775 B2 JP 4054775B2 JP 2004073385 A JP2004073385 A JP 2004073385A JP 2004073385 A JP2004073385 A JP 2004073385A JP 4054775 B2 JP4054775 B2 JP 4054775B2
Authority
JP
Japan
Prior art keywords
information
video
transmittance
user
video information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2004073385A
Other languages
Japanese (ja)
Other versions
JP2005260880A (en
Inventor
聡 佐久間
智昭 小室
美雄 永嶋
健一 浅坂
麻知子 鈴木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NTT Communications Corp
Original Assignee
NTT Communications Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NTT Communications Corp filed Critical NTT Communications Corp
Priority to JP2004073385A priority Critical patent/JP4054775B2/en
Publication of JP2005260880A publication Critical patent/JP2005260880A/en
Application granted granted Critical
Publication of JP4054775B2 publication Critical patent/JP4054775B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Studio Circuits (AREA)
  • Studio Devices (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本発明は、通信ネットワークを介したビデオ会議システムに関し、特にビデオ会議システムの映像表示技術に関するものである。   The present invention relates to a video conference system via a communication network, and more particularly to a video display technique for a video conference system.

現在、実用化されている映像付きWeb会議システムの表示画面は、図9(a)に示すように、主に共有データ画面d10、参加者リスト画面d20、チャット画面d30、映像画面d40などから構成されている。これらのWeb会議システムにおいては、映像画面d40は参加者ごとに振り分けられるため、参加者が増えるに伴ってディスプレイ上の映像画面d40の占有率が増加する。その場合、Web会議システムで最も重要な共有データ画面d10が小さくなり、Web会議システムをスムーズに行うことはできなくなる。   As shown in FIG. 9A, the display screen of the video conference system with video currently in practical use mainly includes a shared data screen d10, a participant list screen d20, a chat screen d30, a video screen d40, and the like. Has been. In these Web conference systems, since the video screen d40 is distributed for each participant, the occupation ratio of the video screen d40 on the display increases as the number of participants increases. In that case, the most important shared data screen d10 in the Web conference system becomes small, and the Web conference system cannot be smoothly performed.

これを解決する方法としては、非特許文献1に示すように、予め、共有データ画面d10を主に使用する場合は映像画面d40を背面に隠す方法(図9(b)参照)や、非特許文献2および3に示すように、ディスプレイ上での表示する参加者の映像画面数を制限する方法(図9(c)参照)がある。
NTTIT株式会社、“MeetingPlaza電網会議室サービス”、[Online]、[平成16年3月1日検索]、インターネット<URL:http://www.meetingplaza.com/> WebEx Communications Inc.、“Video Conferencing,Web Conferencing&Online Meetings”、[Online]、[平成16年3月1日検索]、インターネット<URL:http://www.webex.com/> 日本電気株式会社、“コミュニケーションドア”、[Online]、[平成16年3月1日検索]、インターネット<URL:http://www.communicationdoor.com/>
As a method for solving this, as shown in Non-Patent Document 1, when the shared data screen d10 is mainly used, a method of hiding the video screen d40 on the back (see FIG. 9B), or a non-patent As shown in Documents 2 and 3, there is a method (see FIG. 9C) for limiting the number of participant's video screens displayed on the display.
NTTIT Corporation, “MeetingPlaza Network Meeting Room Service”, [Online], [Search on March 1, 2004], Internet <URL: http://www.meetingplaza.com/> WebEx Communications Inc., “Video Conferencing, Web Conferencing & Online Meetings”, [Online], [March 1, 2004 search], Internet <URL: http://www.webex.com/> NEC Corporation, “Communication Door”, [Online], [Search on March 1, 2004], Internet <URL: http://www.communicationdoor.com/>

しかしながら、上述した映像画面d40を背面に隠す方法や、ディスプレイ上での表示する参加者の映像画面数を制限する方法においては、映像付きWeb会議システムのメリットである「相手の表情を確認しながらの会議」が実現できないという問題がある。また、発言者の映像がない場合には、参加者リスト上で明示しない限り誰が発言したかわからないので、参加者リスト画面d20も常に表示しておかなければならないという問題もある。   However, in the above-described method of hiding the video screen d40 on the back and the method of limiting the number of video screens of the participants to be displayed on the display, “while confirming the other party's facial expression” which is the merit of the video conference system with video There is a problem that the "conference" cannot be realized. In addition, when there is no video of the speaker, there is a problem that the participant list screen d20 must always be displayed because it is not known who speaks unless it is clearly indicated on the participant list.

本発明は、上記の事情を鑑みたものであり、参加者が増加してもビデオ会議を円滑に進行させることができるビデオ会議システムにおける映像表示方法及び映像表示制御方法、ビデオ会議システムに用いられる利用者端末及びサーバコンピュータ、並びにビデオ会議システムに用いられる利用者端末用プログラム及びサーバコンピュータ用プログラムを提供することを目的とする。   The present invention has been made in view of the above circumstances, and is used for a video display method, a video display control method, and a video conference system in a video conference system that can smoothly advance a video conference even if the number of participants increases. It is an object to provide a user terminal and a server computer, and a user terminal program and a server computer program used in a video conference system.

上記目的を達成するため、請求項1記載の本発明は、通信ネットワークを介して複数の利用者端末が接続され、各利用者端末が取得した利用者の映像情報および音声情報を相互に送受信し、ビデオ会議を行うビデオ会議システムにおける映像表示方法であって、前記各利用者端末が、他の利用者端末それぞれから、他の利用者の映像情報および音声情報を受信し、前記利用者ごとに、受信した映像情報及び音声情報のうち少なくともいずれか一方の情報の内容に基づいて映像情報の透過率を決定し、決定した透過率で他の利用者の映像情報の透明度を変化させ、透明度を変化させた映像情報それぞれを表示し、前記映像情報に基づいて前記透過率を決定する場合には、2つの大小の透過率の値を用意し、前記映像情報の画像フレーム間の差分情報が予め定められた第1の閾値以上のときには、小さい値の透過率を割り当て、前記映像情報の画像フレーム間の差分情報が予め定められた第1の閾値未満のときには、大きい値の透過率を割り当てることを特徴とする。
請求項2記載の本発明は、通信ネットワークを介して複数の利用者端末が接続され、各利用者端末が取得した利用者の映像情報および音声情報を相互に送受信し、ビデオ会議を行うビデオ会議システムにおける映像表示方法であって、前記各利用者端末が、他の利用者端末それぞれから、他の利用者の映像情報および音声情報を受信し、前記利用者ごとに、受信した映像情報及び音声情報のうち少なくともいずれか一方の情報の内容に基づいて映像情報の透過率を決定し、決定した透過率で他の利用者の映像情報の透明度を変化させ、透明度を変化させた映像情報それぞれを表示し、前記透過率の決定は、前記音声情報のゲイン値又は前記映像情報の画像フレーム間の差分情報が大きいほど透過率の値を小さく設定することを特徴とする。
In order to achieve the above object, according to the present invention, a plurality of user terminals are connected via a communication network, and the user's video information and audio information acquired by each user terminal are mutually transmitted and received. A video display method in a video conference system for performing a video conference, wherein each user terminal receives video information and audio information of another user from each of the other user terminals, and for each user , Determining the transparency of the video information based on the content of at least one of the received video information and audio information, changing the transparency of the video information of other users with the determined transparency, displays each image information is changed, when determining the transmission rate based on the image information, preparing a value of the transmittance of the two large and small, the difference between image frames of the video information When the information is equal to or greater than a predetermined first threshold value, a small value of transmittance is assigned. When the difference information between the image frames of the video information is less than the predetermined first threshold value, a large value of transmittance is assigned. It is characterized by assigning .
According to the second aspect of the present invention, there is provided a video conference in which a plurality of user terminals are connected via a communication network, and video information and audio information of the users acquired by each user terminal are mutually transmitted and received to perform a video conference. A video display method in a system, wherein each user terminal receives video information and audio information of another user from each of the other user terminals, and the received video information and audio for each user. The transmission rate of the video information is determined based on the content of at least one of the information, the transparency of the video information of other users is changed with the determined transmission rate, and each of the video information whose transparency has been changed is changed. The determination of the transmittance is characterized in that the greater the gain value of the audio information or the difference information between the image frames of the video information, the smaller the transmittance value is set.

請求項3記載の本発明は、通信ネットワークを介して複数の利用者端末が接続され、各利用者端末が取得した利用者の映像情報および音声情報を相互に送受信し、ビデオ会議を行うビデオ会議システムにおける映像表示方法であって、前記各利用者端末が、前記利用者の映像情報および音声情報を取得し、取得した映像情報及び音声情報のうち少なくともいずれか一方の情報の内容に基づいて映像情報の透過率を決定し、取得した映像情報及び音声情報、並びに決定した透過率に関する情報を他の利用者端末に送信し、他の利用者端末それぞれから、他の利用者の映像情報及び音声情報、並びに決定した透過率に関する情報を受信し、前記利用者ごとに、受信した透過率に関する情報に従って他の利用者の映像情報の透明度を変化させ、透明度を変化させた映像情報それぞれを表示し、前記映像情報に基づいて前記透過率を決定する場合には、2つの大小の透過率の値を用意し、前記映像情報の画像フレーム間の差分情報が予め定められた第1の閾値以上のときには、小さい値の透過率を割り当て、前記映像情報の画像フレーム間の差分情報が予め定められた第1の閾値未満のときには、大きい値の透過率を割り当てることを特徴とする。
請求項4記載の本発明は、通信ネットワークを介して複数の利用者端末が接続され、各利用者端末が取得した利用者の映像情報および音声情報を相互に送受信し、ビデオ会議を行うビデオ会議システムにおける映像表示方法であって、前記各利用者端末が、前記利用者の映像情報および音声情報を取得し、取得した映像情報及び音声情報のうち少なくともいずれか一方の情報の内容に基づいて映像情報の透過率を決定し、取得した映像情報及び音声情報、並びに決定した透過率に関する情報を他の利用者端末に送信し、他の利用者端末それぞれから、他の利用者の映像情報及び音声情報、並びに決定した透過率に関する情報を受信し、前記利用者ごとに、受信した透過率に関する情報に従って他の利用者の映像情報の透明度を変化させ、透明度を変化させた映像情報それぞれを表示し、前記透過率の決定は、前記音声情報のゲイン値又は前記映像情報の画像フレーム間の差分情報が大きいほど透過率の値を小さく設定することを特徴とする。
According to the third aspect of the present invention, there is provided a video conference in which a plurality of user terminals are connected via a communication network, and video information and audio information of users acquired by each user terminal are mutually transmitted and received to perform a video conference. A video display method in a system, wherein each of the user terminals acquires the video information and audio information of the user, and the video is based on the content of at least one of the acquired video information and audio information Information transmission rate is determined, acquired video information and audio information, and information on the determined transmission rate are transmitted to other user terminals, and the video information and audio of other users are transmitted from each of the other user terminals. Information and information on the determined transmittance are received, and for each user, the transparency of the video information of other users is changed according to the received information on the transmittance, and transparent It displays each image information of varying, when determining the transmission rate based on the image information, preparing a value of the transmittance of the two large and small, the difference information between image frames of the video information When the threshold value is equal to or greater than a predetermined first threshold value, a small transmittance is assigned, and when the difference information between the image frames of the video information is less than a predetermined first threshold value, a large value transmittance is assigned. It is characterized by that.
According to the fourth aspect of the present invention, there is provided a video conference in which a plurality of user terminals are connected via a communication network, and video information and audio information of users acquired by each user terminal are mutually transmitted and received to perform a video conference. A video display method in a system, wherein each of the user terminals acquires the video information and audio information of the user, and the video is based on the content of at least one of the acquired video information and audio information Information transmission rate is determined, acquired video information and audio information, and information on the determined transmission rate are transmitted to other user terminals, and the video information and audio of other users are transmitted from each of the other user terminals. Information and information on the determined transmittance are received, and for each user, the transparency of the video information of other users is changed according to the received information on the transmittance, and transparent Each of the video information in which the image information is changed is displayed, and the determination of the transmittance is characterized in that the greater the difference value between the image information frame of the audio information or the image information, the smaller the transmittance value is set. To do.

請求項5記載の本発明は、通信ネットワークを介して複数の利用者端末およびサーバコンピュータが接続され、各利用者端末が取得した利用者の映像情報および音声情報を前記サーバコンピュータを介して相互に送受信し、ビデオ会議を行うビデオ会議システムにおける映像表示制御方法であって、前記サーバコンピュータが、前記複数の利用者端末それぞれから、前記利用者の映像情報および音声情報を受信し、前記利用者ごとに、受信した映像情報及び音声情報のうち少なくともいずれか一方の情報の内容に基づいて映像情報の透過率を決定し、前記利用者ごとの、受信した映像情報及び音声情報並びに決定した透過率に関する情報を前記複数の利用者端末に送信し、前記映像情報に基づいて前記透過率を決定する場合には、2つの大小の透過率の値を用意し、前記映像情報の画像フレーム間の差分情報が予め定められた第1の閾値以上のときには、小さい値の透過率を割り当て、前記映像情報の画像フレーム間の差分情報が予め定められた第1の閾値未満のときには、大きい値の透過率を割り当てることを特徴とする。
請求項6記載の本発明は、通信ネットワークを介して複数の利用者端末およびサーバコンピュータが接続され、各利用者端末が取得した利用者の映像情報および音声情報を前記サーバコンピュータを介して相互に送受信し、ビデオ会議を行うビデオ会議システムにおける映像表示制御方法であって、前記サーバコンピュータが、前記複数の利用者端末それぞれから、前記利用者の映像情報および音声情報を受信し、前記利用者ごとに、受信した映像情報及び音声情報のうち少なくともいずれか一方の情報の内容に基づいて映像情報の透過率を決定し、前記利用者ごとの、受信した映像情報及び音声情報並びに決定した透過率に関する情報を前記複数の利用者端末に送信し、前記透過率の決定は、前記音声情報のゲイン値又は前記映像情報の画像フレーム間の差分情報が大きいほど透過率の値を小さく設定することを特徴とする。
According to the fifth aspect of the present invention, a plurality of user terminals and a server computer are connected via a communication network, and the user's video information and audio information acquired by each user terminal are mutually exchanged via the server computer. A video display control method in a video conference system for transmitting and receiving and performing a video conference, wherein the server computer receives video information and audio information of the user from each of the plurality of user terminals, and each user And determining the transmittance of the video information based on the content of at least one of the received video information and audio information, and regarding the received video information and audio information and the determined transmittance for each user. transmit information to the plurality of user terminals, when determining the transmission rate based on the video information, two large and small A transmittance value is prepared, and when the difference information between the image frames of the video information is equal to or greater than a predetermined first threshold, a small value of the transmittance is assigned, and the difference information between the image frames of the video information is When it is less than a predetermined first threshold value, a larger value of transmittance is assigned .
According to the present invention, a plurality of user terminals and a server computer are connected via a communication network, and the user's video information and audio information acquired by each user terminal are mutually exchanged via the server computer. A video display control method in a video conference system for transmitting and receiving and performing a video conference, wherein the server computer receives video information and audio information of the user from each of the plurality of user terminals, and each user And determining the transmittance of the video information based on the content of at least one of the received video information and audio information, and regarding the received video information and audio information and the determined transmittance for each user. Information is transmitted to the plurality of user terminals, and the determination of the transmittance is performed by determining the gain value of the audio information or the image information of the video information. Wherein the smaller the value of the more the transmittance difference information is greater between frames.

請求項7記載の本発明は、通信ネットワークを介して複数の利用者端末が接続され、各利用者端末が取得した利用者の映像情報および音声情報を相互に送受信し、ビデオ会議を行うビデオ会議システムに用いられる前記利用者端末であって、他の利用者端末それぞれから、他の利用者の映像情報および音声情報を受信する手段と、前記利用者ごとに、受信した映像情報及び音声情報のうち少なくともいずれか一方の情報の内容に基づいて透過率を決定し、決定した透過率で他の利用者の映像情報の透明度を変化させる手段と、透明度を変化させた映像情報それぞれを表示する手段と、を有し、前記透過率を決定し透明度を変化させる手段は、前記映像情報に基づいて前記透過率を決定する場合には、2つの大小の透過率の値を用意し、前記映像情報の画像フレーム間の差分情報が予め定められた第1の閾値以上のときには、小さい値の透過率を割り当て、前記映像情報の画像フレーム間の差分情報が予め定められた第1の閾値未満のときには、大きい値の透過率を割り当てることを特徴とする。
請求項8記載の本発明は、通信ネットワークを介して複数の利用者端末が接続され、各利用者端末が取得した利用者の映像情報および音声情報を相互に送受信し、ビデオ会議を行うビデオ会議システムに用いられる前記利用者端末であって、他の利用者端末それぞれから、他の利用者の映像情報および音声情報を受信する手段と、前記利用者ごとに、受信した映像情報及び音声情報のうち少なくともいずれか一方の情報の内容に基づいて透過率を決定し、決定した透過率で他の利用者の映像情報の透明度を変化させる手段と、透明度を変化させた映像情報それぞれを表示する手段と、を有し、前記透過率を決定し透明度を変化させる手段は、前記透過率の決定において、前記音声情報のゲイン値又は前記映像情報の画像フレーム間の差分情報が大きいほど前記透過率の値を小さく設定することを特徴とする。
According to the seventh aspect of the present invention, there is provided a video conference in which a plurality of user terminals are connected via a communication network, and video information and audio information of users acquired by each user terminal are mutually transmitted and received to perform a video conference. Means for receiving the video information and audio information of other users from each of the other user terminals, and the received video information and audio information for each user; Means for determining the transmittance based on the content of at least one of the information, changing the transparency of the video information of other users with the determined transmittance, and means for displaying each of the video information with the changed transparency when having a means for varying the determined transparency the transmittance, when determining the transmission rate based on the image information, preparing a value of the transmittance of the two large and small, the movies When the difference information between the image frames of information is equal to or greater than a predetermined first threshold value, a small transmittance is assigned, and the difference information between the image frames of the video information is less than a predetermined first threshold value. In some cases, a large value of transmittance is assigned .
The present invention according to claim 8 is a video conference in which a plurality of user terminals are connected via a communication network, and the video information and audio information of the users acquired by each user terminal are mutually transmitted and received to perform a video conference. Means for receiving the video information and audio information of other users from each of the other user terminals, and the received video information and audio information for each user; Means for determining the transmittance based on the content of at least one of the information, changing the transparency of the video information of other users with the determined transmittance, and means for displaying each of the video information with the changed transparency The means for determining the transmittance and changing the transparency includes a gain value of the audio information or difference information between image frames of the video information in the determination of the transmittance. Wherein the smaller the value of the transmittance larger.

請求項9記載の本発明は、通信ネットワークを介して複数の利用者端末が接続され、各利用者端末が取得した利用者の映像情報および音声情報を相互に送受信し、ビデオ会議を行うビデオ会議システムに用いられる前記利用者端末であって、前記利用者の映像データおよび音声データを取得する手段と、取得した映像情報及び音声情報のうち少なくともいずれか一方の情報の内容に基づいて映像情報の透過率を決定する手段と、取得した映像情報及び音声情報、並びに決定した透過率に関する情報を他の利用者端末に送信する手段と、他の利用者端末それぞれから、他の利用者の映像情報及び音声情報、並びに決定した透過率に関する情報を受信する手段と、前記利用者ごとに、受信した透過率に関する情報に従って他の利用者の映像情報の透明度を変化させる手段と、透明度を変化させた映像情報それぞれを表示する手段と、を有し、前記透過率を決定する手段は、前記映像情報に基づいて前記透過率を決定する場合には、2つの大小の透過率の値を用意し、前記映像情報の画像フレーム間の差分情報が予め定められた第1の閾値以上のときには、小さい値の透過率を割り当て、前記映像情報の画像フレーム間の差分情報が予め定められた第1の閾値未満のときには、大きい値の透過率を割り当てることを特徴とする。
請求項10記載の本発明は、通信ネットワークを介して複数の利用者端末が接続され、各利用者端末が取得した利用者の映像情報および音声情報を相互に送受信し、ビデオ会議を行うビデオ会議システムに用いられる前記利用者端末であって、前記利用者の映像データおよび音声データを取得する手段と、取得した映像情報及び音声情報のうち少なくともいずれか一方の情報の内容に基づいて映像情報の透過率を決定する手段と、取得した映像情報及び音声情報、並びに決定した透過率に関する情報を他の利用者端末に送信する手段と、他の利用者端末それぞれから、他の利用者の映像情報及び音声情報、並びに決定した透過率に関する情報を受信する手段と、前記利用者ごとに、受信した透過率に関する情報に従って他の利用者の映像情報の透明度を変化させる手段と、透明度を変化させた映像情報それぞれを表示する手段と、を有し、前記透過率を決定する手段は、前記音声情報のゲイン値又は前記映像情報の画像フレーム間の差分情報が大きいほど前記透過率の値を小さく設定することを特徴とする。
The present invention according to claim 9 is a video conference in which a plurality of user terminals are connected via a communication network, and the video information and audio information of the users acquired by each user terminal are mutually transmitted and received to perform a video conference. The user terminal for use in a system, the means for acquiring video data and audio data of the user, and the video information based on the content of at least one of the acquired video information and audio information Means for determining the transmittance, means for transmitting the acquired video information and audio information, and information regarding the determined transmittance to other user terminals, and video information of other users from each of the other user terminals And audio information, and means for receiving information on the determined transmittance, and for each user, according to the received information on the transmittance, the video information of other users And means for varying the brightness comprises means for displaying each image information of varying transparency, and, means for determining the transmission rate, when determining the transmission rate based on the image information, Two large and small transmittance values are prepared, and when the difference information between the image information image frames is equal to or greater than a predetermined first threshold value, a small value transmittance is assigned, and the image information image frames When the difference information is less than a predetermined first threshold value, a large transmittance is assigned .
The present invention according to claim 10 is a video conference in which a plurality of user terminals are connected via a communication network, and the video information and audio information of the users acquired by each user terminal are mutually transmitted and received to perform a video conference. The user terminal for use in a system, the means for acquiring video data and audio data of the user, and the video information based on the content of at least one of the acquired video information and audio information Means for determining the transmittance, means for transmitting the acquired video information and audio information, and information regarding the determined transmittance to other user terminals, and video information of other users from each of the other user terminals And audio information, and means for receiving information on the determined transmittance, and video information of other users according to the received information on the transmittance for each user Means for changing transparency, and means for displaying each of the video information whose transparency has been changed, and the means for determining the transmittance is a gain value of the audio information or a difference between image frames of the video information. The larger the information, the smaller the transmittance value is set.

請求項11記載の本発明は、通信ネットワークを介して複数の利用者端末およびサーバコンピュータが接続され、各利用者端末が取得した利用者の映像情報および音声情報を前記サーバコンピュータを介して相互に送受信し、ビデオ会議を行うビデオ会議システムに用いられる前記サーバコンピュータであって、前記複数の利用者端末それぞれから、前記利用者の映像情報および音声情報を受信する手段と、前記利用者ごとに、受信した映像情報及び音声情報のうち少なくともいずれか一方の情報の内容に基づいて映像情報の透過率を決定する手段と、前記利用者ごとの、受信した映像情報及び音声情報並びに決定した透過率に関する情報を前記複数の利用者端末に送信する手段と、を有し、前記透過率を決定する手段は、前記映像情報に基づいて前記透過率を決定する場合には、2つの大小の透過率の値を用意し、前記映像情報の画像フレーム間の差分情報が予め定められた第1の閾値以上のときには、小さい値の透過率を割り当て、前記映像情報の画像フレーム間の差分情報が予め定められた第1の閾値未満のときには、大きい値の透過率を割り当てることを特徴とする。
請求項12記載の本発明は、通信ネットワークを介して複数の利用者端末およびサーバコンピュータが接続され、各利用者端末が取得した利用者の映像情報および音声情報を前記サーバコンピュータを介して相互に送受信し、ビデオ会議を行うビデオ会議システムに用いられる前記サーバコンピュータであって、前記複数の利用者端末それぞれから、前記利用者の映像情報および音声情報を受信する手段と、前記利用者ごとに、受信した映像情報及び音声情報のうち少なくともいずれか一方の情報の内容に基づいて映像情報の透過率を決定する手段と、前記利用者ごとの、受信した映像情報及び音声情報並びに決定した透過率に関する情報を前記複数の利用者端末に送信する手段と、を有し、前記透過率を決定する手段は、前記音声情報のゲイン値又は前記映像情報の画像フレーム間の差分情報が大きいほど前記透過率の値を小さく設定することを特徴とする。
According to the present invention, a plurality of user terminals and a server computer are connected via a communication network, and the user's video information and audio information acquired by each user terminal are mutually transmitted via the server computer. A server computer used in a video conference system for transmitting and receiving and performing a video conference, wherein the user computer receives video information and audio information from each of the plurality of user terminals, and for each user, Means for determining the transmittance of the video information based on the content of at least one of the received video information and audio information, and the received video information and audio information and the determined transmittance for each user; a means for transmitting information to the plurality of user terminals, and means for determining the transmittance, based on the image information When determining the transmittance, two large and small transmittance values are prepared, and when the difference information between the image frames of the video information is equal to or greater than a predetermined first threshold value, a small value of the transmission is obtained. A rate is assigned, and when the difference information between the image frames of the video information is less than a predetermined first threshold value, a larger transmittance is assigned .
According to the present invention, a plurality of user terminals and a server computer are connected via a communication network, and the user's video information and audio information acquired by each user terminal are mutually exchanged via the server computer. A server computer used in a video conference system for transmitting and receiving and performing a video conference, wherein the user computer receives video information and audio information from each of the plurality of user terminals, and for each user, Means for determining the transmittance of the video information based on the content of at least one of the received video information and audio information, and the received video information and audio information and the determined transmittance for each user; Means for transmitting information to the plurality of user terminals, and the means for determining the transmittance comprises And sets the emission value or values of the transmittance the greater the difference information between image frames of the video information reduced.

請求項13記載の本発明は、通信ネットワークを介して複数の利用者端末が接続され、各利用者端末が取得した利用者の映像情報および音声情報を相互に送受信し、ビデオ会議を行うビデオ会議システムに用いられる利用者端末用プログラムであって、他の利用者端末それぞれから、他の利用者の映像情報および音声情報を受信するステップと、利用者ごとに、受信した映像情報及び音声情報のうち少なくともいずれか一方の情報の内容に基づいて映像情報の透過率を決定し、決定した透過率で他の利用者の映像情報の透明度を変化させるステップと、透明度を変化させた映像情報それぞれを表示するステップと、を前記利用者端末に実行させ、前記透過率を決定し変化させるステップは、前記映像情報に基づいて前記透過率を決定する場合には、2つの大小の透過率の値を用意し、前記映像情報の画像フレーム間の差分情報が予め定められた第1の閾値以上のときには、小さい値の透過率を割り当て、前記映像情報の画像フレーム間の差分情報が予め定められた第1の閾値未満のときには、大きい値の透過率を割り当てることを特徴とする。
請求項14記載の本発明は、通信ネットワークを介して複数の利用者端末が接続され、各利用者端末が取得した利用者の映像情報および音声情報を相互に送受信し、ビデオ会議を行うビデオ会議システムに用いられる利用者端末用プログラムであって、他の利用者端末それぞれから、他の利用者の映像情報および音声情報を受信するステップと、利用者ごとに、受信した映像情報及び音声情報のうち少なくともいずれか一方の情報の内容に基づいて映像情報の透過率を決定し、決定した透過率で他の利用者の映像情報の透明度を変化させるステップと、透明度を変化させた映像情報それぞれを表示するステップと、を前記利用者端末に実行させ、前記透過率を決定し変化させるステップは、前記透過率の決定において、前記音声情報のゲイン値又は前記映像情報の画像フレーム間の差分情報が大きいほど前記透過率の値を小さく設定することを特徴とする。
According to the thirteenth aspect of the present invention, there is provided a video conference in which a plurality of user terminals are connected via a communication network, and the video information and audio information of the users acquired by each user terminal are mutually transmitted and received to perform a video conference. A program for a user terminal used in the system, the step of receiving video information and audio information of another user from each of other user terminals, and the received video information and audio information for each user Determining the transmittance of the video information based on the content of at least one of the information, changing the transparency of the video information of another user with the determined transmittance, and each of the video information with the changed transparency is executed and displaying, to the user terminal, the step of changing to determine the transmittance, when determining the transmission rate based on the image information Prepares two large and small transmittance values, and when the difference information between the image frames of the video information is greater than or equal to a predetermined first threshold value, assigns a small value of the transmittance, and the image of the video information When the difference information between frames is less than a predetermined first threshold value, a larger value of transmittance is assigned .
The present invention according to claim 14 is a video conference in which a plurality of user terminals are connected via a communication network, and the video information and audio information of the users acquired by each user terminal are mutually transmitted and received to perform a video conference. A program for a user terminal used in the system, the step of receiving video information and audio information of another user from each of other user terminals, and the received video information and audio information for each user Determining the transmittance of the video information based on the content of at least one of the information, changing the transparency of the video information of another user with the determined transmittance, and each of the video information with the changed transparency The step of causing the user terminal to execute the step of determining and changing the transmittance, in the determination of the transmittance, the gain of the audio information Or wherein the smaller the value of the more the transmittance is large difference information between image frames of the video information.

請求項15記載の本発明は、通信ネットワークを介して複数の利用者端末が接続され、各利用者端末が取得した利用者の映像情報および音声情報を相互に送受信し、ビデオ会議を行うビデオ会議システムに用いられる利用者端末用プログラムであって、前記利用者の映像データおよび音声データを取得するステップと、取得した映像情報及び音声情報のうち少なくともいずれか一方の情報の内容に基づいて映像情報の透過率を決定するステップと、取得した映像情報及び音声情報、並びに決定した透過率に関する情報を他の利用者端末に送信するステップと、他の利用者端末それぞれから、他の利用者の映像情報及び音声情報、並びに決定した透過率に関する情報を受信するステップと、前記利用者ごとに、受信した透過率に従って他の利用者の映像情報の透明度を変化させるステップと、透明度を変化させた映像情報それぞれを表示するステップと、を前記利用者端末に実行させ、前記透過率を決定するステップは、前記映像情報に基づいて前記透過率を決定する場合には、2つの大小の透過率の値を用意し、前記映像情報の画像フレーム間の差分情報が予め定められた第1の閾値以上のときには、小さい値の透過率を割り当て、前記映像情報の画像フレーム間の差分情報が予め定められた第1の閾値未満のときには、大きい値の透過率を割り当てることを特徴とする。
請求項16記載の本発明は、通信ネットワークを介して複数の利用者端末が接続され、各利用者端末が取得した利用者の映像情報および音声情報を相互に送受信し、ビデオ会議を行うビデオ会議システムに用いられる利用者端末用プログラムであって、前記利用者の映像データおよび音声データを取得するステップと、取得した映像情報及び音声情報のうち少なくともいずれか一方の情報の内容に基づいて映像情報の透過率を決定するステップと、取得した映像情報及び音声情報、並びに決定した透過率に関する情報を他の利用者端末に送信するステップと、他の利用者端末それぞれから、他の利用者の映像情報及び音声情報、並びに決定した透過率に関する情報を受信するステップと、前記利用者ごとに、受信した透過率に従って他の利用者の映像情報の透明度を変化させるステップと、透明度を変化させた映像情報それぞれを表示するステップと、を前記利用者端末に実行させ、前記透過率を決定するステップは、前記音声情報のゲイン値又は前記映像情報の画像フレーム間の差分情報が大きいほど前記透過率の値を小さく設定することを特徴とする。
The present invention according to claim 15 is a video conference in which a plurality of user terminals are connected via a communication network, and the video information and audio information of the users acquired by each user terminal are mutually transmitted and received to perform a video conference. A program for a user terminal used in the system, the step of acquiring video data and audio data of the user, and video information based on the content of at least one of the acquired video information and audio information Determining the transmissivity of the user, transmitting the acquired video information and audio information, and information regarding the determined transmissivity to other user terminals, and video of other users from each of the other user terminals Receiving information and audio information, and information on the determined transmittance, and other uses according to the received transmittance for each user A step of changing the transparency of the video information, and displaying each image information of varying transparency, allowed to run on the user terminal, determining the transmittance, the based on the image information When determining the transmittance, two large and small transmittance values are prepared, and when the difference information between the image frames of the video information is equal to or greater than a predetermined first threshold, a small transmittance is set. When the difference information between the image frames of the video information is less than a predetermined first threshold value, a large transmittance is assigned .
According to a sixteenth aspect of the present invention, there is provided a video conference in which a plurality of user terminals are connected via a communication network, and the video information and audio information of the users acquired by each user terminal are mutually transmitted and received to perform a video conference. A program for a user terminal used in the system, the step of acquiring video data and audio data of the user, and video information based on the content of at least one of the acquired video information and audio information Determining the transmissivity of the user, transmitting the acquired video information and audio information, and information regarding the determined transmissivity to other user terminals, and video of other users from each of the other user terminals Receiving information and audio information, and information on the determined transmittance, and other uses according to the received transmittance for each user The step of causing the user terminal to execute the step of changing the transparency of the video information and the step of displaying each of the video information with the changed transparency, and determining the transmittance includes the gain value of the audio information or The greater the difference information between image frames of the video information, the smaller the transmittance value is set.

請求項17記載の本発明は、請求項13乃至16のいずれか1項に記載の発明において、前記音声情報に基づいて前記透過率を決定する場合には、2つの大小の透過率の値を用意し、前記音声情報のゲイン値が予め定められた第2の閾値以上のときには、小さい値の透過率を割り当て、前記音声情報のゲイン値が予め定められた第2の閾値未満のときには、大きい値の透過率を割り当てることを特徴とする。 The present invention according to claim 17 is the invention according to any one of claims 13 to 16 , wherein when determining the transmittance based on the audio information, two large and small transmittance values are set. Prepared, when the gain value of the audio information is equal to or greater than a predetermined second threshold value, a small transmittance is assigned, and when the gain value of the audio information is less than the predetermined second threshold value, the transmissivity is large. It is characterized by assigning a value transmittance.

請求項18記載の本発明は、請求項13乃至17のいずれか1項に記載の発明において、前記決定した透過率は、利用者単位に変更可能であることを特徴とする。 The present invention according to claim 18 is characterized in that, in the invention according to any one of claims 13 to 17 , the determined transmittance can be changed in units of users.

請求項19記載の本発明は、請求項13乃至18のいずれか1項に記載の発明において、前記各利用者の映像情報および音声情報は、サーバコンピュータを介して送受信されることを特徴とする。 The present invention according to claim 19 is the invention according to any one of claims 13 to 18 , wherein the video information and audio information of each user is transmitted and received via a server computer. .

請求項20に係る発明は、通信ネットワークを介して複数の利用者端末およびサーバコンピュータが接続され、各利用者端末が取得した利用者の映像情報および音声情報を前記サーバコンピュータを介して相互に送受信し、ビデオ会議を行うビデオ会議システムに用いられるサーバコンピュータ用プログラムであって、前記複数の利用者端末それぞれから、前記利用者の映像情報および音声情報を受信するステップと、前記利用者ごとに、受信した映像情報及び音声情報のうち少なくともいずれか一方の情報の内容に基づいて透過率を決定するステップと、前記利用者ごとの、受信した映像情報及び音声情報並びに決定した透過率に関する情報を前記複数の利用者端末に送信するステップと、を前記サーバコンピュータに実行させ、前記透過率を決定するステップは、前記映像情報に基づいて前記透過率を決定する場合には、2つの大小の透過率の値を用意し、前記映像情報の画像フレーム間の差分情報が予め定められた第1の閾値以上のときには、小さい値の透過率を割り当て、前記映像情報の画像フレーム間の差分情報が予め定められた第1の閾値未満のときには、大きい値の透過率を割り当てることを特徴とする。
請求項21記載の本発明は、通信ネットワークを介して複数の利用者端末およびサーバコンピュータが接続され、各利用者端末が取得した利用者の映像情報および音声情報を前記サーバコンピュータを介して相互に送受信し、ビデオ会議を行うビデオ会議システムに用いられるサーバコンピュータ用プログラムであって、前記複数の利用者端末それぞれから、前記利用者の映像情報および音声情報を受信するステップと、前記利用者ごとに、受信した映像情報及び音声情報のうち少なくともいずれか一方の情報の内容に基づいて透過率を決定するステップと、前記利用者ごとの、受信した映像情報及び音声情報並びに決定した透過率に関する情報を前記複数の利用者端末に送信するステップと、を前記サーバコンピュータに実行させ、前記透過率を決定するステップは、前記音声情報のゲイン値又は前記映像情報の画像フレーム間の差分情報が大きいほど前記透過率の値を小さく設定することを特徴とする。
In the invention according to claim 20 , a plurality of user terminals and a server computer are connected via a communication network, and the user's video information and audio information acquired by each user terminal are mutually transmitted and received via the server computer. A program for a server computer used in a video conference system that performs a video conference, the step of receiving video information and audio information of the user from each of the plurality of user terminals, and for each of the users, Determining the transmittance based on the content of at least one of the received video information and audio information, and the received video information and audio information and information regarding the determined transmittance for each user; and transmitting the plurality of user terminals, it was run on the server computer, the transmission Determining the transmittance based on the video information, two large and small transmittance values are prepared, and difference information between image frames of the video information is determined in advance. When the threshold value is equal to or greater than 1, a small value of transmittance is assigned, and when difference information between image frames of the video information is less than a predetermined first threshold value, a large value of transmittance is assigned. .
According to the present invention, a plurality of user terminals and a server computer are connected via a communication network, and the user's video information and audio information acquired by each user terminal are mutually transmitted via the server computer. A program for a server computer used in a video conference system for transmitting and receiving and performing a video conference, the step of receiving video information and audio information of the user from each of the plurality of user terminals, and for each user Determining the transmittance based on the content of at least one of the received video information and audio information, and information regarding the received video information and audio information and the determined transmittance for each user. Transmitting to the plurality of user terminals, causing the server computer to execute, and Determining the rate is characterized by setting a small value of the transmittance the greater the difference information between image frames of the gain value or the image information of the audio information.

本発明によれば、各利用者の映像情報及び音声情報のうち少なくともいずれか一方の情報量の大小に基づいて映像情報の透過率を決定し、決定した透過率で各利用者の映像情報を半透明化して表示することができる。   According to the present invention, the transmittance of video information is determined based on the amount of information of at least one of the video information and audio information of each user, and the video information of each user is determined with the determined transmittance. It can be displayed semi-transparently.

この結果、発言又は動きのある利用者を視覚的に強調して示すことができるとともに、映像画面の領域がビデオ会議に必要な他の表示領域を圧迫することがないので、利用者が増加しても、ビデオ会議を円滑に進行させることができる。   As a result, users who speak or move can be visually highlighted, and the area of the video screen does not compress other display areas necessary for video conferencing, which increases the number of users. However, the video conference can proceed smoothly.

以下、本発明の実施の形態を図面を用いて説明する。   Hereinafter, embodiments of the present invention will be described with reference to the drawings.

<第1の実施の形態>
図1は、本発明の第1の実施の形態に係るビデオ会議システム100の概略構成図である。図1に示すビデオ会議システム100は、サーバコンピュータ2、ビデオ会議に参加する各利用者が備える利用者端末3i(i=a,b,…,n)、サーバコンピュータ2と利用者端末3iを相互に通信可能とするインターネット網などの通信ネットワーク4を有するシステム構成となっている。
<First Embodiment>
FIG. 1 is a schematic configuration diagram of a video conference system 100 according to the first embodiment of the present invention. A video conference system 100 shown in FIG. 1 includes a server computer 2, user terminals 3i (i = a, b,..., N) provided for each user participating in the video conference, and the server computer 2 and user terminals 3i. The system configuration includes a communication network 4 such as the Internet network that enables communication.

サーバコンピュータ2は、各利用者端末3iと通信を行う通信部21を具備し、各利用者端末3iから送信された映像データおよび音声データを受信すると複製して他の利用者端末3iに送信するデータ中継機能を有している。   The server computer 2 includes a communication unit 21 that communicates with each user terminal 3i. When the server computer 2 receives the video data and the audio data transmitted from each user terminal 3i, the server computer 2 duplicates the data and transmits it to the other user terminals 3i. Has a data relay function.

利用者端末3iは、カメラおよびマイクを備えて利用者を撮影し、取得した利用者の映像データおよび音声データをサーバコンピュータ2に送信するようになっている。利用者端末3iは、詳しくは、サーバコンピュータ2と通信を行う通信部31、取得した利用者の映像データおよび音声データをサーバコンピュータ2に送信するように制御するとともに、サーバコンピュータ2から送信された他の利用者の映像データおよび音声データに基づいて画面に表示される映像を制御するデータ制御部32、映像データおよび音声データ、並びにビデオ会議に必要なデータなどを入力するデータ入力部33(具体的には、上述したカメラ、マイクの他、キーボード、マウスなどが該当する)、映像データおよび音声データ、並びにビデオ会議に必要なデータなどを出力するデータ出力部34(具体的にはディスプレイ、スピーカなどが該当する)、及びビデオ会議に必要なデータを記憶するデータ記憶部35を具備する構成となっている。   The user terminal 3 i is equipped with a camera and a microphone to photograph the user and transmits the acquired video data and audio data of the user to the server computer 2. Specifically, the user terminal 3 i controls the communication unit 31 that communicates with the server computer 2, controls to transmit the acquired video data and audio data of the user to the server computer 2, and is transmitted from the server computer 2. A data control unit 32 that controls video displayed on the screen based on video data and audio data of other users, a data input unit 33 that inputs video data and audio data, data necessary for a video conference, and the like (specifically Specifically, the above-described camera, microphone, keyboard, mouse, and the like), video data and audio data, and data output unit 34 that outputs data necessary for video conferencing (specifically, display, speaker) And a data storage unit 35 for storing data necessary for video conferencing. And it has a configuration that.

尚、上述したサーバコンピュータ2及び利用者端末3iは、少なくとも演算機能および制御機能を備えた中央演算装置(CPU)、プログラムやデータを格納する機能を有するRAM等からなる主記憶装置(メモリ)を有する電子的な装置から構成されているものである。また、サーバコンピュータ2及び利用者端末3iは、主記憶装置の他、ハードディスクなどの補助記憶装置を具備していてもよい。   The server computer 2 and the user terminal 3i described above include a main processing unit (memory) including a central processing unit (CPU) having at least a calculation function and a control function, and a RAM having a function of storing programs and data. It is comprised from the electronic apparatus which has. The server computer 2 and the user terminal 3i may include an auxiliary storage device such as a hard disk in addition to the main storage device.

また、本実施の形態に係る各種処理を実行するプログラムは、前述した主記憶装置またはハードディスクに格納されているものである。そして、このプログラムは、ハードディスク、フレキシブルディスク、CD−ROM、MO、DVD−ROMなどのコンピュータ読み取り可能な記録媒体に記録することも、通信ネットワークを介して配信することも可能である。   A program for executing various processes according to the present embodiment is stored in the main storage device or the hard disk described above. The program can be recorded on a computer-readable recording medium such as a hard disk, a flexible disk, a CD-ROM, an MO, or a DVD-ROM, or can be distributed via a communication network.

次に、本実施の形態に係るビデオ会議システム100の動作を図2を用いて説明する。ここで、図2は、サーバコンピュータ2が各利用者端末3iに各利用者の映像データおよび音声データを送信した後の利用者端末3iの動作を説明するフローチャート図である。   Next, the operation of the video conference system 100 according to the present embodiment will be described with reference to FIG. Here, FIG. 2 is a flowchart for explaining the operation of the user terminal 3i after the server computer 2 transmits the video data and audio data of each user to each user terminal 3i.

まず、利用者端末3iがサーバコンピュータ2から各利用者の映像データおよび音声データを受信する(ステップS10)。尚、受信する映像データがMotionJPEG(Joint Photographic Coding Experts Group)、MPEG(Moving Picture Expert Group)2、MPEG4等により圧縮されたデータである場合には、各デコーダを用いてデコードする。   First, the user terminal 3i receives each user's video data and audio data from the server computer 2 (step S10). If the received video data is data compressed by Motion JPEG (Joint Photographic Coding Experts Group), MPEG (Moving Picture Expert Group) 2, MPEG4, or the like, decoding is performed using each decoder.

次に、受信したデータから各利用者の行動パターンを検知する。ここでは、一具体例として各利用者の発言により検知する場合と、各利用者の動きにより検知する場合の2つについて説明する。   Next, the behavior pattern of each user is detected from the received data. Here, as a specific example, two cases of detection based on each user's speech and detection based on each user's movement will be described.

各利用者の発言により検知する場合には、受信した音声データのゲイン値が予め設定した閾値以上であれば、音声データの送信元IPアドレスから利用者端末3i(利用者)を特定し、この利用者に発言があったもの(行動パターンAとする)と判定する(ステップS20)。これに対して、受信した音声データのゲイン値が予め設定した閾値未満であれば、この利用者には発言がなかったもの(行動パターンBとする)と判定する(ステップS20)。   When detecting by each user's remark, if the gain value of the received voice data is equal to or greater than a preset threshold value, the user terminal 3i (user) is specified from the source IP address of the voice data. It is determined that the user has remarked (behavior pattern A) (step S20). On the other hand, if the gain value of the received audio data is less than a preset threshold value, it is determined that the user has not made a statement (referred to as action pattern B) (step S20).

各利用者の動きにより検知する場合には、受信した映像データ、例えば、MPEG2やMPEG4の符号化パラメータの1つである動きベクトルのスカラー量の平均が予め設定した閾値以上であれば、映像データの送信元IPアドレスから利用者端末3i(利用者)を特定し、この利用者に動きがあったもの(行動パターンAとする)と判定する(ステップS20)。これに対して、受信した映像データの動きベクトルのスカラー量の平均が予め設定した閾値未満であれば、この利用者には動きがなかったもの(行動パターンBとする)と判定する(ステップS20)。尚、MotionJPEGのように画像間の差分情報を求めないデータ形式の場合には、画像間で局所領域毎に動きベクトルを求め、これにより判定するものとする。   In the case of detecting by the movement of each user, if the average of the received video data, for example, the scalar amount of the motion vector, which is one of the encoding parameters of MPEG2 or MPEG4, is equal to or greater than a preset threshold value, the video data The user terminal 3i (user) is identified from the source IP address of the user, and it is determined that the user has moved (behaved as action pattern A) (step S20). On the other hand, if the average of the scalar amounts of the motion vectors of the received video data is less than a preset threshold value, it is determined that the user has not moved (behaves as behavior pattern B) (step S20). ). In the case of a data format that does not require difference information between images, such as Motion JPEG, a motion vector is obtained for each local area between images and is determined by this.

次に、上述した行動パターンに基づいて各利用者の映像データの透過率を決定し、映像画面を半透明化する。具体的には、行動パターンA(発言又は動きがあった)の利用者の映像データに対しては、透過率はα(例えば、α=10〜20%程度;小さい透過率を設定する)、行動パターンBの利用者の映像データに対しては、透過率はβ(例えば、β=60〜80%程度;大きい透過率を設定する)として、映像画面を半透明化する(ステップS30,S40)。尚、透過率は値が大きいほど、透明度が高く、背景が透けて見えるようになっている。   Next, the transmissivity of the video data of each user is determined based on the behavior pattern described above, and the video screen is made translucent. Specifically, for the video data of the user of the action pattern A (there is a statement or movement), the transmittance is α (for example, α = about 10 to 20%; a small transmittance is set), For the video data of the user of the action pattern B, the transmittance is β (for example, β = about 60 to 80%; a large transmittance is set), and the video screen is made translucent (steps S30 and S40). ). The greater the value of the transmittance, the higher the transparency and the background can be seen through.

次に、各利用者の半透明化された映像画面をディスプレイ上に表示する(ステップS50)。図3は、発言により行動パターンを検知する場合のディスプレイ上の表示例を示すものであるが、図3(a)は利用者の1人に発言があった場合、図3(b)は利用者全員に発言がなかった場合の映像画面d40を示している。尚、ここでは、共有データ画面d10及びチャット画面d30で画面全体を使用し、映像画面d40はこれらの画面の上に表示するものとする(参加者リスト画面d20は表示されない)。   Next, the semi-transparent video screen of each user is displayed on the display (step S50). FIG. 3 shows a display example on the display when a behavior pattern is detected by speech. FIG. 3 (a) shows a case where one of the users has made a speech, and FIG. A video screen d40 is shown when no one has made a statement. Here, the entire screen is used in the shared data screen d10 and the chat screen d30, and the video screen d40 is displayed on these screens (the participant list screen d20 is not displayed).

図3(b)に示すように利用者の誰からも発言がない場合には、映像画面d40の透過率は高く設定されるので、映像画面d40に邪魔されることなく、背景の共有データ画面d10及びチャット画面d30を確認することができる。一方、発言がある場合には、発言者の映像画面d40の透過率が低く設定されるので、発言者の映像画面d40を確認することができる。このように、映像画面d40を半透明化して共有データ画面d10及びチャット画面d30上に重ねて表示することにより、限定された表示領域を有効に利用することができる。   As shown in FIG. 3B, when no user speaks, the transmittance of the video screen d40 is set high, so that the background shared data screen is not disturbed by the video screen d40. d10 and the chat screen d30 can be confirmed. On the other hand, when there is a statement, the transmittance of the video screen d40 of the speaker is set low, so that the video screen d40 of the speaker can be confirmed. Thus, the limited display area can be used effectively by making the video screen d40 translucent and displaying it on the shared data screen d10 and the chat screen d30.

また、図4は、動きにより行動パターンを検知する場合のディスプレイ上の表示例を示すものであるが、図4(a)は利用者の1人に動きがあった場合、図4(b)は利用者全員に動きがなかった場合の映像画面d40を示している。尚、ここでは、共有データ画面d10及びチャット画面d30で画面全体を使用し、映像画面d40はこれらの画面の上に表示するものとする(参加者リスト画面d20は表示されない)。   FIG. 4 shows a display example on the display when an action pattern is detected by movement. FIG. 4A shows a case where one of the users has moved, FIG. Shows a video screen d40 when all the users have not moved. Here, the entire screen is used in the shared data screen d10 and the chat screen d30, and the video screen d40 is displayed on these screens (the participant list screen d20 is not displayed).

図4(b)に示すように利用者の誰にも動きがない場合には、映像画面d40の透過率が高く設定されるので、映像画面d40に邪魔されることなく、背景の共有データ画面d10及びチャット画面d30を確認することができる。一方、動きがある場合には、動きのある映像画面d40の透過率が低く設定されるので、動いた者の映像画面d40を確認することができる。このように、映像画面d40を半透明化して共有データ画面d10及びチャット画面d30上に重ねて表示することにより、限定された表示領域を有効に利用することができる。   When no user moves as shown in FIG. 4B, the transparency of the video screen d40 is set high, so that the background shared data screen is not disturbed by the video screen d40. d10 and the chat screen d30 can be confirmed. On the other hand, when there is movement, the transmittance of the moving video screen d40 is set low, so that the moving video screen d40 can be confirmed. Thus, the limited display area can be used effectively by making the video screen d40 translucent and displaying it on the shared data screen d10 and the chat screen d30.

以上、本実施の形態に係るビデオ会議システム100によれば、各利用者の映像データ又は音声データの情報量の大小に基づいて映像データの透過率を決定し、決定した透過率で各利用者の映像データを半透明化して表示するので、利用者が増加しても、ビデオ会議を円滑に進行させることができる。   As described above, according to the video conference system 100 according to the present embodiment, the transmittance of video data is determined based on the amount of video data or audio data of each user, and each user is determined with the determined transmittance. Since the video data is displayed in a translucent manner, even if the number of users increases, the video conference can proceed smoothly.

即ち、共有データ画面などビデオ会議に必要な他の表示画面を小さくすることなく、すべての利用者の映像画面d40をディスプレイ上に表示することができる。また、利用者の行動に発言又は動きがあった場合には、発言又は動きがあった利用者の映像データに対して透過率を小さく設定するので、発言又は動きがあった利用者を視覚的に強調して示すことができる。これにより、従来のビデオ会議システムにおいては常に表示が必要であった参加者リスト画面d20を非表示にすることができる。   That is, the video screen d40 of all users can be displayed on the display without reducing other display screens necessary for the video conference such as a shared data screen. In addition, when there is a statement or movement in the user's behavior, the transparency is set to be small for the video data of the user who has said or movement, so that the user who has said or movement is visually Can be highlighted. This makes it possible to hide the participant list screen d20 that is always required to be displayed in the conventional video conference system.

尚、本実施の形態においては、行動パターンを二分し、それぞれの行動パターンの透過率を決定して半透明化したが、本発明はこれに限定されるものではなく、他の透過率の決定方法、例えば、映像データの動きベクトルのスカラー量又は音声データのゲイン値を変数xとした単純増加関数f(x)(但し、f(x)の取りうる範囲は10〜80)を用いて透過率を決定し、透過率が所定の範囲内で連続的な値を取れるようにしてもよい。この場合には、状況に応じてよりきめ細やかに透過率を設定することが可能となる。   In the present embodiment, the behavior patterns are divided into two, and the transmittance of each behavior pattern is determined to be translucent. However, the present invention is not limited to this, and the determination of other transmittances is performed. Transmission using a method, for example, a simple increase function f (x) with the variable x as the scalar quantity of the motion vector of the video data or the gain value of the audio data (where f (x) can take 10 to 80) The rate may be determined so that the transmittance can take a continuous value within a predetermined range. In this case, the transmittance can be set more finely according to the situation.

また、透過率の決定に際しては、上述したアルゴリズムに加えて、各利用者の意思を反映できるようにしてもよい。例えば、特定の利用者(例えば、ビデオ会議における中心的な人物)の映像データの透過率を行動パターンに関係なく、常に10%となるように設定してもよいものである。   Further, when determining the transmittance, in addition to the algorithm described above, the intention of each user may be reflected. For example, the transmittance of video data of a specific user (for example, a central person in a video conference) may be set to be always 10% regardless of the behavior pattern.

<第2の実施の形態>
図5は、本発明の第2の実施の形態に係るビデオ会議システム200の概略構成図である。図5に示すビデオ会議システム200は、サーバコンピュータ2、ビデオ会議に参加する各利用者が備える利用者端末5i(i=a,b,…,n)、サーバコンピュータ2と利用者端末5iを相互に通信可能とするインターネット網などの通信ネットワーク4を有するシステム構成となっている。尚、本実施の形態においては、第1の実施の形態と異なる構成及び機能のみ説明し、その他の構成及び機能に関しては同一部分には同一符号を付して説明を省略する。
<Second Embodiment>
FIG. 5 is a schematic configuration diagram of a video conference system 200 according to the second embodiment of the present invention. A video conference system 200 shown in FIG. 5 includes a server computer 2, user terminals 5 i (i = a, b,..., N) included in each user participating in the video conference, and the server computer 2 and user terminals 5 i. The system configuration includes a communication network 4 such as the Internet network that enables communication. In the present embodiment, only the configuration and functions different from those of the first embodiment will be described, and the other components and functions will be denoted by the same reference numerals and the description thereof will be omitted.

利用者端末5iは、カメラおよびマイクを備えて利用者を撮影し、取得した利用者の映像データおよび音声データをサーバコンピュータ2に送信するようになっている。利用者端末5iは、詳しくは、サーバコンピュータ2と通信を行う通信部31、取得した利用者の映像データおよび音声データから透過率に関する情報(行動パターン)を決定し、サーバコンピュータ2に映像データおよび音声データ、並びに透過率に関する情報を送信するように制御するとともに、サーバコンピュータ2から送信された他の利用者の映像データおよび音声データ、並びに透過率に関する情報に従って画面に表示される映像を制御するデータ制御部52、映像データおよび音声データ、並びにビデオ会議に必要なデータなどを入力するデータ入力部33(具体的には、上述したカメラ、マイクの他、キーボード、マウスなどが該当する)、映像データおよび音声データ、並びにビデオ会議に必要なデータなどを出力するデータ出力部34(具体的にはディスプレイ、スピーカなどが該当する)、及びビデオ会議に必要なデータを記憶するデータ記憶部35を具備する構成となっている。   The user terminal 5 i is equipped with a camera and a microphone to photograph the user, and transmits the acquired video data and audio data of the user to the server computer 2. Specifically, the user terminal 5i determines the information (behavior pattern) related to the transmittance from the communication unit 31 that communicates with the server computer 2 and the acquired user video data and audio data, and sends the video data and the server computer 2 The audio data and the information related to the transmittance are controlled to be transmitted, and the video data and audio data of other users transmitted from the server computer 2 and the image displayed on the screen are controlled according to the information related to the transmittance. Data control unit 52, data input unit 33 for inputting video data and audio data, data necessary for video conference, and the like (specifically, the above-mentioned camera, microphone, keyboard, mouse, etc.), video Data and audio data, and data that is output for video conferencing (Specifically a display, speaker, etc. applicable) the output unit 34 has, and an arrangement having a data storage unit 35 for storing data necessary for video conferencing.

尚、上述した利用者端末5iは、少なくとも演算機能および制御機能を備えた中央演算装置(CPU)、プログラムやデータを格納する機能を有するRAM等からなる主記憶装置(メモリ)を有する電子的な装置から構成されているものである。また、利用者端末5iは、主記憶装置の他、ハードディスクなどの補助記憶装置を具備していてもよい。   The above-described user terminal 5i is an electronic device having a central processing unit (CPU) having at least an arithmetic function and a control function, and a main storage device (memory) including a RAM having a function of storing programs and data. It consists of a device. In addition to the main storage device, the user terminal 5i may include an auxiliary storage device such as a hard disk.

また、利用者端末5iの各種処理を実行するプログラムは、前述した主記憶装置またはハードディスクに格納されているものである。そして、このプログラムは、ハードディスク、フレキシブルディスク、CD−ROM、MO、DVD−ROMなどのコンピュータ読み取り可能な記録媒体に記録することも、通信ネットワークを介して配信することも可能である。   A program for executing various processes of the user terminal 5i is stored in the main storage device or the hard disk described above. The program can be recorded on a computer-readable recording medium such as a hard disk, a flexible disk, a CD-ROM, an MO, or a DVD-ROM, or can be distributed via a communication network.

次に、本実施の形態に係るビデオ会議システム200の動作を図6を用いて説明する。ここで、図6(a)は、各利用者端末5iが取得した利用者の映像データおよび音声データをサーバコンピュータ2に送信するまでの動作を説明するフローチャート図であり、図6(b)は、サーバコンピュータ2が各利用者端末5iに各利用者の映像データおよび音声データを送信した後の利用者端末5iの動作を説明するフローチャート図である。   Next, the operation of the video conference system 200 according to the present embodiment will be described with reference to FIG. Here, FIG. 6A is a flowchart for explaining the operation until the user's video data and audio data acquired by each user terminal 5i are transmitted to the server computer 2, and FIG. FIG. 8 is a flowchart for explaining the operation of the user terminal 5i after the server computer 2 transmits the video data and audio data of each user to each user terminal 5i.

まず、各利用者端末5iが取得した利用者の映像データおよび音声データをサーバコンピュータ2に送信するまでの動作について説明する。利用者端末5iが利用者の映像データおよび音声データを取得すると、取得したデータから利用者の行動パターンを検知する(ステップS110)。尚、本実施の形態においても、第1の実施の形態と同様に、一具体例として利用者の発言により検知する場合と、利用者の動きにより検知する場合の2つについて説明する。   First, an operation until each user terminal 5 i transmits user video data and audio data acquired to the server computer 2 will be described. When the user terminal 5i acquires the video data and audio data of the user, the user's behavior pattern is detected from the acquired data (step S110). In the present embodiment as well, as in the first embodiment, two specific cases will be described: a case where detection is performed based on a user's speech and a case where detection is performed based on a user's movement.

利用者の発言により検知する場合には、取得した音声データのゲイン値が予め設定した閾値以上であれば、この利用者に発言があったもの(行動パターンAとする)と判定する(ステップS120)。これに対して、取得した音声データのゲイン値が予め設定した閾値未満であれば、この利用者には発言がなかったもの(行動パターンBとする)と判定する(ステップS120)。   When detecting by the user's utterance, if the gain value of the acquired voice data is equal to or greater than a preset threshold value, it is determined that the user has uttered (behaved as behavior pattern A) (step S120). ). On the other hand, if the gain value of the acquired audio data is less than a preset threshold value, it is determined that the user has not made a statement (behaved as behavior pattern B) (step S120).

利用者の動きにより検知する場合には、取得した映像データ、例えば、MPEG2やMPEG4の符号化パラメータの1つである動きベクトルのスカラー量の平均が予め設定した閾値以上であれば、この利用者に動きがあったもの(行動パターンAとする)と判定する(ステップS120)。これに対して、取得した映像データの動きベクトルのスカラー量の平均が予め設定した閾値未満であれば、この利用者には動きがなかったもの(行動パターンBとする)と判定する(ステップS120)。   In the case of detecting by the movement of the user, if the average of the scalar quantity of the acquired video data, for example, the motion vector, which is one of the encoding parameters of MPEG2 or MPEG4, is equal to or greater than a preset threshold, the user (Step S120). On the other hand, if the average of the scalar amounts of the motion vectors of the acquired video data is less than a preset threshold value, it is determined that the user has not moved (behaves as behavior pattern B) (step S120). ).

次に、上述した行動パターンに基づいて各利用者の映像データの透過率を決定する。具体的には、行動パターンA(発言又は動きがあった)の利用者の映像データに対しては、透過率はα(例えば、α=10〜20%程度;小さい透過率を設定する)、行動パターンBの利用者の映像データに対しては、透過率はβ(例えば、β=60〜80%程度;大きい透過率を設定する)として、決定する(ステップS130,S140)。   Next, the transmittance of the video data of each user is determined based on the behavior pattern described above. Specifically, for the video data of the user of the action pattern A (there is a statement or movement), the transmittance is α (for example, α = about 10 to 20%; a small transmittance is set), For the video data of the user of the action pattern B, the transmittance is determined as β (for example, β = about 60 to 80%; a large transmittance is set) (steps S130 and S140).

次に、利用者端末5iは、取得した映像データおよび音声データ、並びに決定された透過率に関する情報(行動パターン)をサーバコンピュータ2に送信する(ステップS150)。   Next, the user terminal 5i transmits the acquired video data and audio data and information (behavior pattern) on the determined transmittance to the server computer 2 (step S150).

次に、サーバコンピュータ2が各利用者端末5iに各利用者の映像データおよび音声データを送信した後の利用者端末3iの動作について説明する。まず、利用者端末5iがサーバコンピュータ2から各利用者の映像データおよび音声データ、並びに決定された透過率に関する情報を受信する(ステップS160)。   Next, the operation of the user terminal 3i after the server computer 2 transmits the video data and audio data of each user to each user terminal 5i will be described. First, the user terminal 5i receives each user's video data and audio data from the server computer 2 and information on the determined transmittance (step S160).

次に、利用者端末5iは、受信した各透過率に関する情報に従って、映像画面d40を半透明化し、各利用者の半透明化された映像画面d40をディスプレイ上に表示する(ステップS170,S180)。   Next, the user terminal 5i makes the video screen d40 translucent according to the received information regarding each transmittance, and displays the translucent video screen d40 of each user on the display (steps S170 and S180). .

従って、本実施の形態に係るビデオ会議システム200によれば、第1の実施の形態と同じ効果を得ることができる。   Therefore, according to the video conference system 200 according to the present embodiment, the same effects as those of the first embodiment can be obtained.

尚、本実施の形態においては、行動パターンを二分し、それぞれの行動パターンの透過率を決定して半透明化したが、本発明はこれに限定されるものではなく、他の透過率の決定方法、例えば、映像データの動きベクトルのスカラー量又は音声データのゲイン値を変数xとした単純増加関数f(x)(但し、f(x)の取りうる範囲は10〜80)を用いて透過率を決定し、透過率が所定の範囲内で連続的な値を取れるようにしてもよい。この場合には、状況に応じてよりきめ細やかに透過率を設定することが可能となる。   In the present embodiment, the behavior patterns are divided into two, and the transmittance of each behavior pattern is determined to be translucent. However, the present invention is not limited to this, and the determination of other transmittances is performed. Transmission using a method, for example, a simple increase function f (x) with the variable x as the scalar quantity of the motion vector of the video data or the gain value of the audio data (where f (x) can take 10 to 80) The rate may be determined so that the transmittance can take a continuous value within a predetermined range. In this case, the transmittance can be set more finely according to the situation.

また、透過率の決定に際しては、上述したアルゴリズムに加えて、各利用者の意思を反映できるようにしてもよい。例えば、特定の利用者(例えば、ビデオ会議における中心的な人物)の映像データの透過率を行動パターンに関係なく、常に10%となるように設定してもよいものである。   Further, when determining the transmittance, in addition to the algorithm described above, the intention of each user may be reflected. For example, the transmittance of video data of a specific user (for example, a central person in a video conference) may be set to be always 10% regardless of the behavior pattern.

<第3の実施の形態>
図7は、本発明の第3の実施の形態に係るビデオ会議システム300の概略構成図である。図7に示すビデオ会議システム300は、サーバコンピュータ6、ビデオ会議に参加する各利用者が備える利用者端末7i(i=a,b,…,n)、サーバコンピュータ6と利用者端末7iを相互に通信可能とするインターネット網などの通信ネットワーク4を有するシステム構成となっている。尚、本実施の形態においては、上記実施の形態と異なる構成及び機能のみ説明し、その他の構成及び機能に関しては同一部分には同一符号を付して説明を省略する。
<Third Embodiment>
FIG. 7 is a schematic configuration diagram of a video conference system 300 according to the third embodiment of the present invention. A video conference system 300 shown in FIG. 7 includes a server computer 6, user terminals 7 i (i = a, b,..., N) included in each user participating in the video conference, and the server computer 6 and user terminals 7 i. The system configuration includes a communication network 4 such as the Internet network that enables communication. In the present embodiment, only configurations and functions different from those of the above-described embodiment will be described, and with regard to other configurations and functions, the same portions are denoted by the same reference numerals, and description thereof will be omitted.

利用者端末7iは、カメラおよびマイクを備えて利用者を撮影し、取得した利用者の映像データおよび音声データをサーバコンピュータ6に送信するようになっている。利用者端末7iは、詳しくは、サーバコンピュータ6と通信を行う通信部31、取得した利用者の映像データおよび音声データをサーバコンピュータ6に送信するように制御するとともに、サーバコンピュータ6から送信された他の利用者の映像データおよび音声データ、並びに透過率に関する情報(行動パターン)に従って画面に表示される映像を制御するデータ制御部72、映像データおよび音声データ、並びにビデオ会議に必要なデータなどを入力するデータ入力部33(具体的には、上述したカメラ、マイクの他、キーボード、マウスなどが該当する)、映像データおよび音声データ、並びにビデオ会議に必要なデータなどを出力するデータ出力部34(具体的にはディスプレイ、スピーカなどが該当する)、及びビデオ会議に必要なデータを記憶するデータ記憶部35を具備する構成となっている。   The user terminal 7 i is equipped with a camera and a microphone to photograph the user, and transmits the acquired video data and audio data of the user to the server computer 6. Specifically, the user terminal 7 i controls the communication unit 31 that communicates with the server computer 6, controls to transmit the acquired video data and audio data of the user to the server computer 6, and is transmitted from the server computer 6. Data control unit 72 for controlling video displayed on the screen in accordance with information (behavioral pattern) on transmission, video data and audio data of other users, video data and audio data, data necessary for video conference, etc. A data input unit 33 for inputting (specifically, the above-mentioned camera, microphone, keyboard, mouse, etc.), data output unit 34 for outputting video data and audio data, data necessary for a video conference, and the like. Necessary for video conferencing (specifically, displays, speakers, etc.) It has a configuration comprising a data storage unit 35 for storing data.

サーバコンピュータ6は、各利用者端末7iと通信を行う通信部21、および各利用者端末7iから送信された映像データおよび音声データを受信すると、映像データおよび音声データから各利用者の映像画面の透過率を決定し、各利用者の映像データおよび音声データ、並びに透過率に関する情報(行動パターン)を複製して他の利用者端末7iに送信するデータ制御部62を具備する構成となっている。   When the server computer 6 receives the communication unit 21 that communicates with each user terminal 7i and the video data and audio data transmitted from each user terminal 7i, the server computer 6 generates a video screen of each user from the video data and audio data. It is configured to include a data control unit 62 that determines the transmittance, duplicates the video data and audio data of each user, and information (behavior pattern) related to the transmittance and transmits the information to other user terminals 7i. .

尚、上述したサーバコンピュータ6及び利用者端末7iは、少なくとも演算機能および制御機能を備えた中央演算装置(CPU)、プログラムやデータを格納する機能を有するRAM等からなる主記憶装置(メモリ)を有する電子的な装置から構成されているものである。また、サーバコンピュータ6及び利用者端末7iは、主記憶装置の他、ハードディスクなどの補助記憶装置を具備していてもよい。   The server computer 6 and the user terminal 7i described above include a central processing unit (CPU) having at least a calculation function and a control function, and a main storage device (memory) including a RAM having a function of storing programs and data. It is comprised from the electronic apparatus which has. The server computer 6 and the user terminal 7i may include an auxiliary storage device such as a hard disk in addition to the main storage device.

また、本実施の形態に係る各種処理を実行するプログラムは、前述した主記憶装置またはハードディスクに格納されているものである。そして、このプログラムは、ハードディスク、フレキシブルディスク、CD−ROM、MO、DVD−ROMなどのコンピュータ読み取り可能な記録媒体に記録することも、通信ネットワークを介して配信することも可能である。   A program for executing various processes according to the present embodiment is stored in the main storage device or the hard disk described above. The program can be recorded on a computer-readable recording medium such as a hard disk, a flexible disk, a CD-ROM, an MO, or a DVD-ROM, or can be distributed via a communication network.

次に、本実施の形態に係るビデオ会議システム300の動作を図8を用いて説明する。ここで、図8は、サーバコンピュータ6の動作を説明するフローチャート図である。   Next, the operation of the video conference system 300 according to the present embodiment will be described with reference to FIG. Here, FIG. 8 is a flowchart for explaining the operation of the server computer 6.

まず、サーバコンピュータ6は、各利用者端末7iから各利用者の映像データおよび音声データを受信する(ステップS210)。   First, the server computer 6 receives each user's video data and audio data from each user terminal 7i (step S210).

次に、受信したデータから各利用者の行動パターンを検知する。尚、本実施の形態においても、上記実施の形態と同様に、一具体例として利用者の発言により検知する場合と、利用者の動きにより検知する場合の2つについて説明する。   Next, the behavior pattern of each user is detected from the received data. In the present embodiment as well, as in the above-described embodiment, two cases of detection based on a user's speech and detection based on a user's movement will be described as a specific example.

各利用者の発言により検知する場合には、受信した音声データのゲイン値が予め設定した閾値以上であれば、音声データの送信元IPアドレスから利用者端末7i(利用者)を特定し、この利用者に発言があったもの(行動パターンAとする)と判定する(ステップS220)。これに対して、受信した音声データのゲイン値が予め設定した閾値未満であれば、この利用者には発言がなかったもの(行動パターンBとする)と判定する(ステップS220)。   In the case of detection based on each user's remark, if the gain value of the received voice data is equal to or greater than a preset threshold value, the user terminal 7i (user) is specified from the source IP address of the voice data, and this It is determined that the user has made a statement (referred to as action pattern A) (step S220). On the other hand, if the gain value of the received audio data is less than the preset threshold value, it is determined that the user has not made a statement (referred to as action pattern B) (step S220).

各利用者の動きにより検知する場合には、受信した映像データ、例えば、MPEG2やMPEG4の符号化パラメータの1つである動きベクトルのスカラー量の平均が予め設定した閾値以上であれば、映像データの送信元IPアドレスから利用者端末7i(利用者)を特定し、この利用者に動きがあったもの(行動パターンAとする)と判定する(ステップS220)。これに対して、受信した映像データの動きベクトルのスカラー量の平均が予め設定した閾値未満であれば、この利用者には動きがなかったもの(行動パターンBとする)と判定する(ステップS220)。   In the case of detecting by the movement of each user, if the average of the received video data, for example, the scalar amount of the motion vector, which is one of the encoding parameters of MPEG2 or MPEG4, is equal to or greater than a preset threshold value, the video data The user terminal 7i (user) is identified from the source IP address of the user, and it is determined that the user has moved (behaved as behavior pattern A) (step S220). On the other hand, if the average of the scalar amounts of the motion vectors of the received video data is less than a preset threshold value, it is determined that the user has not moved (behaves as behavior pattern B) (step S220). ).

次に、上述した行動パターンに基づいて各利用者の映像データの透過率を決定し、映像画面を半透明化する。具体的には、行動パターンA(発言又は動きがあった)の利用者の映像データに対しては、透過率はα(例えば、α=10〜20%程度;小さい透過率を設定する)、行動パターンBの利用者の映像データに対しては、透過率はβ(例えば、β=60〜80%程度;大きい透過率を設定する)とする(ステップS230,S240)。   Next, the transmissivity of the video data of each user is determined based on the behavior pattern described above, and the video screen is made translucent. Specifically, for the video data of the user of the action pattern A (there is a statement or movement), the transmittance is α (for example, α = about 10 to 20%; a small transmittance is set), For the video data of the user of the action pattern B, the transmittance is β (for example, β = about 60 to 80%; a large transmittance is set) (steps S230 and S240).

次に、各利用者の映像データ及び音声データ、並びに決定された透過率に関する情報を各利用者端末7iに送信する(ステップS250)。   Next, the video data and audio data of each user and information regarding the determined transmittance are transmitted to each user terminal 7i (step S250).

これにより、各利用者端末7iは、受信した映像データ及び音声データ並びに決定された透過率に関する情報に従って、映像画面d40を半透明化し、各利用者の半透明化された映像画面d40をディスプレイ上に表示する。   Thereby, each user terminal 7i makes the video screen d40 translucent according to the received video data and audio data and the information on the determined transmittance, and displays the translucent video screen d40 of each user on the display. To display.

従って、本実施の形態に係るビデオ会議システム300によれば、サーバコンピュータ6が、各利用者の映像データ又は音声データの情報量の大小に基づいて映像データの透過率を決定し、各利用者端末7iは、この決定した透過率で各利用者の映像データを半透明化して表示するので、上記実施の形態と同じ効果を得ることができる。   Therefore, according to the video conference system 300 according to the present embodiment, the server computer 6 determines the transmittance of the video data based on the amount of information of the video data or audio data of each user, and each user Since the terminal 7i displays each user's video data in a translucent manner with the determined transmittance, the same effect as in the above embodiment can be obtained.

尚、本実施の形態においては、行動パターンを二分し、それぞれの行動パターンの透過率を決定して半透明化したが、本発明はこれに限定されるものではなく、他の透過率の決定方法、例えば、映像データの動きベクトルのスカラー量又は音声データのゲイン値を変数xとした単純増加関数f(x)(但し、f(x)の取りうる範囲は10〜80)を用いて透過率を決定し、透過率が所定の範囲内で連続的な値を取れるようにしてもよい。この場合には、よりきめ細やかに透過率を設定することが可能となる。   In the present embodiment, the behavior patterns are divided into two, and the transmittance of each behavior pattern is determined to be translucent. However, the present invention is not limited to this, and the determination of other transmittances is performed. Transmission using a method, for example, a simple increase function f (x) with the variable x as the scalar quantity of the motion vector of the video data or the gain value of the audio data (where f (x) can take 10 to 80) The rate may be determined so that the transmittance can take a continuous value within a predetermined range. In this case, the transmittance can be set more finely.

また、透過率の決定に際しては、上述したサーバコンピュータ6のアルゴリズムに加えて、利用者端末7iにおいて各利用者の意思を反映できるようにしてもよい。例えば、特定の利用者(例えば、ビデオ会議における中心的な人物)の映像データの透過率を行動パターンに関係なく、常に10%となるように設定してもよいものである。   In determining the transmittance, in addition to the algorithm of the server computer 6 described above, the intention of each user may be reflected in the user terminal 7i. For example, the transmittance of video data of a specific user (for example, a central person in a video conference) may be set to be always 10% regardless of the behavior pattern.

以上、本発明の実施の形態について説明してきたが、本発明の要旨を逸脱しない範囲において、本発明の実施の形態に対して種々の変形や変更を施すことができる。例えば、第1及び第2の実施の形態に係るビデオ会議システムの利用者端末は、サーバコンピュータを介して映像データおよび音声データを送受信していたが、本発明はこのシステム構成に限定されるものではなく、サーバコンピュータを介さずP2P(Peer to Peer)のシステム構成としてもよいものである。   While the embodiments of the present invention have been described above, various modifications and changes can be made to the embodiments of the present invention without departing from the spirit of the present invention. For example, the user terminal of the video conference system according to the first and second embodiments transmits / receives video data and audio data via the server computer, but the present invention is limited to this system configuration. Instead, the system configuration may be a P2P (Peer to Peer) system configuration without using a server computer.

本発明の第1の実施の形態に係るビデオ会議システムの概略構成図である。1 is a schematic configuration diagram of a video conference system according to a first embodiment of the present invention. 本発明の第1の実施の形態に係るビデオ会議システムの動作を説明するフローチャート図である。It is a flowchart figure explaining operation | movement of the video conference system which concerns on the 1st Embodiment of this invention. 本発明の第1の実施の形態に係るビデオ会議システムにおける映像画面の一例である。It is an example of the video screen in the video conference system which concerns on the 1st Embodiment of this invention. 本発明の第1の実施の形態に係るビデオ会議システムにおける映像画面の一例である。It is an example of the video screen in the video conference system which concerns on the 1st Embodiment of this invention. 本発明の第2の実施の形態に係るビデオ会議システムの概略構成図である。It is a schematic block diagram of the video conference system which concerns on the 2nd Embodiment of this invention. 本発明の第2の実施の形態に係るビデオ会議システムの動作を説明するフローチャート図である。It is a flowchart figure explaining operation | movement of the video conference system which concerns on the 2nd Embodiment of this invention. 本発明の第3の実施の形態に係るビデオ会議システムの概略構成図である。It is a schematic block diagram of the video conference system which concerns on the 3rd Embodiment of this invention. 本発明の第3の実施の形態に係るビデオ会議システムの動作を説明するフローチャート図である。It is a flowchart figure explaining operation | movement of the video conference system which concerns on the 3rd Embodiment of this invention. 従来のビデオ会議システムの表示画面を説明する図である。It is a figure explaining the display screen of the conventional video conference system.

符号の説明Explanation of symbols

2,6 サーバ
3i,5i,7i 利用者端末
4 通信ネットワーク
21,31 通信部
32,52,62,72 データ制御部
33 データ入力部
34 データ出力部
35 データ記憶部
100,200,300 ビデオ会議システム
d10 共有データ画面
d20 参加者リスト画面
d30 チャット画面
d40 映像画面
2, 6 Server 3i, 5i, 7i User terminal 4 Communication network 21, 31 Communication unit 32, 52, 62, 72 Data control unit 33 Data input unit 34 Data output unit 35 Data storage unit 100, 200, 300 Video conference system d10 Shared data screen d20 Participant list screen d30 Chat screen d40 Video screen

Claims (21)

通信ネットワークを介して複数の利用者端末が接続され、各利用者端末が取得した利用者の映像情報および音声情報を相互に送受信し、ビデオ会議を行うビデオ会議システムにおける映像表示方法であって、
前記各利用者端末が、
他の利用者端末それぞれから、他の利用者の映像情報および音声情報を受信し、
前記利用者ごとに、受信した映像情報及び音声情報のうち少なくともいずれか一方の情報の内容に基づいて映像情報の透過率を決定し、決定した透過率で他の利用者の映像情報の透明度を変化させ、
透明度を変化させた映像情報それぞれを表示し、
前記映像情報に基づいて前記透過率を決定する場合には、2つの大小の透過率の値を用意し、前記映像情報の画像フレーム間の差分情報が予め定められた第1の閾値以上のときには、小さい値の透過率を割り当て、前記映像情報の画像フレーム間の差分情報が予め定められた第1の閾値未満のときには、大きい値の透過率を割り当てること
を特徴とするビデオ会議システムにおける映像表示方法。
A video display method in a video conference system in which a plurality of user terminals are connected via a communication network, the user's video information and audio information acquired by each user terminal are mutually transmitted and received, and a video conference is performed.
Each user terminal is
Receive video and audio information of other users from each of the other user terminals,
For each user, the transmittance of the video information is determined based on the content of at least one of the received video information and audio information, and the transparency of the video information of other users is determined based on the determined transmittance. Change
Display each video information with changed transparency ,
When determining the transmittance based on the video information, two large and small transmittance values are prepared, and when the difference information between the image frames of the video information is greater than or equal to a predetermined first threshold value A video display in a video conferencing system , wherein a small value of transmittance is allocated, and when the difference information between image frames of the video information is less than a predetermined first threshold value, a large value of transmittance is allocated. Method.
通信ネットワークを介して複数の利用者端末が接続され、各利用者端末が取得した利用者の映像情報および音声情報を相互に送受信し、ビデオ会議を行うビデオ会議システムにおける映像表示方法であって、  A video display method in a video conference system in which a plurality of user terminals are connected via a communication network, the user's video information and audio information acquired by each user terminal are mutually transmitted and received, and a video conference is performed.
前記各利用者端末が、  Each user terminal is
他の利用者端末それぞれから、他の利用者の映像情報および音声情報を受信し、  Receive video and audio information of other users from each of the other user terminals,
前記利用者ごとに、受信した映像情報及び音声情報のうち少なくともいずれか一方の情報の内容に基づいて映像情報の透過率を決定し、決定した透過率で他の利用者の映像情報の透明度を変化させ、  For each user, the transmittance of the video information is determined based on the content of at least one of the received video information and audio information, and the transparency of the video information of other users is determined based on the determined transmittance. Change
透明度を変化させた映像情報それぞれを表示し、  Display each video information with changed transparency,
前記透過率の決定は、前記音声情報のゲイン値又は前記映像情報の画像フレーム間の差分情報が大きいほど透過率の値を小さく設定すること  In determining the transmittance, the greater the gain value of the audio information or the difference information between the image frames of the video information, the smaller the transmittance value is set.
を特徴とするビデオ会議システムにおける映像表示方法。  A video display method in a video conference system characterized by the above.
通信ネットワークを介して複数の利用者端末が接続され、各利用者端末が取得した利用者の映像情報および音声情報を相互に送受信し、ビデオ会議を行うビデオ会議システムにおける映像表示方法であって、
前記各利用者端末が、
前記利用者の映像情報および音声情報を取得し、
取得した映像情報及び音声情報のうち少なくともいずれか一方の情報の内容に基づいて映像情報の透過率を決定し、
取得した映像情報及び音声情報、並びに決定した透過率に関する情報を他の利用者端末に送信し、
他の利用者端末それぞれから、他の利用者の映像情報及び音声情報、並びに決定した透過率に関する情報を受信し、
前記利用者ごとに、受信した透過率に関する情報に従って他の利用者の映像情報の透明度を変化させ、
透明度を変化させた映像情報それぞれを表示し、
前記映像情報に基づいて前記透過率を決定する場合には、2つの大小の透過率の値を用意し、前記映像情報の画像フレーム間の差分情報が予め定められた第1の閾値以上のときには、小さい値の透過率を割り当て、前記映像情報の画像フレーム間の差分情報が予め定められた第1の閾値未満のときには、大きい値の透過率を割り当てること
を特徴とするビデオ会議システムにおける映像表示方法。
A video display method in a video conference system in which a plurality of user terminals are connected via a communication network, the user's video information and audio information acquired by each user terminal are mutually transmitted and received, and a video conference is performed.
Each user terminal is
Obtaining video information and audio information of the user;
Determining the transmittance of the video information based on the content of at least one of the acquired video information and audio information;
Send the acquired video and audio information and information about the determined transmittance to other user terminals,
From each of the other user terminals, other users' video information and audio information, and information on the determined transmittance are received,
For each user, change the transparency of the video information of other users according to the received information about the transmittance,
Display each video information with changed transparency ,
When determining the transmittance based on the video information, two large and small transmittance values are prepared, and when the difference information between the image frames of the video information is greater than or equal to a predetermined first threshold value A video display in a video conferencing system , wherein a small value of transmittance is allocated, and when the difference information between image frames of the video information is less than a predetermined first threshold value, a large value of transmittance is allocated. Method.
通信ネットワークを介して複数の利用者端末が接続され、各利用者端末が取得した利用者の映像情報および音声情報を相互に送受信し、ビデオ会議を行うビデオ会議システムにおける映像表示方法であって、  A video display method in a video conference system in which a plurality of user terminals are connected via a communication network, the user's video information and audio information acquired by each user terminal are mutually transmitted and received, and a video conference is performed.
前記各利用者端末が、  Each user terminal is
前記利用者の映像情報および音声情報を取得し、  Obtaining video information and audio information of the user;
取得した映像情報及び音声情報のうち少なくともいずれか一方の情報の内容に基づいて映像情報の透過率を決定し、  Determining the transmittance of the video information based on the content of at least one of the acquired video information and audio information;
取得した映像情報及び音声情報、並びに決定した透過率に関する情報を他の利用者端末に送信し、  Send the acquired video and audio information and information about the determined transmittance to other user terminals,
他の利用者端末それぞれから、他の利用者の映像情報及び音声情報、並びに決定した透過率に関する情報を受信し、  From each of the other user terminals, other users' video information and audio information, and information on the determined transmittance are received,
前記利用者ごとに、受信した透過率に関する情報に従って他の利用者の映像情報の透明度を変化させ、  For each user, change the transparency of the video information of other users according to the received information about the transmittance,
透明度を変化させた映像情報それぞれを表示し、  Display each video information with changed transparency,
前記透過率の決定は、前記音声情報のゲイン値又は前記映像情報の画像フレーム間の差分情報が大きいほど透過率の値を小さく設定すること  In determining the transmittance, the greater the gain value of the audio information or the difference information between the image frames of the video information, the smaller the transmittance value is set.
を特徴とするビデオ会議システムにおける映像表示方法。  A video display method in a video conference system characterized by the above.
通信ネットワークを介して複数の利用者端末およびサーバコンピュータが接続され、各利用者端末が取得した利用者の映像情報および音声情報を前記サーバコンピュータを介して相互に送受信し、ビデオ会議を行うビデオ会議システムにおける映像表示制御方法であって、
前記サーバコンピュータが、
前記複数の利用者端末それぞれから、前記利用者の映像情報および音声情報を受信し、
前記利用者ごとに、受信した映像情報及び音声情報のうち少なくともいずれか一方の情報の内容に基づいて映像情報の透過率を決定し、
前記利用者ごとの、受信した映像情報及び音声情報並びに決定した透過率に関する情報を前記複数の利用者端末に送信し、
前記映像情報に基づいて前記透過率を決定する場合には、2つの大小の透過率の値を用意し、前記映像情報の画像フレーム間の差分情報が予め定められた第1の閾値以上のときには、小さい値の透過率を割り当て、前記映像情報の画像フレーム間の差分情報が予め定められた第1の閾値未満のときには、大きい値の透過率を割り当てること
を特徴とするビデオ会議システムにおける映像表示制御方法。
A video conference in which a plurality of user terminals and a server computer are connected via a communication network, and the video information and audio information of the users acquired by each user terminal are mutually transmitted and received via the server computer to perform a video conference A video display control method in a system,
The server computer is
Receiving video information and audio information of the user from each of the plurality of user terminals;
For each user, determine the transmittance of the video information based on the content of at least one of the received video information and audio information,
For each user, the received video information and audio information and information on the determined transmittance are transmitted to the plurality of user terminals ,
When determining the transmittance based on the video information, two large and small transmittance values are prepared, and when the difference information between the image frames of the video information is greater than or equal to a predetermined first threshold value A video display in a video conferencing system , wherein a small value of transmittance is allocated, and when the difference information between image frames of the video information is less than a predetermined first threshold value, a large value of transmittance is allocated. Control method.
通信ネットワークを介して複数の利用者端末およびサーバコンピュータが接続され、各利用者端末が取得した利用者の映像情報および音声情報を前記サーバコンピュータを介して相互に送受信し、ビデオ会議を行うビデオ会議システムにおける映像表示制御方法であって、  A video conference in which a plurality of user terminals and a server computer are connected via a communication network, and the video information and audio information of the users acquired by each user terminal are mutually transmitted and received via the server computer to perform a video conference A video display control method in a system,
前記サーバコンピュータが、  The server computer is
前記複数の利用者端末それぞれから、前記利用者の映像情報および音声情報を受信し、  Receiving video information and audio information of the user from each of the plurality of user terminals;
前記利用者ごとに、受信した映像情報及び音声情報のうち少なくともいずれか一方の情報の内容に基づいて映像情報の透過率を決定し、  For each user, determine the transmittance of the video information based on the content of at least one of the received video information and audio information,
前記利用者ごとの、受信した映像情報及び音声情報並びに決定した透過率に関する情報を前記複数の利用者端末に送信し、  For each user, the received video information and audio information and information on the determined transmittance are transmitted to the plurality of user terminals,
前記透過率の決定は、前記音声情報のゲイン値又は前記映像情報の画像フレーム間の差分情報が大きいほど透過率の値を小さく設定すること  In determining the transmittance, the greater the gain value of the audio information or the difference information between the image frames of the video information, the smaller the transmittance value is set.
を特徴とするビデオ会議システムにおける映像表示制御方法。  A video display control method in a video conference system.
通信ネットワークを介して複数の利用者端末が接続され、各利用者端末が取得した利用者の映像情報および音声情報を相互に送受信し、ビデオ会議を行うビデオ会議システムに用いられる前記利用者端末であって、
他の利用者端末それぞれから、他の利用者の映像情報および音声情報を受信する手段と、
前記利用者ごとに、受信した映像情報及び音声情報のうち少なくともいずれか一方の情報の内容に基づいて透過率を決定し、決定した透過率で他の利用者の映像情報の透明度を変化させる手段と、
透明度を変化させた映像情報それぞれを表示する手段と、を有し、
前記透過率を決定し透明度を変化させる手段は、前記映像情報に基づいて前記透過率を決定する場合には、2つの大小の透過率の値を用意し、前記映像情報の画像フレーム間の差分情報が予め定められた第1の閾値以上のときには、小さい値の透過率を割り当て、前記映像情報の画像フレーム間の差分情報が予め定められた第1の閾値未満のときには、大きい値の透過率を割り当てること
を特徴とするビデオ会議システムに用いられる利用者端末。
A plurality of user terminals are connected via a communication network, and the user terminals used in a video conference system that performs video conference by mutually transmitting and receiving user video information and audio information acquired by each user terminal. There,
Means for receiving video information and audio information of other users from each of the other user terminals;
Means for determining the transmittance based on the content of at least one of the received video information and audio information for each user, and changing the transparency of the video information of other users with the determined transmittance When,
Means for displaying each video information with changed transparency ,
The means for determining the transmittance and changing the transparency prepares two large and small transmittance values when determining the transmittance based on the video information, and provides a difference between the image frames of the video information. When the information is greater than or equal to a predetermined first threshold, a small value of transmittance is assigned, and when the difference information between image frames of the video information is less than the predetermined first threshold, a large value of transmittance is assigned. A user terminal used for a video conference system, characterized in that
通信ネットワークを介して複数の利用者端末が接続され、各利用者端末が取得した利用者の映像情報および音声情報を相互に送受信し、ビデオ会議を行うビデオ会議システムに用いられる前記利用者端末であって、  A plurality of user terminals are connected via a communication network, and the user terminals used in a video conference system that performs video conference by mutually transmitting and receiving user video information and audio information acquired by each user terminal. There,
他の利用者端末それぞれから、他の利用者の映像情報および音声情報を受信する手段と、  Means for receiving video information and audio information of other users from each of the other user terminals;
前記利用者ごとに、受信した映像情報及び音声情報のうち少なくともいずれか一方の情報の内容に基づいて透過率を決定し、決定した透過率で他の利用者の映像情報の透明度を変化させる手段と、  Means for determining the transmittance based on the content of at least one of the received video information and audio information for each user, and changing the transparency of the video information of other users with the determined transmittance When,
透明度を変化させた映像情報それぞれを表示する手段と、を有し、  Means for displaying each video information with changed transparency,
前記透過率を決定し透明度を変化させる手段は、前記透過率の決定において、前記音声情報のゲイン値又は前記映像情報の画像フレーム間の差分情報が大きいほど前記透過率の値を小さく設定すること  The means for determining the transmittance and changing the transparency sets the value of the transmittance smaller as the gain value of the audio information or the difference information between the image frames of the video information is larger in the determination of the transmittance.
を特徴とするビデオ会議システムに用いられる利用者端末。  A user terminal used in a video conference system characterized by
通信ネットワークを介して複数の利用者端末が接続され、各利用者端末が取得した利用者の映像情報および音声情報を相互に送受信し、ビデオ会議を行うビデオ会議システムに用いられる前記利用者端末であって、
前記利用者の映像データおよび音声データを取得する手段と、
取得した映像情報及び音声情報のうち少なくともいずれか一方の情報の内容に基づいて映像情報の透過率を決定する手段と、
取得した映像情報及び音声情報、並びに決定した透過率に関する情報を他の利用者端末に送信する手段と、
他の利用者端末それぞれから、他の利用者の映像情報及び音声情報、並びに決定した透過率に関する情報を受信する手段と、
前記利用者ごとに、受信した透過率に関する情報に従って他の利用者の映像情報の透明度を変化させる手段と、
透明度を変化させた映像情報それぞれを表示する手段と、を有し、
前記透過率を決定する手段は、前記映像情報に基づいて前記透過率を決定する場合には、2つの大小の透過率の値を用意し、前記映像情報の画像フレーム間の差分情報が予め定められた第1の閾値以上のときには、小さい値の透過率を割り当て、前記映像情報の画像フレーム間の差分情報が予め定められた第1の閾値未満のときには、大きい値の透過率を割り当てること
を特徴とするビデオ会議システムに用いられる利用者端末。
A plurality of user terminals are connected via a communication network, and the user terminals used in a video conference system that performs video conference by mutually transmitting and receiving user video information and audio information acquired by each user terminal. There,
Means for obtaining video data and audio data of the user;
Means for determining the transmittance of the video information based on the content of at least one of the acquired video information and audio information;
Means for transmitting the acquired video information and audio information and information on the determined transmittance to other user terminals;
Means for receiving video information and audio information of other users and information on the determined transmittance from each of the other user terminals;
Means for changing the transparency of video information of other users according to the received information on the transmittance for each user;
Means for displaying each video information with changed transparency ,
When determining the transmittance based on the video information, the means for determining the transmittance prepares two large and small transmittance values, and difference information between image frames of the video information is determined in advance. When the threshold value is equal to or greater than the first threshold value, a small value of transmittance is assigned, and when the difference information between the image frames of the video information is less than a predetermined first threshold value, a large value of transmittance is assigned . A user terminal used in the video conference system.
通信ネットワークを介して複数の利用者端末が接続され、各利用者端末が取得した利用者の映像情報および音声情報を相互に送受信し、ビデオ会議を行うビデオ会議システムに用いられる前記利用者端末であって、  A plurality of user terminals are connected via a communication network, and the user terminals used in a video conference system that performs video conference by mutually transmitting and receiving user video information and audio information acquired by each user terminal. There,
前記利用者の映像データおよび音声データを取得する手段と、  Means for obtaining video data and audio data of the user;
取得した映像情報及び音声情報のうち少なくともいずれか一方の情報の内容に基づいて映像情報の透過率を決定する手段と、  Means for determining the transmittance of the video information based on the content of at least one of the acquired video information and audio information;
取得した映像情報及び音声情報、並びに決定した透過率に関する情報を他の利用者端末に送信する手段と、  Means for transmitting the acquired video information and audio information and information on the determined transmittance to other user terminals;
他の利用者端末それぞれから、他の利用者の映像情報及び音声情報、並びに決定した透過率に関する情報を受信する手段と、  Means for receiving video information and audio information of other users and information on the determined transmittance from each of the other user terminals;
前記利用者ごとに、受信した透過率に関する情報に従って他の利用者の映像情報の透明度を変化させる手段と、  Means for changing the transparency of video information of other users according to the received information on the transmittance for each user;
透明度を変化させた映像情報それぞれを表示する手段と、を有し、  Means for displaying each video information with changed transparency,
前記透過率を決定する手段は、前記音声情報のゲイン値又は前記映像情報の画像フレーム間の差分情報が大きいほど前記透過率の値を小さく設定すること  The means for determining the transmittance sets the transmittance value to be smaller as the gain value of the audio information or the difference information between the image frames of the video information is larger.
を特徴とするビデオ会議システムに用いられる利用者端末。  A user terminal used in a video conference system characterized by
通信ネットワークを介して複数の利用者端末およびサーバコンピュータが接続され、各利用者端末が取得した利用者の映像情報および音声情報を前記サーバコンピュータを介して相互に送受信し、ビデオ会議を行うビデオ会議システムに用いられる前記サーバコンピュータであって、
前記複数の利用者端末それぞれから、前記利用者の映像情報および音声情報を受信する手段と、
前記利用者ごとに、受信した映像情報及び音声情報のうち少なくともいずれか一方の情報の内容に基づいて映像情報の透過率を決定する手段と、
前記利用者ごとの、受信した映像情報及び音声情報並びに決定した透過率に関する情報を前記複数の利用者端末に送信する手段と、を有し、
前記透過率を決定する手段は、前記映像情報に基づいて前記透過率を決定する場合には、2つの大小の透過率の値を用意し、前記映像情報の画像フレーム間の差分情報が予め定められた第1の閾値以上のときには、小さい値の透過率を割り当て、前記映像情報の画像フレーム間の差分情報が予め定められた第1の閾値未満のときには、大きい値の透過率を割り当てること
を特徴とするビデオ会議システムに用いられるサーバコンピュータ。
A video conference in which a plurality of user terminals and a server computer are connected via a communication network, and the video information and audio information of the users acquired by each user terminal are mutually transmitted and received via the server computer to perform a video conference The server computer used in the system,
Means for receiving video information and audio information of the user from each of the plurality of user terminals;
Means for determining the transmittance of video information based on the content of at least one of the received video information and audio information for each user;
Means for transmitting the received video information and audio information and information on the determined transmittance for each user to the plurality of user terminals ,
When determining the transmittance based on the video information, the means for determining the transmittance prepares two large and small transmittance values, and difference information between image frames of the video information is determined in advance. When the threshold value is equal to or greater than the first threshold value, a small value of transmittance is assigned, and when the difference information between the image frames of the video information is less than a predetermined first threshold value, a large value of transmittance is assigned . A server computer used in the video conference system.
通信ネットワークを介して複数の利用者端末およびサーバコンピュータが接続され、各利用者端末が取得した利用者の映像情報および音声情報を前記サーバコンピュータを介して相互に送受信し、ビデオ会議を行うビデオ会議システムに用いられる前記サーバコンピュータであって、  A video conference in which a plurality of user terminals and a server computer are connected via a communication network, and the video information and audio information of the users acquired by each user terminal are mutually transmitted and received via the server computer to perform a video conference The server computer used in the system,
前記複数の利用者端末それぞれから、前記利用者の映像情報および音声情報を受信する手段と、  Means for receiving video information and audio information of the user from each of the plurality of user terminals;
前記利用者ごとに、受信した映像情報及び音声情報のうち少なくともいずれか一方の情報の内容に基づいて映像情報の透過率を決定する手段と、  Means for determining the transmittance of video information based on the content of at least one of the received video information and audio information for each user;
前記利用者ごとの、受信した映像情報及び音声情報並びに決定した透過率に関する情報を前記複数の利用者端末に送信する手段と、を有し、  Means for transmitting the received video information and audio information and information on the determined transmittance for each user to the plurality of user terminals,
前記透過率を決定する手段は、前記音声情報のゲイン値又は前記映像情報の画像フレーム間の差分情報が大きいほど前記透過率の値を小さく設定すること  The means for determining the transmittance sets the transmittance value to be smaller as the gain value of the audio information or the difference information between the image frames of the video information is larger.
を特徴とするビデオ会議システムに用いられるサーバコンピュータ。  A server computer used in a video conference system characterized by the above.
通信ネットワークを介して複数の利用者端末が接続され、各利用者端末が取得した利用者の映像情報および音声情報を相互に送受信し、ビデオ会議を行うビデオ会議システムに用いられる利用者端末用プログラムであって、
他の利用者端末それぞれから、他の利用者の映像情報および音声情報を受信するステップと、
利用者ごとに、受信した映像情報及び音声情報のうち少なくともいずれか一方の情報の内容に基づいて映像情報の透過率を決定し、決定した透過率で他の利用者の映像情報の透明度を変化させるステップと、
透明度を変化させた映像情報それぞれを表示するステップと、を前記利用者端末に実行させ、
前記透過率を決定し変化させるステップは、前記映像情報に基づいて前記透過率を決定する場合には、2つの大小の透過率の値を用意し、前記映像情報の画像フレーム間の差分情報が予め定められた第1の閾値以上のときには、小さい値の透過率を割り当て、前記映像情報の画像フレーム間の差分情報が予め定められた第1の閾値未満のときには、大きい値の透過率を割り当てること
を特徴とするビデオ会議システムに用いられる利用者端末用プログラム。
A program for a user terminal used in a video conference system in which a plurality of user terminals are connected via a communication network, and the user's video information and audio information acquired by each user terminal are mutually transmitted and received to perform a video conference. Because
Receiving video information and audio information of other users from each of the other user terminals;
For each user, the transparency of the video information is determined based on the content of at least one of the received video information and audio information, and the transparency of the video information of other users is changed with the determined transmittance. Step to
Displaying each video information with changed transparency, and causing the user terminal to execute,
In the step of determining and changing the transmittance, when determining the transmittance based on the video information, two large and small transmittance values are prepared, and difference information between image frames of the video information is obtained. When the threshold value is equal to or greater than a predetermined first threshold value, a small transmittance is assigned, and when the difference information between the image frames of the video information is less than a predetermined first threshold value, a large value transmittance is assigned. The program for user terminals used for the video conference system characterized by the above-mentioned.
通信ネットワークを介して複数の利用者端末が接続され、各利用者端末が取得した利用者の映像情報および音声情報を相互に送受信し、ビデオ会議を行うビデオ会議システムに用いられる利用者端末用プログラムであって、  A program for a user terminal used in a video conference system in which a plurality of user terminals are connected via a communication network, and the user's video information and audio information acquired by each user terminal are mutually transmitted and received to perform a video conference. Because
他の利用者端末それぞれから、他の利用者の映像情報および音声情報を受信するステップと、  Receiving video information and audio information of other users from each of the other user terminals;
利用者ごとに、受信した映像情報及び音声情報のうち少なくともいずれか一方の情報の内容に基づいて映像情報の透過率を決定し、決定した透過率で他の利用者の映像情報の透明度を変化させるステップと、  For each user, the transparency of the video information is determined based on the content of at least one of the received video information and audio information, and the transparency of the video information of other users is changed with the determined transmittance. Step to
透明度を変化させた映像情報それぞれを表示するステップと、を前記利用者端末に実行させ、  Displaying each video information with changed transparency, and causing the user terminal to execute,
前記透過率を決定し変化させるステップは、前記透過率の決定において、前記音声情報のゲイン値又は前記映像情報の画像フレーム間の差分情報が大きいほど前記透過率の値を小さく設定すること  The step of determining and changing the transmittance includes setting the transmittance value to be smaller as the gain value of the audio information or the difference information between the image frames of the video information is larger in the determination of the transmittance.
を特徴とするビデオ会議システムに用いられる利用者端末用プログラム。  The program for user terminals used for the video conference system characterized by this.
通信ネットワークを介して複数の利用者端末が接続され、各利用者端末が取得した利用者の映像情報および音声情報を相互に送受信し、ビデオ会議を行うビデオ会議システムに用いられる利用者端末用プログラムであって、
前記利用者の映像データおよび音声データを取得するステップと、
取得した映像情報及び音声情報のうち少なくともいずれか一方の情報の内容に基づいて映像情報の透過率を決定するステップと、
取得した映像情報及び音声情報、並びに決定した透過率に関する情報を他の利用者端末に送信するステップと、
他の利用者端末それぞれから、他の利用者の映像情報及び音声情報、並びに決定した透過率に関する情報を受信するステップと、
前記利用者ごとに、受信した透過率に従って他の利用者の映像情報の透明度を変化させるステップと、
透明度を変化させた映像情報それぞれを表示するステップと、を前記利用者端末に実行させ、
前記透過率を決定するステップは、前記映像情報に基づいて前記透過率を決定する場合には、2つの大小の透過率の値を用意し、前記映像情報の画像フレーム間の差分情報が予め定められた第1の閾値以上のときには、小さい値の透過率を割り当て、前記映像情報の画像フレーム間の差分情報が予め定められた第1の閾値未満のときには、大きい値の透過率を割り当てること
を特徴とするビデオ会議システムに用いられる利用者端末用プログラム。
A program for a user terminal used in a video conference system in which a plurality of user terminals are connected via a communication network, and the user's video information and audio information acquired by each user terminal are mutually transmitted and received to perform a video conference. Because
Obtaining video data and audio data of the user;
Determining the transmittance of the video information based on the content of at least one of the acquired video information and audio information; and
Transmitting the acquired video information and audio information, and information on the determined transmittance to other user terminals;
Receiving video information and audio information of other users, and information on the determined transmittance from each of the other user terminals;
Changing the transparency of video information of other users according to the received transmittance for each user;
Displaying each video information with changed transparency, and causing the user terminal to execute,
In the step of determining the transmittance, when determining the transmittance based on the video information, two large and small transmittance values are prepared, and difference information between image frames of the video information is determined in advance. When the threshold value is equal to or greater than the first threshold value, a small value of transmittance is assigned, and when the difference information between the image frames of the video information is less than a predetermined first threshold value, a large value of transmittance is assigned . A program for a user terminal used in a video conference system.
通信ネットワークを介して複数の利用者端末が接続され、各利用者端末が取得した利用者の映像情報および音声情報を相互に送受信し、ビデオ会議を行うビデオ会議システムに用いられる利用者端末用プログラムであって、  A program for a user terminal used in a video conference system in which a plurality of user terminals are connected via a communication network, and the user's video information and audio information acquired by each user terminal are mutually transmitted and received to perform a video conference. Because
前記利用者の映像データおよび音声データを取得するステップと、  Obtaining video data and audio data of the user;
取得した映像情報及び音声情報のうち少なくともいずれか一方の情報の内容に基づいて映像情報の透過率を決定するステップと、  Determining the transmittance of the video information based on the content of at least one of the acquired video information and audio information; and
取得した映像情報及び音声情報、並びに決定した透過率に関する情報を他の利用者端末に送信するステップと、  Transmitting the acquired video information and audio information, and information on the determined transmittance to other user terminals;
他の利用者端末それぞれから、他の利用者の映像情報及び音声情報、並びに決定した透過率に関する情報を受信するステップと、  Receiving video information and audio information of other users, and information on the determined transmittance from each of the other user terminals;
前記利用者ごとに、受信した透過率に従って他の利用者の映像情報の透明度を変化させるステップと、  Changing the transparency of video information of other users according to the received transmittance for each user;
透明度を変化させた映像情報それぞれを表示するステップと、を前記利用者端末に実行させ、  Displaying each video information with changed transparency, and causing the user terminal to execute,
前記透過率を決定するステップは、前記音声情報のゲイン値又は前記映像情報の画像フレーム間の差分情報が大きいほど前記透過率の値を小さく設定すること  The step of determining the transmittance includes setting the transmittance value to be smaller as the gain value of the audio information or the difference information between the image frames of the video information is larger.
を特徴とするビデオ会議システムに用いられる利用者端末用プログラム。  The program for user terminals used for the video conference system characterized by this.
前記音声情報に基づいて前記透過率を決定する場合には、2つの大小の透過率の値を用意し、前記音声情報のゲイン値が予め定められた第2の閾値以上のときには、小さい値の透過率を割り当て、前記音声情報のゲイン値が予め定められた第2の閾値未満のときには、大きい値の透過率を割り当てることを特徴とする請求項13乃至16のいずれか1項に記載のビデオ会議システムに用いられる利用者端末用プログラム。 When determining the transmittance based on the sound information, two large and small transmittance values are prepared, and when the gain value of the sound information is equal to or greater than a predetermined second threshold , a small value is set. The video according to any one of claims 13 to 16 , wherein a transmittance is assigned and a larger value of the transmittance is assigned when a gain value of the audio information is less than a predetermined second threshold value. User terminal program used in a conference system. 前記決定した透過率は、利用者単位に変更可能であることを特徴とする請求項13乃至17のいずれか1項に記載のビデオ会議システムに用いられる利用者端末用プログラム。 The program for a user terminal used for a video conference system according to any one of claims 13 to 17, wherein the determined transmittance can be changed for each user. 前記各利用者の映像情報および音声情報は、サーバコンピュータを介して送受信されることを特徴とする請求項13乃至18のいずれか1項に記載のビデオ会議システムに用いられる利用者端末用プログラム。 19. The user terminal program used in the video conference system according to claim 13, wherein the video information and audio information of each user are transmitted and received via a server computer. 通信ネットワークを介して複数の利用者端末およびサーバコンピュータが接続され、各利用者端末が取得した利用者の映像情報および音声情報を前記サーバコンピュータを介して相互に送受信し、ビデオ会議を行うビデオ会議システムに用いられるサーバコンピュータ用プログラムであって、
前記複数の利用者端末それぞれから、前記利用者の映像情報および音声情報を受信するステップと、
前記利用者ごとに、受信した映像情報及び音声情報のうち少なくともいずれか一方の情報の内容に基づいて透過率を決定するステップと、
前記利用者ごとの、受信した映像情報及び音声情報並びに決定した透過率に関する情報を前記複数の利用者端末に送信するステップと、を前記サーバコンピュータに実行させ、
前記透過率を決定するステップは、前記映像情報に基づいて前記透過率を決定する場合には、2つの大小の透過率の値を用意し、前記映像情報の画像フレーム間の差分情報が予め定められた第1の閾値以上のときには、小さい値の透過率を割り当て、前記映像情報の画像フレーム間の差分情報が予め定められた第1の閾値未満のときには、大きい値の透過率を割り当てること
を特徴とするビデオ会議システムに用いられるサーバコンピュータ用プログラム。
A video conference in which a plurality of user terminals and a server computer are connected via a communication network, and the video information and audio information of the users acquired by each user terminal are mutually transmitted and received via the server computer to perform a video conference A program for a server computer used in a system,
Receiving video information and audio information of the user from each of the plurality of user terminals;
Determining the transmittance based on the content of at least one of the received video information and audio information for each user; and
Transmitting the received video information and audio information and information on the determined transmittance for each user to the plurality of user terminals, causing the server computer to execute,
In the step of determining the transmittance, when determining the transmittance based on the video information, two large and small transmittance values are prepared, and difference information between image frames of the video information is determined in advance. When the threshold value is equal to or greater than the first threshold value, a small value of transmittance is assigned, and when the difference information between the image frames of the video information is less than a predetermined first threshold value, a large value of transmittance is assigned . A program for a server computer used in a video conference system.
通信ネットワークを介して複数の利用者端末およびサーバコンピュータが接続され、各利用者端末が取得した利用者の映像情報および音声情報を前記サーバコンピュータを介して相互に送受信し、ビデオ会議を行うビデオ会議システムに用いられるサーバコンピュータ用プログラムであって、  A video conference in which a plurality of user terminals and a server computer are connected via a communication network, and the video information and audio information of the users acquired by each user terminal are mutually transmitted and received via the server computer to perform a video conference A program for a server computer used in a system,
前記複数の利用者端末それぞれから、前記利用者の映像情報および音声情報を受信するステップと、  Receiving video information and audio information of the user from each of the plurality of user terminals;
前記利用者ごとに、受信した映像情報及び音声情報のうち少なくともいずれか一方の情報の内容に基づいて透過率を決定するステップと、  Determining the transmittance based on the content of at least one of the received video information and audio information for each user; and
前記利用者ごとの、受信した映像情報及び音声情報並びに決定した透過率に関する情報を前記複数の利用者端末に送信するステップと、を前記サーバコンピュータに実行させ、  Transmitting the received video information and audio information and information on the determined transmittance for each user to the plurality of user terminals, and causing the server computer to execute,
前記透過率を決定するステップは、前記音声情報のゲイン値又は前記映像情報の画像フレーム間の差分情報が大きいほど前記透過率の値を小さく設定すること  The step of determining the transmittance includes setting the transmittance value to be smaller as the gain value of the audio information or the difference information between the image frames of the video information is larger.
を特徴とするビデオ会議システムに用いられるサーバコンピュータ用プログラム。  A program for a server computer used in a video conference system characterized by the above.
JP2004073385A 2004-03-15 2004-03-15 Video display method and video display control method in video conference system, user terminal and server computer used in video conference system, program for user terminal and server computer program used in video conference system Expired - Lifetime JP4054775B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004073385A JP4054775B2 (en) 2004-03-15 2004-03-15 Video display method and video display control method in video conference system, user terminal and server computer used in video conference system, program for user terminal and server computer program used in video conference system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004073385A JP4054775B2 (en) 2004-03-15 2004-03-15 Video display method and video display control method in video conference system, user terminal and server computer used in video conference system, program for user terminal and server computer program used in video conference system

Publications (2)

Publication Number Publication Date
JP2005260880A JP2005260880A (en) 2005-09-22
JP4054775B2 true JP4054775B2 (en) 2008-03-05

Family

ID=35086142

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004073385A Expired - Lifetime JP4054775B2 (en) 2004-03-15 2004-03-15 Video display method and video display control method in video conference system, user terminal and server computer used in video conference system, program for user terminal and server computer program used in video conference system

Country Status (1)

Country Link
JP (1) JP4054775B2 (en)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5272820B2 (en) * 2009-03-13 2013-08-28 ブラザー工業株式会社 Video conference apparatus, video conference system, video conference method, and video conference program
JP5143114B2 (en) * 2009-12-02 2013-02-13 日本電信電話株式会社 Preliminary motion detection and transmission method, apparatus and program for speech
JP6167772B2 (en) * 2013-09-05 2017-07-26 富士通株式会社 Information processing apparatus, information processing apparatus control method, and program thereof
GB2526245A (en) * 2014-03-04 2015-11-25 Microsoft Technology Licensing Llc Sharing content
JP6365708B2 (en) * 2016-04-05 2018-08-01 キヤノンマーケティングジャパン株式会社 WEB CONFERENCE SYSTEM, WEB CONFERENCE SERVER, WEB CONFERENCE SERVER AND WEB CONFERENCE SYSTEM CONTROL METHOD, AND PROGRAM

Also Published As

Publication number Publication date
JP2005260880A (en) 2005-09-22

Similar Documents

Publication Publication Date Title
JP5450574B2 (en) Region of interest processing for video telephony
JP6022618B2 (en) Region of interest extraction for video telephony
JP5781441B2 (en) Subscription for video conferencing using multi-bitrate streams
US8570359B2 (en) Video region of interest features
US7508413B2 (en) Video conference data transmission device and data transmission method adapted for small display of mobile terminals
WO2015176569A1 (en) Method, device, and system for presenting video conference
EP3008897A1 (en) Providing user video having a virtual curtain to an online conference
JP2005303736A (en) Video display method of video conference system, user terminal used with video conference system, and program therefor
US11876842B2 (en) System and method for identifying active communicator
JP4054775B2 (en) Video display method and video display control method in video conference system, user terminal and server computer used in video conference system, program for user terminal and server computer program used in video conference system
JP7334470B2 (en) VIDEO PROCESSING DEVICE, VIDEO CONFERENCE SYSTEM, VIDEO PROCESSING METHOD, AND PROGRAM
US20150035940A1 (en) Systems and Methods for Integrating Audio and Video Communication Systems with Gaming Systems
US20220303478A1 (en) Video conference user interface layout based on face detection
JP7143874B2 (en) Information processing device, information processing method and program
KR20110090001A (en) Method and apparatus for video conferencing
JP2016048855A (en) Remote communication device and program
US11949724B2 (en) Safe and privacy preserving video representation
US12044845B2 (en) Towards subsiding motion sickness for viewport sharing for teleconferencing and telepresence for remote terminals
WO2023249005A1 (en) Screen synthesis method using web conference system
US20240040080A1 (en) Multi-Party Optimization for Audiovisual Enhancement
CN117676071A (en) Audio and video enhancement method, device, computer equipment and storage medium
CN113160342A (en) Feedback-based encoding method and apparatus, storage medium, and electronic device
JP2023121274A (en) Method for controlling conference system, terminal device, and program
JP2024512904A (en) Techniques for Signaling Multiple Audio Mixing Gains for Teleconference and Telepresence for Remote Terminals Using RTCP Feedback
WO2024058898A1 (en) Chat view modification based on user identification or user movement

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070828

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070904

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071026

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20071113

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20071210

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101214

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4054775

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111214

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121214

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131214

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term