JP4351084B2 - Image communication system, image distribution server, image communication method, and program - Google Patents

Image communication system, image distribution server, image communication method, and program Download PDF

Info

Publication number
JP4351084B2
JP4351084B2 JP2004026914A JP2004026914A JP4351084B2 JP 4351084 B2 JP4351084 B2 JP 4351084B2 JP 2004026914 A JP2004026914 A JP 2004026914A JP 2004026914 A JP2004026914 A JP 2004026914A JP 4351084 B2 JP4351084 B2 JP 4351084B2
Authority
JP
Japan
Prior art keywords
image
client terminal
distribution server
image distribution
client
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2004026914A
Other languages
Japanese (ja)
Other versions
JP2005223430A (en
Inventor
健一 浅坂
智昭 小室
聡 佐久間
麻知子 鈴木
美雄 永嶋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NTT Communications Corp
Original Assignee
NTT Communications Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NTT Communications Corp filed Critical NTT Communications Corp
Priority to JP2004026914A priority Critical patent/JP4351084B2/en
Publication of JP2005223430A publication Critical patent/JP2005223430A/en
Application granted granted Critical
Publication of JP4351084B2 publication Critical patent/JP4351084B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Information Transfer Between Computers (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本発明は、画像通信技術に関し、特に画像配信サーバを介して複数のクライアント端末が画像をやり取りする画像通信システムに関するものである。   The present invention relates to an image communication technique, and more particularly to an image communication system in which a plurality of client terminals exchange images via an image distribution server.

近年、インターネットに代表されるパケット通信網の普及、さらにはこれを利用するデータ通信技術の発展に伴い、音声や静止画だけでなく動画すなわち映像についても相互にやり取りする画像通信システムやサービスが提供されている。
この画像通信システムの代表的なものとしてビデオ会議システムがある。これは、各地点に配置された複数のクライアント端末と1つの画像配信サーバとをインターネットで結び、画像配信サーバを介して各クライアント端末間で相互に音声および画像をやり取りするシステムである(例えば、非特許文献1など参照)。
In recent years, with the spread of packet communication networks represented by the Internet and the development of data communication technology that uses them, image communication systems and services that exchange not only voice and still images but also moving images, that is, images, are provided. Has been.
A typical video communication system is a video conference system. This is a system in which a plurality of client terminals arranged at each point and one image distribution server are connected via the Internet, and voice and images are exchanged between the client terminals via the image distribution server (for example, (See Non-Patent Document 1, etc.).

このような画像通信システムでは、配信される画像のデータ量が大きいことから、個々のクライアント端末ごとに、表示処理可能な画像形式や通信環境が異なる。例えば、クライアント端末で表示できる画像形式については、クライアント端末の表示画面の大きさや解像度に左右される。また、クライアント端末がインターネットへアクセスする回線の通信速度は、その回線がADSLか光ファイバーかによって大きく異なる。   In such an image communication system, since the amount of image data to be distributed is large, the image format and communication environment in which display processing can be performed differ for each client terminal. For example, the image format that can be displayed on the client terminal depends on the size and resolution of the display screen of the client terminal. In addition, the communication speed of the line through which the client terminal accesses the Internet varies greatly depending on whether the line is ADSL or optical fiber.

したがって、個々のクライアント端末に適切な画像を配信するため、従来、予め各クライアント端末から画像配信サーバへ配信画像に関するパラメータ、例えば受信ビデオのフレームレート、受信ビデオの画質、受信ビデオのサイズ、および通信ネットワーク速度などの値を通知し、これらパラメータに基づく画像形式で画像配信サーバから画像を配信するものとなっていた。   Therefore, in order to distribute an appropriate image to each client terminal, conventionally, parameters relating to the distribution image from each client terminal to the image distribution server in advance, such as the frame rate of the received video, the quality of the received video, the size of the received video, and the communication A value such as a network speed is notified, and an image is distributed from the image distribution server in an image format based on these parameters.

なお、出願人は、本明細書に記載した先行技術文献情報で特定される先行技術文献以外には、本発明に関連する先行技術文献を出願時までに発見するには至らなかった。
MeetingPlaza電網会議室サービス,http://www.meetingplaza.com/index-j.html,NTTアイティ株式会社
The applicant has not yet found prior art documents related to the present invention by the time of filing other than the prior art documents specified by the prior art document information described in this specification.
MeetingPlaza network meeting room service, http://www.meetingplaza.com/index-j.html, NTT IT Corporation

しかしながら、このような従来技術では、個々のクライアント端末から画像配信サーバに対して、受信したい画像形式と通信ネットワーク速度とを予め通知するものとなっているため、個々のクライアント端末から通知された上記パラメータに基づいて画像を画像配信サーバから配信しても、クライアント端末の処理性能や動作状況によっては、受信した画像に対する処理負担が大幅に増加して、通常必要とされる定常処理や、異なるアプリケーションなどの他の処理が停滞してしまうという問題点があった。
本発明はこのような課題を解決するためのものであり、個々のクライアント端末で他の処理を停滞させることなく受信画像を表示できる画像通信システム、画像配信サーバ、クライアント端末、画像通信方法、およびプログラムを提供することを目的としている。
However, in such a conventional technique, since the individual client terminals notify the image distribution server of the image format and the communication network speed that are desired to be received in advance, the above-mentioned notification notified from the individual client terminals. Even if the image is distributed from the image distribution server based on the parameters, depending on the processing performance and operation status of the client terminal, the processing load on the received image will increase significantly, and normally required steady processing or different applications There was a problem that other processes such as were stagnant.
The present invention is for solving such a problem, and an image communication system, an image distribution server, a client terminal, an image communication method, and an image communication system capable of displaying a received image without stagnation of other processing in individual client terminals, and The purpose is to provide a program.

このような目的を達成するために、本発明にかかる画像通信システムは、通信ネットワークを介して画像を送受信するとともに受信した画像を表示する複数のクライアント端末と、通信ネットワークを介して接続している各クライアント端末から送信された画像を個々のクライアント端末の性能に応じた画像品質に変換してそれぞれ配信する画像配信サーバとを備える画像通信システムであって、クライアント端末は、自装置の静的性能を示す環境情報を通信ネットワークを介して画像配信サーバへ通知する環境情報管理部と、自装置の動的性能を示す動作情報を通信ネットワークを介して画像配信サーバへ通知する動作情報管理部とを備え、画像配信サーバは、クライアント端末から通知された、当該クライアント端末の静的性能を示す環境情報と、当該クライアント端末の動的性能を示す動作情報と、当該画像配信サーバから画像を配信しているクライアント端末の接続数と、当該画像配信サーバへの接続を要求しているクライアント端末の接続待機数とに基づいて当該クライアント端末へ配信する画像の画像品質を決定する画像配信制御部と、画像品質に基づき当該クライアント端末へ配信する画像の画像品質を変換する画像処理部とを備えるものである。 In order to achieve such an object, an image communication system according to the present invention is connected to a plurality of client terminals that transmit and receive images via a communication network and display received images via the communication network. An image communication system comprising an image distribution server that converts an image transmitted from each client terminal into an image quality corresponding to the performance of each client terminal and distributes the image quality, wherein the client terminal is a static performance of its own device. An environment information management unit for notifying the image distribution server via the communication network, and an operation information management unit for notifying the image distribution server of the operation information indicating the dynamic performance of the own device via the communication network. provided, the image distribution server, the ring shown notified from the client terminal, the static performance of the client terminal Information, operation information indicating the dynamic performance of the client terminal, the number of connections of the client terminal that distributes the image from the image distribution server, and the connection of the client terminal that requests connection to the image distribution server An image distribution control unit that determines the image quality of an image to be distributed to the client terminal based on the number of standbys, and an image processing unit that converts the image quality of the image to be distributed to the client terminal based on the image quality is there.

また、本発明にかかる画像配信サーバは、画像を送受信するとともに受信した画像を表示する複数のクライアント端末と通信ネットワークを介して接続されて、各クライアント端末から送信された画像を個々のクライアント端末の性能に応じた画像品質に変換してそれぞれ配信する画像配信サーバであって、クライアント端末から通信ネットワークを介して通知された、当該クライアント端末の静的性能を示す環境情報と、当該クライアント端末の動的性能を示す動作情報と、当該画像配信サーバから画像を配信しているクライアント端末の接続数と、当該画像配信サーバへの接続を要求しているクライアント端末の接続待機数とに基づいて当該クライアント端末へ配信する画像の画像品質を決定する画像配信制御部と、画像品質に基づき当該クライアント端末へ配信する画像の画像品質を変換する画像処理部とを備えるものである。 The image distribution server according to the present invention is connected to a plurality of client terminals that transmit and receive images and display received images via a communication network, and transmits images transmitted from the respective client terminals to individual client terminals. An image distribution server that converts image quality according to performance and distributes the image quality information, which is notified from the client terminal via the communication network and indicates the static performance of the client terminal, and the operation of the client terminal The client based on the operation information indicating the performance, the number of connections of the client terminal that distributes the image from the image distribution server, and the connection waiting number of the client terminal that requests connection to the image distribution server An image distribution control unit that determines the image quality of an image to be distributed to the terminal, and an image distribution control unit based on the image quality. Those comprising an image processing unit for converting the image quality of an image to be distributed to the client terminal.

この際、環境情報として、クライアント端末のコンピュータの性能を示す、CPU能力、OSの種類、メモリの種類、画像描画用APIの種類のうち、少なくともいずれか1つの情報を含むものを用い、動作情報として、クライアント端末のコンピュータの性能を示す、CPU使用率、メモリの利用状況、通信ネットワークの利用状況のうち、少なくともいずれか1つの情報を含むものを用いるようにしてもよい。   At this time, as environment information, information including at least one of CPU capability, OS type, memory type, and image drawing API indicating the performance of the client terminal computer is used. As an example, information including at least one of the CPU usage rate, the memory usage status, and the communication network usage status indicating the performance of the client terminal computer may be used.

また、画像配信制御部で、画像品質として、画像サイズ、フレームレート、画像圧縮率のうち、少なくともいずれか1つを決定するようにしてもよい。   The image distribution control unit may determine at least one of the image size, the frame rate, and the image compression rate as the image quality.

また、画像配信制御部で、画像品質を決定する際、環境情報および動作情報に加え、通信ネットワークを介して接続している画像配信先クライアント端末の数に基づき、画像品質を決定するようにしてもよい。   Further, when the image distribution control unit determines the image quality, the image quality is determined based on the number of image distribution destination client terminals connected via the communication network in addition to the environment information and the operation information. Also good.

また、本発明にかかる画像通信方法は、通信ネットワークを介して画像を送受信するとともに受信した画像を表示する複数のクライアント端末と、通信ネットワークを介して接続している各クライアント端末から送信された画像を個々のクライアント端末の性能に応じた画像品質に変換してそれぞれ配信する画像配信サーバとを備える画像通信システムで用いられる画像通信方法であって、クライアント端末の静的性能を示す環境情報を当該クライアント端末から通信ネットワークを介して画像配信サーバへ通知するステップと、クライアント端末の動的性能を示す動作情報を当該クライアント端末から通信ネットワークを介して画像配信サーバへ通知するステップと、画像配信サーバで、クライアント端末から通知された、当該クライアント端末の静的性能を示す環境情報と、当該クライアント端末の動的性能を示す動作情報と、当該画像配信サーバから画像を配信しているクライアント端末の接続数と、当該画像配信サーバへの接続を要求しているクライアント端末の接続待機数とに基づいて当該クライアント端末へ配信する画像の画像品質を決定するステップと、画像配信サーバで、画像品質に基づき当該クライアント端末へ配信する画像の画像品質を変換するステップとを備えるものである。 In addition, the image communication method according to the present invention includes a plurality of client terminals that transmit and receive images via a communication network and display received images, and images transmitted from each client terminal connected via the communication network. Is an image communication method used in an image communication system including an image distribution server that converts image quality into image quality according to the performance of each client terminal and distributes the image quality, and includes environment information indicating the static performance of the client terminal. A step of notifying the image distribution server from the client terminal via the communication network, a step of notifying operation information indicating the dynamic performance of the client terminal from the client terminal to the image distribution server via the communication network, and , reported from the client terminal, the client Environment information indicating the static performance of the terminal, operation information indicating the dynamic performance of the client terminal, the number of connections of the client terminal that distributes images from the image distribution server, and connection to the image distribution server. Determining the image quality of an image to be distributed to the client terminal based on the requesting waiting number of connections of the client terminal, and an image distribution server to determine the image quality of the image to be distributed to the client terminal based on the image quality The step of converting.

また、本発明にかかるプログラムは、画像を送受信するとともに受信した画像を表示する複数のクライアント端末と通信ネットワークを介して接続されて、各クライアント端末から送信された画像を個々のクライアント端末の性能に応じた画像品質に変換してそれぞれ配信する画像配信サーバのコンピュータに、クライアント端末から通信ネットワークを介して通知された、当該クライアント端末の静的性能を示す環境情報と、当該クライアント端末の動的性能を示す動作情報と、当該画像配信サーバから画像を配信しているクライアント端末の接続数と、当該画像配信サーバへの接続を要求しているクライアント端末の接続待機数とに基づいて当該クライアント端末へ配信する画像の画像品質を決定するステップと、画像品質に基づき当該クライアント端末へ配信する画像の画像品質を変換するステップとを実行させるものである。 In addition, the program according to the present invention is connected to a plurality of client terminals that transmit and receive images and display received images via a communication network, and the images transmitted from each client terminal are converted into the performance of each client terminal. Environment information indicating the static performance of the client terminal notified from the client terminal via the communication network to the computer of the image distribution server that converts the image quality to the corresponding image quality and delivers the dynamic performance of the client terminal To the client terminal based on the operation information indicating the number of connections, the number of connections of the client terminal that distributes the image from the image distribution server, and the number of standby connections of the client terminal that requests connection to the image distribution server Determining the image quality of the image to be distributed, and based on the image quality It is intended to execute the steps of converting the image quality of an image to be distributed to client terminals.

本発明によれば、画像配信サーバで、クライアント端末から通知された、当該クライアント端末の静的性能を示す環境情報と、当該クライアント端末の動的性能を示す動作情報と、当該画像配信サーバから画像を配信しているクライアント端末の接続数と、当該画像配信サーバへの接続を要求しているクライアント端末の接続待機数とに基づいて、クライアント端末へ配信する画像の画像品質が決定されるため、それぞれのクライアント端末の処理性能や動作状況に適した画像品質で画像を配信することが可能となる。したがって、各クライアント端末で他の処理を停滞させることなく受信画像を表示でき、安定した画像配信サービスを提供することができる。 According to the present invention, the environment information indicating the static performance of the client terminal, the operation information indicating the dynamic performance of the client terminal, and the image from the image distribution server notified from the client terminal by the image distribution server. Since the image quality of the image to be distributed to the client terminal is determined based on the number of connections of the client terminal that distributes the image and the connection waiting number of the client terminal that is requesting connection to the image distribution server, Images can be distributed with image quality suitable for the processing performance and operation status of each client terminal. Therefore, the received image can be displayed without stagnation of other processes at each client terminal, and a stable image distribution service can be provided.

次に、本発明の実施の形態について図面を参照して説明する。
[画像通信システム]
まず、図1を参照して、本発明の一実施の形態にかかる画像通信システムについて説明する。図1は本発明の一実施の形態にかかる画像通信システムの構成を示すブロック図である。
この画像通信システムは、画像配信サーバ1と、1つ以上のクライアント端末2(2A,2B,2C)と、インターネットやイントラネットなどのIPネットワークからなりこれら画像配信サーバ1とクライアント端末2とを接続する通信ネットワーク10とから構成されている。
Next, embodiments of the present invention will be described with reference to the drawings.
[Image communication system]
First, an image communication system according to an embodiment of the present invention will be described with reference to FIG. FIG. 1 is a block diagram showing a configuration of an image communication system according to an embodiment of the present invention.
This image communication system includes an image distribution server 1, one or more client terminals 2 (2A, 2B, 2C) and an IP network such as the Internet or an intranet, and connects the image distribution server 1 and the client terminal 2. The communication network 10 is configured.

本実施の形態では、画像配信サーバ1で、各クライアント端末2から送信された画像3A,3B,3Cを、個々のクライアント端末2の性能に応じた画像品質の画像4A,4B,4Cに変換してそれぞれ配信する際、クライアント端末2の静的性能を示す環境情報5A,5B,5Cと動的性能を示す動作情報6A,6B,6Cを、各クライアント端末2から通信ネットワーク10を介して画像配信サーバ1へ通知し、画像配信サーバ1で、クライアント端末2から通知された環境情報5A,5B,5Cおよび動作情報6A,6B,6Cに基づいて当該クライアント端末2へ配信する画像4A,4B,4Cの画像品質をそれぞれ個別に決定し、その画像品質に基づき当該クライアント端末2へ配信する画像4A,4B,4Cの画像品質を変換して配信するようにしたものである。   In the present embodiment, the image distribution server 1 converts the images 3A, 3B, and 3C transmitted from each client terminal 2 into images 4A, 4B, and 4C having image quality according to the performance of each client terminal 2. When each of the client terminals 2 is distributed, the environment information 5A, 5B, 5C indicating the static performance of the client terminal 2 and the operation information 6A, 6B, 6C indicating the dynamic performance are distributed via the communication network 10 from each client terminal 2. Images 4A, 4B, 4C delivered to the client terminal 2 based on the environment information 5A, 5B, 5C and the operation information 6A, 6B, 6C notified from the client terminal 2 by the image delivery server 1 The image quality of each of the images 4A, 4B, and 4C to be distributed to the client terminal 2 is converted based on the image quality. In which it was to be delivered.

なお、本発明は、クライアント端末2のコンピュータの物理的構成により決定される静的な処理性能のことをクライアント端末2の静的性能と表現し、例えばコンピュータでの処理負担の増減により変化しない固定的な性能をいう。
また、クライアント端末2のコンピュータの動作状態により決定される動的な処理性能のことをクライアント端末2の動的性能と表現し、コンピュータでの処理負担の増減により変化する流動的な性能をいう。
In the present invention, the static processing performance determined by the physical configuration of the computer of the client terminal 2 is expressed as the static performance of the client terminal 2, and for example, fixed that does not change due to an increase or decrease in processing load on the computer. Performance.
The dynamic processing performance determined by the operation state of the computer of the client terminal 2 is expressed as the dynamic performance of the client terminal 2 and refers to the fluid performance that changes depending on the increase or decrease in processing load on the computer.

[画像配信サーバ]
次に、図2を参照して、画像配信サーバ1の構成について詳細に説明する。図2は画像配信サーバ1の機能構成を示す機能ブロック図である。
この画像配信サーバ1は、コンピュータで実現されるサーバ装置であり、主な物理構成として(図示せず)、制御部、記憶部、および通信部を有している。制御部は、CPUなどのマイクロプロセッサとその周辺回路を有し、所定のプログラムを読み込んで実行することにより各種機能部を実現する。記憶部は、ハードディスクやメモリなどの記憶装置からなり、制御部での処理に用いる各種情報や制御部に読み込まれるプログラムを記憶する。通信部は、通信ネットワーク10を介して各種情報を送受信する回路部である。
[Image distribution server]
Next, the configuration of the image distribution server 1 will be described in detail with reference to FIG. FIG. 2 is a functional block diagram showing a functional configuration of the image distribution server 1.
The image distribution server 1 is a server device realized by a computer, and has a control unit, a storage unit, and a communication unit as main physical configurations (not shown). The control unit includes a microprocessor such as a CPU and its peripheral circuits, and implements various functional units by reading and executing a predetermined program. The storage unit includes a storage device such as a hard disk or a memory, and stores various information used for processing in the control unit and a program read into the control unit. The communication unit is a circuit unit that transmits and receives various types of information via the communication network 10.

制御部により実現される機能部としては、画像配信制御部11、画像処理部13、環境情報管理部14、および動作情報管理部15がある。
画像配信制御部11は、画像配信サーバ1での画像配信処理全体を制御する機能部である。画像処理部13は、クライアント端末2との間でやり取りする画像を処理する機能部であり、クライアント端末2からの画像を受信する画像受信部13Aと、クライアント端末2へ画像を送信する画像送信部13Bと、画像の変換処理を行う画像コーデック部13Cとを有している。
Functional units realized by the control unit include an image distribution control unit 11, an image processing unit 13, an environment information management unit 14, and an operation information management unit 15.
The image distribution control unit 11 is a functional unit that controls the entire image distribution process in the image distribution server 1. The image processing unit 13 is a functional unit that processes an image exchanged with the client terminal 2. The image processing unit 13 A receives an image from the client terminal 2, and an image transmission unit transmits the image to the client terminal 2. 13B and an image codec unit 13C that performs image conversion processing.

環境情報管理部14は、通信ネットワーク10を介して接続されたクライアント端末2の環境情報を管理する機能部である。
動作情報管理部15は、通信ネットワーク10を介して接続されたクライアント端末2の動作情報を管理する機能部である。
The environment information management unit 14 is a functional unit that manages environment information of the client terminal 2 connected via the communication network 10.
The operation information management unit 15 is a functional unit that manages operation information of the client terminal 2 connected via the communication network 10.

記憶部には、テーブル管理部16が設けられている。このテーブル管理部16には、画像配信制御部11での処理に用いる各種情報がテーブルとして管理されている。このテーブルとして、配信画像品質しきい値テーブル16A、環境情報テーブル16B、接続クライアント数管理テーブル16C、およびクライアント情報管理テーブル16Dがある。
通信部には、通信インターフェース部12が設けられている。この通信インターフェース部12は、画像配信制御部11と通信ネットワーク10を介して接続されたクライアント端末2との間のデータ通信を実現する。
A table management unit 16 is provided in the storage unit. In the table management unit 16, various information used for processing in the image distribution control unit 11 is managed as a table. As this table, there are a distribution image quality threshold value table 16A, an environment information table 16B, a connected client number management table 16C, and a client information management table 16D.
A communication interface unit 12 is provided in the communication unit. The communication interface unit 12 realizes data communication between the image distribution control unit 11 and the client terminal 2 connected via the communication network 10.

[クライアント端末]
次に、図3を参照して、クライアント端末2の構成について詳細に説明する。図3はクライアント端末2の機能構成を示す説明図である。
このクライアント端末2は、コンピュータで実現される端末装置であり、主な物理構成として(図示せず)、制御部、記憶部、および通信部を有している。制御部は、CPUなどのマイクロプロセッサとその周辺回路を有し、所定のプログラムを読み込んで実行することにより各種機能部を実現する。記憶部は、ハードディスクやメモリなどの記憶装置からなり、制御部での処理に用いる各種情報や制御部に読み込まれるプログラムを記憶する。通信部は、通信ネットワーク10を介して各種情報を送受信する回路部である。
[Client terminal]
Next, the configuration of the client terminal 2 will be described in detail with reference to FIG. FIG. 3 is an explanatory diagram showing a functional configuration of the client terminal 2.
The client terminal 2 is a terminal device realized by a computer, and has a control unit, a storage unit, and a communication unit as a main physical configuration (not shown). The control unit includes a microprocessor such as a CPU and its peripheral circuits, and implements various functional units by reading and executing a predetermined program. The storage unit includes a storage device such as a hard disk or a memory, and stores various information used for processing in the control unit and a program read into the control unit. The communication unit is a circuit unit that transmits and receives various types of information via the communication network 10.

制御部により実現される機能部としては、クライアント端末制御部21、画像管理部23、環境情報管理部24、および動作情報管理部25がある。
クライアント端末制御部21は、クライアント端末2での画像通信を含む各種処理を制御する機能部である。
画像管理部23は、当該クライアント端末2に接続されたカメラ20Aから画像配信サーバ1へ送信する画像を取り込む画像入力部23A、画像配信サーバ1から受信した画像を当該クライアント端末2に接続されたディスプレイ20Bへ出力する画像出力部23B、およびカメラ20Aからの画像やディスプレイ20Bへの画像を画像処理する画像コーデック部23Cを有する機能部である。
The functional units realized by the control unit include a client terminal control unit 21, an image management unit 23, an environment information management unit 24, and an operation information management unit 25.
The client terminal control unit 21 is a functional unit that controls various processes including image communication at the client terminal 2.
The image management unit 23 includes an image input unit 23A that captures an image to be transmitted from the camera 20A connected to the client terminal 2 to the image distribution server 1, and a display that is connected to the client terminal 2 and receives an image received from the image distribution server 1. This is a functional unit having an image output unit 23B that outputs to 20B and an image codec unit 23C that performs image processing on images from the camera 20A and images on the display 20B.

環境情報管理部24は、当該クライアント端末2の環境情報を管理する機能部である。この環境情報管理部24には、具体的な機能手段として、利用者から操作入力された当該クライアント端末2の環境情報を受け付ける環境情報操作入力部24A、当該クライアント端末2の構成情報などに基づき当該クライアント端末2に関する環境情報を自動取得する環境情報自動取得部24B、および所定のテストプログラムを実行して当該クライアント端末2に関する環境情報を自動取得する環境情報テストプログラム部24Cが設けられている。   The environment information management unit 24 is a functional unit that manages environment information of the client terminal 2. The environment information management unit 24 includes, as specific function means, an environment information operation input unit 24A that accepts environment information of the client terminal 2 input by the user, and configuration information of the client terminal 2 based on the configuration information. An environment information automatic acquisition unit 24B that automatically acquires environment information related to the client terminal 2 and an environment information test program unit 24C that executes a predetermined test program to automatically acquire environment information related to the client terminal 2 are provided.

動作情報管理部25は、当該クライアント端末2の動作情報を管理する機能部である。
この動作情報管理部25には、具体的な機能手段として、当該クライアント端末2の構成情報などに基づき当該クライアント端末2に関する動作情報を自動取得する動作情報自動取得部25A、および所定のテストプログラムを実行して当該クライアント端末2に関する動作情報を自動取得する動作情報テストプログラム部25Bが設けられている。
The operation information management unit 25 is a functional unit that manages the operation information of the client terminal 2.
The operation information management unit 25 includes, as specific function means, an operation information automatic acquisition unit 25A that automatically acquires operation information related to the client terminal 2 based on the configuration information of the client terminal 2, and a predetermined test program. An operation information test program unit 25B is provided that executes and automatically acquires operation information related to the client terminal 2.

記憶部には、クライアント端末制御部21での処理に用いる各種情報がテーブルとして管理されている。このテーブルとしては、環境情報管理部24で用いられる環境情報記憶テーブル24Dと、動作情報管理部25で用いられる動作情報記憶テーブル25C、および動作情報しきい値テーブル25Dがある。
通信部には、通信インターフェース部22が設けられている。この通信インターフェース部22は、クライアント端末制御部21と通信ネットワーク10を介して接続された画像配信サーバ1との間のデータ通信を実現する。
Various information used for processing in the client terminal control unit 21 is managed as a table in the storage unit. These tables include an environment information storage table 24D used by the environment information management unit 24, an operation information storage table 25C used by the operation information management unit 25, and an operation information threshold value table 25D.
A communication interface unit 22 is provided in the communication unit. The communication interface unit 22 realizes data communication between the client terminal control unit 21 and the image distribution server 1 connected via the communication network 10.

[テーブル]
次に、図4〜図9を参照して、画像配信サーバ1およびクライアント端末2で用いる各種テーブルの構成例について説明する。
図4は、画像配信サーバ1で用いられる配信画像品質しきい値テーブル16Aの構成例である。この配信画像品質しきい値テーブル16Aは、クライアント端末2に適切な画像品質を決定するためのテーブルであり、クライアント端末2の環境情報ここではCPU能力ごとに設けられている。そして、各テーブルでは、その動作情報ここではCPU使用率と配信する画像数(クライアント端末数)との組み合わせごとに、配信に用いられる画像品質が対応付けられている。
[table]
Next, configuration examples of various tables used in the image distribution server 1 and the client terminal 2 will be described with reference to FIGS.
FIG. 4 is a configuration example of a distribution image quality threshold table 16A used in the image distribution server 1. The distribution image quality threshold table 16A is a table for determining an image quality appropriate for the client terminal 2, and is provided for each environment information of the client terminal 2, here, the CPU capability. In each table, the image quality used for distribution is associated with each combination of the operation information, that is, the CPU usage rate and the number of images to be distributed (number of client terminals).

図5は、画像配信サーバ1で用いられる環境情報テーブル16Bの構成例である。この環境情報テーブル16Bは、クライアント端末2の環境情報を決定するためのテーブルであり、クライアント端末2のCPU能力、テスト値(CPUのクロック数)、ベンダID、CPUファミリ、CPUモデル、およびCPUステッピングなどの環境情報が相互に対応付けられている。
図6は、画像配信サーバ1で用いられる接続クライアント数管理テーブル16Cの構成例である。この接続クライアント数管理テーブル16Cは、ビデオ会議に参加するクライアント端末2の数が管理される。
FIG. 5 is a configuration example of the environment information table 16 </ b> B used in the image distribution server 1. This environment information table 16B is a table for determining the environment information of the client terminal 2, and the CPU capability, test value (number of CPU clocks) of the client terminal 2, vendor ID, CPU family, CPU model, and CPU stepping. Are associated with each other.
FIG. 6 is a configuration example of the connected client number management table 16 </ b> C used in the image distribution server 1. This connected client number management table 16C manages the number of client terminals 2 participating in the video conference.

図7は、画像配信サーバ1で用いられるクライアント情報管理テーブル16Dの構成例である。このクライアント情報管理テーブル16Dは、ビデオ会議に参加している各クライアント端末2の環境情報および動作情報を管理するテーブルである。
図8は、クライアント端末2で用いられる環境情報記録テーブル24Dの構成例である。この環境情報記録テーブル24Dは、当該クライアント端末2の環境情報を管理するためのテーブルであり、当該クライアント端末2のCPU能力値、テスト値、ベンダID、CPUファミリ、CPUモデル、CPUステッピングなどの環境情報が記録される。
FIG. 7 is a configuration example of the client information management table 16D used in the image distribution server 1. The client information management table 16D is a table for managing environment information and operation information of each client terminal 2 participating in the video conference.
FIG. 8 is a configuration example of the environment information recording table 24D used in the client terminal 2. This environment information recording table 24D is a table for managing the environment information of the client terminal 2, and the environment of the client terminal 2, such as CPU capability value, test value, vendor ID, CPU family, CPU model, CPU stepping, etc. Information is recorded.

図9は、クライアント端末2で用いられる動作情報記録テーブル25Cの構成例である。この動作情報記録テーブル25Cは、当該クライアント端末2の動作情報を管理するためのテーブルであり、当該クライアント端末2でのCPU使用率や、前回測定CPU使用率などの動作情報が記録される。   FIG. 9 is a configuration example of the operation information recording table 25C used in the client terminal 2. The operation information recording table 25C is a table for managing the operation information of the client terminal 2, and operation information such as the CPU usage rate at the client terminal 2 and the previous measurement CPU usage rate is recorded.

[第1の実施の形態]
次に、図10を参照して、本発明の第1の実施の形態にかかる画像通信システムの動作について説明する。図10は、本発明の第1の実施の形態にかかる画像通信システムの動作を示すシーケンス図である。
本実施の形態では、ビデオ会議を例として、図11に示すように、画像配信サーバ1が開始したビデオ会議に、1つ目のクライアント端末2Aが参加する場合について説明する。図11は、本発明の第1の実施の形態にかかる画像通信システムの構成例である。
[First Embodiment]
Next, the operation of the image communication system according to the first embodiment of the present invention will be described with reference to FIG. FIG. 10 is a sequence diagram showing an operation of the image communication system according to the first embodiment of the present invention.
In the present embodiment, a case where the first client terminal 2A participates in a video conference started by the image distribution server 1 as illustrated in FIG. 11 will be described by taking a video conference as an example. FIG. 11 is a configuration example of the image communication system according to the first embodiment of the present invention.

画像配信サーバ1およびクライアント端末2の構成については、前述の図2および図3と同様である。
また、環境情報としてクライアント端末2のコンピュータで用いられるCPUの能力(P−II、P−IIIなど)を用い、動作情報としてそのCPUの使用率(10%、25%など)を用い、画像の品質として画像サイズ(VGA、CIF、QCIF、SQCIFなど)と、フレームレート(15fps、5fpsなど:Frame Per Second)を用いる。
また、前提として、クライアント端末2AのCPUは「P−II/300MHz」とし、クライアント端末2Aの環境情報記録テーブル24Dには、図12に示すように、CPU能力の値として「P−II」と記録してあるものとする。
The configurations of the image distribution server 1 and the client terminal 2 are the same as those in FIGS. 2 and 3 described above.
Further, the CPU capability (P-II, P-III, etc.) used in the computer of the client terminal 2 is used as environment information, and the CPU usage rate (10%, 25%, etc.) is used as operation information. As the quality, an image size (VGA, CIF, QCIF, SQCIF, etc.) and a frame rate (15 fps, 5 fps, etc .: Frame Per Second) are used.
Further, as a premise, the CPU of the client terminal 2A is “P-II / 300 MHz”, and the environment information recording table 24D of the client terminal 2A has “P-II” as the value of the CPU capability as shown in FIG. It shall be recorded.

なお、VGA(Video Graphics Array)は、パーソナルコンピュータで使用されている画像処理用ビデオカードの規格であり、CIF(Common Intermediate Format)は、ITUの映像圧縮符号化規格H.261で定められた、世界共通の画像用フォーマットである。また、QCIF(Quarter CIF)は、CIFの縦横サイズを1/2にしたクォーターサイズ用フォーマットであり、SQCIF(Sub QCIF)はQCIFのほぼ1/2のサイズのフォーマットである。VGA、CIF、QCIF、SQCIFの解像度(ドット数)は、それぞれ640×480,352×288,176×144,128×96である。
また、CPUを示す「P−II/300MHz」のうち、「P−II」は、例えばペンティアム(Pentium:登録商標)などCPUの形式を示し、「300MHz」とはその動作周波数を示している。
Note that VGA (Video Graphics Array) is a standard for video cards for image processing used in personal computers, and CIF (Common Intermediate Format) is a video compression coding standard H.264 of ITU. This is an image format common to the world defined by H.261. Further, QCIF (Quarter CIF) is a quarter size format in which the vertical and horizontal sizes of CIF are halved, and SQCIF (Sub QCIF) is a format having a size almost ½ of QCIF. The resolution (number of dots) of VGA, CIF, QCIF, and SQCIF is 640 × 480, 352 × 288, 176 × 144, and 128 × 96, respectively.
Of “P-II / 300 MHz” indicating the CPU, “P-II” indicates a CPU type such as Pentium (registered trademark), for example, and “300 MHz” indicates its operating frequency.

まず、画像配信サーバ1の画像配信制御部11は、オペレータ操作によるビデオ会議の開始要求や、予め予約されているビデオ会議の開始時刻の到来に応じて、クライアント端末2Aが参加できるビデオ会議の開始状態とする(ステップ100)。
クライアント端末2Aのクライアント端末制御部21も同様にして、利用者によるビデオ会議の開始要求や、予め予約されているビデオ会議の開始時刻の到来に応じて、画像配信サーバ1へビデオ会議の参加要求を行う(ステップ101)。
First, the image distribution control unit 11 of the image distribution server 1 starts a video conference in which the client terminal 2A can participate in response to a request for starting a video conference by an operator operation or the arrival of a reserved video conference start time. A state is set (step 100).
Similarly, the client terminal control unit 21 of the client terminal 2A also requests the video distribution server 1 to participate in a video conference in response to the start request of the video conference by the user or the arrival of the reserved video conference start time. (Step 101).

画像配信サーバ1の画像配信制御部11は、クライアント端末2Aからのビデオ会議参加要求に応じて、図13に示すように、接続クライアント数管理テーブル16Cのうち、接続待機数を「0」から「1」に更新し、接続を要求しているクライアント数の台数を管理する(ステップ102)。そして、クライアント端末2Aへ環境情報の報告要求を行う(ステップ103)。
クライアント端末2Aは、画像配信サーバ1からの環境情報報告要求に応じて、環境情報管理部24から環境情報記録テーブル24DのCPU能力の値「P−II」を環境情報として取得し(ステップ104)、これを画像配信サーバ1へ報告する(ステップ105)。
In response to the video conference participation request from the client terminal 2A, the image distribution control unit 11 of the image distribution server 1 changes the connection waiting number from “0” to “0” in the connection client number management table 16C as shown in FIG. The number of clients requesting connection is managed (step 102). Then, a report request for environmental information is made to the client terminal 2A (step 103).
In response to the environmental information report request from the image distribution server 1, the client terminal 2A acquires the CPU capability value “P-II” of the environmental information recording table 24D from the environmental information management unit 24 as environmental information (step 104). This is reported to the image distribution server 1 (step 105).

画像配信サーバ1の画像配信制御部11は、クライアント端末2Aからの環境情報報告に応じて、図14に示すように、その環境情報の値「P−II」と環境情報テーブル16Bと比較し(ステップ106)、クライアント端末2AのCPU能力を「P−II」と決定する(ステップ107)。そして、クライアント情報管理テーブル16Dに、クライアント端末2AのCPU能力が「P−II」であることを記録する(ステップ108)。
次に、画像配信サーバ1の画像配信制御部11は、クライアント端末2Aへ画像送信を要求する(ステップ109)。
In response to the environmental information report from the client terminal 2A, the image distribution control unit 11 of the image distribution server 1 compares the environmental information value “P-II” with the environmental information table 16B as shown in FIG. Step 106), the CPU capability of the client terminal 2A is determined as "P-II" (Step 107). Then, it is recorded in the client information management table 16D that the CPU capability of the client terminal 2A is “P-II” (step 108).
Next, the image distribution control unit 11 of the image distribution server 1 requests image transmission to the client terminal 2A (step 109).

クライアント端末2Aのクライアント端末制御部21は、画像配信サーバ1からの画像送信要求に応じて、画像入力部23Aからカメラ20Aで撮影した映像を取り込んで、画像コーデック部23Cでエンコードし(ステップ110)、画像配信サーバ1への送信を開始する(ステップ111)。
画像配信サーバ1の画像配信制御部11は、クライアント端末2Aからの画像送信開始に応じて、クライアント端末2Aへ動作情報の送信要求を行う(ステップ112)。
In response to the image transmission request from the image distribution server 1, the client terminal control unit 21 of the client terminal 2A takes in the video shot by the camera 20A from the image input unit 23A and encodes it by the image codec unit 23C (step 110). Then, transmission to the image distribution server 1 is started (step 111).
In response to the start of image transmission from the client terminal 2A, the image distribution control unit 11 of the image distribution server 1 makes a transmission request for operation information to the client terminal 2A (step 112).

クライアント端末2Aのクライアント端末制御部21は、画像配信サーバ1からの動作情報送信要求に応じて、動作情報自動取得部25Aまたは動作情報テストプログラム部25Bにより動作情報の取得を行い(ステップ113)、図15に示すように、取得した動作情報「25%」を動作情報記録テーブル25Cに記録し(ステップ114)、画像配信サーバ1へその動作情報「25%」を報告する(ステップ115)。
画像配信サーバ1の画像配信制御部11は、クライアント端末2Aからの動作情報報告に応じて、図16に示すように、その動作情報「25%」をクライアント情報管理テーブル16Dに記録する(ステップ116)。
The client terminal control unit 21 of the client terminal 2A acquires the operation information by the operation information automatic acquisition unit 25A or the operation information test program unit 25B in response to the operation information transmission request from the image distribution server 1 (step 113). As shown in FIG. 15, the acquired operation information “25%” is recorded in the operation information recording table 25C (step 114), and the operation information “25%” is reported to the image distribution server 1 (step 115).
In response to the operation information report from the client terminal 2A, the image distribution control unit 11 of the image distribution server 1 records the operation information “25%” in the client information management table 16D as shown in FIG. 16 (step 116). ).

次に、画像配信サーバ1の画像配信制御部11は、接続クライアント数管理テーブル16C、クライアント情報管理テーブル16D、および配信画像品質しきい値テーブル16Aを参照し、クライアント端末2Aに配信する画像の品質を決定する(ステップ117)。
この場合、図17に示すように、クライアント情報管理テーブル16Dのうちクライアント端末2AのCPU能力が「P−II」であることから、P−II用の配信画像品質しきい値テーブル16Aを選択し、接続クライアント数管理テーブル16Cの接続数と接続待機数の合計の値で決定される画像数「1」と、クライアント情報管理テーブル16Dのクライアント端末2AのCPU使用率「25%」との組から、P−II用の配信画像品質しきい値テーブル16Aを参照して、クライアント端末2Aに配信する画像の品質を「QCIF/5fps」に決定する。
Next, the image distribution control unit 11 of the image distribution server 1 refers to the connected client number management table 16C, the client information management table 16D, and the distribution image quality threshold table 16A, and the quality of the image distributed to the client terminal 2A. Is determined (step 117).
In this case, as shown in FIG. 17, since the CPU capability of the client terminal 2A is “P-II” in the client information management table 16D, the distribution image quality threshold table 16A for P-II is selected. From the set of the number of images “1” determined by the sum of the number of connections and the number of connections waiting in the connected client number management table 16C and the CPU usage rate “25%” of the client terminal 2A in the client information management table 16D. The quality of the image distributed to the client terminal 2A is determined to be “QCIF / 5fps” with reference to the distribution image quality threshold table 16A for P-II.

次に、画像配信サーバ1の画像配信制御部11は、クライアント端末2Aから受信しているエンコードされた画像を、画像コーデック部13Cで一旦デコードした後(ステップ118)、クライアント端末2Aに配信する画像の品質「QCIF/5fps」に再度エンコードし(ステップ119)、クライアント端末2Aに配信する(ステップ120)。また、図18に示すように、接続クライアント数管理テーブル16Cのうち、接続数を「1」とし接続待機数を「0」とし(ステップ121)、一連のビデオ会議参加時の処理を終了する。
クライアント端末2Aのクライアント端末制御部21は、画像配信サーバ1から配信された画像を、画像コーデック部23Cでデコードし、画像出力部23Bからディスプレイ20Bへ出力し(ステップ122)、一連のビデオ会議参加時の処理を終了する。
Next, the image distribution control unit 11 of the image distribution server 1 once decodes the encoded image received from the client terminal 2A by the image codec unit 13C (step 118), and then distributes the image to the client terminal 2A. Is encoded again into the quality “QCIF / 5fps” (step 119) and distributed to the client terminal 2A (step 120). Also, as shown in FIG. 18, in the connected client number management table 16C, the number of connections is set to “1” and the number of waiting connections is set to “0” (step 121), and the processing at the time of a series of video conference participation is completed.
The client terminal control unit 21 of the client terminal 2A decodes the image distributed from the image distribution server 1 by the image codec unit 23C, outputs the image from the image output unit 23B to the display 20B (step 122), and participates in a series of video conferences. End the hour process.

このように、クライアント端末2の静的性能を示す環境情報と動的性能を示す動作情報を、クライアント端末2から通信ネットワーク10を介して画像配信サーバ1へ通知し、画像配信サーバ1で、クライアント端末2から通知された環境情報および動作情報に基づいて当該クライアント端末2へ配信する画像の画像品質を決定し、その画像品質に基づき当該クライアント端末2へ配信する画像の画像品質を変換して配信するようにしたので、クライアント端末2がビデオ会議に参加した時点で、画像配信サーバ1は、クライアント端末2に配信される画像の品質を調整し、クライアント端末2の処理能力に応じた画像を配信することができる。
したがって、各クライアント端末2で他の処理を停滞させることなく受信画像を表示でき、安定した画像配信サービスを提供することができる。
As described above, the environment information indicating the static performance of the client terminal 2 and the operation information indicating the dynamic performance are notified from the client terminal 2 to the image distribution server 1 via the communication network 10. The image quality of the image distributed to the client terminal 2 is determined based on the environment information and the operation information notified from the terminal 2, and the image quality of the image distributed to the client terminal 2 is converted based on the image quality and distributed. When the client terminal 2 participates in the video conference, the image distribution server 1 adjusts the quality of the image distributed to the client terminal 2 and distributes an image according to the processing capability of the client terminal 2 can do.
Therefore, each client terminal 2 can display a received image without stagnation of other processes, and can provide a stable image distribution service.

以上では、環境情報として、クライアント端末2のコンピュータで用いられるCPUの能力(P−II、P−III、P−IVなど)を利用する場合を例として説明したが、クライアント端末2のコンピュータで用いられるOSの種類(Windows98、WindowsXPなど:商標登録)、メモリの種類(500MB、1GBなど)、あるいは画像描画のAPI(Application Program Interface)の種類(DirectX8、DirectX9など:商標登録)を利用してもよいし、これらを組み合わせてもよい。
また、動作情報として、クライアント端末2のコンピュータで用いられるCPUの使用率を用いたが、クライアント端末2のコンピュータで用いられるメモリの利用状況、あるいは通信ネットワーク10の利用状況を利用してもよいし、これらを組み合わせてもよい。
In the above description, the case where the CPU capability (P-II, P-III, P-IV, etc.) used in the computer of the client terminal 2 is used as environment information has been described as an example. Even if an OS type (Windows 98, Windows XP, etc .: trademark registration), a memory type (500 MB, 1 GB, etc.), or an API (Application Program Interface) type of image drawing (DirectX8, DirectX9, etc .: trademark registration) is used. These may be combined.
Further, although the usage rate of the CPU used in the computer of the client terminal 2 is used as the operation information, the usage status of the memory used in the computer of the client terminal 2 or the usage status of the communication network 10 may be used. These may be combined.

また、画像の品質として、画像サイズ(VGA、CIF、QCIF、SQCIFなど)と、フレームレート(15fps、5fpsなど)を用いたが、画像圧縮率(圧縮率1/5、圧縮率1/15、圧縮率1/30など)を利用してもよいし、これらを組み合わせてもよい。
また、環境情報および動作情報については、画像配信サーバ1の要求に基づきクライアント端末2Aが報告する場合を例に説明したが、クライアント端末2が自律的に画像配信サーバ1へ報告するようにしてもよい。
Further, as the image quality, the image size (VGA, CIF, QCIF, SQCIF, etc.) and the frame rate (15 fps, 5 fps, etc.) are used, but the image compression rate (compression rate 1/5, compression rate 1/15, Compression ratio 1/30, etc.) may be used, or these may be combined.
Moreover, although the case where the client terminal 2A reports the environment information and the operation information based on the request from the image distribution server 1 has been described as an example, the client terminal 2 may autonomously report to the image distribution server 1. Good.

[第2の実施の形態]
次に、図19,図20を参照して、本発明の第2の実施の形態にかかる画像通信システムの動作について説明する。図19,図20は、本発明の第2の実施の形態にかかる画像通信システムの動作を示すシーケンス図である。
前述した第1の実施の形態では、図11に示したように、画像配信サーバ1が開始したビデオ会議に1つのクライアント端末2Aが参加する場合を例として説明した。本実施の形態では、図21に示すように、既に1つのクライアント端末2Aが上記ビデオ会議に参加している状態で、さらに2つ目のクライアント端末2Bがそのビデオ会議に参加する場合を例として説明する。図21は、本発明の第2の実施の形態にかかる画像通信システムの構成例である。
[Second Embodiment]
Next, the operation of the image communication system according to the second embodiment of the present invention will be described with reference to FIGS. 19 and 20 are sequence diagrams illustrating the operation of the image communication system according to the second embodiment of the present invention.
In the first embodiment described above, the case where one client terminal 2A participates in a video conference started by the image distribution server 1 as illustrated in FIG. 11 has been described as an example. In the present embodiment, as shown in FIG. 21, a case where one client terminal 2A is already participating in the video conference and a second client terminal 2B is participating in the video conference is taken as an example. explain. FIG. 21 is a configuration example of an image communication system according to the second embodiment of the present invention.

画像配信サーバ1およびクライアント端末2の構成については、前述の図2および図3と同様である。
また、環境情報としてクライアント端末2のコンピュータで用いられるCPUの能力(P−II、P−IIIなど)を用い、動作情報としてそのCPUの使用率(10%、25%など)を用い、画像の品質として画像サイズ(VGA、CIF、QCIF、SQCIFなど)とフレームレート(15fps、5fpsなど)を用いる。
また、前提として、クライアント端末2のうち、既にビデオ会議に参加しているクライアント端末2AのCPUは「P−II/300MHz」で、新たにビデオ会議に参加するクライアント端末2BのCPUは「P−III/600MHz」であるとし、これらクライアント端末2A,2Bの環境情報記録テーブル24Dには、図12,図22に示すように、それぞれCPU能力の値に「P−II」,「P−III」と記録してあるものとする。
The configurations of the image distribution server 1 and the client terminal 2 are the same as those in FIGS. 2 and 3 described above.
Further, the CPU capability (P-II, P-III, etc.) used in the computer of the client terminal 2 is used as environment information, and the CPU usage rate (10%, 25%, etc.) is used as operation information. The image size (VGA, CIF, QCIF, SQCIF, etc.) and the frame rate (15 fps, 5 fps, etc.) are used as the quality.
As a premise, the CPU of the client terminal 2A that has already participated in the video conference among the client terminals 2 is “P-II / 300 MHz”, and the CPU of the client terminal 2B that newly participates in the video conference is “P- The environment information recording table 24D of these client terminals 2A and 2B includes “P-II” and “P-III” as the CPU capability values as shown in FIGS. Is recorded.

また、クライアント端末2Aの動作情報記録テーブル25Cでは、図23に示すように、CPU使用率の値が「25%」であり、前回測定CPU使用率の値には、記録がない状態になっているものとする。同様に、クライアント端末2Bの動作情報記録テーブル25Cでは、図24に示すように、CPU使用率の値および前回測定CPU使用率の値には、記録がない状態になっている。
また、画像配信サーバ1の接続クライアント数管理テーブル16Cでは、図25に示すように、接続数が「1」、接続待機数が「0」の値になっている。
Further, in the operation information recording table 25C of the client terminal 2A, as shown in FIG. 23, the CPU usage rate value is “25%”, and the previous measurement CPU usage rate value is not recorded. It shall be. Similarly, in the operation information recording table 25C of the client terminal 2B, as shown in FIG. 24, the CPU usage rate value and the previous measurement CPU usage rate value are not recorded.
Also, in the connected client number management table 16C of the image distribution server 1, as shown in FIG. 25, the number of connections is “1” and the number of connection waiting is “0”.

初期状態として、画像配信サーバ1は、ビデオ会議を開始しており(ステップ200)、クライアント端末2Aは通信ネットワーク10を介して画像配信サーバ1へ画像を送信しており(ステップ201)、通信ネットワーク10を介してクライアント端末2Aへ、配信画像品質しきい値テーブル16Aに基づき「QCIF/5fps」の画質で画像を配信している(ステップ202)。   As an initial state, the image distribution server 1 has started a video conference (step 200), and the client terminal 2A has transmitted an image to the image distribution server 1 via the communication network 10 (step 201). 10, the image is distributed to the client terminal 2A with the image quality of “QCIF / 5fps” based on the distribution image quality threshold value table 16A (step 202).

ここで、クライアント端末2Bから、通信ネットワーク10を介して画像配信サーバ1へ、ビデオ会議の参加要求が行われた場合(ステップ203)、画像配信サーバ1の画像配信制御部11は、図25に示すように、接続クライアント数管理テーブル16Cの接続待機数の値を「0」から「1」に変更する(ステップ204)。
そして、画像配信サーバ1の画像配信制御部11は、クライアント端末2Bに、環境情報の報告を要求する(ステップ205)。
Here, when a request for participation in the video conference is made from the client terminal 2B to the image distribution server 1 via the communication network 10 (step 203), the image distribution control unit 11 of the image distribution server 1 is shown in FIG. As shown, the connection waiting number value in the connected client number management table 16C is changed from “0” to “1” (step 204).
Then, the image distribution control unit 11 of the image distribution server 1 requests the client terminal 2B to report environment information (step 205).

クライアント端末2Bのクライアント端末制御部21は、画像配信サーバ1からの環境情報報告要求に応じて、環境情報記録テーブル24DからCPU能力の値「P−III」を取得し(ステップ206)、これを画像配信サーバ1に報告する(ステップ207)。
画像配信サーバ1の画像配信制御部11は、クライアント端末2Bから報告された環境情報の値「P−III」と環境情報テーブル16Bと比較し(ステップ208)、該当値がある場合は、その値をクライアント端末2BのCPU能力を「P−III」と決定する(ステップ209)。そして、クライアント情報管理テーブル16Dに、図26に示すように、クライアント端末2BのCPU能力が「P−III」であることを記録する(ステップ210)。
The client terminal control unit 21 of the client terminal 2B obtains the CPU capability value “P-III” from the environment information recording table 24D in response to the environment information report request from the image distribution server 1 (step 206). Report to the image distribution server 1 (step 207).
The image distribution control unit 11 of the image distribution server 1 compares the value “P-III” of the environment information reported from the client terminal 2B with the environment information table 16B (step 208). The CPU capability of the client terminal 2B is determined as “P-III” (step 209). Then, in the client information management table 16D, as shown in FIG. 26, it is recorded that the CPU capability of the client terminal 2B is “P-III” (step 210).

次に、画像配信サーバ1の画像配信制御部11は、クライアント端末2Bに、画像送信の要求を行う(ステップ211)。
クライアント端末2Bのクライアント端末制御部21は、画像配信サーバ1からの画像送信要求に応じて、画像入力部23Aからカメラ20Aで撮影した映像を取り込んで、画像コーデック部23Cでエンコードし(ステップ212)、画像配信サーバ1への送信を開始する(ステップ213)。
Next, the image distribution control unit 11 of the image distribution server 1 makes a request for image transmission to the client terminal 2B (step 211).
In response to the image transmission request from the image distribution server 1, the client terminal control unit 21 of the client terminal 2B takes in the video shot by the camera 20A from the image input unit 23A and encodes it by the image codec unit 23C (step 212). Then, transmission to the image distribution server 1 is started (step 213).

画像配信サーバ1の画像配信制御部11は、クライアント端末2Bからの画像送信開始に応じて、クライアント端末2Aおよびクライアント端末2Bに、動作情報の送信要求を行う(ステップ214,215)。
クライアント端末2Aのクライアント端末制御部21は、画像配信サーバ1からの動作情報送信要求に応じて、動作情報の取得を行い(ステップ216)、取得した動作情報のCPU使用率の値が「30%」の場合は、図23に示すように、動作情報記録テーブル25CのCPU使用率を「25%」から「30%」に更新するとともに、前回測定CPU使用率を「未記録」から「25%」に更新し(ステップ217)、動作情報としてCPU使用率「30%」を画像配信サーバ1に報告する(ステップ218)。
In response to the start of image transmission from the client terminal 2B, the image distribution control unit 11 of the image distribution server 1 makes a transmission request for operation information to the client terminal 2A and the client terminal 2B (steps 214 and 215).
The client terminal control unit 21 of the client terminal 2A acquires the operation information in response to the operation information transmission request from the image distribution server 1 (step 216), and the CPU usage rate value of the acquired operation information is “30%”. 23, the CPU usage rate in the operation information recording table 25C is updated from “25%” to “30%”, and the previous measurement CPU usage rate is changed from “unrecorded” to “25%” as shown in FIG. (Step 217), the CPU usage rate “30%” is reported to the image distribution server 1 as operation information (step 218).

一方、クライアント端末2Bのクライアント端末制御部21は、画像配信サーバ1からの動作情報送信要求に応じて、動作情報の取得を行い(ステップ219)、取得した動作情報のCPU使用率の値が「15%」の場合は、図24に示すように、動作情報記録テーブル25CのCPU使用率を「未記録」から「15%」に更新するとともに、前回測定CPU使用率を「未記録」のままに更新し(ステップ220)、動作情報としてCPU使用率「15%」を画像配信サーバ1に報告する(ステップ221)。   On the other hand, the client terminal control unit 21 of the client terminal 2B acquires the operation information in response to the operation information transmission request from the image distribution server 1 (step 219), and the CPU usage rate value of the acquired operation information is “ In the case of “15%”, as shown in FIG. 24, the CPU usage rate in the operation information recording table 25C is updated from “unrecorded” to “15%” and the previously measured CPU usage rate remains “unrecorded”. (Step 220), and the CPU usage rate “15%” is reported to the image distribution server 1 as operation information (step 221).

画像配信サーバ1の画像配信制御部11は、このようにして受信したそれぞれの動作情報について、図27に示すように、クライアント情報管理テーブル16Dのうち、クライアント端末2AのCPU使用率として「30%」を記録し、クライアント端末2BのCPU使用率として「15%」を記録する(ステップ222)。
そして、画像配信サーバ1の画像配信制御部11は、接続クライアント数管理テーブル16C、クライアント情報管理テーブル16D、および配信画像品質しきい値テーブル16Aを参照して、各クライアント端末2A,2Bに配信する画像の品質をそれぞれ別個に決定する(ステップ223)。
As shown in FIG. 27, the image distribution control unit 11 of the image distribution server 1 sets “30%” as the CPU usage rate of the client terminal 2A in the client information management table 16D. Is recorded, and “15%” is recorded as the CPU usage rate of the client terminal 2B (step 222).
Then, the image distribution control unit 11 of the image distribution server 1 refers to the connected client number management table 16C, the client information management table 16D, and the distribution image quality threshold table 16A and distributes it to each of the client terminals 2A and 2B. The image quality is determined separately (step 223).

この場合、クライアント端末2Aについては、クライアント情報管理テーブル16Dのうちクライアント端末2AのCPU能力が「P−II」であることから、P−II用の配信画像品質しきい値テーブル16Aを選択し、接続クライアント数管理テーブル16Cの接続数「1」と、接続待機数「1」の合計の値で決定される画像数「2」と、クライアント情報管理テーブル16Dのクライアント端末2AのCPU使用率「30%」との組から、P−II用の配信画像品質しきい値テーブル16Aを参照して、クライアント端末2Aに配信する画像の品質を「SQCIF/10fps」に決定する。   In this case, for the client terminal 2A, since the CPU capability of the client terminal 2A is “P-II” in the client information management table 16D, the distribution image quality threshold value table 16A for P-II is selected, The number of images “2” determined by the total value of the number of connections “1” in the connection client number management table 16C and the number of connections waiting “1”, and the CPU usage rate “30” of the client terminal 2A in the client information management table 16D From the set of “%”, the quality of the image distributed to the client terminal 2A is determined to be “SQCIF / 10 fps” with reference to the distribution image quality threshold table 16A for P-II.

また、クライアント端末2Bについては、クライアント情報管理テーブル16Dのうちクライアント端末2BのCPU能力が「P−III」であることから、P−III用の配信画像品質しきい値テーブル16Aを選択し、接続クライアント数管理テーブル16Cの接続数「1」と、接続待機数「1」の合計の値で決定される画像数「2」と、クライアント情報管理テーブル16Dのクライアント端末2BのCPU使用率「15%」との組から、P−III用の配信画像品質しきい値テーブル16Aを参照して、クライアント端末2Bに配信する画像の品質を「CIF/15fps」に決定する。   For the client terminal 2B, since the CPU capability of the client terminal 2B is “P-III” in the client information management table 16D, the distribution image quality threshold value table 16A for P-III is selected and connected. The number of images “2” determined by the total value of the number of connections “1” in the client number management table 16C and the number of standby connections “1”, and the CPU usage rate “15%” of the client terminal 2B in the client information management table 16D ”And the distribution image quality threshold value table 16A for P-III, the quality of the image distributed to the client terminal 2B is determined as“ CIF / 15 fps ”.

次に、画像配信サーバ1の画像配信制御部11は、クライアント端末2Aから受信しているエンコードされた画像を、画像コーデック部13Cでデコードする(ステップ224)。
そして、クライアント端末2Aへ画像を配信するため、デコード後の画像をクライアント端末2Aに配信する画像の品質である「SQCIF/10fps」にエンコードし(ステップ225)、クライアント端末2Aに配信する(ステップ226)する。
また、クライアント端末2Bへ画像を配信するため、デコード後の画像をクライアント端末2Bに配信する画像の品質である「CIF/15fps」にエンコードし(ステップ225)、クライアント端末2Bに配信する(ステップ227)。
Next, the image distribution control unit 11 of the image distribution server 1 decodes the encoded image received from the client terminal 2A by the image codec unit 13C (step 224).
Then, in order to distribute the image to the client terminal 2A, the decoded image is encoded into “SQCIF / 10 fps” which is the quality of the image to be distributed to the client terminal 2A (step 225) and distributed to the client terminal 2A (step 226). )
Further, in order to distribute the image to the client terminal 2B, the decoded image is encoded into “CIF / 15 fps” which is the quality of the image to be distributed to the client terminal 2B (step 225), and is distributed to the client terminal 2B (step 227). ).

同様にして、画像配信サーバ1の画像配信制御部11は、クライアント端末2Bから受信しているエンコードされた画像を、画像コーデック部13Cでデコードする(ステップ224)。
そして、クライアント端末2Aへ画像を配信するため、デコード後の画像をクライアント端末2Aに配信する画像の品質である「SQCIF/10fps」にエンコードし(ステップ225)、クライアント端末2Aに配信する(ステップ226)する。
また、クライアント端末2Bへ画像を配信するため、デコード後の画像をクライアント端末2Bに配信する画像の品質である「CIF/15fps」にエンコードし(ステップ225)、クライアント端末2Bに配信する(ステップ227)。
そして、画像配信サーバ1の画像配信制御部11は、図28に示すように、接続クライアント数管理テーブル16Cのうち、接続数を「2」とし接続待機数を「0」とする(ステップ228)。
Similarly, the image distribution control unit 11 of the image distribution server 1 decodes the encoded image received from the client terminal 2B by the image codec unit 13C (step 224).
Then, in order to distribute the image to the client terminal 2A, the decoded image is encoded into “SQCIF / 10 fps” which is the quality of the image to be distributed to the client terminal 2A (step 225) and distributed to the client terminal 2A (step 226). )
Further, in order to distribute the image to the client terminal 2B, the decoded image is encoded into “CIF / 15 fps” which is the quality of the image to be distributed to the client terminal 2B (step 225), and is distributed to the client terminal 2B (step 227). ).
Then, as shown in FIG. 28, the image distribution control unit 11 of the image distribution server 1 sets the connection number to “2” and the connection waiting number to “0” in the connection client number management table 16C (step 228). .

これに応じて、クライアント端末2Aのクライアント端末制御部21は、画像配信サーバ1から配信されたクライアント端末2Aからの画像を「SQCIF/10fps」の品質で受信するとともに、クライアント端末2Bからの画像を「SQCIF/10fps」の品質で受信し、これら画像を画像コーデック部13Cでデコードし、画像出力部23Bでディスプレイ20Bに出力する(ステップ229)。
また、クライアント端末2Bのクライアント端末制御部21は、画像配信サーバ1から配信されたクライアント端末2Aからの画像を「CIF/15fps」の品質で受信するとともに、クライアント端末2Bからの画像を「CIF/15fps」の品質で受信し、これらの画像を画像コーデック部23Cでデコードし、画像出力部23Bでディスプレイ20Bに出力する(ステップ230)。
In response to this, the client terminal control unit 21 of the client terminal 2A receives the image from the client terminal 2A distributed from the image distribution server 1 with the quality of “SQCIF / 10fps”, and receives the image from the client terminal 2B. Received with the quality of “SQCIF / 10 fps”, these images are decoded by the image codec unit 13C, and output to the display 20B by the image output unit 23B (step 229).
Further, the client terminal control unit 21 of the client terminal 2B receives the image from the client terminal 2A distributed from the image distribution server 1 with the quality of “CIF / 15 fps”, and receives the image from the client terminal 2B as “CIF / The image codec unit 23C decodes these images, and the image output unit 23B outputs them to the display 20B (step 230).

このように、クライアント端末2の環境情報および動作情報に加えて、各クライアント端末2に配信される画像の数、すなわち通信ネットワーク10を介して接続しているクライアント端末2の数をも考慮して、各クライアント端末2へ配信する画像の画像品質を決定するようにしたので、ビデオ会議に新たなクライアント端末2が参加し、配信される画像の数が増えても、画像配信サーバ1は、各クライアント端末2に配信される画像の品質を適切に調整して、各クライアント端末2の処理能力に応じた画像を配信することができる。   Thus, in addition to the environment information and operation information of the client terminal 2, the number of images distributed to each client terminal 2, that is, the number of client terminals 2 connected via the communication network 10 is also taken into consideration. Since the image quality of the image to be distributed to each client terminal 2 is determined, even if a new client terminal 2 participates in the video conference and the number of images to be distributed increases, the image distribution server 1 The image according to the processing capability of each client terminal 2 can be distributed by appropriately adjusting the quality of the image distributed to the client terminal 2.

以上では、環境情報として、クライアント端末2のコンピュータで用いられるCPUの能力(P−II、P−III、P−IVなど)を利用する場合を例として説明したが、クライアント端末2のコンピュータで用いられるOSの種類(Windows98、WindowsXPなど)、メモリの種類(500MB、1GBなど)、あるいは画像描画のAPIの種類(DirectX8、DirectX9など)を利用してもよいし、これらを組み合わせてもよい。
また、動作情報として、クライアント端末2のコンピュータで用いられるCPUの使用率を用いたが、クライアント端末2のコンピュータで用いられるメモリの利用状況、あるいは通信ネットワーク10の利用状況を利用してもよいし、これらを組み合わせてもよい。
In the above description, the case where the CPU capability (P-II, P-III, P-IV, etc.) used in the computer of the client terminal 2 is used as environment information has been described as an example. OS types (Windows 98, Windows XP, etc.), memory types (500 MB, 1 GB, etc.), image drawing API types (Direct X8, Direct X9, etc.) may be used, or a combination thereof.
Further, although the usage rate of the CPU used in the computer of the client terminal 2 is used as the operation information, the usage status of the memory used in the computer of the client terminal 2 or the usage status of the communication network 10 may be used. These may be combined.

また、画像の品質として、画像サイズ(VGA、CIF、QCIF、SQCIFなど)と、フレームレート(15fps、5fpsなど)を用いたが、画像圧縮率(圧縮率1/5、圧縮率1/15、圧縮率1/30など)を利用してもよいし、これらを組み合わせてもよい。
また、環境情報および動作情報については、画像配信サーバ1の要求に基づきクライアント端末2Aが報告する場合を例に説明したが、クライアント端末2が自律的に画像配信サーバ1へ報告するようにしてもよい。
Further, as the image quality, the image size (VGA, CIF, QCIF, SQCIF, etc.) and the frame rate (15 fps, 5 fps, etc.) are used, but the image compression rate (compression rate 1/5, compression rate 1/15, Compression ratio 1/30, etc.) may be used, or these may be combined.
Moreover, although the case where the client terminal 2A reports the environment information and the operation information based on the request from the image distribution server 1 has been described as an example, the client terminal 2 may autonomously report to the image distribution server 1. Good.

[第3の実施の形態]
次に、図29を参照して、本発明の第3の実施の形態にかかる画像通信システムの動作について説明する。図29は、本発明の第3の実施の形態にかかる画像通信システムの動作を示すシーケンス図である。
前述した第2の実施の形態では、図21に示したように、ビデオ会議において2つのクライアント端末2A,2Bが参加する場合を例として説明した。本実施の形態では、図30に示すように、ビデオ会議を例として、既に2つのクライアント端末2A,2Bがビデオ会議に参加している状態で、クライアント端末2Aにおいてビデオ会議以外のアプリケーションを新たに起動した場合を例として説明する。図30は、本発明の第3の実施の形態にかかる画像通信システムの構成例である。
[Third Embodiment]
Next, the operation of the image communication system according to the third embodiment of the present invention will be described with reference to FIG. FIG. 29 is a sequence diagram showing operations of the image communication system according to the third embodiment of the present invention.
In the second embodiment described above, the case where two client terminals 2A and 2B participate in a video conference as illustrated in FIG. 21 has been described as an example. In the present embodiment, as shown in FIG. 30, a video conference is taken as an example, and two client terminals 2A and 2B are already participating in the video conference, and a new application other than the video conference is newly established in the client terminal 2A. The case where it starts is demonstrated as an example. FIG. 30 is a configuration example of an image communication system according to the third embodiment of the present invention.

画像配信サーバ1およびクライアント端末2の構成については、前述の図2および図3と同様である。
なお、各クライアント端末2A,2Bは、それぞれ図31に示す内容の動作情報しきい値テーブル25Dを用いるものとする。
また、環境情報として、クライアント端末2のコンピュータで用いられるCPUの能力(P−II、P−IIIなど)を用い、動作情報としてそのCPUの使用率(10%、25%など)を用い、画像の品質として画像サイズ(VGA、CIF、QCIF、SQCIFなど)とフレームレート(15fps、5fpsなど)を用いる。
The configurations of the image distribution server 1 and the client terminal 2 are the same as those in FIGS. 2 and 3 described above.
Each of the client terminals 2A and 2B uses an operation information threshold value table 25D having the contents shown in FIG.
Further, the CPU capability (P-II, P-III, etc.) used in the computer of the client terminal 2 is used as environment information, and the CPU usage rate (10%, 25%, etc.) is used as operation information. The image size (VGA, CIF, QCIF, SQCIF, etc.) and the frame rate (15 fps, 5 fps, etc.) are used as the quality of the image.

初期状態として、画像配信サーバ1は、ビデオ会議を開始しており(ステップ300)、クライアント端末2Aは通信ネットワーク10を介して画像配信サーバ1へ画像(A)を送信しており(ステップ301)、クライアント端末2Bは通信ネットワーク10を介して画像配信サーバ1へ画像を送信している(ステップ302)。   As an initial state, the image distribution server 1 starts a video conference (step 300), and the client terminal 2A transmits an image (A) to the image distribution server 1 via the communication network 10 (step 301). The client terminal 2B transmits an image to the image distribution server 1 via the communication network 10 (step 302).

ここで、クライアント端末2のうち、既にビデオ会議に参加しているクライアント端末2AのCPUは「P−II/300MHz」で、環境情報記録テーブル24Dには、CPU能力の値に「P−II」と記録してあるものとする。また、クライアント端末2Aの動作情報記録テーブル25Cには、CPU使用率の値に「30%」と記録され、前回測定CPU使用率の値に「25%」と記録されているものとする。
また、画像配信サーバ1のビデオ会議には、クライアント端末2A,2Bが参加しているため、接続クライアント数管理テーブル16Cには、接続数「2」、接続待機数「0」が記録されている。
Here, among the client terminals 2, the CPU of the client terminal 2A that has already participated in the video conference is “P-II / 300 MHz”, and the environment information recording table 24D has a CPU capability value of “P-II”. Is recorded. In the operation information recording table 25C of the client terminal 2A, “30%” is recorded as the value of the CPU usage rate, and “25%” is recorded as the value of the previous measurement CPU usage rate.
Further, since the client terminals 2A and 2B participate in the video conference of the image distribution server 1, the number of connections “2” and the number of connections waiting “0” are recorded in the number of connected clients management table 16C. .

したがって、画像配信サーバ1の画像配信制御部11は、クライアント端末2AのCPU能力が「P−II」、画像数が「2」、CPU使用率が「30%」であることから、クライアント端末2Aに対して、クライアント端末2Aとクライアント端末2Bから受信している画像を、配信画像品質しきい値テーブル16Aに基づき「SQCIF/10fps」にエンコードして画像を送信している(ステップ303)。   Accordingly, the image distribution control unit 11 of the image distribution server 1 has the client terminal 2A because the CPU capability of the client terminal 2A is “P-II”, the number of images is “2”, and the CPU usage rate is “30%”. On the other hand, the images received from the client terminal 2A and the client terminal 2B are encoded to “SQCIF / 10 fps” based on the distribution image quality threshold value table 16A and transmitted (step 303).

また、クライアント端末2のうち、既にビデオ会議に参加しているクライアント端末2BのCPUは「P−III/600MHz」で、環境情報記録テーブル24Dには、CPU能力の値に「P−III」と記録してあるものとする。また、クライアント端末2Bの動作情報記録テーブル25Cには、CPU使用率の値に「15%」と記録され、前回測定CPU使用率の値に「未記録」と記録されているものとする。   Among the client terminals 2, the CPU of the client terminal 2B that has already participated in the video conference is “P-III / 600 MHz”, and the environment information recording table 24D has “P-III” as the value of CPU capability. It shall be recorded. In the operation information recording table 25C of the client terminal 2B, “15%” is recorded as the CPU usage rate value, and “unrecorded” is recorded as the previous measurement CPU usage rate value.

したがって、画像配信サーバ1の画像配信制御部11は、クライアント端末2BのCPU能力が「P−III」、画像数が「2」、CPU使用率が「15%」であることから、クライアント端末2Bに対して、クライアント端末2Aとクライアント端末2Bから受信している画像を、配信画像品質しきい値テーブル16Aに基づき「CIF/15fps」にエンコードして画像を送信している(ステップ304)。   Accordingly, the image distribution control unit 11 of the image distribution server 1 has the client terminal 2B having the CPU capability “P-III”, the number of images “2”, and the CPU usage rate “15%”. On the other hand, the images received from the client terminal 2A and the client terminal 2B are encoded to “CIF / 15 fps” based on the distribution image quality threshold value table 16A and transmitted (step 304).

このような状態で、クライアント端末2Aが、ビデオ会議以外のアプリケーションを起動し、CPU使用率が「30%」から「45%」に増加したとする(ステップ305)。クライアント端末2Aの動作情報管理部25は、定期的に動作情報の取得を行っており(ステップ306)、上記変化に応じて、図32に示すように、動作情報記録テーブル25CのCPU使用率を「30%」から「45%」と更新し、前回測定CPU使用率を「30%」に更新する(ステップ307)。   In this state, it is assumed that the client terminal 2A activates an application other than the video conference and the CPU usage rate has increased from “30%” to “45%” (step 305). The operation information management unit 25 of the client terminal 2A periodically acquires operation information (step 306), and in response to the change, the CPU usage rate of the operation information recording table 25C is set as shown in FIG. “30%” is updated to “45%”, and the previous measurement CPU usage rate is updated to “30%” (step 307).

そして、クライアント端末2Aのクライアント端末制御部21は、動作情報記録テーブル25Cの値と、動作情報しきい値テーブル25Dと比較する(ステップ308)。このとき、図33に示すように、CPU使用率「45%」は状態Bであり、前回測定CPU使用率「30%」は状態Aであり、動作状態が状態Aから状態Bに変化していることから、画像配信サーバ1に、動作情報としてCPU使用率「45%」を報告する(ステップ309)。   Then, the client terminal control unit 21 of the client terminal 2A compares the value of the motion information recording table 25C with the motion information threshold value table 25D (step 308). At this time, as shown in FIG. 33, the CPU usage rate “45%” is in the state B, the previous measurement CPU usage rate “30%” is in the state A, and the operation state changes from the state A to the state B. Therefore, the CPU usage rate “45%” is reported to the image distribution server 1 as operation information (step 309).

画像配信サーバ1の画像配信制御部11は、クライアント端末2Aの動作情報としてCPU使用率「45%」を受けて、クライアント端末2A用のクライアント情報管理テーブル16Dのうち、図34に示すように、CPU使用率を「30%」から「45%」と更新する(ステップ310)。
また、このクライアント情報管理テーブル16D、接続クライアント数管理テーブル16C、および配信画像品質しきい値テーブル16Aを参照すると、クライアント端末2Aに配信する画像品質が「SQCIF/10fps」から「SQCIF/5fps」に変更になるため(ステップ311)、画像コーデック部13Cでは、クライアント端末2Aに配信する画像の品質を「SQCIF/5fps」に変更してエンコードし(ステップ312)、クライアント端末2Aに配信する(ステップ313)。
The image distribution control unit 11 of the image distribution server 1 receives the CPU usage rate “45%” as the operation information of the client terminal 2A, and in the client information management table 16D for the client terminal 2A, as shown in FIG. The CPU usage rate is updated from “30%” to “45%” (step 310).
Further, referring to the client information management table 16D, the connected client number management table 16C, and the distribution image quality threshold table 16A, the image quality distributed to the client terminal 2A is changed from “SQCIF / 10 fps” to “SQCIF / 5 fps”. Because of the change (step 311), the image codec unit 13C changes the quality of the image distributed to the client terminal 2A to “SQCIF / 5fps”, encodes it (step 312), and distributes it to the client terminal 2A (step 313). ).

これに応じて、クライアント端末2Aのクライアント端末制御部21は、画像品質が「SQCIF/10fps」から「SQCIF/5fps」に変更され、CPUの処理が軽減された画像を、画像配信サーバ1から受信して、画像コーデック部23Cでデコードし、画像出力部でディスプレイに出力する(ステップ314)。   In response to this, the client terminal control unit 21 of the client terminal 2A receives from the image distribution server 1 an image whose image quality is changed from “SQCIF / 10 fps” to “SQCIF / 5 fps” and the processing of the CPU is reduced. Then, it is decoded by the image codec unit 23C and output to the display by the image output unit (step 314).

このように、クライアント端末2から通知された動作情報の変化に応じて、当該クライアント端末2へ配信する画像の画像品質を見直すようにしたので、ビデオ会議に参加しているクライアント端末2が自端末のビデオ会議以外のアプリケーションを起動し、CPU使用率が増加した場合でも、画像配信サーバ1は、そのクライアント端末2に配信される画像の品質を調整し、クライアント端末2の処理能力に応じた画像を配信することができる。   As described above, since the image quality of the image to be distributed to the client terminal 2 is reviewed according to the change in the operation information notified from the client terminal 2, the client terminal 2 participating in the video conference can recognize the terminal itself. Even if the application other than the video conference is started and the CPU usage rate increases, the image distribution server 1 adjusts the quality of the image distributed to the client terminal 2 and the image according to the processing capability of the client terminal 2. Can be delivered.

なお、本実施の形態では、クライアント端末2で定期的に動作情報を取得して、その都度、動作状態の変化を確認し、動作状態の変化があった場合に、動作情報を画像配信サーバ1に報告し、画像配信サーバ1で、この報告に応じてそのクライアント端末2へ配信する画像の品質の変更を行う場合について説明したが、クライアント端末2で動作状態の変更有無を確認せず、画像配信サーバ1で確認するようにしてもよい。
すなわち、クライアント端末2で定期的に動作情報を取得して、その都度、動作情報を画像配信サーバ1に報告し、画像配信サーバ1で、この報告を受けた時に、クライアント端末2の動作状態が変化したかを確認し、その変化があった場合に、そのクライアント端末2へ配信する画像の品質の変更を行うようにしてもよい。
In the present embodiment, the operation information is periodically acquired by the client terminal 2, the change of the operation state is confirmed each time, and when the operation state changes, the operation information is stored in the image distribution server 1. However, the image distribution server 1 has changed the quality of the image to be distributed to the client terminal 2 in response to this report. You may make it confirm with the delivery server 1. FIG.
That is, the operation information is periodically acquired by the client terminal 2, and the operation information is reported to the image distribution server 1 each time. When the image distribution server 1 receives this report, the operation state of the client terminal 2 is It may be confirmed whether the image has been changed, and if the change has occurred, the quality of the image distributed to the client terminal 2 may be changed.

また、本実施の形態では、クライアント端末2のCPU使用率が増加した場合を例に説明したが、CPU使用率が減少した場合でも同様にして適用できる。
また、本実施の形態では、クライアント端末2のCPU使用率の変化に伴い、画像配信サーバ1から配信される画像の品質を変化させることにより、そのクライアント端末2の画像受信時のCPUの処理負担を調整する場合を例に説明したが、クライアント端末2が画像配信サーバ1に送信している画像の品質を変化させることにより、そのクライアント端末2の画像送信時のCPUの処理負担を調整するようにしてもよく、その両方を行うようにしてもよい。
In the present embodiment, the case where the CPU usage rate of the client terminal 2 increases has been described as an example. However, the present invention can be similarly applied even when the CPU usage rate decreases.
In the present embodiment, the processing load of the CPU at the time of receiving the image of the client terminal 2 is changed by changing the quality of the image distributed from the image distribution server 1 in accordance with the change in the CPU usage rate of the client terminal 2. However, the processing load of the CPU at the time of image transmission of the client terminal 2 is adjusted by changing the quality of the image transmitted from the client terminal 2 to the image distribution server 1. Alternatively, both may be performed.

以上では、環境情報として、クライアント端末2のコンピュータで用いられるCPUの能力(P−II、P−III、P−IVなど)を利用する場合を例として説明したが、クライアント端末2のコンピュータで用いられるOSの種類(Windows98、WindowsXPなど)、メモリの種類(500MB、1GBなど)、あるいは画像描画のAPIの種類(DirectX8、DirectX9など)を利用してもよいし、これらを組み合わせてもよい。
また、動作情報として、クライアント端末2のコンピュータで用いられるCPUの使用率を用いたが、クライアント端末2のコンピュータで用いられるメモリの利用状況、あるいは通信ネットワーク10の利用状況を利用してもよいし、これらを組み合わせてもよい。
In the above description, the case where the CPU capability (P-II, P-III, P-IV, etc.) used in the computer of the client terminal 2 is used as environment information has been described as an example. OS types (Windows 98, Windows XP, etc.), memory types (500 MB, 1 GB, etc.), image drawing API types (Direct X8, Direct X9, etc.) may be used, or a combination thereof.
Further, although the usage rate of the CPU used in the computer of the client terminal 2 is used as the operation information, the usage status of the memory used in the computer of the client terminal 2 or the usage status of the communication network 10 may be used. These may be combined.

また、画像の品質として、画像サイズ(VGA、CIF、QCIF、SQCIFなど)と、フレームレート(15fps、5fpsなど)を用いたが、画像圧縮率(圧縮率1/5、圧縮率1/15、圧縮率1/30など)を利用してもよいし、これらを組み合わせてもよい。   Further, as the image quality, the image size (VGA, CIF, QCIF, SQCIF, etc.) and the frame rate (15 fps, 5 fps, etc.) are used, but the image compression rate (compression rate 1/5, compression rate 1/15, Compression ratio 1/30, etc.) may be used, or these may be combined.

[第4の実施の形態]
次に、図35および図36を参照して、本発明の第4の実施の形態にかかる画像通信システムの動作について説明する。図35は、本発明の第4の実施の形態にかかる画像通信システムのクライアント端末2における動作情報取得動作(逐次取得)を示すシーケンス図である。図36は、本発明の第4の実施の形態にかかる画像通信システムのクライアント端末2における動作情報取得動作(定期取得)を示すシーケンス図である。
本実施の形態では、クライアント端末2における動作情報の具体的な取得動作について説明する。
[Fourth Embodiment]
Next, with reference to FIGS. 35 and 36, the operation of the image communication system according to the fourth embodiment of the present invention will be described. FIG. 35 is a sequence diagram illustrating an operation information acquisition operation (sequential acquisition) in the client terminal 2 of the image communication system according to the fourth embodiment of the present invention. FIG. 36 is a sequence diagram illustrating an operation information acquisition operation (periodic acquisition) in the client terminal 2 of the image communication system according to the fourth embodiment of the present invention.
In the present embodiment, a specific operation for acquiring operation information in the client terminal 2 will be described.

クライアント端末2が、動作情報を取得するタイミングは、図35に示すように、画像配信サーバ1から動作情報の要求を受けた時に行うもの(逐次取得)と、図36に示すように、クライアント端末2のクライアント端末制御部21が起動してから定期的に行うもの(定期取得)がある。
なお、クライアント端末2で、動作情報を取得する方法としては、動作情報自動取得部25Aにより当該クライアント端末2のOSの管理情報であるレジストリの値からCPU使用率を自動取得する方法(動作情報自動取得)と、動作情報テストプログラム部25Bで動作情報テストプログラムを実行することによりCPU使用率を取得する方法(動作情報テストプログラム実行取得)がある。
As shown in FIG. 35, the client terminal 2 acquires the operation information when it receives a request for operation information from the image distribution server 1 (sequential acquisition), and as shown in FIG. 36, the client terminal 2 acquires the operation information. There is one that is periodically performed (periodic acquisition) after the client terminal control unit 21 of No. 2 is activated.
In addition, as a method of acquiring operation information in the client terminal 2, a method of automatically acquiring the CPU usage rate from the registry value that is management information of the OS of the client terminal 2 by the operation information automatic acquisition unit 25A (automatic operation information acquisition) Acquisition) and a method of acquiring the CPU usage rate by executing the operation information test program in the operation information test program unit 25B (operation information test program execution acquisition).

まず、図35を参照して、クライアント端末2が画像配信サーバ1から動作情報の要求を受けた時の取得動作について説明する。
画像配信サーバ1からの動作情報要求に応じて(ステップ400)、クライアント端末2のクライアント端末制御部21は、動作情報自動取得部25Aにより動作情報を取得し(ステップ401)、動作情報を取得できた場合は(ステップ402:YES)、その動作情報を動作情報記録テーブル25Cへ記録して更新し(ステップ404)、画像配信サーバ1にその動作情報を報告する(ステップ405)。
一方、動作情報を取得できなかった場合は(ステップ402:NO)、動作情報テストプログラム部25Bにより動作情報を取得して(ステップ403)、ステップ404へ移行する。
First, the acquisition operation when the client terminal 2 receives a request for operation information from the image distribution server 1 will be described with reference to FIG.
In response to the operation information request from the image distribution server 1 (step 400), the client terminal control unit 21 of the client terminal 2 can acquire the operation information by the operation information automatic acquisition unit 25A (step 401), and can acquire the operation information. If it is (step 402: YES), the operation information is recorded and updated in the operation information recording table 25C (step 404), and the operation information is reported to the image distribution server 1 (step 405).
On the other hand, when the operation information cannot be acquired (step 402: NO), the operation information is acquired by the operation information test program unit 25B (step 403), and the process proceeds to step 404.

次に、図36を参照して、クライアント端末2が定期的に動作情報を取得する場合の動作について説明する。
まず、クライアント端末2のクライアント端末制御部21は、定期的な取得タイミングの到来に応じて、動作情報自動取得部25Aにより動作情報を取得し(ステップ410)、動作情報を取得できた場合は(ステップ411:YES)、その動作情報を動作情報記録テーブル25Cに記録して更新する(ステップ413)。なお、動作情報を取得できなかった場合は(ステップ411:NO)、動作情報テストプログラム部25Bにより動作情報を取得して(ステップ412)、ステップ413へ移行する。
Next, with reference to FIG. 36, an operation when the client terminal 2 periodically acquires operation information will be described.
First, the client terminal control unit 21 of the client terminal 2 acquires the operation information by the operation information automatic acquisition unit 25A in accordance with the arrival of the periodic acquisition timing (step 410). Step 411: YES), the operation information is recorded and updated in the operation information recording table 25C (step 413). If the operation information cannot be acquired (step 411: NO), the operation information is acquired by the operation information test program unit 25B (step 412), and the process proceeds to step 413.

そして、動作情報記録テーブル25Cと動作情報しきい値テーブル25Dとを比較し(ステップ414)、動作状態に変化があった場合は(ステップ415:YES)、画像配信サーバ1に新たな動作情報を報告し(ステップ416)、その後、動作情報に変化がなかった場合と同様に、次の取得タイミングまで待機状態となる(ステップ417)。
なお、以上の説明において、動作情報自動取得部25Aで動作情報を取得できなかった場合とは、取得した値が、100%を超える数値、0%より小さい数値、あるいは数値以外の値(文字列など)であると判断された場合である。
Then, the motion information recording table 25C and the motion information threshold value table 25D are compared (step 414). If the motion state has changed (step 415: YES), new motion information is stored in the image distribution server 1. In the same manner as when there is no change in the operation information (step 416), the process waits until the next acquisition timing (step 417).
In the above description, when the motion information cannot be acquired by the motion information automatic acquisition unit 25A, the acquired value is a numerical value exceeding 100%, a numerical value less than 0%, or a value other than a numerical value (character string Etc.).

このように、クライアント端末2で、動作情報自動取得部25Aや動作情報テストプログラム部25Bを用いて、画像配信サーバ1からの要求に応じてあるいは定期的に動作情報を取得して通知するようにしたので、画像配信サーバ1は、各クライアント端末2の動作情報を正確に把握することが可能になる。   In this manner, the client terminal 2 uses the motion information automatic acquisition unit 25A and the motion information test program unit 25B to acquire and notify the motion information in response to a request from the image distribution server 1 or periodically. Therefore, the image distribution server 1 can accurately grasp the operation information of each client terminal 2.

なお、本実施の形態では、動作情報テストプログラムがクライアント端末2にある場合を例として説明したが、画像配信サーバ1からダウンロードして利用するようにしてもよい。
また、動作情報として、クライアント端末2のコンピュータで用いられるCPUの使用率を用いたが、メモリの利用状況、あるいは通信ネットワーク10の利用状況を利用してもよいし、これらを組み合わせてもよい。
In this embodiment, the case where the operation information test program is in the client terminal 2 has been described as an example. However, the operation information test program may be downloaded from the image distribution server 1 and used.
Further, although the usage rate of the CPU used in the computer of the client terminal 2 is used as the operation information, the usage status of the memory or the usage status of the communication network 10 may be used, or these may be combined.

[第5の実施の形態]
次に、図37を参照して、本発明の第5の実施の形態にかかる画像通信システムの動作について説明する。図37は、本発明の第5の実施の形態にかかる画像通信システムの動作を示すシーケンス図である。
本実施の形態では、クライアント端末2における環境情報の具体的な取得動作について説明する。
[Fifth Embodiment]
Next, the operation of the image communication system according to the fifth embodiment of the present invention will be described with reference to FIG. FIG. 37 is a sequence diagram showing operations of the image communication system according to the fifth embodiment of the present invention.
In the present embodiment, a specific operation for acquiring environment information in the client terminal 2 will be described.

クライアント端末2が、環境情報を取得する方法としては、そのクライアント端末2の利用者により操作入力されたものを取得する方法(環境情報操作入力取得)と、環境情報自動取得部24Bにより自動取得する方法(環境情報自動取得)と、環境情報テストプログラム部24Cで環境情報テストプログラムを実行することにより取得する方法(環境情報テストプログラム実行取得)とがある。   The client terminal 2 acquires the environment information as a method for acquiring an operation input by the user of the client terminal 2 (environment information operation input acquisition) and automatically acquiring it by the environment information automatic acquisition unit 24B. There are a method (environmental information test program execution acquisition) and a method (environmental information test program execution acquisition) obtained by executing the environment information test program in the environment information test program unit 24C.

クライアント端末2にクライアント端末制御部21をインストールした時や、設定の変更を行う時、クライアント端末制御部21は、クライアント端末2の利用者が操作入力したCPU能力(例:P−II、P−III など)を、環境情報操作入力部24Aで取得する環境情報操作入力取得を行い(ステップ500)、環境情報記録テーブル24Dに記録を行う(ステップ501)。   When the client terminal control unit 21 is installed in the client terminal 2 or when the setting is changed, the client terminal control unit 21 performs CPU input (for example, P-II, P-) operated by the user of the client terminal 2. III) is acquired by the environment information operation input unit 24A (step 500), and is recorded in the environment information recording table 24D (step 501).

このような環境情報操作入力取得が実施されない場合でも、以下の処理により、環境情報の取得が可能である。
クライアント端末2のクライアント端末制御部21は、会議に参加する場合、画像配信サーバ1からの環境情報の要求に応じて(ステップ510)、環境情報操作入力取得により得られたCPU能力を、環境情報記録テーブル24Dから読み出し、環境情報として画像配信サーバ1に報告する(ステップ511)。
Even when such environmental information operation input acquisition is not performed, environmental information can be acquired by the following processing.
When participating in a conference, the client terminal control unit 21 of the client terminal 2 responds to a request for environment information from the image distribution server 1 (step 510), and uses the CPU capability obtained by acquiring the environment information operation input as the environment information. The information is read from the recording table 24D and reported to the image distribution server 1 as environment information (step 511).

画像配信サーバ1の画像配信制御部11は、クライアント端末2から報告された環境情報操作入力取得により得られたCPU能力が環境情報テーブル16Bにあるか判断し(ステップ512)、該当する値がある場合は(ステップ512:YES)、クライアント端末2のCPU能力として環境情報テーブル16Bの該当する値を用い(ステップ530)、クライアント情報管理テーブル16Dを更新する(ステップ531)。   The image distribution control unit 11 of the image distribution server 1 determines whether or not the CPU capability obtained by acquiring the environment information operation input reported from the client terminal 2 is in the environment information table 16B (step 512), and there is a corresponding value. In such a case (step 512: YES), the client information management table 16D is updated (step 531) using the corresponding value of the environment information table 16B as the CPU capability of the client terminal 2 (step 530).

一方、該当する値がない場合は(ステップ512:NO)、クライアント端末2へ環境情報の再要求を行う(ステップ513)。
環境情報の再要求を受けたクライアント端末2のクライアント端末制御部21は、環境情報自動取得部24Bにより、OS情報のうちCPUベンダがCPUの情報として提供しているCPUIDデータ・タブから、ベンダID、CPUファミリ、CPUモデル、CPUステッピングの各値を取得する環境情報自動取得を実施し(ステップ514)、取得できた場合は(ステップ515:YES)、これら値を環境情報記録テーブル24Dに記録するとともに(ステップ516)、画像配信サーバ1に環境情報として報告する(ステップ517)。
On the other hand, if there is no corresponding value (step 512: NO), the client terminal 2 is re-requested for environmental information (step 513).
The client terminal control unit 21 of the client terminal 2 that has received the re-request for the environment information uses the vendor ID from the CPUID data tab provided as CPU information by the CPU vendor in the OS information by the environment information automatic acquisition unit 24B. , CPU family, CPU model, and CPU stepping values are automatically acquired (step 514). If they can be acquired (step 515: YES), these values are recorded in the environment information recording table 24D. At the same time (step 516), it is reported to the image distribution server 1 as environmental information (step 517).

画像配信サーバ1の画像配信制御部11は、クライアント端末2から報告されたCPU能力が環境情報テーブル16Bにあるか判断し(ステップ520)、該当する値がある場合は(ステップ520:YES)、前述したステップ530へ移行する。
また、該当する値がない場合は(ステップ520:NO)、クライアント端末2へ環境情報の再々要求を行う(ステップ521)。
The image distribution control unit 11 of the image distribution server 1 determines whether or not the CPU capability reported from the client terminal 2 is in the environment information table 16B (step 520), and if there is a corresponding value (step 520: YES), The process proceeds to step 530 described above.
If there is no corresponding value (step 520: NO), the client terminal 2 is requested again for environmental information (step 521).

クライアント端末2のクライアント端末制御部21は、ステップ515で環境情報自動取得ができない場合(ステップ515:NO)、また画像配信サーバ1から環境情報の再々要求が来た場合(ステップ521)、環境情報テストプログラム部24Cにより、環境情報テストプログラムを実行して、CPUの動作周波数を測定し、テスト値(例:300MHz、600MHz、2.0GHzなど)を取得する(ステップ522)。そして、そのテスト値を環境情報記録テーブル24Dに記録するとともに(ステップ523)、そのテスト値を画像配信サーバ1に環境情報として報告する(ステップ524)。   If the client terminal control unit 21 of the client terminal 2 cannot automatically acquire environment information in step 515 (step 515: NO), or if a re-request for environment information is received from the image distribution server 1 (step 521), the environment information The test program unit 24C executes the environment information test program, measures the operating frequency of the CPU, and obtains test values (eg, 300 MHz, 600 MHz, 2.0 GHz, etc.) (step 522). Then, the test value is recorded in the environment information recording table 24D (step 523), and the test value is reported to the image distribution server 1 as environment information (step 524).

画像配信サーバ1の画像配信制御部11は、クライアント端末2からの環境情報(テスト値)の報告に応じて、前述したステップ530で、クライアント端末2のCPU能力として、上記報告のCPU能力に該当する環境情報テーブル16Bの値を用い、クライアント情報管理テーブル16Dを更新する(ステップ531)。   In response to the report of the environment information (test value) from the client terminal 2, the image distribution control unit 11 of the image distribution server 1 corresponds to the CPU capability of the above report as the CPU capability of the client terminal 2 in step 530 described above. The client information management table 16D is updated using the value of the environment information table 16B to be executed (step 531).

このように、クライアント端末2で、環境情報操作入力部24A、環境情報自動取得部24B、あるいは環境情報テストプログラム部24Cを用いて、画像通信開始時あるいは画像配信サーバ1からの要求に応じて環境情報を取得して通知するようにしたので、画像配信サーバ1は、各クライアント端末2の環境情報を正確に把握することが可能になる。   As described above, in the client terminal 2, the environment information operation input unit 24A, the environment information automatic acquisition unit 24B, or the environment information test program unit 24C is used to start the image communication or in response to a request from the image distribution server 1. Since the information is acquired and notified, the image distribution server 1 can accurately grasp the environmental information of each client terminal 2.

なお、本実施の形態では、動作情報テストプログラムがクライアント端末2にある場合を例として説明したが、画像配信サーバ1からダウンロードして利用するようにしてもよい。
また、環境情報として、クライアント端末2のコンピュータで用いられるCPUの能力(P−II、P−III、P−IVなど)を利用する場合を例として説明したが、クライアント端末2のコンピュータで用いられるOSの種類(Windows98、WindowsXPなど)、メモリの種類(500MB、1GBなど)、あるいは画像描画のAPIの種類(DirectX8、DirectX9など)を利用してもよいし、これらを組み合わせてもよい。
また、環境情報について、画像配信サーバ1の要求に基づきクライアント端末2が報告する場合を例に説明したが、クライアント端末2が自律的に画像配信サーバ1へ報告するようにしてもよい。
In this embodiment, the case where the operation information test program is in the client terminal 2 has been described as an example. However, the operation information test program may be downloaded from the image distribution server 1 and used.
Moreover, although the case where the CPU capability (P-II, P-III, P-IV, etc.) used in the computer of the client terminal 2 is used as environment information has been described as an example, it is used in the computer of the client terminal 2. The OS type (Windows 98, Windows XP, etc.), the memory type (500 MB, 1 GB, etc.), or the image drawing API type (Direct X8, Direct X9, etc.) may be used, or these may be combined.
Moreover, although the case where the client terminal 2 reports environmental information based on the request | requirement of the image delivery server 1 was demonstrated to the example, you may make it the client terminal 2 report to the image delivery server 1 autonomously.

本発明の一実施の形態にかかる画像配信システムの構成を示すブロック図である。It is a block diagram which shows the structure of the image delivery system concerning one embodiment of this invention. 画像配信サーバの機能構成を示す機能ブロック図である。It is a functional block diagram which shows the function structure of an image delivery server. クライアント端末の機能構成を示す機能ブロック図である。It is a functional block diagram which shows the function structure of a client terminal. 画像配信サーバで用いられる配信画像品質しきい値テーブルの構成例である。It is an example of a structure of the delivery image quality threshold value table used with an image delivery server. 画像配信サーバで用いられる環境情報テーブルの構成例である。It is an example of a structure of the environment information table used with an image delivery server. 画像配信サーバで用いられる接続クライアント数管理テーブルの構成例である。It is an example of a structure of the connection client number management table used with an image delivery server. 画像配信サーバで用いられるクライアント情報管理テーブルの構成例である。It is an example of a structure of the client information management table used with an image delivery server. クライアント端末で用いられる環境情報記録テーブルの構成例である。It is an example of a structure of the environment information recording table used with a client terminal. クライアント端末で用いられる動作情報記録テーブルの構成例である。It is an example of a structure of the operation information recording table used with a client terminal. 本発明の第1の実施の形態にかかる画像通信システムの動作を示すシーケンス図である。It is a sequence diagram which shows operation | movement of the image communication system concerning the 1st Embodiment of this invention. 本発明の第1の実施の形態にかかる画像通信システムの構成例である。1 is a configuration example of an image communication system according to a first embodiment of the present invention. 環境情報記録テーブル(クライアント端末2A)の記録例である。It is a recording example of an environment information recording table (client terminal 2A). 接続クライアント数管理テーブル(画像配信サーバ1)の記録例である。It is a recording example of a connected client number management table (image distribution server 1). クライアント情報管理テーブル(画像配信サーバ1)の記録例である。It is a recording example of a client information management table (image delivery server 1). 動作情報記録テーブル(クライアント端末2A)の記録例である。It is a recording example of an operation information recording table (client terminal 2A). クライアント情報管理テーブル(画像配信サーバ1)の記録例である。It is a recording example of a client information management table (image delivery server 1). 画像品質決定手順を示す説明図である。It is explanatory drawing which shows an image quality determination procedure. 接続クライアント数管理テーブル(画像配信サーバ1)の記録例である。It is a recording example of a connected client number management table (image distribution server 1). 本発明の第2の実施の形態にかかる画像通信システムの動作を示すシーケンス図である。It is a sequence diagram which shows operation | movement of the image communication system concerning the 2nd Embodiment of this invention. 本発明の第2の実施の形態にかかる画像通信システムの動作の続きを示すシーケンス図である。It is a sequence diagram which shows the continuation of operation | movement of the image communication system concerning the 2nd Embodiment of this invention. 本発明の第2の実施の形態にかかる画像通信システムの構成例である。It is a structural example of the image communication system concerning the 2nd Embodiment of this invention. 環境情報記録テーブル(クライアント端末2A,2B)の記録例である。It is a recording example of an environment information recording table (client terminals 2A and 2B). 動作情報記録テーブル(クライアント端末2A)の記録例である。It is a recording example of an operation information recording table (client terminal 2A). 動作情報記録テーブル(クライアント端末2B)の記録例である。It is an example of a recording of an operation information recording table (client terminal 2B). 接続クライアント数管理テーブル(画像配信サーバ1)の記録例である。It is a recording example of a connected client number management table (image distribution server 1). クライアント情報管理テーブル(画像配信サーバ1)の記録例である。It is a recording example of a client information management table (image delivery server 1). クライアント情報管理テーブル(画像配信サーバ1)の記録例である。It is a recording example of a client information management table (image delivery server 1). 接続クライアント数管理テーブル(画像配信サーバ1)の記録例である。It is a recording example of a connected client number management table (image distribution server 1). 本発明の第3の実施の形態にかかる画像通信システムの動作を示すシーケンス図である。It is a sequence diagram which shows operation | movement of the image communication system concerning the 3rd Embodiment of this invention. 本発明の第3の実施の形態にかかる画像通信システムの構成例である。It is a structural example of the image communication system concerning the 3rd Embodiment of this invention. 動作情報しきい値テーブル(クライアント端末2A,2B)の記録例である。It is a recording example of an operation information threshold value table (client terminals 2A and 2B). 動作情報記録テーブル(クライアント端末2A)の記録例である。It is a recording example of an operation information recording table (client terminal 2A). クライアント端末での状態変化の確認手順を示す説明図である。It is explanatory drawing which shows the confirmation procedure of the state change in a client terminal. クライアント情報管理テーブル(画像配信サーバ1)の記録例である。It is a recording example of a client information management table (image delivery server 1). 本発明の第4の実施の形態にかかる画像通信システムのクライアント端末2における動作情報取得動作(逐次取得)を示すシーケンス図である。It is a sequence diagram which shows the operation | movement information acquisition operation | movement (sequential acquisition) in the client terminal 2 of the image communication system concerning the 4th Embodiment of this invention. 本発明の第4の実施の形態にかかる画像通信システムのクライアント端末2における動作情報取得動作(定期取得)を示すシーケンス図である。It is a sequence diagram which shows the operation | movement information acquisition operation | movement (periodic acquisition) in the client terminal 2 of the image communication system concerning the 4th Embodiment of this invention. 本発明の第5の実施の形態にかかる画像通信システムの動作を示すシーケンス図である。It is a sequence diagram which shows operation | movement of the image communication system concerning the 5th Embodiment of this invention.

符号の説明Explanation of symbols

1…画像配信サーバ、2,2A,2B,2C…クライアント端末、3A,3B,3C…画像(端末→サーバ)、4A,4B,4C…画像(サーバ→端末)、5A,5B,5C…環境情報、6A,6B,6C…動作情報、10…通信ネットワーク、11…画像配信制御部、12…通信インターフェース部、13…画像処理部、13A…画像受信部、13B…画像送信部、13C…画像コーデック部、14…環境情報管理部、15…動作情報管理部、16…テーブル管理部、16A…配信画像品質しきい値テーブル、16B…環境情報テーブル、16C…接続クライアント数管理テーブル、16D…クライアント情報管理テーブル、21…クライアント端末制御部、22…通信インターフェース部、23…画像管理部、23A…画像入力部、23B…画像出力部、23C…画像コーデック部、24…環境情報管理部、24A…環境情報操作入力部、24B…環境情報自動取得部、24C…環境情報テストプログラム部、24D…環境情報記録テーブル、25…動作情報管理部、25A…動作情報自動取得部、25B…動作情報テストプログラム部、25C…動作情報記録テーブル、25D…動作情報しきい値テーブル。
DESCRIPTION OF SYMBOLS 1 ... Image delivery server, 2, 2A, 2B, 2C ... Client terminal, 3A, 3B, 3C ... Image (terminal-> server), 4A, 4B, 4C ... Image (server-> terminal), 5A, 5B, 5C-Environment Information, 6A, 6B, 6C ... operation information, 10 ... communication network, 11 ... image distribution control unit, 12 ... communication interface unit, 13 ... image processing unit, 13A ... image receiving unit, 13B ... image sending unit, 13C ... image Codec section, 14 ... environment information management section, 15 ... operation information management section, 16 ... table management section, 16A ... distributed image quality threshold table, 16B ... environment information table, 16C ... connected client number management table, 16D ... client Information management table, 21... Client terminal control unit, 22... Communication interface unit, 23... Image management unit, 23 A. Image output unit 23C Image codec unit 24 Environment information management unit 24A Environment information operation input unit 24B Environment information automatic acquisition unit 24C Environment information test program unit 24D Environment information recording table 25 ... an operation information management unit, 25A ... an operation information automatic acquisition unit, 25B ... an operation information test program unit, 25C ... an operation information recording table, 25D ... an operation information threshold value table.

Claims (7)

通信ネットワークを介して画像を送受信するとともに受信した画像を表示する複数のクライアント端末と、前記通信ネットワークを介して接続している前記各クライアント端末から送信された画像を個々のクライアント端末の性能に応じた画像品質に変換してそれぞれ配信する画像配信サーバとを備える画像通信システムであって、
前記クライアント端末は、
自装置の静的性能を示す環境情報を前記通信ネットワークを介して画像配信サーバへ通知する環境情報管理部と、
自装置の動的性能を示す動作情報を前記通信ネットワークを介して画像配信サーバへ通知する動作情報管理部とを備え、
前記画像配信サーバは、
前記クライアント端末から通知された、当該クライアント端末の静的性能を示す環境情報と、当該クライアント端末の動的性能を示す動作情報と、当該画像配信サーバから画像を配信しているクライアント端末の接続数と、当該画像配信サーバへの接続を要求しているクライアント端末の接続待機数とに基づいて当該クライアント端末へ配信する画像の画像品質を決定する画像配信制御部と、
前記画像品質に基づき当該クライアント端末へ配信する画像の画像品質を変換する画像処理部とを備えることを特徴とする画像通信システム。
A plurality of client terminals that transmit and receive images via a communication network and display received images, and images transmitted from the respective client terminals connected via the communication network according to the performance of the individual client terminals An image communication system comprising an image distribution server that converts the image quality into a distributed image and distributes each image,
The client terminal is
An environment information management unit for notifying the image distribution server of environment information indicating the static performance of the own device via the communication network;
An operation information management unit for notifying the image distribution server of operation information indicating the dynamic performance of the device via the communication network;
The image distribution server
The environment information indicating the static performance of the client terminal, the operation information indicating the dynamic performance of the client terminal, and the number of connections of the client terminals that distribute images from the image distribution server, notified from the client terminal And an image distribution control unit that determines the image quality of the image to be distributed to the client terminal based on the connection waiting number of the client terminal that is requesting connection to the image distribution server ;
An image communication system comprising: an image processing unit that converts an image quality of an image distributed to the client terminal based on the image quality.
画像を送受信するとともに受信した画像を表示する複数のクライアント端末と通信ネットワークを介して接続されて、前記各クライアント端末から送信された画像を個々のクライアント端末の性能に応じた画像品質に変換してそれぞれ配信する画像配信サーバであって、
前記クライアント端末から前記通信ネットワークを介して通知された、当該クライアント端末の静的性能を示す環境情報と、当該クライアント端末の動的性能を示す動作情報と、当該画像配信サーバから画像を配信しているクライアント端末の接続数と、当該画像配信サーバへの接続を要求しているクライアント端末の接続待機数とに基づいて当該クライアント端末へ配信する画像の画像品質を決定する画像配信制御部と、
前記画像品質に基づき当該クライアント端末へ配信する画像の画像品質を変換する画像処理部とを備えることを特徴とする画像配信サーバ。
Connected via a communication network to a plurality of client terminals that transmit and receive images and display received images, and convert the images transmitted from each client terminal into image quality according to the performance of each client terminal An image distribution server that distributes each,
The environment information indicating the static performance of the client terminal, the operation information indicating the dynamic performance of the client terminal, and the image distributed from the image distribution server, notified from the client terminal via the communication network. An image distribution control unit that determines the image quality of an image to be distributed to the client terminal based on the number of connections of the client terminal and the connection waiting number of the client terminal that is requesting connection to the image distribution server ;
An image distribution server comprising: an image processing unit that converts an image quality of an image to be distributed to the client terminal based on the image quality.
請求項2に記載の画像配信サーバにおいて、
前記環境情報は、前記クライアント端末のコンピュータの性能を示す、CPU能力、OSの種類、メモリの種類、画像描画用APIの種類のうち、少なくともいずれか1つの情報を含み、
前記動作情報は、前記クライアント端末のコンピュータの性能を示す、CPU使用率、メモリの利用状況、通信ネットワークの利用状況のうち、少なくともいずれか1つの情報を含むことを特徴とする画像配信サーバ。
The image delivery server according to claim 2,
The environment information includes at least one information of CPU capability, OS type, memory type, and image drawing API type indicating the performance of the client terminal computer,
The image distribution server, wherein the operation information includes at least one of a CPU usage rate, a memory usage status, and a communication network usage status indicating the performance of the client terminal computer.
請求項2に記載の画像配信サーバにおいて、
前記画像配信制御部は、前記画像品質として、画像サイズ、フレームレート、画像圧縮率のうち、少なくともいずれか1つを決定することを特徴とする画像配信サーバ。
The image delivery server according to claim 2,
The image distribution control unit determines at least one of an image size, a frame rate, and an image compression rate as the image quality.
請求項2に記載の画像配信サーバにおいて、
前記画像配信制御部は、前記画像品質を決定する際、前記環境情報および動作情報に加え、前記通信ネットワークを介して接続している画像配信先クライアント端末の数に基づき、前記画像品質を決定することを特徴とする画像配信サーバ。
The image delivery server according to claim 2,
When determining the image quality, the image distribution control unit determines the image quality based on the number of image distribution destination client terminals connected via the communication network in addition to the environment information and the operation information. An image distribution server characterized by that.
通信ネットワークを介して画像を送受信するとともに受信した画像を表示する複数のクライアント端末と、前記通信ネットワークを介して接続している前記各クライアント端末から送信された画像を個々のクライアント端末の性能に応じた画像品質に変換してそれぞれ配信する画像配信サーバとを備える画像通信システムで用いられる画像通信方法であって、
前記クライアント端末の静的性能を示す環境情報を当該クライアント端末から前記通信ネットワークを介して画像配信サーバへ通知するステップと、
前記クライアント端末の動的性能を示す動作情報を当該クライアント端末から前記通信ネットワークを介して画像配信サーバへ通知するステップと、
前記画像配信サーバで、前記クライアント端末から通知された、当該クライアント端末の静的性能を示す環境情報と、当該クライアント端末の動的性能を示す動作情報と、当該画像配信サーバから画像を配信しているクライアント端末の接続数と、当該画像配信サーバへの接続を要求しているクライアント端末の接続待機数とに基づいて当該クライアント端末へ配信する画像の画像品質を決定するステップと、
前記画像配信サーバで、前記画像品質に基づき当該クライアント端末へ配信する画像の画像品質を変換するステップとを備えることを特徴とする画像通信方法。
A plurality of client terminals that transmit and receive images via a communication network and display received images, and images transmitted from the respective client terminals connected via the communication network according to the performance of the individual client terminals An image communication method used in an image communication system including an image distribution server that converts image quality and distributes each image quality,
Notifying environment information indicating the static performance of the client terminal from the client terminal to the image distribution server via the communication network;
Notifying operation information indicating the dynamic performance of the client terminal from the client terminal to the image distribution server via the communication network;
The image distribution server distributes the environment information indicating the static performance of the client terminal, the operation information indicating the dynamic performance of the client terminal, and the image transmitted from the image distribution server, notified from the client terminal. Determining the image quality of the image to be distributed to the client terminal based on the number of connections of the client terminal and the connection waiting number of the client terminal requesting connection to the image distribution server ;
And a step of converting an image quality of an image to be delivered to the client terminal based on the image quality by the image delivery server.
画像を送受信するとともに受信した画像を表示する複数のクライアント端末と通信ネットワークを介して接続されて、前記各クライアント端末から送信された画像を個々のクライアント端末の性能に応じた画像品質に変換してそれぞれ配信する画像配信サーバのコンピュータに、
前記クライアント端末から前記通信ネットワークを介して通知された、当該クライアント端末の静的性能を示す環境情報と、当該クライアント端末の動的性能を示す動作情報と、当該画像配信サーバから画像を配信しているクライアント端末の接続数と、当該画像配信サーバへの接続を要求しているクライアント端末の接続待機数とに基づいて当該クライアント端末へ配信する画像の画像品質を決定するステップと、
前記画像品質に基づき当該クライアント端末へ配信する画像の画像品質を変換するステップとを実行させるプログラム。
Connected via a communication network to a plurality of client terminals that transmit and receive images and display received images, and convert the images transmitted from each client terminal into image quality according to the performance of each client terminal To the computer of the image distribution server that distributes each,
The environment information indicating the static performance of the client terminal, the operation information indicating the dynamic performance of the client terminal, and the image distributed from the image distribution server, notified from the client terminal via the communication network. Determining the image quality of the image to be distributed to the client terminal based on the number of connections of the client terminal and the connection waiting number of the client terminal requesting connection to the image distribution server ;
A program for executing the step of converting the image quality of an image distributed to the client terminal based on the image quality.
JP2004026914A 2004-02-03 2004-02-03 Image communication system, image distribution server, image communication method, and program Expired - Lifetime JP4351084B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004026914A JP4351084B2 (en) 2004-02-03 2004-02-03 Image communication system, image distribution server, image communication method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004026914A JP4351084B2 (en) 2004-02-03 2004-02-03 Image communication system, image distribution server, image communication method, and program

Publications (2)

Publication Number Publication Date
JP2005223430A JP2005223430A (en) 2005-08-18
JP4351084B2 true JP4351084B2 (en) 2009-10-28

Family

ID=34998758

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004026914A Expired - Lifetime JP4351084B2 (en) 2004-02-03 2004-02-03 Image communication system, image distribution server, image communication method, and program

Country Status (1)

Country Link
JP (1) JP4351084B2 (en)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5039922B2 (en) 2008-03-21 2012-10-03 インターナショナル・ビジネス・マシーンズ・コーポレーション Image drawing system, image drawing server, image drawing method, and computer program
JP5163233B2 (en) * 2008-03-31 2013-03-13 富士通株式会社 Information processing apparatus, program, method, processing circuit, and communication system
CN101588252B (en) 2008-05-23 2011-07-20 华为技术有限公司 Control method and control device of multipoint conference
JP4661907B2 (en) * 2008-05-30 2011-03-30 ソニー株式会社 Information processing system, information processing apparatus, information processing method, and program
JP5401877B2 (en) * 2008-09-10 2014-01-29 日本電気株式会社 Information processing apparatus, information processing system, power saving method, and program
JP5347441B2 (en) * 2008-11-10 2013-11-20 日本電気株式会社 Moving image processing device
JP5229010B2 (en) * 2009-03-09 2013-07-03 パナソニック株式会社 Information service provision system
JP2012090078A (en) * 2010-10-20 2012-05-10 Konica Minolta Business Technologies Inc Content distribution system
CN103649968B (en) * 2011-07-06 2017-09-22 英派尔科技开发有限公司 Transcoding detection and content adjustment for best image
US10015559B2 (en) 2011-07-06 2018-07-03 Empire Technology Development Llc Transcoding detection and adjustment of content for optimal display
JP2015192230A (en) * 2014-03-27 2015-11-02 沖電気工業株式会社 Conference system, conference server, conference method, and conference program
JP2016066917A (en) * 2014-09-25 2016-04-28 Kddi株式会社 Content sharing system and content sharing method
WO2021169962A1 (en) * 2020-02-24 2021-09-02 北京字节跳动网络技术有限公司 Interaction method and apparatus, and electronic device

Also Published As

Publication number Publication date
JP2005223430A (en) 2005-08-18

Similar Documents

Publication Publication Date Title
JP4351084B2 (en) Image communication system, image distribution server, image communication method, and program
KR100797233B1 (en) Card type network interface, network conference terminal device and network conference system
US8068866B2 (en) Group communication server
US20160308920A1 (en) Visual Configuration for Communication Session Participants
US8635274B2 (en) Video conferencing using white board
CN104471556A (en) Multimedia conference endpoint transfer system
US9094527B2 (en) Seamlessly transferring a communication
EP3070935B1 (en) Apparatus, system, and method of controlling output of content data, and carrier means
US10296514B2 (en) Information processing system, method for acquiring information, information processing apparatus and recording medium
US9756096B1 (en) Methods for dynamically transmitting screen images to a remote device
CN102685079A (en) Resource sharing method
EP2421226A1 (en) Method of p2p video communication implemented on web page
JP4053869B2 (en) Video conferencing system
TWI644565B (en) Video image processing method and system using the same
JP6387972B2 (en) COMMUNICATION METHOD, COMMUNICATION SYSTEM, AND COMMUNICATION PROGRAM
JP2010086067A (en) Screen sharing system and screen sharing method
CN112752058B (en) Method and device for adjusting attribute of video stream
EP3125538A1 (en) Information processing apparatus, image display method, and communication system
KR101085063B1 (en) Group communication method in media server system with distributed structure
CN103974023A (en) System and method for adjusting video pictures
CN113066139B (en) Picture processing method and device, storage medium and electronic equipment
KR20220129293A (en) Communication protocol between kiosk and scoreboard for game management of unmanned billiards
KR20170071251A (en) Multi-point control unit for providing conference service
CN102098485A (en) User video conference system, remote management system and method for carrying out video conference
JP5389747B2 (en) Content conversion system and content conversion method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060330

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090414

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090612

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090721

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090723

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120731

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4351084

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130731

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140731

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term