JP2007194823A - Video and audio controller, video and audio adjustment system, video and audio adjusting method, and program - Google Patents

Video and audio controller, video and audio adjustment system, video and audio adjusting method, and program Download PDF

Info

Publication number
JP2007194823A
JP2007194823A JP2006009934A JP2006009934A JP2007194823A JP 2007194823 A JP2007194823 A JP 2007194823A JP 2006009934 A JP2006009934 A JP 2006009934A JP 2006009934 A JP2006009934 A JP 2006009934A JP 2007194823 A JP2007194823 A JP 2007194823A
Authority
JP
Japan
Prior art keywords
video
audio
client
quality
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2006009934A
Other languages
Japanese (ja)
Inventor
Goji Michigami
剛司 道上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Solution Innovators Ltd
Original Assignee
NEC System Technologies Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC System Technologies Ltd filed Critical NEC System Technologies Ltd
Priority to JP2006009934A priority Critical patent/JP2007194823A/en
Publication of JP2007194823A publication Critical patent/JP2007194823A/en
Pending legal-status Critical Current

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To suppress deterioration in audio quality and a caused by a packet loss of video and audio data resulting from a network load, a variation in packet arrival interval, the retransmission control of packets, an arrival delay, etc., in an environment where a band is not guaranteed. <P>SOLUTION: A video and audio automatic controller 1 sends an instruction to adjust the quality of included video so that audio is not affected by the state change of a network to a video and audio multipoint distribution device 2 and a client state monitoring device 5. The video and audio multipoint distribution device 2, and a video and audio transmitting device 3 and a video and audio receiving device 4 to which the instruction is transferred adjust the quality of the video. <P>COPYRIGHT: (C)2007,JPO&INPIT

Description

本発明は、ネットワーク状態やマシン状態の動的変化による音声品質の劣化の原因となる要因を排除し、ストレスの無い快適な音声コミュニケーションを実現する技術に関する。   The present invention relates to a technology that eliminates factors that cause voice quality degradation due to dynamic changes in network status and machine status, and realizes comfortable voice communication without stress.

従来、インターネットやイントラネット等帯域が保証されない回線を使用する電子会議システムにおいて、帯域最大値を設定し、その範囲に収まるような制御や、ネットワーク状態の変化に応じて、映像の品質を下げることによる音声帯域確保に関しては行われてきた。   Conventionally, in electronic conferencing systems that use lines that do not guarantee bandwidth, such as the Internet and Intranet, by setting the maximum bandwidth value and reducing the video quality according to changes in the network status and control within the range The voice band has been secured.

ここで、クライアント端末の静的性能を示す環境情報と動的性能を示す動作情報をクライアント端末から通信ネットワークを介して画像配信サーバへ通知し、画像配信サーバで、クライアント端末から通知された環境情報および動作情報に基づいて当該クライアント端末へ配信する画像の画像品質を決定し、その画像品質に基づき当該クライアント端末へ配信する画像の画像品質を変換して配信することで、個々のクライアント端末で他の処理を停滞させることなく受信画像を表示できる技術が提案されている(例えば、特許文献1参照)。
特開2005−223430号公報
Here, the environment information indicating the static performance of the client terminal and the operation information indicating the dynamic performance are notified from the client terminal to the image distribution server via the communication network, and the environment information notified from the client terminal by the image distribution server The image quality of the image to be delivered to the client terminal is determined based on the operation information, and the image quality of the image to be delivered to the client terminal is converted based on the image quality and delivered. There has been proposed a technique capable of displaying a received image without stagnation of the process (for example, see Patent Document 1).
JP 2005-223430 A

しかしながら、上述した従来例においては次のような問題点があった。   However, the conventional example described above has the following problems.

第1の問題点は、音声帯域の確保に関する制御のみを行っていることである。その理由は、音声に影響を与えないようにするには、音声の帯域を確保することが重要視されているからである。   The first problem is that only control related to securing the voice band is performed. The reason is that it is important to secure a voice band so as not to affect the voice.

第2の問題点は、マシンが高負荷な状態になっても、1秒間あたりの映像フレームの最低値が1より下にはならないことである。その理由は、カメラがサポートするフレームレートの最低値であることからも、1秒間に1回は映像が切り替わる必要があると思われているからである。   The second problem is that the minimum value of video frames per second does not fall below 1 even when the machine is heavily loaded. The reason is that it is considered that the video needs to be switched once per second because it is the lowest frame rate supported by the camera.

本発明は、以上説明した事情に鑑みてなされたものであり、その目的は、インターネットやイントラネット等の帯域が保証されない環境において、ネットワーク負荷による映像音声データのパケットロス、パケット到着間隔のゆらぎ、パケットの再送制御、到着遅延等による、音声品質の劣化や遅延を抑えることにある。   The present invention has been made in view of the circumstances described above, and its purpose is to provide packet loss of video / audio data due to network load, fluctuation of packet arrival interval, packet, etc. in an environment where bandwidth is not guaranteed such as the Internet or an intranet. It is intended to suppress voice quality degradation and delay due to retransmission control, arrival delay, and the like.

上記課題を解決するために、本発明は、帯域の保証されない回線での双方向映像音声コミュニケーションにおいて、ネットワークの状態変化により、音声に影響が発生しないよう、クライアントまたはサーバに対して、ビットレート、フレームレート、解像度およびフレーム間引きの少なくとも1つを含む映像の品質を調整するよう指示する映像音声制御装置を提供する。   In order to solve the above-described problems, the present invention provides a bit rate to a client or a server so that audio is not affected by a change in the network state in bidirectional video / audio communication over a line whose bandwidth is not guaranteed. Provided is a video / audio control apparatus that instructs to adjust the quality of a video including at least one of a frame rate, a resolution, and frame thinning.

また、本発明は、幅広いスペックのマシンを複数同時に使用する双方向映像音声コミュニケーションにおいて、各クライアントのCPUの状態変化により、音声に影響が発生しないよう、クライアントに対してビットレート、フレームレート、解像度およびフレーム間引きの少なくとも1つを含む映像の品質を調整するよう指示する映像音声制御装置を提供する。   In addition, in the bidirectional video / audio communication using a plurality of machines having a wide range of specifications at the same time, the present invention provides the client with a bit rate, a frame rate, and a resolution so that the sound is not affected by a change in the CPU state of each client. And a video / audio control apparatus that instructs to adjust the quality of video including at least one of frame thinning.

また、本発明は、ユーザが各々設定するマイクボリュームにて行う双方向映像音声コミュニケーションにおいて、音声の入力ボリュームによって適切な音量にボリューム制御を行わせ、音声に異常が発生しないよう調節する映像音声制御装置を提供する。   In addition, the present invention provides a video / audio control that adjusts volume control to an appropriate volume according to an audio input volume so as not to cause an abnormality in bidirectional video / audio communication performed by a microphone volume set by a user. Providing equipment.

また、本発明は、帯域の保証されない回線での双方向映像音声コミュニケーションにおいて、ネットワークの状態変化により、音声に影響が発生しないよう、クライアントまたはサーバにてビットレート、フレームレート、解像度およびフレーム間引きの少なくとも1つを含む映像の品質を調整する映像音声調整システムを提供する。   Also, the present invention provides a client or server for bit rate, frame rate, resolution, and frame decimation so that audio is not affected by changes in the network status in bidirectional video / audio communication over a line whose bandwidth is not guaranteed. Provided is a video / audio adjustment system for adjusting the quality of an image including at least one.

また、本発明は、幅広いスペックのマシンを複数同時に使用する双方向映像音声コミュニケーションにおいて、各クライアントのCPUの状態変化により、音声に影響が発生しないよう、クライアントにてビットレート、フレームレート、解像度およびフレーム間引きの少なくとも1つを含む映像の品質を調整する映像音声調整システムを提供する。   In addition, the present invention provides a bidirectional video / audio communication that uses a plurality of machines having a wide range of specifications at the same time so that the audio is not affected by a change in the state of the CPU of each client. Provided is a video / audio adjustment system for adjusting the quality of video including at least one of frame thinning.

また、本発明は、ユーザが各々設定するマイクボリュームにて行う双方向映像音声コミュニケーションにおいて、音声の入力ボリュームによって自動で適切な音量にボリューム制御を行い、音声に異常が発生しないよう調節する映像音声調整システムを提供する。   In addition, the present invention provides a video and audio system that performs volume control automatically to an appropriate volume according to an audio input volume and adjusts so that no abnormality occurs in the audio in bidirectional video and audio communication performed by a microphone volume set by each user. Provide a coordination system.

また、本発明は、ネットワークを介して接続されている映像音声自動制御装置と、映像音声多地点配信装置と、映像音声送信装置と、映像音声受信装置と、クライアント状態監視装置を備える映像音声調整システムであって、前記クライアント状態監視装置または前記映像音声多地点配信装置において、音声に影響を与える要因を検知した際に、前記映像音声自動制御装置にて検知内容を分析し、音声に影響の与える要因を排除する指示を、前記映像音声多地点配信装置や前記クライアント状態監視装置に対して通知し、通知を受けた前記クライアント状態監視装置は、前記映像音声送信装置または前記映像音声受信装置に指示を転送し、映像の品質を下げる処理を実行し、通知を受けた前記映像音声多地点配信装置も、同様に映像の品質を下げる処理を実行する映像音声調整システムを提供する。   The present invention also provides a video / audio adjustment comprising a video / audio automatic control device, a video / audio multipoint distribution device, a video / audio transmission device, a video / audio reception device, and a client status monitoring device connected via a network. In the client state monitoring device or the video / audio multi-point distribution device, when a factor affecting sound is detected, the video / audio automatic control device analyzes the detected content, and the audio is affected. An instruction to eliminate the factor to be given is notified to the video / audio multipoint distribution device and the client status monitoring device, and the client status monitoring device that has received the notification notifies the video / audio transmission device or the video / audio reception device. The video / audio multipoint distribution device that received the notification executes the process of transferring the instruction and lowering the video quality, and similarly reduces the video quality. Providing video and audio adjustment system performing gel process.

また、本発明は、帯域の保証されない回線での双方向映像音声コミュニケーションにおいて、ネットワークの状態変化により、音声に影響が発生しないよう、クライアントまたはサーバにてビットレート、フレームレート、解像度およびフレーム間引きの少なくとも1つを含む映像の品質を調整する映像音声調整方法を提供する。   Also, the present invention provides a client or server for bit rate, frame rate, resolution, and frame decimation so that audio is not affected by changes in the network status in bidirectional video / audio communication over a line whose bandwidth is not guaranteed. Provided is a video / audio adjustment method for adjusting the quality of a video including at least one.

また、本発明は、幅広いスペックのマシンを複数同時に使用する双方向映像音声コミュニケーションにおいて、各クライアントのCPUの状態変化により、音声に影響が発生しないよう、クライアントにてビットレート、フレームレート、解像度およびフレーム間引きの少なくとも1つを含む映像の品質を調整する映像音声調整方法を提供する。   In addition, the present invention provides a bidirectional video / audio communication that uses a plurality of machines having a wide range of specifications at the same time so that the audio is not affected by a change in the state of the CPU of each client. Provided is a video / audio adjustment method for adjusting the quality of a video including at least one of frame thinning.

また、本発明は、ユーザが各々設定するマイクボリュームにて行う双方向映像音声コミュニケーションにおいて、音声の入力ボリュームによって自動で適切な音量にボリューム制御を行い、音声に異常が発生しないよう調節する映像音声調整方法を提供する。   In addition, the present invention provides a video and audio system that performs volume control automatically to an appropriate volume according to an audio input volume and adjusts so that no abnormality occurs in the audio in bidirectional video and audio communication performed by a microphone volume set by each user. Provide an adjustment method.

また、本発明は、ネットワークを介して接続されている映像音声自動制御装置と、映像音声多地点配信装置と、映像音声送信装置と、映像音声受信装置と、クライアント状態監視装置を利用した映像音声調整方法であって、前記クライアント状態監視装置または前記映像音声多地点配信装置において、音声に影響を与える要因を検知した際に、前記映像音声自動制御装置にて検知内容を分析し、音声に影響の与える要因を排除する指示を、前記映像音声多地点配信装置や前記クライアント状態監視装置に対して通知し、通知を受けた前記クライアント状態監視装置は、前記映像音声送信装置または前記映像音声受信装置に指示を転送し、映像の品質を下げる処理を実行し、通知を受けた前記映像音声多地点配信装置も、同様に映像の品質を下げる処理を実行する映像音声調整方法を提供する。   The present invention also provides a video / audio using a video / audio automatic control device, a video / audio multipoint distribution device, a video / audio transmission device, a video / audio reception device, and a client status monitoring device connected via a network. In the adjustment method, in the client status monitoring device or the video / audio multipoint distribution device, when a factor affecting sound is detected, the video / audio automatic control device analyzes the detected content and affects the audio The video / audio multipoint distribution device or the client status monitoring device is notified of an instruction to eliminate the factor given by the client status monitoring device, and the received client status monitoring device is the video / audio transmission device or the video / audio reception device. The video / audio multipoint distribution device that received the notification executes the process of reducing the video quality and transfers the instruction to the video quality. Providing video and audio adjustment method of performing that process.

本発明によれば、インターネットやイントラネット等の帯域が保証されない環境において、ネットワーク負荷による映像音声データのパケットロス、パケット到着間隔のゆらぎ、パケットの再送制御、到着遅延等による、音声品質の劣化や遅延を抑えることができる。   According to the present invention, in an environment where bandwidth is not guaranteed, such as the Internet or an intranet, audio quality deterioration or delay due to packet loss of video / audio data due to network load, fluctuation of packet arrival interval, packet retransmission control, arrival delay, etc. Can be suppressed.

以下、本発明の第1の実施の形態について図面を参照して詳細に説明する。   Hereinafter, a first embodiment of the present invention will be described in detail with reference to the drawings.

図1を参照すると、本実施の形態における、映像音声調整システムは、本システム全体およびクライアント状態の状態によって映像音声を自動制御する映像音声自動制御装置1と、各クライアントから送られてきた映像音声パケットを他クライアントに配信する映像音声多地点配信装置2と、カメラおよびマイクより入力した映像音声をエンコードした後に映像音声多地点配信装置2に対して送信する映像音声送信装置3と、映像音声多地点配信装置2より配信された映像音声を受信してデコードした後再生する映像音声受信装置4と、クライアントマシンの状態(CPU、NW)を監視して監視情報を映像音声自動制御装置1に対して送信するクライアント状態監視装置5から構成されている。   Referring to FIG. 1, a video / audio adjustment system according to the present embodiment includes a video / audio automatic control apparatus 1 that automatically controls video / audio according to the entire system and the state of a client, and video / audio sent from each client. A video / audio multipoint distribution device 2 that distributes packets to other clients, a video / audio transmission device 3 that encodes video / audio input from a camera and a microphone, and transmits the encoded video / audio to the video / audio multipoint distribution device 2, and a video / audio multipoint The video / audio receiving device 4 that receives and decodes the video / audio distributed from the point distribution device 2 and reproduces it, and monitors the status (CPU, NW) of the client machine and sends the monitoring information to the video / audio automatic control device 1. The client state monitoring device 5 is configured to transmit the data.

映像音声自動制御装置1は、NW/CPU状態監視部11と、映像音声自動制御部12を備えている。   The video / audio automatic control apparatus 1 includes an NW / CPU state monitoring unit 11 and a video / audio automatic control unit 12.

NW/CPU状態監視部11は、映像音声多地点配信装置2内の配信異常通知部24または、クライアント状態監視装置5内のクライアント状態通知部52より、本システム全体の状態の通知を受け、監視を行う機能を有している。そして、監視時に異常が見られた場合には、異常の内容を映像音声自動制御部12に通知する。   The NW / CPU state monitoring unit 11 receives a notification of the state of the entire system from the distribution abnormality notification unit 24 in the video / audio multipoint distribution device 2 or the client state notification unit 52 in the client state monitoring device 5, and monitors it. It has a function to perform. If an abnormality is observed during monitoring, the content of the abnormality is notified to the video / audio automatic control unit 12.

映像音声自動制御部12は、NW/CPU状態監視部11より異常の通知を受け、異常の原因を特定し原因を回避する指示を映像音声多地点配信装置2内の映像設定変更部23または、クライアント状態監視装置5内の設定変更指示受信部53に送る機能を有している。   The video / audio automatic control unit 12 receives a notification of an abnormality from the NW / CPU state monitoring unit 11 and specifies an instruction to identify the cause of the abnormality and avoid the cause. The video setting changing unit 23 in the video / audio multipoint distribution apparatus 2 or It has a function of sending to the setting change instruction receiving unit 53 in the client state monitoring device 5.

映像音声多地点配信装置2は、映像音声受信部21と、映像フレーム調整部22と、映像設定変更部23と、配信異常通知部24と、映像音声配信部25を備えている。   The video / audio multipoint distribution device 2 includes a video / audio reception unit 21, a video frame adjustment unit 22, a video setting change unit 23, a distribution abnormality notification unit 24, and a video / audio distribution unit 25.

映像音声受信部21は、映像音声送信装置3内の映像音声送信部33から送信された映像音声を受信し、映像データは映像フレーム調整部22に、また、音声データは映像音声配信部25に渡す。   The video / audio reception unit 21 receives the video / audio transmitted from the video / audio transmission unit 33 in the video / audio transmission device 3. The video data is sent to the video frame adjustment unit 22, and the audio data is sent to the video / audio distribution unit 25. hand over.

映像フレーム調整部22は、映像受信部21から送られてきた映像データを、映像設定変更部23より通知されたフレームの間引き間隔をもとに映像に影響の無いようにフレームを間引き、映像音声配信部25に送る。   The video frame adjustment unit 22 thins out the video data sent from the video reception unit 21 based on the frame thinning interval notified from the video setting change unit 23 so that the video is not affected, and the video and audio It is sent to the distribution unit 25.

映像設定変更部23は、映像音声自動制御装置1内の映像音声自動制御部12から送られてきた設定指示を受信し、映像フレーム調整部22に対し、受信した設定内容を通知する。   The video setting change unit 23 receives the setting instruction sent from the video / audio automatic control unit 12 in the video / audio automatic control device 1 and notifies the video frame adjustment unit 22 of the received setting contents.

配信異常通知部24は、映像音声配信部25から通知されたネットワーク負荷状態を、映像音声自動制御装置1内のNW/CPU状態監視部11に対して通知する。   The distribution abnormality notification unit 24 notifies the network load status notified from the video / audio distribution unit 25 to the NW / CPU status monitoring unit 11 in the video / audio automatic control device 1.

映像音声配信部25は、複数の映像音声受信装置4に対して映像音声を送信時に、特定の映像音声受信装置4間で、ネットワーク負荷を検知した際、配信異常通知部24にネットワーク異常を通知する。   The video / audio distribution unit 25 notifies the network abnormality to the distribution abnormality notification unit 24 when detecting a network load between specific video / audio reception devices 4 when transmitting the video / audio to the plurality of video / audio reception devices 4. To do.

映像音声送信装置3は、映像音声捕獲部31と、映像音声圧縮部32と、映像音声送信部33と、設定変更部34を備えている。   The video / audio transmission device 3 includes a video / audio capture unit 31, a video / audio compression unit 32, a video / audio transmission unit 33, and a setting change unit 34.

映像音声捕獲部31は、設定変更部34から指定された解像度やフレームレートに従い、マイクデバイスまたはカメラデバイスから映像音声を取得し、映像音声圧縮部32に対して渡す。   The video / audio capture unit 31 acquires video / audio from the microphone device or the camera device in accordance with the resolution and frame rate specified by the setting change unit 34 and passes them to the video / audio compression unit 32.

映像音声圧縮部32は、設定変更部34から指定された画質に従い、映像音声捕獲部31から渡された映像音声を圧縮し、映像音声送信部33に渡す。   The video / audio compression unit 32 compresses the video / audio delivered from the video / audio capture unit 31 according to the image quality designated by the setting change unit 34 and passes the compressed video / audio to the video / audio transmission unit 33.

映像音声送信部33は、映像音声圧縮部32より渡された圧縮された映像音声データを、映像音声多地点配信装置2内の映像音声受信部21に対して送信する。   The video / audio transmission unit 33 transmits the compressed video / audio data passed from the video / audio compression unit 32 to the video / audio reception unit 21 in the video / audio multipoint distribution device 2.

設定変更部34は、クライアント状態監視装置5内の設定変更指示受信部53から通知された映像音声の設定指示を、映像音声捕獲部31および映像音声圧縮部32に対して指定する。   The setting changing unit 34 designates the video / audio setting instruction notified from the setting change instruction receiving unit 53 in the client state monitoring apparatus 5 to the video / audio capturing unit 31 and the video / audio compression unit 32.

映像音声受信装置4は、映像音声受信部41と、映像フレーム調整部42と、映像音声伸張部43と、映像音声再生部44と、設定変更部45と、状態異常通知部46を備えている。   The video / audio reception device 4 includes a video / audio reception unit 41, a video frame adjustment unit 42, a video / audio extension unit 43, a video / audio reproduction unit 44, a setting change unit 45, and a state abnormality notification unit 46. .

映像音声受信部41は、映像音声多地点配信装置2内の映像音声配信部25より送られてきた他地点の複数の映像音声を受信し、音声データは映像音声伸張部43に、また、映像データは映像音声フレーム調整部42に渡す。そして、映像音声の受信時に、データのロス、受信間隔異常等を検知した際には、状態異常通知部46に対して状態を通知する。   The video / audio receiving unit 41 receives a plurality of video / audio from other points sent from the video / audio distribution unit 25 in the video / audio multipoint distribution apparatus 2, and the audio data is sent to the video / audio expansion unit 43 and the video / audio The data is passed to the video / audio frame adjustment unit 42. When a data loss, reception interval abnormality, or the like is detected during reception of video and audio, the state is notified to the state abnormality notification unit 46.

映像フレーム調整部42は、映像音声受信部41から送られてきた映像データを、設定変更通知部45より通知されたフレームの間引き間隔をもとに映像に影響の無いようにフレームを間引き、映像音声伸張部43に送る。   The video frame adjustment unit 42 thins out the video data sent from the video / audio reception unit 41 based on the frame thinning interval notified from the setting change notification unit 45 so as not to affect the video. The data is sent to the voice decompression unit 43.

映像音声伸張部43は、映像フレーム調整部42から渡された映像データおよび映像音声受信部41から渡された音声データを伸張処理を行い再生可能な状態となったものを、映像音声再生部44に渡す。   The video / audio decompression unit 43 performs a decompression process on the video data delivered from the video frame adjustment unit 42 and the audio data delivered from the video / audio reception unit 41 and is in a reproducible state. To pass.

映像音声再生部44は、映像音声再生部44から渡された映像音声を、画面またはスピーカより再生する。   The video / audio reproduction unit 44 reproduces the video / audio delivered from the video / audio reproduction unit 44 from a screen or a speaker.

設定変更部45は、クライアント状態監視装置5内の設定変更指示受信部53から通知された映像音声の設定指示を、映像フレーム調整部42に対して指定する。   The setting changing unit 45 specifies the video / audio setting instruction notified from the setting change instruction receiving unit 53 in the client state monitoring device 5 to the video frame adjusting unit 42.

状態異常通知部46は、映像音声受信部41から通知された映像音声受信異常状態を、クライアント状態監視装置5内のシステム監視部51に対して通知する。   The state abnormality notification unit 46 notifies the system monitoring unit 51 in the client state monitoring device 5 of the video / audio reception abnormal state notified from the video / audio reception unit 41.

クライアント状態監視装置5は、システム監視部51と、クライアント状態通知部52と、設定変更指示受信部53を備えている。   The client status monitoring device 5 includes a system monitoring unit 51, a client status notification unit 52, and a setting change instruction receiving unit 53.

システム監視部51は、映像音声受信装置4内の状態異常通知部46からの映像音声受信異常を受け、クライアント状態通知部52に対し通知を行う。   The system monitoring unit 51 receives the video / audio reception abnormality from the state abnormality notification unit 46 in the video / audio reception device 4 and notifies the client state notification unit 52 of the reception.

クライアント状態通知部52は、システム監視部51から通知された映像音声受信異常通知を、映像音声自動制御装置1内のNW/CPU状態監視部11に送信する。   The client status notification unit 52 transmits the video / audio reception abnormality notification notified from the system monitoring unit 51 to the NW / CPU status monitoring unit 11 in the video / audio automatic control device 1.

また、クライアント状態監視装置5が動作するマシンのCPU変動状況を、定期的に映像音声自動制御装置1内のNW/CPU状態監視部11に送信する。   Further, the CPU fluctuation state of the machine on which the client state monitoring device 5 operates is periodically transmitted to the NW / CPU state monitoring unit 11 in the video / audio automatic control device 1.

設定変更指示受信部53は、映像音声自動制御装置1内の映像音声自動制御部12から送られてきた設定指示を受信し、映像音声送信装置3内の設定変更部34、映像音声受信装置4内の設定変更部45に対し、受信した設定内容を通知する。   The setting change instruction receiving unit 53 receives the setting instruction sent from the video / audio automatic control unit 12 in the video / audio automatic control device 1, and the setting change unit 34 in the video / audio transmission device 3, the video / audio receiving device 4. The setting change unit 45 is notified of the received setting contents.

次に、図2を参照して本実施の形態の動作について詳細に説明する。   Next, the operation of the present embodiment will be described in detail with reference to FIG.

図2では、映像音声多地点配信装置2をAVサーバとし、映像音声多地点配信装置2との間で、映像音声を送受信するAVクライアントを、映像音声クライアント6として定義する。   In FIG. 2, the video / audio multipoint distribution device 2 is defined as an AV server, and an AV client that transmits / receives video / audio to / from the video / audio multipoint distribution device 2 is defined as a video / audio client 6.

映像音声クライアント6は、参加クライアント台数分存在し、映像音声送信装置3、映像音声受信装置4、クライアント状態監視装置5を持つものとする。   The video / audio clients 6 exist as many as the number of participating clients, and include the video / audio transmission device 3, the video / audio reception device 4, and the client state monitoring device 5.

また、映像音声多地点配信装置2および参加者分の映像音声クライアント6は、映像音声自動制御装置1の監視サーバにより管理下に置かれているものとする。   In addition, the video / audio multipoint distribution apparatus 2 and the video / audio clients 6 for the participants are assumed to be managed by the monitoring server of the video / audio automatic control apparatus 1.

図2において、ある映像音声クライアント6内で動作する映像音声送信装置3により、マイクおよびカメラデバイスよりキャプチャされ圧縮された映像音声データは、映像音声多地点配信装置2へ送信される。   In FIG. 2, the video / audio data captured and compressed by the video / audio transmission device 3 operating in a certain video / audio client 6 from the microphone and the camera device is transmitted to the video / audio multipoint distribution device 2.

この一連の処理の中で、カメラデバイスからキャプチャする映像データの解像度およびフレームレート、圧縮を行う際のビットレートを、クライアント状態監視装置5からの指示に従い動的に変更する。   In this series of processing, the resolution and frame rate of video data captured from the camera device and the bit rate for compression are dynamically changed according to instructions from the client state monitoring device 5.

次に、映像音声多地点配信装置2は、ある映像音声クライアント6より送られた映像音声データを同時に参加している全てのクライアントに対して配信する。この際、映像音声自動制御装置1より映像を間引く指示があったクライアントに対しては、映像のフレームを映像品質に影響を与えないように間引くことで、ネットワークの負荷を軽減させる。   Next, the video / audio multipoint distribution device 2 distributes the video / audio data sent from a video / audio client 6 to all the clients participating at the same time. At this time, the network load is reduced by thinning out the video frames so that the video audio automatic control apparatus 1 has instructed the video to be thinned without affecting the video quality.

また、映像音声配信時に、送信処理が追いつかない状態を検知した際には、映像音声自動制御装置1に対して異常を通知する。   Further, when a state in which transmission processing cannot catch up is detected during video / audio distribution, the video / audio automatic control apparatus 1 is notified of the abnormality.

次に、映像音声多地点配信装置2より配信された映像音声データを、ある映像音声クライアント6内で動作する映像音声受信装置4が受信し、伸張処理を行い再生デバイスより映像音声を再生する。   Next, the video / audio data 4 distributed from the video / audio multipoint distribution apparatus 2 is received by the video / audio reception apparatus 4 operating in a certain video / audio client 6, and decompressed to reproduce the video / audio from the reproduction device.

この一連の処理の中で、伸張し再生する映像フレームを、クライアント状態監視装置5からの指示に従い間引くことにより、CPU負荷を軽減させる。また、音声の受信間隔の乱れ、パケットのロスを検知した際には、クライアント状態監視装置5に、通知を行う。   In this series of processing, the CPU frame is reduced by thinning out the video frames to be decompressed and reproduced in accordance with instructions from the client state monitoring device 5. Further, when the voice reception interval is disturbed or the packet loss is detected, the client status monitoring device 5 is notified.

次に、クライアント状態監視装置5は、動作するクライアントのCPU使用率を定期的に収集し、映像音声自動制御装置1に対して送信する。また、映像音声受信装置4からの異常ステータスを、映像音声自動制御装置1に対して送信する。   Next, the client state monitoring device 5 periodically collects the CPU usage rate of the operating client and sends it to the video / audio automatic control device 1. Further, the abnormal status from the video / audio reception device 4 is transmitted to the video / audio automatic control device 1.

さらに、映像音声自動制御装置1からの指示に従い、映像音声送信装置3および映像音声受信装置4に対して設定変更の指示を行う。   Further, in accordance with an instruction from the video / audio automatic control apparatus 1, a setting change instruction is issued to the video / audio transmission apparatus 3 and the video / audio reception apparatus 4.

次に、映像音声自動制御装置1は、クライアント状態監視装置5および映像音声多地点配信装置2からのサーバ・クライアントの状態を管理し、異常検知を判断し、異常を回避する適切な指示を生成し、映像音声多地点配信装置2および複数の参加クライアントにて動作するクライアント状態監視装置5に対して指示を通知する。   Next, the video / audio automatic control device 1 manages the status of the server / client from the client status monitoring device 5 and the video / audio multi-point distribution device 2, determines abnormality detection, and generates an appropriate instruction to avoid the abnormality. Then, an instruction is notified to the video / audio multipoint distribution apparatus 2 and the client state monitoring apparatus 5 operating in a plurality of participating clients.

また、一定時間異常が発生しない状態の場合には、品質を向上させる指示を、映像音声多地点配信装置2および複数の参加クライアントにて動作するクライアント状態監視装置5に対して通知する。   In a state where no abnormality occurs for a certain period of time, an instruction to improve the quality is notified to the video / audio multipoint distribution device 2 and the client state monitoring device 5 operating in a plurality of participating clients.

上記の本実施の形態によれば、インターネットやイントラネット等の帯域が保証されない環境において、ネットワーク負荷による映像音声データのパケットロス、パケット到着間隔のゆらぎ、パケットの再送制御、到着遅延による、音声品質の劣化や遅延を抑えることが可能になる。その理由は、各クライアントとサーバ間でのRTTによるネットワークゆらぎの度合いによるネットワーク負荷検知、音声パケットの到着間隔の乱れ、音声パケットのロス率によるネットワーク負荷検知、サーバでの配信時に送信待ち状態検知によるネットワーク負荷検知を監視し、動的に影響を与えている各クライアント映像品質(ビットレート、フレームレート、解像度)を下げる制御、サーバでの映像データ転送時に、フレームデータを間引く制御、ネットワーク負荷を下げる制御により、音声帯域を確保することが可能なためである。   According to the above-described embodiment, in an environment where the bandwidth is not guaranteed such as the Internet or an intranet, the audio quality of the audio quality due to packet loss of video and audio data due to network load, fluctuation of packet arrival interval, packet retransmission control, arrival delay, etc. Deterioration and delay can be suppressed. The reason for this is that the network load is detected based on the degree of network fluctuation by RTT between each client and server, the arrival interval of voice packets is disturbed, the network load is detected based on the loss rate of voice packets, and the transmission waiting state is detected during delivery on the server. Monitors network load detection, controls to reduce the video quality (bit rate, frame rate, resolution) of each client that is dynamically affected, controls to thin out frame data when transferring video data on the server, and reduces network load This is because the voice band can be secured by the control.

また、スペックの低いマシン使用時等、各クライアントマシンのCPU負荷が高くなることによる、マイクデバイスからの音声キャプチャ間隔の乱れ、音声エンコード・デコード処理の遅延、音声再生の乱れによる音声品質の劣化や遅延を抑えることが可能になる。その理由は、各クライアントにおいて、CPU使用率を常にモニタリングし、段階的なCPU使用率に応じたCPU負荷検知を発生させ、CPU使用率が高くなってしまっているマシンで動作する映像モジュール、カメラデバイスに対し、映像品質(フレームレート、解像度)を下げることによる映像キャプチャ、エンコードのCPU負荷軽減、受信映像をデコードし再生する前にフレームを間引くことにより、デコードおよび再生のCPU負荷軽減により、音声を処理する機能に影響が出ないようにCPUリソースを確保することが可能なためである。   In addition, when using low-spec machines, the CPU load on each client machine increases, resulting in disturbance in the audio capture interval from the microphone device, delay in audio encoding / decoding processing, audio quality deterioration due to audio reproduction disturbance, It becomes possible to suppress the delay. The reason is that, in each client, the CPU usage rate is constantly monitored, the CPU load detection corresponding to the stepwise CPU usage rate is generated, and the video module and camera operating on the machine where the CPU usage rate has increased. Audio capture by reducing video quality (frame rate, resolution) for the device, reducing CPU load for encoding, and thinning frames before decoding and playing received video, reducing CPU load for decoding and playback This is because it is possible to secure CPU resources so as not to affect the function of processing the.

また、マイクのボリューム設定によって発生する音声キャプチャ漏れによる音切れ、音声の高調波歪みによる音声品質劣化を抑えることが可能になる。その理由は、マイクから拾った入力ボリュームを判断し、小さすぎる場合には大きく、また、大きすぎる場合には小さくボリュームを自動調整することで、聞きやすい音量を確保可能なためである。   In addition, it is possible to suppress sound interruption due to sound capture omission caused by microphone volume setting and sound quality degradation due to sound harmonic distortion. The reason is that an input volume picked up from the microphone is judged, and if the volume is too small, the volume is automatically adjusted.

次に、本発明の第2の実施の形態について図面を参照して詳細に説明する。   Next, a second embodiment of the present invention will be described in detail with reference to the drawings.

図3を参照すると、本実施の形態における、映像音声調整システムは、映像音声多地点配信装置2が2つ存在している点と、映像音声送信装置3内の設定変更部34から映像音声送信部33に対し矢印が出ている点と、映像音声受信装置4内の設定変更部45から映像音声受信部41に対し矢印が出ている点で、図1に示した第1の実施の形態と異なる。なお、その他の構成要素の基本的な機能は上述した第1の実施の形態と同様であるので重複する説明は省略する。   Referring to FIG. 3, in the video / audio adjustment system according to the present embodiment, there are two video / audio multipoint distribution apparatuses 2, and video / audio transmission from the setting change unit 34 in the video / audio transmission apparatus 3. The first embodiment shown in FIG. 1 is that an arrow is provided for the unit 33 and that an arrow is provided for the video / audio receiver 41 from the setting change unit 45 in the video / audio receiver 4. And different. Since the basic functions of the other components are the same as those in the first embodiment described above, a duplicate description is omitted.

以下、本実施の形態の動作を、図3、図4を参照して詳細に説明する。   Hereinafter, the operation of the present embodiment will be described in detail with reference to FIGS.

映像音声多地点配信装置2の配信異常通知部24内に、サーバの状態監視機能を持たせることにより、サーバへログオンしているクライアントが増え、CPU負荷が高くなり配信処理が間に合わなくなる前に、配信異常通信部24から映像音声自動制御装置1内のNW/CPU状態監視部11に対して、映像音声多地点配信装置2の高負荷を通知する。   By providing a server status monitoring function in the distribution abnormality notification unit 24 of the video / audio multi-point distribution device 2, before the number of clients logged on to the server increases and the CPU load increases and the distribution process is not in time, The abnormal distribution communication unit 24 notifies the NW / CPU state monitoring unit 11 in the video / audio automatic control device 1 of the high load of the video / audio multipoint distribution device 2.

次に、映像音声自動制御装置1内のNW/CPU状態監視部11は、映像音声多地点配信装置2の高負荷通知を受け、映像音声自動制御部12に対して、映像音声多地点配信装置2が高負荷であることを通知する。   Next, the NW / CPU state monitoring unit 11 in the video / audio automatic control device 1 receives a high-load notification from the video / audio multipoint distribution device 2 and sends the video / audio automatic control unit 12 to the video / audio multipoint distribution device. 2 is in high load.

次に、映像音声自動制御部12は、映像音声多地点配信装置2を切り替えてもあまり影響のないクライアント状態監視装置5内の設定変更指示受信部53に、現在映像音声データを送受信している映像音声多地点配信装置2を切り替えるよう指示する。   Next, the video / audio automatic control unit 12 is currently transmitting / receiving the video / audio data to the setting change instruction receiving unit 53 in the client state monitoring device 5 which does not have much influence even if the video / audio multipoint distribution device 2 is switched. An instruction is given to switch the video / audio multipoint distribution device 2.

次に、指示を受けたクライアント状態監視装置5内の設定変更指示受信部53は、映像音声送信装置3内の設定変更部34および映像音声受信装置4内の設定変更部46に対して、映像音声多地点配信装置2を切り替えるよう指示する。   Next, the setting change instruction receiving unit 53 in the client state monitoring device 5 that has received the instruction sends a video to the setting changing unit 34 in the video / audio transmitting device 3 and the setting changing unit 46 in the video / audio receiving device 4. An instruction is given to switch the voice multipoint distribution device 2.

次に、指示を受けた映像音声送信装置3内の設定変更部34および映像音声受信装置4内の設定変更部46は、映像音声送信部33および映像音声受信部42にそれぞれ指示を出す。   Next, the setting change unit 34 in the video / audio transmission device 3 and the setting change unit 46 in the video / audio reception device 4 that have received the instruction issue instructions to the video / audio transmission unit 33 and the video / audio reception unit 42, respectively.

そして、指示を受けた映像音声送信部33および映像音声受信部42は、映像音声多地点配信装置2を切り替える処理を実行することにより、クライアント数が増加した際の映像音声多地点配信装置2のCPU負荷分散を実現する。   Upon receiving the instruction, the video / audio transmission unit 33 and the video / audio reception unit 42 execute a process of switching the video / audio multipoint distribution device 2, so that the number of clients increases when the number of clients increases. Realize CPU load balancing.

なお、上述する各実施の形態は、本発明の好適な実施の形態であり、本発明の要旨を逸脱しない範囲内において種々変更実施が可能である。例えば、上記の実施の形態における映像音声自動制御装置1、映像音声多地点配信装置2、映像音声送信装置3、映像音声受信装置4およびクライアント状態監視装置5の機能を実現するためのプログラムを各装置に読込ませて実行することにより各装置の機能を実現する処理を行ってもよい。さらに、そのプログラムは、コンピュータ読み取り可能な記録媒体であるCD−ROMまたは光磁気ディスクなどを介して、または伝送媒体であるインターネット、電話回線などを介して伝送波により他のコンピュータシステムに伝送されてもよい。   Each of the above-described embodiments is a preferred embodiment of the present invention, and various modifications can be made without departing from the scope of the present invention. For example, the programs for realizing the functions of the video / audio automatic control device 1, the video / audio multipoint distribution device 2, the video / audio transmission device 3, the video / audio reception device 4, and the client status monitoring device 5 in the above-described embodiment are provided. You may perform the process which implement | achieves the function of each apparatus by reading in an apparatus and performing it. Further, the program is transmitted to another computer system by a transmission wave via a computer-readable recording medium such as a CD-ROM or a magneto-optical disk, or via a transmission medium such as the Internet or a telephone line. Also good.

上述する各実施の形態は、映像音声自動制御装置1、映像音声多地点配信装置2、映像音声送信装置3、映像音声受信装置4およびクライアント状態監視装置5が別個に接続されているシステム構成について説明したが、各機能が1つのコンピュータシステムとして実現されている構成や機能毎に複数の装置などが追加された構成にも適用可能であることはもちろんである。   In each of the above-described embodiments, the video / audio automatic control device 1, the video / audio multipoint distribution device 2, the video / audio transmission device 3, the video / audio reception device 4, and the client state monitoring device 5 are separately connected. As described above, it goes without saying that the present invention can be applied to a configuration in which each function is realized as one computer system and a configuration in which a plurality of devices are added for each function.

本発明の第1の実施形態における映像音声調整システムの構成を示す図である。It is a figure which shows the structure of the video / audio adjustment system in the 1st Embodiment of this invention. 本発明の第1の実施形態における処理動作を示す図である。It is a figure which shows the processing operation in the 1st Embodiment of this invention. 本発明の第2の実施形態における映像音声調整システムの構成を示す図である。It is a figure which shows the structure of the video / audio adjustment system in the 2nd Embodiment of this invention. 本発明の第2の実施形態における処理動作を示す図である。It is a figure which shows the processing operation in the 2nd Embodiment of this invention.

符号の説明Explanation of symbols

1 映像音声自動制御装置
2 映像音声多地点配信装置
3 映像音声送信装置
4 映像音声受信装置
5 クライアント状態監視装置
11 NW/CPU状態監視部
12 映像音声自動制御部
21 映像音声受信部
22 映像フレーム調整部
23 映像設定変更部
24 配信異常通知部
25 映像音声配信部
31 映像音声捕獲部
32 映像音声圧縮部
33 映像音声送信部
34 設定変更部
41 映像音声受信部
42 映像フレーム調整部
43 映像音声伸張部
44 映像音声再生部
45 設定変更部
46 状態異常通知部
51 システム監視部
52 クライアント状態通知部
53 設定変更指示受信部
DESCRIPTION OF SYMBOLS 1 Video / audio automatic control apparatus 2 Video / audio multi-point delivery apparatus 3 Video / audio transmission apparatus 4 Video / audio reception apparatus 5 Client status monitoring apparatus 11 NW / CPU status monitoring section 12 Video / audio automatic control section 21 Video / audio reception section 22 Video frame adjustment Unit 23 video setting change unit 24 distribution abnormality notification unit 25 video / audio distribution unit 31 video / audio capture unit 32 video / audio compression unit 33 video / audio transmission unit 34 setting change unit 41 video / audio reception unit 42 video frame adjustment unit 43 video / audio extension unit 43 44 video / audio playback unit 45 setting change unit 46 state abnormality notification unit 51 system monitoring unit 52 client state notification unit 53 setting change instruction reception unit

Claims (21)

帯域の保証されない回線での双方向映像音声コミュニケーションにおいて、ネットワークの状態変化により、音声に影響が発生しないよう、クライアントまたはサーバに対して、ビットレート、フレームレート、解像度およびフレーム間引きの少なくとも1つを含む映像の品質を調整するよう指示することを特徴とする映像音声制御装置。   In bidirectional video / audio communication over a line whose bandwidth is not guaranteed, at least one of bit rate, frame rate, resolution, and frame thinning is set for the client or server so that the voice is not affected by a change in the network status. A video / audio control apparatus which instructs to adjust the quality of an image including the video / audio control apparatus. 幅広いスペックのマシンを複数同時に使用する双方向映像音声コミュニケーションにおいて、各クライアントのCPUの状態変化により、音声に影響が発生しないよう、クライアントに対してビットレート、フレームレート、解像度およびフレーム間引きの少なくとも1つを含む映像の品質を調整するよう指示することを特徴とする映像音声制御装置。   In bidirectional video / audio communication using a plurality of machines having a wide range of specifications, at least one of bit rate, frame rate, resolution, and frame thinning is applied to the client so that the sound is not affected by a change in the state of the CPU of each client. A video / audio control apparatus which instructs to adjust the quality of video including a video. ユーザが各々設定するマイクボリュームにて行う双方向映像音声コミュニケーションにおいて、音声の入力ボリュームによって適切な音量にボリューム制御を行わせ、音声に異常が発生しないよう調節することを特徴とする映像音声制御装置。   In a two-way video / audio communication performed by a microphone volume set by each user, the video / audio control device adjusts volume control to an appropriate volume according to a voice input volume so that no abnormality occurs in the voice. . 前記ネットワークの状態変化は、前記サーバと前記クライアント間のRTTのゆらぎ、前記各クライアントで受信する音声パケットの到着間隔およびパケットロス率、前記サーバでの複数クライアント配信時の送信待ち状態の少なくとも1つを考慮して検知することを特徴とする請求項1記載の映像音声制御装置。   The network state change includes at least one of an RTT fluctuation between the server and the client, an arrival interval and a packet loss rate of voice packets received by each client, and a transmission waiting state when a plurality of clients are distributed by the server. The video / audio control apparatus according to claim 1, wherein the detection is performed in consideration of the above. 前記各クライアントにおける前記CPU負荷の状態変化は、指定秒数間隔で監視し、平均負荷率を考慮して検知することを特徴とする請求項2記載の映像音声制御装置。   3. The video / audio control apparatus according to claim 2, wherein the change in the state of the CPU load in each of the clients is detected in consideration of an average load factor by monitoring at intervals of a specified number of seconds. 前記音声に異常をきたす状態が、一定時間発生しない場合、映像の品質を向上するような調整を行わせることを特徴とする請求項3記載の映像音声制御装置。   4. The video / audio control apparatus according to claim 3, wherein when the state that causes an abnormality in the audio does not occur for a certain period of time, adjustment is performed to improve video quality. 帯域の保証されない回線での双方向映像音声コミュニケーションにおいて、ネットワークの状態変化により、音声に影響が発生しないよう、クライアントまたはサーバにてビットレート、フレームレート、解像度およびフレーム間引きの少なくとも1つを含む映像の品質を調整することを特徴とする映像音声調整システム。   Video that includes at least one of bit rate, frame rate, resolution, and frame thinning at the client or server so that the voice is not affected by the change of the network status in the bidirectional video / audio communication over the line whose bandwidth is not guaranteed. A video / audio adjustment system characterized by adjusting the quality of video. 幅広いスペックのマシンを複数同時に使用する双方向映像音声コミュニケーションにおいて、各クライアントのCPUの状態変化により、音声に影響が発生しないよう、クライアントにてビットレート、フレームレート、解像度およびフレーム間引きの少なくとも1つを含む映像の品質を調整することを特徴とする映像音声調整システム。   In bi-directional video / audio communication using multiple machines with a wide range of specifications, at least one of the bit rate, frame rate, resolution, and frame thinning at the client so that the sound is not affected by changes in the CPU status of each client. A video and audio adjustment system characterized by adjusting the quality of video including ユーザが各々設定するマイクボリュームにて行う双方向映像音声コミュニケーションにおいて、音声の入力ボリュームによって自動で適切な音量にボリューム制御を行い、音声に異常が発生しないよう調節することを特徴とする映像音声調整システム。   Video / audio adjustment characterized in that, in bi-directional video / audio communication performed by each user-set microphone volume, the volume is automatically controlled to an appropriate volume according to the input volume of the audio and adjusted so that no abnormality occurs in the audio. system. 前記ネットワークの状態変化は、前記サーバと前記クライアント間のRTTのゆらぎ、前記各クライアントで受信する音声パケットの到着間隔およびパケットロス率、前記サーバでの複数クライアント配信時の送信待ち状態の少なくとも1つを考慮して検知することを特徴とする請求項7記載の映像音声調整システム。   The network state change includes at least one of RTT fluctuation between the server and the client, an arrival interval and a packet loss rate of voice packets received by each client, and a transmission waiting state when a plurality of clients are distributed by the server. The video / audio adjustment system according to claim 7, wherein the detection is performed in consideration of the above. 前記各クライアントにおける前記CPU負荷の状態変化は、指定秒数間隔で監視し、平均負荷率を考慮して検知することを特徴とする請求項8記載の映像音声調整システム。   9. The video / audio adjustment system according to claim 8, wherein a change in the state of the CPU load in each of the clients is monitored at a specified number of seconds and is detected in consideration of an average load factor. 前記音声に異常をきたす状態が、一定時間発生しない場合、映像の品質を向上するような調整を行うことを特徴とする請求項9記載の映像音声調整システム。   The video / audio adjustment system according to claim 9, wherein when the state in which the audio is abnormal does not occur for a certain period of time, adjustment is performed to improve video quality. ネットワークを介して接続されている映像音声自動制御装置と、映像音声多地点配信装置と、映像音声送信装置と、映像音声受信装置と、クライアント状態監視装置を備える映像音声調整システムであって、
前記クライアント状態監視装置または前記映像音声多地点配信装置において、音声に影響を与える要因を検知した際に、前記映像音声自動制御装置にて検知内容を分析し、音声に影響の与える要因を排除する指示を、前記映像音声多地点配信装置や前記クライアント状態監視装置に対して通知し、
通知を受けた前記クライアント状態監視装置は、前記映像音声送信装置または前記映像音声受信装置に指示を転送し、映像の品質を下げる処理を実行し、
通知を受けた前記映像音声多地点配信装置も、同様に映像の品質を下げる処理を実行することを特徴とする映像音声調整システム。
A video / audio adjustment system including a video / audio automatic control device, a video / audio multipoint distribution device, a video / audio transmission device, a video / audio reception device, and a client status monitoring device connected via a network,
In the client status monitoring device or the video / audio multi-point distribution device, when a factor affecting audio is detected, the video / audio automatic control device analyzes the detected content and eliminates the factor affecting audio. An instruction is notified to the video / audio multipoint distribution device and the client status monitoring device,
The client state monitoring device that has received the notification transfers an instruction to the video / audio transmission device or the video / audio reception device, and executes a process of reducing the quality of the video,
The video / audio multipoint distribution apparatus that has received the notification also executes processing for reducing the video quality in the same manner.
帯域の保証されない回線での双方向映像音声コミュニケーションにおいて、ネットワークの状態変化により、音声に影響が発生しないよう、クライアントまたはサーバにてビットレート、フレームレート、解像度およびフレーム間引きの少なくとも1つを含む映像の品質を調整することを特徴とする映像音声調整方法。   Video that includes at least one of bit rate, frame rate, resolution, and frame thinning at the client or server so that the audio is not affected by changes in the network status in bidirectional video and audio communication over a line whose bandwidth is not guaranteed. And adjusting the quality of the video and audio. 幅広いスペックのマシンを複数同時に使用する双方向映像音声コミュニケーションにおいて、各クライアントのCPUの状態変化により、音声に影響が発生しないよう、クライアントにてビットレート、フレームレート、解像度およびフレーム間引きの少なくとも1つを含む映像の品質を調整することを特徴とする映像音声調整方法。   In bi-directional video / audio communication that uses multiple machines with a wide range of specifications at the same time, at least one of bit rate, frame rate, resolution, and frame decimation at the client so that the sound is not affected by changes in the CPU status of each client. A video / audio adjustment method comprising adjusting the quality of video including ユーザが各々設定するマイクボリュームにて行う双方向映像音声コミュニケーションにおいて、音声の入力ボリュームによって自動で適切な音量にボリューム制御を行い、音声に異常が発生しないよう調節することを特徴とする映像音声調整方法。   Video / audio adjustment characterized in that, in bi-directional video / audio communication performed by each user-set microphone volume, the volume is automatically controlled to an appropriate volume according to the input volume of the audio and adjusted so that no abnormality occurs in the audio. Method. 前記ネットワークの状態変化は、前記サーバと前記クライアント間のRTTのゆらぎ、前記各クライアントで受信する音声パケットの到着間隔およびパケットロス率、前記サーバでの複数クライアント配信時の送信待ち状態の少なくとも1つを考慮して検知することを特徴とする請求項14記載の映像音声調整方法。   The network state change includes at least one of RTT fluctuation between the server and the client, an arrival interval and a packet loss rate of voice packets received by each client, and a transmission waiting state when a plurality of clients are distributed by the server. 15. The video / audio adjustment method according to claim 14, wherein the detection is performed in consideration of the above. 前記各クライアントにおける前記CPU負荷の状態変化は、指定秒数間隔で監視し、平均負荷率を考慮して検知することを特徴とする請求項15記載の映像音声調整方法。   16. The video / audio adjustment method according to claim 15, wherein a change in the state of the CPU load in each of the clients is monitored at a specified number of seconds and is detected in consideration of an average load factor. 前記音声に異常をきたす状態が、一定時間発生しない場合、映像の品質を向上するような調整を行うことを特徴とする請求項16記載の映像音声調整方法。   The video / audio adjustment method according to claim 16, wherein when the state in which the audio is abnormal does not occur for a certain period of time, adjustment is performed so as to improve video quality. ネットワークを介して接続されている映像音声自動制御装置と、映像音声多地点配信装置と、映像音声送信装置と、映像音声受信装置と、クライアント状態監視装置を利用した映像音声調整方法であって、
前記クライアント状態監視装置または前記映像音声多地点配信装置において、音声に影響を与える要因を検知した際に、前記映像音声自動制御装置にて検知内容を分析し、音声に影響の与える要因を排除する指示を、前記映像音声多地点配信装置や前記クライアント状態監視装置に対して通知し、
通知を受けた前記クライアント状態監視装置は、前記映像音声送信装置または前記映像音声受信装置に指示を転送し、映像の品質を下げる処理を実行し、
通知を受けた前記映像音声多地点配信装置も、同様に映像の品質を下げる処理を実行することを特徴とする映像音声調整方法。
A video / audio adjustment method using a video / audio automatic control device, a video / audio multipoint distribution device, a video / audio transmission device, a video / audio reception device, and a client status monitoring device connected via a network,
In the client status monitoring device or the video / audio multi-point distribution device, when a factor affecting audio is detected, the video / audio automatic control device analyzes the detected content and eliminates the factor affecting audio. An instruction is notified to the video / audio multipoint distribution device and the client status monitoring device,
The client state monitoring device that has received the notification transfers an instruction to the video / audio transmission device or the video / audio reception device, and executes a process of reducing the quality of the video,
The video / audio multipoint distribution apparatus that receives the notification also executes processing for reducing the video quality in the same manner.
コンピュータに請求項1から6のいずれか1項に記載の機能を実現させる処理を実行させることを特徴とするプログラム。   A program for causing a computer to execute processing for realizing the function according to any one of claims 1 to 6.
JP2006009934A 2006-01-18 2006-01-18 Video and audio controller, video and audio adjustment system, video and audio adjusting method, and program Pending JP2007194823A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006009934A JP2007194823A (en) 2006-01-18 2006-01-18 Video and audio controller, video and audio adjustment system, video and audio adjusting method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006009934A JP2007194823A (en) 2006-01-18 2006-01-18 Video and audio controller, video and audio adjustment system, video and audio adjusting method, and program

Publications (1)

Publication Number Publication Date
JP2007194823A true JP2007194823A (en) 2007-08-02

Family

ID=38450174

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006009934A Pending JP2007194823A (en) 2006-01-18 2006-01-18 Video and audio controller, video and audio adjustment system, video and audio adjusting method, and program

Country Status (1)

Country Link
JP (1) JP2007194823A (en)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009124362A (en) * 2007-11-14 2009-06-04 Nec Corp Communicating system, communication apparatus, control parameter determining method, and program
JP2013514732A (en) * 2009-12-18 2013-04-25 アルカテル−ルーセント Method for improving quality of service for voice calls handled by network components
JP2014022781A (en) * 2012-07-12 2014-02-03 Nippon Telegr & Teleph Corp <Ntt> Video quality control device, method, and program
US8988491B2 (en) 2010-09-07 2015-03-24 Ricoh Company, Ltd. Apparatus, system, and method of transmitting encoded image data, and recording medium storing control program
WO2015133216A1 (en) * 2014-03-05 2015-09-11 株式会社リコー Data transmission system, terminal device, program, and method
JP2018517380A (en) * 2015-04-09 2018-06-28 デジェロ ラブス インコーポレイテッド System, device, and method for distributing data having multi-tiered encoding
JP2018157282A (en) * 2017-03-15 2018-10-04 株式会社リコー Terminal, program, and data transmission method
CN109660879A (en) * 2018-12-20 2019-04-19 广州虎牙信息科技有限公司 Frame losing method, system, computer equipment and storage medium is broadcast live
KR20190118714A (en) * 2018-04-11 2019-10-21 삼성에스디에스 주식회사 Method for managing qos and receiving apparatus for executing the same

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009124362A (en) * 2007-11-14 2009-06-04 Nec Corp Communicating system, communication apparatus, control parameter determining method, and program
JP2013514732A (en) * 2009-12-18 2013-04-25 アルカテル−ルーセント Method for improving quality of service for voice calls handled by network components
US8988491B2 (en) 2010-09-07 2015-03-24 Ricoh Company, Ltd. Apparatus, system, and method of transmitting encoded image data, and recording medium storing control program
JP2014022781A (en) * 2012-07-12 2014-02-03 Nippon Telegr & Teleph Corp <Ntt> Video quality control device, method, and program
US10250652B2 (en) 2014-03-05 2019-04-02 Ricoh Company, Limited Data transmission system, terminal device, program, and method
JPWO2015133216A1 (en) * 2014-03-05 2017-04-06 株式会社リコー Data transmission system, terminal device, program and method
WO2015133216A1 (en) * 2014-03-05 2015-09-11 株式会社リコー Data transmission system, terminal device, program, and method
JP2018517380A (en) * 2015-04-09 2018-06-28 デジェロ ラブス インコーポレイテッド System, device, and method for distributing data having multi-tiered encoding
US10687091B2 (en) 2015-04-09 2020-06-16 Dejero Labs Inc. Systems, devices, and methods for distributing data with multi-tiered encoding
US11153610B2 (en) 2015-04-09 2021-10-19 Dejero Labs Inc. Systems, devices, and methods for distributing data with multi-tiered encoding
US11770564B2 (en) 2015-04-09 2023-09-26 Dejero Labs Inc. Systems, devices and methods for distributing data with multi-tiered encoding
JP2018157282A (en) * 2017-03-15 2018-10-04 株式会社リコー Terminal, program, and data transmission method
KR20190118714A (en) * 2018-04-11 2019-10-21 삼성에스디에스 주식회사 Method for managing qos and receiving apparatus for executing the same
KR102415156B1 (en) 2018-04-11 2022-06-29 삼성에스디에스 주식회사 Method for managing qos and receiving apparatus for executing the same
CN109660879A (en) * 2018-12-20 2019-04-19 广州虎牙信息科技有限公司 Frame losing method, system, computer equipment and storage medium is broadcast live
CN109660879B (en) * 2018-12-20 2021-11-19 广州虎牙信息科技有限公司 Live broadcast frame loss method, system, computer equipment and storage medium

Similar Documents

Publication Publication Date Title
JP2007194823A (en) Video and audio controller, video and audio adjustment system, video and audio adjusting method, and program
JP3658087B2 (en) Terminal device and method for controlling terminal device
US6453336B1 (en) Video conferencing with adaptive client-controlled resource utilization
US20160021149A1 (en) Methods and systems for dynamic adjustment of session parameters for effective video collaboration among heterogeneous devices
EP2039156A2 (en) System and method for dynamic control of image capture in a video conference system
US20170155870A1 (en) Priority of uplink streams in video switching
US20070127437A1 (en) Medium signal transmission method, reception method, transmission/reception method, and device
JP2008311831A (en) Moving image communication equipment, moving image communication system, and semiconductor integrated circuit for moving image communication
CN108881931A (en) A kind of data buffering method and the network equipment
CN102348095A (en) Method for keeping stable transmission of images in mobile equipment video communication
JP3715332B2 (en) Communication system, receiving apparatus and method
JP5428734B2 (en) Network device, information processing apparatus, stream switching method, information processing method, program, and content distribution system
JP2005244315A (en) Network quality stabilizing apparatus for video streaming transmission
JPH07170292A (en) Transmitter
JP2015012557A (en) Video audio processor, video audio processing system, video audio synchronization method, and program
CN106998328B (en) Video transmission method and device
US9363574B1 (en) Video throttling based on individual client delay
JP4455405B2 (en) Video communication device, video distribution server, interactive video communication system, and program
EP2043372B1 (en) Method for audio and video synchronization, receiving and transmitting device
JPWO2006103724A1 (en) Packet distribution bandwidth control method, distribution apparatus, and video distribution system
JP3799070B2 (en) Transmitting apparatus and method
KR20060016809A (en) Medium signal reception device, transmission device, and transmission/reception system
JPH07170503A (en) Receiver
JP2006074359A (en) Transmission reception system of audio data in teleconference system and control method
JP4343808B2 (en) Server in bidirectional image communication system, processing method thereof, and program

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090406

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090804

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20091215