JP2007194823A - Video and audio controller, video and audio adjustment system, video and audio adjusting method, and program - Google Patents
Video and audio controller, video and audio adjustment system, video and audio adjusting method, and program Download PDFInfo
- Publication number
- JP2007194823A JP2007194823A JP2006009934A JP2006009934A JP2007194823A JP 2007194823 A JP2007194823 A JP 2007194823A JP 2006009934 A JP2006009934 A JP 2006009934A JP 2006009934 A JP2006009934 A JP 2006009934A JP 2007194823 A JP2007194823 A JP 2007194823A
- Authority
- JP
- Japan
- Prior art keywords
- video
- audio
- client
- quality
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
Description
本発明は、ネットワーク状態やマシン状態の動的変化による音声品質の劣化の原因となる要因を排除し、ストレスの無い快適な音声コミュニケーションを実現する技術に関する。 The present invention relates to a technology that eliminates factors that cause voice quality degradation due to dynamic changes in network status and machine status, and realizes comfortable voice communication without stress.
従来、インターネットやイントラネット等帯域が保証されない回線を使用する電子会議システムにおいて、帯域最大値を設定し、その範囲に収まるような制御や、ネットワーク状態の変化に応じて、映像の品質を下げることによる音声帯域確保に関しては行われてきた。 Conventionally, in electronic conferencing systems that use lines that do not guarantee bandwidth, such as the Internet and Intranet, by setting the maximum bandwidth value and reducing the video quality according to changes in the network status and control within the range The voice band has been secured.
ここで、クライアント端末の静的性能を示す環境情報と動的性能を示す動作情報をクライアント端末から通信ネットワークを介して画像配信サーバへ通知し、画像配信サーバで、クライアント端末から通知された環境情報および動作情報に基づいて当該クライアント端末へ配信する画像の画像品質を決定し、その画像品質に基づき当該クライアント端末へ配信する画像の画像品質を変換して配信することで、個々のクライアント端末で他の処理を停滞させることなく受信画像を表示できる技術が提案されている(例えば、特許文献1参照)。
しかしながら、上述した従来例においては次のような問題点があった。 However, the conventional example described above has the following problems.
第1の問題点は、音声帯域の確保に関する制御のみを行っていることである。その理由は、音声に影響を与えないようにするには、音声の帯域を確保することが重要視されているからである。 The first problem is that only control related to securing the voice band is performed. The reason is that it is important to secure a voice band so as not to affect the voice.
第2の問題点は、マシンが高負荷な状態になっても、1秒間あたりの映像フレームの最低値が1より下にはならないことである。その理由は、カメラがサポートするフレームレートの最低値であることからも、1秒間に1回は映像が切り替わる必要があると思われているからである。 The second problem is that the minimum value of video frames per second does not fall below 1 even when the machine is heavily loaded. The reason is that it is considered that the video needs to be switched once per second because it is the lowest frame rate supported by the camera.
本発明は、以上説明した事情に鑑みてなされたものであり、その目的は、インターネットやイントラネット等の帯域が保証されない環境において、ネットワーク負荷による映像音声データのパケットロス、パケット到着間隔のゆらぎ、パケットの再送制御、到着遅延等による、音声品質の劣化や遅延を抑えることにある。 The present invention has been made in view of the circumstances described above, and its purpose is to provide packet loss of video / audio data due to network load, fluctuation of packet arrival interval, packet, etc. in an environment where bandwidth is not guaranteed such as the Internet or an intranet. It is intended to suppress voice quality degradation and delay due to retransmission control, arrival delay, and the like.
上記課題を解決するために、本発明は、帯域の保証されない回線での双方向映像音声コミュニケーションにおいて、ネットワークの状態変化により、音声に影響が発生しないよう、クライアントまたはサーバに対して、ビットレート、フレームレート、解像度およびフレーム間引きの少なくとも1つを含む映像の品質を調整するよう指示する映像音声制御装置を提供する。 In order to solve the above-described problems, the present invention provides a bit rate to a client or a server so that audio is not affected by a change in the network state in bidirectional video / audio communication over a line whose bandwidth is not guaranteed. Provided is a video / audio control apparatus that instructs to adjust the quality of a video including at least one of a frame rate, a resolution, and frame thinning.
また、本発明は、幅広いスペックのマシンを複数同時に使用する双方向映像音声コミュニケーションにおいて、各クライアントのCPUの状態変化により、音声に影響が発生しないよう、クライアントに対してビットレート、フレームレート、解像度およびフレーム間引きの少なくとも1つを含む映像の品質を調整するよう指示する映像音声制御装置を提供する。 In addition, in the bidirectional video / audio communication using a plurality of machines having a wide range of specifications at the same time, the present invention provides the client with a bit rate, a frame rate, and a resolution so that the sound is not affected by a change in the CPU state of each client. And a video / audio control apparatus that instructs to adjust the quality of video including at least one of frame thinning.
また、本発明は、ユーザが各々設定するマイクボリュームにて行う双方向映像音声コミュニケーションにおいて、音声の入力ボリュームによって適切な音量にボリューム制御を行わせ、音声に異常が発生しないよう調節する映像音声制御装置を提供する。 In addition, the present invention provides a video / audio control that adjusts volume control to an appropriate volume according to an audio input volume so as not to cause an abnormality in bidirectional video / audio communication performed by a microphone volume set by a user. Providing equipment.
また、本発明は、帯域の保証されない回線での双方向映像音声コミュニケーションにおいて、ネットワークの状態変化により、音声に影響が発生しないよう、クライアントまたはサーバにてビットレート、フレームレート、解像度およびフレーム間引きの少なくとも1つを含む映像の品質を調整する映像音声調整システムを提供する。 Also, the present invention provides a client or server for bit rate, frame rate, resolution, and frame decimation so that audio is not affected by changes in the network status in bidirectional video / audio communication over a line whose bandwidth is not guaranteed. Provided is a video / audio adjustment system for adjusting the quality of an image including at least one.
また、本発明は、幅広いスペックのマシンを複数同時に使用する双方向映像音声コミュニケーションにおいて、各クライアントのCPUの状態変化により、音声に影響が発生しないよう、クライアントにてビットレート、フレームレート、解像度およびフレーム間引きの少なくとも1つを含む映像の品質を調整する映像音声調整システムを提供する。 In addition, the present invention provides a bidirectional video / audio communication that uses a plurality of machines having a wide range of specifications at the same time so that the audio is not affected by a change in the state of the CPU of each client. Provided is a video / audio adjustment system for adjusting the quality of video including at least one of frame thinning.
また、本発明は、ユーザが各々設定するマイクボリュームにて行う双方向映像音声コミュニケーションにおいて、音声の入力ボリュームによって自動で適切な音量にボリューム制御を行い、音声に異常が発生しないよう調節する映像音声調整システムを提供する。 In addition, the present invention provides a video and audio system that performs volume control automatically to an appropriate volume according to an audio input volume and adjusts so that no abnormality occurs in the audio in bidirectional video and audio communication performed by a microphone volume set by each user. Provide a coordination system.
また、本発明は、ネットワークを介して接続されている映像音声自動制御装置と、映像音声多地点配信装置と、映像音声送信装置と、映像音声受信装置と、クライアント状態監視装置を備える映像音声調整システムであって、前記クライアント状態監視装置または前記映像音声多地点配信装置において、音声に影響を与える要因を検知した際に、前記映像音声自動制御装置にて検知内容を分析し、音声に影響の与える要因を排除する指示を、前記映像音声多地点配信装置や前記クライアント状態監視装置に対して通知し、通知を受けた前記クライアント状態監視装置は、前記映像音声送信装置または前記映像音声受信装置に指示を転送し、映像の品質を下げる処理を実行し、通知を受けた前記映像音声多地点配信装置も、同様に映像の品質を下げる処理を実行する映像音声調整システムを提供する。 The present invention also provides a video / audio adjustment comprising a video / audio automatic control device, a video / audio multipoint distribution device, a video / audio transmission device, a video / audio reception device, and a client status monitoring device connected via a network. In the client state monitoring device or the video / audio multi-point distribution device, when a factor affecting sound is detected, the video / audio automatic control device analyzes the detected content, and the audio is affected. An instruction to eliminate the factor to be given is notified to the video / audio multipoint distribution device and the client status monitoring device, and the client status monitoring device that has received the notification notifies the video / audio transmission device or the video / audio reception device. The video / audio multipoint distribution device that received the notification executes the process of transferring the instruction and lowering the video quality, and similarly reduces the video quality. Providing video and audio adjustment system performing gel process.
また、本発明は、帯域の保証されない回線での双方向映像音声コミュニケーションにおいて、ネットワークの状態変化により、音声に影響が発生しないよう、クライアントまたはサーバにてビットレート、フレームレート、解像度およびフレーム間引きの少なくとも1つを含む映像の品質を調整する映像音声調整方法を提供する。 Also, the present invention provides a client or server for bit rate, frame rate, resolution, and frame decimation so that audio is not affected by changes in the network status in bidirectional video / audio communication over a line whose bandwidth is not guaranteed. Provided is a video / audio adjustment method for adjusting the quality of a video including at least one.
また、本発明は、幅広いスペックのマシンを複数同時に使用する双方向映像音声コミュニケーションにおいて、各クライアントのCPUの状態変化により、音声に影響が発生しないよう、クライアントにてビットレート、フレームレート、解像度およびフレーム間引きの少なくとも1つを含む映像の品質を調整する映像音声調整方法を提供する。 In addition, the present invention provides a bidirectional video / audio communication that uses a plurality of machines having a wide range of specifications at the same time so that the audio is not affected by a change in the state of the CPU of each client. Provided is a video / audio adjustment method for adjusting the quality of a video including at least one of frame thinning.
また、本発明は、ユーザが各々設定するマイクボリュームにて行う双方向映像音声コミュニケーションにおいて、音声の入力ボリュームによって自動で適切な音量にボリューム制御を行い、音声に異常が発生しないよう調節する映像音声調整方法を提供する。 In addition, the present invention provides a video and audio system that performs volume control automatically to an appropriate volume according to an audio input volume and adjusts so that no abnormality occurs in the audio in bidirectional video and audio communication performed by a microphone volume set by each user. Provide an adjustment method.
また、本発明は、ネットワークを介して接続されている映像音声自動制御装置と、映像音声多地点配信装置と、映像音声送信装置と、映像音声受信装置と、クライアント状態監視装置を利用した映像音声調整方法であって、前記クライアント状態監視装置または前記映像音声多地点配信装置において、音声に影響を与える要因を検知した際に、前記映像音声自動制御装置にて検知内容を分析し、音声に影響の与える要因を排除する指示を、前記映像音声多地点配信装置や前記クライアント状態監視装置に対して通知し、通知を受けた前記クライアント状態監視装置は、前記映像音声送信装置または前記映像音声受信装置に指示を転送し、映像の品質を下げる処理を実行し、通知を受けた前記映像音声多地点配信装置も、同様に映像の品質を下げる処理を実行する映像音声調整方法を提供する。 The present invention also provides a video / audio using a video / audio automatic control device, a video / audio multipoint distribution device, a video / audio transmission device, a video / audio reception device, and a client status monitoring device connected via a network. In the adjustment method, in the client status monitoring device or the video / audio multipoint distribution device, when a factor affecting sound is detected, the video / audio automatic control device analyzes the detected content and affects the audio The video / audio multipoint distribution device or the client status monitoring device is notified of an instruction to eliminate the factor given by the client status monitoring device, and the received client status monitoring device is the video / audio transmission device or the video / audio reception device. The video / audio multipoint distribution device that received the notification executes the process of reducing the video quality and transfers the instruction to the video quality. Providing video and audio adjustment method of performing that process.
本発明によれば、インターネットやイントラネット等の帯域が保証されない環境において、ネットワーク負荷による映像音声データのパケットロス、パケット到着間隔のゆらぎ、パケットの再送制御、到着遅延等による、音声品質の劣化や遅延を抑えることができる。 According to the present invention, in an environment where bandwidth is not guaranteed, such as the Internet or an intranet, audio quality deterioration or delay due to packet loss of video / audio data due to network load, fluctuation of packet arrival interval, packet retransmission control, arrival delay, etc. Can be suppressed.
以下、本発明の第1の実施の形態について図面を参照して詳細に説明する。 Hereinafter, a first embodiment of the present invention will be described in detail with reference to the drawings.
図1を参照すると、本実施の形態における、映像音声調整システムは、本システム全体およびクライアント状態の状態によって映像音声を自動制御する映像音声自動制御装置1と、各クライアントから送られてきた映像音声パケットを他クライアントに配信する映像音声多地点配信装置2と、カメラおよびマイクより入力した映像音声をエンコードした後に映像音声多地点配信装置2に対して送信する映像音声送信装置3と、映像音声多地点配信装置2より配信された映像音声を受信してデコードした後再生する映像音声受信装置4と、クライアントマシンの状態(CPU、NW)を監視して監視情報を映像音声自動制御装置1に対して送信するクライアント状態監視装置5から構成されている。
Referring to FIG. 1, a video / audio adjustment system according to the present embodiment includes a video / audio
映像音声自動制御装置1は、NW/CPU状態監視部11と、映像音声自動制御部12を備えている。
The video / audio
NW/CPU状態監視部11は、映像音声多地点配信装置2内の配信異常通知部24または、クライアント状態監視装置5内のクライアント状態通知部52より、本システム全体の状態の通知を受け、監視を行う機能を有している。そして、監視時に異常が見られた場合には、異常の内容を映像音声自動制御部12に通知する。
The NW / CPU state monitoring unit 11 receives a notification of the state of the entire system from the distribution
映像音声自動制御部12は、NW/CPU状態監視部11より異常の通知を受け、異常の原因を特定し原因を回避する指示を映像音声多地点配信装置2内の映像設定変更部23または、クライアント状態監視装置5内の設定変更指示受信部53に送る機能を有している。
The video / audio
映像音声多地点配信装置2は、映像音声受信部21と、映像フレーム調整部22と、映像設定変更部23と、配信異常通知部24と、映像音声配信部25を備えている。
The video / audio
映像音声受信部21は、映像音声送信装置3内の映像音声送信部33から送信された映像音声を受信し、映像データは映像フレーム調整部22に、また、音声データは映像音声配信部25に渡す。
The video /
映像フレーム調整部22は、映像受信部21から送られてきた映像データを、映像設定変更部23より通知されたフレームの間引き間隔をもとに映像に影響の無いようにフレームを間引き、映像音声配信部25に送る。
The video
映像設定変更部23は、映像音声自動制御装置1内の映像音声自動制御部12から送られてきた設定指示を受信し、映像フレーム調整部22に対し、受信した設定内容を通知する。
The video setting change unit 23 receives the setting instruction sent from the video / audio
配信異常通知部24は、映像音声配信部25から通知されたネットワーク負荷状態を、映像音声自動制御装置1内のNW/CPU状態監視部11に対して通知する。
The distribution
映像音声配信部25は、複数の映像音声受信装置4に対して映像音声を送信時に、特定の映像音声受信装置4間で、ネットワーク負荷を検知した際、配信異常通知部24にネットワーク異常を通知する。
The video / audio distribution unit 25 notifies the network abnormality to the distribution
映像音声送信装置3は、映像音声捕獲部31と、映像音声圧縮部32と、映像音声送信部33と、設定変更部34を備えている。
The video / audio transmission device 3 includes a video / audio capture unit 31, a video / audio compression unit 32, a video /
映像音声捕獲部31は、設定変更部34から指定された解像度やフレームレートに従い、マイクデバイスまたはカメラデバイスから映像音声を取得し、映像音声圧縮部32に対して渡す。 The video / audio capture unit 31 acquires video / audio from the microphone device or the camera device in accordance with the resolution and frame rate specified by the setting change unit 34 and passes them to the video / audio compression unit 32.
映像音声圧縮部32は、設定変更部34から指定された画質に従い、映像音声捕獲部31から渡された映像音声を圧縮し、映像音声送信部33に渡す。
The video / audio compression unit 32 compresses the video / audio delivered from the video / audio capture unit 31 according to the image quality designated by the setting change unit 34 and passes the compressed video / audio to the video /
映像音声送信部33は、映像音声圧縮部32より渡された圧縮された映像音声データを、映像音声多地点配信装置2内の映像音声受信部21に対して送信する。
The video /
設定変更部34は、クライアント状態監視装置5内の設定変更指示受信部53から通知された映像音声の設定指示を、映像音声捕獲部31および映像音声圧縮部32に対して指定する。
The setting changing unit 34 designates the video / audio setting instruction notified from the setting change
映像音声受信装置4は、映像音声受信部41と、映像フレーム調整部42と、映像音声伸張部43と、映像音声再生部44と、設定変更部45と、状態異常通知部46を備えている。
The video /
映像音声受信部41は、映像音声多地点配信装置2内の映像音声配信部25より送られてきた他地点の複数の映像音声を受信し、音声データは映像音声伸張部43に、また、映像データは映像音声フレーム調整部42に渡す。そして、映像音声の受信時に、データのロス、受信間隔異常等を検知した際には、状態異常通知部46に対して状態を通知する。
The video / audio receiving unit 41 receives a plurality of video / audio from other points sent from the video / audio distribution unit 25 in the video / audio
映像フレーム調整部42は、映像音声受信部41から送られてきた映像データを、設定変更通知部45より通知されたフレームの間引き間隔をもとに映像に影響の無いようにフレームを間引き、映像音声伸張部43に送る。
The video
映像音声伸張部43は、映像フレーム調整部42から渡された映像データおよび映像音声受信部41から渡された音声データを伸張処理を行い再生可能な状態となったものを、映像音声再生部44に渡す。
The video /
映像音声再生部44は、映像音声再生部44から渡された映像音声を、画面またはスピーカより再生する。
The video /
設定変更部45は、クライアント状態監視装置5内の設定変更指示受信部53から通知された映像音声の設定指示を、映像フレーム調整部42に対して指定する。
The
状態異常通知部46は、映像音声受信部41から通知された映像音声受信異常状態を、クライアント状態監視装置5内のシステム監視部51に対して通知する。
The state
クライアント状態監視装置5は、システム監視部51と、クライアント状態通知部52と、設定変更指示受信部53を備えている。
The client status monitoring device 5 includes a system monitoring unit 51, a client status notification unit 52, and a setting change
システム監視部51は、映像音声受信装置4内の状態異常通知部46からの映像音声受信異常を受け、クライアント状態通知部52に対し通知を行う。
The system monitoring unit 51 receives the video / audio reception abnormality from the state
クライアント状態通知部52は、システム監視部51から通知された映像音声受信異常通知を、映像音声自動制御装置1内のNW/CPU状態監視部11に送信する。
The client status notification unit 52 transmits the video / audio reception abnormality notification notified from the system monitoring unit 51 to the NW / CPU status monitoring unit 11 in the video / audio
また、クライアント状態監視装置5が動作するマシンのCPU変動状況を、定期的に映像音声自動制御装置1内のNW/CPU状態監視部11に送信する。
Further, the CPU fluctuation state of the machine on which the client state monitoring device 5 operates is periodically transmitted to the NW / CPU state monitoring unit 11 in the video / audio
設定変更指示受信部53は、映像音声自動制御装置1内の映像音声自動制御部12から送られてきた設定指示を受信し、映像音声送信装置3内の設定変更部34、映像音声受信装置4内の設定変更部45に対し、受信した設定内容を通知する。
The setting change
次に、図2を参照して本実施の形態の動作について詳細に説明する。 Next, the operation of the present embodiment will be described in detail with reference to FIG.
図2では、映像音声多地点配信装置2をAVサーバとし、映像音声多地点配信装置2との間で、映像音声を送受信するAVクライアントを、映像音声クライアント6として定義する。
In FIG. 2, the video / audio
映像音声クライアント6は、参加クライアント台数分存在し、映像音声送信装置3、映像音声受信装置4、クライアント状態監視装置5を持つものとする。
The video / audio clients 6 exist as many as the number of participating clients, and include the video / audio transmission device 3, the video /
また、映像音声多地点配信装置2および参加者分の映像音声クライアント6は、映像音声自動制御装置1の監視サーバにより管理下に置かれているものとする。
In addition, the video / audio
図2において、ある映像音声クライアント6内で動作する映像音声送信装置3により、マイクおよびカメラデバイスよりキャプチャされ圧縮された映像音声データは、映像音声多地点配信装置2へ送信される。
In FIG. 2, the video / audio data captured and compressed by the video / audio transmission device 3 operating in a certain video / audio client 6 from the microphone and the camera device is transmitted to the video / audio
この一連の処理の中で、カメラデバイスからキャプチャする映像データの解像度およびフレームレート、圧縮を行う際のビットレートを、クライアント状態監視装置5からの指示に従い動的に変更する。 In this series of processing, the resolution and frame rate of video data captured from the camera device and the bit rate for compression are dynamically changed according to instructions from the client state monitoring device 5.
次に、映像音声多地点配信装置2は、ある映像音声クライアント6より送られた映像音声データを同時に参加している全てのクライアントに対して配信する。この際、映像音声自動制御装置1より映像を間引く指示があったクライアントに対しては、映像のフレームを映像品質に影響を与えないように間引くことで、ネットワークの負荷を軽減させる。
Next, the video / audio
また、映像音声配信時に、送信処理が追いつかない状態を検知した際には、映像音声自動制御装置1に対して異常を通知する。
Further, when a state in which transmission processing cannot catch up is detected during video / audio distribution, the video / audio
次に、映像音声多地点配信装置2より配信された映像音声データを、ある映像音声クライアント6内で動作する映像音声受信装置4が受信し、伸張処理を行い再生デバイスより映像音声を再生する。
Next, the video /
この一連の処理の中で、伸張し再生する映像フレームを、クライアント状態監視装置5からの指示に従い間引くことにより、CPU負荷を軽減させる。また、音声の受信間隔の乱れ、パケットのロスを検知した際には、クライアント状態監視装置5に、通知を行う。 In this series of processing, the CPU frame is reduced by thinning out the video frames to be decompressed and reproduced in accordance with instructions from the client state monitoring device 5. Further, when the voice reception interval is disturbed or the packet loss is detected, the client status monitoring device 5 is notified.
次に、クライアント状態監視装置5は、動作するクライアントのCPU使用率を定期的に収集し、映像音声自動制御装置1に対して送信する。また、映像音声受信装置4からの異常ステータスを、映像音声自動制御装置1に対して送信する。
Next, the client state monitoring device 5 periodically collects the CPU usage rate of the operating client and sends it to the video / audio
さらに、映像音声自動制御装置1からの指示に従い、映像音声送信装置3および映像音声受信装置4に対して設定変更の指示を行う。
Further, in accordance with an instruction from the video / audio
次に、映像音声自動制御装置1は、クライアント状態監視装置5および映像音声多地点配信装置2からのサーバ・クライアントの状態を管理し、異常検知を判断し、異常を回避する適切な指示を生成し、映像音声多地点配信装置2および複数の参加クライアントにて動作するクライアント状態監視装置5に対して指示を通知する。
Next, the video / audio
また、一定時間異常が発生しない状態の場合には、品質を向上させる指示を、映像音声多地点配信装置2および複数の参加クライアントにて動作するクライアント状態監視装置5に対して通知する。
In a state where no abnormality occurs for a certain period of time, an instruction to improve the quality is notified to the video / audio
上記の本実施の形態によれば、インターネットやイントラネット等の帯域が保証されない環境において、ネットワーク負荷による映像音声データのパケットロス、パケット到着間隔のゆらぎ、パケットの再送制御、到着遅延による、音声品質の劣化や遅延を抑えることが可能になる。その理由は、各クライアントとサーバ間でのRTTによるネットワークゆらぎの度合いによるネットワーク負荷検知、音声パケットの到着間隔の乱れ、音声パケットのロス率によるネットワーク負荷検知、サーバでの配信時に送信待ち状態検知によるネットワーク負荷検知を監視し、動的に影響を与えている各クライアント映像品質(ビットレート、フレームレート、解像度)を下げる制御、サーバでの映像データ転送時に、フレームデータを間引く制御、ネットワーク負荷を下げる制御により、音声帯域を確保することが可能なためである。 According to the above-described embodiment, in an environment where the bandwidth is not guaranteed such as the Internet or an intranet, the audio quality of the audio quality due to packet loss of video and audio data due to network load, fluctuation of packet arrival interval, packet retransmission control, arrival delay, etc. Deterioration and delay can be suppressed. The reason for this is that the network load is detected based on the degree of network fluctuation by RTT between each client and server, the arrival interval of voice packets is disturbed, the network load is detected based on the loss rate of voice packets, and the transmission waiting state is detected during delivery on the server. Monitors network load detection, controls to reduce the video quality (bit rate, frame rate, resolution) of each client that is dynamically affected, controls to thin out frame data when transferring video data on the server, and reduces network load This is because the voice band can be secured by the control.
また、スペックの低いマシン使用時等、各クライアントマシンのCPU負荷が高くなることによる、マイクデバイスからの音声キャプチャ間隔の乱れ、音声エンコード・デコード処理の遅延、音声再生の乱れによる音声品質の劣化や遅延を抑えることが可能になる。その理由は、各クライアントにおいて、CPU使用率を常にモニタリングし、段階的なCPU使用率に応じたCPU負荷検知を発生させ、CPU使用率が高くなってしまっているマシンで動作する映像モジュール、カメラデバイスに対し、映像品質(フレームレート、解像度)を下げることによる映像キャプチャ、エンコードのCPU負荷軽減、受信映像をデコードし再生する前にフレームを間引くことにより、デコードおよび再生のCPU負荷軽減により、音声を処理する機能に影響が出ないようにCPUリソースを確保することが可能なためである。 In addition, when using low-spec machines, the CPU load on each client machine increases, resulting in disturbance in the audio capture interval from the microphone device, delay in audio encoding / decoding processing, audio quality deterioration due to audio reproduction disturbance, It becomes possible to suppress the delay. The reason is that, in each client, the CPU usage rate is constantly monitored, the CPU load detection corresponding to the stepwise CPU usage rate is generated, and the video module and camera operating on the machine where the CPU usage rate has increased. Audio capture by reducing video quality (frame rate, resolution) for the device, reducing CPU load for encoding, and thinning frames before decoding and playing received video, reducing CPU load for decoding and playback This is because it is possible to secure CPU resources so as not to affect the function of processing the.
また、マイクのボリューム設定によって発生する音声キャプチャ漏れによる音切れ、音声の高調波歪みによる音声品質劣化を抑えることが可能になる。その理由は、マイクから拾った入力ボリュームを判断し、小さすぎる場合には大きく、また、大きすぎる場合には小さくボリュームを自動調整することで、聞きやすい音量を確保可能なためである。 In addition, it is possible to suppress sound interruption due to sound capture omission caused by microphone volume setting and sound quality degradation due to sound harmonic distortion. The reason is that an input volume picked up from the microphone is judged, and if the volume is too small, the volume is automatically adjusted.
次に、本発明の第2の実施の形態について図面を参照して詳細に説明する。 Next, a second embodiment of the present invention will be described in detail with reference to the drawings.
図3を参照すると、本実施の形態における、映像音声調整システムは、映像音声多地点配信装置2が2つ存在している点と、映像音声送信装置3内の設定変更部34から映像音声送信部33に対し矢印が出ている点と、映像音声受信装置4内の設定変更部45から映像音声受信部41に対し矢印が出ている点で、図1に示した第1の実施の形態と異なる。なお、その他の構成要素の基本的な機能は上述した第1の実施の形態と同様であるので重複する説明は省略する。
Referring to FIG. 3, in the video / audio adjustment system according to the present embodiment, there are two video / audio
以下、本実施の形態の動作を、図3、図4を参照して詳細に説明する。 Hereinafter, the operation of the present embodiment will be described in detail with reference to FIGS.
映像音声多地点配信装置2の配信異常通知部24内に、サーバの状態監視機能を持たせることにより、サーバへログオンしているクライアントが増え、CPU負荷が高くなり配信処理が間に合わなくなる前に、配信異常通信部24から映像音声自動制御装置1内のNW/CPU状態監視部11に対して、映像音声多地点配信装置2の高負荷を通知する。
By providing a server status monitoring function in the distribution
次に、映像音声自動制御装置1内のNW/CPU状態監視部11は、映像音声多地点配信装置2の高負荷通知を受け、映像音声自動制御部12に対して、映像音声多地点配信装置2が高負荷であることを通知する。
Next, the NW / CPU state monitoring unit 11 in the video / audio
次に、映像音声自動制御部12は、映像音声多地点配信装置2を切り替えてもあまり影響のないクライアント状態監視装置5内の設定変更指示受信部53に、現在映像音声データを送受信している映像音声多地点配信装置2を切り替えるよう指示する。
Next, the video / audio
次に、指示を受けたクライアント状態監視装置5内の設定変更指示受信部53は、映像音声送信装置3内の設定変更部34および映像音声受信装置4内の設定変更部46に対して、映像音声多地点配信装置2を切り替えるよう指示する。
Next, the setting change
次に、指示を受けた映像音声送信装置3内の設定変更部34および映像音声受信装置4内の設定変更部46は、映像音声送信部33および映像音声受信部42にそれぞれ指示を出す。
Next, the setting change unit 34 in the video / audio transmission device 3 and the setting
そして、指示を受けた映像音声送信部33および映像音声受信部42は、映像音声多地点配信装置2を切り替える処理を実行することにより、クライアント数が増加した際の映像音声多地点配信装置2のCPU負荷分散を実現する。
Upon receiving the instruction, the video /
なお、上述する各実施の形態は、本発明の好適な実施の形態であり、本発明の要旨を逸脱しない範囲内において種々変更実施が可能である。例えば、上記の実施の形態における映像音声自動制御装置1、映像音声多地点配信装置2、映像音声送信装置3、映像音声受信装置4およびクライアント状態監視装置5の機能を実現するためのプログラムを各装置に読込ませて実行することにより各装置の機能を実現する処理を行ってもよい。さらに、そのプログラムは、コンピュータ読み取り可能な記録媒体であるCD−ROMまたは光磁気ディスクなどを介して、または伝送媒体であるインターネット、電話回線などを介して伝送波により他のコンピュータシステムに伝送されてもよい。
Each of the above-described embodiments is a preferred embodiment of the present invention, and various modifications can be made without departing from the scope of the present invention. For example, the programs for realizing the functions of the video / audio
上述する各実施の形態は、映像音声自動制御装置1、映像音声多地点配信装置2、映像音声送信装置3、映像音声受信装置4およびクライアント状態監視装置5が別個に接続されているシステム構成について説明したが、各機能が1つのコンピュータシステムとして実現されている構成や機能毎に複数の装置などが追加された構成にも適用可能であることはもちろんである。
In each of the above-described embodiments, the video / audio
1 映像音声自動制御装置
2 映像音声多地点配信装置
3 映像音声送信装置
4 映像音声受信装置
5 クライアント状態監視装置
11 NW/CPU状態監視部
12 映像音声自動制御部
21 映像音声受信部
22 映像フレーム調整部
23 映像設定変更部
24 配信異常通知部
25 映像音声配信部
31 映像音声捕獲部
32 映像音声圧縮部
33 映像音声送信部
34 設定変更部
41 映像音声受信部
42 映像フレーム調整部
43 映像音声伸張部
44 映像音声再生部
45 設定変更部
46 状態異常通知部
51 システム監視部
52 クライアント状態通知部
53 設定変更指示受信部
DESCRIPTION OF
Claims (21)
前記クライアント状態監視装置または前記映像音声多地点配信装置において、音声に影響を与える要因を検知した際に、前記映像音声自動制御装置にて検知内容を分析し、音声に影響の与える要因を排除する指示を、前記映像音声多地点配信装置や前記クライアント状態監視装置に対して通知し、
通知を受けた前記クライアント状態監視装置は、前記映像音声送信装置または前記映像音声受信装置に指示を転送し、映像の品質を下げる処理を実行し、
通知を受けた前記映像音声多地点配信装置も、同様に映像の品質を下げる処理を実行することを特徴とする映像音声調整システム。 A video / audio adjustment system including a video / audio automatic control device, a video / audio multipoint distribution device, a video / audio transmission device, a video / audio reception device, and a client status monitoring device connected via a network,
In the client status monitoring device or the video / audio multi-point distribution device, when a factor affecting audio is detected, the video / audio automatic control device analyzes the detected content and eliminates the factor affecting audio. An instruction is notified to the video / audio multipoint distribution device and the client status monitoring device,
The client state monitoring device that has received the notification transfers an instruction to the video / audio transmission device or the video / audio reception device, and executes a process of reducing the quality of the video,
The video / audio multipoint distribution apparatus that has received the notification also executes processing for reducing the video quality in the same manner.
前記クライアント状態監視装置または前記映像音声多地点配信装置において、音声に影響を与える要因を検知した際に、前記映像音声自動制御装置にて検知内容を分析し、音声に影響の与える要因を排除する指示を、前記映像音声多地点配信装置や前記クライアント状態監視装置に対して通知し、
通知を受けた前記クライアント状態監視装置は、前記映像音声送信装置または前記映像音声受信装置に指示を転送し、映像の品質を下げる処理を実行し、
通知を受けた前記映像音声多地点配信装置も、同様に映像の品質を下げる処理を実行することを特徴とする映像音声調整方法。 A video / audio adjustment method using a video / audio automatic control device, a video / audio multipoint distribution device, a video / audio transmission device, a video / audio reception device, and a client status monitoring device connected via a network,
In the client status monitoring device or the video / audio multi-point distribution device, when a factor affecting audio is detected, the video / audio automatic control device analyzes the detected content and eliminates the factor affecting audio. An instruction is notified to the video / audio multipoint distribution device and the client status monitoring device,
The client state monitoring device that has received the notification transfers an instruction to the video / audio transmission device or the video / audio reception device, and executes a process of reducing the quality of the video,
The video / audio multipoint distribution apparatus that receives the notification also executes processing for reducing the video quality in the same manner.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006009934A JP2007194823A (en) | 2006-01-18 | 2006-01-18 | Video and audio controller, video and audio adjustment system, video and audio adjusting method, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006009934A JP2007194823A (en) | 2006-01-18 | 2006-01-18 | Video and audio controller, video and audio adjustment system, video and audio adjusting method, and program |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2007194823A true JP2007194823A (en) | 2007-08-02 |
Family
ID=38450174
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006009934A Pending JP2007194823A (en) | 2006-01-18 | 2006-01-18 | Video and audio controller, video and audio adjustment system, video and audio adjusting method, and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2007194823A (en) |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009124362A (en) * | 2007-11-14 | 2009-06-04 | Nec Corp | Communicating system, communication apparatus, control parameter determining method, and program |
JP2013514732A (en) * | 2009-12-18 | 2013-04-25 | アルカテル−ルーセント | Method for improving quality of service for voice calls handled by network components |
JP2014022781A (en) * | 2012-07-12 | 2014-02-03 | Nippon Telegr & Teleph Corp <Ntt> | Video quality control device, method, and program |
US8988491B2 (en) | 2010-09-07 | 2015-03-24 | Ricoh Company, Ltd. | Apparatus, system, and method of transmitting encoded image data, and recording medium storing control program |
WO2015133216A1 (en) * | 2014-03-05 | 2015-09-11 | 株式会社リコー | Data transmission system, terminal device, program, and method |
JP2018517380A (en) * | 2015-04-09 | 2018-06-28 | デジェロ ラブス インコーポレイテッド | System, device, and method for distributing data having multi-tiered encoding |
JP2018157282A (en) * | 2017-03-15 | 2018-10-04 | 株式会社リコー | Terminal, program, and data transmission method |
CN109660879A (en) * | 2018-12-20 | 2019-04-19 | 广州虎牙信息科技有限公司 | Frame losing method, system, computer equipment and storage medium is broadcast live |
KR20190118714A (en) * | 2018-04-11 | 2019-10-21 | 삼성에스디에스 주식회사 | Method for managing qos and receiving apparatus for executing the same |
-
2006
- 2006-01-18 JP JP2006009934A patent/JP2007194823A/en active Pending
Cited By (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009124362A (en) * | 2007-11-14 | 2009-06-04 | Nec Corp | Communicating system, communication apparatus, control parameter determining method, and program |
JP2013514732A (en) * | 2009-12-18 | 2013-04-25 | アルカテル−ルーセント | Method for improving quality of service for voice calls handled by network components |
US8988491B2 (en) | 2010-09-07 | 2015-03-24 | Ricoh Company, Ltd. | Apparatus, system, and method of transmitting encoded image data, and recording medium storing control program |
JP2014022781A (en) * | 2012-07-12 | 2014-02-03 | Nippon Telegr & Teleph Corp <Ntt> | Video quality control device, method, and program |
US10250652B2 (en) | 2014-03-05 | 2019-04-02 | Ricoh Company, Limited | Data transmission system, terminal device, program, and method |
JPWO2015133216A1 (en) * | 2014-03-05 | 2017-04-06 | 株式会社リコー | Data transmission system, terminal device, program and method |
WO2015133216A1 (en) * | 2014-03-05 | 2015-09-11 | 株式会社リコー | Data transmission system, terminal device, program, and method |
JP2018517380A (en) * | 2015-04-09 | 2018-06-28 | デジェロ ラブス インコーポレイテッド | System, device, and method for distributing data having multi-tiered encoding |
US10687091B2 (en) | 2015-04-09 | 2020-06-16 | Dejero Labs Inc. | Systems, devices, and methods for distributing data with multi-tiered encoding |
US11153610B2 (en) | 2015-04-09 | 2021-10-19 | Dejero Labs Inc. | Systems, devices, and methods for distributing data with multi-tiered encoding |
US11770564B2 (en) | 2015-04-09 | 2023-09-26 | Dejero Labs Inc. | Systems, devices and methods for distributing data with multi-tiered encoding |
JP2018157282A (en) * | 2017-03-15 | 2018-10-04 | 株式会社リコー | Terminal, program, and data transmission method |
KR20190118714A (en) * | 2018-04-11 | 2019-10-21 | 삼성에스디에스 주식회사 | Method for managing qos and receiving apparatus for executing the same |
KR102415156B1 (en) | 2018-04-11 | 2022-06-29 | 삼성에스디에스 주식회사 | Method for managing qos and receiving apparatus for executing the same |
CN109660879A (en) * | 2018-12-20 | 2019-04-19 | 广州虎牙信息科技有限公司 | Frame losing method, system, computer equipment and storage medium is broadcast live |
CN109660879B (en) * | 2018-12-20 | 2021-11-19 | 广州虎牙信息科技有限公司 | Live broadcast frame loss method, system, computer equipment and storage medium |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2007194823A (en) | Video and audio controller, video and audio adjustment system, video and audio adjusting method, and program | |
JP3658087B2 (en) | Terminal device and method for controlling terminal device | |
US6453336B1 (en) | Video conferencing with adaptive client-controlled resource utilization | |
US20160021149A1 (en) | Methods and systems for dynamic adjustment of session parameters for effective video collaboration among heterogeneous devices | |
EP2039156A2 (en) | System and method for dynamic control of image capture in a video conference system | |
US20170155870A1 (en) | Priority of uplink streams in video switching | |
US20070127437A1 (en) | Medium signal transmission method, reception method, transmission/reception method, and device | |
JP2008311831A (en) | Moving image communication equipment, moving image communication system, and semiconductor integrated circuit for moving image communication | |
CN108881931A (en) | A kind of data buffering method and the network equipment | |
CN102348095A (en) | Method for keeping stable transmission of images in mobile equipment video communication | |
JP3715332B2 (en) | Communication system, receiving apparatus and method | |
JP5428734B2 (en) | Network device, information processing apparatus, stream switching method, information processing method, program, and content distribution system | |
JP2005244315A (en) | Network quality stabilizing apparatus for video streaming transmission | |
JPH07170292A (en) | Transmitter | |
JP2015012557A (en) | Video audio processor, video audio processing system, video audio synchronization method, and program | |
CN106998328B (en) | Video transmission method and device | |
US9363574B1 (en) | Video throttling based on individual client delay | |
JP4455405B2 (en) | Video communication device, video distribution server, interactive video communication system, and program | |
EP2043372B1 (en) | Method for audio and video synchronization, receiving and transmitting device | |
JPWO2006103724A1 (en) | Packet distribution bandwidth control method, distribution apparatus, and video distribution system | |
JP3799070B2 (en) | Transmitting apparatus and method | |
KR20060016809A (en) | Medium signal reception device, transmission device, and transmission/reception system | |
JPH07170503A (en) | Receiver | |
JP2006074359A (en) | Transmission reception system of audio data in teleconference system and control method | |
JP4343808B2 (en) | Server in bidirectional image communication system, processing method thereof, and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090406 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090804 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20091215 |