JP2015208021A - Moving image communication system - Google Patents

Moving image communication system Download PDF

Info

Publication number
JP2015208021A
JP2015208021A JP2015117315A JP2015117315A JP2015208021A JP 2015208021 A JP2015208021 A JP 2015208021A JP 2015117315 A JP2015117315 A JP 2015117315A JP 2015117315 A JP2015117315 A JP 2015117315A JP 2015208021 A JP2015208021 A JP 2015208021A
Authority
JP
Japan
Prior art keywords
communication
region
interest
image
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2015117315A
Other languages
Japanese (ja)
Inventor
健太 塩入
Kenta Shioiri
健太 塩入
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Lenovo Innovations Ltd Hong Kong
Original Assignee
Lenovo Innovations Ltd Hong Kong
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Lenovo Innovations Ltd Hong Kong filed Critical Lenovo Innovations Ltd Hong Kong
Priority to JP2015117315A priority Critical patent/JP2015208021A/en
Publication of JP2015208021A publication Critical patent/JP2015208021A/en
Pending legal-status Critical Current

Links

Images

Abstract

PROBLEM TO BE SOLVED: To provide a system, a method and a program, with which image quality of a whole interest region does not suddenly drop when a transmission amount of a moving image is suppressed.SOLUTION: Transfer image generation means 140 of a transmitter 100 generates image data from a frame image of a moving image so that image quality of an interest region becomes higher than other regions, and transmits it to a reception device 200 by communication means 110. Communication rate measuring means 120 measures a communication rate of the communication means 110. Interest region information managing means 130 reduces a size of the interest region when the measured communication rate reaches a first threshold. Screen display means 220 of the reception device 200 displays the moving image based on the image data received by communication means 210 on a display. The interest region information managing means 130 automatically enlarges the size of the interest region until the measured communication rate reaches the first threshold.

Description

本発明は動画像通信システムに関し、特に特定の領域の画質を他の領域に比べて高くして送信装置から受信装置に通信ネットワークを介して画像を転送する動画像通信システムに関する。   The present invention relates to a moving image communication system, and more particularly to a moving image communication system in which an image quality of a specific area is higher than that of other areas and an image is transferred from a transmission apparatus to a reception apparatus via a communication network.

この種の動画像通信システムの一例が特許文献1に記載されている。特許文献1に記載された動画像通信システムは、画像データを通信ネットワークに送信する送信装置と、通信ネットワークを介して画像データを受信して表示する受信装置とで構成される。送信装置または受信装置は、画像の中に任意の領域を指定する領域指定手段を有する。利用者は、画像中の関心のある領域を領域指定手段によって指定する。関心のある領域は、関心領域(ROI:Region of Interest)と言う。送信装置は、関心領域の画質がそれ以外の領域よりも高くなるように送信対象画像から画像データを生成することにより、通信ネットワークの伝送容量が小さくても、必要は部分の画像を詳しく伝送できるようにする。具体的には、送信装置は、関心領域以外の領域の画質は、通信ネットワークの許容伝送容量を満たすように算出する。また、送信装置は、さらに伝送量を低減する必要があれば、関心領域の画質を指定されたものよりも低くする。   An example of this type of video communication system is described in Patent Document 1. The moving image communication system described in Patent Document 1 includes a transmission device that transmits image data to a communication network and a reception device that receives and displays image data via the communication network. The transmission device or the reception device has an area designating unit for designating an arbitrary area in the image. The user designates a region of interest in the image by the region designation means. A region of interest is called a region of interest (ROI). The transmission device generates image data from the transmission target image so that the image quality of the region of interest is higher than that of the other regions, so that even if the transmission capacity of the communication network is small, it is possible to transmit the partial image in detail. Like that. Specifically, the transmission device calculates the image quality of the region other than the region of interest so as to satisfy the allowable transmission capacity of the communication network. In addition, if it is necessary to further reduce the transmission amount, the transmission device makes the image quality of the region of interest lower than that specified.

特許文献1と同様の動画像通信システムは、特許文献2にも記載されている。   A moving image communication system similar to Patent Document 1 is also described in Patent Document 2.

特開平7−288806号公報JP 7-288806 A 特開2005−341076号公報JP-A-2005-341076

特許文献1および特許文献2に記載の動画像通信システムでは、関心領域以外の領域の画質を低下させ、それでもなお不十分であれば、関心領域の画質を低下させることにより、通信ネットワークの許容伝送容量を満たすようにしている。このため、利用者が関心領域のサイズを大きくする変更を行った際、しばしば関心領域全体の画質が突然に低下する状況が発生する。利用者にとってみれば、周囲を鮮明に表示したいために関心領域を拡大したところ、変更前に鮮明に表示されていた部分も含めて関心領域全体が不鮮明になってしまうので、使い勝手が良いとは言えなかった。   In the moving image communication system described in Patent Literature 1 and Patent Literature 2, the image quality of the region other than the region of interest is reduced, and if it is still insufficient, the image quality of the region of interest is reduced, thereby allowing the allowable transmission of the communication network. The capacity is satisfied. For this reason, when the user makes a change to increase the size of the region of interest, a situation often occurs where the image quality of the entire region of interest suddenly decreases. From the user's point of view, when the area of interest is enlarged in order to display the surrounding area clearly, the entire area of interest, including the part that was clearly displayed before the change, becomes unclear. I could not say.

本発明の目的は、動画像の伝送量を抑える際に関心領域全体の画質が突然に低下してしまうことがある、という課題を解決する動画像通信システムを提供することにある。   An object of the present invention is to provide a moving image communication system that solves the problem that the image quality of the entire region of interest may suddenly deteriorate when the transmission amount of moving images is suppressed.

本発明の一形態にかかる動画像通信システムは、通信ネットワークを介して接続される送信装置と受信装置とで構成され、上記送信装置は、上記通信ネットワークを通じて上記受信装置と通信する送信側通信手段と、上記送信側通信手段の通信レートを測定する通信レート測定手段と、動画像のフレーム中に設定する関心領域に関する情報を保持し、上記測定された通信レートが第1の閾値に達したときに上記関心領域のサイズを縮小する関心領域情報管理手段と、上記関心領域の画質が他の領域に比べて高くなるように動画像のフレーム画像から画像データを生成し、上記送信側通信手段により上記受信装置に送信する転送画像生成手段とを備え、上記受信装置は、上記通信ネットワークを通じて上記送信装置と通信する受信側通信手段と、上記受信側通信手段で受信された画像データに基づく動
画像をディスプレイに表示する画面表示手段とを備え、関心領域情報管理手段は、上記測定された通信レートが第1の閾値に達するまでは、上記関心領域のサイズを自動的に拡大する。
A moving image communication system according to an aspect of the present invention includes a transmission device and a reception device connected via a communication network, and the transmission device communicates with the reception device through the communication network. And a communication rate measuring means for measuring the communication rate of the transmitting communication means, and information relating to a region of interest set in a frame of a moving image, and when the measured communication rate reaches a first threshold A region-of-interest information management means for reducing the size of the region of interest, and generating image data from a frame image of the moving image so that the image quality of the region of interest is higher than that of other regions, Transfer image generating means for transmitting to the receiving device, and the receiving device is configured to receive side communication means for communicating with the transmitting device through the communication network. Screen display means for displaying a moving image based on the image data received by the receiving communication means on the display, and the region of interest information management means until the measured communication rate reaches the first threshold value. The size of the region of interest is automatically enlarged.

本発明は上述したように構成されているため、動画像の伝送量を抑える際に関心領域全体の画質が突然に低下することがなくなり、使い勝手が向上する。   Since the present invention is configured as described above, the image quality of the entire region of interest is not suddenly reduced when the transmission amount of moving images is suppressed, and usability is improved.

本発明の第1の実施形態のブロック図である。It is a block diagram of a 1st embodiment of the present invention. 本発明の第2の実施形態のブロック図である。It is a block diagram of the 2nd Embodiment of this invention. 本発明の第2の実施形態におけるサーバの処理例を示すフローチャートである。It is a flowchart which shows the process example of the server in the 2nd Embodiment of this invention. 本発明の第2の実施形態におけるサーバの処理例を示すフローチャートである。It is a flowchart which shows the process example of the server in the 2nd Embodiment of this invention. 本発明の第2の実施形態におけるクライアントの処理例を示すフローチャートである。It is a flowchart which shows the process example of the client in the 2nd Embodiment of this invention. 本発明の第2の実施形態におけるクライアントの処理例を示すフローチャートである。It is a flowchart which shows the process example of the client in the 2nd Embodiment of this invention. 本発明の第2の実施形態におけるクライアントの表示画面の一例を示す図である。It is a figure which shows an example of the display screen of the client in the 2nd Embodiment of this invention.

次に本発明の実施の形態について図面を参照して詳細に説明する。
[第1の実施形態]
図1を参照すると、本発明の第1の実施形態にかかる動画像通信システムは、通信ネットワーク300を介して接続される送信装置100と受信装置200とで構成される。
Next, embodiments of the present invention will be described in detail with reference to the drawings.
[First embodiment]
Referring to FIG. 1, the moving image communication system according to the first embodiment of the present invention includes a transmission device 100 and a reception device 200 connected via a communication network 300.

送信装置100は、通信手段110と、通信レート測定手段120と、関心領域情報管理手段130と、転送画像生成手段140とを備える。また、受信装置200は、通信手段210と、画面表示手段220とを備える。これらはそれぞれ以下のような機能を有する。   The transmission apparatus 100 includes a communication unit 110, a communication rate measurement unit 120, a region-of-interest information management unit 130, and a transfer image generation unit 140. The receiving apparatus 200 includes a communication unit 210 and a screen display unit 220. Each of these has the following functions.

通信手段110は、通信ネットワーク300を通じて受信装置200と無線または有線で通信する機能を有する。   The communication unit 110 has a function of communicating with the receiving device 200 wirelessly or by wire through the communication network 300.

通信レート測定手段120は、通信手段110の通信レートを測定する機能を有する。通信レートとは、単位時間当たりに転送されるデータ量を意味し、単位はbpsである。通信レート測定手段120は、主に送信装置100から受信装置200へ送信している単位時間当たりのデータ量から通信レートを測定する。また、通信レート測定手段120は、第1の閾値を保持している。第1の閾値は、単位時間当たりに転送できるデータ量を意味し、単位はbpsである。また、通信レート測定手段120は、測定した通信レートと第1の閾値とを比較し、通信レートが第1の閾値に達したことを検出すると、その旨を関心領域情報管理手段130に通知する機能を有する。   The communication rate measuring unit 120 has a function of measuring the communication rate of the communication unit 110. The communication rate means the amount of data transferred per unit time, and the unit is bps. The communication rate measuring unit 120 measures the communication rate mainly from the amount of data per unit time transmitted from the transmission device 100 to the reception device 200. In addition, the communication rate measuring unit 120 holds the first threshold value. The first threshold means the amount of data that can be transferred per unit time, and its unit is bps. Further, the communication rate measuring unit 120 compares the measured communication rate with the first threshold value, and when detecting that the communication rate has reached the first threshold value, notifies the region-of-interest information management unit 130 to that effect. It has a function.

関心領域情報管理手段130は、動画像のフレーム中に設定する関心領域に関する情報を保持する。関心領域の形状は任意である。例えば関心領域の形状は矩形である。関心領域が矩形の場合、関心領域に関する情報は、例えばフレーム上での矩形の左上端点のXY座標値と右下端点のXY座標値とを含む。また、関心領域情報管理手段130は、通信レート測定手段120から通信レートが第1の閾値に達した旨の通知を受けると、関心領域のサイズを縮小する機能を有する。関心領域のサイズを縮小する幅は任意である。固定量だけ縮小しても良いし、通信レートが第1の閾値を超えた量に応じて変化する量だけ縮小しても良い。関心領域が矩形の場合、縦と横の幅をそれぞれ縮小しても良いし、縦の幅のみ、あるいは横の幅のみ縮小しても良い。   The region-of-interest information management unit 130 holds information about the region of interest set in the frame of the moving image. The shape of the region of interest is arbitrary. For example, the shape of the region of interest is a rectangle. When the region of interest is a rectangle, the information on the region of interest includes, for example, the XY coordinate value of the upper left corner point and the XY coordinate value of the lower right corner point of the rectangle on the frame. The region-of-interest information management unit 130 has a function of reducing the size of the region of interest when receiving a notification from the communication rate measuring unit 120 that the communication rate has reached the first threshold value. The width for reducing the size of the region of interest is arbitrary. The amount may be reduced by a fixed amount, or may be reduced by an amount that changes according to the amount by which the communication rate exceeds the first threshold. When the region of interest is a rectangle, the vertical and horizontal widths may be reduced, or only the vertical width or only the horizontal width may be reduced.

転送画像生成手段140は、動画像のフレーム画像から画像データを生成し、必要に応じて符号化して、通信手段110を通じて受信装置200へ送信する。対象となる動画像のフレーム画像は、例えば送信装置100を構成するコンピュータの画面に表示される画像である。また、対象となる動画像のフレーム画像は、送信装置100に接続されたテレビカメラで撮像された動画像など、画面の画像以外の画像であっても良い。転送画像生成手段140は、関心領域情報管理手段130に保持されている関心領域に関する情報を参照し、関心領域の画質が他の領域に比べて高くなるように動画像のフレーム画像から画像データを生成する。   The transfer image generation unit 140 generates image data from the frame image of the moving image, encodes it as necessary, and transmits it to the receiving apparatus 200 through the communication unit 110. The frame image of the target moving image is an image displayed on the screen of a computer constituting the transmission apparatus 100, for example. Further, the frame image of the target moving image may be an image other than the image on the screen, such as a moving image captured by a television camera connected to the transmission device 100. The transfer image generation unit 140 refers to the information about the region of interest held in the region of interest information management unit 130, and obtains image data from the frame image of the moving image so that the image quality of the region of interest is higher than other regions. Generate.

本明細書において、画質が高いとは、空間解像度および時間解像度の何れか一方または双方が高いことを意味する。空間解像度とは、単位面積当たりの画素数、カラー画像の色数、画像データを周波数変換して得られる周波数信号の振幅の解像度、画素データの振幅の解像度、画素データを量子化する際の量子化刻み幅の、1つまたは複数またはすべてを意味する。時間解像度とは、フレームレートとインターレース回数の何れか一方または双方を意味する。   In this specification, high image quality means that either one or both of spatial resolution and temporal resolution are high. Spatial resolution means the number of pixels per unit area, the number of colors of a color image, the resolution of the amplitude of a frequency signal obtained by frequency conversion of image data, the resolution of the amplitude of pixel data, and the quantum used when quantizing the pixel data. It means one, a plurality or all of the increments. The temporal resolution means one or both of the frame rate and the number of interlaces.

受信装置200の通信手段210は、通信ネットワーク300を通じて送信装置100と無線または有線で通信する機能を有する。   The communication unit 210 of the reception device 200 has a function of communicating with the transmission device 100 wirelessly or by wire through the communication network 300.

画面表示手段220は、通信手段210で受信された画像データを、必要に応じて復号してディスプレイに表示する機能を有する。   The screen display means 220 has a function of decoding the image data received by the communication means 210 as necessary and displaying it on the display.

次に本実施形態の動作を説明する。   Next, the operation of this embodiment will be described.

送信装置100の転送画像生成手段140は、動画像のフレーム画像が図示しない画面キャプチャ手段等から入力されると、関心領域情報管理手段130に保持されている関心領域に関する情報を参照し、関心領域の画質が他の領域に比べて高くなるようにフレーム画像から画像データを抽出し、必要に応じて符号化して通信手段110を介して受信装置200へ送信する。転送画像生成手段140は、動画像のフレーム画像が入力される毎に上述した動作を繰り返す。   When a frame image of a moving image is input from a screen capture unit (not shown) or the like, the transfer image generation unit 140 of the transmission apparatus 100 refers to the information on the region of interest held in the region of interest information management unit 130, and the region of interest Image data is extracted from the frame image so that the image quality of the image becomes higher than that of the other areas, encoded as necessary, and transmitted to the receiving apparatus 200 via the communication unit 110. The transfer image generation unit 140 repeats the above-described operation every time a moving image frame image is input.

通信レート測定手段120は、例えば一定時間毎に、通信手段110の通信レートを測定し、第1の閾値と比較する。そして、通信レートが第1の閾値に達したことを検知すると、その旨を関心領域情報管理手段130に通知する。関心領域情報管理手段130は、この通知を受けて、自身が保持する関心領域に関する情報を更新し、関心領域のサイズを縮小する。   The communication rate measuring unit 120 measures the communication rate of the communication unit 110 at regular intervals, for example, and compares it with the first threshold value. Then, when it is detected that the communication rate has reached the first threshold, it notifies the region-of-interest information management means 130 to that effect. Upon receiving this notification, the region-of-interest information management unit 130 updates information on the region of interest held by itself and reduces the size of the region of interest.

関心領域のサイズ縮小後、新たな動画像のフレーム画像が転送画像生成手段140に入力されると、転送画像生成手段140は、上記縮小後の関心領域を参照して画像データを抽出し、通信手段110を介して受信装置200へ送信する。関心領域は他の領域に比べて画質が高くなるように画像データを生成しているため、関心領域のサイズが縮小されることにより、1フレーム当たりの画像データ量が低減する。このため、関心領域のサイズを小さくすることにより、通信手段110の通信レートを第1の閾値を超えないように制御することが可能になる。   When a frame image of a new moving image is input to the transfer image generation unit 140 after the size of the region of interest is reduced, the transfer image generation unit 140 extracts image data with reference to the reduced region of interest and performs communication. The data is transmitted to the receiving device 200 via the means 110. Since image data is generated so that the image quality of the region of interest is higher than that of other regions, the amount of image data per frame is reduced by reducing the size of the region of interest. For this reason, it becomes possible to control the communication rate of the communication means 110 so as not to exceed the first threshold value by reducing the size of the region of interest.

受信装置200側では、送信装置100から送信された画像データを通信手段210が受信し、画面表示手段220が必要に応じて復号し、ディスプレイに表示する。これにより、関心領域が他の領域よりも高画質な動画像が受信装置200のディスプレイに表示されることになる。また、動画像の情報量が増える等によって通信手段210の通信レートが第1の閾値に達した場合、受信装置200に表示される画像中の関心領域のサイズは小さくなるものの、関心領域全体の画質が突然に悪化する事態は発生しない。   On the receiving device 200 side, the image data transmitted from the transmitting device 100 is received by the communication unit 210, and the screen display unit 220 decodes it as necessary and displays it on the display. As a result, a moving image whose region of interest has a higher image quality than other regions is displayed on the display of the receiving apparatus 200. In addition, when the communication rate of the communication unit 210 reaches the first threshold due to an increase in the information amount of the moving image, the size of the region of interest in the image displayed on the receiving device 200 is reduced, but the entire region of interest A situation where the image quality suddenly deteriorates does not occur.

[第2の実施形態]
次に、本発明を画面転送・遠隔操作システムに適用した実施形態について説明する。画面転送・遠隔操作システムは、サーバ(PC)側の画面を通信によりクライアント(PC、携帯電話端末など)側に転送して表示し、クライアント側からは利用者が行うキーやマウス等の入力、操作情報を送信することにより、サーバ側を遠隔操作するシステムである。
[Second Embodiment]
Next, an embodiment in which the present invention is applied to a screen transfer / remote operation system will be described. The screen transfer / remote control system transfers the server (PC) side screen to the client (PC, mobile phone terminal, etc.) side by communication and displays it. This system remotely operates the server side by transmitting operation information.

[構成の説明]
まず、本実施形態の構成について図面を参照して詳細に説明する。図2は、本実施形態のシステム構成図である。本実施形態の画面転送・遠隔操作システムは、サーバ1と、クライアント2と、通信網3とから構成される。
[Description of configuration]
First, the configuration of the present embodiment will be described in detail with reference to the drawings. FIG. 2 is a system configuration diagram of the present embodiment. The screen transfer / remote operation system according to the present embodiment includes a server 1, a client 2, and a communication network 3.

サーバ1は、画面キャプチャ手段11と、転送画像生成手段12と、通信手段13と、ROI範囲情報管理手段14と、通信レート測定手段15とを含む。   The server 1 includes screen capture means 11, transfer image generation means 12, communication means 13, ROI range information management means 14, and communication rate measurement means 15.

画面キャプチャ手段11は、サーバ側画面を一定の周期でキャプチャリングし、画像とする。   The screen capture unit 11 captures the server-side screen at a certain period to obtain an image.

転送画像生成手段12は、画面キャプチャ手段11で得た画像をクライアント2に転送するのに適した形式に変換する。変換方法としては、圧縮やエンコードが一般的である。圧縮やエンコードの手法は多くの方法が一般的に知られている。本実施形態は、それら一般的な圧縮やエンコードの手法を用いることが可能である。また、転送画像生成手段12は、転送画像を生成する際には、ROI範囲情報管理手段14からROI範囲として通知される領域(例えばXY座標で特定される領域)内のみを高画質とし、その領域外は低画質とする。このように特定範囲の内と外で画質(解像度・符号量)を変化させる手段としては、JPEG2000やFlash Pixが一般的である。本実施形態は、それらの一般的な手段を用いることが可能である。またROI範囲の形状は、前述の特定範囲内の画質変更手段で技術的に許せば、円でも楕円でも矩形でも構わない。   The transfer image generation unit 12 converts the image obtained by the screen capture unit 11 into a format suitable for transfer to the client 2. As a conversion method, compression or encoding is generally used. Many methods of compression and encoding are generally known. This embodiment can use these general compression and encoding techniques. Further, when generating the transfer image, the transfer image generation unit 12 sets only a region (for example, a region specified by the XY coordinates) notified as the ROI range from the ROI range information management unit 14 to high image quality. The image quality is low outside the area. As a means for changing the image quality (resolution / code amount) within and outside the specific range as described above, JPEG2000 and Flash Pix are generally used. In this embodiment, those general means can be used. The shape of the ROI range may be a circle, an ellipse, or a rectangle as long as the image quality changing means within the specific range permits technically.

通信手段13は、転送画像生成手段12で生成した転送画像データを、通信網3を介してクライアント2に送信する。また通信手段13は、通信レート測定手段15から受け取った後述する中間レートオーバー情報を、通信網3を介してクライアント2に送信する。また通信手段13は、ROI範囲情報管理手段14から受け取ったROI範囲縮小情報を、通信網3を介してクライアント2に送信する。さらに通信手段13は、クライアント2側から送信されてくる遠隔操作の入力情報と、ROI範囲情報とを受信する。   The communication unit 13 transmits the transfer image data generated by the transfer image generation unit 12 to the client 2 via the communication network 3. The communication unit 13 transmits intermediate rate over information (described later) received from the communication rate measurement unit 15 to the client 2 via the communication network 3. The communication unit 13 transmits the ROI range reduction information received from the ROI range information management unit 14 to the client 2 via the communication network 3. Further, the communication means 13 receives remote operation input information and ROI range information transmitted from the client 2 side.

通信レート測定手段15は、通信手段13による通信レートを監視し、自手段15内にあらかじめ設定された第1の閾値に達した場合、ROI範囲情報管理手段14にその旨を通知すると共に、通信手段13を通してクライアント2側に通知する。第1の閾値は、通信手段13がクライアント2への送信のために使用できる帯域の上限値(以下、上限レートと呼ぶ)に設定される。また、通信レート測定手段15は、通信手段13による通信レートが自手段15内にあらかじめ設定された第2の閾値に達した場合、通信手段13を通してクライアント2側に中間レートオーバー情報を通知する。第2の閾値は、上限レートの半分(以下、中間レートと呼ぶ)に設定される。但し、第2の閾値を上限レートの半分に設定するのは一例であり、利用者の利便性を考慮して任意に定めることが可能である。また、第1の閾値となる上記の上限レート値や第2の閾値となる中間レートの値は、サーバ1、クライアント2、通信網3(通信事業者・プロバイダ)から随時設定変更しても良い。   The communication rate measuring means 15 monitors the communication rate by the communication means 13, and when the first threshold value preset in the own means 15 is reached, notifies the ROI range information management means 14 to that effect and Notification is made to the client 2 side through the means 13. The first threshold is set to an upper limit value (hereinafter referred to as an upper limit rate) of a band that can be used by the communication unit 13 for transmission to the client 2. Further, the communication rate measuring means 15 notifies the intermediate rate over information to the client 2 side through the communication means 13 when the communication rate by the communication means 13 reaches the second threshold value preset in the own means 15. The second threshold is set to half of the upper limit rate (hereinafter referred to as the intermediate rate). However, setting the second threshold value to half of the upper limit rate is merely an example, and can be arbitrarily determined in consideration of user convenience. In addition, the upper limit rate value that is the first threshold value and the intermediate rate value that is the second threshold value may be changed from time to time by the server 1, the client 2, and the communication network 3 (communication service provider / provider). .

ROI範囲情報管理手段14は、通信手段13を経由してクライアント2からのROI範囲情報を受け取り、自身に保存するとともに転送画像生成手段12に通知する。またROI範囲情報管理手段14は、通信レート測定手段15から、通信レートが上限レートに達した旨の通知を受けた場合、自身に保存している現状のROI範囲情報をよりサイズの小さなROI範囲情報に更新するとともに、通信手段13を通してクライアント2にROI範囲縮小情報を送信する。ROI範囲情報管理手段14は、ROI範囲情報をよりサイズの小さなROI範囲情報に更新する場合、例えば、ROI範囲が矩形であれば、矩形のROI範囲の縦と横の長さを、中心に向かって数ドットずつ短くする方法を使用する。さらにROI範囲情報管理手段14は、上限レートに達した通知を受けてから一定時間、クライアント2から通信手段13経由で渡されるROI範囲のサイズを拡大するROI範囲情報を無視する。但し、ROI範囲情報管理手段14は、クライアント2から通信手段13経由で渡されるROI範囲のサイズの縮小や位置を変更するROI範囲情報は受け付け、転送画像生成手段12に通知する。   The ROI range information management unit 14 receives the ROI range information from the client 2 via the communication unit 13, stores it in itself, and notifies the transfer image generation unit 12 of it. When the ROI range information management unit 14 receives a notification from the communication rate measurement unit 15 that the communication rate has reached the upper limit rate, the ROI range information management unit 14 converts the current ROI range information stored in itself into a smaller ROI range. In addition to updating the information, the ROI range reduction information is transmitted to the client 2 through the communication means 13. When the ROI range information management means 14 updates the ROI range information to the ROI range information having a smaller size, for example, if the ROI range is a rectangle, the vertical and horizontal lengths of the rectangular ROI range are directed toward the center. Use a method of shortening by several dots. Further, the ROI range information management unit 14 ignores the ROI range information for enlarging the size of the ROI range passed from the client 2 via the communication unit 13 for a certain time after receiving the notification of reaching the upper limit rate. However, the ROI range information management unit 14 accepts the ROI range information for reducing the size or changing the position of the ROI range passed from the client 2 via the communication unit 13 and notifies the transfer image generation unit 12 of it.

クライアント2は、画面表示手段21と、通信手段22と、入力手段23と、ROI範囲情報制御手段24とを含む。   The client 2 includes screen display means 21, communication means 22, input means 23, and ROI range information control means 24.

画面表示手段21は、通信手段22を経由してサーバ1側から送られてきた転送画像を表示する。この際、画面表示手段21は、サーバ1側で圧縮、エンコードがされている場合には解凍、デコードを行ってから表示する。また画面表示手段21は、ROI範囲情報制御手段24を参照して、ROI範囲の位置と枠の色を確認し、ROIの範囲を示す枠を上記の色で描画する。   The screen display means 21 displays the transfer image sent from the server 1 side via the communication means 22. At this time, the screen display means 21 displays it after decompressing and decoding if compression and encoding are performed on the server 1 side. The screen display means 21 refers to the ROI range information control means 24, confirms the position of the ROI range and the color of the frame, and draws the frame indicating the ROI range in the above color.

通信手段22は、通信網3を経由してサーバ1から転送された画像情報を画面表示手段21に受け渡す。また通信手段22は、サーバ1からROI範囲縮小情報および中間レートオーバー通知を受信し、ROI範囲情報制御手段24に渡す。さらに通信手段22は、入力手段23から渡される遠隔操作情報、およびROI範囲情報制御手段24から渡されるROI範囲情報を通信網3を経由してサーバ1に送信する。   The communication unit 22 delivers the image information transferred from the server 1 via the communication network 3 to the screen display unit 21. The communication unit 22 receives the ROI range reduction information and the intermediate rate over notification from the server 1 and passes them to the ROI range information control unit 24. Further, the communication unit 22 transmits the remote operation information passed from the input unit 23 and the ROI range information passed from the ROI range information control unit 24 to the server 1 via the communication network 3.

入力手段23は、利用者からのマウス入力やキー入力などによって、サーバ1の遠隔操作情報を受け付け、通信手段22に渡す。また入力手段23は、利用者からROI範囲を設定ないし変更する入力も受け付ける。例えば入力手段23は、クライアント2画面上でマウス操作などにより2点が指定されると、その2点を左上端点、右下端点とする矩形をROI範囲とする設定を受け付ける。また、例えば入力手段23は、クライアント2画面上に描画されているROI範囲の枠をマウスでドラッグ&ドローする操作を、ROI範囲の位置やサイズを変更する操作として受け付ける。入力手段23は、ROI範囲に変更があった場合はROI範囲情報制御手段24に通知する。   The input unit 23 receives remote operation information of the server 1 by a mouse input or a key input from a user and passes it to the communication unit 22. The input means 23 also receives an input from the user for setting or changing the ROI range. For example, when two points are designated on the client 2 screen by a mouse operation or the like, the input unit 23 accepts a setting in which a rectangle having the two points as the upper left end point and the right lower end point is set as the ROI range. For example, the input unit 23 accepts an operation of dragging and drawing a frame of the ROI range drawn on the client 2 screen with a mouse as an operation of changing the position and size of the ROI range. The input unit 23 notifies the ROI range information control unit 24 when there is a change in the ROI range.

ROI範囲情報制御手段24は、入力手段23からROI範囲の設定変更要求を受け付けたとき、および通信手段22からROI範囲縮小情報を受信したとき、クライアント2内のROI範囲情報を更新する。またROI範囲情報制御手段24は、通信手段22を経由してサーバ1側から通信レートが上限レートに達した旨の通知およびROI範囲縮小情報を受けた場合には、一定期間、入力手段23から通知されるROI範囲のサイズ拡大の要求を無視する(位置移動や範囲縮小については受け付ける)。さらにROI範囲情報制御手段24は、通信手段22を経由してサーバ1側から中間レートオーバー通知を受けた場合は、ROI範囲の枠の色を更新する。これによって、利用者に通信レートが上限値到達までにどの程度余裕があるか、視覚的にわかりやすく伝えることが出来る。   The ROI range information control unit 24 updates the ROI range information in the client 2 when receiving a setting change request for the ROI range from the input unit 23 and when receiving the ROI range reduction information from the communication unit 22. When the ROI range information control means 24 receives the notification that the communication rate has reached the upper limit rate and the ROI range reduction information from the server 1 via the communication means 22, the ROI range information control means 24 from the input means 23 for a certain period. Ignores the request to enlarge the size of the notified ROI range (accepts position movement and range reduction). Further, when the ROI range information control unit 24 receives an intermediate rate over notification from the server 1 via the communication unit 22, the ROI range information control unit 24 updates the color of the frame of the ROI range. As a result, it is possible to visually tell the user how much the communication rate can afford to reach the upper limit.

通信網3は、サーバ1とクライアント2とが通信できるものであれば任意で良い。通信網3は、有線でも無線でもかまわないし、3G網、イーサネット(登録商標)網、WMAX網などどんな通信網を利用してもかまわない。   The communication network 3 may be arbitrary as long as the server 1 and the client 2 can communicate with each other. The communication network 3 may be wired or wireless, and any communication network such as a 3G network, an Ethernet (registered trademark) network, or a WMAX network may be used.

[動作の説明]
次に本実施形態の動作を図3、図4、図5、図6のフローチャートを参照して説明する。
[Description of operation]
Next, the operation of this embodiment will be described with reference to the flowcharts of FIGS. 3, 4, 5, and 6.

まず、図3、図4を参照して、サーバ側の動作を説明する。なお、図3に示す処理と図4に示す処理とは同時並行的に動作する。   First, the operation on the server side will be described with reference to FIGS. Note that the process shown in FIG. 3 and the process shown in FIG. 4 operate in parallel.

図3を参照すると、サーバ1は、まず画面キャプチャ手段11によってサーバ側画面をキャプチャする(S1-4)。次に、転送画像生成手段12がROI範囲情報管理手段14を参照してROI範囲情報を確認し(S1-2)、ROI範囲内のみ高画質の転送画像データを生成する(S1-3)。次に、通信手段13によって生成した画像データをクライアントに送信する(S1-4)。これらの処理は、画面転送・遠隔操作システムを利用している間、周期的に(例えばフレーム周期毎に)繰り返す。   Referring to FIG. 3, the server 1 first captures the server side screen by the screen capture unit 11 (S1-4). Next, the transfer image generation unit 12 refers to the ROI range information management unit 14 to confirm the ROI range information (S1-2), and generates high-quality transfer image data only within the ROI range (S1-3). Next, the image data generated by the communication means 13 is transmitted to the client (S1-4). These processes are repeated periodically (for example, every frame period) while using the screen transfer / remote control system.

図4の処理も図3の処理と同じく画面転送・遠隔操作システムを利用している間、周期的に繰り返す。まず、サーバ1の通信レート測定手段15は、通信手段13の通信レートが上限レートに到達しているか否かを判定する(S2-1)。上限レートに到達している場合には、S2-2,S2-3,S2-4,S2-5のフローに進み、上限レートに到達していない場合にはS2-6,S2-7,S2-8,S2-9のフローに進む。   The process of FIG. 4 is repeated periodically while the screen transfer / remote operation system is used as in the process of FIG. First, the communication rate measuring unit 15 of the server 1 determines whether or not the communication rate of the communication unit 13 has reached the upper limit rate (S2-1). If the maximum rate has been reached, proceed to S2-2, S2-3, S2-4, S2-5, and if the maximum rate has not been reached, S2-6, S2-7, S2 -8, go to S2-9 flow.

上限レートに到達している場合、通信レート測定手段15はクライアント2に向けて上限到達通知を送信する(S2-2)。次に、通信レート測定手段15はROI範囲情報管理手段14へ上限到達を通知し、ROI範囲情報管理手段14はROI範囲を範囲縮小したものに更新してクライアントに通知する(S2-3)。また、ROI範囲情報管理手段14は、通信手段13経由でクライアント2からROI範囲情報の通知が来たか否かを監視する(S2-4)。そして、クライアント2からROI範囲情報の通知が来ると、ROI範囲情報管理手段14は、通知内容を解析し、ROI範囲の範囲縮小、および位置移動の情報であれば、通知された通りにROI範囲情報を更新する(S2-5)。他方、ROI範囲情報管理手段14は、ROI範囲のサイズ拡大の通知であれば、通知を無視し、ROI範囲情報は更新しない(S2-5)。   If the upper limit rate has been reached, the communication rate measuring means 15 transmits an upper limit arrival notification to the client 2 (S2-2). Next, the communication rate measuring means 15 notifies the ROI range information managing means 14 that the upper limit has been reached, and the ROI range information managing means 14 updates the ROI range to a reduced version and notifies the client (S2-3). Further, the ROI range information management means 14 monitors whether or not the ROI range information is notified from the client 2 via the communication means 13 (S2-4). When the ROI range information notification is received from the client 2, the ROI range information management means 14 analyzes the notification content, and if the ROI range is reduced, and the position movement information is received, the ROI range information is notified. Update the information (S2-5). On the other hand, if the ROI range information management means 14 is a notification of the enlargement of the size of the ROI range, the notification is ignored and the ROI range information is not updated (S2-5).

上限レートに到達していない場合、通信レート測定手段15は、通信手段13の通信レートが中間レートに到達しているか否かを判定する(S2-6)。もし通信レートが上限値の半分になった場合は、通信レート測定手段15は、その旨をクライアント2に通知する(S2-7)。また、ROI範囲情報管理手段14は、通信手段13経由でクライアント2からROI範囲情報の通知が来たか否かを監視している(S2-8)。そして、クライアント2からROI範囲情報の通知が来ると、ROI範囲情報管理手段14は、通知された通りにROI範囲情報を更新する(S2-9)。すなわち、通信レートの上限値に達していないため、ROI範囲情報管理手段14は、ROI範囲のサイズ拡大の通知も含め、全ての要求を受け付けてサーバ1側のROI範囲情報を更新する。   If the upper limit rate has not been reached, the communication rate measuring means 15 determines whether or not the communication rate of the communication means 13 has reached the intermediate rate (S2-6). If the communication rate becomes half of the upper limit value, the communication rate measuring means 15 notifies the client 2 to that effect (S2-7). In addition, the ROI range information management unit 14 monitors whether or not the ROI range information is notified from the client 2 via the communication unit 13 (S2-8). When the ROI range information is notified from the client 2, the ROI range information management unit 14 updates the ROI range information as notified (S2-9). That is, since the upper limit value of the communication rate has not been reached, the ROI range information management unit 14 accepts all requests including the notification of the size increase of the ROI range and updates the ROI range information on the server 1 side.

次に、図5、図6を参照して、クライアント側の動作を説明する。なお、図5に示す処理と図6に示す処理とは同時並行的に動作する。   Next, the operation on the client side will be described with reference to FIGS. Note that the processing shown in FIG. 5 and the processing shown in FIG. 6 operate in parallel.

図5を参照すると、クライアント2の通信手段22が転送画面を受信すると(S3-1)、画面表示手段21がその転送画面をディスプレイに表示する(S3-2)。続いて画面表示手段21は、ROI範囲情報制御手段24で保持されているROI範囲情報を参照してROI範囲の位置と枠の色を確認し、ディスプレイ上にROI範囲の枠を描画する(S3-3)。これらの処理は画面転送・遠隔操作システム利用時に周期的に繰り返す。   Referring to FIG. 5, when the communication unit 22 of the client 2 receives the transfer screen (S3-1), the screen display unit 21 displays the transfer screen on the display (S3-2). Subsequently, the screen display unit 21 refers to the ROI range information held by the ROI range information control unit 24, confirms the position of the ROI range and the color of the frame, and draws the frame of the ROI range on the display (S3). -3). These processes are repeated periodically when using the screen transfer / remote control system.

図6の処理も図5の処理と同じく画面転送・遠隔操作システムを利用している間、周期的に繰り返す。クライアント2は、上限レート到達通知およびROI範囲縮小情報が通信手段22に到達したとき、および到達してから一定時間以内であれば、S4-2,S4-3,S4-4,S4-5のフローに進み、一定時間以内でなければ、S4-6,S4-7,S4-8,S4-9,S4-10のフローに進む。   The process of FIG. 6 is repeated periodically while the screen transfer / remote control system is used, as in the process of FIG. When the upper limit rate arrival notification and the ROI range reduction information reach the communication means 22 and within a certain time after reaching the client 2, the client 2 performs S4-2, S4-3, S4-4, and S4-5. Proceed to the flow, and if not within a certain time, proceed to the flow of S4-6, S4-7, S4-8, S4-9, S4-10.

上限レート到達通知およびROI範囲縮小情報が通信手段22に到達したときは、ROI範囲情報制御手段24は、到達したROI範囲縮小情報に従って、自手段で保持するROI範囲情報を更新する(S4-2)。また、ROI範囲情報制御手段24は、入力手段23からROI範囲を変更する通知が来るか否かを監視する(S4-3)。そして、入力手段23からROI範囲を変更する通知が来ると、ROI範囲情報制御手段24は、通知内容を解析し、ROI範囲の縮小と位置の変更の通知であれば、変更後のROI範囲の情報を通信手段22を介してサーバ1へ通知し(S4-4)、通知した通りに自手段24に保持するROI範囲情報を更新する(S4-5)。他方、ROI範囲情報制御手段24は、ROI範囲の拡大の通知であれば、その通知を無視し、サーバ1への通知および自手段24に保持するROI範囲情報の更新は行わない。   When the upper limit rate arrival notification and the ROI range reduction information reach the communication means 22, the ROI range information control means 24 updates the ROI range information held by itself according to the reached ROI range reduction information (S4-2). ). Further, the ROI range information control unit 24 monitors whether or not a notification for changing the ROI range is received from the input unit 23 (S4-3). Then, when a notification for changing the ROI range comes from the input means 23, the ROI range information control means 24 analyzes the notification contents, and if the notification is for the reduction of the ROI range and the change of the position, the ROI range information is changed. Information is notified to the server 1 via the communication means 22 (S4-4), and the ROI range information held in the own means 24 is updated as notified (S4-5). On the other hand, if the ROI range information control means 24 is a notification of expansion of the ROI range, the ROI range information control means 24 ignores the notice and does not update the ROI range information held in the server 1 and the own means 24.

また、上限レート到達通知およびROI範囲縮小情報が通信手段22に到達した後の一定期間以外のときは、ROI範囲情報制御手段24は、サーバ1から上限レートの半分に到達した旨の通知が来たか否かを監視する(S4-6)。若し、そのような通知が来た場合、ROI範囲情報制御手段24は、自手段で保持するROI範囲情報中の枠の色を所定の色(例えば黄色)に変更する(S4-7)。また、ROI範囲情報制御手段24は、入力手段23からROI範囲を変更する通知が来たか否かを監視する(S4-8)。そして、入力手段23からROI範囲を変更する通知が来ると、ROI範囲情報制御手段24は、通知内容を解析し、変更後のROI範囲の情報を通信手段22を介してサーバ1へ通知し(S4-9)、サーバ1に通知した通りに自手段24に保持するROI範囲情報を更新する(S4-10)。なお、ROI範囲情報制御手段24は、ROI範囲の変更がROI範囲の縮小であり、ROI範囲情報中の枠の色が黄色になっている場合には、ROI範囲の縮小にあわせて、枠の色を黄色から通常色(例えば青色)に変更する。   In addition, when the upper limit rate arrival notification and the ROI range reduction information are not in a certain period after reaching the communication means 22, the ROI range information control means 24 receives a notification from the server 1 that it has reached half of the upper limit rate. (S4-6). If such notification is received, the ROI range information control unit 24 changes the color of the frame in the ROI range information held by itself to a predetermined color (for example, yellow) (S4-7). Further, the ROI range information control means 24 monitors whether or not a notification for changing the ROI range has been received from the input means 23 (S4-8). When a notification for changing the ROI range is received from the input unit 23, the ROI range information control unit 24 analyzes the content of the notification and notifies the server 1 of the changed ROI range information via the communication unit 22 ( S4-9), as notified to the server 1, the ROI range information held in the own means 24 is updated (S4-10). The ROI range information control means 24, when the change in the ROI range is a reduction of the ROI range, and the frame color in the ROI range information is yellow, The color is changed from yellow to a normal color (for example, blue).

図7は、クライアント2のディスプレイ画面の表示例を示す。サーバ1の画面に表示される文章を画面転送によりクライアント2に転送して、利用者がスクロールしながら文章を読んでいる状況を示す(左上の表示)。但し、スクロールで新たに出てきた点線内の選択領域(ROI範囲)だけ文字が読めれば良いので、レスポンスが良くなるように、ROI範囲の外は低画質にして通信量を抑えている(右上の表示)。情報量が増えて通信レートが上限値の半分に達すると、サーバ1から通知が来てROI範囲の枠の色が変わる(左下の表示)。さらに、通信レートが上限値に達すると、サーバ1がROI範囲を、強制的に一回り小さくする(右下の表示)。ROI範囲が縮小しても、最下行はROI範囲に含まれているため、スクロールで新たに出てくる文字は読むことが可能になっている。   FIG. 7 shows a display example of the display screen of the client 2. The text displayed on the screen of the server 1 is transferred to the client 2 by screen transfer, and shows a situation where the user is reading the text while scrolling (display on the upper left). However, since it is only necessary to read the text only in the selected area (ROI range) within the dotted line that appears newly by scrolling, the image quality is reduced outside the ROI range by reducing the communication volume so that the response will be better (upper right corner) Display of). When the amount of information increases and the communication rate reaches half of the upper limit, a notification is received from the server 1 and the color of the ROI range frame changes (displayed in the lower left). Furthermore, when the communication rate reaches the upper limit value, the server 1 forcibly reduces the ROI range by one (display on the lower right). Even if the ROI range is reduced, the bottom line is included in the ROI range, so it is possible to read the newly appearing characters by scrolling.

図7の例はテキストを読むための画面転送を例にしたが、例えばクライアント2からサーバ1のテキスト作成アプリケーションを起動し、そのアプリケーションの文字入力画面を転送して文字入力する場合にも適用できる。この場合、新規に文字が入力される周辺だけを高画質で見ることができれば、作業に支障は生じない。さらに、テキスト入力以外の分野への適用も可能である。   The example of FIG. 7 is an example of screen transfer for reading text, but it can also be applied to the case where, for example, the text creation application of the server 1 is started from the client 2 and the character input screen of the application is transferred to input characters. . In this case, if only the vicinity where characters are newly input can be viewed with high image quality, the work will not be hindered. Furthermore, application to fields other than text input is also possible.

[効果の説明]
次に、本実施形態の効果を説明する。
[Description of effects]
Next, the effect of this embodiment will be described.

本実施形態によれば、ROI範囲全体の画質が突然低下することを防止することができる。その理由は、本実施形態のサーバ1は、通信レートが上限レートに達したとき、高画質で画面転送するROI範囲を強制的に範囲縮小することにより、サーバ1からの送信レートが上限レートを超えないようにしているためである。すなわち、特許文献1および特許文献2のようにROI範囲の画質を低下させることで、サーバ1の送信レートを調整していないためである。   According to the present embodiment, it is possible to prevent the image quality of the entire ROI range from being suddenly lowered. The reason for this is that when the communication rate reaches the upper limit rate, the server 1 of this embodiment forcibly reduces the ROI range for screen transfer with high image quality, so that the transmission rate from the server 1 is set to the upper limit rate. This is because it is not exceeded. That is, unlike in Patent Document 1 and Patent Document 2, the transmission rate of the server 1 is not adjusted by reducing the image quality in the ROI range.

また本実施形態によれば、レスポンスが悪化する事態を防ぐことが可能となる。その理由は、本実施形態のサーバ1は、通信レートが上限レートに達したとき、高画質で画面転送するROI範囲を強制的に範囲縮小することにより、サーバ1からの送信レートが上限レートを超えないようにしているためである。   Moreover, according to this embodiment, it becomes possible to prevent the situation where a response deteriorates. The reason for this is that when the communication rate reaches the upper limit rate, the server 1 of this embodiment forcibly reduces the ROI range for screen transfer with high image quality, so that the transmission rate from the server 1 is set to the upper limit rate. This is because it is not exceeded.

また本実施形態によれば、ROI範囲を現状からどの程度まで拡大可能であるかの目安を利用者に提供することができる。その理由は、通信レートが上限レートに達してROI範囲を拡大できない状態のときはROI範囲の枠をその旨を示す例えば赤色で表示し、通信レートが中間レートに達したときはROI範囲の枠をその旨を示す例えば黄色で表示し、通信レートが中間レートに達していないときはROI範囲の枠をその旨を示す例えば青色で表示するためである。   Further, according to the present embodiment, it is possible to provide the user with an indication of how much the ROI range can be expanded from the current state. The reason is that when the communication rate reaches the upper limit rate and the ROI range cannot be expanded, the ROI range frame is displayed in red to indicate that, for example, and when the communication rate reaches the intermediate rate, the ROI range frame This is because, for example, yellow is displayed to indicate that, and when the communication rate does not reach the intermediate rate, the frame of the ROI range is displayed, for example, blue indicating that.

[他の実施形態]
以上、本発明を幾つかの実施形態を挙げて説明したが、本発明は以上の実施形態にのみ限定されず、その他各種の付加変更が可能である。例えば、以下のような実施形態も本発明に含まれる。
[Other embodiments]
Although the present invention has been described with reference to some embodiments, the present invention is not limited to the above embodiments, and various other additions and modifications can be made. For example, the following embodiments are also included in the present invention.

前述の説明では、送信レートが上限値に達したときのみ自動的にROI範囲をサイズ縮小する自動調整を行う機能について記述したが、上限値に達していないときに、逆にROI範囲を自動的にサイズ拡大する実施形態(第3の実施形態)も可能である。この第3の実施形態では、利用者は入力手段23からROI範囲の中心位置を指定する。利用者が指定したROI範囲の中心位置は、ROI範囲情報制御手段24に保存されると共にサーバ1に通知され、ROI範囲情報管理手段14に保存される。ROI範囲情報管理手段14は、通信手段13の送信レートが上限値に達するか、あるいはサーバ側画面全体がROI範囲になるかどちらかまで、ROI範囲を上記中心位置から周囲に向かって拡大する。例えば、ROI範囲の中心を小さな矩形で指定する場合、その矩形の縦と横の長さを外側に向かって数ドットずつ長くしていき、画面端に到達した辺についてはそれ以上の拡大を停止させる。このように第3の実施形態では、利用者はROI範囲の位置のみ操作することになり、サイズは常に自動調整されることとなる。   In the above explanation, the function to perform automatic adjustment to automatically reduce the size of the ROI range only when the transmission rate reaches the upper limit value was described. However, when the upper limit value has not been reached, the ROI range is automatically changed. An embodiment in which the size is enlarged (third embodiment) is also possible. In the third embodiment, the user designates the center position of the ROI range from the input means 23. The center position of the ROI range designated by the user is stored in the ROI range information control unit 24 and is notified to the server 1 and stored in the ROI range information management unit 14. The ROI range information management unit 14 expands the ROI range from the center position toward the periphery until either the transmission rate of the communication unit 13 reaches the upper limit value or the entire server screen is in the ROI range. For example, when the center of the ROI range is specified by a small rectangle, the vertical and horizontal lengths of the rectangle are increased outward by several dots, and further expansion is stopped for the side that reaches the screen edge. Let Thus, in the third embodiment, the user operates only the position of the ROI range, and the size is always automatically adjusted.

また、サーバ側で画面が変化した更新差分領域のみをクライアントに転送する機能を持つ実施形態(第4の実施形態)も可能である。この第4の実施形態によれば、画面更新が少ないタイミングでは通信レートをあまり上げずにROI範囲を大きく指定することが可能になる。この第4の実施形態では、利用者がROI範囲の位置を移動あるいはそのサイズを変更したときに、ROI範囲として新たに追加された画面範囲の画像部分は、実際に更新されていなくても更新があったものとして扱って、クライアントに高画質で転送する。これにより、サーバ側画面の変化がない場合でも、利用者がROI範囲を徐々に移動したり、サイズを拡大すると、それに応じて高画質で見ることが出来る画面範囲が移動し、拡大していくことになる。   Further, an embodiment (fourth embodiment) having a function of transferring only the update difference area whose screen has changed on the server side to the client is also possible. According to the fourth embodiment, it is possible to specify a large ROI range without increasing the communication rate at a timing when the screen update is small. In the fourth embodiment, when the user moves or changes the size of the ROI range, the image portion of the screen range newly added as the ROI range is updated even if it is not actually updated. Is transferred to the client with high image quality. As a result, even if there is no change in the server-side screen, if the user gradually moves the ROI range or increases the size, the screen range that can be viewed with high image quality will move and expand accordingly. It will be.

また、前述の説明では、上限レートは予め設定される固定値としたが、上限レートを可変値とする実施形態(第5の実施形態)も可能である。例えば、現在利用可能な帯域幅をサーバ1側で自動的に判定する機能を持たせ、この機能により判定された帯域幅を上限ルートに用いることができる。   In the above description, the upper limit rate is a fixed value set in advance, but an embodiment (fifth embodiment) in which the upper limit rate is a variable value is also possible. For example, it is possible to provide a function for automatically determining the currently available bandwidth on the server 1 side, and the bandwidth determined by this function can be used for the upper limit route.

また、前述の説明では、本発明を画面転送・遠隔操作システムに適用した実施形態を例に挙げたが、サーバなどの送信装置からクライアントなどの受信装置に画像を転送するシステムであれば、画面転送・遠隔操作システムに限らずに適用が可能である。   In the above description, the embodiment in which the present invention is applied to a screen transfer / remote operation system has been described as an example. However, if the system transfers an image from a transmission device such as a server to a reception device such as a client, the screen is displayed. The present invention is not limited to transfer / remote operation systems.

また、本発明の送信装置および受信装置は、コンピュータとそのプログラムとによって上記各実施形態の機能を実現することができる。プログラムは、半導体メモリや磁気ディスク等のコンピュータ可読記録媒体に記録されて提供され、コンピュータの立ち上げ時などにコンピュータに読み取られ、そのコンピュータの動作を制御することにより、そのコンピュータを前述した各実施の形態における送信装置、サーバ、受信装置、クライアントとして機能させる。   Further, the transmission device and the reception device of the present invention can realize the functions of the above embodiments by a computer and its program. The program is provided by being recorded on a computer-readable recording medium such as a semiconductor memory or a magnetic disk, and read by the computer at the time of starting up the computer, etc., and controlling the operation of the computer. Function as a transmission device, a server, a reception device, and a client.

1 サーバ
2 クライアント
3 通信網
11 画面キャプチャ手段
12 転送画像生成手段
13 通信手段
15 通信レート測定手段
21 画面表示手段
22 通信手段
23 入力手段
24 クライアント
24 自手段
100 送信装置
110 通信手段
120 通信レート測定手段
130 関心領域情報管理手段
140 転送画像生成手段
200 受信装置
210 通信手段
220 画面表示手段
300 通信ネットワーク
DESCRIPTION OF SYMBOLS 1 Server 2 Client 3 Communication network 11 Screen capture means 12 Transfer image generation means 13 Communication means 15 Communication rate measurement means 21 Screen display means 22 Communication means 23 Input means 24 Client 24 Own means 100 Transmitter 110 Communication means 120 Communication rate measurement means 130 Region of Interest Information Management Unit 140 Transfer Image Generation Unit 200 Receiving Device 210 Communication Unit 220 Screen Display Unit 300 Communication Network

Claims (5)

通信ネットワークを介して接続される送信装置と受信装置とで構成され、
前記送信装置は、
前記通信ネットワークを通じて前記受信装置と通信する送信側通信手段と、
前記送信側通信手段の通信レートを測定する通信レート測定手段と、
動画像のフレーム中に設定する関心領域に関する情報を保持し、前記測定された通信レートが第1の閾値に達したときに前記関心領域のサイズを縮小する関心領域情報管理手段と、
前記関心領域の画質が他の領域に比べて高くなるように動画像のフレーム画像から画像データを生成し、前記送信側通信手段により前記受信装置に送信する転送画像生成手段とを備え、
前記受信装置は、
前記通信ネットワークを通じて前記送信装置と通信する受信側通信手段と、
前記受信側通信手段で受信された画像データに基づく動画像をディスプレイに表示する画面表示手段とを備え、
前記関心領域情報管理手段は、前記測定された通信レートが第1の閾値に達するまでは、前記関心領域のサイズを自動的に拡大する
ことを特徴とする動画像通信システム。
Consists of a transmission device and a reception device connected via a communication network,
The transmitter is
Transmitting-side communication means for communicating with the receiving device through the communication network;
Communication rate measuring means for measuring the communication rate of the transmitting communication means;
Region-of-interest information management means for holding information on a region of interest set in a frame of a moving image and reducing the size of the region of interest when the measured communication rate reaches a first threshold;
Transfer image generation means for generating image data from a frame image of a moving image so that the image quality of the region of interest is higher than other areas, and transmitting the image data to the reception device by the transmission side communication means,
The receiving device is:
Receiving-side communication means for communicating with the transmitting device through the communication network;
Screen display means for displaying a moving image based on the image data received by the receiving side communication means on a display;
The moving image communication system according to claim 1, wherein the region of interest information management means automatically enlarges the size of the region of interest until the measured communication rate reaches a first threshold value.
前記受信装置は、
利用者から関心領域の設定および変更の要求を入力する入力手段と、
前記入力された関心領域の設定および変更の要求を解析して、最新の関心領域に関する情報を生成し、該生成した関心領域に関する情報を保持すると共に前記受信側通信手段により前記送信装置へ送信し、かつ、前記受信側通信手段により前記縮小した関心領域に関する情報を受信したときに前記保持する情報を更新する関心領域情報制御手段とを備え、
前記送信装置の前記関心領域情報管理手段は、前記送信側通信手段により前記受信装置から受信した関心領域に関する情報を保持することを特徴とする請求項1記載の動画像通信システム。
The receiving device is:
An input means for inputting a request for setting and changing a region of interest from a user;
Analyzing the inputted request for setting and changing the region of interest, generating information on the latest region of interest, holding the generated information on the region of interest, and transmitting the information to the transmitting device by the receiving side communication means And a region-of-interest information control unit that updates the held information when the information on the reduced region of interest is received by the receiving-side communication unit,
The moving image communication system according to claim 1, wherein the region-of-interest information management unit of the transmission device holds information regarding the region of interest received from the reception device by the transmission-side communication unit.
前記転送画像生成手段は、動画像のフレーム画像から生成される画像データのうち、変化した更新差分領域のみを前記送信側通信手段により前記受信装置に送信する
ことを特徴とする請求項1又は2記載の動画像通信システム。
3. The transfer image generation means transmits only a changed update difference area of image data generated from a frame image of a moving image to the reception device by the transmission side communication means. The moving image communication system described.
通信手段と通信レート測定手段と関心領域情報管理手段と転送画像生成手段とを有する送信装置が実行する送信方法であって、
前記通信レート測定手段が、前記通信手段の通信レートを測定し、
前記関心領域情報管理手段が、前記測定された通信レートが第1の閾値に達したときに、動画像のフレーム中に設定する関心領域のサイズを縮小し、
前記関心領域情報管理手段が、前記測定された通信レートが第1の閾値に達するまでは、前記関心領域のサイズを自動的に拡大し、
前記転送画像生成手段が、前記関心領域の画質が他の領域に比べて高くなるように動画像のフレーム画像から画像データを生成し、
前記通信手段が、前記生成された画像データを通信ネットワークを介して接続される受信装置に送信することを特徴とする送信方法。
A transmission method executed by a transmission device having a communication unit, a communication rate measurement unit, a region of interest information management unit, and a transfer image generation unit,
The communication rate measuring means measures the communication rate of the communication means;
The region-of-interest information management means reduces the size of the region of interest set in a frame of a moving image when the measured communication rate reaches a first threshold;
The region-of-interest information management means automatically increases the size of the region of interest until the measured communication rate reaches a first threshold;
The transfer image generation means generates image data from the frame image of the moving image so that the image quality of the region of interest is higher than other regions;
The transmission method, wherein the communication means transmits the generated image data to a receiving device connected via a communication network.
コンピュータを、
通信ネットワークを通じて受信装置と通信する通信手段と、
前記通信手段の通信レートを測定する通信レート測定手段と、
動画像のフレーム中に設定する関心領域に関する情報を保持し、前記測定された通信レートが第1の閾値に達したときに前記関心領域のサイズを縮小し、前記測定された通信レートが第1の閾値に達するまでは、前記関心領域のサイズを自動的に拡大する関心領域情報管理手段と、
前記関心領域の画質が他の領域に比べて高くなるように動画像のフレーム画像から画像データを生成し、前記通信手段により前記受信装置に送信する転送画像生成手段として機能させるためのプログラム。
Computer
Communication means for communicating with the receiving device through a communication network;
Communication rate measuring means for measuring a communication rate of the communication means;
Information on a region of interest set in a frame of a moving image is held, and the size of the region of interest is reduced when the measured communication rate reaches a first threshold, and the measured communication rate is the first Region of interest information management means for automatically expanding the size of the region of interest until a threshold value of
A program for generating image data from a frame image of a moving image so that the image quality of the region of interest is higher than that of other regions, and causing the communication unit to function as a transfer image generation unit that transmits the image data to the reception device.
JP2015117315A 2015-06-10 2015-06-10 Moving image communication system Pending JP2015208021A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015117315A JP2015208021A (en) 2015-06-10 2015-06-10 Moving image communication system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015117315A JP2015208021A (en) 2015-06-10 2015-06-10 Moving image communication system

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2010101682A Division JP5763306B2 (en) 2010-04-27 2010-04-27 Video communication system

Publications (1)

Publication Number Publication Date
JP2015208021A true JP2015208021A (en) 2015-11-19

Family

ID=54604473

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015117315A Pending JP2015208021A (en) 2015-06-10 2015-06-10 Moving image communication system

Country Status (1)

Country Link
JP (1) JP2015208021A (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10771745B2 (en) 2016-08-23 2020-09-08 Nec Corporation Image processing apparatus, image processing method, and storage medium having program stored therein
JP2022510193A (en) * 2018-11-28 2022-01-26 カイ インコーポレイテッド How to process video, how to play video and its equipment

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06319134A (en) * 1993-05-07 1994-11-15 Oki Electric Ind Co Ltd Picture communication system
JP2006197321A (en) * 2005-01-14 2006-07-27 Sony Corp Method and device for processing image, and program
JP2007013801A (en) * 2005-07-01 2007-01-18 Sumitomo Electric Ind Ltd Image transmitting method
JP2007274621A (en) * 2006-03-31 2007-10-18 Victor Co Of Japan Ltd Image transmission system and image transmission method

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06319134A (en) * 1993-05-07 1994-11-15 Oki Electric Ind Co Ltd Picture communication system
JP2006197321A (en) * 2005-01-14 2006-07-27 Sony Corp Method and device for processing image, and program
JP2007013801A (en) * 2005-07-01 2007-01-18 Sumitomo Electric Ind Ltd Image transmitting method
JP2007274621A (en) * 2006-03-31 2007-10-18 Victor Co Of Japan Ltd Image transmission system and image transmission method

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
井口信和 他: "遠隔技術相談システムに適した動的QoS制御", 情報処理学会論文誌, vol. 39, no. 2, JPN6016026106, 15 February 1998 (1998-02-15), JP, pages 321 - 327, ISSN: 0003353795 *
林弘樹 他: "ROIのサイズ可変制御機能を有する眼科手術動画像の圧縮伝送方式に関する基礎的検討", 電子情報通信学会2007年総合大会講演論文集 情報・システム1, JPN6016026103, 7 March 2007 (2007-03-07), JP, pages 91, ISSN: 0003353794 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10771745B2 (en) 2016-08-23 2020-09-08 Nec Corporation Image processing apparatus, image processing method, and storage medium having program stored therein
JP2022510193A (en) * 2018-11-28 2022-01-26 カイ インコーポレイテッド How to process video, how to play video and its equipment

Similar Documents

Publication Publication Date Title
US9756328B2 (en) System, terminal, and method for dynamically adjusting video
JP4116006B2 (en) Screen transfer device, screen transfer system, screen transfer method, and program
KR101644868B1 (en) Inter-terminal image sharing method, terminal device, and communications system
KR102553273B1 (en) Method and apparatus for image enhancement of virtual reality images
KR101660305B1 (en) Apparatus and method for remote control between mobile communication terminals
JP2007151078A (en) Video distribution system, client terminal and control method thereof
JP6486377B2 (en) Video transmission
US20120127261A1 (en) Teleconferencing device and image display processing method
CN105554549A (en) VoLTE network video display method and device
JP5763306B2 (en) Video communication system
WO2016197792A1 (en) Data sharing system
US10917604B2 (en) Captured image display device, captured image display method, and captured image display program
JP5608490B2 (en) Image network system, image transmission system, and image acquisition system
WO2015177952A1 (en) Image display apparatus, information processing apparatus, and image display system
JP2015208021A (en) Moving image communication system
JP2015114424A (en) Electronic equipment, display device, method, and program
JP2019149785A (en) Video conversion device and program
JP2017022529A (en) Communication system, communication device, communication method, and program
JP2016103117A (en) Information processing apparatus, terminal device, image display system, and image transmission program
JP6222703B2 (en) Heat map image generation apparatus, heat map image generation method, and heat map image generation program
CN107318021B (en) Data processing method and system for remote display
CN102984518B (en) A kind of VNC image transmission data processing method
JP4518331B2 (en) System and method for controlling transmission of image data to display device
JP2020145651A (en) Information processor, system, information processing method, and program
JP2007124354A (en) Server, control method thereof, and video delivery system

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160609

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160705

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20170130

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20170214