JP2016090894A - Image supply device, image supply method, program, and image processing system - Google Patents

Image supply device, image supply method, program, and image processing system Download PDF

Info

Publication number
JP2016090894A
JP2016090894A JP2014227371A JP2014227371A JP2016090894A JP 2016090894 A JP2016090894 A JP 2016090894A JP 2014227371 A JP2014227371 A JP 2014227371A JP 2014227371 A JP2014227371 A JP 2014227371A JP 2016090894 A JP2016090894 A JP 2016090894A
Authority
JP
Japan
Prior art keywords
display device
image data
image
difference
transmission
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2014227371A
Other languages
Japanese (ja)
Inventor
名取 孝
Takashi Natori
孝 名取
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2014227371A priority Critical patent/JP2016090894A/en
Publication of JP2016090894A publication Critical patent/JP2016090894A/en
Pending legal-status Critical Current

Links

Landscapes

  • Controls And Circuits For Display Device (AREA)
  • Digital Computer Display Output (AREA)
  • Transforming Electric Information Into Light Information (AREA)

Abstract

PROBLEM TO BE SOLVED: To reduce a difference in responsiveness when using a plurality of display devices having an input function by an indication body.SOLUTION: An image supply device includes a reception part 201 for sequentially receiving information indicating the operation content of the indication body from a display device, an image processing part 210 for generating image data on the basis of received information, a transmission part 202 for transmitting the generated image data to the display device, and a timing adjustment part 230 for adjusting at least one of the transmission timing of first image data and the transmission timing of second image data, so that a difference between the time required for updating the screen of a first display device and the time required for updating the screen of a second display device is reduced, when the first image data and the second image data are transmitted to the first display device and the second display device respectively.SELECTED DRAWING: Figure 2

Description

本発明は、画像供給装置、画像供給方法、プログラムおよび画像処理システムに関する。   The present invention relates to an image supply apparatus, an image supply method, a program, and an image processing system.

一台のパーソナルコンピューターに接続された複数の表示装置を隣り合せて配置することによって、表示領域を増やすことが行われている。この方法によれば、高価な一台の大画面の表示装置を用いるよりもシステムを安価に構築することができる。
他方、表示装置には、表示領域に対して電子ペンや指などを用いて各種指示を入力する機能を有するものが登場している(特許文献1参照)。このような表示装置を用いれば、画像へのアノテーションの描画、画面のスクロール、アプリケーション操作といった様々な操作を、コンピューターから離れた場所から行うことができる。この場合、表示装置にて取得した指示体の操作についての情報がコンピューターに送信され、コンピューターにおいて当該操作に対応する画面データを生成して表示装置へ送信することにより、表示内容の更新が行われることになる。
A display area is increased by arranging a plurality of display devices connected to one personal computer next to each other. According to this method, the system can be constructed at a lower cost than using an expensive single large-screen display device.
On the other hand, some display devices have a function of inputting various instructions to a display area using an electronic pen or a finger (see Patent Document 1). By using such a display device, various operations such as drawing an annotation on an image, scrolling the screen, and operating an application can be performed from a location away from the computer. In this case, information about the operation of the indicator acquired by the display device is transmitted to the computer, and the display content is updated by generating screen data corresponding to the operation and transmitting the information to the display device. It will be.

ここで上述の入力機能を有する表示装置を複数台使用する場合、パーソナルコンピューターと各表示装置の間の接続の形態(例えばHDMI等のケーブルによる接続とWiFi等の無線接続など)が異なる場合があり得る。この場合、各表示装置が担当する表示領域によって、指示体の操作が表示内容に反映されるまでの時間に差が出る可能性がある。その理由として、接続形態によってデータ伝送時間が異なることが挙げられる。また、伝送時間の違いを無視できるとしても、通信規格の違いに起因してコンピューター(あるいはプロジェクター側)において必要な画像処理が異なる場合があり、これが画像の更新に要する時間の差となって現れる。   Here, when using a plurality of display devices having the above input function, the connection form between the personal computer and each display device (for example, connection by cable such as HDMI and wireless connection such as WiFi) may be different. obtain. In this case, there is a possibility that there is a difference in the time until the operation of the indicator is reflected in the display content depending on the display area in charge of each display device. The reason is that the data transmission time varies depending on the connection form. Even if the difference in transmission time can be ignored, the image processing required on the computer (or projector side) may be different due to the difference in communication standards, which appears as the difference in time required for image update. .

この結果、表示された画像のうちある領域において行われた入力操作と、他の領域に対して指示体を用いて行われた操作とでは、応答性に差が出るという現象が生じる。特に、領域の境界を跨いでオブジェクトを描画するような操作を行った場合、ユーザーは強い違和感を覚える可能性がある。   As a result, a phenomenon occurs in which a difference in response occurs between an input operation performed in a certain area of the displayed image and an operation performed using another indicator on another area. In particular, when an operation for drawing an object across a boundary between regions is performed, the user may feel a strong sense of incongruity.

特開2013−97177号公報JP 2013-97177 A

本発明は、指示体による入力機能を有する表示装置を複数用いた場合における応答性の違いを緩和することを目的とする。   An object of the present invention is to alleviate a difference in responsiveness when a plurality of display devices having an input function using an indicator are used.

本発明は、指示体の操作内容を表す情報を第1の表示装置または第2の表示装置から逐次取得する取得部と、該取得した情報に基づいて画像データを生成する画像処理部と、前記画像処理部にて生成された第1画像データを前記第1の表示装置に送信し、前記画像処理部にて生成された第2画像データを前記第2の表示装置に送信する送信部と、前記第1の画像データの送信タイミングおよび前記第2の画像データの送信タイミングのうち少なくともいずれか一方を、前記第1の表示装置の画面更新に要する時間と前記第2の表示装置の画面更新に要する時間との差が少なくなるように調整する制御部とを有する画像供給装置。
本発明によれば、指示体による入力機能を有する表示装置を複数用いた場合における応答性の違いが緩和される。
The present invention provides an acquisition unit that sequentially acquires information representing the operation content of the indicator from the first display device or the second display device, an image processing unit that generates image data based on the acquired information, A transmission unit that transmits the first image data generated by the image processing unit to the first display device, and that transmits the second image data generated by the image processing unit to the second display device; At least one of the transmission timing of the first image data and the transmission timing of the second image data is used for the time required for the screen update of the first display device and the screen update of the second display device. An image supply apparatus including a control unit that adjusts so that a difference from a required time is reduced.
According to the present invention, the difference in responsiveness in the case where a plurality of display devices having an input function using an indicator is used is alleviated.

前記制御部は、前記情報を取得したタイミングと前記画像データの生成が完了したタイミングとに基づいて前記差を算出し、前記第1の表示装置の画面更新に要する時間および前記第2の表示装置の画面更新に要する時間のうち短いほうに係る画像データの送信処理を遅延させてもよい。
本発明によれば、前記画像供給装置における処理に要する時間の違いに起因するタイミングのずれが補正される。
The control unit calculates the difference based on a timing at which the information is acquired and a timing at which the generation of the image data is completed, and a time required for updating the screen of the first display device and the second display device The image data transmission process related to the shorter of the time required for the screen update may be delayed.
According to the present invention, a timing shift due to a difference in time required for processing in the image supply apparatus is corrected.

前記制御部は、前記情報の取得時点から前記画像データの生成完了時点までの期間を複数回にわたって計測した結果に基づいて、前記差を算出してもよい。
本発明によれば、画面更新処理に要する時間の変動によって過剰な補正が行われることが防止される。
The control unit may calculate the difference based on a result obtained by measuring a period from the information acquisition time point to the image data generation completion time point a plurality of times.
According to the present invention, it is possible to prevent excessive correction from being performed due to a change in time required for the screen update process.

前記差は前記画像の解像度に基づいて算出されてもよい。
本発明によれば、更新対象の画面の解像度に起因したタイミングのずれが補正される。
The difference may be calculated based on the resolution of the image.
According to the present invention, the timing shift due to the resolution of the screen to be updated is corrected.

前記差は、前記画像供給装置と前記第1の表示装置との間で採用される第1伝送規格と、前記画像供給装置と前記第2の表示装置と間で採用される第2伝送規格とに基づいて、算出されてもよい。
本発明によれば、データ伝送路の違いに起因した遅延が補正される。
The difference is that a first transmission standard adopted between the image supply device and the first display device, and a second transmission standard adopted between the image supply device and the second display device. May be calculated based on
According to the present invention, the delay caused by the difference in the data transmission path is corrected.

前記差は、前記画像データの生成において実行されるデータ圧縮処理に適用される圧縮率に基づいて、算出されてもよい。
本発明によれば、圧縮率に関する処理時間の違いに基づく送信タイミングのずれが補正される。
The difference may be calculated based on a compression rate applied to a data compression process executed in the generation of the image data.
According to the present invention, a shift in transmission timing based on a difference in processing time related to the compression rate is corrected.

指示体の操作内容を表す情報を第1の表示装置または第2の表示装置から逐次受取得するステップと、該取得した情報に基づいて画像データを生成するステップと、前記画像処理部にて生成された第1画像データを前記第1の表示装置に送信し、前記画像処理部にて生成された第2画像データを前記第2の表示装置に送信するステップと、前記第1画像データの送信タイミングおよび前記第2画像データの送信タイミングのうち少なくともいずれか一方を、前記第2の表示装置に表示される映像の更新に要する時間と前記第1の表示装置に表示される映像の更新に要する時間との差が少なくなるように調整するステップと、指示体の操作内容を表す情報を表示装置から逐次受信するステップと、該受信した情報に基づいて画像データを生成するステップと、該生成された画像データを表示装置に送信するステップと、第1の表示装置および第2の表示装置にそれぞれ第1の画像データおよび第2の画像データを送信する際に、前記第1の画像データの送信タイミングおよび前記第2の画像データの送信タイミングのうち少なくともいずれか一方を、前記第2の表示装置に表示される映像の更新に要する時間と前記第1の表示装置に表示される映像の更新に要する時間との差が少なくなるように調整するステップとを有する画像供給方法を提供する。
本発明によれば、指示体による入力機能を有する表示装置を複数用いた場合における応答性の違いが緩和される。
Steps of sequentially receiving and acquiring information representing the operation content of the indicator from the first display device or the second display device, generating image data based on the acquired information, and generating by the image processing unit Transmitting the processed first image data to the first display device, transmitting the second image data generated by the image processing unit to the second display device, and transmitting the first image data At least one of the timing and the transmission timing of the second image data is required for updating the video displayed on the second display device and the video displayed on the first display device. Adjusting the time difference to be small, receiving information indicating the operation content of the indicator sequentially from the display device, and generating image data based on the received information A step of transmitting the generated image data to the display device, and transmitting the first image data and the second image data to the first display device and the second display device, respectively. At least one of the transmission timing of the first image data and the transmission timing of the second image data is displayed on the first display device and the time required for updating the video displayed on the second display device And a step of adjusting the difference so that a difference from the time required for updating the video to be reduced is reduced.
According to the present invention, the difference in responsiveness in the case where a plurality of display devices having an input function using an indicator is used is alleviated.

本発明は、また、コンピューターに、指示体の操作内容を表す情報を第1の表示装置または第2の表示装置から逐次受信するステップと、該受信した情報に基づいて画像データを生成するステップと、該生成された第1画像データを前記第1の表示装置に送信し、該生成された第2画像データを前記第2の表示装置に送信する送信部と、該生成された画像データを表示装置に送信するステップと、前記第1画像データの送信タイミングおよび前記第2画像データの送信タイミングのうち少なくともいずれか一方を、前記第2の表示装置に表示される映像の更新に要する時間と前記第1の表示装置に表示される映像の更新に要する時間との差が少なくなるように調整するステップと、を実行させるためのプログラムを提供する。
この発明によれば、指示体による入力機能を有する表示装置を複数用いた場合における応答性の違いが緩和される。
The present invention also includes a step of sequentially receiving information representing the operation content of the indicator from the first display device or the second display device, and a step of generating image data based on the received information. , Transmitting the generated first image data to the first display device, transmitting the generated second image data to the second display device, and displaying the generated image data Transmitting to the device, at least one of the transmission timing of the first image data and the transmission timing of the second image data, the time required for updating the video displayed on the second display device, and the And a step of adjusting so as to reduce a difference from a time required for updating the video displayed on the first display device.
According to the present invention, the difference in responsiveness when a plurality of display devices having an input function using an indicator are used is alleviated.

本発明は、また、第1の表示装置、第2の表示装置、および画像供給装置を備え、第1の表示装置および第2の表示装置の各々は、指示体の操作内容を表す情報を生成する手段と、該生成された情報を前記画像供給装置に送信する手段と前記画像供給装置から画像データを受信する手段と、該受信した画像データに基づいて画像を表示する手段とを備え、前記画像供給装置は、各表示装置からそれぞれ受信した、指示体の操作内容を表す情報に基づいて画像データを生成する画像処理部と、該生成された第1画像データを前記第1の表示装置に送信し、該生成された第2画像データを前記第2の表示装置に送信する送信部と、前記第1の表示装置および前記第2の表示装置にそれぞれ第1の画像データおよび第2の画像データを送信する際に、前記第1の画像データの送信タイミングおよび前記第2の画像データの送信タイミングのうち少なくともいずれか一方を、前記第2の表示装置に表示される映像の更新に要する時間と前記第1の表示装置に表示される映像の更新に要する時間との差が少なくなるように、調整する制御部とを有することを特徴とする画像処理システムを提供する。   The present invention also includes a first display device, a second display device, and an image supply device, and each of the first display device and the second display device generates information representing the operation content of the indicator. Means for transmitting the generated information to the image supply device, means for receiving image data from the image supply device, and means for displaying an image based on the received image data, The image supply device generates an image data based on information representing the operation content of the indicator received from each display device, and the generated first image data to the first display device. A transmission unit that transmits the generated second image data to the second display device, and the first image data and the second image that are transmitted to the first display device and the second display device, respectively. When sending data At least one of the transmission timing of the first image data and the transmission timing of the second image data is determined based on the time required for updating the video displayed on the second display device and the first display device. There is provided an image processing system including a control unit that adjusts so as to reduce a difference from a time required for updating a video displayed on the screen.

この発明によれば、指示体による入力機能を有する表示装置を複数用いた場合における応答性の違いが緩和される。   According to the present invention, the difference in responsiveness when a plurality of display devices having an input function using an indicator are used is alleviated.

画像表示システム100の概要を示す図。1 is a diagram showing an overview of an image display system 100. FIG. PC200の機能を示す図。The figure which shows the function of PC200. プロジェクター300の機能を示す図。FIG. 3 is a diagram illustrating functions of a projector 300. PC200の動作フロー図。The operation | movement flowchart of PC200. 各プロセスに要する時間を示す図。The figure which shows the time which each process requires.

1.実施例
図1は画像表示システム100の概要を示す。画像表示システム100は、PC200、複数のプロジェクター300(300−1および300−2)、表示領域500、および指示体400を含む。
PC200は、一般的なパーソナルコンピューターとしての機能を有し、接続されているすべてのプロジェクター300についての画像表示を制御する。
各プロジェクター300は、一般的なプロジェクターとしての機能を有し、PC200の指示の下、映像を表示領域500に投写する。各プロジェクター300は互いに異なる接続形態(信号伝達の経路および方式)を用いて、PC200と接続される。同図の例では、プロジェクター300−1についてはケーブル接続が、プロジェクター300−2については無線接続が採用されている。PC200と各プロジェクター300との接続方式は既存の任意のものを採用することができる。例えば、ケーブル接続として、HDMI(登録商標)、USB(登録商標)、D−subポート、Display port(登録商標)等の規格を、ネットワーク接続としてはWiFiやEthernet(登録商標)から任意のものを選択することができる。なお、各プロジェクター300は、機能的に完全に同一であってもよいし、そうでなくてもよい。
1. FIG. 1 shows an overview of an image display system 100. The image display system 100 includes a PC 200, a plurality of projectors 300 (300-1 and 300-2), a display area 500, and an indicator 400.
The PC 200 has a function as a general personal computer and controls image display for all connected projectors 300.
Each projector 300 has a function as a general projector, and projects an image on the display area 500 under the instruction of the PC 200. Each projector 300 is connected to the PC 200 using different connection forms (signal transmission paths and methods). In the example shown in the figure, cable connection is adopted for the projector 300-1, and wireless connection is adopted for the projector 300-2. As the connection method between the PC 200 and each projector 300, any existing one can be adopted. For example, standards such as HDMI (registered trademark), USB (registered trademark), D-sub port, and Display port (registered trademark) are used for cable connection, and any connection from WiFi or Ethernet (registered trademark) is used for network connection. You can choose. Note that the projectors 300 may or may not be completely functionally identical.

表示領域500は、専用のスクリーンまたは壁面である。表示領域500には、画面SC1および画面SC2が形成される。画面SC1および画面SC2は、それぞれ、プロジェクター300−1およびプロジェクター300−2によって投写される領域である。同図に示すように、画像表示システム100において、画面SC1および画面SC2が隣り合うように、プロジェクター300−1、プロジェクター300−2の設置位置や拡大率などの投写条件が調整される。この結果、あたかも画面SC1および画面SC2によって一つの表示領域が形成されているかのようにユーザーに知覚させることができる。   The display area 500 is a dedicated screen or wall surface. In the display area 500, a screen SC1 and a screen SC2 are formed. Screen SC1 and screen SC2 are areas projected by projector 300-1 and projector 300-2, respectively. As shown in the figure, in the image display system 100, the projection conditions such as the installation position and the enlargement ratio of the projector 300-1 and the projector 300-2 are adjusted so that the screen SC1 and the screen SC2 are adjacent to each other. As a result, the user can perceive as if one display area is formed by the screen SC1 and the screen SC2.

指示体400は、ユーザー自身の手や指、あるいはユーザーが使用する電子ペン等の入力デバイスである。ユーザーは指示体400を用いて表示領域500内の位置を指定することで、表示領域500上に画像オブジェクトを重ねて描画する処理や、PC200で動作しているアプリケーションプログラム等に描画処理以外の所定の動作を実行させる。具体的には、PC200において描画アプリケーションが起動されて所定の画面が表示されている場合、描画内容や描画条件の指定や変更の指示、アプリケーションの起動や切り換えの指示、画面のスクロールの指示等が、指示体400を操作することによって行われる。同図の例においては、指示体400を用いて、背景画像中にアノテーションAN1およびアノテーションAN2が描画(合成表示)されている例を示す。   The indicator 400 is an input device such as a user's own hand or finger or an electronic pen used by the user. The user designates a position in the display area 500 using the indicator 400, whereby a process for drawing an image object on the display area 500 is drawn, or an application program running on the PC 200 is used for a predetermined process other than the drawing process. Execute the operation. Specifically, when a drawing application is activated on the PC 200 and a predetermined screen is displayed, an instruction to specify or change drawing contents or drawing conditions, an instruction to start or change the application, an instruction to scroll the screen, and the like. This is performed by operating the indicator 400. In the example of the figure, an example in which the annotation AN1 and the annotation AN2 are drawn (combined display) in the background image using the indicator 400 is shown.

図2はPC200の機能を示す。PC200は、画像処理部210、通信部220、タイミング調整部230、記憶部240、表示部250、および入力部260を含む。表示部250は、液晶ディスプレイ等の表示装置である。入力部260は、キーボードやマウスなどの入力装置であって、ユーザーの指示や命令を画像処理部210に供給する。   FIG. 2 shows the functions of the PC 200. The PC 200 includes an image processing unit 210, a communication unit 220, a timing adjustment unit 230, a storage unit 240, a display unit 250, and an input unit 260. The display unit 250 is a display device such as a liquid crystal display. The input unit 260 is an input device such as a keyboard and a mouse, and supplies user instructions and commands to the image processing unit 210.

通信部220は、通信インターフェースであって、受信部201および送信部202を含む。受信部201は、プロジェクター300−1またはプロジェクター300−2から操作情報Dp(それぞれDp1およびDp2と記す)を受信する。操作情報Dpには、送信元であるプロジェクター300−1または300−2を識別する識別子と、指示体400によって指定された位置の座標とが含まれる。
そして、受信部201は、操作情報Dpの送信元がプロジェクター300−1であるかプロジェクター300−2であるかを判定し、操作情報Dp1を第1画像処理部211へ、操作情報Dp2を第2画像処理部212へそれぞれ供給する。加えて、通信部220はタイマーを備え、操作情報Dpを受信した時刻を受信時刻tr(プロジェクター300−1の場合とプロジェクター300−2に対応してそれぞれtr1またはtr2と記す)を測定して処理時間算出部231へ出力する。送信部202は、第1画像処理部211および第2画像処理部212からそれぞれ供給された画像データDi(プロジェクター300−1用のものおよび300−2用のものをそれぞれDi1およびDi2と記す)を、遅延処理部232から供給される制御信号STに従ったタイミングで、それぞれ対応するプロジェクター300−1またはプロジェクター300−2に送信する。
The communication unit 220 is a communication interface and includes a reception unit 201 and a transmission unit 202. The receiving unit 201 receives operation information Dp (referred to as Dp1 and Dp2 respectively) from the projector 300-1 or the projector 300-2. The operation information Dp includes an identifier for identifying the projector 300-1 or 300-2 that is the transmission source, and the coordinates of the position specified by the indicator 400.
Then, the receiving unit 201 determines whether the transmission source of the operation information Dp is the projector 300-1 or the projector 300-2, the operation information Dp1 to the first image processing unit 211, and the operation information Dp2 to the second. The images are supplied to the image processing unit 212. In addition, the communication unit 220 includes a timer, and processes the time when the operation information Dp is received by measuring the reception time tr (represented as tr1 or tr2 corresponding to the projector 300-1 and the projector 300-2, respectively). It outputs to the time calculation part 231. The transmission unit 202 receives the image data Di (respectively for the projector 300-1 and 300-2 are denoted as Di1 and Di2) supplied from the first image processing unit 211 and the second image processing unit 212, respectively. At a timing according to the control signal ST supplied from the delay processing unit 232, the data is transmitted to the corresponding projector 300-1 or projector 300-2.

画像処理部210は、CPUや画像処理専用プロセッサー等によって実現され、各プロジェクター300に表示させるための画像を自装置にて確認するために、画像データDiを生成して表示部250に供給する。より具体的には、画像処理部210は第1画像処理部211および第2画像処理部212を含み、それぞれプロジェクター300−1およびプロジェクター300−2に供給するための画像データDi1およびDi2を生成する。第1画像処理部211および第2画像処理部212は、独立して動作する。すなわち、画面SC1の更新と画面SC2の更新とは並列的に行われる。   The image processing unit 210 is realized by a CPU, a processor dedicated to image processing, and the like. The image processing unit 210 generates image data Di and supplies the image data Di to the display unit 250 in order to confirm an image to be displayed on each projector 300 by the own apparatus. More specifically, the image processing unit 210 includes a first image processing unit 211 and a second image processing unit 212, and generates image data Di1 and Di2 to be supplied to the projector 300-1 and the projector 300-2, respectively. . The first image processing unit 211 and the second image processing unit 212 operate independently. That is, the update of the screen SC1 and the update of the screen SC2 are performed in parallel.

第1画像処理部211は、プロジェクター300−1に供給するための画像データDi1を生成する。具体的には、操作情報Dp1に含まれる座標に基づいて、次に表示すべき画像(つまり更新後の画面内容)を決定し、決定した画像を表す画像データDi1を生成する。生成された画像データDi1は送信部202に供給される。加えて、第1画像処理部211は、画像データDi1の生成処理が完了したことをタイミング調整部230に通知する。   The first image processing unit 211 generates image data Di1 to be supplied to the projector 300-1. Specifically, the image to be displayed next (that is, the updated screen content) is determined based on the coordinates included in the operation information Dp1, and image data Di1 representing the determined image is generated. The generated image data Di1 is supplied to the transmission unit 202. In addition, the first image processing unit 211 notifies the timing adjustment unit 230 that the generation processing of the image data Di1 has been completed.

第2画像処理部212は、プロジェクター300−2に供給するための画像データDi2を生成する。具体的には、操作情報Dp2に含まれる座標に基づいて、次に表示すべき画像(つまり更新後の画面内容)を決定し、決定した画像と現在表示中の画像との差分に相当する画像データを生成し、生成した画像データを圧縮することによって、画像データDi2を生成する。生成された画像データDi2は送信部202に供給される。加えて、第2画像処理部212は、画像データDi2の生成処理が完了したことをタイミング調整部230に通知する。   The second image processing unit 212 generates image data Di2 to be supplied to the projector 300-2. Specifically, the image to be displayed next (that is, the updated screen content) is determined based on the coordinates included in the operation information Dp2, and an image corresponding to the difference between the determined image and the currently displayed image Image data Di2 is generated by generating data and compressing the generated image data. The generated image data Di2 is supplied to the transmission unit 202. In addition, the second image processing unit 212 notifies the timing adjustment unit 230 that the generation processing of the image data Di2 has been completed.

第2画像処理部212において差分画像の算出およびデータ圧縮を行う理由は、PC200とプロジェクター300−2との間の伝送路においては、単位時間あたりに送信できるデータ量が相対的に小さいので、更新速度(換言すると、応答性)を確保すべく、画面更新に必要な伝送するデータ量できるだけ小さくするためである。その反面、データ圧縮を行う分だけ時間をロスすることになる。
このように、第1画像処理部211と第2画像処理部212とでは、画面の更新に要する処理の内容が異なる。この結果として、PC200内における処理時間に差が生じ、これが画面SC1とSC2とにおける応答性に差異が生じる一因となっている。
なお、第1画像処理部211においても差分抽出処理およびデータ圧縮処理を行ってもよいが、以下では、第2画像処理部212にて行われる差分抽出処理および画像圧縮処理の内容(圧縮率など)が同一ではないことを前提とする。つまり、後述する画像データDiの送信タイミングの調整を行わなければ、画面SC1と画面SC2とで応答性に差異が存在する状態であるとする。
The reason for calculating the difference image and compressing the data in the second image processing unit 212 is that the amount of data that can be transmitted per unit time is relatively small in the transmission path between the PC 200 and the projector 300-2. This is to reduce the amount of data to be transmitted necessary for screen update as much as possible in order to ensure speed (in other words, responsiveness). On the other hand, time is lost by the amount of data compression.
As described above, the first image processing unit 211 and the second image processing unit 212 differ in the processing content required for the screen update. As a result, a difference occurs in the processing time in the PC 200, which is one cause of the difference in responsiveness between the screens SC1 and SC2.
The first image processing unit 211 may also perform the difference extraction process and the data compression process. However, in the following, the contents of the difference extraction process and the image compression process performed by the second image processing unit 212 (compression rate, etc.) ) Are not identical. That is, it is assumed that there is a difference in responsiveness between the screen SC1 and the screen SC2 unless adjustment of the transmission timing of the image data Di described later is performed.

タイミング調整部230は、CPU等のプロセッサーによって実現され、処理時間算出部231および遅延処理部232を含む。タイミング調整部230は、プロジェクター300−1およびプロジェクター300−2にそれぞれ画像データDi1および画像データDi2を送信する際に、画像データDi1の送信タイミングおよび画像データDi2の送信タイミングのうち少なくともいずれか一方を、前記第1の表示装置の画面更新に要する時間と前記第2の表示装置の画面更新に要する時間との差が少なくなるように、調整する。   The timing adjustment unit 230 is realized by a processor such as a CPU, and includes a processing time calculation unit 231 and a delay processing unit 232. The timing adjustment unit 230 transmits at least one of the transmission timing of the image data Di1 and the transmission timing of the image data Di2 when transmitting the image data Di1 and the image data Di2 to the projector 300-1 and the projector 300-2, respectively. The adjustment is made so that the difference between the time required for updating the screen of the first display device and the time required for updating the screen of the second display device is reduced.

処理時間算出部231は、まず遅延処理の要否を判定する。具体的には、処理時間算出部231は、受信部201から供給された受信時刻(tr1またはtr2)と第1画像処理部211または第2画像処理部212から供給された処理完了時刻(tp1またはtp2)との差に基づいて、PC200内で更新処理に要する時間(内部処理時間TN(それぞれTN1またはTN2)という)を算出する。すなわち、TN1=tp1−tr1かつTN2=tp2−tp1である。   The processing time calculation unit 231 first determines whether or not delay processing is necessary. Specifically, the processing time calculation unit 231 receives the reception time (tr1 or tr2) supplied from the reception unit 201 and the processing completion time (tp1 or tr2) supplied from the first image processing unit 211 or the second image processing unit 212. Based on the difference from tp2), the time required for the update process in the PC 200 (internal processing time TN (referred to as TN1 or TN2 respectively)) is calculated. That is, TN1 = tp1-tr1 and TN2 = tp2-tp1.

算出された内部処理時間TNは、処理時間履歴M3に記憶されるとともに、遅延処理部232に供給される。そして、遅延処理部232は、生成した画像の提供先のプロジェクター300ではないほうのプロジェクター300に係る内部処理時間TNを記憶部240から読み出し、算出した内部処理時間TNと比較する。算出したTNのほうが読み出した内部処理時間TNよりも大きいか同じである場合(つまり、現在画面更新処理中の画像のデータのほうが他方のプロジェクター300用の画像データよりも処理に要する時間が同じまたは長い場合)、遅延処理が不要と判定する。一方、算出した内部処理時間TNのほうが読み出した内部処理時間TNよりも小さい場合(つまり、現在生成している画像データのほうが他方のプロジェクター300用の画像データよりも処理が高速である場合)、遅延処理が必要であると判定する。   The calculated internal processing time TN is stored in the processing time history M3 and supplied to the delay processing unit 232. Then, the delay processing unit 232 reads the internal processing time TN related to the projector 300 that is not the provision destination projector 300 of the generated image from the storage unit 240 and compares it with the calculated internal processing time TN. When the calculated TN is greater than or equal to the read internal processing time TN (that is, the image data currently being subjected to the screen update process has the same processing time as the image data for the other projector 300, or If it is long), it is determined that delay processing is unnecessary. On the other hand, when the calculated internal processing time TN is shorter than the read internal processing time TN (that is, when the currently generated image data is faster than the image data for the other projector 300), It is determined that delay processing is necessary.

遅延処理部232は、遅延処理が必要な場合には、算出した内部処理時間TNに対応する遅延量Δtを算出する。具体的には、Δt=|TN1−TN2|とする。続いて、遅延処理部232は、算出した遅延量Δtだけ遅延をかけて送信を行うことを示す制御信号STを生成し、送信部202に出力する。この結果、送信部202から、制御信号STに従ったタイミングで、画像データDi1および画像データDi2がそれぞれプロジェクター300−1およびプロジェクター300−2に送信される。なお、遅延処理が必要でない場合は、Δt=0であることを示す制御信号STが送信部202に供給される。   When delay processing is necessary, the delay processing unit 232 calculates a delay amount Δt corresponding to the calculated internal processing time TN. Specifically, Δt = | TN1−TN2 |. Subsequently, the delay processing unit 232 generates a control signal ST indicating that transmission is performed with a delay by the calculated delay amount Δt, and outputs the control signal ST to the transmission unit 202. As a result, the image data Di1 and the image data Di2 are transmitted from the transmission unit 202 to the projector 300-1 and the projector 300-2, respectively, at a timing according to the control signal ST. When delay processing is not necessary, a control signal ST indicating that Δt = 0 is supplied to the transmission unit 202.

記憶部240は、ハードディスクや半導体メモリー等の記憶装置であって、通信部220、画像処理部210、およびタイミング調整部230をそれぞれ制御することによって後述の動作を実現させるためのプログラムを記憶する。加えて、記憶部240は、画像属性M1、伝送環境情報M2、処理時間履歴M3、および画像データM4を記憶する。画像属性M1には、プロジェクター300に表示させる画像についての情報(例えばデータ量や画像の解像度)が含まれる。伝送環境情報M2には、プロジェクター300−1とプロジェクター300−2との間の伝送環境に関する情報(転送速度など)が含まれる。処理時間履歴M3には、画面SC1の画面更新と画面SC2の画面更新のそれぞれについて、PC200内での処理に要する時間を示す情報を含む。処理時間履歴M3は、画面更新処理が実行されるたびに更新、蓄積する。画像データM4は、各プロジェクター300に投写させるべき画像データである。   The storage unit 240 is a storage device such as a hard disk or a semiconductor memory, and stores a program for realizing an operation described later by controlling the communication unit 220, the image processing unit 210, and the timing adjustment unit 230, respectively. In addition, the storage unit 240 stores image attributes M1, transmission environment information M2, processing time history M3, and image data M4. The image attribute M1 includes information about the image to be displayed on the projector 300 (for example, the data amount and the image resolution). The transmission environment information M2 includes information related to the transmission environment between the projector 300-1 and the projector 300-2 (transfer speed and the like). The processing time history M3 includes information indicating the time required for processing in the PC 200 for each of the screen update of the screen SC1 and the screen update of the screen SC2. The processing time history M3 is updated and accumulated every time the screen updating process is executed. The image data M4 is image data to be projected by each projector 300.

図3はプロジェクター300の機能を示す。プロジェクター300は、通信部310、画像処理部320、操作検出部330、および投写部340を含む。通信部310は、PC200との間で情報の送受信を行うための通信インターフェースであって、複数の接続形式に対応するハードウェア(例えばHDMI端子や無線LANモジュールなど)によって実現される。ただし、各プロジェクター300において、同時に有効となるのは選択された一のハードウェアモジュールのみである。この例では、プロジェクター300−1はHDMIによって、プロジェクター300−2はWiFiを用いて、それぞれPC200と接続されると仮定する。
より具体的には、通信部310は送信部311および受信部312を含む。受信部312は、PC200から画像データDi1を受信すると第1処理部321に供給する一方、画像データDi2を受信すると第2処理部322に供給する。送信部311は、操作検出部330から供給された操作情報DpをPC200へ送信する。
FIG. 3 shows the functions of the projector 300. The projector 300 includes a communication unit 310, an image processing unit 320, an operation detection unit 330, and a projection unit 340. The communication unit 310 is a communication interface for transmitting / receiving information to / from the PC 200, and is realized by hardware (for example, an HDMI terminal or a wireless LAN module) that supports a plurality of connection formats. However, in each projector 300, only one selected hardware module is effective at the same time. In this example, it is assumed that the projector 300-1 is connected to the PC 200 using HDMI, and the projector 300-2 is connected to WiFi using WiFi.
More specifically, the communication unit 310 includes a transmission unit 311 and a reception unit 312. When receiving the image data Di1 from the PC 200, the receiving unit 312 supplies the first processing unit 321 with the image data Di1, while receiving the image data Di2 supplies the second processing unit 322 with the image data Di2. The transmission unit 311 transmits the operation information Dp supplied from the operation detection unit 330 to the PC 200.

画像処理部320は、A/D変換回路、画素処理プロセッサー、バッファメモリー等によって実現され、受信部312から供給された画像データDi1または画像データDi2に対して所定の描画処理を行って映像信号Vを生成する。具体的には、画像処理部320は第1処理部321および第2処理部322を含む。第1処理部321および第2処理部322における処理の違いは、第2処理部322の処理には、圧縮データを伸張する処理が必ず含まれる点である。従って、仮にプロジェクター300−1とプロジェクター300−2とにおいて同一内容の画面更新を行う場合でも、その接続形態の違いに起因して、プロジェクター300内で実行される処理の内容は異なり得る。この結果、プロジェクター300−1とプロジェクター300−2とで処理時間に差が生じる場合がある。生成された映像信号Vは投写部340に供給される。   The image processing unit 320 is realized by an A / D conversion circuit, a pixel processing processor, a buffer memory, and the like. The image processing unit 320 performs a predetermined drawing process on the image data Di1 or the image data Di2 supplied from the receiving unit 312 and performs a video signal V Is generated. Specifically, the image processing unit 320 includes a first processing unit 321 and a second processing unit 322. The difference in processing between the first processing unit 321 and the second processing unit 322 is that the processing of the second processing unit 322 always includes processing for expanding compressed data. Therefore, even if the same content is updated in the projector 300-1 and the projector 300-2, the content of the processing executed in the projector 300 may be different due to the difference in the connection form. As a result, there may be a difference in processing time between the projector 300-1 and the projector 300-2. The generated video signal V is supplied to the projection unit 340.

投写部340は、光源(レーザーなど)、レンズ、ミラー、プリズム等の投写機構、各表示色に対応する液晶パネルなどの光学素子を含み、光源からの光を映像信号に基づいて変調する変調機構、変調された光を投写部へ導く光学系によって実現される。   Projection unit 340 includes a light source (laser, etc.), a projection mechanism such as a lens, a mirror, and a prism, and an optical element such as a liquid crystal panel corresponding to each display color, and a modulation mechanism that modulates light from the light source based on a video signal. This is realized by an optical system that guides the modulated light to the projection unit.

操作検出部330は、指示体400の位置を監視し、指示体400によって表示領域500上の位置が指定されると、当該位置の座標およびその位置に属する表示領域の描画を担うプロジェクター300の識別子を含む操作情報Dpを生成する。生成された操作情報Dpは、送信部311を介して逐次PC200に送信される。具体的には、可視光や赤外項光を画面SC1ないし画面SC2に向けて照射し、反射光を受信して解析することにより、指示体400の存在およびその位置を検出する。あるいは、指示体400が無線送信機能を有するデバイスの場合、指示体400からの電波を受信し、受信強度等に基づいて表示領域500に対する指示体400の位置を決定してもよい。指示体400の位置を検出する方式については、その他の既存の任意の技術を適用してもよい。   The operation detection unit 330 monitors the position of the indicator 400, and when the position on the display area 500 is designated by the indicator 400, the coordinates of the position and the identifier of the projector 300 responsible for drawing the display area belonging to the position are displayed. The operation information Dp including is generated. The generated operation information Dp is sequentially transmitted to the PC 200 via the transmission unit 311. Specifically, the presence of the indicator 400 and its position are detected by irradiating the screen SC1 or the screen SC2 with visible light or infrared light and receiving and analyzing the reflected light. Alternatively, when the indicator 400 is a device having a wireless transmission function, the radio wave from the indicator 400 may be received, and the position of the indicator 400 with respect to the display area 500 may be determined based on the reception intensity or the like. Any other existing technique may be applied to the method of detecting the position of the indicator 400.

図5はPC200の動作フローを示す。PC200は、複数のプロジェクター300との接続を認識したこと契機として、あるいは複数のプロジェクター300が接続された状態でユーザーから所定の指示が入力されたことを契機として、内部処理時間TN1およびTN2の初期値を所定のアルゴリズムに従って決定し、記憶部240に書き込む(S600)。その後、操作情報Dpをいずれかのプロジェクター300から取得すると(S602、YES)、操作情報Dpに基づいて、操作対象の画面(画面SC1または画面SC2)および操作内容を特定する(S604)。続いて、操作情報Dpに従って表示部250の画面を更新するとともに(S606)、S604で特定したプロジェクター300−1およびプロジェクター300−2のいずれか一方に供給するための画像データDiを生成する(S608またはS610)。画像データDiの生成が完了すると、この生成処理に要した時間を計測し、記憶する(S612)。続いて、S604で特定したプロジェクター300ではないほうのプロジェクター300用のデータの処理時間を記憶部240から読み出し、両者を比較する(S614)。続いて、該生成した画像データについての遅延の要否を判定し、遅延処理が必要な場合はその量(Δt)を計算する(S616)。制御信号STを送信部202に出力した後、生成した画像をプロジェクター300に送信する(S620またはS622)。   FIG. 5 shows an operation flow of the PC 200. When the PC 200 recognizes the connection with the plurality of projectors 300, or when a predetermined instruction is input from the user in a state where the plurality of projectors 300 are connected, the PC 200 starts the internal processing times TN1 and TN2. The value is determined according to a predetermined algorithm and written in the storage unit 240 (S600). Thereafter, when the operation information Dp is acquired from any of the projectors 300 (S602, YES), the operation target screen (screen SC1 or screen SC2) and the operation content are specified based on the operation information Dp (S604). Subsequently, the screen of the display unit 250 is updated according to the operation information Dp (S606), and image data Di to be supplied to one of the projector 300-1 and the projector 300-2 specified in S604 is generated (S608). Or S610). When the generation of the image data Di is completed, the time required for the generation process is measured and stored (S612). Subsequently, the processing time of data for the projector 300 that is not the projector 300 identified in S604 is read from the storage unit 240, and the two are compared (S614). Subsequently, it is determined whether or not the generated image data needs to be delayed. If delay processing is necessary, the amount (Δt) is calculated (S616). After outputting the control signal ST to the transmission unit 202, the generated image is transmitted to the projector 300 (S620 or S622).

上記実施例における効果を、図5を用いて説明する。図5は、送信タイミングの制御を行わないとした場合に、各プロセスの流れを時系列で模式的に示したものである。同図(a)および(b)は、それぞれ、プロジェクター300−2(画面SC2)について更新を行う場合およびプロジェクター300−1(画面SC1)についての更新を行う場合に対応する。   The effect in the said Example is demonstrated using FIG. FIG. 5 schematically shows the flow of each process in time series when the transmission timing is not controlled. FIGS. 9A and 9B correspond to the case of updating the projector 300-2 (screen SC2) and the case of updating the projector 300-1 (screen SC1), respectively.

まず、プロジェクター300にて指示体400の操作が検知されると(時刻t1)、操作情報Dpが生成され、そのプロジェクター300からPC200へ送信される(時刻t2)。PC200が操作情報Dpを受信すると(時刻t3)、画像処理部210において上述した画像処理が開始する(時刻t4)。当該画像処理が完了すると(時刻t5)、画像データがPC200からそのプロジェクター300に送信される(時刻t6)。プロジェクター300は画像データを受信すると(時刻t7)、画像処理を実行して画面の更新が完了する(時刻t8〜時刻t9)。   First, when the operation of the indicator 400 is detected by the projector 300 (time t1), operation information Dp is generated and transmitted from the projector 300 to the PC 200 (time t2). When the PC 200 receives the operation information Dp (time t3), the above-described image processing is started in the image processing unit 210 (time t4). When the image processing is completed (time t5), the image data is transmitted from the PC 200 to the projector 300 (time t6). When the projector 300 receives the image data (time t7), the projector 300 executes image processing to complete the screen update (time t8 to time t9).

ここで、期間T2および期間T4はデータの伝送に要する時間である。内部処理時間TNは、PC200内部での処理に要する時間である。なお、先に内部処理時間TNはt3〜t5であると定義したが、実際はt5〜t6の期間はt4〜t5の期間に比べて十分に短く、従って内部処理時間TNはt3〜t6の期間(PC200が操作情報Dpを受信した瞬間から画像データを送信した瞬間まで)と実質的に同一であるとみなせる。期間T5は、プロジェクター300内部において処理に要する時間である。更新時間TRは、指示体400の操作を表示内容に反映させるために必要なPC200で実行される処理に要する時間である。   Here, the period T2 and the period T4 are times required for data transmission. The internal processing time TN is a time required for processing inside the PC 200. Although the internal processing time TN is defined as t3 to t5 previously, the period of t5 to t6 is actually sufficiently shorter than the period of t4 to t5, and therefore the internal processing time TN is the period of t3 to t6 ( (From the moment when the PC 200 receives the operation information Dp to the moment when the image data is transmitted), it can be regarded as substantially the same. The period T5 is a time required for processing in the projector 300. The update time TR is a time required for processing executed by the PC 200 necessary to reflect the operation of the indicator 400 on the display content.

このように(a)および(b)において、全体的な処理の流れは共通するが、プロジェクター300−1とプロジェクター300−2とでは、接続形態自体の違いや接続形態の違いに起因した画像処理内容における違いが存在するため、画面更新に要する時間の長さ(同図のTR)が異なっている。具体的には、更新時間TRは、PC200における処理の内容、プロジェクター300における処理の内容、およびデータ伝送に係る時間に左右される。この結果、指示体400を画面SC1上において操作した場合と画面SC2上において操作した場合とでは、応答性に差が生じる。この差がある程度以上になるとユーザーに違和感を与える結果となる。   As described above, although the overall processing flow is the same in (a) and (b), the projector 300-1 and the projector 300-2 perform image processing due to the difference in connection form itself or the difference in connection form. Since there is a difference in content, the length of time required to update the screen (TR in the figure) is different. Specifically, the update time TR depends on the content of processing in the PC 200, the content of processing in the projector 300, and the time related to data transmission. As a result, there is a difference in responsiveness between when the indicator 400 is operated on the screen SC1 and when it is operated on the screen SC2. If this difference exceeds a certain level, the user feels uncomfortable.

図5に示すように、画面更新処理の速度が異なる複数のプロジェクター300によって一つの画面が実現されている場合に、上記実施例に係る送信タイミング調整を適用すると、上記差が少なくなるように、画像生成時間が短いほうの処理について、画像データの送信タイミングが遅延させられる。具体的には、一方のプロジェクター300の画面更新に要する時間および他方のプロジェクター300の画面更新に要する時間のうち短いほうの処理に係るPC200における画像データの送信時点がΔt=|TN1−TN2|だけ遅れる。   As shown in FIG. 5, when one screen is realized by a plurality of projectors 300 having different screen update processing speeds, when the transmission timing adjustment according to the embodiment is applied, the difference is reduced. For the process with the shorter image generation time, the transmission timing of the image data is delayed. Specifically, the transmission time point of the image data in the PC 200 related to the shorter of the time required for the screen update of one projector 300 and the time required for the screen update of the other projector 300 is Δt = | TN1-TN2 | Be late.

この結果、一方の画面の更新に要する時間が他方の画面の更新に要する時間(仮にその時点において画面SC2の更新処理が行われた場合においてPC200が要したと推定される時間)とが等しくなる。よって、画面SC1における操作と画面SC2における操作との間に存在した応答性の違いが緩和される。特に、画面SC1内と画面SC2内とを断続的に行き来するような操作がなされた場合、ユーザーが実感する効果はより顕著となる。   As a result, the time required for updating one screen becomes equal to the time required for updating the other screen (assuming that the PC 200 is estimated to be required when the screen SC2 is updated at that time). . Therefore, the difference in responsiveness existing between the operation on the screen SC1 and the operation on the screen SC2 is alleviated. In particular, when an operation for intermittently moving between the screen SC1 and the screen SC2 is performed, the effect realized by the user becomes more remarkable.

さらに、データの伝送時間における差異および各プロジェクター300における内部処理における差が実質的に無視できる場合(換言すると、応答性のばらつきの原因が実質的にPC200内部の処理のみにあるとみなせる場合)、画面SC1を対象にした操作と画面SC2を対象にした操作とで、応答性の違いは実質的にゼロとなる。   Further, when the difference in data transmission time and the difference in internal processing in each projector 300 can be substantially ignored (in other words, the cause of the variation in responsiveness can be considered to be substantially only in the processing inside the PC 200), The difference in response between the operation for the screen SC1 and the operation for the screen SC2 is substantially zero.

2.その他の実施例
遅延量の決定に関し、上述の方法に変えて、以下に示す複数の方法を、単独でまたは組み合わせて用いてもよい。
2. Other Embodiments Regarding the determination of the delay amount, instead of the above-described method, a plurality of methods described below may be used alone or in combination.

遅延量Δtの算出にあたり、|TN1−TN2|の値をそのまま用いるのではなく、所定の演算を行ってもよい。例えば、ある画像の内部処理時間TNとその画像の伝送速度とに所定の相関関係があることが予め分かっている場合、内部処理時間TNの差に所定の係数を乗じる。すなわち、伝送速度を直接測定せずに、内部処理時間TNの差に基づいて更新時間TRの差のずれを推定し、この更新時間TRの差が少なくなるように遅延量Δtを決定する。   In calculating the delay amount Δt, a predetermined calculation may be performed instead of using the value of | TN1−TN2 | as it is. For example, when it is known in advance that there is a predetermined correlation between the internal processing time TN of a certain image and the transmission speed of that image, the difference between the internal processing times TN is multiplied by a predetermined coefficient. That is, instead of directly measuring the transmission rate, the difference in the update time TR is estimated based on the difference in the internal processing time TN, and the delay amount Δt is determined so that the difference in the update time TR is reduced.

処理時間算出部231において、内部処理時間TNを決定するにあたり、直前に実行した画面更新処理についての情報ではなく、操作情報Dpの取得時点から前記画像データの送信時点までの期間を複数回にわたって計測した結果を用いてもよい。例えば、過去に行った所定回数分の更新処理に係る時間を記憶し、記憶した時間の情報に所定の統計処理(平均値の算出処理など)を行い、得られた値を前出の内部処理時間TNとして採用する。画像の内容(コンテンツ)によっては、遅延量が一定にならず、場合によっては算出される遅延量Δtが更新処理のたびに大きく変動する可能性があるところ、このように統計量を導入することで、応答時間が大きく時間変化することに起因する違和感をユーザーに与えることが防止される。   In determining the internal processing time TN, the processing time calculation unit 231 measures a plurality of times from the acquisition time of the operation information Dp to the transmission time of the image data, not the information about the screen update processing executed immediately before. The result may be used. For example, the time related to the update processing for a predetermined number of times in the past is stored, predetermined statistical processing (average value calculation processing, etc.) is performed on the stored time information, and the obtained value is used as the internal processing described above Adopted as time TN. Depending on the content of the image (content), the delay amount may not be constant, and in some cases, the calculated delay amount Δt may fluctuate greatly every time update processing is performed. Thus, it is possible to prevent the user from feeling uncomfortable due to a large change in response time.

遅延量Δtの算出にあたり、内部処理時間TNに加えて画像属性M1を加味してもよい。例えば、画面SC1と画面SC2とで異なる解像度の画像を表示する場合において、一画面あたりの画像データのサイズ(解像度)が小さいほうのデータについては、両者のデータ量の違いに対応する遅延量を|TN1−TN2|に加算する、もしくは当該遅延量に対応する係数を|TN1−TN2|の値に乗じる、という処理を行う。   In calculating the delay amount Δt, the image attribute M1 may be considered in addition to the internal processing time TN. For example, in the case where images with different resolutions are displayed on the screen SC1 and the screen SC2, for data with a smaller size (resolution) of image data per screen, a delay amount corresponding to the difference in the data amount between the two is used. A process of adding to | TN1−TN2 | or multiplying the value of | TN1−TN2 | by a coefficient corresponding to the delay amount is performed.

また、内部処理時間TNだけでなく、Δt=|TR1−TR2|がゼロに近づくように、期間T2および期間T4における差を加味して遅延量Δtを決定してもよい。具体的には、プロジェクター300−1とプロジェクター300−2とで採用されるデータ伝送規格によって規定される伝送速度の限界値に基づいて、理論上の伝送時間の差Δtxを計算し、Δtxを用いて|TN1−TN2|の値を補正する。このように、各伝送路におけるデータ伝送速度の違いに基づく推定し、推定結果を遅延量Δtに反映させる。
なお、テストパケットを用いるなどして上記Δtxを随時実測し、最新のΔtxをΔtに反映させてもよい。伝送速度の変化を逐次監視して遅延量に反映させることにより、PC200とプロジェクター300とを専用ケーブルでなくLAN等の伝送速度の変動が比較的大きい通信網を利用して接続している場合でも、応答性のばらつきを一定の範囲に抑えることができる。
Further, not only the internal processing time TN but also the delay amount Δt may be determined in consideration of the difference between the period T2 and the period T4 so that Δt = | TR1-TR2 | approaches zero. Specifically, a theoretical transmission time difference Δtx is calculated based on a transmission speed limit value defined by the data transmission standard adopted by the projector 300-1 and the projector 300-2, and Δtx is used. To correct the value of | TN1-TN2 |. In this way, estimation is performed based on the difference in data transmission speed in each transmission path, and the estimation result is reflected in the delay amount Δt.
Note that Δtx may be measured at any time using a test packet, and the latest Δtx may be reflected in Δt. Even if the PC 200 and the projector 300 are connected not using a dedicated cable but using a communication network such as a LAN having a relatively large change in the transmission speed by monitoring the change in the transmission speed and reflecting it in the delay amount. Therefore, the variation in responsiveness can be suppressed within a certain range.

内部処理時間TNを算出するにあたり、処理時間を実測するのではなく、生成すべき画像データに関する情報(解像度など)および画像処理に関する情報(圧縮率などのパラメータなど)のうち少なくともいずれかを用いて、推定してもよい。例えば、一般的に圧縮率が高いほど圧縮処理に要する時間が長くなるので、圧縮率と処理時間とを記憶部240に対応付けて記憶しておき、適用される圧縮率に対応する処理時間を用いて|TR1−TR2|の値を補正する。   In calculating the internal processing time TN, instead of actually measuring the processing time, at least one of information relating to image data to be generated (such as resolution) and information relating to image processing (such as parameters such as compression ratio) is used. , May be estimated. For example, generally, the higher the compression rate, the longer the time required for the compression process. Therefore, the compression rate and the processing time are stored in association with the storage unit 240, and the processing time corresponding to the applied compression rate is stored. To correct the value of | TR1-TR2 |.

処理時間の短いほうの処理を処理時間の長いほうに合わせて遅らせるのではなく、処理時間の長いほうの処理の時間を短縮させてもよい。例えば、TN1<TN2の場合に、プロジェクター300−1の処理については遅延をかけず、プロジェクター300−2については画像解像度を落とすなどしてTN2を短縮する。これにより、全体的な応答性を落とすことなく応答性を均一化することができる。   Instead of delaying the processing with the shorter processing time in accordance with the longer processing time, the processing time with the longer processing time may be shortened. For example, when TN1 <TN2, the processing of the projector 300-1 is not delayed, and the TN2 is shortened by reducing the image resolution of the projector 300-2. Thereby, the responsiveness can be made uniform without degrading the overall responsiveness.

上述した、遅延処理と短縮処理とを組み合わせてもよい。すなわち、処理時間の短いほうの処理に対しては遅延処理を施す一方、処理時間の長いほうの処理に対しては短縮化を施す。   The above-described delay processing and shortening processing may be combined. That is, a delay process is performed for a process with a shorter processing time, while a shortening is performed for a process with a longer processing time.

あるいは、Δt=0となるような調整方法以外の方法を採用してもよい。例えば、処理時間の短いほうの処理と処理時間の長いほうの処理の両方に対して遅延をかける。具体的には、TN1<TN2である場合、TN1+Δs1、TN1+Δs2(Δs1>Δs2)とする。遅い処理のほうに対しても遅延をかけるのは、伝送路の変化等により、現時点よりもさらに遅延することがあり得る可能性を考慮しているためである。遅いほうの処理に係る伝送路の状態が悪化しても、あらかじめ処理時間の更なる遅れを見込んで共通の応答性を設定しているので、応答性は多少犠牲になるが、応答性の統一感を確実に担保するという観点では好ましい。   Or you may employ | adopt methods other than the adjustment method which becomes (DELTA) t = 0. For example, a delay is applied to both the processing having the shorter processing time and the processing having the longer processing time. Specifically, when TN1 <TN2, TN1 + Δs1 and TN1 + Δs2 (Δs1> Δs2) are set. The reason for delaying the slow processing is that the possibility of further delay than the present time due to a change in the transmission path is taken into consideration. Even if the state of the transmission line related to the slower processing deteriorates, the common response is set in anticipation of further delay in the processing time, so the response will be sacrificed somewhat, but the response will be unified. This is preferable from the viewpoint of ensuring the feeling.

本発明に係る送信タイミングの調整処理を、PC200に同時に接続され、一つの画面を構成する画面SCn(n=1,2,3,・・・)の描画を担当する3台以上のプロジェクターに係る送信処理に適用してもよい。   The transmission timing adjustment processing according to the present invention relates to three or more projectors that are simultaneously connected to the PC 200 and are responsible for drawing the screen SCn (n = 1, 2, 3,...) Constituting one screen. You may apply to transmission processing.

本発明に係る送信タイミングの調整処理を適用するのはプロジェクターに限定されず、用いている表示原理や表示機構には依存しない。画像を表示する機能と表示領域上の位置を指定する入力機能とを備えた表示装置であれば、本発明を適用することができる。   The application of the transmission timing adjustment processing according to the present invention is not limited to a projector, and does not depend on the display principle or display mechanism used. The present invention can be applied to any display device having a function for displaying an image and an input function for designating a position on the display area.

要するに、本発明の画像供給装置は、指示体の操作内容を表す情報を表示装置から逐次受信する取得部と、該受信した情報に基づいて画像データを生成する画像処理部と、該生成された画像データを表示装置に送信する送信部とを有するものであって、第1の表示装置および第2の表示装置にそれぞれ第1の画像データおよび第2の画像データを送信する際に、前記第1の画像データの送信タイミングおよび前記第2の画像データの送信タイミングのうち少なくともいずれか一方を、前記第1の表示装置の画面更新に要する時間と前記第2の表示装置の画面更新に要する時間との差が少なくなるように調整する。   In short, the image supply device of the present invention includes an acquisition unit that sequentially receives information representing the operation content of the indicator from the display device, an image processing unit that generates image data based on the received information, and the generated A transmission unit that transmits the image data to the display device, wherein the first image data and the second image data are transmitted to the first display device and the second display device, respectively. The time required for updating the screen of the first display device and the time required for updating the screen of the second display device are used as at least one of the transmission timing of the first image data and the transmission timing of the second image data. Adjust so that the difference between is small.

100・・・画像表示システム、200・・・PC、220・・・通信部、201・・・受信部、202・・・送信部、210・・・画像処理部、211・・・第1画像処理部、212・・・第2画像処理部、230・・・タイミング調整部、231・・・処理時間算出部、232・・・遅延処理部、240・・・記憶部、250・・・表示部、260・・・入力部、300・・・プロジェクター、310・・・通信部、311・・・送信部、312・・・受信部、330・・・操作検出部330、320・・・画像処理部、321・・・第1処理部、322・・・第2処理部、340・・・投射部、400・・・指示体、500・・・表示領域 DESCRIPTION OF SYMBOLS 100 ... Image display system, 200 ... PC, 220 ... Communication part, 201 ... Reception part, 202 ... Transmission part, 210 ... Image processing part, 211 ... 1st image Processing unit 212 ... Second image processing unit 230 ... Timing adjustment unit 231 ... Processing time calculation unit 232 ... Delay processing unit 240 ... Storage unit 250 ... Display , 260 ... input unit, 300 ... projector, 310 ... communication unit, 311 ... transmission unit, 312 ... reception unit, 330 ... operation detection unit 330, 320 ... image Processing unit, 321 ... First processing unit, 322 ... Second processing unit, 340 ... Projection unit, 400 ... Indicator, 500 ... Display area

Claims (9)

指示体の操作内容を表す情報を第1の表示装置または第2の表示装置から逐次取得する取得部と、
該取得した情報に基づいて画像データを生成する画像処理部と、
前記画像処理部にて生成された第1画像データを前記第1の表示装置に送信し、前記画像処理部にて生成された第2画像データを前記第2の表示装置に送信する送信部と、
前記第1の画像データの送信タイミングおよび前記第2の画像データの送信タイミングのうち少なくともいずれか一方を、前記第1の表示装置の画面更新に要する時間と前記第2の表示装置の画面更新に要する時間との差が少なくなるように調整する制御部と
を有する画像供給装置。
An acquisition unit that sequentially acquires information representing the operation content of the indicator from the first display device or the second display device;
An image processing unit for generating image data based on the acquired information;
A transmission unit for transmitting the first image data generated by the image processing unit to the first display device, and transmitting the second image data generated by the image processing unit to the second display device; ,
At least one of the transmission timing of the first image data and the transmission timing of the second image data is used for the time required for the screen update of the first display device and the screen update of the second display device. And a control unit that adjusts so that a difference from the time required is reduced.
前記制御部は、
前記情報を取得したタイミングと前記画像データの生成が完了したタイミングとに基づいて前記差を算出し、
第1画像データおよび前記第2画像データのうち、前記第1の表示装置の画面更新に要する時間および前記第2の表示装置の画面更新に要する時間のうち短いほうに係る画像データの送信処理を遅延させる
ことを特徴とする請求項1に記載の画像供給装置。
The controller is
Calculating the difference based on the timing at which the information is acquired and the timing at which the generation of the image data is completed;
Of the first image data and the second image data, a transmission process of the image data according to the shorter one of the time required for the screen update of the first display device and the time required for the screen update of the second display device. The image supply device according to claim 1, wherein the image supply device is delayed.
前記制御部は、前記情報の取得時点から前記画像データの生成完了時点までの期間を複数回にわたって計測した結果に基づいて、前記差を算出する
ことを特徴とする請求項2記載の画像供給装置。
The image supply device according to claim 2, wherein the control unit calculates the difference based on a result obtained by measuring a period from the acquisition time of the information to a completion point of generation of the image data a plurality of times. .
前記差は、前記画像データが表す画像の解像度に基づいて算出される
ことを特徴とする請求項1ないし3のいずれか一つに記載の画像供給装置。
The image supply apparatus according to any one of claims 1 to 3, wherein the difference is calculated based on a resolution of an image represented by the image data.
前記差は、前記画像供給装置と前記第1の表示装置との間で採用される第1伝送規格と、前記画像供給装置と前記第2の表示装置と間で採用される第2伝送規格とに基づいて、算出される
ことを特徴とする請求項1ないし4のいずれか一つに記載の画像供給装置。
The difference is that a first transmission standard adopted between the image supply device and the first display device, and a second transmission standard adopted between the image supply device and the second display device. The image supply device according to claim 1, wherein the image supply device is calculated based on
前記差は、前記画像データの生成において実行されるデータ圧縮処理に適用される圧縮率に基づいて、算出される
ことを特徴とする請求項1ないし5のいずれか一つに記載の画像供給装置。
The image supply device according to any one of claims 1 to 5, wherein the difference is calculated based on a compression ratio applied to a data compression process executed in the generation of the image data. .
指示体の操作内容を表す情報を第1の表示装置または第2の表示装置から逐次受取得するステップと、
該取得した情報に基づいて画像データを生成するステップと、
前記画像処理部にて生成された第1画像データを前記第1の表示装置に送信し、前記画像処理部にて生成された第2画像データを前記第2の表示装置に送信するステップと、
前記第1画像データの送信タイミングおよび前記第2画像データの送信タイミングのうち少なくともいずれか一方を、前記第2の表示装置に表示される映像の更新に要する時間と前記第1の表示装置に表示される映像の更新に要する時間との差が少なくなるように調整するステップと
を有する画像供給方法。
Sequentially receiving and obtaining information representing the operation content of the indicator from the first display device or the second display device;
Generating image data based on the acquired information;
Transmitting the first image data generated by the image processing unit to the first display device, and transmitting the second image data generated by the image processing unit to the second display device;
At least one of the transmission timing of the first image data and the transmission timing of the second image data is displayed on the first display device and the time required for updating the video displayed on the second display device. Adjusting the difference so that the time required for updating the video to be updated is reduced.
コンピューターに、
指示体の操作内容を表す情報を第1の表示装置または第2の表示装置から逐次受信するステップと、
該受信した情報に基づいて画像データを生成するステップと、
該生成された第1画像データを前記第1の表示装置に送信し、該生成された第2画像データを前記第2の表示装置に送信する送信部と、
該生成された画像データを表示装置に送信するステップと、
前記第1画像データの送信タイミングおよび前記第2画像データの送信タイミングのうち少なくともいずれか一方を、前記第2の表示装置に表示される映像の更新に要する時間と前記第1の表示装置に表示される映像の更新に要する時間との差が少なくなるように、調整するステップと
を実行させるためのプログラム。
On the computer,
Sequentially receiving information representing the operation content of the indicator from the first display device or the second display device;
Generating image data based on the received information;
A transmission unit for transmitting the generated first image data to the first display device, and transmitting the generated second image data to the second display device;
Transmitting the generated image data to a display device;
At least one of the transmission timing of the first image data and the transmission timing of the second image data is displayed on the first display device and the time required for updating the video displayed on the second display device. For executing the adjustment step so that the difference from the time required for updating the image to be reduced is reduced.
第1の表示装置、第2の表示装置、および画像供給装置を備え、
第1の表示装置および第2の表示装置の各々は、
指示体の操作内容を表す情報を生成する手段と、
該生成された情報を前記画像供給装置に送信する手段と
前記画像供給装置から画像データを受信する手段と、
該受信した画像データに基づいて画像を表示する手段と
を備え、
前記画像供給装置は、
各表示装置からそれぞれ受信した、指示体の操作内容を表す情報に基づいて画像データを生成する画像処理部と、
該生成された第1画像データを前記第1の表示装置に送信し、該生成された第2画像データを前記第2の表示装置に送信する送信部と、
前記第1の表示装置および前記第2の表示装置にそれぞれ第1の画像データおよび第2の画像データを送信する際に、前記第1の画像データの送信タイミングおよび前記第2の画像データの送信タイミングのうち少なくともいずれか一方を、前記第2の表示装置に表示される映像の更新に要する時間と前記第1の表示装置に表示される映像の更新に要する時間との差が少なくなるように、調整する制御部と
を有する
ことを特徴とする画像処理システム。
A first display device, a second display device, and an image supply device;
Each of the first display device and the second display device is
Means for generating information representing the operation content of the indicator;
Means for transmitting the generated information to the image supply device; means for receiving image data from the image supply device;
Means for displaying an image based on the received image data,
The image supply device includes:
An image processing unit that generates image data based on information representing the operation content of the indicator received from each display device;
A transmission unit for transmitting the generated first image data to the first display device, and transmitting the generated second image data to the second display device;
The transmission timing of the first image data and the transmission of the second image data when transmitting the first image data and the second image data to the first display device and the second display device, respectively. At least one of the timings so that a difference between a time required for updating the video displayed on the second display device and a time required for updating the video displayed on the first display device is reduced. And an adjustment control unit.
JP2014227371A 2014-11-07 2014-11-07 Image supply device, image supply method, program, and image processing system Pending JP2016090894A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014227371A JP2016090894A (en) 2014-11-07 2014-11-07 Image supply device, image supply method, program, and image processing system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014227371A JP2016090894A (en) 2014-11-07 2014-11-07 Image supply device, image supply method, program, and image processing system

Publications (1)

Publication Number Publication Date
JP2016090894A true JP2016090894A (en) 2016-05-23

Family

ID=56016810

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014227371A Pending JP2016090894A (en) 2014-11-07 2014-11-07 Image supply device, image supply method, program, and image processing system

Country Status (1)

Country Link
JP (1) JP2016090894A (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018036481A (en) * 2016-08-31 2018-03-08 株式会社リコー Image projection system, information processing apparatus, image projection method, and program
JPWO2018051434A1 (en) * 2016-09-14 2018-09-27 三菱電機株式会社 Display control apparatus, display control method, and display control program

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018036481A (en) * 2016-08-31 2018-03-08 株式会社リコー Image projection system, information processing apparatus, image projection method, and program
JPWO2018051434A1 (en) * 2016-09-14 2018-09-27 三菱電機株式会社 Display control apparatus, display control method, and display control program
US10642561B2 (en) 2016-09-14 2020-05-05 Mitsubishi Electric Corporation Display control apparatus, display control method, and computer readable medium

Similar Documents

Publication Publication Date Title
US10223980B2 (en) Display device and display method
JP6894976B2 (en) Image smoothness improvement method and equipment
TW201423719A (en) System, method, and computer program product for modifying a pixel value as a function of a display duration estimate
US9319651B2 (en) Image projection apparatus, image projection method, and storage medium of program
TWI459346B (en) Display apparatus
CN103839528A (en) Spliced display screen synchronous display method, clock controller and spliced display screen
EP2824936A1 (en) Projector, projector control method, and recording medium storing projector control program
CN114302192B (en) Sound and picture synchronization method and device, vehicle and storage medium
US10078383B2 (en) Apparatus and method to display moved image data processed via a server at a predicted position on a screen
JP2020522723A (en) Refresh rate adjusting method and its circuit, display device, and storage medium
US9544474B1 (en) Video frame transmitting system and video frame transmitting method
US9307210B2 (en) Image output apparatus, method, and medium
EP2827590B1 (en) Projector, projector control method, and recording medium storing projector control program
JP2016090894A (en) Image supply device, image supply method, program, and image processing system
KR20120005270A (en) Image output device and method for outputting image using the same
JP6273671B2 (en) Projector, display system, and projector control method
TWI540864B (en) Information transmission method and wireless display system
US11025872B2 (en) Display controller, display system, display control method and non-transitory storage medium
US9858851B2 (en) Display device and operation method thereof
JPWO2013187296A1 (en) Display device, display method, and program
JP2014010609A (en) Projection device, pointer device and projection system
TWI627623B (en) Displaying control system and displaying control method
CN111309190B (en) Display device, display system, and display method
US10860131B2 (en) Touch panel control device and information processing apparatus
WO2021070168A2 (en) Ganaka-4: ganaka applied to mobiles