JP2018163685A - Electronic apparatus and screen data transfer method - Google Patents

Electronic apparatus and screen data transfer method Download PDF

Info

Publication number
JP2018163685A
JP2018163685A JP2018110455A JP2018110455A JP2018163685A JP 2018163685 A JP2018163685 A JP 2018163685A JP 2018110455 A JP2018110455 A JP 2018110455A JP 2018110455 A JP2018110455 A JP 2018110455A JP 2018163685 A JP2018163685 A JP 2018163685A
Authority
JP
Japan
Prior art keywords
content
image data
screen
unit
screen data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018110455A
Other languages
Japanese (ja)
Inventor
和広 門田
Kazuhiro Kadota
和広 門田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2018110455A priority Critical patent/JP2018163685A/en
Publication of JP2018163685A publication Critical patent/JP2018163685A/en
Pending legal-status Critical Current

Links

Landscapes

  • Digital Computer Display Output (AREA)
  • Information Transfer Between Computers (AREA)

Abstract

PROBLEM TO BE SOLVED: To transfer, to a projector, screen data displayed by using an application not having a screen transfer function.SOLUTION: A user terminal 1 comprises: a clip board 151 that stores an object content to be displayed by a projector 2; a rendering part 163 that, when the content is stored in the clip board 151, creates image data based on the content; a display control part 164 that displays, on a display part 13, screen data including at least part of the image data; a capturing part 165 that captures the screen data; and a transmission part 166 that transmits the captured screen data to the projector 2.SELECTED DRAWING: Figure 5

Description

本発明は、表示画面を有する電子機器、及び電子機器から表示制御装置への画面データ転送方法に関するものである。   The present invention relates to an electronic device having a display screen, and a screen data transfer method from the electronic device to a display control device.

スマートフォン及びPC(Personal Computer)等の電子機器の表示画面をプロジェクタ又はディスプレイ等の表示制御装置に転送し、スクリーン又はディスプレイ等に表示させるための画面転送システムが利用されている。特許文献1には、携帯情報端末がWebサーバから取得したコンテンツをレンダリングし、レンダリングしたコンテンツをプロジェクタに転送し、プロジェクタが当該コンテンツを表示するシステムが開示されている。   2. Description of the Related Art A screen transfer system is used for transferring display screens of electronic devices such as smartphones and PCs (Personal Computers) to a display control device such as a projector or a display and displaying them on a screen or a display. Patent Document 1 discloses a system in which a portable information terminal renders content acquired from a Web server, transfers the rendered content to a projector, and the projector displays the content.

特開2002−290605号公報JP 2002-290605 A

スマートフォンが表示しているコンテンツの画面を表示制御装置が表示させる処理は、コンテンツの画面を表示制御装置に転送するアプリケーションプログラム(以下、「画面転送アプリケーション」という)をスマートフォンが実行することにより実現される。スマートフォンは、画面転送アプリケーションを実行することにより、スマートフォンの画面に表示された画面データをキャプチャーし、キャプチャーした画面データを表示制御装置に転送する。   The process of causing the display control device to display the content screen displayed by the smartphone is realized by the smartphone executing an application program (hereinafter referred to as “screen transfer application”) that transfers the content screen to the display control device. The The smartphone captures the screen data displayed on the smartphone screen by executing the screen transfer application, and transfers the captured screen data to the display control device.

ところが、スマートフォンのOS(Operating System)の中には、セキュリティ上の観点から、バックグラウンド状態で動作しているアプリケーションが、画面に表示されたデータをキャプチャーすることを禁止しているものがある。このようなOSに対応するために、画面転送アプリケーションに、コンテンツをレンダリングして画面に表示するビューワ機能を追加することが考えられる。このようにすることで、ユーザは、画面転送アプリケーションを用いてコンテンツを表示させ、表示させたコンテンツを表示制御装置に転送することができる。   However, some OSs (Operating Systems) of smartphones prohibit the application operating in the background state from capturing data displayed on the screen from the viewpoint of security. In order to cope with such an OS, it is conceivable to add a viewer function for rendering the content and displaying it on the screen in the screen transfer application. In this way, the user can display the content using the screen transfer application and transfer the displayed content to the display control apparatus.

しかしながら、ユーザは、コンテンツの表示に画面転送アプリケーションを使用したいとは限らない。例えば、ユーザが、Webコンテンツを表示させるためのアプリケーションとして、自身のお気に入りのサイトをブックマークしたWebブラウザを使用している場合、画面転送アプリケーションを用いてコンテンツを表示させることは不便であり、好ましくない。   However, the user does not always want to use a screen transfer application for displaying content. For example, when a user uses a Web browser in which his / her favorite site is bookmarked as an application for displaying Web content, it is inconvenient and undesirable to display the content using a screen transfer application. .

そこで、本発明は上述した点に鑑みてなされたものであり、画面転送機能を有しないアプリケーションを用いて表示させた画面データを表示制御装置に転送できるようにすることを目的とする。   Therefore, the present invention has been made in view of the above-described points, and an object of the present invention is to enable screen data displayed using an application not having a screen transfer function to be transferred to a display control apparatus.

上記の課題を解決するために、本発明に係る電子機器は、表示制御装置に表示させる対象のコンテンツを記憶する記憶手段と、前記記憶手段の所定の領域に前記コンテンツが記憶されている場合に、当該コンテンツに基づく画像データを生成する画像データ生成手段と、前記画像データ生成手段が生成した前記画像データの少なくとも一部を含む画面データを表示手段に表示させる表示制御手段と、前記画面データをキャプチャーするキャプチャー手段と、前記キャプチャー手段がキャプチャーした前記画面データを前記表示制御装置に送信する送信手段と、を有することを特徴とする。   In order to solve the above problems, an electronic device according to the present invention includes a storage unit that stores content to be displayed on a display control device, and the content is stored in a predetermined area of the storage unit. Image data generating means for generating image data based on the content, display control means for displaying on the display means screen data including at least a part of the image data generated by the image data generating means, and the screen data Capture means for capturing, and transmission means for transmitting the screen data captured by the capture means to the display control device.

本発明によれば、画面転送機能を有しないアプリケーションを用いて表示させた画面データを表示制御装置に転送できるという効果を奏する。   According to the present invention, it is possible to transfer screen data displayed using an application that does not have a screen transfer function to the display control device.

本実施形態に係る画面データ転送システムSの構成を示す。1 shows a configuration of a screen data transfer system S according to the present embodiment. 表示画面の画面データを転送するまでの流れを示す図である。It is a figure which shows the flow until it transfers the screen data of a display screen. 画面転送アプリケーションの動作状態が遷移する態様を示す図である。It is a figure which shows the aspect in which the operation state of a screen transfer application changes. 表示画面に表示されたWebページがプロジェクタに転送されるまでの流れを示す図である。It is a figure which shows the flow until the web page displayed on the display screen is transmitted to a projector. ユーザ端末1の構成を示す図である。2 is a diagram illustrating a configuration of a user terminal 1. FIG. プロジェクタ2の構成を示す図である。2 is a diagram showing a configuration of a projector 2. FIG. ユーザ端末1における処理の手順を示すフローチャートである。4 is a flowchart showing a processing procedure in the user terminal 1. ユーザ端末1における処理の手順を示すフローチャートである。4 is a flowchart showing a processing procedure in the user terminal 1. ユーザ端末1に表示される画面データの一例を示す図である。It is a figure which shows an example of the screen data displayed on the user terminal. ユーザ端末1に表示される画面データの一例を示す図である。It is a figure which shows an example of the screen data displayed on the user terminal. 第1の画像生成処理の手順を示すフローチャートである。It is a flowchart which shows the procedure of a 1st image generation process. 第2の画像生成処理の手順を示すフローチャートである。It is a flowchart which shows the procedure of a 2nd image generation process.

[画面データ転送システムSの概要]
図1は、本実施形態に係る画面データ転送システムSの構成を示す。
[Overview of Screen Data Transfer System S]
FIG. 1 shows a configuration of a screen data transfer system S according to the present embodiment.

画面データ転送システムSは、ユーザが用いる電子機器であるユーザ端末1と、ユーザ端末1から送られた画面データを投影する表示制御装置であるプロジェクタ2とを備える。ユーザ端末1は、例えばスマートフォン又はPCであり、表示画面を備えている。   The screen data transfer system S includes a user terminal 1 that is an electronic device used by a user, and a projector 2 that is a display control device that projects screen data sent from the user terminal 1. The user terminal 1 is a smartphone or a PC, for example, and includes a display screen.

ユーザ端末1には、オペレーティングシステム、Webブラウザアプリケーション及び画面転送アプリケーション等が予めインストールされている。プロジェクタ2は、ユーザ端末1から転送された画面データをスクリーン3に対して投影する。ユーザ端末1とプロジェクタ2とは、無線LAN等の無線通信回線Nにより接続されている。   The user terminal 1 is preinstalled with an operating system, a web browser application, a screen transfer application, and the like. The projector 2 projects the screen data transferred from the user terminal 1 onto the screen 3. The user terminal 1 and the projector 2 are connected by a wireless communication line N such as a wireless LAN.

図2は、ユーザ端末1に表示された画面データがプロジェクタ2に転送されるまでの流れを示す図である。図3は、ユーザ端末1におけるアプリケーションの動作状態が遷移する態様を説明するための図である。図4は、ユーザ端末1に表示されたWebページの画面データがプロジェクタ2に転送されるまでの流れを示す図である。   FIG. 2 is a diagram showing a flow until the screen data displayed on the user terminal 1 is transferred to the projector 2. FIG. 3 is a diagram for explaining a mode in which the operation state of the application in the user terminal 1 changes. FIG. 4 is a diagram illustrating a flow until the screen data of the Web page displayed on the user terminal 1 is transferred to the projector 2.

以下、図2、図3及び図4を参照して、ユーザ端末1における画面データがプロジェクタ2に転送されるまでの流れについて説明する。   Hereinafter, a flow until the screen data in the user terminal 1 is transferred to the projector 2 will be described with reference to FIGS.

まず、ユーザは、Webブラウザアプリケーションを起動させてフォアグラウンド状態にして、プロジェクタ2に転送する対象となるコンテンツの表示画面を表示させる(S11)。このとき、ユーザ端末1の画面転送アプリケーションは、図3に示す未起動状態又はバックグラウンド状態になっている。バックグラウンド状態になっている画面転送アプリケーションは、表示画面をキャプチャーすることができない。   First, the user activates the Web browser application to bring it into the foreground state, and displays a content display screen to be transferred to the projector 2 (S11). At this time, the screen transfer application of the user terminal 1 is in an unstarted state or a background state shown in FIG. A screen transfer application in the background state cannot capture the display screen.

この状態で、ユーザは、Webブラウザアプリケーションによって表示された画面の全体又は一部の領域を選択し、選択した領域のコンテンツをコピーする操作を行う。図4においては、ユーザが、表示されたWebページに含まれているURLをコピーする操作が例示されているが、ユーザは、メールアプリケーションで受信したURL等の文字列をコピーしてもよい。ユーザにより選択されたコンテンツは、ユーザ端末1が有するメモリ内のクリップボードに格納される(S12)。ユーザがURLをコピーする操作を行った場合、URLを示すテキストデータがクリップボードに格納される。   In this state, the user selects an entire area or a partial area of the screen displayed by the Web browser application, and performs an operation of copying the content in the selected area. Although FIG. 4 illustrates an operation in which the user copies a URL included in the displayed Web page, the user may copy a character string such as a URL received by the mail application. The content selected by the user is stored in the clipboard in the memory of the user terminal 1 (S12). When the user performs an operation of copying a URL, text data indicating the URL is stored in the clipboard.

次いで、ユーザは、画面転送アプリケーションを起動する(S13)。ユーザが画面転送アプリケーションを起動することにより、図3における「再起動」が行われ、S11及びS12で未起動状態又はバックグラウンド状態であった画面転送アプリケーションが、フォアグラウンド状態に遷移する。   Next, the user activates the screen transfer application (S13). When the user activates the screen transfer application, “restart” in FIG. 3 is performed, and the screen transfer application that has not been activated or is in the background state in S11 and S12 transitions to the foreground state.

画面転送アプリケーションは、フォアグラウンド状態に遷移すると、ユーザ端末1とプロジェクタ2との間の論理的な接続(以下、「通信リンク」という)を確立する(S14)。続いて、画面転送アプリケーションは、クリップボードに格納されたコンテンツに基づいて画像データを生成する(S15)。図4に示す例においては、画面転送アプリケーションは、クリップボードに格納されたURLに対応するWebページにアクセスして、WebページのHTMLデータを取得することにより画像データを生成する。なお、画像データを生成する手法は、クリップボードに格納されたコンテンツの種別により異なる。画像データを生成する手法の詳細については、後述する。   When transitioning to the foreground state, the screen transfer application establishes a logical connection (hereinafter referred to as “communication link”) between the user terminal 1 and the projector 2 (S14). Subsequently, the screen transfer application generates image data based on the content stored in the clipboard (S15). In the example illustrated in FIG. 4, the screen transfer application accesses the Web page corresponding to the URL stored on the clipboard, and generates image data by acquiring HTML data of the Web page. Note that the method for generating image data differs depending on the type of content stored in the clipboard. Details of the method for generating image data will be described later.

次に、画面転送アプリケーションは、生成した画像データの少なくとも一部を含む画面データを表示する(S16)。具体的には、画面転送アプリケーションは、生成した画像データをVRAMに格納することにより、画面データをユーザ端末1のディスプレイに表示する。   Next, the screen transfer application displays screen data including at least a part of the generated image data (S16). Specifically, the screen transfer application displays the screen data on the display of the user terminal 1 by storing the generated image data in the VRAM.

続いて、画面転送アプリケーションは、画面データをキャプチャーする(S17)。これにより、プロジェクタ2に転送する画面データであるWebページは、ユーザ端末1のメモリ内の転送バッファに格納される。続いて、画面転送アプリケーションは、転送バッファ内の画面データをプロジェクタ2に対して転送する(S18)。プロジェクタ2は、ユーザ端末1から転送された画面データをスクリーン3に投影する。   Subsequently, the screen transfer application captures screen data (S17). Thereby, the Web page that is the screen data to be transferred to the projector 2 is stored in the transfer buffer in the memory of the user terminal 1. Subsequently, the screen transfer application transfers the screen data in the transfer buffer to the projector 2 (S18). The projector 2 projects the screen data transferred from the user terminal 1 onto the screen 3.

なお、図3に示すように、ユーザ端末1では、画面転送アプリケーションがフォアグラウンド状態で動作中に、ユーザによる一時停止操作が行われた場合、又は電話着信等の優先順位が高い他のアプリケーションが起動した場合、画面転送アプリケーションはバックグラウンド状態に遷移する。   As shown in FIG. 3, in the user terminal 1, when the user performs a pause operation while the screen transfer application is operating in the foreground state, or another application with a high priority such as an incoming call is started. In such a case, the screen transfer application transitions to the background state.

また、図3に示すように、画面転送アプリケーションがバックグラウンド状態で動作中に、ユーザ端末1においてメモリ不足等の異常状態が発生した場合、又はユーザによる強制終了操作が行われた場合、画面転送アプリケーションはバックグラウンド状態から未起動状態に遷移する。また、画面転送アプリケーションは、バックグラウンド状態で予め設定された時間が経過した場合に、未起動状態に遷移してもよい。   Further, as shown in FIG. 3, when an abnormal state such as a memory shortage occurs in the user terminal 1 while the screen transfer application is operating in the background state, or when a forced termination operation is performed by the user, screen transfer is performed. The application transitions from the background state to the unstarted state. Further, the screen transfer application may transition to an unstarted state when a preset time has elapsed in the background state.

以上のように、本実施形態に係るユーザ端末1では、バックグラウンド状態で表示画面をキャプチャーすることが禁止されている場合でも、ユーザは、使い慣れたWebブラウザ等のアプリケーションを用いて表示画面に表示させたコンテンツを、プロジェクタ2に対して転送することが可能となる。   As described above, in the user terminal 1 according to the present embodiment, even when it is prohibited to capture the display screen in the background state, the user can display on the display screen using an application such as a familiar web browser. It is possible to transfer the content thus made to the projector 2.

[ユーザ端末1の構成]
続いて、ユーザ端末1の構成について説明する。
[Configuration of user terminal 1]
Next, the configuration of the user terminal 1 will be described.

図5は、ユーザ端末の構成を示す図である。ユーザ端末1は、操作部11と、通信部12と、表示部13と、VRAM14と、記憶部15と、制御部16と、を有する。制御部16は、操作受付部161、コピー部162、レンダリング部163、表示制御部164、キャプチャー部165及び送信部166を有する。   FIG. 5 is a diagram illustrating a configuration of the user terminal. The user terminal 1 includes an operation unit 11, a communication unit 12, a display unit 13, a VRAM 14, a storage unit 15, and a control unit 16. The control unit 16 includes an operation reception unit 161, a copy unit 162, a rendering unit 163, a display control unit 164, a capture unit 165, and a transmission unit 166.

操作部11は、例えば操作ボタン又はタッチパネル等によって構成されている。操作部11は、ユーザによる操作内容を示すデータを操作受付部161に通知する。操作部11は、例えば、表示部13に重ねられたタッチパネルにユーザがタッチした位置を示す座標データを操作受付部161に通知する。   The operation unit 11 includes, for example, operation buttons or a touch panel. The operation unit 11 notifies the operation reception unit 161 of data indicating the content of the operation by the user. For example, the operation unit 11 notifies the operation reception unit 161 of coordinate data indicating a position where the user touches the touch panel overlaid on the display unit 13.

通信部12は、プロジェクタ2に画面データを送信するための通信インターフェイスである。通信部12は、アンテナ、RF(Radio Frequency)部及びベースバンド部を含んで構成され、予め設定された無線LAN規格に適合したパケットデータの送受信を行う。   The communication unit 12 is a communication interface for transmitting screen data to the projector 2. The communication unit 12 includes an antenna, an RF (Radio Frequency) unit, and a baseband unit, and transmits and receives packet data that conforms to a preset wireless LAN standard.

表示部13は、表示制御部164の制御に基づいて、VRAM14から読み出された画面データを表示する。表示部13は、例えば、液晶パネル又は有機EL(Electro Luminescence)パネルである。液晶パネル又は有機ELパネルの表示面には、操作部11に含まれるタッチパネルが重ねられている。   The display unit 13 displays the screen data read from the VRAM 14 based on the control of the display control unit 164. The display unit 13 is, for example, a liquid crystal panel or an organic EL (Electro Luminescence) panel. A touch panel included in the operation unit 11 is overlaid on the display surface of the liquid crystal panel or the organic EL panel.

VRAM14は、表示部13に表示される画面データを格納する。なお、後述する記憶部15に含まれるRAMのアクセス速度が十分に高速であれば、記憶部15内のRAMをVRAM14として用いてもよい。   The VRAM 14 stores screen data displayed on the display unit 13. Note that the RAM in the storage unit 15 may be used as the VRAM 14 if the access speed of a RAM included in the storage unit 15 described later is sufficiently high.

記憶部15は、ROM、RAM及びフラッシュメモリ等の記憶媒体である。ROMは、制御部16により実行される各種のプログラム(例えば、ブートプログラム、OS及びアプリケーションプログラム)及びパラメータ等のデータを記憶している。RAMは、制御部16がプログラムを実行する際のワーク領域、及び各種のデータの格納領域として使用される。例えば、RAMは、それぞれ異なる記憶領域であるクリップボード151の領域、及び転送バッファ152の領域を含んでいる。クリップボード151には、コピー部162によりコピーされたコンテンツデータが格納される。転送バッファ152には、キャプチャー部165により取得された画面データが格納される。   The storage unit 15 is a storage medium such as a ROM, a RAM, and a flash memory. The ROM stores various programs (for example, a boot program, OS, and application program) executed by the control unit 16 and data such as parameters. The RAM is used as a work area when the control unit 16 executes a program and as a storage area for various data. For example, the RAM includes a clipboard 151 area and a transfer buffer 152 area, which are different storage areas. The clipboard 151 stores content data copied by the copy unit 162. Screen data acquired by the capture unit 165 is stored in the transfer buffer 152.

制御部16は、例えばCPUである。制御部16は、記憶部15に記憶されたプログラムを実行することにより、操作受付部161、コピー部162、レンダリング部163、表示制御部164、キャプチャー部165及び送信部166として機能する。制御部16は、例えば、画面転送アプリケーション以外のWebブラウザアプリケーション等がフォアグラウンド状態で動作している間に、操作受付部161及びコピー部162として動作することにより、ユーザが選択したコンテンツをクリップボード151に格納する。   The control unit 16 is a CPU, for example. The control unit 16 functions as an operation reception unit 161, a copy unit 162, a rendering unit 163, a display control unit 164, a capture unit 165, and a transmission unit 166 by executing a program stored in the storage unit 15. For example, while the web browser application other than the screen transfer application is operating in the foreground state, the control unit 16 operates as the operation reception unit 161 and the copy unit 162, so that the content selected by the user is stored in the clipboard 151. Store.

また、制御部16は、画面転送アプリケーションがフォアグラウンド状態で動作している間に、レンダリング部163、表示制御部164、キャプチャー部165及び送信部166として動作する。制御部16は、ユーザが画面転送を開始する操作をしてから、画面転送を停止する操作をするまでの間、表示部13に表示された画面データのキャプチャー、エンコード、及びプロジェクタへの送信の処理を、画面データが変化したことを検知するたびに繰り返す。   The control unit 16 operates as a rendering unit 163, a display control unit 164, a capture unit 165, and a transmission unit 166 while the screen transfer application is operating in the foreground state. The control unit 16 captures, encodes, and transmits the screen data displayed on the display unit 13 until the user performs an operation for starting the screen transfer until the operation for stopping the screen transfer. The process is repeated each time it is detected that the screen data has changed.

操作受付部161は、操作部11を介してユーザにより入力された操作を受け付ける。操作受付部161は、例えば、表示部13に表示された文字列、URL、写真、ビデオデータ、ビデオファイル及びドキュメントファイル等のコンテンツを選択する操作、並びに選択されたコンテンツをコピーする操作を示すデータを操作部11から取得し、取得したデータに対応する操作内容を特定する。操作受付部161は、特定した操作内容を示す操作指示を制御部16の各部に通知する。例えば、操作受付部161は、コンテンツをコピーする操作を示すデータを取得した場合、コピーする領域を特定するための座標データを含むコピー操作指示をコピー部162に通知する。   The operation reception unit 161 receives an operation input by the user via the operation unit 11. The operation reception unit 161 is, for example, data indicating an operation for selecting content such as a character string, URL, photo, video data, video file, and document file displayed on the display unit 13 and an operation for copying the selected content. Is acquired from the operation unit 11, and the operation content corresponding to the acquired data is specified. The operation reception unit 161 notifies each unit of the control unit 16 of an operation instruction indicating the specified operation content. For example, when acquiring data indicating an operation for copying content, the operation receiving unit 161 notifies the copy unit 162 of a copy operation instruction including coordinate data for specifying a region to be copied.

コピー部162は、操作受付部161と連携して記憶制御手段として動作し、表示部13にコンテンツが表示された状態において、操作受付部161が当該コンテンツをクリップボード151に記憶するための操作を受け付けた場合に、当該コンテンツをクリップボード151に記憶させる。具体的には、コピー部162は、操作受付部161を介して取得した操作内容に基づいて、指定された文字列、URL、写真、ビデオデータ、ビデオファイル及びドキュメントファイル等を含むコンテンツを、クリップボード151に格納する。コピー部162は、記憶部15に、コンテンツをクリップボード151に格納した時刻を記憶させてもよい。   The copy unit 162 operates as a storage control unit in cooperation with the operation accepting unit 161, and accepts an operation for the operation accepting unit 161 to store the content in the clipboard 151 in a state where the content is displayed on the display unit 13. The content is stored in the clipboard 151. Specifically, the copy unit 162 displays content including a specified character string, URL, photo, video data, video file, document file, and the like based on the operation content acquired through the operation reception unit 161 on the clipboard. 151. The copy unit 162 may cause the storage unit 15 to store the time when the content is stored in the clipboard 151.

レンダリング部163は、コンテンツの種別に対応する画像データを生成する画像データ生成手段である。レンダリング部163は、複数種類のレンダリング処理方法を実行することができる。レンダリング部163は、例えば、URLに対応するWebページのHTMLを取得して、取得したHTMLに基づく画像データを生成するWebレンダラ(例えばWebブラウザ)、ドキュメントファイルに基づく画像データを生成するドキュメントレンダラ、及び写真ファイル又はビデオファイルに基づく画像データを生成するマルチメディアレンダラとして動作する。レンダリング部163は、ユーザからの指示に基づいて、又はコンテンツの種別を識別することにより、複数種類のレンダリング処理方法から適切なレンダリング処理方法を選択して、レンダリング処理を実行する。   The rendering unit 163 is an image data generation unit that generates image data corresponding to the type of content. The rendering unit 163 can execute a plurality of types of rendering processing methods. For example, the rendering unit 163 acquires HTML of a Web page corresponding to a URL, generates a Web renderer (for example, a Web browser) that generates image data based on the acquired HTML, a document renderer that generates image data based on a document file, And operate as a multimedia renderer that generates image data based on photo files or video files. The rendering unit 163 executes rendering processing by selecting an appropriate rendering processing method from a plurality of types of rendering processing methods based on an instruction from the user or by identifying a content type.

レンダリング部163は、例えば、ファイル形式の種別、データヘッダ、又はファイルの拡張子を用いることにより、クリップボード151に格納されているコンテンツの種別を識別する。レンダリング部163は、コンテンツが、例えば、RFC1738に規定されているURLの表記型式で記述されたテキストデータである場合に、コンテンツがURLであると判定する。レンダリング部163は、クリップボード151に格納されたコンテンツがURLである場合には、Webレンダラを起動してURLに対応するHTMLデータを取得し、取得したHTMLデータに基づいてWebページの画像データを生成する。   The rendering unit 163 identifies the type of content stored in the clipboard 151 by using, for example, a file format type, a data header, or a file extension. The rendering unit 163 determines that the content is a URL when the content is, for example, text data described in the URL notation format defined in RFC1738. When the content stored in the clipboard 151 is a URL, the rendering unit 163 activates a Web renderer to acquire HTML data corresponding to the URL, and generates Web page image data based on the acquired HTML data. To do.

レンダリング部163は、クリップボード151に格納されたコンテンツがドキュメントファイルである場合には、ドキュメントレンダラを起動してドキュメントファイルの画像データを生成する。レンダリング部163は、クリップボード151に格納されたコンテンツが写真ファイル又はビデオファイルである場合には、マルチメディアレンダラを起動して、写真ファイル又はビデオファイルの画像データを生成する。レンダリング部163は、生成した画像データを記憶部15に記憶させる。   When the content stored in the clipboard 151 is a document file, the rendering unit 163 activates a document renderer and generates image data of the document file. When the content stored in the clipboard 151 is a photo file or a video file, the rendering unit 163 activates a multimedia renderer to generate image data of the photo file or the video file. The rendering unit 163 stores the generated image data in the storage unit 15.

また、レンダリング部163は、通信部12の状態を監視し、プロジェクタ2と通信部12との間での通信リンクが確立していることを検知する。レンダリング部163は、例えば、通信リンクが確立している間に記憶部15の所定の領域(例えばクリップボード151)にコンテンツが記憶されている場合に、画像データを生成する。   The rendering unit 163 monitors the state of the communication unit 12 and detects that a communication link is established between the projector 2 and the communication unit 12. The rendering unit 163 generates image data, for example, when content is stored in a predetermined area (for example, the clipboard 151) of the storage unit 15 while the communication link is established.

レンダリング部163は、クリップボード151にコンテンツが格納されている状態で、プロジェクタ2と通信部12との通信リンクが確立された場合に、クリップボード151内のコンテンツに対するレンダリング処理を実行してもよい。この場合、レンダリング部163は、コンテンツがクリップボード151に格納された時刻を記憶部15から取得し、クリップボード151にコンテンツが記憶されてから所定の時間が経過する前に通信リンクが確立した場合に画像データを生成してもよい。   The rendering unit 163 may perform rendering processing on the content in the clipboard 151 when the communication link between the projector 2 and the communication unit 12 is established in a state where the content is stored in the clipboard 151. In this case, the rendering unit 163 acquires the time when the content is stored in the clipboard 151 from the storage unit 15, and the image is displayed when a communication link is established before a predetermined time elapses after the content is stored in the clipboard 151. Data may be generated.

例えば、上記の所定の時間を30秒とする。この場合、レンダリング部163は、通信接続が確立されてから20秒後にクリップボード151に格納されたコンテンツは、プロジェクタ2に対して転送する対象のコンテンツであると判別する。他方で、例えば、30分前にコピーされたコンテンツがクリップボード151に格納されている場合、レンダリング部163は、このコンテンツが転送対象のコンテンツではないと判別する。このようにすることで、ユーザが転送したいと考えていない画面データがプロジェクタ2に転送されることを防止できる。   For example, the predetermined time is 30 seconds. In this case, the rendering unit 163 determines that the content stored in the clipboard 151 20 seconds after the communication connection is established is the content to be transferred to the projector 2. On the other hand, for example, when content copied 30 minutes ago is stored in the clipboard 151, the rendering unit 163 determines that this content is not the content to be transferred. By doing so, it is possible to prevent screen data that the user does not want to transfer from being transferred to the projector 2.

表示制御部164は、レンダリング部163により生成された画像データの少なくとも一部を含む画面データをVRAM14に格納することにより、画面データを表示部13に表示させる。表示制御部164は、例えば、記憶部15に記憶された画像データのうち、ユーザの操作により指定された領域に対応する画像データを切り出して、切り出した画像データをVRAM14に格納することにより、画面データを表示部13に表示させる。なお、レンダリング部163が、表示制御部164の機能を有していてもよい。   The display control unit 164 causes the display unit 13 to display the screen data by storing the screen data including at least a part of the image data generated by the rendering unit 163 in the VRAM 14. For example, the display control unit 164 cuts out image data corresponding to an area specified by a user operation from the image data stored in the storage unit 15 and stores the cut-out image data in the VRAM 14 to display the screen data. Data is displayed on the display unit 13. Note that the rendering unit 163 may have the function of the display control unit 164.

キャプチャー部165は、VRAM14に格納された画面データを転送バッファ152に格納することによりキャプチャーする。キャプチャー部165は、転送バッファ152に格納された画面データのうち、予め定められた一部の領域の画面データを転送バッファ152に格納してもよい。なお、キャプチャー部165は、所定の間隔で画面データを連続的にキャプチャーしてもよく、ユーザから、画面データをプロジェクタ2に転送する指示を受けた時点で画面データをキャプチャーしてもよい。   The capture unit 165 captures the screen data stored in the VRAM 14 by storing it in the transfer buffer 152. The capture unit 165 may store screen data of a predetermined area in the transfer buffer 152 among the screen data stored in the transfer buffer 152. Note that the capture unit 165 may capture the screen data continuously at a predetermined interval, or may capture the screen data when receiving an instruction from the user to transfer the screen data to the projector 2.

送信部166は、通信部12を介してプロジェクタ2との通信リンクを確立する。送信部166は、通信リンクが確立された状態で、ユーザから、画面データをプロジェクタ2に転送する指示を受けると、転送バッファ152に格納されている画面データをプロジェクタ2に送信する。具体的には、送信部166は、キャプチャー部165によって転送バッファ152に格納された画面データを、例えばJPEG符号化方式を用いてエンコードし、エンコード後の画面データをプロジェクタ2に送信する。   The transmission unit 166 establishes a communication link with the projector 2 via the communication unit 12. When the transmission unit 166 receives an instruction from the user to transfer the screen data to the projector 2 in a state where the communication link is established, the transmission unit 166 transmits the screen data stored in the transfer buffer 152 to the projector 2. Specifically, the transmission unit 166 encodes the screen data stored in the transfer buffer 152 by the capture unit 165 using, for example, the JPEG encoding method, and transmits the encoded screen data to the projector 2.

なお、送信部166が画面データをエンコードする処理の方法は任意であり、例えば、画面データが変化したことを検知した場合に、画面データをエンコードしてもよい。また、送信部166は、ユーザが画面転送を停止する操作を行った場合には、画面データのエンコード処理及びプロジェクタ2への送信処理を停止する。   Note that the processing method of encoding the screen data by the transmission unit 166 is arbitrary. For example, when it is detected that the screen data has changed, the screen data may be encoded. In addition, when the user performs an operation to stop the screen transfer, the transmission unit 166 stops the screen data encoding process and the transmission process to the projector 2.

[プロジェクタ2の構成]
続いて、プロジェクタ2の構成について説明する。
[Configuration of Projector 2]
Next, the configuration of the projector 2 will be described.

図6は、プロジェクタ2の構成を示す図である。プロジェクタ2は、操作部21と、通信部22と、投影部23と、VRAM24と、記憶部25と、制御部26とを有する。制御部26は、操作受付部261、取得部262、デコーダ263及び投影制御部264を有する。   FIG. 6 is a diagram showing the configuration of the projector 2. The projector 2 includes an operation unit 21, a communication unit 22, a projection unit 23, a VRAM 24, a storage unit 25, and a control unit 26. The control unit 26 includes an operation reception unit 261, an acquisition unit 262, a decoder 263, and a projection control unit 264.

操作部21は、例えば、電源ボタン、及びリモコン(不図示)からのユーザ操作を受け付けるリモコン受信部等を含み、ユーザからの入力操作を受け付ける。   The operation unit 21 includes, for example, a power button and a remote control reception unit that receives a user operation from a remote controller (not shown) and receives an input operation from the user.

通信部22は、ユーザ端末1から画面データを受信するための通信インターフェイスである。通信部22は、ユーザによる操作に応じて、ユーザ端末1との通信リンクの確立及び切断を行う。   The communication unit 22 is a communication interface for receiving screen data from the user terminal 1. The communication unit 22 establishes and disconnects a communication link with the user terminal 1 in accordance with a user operation.

投影部23は、液晶パネル、レンズ及び光源を含んで構成される。投影部23は、投影制御部264の制御により、VRAM24から読み出された画面データをスクリーン3に投影する。   The projection unit 23 includes a liquid crystal panel, a lens, and a light source. The projection unit 23 projects the screen data read from the VRAM 24 onto the screen 3 under the control of the projection control unit 264.

VRAM24は、スクリーン3に投影される画面データを記憶する。   The VRAM 24 stores screen data projected on the screen 3.

記憶部25は、ROM、RAM及びフラッシュメモリ等の記憶媒体である。記憶部25は、制御部26により実行されるプログラムを記憶している。   The storage unit 25 is a storage medium such as a ROM, a RAM, and a flash memory. The storage unit 25 stores a program executed by the control unit 26.

制御部26は、例えばCPUである。制御部26は、記憶部25に記憶されたプログラムを実行することにより、操作受付部261、取得部262、デコーダ263及び投影制御部264として機能する。   The control unit 26 is a CPU, for example. The control unit 26 functions as an operation reception unit 261, an acquisition unit 262, a decoder 263, and a projection control unit 264 by executing a program stored in the storage unit 25.

操作受付部261は、操作部21を介してユーザにより入力された操作内容を受け付けて、操作内容を制御部26の各部に通知する。   The operation receiving unit 261 receives the operation content input by the user via the operation unit 21 and notifies the operation content to each unit of the control unit 26.

取得部262は、通信部22がユーザ端末1から受信した画面データを取得し、取得した画面データをデコーダ263に入力する。取得部262は、取得した画面データを記憶部25に格納し、記憶部25を介して、画面データをデコーダ263に入力してもよい。   The acquisition unit 262 acquires the screen data received by the communication unit 22 from the user terminal 1 and inputs the acquired screen data to the decoder 263. The acquisition unit 262 may store the acquired screen data in the storage unit 25 and input the screen data to the decoder 263 via the storage unit 25.

デコーダ263は、取得部262から入力された画面データをデコードする。デコーダ263は、スケーリング処理を実施して、画面データの画像サイズを所望のサイズに変更してもよい。   The decoder 263 decodes the screen data input from the acquisition unit 262. The decoder 263 may change the image size of the screen data to a desired size by performing a scaling process.

投影制御部264は、デコーダ263によりデコードされた画面データをVRAM24に格納する。また、投影制御部264は、投影部23を制御して、VRAM24に格納された画面データをスクリーン3に投影させる。なお、デコーダ263が、投影制御部264の機能を有していてもよい。   The projection control unit 264 stores the screen data decoded by the decoder 263 in the VRAM 24. Further, the projection control unit 264 controls the projection unit 23 to project the screen data stored in the VRAM 24 onto the screen 3. Note that the decoder 263 may have the function of the projection control unit 264.

[ユーザ端末1が画面データをプロジェクタ2に表示させる処理]
続いて、ユーザが画面データをプロジェクタ2に表示させる処理について説明する。
[Process in which user terminal 1 displays screen data on projector 2]
Next, a process in which the user displays screen data on the projector 2 will be described.

図7は、ユーザ端末1においてユーザが指定したコンテンツを表示部13に表示するまでの処理の手順を示すフローチャートである。図8は、表示部13に表示されたコンテンツの画像をプロジェクタ2に転送するまでの処理の手順を示すフローチャートである。図9及び図10は、画面転送アプリケーションがユーザ端末1に表示する画面の例である。以下、図7〜図10を参照して、ユーザ端末1においてユーザが指定したコンテンツをプロジェクタ2に転送するまでの処理について説明する。   FIG. 7 is a flowchart illustrating a processing procedure until the content specified by the user on the user terminal 1 is displayed on the display unit 13. FIG. 8 is a flowchart showing a processing procedure until the content image displayed on the display unit 13 is transferred to the projector 2. 9 and 10 show examples of screens displayed on the user terminal 1 by the screen transfer application. Hereinafter, with reference to FIGS. 7 to 10, a process until the content specified by the user in the user terminal 1 is transferred to the projector 2 will be described.

まず、図7に示すフローチャートに沿って、プロジェクタ2に転送する画面データを表示部13に表示するまでの処理について説明する。   First, the process until the screen data to be transferred to the projector 2 is displayed on the display unit 13 will be described with reference to the flowchart shown in FIG.

制御部16は、ユーザによる画面転送アプリケーションの起動操作に基づいて、画面転送アプリケーションをユーザ端末1におけるフォアグランド状態に遷移させる(S21)。制御部16は、画面転送アプリケーションをフォアグラウンド状態に遷移させると、プロジェクタ2との間の通信リンクが確立しているか否かを判定する(S22)。制御部16は、プロジェクタ2との間の通信リンクが確立している場合(S22におけるYES)、S24に遷移する。   The control unit 16 causes the screen transfer application to transition to the foreground state in the user terminal 1 based on the user's operation for starting the screen transfer application (S21). When the screen transfer application is shifted to the foreground state, the control unit 16 determines whether or not a communication link with the projector 2 is established (S22). If the communication link with the projector 2 is established (YES in S22), the control unit 16 transitions to S24.

制御部16は、通信リンクが確立されていない場合(S22におけるNO)、図9(a)に示すように、画面データを投影させるプロジェクタ2をユーザが選択するためのプロジェクタ選択画面を表示部13に表示させる。ユーザによって、画面データを表示させるプロジェクタ2を選択する操作が行われた場合、制御部16は、ユーザ端末1と選択されたプロジェクタ2との間の通信リンクを確立する(S23)。   When the communication link is not established (NO in S22), the control unit 16 displays a projector selection screen for the user to select the projector 2 that projects the screen data, as shown in FIG. 9A. To display. When the user performs an operation of selecting the projector 2 for displaying the screen data, the control unit 16 establishes a communication link between the user terminal 1 and the selected projector 2 (S23).

続いて、制御部16は、クリップボード151に、所定時間以内に格納されたコンテンツが含まれているか否かを判定する(S24)。制御部16は、クリップボード151に、所定時間以内に格納されたコンテンツが含まれている場合(S24におけるYES)、レンダリング部163において、クリップボード151に格納されたコンテンツに対するレンダリング処理を行い、表示部13に表示する画像データを生成する(S25)。   Subsequently, the control unit 16 determines whether or not the clipboard 151 includes content stored within a predetermined time (S24). When the clipboard 151 includes content stored within a predetermined time (YES in S24), the rendering unit 163 performs rendering processing on the content stored in the clipboard 151, and the display unit 13 The image data to be displayed is generated (S25).

制御部16は、クリップボード151に、所定時間以内に格納されたコンテンツが含まれていない場合(S24におけるNO)、ユーザに、表示部13に表示するコンテンツを選択させる。そして、レンダリング部163において、選択されたコンテンツに対するレンダリング処理を行い、表示部13に表示する画像データを生成する(S26)。なお、第1の画像データ生成処理(S25)、及び第2の画像データ生成処理(S26)の詳細については、図11及び図12を用いて後述する。   When the clipboard 151 does not include content stored within a predetermined time (NO in S24), the control unit 16 causes the user to select content to be displayed on the display unit 13. Then, the rendering unit 163 performs rendering processing on the selected content, and generates image data to be displayed on the display unit 13 (S26). The details of the first image data generation process (S25) and the second image data generation process (S26) will be described later with reference to FIGS.

続いて、制御部16は、画像データをVRAM14に格納し、画像データの少なくとも一部を含む画面データを表示部13に表示させる(S27)。制御部16は、図10(a)及び図10(b)に示すように、コンテンツの種別に応じた画面データを表示部13に表示させる。図10(a)は、制御部16が、ドキュメントレンダラにより生成された画像データを、画面転送アプリケーション内のドキュメントビューワを用いて表示部13に表示させた画面を示す。図10(b)は、制御部16が、Webレンダラにより生成された画像データを、画面転送アプリケーション内のWebブラウザを用いて表示部13に表示させた画面を示す。   Subsequently, the control unit 16 stores the image data in the VRAM 14 and causes the display unit 13 to display screen data including at least a part of the image data (S27). As illustrated in FIGS. 10A and 10B, the control unit 16 causes the display unit 13 to display screen data corresponding to the content type. FIG. 10A shows a screen in which the control unit 16 displays the image data generated by the document renderer on the display unit 13 using the document viewer in the screen transfer application. FIG. 10B shows a screen on which the control unit 16 causes the display unit 13 to display the image data generated by the Web renderer using a Web browser in the screen transfer application.

続いて、図8に示すフローチャートに沿って、画面転送処理の手順について説明する。図8は、ユーザ端末1における画面データがキャプチャーされてから画面転送アプリケーションが終了するまでの流れを示すフローチャートである。   Next, the procedure of the screen transfer process will be described along the flowchart shown in FIG. FIG. 8 is a flowchart showing a flow from when the screen data in the user terminal 1 is captured until the screen transfer application ends.

図7のS27に続いて、制御部16は、VRAM14に格納された画面データをキャプチャーする(S31)。続いて、制御部16は、図10(c)に示すように、画面転送処理の開始/停止をユーザが指示するための操作画像110を表示する。制御部16は、ユーザが、操作画像110にタッチすることにより、画面転送処理の開始の指示を取得した場合(S32におけるYES)、制御部16は、画面データの転送処理を開始し、転送バッファ152に格納された画面データをプロジェクタ2に転送する(S33)。   Following S27 in FIG. 7, the control unit 16 captures the screen data stored in the VRAM 14 (S31). Subsequently, as illustrated in FIG. 10C, the control unit 16 displays an operation image 110 for the user to instruct start / stop of the screen transfer process. When the user touches the operation image 110 to acquire an instruction to start the screen transfer process (YES in S32), the control unit 16 starts the screen data transfer process, and transfers the transfer buffer. The screen data stored in 152 is transferred to the projector 2 (S33).

制御部16は、画面データの転送処理中に、ユーザが、操作画像110にタッチして、画面データの転送を停止する指示をするまで、画面転送処理を繰り返す。制御部16は、画面データの転送処理中に、ユーザが、操作画像110にタッチした場合(S34におけるYES)、制御部16は、画面転送処理を停止し、転送するコンテンツの変更があるか否かを選択可能なダイアログ画面を表示部13に表示する(S35)。   During the screen data transfer process, the control unit 16 repeats the screen transfer process until the user touches the operation image 110 and gives an instruction to stop the screen data transfer. When the user touches the operation image 110 during the screen data transfer process (YES in S34), the control unit 16 stops the screen transfer process and whether there is a change in the content to be transferred. A dialog screen on which can be selected is displayed on the display unit 13 (S35).

制御部16は、プロジェクタ2に対して転送するコンテンツの変更がある場合(S35におけるYES)、図7のS24に遷移し、クリップボード151内に所定時間以内に格納されたコンテンツが含まれるか否かを判定する。ユーザは、この時点で、Webブラウザアプリケーション等の画面転送アプリケーションをフォアグラウンド状態にして、プロジェクタ2に転送させたいコンテンツをクリップボード151にコピーする操作をすることができる。   When there is a change in the content to be transferred to the projector 2 (YES in S35), the control unit 16 transitions to S24 in FIG. 7 and whether or not the content stored in the clipboard 151 within the predetermined time is included. Determine. At this time, the user can perform an operation of copying a content to be transferred to the projector 2 to the clipboard 151 by setting a screen transfer application such as a Web browser application in the foreground state.

制御部16は、プロジェクタ2に転送する対象のコンテンツに変更がない場合(S35においてNO)、プロジェクタ2との間の通信リンクを切断する指示を待ち受ける(S36)。制御部16は、プロジェクタ2との間の通信リンクを切断する指示が入力された場合(S36においてYES)、プロジェクタ2との間の通信リンクを切断し、図7のS23に処理を移す。制御部16は、通信リンクを切断する指示が入力されない場合(S36におけるNO)、S37に遷移して、画面転送アプリケーションを終了させる指示を待ち受ける。例えば、制御部16は、画面転送アプリケーションを終了させるか否かをユーザに選択させるダイアログ画面を表示部13に表示する。   If there is no change in the content to be transferred to projector 2 (NO in S35), control unit 16 waits for an instruction to disconnect the communication link with projector 2 (S36). If an instruction to disconnect the communication link with projector 2 is input (YES in S36), control unit 16 disconnects the communication link with projector 2 and moves the process to S23 in FIG. When the instruction to disconnect the communication link is not input (NO in S36), the control unit 16 transitions to S37 and waits for an instruction to end the screen transfer application. For example, the control unit 16 displays a dialog screen on the display unit 13 that allows the user to select whether or not to terminate the screen transfer application.

ここで、画面転送アプリケーションを終了する指示が入力されない場合(S37におけるNO)、制御部16は、S32に処理を移す。ユーザによって画面転送アプリケーションの終了が選択された場合(S37におけるYES)、制御部16は、画面転送アプリケーションを終了し、画面転送アプリケーションを未起動状態に遷移させる。   Here, when the instruction to end the screen transfer application is not input (NO in S37), the control unit 16 moves the process to S32. When the end of the screen transfer application is selected by the user (YES in S37), the control unit 16 ends the screen transfer application and transitions the screen transfer application to the unstarted state.

続いて、図11を参照して、図7における第1の画像生成処理(S25)の詳細について説明する。図11は、第1の画像生成処理(S25)の手順を示すフローチャートである。   Next, details of the first image generation process (S25) in FIG. 7 will be described with reference to FIG. FIG. 11 is a flowchart showing the procedure of the first image generation process (S25).

まず、レンダリング部163は、コンテンツの種別を判定する(S25−1)。レンダリング部163は、コンテンツのデータヘッダ又は拡張子に基づいて、コンテンツが、テキスト情報を含むドキュメントファイルであると判定した場合、ドキュメントレンダラを起動する(S25−2)。レンダリング部163は、コンテンツがURLであると判定した場合、Webレンダラを起動する(S25−3)。   First, the rendering unit 163 determines the type of content (S25-1). If the rendering unit 163 determines that the content is a document file including text information based on the data header or extension of the content, the rendering unit 163 activates a document renderer (S25-2). If the rendering unit 163 determines that the content is a URL, the rendering unit 163 activates a Web renderer (S25-3).

レンダリング部163は、コンテンツのデータヘッダ又は拡張子に基づいて、コンテンツが、写真及び動画等のマルチメディアデータであると判定した場合、マルチメディアレンダラを起動する(S25−4)。レンダリング部163は、起動した各レンダラを用いて、画像データを生成する(S25−5)。レンダリング部163は、生成した画像データをVRAM14に格納する(S25−6)。このようにして、所定の時間内にクリップボードにコピーしたコンテンツであれば、特にユーザがレンダラを選択しなくとも、自動的に適切なレンダラが選択され、コンテンツがプロジェクタ2に転送される。もちろん、自動的にレンダラが選択された後、ユーザの確認を促すガイダンスなどを表示することも可能である。   When the rendering unit 163 determines that the content is multimedia data such as a photo and a moving image based on the data header or extension of the content, the rendering unit 163 activates the multimedia renderer (S25-4). The rendering unit 163 generates image data using each activated renderer (S25-5). The rendering unit 163 stores the generated image data in the VRAM 14 (S25-6). In this way, if the content is copied to the clipboard within a predetermined time, an appropriate renderer is automatically selected and the content is transferred to the projector 2 even if the user does not select a renderer. Of course, after the renderer is automatically selected, it is also possible to display a guidance for prompting the user to confirm.

なお、制御部16は、所定時間以内に格納された複数のコンテンツがクリップボード151に含まれている場合、S25−1におけるコンテンツの種別を判定する処理の代わりに、図9(b)に示すように、クリップボード内の複数のコンテンツから、プロジェクタ2に転送するコンテンツを選択するための画面を表示部13に表示させてもよい。この場合、レンダリング部163は、コンテンツを選択する指示に応じて選択したコンテンツに基づく画像データを生成する。また、制御部16は、所定時間以内に格納された複数のコンテンツがクリップボード151に含まれている場合、コンテンツを選択する指示を受け付けるための画面を表示部13に表示させる代わりに、クリップボード151に格納された複数のコンテンツのうち、格納された日時が最も新しいコンテンツを選択してもよい。   Note that when the plurality of contents stored within a predetermined time are included in the clipboard 151, the control unit 16 as shown in FIG. 9B instead of the process of determining the content type in S25-1. In addition, a screen for selecting a content to be transferred to the projector 2 from a plurality of contents in the clipboard may be displayed on the display unit 13. In this case, the rendering unit 163 generates image data based on the selected content in response to an instruction for selecting the content. In addition, when a plurality of contents stored within a predetermined time are included in the clipboard 151, the control unit 16 causes the clipboard 151 to display a screen for accepting an instruction to select the content on the display unit 13. Of the plurality of stored contents, the latest content stored may be selected.

続いて、図12を参照して、図7における第2の画像生成処理(S26)の詳細について説明する。図11は、第2の画像生成処理(S26)の手順を示すフローチャートである。   Next, details of the second image generation process (S26) in FIG. 7 will be described with reference to FIG. FIG. 11 is a flowchart showing the procedure of the second image generation process (S26).

まず、表示制御部164は、プロジェクタ2に転送するコンテンツを選択する指示を受け付けるための画面を表示部13に表示させる。表示部13には、例えば、図9(c)に示すような操作画面が表示される(S26−1)。ユーザが、図9(c)に示す操作画面における「ドキュメント」を選択した場合、レンダリング部163は、ドキュメントレンダラを起動する(S26−2)。ユーザが、図9(c)に示す操作画面における「Web」を選択した場合、レンダリング部163は、Webレンダラを起動する(S26−2)。ユーザが、図9(c)に示す操作画面における「写真/ビデオ」を選択した場合、レンダリング部163は、マルチメディアレンダラを起動する(S26−2)。   First, the display control unit 164 causes the display unit 13 to display a screen for receiving an instruction to select content to be transferred to the projector 2. For example, an operation screen as shown in FIG. 9C is displayed on the display unit 13 (S26-1). When the user selects “document” on the operation screen shown in FIG. 9C, the rendering unit 163 activates the document renderer (S26-2). When the user selects “Web” on the operation screen illustrated in FIG. 9C, the rendering unit 163 activates the Web renderer (S26-2). When the user selects “Photo / Video” on the operation screen shown in FIG. 9C, the rendering unit 163 activates the multimedia renderer (S26-2).

レンダリング部163は、起動した各レンダラを用いて、画像データを生成する(S26−5)。レンダリング部163は、生成した画像データをVRAM14に格納する(S26−6)。このようにして、ユーザは、所望のコンテンツを選択してプロジェクタ2に転送することができる。   The rendering unit 163 generates image data using each activated renderer (S26-5). The rendering unit 163 stores the generated image data in the VRAM 14 (S26-6). In this way, the user can select desired content and transfer it to the projector 2.

[本実施形態における効果]
以上説明したように、本実施形態に係る画面データ転送システムSにおいては、ユーザ端末1における画面転送アプリケーションが、クリップボード151に格納されたコンテンツに基づいて画像データを生成し、画像データの少なくとも一部の画面データをキャプチャーしてプロジェクタ2に転送する。このようにすることで、ユーザ端末1は、バックグラウンド状態のアプリケーションが画面をキャプチャーできないという制限がある場合であっても、画面転送機能を有しない、使い慣れたWebブラウザ等のレンダラを用いてユーザが表示させた画面データを、容易にプロジェクタ2に転送することが可能になる。
[Effect in this embodiment]
As described above, in the screen data transfer system S according to the present embodiment, the screen transfer application in the user terminal 1 generates image data based on the content stored in the clipboard 151, and at least a part of the image data. Is captured and transferred to the projector 2. By doing in this way, even if there is a restriction that the application in the background state cannot capture the screen, the user terminal 1 uses the renderer such as a familiar web browser that does not have a screen transfer function. The screen data displayed by can be easily transferred to the projector 2.

以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されず、その要旨の範囲内で種々の変形及び変更が可能である。例えば、上記の実施形態において、ユーザ端末1とプロジェクタ2との間が無線通信回線Nにより接続されているものとしたが、ユーザ端末1とプロジェクタ2との間は、有線の通信回線により接続されてもよい。また、上記の実施形態において、表示制御装置がプロジェクタ2である場合について説明したが、表示制御装置は液晶パネル等を有するディスプレイであってもよい。   As mentioned above, although this invention was demonstrated using embodiment, the technical scope of this invention is not limited to the range as described in the said embodiment, A various deformation | transformation and change are possible within the range of the summary. is there. For example, in the above embodiment, the user terminal 1 and the projector 2 are connected by the wireless communication line N. However, the user terminal 1 and the projector 2 are connected by a wired communication line. May be. In the above embodiment, the case where the display control device is the projector 2 has been described. However, the display control device may be a display having a liquid crystal panel or the like.

1 ユーザ端末
2 プロジェクタ
15 記憶部
163 レンダリング部
164 表示制御部
165 キャプチャー部
166 送信部
DESCRIPTION OF SYMBOLS 1 User terminal 2 Projector 15 Memory | storage part 163 Rendering part 164 Display control part 165 Capture part 166 Transmission part

上記の課題を解決するために、本発明に係る電子機器は、画面転送アプリケーションを実行することにより、表示手段に表示されている画面データをキャプチャーして表示制御装置へ転送できる電子機器であって、コンテンツを記憶する記憶手段と、前記記憶手段に記憶されている前記コンテンツに基づいて画像データを生成する画像データ生成手段と、前記画像データの少なくとも一部を含む前記画面データを前記表示手段に表示させる表示制御手段と、を有し、前記画像データ生成手段は、前記コンテンツが前記記憶手段に記憶されている状態で、ユーザーが前記画面転送アプリケーションを起動又は再起動すると、前記画像データを生成することを特徴とする。 In order to solve the above problems, an electronic device according to the present invention is an electronic device that can capture screen data displayed on a display unit and transfer it to a display control device by executing a screen transfer application. Storage means for storing content, image data generation means for generating image data based on the content stored in the storage means, and the screen data including at least a part of the image data in the display means Display control means for displaying, and the image data generation means generates the image data when a user starts or restarts the screen transfer application in a state where the content is stored in the storage means. It is characterized by doing.

Claims (15)

表示制御装置に表示させる対象のコンテンツを記憶する記憶手段と、
前記記憶手段の所定の領域に前記コンテンツが記憶されている場合に、当該コンテンツに基づく画像データを生成する画像データ生成手段と、
前記画像データ生成手段が生成した前記画像データの少なくとも一部を含む画面データを表示手段に表示させる表示制御手段と、
前記画面データをキャプチャーするキャプチャー手段と、
前記キャプチャー手段がキャプチャーした前記画面データを前記表示制御装置に送信する送信手段と、
を有することを特徴とする電子機器。
Storage means for storing content to be displayed on the display control device;
Image data generating means for generating image data based on the content when the content is stored in a predetermined area of the storage means;
Display control means for causing the display means to display screen data including at least a part of the image data generated by the image data generation means;
Capture means for capturing the screen data;
Transmitting means for transmitting the screen data captured by the capture means to the display control device;
An electronic device comprising:
前記画像データ生成手段は、前記記憶手段の所定の領域に前記コンテンツが記憶されている状態で、前記送信手段と前記表示制御装置との間で通信リンクが確立すると、前記画像データを生成することを特徴とする、
請求項1に記載の電子機器。
The image data generation unit generates the image data when a communication link is established between the transmission unit and the display control device in a state where the content is stored in a predetermined area of the storage unit. Characterized by the
The electronic device according to claim 1.
前記画像データ生成手段は、前記記憶手段に前記コンテンツが記憶されてから所定の時間が経過する前に前記通信リンクが確立した場合に、前記画像データを生成することを特徴とする、
請求項2に記載の電子機器。
The image data generation means generates the image data when the communication link is established before a predetermined time has elapsed since the content is stored in the storage means.
The electronic device according to claim 2.
前記画像データ生成手段は、前記送信手段と前記表示制御装置との間で通信リンクが確立している間に前記記憶手段の前記所定の領域に前記コンテンツが記憶されている場合に、前記画像データを生成することを特徴とする、
請求項1から3のいずれか1項に記載の電子機器。
The image data generation means is configured to store the image data when the content is stored in the predetermined area of the storage means while a communication link is established between the transmission means and the display control device. Is characterized by generating
The electronic device of any one of Claim 1 to 3.
前記画像データ生成手段は、互いに異なる複数の前記コンテンツが前記記憶手段の前記所定の領域に記憶されている場合に、コンテンツを選択する指示に基づいて選択した一の前記コンテンツに基づく前記画像データを生成することを特徴とする、
請求項1から4のいずれか1項に記載の電子機器。
The image data generation means, when a plurality of different contents are stored in the predetermined area of the storage means, the image data based on the one content selected based on an instruction to select content Characterized by generating,
The electronic device of any one of Claim 1 to 4.
前記画像データ生成手段は、前記コンテンツの種別に対応するレンダリング手段を用いて前記画像データを生成することを特徴とする、
請求項1から5のいずれか1項に記載の電子機器。
The image data generation means generates the image data using a rendering means corresponding to the content type,
The electronic device according to claim 1.
前記送信手段は、前記キャプチャー手段がキャプチャーした前記画面データを送信する指示を受けたことに応じて、前記画面データを前記表示制御装置に送信することを特徴とする、
請求項1から6のいずれか1項に記載の電子機器。
The transmission means transmits the screen data to the display control device in response to receiving an instruction to transmit the screen data captured by the capture means.
The electronic apparatus of any one of Claim 1 to 6.
前記表示手段に前記コンテンツが表示された状態において、当該コンテンツを前記記憶手段に記憶するための操作を受け付けた場合に、当該コンテンツを前記記憶手段の前記所定の領域に記憶させる記憶制御手段をさらに有することを特徴とする、
請求項1から7のいずれか1項に記載の電子機器。
Storage control means for storing the content in the predetermined area of the storage means when an operation for storing the content in the storage means is received in a state where the content is displayed on the display means. Characterized by having,
The electronic device of any one of Claim 1 to 7.
コンピュータを、請求項1から8のいずれか1項に記載の電子機器の各手段として機能させることを特徴とする、前記コンピュータが実行可能なプログラム。   A computer-executable program for causing a computer to function as each unit of the electronic device according to any one of claims 1 to 8. 電子機器から表示制御装置に画面データを送信する画面データ転送方法であって、
前記電子機器において実行される、
前記表示制御装置に表示させる対象のコンテンツを、前記電子機器の記憶手段の所定の領域に記憶させるステップと、
前記記憶手段の所定の領域に前記コンテンツが記憶されている場合に、当該コンテンツに基づく画像データを生成するステップと、
前記画像データの少なくとも一部を含む画面データを表示手段に表示させるステップと、
前記画面データが前記表示手段に表示された後に、前記画面データをキャプチャーするステップと、
キャプチャーした前記画面データを前記表示制御装置に送信するステップと、
を有することを特徴とする画面データ転送方法。
A screen data transfer method for transmitting screen data from an electronic device to a display control device,
Executed in the electronic device,
Storing content to be displayed on the display control device in a predetermined area of a storage unit of the electronic device;
When the content is stored in a predetermined area of the storage means, generating image data based on the content;
Displaying screen data including at least a part of the image data on a display means;
Capturing the screen data after the screen data is displayed on the display means;
Transmitting the captured screen data to the display control device;
A screen data transfer method characterized by comprising:
前記電子機器と前記表示制御装置との間で通信リンクを確立するステップをさらに有し、
前記画像データを生成するステップにおいて、前記記憶手段の所定の領域に前記コンテンツが記憶されている状態で、前記通信リンクを確立するステップが実行されたことを条件として、前記画像データを生成することを特徴とする、
請求項10に記載の画面データ転送方法。
Further comprising establishing a communication link between the electronic device and the display control device;
In the step of generating the image data, the image data is generated on the condition that the step of establishing the communication link is executed in a state where the content is stored in a predetermined area of the storage unit. Characterized by the
The screen data transfer method according to claim 10.
前記記憶させるステップにおいて、前記コンテンツを前記記憶手段の前記所定の領域に記憶させた時刻を前記記憶手段に記憶させ、
前記画像データを生成するステップにおいて、前記記憶手段に記憶された前記時刻から所定の時間が経過する前に前記通信リンクが確立した場合に、前記画像データを生成することを特徴とする、
請求項11に記載の画面データ転送方法。
In the storing step, the time when the content is stored in the predetermined area of the storage unit is stored in the storage unit,
In the step of generating the image data, the image data is generated when the communication link is established before a predetermined time elapses from the time stored in the storage unit.
The screen data transfer method according to claim 11.
前記記憶手段の前記所定の領域に記憶されている複数の前記コンテンツから一のコンテンツを選択するための選択画面を表示するステップをさらに有し、
前記画像データを生成するステップにおいて、前記選択画面において選択された前記一のコンテンツに基づく前記画像データを生成することを特徴とする、
請求項10から12のいずれか1項に記載の画面データ転送方法。
A step of displaying a selection screen for selecting one content from the plurality of contents stored in the predetermined area of the storage means;
In the step of generating the image data, the image data based on the one content selected on the selection screen is generated.
The screen data transfer method according to any one of claims 10 to 12.
前記画像データを生成するステップは、
前記記憶手段の前記所定の領域に記憶された前記コンテンツの種別を識別するステップと、
複数のレンダリング手段から識別した前記コンテンツの種別に対応するレンダリング手段を選択するステップと、
選択した前記レンダリング手段を用いて前記画像データを生成するステップと、
を有することを特徴とする、
請求項10から13のいずれか1項に記載の画面データ転送方法。
The step of generating the image data includes:
Identifying the type of the content stored in the predetermined area of the storage means;
Selecting a rendering means corresponding to the type of content identified from a plurality of rendering means;
Generating the image data using the selected rendering means;
It is characterized by having
The screen data transfer method according to claim 10.
前記表示させるステップの後に、表示された前記画面データを前記表示制御装置に送信するか否かの指示を入力する画面を前記表示手段に表示させるステップをさらに有し、
前記送信するステップにおいて、前記画面データを送信する指示を受けたことに応じて、前記画面データを前記表示制御装置に送信することを特徴とする、
請求項10から14のいずれか1項に記載の画面データ転送方法。
After the step of displaying, the display unit further includes a step of displaying a screen for inputting an instruction as to whether or not to transmit the displayed screen data to the display control device,
In the transmitting step, the screen data is transmitted to the display control device in response to receiving an instruction to transmit the screen data.
The screen data transfer method according to any one of claims 10 to 14.
JP2018110455A 2018-06-08 2018-06-08 Electronic apparatus and screen data transfer method Pending JP2018163685A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018110455A JP2018163685A (en) 2018-06-08 2018-06-08 Electronic apparatus and screen data transfer method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018110455A JP2018163685A (en) 2018-06-08 2018-06-08 Electronic apparatus and screen data transfer method

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2015181105A Division JP6377032B2 (en) 2015-09-14 2015-09-14 Electronic device and screen data transfer method

Publications (1)

Publication Number Publication Date
JP2018163685A true JP2018163685A (en) 2018-10-18

Family

ID=63860255

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018110455A Pending JP2018163685A (en) 2018-06-08 2018-06-08 Electronic apparatus and screen data transfer method

Country Status (1)

Country Link
JP (1) JP2018163685A (en)

Similar Documents

Publication Publication Date Title
US11019229B2 (en) Information processing apparatus that determines whether a format of near field communication tag data is appropriate, method of controlling the same, and non-transitory computer-readable medium
JP6386809B2 (en) Information processing apparatus, control method thereof, system, and program
JP6624792B2 (en) Information processing apparatus, information processing apparatus control method, and program
US10979964B2 (en) Communication apparatus, control method of communication apparatus, and storage medium
JP2011114583A (en) Imaging apparatus, control method thereof, and program
JP6465767B2 (en) Display control program, display control device, and display control device control method
WO2014036974A1 (en) Terminal device, and method and system for display in one screen
US20220166685A1 (en) Communication apparatus and control method for the same
US9667831B2 (en) Information processing apparatus, printing method, and non-transitory computer-readable recording medium for generating print data corresponding to a display image
JP6204821B2 (en) Image forming apparatus, control method thereof, and program
JP6143004B2 (en) Wireless communication system
JP2016213676A (en) Communication apparatus, control method of the same, and program
US20160295567A1 (en) Communication device and setting device
JP2018129747A (en) Remote control device, controlled device, remote control system, remote control method, controlled method, and program
JP6137076B2 (en) TERMINAL DEVICE, TERMINAL DEVICE CONTROL METHOD, AND TERMINAL DEVICE CONTROL PROGRAM
JP2015088937A5 (en)
JP2022059004A (en) Communication device, control method, and program
US9392063B2 (en) Information processing apparatus that controls transfer of image, control method therefor, and storage medium
JP6377032B2 (en) Electronic device and screen data transfer method
JP2018163685A (en) Electronic apparatus and screen data transfer method
JP6448439B2 (en) Electronic device and control method thereof
JP6128838B2 (en) Information processing apparatus, control method thereof, and program
JP6481531B2 (en) Image forming apparatus, terminal apparatus, error screen providing method, and computer program
JP2015046154A (en) Communication device, communication system, and program
JP2022012999A (en) Control device, control system, control method, and program

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180615

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180615

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190328

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190416

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20191023