JP2013168072A - Support device, support program and support method - Google Patents

Support device, support program and support method Download PDF

Info

Publication number
JP2013168072A
JP2013168072A JP2012031863A JP2012031863A JP2013168072A JP 2013168072 A JP2013168072 A JP 2013168072A JP 2012031863 A JP2012031863 A JP 2012031863A JP 2012031863 A JP2012031863 A JP 2012031863A JP 2013168072 A JP2013168072 A JP 2013168072A
Authority
JP
Japan
Prior art keywords
target device
operation signal
mouse
control information
analysis unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2012031863A
Other languages
Japanese (ja)
Inventor
Yasumasa Ichinohe
保真 一戸
Takeshi Ezaki
武史 江崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu FSAS Inc
Original Assignee
Fujitsu FSAS Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu FSAS Inc filed Critical Fujitsu FSAS Inc
Priority to JP2012031863A priority Critical patent/JP2013168072A/en
Publication of JP2013168072A publication Critical patent/JP2013168072A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Stored Programmes (AREA)

Abstract

PROBLEM TO BE SOLVED: To execute setting operations of an object device using a mouse.SOLUTION: A support device 100 includes an analysis unit 171 and an execution unit 172 . The analysis unit 171 analyzes control information in which a series of mouse operations for executing setting operations of an object PC is described in advance, and generates pseudo operation signals for performing mouse operations of the object PC on the basis of the analysis results. An execution unit 172 transmits operation signals generated by the analysis unit 171 to the object device so as to execute the mouse operations of the object PC.

Description

本発明は、支援装置等に関する。   The present invention relates to a support device and the like.

従来、PC(Personal Computer)を顧客に出荷する場合に、PCの環境を顧客の要望に応じてカスタムする設定作業が行われる。係る設定作業は、作業員によって手作業で行われる。例えば、作業員は、PCの電源ボタンを押下してPCが起動した後に、キーボードを操作して、パスワードを入力し、PCにログインする。そして、作業員は、キーボードおよびマウスを操作して、PC画面に表示される各項目に情報を入力し、設定作業を行う。   Conventionally, when a PC (Personal Computer) is shipped to a customer, a setting operation for customizing the PC environment according to the customer's request is performed. Such setting work is manually performed by an operator. For example, the worker presses the power button of the PC and starts up the PC, and then operates the keyboard to input the password and logs in to the PC. Then, the worker operates the keyboard and mouse to input information to each item displayed on the PC screen, and performs setting work.

ここで、設定作業の対象となるPCの数が多い場合には、作業員に係る負担が大きいものとなる。このため、PCに対する設定作業の一部を自動化するための各種の従来技術が存在する。   Here, when the number of PCs to be set is large, the burden on the worker becomes large. For this reason, there exist various conventional techniques for automating a part of setting work for the PC.

例えば、従来技術1では、PCの画面を撮影し、ログオン画面を認識した場合に、PCにログインするためのキーを送信する技術が開示されている。また、従来技術2では、設定対象となるPC自体に、アプリケーションの自動設定を行うスクリプトを組み込んでおくという技術が開示されている。なお、従来技術3では、サーバの画面データをクライアントに表示させ、サーバの設定をクライアントから遠隔操作可能とする技術も存在する。   For example, the prior art 1 discloses a technique for capturing a PC screen and transmitting a key for logging in to the PC when the logon screen is recognized. Conventional technology 2 discloses a technology in which a script for automatically setting an application is incorporated in a PC to be set. In the prior art 3, there is a technique in which the server screen data is displayed on the client, and the server setting can be remotely operated from the client.

特開2003−316577号公報Japanese Patent Laid-Open No. 2003-316577 特開平11−143613号公報Japanese Patent Laid-Open No. 11-143613 特開2010−20757号公報JP 2010-20757 A

しかしながら、上述した従来技術では、PCに対するマウスを用いた設定作業を実行することができないという問題があった。   However, the above-described prior art has a problem that it is not possible to execute a setting operation using a mouse for a PC.

例えば、上記の従来技術1では、PCにログインするためのキーを送信しているに過ぎず、ログイン操作に関する作業者の負荷を軽減できるものの、その他の設定作業を実行するものではない。また、上記の従来技術2では、スクリプトをPCに組み込む作業が前提となっており、結局のところ、作業者自身が設定作業を行うことになる。   For example, in the above-described prior art 1, only the key for logging in to the PC is transmitted, and the load on the operator regarding the login operation can be reduced, but other setting work is not executed. Further, in the above-described prior art 2, it is assumed that the script is incorporated into the PC, and after all, the operator himself performs the setting operation.

開示の技術は、上記に鑑みてなされたものであって、対象装置に対するマウスを用いた設定作業を実行することができる支援装置、支援プログラムおよび支援方法を提供することを目的とする。   The disclosed technology has been made in view of the above, and an object thereof is to provide a support device, a support program, and a support method capable of executing a setting operation using a mouse for a target device.

開示の支援装置は、解析部と実行部とを有する。解析部は、対象装置の設定作業を実行する一連のマウス操作を予め記述した制御情報を解析し、解析結果に基づいて、対象装置に対するマウス操作を行うための擬似的な操作信号を生成する。実行部は、解析部が生成した操作信号を対象装置に送信することで、対象装置に対するマウス操作を実行する。   The disclosed support apparatus includes an analysis unit and an execution unit. The analysis unit analyzes control information in which a series of mouse operations for executing the setting operation of the target device is described in advance, and generates a pseudo operation signal for performing the mouse operation on the target device based on the analysis result. The execution unit executes a mouse operation on the target device by transmitting the operation signal generated by the analysis unit to the target device.

開示の支援装置によれば、対象装置に対するマウスを用いた設定作業を実行することができるという効果を奏する。   According to the disclosed support device, there is an effect that the setting operation using the mouse for the target device can be executed.

図1は、本実施例に係るシステムの構成を示す図である。FIG. 1 is a diagram illustrating a configuration of a system according to the present embodiment. 図2は、管理テーブルのデータ構造の一例を示す図である。FIG. 2 is a diagram illustrating an example of the data structure of the management table. 図3は、本実施例に係る支援装置の構成を示す機能ブロック図である。FIG. 3 is a functional block diagram illustrating the configuration of the support device according to the present embodiment. 図4は、制御スクリプトのデータ構造の一例を示す図である。FIG. 4 is a diagram illustrating an example of the data structure of the control script. 図5は、表示画面の一例を示す図である。FIG. 5 is a diagram illustrating an example of a display screen. 図6は、一致度を算出する過程を補足説明するための図(1)である。FIG. 6 is a diagram (1) for supplementarily explaining the process of calculating the degree of coincidence. 図7は、一致度を算出する過程を補足説明するための図(2)である。FIG. 7 is a diagram (2) for supplementarily explaining the process of calculating the degree of coincidence. 図8は、一致度を算出する過程を補足説明するための図(3)である。FIG. 8 is a diagram (3) for supplementarily explaining the process of calculating the degree of coincidence. 図9は、一致度を算出する過程を補足説明するための図(4)である。FIG. 9 is a diagram (4) for supplementarily explaining the process of calculating the degree of coincidence. 図10は、本実施例に係る支援装置の処理手順を示すフローチャートである。FIG. 10 is a flowchart illustrating the processing procedure of the support device according to the present embodiment. 図11は、スクリプト解析処理の処理手順を示すフローチャート(1)である。FIG. 11 is a flowchart (1) showing the processing procedure of the script analysis processing. 図12は、スクリプト解析処理の処理手順を示すフローチャート(2)である。FIG. 12 is a flowchart (2) illustrating the processing procedure of the script analysis processing. 図13は、キー入力送信処理の処理手順を示すフローチャートである。FIG. 13 is a flowchart showing a processing procedure of key input transmission processing. 図14は、マウスクリック送信処理の処理手順を示すフローチャートである。FIG. 14 is a flowchart showing the processing procedure of the mouse click transmission processing. 図15は、一致度算出処理の処理手順を示すフローチャートである。FIG. 15 is a flowchart illustrating a processing procedure of the matching degree calculation processing.

以下に、本願の開示する支援装置、支援プログラムおよび支援方法の実施例を図面に基づいて詳細に説明する。なお、この実施例によりこの発明が限定されるものではない。   Embodiments of a support device, a support program, and a support method disclosed in the present application will be described below in detail with reference to the drawings. Note that the present invention is not limited to the embodiments.

本実施例に係るシステムの構成について説明する。図1は、本実施例に係るシステムの構成を示す図である。図1に示すように、このシステムは、対象PC(Personal Computer)10a、管理サーバ50、支援装置100を有する。例えば、支援装置100は、USB(Universal Serial Bus)等により、対象PC10aに接続される。支援装置100は、LAN(local Area Network)等により、管理サーバ50に接続される。また、管理サーバ50は、DB(Data Base)50aに接続される。   The configuration of the system according to the present embodiment will be described. FIG. 1 is a diagram illustrating a configuration of a system according to the present embodiment. As shown in FIG. 1, this system includes a target PC (Personal Computer) 10 a, a management server 50, and a support device 100. For example, the support apparatus 100 is connected to the target PC 10a via a USB (Universal Serial Bus) or the like. The support device 100 is connected to the management server 50 via a LAN (local area network) or the like. The management server 50 is connected to a DB (Data Base) 50a.

対象PC10aは、環境の設定対象となるPCである。対象PC10aは、USBポートを複数有し、作業者は、かかるUSBポートにマウスやキーボードなどを接続し、対象PC10aを操作することが可能である。例えば、対象PC10aは、USBポートを介して、支援装置100に接続される。   The target PC 10a is a PC that is an environment setting target. The target PC 10a has a plurality of USB ports, and an operator can operate the target PC 10a by connecting a mouse or a keyboard to the USB port. For example, the target PC 10a is connected to the support apparatus 100 via a USB port.

対象PC10aには、バーコード20が添付されている。例えば、バーコード20は、バーコードリーダ等によりコードに変換される。変換後のコードには、対象PC10aを一意に識別する識別情報が含まれる。   A barcode 20 is attached to the target PC 10a. For example, the barcode 20 is converted into a code by a barcode reader or the like. The converted code includes identification information for uniquely identifying the target PC 10a.

管理サーバ50は、支援装置100からの要求に応じて、DB50aに格納されたデータを、支援装置100に送信する。DB50aは、例えば、管理テーブルを記憶する。図2は、管理テーブルのデータ構造の一例を示す図である。図2に示すように、管理テーブルは、識別情報、制御スクリプト、比較元画像データの属性を有する。   The management server 50 transmits the data stored in the DB 50 a to the support device 100 in response to a request from the support device 100. For example, the DB 50a stores a management table. FIG. 2 is a diagram illustrating an example of the data structure of the management table. As shown in FIG. 2, the management table has attributes of identification information, control script, and comparison source image data.

識別情報は、対象PCを一意に識別する情報である。本実施例では一例として、対象PC10aの識別情報を「PC10a」とする。制御スクリプトは、対象PCの環境の設定作業を実行する一連の操作を記述した情報である。制御スクリプトに関する具体的な説明は後述する。比較元画像データは、支援装置100が対象PCの設定作業を実行する際に、対象PCの表示画面が適切な画面であるか否かを判定するために利用する画像データである。   The identification information is information that uniquely identifies the target PC. In this embodiment, as an example, the identification information of the target PC 10a is “PC10a”. The control script is information describing a series of operations for executing an environment setting operation of the target PC. Specific description regarding the control script will be described later. The comparison source image data is image data used to determine whether or not the display screen of the target PC is an appropriate screen when the support apparatus 100 performs the setting operation of the target PC.

例えば、管理サーバ50は、支援装置100から、識別情報「PC10a」を受信した場合には、管理テーブルを参照し、識別情報「PC10a」に対応する制御スクリプトと、比較元画像データを、支援装置100に送信する。   For example, when the management server 50 receives the identification information “PC10a” from the support apparatus 100, the management server 50 refers to the management table, and sends the control script corresponding to the identification information “PC10a” and the comparison source image data to the support apparatus. To 100.

支援装置100は、対象PC10aの環境設定を行う装置である。支援装置100の構成の一例について説明する。図3は、本実施例に係る支援装置の構成を示す機能ブロック図である。図3に示すように、支援装置100は、入力部110、表示部120、カメラ130、USB送受信部140、LAN送受信部150、記憶部160、制御部170を有する。   The support device 100 is a device that sets the environment of the target PC 10a. An example of the configuration of the support device 100 will be described. FIG. 3 is a functional block diagram illustrating the configuration of the support device according to the present embodiment. As illustrated in FIG. 3, the support apparatus 100 includes an input unit 110, a display unit 120, a camera 130, a USB transmission / reception unit 140, a LAN transmission / reception unit 150, a storage unit 160, and a control unit 170.

入力部110は、支援装置100に各腫の情報を入力する入力装置である。例えば、入力部110は、タッチパネルや入力キー等に対応する。表示部120は、制御部170から出力される各腫の情報を表示する表示装置である。例えば、表示装置は、ディスプレイやタッチパネル等に対応する。   The input unit 110 is an input device that inputs information on each tumor to the support device 100. For example, the input unit 110 corresponds to a touch panel, an input key, or the like. The display unit 120 is a display device that displays information on each tumor output from the control unit 170. For example, the display device corresponds to a display, a touch panel, or the like.

カメラ130は、制御部170からの指示に応じて、画像を撮影する撮像装置である。かかるカメラ130は、バーコードリーダの機能も有する。カメラ130は、画像撮影命令またはバーコード撮影命令を制御部170から受け付ける。   The camera 130 is an imaging device that captures an image in response to an instruction from the control unit 170. The camera 130 also has a barcode reader function. The camera 130 receives an image shooting command or a barcode shooting command from the control unit 170.

カメラ130が画像撮影命令を受け付けた場合の処理を説明する。カメラ130は、対象PC10aの表示画面の画像を撮影し、撮影した表示画面の画像データを、制御部170に出力する。以下の説明において、対象PC10aの表示画面の画像データを、比較先画像データと表記する。   Processing when the camera 130 receives an image shooting command will be described. The camera 130 captures an image of the display screen of the target PC 10 a and outputs image data of the captured display screen to the control unit 170. In the following description, the image data on the display screen of the target PC 10a is referred to as comparison destination image data.

カメラ130がバーコード撮影命令を受け付けた場合の処理を説明する。カメラ130は、対象PC10aのバーコード20の画像を撮影し、撮影したバーコードをコードに変換する。変換されたコードは、対象PC10aを識別する識別情報となる。カメラ130は、対象PC10aの識別情報を、制御部170に出力する。   Processing when the camera 130 receives a barcode shooting command will be described. The camera 130 captures an image of the barcode 20 of the target PC 10a, and converts the captured barcode into a code. The converted code becomes identification information for identifying the target PC 10a. The camera 130 outputs the identification information of the target PC 10a to the control unit 170.

図3では一例として、単一のカメラ130を示すがこれに限定されない。例えば、支援装置100は、比較先画像データを撮影するためのカメラと、バーコードを撮影するためのカメラとを備えていても良い。   Although FIG. 3 shows a single camera 130 as an example, the present invention is not limited to this. For example, the support apparatus 100 may include a camera for capturing comparison target image data and a camera for capturing a barcode.

USB送受信部140は、制御部170から操作信号を受け付け、受け付けた操作信号を対象PC10aに出力する処理部である。この操作信号は、対象PC10aのマウス操作やキーボード操作時の信号を擬似的に再現した信号である。ここで、マウス操作は、マウスポインタの移動、クリック、ダブルクリック、ドラッグなどに対応する。キーボード操作は、各腫キー入力、Ctrl、Shiftを押しながらのボタン入力等に対応する。   The USB transmission / reception unit 140 is a processing unit that receives an operation signal from the control unit 170 and outputs the received operation signal to the target PC 10a. This operation signal is a signal that artificially reproduces the signal when the target PC 10a is operated with the mouse or the keyboard. Here, the mouse operation corresponds to the movement, click, double-click, drag, etc. of the mouse pointer. The keyboard operation corresponds to each tumor key input, button input while pressing Ctrl, Shift, and the like.

LAN送受信部150は、管理サーバ50とデータ通信を実行する処理部である。例えば、LAN送受信部150は、制御部170から対象PC10aの識別情報を受け付け、受け付けた識別情報を、管理サーバ50に送信する。また、LAN送受信部150は、管理サーバ50から受信したデータを、制御部170に出力する。例えば、LAN送受信部150は、管理サーバ50から、識別情報に対応する、制御スクリプトおよび比較元画像データを受信する。   The LAN transmission / reception unit 150 is a processing unit that executes data communication with the management server 50. For example, the LAN transmission / reception unit 150 receives the identification information of the target PC 10 a from the control unit 170 and transmits the received identification information to the management server 50. Further, the LAN transmission / reception unit 150 outputs the data received from the management server 50 to the control unit 170. For example, the LAN transmission / reception unit 150 receives a control script and comparison source image data corresponding to the identification information from the management server 50.

記憶部160は、制御スクリプト161、比較元画像データ162、比較先画像データ163を記憶する。例えば、記憶部160は、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ(Flash Memory)などの半導体メモリ素子、またはハードディスク、光ディスクなどの記憶装置に対応する。   The storage unit 160 stores a control script 161, comparison source image data 162, and comparison destination image data 163. For example, the storage unit 160 corresponds to a semiconductor memory device such as a random access memory (RAM), a read only memory (ROM), and a flash memory, or a storage device such as a hard disk or an optical disk.

制御スクリプト161は、対象PCの環境の設定作業を実行する一連の操作を記述した
データである。制御スクリプト161は、上述した管理サーバ50から得られる。図4は、制御スクリプトのデータ構造の一例を示す図である。図4に示すように、制御スクリプト161は、待機時間、機能、内容の属性を有する。待機時間、機能、内容に関する説明は後述する。
The control script 161 is data describing a series of operations for executing an environment setting operation for the target PC. The control script 161 is obtained from the management server 50 described above. FIG. 4 is a diagram illustrating an example of the data structure of the control script. As shown in FIG. 4, the control script 161 has attributes of standby time, function, and content. Explanation regarding the standby time, function, and contents will be described later.

比較元画像データ162は、対象PC10aの表示画面が適切な画面であるか否かを判定するために利用する画像データである。例えば、比較元画像データ162は、対象PC10aの任意の設定画面の画像データとなる。   The comparison source image data 162 is image data used for determining whether or not the display screen of the target PC 10a is an appropriate screen. For example, the comparison source image data 162 is image data of an arbitrary setting screen of the target PC 10a.

比較先画像データ163は、比較PC10aの表示画面の画像データであり、カメラ130によって撮影されたものである。   The comparison destination image data 163 is image data of the display screen of the comparison PC 10a and is taken by the camera 130.

制御部170は、解析部171および実行部172を有する。制御部170は、例えば、ASIC(Application Specific Integrated Circuit)や、FPGA(Field Programmable Gate Array)などの集積装置に対応する。また、制御部170は、例えば、CPUやMPU(Micro Processing Unit)等の電子回路に対応する。   The control unit 170 includes an analysis unit 171 and an execution unit 172. The control unit 170 corresponds to, for example, an integrated device such as an application specific integrated circuit (ASIC) or a field programmable gate array (FPGA). Moreover, the control part 170 respond | corresponds to electronic circuits, such as CPU and MPU (Micro Processing Unit), for example.

解析部171は、制御スクリプト161の行を順次読み出して解析し、解析結果に基づいて、対象PC10aに対するマウス操作およびキー操作を行うための擬似的な操作信号を生成する処理部である。解析部171は、生成した操作信号を、実行部172に出力する。以下において、解析部171の処理を具体的に説明する。解析部171は、準備処理と、スクリプト解析処理とを実行する。   The analysis unit 171 is a processing unit that sequentially reads and analyzes the lines of the control script 161 and generates a pseudo operation signal for performing a mouse operation and a key operation on the target PC 10a based on the analysis result. The analysis unit 171 outputs the generated operation signal to the execution unit 172. Hereinafter, the processing of the analysis unit 171 will be specifically described. The analysis unit 171 performs a preparation process and a script analysis process.

解析部171が実行する準備処理について説明する。解析部171は、入力部110から、設定作業の開始命令を受け付け、カメラ130に対して、バーコード撮影命令を出力する。解析部171は、カメラ130から、対象PC10aの識別情報を取得し、識別情報をLAN送受信部150に出力する。識別情報は、LAN送受信部150により、管理サーバ50に送信される。   A preparation process executed by the analysis unit 171 will be described. The analysis unit 171 receives a setting work start command from the input unit 110 and outputs a barcode shooting command to the camera 130. The analysis unit 171 acquires the identification information of the target PC 10 a from the camera 130 and outputs the identification information to the LAN transmission / reception unit 150. The identification information is transmitted to the management server 50 by the LAN transmission / reception unit 150.

識別情報が管理サーバ50に送信された後、解析部171は、LAN送受信部150を介して、制御情報に対応する制御スクリプトおよび比較元画像データを管理サーバ50から受信する。解析部171は、制御スクリプトおよび比較元画像データを、記憶部160に格納する。   After the identification information is transmitted to the management server 50, the analysis unit 171 receives a control script and comparison source image data corresponding to the control information from the management server 50 via the LAN transmission / reception unit 150. The analysis unit 171 stores the control script and comparison source image data in the storage unit 160.

次に、解析部171が実行するスクリプト解析処理について説明する。解析部171は、制御スクリプト161の先頭の行から順に1行分のレコードを取り出す。解析部171は、レコードを解析し、待機時間、機能、内容を特定する。解析部171は、レコードの待機時間だけ待機した後に、機能に応じて各種処理を実行する。機能には、コメント、メッセージ、キー入力、クリック、画面待機が含まれている。   Next, script analysis processing executed by the analysis unit 171 will be described. The analysis unit 171 extracts records for one line in order from the first line of the control script 161. The analysis unit 171 analyzes the record and identifies the standby time, function, and content. The analysis unit 171 performs various processes according to the function after waiting for the record standby time. Functions include comments, messages, keystrokes, clicks, and screen waits.

機能が「コメント」の場合の解析部171の処理について説明する。解析部171は、レコードの解析をスキップし、制御スクリプト161から次の行のレコードを取り出し、上記処理を繰り返し実行する。   Processing of the analysis unit 171 when the function is “comment” will be described. The analysis unit 171 skips the record analysis, extracts the record of the next line from the control script 161, and repeatedly executes the above processing.

機能が「メッセージ」の場合の解析部171の処理について説明する。解析部171は、読み出したレコードの内容を、表示部120に出力し、内容を表示させる。例えば、図4の上から2段目に示すように、機能が「メッセージ」、内容が「対象PCの電源を入れてください」というレコードを取得した場合について説明する。この場合には、「対象PCの電源をいれてください」という表示画面を、表示部120に表示させる。図5は、表示画面の一例を示す図である。図5に示す表示画面30には、OKボタン31が含まれている。   Processing of the analysis unit 171 when the function is “message” will be described. The analysis unit 171 outputs the content of the read record to the display unit 120 to display the content. For example, as shown in the second row from the top in FIG. 4, a case will be described in which a record with a function “message” and a content “turn on the target PC” is acquired. In this case, a display screen “Please turn on the target PC” is displayed on the display unit 120. FIG. 5 is a diagram illustrating an example of a display screen. The display screen 30 shown in FIG. 5 includes an OK button 31.

解析部171は、表示画面を表示させた後に、表示画面30上のOKボタン31が押下されるまで待機する。例えば、作業員は、入力部110を操作してOKボタン31を押下する。解析部171は、OKボタン31が押下された場合には、制御スクリプト161から次の行のレコードを取り出し、上記処理を繰り返し実行する。   After displaying the display screen, the analysis unit 171 waits until the OK button 31 on the display screen 30 is pressed. For example, the worker operates the input unit 110 and presses the OK button 31. When the OK button 31 is pressed, the analysis unit 171 takes out the record of the next line from the control script 161 and repeatedly executes the above processing.

機能が「キー入力」の場合の解析部171の処理について説明する。解析部171は、読み出したレコードの内容を字句解析し、対応する入力キーに変換する。例えば、内容が「A」の場合には、解析部171は、対応する入力キー「A」に変換する。解析部171は、入力キーに対応する操作信号を生成し、操作信号を実行部172に出力する。解析部171は、操作信号を出力した後に、制御スクリプト161から次の行のレコードを取り出し、上記処理を繰り返し実行する。   Processing of the analysis unit 171 when the function is “key input” will be described. The analysis unit 171 performs lexical analysis on the content of the read record and converts it into a corresponding input key. For example, when the content is “A”, the analysis unit 171 converts the input key “A”. The analysis unit 171 generates an operation signal corresponding to the input key, and outputs the operation signal to the execution unit 172. After outputting the operation signal, the analysis unit 171 takes out the record of the next line from the control script 161 and repeatedly executes the above processing.

解析部171が、入力キーの操作信号を生成して出力する処理の一例について説明する。ここでは一例として、入力キーを「A」とする。解析部171は、例えば、下記の(1)〜(4)の処理を順次実行する。   An example of processing in which the analysis unit 171 generates and outputs an input key operation signal will be described. Here, as an example, the input key is “A”. For example, the analysis unit 171 sequentially executes the following processes (1) to (4).

(1)解析部171は、ShiftキーをDownした意味の操作信号を生成し、実行部172に出力する。解析部171は、(1)の処理を実行後、所定時間待機する。(2)解析部171は、aキーをDownした意味の操作信号を生成し、実行部172に出力する。解析部171は、(2)の処理を実行後、所定時間待機する。(3)解析部171は、aキーをUpした意味の操作信号を生成し、実行部172に出力する。解析部171は、(3)の処理を実行後、所定時間待機する。(4)解析部171は、ShiftキーをUpした意味の操作信号を生成し、実行部172に出力する。実行部172は、操作信号を順次、USB送受信部140に出力する。   (1) The analysis unit 171 generates an operation signal that means that the Shift key is down, and outputs the operation signal to the execution unit 172. The analysis unit 171 waits for a predetermined time after executing the process (1). (2) The analysis unit 171 generates an operation signal that means that the a key is down, and outputs the operation signal to the execution unit 172. The analysis unit 171 waits for a predetermined time after executing the process (2). (3) The analysis unit 171 generates an operation signal that means that the a key is up, and outputs the operation signal to the execution unit 172. The analysis unit 171 waits for a predetermined time after executing the process (3). (4) The analysis unit 171 generates an operation signal that means that the Shift key is up, and outputs the operation signal to the execution unit 172. The execution unit 172 sequentially outputs operation signals to the USB transmission / reception unit 140.

上記(1)〜(4)の処理を実行することで、キーボードの入力キー「A」を押下した場合と同じ操作信号が、対象PC10aに入力される。   By executing the processes (1) to (4), the same operation signal as when the input key “A” on the keyboard is pressed is input to the target PC 10a.

機能が「クリック」の場合の解析部171の処理について説明する。解析部171は、読み出したレコードの内容を解析し、クリックの種別と、x方向およびy方向の移動位置を判定する。解析部171は、判定結果に応じた操作信号を、実行部172に出力する。   Processing of the analysis unit 171 when the function is “click” will be described. The analysis unit 171 analyzes the content of the read record and determines the type of click and the movement position in the x and y directions. The analysis unit 171 outputs an operation signal corresponding to the determination result to the execution unit 172.

内容が「SCLICK(x1、y1)」となる場合について説明する。x1、y1は、任意の数値である。解析部171は、マウスポインタを現座標から、原点からx方向にx1、y方向にy1の位置に移動させ、左クリックする意味の操作信号を、実行部172に出力する。例えば、対象PC10aの表示画面の左上隅を、マウスポインタの原点とする。また、対象PC10aの表示画面の左側から右側に向かう方向をx軸のプラス方向とする。対象PC10aの表示画面の上側から下側に向かう方向をy軸のプラス方向とする。   A case where the content is “SCLICK (x1, y1)” will be described. x1 and y1 are arbitrary numerical values. The analysis unit 171 moves the mouse pointer from the current coordinate to the position of x1 in the x direction and y1 in the y direction from the origin, and outputs an operation signal meaning to left click to the execution unit 172. For example, the upper left corner of the display screen of the target PC 10a is set as the origin of the mouse pointer. Further, the direction from the left side to the right side of the display screen of the target PC 10a is defined as the positive direction of the x axis. A direction from the upper side to the lower side of the display screen of the target PC 10a is defined as a positive direction of the y axis.

内容が「RCLICK(x1、y1)」となる場合について説明する。解析部171は、マウスポインタを現座標から、原点からx方向にx1、y方向にy1の位置に移動させ、右クリックする意味の操作信号を、実行部172に出力する。   A case where the content is “RCLICK (x1, y1)” will be described. The analysis unit 171 moves the mouse pointer from the current coordinate to the position of x1 in the x direction and y1 in the y direction from the origin, and outputs an operation signal meaning to right click to the execution unit 172.

内容が「WCLICK(x1、y1)」となる場合について説明する。解析部171は、マウスポインタを現座標から、原点からx方向にx1、y方向にy1の位置に移動させ、ダブルクリックする意味の操作信号を、実行部172に出力する。   A case where the content is “WCLICK (x1, y1)” will be described. The analysis unit 171 moves the mouse pointer from the current coordinates to the position of x1 in the x direction and y1 in the y direction from the origin, and outputs an operation signal meaning to double-click to the execution unit 172.

内容が「DRAG(x1、y1)」となる場合について説明する。この操作は、ドラッグ操作に対応する。解析部171は、マウスポインタの左ボタンをDownさせたまま現座標から、原点からx方向にx1、y方向にy1の位置に移動させたのちに、左ボタンをUpする意味の操作信号を、実行部172に出力する。   A case where the content is “DRAG (x1, y1)” will be described. This operation corresponds to a drag operation. The analysis unit 171 moves an operation signal that means that the left button is up after moving the current coordinate from the current coordinate to the position of x1 in the x direction and y1 in the y direction while the left button of the mouse pointer is down. The data is output to the execution unit 172.

ここでは一例として、内容が「SCLICK(500、360)」の場合の処理について説明する。解析部171は、例えば、下記の(1)〜(4)の処理を順次実行する。   Here, as an example, a process when the content is “SCLICK (500, 360)” will be described. For example, the analysis unit 171 sequentially executes the following processes (1) to (4).

(1)解析部171は、マウスポインタをx方向に−1000、y方向に−1000移動させる意味の操作信号を、実行部172に出力する。(1)の操作は、マウスポインタを原点に移動させる操作に対応する。解析部171は、(1)の処理を実行後、所定時間待機する。(2)解析部171は、マウスポインタをx方向に500、y方向に360移動する意味の操作信号を、実行部172に出力する。解析部171は、(2)の処理を実行後、所定時間待機する。(3)解析部171は、マウスの左ボタンをDownした意味の操作信号を、実行部172に出力する。解析部171は、(3)の処理を実行後、所定時間待機する。(4)解析部171は、マウスの左ボタンをUpした意味の操作信号を、実行部172に出力する。   (1) The analysis unit 171 outputs to the execution unit 172 an operation signal meaning that the mouse pointer is moved by −1000 in the x direction and −1000 in the y direction. The operation (1) corresponds to an operation for moving the mouse pointer to the origin. The analysis unit 171 waits for a predetermined time after executing the process (1). (2) The analysis unit 171 outputs, to the execution unit 172, an operation signal that means moving the mouse pointer by 500 in the x direction and 360 in the y direction. The analysis unit 171 waits for a predetermined time after executing the process (2). (3) The analysis unit 171 outputs an operation signal meaning that the left button of the mouse has been down to the execution unit 172. The analysis unit 171 waits for a predetermined time after executing the process (3). (4) The analysis unit 171 outputs to the execution unit 172 an operation signal meaning that the left button of the mouse is up.

上記(1)〜(4)の処理を実行することで、マウスのポインタを現座標から、原点からx方向に500、y方向に360の位置に移動させた後に、左クリックした場合と同じ操作信号が、対象PC10aに入力される。   By executing the above processes (1) to (4), the mouse pointer is moved from the current coordinate to the position of 500 in the x-direction and 360 in the y-direction, and then the same operation as when left-clicked. A signal is input to the target PC 10a.

機能が「画面待機」の場合の解析部171の処理について説明する。解析部171は、カメラ130に対して、画像撮影命令を出力する。解析部171は、カメラ130から、比較先画像データを取得し、取得した比較先画像データを記憶部160に格納する。   Processing of the analysis unit 171 when the function is “screen standby” will be described. The analysis unit 171 outputs an image shooting command to the camera 130. The analysis unit 171 acquires comparison destination image data from the camera 130 and stores the acquired comparison destination image data in the storage unit 160.

解析部171は、記憶部160の比較元画像データ162と比較先画像データ163とを比較して、一致度を算出する。解析部171は、一致度が閾値以上の場合には、制御スクリプト161から次の行のレコードを取り出し、上記処理を繰り返し実行する。   The analysis unit 171 compares the comparison source image data 162 and the comparison destination image data 163 in the storage unit 160 and calculates the degree of coincidence. If the degree of coincidence is greater than or equal to the threshold value, the analysis unit 171 extracts the record on the next line from the control script 161 and repeatedly executes the above processing.

これに対して、解析部171は、一致度が閾値未満となる場合には、所定時間経過後、カメラ130に画像撮影命令を再度出力し、比較先画像データ163をカメラ130から取得する。解析部171は、記憶部160の比較先画像データ163を更新し、一致度を算出し、上記処理を繰り返し実行する。   On the other hand, when the degree of coincidence is less than the threshold, the analysis unit 171 outputs the image capturing command to the camera 130 again after a predetermined time, and acquires the comparison destination image data 163 from the camera 130. The analysis unit 171 updates the comparison target image data 163 in the storage unit 160, calculates the degree of coincidence, and repeatedly executes the above processing.

解析部171が、一致度を算出する処理について説明する。図6〜図9は、一致度を算出する過程を補足説明するための図である。解析部171は、比較元画像データ162を2値化し、四隅から最短にある点を検出する。図6に示すように、解析部171は、点162a〜162dを検出する。   Processing in which the analysis unit 171 calculates the degree of coincidence will be described. 6 to 9 are diagrams for supplementarily explaining the process of calculating the degree of coincidence. The analysis unit 171 binarizes the comparison source image data 162 and detects the shortest point from the four corners. As illustrated in FIG. 6, the analysis unit 171 detects points 162a to 162d.

図7に示すように、解析部171は、比較先画像データ163を2値化し、比較先画像データ163の輪郭を抽出する。そして、図8に示すように、解析部171は、比較先画像データ163の四隅から最短にある点163a〜163dを検出する。   As illustrated in FIG. 7, the analysis unit 171 binarizes the comparison destination image data 163 and extracts the contour of the comparison destination image data 163. Then, as illustrated in FIG. 8, the analysis unit 171 detects the points 163 a to 163 d that are shortest from the four corners of the comparison target image data 163.

図9に示すように、解析部171は、比較元画像データ162の各点162a〜162dの位置と、比較先画像データ163の各点163a〜163dの位置がそれぞれ一致するように、比較先画像データ163を加工する。例えば、解析部171は、比較先画像データ163に対して回転、拡大、縮小などの処理を加える。   As illustrated in FIG. 9, the analysis unit 171 compares the comparison target image data 162 so that the positions of the points 162 a to 162 d of the comparison source image data 162 coincide with the positions of the points 163 a to 163 d of the comparison target image data 163. Data 163 is processed. For example, the analysis unit 171 adds processing such as rotation, enlargement, and reduction to the comparison target image data 163.

解析部171は、比較元画像データ162の各点162a〜162dの位置と、比較先画像データ163の各点163a〜163dの位置がそれぞれ一致させた後に、一致度を算出する。解析部171は、比較元画像データ162と比較先画像データ163とを画素毎に比較して、一致する画素の数を計数する。解析部171は、比較元画像データ162の全画素数に対する、一致する画素数の割合を、一致度として算出する。   The analysis unit 171 calculates the degree of coincidence after the positions of the points 162a to 162d in the comparison source image data 162 and the positions of the points 163a to 163d in the comparison destination image data 163 are matched. The analysis unit 171 compares the comparison source image data 162 and the comparison destination image data 163 for each pixel, and counts the number of matching pixels. The analysis unit 171 calculates the ratio of the number of matching pixels with respect to the total number of pixels of the comparison source image data 162 as the matching degree.

上記のように、解析部171は、機能に応じて各種の処理を実行し、操作信号を実行部172に出力する。   As described above, the analysis unit 171 executes various processes according to the function and outputs an operation signal to the execution unit 172.

実行部172は、解析部171から操作信号を受け付け、受け付けた操作信号を、USB送受信部140に出力する処理部である。   The execution unit 172 is a processing unit that receives an operation signal from the analysis unit 171 and outputs the received operation signal to the USB transmission / reception unit 140.

次に、解析部171が、図4に示した制御スクリプト161の各行のレコードを取り出して、処理を実行する過程について説明する。   Next, a process in which the analysis unit 171 takes out the record of each line of the control script 161 illustrated in FIG. 4 and executes the process will be described.

解析部171は、図4の制御スクリプト161の1行目のレコードを取り出す。1行目のレコードの機能は「コメント」である。このため、解析部171は、処理をスキップし、2行目のレコードを取り出す。   The analysis unit 171 takes out the record in the first line of the control script 161 in FIG. The function of the record on the first line is “comment”. For this reason, the analysis unit 171 skips the processing and takes out the record in the second row.

2行目のレコードの機能は「メッセージ」である。このため、解析部171は、図5に示す表示画面30を表示させ、OKボタン31が押下されるまで待機する。解析部171は、OKボタンが押下された後に、3行目のレコードを取り出す。   The function of the record on the second line is “message”. Therefore, the analysis unit 171 displays the display screen 30 shown in FIG. 5 and waits until the OK button 31 is pressed. The analysis unit 171 takes out the record in the third row after the OK button is pressed.

3行目のレコードの機能は「画面待機」である。また、待機時間が「0025」である。解析部171は、待機時間「25秒」待機した後に、機能「画面待機」の処理を実行する。すなわち、解析部171は、比較元画像データ162と比較先画像データ163とを比較して、一致度を算出する。図4の3行目のレコードの内容は「WinLogon.jpg.80%」となっている。ここで、「WinLogon.jpg」は、比較元画像データの識別する名称である。また、「80%」は、一致度の閾値が「80%」であることを示している。解析部171は、一致度が「80%」以上となるまで、機能「画面待機」の処理を繰り返し実行する。解析部171は、一致度が「80%」以上となった場合に、4行目のレコードを取り出す。   The function of the record in the third line is “screen standby”. Further, the standby time is “0025”. The analysis unit 171 performs the function “screen standby” after waiting for the standby time “25 seconds”. That is, the analysis unit 171 compares the comparison source image data 162 and the comparison destination image data 163 to calculate the degree of coincidence. The content of the record on the third line in FIG. 4 is “WinLogon.jpg.80%”. Here, “WinLogon.jpg” is a name for identifying comparison source image data. Further, “80%” indicates that the threshold value of coincidence is “80%”. The analysis unit 171 repeatedly executes the process of the function “screen standby” until the degree of coincidence becomes “80%” or more. The analysis unit 171 takes out the record in the fourth row when the degree of coincidence is “80%” or more.

4行目のレコードの機能は「キー入力」である。このため、解析部171は、内容「password」を、対応する入力キー「password」に変換する。解析部171は、入力キーの操作信号を生成し、対象PC10aに入力する。解析部171は、5行目のレコードを取り出す。   The function of the record on the fourth line is “key input”. Therefore, the analysis unit 171 converts the content “password” into a corresponding input key “password”. The analysis unit 171 generates an input key operation signal and inputs it to the target PC 10a. The analysis unit 171 takes out the record in the fifth row.

5行目のレコードの機能は「クリック」である。このため、解析部171は、レコードの内容「SCLICK(500、360)」を解析する。解析部171は、マウスポインタを現座標から、原点からx方向に500、y方向に360の位置に移動させた後に左クリックを行う操作信号を生成し、対象PC10aに入力する。   The function of the record in the fifth line is “click”. Therefore, the analysis unit 171 analyzes the content “SCLICK (500, 360)” of the record. The analysis unit 171 generates an operation signal for performing a left click after moving the mouse pointer from the current coordinates to the position of 500 in the x direction and 360 in the y direction from the origin, and inputs the operation signal to the target PC 10a.

次に、本実施例に係る支援装置100の処理手順について説明する。図10は、本実施例に係る支援装置の処理手順を示すフローチャートである。例えば、図10に示す処理は、入力部110から、設定作業の開始命令を受け付けたことを契機として実行される。   Next, a processing procedure of the support device 100 according to the present embodiment will be described. FIG. 10 is a flowchart illustrating the processing procedure of the support device according to the present embodiment. For example, the process illustrated in FIG. 10 is executed when a setting work start command is received from the input unit 110.

図10に示すように、支援装置100は、カメラ130に対してバーコード撮影命令を出力し、対象PC10aの識別情報を取得する(ステップS101)。支援装置100は、識別情報を管理サーバ50に送信し、管理サーバ50から制御スクリプトおよび対象もと画像データを受信する(ステップS102)。   As illustrated in FIG. 10, the support apparatus 100 outputs a barcode shooting command to the camera 130, and acquires identification information of the target PC 10a (step S101). The support device 100 transmits the identification information to the management server 50, and receives the control script and the target image data from the management server 50 (step S102).

支援装置100は、制御スクリプト161および対象元画像データを記憶部160に記憶する(ステップS103)。支援装置100は、制御スクリプト161から1行取り出し(ステップS104)、スクリプト解析処理を実行する(ステップS105)。   The support apparatus 100 stores the control script 161 and the target original image data in the storage unit 160 (step S103). The support device 100 extracts one line from the control script 161 (step S104) and executes a script analysis process (step S105).

支援装置100は、制御スクリプト161から全ての行を取り出したか否かを判定する(ステップS106)。支援装置100は、全ての行を取り出した場合には(ステップS106,Yes)、処理を終了する。   The support apparatus 100 determines whether all lines have been extracted from the control script 161 (step S106). When all the rows are extracted (step S106, Yes), the support device 100 ends the process.

一方、支援装置100は、全ての行を取り出していない場合には(ステップS106,No)、制御スクリプト161から次の1行を取り出し(ステップS107)、ステップS104に移行する。   On the other hand, when not all the lines have been extracted (No at Step S106), the support apparatus 100 extracts the next line from the control script 161 (Step S107), and proceeds to Step S104.

次に、図10のステップS105に示したスクリプト解析処理について説明する。図11および図12は、スクリプト解析処理の処理手順を示すフローチャートである。図11に示すように、支援装置100は、制御スクリプト161の1行を解析し、待機時間、機能、内容を特定する(ステップS110)。   Next, the script analysis process shown in step S105 of FIG. 10 will be described. 11 and 12 are flowcharts showing the processing procedure of the script analysis processing. As illustrated in FIG. 11, the support apparatus 100 analyzes one line of the control script 161 and specifies the standby time, function, and content (step S110).

支援装置100は、待機時間だけ待機し(ステップS111)、機能はコメントであるか否かを判定する(ステップS112)。支援装置100は、機能がコメントである場合には(ステップS112,Yes)、スキップし(ステップS113)、スクリプト解析処理を終了する。   The support device 100 waits for the waiting time (step S111), and determines whether the function is a comment (step S112). If the function is a comment (Yes in step S112), the support apparatus 100 skips (step S113) and ends the script analysis process.

一方、支援装置100は、機能がコメントではない場合には(ステップS112,No)、機能はメッセージであるか否かを判定する(ステップS114)。支援装置100は、機能がメッセージである場合には(ステップS114,Yes)、支援装置100の表示部120に、メッセージを表示し(ステップS115)、OKボタンが押下されたか否かを判定する(ステップS116)。   On the other hand, when the function is not a comment (No at Step S112), the support apparatus 100 determines whether the function is a message (Step S114). When the function is a message (Yes in step S114), the support apparatus 100 displays a message on the display unit 120 of the support apparatus 100 (step S115) and determines whether the OK button has been pressed (step S115). Step S116).

支援装置は、OKボタンが押下されない場合には(ステップS116,No)、再度、ステップS116に移行する。一方、OKボタンを押下された場合には(ステップS116,Yes)、スクリプト解析処理を終了する。   When the OK button is not pressed (No at Step S116), the support device moves to Step S116 again. On the other hand, if the OK button is pressed (step S116, Yes), the script analysis process is terminated.

ステップS114において、支援装置100は、機能がメッセージではない場合には(ステップS114,No)、機能はキー入力であるか否かを判定する(ステップS117)。   If the function is not a message in step S114 (step S114, No), the support apparatus 100 determines whether the function is a key input (step S117).

機能がキー入力の場合には(ステップS117,Yes)、キーの内容を字句解析し(ステップS118)、字句を対応するキーに変換する(ステップS119)。支援装置100は、キー入力送信処理を実行し(ステップS120)、スクリプト解析処理を終了する。   If the function is key input (step S117, Yes), the contents of the key are analyzed (step S118), and the words are converted into corresponding keys (step S119). The support apparatus 100 executes a key input transmission process (step S120), and ends the script analysis process.

ステップS117において、支援装置100は、機能がキー入力ではない場合には(ステップS117,No)、図12のステップS121に移行する。支援装置100は、クリックか否かを判定する(ステップS121)。支援装置100は、機能がクリックの場合には(ステップS121,Yes)、マウスクリック送信処理を実行し(ステップS122)、スクリプト解析処理を終了する。   In step S117, when the function is not a key input in step S117 (step S117, No), the support apparatus 100 proceeds to step S121 in FIG. The support device 100 determines whether or not the click is made (step S121). If the function is a click (step S121, Yes), the support apparatus 100 executes a mouse click transmission process (step S122), and ends the script analysis process.

支援装置100は、機能がクリックではない場合には(ステップS121,No)、機能は画面待機であると判定する(ステップS123)。支援装置100は、対象PC10aの画像を撮影し(ステップS124)、一致度算出処理を実行する(ステップS125)。   When the function is not a click (step S121, No), the support apparatus 100 determines that the function is a screen standby (step S123). The support apparatus 100 captures an image of the target PC 10a (step S124), and executes a matching degree calculation process (step S125).

支援装置100は、一致度が閾値以上か否かを判定する(ステップS126)。支援装置100は、一致度が閾値未満の場合には(ステップS126,No)、所定時間待機し(ステップS127)、ステップS124に移行する。支援装置100は、一致度が閾値以上の場合には(ステップS126,Yes)、スクリプト解析処理を終了する。   The support device 100 determines whether or not the degree of coincidence is greater than or equal to a threshold (step S126). When the degree of coincidence is less than the threshold (No at Step S126), the support apparatus 100 waits for a predetermined time (Step S127), and proceeds to Step S124. If the degree of coincidence is equal to or greater than the threshold (Yes in step S126), the support device 100 ends the script analysis process.

次に、図11のステップS120に示したキー入力送信処理について説明する。図13は、キー入力送信処理の処理手順を示すフローチャートである。図13では一例として、「A」をキー入力する操作を行う場合について説明する。   Next, the key input transmission process shown in step S120 of FIG. 11 will be described. FIG. 13 is a flowchart showing a processing procedure of key input transmission processing. In FIG. 13, as an example, a case where an operation of key input of “A” is performed will be described.

図13に示すように、支援装置100は、ShiftキーをDownした意味の操作信号を対象PC10aに送信し(ステップS150)、所定時間待機する(ステップS151)。   As shown in FIG. 13, the support apparatus 100 transmits an operation signal meaning that the Shift key is down to the target PC 10a (step S150), and waits for a predetermined time (step S151).

支援装置100は、aキーをDownした意味の操作信号を対象PC10aに送信し(ステップS152)、所定時間待機する(ステップS153)。   The support apparatus 100 transmits an operation signal meaning that the a key is down to the target PC 10a (step S152), and waits for a predetermined time (step S153).

支援装置100は、aキーをUpした意味の操作信号を対象PC10aに送信し(ステップS154)、所定時間待機する(ステップS155)。支援装置100は、ShiftキーをUpした意味の操作信号を対象PC10aに送信する(ステップS156)。   The support device 100 transmits an operation signal meaning that the a key is up to the target PC 10a (step S154), and waits for a predetermined time (step S155). The support apparatus 100 transmits an operation signal in the sense that the Shift key is up to the target PC 10a (step S156).

次に、図12のステップS122に示したマウスクリック送信処理について説明する。図14は、マウスクリック送信処理の処理手順を示すフローチャートである。図14では一例として、マウスポインタを原点からx方向に500、y方向に360の位置に移動させて、左クリックするマウス操作を行う場合について説明する。   Next, the mouse click transmission process shown in step S122 of FIG. 12 will be described. FIG. 14 is a flowchart showing the processing procedure of the mouse click transmission processing. As an example, FIG. 14 illustrates a case where the mouse pointer is moved from the origin to a position of 500 in the x direction and 360 in the y direction to perform a left click mouse operation.

支援装置100は、マウスポインタを(−1000、−1000)分移動する意味の操作信号を対象PC10aに送信し、マウスポインタを左上隅に移動させる(ステップS160)。   The support apparatus 100 transmits an operation signal meaning to move the mouse pointer by (−1000, −1000) to the target PC 10a, and moves the mouse pointer to the upper left corner (step S160).

支援装置100は、所定時間待機し(ステップS161)、マウスポインタを(500、360)分移動する意味の操作信号を対象PC10aに送信する(ステップS162)。支援装置100は、所定時間待機し(ステップS163)、マウスの左ボタンをDownした意味の操作信号を対象PC10aに送信する(ステップS164)。   The support apparatus 100 waits for a predetermined time (step S161), and transmits an operation signal meaning to move the mouse pointer by (500, 360) to the target PC 10a (step S162). The support apparatus 100 waits for a predetermined time (step S163), and transmits an operation signal meaning that the left button of the mouse is down to the target PC 10a (step S164).

支援装置100は、所定時間待機し(ステップS165)、マウスの左ボタンをUpした意味の操作信号を対象PC10aに送信する(ステップS166)。   The support apparatus 100 waits for a predetermined time (step S165), and transmits an operation signal that means that the left button of the mouse is up to the target PC 10a (step S166).

次に、図12のステップS125に示した一致度算出処理について説明する。図15は、一致度算出処理の処理手順を示すフローチャートである。図15に示すように、支援装置100は、比較元画像データ162の四隅から最短にある点を検出する(ステップS170)。   Next, the matching degree calculation process shown in step S125 of FIG. 12 will be described. FIG. 15 is a flowchart illustrating a processing procedure of the matching degree calculation processing. As illustrated in FIG. 15, the support apparatus 100 detects the shortest point from the four corners of the comparison source image data 162 (step S170).

支援装置100は、比較先画像データ163から輪郭を抽出し(ステップS171)、比較先画像データ163の四隅から最短にある点を検出する(ステップS172)。   The support apparatus 100 extracts a contour from the comparison destination image data 163 (step S171), and detects the shortest point from the four corners of the comparison destination image data 163 (step S172).

支援装置100は、比較先画像データ163を回転、拡大、縮小して、比較先画像データ163の外枠と、比較元画像データ162の外枠とが一致するように、比較先画像データ163を変換する(ステップS173)。   The support apparatus 100 rotates, enlarges, or reduces the comparison target image data 163 so that the comparison target image data 163 matches the outer frame of the comparison target image data 163 with the outer frame of the comparison source image data 162. Conversion is performed (step S173).

支援装置100は、比較先画像データ163と、比較元画像データ162とをピクセル単位に比較して、一致度を算出する(ステップS174)。   The support apparatus 100 compares the comparison-destination image data 163 and the comparison-source image data 162 for each pixel, and calculates the degree of coincidence (step S174).

次に、本実施例に係る支援装置100の効果について説明する。支援装置100は、対象PC10aの設定作業を実行する一連のマウス操作を予め記述した制御スクリプト161を解析し、解析結果に基づいて、対象PC10aに対するマウス操作を行うための擬似的な操作信号を対象PC10aに送信する。このため、支援装置100によれば、対象PC10aに対するマウスを用いた設定作業を実行することができる。   Next, effects of the support device 100 according to the present embodiment will be described. The support apparatus 100 analyzes a control script 161 in which a series of mouse operations for executing the setting operation of the target PC 10a is described in advance, and targets a pseudo operation signal for performing a mouse operation on the target PC 10a based on the analysis result. It transmits to PC10a. For this reason, according to the support apparatus 100, the setting operation | work using the mouse | mouth with respect to object PC10a can be performed.

また、支援装置100は、制御スクリプト161を解析し、マウス操作だけでなくキー操作を行うための擬似的な操作信号を対象PC10aに送信する。このため、支援装置100によれば、マウス操作とキー操作による複合的な設定作業を実行することができる。   Further, the support apparatus 100 analyzes the control script 161 and transmits a pseudo operation signal for performing not only a mouse operation but also a key operation to the target PC 10a. For this reason, according to the support apparatus 100, a composite setting operation by a mouse operation and a key operation can be executed.

また、支援装置100は、比較元画像データ162と比較先画像データ163とを比較して、一致度を算出し、一致度が閾値以上となった場合に、操作信号を送信する。このため、支援装置100によれば、対象PC10aの表示画面が、確かに設定作業の対象となる画面であることを確認した後に、設定作業を実行でき、設定作業の精度を向上させることができる。   In addition, the support apparatus 100 compares the comparison source image data 162 and the comparison destination image data 163, calculates the degree of coincidence, and transmits an operation signal when the degree of coincidence exceeds a threshold value. For this reason, according to the support apparatus 100, after confirming that the display screen of the target PC 10a is the screen that is surely the target of the setting work, the setting work can be executed, and the accuracy of the setting work can be improved. .

また、支援装置100は、マウス操作を行うための操作信号を送信する場合に、マウスポインタの位置を左上隅の初期位置に移動させる信号を操作信号に含める。このため、マウスポインタがどの位置にあっても、一旦、初期位置に戻してから、各種マウス操作を実行でき、マウス操作による設定作業の精度を向上させることができる。なお、上記実施例の初期位置は一例であり、例えば、対象PC10aの表示画面の右上隅、左下隅、右下隅、中心などであっても良い。   Further, when transmitting an operation signal for performing a mouse operation, the support device 100 includes a signal for moving the position of the mouse pointer to the initial position of the upper left corner in the operation signal. Therefore, regardless of the position of the mouse pointer, various mouse operations can be executed after the mouse pointer is temporarily returned to the initial position, and the accuracy of the setting operation by the mouse operation can be improved. Note that the initial position in the above embodiment is an example, and may be, for example, the upper right corner, the lower left corner, the lower right corner, or the center of the display screen of the target PC 10a.

また、支援装置100は、制御スクリプト161の1行を読み出し、読み出した行の待機時間に応じて、操作信号を生成する時間間隔を調整し、対象PC10aに送信する。このため、支援装置100によれば、適切なタイミングで、マウス操作およびキー操作に対応する操作信号を送信することができる。例えば、対象PC10aのログイン画面の表示画面が表示されていない段階で、ログインパスワードを送信してしまう等の状況を回避することができる。   Further, the support device 100 reads one line of the control script 161, adjusts the time interval for generating the operation signal according to the waiting time of the read line, and transmits the operation signal to the target PC 10a. For this reason, according to the assistance apparatus 100, the operation signal corresponding to a mouse operation and a key operation can be transmitted at an appropriate timing. For example, it is possible to avoid a situation in which a login password is transmitted when the display screen of the login screen of the target PC 10a is not displayed.

更に、上記効果に加えて、これまでのマウスインターフェースにおける設定作業中の作業員による手作業が無くなり、設定作業の自動化ができる。また、人為的ミスなどが無くなり、設定作業の品質向上を期待することができる。また、作業員の人員を削減でき、コストを削減することも可能となる。   Further, in addition to the above effects, the manual operation by the worker during the setting operation in the conventional mouse interface is eliminated, and the setting operation can be automated. In addition, human error and the like are eliminated, and improvement in the quality of setting work can be expected. In addition, the number of workers can be reduced, and the cost can be reduced.

ところで、本実施例において説明した各処理のうち、自動的に行われるものとして説明した処理の全部または一部を手動的に行うこともでき、あるいは、手動的に行われるものとして説明した処理の全部あるいは一部を公知の方法で自動的に行うこともできる。この他、上記文書中や図面中で示した処理手順、制御手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。   By the way, among the processes described in the present embodiment, all or a part of the processes described as being automatically performed can be manually performed, or the processes described as being performed manually can be performed. All or a part can be automatically performed by a known method. In addition, the processing procedure, control procedure, specific name, and information including various data and parameters shown in the above-described document and drawings can be arbitrarily changed unless otherwise specified.

また、実施例に示した支援装置100の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。さらに、各装置にて行われる各処理機能は、その全部または任意の一部がCPUおよび当該CPUにて解析実行されるプログラムにて実現され、あるいは、ワイヤードロジックによるハードウェアとして実現され得る。   Further, each component of the support device 100 shown in the embodiment is functionally conceptual, and does not necessarily need to be physically configured as illustrated. In other words, the specific form of distribution / integration of each device is not limited to that shown in the figure, and all or a part thereof may be functionally or physically distributed or arbitrarily distributed in arbitrary units according to various loads or usage conditions. Can be integrated and configured. Furthermore, each processing function performed by each device may be realized by a CPU and a program that is analyzed and executed by the CPU, or may be realized as hardware by wired logic.

10a 対象PC
50 管理サーバ
100 支援装置
10a Target PC
50 Management server 100 Support device

Claims (15)

対象装置の設定作業を実行する一連のマウス操作を予め記述した制御情報を解析し、解析結果に基づいて、前記対象装置に対するマウス操作を行うための擬似的な操作信号を生成する解析部と、
前記解析部が生成した前記操作信号を前記対象装置に送信することで、前記対象装置に対するマウス操作を実行する実行部と
を有することを特徴とする支援装置。
Analyzing control information describing in advance a series of mouse operations for performing setting operations of the target device, and generating a pseudo operation signal for performing mouse operations on the target device based on the analysis results;
A support device comprising: an execution unit that performs a mouse operation on the target device by transmitting the operation signal generated by the analysis unit to the target device.
前記制御情報は、前記対象装置の設定作業を実行する一連のキー操作を更に含み、前記解析部は、前記制御情報を解析し、前記対象装置に対するマウス操作およびキー操作を行うための擬似的な操作信号を生成し、前記実行部は、前記操作信号を前記対象装置に送信することで、前記対象装置に対するマウス操作およびキー操作を実行することを特徴とする請求項1に記載の支援装置。   The control information further includes a series of key operations for executing a setting operation of the target device, and the analysis unit analyzes the control information and performs a pseudo operation for performing a mouse operation and a key operation on the target device. The support device according to claim 1, wherein an operation signal is generated, and the execution unit executes a mouse operation and a key operation on the target device by transmitting the operation signal to the target device. 前記制御情報は、前記対象装置の画面に対する撮影命令を更に含み、前記解析部は、前記撮影命令に応じて、撮像装置を利用して前記対象装置の画面の画像を示す比較先画像を取得し、前記比較先画像と所定の比較元画像との一致度を算出し、
前記実行部は、前記一致度に基づいて、前記操作信号を前記対象装置に送信することを特徴とする請求項1または請求項2に記載の支援装置。
The control information further includes a shooting command for the screen of the target device, and the analysis unit acquires a comparison target image indicating an image of the screen of the target device using the imaging device according to the shooting command. , Calculating the degree of coincidence between the comparison target image and a predetermined comparison source image,
The support device according to claim 1, wherein the execution unit transmits the operation signal to the target device based on the degree of coincidence.
前記解析部は、マウス操作の前にマウスポインタを初期位置に移動させる擬似的な信号を前記操作信号に含ませることを特徴とする請求項1、2または3に記載の支援装置。   4. The support apparatus according to claim 1, wherein the analysis unit includes a pseudo signal for moving a mouse pointer to an initial position before the mouse operation. 前記制御情報は待機時間の情報を含み、前記解析部は、前記待機時間に応じて、前記操作信号を生成する時間間隔を調整することを特徴とする請求項1〜4のいずれか一つに記載の支援装置。   The control information includes information on standby time, and the analysis unit adjusts a time interval for generating the operation signal according to the standby time. The support apparatus described. コンピュータに、
対象装置の設定作業を実行する一連のマウス操作を予め記述した制御情報を解析し、解析結果に基づいて、前記対象装置に対するマウス操作を行うための擬似的な操作信号を生成し、
前記操作信号を前記対象装置に送信することで、前記対象装置に対するマウス操作を実行する
各処理を実行させることを特徴とする支援プログラム。
On the computer,
Analyzing the control information describing a series of mouse operations for performing the setting operation of the target device in advance, and generating a pseudo operation signal for performing the mouse operation on the target device based on the analysis result,
A support program for executing a mouse operation on the target device by transmitting the operation signal to the target device.
前記制御情報は、前記対象装置の設定作業を実行する一連のキー操作を更に含み、
前記操作信号を生成する処理は、前記制御情報を解析し、前記対象装置に対するマウス操作およびキー操作を行うための擬似的な操作信号を生成し、
前記操作信号を送信する処理は、前記操作信号を前記対象装置に送信することで、前記対象装置に対するマウス操作およびキー操作を実行することを特徴とする請求項6に記載の支援プログラム。
The control information further includes a series of key operations for executing a setting operation of the target device,
The process of generating the operation signal analyzes the control information, generates a pseudo operation signal for performing mouse operation and key operation on the target device,
The support program according to claim 6, wherein the process of transmitting the operation signal executes a mouse operation and a key operation on the target device by transmitting the operation signal to the target device.
前記制御情報は、前記対象装置の画面に対する撮影命令を更に含み、
前記撮影命令に応じて、撮像装置を利用して前記対象装置の画面の画像を示す比較先画像を取得し、前記比較先画像と所定の比較元画像との一致度を算出する処理を更にコンピュータに実行させ、
前記操作信号を送信する処理は、前記一致度に基づいて、前記操作信号を前記対象装置に送信することを特徴とする請求項6または7に記載の支援プログラム。
The control information further includes a shooting command for the screen of the target device,
In accordance with the photographing command, a computer further acquires a comparison destination image indicating an image of the screen of the target device using an imaging device, and calculates a degree of coincidence between the comparison destination image and a predetermined comparison source image To run
The support program according to claim 6 or 7, wherein the process of transmitting the operation signal transmits the operation signal to the target device based on the degree of coincidence.
前記操作信号を生成する処理は、マウス操作の前にマウスポインタを初期位置に移動させる擬似的な信号を前記操作信号に含ませることを特徴とする請求項6、7または8に記載の支援プログラム。   9. The support program according to claim 6, wherein the processing for generating the operation signal includes a pseudo signal for moving the mouse pointer to an initial position before the mouse operation in the operation signal. . 前記制御情報は待機時間の情報を含み、前記操作信号を生成する処理は、前記待機時間に応じて、前記操作信号を生成する時間間隔を調整することを特徴とする請求項6〜9のいずれか一つに記載の支援プログラム。   The control information includes standby time information, and the process of generating the operation signal adjusts a time interval for generating the operation signal according to the standby time. The support program as described in one. コンピュータが実行する支援方法であって、
対象装置の設定作業を実行する一連のマウス操作を予め記述した制御情報を解析し、解析結果に基づいて、前記対象装置に対するマウス操作を行うための擬似的な操作信号を生成し、
前記操作信号を前記対象装置に送信することで、前記対象装置に対するマウス操作を実行する
各処理を実行することを特徴とする支援方法。
A support method executed by a computer,
Analyzing the control information describing a series of mouse operations for performing the setting operation of the target device in advance, and generating a pseudo operation signal for performing the mouse operation on the target device based on the analysis result,
A support method comprising: performing each process of performing a mouse operation on the target device by transmitting the operation signal to the target device.
前記制御情報は、前記対象装置の設定作業を実行する一連のキー操作を更に含み、
前記操作信号を生成する処理は、前記制御情報を解析し、前記対象装置に対するマウス操作およびキー操作を行うための擬似的な操作信号を生成し、
前記操作信号を送信する処理は、前記操作信号を前記対象装置に送信することで、前記対象装置に対するマウス操作およびキー操作を実行することを特徴とする請求項11に記載の支援方法。
The control information further includes a series of key operations for executing a setting operation of the target device,
The process of generating the operation signal analyzes the control information, generates a pseudo operation signal for performing mouse operation and key operation on the target device,
12. The support method according to claim 11, wherein the process of transmitting the operation signal performs a mouse operation and a key operation on the target device by transmitting the operation signal to the target device.
前記制御情報は、前記対象装置の画面に対する撮影命令を更に含み、
前記撮影命令に応じて、撮像装置を利用して前記対象装置の画面の画像を示す比較先画像を取得し、前記比較先画像と所定の比較元画像との一致度を算出する処理を更に実行し、
前記操作信号を送信する処理は、前記一致度に基づいて、前記操作信号を前記対象装置に送信することを特徴とする請求項11または12に記載の支援方法。
The control information further includes a shooting command for the screen of the target device,
In response to the shooting command, the image acquisition device is used to acquire a comparison destination image indicating an image of the screen of the target device, and further execute a process of calculating the degree of coincidence between the comparison destination image and a predetermined comparison source image And
The support method according to claim 11 or 12, wherein in the process of transmitting the operation signal, the operation signal is transmitted to the target device based on the degree of coincidence.
前記操作信号を生成する処理は、マウス操作の前にマウスポインタを初期位置に移動させる擬似的な信号を前記操作信号に含ませることを特徴とする請求項11、12または13に記載の支援方法。   14. The support method according to claim 11, wherein the processing for generating the operation signal includes, in the operation signal, a pseudo signal for moving a mouse pointer to an initial position before a mouse operation. . 前記制御情報は待機時間の情報を含み、前記操作信号を生成する処理は、前記待機時間に応じて、前記操作信号を生成する時間間隔を調整することを特徴とする請求項11〜14のいずれか一つに記載の支援方法。   The control information includes information on a standby time, and the process for generating the operation signal adjusts a time interval for generating the operation signal according to the standby time. The support method as described in one.
JP2012031863A 2012-02-16 2012-02-16 Support device, support program and support method Pending JP2013168072A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012031863A JP2013168072A (en) 2012-02-16 2012-02-16 Support device, support program and support method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012031863A JP2013168072A (en) 2012-02-16 2012-02-16 Support device, support program and support method

Publications (1)

Publication Number Publication Date
JP2013168072A true JP2013168072A (en) 2013-08-29

Family

ID=49178412

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012031863A Pending JP2013168072A (en) 2012-02-16 2012-02-16 Support device, support program and support method

Country Status (1)

Country Link
JP (1) JP2013168072A (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017049773A (en) * 2015-09-01 2017-03-09 株式会社プロモート Kitting system, kitting program, and kitting method
JP2020077028A (en) * 2018-11-05 2020-05-21 株式会社Pfu emulator
JPWO2020246209A1 (en) * 2019-06-03 2020-12-10

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02242460A (en) * 1989-03-16 1990-09-26 Fujitsu Ltd Control information setting system
JPH09185527A (en) * 1995-12-29 1997-07-15 Nec Corp Operation evaluating method for computer system
JPH11149339A (en) * 1997-11-14 1999-06-02 Iisutec:Kk Personal computer operation reproduction device
JP2003280793A (en) * 2002-03-20 2003-10-02 Fujitsu Ltd Input device, and information input method for information processor
JP2003316577A (en) * 2002-04-19 2003-11-07 Fujitsu Ltd Customization system and customization method
JP2005202774A (en) * 2004-01-16 2005-07-28 Mitsubishi Electric Corp Production facility maintenance system, control device for production facility and information processor
JP2007086899A (en) * 2005-09-20 2007-04-05 Fujitsu Ltd Test result decision display method, test result decision display program and test device
JP2011198095A (en) * 2010-03-19 2011-10-06 Fujitsu Fsas Inc Customization support device
JP2011204139A (en) * 2010-03-26 2011-10-13 Fujitsu Fsas Inc Operation recording program and device

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02242460A (en) * 1989-03-16 1990-09-26 Fujitsu Ltd Control information setting system
JPH09185527A (en) * 1995-12-29 1997-07-15 Nec Corp Operation evaluating method for computer system
JPH11149339A (en) * 1997-11-14 1999-06-02 Iisutec:Kk Personal computer operation reproduction device
JP2003280793A (en) * 2002-03-20 2003-10-02 Fujitsu Ltd Input device, and information input method for information processor
JP2003316577A (en) * 2002-04-19 2003-11-07 Fujitsu Ltd Customization system and customization method
JP2005202774A (en) * 2004-01-16 2005-07-28 Mitsubishi Electric Corp Production facility maintenance system, control device for production facility and information processor
JP2007086899A (en) * 2005-09-20 2007-04-05 Fujitsu Ltd Test result decision display method, test result decision display program and test device
JP2011198095A (en) * 2010-03-19 2011-10-06 Fujitsu Fsas Inc Customization support device
JP2011204139A (en) * 2010-03-26 2011-10-13 Fujitsu Fsas Inc Operation recording program and device

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017049773A (en) * 2015-09-01 2017-03-09 株式会社プロモート Kitting system, kitting program, and kitting method
JP2020077028A (en) * 2018-11-05 2020-05-21 株式会社Pfu emulator
JP7185493B2 (en) 2018-11-05 2022-12-07 株式会社Pfu emulator
JPWO2020246209A1 (en) * 2019-06-03 2020-12-10
WO2020246209A1 (en) * 2019-06-03 2020-12-10 株式会社Pfu Setting terminal, setting method and program

Similar Documents

Publication Publication Date Title
EP2963513B1 (en) Teaching apparatus and robot system
CN108959068B (en) Software interface testing method, device and storage medium
CN107845113B (en) Target element positioning method and device and user interface testing method and device
US10030968B2 (en) Floor estimation for human computer interfaces
CN110851299A (en) Automatic flow exception eliminating method, device, equipment and storage medium
US11590657B2 (en) Image processing device, control method thereof, and program storage medium
CN110826372B (en) Face feature point detection method and device
JP2018026064A (en) Image processor, image processing method, system
US10817716B2 (en) Coarse-to-fine hand detection method using deep neural network
WO2016170618A1 (en) Automatic testing device
US11995428B2 (en) Method and system for providing image-based interoperability with an application
JP2015049776A (en) Image processor, image processing method and image processing program
CN105279514A (en) Robot system
JP2013168072A (en) Support device, support program and support method
CN112380094B (en) RPA business process processing method and device
WO2022100075A1 (en) Method and apparatus for performance test, electronic device and computer-readable medium
US20200402266A1 (en) Information processing device, information processing system, and non-transitory computer-readable medium storing information processing program
JPWO2016079833A1 (en) Abnormality detection apparatus, abnormality detection method, and abnormality detection program
EP3951616A1 (en) Identification information adding device, identification information adding method, and program
CN108805931B (en) Positioning detection method and device of AR product and computer readable storage medium
JP5266416B1 (en) Test system and test program
US10133953B2 (en) System and method for enabling graphic-based interoperability with a run-time application
CN113167568B (en) Coordinate calculation device, coordinate calculation method, and computer-readable recording medium
US20160241848A1 (en) Method of Testing Graphics Displayed by a Display Device
JP7350222B1 (en) Motion analysis device, motion analysis method, and motion analysis program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130624

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140115

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140212

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140326

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20140902

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20141127

A911 Transfer of reconsideration by examiner before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20141204

A912 Removal of reconsideration by examiner before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20141226

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150924