JP2016173619A - Application test device - Google Patents

Application test device Download PDF

Info

Publication number
JP2016173619A
JP2016173619A JP2015051960A JP2015051960A JP2016173619A JP 2016173619 A JP2016173619 A JP 2016173619A JP 2015051960 A JP2015051960 A JP 2015051960A JP 2015051960 A JP2015051960 A JP 2015051960A JP 2016173619 A JP2016173619 A JP 2016173619A
Authority
JP
Japan
Prior art keywords
image
operation screen
operation command
recording
component
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015051960A
Other languages
Japanese (ja)
Other versions
JP6257546B2 (en
Inventor
真理子 鶴▲崎▼
Mariko Tsurusaki
真理子 鶴▲崎▼
信之 三宅
Nobuyuki Miyake
信之 三宅
一生 冨澤
Kazuo Tomizawa
一生 冨澤
利宏 妻鹿
Toshihiro Mega
利宏 妻鹿
修一 村山
Shuichi Murayama
修一 村山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Mitsubishi Electric Building Solutions Corp
Original Assignee
Mitsubishi Electric Corp
Mitsubishi Electric Building Techno Service Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp, Mitsubishi Electric Building Techno Service Co Ltd filed Critical Mitsubishi Electric Corp
Priority to JP2015051960A priority Critical patent/JP6257546B2/en
Publication of JP2016173619A publication Critical patent/JP2016173619A/en
Application granted granted Critical
Publication of JP6257546B2 publication Critical patent/JP6257546B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Debugging And Monitoring (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide an application test device capable of accurately determining acceptance of a test result, even in a case where display is different by difference between execution environments at the time of operation recording and of reproducing.SOLUTION: An image matching processing unit 104, in a case where a component image, matching an image of a component in which difference occurs in display when an execution environment varies, exists in a capture image of an operation screen recorded in a capture image recording memory 103, records a position of the component image in the operation screen in a component position recording memory 105. A point position correction calculation unit 106 calculates a correction amount of a pointer position in reproducing, based on the difference between component image positions in the operation screen at the time of operation command recording and of reproducing. A collation tool 400 obtains a test result by using the operation screen in a case of reproducing an operation command where the pointer position has been corrected.SELECTED DRAWING: Figure 2

Description

本発明は、初回試験時のポインタ位置、クリック情報、キー押下情報等のGUI(Graphical User Interface)操作の内容と取得時刻とを記録し、その記録により操作を再生するGUI操作記録再生技術における試験結果の合否判定を行うアプリケーション試験装置に関するものである。   The present invention records the contents and acquisition time of GUI (Graphical User Interface) operations such as pointer position, click information, key press information, etc. at the time of the first test, and tests in the GUI operation recording / reproducing technology for reproducing the operation by the recording The present invention relates to an application test apparatus that performs pass / fail judgment of results.

近年、ソフトウェア開発における試験は自動化されている。試験の自動化において、試験操作や検証作業の工数削減、正確性の向上等が求められている。また、GUIアプリケーションにおいて画面を確認する試験が増えており、これらの画面の画像のパターンを比較することにより試験の自動化を効率化する方法がある(例えば、特許文献1参照)。このシステムでは、GUIの様々な画像パターンを用意しておき、試験スクリプトを実行した時のGUIの挙動と画像パターンを比較し、結果をログ情報として記録しておき、そのログ情報を解析することによって、エラーログに対し試験スクリプトを自動補正するようにしたものである。
また、クライアントとサーバを有するシステムにおいて、クライアント端末側で操作ログ及び操作画面を記録し、ログと表示を対応づける方法があった(例えば、特許文献2参照)。
In recent years, testing in software development has been automated. In the automation of tests, reduction of man-hours for test operation and verification work, improvement of accuracy, etc. are required. In addition, there are an increasing number of tests for checking screens in GUI applications, and there is a method for improving the efficiency of test automation by comparing patterns of images on these screens (see, for example, Patent Document 1). In this system, various image patterns of GUI are prepared, the behavior of the GUI when the test script is executed and the image pattern are compared, the result is recorded as log information, and the log information is analyzed The test script is automatically corrected for the error log.
Further, in a system having a client and a server, there has been a method of recording an operation log and an operation screen on the client terminal side and associating the log with a display (for example, see Patent Document 2).

特開2006−268666号公報JP 2006-268666 A 特開2009−237659号公報JP 2009-237659 A

しかしながら、操作コマンドを記録し、再送信により操作の記録と再生を行うGUI操作記録再生において、操作記録時と再生時で実行環境が異なる場合に、操作時のポインタ位置が異なり、操作再生時に正常に再生されないという課題があった。また、試験結果の検証を目的として、操作記録時と再生時の画面のキャプチャ画像を照合する場合、表示の違いにより結果を正確に判定できないという課題があった。   However, in GUI operation recording and playback in which operation commands are recorded and operations are recorded and played back by re-transmission, when the execution environment is different between operation recording and playback, the pointer position during operation is different and normal during operation playback. There was a problem of not being regenerated. In addition, when collating the captured images on the screen at the time of operation recording and playback for the purpose of verifying the test result, there is a problem that the result cannot be accurately determined due to a difference in display.

この発明は上記のような課題を解決するためになされたもので、操作記録時と再生時とで実行環境の違いにより表示が異なる場合でも、試験結果の合否判定を正確に行うことのできるアプリケーション試験装置を得ることを目的とする。   The present invention has been made to solve the above-described problems, and is an application that can accurately perform pass / fail determination of test results even when the display differs depending on the execution environment during operation recording and during playback. The purpose is to obtain test equipment.

この発明に係るアプリケーション試験装置は、アプリケーションへの操作コマンドで得られる操作画面中、実行環境が異なると表示に差異が生じる部品の画像に一致する部品画像が存在した場合、部品画像の操作画面中の位置を記録する画像マッチング処理部と、操作コマンドを記録再生した場合、操作コマンド再生時の操作画面中で部品画像に一致する部品画像が存在したとき、再生時の操作画面中の部品画像位置と、操作コマンド記録時に画像マッチング処理部で記録された操作画面中の部品画像位置との差により、再生時の操作コマンドのポインタ位置を補正するポインタ位置補正量算出部と、ポインタ位置を補正した状態で操作コマンドを再生して実行した操作画面と、操作コマンド記録時の操作画面とを照合して試験結果を得る照合ツールとを備えたものである。   In the application test apparatus according to the present invention, when there is a part image that matches a part image that causes a difference in display when the execution environment is different in the operation screen obtained by an operation command to the application, If the image matching processing unit that records the position of the image and the operation command is recorded and reproduced, and there is a component image that matches the component image in the operation screen during operation command reproduction, the component image position in the operation screen during reproduction And a pointer position correction amount calculation unit that corrects the pointer position of the operation command at the time of reproduction, and the pointer position is corrected based on the difference between the component image position in the operation screen recorded by the image matching processing unit when the operation command is recorded Check the operation screen that was played and executed in the state and the operation screen when recording the operation command to obtain the test result. It is obtained by a tool.

この発明のアプリケーション試験装置は、アプリケーションへの操作コマンドで得られる操作画面中、実行環境が異なると表示に差異が生じる部品の画像に一致する部品画像が存在した場合、部品画像の操作画面中の位置を記録し、操作コマンド記録時と再生時との操作画面中の部品画像位置の差に基づいて、再生時のポインタ位置を補正するようにしたので、操作記録時と再生時とで実行環境の違いにより表示が異なる場合でも、試験結果の合否判定を正確に行うことができる。   In the application test apparatus according to the present invention, in the operation screen obtained by the operation command to the application, when there is a component image that matches the image of the component that causes a difference in display when the execution environment is different, Since the position is recorded and the pointer position at the time of playback is corrected based on the difference in the part image position on the operation screen between when the operation command is recorded and when it is played back Even if the display is different due to the difference in the test results, it is possible to accurately determine whether the test results are acceptable.

この発明の実施の形態1によるアプリケーション試験装置を構成するためのシステムの構成図である。BRIEF DESCRIPTION OF THE DRAWINGS It is a block diagram of the system for comprising the application test apparatus by Embodiment 1 of this invention. この発明の実施の形態1によるアプリケーション試験装置の詳細を示す構成図である。It is a block diagram which shows the detail of the application test apparatus by Embodiment 1 of this invention. この発明の実施の形態1によるアプリケーション試験装置の動作を示すフローチャートである。It is a flowchart which shows operation | movement of the application test apparatus by Embodiment 1 of this invention. この発明の実施の形態1によるアプリケーション試験装置の動作内容の説明図である。It is explanatory drawing of the operation | movement content of the application test apparatus by Embodiment 1 of this invention. この発明の実施の形態2によるアプリケーション試験装置の詳細を示す構成図である。It is a block diagram which shows the detail of the application test apparatus by Embodiment 2 of this invention. この発明の実施の形態2によるアプリケーション試験装置の動作を示すフローチャートである。It is a flowchart which shows operation | movement of the application test apparatus by Embodiment 2 of this invention. この発明の実施の形態2によるアプリケーション試験装置の動作内容の説明図である。It is explanatory drawing of the operation | movement content of the application test apparatus by Embodiment 2 of this invention. この発明の実施の形態3によるアプリケーション試験装置の詳細を示す構成図である。It is a block diagram which shows the detail of the application test apparatus by Embodiment 3 of this invention. この発明の実施の形態3によるアプリケーション試験装置の動作を示すフローチャートである。It is a flowchart which shows operation | movement of the application test apparatus by Embodiment 3 of this invention. この発明の実施の形態3によるアプリケーション試験装置の動作内容の説明図である。It is explanatory drawing of the operation | movement content of the application test apparatus by Embodiment 3 of this invention.

実施の形態1.
図1は、この発明の実施の形態1によるアプリケーション試験装置を構成するためのシステム構成を示す図である。
実施の形態1のアプリケーション試験装置は、クライアント100とサーバ200と試験ツール300と照合ツール400とをLAN(ローカル・エリア・ネットワーク)500で接続することで構成されている。クライアント100はサーバ200への遠隔操作を行ってサーバ200からのデータを取得し、画面表示を行うコンピュータ端末である。サーバ200は、クライアント100からの入力内容に基づいて各種の処理を行い、その処理結果をクライアント100に送出するコンピュータ端末である。試験ツール300は、試験を行うためのGUI操作コマンドの記録指示や記録終了、また、記録したGUI操作の再生を行う際、クライアント100から記録された操作コマンドを読み出してサーバ200に再送信する機能を有するコンピュータ端末である。照合ツール400は、記録時と再生時の画像を照合することにより、試験結果判定を行うコンピュータ端末である。
Embodiment 1 FIG.
FIG. 1 is a diagram showing a system configuration for configuring an application test apparatus according to Embodiment 1 of the present invention.
The application test apparatus according to the first embodiment is configured by connecting a client 100, a server 200, a test tool 300, and a verification tool 400 via a LAN (local area network) 500. The client 100 is a computer terminal that performs remote operation on the server 200 to acquire data from the server 200 and displays the screen. The server 200 is a computer terminal that performs various processes based on the input content from the client 100 and sends the processing results to the client 100. The test tool 300 has a function of reading a recorded operation command from the client 100 and retransmitting it to the server 200 when recording a GUI operation command for recording and ending recording, and reproducing the recorded GUI operation. Is a computer terminal. The collation tool 400 is a computer terminal that performs test result determination by collating images during recording and reproduction.

実施の形態1では、遠隔操作システムとして、Virtual Network Computing(以下、VNCという)を使用する。VNCのコマンドはRFB(Remote Framebuffer)プロトコルで記述されるため、遠隔操作システムとして、VNCを使用すると、Windows(登録商標:以下記載を省略する)、Linux(登録商標:以下記載を省略する)等のマルチプラットフォームで使用することができる。   In the first embodiment, Virtual Network Computing (hereinafter referred to as VNC) is used as the remote operation system. Since VNC commands are described in the RFB (Remote Framebuffer) protocol, if VNC is used as a remote control system, Windows (registered trademark: description omitted below), Linux (registered trademark: description omitted below), etc. Can be used on multiple platforms.

サーバ200では、VNCサーバを起動し、クライアント100でVNCビューワを起動し、クライアント100からサーバ200に対して遠隔操作を行う。クライアント100からサーバ200に対して遠隔操作が行われると、更新されたサーバ200の画面のフレームバッファのデータがクライアント100に送信され、クライアント100の画面が更新される。このときの画面をキャプチャしておき、キャプチャした画像を照合ツール400で照合することによって試験結果を得る。本発明は、この遠隔操作システムを使用して、GUI操作の記録と再生を行い、キャプチャ画面の照合により試験結果の合否を自動判定する。   The server 200 activates the VNC server, activates the VNC viewer on the client 100, and performs remote operation from the client 100 to the server 200. When a remote operation is performed from the client 100 to the server 200, the updated frame buffer data of the screen of the server 200 is transmitted to the client 100, and the screen of the client 100 is updated. The screen at this time is captured, and the test result is obtained by collating the captured image with the collation tool 400. The present invention uses this remote operation system to record and play back GUI operations, and to automatically determine pass / fail of a test result by collating a capture screen.

図2は実施の形態1におけるアプリケーション試験装置の詳細を示す構成図である。クライアント100は、遠隔操作コマンド記録部101、遠隔操作コマンド記録メモリ102、キャプチャ画像記録メモリ103、画像マッチング処理部104、部品位置記録メモリ105、ポインタ位置補正量算出部106を備えている。また、部品画像データベース600は、環境が異なると表示に差異が生じる部品の画像を格納するデータベースである。なお、図示例では、部品画像データベース600をサーバ200やクライアント100、照合ツール400とは独立に設置しているが、クライアント100またはサーバ200に内蔵してもよい。   FIG. 2 is a configuration diagram showing details of the application test apparatus according to the first embodiment. The client 100 includes a remote operation command recording unit 101, a remote operation command recording memory 102, a captured image recording memory 103, an image matching processing unit 104, a component position recording memory 105, and a pointer position correction amount calculation unit 106. The component image database 600 is a database that stores images of components that are displayed differently in different environments. In the illustrated example, the component image database 600 is installed independently of the server 200, the client 100, and the collation tool 400, but may be built in the client 100 or the server 200.

クライアント100の遠隔操作コマンド記録部101は、クライアント100からサーバ200に対して送出した遠隔操作コマンドの記録を行う処理部であり、遠隔操作コマンド記録メモリ102は、その遠隔操作コマンドを記録するための記憶部である。キャプチャ画像記録メモリ103は、クライアント100からの遠隔操作コマンドによってサーバ200で処理された操作画面をキャプチャするメモリである。画像マッチング処理部104は、キャプチャ画像記録メモリ103に記録された画面と、部品画像データベース600に格納されている部品画像とのマッチングを行い、一致する部品画像があった場合に、その部品画像の画面上の位置を部品位置記録メモリ105に記録する処理部である。部品位置記録メモリ105は、画像マッチング処理部104によって求められた部品画像の画面内位置を記録するためのメモリである。ポインタ位置補正量算出部106は、遠隔操作コマンドの再生時、部品位置記録メモリ105に記録されている部品画像位置の遠隔操作コマンド記録時と再生時との位置のずれに基づいてポインタ位置の補正量を算出する処理部である。   The remote operation command recording unit 101 of the client 100 is a processing unit that records the remote operation command sent from the client 100 to the server 200, and the remote operation command recording memory 102 is for recording the remote operation command. It is a storage unit. The captured image recording memory 103 is a memory that captures an operation screen processed by the server 200 by a remote operation command from the client 100. The image matching processing unit 104 performs matching between the screen recorded in the captured image recording memory 103 and the part image stored in the part image database 600. If there is a matching part image, the part image A processing unit that records a position on the screen in the component position recording memory 105. The component position recording memory 105 is a memory for recording the position in the screen of the component image obtained by the image matching processing unit 104. The pointer position correction amount calculation unit 106 corrects the pointer position based on the positional deviation between the remote operation command recording and the reproduction of the component image position recorded in the component position recording memory 105 when the remote operation command is reproduced. It is a processing unit for calculating the quantity.

次に、このように構成された実施の形態1のアプリケーション試験装置の動作について説明する。
GUI操作記録再生を行う前の処理として、ダイアログやツールバー等の、環境が異なると表示に差異が生じるGUI部品の画像を部品画像データベース600に登録する。
クライアント100からサーバ200に対して遠隔操作を行うと、クライアント100から送信されたVNCコマンド(ポインタの位置情報、クリック情報、キー押し下げ情報、フレームバッファの更新要求等)をサーバ200が受信する。なお、各実施の形態では、ポインタの移動やクリック操作を行うポインティングデバイスをマウスとし、マウスボタンが押下された場合の情報をクリック情報として説明するが、ポインティングデバイスはマウスに限定されるものではない。また、クライアント100では、このVNCコマンドを遠隔操作コマンド記録部101で記録し、遠隔操作コマンド記録メモリ102に操作データとして保存する。さらに、このときの操作画面のキャプチャ画像はキャプチャ画像記録メモリ103に保存される。ここで、画像マッチング処理部104は、部品画像データベース600に格納されている部品画像とテンプレートマッチングを行い、キャプチャ画像内に一致する部品画像がある場合、その部品画像の座標を部品位置記録メモリ105に格納する。以上が、遠隔操作コマンド記録時の動作である。
Next, the operation of the application test apparatus according to the first embodiment configured as described above will be described.
As a process before performing GUI operation recording / reproduction, an image of a GUI component that causes a display difference when the environment is different, such as a dialog or a toolbar, is registered in the component image database 600.
When remote operation is performed from the client 100 to the server 200, the server 200 receives a VNC command (pointer position information, click information, key press information, frame buffer update request, etc.) transmitted from the client 100. In each embodiment, a pointing device that performs a pointer movement or click operation is described as a mouse, and information when the mouse button is pressed is described as click information. However, the pointing device is not limited to a mouse. . In the client 100, the VNC command is recorded by the remote operation command recording unit 101 and stored as operation data in the remote operation command recording memory 102. Further, the captured image of the operation screen at this time is stored in the captured image recording memory 103. Here, the image matching processing unit 104 performs template matching with the component image stored in the component image database 600, and if there is a matching component image in the captured image, the coordinates of the component image are stored in the component position recording memory 105. To store. The above is the operation when recording a remote operation command.

次に、遠隔操作コマンド再生時の動作を説明する。
試験ツール300で、クライアント100の遠隔操作コマンド記録メモリ102から操作コマンドを読み込み、サーバ200に再送信することによって、GUI操作を再生する際、画像マッチング処理部104は、マウスの操作コマンド送信直前の操作画面のキャプチャ画像をキャプチャ画像記録メモリ103より取得し、部品画像データベース600に格納されている部品画像とテンプレートマッチングを行う。ここで、キャプチャ画像内に一致する部品画像がある場合、遠隔操作コマンド記録時と同様に、一致する部品画像の座標を部品位置記録メモリ105に格納する。また、ポインタ位置補正量算出部106は、遠隔操作コマンド記録時と再生時における同じ部品画像の位置のずれ量をポインタ位置の補正量として算出する。また、このときの操作画面のキャプチャ画像はキャプチャ画像記録メモリ103に保存される。
Next, the operation at the time of remote operation command reproduction will be described.
When the test tool 300 reads an operation command from the remote operation command recording memory 102 of the client 100 and retransmits the operation command to the server 200 to reproduce the GUI operation, the image matching processing unit 104 immediately before transmitting the mouse operation command. A captured image of the operation screen is acquired from the captured image recording memory 103, and template matching is performed with a component image stored in the component image database 600. If there is a matching part image in the captured image, the coordinates of the matching part image are stored in the part position recording memory 105 as in the case of recording a remote operation command. The pointer position correction amount calculation unit 106 calculates the amount of deviation of the same component image position during remote operation command recording and playback as the pointer position correction amount. The captured image of the operation screen at this time is stored in the captured image recording memory 103.

図3は実施の形態1におけるアプリケーション試験装置の操作記録再生処理を示すフローチャートである。フローチャート中、ステップST100はGUI操作記録処理、ステップST200はGUI操作再生処理を示している。
また、図4は、実施の形態1におけるアプリケーション試験装置の操作記録再生処理の説明図であり、図中のステップ番号が図3のステップ番号に対応している。
FIG. 3 is a flowchart showing operation recording / reproduction processing of the application test apparatus according to the first embodiment. In the flowchart, step ST100 indicates a GUI operation recording process, and step ST200 indicates a GUI operation reproduction process.
FIG. 4 is an explanatory diagram of the operation recording / reproducing process of the application test apparatus in the first embodiment, and the step numbers in the figure correspond to the step numbers in FIG.

先ず、操作記録処理に先立ち、ダイアログやツールバー等の部品画像を部品画像データベース600に登録する(ステップST1)。
ステップST100のGUI操作記録処理では、クライアント100が試験ツール300から記録終了メッセージを受信するまで(ステップST101:No)、クライアント100の遠隔操作コマンド記録部101はVNCコマンドを記録して遠隔操作コマンド記録メモリ102に保存する(ステップST102)。また、キャプチャ画像記録メモリ103に操作画面のキャプチャ画像を保存すると共に、画像マッチング処理部104では、このキャプチャ画像を取得し(ステップST103)、部品画像データベース600に格納されている部品画像とキャプチャ画面においてテンプレートマッチングを行い、一致する部品画像の座標を算出し、記録を行う(ステップST104)。クライアント100では、試験ツール300から記録終了メッセージを受信する(ステップST101:Yes)と、遠隔操作コマンド記録メモリ102に保存されたVNCコマンド記録を試験ツール300に出力する(ステップST105)。
First, prior to the operation recording process, component images such as dialogs and toolbars are registered in the component image database 600 (step ST1).
In the GUI operation recording process of step ST100, until the client 100 receives a recording end message from the test tool 300 (step ST101: No), the remote operation command recording unit 101 of the client 100 records the VNC command and records the remote operation command. Save in the memory 102 (step ST102). In addition, the captured image of the operation screen is stored in the captured image recording memory 103, and the image matching processing unit 104 acquires the captured image (step ST103), and stores the component image stored in the component image database 600 and the capture screen. The template matching is performed at, and the coordinates of the matching part image are calculated and recorded (step ST104). When the client 100 receives the recording end message from the test tool 300 (step ST101: Yes), the client 100 outputs the VNC command record stored in the remote operation command recording memory 102 to the test tool 300 (step ST105).

ステップST200のGUI操作再生処理では、試験ツール300が、操作再生処理の開始後、操作コマンドが末尾に達するまで(ステップST201:No)、VNCコマンドを再送信する(ステップST203)ことによって操作再生を行う。このとき、マウスの操作がクリックコマンドの場合(ステップST202:Yes)、画像マッチング処理部104で部品画像とキャプチャ画面においてテンプレートマッチングを行って、一致する部品画像の座標を算出して部品位置記録メモリ105に記録する(ステップST204)。また、ポインタ位置補正量算出部106は、記録時と再生時の対応する部品画像の座標を部品位置記録メモリ105から読み込み、記録時と再生時の部品画像のずれ量をポインタ位置の補正量として算出する(ステップST205)。これにより、試験ツール300は、算出された補正量に基づいてポインタ位置を補正してVNCコマンドの再送信を行い(ステップST203)、ステップST201に戻り、これを操作コマンド末尾まで行う(ステップST201:Yes)。   In the GUI operation reproduction process in step ST200, the test tool 300 performs operation reproduction by retransmitting the VNC command (step ST203) until the operation command reaches the end after the operation reproduction process is started (step ST201: No). Do. At this time, if the mouse operation is a click command (step ST202: Yes), the image matching processing unit 104 performs template matching on the component image and the capture screen, calculates the coordinates of the matching component image, and calculates the component position recording memory. 105 (step ST204). Further, the pointer position correction amount calculation unit 106 reads the coordinates of the corresponding component images at the time of recording and reproduction from the component position recording memory 105, and uses the deviation amount of the component images at the time of recording and reproduction as the correction amount of the pointer position. Calculate (step ST205). Thereby, the test tool 300 corrects the pointer position based on the calculated correction amount, retransmits the VNC command (step ST203), returns to step ST201, and performs this to the end of the operation command (step ST201: Yes).

照合ツール400は、ポインタ位置が補正されたコマンドによる操作画面のキャプチャ画像と、記録時の操作画面のキャプチャ画像と照合し、試験結果とする(ステップST300)。   The collation tool 400 collates the captured image of the operation screen by the command with the corrected pointer position with the captured image of the operation screen at the time of recording, and obtains a test result (step ST300).

このように、実施の形態1のアプリケーション試験装置では、ソフトウェア開発において、回帰試験または環境リプレース時の試験の初回GUI操作を記録し、自動再生することによって、操作手順を削減することができ、変更後のGUI操作を行う分の試験工数を削減することができる。また、VNCはマルチプラットフォームで動作するので、Windows、Linux、Android(登録商標)等のOSで適用することが可能である。   As described above, in the application test apparatus of the first embodiment, in software development, the initial GUI operation of the regression test or the test at the time of environmental replacement is recorded and automatically played back, so that the operation procedure can be reduced and changed. It is possible to reduce the number of test steps for the subsequent GUI operation. Since VNC operates on a multi-platform, it can be applied to an OS such as Windows, Linux, and Android (registered trademark).

以上説明したように、実施の形態1のアプリケーション試験装置によれば、アプリケーションへの操作コマンドで得られる操作画面中、実行環境が異なると表示に差異が生じる部品の画像に一致する部品画像が存在した場合、部品画像の操作画面中の位置を記録する画像マッチング処理部と、操作コマンドを記録再生した場合、操作コマンド再生時の操作画面中で部品画像に一致する部品画像が存在したとき、再生時の操作画面中の部品画像位置と、操作コマンド記録時に画像マッチング処理部で記録された操作画面中の部品画像位置との差により、再生時の操作コマンドのポインタ位置を補正するポインタ位置補正量算出部と、ポインタ位置を補正した状態で操作コマンドを再生して実行した操作画面と、操作コマンド記録時の操作画面とを照合して試験結果を得る照合ツールとを備えたので、操作記録時と再生時とで実行環境の違いにより表示が異なる場合でも、操作再生を正常に行うことができ、従って、試験結果の合否判定を正確に行うことができる。   As described above, according to the application test apparatus of the first embodiment, in the operation screen obtained by the operation command to the application, there is a component image that matches the image of the component that causes a difference in display when the execution environment is different. If the image matching processing unit that records the position of the part image on the operation screen and the operation command is recorded and played back, playback is performed when there is a part image that matches the part image on the operation screen when the operation command is played back. Position correction amount to correct the pointer position of the operation command during playback based on the difference between the part image position in the operation screen at the time and the part image position in the operation screen recorded by the image matching processing unit when the operation command is recorded A calculation unit, an operation screen that is played back and executed with the pointer position corrected, and an operation screen when the operation command is recorded. A collation tool that collates and obtains test results, so that even if the display differs depending on the execution environment during operation recording and playback, operation playback can be performed normally. Judgment can be made accurately.

また、実施の形態1のアプリケーション試験装置によれば、アプリケーションへの操作コマンドとして遠隔操作コマンドを送出するクライアントと、遠隔操作コマンドに対応した処理を行って操作画面データをクライアントに送出するサーバとを備え、画像マッチング処理部とポインタ位置補正量算出部をクライアントに設けたので、クライアントとサーバとからなるシステムにおいて、操作記録時と再生時とで実行環境の違いにより表示が異なる場合でも、試験結果の合否判定を正確に行うことができる。   In addition, according to the application test apparatus of the first embodiment, a client that sends a remote operation command as an operation command to an application, and a server that performs processing corresponding to the remote operation command and sends operation screen data to the client. Since the image matching processing unit and the pointer position correction amount calculation unit are provided on the client, even if the display differs depending on the execution environment in operation recording and playback in a system consisting of a client and a server, the test results It is possible to accurately perform the pass / fail determination.

実施の形態2.
実施の形態2のアプリケーション試験装置は、環境が異なると表示に差異が生じる部品の画像は記録時と再生時にマスクして試験を行うようにしたものである。
Embodiment 2. FIG.
In the application test apparatus according to the second embodiment, a test is performed by masking an image of a part whose display is different when the environment is different during recording and reproduction.

図5は、実施の形態2のアプリケーション試験装置の詳細を示す構成図である。実施の形態2のアプリケーション試験装置は、クライアント100、サーバ200、試験ツール300及び部品画像データベース600については実施の形態1と同様であるため、対応する部分に同一符号を付してその説明を省略する。   FIG. 5 is a configuration diagram illustrating details of the application test apparatus according to the second embodiment. The application test apparatus of the second embodiment is the same as that of the first embodiment with respect to the client 100, the server 200, the test tool 300, and the component image database 600. To do.

実施の形態2の照合ツール400aは、マスク画像生成部401、編集画像記録メモリ402、画像照合処理部403を備えている。マスク画像生成部401は、クライアント100のキャプチャ画像記録メモリ103から、記録時と再生時のキャプチャ画像を読み出すと共に、部品画像データベース600から部品画像を読み出し、記録時と再生時のキャプチャ画像の中で、部品画像データベース600に格納されている部品画像と一致する部品があった場合はこれをマスクした操作画面を生成する処理部である。編集画像記録メモリ402は、マスク画像生成部401で生成された記録時と再生時の操作画面を記録するためのメモリである。画像照合処理部403は、編集画像記録メモリ402に保存された記録時と再生時の操作画面を照合し、試験結果判定を行う処理部である。   A collation tool 400a according to the second embodiment includes a mask image generation unit 401, an edited image recording memory 402, and an image collation processing unit 403. The mask image generation unit 401 reads the captured images at the time of recording and playback from the captured image recording memory 103 of the client 100, and also reads the component images from the component image database 600, and among the captured images at the time of recording and playback. When there is a part that matches the part image stored in the part image database 600, the processing unit generates an operation screen masking the part image. The edited image recording memory 402 is a memory for recording an operation screen at the time of recording and reproduction generated by the mask image generation unit 401. The image collation processing unit 403 is a processing unit that collates the recording operation screen and the reproduction operation screen stored in the edited image recording memory 402 to determine a test result.

図6は実施の形態2におけるアプリケーション試験装置の操作記録再生処理及び照合処理を示すフローチャートである。フローチャート中、ステップST100aはGUI操作記録処理、ステップST200aはGUI操作再生処理、ステップST300aはキャプチャ画面照合処理を示している。なお、実施の形態2においても、実施の形態1で説明したポインタ位置の補正量算出処理を同様に行うが、図6のフローチャートでは、この補正量算出処理に関するGUI操作記録処理(ステップST100a)及びGUI操作再生処理(ステップST200a)中のステップは省略している。
また、図7は、実施の形態2におけるアプリケーション試験装置の操作記録再生処理の説明図であり、図中のステップ番号が図6のステップ番号に対応している。
FIG. 6 is a flowchart showing an operation recording / reproducing process and a collating process of the application test apparatus according to the second embodiment. In the flowchart, step ST100a indicates a GUI operation recording process, step ST200a indicates a GUI operation reproduction process, and step ST300a indicates a capture screen collation process. In the second embodiment, the pointer position correction amount calculation process described in the first embodiment is performed in the same manner. However, in the flowchart of FIG. 6, the GUI operation recording process (step ST100a) and the correction amount calculation process are performed. Steps in the GUI operation reproduction process (step ST200a) are omitted.
FIG. 7 is an explanatory diagram of the operation recording / playback processing of the application test apparatus in the second embodiment, and the step numbers in the figure correspond to the step numbers in FIG.

先ず、操作記録処理に先立ち、ダイアログやツールバー等の部品画像を部品画像データベース600に登録する(ステップST1)。これは実施の形態1と同様である。
次に、ステップST100aのGUI操作記録処理では、クライアント100が試験ツール300から記録終了メッセージを受信するまで(ステップST101:No)、クライアント100の遠隔操作コマンド記録部101はVNCコマンドを記録して遠隔操作コマンド記録メモリ102に保存する(ステップST102)。また、記録終了メッセージを受信するまで、キャプチャ画像記録メモリ103に操作画面のキャプチャ画像を保存する(ステップST106)。クライアント100では、試験ツール300から記録終了メッセージを受信する(ステップST101:Yes)と、遠隔操作コマンド記録メモリ102に保存されたVNCコマンド記録を出力する(ステップST105)。
First, prior to the operation recording process, component images such as dialogs and toolbars are registered in the component image database 600 (step ST1). This is the same as in the first embodiment.
Next, in the GUI operation recording process in step ST100a, until the client 100 receives a recording end message from the test tool 300 (step ST101: No), the remote operation command recording unit 101 of the client 100 records the VNC command and remotely It is stored in the operation command recording memory 102 (step ST102). Further, until the recording end message is received, the captured image of the operation screen is stored in the captured image recording memory 103 (step ST106). When the client 100 receives the recording end message from the test tool 300 (step ST101: Yes), the client 100 outputs the VNC command record stored in the remote operation command recording memory 102 (step ST105).

ステップST200aのGUI操作再生処理では、操作再生処理の開始後、操作コマンドが末尾に達するまで(ステップST201:No)、VNCコマンドを再送信する(ステップST203)ことによって操作再生が行われる。操作コマンドが末尾に達すると(ステップST201:Yes)、次の照合処理に移行する。   In the GUI operation reproduction process in step ST200a, operation reproduction is performed by retransmitting the VNC command (step ST203) until the operation command reaches the end after the operation reproduction process is started (step ST201: No). When the operation command reaches the end (step ST201: Yes), the process proceeds to the next collation process.

ステップST300aの照合処理では、照合ツール400aのマスク画像生成部401が、クライアント100のキャプチャ画像記録メモリ103から操作記録時と再生時それぞれの画像を読み込み、それぞれ部品画像データベース600に登録された部品画像とテンプレートマッチングを行い(ステップST302)、一致領域にマスク処理を行って、そのマスク画像を編集画像記録メモリ402に格納する(ステップST303)。次に、画像照合処理部403は、編集画像記録メモリ402からマスク処理後の記録時と再生時それぞれの画像を読み込み、照合を行う(ステップST304)。これらの処理を最後の照合画像のペアが完了するまで(ステップST301:Yes)行う。   In the collation process of step ST300a, the mask image generation unit 401 of the collation tool 400a reads the images at the time of operation recording and reproduction from the captured image recording memory 103 of the client 100, and the component images registered in the component image database 600, respectively. Template matching is performed (step ST302), mask processing is performed on the matching area, and the mask image is stored in the edited image recording memory 402 (step ST303). Next, the image collation processing unit 403 reads the respective images at the time of recording and reproduction after the mask processing from the edited image recording memory 402, and performs collation (step ST304). These processes are performed until the last pair of collation images is completed (step ST301: Yes).

以上説明したように、実施の形態2のアプリケーション試験装置によれば、操作コマンド記録時及び操作コマンド再生時の操作画面中、実行環境が異なると表示に差異が生じる部品の画像に一致する部品画像が存在した場合、操作画面中の部品画像をマスクした操作画面を生成するマスク画像生成部と、マスク画像生成部で生成された操作コマンド記録時の操作画面と操作コマンド再生時の操作画面とを照合して試験結果を得る画像照合処理部とを備えたので、操作記録時と再生時とで実行環境の違いにより表示が異なる場合でも、試験結果の合否判定を正確に行うことができる。   As described above, according to the application test apparatus of the second embodiment, in the operation screen at the time of operation command recording and operation command playback, the component image that matches the image of the component that causes a difference in display when the execution environment is different The mask image generation unit that generates an operation screen that masks the component image in the operation screen, the operation screen that is generated by the mask image generation unit, and the operation screen that is displayed when the operation command is reproduced. Since the image collation processing unit for collating and obtaining the test result is provided, it is possible to accurately perform the pass / fail judgment of the test result even when the display differs depending on the execution environment during operation recording and during reproduction.

また、実施の形態2のアプリケーション試験装置によれば、アプリケーションへの操作コマンドとして遠隔操作コマンドを送出するクライアントと、遠隔操作コマンドに対応した処理を行って操作画面データをクライアントに送出するサーバと、遠隔操作コマンドを記録再生した際の試験を行う照合ツールとを備え、マスク画像生成部と画像照合処理部を照合ツールに設けたので、クライアントとサーバと照合ツールからなるシステムにおいて、操作記録時と再生時とで実行環境の違いにより表示が異なる場合でも、試験結果の合否判定を正確に行うことができる。   Further, according to the application test apparatus of the second embodiment, a client that sends a remote operation command as an operation command to the application, a server that performs processing corresponding to the remote operation command and sends operation screen data to the client, A collation tool for performing a test when recording and reproducing a remote operation command, and a mask image generation unit and an image collation processing unit are provided in the collation tool. Even when the display differs depending on the execution environment at the time of reproduction, the pass / fail judgment of the test result can be performed accurately.

実施の形態3.
実施の形態3のアプリケーション試験装置は、環境が異なると表示に差異が生じる部品の画像を含んだ操作画面に対して、記録時または再生時に異なる環境に対応した予測画像を生成し、この予測画像を用いて試験するようにしたものである。
Embodiment 3 FIG.
The application test apparatus according to the third embodiment generates a prediction image corresponding to a different environment at the time of recording or reproduction, for an operation screen including an image of a component whose display is different when the environment is different. It is intended to test using.

図8は、実施の形態3のアプリケーション試験装置の詳細を示す構成図である。ここで、クライアント100、サーバ200、試験ツール300及び部品画像データベース600は、実施の形態1、2と同様であるため、対応する部分に同一符号を付してその説明を省略する。   FIG. 8 is a configuration diagram illustrating details of the application test apparatus according to the third embodiment. Here, since the client 100, the server 200, the test tool 300, and the component image database 600 are the same as those in the first and second embodiments, the corresponding parts are denoted by the same reference numerals and description thereof is omitted.

実施の形態3の照合ツール400bは、予測画像生成部404、編集画像記録メモリ402a、画像照合処理部403aを備えている。予測画像生成部404は、クライアント100のキャプチャ画像記録メモリ103から、記録時または再生時のキャプチャ画像を読み出すと共に、部品画像データベース600から部品画像を読み出し、記録時または再生時のキャプチャ画像の中で、部品画像データベース600に格納されている部品画像と一致する部品画像が含まれていた場合は記録時の操作画面または再生時の操作画面に対して予測画像を生成し、この予測画像を編集画像記録メモリ402aに格納する処理部である。なお、部品画像データベース600には、記録時及び再生時の環境に対応させた部品画像が登録されているものとする。   A collation tool 400b according to Embodiment 3 includes a predicted image generation unit 404, an edited image recording memory 402a, and an image collation processing unit 403a. The predicted image generation unit 404 reads a captured image at the time of recording or reproduction from the captured image recording memory 103 of the client 100, and also reads out a component image from the component image database 600, and among the captured images at the time of recording or reproduction. When a component image that matches the component image stored in the component image database 600 is included, a predicted image is generated on the operation screen at the time of recording or the operation screen at the time of reproduction, and the predicted image is edited. A processing unit stored in the recording memory 402a. In the component image database 600, it is assumed that component images corresponding to the recording and reproduction environments are registered.

編集画像記録メモリ402aは、予測画像生成部404で生成された予測画像を含む操作画面のデータを保存するためのメモリである。画像照合処理部403aは、編集画像記録メモリ402aに保存された予測画像を含む操作画面と、キャプチャ画像記録メモリ103に格納されている予測画像の生成を行わなかった方の操作画面とを照合し、試験結果判定を行う処理部である。   The edited image recording memory 402 a is a memory for storing operation screen data including the predicted image generated by the predicted image generation unit 404. The image matching processing unit 403a compares the operation screen including the predicted image stored in the edited image recording memory 402a with the operation screen on which the predicted image stored in the captured image recording memory 103 has not been generated. A processing unit that performs test result determination.

すなわち、実施の形態3では、予測画像生成部404が、操作記録時または再生時の画像について、ダイアログやツールバー等の表示に差異が生じる部分を検出し、その部分に対応する部品画像を合成することによって、予測画像を生成する。そして、画像照合処理部403aが、予測画像の生成を行わなかった方の画像と照合を行うようにしたものである。従って、記録時の画像について予測画像の生成を行った場合は、記録時画像の予測画像と再生時のオリジナルの画像と照合を行い、一方、再生時の画像について予測画像の生成を行った場合は、記録時のオリジナルの画像と再生時画像の予測画像との照合を行う。   That is, in the third embodiment, the predicted image generation unit 404 detects a part where a difference in display of a dialog, a toolbar, or the like is detected in an operation recording or playback image, and synthesizes a component image corresponding to the part. Thus, a predicted image is generated. And the image collation process part 403a collates with the image which did not produce | generate a prediction image. Therefore, when the predicted image is generated for the image at the time of recording, the predicted image of the image at the time of recording is compared with the original image at the time of reproduction, while the predicted image is generated for the image at the time of reproduction. Verifies the original image at the time of recording with the predicted image of the image at the time of reproduction.

図9は実施の形態3におけるアプリケーション試験装置の操作記録再生処理及び照合処理を示すフローチャートである。フローチャート中、ステップST100aはGUI操作記録処理、ステップST200aはGUI操作再生処理、ステップST300bはキャプチャ画面照合処理を示している。なお、実施の形態3においても、操作記録時に予測画像を生成し、再生時の操作画面と照合する場合は、実施の形態1で説明したポインタ位置の補正量算出処理を同様に行うが、図9のフローチャートでは、この補正量算出処理に関するGUI操作記録処理(ステップST100a)及びGUI操作再生処理(ステップST200a)中のステップは省略している。
また、図10は、実施の形態3におけるアプリケーション試験装置の操作記録再生処理の説明図であり、図中のステップ番号が図9のステップ番号に対応している。また、図10の処理は、操作記録時に予測画像を生成し、再生時の操作画面と照合する例を示している。
FIG. 9 is a flowchart showing operation recording / reproduction processing and collation processing of the application test apparatus according to the third embodiment. In the flowchart, step ST100a indicates a GUI operation recording process, step ST200a indicates a GUI operation reproduction process, and step ST300b indicates a capture screen collation process. Also in the third embodiment, when a predicted image is generated at the time of operation recording and collated with an operation screen at the time of reproduction, the pointer amount correction amount calculation processing described in the first embodiment is performed in the same manner. In the flowchart of FIG. 9, the steps in the GUI operation recording process (step ST100a) and the GUI operation reproduction process (step ST200a) related to the correction amount calculation process are omitted.
FIG. 10 is an explanatory diagram of the operation recording / reproducing process of the application test apparatus in the third embodiment, and the step numbers in the figure correspond to the step numbers in FIG. Further, the process of FIG. 10 shows an example in which a predicted image is generated during operation recording and collated with an operation screen during reproduction.

図9のフローチャートにおいて、先ず、操作記録処理に先立ち、ダイアログやツールバー等の部品画像を部品画像データベース600に登録する(ステップST1)。これは実施の形態1、2と同様である。また、次のステップST100aのGUI操作記録処理とステップST200aのGUI操作再生処理は、実施の形態2と同様である。   In the flowchart of FIG. 9, first, prior to the operation recording process, component images such as dialogs and toolbars are registered in the component image database 600 (step ST1). This is the same as in the first and second embodiments. Further, the GUI operation recording process in the next step ST100a and the GUI operation reproduction process in step ST200a are the same as those in the second embodiment.

ステップST300bの照合処理では、照合ツール400bの予測画像生成部404が、クライアント100のキャプチャ画像記録メモリ103から操作記録時の画像を読み込み、部品画像データベース600に登録された部品画像とテンプレートマッチングを行い(ステップST302)、その一致箇所について、部品画像データベース600内の対応する部品を合成することによって、予測画像を生成し、予測画像の操作画面を編集画像記録メモリ402aに格納する(ステップST305)。次に、画像照合処理部403aは、編集画像記録メモリ402aから予測画像の操作画面を読み込むと共に、再生時の操作画面をキャプチャ画像記録メモリ103から読み込み、これら操作画面の照合を行う(ステップST304)。これらの処理を最後の照合画像のペアが完了するまで(ステップST301:Yes)行う。   In the collation processing in step ST300b, the predicted image generation unit 404 of the collation tool 400b reads the operation recording image from the captured image recording memory 103 of the client 100, and performs template matching with the component image registered in the component image database 600. (Step ST302) By synthesizing corresponding parts in the part image database 600 for the matching portion, a predicted image is generated, and the operation screen of the predicted image is stored in the edited image recording memory 402a (step ST305). Next, the image collation processing unit 403a reads the operation screen for the predicted image from the edited image recording memory 402a, and also reads the operation screen for reproduction from the captured image recording memory 103, and collates these operation screens (step ST304). . These processes are performed until the last pair of collation images is completed (step ST301: Yes).

なお、予測画像生成部404が再生時の操作画面に対して予測画像を生成する場合、画像照合処理部403aは、操作時の操作画面を画像記憶部であるキャプチャ画像記録メモリ103から読み込み、編集画像記録メモリ402aから読み出した再生時の予測画像を生成した操作画面と照合を行うことで、同様の効果が得られる。また、この場合は、実施の形態1で説明したポインタ位置の補正量算出処理及びこれに基づくポインタ位置の補正処理を行う必要がない。   When the predicted image generation unit 404 generates a predicted image for the operation screen at the time of reproduction, the image matching processing unit 403a reads the operation screen at the time of operation from the captured image recording memory 103 which is an image storage unit, and edits it. The same effect can be obtained by performing collation with the operation screen that generated the predicted image at the time of reproduction read from the image recording memory 402a. In this case, it is not necessary to perform the pointer position correction amount calculation processing and the pointer position correction processing based on the pointer position correction processing described in the first embodiment.

また、実施の形態3において、操作記録時に予測画像を生成し、再生時の操作画面と照合する場合、予測画像生成部404における予測画像の予測値を用いてポインタ位置の補正を行うよう構成してもよい。   In the third embodiment, when a predicted image is generated at the time of operation recording and collated with an operation screen at the time of reproduction, the predicted position of the predicted image in the predicted image generation unit 404 is used to correct the pointer position. May be.

以上説明したように、実施の形態3のアプリケーション試験装置によれば、実行環境が異なると表示に差異が生じる部品の画像に一致する部品画像が存在した場合、部品画像の操作画面中の位置を異なる実行環境に対応させて予測した画面を予測操作画面として生成する予測画像生成部と、操作コマンド再生時の操作画面と、操作コマンド記録時に生成した予測操作画面とを照合して試験結果を得る画像照合処理部とを備えたので、操作記録時と再生時とで実行環境の違いにより表示が異なる場合でも、試験結果の合否判定を正確に行うことができる。   As described above, according to the application test apparatus of the third embodiment, when there is a part image that matches a part image that causes a difference in display when the execution environment is different, the position of the part image on the operation screen is determined. A test image is obtained by collating a predicted image generation unit that generates a predicted screen corresponding to a different execution environment as a predicted operation screen, an operation screen during operation command playback, and a predicted operation screen generated during operation command recording. Since the image collation processing unit is provided, it is possible to accurately determine whether or not the test result is acceptable even when the display differs depending on the execution environment during operation recording and during reproduction.

また、実施の形態3のアプリケーション試験装置によれば、アプリケーションへの操作コマンドで得られる操作画面中、実行環境が異なると表示に差異が生じる部品の画像に一致する部品画像が存在した場合、操作画面を記録する画像記憶部と、操作コマンドを記録再生した場合、操作コマンド再生時の操作画面中で部品画像に一致する部品画像が存在したとき、再生時の操作画面中の部品画像の位置を異なる実行環境に対応させて予測した画面を予測操作画面として生成する予測画像生成部と、予測操作画面と、画像記憶部に記録された操作画面とを照合して試験結果を得る画像照合処理部とを備えたので、操作記録時と再生時とで実行環境の違いにより表示が異なる場合でも、試験結果の合否判定を正確に行うことができる。   In addition, according to the application test apparatus of the third embodiment, when there is a part image that matches a part image that causes a display difference when the execution environment is different in an operation screen obtained by an operation command to the application, When the image storage unit that records the screen and the operation command is recorded and played back, if there is a part image that matches the part image in the operation screen when the operation command is played back, the position of the part image in the operation screen at the time of playback is displayed. A predicted image generation unit that generates a predicted operation screen corresponding to a different execution environment as a predicted operation screen, an image verification processing unit that obtains test results by comparing the predicted operation screen and the operation screen recorded in the image storage unit Therefore, even if the display differs depending on the execution environment during operation recording and during reproduction, the pass / fail judgment of the test result can be performed accurately.

また、実施の形態3のアプリケーション試験装置によれば、アプリケーションへの操作コマンドとして遠隔操作コマンドを送出するクライアントと、遠隔操作コマンドに対応した処理を行って操作画面データをクライアントに送出するサーバと、遠隔操作コマンドを記録再生した際の試験を行う照合ツールとを備え、予測画像生成部と画像照合処理部を照合ツールに設けたので、クライアントとサーバと照合ツールからなるシステムにおいて、操作記録時と再生時とで実行環境の違いにより表示が異なる場合でも、試験結果の合否判定を正確に行うことができる。   Further, according to the application test apparatus of the third embodiment, a client that sends a remote operation command as an operation command to the application, a server that performs processing corresponding to the remote operation command and sends operation screen data to the client, A collation tool for performing a test when recording and reproducing a remote operation command, and the collation tool is provided with a predicted image generation unit and an image collation processing unit. Even when the display differs depending on the execution environment at the time of reproduction, the pass / fail judgment of the test result can be performed accurately.

また、実施の形態2及び実施の形態3において、部品画像データベース600をクライアント100またはサーバ200、あるいは照合ツール400に設けてもよい。   In the second and third embodiments, the component image database 600 may be provided in the client 100 or the server 200 or the collation tool 400.

なお、本願発明はその発明の範囲内において、各実施の形態の自由な組み合わせ、あるいは各実施の形態の任意の構成要素の変形、もしくは各実施の形態において任意の構成要素の省略が可能である。   In the present invention, within the scope of the invention, any combination of the embodiments, or any modification of any component in each embodiment, or omission of any component in each embodiment is possible. .

100,100a クライアント、101 遠隔操作コマンド記録部、102 遠隔操作コマンド記録メモリ、103 キャプチャ画像記録メモリ、104 画像マッチング処理部、105 部品位置記録メモリ、106 ポインタ位置補正量算出部、200 サーバ、300 試験ツール、400,400a,400b 照合ツール、401 マスク画像生成部、402,402a 編集画像記録メモリ、403,403a 画像照合処理部、404 予測画像生成部、500 LAN、600 部品画像データベース。   100, 100a Client, 101 Remote operation command recording unit, 102 Remote operation command recording memory, 103 Capture image recording memory, 104 Image matching processing unit, 105 Component position recording memory, 106 Pointer position correction amount calculation unit, 200 server, 300 test Tool, 400, 400a, 400b Collation tool, 401 Mask image generation unit, 402, 402a Edit image recording memory, 403, 403a Image collation processing unit, 404 Predictive image generation unit, 500 LAN, 600 Component image database.

Claims (7)

アプリケーションへの操作コマンドで得られる操作画面中、実行環境が異なると表示に差異が生じる部品の画像に一致する部品画像が存在した場合、当該部品画像の前記操作画面中の位置を記録する画像マッチング処理部と、
前記操作コマンドを記録再生した場合、操作コマンド再生時の操作画面中で前記部品画像に一致する部品画像が存在したとき、当該再生時の操作画面中の部品画像位置と、操作コマンド記録時に前記画像マッチング処理部で記録された前記操作画面中の部品画像位置との差により、前記再生時の操作コマンドのポインタ位置を補正するポインタ位置補正量算出部と、
前記ポインタ位置を補正した状態で前記操作コマンドを再生して実行した操作画面と、前記操作コマンド記録時の操作画面とを照合して試験結果を得る照合ツールとを備えたことを特徴とするアプリケーション試験装置。
Image matching that records the position of the part image in the operation screen when there is a part image that matches the image of the part that is displayed differently when the execution environment is different. A processing unit;
When the operation command is recorded and reproduced, if there is a component image that matches the component image in the operation screen at the time of reproducing the operation command, the position of the component image in the operation screen at the time of reproduction and the image at the time of recording the operation command A pointer position correction amount calculation unit that corrects the pointer position of the operation command at the time of reproduction based on the difference from the component image position in the operation screen recorded by the matching processing unit;
An application comprising: an operation screen obtained by reproducing and executing the operation command in a state where the pointer position is corrected; and a collation tool for obtaining a test result by collating the operation screen at the time of recording the operation command. Test equipment.
前記アプリケーションへの操作コマンドとして遠隔操作コマンドを送出するクライアントと、当該遠隔操作コマンドに対応した処理を行って操作画面データを前記クライアントに送出するサーバとを備え、
前記画像マッチング処理部と前記ポインタ位置補正量算出部を前記クライアントに設けたことを特徴とする請求項1記載のアプリケーション試験装置。
A client that sends a remote operation command as an operation command to the application, and a server that performs processing corresponding to the remote operation command and sends operation screen data to the client.
The application test apparatus according to claim 1, wherein the image matching processing unit and the pointer position correction amount calculation unit are provided in the client.
前記操作コマンド記録時及び前記操作コマンド再生時の操作画面中、前記実行環境が異なると表示に差異が生じる部品の画像に一致する部品画像が存在した場合、前記操作画面中の当該部品画像をマスクした操作画面を生成するマスク画像生成部と、
前記マスク画像生成部で生成された前記操作コマンド記録時の操作画面と前記操作コマンド再生時の操作画面とを照合して試験結果を得る画像照合処理部とを備えたことを特徴とする請求項1または請求項2記載のアプリケーション試験装置。
If there is a part image that matches the image of a part that causes a difference in display in the operation screen at the time of recording the operation command and at the time of reproducing the operation command, the part image on the operation screen is masked. A mask image generation unit for generating the operation screen
The image collation processing unit that obtains a test result by collating the operation screen at the time of recording the operation command generated by the mask image generation unit with the operation screen at the time of reproducing the operation command. The application test apparatus according to claim 1 or 2.
前記アプリケーションへの操作コマンドとして遠隔操作コマンドを送出するクライアントと、当該遠隔操作コマンドに対応した処理を行って操作画面データを前記クライアントに送出するサーバと、前記遠隔操作コマンドを記録再生した際の試験を行う照合ツールとを備え、
前記マスク画像生成部と前記画像照合処理部を照合ツールに設けたことを特徴とする請求項3記載のアプリケーション試験装置。
A client that sends a remote operation command as an operation command to the application, a server that performs processing corresponding to the remote operation command and sends operation screen data to the client, and a test when recording and reproducing the remote operation command And a collation tool that performs
The application test apparatus according to claim 3, wherein the mask image generation unit and the image collation processing unit are provided in a collation tool.
前記実行環境が異なると表示に差異が生じる部品の画像に一致する部品画像が存在した場合、当該部品画像の前記操作画面中の位置を前記異なる実行環境に対応させて予測した画面を予測操作画面として生成する予測画像生成部と、
前記操作コマンド再生時の操作画面と、前記操作コマンド記録時に生成した予測操作画面とを照合して試験結果を得る画像照合処理部とを備えたことを特徴とする請求項1または請求項2記載のアプリケーション試験装置。
When there is a component image that matches the image of a component that causes a difference in display when the execution environment is different, a predicted operation screen is obtained by predicting the position of the component image in the operation screen corresponding to the different execution environment. A predicted image generation unit to generate as
3. An image collation processing unit that collates an operation screen at the time of reproducing the operation command and a predicted operation screen generated at the time of recording the operation command to obtain a test result. Application testing equipment.
アプリケーションへの操作コマンドで得られる操作画面中、実行環境が異なると表示に差異が生じる部品の画像に一致する部品画像が存在した場合、当該操作画面を記録する画像記憶部と、
前記操作コマンドを記録再生した場合、操作コマンド再生時の操作画面中で前記部品画像に一致する部品画像が存在したとき、当該再生時の操作画面中の前記部品画像の位置を前記異なる実行環境に対応させて予測した画面を予測操作画面として生成する予測画像生成部と、
前記予測操作画面と、前記画像記憶部に記録された操作画面とを照合して試験結果を得る画像照合処理部とを備えたことを特徴とするアプリケーション試験装置。
In the operation screen obtained by the operation command to the application, when there is a component image that matches the image of the component that causes a difference in display when the execution environment is different, an image storage unit that records the operation screen;
When the operation command is recorded and reproduced, if there is a component image that matches the component image in the operation screen at the time of reproducing the operation command, the position of the component image in the operation screen at the time of reproduction is set to the different execution environment. A predicted image generation unit that generates a predicted operation screen as a predicted operation screen;
An application test apparatus comprising: an image collation processing unit that collates the prediction operation screen with an operation screen recorded in the image storage unit to obtain a test result.
前記アプリケーションへの操作コマンドとして遠隔操作コマンドを送出するクライアントと、当該遠隔操作コマンドに対応した処理を行って操作画面データを前記クライアントに送出するサーバと、前記遠隔操作コマンドを記録再生した際の試験を行う照合ツールとを備え、
前記予測画像生成部と前記画像照合処理部を照合ツールに設けたことを特徴とする請求項5または請求項6記載のアプリケーション試験装置。
A client that sends a remote operation command as an operation command to the application, a server that performs processing corresponding to the remote operation command and sends operation screen data to the client, and a test when recording and reproducing the remote operation command And a collation tool that performs
The application test apparatus according to claim 5, wherein the predicted image generation unit and the image collation processing unit are provided in a collation tool.
JP2015051960A 2015-03-16 2015-03-16 Application test equipment Active JP6257546B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015051960A JP6257546B2 (en) 2015-03-16 2015-03-16 Application test equipment

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015051960A JP6257546B2 (en) 2015-03-16 2015-03-16 Application test equipment

Publications (2)

Publication Number Publication Date
JP2016173619A true JP2016173619A (en) 2016-09-29
JP6257546B2 JP6257546B2 (en) 2018-01-10

Family

ID=57009110

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015051960A Active JP6257546B2 (en) 2015-03-16 2015-03-16 Application test equipment

Country Status (1)

Country Link
JP (1) JP6257546B2 (en)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106485284A (en) * 2016-10-19 2017-03-08 哈尔滨工业大学 A kind of element localization method based on template matching
WO2018211546A1 (en) * 2017-05-15 2018-11-22 三菱電機インフォメーションシステムズ株式会社 Screen test device and screen test program
JP2018206288A (en) * 2017-06-09 2018-12-27 富士ゼロックス株式会社 Information processing device and program
WO2020202337A1 (en) * 2019-03-29 2020-10-08 三菱電機株式会社 Image generation device, test system, image generation method, and program
JP2020187575A (en) * 2019-05-15 2020-11-19 モリカトロン株式会社 Display error detection aiding program, display error detection aiding method, and display error detection aiding apparatus
WO2021240824A1 (en) * 2020-05-29 2021-12-02 日本電信電話株式会社 Masking device, masking method, and masking program

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003295969A (en) * 2002-03-29 2003-10-17 Fujitsu Ltd Automatic information input program
JP2009015363A (en) * 2007-06-29 2009-01-22 Canon It Solutions Inc Test execution system, test execution device, information processor, test execution method, program, and storage medium
US20090103769A1 (en) * 2005-06-10 2009-04-23 Intel Corporation Cognitive control framework for automatic control of application programs exposure a graphical user interface
JP2011521328A (en) * 2008-05-29 2011-07-21 ヒューレット−パッカード デベロップメント カンパニー エル.ピー. Method and system for testing software using real-time replication

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003295969A (en) * 2002-03-29 2003-10-17 Fujitsu Ltd Automatic information input program
US20090103769A1 (en) * 2005-06-10 2009-04-23 Intel Corporation Cognitive control framework for automatic control of application programs exposure a graphical user interface
JP2009015363A (en) * 2007-06-29 2009-01-22 Canon It Solutions Inc Test execution system, test execution device, information processor, test execution method, program, and storage medium
JP2011521328A (en) * 2008-05-29 2011-07-21 ヒューレット−パッカード デベロップメント カンパニー エル.ピー. Method and system for testing software using real-time replication

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106485284A (en) * 2016-10-19 2017-03-08 哈尔滨工业大学 A kind of element localization method based on template matching
WO2018211546A1 (en) * 2017-05-15 2018-11-22 三菱電機インフォメーションシステムズ株式会社 Screen test device and screen test program
JPWO2018211546A1 (en) * 2017-05-15 2019-06-27 三菱電機インフォメーションシステムズ株式会社 Screen test apparatus and screen test program
JP2018206288A (en) * 2017-06-09 2018-12-27 富士ゼロックス株式会社 Information processing device and program
JP2022002105A (en) * 2017-06-09 2022-01-06 富士フイルムビジネスイノベーション株式会社 Information processing device and program
JP7248067B2 (en) 2017-06-09 2023-03-29 富士フイルムビジネスイノベーション株式会社 Information processing device and program
WO2020202337A1 (en) * 2019-03-29 2020-10-08 三菱電機株式会社 Image generation device, test system, image generation method, and program
JPWO2020202337A1 (en) * 2019-03-29 2021-12-23 三菱電機株式会社 Image generator, test system, image generation method and program
JP2020187575A (en) * 2019-05-15 2020-11-19 モリカトロン株式会社 Display error detection aiding program, display error detection aiding method, and display error detection aiding apparatus
WO2021240824A1 (en) * 2020-05-29 2021-12-02 日本電信電話株式会社 Masking device, masking method, and masking program
JP7380870B2 (en) 2020-05-29 2023-11-15 日本電信電話株式会社 Masking device, masking method and masking program

Also Published As

Publication number Publication date
JP6257546B2 (en) 2018-01-10

Similar Documents

Publication Publication Date Title
JP6257546B2 (en) Application test equipment
CN109360065B (en) Script execution method and device
KR20140088551A (en) Server upgrades with safety checking and preview
WO2017165071A1 (en) Visual regression analysis
US20170322637A1 (en) Mouse action capture and replay system and method, recording medium, and program product
CN107861832B (en) Data verification method and device and readable storage medium
WO2016170618A1 (en) Automatic testing device
CN110888781B (en) Application blockage detection method and detection device
CN112486814A (en) System migration test method, migration test system, device and storage medium
CN101211310A (en) Performance test script generation method
CN110209557B (en) User operation recording and restoring method, device and equipment and readable storage medium
KR101460860B1 (en) GUI Test apparatus using test scenario model based on states and the method thereof
WO2017159631A1 (en) Software operation verification device, software operation verification method
KR101252358B1 (en) Apparatus and method for testing plc command
KR20150048365A (en) System and method for verifying application
US20210042204A1 (en) Testing apparatus, testing system, and non-transitory tangible machine-readable medium thereof for testing touch mobile devices
JP2009223568A (en) Scenario-generating device and program
CN115952079A (en) Method and system for recording mobile application automation behaviors and analyzing and positioning defects
US9298428B2 (en) Graphical user interface editor that displays live data during editing
JP2022043130A5 (en)
CN113568834A (en) SDK code compatibility detection method, device, computer equipment and medium
JP6781688B2 (en) Programs, information processing equipment and screen test systems
KR20150035151A (en) System, terminal device, verification apparatus, method and computer-readable medium for testing application performance
US11681609B1 (en) Identifying feature modification in software builds using baseline data
CN111522737B (en) Automatic test verification method and device for front-end interface and storage medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170127

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20171023

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171107

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171205

R150 Certificate of patent or registration of utility model

Ref document number: 6257546

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250