JP7012968B2 - Program inspection equipment, program inspection method and program inspection program - Google Patents

Program inspection equipment, program inspection method and program inspection program Download PDF

Info

Publication number
JP7012968B2
JP7012968B2 JP2019159826A JP2019159826A JP7012968B2 JP 7012968 B2 JP7012968 B2 JP 7012968B2 JP 2019159826 A JP2019159826 A JP 2019159826A JP 2019159826 A JP2019159826 A JP 2019159826A JP 7012968 B2 JP7012968 B2 JP 7012968B2
Authority
JP
Japan
Prior art keywords
program
screen
unit
inspection
function
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019159826A
Other languages
Japanese (ja)
Other versions
JP2021039510A (en
Inventor
昌平 安川
慎太郎 大竹
央 坂倉
Original Assignee
株式会社Trys
ポールトゥウィン株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社Trys, ポールトゥウィン株式会社 filed Critical 株式会社Trys
Priority to JP2019159826A priority Critical patent/JP7012968B2/en
Publication of JP2021039510A publication Critical patent/JP2021039510A/en
Priority to JP2022002569A priority patent/JP7296152B2/en
Application granted granted Critical
Publication of JP7012968B2 publication Critical patent/JP7012968B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、プログラムの検査装置、プログラムの検査方法及びプログラムの検査プログラムに関する。 The present invention relates to a program inspection device, a program inspection method, and a program inspection program.

従来から、例えば、電子機器、並びに、ゲーム及びアプリ等のプログラム等では、出荷の前段階において動作を確認する検査が行われている。特許文献1には、電子機器の検査装置等が開示されている。特許文献1に記載された検査装置は、テレビジョン受像機を検査する装置であり、テレビジョン受像機を操作するコマンドの手順を順次実行し、それに応じてテレビジョン受像器が予め決めた正常な動作を行わなかった場合、及び、予め決めた異常な動作を行った場合に、エラーとして検出する。 Conventionally, for example, electronic devices and programs such as games and applications have been inspected to confirm their operation before shipping. Patent Document 1 discloses an inspection device for electronic devices and the like. The inspection device described in Patent Document 1 is a device for inspecting a television receiver, and sequentially executes the procedure of a command for operating the television receiver, and the television receiver determines in advance a normal normal procedure accordingly. It is detected as an error when no operation is performed or when a predetermined abnormal operation is performed.

特開2009-277060号公報Japanese Unexamined Patent Publication No. 2009-277060

ところで、プログラムは処理内容が複雑になってきているため、検査を行う際の人員の労力及び作業時間が増加する傾向にあり、それに伴って検査の費用を含めたプログラムの開発費用が増加する要因となっている。また、プログラムの検査を行う専用の検査プログラム等を開発した場合でも、検査プログラムは1種類のプログラムに対して専用の検査を行うことができるのみであり、他種のプログラムについては検査を行うことができなかった。 By the way, since the processing contents of the program are becoming complicated, the labor and work time of the personnel for performing the inspection tend to increase, and the development cost of the program including the inspection cost increases accordingly. It has become. In addition, even if a dedicated inspection program for inspecting a program is developed, the inspection program can only perform a dedicated inspection for one type of program, and inspect other types of programs. I couldn't.

本発明は、種々のプログラムについて検査を行うことができる、プログラムの検査装置、プログラムの検査方法及びプログラムの検査プログラムを提供することを目的とする。 It is an object of the present invention to provide a program inspection device, a program inspection method, and a program inspection program capable of inspecting various programs.

一態様のプログラムの検査装置は、検査対象のプログラムが記憶された記憶部と、記憶部に記憶されたプログラムが実行された場合に表示部に表示される画面と、その画面内に配されるボタンとを抽出する抽出部と、抽出部によって抽出された画面と、その画面内に配されるボタンと、ボタンが操作された際に遷移する遷移画面とに基づいて、プログラムが実行された際の遷移構造を取得する取得部と、取得部で取得された遷移構造に基づいて、プログラムが実行された場合にユーザによってプログラムの内容を進行させる際の予想される行動に応じた行動モデルを作成する作成部と、プログラムを実行させ、作成部によって作成された行動モデルに応じて、画面内に配されるボタンを操作することにより画面を順次遷移させる検査部と、検査部によって画面を順次遷移させる際にプログラムに不具合があった場合、その不具合に関するレポートを生成するレポート生成部と、を備える。 The program inspection device of one aspect is arranged in a storage unit in which the program to be inspected is stored, a screen displayed on the display unit when the program stored in the storage unit is executed, and the screen thereof. When the program is executed based on the extraction unit that extracts the buttons, the screen extracted by the extraction unit, the buttons arranged in the screen, and the transition screen that transitions when the button is operated. Based on the acquisition unit that acquires the transition structure of the program and the transition structure acquired by the acquisition unit, a behavior model is created according to the expected behavior when the user advances the contents of the program when the program is executed. The screen is sequentially transitioned by the creation unit and the inspection unit that executes the program and sequentially transitions the screen by operating the buttons arranged in the screen according to the behavior model created by the creation unit. If there is a problem in the program at the time of making the program, it is provided with a report generation unit that generates a report on the problem.

一態様のプログラムの検査装置では、作成部は、行動モデルとして、検査対象のプログラムとは異なる複数の他のプログラムが実行された場合にユーザが他のプログラムの内容を進行させる際の行動を予め学習し、その学習の結果と、取得部によって取得される遷移構造とに基づいて、検査対象のプログラムが実行された場合に画面に配される1つ又は複数のボタンのうちの1つが操作されることの行動の内容を生成することとしてもよい。 In the inspection device of one aspect of the program, as an action model, the creation unit preliminarily sets an action when the user advances the contents of the other program when a plurality of other programs different from the program to be inspected are executed. One or more of the buttons arranged on the screen when the program to be inspected is executed is operated based on the learning and the result of the learning and the transition structure acquired by the acquisition unit. It may be to generate the content of the action of the thing.

一態様のプログラムの検査装置では、抽出部は、画面に基づいて取得されるハッシュ値、画面に基づいて取得される特徴ベクトル、及び、画面内に配されるボタンの位置情報のうちの少なくとも1つに基づいて画面の同一性を判断することにより、同一画面を抽出することを回避することとしてもよい。 In the inspection device of the program of one aspect, the extraction unit is at least one of a hash value acquired based on the screen, a feature vector acquired based on the screen, and position information of a button arranged in the screen. It may be possible to avoid extracting the same screen by determining the identity of the screen based on the above.

一態様のプログラムの検査装置では、記憶部に記憶されるプログラムは、ゲームのプログラムであってもよい。 In the program inspection device of one aspect, the program stored in the storage unit may be a game program.

一態様のプログラムの検査方法では、コンピュータが、検査対象のプログラムを記憶部に記憶する記憶ステップと、記憶部に記憶されたプログラムが実行された場合に表示部に表示される画面と、その画面内に配されるボタンとを抽出する抽出ステップと、抽出ステップによって抽出された画面と、その画面内に配されるボタンの種類と、ボタンが操作された際に遷移する遷移画面とに基づいて、プログラムが実行された際の遷移構造を取得する取得ステップと、取得ステップで取得された遷移構造に基づいて、プログラムが実行された場合にユーザによってプログラムの内容を進行させる際の予想される行動に応じた行動モデルを作成する作成ステップと、プログラムを実行させ、作成ステップによって作成された行動モデルに応じて、画面内に配されるボタンを操作することにより画面を順次遷移させる検査ステップと、検査ステップによって画面を順次遷移させる際にプログラムに不具合があった場合、その不具合に関するレポートを生成するレポート生成ステップと、を実行する。 In one aspect of the program inspection method, a storage step in which the computer stores the program to be inspected in the storage unit, a screen displayed on the display unit when the program stored in the storage unit is executed, and a screen thereof. Based on the extraction step that extracts the buttons arranged inside, the screen extracted by the extraction step, the types of buttons arranged in the screen, and the transition screen that transitions when the button is operated. , The acquisition step to acquire the transition structure when the program is executed, and the expected behavior when the user advances the contents of the program when the program is executed based on the transition structure acquired in the acquisition step. A creation step that creates a behavior model according to the above, an inspection step that executes a program and sequentially transitions the screen by operating buttons arranged on the screen according to the behavior model created by the creation step. If there is a problem in the program when the screens are sequentially transitioned by the inspection step, a report generation step for generating a report on the problem is executed.

一態様のプログラムの検査プログラムは、コンピュータに、検査対象のプログラムが記憶される記憶機能と、記憶機能に記憶されたプログラムが実行された場合に表示部に表示される画面と、その画面内に配されるボタンとを抽出する抽出機能と、抽出機能によって抽出された画面と、その画面内に配されるボタンの種類と、ボタンが操作された際に遷移する遷移画面とに基づいて、プログラムが実行された際の遷移構造を取得する取得機能と、取得機能で取得された遷移構造に基づいて、プログラムが実行された場合にユーザによってプログラムの内容を進行させる際の予想される行動に応じた行動モデルを作成する作成機能と、プログラムを実行させ、作成機能によって作成された行動モデルに応じて、画面内に配されるボタンを操作することにより画面を順次遷移させる検査機能と、検査機能によって画面を順次遷移させる際にプログラムに不具合があった場合、その不具合に関するレポートを生成するレポート生成機能と、を実現させる。 The inspection program of one aspect of the program includes a storage function in which the program to be inspected is stored in the computer, a screen displayed on the display unit when the program stored in the storage function is executed, and a screen in the screen. A program based on the extraction function that extracts the buttons to be arranged, the screen extracted by the extraction function, the types of buttons arranged in the screen, and the transition screen that transitions when the button is operated. Based on the acquisition function that acquires the transition structure when is executed and the transition structure acquired by the acquisition function, depending on the expected behavior when the user advances the contents of the program when the program is executed. A creation function that creates a behavioral model, an inspection function that executes a program, and an inspection function that sequentially transitions the screen by operating buttons arranged on the screen according to the behavioral model created by the creation function, and an inspection function. If there is a problem in the program when the screens are sequentially transitioned by, a report generation function that generates a report on the problem is realized.

一態様のプログラムの検査装置は、検査対象のプログラムが実行された際の遷移構造を取得する取得部と、その遷移構造に基づいてプログラムが実行された場合にユーザによってプログラムの内容を進行させる際の予想される行動に応じた行動モデルを作成する作成部と、プログラムを実行させ、その行動モデルに応じて画面内に配されるボタンを操作することにより画面を順次遷移させる検査部と、検査部によって画面を順次遷移させる際にプログラムに不具合があった場合、その不具合に関するレポートを生成するレポート生成部と、を備えるので、種々のプログラムについて検査を行うことができる。
また、一態様のプログラムの検査方法及びプログラムの検査プログラムは、上述した一態様のプログラムの検査装置と同様の効果を奏することができる。
One aspect of the program inspection device is an acquisition unit that acquires a transition structure when the program to be inspected is executed, and when the user advances the contents of the program when the program is executed based on the transition structure. A creation unit that creates a behavior model according to the expected behavior of, and an inspection department that executes a program and sequentially transitions the screen by operating buttons arranged on the screen according to the behavior model. If there is a problem in the program when the screens are sequentially changed by the unit, a report generation unit for generating a report on the problem is provided, so that various programs can be inspected.
Further, the inspection method of the program of one aspect and the inspection program of the program can have the same effect as the inspection device of the program of one aspect described above.

一実施形態に係る検査装置について説明するためのブロック図である。It is a block diagram for demonstrating the inspection apparatus which concerns on one Embodiment. 表示部に表示される画面の第1例について説明するための図である。It is a figure for demonstrating the 1st example of the screen which is displayed on the display part. 表示部に表示される画面の第2例について説明するための図である。It is a figure for demonstrating the 2nd example of the screen displayed on the display part. 表示部に表示される画面の第3例について説明するための図である。It is a figure for demonstrating the 3rd example of the screen displayed on the display part. 表示部に表示される画面の第4例について説明するための図である。It is a figure for demonstrating the 4th example of the screen displayed on the display part. 表示部に表示される画面の第5例について説明するための図である。It is a figure for demonstrating the 5th example of the screen displayed on the display part. 表示部に表示される画面の第6例について説明するための図である。It is a figure for demonstrating the sixth example of the screen displayed on the display part. 一実施形態に係るプログラムの検査方法について説明するためのフローチャートである。It is a flowchart for demonstrating the inspection method of the program which concerns on one Embodiment.

以下、本発明の一実施形態について説明する。
図1は、一実施形態に係る検査装置1について説明するためのブロック図である。
プログラムの検査装置1は、プログラムを開発する際に行われるデバッグで利用される。検査装置1は、プログラムが実行される際に表示部18に表示される各画面内のボタンを抽出して、そのボタンが操作された場合に遷移する画面を特定することにより、画面が遷移する際の遷移構造を取得する。次に、検査装置1は、そのプログラムを実際に実行させ、遷移構造に応じてボタンを順次操作することにより、プログラムによって実行されるストーリーを先に進める。この際に、検査装置1は、画面が遷移しない、プログラムがクラッシュする、画面の表示が正常でない等のプログラムに関する不具合(バグ)が発生するか検査する。検査装置1は、不具合が発生した場合に、プログラムに対して直前のボタン操作等の行動履歴等を含めた、不具合に関するレポートを出力する。このような検査装置1は、種々のプログラムを検査することが可能である。プログラムは、ユーザからの入力を受け付けて、その入力に応じてプログラムの処理内容及び表示部18に表示される画面を変化させることができるものである。検査装置1は、例えば、プログラムとしてゲームプログラムを検査することができ、具体的な一例として、ボタン操作に応じて画面が遷移するストーリー性のあるゲームプログラムを検査することができる。より具体的な一例として、検査装置1は、スマートフォン等の携帯端末で実行されるゲームプログラムを検査することができる。
Hereinafter, an embodiment of the present invention will be described.
FIG. 1 is a block diagram for explaining the inspection device 1 according to the embodiment.
The program inspection device 1 is used for debugging performed when developing a program. The inspection device 1 extracts a button in each screen displayed on the display unit 18 when the program is executed, and identifies a screen to be transitioned when the button is operated, whereby the screen is transitioned. Get the transition structure of the time. Next, the inspection device 1 actually executes the program and sequentially operates the buttons according to the transition structure to advance the story executed by the program. At this time, the inspection device 1 inspects whether a defect (bug) related to the program such as a screen transition does not occur, the program crashes, or the screen display is not normal occurs. When a defect occurs, the inspection device 1 outputs a report on the defect to the program, including an action history such as a button operation immediately before. Such an inspection device 1 can inspect various programs. The program can receive input from the user and change the processing content of the program and the screen displayed on the display unit 18 according to the input. The inspection device 1 can inspect a game program as a program, for example, and as a specific example, can inspect a game program having a story in which the screen changes according to a button operation. As a more specific example, the inspection device 1 can inspect a game program executed on a mobile terminal such as a smartphone.

次に、一実施形態に係るプログラムの検査装置1について、詳細に説明する。
検査装置1は、抽出部12、取得部13、作成部14、検査部15、レポート生成部16、記憶部17及び表示部18を備える。抽出部12、取得部13、作成部14、検査部15及びレポート生成部16は、検査装置1の制御部11の一機能として実現されてもよい。
Next, the inspection device 1 of the program according to the embodiment will be described in detail.
The inspection device 1 includes an extraction unit 12, an acquisition unit 13, a creation unit 14, an inspection unit 15, a report generation unit 16, a storage unit 17, and a display unit 18. The extraction unit 12, the acquisition unit 13, the creation unit 14, the inspection unit 15, and the report generation unit 16 may be realized as one function of the control unit 11 of the inspection device 1.

記憶部17は、検査対象のプログラムを記憶する。記憶部17に記憶されるプログラムは、上述した一例のように、ゲームのプログラムであってもよい。記憶部17は、検査装置1に配される記憶部であってもよく、検査装置1の外部に配される外部記憶部であってもよい。なお、本実施形態では、記憶部17は検査装置1に配される例で説明する。プログラムの検査を希望する者(例えば、プログラムを開発する会社の従業員等)は、記憶部17に検査対象のプログラムをアップロードすることにより、検査装置1によってプログラムを検査させることが可能である。 The storage unit 17 stores the program to be inspected. The program stored in the storage unit 17 may be a game program as in the above-mentioned example. The storage unit 17 may be a storage unit arranged in the inspection device 1 or an external storage unit arranged outside the inspection device 1. In this embodiment, the storage unit 17 will be described with an example of being arranged in the inspection device 1. A person who wishes to inspect the program (for example, an employee of a company that develops the program) can have the inspection device 1 inspect the program by uploading the program to be inspected to the storage unit 17.

表示部18は、一例として、液晶ディスプレイ及び有機EL(Electro-Luminescence)ディスプレイ等の表示装置である。表示部18は、制御部11(一例として、検査装置1に配される表示制御部(図示せず))の制御に基づいて、画像を表示部18に表示し、また音声をスピーカ(図示せず)から出力する。 As an example, the display unit 18 is a display device such as a liquid crystal display and an organic EL (Electro-Luminescence) display. The display unit 18 displays an image on the display unit 18 and outputs a sound to a speaker (shown) based on the control of the control unit 11 (for example, the display control unit (not shown) arranged in the inspection device 1). Output from).

抽出部12は、記憶部17に記憶されたプログラムが実行された場合に表示部18に表示される画面と、その画面内に配されるボタンとを抽出する。プログラムは、そのプログラムの内容の進行に応じて画面が遷移する。各画面にはボタンが配される場合がある。プログラムは、例えば、画面に配されるボタンがタップ又はクリック等の操作が行われた場合には、その画面とは異なる他の画面に遷移する。画面から他の画面に遷移する場合は、画面Aが他の画面Bに完全に切り替わる場合、及び、画面Aに表示されていたボタンBを操作した際に新たなボタンCが表示される場合(画面Aの一部が切り替わる場合)等も含まれる。抽出部12は、例えば、検査対象のプログラムを動作させることに基づいて、画面と、その画面内に配される全てのボタンを抽出する。すなわち、抽出部12は、画面を順次遷移させることにより、画面及びボタンを順次抽出する。なお、抽出部12は、画面を抽出することとして、例えば、画面の画像データ(一例として、スクリーンショット等)を記憶部17に記憶することとしてもよい。また、抽出部12は、ボタンを抽出することとして、例えば、画面内におけるボタンの位置情報を取得することとしてもよい。 The extraction unit 12 extracts a screen displayed on the display unit 18 when the program stored in the storage unit 17 is executed, and a button arranged in the screen. The screen of the program changes according to the progress of the contents of the program. Buttons may be arranged on each screen. For example, when a button arranged on the screen is tapped or clicked, the program transitions to another screen different from that screen. When transitioning from one screen to another, when screen A completely switches to another screen B, or when a new button C is displayed when the button B displayed on the screen A is operated () (When a part of screen A is switched) and the like are also included. The extraction unit 12 extracts the screen and all the buttons arranged in the screen based on, for example, operating the program to be inspected. That is, the extraction unit 12 sequentially extracts the screen and the button by sequentially transitioning the screen. The extraction unit 12 may extract the screen and store, for example, screen image data (for example, a screenshot or the like) in the storage unit 17. Further, the extraction unit 12 may extract the button, for example, to acquire the position information of the button in the screen.

抽出部12は、画面を遷移させる場合、表示部18に表示されている画面が現在どの画面(複数の画面による画面遷移におけるどの画面(位置))なのかを判断する必要がある。このため、抽出部12は、ニューラルネットワークを利用して、プログラムが提供する複数の画面の中から遷移先の画面がどの画面(位置)かを判断することとしてもよい。例えば、抽出部12は、画面にどの位置(複数の画面が遷移する時のどの位置)で抽出したかを示す情報を付与しておき、画面の特徴と複数の画面間の繋がりとを同時に捉えることにより、相対的に少ない量の画像から、抽出した画面が複数の画面による画面遷移におけるいずれの画面なのか(画面の同一性)を、相対的に精度よく判断することができる。 When the screen is changed, the extraction unit 12 needs to determine which screen (which screen (position) in the screen transition by a plurality of screens) the screen displayed on the display unit 18 is currently. Therefore, the extraction unit 12 may use the neural network to determine which screen (position) the transition destination screen is from among the plurality of screens provided by the program. For example, the extraction unit 12 assigns information indicating which position (at which position when a plurality of screens transitions) the extraction is to the screen, and simultaneously captures the features of the screen and the connection between the plurality of screens. Thereby, from a relatively small amount of images, it is possible to relatively accurately determine which screen the extracted screen is in the screen transition by a plurality of screens (screen identity).

また、抽出部12は、ボタンを検出する場合、例えば、物体検出の技術を利用することにより、画面の画像データ(一例として、スクリーンショット)からボタンを検出することとしてもよい。物体検出は、1枚の画像内に存在する物体(本実施形態では、ボタン)を検知し、その位置及びその物体が何であるか検出する。本実施形態の物体検出(ボタン検出モデル)は、画面内のボタンのみを検出し、その位置を出力する関数である。より具体的には、本実施形態の物体検出(ボタン検出モデル)は、画面(画像データ)が入力されることにより、その画面内に含まれるボタンを検出し、その位置及び画面内の座標を出力する入出力関数である。 Further, when the extraction unit 12 detects the button, the button may be detected from the image data (for example, a screenshot) of the screen by using, for example, an object detection technique. The object detection detects an object (a button in this embodiment) existing in one image, and detects the position and what the object is. The object detection (button detection model) of the present embodiment is a function that detects only a button in the screen and outputs the position. More specifically, the object detection (button detection model) of the present embodiment detects a button included in the screen by inputting a screen (image data), and determines its position and coordinates in the screen. It is an input / output function to output.

抽出部12は、複数の画面を順次遷移させる場合、画面が遷移したかを判断する必要がある。抽出部12は、例えば、ボタンを検出した画面と、ボタンを検出した後にそのボタンを操作して一定時間経過後に抽出した画面とを比較し、同一であるかを判定すれば、画面が遷移したかを判断することができる。一定時間は、適宜設定することができる。この場合、抽出部12は、画面が同一であるかを判定する必要がある。このため、抽出部12は、例えば、予め画像を学習した結果である画像比較モデルを利用した画像の特徴量、画像のRGBのピクセル値、上述したボタン検出モデルで検出した画面内のボタンの座標に基づいて、画面の同一性を判断する。画像比較モデルは、2つの画面を入力として受け取り、それらの画像が同一であるかを示す類似度を出力する入出力関数である。抽出部12は、画像比較モデルから出力される類似度が予め設定される閾値以上であれば、2つの画像が同一であると判定する。 When the extraction unit 12 sequentially transitions a plurality of screens, it is necessary to determine whether or not the screens have transitioned. For example, the extraction unit 12 compares the screen in which the button is detected with the screen extracted after a certain period of time has elapsed by operating the button after detecting the button, and if it is determined whether they are the same, the screen transitions. Can be determined. The fixed time can be set as appropriate. In this case, the extraction unit 12 needs to determine whether the screens are the same. Therefore, the extraction unit 12 has, for example, the feature amount of the image using the image comparison model which is the result of learning the image in advance, the RGB pixel value of the image, and the coordinates of the buttons in the screen detected by the button detection model described above. Judge the identity of the screen based on. The image comparison model is an input / output function that receives two screens as inputs and outputs the similarity indicating whether the images are the same. The extraction unit 12 determines that the two images are the same if the similarity output from the image comparison model is equal to or higher than a preset threshold value.

なお、プログラムに基づいて表示部18に表示される画面には、類似のものがある。また、プログラムの進行の状況によっては、元の画面(一例としてホーム画面)に戻る可能性もある。このため、抽出部12は、画面に基づいて取得されるハッシュ値、画面に基づいて取得される特徴ベクトル、及び、画面内に配されるボタンの位置情報のうちの少なくとも1つに基づいて画面の同一性を判断することにより、同一画面を抽出することを回避することとしてもよい。抽出部12は、例えば、画面をハッシュ関数に入力し、そのハッシュ関数の出力としてハッシュ値を取得する。ハッシュ値は、同じデータからは同じ値が得られる。このため、抽出部12は、ハッシュ値に基づいて画面の同一性を判断することが可能になる。また、抽出部12は、例えば、画像の特徴点を抽出し、その特徴点の特徴ベクトルを抽出する。対比する2つの画像の特徴点の特徴ベクトルが同一であれば、両画像が同一であると考えることができる。抽出部12は、特徴ベクトルに基づいて画面の同一性を判断することが可能になる。また、複数の画像では、背景等が同一であっても、ボタンの位置が異なる場合もある。このため、抽出部12は、画面内におけるボタンの位置情報に基づいて、画像の同一性を判断することが可能になる。 The screens displayed on the display unit 18 based on the program are similar. Also, depending on the progress of the program, it may return to the original screen (home screen as an example). Therefore, the extraction unit 12 screens based on at least one of the hash value acquired based on the screen, the feature vector acquired based on the screen, and the position information of the buttons arranged in the screen. It may be possible to avoid extracting the same screen by determining the identity of the above. For example, the extraction unit 12 inputs a screen to a hash function and acquires a hash value as an output of the hash function. As for the hash value, the same value can be obtained from the same data. Therefore, the extraction unit 12 can determine the identity of the screen based on the hash value. Further, the extraction unit 12 extracts, for example, the feature points of the image and extracts the feature vector of the feature points. If the feature vectors of the feature points of the two images to be contrasted are the same, it can be considered that both images are the same. The extraction unit 12 can determine the identity of the screen based on the feature vector. Further, in a plurality of images, even if the background and the like are the same, the positions of the buttons may be different. Therefore, the extraction unit 12 can determine the identity of the image based on the position information of the button on the screen.

なお、抽出部12は、画面又はボタンを自動的に抽出できなかった場合には、検査装置1を使用するユーザの操作に基づいて画面又はボタンを抽出することとしてもよい。
また、抽出部12は、自動的に抽出された複数のボタンに誤ってボタンとして認識されたものが有れば、すなわち、自動で抽出された複数のボタン(物体)にボタンでないものが含まれていれば、ユーザの操作に基づいて、誤ってボタンとして認識された物体を削除してもよい。
If the screen or button cannot be automatically extracted, the extraction unit 12 may extract the screen or button based on the operation of the user who uses the inspection device 1.
Further, if the plurality of automatically extracted buttons are erroneously recognized as buttons, that is, the plurality of automatically extracted buttons (objects) include those that are not buttons. If so, the object mistakenly recognized as a button may be deleted based on the user's operation.

取得部13は、抽出部12によって抽出された画面と、その画面内に配されるボタンと、ボタンが操作された際に遷移する遷移画面とに基づいて、プログラムが実行された際の遷移構造を取得する。一例として、取得部13は、画面AにボタンBが配される場合、そのボタンBが操作されると遷移画面Cに遷移する際には、画面Aに配されるボタンBが操作されると遷移画面Cに遷移するという構造(遷移構造)を取得する。すなわち、取得部13は、画面、ボタン及び遷移画面を関連付けて登録することにより、遷移構造を取得する。この場合、取得部13は、画面(遷移画面)をプログラムの機能毎に登録することとしてもよい。 The acquisition unit 13 has a transition structure when the program is executed based on the screen extracted by the extraction unit 12, the buttons arranged in the screen, and the transition screen that transitions when the button is operated. To get. As an example, when the button B is arranged on the screen A, when the button B is operated and the transition to the transition screen C, the acquisition unit 13 operates the button B arranged on the screen A. Acquire the structure (transition structure) of transitioning to the transition screen C. That is, the acquisition unit 13 acquires the transition structure by registering the screen, the button, and the transition screen in association with each other. In this case, the acquisition unit 13 may register the screen (transition screen) for each function of the program.

作成部14は、取得部13で取得された遷移構造に基づいて、プログラムが実行された場合にユーザによってプログラムの内容を進行させる際の予想される行動に応じた行動モデルを作成する。作成部14は、行動モデルとして、検査対象のプログラムとは異なる複数の他のプログラムが実行された場合にユーザが他のプログラムの内容を進行させる際の行動を予め学習し、その学習の結果と、取得部13によって取得される遷移構造とに基づいて、検査対象のプログラムが実行された場合に画面に配される1つ又は複数のボタンのうちの1つが操作されることの行動の内容を生成することとしてもよい。 Based on the transition structure acquired by the acquisition unit 13, the creation unit 14 creates an action model according to the expected behavior when the user advances the contents of the program when the program is executed. As a behavior model, the creating unit 14 learns in advance the behavior when the user advances the contents of the other program when a plurality of other programs different from the program to be inspected are executed, and the learning result and the result of the learning. , The content of the action that one of one or a plurality of buttons arranged on the screen is operated when the program to be inspected is executed based on the transition structure acquired by the acquisition unit 13. It may be generated.

具体的には、まず、作成部14は、プログラムを操作するユーザの行動を学習する。具体的な一例として、作成部14は、検査対象のプログラムがゲームプログラムの場合には、他のプログラムとしてのゲームプログラムで遊ぶユーザの行動(ゲームの進め方)を学習する。学習は、複数の観点で行うことができる。 Specifically, first, the creating unit 14 learns the behavior of the user who operates the program. As a specific example, when the program to be inspected is a game program, the creating unit 14 learns the behavior (how to proceed with the game) of the user who plays with the game program as another program. Learning can be done from multiple perspectives.

まず、作成部14は、検査対象のプログラムとは異なる複数の他のプログラムをユーザが操作する際の行動目的(戦術的行動)に応じた行動(ユーザによりプログラムの内容の進め方)を学習する。具体的には、作成部14は、深層学習によってユーザの行動の順序を学習する。一例として、作成部14によって複数の件数(一例として、約10件)のユーザの行動を学習して行動モデルを生成した場合、後述する検査部15は、行動モデルに基づいて、次に(例えば、11件目に)選択するユーザの行動の確率を推定する。 First, the creating unit 14 learns actions (how to proceed with the contents of the program by the user) according to the action purpose (tactical action) when the user operates a plurality of other programs different from the program to be inspected. Specifically, the creating unit 14 learns the order of user actions by deep learning. As an example, when the creation unit 14 learns the behaviors of a plurality of cases (for example, about 10 cases) and generates a behavior model, the inspection unit 15 described later may then (for example,) based on the behavior model. , 11th) Estimate the probability of action of the selected user.

また、作成部14は、検査対象のプログラムの遷移画面に基づいて、そのプログラムにおいて行動目的を遂行するための細かい行動(戦略的行動)を学習する。すなわち、作成部14は、戦術的行動毎に目的達成の条件となる画面を予め設定しておく。その画面を「目的地」、それ以外の画面を「道」と見立て、ルート探索を行いながら目的地となる画面に到達するまでの遷移行動を繰り返す。この場合、作成部14は、ルート探索を行う場合、設定の不備により目的地となる画面までのルートが見つからない場合、及び、画面内に操作すべきボタンが見つからない場合等、様々なイレギュラーケースに応じてルート探索を行うことにより、細かい行動(戦略的行動)を学習する。作成部14は、目的地となる画面に到達して戦略的行動を達成した場合(学習した場合)、後述するように生成した行動モデルを使用して、再度新しい戦略的行動の選択を行う。 Further, the creating unit 14 learns detailed actions (strategic actions) for accomplishing the action purpose in the program based on the transition screen of the program to be inspected. That is, the creating unit 14 sets in advance a screen that is a condition for achieving the purpose for each tactical action. The screen is regarded as a "destination" and the other screens are regarded as a "road", and the transition action is repeated until the destination screen is reached while searching for a route. In this case, the creating unit 14 has various irregularities such as when searching for a route, when the route to the destination screen cannot be found due to improper settings, or when the button to be operated cannot be found in the screen. By performing route search according to the case, detailed actions (strategic actions) are learned. When the creation unit 14 reaches the destination screen and achieves the strategic action (learning), the creating unit 14 selects a new strategic action again by using the behavior model generated as described later.

次に、作成部14は、遷移構造を理解したうえで、学習結果に基づいて、行動モデルを自動的に生成する。すなわち、作成部14は、取得部13によって取得された遷移構造ではユーザがどのように操作するか(ユーザが検査対象のプログラムの内容をどのように進めるか)を学習モデル(学習結果)に基づいて推定することにより、行動モデルを生成する。行動モデルは、ユーザの行動(ユーザが検査対象のプログラムの内容をどのように進めるか)を推定したモデルである。 Next, the creating unit 14 automatically generates a behavior model based on the learning result after understanding the transition structure. That is, the creation unit 14 determines how the user operates in the transition structure acquired by the acquisition unit 13 (how the user advances the contents of the program to be inspected) based on the learning model (learning result). A behavioral model is generated by estimating. The behavior model is a model that estimates the behavior of the user (how the user advances the contents of the program to be inspected).

また、作成部14は、後述する検査部15において行動モデルに従ってプログラムの内容を進行させる際に、特定の画面に到達すると、その特定の画面から後の行動を別途指定したい場合には、ユーザの操作に基づいて行動を規定する内容(行動規定内容)を生成することとしてもよい。行動規定内容は、例えば、行動の流れを指定するフローチャート等により記載されていてもよい。 Further, when the creating unit 14 reaches a specific screen when the inspection unit 15 described later advances the contents of the program according to the behavior model, the user wants to separately specify a later action from the specific screen. It may be possible to generate the content (behavioral regulation content) that defines the behavior based on the operation. The content of the action regulation may be described by, for example, a flowchart for designating the flow of action.

検査部15は、プログラムを実行させ、作成部14によって作成された行動モデルに応じて、画面内に配されるボタンを操作することにより画面を順次遷移させる。すなわち、検査部15は、検査対象のプログラムを実行して、行動モデル及び行動規定内容(フローチャート)に従ってプログラムの内容を進め、デバッグを実施する。この時、検査部15は、例えば、画面が遷移しない、ボタンが表示されない又は、遷移予定の画面に遷移しない等のプログラムに不具合(バグ)が有るか否かを検査する。 The inspection unit 15 executes the program and sequentially transitions the screen by operating the buttons arranged in the screen according to the behavior model created by the creation unit 14. That is, the inspection unit 15 executes the program to be inspected, advances the contents of the program according to the behavior model and the behavior regulation contents (flow chart), and performs debugging. At this time, the inspection unit 15 inspects whether or not there is a defect (bug) in the program, for example, the screen does not transition, the button is not displayed, or the screen to be transitioned does not transition.

レポート生成部16は、検査部15によって画面を順次遷移させる際にプログラムに不具合があった場合、その不具合に関するレポートを生成する。なお、レポート生成部16は、抽出部12によって検査対象のプログラムを実行させた場合に、例えば、画面が遷移しない等のプログラムの不具合(バグ)が発生した場合にも、その不具合に関するレポートを生成することとしてもよい。レポートには、例えば、不具合が発生した状況、不具合が発生した内容、及び、不具合が発生した画面等が含まれていてもよい。レポート生成部16は、例えば、生成したレポートを記憶部17に記憶することとしてもよく、検査部15による検査が終了した後にレポートを表示部18に表示することとしてもよい。 If there is a problem in the program when the inspection unit 15 sequentially transitions the screen, the report generation unit 16 generates a report on the problem. The report generation unit 16 generates a report on the problem even if a program defect (bug) such as a screen transition does not occur when the program to be inspected is executed by the extraction unit 12. You may do it. The report may include, for example, the situation in which the defect has occurred, the content in which the defect has occurred, the screen in which the defect has occurred, and the like. For example, the report generation unit 16 may store the generated report in the storage unit 17, or may display the report on the display unit 18 after the inspection by the inspection unit 15 is completed.

次に、表示部18に表示される画面の一例について説明する。
図2は、表示部18に表示される画面の第1例について説明するための図である。
検査装置1(制御部11(表示制御部))は、図2に例示するように、記憶部17に記憶されるプログラムの一覧を表示部18に表示する。また、ユーザは、検査装置1によってプログラムを検査させたい場合には、「アップロード」ボタンを操作することにより、検査対象のプログラムを検査装置1にアップロードさせることが可能である。また、ユーザは、プログラム一覧で表示される複数のプログラムのうち1つのプログラムを選択することにより、検査装置1によってプログラムを検査させることができる。
Next, an example of the screen displayed on the display unit 18 will be described.
FIG. 2 is a diagram for explaining a first example of a screen displayed on the display unit 18.
The inspection device 1 (control unit 11 (display control unit)) displays a list of programs stored in the storage unit 17 on the display unit 18 as illustrated in FIG. Further, when the user wants the inspection device 1 to inspect the program, the user can upload the program to be inspected to the inspection device 1 by operating the "upload" button. Further, the user can have the inspection device 1 inspect the program by selecting one of the plurality of programs displayed in the program list.

図3は、表示部18に表示される画面の第2例について説明するための図である。
検査装置1(制御部11(表示制御部))は、抽出部12によって画面及びボタンを抽出している場合、図3に例示する画面を表示部18に表示する。検査装置1は、例えば、検査対象のプログラムを動作させることにより取得している画面の数(図3に例示する場合には35画面)、及び、その画面数の時に作成部14によって行動モデルの生成に必要な時間等を表示部18に表示する。
FIG. 3 is a diagram for explaining a second example of the screen displayed on the display unit 18.
When the inspection device 1 (control unit 11 (display control unit)) extracts the screen and the button by the extraction unit 12, the inspection device 1 (control unit 11 (display control unit)) displays the screen illustrated in FIG. 3 on the display unit 18. The inspection device 1 has, for example, the number of screens acquired by operating the program to be inspected (35 screens in the case of FIG. 3), and when the number of screens is the number of screens, the behavior model is determined by the creating unit 14. The time required for generation and the like are displayed on the display unit 18.

図4は、表示部18に表示される画面の第3例について説明するための図である。
検査装置1(制御部11(表示制御部))は、例えば、抽出部12によって画面の抽出が終了した場合等、図4に例示するように、抽出した画面の一覧を表示部18に表示する。
FIG. 4 is a diagram for explaining a third example of the screen displayed on the display unit 18.
The inspection device 1 (control unit 11 (display control unit)) displays a list of extracted screens on the display unit 18 as illustrated in FIG. 4, for example, when the extraction of screens is completed by the extraction unit 12. ..

図5は、表示部18に表示される画面の第4例について説明するための図である。
検査装置1(制御部11(表示制御部))は、抽出部12によって抽出されたボタンの一覧を表示部18に表示する。例えば、検査装置1は、画面毎に抽出されたボタンの一覧と、ボタンが操作されることにより遷移する画面(遷移先)を表示部18に表示する。
FIG. 5 is a diagram for explaining a fourth example of the screen displayed on the display unit 18.
The inspection device 1 (control unit 11 (display control unit)) displays a list of buttons extracted by the extraction unit 12 on the display unit 18. For example, the inspection device 1 displays a list of buttons extracted for each screen and a screen (transition destination) that transitions when the buttons are operated on the display unit 18.

図6は、表示部18に表示される画面の第5例について説明するための図である。
検査装置1(制御部11(表示制御部))は、生成部によって行動規定内容を生成した場合、行動の流れを指定するフローチャートを表示部18に表示する。
FIG. 6 is a diagram for explaining a fifth example of the screen displayed on the display unit 18.
When the inspection device 1 (control unit 11 (display control unit)) generates the action regulation content by the generation unit, the inspection device 1 (control unit 11 (display control unit)) displays a flowchart for designating the flow of the action on the display unit 18.

図7は、表示部18に表示される画面の第6例について説明するための図である。
検査装置1(制御部11(表示制御部))は、レポート生成部16によってレポートが生成された場合、そのレポートとして不具合の一覧を表示部18に表示する。
FIG. 7 is a diagram for explaining a sixth example of the screen displayed on the display unit 18.
When the report is generated by the report generation unit 16, the inspection device 1 (control unit 11 (display control unit)) displays a list of defects as the report on the display unit 18.

次に、一実施形態に係るプログラムの検査方法について説明する。
図8は、一実施形態に係るプログラムの検査方法について説明するためのフローチャートである。
Next, the inspection method of the program according to one embodiment will be described.
FIG. 8 is a flowchart for explaining an inspection method of the program according to the embodiment.

ステップST1において、記憶部17は、検査装置1にアップロードされた検査対象のプログラムを記憶する。例えば、検査装置1は、ユーザが操作する端末(図示せず)等から送信された検査対象のプログラムを受け付け、そのプログラムを記憶部17に記憶する。 In step ST1, the storage unit 17 stores the program to be inspected uploaded to the inspection device 1. For example, the inspection device 1 receives a program to be inspected transmitted from a terminal (not shown) or the like operated by the user, and stores the program in the storage unit 17.

ステップST2において、抽出部12は、ステップST1で記憶部17に記憶されたプログラムを実行し、そのプログラムの内容の進行に応じて表示部18に表示される画面と、その画面内に配されるボタンとを抽出する。抽出部12は、プログラムの内容の進行に応じて、順次、画面及びボタンを抽出する。 In step ST2, the extraction unit 12 executes the program stored in the storage unit 17 in step ST1, and the screen displayed on the display unit 18 according to the progress of the contents of the program and the screen are arranged in the screen. Extract the button and. The extraction unit 12 sequentially extracts screens and buttons according to the progress of the contents of the program.

ステップST3において、取得部13は、ステップST2で抽出された画面及びボタンに基づいて、プログラムの内容が進行する際の構造(遷移構造)を取得する。取得部13は、ステップST3で画面及びボタンが順次抽出されるのに応じて、遷移構造を随時生成する。 In step ST3, the acquisition unit 13 acquires a structure (transition structure) when the contents of the program progresses based on the screen and the button extracted in step ST2. The acquisition unit 13 generates a transition structure at any time according to the sequential extraction of screens and buttons in step ST3.

ステップST4において、作成部14は、ステップST3で取得された遷移構造に基づいて、行動モデルを生成する。行動モデルは、ユーザの行動(ユーザが検査対象のプログラムの内容をどのように進めるか)を推定したモデルである。
また、作成部14は、後述するステップST5において行動モデルに従ってプログラムの内容を進行させる際(検査をする際)に、特定の画面に到達すると、その特定の画面から後の行動を別途指定したい場合に場合には、行動を規定する内容(行動規定内容)を別途生成することとしてもよい。
In step ST4, the creating unit 14 generates a behavior model based on the transition structure acquired in step ST3. The behavior model is a model that estimates the behavior of the user (how the user advances the contents of the program to be inspected).
Further, when the creating unit 14 wants to separately specify a subsequent action from the specific screen when the content of the program is advanced (when inspecting) according to the behavior model in step ST5 described later. In the case of, the content that regulates the behavior (contents of the behavior regulation) may be generated separately.

ステップST5において、検査部15は、ステップST4で生成された行動モデル及び行動規定内容に基づいて、ステップST1で記憶部17に記憶された検査対象のプログラムを実行し、プログラムに不具合があるか検査する。 In step ST5, the inspection unit 15 executes the program to be inspected stored in the storage unit 17 in step ST1 based on the behavior model and the behavior regulation contents generated in step ST4, and inspects whether the program has a defect. do.

ステップST6において、レポート生成部16は、ステップST5の検査においてプログラムに不具合があった場合、その不具合に関するレポートを生成する。また、レポート生成部16は、ステップST2において画面及びボタンを抽出する際にプログラムの不具合があった場合にも、その不具合に関するレポートを生成することとしてもよい。 In step ST6, when the program has a defect in the inspection in step ST5, the report generation unit 16 generates a report regarding the defect. Further, the report generation unit 16 may generate a report on the defect even if there is a defect in the program when extracting the screen and the button in step ST2.

次に、本実施形態の効果について説明する。
検査装置1は、検査対象のプログラムが実行された場合に表示部18に表示される画面と、その画面内に配されるボタンとを抽出する抽出部12と、抽出部12によって抽出された画面と、その画面内に配されるボタンと、ボタンが操作された際に遷移する遷移画面とに基づいて、プログラムが実行された際の遷移構造を取得する取得部13と、取得部13で取得された遷移構造に基づいて、プログラムが実行された場合にユーザによってプログラムの内容を進行させる際の予想される行動に応じた行動モデルを作成する作成部14と、プログラムを実行させ、作成部14によって作成された行動モデルに応じて、画面内に配されるボタンを操作することにより画面を順次遷移させる検査部15と、検査部15によって画面を順次遷移させる際にプログラムに不具合があった場合、その不具合に関するレポートを生成するレポート生成部16と、を備える。
検査装置1は、検査対象のプログラムにおける画面の遷移構造を取得し、その遷移構造に基づいて行動モデルを生成し、行動モデルに従ってプログラムを検査する。このため、検査装置1は、記憶部17に記憶されたプログラムについて遷移構造を取得することにより、そのプログラムに不具合が生じるか検査を行うことができる。よって、検査装置1は、種々のプログラムについて自動的に検査を行うことができる。
また、検査装置1は、遷移構造に基づいて行動モデル等を生成する。これにより、検査装置1は、プログラムの内容を操作するユーザと同様にある程度意思をもってプログラムの内容を進めることができ、効率的にプログラムの検査を実行することができる。行動モデルを生成せずに自動的にプログラムの検査を行った場合には、検査をしていない画面(遷移)が生じる可能性があるが、本実施形態では、行動モデルに従って全ての画面(遷移)を検査するので、検査漏れ等が生じるのを防ぐことができる。
Next, the effect of this embodiment will be described.
The inspection device 1 has an extraction unit 12 that extracts a screen displayed on the display unit 18 when a program to be inspected is executed, a button arranged in the screen, and a screen extracted by the extraction unit 12. And the acquisition unit 13 that acquires the transition structure when the program is executed based on the buttons arranged in the screen and the transition screen that transitions when the button is operated, and the acquisition unit 13. Based on the transition structure, the creation unit 14 that creates an action model according to the expected behavior when the user advances the contents of the program when the program is executed, and the creation unit 14 that executes the program and creates the program. When there is a problem in the program when the inspection unit 15 sequentially transitions the screen by operating the buttons arranged in the screen according to the behavior model created by the inspection unit 15 and when the screen is sequentially transitioned by the inspection unit 15. , A report generation unit 16 that generates a report on the defect.
The inspection device 1 acquires the transition structure of the screen in the program to be inspected, generates a behavior model based on the transition structure, and inspects the program according to the behavior model. Therefore, the inspection device 1 can inspect whether or not a defect occurs in the program by acquiring the transition structure of the program stored in the storage unit 17. Therefore, the inspection device 1 can automatically inspect various programs.
Further, the inspection device 1 generates a behavior model or the like based on the transition structure. As a result, the inspection device 1 can advance the contents of the program with a certain degree of intention in the same manner as the user who operates the contents of the program, and can efficiently execute the inspection of the program. When the program is automatically inspected without generating the behavior model, a screen (transition) that has not been inspected may occur, but in this embodiment, all screens (transition) are performed according to the behavior model. ) Is inspected, so it is possible to prevent omission of inspection and the like.

なお、検査装置1は、抽出部12によって検査対象のプログラムを実行していることに加えて、検査部15においてそのプログラムを実行して検査を行っている。これは、抽出部12によるプログラムの実行では、全ての画面(遷移)を確実に取得することができない可能性があり、またユーザが意思を持ってプログラムを進行させるのと同様にすることで(行動モデルに従ってプログラムを進行させる場合に)初めてプログラムに不具合が出る可能性もある。このため、検査装置1は、抽出部12によって検査対象のプログラムを実行して画面及びボタンを抽出すると共に、検査部15において検査対象のプログラムを実行してそのプログラムを検査している。また、検査装置1では、抽出部12によってプログラムを実行する際に不具合が発生した場合、取得部13によって遷移構造を取得できなくなる。この場合、検査装置1では、プログラムの不具合が修正された後、再度、抽出部12によって画面及びボタンを抽出して、取得部13によって遷移構造を取得するようにする。
なお、検査装置1は、上述したように再度画面及びボタンを抽出する場合、例えば、前回抽出した画面と、再度抽出した画面とに相違する部分がある場合、その画面のみ抽出することとしてもよい。検査装置1は、例えば、機械学習及び深層学習等の学習結果に基づいて画面の相違(差分)を認識し、レイアウト等の異なる箇所を自動的に検出することとしてもよい。
In addition to the extraction unit 12 executing the program to be inspected, the inspection device 1 executes the program in the inspection unit 15 to perform the inspection. This is because there is a possibility that all screens (transitions) cannot be reliably acquired by executing the program by the extraction unit 12, and the user intentionally advances the program (as well). It is possible that the program will fail for the first time (if the program progresses according to a behavioral model). Therefore, the inspection device 1 executes the program to be inspected by the extraction unit 12 to extract screens and buttons, and the inspection unit 15 executes the program to be inspected to inspect the program. Further, in the inspection device 1, if a problem occurs when the extraction unit 12 executes the program, the acquisition unit 13 cannot acquire the transition structure. In this case, in the inspection device 1, after the defect of the program is corrected, the screen and the button are extracted again by the extraction unit 12, and the transition structure is acquired by the acquisition unit 13.
The inspection device 1 may extract only the screen and the button when the screen and the button are extracted again as described above, for example, when there is a difference between the previously extracted screen and the re-extracted screen. .. The inspection device 1 may recognize a difference (difference) in the screen based on learning results such as machine learning and deep learning, and automatically detect a different part such as a layout.

検査装置1では、作成部14は、行動モデルとして、検査対象のプログラムとは異なる複数の他のプログラムが実行された場合にユーザが他のプログラムの内容を進行させる際の行動を予め学習し、その学習の結果と、取得部13によって取得される遷移構造とに基づいて、検査対象のプログラムが実行された場合に画面に配される1つ又は複数のボタンのうちの1つが操作されることの行動の内容を生成することとしてもよい。
これにより、検査装置1は、作成部14によって行動モデルを生成することができる。検査装置1は、検査部15によって検査対象のプログラムを検査する場合、行動モデルに従ってプログラムの内容を進行させることができる。
In the inspection device 1, the creating unit 14 learns in advance the behavior when the user advances the contents of the other program when a plurality of other programs different from the program to be inspected are executed as the behavior model. Based on the learning result and the transition structure acquired by the acquisition unit 13, one or a plurality of buttons arranged on the screen when the program to be inspected is executed is operated. It may be to generate the content of the action of.
As a result, the inspection device 1 can generate a behavior model by the creating unit 14. When the inspection unit 15 inspects the program to be inspected, the inspection device 1 can advance the contents of the program according to the behavior model.

検査装置1では、抽出部12は、画面に基づいて取得されるハッシュ値、画面に基づいて取得される特徴ベクトル、及び、画面内に配されるボタンの位置情報のうちの少なくとも1つに基づいて画面の同一性を判断することにより、同一画面を抽出することを回避することとしてもよい。
これにより、検査装置1は、抽出部12によって同一の画面が抽出されるのを回避することができ、取得部13によって適切な遷移構造を生成することができる。
In the inspection device 1, the extraction unit 12 is based on at least one of a hash value acquired based on the screen, a feature vector acquired based on the screen, and position information of buttons arranged in the screen. By determining the identity of the screens, it may be possible to avoid extracting the same screens.
As a result, the inspection device 1 can avoid extracting the same screen by the extraction unit 12, and the acquisition unit 13 can generate an appropriate transition structure.

検査装置1では、記憶部17に記憶されるプログラムは、ゲームのプログラムであってもよい。
特に、ゲームプログラムは、スマートフォン等の携帯端末で実行可能なプログラムであってもよい。そのようなゲームプログラムは、表示部18にボタンを表示し、そのボタンの操作に応じてプログラムの内容を進行するようになっている。このため、検査装置1は、ボタンの操作に応じて内容を進行させるプログラム(例えば、ゲームプログラム)に不具合が生じるか検査を行うことができる。
In the inspection device 1, the program stored in the storage unit 17 may be a game program.
In particular, the game program may be a program that can be executed on a mobile terminal such as a smartphone. In such a game program, a button is displayed on the display unit 18, and the content of the program is advanced according to the operation of the button. Therefore, the inspection device 1 can inspect whether or not a problem occurs in a program (for example, a game program) that advances the contents according to the operation of the button.

検査方法では、コンピュータが、検査対象のプログラムが実行された場合に表示部18に表示される画面と、その画面内に配されるボタンとを抽出する抽出ステップと、抽出ステップによって抽出された画面と、その画面内に配されるボタンの種類と、ボタンが操作された際に遷移する遷移画面とに基づいて、プログラムが実行された際の遷移構造を取得する取得ステップと、取得ステップで取得された遷移構造に基づいて、プログラムが実行された場合にユーザによってプログラムの内容を進行させる際の予想される行動に応じた行動モデルを作成する作成ステップと、プログラムを実行させ、作成ステップによって作成された行動モデルに応じて、画面内に配されるボタンを操作することにより画面を順次遷移させる検査ステップと、検査ステップによって画面を順次遷移させる際にプログラムに不具合があった場合、その不具合に関するレポートを生成するレポート生成ステップと、を実行する。
検査方法は、検査対象のプログラムにおける画面の遷移構造を取得し、その遷移構造に基づいて行動モデルを生成し、行動モデルに従ってプログラムを検査する。このため、検査方法は、記憶部17に記憶されたプログラムについて遷移構造を取得することにより、そのプログラムに不具合が生じるか検査を行うことができる。よって、検査方法は、種々のプログラムについて自動的に検査を行うことができる。
また、検査方法は、遷移構造に基づいて行動モデル等を生成する。これにより、検査方法は、プログラムの内容を操作するユーザと同様にある程度意思をもってプログラムの内容を進めることができ、効率的にプログラムの検査を実行することができる。なお、行動モデルを生成せずに自動的にプログラムの検査を行った場合には、検査をしていない画面(遷移)が生じる可能性があるが、本実施形態では、行動モデルに従って全ての画面(遷移)を検査するので、検査漏れ等が生じるのを防ぐことができる。
In the inspection method, the computer extracts the screen displayed on the display unit 18 when the program to be inspected is executed, the buttons arranged in the screen, and the screen extracted by the extraction step. And, based on the type of button arranged in the screen and the transition screen that transitions when the button is operated, the acquisition step to acquire the transition structure when the program is executed and the acquisition step to acquire it. Based on the transition structure that was created, a creation step that creates a behavior model according to the expected behavior when the user advances the contents of the program when the program is executed, and a creation step that executes the program and creates it by the creation step. If there is a problem in the program when the screen is sequentially transitioned by operating the buttons arranged in the screen according to the behavior model, and the screen is sequentially transitioned by the inspection step, the problem is related to the problem. Perform the report generation steps and the report generation steps to generate the report.
The inspection method acquires the transition structure of the screen in the program to be inspected, generates a behavior model based on the transition structure, and inspects the program according to the behavior model. Therefore, in the inspection method, by acquiring the transition structure of the program stored in the storage unit 17, it is possible to inspect whether or not a defect occurs in the program. Therefore, the inspection method can automatically inspect various programs.
In addition, the inspection method generates a behavior model or the like based on the transition structure. As a result, the inspection method can proceed with the contents of the program with a certain degree of intention in the same manner as the user who operates the contents of the program, and the inspection of the program can be executed efficiently. If the program is automatically inspected without generating a behavior model, a screen (transition) that has not been inspected may occur, but in this embodiment, all screens are in accordance with the behavior model. Since (transition) is inspected, it is possible to prevent omission of inspection and the like.

検査プログラムは、コンピュータに、検査対象のプログラムが記憶される記憶機能と、記憶機能に記憶されたプログラムが実行された場合に表示部18に表示される画面と、その画面内に配されるボタンとを抽出する抽出機能と、抽出機能によって抽出された画面と、その画面内に配されるボタンの種類と、ボタンが操作された際に遷移する遷移画面とに基づいて、プログラムが実行された際の遷移構造を取得する取得機能と、取得機能で取得された遷移構造に基づいて、プログラムが実行された場合にユーザによってプログラムの内容を進行させる際の予想される行動に応じた行動モデルを作成する作成機能と、プログラムを実行させ、作成ステップによって作成された行動モデルに応じて、画面内に配されるボタンを操作することにより画面を順次遷移させる検査機能と、検査機能によって画面を順次遷移させる際にプログラムに不具合があった場合、その不具合に関するレポートを生成するレポート生成機能と、を実現させる。
検査プログラムは、検査対象のプログラムにおける画面の遷移構造を取得し、その遷移構造に基づいて行動モデルを生成し、行動モデルに従ってプログラムを検査する。このため、検査プログラムは、記憶部17に記憶されたプログラムについて遷移構造を取得することにより、そのプログラムに不具合が生じるか検査を行うことができる。よって、検査プログラムは、種々のプログラムについて自動的に検査を行うことができる。
また、検査プログラムは、遷移構造に基づいて行動モデル等を生成する。これにより、検査プログラムは、プログラムの内容を操作するユーザと同様にある程度意思をもってプログラムの内容を進めることができ、効率的にプログラムの検査を実行することができる。なお、行動モデルを生成せずに自動的にプログラムの検査を行った場合には、検査をしていない画面(遷移)が生じる可能性があるが、本実施形態では、行動モデルに従って全ての画面(遷移)を検査するので、検査漏れ等が生じるのを防ぐことができる。
The inspection program has a storage function in which the program to be inspected is stored in the computer, a screen displayed on the display unit 18 when the program stored in the storage function is executed, and a button arranged in the screen. The program was executed based on the extraction function that extracts and, the screen extracted by the extraction function, the types of buttons arranged in the screen, and the transition screen that transitions when the button is operated. Based on the acquisition function that acquires the transition structure at the time and the transition structure acquired by the acquisition function, a behavior model according to the expected behavior when the user advances the contents of the program when the program is executed The creation function to be created, the inspection function to execute the program and sequentially transition the screen by operating the buttons arranged on the screen according to the behavior model created by the creation step, and the inspection function to sequentially change the screen. If there is a problem in the program at the time of transition, a report generation function that generates a report on the problem is realized.
The inspection program acquires the transition structure of the screen in the program to be inspected, generates a behavior model based on the transition structure, and inspects the program according to the behavior model. Therefore, the inspection program can inspect whether or not a defect occurs in the program by acquiring the transition structure of the program stored in the storage unit 17. Therefore, the inspection program can automatically inspect various programs.
In addition, the inspection program generates a behavior model or the like based on the transition structure. As a result, the inspection program can proceed with the contents of the program with a certain degree of intention in the same manner as the user who operates the contents of the program, and can efficiently execute the inspection of the program. If the program is automatically inspected without generating a behavior model, a screen (transition) that has not been inspected may occur, but in this embodiment, all screens are in accordance with the behavior model. Since (transition) is inspected, it is possible to prevent omission of inspection and the like.

なお、上述した検査装置1(検査方法及び検査プログラム)は、プログラムを検査する人(テスタ)と共に、ハイブリッドな検査を行うことができる。すなわち、検査装置1によってプログラムについて集中的にパターン繰返し検査を行い、その検査の結果に応じて、テスタが不具合の影響範囲を推定して、次のテストの内容を決定することとしてもよい。 The above-mentioned inspection device 1 (inspection method and inspection program) can perform a hybrid inspection together with a person (tester) who inspects the program. That is, the inspection device 1 may intensively perform a pattern repetition inspection on the program, and the tester may estimate the range of influence of the defect according to the result of the inspection and determine the content of the next test.

また、検査装置1(検査方法及び検査プログラム)は、行動モデルに従ってプログラムを検査するので、プログラムの負荷検査も行うことができる。すなわち、検査装置1は、自律的にプログラムの内容を進行させることができるため、実際の環境と同じような状況で負荷検査を行うことができる。 Further, since the inspection device 1 (inspection method and inspection program) inspects the program according to the behavior model, the load inspection of the program can also be performed. That is, since the inspection device 1 can autonomously advance the contents of the program, the load inspection can be performed in the same situation as the actual environment.

また、検査装置1(検査方法及び検査プログラム)は、行動モデルに従ってプログラムを検査するので、プログラムを実際に操作するユーザの嗜好に応じた検査(プログラムの内容のどの部分に重点を置くかに応じた検査)を行うことができる。 Further, since the inspection device 1 (inspection method and inspection program) inspects the program according to the behavior model, the inspection according to the preference of the user who actually operates the program (depending on which part of the program content is to be emphasized). Inspection) can be performed.

また、検査装置1(検査方法及び検査プログラム)は、例えば、検査対象のプログラムを記憶部17に記憶して取得部13によって遷移構造を取得すること、それに加えて、行動モデルに従った検査を行うこと、及び、検査の時間数(検査回数)それぞれに応じて課金を行うことができる。その課金は、月額制及び従量課金制のいずれであってよい。 Further, the inspection device 1 (inspection method and inspection program) stores, for example, stores the program to be inspected in the storage unit 17 and acquires the transition structure by the acquisition unit 13, and in addition, performs the inspection according to the behavior model. Charges can be made according to what is done and the number of inspection hours (number of inspections). The billing may be either a monthly billing system or a pay-as-you-go billing system.

上述したプログラムの検査装置1の各部は、コンピュータの演算処理装置等の機能として実現されてもよい。すなわち、検査装置1の抽出部12、取得部13、作成部14、検査部15及びレポート生成部16は、コンピュータの演算処理装置等による、抽出機能、取得機能、作成機能、検査機能及びレポート生成機能としてそれぞれ実現されてもよい。
検査プログラムは、上述した各機能をコンピュータに実現させることができる。検査プログラムは、外部メモリ又は光ディスク等の、コンピュータで読み取り可能な非一時的な記録媒体に記録されていてもよい。
また、上述したように、検査装置1の各部は、コンピュータの演算処理装置等で実現されてもよい。その演算処理装置等は、例えば、集積回路等によって構成される。このため、検査装置1の各部は、演算処理装置等を構成する回路として実現されてもよい。すなわち、検査装置1の抽出部12、取得部13、作成部14、検査部15及びレポート生成部16は、コンピュータの演算処理装置等を構成する、抽出回路、取得回路、作成回路、検査回路及びレポート生成回路
として実現されてもよい。
また、検査装置1の記憶部17及び表示部18は、例えば、集積回路等によって構成されることにより、記憶回路及び表示回路として実現されてもよい。また、検査装置1の記憶部17及び表示部18は、例えば、複数のデバイスによって構成されることにより、記憶装置及び表示装置として構成されてもよい。
Each part of the inspection device 1 of the above-mentioned program may be realized as a function of a computer arithmetic processing unit or the like. That is, the extraction unit 12, the acquisition unit 13, the creation unit 14, the inspection unit 15, and the report generation unit 16 of the inspection device 1 have an extraction function, an acquisition function, a creation function, an inspection function, and a report generation by a computer arithmetic processing unit or the like. Each may be realized as a function.
The inspection program can realize each of the above-mentioned functions in the computer. The inspection program may be recorded on a computer-readable non-temporary recording medium such as an external memory or an optical disc.
Further, as described above, each part of the inspection device 1 may be realized by a computer arithmetic processing unit or the like. The arithmetic processing unit or the like is configured by, for example, an integrated circuit or the like. Therefore, each part of the inspection device 1 may be realized as a circuit constituting an arithmetic processing unit or the like. That is, the extraction unit 12, the acquisition unit 13, the creation unit 14, the inspection unit 15, and the report generation unit 16 of the inspection device 1 constitute an extraction circuit, an acquisition circuit, a creation circuit, an inspection circuit, and a report generation unit 16 constituting a computer arithmetic processing device and the like. It may be realized as a report generation circuit.
Further, the storage unit 17 and the display unit 18 of the inspection device 1 may be realized as a storage circuit and a display circuit by being configured by, for example, an integrated circuit or the like. Further, the storage unit 17 and the display unit 18 of the inspection device 1 may be configured as a storage device and a display device, for example, by being configured by a plurality of devices.

1 検査装置
11 制御部
12 取得部
13取得部
14 作成部
15 検査部
16 レポート生成部
17 記憶部
18 表示部
1 Inspection device 11 Control unit 12 Acquisition unit 13 Acquisition unit 14 Creation unit 15 Inspection unit 16 Report generation unit 17 Storage unit 18 Display unit

Claims (6)

検査対象のプログラムが記憶された記憶部と、
前記記憶部に記憶された前記プログラムが実行された場合に表示部に表示される画面と、その画面内に配されるボタンとを抽出する抽出部と、
前記抽出部によって抽出された画面と、その画面内に配される前記ボタンと、前記ボタンが操作された際に遷移する遷移画面とに基づいて、前記プログラムが実行された際の遷移構造を取得する取得部と、
前記取得部で取得された遷移構造に基づいて、前記プログラムが実行された場合にユーザによってプログラムの内容を進行させる際の予想される行動に応じた行動モデルを作成する作成部と、
前記プログラムを実行させ、前記作成部によって作成された行動モデルに応じて、画面内に配される前記ボタンを操作することにより画面を順次遷移させる検査部と、
前記検査部によって画面を順次遷移させる際に前記プログラムに不具合があった場合、その不具合に関するレポートを生成するレポート生成部と、
を備えるプログラムの検査装置。
A storage unit in which the program to be inspected is stored, and
A screen displayed on the display unit when the program stored in the storage unit is executed, an extraction unit for extracting buttons arranged in the screen, and an extraction unit.
Based on the screen extracted by the extraction unit, the button arranged in the screen, and the transition screen that transitions when the button is operated, the transition structure when the program is executed is acquired. Acquisition department and
Based on the transition structure acquired by the acquisition unit, a creation unit that creates a behavior model according to the expected behavior when the user advances the contents of the program when the program is executed, and a creation unit.
An inspection unit that executes the program and sequentially transitions the screen by operating the buttons arranged in the screen according to the behavior model created by the creation unit.
If there is a problem with the program when the screens are sequentially transitioned by the inspection unit, a report generation unit that generates a report on the problem and a report generation unit.
Program inspection equipment.
前記作成部は、前記行動モデルとして、検査対象の前記プログラムとは異なる複数の他のプログラムが実行された場合にユーザが前記他のプログラムの内容を進行させる際の行動を予め学習し、その学習の結果と、前記取得部によって取得される前記遷移構造とに基づいて、検査対象の前記プログラムが実行された場合に画面に配される1つ又は複数のボタンのうちの1つが操作されることの行動の内容を生成する
請求項1に記載のプログラムの検査装置。
As the behavior model, the creating unit learns in advance the behavior when the user advances the contents of the other program when a plurality of other programs different from the program to be inspected are executed, and the learning thereof. One or a plurality of buttons arranged on the screen when the program to be inspected is executed based on the result of the above and the transition structure acquired by the acquisition unit. The inspection device of the program according to claim 1, which generates the content of the action of.
前記抽出部は、画面に基づいて取得されるハッシュ値、画面に基づいて取得される特徴ベクトル、及び、画面内に配されるボタンの位置情報のうちの少なくとも1つに基づいて画面の同一性を判断することにより、同一画面を抽出することを回避する
請求項1又は2に記載のプログラムの検査装置。
The extraction unit has the sameness of the screen based on at least one of the hash value acquired based on the screen, the feature vector acquired based on the screen, and the position information of the buttons arranged in the screen. The inspection device of the program according to claim 1 or 2, which avoids extracting the same screen by determining.
前記記憶部に記憶される前記プログラムは、ゲームのプログラムである
請求項1~3のいずれか1項に記載のプログラムの検査装置。
The program stored in the storage unit is an inspection device for the program according to any one of claims 1 to 3, which is a game program.
コンピュータが、
検査対象のプログラムを記憶部に記憶する記憶ステップと、
前記記憶部に記憶された前記プログラムが実行された場合に表示部に表示される画面と、その画面内に配されるボタンとを抽出する抽出ステップと、
前記抽出ステップによって抽出された画面と、その画面内に配される前記ボタンの種類と、前記ボタンが操作された際に遷移する遷移画面とに基づいて、前記プログラムが実行された際の遷移構造を取得する取得ステップと、
前記取得ステップで取得された遷移構造に基づいて、前記プログラムが実行された場合にユーザによってプログラムの内容を進行させる際の予想される行動に応じた行動モデルを作成する作成ステップと、
前記プログラムを実行させ、前記作成ステップによって作成された行動モデルに応じて、画面内に配される前記ボタンを操作することにより画面を順次遷移させる検査ステップと、
前記検査ステップによって画面を順次遷移させる際に前記プログラムに不具合があった場合、その不具合に関するレポートを生成するレポート生成ステップと、
を実行するプログラムの検査方法。
The computer
A storage step to store the program to be inspected in the storage unit,
An extraction step for extracting a screen displayed on the display unit when the program stored in the storage unit is executed and a button arranged in the screen unit.
A transition structure when the program is executed based on the screen extracted by the extraction step, the type of the button arranged in the screen, and the transition screen that transitions when the button is operated. To get the get steps and
Based on the transition structure acquired in the acquisition step, a creation step of creating a behavior model according to an expected behavior when the user advances the contents of the program when the program is executed, and a creation step.
An inspection step in which the screen is sequentially changed by executing the program and operating the buttons arranged in the screen according to the behavior model created by the creation step.
If there is a problem in the program when the screens are sequentially transitioned by the inspection step, a report generation step for generating a report on the problem and a report generation step.
How to inspect the program to run.
コンピュータに、
検査対象のプログラムが記憶される記憶機能と、
前記記憶機能に記憶された前記プログラムが実行された場合に表示部に表示される画面と、その画面内に配されるボタンとを抽出する抽出機能と、
前記抽出機能によって抽出された画面と、その画面内に配される前記ボタンの種類と、前記ボタンが操作された際に遷移する遷移画面とに基づいて、前記プログラムが実行された際の遷移構造を取得する取得機能と、
前記取得機能で取得された遷移構造に基づいて、前記プログラムが実行された場合にユーザによってプログラムの内容を進行させる際の予想される行動に応じた行動モデルを作成する作成機能と、
前記プログラムを実行させ、前記作成機能によって作成された行動モデルに応じて、画面内に配される前記ボタンを操作することにより画面を順次遷移させる検査機能と、
前記検査機能によって画面を順次遷移させる際に前記プログラムに不具合があった場合、その不具合に関するレポートを生成するレポート生成機能と、
を実現させるプログラムの検査プログラム。
On the computer
A memory function that stores the program to be inspected, and
An extraction function that extracts a screen displayed on the display unit when the program stored in the storage function is executed and a button arranged in the screen, and an extraction function.
A transition structure when the program is executed based on the screen extracted by the extraction function, the type of the button arranged in the screen, and the transition screen that transitions when the button is operated. And the get function to get
Based on the transition structure acquired by the acquisition function, a creation function that creates a behavior model according to the expected behavior when the user advances the contents of the program when the program is executed, and a creation function.
An inspection function that executes the program and sequentially transitions the screen by operating the buttons arranged in the screen according to the behavior model created by the creation function.
If there is a problem in the program when the screens are sequentially transitioned by the inspection function, a report generation function that generates a report on the problem and a report generation function
The inspection program of the program that realizes.
JP2019159826A 2019-09-02 2019-09-02 Program inspection equipment, program inspection method and program inspection program Active JP7012968B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019159826A JP7012968B2 (en) 2019-09-02 2019-09-02 Program inspection equipment, program inspection method and program inspection program
JP2022002569A JP7296152B2 (en) 2019-09-02 2022-01-11 Program inspection device, program inspection method and program inspection program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019159826A JP7012968B2 (en) 2019-09-02 2019-09-02 Program inspection equipment, program inspection method and program inspection program

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2022002569A Division JP7296152B2 (en) 2019-09-02 2022-01-11 Program inspection device, program inspection method and program inspection program

Publications (2)

Publication Number Publication Date
JP2021039510A JP2021039510A (en) 2021-03-11
JP7012968B2 true JP7012968B2 (en) 2022-01-31

Family

ID=74847105

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019159826A Active JP7012968B2 (en) 2019-09-02 2019-09-02 Program inspection equipment, program inspection method and program inspection program

Country Status (1)

Country Link
JP (1) JP7012968B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023218538A1 (en) * 2022-05-10 2023-11-16 株式会社ソニー・インタラクティブエンタテインメント Inspection device, inspection system, inspection method, and program
JP7390070B1 (en) * 2022-09-20 2023-12-01 株式会社エーアイセキュリティラボ Systems, methods and programs for inspecting websites

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016004576A (en) 2014-06-19 2016-01-12 富士通株式会社 Method for verification of model of gui-based application and computer readable memory medium
JP2016197368A (en) 2015-04-06 2016-11-24 アズビル株式会社 Facility management device and facility management method
JP6438612B1 (en) 2018-03-20 2018-12-19 株式会社Cygames System, method, program, machine learning support apparatus, and data structure for inspecting game program

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016004576A (en) 2014-06-19 2016-01-12 富士通株式会社 Method for verification of model of gui-based application and computer readable memory medium
JP2016197368A (en) 2015-04-06 2016-11-24 アズビル株式会社 Facility management device and facility management method
JP6438612B1 (en) 2018-03-20 2018-12-19 株式会社Cygames System, method, program, machine learning support apparatus, and data structure for inspecting game program

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
切貫 弘之 外4名 ,「探索的テストと操作の記録を組み合わせた新たなテスト手法の提案」,電子情報通信学会技術研究報告 [online],一般社団法人電子情報通信学会,2019年05月17日,第119巻, 第56号,pp.43-48,[2019年6月24日 検索], インターネット<URL: https://www.ieice.org/ken/user/index.php?cmd=download&p=YEjF&t=IEICE-KBSE&l=57df8fa478d645fb26045e2762d2ba89277851794f79f693de48961f1887ea26&lang=>

Also Published As

Publication number Publication date
JP2021039510A (en) 2021-03-11

Similar Documents

Publication Publication Date Title
CN105808416B (en) A kind of automated testing method and system of man-machine figure interactive interface
US10599399B2 (en) Mobile user interface design testing tool
US10824906B2 (en) Image processing device, non-transitory computer readable storage medium, and image processing system
US9332252B2 (en) Automatic test system for digital display systems
US10019346B2 (en) Generating software test script from video
US20110214107A1 (en) Method and system for testing graphical user interfaces
JP6780769B2 (en) Learning equipment, learning methods and learning programs
JP7012968B2 (en) Program inspection equipment, program inspection method and program inspection program
TWI622877B (en) System and method for recording and replaying mouse behavior, recording media and program products
JP2013140040A (en) Visual inspection device, visual inspection method and computer program
CN110554957A (en) method and device for testing user interface, electronic equipment and readable storage medium
JP2021176070A (en) Image inspection apparatus, image inspection method, and program
CN115525563A (en) Test method, test device, computer equipment and storage medium
JP2020112483A (en) Exterior appearance inspection system, calculation model construction method and calculation model construction program
JP7296152B2 (en) Program inspection device, program inspection method and program inspection program
WO2023110478A1 (en) Method for automatically exploring states and transitions of a human machine interface (hmi) device
KR20150048365A (en) System and method for verifying application
KR20120127067A (en) Apparatus and method for determining screen equivalency to test compatibility
CN115860827A (en) Mobile terminal advertisement testing method and system
CN110572641B (en) Display equipment testing method and device and computer readable storage medium
CN109359042B (en) Automatic testing method based on path search algorithm
JP2021117152A (en) Image processing device, image processing method, and image processing program
TWI747666B (en) Application program automatic detection method and system
JP2020204835A (en) Information processing apparatus, system, information processing method and program
KR20200002590A (en) Inspection result presenting apparatus, inspection result presenting method and inspection result presenting program

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20201105

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20201105

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210107

TRDD Decision of grant or rejection written
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20211208

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211214

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220111

R150 Certificate of patent or registration of utility model

Ref document number: 7012968

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350