JP7296152B2 - Program inspection device, program inspection method and program inspection program - Google Patents

Program inspection device, program inspection method and program inspection program Download PDF

Info

Publication number
JP7296152B2
JP7296152B2 JP2022002569A JP2022002569A JP7296152B2 JP 7296152 B2 JP7296152 B2 JP 7296152B2 JP 2022002569 A JP2022002569 A JP 2022002569A JP 2022002569 A JP2022002569 A JP 2022002569A JP 7296152 B2 JP7296152 B2 JP 7296152B2
Authority
JP
Japan
Prior art keywords
program
screen
unit
inspection
executed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022002569A
Other languages
Japanese (ja)
Other versions
JP2022036210A (en
JP2022036210A5 (en
Inventor
昌平 安川
慎太郎 大竹
央 坂倉
Original Assignee
株式会社トライライト
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from JP2019159826A external-priority patent/JP7012968B2/en
Application filed by 株式会社トライライト filed Critical 株式会社トライライト
Priority to JP2022002569A priority Critical patent/JP7296152B2/en
Publication of JP2022036210A publication Critical patent/JP2022036210A/en
Publication of JP2022036210A5 publication Critical patent/JP2022036210A5/ja
Application granted granted Critical
Publication of JP7296152B2 publication Critical patent/JP7296152B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Debugging And Monitoring (AREA)

Description

本発明は、プログラムの検査装置、プログラムの検査方法及びプログラムの検査プログラムに関する。 The present invention relates to a program inspection device, a program inspection method, and a program inspection program.

従来から、例えば、電子機器、並びに、ゲーム及びアプリ等のプログラム等では、出荷の前段階において動作を確認する検査が行われている。特許文献1には、電子機器の検査装置等が開示されている。特許文献1に記載された検査装置は、テレビジョン受像機を検査する装置であり、テレビジョン受像機を操作するコマンドの手順を順次実行し、それに応じてテレビジョン受像器が予め決めた正常な動作を行わなかった場合、及び、予め決めた異常な動作を行った場合に、エラーとして検出する。 2. Description of the Related Art Conventionally, for example, electronic devices, programs such as games and applications, and the like are inspected to confirm their operation before shipment. Japanese Patent Laid-Open No. 2002-201001 discloses an inspection apparatus for electronic equipment and the like. The inspection apparatus described in Patent Document 1 is an apparatus for inspecting a television receiver, and sequentially executes a procedure of commands for operating the television receiver, and according to the commands, the television receiver determines a predetermined normal state. An error is detected when no operation is performed or when a predetermined abnormal operation is performed.

特開2009-277060号公報JP 2009-277060 A

ところで、プログラムは処理内容が複雑になってきているため、検査を行う際の人員の労力及び作業時間が増加する傾向にあり、それに伴って検査の費用を含めたプログラムの開発費用が増加する要因となっている。また、プログラムの検査を行う専用の検査プログラム等を開発した場合でも、検査プログラムは1種類のプログラムに対して専用の検査を行うことができるのみであり、他種のプログラムについては検査を行うことができなかった。 By the way, since the processing contents of programs are becoming more complex, there is a tendency for personnel labor and work time to increase when performing inspections, which is a factor in increasing program development costs including inspection costs. It has become. In addition, even if a special inspection program or the like for program inspection is developed, the inspection program can only carry out exclusive inspection for one type of program, and other types of programs cannot be inspected. I couldn't do it.

本発明は、種々のプログラムについて検査を行うことができる、プログラムの検査装置、プログラムの検査方法及びプログラムの検査プログラムを提供することを目的とする。 SUMMARY OF THE INVENTION It is an object of the present invention to provide a program inspection device, a program inspection method, and a program inspection program that can inspect various programs.

一態様のプログラムの検査装置は、検査対象のプログラムが記憶された記憶部と、記憶部に記憶されたプログラムが実行された場合に表示部に表示される画面と、その画面内に配されるボタンとを抽出する抽出部と、抽出部によって抽出された画面と、その画面内に配されるボタンと、ボタンが操作された際に遷移する遷移画面とに基づいて、プログラムが実行された際の遷移構造を取得する取得部と、取得部で取得された遷移構造に基づいて、プログラムが実行された場合にユーザによってプログラムの内容を進行させる際の予想される行動に応じた行動モデルを作成する作成部と、プログラムを実行させ、作成部によって作成された行動モデルに応じて、画面内に配されるボタンを操作することにより画面を順次遷移させる検査部と、検査部によって画面を順次遷移させる際にプログラムに不具合があった場合、その不具合に関するレポートを生成するレポート生成部と、を備える。 A program inspection apparatus according to one aspect includes a storage unit storing a program to be inspected, a screen displayed on a display unit when the program stored in the storage unit is executed, and a When the program is executed based on an extraction unit that extracts buttons, screens extracted by the extraction unit, buttons arranged in the screens, and transition screens that transition when the buttons are operated An acquisition unit that acquires the transition structure of and based on the transition structure acquired by the acquisition unit, creates a behavior model that corresponds to the expected behavior of the user when the content of the program is advanced when the program is executed. an inspection unit that executes a program and sequentially transitions screens by operating buttons arranged in the screen according to the behavior model created by the creation unit; and a screen that is sequentially transitioned by the inspection unit. and a report generation unit for generating a report about the problem if there is a problem in the program when executing the program.

一態様のプログラムの検査装置では、作成部は、行動モデルとして、検査対象のプログラムとは異なる複数の他のプログラムが実行された場合にユーザが他のプログラムの内容を進行させる際の行動を予め学習し、その学習の結果と、取得部によって取得される遷移構造とに基づいて、検査対象のプログラムが実行された場合に画面に配される1つ又は複数のボタンのうちの1つが操作されることの行動の内容を生成することとしてもよい。 In one aspect of the program inspection device, the creation unit preliminarily describes, as a behavior model, the behavior of the user when the contents of the other programs are executed when a plurality of other programs different from the program to be inspected are executed. One of the one or more buttons arranged on the screen when the program to be inspected is executed is operated based on the result of the learning and the transition structure acquired by the acquiring unit. It is also possible to generate the content of the action of the thing.

一態様のプログラムの検査装置では、抽出部は、画面に基づいて取得されるハッシュ値、画面に基づいて取得される特徴ベクトル、及び、画面内に配されるボタンの位置情報のうちの少なくとも1つに基づいて画面の同一性を判断することにより、同一画面を抽出することを回避することとしてもよい。 In one aspect of the program inspection device, the extraction unit includes at least one of a hash value acquired based on the screen, a feature vector acquired based on the screen, and position information of buttons arranged in the screen. It is possible to avoid extracting the same screen by judging the identity of the screen based on the same number.

一態様のプログラムの検査装置では、記憶部に記憶されるプログラムは、ゲームのプログラムであってもよい。 In one aspect of the program inspection device, the program stored in the storage unit may be a game program.

一態様のプログラムの検査方法では、コンピュータが、検査対象のプログラムを記憶部に記憶する記憶ステップと、記憶部に記憶されたプログラムが実行された場合に表示部に表示される画面と、その画面内に配されるボタンとを抽出する抽出ステップと、抽出ステップによって抽出された画面と、その画面内に配されるボタンの種類と、ボタンが操作された際に遷移する遷移画面とに基づいて、プログラムが実行された際の遷移構造を取得する取得ステップと、取得ステップで取得された遷移構造に基づいて、プログラムが実行された場合にユーザによってプログラムの内容を進行させる際の予想される行動に応じた行動モデルを作成する作成ステップと、プログラムを実行させ、作成ステップによって作成された行動モデルに応じて、画面内に配されるボタンを操作することにより画面を順次遷移させる検査ステップと、検査ステップによって画面を順次遷移させる際にプログラムに不具合があった場合、その不具合に関するレポートを生成するレポート生成ステップと、を実行する。 In one aspect of a program inspection method, a computer stores a program to be inspected in a storage unit, a screen displayed on a display unit when the program stored in the storage unit is executed, and Based on the extraction step of extracting the buttons arranged in the screen, the screen extracted by the extraction step, the type of button arranged in the screen, and the transition screen to which the button is operated , an obtaining step of obtaining the transition structure when the program is executed, and an expected behavior when the program is executed by the user, based on the transition structure obtained by the obtaining step. a creation step of creating a behavior model according to the above; an inspection step of executing a program and sequentially transitioning screens by operating buttons arranged in the screen according to the behavior model created by the creation step; and a report generation step for generating a report on the defect if there is a defect in the program when the screens are sequentially transitioned by the inspection step.

一態様のプログラムの検査プログラムは、コンピュータに、検査対象のプログラムが記憶される記憶機能と、記憶機能に記憶されたプログラムが実行された場合に表示部に表示される画面と、その画面内に配されるボタンとを抽出する抽出機能と、抽出機能によって抽出された画面と、その画面内に配されるボタンの種類と、ボタンが操作された際に遷移する遷移画面とに基づいて、プログラムが実行された際の遷移構造を取得する取得機能と、取得機能で取得された遷移構造に基づいて、プログラムが実行された場合にユーザによってプログラムの内容を進行させる際の予想される行動に応じた行動モデルを作成する作成機能と、プログラムを実行させ、作成機能によって作成された行動モデルに応じて、画面内に配されるボタンを操作することにより画面を順次遷移させる検査機能と、検査機能によって画面を順次遷移させる際にプログラムに不具合があった場合、その不具合に関するレポートを生成するレポート生成機能と、を実現させる。 According to one aspect of the program inspection program, the computer has a storage function for storing a program to be inspected, a screen displayed on the display unit when the program stored in the storage function is executed, and A program based on an extraction function for extracting buttons to be arranged, screens extracted by the extraction function, types of buttons arranged in the screens, and transition screens to which transitions are made when the buttons are operated. is executed, and based on the transition structure obtained by the obtain function, when the program is executed, depending on the expected behavior when the user advances the contents of the program a creation function that creates a behavior model created by the creation function; an inspection function that executes a program and sequentially transitions screens by operating buttons arranged in the screen according to the behavior model created by the creation function; and a report generating function for generating a report about the problem when there is a problem in the program when sequentially transitioning screens by.

一態様のプログラムの検査装置は、検査対象のプログラムが実行された際の遷移構造を取得する取得部と、その遷移構造に基づいてプログラムが実行された場合にユーザによってプログラムの内容を進行させる際の予想される行動に応じた行動モデルを作成する作成部と、プログラムを実行させ、その行動モデルに応じて画面内に配されるボタンを操作することにより画面を順次遷移させる検査部と、検査部によって画面を順次遷移させる際にプログラムに不具合があった場合、その不具合に関するレポートを生成するレポート生成部と、を備えるので、種々のプログラムについて検査を行うことができる。
また、一態様のプログラムの検査方法及びプログラムの検査プログラムは、上述した一態様のプログラムの検査装置と同様の効果を奏することができる。
A program inspection apparatus according to one aspect includes an acquisition unit that acquires a transition structure when a program to be inspected is executed, and a transition structure that, when the program is executed based on the transition structure, causes a user to proceed with the contents of the program. A creation unit that creates a behavior model according to the expected behavior of the program, an inspection unit that executes a program and operates buttons arranged in the screen according to the behavior model to sequentially transition the screen, and an inspection If there is a problem in the program when the screen is sequentially transitioned by the unit, the report generation unit generates a report about the problem, so various programs can be inspected.
Further, the program checking method and the program checking program of one aspect can achieve the same effect as the program checking device of one aspect described above.

一実施形態に係る検査装置について説明するためのブロック図である。1 is a block diagram for explaining an inspection device according to one embodiment; FIG. 表示部に表示される画面の第1例について説明するための図である。FIG. 4 is a diagram for explaining a first example of a screen displayed on a display unit; FIG. 表示部に表示される画面の第2例について説明するための図である。FIG. 10 is a diagram for explaining a second example of a screen displayed on the display unit; FIG. 表示部に表示される画面の第3例について説明するための図である。FIG. 12 is a diagram for explaining a third example of a screen displayed on the display unit; FIG. 表示部に表示される画面の第4例について説明するための図である。FIG. 12 is a diagram for explaining a fourth example of a screen displayed on the display unit; FIG. 表示部に表示される画面の第5例について説明するための図である。FIG. 14 is a diagram for explaining a fifth example of a screen displayed on the display unit; FIG. 表示部に表示される画面の第6例について説明するための図である。FIG. 14 is a diagram for explaining a sixth example of a screen displayed on the display unit; FIG. 一実施形態に係るプログラムの検査方法について説明するためのフローチャートである。4 is a flowchart for explaining a program inspection method according to an embodiment;

以下、本発明の一実施形態について説明する。
図1は、一実施形態に係る検査装置1について説明するためのブロック図である。
プログラムの検査装置1は、プログラムを開発する際に行われるデバッグで利用される。検査装置1は、プログラムが実行される際に表示部18に表示される各画面内のボタンを抽出して、そのボタンが操作された場合に遷移する画面を特定することにより、画面が遷移する際の遷移構造を取得する。次に、検査装置1は、そのプログラムを実際に実行させ、遷移構造に応じてボタンを順次操作することにより、プログラムによって実行されるストーリーを先に進める。この際に、検査装置1は、画面が遷移しない、プログラムがクラッシュする、画面の表示が正常でない等のプログラムに関する不具合(バグ)が発生するか検査する。検査装置1は、不具合が発生した場合に、プログラムに対して直前のボタン操作等の行動履歴等を含めた、不具合に関するレポートを出力する。このような検査装置1は、種々のプログラムを検査することが可能である。プログラムは、ユーザからの入力を受け付けて、その入力に応じてプログラムの処理内容及び表示部18に表示される画面を変化させることができるものである。検査装置1は、例えば、プログラムとしてゲームプログラムを検査することができ、具体的な一例として、ボタン操作に応じて画面が遷移するストーリー性のあるゲームプログラムを検査することができる。より具体的な一例として、検査装置1は、スマートフォン等の携帯端末で実行されるゲームプログラムを検査することができる。
An embodiment of the present invention will be described below.
FIG. 1 is a block diagram for explaining an inspection device 1 according to one embodiment.
The program inspection device 1 is used for debugging during program development. The inspection apparatus 1 extracts a button in each screen displayed on the display unit 18 when the program is executed, and identifies the screen to which the screen transitions when the button is operated, thereby transitioning the screen. Get the current transition structure. Next, the inspection apparatus 1 actually executes the program and advances the story executed by the program by sequentially operating the buttons according to the transition structure. At this time, the inspection device 1 inspects whether or not there is a problem (bug) related to the program, such as no screen transition, program crash, or abnormal screen display. When a problem occurs, the inspection device 1 outputs a report about the problem including the action history of the last button operation, etc. to the program. Such an inspection device 1 can inspect various programs. The program can receive input from the user and change the processing contents of the program and the screen displayed on the display unit 18 according to the input. For example, the inspection device 1 can inspect a game program as a program, and as a specific example, it can inspect a game program with a storyline in which screens transition according to button operations. As a more specific example, the inspection device 1 can inspect a game program executed on a mobile terminal such as a smart phone.

次に、一実施形態に係るプログラムの検査装置1について、詳細に説明する。
検査装置1は、抽出部12、取得部13、作成部14、検査部15、レポート生成部16、記憶部17及び表示部18を備える。抽出部12、取得部13、作成部14、検査部15及びレポート生成部16は、検査装置1の制御部11の一機能として実現されてもよい。
Next, the program inspection device 1 according to one embodiment will be described in detail.
The inspection device 1 includes an extraction unit 12 , an acquisition unit 13 , a creation unit 14 , an inspection unit 15 , a report generation unit 16 , a storage unit 17 and a display unit 18 . The extraction unit 12 , the acquisition unit 13 , the creation unit 14 , the inspection unit 15 and the report generation unit 16 may be implemented as one function of the control unit 11 of the inspection device 1 .

記憶部17は、検査対象のプログラムを記憶する。記憶部17に記憶されるプログラムは、上述した一例のように、ゲームのプログラムであってもよい。記憶部17は、検査装置1に配される記憶部であってもよく、検査装置1の外部に配される外部記憶部であってもよい。なお、本実施形態では、記憶部17は検査装置1に配される例で説明する。プログラムの検査を希望する者(例えば、プログラムを開発する会社の従業員等)は、記憶部17に検査対象のプログラムをアップロードすることにより、検査装置1によってプログラムを検査させることが可能である。 The storage unit 17 stores programs to be inspected. The program stored in the storage unit 17 may be a game program as in the example described above. The storage unit 17 may be a storage unit arranged in the inspection device 1 or may be an external storage unit arranged outside the inspection device 1 . In this embodiment, an example in which the storage unit 17 is arranged in the inspection apparatus 1 will be described. A person who wishes to inspect a program (e.g., an employee of a company that develops a program) can upload the program to be inspected to the storage unit 17 and have the inspection apparatus 1 inspect the program.

表示部18は、一例として、液晶ディスプレイ及び有機EL(Electro-Luminescence)ディスプレイ等の表示装置である。表示部18は、制御部11(一例として、検査装置1に配される表示制御部(図示せず))の制御に基づいて、画像を表示部18に表示し、また音声をスピーカ(図示せず)から出力する。 The display unit 18 is, for example, a display device such as a liquid crystal display and an organic EL (Electro-Luminescence) display. The display unit 18 displays an image on the display unit 18 based on the control of the control unit 11 (for example, a display control unit (not shown) arranged in the inspection apparatus 1), and outputs sound to a speaker (not shown). output from

抽出部12は、記憶部17に記憶されたプログラムが実行された場合に表示部18に表示される画面と、その画面内に配されるボタンとを抽出する。プログラムは、そのプログラムの内容の進行に応じて画面が遷移する。各画面にはボタンが配される場合がある。プログラムは、例えば、画面に配されるボタンがタップ又はクリック等の操作が行われた場合には、その画面とは異なる他の画面に遷移する。画面から他の画面に遷移する場合は、画面Aが他の画面Bに完全に切り替わる場合、及び、画面Aに表示されていたボタンBを操作した際に新たなボタンCが表示される場合(画面Aの一部が切り替わる場合)等も含まれる。抽出部12は、例えば、検査対象のプログラムを動作させることに基づいて、画面と、その画面内に配される全てのボタンを抽出する。すなわち、抽出部12は、画面を順次遷移させることにより、画面及びボタンを順次抽出する。なお、抽出部12は、画面を抽出することとして、例えば、画面の画像データ(一例として、スクリーンショット等)を記憶部17に記憶することとしてもよい。また、抽出部12は、ボタンを抽出することとして、例えば、画面内におけるボタンの位置情報を取得することとしてもよい。 The extraction unit 12 extracts the screen displayed on the display unit 18 when the program stored in the storage unit 17 is executed, and the buttons arranged in the screen. In the program, the screen transitions according to the progress of the contents of the program. Buttons may be arranged on each screen. For example, when an operation such as tapping or clicking a button arranged on the screen is performed, the program transitions to another screen different from that screen. When transitioning from a screen to another screen, when screen A is completely switched to another screen B, and when button B displayed on screen A is operated, new button C is displayed ( A case where a part of the screen A is switched), etc. are also included. The extraction unit 12 extracts the screen and all the buttons arranged in the screen, for example, based on running the program to be inspected. That is, the extraction unit 12 sequentially extracts screens and buttons by sequentially transitioning screens. Note that the extracting unit 12 may extract the screen, for example, by storing image data of the screen (for example, a screen shot or the like) in the storage unit 17 . Further, the extracting unit 12 may, for example, acquire position information of the button within the screen as extracting the button.

抽出部12は、画面を遷移させる場合、表示部18に表示されている画面が現在どの画面(複数の画面による画面遷移におけるどの画面(位置))なのかを判断する必要がある。このため、抽出部12は、ニューラルネットワークを利用して、プログラムが提供する複数の画面の中から遷移先の画面がどの画面(位置)かを判断することとしてもよい。例えば、抽出部12は、画面にどの位置(複数の画面が遷移する時のどの位置)で抽出したかを示す情報を付与しておき、画面の特徴と複数の画面間の繋がりとを同時に捉えることにより、相対的に少ない量の画像から、抽出した画面が複数の画面による画面遷移におけるいずれの画面なのか(画面の同一性)を、相対的に精度よく判断することができる。 When making a screen transition, the extracting unit 12 needs to determine which screen the screen currently displayed on the display unit 18 is (which screen (position) in the screen transition of a plurality of screens). Therefore, the extracting unit 12 may use a neural network to determine which screen (position) is the transition destination screen from among the plurality of screens provided by the program. For example, the extracting unit 12 attaches information indicating at which position (at which position when a plurality of screens transition) the screen is extracted, and captures the characteristics of the screen and the connection between the plurality of screens at the same time. Thus, it is possible to determine with relatively high accuracy which screen in screen transitions among a plurality of screens the extracted screen is (identity of screens) from a relatively small amount of images.

また、抽出部12は、ボタンを検出する場合、例えば、物体検出の技術を利用することにより、画面の画像データ(一例として、スクリーンショット)からボタンを検出することとしてもよい。物体検出は、1枚の画像内に存在する物体(本実施形態では、ボタン)を検知し、その位置及びその物体が何であるか検出する。本実施形態の物体検出(ボタン検出モデル)は、画面内のボタンのみを検出し、その位置を出力する関数である。より具体的には、本実施形態の物体検出(ボタン検出モデル)は、画面(画像データ)が入力されることにより、その画面内に含まれるボタンを検出し、その位置及び画面内の座標を出力する入出力関数である。 Further, when detecting a button, the extraction unit 12 may detect the button from image data of the screen (for example, a screenshot) by using object detection technology, for example. Object detection detects an object (a button in this embodiment) existing in one image, and detects its position and what the object is. The object detection (button detection model) of this embodiment is a function that detects only buttons in the screen and outputs their positions. More specifically, in the object detection (button detection model) of this embodiment, a screen (image data) is input, buttons included in the screen are detected, and their positions and coordinates within the screen are determined. It is an input/output function that outputs.

抽出部12は、複数の画面を順次遷移させる場合、画面が遷移したかを判断する必要がある。抽出部12は、例えば、ボタンを検出した画面と、ボタンを検出した後にそのボタンを操作して一定時間経過後に抽出した画面とを比較し、同一であるかを判定すれば、画面が遷移したかを判断することができる。一定時間は、適宜設定することができる。この場合、抽出部12は、画面が同一であるかを判定する必要がある。このため、抽出部12は、例えば、予め画像を学習した結果である画像比較モデルを利用した画像の特徴量、画像のRGBのピクセル値、上述したボタン検出モデルで検出した画面内のボタンの座標に基づいて、画面の同一性を判断する。画像比較モデルは、2つの画面を入力として受け取り、それらの画像が同一であるかを示す類似度を出力する入出力関数である。抽出部12は、画像比較モデルから出力される類似度が予め設定される閾値以上であれば、2つの画像が同一であると判定する。 The extracting unit 12 needs to determine whether the screens have transitioned in the case of sequentially transitioning a plurality of screens. For example, the extracting unit 12 compares the screen on which the button is detected with the screen extracted after a certain period of time has passed after the button is operated after detecting the button, and determines whether the screens are the same. You can judge whether The certain period of time can be set as appropriate. In this case, the extraction unit 12 needs to determine whether the screens are the same. For this reason, the extraction unit 12 extracts, for example, image feature values using an image comparison model that is a result of pre-learning images, RGB pixel values of the image, and coordinates of buttons in the screen detected by the above-described button detection model. screen identity is determined based on The image comparison model is an input/output function that takes two screens as input and outputs a similarity score indicating whether the images are identical. The extraction unit 12 determines that the two images are the same if the degree of similarity output from the image comparison model is equal to or greater than a preset threshold.

なお、プログラムに基づいて表示部18に表示される画面には、類似のものがある。また、プログラムの進行の状況によっては、元の画面(一例としてホーム画面)に戻る可能性もある。このため、抽出部12は、画面に基づいて取得されるハッシュ値、画面に基づいて取得される特徴ベクトル、及び、画面内に配されるボタンの位置情報のうちの少なくとも1つに基づいて画面の同一性を判断することにより、同一画面を抽出することを回避することとしてもよい。抽出部12は、例えば、画面をハッシュ関数に入力し、そのハッシュ関数の出力としてハッシュ値を取得する。ハッシュ値は、同じデータからは同じ値が得られる。このため、抽出部12は、ハッシュ値に基づいて画面の同一性を判断することが可能になる。また、抽出部12は、例えば、画像の特徴点を抽出し、その特徴点の特徴ベクトルを抽出する。対比する2つの画像の特徴点の特徴ベクトルが同一であれば、両画像が同一であると考えることができる。抽出部12は、特徴ベクトルに基づいて画面の同一性を判断することが可能になる。また、複数の画像では、背景等が同一であっても、ボタンの位置が異なる場合もある。このため、抽出部12は、画面内におけるボタンの位置情報に基づいて、画像の同一性を判断することが可能になる。 Some of the screens displayed on the display unit 18 based on the program are similar. In addition, depending on the progress of the program, it may return to the original screen (home screen as an example). For this reason, the extracting unit 12 extracts the screen image based on at least one of the hash value acquired based on the screen, the feature vector acquired based on the screen, and the position information of the button arranged in the screen. Extraction of the same screen may be avoided by judging the identity of the screens. The extraction unit 12, for example, inputs the screen to a hash function and obtains a hash value as the output of the hash function. The same hash value is obtained from the same data. Therefore, the extraction unit 12 can determine the identity of the screen based on the hash value. For example, the extraction unit 12 extracts feature points of the image and extracts feature vectors of the feature points. If the feature vectors of the feature points of the two images to be compared are the same, it can be considered that the two images are the same. The extraction unit 12 can determine the identity of the screens based on the feature vectors. Moreover, even if the background and the like are the same in a plurality of images, the positions of the buttons may be different. Therefore, the extracting unit 12 can determine the identity of the images based on the positional information of the buttons within the screen.

なお、抽出部12は、画面又はボタンを自動的に抽出できなかった場合には、検査装置1を使用するユーザの操作に基づいて画面又はボタンを抽出することとしてもよい。
また、抽出部12は、自動的に抽出された複数のボタンに誤ってボタンとして認識されたものが有れば、すなわち、自動で抽出された複数のボタン(物体)にボタンでないものが含まれていれば、ユーザの操作に基づいて、誤ってボタンとして認識された物体を削除してもよい。
Note that the extraction unit 12 may extract the screen or the button based on the operation of the user who uses the inspection apparatus 1 when the screen or the button cannot be automatically extracted.
Further, the extracting unit 12 detects a plurality of automatically extracted buttons that are erroneously recognized as buttons, that is, if the plurality of automatically extracted buttons (objects) includes non-button If so, the object erroneously recognized as the button may be deleted based on the user's operation.

取得部13は、抽出部12によって抽出された画面と、その画面内に配されるボタンと、ボタンが操作された際に遷移する遷移画面とに基づいて、プログラムが実行された際の遷移構造を取得する。一例として、取得部13は、画面AにボタンBが配される場合、そのボタンBが操作されると遷移画面Cに遷移する際には、画面Aに配されるボタンBが操作されると遷移画面Cに遷移するという構造(遷移構造)を取得する。すなわち、取得部13は、画面、ボタン及び遷移画面を関連付けて登録することにより、遷移構造を取得する。この場合、取得部13は、画面(遷移画面)をプログラムの機能毎に登録することとしてもよい。 The acquisition unit 13 obtains a transition structure when the program is executed based on the screen extracted by the extraction unit 12, the buttons arranged in the screen, and the transition screen to which the transition screen transitions when the button is operated. to get As an example, when a button B is placed on the screen A, the acquisition unit 13 changes to the transition screen C when the button B is operated. A structure (transition structure) for transitioning to the transition screen C is acquired. That is, the acquisition unit 13 acquires the transition structure by associating and registering the screen, the button, and the transition screen. In this case, the acquisition unit 13 may register screens (transition screens) for each program function.

作成部14は、取得部13で取得された遷移構造に基づいて、プログラムが実行された場合にユーザによってプログラムの内容を進行させる際の予想される行動に応じた行動モデルを作成する。作成部14は、行動モデルとして、検査対象のプログラムとは異なる複数の他のプログラムが実行された場合にユーザが他のプログラムの内容を進行させる際の行動を予め学習し、その学習の結果と、取得部13によって取得される遷移構造とに基づいて、検査対象のプログラムが実行された場合に画面に配される1つ又は複数のボタンのうちの1つが操作されることの行動の内容を生成することとしてもよい。 Based on the transition structure acquired by the acquisition unit 13, the creation unit 14 creates a behavior model corresponding to the expected behavior of the user when the program is executed. As a behavior model, the creation unit 14 learns in advance the behavior of the user when executing the contents of the other programs when a plurality of other programs different from the program to be inspected is executed, and the results of the learning and the , and the transition structure acquired by the acquiring unit 13, the content of the action of operating one or more buttons arranged on the screen when the program to be inspected is executed. may be generated.

具体的には、まず、作成部14は、プログラムを操作するユーザの行動を学習する。具体的な一例として、作成部14は、検査対象のプログラムがゲームプログラムの場合には、他のプログラムとしてのゲームプログラムで遊ぶユーザの行動(ゲームの進め方)を学習する。学習は、複数の観点で行うことができる。 Specifically, first, the creating unit 14 learns the behavior of the user who operates the program. As a specific example, when the program to be inspected is a game program, the creation unit 14 learns the behavior (how to proceed with the game) of the user who plays the game program as another program. Learning can be done in multiple ways.

まず、作成部14は、検査対象のプログラムとは異なる複数の他のプログラムをユーザが操作する際の行動目的(戦術的行動)に応じた行動(ユーザによりプログラムの内容の進め方)を学習する。具体的には、作成部14は、深層学習によってユーザの行動の順序を学習する。一例として、作成部14によって複数の件数(一例として、約10件)のユーザの行動を学習して行動モデルを生成した場合、後述する検査部15は、行動モデルに基づいて、次に(例えば、11件目に)選択するユーザの行動の確率を推定する。 First, the creating unit 14 learns actions (how to proceed with the content of the program by the user) according to the action purpose (tactical action) when the user operates a plurality of programs different from the program to be inspected. Specifically, the creation unit 14 learns the order of user actions by deep learning. As an example, when the creation unit 14 learns a plurality of user behaviors (for example, about 10 cases) and generates a behavior model, the inspection unit 15, which will be described later, based on the behavior model, next (for example , 11th) estimate the probability of the user's action to select.

また、作成部14は、検査対象のプログラムの遷移画面に基づいて、そのプログラムにおいて行動目的を遂行するための細かい行動(戦略的行動)を学習する。すなわち、作成部14は、戦術的行動毎に目的達成の条件となる画面を予め設定しておく。その画面を「目的地」、それ以外の画面を「道」と見立て、ルート探索を行いながら目的地となる画面に到達するまでの遷移行動を繰り返す。この場合、作成部14は、ルート探索を行う場合、設定の不備により目的地となる画面までのルートが見つからない場合、及び、画面内に操作すべきボタンが見つからない場合等、様々なイレギュラーケースに応じてルート探索を行うことにより、細かい行動(戦略的行動)を学習する。作成部14は、目的地となる画面に到達して戦略的行動を達成した場合(学習した場合)、後述するように生成した行動モデルを使用して、再度新しい戦略的行動の選択を行う。 Also, based on the transition screen of the program to be inspected, the creation unit 14 learns detailed actions (strategic actions) for achieving the action purpose in the program. That is, the creating unit 14 presets a screen that serves as a condition for achieving the objective for each tactical action. This screen is regarded as the "destination", and the other screens are regarded as "paths". In this case, when performing a route search, the creating unit 14 may cause various irregularities such as when a route to the destination screen cannot be found due to inadequate settings, or when a button to be operated cannot be found on the screen. Detailed actions (strategic actions) are learned by performing route searches depending on the case. When the destination screen is reached and the strategic action is achieved (learned), the creation unit 14 uses the action model generated as described later to select a new strategic action again.

次に、作成部14は、遷移構造を理解したうえで、学習結果に基づいて、行動モデルを自動的に生成する。すなわち、作成部14は、取得部13によって取得された遷移構造ではユーザがどのように操作するか(ユーザが検査対象のプログラムの内容をどのように進めるか)を学習モデル(学習結果)に基づいて推定することにより、行動モデルを生成する。行動モデルは、ユーザの行動(ユーザが検査対象のプログラムの内容をどのように進めるか)を推定したモデルである。 Next, the creating unit 14 understands the transition structure and automatically creates a behavior model based on the learning result. That is, the creation unit 14 determines how the user operates the transition structure acquired by the acquisition unit 13 (how the user proceeds with the content of the program to be inspected) based on the learning model (learning result). Behavior model is generated by estimating A behavioral model is a model that estimates a user's behavior (how the user proceeds with the contents of the program to be inspected).

また、作成部14は、後述する検査部15において行動モデルに従ってプログラムの内容を進行させる際に、特定の画面に到達すると、その特定の画面から後の行動を別途指定したい場合には、ユーザの操作に基づいて行動を規定する内容(行動規定内容)を生成することとしてもよい。行動規定内容は、例えば、行動の流れを指定するフローチャート等により記載されていてもよい。 Further, when the content of the program is advanced according to the behavior model in the inspection unit 15, which will be described later, and when a specific screen is reached, the creation unit 14, if the user wants to separately specify the action after the specific screen, It is also possible to generate the content (behavior regulation content) that regulates the behavior based on the operation. The content of the action regulation may be described by, for example, a flow chart or the like that specifies the flow of action.

検査部15は、プログラムを実行させ、作成部14によって作成された行動モデルに応じて、画面内に配されるボタンを操作することにより画面を順次遷移させる。すなわち、検査部15は、検査対象のプログラムを実行して、行動モデル及び行動規定内容(フローチャート)に従ってプログラムの内容を進め、デバッグを実施する。この時、検査部15は、例えば、画面が遷移しない、ボタンが表示されない又は、遷移予定の画面に遷移しない等のプログラムに不具合(バグ)が有るか否かを検査する。 The inspection unit 15 executes the program, and according to the behavior model created by the creation unit 14, the screens are sequentially changed by operating the buttons arranged in the screen. That is, the inspection unit 15 executes the program to be inspected, advances the contents of the program according to the behavior model and the contents of the behavior regulation (flowchart), and performs debugging. At this time, the inspection unit 15 inspects whether or not there is a bug in the program, such as a screen not transitioning, a button not being displayed, or a screen not transitioning to a scheduled screen.

レポート生成部16は、検査部15によって画面を順次遷移させる際にプログラムに不具合があった場合、その不具合に関するレポートを生成する。なお、レポート生成部16は、抽出部12によって検査対象のプログラムを実行させた場合に、例えば、画面が遷移しない等のプログラムの不具合(バグ)が発生した場合にも、その不具合に関するレポートを生成することとしてもよい。レポートには、例えば、不具合が発生した状況、不具合が発生した内容、及び、不具合が発生した画面等が含まれていてもよい。レポート生成部16は、例えば、生成したレポートを記憶部17に記憶することとしてもよく、検査部15による検査が終了した後にレポートを表示部18に表示することとしてもよい。 If there is a problem in the program when the inspection unit 15 sequentially transitions the screens, the report generation unit 16 generates a report about the problem. Note that the report generating unit 16 generates a report regarding the problem even if a problem (bug) in the program such as a screen not transitioning occurs when the program to be inspected is executed by the extracting unit 12. It is also possible to The report may include, for example, the situation where the problem occurred, the content of the problem, the screen where the problem occurred, and the like. For example, the report generation unit 16 may store the generated report in the storage unit 17, and may display the report on the display unit 18 after the inspection by the inspection unit 15 is completed.

次に、表示部18に表示される画面の一例について説明する。
図2は、表示部18に表示される画面の第1例について説明するための図である。
検査装置1(制御部11(表示制御部))は、図2に例示するように、記憶部17に記憶されるプログラムの一覧を表示部18に表示する。また、ユーザは、検査装置1によってプログラムを検査させたい場合には、「アップロード」ボタンを操作することにより、検査対象のプログラムを検査装置1にアップロードさせることが可能である。また、ユーザは、プログラム一覧で表示される複数のプログラムのうち1つのプログラムを選択することにより、検査装置1によってプログラムを検査させることができる。
Next, an example of a screen displayed on the display unit 18 will be described.
FIG. 2 is a diagram for explaining a first example of a screen displayed on the display unit 18. As shown in FIG.
The inspection apparatus 1 (control unit 11 (display control unit)) displays a list of programs stored in the storage unit 17 on the display unit 18 as illustrated in FIG. Further, when the user wants to have the program inspected by the inspection apparatus 1, the user can upload the program to be inspected to the inspection apparatus 1 by operating the "upload" button. Further, the user can cause the inspection apparatus 1 to inspect the program by selecting one program from the plurality of programs displayed in the program list.

図3は、表示部18に表示される画面の第2例について説明するための図である。
検査装置1(制御部11(表示制御部))は、抽出部12によって画面及びボタンを抽出している場合、図3に例示する画面を表示部18に表示する。検査装置1は、例えば、検査対象のプログラムを動作させることにより取得している画面の数(図3に例示する場合には35画面)、及び、その画面数の時に作成部14によって行動モデルの生成に必要な時間等を表示部18に表示する。
FIG. 3 is a diagram for explaining a second example of the screen displayed on the display unit 18. As shown in FIG.
The inspection apparatus 1 (control unit 11 (display control unit)) displays the screen illustrated in FIG. For example, the inspection apparatus 1 acquires the number of screens acquired by operating the program to be inspected (35 screens in the example shown in FIG. The time required for generation and the like are displayed on the display unit 18 .

図4は、表示部18に表示される画面の第3例について説明するための図である。
検査装置1(制御部11(表示制御部))は、例えば、抽出部12によって画面の抽出が終了した場合等、図4に例示するように、抽出した画面の一覧を表示部18に表示する。
FIG. 4 is a diagram for explaining a third example of the screen displayed on the display unit 18. As shown in FIG.
The inspection apparatus 1 (control unit 11 (display control unit)) displays a list of extracted screens on the display unit 18 as illustrated in FIG. .

図5は、表示部18に表示される画面の第4例について説明するための図である。
検査装置1(制御部11(表示制御部))は、抽出部12によって抽出されたボタンの一覧を表示部18に表示する。例えば、検査装置1は、画面毎に抽出されたボタンの一覧と、ボタンが操作されることにより遷移する画面(遷移先)を表示部18に表示する。
FIG. 5 is a diagram for explaining a fourth example of the screen displayed on the display unit 18. As shown in FIG.
The inspection apparatus 1 (control unit 11 (display control unit)) displays a list of buttons extracted by the extraction unit 12 on the display unit 18 . For example, the inspection apparatus 1 displays on the display unit 18 a list of buttons extracted for each screen and screens (transition destinations) to which transitions are made when the buttons are operated.

図6は、表示部18に表示される画面の第5例について説明するための図である。
検査装置1(制御部11(表示制御部))は、生成部によって行動規定内容を生成した場合、行動の流れを指定するフローチャートを表示部18に表示する。
FIG. 6 is a diagram for explaining a fifth example of the screen displayed on the display unit 18. As shown in FIG.
The inspection apparatus 1 (control unit 11 (display control unit)) displays a flow chart designating the flow of actions on the display unit 18 when the content of action regulation is generated by the generation unit.

図7は、表示部18に表示される画面の第6例について説明するための図である。
検査装置1(制御部11(表示制御部))は、レポート生成部16によってレポートが生成された場合、そのレポートとして不具合の一覧を表示部18に表示する。
FIG. 7 is a diagram for explaining a sixth example of the screen displayed on the display unit 18. As shown in FIG.
When the report generation unit 16 generates a report, the inspection apparatus 1 (control unit 11 (display control unit)) displays a list of defects as the report on the display unit 18 .

次に、一実施形態に係るプログラムの検査方法について説明する。
図8は、一実施形態に係るプログラムの検査方法について説明するためのフローチャートである。
Next, a program inspection method according to an embodiment will be described.
FIG. 8 is a flowchart for explaining a program inspection method according to an embodiment.

ステップST1において、記憶部17は、検査装置1にアップロードされた検査対象のプログラムを記憶する。例えば、検査装置1は、ユーザが操作する端末(図示せず)等から送信された検査対象のプログラムを受け付け、そのプログラムを記憶部17に記憶する。 In step ST<b>1 , the storage unit 17 stores the inspection target program uploaded to the inspection apparatus 1 . For example, the inspection apparatus 1 receives a program to be inspected transmitted from a terminal (not shown) or the like operated by a user, and stores the program in the storage unit 17 .

ステップST2において、抽出部12は、ステップST1で記憶部17に記憶されたプログラムを実行し、そのプログラムの内容の進行に応じて表示部18に表示される画面と、その画面内に配されるボタンとを抽出する。抽出部12は、プログラムの内容の進行に応じて、順次、画面及びボタンを抽出する。 In step ST2, the extracting unit 12 executes the program stored in the storage unit 17 in step ST1. Extract button and . The extraction unit 12 sequentially extracts screens and buttons according to the progress of the contents of the program.

ステップST3において、取得部13は、ステップST2で抽出された画面及びボタンに基づいて、プログラムの内容が進行する際の構造(遷移構造)を取得する。取得部13は、ステップST3で画面及びボタンが順次抽出されるのに応じて、遷移構造を随時生成する。 In step ST3, the acquiring unit 13 acquires a structure (transition structure) when the content of the program progresses based on the screens and buttons extracted in step ST2. The acquisition unit 13 generates a transition structure as needed in accordance with the successive extraction of screens and buttons in step ST3.

ステップST4において、作成部14は、ステップST3で取得された遷移構造に基づいて、行動モデルを生成する。行動モデルは、ユーザの行動(ユーザが検査対象のプログラムの内容をどのように進めるか)を推定したモデルである。
また、作成部14は、後述するステップST5において行動モデルに従ってプログラムの内容を進行させる際(検査をする際)に、特定の画面に到達すると、その特定の画面から後の行動を別途指定したい場合に場合には、行動を規定する内容(行動規定内容)を別途生成することとしてもよい。
In step ST4, the creation unit 14 creates a behavior model based on the transition structure acquired in step ST3. A behavioral model is a model that estimates a user's behavior (how the user proceeds with the contents of the program to be inspected).
Further, when the creation unit 14 reaches a specific screen when proceeding with the contents of the program according to the behavior model in step ST5 (to be examined) in step ST5, which will be described later, the creation unit 14 may separately designate an action after the specific screen. In this case, it is also possible to separately generate the content (behavior regulation content) that defines the behavior.

ステップST5において、検査部15は、ステップST4で生成された行動モデル及び行動規定内容に基づいて、ステップST1で記憶部17に記憶された検査対象のプログラムを実行し、プログラムに不具合があるか検査する。 In step ST5, the inspection unit 15 executes the program to be inspected stored in the storage unit 17 in step ST1 based on the behavior model and behavior regulation content generated in step ST4, and inspects whether the program has a problem. do.

ステップST6において、レポート生成部16は、ステップST5の検査においてプログラムに不具合があった場合、その不具合に関するレポートを生成する。また、レポート生成部16は、ステップST2において画面及びボタンを抽出する際にプログラムの不具合があった場合にも、その不具合に関するレポートを生成することとしてもよい。 In step ST6, the report generation unit 16 generates a report regarding the defect if the program has a defect in the inspection of step ST5. In addition, the report generation unit 16 may generate a report regarding the problem even if there is a problem in the program when extracting the screen and the button in step ST2.

次に、本実施形態の効果について説明する。
検査装置1は、検査対象のプログラムが実行された場合に表示部18に表示される画面と、その画面内に配されるボタンとを抽出する抽出部12と、抽出部12によって抽出された画面と、その画面内に配されるボタンと、ボタンが操作された際に遷移する遷移画面とに基づいて、プログラムが実行された際の遷移構造を取得する取得部13と、取得部13で取得された遷移構造に基づいて、プログラムが実行された場合にユーザによってプログラムの内容を進行させる際の予想される行動に応じた行動モデルを作成する作成部14と、プログラムを実行させ、作成部14によって作成された行動モデルに応じて、画面内に配されるボタンを操作することにより画面を順次遷移させる検査部15と、検査部15によって画面を順次遷移させる際にプログラムに不具合があった場合、その不具合に関するレポートを生成するレポート生成部16と、を備える。
検査装置1は、検査対象のプログラムにおける画面の遷移構造を取得し、その遷移構造に基づいて行動モデルを生成し、行動モデルに従ってプログラムを検査する。このため、検査装置1は、記憶部17に記憶されたプログラムについて遷移構造を取得することにより、そのプログラムに不具合が生じるか検査を行うことができる。よって、検査装置1は、種々のプログラムについて自動的に検査を行うことができる。
また、検査装置1は、遷移構造に基づいて行動モデル等を生成する。これにより、検査装置1は、プログラムの内容を操作するユーザと同様にある程度意思をもってプログラムの内容を進めることができ、効率的にプログラムの検査を実行することができる。行動モデルを生成せずに自動的にプログラムの検査を行った場合には、検査をしていない画面(遷移)が生じる可能性があるが、本実施形態では、行動モデルに従って全ての画面(遷移)を検査するので、検査漏れ等が生じるのを防ぐことができる。
Next, the effects of this embodiment will be described.
The inspection apparatus 1 includes an extraction unit 12 for extracting a screen displayed on a display unit 18 when a program to be inspected is executed and buttons arranged in the screen, and a screen extracted by the extraction unit 12. and an acquisition unit 13 for acquiring the transition structure when the program is executed based on the buttons arranged in the screen and the transition screen that transitions when the button is operated, and the acquisition unit 13 acquires a creation unit 14 for creating a behavior model according to the expected behavior of the user when the program is executed, based on the transition structure thus determined; and a creation unit 14 for executing the program. If there is a problem in the inspection unit 15 that sequentially transitions the screen by operating the buttons arranged in the screen according to the behavior model created by and the program when the screen is sequentially transitioned by the inspection unit 15 , and a report generator 16 that generates a report about the defect.
The inspection apparatus 1 acquires the screen transition structure in the program to be inspected, generates a behavior model based on the transition structure, and inspects the program according to the behavior model. Therefore, by acquiring the transition structure of the program stored in the storage unit 17, the inspection apparatus 1 can inspect whether the program has a problem. Therefore, the inspection apparatus 1 can automatically inspect various programs.
Also, the inspection device 1 generates a behavior model and the like based on the transition structure. As a result, the inspection apparatus 1 can advance the contents of the program with a certain degree of intention in the same way as the user who operates the contents of the program, and can efficiently inspect the program. If a program is automatically inspected without generating a behavior model, screens (transitions) that have not been inspected may occur. ) is inspected, it is possible to prevent inspection omissions.

なお、検査装置1は、抽出部12によって検査対象のプログラムを実行していることに加えて、検査部15においてそのプログラムを実行して検査を行っている。これは、抽出部12によるプログラムの実行では、全ての画面(遷移)を確実に取得することができない可能性があり、またユーザが意思を持ってプログラムを進行させるのと同様にすることで(行動モデルに従ってプログラムを進行させる場合に)初めてプログラムに不具合が出る可能性もある。このため、検査装置1は、抽出部12によって検査対象のプログラムを実行して画面及びボタンを抽出すると共に、検査部15において検査対象のプログラムを実行してそのプログラムを検査している。また、検査装置1では、抽出部12によってプログラムを実行する際に不具合が発生した場合、取得部13によって遷移構造を取得できなくなる。この場合、検査装置1では、プログラムの不具合が修正された後、再度、抽出部12によって画面及びボタンを抽出して、取得部13によって遷移構造を取得するようにする。
なお、検査装置1は、上述したように再度画面及びボタンを抽出する場合、例えば、前回抽出した画面と、再度抽出した画面とに相違する部分がある場合、その画面のみ抽出することとしてもよい。検査装置1は、例えば、機械学習及び深層学習等の学習結果に基づいて画面の相違(差分)を認識し、レイアウト等の異なる箇所を自動的に検出することとしてもよい。
In addition to executing the program to be inspected by the extraction unit 12, the inspection apparatus 1 executes the program by the inspection unit 15 to perform inspection. This is because there is a possibility that all the screens (transitions) cannot be reliably acquired in the execution of the program by the extraction unit 12, and if the user intentionally advances the program ( There is also a possibility that the program will malfunction for the first time (when the program is advanced according to the behavior model). For this reason, the inspection apparatus 1 executes a program to be inspected by the extraction unit 12 to extract screens and buttons, and executes the program to be inspected by the inspection unit 15 to inspect the program. Further, in the inspection apparatus 1, if a problem occurs when the extraction unit 12 executes the program, the acquisition unit 13 cannot acquire the transition structure. In this case, in the inspection apparatus 1, after the program defect is corrected, the extraction unit 12 extracts screens and buttons again, and the acquisition unit 13 acquires the transition structure.
When extracting the screen and the button again as described above, for example, if there is a difference between the previously extracted screen and the re-extracted screen, the inspection apparatus 1 may extract only that screen. . The inspection apparatus 1 may, for example, recognize differences (differences) between screens based on learning results such as machine learning and deep learning, and automatically detect different locations such as layouts.

検査装置1では、作成部14は、行動モデルとして、検査対象のプログラムとは異なる複数の他のプログラムが実行された場合にユーザが他のプログラムの内容を進行させる際の行動を予め学習し、その学習の結果と、取得部13によって取得される遷移構造とに基づいて、検査対象のプログラムが実行された場合に画面に配される1つ又は複数のボタンのうちの1つが操作されることの行動の内容を生成することとしてもよい。
これにより、検査装置1は、作成部14によって行動モデルを生成することができる。検査装置1は、検査部15によって検査対象のプログラムを検査する場合、行動モデルに従ってプログラムの内容を進行させることができる。
In the inspection apparatus 1, the creating unit 14 learns in advance, as a behavior model, the behavior of the user when executing other programs different from the program to be inspected, and Based on the result of the learning and the transition structure acquired by the acquiring unit 13, one of one or more buttons arranged on the screen is operated when the program to be inspected is executed. It is also possible to generate the content of the action of
Thereby, the inspection apparatus 1 can generate a behavior model by the generating unit 14 . When inspecting a program to be inspected by the inspecting unit 15, the inspection apparatus 1 can advance the content of the program according to the behavior model.

検査装置1では、抽出部12は、画面に基づいて取得されるハッシュ値、画面に基づいて取得される特徴ベクトル、及び、画面内に配されるボタンの位置情報のうちの少なくとも1つに基づいて画面の同一性を判断することにより、同一画面を抽出することを回避することとしてもよい。
これにより、検査装置1は、抽出部12によって同一の画面が抽出されるのを回避することができ、取得部13によって適切な遷移構造を生成することができる。
In the inspection device 1, the extracting unit 12 extracts a value based on at least one of a hash value obtained based on the screen, a feature vector obtained based on the screen, and position information of buttons arranged in the screen. It is possible to avoid extracting the same screen by judging the identity of the screen by using the
As a result, the inspection apparatus 1 can prevent the extraction unit 12 from extracting the same screen, and the acquisition unit 13 can generate an appropriate transition structure.

検査装置1では、記憶部17に記憶されるプログラムは、ゲームのプログラムであってもよい。
特に、ゲームプログラムは、スマートフォン等の携帯端末で実行可能なプログラムであってもよい。そのようなゲームプログラムは、表示部18にボタンを表示し、そのボタンの操作に応じてプログラムの内容を進行するようになっている。このため、検査装置1は、ボタンの操作に応じて内容を進行させるプログラム(例えば、ゲームプログラム)に不具合が生じるか検査を行うことができる。
In the inspection device 1, the program stored in the storage unit 17 may be a game program.
In particular, the game program may be a program executable by a mobile terminal such as a smart phone. In such a game program, buttons are displayed on the display unit 18, and the contents of the program progress according to the operation of the buttons. Therefore, the inspection device 1 can inspect whether a problem occurs in a program (for example, a game program) that progresses according to button operations.

検査方法では、コンピュータが、検査対象のプログラムが実行された場合に表示部18に表示される画面と、その画面内に配されるボタンとを抽出する抽出ステップと、抽出ステップによって抽出された画面と、その画面内に配されるボタンの種類と、ボタンが操作された際に遷移する遷移画面とに基づいて、プログラムが実行された際の遷移構造を取得する取得ステップと、取得ステップで取得された遷移構造に基づいて、プログラムが実行された場合にユーザによってプログラムの内容を進行させる際の予想される行動に応じた行動モデルを作成する作成ステップと、プログラムを実行させ、作成ステップによって作成された行動モデルに応じて、画面内に配されるボタンを操作することにより画面を順次遷移させる検査ステップと、検査ステップによって画面を順次遷移させる際にプログラムに不具合があった場合、その不具合に関するレポートを生成するレポート生成ステップと、を実行する。
検査方法は、検査対象のプログラムにおける画面の遷移構造を取得し、その遷移構造に基づいて行動モデルを生成し、行動モデルに従ってプログラムを検査する。このため、検査方法は、記憶部17に記憶されたプログラムについて遷移構造を取得することにより、そのプログラムに不具合が生じるか検査を行うことができる。よって、検査方法は、種々のプログラムについて自動的に検査を行うことができる。
また、検査方法は、遷移構造に基づいて行動モデル等を生成する。これにより、検査方法は、プログラムの内容を操作するユーザと同様にある程度意思をもってプログラムの内容を進めることができ、効率的にプログラムの検査を実行することができる。なお、行動モデルを生成せずに自動的にプログラムの検査を行った場合には、検査をしていない画面(遷移)が生じる可能性があるが、本実施形態では、行動モデルに従って全ての画面(遷移)を検査するので、検査漏れ等が生じるのを防ぐことができる。
In the inspection method, the computer extracts the screen displayed on the display unit 18 when the program to be inspected is executed and the buttons arranged in the screen, and the screen extracted by the extraction step. and an acquisition step for acquiring the transition structure when the program is executed based on the type of button arranged in the screen and the transition screen that transitions when the button is operated, and the acquisition step a creation step of creating a behavior model according to the behavior expected by the user when the program is executed based on the determined transition structure, and a creation step of executing the program; An inspection step that sequentially transitions screens by operating buttons arranged in the screen according to the behavior model provided, and if there is a problem in the program when sequentially transitioning the screens by the inspection step, related to the problem and a report generation step to generate a report.
The inspection method acquires a screen transition structure in a program to be inspected, generates a behavior model based on the transition structure, and inspects the program according to the behavior model. Therefore, in the inspection method, by acquiring the transition structure of the program stored in the storage unit 17, it is possible to inspect whether the program has a problem. Thus, the checking method can automatically check various programs.
Also, the inspection method generates a behavior model and the like based on the transition structure. As a result, the inspection method can proceed with the contents of the program with a certain degree of intention in the same way as the user who operates the contents of the program, and the inspection of the program can be executed efficiently. Note that if the program is automatically inspected without generating a behavior model, there is a possibility that some screens (transitions) will not be inspected. Since (transition) is inspected, it is possible to prevent omission of inspection and the like.

検査プログラムは、コンピュータに、検査対象のプログラムが記憶される記憶機能と、記憶機能に記憶されたプログラムが実行された場合に表示部18に表示される画面と、その画面内に配されるボタンとを抽出する抽出機能と、抽出機能によって抽出された画面と、その画面内に配されるボタンの種類と、ボタンが操作された際に遷移する遷移画面とに基づいて、プログラムが実行された際の遷移構造を取得する取得機能と、取得機能で取得された遷移構造に基づいて、プログラムが実行された場合にユーザによってプログラムの内容を進行させる際の予想される行動に応じた行動モデルを作成する作成機能と、プログラムを実行させ、作成ステップによって作成された行動モデルに応じて、画面内に配されるボタンを操作することにより画面を順次遷移させる検査機能と、検査機能によって画面を順次遷移させる際にプログラムに不具合があった場合、その不具合に関するレポートを生成するレポート生成機能と、を実現させる。
検査プログラムは、検査対象のプログラムにおける画面の遷移構造を取得し、その遷移構造に基づいて行動モデルを生成し、行動モデルに従ってプログラムを検査する。このため、検査プログラムは、記憶部17に記憶されたプログラムについて遷移構造を取得することにより、そのプログラムに不具合が生じるか検査を行うことができる。よって、検査プログラムは、種々のプログラムについて自動的に検査を行うことができる。
また、検査プログラムは、遷移構造に基づいて行動モデル等を生成する。これにより、検査プログラムは、プログラムの内容を操作するユーザと同様にある程度意思をもってプログラムの内容を進めることができ、効率的にプログラムの検査を実行することができる。なお、行動モデルを生成せずに自動的にプログラムの検査を行った場合には、検査をしていない画面(遷移)が生じる可能性があるが、本実施形態では、行動モデルに従って全ての画面(遷移)を検査するので、検査漏れ等が生じるのを防ぐことができる。
The inspection program includes a storage function in which a program to be inspected is stored in the computer, a screen displayed on the display unit 18 when the program stored in the storage function is executed, and buttons arranged in the screen. A program is executed based on an extracting function that extracts , screens extracted by the extracting function, types of buttons arranged in the screens, and transition screens that transition when the buttons are operated. An acquisition function that acquires the transition structure of the program, and based on the transition structure acquired by the acquisition function, a behavior model corresponding to the expected behavior of the user when the program is executed is created. A creation function to create, an inspection function that executes a program and sequentially transitions screens by operating buttons arranged in the screen according to the behavior model created by the creation step, and a screen that is sequentially changed by the inspection function. and a report generation function for generating a report on the defect if there is a defect in the program during transition.
The inspection program acquires the screen transition structure in the program to be inspected, generates a behavior model based on the transition structure, and inspects the program according to the behavior model. Therefore, by acquiring the transition structure of the program stored in the storage unit 17, the inspection program can inspect whether the program has a problem. Therefore, the inspection program can automatically inspect various programs.
Also, the inspection program generates a behavior model and the like based on the transition structure. As a result, the inspection program can proceed with the contents of the program with a certain degree of intention in the same way as the user who operates the contents of the program, and the inspection of the program can be executed efficiently. Note that if the program is automatically inspected without generating a behavior model, there is a possibility that some screens (transitions) will not be inspected. Since (transition) is inspected, it is possible to prevent omission of inspection and the like.

なお、上述した検査装置1(検査方法及び検査プログラム)は、プログラムを検査する人(テスタ)と共に、ハイブリッドな検査を行うことができる。すなわち、検査装置1によってプログラムについて集中的にパターン繰返し検査を行い、その検査の結果に応じて、テスタが不具合の影響範囲を推定して、次のテストの内容を決定することとしてもよい。 The inspection apparatus 1 (inspection method and inspection program) described above can perform hybrid inspection together with a person (tester) who inspects the program. That is, the tester 1 may intensively perform a pattern repetition test on the program, and the tester may estimate the range of influence of the defect based on the test results to determine the next test content.

また、検査装置1(検査方法及び検査プログラム)は、行動モデルに従ってプログラムを検査するので、プログラムの負荷検査も行うことができる。すなわち、検査装置1は、自律的にプログラムの内容を進行させることができるため、実際の環境と同じような状況で負荷検査を行うことができる。 Moreover, since the inspection apparatus 1 (inspection method and inspection program) inspects the program according to the behavior model, it is possible to perform load inspection of the program. That is, since the inspection apparatus 1 can autonomously proceed with the contents of the program, the load inspection can be performed in a situation similar to the actual environment.

また、検査装置1(検査方法及び検査プログラム)は、行動モデルに従ってプログラムを検査するので、プログラムを実際に操作するユーザの嗜好に応じた検査(プログラムの内容のどの部分に重点を置くかに応じた検査)を行うことができる。 In addition, since the inspection apparatus 1 (inspection method and inspection program) inspects the program according to the behavior model, inspection according to the preferences of the user who actually operates the program (in accordance with which part of the contents of the program is emphasized) inspection) can be performed.

また、検査装置1(検査方法及び検査プログラム)は、例えば、検査対象のプログラムを記憶部17に記憶して取得部13によって遷移構造を取得すること、それに加えて、行動モデルに従った検査を行うこと、及び、検査の時間数(検査回数)それぞれに応じて課金を行うことができる。その課金は、月額制及び従量課金制のいずれであってよい。 Further, the inspection apparatus 1 (inspection method and inspection program) stores, for example, a program to be inspected in the storage unit 17 and acquires the transition structure by the acquisition unit 13. In addition, the inspection according to the behavior model is performed. It is possible to charge according to what is done and the number of hours of inspection (the number of inspections). The billing may be either monthly or pay-as-you-go.

上述したプログラムの検査装置1の各部は、コンピュータの演算処理装置等の機能として実現されてもよい。すなわち、検査装置1の抽出部12、取得部13、作成部14、検査部15及びレポート生成部16は、コンピュータの演算処理装置等による、抽出機能、取得機能、作成機能、検査機能及びレポート生成機能としてそれぞれ実現されてもよい。
検査プログラムは、上述した各機能をコンピュータに実現させることができる。検査プログラムは、外部メモリ又は光ディスク等の、コンピュータで読み取り可能な非一時的な記録媒体に記録されていてもよい。
また、上述したように、検査装置1の各部は、コンピュータの演算処理装置等で実現されてもよい。その演算処理装置等は、例えば、集積回路等によって構成される。このため、検査装置1の各部は、演算処理装置等を構成する回路として実現されてもよい。すなわち、検査装置1の抽出部12、取得部13、作成部14、検査部15及びレポート生成部16は、コンピュータの演算処理装置等を構成する、抽出回路、取得回路、作成回路、検査回路及びレポート生成回路
として実現されてもよい。
また、検査装置1の記憶部17及び表示部18は、例えば、集積回路等によって構成されることにより、記憶回路及び表示回路として実現されてもよい。また、検査装置1の記憶部17及び表示部18は、例えば、複数のデバイスによって構成されることにより、記憶装置及び表示装置として構成されてもよい。
Each unit of the program inspection device 1 described above may be realized as a function of an arithmetic processing unit of a computer or the like. That is, the extraction unit 12, the acquisition unit 13, the creation unit 14, the inspection unit 15, and the report generation unit 16 of the inspection apparatus 1 have an extraction function, an acquisition function, a creation function, an inspection function, and a report generation function by an arithmetic processing unit of a computer. Each may be implemented as a function.
The inspection program can cause the computer to implement each function described above. The inspection program may be recorded in a computer-readable non-temporary recording medium such as an external memory or an optical disc.
Further, as described above, each part of the inspection apparatus 1 may be realized by an arithmetic processing unit of a computer or the like. The arithmetic processing unit or the like is configured by an integrated circuit or the like, for example. Therefore, each unit of the inspection apparatus 1 may be implemented as a circuit that constitutes an arithmetic processing unit or the like. That is, the extraction unit 12, the acquisition unit 13, the creation unit 14, the inspection unit 15, and the report generation unit 16 of the inspection device 1 are an extraction circuit, acquisition circuit, creation circuit, inspection circuit, and It may be implemented as a report generation circuit.
Also, the storage unit 17 and the display unit 18 of the inspection apparatus 1 may be realized as a storage circuit and a display circuit by being configured by an integrated circuit or the like, for example. Also, the storage unit 17 and the display unit 18 of the inspection apparatus 1 may be configured as a storage device and a display device, for example, by being configured by a plurality of devices.

1 検査装置
11 制御部
12 取得部
13取得部
14 作成部
15 検査部
16 レポート生成部
17 記憶部
18 表示部
1 inspection device 11 control unit 12 acquisition unit 13 acquisition unit 14 creation unit 15 inspection unit 16 report generation unit 17 storage unit 18 display unit

Claims (6)

検査対象のプログラムが記憶された記憶部と、
前記記憶部に記憶された前記プログラムが実行された場合に表示部に表示される画面と、その画面内に配されるボタンとを抽出する抽出部と、
前記抽出部によって抽出された画面と、その画面内に配される前記ボタンと、前記ボタンが操作された際に遷移する遷移画面とに基づいて、前記プログラムが実行された際の遷移構造を取得する取得部と、
前記取得部で取得された遷移構造に基づいて、前記プログラムが実行された場合にユーザによってプログラムの内容を進行させる際の予想される行動に応じた行動モデルおよび行動規定内容を作成する作成部と、
前記作成部で作成された行動規定内容に基づく行動の流れを示すフローチャートを、前記表示部に表示する表示制御部と、
前記プログラムを実行させ、前記作成部によって作成された行動モデルに応じて、画面内に配される前記ボタンを操作することにより画面を順次遷移させる検査部と、
を備えるプログラムの検査装置。
a storage unit storing a program to be inspected;
an extraction unit that extracts a screen displayed on a display unit when the program stored in the storage unit is executed, and a button arranged in the screen;
Obtaining a transition structure when the program is executed based on the screen extracted by the extracting unit, the button arranged in the screen, and the transition screen to which the button is operated. an acquisition unit that
a creation unit for creating a behavior model and behavior regulation content according to expected behavior of a user when the program is executed, based on the transition structure obtained by the obtaining unit; ,
a display control unit for displaying, on the display unit, a flowchart showing a flow of actions based on the content of the rules of conduct created by the creation unit;
an inspection unit that executes the program and sequentially transitions screens by operating the buttons arranged in the screen according to the behavior model created by the creation unit;
A program inspection device comprising:
前記作成部は、前記行動モデルとして、検査対象の前記プログラムとは異なる複数の他のプログラムが実行された場合にユーザが前記他のプログラムの内容を進行させる際の行動を予め学習し、その学習の結果と、前記取得部によって取得される前記遷移構造とに基づいて、検査対象の前記プログラムが実行された場合に画面に配される1つ又は複数のボタンのうちの1つが操作されることの行動の内容を生成する
請求項1に記載のプログラムの検査装置。
The creation unit learns in advance, as the behavior model, behavior when a user proceeds with the contents of the other programs when a plurality of other programs different from the program to be inspected is executed, and learns the behavior. and one of a plurality of buttons arranged on a screen when the program to be inspected is executed based on the result of and the transition structure acquired by the acquisition unit. 2. The program inspection device according to claim 1, wherein the content of the action of the program is generated.
前記抽出部は、画面に基づいて取得されるハッシュ値、画面に基づいて取得される特徴ベクトル、及び、画面内に配されるボタンの位置情報のうちの少なくとも1つに基づいて画面の同一性を判断することにより、同一画面を抽出することを回避する
請求項1又は2に記載のプログラムの検査装置。
The extraction unit extracts screen identity based on at least one of a hash value acquired based on the screen, a feature vector acquired based on the screen, and position information of buttons arranged in the screen. 3. The program inspection device according to claim 1, wherein extraction of the same screen is avoided by judging .
前記記憶部に記憶される前記プログラムは、ゲームのプログラムである
請求項に記載のプログラムの検査装置。
2. The program inspection device according to claim 1 , wherein the program stored in the storage unit is a game program.
コンピュータが、
検査対象のプログラムを記憶部に記憶する記憶ステップと、
前記記憶部に記憶された前記プログラムが実行された場合に表示部に表示される画面と、その画面内に配されるボタンとを抽出する抽出ステップと、
前記抽出ステップによって抽出された画面と、その画面内に配される前記ボタンの種類と、前記ボタンが操作された際に遷移する遷移画面とに基づいて、前記プログラムが実行された際の遷移構造を取得する取得ステップと、
前記取得ステップで取得された遷移構造に基づいて、前記プログラムが実行された場合にユーザによってプログラムの内容を進行させる際の予想される行動に応じた行動モデルおよび行動規定内容を作成する作成ステップと、
前記作成ステップで作成された行動規定内容に基づく行動の流れを示すフローチャートを、前記表示部に表示する表示制御ステップと、
前記プログラムを実行させ、前記作成ステップによって作成された行動モデルに応じて、画面内に配される前記ボタンを操作することにより画面を順次遷移させる検査ステップと、
を実行するプログラムの検査方法。
the computer
a storage step of storing a program to be inspected in a storage unit;
an extracting step of extracting a screen displayed on a display unit when the program stored in the storage unit is executed, and a button arranged in the screen;
Transition structure when the program is executed based on the screen extracted by the extracting step, the type of the button arranged in the screen, and the transition screen transitioned when the button is operated. a obtaining step that obtains
a creation step of creating, based on the transition structure acquired in the acquisition step, a behavior model and behavior regulation content corresponding to the expected behavior of a user when the program is executed when the content of the program progresses; ,
a display control step of displaying, on the display unit, a flowchart showing a flow of actions based on the content of the rules of conduct created in the creating step;
an inspection step of executing the program and sequentially transitioning screens by operating the buttons arranged in the screen according to the behavior model created in the creating step;
How to inspect programs that run
コンピュータに、
検査対象のプログラムが記憶される記憶機能と、
前記記憶機能に記憶された前記プログラムが実行された場合に表示部に表示される画面と、その画面内に配されるボタンとを抽出する抽出機能と、
前記抽出機能によって抽出された画面と、その画面内に配される前記ボタンの種類と、
前記ボタンが操作された際に遷移する遷移画面とに基づいて、前記プログラムが実行された際の遷移構造を取得する取得機能と、
前記取得機能で取得された遷移構造に基づいて、前記プログラムが実行された場合にユーザによってプログラムの内容を進行させる際の予想される行動に応じた行動モデルおよび行動規定内容を作成する作成機能と、
前記作成機能で作成された行動規定内容に基づく行動の流れを示すフローチャートを、前記表示部に表示する表示制御機能と、
前記プログラムを実行させ、前記作成機能によって作成された行動モデルに応じて、画面内に配される前記ボタンを操作することにより画面を順次遷移させる検査機能と、
を実現させるプログラムの検査プログラム。
to the computer,
a storage function in which a program to be inspected is stored;
an extraction function for extracting a screen displayed on a display unit when the program stored in the storage function is executed, and a button arranged in the screen;
The screen extracted by the extraction function, the types of the buttons arranged in the screen,
an acquisition function for acquiring a transition structure when the program is executed based on a transition screen that transitions when the button is operated;
a creation function for creating a behavior model and behavior regulation content according to expected behavior of a user when the program is executed, based on the transition structure obtained by the obtaining function; ,
a display control function for displaying, on the display unit, a flow chart showing a flow of actions based on the content of the rules of conduct created by the creation function;
an inspection function that executes the program and sequentially transitions screens by operating the buttons arranged in the screen according to the behavior model created by the creation function;
A program inspection program that realizes.
JP2022002569A 2019-09-02 2022-01-11 Program inspection device, program inspection method and program inspection program Active JP7296152B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2022002569A JP7296152B2 (en) 2019-09-02 2022-01-11 Program inspection device, program inspection method and program inspection program

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2019159826A JP7012968B2 (en) 2019-09-02 2019-09-02 Program inspection equipment, program inspection method and program inspection program
JP2022002569A JP7296152B2 (en) 2019-09-02 2022-01-11 Program inspection device, program inspection method and program inspection program

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2019159826A Division JP7012968B2 (en) 2019-09-02 2019-09-02 Program inspection equipment, program inspection method and program inspection program

Publications (3)

Publication Number Publication Date
JP2022036210A JP2022036210A (en) 2022-03-04
JP2022036210A5 JP2022036210A5 (en) 2022-06-08
JP7296152B2 true JP7296152B2 (en) 2023-06-22

Family

ID=86772795

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022002569A Active JP7296152B2 (en) 2019-09-02 2022-01-11 Program inspection device, program inspection method and program inspection program

Country Status (1)

Country Link
JP (1) JP7296152B2 (en)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016004576A (en) 2014-06-19 2016-01-12 富士通株式会社 Method for verification of model of gui-based application and computer readable memory medium
JP2016197368A (en) 2015-04-06 2016-11-24 アズビル株式会社 Facility management device and facility management method
US20180329813A1 (en) 2017-01-11 2018-11-15 Smartlytics Llc, Dba Quantyzd System and method for automated intelligent mobile application testing
JP6438612B1 (en) 2018-03-20 2018-12-19 株式会社Cygames System, method, program, machine learning support apparatus, and data structure for inspecting game program

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016004576A (en) 2014-06-19 2016-01-12 富士通株式会社 Method for verification of model of gui-based application and computer readable memory medium
JP2016197368A (en) 2015-04-06 2016-11-24 アズビル株式会社 Facility management device and facility management method
US20180329813A1 (en) 2017-01-11 2018-11-15 Smartlytics Llc, Dba Quantyzd System and method for automated intelligent mobile application testing
JP6438612B1 (en) 2018-03-20 2018-12-19 株式会社Cygames System, method, program, machine learning support apparatus, and data structure for inspecting game program

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
切貫 弘之 外4名,「探索的テストと操作の記録を組み合わせた新たなテスト手法の提案」,電子情報通信学会技術研究報告 [online],一般社団法人電子情報通信学会,2019年05月17日,第119巻, 第56号,pp.43-48,[2019年6月24日 検索], インターネット<URL:https://www.ieice.org/ken/user/index.php?cmd=download&p=YEjF&t=IEICE-KBSE&l=57df8fa478d645fb26045e2762d2ba89277851794f79f693de48961f1887ea26&lang=>

Also Published As

Publication number Publication date
JP2022036210A (en) 2022-03-04

Similar Documents

Publication Publication Date Title
JP7012968B2 (en) Program inspection equipment, program inspection method and program inspection program
US20110214107A1 (en) Method and system for testing graphical user interfaces
JP6693938B2 (en) Appearance inspection device
CN105808416B (en) A kind of automated testing method and system of man-machine figure interactive interface
CN107832774A (en) A kind of page exception detection method and device
US10019346B2 (en) Generating software test script from video
JP2013140040A (en) Visual inspection device, visual inspection method and computer program
JP6214824B2 (en) Automatic test equipment
US20200019820A1 (en) Learning device, learning method, and learning program
TW202004574A (en) Artificial intelligence recheck system and method thereof
US20220327423A1 (en) Evaluation device, evaluation method, and storage medium
CN112559341A (en) Picture testing method, device, equipment and storage medium
CN110888812B (en) Test system and test method for response time of terminal page
CN115525563A (en) Test method, test device, computer equipment and storage medium
CN115510454A (en) Game testing method and device, electronic equipment and storage medium
CN109446016B (en) AR function test method, device and system for augmented reality technology
CN116559170A (en) Product quality detection method and related system
JP7296152B2 (en) Program inspection device, program inspection method and program inspection program
JP2022114331A (en) Inspection system, inspection method and inspection program
WO2023110478A1 (en) Method for automatically exploring states and transitions of a human machine interface (hmi) device
JP2013140041A (en) Visual inspection device, visual inspection method and computer program
CN115860827A (en) Mobile terminal advertisement testing method and system
CN112765041B (en) Game automation testing method and device and electronic equipment
US11443266B2 (en) Machine learning method and machine learning apparatus performing learning relating to work process
CN110572641B (en) Display equipment testing method and device and computer readable storage medium

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20220207

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20220207

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220221

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220523

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220526

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230509

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230605

R150 Certificate of patent or registration of utility model

Ref document number: 7296152

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150