JP6802320B2 - 情報処理システム、情報処理装置、プログラム、及び情報処理方法 - Google Patents

情報処理システム、情報処理装置、プログラム、及び情報処理方法 Download PDF

Info

Publication number
JP6802320B2
JP6802320B2 JP2019092722A JP2019092722A JP6802320B2 JP 6802320 B2 JP6802320 B2 JP 6802320B2 JP 2019092722 A JP2019092722 A JP 2019092722A JP 2019092722 A JP2019092722 A JP 2019092722A JP 6802320 B2 JP6802320 B2 JP 6802320B2
Authority
JP
Japan
Prior art keywords
display screen
information processing
version upgrade
image
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019092722A
Other languages
English (en)
Other versions
JP2020187618A (ja
Inventor
睦 埋金
睦 埋金
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Metawater Co Ltd
Original Assignee
Metawater Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Metawater Co Ltd filed Critical Metawater Co Ltd
Priority to JP2019092722A priority Critical patent/JP6802320B2/ja
Publication of JP2020187618A publication Critical patent/JP2020187618A/ja
Application granted granted Critical
Publication of JP6802320B2 publication Critical patent/JP6802320B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Debugging And Monitoring (AREA)

Description

本開示は、情報処理システム、情報処理装置、プログラム、及び情報処理方法に関する。
ソフトウェアのバージョンアップ後に、かかるソフトウェアによる表示画面が正しく表示されるかどうかをテストする技術が広く知られている。例えば特許文献1には、環境アップデート時及び回帰試験時の画面確認の自動化及び効率化を図るため、表示画面のスクリーンショットの画像データ(以下、スクリーンショット画像ともいう)の照合によりテストを半自動化する方法が開示されている。
特開2001−329576号公報
上述した従来技術では、初回試験時の表示画面のスクリーンショット画像と、2回目以降の試験の表示画面のスクリーンショット画像とを比較して差異を抽出する。そして抽出した差異を解析することにより、表示画面のテストを半自動化している。しかしながら当該方法では、2つのスクリーンショット画像の取得タイミングによっては、適切に差異を抽出できず、テストに不備が生じる虞がある。したがって、ソフトウェアの表示画面をテストする技術の利便性の向上が望まれている。
かかる事情に鑑みてなされた本開示の目的は、ソフトウェアの表示画面をテストする技術の利便性を向上させる情報処理システム、情報処理装置、プログラム、及び情報処理方法を提供することにある。
本開示の一実施形態に係る情報処理システムは、
画像照合によってソフトウェアのバージョンアップ前後の表示画面のテストを実行する情報処理システムであって、
バージョンアップ前の表示画面又はバージョンアップ後の表示画面のいずれか一方にかかる複数のスクリーンショット画像を取得する取得手段と、
前記複数のスクリーンショット画像同士の差分を抽出して画像マスクを生成する生成手段と、
前記画像マスクに基づき前記バージョンアップ前後の表示画面を画像照合する照合手段と、を備える。
本開示の一実施形態に係る情報処理装置は、
画像照合によってソフトウェアのバージョンアップ前後の表示画面のテストを実行する情報処理装置であって、
バージョンアップ前の表示画面又はバージョンアップ後の表示画面のいずれか一方にかかる複数のスクリーンショット画像を取得する取得手段と、
前記複数のスクリーンショット画像同士の差分を抽出して画像マスクを生成する生成手段と、
前記画像マスクに基づき前記バージョンアップ前後の表示画面を画像照合する照合手段と、を備える。
本開示の一実施形態に係る情報処理装置は、
画像照合によってソフトウェアのバージョンアップ前後の表示画面のテストを実行する情報処理システムであって、バージョンアップ前の表示画面又はバージョンアップ後の表示画面のいずれか一方にかかる複数のスクリーンショット画像を取得する取得手段と、前記複数のスクリーンショット画像同士の差分を抽出して画像マスクを生成する生成手段と、前記画像マスクに基づき前記バージョンアップ前後の表示画面を画像照合する照合手段と、を備える情報処理システムを構成するために、
前記取得手段、前記生成手段、及び前記照合手段の少なくとも1を備える。
本開示の一実施形態に係るプログラムは、
画像照合によってソフトウェアのバージョンアップ前後の表示画面のテストを実行する情報処理装置を、
バージョンアップ前の表示画面又はバージョンアップ後の表示画面のいずれか一方にかかる複数のスクリーンショット画像を取得する取得手段と、
前記複数のスクリーンショット画像同士の差分を抽出して画像マスクを生成する生成手段と、
前記画像マスクに基づき前記バージョンアップ前後の表示画面を画像照合する照合手段と、して機能させる。
本開示の一実施形態に係るプログラムは、
通信可能に接続された複数の情報処理装置によって構成され、
バージョンアップ前の表示画面又はバージョンアップ後の表示画面のいずれか一方にかかる複数のスクリーンショット画像を取得する取得手段と、
前記複数のスクリーンショット画像同士の差分を抽出して画像マスクを生成する生成手段と、
前記画像マスクに基づき前記バージョンアップ前後の表示画面を画像照合する照合手段と、を備える情報処理システムにおける前記複数の情報処理装置のうち1つの情報処理装置を、前記取得手段、前記生成手段、及び前記照合手段の少なくとも1として機能させる。
本開示の一実施形態に係る情報処理方法は、
画像照合によってソフトウェアのバージョンアップ前後の表示画面のテストを実行する情報処理方法であって、
バージョンアップ前の表示画面又はバージョンアップ後の表示画面のいずれか一方にかかる複数のスクリーンショット画像を取得するステップと、
前記複数のスクリーンショット画像同士の差分を抽出して画像マスクを生成するステップと、
前記画像マスクに基づき前記バージョンアップ前後の表示画面を画像照合するステップと、を備える。
本開示の一実施形態に係る情報処理システム、情報処理装置、プログラム、及び情報処理方法によれば、ソフトウェアの表示画面をテストする技術の利便性が向上する。
本開示の一実施形態に係る情報処理システムの概略構成を示すブロック図である。 本開示の一実施形態に係るソフトウェアのバージョンアップ前後の表示画面例である。 各シンボルの表示パターンの変化の一例を示す概要図である。 シンボル情報の一例を示す概要図である。 各シンボルのリフレッシュ周期のタイミングを示す概要図である。 第1の時間の情報を含むシンボル情報の一例を示す概要図である。 本開示の一実施形態に係る情報処理システムによる画像マスク生成の概念図である。 本開示の一実施形態に係る情報処理システムによる画像照合の概念図である。 本開示の一実施形態に係る情報処理システムの動作例を示すフローチャートである。 第2の時間の情報を含むシンボル情報の一例を示す概要図である。
以下、本発明の実施形態について説明する。
図1を参照して、本発明の一実施形態に係る情報処理システム1について説明する。情報処理システム1は、例えばソフトウェアの表示画面をテストするシステムである。本実施形態に係る情報処理システム1は、表示装置10と、入力装置20と、情報処理装置30と、を備える。
(表示装置のハードウェア構成)
表示装置10のハードウェア構成について説明する。表示装置10は、例えば液晶ディスプレイ又はOEL(Organic Electro-luminescence)ディスプレイ等のディスプレイである。本実施形態において、表示装置10は、情報処理装置30に接続される。
(入力装置のハードウェア構成)
入力装置20のハードウェア構成について説明する。入力装置20は、例えばキーボード又はマウス等の、ユーザによる操作を受け付ける入力インタフェースである。本実施形態において、入力装置20は、情報処理装置30に接続される。
(情報処理装置のハードウェア構成)
情報処理装置30のハードウェア構成について詳細に説明する。情報処理装置30は、通信部31と、記憶部32と、制御部33と、を備える。
通信部31は、無線又は有線を介して外部装置と通信する1つ以上の通信インタフェースである。本実施形態において、通信部31は、表示装置10及び入力装置20のそれぞれと通信する通信インタフェースを含むが、例えばLAN(Local Area Network)又はインターネット等の任意のネットワークと通信する通信インタフェースを更に含んでもよい。
記憶部32は、1つ以上のメモリである。メモリは、例えば半導体メモリ、磁気メモリ、又は光メモリ等であるが、これらに限られず任意のメモリとすることができる。記憶部32は、例えば一次記憶装置又は二次記憶装置として機能する。記憶部32は、例えば情報処理装置30に内蔵されるが、任意のインタフェースを介して情報処理装置30に外部から接続される構成も可能である。
制御部33は、1つ以上のプロセッサである。プロセッサは、例えば汎用のプロセッサ、又は特定の処理に特化した専用プロセッサであるが、これらに限られず任意のプロセッサとすることができる。制御部33は、情報処理装置30全体の動作を制御する。
(情報処理装置のソフトウェア構成)
情報処理装置30のソフトウェア構成について説明する。情報処理装置30の動作の制御に用いられる1つ以上のプログラムが記憶部32に記憶される。当該1つ以上のプログラムは、制御部33によって読み込まれると、制御部33を入力手段330、記憶手段331、決定手段332、取得手段333、生成手段334、照合手段335、及び表示手段336として機能させる。
各手段の概要について説明する。入力手段330は、入力装置20に対するユーザ操作に基づく入力を受け付ける手段である。記憶手段331は、情報を記憶部32に記憶する手段である。決定手段332は、ソフトウェアの表示画面にかかるスクリーンショット画像を取得する時間(以下、取得時間という)と、当該取得時間内でスクリーンショット画像を取得するタイミング(以下、取得タイミングという)とを決定する手段である。取得手段333は、決定手段332が決定した取得時間及び取得タイミングに基づき、スクリーンショット画像を取得する手段である。生成手段334は、画像マスクを生成する手段である。画像マスクとは、照合手段335による画像照合の対象外の領域を特定する情報である。換言すると画像マスクは、画像照合にかかる対象画像にマスク処理を施す領域を特定する情報である。照合手段335は、生成手段334によって生成された画像マスクに基づき、バージョンアップ前後の表示画面を画像照合する手段である。照合手段335は、画像マスクによりマスク処理が施されたバージョンアップ前後の表示画面を照合する。つまり照合手段335は、対象外の領域を除き、バージョンアップ前後の表示画面を画素毎に照合する。表示手段336は、情報を表示装置10に表示させる手段である。各手段の具体的な動作については後述する。
(情報処理システムによる処理の概要)
図2に、テストの対象の一例としてソフトウェアのバージョンアップ前後のスクリーンショット画像を示す。各スクリーンショット画像には複数の要素が含まれる。また各スクリーンショット画像には複数のシンボルが含まれる。シンボルとは、ソフトウェアの表示画面内において表示される要素のうち、時間経過に応じて動的に変化する要素である。例えばシンボルは、点滅するボタン及び計測数値を含む。バージョンアップ前のスクリーンショット画像において、例えば領域41、42、及び43にはそれぞれシンボルが表示されている。また、バージョンアップ後のスクリーンショット画像において、領域41’、42’、及び43’にも、それぞれシンボルが表示されている。ここでバージョンアップ前のスクリーンショット画像における領域41、42、及び43は、それぞれバージョンアップ後のスクリーンショット画像における領域41’、42’、及び43’に対応する。図2に示す例ではこれらの領域に表示された各シンボルは、バージョンアップ前後で表示パターンが異なる。図3に、各シンボルの表示パターンの変化の態様の一例を示す。図3に示すように、例えばシンボルは、3つのパターン又は2つのパターンの色彩で変化して表示される。また例えばシンボルは、計測値が変化して表示される。表示パターンの変化の態様は、色彩又は数値に限られず、例えばシンボルの形状、模様、文字、又は記号が変化して表示される態様も含まれる。
ここでソフトウェアのバージョンアップ前後の表示画面のテストにおいて、バージョンアップ前後のスクリーンショット画像の比較を行い、相違が無い場合に正常と判定し、相違がある場合に異常と判定する方法が考えられる。しかし当該判定方法では、上述のシンボルの表示パターンの変化に伴って相違が生じる場合も異常と判定してしまう。そこで本開示の一実施形態に係る情報処理システム1は、画像マスクを生成し、画像マスクを用いてシンボルの表示領域にマスク処理を施した上で画像照合を行う。以下、情報処理システム1による情報処理の詳細について説明する。
記憶手段331は、画像マスクの生成に用いられる情報を記憶部32に記憶する。当該情報は、例えばユーザが入力装置20を操作して入力可能である。当該情報は、例えば表示画面に含まれるシンボルに係る情報(以下、シンボル情報という)であるが、これに限られない。
シンボル情報は、シンボルに係る任意の情報を含む。図4に、記憶部32に記憶されるシンボル情報の一例を示す。例えばシンボル情報は、リフレッシュ周期及び変化数を含む。リフレッシュ周期とは、シンボルの表示態様が変化する周期である。変化数とは、シンボルの表示パターンの変化数である。図5は、図4のシンボル情報に対応する各シンボルのリフレッシュ周期のタイミングの概要である。図5の各矢印のタイミングで、各シンボルの表示パターンが変化する。すなわち、シンボルAは、リフレッシュ周期の2秒間隔で表示パターンが変化し、シンボルBはリフレッシュ周期の3秒間隔で表示パターンが変化し、シンボルCは、リフレッシュ周期の5秒間隔で表示パターンが変化する。なお図5では、各シンボルの最初のリフレッシュのタイミングが0秒で一致している例を示したが、これに限られず、各シンボルの最初のリフレッシュのタイミングは一致しない場合もある。
決定手段332は、シンボル情報に基づき、取得時間及び取得タイミングを決定する。決定手段332が取得時間及び取得タイミングを決定する方法は、例えば以下の方法を採用可能である。
(取得時間及び取得タイミングの決定方法)
決定手段332は、表示画面に含まれる各シンボルのリフレッシュ周期及び変化数に基づき取得時間を決定する。具体的には決定手段332は、以下の数式(1)に基づき取得時間を決定する。
取得時間=max(fi×ni) i∈I (1)
ここでiはシンボル、Iは表示画面に含まれるシンボルの集合、fiはシンボルiのリフレッシュ周期、niはシンボルiの変化数を意味し、本明細書において以下同様の意味で使用される。
つまり決定手段332は、各シンボルのリフレッシュ周期及び変化数の積により定まる時間(以下、第1の時間という)をシンボル毎に算出し、算出された第1の時間のうち最大のものを取得時間として決定する。図4に示す例においては、シンボルA、シンボルB、及びシンボルCに係る第1の時間は、それぞれ6秒、6秒、及び10秒である。したがってこの場合、決定手段332は取得時間を10秒と決定する。記憶手段331は、シンボル情報として、第1の時間を各シンボルに対応付けて記憶部32に記憶してもよい。図6に、第1の時間の情報を含むシンボル情報を示す。
また決定手段332は、表示画面に含まれる各シンボルのリフレッシュ周期に基づき取得タイミングを決定する。具体的には決定手段332は、以下の数式(2)に基づき取得タイミングを決定する。
取得タイミング=min(fi) i∈I (2)
すなわち決定手段332は、各リフレッシュ周期のうち最小のものを取得タイミングとして決定する。図4に示す例では決定手段332は、取得タイミングを2秒毎と決定する。したがって図4に示す例において、決定手段332は、最初のスクリーンショット画像を取得してから10秒間の取得時間において、2秒毎にスクリーンショット画像を取得すると決定する。つまりこの場合、最初のスクリーンショット画像の取得時を0秒とすると、取得手段333は、0秒、2秒、4秒、6秒、8秒、10秒のタイミングでスクリーンショット画像を取得する。なお最初のスクリーンショット画像の取得時は、シンボルのリフレッシュ周期のタイミングと一致するとは限らない。
取得手段333は、決定手段332により決定された取得時間及び取得タイミングによりスクリーンショット画像を取得する。換言すると取得手段333は、表示画面に含まれるシンボルのリフレッシュ周期に基づき定めた取得時間及び取得タイミングで複数のスクリーンショット画像を取得する。取得手段333によるスクリーンショット画像の取得方法は各種の方法を採用可能である。例えば情報処理装置30が対象のソフトウェアを実行し、表示装置10により表示された該ソフトウェアの表示画面から、スクリーンショット画像をキャプチャしてもよい。また例えば情報処理装置30とは別の装置が対象のソフトウェアを実行し、当該別の装置により表示されキャプチャされた該ソフトウェアの表示画面を、通信部31を介して受信して取得してもよい。なお、取得手段333が取得するスクリーンショット画像は、バージョンアップ前の表示画面から取得されてもよく、あるいはバージョンアップ後の表示画面から取得されてもよい。つまりマスク画像の生成は、バージョンアップ前後いずれかのソフトウェアの表示画面にかかる複数のスクリーンショット画像に基づいて行うことができる。また同様にマスク画像の生成は、バージョンアップ後のソフトウェアの表示画面にかかる複数のスクリーン画像に基づいて行うことができる。
生成手段334は、取得手段333が取得した複数のスクリーンショット画像同士の差分を抽出して画像マスクを生成する。図7に、本開示の一実施形態に係る情報処理システム1による画像マスクの生成処理の概念図を示す。生成手段334は、取得手段333が取得したスクリーンショット画像(A〜AN’)のいずれか1枚を基準の画像(以下、基準画像という)とする。図7では基準画像を画像Aとしている。生成手段334は、基準画像と、その他のスクリーンショット画像とをそれぞれ比較し、差分がある画素を差分画像として生成する。図7では、基準画像と、各画像A’〜AN’との差分画像を、差分画像Adif_1〜Adif_Nとして示している。そして生成手段334は、全ての差分画像Adif_1〜Adif_Nを合成してマスクを生成する。つまり生成手段334は、全スクリーンショット画像のうち、差分が生じた画素領域を覆うように、画像マスクを生成する。
照合手段335は、生成手段334に基づき生成された画像マスクに基づき、バージョンアップ前後の表示画面を画像照合する。図8に、本開示の一実施形態に係る情報処理システム1による画像照合の概念図を示す。照合手段335は、生成手段334が生成した画像マスクにより、バージョンアップ前後のスクリーンショット画像に対してそれぞれ画像マスクを適用し、マスク処理を施す。図8では、バージョンアップ前後のスクリーンショット画像を、それぞれ画像A及び画像Bと表記している。また図8では、バージョンアップ前後のスクリーンショット画像に画像マスクを適用してマスク処理を施した画像を、それぞれ画像Aoffi及び画像Boffiと表記している。照合手段335は、画像マスクが適用されたバージョンアップ前後のスクリーンショット画像に基づき、画像照合を行い、照合結果を出力する。換言すると照合手段335は、バージョンアップ前後のスクリーンショット画像のうち、画像マスク部分以外について画像照合を行い、照合結果を出力する。例えば照合結果は、正常又は異常の2値をとり得る。照合手段335は、画像照合により差分が無い場合、正常として出力する。他方で照合手段335は、画像照合により差分がある場合、異常として出力する。照合結果の出力態様はこれに限られず、例えば照合手段335は、差分がある位置を特定する情報を出力してもよい。
表示手段336は、照合手段335による照合結果を表示する。例えば照合結果が正常又は異常の2値である場合、表示手段336は、当該2値のいずれかを表示する。あるいは照合手段335が、差分がある位置を特定する情報を出力した場合、表示手段336は、当該位置の情報に基づき、表示画面中において差分が生じた場所をハイライト表示するようにしてもよい。
次に、図9に示すフローチャートを参照し、本開示の一実施形態に係る情報処理システム1の動作の概要を説明する。
ステップS10:記憶手段331は、画像マスクの生成に用いられる情報を記憶部32に記憶する。当該情報は、例えばシンボル情報を含む。
ステップS20:決定手段332は、シンボル情報に基づき、取得時間及び取得タイミングを決定する。
ステップS30:取得手段333は、決定手段332により決定された取得時間及び取得タイミングによりスクリーンショット画像を取得する。換言すると取得手段333は、表示画面に含まれるシンボルのリフレッシュ周期に基づき定めた取得時間及び取得タイミングで複数のスクリーンショット画像を取得する。取得手段333が取得するスクリーンショット画像は、バージョンアップ前の表示画面から取得されてもよく、あるいはバージョンアップ後の表示画面から取得されてもよい。
ステップS40:生成手段334は、取得手段333が取得した複数のスクリーンショット画像同士の差分を抽出して画像マスクを生成する。
ステップS50:照合手段335は、生成手段334に基づき生成された画像マスクに基づき、バージョンアップ前後の表示画面を画像照合する。具体的には照合手段335は、バージョンアップ前後のソフトウェアの表示画面にかかるスクリーンショット画像のうち、画像マスク部分以外について画像照合を行い、照合結果を出力する。
ステップS60:表示手段336は、照合手段335による照合結果を表示する。
上述した情報処理システム1の動作によれば、画像マスクが自動的に生成されるため、画像マスクの生成の手間を大幅に省くことができる。したがって、ソフトウェアの表示画面をテストする技術の利便性が向上する。
本開示を諸図面及び実施例に基づき説明してきたが、当業者であれば本開示に基づき種々の変形及び修正を行うことが容易であることに注意されたい。したがって、これらの変形及び修正は本発明の範囲に含まれることに留意されたい。例えば、各手段、各ステップ等に含まれる機能等は論理的に矛盾しないように再配置可能であり、複数の手段又はステップ等を1つに組み合わせたり、或いは分割したりすることが可能である。
例えば、上述した実施形態に係る表示装置10、入力装置20、及び情報処理装置30のうち少なくとも2つが、1つの装置として構成されてもよい。また例えば、情報処理装置30の各構成又は各手段が、複数の情報処理装置に分散配置された構成も可能である。当該複数の情報処理装置のうち少なくとも1つが、例えばインターネット等のネットワークに接続されたサーバとして実現される構成も可能である。
また、上述した実施形態において、図9を参照して情報処理システム1の動作の例について説明した。しかしながら、上述した動作に含まれる一部のステップ、又は1つのステップに含まれる一部の動作が、論理的に矛盾しない範囲内において省略された構成も可能である。また、上述した動作に含まれる複数のステップの順番が、論理的に矛盾しない範囲内において入れ替わった構成も可能である。
また、上述した実施形態において、情報処理装置30の制御部33によって実現される各種の手段をソフトウェア構成として説明したが、これらのうち少なくとも一部の手段は、ソフトウェア資源及び/又はハードウェア資源を含む概念であってもよい。例えば、記憶手段331は、1つ以上のメモリを含んでもよい。また例えば、表示手段336は、1つ以上のディスプレイ装置又は印刷装置等を含んでもよい。
また、上述した実施形態に係る情報処理装置30として機能させるために、コンピュータ又は携帯電話等の装置を用いることができる。当該装置は、実施形態に係る情報処理装置30の各機能を実現する処理内容を記述したプログラムを、当該装置のメモリに格納し、当該装置のプロセッサによって当該プログラムを読み出して実行させることによって実現可能である。
また決定手段332が取得時間及び取得タイミングを決定する方法は、上記の方法に限られず、各種の変形が可能である。以下に、決定方法の変形例1〜3について説明する。
(変形例1)
上述の決定方法と同様、決定手段332は、表示画面に含まれる各シンボルのリフレッシュ周期及び変化数に基づき取得時間を決定するが、数式(1)を用いずに別の数式を用いてこれらを決定する。具体的には決定手段332は、以下の数式(3)に基づき取得時間を決定する。
取得時間=max(fi×(ni-α)+β) i∈I (3)
ここでα及びβは定数であり、例えばいずれも1である。以下α及びβはいずれも1である場合について説明するが、α及びβはこれに限られず、αは0<α≦ni−1を満たす任意の数値であればよく、βは0以上の任意の数値であればよい。
具体的には決定手段332は、各シンボルのリフレッシュ周期及び変化数により定まる時間(以下、第2の時間という)をシンボル毎に定め、各シンボルの第2の時間のうち最大のものを取得時間として決定する。図4に示す例においては、シンボルA、シンボルB、及びシンボルCに係る第2の時間は、それぞれ5秒、4秒、及び6秒である。したがってこの場合、決定手段332は取得時間を6秒と決定する。記憶手段331は、シンボル情報として、第2の時間の情報を各シンボルに対応付けて記憶部32に記憶してもよい。図10に、第2の時間を含むシンボル情報を示す。
また決定手段332は、表示画面に含まれる各シンボルのリフレッシュ周期に基づき取得タイミングを決定する。具体的には決定手段332は、数式(2)に基づき取得タイミングを決定する。図4に示す例においては、決定手段332は、取得タイミングを2秒毎と決定する。したがって図4に示す例において、決定手段332は、6秒間の取得時間において、最初のスクリーンショット画像を取得してから2秒毎にスクリーンショット画像を取得すると決定する。すなわちこの場合、最初のスクリーンショット画像の取得時を0秒とすると、取得手段333は、0秒、2秒、4秒、6秒のタイミングでスクリーンショット画像を取得する。なお最初のスクリーンショット画像の取得時は、シンボルのリフレッシュ周期のタイミングと一致するとは限らない。
変形例1の決定方法によれば、上述の実施形態における決定方法よりも少ない取得時間で必要なスクリーンショット画像を収集できる。これは、全てのシンボルについて全ての変化パターンを網羅しなくとも、各シンボルについて少なくとも1つの変化パターンが生じれば画像マスクを生成できることに基づく。このように変形例1によれば、より少ない枚数のスクリーンショット画像に基づきマスクを生成でき、マスク生成に係る装置の処理負荷を低減することができる。
(変形例2)
変形例2では、決定手段332は、表示画面に含まれる各シンボルのリフレッシュ周期のうち、最大のリフレッシュ周期に基づき取得時間を決定する。具体的には決定手段332は、以下の数式(4)に基づき取得時間を決定する。
取得時間=max(fi) i∈I (4)
すなわち決定手段332は、図4に示す例において、取得時間を5秒と決定する。
また決定手段332は、表示画面に含まれる各シンボルのリフレッシュ周期に基づき取得タイミングを決定する。具体的には決定手段332は、各リフレッシュ周期に対応する時間を取得タイミングとする。つまり、図4に示す例において、決定手段332は取得タイミングを最初のスクリーンショット画像を取得した2秒後、3秒後、5秒後と決定する。すなわちこの場合、最初のスクリーンショット画像の取得時を0秒とすると、取得手段333は、0秒、2秒、3秒、5秒のタイミングでスクリーンショット画像を取得する。なお最初のスクリーンショット画像の取得時は、シンボルのリフレッシュ周期のタイミングと一致するとは限らない。
変形例2の決定方法によれば、リフレッシュ周期の異なる複数のシンボルが表示画面に含まれる場合において、各リフレッシュ周期に応じた取得タイミングで複数のスクリーンショット画像を取得する。そのため上述の実施形態における決定方法よりも少ない取得時間で必要なスクリーンショット画像を収集できる。これは、全てのシンボルについて全ての変化パターンを網羅しなくとも、シンボルの変化が生じる前後のスクリーンショット画像を取得すれば、画像マスクを生成できることに基づく。このように変形例2によれば、少ない枚数のスクリーンショット画像に基づきマスクを生成でき、マスク生成に係る装置の処理負荷を低減することができる。
(変形例3)
決定手段332は、表示画面に含まれる各シンボルのリフレッシュ周期のうち、最大のリフレッシュ周期に基づき取得時間を決定する。具体的には決定手段332は、上記数式(4)に基づき取得時間を決定する。すなわち決定手段332は、図4に示す例において、取得時間を5秒と決定する。
また決定手段332は、表示画面に含まれる各シンボルのリフレッシュ周期に基づき取得タイミングを決定する。具体的には決定手段332は、上記数式(2)に基づき取得タイミングを決定する。図4に示す例においては、決定手段332は、取得タイミングを2秒毎と決定する。したがって図4に示す例において、決定手段332は、5秒間の取得時間において、最初のスクリーンショット画像を取得してから2秒毎にスクリーンショット画像を取得すると決定する。すなわちこの場合、最初のスクリーンショット画像の取得時を0秒とすると、決定手段332は、0秒、2秒、4秒のタイミングでスクリーンショット画像を取得すると決定する。なお最初のスクリーンショット画像の取得時は、シンボルのリフレッシュ周期のタイミングと一致するとは限らない。
変形例3の決定方法によれば、フレッシュ周期の異なる複数のシンボルが表示画面に含まれる場合において、最大のリフレッシュ周期に基づき定めた取得時間で、最小のリフレッシュ周期に基づき定めた取得タイミングで複数のスクリーンショット画像を取得する。そのため上述の実施形態における決定方法よりも少ない取得時間で必要なスクリーンショット画像を収集できる。これは、全てのシンボルについて全ての変化パターンを網羅しなくとも、最大リフレッシュ周期のシンボルに変化があるまでのどこかのタイミングで、残りのシンボルの変化後のスクリーンショット画像も得られ、これらにより画像マスクを生成できることに基づく。このように変形例3によれば、より少ない枚数のスクリーンショット画像に基づきマスクを生成でき、マスク生成に係る装置の処理負荷を低減することができる。
なお、上述の実施形態及び変形例1〜3において、決定手段332は、各シンボルの変化のしやすさに基づき、各シンボルに優先度をつけて上記の取得時間及び取得タイミングを調整してもよい。例えば決定手段332は、変化しにくいシンボルを、取得時間及び取得タイミングを決定する際に対象外としてもよい。具体的には例えば決定手段332は、各シンボルが変化する頻度(以下、変化頻度という)が所定の閾値未満である場合、当該シンボルを、取得時間及び取得タイミングを決定する際に考慮対象としなくてもよい。換言すると決定手段332は、変化頻度が所定値以上のシンボルにかかるリフレッシュ周期及び変化数に基づき取得時間及び取得タイミングを決定してもよい。このようにすることで、より少ない枚数のスクリーンショット画像に基づきマスクを生成でき、マスク生成に係る装置の処理負荷を低減することができる。
1 情報処理システム
10 表示装置
20 入力装置
30 情報処理装置
31 通信部
32 記憶部
33 制御部
330 入力手段
331 記憶手段
332 決定手段
333 取得手段
334 生成手段
335 照合手段
336 表示手段
41〜43、41’〜43’ 領域

Claims (9)

  1. 画像照合によってソフトウェアのバージョンアップ前後の表示画面のテストを実行する情報処理システムであって、
    バージョンアップ前の表示画面又はバージョンアップ後の表示画面のいずれか一方にかかる複数のスクリーンショット画像を取得する取得手段と、
    前記複数のスクリーンショット画像同士の差分を抽出し、抽出した差分画像を合成して画像マスクを生成する生成手段と、
    前記画像マスクの部分以外について前記バージョンアップ前後の表示画面を画像照合する照合手段と、
    を備える情報処理システム。
  2. 画像照合によってソフトウェアのバージョンアップ前後の表示画面のテストを実行する情報処理システムであって、
    バージョンアップ前の表示画面又はバージョンアップ後の表示画面のいずれか一方にかかる複数のスクリーンショット画像を取得する取得手段と、
    前記複数のスクリーンショット画像同士の差分を抽出して画像マスクを生成する生成手段と、
    前記画像マスクに基づき前記バージョンアップ前後の表示画面を画像照合する照合手段と、
    を備え、
    前記取得手段は、前記表示画面に含まれるシンボルのリフレッシュ周期に基づき定めた取得時間及び取得タイミングで前記複数のスクリーンショット画像を取得する、情報処理システム。
  3. 請求項2に記載の情報処理システムであって、
    前記取得手段は、リフレッシュ周期の異なる複数のシンボルが前記表示画面に含まれる場合、各リフレッシュ周期に応じた取得タイミングで前記複数のスクリーンショット画像を取得する、情報処理システム。
  4. 請求項2に記載の情報処理システムであって、
    前記取得手段は、リフレッシュ周期の異なる複数のシンボルが前記表示画面に含まれる場合、最大のリフレッシュ周期に基づき定めた取得時間で、最小のリフレッシュ周期に基づき定めた取得タイミングで前記複数のスクリーンショット画像を取得する情報処理システム。
  5. 画像照合によってソフトウェアのバージョンアップ前後の表示画面のテストを実行する情報処理装置であって、
    バージョンアップ前の表示画面又はバージョンアップ後の表示画面のいずれか一方にかかる複数のスクリーンショット画像を取得する取得手段と、
    前記複数のスクリーンショット画像同士の差分を抽出し、抽出した差分画像を合成して画像マスクを生成する生成手段と、
    前記画像マスクの部分以外について前記バージョンアップ前後の表示画面を画像照合する照合手段と、
    を備える情報処理装置。
  6. 画像照合によってソフトウェアのバージョンアップ前後の表示画面のテストを実行する情報処理システムであって、バージョンアップ前の表示画面又はバージョンアップ後の表示画面のいずれか一方にかかる複数のスクリーンショット画像を取得する取得手段と、前記複数のスクリーンショット画像同士の差分を抽出し、抽出した差分画像を合成して画像マスクを生成する生成手段と、前記画像マスクの部分以外について前記バージョンアップ前後の表示画面を画像照合する照合手段と、を備える情報処理システムを構成するために、
    前記取得手段、前記生成手段、及び前記照合手段の少なくとも1を備える、情報処理装置。
  7. 画像照合によってソフトウェアのバージョンアップ前後の表示画面のテストを実行する情報処理装置を、
    バージョンアップ前の表示画面又はバージョンアップ後の表示画面のいずれか一方にかかる複数のスクリーンショット画像を取得する取得手段と、
    前記複数のスクリーンショット画像同士の差分を抽出し、抽出した差分画像を合成して画像マスクを生成する生成手段と、
    前記画像マスクの部分以外について前記バージョンアップ前後の表示画面を画像照合する照合手段と、
    して機能させる、プログラム。
  8. 通信可能に接続された複数の情報処理装置によって構成され、
    バージョンアップ前の表示画面又はバージョンアップ後の表示画面のいずれか一方にかかる複数のスクリーンショット画像を取得する取得手段と、
    前記複数のスクリーンショット画像同士の差分を抽出し、抽出した差分画像を合成して画像マスクを生成する生成手段と、
    前記画像マスクの部分以外についてバージョンアップ前後の表示画面を画像照合する照合手段と、を備える情報処理システムにおける前記複数の情報処理装置のうち1つの情報処理装置を、
    前記取得手段、前記生成手段、及び前記照合手段の少なくとも1として機能させるプログラム。
  9. 画像照合によってソフトウェアのバージョンアップ前後の表示画面のテストを実行する情報処理方法であって、
    バージョンアップ前の表示画面又はバージョンアップ後の表示画面のいずれか一方にかかる複数のスクリーンショット画像を取得するステップと、
    前記複数のスクリーンショット画像同士の差分を抽出し、抽出した差分画像を合成して画像マスクを生成するステップと、
    前記画像マスクの部分以外について前記バージョンアップ前後の表示画面を画像照合するステップと、
    を備える情報処理方法。
JP2019092722A 2019-05-16 2019-05-16 情報処理システム、情報処理装置、プログラム、及び情報処理方法 Active JP6802320B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019092722A JP6802320B2 (ja) 2019-05-16 2019-05-16 情報処理システム、情報処理装置、プログラム、及び情報処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019092722A JP6802320B2 (ja) 2019-05-16 2019-05-16 情報処理システム、情報処理装置、プログラム、及び情報処理方法

Publications (2)

Publication Number Publication Date
JP2020187618A JP2020187618A (ja) 2020-11-19
JP6802320B2 true JP6802320B2 (ja) 2020-12-16

Family

ID=73221737

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019092722A Active JP6802320B2 (ja) 2019-05-16 2019-05-16 情報処理システム、情報処理装置、プログラム、及び情報処理方法

Country Status (1)

Country Link
JP (1) JP6802320B2 (ja)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9298598B2 (en) * 2010-03-22 2016-03-29 Red Hat, Inc. Automated visual testing
JP6214824B2 (ja) * 2015-04-22 2017-10-18 三菱電機株式会社 自動試験装置
JP6491959B2 (ja) * 2015-06-03 2019-03-27 新日鉄住金ソリューションズ株式会社 情報処理装置、情報処理方法及びプログラム
JP6543649B2 (ja) * 2017-03-22 2019-07-10 日本電信電話株式会社 画面差異検出装置及びプログラム

Also Published As

Publication number Publication date
JP2020187618A (ja) 2020-11-19

Similar Documents

Publication Publication Date Title
US9298598B2 (en) Automated visual testing
CN110991649A (zh) 深度学习模型搭建方法、装置、设备和存储介质
US20180039559A1 (en) Method and apparatus for creating reference images for an automated test of software with a graphical user interface
CN108304243B (zh) 界面生成方法、装置、计算机设备和存储介质
JP2020027424A (ja) 学習データ生成装置、判別モデル生成装置、及びプログラム
JP6214824B2 (ja) 自動試験装置
US9690682B2 (en) Program information generating system, method, and computer program product
CN108304318B (zh) 设备兼容性的测试方法及终端设备
CN111401472B (zh) 基于深度卷积神经网络的红外目标分类方法和装置
US9477457B1 (en) Automated software installation using a click area prediction model
CN112101386A (zh) 文本检测方法、装置、计算机设备和存储介质
US10997947B2 (en) Electronic device and control method thereof
WO2019188573A1 (ja) 演算装置、演算方法およびプログラム
CN110909888A (zh) 泛型决策树构建方法、装置、设备及可读存储介质
CN108717357B (zh) 页面展示代码转换方法、装置、设备及计算机存储介质
JP6802320B2 (ja) 情報処理システム、情報処理装置、プログラム、及び情報処理方法
CN111936976A (zh) 用于引导测试用例生成的启用人工智能的输出空间探索
CN109871205A (zh) 界面代码调整方法、装置、计算机装置及存储介质
US20180101294A1 (en) Information generating system, information generating device, information generating method, and information generating program
CN112667212A (zh) 埋点数据可视化方法、装置、终端和存储介质
JP6622150B2 (ja) 情報処理装置および情報処理方法
JP7192854B2 (ja) 演算装置、演算方法、プログラムおよび判別システム
US11698849B2 (en) Automated application testing of mutable interfaces
CN110399900A (zh) 对象检测方法、装置、设备及介质
CN109964231A (zh) 动态注册种子

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190516

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200626

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200721

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200911

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201110

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201126

R150 Certificate of patent or registration of utility model

Ref document number: 6802320

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250