JP2011086083A - Test device and test method - Google Patents
Test device and test method Download PDFInfo
- Publication number
- JP2011086083A JP2011086083A JP2009237844A JP2009237844A JP2011086083A JP 2011086083 A JP2011086083 A JP 2011086083A JP 2009237844 A JP2009237844 A JP 2009237844A JP 2009237844 A JP2009237844 A JP 2009237844A JP 2011086083 A JP2011086083 A JP 2011086083A
- Authority
- JP
- Japan
- Prior art keywords
- test data
- test
- access
- time
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Debugging And Monitoring (AREA)
Abstract
Description
本発明は、テスト装置及びテスト方法に関し、特に、アップデートしたサービスやOSが正常に動作するかどうかをテストするテストデータの作成に関する。 The present invention relates to a test apparatus and a test method, and more particularly to creation of test data for testing whether or not an updated service or OS operates normally.
昨今のインターネット、イントラネットでは、24時間停止することなく利用可能なサービスが増えてきている。しかし、それらを提供するサービスやOSには攻撃の糸口となるセキュリティホールやバグが存在することもあるため、日常的にパッチが提供されている。したがって、早急で確実な退行テストの実施が必要不可欠となっている。 In the recent Internet and intranet, services that can be used without stopping for 24 hours are increasing. However, there are cases where there are security holes and bugs that can be used as a trigger for attacks on services and OSs that provide them, so patches are provided on a daily basis. Therefore, it is indispensable to conduct an immediate and reliable regression test.
退行テストは、パッチ適用前のサービスの実行結果とパッチ適用後のサービスの実行結果とを比較することで実施できる。例えば、特許文献1では、テスト対象のサービスが稼動するパッチ適用前の本番系システム上に入力併走装置を置き、複製したパケットをパッチ適用後の検証系システムにも送信し、本番系システムの結果と検証系システムの結果を照合することで退行テストを実施している。
The regression test can be performed by comparing the execution result of the service before applying the patch and the execution result of the service after applying the patch. For example, in
特許文献1では、本番系システムに入力されたパケットを複製し、そのまま検証系システムに送信するため、同一テーブルへのアクセスが複数のパケットにより引き起こされた場合、ロック衝突やダーティリードが発生し、本番系システムと検証系システムのDBへのアクセス順に相違が生じる可能性がある。アクセス順に相違が発生すると結果も異なる可能性があるため、正確な退行テストが実施できないという問題がある。ロック衝突とは、あるDBアクセスが情報を占有ロックしているときに、別のDBアクセスが上記情報を占有ロックしようとしたときに発生する問題である。ダーティリードとは、あるDBアクセスが情報を更新中に、別のDBアクセスが上記情報を参照したときに発生する問題である。
In
また、特許文献1の手法では、退行テストの実施にリアルデータを本番系システムで処理したときに要した時間と同等のテスト時間が必要であった。したがって、テスト時間に膨大な時間を費やさなければならないという問題がある。
Further, in the method of
上記課題を解決するためのテスト装置によるテスト方法は、前記テスト装置は、第1のデータベースと第1のサーバを含む本番用システムへの複数のリクエストの入力時間を示すリクエスト入力履歴情報と、前記リクエストに対応した前記第1のデータベースへの複数のアクセスのアクセス種別及びアクセス時間を示すアクセス履歴情報とにより、複数のテストデータのリクエスト入力時間とアクセス時間とアクセス種別を含むテストデータ情報を作成し、前記テスト装置は、前記テストデータ情報を参照し、前記複数のテストデータに含まれ、アクセス種別が更新アクセスである第1のテストデータと、前記第1のテストデータよりアクセス開始時間が遅く、アクセス種別が更新アクセスである第2のテストデータと、のアクセス時間が重複する場合、前記第2のテストデータのリクエスト入力時間を所定の時間遅らせるように前記テストデータ情報を更新し、前記テスト装置は、第2のデータベースと第2のサーバを含むテスト用システムに対して前記更新後のテストデータ情報に含まれる前記複数のテストデータを入力する、ことを特徴とするテスト方法である。 In the test method by a test apparatus for solving the above-described problem, the test apparatus includes request input history information indicating input times of a plurality of requests to a production system including a first database and a first server, Test data information including request input times, access times, and access types of a plurality of test data is created based on access history information indicating access types and access times of the plurality of accesses to the first database corresponding to the request. The test apparatus refers to the test data information, is included in the plurality of test data, and the access start time is later than the first test data, the access type being update access, and the first test data, The access time for the second test data whose access type is update access overlaps If so, the test data information is updated so as to delay a request input time of the second test data by a predetermined time, and the test apparatus is provided for a test system including a second database and a second server. The test method is characterized in that the plurality of test data included in the updated test data information is input.
上記課題を解決するためのテスト装置は、第1のデータベースと第1のサーバを含む本番用システムと、第2のデータベースと第2のサーバを含むテスト用システムと、に接続するインターフェースと、前記本番用システムへの複数のリクエストの入力時間を示すリクエスト入力履歴情報と、前記リクエストに対応した前記第1のデータベースへの複数のアクセスのアクセス種別及びアクセス時間を示すアクセス履歴情報とにより作成された複数のテストデータのリクエスト入力時間とアクセス時間とアクセス種別を含むテストデータ情報を格納するメモリと、前記テストデータ情報を参照し、前記複数のテストデータに含まれ、アクセス種別が更新アクセスである第1のテストデータと、前記第1のテストデータよりアクセス開始時間が遅く、アクセス種別が更新アクセスである第2のテストデータと、のアクセス時間が重複する場合、前記第2のテストデータのリクエスト入力時間を所定の時間遅らせるように前記テストデータ情報を更新し、前記テスト用システムに対して前記更新後のテストデータ情報に含まれる前記複数のテストデータを入力する、プロセッサと、を含むことを特徴とするテスト装置である。 A test apparatus for solving the above-described problem includes an interface connected to a production system including a first database and a first server, a test system including a second database and a second server, Created by request input history information indicating input times of a plurality of requests to the production system and access history information indicating access types and access times of a plurality of accesses to the first database corresponding to the requests A memory for storing test data information including a request input time, an access time, and an access type of a plurality of test data; a reference to the test data information; the access type being an update access included in the plurality of test data; Access time is later than the first test data and the first test data. When the access time overlaps with the second test data whose access type is update access, the test data information is updated so as to delay the request input time of the second test data by a predetermined time, and the test And a processor for inputting the plurality of test data included in the updated test data information to a system for use.
本発明によれば、日々提供されるサービスやOSの膨大なパッチに対して、リアルデータを使用した迅速かつ確実な退行テストを実施することができる。 According to the present invention, it is possible to perform a quick and reliable regression test using real data for a vast number of patches and services provided daily.
以下、本発明の実施の形態について、図面を用いて説明する。 Hereinafter, embodiments of the present invention will be described with reference to the drawings.
図1は、本実施例における本番環境のシステムの構成を示す図である。本番環境のシステムには、負荷分散装置101、APサーバ(本番用)102、103、DBサーバ104、DB105、パケット複製装置106、テストデータ用リポジトリ107、出力ログ収集装置108、出力ログ用リポジトリ109が含まれる。各リポジトリやDBは、Hard Disk Drive(HDD)であっても、HDDの集合であるストレージ装置であってもよい。負荷分散装置101は、APサーバ(本番用)102、APサーバ(本番用)103、パケット複製装置106、出力ログ収集装置108とLAN111によって接続されている。DBサーバ(本番用)104は、APサーバ(本番用)102、APサーバ(本番用)103、DB(本番用)105とLAN111によって接続されている。パケット複製装置106は、負荷分散装置101、テストデータ用リポジトリ107とLAN111によって接続されている。出力ログ収集装置108は出力ログ用リポジトリ109とLAN111によって接続されている。
FIG. 1 is a diagram illustrating the configuration of a production environment system according to the present embodiment. The production environment system includes a
図2は、本実施例におけるテスト環境システムの構成を示す図である。テスト環境のシステムには、テストー他制御装置(テスト装置)205、APサーバ(テスト用)201、102、DBサーバ(テスト用)203、DB(テスト用)204、出力結果用リポジトリ206、テストデータ用リポジトリ107、出力ログ収集装置108、出力ログ用リポジトリ109が含まれる。テストデータ用リポジトリ107、出力ログ収集装置108、出力ログ用リポジトリ109は、図1と同様である。各リポジトリやDBは、Hard Disk Drive(HDD)であっても、HDDの集合であるストレージ装置であってもよい。テストデータ制御装置205はテストデータ用リポジトリ107、出力結果用リポジトリ206、APサーバ(テスト用)201、APサーバ(テスト用)202、出力ログ収集装置108とLAN111によって接続されている。DBサーバ(テスト用)203はAPサーバ(テスト用)202、APサーバ(テスト用)201、DB(テスト用)204とLAN111によって接続されている。出力ログ収集装置108は出力ログ用リポジトリ109、テストデータ制御装置205とLAN111によって接続されている。
FIG. 2 is a diagram showing the configuration of the test environment system in the present embodiment. The test environment system includes a test and other control device (test device) 205, an AP server (for test) 201 and 102, a DB server (for test) 203, a DB (for test) 204, an
図3は、本実施例におけるAPサーバ(本番用)102、APサーバ(本番用)103、DBサーバ(本番用)104、APサーバ(テスト用)201、APサーバ(テスト用)202、DBサーバ(テスト用)203のハードウェア構成を示す図である。コンピュータ301は互いに接続関係にあるCPU302とメモリ303、入出力I/F304、HDD305、ROM306、ネットワークカード307から構成されており、ネットワークカード307を通じてLAN311に接続されている。ユーザインタフェースであるディスプレイ308、キーボード309、マウス310は、入出力I/F304を通じてコンピュータ内プログラムに接続されている。HDD305あるいはROM306に格納されたサービスを監視するためのプログラムがメモリ303に読み出されCPU302により監視プログラムを実行する。
FIG. 3 shows an AP server (for production) 102, an AP server (for production) 103, a DB server (for production) 104, an AP server (for testing) 201, an AP server (for testing) 202, and a DB server in this embodiment. 2 is a diagram illustrating a hardware configuration of (for testing) 203. FIG. The
図4は、本実施例におけるテストデータ制御装置205のハードウェア構成を示す図である。なお、本実施例においては、テストデータ制御装置205、パケット複製装置106、出力ログ収集装置108は、物理的に別々の装置として説明しているがこれに限定されるものではない。テストデータ制御装置205と、パケット複製装置106とが、物理的に同一の装置に実装されてもよい。テストデータ制御装置205、パケット複製装置106、出力ログ収集装置108、とが物理的に同一の装置に実装されてもよい。テストデータ制御装置205は、プログラム等を格納するメモリ4001と、メモリ4001に格納されたプログラムを読み出して実行するCPU4002と、LAN111と接続するI/F4003と、を含む。メモリ4001には、テストデータ抽出プログラム401、入力タイミング制御プログラム402、テストデータ送信プログラム403、出力ログ比較プログラム404、出力結果比較プログラム405、出力結果受信プログラム406、出力ログ抽出プログラム407を格納する。以後、プログラムを主語にして処理を記載する場合には、CPUがメモリに格納されている該プログラムを読み出して実行することにより処理を実行することを示す。
FIG. 4 is a diagram illustrating a hardware configuration of the test
テストデータ抽出プログラム401は、テストデータ用リポジトリ107から次に入力するべきテストデータを抽出する。入力タイミング制御プログラム402は、テストデータ情報を参照し、テストデータ抽出プログラム401で抽出したテストデータをいつどこのサーバに対して送信するのかを制御する。テストデータ送信プログラム403は、テストデータを各サーバに対して送信する。出力ログ抽出プログラム407は、出力ログ用リポジトリ109に保存されている各種ログを抽出する。出力ログ比較プログラム404は、出力ログ抽出プログラム407が抽出したテスト環境システム更新前のログと、テスト環境システム更新後のログを比較する。出力結果受信プログラム406は、APサーバ(テスト用)201、APサーバ(テスト用)202から送られてきた結果を受信し、出力結果用リポジトリ206に保存する。出力結果比較プログラム405は、出力結果用リポジトリ206に保存したテスト環境システム更新前の出力結果と、テスト環境システム更新後の出力結果を比較する。各プログラムにより実行される、詳細な処理は、フローチャートにて後述する。
The test data extraction program 401 extracts test data to be input next from the
図5は、本実施例におけるパケット複製装置106のハードウェア構成を示す図である。パケット複製装置106は、プログラム等を格納するメモリ5001と、メモリ5001に格納されたプログラムを読み出して実行するCPU5002と、LAN111と接続するI/F5003と、を含む。メモリ5001には、パケット複製プログラム501、パケット制御プログラム502を格納する。パケット複製プログラム501は、本番環境システムに対してユーザから送信されたリクエストを複製する。パケット制御プログラム502は、上記パケット複製装置106上の動作を制御する。
FIG. 5 is a diagram illustrating a hardware configuration of the
図6は、本実施例における出力ログ収集装置108のハードウェア構成を示す図である。出力ログ収集装置108は、プログラム等を格納するメモリ6001と、メモリ6001に格納されたプログラムを読み出して実行するCPU6002と、LAN111と接続するI/F6003と、を含む。メモリ6001には、出力ログ収集プログラム601、出力ログ管理プログラム602を格納する。出力ログ収集プログラム601は、APサーバ(テスト用)201、APサーバ(テスト用)202、DBサーバ(テスト用)203から、出力ログを収集する。出力ログ管理プログラム602は、出力ログ収集プログラム601が収集した出力ログを出力ログ用リポジトリ109に保存する。
FIG. 6 is a diagram illustrating a hardware configuration of the output
図7は、本実施例におけるリアルデータの入力タイミング情報を示す図である。入力タイミング情報は、パケット複製装置106上で動作するパケット複製プログラム501により作成され、テストデータ用リポジトリ107に保存される。入力タイミング情報は、セッションID701、リクエストID702、送信元IP703、送信時間704から構成される。
FIG. 7 is a diagram showing input timing information of real data in the present embodiment. The input timing information is created by the packet replication program 501 operating on the
例えば、図7の項目1は、セッションID701が123ABC、リクエストID702がAAABBB、送信元IP703が192.168.1.10、送信時間704が20090701012754であるリアルデータを示している。上記セッションIDとは、接続を確立してから切断するまでの一連の処理であるセッションを、管理するためにAPサーバが発行する管理IDのことである。1つのセッションには、1又は複数のリクエストが含まれる。上記リクエストIDとは、APサーバからDBサーバへ送信されるリクエストに含まれる複数SQLを、リクエストごとに管理するためにAPサーバが発行する管理IDのことである。
For example,
図8は、本実施例におけるDBアクセスログ情報を示す図である。DBアクセスログ情報は、DBサーバ(本番用)104で作成され、出力ログ収集装置108の出力ログ収集プログラム601により収集され、出力ログ収集装置108の出力ログ管理プログラム602によって出力ログ用リポジトリ109に保存される。DBアクセスログ情報は、リクエストID801、内容802、テーブル803、種類804、アクセス時間805から構成される。内容802は、リクエストの処理内容を示す。テーブル803は、リクエストのアクセス先テーブルを示す。種類804は、リクエスの処理の種類を示す。更新は、例えば、ライト処理を示し、参照は、例えば、リード処理を示す。DBアクセス情報のリクエストID801と内容802のマッピングについては、DBサーバとAPサーバの連携によって収集する。
FIG. 8 is a diagram showing DB access log information in the present embodiment. The DB access log information is created by the DB server (for production) 104, collected by the output
例えば、図8の項目1は、リクエストID901がAAABBB、内容902がDBへのアクセス開始、テーブル803がA、種類804が更新、アクセス時間805が200907012754であるDBアクセスログを示している。
For example,
図9は、本実施例におけるテストデータ情報を示す図である。テストデータ制御装置205上で動作するテストデータ抽出プログラム401によってテストデータ用リポジトリ107から抽出したリアルデータの入力タイミング情報と、テストデータ制御装置205上で動作する出力ログ抽出プログラム407によって出力ログ用リポジトリ109から抽出したDBアクセスログ情報を、テストデータ制御装置205上で動作する入力タイミング制御プログラム402によって入力データ単位で情報を整理することにより作成され、テストデータ用リポジトリ107に格納されている。このデータベースは、セッションID901、リクエストID902、入力タイミング903、種類904、情報905、アクセス開始906、アクセス終了907、送信先908から構成されている。入力タイミング1003、アクセス開始1006や、アクセス終了1007に示される時間は、項目1の入力タイミング(0秒)からの経過時間である。また、アクセス開始906は、リクエストを入力してから実際にアクセスを開始するまでに時間がかかるため、入力タイミングより遅れて開始される。
FIG. 9 is a diagram showing test data information in the present embodiment. Real data input timing information extracted from the
例えば、図9の項目1は、セッションID901が123ABC、リクエストID902がAAABBB、入力タイミング903が0秒後、種類904が更新、情報905がA、アクセス開始906が2秒後、アクセス終了907が4秒後、送信先908がAPサーバのテストデータを示している。
For example, in
「リアルデータ収集時の動作」
図10は、本実施例における、リアルデータ収集処理を示すフローチャートを示す図である。本処理は、パケット複製装置106及び出力ログ収集装置108により実行される。
"Operation when collecting real data"
FIG. 10 is a flowchart illustrating real data collection processing in the present embodiment. This process is executed by the
ステップ1001では、パケット制御プログラム502がリアルデータの収集を開始する。
In
ステップ1002では、DB(本番用)105のDB状態をDB(テスト用)204にコピーする。具体的には、DBサーバ(本番用)104をDBサーバ(テスト用)203に接続し、DBサーバ(本番用)104のコントローラが、DB(本番用)105の記憶装置に記憶されているデータを、DBサーバ(テスト用)203に対して送信する。そして、DBサーバ(テスト用)203のコントローラが、DBサーバ(本番用)104から送られるデータを受信し、DB(テスト用)204の記憶装置に格納する。
In
ステップ1003では、パケット複製装置106がユーザからのリクエストを受信すると、パケット制御プログラム502が、リアルデータ収集の終了フラグを確認する。該終了フラグの設定方法として、リアルデータ収集した時間、収集したリクエストの種類数、受信数によって設定するか否かを決定する方法や、ユーザ(管理者)により設定する方法などがある。本実施例においては、該終了フラグの設定方法を限定しない。パケット制御プログラム502は、終了フラグが設定されていない場合は、リアルデータの収集を続行するため、ステップ1004へ進む。パケット制御プログラム502は、終了フラグが設定されている場合は、リアルデータの収集を終了するため、ステップ1010へ進む。ユーザから受信するリクエストは、例えばHTTPリクエストであるが、これに限定されるものではない。
In
ステップ1004では、パケット複製装置106が、ユーザからのリクエストを受信する。
In
ステップ1005では、パケット複製装置106のパケット複製プログラム501が、ステップ1004で受信したリクエストを複製する。ここで、ユーザより受信したリクエストをオリジナルリクエストと呼び、複製したリクエストをレプリカリクエストと呼ぶ。
ステップ1006では、パケット複製装置106が、オリジナルリクエストを負荷分散装置101へ送信する。
In
In
ステップ1007では、パケット複製装置106のパケット制御プログラム502が、ステップ1005で複製したレプリカリクエストをテストデータ用リポジトリ107に保存する。本発明では、ステップ1007にて保存した上記レプリカリクエストを利用してテストデータを作成する。
In
ステップ1008では、パケット複製装置が、APサーバ(本番用)102、APサーバ(本番用)103から返ってきたレスポンスを受信し、パケット制御プログラム502がレスポンスに含まれるセッションIDを、セッションを取り扱うメソッドにより取得する。ただし、セッションIDの取得方法はこの方法に限定されない。
In
ステップ1009では、パケット制御プログラム502がテストデータ用リポジトリ107に保存されているリアルデータの入力タイミング情報を更新する。
In
ステップ1010では、リアルデータの収集を終了する。
In
ステップ1011では、出力ログ収集装置108の出力ログ収集プログラム601がオリジナルデータを処理する際の、APサーバ(本番用)102、APサーバ(本番用)103、DBサーバ(本番用)104の出力するログを収集し、出力ログ管理プログラム602が収集した出力ログを出力ログ用リポジトリ109に保存し、DBアクセスログ情報を更新する。
In
「テストデータ作成時の動作」
図11は、本実施例における、テストデータ作成処理の手順を示すフローチャートである。本処理は、テストデータ制御装置と出力ログ収集装置により実行される。
ステップ1100では、テストデータ制御装置205のテストデータ入力タイミング制御プログラム402が、リアルデータの入力タイミング情報とDBアクセスログ情報の突合せて、テストデータ情報を作成する。
"Operation when creating test data"
FIG. 11 is a flowchart showing the procedure of the test data creation process in the present embodiment. This process is executed by the test data control device and the output log collection device.
In
ステップ1101では、テストデータ制御装置205がDB(本番用)105上で発生するダーティリードもしくはロック衝突などの「アクセス障害」の原因となるDBアクセスを削除する。詳細な削除手順については、図12のロック衝突やダーティリード発生箇所の削除候補選択の手順を示すフローチャートと、図13のロック衝突やダーティリード発生箇所の削除実施の手順を示すフローチャートで説明する。
In
ステップ1102では、テストデータの入力タイミングを短縮する。詳細な短縮手順については、図14の入力タイミング短縮の手順を示すフローチャートで説明する。
In
ステップ1103では、テストデータ制御装置205のコントローラが、テストデータ情報を参照して、APサーバ(テスト用)201、APサーバ(テスト用)202にテストデータを送信する。テストデータは、1101及び1102にて更新したテストデータを使用する。
In
ステップ1104では、テストデータ制御装置205のテストデータ入力タイミング制御プログラム402が、ステップ1103にて、ダーティリードもしくはロック衝突が発生したかどうか調べる。ダーティリードもしくはロック衝突が発生した場合には、ステップ1105へ進む。ダーティリードもしくはロック衝突が発生していなければ、ステップ1107へ進む。
In
ステップ1105では、テストデータ制御装置205のテストデータ入力タイミング制御プログラム402が、上記ダーティリードもしくはロック衝突が発生したDBアクセスに係わるテストデータの入力タイミングを遅らせるようにテストデータ情報を更新する。詳細な手順については、図15の入力タイミング調整の手順を示すフローチャートで説明する。
In step 1105, the test data input
ステップ1106では、再度最初からテストを実行する。
In
ステップ1107では、出力ログ収集装置108上の出力ログ収集プログラム601が、APサーバ(テスト用)201、APサーバ(テスト用)202、DBサーバ(テスト用)203が出力するログを収集し、出力ログ管理プログラム602が収集した出力ログを出力ログ用リポジトリ109に保存する。
In
ステップ1108では、テストデータ制御装置205上で動作する出力結果受信プログラム406が、APサーバ(テスト用)201、DBサーバ(テスト用)203からの出力結果を受信し、上記出力結果を出力結果用リポジトリ206に保存する。
In
図12は、本実施例におけるアクセス障害の削除候補選択処理の手順を示すフローチャートである。 FIG. 12 is a flowchart illustrating the procedure of access failure deletion candidate selection processing according to the present embodiment.
ステップ1201では、テストデータ制御装置205の入力タイミング制御プログラム402が、DBアクセス情報において、DBへのアクセス時間が重複し、同一のDBのテーブルへのアクセスである、DBアクセスを発行するリクエストの組を検索する。DBアクセスは、上述したリクエストをもとに実行されるアクセスである。
In step 1201, the input
ステップ1202では、テストデータ制御装置205の入力タイミング制御プログラム402が、ステップ1201で検索した組を順に選択する。ステップ1201で検索した組を選択する順によって作成されるテストデータは変化する。しかし、選択する順によらず、ロック衝突やダーティリードが発生せず、テスト時間を短縮したテストデータを作成することができる。選択する組があればステップ1203へ進み、選択する組がなければ終了する。
In
ステップ1203では、テストデータ制御装置205の入力タイミング制御プログラム402が、ステップ1202で選択した組が「W、W」の組合せかどうか調べる。ここで、Wとはライト処理を示し、更新を含むDBアクセスである。つまり、選択されたDBアクセスの組が、ライトアクセスとライトアクセスの組であることを示す。もし、「W、W」の組合せであればステップ1204へ進む。「W、W」の組合せでなければステップ1209へ進む。
In
ステップ1204では、テストデータ制御装置205の入力タイミング制御プログラム402が、ステップ1202で選択した組のうち、DBアクセスの遅い方のテストデータの入力タイミングを、2つのDBアクセスのDBアクセス時間が被らないように遅らせる。つまり、アクセス開始時間の遅い一方のDBアクセスの開始時間を、他方のDBアクセスの終了時間後にする変更をするように入力タイミングを遅らせる。入力タイミングを遅らせる時間は、例えば、一方のDBアクセスの開始時間と、他方のDBアクセスの終了時間との差である。そして、テストデータ情報を更新する。ただし、更新前のテストデータ情報もバックアップファイルとして一時的に保存しておく。このように、他方のリクエスト入力時間を遅らせることにより、アクセス障害の発生を回避することができる。
In step 1204, the input
ステップ1205では、テストデータ制御装置205の入力タイミング制御プログラム402が、更新後のテストデータ情報を用いたテスト時に、ダーティリード、ロック衝突、同一セッションのテストデータ間でセッションIDが引き継げないなどの問題が生じるかを確認する。本実施例では、これらの障害をまとめてアクセス障害と呼ぶ。例えば、更新後のテストデータを確認し、入力タイミングを変更したDBアクセスと、他DBアクセスのアクセス時間を比較してダーティリード、ロック衝突が起こる可能性があるか否かを確認する。もし、該問題が発生するのであれば、ステップ1206へ進む。該問題が発生しなければ、ステップ1204で保存した更新前のテストデータ情報のバックアップファイルを破棄し、ステップ1202へ戻る。
In
ステップ1206では、テストデータ制御装置205の入力タイミング制御プログラム402が、ステップ1204で保存した更新前のテストデータ情報のバックアップファイルをテストデータ情報とする。そして、ステップ1204で更新したテストデータ情報を破棄する。
In
ステップ1207では、テストデータ制御装置205の入力タイミング制御プログラム402が、ステップ1202で選択したDBアクセスの組を第1の削除候補に追加する。
ステップ1208は、テストデータ制御装置205の入力タイミング制御プログラム402が、テストデータ情報を参照して、第1の削除候補に追加したDBアクセスと、同一のセッションIDをもつDBアクセスを第2の削除候補に追加する。
In step 1207, the input
In step 1208, the input
ステップ1209では、テストデータ制御装置205の入力タイミング制御プログラム402が、「W、R」の組合せかどうか調べる。もし「W、R」の組合せであればステップ1210へ進み、「W、R」の組合せでなければ、ステップ1202へ戻る。上記Rとは、参照(リード)のみのDBアクセスのことである。
In step 1209, the input
ステップ1210は、テストデータ制御装置205の入力タイミング制御プログラム402が、「W、R」の組に含まれる参照(リード)のみのアクセスと同一セッションIDのDBアクセスが、参照(リード)アクセスのみであるかどうか調べる。もし、参照アクセスと同一セッションIDのDBアクセスが全て参照アクセスであれば、ステップ1211へ進み、参照アクセスと同一セッションIDのDBアクセスが参照アクセスでなければ、ステップ1212へ進む。
In
ステップ1211は、テストデータ制御装置205の入力タイミング制御プログラム402が、「W、R」の組に含まれる参照(リード)のみのアクセスと、該参照アクセスと同一セッションIDの参照アクセスを、DBアクセスをテストデータ情報より削除する。ここで、更新アクセス(W)とアクセス時間が重複する参照アクセスと、該参照アクセスと同一セッションの参照アクセスをテストデータより削除することにより、その後の更新アクセスや参照アクセスに影響を与えずに、ダーティリードなどのアクセス障害を回避することがでる。
In step 1211, the input
ステップ1212は、テストデータ制御装置205の入力タイミング制御プログラム402が、ステップ1202で選択したDBアクセスの組を第1の削除候補に追加する。
ステップ1213は、テストデータ制御装置205の入力タイミング制御プログラム402が、テストデータ情報を参照して、第1の削除候補に追加したDBアクセスと、同一のセッションIDをもつDBアクセスを第2の削除候補に追加する。
In
In
図13は、本実施例におけるアクセス障害発生箇所の削除処理の手順を示すフローチャートである。 FIG. 13 is a flowchart illustrating a procedure of an access failure occurrence location deletion process according to this embodiment.
ステップ1301では、テストデータ制御装置205の入力タイミング制御プログラム402が、図12で作成した第1の削除候補と第2の削除候補の両方の削除候補に含まれるDBアクセスを、第2の削除候補からから削除する。
In
ステップ1302では、テストデータ制御装置205の入力タイミング制御プログラム402が、第1の削除候補に含まれるDBアクセスの組に対して、同一のDBアクセスが入っている二つのDBアクセスの組は同一グループである、という条件によりグルーピングする。例えば、「W1、W2」の組と、「W1、W3」の組は同一のグループにグルーピングされる。「W1、W2」の組と、「W4、W3」の組は同一のグループにグルーピングされない。
In
ステップ1303では、テストデータ制御装置205の入力タイミング制御プログラム402が、第2の削除候補に含まれる各DBアクセスをそれぞれ一つのグループとする。例えば、第2の削除候補に「R1、W4」が含まれる場合には、「R1」と「W4」がそれぞれグループとなる。
In
ステップ1304では、テストデータ制御装置205の入力タイミング制御プログラム402が、ステップ1302、ステップ1303にてグルーピングされたグループを順に選択する。上記選択順に関しては、どのようなアルゴリズムを使用しても結果は変わらない。もし、選択するグループがあればステップ1305へ進み、選択するグループがなければ終了する。
In
ステップ1305では、テストデータ制御装置205の入力タイミング制御プログラム402が、ステップ1304で選択したグループ内に含まれる更新アクセスからSQLを生成する。SQLはDBにアクセスするための言語である。
In
ステップ1306では、テストデータ制御装置205の入力タイミング制御プログラム402が、生成したSQLで正しくDB状態を復元できるかどうか調べる。復元できるか否かを調査する方法の一例として以下の方法がある。まず、テストデータ制御装置205の入力タイミング制御プログラム402が、DBサーバ(テスト用)上に生成したSQLを発行する直前のDBテーブルの状態を復元した復元調査用のDBテーブルを作成する。そして、上記復元調査用のDBテーブルに対して、上記SQLを発行した後のDBテーブル状態と、元の更新アクセス群を実行した後のDBテーブル状態とを比較する。調査方法としては、生成したSQLが正しくDB状態を復元できるかどうかを調査できれば良く、上記調査方法には限定されない。DBにおいて、アクセスの排他制御などを実行している場合には、アクセス時間が重複するアクセスが複数存在しても生成したSQLにより正しくDB状態を復元できる可能性があるため、正しくDB状態を復元できるかどうか調べる処理を実行する。もし生成したSQLにより、ステップ1304で選択されたグループのDBアクセス前のDB状態から、正しくDBアクセス後のDB状態を復元できる場合は、ステップ1307へ進み、生成したSQLで正しくDB状態を復元できない場合は、ステップ1308へ進む。このように、アクセス時間が重複するテストデータをSQLに変換することにより復元可能な場合には、アクセス障害が発生しないことを事前に確認することができる。さらに、リクエスト入力時間を変更しないため、他のテストデータに対して影響を与えないでテストを実施することが可能となる。
In
ステップ1307では、テストデータ制御装置205の入力タイミング制御プログラム402が、ステップ1304で選択したグループのDBアクセスをテストデータ情報上から全て削除し、代わりにステップ1305で生成したSQLをテストデータとして登録する。
In
ステップ1308では、テストデータ制御装置205の入力タイミング制御プログラム402が、ステップ1304で選択したグループ以前(又は、以後)のテストデータを全てテストデータ情報から削除する。ステップ1304で選択したグループの前後によりDBに対してアクセス障害が発生しためである。
In
図14は、本実施例において入力タイミング短縮処理の手順を示すフローチャートである。 FIG. 14 is a flowchart showing the procedure of the input timing shortening process in this embodiment.
ステップ1401では、テストデータ制御装置205の入力タイミング制御プログラム402が、テストデータの各DBアクセスをアクセス順に選択する。もし、選択していないDBアクセスがあれば上記DBアクセスを選択してステップ1402へ進み、選択していないDBアクセスがなければ終了する。
In
ステップ1402では、テストデータ制御装置205の入力タイミング制御プログラム402が、ステップ1401で選択したDBアクセスに係わるテストデータのAPサーバでの処理時間を取得する。
In
ステップ1403は、ステップ1402で取得したAPサーバでの処理時間を使用して、テストデータ制御装置205の入力タイミング制御プログラム402が、1401にて選択したDBアクセスの開始時間と、直前のDBアクセスの終了時間との時間間隔を求め、T1とする。
In
ステップ1404は、テストデータ制御装置205の入力タイミング制御プログラム402が、ステップ1401で選択したDBアクセスと同一のリクエストIDを持つDBアクセスを全て選択する。
In
ステップ1405では、テストデータ制御装置205の入力タイミング制御プログラム402が、ステップ1401で選択したDBアクセス及びステップ1404で選択したDBアクセスと、同一テーブルへのDBアクセスで、かつDB更新を伴うDBアクセスをのうち、ステップ1401で選択したDBアクセス及びステップ1403で選択したDBアクセスに含まれる各々DBアクセスの直近のDBアクセスを選択する。
In
ステップ1406は、テストデータ制御装置205の入力タイミング制御プログラム402が、ステップ1402で取得したAPサーバでの処理時間を使用して、ステップ1401とステップ1404にて選択したDBアクセスの各々のアクセス開始時間と、直近の同一テーブルへの更新アクセスの終了時間との時間間隔(T2)を求める。
In
ステップ1407では、テストデータ制御装置205の入力タイミング制御プログラム402が、ステップ1401とステップ1404にて選択したDBアクセスの各々のアクセス開始時間を、時間間隔T1と時間間隔T2のうち最も小さい時間間隔分だけ前にずらす。このように時間間隔を前にずらすことにより、アクセス障害を発生させずに、テスト時間を短縮することができる。
In
ステップ1408は、テストデータ制御装置205の入力タイミング制御プログラム402がステップ1401で選択したDBアクセスに係わるテストデータと同一セクションIDを持つ各テストデータの入力タイミングと、DBアクセス終了時間を確認してセッションIDを引き継げないというセッションエラーが発生するかどうかを調べる。もし、セッションエラーが発生するのであればステップ1409へ進み、セッションエラーが発生しないのであればステップ1401へ戻る。
In
ステップ1409では、テストデータ制御装置205の入力タイミング制御プログラム402が、セッションエラーが発生しないように所定の時間分だけ、ステップ1401で選択したDBアクセスに係わるテストデータの入力タイミングを遅らせるように、テストデータ入力タイミング情報情報を更新する。
In
図15は、本実施例において入力タイミング調整処理の手順を示すフローチャートである。 FIG. 15 is a flowchart showing the procedure of the input timing adjustment process in this embodiment.
ステップ1501は、テストデータ制御装置205のテストデータ入力タイミング制御装置402は、テストデータ制御装置205を擬似ブラウザとして稼動させ、テスト環境システムに作成したテストデータを入力し、上記テスト中にダーティリードやロック衝突、同一セッションIDを持つ入力データ間でセッションIDを引き継げないというセッションエラーなどの問題が発生するかどうかを調べる。もし、上記問題が発生すれば、ステップ1502へ進み、上記問題が発生しなければ終了する。
In
ステップ1502では、テストデータ制御装置205のテストデータ入力タイミング制御装置402は、上記問題が発生したDBアクセスの組や、テストデータの組のうち、DBアクセスや入力タイミングが遅い方のテストデータを選択する。
In
ステップ1503では、テストデータ制御装置205のテストデータ入力タイミング制御装置402は、ステップ1502で選択したテストデータ以降の入力タイミングを上記問題が発生した時間分だけ遅らせるように、テストデータ入力タイミング情報情報を更新する。ステップ1504ではDBを入力タイミング調整開始前の状態に復元する。ステップ1505では入力タイミング調整をリスタートする。
In
「テスト時の動作」
図16は、本実施例において退行テスト処理の手順を示すフローチャートである。
ステップ1601では、テスト環境システムに対して、パッチの適用やAPサーバの更新など、退行テストを行いたい項目を更新する。
"Test behavior"
FIG. 16 is a flowchart showing the procedure of the regression test process in this embodiment.
In
ステップ1602では、テストデータ制御装置205のテストデータ入力タイミング制御装置402は、テストデータ制御装置205を擬似ブラウザとして稼動させ、テスト環境システムにテストデータを入力する。
In step 1602, the test data input
ステップ1603では、テストデータ制御装置205の出力ログ比較プログラム404と、出力結果比較プログラム405が、ステップ1107、ステップ1108で保存した出力ログ・出力結果とステップ1602で得られた出力ログ・出力結果をで比較する。上記比較手法については、既存の手法を使用する。
In
以上、添付図面を参照しながら本発明にかかるリアルデータを利用したテストデータの作成方法とテスト方法の最適な実施形態について説明したが、本発明の実施形態はかかる例に限定されない。 As described above, the optimum embodiment of the test data creation method and the test method using real data according to the present invention has been described with reference to the accompanying drawings, but the embodiment of the present invention is not limited to such an example.
101…負荷分散装置、102…APサーバ(本番用)、103…APサーバ(本番用)、104…DBサーバ(本番用)、105…DB(本番用)、106…パケット複製装置、107…テストデータ用リポジトリ、108…出力ログ収集装置、109…出力ログ用リポジトリ、111…LAN、107…テストデータ用リポジトリ、109…出力ログ用リポジトリ、201…APサーバ(テスト用)、202…APサーバ(テスト用)、203…DBサーバ(テスト用)、204…DB(テスト用)、205…テストデータ制御装置、206…出力結果用リポジトリ、301…コンピュータ、302…CPU、303…メモリ、304…入出力I/F、305…HDD、306…ROM、307…ネットワークカード、308…ディスプレイ、309…キーボード、310…マウス、401…テストデータ抽出プログラム、402…入力タイミング制御プログラム、403…テストデータ送信プログラム、404…出力ログ比較プログラム、405…出力結果比較プログラム、406…出力結果受信プログラム、407…出力ログ抽出プログラム、501…パケット受信プログラム、502…パケット複製プログラム、503…パケット送信プログラム、504…パケット制御プログラム、601…出力ログ収集プログラム、602…出力ログ管理プログラム
DESCRIPTION OF
Claims (11)
前記テスト装置は、第1のデータベースと第1のサーバを含む本番用システムへの複数のリクエストの入力時間を示すリクエスト入力履歴情報と、前記リクエストに対応した前記第1のデータベースへの複数のアクセスのアクセス種別及びアクセス時間を示すアクセス履歴情報とにより、複数のテストデータのリクエスト入力時間とアクセス時間とアクセス種別を含むテストデータ情報を作成し、
前記テスト装置は、前記テストデータ情報を参照し、前記複数のテストデータに含まれ、アクセス種別が更新アクセスである第1のテストデータと、前記第1のテストデータよりアクセス開始時間が遅く、アクセス種別が更新アクセスである第2のテストデータと、のアクセス時間が重複する場合、前記第2のテストデータのリクエスト入力時間を所定の時間遅らせるように前記テストデータ情報を更新し、
前記テスト装置は、第2のデータベースと第2のサーバを含むテスト用システムに対して前記更新後のテストデータ情報に含まれる前記複数のテストデータを入力する、ことを特徴とするテスト方法。 A test method using a test device,
The test apparatus includes request input history information indicating input times of a plurality of requests to a production system including a first database and a first server, and a plurality of accesses to the first database corresponding to the requests. With the access history information indicating the access type and the access time, test data information including request input time, access time and access type of a plurality of test data is created,
The test apparatus refers to the test data information, includes first test data included in the plurality of test data and whose access type is update access, and an access start time later than the first test data. When the access time overlaps with the second test data whose type is update access, the test data information is updated so as to delay the request input time of the second test data by a predetermined time,
The test method, wherein the test apparatus inputs the plurality of test data included in the updated test data information to a test system including a second database and a second server.
前記所定の時間は、前記第2のテストデータのアクセス開始時間と前記第1のテストデータのアクセス終了時間との差である、ことを特徴とするテスト方法。 The test method according to claim 1,
The test method according to claim 1, wherein the predetermined time is a difference between an access start time of the second test data and an access end time of the first test data.
前記テスト装置は、前記更新後のテストデータ情報により、前記第2のデータベースへのアクセス障害が発生するかを確認し、
前記テスト装置は、前記アクセス障害が発生する場合、前記更新前の前記第1のテストデータと前記第2のテストデータを変換した前記第2のデータベースへのアクセス言語により前記第2のデータベースが復元できるかを確認し、
前記テスト装置は、前記第2のデータベースが復元できる場合、前記テストデータ情報に含まれる前記第1のテストデータと前記第2のテストデータを前記アクセス言語に置換し、
前記テスト装置は、前記テスト用システムに対して前記置換後のテストデータ情報に含まれる前記複数のテストデータを入力する、ことを特徴とするテスト方法。 A test method according to claim 2, comprising:
The test apparatus confirms whether an access failure to the second database occurs based on the updated test data information,
When the access failure occurs, the test apparatus restores the second database by an access language to the second database obtained by converting the first test data before the update and the second test data. Check if you can
When the second database can be restored, the test device replaces the first test data and the second test data included in the test data information with the access language,
The test method, wherein the test apparatus inputs the plurality of test data included in the replaced test data information to the test system.
前記テスト装置は、前記テストデータ情報を参照し、前記複数のテストデータに含まれ、アクセス種別が更新アクセスである第3のテストデータと、アクセス種別が参照アクセスである第4のテストデータと、のアクセス時間が重複する場合、前記第4のテストデータのセッションに含まれる他のテストデータのアクセス種別を確認し、
前記テスト装置は、前記第4のテストデータのセッションに含まれる前記他のテストデータのアクセス種別が参照アクセスである場合、前記第4のテストデータと、前記第4のテストデータのセッションに含まれる前記他のテストデータとを前記テストデータ情報より削除する、ことを特徴とするテスト方法。 The test method according to claim 3, wherein
The test device refers to the test data information, is included in the plurality of test data, and third test data whose access type is update access, fourth test data whose access type is reference access, If the access times of the test data overlap, the access type of other test data included in the fourth test data session is confirmed,
When the access type of the other test data included in the fourth test data session is a reference access, the test apparatus is included in the fourth test data and the fourth test data session. The test method, wherein the other test data is deleted from the test data information.
前記テスト装置は、前記第4のテストデータのセッションに含まれる前記他のテストデータのアクセス種別に更新アクセスが含まれる場合、前記更新前の前記第3のテストデータと前記第4のテストデータを変換した前記第2のデータベースへのアクセス言語により前記第2のデータベースが復元できるかを確認し、
前記テスト装置は、前記第2のデータベースが復元できる場合、前記テストデータ情報に含まれる前記第3のテストデータと前記第4のテストデータを前記アクセス言語に置換し、
前記テスト装置は、前記テスト用システムに対して前記置換後のテストデータ情報に含まれる前記複数のテストデータを入力する、ことを特徴とするテスト方法。 The test method according to claim 4, comprising:
When the access type of the other test data included in the fourth test data session includes update access, the test apparatus stores the third test data and the fourth test data before the update. Check whether the second database can be restored by the access language to the converted second database,
When the second database can be restored, the test apparatus replaces the third test data and the fourth test data included in the test data information with the access language,
The test method, wherein the test apparatus inputs the plurality of test data included in the replaced test data information to the test system.
前記テスト装置は、前記更新後のテストデータ情報に含まれる複数のテストデータより、前記テスト用システムへの入力順にテストデータを選択し、
前記テスト装置は、前記選択したテストデータのアクセス時間と、直前のテストデータとのアクセス時間との第1の時間間隔を算出し、
前記選択したテストデータのリクエスト入力時間を第1の時間間隔早める、ことを特徴とするテスト方法。 The test method according to claim 1,
The test apparatus selects test data in the order of input to the test system from a plurality of test data included in the updated test data information,
The test apparatus calculates a first time interval between the access time of the selected test data and the access time of the immediately preceding test data;
A test method, wherein the request input time of the selected test data is advanced by a first time interval.
前記テスト装置は、前記選択したテストデータのリクエストに含まれる他のテストデータを選択し、
前記テスト装置は、前記他のテストデータのアクセス時間と、前記他のテストデータによりアクセスするデータベースの格納領域に対してアクセスする直前のテストデータのアクセス時間との第2の時間間隔を算出し、
前記テスト装置は、前記選択したテストデータ及び、前記他のテストデータのリクエスト入力時間を第1の時間間隔又は第2の時間間隔早める、ことを特徴とするテスト方法。 The test method according to claim 6, comprising:
The test apparatus selects other test data included in the selected test data request,
The test apparatus calculates a second time interval between the access time of the other test data and the access time of the test data immediately before accessing the storage area of the database accessed by the other test data,
The test apparatus characterized in that the request input time of the selected test data and the other test data is advanced by a first time interval or a second time interval.
前記テスト装置は、前記選択したテストデータ及び、前記他のテストデータのリクエスト入力時間を、第1の時間間隔又は第2の時間間隔のうち短い時間間隔早める、ことを特徴とするテスト方法。 The test method according to claim 7, comprising:
The test apparatus characterized in that the request input time of the selected test data and the other test data is advanced by a short time interval of the first time interval or the second time interval.
前記テスト装置は、前記テスト用システムに対して前記更新後のテストデータ情報に含まれる前記複数のテストデータを入力し、アクセス障害が発生する場合には、アクセス障害が発生するテストデータのリクエスト入力時間を遅らせることを特徴とするテスト方法。 The test method according to claim 1,
The test apparatus inputs the plurality of test data included in the updated test data information to the test system, and when an access failure occurs, a test data request input in which the access failure occurs A test method characterized by delaying time.
第1のデータベースと第1のサーバを含む本番用システムと、第2のデータベースと第2のサーバを含むテスト用システムと、に接続するインターフェースと、
前記本番用システムへの複数のリクエストの入力時間を示すリクエスト入力履歴情報と、前記リクエストに対応した前記第1のデータベースへの複数のアクセスのアクセス種別及びアクセス時間を示すアクセス履歴情報とにより作成された複数のテストデータのリクエスト入力時間とアクセス時間とアクセス種別を含むテストデータ情報を格納するメモリと、
前記テストデータ情報を参照し、前記複数のテストデータに含まれ、アクセス種別が更新アクセスである第1のテストデータと、前記第1のテストデータよりアクセス開始時間が遅く、アクセス種別が更新アクセスである第2のテストデータと、のアクセス時間が重複する場合、前記第2のテストデータのリクエスト入力時間を所定の時間遅らせるように前記テストデータ情報を更新し、前記テスト用システムに対して前記更新後のテストデータ情報に含まれる前記複数のテストデータを入力する、プロセッサと、を含むことを特徴とするテスト装置。 A test device,
An interface connected to a production system including a first database and a first server; and a test system including a second database and a second server;
Created by request input history information indicating input times of a plurality of requests to the production system, and access history information indicating access types and access times of a plurality of accesses to the first database corresponding to the requests. A memory for storing test data information including a request input time, an access time, and an access type of a plurality of test data;
Referring to the test data information, the first test data included in the plurality of test data and whose access type is update access, and the access start time is later than the first test data, and the access type is update access. If the access time overlaps with certain second test data, the test data information is updated so as to delay the request input time of the second test data by a predetermined time, and the update is performed on the test system. And a processor for inputting the plurality of test data included in the later test data information.
前記所定の時間は、前記第2のテストデータのアクセス開始時間と前記第1のテストデータのアクセス終了時間との差である、ことを特徴とするテスト装置。 The test apparatus according to claim 10,
The test apparatus according to claim 1, wherein the predetermined time is a difference between an access start time of the second test data and an access end time of the first test data.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009237844A JP2011086083A (en) | 2009-10-15 | 2009-10-15 | Test device and test method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009237844A JP2011086083A (en) | 2009-10-15 | 2009-10-15 | Test device and test method |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2011086083A true JP2011086083A (en) | 2011-04-28 |
Family
ID=44078985
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009237844A Pending JP2011086083A (en) | 2009-10-15 | 2009-10-15 | Test device and test method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2011086083A (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109960653A (en) * | 2019-02-18 | 2019-07-02 | 天津五八到家科技有限公司 | Regression testing method, device, equipment and storage medium |
-
2009
- 2009-10-15 JP JP2009237844A patent/JP2011086083A/en active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109960653A (en) * | 2019-02-18 | 2019-07-02 | 天津五八到家科技有限公司 | Regression testing method, device, equipment and storage medium |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10958548B2 (en) | Generating production server load activity for a test server | |
KR102268355B1 (en) | Cloud deployment infrastructure validation engine | |
US8688792B2 (en) | Methods and systems for discovering configuration data | |
US8346891B2 (en) | Managing entities in virtual computing environments | |
CN107710683B (en) | Elastic as a service | |
US20110320882A1 (en) | Accelerated virtual environments deployment troubleshooting based on two level file system signature | |
US20090044053A1 (en) | Method, computer system, and computer program product for problem determination using system run-time behavior analysis | |
US9471594B1 (en) | Defect remediation within a system | |
US20200104110A1 (en) | Systems and methods of just-in-time proactive notification of a product release containing a software fix | |
US10949401B2 (en) | Data replication in site recovery environment | |
JP2017201470A (en) | Setting support program, setting support method, and setting support device | |
Zhang et al. | Understanding and detecting software upgrade failures in distributed systems | |
US10048978B2 (en) | Apparatus and method for identifying a virtual machine having changeable settings | |
CN112214411A (en) | Disaster recovery system testing method, device, equipment and storage medium | |
Xu et al. | Detecting cloud provisioning errors using an annotated process model | |
JP5807594B2 (en) | Verification support program, verification support method, and verification support apparatus | |
WO2009052424A2 (en) | Virtual computing environments | |
CN111444101A (en) | Method and device for automatically creating product test defects | |
JP2011086083A (en) | Test device and test method | |
JP2023546904A (en) | Accelerated non-volatile memory device inspection and forensics | |
CA2420008C (en) | Panic message analyzer | |
US20160124990A1 (en) | System and method for determining occurrences of data corruption in a file system under active use | |
TWI735511B (en) | Code submission method and equipment | |
CN105765908A (en) | Method, client and system for multi-site automatic update | |
US9438607B2 (en) | Information processing apparatus and verification control method |