JP5607743B2 - 自動化されたテスト実行計画の生成 - Google Patents

自動化されたテスト実行計画の生成 Download PDF

Info

Publication number
JP5607743B2
JP5607743B2 JP2012532523A JP2012532523A JP5607743B2 JP 5607743 B2 JP5607743 B2 JP 5607743B2 JP 2012532523 A JP2012532523 A JP 2012532523A JP 2012532523 A JP2012532523 A JP 2012532523A JP 5607743 B2 JP5607743 B2 JP 5607743B2
Authority
JP
Japan
Prior art keywords
test
execution plan
user
test execution
parameters
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012532523A
Other languages
English (en)
Other versions
JP2013507675A (ja
Inventor
マクラムロッホ、ケネス、リー
ベッカー、ジェニファー
サン、ピーター
ラガバン、ビノドクマール
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
International Business Machines Corp
Original Assignee
International Business Machines Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by International Business Machines Corp filed Critical International Business Machines Corp
Publication of JP2013507675A publication Critical patent/JP2013507675A/ja
Application granted granted Critical
Publication of JP5607743B2 publication Critical patent/JP5607743B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/36Preventing errors by testing or debugging software
    • G06F11/3668Software testing
    • G06F11/3672Test management
    • G06F11/3684Test management for test design, e.g. generating new test cases
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/06Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Quality & Reliability (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Economics (AREA)
  • Human Resources & Organizations (AREA)
  • Strategic Management (AREA)
  • Physics & Mathematics (AREA)
  • Tourism & Hospitality (AREA)
  • Operations Research (AREA)
  • Educational Administration (AREA)
  • Marketing (AREA)
  • General Business, Economics & Management (AREA)
  • Game Theory and Decision Science (AREA)
  • Development Economics (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Debugging And Monitoring (AREA)
  • Stored Programmes (AREA)

Description

本発明は、ソフトウェアテストの分野に関し、より具体的には、自動化されたテスト実行計画の生成に関する。
ソフトウェアテストは、ソフトウェア開発の重要な要素である。ソフトウェアテストの管理及び/又は性能を補助するために、様々な自動化されたソフトウェア・ツールが存在する。例えば、自動化されたテストツールは、ソフトウェアの使用をシミュレートする事前定義されたスクリプトを実行する。その他のツールは、テストケース及びプロジェクトのタイムラインといった種々のテストプロセスのアーチファクトの生成に的を絞っている。
しかしながら、これらのツールにもかかわらず、従来のテスト実行計画の作成は、依然として手動のプロセスである。テスト実行計画の生成には、多数の要因を考慮することが必要とされ、これらの要因は、ソフトウェアテスト・システムの外部にあるシステムに格納されていることが多い。例えば、ソフトウェア・テスタの可用性を判断するには、プロジェクト管理及び/又はカレンダー・プログラムを調べることが必要になるが、その一方で、テスト関連情報は、ソフトウェアテスト・システム内に収容されている。
このプロセスは、手動であるというその性質のために、時間がかかり、かつ人為エラーの影響を受け易い。同じデータ及びパラメータに基づいても、作業員が異なると、異なるテスト実行計画を生成することが可能である。さらに、異なるテスト実行計画は、異種のフォーマットで格納されることもあり得る。このような標準化の欠如は、テストカバレッジにおける空白箇所(所謂テスト漏れ)の判定といった、テスト実行計画及びその内容の有意味な解析を妨げる。
本開示は、ソフトウェアテストのためのテスト実行計画を自動的に生成する方法を提供する。テスト実行計画の生成は、テスト実行計画生成ツールにより行われる。テスト実行計画生成ツールは、ユーザ設定テストパラメータと共に、事前定義テスト実行計画データモデルを用いる。事前定義テスト実行計画データモデルは、テスト対象ソフトウェア・アプリケーションを評価するために用いられるソフトウェアテスト・システムのソフトウェアテスト・ドメイン・データを表わすテスト・メタデータを収容する。ユーザ設定テストパラメータは、そのテスト実行計画についての具体的なテストパラメータを提供する。
本発明の1つの態様は、テスト実行計画を自動的に生成するための方法及びコンピュータ・プログラム製品を含むことができる。テスト対象ソフトウェア・アプリケーションに対する一組のユーザ設定テストパラメータを、テスト実行計画生成ツールによって受け取ることができる。例えば、グラフィカル・ユーザインターフェースを、インターフェースが定義するグラフィカル・ユーザインターフェース・フィールド内でユーザ入力を受け取るクライアント上に提示することが可能であり、ユーザ入力は、テストパラメータを指定し、このテストパラメータは、テスト実行計画生成ツールをホストするサーバに伝達される。ユーザ設定テストパラメータは、テスト実行計画生成ツールに関連付けられた事前定義テスト実行計画データモデル内に収容された少なくとも1つの項目と相関することができる。ソフトウェア・アプリケーションに対する少なくとも1つのテスト目標を、ユーザ設定可能テストパラメータにより定義することができる。テスト実行計画は、ユーザ設定テストパラメータ及び事前定義テスト実行計画データモデルを利用して、自動的に生成することができる。事前定義テスト実行計画データモデルは、テスト対象ソフトウェア・アプリケーションを評価するために用いられるソフトウェアテスト・システムに対するソフトウェアテスト・ドメイン・データを表わすテスト・メタデータを含むことができる。テスト・メタデータは、テスト対象のすべてのプロジェクトにより共有されるテストセンタの有限共有リソースの詳細を指定することができる。生成されたテスト実行計画は、ソフトウェア・アプリケーションに対する少なくとも1つのテスト目標を満たすためにソフトウェア・アプリケーションのテストの少なくとも1つのフェース専用とされる有限共有リソースの特定の割振りを詳述することができる。
本発明の別の態様は、テスト実行計画を自動的に生成するためのシステムを含むことができる。このようなシステムは、ユーザ設定テストパラメータと、事前定義テスト実行計画データモデルと、テスト実行計画生成ツールとを含むことができる。ユーザ設定テストパラメータは、ソフトウェアテスト・システム内で評価されるテスト対象ソフトウェア・アプリケーションに対するテスト要求を定義することができる。ソフトウェア・アプリケーションに対する少なくとも1つのテスト目標を、ユーザ設定可能テストパラメータにより定義することができる。事前定義テスト実行計画データモデルは、テスト対象ソフトウェア・アプリケーションに対するテスト実行計画を生成するためのテスト・メタデータを定義することができる。テスト・メタデータは、ソフトウェアテスト・システムのソフトウェアテスト・ドメイン・データを表わすことができる。テスト・メタデータは、テスト対象のすべてのプロジェクトにより共有されるテストセンタの有限共有リソースの詳細を指定することができ、生成されたテスト実行計画は、ソフトウェア・アプリケーションに対する少なくとも1つのテスト目標を満たすためにソフトウェア・アプリケーションのテストの少なくとも1つのフェーズの専用とされる有限共有リソースの特定の割振りを詳述する。テスト実行計画生成ツールは、ユーザ設定テストパラメータ及び事前定義テスト実行計画データモデルを利用して、テスト対象ソフトウェア・アプリケーションに対するテスト実行計画を自動的に生成するように構成することができる。各々の生成されたテスト実行計画は、ソフトウェア・アプリケーションに対する少なくとも1つのテスト目標を満たすためにソフトウェア・アプリケーションのテストの少なくとも1つのフェーズ専用とされる有限共有リソースの特定の割振りを含むことができる。
ここで本発明の実施形態を、添付の図面を参照して、単なる例として説明する。
本明細書に開示される本発明の構成の実施形態による、テスト対象ソフトウェア・アプリケーションに対するテスト実行計画を自動的に生成するテスト実行計画生成ツールを利用するシステムを示す概略図である。 本明細書に開示される本発明の構成の実施形態によるテスト実行計画生成ツールの詳細図である。 本明細書に開示される本発明の構成の実施形態によるテスト実行計画データモデルのサンプル・データベース・スキーマである。 本明細書に開示される本発明の構成の実施形態によるテスト実行計画生成ツールにより行われるテスト実行計画の自動生成を説明する、方法のフローチャートである。
本開示は、所望のテストカバレッジ目標を満たし、かつ、テストのために共有リソースの有限集合を用いる、コンピュータにより生成されるデータ駆動型テスト実行計画(例えば、テスト実行割当て)についてのソリューションを提供する。共有テストリソースの有限集合に関するデータ(これは、静的データ及び動的データを含むことができる)は、不揮発性メモリ内の永続的なものとすることができ、かつ、ユーザ設定可能なテスト特有のパラメータと組み合わせることが可能であり、このデータは、全テスト負荷が与えられると、共有テストリソースの割振りを決定する。全テスト負荷は、互いに独立であり得る多重の並行プロジェクトのために必要とされる待ち状態のテスト動作の集合を含むことができる。
1つの実施形態において、このソリューションは、テスタ及びテストケース・プロファイルをモデル化することができ、テスト品質メトリクスを維持することができ、テスト環境データを含み、これらは、データ駆動型テスト実行計画を生成するときに用いられるデータ要素である。さらに、このソリューションは、既存のテスト追跡ツール、スケジューリング・ツール、リソース管理システム、プロジェクト管理システムなどと統合することができ、これにより、テスト実行計画生成器が既存の情報を活用して、ツール特有のオーバーヘッド及びメンテナンス動作を大幅に減少させることが可能になる。
このソリューションのテスト計画生成器は、生成されるテスト計画内に含まれるべきテストケースの妥当な集合を割り出すことを考慮にいれた無数の変数を取り扱うのに十分に、ロバストであり得る。これらの変数は、所望のテスト環境カバレッジ(すなわち、テスト対象製品に応じて、特定のOSプラットフォーム、データベース、アプリケーション・サーバ等を利用する特殊用途のリソースを含むことができる)、所望の製品カバレッジ(例えば、受け入れテスト、回帰、全製品カバレッジ、等)、所望のコンポーネント・カバレッジ(例えば、コンポーネントごとの過去の品質メトリクスに基づく調整テスト、テストの標的目標、等)、テスタの可用性及び技術レベルなどを含むが、これらに限定されるものではない。
1つの実施形態において、このソリューションは、生成された計画において持続するロギング及び解析機能を含むことができる。プロジェクトが包括的にテストされたことを保証するために、解析機能を用いて、プロジェクトのテスト計画を構成する一連のテスト計画におけるいずれかのカバレッジの空白箇所を検出することができる。さらに、計画の格納及び解析を用いて、生成された計画が経時的に自己適応的であることを保証するようテスト実行計画生成器の挙動を自動的に調整するために用いることができるフィードバック/訓練ループを確立することができる。
開示されたソリューションを用いることにより、テスト実行計画を手動で生成することによりしばしば生じるエラーを排除することができる。さらに、テスト担当の管理者には、リスクを理解した上で随意的なテスト手法を決定するためのバリエーションを備えた計画を容易に再生成するという新たな能力を与えることができる。各々の生成されたテスト計画は、ユーザ設定可能な多数の基準に基づいて完全にカスタマイズ可能であり得る。さらに、テスト計画は、利用可能なテストリソースにおける変更に基づいて自動的に自己適応し、テスト目標を変更し、テスト対象の一組の並行プロジェクト間の優先順位を変更することができる。
本発明は、方法、システム、又はコンピュータ・プログラム製品として具体化することができる。従って、本発明は、完全にハードウェアの実施形態、完全にソフトウェアの実施形態(ファームウェア、常駐ソフトウェア、マイクロコード等を含む)、又はソフトウェアの態様とハードウェアの態様とを組み合わせた実施形態の形をとることができ、これらはすべて本明細書において一般に「回路」、「モジュール」又は「システム」と呼ぶことができる。さらに、本発明は、媒体内で具体化されたコンピュータ使用可能プログラム・コードを有する、コンピュータ使用可能格納媒体上のコンピュータ・プログラム製品の形をとるもことができる。
さらに、本発明は、コンピュータ又は任意の命令実行システムによる使用のため又はそれらと関連した使用のためのプログラム・コードを提供するコンピュータ使用可能媒体又はコンピュータ可読媒体からアクセス可能なコンピュータ・プログラム製品の形をとるものとすることができる。
任意の適切なコンピュータ使用可能媒体又はコンピュータ可読媒体を利用することができる。コンピュータ使用可能媒体又はコンピュータ可読媒体は、例えば、電子的、磁気的、光学的、電磁的、赤外線、又は半導体のシステム、装置、デバイス、又は伝搬媒体とすることができるが、それらに限定されるものではない。コンピュータ可読媒体の例は、半導体又は固体メモリ、磁気テープ、取り外し可能コンピュータ・ディスケット、ランダムアクセスメモリ(RAM)、読み出し専用メモリ(ROM)、消去可能なプログラム可能読み出し専用メモリ(EPROM又はフラッシュメモリ)、剛性磁気ディスク及び光ディスクを含む。現時点における光ディスクの例は、コンパクトディスク−読み出し専用メモリ(CD−ROM)、コンパクトディスク−読み出し及び/又は書き込み(CD−R/W)及びDVDを含む。
本発明の操作を実行するためのコンピュータ・プログラム・コードは、Java、Smalltalk、C++などのオブジェクト指向プログラミング言語で記述することができる。しかしながら、本発明の操作を実行するためのコンピュータ・プログラム・コードは、「C」プログラミング言語又は同様のプログラミング言語などの従来の手続き型プログラミング言語で記述することもできる。プログラム・コードは、ユーザのコンピュータ上で全体を実行するか、独立型のソフトウェア・パッケージとして部分的にユーザのコンピュータ上で実行するか、部分的にユーザのコンピュータ上で実行し、かつ部分的に遠隔コンピュータ上で実行するか、又は、遠隔コンピュータ若しくはサーバ上で全体を実行することができる。後者のシナリオにおいては、遠隔コンピュータは、ローカル・エリア・ネットワーク(LAN)若しくは広域エリア・ネットワーク(WAN)を通じてユーザのコンピュータに接続するか、又は、外部のコンピュータへの(例えば、インターネット・サービス・プロバイダを用いたインターネットを通じた)接続を行うことができる。
プログラム・コードを格納及び/又は実行するのに適したデータ処理システムは、システム・バスを通じてメモリ要素に直接又は間接的に結合された少なくとも1つのプロセッサを含む。メモリ要素は、プログラム・コードの実際の実行中に使用されるローカル・メモリと、大容量記憶装置と、実行中に大容量記憶装置からコードを取り出さなければならない回数を減らすためにプログラム・コードの少なくとも一部の一時的な記憶域を提供するキャッシュ・メモリとを含むことができる。
入力/出力デバイス、すなわちI/Oデバイス(キーボード、ディスプレイ、ポインティング・デバイスなどを含むがこれらに限定されない)は、直接又は介在するI/Oコントローラを通じてシステムに結合することができる。
データ処理システムが、介在する私設ネットワーク又は公衆ネットワークを通じて他のデータ処理システム又は遠隔のプリンタ若しくは記憶装置に結合できるようにするために、ネットワーク・アダプタをシステムに結合することもできる。モデム、ケーブルモデム及びイーサネット・カードは、現在利用可能なネットワーク・アダプタのタイプのうちのごく一部である。
本発明は、本発明の実施形態による方法、装置(システム)及びコンピュータ・プログラム製品のフローチャート図及び/又はブロック図を参照して以下に説明される。フローチャート図及び/又はブロック図の各ブロック、並びにフローチャート図及び/又はブロック図内のブロックの組み合わせは、コンピュータ・プログラム命令によって実施することができることが理解される。これらのコンピュータ・プログラム命令を、汎用コンピュータ、専用コンピュータ、又は他のプログラム可能データ処理装置のプロセッサに与えて機械を製造し、それにより、コンピュータ又は他のプログラム可能データ処理装置のプロセッサによって実行される命令が、フローチャート及び/又はブロック図の1つ又は複数のブロックにおいて指定された機能/動作を実施するための手段を作り出すようにすることができる。
これらのコンピュータ・プログラム命令を、コンピュータ又は他のプログラム可能データ処理装置を特定の方式で機能させるように指示することができるコンピュータ可読メモリ内に格納し、それにより、そのコンピュータ可読メモリ内に格納された命令が、フローチャート及び/又はブロック図の1つ又は複数のブロックにおいて指定された機能/動作を実施する命令手段を含む製品を製造するようにさせることもできる。
コンピュータ・プログラム命令をコンピュータ又は他のプログラム可能データ処理装置上にロードして、一連の動作ステップをコンピュータ又は他のプログラム可能装置上で実行させて、コンピュータ実装プロセスを生成し、それにより、コンピュータ又は他のプログラム可能装置上で実行される命令が、フローチャート及び/又はブロック図の1つ又は複数のブロックにおいて指定された機能/動作を実施するためのステップを提供するようにさせることもできる。
図1は、本明細書に開示される本発明の構成の実施形態による、テスト対象ソフトウェア・アプリケーション122に対するテスト実行計画155を自動的に生成するテスト実行計画生成ツール140を利用するシステム100を示す概略図である。システム100において、ユーザ105は、クライアント装置110上で稼働するユーザインターフェース115を用いて、テスト実行計画生成ツール140にユーザ設定テストパラメータ117を提供することができる。
クライアント装置110は、ユーザインターフェース115を稼働させること、及びネットワーク165上でテスト実行計画生成ツール140と通信することが可能な、様々なコンピュータ処理装置を表わすことができる。ユーザ設定テストパラメータ117は、テスト対象ソフトウェア・アプリケーション122に対するテスト要求を表わすことができる。ユーザ設定テストパラメータ117の例は、テスト対象ソフトウェア・アプリケーション名、テスト対象ソフトウェア・アプリケーションのバージョン、テスト型式(例えば、回帰テスト、受け入れテスト等)、テスト環境、テストを行うソフトウェア・テスタ名、名前なしソフトウェア・テスタに必要なスキル、テストされる特定のアプリケーション・コンポーネント名、テストカバレッジ分布、テスト開始日、テスト持続時間、テスト優先順位、テストの重要度レベルなどを含むことができるが、これらに限定されない。
ユーザ設定テストパラメータ117は、ネットワーク165上で、テスト実行計画生成ツール140が動作することができるサーバ135まで伝達することができる。テスト実行計画生成ツール140は、ユーザ設定テストパラメータ117及びテスト実行計画データモデル150に基づいてテスト実行計画155を自動的に生成するように構成されたソフトウェア・アプリケーションを含むことができる。テスト実行計画生成ツール140は、テスト実行計画データモデル150及び生成されたテスト実行計画155を格納するための、データ格納部145を含むことができる。
テスト実行計画データモデル150は、テスト対象ソフトウェア・アプリケーション122を評価することができるソフトウェアテスト・システム120のソフトウェアテスト・ドメイン・データ130を表わすテスト・メタデータを収容することができる。例えば、テスト実行計画データモデル150は、テストケース、テスト環境、ソフトウェア・テスタ、及びテスト対象ソフトウェア・アプリケーション122及び/又はソフトウェアテスト・システム120のコンポーネント・アーキテクチャに関する情報の要点を収容することができる。
テスト実行計画データモデル150の取り込み(population)は、ユーザインターフェース115を介して、ユーザ105により手動で行うことができる。代替的に、テスト実行計画生成ツール140は、ソフトウェアテスト・ドメイン・データ130を格納するデータ格納部125からテスト実行計画データモデル150の指定されたデータ要素を自動的に収集することができる自動化されたデータ取得スクリプト(図示せず)を含むことができる。
別の想定される実施形態において、テスト実行計画生成ツール140をホストするサーバ135は、ソフトウェアテスト・システム120のコンポーネントとすることができる。
ユーザ設定テストパラメータ117を受け取ると、テスト実行計画生成ツール140は、テスト実行計画データモデル150を用いて、実行割当て160を生成することができる。実行割当て160は、ユーザ設定テストパラメータ117を満たす特定のテスト・アクティビティを定義する、テスト実行計画データモデル150由来のひとまとまりのテスト・メタデータを表わすことができる。例えば、実行割当て160は、テスタAが、コンピュータCを用いて、時間T1とT2との間で、テストケースJを実行することを指示することができる。
実行割当て160を集約して、テスト実行計画155を生成することができる。テスト実行計画155は、それに対応するユーザ設定テストパラメータ117と共に、データ格納部145内に格納することができる。テスト実行計画155は、標準化されたプロセスを用いて生成されるので、テスト実行計画生成ツール140は、テスト実行計画155の履歴に対する解析機能を実行するようにさらに構成することができる。
テスト実行計画155を生成するための従来の方法は、手動で行われていたことに留意されたい。そのため、従来の方法は、自動化されたテスト実行計画生成ツール140のような標準化及び効率性に欠ける傾向がある。
ネットワーク165は、搬送波内でコード化されたデータを伝達するのに必要な任意のハードウェア/ソフトウェア/及びファームウェアを含むことができる。データは、アナログ又はデジタル信号内に収容され、データチャンネル又は音声チャネルを通して伝達することができる。ネットワーク165は、コンピュータ処理装置のコンポーネント間、及び統合されたデバイスのコンポーネントと周辺デバイスとの間で通信を交換し合うのに必要なローカル・コンポーネント及びデータ経路を含むことができる。ネットワーク165は、インターネットのようなデータネットワークを互いに形成する、ルータ、データライン、ハブ、及び中間サーバといったネットワーク機器を含むこともできる。ネットワーク165は、電話交換機、モデム、移動体通信タワーなどのような、回路ベースの通信コンポーネント及び移動体通信コンポーネントを含むこともできる。ネットワーク165は、有線及び/又は無線の通信経路を含むことができる。
データ格納部125及び145は、デジタル情報を格納するように構成された物理的な又は仮想の記憶空間とすることができる。データ格納部125及び145は、磁気ディスク、光ディスク、半導体メモリ、デジタルコード化されたプラスチックメモリ、ホログラフィックメモリ、又はその他のいずれかの記録媒体を含むがこれらに限定されない任意のタイプのハードウェア内に物理的に実装することができる。データ格納部125及び145は、独立型の記憶ユニット、並びに複数の物理デバイスから形成された記憶ユニットとすることができる。さらに、情報は様々な方式でデータ格納部125及び145内に格納することができる。例えば、情報は、データベース構造内に格納することも、又はファイル格納システムの1つ又は複数のファイル内に格納することも可能であり、この場合、各ファイルは、情報検索目的のために索引付けされてもよく又はされなくてもよい。さらに、データ格納部125及び/又は145は、格納された情報を不正アクセスから保護するために1つ又は複数の暗号化機構を用いることができる。
クライアント装置110、ソフトウェアテスト・システム120、及びサーバ135は各々、ハードウェア、ソフトウェア、及び/又はファームウェアのコンポーネントを含むことができる。コンポーネントは、1つ又は複数のコンピュータ処理装置の組において実装することができる。例えば、システム120は、特定のテスト環境に合わせて構成された多数のコンピュータ処理装置の組を含むことができる。別の例において、サーバ135は、分散された計算機空間又は単一の装置内で実装することができる。装置110、システム120、及び/又はサーバ135に含まれるハードウェアは、少なくとも1つのプロセッサと、揮発性メモリと、不揮発性メモリと、通信バスを介して互いにリンクされたネットワーク・アダプタとを含むことができる。
図2は、本明細書に開示される本発明の構成の実施形態によるテスト実行計画生成ツール200の詳細図である。テスト実行計画生成ツール200は、システム100を背景として用いることができる。
テスト実行計画生成ツール200は、管理コンポーネント205と、データ処理コンポーネント210と、報告コンポーネント220と、テスト実行計画データモデル240、生成規則テンプレート245及びテスト実行計画250を収容するデータ格納部235とを含むことができる。管理コンポーネント205は、テスト実行計画生成ツール200のための管理機能を提供するように構成することができる。例えば、管理コンポーネント205の機能は、テスト実行計画データモデル240及び/又は生成規則テンプレート245を取り込むときに用いることができる。
データ処理コンポーネント210は、テスト実行計画データモデル240及び/又は格納されたテスト実行計画250に対して、様々なデータ解析及びデータ合成操作を実行するように構成することができる。データ処理コンポーネント210は、生成規則トランスレータ215を含むことができる。生成規則トランスレータ215は、受け取ったユーザ設定テストパラメータをテスト実行計画生成ツール200により実行することができる生成規則に変換するように構成された、ソフトウェア・コンポーネント及び/又はアルゴリズムを表わすことができる。
例えば、アプリケーションZのバージョン2.4に対するテスト実行計画250を生成するよう指示するユーザ設定テストパラメータを、Product=Application Z AND Version=2.4であるレコードについてテスト実行計画データモデル240を照会すべきであることを述べる生成規則に変換することができる。「Product」及び「Version」は、テスト実行計画データモデル240内に収容されたデータ要素に対応することができる。
生成規則トランスレータ215は、テスト実行計画生成ツール200のユーザインターフェースにおいて提示される名称と、テスト実行計画データモデル240との間の相違を橋渡しすることができる。上の例に示されるように、生成規則トランスレータ215により作成される生成規則は、テスト実行計画データモデル240を照会するためのBOOLEAN論理を含むことができる。
さらに、データ処理コンポーネント210は、ユーザ定義された優先順位値に従って、生成規則に優先順位を付けることができる。この優先順位付けは、生成規則が実行される順序及び/又はテスト実行計画250の生成中に強調される順序に影響を与えることができる。
さらに、データ処理コンポーネント210及び/又は生成規則トランスレータ215は、生成規則テンプレート245を利用するように構成することができる。生成規則テンプレート245は、テストパラメータの特定の値に関する生成規則のユーザカスタマイズ可能な群を表わすことができる。例えば、生成規則テンプレート245は、受け入れテスト及び回帰テストといった異なる型式のソフトウェアテストのためのテストパラメータのデータ値及び/又は必要とされる生成規則を定義するように作成することができる。
生成規則テンプレート245は、テスト実行計画生成ツール200のユーザインターフェースから選択できるようにすることができる。生成規則テンプレート245を選択することで、定義されたテストパラメータ及び/又は生成規則を事前設定されたデータ値と共に自動的に取り込むことができる。
報告コンポーネント220は、格納されたデータを集約してユーザ指定の報告フォーマットにするように構成することができる。報告コンポーネント220は、報告生成器225と通知ハンドラ230とを含むことができる。報告生成器225は、テスト実行計画データモデル240、生成規則テンプレート245、及び/又はテスト実行計画250の履歴についての報告の定義及び生成を可能にするように構成することができる。報告生成器225は、データ処理コンポーネント210の機能を利用して報告データを集めることができる。
通知ハンドラ230は、情報をユーザに配信するように構成されたコンポーネントとすることができる。例えば、通知ハンドラ230は、実行割当て情報を収容する電子通知メッセージをソフトウェア・テスタに送信することができる。通知ハンドラ230はさらに、さらなる通知オプションを提供するために、種々の電子メッセージング・システムとインターフェースするようにさらに構成することができる。
図3は、本明細書に開示される本発明の構成の実施形態によるテスト実行計画データモデルのサンプル・データベース・スキーマ300である。サンプル・データベース・スキーマ300は、システム100を背景として、及び/又は図2のテスト実行計画生成ツール200により用いることができる。
サンプル・データベース・スキーマ300の内容は、例証のみを目的とするものであり、最終的な実装を提示することを意味するものではないことに注意すべきである。図示されているように、スキーマ300は、データベース構造をモデル化する場合の標準である第三正規形にまとめてあるが、これは、実装の制限として解釈されるべきものではない。さらに、当業者であれば、それもまた本開示の範囲内であるとみなされる、例示的なスキーマ300で表わされる関係とは異なるスキーマに基づくことができる。
サンプル・データベース・スキーマ300に示されるように、テスト実行計画データモデルは、テスト・メタデータを定義する1つ又は複数の属性355を有することができる複数のデータベース・テーブル305−350を含むことができる。特に注目すべき属性は、テストケース・テーブル310の「優先順位値(Priority Value)」属性365である。この属性365は、ユーザ定義された優先順位の入力を提供して、テスト実行計画生成に影響を与えることができる。
データベース・テーブル305−350は、リレーションシップ360を介して互いに関連付けることができる。リレーションシップ360は、この例に示される鳥の足形(クローフット(Crow’s Foot))記号を用いたカーディナリティの包含のような、一般に容認されたデータベースのモデル化の規約に従うことができる。
サンプル・データベース・スキーマ300は、以下のように読み取ることができる。製品350は、多数のコンポーネント315及び多数の割当て330を有することができる。製品350の所与のコンポーネント315(又は機能領域)に対するテストカバレッジを提供するために、1つ又は複数のテストケース310が存在することができる。テスト対象の所与の製品350/コンポーネント315に対する(特定のテストケース310についての)テストカバレッジを提供するというテスト目標を満たすために、1つ又は複数の割当て330を作成することができる(例えば、オペレーティングシステム(305)、データベース(335)、ランタイム(345)等の集合に対してサポートされた実行ドメイン全体にわたって)。テスタ320は、関連付けられた割当てステータス340を有することができる各々の割当て330を担当することができる。
スキーマ300により示されるように、コンポーネント315は、多数のテストケース310を有することができ、多数のコンポーネント315を1つのテスタ320に関連付けることができる。多数のテスタ320を、1つのプラットフォーム305及び1つのデータベース(DB)335に関連付けることができる。1つのテストケース310は、多数の割当て330を有することができる。多数の割当て330が、1つの実行計画325に属することができ、かつ、単一の割当て330が、多数の実行計画325に属することができる。多数の割当て330が、1つの関連付けられた割当てステータス340、ランタイム345、製品350、DB335、テスタ320、及びプラットフォーム305を有することができる。
図4は、本明細書に開示される本発明の構成の実施形態によるテスト実行計画生成ツールにより行われるテスト実行計画の自動生成を説明する、方法400のフローチャートである。方法400は、システム100、テスト実行計画生成ツール200、及び/又はサンプル・データベース・スキーマ300の利用により実施することができる。
方法400は、テスト実行計画生成ツールがユーザ設定テストパラメータを受け取ることができる、ステップ405から開始することができる。受け取ったユーザ設定テストパラメータを、ステップ410において生成規則に変換することができる。生成規則は、データ照会及び/又はデータ合成規則を含むことができる。
ステップ415において、ユーザ定義された優先順位値を生成規則に適用することができる。ステップ420において、生成規則の実行順序を調整することができる。ステップ425において、データ照会生成規則を事前定義テスト実行計画データモデルに対して実行して、適用可能なテスト・メタデータを決定することができる。
ステップ430において、適用可能なテスト・メタデータを、データ合成生成規則を用いて合成して、実行割当てにすることができる。実行割当ては次にステップ435においてコンパイルされ、テスト実行計画にすることができる。ステップ440において、テスト実行計画をそのユーザ設定テストパラメータと共に格納することができる。随意のステップ442において、実行割当てを、割り当てられたソフトウェア・テスタに分散させることができる。
ステップ445において、ユーザフィードバックのために、テスト実行計画をユーザインターフェース内で提示することができる。例えば、テスタは、ステップ442において実行割当てを受け取った後、ステップ445において、フィードバック・インターフェースを開くことができる。ユーザフィードバックは、随意にステップ450において受け取ることができ、この随意のフィードバックは、1つ又は複数のユーザ設定テストパラメータに対する変更を含むことができる。
フィードバックにおいて変更が与えられた場合、ステップ455を実行することができ、ここで、修正されたユーザ設定パラメータを判定し、テスト実行計画生成ツールに伝達することができる。ステップ455からステップ410への進行により示されるように、修正されたパラメータに基づいて新たな計画を生成することができる。
ステップ460において、新たに生成されたテスト実行計画の以前のバージョンが存在するかどうか判断する。存在する場合は、ステップ465において、テスト計画バージョン間の差異の随意の解析を行うことができる。さらに、ステップ470により示されるように、リスク、利益、格付け、及びその他のデータを割り出し、それを異なるテスト計画バージョンの各々に関連付けることができる。ステップ475において、解析結果、テスト計画の差異、及び関連するデータを、担当のテスト管理者に提示することができる。いずれの時点でも、さらなるユーザフィードバックをステップ450において受け取ることができ、その結果、新たなテスト実行計画が生成され、これは、修正されたテストパラメータに基づいて生成される。テスト対象の別のソフトウェア・パッケージに対して、方法400をはじめから繰り返すことができる。
図1から図4における図は、本発明の種々の実施形態による、システム、方法及びコンピュータ・プログラム製品の可能な実装の、アーキテクチャ、機能及び動作を示す。この点に関して、フローチャート又はブロック図内の各ブロックは、指定された論理機能を実装するための1つ又は複数の実行可能な命令を含む、モジュール、セグメント又はコードの一部を表すことができる。幾つかの代替的な実装において、ブロック内に記された機能は、図面に記された順序とは異なる順序で行われることもあることにも留意されたい。例えば、連続して図示された2つのブロックが、関与する機能に応じて、実際には実質的に同時に実行されることもあり、又はこれらのブロックは、ときとして逆順で実行されることもある。ブロック図及び/又はフローチャート図の各ブロック、並びにブロック図及び/又はフローチャート図内のブロックの組み合わせは、指定された機能又は動作を実行する専用ハードウェア・ベースのシステム、又は専用ハードウェアとコンピュータ命令との組み合わせによって実装することができることにも留意されたい。
本明細書において用いられる用語は、特定の実施形態を説明する目的のためのものに過ぎず、発明を限定することを意図するものではない。本明細書において用いられる場合、単数形「1つの(a)」、「1つの(an)」及び「その(the)」は、文脈から明らかにそうでないことが示されていない限り、複数形も同様に含むことが意図される。「含む(comprises)」及び/又は「含んでいる(comprising)」という用語は、本明細書において用いられる場合、言明された特徴、整数、ステップ、動作、要素及び/又はコンポーネントの存在を特定するものではあるが、1つ又は複数の他の特徴、整数、ステップ、動作、要素、コンポーネント及び/又はそれらの群の存在又は追加を排除するものではないこともさらに理解されよう。
以下の特許請求の範囲における全ての「手段又はステップと機能との組み合わせ(ミーンズ又はステップ・プラス・ファンクション)」要素の対応する構造、材料、動作及び均等物は、その機能を、明確に特許請求されているように他の特許請求された要素と組み合わせて実行するための、いかなる構造、材料又は動作をも含むことが意図される。本発明の説明は、例示及び説明の目的で提示されたものであるが、網羅的であることを意図するものではなく、本発明を開示された形態に限定することを意図するものでもない。本発明の範囲及び精神から逸脱することのない多くの変更及び変形が、当業者には明らかである。実施形態は、本発明の原理及び実際の用途を最も良く説明するため、及び、当業者が本発明を種々の変更を有する種々の実施形態について企図される特定の使用に適したものとして理解することを可能にするために、選択及び記載された。
100:システム
200:テスト実行計画生成ツール
300:サンプル・データベース・スキーマ

Claims (18)

  1. テスト実行計画を自動的に生成するための方法であって、
    テスト対象ソフトウェア・アプリケーションに対する複数のユーザ設定テストパラメータをテスト実行計画生成ツールにより受け取るステップであって、前記複数のユーザ設定テストパラメータが、前記テスト実行計画生成ツールに関連付けられた事前定義テスト実行計画データモデル内に収容された少なくとも1つの項目と相関し、前記ソフトウェア・アプリケーションに対する少なくとも1つのテスト目標が、前記ユーザ設定可能なテストパラメータにより定義される、ステップと、
    前記複数のユーザ設定テストパラメータ及び前記事前定義テスト実行計画データモデルを利用してテスト実行計画を自動的に生成するステップであって、前記事前定義テスト実行計画データモデルが、前記テスト対象ソフトウェア・アプリケーションを評価するために用いられるソフトウェアテスト・システムに対するテスト・メタデータを含み、前記テスト・メタデータが、テスト対象により共有されるテストセンタの有限共有リソースの詳細を指定し、前記生成されたテスト実行計画が、前記ソフトウェア・アプリケーションに対する前記少なくとも1つのテスト目標を満たすために前記ソフトウェア・アプリケーションのテストの少なくとも1つのフェーズ専用とされる前記有限共有リソースの特定の割振りを詳述する、ステップと、
    を含む方法。
  2. 前記テスト実行計画を生成するステップが、
    前記受け取った複数のユーザ設定テストパラメータを少なくとも1つの生成規則に変換するステップであって、前記少なくとも1つの生成規則が、データ照会制約及びデータ合成制約のうちの少なくとも一方として分類される、ステップと、
    前記事前定義テスト実行計画データモデルを、前記複数のユーザ設定テストパラメータに適用可能な少なくとも1つのテスト・メタデータ項目について照会するステップと、
    前記少なくとも1つのテスト・メタデータ項目を合成して少なくとも1つの実行割当てにするステップであって、前記少なくとも1つの実行割当てが、割り当てられたソフトウェア・テスタにより行われる少なくとも1つのテスト・アクティビティについての情報を定義する、ステップと、
    前記少なくとも1つの合成された実行割当てをコンパイルして、前記テスト実行計画にするステップと、
    をさらに含む請求項1に記載の方法。
  3. 前記受け取った複数のユーザ設定テストパラメータを変換するステップが、
    ユーザ定義された優先順位値を前記少なくとも1つの生成規則に適用するステップであって、前記ユーザ定義された優先順位値が、生成規則についての実行の優先度を定量化する、ステップと、
    前記少なくとも1つの生成規則の実行順序を前記ユーザ定義された優先順位値に従って調整するステップと、
    をさらに含む請求項2に記載の方法。
  4. 前記事前定義テスト実行計画データモデルを照会するステップが、前記データ照会制約として分類された生成規則を利用し、前記少なくとも1つのテスト・メタデータ項目を合成するステップが、前記データ合成制約として分類された生成規則を利用する、請求項2に記載の方法。
  5. 前記生成されたテスト実行計画を、ユーザフィードバックのために前記テスト実行計画生成ツールのユーザインターフェース内に提示するステップであって、前記ユーザフィードバックが、確認、修正、及び却下のうちの少なくとも1つを含む、ステップと、
    前記ユーザフィードバックを受け取ると、前記少なくとも1つの実行割当てを少なくとも1つの割り当てられたソフトウェア・テスタに自動的に分散させるステップであって、各々の割り当てられたテスタが、前記有限共有リソースのうちの1つである、随意のステップと、
    をさらに含む請求項1に記載の方法。
  6. 前記複数のユーザ設定テストパラメータに結合された前記生成されたテスト実行計画を格納して、標準化されたテスト実行計画履歴にエントリを追加するステップ
    をさらに含む請求項1に記載の方法。
  7. 前記標準化されたテスト実行計画履歴を含む前記格納されたテスト実行計画を解析して、少なくとも1つのテスト報告を生成するステップであって、前記報告が、前記標準化されたテスト実行計画履歴を解析することにより求められたいずれかのテストカバレッジの空白箇所(テスト漏れ)の指標を与える、ステップをさらに含む、請求項6に記載の方法。
  8. 前記複数のユーザ設定テストパラメータが、前記テスト対象ソフトウェア・アプリケーション名、前記テスト対象ソフトウェア・アプリケーションのバージョン、テスト型式、テスト環境、ソフトウェア・テスタ名、名前なしソフトウェア・テスタのスキルの組、前記テスト対象ソフトウェア・アプリケーションのコンポーネント名、テストカバレッジ値、テスト開始日、及びテスト持続時間からなるパラメータの群からの少なくとも3つのパラメータを含む、請求項1に記載の方法。
  9. テスト実行計画を生成した後で、前記複数のユーザ設定テストパラメータのうちの少なくとも1つを修正するユーザフィードバックを受け取るステップと、
    前記修正されたユーザ設定テストパラメータに基づいて新しいテスト実行計画を生成するステップと、
    をさらに含む請求項1に記載の方法。
  10. 前記自動的に生成されたテスト実行計画を含む、複数の異なるバージョンの自動的に生成されたテスト実行計画が存在するかどうか判断するステップと、
    前記異なるバージョンの前記自動的に生成されたテスト実行計画を解析し、ユーザ可読報告のユーザインターフェースのうちの少なくとも1つにおいて解析結果を提示するステップであって、前記解析結果が、前記異なるバージョンの前記自動的に生成されたテスト実行計画の比較を含む、ステップと、
    をさらに含む請求項1に記載の方法。
  11. テスト実行計画を自動的に生成するためのシステムであって、
    ソフトウェアテスト・システム内で評価されるテスト対象ソフトウェア・アプリケーションに対するテスト要求を定義する複数のユーザ設定テストパラメータであって、ソフトウェア・アプリケーションに対する少なくとも1つのテスト目標が、前記ユーザ設定可能テストパラメータにより定義される、複数のユーザ設定テストパラメータと、
    前記テスト対象ソフトウェア・アプリケーションに対するテスト実行計画を生成するための複数のテスト・メタデータを定義する事前定義テスト実行計画データモデルであって、前記テスト・メタデータが、テスト対象により共有されるテストセンタの有限共有リソースの詳細を指定し、前記生成されたテスト実行計画が、前記ソフトウェア・アプリケーションに対する前記少なくとも1つのテスト目標を満たすために前記ソフトウェア・アプリケーションのテストの少なくとも1つのフェーズ専用とされる前記有限共有リソースの特定の割振りを詳述する、事前定義テスト 実行計画データモデルと、
    前記複数のユーザ設定テストパラメータ及び前記事前定義テスト実行計画データモデルを利用して、前記テスト対象ソフトウェア・アプリケーションに対する前記テスト実行計画を自動的に生成するように構成されたテスト実行計画生成ツールであって、各々の生成されたテスト実行計画が、前記ソフトウェア・アプリケーションに対する前記少なくとも1つのテスト目標を満たすために前記ソフトウェア・アプリケーションのテストの少なくとも1つのフェーズ専用とされる前記有限共有リソースの特定の割振りを詳述する、テスト実行計画生成ツールと、
    を含むシステム。
  12. 前記テスト実行計画生成ツールが、
    データを受け取り、かつ提示するためのユーザ対話機構を提供するように構成されたユーザインターフェースと、
    前記テスト実行計画に対する少なくとも1つの実行割当てを合成するように構成されたデータ処理コンポーネントと、
    前記テスト実行計画生成ツールのユーザ設定可能システムデータに対するアクセスを与えるように構成された管理コンポーネントと、
    前記テスト実行計画、前記複数のユーザ設定テストパラメータ、及び前記テスト実行計画データモデルのうちの少なくとも1つについての少なくとも1つのユーザ選択された報告を生成するように構成された報告コンポーネントと、
    前記事前定義テスト実行計画データモデル及び各々の生成されたテスト実行計画を関連付けられたユーザ設定テストパラメータと共に格納するように構成された物理的格納媒体であるデータ格納部と、
    をさらに含む請求項11に記載のシステム。
  13. 前記データ処理コンポーネントが、格納されたテスト実行計画に対してデータ解析操作を実行するようにさらに構成された、請求項12に記載のシステム。
  14. 前記データ処理コンポーネントが、
    前記複数のユーザ設定テストパラメータを少なくとも1つの生成規則に変換するように構成された規則トランスレータをさらに含み、前記少なくとも1つの生成規則が、前記事前定義テスト実行計画データモデルに対して、前記テスト実行計画生成ツールによって実行されることが可能なユーザ設定テストパラメータの表現である、請求項12に記載のシステム。
  15. 少なくとも1つのユーザ設定テストパラメータに関連付けられた少なくとも1つのユーザ定義された値を有する、前記ユーザインターフェース内からアクセス可能な複数のカスタマイズ可能な生成規則テンプレートをさらに含み、カスタマイズ可能な生成規則テンプレートのユーザ選択により、前記少なくとも1つのユーザ設定テストパラメータを前記少なくとも1つのユーザ定義された値と共に自動的に取り込む、請求項14に記載のシステム。
  16. 前記報告コンポーネントが、
    前記テスト実行計画内で特定された各ソフトウェア・テスタに電子通知メッセージを伝達するように構成された通知ハンドラをさらに含み、前記電子通知メッセージが、ソフトウェア・テスタと関連付けられた前記少なくとも1つの実行割当てを収容する、請求項12に記載のシステム。
  17. 前記複数のユーザ設定テストパラメータが、前記テスト対象ソフトウェア・アプリケーション名、前記テスト対象ソフトウェア・アプリケーションのバージョン、テスト型式、テスト環境、ソフトウェア・テスタ名、名前なしソフトウェア・テスタのスキルの組、前記テスト対象ソフトウェア・アプリケーションのコンポーネント名、テストカバレッジ値、テスト開始日、及びテスト持続時間のうちの少なくとも4つを含む、請求項11に記載のシステム。
  18. 請求項1から請求項10のいずれか1つに記載の方法の各ステップをコンピュータに実行させる、コンピュータ・プログラム。
JP2012532523A 2009-10-08 2010-09-10 自動化されたテスト実行計画の生成 Expired - Fee Related JP5607743B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US12/575,602 US8423962B2 (en) 2009-10-08 2009-10-08 Automated test execution plan generation
US12/575,602 2009-10-08
PCT/EP2010/063308 WO2011042282A1 (en) 2009-10-08 2010-09-10 Automated test execution plan generation

Publications (2)

Publication Number Publication Date
JP2013507675A JP2013507675A (ja) 2013-03-04
JP5607743B2 true JP5607743B2 (ja) 2014-10-15

Family

ID=43037805

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012532523A Expired - Fee Related JP5607743B2 (ja) 2009-10-08 2010-09-10 自動化されたテスト実行計画の生成

Country Status (6)

Country Link
US (2) US8423962B2 (ja)
JP (1) JP5607743B2 (ja)
CN (1) CN102576432B (ja)
DE (1) DE112010003993T5 (ja)
GB (1) GB2486363A (ja)
WO (1) WO2011042282A1 (ja)

Families Citing this family (105)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7350194B1 (en) * 2001-09-24 2008-03-25 Oracle Corporation Techniques for debugging computer programs involving multiple computing machines
US9418040B2 (en) * 2005-07-07 2016-08-16 Sciencelogic, Inc. Dynamically deployable self configuring distributed network management system
US8732663B2 (en) * 2010-02-24 2014-05-20 Salesforce.Com, Inc. System, method and computer program product for providing automated testing by utilizing a preconfigured point of entry in a test or by converting a test to a predefined format
US8631384B2 (en) * 2010-05-26 2014-01-14 International Business Machines Corporation Creating a test progression plan
US9093840B2 (en) * 2010-07-02 2015-07-28 Alstom Technology Ltd. System tools for integrating individual load forecasts into a composite load forecast to present a comprehensive synchronized and harmonized load forecast
US9384198B2 (en) 2010-12-10 2016-07-05 Vertafore, Inc. Agency management system and content management system integration
FI20115104A0 (fi) * 2011-02-02 2011-02-02 Teknologian Tutkimuskeskus Vtt Oy Järjestelmä ja menetelmä malli-pohjaista testaamista varten
US20120246609A1 (en) 2011-03-24 2012-09-27 International Business Machines Corporation Automatic generation of user stories for software products via a product content space
US9448915B2 (en) * 2011-04-13 2016-09-20 Accenture Global Services Limited Modular script designer for next generation testing system
US9507699B2 (en) * 2011-06-16 2016-11-29 Microsoft Technology Licensing, Llc Streamlined testing experience
US10678666B1 (en) * 2011-09-07 2020-06-09 Innovative Defense Technologies, LLC Method and system for implementing automated test and retest procedures in a virtual test environment
US8826084B1 (en) * 2011-09-07 2014-09-02 Innovative Defense Technologies, LLC Method and system for implementing automated test and retest procedures
US9378120B2 (en) * 2011-11-09 2016-06-28 Tata Consultancy Services Limited Automated test execution plan derivation system and method
US9002813B2 (en) * 2011-12-22 2015-04-07 Sap Se Execution plan preparation in application server
US8887135B2 (en) * 2012-03-30 2014-11-11 NIIT Technologies Ltd Generating test cases for functional testing of a software application
US20130290075A1 (en) * 2012-04-30 2013-10-31 Infosys Limited Localization quality assurance of localized software
US9053442B2 (en) 2012-05-08 2015-06-09 International Business Machines Corporation Multiple project areas in a development environment
WO2013185092A1 (en) * 2012-06-07 2013-12-12 Massively Parallel Technologies, Inc. System and method for automatic test level generation
US20140007102A1 (en) * 2012-06-27 2014-01-02 Sap Ag Automated update of time based selection
US9734214B2 (en) * 2012-06-28 2017-08-15 Entit Software Llc Metadata-based test data generation
CN103514092A (zh) * 2012-06-29 2014-01-15 日立(中国)研究开发有限公司 Atm机软件系统自动测试方法
CN102819488B (zh) * 2012-06-29 2016-01-20 用友网络科技股份有限公司 测试处理装置和测试处理方法
WO2014021872A1 (en) * 2012-07-31 2014-02-06 Hewlett-Packard Development Company, L.P. Constructing test-centric model of application
CN103699478A (zh) * 2012-09-27 2014-04-02 中国银联股份有限公司 一种测试案例生成系统和方法
US8918762B2 (en) * 2012-11-02 2014-12-23 International Business Machines Corporation Generating test plans and test cases from service-oriented architecture and process models
US10521288B2 (en) 2012-11-07 2019-12-31 International Business Machines Corporation Collaborative application testing
US9304894B2 (en) 2012-12-03 2016-04-05 Ca, Inc. Code-free testing framework
US9396342B2 (en) 2013-01-15 2016-07-19 International Business Machines Corporation Role based authorization based on product content space
US9069647B2 (en) 2013-01-15 2015-06-30 International Business Machines Corporation Logging and profiling content space data and coverage metric self-reporting
US9081645B2 (en) 2013-01-15 2015-07-14 International Business Machines Corporation Software product licensing based on a content space
US9063809B2 (en) * 2013-01-15 2015-06-23 International Business Machines Corporation Content space environment representation
US9111040B2 (en) 2013-01-15 2015-08-18 International Business Machines Corporation Integration of a software content space with test planning and test case generation
US9659053B2 (en) 2013-01-15 2017-05-23 International Business Machines Corporation Graphical user interface streamlining implementing a content space
US9075544B2 (en) 2013-01-15 2015-07-07 International Business Machines Corporation Integration and user story generation and requirements management
US9087155B2 (en) 2013-01-15 2015-07-21 International Business Machines Corporation Automated data collection, computation and reporting of content space coverage metrics for software products
US9141379B2 (en) 2013-01-15 2015-09-22 International Business Machines Corporation Automated code coverage measurement and tracking per user story and requirement
US9218161B2 (en) 2013-01-15 2015-12-22 International Business Machines Corporation Embedding a software content space for run-time implementation
EP2951687A4 (en) * 2013-02-01 2016-08-03 Hewlett Packard Entpr Dev Lp TEST STRIP GENERATION BASED ON ABSTRACT USER TESTING
US9459994B2 (en) 2013-02-20 2016-10-04 Kony, Inc. Mobile application testing systems and methods
US8997052B2 (en) * 2013-06-19 2015-03-31 Successfactors, Inc. Risk-based test plan construction
CN103412818B (zh) * 2013-08-14 2016-06-29 迈普通信技术股份有限公司 自动化测试方法及系统
JP5893595B2 (ja) * 2013-09-10 2016-03-23 中国電力株式会社 スケジュール支援システム
US9785543B2 (en) * 2013-10-10 2017-10-10 Oracle International Corporation Dual tagging between test and pods
US20150106653A1 (en) * 2013-10-10 2015-04-16 International Business Machines Corporation Test selection based on domination criterion
US9507814B2 (en) 2013-12-10 2016-11-29 Vertafore, Inc. Bit level comparator systems and methods
US9367435B2 (en) * 2013-12-12 2016-06-14 Vertafore, Inc. Integration testing method and system for web services
US9292420B2 (en) * 2014-02-25 2016-03-22 International Business Machines Corporation Collaborative computer aided test plan generation
US9940310B1 (en) * 2014-03-04 2018-04-10 Snapwiz Inc. Automatically converting an electronic publication into an online course
CN103902455B (zh) * 2014-04-08 2016-08-03 中国矿业大学 含随机数软件测试数据生成问题的建模及进化求解方法
US10459830B2 (en) 2014-07-29 2019-10-29 Micro Focus Llc Executable code abnormality detection
US9606901B1 (en) * 2014-08-05 2017-03-28 Amdocs Software Systems Limited System, method, and computer program for generating a detailed design of at least one telecommunications based integration testing project
US9747556B2 (en) 2014-08-20 2017-08-29 Vertafore, Inc. Automated customized web portal template generation systems and methods
CN104484267B (zh) * 2014-11-20 2018-05-01 大唐移动通信设备有限公司 一种测试系统及方法
CN107003931B (zh) * 2014-12-09 2021-07-02 微福斯有限责任公司 将测试验证从测试执行分离
WO2016105354A1 (en) 2014-12-23 2016-06-30 Hewlett Packard Enterprise Development Lp Simulation of a synchronization of records
WO2016105352A1 (en) * 2014-12-23 2016-06-30 Hewlett Packard Enterprise Development Lp Automatically rerunning test executions
US10063452B1 (en) 2015-01-05 2018-08-28 Amazon Technologies, Inc. Routing loop for testing a communication link
US9449292B1 (en) * 2015-01-16 2016-09-20 Amdocs Software Systems Limited System, method, and computer program for automatic high level testing project planning
US10263869B1 (en) * 2015-03-16 2019-04-16 Amazon Technologies, Inc. Analysis and testing of network devices
CN105159827B (zh) * 2015-08-21 2017-09-19 北京航空航天大学 一种面向gui软件的可靠性加速测试方法
US9600400B1 (en) 2015-10-29 2017-03-21 Vertafore, Inc. Performance testing of web application components using image differentiation
US9823953B2 (en) 2016-04-04 2017-11-21 Bank Of America Corporation Interprogram communication messaging for program synchronization
US9684588B1 (en) 2016-04-04 2017-06-20 Bank Of America Corporation Interprogram communication messaging for application development event handling
US10360137B2 (en) 2016-06-28 2019-07-23 International Business Machines Corporation Adaptive testing using dynamically determined system resources of a computer system
US10223247B2 (en) 2016-07-05 2019-03-05 Red Hat, Inc. Generating pseudorandom test items for software testing of an application under test (AUT)
CN106991040B (zh) * 2016-07-20 2020-05-05 平安科技(深圳)有限公司 数据接口测试方法和装置
CN106095692B (zh) * 2016-08-12 2018-07-03 哈尔滨工业大学 嵌入式软件的单参数事件序列测试数据生成方法
CN106445814A (zh) * 2016-09-05 2017-02-22 北京新能源汽车股份有限公司 一种测试用例的检测方法及装置
US10715687B2 (en) 2017-05-29 2020-07-14 Ricoh Company, Ltd. Information processing system, information processing apparatus, and information processing method for testing a series of processes of one or more applications
US10613856B2 (en) * 2017-08-24 2020-04-07 International Business Machines Corporation Automatic machine-learning high value generator
CN108170557B (zh) * 2018-01-24 2022-11-25 百度在线网络技术(北京)有限公司 用于输出信息的方法和装置
US10545859B2 (en) 2018-02-05 2020-01-28 Webomates LLC Method and system for multi-channel testing
CN108363666A (zh) * 2018-02-13 2018-08-03 中链科技有限公司 一种软件功能测试时间确定方法、装置及终端
US11954461B2 (en) 2018-02-26 2024-04-09 Ukg Inc. Autonomously delivering software features
US10769056B2 (en) 2018-02-26 2020-09-08 The Ultimate Software Group, Inc. System for autonomously testing a computer system
EP3794311B1 (de) * 2018-05-17 2022-07-27 Carl Zeiss Industrielle Messtechnik GmbH Verfahren, vorrichtung sowie computerprogrammprodukt zum erzeugen eines prüfplans für die prüfung eines messobjekts, verfahren und vorrichtung zum prüfen eines messobjekts
US10977155B1 (en) 2018-05-31 2021-04-13 The Ultimate Software Group, Inc. System for providing autonomous discovery of field or navigation constraints
US11113175B1 (en) 2018-05-31 2021-09-07 The Ultimate Software Group, Inc. System for discovering semantic relationships in computer programs
US11010284B1 (en) 2018-05-31 2021-05-18 The Ultimate Software Group, Inc. System for understanding navigational semantics via hypothesis generation and contextual analysis
US10747651B1 (en) 2018-05-31 2020-08-18 The Ultimate Software Group, Inc. System for optimizing system resources and runtime during a testing procedure
US10599767B1 (en) 2018-05-31 2020-03-24 The Ultimate Software Group, Inc. System for providing intelligent part of speech processing of complex natural language
CN108763095A (zh) * 2018-06-05 2018-11-06 郑州云海信息技术有限公司 一种代码测试方法和装置
US10498630B1 (en) 2018-07-14 2019-12-03 Microsoft Technology Licensing, Llc Intelligent device selection for pilot testing
CN110737570A (zh) * 2018-07-20 2020-01-31 北京奇虎科技有限公司 自动化测试行为的训练方法和装置
US10691433B2 (en) 2018-08-31 2020-06-23 Databricks Inc. Split front end for flexible back end cluster processing
US11157491B2 (en) * 2018-10-18 2021-10-26 Sap Se Compilation framework for dynamic inlining
US11204755B2 (en) * 2018-11-13 2021-12-21 Split Software, Inc. Systems and methods for providing event attribution in software application
US10831640B2 (en) 2018-11-14 2020-11-10 Webomates LLC Method and system for testing an application using multiple test case execution channels
CN109614336A (zh) * 2018-12-14 2019-04-12 深圳壹账通智能科技有限公司 一种测试脚本的生成方法及设备
CN110134585A (zh) * 2019-04-12 2019-08-16 平安普惠企业管理有限公司 系统测试计划生成方法及终端设备
US11422926B2 (en) * 2019-04-16 2022-08-23 Red Hat, Inc. Managing test coverage for a software application
CN110309052A (zh) * 2019-05-22 2019-10-08 梁俊杰 一种数据校验方法以及相关设备
US11205041B2 (en) 2019-08-15 2021-12-21 Anil Kumar Web element rediscovery system and method
CN112860539B (zh) * 2019-11-28 2024-09-13 北京金山云网络技术有限公司 模型评估检测方法及装置
US11604713B2 (en) * 2020-02-12 2023-03-14 International Business Machines Corporation Automated hardware for input/output (I/O) test regression apparatus
CN113657694B (zh) * 2020-05-12 2023-10-13 富联精密电子(天津)有限公司 测试路径统筹方法、电子设备及存储介质
EP3910479A1 (en) * 2020-05-15 2021-11-17 Deutsche Telekom AG A method and a system for testing machine learning and deep learning models for robustness, and durability against adversarial bias and privacy attacks
CN111737136B (zh) * 2020-06-24 2024-09-24 海尔优家智能科技(北京)有限公司 基于物联网平台的对象测试方法装置
CN113065150B (zh) * 2021-05-06 2024-03-01 中国工商银行股份有限公司 一种加密算法模块的测试方法及装置
CN113515452B (zh) * 2021-06-18 2024-09-27 深圳奥哲网络科技有限公司 应用的自动测试方法、系统、电子设备及存储介质
CN113590472B (zh) * 2021-07-06 2023-03-14 四川大学 一种回归测试中测试用例优先级排序方法
CN113566812A (zh) * 2021-07-19 2021-10-29 中数通信息有限公司 一种移动终端外场测试管理系统平台
KR20240032346A (ko) * 2022-09-02 2024-03-12 쿠팡 주식회사 전자 장치 및 그의 애플리케이션 테스트 관리 방법
CN116168116B (zh) * 2023-04-19 2023-07-21 巴斯夫一体化基地(广东)有限公司 用于对测试执行计划进行可视化显示的方法及装置
CN117313856B (zh) * 2023-11-29 2024-03-05 浙江季丰电子科技有限公司 一种可靠性测试规划系统及方法

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6243835B1 (en) 1998-01-30 2001-06-05 Fujitsu Limited Test specification generation system and storage medium storing a test specification generation program
US6546506B1 (en) 1999-09-10 2003-04-08 International Business Machines Corporation Technique for automatically generating a software test plan
US7272752B2 (en) 2001-09-05 2007-09-18 International Business Machines Corporation Method and system for integrating test coverage measurements with model based test generation
US7644398B2 (en) 2001-12-19 2010-01-05 Reactive Systems, Inc. System and method for automatic test-case generation for software
US7124401B2 (en) * 2002-09-03 2006-10-17 Sap Aktiengesellschaft Testing versions of applications
TWI262383B (en) 2003-01-10 2006-09-21 Univ Nat Cheng Kung A generic software testing system and method
JP4154289B2 (ja) * 2003-06-20 2008-09-24 富士通株式会社 不具合検出方法
US7305654B2 (en) 2003-09-19 2007-12-04 Lsi Corporation Test schedule estimator for legacy builds
US7337432B2 (en) * 2004-02-03 2008-02-26 Sharp Laboratories Of America, Inc. System and method for generating automatic test plans for graphical user interface applications
US20050204201A1 (en) 2004-03-15 2005-09-15 Ramco Systems Limited Method and system for testing software development activity
US7386763B2 (en) 2004-07-07 2008-06-10 Agilent Technologies, Inc. Proactive systemic scheduler for resource limited test systems
US8078924B2 (en) 2005-09-16 2011-12-13 Lsi Corporation Method and system for generating a global test plan and identifying test requirements in a storage system environment
US7581138B2 (en) 2005-10-24 2009-08-25 International Business Machines Corporation Method, system and computer program for managing test processes based on customized UML diagrams
CN100547562C (zh) 2006-10-18 2009-10-07 国际商业机器公司 自动生成可再现运行时问题的单元测试用例的方法和系统
US7631227B2 (en) 2006-11-21 2009-12-08 Etaliq Inc. Automated testing and control of networked devices
CN101482815B (zh) 2008-01-10 2013-08-07 国际商业机器公司 生成软件系统的测试用例的方法和设备
US20090199160A1 (en) 2008-01-31 2009-08-06 Yahoo! Inc. Centralized system for analyzing software performance metrics

Also Published As

Publication number Publication date
GB2486363A (en) 2012-06-13
US20120151448A1 (en) 2012-06-14
CN102576432B (zh) 2014-12-10
WO2011042282A1 (en) 2011-04-14
US20110088014A1 (en) 2011-04-14
CN102576432A (zh) 2012-07-11
US8479164B2 (en) 2013-07-02
GB201203538D0 (en) 2012-04-11
JP2013507675A (ja) 2013-03-04
US8423962B2 (en) 2013-04-16
DE112010003993T5 (de) 2012-10-25

Similar Documents

Publication Publication Date Title
JP5607743B2 (ja) 自動化されたテスト実行計画の生成
CN102902621B (zh) 应用性能评价和报告
US10318412B1 (en) Systems, methods, and apparatus for dynamic software generation and testing
US10848379B2 (en) Configuration options for cloud environments
Rubin et al. Agile development with software process mining
US10127143B2 (en) Generating an evolving set of test cases
JP5754709B2 (ja) ビジネス・プロセス・マネージメント・モデルを最適化する方法
US11307957B2 (en) Systems and methods for determining optimal cost-to-serve for cloud applications in the public cloud
US20150046212A1 (en) Monitoring of business processes and services using concept probes and business process probes
US20170123777A1 (en) Deploying applications on application platforms
CN110674083B (zh) 工作流迁移方法、装置、设备及计算机可读存储介质
CN111190814B (zh) 软件测试用例的生成方法、装置、存储介质及终端
US10657023B1 (en) Techniques for collecting and reporting build metrics using a shared build mechanism
Strauch et al. Decision support for the migration of the application database layer to the cloud
US20160162816A1 (en) Human task monitoring and contextual analysis for domain-specific business processes
Oliveira Junior et al. SMartySPEM: a SPEM-based approach for variability management in software process lines
US8271407B2 (en) Method and monitoring system for the rule-based monitoring of a service-oriented architecture
US20180060452A1 (en) System and Method for Generating System Testing Data
Alonso et al. DECIDE: an extended devops framework for multi-cloud applications
Blüher et al. DevOps for manufacturing systems: Speeding up software development
Hryszko et al. Bottlenecks in software defect prediction implementation in industrial projects
CN110347607A (zh) 一种数据上链测试方法
CN109669829A (zh) 一种基于bmc的诊断调试方法、装置及服务器
CN115185825A (zh) 接口测试的调度方法及装置
US20120278125A1 (en) Method and system for assessing process management tools

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130604

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140225

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140507

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140805

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140828

R150 Certificate of patent or registration of utility model

Ref document number: 5607743

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees