JPH11224187A - Software quality evaluation system - Google Patents

Software quality evaluation system

Info

Publication number
JPH11224187A
JPH11224187A JP10025872A JP2587298A JPH11224187A JP H11224187 A JPH11224187 A JP H11224187A JP 10025872 A JP10025872 A JP 10025872A JP 2587298 A JP2587298 A JP 2587298A JP H11224187 A JPH11224187 A JP H11224187A
Authority
JP
Japan
Prior art keywords
quality
quality evaluation
test
software
evaluation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP10025872A
Other languages
Japanese (ja)
Other versions
JP3088697B2 (en
Inventor
Mikiko Suhara
幹子 壽原
Teruo Mineta
照雄 峯田
Masashi Tsuchiya
雅士 土屋
Shinya Kiso
晋也 木曽
Toshikazu Yamazaki
敏和 山崎
Shigeki Takano
茂樹 高野
Akira Iwai
亮 岩井
Masahiko Hiwatari
雅彦 樋渡
Hitoshi Suzuki
人司 鈴木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP10025872A priority Critical patent/JP3088697B2/en
Publication of JPH11224187A publication Critical patent/JPH11224187A/en
Application granted granted Critical
Publication of JP3088697B2 publication Critical patent/JP3088697B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Debugging And Monitoring (AREA)
  • Stored Programmes (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a software quality evaluation system by which the quality of a software is sufficiently evaluated and then a quality reinforcing counterplan based on the quality evaluation is quickly provided. SOLUTION: This software quality evaluation system is provided with a quality evaluating part 1 for evaluating the quality of the software based on a test density being the ratio of a test item number as against the scale of the software to be used in a computer and an error detecting rate being the ratio of the number of errors which occur at the time of executing the software, a counterplan generating part 2 for previously generating the plural counterplans corresponding to plural quality evaluating results of be expected and an output part 4 for outputting the quality evaluating results evaluated by the quality evaluating part 1 and the counterplans corresponding thereto.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は、テスト結果に基づ
いて、ソフトウェアの品質評価を行うソフトウェアの品
質評価システム、特にソフトウェアの品質評価を統一的
に行うことができると共に、品質評価結果に対応する対
策案を提供することができるソフトウェア品質評価シス
テム。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a software quality evaluation system for performing software quality evaluation based on a test result, and more particularly, to a uniform software quality evaluation and to respond to the quality evaluation result. Software quality evaluation system that can provide countermeasures.

【0002】[0002]

【従来の技術】現在社会においては、コンピュータとの
関わりを持たずに生活していくことは不可能であり、コ
ンピュータに用いるソフトウェアの品質の確保は重要な
課題となっている。
2. Description of the Related Art In today's society, it is impossible to live without being involved in computers, and ensuring the quality of software used in computers is an important issue.

【0003】ソフトウェアの品質を考慮した開発は、一
般的に、以下のように行われる。先ず、仕様に基づいた
設計が行われる。次に、この設計に基づいてソフトウェ
アの生成(コーディング)が行われる。続いて、生成さ
れたソフトウェアに対して、テストが行われる。この
際、上記仕様及びソフトウェアの規模等を考慮してテス
ト項目が複数設定される。そして、設定された複数のテ
スト項目に基づいてテストが行われる。このテストの結
果に基づいて、ソフトウェアの品質評価が行われる。そ
して、この品質評価の後、品質が良好である場合、ソフ
トウェアは出荷される。一方、品質が不良である場合、
評価結果に対する不良原因や品質強化対策等を考える必
要がある。この対策として、コーディング、仕様の見直
し等がある。
[0005] Development in consideration of software quality is generally performed as follows. First, a design based on the specifications is performed. Next, software generation (coding) is performed based on this design. Subsequently, a test is performed on the generated software. At this time, a plurality of test items are set in consideration of the specifications, the scale of the software, and the like. Then, a test is performed based on the set test items. Based on the result of this test, the software quality is evaluated. Then, after this quality evaluation, if the quality is good, the software is shipped. On the other hand, if the quality is poor,
It is necessary to consider the cause of the failure and the measures to enhance the quality of the evaluation result. As a countermeasure, coding, review of specifications, etc. are available.

【0004】しかし、従来においては、ソフトウェアの
品質評価のための定量的な判断基準もなく、ソフトウェ
アの品質評価を統一的に行える品質評価システムがなか
った。このため、統一的なソフトウェアの品質評価を行
うことができなかった。
However, conventionally, there is no quantitative evaluation standard for software quality evaluation, and there is no quality evaluation system that can perform software quality evaluation in a unified manner. For this reason, unified software quality evaluation could not be performed.

【0005】そこで、ソフトウェアの品質評価のための
定量的な判断基準を設定し、統一的なソフトウェアの品
質評価を行うことができる技術として以下のような技術
があった。即ち、特開平5−216651号公報及び特
開平5−282178号公報による技術である。
[0005] Therefore, there are the following techniques as techniques for setting quantitative judgment criteria for software quality evaluation and performing unified software quality evaluation. That is, the technique is disclosed in Japanese Patent Application Laid-Open Nos. 5-216651 and 5-282178.

【0006】特開平5−216651号公報による技術
では、以下のようにソフトウェアの品質評価を行ってい
た。即ち、ソフトウェアの規模に対するテスト項目数の
比である試験密度と、前記ソフトウェアの規模に対する
上記テスト項目数のテストをソフトウェアに実行させた
ときに発生した誤り数の比である誤り検出率と、をソフ
トウェアの品質評価の指標として定義する。通常、妥当
な誤り数やテスト項目数はソフトウェアの規模に応じて
変化するので、上述したように、試験密度及び誤り検出
率をソフトウェアの品質評価の指標とする。
In the technique disclosed in Japanese Patent Application Laid-Open No. Hei 5-216661, the quality of software is evaluated as follows. That is, the test density, which is the ratio of the number of test items to the scale of the software, and the error detection rate, which is the ratio of the number of errors generated when the software executes the test of the number of test items with respect to the scale of the software, Defined as an index for software quality evaluation. Normally, the appropriate number of errors and the number of test items change according to the scale of the software. Therefore, as described above, the test density and the error detection rate are used as indexes for evaluating the quality of the software.

【0007】そして、試験密度の区域を、所定の試験密
度の基準値に基づいて、3段階に分ける。同様に、誤り
検出率の区域も、所定の誤り検出率の基準値に基づい
て、3段階に分ける。そして、3段階に分けられた試験
密度の区域と、3段階に分けられた誤り検出率の区域
と、を組み合わせて、9つの区域が設定された品質評価
マトリックスを生成する。そして、この9つの区域に対
して、それぞれ、ソフトウェアの品質の良、不良を対応
させる。
The test density area is divided into three stages based on a predetermined test density reference value. Similarly, the area of the error detection rate is divided into three stages based on the reference value of the predetermined error detection rate. Then, a quality evaluation matrix in which nine areas are set is generated by combining the test density area divided into three steps and the error detection rate area divided into three steps. Good and bad software quality are assigned to these nine areas.

【0008】そして、評価対象のソフトウェアに対し
て、その試験密度及び誤り検出率から、上記品質評価マ
トリックスの9つの区域のうち、どの区域に対応するか
判定する。そして、判定された区域における評価(良、
不良)により上記評価対象のソフトウェアの品質評価を
行う。
Then, it is determined which of the nine areas of the quality evaluation matrix corresponds to the software to be evaluated from the test density and the error detection rate. Then, the evaluation (good,
(Bad), the quality of the software to be evaluated is evaluated.

【0009】特開平5−282178号公報による技術
では、以下のようにソフトウェアの品質評価を行ってい
た。即ち、テストによりソフトウェアの実行された度合
を示す試験網羅度と、ソフトウェアの規模に対する誤り
数の比である誤り検出率と、をソフトウェアの品質評価
の指標として定義する。なお、ソフトウェアの実行され
た度合とは、所定のテストをソフトウェアに実行させた
とき、予め実行されると予測された所定の機能数(又は
分岐命令数等)に対して、実際に実行された機能数(又
は分岐命令数等)の割合を示したものである。
In the technology disclosed in Japanese Patent Application Laid-Open No. 5-282178, software quality evaluation is performed as follows. That is, the test coverage indicating the degree of execution of the software by the test and the error detection rate, which is the ratio of the number of errors to the scale of the software, are defined as indices of software quality evaluation. The degree of execution of the software means that when a predetermined test is executed by the software, a predetermined number of functions (or the number of branch instructions, etc.) predicted to be executed in advance are actually executed. It shows the ratio of the number of functions (or the number of branch instructions, etc.).

【0010】そして、複数の試験網羅度に対して、それ
ぞれ、複数の誤り検出率の基準範囲を設定する。そし
て、評価対象のソフトウェアの試験網羅度及び誤り検出
率が算出された場合、算出された試験網羅度と対応する
誤り検出率の基準範囲内に、算出された誤り検出率が入
っている場合には、品質を良と評価し、入ってない場合
には、品質を不良と評価していた。
[0010] Then, a plurality of reference ranges of error detection rates are set for a plurality of test coverages. When the test coverage and the error detection rate of the software to be evaluated are calculated, and the calculated error detection rate falls within the reference range of the error detection rate corresponding to the calculated test coverage, Evaluated the quality as good, and if not included, evaluated the quality as poor.

【0011】[0011]

【発明が解決しようとする課題】しかしながら、上述の
従来技術においては、以下に示す問題点があった。即
ち、特開平5−216651号公報及び特開平5−28
2178号公報による技術では、ソフトウェアの品質評
価として、良、不良の2段階で評価しているのみであっ
た。しかし、不良と評価した場合でも品質の程度には差
があるが、従来技術では、これらの品質の程度の差を考
慮した評価を行うことができなかった。即ち、ソフトウ
ェアの品質評価が十分でなかった。
However, the above-mentioned prior art has the following problems. That is, Japanese Patent Application Laid-Open Nos. Hei 5-216651 and Hei 5-28
In the technique according to Japanese Patent No. 2178, software quality is evaluated only in two stages of good and bad. However, although there is a difference in the degree of quality even when the evaluation is made as a defect, the conventional technology cannot perform an evaluation in consideration of the difference in the degree of quality. That is, the quality evaluation of the software was not sufficient.

【0012】また、従来技術では、品質評価結果に対し
て品質向上のための対策案を作業者に提供することがで
きなかった。このため、作業者は、上述した不十分な品
質評価に基づいて、迅速に対策案を考えなければならな
かった。この結果、作業者の経験、技量等により、実際
に行われる対策が異なってしまうことがある。
Further, in the prior art, it was not possible to provide a worker with a measure for improving the quality with respect to the quality evaluation result. For this reason, the operator had to quickly consider a countermeasure based on the insufficient quality evaluation described above. As a result, the measures actually taken may differ depending on the experience, skill, and the like of the worker.

【0013】従って、従来技術では、ソフトウェアの品
質評価を十分に行い、この十分に行われた品質評価に基
づいた対策案を迅速に作業者に提供することができない
という問題点があった。
Therefore, the prior art has a problem in that it is not possible to sufficiently evaluate software quality and to promptly provide a worker with a measure based on the sufficiently performed quality evaluation.

【0014】本発明は以上のような問題点を解決するた
めになされたものであり、その目的は、ソフトウェアの
品質評価を十分に行い、その品質評価に基づいた品質強
化対策案を迅速に提供できるソフトウェア品質評価シス
テムを提供することにある。
SUMMARY OF THE INVENTION The present invention has been made to solve the above problems, and its purpose is to sufficiently evaluate the quality of software and quickly provide quality enhancement measures based on the quality evaluation. An object of the present invention is to provide a software quality evaluation system capable of performing the same.

【0015】[0015]

【課題を解決するための手段】以上のような目的を達成
するために、第1の発明に係るソフトウェア品質評価シ
ステムは、コンピュータに用いるソフトウェアの規模に
対するテスト項目数の比である試験密度と、前記ソフト
ウェアの規模に対する前記テスト項目数のテストを前記
ソフトウェアに実行させたときに発生した誤り数の比で
ある誤り検出率と、に基づいて、ソフトウェアの品質評
価を行う品質評価手段と、予想される複数の品質評価結
果に対応する複数の対策案を予め生成する対策案生成手
段と、前記品質評価手段により評価された品質評価結果
及びこれに対応する対策案を出力する出力手段と、を有
するものである。
To achieve the above object, a software quality evaluation system according to a first aspect of the present invention includes a test density, which is a ratio of the number of test items to a scale of software used in a computer; Quality evaluation means for evaluating software quality based on an error detection rate which is a ratio of the number of errors generated when the software executes the test of the number of test items with respect to the scale of the software, Measure generation means for generating in advance a plurality of measure plans corresponding to the plurality of quality evaluation results, and output means for outputting the quality evaluation result evaluated by the quality evaluation means and the corresponding measure plan. Things.

【0016】第2の発明に係るソフトウェア品質評価シ
ステムは、第1の発明において、前記品質評価手段は、
前記試験密度、前記誤り検出率及び前記試験密度に対す
る前記誤り検出率の比であるヒット率についてそれぞれ
の基準値が設定された場合、これらの基準値に基づい
て、複数の試験密度、複数の誤り検出率及び複数のヒッ
ト率と、複数のソフトウェアの品質状態と、がそれぞれ
対応づけられた品質評価マトリックスを生成する品質評
価マトリックス生成手段と、ソフトウェアの各品質状態
にそれぞれ対応する各品質評価を生成する品質評価生成
手段と、評価対象のソフトウェアの試験密度及び誤り検
出率からヒット率を算出する算出手段と前記評価対象の
ソフトウェアの試験密度、誤り検出率及びヒット率か
ら、前記品質評価マトリックスに従って、前記評価対象
のソフトウェアの品質状態を決定し、前記品質評価生成
手段により生成された各品質評価のうち、前記品質状態
に対応する品質評価を前記品質評価結果として決定する
品質決定手段と、を有するものである。
According to a second aspect of the present invention, in the software quality evaluation system according to the first aspect, the quality evaluation means includes:
When respective reference values are set for the test density, the error detection rate, and a hit ratio that is a ratio of the error detection rate to the test density, a plurality of test densities and a plurality of errors are set based on these reference values. A quality evaluation matrix generating means for generating a quality evaluation matrix in which a detection rate, a plurality of hit rates, and a plurality of software quality states are associated with each other, and each quality evaluation corresponding to each software quality state is generated. From the quality evaluation generating means, the calculating means for calculating the hit rate from the test density and the error detection rate of the software to be evaluated, and the test density, the error detection rate and the hit rate of the software to be evaluated, according to the quality evaluation matrix, Determine the quality state of the software to be evaluated, generated by the quality evaluation generation means Of quality evaluation, a quality determination means for determining a quality evaluation corresponding to the quality state as the quality evaluation result, and it has a.

【0017】第3の発明に係るソフトウェア品質評価シ
ステムは、第1又は2の発明において、前記対策案生成
手段は、前記複数の対策案として、前記品質評価生成手
段により生成された各品質評価にそれぞれ対応する各対
策案を生成し、前記出力手段は、前記品質評価結果とし
て、前記品質決定手段により決定された品質評価を出力
する品質評価出力手段と、前記品質評価結果と対応する
対策案として、前記対策案生成手段により生成された各
対策案のうち、前記品質決定手段により決定された品質
評価と対応する対策案を出力する対策案出力手段と、を
有するものである。
The software quality evaluation system according to a third invention is the software quality evaluation system according to the first or second invention, wherein the countermeasure plan generation means includes a plurality of countermeasure plans for each of the quality evaluations generated by the quality evaluation generation means. Each of the corresponding countermeasures is generated, and the output unit outputs a quality evaluation determined by the quality determining unit as the quality evaluation result, and a quality evaluation output unit that outputs the quality evaluation determined as the quality evaluation result. And a measure output means for outputting a measure corresponding to the quality evaluation determined by the quality determining means, among the measure plans generated by the measure plan generating means.

【0018】第4の発明に係るソフトウェア品質評価シ
ステムは、第2又は3の発明において、前記算出手段
は、前記テストにより評価対象のソフトウェアが実行さ
れた度合を示す試験網羅度が入力された場合、この試験
網羅度を評価対象のソフトウェアの試験密度に乗じて新
たな試験密度を算出すると共に、評価対象のソフトウェ
アの誤り検出率と前記新たな試験密度とから、ヒット率
を算出し、前記品質決定手段は、評価対象のソフトウェ
アの誤り検出率、前記新たな試験密度及び前記ヒット率
から、前記品質評価マトリックスに従って、前記評価対
象のソフトウェアの品質状態を決定し、前記品質評価生
成手段により生成された各品質評価のうち、前記品質状
態に対応する品質評価を決定するものである。
According to a fourth aspect of the present invention, in the software quality evaluation system according to the second or third aspect, the calculation unit is configured to input a test coverage indicating a degree of execution of the software to be evaluated by the test. Multiplying the test coverage by the test density of the software to be evaluated to calculate a new test density, and calculating the hit rate from the error detection rate of the software to be evaluated and the new test density, The determining means determines the quality state of the software to be evaluated from the error detection rate of the software to be evaluated, the new test density and the hit rate according to the quality evaluation matrix, and is generated by the quality evaluation generating means. Among the quality evaluations, a quality evaluation corresponding to the quality state is determined.

【0019】第5の発明に係るソフトウェア品質評価シ
ステムは、第2又は3の発明において、前記算出手段
は、評価対象のソフトウェアに対して施したテストの中
間段階までのテスト進行度に対する誤り数の関係から、
誤り数の成長予測曲線を算出し、この成長予測曲線に基
づいて予測されたテスト終了後の誤り数から予測誤り検
出率を算出すると共に、この予測誤り検出率とテスト終
了後の試験密度とからヒット率を算出し、前記品質決定
手段は、前記テスト終了後の試験密度、前記予測誤り検
出率及び前記ヒット率から、前記品質評価マトリックス
に従って、前記評価対象のソフトウェアの品質状態を決
定し、前記品質評価生成手段により生成された各品質評
価のうち、前記品質状態に対応する品質評価を決定する
ものである。
According to a fifth aspect of the present invention, in the software quality evaluation system according to the second or third aspect, the calculating means calculates the number of errors with respect to a test progress up to an intermediate stage of a test performed on software to be evaluated. From the relationship,
A growth prediction curve for the number of errors is calculated, and a prediction error detection rate is calculated from the number of errors after the test, which is predicted based on the growth prediction curve, and the prediction error detection rate and the test density after the test are completed. The hit rate is calculated, and the quality determining means determines a quality state of the software to be evaluated according to the quality evaluation matrix from the test density after the test, the prediction error detection rate, and the hit rate, The quality evaluation corresponding to the quality state is determined from the quality evaluations generated by the quality evaluation generation means.

【0020】第6の発明に係るソフトウェア品質評価シ
ステムは、第1の発明において、前記品質評価手段は、
前記品質評価手段により評価された品質評価を再度評価
する品質再評価手段を有するものである。
According to a sixth aspect of the present invention, in the software quality evaluation system according to the first aspect, the quality evaluation means includes:
There is provided a quality re-evaluation means for re-evaluating the quality evaluation evaluated by the quality evaluation means.

【0021】第7の発明に係るソフトウェア品質評価シ
ステムは、第6の発明において、前記品質再評価手段
は、前記テストによるソフトウェアの実行不足のため検
出されていないと予測できる残存誤り数を算出する方法
を品質評価結果毎に生成する残存誤り数算出方法生成手
段と、品質評価結果毎に追加試験方法を生成する追加試
験方法生成手段と、評価対象のソフトウェアに対して、
前記品質評価手段により評価された品質評価結果と対応
する残存誤り数算出方法及び追加試験方法を決定する再
評価情報決定手段と、この再評価情報決定手段により決
定された残存誤り数算出方法に従って、残存誤り数を算
出する残存誤り数算出手段と、前記残存誤り数算出手段
により算出された残存誤り数と、前記再評価情報決定手
段により決定された追加試験方法と、に基づいたテスト
を評価対象のソフトウェアに実行させた結果を考慮し
て、評価対象のソフトウェアの試験密度、誤り検出率を
再算出する再算出手段と、再算出された試験密度及び誤
り検出率に基づいて、評価対象のソフトウェアの品質を
再決定する品質再決定手段と、を有するものである。
According to a seventh aspect of the present invention, in the software quality evaluation system according to the sixth aspect, the quality re-evaluation means calculates the number of remaining errors that can be predicted not to be detected due to insufficient execution of software in the test. A residual error number calculation method generating means for generating a method for each quality evaluation result; an additional test method generating means for generating an additional test method for each quality evaluation result;
According to the re-evaluation information determination means for determining the remaining error number calculation method and the additional test method corresponding to the quality evaluation result evaluated by the quality evaluation means, and the remaining error number calculation method determined by the re-evaluation information determination means, A test based on the remaining error number calculating means for calculating the number of remaining errors, the remaining error number calculated by the remaining error number calculating means, and the additional test method determined by the re-evaluation information determining means, Recalculating means for recalculating the test density and error detection rate of the software to be evaluated in consideration of the results executed by the software of the software to be evaluated, and the software to be evaluated based on the recalculated test density and error detection rate. And a quality re-determining means for re-determining the quality.

【0022】第8の発明に係るソフトウェア品質評価シ
ステムは、第1又は6の発明において、前記対策案生成
手段は、前記複数の対策案として、複数の品質強化対策
案を生成するものである。
According to an eighth aspect of the present invention, in the software quality evaluation system according to the first or sixth aspect, the measure generation means generates a plurality of quality enhancement measures as the plurality of measures.

【0023】[0023]

【発明の実施の形態】以下、図面に基づいて本発明の好
適な実施の形態について説明する。
Preferred embodiments of the present invention will be described below with reference to the drawings.

【0024】実施の形態1. (1)ソフトウェア品質評価システムの構成 図1は、実施の形態1であるソフトウェア品質評価シス
テム(以下、品質評価システムという)の全体構成を示
す図である。
Embodiment 1 (1) Configuration of Software Quality Evaluation System FIG. 1 is a diagram illustrating an overall configuration of a software quality evaluation system (hereinafter, referred to as a quality evaluation system) according to the first embodiment.

【0025】(1−a)品質評価システムの全体構成 先ず、品質評価システムの全体構成を説明する。(1-a) Overall Configuration of Quality Evaluation System First, the overall configuration of the quality evaluation system will be described.

【0026】品質評価システムは、ソフトウェアの規模
に対するテスト項目数の比である試験密度と、ソフトウ
ェアの規模に対するテスト項目数のテストを実行させた
ときに発生した誤り数の比である誤り検出率と、に基づ
いてソフトウェアの品質評価を行う品質評価部1と、こ
の品質評価部1により評価されると予想される複数の品
質評価結果に対応する複数の対策案を予め生成する対策
案生成部2と、品質評価部1により評価された品質評価
結果や対策案生成部2により生成された対策案等を記憶
する記憶部3と、上記品質評価部1により評価された品
質評価結果及びこれに対応する対策案等を出力する出力
部4と、この出力部4により出力された各種データを紙
等に印刷して作業者に提供するプリンタ部5と、を有す
る。
The quality evaluation system includes a test density, which is a ratio of the number of test items to a software scale, and an error detection rate, which is a ratio of the number of errors generated when a test of the number of test items is performed to the software scale. , And a measure plan generator 2 that generates a plurality of measure plans corresponding to a plurality of quality evaluation results expected to be evaluated by the quality evaluate unit 1 in advance. And a storage unit 3 for storing the quality evaluation result evaluated by the quality evaluation unit 1 and the countermeasure plan generated by the countermeasure plan generation unit 2, and the quality evaluation result evaluated by the quality evaluation unit 1 and corresponding thereto And a printer unit 5 that prints various data output from the output unit 4 on paper or the like and provides the data to an operator.

【0027】また、品質評価システムは、作業者の入力
操作により、ソフトウェアの品質評価に必要なデータ等
を入力する入力部6(例えばキーボード等)と、入力部
6による入力操作に必要な案内や各部での各処理の結果
等を表示する表示部7と、各部(入力部6、表示部7、
品質評価部1、対策案生成部2、記憶部3、出力部4、
プリンタ部5)を制御する制御部8と、を有する。
The quality evaluation system includes an input unit 6 (for example, a keyboard or the like) for inputting data or the like necessary for quality evaluation of software by an input operation of an operator, and a guide or the like necessary for the input operation by the input unit 6. A display unit 7 for displaying a result of each process in each unit, and each unit (the input unit 6, the display unit 7,
Quality evaluation unit 1, countermeasure plan generation unit 2, storage unit 3, output unit 4,
And a control unit 8 for controlling the printer unit 5).

【0028】次に、品質評価システムの主要部について
詳細に説明する。
Next, the main part of the quality evaluation system will be described in detail.

【0029】(1−b)品質評価部1 品質評価部1は、上記試験密度と、上記誤り検出率と、
上記試験密度に対する上記誤り検出率の比であるヒット
率と、についてそれぞれの基準値が設定された場合、こ
れらの基準値に基づいて、複数の試験密度、複数の誤り
検出率及び複数のヒット率と、ソフトウェアにおける複
数の品質状態と、がそれぞれ対応づけられた品質評価マ
トリックスを生成する品質評価マトリックス生成部10
を有する。
(1-b) Quality Evaluation Unit 1 The quality evaluation unit 1 calculates the test density, the error detection rate,
When respective reference values are set for the hit rate, which is the ratio of the error detection rate to the test density, a plurality of test densities, a plurality of error detection rates, and a plurality of hit rates are set based on these reference values. And a plurality of quality states in the software, a quality evaluation matrix generation unit 10 for generating a quality evaluation matrix in which the respective quality states are associated with each other.
Having.

【0030】上記ヒット率はテスト規模に対する誤り数
を示したものであり、試験密度及び誤り検出率から求め
られる。なお、ヒット率は、(誤り検出率)/(試験密
度)により算出される。
The hit rate indicates the number of errors with respect to the test scale, and is obtained from the test density and the error detection rate. The hit ratio is calculated by (error detection ratio) / (test density).

【0031】品質評価部1は、各品質状態にそれぞれ対
応する各品質評価を生成する品質評価生成部11と、試
験密度及び誤り検出率からヒット率を算出する算出部1
2と、評価対象のソフトウェアの試験密度、誤り検出率
及びヒット率から上記品質評価マトリックスに従って、
評価対象のソフトウェアの品質状態を決定し、上記品質
評価生成部11により予め生成された各品質評価のうち
上記品質状態に対応する品質評価を品質評価結果として
決定する品質決定部13と、を有する。
A quality evaluation section 1 generates a quality evaluation corresponding to each quality state, and a calculation section 1 calculates a hit rate from a test density and an error detection rate.
2 and the test density, error detection rate, and hit rate of the software to be evaluated according to the above-described quality evaluation matrix,
A quality determining unit that determines a quality state of the software to be evaluated and determines a quality evaluation corresponding to the quality state among the quality evaluations generated in advance by the quality evaluation generation unit as a quality evaluation result. .

【0032】(1−c)対策案生成部2 対策案生成部2は、上記複数の対策案として、品質評価
生成部11により生成された各品質評価にそれぞれ対応
する各対策案を生成する。
(1-c) Countermeasure Plan Generation Unit 2 The countermeasure plan generation unit 2 generates each of the plurality of countermeasure plans corresponding to the respective quality evaluations generated by the quality evaluation generation unit 11 as the plurality of countermeasure plans.

【0033】(1−d)出力部4 出力部4は、品質評価結果として、品質決定部13によ
り決定された品質評価を出力する品質評価出力部14
と、品質評価結果と対応する対策案として、対策案生成
部2により生成された各対策案のうち、上記品質決定部
13により決定された品質評価と対応する対策案を出力
する対策案出力部15と、を有する。
(1-d) Output Unit 4 The output unit 4 outputs a quality evaluation determined by the quality determining unit 13 as a quality evaluation result.
A countermeasure output unit that outputs a countermeasure corresponding to the quality evaluation determined by the quality determination unit 13 among the countermeasures generated by the countermeasure plan generation unit 2 as a countermeasure plan corresponding to the quality evaluation result. And 15.

【0034】(2)品質評価システムの動作 上述のように構成された品質評価システムの動作につい
て以下に説明する。品質評価システムの動作には、(2
−1)品質評価マトリックスの生成動作、このマトリッ
クスで設定された各品質状態に対応する各品質評価の生
成動作、各品質評価に対応する各対策案の生成動作と、
(2−2)(2−1)で生成した各データを用いて、評
価対象のソフトウェアの品質評価を行い、その品質評価
結果に対応する対策案を出力する動作と、がある。先
ず、(2−1)の動作について説明する。
(2) Operation of Quality Evaluation System The operation of the quality evaluation system configured as described above will be described below. The operation of the quality evaluation system includes (2)
-1) an operation of generating a quality evaluation matrix, an operation of generating each quality evaluation corresponding to each quality state set in this matrix, an operation of generating each measure plan corresponding to each quality evaluation,
(2-2) There is an operation of performing quality evaluation of software to be evaluated using each data generated in (2-1), and outputting a countermeasure plan corresponding to the quality evaluation result. First, the operation (2-1) will be described.

【0035】(2−1)実施の形態1である品質評価シ
ステムによる品質評価マトリックスを生成する動作、各
品質評価を生成する動作及び各対策案を生成する動作に
ついて図2に示すフローチャート図を用いて説明する。
(2-1) An operation of generating a quality evaluation matrix, an operation of generating each quality evaluation, and an operation of generating each measure by the quality evaluation system according to the first embodiment will be described with reference to a flowchart shown in FIG. Will be explained.

【0036】ステップS102では、作業者は、入力部
6により、品質評価マトリックスの生成を指示する旨を
入力する。この結果、入力部6はその旨を制御部8へ送
る。制御部8は、作業者に対して試験密度及び誤り検出
率の基準値をそれぞれ入力するように指示する旨を表示
部7に表示させる。
In step S102, the operator inputs, through the input unit 6, a command to generate a quality evaluation matrix. As a result, the input unit 6 sends a message to that effect to the control unit 8. The control unit 8 causes the display unit 7 to display an instruction to instruct the operator to input the reference values of the test density and the error detection rate.

【0037】ステップS104では、作業者が、試験密
度の基準値及び誤り検出率の基準値を入力部6に入力す
る。なお、この試験密度の基準値及び誤り検出率の基準
値は、評価対象とするソフトウェアの規模、特性等から
決定される。そして、入力部6により入力された各基準
値を制御部8が受け取り、算出部12に送る。
In step S104, the operator inputs the reference value of the test density and the reference value of the error detection rate to the input unit 6. The reference value of the test density and the reference value of the error detection rate are determined based on the scale and characteristics of the software to be evaluated. Then, the control unit 8 receives each reference value input by the input unit 6 and sends it to the calculation unit 12.

【0038】ステップS106では、算出部12は、試
験密度の基準値及び誤り検出率の基準値から、ヒット率
の基準値を算出する。この際、ヒット率の基準値は、
(誤り検出率の基準値)/(試験密度の基準値)により
算出する。そして、算出部12はヒット率の基準値を算
出した旨を制御部8へ伝える。制御部8は算出部12に
対して、試験密度の基準値、誤り検出率の基準値及びヒ
ット率の基準値(以下、これらの基準値を各基準値とい
う)を品質評価マトリックス生成部10へ送るように指
示する。この結果、算出部12は、各基準値を品質評価
マトリックス生成部10へ送る。
In step S106, the calculation unit 12 calculates a reference value of the hit rate from the reference value of the test density and the reference value of the error detection rate. At this time, the reference value of the hit rate is
It is calculated by (reference value of error detection rate) / (reference value of test density). Then, the calculation unit 12 notifies the control unit 8 that the reference value of the hit ratio has been calculated. The control unit 8 sends the reference value of the test density, the reference value of the error detection rate, and the reference value of the hit rate (hereinafter, these reference values are referred to as respective reference values) to the quality evaluation matrix generation unit 10 for the calculation unit 12. Tell them to send. As a result, the calculation unit 12 sends each reference value to the quality evaluation matrix generation unit 10.

【0039】ステップS108では、品質評価マトリッ
クス生成部10が、算出部12から送られた各基準値に
基づいて、品質評価マトリックスを生成する。
In step S 108, the quality evaluation matrix generator 10 generates a quality evaluation matrix based on the reference values sent from the calculator 12.

【0040】(品質評価マトリックスの生成方法)以
下、このステップS108における品質評価マトリック
スの生成方法について図面(図3〜図7)を用いて詳細
に説明する。
(Method of Generating Quality Evaluation Matrix) The method of generating the quality evaluation matrix in step S108 will be described in detail with reference to the drawings (FIGS. 3 to 7).

【0041】算出部12から各基準値が送られると、品
質評価マトリックス生成部10は、誤り検出率の基準値
に基づいて、図3に示すように、誤り検出率の区域を、
基準域以下、基準域、基準域以上の3段階に分ける。同
様に、品質評価マトリックス生成部10は、試験密度の
基準値に基づいて、図4に示すように、試験密度の区域
を基準域以下、基準域、基準域以上の3段階に分ける。
この結果、品質評価マトリックス生成部10は、図5に
示すように、3段階に分けられた誤り検出率の区域と、
3段階に分けられた試験密度の区域と、を組み合せて、
9つの区域(図5における区域Aから区域I)が設定さ
れたマトリックスを生成する。そして、品質評価マトリ
ックス生成部10は、図6に示すように、ヒット率の基
準値に基づいて、基準域内と基準域外とに分ける。これ
により、図5における区域A、区域E、区域Iがさらに
2つに分けられる。この結果、図7に示すように、誤り
検出率の区域と試験密度の区域とヒット率の区域との組
合せにより12個の区域(これらの区域をそれぞれを各
品質状態という)が設定された品質評価マトリックスが
生成される。
When each reference value is sent from the calculation unit 12, the quality evaluation matrix generation unit 10 divides the area of the error detection rate based on the reference value of the error detection rate as shown in FIG.
It is divided into three stages: below the reference range, above the reference range, and above the reference range. Similarly, based on the test density reference value, the quality evaluation matrix generation unit 10 divides the test density area into three stages of a reference area, a reference area, a reference area, and a reference area, as shown in FIG.
As a result, as shown in FIG. 5, the quality evaluation matrix generation unit 10 generates an error detection rate area divided into three stages,
And the test density area divided into three stages,
A matrix in which nine areas (areas A to I in FIG. 5) are set is generated. Then, as shown in FIG. 6, the quality evaluation matrix generation unit 10 divides the data into the reference area and the outside of the reference area based on the reference value of the hit ratio. Thus, the area A, the area E, and the area I in FIG. 5 are further divided into two. As a result, as shown in FIG. 7, the quality in which 12 areas (each of these areas is referred to as each quality state) is set by a combination of the area of the error detection rate, the area of the test density, and the area of the hit rate. An evaluation matrix is generated.

【0042】なお、上述の例では、品質状態の数を12
に設定したが、品質状態の数は12に限定されず、他の
値にしてもよい。また、試験密度の区域、誤り検出率の
区域、ヒット率の区域も上述の段階数に限定されない。
In the above example, the number of quality states is 12
However, the number of quality states is not limited to 12, and may be another value. Also, the test density area, the error detection rate area, and the hit rate area are not limited to the above-described number of steps.

【0043】このようにして品質評価マトリックス生成
部10が、品質評価マトリックスを生成した後、品質評
価マトリックスを生成した旨を制御部8へ送る。制御部
8は、品質評価マトリックス生成部10に対して、生成
した品質評価マトリックスの各品質状態を品質評価生成
部11へ送るように指示する。
After the quality evaluation matrix generator 10 generates the quality evaluation matrix in this way, it sends to the controller 8 that the quality evaluation matrix has been generated. The control unit 8 instructs the quality evaluation matrix generation unit 10 to send each quality state of the generated quality evaluation matrix to the quality evaluation generation unit 11.

【0044】各品質状態が品質評価生成部へ送られる
と、ステップS110では、品質評価生成部11が、各
品質状態に対応する各品質評価を生成する。
When each quality state is sent to the quality evaluation generator, in step S110, the quality evaluation generator 11 generates each quality evaluation corresponding to each quality state.

【0045】品質評価生成部11が、各品質評価を生成
する様子を以下に詳細に説明する。即ち、各品質状態が
品質評価生成部11へ送られると、品質評価生成部11
が、先ず各品質状態に対応する各品質評価を示す情報
(各品質評価情報)を品質評価生成部11へ送るように
制御部8へ伝える。この結果、制御部8は作業者に対し
て各品質評価情報を入力するように指示する旨を表示部
7に表示させる。作業者が各品質評価情報を入力する
と、入力部6は各品質評価情報を制御部8へ送る。制御
部8から各品質評価情報が品質評価生成部11へ送られ
ると、品質評価生成部11は、各品質評価情報に基づい
て、各品質状態に対応する各品質評価を生成する。
The manner in which the quality evaluation generating section 11 generates each quality evaluation will be described in detail below. That is, when each quality state is sent to the quality evaluation generation unit 11, the quality evaluation generation unit 11
First, the control unit 8 is instructed to send information indicating each quality evaluation (each quality evaluation information) corresponding to each quality state to the quality evaluation generation unit 11. As a result, the control unit 8 causes the display unit 7 to display an instruction to the operator to input each piece of quality evaluation information. When the operator inputs each piece of quality evaluation information, the input unit 6 sends each piece of quality evaluation information to the control unit 8. When each piece of quality evaluation information is sent from the control unit 8 to the quality evaluation generation unit 11, the quality evaluation generation unit 11 generates each quality evaluation corresponding to each quality state based on each piece of quality evaluation information.

【0046】(各品質評価について)以下、ステップS
110において生成される各品質評価について詳細に説
明する。品質評価として、詳細な品質評価(詳細品質評
価)と、例えば5段階(品質の良い方から◎、○、△、
△△、×)に分けたときの品質レベル評価と、が生成さ
れる。この品質レベルの段階については、仕様等により
種々に設定され、最大12段階まで設定できる。また、
詳細品質評価では、テストによるソフトウェアの実行不
足のため検出されていないと予測できる残存誤り数の定
性的な予測についても評価する。なお、以下の詳細品質
評価は概念的に示したものであり、実際のソフトウェア
製品に合わせてさらに詳細な品質評価を生成することが
好ましい。
(For each quality evaluation)
Each quality evaluation generated in 110 will be described in detail. As the quality evaluation, a detailed quality evaluation (detailed quality evaluation) and, for example, five levels (from the higher quality, ◎, ○, △,
Δ △, ×) are generated. The levels of the quality level are variously set according to specifications and the like, and can be set up to a maximum of 12 levels. Also,
The detailed quality evaluation also evaluates a qualitative prediction of the number of remaining errors that can be predicted not to be detected due to insufficient execution of software by a test. The following detailed quality evaluation is conceptually shown, and it is preferable to generate a more detailed quality evaluation according to an actual software product.

【0047】(A)品質状態〈1〉に対する品質評価1 詳細品質評価を以下のようにする。即ち、誤り検出率は
基準域以下、ヒット率は基準域内であるが、試験密度が
基準域に達していないので、品質が確認できない。残存
誤り数が有るといえる。品質レベルとしては、△であ
る。
(A) Quality Evaluation 1 for Quality State <1> The detailed quality evaluation is as follows. That is, although the error detection rate is equal to or less than the reference area and the hit rate is within the reference area, the quality cannot be confirmed because the test density has not reached the reference area. It can be said that there is a residual error number. The quality level is △.

【0048】(B)品質状態〈2〉に対する品質評価2 詳細品質評価を以下のようにする。即ち、誤り検出率は
基準域以下であるが、ヒット率が基準域外であり、テス
ト規模及びソフトウェア規模に対して、誤り数が大きい
といえる。残存誤り数が有るといえる。品質レベルとし
ては、△△である。
(B) Quality Evaluation 2 for Quality State <2> The detailed quality evaluation is as follows. That is, although the error detection rate is equal to or less than the reference area, the hit rate is outside the reference area, and it can be said that the number of errors is large with respect to the test scale and the software scale. It can be said that there is a residual error number. The quality level is △△.

【0049】(C)品質状態〈3〉に対する品質評価3 詳細品質評価を以下のようにする。即ち、試験密度不足
にもかかわらず誤り検出率が基準域まで達しており、試
験密度を基準域にしたときは誤り検出率が大きくなると
予想できる。残存誤り数が多いといえる。品質レベルと
しては、△△である。
(C) Quality Evaluation 3 for Quality State <3> The detailed quality evaluation is as follows. That is, the error detection rate has reached the reference range despite the lack of test density, and it can be expected that the error detection rate will increase when the test density is set in the reference range. It can be said that the number of remaining errors is large. The quality level is △△.

【0050】(D)品質状態〈4〉に対する品質評価4 詳細品質評価を以下のようにする。即ち、試験密度不足
にもかかわらず誤り検出率が基準域以上であり、テスト
規模及びソフトウェア規模に対して、誤り数が非常に大
きいといえる。残存誤り数が非常に多いといえる。品質
レベルとしては×である。
(D) Quality Evaluation 4 for Quality State <4> The detailed quality evaluation is as follows. That is, although the test density is insufficient, the error detection rate is equal to or higher than the reference range, and it can be said that the number of errors is very large with respect to the test scale and the software scale. It can be said that the number of remaining errors is very large. The quality level is x.

【0051】(E)品質状態〈5〉に対する品質評価5 詳細品質評価を以下のようにする。即ち、試験密度及び
誤り検出率は共に、基準域であるものの、ヒット率が基
準域外であり、テスト規模及びソフトウェア規模に対し
て、誤り数が若干大きいといえる。また、残存誤り数が
有るといえる。品質レベルとしては、△である。
(E) Quality Evaluation 5 for Quality State <5> The detailed quality evaluation is as follows. That is, although both the test density and the error detection rate are in the reference range, the hit rate is outside the reference range, and it can be said that the number of errors is slightly larger than the test scale and the software scale. In addition, it can be said that there is a residual error number. The quality level is △.

【0052】(F)品質状態〈6〉に対する品質評価6 詳細品質評価を以下のようにする。即ち、試験密度は基
準域であるが、誤り検出率が基準域以上であるので、テ
スト規模及びソフトウェア規模に対して、誤り数が大き
いといえる。また、残存誤り数が多いといえる。品質レ
ベルとしては、△△である。
(F) Quality Evaluation 6 for Quality State <6> The detailed quality evaluation is as follows. That is, although the test density is in the reference range, the error detection rate is equal to or higher than the reference range, so that the number of errors is large with respect to the test scale and the software scale. It can also be said that the number of remaining errors is large. The quality level is △△.

【0053】(G)品質状態〈7〉に対する品質評価7 詳細品質評価を以下のようにする。即ち、試験密度は基
準域以上であるが、誤り検出率も基準域以上であるの
で、テスト規模及びソフトウェア規模に対して、誤り数
が若干大きいといえる。残存誤り数が若干有るといえ
る。品質レベルとしては、△である。
(G) Quality Evaluation 7 for Quality State <7> The detailed quality evaluation is as follows. That is, although the test density is equal to or higher than the reference area, the error detection rate is equal to or higher than the reference area. Therefore, it can be said that the number of errors is slightly larger than the test scale and the software scale. It can be said that there are some residual errors. The quality level is △.

【0054】(F)品質状態〈8〉に対する品質評価8 詳細品質評価を以下のようにする。即ち、試験密度は基
準域であり、誤り検出率は基準域以下であるので、品質
良に近い状態といえる。品質レベルとしては、○であ
る。
(F) Quality Evaluation 8 for Quality State <8> The detailed quality evaluation is as follows. That is, since the test density is in the reference range and the error detection rate is equal to or lower than the reference range, it can be said that the quality is close to good. The quality level is ○.

【0055】(G)品質状態〈9〉に対する品質評価9 詳細品質評価を以下のようにする。即ち、試験密度及び
誤り検出率は共に基準域であり、ヒット率は基準域内で
あるので、品質良に近い状態といえる。品質レベルとし
ては、○である。
(G) Quality Evaluation 9 for Quality State <9> The detailed quality evaluation is as follows. In other words, the test density and the error detection rate are both in the reference range, and the hit rate is within the reference range. The quality level is ○.

【0056】(G)品質状態〈10〉に対する品質評価
10 詳細品質評価を以下のようにする。即ち、試験密度は基
準域以上であることに加えて、誤り検出率は基準域以下
であるので、品質が良いといえる。品質レベルとして
は、◎である。
(G) Quality Evaluation 10 for Quality State <10> The detailed quality evaluation is as follows. That is, since the test density is not less than the reference range and the error detection rate is not more than the reference range, it can be said that the quality is good. The quality level is ◎.

【0057】(F)品質状態〈11〉に対する品質評価
11 詳細品質評価を以下のようにする。即ち、試験密度は基
準域以上であり、誤り検出率は基準域であり、品質良に
近い状態といえる。品質レベルとしては、○である。
(F) Quality Evaluation 11 for Quality State <11> The detailed quality evaluation is as follows. That is, the test density is equal to or higher than the reference range, and the error detection rate is in the reference range, which means that the quality is close to good. The quality level is ○.

【0058】(G)品質状態〈12〉に対する品質評価
12 詳細品質評価を以下のようにする。即ち、誤り検出率は
基準域以上であるが、試験密度は基準域以上であり、ヒ
ット率は基準域であるので、品質良に近い状態といえ
る。品質レベルとしては、○である。
(G) Quality Evaluation 12 for Quality State <12> The detailed quality evaluation is as follows. That is, although the error detection rate is equal to or higher than the reference area, the test density is equal to or higher than the reference area, and the hit rate is equal to or higher than the reference area. The quality level is ○.

【0059】各品質状態と各品質レベルとを対応させた
様子を図8に示す。
FIG. 8 shows how each quality state corresponds to each quality level.

【0060】そして、品質評価生成部11が各品質評価
(上述の品質評価1〜12)を生成した旨を制御部8へ
伝えると、制御部8は、品質評価生成部11に対して、
生成した各品質評価を対策案生成部2へ送るように指示
する。品質評価生成部11は、各品質評価を対策案生成
部2へ送る。
When the quality evaluation generation unit 11 informs the control unit 8 that each quality evaluation (the above-described quality evaluations 1 to 12) has been generated, the control unit 8
It instructs each generated quality evaluation to be sent to the measure plan generation unit 2. The quality evaluation generation unit 11 sends each quality evaluation to the measure plan generation unit 2.

【0061】ステップS112では、各品質評価が対策
案生成部2に送られると、対策案生成部2は、ソフトウ
ェアの各品質評価(上述の品質評価1〜12)に対応す
る各対策案を生成する。各品質評価に対応する各対策案
を生成する様子を以下に詳細に説明する。
In step S112, when each quality evaluation is sent to the measure plan generation unit 2, the measure plan generation unit 2 generates each measure plan corresponding to each quality evaluation of the software (the above-described quality evaluations 1 to 12). I do. The manner in which each measure proposal corresponding to each quality evaluation is generated will be described in detail below.

【0062】各品質評価が対策案生成部2に送られる
と、対策案生成部2は、対策案生成に必要な情報を対策
案生成部2に送る旨を示す指示を制御部8に伝える。制
御部8は、基本的な対策である基本対策情報を作業者に
入力させるように指示する旨を表示部7に表示させる。
この基本対策情報は、品質を強化するための品質強化対
策であり、例えば、誤りの原因の見直し、仕様の見直
し、テスト方法の見直し、レビューの実施等の対策案項
目である。これらの基本対策情報はソフトウェアの性質
にかかわらず、共通なものである。作業者が基本対策情
報を入力部6により入力すると、これらの基本対策情報
は、制御部8に保持される。
When each quality evaluation is sent to the countermeasure plan generator 2, the countermeasure generator 2 transmits to the control unit 8 an instruction indicating that information necessary for generating the countermeasure plan is sent to the countermeasure generator 2. The control unit 8 causes the display unit 7 to display a message to instruct the operator to input basic measure information, which is a basic measure.
This basic countermeasure information is a quality enhancement countermeasure for enhancing the quality, and includes, for example, countermeasure proposal items such as a review of a cause of an error, a review of a specification, a review of a test method, and a review. These basic countermeasure information is common regardless of the nature of the software. When the worker inputs basic countermeasure information through the input unit 6, the basic countermeasure information is held in the control unit 8.

【0063】そして、制御部8は、品質評価及び基本対
策情報を表示部7に表示させ、品質評価に対応する基本
対策情報を作業者に選択させるように指示する旨を表示
部7に表示させる。作業者が品質評価に対応する基本対
策情報を選択すると、制御部8は、基本対策情報に関し
て詳細に限定する情報である追加対策情報を入力するよ
うに指示する旨を表示部7に表示させる。この追加対策
情報は、ソフトウェアの性質、仕様の性質等により変化
する対策情報である。
Then, the control unit 8 displays the quality evaluation and the basic countermeasure information on the display unit 7, and displays on the display unit 7 an instruction to instruct the operator to select the basic countermeasure information corresponding to the quality evaluation. . When the operator selects the basic countermeasure information corresponding to the quality evaluation, the control unit 8 causes the display unit 7 to display an instruction to input additional countermeasure information which is information for limiting the basic countermeasure information in detail. This additional countermeasure information is countermeasure information that changes depending on the nature of software, the nature of specifications, and the like.

【0064】作業者が選択された基本対策情報に対応す
る追加対策情報を入力部6により入力すると、制御部8
は、品質評価に対応する基本対策情報、追加対策情報を
対策案生成部2へ送る。対策案生成部2は、品質評価に
対応する基本対策情報、追加対策情報をまとめることに
より、対策案を生成する。上述の対策案生成動作を全て
の品質評価(品質評価1〜12)について行う。
When the operator inputs additional countermeasure information corresponding to the selected basic countermeasure information through the input unit 6, the control unit 8
Sends the basic measure information and the additional measure information corresponding to the quality evaluation to the measure plan generating unit 2. The measure plan generation unit 2 generates a measure plan by compiling basic measure information and additional measure information corresponding to the quality evaluation. The above-described countermeasure plan generation operation is performed for all quality evaluations (quality evaluations 1 to 12).

【0065】具体的な例について以下に説明する。A specific example will be described below.

【0066】例えば、表示部7には、基本対策情報(誤
りの原因の見直し、仕様の見直し、レビューの実施等)
が表示される。そして、表示部7には、例えば、品質評
価3に対応する基本対策情報を選択するように指示する
旨が表示される。作業者が例えば、誤り原因の見直しを
選択する(複数の基本対策情報を選択してもよい)と、
制御部8は、誤り原因の見直しに関する追加対策情報を
入力するように指示する旨を表示部7に表示させる。作
業者は例えば、コーディングの見直し、テストデータの
見直し、テスト環境設定の見直しについて、これらの具
体的内容を入力部6により入力する。この結果、制御部
8は、品質評価3に対応する基本対策情報、追加対策情
報を対策案生成部2へ送る。対策案生成部2は、対策案
を以下のように生成する。即ち、対策案生成部2は、誤
り原因の見直しを基本的な内容とし、その具体的内容が
コーディングの見直し、テストデータの見直し、テスト
環境設定の見直しとなるように、対策案を生成する。品
質評価3の対策案は、例えば、「誤り原因の見直しをす
る必要がある。主に見直しをする点は、コーディングの
見直し、テストデータの見直し、テスト環境設定の見直
しであり、コーディングの見直しの具体的方法は、.、
テストデータの見直しの具体的方法は、...、テスト
環境設定の見直しの具体的方法は...。」のような形
でまとめられる。そして、他の品質評価に対応する対策
案も同様にして生成される。例えば、品質評価4の場合
には、「レビューの実施を行う必要がある。レビューの
実施において、検討項目は、...であり、これらの検
討項目に対する具体的な検討方法は、....であ
る。」のような対策案が生成される。
For example, the display unit 7 displays basic countermeasure information (review of cause of error, review of specifications, implementation of review, etc.)
Is displayed. Then, the display unit 7 displays, for example, an instruction to select the basic measure information corresponding to the quality evaluation 3. When the operator selects, for example, a review of the cause of the error (a plurality of basic countermeasure information may be selected),
The control unit 8 causes the display unit 7 to display an instruction to input additional countermeasure information regarding the review of the cause of the error. For example, the operator inputs the specific contents of the review of the coding, the review of the test data, and the review of the test environment setting through the input unit 6. As a result, the control unit 8 sends the basic measure information and the additional measure information corresponding to the quality evaluation 3 to the measure plan generating unit 2. The measure plan generator 2 generates a measure plan as follows. That is, the countermeasure generation unit 2 generates a countermeasure so that the review of the cause of the error is a basic content, and the specific content is a review of the coding, a review of the test data, and a review of the test environment setting. The measure proposed for quality evaluation 3 is, for example, "It is necessary to review the causes of errors. The main points of review are review of coding, review of test data, and review of test environment settings. The specific method is.
For the specific method of reviewing test data, see. . . What is the specific method of reviewing the test environment settings? . . . ]. Then, a countermeasure plan corresponding to another quality evaluation is similarly generated. For example, in the case of quality evaluation 4, "review needs to be performed. In conducting the review, the items to be examined are ..., and the specific examination method for these items is ... Is generated.

【0067】このようにして、対策案生成部2は、各品
質評価(上述の品質評価1〜12)にそれぞれ対応する
各対策案を生成する。そして、各対策案は、品質を強化
するための品質強化対策案となる。
In this way, the measure plan generator 2 generates each measure plan corresponding to each quality evaluation (the above-described quality evaluations 1 to 12). Then, each measure is a quality enhancement measure for enhancing quality.

【0068】そして、対策案生成部2が各対策案を生成
した旨を制御部8へ伝えると、制御部8は、表示部7に
対して、品質評価マトリックス、各品質評価、各対策案
の生成が終了した旨を表示させる。そして、制御部8は
品質評価マトリックスを示すマトリックスデータ、各品
質評価をまとめた品質評価データ、各対策案をまとめた
対策案データをそれぞれ識別するマトリックスデータ
名、品質評価データ名、対策案データ名を入力するよう
に作業者に対して指示する旨を表示部7に表示させる。
When the countermeasure plan generation unit 2 notifies the control unit 8 that each countermeasure plan has been generated, the control unit 8 displays on the display unit 7 a quality evaluation matrix, each quality evaluation, and each countermeasure plan. Display that generation has been completed. Then, the control unit 8 includes matrix data indicating a quality evaluation matrix, quality evaluation data summarizing each quality evaluation, a matrix data name for identifying each measure plan data summarizing each measure plan, a quality evaluation data name, and a measure plan data name. Is displayed on the display unit 7 to instruct the operator to input the.

【0069】そして、ステップS114で、作業者が入
力部6により、マトリックスデータ名、品質評価データ
名及び対策案データ名を入力する。
Then, in step S114, the operator inputs the matrix data name, the quality evaluation data name, and the countermeasure data name through the input unit 6.

【0070】この結果、これらのデータ名は制御部8へ
送られる。制御部8は、品質評価マトリックス生成部1
0、品質評価生成部11、対策案生成部2から、マトリ
ックスデータ、品質評価データ及び対策案データを取り
出す。
As a result, these data names are sent to the control unit 8. The control unit 8 controls the quality evaluation matrix generation unit 1
0, matrix data, quality evaluation data, and countermeasure data are extracted from the quality evaluation generator 11 and the countermeasure generator 2.

【0071】そして、ステップS116で、制御部8
は、マトリックスデータ、品質評価データ、対策案デー
タを、それぞれ、マトリックスデータ名、品質評価デー
タ名、対策案データ名と対応づけて記憶部3に記憶させ
る。この際、マトリックスデータ名、品質評価データ
名、対策案データ名は、相互に対応づけられている。そ
して、各品質状態、各品質評価、各対策案がそれぞれ対
応づけられる。
Then, in step S116, the control unit 8
Causes the storage unit 3 to store the matrix data, the quality evaluation data, and the measure plan data in association with the matrix data name, the quality evaluation data name, and the measure plan data name, respectively. At this time, the matrix data name, the quality evaluation data name, and the measure proposal data name are associated with each other. Then, each quality state, each quality evaluation, and each measure are associated with each other.

【0072】(2ー2)上述のようにして生成された品
質評価マトリックス、各品質評価及び各対策案を用い
て、評価対象のソフトウェアの品質評価を行い、その品
質評価結果及びその対策案を出力する動作について図
9、図10に示すフローチャート図を用いて説明する。
(2-2) The quality evaluation of the software to be evaluated is performed using the quality evaluation matrix, each quality evaluation, and each countermeasure plan generated as described above, and the quality evaluation result and the countermeasure plan are obtained. The output operation will be described with reference to the flowcharts shown in FIGS.

【0073】ステップS202では、作業者は、入力部
6により、テスト済みの評価対象のソフトウェアの品質
評価を行う旨を入力する。この結果、入力部6はその旨
を制御部8へ送り、制御部8は、作業者に対して試験密
度及び誤り検出率を入力するように指示する旨を表示部
7に表示させる。
In step S 202, the operator inputs, through the input unit 6, that the quality evaluation of the tested software to be evaluated is to be performed. As a result, the input unit 6 sends the fact to the control unit 8, and the control unit 8 causes the display unit 7 to display an instruction to instruct the operator to input the test density and the error detection rate.

【0074】ステップS204では、表示部7の表示に
従って、作業者は評価対象ソフトウェアの試験密度及び
誤り検出率を入力部6により入力する。また、これらの
試験密度及び誤り検出率と、算出されるヒット率と、か
らなる評価対象データを識別するための評価対象データ
名も入力する。入力部6により入力された試験密度及び
誤り検出率は、制御部8を介して、算出部12へ送られ
る。
In step S 204, the operator inputs the test density and the error detection rate of the evaluation target software through the input unit 6 according to the display on the display unit 7. Further, an evaluation target data name for identifying the evaluation target data including the test density and the error detection rate and the calculated hit rate is also input. The test density and the error detection rate input by the input unit 6 are sent to the calculation unit 12 via the control unit 8.

【0075】ステップS206では、算出部12が、試
験密度及び誤り検出率から、ヒット率を計算する。ヒッ
ト率を計算したら、算出部12はその旨を制御部8へ伝
える。
In step S206, the calculation unit 12 calculates a hit rate from the test density and the error detection rate. After calculating the hit ratio, the calculation unit 12 informs the control unit 8 of the calculation.

【0076】ステップS208では、制御部8は、表示
部7を制御して、ヒット率の計算が終了した旨を表示さ
せると共に、入力された試験密度及び誤り検出率と、算
出されたヒット率と、からなる評価対象データを評価対
象データ名と対応づけて記憶部3に記憶させる。
In step S208, the control unit 8 controls the display unit 7 to display that the calculation of the hit ratio has been completed, and to input the test density and the error detection ratio and the calculated hit ratio. Is stored in the storage unit 3 in association with the evaluation target data name.

【0077】ステップS210では、制御部8による指
示により、表示部7は、評価対象データの生成を続ける
か否かについての判定を作業者に対して要求する旨を表
示する。評価対象データの生成を続ける場合、作業者
は、その旨を入力部6に入力することにより、再度ステ
ップS204、S206、S208の動作が各部により
行われる。一方、評価対象データの生成を続けない場合
は、作業者は、その旨を入力部6に入力することによ
り、ステップS212の動作が行われる。
In step S210, in response to an instruction from the control unit 8, the display unit 7 displays a message requesting the operator to determine whether to continue generating the evaluation target data. When the generation of the evaluation target data is continued, the operator inputs the fact to the input unit 6, and the operations of steps S204, S206, and S208 are performed again by each unit. On the other hand, when the generation of the evaluation target data is not to be continued, the operator inputs the fact to the input unit 6 and the operation of step S212 is performed.

【0078】ステップS212では、制御部8は、作業
者に対して評価対象ソフトウェアの品質評価に対応する
マトリックスデータのデータ名を入力するように作業者
に対して指示する旨を表示部7に表示させる。
In step S212, the control unit 8 displays on the display unit 7 a command to instruct the worker to input the data name of the matrix data corresponding to the quality evaluation of the evaluation target software. Let it.

【0079】ステップS214で、作業者が入力部6に
より、マトリックスデータ名を入力する。この結果、制
御部8は、入力されたマトリックスデータ名に対応する
マトリックスデータを記憶部3から読み出して、品質決
定部13へ送る。また、同時に、制御部8は、マトリッ
クスデータ名と対応づけられた品質評価データ名の品質
評価データ(各品質評価1〜12)を記憶部3から読み
出して、品質決定部13へ送る。この際、制御部8はマ
トリックスデータ名を保持する。品質決定部13は、マ
トリックスデータを受け取った旨を制御部8へ送る。
In step S 214, the operator inputs a matrix data name using the input unit 6. As a result, the control unit 8 reads matrix data corresponding to the input matrix data name from the storage unit 3 and sends the matrix data to the quality determination unit 13. At the same time, the control unit 8 reads out the quality evaluation data (each of the quality evaluations 1 to 12) of the quality evaluation data name associated with the matrix data name from the storage unit 3 and sends it to the quality determination unit 13. At this time, the control unit 8 holds the matrix data name. The quality determining unit 13 sends the control unit 8 that the matrix data has been received.

【0080】ステップS216では、制御部8は記憶部
3に記憶された1つの評価対象データを読み出し、読み
出した評価対象データを品質決定部13へ送る。なお、
既に読み出した評価対象データに対しては、再度読み出
しは行わない。
In step S 216, the control unit 8 reads one piece of evaluation target data stored in the storage unit 3 and sends the read evaluation target data to the quality determination unit 13. In addition,
Reading is not performed again on the evaluation target data that has already been read.

【0081】ステップS218では、品質決定部13
は、評価対象データ(評価対象のソフトウェアの試験密
度、誤り検出率及びヒット率)から、品質評価マトリッ
クスに従って、品質状態(各品質状態〈1〉〜〈12〉
のうちいずれか)を決定する。そして、品質決定部13
は、品質評価データの各品質評価(各品質評価1〜1
2)のうち、上記決定された品質状態(各品質状態
〈1〉〜〈12〉のうちいずれか)に対応する品質評価
(各品質評価1〜12のうちいずれか)を決定する。品
質決定部13は評価対象データの品質評価を終了した旨
を制御部8へ伝える。
In step S 218, the quality determining section 13
Is the quality state (each quality state <1> to <12>) from the evaluation target data (test density, error detection rate, and hit rate of the evaluation target software) according to the quality evaluation matrix.
One of them). And the quality determining unit 13
Indicates each quality evaluation of the quality evaluation data (each quality evaluation 1 to 1)
In 2), the quality evaluation (any of the quality evaluations 1 to 12) corresponding to the determined quality state (any of the quality states <1> to <12>) is determined. The quality determination unit 13 notifies the control unit 8 that the quality evaluation of the evaluation target data has been completed.

【0082】ステップS220では、制御部8は、保持
しているマトリックスデータ名と対応する対策案データ
名の対策案データを記憶部3から読み出した後、読み出
した対策案データの各対策案のうち、品質決定部13に
より決定された品質評価(各品質評価1〜12のうちい
ずれか)と対応する対策案を決定する。
In step S220, the control unit 8 reads out the countermeasure data of the countermeasure data name corresponding to the held matrix data name from the storage unit 3, and then reads out the countermeasure data of the read countermeasure data. Then, a measure corresponding to the quality evaluation determined by the quality determining unit 13 (any one of the quality evaluations 1 to 12) is determined.

【0083】ステップS222では、制御部8が品質評
価出力部14を制御して品質決定部13により決定され
た品質評価(各品質評価1〜12のうちいずれか)を出
力させると共に、対策案出力部15を制御して上記品質
評価(各品質評価1〜12のうちいずれか)に対応する
対策案(各対策案のうちいずれか)を出力させる。制御
部8はこれらの出力結果を表示部7に表示させる。そし
て、制御部8は、上記品質評価及びその対策案をまとめ
た評価対策結果データを識別する評価対策結果データ名
を入力するように作業者に対して指示する旨を表示部8
に表示させる。
In step S222, the control section 8 controls the quality evaluation output section 14 to output the quality evaluation determined by the quality determination section 13 (any one of the quality evaluations 1 to 12) and to output the countermeasure plan. The unit 15 is controlled to output a measure (one of the measure plans) corresponding to the quality evaluation (one of the quality evaluations 1 to 12). The control unit 8 causes the display unit 7 to display these output results. Then, the control unit 8 instructs the operator to input an evaluation measure result data name for identifying the evaluation measure result data summarizing the quality evaluation and the measure plan.
To be displayed.

【0084】ステップS224では、作業者が入力部6
により、評価対策結果データ名を入力する。
In step S224, the operator inputs
Input the evaluation measure result data name.

【0085】ステップS226では、制御部8が、評価
対策結果データを評価対策結果データ名と対応づけて記
憶部3に記憶させる。
In step S226, the control unit 8 stores the evaluation measure result data in the storage unit 3 in association with the evaluation measure result data name.

【0086】ステップS228では、制御部8が、記憶
部3から読み出されていない評価対象データがあるか否
かを判定する。この際、読み出す評価対象データは、読
み出された品質評価マトリックスで評価可能な評価対象
データに限る。
In step S 228, control unit 8 determines whether there is any data to be evaluated that has not been read from storage unit 3. At this time, the evaluation target data to be read is limited to the evaluation target data that can be evaluated by the read quality evaluation matrix.

【0087】記憶部3から読み出されていない評価対象
データがある場合には、ステップS216以降の動作が
再度行われる。一方、全ての評価対象データが記憶部3
から読み出された場合には、ステップS230の動作が
行われる。
If there is data to be evaluated that has not been read from the storage unit 3, the operation after step S216 is performed again. On the other hand, all data to be evaluated are stored in the storage unit 3
, The operation of step S230 is performed.

【0088】ステップS230では、制御部8は、記憶
部3に記憶された全ての評価対策結果データを読み出
し、上記全ての評価対策結果データを印刷するようにプ
リンタ部5に指示する。
In step S230, the control unit 8 reads out all the evaluation countermeasure result data stored in the storage unit 3, and instructs the printer unit 5 to print all the evaluation countermeasure result data.

【0089】ステップS232では、プリンタ部5が上
記全ての評価対策結果データを印刷する。この際、プリ
ンタ部5は、評価対策結果データを各評価対策結果デー
タ毎に印刷することも可能である。また、図11に示す
ように上記全ての評価対策結果データを表形式にまとめ
て印刷することもできる。
In step S232, the printer section 5 prints all the evaluation measure result data. At this time, the printer unit 5 can print the evaluation measure result data for each evaluation measure result data. In addition, as shown in FIG. 11, all the evaluation measure result data can be printed in a table format.

【0090】従来技術では、ソフトウェアの品質を、良
又は不良の2段階でしか評価できなかったが、本実施の
形態では、例えば、12段階の品質評価を行うことがで
きる。そして、各品質評価に対して、品質レベルとして
例えば5段階(最大12段階)に分けることができる。
例えば、従来技術では、共に、不良と評価されていた品
質状態1であるソフトウェアa(品質レベル△)と品質
状態4であるソフトウェアb(品質レベル×)とでは、
品質レベルの差が2レベルあることがわかる。そして、
本実施の形態では、各品質評価に対応した各対策案が表
示部7及びプリンタ部5により出力される。
In the prior art, the quality of the software can be evaluated only in two stages of good or bad. In the present embodiment, for example, the quality can be evaluated in 12 stages. For each quality evaluation, the quality level can be divided into, for example, five levels (up to 12 levels).
For example, in the prior art, software a (quality level △) in quality state 1 and software b (quality level x) in quality state 4 both of which have been evaluated as defective are:
It can be seen that there are two quality level differences. And
In the present embodiment, each countermeasure plan corresponding to each quality evaluation is output by the display unit 7 and the printer unit 5.

【0091】本実施の形態においては、以下のようにし
て十分な品質評価を行うことができる。即ち、先ず、品
質評価マトリックス生成部10により、試験密度、誤り
検出率及びヒット率のそれぞれの基準値に基づいた品質
評価マトリックスが生成される。この品質評価マトリッ
クスにおいては、複数の試験密度の区域、複数の誤り検
出率の区域、複数のヒット率の区域の組合せに対して、
それぞれ、複数の品質状態(品質状態〈1〉〜〈1
2〉)が対応づけられている。
In the present embodiment, a sufficient quality evaluation can be performed as follows. That is, first, the quality evaluation matrix generation unit 10 generates a quality evaluation matrix based on the respective reference values of the test density, the error detection rate, and the hit rate. In this quality assessment matrix, for a combination of multiple test density zones, multiple error detection rate zones, multiple hit rate zones,
Each of them has a plurality of quality states (quality state <1> to <1
2>).

【0092】そして、品質評価生成部11により、各品
質状態(品質状態〈1〉〜〈12〉)と対応する各品質
評価(品質評価1〜12)を生成する。そして、品質決
定部13は、評価対象のソフトウェアの試験密度、誤り
検出率、ヒット率から、上記品質評価マトリックスの各
品質状態(品質状態〈1〉〜〈12〉)のうち、評価対
象のソフトウェアの品質状態がどの品質状態に対応する
か決定する。そして、品質決定部13は、決定された品
質状態(品質状態〈1〉〜〈12〉のうちいずれか)
が、品質評価生成部11で生成された各品質評価(品質
評価1〜12)のうち、どの品質評価に対応するか決定
する。
Then, the quality evaluation generating section 11 generates each quality evaluation (quality evaluations 1 to 12) corresponding to each quality state (quality states <1> to <12>). Then, the quality determination unit 13 determines, based on the test density, the error detection rate, and the hit rate of the software to be evaluated, the software to be evaluated among the quality states (quality states <1> to <12>) of the quality evaluation matrix. To determine which quality state the quality state corresponds to. Then, the quality determination unit 13 determines the determined quality state (any of the quality states <1> to <12>).
Determines which quality evaluation corresponds to each of the quality evaluations (quality evaluations 1 to 12) generated by the quality evaluation generation unit 11.

【0093】このため、試験密度、誤り検出率及びヒッ
ト率に基づいて、複数の品質状態を十分に多く設定し、
これに対応する複数の品質評価も十分に多く設定すれ
ば、ソフトウェアの品質の程度の差を詳細に考慮した十
分な品質評価を行うことができる。
For this reason, based on the test density, the error detection rate, and the hit rate, a plurality of quality states are set sufficiently large,
If a plurality of quality evaluations corresponding to this are set sufficiently large, it is possible to perform a sufficient quality evaluation taking into account the difference in the degree of software quality in detail.

【0094】また、本実施の形態では、上述のようにし
て十分な品質評価が行われた結果に対応する対策案を以
下のようにして生成、出力することができる。
Further, in this embodiment, a countermeasure plan corresponding to the result of the sufficient quality evaluation performed as described above can be generated and output as follows.

【0095】即ち、対策案生成部2は、各品質状態(品
質状態〈1〉〜〈12〉)に対応する各対策案を生成す
る。このため、品質決定部13により決定された品質評
価(品質評価1〜12のうちいずれか)に対応する対策
案は、対策案生成部2により予め生成されている。そし
て、品質評価出力部14により、決定された品質評価
(品質評価1〜12のうちいずれか)を出力することが
できると共に、対策案出力部15により、上記品質評価
結果(品質評価1〜12のうちいずれか)に対応する対
策案を出力することができる。この結果、十分な品質評
価に基づいた対策案を作業者に迅速に提供することがで
きるので、作業者の経験、技量等によらず、確実な対策
を迅速に行うことができる。
That is, the measure plan generator 2 generates each measure plan corresponding to each quality state (quality states <1> to <12>). For this reason, the measure plan corresponding to the quality evaluation (any of the quality evaluations 1 to 12) determined by the quality determination unit 13 is generated in advance by the measure plan generation unit 2. The determined quality evaluation (any of the quality evaluations 1 to 12) can be output by the quality evaluation output unit 14, and the quality evaluation results (the quality evaluations 1 to 12) can be output by the measure proposal output unit 15. Can be output. As a result, a measure plan based on a sufficient quality evaluation can be promptly provided to the worker, so that a reliable measure can be promptly performed regardless of the worker's experience and skill.

【0096】実施の形態2.実施の形態2である品質評
価システムでは、テスト結果である試験密度に対して、
試験網羅度(テストカバレージ)を考慮して新たな試験
密度を生成している。
Embodiment 2 In the quality evaluation system according to the second embodiment, with respect to the test density, which is the test result,
A new test density is generated in consideration of test coverage (test coverage).

【0097】一般的に、評価対象のソフトウェア内にお
いて、所定数のテスト項目に基づいたテストを施すと、
ソフトウェア内の所定数の機能(分岐命令等)が実行さ
れると予想できる。
Generally, when a test based on a predetermined number of test items is performed in software to be evaluated,
It can be expected that a predetermined number of functions (such as branch instructions) in the software will be executed.

【0098】しかし、テスト中において、ある機能を実
行したとき、エラーが発生し、実行できるはずであった
他の機能が実行できないままテストが終了してしまうこ
とがある。このため、所定数のテスト項目のテストを実
行しても、予想した所定数の機能が実行されていないと
き(試験網羅度が低いとき)は、試験密度から予想され
るテストが実際には行われないことになる。このような
場合には、試験密度を入力して品質評価を行っても正確
な品質評価を行っていないことになる。
However, when a certain function is executed during the test, an error may occur, and the test may end without being able to execute another function that could have been executed. For this reason, when the expected number of functions are not executed (when the test coverage is low) even if the test of the predetermined number of test items is executed, the test expected from the test density is actually executed. Will not be done. In such a case, even if the test density is input and quality evaluation is performed, accurate quality evaluation is not performed.

【0099】そこで、本実施の形態では、試験網羅度が
低いテストが行われる場合のことも考慮して、テスト結
果として、試験密度、誤り検出率と共に、試験網羅度も
取得し、この試験網羅度を試験密度に乗ずることで、真
の試験密度を算出する。
Therefore, in the present embodiment, in consideration of a case where a test having a low test coverage is performed, the test coverage as well as the test density and the error detection rate are obtained as test results. The true test density is calculated by multiplying the test density by the degree.

【0100】実施の形態2である品質評価システムにお
いて、実施の形態1である品質評価システムと異なる点
は以下に示す点である。
The quality evaluation system according to the second embodiment differs from the quality evaluation system according to the first embodiment in the following points.

【0101】即ち、算出部12は、試験網羅度が入力さ
れた場合、この試験網羅度を評価対象のソフトウェアの
試験密度に乗じて新たな試験密度を算出すると共に、評
価対象のソフトウェアの誤り検出率と上記新たな試験密
度とから、ヒット率を算出する。
That is, when the test coverage is input, the calculation unit 12 calculates a new test density by multiplying the test coverage by the test density of the software to be evaluated, and detects an error in the software to be evaluated. The hit ratio is calculated from the ratio and the new test density.

【0102】品質決定部13は、評価対象のソフトウェ
アの誤り検出率、上記新たな試験密度及び上記ヒット率
から、上記品質評価マトリックスに従って、評価対象の
ソフトウェアの品質状態を決定し、品質評価生成部11
により生成された各品質評価のうち、決定された品質状
態に対応する品質評価を決定する。
The quality determining unit 13 determines the quality state of the software to be evaluated according to the quality evaluation matrix from the error detection rate of the software to be evaluated, the new test density, and the hit rate. 11
Among the quality evaluations generated by the above, a quality evaluation corresponding to the determined quality state is determined.

【0103】本実施の形態である品質評価システムの動
作を以下に示す。
The operation of the quality evaluation system according to the present embodiment will be described below.

【0104】品質評価マトリックスの生成動作、各品質
評価の生成動作及び各対策案の生成動作については、実
施の形態1において(2−1)に示した動作と同様であ
る。
The operation of generating the quality evaluation matrix, the operation of generating each quality evaluation, and the operation of generating each measure are the same as those described in (2-1) in the first embodiment.

【0105】評価対象のソフトウェアの品質評価を試験
網羅度を考慮して行い、品質評価結果及びこれに対応す
る対策案を出力する動作について図12に示すフローチ
ャート図を用いて説明する。
The operation of performing the quality evaluation of the software to be evaluated in consideration of the test coverage and outputting the quality evaluation result and the corresponding measure plan will be described with reference to the flowchart shown in FIG.

【0106】ステップS302では、入力部6による入
力操作により、テスト済みの評価対象のソフトウェアの
品質評価を行う旨を制御部8へ送る。この際、入力部6
による入力操作により、試験網羅度を考慮する旨を入力
する。この結果、制御部8は、作業者に対して試験密
度、誤り検出率及び試験網羅度を入力するように指示す
る旨を表示部7に表示させる。
In step S302, the input operation of the input unit 6 sends to the control unit 8 a message indicating that the quality of the tested software to be evaluated is to be evaluated. At this time, the input unit 6
Is input by taking into account the test coverage. As a result, the control unit 8 causes the display unit 7 to display an instruction to instruct the operator to input the test density, the error detection rate, and the test coverage.

【0107】ステップS304では、表示部7の表示に
従って、作業者は評価対象ソフトウェアの試験密度、誤
り検出率及び試験網羅度を入力部6により入力する。ま
た、作業者は、これらの試験密度及び誤り検出率と、算
出されるヒット率と、からなる評価対象データを識別す
るための評価対象データ名も入力する。入力部6により
入力された試験密度、誤り検出率及び試験網羅度は、制
御部8を介して、算出部12へ送られる。
In step S 304, the operator inputs the test density, the error detection rate, and the test coverage of the evaluation target software through the input unit 6 according to the display on the display unit 7. Further, the operator also inputs an evaluation target data name for identifying the evaluation target data including the test density and the error detection rate and the calculated hit rate. The test density, the error detection rate, and the test coverage input by the input unit 6 are sent to the calculation unit 12 via the control unit 8.

【0108】ステップS306では、算出部12が試験
密度に対して試験網羅度を乗じて新たな試験密度を算出
する。そして、算出部12は、この新たな試験密度及び
誤り検出率から、ヒット率を計算する。ヒット率が計算
されると、算出部12はその旨を制御部8へ伝える。
In step S306, the calculation unit 12 calculates a new test density by multiplying the test density by the test coverage. Then, the calculation unit 12 calculates a hit rate from the new test density and the error detection rate. When the hit ratio is calculated, the calculation unit 12 notifies the control unit 8 of the calculation.

【0109】ステップS308では、制御部8は表示部
7に、ヒット率の計算が終了した旨を表示させると共
に、評価対象データを評価対象データ名と対応づけて記
憶部3に記憶させる。
In step S308, the control unit 8 displays on the display unit 7 that the calculation of the hit ratio has been completed, and stores the evaluation target data in the storage unit 3 in association with the evaluation target data name.

【0110】ステップS310では、制御部8による指
示により、表示部7は、評価対象データの生成を続ける
か否かについての判定を作業者に対して要求する旨を表
示する。評価対象データの生成を続ける場合、作業者
は、その旨を入力部6に入力することにより、再度ステ
ップS304、S306、S308の動作が各部により
行われる。一方、評価対象データの生成を続けない場合
は、作業者は、その旨を入力部6に入力することによ
り、ステップS212の動作が行われる。
In step S310, in response to an instruction from the control unit 8, the display unit 7 displays a message requesting the operator to determine whether to continue generating the evaluation target data. When the generation of the evaluation target data is continued, the operator inputs the fact to the input unit 6, and the operations of steps S304, S306, and S308 are performed again by each unit. On the other hand, when the generation of the evaluation target data is not to be continued, the operator inputs the fact to the input unit 6 and the operation of step S212 is performed.

【0111】そして、以下の工程については、図9、図
10に示したステップS212からステップS232ま
での工程と同一である。
The following steps are the same as the steps S212 to S232 shown in FIGS.

【0112】本実施の形態においては、例えば、試験網
羅度が85%のソフトウェアを評価する場合には、試験
密度に0.85を乗じた値を新たな試験密度とする。こ
の結果、試験の実施度合いを均一化することができるの
で、実施の形態1で示した品質評価マトリックスによる
品質評価を行うことができる。例えば、図13に示すよ
うに、試験網羅度を考慮しない場合には、X、Y、Zの
位置から、ソフトウェアの品質を判定することになる
が、試験網羅度を考慮することにより、矢印で示すよう
な位置からソフトウェアの品質を判定することになる。
In this embodiment, for example, when evaluating software having a test coverage of 85%, a value obtained by multiplying the test density by 0.85 is set as a new test density. As a result, the degree of test execution can be made uniform, so that quality evaluation can be performed using the quality evaluation matrix described in the first embodiment. For example, as shown in FIG. 13, when the test coverage is not considered, the software quality is determined from the positions of X, Y, and Z. The software quality is determined from the position as shown.

【0113】なお、本実施の形態において、実施の形態
1と同様に試験網羅度を考慮しない試験密度から、ヒッ
ト率を算出することも可能である。この場合には、ステ
ップS302において、実施の形態1のステップS20
2と同様の入力操作を行えばよい。
In the present embodiment, the hit ratio can be calculated from the test density without considering the test coverage as in the first embodiment. In this case, in step S302, in step S20 of the first embodiment,
The same input operation as in step 2 may be performed.

【0114】本実施の形態においては、算出部12は、
テスト結果である試験密度、試験網羅度から、新たな試
験密度を算出し、この新たな試験密度及びテスト結果で
ある誤り検出率からヒット率を算出する。そして、品質
決定部13は、これらの新たな試験密度、誤り検出率及
びヒット率から、品質状態(品質状態〈1〉〜〈12〉
のうちいずれか)を決定して、これに対応する品質評価
(品質評価1〜12のうちいずれか)を決定する。この
ため、所定数のテスト項目のテストを実行して、予想し
た所定数の機能が実行されていない場合でも、試験密度
に試験網羅度を乗じることで、実際に実行した機能数に
対応した試験密度を算出できる。この結果、試験網羅度
の低いソフトウェアの品質評価を正確に行うことができ
る。
In the present embodiment, the calculating unit 12
A new test density is calculated from the test density and the test coverage as test results, and a hit rate is calculated from the new test density and the error detection rate as the test result. Then, the quality determination unit 13 determines a quality state (quality states <1> to <12>) from these new test densities, error detection rates, and hit rates.
Is determined, and the corresponding quality evaluation (any of the quality evaluations 1 to 12) is determined. Therefore, even if the expected number of functions are not executed by executing the test of the predetermined number of test items, the test density is multiplied by the test coverage to obtain a test corresponding to the number of functions actually executed. Density can be calculated. As a result, it is possible to accurately evaluate the quality of software having low test coverage.

【0115】実施の形態3.実施の形態3である品質評
価システムでは、評価対象のソフトウェアに対して、所
定数のテスト項目のテストを行わないで、テスト途中ま
での誤り数から、所定数のテスト項目のテストが終了し
たときの誤り数を予測し、この予測誤り数から算出され
た予測誤り検出率を所定数のテスト項目のテストが終了
したときの誤り検出率としている。
Embodiment 3 In the quality evaluation system according to the third embodiment, when a test of a predetermined number of test items is not performed on software to be evaluated and a test of a predetermined number of test items is completed based on the number of errors up to the middle of the test. Is predicted, and the prediction error detection rate calculated from the prediction error number is set as the error detection rate when the test of a predetermined number of test items is completed.

【0116】実施の形態3である品質評価システムが実
施の形態1である品質評価システムと異なる点は以下に
示す点である。
The quality evaluation system according to the third embodiment differs from the quality evaluation system according to the first embodiment in the following points.

【0117】即ち、算出部12は、評価対象のソフトウ
ェアに対して施したテストの中間段階までのテスト進行
度に対する誤り数の関係から、誤り数の成長予測曲線を
算出し、この成長予測曲線に基づいて予測されたテスト
終了後の誤り数から予測誤り検出率を算出すると共に、
この予測誤り検出率とテスト終了後の試験密度とからヒ
ット率を算出する。
That is, the calculation unit 12 calculates a growth prediction curve of the number of errors from the relationship between the number of errors and the test progress up to the intermediate stage of the test performed on the software to be evaluated. The prediction error detection rate is calculated from the number of errors after the end of the test predicted based on the
The hit rate is calculated from the prediction error detection rate and the test density after the end of the test.

【0118】なお、算出部12には、複数の成長予測曲
線式が記憶されている。そして、算出部12は、テスト
中間段階までのテスト進行度に対する誤り数の関係か
ら、上記複数の成長予測曲線式のうち、適切な成長予測
曲線式を決定する。
The calculation unit 12 stores a plurality of growth prediction curve expressions. Then, the calculation unit 12 determines an appropriate growth prediction curve expression among the plurality of growth prediction curve expressions from the relationship between the number of errors and the test progress up to the test intermediate stage.

【0119】品質決定部13は、評価対象のソフトウェ
アのテスト終了後の試験密度、上記予測誤り検出率及び
上記ヒット率から、前記品質評価マトリックスに従っ
て、評価対象のソフトウェアの品質状態を決定し、品質
評価生成部11により生成された各品質評価のうち、決
定された品質状態に対応する品質評価を決定する。
The quality determination unit 13 determines the quality state of the software to be evaluated according to the quality evaluation matrix from the test density of the software to be evaluated after the test, the prediction error detection rate and the hit rate, and Among the quality evaluations generated by the evaluation generation unit 11, a quality evaluation corresponding to the determined quality state is determined.

【0120】本実施の形態である品質評価システムの動
作を以下に示す。
The operation of the quality evaluation system according to the present embodiment will be described below.

【0121】品質評価マトリックスの生成動作、各品質
評価の生成動作及び各対策案の生成動作については、実
施の形態1の(2−1)に示した動作と同様である。
The operation of generating the quality evaluation matrix, the operation of generating each quality evaluation, and the operation of generating each measure are the same as those described in (2-1) of the first embodiment.

【0122】評価対象のソフトウェアの品質評価を成長
予測曲線を考慮して行い、品質評価結果及びこれに対応
する対策案を出力する動作について図14に示すフロー
チャート図を用いて説明する。
The operation of performing the quality evaluation of the evaluation target software in consideration of the growth prediction curve and outputting the quality evaluation result and the corresponding measure plan will be described with reference to the flowchart shown in FIG.

【0123】ステップS402では、作業者は、入力部
6により、評価対象のソフトウェアの品質評価を行う旨
を入力する。この際、入力部6により、成長予測曲線を
考慮する旨を入力する。この結果、制御部8は、作業者
に対して試験密度、中間段階までのテスト進行度に対す
る誤り数等を入力するように指示する旨を表示部7に表
示させる。
In step S402, the operator inputs, through the input unit 6, an instruction to evaluate the quality of the software to be evaluated. At this time, the input unit 6 inputs that the growth prediction curve is to be considered. As a result, the control unit 8 displays on the display unit 7 a command to instruct the operator to input the test density, the number of errors for the test progress up to the intermediate stage, and the like.

【0124】ステップS404では、表示部7の表示に
従って、作業者は評価対象ソフトウェアの試験密度、中
間段階におけるテスト進行度に対する誤り数を入力部6
により入力する。この際、ソフトウェアの試験密度と
は、予定されているテスト項目数に対応する試験密度で
ある。また、中間段階におけるテスト進行度に対する誤
り数とは、予定されているテスト項目数の途中で計測し
た複数の誤り数(累積誤り数)である。このため、作業
者は、これらの誤り数と共に、これらの誤り数と対応す
るテスト項目数も入力する。
In step S404, the operator inputs the test density of the software to be evaluated and the number of errors with respect to the test progress in the intermediate stage according to the display on the display unit 7.
Enter by. At this time, the software test density is a test density corresponding to the planned number of test items. The number of errors with respect to the test progress in the intermediate stage is a plurality of errors (accumulated errors) measured in the middle of the planned number of test items. Therefore, the operator inputs the number of errors and the number of test items corresponding to the number of errors.

【0125】また、各テスト項目数を実行するのに要し
た時間も、各テスト項目数と対応づけて入力する。そし
て、これらの試験密度及び誤り検出率と、算出されるヒ
ット率からなる評価対象データを識別するための評価対
象データ名も入力する。入力部6により入力された試験
密度、中間段階における各誤り数及びこれに対応するテ
スト項目数、テスト項目数に対応する時間、(以下、こ
の中間段階における各誤り数及びこれに対応するテスト
項目数、各テスト項目数に対応する時間を、中間段階に
おける誤り数データという)は、制御部8を介して、算
出部12へ送られる。
The time required to execute each test item number is also input in association with each test item number. Then, an evaluation target data name for identifying the evaluation target data including the test density and the error detection rate and the calculated hit rate is also input. The test density input by the input unit 6, the number of errors in the intermediate stage and the number of test items corresponding thereto, the time corresponding to the number of test items, (hereinafter, the number of errors in the intermediate stage and the test item corresponding thereto) The number and the time corresponding to each test item number are referred to as error number data in the intermediate stage) are sent to the calculation unit 12 via the control unit 8.

【0126】ステップS406では、算出部12は、テ
スト中間段階における誤り数データから、誤り数の成長
予測曲線を算出する。
In step S406, the calculation unit 12 calculates a growth prediction curve of the number of errors from the data of the number of errors in the intermediate stage of the test.

【0127】この成長予測曲線の算出方法について以下
に詳細に説明する。算出部12は、予定テスト項目数の
テストの途中までの各テスト項目数に対応する誤り数に
ついて、時間と関係づけてプロットしていく。プロット
が終了したら、算出部12は、これらのプロットが複数
の成長予測曲線式のうち、どの成長予測曲線式とフィッ
トするか調べる。なお、成長予測曲線式としては、例え
ば、数式1に示すような指数NHPPモデルによる成長
予測曲線式がある。
The method of calculating the growth prediction curve will be described in detail below. The calculation unit 12 plots the number of errors corresponding to each test item number up to the middle of the test of the planned number of test items in relation to time. When the plots are completed, the calculation unit 12 checks which of the plurality of growth prediction curve equations fits these plots. As the growth prediction curve formula, for example, there is a growth prediction curve formula based on an exponential NHPP model as shown in Expression 1.

【0128】[0128]

【数1】 F(t)=a*(1−exp(−b*t)) 但し、F(t)は誤り数、tは時間、a,bは係数 算出部12は、複数の成長予測曲線式についてそれぞれ
係数を変化させることにより、上記プロットした誤り数
と時間との関係に最もフィットする成長予測曲線式及び
その係数を決定する。これにより、テストの中間段階ま
でのテスト進行度に対する誤り数の関係から、成長予測
曲線を算出することができる。
F (t) = a * (1−exp (−b * t)) where F (t) is the number of errors, t is time, and a and b are coefficients. By changing the coefficients for the curve equations, a growth prediction curve equation and the coefficient that best fit the relationship between the number of errors plotted and time are determined. Thus, a growth prediction curve can be calculated from the relationship between the number of errors and the test progress up to the intermediate stage of the test.

【0129】ステップS408では、算出部12が、算
出した成長予測曲線に基づいて、テスト終了後の誤り数
を算出し、この誤り数から予測誤り検出率を算出する。
この際、算出部12では、テスト中間段階までのテスト
項目数に対する時間の関係から、予定テスト項目数の実
行に要する時間が決定され、この時間に対応する誤り数
が上記成長予測曲線に基づいて決定される。また、算出
部12は、この予測誤り検出率及び試験密度からヒット
率を算出する。ヒット率が計算されると、算出部12は
その旨を制御部8へ伝える。
In step S408, the calculation unit 12 calculates the number of errors after the test based on the calculated growth prediction curve, and calculates the prediction error detection rate from the number of errors.
At this time, the calculation unit 12 determines the time required to execute the planned number of test items from the relationship of the number of test items up to the test intermediate stage, and determines the number of errors corresponding to this time based on the growth prediction curve. It is determined. The calculating unit 12 calculates a hit rate from the prediction error detection rate and the test density. When the hit ratio is calculated, the calculation unit 12 notifies the control unit 8 of the calculation.

【0130】ステップS410では、制御部8は表示部
7を制御して、ヒット率の計算が終了した旨を表示させ
ると共に、評価対象データを評価対象データ名と対応づ
けて記憶部3に記憶させる。
In step S410, the control unit 8 controls the display unit 7 to display that the calculation of the hit ratio is completed, and stores the evaluation target data in the storage unit 3 in association with the evaluation target data name. .

【0131】ステップS412では、制御部8による指
示により、表示部7は、評価対象データの生成を続ける
か否かについての判定を作業者に対して要求する旨を表
示する。評価対象データの生成を続ける場合、作業者
は、その旨を入力部6に入力することにより、再度ステ
ップS404、S406、S408、S410の動作が
各部により行われる。一方、評価対象データの生成を続
けない場合は、作業者は、その旨を入力部6に入力する
ことにより、ステップS212の動作が行われる。
In step S 412, in response to an instruction from the control unit 8, the display unit 7 displays a message requesting the operator to determine whether to continue generating the evaluation target data. When the generation of the evaluation target data is continued, the operator inputs the fact to the input unit 6 and the operations of steps S404, S406, S408, and S410 are performed again by each unit. On the other hand, when the generation of the evaluation target data is not to be continued, the operator inputs the fact to the input unit 6 and the operation of step S212 is performed.

【0132】そして、以下の工程については、図9、図
10に示したステップS212からステップS232ま
での工程と同一である。
The following steps are the same as the steps S212 to S232 shown in FIGS.

【0133】なお、本実施の形態において、実施の形態
1と同様に成長予測曲線を考慮しないで、ヒット率を算
出することも可能である。この場合には、ステップS4
02において、実施の形態1のステップS202と同様
の入力操作を行えばよい。
In this embodiment, the hit ratio can be calculated without considering the growth prediction curve as in the first embodiment. In this case, step S4
In 02, the same input operation as in step S202 of the first embodiment may be performed.

【0134】本実施の形態においては、算出部12は、
予定したテスト項目数のテストの中間段階までのテスト
進行度に対する誤り数の関係から、誤り数の成長予測曲
線を算出する。このため、予定していたテスト項目数の
テストを全て行わないで、成長予測曲線からテスト項目
数を終了したときの誤り数を予測することができる。そ
して、算出部12は、この誤り数からテスト終了後の予
測誤り検出率を算出し、この予測誤り検出率及び試験密
度からヒット率を算出する。そして、品質決定部13
は、これらの試験密度、予測誤り検出率及びヒット率か
ら、品質状態を決定して、これに対応する品質評価を決
定する。
In the present embodiment, the calculation unit 12
A growth prediction curve for the number of errors is calculated from the relationship of the number of errors to the test progress up to the middle stage of the test with the planned number of test items. For this reason, the number of errors when the number of test items is completed can be predicted from the growth prediction curve without performing all tests for the number of test items planned. Then, the calculation unit 12 calculates a prediction error detection rate after the end of the test from the number of errors, and calculates a hit rate from the prediction error detection rate and the test density. And the quality determining unit 13
Determines the quality state from these test densities, prediction error detection rates, and hit rates, and determines the corresponding quality evaluations.

【0135】従って、テスト終了後の誤り検出率を取得
するために、予定したテスト項目数を全て行う必要がな
い。このため、評価対象のソフトウェアの品質評価を短
期間で知ることができ、その対策も早く行うことができ
る。
Therefore, it is not necessary to perform all the planned number of test items in order to obtain the error detection rate after the end of the test. Therefore, the quality evaluation of the software to be evaluated can be known in a short period of time, and the countermeasure can be taken quickly.

【0136】実施の形態4.本実施の形態の品質評価部
は、実施の形態1である品質評価部により評価された品
質評価を再度評価する品質再評価部20を有する。
Embodiment 4 The quality evaluation unit according to the present embodiment includes a quality re-evaluation unit 20 that evaluates again the quality evaluation evaluated by the quality evaluation unit according to the first embodiment.

【0137】一般的に、1度の品質評価で評価対象のソ
フトウェアの品質を評価しても、テスト不十分のもとで
のテスト結果からは、その品質を正確に知ることができ
ない場合(各品質評価のうちの品質評価1、2、3)が
ある。また、試験密度が所定の基準に達していても、テ
スト項目数に対して誤り数が多い場合には、誤り数がま
だ収束していない可能性が高い(各品質評価のうちの品
質評価5、6)。このような場合は、テストによるソフ
トウェアの実行が不足しているといえるので、テストを
追加して行い、その結果を基にして、品質の再評価を行
う必要がある。
In general, when the quality of the software to be evaluated is evaluated by a single quality evaluation, the quality cannot be accurately known from the test results under insufficient testing (for example, There are quality evaluations 1, 2, and 3) among the quality evaluations. Further, even if the test density has reached a predetermined criterion, if the number of errors is large relative to the number of test items, there is a high possibility that the number of errors has not converged yet. , 6). In such a case, it can be said that the software execution by the test is insufficient, so it is necessary to perform additional tests and re-evaluate the quality based on the results.

【0138】このため、本実施の形態では、品質評価部
1により評価された品質評価(品質決定部13により決
定された品質評価)のうち、評価された品質が正確でな
いと予想できるときや、さらに品質を正確に知りたいと
きには、品質再評価部20により再度、品質評価を行う
ことができる。
For this reason, in the present embodiment, when it is expected that the evaluated quality is not accurate among the quality evaluations evaluated by the quality evaluation unit 1 (the quality evaluation determined by the quality determination unit 13), When it is desired to know the quality more accurately, the quality re-evaluation unit 20 can perform the quality evaluation again.

【0139】(4−1)品質評価システムの構成 図15は、実施の形態4であるソフトウェア品質評価シ
ステムの構成を示す図である。この図15において、図
1と同一構成要素には、同一符号を付してその説明を省
略する。
(4-1) Configuration of Quality Evaluation System FIG. 15 is a diagram showing a configuration of a software quality evaluation system according to the fourth embodiment. 15, the same components as those in FIG. 1 are denoted by the same reference numerals, and the description thereof will be omitted.

【0140】本実施の形態では、品質評価部1内に品質
再評価部20が含まれている。
In this embodiment, the quality evaluation section 1 includes a quality re-evaluation section 20.

【0141】品質再評価部20は、テストによるソフト
ウェアの実行不足のため検出されていないと予測できる
残存誤り数を算出する方法を品質評価結果毎に生成する
残存誤り数算出方法生成部21と、品質評価結果毎に追
加試験方法を生成する追加試験方法生成部22と、を有
する。
The quality re-evaluation unit 20 includes a remaining error number calculation method generation unit 21 that generates a method for calculating the number of remaining errors that can be predicted not to be detected due to insufficient execution of software by a test for each quality evaluation result. An additional test method generating unit 22 for generating an additional test method for each quality evaluation result.

【0142】この際、残存誤り数算出方法生成部21で
は、各品質評価1〜12(品質評価結果)にそれぞれ対
応する各残存誤り数算出方法が生成される。また、追加
試験方法生成部22では、各品質評価(品質評価1〜1
2)に対応する各追加試験方法が生成される。
At this time, the remaining error number calculation method generation unit 21 generates each remaining error number calculation method corresponding to each of the quality evaluations 1 to 12 (quality evaluation results). In addition, the additional test method generation unit 22 performs each quality evaluation (quality evaluations 1 to 1).
Each additional test method corresponding to 2) is generated.

【0143】また、品質再評価部20は、評価対象のソ
フトウェアに対して、品質評価部1により評価された品
質評価結果と対応する残存誤り数の算出方法及び追加試
験方法を決定する再評価情報決定部23を有する。
The quality re-evaluation unit 20 performs re-evaluation information for determining a method of calculating the number of remaining errors and an additional test method corresponding to the quality evaluation result evaluated by the quality evaluation unit 1 for the software to be evaluated. It has a decision unit 23.

【0144】この際、再評価情報決定部23は、品質評
価部1の品質決定部13により決定された品質評価(品
質評価1〜12のうちどれか)に対応する残存誤り数算
出方法及び追加試験方法を決定する。
At this time, the re-evaluation information determination unit 23 calculates the remaining error number calculation method corresponding to the quality evaluation (any of the quality evaluations 1 to 12) determined by the quality determination unit 13 of the quality evaluation unit 1 and adds Determine the test method.

【0145】また、品質再評価部20は、再評価情報決
定部23により決定された残存誤り数算出方法に従っ
て、残存誤り数を算出する残存誤り数算出部24を有す
る。
The quality re-evaluation section 20 has a remaining error number calculation section 24 for calculating the number of remaining errors according to the remaining error number calculation method determined by the re-evaluation information determination section 23.

【0146】また、品質再評価部20は、残存誤り数算
出部22により算出された残存誤り数と、再評価情報決
定部23により決定された追加試験方法と、に基づいた
テストを評価対象ソフトウェアに実行させた結果を考慮
して、評価対象のソフトウェアの試験密度及び誤り検出
率を再算出する再算出部25と、再算出された試験密度
及び誤り検出率に基づいて、評価対象のソフトウェアの
品質を再決定する品質再決定部26と、を有する。
The quality re-evaluation unit 20 performs a test based on the number of remaining errors calculated by the number of remaining errors calculation unit 22 and the additional test method determined by the re-evaluation information determination unit 23. The recalculation unit 25 recalculates the test density and the error detection rate of the software to be evaluated in consideration of the result of the execution of the software to be evaluated. And a quality re-determining unit 26 for re-determining the quality.

【0147】この際、再算出部25は、評価対象ソフト
ウェアの試験密度及び誤り検出率からヒット率も再算出
する。品質再決定部26は、再算出された試験密度、誤
り検出率及びヒット率から、品質評価マトリックスに従
って、評価対象のソフトウェアの品質状態、品質評価を
再決定する。
At this time, the recalculation unit 25 also recalculates the hit rate from the test density and the error detection rate of the software to be evaluated. The quality redetermining unit 26 redetermines the quality state and quality evaluation of the software to be evaluated from the recalculated test density, error detection rate, and hit rate according to the quality evaluation matrix.

【0148】(4−2)品質評価システムの動作 品質評価システムの動作には、(4−2−1)残存誤り
数算出方法生成部21による残存誤り数算出方法の生成
動作、追加試験方法生成部23による追加試験方法の生
成動作と、(4−2−2)評価対象のソフトウェアの品
質再評価に必要な追テスト情報(残存誤り数及び追加試
験方法)を作業者に提供する動作と、(4−2−3)追
加テストの結果を利用して評価対象のソフトウェアの品
質を再評価し、再評価結果とその対策案を出力する動作
と、がある。先ず、(4−2−1)について説明する。
(4-2) Operation of Quality Evaluation System The operation of the quality evaluation system includes (4-2-1) a generation operation of a residual error number calculation method by the residual error number calculation method generation unit 21 and an additional test method generation. An operation of generating an additional test method by the unit 23, and (4-2-2) an operation of providing an additional test information (the number of remaining errors and an additional test method) necessary for the quality re-evaluation of the software to be evaluated to the operator; (4-2-3) There is an operation of re-evaluating the quality of the software to be evaluated using the result of the additional test, and outputting the re-evaluation result and a countermeasure plan. First, (4-2-1) will be described.

【0149】(4−2−1)残存誤り数算出方法生成部
21による残存誤り数算出方法の生成、追加試験方法生
成部23による追加試験方法の生成について、図16に
示すフローチャート図を用いて説明する。
(4-2-1) The generation of the residual error number calculation method by the residual error number calculation method generation unit 21 and the generation of the additional test method by the additional test method generation unit 23 will be described with reference to the flowchart shown in FIG. explain.

【0150】ステップS502では、作業者は、入力部
6により、残存誤り数算出方法の生成及び追加試験方法
の生成を指示する旨を入力する。この結果、入力部6は
その旨を制御部8へ送る。この結果、制御部8は作業者
に対して、所望の品質評価データのデータ名を入力する
ように指示する旨を表示部7に表示させる。
In step S502, the operator inputs, through the input unit 6, an instruction to generate a remaining error count calculation method and an additional test method. As a result, the input unit 6 sends a message to that effect to the control unit 8. As a result, the control unit 8 causes the display unit 7 to display an instruction to the operator to input a data name of desired quality evaluation data.

【0151】ステップS504では、作業者は、各品質
評価(品質評価1〜12)からなる品質評価データのデ
ータ名を入力部6により入力する。この結果、制御部8
は、入力された品質評価データ名の品質評価データを記
憶部3から読み出す。そして、制御部8は、各品質評価
(品質評価1〜12)と対応する各残存誤り数算出方法
を示す情報を入力するように作業者に対して指示する旨
を表示部7に表示させる。
In step S504, the operator inputs the data name of the quality evaluation data including the quality evaluations (quality evaluations 1 to 12) through the input unit 6. As a result, the control unit 8
Reads out the quality evaluation data of the input quality evaluation data name from the storage unit 3. Then, the control unit 8 causes the display unit 7 to display a command to instruct the operator to input information indicating each remaining error count calculation method corresponding to each quality evaluation (quality evaluations 1 to 12).

【0152】ステップS506では、入力部6を入力操
作して、各品質評価と対応する各残存誤り数算出方法を
示す情報を入力する。この結果、制御部8が各残存誤り
数算出方法を示す情報を受け取り、これらの情報を品質
評価データと共に、残存誤り数算出方法生成部21へ送
る。
In step S506, the input unit 6 is operated to input information indicating each quality evaluation and the corresponding remaining error number calculation method. As a result, the control unit 8 receives information indicating each remaining error number calculation method, and sends the information to the remaining error number calculation method generation unit 21 together with the quality evaluation data.

【0153】ステップS508では、残存誤り数算出方
法生成部21が、送られた情報に基づいて、各品質評価
と対応する各残存誤り数算出方法を生成する。
In step S508, the remaining error number calculation method generation unit 21 generates each remaining error number calculation method corresponding to each quality evaluation based on the transmitted information.

【0154】(各残存誤り数算出方法)このステップS
508において生成される残存誤り数算出方法例を以下
に示す。各品質評価に対する残存誤り数は以下の算出式
に基づいて算出される。
(Each residual error number calculation method) Step S
An example of a method of calculating the number of remaining errors generated in 508 will be described below. The number of remaining errors for each quality evaluation is calculated based on the following calculation formula.

【0155】なお、以下に示す標準テスト規模は仕様に
基づいて決定され、標準誤り検出率及び標準試験密度
は、それぞれの基準値に基づいて決定される。
The standard test scale described below is determined based on the specifications, and the standard error detection rate and the standard test density are determined based on the respective reference values.

【0156】(A)品質評価1に対する残存誤り数算出
方法(残存誤り数算出式)1 以下の式に従って算出される。
(A) Method of calculating remaining error number for quality evaluation 1 (residual error number calculating formula) 1 This is calculated according to the following formula.

【0157】残存誤り数=(標準誤り検出率−テスト結
果の誤り検出率)*(標準テスト規模)(B)品質評価
2に対する残存誤り数算出方法(残存誤り数算出式)2 以下の式に従って算出される。
Number of residual errors = (standard error detection rate−error detection rate of test result) * (standard test scale) (B) Number of remaining errors calculation method for quality evaluation 2 (residual error number calculation formula) 2 Is calculated.

【0158】残存誤り数=(テスト結果の誤り数)/
((テスト結果の試験密度)/(標準試験密度))−
(テスト結果の誤り数) (C)品質評価3に対する残存誤り数算出方法(残存誤
り数算出式)3 以下の式に従って算出される。
Number of remaining errors = (number of errors in test result) /
((Test density of test result) / (Standard test density))-
(Number of errors in test result) (C) Method for calculating remaining error number for quality evaluation 3 (residual error number calculating formula) 3 Calculated according to the following formula.

【0159】残存誤り数=(テスト結果の誤り数)/
((テスト結果の試験密度)/(標準試験密度))−
(テスト結果の誤り数) (D)品質評価4に対する残存誤り数算出方法(残存誤
り数算出式)4 以下の式に従って算出される。
Number of remaining errors = (number of errors in test result) /
((Test density of test result) / (Standard test density))-
(Number of errors in test result) (D) Method of calculating remaining error number for quality evaluation 4 (residual error number calculating formula) 4 Calculated according to the following formula.

【0160】残存誤り数=(テスト結果の誤り数)/
((テスト結果の試験密度)/(標準試験密度))−
(テスト結果の誤り数) (E)品質評価5に対する残存誤り数算出方法(残存誤
り数算出式)5 以下の式に従って算出される。
Number of remaining errors = (number of errors in test result) /
((Test density of test result) / (Standard test density))-
(Number of errors in test result) (E) Method of calculating remaining error number for quality evaluation 5 (residual error number calculating formula) 5 Calculated according to the following formula.

【0161】残存誤り数=(テスト結果の誤り数)/
(誤り検出収束度)−(テスト結果の誤り数) (F)品質評価6に対する残存誤り数算出方法(残存誤
り数算出式)6 以下の式に従って算出される。
Number of remaining errors = (number of errors in test result) /
(Error detection convergence degree)-(Number of errors in test result) (F) Method of calculating remaining error number for quality evaluation 6 (Remaining error number calculating formula) 6 Calculated according to the following equation.

【0162】残存誤り数=(テスト結果の誤り数)/
(誤り検出収束度)−(テスト結果の誤り数) (G)品質評価7に対する残存誤り数算出方法(残存誤
り数算出式)7 以下の式に従って算出される。
Number of remaining errors = (number of errors in test result) /
(Error detection convergence degree)-(Number of errors in test result) (G) Method for calculating remaining error number for quality evaluation 7 (Remaining error number calculation formula) 7 Calculated according to the following equation.

【0163】残存誤り数=(テスト結果の誤り数)/
(誤り検出収束度)−(テスト結果の誤り数) このようにして残存誤り数算出方法生成部21が、各残
存誤り数算出方法を生成したら、残存誤り数算出方法生
成部21は、制御部8にその旨を伝える。制御部8は、
各品質評価と対応する追加試験情報を入力するように作
業者に対して指示する旨を表示部7に表示させる。この
追加試験情報は、例えば、テスト項目である。
Number of remaining errors = (number of errors in test result) /
(Error detection convergence degree)-(Number of errors in test result) After the remaining error number calculation method generation unit 21 generates each remaining error number calculation method, the remaining error number calculation method generation unit 21 Tell 8 to that effect. The control unit 8
The display unit 7 displays an instruction to instruct the operator to input additional test information corresponding to each quality evaluation. The additional test information is, for example, a test item.

【0164】ステップS510では、入力部6により、
各品質評価(品質評価1〜12)と対応する各追加試験
情報を入力する。この結果、制御部8が各追加試験情報
を受け取り、これらの情報を品質評価データ(品質評価
1〜12)と共に、追加試験方法生成部23へ送る。
In step S510, the input unit 6
Each additional test information corresponding to each quality evaluation (quality evaluations 1 to 12) is input. As a result, the control unit 8 receives the additional test information and sends the information to the additional test method generation unit 23 together with the quality evaluation data (quality evaluations 1 to 12).

【0165】ステップS512では、追加試験方法生成
部23が、送られた追加試験情報に基づいて、各品質評
価(品質評価1〜12)と対応する各追加試験方法を生
成する。
In step S512, the additional test method generator 23 generates each additional test method corresponding to each quality evaluation (quality evaluations 1 to 12) based on the transmitted additional test information.

【0166】この追加試験方法の生成について以下に詳
細に説明する。追加試験方法生成部23には、予め、各
テスト項目と、具体的な各追加試験方法(例えば、所定
のテストデータを用いて所定のテスト環境に基づいてソ
フトウェアを実行させる等)と、が対応づけられた複数
のテーブルが記憶されている。各テーブルはソフトウェ
アの規模等に対応している。そして、追加試験方法生成
部23は、評価対象のソフトウェアの規模等に基づい
て、追加試験方法生成のためのテーブルを決定する。そ
して、追加試験方法生成部23は、このテーブルを参照
して、制御部8から送られた追加試験情報(品質評価1
に対応するテスト項目)と対応する追加試験方法を決定
する。そして、追加試験方法生成部23は、決定した追
加試験方法を品質評価1と対応づける。このようにし
て、追加試験方法生成部23は、各品質評価(品質評価
1〜12)にそれぞれ対応する追加試験方法を生成す
る。
The generation of this additional test method will be described in detail below. The additional test method generation unit 23 previously corresponds to each test item and each specific additional test method (for example, executing software based on a predetermined test environment using predetermined test data). A plurality of attached tables are stored. Each table corresponds to the scale of the software and the like. Then, the additional test method generation unit 23 determines a table for generating an additional test method based on the scale of the software to be evaluated. Then, the additional test method generation unit 23 refers to this table and refers to the additional test information (quality evaluation 1) transmitted from the control unit 8.
Test items) and the corresponding additional test method. Then, the additional test method generation unit 23 associates the determined additional test method with the quality evaluation 1. In this way, the additional test method generator 23 generates an additional test method corresponding to each quality evaluation (quality evaluations 1 to 12).

【0167】そして、全ての品質評価に対応する追加試
験方法を生成したら、追加試験方法生成部23は各追加
試験方法を生成した旨を制御部8へ伝える。
When the additional test methods corresponding to all the quality evaluations have been generated, the additional test method generator 23 informs the controller 8 that each additional test method has been generated.

【0168】ステップS514では、制御部8が、各残
存誤り数算出方法(残存誤り数算出方法1〜12)をま
とめた残存誤り数算出方法データ、各追加試験方法をま
とめた追加試験方法データを、品質評価データと対応づ
けて記憶部3に記憶させる。この際、各品質評価と各残
存誤り数算出方法、各追加試験方法とがそれぞれ対応づ
けられる。
In step S514, the control unit 8 transmits the remaining error number calculation method data summarizing the remaining error number calculation methods (residual error number calculation methods 1 to 12) and the additional test method data summarizing the respective additional test methods. Is stored in the storage unit 3 in association with the quality evaluation data. At this time, each quality evaluation is associated with each remaining error number calculation method and each additional test method.

【0169】(4−2−2)次に、品質決定部13によ
り決定された品質評価のソフトウェアに対して、再評価
をする場合、追テストを行い、この結果を考慮して再品
質評価をする必要がある。
(4-2-2) Next, when re-evaluating the software of the quality evaluation determined by the quality determining unit 13, an additional test is performed, and the re-quality evaluation is performed in consideration of the result. There is a need to.

【0170】以下、上記追テストのために必要なテスト
情報を決定、出力する動作について図17、図18に示
すフローチャート図を用いて説明する。
The operation of determining and outputting the test information necessary for the additional test will be described below with reference to the flowcharts shown in FIGS.

【0171】ステップS602では、作業者が入力部6
による入力操作を行って、評価対象ソフトウェアの品質
の再評価を行うために必要なテスト情報を生成する旨を
入力する。この結果、制御部8は、1度目の品質評価で
使用した評価対象データ名、品質評価データ名、1度目
の品質評価で生成された評価対策結果データ名を入力す
るように作業者に対して指示する旨を表示部7に表示さ
せる。
In step S602, the operator sets the input unit 6
Is input to generate test information necessary for re-evaluating the quality of the evaluation target software. As a result, the control unit 8 prompts the operator to input the evaluation target data name, the quality evaluation data name used in the first quality evaluation, and the evaluation measure result data name generated in the first quality evaluation. The instruction to display the instruction is displayed on the display unit 7.

【0172】ステップS604では、作業者が入力部6
により、評価対象データ名、品質評価データ名、評価対
策結果データ名を入力する。
At step S604, the operator sets the input unit 6
Input the name of the data to be evaluated, the name of the quality evaluation data, and the name of the evaluation measure result data.

【0173】ステップS606では、制御部8は、評価
対象データ、品質評価データ、評価対策結果データを読
み出すと共に、品質評価データと対応する残存誤り数算
出方法データ及び追加試験方法データを読み出す。そし
て、制御部8は、これらのデータ(評価対策結果デー
タ、残存誤り数算出方法データ、追加試験方法データ)
を再評価情報決定部23へ送る。
In step S606, the control section 8 reads out the data to be evaluated, the quality evaluation data, and the evaluation countermeasure result data, and also reads out the remaining error number calculation method data and the additional test method data corresponding to the quality evaluation data. Then, the control unit 8 transmits these data (evaluation countermeasure result data, remaining error number calculation method data, and additional test method data).
To the re-evaluation information determination unit 23.

【0174】ステップS608では、再評価情報決定部
23は、評価対策結果データの品質評価(品質評価1〜
12のいずれか)に対応する残存誤り数算出方法(残存
誤り数算出方法1〜12のいずれか)及び追加試験方法
を決定する。そして、再評価情報決定部23は、これら
の情報を決定した旨を制御部8へ伝える。制御部8は、
評価対象データ、決定された残存誤り数算出方法を残存
誤り数算出部22へ送る。
In step S608, the re-evaluation information determination unit 23 evaluates the quality of the evaluation result data (quality evaluation 1 to quality evaluation 1).
12) and a method of calculating the number of remaining errors (any of the methods of calculating the number of remaining errors 1 to 12) and an additional test method. Then, the reevaluation information determination unit 23 notifies the control unit 8 that these pieces of information have been determined. The control unit 8
The data to be evaluated and the determined remaining error number calculation method are sent to the remaining error number calculation unit 22.

【0175】ステップS610では、残存誤り数算出部
22は、評価対象データ及び上記決定された残存誤り数
算出方法から、残存誤り数を算出する。そして、残存誤
り数算出部22は、算出した残存誤り数を制御部8へ送
る。制御部は、算出された残存誤り数と、決定された追
加試験方法と、を出力部4へ送り、これらの情報を出力
するように指示する。
In step S610, the remaining error number calculation section 22 calculates the number of remaining errors from the evaluation target data and the determined remaining error number calculation method. Then, the remaining error number calculation unit 22 sends the calculated remaining error number to the control unit 8. The control unit sends the calculated number of remaining errors and the determined additional test method to the output unit 4 and instructs to output the information.

【0176】ステップS614では、出力部4は、決定
された追加試験方法と、算出された残存誤り数と、をま
とめた追加試験データを出力する。出力部4は、追加試
験データを出力した旨を制御部8へ伝える。制御部8
は、出力部4により出力された追加試験データを表示部
7に表示させる。制御部8は追加試験データ名を入力す
るように作業者に対して指示する旨を表示部7に表示さ
せる。
In step S614, the output unit 4 outputs additional test data summarizing the determined additional test method and the calculated number of remaining errors. The output unit 4 notifies the control unit 8 that the additional test data has been output. Control unit 8
Causes the display unit 7 to display the additional test data output from the output unit 4. The control unit 8 causes the display unit 7 to display an instruction to input an additional test data name to the operator.

【0177】ステップS616では、作業者が入力部6
により、追加試験データ名を入力する。
At step S616, the operator sets the input
Input the additional test data name.

【0178】ステップS618では、制御部8は、出力
された追加試験データを追加試験データ名と対応づけて
記憶部3に記憶させる。
In step S618, the control unit 8 stores the output additional test data in the storage unit 3 in association with the additional test data name.

【0179】ステップS620では、制御部8による指
示により、表示部7は、追加試験データの生成を続ける
か否かについての判定を作業者に対して要求する旨を表
示する。追加試験データの生成を続ける場合、作業者
は、その旨を入力部6に入力することにより、再度ステ
ップS604以降の動作が各部により行われる。一方、
追加試験データの生成を続けない場合は、作業者は、そ
の旨を入力部6に入力することにより、ステップS62
2の動作が行われる。
In step S620, in response to an instruction from control unit 8, display unit 7 displays a message requesting the operator to determine whether to continue generating the additional test data. In the case where the generation of the additional test data is continued, the operator inputs the fact to the input unit 6, and the operation after step S604 is performed again by each unit. on the other hand,
When the generation of the additional test data is not to be continued, the operator inputs the fact to the input unit 6 to thereby execute Step S62.
Operation 2 is performed.

【0180】ステップS622では、制御部8が、記憶
部3に記憶された全ての追加試験データを読み出し、プ
リンタ部5に印刷させる。なお、制御部8が各評価対策
結果データと各追加試験データとをそれぞれ対応づけ、
これらのデータをプリンタ部5に送ることで、プリンタ
部5は、図19のように印刷することができる。
In step S622, the control section 8 reads out all the additional test data stored in the storage section 3 and causes the printer section 5 to print. The control unit 8 associates each evaluation measure result data with each additional test data, and
By sending these data to the printer unit 5, the printer unit 5 can print as shown in FIG.

【0181】このようにして、作業者に品質再評価に必
要なテスト情報(残存誤り数、追加試験方法)を提供す
ることができる。そして、作業者は、評価対象のソフト
ウェアに対して、再度、上記テスト情報に基づいて、追
加テストを行う。
In this way, the test information (the number of remaining errors, the additional test method) necessary for the quality re-evaluation can be provided to the operator. Then, the operator performs an additional test on the software to be evaluated again based on the test information.

【0182】(4−2−3)この追加テストの結果を利
用して、評価対象ソフトウェアの品質を再決定し、再決
定された品質及びその対策案を出力する動作を図20、
図21に示すフローチャート図を用いて以下に説明す
る。
(4-2-3) The operation of re-determining the quality of the evaluation target software using the result of the additional test and outputting the re-determined quality and the countermeasure plan is shown in FIG.
This will be described below with reference to the flowchart shown in FIG.

【0183】ステップS702では、作業者が入力部6
により、品質再評価を行う旨を入力する。この結果、制
御部8は、追加テストの結果(試験密度、誤り検出率)
及び1度目の品質評価のときに用いた評価対象データ
(試験密度、誤り検出率、ヒット率)のデータ名、これ
から生成する再評価対象のデータ名を入力するように作
業者に対して指示する旨を表示部7に表示させる。
At step S 702, the operator sets the input unit 6
Input that the quality is to be re-evaluated. As a result, the control unit 8 determines the result of the additional test (test density, error detection rate)
And instruct the operator to input the data name of the data to be evaluated (test density, error detection rate, hit rate) used in the first quality evaluation, and the data name of the re-evaluation object to be generated from this. Is displayed on the display unit 7.

【0184】ステップS704では、作業者が入力部6
により、追加テストの結果、評価対象データ名、再評価
対象データ名を入力する。この結果、追加テストの結
果、評価対象データ名及び再評価対象データ名が制御部
8へ送られる。この結果、制御部8が入力された評価対
象データ名の評価対象データを記憶部3から読み出す。
そして、制御部8は、追加テストの結果及び評価対象デ
ータを再算出部25へ送り、再算出部25に再評価対象
の試験密度、誤り検出率、ヒット率を算出するように指
示する。
In step S704, the operator sets the input unit 6
As a result, the name of the evaluation target data and the name of the reevaluation target data are input as a result of the additional test. As a result, as a result of the additional test, the evaluation target data name and the reevaluation target data name are sent to the control unit 8. As a result, the control unit 8 reads out the evaluation target data of the input evaluation target data name from the storage unit 3.
Then, the control unit 8 sends the result of the additional test and the data to be evaluated to the recalculation unit 25, and instructs the recalculation unit 25 to calculate the test density, the error detection rate, and the hit rate to be reevaluated.

【0185】ステップS706では、再算出部25が、
送られたデータ(追加テストの結果、評価対象データ)
に基づいて、再評価対象の試験密度、誤り検出率、ヒッ
ト率を算出する。そして、再算出部25がこれらのデー
タを再算出した旨を制御部8へ伝えると共に、再算出し
た各データを送る。
At step S706, the recalculation unit 25
Data sent (results of additional tests, data to be evaluated)
The test density, error detection rate, and hit rate to be re-evaluated are calculated based on Then, the recalculation unit 25 notifies the control unit 8 that these data have been recalculated, and sends the recalculated data.

【0186】ステップ708では、制御部8は、再算出
部25により再算出された試験密度、誤り検出率及びヒ
ット率をまとめた再評価対象データを上記再評価対象デ
ータ名と対応づけて記憶部3に記憶させる。
In step 708, the control unit 8 associates the re-evaluation target data summarizing the test density, the error detection rate, and the hit rate re-calculated by the re-calculation unit 25 with the above-described re-evaluation target data name and stores it in the storage unit. Store it in 3.

【0187】ステップS710では、制御部8による指
示により、表示部7は、再評価対象データの生成を続け
るか否かについての判定を作業者に対して要求する旨を
表示する。再評価対象データの生成を続ける場合、作業
者は、その旨を入力部6に入力することにより、再度ス
テップS704、S706、S708の動作が各部によ
り行われる。一方、再評価対象データの生成を続けない
場合は、作業者は、その旨を入力部6に入力することに
より、ステップS712の動作が行われる。
[0187] In step S710, in response to an instruction from the control unit 8, the display unit 7 displays a message requesting the operator to determine whether or not to continue generating the data to be re-evaluated. When the generation of the reevaluation target data is continued, the operator inputs the fact to the input unit 6, and the operations of steps S704, S706, and S708 are performed again by each unit. On the other hand, when the generation of the re-evaluation target data is not to be continued, the operator inputs the fact to the input unit 6 and the operation of step S712 is performed.

【0188】ステップS712では、制御部8は、作業
者に対して再評価対象ソフトウェアの品質評価に対応す
るマトリックスデータ(1度目の品質評価に用いたマト
リックスデータと同じ)のデータ名を入力するように作
業者に対して指示する旨を表示部7に表示させる。
In step S712, the control unit 8 inputs to the worker the data name of the matrix data (same as the matrix data used for the first quality evaluation) corresponding to the quality evaluation of the software to be re-evaluated. Is displayed on the display unit 7 to indicate to the operator.

【0189】ステップS714で、作業者が入力部6に
より、マトリックスデータ名を入力する。この結果、制
御部8は、入力されたマトリックスデータ名に対応する
マトリックスデータを記憶部3から読み出して、品質決
定部13へ送る。また、同時に、制御部8は、マトリッ
クスデータ名と対応づけられた品質評価データ名の品質
評価データを記憶部3から読み出して、品質再決定部2
6へ送る。この際、制御部8はマトリックスデータ名を
保持する。品質再決定部26は、マトリックスデータを
受け取った旨を制御部8へ送る。
[0189] In step S714, the operator inputs the matrix data name using the input unit 6. As a result, the control unit 8 reads matrix data corresponding to the input matrix data name from the storage unit 3 and sends the matrix data to the quality determination unit 13. At the same time, the control unit 8 reads out the quality evaluation data of the quality evaluation data name associated with the matrix data name from the storage unit 3, and reads out the quality re-determination unit 2
Send to 6. At this time, the control unit 8 holds the matrix data name. The quality redetermining unit 26 sends the fact that the matrix data has been received to the control unit 8.

【0190】ステップS716では、制御部8は記憶部
3に記憶された1つの再評価対象データを読み出し、読
み出した再評価対象データを品質再決定部26へ送る。
なお、既に読み出した再評価対象データに対しては、再
度読み出しは行わない。
In step S716, the control unit 8 reads one piece of data to be re-evaluated stored in the storage unit 3 and sends the read-out data to be re-evaluated to the quality re-determining unit 26.
The re-evaluation target data that has already been read is not read again.

【0191】ステップS718では、品質再決定部26
は、再評価対象データ(再評価対象のソフトウェアの試
験密度、誤り検出率及びヒット率)から、品質評価マト
リックスに従って、品質状態を再決定する。そして、品
質再決定部13は、品質評価データの各品質評価のう
ち、上記再決定された品質状態に対応する品質評価を再
決定する。品質再決定部26は再評価対象データの品質
評価を終了した旨を制御部8へ伝える。
At step S718, the quality re-determining section 26
Re-determines the quality state from the reevaluation target data (test density, error detection rate, and hit rate of the reevaluation target software) according to the quality evaluation matrix. Then, the quality redetermining unit 13 redetermines the quality evaluation corresponding to the redetermined quality state among the quality evaluations of the quality evaluation data. The quality re-determining unit 26 notifies the control unit 8 that the quality evaluation of the data to be re-evaluated has been completed.

【0192】ステップS720では、制御部8は、保持
しているマトリックスデータ名と対応する対策案データ
名の対策案データを記憶部3から読み出した後、読み出
した対策案データの各対策案のうち、品質再決定部13
により決定された品質評価と対応する対策案を決定す
る。
In step S720, the control unit 8 reads out the measure plan data of the measure plan data name corresponding to the held matrix data name from the storage unit 3, and then, among the measure plans of the read measure plan data, , Quality redetermining unit 13
To determine the quality evaluation determined by and the corresponding countermeasures.

【0193】ステップS722では、制御部8が品質評
価出力部14を制御して品質再決定部13により決定さ
れた品質評価を出力させると共に、対策案出力部15を
制御して上記品質評価に対応する対策案を出力させる。
制御部8はこれらの出力結果を表示部7に表示させる。
そして、制御部8は、上記品質評価及びその対策案を示
す再評価対策結果データを識別する再評価対策結果デー
タ名を入力するように作業者に対して指示する旨を表示
部8に表示させる。
In step S722, the control unit 8 controls the quality evaluation output unit 14 to output the quality evaluation determined by the quality redetermining unit 13, and controls the measure proposal output unit 15 to respond to the quality evaluation. And output the countermeasures to take.
The control unit 8 causes the display unit 7 to display these output results.
Then, the control unit 8 causes the display unit 8 to display an instruction to instruct the operator to input a re-evaluation measure result data name for identifying the re-evaluation measure result data indicating the quality evaluation and the measure plan. .

【0194】ステップS724では、作業者が入力部6
により、再評価対策結果データ名を入力する。
In step S724, the operator sets the input unit 6
Input the name of the re-evaluation measure result data.

【0195】ステップS726では、制御部8が、再評
価対策結果データを再評価対策結果データ名と対応づけ
て記憶部3に記憶させる。
In step S726, control unit 8 causes storage unit 3 to store the reevaluation countermeasure result data in association with the reevaluation countermeasure result data name.

【0196】ステップS728では、制御部8が、記憶
部3から読み出されていない再評価対象データがあるか
否かを判定する。この際、読み出す再評価対象データ
は、読み出された品質評価マトリックスで評価可能な再
評価対象データに限る。
In step S728, control unit 8 determines whether there is any data to be re-evaluated and not read from storage unit 3. At this time, the re-evaluation target data to be read is limited to the re-evaluation target data that can be evaluated by the read quality evaluation matrix.

【0197】記憶部3から読み出されていない再評価対
象データがある場合には、ステップS716以降の動作
が再度行われる。一方、全ての再評価対象データが記憶
部3から読み出された場合には、ステップS730の動
作が行われる。
If there is data to be re-evaluated that has not been read from the storage unit 3, the operation after step S716 is performed again. On the other hand, when all the reevaluation target data has been read from the storage unit 3, the operation of step S730 is performed.

【0198】ステップS730では、制御部8は、記憶
部3に記憶された全ての再評価対策結果データを読み出
し、上記全ての再評価対策結果データを印刷するように
プリンタ部5に指示する。
In step S730, the control section 8 reads out all the reevaluation countermeasure result data stored in the storage section 3 and instructs the printer section 5 to print all the reevaluation countermeasure result data.

【0199】ステップS732では、プリンタ部5が上
記全ての再評価対策結果データを印刷する。この際、プ
リンタ部5は、再評価対策結果データを再評価対策結果
データ毎に印刷することも可能である。また、上記全て
の再評価対策結果データを表形式にまとめて印刷するこ
ともできる。
In step S732, the printer unit 5 prints all the re-evaluation measure result data. At this time, the printer unit 5 can also print the reevaluation measure result data for each reevaluation measure result data. In addition, all the re-evaluation countermeasure result data can be printed in a table format.

【0200】本実施の形態においては、テスト不足等に
より、品質評価部による評価で品質を完全に決定できな
かったソフトウェアに対して、再品質評価を行うので、
品質を完全に決定することができる。
In this embodiment, re-quality evaluation is performed for software for which the quality could not be completely determined by the evaluation by the quality evaluation unit due to lack of testing or the like.
Quality can be completely determined.

【0201】なお、本実施の形態において、追加テスト
のときに、試験網羅度を測定し、試験網羅度を考慮して
再評価対象データを生成してもよい。また、追加テスト
のときに、予定されたテストを全て行わず、成長予測曲
線を考慮して、再評価対象データを生成してもよい。
In the present embodiment, at the time of the additional test, the test coverage may be measured, and the data to be re-evaluated may be generated in consideration of the test coverage. Further, at the time of the additional test, the re-evaluation target data may be generated in consideration of the growth prediction curve without performing all scheduled tests.

【0202】[0202]

【発明の効果】以上説明したように、請求項1に記載の
発明によれば、試験密度及び誤り検出率に基づいて、ソ
フトウェアの品質評価を行う。この際、例えば、評価対
象のソフトウェアの試験密度の程度及び誤り検出率の程
度に応じて、品質評価を詳細に対応させることにより、
十分な品質評価を行うことができる。
As described above, according to the first aspect of the present invention, software quality is evaluated based on the test density and the error detection rate. At this time, for example, by making the quality evaluation correspond in detail according to the degree of test density and the degree of error detection rate of the software to be evaluated,
Sufficient quality evaluation can be performed.

【0203】また、対策案生成手段は、品質評価手段に
より評価されると予想される品質評価結果に対応する対
策案を予め生成する。このため、品質評価手段により評
価された品質評価結果に対応する対策案は、対策案生成
手段により予め生成されているので、出力手段は、上記
品質評価結果に対応する対策案を出力することができ
る。この結果、十分な品質評価に基づいた対策案を作業
者に迅速に提供することができるので、作業者の経験、
技量等によらず、統一的な対策が行われることになる。
Further, the measure plan generating means generates in advance a measure plan corresponding to the quality evaluation result expected to be evaluated by the quality evaluation means. For this reason, since the countermeasure plan corresponding to the quality evaluation result evaluated by the quality evaluation unit has been generated in advance by the countermeasure plan generation unit, the output unit may output the countermeasure plan corresponding to the quality evaluation result. it can. As a result, it is possible to promptly provide workers with measures based on sufficient quality evaluation,
Regardless of skill, unified measures will be taken.

【0204】請求項2に記載の発明によれば、品質評価
手段は、以下のようにして十分な品質評価を確実に行う
ことができる。即ち、先ず、品質評価マトリックス生成
手段により、試験密度、誤り検出率及びヒット率のそれ
ぞれの基準値に基づいた品質評価マトリックスが生成さ
れる。そして、品質評価生成手段により、各品質状態と
対応する各品質評価を生成する。そして、品質決定手段
は、評価対象のソフトウェアの試験密度、誤り検出率、
ヒット率から、上記品質評価マトリックスの各品質状態
のうち、評価対象のソフトウェアの品質状態がどの品質
状態に対応するか決定する。そして、品質決定手段は、
決定された品質状態が、上記品質評価生成手段で生成さ
れた各品質評価のうち、どの品質評価に対応するか決定
する。
According to the second aspect of the invention, the quality evaluation means can reliably perform a sufficient quality evaluation as follows. That is, first, the quality evaluation matrix generation means generates a quality evaluation matrix based on the respective reference values of the test density, the error detection rate, and the hit rate. Then, the quality evaluation generating means generates each quality evaluation corresponding to each quality state. Then, the quality determining means includes a test density of the software to be evaluated, an error detection rate,
From the hit rates, it is determined which of the quality states of the quality evaluation matrix corresponds to the quality state of the evaluation target software. And the quality determining means is
It decides which quality evaluation the determined quality state corresponds to among the quality evaluations generated by the quality evaluation generating means.

【0205】このため、試験密度、誤り検出率及びヒッ
ト率に基づいて、複数の品質状態を十分に多く設定し、
これに対応する複数の品質評価も十分に多く設定すれ
ば、ソフトウェアの品質の程度の差を詳細に考慮した十
分な品質評価を行うことができる。
Therefore, based on the test density, the error detection rate, and the hit rate, a plurality of quality states are set sufficiently large,
If a plurality of quality evaluations corresponding to this are set sufficiently large, it is possible to perform a sufficient quality evaluation taking into account the difference in the degree of software quality in detail.

【0206】請求項3に記載の発明によれば、対策案生
成手段は、請求項2に記載の各品質評価に対応する各対
策案を生成する。このため、品質決定手段により決定さ
れた品質評価に対応する対策案は、対策案生成手段によ
り予め生成されている。そして、品質評価出力手段によ
り、決定された品質評価を出力することができると共
に、対策案出力手段により、上記品質評価結果に対応す
る対策案を出力することができる。この結果、十分な品
質評価に基づいた対策案を作業者に迅速に提供すること
ができるので、作業者の経験、技量等によらず、統一的
な対策が行われることになる。
According to the third aspect of the present invention, the measure generating means generates each measure corresponding to each quality evaluation according to the second aspect. Therefore, a countermeasure plan corresponding to the quality evaluation determined by the quality determining unit has been generated in advance by the countermeasure plan generating unit. Then, the determined quality evaluation can be output by the quality evaluation output means, and the measure proposal corresponding to the quality evaluation result can be output by the measure proposal output means. As a result, a countermeasure based on a sufficient quality evaluation can be promptly provided to the worker, so that a unified countermeasure is performed regardless of the experience, skill, etc. of the worker.

【0207】請求項4に記載の発明によれば、所定数の
テスト項目のテストを実行して、予想した所定数の機能
が実行できてない場合でも、試験密度に試験網羅度を乗
じることで、実際の実行した機能数に対応した試験密度
を算出できる。この結果、試験網羅度の低いソフトウェ
アの品質評価を正確に行うことができる。
According to the fourth aspect of the present invention, the test of a predetermined number of test items is executed, and even if the expected predetermined number of functions cannot be executed, the test density is multiplied by the test coverage. The test density corresponding to the number of functions actually executed can be calculated. As a result, it is possible to accurately evaluate the quality of software having low test coverage.

【0208】請求項5に記載の発明によれば、予定して
いたテスト項目数のテストを全て行わないで、成長予測
曲線からテスト項目数を終了したときの誤り数を予測す
ることができる。そして、この誤り数からテスト終了後
の誤り検出率を算出し、この予測誤り検出率及び試験密
度からヒット率を算出する。そして、品質決定手段は、
これらの新たな試験密度、誤り検出率及びヒット率か
ら、品質状態を決定して、これに対応する品質評価を決
定する。従って、テスト終了後の誤り検出率を取得する
ために、予定したテスト項目数を全て行う必要がない。
このため、評価対象のソフトウェアの品質評価を短期間
で知ることができ、その対策も早く行うことができる。
According to the fifth aspect of the present invention, the number of errors when the number of test items is completed can be predicted from the growth prediction curve without performing all tests for the number of test items planned. Then, the error detection rate after the end of the test is calculated from the number of errors, and the hit rate is calculated from the predicted error detection rate and the test density. And the quality determining means is
From these new test densities, error detection rates and hit rates, a quality state is determined and a corresponding quality evaluation is determined. Therefore, it is not necessary to perform all the planned number of test items in order to obtain the error detection rate after the end of the test.
Therefore, the quality evaluation of the software to be evaluated can be known in a short period of time, and the countermeasure can be taken quickly.

【0209】請求項6に記載の発明によれば、品質評価
手段は、評価した品質評価結果を再度評価する品質再評
価手段を有する。このため、テスト不十分等により品質
を完全に決定できなかった評価対象のソフトウェアに対
しても、例えば追加テストをした結果を考慮して、上記
評価対象のソフトウェアを再評価することができる。
[0209] According to the invention described in claim 6, the quality evaluation means has quality re-evaluation means for re-evaluating the evaluated quality evaluation result. Therefore, even for software to be evaluated whose quality could not be completely determined due to insufficient testing or the like, the software to be evaluated can be reevaluated in consideration of, for example, the result of an additional test.

【0210】請求項7に記載の発明によれば、品質再評
価手段は、以下のようにして評価対象のソフトウェアの
品質を再評価することができる。
According to the invention described in claim 7, the quality reevaluating means can reevaluate the quality of the software to be evaluated as follows.

【0211】残存誤り数算出方法生成手段は、残存誤り
数を算出する方法を品質評価結果毎に生成する。また、
追加試験方法生成手段は、追加試験方法を品質評価結果
毎に生成する。この結果、各品質評価結果に、それぞ
れ、各残存誤り数算出方法及び各追加試験方法が対応す
る。
The remaining error number calculation method generating means generates a method for calculating the number of remaining errors for each quality evaluation result. Also,
The additional test method generation means generates an additional test method for each quality evaluation result. As a result, each quality evaluation result corresponds to each remaining error number calculation method and each additional test method.

【0212】そして、再評価情報決定手段は、評価対象
のソフトウェアに対して、評価された品質評価結果と対
応する残存誤り数算出方法及び追加試験方法を決定す
る。そして、残存誤り数算出手段は、決定された残存誤
り数の算出方法に従って、残存誤り数を算出する。この
ため、再評価に必要な追加テストの情報である残存誤り
数及び追加試験方法が作業者に知らされる。
Then, the re-evaluation information determining means determines a remaining error number calculation method and an additional test method corresponding to the evaluated quality evaluation result for the software to be evaluated. Then, the remaining error number calculating means calculates the number of remaining errors according to the determined method of calculating the number of remaining errors. Therefore, the number of remaining errors and the additional test method, which are information of the additional test necessary for the re-evaluation, are notified to the operator.

【0213】また、品質再決定手段は、追加テスト情報
に基づいたテストを評価対象のソフトウェアに実行させ
た結果を考慮して算出された新たな試験密度、新たな誤
り率検出率に基づいて、評価対象のソフトウェアの品質
を再決定する。このため、試験密度不足等により、品質
評価手段による評価で品質を完全に決定できなかったソ
フトウェアに対して、再品質評価を行うので、品質を完
全に決定することができる。
Further, the quality re-determining means determines a new test density and a new error rate detection rate calculated in consideration of a result of causing the software to be evaluated to execute a test based on the additional test information. Redetermine the quality of the software being evaluated. For this reason, re-quality evaluation is performed for software for which the quality could not be completely determined by the evaluation by the quality evaluation means due to insufficient test density or the like, so that the quality can be completely determined.

【0214】請求項8に記載の発明によれば、各対策案
は品質を強化させるための対策案である。この結果、作
業者は、品質を強化させるための対策を迅速に行うこと
ができる。
According to the invention described in claim 8, each measure is a measure for enhancing quality. As a result, the operator can quickly take measures to enhance the quality.

【図面の簡単な説明】[Brief description of the drawings]

【図1】 実施の形態1であるソフトウェア品質評価シ
ステムの構成を示す図である。
FIG. 1 is a diagram showing a configuration of a software quality evaluation system according to a first embodiment.

【図2】 実施の形態1であるソフトウェア品質評価シ
ステムの動作を示すフローチャート図である。
FIG. 2 is a flowchart illustrating an operation of the software quality evaluation system according to the first embodiment;

【図3】 品質評価マトリックス生成部による動作を説
明するための図である。
FIG. 3 is a diagram for explaining an operation by a quality evaluation matrix generation unit.

【図4】 品質評価マトリックス生成部による動作を説
明するための図である。
FIG. 4 is a diagram for explaining an operation by a quality evaluation matrix generation unit.

【図5】 品質評価マトリックス生成部による動作を説
明するための図である。
FIG. 5 is a diagram for explaining an operation by a quality evaluation matrix generation unit.

【図6】 品質評価マトリックス生成部による動作を説
明するための図である。
FIG. 6 is a diagram for explaining an operation by a quality evaluation matrix generation unit.

【図7】 品質評価マトリックス生成部による動作を説
明するための図である。
FIG. 7 is a diagram for explaining an operation by a quality evaluation matrix generation unit.

【図8】 品質評価マトリックス生成部による動作を説
明するための図である。
FIG. 8 is a diagram for explaining an operation by a quality evaluation matrix generation unit.

【図9】 実施の形態1であるソフトウェア品質評価シ
ステムの動作を示すフローチャート図である。
FIG. 9 is a flowchart illustrating an operation of the software quality evaluation system according to the first embodiment;

【図10】 実施の形態1であるソフトウェア品質評価
システムの動作を示すフローチャート図である。
FIG. 10 is a flowchart illustrating an operation of the software quality evaluation system according to the first embodiment;

【図11】 実施の形態1であるプリンタ部により印刷
された結果を示す図である。
FIG. 11 is a diagram illustrating a result of printing by the printer unit according to the first embodiment;

【図12】 実施の形態2であるソフトウェア品質評価
システムの動作を示すフローチャート図である。
FIG. 12 is a flowchart illustrating an operation of the software quality evaluation system according to the second embodiment;

【図13】 実施の形態2であるソフトウェア品質評価
システムの動作の具体例を示す図である。
FIG. 13 is a diagram showing a specific example of the operation of the software quality evaluation system according to the second embodiment.

【図14】 実施の形態3であるソフトウェア品質評価
システムの動作を示すフローチャート図である。
FIG. 14 is a flowchart illustrating an operation of the software quality evaluation system according to the third embodiment;

【図15】 実施の形態4であるソフトウェア品質評価
システムの構成を示す図である。
FIG. 15 is a diagram showing a configuration of a software quality evaluation system according to a fourth embodiment.

【図16】 実施の形態4であるソフトウェア品質評価
システムの動作を示すフローチャート図である。
FIG. 16 is a flowchart illustrating an operation of the software quality evaluation system according to the fourth embodiment;

【図17】 実施の形態4であるソフトウェア品質評価
システムの動作を示すフローチャート図である。
FIG. 17 is a flowchart illustrating an operation of the software quality evaluation system according to the fourth embodiment;

【図18】 実施の形態4であるソフトウェア品質評価
システムの動作を示すフローチャート図である。
FIG. 18 is a flowchart showing an operation of the software quality evaluation system according to the fourth embodiment.

【図19】 実施の形態4であるプリンタ部による印刷
結果を示す図である。
FIG. 19 is a diagram illustrating a print result by a printer unit according to the fourth embodiment.

【図20】 実施の形態4であるソフトウェア品質評価
システムの動作を示すフローチャート図である。
FIG. 20 is a flowchart illustrating an operation of the software quality evaluation system according to the fourth embodiment;

【図21】 実施の形態4であるソフトウェア品質評価
システムの動作を示すフローチャート図である。
FIG. 21 is a flowchart illustrating an operation of the software quality evaluation system according to the fourth embodiment;

【符号の説明】[Explanation of symbols]

1 品質評価部、2 対策案生成部、3 記憶部、4
出力部、5 プリンタ部、6 入力部、7 表示部、8
制御部、10 品質評価マトリックス生成部、11
品質評価生成部、12 算出部、13 品質決定部、2
0 品質再評価部、21 残存誤り数算出方法生成部、
22 追加試験方法生成部、23 再評価情報決定部、
24 残存誤り数算出部、25 再算出部、26 品質
再決定部。
1 quality evaluation section, 2 measure plan generation section, 3 storage section, 4
Output unit, 5 printer unit, 6 input unit, 7 display unit, 8
Control unit, 10 Quality evaluation matrix generation unit, 11
Quality evaluation generation unit, 12 calculation unit, 13 quality determination unit, 2
0 quality re-evaluation unit, 21 remaining error number calculation method generation unit,
22 additional test method generation unit, 23 re-evaluation information determination unit,
24 remaining error number calculator, 25 recalculator, 26 quality redeterminer.

【手続補正書】[Procedure amendment]

【提出日】平成11年2月5日[Submission date] February 5, 1999

【手続補正1】[Procedure amendment 1]

【補正対象書類名】明細書[Document name to be amended] Statement

【補正対象項目名】特許請求の範囲[Correction target item name] Claims

【補正方法】変更[Correction method] Change

【補正内容】[Correction contents]

【特許請求の範囲】[Claims]

【手続補正2】[Procedure amendment 2]

【補正対象書類名】明細書[Document name to be amended] Statement

【補正対象項目名】0015[Correction target item name] 0015

【補正方法】変更[Correction method] Change

【補正内容】[Correction contents]

【0015】[0015]

【課題を解決するための手段】以上のような目的を達成
するために、第1の発明に係るソフトウェア品質評価シ
ステムは、コンピュータに用いるソフトウェアの規模に
対するテスト項目数の比である試験密度と、前記ソフト
ウェアの規模に対する前記テスト項目数のテストを前記
ソフトウェアに実行させたときに発生した誤り数の比で
ある誤り検出率とで2次元的に表される品質状態に基づ
いて、ソフトウェアの1次元的な品質評価を行う品質評
価手段と、予想される複数の品質評価結果に対応する複
数の対策案を予め生成する対策案生成手段と、前記品質
評価手段により評価された品質評価結果及びこれに対応
する対策案を出力する出力手段と、を有するものであ
る。
To achieve the above object, a software quality evaluation system according to a first aspect of the present invention includes a test density, which is a ratio of the number of test items to a scale of software used in a computer; Based on a two-dimensional quality state represented by an error detection rate, which is a ratio of the number of errors generated when the software executes the test of the number of test items with respect to the scale of the software, the one-dimensional Quality evaluation means for performing effective quality evaluation, measure proposal generation means for previously generating a plurality of measure plans corresponding to a plurality of expected quality evaluation results, and a quality evaluation result evaluated by the quality evaluation means and Output means for outputting a corresponding measure plan.

【手続補正3】[Procedure amendment 3]

【補正対象書類名】明細書[Document name to be amended] Statement

【補正対象項目名】0016[Correction target item name] 0016

【補正方法】変更[Correction method] Change

【補正内容】[Correction contents]

【0016】第2の発明に係るソフトウェア品質評価シ
ステムは、第1の発明において、前記品質評価手段は、
前記試験密度、前記誤り検出率及び前記試験密度に対す
る前記誤り検出率の比であるヒット率についてそれぞれ
の基準値が設定された場合、これらの基準値に基づい
て、前記試験密度と前記誤り検出率とで2次元的に表さ
れる品質状態を区分し品質評価マトリックスを生成し、
前記試験密度、前記誤り検出率及び前記ヒット率の組に
対しソフトウェアの前記区分された品質状態を対応づけ
る品質評価マトリックスを生成する品質評価マトリック
ス生成手段と、前記品質評価マトリックスの区分により
定義される前記ソフトウェアの各品質状態にそれぞれ対
応する前記各品質評価を生成する品質評価生成手段と、
評価対象のソフトウェアの試験密度及び誤り検出率から
ヒット率を算出する算出手段と前記評価対象のソフトウ
ェアの試験密度、誤り検出率及びヒット率から、前記品
質評価マトリックスに従って、前記評価対象のソフトウ
ェアの品質状態を決定し、前記品質評価生成手段により
生成された各品質評価のうち、前記品質状態に対応する
品質評価を前記品質評価結果として決定する品質決定手
段と、を有するものである。
According to a second aspect of the present invention, in the software quality evaluation system according to the first aspect, the quality evaluation means includes:
When respective reference values are set for the test density, the error detection rate, and a hit rate that is a ratio of the error detection rate to the test density , based on these reference values, the test density and the error detection rate are determined. And two-dimensionally represented by
Classify the quality state to be generated and generate a quality evaluation matrix,
Said test density, the set of error detection rate and the hit ratio
Correspondence the segmented quality status of the software against
A quality evaluation matrix generating means for generating that quality evaluation matrix by classification of the quality evaluation matrix
A quality evaluation generating means for generating said each quality evaluation corresponding to each quality status of the software defined,
The calculating means for calculating the hit rate from the test density and the error detection rate of the software to be evaluated and the test density, the error detection rate and the hit rate of the software to be evaluated, and the quality of the software to be evaluated according to the quality evaluation matrix. And a quality determining means for determining a state and determining, as the quality evaluation result, a quality evaluation corresponding to the quality state among the quality evaluations generated by the quality evaluation generating means.

【手続補正4】[Procedure amendment 4]

【補正対象書類名】明細書[Document name to be amended] Statement

【補正対象項目名】0018[Correction target item name] 0018

【補正方法】変更[Correction method] Change

【補正内容】[Correction contents]

【0018】第4の発明に係るソフトウェア品質評価シ
ステムは、第2又は3の発明において、前記算出手段
は、前記テストにより評価対象のソフトウェアが実行さ
れた度合を示す試験網羅度が得られた場合には、この試
験網羅度を評価対象のソフトウェアの試験密度に乗ずる
ことにより前記試験密度を補正すると共に、評価対象の
ソフトウェアの誤り検出率と前記補正により得られた
たな試験密度とから、ヒット率を算出し、前記品質決定
手段は、評価対象のソフトウェアの誤り検出率、前記新
たな試験密度及び前記ヒット率から、前記品質評価マト
リックスに従って、前記評価対象のソフトウェアの品質
状態を決定し、前記品質評価生成手段により生成された
各品質評価のうち、前記品質状態に対応する品質評価を
決定するものである。
A software quality evaluation system according to a fourth aspect is the software quality evaluation system according to the second or third aspect, wherein the calculating means obtains a test coverage indicating a degree of execution of the software to be evaluated by the test. the, cunning multiply the test coverage to test the density of the evaluation target software
By correcting the test density, a hit rate is calculated from the error detection rate of the software to be evaluated and the new test density obtained by the correction , and the quality determination unit evaluates the hit rate. From the error detection rate of the target software, the new test density and the hit rate, determine the quality state of the evaluation target software according to the quality evaluation matrix, and determine the quality state of each quality evaluation generated by the quality evaluation generation unit. The quality evaluation corresponding to the quality state is determined.

【手続補正5】[Procedure amendment 5]

【補正対象書類名】明細書[Document name to be amended] Statement

【補正対象項目名】0019[Correction target item name] 0019

【補正方法】変更[Correction method] Change

【補正内容】[Correction contents]

【0019】第5の発明に係るソフトウェア品質評価シ
ステムは、第2又は3の発明において、前記算出手段
は、評価対象のソフトウェアに対して施したテストの中
間段階までのテスト進行度に対する誤り数の関係から、
予定したテストの完了時点での検出誤り数を当該テスト
の中間段階において予測して成長予測曲線を算出し、こ
の成長予測曲線に基づいて予測されたテスト終了後の
誤り数から予測誤り検出率を算出すると共に、この予
測誤り検出率とテスト終了後の試験密度とからヒット率
を算出し、前記品質決定手段は、前記テスト終了後の試
験密度、前記予測誤り検出率及び前記ヒット率から、前
記品質評価マトリックスに従って、前記評価対象のソフ
トウェアの品質状態を決定し、前記品質評価生成手段に
より生成された各品質評価のうち、前記品質状態に対応
する品質評価を決定するものである。
According to a fifth aspect of the present invention, in the software quality evaluation system according to the second or third aspect, the calculating means calculates the number of errors with respect to a test progress up to an intermediate stage of a test performed on software to be evaluated. From the relationship,
The number of detection errors at the completion of the scheduled test
Biopsies predicts the intermediate stage to calculate the growth prediction curve, the predicted After testing on the basis of this growth prediction curve
The prediction error detection rate is calculated from the number of outgoing errors, and the hit rate is calculated from the prediction error detection rate and the test density after the end of the test. From the detection rate and the hit rate, the quality state of the software to be evaluated is determined according to the quality evaluation matrix, and among the quality evaluations generated by the quality evaluation generation unit, the quality evaluation corresponding to the quality state is determined. To decide.

【手続補正6】[Procedure amendment 6]

【補正対象書類名】明細書[Document name to be amended] Statement

【補正対象項目名】0083[Correction target item name] 0083

【補正方法】変更[Correction method] Change

【補正内容】[Correction contents]

【0083】ステップS222では、制御部8が品質評
価出力部14を制御して品質決定部13により決定され
た品質評価(各品質評価1〜12のうちいずれか)を出
力させると共に、対策案出力部15を制御して上記品質
評価(各品質評価1〜12のうちいずれか)に対応する
対策案(各対策案のうちいずれか)を出力させる。制御
部8はこれらの出力結果を表示部7に表示させる。そし
て、制御部8は、上記品質評価及びその対策案をまとめ
た評価対策結果データを識別する評価対策結果データ名
を入力するように作業者に対して指示する旨を表示部
に表示させる。
In step S222, the control section 8 controls the quality evaluation output section 14 to output the quality evaluation determined by the quality determination section 13 (any one of the quality evaluations 1 to 12) and to output the countermeasure plan. The unit 15 is controlled to output a measure (one of the measure plans) corresponding to the quality evaluation (one of the quality evaluations 1 to 12). The control unit 8 causes the display unit 7 to display these output results. Then, the control unit 8, the display unit 7 that it will instruct the operator to enter the evaluation measures result data name that identifies the evaluation measures result data summarizing the quality evaluation and its countermeasure
To be displayed.

───────────────────────────────────────────────────── フロントページの続き (72)発明者 木曽 晋也 東京都千代田区丸の内二丁目2番3号 三 菱電機株式会社内 (72)発明者 山崎 敏和 東京都千代田区丸の内二丁目2番3号 三 菱電機株式会社内 (72)発明者 高野 茂樹 東京都千代田区丸の内二丁目2番3号 三 菱電機株式会社内 (72)発明者 岩井 亮 東京都千代田区丸の内二丁目2番3号 三 菱電機株式会社内 (72)発明者 樋渡 雅彦 東京都千代田区丸の内二丁目2番3号 三 菱電機株式会社内 (72)発明者 鈴木 人司 東京都千代田区丸の内二丁目2番3号 三 菱電機株式会社内 ──────────────────────────────────────────────────続 き Continuation of the front page (72) Inventor Shinya Kiso 2-3-2 Marunouchi, Chiyoda-ku, Tokyo Mitsui Electric Co., Ltd. (72) Inventor Toshikazu Yamazaki 2-3-2 Marunouchi, Chiyoda-ku, Tokyo Rishi Electric Co., Ltd. (72) Inventor Shigeki Takano 2-3-2 Marunouchi, Chiyoda-ku, Tokyo Mitsui Electric Co., Ltd. (72) Inventor Ryo Iwai 2-3-2 Marunouchi, Chiyoda-ku, Tokyo Mitsui Electric (72) Inventor Masahiko Hiwatari 2-3-2 Marunouchi, Chiyoda-ku, Tokyo Mitsui Electric Co., Ltd. (72) Inventor Hitoshi Suzuki 2-3-2 Marunouchi, Chiyoda-ku, Tokyo Mitsubishi Electric Co., Ltd. In company

Claims (8)

【特許請求の範囲】[Claims] 【請求項1】 コンピュータに用いるソフトウェアの規
模に対するテスト項目数の比である試験密度と、前記ソ
フトウェアの規模に対する前記テスト項目数のテストを
前記ソフトウェアに実行させたときに発生した誤り数の
比である誤り検出率と、に基づいて、ソフトウェアの品
質評価を行う品質評価手段と、 予想される複数の品質評価結果に対応する複数の対策案
を予め生成する対策案生成手段と、 前記品質評価手段により評価された品質評価結果及びこ
れに対応する対策案を出力する出力手段と、を有するこ
とを特徴とするソフトウェア品質評価システム。
1. A test density, which is a ratio of the number of test items to a scale of software used in a computer, and a ratio of an error number generated when the software executes the test of the number of test items to the scale of the software. A quality evaluation means for performing software quality evaluation based on a certain error detection rate; a measure proposal generation means for previously generating a plurality of measure plans corresponding to a plurality of expected quality evaluation results; and the quality evaluation means. Output means for outputting the quality evaluation result evaluated by the above and a countermeasure plan corresponding thereto.
【請求項2】 前記品質評価手段は、前記試験密度、前
記誤り検出率及び前記試験密度に対する前記誤り検出率
の比であるヒット率についてそれぞれの基準値が設定さ
れた場合、これらの基準値に基づいて、複数の試験密
度、複数の誤り検出率及び複数のヒット率と、複数のソ
フトウェアの品質状態と、がそれぞれ対応づけられた品
質評価マトリックスを生成する品質評価マトリックス生
成手段と、 ソフトウェアの各品質状態にそれぞれ対応する各品質評
価を生成する品質評価生成手段と、 評価対象のソフトウェアの試験密度及び誤り検出率から
ヒット率を算出する算出手段と、 前記評価対象のソフトウェアの試験密度、誤り検出率及
びヒット率から、前記品質評価マトリックスに従って、
前記評価対象のソフトウェアの品質状態を決定し、前記
品質評価生成手段により生成された各品質評価のうち、
前記品質状態に対応する品質評価を前記品質評価結果と
して決定する品質決定手段と、を有することを特徴とす
る請求項1に記載のソフトウェア品質評価システム。
2. The quality evaluation unit according to claim 1, wherein said test density, said error detection rate, and a hit rate, which is a ratio of said error detection rate to said test density, are set. Quality evaluation matrix generating means for generating a quality evaluation matrix in which a plurality of test densities, a plurality of error detection rates and a plurality of hit rates, and a plurality of software quality states are respectively associated with each other, Quality evaluation generating means for generating each quality evaluation corresponding to a quality state; calculating means for calculating a hit rate from a test density and an error detection rate of software to be evaluated; test density and error detection of the software to be evaluated From the rate and hit rate, according to the quality evaluation matrix,
Determine the quality state of the software to be evaluated, among the quality evaluations generated by the quality evaluation generation means,
The software quality evaluation system according to claim 1, further comprising: a quality determination unit configured to determine a quality evaluation corresponding to the quality state as the quality evaluation result.
【請求項3】 前記対策案生成手段は、前記複数の対策
案として、前記品質評価生成手段により生成された各品
質評価にそれぞれ対応する各対策案を生成し、 前記出
力手段は、前記品質評価結果として、前記品質決定手段
により決定された品質評価を出力する品質評価出力手段
と、 前記品質評価結果と対応する対策案として、前記対策案
生成手段により生成された各対策案のうち、前記品質決
定手段により決定された品質評価と対応する対策案を出
力する対策案出力手段と、を有することを特徴とする請
求項2に記載のソフトウェア品質評価システム。
3. The measure plan generating means generates, as the plurality of measure plans, respective measure plans respectively corresponding to the quality evaluations generated by the quality evaluation generating means, and the output means comprises: As a result, a quality evaluation output unit that outputs the quality evaluation determined by the quality determination unit, and, as a countermeasure plan corresponding to the quality evaluation result, among the countermeasure plans generated by the countermeasure plan generation unit, the quality 3. The software quality evaluation system according to claim 2, further comprising: a measure proposal output unit that outputs a measure proposal corresponding to the quality evaluation determined by the determination unit.
【請求項4】 前記算出手段は、前記テストにより評価
対象のソフトウェアが実行された度合を示す試験網羅度
が入力された場合、この試験網羅度を評価対象のソフト
ウェアの試験密度に乗じて新たな試験密度を算出すると
共に、評価対象のソフトウェアの誤り検出率と前記新た
な試験密度とから、ヒット率を算出し、 前記品質決定手段は、評価対象のソフトウェアの誤り検
出率、前記新たな試験密度及び前記ヒット率から、前記
品質評価マトリックスに従って、前記評価対象のソフト
ウェアの品質状態を決定し、前記品質評価生成手段によ
り生成された各品質評価のうち、前記品質状態に対応す
る品質評価を決定することを特徴とする請求項2又は3
に記載のソフトウェア品質評価システム。
4. When the test coverage indicating the degree of execution of the software to be evaluated by the test is input, the calculation unit multiplies the test coverage by the test density of the software to be evaluated and generates a new test coverage. The test density is calculated, and the hit rate is calculated from the error detection rate of the software to be evaluated and the new test density. The quality determining means includes an error detection rate of the software to be evaluated, and the new test density. Determining the quality state of the software to be evaluated from the hit rate according to the quality evaluation matrix, and determining a quality evaluation corresponding to the quality state among the quality evaluations generated by the quality evaluation generation unit. 4. The method according to claim 2, wherein
Software quality evaluation system described in.
【請求項5】 前記算出手段は、評価対象のソフトウェ
アに対して施したテストの中間段階までのテスト進行度
に対する誤り数の関係から、誤り数の成長予測曲線を算
出し、この成長予測曲線に基づいて予測されたテスト終
了後の誤り数から予測誤り検出率を算出すると共に、こ
の予測誤り検出率とテスト終了後の試験密度とからヒッ
ト率を算出し、 前記品質決定手段は、前記テスト終了後の試験密度、前
記予測誤り検出率及び前記ヒット率から、前記品質評価
マトリックスに従って、前記評価対象のソフトウェアの
品質状態を決定し、前記品質評価生成手段により生成さ
れた各品質評価のうち、前記品質状態に対応する品質評
価を決定することを特徴とする請求項2又は3に記載の
ソフトウェア品質評価システム。
5. The calculation means calculates a growth prediction curve of the number of errors from a relation of the number of errors with respect to a test progress up to an intermediate stage of a test performed on software to be evaluated. The prediction error detection rate is calculated from the number of errors after the test, which is predicted based on the test error, and the hit rate is calculated from the prediction error detection rate and the test density after the test is completed. From the subsequent test density, the prediction error detection rate and the hit rate, the quality state of the software to be evaluated is determined according to the quality evaluation matrix, and among the quality evaluations generated by the quality evaluation generation means, 4. The software quality evaluation system according to claim 2, wherein a quality evaluation corresponding to the quality state is determined.
【請求項6】 前記品質評価手段は、前記品質評価手段
により評価された品質評価を再度評価する品質再評価手
段を有することを特徴とする請求項1に記載のソフトウ
ェア品質評価システム。
6. The software quality evaluation system according to claim 1, wherein said quality evaluation means includes quality re-evaluation means for re-evaluating the quality evaluation evaluated by said quality evaluation means.
【請求項7】 前記品質再評価手段は、前記テストによ
るソフトウェアの実行不足のため検出されていないと予
測できる残存誤り数を算出する方法を品質評価結果毎に
生成する残存誤り数算出方法生成手段と、 品質評価結果毎に追加試験方法を生成する追加試験方法
生成手段と、 評価対象のソフトウェアに対して、前記品質評価手段に
より評価された品質評価結果と対応する残存誤り数算出
方法及び追加試験方法を決定する再評価情報決定手段
と、 この再評価情報決定手段により決定された残存誤り数算
出方法に従って、残存誤り数を算出する残存誤り数算出
手段と、 前記残存誤り数算出手段により算出された残存誤り数
と、前記再評価情報決定手段により決定された追加試験
方法と、に基づいたテストを評価対象のソフトウェアに
実行させた結果を考慮して、評価対象のソフトウェアの
試験密度、誤り検出率を再算出する再算出手段と、 再算出された試験密度及び誤り検出率に基づいて、評価
対象のソフトウェアの品質を再決定する品質再決定手段
と、を有することを特徴とする請求項6に記載のソフト
ウェア品質評価システム。
7. The residual error number calculating method generating means for generating, for each quality evaluation result, a method for calculating a residual error number that can be predicted not to be detected due to insufficient execution of software by the test. An additional test method generating means for generating an additional test method for each quality evaluation result; a method for calculating the number of residual errors corresponding to the quality evaluation result evaluated by the quality evaluation means for software to be evaluated; and an additional test. Re-evaluation information determining means for determining a method; remaining error number calculating means for calculating the number of remaining errors according to the remaining error number calculating method determined by the re-evaluation information determining means; The test based on the number of remaining errors and the additional test method determined by the re-evaluation information determining means is executed on the software to be evaluated. Recalculation means for recalculating the test density and error detection rate of the software to be evaluated in consideration of the results of the evaluation, and redetermining the quality of the software to be evaluated based on the recalculated test density and error detection rate 7. The software quality evaluation system according to claim 6, comprising:
【請求項8】 前記対策案生成手段は、前記複数の対策
案として、複数の品質強化対策案を生成することを特徴
とする請求項1又は6に記載のソフトウェア品質評価シ
ステム。
8. The software quality evaluation system according to claim 1, wherein the measure proposal generating means generates a plurality of quality enhancement measure plans as the plurality of measure plans.
JP10025872A 1998-02-06 1998-02-06 Software quality evaluation system Expired - Lifetime JP3088697B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP10025872A JP3088697B2 (en) 1998-02-06 1998-02-06 Software quality evaluation system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP10025872A JP3088697B2 (en) 1998-02-06 1998-02-06 Software quality evaluation system

Publications (2)

Publication Number Publication Date
JPH11224187A true JPH11224187A (en) 1999-08-17
JP3088697B2 JP3088697B2 (en) 2000-09-18

Family

ID=12177890

Family Applications (1)

Application Number Title Priority Date Filing Date
JP10025872A Expired - Lifetime JP3088697B2 (en) 1998-02-06 1998-02-06 Software quality evaluation system

Country Status (1)

Country Link
JP (1) JP3088697B2 (en)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003345918A (en) * 2002-05-27 2003-12-05 Nec Corp System and method for software quality control
JP2004086319A (en) * 2002-08-23 2004-03-18 Hitachi Information Systems Ltd Software quality evaluating method and quality evaluating system
JP2008165491A (en) * 2006-12-28 2008-07-17 Hitachi Ltd Software quality evaluation device and method
JP2014123246A (en) * 2012-12-21 2014-07-03 Mitsubishi Electric Corp Software reliability evaluation device, software reliability evaluation method, and program
JP2021043811A (en) * 2019-09-12 2021-03-18 Nttテクノクロス株式会社 Quality management device, quality management method, and program
KR102498062B1 (en) * 2022-08-03 2023-02-10 주식회사 티유컨설팅 Metadata management system

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003345918A (en) * 2002-05-27 2003-12-05 Nec Corp System and method for software quality control
JP2004086319A (en) * 2002-08-23 2004-03-18 Hitachi Information Systems Ltd Software quality evaluating method and quality evaluating system
JP2008165491A (en) * 2006-12-28 2008-07-17 Hitachi Ltd Software quality evaluation device and method
JP2014123246A (en) * 2012-12-21 2014-07-03 Mitsubishi Electric Corp Software reliability evaluation device, software reliability evaluation method, and program
JP2021043811A (en) * 2019-09-12 2021-03-18 Nttテクノクロス株式会社 Quality management device, quality management method, and program
KR102498062B1 (en) * 2022-08-03 2023-02-10 주식회사 티유컨설팅 Metadata management system

Also Published As

Publication number Publication date
JP3088697B2 (en) 2000-09-18

Similar Documents

Publication Publication Date Title
US20070091355A1 (en) System and method for dynamically reconfiguring one or more autonomous cells in a print shop environment
US20050210442A1 (en) Method and system for planning and control/estimation of software size driven by standard representation of software structure
JP6124232B1 (en) Financial forecasting system, financial forecasting method, and financial forecasting program
US20100177330A1 (en) Job-specific print defect management
JP5338492B2 (en) Input variable selection support device
EP4053782A1 (en) Workflow system, information processing device, method for preparing quality report data, and program
WO2008020468A1 (en) Program analyzing method and device
JP3088697B2 (en) Software quality evaluation system
US20110228338A1 (en) System and method for developing a print shop configuration
EP3876090B1 (en) Printing method
JP2021184303A (en) Management device and program for management device
JP2000039905A (en) Factory plan preparing device
JP4631809B2 (en) Defect classification system, image forming apparatus, and defect classification program
Wewerka et al. Seven guidelines for designing the user interface in robotic process automation
JP2006004207A (en) Service level contract support device
WO2019092854A1 (en) Index calculation device, index calculation method, and recording medium having index calculation program recorded thereon
JP7223947B2 (en) Manufacturing condition calculation device, manufacturing condition calculation method, and manufacturing condition calculation program
JP2002117164A (en) Repair cost predicting system for working vehicle
WO2010073311A1 (en) Component safety inventory amount calculating method, program for executing same, and device for executing same
JP2011170898A (en) User evaluation apparatus depending on hardware usage status
CN116993116B (en) Distribution method and equipment for outsourcing human resources
CN117670263B (en) Annotating method, device, equipment and medium of approval process
JP5880144B2 (en) Information processing apparatus and information processing program
JP2024121457A (en) Information processing system and program
US20240169220A1 (en) Computer system and model evaluation method

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20070714

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080714

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090714

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100714

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100714

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110714

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110714

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120714

Year of fee payment: 12

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120714

Year of fee payment: 12

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130714

Year of fee payment: 13

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term