JP2011503723A - 統計的試験手法を用いて試験計画を作成するための方法(method)及び装置 - Google Patents

統計的試験手法を用いて試験計画を作成するための方法(method)及び装置 Download PDF

Info

Publication number
JP2011503723A
JP2011503723A JP2010533257A JP2010533257A JP2011503723A JP 2011503723 A JP2011503723 A JP 2011503723A JP 2010533257 A JP2010533257 A JP 2010533257A JP 2010533257 A JP2010533257 A JP 2010533257A JP 2011503723 A JP2011503723 A JP 2011503723A
Authority
JP
Japan
Prior art keywords
factors
test
doe
cdm
interactions
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2010533257A
Other languages
English (en)
Inventor
オシェア,ロバート・ディー
ヘニン,サイモン・ジェイ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Raytheon Co
Original Assignee
Raytheon Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Raytheon Co filed Critical Raytheon Co
Publication of JP2011503723A publication Critical patent/JP2011503723A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/22Detection or location of defective computer hardware by testing during standby operation or during idle time, e.g. start-up testing
    • G06F11/26Functional testing
    • G06F11/263Generation of test inputs, e.g. test vectors, patterns or sequences ; with adaptation of the tested hardware for testability with external testers

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Quality & Reliability (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Testing Or Calibration Of Command Recording Devices (AREA)

Abstract

或るシステムのための1組の試験を作成するための方法が、実験計画(DOE)試験において用いる複数の因子を特定すること、DOEにおいて複数の因子をそれぞれ用いること、DOE試験を通して、システムの出力に有意な影響を及ぼす1つ又は複数の因子を特定すること、組み合わせ計画法(CDM)にその1つ又は複数の因子のみを取り入れること、及びDOE入力を用いて、CDMに基づいて第1の試験マトリックスを作成することを含む。その後、その方法の特有の部分は、CDMマトリックスに、DOEによって特定されるような、2因子間よりも高次の相互作用を追加し、それにより、最適化された1組の試験事例を作成する。CDMからの最終的な試験マトリックスへの入力として、DOEの感度出力を用いることによって、手頃であるが、包括的な試験手法が提供される。
【選択図】図1

Description

本発明はシステム試験を実施することに関し、より詳細には、試験計画を作成するためのシステム及び技法に関する。
当該技術分野において知られているように、製品又はシステムを市販する前に、種々の異なる動作環境において適切に動作するのを確実にするために、システムを試験する必要がある。しかしながら、システムによっては、考えられる試験シナリオが広範囲に及ぶため、そのシステムを完全に試験するのが相対的に難しくなる場合がある。たとえば、システムの中には、数多くの独立因子(すなわち、互いに因果関係を持たない因子)から構成されるシナリオを課せられるものもある。シナリオの考えられる組み合わせの数を非常に大きくするように、独立因子を異なる組み合わせの中に取り込むことができるが、シナリオの全ての異なる組み合わせを試験するのが現実的ではなくなる。独立因子の或る特定の未知の組み合わせが或る量だけシステム性能に悪影響を及ぼす可能性があり、結果としてシステム性能が望ましくないレベルになる(さらには、システムが許容レベルにおいて動作できなくなるまで)という事実によって、この問題は深刻になる。逆に、適用によっては、重要でない独立因子の或る組み合わせが存在する場合がある(すなわち、それらの因子はシステム性能に有意な影響を一切及ぼさない)が、システム使用者は、いずれの組み合わせがそのカテゴリに入るか確信が持てない。
そのような独立変数の全ての考えられる組み合わせ及び順列を試験することは、時間を要する作業となる可能性があるだけでなく、多額の費用がかかり、処理資源及び処理時間に関してもかなり必要となる可能性がある。さらに、多くの場合に、配置場所において試験を実行する必要があり、費用がかかる現地試験を実行するのに必要とされる時間にわたって、配置場所にアクセスするのは難しいか、又は不可能である場合がある。
境界防衛(perimeter defense)システムは、天候、照明、温度、景観及びセンサ特性のような複数の独立因子が無数の考えられる組み合わせを有するシステムの一例である。システム検出及び誤認警報率に関して要求される性能レベルを満たすために、それらの因子の値を変更する必要があり、それにより何度も試験を行なう必要がある。そのようなシステムにおいて試験を実行するために必要とされるコスト及び時間は法外である。したがって、広範なシナリオにわたってシステムが所望のように動作するのを確実にするように、境界防衛システムを試験するのは難しい。
大抵の場合に、システム使用者(たとえば、顧客)及びシステム供給者(たとえば、請負業者)はいずれも、システムが動作しなければならない全ての考えられるシナリオ(すなわち、種々の因子の全ての考えられる組み合わせ)を試験するだけの十分な時間又は資源がないことを認識している。多くの場合に、システム使用者とシステム供給者との間の適正な判断及び交渉を経て、試験条件のリストに関する互いの合意が形成される。1組の試験シナリオを与えるために用いられる1つの手法は、いわゆる組み合わせ計画法(CDM:Combinational Design Methodology)であり、高スループット試験法(HTT:High Throughput Testing)としても知られている。この手法では、統計解析において多数の因子が考慮に入れられ、提案される1組の試験シナリオに達する。しかしながら、従来のCDM手法は、2因子間(two-way)相互作用を取り込むだけである。
本明細書において記述される概念及び技法によれば、システムのための1組の試験を作成するための方法(process)が、実験計画(design of experiments)(別名、計画実験(Designed Experiments))(DOE)試験において用いる複数の因子を特定すること;DOEにおいて複数の因子をそれぞれ用いること;DOE試験を通して、システムの出力に有意な影響を及ぼす1つ又は複数の因子を特定すること;組み合わせ計画法(CDM)にその1つ又は複数の因子のみを取り入れること;及びCDMへの入力として、DOEにおいて有意であると特定される因子を用いて、第1の試験マトリックスを作成することを含む。
この特定の方式(arrangement)を用いて、システムが影響を受けやすい実質的に全て(又は場合によっては全て)の条件を取り込む複数の試験を作成するための方法が提供される。各試験は、因子又は条件の組み合わせを含む。DOE技法及びCDM技法を組み合わせることによって、試験マトリックスに取り入れるために、複数の考えられる試験のうちの選択された試験が特定される。このようにして、システムが影響を受けやすい実質的に全て(又は場合によっては全て)の条件を試験する、(考えられる試験の全数と比べて)相対的に少ない数の試験が特定される。
したがって、本明細書において記述される技法は、DOE方法とCDM方法との組み合わせを利用して試験組み合わせを作成する。したがって、試験マトリックスに取り入れる試験は、統計的方法(DOE及びCDMに基づく)を用いて選択される。本明細書において記述される技法を用いるとき、特定のシステム又は方法を試験するために指定される試験組み合わせ数は、従来の試験作成技法を用いるときに本来必要とされることになる試験組み合わせ数よりも少ない。また、その方法は、統計に基づく信頼水準も提供する。DOEにおいて、独立因子(又は独立変数)は、観測される現象(すなわち、観測されている従属変数又はシステム特性)に対する関係を求めるために実験者によって制御又は選択される値を有する因子である。そのような1組の実験では、独立因子の値が、観測されているシステム特性(複数可)(すなわち、測定されているシステム特性又は従属変数)の値を求めるという証拠を見つけるための試みが行なわれる。独立因子は、必要に応じて変更することができる。
本明細書において記述される概念及び技法のさらなる態様によれば、或る方法が、1つ又は複数の計画実験を用いて、感度解析を提供し、且つ組み合わせられるときに、測定されている1つ又は複数のシステム出力に対して有意になる2つ以上の独立因子を探索することを含む。一実施の形態では、Air Academy Associates(Texas)からDOE PROの商品名で販売されている製品が、因子毎のP(2)tail値を計算する。一実施の形態では、0.05以下のP(2)tail値を有する各因子が有意であると見なされる。他の実施の形態では、他のP(2)tail値(すなわち、0.05よりも大きいか、又は小さい値)を用いて、有意であると見なされる因子を区別又は定義することができる。当然、有意な因子を特定するために他の技法を用いることもできることを理解されたい。たとえば、概説すると、DOEは、因子と検討対象の出力との間の因果関係をモデル化する等式を生成する。したがって、有意であると見なされる因子を特定する1つの技法は、その等式において最も大きな係数を有する因子を単に選択することであろう。
既存の他の技法、又はまだ知られていないような技法を用いて、有意な因子(統計的、実験的のいずれか)を求めることができるのであれば、DOE技法の代わりに、又はそれと組み合わせて、そのような技法を用いることができることも理解されたい。
一般的に、当業者は、計画実験から有意な因子を見つけるために用いることができる他の技法を理解するであろう。
独立因子(又は変数)の或る特定の組み合わせの影響が記録される。回帰分析を用いて、有意性によってそれらの因子、及びそれらの因子間の任意の有意な相互作用を順位付けする(有意な相互作用は、上述のようなDOE PRO P(2)tailを計算することによって特定することもできる)。次に、最も有意性の高い因子が、組み合わせ計画法(CDM)に取り入れられる。CDMは、CDM試験マトリックス内の有意な因子間の全ての2因子間相互作用を特定する。3つ以上の因子を伴う任意の相互作用を、CDM試験マトリックスに追加することができる(そして、好ましくは追加される)。その後、その試験の確率及び信頼水準要件、並びに性質に基づいて、要求されるサンプルサイズが計算される。二項曲線のような標準的な技法を用いて、サンプルサイズを求めることができる。CDM試験マトリックスが、それだけでは、所望の(又は要求される)サンプルサイズを満たさない場合には、その試験マトリックスは、プログラムによって望まれる(又は要求される)サンプルサイズを満たすほど十分に何度も繰り返される。
最初にDOE手法を用いて、システムが影響を受けやすい数多くの因子の相対的な寄与を理解し、その後、CDMを用いることによって求められるような、実質的に最適化され、且つ実質的に最小化された、最も有意性の高い因子から成る試験マトリックスを試験することによって、試験場所におけるフィールド試験の混乱を小さくし(そして、場合によっては最小限に抑えることができ)、システムが所望の動作要件を満たすという、統計に基づく確信が得られる。
この特定の方式を用いて、サンプルサイズ計算及び実験計画(DOE)と、組み合わせ計画法(CDM)とを組み合わせて、包括的であり、且つ統計に基づく手頃な試験マトリックスを提供する方法が提供される。その結果として、システム性能が影響を受けやすい全ての、又は実質的に全ての条件を取り込む、少ない(そして、場合によっては最小の)数の試験組み合わせが特定される。それらの試験は、統計的技法を用いて特定され、統計に基づく信頼水準を与える。このようにして、特定される試験の数は、考えられる試験がそれぞれ実行される場合に実行され得る最大限の試験数より少ない数まで減らされる。
本明細書において記述される1つの態様は、DOEを用いて、CDMへの入力を生成することである。詳細には、DOEの感度出力を用いて、CDMからの最終的な試験マトリックスへの入力として用いられることになる有意な因子を特定する結果として、包括的な試験マトリックスが作成される。試験マトリックスに取り入れられる試験の数は、従来の技法を用いるときに取り入れられることになる試験の数よりも少ないため、本明細書において記述される手法の結果として、試験プログラムが、従来の技法を用いて作成される試験プログラムよりも安価になる(それゆえ、手頃になる)。
本発明の上記の特徴、及び本発明自体は、図面に関する以下の説明からさらに十分に理解することができる。
複雑なシステムを試験するための1組の試験を作成するためのシステムのブロック図である。 複雑なシステムを試験するための1組の試験を作成するための方法の流れ図である。 センサのための1つの例示的な特性要因図である。 図3の例示的な特性要因図の代替の表現の図である。 1つの例示的な一部実施要因(Fractional Fractorial)実験計画(DOE)マトリックスの図である。 DOEマトリックス内の各因子の相対感度をプロットする1つの例示的な棒グラフである。 誤認警報率(FAR)に対する温度及び風の有意性を示す1つの例示的な表面プロットを示す図である。 受入前(Pre-Acceptance)試験のための1つの例示的な特性要因図である。 図6の例示的な特性要因図の代替の表現を示す図である。 1つの例示的な受入前試験DOEマトリックスの図である。 ゾーン特性例を含む空港ゾーンのための1つの例示的なゾーン分類法の図である。 フィールド受入試験(FLDAT)のための因子及びレベルを示す1つの例示的な試験表の図である。 1つの例示的なFLDAT組み合わせ計画マトリックスの図である。 一対の例示的な二項(合否)サンプルサイズ計算の場合のサンプルサイズ対失敗許容数のプロットである。 本明細書において記述される方法を実施することができるコンピュータ又は処理システムのブロック図である。
実験計画法(experimental design)又は実験計画(DOE)は、或る方法(又は活動又はシステム)への入力(因子)の意図的な変化を利用して、その方法(又は活動又はシステム)の出力(又は応答)の対応する変化を観測するための手法と定義されている。その方法(又は活動又はシステム)は、一緒に用いられるときに、或るサービスを実行するか、或る製品を製造するか、又は或る作業を実行する機械、材料、方法、人、環境及び測定の或る組み合わせと定義される。したがって、DOEは、或る方法の理解をさらに深めるために、且つ或るシステム(或る方法を含む)への入力がシステム応答(複数可)又は出力(複数可)にいかに影響を及ぼすかを判断するために、研究者が知識を得ることができるようにする科学的手法である。
ここで図1を参照すると、全体として10で表される、参照符号10a〜10Nで特定される複数の因子1〜Nを用いて、実験計画(DOE)試験マトリックス12が与えられる。この例示的な実施形態では、スクリーニングDOE12が用いられるが、任意のタイプのDOEを用いてもよいことを当業者は理解されたい。スクリーニングDOE試験を実行して、1つ又は複数の有意な因子14が特定される。一実施形態では、Air Academy Associates(Texas)からDOE PROの商品名で販売されているソフトウエアプログラムが因子毎のP(2)tail値を計算する。一実施形態では、0.05以下のP(2)tail値を有する各因子が有意であると見なされる。
有意な因子14はそれぞれ、組み合わせ計画法(CDM)16に与えられる。CDMは、高次の因子を考慮することなく、有意な因子間の全ての2因子間相互作用を特定するために用いられ、ブロック18において示されるように、試験事例のマトリックスを与える。参照符号19によって示されるように、且つ図10との関連で以下でさらに詳細に説明されるように、最初に試験事例のCDMマトリックスが確立されると、その後、さらに高次の有意な相互作用を伴う試験事例が、試験事例のCDMマトリックスに追加される。このようにして、DOEを用いてCDMに入力するための因子を生成する結果として、試験マトリックス18は、最適化されたか又は実質的に最適化された試験事例を有するようになる。試験を最適化することは、失敗を実効的に取り込み、同時にコスト及び時間に関して有効である試験を作成する技術である。DOEスクリーニングは、それらの試験が、失敗を引き起こす可能性がある最も有意性の高い因子に基づくことを確実にする。その後、CDMは、非常に効率的であり、且つ実用的である試験事例のマトリックス18を作成する。この手法は、必要とされる全体的な試験数を削減し、それゆえ、試験場所における混乱の数を削減する。同時に、この技法は、統計に基づく1組の試験事例を与える。統計に基づく1組の試験事例を利用することによって、試験されているシステム又は方法が所望の要件(たとえば、所望の確率及び信頼水準要件)を満たすという所望の信頼水準を確立する。
その後、その試験マトリックスを用いて、ゾーン因子22、24(たとえば、ゾーン及びゾーンタイプグループ化)、サンプリング要件26、信頼要件28及び要求されるサンプルサイズ30のような因子も考慮に入れながら、フィールド試験20が行なわれる。
スクリーニングDOE12において特定される有意な特性は、ブロック22において示されるように、複数の取り得るゾーンから1つ又は複数の有意なゾーン特性を特定するためにも用いられる。その後、ブロック24において示されるように、各試験場所における全ての検出ゾーンがそれぞれ、1組のゾーンタイプに分類される。好ましい実施形態では、各試験場所における検出ゾーンは最小の1組のゾーンタイプに分類される。全ての試験場所にわたって同じゾーンタイプ定義を用いることができるが、試験場所によっては、全てのゾーンタイプを有するとは限らないことを理解されたい。また、各ゾーンタイプ内のゾーンの量が場所によって異なることも理解されたい。特有のゾーンには、その自らのゾーンタイプを与えることができる。
ブロック26において示されるように、フィールド試験20の一部として、特定のタイプのゾーンがランダムに選択される。組み合わせ計画マトリックス18に従って全ての条件を変更しながら、ゾーンタイプがランダムに選択される。
いくつかの実施形態では、重要なパラメータのための要件は、最小のサンプルサイズ又は試行を必要とする信頼水準を含む。したがって、フィールド試験20を行なう前に、信頼要件28及び二項サンプルサイズ又は試行30が選択される。
ここで図2を参照すると、或るシステムに関する試験マトリックスを与えるための1つの例示的な方法31を示す流れ図が、処理ブロック32において、1組のスクリーニング実験計画(DOE)において用いられることになる複数の因子を特定することによって開始される。スクリーニングDOEを用いて、試験されることになるシステムの性能特性(たとえば、出力特性)に影響を及ぼす1組の因子が特定される。
ブロック34において示されるように、有意な因子が特定されるように、それらの因子は順位付けされる。すなわち、DOE試験は、測定されているシステム性能特性に有意な影響を及ぼす因子を明らかにする。そのような因子は、本明細書において、有意な因子と呼ばれる。有意な因子を特定するために任意の技法を用いることができるため、順位付けはオプションである。
有意な因子を特定した後に、処理ブロック36において示されるように、それらの因子は、組み合わせ計画法(CDM)への入力として用いられることになる第1の1組の因子として取り入れられる。CDMは、第1の1組の因子間の全ての2因子間相互作用を特定し、そのシステムを試験するために必要とされる試験事例の数を含むCDM試験マトリックスを与える。
さらに、処理ブロック38において示されるように、3つ以上の因子を伴う有意性の任意の相互作用が、CDM試験マトリックスに追加される。CDM試験マトリックスが確立されると、処理ブロック40において示されるように、試験の確率及び信頼水準要件並びに性質に基づいて、要求されるサンプルサイズを計算する必要がある。
その後、ブロック42において示されるように、計算されたサンプルサイズと試験マトリックスとの間の比較が行われる。
処理ブロック44において示されるように、要求されるサンプルサイズを満たすために、試験マトリックスが繰り返される。たとえば、CDMマトリックスが結果として6つの試験事例(シナリオ)を生成し、予め選択された信頼水準を満たすために要求されるサンプルサイズが45試行である場合には、6つの試験事例が8回繰り返され、それにより、結果として、6つの固有の試験シナリオの混合物から48試験試行が構成される。
図3〜図11は、境界侵入検知システム(PIDS)の重要なパラメータの試験に関連する1つの例示的な実施形態を示す。詳細には、図3〜図11は、PIDSのための受入試験計画(ATP)において用いるための試験マトリックスを作成するシステム及び方法を示す。PIDの重要なパラメータは検出確率(Pd)と特定される。なぜなら、このパラメータはPIDシステムの全体性能を大きく左右すると考えられるからである。試験下のシステム(この場合にはPID)は2つ以上の重要なパラメータを有する場合があることを理解されたい。この例では、本明細書において記述され、特許請求される、より一般的な概念を記述及び説明する際に明確にするのを助長するために、ただ1つの重要なパラメータだけが特定されている。
また本明細書において、1つ又は複数のセンサから構成され、空港に配置されるPIDシステムが参照され、そのPIDSは空港セキュリティシステムとしての役割を果たす。したがって、この例では、試験場所は空港である。
しかしながら、本明細書では空港に配置されるPIDシステムが参照されるが、本明細書において記述される技法は、限定はしないが、航空セキュリティシステムを含む、多数の適用において用途を見いだすことを理解されたい。それらの例は、限定はしないが、偽造技法、冗長性、人員配置及び同時処理の種々の組み合わせに対して試験される必要があるセキュアエントリシステム;種々の周波数、データ速度、電力レベル、動作状態及び環境によって引き起こされる性能レベルの損失において試験される電子システム;ソフトウエアが動作する全ての考えられる方法、及び顧客によっていかに用いられることになるかを試験するのが現実的ではないソフトウエア試験;多数の薬物変数(drug variables)と多数の人及び環境因子との組み合わせに基づいて考えられる治療法の効能及び悪影響の試験;並びにサイバー侵入又は攻撃に対してコンピュータ資産を防衛するために用いられる電子境界システムを含むことができる。
本明細書において記述されるシステム及び技法は、PIDシステムと共に用いることに限定されないことも理解されたい。むしろ、本明細書においてPIDシステムを参照するのは、本文における明確さ及び理解を助長するためであり、制限するものと解釈されるべきではない。本明細書において記述される、試験計画を作成するシステム及び方法は、広範なシステム、製品及び/又は方法に適用することができることを理解されたい。
空港の適用においてPIDシステムを配置することを指向される1つの実施形態において、「計画的侵入物」は、サイズ、速度及び位置の属性を有し、結果として有効な侵入シナリオを生成する計画的対象物と定義される。PIDセンサによる検出確率(Pd)の値は、持ち込まれた計画的侵入物の量に対する、検出及び分類された計画的侵入物の割合として測定される。非計画的侵入物の全数(すなわち、警報が生じなかった侵入物を含む)は未知であるため、非計画的侵入物は検出確率計算から除外される。誤認警報及び迷惑警報も検出確率計算から除外される。
Pd=(計画的侵入物に関する警報カウント)/(計画的侵入物)
図1に示される方法の流れによれば、第1のステップは、PIDセンサによる検出に影響を及ぼす(すなわち、対象物を「視認」又は検出する、PIDセンサの能力に影響を及ぼす)考えられる因子(たとえば、図1に示される因子10に対応する)を特定することである。
ここで図3を参照すると、一実施形態では、図3において50として示される、いわゆる魚骨形の特性要因技法を用いて、独立因子(すなわち、互いに独立している因子;すなわち、1つの因子の変化が、任意の他の因子に影響を及ぼさない)を特定することができる。特性要因図50の独立因子を試験して、PIDセンサに対するその有意性を判断する。
現在説明されている例(すなわち、空港に配置されるPIDS)では、複数の独立因子51〜66が示される。数多くの考えられる独立因子があるが、説明及び図面を明確にするために、考えられる全ての独立因子が魚骨図50に示されるとは限らないことを理解されたい。たとえば、フェンス剛性及びフェンス高が2つの他の独立因子とすることができる。
独立因子51〜54はそれぞれ対象物に関連し、一方、因子56〜66はそれぞれPIDSが配置される環境に関連することも理解されたい。
センサが試験されているこの例では、センサ感度を理解する目的で、入手可能な全ての既存のセンサ実験データが収集されている製造業者センサ性能データが入手される。データに空白があれば実験を通して埋めることができる。製造データは因子としても、しなくてもよい。たとえば、センサが、影響を受けることなく時速200マイルまでの風に耐え得ることがセンサ製造業者によって明記され、PIDSが時速200マイルを超える風の中で動作する必要がないことがわかっている場合には、単に製造業者データ又は他のデータに基づいて、風を考慮すべき因子から削除することができる。
1組の因子が与えられたとすると、次のステップは、指定された条件の妥当な境界を網羅する各因子のレベルを求めることである。たとえば、因子として照明を考えるとき、2つの照明レベル(たとえば、日中及び夜間)を用いれば十分である場合がある。しかしながら、夕暮れ/夜明けという照明が、日中条件又は夜間条件が引き起こさない問題を引き起こすと考えられる場合には、3つ又は4つの照明レベルが用いられる場合がある。特定の適用の場合に何段階のレベルの特定の因子が必要とされるかの判断は、典型的には、適用の特有の要件によって左右されるであろう。たとえば、風速又は最大風速のような因子に対して選択すべきレベルの数は、特定の適用によって異なる場合がある。
たとえば、図3の魚骨図では、対象物速度54、色コントラスト56、照明58、降水60、熱コントラスト63、温度64、湿度65及び反射率66の因子全てが、3段階のレベルを割り当てられている(たとえば、色コントラストは高、中、低レベルを有し、対象物速度は走行、歩行及び腹這を有し、温度は−10°F、60°F及び130°Fのレベルを有する)。一方、接近角52及び風62はそれぞれ2段階のレベルのみを有する(すなわち、接近角は45°及び90°のレベルを有し、風は25mph及び50mphのレベルを有する)。
検討される全ての因子の中から、センサ性能に対して最も有意性の高い因子を特定する必要がある(すなわち、センサ性能に最も大きな影響を及ぼす因子を特定する必要がある)。
手短に図3Aを参照すると、類似の参照指示を有する図3の類似の要素が与えられており、魚骨図70は、魚骨図50(図3)との関連で上述されたのと実質的に同じ因子及びレベルの代替の表現に対応する。
魚骨図70において、因子52〜64はカテゴリによってグループ化される。図3Aに示される例示的なカテゴリは、コントラスト72、対象物特性74及び環境76である。当然、因子及びレベル(そしてオプションではカテゴリ)の他の表現も可能であり、試験されることになる独立因子を特定するために用いることもできる。
図4は、図3において特定される原因に基づく1つの例示的なDOEマトリックス80を示す。DOEマトリックス80は、82a〜82aaとして指示される27行と、84a〜84jとして指示される9列とを含む。各列84b〜84hは1つの因子(それぞれ対象物、コントラスト、接近角、降水、風及び照明)を表す。列84bは対象物の動作形態に対応し、一方、列84c〜84hは環境条件に関連することに留意されたい。また、対象物の類似の動作形態は連続した行内にグループ化され、すなわち、行82a〜82iは対象物の走行動作形態に対応し、行82j〜82rは対象物の歩行動作形態に対応し、行82s〜82aaは対象物の腹這動作形態に対応することにも留意されたい。
この例では、因子当たり2から3段階のレベルが用いられているが、他のシナリオでは、因子当たり、それよりも多くの、又はそれよりも少ないレベルを用いることができることを理解されたい。
スクリーニングDOE方法を適用することによって、結果として、27の試験条件(すなわち、各行82a〜82aaは1つの試験条件又は事例を表す)を含むマトリックス80が作成され、これは、全ての組み合わせを網羅する648の試験事例に比べて相対的に少ない数の試験条件である。
列84i及び84jは、DOEマトリックス80の試験事例82a〜82aa毎に1つの出力として、PIDセンサ毎に測定される95%Pd検出距離の2つの試行からの値を保持する。Pd検出距離は、最低でもその時間の95%において対象物が検出される距離と定義される。フェンスセンサを含む境界検知システムの一実施形態では、フェンスセンサは(主に接触によって)振動を検出する。したがって、この距離測定値は、検出前にフェンスが拡大縮小又は変位した量となるであろう。マトリックス80の1つの目的は、因子とセンサ応答との間の数学的な関係を確立することである。
制御するのが最も難しい共通条件を有する試験組み合わせをグループにして実行することができる。たとえば、マトリックス80内の試験事例1及び25はいずれも降雪中の非常に寒い日の場合であり、それゆえ、まとめて試験することができる。いずれか1つの条件のばらつきを理解するために、1組の条件それぞれの測定が、時間を経た後に、少なくとも2回繰り返される。
計画実験に加えて、制御するのが難しい条件をシミュレートする方法を見つける目的で、或る特定の因子の代わりに、同じ組み合わせによる付加的な試験を追加することができる。たとえば、雪及び氷をシミュレートするために、カメラと共に光学フィルタを、レーダと共に減衰器を、そしてフェンスセンサと共に制動器を用いることができる。感度が同じであるか否かを判断するために、検出距離が求められ、性能曲線が実際の条件における結果と比較される。
ここで図5を参照すると、棒グラフ90が、DOEマトリックス80(図4)を完成し、その結果を統計的に解析して、各因子の相対感度を抽出した結果を示す。DOE技術の熟練者は、データを解析する方法を理解されよう。一般的に、多重応答(multi-response)回帰分析を用いることができる。
この例では、対象物速度、色コントラスト、降水及び照明(すなわち、図3における要素54、56、58、60)が、センサに対して最も有意性の高い4つの因子であることが分かる。このようにして、4つの有意なセンサ因子が見いだされる。
図5Aは、誤認警報率(FAR)に対する2つの異なる因子(温度及び風)の有意性を示す表面プロット例であり、FARは検出確率Pdと実質的に逆の関係を有する。
図5において示される情報を用いて、互いに代用することができる類似の感度を有する因子の探索を行なうことができる。これは、たとえば、因子毎にP(2)tail値を調べることによって、又は当業者にとって現在知られているか、又は知られていない任意の他の技法によって成し遂げることができる。たとえば、或る特定のレベルの風が、或る特定の範囲の接近角と同じ効果を有する場合には、或る特定のレベルの風を用いる将来の試験組み合わせを、或る特定の範囲の接近角を用いて果たすことができる。このタイプの解析(たとえば、感度解析又は因子を評価する他の解析)が完了すると、さらなる試験(たとえば、受入前試験又は他のPID又はPIDセンサ試験)において用いるための最も有意性の高い因子及び相互作用を特定することができる。
したがって、PIDシステム内の1つ又は複数のセンサのための試験方法は、以下のように要約することができる。独立変数(因子)と、その考えられる条件/設定(レベル)とを特定し;各因子が2〜3段階のレベルを有するようにし(4段階のレベルが導入される場合には、DOEはさらに複雑になり、全ての因子が同じレベル数を有するときに最も容易である);製造業者のデータ又は以前の実験結果によって、予め有意でないと証明された任意の因子を削除し;計画実験(DOE)を作成し;実験の組み合わせをそれぞれ実行し;検出距離を記録して、感度解析をし;CDMに持ち出されることになる有意な因子及び相互作用を選択する。
ここで図6を参照すると、魚骨図100が、受入前試験(PAT)ゾーン感度解析のために検討される複数の例示的な因子100a〜108を含む。魚骨図100は、センサ因子と、いわゆるゾーン因子(又はゾーン効果)との両方の混合物を含むことを理解されたい。魚骨図100のセンサ因子は色コントラスト100a、対象物速度100b、降水100c及び照明100dである。これらの因子は、図3〜図5との関連で有意なセンサ因子と特定された同じ4つの因子(すなわち、図3〜図5における因子54〜60)であることを理解されたい。
魚骨図100において示される例示的なゾーン因子は、背景動作102、地面104、センサ混合106及びクラッタ108である。ゾーン因子102〜108はそれぞれ複数のレベルを有する。たとえば、センサ混合106は、以下の4段階のレベルを有する:(1)レーダ/フェンス(R/F);(2)レーダVMD(RVMD);(3)フェンスVMD(FVMD)及び(4)レーダのみ(R)。当然、他のゾーン因子を魚骨図100に追加することもできる。このようにして、背景動作102、地面104、センサ混合106及びクラッタ108のようなゾーン効果が、図3〜図5との関連で上記で検討されたセンサ感度解析からの最も有意性の高い因子(すなわち、色コントラスト100a、対象物速度100b、降水100c及び照明100d)と組み合わせられる。因子100a〜108はそれぞれPd、FAR及び迷惑警報率(NAR)の値に影響を及ぼす。しかしながら、或る特定の適用のための試験計画が進行するのに応じて、任意の特定の適用(たとえば、空港に配置されるPIDS以外の適用)において用いる特定の因子(又は原因)が精緻化される場合があることを理解されたい。
手短に図6Aを参照すると、類似の参照指示を有する図6の類似の要素が与えられており、魚骨図109は、魚骨図100(図6)との関連で上述された実質的に同じ因子及びレベルの代替の表現に対応する。当然、因子及びレベル(そしてオプションでカテゴリ)の他の表現も可能であり、試験されることになる因子を特定するために用いることもできる。
ここで図7を参照すると、Pdの測定値のための例示的なスクリーニングDOEマトリックス110が、列112b〜112iに記述される因子と、行114a〜114aaに記述される27の試験条件とを含む。列112b〜112e(グループ116として特定される)に記述される因子は、図3〜図5との関連で上述されたように特定された有意なセンサ因子に対応することを理解されたい。一方、列112f〜112i(グループ118として特定される)は、図6及び図6Aとの関連で上記で検討されたゾーン因子に対応する。因子118は、まだ有意であると特定されていなため、まだ有意なゾーン因子と呼ぶことはできないことを理解されたい。
スクリーニングDOE(たとえば、図1において要素12で示される)の使用は、削除することができる因子を特定することによって、フィールドにおける試験数を削減するのを助ける。マトリックス110において示される27の試験条件114a〜114aaは、全ての組み合わせを網羅するために必要とされる1944の試験事例に比べて、相対的に少ない数の試験条件である。
スクリーニングDOEマトリックス110からの各試験114a〜114aaに対する測定結果は本質的に2値である。すなわち、システムは警報信号を与えるか又は与えないかのいずれかであり、警報の量を列112j、112kに記録することができるが、Pdのレベルは記録されない。因子とシステム応答との間の数学的な関係を確立するために、各DOE組み合わせが所定の回数だけ実行される。一実施形態では、各DOE組み合わせを実行する特定の回数は、Pd感度を洞察するために、好ましくは、組み合わせ毎に1つのPd指標をもたらす回数にすべきである。PIDSの場合の一実施形態では、Pd感度を洞察するために、組み合わせ毎に1つのPd指標をもたらすため、各DOE組み合わせが最低10回実行される。たとえば、複数の因子の或る特定の組み合わせの場合に10回の試行のうち9回が検出されることによって、その組み合わせの場合に90%Pdが与えられる。
制御するのが最も難しい共通の条件を有する試験組み合わせは、グループにして実行することができる。たとえば、図7のマトリックス110内の行114a〜114c、114j〜114l及び114s〜114u内の試験事例は全て大雨の日に試験することができる。DOEはゾーン特性である因子を含むため、任意の利用可能な場所(たとえば、空港)ゾーンにおいて、又は試験設備において類似の特性を与えることを試みることができる。以下は、必要に応じて用いることができる、いくつかの考えられる技法である:(a)センサの視野内で停車中の車両、ファサード構造及びボックスの量を徐々に増やしていくことによって、クラッタを与えることができる;(b)センサ位置、角度及び想定される境界までの距離を変更することができる;(c)通過車両、歩行者、及び大型の工業用ファンからの木々にそよぐ人為的な風によって背景動作を与えることができる;(d)種々のエリアにおいて種々の材料を用いて、地面の変動を与えることができる。
Pdのための試験方法の概要は、センサ試験スクリーニングDOEから有意な因子を特定すること;他の因子と相互作用することが予想される因子の場合に3段階のレベルを考慮すること;以前の試験又は刊行された文献から予め有意でないことが証明されている任意の因子を削除すること;計画実験(DOE)を作成すること;試験組み合わせ毎に最低でも10回の試行を繰り返すこと;試験の各組み合わせを実行すること、及び結果(Pd)及び完全なゾーン感度解析を記録することを含む。
ここで図8を参照すると、全体として132で表される、N個のゾーン132a〜132Nを有する空港の場合のゾーン分類法130が、全体として134で表されるゾーン特性134a〜134d、及び全体として136で表されるゾーンタイプ136a〜136cを含む。空港におけるPIDシステムの例では、ゾーン分類を実行するために、空港の図面、及び現地調査から直に得られる周辺条件の知識が利用される。各ゾーンは空港の物理的部分に対応する。たとえば、ゾーン1は滑走路とすることができ、ゾーン2は水域とすることができ、他も同様である。
各場所(たとえば、各空港)における全ての検出ゾーン132が、スクリーニングDOE(たとえば、図1の要素12において示されるスクリーニングDOE)において特定される有意なゾーン特性134のうちの1つ又は複数を用いて、最小の1組のゾーンタイプ136に分類される。同じゾーンタイプ定義を全ての場所(たとえば、空港)にわたって用いることができるが、場所によっては、全てのタイプを有するとは限らないであろう(たとえば、空港によっては、水域を有しない場合もある)。各ゾーンタイプにおけるゾーンの量は場所によって異なる場合もある。特有のゾーンには、その自らのゾーンタイプを与えることができる。
有意なゾーン特性を用いて、ゾーンタイプ136a〜136cが求められ、その後、全てのゾーンがゾーンタイプに分類される(たとえば、図1の要素18bを参照されたい)。空港のPIDシステム適用において、たとえば、全ての空港ゾーンはゾーンタイプに分類される。空港ゾーンは、空港境界の所定の直線距離を表す場合がある。ゾーンタイプは、全てが同じ特性を共有するこれらの直線距離のグループである(すなわち、森に沿って位置するフェンスセンサを備えた金網フェンス)。
ここで図9を参照すると、マトリックス140が、列142a〜142h内に記述される8つの因子と、行144a〜144d内に記述される4つの試験とを含む。マトリックス140内の因子及びレベルは、センサ及びゾーンスクリーニングDOEから有意であることがわかった因子及びレベルである。この例では、8つの因子が見いだされる。因子のうちの4つ(対象物速度142a、色コントラスト142b、降水142e及び照明142f)はセンサ因子であり、因子のうちの4つ(背景動作142c、地面142d、クラッタ142g及びセンサ混合142h)はゾーン因子である。8つ全ての因子及びレベルが、考えられる全て組み合わせにおいて試験される場合、試験事例マトリックスは3,888回もの実行を含むことになることを理解されたい。たとえば、15個のゾーンタイプが特定される場合には、全実行回数は58,320回になるであろう。
有意な因子を特定した後に、これらの因子及びレベルをCDM(たとえば、図1のブロック16において示される)において用いて、フィールド受入試験(たとえば、図1のブロック18、20において示される)のための包括的な試験マトリックスが作成される。
ここで図10を参照すると、図9からの有意な因子及びレベルを用いて作成される包括的な試験マトリックス150が、行151a〜151r内に記述される18の試験事例を含む。試験151a〜151rにおいて用いられる8つの因子が列153a〜153h内に記述される。
包括的な試験マトリックス150は、16回の実行を含む2因子間組み合わせ計画マトリックス部分152(すなわち、行151a〜151p)と、2回の実行を含むDOE部分154(すなわち、行151q〜151r)とを含む。DOE部分154は、試験マトリックス150に、有意な高次の相互作用(すなわち、2因子間相互作用よりも高次の相互作用)を追加する。このようにして、組み合わせ計画試験マトリックスは、試験場所(たとえば、空港)における試験時間及び混乱を大幅に削減する。マトリックス150は、数多くの3因子間、4因子間及びさらに高次の相互作用を含むが、全てが存在するとは限らない。先行するDOEにおいて有意であることがわかった組み合わせをさらに追加して、要求される信頼水準を満たすのに十分なだけの繰返しを実行することによって、包括的であり、且つランダムでない試験手法が提供される。
このようにして、DOEを用いて、CDMへの入力が生成された。本明細書において記述される技法を用いて、CDM部分(たとえば、部分150)と、さらに高次の有意な相互作用を含むDOE部分(たとえば、部分152)とを含む試験マトリックス(たとえば、マトリックス150)を作成することができる。詳細には、CDMからの最終的な試験マトリックスへの入力としてDOEの感度出力を用いる結果として、包括的な試験マトリックス150が作成される。その試験マトリックスに含まれる試験の数は従来の技法を用いるときに含まれることになる試験の数よりも少ないため、本明細書において記述される手法の結果として、試験プログラムが安価になり(それゆえ、手頃になり)、従来の技法を用いて作成される試験プログラムよりも迅速に完了できるようになる。
再び、空港に配置されるPIDシステムの例を参照すると、空港におけるフィールド受入試験(FLDAT)は、センサ及びゾーン感度解析(たとえば、図3〜図9との関連で検討される)において見つけられる全ての有意な因子及びレベルを考慮する必要がある。本明細書において説明されるように、これは、DOE及び組み合わせ計画法の組み合わせを用いた統計的手法によって果たされる。組み合わせ計画法(CDM)は、試験されることになる因子及びレベルの全ての2因子間組み合わせを特定する(たとえば、図1の要素16を参照されたい)。この手法では、因子の全ての2因子間相互作用は、試験マトリックス(たとえば、図7において検討される試験マトリックス110)によって網羅されており、因子の数が多いことに起因して、数多くの3因子間及び4因子間相互作用も網羅された。その際、センサ及びゾーンスクリーニングDOEにおいて見つけられた任意の有意な3因子間、4因子間又はさらに高次の相互作用が追加された。そのマトリックスにおける試験事例は、所望の信頼水準が満たされるまで、各ゾーンタイプにおいて実行し、繰り返すことができる。
物理的に又は実際に不可能である組み合わせを削除するために、制約を加えることができることを理解されたい。入手可能であるなら、以前のフィールド試験結果を用いて、そのマトリックスから組み合わせを削除し、サイクル時間を短縮し且つコストを削減することができる。
このようにして、図10に示されるように、より高次の(3因子間以上の)相互作用の例を表す2つの試験事例(#17及び#18)がマトリックス150に追加されている。その結果として、1組の実質的に最適な試験事例が作成される(たとえば、図1、ブロック118において示される)。
ここで図11を参照すると、サンプルサイズ対失敗許容数のプロット160が、検出し損ねた対象物の許容量と計画的侵入サンプルサイズとの間の関係を示す。曲線162は、85%信頼水準を有する90%検出確率(Pd)に対応する。したがって、この測定基準を達成するには、19サンプルサイズにおいて0回の失敗、31サンプルサイズにおいて1回の失敗、45サンプルサイズにおいて2回の失敗、等が要求される。
同様に、曲線162は、90%信頼水準を有する95%検出確率に対応する。したがって、この測定基準を達成するには、失敗許容数は、45サンプルサイズにおいて0回、76サンプルサイズにおいて1回、105サンプルサイズにおいて2回、等になる。
したがって、Pdのための要件は、最小サンプルサイズ又は試行を要求する信頼水準を含む(たとえば、図1、ブロック30において示される)。計画的侵入当たりの検出し損ねた対象物の許容数は二項曲線を用いて計算することができる。一実施形態では、その手法は、組み合わせ計画マトリックスに従って全ての条件を変更しながら、そのタイプのランダムに選択されたゾーンにおいて、各ゾーンタイプのこのサンプルサイズスケジュールを試験することである。これは、いくつかの「選択された」シナリオのみにおいて信頼水準を満たすことによって適合性を主張することよりも優れており、全ての試験事例及びゾーン内の最小限のサンプルサイズを試験することよりもはるかに実用的であり、混乱が少ない。組み合わせ試験マトリックス及び任意の追加される高次の相互作用事例は、許容できる成功率が達成されるまで繰り返すことができる。たとえば、45回の試行で全ての侵入が検出される場合には、そのゾーンタイプのための試験は無事に完了する。そうでない場合には、信頼水準が達成されるまで、又は合意した最大試行サイズに達するまで(その場合には、ゾーンタイプの補正が行なわれ、試験が新たに始められるであろう)、失敗するゾーンタイプにおいて、その試験マトリックスが繰り返されるであろう。この統計的手法はロバストであり、因子及びゾーンタイプの全ての組み合わせにおいてシステムが機能するという確信を与えると考えられる。
共通の条件を有し、且つ制御するのが最も難しい(たとえば、大雨)試験組み合わせは、グループにしてまとめて実行されるであろう。また、試験条件を利用するとき、FLDATの効率を最大にするために、全てのゾーンタイプにおいて同じ試験事例が実行されるであろう。成功したという結果を仮定すると、一例の統計的手法は、675回のみの試験を実行し(15ゾーンタイプ*45回実行したうち失敗が0)、これは上記で確認された58,320回の試験とは対照的である。
Pdのための試験方法の概要は、スクリーニングDOEを実施して有意な因子を特定することにより、有意な因子及びレベルを特定し、それに関して指定機関(たとえば、港湾管理委員会)と合意すること;組み合わせにおける制約(一緒に起こる可能性がない因子レベル)を特定し、それに関して指定機関と合意すること;以前に実行された任意の試験事例を削除するために、それらの事例を特定して指定機関と合意すること;DOE出力を用いて、組み合わせ計画試験マトリックスを作成すること;センサ及びゾーンスクリーニングDOEにおいて特定された3因子間よりも高次の任意の有意な相互作用を追加すること;試験マトリックスを選別して、最小の試験条件数にすること;各ゾーンタイプにおいて各試験組み合わせを実行して、結果(Pd)を記録すること;各ゾーンタイプにおいて信頼水準に達するまで、試験マトリックスを繰り返すこと;及び全てのゾーンタイプにおいて要件が満たされるまで、補正操作を行なうことを含む。
ここで図12を参照すると、試験マトリックス(たとえば、図10の試験マトリックス152)を計算するように構成されるコンピュータ又は他のプロセッサ170が、プロセッサ172と、揮発性メモリ174と、不揮発性メモリ176(たとえば、フラッシュメモリ)と、グラフィカル・ユーザ・インターフェース(GUI)178とを含む。不揮発性メモリ176は、オペレーティングシステム180及びデータ182を格納し、データは、限定はしないが、因子、ゾーン、ゾーンタイプ、信頼要件、サンプルサイズ(たとえば、図1との関連で上述される);カテゴリ及びレベル(たとえば、図3及び図3Aとの関連で上述される)、及び組み合わせ計画情報/因子/データ(限定はしないが、2因子間組み合わせに関する情報及びさらに高次の相互作用に関する情報)のような他のパラメータのうちの1つ又は複数を含む。また、不揮発性メモリ176は、コンピュータ命令184も格納し、コンピュータ命令184は、図2との関連で説明されたような方法を(全体として、又は部分的に)実行するために、揮発性メモリ174からプロセッサ172によって実行される。GUI178は、因子、DOE設定(たとえば、DOE PROにおいて許されるような、たとえば設定)、組み合わせ計画設定、ディスプレイ設定(たとえば、種々の方法において試験マトリックスを表示する)を構成するために、使用者によって用いられる場合がある。使用者によって制御されることができるが、本明細書において具体的には列挙されない付加的なパラメータも、GUIを通して制御することができる。
本明細書において記述される方法(たとえば、図1及び図2との関連で説明される)は、図12のハードウエア及びソフトウエアと共に用いることには限定されないことを理解されたい。むしろ、本明細書において記述される方法は、任意のコンピューティング及び処理環境において、且つコンピュータプログラム、或いはコンピュータ又はプロセッサ命令を実行することができる任意のタイプの機械で適用性を見いだすことができる。本明細書において記述される方法は、ハードウエア、ソフトウエア、又はその2つの組み合わせにおいて実施することができる。本明細書において記述される方法は、プロセッサ、記憶媒体又はプロセッサによって読出し可能である他の製品(揮発性メモリ及び不揮発性メモリ及び/又は記憶素子を含む)、少なくとも1つの入力デバイス、及び1つ又は複数の出力デバイスをそれぞれ含む、プログラム可能なコンピュータ/機械において実行されるコンピュータプログラムにおいて実現され得る。入力デバイスを用いて入力されるデータにプログラムコードを適用して、本明細書において記述される方法のうちの1つ又は複数を実行し、限定はしないが中間的な結果又は計算を含み、且つ限定はしないがDOEマトリックス及び他のDOE関連情報、CDMマトリックス及び他のCDM関連情報、並びに図11との関連で説明された試験マトリックス150のような試験マトリックスを含む、本明細書において記述される出力情報を作成することができる。
本明細書において記述されるシステム及び技法は、少なくとも1つには、データ処理装置(たとえば、プログラム可能なプロセッサ、コンピュータ、又は多数のコンピュータ)によって実行するための、又はそのデータ処理装置の動作を制御するためのコンピュータプログラム製品(すなわち、情報担体において(たとえば、機械読取り可能記憶デバイスにおいて、又は伝搬信号において)目に見える形で具現されるコンピュータプログラム)を介して実現される場合がある。そのような各プログラムは、コンピュータシステムと通信するために、高レベル手続き形言語又はオブジェクト指向プログラミング言語において実装される場合がある。しかしながら、それらのプログラムは、アセンブリ又は機械言語において実装される場合もある。その言語は、コンパイルされるか又は解釈実行される言語とすることができ、それは、独立型プログラムとして、又はコンピューティング環境において用いるのに適しているモジュール、コンポーネント、サブルーチン若しくは他のユニットとして等の、任意の形態において展開される場合がある。コンピュータプログラムは、1つのコンピュータ上で実行されるか、又は1つの場所にあるか若しくは複数の場所にわたって分散され、通信ネットワークによって相互接続される複数のコンピュータ上で実行されるように展開される場合がある。コンピュータプログラムは、記憶媒体又はデバイス(たとえば、CD−ROM、ハードディスク、又は磁気ディスケット)上に格納される場合があり、その記憶媒体又はデバイスは、本明細書において記述される方法を実行するためにコンピュータによって読み出されるときに、コンピュータを構成し、動作させるための汎用又は専用プログラム可能コンピュータによって読出し可能である。本明細書において記述される方法は、コンピュータプログラムで構成される、機械読取り可能記憶媒体として実装される場合もあり、そのプログラムが実行されるとき、コンピュータプログラム内の命令によって、コンピュータはそれらの方法に従って動作する。
本明細書において記述される方法は、本明細書において記述される具体的な実施形態には限定されない。たとえば、それらの方法は、図1及び/又は図2の具体的な処理順序には限定されない。むしろ、図1及び/又は図2のブロックはいずれも、上記の結果を達成するために、必要に応じて並べ替えられるか、繰り返されるか、組み合わせられるか、又は削除され、並列に又は順次に実行することができる。
図1及び図2において1つのDOE及びCDMが図示及び説明されるが、本明細書において記述される技法は、順次に又は並列に実行される場合がある任意の数のDOE及びCDMを含む場合がある。
本明細書において記述されるシステムは、上記のハードウエア及びソフトウエアと共に用いることには限定されない。そのシステムは、デジタル電子回路において、又はコンピュータハードウエア、ファームウエア、ソフトウエアにおいて、又はそれらの組み合わせにおいて実装される場合がある。
本発明の好ましい実施形態が説明されてきたが、ここで、これらの概念を組み込む他の実施形態を用いることもできることは、当業者には明らかになるであろう。したがって、本発明は説明される実施形態に制限されるべきではなく、むしろ、添付の特許請求の範囲の精神及び範囲によってのみ制限されるべきであると考える。

Claims (13)

  1. 或るシステムのための1組の試験を作成するための方法であって、
    実験計画(DOE)試験において用いる複数の因子を特定すること、
    前記DOEにおいて前記複数の因子をそれぞれ用いること、
    前記DOE試験を通して、前記システムの出力に有意な影響を及ぼす1つ又は複数の因子を特定すること、
    組み合わせ計画法(CDM)に前記1つ又は複数の因子のみを取り入れること、及び
    前記DOE入力を用いて、前記CDMに基づいて第1の試験マトリックスを作成することを含む、方法。
  2. 前記第1の試験マトリックスに1つ又は複数の試験を追加することをさらに含み、該1つ又は複数の試験はそれぞれ、前記第1の試験マトリックスには含まれない2つ以上の付加的な有意な因子の組み合わせを含む、請求項1に記載の方法。
  3. 前記DOEはスクリーニングDOEに対応する、請求項2に記載の方法。
  4. 前記スクリーニングDOEは、一部実施要因スクリーニングDOEに対応する、請求項3に記載の方法。
  5. 境界侵入検知システムにおいて用いるセンサのための1組の試験を計画するための方法であって、
    (a)複数の独立因子を求めること、
    (b)前記複数の独立因子の因子毎に1つ又は複数の取り得るレベルを求めること、
    (c)前記独立因子のそれぞれに少なくとも1つのレベルを割り当てること、
    (d)製造業者のデータ又は実験結果のうちの少なくとも一方によって有意でないことが予め証明されている因子を除去すること、
    (e)複数の実験組み合わせを含む計画実験(DOE)を作成すること、
    (f)前記複数の実験組み合わせをそれぞれ実行すること、
    (g)前記複数の実験組み合わせの実験組み合わせ毎に1つ又は複数のセンサ出力特性を記録すること、
    (h)(g)の結果に関する回帰分析を実行することであって、前記実験組み合わせに含まれる因子と、前記1つ又は複数のセンサ出力特性のそれぞれとの間の関係を与える、実行すること、
    (i)(h)の結果を用いて感度解析を完了して因子及び相互作用の有意性を順序付けすること、
    (j)P(2)tail値に基づいて有意な因子及び相互作用を選択すること、及び
    (k)組み合わせ計画法(CDM)への入力として、前記選択された有意な因子及び相互作用を用いることを含む、方法。
  6. 前記複数の実験組み合わせの実験組み合わせ毎に1つ又は複数のセンサ出力特性を記録することは、前記複数の実験組み合わせの実験組み合わせ毎に1つのセンサ検出距離を記録することを含む、請求項5に記載の方法。
  7. 前記独立因子のそれぞれに少なくとも1つのレベルを割り当てることは、前記独立因子のそれぞれに3つ以下のレベルを割り当てることを含む、請求項5に記載の方法。
  8. 前記独立因子のそれぞれに少なくとも1つのレベルを割り当てることは、前記独立因子のうちの少なくともいくつかに3つ以下のレベルを割り当てることを含む、請求項5に記載の方法。
  9. 或るシステムのための1組の試験を計画するための方法であって、
    1つ又は複数の計画実験(DOE)を用いることであって、前記システムの出力に影響を及ぼす1つ又は複数の因子を特定する、用いること、
    組み合わせ計画法(CDM)に前記1つ又は複数の因子のみを取り入れることであって、該CDMは前記DOEから与えられる前記因子間の全ての2因子間相互作用を特定する、取り入れること、
    前記CDM、及び該CDMに与えられる前記DOE入力に基づいて第1の試験マトリックスを作成すること、及び
    前記第1の試験マトリックスに1つ又は複数の試験を追加することであって、該1つ又は複数の試験はそれぞれ、前記第1の試験マトリックスには含まれない2つ以上の付加的な有意な因子の組み合わせを含む、追加することを含む、方法。
  10. 複数の独立変数を特定すること、
    1つ又は複数の計画実験を用いることであって、感度解析を与えると共に3つ以上の独立変数を伴う相互作用を探す、用いること、
    前記相互作用を記録すること、
    前記システムの測定された特性に対する有意性によって前記相互作用を順位付けすること、
    変数間の全ての2変数間相互作用を特定する組み合わせ計画法(CDM)に最も有意な因子を取り入れること、
    3つ以上の変数を伴う任意の相互作用を特定すること、
    CDM試験マトリックスを作成すること、
    前記CDM試験マトリックスに、前記3つ以上の変数を伴う相互作用を追加すること、及び
    前記試験の要件及び性質に基づいて、要求されるサンプルサイズを求めると共に、前記試験マトリックスと比較することを含む、方法。
  11. 前記要求されるサンプルサイズを求めることは、二項曲線を用いて、要求されるサンプルサイズを求めることを含む、請求項10に記載の方法。
  12. プログラムによって要求される前記サンプルサイズを満たすだけの十分な回数だけ前記試験マトリックスを繰り返すことをさらに含む、請求項10に記載の方法。
  13. 前記システムの測定された特性に対する有意性によって前記相互作用を順位付けすることは、前記システムの測定された出力に対する有意性によって前記相互作用を順位付けすることを含む、請求項10に記載の方法。
JP2010533257A 2007-11-07 2008-11-07 統計的試験手法を用いて試験計画を作成するための方法(method)及び装置 Pending JP2011503723A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US98604707P 2007-11-07 2007-11-07
PCT/US2008/082731 WO2009061985A1 (en) 2007-11-07 2008-11-07 A method and apparatus for generating a test plan using a statistical test approach

Publications (1)

Publication Number Publication Date
JP2011503723A true JP2011503723A (ja) 2011-01-27

Family

ID=40624567

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010533257A Pending JP2011503723A (ja) 2007-11-07 2008-11-07 統計的試験手法を用いて試験計画を作成するための方法(method)及び装置

Country Status (4)

Country Link
US (1) US20090125270A1 (ja)
JP (1) JP2011503723A (ja)
IL (1) IL205603A0 (ja)
WO (1) WO2009061985A1 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103210407A (zh) * 2010-10-01 2013-07-17 英特泰克消费品公司 产品认证系统和方法
US8458013B2 (en) 2011-04-12 2013-06-04 Bank Of America Corporation Test portfolio optimization system
US10705512B2 (en) * 2015-05-07 2020-07-07 Walther Flender Gmbh Method for computer-assisted selection of machine components
US9760471B2 (en) * 2015-09-23 2017-09-12 Optimizely, Inc. Implementing a reset policy during a sequential variation test of content
US10296680B2 (en) * 2016-08-30 2019-05-21 Sas Institute Inc. Comparison and selection of experiment designs
US10430170B2 (en) * 2016-10-31 2019-10-01 Servicenow, Inc. System and method for creating and deploying a release package
CN110907155A (zh) * 2019-12-02 2020-03-24 吉林松江河水力发电有限责任公司 一种水轮机转动轴故障监测方法
US11379352B1 (en) 2020-12-15 2022-07-05 International Business Machines Corporation System testing infrastructure with hidden variable, hidden attribute, and hidden value detection
US11188453B1 (en) 2020-12-15 2021-11-30 International Business Machines Corporation Verification of software test quality using hidden variables
US11132273B1 (en) 2020-12-15 2021-09-28 International Business Machines Corporation System testing infrastructure with hidden variable, hidden attribute, and hidden value detection
US11113167B1 (en) 2020-12-15 2021-09-07 International Business Machines Corporation System testing infrastructure with hidden variable, hidden attribute, and hidden value detection
US11204848B1 (en) 2020-12-15 2021-12-21 International Business Machines Corporation System testing infrastructure with hidden variable, hidden attribute, and hidden value detection

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10149345A (ja) * 1996-11-20 1998-06-02 Mitsubishi Electric Corp 最適パラメータ組合せ予測装置
JP2002322938A (ja) * 2001-04-26 2002-11-08 Mitsubishi Motors Corp 実験計画法に基づくデータ解析方法および装置並びに実験計画法に基づくデータ解析プログラムおよび同プログラムを記録したコンピュータ読み取り可能な記録媒体
JP2006048120A (ja) * 2004-07-30 2006-02-16 Toshiba Corp 最適値探索支援装置、最適値探索支援方法、及び記録媒体

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7050950B2 (en) * 2001-11-08 2006-05-23 General Electric Company System, method and computer product for incremental improvement of algorithm performance during algorithm development
US7079151B1 (en) * 2002-02-08 2006-07-18 Adobe Systems Incorporated Compositing graphical objects
US7154391B2 (en) * 2003-07-28 2006-12-26 Senstar-Stellar Corporation Compact security sensor system
US7269517B2 (en) * 2003-09-05 2007-09-11 Rosetta Inpharmatics Llc Computer systems and methods for analyzing experiment design
US20060026017A1 (en) * 2003-10-28 2006-02-02 Walker Richard C National / international management and security system for responsible global resourcing through technical management to brige cultural and economic desparity
EP1783642A4 (en) * 2004-07-30 2011-08-10 Toshiba Kk OPTIMUM VALUE SEARCHING DEVICE, METHOD, RECORDING MEDIUM, AND COMPUTER PROGRAM PRODUCT

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10149345A (ja) * 1996-11-20 1998-06-02 Mitsubishi Electric Corp 最適パラメータ組合せ予測装置
JP2002322938A (ja) * 2001-04-26 2002-11-08 Mitsubishi Motors Corp 実験計画法に基づくデータ解析方法および装置並びに実験計画法に基づくデータ解析プログラムおよび同プログラムを記録したコンピュータ読み取り可能な記録媒体
JP2006048120A (ja) * 2004-07-30 2006-02-16 Toshiba Corp 最適値探索支援装置、最適値探索支援方法、及び記録媒体

Also Published As

Publication number Publication date
WO2009061985A1 (en) 2009-05-14
US20090125270A1 (en) 2009-05-14
IL205603A0 (en) 2010-11-30

Similar Documents

Publication Publication Date Title
JP2011503723A (ja) 統計的試験手法を用いて試験計画を作成するための方法(method)及び装置
CN113661525B (zh) 自动驾驶车辆系统和组件的仿真和验证
Zurell et al. The virtual ecologist approach: simulating data and observers
Wintle et al. Fauna habitat modelling and mapping: a review and case study in the Lower Hunter Central Coast region of NSW
Guisan et al. Predicting species distribution: offering more than simple habitat models
US20150295948A1 (en) Method and device for simulating network resiliance against attacks
Peronato et al. A toolkit for multi-scale mapping of the solar energy-generation potential of buildings in urban environments under uncertainty
Walker et al. Modeling spatial decisions with graph theory: logging roads and forest fragmentation in the Brazilian Amazon
CN112053042A (zh) 动态构建效能评估体系的方法、系统、计算机设备及存储介质
CN1866286A (zh) 资产的多目标预测建模、监视、以及更新的方法和系统
Wilsey et al. Climate policy action needed to reduce vulnerability of conservation‐reliant grassland birds in North America
Acevedo et al. New developments in the study of species distribution
Boys et al. Predicting the distributions of regional endemic dragonflies using a combined model approach
Chiffard et al. Adaptive niche-based sampling to improve ability to find rare and elusive species: Simulations and field tests
CN114741688A (zh) 一种无监督的主机入侵检测方法及系统
Requena-Mesa et al. Predicting landscapes from environmental conditions using generative networks
Marsh et al. SDM profiling: A tool for assessing the information-content of sampled and unsampled locations for species distribution models
Clark et al. Sensitivity analysis of a fire spread model in a chaparral landscape
Hale et al. Optimality versus run time for isolated signalized intersections
CN107980146A (zh) 以职位为中心的人员评估装置和方法
Greengard Gaming machine learning
JPWO2019003400A1 (ja) 係数算出装置、係数算出方法、及び、係数算出プログラム
Heyns Reduced target-resolution strategy for rapid multi-observer site location optimisation
Tarkesh et al. Investigation of current and future potential distribution of Astragalus gossypinus in Central Iran using species distribution modelling
Ilamah et al. Fast Tracking Field Development Optimisation With Nature Inspired Heuristics

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101118

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110221

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120813

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120816

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20130128