JP2008136874A - ニューラルネットワーク関連アプリケーションを使用して医療診断テストおよび生化学診断テストを選択する方法 - Google Patents

ニューラルネットワーク関連アプリケーションを使用して医療診断テストおよび生化学診断テストを選択する方法 Download PDF

Info

Publication number
JP2008136874A
JP2008136874A JP2008000723A JP2008000723A JP2008136874A JP 2008136874 A JP2008136874 A JP 2008136874A JP 2008000723 A JP2008000723 A JP 2008000723A JP 2008000723 A JP2008000723 A JP 2008000723A JP 2008136874 A JP2008136874 A JP 2008136874A
Authority
JP
Japan
Prior art keywords
variables
weights
endometriosis
history
hidden layer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2008000723A
Other languages
English (en)
Inventor
Jerome Lapointe
ジエローム・ラポイント
Duane D Desieno
デユアン・デイ・デジーノ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Adeza Biomedical Corp
Original Assignee
Adeza Biomedical Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Adeza Biomedical Corp filed Critical Adeza Biomedical Corp
Publication of JP2008136874A publication Critical patent/JP2008136874A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H15/00ICT specially adapted for medical reports, e.g. generation or transmission thereof
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H10/00ICT specially adapted for the handling or processing of patient-related medical or healthcare data
    • G16H10/20ICT specially adapted for the handling or processing of patient-related medical or healthcare data for electronic clinical trials or questionnaires
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H10/00ICT specially adapted for the handling or processing of patient-related medical or healthcare data
    • G16H10/60ICT specially adapted for the handling or processing of patient-related medical or healthcare data for patient-specific data, e.g. for electronic patient records
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/70ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for mining of medical data, e.g. analysing previous cases of other patients

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Epidemiology (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Primary Health Care (AREA)
  • Public Health (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)
  • Medical Treatment And Welfare Office Work (AREA)
  • Investigating Or Analysing Biological Materials (AREA)

Abstract

【課題】障害又は状態の診断を支援する重要な変数を識別する。
【解決手段】変数選択のためのコンピュータシステムは、(a)n個の候補変数にてなる第一セットと、最初は空である重要な選択された変数にてなる第二セットとを与える手段と、(b)候補変数を一度に一つずつ取り、重要な選択された変数の現在のセットに結合された変数に基づいて意思決定支援システムをトレーニングすることによって各変数を評価する手段と、(c)候補変数のうち、意思決定支援システムの最高の性能を与える変数である最良の変数を選択し、最良の候補変数が重要な選択された変数の性能と比較して性能を改善する場合、それを重要な選択された変数にてなるセットに追加してそれを候補セットから除去し、最良の候補変数が性能を改善しなくなるまで上記手段(b)を用いた評価を継続する手段を備える。
【選択図】図1

Description

本発明の主題は、医療診断補助装置の開発のための、予測技術、特に非線形予測技術の使用に関する。特に、医療診断ツールおよび診断の方法の開発のために患者病歴情報からの入力を有するニューラルネットワークおよび他のエキスパートシステムに対して有効なトレーニング技法が提供される。
本出願は、1996年2月9日出願、Jerome Lapointe および Duane DeSieno の米国特許出願第08/599275号「METHOD FOR DEVEL0PING MEDICAL AND BI0CHEMICAL DIAGN0STICTESTS USING NEURAL NETW0RKS」の一部継続出願であり、かつ1996年2月9日出願、Jerome Lapointeおよび Duane DeSienoの米国仮特許出願第60/011449号「METHOD ANDAPPARATUS FOR AIDING IN THE DIAGNOSIS OF ENDOMETRIOSIS USINGA PLURALITY OF PARAMETERS SUITED F0R ANALYSIS THROUGH ANEURAL NETWORK」の35U.S.C§119(e)による優先権を主張するものである。上記の出願および仮出願それぞれの主題は、全体として参照により本発明の一部となる。
マイクロフィッシュ付録.
本明細書に記載のプログラム用のコンピュータプログラムソースコードを含む二つのコンピュータ付録は、本願の出願と同時に提出されている。このコンピュータ付録は、37C.F.R.1.96(b)に従ってマイクロフィッシュ付録に変換できる。以下「マイクロフィッシュ付録」と呼ぶコンピュータ付録は、それぞれ全体として参照により本発明の一部となる。したがって、本特許文献の開示の一部は、著作権保護を受ける資料を含む。著作権所有者は、本特許文献または特許開示のいずれかが特許商標庁特許ファイルまたはレコードに記載されたときに、それによるファクシミリ複製に異議はないが、それ以外の場合すべての著作権はどんなものでも留保する。
データ収集、意思決定支援システムおよびニューラルネットワーク.
いくつかのコンピュータ意思決定支援システムは、情報を分類し、かつ入力データ中のパターンを識別する能力を有し、大量の変数を有するデータセットおよび変数間の複雑な相互作用を評価する場合に特に有用である。集合的に「データ収集」または「データベース中の知識発見」(本明細書では意思決定支援システム)と呼ばれるこれらのコンピュータ意思決定システムは、プロセッサ、内部デバイスおよび周辺デバイス、メモリデバイスおよび入出力インタフェースを有する同じ基本ハードウェア構成要素、例えば、パーソナルコンピュータ(PC)を使用する。システム間の区別は、ソフトウェア中で起こり、より基本的には、ソフトウェアがそれに基づいているパラダイム中で起こる。意思決定支援機能を提供するパラダイムは、回帰方法、決定ツリー、判別分析、パターン認識、ベイズの決定理論、およびファジー諭理を含む。より広く使用されている意思決定支援コンピュータシステムの一つは人工ニューラルネットワークである。
人工ニューラルネットワークまたは「ニューラルネット」は、ニューロンと呼ばれる個々の処理要素が層中に配列され、連続的な層中の要素間の多数の相互接続を備える並列情報処理ツールである。処理要素の働きは、処理要素の出力が一般に非線形の伝達関数によって決定される生物学神経細胞に近似するようにモデル化される。ニューラルネットワークの代表的なモデルでは、入力を受け取る要素用の入力層、出力を発生する一つまたは複数の要素を含む出力層、およびそれらの間の要素の一つまたは複数の隠れた層中に処理要素が配列される。隠れた層は、非線形問題をそれによって解決できる手段を与える。処理要素中、要素への入力信号は、各入力に関連する重み係数に従って算術的に重み付けされる。得られた重み付けされた合計は、S字形関数など、選択された非線形伝達関数によって変換されて、各処理要素ごとに、その値が0から1まで変動する出力をもたらす。学習プロセスは「トレーニング」と呼ばれ、特定の処理要素が、他の処理要素の出力と結合したときにニューラルネットワークの出力とトレーニングデータ中に提示された所望の出力との間に生じた誤差を最小限に抑える結果を発生する出力を与えるように、処理要素の重みに対する一連のインタラクティブ調整を必要とする試行錯誤プロセスである。要素の重みの調整は誤差信号によってトリガされる。トレーニングデータは、各例がニューラルネットワークに提示されるべき一組の入力値および関連する一組の所望の出力値を含むいくつかのトレーニング例として説明される。
一般的なトレーニング方法は、誤差信号をネットワーク中を逆方向に伝搬させる逆方向伝搬または「バックプロップ」である。誤差信号は、所与の要素の重みをどのくらい変化させるべきかおよび誤差勾配を決定するために使用される。その目的は、平均二乗誤差の大域的最小値に収束することである。収束に向かう経路、すなわち下り勾配はステップの形でとられる。各ステップは、処理要素の入力重みの調整である。各ステップのサイズは学習率によって決定される。下り勾配の傾斜は、収束が達成されたという誤った印象を与え、不正確な結果をもたらす極小値の働きをする谷を有する平坦な領域および急な領域を含む。
バックプロップのいくつかの変形は、前の重み変化値の一部が現在の値に追加される運動量項を組み込む。これは、運動量をアルゴリズムの軌道の下り勾配中に追加する。これは、アルゴリズムの軌道が極小値中に「捕獲」されるのを防ぐ。運動量項を含む一つの逆方向伝搬方法は、運動量率が適応性のある「クイックプロップ」である。クイックプロップ変形は、Fahlman(「Fast Learning Variations on Back-Propagation: An Empirical Study」、Proceedings on the 1988 Connectionist Models Summer School、ピッツバーグ、1988年、D.Touretzky他編、pp.38-51、Morgan Kaufmann、カリフォルニア州 San Mateo、Lebriere との共著、「The Cascade-Correlation Learning Architecture」、Advances in Neural Information Processing Systems 2(デンバー、1989年)、D.Touretzky 編、pp.524-32、Morgan Kaufmann、カリフォルニア州 San Mateo参照)によって記載されている。クイックプロップアリゴリズムは、CarnegieMellon University の School of Computer Scienceによって維持される Artificial Intelligence Repository から、公的に入手でき、インターネットを介してダウンロードできる。クイックプロップでは、動的運動量率を勾配の傾斜に基づいて計算する。傾斜が直前の重み調整の後の傾斜よりも小さいが、それと同じ符号を有する場合、重み変化は加速する。加速率は、傾斜値間の連続的な差の大きさによって決定される。現在の傾斜が前の傾斜と反対の方向である場合、重み変化は減速する。クイックプロップ方法は、収束速度を改善し、できる限り急な下り勾配を与え、極小値への収束を防ぐのを助ける。
ニューラルネットワークが十分なトレーニングデータに基づいてトレーニングされるとき、ニューラルネットワークは、トレーニングデータの一部でなかった新しい入力データの組用の正確な解決策に対して一般化することができる連想メモリの働きをする。ニューラルネットワークは、完全なデータがない場合または雑音がある場合でも動作できることが示されている。また、新しいデータまたはテストデータに対するネットワークの性能はトレーニングデータに対する性能よりも低くなる傾向にあることが観測されている。テストデータに対する性能の差は、ネットワークがトレーニングデータから一般化することができた範囲を示す。しかしながら、ニューラルネットワークは、再トレーニングでき、したがって新しいデータから学習でき、ネットワークの全体的な性能を改善できる。
したがって、ニューラルネットは、医療診断など、予測を必要とする領域を含めて、多数の様々な問題に好適となる特性を有する。
ニューラルネットおよび診断.
患者を診断および/または治療する場合、医師は、患者の状態、症状、および適用できる医療診断テストの結果を使用して、患者の疾病状態または状態を識別する。医師は、症状およびテスト結果と特定の診断との関連を慎重に決定し、特定の診断を行う際に経験および直感に基づく判断を使用しなければならない。医療診断では、医療病歴、物理的試験、生化学テストを含むいくつかの情報源から情報を統合する必要がある。試験およびテストおよび質問に対する答えの結果に基づいて、医師は、その人のトレーニング、経験、知識、専門知識を使用して、診断を定形化する。最終的な診断には、検証または定式化するために後続の外科手順が必要である。したがって、診断のプロセスは、意思決定支援、直感、経験の組合せを必要とする。医師の診断の有効性は、その人の経験および能力に依存する。
医療診断の予測的および直感的性質のために、ニューラルネットワークおよびこのプロセスを助ける他のエキスパートシステムを開発する試みがなされている。医療診断へのニューラルネットワークの適用が報告されている。例えば、ニューラルネットワークは、心臓血管障害の診断を助けるために使用されている(例えば、Baxt(1991年)「Use of an Artificial Neural Network for the Diagnosis of Myocardial Infarction」、Annalsof Internal Medicine 115:843;Baxt(1992年)「Improving the Accuracy of an Artificial Neural Network Using Multiple Differently Trained Networks」、Neural Computation 4:772;Baxt(1992年)「Analysis of the clinical variables that drivedecision in an artificial neural network trained to identify the presence of myocardial infarction」、Annals of Emergency Medicine 21:1439; Baxt(1994年)「Complexity, chaos and human physiology: the justification for non-linear neural computational analysis」、Cancer Letters 77:85参照)。他の医療診断用途としては、癌診断(例えば、Maclin 他(1991年)「Using Neural Networks to Diagnose Cancer」 Journal of Medical Systems 15:11-9; Rogers 他(1994年)「Artificial Neural Networks for Early Detection and Diagnosis of Cancer」Cancer Letters 77:79-83; Wilding 他(1994 年)「Application of Backpropogation Neural Networks to Diagnosis of Breast and Ovarian Cancer Cancer Letters77:145-53), neuromuscular disorders(Pattichis 他(1995年を参照)「Neural Network Models in EMG Diagnosis」、IEEE Transactions on Biomedical Engineering 42:5:486-495参照)および慢性疲労症候群(Solms 他(1996年)「A Neural Network Diagnostic Tool for the Chronic Fatigue Syndrome」、 International Conference on Neural Networks, Paper No.108を参照)にニューラルネットワークを使用することである。しかしながら、これらの方法は、広い範囲の状態に対して実際的な診断テストの開発に関連する重大な問題を処理できず、また入力変数の選択を処理しない。
MYCIN(Davis他、「Production Systems as a Representation for a Knowledge-based Consultation Program」、 Artificial Intelligence、1977年、8:1:15-45)およびその子孫 TEIRESIAS、EMYCIN、PUFF、 CENTAUR、VM、GUIDON、SACON、ONCOCIN およびROGET を含む知識ベースのエキスパートシステムを含めて、医療診断に応用できるニューラルネットワーク以外のコンピュータ意思決定支援方法が報告されている。MYCINは、いくつかの伝染病を診断し、かつ抗菌療法を規定する対話式プログラムである。そのような知識ベースのシステムは、実際の知識および規則またはその知識を使用するための他の方法を含む。すべての情報および規則は、ニューラルネットワークの場合と同様に、入力データに基づいて所望の結果に到達するためにそれ自体の手順を開発するシステム以外のシステムのメモリ中に事前にプログラムされる。他のコンピュータ診断方法は、トレーニングパターンおよびアプリオリ情報からの確率密度関数に基づいてパターンを分類する信念または因果的確率的ネットワークとも呼ばれるベイズのネットワークである。乳癌と診断する乳房X線写真の解釈に使用されるベイズの意思決定システムが報告されている(Roberts 他「Mammo Net: A Bayesian Network diagnosing Breast Cancer」、Midwest artificial Intelligence and Cognitive Science Society Conference,イリノイ州 Carbonda1e,1995年4月)and Hypertension(Blinowska 他(1993年)「Diagnostica - A Bayesian Decision-Aid System - Applied to Hypertension Diagnosis」、IEEE Transactions on Biomedical Engineering 40:230-35)。ベイズの意思決定システムは、線形関係の信頼性および処理できる入力データ点の数に関して若干制限され、変数間の非線形関係を必要とする意思決定支援にはあまり適さない。ニューラルネットワークの処理要素を使用してベイズの方法を実施すれば、これらの制限の一部を克服できる(例えば Penny 他(1996年)、「Neural Networks in Clinica1 Medicine」、Medical Decision-support、1996年、16:4:386-98参照)。これらの方法は、医師をまねることによって、重要な変数がシステム中に入力される障害を診断するために使用されている。しかしながら、これらのシステムを使用して、既存の診断手順を改善することが重要であろう。
子宮内膜症.
子宮内膜症は、子宮状組織が子宮外で成長することである。これは、約15〜30パーセントの生殖年齢女性に影響を及ぼす。子宮内膜症の原因は未知であるが、後退月経、子宮から腹膜腔中への子宮内膜組織および細胞(月経堆積物)の退潮に起因しうる。後退月経はたいていの女性またはすべての女性に起こると考えられるが、なぜある女性が子宮内膜症になり、他の女性は子宮内膜症にならないのかははっきりしない。
子宮内膜症を有するすべての女性が症状を示すか、またはその疾病を煩うとは限らない。子宮内膜症の程度または重さは症状に相関しない。重い疾病を有する女性は完全に無症候性であり、最小の疾病を有する他の女性は耐え難い痛みを受ける。不妊症、骨盤痛、月経困難症、子宮内膜症の過去の発生など、子宮内膜症に関連している症状は、しばしば子宮内膜症を有しない女性に起こる。他の場合には、これらの症状は現れ、女性は子宮内膜症を有する。これらの症状と子宮内膜症との間の関係は存在すると思われるが、これらのおよび他のファクタとの相互作用は複雑である。臨床医は、しばしば上記の指示の組合せに基づいて子宮内膜症を有する優れた候補者であると考えられる患者に対して診断腹腔鏡検査を実施する。しかしながら、子宮内膜症は、これらの女性のかなりの部分に存在しない。したがって、子宮内膜症は、医師が情報の複雑な組を使用して、診断を定形化するために経験に頼らなければならない疾病状態の一例を表す。診断の有効性は、医師の経験および能力に関係する。
したがって、症状だけから女性が子宮内膜症を有するかどうかを決定することは不可能であった。医学界内で、子宮内膜症の診断は、手術中に子宮内膜障害を直接視覚化することによってしか確認されない。多数の医師は、しばしば更なる制限を加え、子宮内膜バイオプシー組織に関する組織学を使用して、推測される障害を子宮内膜状(腺およびストロマ)として検証するよう要求している。したがって、子宮内膜症用の非侵襲性診断テストはかなり有用であろう。
特開平5−277119号公報。 特開平5−176932号公報。 特開平6−119291号公報。 特開平7−84981号公報。
したがって、本発明の目的は、子宮内膜症用の非侵襲性診断補助装置を提供することである。また、本発明の目的は、子宮内膜症および他の障害および状態の診断を助ける意思決定支援システム中で使用すべき重要な変数を選択する方法を提供することである。また、本発明の目的は、新しい変数を識別すること、疾病用の新しい生化学テストおよびマーカを識別すること、既存の診断方法を改善する新しい診断テストを設計することである。
疾病、障害、および他の医療状態の診断およびそれを助ける意思決定支援システムを使用する方法が提供される。本発明において提供される方法は、患者病歴データおよび重要な変数の識別を使用して診断テストを開発する方法、重要な選択される変数を識別する方法、診断テストを設計する方法、診断テストの有用性を評価する方法、診断テストの臨床的効用を拡大する方法、様々な可能な治療の結果を予測することによって治療方針を選択する方法を含む。また、子宮内膜症など診断することが難しい疾病、特定の期間中の出産の可能性など妊娠関連事象の予測、女性の健康に関連する他のそのような障害を含めて、障害の診断を助ける疾病パラメータまたは変数が提供される。本明細書では女性の障害を例に挙げるが、本発明の方法は任意の障害または状態に適用できることを理解されたい。
また、ニューラルネットワークトレーニングを使用して、テストの感度および特異性を改善するためにテストの開発を案内し、疾病状態または医療状態の全体的な診断またはその潜在能力を改善する診断テストを選択する手段が提供される。最後に、所与の診断テストの有効性を評価する方法が説明される。
したがって、本発明では、障害または状態の診断を助ける変数または変数の組を識別する方法が提供される。重要な変数を識別し、選択する方法および診断用の生成システムでは、患者のデータまたは情報、一般に患者の病歴または臨床データを収集し、このデータに基づく変数を識別する。例えば、データは、各患者が経験した妊娠の回数に関する各患者ごとの情報を含む。したがって、抽出された変数は妊娠の回数である。変数を意思決定支援システムによって分析し、ニューラルネットワークによって例証して、重要なまたは関連する変数を識別する。
ニューラルネットワークや他の適応性のある処理システム(「データ収集ツール」と総称)など、コンピュータベースの意思決定支援システムを使用して、医療診断テストを開発する方法が提供される。ニューラルネットワークまたは他のそのようなシステムは、患者のデータおよび症状が既知であるか、または推測されるテスト患者のグループから収集された観測値に基づいてトレーニングされる。関連する変数のサブセットまたは複数のサブセットは、ニューラルネットワークやニューラルネットワークのコンセンサスなど、意思決定支援システムまたは複数の意思決定支援システムを使用して識別される。別の組の意思決定支援システムは、識別されたサブセットに基づいてトレーニングされ、その症状用のニューラルネットベースのテストなど、コンセンサス意思決定支援システムベースのテストを発生する。コンセンサスニューラルネットワークなど、コンセンサスシステムを使用すれば、ニューラルネットワークベースのシステムなど、意思決定支援システムの極小値の負の影響を最小限に抑えられ、それによりシステムの確度が改善される。
また、性能を向上または改善するために、使用する患者の数を増やせば患者データを増大させることができる。また、生化学テストデータおよび他のデータを追加の例の一部として、またはデータを変数選択プロセスの前に追加の変数として使用して含めることができる。
得られたシステムは、診断の補助装置として使用される。さらに、システムを使用するとき、患者データを記憶し、次いでそれを使用して、システムをさらにトレーニングし、特定の遺伝的集団に適合するシステムを開発することができる。追加のデータのシステム中へのこの入力は、自動的に実施されるか、または手動で実施される。そうすることによって、システムは、連続的に学習し、それらが使用される特定の環境に適合する。得られたシステムは、診断の他に、疾病または障害の重さの評価、選択された治療プロトコルの結果の予測を含む多数の用途を有する。このシステムはまた、生化学テストデータや他のそのようなデータなど、診断手順中の他のデータの値を評価するため、および特定の疾病を診断するために有用な新しいテストを識別するために使用される。
したがってまた、既存の生化学テストを改善する方法、関連する生化学テストを識別する方法、障害および状態の診断を助ける新しい生化学テストを開発する方法が提供される。これらの方法では、意思決定支援システムベースのテストの性能に対する特定のテストまたは潜在的な新しいテストの影響を評価する。テストからの情報の追加が性能を改善する場合、そのようなテストは診断に関連する。
本発明において特に重要であり、かつ本発明の方法が容易に適用できる障害および状態は、子宮内膜症、不妊症、特定の期間中の出産の可能性など妊娠関連事象の予測、子癇前症を含めて、婦人科学状態および生殖能力に影響を及ぼす他の状態である。ただし、これらに限定されない。しかしながら、本発明の方法は任意の障害または状態に適用できることを理解されたい。
これらの方法は、ニューラルネットワークに関して例を挙げて説明するが、エキスパートシステム、ファジー諭理、決定ツリー、および一般的に非線形である他の統計的意思決定支援システムなど、他のデータ収集ツールも使用できることを理解されたい。本発明において提供される変数は意思決定支援システムとともに使用するようになされているが、変数を識別した後、重要な変数の知識を備えた人、一般に医師は、それらを使用して、意思決定支援システムがない場合、またはあまり複雑でない線形分析システムを使用して診断を助けることができる。
本明細書に示すように、診断を助ける際に今まで重要であることが知られていなかった変数またはその組合せが識別される。さらに、生化学テストデータを補足することなく、患者病歴データを使用して、本発明において提供されるニューラルネットなど、意思決定支援システムとともに使用したときに障害または状態を診断するか、または障害または状態の診断を助けることができる。さらに、生化学データを使用した診断または生化学データを使用しない診断の確度は、侵襲性外科診断手順が不要になるほど十分である。
また、本発明では、診断テストの臨床的効用を識別し、拡大する方法が提供される。特定のテストの結果、今まで注目する障害または状態に関して臨床的効用があると考えられていなかった特定のテストの結果は、変数と結合され、ニューラルネットなど、意思決定支援システムとともに使用される。システムの性能、障害を正確に診断する能力がテストの結果の追加によって改善された場合、テストは、臨床的効用または新しい効用を有することになる。
同様に、得られたシステムを使用すれば、薬品または療法の新しい効用を識別することができ、また特定の薬品および療法の用途を識別することができる。例えば、このシステムを使用すれば、特定の薬品または療法が有効である患者の副次集団を選択することができる。したがって、薬品または療法用の指示を拡大する方法、および新しい薬品および療法を識別する方法が提供される。
特定の実施形態では、ニューラルネットワークを使用して、特定の観測値およびテスト結果を評価し、生化学診断テストまたは他の診断テストの開発を案内し、テスト用の意思決定支援機能を提供する。
また、意思決定支援システム中で使用される重要な変数(パラメータ)またはその組を識別する方法が提供される。この方法は、本明細書では医療診断に関して例を挙げて説明するが、重要なパラメータまたは変数を複数の中から選択する、財務分析など、任意の分野において広く応用できる。
特に、変数の有効な組合せを選択する方法が提供される。この方法は、(1)一組の「n」個の候補変数および最初は空である一組の「選択された重要な変数」を与えるステップ、(2)カイ二乗および感度分析に基づいてすべての候補変数を順位付けするステップ、(3)最も高い「m」個の順位付けされた変数(mは1からnまで)を一度に取り、重要な変数の現在の組に結合された変数に基づいてニューラルネットのコンセンサスをトレーニングすることによって各変数を評価するステップ、(4)m個の変数のうち最もよい変数(最もよい変数とは最も高い性能を与える変数である)を選択し、それが選択された重要な変数の性能と比較して性能を改善する場合、それを「選択された重要な変数」の組に追加し、それを候補組から除去し、ステップ(3)で処理を継続し、それ以外の場合、ステップ(5)に進むステップ、(5)候補組のすべての変数を評価した場合、プロセスを終了し、それ以外の場合、次の最も高い「m」個の順位付けされた変数を一度に取り、重要な選択された変数の現在の組に結合された変数に基づいてニューラルネットのコンセンサスをトレーニングすることによって各変数を評価し、ステップ(4)を実施するステップを含む。重要な選択された変数の最終組は、複数、一般に三つから五つよりも多い変数を含む。
特定の実施形態では、感度分析は、(k)観測データセット中の各変数ごとに平均観測値を決定するステップ、(l)トレーニング例を選択し、意思決定支援システム中で例を実行して、通常の出力として指定され、記憶される出力値を発生するステップ、(m)選択されたトレーニング例中の第一の変数を選択し、観測値を第一の変数の平均観測値と交換し、意思決定支援システム中で修正された例を順方向モードで実行し、出力を修正された出力として記録するステップ、(n)通常の出力と修正された出力との差を二乗し、それを各変数ごとに合計として累積するステップ(この合計は各変数ごとに選択された変数合計に指定される)、(o)例中の各変数ごとにステップ(m)およびステップ(n)を繰り返すステップ、(p)データセット中の各例ごとにステップ(l)からステップ(n)を繰り返すステップ(選択された変数の各合計は、意思決定支援システム出力の決定に対する各変数の相対的寄与を表す)を含む。この合計は、意思決定支援システム出力の決定に対するその相対的寄与に従って各変数を順位付けするために使用される。
本明細書で示すように、ニューラルネットワークなどコンピュータベースの意思決定支援システムは、最初に重要であると考えられていなかったいくつかの入力ファクタが結果に影響を及ぼしうることを明らかにする。関連する入力ファクタを明らかにするニューラルネットワークのこの能力により、診断テストの設計を案内するのにニューラルネットワークを使用することができる。したがって、診断テストを設計する方法、および診断テストの効用を評価する方法も提供される。各場合において、テストまたは可能なテストからのデータは、意思決定支援システムの入力に加えられる。データが入力中に含まれるときに結果が改善された場合、診断テストは臨床的効用を有する。
今まで特定の障害の診断において重要であることが知られていなかったテストが識別され、または新しいテストが開発できる。ニューラルネットワークは、スプリアスデータ点の影響を減じ、かつ代用されうる他のデータ点があればそれを識別することによって診断テストに耐性を加えることができる。
ネットワークを一組の変数に対してトレーニングし、次いで診断テストデータまたは生化学テストデータからの臨床データおよび/または追加の患者情報を入力データに追加する。ない場合と比較して結果を改善する変数を選択する。したがって、今まで特定の障害を診断する際に重要であることが知られていなかった特定のテストが関連性を有することが分かる。例えば、血清抗体のウェスタンブロット上の特定のスポットの有無を疾病状態に相関させることができる。特定のスポット(すなわち抗原)の同一性に基づいて、新しい診断テストが開発できる。
疾病の診断を助けるために予測技術を適用する方法、より具体的には疾病子宮内膜症の診断を助けるために様々な情報源からの入力とともにニューラルネットワーク技法を使用する方法の一例が提供される。コンピュータシステム中のネットワークのコンセンサスに従って動作するニューラルネットワークのトレーニングされた組を使用して、その一部が一般に疾病状態に関連しない、例えば調査によって得られる特定の臨床的関連を評価する。これは、例示的な疾病状態子宮内膜症の場合に証明され、子宮内膜症の診断を助けるために使用されるファクタが提供される。ニューラルネットワークトレーニングは、本明細書で臨床データと呼ぶ、その疾病状態が外科的に検証されていないかなりの数の臨床患者の医師によって供給される答えと質問との相関に基づいている。
40個以上の臨床データファクタの集合から抽出される特定のトレーニングされたニューラルネットワーク中の12個から約16個の複数のファクタ、具体的には一組の14個のファクタが子宮内膜症の一次兆候として識別される。次のパラメータの組、すなわち年齢、パリティ(出産回数)、妊娠(妊娠回数)、流産回数、喫煙(箱/日)、過去の子宮内膜症歴、月経困難症、骨盤痛、異常pap/形成異常症、骨盤手術歴、薬物治療歴、妊娠高血圧症、生殖器いぼ、糖尿病が重要であると識別された。他の同様のパラメータの組も識別された。これらの変数のサブセットも子宮内膜症を診断する際に使用できる。
次の三つの変数の組合せのうちの一つ(または複数)を含む、選択されたパラメータの組の任意のサブセット、特に14個の変数の組が子宮内膜症の診断用の意思決定支援システムとともに使用できる。
a)出産回数、子宮内膜症歴、骨盤手術歴
b)糖尿病、妊娠高血圧症、喫煙
c)妊娠高血圧症、異常papしみ/形成異常症、子宮内膜症歴
d)年齢、喫煙、子宮内膜症歴
e)喫煙、子宮内膜症歴、月経困難症
f)年齢、糖尿病、子宮内膜症歴
g)妊娠高血圧症、出産回数、子宮内膜症歴
h)喫煙、出産回数、子宮内膜症歴
i)妊娠高血圧症、子宮内膜症歴、骨盤手術歴
j)妊娠回数、子宮内膜症歴、骨盤手術歴
k)出産回数、異常PAPしみ/形成異常症、子宮内膜症歴
l)出産回数、異常PAPしみ/形成異常症、月経困難症
m)子宮内膜症歴、骨盤手術歴、月経困難症
n)妊娠回数、子宮内膜症歴、月経困難症。
子宮内膜症の診断に変数を使用する診断ソフトウェアおよび例示的なニューラルネットワークも提供される。このソフトウェアは、臨床的に有用な子宮内膜症インデックスを生成する。
他の実施形態では、子宮内膜症のテストに使用される診断ニューラルネットワークシステムの性能は、ネットワークのトレーニングに使用されるファクタ(本明細書では生化学テストデータと呼ぶ。これは分析からのテスト、脈拍や血圧など、生命徴候などのデータを含む)の一部として関連する生化学テストからの生化学テスト結果に基づく変数を含めることによって向上する。それによって得られる例示的なネットワークは、生化学テストの結果および14個の臨床パラメータを含めて、15個の入力ファクタを使用する増大ニューラルネットワークである。8個の増大ニューラルネットワークの重みの組は、8個の臨床データニューラルネットワークの重みの組と異なる。例示の生化学テストは、ELISA診断テストフォーマットなど、免疫診断テストフォーマットを使用する。
本明細書で例示した子宮内膜症に適用した方法は、例えば、不妊症、特定の期間中の出産の可能性など妊娠関連事象の予測、子癇前症など、婦人科学障害および女性関連障害を含めたがそれだけには限られない、他の障害用のファクタを識別するために同様に適用し、使用できる。したがって、ニューラルネットワークは、疾病状態を予測し、それらを生化学データに結合する際に重要なファクタの識別に基づいて疾病状態を予測するようにトレーニングできる。
得られた診断システムは、状態または障害の存在だけでなく、障害の重さを診断するために、また治療方針を選択する際の補助装置として適しており、使用できる。
定義.
別段の定義がない限り、本明細書で使用するすべての技術用語および科学用語は、一般に本発明がそれに属する技術分野の当業者が理解できるのと同じ意味を有する。本明細書で参照するすべての特許および文献は、参照により本発明の一部となる。
本明細書で使用する「データ収集システム」または「データシステム中の知識発見」とも呼ばれる意思決定支援システムは、入力データを分類するためにデータに基づいてトレーニングされ、次いでトレーニングデータに基づいて後で意思決定を行うために新しい入力データとともに使用できる任意のシステム、一般にコンピュータベースのシステムである。これらのシステムは、エキスパートシステム、ファジー論理、非線形回帰分析、多変量分析、意思決定ツリー分類装置、ベイズの信念ネットワーク、および本明細書で例示するニューラルネットワークを含む。ただし、これらに限定されない。
本明細書で使用する適応機械学習プロセスは、データを使用して、予測解決策を生成する任意のシステムである。そのようなプロセスは、エキスパートシステム、ニューラルネットワーク、およびファジー論理によって実施されるプロセスである。
本明細書で使用するエキスパートシステムは、そのタスクの知識またはその知識を使用するための論理的な規則または手順に基づくコンピュータベースの問題解決および意思決定支援システムである。専門分野の専門家の経験からの知識ならびに論理がコンピュータ中に入力される。
本明細書で使用するニューラルネットワーク、またはニューラルネットは、密に相互接続された適応処理要素から構成される並列計算モデルである。ニューラルネットワークでは、処理要素は、入力層、出力層、および少なくとも一つの隠れた層中に構成される。適切なニューラルネットワークは、当業者に知られている(例えば、米国特許第5251626号、第5473537号および第5331550号、Baxt(1991年)「Use of an Artificial Neural Network for the Diagnosis of Myocardial Infarction」、Annals of Internal Medicine 115:843;Baxt(1992年)「Improving the Accuracy of an Artificial Neural Network Using Multiple Differently Trained Networks」、Neural Computation 4:772;Baxt(1992年)「Analysis of the clinical variables that drive decision in an artificial neural network trained to identify the presence of myocardialinfarction」、Annals of Emergency Medicine 21:1439; Baxt(1994 年 )「Complexity, chaos and human physiology: the justification for non-linear neural computation analysis」、 Cancer Letters 77:85参照)。
本明細書で使用するパーセプトロンまたは人工ニューロンとも呼ばれる処理要素は、複数の入力からの入力データを伝達関数に従って単一の二進出力中にマップする計算ユニットである。各処理要素は、その入力で受信された信号を掛けられて、重み付けされた入力値を発生する各入力に対応する入力重みを有する。処理要素は、各入力の重み付けされた入力値を合計して、重み付けされた合計を発生し、次いでこれが伝達関数によって定義されたしきい値と比較される。
本明細書で使用するしきい値関数または活性化関数とも呼ばれる伝達関数は、二つの別個のカテゴリを定義する曲線を生成する数学的関数である。伝達関数は、線形であるが、ニューラルネットワーク中で使用されるとき、より一般的には、二次関数、多項式関数、またはS字形関数を含めて非線形である。
本明細書で使用する逆方向伝搬は、ターゲット出力と実際の出力との間の誤差を訂正するためのニューラルネットワーク用のトレーニング方法である。誤差信号はニューラルネットワークの処理層中にフィードバックされて、処理要素の重みの変化により実際の出力がターゲット出力により近づく。
本明細書で使用するクイックプロップは、Fahlmanが提案し、開発し、報告した逆方向伝搬方法である(「Fast Learning Variations on Back-Propagation: An Empirical Study」、Proceedings on the 1988 Connectionist Models Summer School, Pittsburgh,1988,D.Touretzky 他編,pp.38-51,Morgan Kaufmann,カリフォルニア州 San Mateo; Lebriereとの共著、「The Cascade-Correlation Learning Architecture」、Advances in Neural Information Processing Systems 2, (Denver, 1989),D.Touretzky 編,pp.524-32.Morgan Kaufmann,カリフォルニア州 San Mateo)。
本明細書で使用する診断は、疾病、障害または他の医療状態の存在、不在、重さまたは治療方法を評価する予測プロセスである。本明細書では、診断はまた、治療から得られた結果を決定する予測プロセスを含む。
本明細書で使用する生化学テストデータは、免疫学的検定法、生物学的検定法、クロマトグラフィ、モニタおよびイメージャからのデータ、測定値を含む(ただしこれらに限定されない)任意の分析方法の結果であり、また、脈拍、体温、血圧、例えば、EKG、ECG、EEG、バイオリズムモニタの結果、および他のそのような情報など、生命徴候および身体機能に関するデータを含む。分析は、例えば、分析物、血清マーカ、抗体、およびサンプル中の患者から得られる他のそのような材料を評価できる。
本明細書で使用する患者病歴データは、質問表などによって、患者から得られたデータであるが、一般に本明細書で使用する生化学テストデータを含まない。ただし、そのようなデータが病歴データである限りは、所望の解決策は、障害の診断を生成できる数または結果を生成する。
本明細書で使用するトレーニング例は、単一の診断用の観測データ、一般に一人の患者に関する観測データを含む。
本明細書で使用する患者病歴データから識別されたパラメータは、本明細書では観測ファクタまたは値または変数と呼ぶ。例えば、患者データは、個々の患者の喫煙習慣に関する情報を含む。それに関連する変数は喫煙である。
本明細書で使用する分割手段は、80%など、データの一部を選択し、それをニューラルネットをトレーニングするために使用し、残りの部分をテストデータとして使用することを意味する。したがって、ネットワークは、データの一部以外に基づいてトレーニングされる。このプロセスは、その場合繰り返され、第二のネットワークをトレーニングできる。このプロセスは、すべての区分がテストデータおよびトレーニングデータとして使用されるまで繰り返される。
本明細書で使用する使用できるデータを複数のサブセット中に分割することによるトレーニングの方法は、一般にトレーニングの「ホールドアウト方法」と呼ばれる。ホールドアウト方法は、ネットワークトレーニングに使用できるデータが制限されるときに特に有用である。
本明細書で使用するトレーニングは、入力データを使用して、意思決定支援システムを生成するプロセスである。特に、ニューラルネットに関して、トレーニングは、特定の処理要素が、他の処理要素の出力と結合されたときに、ニューラルネットの出力とトレーニングデータ中に提示された所望の出力との間の生じた誤差を最小限に抑える結果を発生する出力を与える処理要素の重みに対する一連のインタラクティブ調整を行う試行錯誤プロセスである。
本明細書で使用する変数選択プロセスは、予測結果をもたらす変数の組合せを任意の使用できる組から選択する系統的方法である。選択は、追加の変数の追加が結果を改善しないようにサブセットの予測性能を最大にすることによって実施される。本明細書において提供される好ましい方法では、可能なすべての組合せを考慮せずに変数が選択できる。
本明細書で使用する候補変数は、意思決定支援システムとともに使用できる財務記録など診断実施形態または他の記録用のテスト患者のグループから収集された観測値から選択された項目である。候補変数は、患者データなどのデータを収集し、観測値を一組の変数として分類することによって得られる。
本明細書で使用する重要な選択された変数は、手元のタスクのネットワーク性能を高める変数である。使用できるすべての変数を含めることは、最適なニューラルネットワークをもたらさない。いくつかの変数がネットワークトレーニング中に含まれるとき、ネットワーク性能は低下する。関連するパラメータのみを使用してトレーニングされるネットワークは、ネットワーク性能の向上をもたらす。これらの変数はまた、本明細書において関連する変数のサブセットとも呼ばれる。
本明細書で使用する順位付けは、変数を選択の順序でリストするプロセスである。順位付けは、任意でよく、または整理されることが好ましい。整理は、例えば、診断などタスクに対して変数を重要度順に順位付けする統計分析によるか、意思決定支援システムベースの分析によって実施される。順位付けはまた、例えば、専門家か、規則ベースのシステムか、またはこれらの方法の任意の組合せによって実施できる。
本明細書で使用するニューラルネットワークのコンセンサスは、各出力の重みが任意に決定されるか、または等しい値に設定される複数のニューラルネットワークからの出力の線形組合せである。
本明細書で使用するグリーディアルゴリズムは、所与のデータセットからの点を含めるか、除くかどうかを決定することによってデータセットを最適化する方法である。このセットは、要素がない状態から始まり、部分解決策があるとすれば、目的を最も改善する他の値が選択される近視最適化によって残りの要素の実現可能なセットから要素を連続的に選択する。
本明細書で使用するジェネティックアルゴリズムは、トレーニングサイクル中に実行され、かつ所望のターゲットに到達する際にそれらの性能に従って順位付けされるランダムに生成されるニューラルネットワークの初期分布から始まる方法である。十分に実行しないネットワークはその分布から除去され、より適切なネットワークは、親ネットワークの所望の特性を保持する子孫へのクロスオーバプロセス用に保持され、選択される。
本明細書で使用するシステムの性能は、結果が特定の結果をより正確に子測または決定したときに改善される、またはより高くなると言われる。また、システムの性能は、一般により多くのトレーニング例を使用したときによりよくなることを理解されたい。したがって、本発明のシステムは、それらが使用されるときに時間ととも向上し、より多くの患者データが蓄積され、次いでトレーニングデータとしてシステムに追加される。
本明細書で使用する感度=TP/(TP+FN)、特異性はTN/(TN+FP)である。ただし、TP=真の正、TN=真の負、FP=偽の正、FN=偽の負である。臨床感度は、テストが疾病を有する患者をどのくらいよく検出するかを測定する。臨床特異性は、テストが疾病を有しない患者をどのくらいよく正確に識別するかを測定する。
本明細書で使用する正予測値(PPV)はTP/(TP+FP)である。負予測値(NPV)はTN/(TN+FN)である。正予測値は、正テストを有する患者が実際に疾病を有する可能性である。負予測値は、負テスト結果を有する患者が疾病を有しない可能性である。
本明細書で使用するファジー論理は、正確に記述できないシステムを処理する手法である。メンバシップ関数(データセット中のメンバシップ)はファジー諭理システム中では二進ではない。代わりにメンバシップ関数は分数値をとる。したがって、要素は、セットのメンバシップの係数が異なる場合にもかかわらず、矛盾する二つのセット中に同時に含まれうる。したがって、このタイプの手法は、yesまたは答えがない質問に答えるために有用である。したがって、このタイプの論理は、答えがしばしば一つの程度である患者病歴質問票からの返答を分類するのに適している。
1.一般的考察および一般的方法.
患者病歴および/または生化学情報など観測値を分析するニューラルネットワークをトレーニングするためにいくつかの技法が使用できることが決定されている。使用できるデータおよび分析すべき問題の特性に応じて、様々なニューラルネットワークトレーニング技法が使用できる。例えば、大量のトレーニング入力が使用できる場合、冗長トレーニング情報をなくす方法が採用される。
本明細書に示すように、ニューラルネットワークはまた、最初に重要であると考えられていなかったいくつかの入力ファクタが結果に影響を及ぼすことを明らかにし、かつ多分重要なファクタが結果決定因ではないことを明らかにする。関連する入力ファクタおよび関連しない入カファクタを明らかにするニューラルネットワークの能力は、診断テストの設計を案内する際にニューラルネットワークを使用することを可能にする。本明細書に示すように、ニューラルネットワーク、および他のそのようなデータ収集ツールは、診断における貴重な進歩であり、診断テストの感度および特異性を高める機会を与える。本明細書に示すように、極小値の現象のために不十分な確度の答えの可能性を回避するよう注意しなければならない。本発明の方法は、この問題を回避するか、または少なくともそれを最小限に抑える手段を提供する。
開発診断手順、特に患者情報にのみまたは一部に基づく診断テストを開発する場合、いくつかの問題が解決される。例えば、一般に、トレーニングデータが使用できる限られた数の患者が存在するので限られた量のデータが存在する。これを解決するために、以下で説明するように、患者情報は、ネットワークをトレーニングするときに分割される。また、一般に、使用できるデータに関連して使用するために使用できる多数の入力観測ファクタが存在し、したがって観測値を順位付けし、選択する方法が開発された。
また、一般に、使用できる患者データ中に多数の二進(真/偽)入力ファクタが存在するが、これらのファクタは、一般に性質がまばら(使用できる患者データ中の二進入力ファクタの一部の場合においてのみ正または負である値)である。また、診断中の正のファクタと負のファクタとの間に高度のオーバラップが存在する。
上記その他の特性は、診断テストを開発するために使用される手順および方法の選択に影響を及ぼす。これらの問題は、本発明において処理され、解決される。
2.患者病歴診断テストの開発.
診断テスト.
患者病歴データのみに基づく診断の方法が提供される。本明細書で証明するように、患者病歴情報のみに依存するが、診断を助ける意思決定支援システムを提供することができる。したがって、得られたシステムは、生化学テストデータの予測能力を改善すること、新しい疾病マーカを識別すること、生化学テストを開発すること、今まで特定の障害を予測すると考えられていなかったテストを識別するために使用できる。
これらの方法はまた、選択された治療方法の結果を予測することによって適切な治療方法を選択し、療法後の状態を予測するために使用できる。トレーニング用の入力変数は、例えば、選択された治療および結果を含めて、診断および他の使用できるデータを示す電子的患者記録から得られる。得られた意思決定支援システムは、その場合、例えば、異なる治療に応答し、かつ特定の治療の結果を予測する異なるクラスに女性を分類するために使用できるすべてのデータとともに使用される。これにより、治療またはプロトコルの選択が成功する確率を最も高くすることができる。
同様に、これらのシステムは、薬品または療法の新しい効用を識別するために使用でき、また特定の薬品および療法の用途を識別するために使用できる。例えば、これらのシステムは、特定の薬品または療法が有効である患者の副次集団を選択するために使用できる。したがって、薬品または療法の支持を拡大する方法および新しい薬品および療法を識別する方法が提供される。
患者データの収集、変数の生成、および概要.
本発明の方法を例示するために、図1に、患者病歴ベースの診断テスト方法を開発する流れ図を示す。このプロセスは、患者病歴データの収集から始まる(ステップA)。患者病歴データまたは観測値は、患者質問票、臨床結果、場合によっては診断テスト結果、患者医療記録から得られ、コンピュータ読取り可能な形でコンピュータ上で動作するシステムに供給される。デジタルコンピュータでは、患者病歴データは、(真/偽など)二進値と定量(連続的な)値の二つの形態の一組の変数に分類される。二進値変数は、「たばこを吸いますか」という質問に対する答えを含むこともある。定量値変数は、「一日に何箱たばこを吸いますか」という質問に対する答えであることもある。メンバシップ関数など他の値も入力手段として有用である。
患者病歴データはまた、診断すべき医療状態の存在、不在、または重さを示すと考えられるターゲットまたは所望の結果変数を含む。この所望の結果情報は、ニューラルネットワークトレーニング用に有用である。トレーニングデータ中に含めるべきデータの選択は、診断すべき医療状態の存在、重さまたは不在の知識または仮定を使用して行われる。本明細書に示すように、診断はまた、進行の評価および/または療法治療の有効性を含む。
定義でき、したがって生成できる変数の数は扱いにくい。二進変数は、一般に、正(または負の)応答の数がしばしば応答の全体的な数の一部であるのでまばらである。したがって、代表的なトレーニングデータ環境中で使用できる多数の変数および少数の患者が存在する場合、診断にとって重要な変数のサブセットを使用できる変数から分離するステップがとられる(ステップB)。使用できる変数の中からの変数のサブセットの特定の選択は、ニューラルネットワークの診断性能に影響を及ぼす。
本明細書で概説した方法は、一般に医師などトレーニングされた専門家によって選択された変数のサブセットと比較して感度および信頼性が同等であるか、または優れている変数のサブセットをつくり出すことが分かっている。いくつかの例では、変数は、順位または関連性の順に優先権が与えられるか、または配置される。
その後、診断手順で使用すべき最後のニューラルネットワークをトレーニングする(ステップC)。好ましい実施形態では、ネットワークのコンセンサス(すなわち複数のネットワーク)をトレーニングする。得られたネットワークは、完成した患者病歴診断テスト(ステップD)用の意思決定支援機能を形成する。
重要な変数を分離する方法.
重要な変数を分離する方法が本発明において提供される。この方法によれば、変数の可能なすべての組合せを比較することによって有効な変数の組を選択することができる。重要な変数は、意思決定支援システム用の入力として使用される。
重要な変数または関連する変数の分離−変数の順位付け.
図3に、診断テスト中の重要な変数または関連する変数を分離する方法の流れ図を示す(ステップE)。そのような方法は、一般に、潜在的に関連する情報が与えられているデジタルコンピュータシステムを使用して実施される。この手順では、独立した二つの方法を使用して変数を重要度の順に順位付けし、次いで順位の最上部から使用できる変数のサブセットを選択する。上記のように、当業者は、カイ二乗または感度分析の代わりに他の順位付け方法を使用することができる。また、xをN(候補変数の総数)まで設定した場合、順位付けは任意である。
このシステムは、以下で説明するように、使用できるデータに基づいて複数のニューラルネットワークをトレーニングし(ステップI)、次いですべてのトレーニングされたネットワーク上で感度分析を生成して、各入力変数が診断を実施するためにネットワーク中でどの程度まで使用されたかを決定する(ステップJ)。各入力変数のコンセンサス感度分析は、各トレーニングされたネットワークごとに個々の感度分析結果を平均化することによって決定される。感度に基づいて、患者病歴情報から得られた各変数ごとの順位を決定する(ステップK)。
変数の順位付け.
好ましい実施形態では、変数は、カイ二乗分析など統計分析および/または感度分析など意思決定支援システムベースの分析を使用して順位付けされる。例示の実施形態では、感度分析およびカイ二乗分析を使用して、変数を順位付けする。限定しないが、回帰分析、判別分析、および当業者に知られている他の方法を含めて、他の統計方法および/または意思決定支援システムベースの方法も使用できる。順位付けされた変数は、ネットワークをトレーニングするために使用でき、また本発明において与えられる変数選択の方法中で使用できることが好ましい。
この方法では、各入力を変更し、出力の対応する変化を測定する感度分析を使用する(また Modai 他(1993 年 )「Clinical Decisions for Psychiatric Inpatients and Their Evaluation by Trained Neural Networks」、Methods of Information in Medicine 32:396-99; Wilding 他(1994 年 )「Application of Backpropogation Neural Networks to Diagnosis of Breast and Ovarian Cancer」、Cancer Letters 77:145-53; Ruck 他(1990年)「Feature Selection in Feed-Forward Neural Networks」Neural Network Co puting 20:40-48; Utans 他(1993 年 )「Selecting Neural Network Architectures Via the Prediction Risk: Application to Corporate Bond Rating Prediction」、Proceedings of the First International Conference on Artificial Intelligence Applications on Wall Street. Washington, D.C.,IEEE Computer Society Press.pp.35-41;Penny他(1996 年 )「Neural Networks in Clinical Medicine」、Medical Decision-support 4:386-398参照)。そのような方法は、今まで本明細書で説明するように、重要な変数を選択するために使用されていなかった。例えば、感度分析を使用して、重要な変数を選択するためにではなく、変数間の関係を決定する統計手法を開発することが報告されている(Baxt 他 (1995年 )「Bootstrapping Confidence Intervals for Clinical Input Variable Effects in a Network Trained to Identify the Presence of Myocardial Infarction」、Neural Computation7:624-38参照)。そのような感度分析は、本明細書で説明するように診断の補助手段として重要な変数の選択の一部として使用できる。
図3のステップKに感度分析の概要を示す。各ネットワークまたは複数のトレーニングされたニューラルネットワーク(ネットワークN1からNn)は、各トレーニング例Sx(出力が知られているか、または推測される入力データグループ。少なくとも二つのトレーニング例が存在しなければならない)ごとに順方向モードで実行される。ただし、「x」はトレーニング例の数である。各トレーニング例Sxの各ネットワークN1〜Nnの出力は、記録される、すなわちメモリ中に記憶される。すべてのトレーニング例中の各入力変数の平均値を含む新しいトレーニング例が定義される。一度に一つ、各元の各トレーニング例Sx値の各入力変数がその対応する平均値V1(avg)からVy(avg)と交換される。ただし、「y」は変数の数である。
修正されたトレーニング例Sx’は、複数のネットワーク中で再び実行され、各変数の各ネットワークごとに修正された出力を発生する。元のトレーニング例Sxからの出力と各入力変数の修正された出力との間の差は、各入力変数に対応する個々の合計を得るために二乗され、合計される(累計される)。説明するために、例えば、それぞれ15個の変数V1〜V15を有する別々の10個のニューラルネットワークN1〜N10および異なる5個のトレーニング例S1〜S5の場合、5個のトレーニング例の各トレーニング例は、10個のネットワークを介して実行され、合計50個の出力を発生する。各トレーニング例から変数V1をとり、平均値V1(avg)を計算する。この平均化された値V1(avg)は、5個のトレーニング例の各トレーニング例中に代用され、修正されたトレーニング例S1’〜S5’を生成し、それらは、再び10個のネットワーク中で実行される。50個の修正された出力値がネットワークN1〜N10および5個のトレーニング例によって生成される。修正は、平均値変数V1(avg)を使用した結果である。50個の元の出力値および修正された出力値それぞれの間の差を計算する、すなわちネットワークN6中のトレーニングS4からの元の出力OUT(S46)を、ネットワークN6中のトレーニング例S4からの修正された出力OUT(S4’N6)から引く。この差値を二乗する[OUT(S4’N6)−OUT(S46)]2 V1。この値を、変数V1がその平均値V1(avg)と代用された反復に対してネットワークとトレーニング例のすべての組合せについて二乗された差値と合計する。すなわち次式が得られる。
Figure 2008136874
次に、このプロセスを変数#2について繰り返し、ネットワークとトレーニング例の各組合せごとに元の出力と修正された出力との間の差を求め、二乗し、次いで差を合計する。このプロセスを、15個のすべての変数が終了するまで各変数ごとに繰り返す。
次いで、すべての変数が単一の生じた出力に等しく寄与した場合に正規化された値が1.0になるように生じた各合計を正規化する。前の例の後、各変数ごとに合計二乗差を合計して、すべての変数について全合計二乗差を得る。各変数の値を全合計二乗差で割り、各変数からの寄与を正規化する。この情報から、各変数の正規化された値を重要度の順に順位付けすることができる。より高い相対的な数は、対応する変数が出力により大きい影響を及ぼすことを示す。入力変数の感度分析を使用して、どの変数がネットワーク出力を発生するに最大の役目を果たしたかを示す。
本発明では、コンセンサスネットワークを使用して、感度分析を実施することは変数選択プロセスを改善することが分かっている。例えば、二つの変数が高度に相関する場合、データに基づいてトレーニングされた単一のニューラルネットワークがその二つの変数の一方のみを使用して、診断をつくり出すこともある。変数が高度に相関する場合、両方の変数を含めることによって得られるものはほとんどなく、どちらの変数を含めるべきかの選択は、トレーニング中のネットワークの初期開始条件に依存する。単一のネットワークを使用する感度分析は、一方のみ、または他方のみが重要であることを示すこともある。それぞれ異なる初期条件を使用してトレーニングされる複数のネットワークのコンセンサスから得られる感度分析は、高度に相関した両方の変数が重要であることを明らかにすることがある。感度分析を一組のニューラルネットワークにわたって平均化することによって、初期条件の影響を最小限に抑えるコンセンサスが形成される。
カイ二乗分割表.
まばらな二進データを処理する場合、所与の変数に対する正の応答は、診断中の条件に高度に相関することもあるが、トレーニングデータ中で発生することはごくまれであるので、ニューラルネットワーク感度分析によって示される変数の重要度が非常に低くなることもある。これらの発生を捕らえるために、カイ二乗分割表が二次順位付けプロセスとして使用される。テーブルの各セルが二つの変数の組合せに対して観測された周波数である二進変数に対する2×2分割表カイ二乗テストを実施する(図3、ステップF)。(経験的に決定されることもある)最適なしきい値を使用して、連続的な変数に対して2×2分割表カイ二乗テストを実施する(ステップG)。カイ二乗分析に基づいた二進変数および連続的な変数を順位付けする(ステップH)。
二進変数に対して動作する標準のカイ二乗2×2分割表(ステップF)を使用して、特定の二進入力変数と(トレーニングデータを既知の単一出力結果と比較することによって決定された)所望の出力との間の関係の重要度を決定する。小さいカイ二乗値を有する変数は、一般に所望の出力に関連しない。
連続的な値を有する変数の場合、連続的な変数をしきい値と比較することによって2×2分割表を構成できる(ステップG)。しきい値は、経験的に修正され、できる限り大きいカイ二乗値をもたらす。
次いで、連続的な変数のカイ二乗値と二進変数のカイ二乗値とを共通の順位付けのために結合できる(ステップH)。次いで、カイ二乗順位付けされた変数を感度分析順位付けされた変数と結合する第二のレベルの順位付けを実施できる(ステップL)。順位付けのこの結合により、出力に大きく関連し、かつまばらな変数(すなわち、ごく一部の場合正または負である値)を重要な変数の組の中に含めることができる。さもなければ、そのような非線形システム中の重要な情報が容易に見落とされる可能性がある。
順位付けされた変数の中からの重要な変数の選択.
上記のように、重要な変数は、識別された変数の中から選択される。選択は、第二のレベルの順位付けプロセスが呼び出されたときに変数を順位付けした後で実施されることが好ましい。意思決定支援システム中で使用される重要な変数(パラメータ)またはその組を識別する方法も提供される。この方法は、本明細書では医療診断を例に挙げて説明するが、重要なパラメータまたは変数を複数の中から選択する統計ベースの予測を行う財務分析や他の試みなど任意の分野において広く応用できる。
特に、変数の有効な組合せを選択する方法が提供される。一組の「n」個の候補変数および最初空である一組の「選択された重要な変数」を与えるステップ(1)、および上述のように、カイ二乗および感度分析に基づいてすべての候補変数を順位付けするステップ(2)の後、この方法は、一度に最大「m」個(mは1からnまで)の順位付けされた変数をとり、重要な変数の現在の組と結合された変数に基づいてニューラルネットのコンセンサスをトレーニングすることによって各変数を評価するステップ(3)、m個の変数のうち最もよい変数を選択し(最もよい変数とは性能を最も改善する変数である)、それが性能を改善する場合、それを「選択された重要な変数」セットに追加し、それを候補セットから除去し、ステップ(3)での処理を継続し、それ以外の場合、ステップ(5)に進むことによって継続するステップ(4)、候補セット上のすべての変数が評価されていれば、プロセスが終了し、それ以外の場合、一度に次に最も大きい「m」個の順位付けされた変数をとり、重要な選択された変数の現在の組と結合された変数に基づいてニューラルネットのコンセンサスをトレーニングし、ステップ(4)を実施することによって各変数を評価するステップ(5)を含む。
特に、第二のレベルの順位付けプロセス(ステップL)は、感度分析(ステップK)からの最も高い順位付けされた変数を重要な変数の組に追加すること(ステップH)によって開始する。あるいは、第二のレベルの順位付けプロセスは、空の組から開始し、次いで順位付けの二つの組の各組から上部のいくつか(x個)の変数をテストすることによって開始する。この第二のレベルの順位付けプロセスでは、使用できるデータからの変数の現在選択されている区分またはサブセットに対してネットワークトレーニング手順(ステップI)を使用して、一組のニユーラルネットワークをトレーニングする。順位付けプロセスは、「重要な」変数の現在の組(一般に最初空である)ならびに順位付け中または順位付けのためにテスト中の現在の変数を使用し、またグリーディアルゴリズムを使用して、前に識別された重要な変数に基づいて入力組を近視的に最適化することによって入力変数の組を最適化して、出力を最も改善する残りの変数を識別するするネットワークトレーニング手順である。
このトレーニングプロセスを図4に示す。ニューラルネットワークによって使用される入力の数は、所望の出力、すなわちトレーニングデータの既知のターゲット出力に大きく貢献しないことが分かる入力を排除することによって制御される。米国カリフォルニア州 La Jolla Logical Designs Consulting 社の WindowsTM用の ThinksProTMニューラルネットワーク(またはTrainDosTMDOSバージョン)や、当業者が開発できるそのような他のプログラムなど、業務用コンピュータプログラムは、入力を変更し、ネットワークをトレーニングするために使用できる。
米国オレゴン州ビーバートンの California Scientific Software 社、Nevada Adaptive Solutionsから販売されているBrainmakertm、米国ペンシルバニア州ピッツバーグのNeuralWare 社から販売されている Neural Network Utility/2tm、および米国メリーランド州のフレデリックの Ward Systems Group 社から販売されている NeuroShelltmおよびNeuroWindowstmを含めて、いくつかの他の市販のニューラルネットワークコンピュータプログラムを使用して、上記の動作のいずれかを実施できる。変数選択およびネットワーク最適化の機能を提供する他のタイプのデータ収集ツール、すなわち意思決定支援システムも設計でき、また他の市販のシステムも使用できる。例えば、米国ワシントン州レドモンドの BioComp Systems 社から販売されている Neuro Genetic OptimizerTM、およびシンガポール共和国の New Wave Intelligent Business Systems(NIB5)社から販売されている Neuro Forecaster/GENETICAは、自然選択に基づいてモデル化された遺伝アルゴリズムを使用して、ネットワーク分布中の十分に実行しないノードをなくし、かつ最適化されたネットワークを「成長」させるために最もよく実行する速度を子孫ノードに送り、かつ結果に大きく貢献しない入力変数をなくす。遺伝アルゴリズムに基づくネットワークは、変異を使用して、極小値中での捕獲を回避し、またクロスオーバプロセスを使用して、新しい構造を分布中に導入する。
データ中の知識発見(KDD)は、変数中に存在する重要な関係を識別するために設計された他のデータ収集ツール、意思決定支援システムであり、多数の可能な関係が存在する場合に有用である。米国マサチューセッツ州べッドフォードのThinking Machines 社から販売されている Darwintm、米国カリフォルニア州マウンテンビューの Silicon Graphics 社から販売されている Minesettm、米国カリフォルニア州サンフランシスコの Ultragem Data Mining 社のEikoplextmを含めて、いくつかのKDDシステムが販売されている。(Eikoplextmは心臓病の存在の確率を決定する分類規則を与えるために使用されている)。他のシステムも当業者によって開発されうる。
順位付け手順を継続して、例えば、xを2に設定した場合、二つの順位付け組の各組からの上部の二つの変数をプロセスによってテストし(図3、ステップL、S)、テスト結果が改善を示すかどうかを確かめるために結果を検査する(ステップT)。改善が存在する場合、単一の最も性能のよい変数を「重要な」変数の組に追加し、次いでその変数を他のテスト(ステップS)のために二つの順位から除去する(図3、ステップU)。改善が存在しない場合、改善が見つかるまで、または二つの組からのすべての変数がテストされるまで各組からの次のx個の変数についてプロセスを繰り返す。このプロセスは、ソースセットが空である、すなわちすべての関連する変数または重要な変数が最後のネットワーク中に含まれるまで、またはテストすべき組の中の残りのすべての変数が重要な変数の現在のリストの性能以下であることが分かるまで繰り返される。この除去プロセスは、重要な変数の組を決定するためにテストしなければならない使用できる変数のサブセットの数を大いに減らす。最悪の場合でも、10個の使用できる変数では、プロセスは、x=2の場合34個のサブセットのみ、x=1の場合1024個の可能な組合せの19個のサブセットのみをテストする。したがって、100個の使用できる変数が存在する場合、394個のサブセットのみがx=2の場合テストされる。したがって、最もよいテスト性能を有するネットワークからの変数を使用のために識別する(図3、ステップV)。
次いで、診断を実施するようにネットワークの最後の組をトレーニングする(図4、ステップM、N、Q、R)。一般に、いくつかの最後のニューラルネットワークが診断を実施するようにトレーニングされる。ニューラルネットワークのこの組は、エンドユーザに供給できる製品の基礎となりうる。異なる初期条件(初期重み)が所与のネットワークに対して異なる出力を発生しうるので、コンセンサスを求めることが有用である。(異なる初期重みは、誤差が極小値中に捕獲されるのを回避するために使用される)。コンセンサスは、トレーニングされたネットワークの各ネットワークの出力を平均化することによって形成され、これは次いで診断テストの単一出力になる。
ネットワークのコンセンサスをトレーニングする.
図4に、ニューラルネットワークのコンセンサスをトレーニングする手順を示す。まず、現在のトレーニングサイクルが最後のトレーニングステップであるかどうかを決定する(ステップM)。yesの場合、すべての使用できるデータをトレーニングデータセット中に入れる(すなわちP=1)(ステップN)。noの場合、使用できるデータをP個の等しいサイズの区分に分割し、データを各区分ごとにランダムに選択する(ステップO)。例示の実施形態では、例えば、5個の区分、例えば、P1〜P5を使用できるトレーニングデータのフルセットから生成する。次いで、二つの構成に取りかかる(ステップP)。まず、一つまたは複数の区分をテストファイルにコピーし、残りの区分をトレーニングファイルにコピーする。5個の区分の例示の実施形態を継続し、全データセットの20%を表す区分のーつ、例えば、P1をテストフアイルにコピーする。残りの4個のファイルP2〜P4をトレーニングデータとして識別する。トレーニング区分を使用して、N個のニューラルネットワークのグループをトレーニングする。各ネツトワークは異なる開始重みを有する(ステップQ)。したがって、例示の実施形態では、20個の異なる乱数種を使用してランダムに選択された開始重みを有する20個のネットワーク(N=20)が存在する。20個のネットワークの各ネットワークごとにトレーニングを完了した後、20個のすべてのネットワークの出力値を平均化して、トレーニングされたネットワークのテストデータの平均性能を与える。次いで、トレーニングされたネットワークを介してテストファイル(区分P1)中のデータを実行して、トレーニングされたネットワークの性能の推定値を与える。この性能は、一般に予測の二乗平均誤差または誤分類率として決定される。各ネットワークの個々の性能推定値を平均化することによって最終性能推定値を生成し、完成したコンセンサスネットワークをつくり出す(ステップR)。使用できるデータを複数のサブセットに分割することによるトレーニングのこの方法は、一般にトレーニングの「ホールドアウト方法」と呼ばれる。ホールドアウト方法は、ネットワークトレーニングに使用できるデータが制限されるときに特に有用である。
テストセット性能は、テストセット性能を最大にするネットワークパラメータを識別する様々な実験を実施することによって経験的に最大化できる。実験のこの組中で修正できるパラメータは、1)隠れた処理要素の数、2)入力に加えられる雑音の量、3)誤差許容度の量、4)学習アルゴリズムの選択、5)重み減衰の量、6)変数の数を含む。可能なすべての組合せの完全な探索は、一般に、必要とされる処理時間の量のために実際的でない。したがって、テストネットワークは、ThinksProTMやユーザが開発したプログラムなど、コンピュータプログラムを介して経験的に選択されるトレーニングパラメータを使用してトレーニングされるか、または注目する分野で働いている他者によって生成された既存のテスト結果の結果からトレーニングされる。「最もよい」構成が決定された後、ネットワークの最終組を完成したデータセットに基づいてトレーニングできる。
3.生化学診断テストの開発.
変数を分離する同様の技法を使用して、生化学診断テストを構築または検証することができ、また生化学診断テストデータを患者病歴診断テストと組み合わせて、医療診断の信頼性を高めることができる。
選択された生化学テストは、患者および/または患者の症状に関連して有用な診断情報がそこから得られる任意のテストを含む。このテストは、機器ベースであるか、または非機器ベースであり、また生物学試料、患者兆候、患者状態、および/またはこれらのファクタの変化の分析を含む。いくつかの分析方法のいずれも使用でき、免疫学的検定法、生物学的検定法、クロマトグラフィ、モニタおよびイメージャを含む。ただし、これらに限定されない。この分析は、分析物、血清マーカ、抗体、およびサンプル中の患者から得られるものなどを評価できる。さらに、患者に関する情報がテストに関連して供給できる。そのような情報は、年齢、体重、血圧、遺伝的履歴、および他のそのようなパラメータまたは変数を含む。ただし、これらに限定されない。
この実施形態において開発された例示の生化学テストは、Enzyme Linked Immunosorbent AssayまたはELISAテストなど、標準化されたテストフォーマットを使用するが、本明細書で与えられる情報は、他の生化学テストまたは診断テストの開発に適用でき、ELISAテストの開発に限定されない(例えばELISAテストの説明については、Atassi他編、「Molecular Immunology: A Textbook」、Marcel Dekker Inc.,New York and Basel 1984参照)。ELISAテストの開発にとって重要な情報は、抗体プロファイルを特徴付け、かつ抗体の特性を抽出するために蛋白質に対する抗体の反応度を決定するテストフォーマットであるウェスタンブロットテスト中に得られる。
ウェスタンブロットは、例えば、混合物中の特定の抗原をポリアクリルアミドゲル上で分離させ、ニトロセルロース上ににじませ、ラベル付けされた抗体をプローブとして検出することによって、これらの抗原を識別するために使用される技法である。(例えばウェスタンブロットについては、Stitesおよび Terr編、「Basic and Clinical Immunology」、Seventh Edition、Appleton and Large 1991を参照)。しかしながら、ウェスタンブロットテストを診断ツールとして使用することは時々望ましくない。代わりに、診断に関連する情報を含む分子量の範囲を事前に識別し、次いでこの情報を同等のELISAテスト中に「コード化」できる。
この例では、有効な生化学診断テストの開発は、疾病症状が既知であるか、または推測される患者のウェスタンブロットデータの使用可能度に依存する。図5を参照すると、ウェスタンブロットデータをソースとして使用し(ステップW)、ウェスタンブロットデータを処理する場合の第一のステップは、ニューラルネットワークによって使用されるウェスタンブロットデータを事前処理することである(ステップX)。画像は、コンピュータを使用して、スプライン補間および画像正規化を実施することによってデジタル化され、固定の寸法のトレーニング記録に変換される。多数のウェスタンブロットテストからのデータを使用するために画像中の情報のみに基づいて画像を所与のゲル上で整合する必要がある。ニューラルネットワークの各入力は、特定の分子量または分子量の範囲を正確に表す必要がある。通常、生成される各ゲルは、較正用に標準画像を含む。含まれる蛋白質は、既知の分子量のものであり、したがって標準画像はまた、同じウェスタンブロット中に含まれる画像の整合に使用できる。例えば、標準曲線を使用して、同じウェスタンブロット上の他の画像の分子量範囲を推定し、それによりニトロセルロースストリップを整合することができる。
画像を整合する方法は立方スプライン補間である。これは、標準によって表されたデータ点で滑らかな遷移を保証する方法である。外挿による起こりうる性能問題を回避するために、外挿が線形になるように終端条件を設定する。コンピュータの整合ステップは、ウェスタンブロットの出力上の所与のバンドに対して分子量の推定値の変動を最小限に抑える。
次いで、最も暗いバンドが1.0の倍率変更された密度を有し、かつ最も明るいバンドが0.0に倍率変更されるように密度を倍率変更することによって画像の密度を正規化するために得られた走査画像を処理する。次いで、この画像を処理して、以下で説明するように最初にトレーニングされなければならないニューラルネットワークへの入力になる数の固定の長さのベクトルにする。
トレーニング例は、ウェスタンブロットデータの処理から生成された結果をトレーニングする上述のプロセスと同じプロセスで作成される(ステップY)。開始重みに対する依存度、相互依存変数中の冗長度、ネットワークを過剰トレーニングすることから生じる減感の認識された問題を最小限に抑えるために、前に論じた分割方法によるデータに基づいて一組のニューラルネットワーク(コンセンサス)をトレーニングすることが有用である。
処理されたウェスタンブロットデータに対するトレーニング実行の感度分析から、大いに寄与する分子量(MW)の領域を決定し、識別できる(ステップAA)。分離ステップの一部として、入力と所望の出力との間の相関の符号が同じである限り、隣接する領域中の入力を「ビン」中に結合することが好ましい。このプロセスは、ウェスタンブロットによってつくり出された代表的な100プラス入力、および他の入力を、約20個未満の入力のはるかにより操作可能な数まで減らす。
特定の実施形態では、分子量の複数の範囲は、診断中の条件を示す所望の出力に相関することが分かる。相関は、正または負である。減少した入力表示は、ウェスタンブロットトレーニング中に発見されたピークの各ピークを中心としたガウス領域を使用して生成される。標準偏差は、ガウスの値が領域の縁部で0.5以下であるように決定される。
特定の実施形態では、ニューラルネットワーク入力を生成する基本操作は、計算のために分子量のログを使用して、ガウス画像とウェスタンブロット画像との間で畳み込みを実施することである。
データは、上述のように、ホールドアウト方法を使用してテストできる。例えば、5個の区分を使用し、各区分中、データの80%をトレーニング用に使用し、データの20%をテスト用に使用することもある。データは、各区分が各ゲルからの例を有する可能性があるようにシャッフルされる。
診断にとって重要な分子量領域を識別した後(ステップAA)、分子量の選択された一つまたは複数の領域の一つまたは複数のテストを構築する(ステップAB)。ELISA生化学テストは一例である。診断にとって重要であると識別された分子量の選択された一つまたは複数の領域は、その場合、物理的に識別され、ELISA生化学テストの構成要素として使用される。同じ相関符号の領域は単一のELISAテスト中に結合されても結合されなくてもよいが、異なる相関符号の領域は、単一のテスト中に結合されてはならない。そのような生化学テストの値は、その場合、生化学テスト結果を既知のまたは推測される医療状態と比較することによって決定される。
この例では、生化学診断テストの開発は、図2に示されるプロセス中で患者データと生化学データを結合することによって向上する。これらの条件下では、患者病歴診断テストは生化学診断テストの基礎である。本明細書で説明するように、重要な変数として識別された変数は、診断にとって重要な分子量領域を識別するために使用すべき一組のニューラルネットワークをトレーニングするためにウェスタンブロットデータから得られたデータと結合される。
図2を参照すると、ウェスタンブロットデータをソースとして使用し(ステップW)、上述のようにニューラルネットワークが使用するために事前処理する(ステップX)。患者病歴データからの重要な変数およびウェスタンブロットデータの処理から生成された結果を結合し、結合されたデータを使用してトレーニングする(ステップY)上述のプロセスと同様のプロセス中でトレーニング例を作成する。並行して、ネットワークを上述のように患者病歴データに基づいてトレーニングする(ステップZ)。
開始重み、相互依存変数間の冗長度、およびネットワークを過剰トレーニングすることによって生じる減感に対する依存度の認識された問題を最小限に抑えるために、分割方法によってデータに基づいて一組のニューラルネットワーク(コンセンサスセット)をトレーニングすることが好ましいことが分かった。
患者病歴データのみに基づくトレーニング実行の感度分析から、上述のように、大きく寄与する分子量の領域を決定し、識別できる(ステップAA)。分離プロセス中の他のステップとして、その後、ウェスタンブロットデータ用の重要なビンを分離するために結合された患者病歴およびビン情報を入力として使用して、一組のネットワークをトレーニングする。「重要なビン」は、患者病歴情報の寄与を考慮する診断に関連する分子量の重要な領域を表す。これらのビンは、診断の所望の出力と正または負に相関する。
診断にとって重要な分子量領域を識別した後(ステップAA)、選択された領域または複数の領域用の一つまたは複数のテストを作成し、上述のように確認する(ステップAB)。次いで、設計されたELISAテストを生成し、使用して、データベース中の各患者ごとにELISAデータを生成する(ステップAC)。ELISAデータおよび重要な患者病歴データを入力として使用して、上述の分割手法を使用して一組のネットワークをトレーニングする(ステップAE)。分割手法を使用すれば、生化学テストの下限の推定値が得られる。一組のネットワーク、すなわち供給できる製品として使用すべきネットワークの最終トレーニング(ステップAE)は、トレーニングデータの一部としてすべての使用できるデータを使用して行われる。必要な場合、新しいデータを使用して、診断テストの性能を確認できる(ステップAF)。すべてのトレーニングデータの性能は、生化学テストの性能推定値の上限になる。ネットワークのコンセンサスは、意図された診断テスト出力(AG)を表す。このニューラルネットワークの最後の組は、その場合診断に使用できる。
4.ニューラルネットワーク性能の改善.
ニューラルネットワークを例に挙げて説明した意思決定支援システム、および本発明において提供される方法の重要な特徴は、性能を改善する能力である。上記で概説したトレーニング方法は、より多くの情報が使用できるようになるにつれて繰り返される。動作中、すべての入力変数および出力変数は、記録され、将来のトレーニングセッション中にトレーニングデータを増大させる。このようにして、診断ニューラルネットワークは、個々の母集団および母集団特性のゆるやかな変化に適合できる。
トレーニングニューラルネットワークが、ユーザが所要の情報を入力し、かつニューラルネットワークスコアをユーザに出力することを可能にする装置中に含まれる場合、使用中の性能を改善するプロセスが自動化される。各エントリおよび対応する出力は、メモリ中に保持される。ネットワークを再トレーニングするステップは装置中にコード化できるので、ネットワークは、母集団に固有のデータを使用してどんなときでも再トレーニングできる。
5.診断テスト治療方法の有効性を評価する方法.
一般に、診断テストの有効性または有用性は、診断テスト結果が分かっているかまたは推測される患者医療状態と比較することによって決定される。診断テストは、診断テスト結果と患者医療状態との間に良好な相関がある場合に有効であると考えられる。診断テスト結果と患者医療状態との間の相関がよければよいほど、診断テストの有効性に置かれる評価は高くなる。そのような相関がない場合、診断テストは、あまり有効でないと考えられる。本発明において提供されるシステムは、そのテストに対応する変数が重要な選択された変数であるかどうかを決定することによって生化学テストの有効性を評価する手段を提供する。システムの性能を改善するデータをもたらすテストが識別される。
診断テスト結果と患者医療状態との間の相関と無関係に、診断テストの有効性をそれにより決定できる方法(図6)について以下で説明する。同様の方法を使用して、特定の治療の有効性を評価できる。
一実施形態では、この方法は、患者データのみに基づいてトレーニングされた患者病歴診断ニューラルネットワークの性能を、患者病歴データとELISAデータなど生化学テストデータとの結合に基づいてトレーニングされた結合ニューラルネットワークの性能と比較する。患者病歴データを使用して、すべて上述のように、診断用の重要な変数を分離し(ステップAH)、最後のニューラルネットワークをトレーニングする(ステップAJ)。並行して、その患者データが分かっているすべての患者またはサブセットについて生化学テスト結果を与え(ステップAK)、すべて上述のように、まず診断用の重要な変数を分離し(ステップAL)、その後最後のニューラルネットワークをトレーニングすること(ステップAM)によって診断ニューラルネットワークを結合した患者データおよび生化学データに基づいてトレーニングする。
次いで、ステップANで、ステップAJから得られた患者病歴診断ニューラルネットワークの性能を、ステップAMから得られた結合した診断ニューラルネットワークの性能と比較する。診断ニューラルネットワークの性能はいくつの手段ででも測定できる。一例では、各診断ニューラルネットワーク出力と患者の分かっているまたは推測される医療状態との間の相関を比較する。その場合、性能をこの相関の関数として測定できる。性能を測定する多数の他の方法がある。この例では、ステップAJから得られたものに勝るステップAMから得られた結合した診断ニューラルネットワークの性能の向上を生化学テストの有効性の尺度として使用する。
そのテスト結果と分かっているまたは推測される医療状態との間の十分な相関を欠いているこの例の生化学テスト、および一般の診断テストは、通常、効用が限られると考えられる。そのようなテストは、上述の方法によっていくつかの用途を有することが示され、したがってさもなければ有益でないと考えられるかもしれないそのテストの有効性が高くなる。本明細書で説明した方法には、診断テストの有用性を評価する手段を提供すること、かつまた診断テストの有効性を高める手段を提供することの二つの目的に適う。
6.診断用の変数の識別および診断テストの開発へのこれらの方法の応用.
本発明において提供される方法およびネットワークは、例えば、重要な変数を識別し、既存の生化学テストを改善し、新しいテストを開発し、療法経過を評価し、新しい疾病マーカを識別する手段を提供する。これらの利点を例示するために、提供される方法は、特定の期間中の陣痛および出産の可能性など、子宮内膜症および妊娠関連事象に適用されている。
子宮内膜症.
本明細書に記載の方法は、子宮内膜症の診断用の非侵襲性方法を開発する手段を提供している。さらに、本発明の方法は、子宮内膜症を示すデータを与える生化学テストを開発し、また新しい生化学テストを識別し、開発する手段を提供する。
意思決定支援システムの変数選択および使用の方法は、子宮内膜症に適用されている。意思決定支援システム、この例では、ニューラルネットワークのコンセンサスは、子宮内膜症の診断用に開発されている。「例」で詳述するこの開発の過程で、患者病歴データ、すなわち質問表フォーマットによって患者から得られるデータのみを利用する子宮内膜症の診断を助けることができるニューラルネットワークを開発できることが分かった。生化学テストデータを使用して、特定のネットワークの性能を高めることができることが分かったが、診断ツールとしてのその価値にとっては重要でなかった。変数選択プロトコルおよびニューラルネットは、子宮内膜症を診断する手段を提供する意思決定支援システム中に入力できる変数の組を選択する手段を提供する。識別された変数の一部は、従来子宮内膜症に関連していた変数を含むが、他の変数はそうではない。さらに、上記のように、子宮内膜症に関連する骨盤痛や月経困難症などの変数は、診断が可能なようにそれに線形的に相関しない。
例示的な意思決定支援システムについて例中で説明する。例えば、本明細書でpat07で示される一つのニューラルネットについて例14で説明する。pat07ネットワーク出力と子宮内膜症を有する確率との比較は正の相関をもたらす(表1参照)。pat07ネットワークは、女性のpat07スコアに基づいて子宮内膜症を有する女性の可能性を予測できる。例えば、女性が0.6のpat07スコアを有する場合、彼女は子宮内膜症を有する90%の確率を有する。pat07スコアが0.4の場合、彼女は子宮内膜症を有する確率が10%である。データベースに適用したときのpat07出力のダイナミックレンジは、約0.3から約0.7であった。理論上、出力値は、0から1まで変動しうるが、0.3以下の値または0.7以上の値は観測されなかった。pat07ネットワークを使用して、800人以上の女性を評価し、その性能は次のように要約できる。
Figure 2008136874
pat07ネットワークスコアは、子宮内膜症を有する可能性と解釈され、女性が子宮内膜症を有すると診断されるかどうかではない。可能性は、各スコアグループ中で発見される子宮内膜症の相対発生率に基づく。例えば、0.6またはそれ以上のpat07ネットワークスコアを有する女性のグループでは、これらの女性の90%が子宮内膜症を有し、これらの女性の10%が子宮内膜症を有しない。この可能性は、不妊症科にいる女性の人口に関連する。pat07ネットワークを含むソフトウェアプログラムが開発されている。
adezacrf.exeと呼ばれる一つのプログラムは、ユーザが女性のpat07ネットワークスコアを得ることを可能にする単一のスクリーンウィンドウインタフェースを提供する。ユーザは、14個のすべての変数の値を入力し、すべてのキーストロークの後でpat07ネットワークスコアを計算する。adzcrf2.exeと呼ばれる他のプログラムは、adezacrf.exeとほとんど厳密に同じであるが、一つの追加の入力、すなわちELISAテストの値を入力できる。このプログラムおよびネットワークは、診断テストの臨床的効用を拡大する方法の具体的な例である。ELISAテスト結果は子宮内膜症に相関しなかった。それだけではELISAテストは臨床的効用を有しない。他の入力パラメータとして、ELISAテストは、ネットワーク分析用の入力としてELISA結果を組み込むことがELISAテストの臨床効用を拡大するように、ネットワーク性能を改善した。adzcrf2.exeと呼ばれる(本明細書の付録IIに記載されている)他のプログラムは、ユーザが女性のpat07ネットワークスコアを得ることを可能にする多重スクリーンウィンドウインタフェースを提供する。多重データエントリスクリーンは、すべての患者病歴データを入力し、pat07用の入力として必要とされるパラメータだけは入力しないようにユーザを案内する。ユーザがすべてのデータを入力し、正確なものと認めた後で、pat07スコアを計算する。このプログラムはまた、*.fdbファイル中に入力されたデータを保管し、データをインポートし、インポートされたデータ上のpat07スコアを計算し、データをエクスポートすることができる。ユーザは、前に入力したデータを編集することができる。上記の三つのプログラムはすべて、子宮内膜症用の診断ソフトウェアの具体的な例として役立つ。
図11に、診断ソフトウェア中で使用される例示的なインタフェーススクリーンを示す。MicroSoft WindowsTMタイプのディスプレイとして提供されるディスプレイ1100は、子宮内膜症の診断用に決定された重要な変数の各変数ごとに数値を入力するためのテンプレートを提供する。テストを実施するためのデータの入力は、従来のキーボードのみを使用するか、またはコンピュータマウス、トラックボールまたはジョイスティックと組み合わせて実施される。本明細書では、マウスとキーボードの組合せを使用する。各テキストボックス1101〜1106は、重要な変数、すなわち年齢(ボックス1101)、妊娠回数(ボックス1102)、出産回数(ボックス1103)、流産回数(ボックス1104)、一日当たり吸うたばこの箱数(ボックス1105)、ELISAテスト結果(ボックス1106)を表す数値を入力するためのものである。対象患者の年齢を入力するために、ユーザは、スクリーン上のポインタがボックス1101中に入るようにマウスを動かし、次いでその位置でクリックする。キーボードを使用して、患者の年齢を表す数を入力する。選択されたボックスでポイントし、クリックすることによって残りのボックスにアクセスする。
ボックス1107〜1115は、データが二進、すなわち「yes」か「no」である重要な選択された変数である。ボックスおよび変数は次のように相関する。
[表1]
――――――――――――――――――――――――――――――
ボックス 変数
1107 子宮内膜症の過去病歴
1108 月経困難症
1109 妊娠中の高血圧症
1110 骨盤痛
1111 異常PAP/形成異常症
1112 骨盤手術歴
1113 薬物治療歴
1114 生殖器いぼ
1115 糖尿病
――――――――――――――――――――――――――――――
これらの変数の任意の変数に対する「yes」は、対応するボックスをポイントし、マウスボタンをクリックして、ボックス中の「X」を示すことによって表示できる。
ネットワークは、すべてのキーストロークの後でデータを自動的に処理し、したがってテンプレート1100中へのすべての入力の後でテキストボックス1118〜1120中に表示される出力値中に変化が現れる。「Endo」とラベル付けされたテキストボックス1118は、子宮内膜症の存在に対してコンセンサスネットワーク出力を与える。「No Endo」とラベル付けされたテキストボックス1119は、子宮内膜症の不在に対してコンセンサスネットワーク出力を与える。テキストボックス1120は、患者が子宮内膜症を有するかどうかを示す相対的スコアを与える。テキストボックス1120中のスコアは、医師が結果を解釈することをより容易にするボックス1118および1119から得られた人工的な数であることに留意されたい。上記のように、25までの正の範囲中のこのボックス中の値は、子宮内膜症を有することを示し、−25までの負の範囲の値は、子宮内膜症を有しないことを示す。選択された変換は、医師がpat07出力をより容易に解釈することを可能にする。
例で説明したように、pat07は、子宮内膜症を予測する唯一のネットワークではない。pat08からpat23aで示される他のネットワークが開発されている。これらも子宮内膜症を予測する。これらのすべてのネットワークは、まったく同様に動作し、容易にpat07の代わりに使用できる。したがって、pat07を開発するために使用した方法に従って、他の同様に機能するニューラルネットが開発でき、開発されている。pat08およびpat09は、pat07に最も類似している。これらのネットワークは、上記で概説したプロトコルに従って開発され、pat07の開発用に使用されるものと同じ組から重要な変数を選択することができた。
変数の初期重み付けは、変数選択手順の結果に対しては影響を及ぼすが、最後の診断結果中ではそうではないことが分かった。pat08およびpat09は、pat07と同じ患者データのデータベースを使用して、疾病関連パラメータを導出した。pat10からpat23aは、元々いくつかのパラメータ、すなわち子宮内膜症歴、骨盤手術歴、月経困難症歴、骨盤痛の重要度を明らかにするために設計されたトレーニング実行であった。これらを開発するために、変数選択プロセスから変数を差し引くことによってその変数の重要度を評価した。変数選択プロセスおよび最後のコンセンサスネットワークをトレーニングすることで、ネットワーク性能は著しく低下しないことが分かった。
したがって、特定の変数または変数の組は子宮内膜症を予測する場合に重要であると考えられていたが、そのような変数がない場合にトレーニングされるネットワークは、子宮内膜症を予測する著しく低下した能力を有しない。これらの結果は、(1)変数選択およびコンセンサスネットワークトレーニング用の方法の有効性、および(2)一般にネットワークの適合性を証明する。一つのデータタイプがない場合、ネットワークは、その情報を引き出すべき他の変数を見つけた。一つの変数がない場合、ネットワークは、異なる変数をその所定の位置で選択し、性能を維持した。
子宮内膜症を有する疑いがある患者は、一般に疾病を診断するために診断手術を受けなければならない。患者病歴情報および任意選択でウェスタンブロットデータなど生化学テストデータを使用して、この障害を確実に診断する能力は、手術の非常に望ましい代替手段を与える。本発明の方法および識別された変数はそれを行う手段を与える。
子宮内膜症の疾病の診断に関連するデータが収集されている。このデータは、患者病歴データ、ウェスタンブロットデータ、ELISAデータを含む。「例」に示される本発明の方法の適用は、患者病歴データのみが子宮内膜症を予測できることを証明した。
変数選択プロトコルの性能を評価し、14個の変数ネットワーク(pat07)が14個の変数の可能なすべての組合せと比較して(性能に関して)順位付けされることを確認するために、ネットワークを変数の可能なすべての組合せ(16,384の組合せ)に基づいてトレーニングした。また、変数選択プロトコルを14個の変数の組に適用した。14個の変数の中から、5個の変数を選択した。これらは、妊娠高血圧症、出産回数、異常PAP/形成異常症、子宮内膜症歴、および骨盤手術歴である。この組合せを16,384の可能な組合せから68番目に最もよく実行する組合せとして順位付けし(99.6百分位数)、それにより変数選択プロトコルの有効性を証明した。また、14個のすべての変数を含む組合せを16,384の可能な組合せから718番目に順位付けした(95.6百分位数)。
これらの結果はまた、14個の変数のサブセットが有用であることを示す。特に、3個の変数の次の組合せの一つ(または複数)のパラメータの選択された組の任意のサブセット、特に14個の変数の組が子宮内膜症の診断用に意思決定支援システムとともに使用できる。
[表2]
――――――――――――――――――――――――――――――――――――
a)出産回数、子宮内膜症歴、骨盤手術歴
b)糖尿病、妊娠高血圧症、喫煙
c)妊娠高血圧症、異常papしみ/形成異常症、子宮内膜症歴
d)年齢、喫煙、子宮内膜症歴
e)喫煙、子宮内膜症歴、月経困難症
f)年齢、糖尿病、子宮内膜症歴
g)妊娠高血圧症、出産回数、子宮内膜症歴
h)喫煙、出産回数、子宮内膜症歴
i)妊娠高血圧症、子宮内膜症歴、骨盤手術歴
j)妊娠回数、子宮内膜症歴、骨盤手術歴
k)出産回数、異常PAPしみ/形成異常症、子宮内膜症歴
l)出産回数、異常PAPしみ/形成異常症、月経困難症
m)子宮内膜症歴、骨盤手術歴、月経困難症
n)妊娠回数、子宮内膜症歴、月経困難症。
――――――――――――――――――――――――――――――――――――
例で示すように、列挙した14個の変数と同じ働きをする重要な選択された変数の他の組が得られる。他のより小さいそのサブセットも識別できる。
特定の期間中の出産の可能性など、妊娠関連事象の予測.
本発明の方法は、任意の障害または状態に適用でき、特に診断テストが適切に相関し得るか、または生化学テストまたは好都合な生化学テストが使用できない状態に適している。例えば、本発明の方法は、特定の期間中の出産の可能性など、妊娠関連事象の予測に適用されている。
間近に迫った出産の決定は、例えば、34週までに生まれた幼児の新生児残存者を増やすために重要である。妊娠の週20後に妊娠患者からの膣腔または子宮頸管からの分泌サンプル中の胎児のフィブロネクチンの存在は、34週前の陣痛および出産の危険に関連する。妊娠の週20後に妊娠患者からの膣腔または子宮頸管からの分泌サンプル中の胎児のフィブロネクチンをスクリーニングする方法および装置が販売されている(米国特許第5516702号、第5468619号、第5281522号、および第5096830号参照。また、米国特許第5236846号、第5223440号、および第5185270号参照)。
これらの分泌物中の胎児のフィブロネクチンの存在と、34週前の陣痛および出産との相関は完全ではない。著しい偽正率および偽負率が存在する。したがって、34週前の陣痛および出産の可能性を評価する方法の必要に対処し、使用できるテストの予想可能度を改善するために、本発明の方法は、いくつかの妊娠関連事象の可能性を評価する意思決定支援システムの開発に適用されている。特に、懐胎の34週前(または後)の出産を予測するニューラルネットが開発された。本明細書で説明した開発されたニューラルネットワークおよび他の意思決定支援システムは、偽正の数を少なくすることによって胎児のフィブロネクチン(fFN)の性能を改善できる。例13に示される結果は、本発明の方法を使用すれば、予測性能が改善されるので既存のテストの診断効用が改善できることを証明する。
上述のように、これらの方法を使用して、前に疾病、状態または障害に関連すると考えられていなかったテストを識別し、新しいテストを設計し、新しい疾病マーカを識別することができる。
次の例は、説明のためにのみ記載し、本発明の範囲を限定するものではない。
<例1>
患者病歴データの関連変数についての評価.
この例は、候補変数の選択を説明する。
要件.
患者病歴を評価して、どの変数が診断に関連するかを決定する。この例は、診断で使用する各変数についての感度分析を実施することによって実施される。この分析の実施には二つの方法を使用することができる。第一の方法は、全ての情報についてネットワークをトレーニングし、各入力がネットワーク出力に及ぼす影響をネットワークの重みから決定する方法である。第二の方法は、変数を含んでトレーニングしたネットワーク、および変数を排除してトレーニングした第二のネットワークの、二つのネットワークの性能を比較する方法である。このトレーニングは、関連すると考えられる変数のそれぞれについて実施することになる。性能に寄与しないものは排除されることになる。こうした操作は、ネットワークへの入力のディメンションを低下させるために実施する。限られた量のデータでトレーニングする場合には、入力のディメンションが低いことにより、ネットワークの一般化能力が高まることになる。
データの分析.
この例で使用するデータは、510件の患者病歴を含んでいた。各記録は120個のテキストおよび数字フィールドを含む。これらのフィールドのうち45個は、手術前に知られており、常に情報を含むものとして識別された。これらのフィールドは、ネットワークの分析およびトレーニングに利用できる基本的な変数として使用した。この例で使用した変数の概要は以下の通りである。
Figure 2008136874
使用した方法.
変数の重要性を決定する、最も一般的に使用される方法は、全ての変数を含むデータについてニューラルネットワークをトレーニングする方法である。トレーニングしたネットワークを基礎として使用して、ネットワークおよびトレーニングデータについて感度分析を実施する。各トレーニング例では、ネットワークは順方向モードに実行される(トレーニングなし)。ネットワーク出力を記録した。各入力変数について、ネットワークは、変数をそのトレーニング例にわたるその変数の平均値で置換して、再実行される。出力値の差を二乗して累積する。各トレーニング例についてこのプロセスを繰り返す。次いでその結果生じた合計を正規化し、正規化した値の合計が変数の数と等しくなるようにする。このように、全ての変数が等しく出力に寄与する場合には、それらの正規化値は1.0になるはずである。次いで正規化値を重要性の順に順位付けすることができる。
上記の手法にはいくつかの問題がある。第一に、これは発見されたニューラルネットワークの解決策に依存する。異なるネットワークの開始重みを使用すれば、異なる順位付けが発見される可能性がある。第二に、二つの変数の相関性が高い場合には、そのいずれを使用しても十分な情報を含むことになる。ネットワークトレーニング実行に依存して、ただ一つの変数しか重要であると識別することはできない。第三の問題は、トレーニングしすぎたネットワークが、変数の真の重要性を曲解する可能性があることである。
上記の問題の影響を最小限に抑えるために、いくつかのネットワークをデータについてトレーニングした。できる限り最良のテストセットの性能を生み出すようにトレーニングプロセスを洗練し、ネットワークが入力と所望の出力との間の基礎関係を学習しているようにした。このプロセスの終了までに、ネットワークの良好なセットが利用可能になり、また最後にトレーニングしたネットワークについてのトレーニング構成も確立されることになる。トレーニングした各ネットワークについて感度分析を実施し、正規化値を平均した。この例では、トレーニング実行は、ホールドアウト方法を使用して利用可能なデータの五つの区分についてトレーニングした15個のネットワークを含んでいた。
変数の順位付けが確立された後で、テスト実行を行い、変数の排除がテストセットの性能に及ぼす影響を決定した。寄与の小さい変数を排除すると、テストセットの性能が低下する。トレーニングデータが限られていることによって過剰トレーニングが問題になる場合には、変数を排除することによってテストセットの性能を実際に改善することができる。処理時間を節約するために、順位付けに基づくテストでは変数のグループを排除することもできる。
結果.
順位付けまたは変数は以下の通りとなり、これらはpat05の実行でトレーニングされたネットワークについて報告される。
[表3]
――――――――――――――――――――――――――――――
01.35.薬物治療歴
02.33.Endoの過去の病歴
03.11.出産回数
04.37.骨盤痛
05.40.月経困難症
06.34.骨盤手術歴
07.1. 年齢(preproc)
08.13.不妊症歴
09.8. 箱/日
10.36.現在の外因性ホルモン
11.42.不妊症
12.18.誘発ホルモン
13.15.無排卵
14.14.排卵
15.43.付属器の塊/肥厚症
16.45.その他の症状
17.30.異常PAP/形成異常症
18.26.子宮外妊娠
19.19.ヘルペス
20.39.月経異常
21.12.流産回数
22.41.性交疼痛症
23.24.子宮/卵管異常
24.31.婦人癌
25.32.その他の病歴
26.10.妊娠回数
27.28.卵巣嚢胞
28.25.フィブロイド
29.22.膣感染
30.16.未知
31.27.機能性子宮出血
32.38.異常な痛み
33.5. 妊娠過形成
34.9. 薬物使用
35.20.生殖器いぼ
36.3. 妊娠DM
37.4. 高血圧症
38.21.その他のSTD
39.23.PID
40.44.未決定
41.2. 糖尿病
42.17.乏排卵
43.6. 自己免疫疾患
44.29.多嚢胞性卵巣症候群
45.7. 移植
――――――――――――――――――――――――――――――
変数のサブセットをテストし、14個の変数の最後のセットを使用してpat07のネットワークをトレーニングした(例13および14参照)。上記の上位14個にはないいくつかの変数も使用した。これによりテストセットの性能が改善された。
pat07のネットワークについての順位付けは以下の通りである。
[表4]
――――――――――――――――――――――――――――――
01.10.Endoの過去の病歴
02.6. 出産回数
03.14.月経困難症
04.1. 年齢(preproc)
05.13.骨盤痛
06.11.骨盤手術歴
07.4. 箱/日
08.12.薬物治療歴
09.5. 妊娠回数
10.7. 流産回数
11.9. 異常PAP/形成異常症
12.3. 妊娠過形成
13.8. 生殖器いぼ
14.2. 糖尿病
――――――――――――――――――――――――――――――
結論.
この例で識別された変数のセットは、テストおよび情報に基づいて妥当であると考えられる。
<例2>
患者病歴データについてのネットワークのトレーニング.
この例は、上記の14個の変数を使用して、様々なパラメータを設定および最適化する方法を明らかにする。
要件.
上記の例が完了すると、減少した患者病歴についてネットワークのセットをトレーニングし、それらの性能を記録する。実験を実行し、ネットワークのトレーニングに最良の構成およびパラメータを決定した。性能の分析を実施して偽の正および偽の負の数を決定し、所与の患者のサブセットを信頼性高く診断することができるかどうかを調べた。データが限られているので、推定した性能は、残りのデータについてのテストおよびトレーニングのためにデータベースの小さな部分(25%)を除外することによって決定した。ネットワークの一つで全てのデータをテストデータとして使用するまで、この方法を繰り返した。次いでテストデータについての組み合わせた結果が性能の推定となる。最後のネットワークは、利用可能な全てのデータをトレーニングデータとして使用してトレーニングした。
使用した方法.
少ないトレーニング例を扱う場合には、ネットワーク構成およびパラメータ設定の決定に便利なテスト情報を提供するためには、ホールドアウト方法が有効である。処理時間を大幅に増加させることなくトレーニングに利用できるデータを最大限にするために、提案された25%ではなく、20%のホールドアウトを使用した。これにより四つではなく五つのデータ区分が生じ、データの80%が各区分のトレーニング用となった。
ランダム開始重みの影響を最小限に抑えるために、複数のネットワークを全トレーニング実行でトレーニングした。こうした実行では、三つのネットワークを、データの五つの区分のそれぞれで、それぞれ異なるランダム開始からトレーニングした。ネットワークの出力を平均して、単一のネットワークから得られるより低い分散を有するコンセンサス結果を形成する。
いくつかの実験を実施し、テストセットの性能を最大限にするネットワークのパラメータを発見した。このプロセスで修正したパラメータは以下の通りである。
[表5]
――――――――――――――――――――――――――――――
1.隠れた処理要素の数
2.入力に追加された雑音の量
3.誤差許容度の量
4.使用する学習アルゴリズム
5.使用する重み減衰の量
6.使用する入力変数の数
――――――――――――――――――――――――――――――
45個の変数の可能な全ての組合せを完全に探索することは、テストに必要とされるCPU時間の量により容易ではない。テストネットワークは、この領域で重要であると当業者に知られているパラメータに基づいて、また以前のテストの結果に基づいて選択したパラメータでトレーニングした。その他の変数のセットも適当である。また、本明細書の別の部分に示すように、選択した14個の変数全ての組合せをテストした。最良の構成が決定された後で、510人の患者の完全なデータセットについて、最後のセットのネットワークをトレーニングした。最後のセットのネットワークでは、八つのネットワークのコンセンサスを作成し、最終的な統計値を生成した。
結果.
最終的ホールドアウトトレーニングの実行は、14個の変数を有するpat06であった。テストデータについての性能は68.23%であった。全トレーニング実行は、pat06と同じネットワーク構成を有するpat07であった。トレーニングデータについての性能は72.9%であった。最後のトレーニング実行についての統計値を、ネットワーク出力値のカットオフの使用に基づいて生成した。ネットワーク出力がカットオフ以下である場合には、この例は考慮されていない。以下の表はpat07中の八つのネットワークのコンセンサスについての結果の概要である。adzcrfと呼ばれるテストプログラムを生成して、この最後のトレーニングを明らかにした。
Figure 2008136874
PPV=正の予測値、NPV=負の予測値
<例3>
ウェスタンブロットデータの事前処理および入力.
要件.
最初に論理設計に送られた、患者についてのウェスタンブロットからの抗原データは、ピーク分子量およびそれらが関連する強度のみについての情報を提供した。このデータ、およびこのデータが取られた元の画像の分析は、より多くの情報をニューラルネットワークに提供することができるようにデジタル化された元の画像を使用することができることを示す。二つの実験について元の画像を検査すると、画像データを事前処理は、画像中の特定の分子量の位置の可変性を低下させる。この事前処理では、標準画像に適した多項式を使用して、修正した画像を生成することになる。画像の事前処理は、画像の背景レベルおよびコントラストを正規化するステップも含むことになる。
事前処理が完了した後で、画像データをそのままで使用する、またはピーク分子量を抽出することができる。得られた画像から、ニューラルネットワークへの入力が生成されることになる。通常の画像は約1000ピクセルの長さであるので、入力数を減少させる方法が調査されることになる。画像が、全てまたは減少したディメンション(解像度)の画像を使用して直接ネットワーク入力にコード化されるので、ニューラルネットワークは、監視学習でトレーニングされ、疾病の決定に関係する分子量の範囲の決定を補助することになる。この例は、ネットワークへの入力中で画像を全体として使用することを焦点とする。
使用した方法.
相関技術を使用して、ウェスタンブロットの画像についての同様の特徴を突き合わせて、相関プロットを生成した。これらのプロットから、サンプルを正確に整合するには、二つのサンプルの相関プロットについての突合せの変動が大きすぎると結論付けられた。ネットワークの各入力は分子量値を正確に表現する必要があるので、標準画像からの情報のみを画像の整合に使用することに決定した。
標準画像について二次適合を実施し、相対移動性情報を分子量に翻訳する手段を生成する。相対移動性の曲線を分子量の対数に対してプロットし、RSQR値を検査した後で、二次適合はこの翻訳を実施するのに十分に正確ではなかったと結論付けられた。二次適合を使用して標準分子について計算した分子量は、ゲルごとに様々である。
相対移動性の分子量への翻訳を改善するためにいくつかの方法を試みた。三次スプライン補間法を選択した。この方法は、データ点でのなめらかな移行を保証し、迅速に計算される。唯一重要なのは、標準がカバーする区間の外側にある相対移動性の値について、この方法がどのように実施されるかということである。終了条件が適当に設定されていれば、補外法の問題は回避されるものと考えられる。これが選択した方法である。
スプライン補間法を使用して、画像を一定寸法のトレーニング記録に変換した。この時点で、画像強度の正規化を考慮しなければならない。二つの選択肢が考えられる。第一は、正規化を実施しないことである。第二は、画像にわたる最大値が1.0にセットされ、最小値が0.0にセットされるように画像を処理することである。各選択肢についてネットワークをトレーニングし、その結果を比較した。入力に雑音が追加されなければ、事前処理した画像ネットワークは97%のトレーニング例性能を有し、事前処理しなかった場合の性能は79%であった。雑音が追加された場合には、二つの選択肢は同様の結果を与えた。さらなるトレーニング実行のために事前処理した画像を使用することを選択した。この選択により、ウェスタンブロット法を使用して達成することができる許容度の範囲内で、所与のネットワーク入力が特定の分子量と一貫して関連付けられることが保証された。
上記の選択を使用して、一連の八つのニューラルネットワークをトレーニングし、Endo存在変数の予測に基づく様々な分子量の重要性についての情報を提供した。相関の方向の分析を可能にするために、単一の隠れた処理要素のみをトレーニングに使用した。各ネットワークについて感度分析を実施し、得られたコンセンサスをExcelを使用してプロットした。
次いでネットワークの重みを平均し、各重みについてのコンセンサス値を生成した。隠れた要素から出力への相互接続の重みは正にも負にもなるので、これらの重みは全ての出力接続が同じ符号を有するように変形した。次いで重みを平均し、その結果をExcelを使用してプロットした。
結果.
ネットワーク入力への画像整合およびMax/Min画像事前処理のために三次スプライン補間法を使用して、ウェスタンブロットデータの分析を実施した。ウェスタンブロット法による、画像の整合の確度において一定量の変動性が期待できる場合には、この手法は、多項式適合が最初に使用した、より良好な結果を与えるものと考えられる。
最終的コンセンサスネットワークについての感度分析および重みのプロットは、疾病の予測および診断を補助することができるウェスタンブロットの領域があることを示した。ネットワークの重みに見られる、正および負の相関の領域の幅もまた、示された結果が有意であることを示す。ピークが非常に狭い場合には、ピークは、過剰トレーニングと同様のトレーニングプロセスの人為結果であり、学習される基礎プロセスを形成しないものと結論付けなければならない。重要であると考えられる領域は以下の通りである。
[表6]
――――――――――――――――――――――――――――――
正の相関
31503.98 - 34452.12
62548.87 - 65735.97
84279.36 - 89458.49
負の相関
19165.9 - 20142.47
50263.36 - 53352.14
67725.77 - 78614.77
――――――――――――――――――――――――――――――
正および負のピークはいくつか存在するが、これらが、二つのELISAテストに含まれる可能性が最も高いと考えられる。一方のテストは正の領域を焦点とし、もう一方は負の領域を焦点とする。次いで得られた二つの値を、ニューラルネットワークへの入力として患者病歴データと組み合わせることができる。
結論.
ニューラルネットワークは、ウェスタンブロットに基づいて疾病の存在と相関する領域を発見することができた。
<例4>
ウェスタンブロットデータについての一定入力寸法の調査.
要件.
事前処理した画像から抽出したピーク分子量を使用して、患者についてのウェスタンブロットデータの変化する寸法を、ニューラルネットワークについての一定の寸法に換算する方法を調査した。この手法は、ネットワーク入力が全画像手法より大幅に少なくなるので望ましい。基本的な問題は、相互に関係する可能性のある分子量の変数がテストで生じることである。例およびこの例の結果を比較すると、分子量のパターンが存在すること、またはそれらの分子量が関連がないかどうかが示される。分子量データにはいくらか変動性があるので、ニューラルネットワークについて分類を実施しても、このデータを処理する手法はファジーメンバシップ関数と同様である。
追加要件.
ウェスタンブロットデータから一部分が識別される。これらの部分の積は再生可能であるので、この情報の使用の有効性は、ウェスタンブロット画像データを処理して、これらの部分の分子量に対応するbinsにすることにより決定される。
使用した方法.
例4の結果から、分子量のいくつかの範囲が疾病と相関があるものと決定される。例5に見られる各ピークに集中するガウス領域を使用することにより、減少した入力表現が生成された。ガウスの値が領域の縁部で0.5以下になるようにガウスの標準偏差を決定した。ニューラルネットワーク入力を生成するために実施した基本操作は、ガウスとウェスタンブロット画像との間のたたみ込みである。計算は全て、分子量の対数を使用して実施した。
別々のソフトウェアプログラムが生成された。このプログラムは、正規化した画像についての分子量および強度に対するたたみ込みを実施した。ネットワーク入力の計算のパラメータは、binprocプログラム中の表に含まれる。binprocでは、平均および標準偏差はこの表に記憶される。表の値が変更されるときに、プログラムは再コンパイルされる。プログラムは、Excelを使用して匹敵するウェスタンブロット画像にガウスをプロットすることができる出力ファイルを生成するテストモードを有する。領域のプロットはドキュメンテーションに含まれる。
36個の小部分を処理する際には、小部分の位置をbinprocの表の値に翻訳するようにbinproc.cを再度修正した。この修正したプログラムをfproc.dと呼ぶ。その目的は、分子量値を標準に基づいて正規化するのに必要なスプライン補間を実施することである。binprocからbinproc2.cを生成し、平均偏差表および標準偏差表を、供給されたファイル中の小部分の終点に対応するmin.表およびmax.表で置き換えた。
上記プログラムから生成された任意のデータファイルをテストするために、データの80%をトレーニング用に、残りの20%をテスト用に使用して、ホールドアウト方法を使用した。ウェスタンブロットデータからトレーニングデータが生成された後で、乱数列および患者のID列をExcelのスプレッドシートに追加した。次いで乱数列上でデータをソートした。これにより実際にデータがシャッフルされる。このようにして、各区分が各ゲルからの例を有する可能性が高い。これらの割合で、五つの別々のトレーニングおよびテストファイルが、組み合わせたテストセットの結果からネットワークの性能を推定することができるように生成される。
ThinksProTMを使用して、入力を排除することにより、ネットワークが使用する入力の数を変化させることができる。排除された入力は、トレーニング中にネットワークに提示されない。ガイドとして感度分析を使用して、重要でない入力を除去する。入力スペースのディメンションを減少させることは、トレーニング例の数が少ないときにはさらに重要になる。この方法は、患者病歴トレーニング実行中の変数を除去する際に使用したものと同じである。現在では、このプロセスは手動で行う。
結果.
例5では、全てのデータについてトレーニングされたネットワークを使用して、分類プロセスに重要な分子量の範囲を決定した。この例では、ホールドアウト方法を使用して、テストセットの性能を推定することができるようにネットワークをトレーニングした。第一のテストセットは、例5で識別された領域に基づいている。第二のテストセットは、四つのishgelファイル中で識別された小部分を使用して作成された。
例5で見られた上位六つの領域に基づく最初のコンセンサス実行の性能は低い(50%)。生成された入力データの分析により、入力データの生成に使用された領域は、画像データから重要な情報を捕捉するには狭すぎることが示された。領域の幅を広げ、上位六つではなく、例5からの上位10個の領域を含めた。幅を広げた10個の領域についてのテストはわずかに良好な性能を示した。感度分析を使用して、10個の領域のうち三つを除去し、完全なテストを実行した。幅を広げた10個の領域のうち六つについての性能は、54.5%に向上した。
ネットワークへの入力数がさらに減少するにつれて、テストセットの性能(ホールドアウト方法で推定)は高まり続ける。66392.65から78614.74の範囲の分子量を有するただ一つの領域しか使用しない場合に最高の性能が達成された。ホールドアウト方法を使用した、テストデータについての性能の推定値は58.5%であった。
このプロセスを、識別された小部分に基づく36個の領域を開始として使用して再度適用した。36個の小部分には大量の重複が存在した。上位七つの小部分を、感度分析を使用して36個から決定した。小部分のサブセットを使用して、58%という同様の性能が達成された。
結論.
テストでは非常に高い結果は生じなかった。このことの主な理由は、この例で利用できるトレーニングデータの量が限られていたことである可能性が高い。以前の例から得られた結果は、トレーニングサンプル中の患者数が減少するにつれて妥当性データについての性能も低下したことを示した。この関係を以下の表に示す。
Figure 2008136874
患者数が減少しても、Elisa変数を含む場合にはElisa/患者病歴データについてより良好な結果が達成された。このことはELISA変数の価値を示す。
いくつかの領域を、疾病の分類に重要であると決定できることは明らかである。大幅に異なる領域のセットが同様の結果を生じ、ウェスタンブロットデータ中に、疾病の存在を示すパターンが存在する可能性があることを示す。患者のデータベースが少ない場合には、これらのパターンを分離することはより困難になる。
ウェスタンブロットデータ用のデータベースのサイズの増加により、このデータについてトレーニングしたネットワークの性能が改善されることになることは明らかである。ウェスタンブロットデータを患者病歴データと組み合わせると、ネットワークの入力寸法が増加することになる。入力寸法が増加すると、通常は一般化を保証するためにより多くのトレーニング例が必要となる。
<例5>
ウェスタンブロットデータを使用するトレーニングネットワーク.
この例の目的は、ウェスタンブロットデータのみを使用して診断についての性能推定を決定するようにネットワークのセットをトレーニングすることである。実験を実行し、ネットワークのトレーニングのための最良の構成およびパラメータを決定した。上記の例2に記載した方法を、この性能推定に使用する。最後のネットワークは、利用可能な全てのデータをトレーニングデータとして使用してトレーニングした。このトレーニングしたネットワークの出力(抗原指標)は、組み合わされたデータフェーズ中で生成されたネットワークへの入力として使用した。
使用した方法.
いくつかの方法を使用して、利用可能なトレーニングデータについての最もよく実施される入力のセットを発見した。以前の例から、感度分析を使用すると、各入力変数の重要性の識別において良好な結果が生じることが分かった。その数のネットワークは、感度分析によって手動で決定された変数の組合せについてトレーニングした。
自動化手順を準備する際に、変数の2×2分割表カイ二乗分析を使用して、変数の重要性の代替の順位付けを提供した。入力は連続的であるので、各入力についてしきい値を使用して、分割表に必要な情報を生成した。カイ二乗値は、しきい値の設定に依存して変化する。変数の順位付けに使用するしきい値は、カイ二乗統計値を最大にするように選択した。
自動化手順の開発中に行われるトレーニング実行は、これらの順位付けから選択される。トレーニング実行が行われた時点で、自動化手順は定形化されていない。全体の処理時間を節約するために、トレーニングデータのただ一つの区分しか使用しない。次いでトレーニングおよびテストデータの第一区分中で良好に実施された変数の組合せを、残りの区分について試した。
本文献で提案する最良の入力のセットを発見する一つの方法は、遺伝アルゴリズムを使用して、最もよく実施される入力のセットを決定するものである。ジェネティックアルゴリズムは、通常は、良好な解答に収束するには数千回も反復する必要がある。ウェスタンブロットデータの処理では、これは、トレーニング例のサイズが小さい場合でも大量のコンピュータ時間に相当することになる。10個の変数について、全ての組合せを枚挙するには1024回のトレーニング実行が必要となる。ジェネティックアルゴリズムの代替の方法を試みた。この代替の方法では、選択した入力のセットに基づいてテストセットのRMS誤差を予測するように、ニューラルネットワークをトレーニングした。この実験で使用したトレーニング例は、ウェスタンブロットデータの第一区分についてのトレーニング実行の結果である。次いで全ての組合せで予測ネットワークをテストし、予測された最小の組合せを決定する。次いで入力の組合せを使用して、ウェスタンブロットデータについてネットワークをトレーニングする。この方法およびジェネティックアルゴリズム手法の主な欠点は、非常に有効であることが分かっている感度分析情報が、このプロセスにおいて無視されることである。
結果.
ウェスタンブロットデータ中の10個の変数(bins)についての基本的順位付けは、200個の例の全データベースについてトレーニングした八つのネットワークのコンセンサスに基づく。その結果は以下の通りである。
[表7]
――――――――――――――――――――――――――――――
7 : 1.182073
9 : 1.055611
3 : 1.053245
8 : 1.039028
6 : 1.027239
10 : 1.023135
4 : 0.978769
5 : 0.952821
2 : 0.899936
1 : 0.788143
――――――――――――――――――――――――――――――
カイ二乗分析に基づく10個の変数の順位付けは以下の通りである。
[表8]
――――――――――――――――――――――――――――――
3 : 4.380517
9 : 3.751625
7 : 3.372731
2 : 3.058437
6 : 3.022164
5 : 2.787982
10 : 1.614931
4 : 1.225725
1 : 0.975502
8 : 0.711958
――――――――――――――――――――――――――――――
ウェスタンブロットデータの分析中に、トレーニングデータの一つまたは複数の第一区分についていくつかのネットワークをトレーニングした。テストの結果は以下のように順位付けられ、変数がトレーニング実行に含まれることを示す。
変数
Figure 2008136874
()は予測ネットワークトレーニングプロセスによって生成された組合せを示す
上記のテスト実行を参照すると、順位付け中のより重要な変数が下位のテストセット誤差に寄与すること、および含まれる変数が多くなると、テストセットの結果が低くなることは明らかである。このことは、高性能ニューラルネットワークの開発における、変数の最良のサブセットを選択することの重要性を示す。
いくつかの組合せの変数を使用して、トレーニングデータの全ての区分についてネットワークをトレーニングした。これらの実行の結果を以下に示す。
[表9]
――――――――――――――――――――――――――――――
変数 時間セットの性能
3 57.5%
3, 9 53.5%
3, 7,9 53.0%
4, 6,9, 10 57.0%
――――――――――――――――――――――――――――――
変数の両方の順位付けは3、7、および9が重要であると示すので、十分なトレーニングデータが存在する場合には、この組合せが57.5%を超える可能性が高い。この組合せについてのトレーニング例の性能は63.9%であり、これは発生した過剰トレーニングのレベルを示す。上記に示した第一区分ネットワークのいくつかは、テスト性能を予測するようにトレーニングしたニューラルネットワークによって選択された変数の組合せを有する。これらのネットワークは最後の列の番号によって示される。この番号は、テストが実行されるシーケンスを示す。番号のない組合せは、順位付けから手動で選択した。このプロセスを継続すれば、予測ネットワークは最終的に最良の組合せを発見するはずである。テストセットの性能に影響を及ぼす可能性のあるファクタは数多く存在するので、テストセットの結果には多くの「雑音」が存在する可能性が高い。この方法をより良好に働かせるために、予測されたテストセットの誤差についてトレーニング値を生成するためにコンセンサス手法が必要になることがある。この問題はコンセンサス手法を使用する際にも見られる。
結論.
変数の感度および分割表順位付けを使用するプロセスは、ニューラルネットワークの性能を最大限にするように変数のセットを選ぶための有効かつ効率的な技術である。両方の順位付けの下での上位三つの変数は同じであり、これはこれらの方法が良好に実施されることを示す。この方法は、ウェスタンブロットデータを処理することは明らかであるが、任意形態のデータについてよく作用し、これを患者病歴データにも適用可能な汎用ニューラルネットワーク技術にする。
上記の結果は、データが多ければ性能レベルが向上することを示す。感度分析は、変数の相対値の変動がほとんどないことを示す。ほとんどの変数は解答に寄与する。完全ウェスタンブロット画像についてトレーニングしたニューラルネットワークの重みの分析に基づいてbinsが選択されるので、このことが期待される。しかし、全てまたはほとんどの変数を使用することにより、ニューラルネットワークは急速に過剰トレーニング状態となる。これは、トレーニング例にデータを追加することによって回避することができる。
ニューラルネットワークに案内されて変数を選択するテストは、順位付け手法より有効性が低いことが分かった。順位付け手法が最も有効であることは明らかであるが、ニューラルネットワーク案内手法でも最終的には最良の変数のセットを発見することができる。これは遺伝アルゴリズムより直接的な手法であるので、同様のデータについて、ジェネティックアルゴリズムより良好に実施される可能性が高い。この方法の主な欠点は、探索の補助に感度分析情報を使用しないことである。
<例6>
患者病歴およびELISAデータを組み合わせる.
要件.
上記の例で開発した処理を使用して、患者病歴データおよびELISAデータの組合せについてネットワークのセットをトレーニングする。抗原の全セットの使用に基づいてELISAテストから生成される指標を使用して、この情報を患者病歴データと組み合わせることによって達成される性能の改善を決定することになる。
追加要件.
上記要件に加えて、複数のELISAからのデータ、ELISA100およびELISA200データとELISA2データとの間の比較、ならびに変数の相互関係の分析を実施し、元のELISAテストが関係する変数を決定する助けとした。
使用した方法.
ELISAテストの結果を含めることによって達成される診断テストの性能の改善を決定するために、例2で説明したホールドアウト方法を使用していくつかのトレーニングを行った。
各区分中でデータの80%がトレーニングに使用され、残りの20%がテストに使用されるように、データの区分を作成した。
ランダム開始重みの影響を最小限に抑えるために、いくつかのネットワークは全トレーニング実行でトレーニングする。こうした実行では、三つのネットワークは、それぞれ異なるランダム開始からの、データの五つの区分のそれぞれでトレーニングした。ネットワークの出力を平均し、単一のネットワークから得られるより低い変動を有するコンセンサス結果を形成した。全ての形態のELISAデータを利用することができる患者数は325であるので、元の14個の変数での新しいトレーニング実行を行い、ELISAデータが疾病の診断に与える影響を比較する正確な平均を提供した。ELISA2データの分析は、そのテストのための広範囲の値を示した。ELISA2のELISA100データに対する関係を示すプロットは、ELISA2データの対数の方が未処理値より良好である可能性があることを示す。
比較トレーニング実行は以下のように構成される。
実行1:ELISA100、ELISA200、対数(ELISA2)および元の14個の変数
実行2:(ELISA2)および元の14個の変数
実行3:元の14個の変数
これらの比較実行を行った後で、ネットワークの最後のセットを325人の患者の完全なデータセットについてトレーニングした。ネットワークの最後のセットでは、八つのネットワークのコンセンサスを作成し、最終的な統計値を生成した。最後の実行の統計値は、トレーニングデータについてのみ報告され、真の性能の上限を表す。最後のホールドアウト実行の結果は、性能についての可能な下限を表す。
トレーニングデータから、診断に利用できないものも含めた65個の変数のそれぞれは、325個のトレーニング例の中のトレーニング例に組み込まれる。TrainDosトレーニングプログラムは、ネットワークの生成を自動化し、変数間の関係を提供するように修正した。65個のネットワークのそれぞれでは、一つの変数が残りの64個によって予測される。予測を行う際の各変数の重要性を示すために、各ネットワークについて感度分析を実施した。
結果.
三つの比較実行についてのコンセンサス結果は以下の通りである。
[表10]
――――――――――――――――――――――――――――――――――――
実行1:全てのELISA変数(CRFE:1) 66.46%
実行2:ELISA2の対数(CRFEL2) 66.77%
実行3:ELISA変数なし(CRFEL0) 62.76%
――――――――――――――――――――――――――――――――――――
実行1および実行2を比較すると、ELISA100およびELISA200のデータをELISA2データに追加したことの影響がないことが分かる。したがって、ELISA100およびELISA200の変数は除去することができる。
実行2および実行3を比較すると、ELISAテストに基づく入力によって、疾病の診断が改善されたことが分かる。
実行3をpat06と比較すると、テストの性能が5.47%低下することが
分かる。これは単にトレーニングに利用できる患者数の減少によるものである。このことは、500を超えるトレーニングデータの増加は、テストデータについてのニューラルネットワークの性能に対して相当な影響を有する可能性が高いことも意味する。
これらの結果に基づいて、最後のネットワークをトレーニングした。八つのネットワークは325人の患者についてトレーニングした。このトレーニングデータについての性能は72.31%であった。これはpat07実行と同様の結果であるが、ELISA2データによる改善が利用可能なトレーニングデータの量が減少したことによって相殺されていることは明らかである。
感度分析の結果は、15個の変数の中で7番目に順位付けされたELISA2の変数を使用したことを示す。
八つのトレーニングしたネットワークの対数ファイルから、隠れた処理要素出力のプロットを作成した。所望の出力をプロット上に示すことができるように平均を求めた。八つのネットワークを比較することにより、それぞれが異なる方法でタスクを実施することが明らかとなる。データ点のいくつかのクラスタ化が、いくつかのプロットに見られる。これは一貫して起こるわけではないので、結諭を導き出すことはできない。
ネットワーク出力値のカットオフの使用に基づいて、最後のトレーニング実行について統計値を生成した。ネットワーク出力がカットオフ以下である場合には、この例は考慮していない。
以下の表はCRFLE2中の八つのネットワークのコンセンサスについての結果の概要である。
Figure 2008136874
一般に、これらの結果はpat07についての結果より良好である。
この最後のトレーニングのデモとして、adzcrf2.exe(付録II参照)と呼ばれるテストプログラムを生成した。このプログラムにより、ELISAフィールド中の値入力に基づくpat07およびCRFEL2の実行が可能になる。このフィールド中の値が0であると、pat07が使用される。
変数の関係の分析を実施した。この関係の分析に基づいて、Endo存在を寄与ファクタとして示す変数を、予測Endo中で使用する変数と比較した。二つのネットワーク(PATVARSAおよびPATVARS3)のトレーニングの結果は、Endoの場合には、相関を使用した場合のように関係が対称的ではないことを示す。結果を要約するために、CRFVARSA.XLSを感度分析の結果から構築した。これらの結果は、関係の非線形特性を示す。変数の重要性は、トレーニング実行中のその他の変数の影響を受ける。このことは、この分析の利便性を高めるために重要でない変数を自動的に除去する手段が必要になることもあることを意味する。
変数の関係(CRFVAR00からCRFVAR64)の分析は、ほとんどの場合に、ELISA2テストの対数の方が未処理のELISA2値より高い有効性を有することを示す。特に、予測するEndo存在およびAFS Stageの両方について上位に順位付けされた対数値ではそのようになる。
結論.
ELISA2テストは、ニューラルネットワークの予測能力を追加する。ELISA2テストにより、元のELISAテストは不要となる。この結果に基づいて、ウェスタンブロットデータの処理の結果は、ニューラルネットワークの診断テストの能力をさらに改善することになる可能性が高い。
トレーニングデータの増加の影響は、実行3とpat06の比較において明らかに見られる。この性能の差は、トレーニングデータの増加によってニューラルネットワークの性能が大幅に向上したことを意味する。この比較から、データを二倍にすれば性能は10から15%向上することになることは明らかである。データを8倍から10倍にすれば、性能は75から80%向上する可能性がある。
<例7>
患者病歴Stage/AFS Scoreトレーニング.
要件.
上記の例で開発した方法を使用して、疾病のstageまたはAFS Scoreのいずれかについての関連のある変数を識別する。使用するターゲット出力変数の選択は、重要な患者病歴変数のフェーズ1リストを使用するトレーニング実行からのテストセットの性能の比較によって決定される。重要な変数のリストを選択した後で、510個の患者データベースについて八つのニューラルネットワークのコンセンサスをトレーニングすることになる。
使用した方法.
Stageに望ましい出力およびAFS scoreに望ましい出力について、トレーニング例を構築した。Stage情報の欠落した患者が7人、Score情報が欠落した患者が28人存在した。stage変数については、データが欠落している場合には平均値2.09を使用した。scoreについては、欠落データは、stage変数の値に依存する値で置換した。stage1では、scoreとして3を使用した。stage2では、10.5を使用した。stage3では28を使用し、stage4では値55を使用した。stageおよびscoreは、所望の出力が0.0から1.0の範囲となるように再処理した。stageは線形に翻訳した。scoreについては二つの方法を使用した。第一の方法は12.5で割ったscoreの平方根である。第二の方法は、score+1の対数を150の対数で割った数である。
ホールドアウト方法を使用して、stage、scoreの平方根、およびscoreの対数についてネットワークをトレーニングした。これらのネットワークは、45個の変数を使用してトレーニングした。その結果を比較して、どの変数および処理を、この例の残りに使用するかを決定した。scoreの対数を選択した。
この時点で、重要な変数のセットを分離する手順が開始された。八つのネットワークを全トレーニング例についてトレーニングし、コンセンサス感度分析を生成して変数の第一の順位付けを生み出した。次いでカイ二乗分割表を生成し、変数の第二の順位付けを生み出した。重要な変数を分離する手順は手動で開始するが、時間がかかりすぎることが分かった。この手順は、コンピュータプログラムとして実施し、約一週間コンピュータ上で実行した。
変数選択の結果から、八つ1組のネットワークを全トレーニング例についてトレーニングした。コンセンサス結果を分析し、Endo存在の結果と比較した。
結果.
45個全ての変数の感度分析により以下の変数の順位付けが与えられた。
Figure 2008136874
Figure 2008136874
Figure 2008136874
カイ二乗分析から、以下の変数の順位付けが与えられた。
Figure 2008136874
Figure 2008136874
変数選択手順中に選択した変数は以下の通りであり、これは最後の感度分析からの順位付けを示す。
Figure 2008136874
scoreネットワークとEndo存在ネットワークとの比較は、所望のscore出力にしきい値を与え、Endo存在の比較を生み出すことによって実施することができる。scoreおよびpat07のネットワークについての結果を以下に示す。
Figure 2008136874
結論.
この例で識別した変数のセットは妥当であると考えられる。
自動化変数選択方法は適当に機能すると考えられる。変数の選択は、感度分析によって良好に予測される。
疾病を予測する方法は二つあるので、Endo存在ネットワークおよびScoreネットワークを組み合わせて、予測の信頼性を向上させることができる。
<例8>
患者病歴Adhesionsトレーニング.
要件.
例7で概説した方法を使用して、Adhesionsターゲット出力変数についての関連変数を識別する。このターゲット出力変数は、重要な患者病歴変数のフェーズ1リストを使用して実行されることになる。これにより、新しい出力を、フェーズ1中で使用されるEndo存在ターゲット変数と比較することも可能になる。重要な変数のリストを選択した後で、510個の患者データベースについて八つのニューラルネットワークのコンセンサスをトレーニングすることになる。
使用した方法.
adhesions変数についてのトレーニングデータは、例7の場合と同様に生成した。adhesions変数は、Endo存在の場合に使用したのと同様の方法で二つの出力変数を生成した。この時点で、重要な変数のセットを分離する手順が開始された。八つ1組のネットワークを全トレーニング例についてトレーニングし、コンセンサス感度分析を生成して変数の第一の順位付けを生み出した。次いでカイ二乗分割表を生成し、変数の第二の順位付けを生み出した。重要な変数を分離する手順は手動で開始するが、時間がかかりすぎることが分かった。この手順は、コンピュータプログラムとして実施し、完了するまでに約一週間コンピュータ上で実行した。
変数選択の結果から、八つ1組のネットワークを全トレーニング例についてトレーニングした。コンセンサス結果を分析し、Endo存在の結果と比較した。
結果.
45個全ての変数の感度分析により以下の変数の順位付けが与えられた。
Figure 2008136874
Figure 2008136874
Figure 2008136874
カイ二乗分析により以下の変数の順位付けが与えられた。
Figure 2008136874
Figure 2008136874
変数選択手順中に選択した変数は以下の通りであり、これは最後の感度分析からの順位付けを示す。
Figure 2008136874
ScoreネットワークとEndo存在ネットワークとの比較は、所望のscore出力にしきい値を与え、Endo存在の比較を生み出すことによって実施することができる。scoreおよびpat07のネットワークについての結果を以下に示す。
Figure 2008136874
結論.
この例で識別した変数のセットは妥当であると考えられる。自動化変数選択方法は適当に機能すると考えられる。変数の選択は、感度分析によって良好に予測される。
<例9>
この例は本明細書で提供するプロセスの再現性を示す。
使用した方法.
AdhesionsおよびScoreについての重要な変数の選択に使用したソフトウェアは、Endo存在の所望の出力を処理するように修正した。このソフトウェアは、各特定テストについて再コンパイルする必要なく、一般的な場合に実行することができるようにさらに修正した。
Adhesionおよびscoreについての実行と同様に、Endo存在変数について実行を行った。これは、変数選択プロセス中に四つのネットワークのコンセンサスを使用することを含む。トレーニングデータはトレーニングプロセス中に五つの区分に分割し、テストする変数の現在のセットをそれぞれ評価する、総数で20個のネットワークを生成した。
異なる乱数シードを有する実行の結果は、コンセンサス中のネットワーク数を増加させる必要があることを示した。
10個のネットワークのコンセンサスをプロセス中に使用して、二つの追加変数選択実行を行った。この場合には、総数で50個のネットワークが変数の単一の組合せを評価するようにトレーニングされる。二つの別々の実行を、ランダム開始シードのみを変更して、同様に行った。
こうした最後の二つの変数選択実行から、八つ1組のネットワークは、各変数セット(pat08、pat09)についてトレーニングされ、新しいデータ(元の510個の記録データベースには含まれない)についてそれらの性能を評価することを可能にする。これらのネットワークの性能についての統計値は、それらを元のpat07のコンセンサスネットと比較することができるように生成される。
結果.
異なる乱数シードを使用するそれぞれの場合で、変数選択プロセスは、重要な変数の様々なセットを発見した。コンセンサス中のネットワーク数が10まで増加すると、異なる実行中で共通の変数が増加する。
pat07について使用した元の14個の変数の多くは、10コンセンサスネットを使用する変数選択実行において重要であると確認された。選択した変数について行った最後の実行は、pat08およびpat09と呼ばれる。
pat08およびpat09コンセンサスネットワーク中で使用した変数を、それらの感度分析の順位付けとともに以下に示す。
Figure 2008136874
結論.
変数選択プロセスは良好に働き、pat07ネットと同様またはそれ以上に働く二つの代替のネットワークを生み出した。この結論の理由は、トレーニングデータのみについて生成した性能統計値が、pat08およびpat09よりpat07の方がわずかに良好に現れるためである。変数選択プロセスはテストセットの性能に基づいて慎重に変数を選ぶので、関連するネットワークが過剰トレーニングになっている可能性は低い。ネットワークが過剰トレーニング状態になる場合の典型的な特徴は、トレーニング例の性能が向上し、テストセットの性能が低下することである。したがってpat07の性能の方が高いと、わずかに過剰トレーニングの結果となる可能性がある。
変数選択プロセスは明らかに、同じトレーニングデータについての二つの代替の選択を生み出したが、二つの選択の性能は非常に類似していると考えられる。これは二つの実行についての最後の変数選択のテストセットの性能に基づいている。二つの変数の相対的な性能が近い場合には、ランダムファクタがそれらの相対的な順位付けに影響を及ぼす可能性があることが明らかになった。変数選択実行中のランダムファクタは、ランダム開始点と、トレーニング中に入力に付加された雑音の使用とを含む。ランダム雑音は、より良好な一般化(翻訳:テストセットの性能)を補助することが分かっている。コンセンサス中のネットワーク数が増加するにつれて、ランダム影響の度合いは低下する。
高品質のネットワークを生み出す変数のセットの決定は、変数選択プロセスによって扱われるものと考えられる。うまく働く変数のより多くの組合せが枚挙されるにつれて、特定の変数または変数の組合せが、良好な性能には不可欠であることが明らかになる。
<例10>
子宮内膜症の過去の病歴および骨盤手術歴の排除の診断性能に対する評価.
この例の目的は、患者の子宮内膜症を有する危険性を評価する際の「子宮内膜症の過去の病歴」変数および「過去の骨盤手術歴」変数の重要性を決定し、その結論を予測する際の任意の所与の変数の重要性を測定する代替の手段(感度分析とは異なる)を提供することである。
タスク:
1.「子宮内膜症の過去の病歴」を除いて変数選択プロセスを適用する。
2.変数選択プロセスについて様々なランダムシード変数を使用して、タスク(1)を繰り返す。
3.上記のタスク(1)および(2)で識別した「子宮内膜症関連変数」の両セットについて、コンセンサスネットワークトレーニングプロセスを完了する。
4.子宮内膜症データベースから「過去の骨盤手術歴」変数を除いて、上記タスク(1)、(2)、および(3)を繰り返す。
5.子宮内膜症データベースから「子宮内膜症の過去の病歴」変数および「過去の骨盤手術歴」変数の両方を除いて、上記タスク(1)、(2)、および(3)を繰り返す。
使用した方法.
例9で開発した変数選択ソフトウェアを基本として使用して、例10のそれぞれについての結果を生成した。このソフトウェアは、例10の要件に基づいて考慮から排除されることになる変数をユーザが識別することができるように修正した。このソフトウェアは、除去した変数の影響をより容易に理解することができるように、テストする変数のセットのそれぞれについての分類性能を報告することができるようにも修正した。
行った各変数選択実行について、変数選択プロセスのパラメータは以下のように設定した。
[表11]
――――――――――――――――――――――――――――――
区分数: 5
コンセンサスネットワーク: 10
トレーニング例サイズ: 510
パス数: 999
――――――――――――――――――――――――――――――
変数選択プロセス中のデータベース変数の順序付けは、感度分析およびカイ二乗分析に基づいている。この順序付けは、pat08およびpat09で使用したものと同様である。
この例のためにトレーニングしたネットワークは、以下のように識別される(二つのネットは異なるランダムシードを有する)。
[表12]
――――――――――――――――――――――――――――――
Endoの過去の病歴を除去:pat10、pat11
過去の骨盤手術歴を除去: pat12、pat13
両変数を除去: pat14、pat15
――――――――――――――――――――――――――――――
変数およびランダムシードの各組合せについて変数選択プロセスが完了した後で、八つ1組のネットワークを、識別された選択した変数を使用してトレーニングした。これらのネットワークのそれぞれは、完全な510個の記録データベースについてトレーニングされる。これらのトレーニング実行から、出力のコンセンサスがExcelのスプレッドシート中で生成され、各ネットワークの性能を評価することができる。
結果.
ネットワークのコンセンサスの通常の性能を、5の区分でホールドアウト方法を使用して推定した。pat08およびpat09の場合のように、全ての変数が利用可能である場合には、分類性能は65.23%と推定された。
子宮内膜症の過去の病歴の変数が考慮から除去される場合(pat10およびpat11)には、性能は62.47%と推定された。これは2.76%の低下に相当する。
過去の骨盤手術歴の変数が考慮から除去される場合(pat12およびpat13)には、性能は64.52%と推定された。これは0.72%のみの低下に相当する。
両変数が考慮から除去される場合(pat14およびpat15)には、性能は62.43%と推定された。これは2.80%の低下に相当する。これは子宮内膜症の過去の病歴を除去した場合よりわずかに悪いだけであり、変数が独立である(相関がない)という想定に基づくその他の結果と矛盾しないと考えられる。
結論.
利用可能であればニューラルネットワークで骨盤手術歴を使用するが、この変数を除去した影響は最小限であった。ニューラルネットワークは、その他の情報を使用することによってこの変数の除去を補償することができるものと考えられる。
子宮内膜症の過去の病歴の除去は有意である。この変数は、いかなる感度分析でも常にリストの最上位にある。その除去は、全ての変数が利用可能であるときには平均を超えて約2.76%の性能低下を引き起こした。平均性能が65.23%と推定され、50%は偶然に達成することができるものとすると、これは18.12%の有効低下に相当する。
両変数が除去された場合には、どのような有意な性能低下も現れず、これはこれら二つの変数の間に相互作用がないことを示す。変数を除去し、変数選択プロセスを実行するこのプロセスは、所与の変数の真の値を決定する良好な手法であると考えられる。診断に重要だが高度に相関する変数は二つ存在し、一方のみを除去しても、ネットワークがもう一方を使用することによってこれを補償するので、ほとんど影響がないことに留意されたい。それらの値が明らかになるのは、両方を除去したときのみである。
<例11>
骨盤痛および月経困難症の除去の診断性能に対する評価.
要件.
目的:
1.患者の子宮内膜症を有する危険性を評価する際の「骨盤痛」変数および「月経困難症」変数の重要性を決定すること。
2.その結論を予測する際の任意の所与の変数の重要性を測定する別々の機構(感度分析とは異なる)を提供すること。
タスク:
1.本明細書に記載の変数選択プロセスを適用する。
2.変数選択プロセスについて様々なランダムシード変数を使用して、タスク(1)を繰り返す。
3.上記のタスク(1)および(2)で識別した「子宮内膜症関連変数」の両セットについて、コンセンサスネットワークトレーニングプロセスを完了する。
4.子宮内膜症データベースから「月経困難症」変数を除いて、上記タスク(1)、(2)、および(3)を繰り返す。
5.子宮内膜症データベースから「骨盤痛」変数および「月経困難症」変数の両方を除いて、上記タスク(1)、(2)、および(3)を繰り返す。
使用した方法.
例9で開発した変数選択ソフトウェアを基本として使用して、これらのタスクのそれぞれについての結果を生成した。
行った各変数選択実行について、変数選択プロセスのパラメータは以下のように設定した。
[表13]
――――――――――――――――――――――――――――――
区分数: 5
コンセンサスネットワーク: 10
トレーニング例サイズ: 510
パス数: 999
――――――――――――――――――――――――――――――
変数選択プロセス中のデータベース変数の順序付けは、感度分析およびカイ二乗分析に基づいている。この順序付けは、pat08およびpat09で使用したものと同様である。このタスクのためにトレーニングしたネットワークは、以下のように識別される(二つのネットは異なるランダムシードを有する)。
[表14]
――――――――――――――――――――――――――――――
骨盤痛を除去: pat16、pat17、pat17A
月経困難症を除去: pat18、pat19
両変数を除去: pat20、pat21
四つの変数(EXs.11および12) :pat22、pat23、pat23A
――――――――――――――――――――――――――――――
変数およびランダムシードの各組合せについて変数選択プロセスが完了した後で、八つ1組のネットワークを、識別された選択した変数を使用してトレーニングした。これらのネットワークのそれぞれは、完全な510個の記録データベースについてトレーニングされる。これらのトレーニング実行から、出力のコンセンサスがExcelのスプレッドシート中で生成され、各ネットワークの性能を評価することができる。
結果.
ネットワークのコンセンサスの通常の性能を、5の区分でホールドアウト方法を使用して推定した。pat08およびpat09の場合のように、全ての変数が利用可能である場合には、分類性能は65.23%と推定された。
骨盤痛の変数が考慮から除去される場合(pat16およびpat17)には、性能は61.03%と推定された。これは4.20%の低下に相当する。
月経困難症の変数が考慮から除去される場合(pat18およびpat19)には、性能は63.44%と推定された。これは1.79%のみの低下に相当する。
両変数が考慮から除去される場合(pat20およびpat21)には、性能は61.22%と推定された。これは4.00%の低下に相当する。これは骨盤痛のみを除去した場合より良好である。これは骨盤痛についての性能低下が誇張されることを意味する。骨盤痛を含まずに最もよく実施されるネットワークは、62.29%の性能を有し、これは2.94%の低下を与える。両方とも除去したときに性能が与えられる場合には、これはより妥当な推定となる。
結論.
四つの変数をテストして、重要性の順序で変数を順位付けすると以下の通りとなる。
[表15]
――――――――――――――――――――――――――――――
骨盤痛 2.94から4.20%の低下
endoの過去の病歴 2.76%の低下
月経困難症 1.79%の低下
過去の骨盤手術歴 0.72%の低下
――――――――――――――――――――――――――――――
変数を除去し、変数選択プロセスを実行するこのプロセスは、所与の変数の値を決定する良好な手法である。診断に重要だが高度に相関する変数は二つ存在し、一方のみを除去しても、ネットワークがもう一方を使用することによってこれを補償するので、ほとんど影響がないことに留意されたい。それらの真の値が明らかになるのは、両方を除去したときのみである。
<例12>
軽度および重度の子宮内膜症を区別するようにニューラルネットワークをトレーニングする.
目的:
1.最小限/軽度の子宮内膜症と中程度/重度の子宮内膜症とを区別するネットワークのコンセンサスをトレーニングすること。
タスク:
1.ネットワークを以下のようにAFS scoreにトレーニングする。
正=Endo Stage IIIまたはIV
負=Endoなし、Endo Stage IまたはII
2.子宮内膜症データベースのニューラルネットワークを使用
する医療および生化学テストを開発する方法に記載の変数選択プロセスを適用する。
3.変数選択プロセスに対して様々なランダムシード変数を使用して、タスク(2)を繰り返す。
4.進行する前に上記(2)および(3)で選択した変数を比較する。選択した変数のセットが大幅に異なる場合には、様々なランダムシード重みを使用してタスク(2)を繰り返す。
5.上記(2)および(3)で選択した変数について最後のコンセンサスネットワークをトレーニングする。
6.Endoが患者に存在した子宮内膜症データベースのサブセットのみを使用して、ステップ(2)から(5)を繰り返す。
使用した方法.
例10で開発し、例11で修正した変数選択ソフトウェアを基本として使用して、この例のタスクのそれぞれについての結果を生成した。
行った各変数選択実行について、変数選択プロセスのパラメータは以下のように設定した。
[表16]
――――――――――――――――――――――――――――――
区分数: 5
コンセンサスネットワーク: 20
トレーニング例サイズ: 510(ステップ(6)では290)
パス数: 999
――――――――――――――――――――――――――――――
変数選択プロセス中のデータベース変数の順序付けは、例1で説明した新しいターゲット出力について特に実行される感度分析およびカイ二乗分析に基づいている。この例のためにトレーニングしたネットワークは、以下のように識別される(二つのネットは異なるランダムシードを有する)。
[表17]
――――――――――――――――――――――――――――――――――――
全データベースについてトレーニングしたネット:AFS01およびAFS02
Endo存在サブセットについてトレーニングしたネット:AFSEP1およびAFSEP2
――――――――――――――――――――――――――――――――――――
変数およびランダムシードの各組合せについて変数選択プロセスが完了した後で、八つ1組のネットワークを、識別された選択した変数を使用してトレーニングした。これらのAFS01およびAFS02変数についてのネットワークのそれぞれは、完全な510個の記録データベースについてトレーニングされる。AFSEP1およびAFSEP2変数についてのネットワークのそれぞれは、endo存在変数が正である291個の記録についてトレーニングされる。これらのトレーニング実行から、出力のコンセンサスがExcelのスプレッドシート中で生成され、各ネットワークの性能を評価することができる。
結果.
減少したサブセット実行中で発見された変数のカウントは、全トレーニング例についての実行の場合より少ない。ネットワークのコンセンサスの通常の性能は、5の区分のホールドアウト方法を使用して推定された。全トレーニング例を使用するAFS実行についての通常の分類性能は77.22549%であった。endo存在サブセットについての通常の分類性能は63.008621%であった。全ての例が負として分類される場合には、全トレーニング例についての性能は78.82%、サブセットについては65.29%になるはずである。正および負の分類のためのカットオフ値を変更することにより、これらの数字によって提示されるより良好な性能を達成することができる。
結論.
全トレーニング例およびendo存在例のサブセットについての変数選択実行の結果は、重要な変数の決定ではトレーニング例のサイズが重要であることを示す。トレーニング例のサイズが大きくなるにつれて、より多くの変数が重要と考えられることになることは明らかである。この結果は、トレーニングデータが多くなれば、変数選択プロセス、および診断テストの構築に使用するコンセンサスネットワークの全体的な性能が改善されることを示すものと解釈することもできる。
<例13>
変数選択、妊娠に関係する事象を予測するニューラルネットの開発、および胎児フィブロネクチンのテストの性能の改善.
データは、米国特許第5468619号に記載のアッセイの臨床試験に含まれる700人を超える被験患者から収集した。変数選択は、胎児フィブロネクチン(fFN)テストデータなしで実施した。EGA1からEGA4で示される最後のネットワークは、以下の表に示す変数でトレーニングされる。
EGA1からEGA4は、変数選択に使用されるニューラルネットワークを表す。EGA1では、変数選択プロトコルは、入力層に八つの入力、隠れた層に三つの処理要素、および出力層に一つの出力を有するネットワークアーキテクチャで実施される。EGA2は、入力層の入力が九つであることを除けばEGA1と同様である。EGA3は、入力層に七つの入力、隠れた層に三つの処理要素、および出力層に一つの出力を有する。EGA4は、EGA1の入力層の入力が八つであることを除けば、EGA1と同様である。
選択した変数は以下の通りである。
Figure 2008136874
EGA=推定在胎齢。
最終的なコンセンサスネットワークの性能.
Figure 2008136874
EGA=推定在胎齢(34週未満);TP=真の正;TN=真の負;FP=偽の正;FN=偽の負;SN=感度;SP=特異性;PPV=正の予測値;NPV=負の予測値;OR=オッズ比(正しい総数/正しい回答の総数);fFN=fFNについてのELISAアッセイからの結果
この結果は、七つの患者変数およびfFN ELISAアッセイを含み、34週未満での分娩を予測するニューラルネットであるネットワークEGA4が、fFN ELISAアッセイよりはるかに少ない偽の正を有することを示す。さらに、偽の正の数は50%低下した。fFNテストをニューラルネットに組み込むことで、fFN ELISAアッセイの性能が向上した。全てのニューラルネットは、単独のfFNテストより良好に実施された。したがって、本明細書の方法は、妊娠に関係する事象を予測するために使用することができるニューラルネットおよびその他の意思決定支援システムを開発するために使用することができる。
<例14>
pat07変数の特定のサブセットについてコンセンサスニューラルネットワークをトレーニングする.
この例は、pat07変数のpat07性能への寄与を測量し、最小数のpat07変数を使用して子宮内膜症ネットワークを開発するように設計されたタスクの結果を示す。
タスク:
1.以下のpat07変数の組合せを使用して最後のコンセンサスネットワークをトレーニングする。
a.全14個からEndo歴を引く(総数13個の変数)
b.全14個から骨盤痛を引く(総数13個の変数)
c.全14個から月経困難症を引く(総数13個の変数)
d.全14個から骨盤手術を引く(総数13個の変数)
2.pat07変数のその他の組合せを使用して最後のコンセンサスネットワークをトレーニングする。
a.Endo歴、骨盤痛、および月経困難症
b.Endo歴、骨盤痛、月経困難症、および骨盤手術歴
3.上記結果から示されるpat07変数のその他の組合せを使用して最後のコンセンサスネットワークをトレーニングする。
使用した方法.
元の患者データベースを使用して、評価すべき変数の各組合せについてトレーニング例が生成された。これらのトレーニング例は、所与のコンセンサス実行に必要な変数のみを含む。TrainDosTMをバッチモードで使用して、評価すべき変数の各組合せについて八つのニューラルネットワークのセットをトレーニングした。ネットワークは、pat07トレーニング実行と同様のパラメータを使用してトレーニングした。唯一の相違は、各ネットワークについての乱数シードの設定である。各ネットワークは、全510個の記録データベースについてトレーニングされた。これらのトレーニング実行から、出力のコンセンサスがExcelのスプレッドシート中で生成され、各ネットワークの性能を評価することができる。
結果.
これらの実行は最後のトレーニング実行であるので、変数を除去した影響は見られるが、ホールドアウト方法によって達成することができるほど明白な指示は与えない。
結論.
所与の変数のセットの寄与を決定することを目的とする全トレーニング例についての変数選択実行の結果は、変数選択プロセスで使用した評価方法ほど良好な方法ではない。5の区分、および20個のネットコンセンサスでの評価用の「ホールドアウト」方法は、変数を比較するための大幅に良好な統計値を与える。
<例15>
ニューラルネットワーク(pat07)を介した分析に適した複数のパラメータを使用する、子宮内膜症の診断を補助する方法および装置.
図7は、複数のニューラルネットワークのコンセンサスネットワーク(図10)で使用される形態の臨床データについてトレーニングされた一タイプのニューラルネットワーク10の一実施形態を示す概略図である。この構造は、デジタルコンピュータで処理される重み値およびデータとともにデジタル形式で記憶される。この第一タイプニューラルネットワーク10は、三つの層、すなわち入力層12、隠れた層14、および出力層16を含む。入力層12は、平均および標準偏差値を生成して、入力層に入力される臨床ファクタに重み付けする正規化装置(図示せず)をそれぞれ備える14個の入力プリプロセッサ17〜30を有する。平均および標準偏差値は、ネットワークトレーニングデータに固有である。入力層のプリプロセッサ17〜30はそれぞれ、経路51〜64、および65〜78を介して、隠れた層14の第一および第二処理要素48、50に結合され、隠れた層の処理要素48、50がそれぞれ、各入力プリプロセッサ17〜30から値または信号を受けるようになっている。各経路は、トレーニングデータについてのトレーニングの結果に基づく固有の重みを備える。固有の重み80〜93および95〜108は出力と非線形に関係し、各ネットワーク構造およびトレーニングデータの初期値について固有である。重みの最終値は、ネットワークトレ−ニングに割り当てられた初期化値に基づく。トレーニングの結果生じる重みの組合せは、重みで表現されるその記述が所望の解決策を生成する機能的装置、またはより詳細には子宮内膜症の診断の暫定的指標を含む。
本明細書で提供する子宮内膜症テストでは、ニューラルネットワークをトレーニングするために使用される、出力がそれに基づくファクタは、疾病の過去の病歴、出産回数、月経困難症、年齢、骨盤痛、骨盤手術歴、一日あたりの喫煙量、薬物治療歴、妊娠回数、流産回数、異常PAP/形成異常症、妊娠高血圧症、生殖器いぼ、糖尿病である。これら14個のファクタは、40を超える臨床ファクタの元のセットの中で、最も影響力のある(最大感度の)セットであると決定されている。(影響力のあるファクタのその他のセットも導かれている。上記の各例を参照)。
隠れた層は、経路164および179を介して処理要素48および50に提供されるバイアス重み94、119によってバイアスされる。出力層16は、二つの出力処理要素120、122を含む。出力層16は、隠れた層の処理要素48、50の両方から、経路123、124、および125、126を介して入力を受ける。出力層の処理要素120、122は、重み110、112、および114、116によって重み付けされる。出力層16は、経路129および131を介して処理要素120および122に提供されるバイアス重み128、130によってバイアスされる。
子宮内膜症の有無または重さの暫定的指標は、二つの処理要素120、122からの値AおよびBの出力対である。これらの値は常に0から1の間の正である。一方の指標は、子宮内膜症が存在することを示す。もう一方の指標は、子宮内膜症が存在しないことを示す。出力対A、Bは一般に有効な疾病の指標を与えるが、トレーニングしたニューラルネットワークのコンセンサスネットワークはより信頼性の高いインデックスを提供する。
図10を参照すると、最後の指標対C、Dは、複数、詳細には八つの、トレーニングされたニューラルネットワーク10Aから10H(図10)からの暫定的指標対のコンセンサスの分析に基づいている。各暫定的指標対A、Bは、経路133〜140および141〜148を介して二つのコンセンサスプロセッサ150、152の一方に供給される。第一コンセンサスプロセッサ150は全ての正の指標を処理する。第二コンセンサスプロセッサ152は全ての負の指標を処理する。各コンセンサスプロセッサ150、152は平均化装置である、すなわち同様の暫定的指標対A、Bの集合の、平均などの一次結合を単に形成する。その結果の信頼性指標対は所望の結果であり、入力は被験患者についての臨床ファクタのセットである。
図9は、代表的なプロセッサ要素120を示す。同様のプロセッサ48および50は、さらに多くの入力要素を有し、プロセッサ要素122はほぼ同一である。代表的なプロセッサ要素120は、各入力経路(ここでは全体として要素ごとに15、16、または3の番号を付け、プロセッサ要素120の一部分として示す)上に複数の重み乗算器110、114、128を含む。重み乗算器からの重み付けされた値は、加算器156に結合される。加算器156の出力は、S字型伝達関数やアークタンジェント伝達関数などの活性化関数158に結合される。プロセッサ要素は、専用ハードウェアとして、またはソフトウェア機能中で実施することができる。
感度分析を実施して、臨床ファクタの相対的な重要性を決定することができる。感度分析は、デジタルコンピュータ上で以下のように実施される。トレーニングしたニューラルネットワークを、各トレーニング例(真の出力が知られている、または推測される入力データ群)について順方向モード(トレーニングなし)で実行する。次いで各トレーニング例についてのネットワークの出力を記録する。その後、各入力変数を全トレーニング例にわたる入力変数の平均値で置き換えて、ネットワークを再実行する。次いで各出力の値の差を二乗して合計(累積)し、個別の合計を得る。
この感度分析プロセスは、各トレーニング例について実施する。次いで全ての変数が単一の結果出力に等しく寄与する場合に正規化値が1.0となるように、各結果合計を従来のプロセスに従って正規化する。この情報から、正規化値を重要性の順序で順位付けすることができる。
臨床データの分析では、このニューラルネットワークシステムについてのファクタの感度の順序は、疾病の過去の病歴、出産回数、月経困難症、年齢、骨盤痛、骨盤手術歴、一日あたりの喫煙量、薬物治療歴、妊娠回数、流産回数、異常PAP/形成異常症、妊娠高血圧症、生殖器いぼ、糖尿病であると決定された。
特定のニューラルネットワークシステムがトレーニングされ、有効な診断ツールであることが分かった。図7および図10に示すニューラルネットワークシステムは以下のように記述される。
[表18]
――――――――――――――――――――――――――――――
0.バイアス
1.年齢
2.糖尿病
3.妊娠高血圧症
4.一日あたりの喫煙量
5.妊娠回数
6.出産回数
7.流産回数
8.生殖器いぼ
9.異常PAP/形成異常症
10.子宮内膜症の病歴
11.骨盤手術歴
12.薬物治療歴
13.骨盤痛
14.月経困難症
――――――――――――――――――――――――――――――
以上のような、感度の順序ではなく識別の順序になっている重みは、八つの第一タイプのニューラルネットワーク10それぞれについて以下のようになっている。
第一ニューラルネットワークA
Figure 2008136874
第一ニューラルネットワークB
Figure 2008136874
第一ニューラルネットワークC
Figure 2008136874
第一ニューラルネットワークD
Figure 2008136874
第一ニューラルネットワークE
Figure 2008136874
第一ニューラルネットワークF
Figure 2008136874
第一ニューラルネットワークG
Figure 2008136874
第一ニューラルネットワークH
Figure 2008136874
第一タイプのニューラルネットワークについての正規化した観測値
Figure 2008136874
さらに、本明細書で提供するように、ELISA形式テストによるテストなどの生化学テストの結果を使用して、トレーニングした増加されたニューラルネットワークシステムを生成し、感度および特異性の比較的高い信頼性レベルを生み出すことができる。こうした第二タイプのニューラルネットワークを図8に示す。入力層12のノード31と、一対の重み109および111が追加されていることを除けば、番号は図7と同様である。ただし、ネットワーク中の全ての重みは、追加の生化学結果でトレーニングすると変化する。正確な重みセットは、特定の生化学テストトレーニング例に依存する。
本明細書で提供されるトレーニングシステムを使用することができる。代替のトレーニング技術を使用することもできる(例えば、Baxtによる「Use of an Artificial Neural Network for the Diagnosis of Myocardial Infarction」、Annals of Internal Medicine 115,p.843(1991 年 12 月 1 日);「Improving the Accuracy of an Artificia1 Neural Network Using Multiple Differently Trained Networks」、Neural Computation 4,p.772(1992 年)を参照のこと)。
テスト結果を評価する際には、高scoreは疾病が存在することに相関し、低scoreは疾病が存在しないことに相関し、極端なscoreは信頼性を高めるが、中程度のscoreは信頼性を低下させることに留意した。子宮内膜症が存在することは、0.6以上の出力によって示され、それが存在しないことは0.4以下によって示される。高い相対scoreが、疾病の高い相対重さと相関することにも留意した。本明細書の方法は、疾病状態の有無または重さを確立するためにそれ以上の手順、しばしば手術を必要とする患者数を最小限に抑える。
当業者には修正形態が明らかであるので、本発明は添付の特許請求の範囲によってのみ制限されるものとする。
患者病歴ベースの診断テストプロセスを開発するための流れ図である。 生化学診断テストを開発するための流れ図である。 重要な変数を分離するプロセスの流れ図である。 変数の分割を含む一つまたは一組のニューラルネットワークをトレーニングするプロセスの流れ図である。 生化学診断テストを開発するための流れ図である。 生化学診断テストの有効性を決定するための流れ図である。 複数のニューラルネットワークのコンセンサスネットワーク用に使用されるフォームの臨床データに基づいてトレーニングされたニューラルネットワークの概略図である。 八個のニューラルネットワークのコンセンサス用に使用されるフォームのテスト結果データによって増大した臨床データに基づいてトレーニングされたニューラルネットワークの第二の実施形態の概略図である。 ニューラルネットワークの各ノードの処理要素の概略図である。 ニューラルネットワークの第一または第二の実施形態を使用した八個のニューラルネットワークのコンセンサスネットワークの概略図である。 診断子宮内膜症インデックス中のユーザインタフェースの例示的なインタフェーススクリーンの図である。

Claims (15)

  1. 子宮内膜症の診断を支援するためのコンピュータにより実行される方法であって、上記方法は、
    以下の複数の変数のうちの少なくとも3つを含む変数サブセットの入力値をコンピュータが取得するステップを含み、上記複数の変数は、過去の子宮内膜症歴、出産回数、月経困難症、年齢(preproc)、骨盤痛、骨盤手術歴、喫煙量(箱/日)、薬物治療歴、妊娠回数、流産回数、異常PAPスミア/形成異常症、妊娠高血圧症、生殖器いぼ、および糖尿病を含み、上記コンピュータには、上記変数の値を評価することによって子宮内膜症を診断するようにトレーニングされた意思決定支援システムがプログラミングされ、
    上記方法はさらに、
    上記コンピュータが上記取得された入力値に基づいて上記意思決定支援システムを動作させて、子宮内膜症インデックスを生成するステップを含む方法。
  2. 上記変数のうちの選択されたサブセットは、三つの変数の組合せのセット:
    a)出産回数、子宮内膜症歴、骨盤手術歴
    b)糖尿病、妊娠高血圧症、喫煙
    c)妊娠高血圧症、異常papスミア/形成異常症、子宮内膜症歴
    d)年齢、喫煙、子宮内膜症歴
    e)喫煙、子宮内膜症歴、月経困難症
    f)年齢、糖尿病、子宮内膜症歴
    g)妊娠高血圧症、出産回数、子宮内膜症歴
    h)喫煙、出産回数、子宮内膜症歴
    i)妊娠高血圧症、子宮内膜症歴、骨盤手術歴
    j)妊娠回数、子宮内膜症歴、骨盤手術歴
    k)出産回数、異常PAPスミア/形成異常症、子宮内膜症歴
    l)出産回数、異常PAPスミア/形成異常症、月経困難症
    m)子宮内膜症歴、骨盤手術歴、月経困難症
    n)妊娠回数、子宮内膜症歴、月経困難症
    のうちの一つまたは複数を含む請求項1記載の方法。
  3. 上記意思決定支援システムはニューラルネットワークである請求項2記載の方法。
  4. 子宮内膜症の有無または重さの診断を支援するためのコンピュータシステムにより実行される方法であって、
    (a)上記コンピュータシステムが、
    (i)過去の子宮内膜症歴、出産回数、月経困難症、年齢、骨盤痛、骨盤手術歴、一日あたりの喫煙量、薬物治療歴、妊娠回数、流産回数、異常PAP/形成異常症、妊娠高血圧症、生殖器いぼ、および糖尿病、または
    (ii)年齢、経産回数、妊娠回数、流産回数、一日あたりの喫煙量、過去の子宮内膜症歴、月経困難症、骨盤痛、異常PAP、骨盤手術歴、薬物治療歴、妊娠高血圧症、生殖器いぼ、および糖尿病
    から選択されたファクタのうちの少なくとも四つのファクタを含む特定の臨床データファクタの有無を反映する観測値を取得し、観測された臨床データファクタを上記コンピュータシステムのメモリ手段に記憶するステップと、
    (b)上記コンピュータシステムが、特定の複数のファクタのサンプルについてトレーニングされた第一意思決定支援システムに、上記メモリ手段からの観測値を適用するステップと、その後、
    (c)上記コンピュータシステムが、子宮内膜症の診断のための意思決定プロセスを改善するための定量的で客観的な支援手段である出力値を、上記第一意思決定支援システムから抽出するステップと
    を含む方法。
  5. 上記意思決定支援システムはニューラルネットワークを含む請求項4記載の方法。
  6. 少なくとも五つのファクタが選択される請求項4記載の方法。
  7. b1)上記コンピュータシステムが、トレーニングごとに異なる開始重みを用いて特定の複数のファクタのサンプルについてそれぞれトレーニングされた複数の第一意思決定支援システムに、上記メモリ手段からの観測値を適用するステップと、
    c1)上記コンピュータシステムが、複数の第一ニューラルネットワークのそれぞれについての出力値対を、上記第一意思決定支援システムから抽出するステップと
    d)上記コンピュータシステムが、上記複数の出力値対の第一の値の一次結合を形成し、上記複数の出力値対の第二の値の一次結合を形成し、上記定量的で客観的な支援手段である信頼性インデックス対を得るステップとをさらに含む請求項4記載の方法。
  8. 上記第一意思決定支援システムは、入力層、隠れた層、および出力層を含む三層ネットワークを含むニューラルネットワークであり、
    上記入力層は14個の入力ノードを有し、
    上記隠れた層は、第一および第二の隠れた層のノードと、上記隠れた層の各ノードに対する隠れた層のバイアスとを有し、
    上記出力層は、第一および第二出力層ノードと、上記各出力層ノードに対する出力層バイアスとを有する請求項7記載の方法。
  9. 上記第一意思決定支援システムはニューラルネットワークであり、トレーニングされた複数の第一のニューラルネットワークの各々は、入力層、隠れた層および出力層を含んでいる三層ネットワークを含んでいる請求項7記載の方法。
  10. 上記第一意思決定支援システムはニューラルネットワークであり、上記各ニューラルネットワークは、入力層、隠れた層および出力層を含んでいる三層ネットワークを含んでおり、
    入力層は十四個の入力ノードを有し、
    上記隠れた層は、第一および第二の隠れた層のノードと、上記各隠れた層のノードに対する隠れた層のバイアスとを有し、
    上記出力層は、第一および第二の出力層ノードと、上記各出力層ノードに対する出力層バイアスとを有しており、
    0.バイアス
    1.年齢
    2.糖尿病
    3.妊娠高血圧症
    4.喫煙(箱/日)
    5.妊娠回数
    6.出産回数
    7.流産回数
    8.生殖器いぼ
    9.異常PAP/形成異常症
    10.子宮内膜症歴
    11.骨盤手術歴
    12.薬物治療歴
    13.骨盤痛
    14.月経困難症
    という識別の順序で、八つの第一のニューラルネットワークの各々について、
    (A)第一のニューラルネットワークAにおいて、
    上記第一の隠れた層のノードにおける処理要素に対する重みは以下の通りであり:
    0.15 -1.19 -0.76 3.01 1.81 1.87
    3.56 -0.48 1.33 -1.96 -4.45 1.36
    -1.61 -1.97 -0.91
    上記第二の隠れた層のノードにおける処理要素に対する重みは以下の通りであり:
    0.77 2.25 -2.30 -1.48 -0.85 0.27
    -1.70 -0.47 0.84 -6.19 0.50 -0.95
    0.40 2.38 1.86
    上記出力層の重み(0バイアス、第一の隠れた層の重み、第二の隠れた層の重み)のうちで、
    上記第一の出力層のノードにおける処理要素に対する重みは以下の通りであり:
    -0.12 -0.44 0.66
    上記第二の出力層のノードにおける処理要素に対する重みは以下の通りであり:
    0.12 0.44 -0.65
    (B)第一のニューラルネットワークBにおいて、
    上記第一の隠れた層のノードにおける処理要素に対する重みは以下の通りであり:
    -0.16 -3.30 0.85 1.00 0.99 -0.81
    1.57 -1.40 0.46 1.16 -0.80 -0.01 -1.19 -1.10 -2.29
    上記第二の隠れた層のノードにおける処理要素に対する重みは以下の通りであり:
    -1.62 0.79 0.45 2.14 3.82 3.93
    3.96 2.27 -0.54 1.51 -4.76 2.83
    0.74 -0.43 -0.17
    上記出力層の重み(0バイアス、第一の隠れた層の重み、第二の隠れた層の重み)のうちで、
    上記第一の出力層のノードにおける処理要素に対する重みは以下の通りであり:
    0.70 -0.69 -0.65
    上記第二の出力層のノードにおける処理要素に対する重みは以下の通りであり:
    -0.70 0.69 0.65
    (C)第一のニューラルネットワークCにおいて、
    上記第一の隠れた層のノードにおける処理要素に対する重みは以下の通りであり:
    0.94 1.43 0.29 1.17 2.11 -1.16
    1.033 -0.68 -0.88 0.31 -1.74 1.62
    -1.49 -1.05 -0.41
    上記第二の隠れた層のノードにおける処理要素に対する重みは以下の通りであり:
    0.77 3.31 -1.48 -0.83 0.60 -2.09
    -1.39 -0.40 -0.19 -0.89 1.36 0.59
    -1.11 0.26 1.04
    上記出力層の重み(0バイアス、第一の隠れた層の重み、第二の隠れた層の重み)のうちで、
    上記第一の出力層のノードにおける処理要素に対する重みは以下の通りであり:
    0.10 -0.90 0.87
    上記第二の出力層のノードにおける処理要素に対する重みは以下の通りであり:
    -0.10 0.90 -0.87
    (D)第一のニューラルネットワークDにおいて、
    上記第一の隠れた層のノードにおける処理要素に対する重みは以下の通りであり:
    1.08 1.27 -0.89 -1.00 -1.74 -0.40
    -1.38 1.26 1.06 0.66 0.71 -0.57
    0.67 1.89 -0.90
    上記第二の隠れた層のノードにおける処理要素に対する重みは以下の通りであり:
    -0.03 -0.58 -0.46 -0.94 0.73 0.10
    0.55 -0.79 -0.098 -1.36 1.01 0.00
    -0.38 -0.49 1.57
    上記出力層の重み(0バイアス、第一の隠れた層の重み、第二の隠れた層の重み)のうちで、
    上記第一の出力層のノードにおける処理要素に対する重みは以下の通りであり:
    -1.43 1.39 1.28
    第二の出力層のノードにおける処理要素に対する重みは以下の通りであり:
    1.30 -1.28 -1.17
    (E)第一のニューラルネットワークEにおいて、
    上記第一の隠れた層のノードにおける処理要素に対する重みは以下の通りであり:
    0.14 -2.12 8.36 1.02 1.79 0.31
    2.87 0.84 -1.24 -1.75 -2.98 1.72
    -1.22 -2.47 -1.14
    上記第二の隠れた層のノードにおける処理要素に対する重みは以下の通りであり:
    -3.93 -1.07 1.16 1.39 1.01 -1.08
    2.33 0.76 -0.51 -0.31 -1.92 0.59
    0.06 -0.76 -1.44
    上記出力層の重み(0バイアス、第一の隠れた層の重み、第二の隠れた層の重み)のうちで、
    上記第一の出力層のノードにおける処理要素に対する重みは以下の通りであり:
    0.46 -0.52 -0.80
    上記第二の出力層のノードにおける処理要素に対する重みは以下の通りであり:
    -0.46 0.51 0.82
    (F)第一のニューラルネットワークFにおいて、
    上記第一の隠れた層のノードにおける処理要素に対する重みは以下の通りであり:
    -1.19 -2.93 1.19 6.85 1.08 0.66
    1.65 -0.28 -1.63 -1.15 -0.79 0.43
    -0.13 -3.10 -2.27
    上記第二の隠れた層のノードにおける処理要素に対する重みは以下の通りであり:
    0.82 0.19 0.72 0.83 0.59 0.07
    1.06 0.51 1.04 1.47 -1.97 0.97
    -0.91 -0.15 0.09
    上記出力層の重み(0バイアス、第一の隠れた層の重み、第二の隠れた層の重み)のうちで、
    上記第一の出力層のノードにおける処理要素に対する重みは以下の通りであり:
    0.68 -0.67 -0.58
    上記第二の出力層のノードにおける処理要素に対する重みは以下の通りであり:
    -0.68 0.67 0.58
    (G)第一のニューラルネットワークGにおいて、
    上記第一の隠れた層のノードにおける処理要素に対する重みは以下の通りであり:
    -1.18 -2.55 0.48 -1.40 1.11 -0.28
    2.33 0.33 -1.92 0.99 -1.41 0.68
    -0.28 -1.65 -0.79
    上記第二の隠れた層のノードにおける処理要素に対する重みは以下の通りであり:
    1.07 1.11 0.52 1.41 0.55 -0.48
    -0.23 0.44 -1.23 0.77 -2.96 1.39
    -0.28 -0.64 -2.38
    上記出力層の重み(0バイアス、第一の隠れた層の重み、第二の隠れた層の重み)のうちで、
    上記第一の出力層のノードにおける処理要素に対する重みは以下の通りであり:
    0.69 -0.70 -0.50
    上記第二の出力層のノードにおける処理要素に対する重みは以下の通りであり:
    -0.69 0.70 0.50
    (H)第一のニューラルネットワークHにおいて、
    上記第一の隠れた層のノードにおける処理要素に対する重みは以下の通りであり:
    15.74 -0.76 -0.91 -1.13 -0.75 -0.66
    -0.83 1.03 0.75 -0.48 -0.47 2.01
    -0.02 0.25 1.11
    上記第二の隠れた層のノードにおける処理要素に対する重みは以下の通りであり:
    -2.48 -2.49 0.99 1.97 2.41 1.51
    1.01 -0.26 -0.76 2.00 -5.03 1.77
    -0.77 -2.29 -2.01
    上記出力層の重み(0バイアス、第一の隠れた層の重み、第二の隠れた層の重み)のうちで、
    上記第一の出力層のノードにおける処理要素に対する重みは以下の通りであり:
    0.02 0.41 -0.84
    上記第二の出力層のノードにおける処理要素に対する重みは以下の通りである:
    -0.75 0.34 0.85
    請求項7記載の方法。
  11. 上記第一のニューラルネットワークの各々に対する正規化された観測値は、上記識別の順序で、以下の平均および標準偏差:
    -0.00 1.00
    0.01 0.08
    0.01 0.09
    0.16 0.37
    1.09 1.39
    0.55 0.94
    0.54 0.93
    0.01 0.10
    0.03 0.17
    0.23 0.42
    0.65 0.48
    0.39 0.49
    0.19 0.39
    0.72 0.45
    を有する請求項10記載の方法。
  12. 患者における子宮内膜症の有無または重さの診断を支援するためのコンピュータシステムにより実行される方法において、
    (a)上記コンピュータシステムが、過去の病歴、出産回数、月経困難症、年齢、骨盤痛、骨盤手術歴、一日の喫煙量、薬物治療歴、妊娠回数、流産回数、異常PAP/形成異常症、妊娠高血圧症、生殖器いぼ、および糖尿病を含む特定の複数のファクタの有無を反映する観測値を取得し、観測ファクタを上記コンピュータシステムのメモリ手段に記憶するステップと、
    (b)上記コンピュータシステムが、子宮内膜症に関する生化学テストの結果を上記コンピュータシステムのメモリ手段に記憶するステップと、
    (c)上記コンピュータシステムが、上記特定の複数のファクタのサンプルおよびテスト結果についてトレーニングされた第二のニューラルネットワークに、上記メモリ手段からの観測値および関連する生化学テスト結果を適用するステップと、
    (d)上記コンピュータシステムが、上記トレーニングされた第二のニューラルネットワークから、子宮内膜症の診断の暫定的な指標である出力値対を抽出するステップと
    を備えている方法。
  13. (c1)上記コンピュータシステムが、上記メモリ手段からの観測値および関連する生化学テスト結果を複数の第二のニューラルネットワークに適用するステップであって、第一のニューラルネットワークの各々は、各トレーニングがランダムに初期化されるような開始重みを用いて、上記特定の複数のファクタのサンプルについてトレーニングされるステップと、
    (d1)上記コンピュータシステムが、上記トレーニングされた第一のニューラルネットワークの各々から、上記第一のニューラルネットワークの各々に対する出力値対を抽出するステップと、
    (e)上記コンピュータシステムが、上記複数の出力値対の第一の値の一次結合を形成し、上記複数の出力値対の第二の値の一次結合を形成し、子宮内膜症の診断に関する最終的な指標である信頼性インデックス対を得るステップと
    をさらに含んでいる請求項12記載の方法。
  14. 上記トレーニングされた第一のニューラルネットワークは入力層、隠れた層および出力層を含んでいる三層ネットワークを含んでおり、
    上記入力層は十四個の入力ノードを有し、
    上記隠れた層は、第一および第二の隠れた層のノードと、上記各隠れた層のノードに対する隠れた層のバイアスとを有し、
    上記出力層は、第一および第二の出力層ノードと、上記各出力層ノードに対する出力層バイアスとを有している請求項13記載の方法。
  15. トレーニングされた複数の第二のニューラルネットワークの各々は入力層、隠れた層および出力層を含んでいる三層ネットワークを含んでおり、
    上記入力層は十四個の入力ノードを有し、
    上記隠れた層は、第一および第二の隠れた層のノードと、上記各隠れた層のノードに対する隠れた層のバイアスとを有し、
    上記出力層は、第一および第二の出力層ノードと、上記各出力層ノードに対する出力層バイアスとを有しており、
    重みは
    0.バイアス
    1.年齢
    2.糖尿病
    3.妊娠高血圧症
    4.喫煙(箱/日)
    5.妊娠回数
    6.出産回数
    7.流産回数
    8.生殖器いぼ
    9.異常PAP/形成異常症
    10.子宮内膜症歴
    11.骨盤手術歴
    12.薬物治療歴
    13.骨盤痛
    14.月経困難症
    15.生化学テスト結果
    という識別の順序である
    請求項13記載の方法。
JP2008000723A 1996-02-09 2008-01-07 ニューラルネットワーク関連アプリケーションを使用して医療診断テストおよび生化学診断テストを選択する方法 Pending JP2008136874A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US59927596A 1996-02-09 1996-02-09
US1144996P 1996-02-09 1996-02-09

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2005134396A Division JP4139822B2 (ja) 1996-02-09 2005-05-02 ニューラルネットワーク関連アプリケーションを使用して医療診断テストおよび生化学診断テストを選択する方法

Publications (1)

Publication Number Publication Date
JP2008136874A true JP2008136874A (ja) 2008-06-19

Family

ID=26682401

Family Applications (6)

Application Number Title Priority Date Filing Date
JP52872997A Expired - Fee Related JP3480940B2 (ja) 1996-02-09 1997-02-07 ニューラルネットワーク関連アプリケーションを使用して医療診断テストおよび生化学診断テストを選択する方法
JP2003141050A Expired - Lifetime JP3782792B2 (ja) 1996-02-09 2003-05-19 ニューラルネットワーク関連アプリケーションを使用して医療診断テストおよび生化学診断テストを選択する方法
JP2005134396A Expired - Fee Related JP4139822B2 (ja) 1996-02-09 2005-05-02 ニューラルネットワーク関連アプリケーションを使用して医療診断テストおよび生化学診断テストを選択する方法
JP2005357564A Expired - Fee Related JP4168187B2 (ja) 1996-02-09 2005-12-12 ニューラルネットワーク関連アプリケーションを使用して医療診断テストおよび生化学診断テストを選択する方法
JP2007235531A Pending JP2008065836A (ja) 1996-02-09 2007-09-11 ニューラルネットワーク関連アプリケーションを使用して医療診断テストおよび生化学診断テストを選択する方法
JP2008000723A Pending JP2008136874A (ja) 1996-02-09 2008-01-07 ニューラルネットワーク関連アプリケーションを使用して医療診断テストおよび生化学診断テストを選択する方法

Family Applications Before (5)

Application Number Title Priority Date Filing Date
JP52872997A Expired - Fee Related JP3480940B2 (ja) 1996-02-09 1997-02-07 ニューラルネットワーク関連アプリケーションを使用して医療診断テストおよび生化学診断テストを選択する方法
JP2003141050A Expired - Lifetime JP3782792B2 (ja) 1996-02-09 2003-05-19 ニューラルネットワーク関連アプリケーションを使用して医療診断テストおよび生化学診断テストを選択する方法
JP2005134396A Expired - Fee Related JP4139822B2 (ja) 1996-02-09 2005-05-02 ニューラルネットワーク関連アプリケーションを使用して医療診断テストおよび生化学診断テストを選択する方法
JP2005357564A Expired - Fee Related JP4168187B2 (ja) 1996-02-09 2005-12-12 ニューラルネットワーク関連アプリケーションを使用して医療診断テストおよび生化学診断テストを選択する方法
JP2007235531A Pending JP2008065836A (ja) 1996-02-09 2007-09-11 ニューラルネットワーク関連アプリケーションを使用して医療診断テストおよび生化学診断テストを選択する方法

Country Status (5)

Country Link
EP (1) EP0879449A2 (ja)
JP (6) JP3480940B2 (ja)
AU (1) AU2316297A (ja)
CA (1) CA2244913A1 (ja)
WO (1) WO1997029447A2 (ja)

Families Citing this family (40)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6678669B2 (en) 1996-02-09 2004-01-13 Adeza Biomedical Corporation Method for selecting medical and biochemical diagnostic tests using neural network-related applications
US6622036B1 (en) * 2000-02-09 2003-09-16 Cns Response Method for classifying and treating physiologic brain imbalances using quantitative EEG
US6601034B1 (en) 1998-03-05 2003-07-29 American Management Systems, Inc. Decision management system which is cross-function, cross-industry and cross-platform
US6546545B1 (en) 1998-03-05 2003-04-08 American Management Systems, Inc. Versioning in a rules based decision management system
US6609120B1 (en) 1998-03-05 2003-08-19 American Management Systems, Inc. Decision management system which automatically searches for strategy components in a strategy
US8364578B1 (en) 1998-03-05 2013-01-29 Cgi Technologies And Solutions Inc. Simultaneous customer/account strategy execution in a decision management system
JP2002510817A (ja) * 1998-04-03 2002-04-09 トライアングル・ファーマシューティカルズ,インコーポレイテッド 治療処方計画の選択をガイドするためのシステム、方法及びコンピュータ・プログラム製品
EP1101182A1 (en) * 1998-07-30 2001-05-23 Arcturus Engineering, Inc. Medical diagnostic and treatment information system and method
US6708155B1 (en) 1999-07-07 2004-03-16 American Management Systems, Inc. Decision management system with automated strategy optimization
EP1352356B1 (en) * 2000-06-08 2009-10-14 Virco Bvba Method for predicting therapeutic agent resistance using neural networks
WO2001093762A2 (en) * 2000-06-09 2001-12-13 Medimage Aps A fail-sure computer aided method for anticoagulant treatment
AU2001285476A1 (en) * 2000-09-06 2002-03-22 Cellomics, Inc. Method and system for obtaining knowledge based recommendations
US6920439B1 (en) 2000-10-10 2005-07-19 Hrl Laboratories, Llc Method and apparatus for incorporating decision making into classifiers
US6988088B1 (en) * 2000-10-17 2006-01-17 Recare, Inc. Systems and methods for adaptive medical decision support
US7315784B2 (en) 2001-02-15 2008-01-01 Siemens Aktiengesellschaft Network for evaluating data obtained in a biochip measurement device
US20020155587A1 (en) 2001-04-20 2002-10-24 Sequenom, Inc. System and method for testing a biological sample
US7840421B2 (en) 2002-07-31 2010-11-23 Otto Carl Gerntholtz Infectious disease surveillance system
US20040103001A1 (en) * 2002-11-26 2004-05-27 Mazar Scott Thomas System and method for automatic diagnosis of patient health
US7529394B2 (en) 2003-06-27 2009-05-05 Siemens Medical Solutions Usa, Inc. CAD (computer-aided decision) support for medical imaging using machine learning to adapt CAD process with knowledge collected during routine use of CAD system
RU2373842C2 (ru) * 2003-12-02 2009-11-27 Шрага РОТТЕМ Искусственный интеллект и устройство для диагностики, скрининга, профилактики и лечения состояний системы матери и плода
US20090083768A1 (en) * 2007-09-20 2009-03-26 Hatalkar Atul N Context platform framework for aggregation, analysis and use of contextual information
MX2013001557A (es) * 2010-08-13 2013-06-28 Respiratory Motion Inc Dispositivos y metodos para el control de la variacion respiratoria mediante la medicion de volumenes, movimiento y variabilidad respiratoria.
NZ730197A (en) * 2014-09-11 2022-07-01 Berg Llc Bayesian causal relationship network models for healthcare diagnosis and treatment based on patient data
JP6481335B2 (ja) * 2014-11-06 2019-03-13 日本電気株式会社 情報処理システム、情報処理装置、情報処理方法および情報処理プログラム
CN104866727A (zh) * 2015-06-02 2015-08-26 陈宽 基于深度学习对医疗数据进行分析的方法及其智能分析仪
JP6280997B1 (ja) * 2016-10-31 2018-02-14 株式会社Preferred Networks 疾患の罹患判定装置、疾患の罹患判定方法、疾患の特徴抽出装置及び疾患の特徴抽出方法
JP2019101902A (ja) * 2017-12-06 2019-06-24 株式会社グルーヴノーツ データ処理装置、データ処理方法及びデータ処理プログラム
WO2019183122A1 (en) * 2018-03-19 2019-09-26 GenomeSmart, Inc. Artificial intelligence and machine learning platform for identifying genetic and genomic tests
KR102043376B1 (ko) 2018-08-16 2019-11-11 한국과학기술연구원 심층 신경망 알고리즘을 이용하는 실시간 스트레스 분석 방법
JP7485482B2 (ja) * 2018-08-29 2024-05-16 モビディウス リミテッド コンピュータビジョンシステム
KR102166441B1 (ko) * 2018-10-02 2020-10-16 재단법인대구경북과학기술원 병변 검출 장치 및 제어 방법
JP7220727B2 (ja) 2019-01-31 2023-02-10 富士フイルム株式会社 学習済みモデル、学習方法、及びプログラム、並びに医用情報取得装置、方法、及びプログラム
WO2020189235A1 (ja) * 2019-03-20 2020-09-24 国立大学法人大阪大学 学習済みモデル、制御装置、摩擦攪拌接合システム、ニューラルネットワークシステム、及び学習済みモデルの生成方法
CN110164549A (zh) * 2019-05-20 2019-08-23 南通奕霖智慧医学科技有限公司 一种基于神经网络分类器的儿科分诊方法及系统
KR102187344B1 (ko) * 2019-09-03 2020-12-04 메디사피엔스 주식회사 결정 트리를 이용한 반려동물 진단 방법 및 장치
WO2021061401A1 (en) * 2019-09-27 2021-04-01 D5Ai Llc Selective training of deep learning modules
WO2022190891A1 (ja) * 2021-03-11 2022-09-15 ソニーグループ株式会社 情報処理システム及び情報処理方法
KR20230027810A (ko) * 2021-08-20 2023-02-28 가톨릭대학교 산학협력단 예후 예측 장치, 방법 및 기록매체
US20230169168A1 (en) * 2021-11-29 2023-06-01 Microsoft Technology Licensing, Llc. Detect anomalous container deployment at a container orchestration service
CN115116594B (zh) * 2022-06-06 2024-05-31 中国科学院自动化研究所 医疗装置有效性的检测方法及装置

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3231810B2 (ja) * 1990-08-28 2001-11-26 アーチ・デベロップメント・コーポレーション ニューラル・ネットワークを用いた鑑別診断支援方法
JP3081043B2 (ja) * 1991-12-27 2000-08-28 シスメックス株式会社 脳梗塞の診断方法
JPH05277119A (ja) * 1992-03-31 1993-10-26 Nuclear Fuel Ind Ltd 癌診断装置
AU6669594A (en) * 1993-04-30 1994-11-21 Pavilion Technologies, Inc. Method and apparatus for determining the sensitivity of inputs to a neural network on output parameters
JP3226400B2 (ja) * 1993-12-06 2001-11-05 富士通株式会社 診断装置

Also Published As

Publication number Publication date
WO1997029447A2 (en) 1997-08-14
EP0879449A2 (en) 1998-11-25
JP3782792B2 (ja) 2006-06-07
JP2000501869A (ja) 2000-02-15
JP4168187B2 (ja) 2008-10-22
CA2244913A1 (en) 1997-08-14
JP3480940B2 (ja) 2003-12-22
WO1997029447A3 (en) 1998-05-07
AU2316297A (en) 1997-08-28
JP4139822B2 (ja) 2008-08-27
JP2005319301A (ja) 2005-11-17
JP2006172461A (ja) 2006-06-29
JP2004041713A (ja) 2004-02-12
JP2008065836A (ja) 2008-03-21

Similar Documents

Publication Publication Date Title
JP4139822B2 (ja) ニューラルネットワーク関連アプリケーションを使用して医療診断テストおよび生化学診断テストを選択する方法
US6556977B1 (en) Methods for selecting, developing and improving diagnostic tests for pregnancy-related conditions
Ramezani et al. A novel hybrid intelligent system with missing value imputation for diabetes diagnosis
Islam et al. Machine learning to predict pregnancy outcomes: a systematic review, synthesizing framework and future research agenda
EP0842475B1 (en) Computer assisted methods and apparatus for diagnosing diseases
US6248063B1 (en) Computer assisted methods for diagnosing diseases
Aruna et al. An investigation of neuro-fuzzy systems in psychosomatic disorders
Thomas et al. Prediction of polycystic ovarian syndrome with clinical dataset using a novel hybrid data mining classification technique
Singh Prediction of Thyroid Disease using Deep Learning Techniques
Ahmetašević et al. Using artificial neural network in diagnosis of polycystic ovary syndrome
Ranjini et al. Machine learning techniques for assisted reproductive technology: A review
Kumaravel et al. Comparing cost sensitive classifiers by the false-positive to false-negative ratio in diagnostic studies
Alotaibi et al. Early prediction of gestational diabetes using machine learning techniques
Yulhendri et al. Correlated Naïve Bayes Algorithm to Determine Healing Rate of Hepatitis Patients
Van Calster et al. An application of methods for the probabilistic three-class classification of pregnancies of unknown location
Graselin et al. A Systematic Review based on the Detection of PCOS using Machine Learning Techniques
Kiranmai et al. A comprehensive and systematic literature review of computational intelligence algorithms to diagnose and predict female infertility
Vairavel et al. Data Analytics on Unpredictable Pregnancy Data Records Using Ensemble Neuro-Fuzzy Techniques.
Gauthier et al. Challenges to building a platform for a breast cancer risk score
Eberhard et al. Deep Survival Analysis for Interpretable Time-Varying Prediction of Preeclampsia Risk
Muller et al. Logistic regression model as classifier for early detection of gestational diabetes mellitus
KAVYA ASHA (1SV20CS004)
Wesson et al. A machine learning model to predict preeclampsia in pregnant women
Flynn et al. Assessing diagnostic technologies
Singh et al. A Comparative Study of Machine Learning and Deep Learning Methods for Detecting Thyroid Disease: An Experimental Investigation

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080617

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20080711

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080904

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20080904

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20080917

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20080922

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20081017

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20081022

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20090609