JP2000194703A - デ―タベ―ス内の欠落した観察情報の推定方法および推定装置 - Google Patents
デ―タベ―ス内の欠落した観察情報の推定方法および推定装置Info
- Publication number
- JP2000194703A JP2000194703A JP11361839A JP36183999A JP2000194703A JP 2000194703 A JP2000194703 A JP 2000194703A JP 11361839 A JP11361839 A JP 11361839A JP 36183999 A JP36183999 A JP 36183999A JP 2000194703 A JP2000194703 A JP 2000194703A
- Authority
- JP
- Japan
- Prior art keywords
- observation information
- model
- missing
- data set
- parametric
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/18—Complex mathematical operations for evaluating statistical data, e.g. average values, frequency distributions, probability functions, regression analysis
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Optimization (AREA)
- Pure & Applied Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Mathematical Physics (AREA)
- Computational Mathematics (AREA)
- Mathematical Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Operations Research (AREA)
- Probability & Statistics with Applications (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Algebra (AREA)
- Evolutionary Biology (AREA)
- Databases & Information Systems (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Bioinformatics & Computational Biology (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Complex Calculations (AREA)
Abstract
(57)【要約】
【目的】 データベース内の欠落した観察情報を推定す
る方法および装置を提供する。 【構成】 データ集合内の欠落した観察情報を推定する
方法および装置である。この方法は、パラメーターの内
的分布をモデル化するための複数のモデルパラメーター
が与えられると、そのデータ集合の実現可能性を確定す
る確率論的モデルを生成するステップを含む。モデルの
生成に次いで当該観察情報の分布に対してベイズ非パラ
メトリック既成分布が選択され、そのデータ集合および
非パラメトリック既成分布とから一つのベイズ非パラメ
トリックモデルが選択される。次に欠落観察情報に対す
る完全条件分布が導出され、その完全条件分布から当該
欠落観察情報が標本抽出される。欠落観察情報は最確値
推定法を使っても導出することができる。
る方法および装置を提供する。 【構成】 データ集合内の欠落した観察情報を推定する
方法および装置である。この方法は、パラメーターの内
的分布をモデル化するための複数のモデルパラメーター
が与えられると、そのデータ集合の実現可能性を確定す
る確率論的モデルを生成するステップを含む。モデルの
生成に次いで当該観察情報の分布に対してベイズ非パラ
メトリック既成分布が選択され、そのデータ集合および
非パラメトリック既成分布とから一つのベイズ非パラメ
トリックモデルが選択される。次に欠落観察情報に対す
る完全条件分布が導出され、その完全条件分布から当該
欠落観察情報が標本抽出される。欠落観察情報は最確値
推定法を使っても導出することができる。
Description
【０００１】
【産業上の利用分野】本発明はデータベース内の欠落し
た観察情報（missing observation、以下、欠落観察情
報という）を推定する方法および装置に関する。本発明
は特に、データベースマーケティング運用の一部として
行う解析の前または解析中に行うデータベース予備処理
に適用できる。ただしこれに限定されるものではない。
た観察情報（missing observation、以下、欠落観察情
報という）を推定する方法および装置に関する。本発明
は特に、データベースマーケティング運用の一部として
行う解析の前または解析中に行うデータベース予備処理
に適用できる。ただしこれに限定されるものではない。
【０００２】
【従来の技術】データベースマーケティングは、ある製
品もしくはサービスを購入する可能性のある潜在的顧客
と接触をしようと望む会社がデータベースを使用して、
会社提供のオファー（申し出）を受け入れる最も確から
しい顧客がいずれであるかを決定するために使用する技
術方法である。このようにして潜在的顧客にランダムに
接触するよりもマーケティングキャンペーン予算が一層
効果的に利用できる。保持するデータの解析を行うため
に利用できる技術は多数ある。これらの方法は効果にお
いて異なるが総て、データの欠落という共通の問題を抱
えている。
品もしくはサービスを購入する可能性のある潜在的顧客
と接触をしようと望む会社がデータベースを使用して、
会社提供のオファー（申し出）を受け入れる最も確から
しい顧客がいずれであるかを決定するために使用する技
術方法である。このようにして潜在的顧客にランダムに
接触するよりもマーケティングキャンペーン予算が一層
効果的に利用できる。保持するデータの解析を行うため
に利用できる技術は多数ある。これらの方法は効果にお
いて異なるが総て、データの欠落という共通の問題を抱
えている。
【０００３】容易に想像がつくことであるが、データの
欠落は潜在的顧客に関する行った予測の精度を甚だしく
劣化させる。たとえば銀行は既存の顧客に関して、年
齢、給与などの情報、および顧客が個人債券プラン（pe
rsonal equity plan、PEP）を購入しているか否かとい
うようなデータ保持し得る。銀行は（電話、手紙、ある
いは電子メールなどによって）当該銀行からまだ個人債
券プランを購入していないこれらの顧客と接触したいと
望むものである。しかし、マーケティングの運用には定
った予算があり、個人債券プランを購入していないこれ
ら顧客総てと接触することは可能ではない。（ここに述
べる簡単な例の場合）、個人債券プランを購入してない
これら顧客が当該銀行の呼掛けに呼応してプランを購入
することの確からしさを評価するためのデータとして、
銀行は年齢と給与というただ２種類のデータしかもって
いない。
欠落は潜在的顧客に関する行った予測の精度を甚だしく
劣化させる。たとえば銀行は既存の顧客に関して、年
齢、給与などの情報、および顧客が個人債券プラン（pe
rsonal equity plan、PEP）を購入しているか否かとい
うようなデータ保持し得る。銀行は（電話、手紙、ある
いは電子メールなどによって）当該銀行からまだ個人債
券プランを購入していないこれらの顧客と接触したいと
望むものである。しかし、マーケティングの運用には定
った予算があり、個人債券プランを購入していないこれ
ら顧客総てと接触することは可能ではない。（ここに述
べる簡単な例の場合）、個人債券プランを購入してない
これら顧客が当該銀行の呼掛けに呼応してプランを購入
することの確からしさを評価するためのデータとして、
銀行は年齢と給与というただ２種類のデータしかもって
いない。
【０００４】これらデータ要素（すなわち観察情報）の
一方が欠落していると、個人債券プラン販売の確からし
さを導くのに利用できる情報はほとんどない。現在は、
欠落している観察情報は残りの顧客に対する対応データ
フィールドの総ての平均値で置き換えられている。たと
えば、給与が未知であると、欠落値は（既存の顧客等
の）標本群の平均給与で埋められる。
一方が欠落していると、個人債券プラン販売の確からし
さを導くのに利用できる情報はほとんどない。現在は、
欠落している観察情報は残りの顧客に対する対応データ
フィールドの総ての平均値で置き換えられている。たと
えば、給与が未知であると、欠落値は（既存の顧客等
の）標本群の平均給与で埋められる。
【０００５】
【発明が解決しようとする課題】これは明らかに本問題
を取り扱う十分な技術とはいえない。本発明は既知の技
術方法よりももっと正確に、そのような欠落観察情報を
推定するための技術を与えることを目的とする。
を取り扱う十分な技術とはいえない。本発明は既知の技
術方法よりももっと正確に、そのような欠落観察情報を
推定するための技術を与えることを目的とする。
【０００６】
【課題を解決するための手段】本発明の第一の局面によ
れば、複数主体者の各々に対して少なくとも２つの観察
情報フィールドを含むデータ集合における欠落した観察
情報を推定する方法であって、複数のモデルパラメータ
が与えられたとき、該データ集合が実現される可能性
（likelihood、以下実現可能性という）を確定する一つ
の確率論的モデル（probabilistic model）を生成する
ステップと、該複数のモデルパラメータに一つの既成分
布（prior distribution）を適用するステップと、該観
察情報の分布に対して一つのベイズ非パラメトリック既
成分布（Bayesian nonparametric prior）を選択するス
テップと、該データ集合および該非パラメトリック既成
分布から一つのベイズ非パラメトリックモデルを生成す
るステップと、該欠落観察情報に対する完全条件分布
（full conditional distribution）を導出するステッ
プと、該完全条件分布から該欠落観察情報をＭＣＭＣ標
本抽出（MCMC sampling）するステップとを含むことを
特徴とする方法が与えられる。
れば、複数主体者の各々に対して少なくとも２つの観察
情報フィールドを含むデータ集合における欠落した観察
情報を推定する方法であって、複数のモデルパラメータ
が与えられたとき、該データ集合が実現される可能性
（likelihood、以下実現可能性という）を確定する一つ
の確率論的モデル（probabilistic model）を生成する
ステップと、該複数のモデルパラメータに一つの既成分
布（prior distribution）を適用するステップと、該観
察情報の分布に対して一つのベイズ非パラメトリック既
成分布（Bayesian nonparametric prior）を選択するス
テップと、該データ集合および該非パラメトリック既成
分布から一つのベイズ非パラメトリックモデルを生成す
るステップと、該欠落観察情報に対する完全条件分布
（full conditional distribution）を導出するステッ
プと、該完全条件分布から該欠落観察情報をＭＣＭＣ標
本抽出（MCMC sampling）するステップとを含むことを
特徴とする方法が与えられる。
【０００７】この確率論的モデルは、主体者（すなわち
顧客）の内的変化（within entityvariation）をモデル
化するのに使用され、顧客間変化をモデル化するのに非
パラメトリックモデルが使用される。こうして一つの非
パラメトリックモデルがデータベース全体から導出され
る。データベースはしばしば広大であって、ときには２
００００名以上の個人に関するデータを含んでおり、こ
のため、高い精度のモデルの導出が可能となる。次にこ
のモデルを使用して欠落観察情報が推定される。これら
推定値の精度は（大多数の場合）先行技術よりもはるか
に優れている。この非パラメトリックモデルは、いかな
るパラメトリックモデルよりも正確に当該分布をモデル
化することができる。
顧客）の内的変化（within entityvariation）をモデル
化するのに使用され、顧客間変化をモデル化するのに非
パラメトリックモデルが使用される。こうして一つの非
パラメトリックモデルがデータベース全体から導出され
る。データベースはしばしば広大であって、ときには２
００００名以上の個人に関するデータを含んでおり、こ
のため、高い精度のモデルの導出が可能となる。次にこ
のモデルを使用して欠落観察情報が推定される。これら
推定値の精度は（大多数の場合）先行技術よりもはるか
に優れている。この非パラメトリックモデルは、いかな
るパラメトリックモデルよりも正確に当該分布をモデル
化することができる。
【０００８】このモデルは、データベースに含まれる非
常に多数のフィールドに対して適用できるように拡張す
ることができる。上記推定値は、データフィールドに欠
落がある主体者の他のフィールドを使って導出すること
ができる。
常に多数のフィールドに対して適用できるように拡張す
ることができる。上記推定値は、データフィールドに欠
落がある主体者の他のフィールドを使って導出すること
ができる。
【０００９】推定値の精度は明らかに当該モデルの精度
に依存し、翻ってそのモデルは既成の分布の精度に依存
する。給与のような連続的分布をもつものの場合、ポリ
ヤツリー（Polya tree）を使用することが好ましい。こ
れについてはマルチエールとウォルカーの共著「生存解
析に対する、ポリヤツリーを使った非パラメトリック
法」（スカンジナビアン ジャーナル オブ スタティス
ティックス、１９９７年２２巻３３１-３４０ページ）
を参照されたい。離散的な分布の場合はディリクレの処
理法（Dirichlet process）が好ましい。
に依存し、翻ってそのモデルは既成の分布の精度に依存
する。給与のような連続的分布をもつものの場合、ポリ
ヤツリー（Polya tree）を使用することが好ましい。こ
れについてはマルチエールとウォルカーの共著「生存解
析に対する、ポリヤツリーを使った非パラメトリック
法」（スカンジナビアン ジャーナル オブ スタティス
ティックス、１９９７年２２巻３３１-３４０ページ）
を参照されたい。離散的な分布の場合はディリクレの処
理法（Dirichlet process）が好ましい。
【００１０】読者がよく承知されているように、ベイズ
解析で発生する多次元積分は実質的に常に実行不可能で
あり、あるいは解析的方法を使っては解くことが不可能
である。しかしながら今では、数値計算法を使って経験
的分布（posterior distribution）から標本を導出する
のに必要な計算を実行するための十分な計算能力をもつ
設備が広く利用できる。本発明で好適な方策はギブス標
本抽出器（Gibbs Sampler）を使用することである。
解析で発生する多次元積分は実質的に常に実行不可能で
あり、あるいは解析的方法を使っては解くことが不可能
である。しかしながら今では、数値計算法を使って経験
的分布（posterior distribution）から標本を導出する
のに必要な計算を実行するための十分な計算能力をもつ
設備が広く利用できる。本発明で好適な方策はギブス標
本抽出器（Gibbs Sampler）を使用することである。
【００１１】用語法上、非パラメトリック ベイズ モデ
ルはパラメータをもつが、非パラメトリック ベイズ モ
デルという用語はこれをある定った数のパラメータをも
つパラメトリックモデルから区別するために使われるこ
とを指摘しておく。非パラメトリックモデルにおいては
パラメータの数はとりわけ、観察したデータによって決
定される。
ルはパラメータをもつが、非パラメトリック ベイズ モ
デルという用語はこれをある定った数のパラメータをも
つパラメトリックモデルから区別するために使われるこ
とを指摘しておく。非パラメトリックモデルにおいては
パラメータの数はとりわけ、観察したデータによって決
定される。
【００１２】本発明の第二の局面によれば、複数主体者
の各々に対して少なくとも２つの観察情報フィールドを
含むデータ集合における欠落観察情報を推定する装置で
あって、複数のモデルパラメータが与えられたとき、該
データ集合の実現可能性を確定する確率論的モデルと、
該複数のモデルパラメータに一つの既成分布を適用する
手段と、該観察情報の分布に対して一つのベイズ非パラ
メトリック既成分布を選択する手段と、該データ集合お
よび該非パラメトリック既成分布とから一つのベイズ非
パラメトリックモデルを生成する手段と、該欠落観察情
報に対する完全条件分布を導出する手段と、該完全条件
分布から該欠落観察情報をＭＣＭＣ標本抽出する手段と
を含むことを特徴とする装置が与えられる。
の各々に対して少なくとも２つの観察情報フィールドを
含むデータ集合における欠落観察情報を推定する装置で
あって、複数のモデルパラメータが与えられたとき、該
データ集合の実現可能性を確定する確率論的モデルと、
該複数のモデルパラメータに一つの既成分布を適用する
手段と、該観察情報の分布に対して一つのベイズ非パラ
メトリック既成分布を選択する手段と、該データ集合お
よび該非パラメトリック既成分布とから一つのベイズ非
パラメトリックモデルを生成する手段と、該欠落観察情
報に対する完全条件分布を導出する手段と、該完全条件
分布から該欠落観察情報をＭＣＭＣ標本抽出する手段と
を含むことを特徴とする装置が与えられる。
【００１３】本発明の第三局面によれば、複数主体者の
各々に対して少なくとも２つの観察情報フィールドを含
むデータ集合における欠落観察方法を推定する方法をデ
ータプロセッサに遂行させるソフトウェアルーチンを含
んだデータキャリアであって、該方法が、複数のモデル
パラメータが与えられたとき、該データ集合の実現可能
性を確定する確率論的モデルを生成するステップと、該
複数のモデルパラメータに一つの既成分布を適用するス
テップと、該観察情報の分布に対して一つのベイズ非パ
ラメトリック既成分布（Bayesian nonparametric prio
r）を選択するステップと、該データ集合および該非パ
ラメトリック既成分布から一つのベイズ非パラメトリッ
クモデルを生成するステップと、該欠落観察情報に対す
る完全条件分布を導出するステップと、該完全条件分布
から該欠落観察情報をＭＣＭＣ標本抽出するステップと
を含むことを特徴とするデータキャリアが与えられる。
各々に対して少なくとも２つの観察情報フィールドを含
むデータ集合における欠落観察方法を推定する方法をデ
ータプロセッサに遂行させるソフトウェアルーチンを含
んだデータキャリアであって、該方法が、複数のモデル
パラメータが与えられたとき、該データ集合の実現可能
性を確定する確率論的モデルを生成するステップと、該
複数のモデルパラメータに一つの既成分布を適用するス
テップと、該観察情報の分布に対して一つのベイズ非パ
ラメトリック既成分布（Bayesian nonparametric prio
r）を選択するステップと、該データ集合および該非パ
ラメトリック既成分布から一つのベイズ非パラメトリッ
クモデルを生成するステップと、該欠落観察情報に対す
る完全条件分布を導出するステップと、該完全条件分布
から該欠落観察情報をＭＣＭＣ標本抽出するステップと
を含むことを特徴とするデータキャリアが与えられる。
【００１４】本発明の第一の局面に関して上述した好適
な特徴は本発明の上記第二および第三の局面でも等しく
適用することができる。
な特徴は本発明の上記第二および第三の局面でも等しく
適用することができる。
【００１５】
【実施例】添付図面を参照しながら例を通して以下に本
発明を説明する。
発明を説明する。
【００１６】本発明の特徴を論ずる前に、適当なデータ
ベース内に収容されているデータが解析に付される解析
の形式例を示そう。
ベース内に収容されているデータが解析に付される解析
の形式例を示そう。
【００１７】銀行は多数の顧客に関する多数のデータを
保有している。一つの簡単な例として、このデータベー
スは顧客の年齢Ｘage、給与xsal、個人債券プランＰＥ
Ｐのような特定の製品を顧客が購入したか否かの情報を
含む。この最後の情報は、製品が購入されていれば値１
をとり、もしも製品が購入されていなければ０を取る変
数ｙで表される。
保有している。一つの簡単な例として、このデータベー
スは顧客の年齢Ｘage、給与xsal、個人債券プランＰＥ
Ｐのような特定の製品を顧客が購入したか否かの情報を
含む。この最後の情報は、製品が購入されていれば値１
をとり、もしも製品が購入されていなければ０を取る変
数ｙで表される。
【００１８】最初のステップとして、 ｙが確率θで値
１をとり、確率（１ーθ）で値０を取る、というように
ｙの値にある確率を指定する。θは確率なのでθは範囲
[０,１]内のみの値を取る。これを解析するため、我々
はlogitθ= log(θ/(1-θ))で定義されるlogit関数を使
ってθを変換する。この関数は [-∞, ∞].の値域で変
化する。次のように線形回帰モデルが適用される： logitθ1 = β0 + βsalxsal,1 + βagexage,1 logitθ2 = β0 + βsalxsal, 2 + βage xage, 2 ． ． logitθn = β0 + βsalxsal,n + βage xage,n ここでxsal,iおよびxage,iはそれぞれｉ番目の顧客の年
齢および給与である。θ i はｉ番目の顧客が当該商品を
購入する確率である。
１をとり、確率（１ーθ）で値０を取る、というように
ｙの値にある確率を指定する。θは確率なのでθは範囲
[０,１]内のみの値を取る。これを解析するため、我々
はlogitθ= log(θ/(1-θ))で定義されるlogit関数を使
ってθを変換する。この関数は [-∞, ∞].の値域で変
化する。次のように線形回帰モデルが適用される： logitθ1 = β0 + βsalxsal,1 + βagexage,1 logitθ2 = β0 + βsalxsal, 2 + βage xage, 2 ． ． logitθn = β0 + βsalxsal,n + βage xage,n ここでxsal,iおよびxage,iはそれぞれｉ番目の顧客の年
齢および給与である。θ i はｉ番目の顧客が当該商品を
購入する確率である。
【００１９】各顧客からの説明変数（explanatory vari
ables）およびそれに対する応答ｙが与えられるとβの
経験分布（posterior distribution）が導出される。こ
れらβの経験分布を使って各顧客のＸの値からθが計算
できる。上に適用した方法そのものは本発明の一部を構
成するものではなく、任意の適当な回帰モデルを適用す
ることができる。
ables）およびそれに対する応答ｙが与えられるとβの
経験分布（posterior distribution）が導出される。こ
れらβの経験分布を使って各顧客のＸの値からθが計算
できる。上に適用した方法そのものは本発明の一部を構
成するものではなく、任意の適当な回帰モデルを適用す
ることができる。
【００２０】しかしながら、上述したように、ｘの値が
不完全であると問題が発生する。この問題に対する先行
技術の対策は十分とは言えない。本発明の発明者はこの
問題に対処するよりよい方法があることを確認した。
不完全であると問題が発生する。この問題に対する先行
技術の対策は十分とは言えない。本発明の発明者はこの
問題に対処するよりよい方法があることを確認した。
【００２１】簡単に言うと、欠落値は未知パラメータ値
と同じに取り扱われる。既に知られているように、パラ
メータの既成分布はベイズ解析を使って当該データに呼
応して更新される。本発明は、欠落データ点（これらの
データも更新される）に対し一つのモデルと一つの既成
分布を選択する。欠落データ点に対するこの既成分布は
単に当該観察情報に対するデータ集合の平均値でよい。
と同じに取り扱われる。既に知られているように、パラ
メータの既成分布はベイズ解析を使って当該データに呼
応して更新される。本発明は、欠落データ点（これらの
データも更新される）に対し一つのモデルと一つの既成
分布を選択する。欠落データ点に対するこの既成分布は
単に当該観察情報に対するデータ集合の平均値でよい。
【００２２】給与のような連続変数の場合には、既成分
布はポリヤツリーが好適である。
布はポリヤツリーが好適である。
【００２３】次に経験分布をあたえるため、ギブス標本
抽出器を使ってベイズ解析が行われる。
抽出器を使ってベイズ解析が行われる。
【００２４】一旦経験分布が得られると、ある単一の欠
落給与観察情報に関する完全条件（full conditional）
が次のように定義される。 P[y|βsal, βage, xage, xsal]×β[xsal| x-sal, x
age] ここで初めのβ項は顧客の内的分布（within customer
distribution）であり、後のβ項は顧客間の分布であ
り、x-salは他の顧客総ての給与を表す。
落給与観察情報に関する完全条件（full conditional）
が次のように定義される。 P[y|βsal, βage, xage, xsal]×β[xsal| x-sal, x
age] ここで初めのβ項は顧客の内的分布（within customer
distribution）であり、後のβ項は顧客間の分布であ
り、x-salは他の顧客総ての給与を表す。
【００２５】給与は年齢に独立であると仮定すると、第
二β項はβ(xsal|x-sal) と簡単になる。
二β項はβ(xsal|x-sal) と簡単になる。
【００２６】上記の完全条件は、給与と年齢に対するパ
ラメータが線形回帰モデルから与えられたと仮定したと
きの欠落給与値に対する傾向分布（propensity distrib
ution）で定義される。この場合、データベース内に保
持されている他の顧客総てに関する給与値が与えられた
と仮定したとき、給与が未知でありかつ個人債券プラン
を購入したか否かが不明である顧客の年齢に、欠落給与
値の傾向分布を乗じる。回帰モデルを使う場合、他の顧
客の観察給与値が与えられると仮定したとき、顧客の内
的分布が標準分布であり、顧客間分布が給与の経験分布
である。
ラメータが線形回帰モデルから与えられたと仮定したと
きの欠落給与値に対する傾向分布（propensity distrib
ution）で定義される。この場合、データベース内に保
持されている他の顧客総てに関する給与値が与えられた
と仮定したとき、給与が未知でありかつ個人債券プラン
を購入したか否かが不明である顧客の年齢に、欠落給与
値の傾向分布を乗じる。回帰モデルを使う場合、他の顧
客の観察給与値が与えられると仮定したとき、顧客の内
的分布が標準分布であり、顧客間分布が給与の経験分布
である。
【００２７】図２は本発明の実施例に係る装置のブロッ
ク線図である。ポート４２がデータベース４０（これは
本装置の外部装置でよい）を内部バス４４に接続する。
このバスにはまた中央処理ユニット（ＣＰＵ）４６、読
取り専用メモリ（ＲＯＭ）４８、およびランダムアクセ
スメモリ（ＲＡＭ）５０も接続される。所定量の計算お
よび計算の複雑さは既知であるとして、このＣＰＵは２
つの更なる処理ユニット４６'、４６"として例示した高
度並列構造体によって効果的に与えることができる可能
性が高い。ＲＯＭ４８はオペレーティング システムを
格納する一方、ＲＡＭ５０はオペレーティング メモリ
として使用されると共に計算結果の短期的格納に使用さ
れる。オプションとして、本データ処理システムは、本
発明の実施例に基づいてディスク５４からオペレーティ
ングソフトウェアを読み取るための磁気的あるいは光学
的ディスクドライブ５２を含むことができる。
ク線図である。ポート４２がデータベース４０（これは
本装置の外部装置でよい）を内部バス４４に接続する。
このバスにはまた中央処理ユニット（ＣＰＵ）４６、読
取り専用メモリ（ＲＯＭ）４８、およびランダムアクセ
スメモリ（ＲＡＭ）５０も接続される。所定量の計算お
よび計算の複雑さは既知であるとして、このＣＰＵは２
つの更なる処理ユニット４６'、４６"として例示した高
度並列構造体によって効果的に与えることができる可能
性が高い。ＲＯＭ４８はオペレーティング システムを
格納する一方、ＲＡＭ５０はオペレーティング メモリ
として使用されると共に計算結果の短期的格納に使用さ
れる。オプションとして、本データ処理システムは、本
発明の実施例に基づいてディスク５４からオペレーティ
ングソフトウェアを読み取るための磁気的あるいは光学
的ディスクドライブ５２を含むことができる。
【００２８】以下の説明は、説明変数Xにおけるｎ個の
欠落値に対する完全条件を示す。
欠落値に対する完全条件を示す。
【００２９】p[β|X, X1', X2', Y]は本モデルパラメー
タを標本抽出するための完全条件である。これはパラメ
ータを別個に標本抽出する複数ステップに分割すること
ができる。しかし、ロジスティック回帰の場合は、総て
のβ値を一緒に効率的に標本抽出することができる。欠
落値X'を導出するため、以下の完全条件を使用できる。 [X1'|X, β, X-1', Y] [X2'|X, β, X-2', Y] ． ． [Xn'|X, β, X-n', Y] ここでXは観察された説明変数、 Xn'は欠落している説
明変数、Yはその応答、Xnは[X1', X2', ........
Xn-1']である。
タを標本抽出するための完全条件である。これはパラメ
ータを別個に標本抽出する複数ステップに分割すること
ができる。しかし、ロジスティック回帰の場合は、総て
のβ値を一緒に効率的に標本抽出することができる。欠
落値X'を導出するため、以下の完全条件を使用できる。 [X1'|X, β, X-1', Y] [X2'|X, β, X-2', Y] ． ． [Xn'|X, β, X-n', Y] ここでXは観察された説明変数、 Xn'は欠落している説
明変数、Yはその応答、Xnは[X1', X2', ........
Xn-1']である。
【００３０】モデルパラメータおよび欠落値の標本抽出
は任意の順序で行うことができる。
は任意の順序で行うことができる。
【００３１】図３は本発明の実施例に基づき図２の処理
装置で行われるステップの流れ図を示す。ステップＳ１
０における「開始」の後、ステップＳ１２でデータプロ
セッサはデータベースからデータを取り出す。このデー
タベースは本装置から遠隔地にあってもよい。ステップ
Ｓ１４で主体間変動をモデル化するためのベイズ非パラ
メトリックモデルが選択される。この非パラメトリック
モデルおよび回帰モデルに対する既成分布はステップＳ
１６およびＳ１８で得られる。ステップＳ２０で当該欠
落観察情報に対する最確推定値（maximum likelihood e
stimation、MLE）が導出される。これらの値は次にステ
ップＳ２２で、ギブス標本抽出器を使用するように図示
したベイズ解析にかけられる。この標本抽出手段により
行われる繰返を示すためのループが図示してある。この
ＭＬＥ法は高速であるが、正確さにかけることがある。
装置で行われるステップの流れ図を示す。ステップＳ１
０における「開始」の後、ステップＳ１２でデータプロ
セッサはデータベースからデータを取り出す。このデー
タベースは本装置から遠隔地にあってもよい。ステップ
Ｓ１４で主体間変動をモデル化するためのベイズ非パラ
メトリックモデルが選択される。この非パラメトリック
モデルおよび回帰モデルに対する既成分布はステップＳ
１６およびＳ１８で得られる。ステップＳ２０で当該欠
落観察情報に対する最確推定値（maximum likelihood e
stimation、MLE）が導出される。これらの値は次にステ
ップＳ２２で、ギブス標本抽出器を使用するように図示
したベイズ解析にかけられる。この標本抽出手段により
行われる繰返を示すためのループが図示してある。この
ＭＬＥ法は高速であるが、正確さにかけることがある。
【００３２】これに代わる別の方法は、上述した完全条
件方程式で定義したような欠落観察情報およびモデルパ
ラメータの両方をギブス標本抽出法により導出すること
である。これは図４に示してあり、この場合ステップＳ
３０がステップＳ２０およびＳ２２にとって代わる。
件方程式で定義したような欠落観察情報およびモデルパ
ラメータの両方をギブス標本抽出法により導出すること
である。これは図４に示してあり、この場合ステップＳ
３０がステップＳ２０およびＳ２２にとって代わる。
【００３３】習熟した読者には他の方法でベイズ解析を
与えることができることは明らかであろう。
与えることができることは明らかであろう。
【００３４】欠落した観察情報の推定を上述したが、本
発明は、上述の完全条件の項で示したように当該データ
を解析して応答を得るのに使用された確率モデルと併せ
て同時的に適用できる、という利点を有することが了解
できよう。
発明は、上述の完全条件の項で示したように当該データ
を解析して応答を得るのに使用された確率モデルと併せ
て同時的に適用できる、という利点を有することが了解
できよう。
【００３５】本発明は銀行業務を例として述べたが、欠
落データを有する任意のデータベースに適用できること
を了解されたい。
落データを有する任意のデータベースに適用できること
を了解されたい。
【図１】本発明の実施例に基づく処理の一部の概観図で
ある。
ある。
【図２】本発明の実施例を実行するためのデータ処理装
置のブロック図を示す。
置のブロック図を示す。
【図３】本発明の実施例に基づき図２の構成により実行
されるステップの流れ図を示す。
されるステップの流れ図を示す。
【図４】図３のステップのいくつかの変更例を示す。
４２ ポート４２ ４０ データベース４０ ４４ 内部バス４４ ４６、４６'、４６" 中央処理ユニット（ＣＰＵ）４６ ４８ 読取り専用メモリ（ＲＯＭ）４８ ５０ ランダムアクセスメモリ（ＲＡ
Ｍ）５０ ５２ 磁気的/光学的ディスクドライブ
５２
Ｍ）５０ ５２ 磁気的/光学的ディスクドライブ
５２
───────────────────────────────────────────────────── フロントページの続き (72)発明者 ラミン チャールズ ナキサ イギリス国 バッキンガムシャー ＨＰ６ ６ＱＨ リトル チャルフォント チャ ースレイ クローズ 29 (72)発明者 クライブ ホッガート イギリス国 ロンドン ＳＷ12 ８ＬＬ フェーンサイド ロード 38
Claims (13)
- 【請求項１】複数主体者の各々に対して少なくとも２つ
の観察情報フィールドを含むデータ集合における欠落し
た観察情報を推定する方法であって、 複数のモデルパラメータが与えられたとき、該データ集
合の実現可能性を確定する確率論的モデルを生成するス
テップと、 該複数のモデルパラメータに既成分布を適用するステッ
プと、 該観察情報の分布に対してベイズ非パラメトリック既成
分布を選択するステップと、 該データ集合および該非パラメトリック既成分布からベ
イズ非パラメトリックモデルを生成するステップと、 該欠落観察情報に対する完全条件分布を導出するステッ
プと、 該完全条件分布から該欠落観察情報をＭＣＭＣ標本抽出
するステップとを含むことを特徴とするデータベース内
の欠落した観察情報の推定方法。 - 【請求項２】観察情報に対する該既成分布が該データ集
合から得られる観察情報の平均値を含むことを特徴とす
る請求項１に記載の方法。 - 【請求項３】該確率論的モデルが回帰モデルであること
を特徴とする請求項１乃至２に記載の方法。 - 【請求項４】観察情報に対する該既成分布がポリヤ ツ
リーであることを特徴とする請求項１乃至３に記載の方
法。 - 【請求項５】観察情報に対する該既成分布がディリクレ
法により形成されることを特徴とする請求項１乃至３に
記載の方法。 - 【請求項６】該標本抽出がギブス標本抽出器により実行
されることを特徴とする請求項１乃至５に記載の方法。 - 【請求項７】複数主体者の各々に対して少なくとも２つ
の観察情報フィールドを含むデータ集合における欠落観
察情報を推定する装置であって、 複数のモデルパラメータが与えられたとき、該データ集
合の実現可能性を確定する確率論的モデルと、 該複数のモデルパラメータに既成分布を適用する手段
と、 該観察情報の分布に対してベイズ非パラメトリック既成
分布を選択する手段と、 該データ集合および該非パラメトリック既成分布とから
ベイズ非パラメトリックモデルを発生する手段と、 該欠落観察情報に対する完全条件分布を導出する手段
と、 該完全条件分布から該欠落観察情報をＭＣＭＣ標本抽出
する手段とを含むことを特徴とするデータベース内の欠
落した観察情報の推定装置。 - 【請求項８】観察情報に対する既成分布を導出する該手
段が該データ集合から観察情報の平均値を導出すること
を特徴とする請求項７に記載の装置。 - 【請求項９】該確率論的モデルが線形回帰モデルである
ことを特徴とする請求項７乃至８に記載の装置。 - 【請求項１０】観察情報に対する該既成分布がポリヤ
ツリーであることを特徴とする請求項７乃至９に記載の
装置。 - 【請求項１１】観察情報に対する該既成分布がディリク
レ法により形成されることを特徴とする請求項７乃至９
に記載の装置。 - 【請求項１２】該標本抽出手段がギブス標本抽出器を含
むことを特徴とする請求項７乃至１１に記載の装置。 - 【請求項１３】複数主体者の各々に対して少なくとも２
つの観察情報フィールドを含むデータ集合における欠落
観察方法を推定する方法をデータプロセッサに遂行させ
るソフトウェアルーチンを含むデータキャリアであっ
て、 複数のモデルパラメータが与えられたとき、該データ集
合の実現可能性を確定する確率論的モデルを生成するス
テップと、 該複数のモデルパラメータに既成分布を適用するステッ
プと、 該観察情報の分布に対してベイズ非パラメトリック既成
分布（Bayesian nonparametric prior）を選択するステ
ップと、 該データ集合および該非パラメトリック既成分布からベ
イズ非パラメトリックモデルを生成するステップと、 該欠落観察情報に対する完全条件分布を導出するステッ
プと、 該完全条件分布から該欠落観察情報をＭＣＭＣ標本抽出
するステップとを含むことを特徴とするデータキャリ
ア。
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| GB9828241.1 | 1998-12-22 | ||
| GBGB9828241.1A GB9828241D0 (en) | 1998-12-22 | 1998-12-22 | Estimating a missing observation in a database |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JP2000194703A true JP2000194703A (ja) | 2000-07-14 |
Family
ID=10844729
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP11361839A Pending JP2000194703A (ja) | 1998-12-22 | 1999-12-20 | デ―タベ―ス内の欠落した観察情報の推定方法および推定装置 |
Country Status (3)
| Country | Link |
|---|---|
| EP (1) | EP1014281A2 (ja) |
| JP (1) | JP2000194703A (ja) |
| GB (1) | GB9828241D0 (ja) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2013037471A (ja) * | 2011-08-05 | 2013-02-21 | Nec Corp | 確率モデル更新システム、確率モデル更新装置、確率モデル更新方法およびプログラム |
Families Citing this family (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2003044659A1 (en) * | 2001-11-19 | 2003-05-30 | Hewlett-Packard Company | Computer-based method, software module and computer program product for processing information in transaction-tax related applications |
| FI113409B (fi) | 2002-05-31 | 2004-04-15 | Ekahau Oy | Sekvenssiperusteinen paikannustekniikka |
| FR2958411B1 (fr) * | 2010-04-02 | 2012-06-08 | Commissariat Energie Atomique | Procede d'analyse spectrometrique et dispositif apparente |
| CN103136247B (zh) * | 2011-11-29 | 2015-12-02 | 阿里巴巴集团控股有限公司 | 属性数据区间划分方法及装置 |
| CN104765958B (zh) * | 2015-03-27 | 2017-07-21 | 西南科技大学 | 一种基于连续状态空间的认知无线电接入问题新型算法模型 |
| CN106599909B (zh) * | 2016-11-30 | 2020-12-29 | 清华大学 | 随机梯度测地线马尔可夫链蒙特卡罗方法及装置 |
| CN107357982B (zh) * | 2017-06-30 | 2020-08-04 | 华北水利水电大学 | 一种水沙系列数据缺失借补方法 |
| CN115034692B (zh) * | 2022-08-11 | 2023-09-26 | 深圳市信润富联数字科技有限公司 | 数据漂移的跟踪方法、装置、终端设备及存储介质 |
-
1998
- 1998-12-22 GB GBGB9828241.1A patent/GB9828241D0/en not_active Ceased
-
1999
- 1999-12-03 EP EP19990309758 patent/EP1014281A2/en not_active Withdrawn
- 1999-12-20 JP JP11361839A patent/JP2000194703A/ja active Pending
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2013037471A (ja) * | 2011-08-05 | 2013-02-21 | Nec Corp | 確率モデル更新システム、確率モデル更新装置、確率モデル更新方法およびプログラム |
Also Published As
| Publication number | Publication date |
|---|---|
| EP1014281A2 (en) | 2000-06-28 |
| GB9828241D0 (en) | 1999-02-17 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Cribben et al. | Dynamic connectivity regression: determining state-related changes in brain connectivity | |
| US11100421B2 (en) | Customized website predictions for machine-learning systems | |
| US12026738B2 (en) | Predicting application conversion using eye tracking | |
| CN109816483B (zh) | 信息推荐方法及装置、可读存储介质 | |
| US20050169452A1 (en) | Method and apparatus for self-evaluation and randomization for predictive models | |
| CN111738441B (zh) | 兼顾预测精度和隐私保护的预测模型训练方法及装置 | |
| JP2000194703A (ja) | デ―タベ―ス内の欠落した観察情報の推定方法および推定装置 | |
| US7464008B2 (en) | Methods and apparatus for selecting event sequences based on a likelihood of a user completing each event sequence | |
| CN110796379A (zh) | 业务渠道的风险评估方法、装置、设备及存储介质 | |
| CN112489815A (zh) | 一种抑郁症情绪监测方法、装置及可读存储介质 | |
| CN111309882A (zh) | 用于实现智能客服问答的方法和装置 | |
| EP3975071A1 (en) | Identifying and quantifying confounding bias based on expert knowledge | |
| CN112001760B (zh) | 潜在用户挖掘方法、装置、电子设备和存储介质 | |
| CN113283979A (zh) | 一种贷款申请人的贷款信用评估方法、装置及存储介质 | |
| CN111274924A (zh) | 一种掌静脉检测模型建模方法、掌静脉检测方法及装置 | |
| CN111881355B (zh) | 对象的推荐方法、装置、存储介质和处理器 | |
| US20240176992A1 (en) | Method, apparatus and device for explaining model and computer storage medium | |
| CN116862561B (zh) | 基于卷积神经网络的产品热度分析方法和系统 | |
| EP3889847A1 (en) | A method, a device and a computer program for learning a first task in a first domain | |
| CN114626058B (zh) | 一种社区恶意访问行为识别方法及系统 | |
| Muduva et al. | A Comparative Methodology of Supervised Machine Learning Algorithms for Predicting Customer Churn Using Neuromarketing Techniques | |
| Abbassy | Using Machine Learning Technique for Analytical Customer Loyalty | |
| CA2292982A1 (en) | Estimating a missing observation in a database | |
| CN117808591A (zh) | 客户流失预测方法、装置、设备及存储介质 | |
| CN113902450A (zh) | 一种可解释的欺诈交易识别方法及装置 |