JP3701633B2 - 複数データベースにまたがる項目パターン抽出方法、ネットワークシステム及び処理装置 - Google Patents

複数データベースにまたがる項目パターン抽出方法、ネットワークシステム及び処理装置 Download PDF

Info

Publication number
JP3701633B2
JP3701633B2 JP2002181135A JP2002181135A JP3701633B2 JP 3701633 B2 JP3701633 B2 JP 3701633B2 JP 2002181135 A JP2002181135 A JP 2002181135A JP 2002181135 A JP2002181135 A JP 2002181135A JP 3701633 B2 JP3701633 B2 JP 3701633B2
Authority
JP
Japan
Prior art keywords
pattern
item
item pattern
unit
processing unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002181135A
Other languages
English (en)
Other versions
JP2004029902A (ja
Inventor
隆彦 新谷
訓 光山
伴  秀行
猛志 橋口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2002181135A priority Critical patent/JP3701633B2/ja
Priority to US10/231,259 priority patent/US20030236785A1/en
Priority to EP02019152A priority patent/EP1376397A3/en
Publication of JP2004029902A publication Critical patent/JP2004029902A/ja
Application granted granted Critical
Publication of JP3701633B2 publication Critical patent/JP3701633B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24Querying
    • G06F16/245Query processing
    • G06F16/2458Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
    • G06F16/2465Query processing support for facilitating data mining operations in structured databases

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Probability & Statistics with Applications (AREA)
  • Fuzzy Systems (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Medical Treatment And Welfare Office Work (AREA)
  • Debugging And Monitoring (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、データベース及びデータウェアハウスを対象としたデータ解析方法及びシステムに関し、特にデータベースのレコードを解析してレコードに含まれるデータの相関を明らかにするデータマイニングに関する。
【0002】
【従来の技術】
膨大なデータを解析することによりその中に埋もれたパターンあるいは関係を通して有用な情報を抽出するデータマイニングが知られている。例えば、スーパーマーケットのバスケットデータのデータマイニングを考えてみる。スーパーマーケットには項目(品目、つまり、商品)の集合があり、顧客はその部分集合を購入する。顧客の購入した項目の組合せがバスケットデータとして記録される。多数のバスケットデータを解析する場合、有意な購入パターン、つまり、複数の顧客に共通して表れるパターンを抽出することが望ましい。このパターンを頻出パターン(大品目セット、ラージ品目セット)と呼ぶ。「商品Aと商品Bが同時に購入される場合が多い」のような頻出パターンが抽出された場合、商品Aと商品Bの売上げに関連があることがわかり、商品の配置や特売品の選定、価格の設定など販売の方針決定に役立てることが出来る。
【0003】
頻出パターンを抽出する研究は、データマイニングの分野において行われてきた。例えば、(1)R.Agrawal and R.SrikantによるAprioriと呼ばれる方法:"Fast algorithms for mining association rules" in proceedings of the 20th VLDB Conference, 1994(特開平8-287106号公報、米国特許第5,794,209号)(文献1)、(2)J.Han,J.Pei,Y.Yin, "Mining frequent patterns without candidate generation",in proceedings of ACM SIGMOD International Conference on Management of Data, 2000(文献2)に記載の方法がある。文献1、文献2の方法では、複数の2値属性を含むレコードの集合からなるデータベースから、ユーザにより予め設定された支持度、又は支持回数の最小値(最小支持度、又は最小支持回数)以上となる属性値が真となる組合せを抽出していた。各々のレコードで、属性値が真となる属性を項目と呼ぶ。支持度とは全データベース中で項目の組合せを含むレコードの割合であり、支持回数とは該レコードの数である。これら方法により抽出される支持度、又は支持回数の最小値を超える項目の組合せを頻出パターン(大品目セット、ラージアイテム集合)と呼ぶ。文献1、文献2の方法では1つのデータベース、又は複数のデータベースであるがレコードの識別子により1つに統合されたデータベースを解析対象としている。
【0004】
文献1のApriori法の頻出パターン抽出の手順を図1に示すフローチャートによって説明する。最初のステップであるユーザ入力では、利用者から最小支持度、又は最小支持回数を入力させて獲得する。次のステップのL(1)生成では、データベース中のレコードを取り出し、そのレコード中に出現する項目についてカウント数(支持回数)を増やす。全てのレコードについて数え上げが終了すると、最終的な集計値が最小支持回数を超えた項目が取り出される。以下の説明において、L(k)は項目数kの頻出パターン、C(k)は項目数kの候補パターンを表す。頻出パターンL(k)は、データベースにおける出現頻度が最小支持回数を超える項目の組合せであり、候補パターンはその候補となる項目組合せである。次のステップC(k)生成では項目数k−1の頻出パターンから候補パターンが生成される。候補パターンはL(k−1)中の(k−2)個の項目が共通するパターンを組合せ、k個の項目からなるパターンを抽出する。初期状態ではk=2であり、L1からC2が生成される。次のステップC(k)枝刈りにおいては、C(k)中の候補パターンのうち、L(k−1)に含まれないパターンを含む候補パターンを削除する。C(k)枝刈り後は、L(k)生成のステップが行われる。データベースのレコードが読み出され、その中に存在するC(k)中の候補パターンのカウントを増やす操作が行われ、最終的に最小支持回数を超えた候補パターンのみを残す。L(k)生成ステップでL(k)の要素となるパターンが1つも生成されなかった場合、処理を終了し、そうでない場合はkの値を1つ増加させ、C(k)生成に戻る。文献1、文献2では、L(k)の各頻出パターンから相関ルールを作成する方法も述べられている。全ての頻出パターンが抽出された時点で、L(k)の各頻出パターンについて、該頻出パターンに含まれる項目パターンの部分集合から相関ルールを作成する。
【0005】
複数のデータベースから頻出パターンを抽出する方法は、(1)J.S.Park, M.Chen, P.S.Yu, "Scalable parallel data mining for association rules" in proceedings of International Conference on Information and Knowledge Management,1995(文献3)、(2)R.Agrawal, J.Shafer, "Parallel mining of association rules" in IEEE Transactions on Knowledge and Data Engineering,1996(文献4)、(3)特開2001-167098号公報「大量データの分散並列処理方法」(文献5)などがある。
【0006】
【発明が解決しようとする課題】
文献3、文献4、文献5の方法は複数のデータベースから頻出パターンを抽出する方法であるが、各々のデータベースは同一の属性からなるデータベースのみを解析対象とする。全てのデータベースのレコードは同一の属性からなり、1つのレコードは単一のデータベースに保持される場合のみが考慮されている。1つのレコードが複数のデータベースにまたがって保持される場合は考慮されなかった。
【0007】
解析対象とするデータベースが複数に分割され、各々のデータベースの構造、属性が異なる場合がある。さらに、情報漏洩防止の点から、複数に分割されたデータベースを1つに統合することが許されない場合もある。例えば、医療分野における遺伝子データの場合、遺伝子情報から個人を特定することが出来ない状態を保つ必要があり、個人データと遺伝子データは分割して管理される。個人データと遺伝子データを共に含むデータベースを作成することは許されない。遺伝子データの解析は症例データと共に行われることにより、有用な情報を得ることが出来る。症例データと遺伝子データを解析対象として項目パターンを抽出することにより、遺伝子と薬剤の効果との関係などを知ることが出来る。例えば、「遺伝子AがY型であり、薬剤Cに対してアレルギー反応を起こした患者が多い。」のような項目パターンが抽出された場合、患者の遺伝子Aの型を調べることにより、薬剤Cを処方すべきか否かの判断に役立ち、各患者に適した医療を行うことが出来る。症例データには検査値や症状など個人を特定することに大いに役立つ情報が含まれる。そのため、症例データと遺伝子データの解析においてもデータベースを統合することを回避する必要があり、データベースを統合することなくデータの解析を行うことは従来の方法では考慮されていない。
【0008】
このように、従来の方法では、複数の異なるデータベース、つまり、1つのレコードが複数のデータベースに分割して保持され、データベースを1つに統合することが許されない場合、データベースを統合するための情報の漏洩を回避した状態で、項目パターンを抽出することが考慮されていなかった。
【0009】
本発明の第1の目的は、異なる属性からなる複数のデータベースから、データの断片的な情報のやり取りによって、データベース間にまたがる項目パターンを抽出する方法及びシステムを提供することである。本発明の第2の目的は、項目パターンを抽出するために探索するデータの組合せである候補パターンの数を低減する方法を提供することである。
【0010】
【課題を解決するための手段】
本発明によるパターン抽出方法の1つの特徴は、1以上の属性からなるレコードと、レコードの集合からなるデータベースにおいて、各々のデータベースが異なる属性を持ち、各々のデータベースに含まれるレコードは識別子によりデータベース間で相互に対応付けることが可能であり、異なるデータベースに含まれ、等しい識別子に対応付けられているレコードの項目の和集合を1つのレコードとし、データベースから、ユーザにより指定された支持回数の最小値を満たし、異なるデータベースに含まれる属性の組合せからなる項目パターンを、データベース間で該項目パターンの部分集合を送信する処理、又はレコードの識別子のリストを送信する処理、又は受信したレコードの識別子と重複するレコード数を送信する処理によって抽出することである。
【0011】
本発明の別の特徴は、支持回数が既知の項目の組合せである項目パターンから、その項目パターンの部分パターンについての支持回数の上限値を計算することにより、支持回数を数え上げる候補パターンを限定することである。
すなわち、本発明による項目パターン抽出方法は、複数の処理部にてそれぞれ個別に管理される複数のデータベースにおける属性と属性値の組を項目、項目の組合せを項目パターンとするとき、2以上のデータベースにまたがる項目パターンを抽出する項目パターン抽出方法であって、複数の処理部が管理するデータベースから抽出した項目パターンをパターン抽出部に集中する第1のステップと、パターン抽出部において、第1のデータベースから抽出された第1の項目パターンと第1のデータベースとは異なる第2のデータベースから抽出された第2の項目パターンの組み合わせを含む結合項目パターンを生成し、第1のデータベースを管理する第1の処理部に第1の項目パターンを、第2のデータベースを管理する第2の処理部に第2の項目パターンを報知する第2のステップと、第1の項目パターンを含む第1のデータベース中のレコードの識別子リスト及び第2の項目パターンを含む第2のデータベース中のレコードの識別子リストを、第1及び第2の処理部からパターン抽出部とは異なる集計処理部に集中する第3のステップと、集計処理部において、前記集中された全ての識別子リストに共通する識別子の数を計数し、その数をパターン抽出部に送信する第4のステップとを含むことを特徴とする。
【0012】
この方法によると、複数のデータベースにおいて等しい識別子を持つレコードの項目の和集合を1つの統合レコードとみなすとき、複数の処理部、パターン抽出部、集計処理部のいずれにも統合レコードとその識別子の対応関係を知らしめることなく、複数のデータベースにまたがる結合項目パターンを含む統合レコードの数である支持回数を数え上げることができる。属性値は、離散値又は離散値に対応付けることが出来る値であるのが好ましい。
パターン抽出部と集計処理部の一方あるいは両方は、処理部が兼用していてもよい。
【0013】
ユーザ入力等によって、項目パターンを含むレコードの数である支持回数の最小値が最小支持回数として指定されている場合、複数の処理部は、第1のステップにおいて最小支持回数以上の項目パターンを抽出し、パターン抽出部は、第2のステップにおいて支持回数が未知である結合項目パターンを作成し、更に、第4のステップで集計処理部から送信された数を参照して支持回数が最小支持回数以上となる結合項目パターンを選出するのが好ましい。
【0014】
また、最小支持回数が指定されている場合、パターン抽出部は、支持回数が既知の結合項目パターン中の項目の部分集合である支持回数が未知の項目パターンの支持回数の上限値を、当該結合項目パターンの支持回数及び当該結合項目パターンの部分集合である項目パターンの既知の支持回数から計算するステップと、計算した支持回数の上限値が最小支持回数未満である結合項目パターンを第2のステップで生成する結合項目パターンの候補から削除するステップとを更に有するのが望ましい。
【0015】
m個(mは2以上の整数)のデータベースについて、i番目のデータベースに含まれる項目からなる項目パターンをX(i)、項目パターンX(i)中の項目の部分集合からなる項目パターンをX'(i)、結合項目パターンをX(1)X(2)…X(m)、項目パターンXの支持回数をS(X)とするとき、前記結合項目パターン中の部分集合からなる項目パターンX'(1)X'(2)…X'(m)の支持回数の上限値Upper(X'(1)X'(2)…X'(m))は下式(1)によって計算される。
【0016】
【数3】
Figure 0003701633
【0017】
項目パターンX(1)X(2)…X(m)の支持回数が既知である場合、項目パターンX'(1)X'(2)…X'(m)の支持回数の上限値は、項目パターンX(1)X(2)…X(m)の支持回数と、項目パターンX(1)X(2)…X(m)は含まないが、項目パターンX'(1)X'(2)…X'(m)を含む可能性のあるレコードの数との和から計算される。該レコードは、(1)i番目のデータベースにおいて、X(i)に含まれず、X'(i)に含まれるレコード、(2)iとjを異なる値とし、X(1)X(2)…X(m)に含まれず、X(i)に含まれるレコードであり、j番目のデータベースにおいて、X(j)に含まれず、X'(j)に含まれるレコードである。
【0018】
支持回数上限値計算部にて計算された支持回数の上限値がユーザから指定された最小支持回数未満である結合項目パターンを、結合項目パターン生成部で生成する結合項目パターンの候補から削除することにより、解析処理量を低減することができる。
【0019】
第2のステップにおいてパターン抽出部は、第1及び第2の処理部に集計処理部の位置を報知するようにしてもよい。
結合項目パターンの部分パターンを前提部、その部分パターンを除いた結合項目パターンの残部のパターンを結論部とする相関ルールを作成するステップと、前記結合パターンの支持回数を前記部分パターンの支持回数で割り算(前記結合パターンの支持回数÷前記部分パターンの支持回数)して相関ルールの確信度を計算するステップとを更に有してもよい。
【0020】
本発明によるネットワークシステムは、複数の処理装置とパターン抽出処理装置と集計処理装置とがネットワーク接続され、複数のデータ処理装置にてそれぞれ個別に管理される複数のデータベースにおける属性と属性値の組を項目、項目の組合せを項目パターンとするとき、2以上のデータベースにまたがる項目パターンを抽出する機能を有するネットワークシステムであって、データ処理装置は、各々が管理しているデータベースから項目パターンと当該項目パターンを満たすレコードの識別子の組を抽出する項目パターン抽出部を備え、項目パターン抽出部で抽出した項目パターンをパターン抽出処理装置に送信し、送信した項目パターンのうちパターン抽出装置によって指定された項目パターンを含むレコードの識別子のリストを指定された集計処理装置に送信する処理を行い、パターン抽出処理装置は、複数のデータ処理装置から受信した項目パターンを記憶する項目パターン記憶部と、項目パターン記憶部に記憶されている項目パターンを参照し、異なるデータ処理装置から受信した項目パターン同士を組み合わせて結合項目パターンを生成する結合項目パターン生成部とを備え、結合項目パターン生成部で生成した結合項目パターンの構成要素たる項目パターンが由来するデータ処理装置に当該項目パターンと集計処理部の位置を送信し、集計処理部から受信した数値を結合項目パターンの支持回数として計数する処理を行い、集計処理装置は、受信した全ての識別子のリストに共通する識別子の数を計数する共通識別子計数部を備え、共通識別子計数部によって計数された数値をパターン抽出処理装置に送信する処理を行うことを特徴とする。この場合、パターン抽出処理装置と集計処理装置の一方あるいは両方は、データ処理装置が兼用していてもよい。
【0021】
本発明による処置装置は、複数の処理部にてそれぞれ個別に管理される複数のデータベースにおける属性と属性値の組を項目、項目の組合せを項目パターンとするとき、2以上のデータベースにまたがる項目パターンを抽出する処理の一部を行う処理装置であって、複数の処理部から送られてきた項目パターンを記憶する項目パターン記憶部と、項目パターン記憶部に記憶された項目パターンを参照し、第1の処理部から送られてきた第1の項目パターンと第1の処理部とは異なる第2の処理部から送られてきた第2の項目パターンとの組み合わせを含む結合項目パターンを生成する結合項目パターン生成部と、第1の項目パターンと集計処理部の位置を第1の処理部に、第2の項目パターンと集計処理部の位置を第2の第2の処理部に送信し、第1の処理部に対して第1の項目パターンを含むレコードの識別子リストの送信を促すと共に第2の処理部に対して第2の項目パターンを含むレコードの識別子リストの送信を促し、集計処理部から受信する数値を前記結合項目パターンの支持回数として計数する支持回数計数部とを含むことを特徴とする。本装置は、m個(mは2以上の整数)のデータベースについて、i番目のデータベースに含まれる項目からなる項目パターンをX(i)、項目パターンX(i)中の項目の部分集合からなる項目パターンをX'(i)、支持回数が既知の結合項目パターンをX(1)X(2)…X(m)、項目パターンXの支持回数をS(X)とするとき、結合項目パターン中の部分集合からなる項目パターンX'(1)X'(2)…X'(m)の支持回数の上限値Upper(X'(1)X'(2)…X'(m))を前記式(1)によって計算する支持回数上限値計算部を備えるのが望ましい。
【0022】
本発明による処理装置は、また、複数の処理部にてそれぞれ個別に管理される複数のデータベースにおける属性と属性値の組を項目、項目の組合せを項目パターンとするとき、2以上のデータベースにまたがる項目パターンを抽出する処理の一部を行う処理装置であって、管理しているデータベースから指定された支持回数以上の項目パターンと当該項目パターンを含むレコードの識別子リストを抽出する頻出パターン抽出部を備え、頻出パターン抽出部で抽出した項目パターンをパターン抽出装置に送信し、パターン抽出装置から指定された項目パターンに対応する識別子リストを指定された集計処理装置に送信する処理を行うことを特徴とする。この処理装置は、パターン抽出装置から集計処理装置としての指定を受けた処理装置となることもでき、その場合、受信した全ての識別子リストに共通する識別子の数を計数する共通識別子計数部を備え、共通識別子計数部によって計数された数値をパターン抽出処理装置に送信する処理を行うことを特徴とする。
【0023】
【発明の実施の形態】
以下、図面を参照して本発明の実施の形態を説明する。以下の図において、同等の機能部分には同じ番号を付し、重複する説明を省略する。
はじめに、本実施形態において利用する用語を定義する。データベースは離散値、又は離散値に対応付けることが可能な属性値からなる属性により構成され、属性と属性値の組を項目と呼ぶ。ここで、属性値が連続値である場合、範囲分割などによって属性値を区分けし、各区分けに特定の離散値を割り当てることにより、連続値を離散値に対応付けることが可能である。また、離散値をグループに分類し、各分類を特定の離散値に対応付けることにより、属性値に含まれない離散値に対応付けることも可能である。
【0024】
データベースは項目のリストであるレコードの集合である。各々のデータベースに含まれるレコードはデータベース間で相互に対応付けることが可能である識別子を持つ。異なるデータベースに保持され、識別子の等しいレコードは1つのレコードとして扱い、1つのレコードが分割され、複数のデータベースに保持されていると見なす。
【0025】
項目の組合せを項目パターンと呼び、ある項目パターンXに存在する項目があるレコードの部分集合である場合、該レコードは項目パターンXを含むと表現する。ここで、ある項目パターンXに存在する全ての項目が、2以上のデータベースにおいて、等しい識別子を持つレコードに含まれる項目の和集合に含まれる場合にも、該項目パターンXはレコードに含まれると表現する。項目パターンXを含むレコードの数を支持回数と呼び、データベースに含まれる全レコード数に対する支持回数の割合を支持度と呼ぶ。支持度は支持回数から計算することが可能であることから、支持度と支持回数は同様に扱うことが出来る。また、ある項目パターンXに存在する全ての項目が項目パターンYに存在する場合、項目パターンYは項目パターンXを含むと表現し、項目パターンXを項目パターンYの部分パターンと呼び、項目パターンYを項目パターンXの上位パターンと呼ぶ。
【0026】
相関ルールはif[X]then[Y]で表現され、XとYは項目パターンであり、XとYに共通する項目は含まれない。Xを前提部、Yを結論部と呼ぶ。一般に相関ルールは支持度と確信度の評価値を持つ。支持度は相関ルールの適用度を示し、相関ルールif[X]then[Y]の支持度は項目パターンXとYの積集合の支持度となる。確信度は前提部を満たすデータが結論部も同時に満たす割合(ルールの前提部が起きたときに、結論部が起きる確率)を意味し、相関ルールif[X]then[Y]の確信度は項目パターンXとYの積集合の支持度を項目パターンXの支持度で割った値となる。
【0027】
図2は、本発明の第1実施形態のシステム構成例を示す図である。このシステムは、1つのパターン抽出部201と複数のデータ処理部202a,202b,…,202mから構成される。パターン抽出部とデータ処理部は、それぞれコンピュータからなり、通信路204によって接続されている。解析対象のデータは各データ処理部202a,202b,…,202mに接続されたデータ格納部203a,203b,…,203mに格納されている。
【0028】
パターン抽出部201は、候補パターン生成部211、支持回数計数部212、支持回数上限値計算部213を備え、データあるいはファイルとして最小支持回数の値、頻出パターンリスト、稀少パターンリスト、各データ処理部のネットワーク上の位置情報を記憶部215に保持する。また、パターン抽出部201には、キーボードやマウス等を備える入力部205、及びディスプレイやプリンタ等からなる出力部206が接続されている。データ処理部202a,202b,…,202mは、それぞれ頻出パターン抽出部221a,221b,…,221mを備え、また、パターン処理部201から送信された最小支持回数や、後述するIDリスト、後述する集計データ処理部のネットワーク上の位置情報を記憶する記憶部225a,225b,…,225mを備える。データ処理部のうちの一つは、後述する共通ID計数部222を備える。
【0029】
データ格納部203a,203b,…,203mには、識別子X1,X2,…のレコードが格納されている。各データ格納部にはそれぞれ異なる項目に関するデータが格納されている。ただし、一部の項目は、複数のデータ格納部に格納されたレコードに共通であっても構わない。
【0030】
図3は、データ解析の手順を説明するフローチャートである。はじめにユーザは入力部205から、抽出する頻出パターンの支持回数の最小値をパターン抽出部201に入力する。パターン抽出部は、入力された支持回数の最小値を獲得し(S11)、それを記憶部215に記憶した後、各データ処理部202a,202b,…,202mに支持回数の最小値を送信する。支持回数の最小値を最小支持回数と呼ぶ。各データ処理部202a,202b,…,202mは、パターン抽出部から送信された最小支持回数を受信し、それぞれの記憶部225a,225b,…,225mに記憶する。その後、各データ処理部202a,202b,…,202mは、頻出パターン抽出部221a,221b,…,221mにより、自分に接続されたデータ格納部203a,203b,…,203mに格納されたデータに関して、最小支持回数を満たす項目のパターン(局所頻出パターンと呼ぶ)を抽出する(S12)。
【0031】
図4は、図3のステップ12の局所頻出パターン抽出処理におけるパターン抽出部とデータ処理部の処理の関係を示す図である。パターン抽出部201は各データ処理部202a,202b,…,202mへ最小支持回数を送信する(S31)。各データ処理部202a,202b,…,202mでは、パターン抽出部201から送信された最小支持回数を受信し(S32)、それぞれの記憶部225a,225b,…,225mに記憶する。その後、各データ処理部は、頻出パターン抽出部221a,221b,…,221mによって、自分に接続されたデータ格納部203a,203b,…,203mに格納されたデータのみに関して、最小支持回数を満たす項目パターンである局所頻出パターンを抽出し、各局所頻出パターンについて、その支持回数とその項目パターンを含むレコードの識別子のリスト(IDリストと呼ぶ)を生成し、記憶部に記憶する(S33)。1つのデータベース内での局所頻出パターン抽出は文献1などの従来の方法により行うことが出来る。
【0032】
各データ処理部202a,202b,…,202mは、全ての局所頻出パターンと該局所頻出パターンの支持回数をパターン抽出部201に送信する(S34)。パターン抽出部では、全てのデータ処理部から送信される局所頻出パターンと該パターンの支持回数を受信し(S35)、局所頻出パターン情報として記憶部215に記憶する。以上の手順によって、パターン抽出部201は、全てのデータ格納部203a,203b,…,203mの局所頻出パターンを獲得する(S35)。
【0033】
図3に戻って、パターン抽出部201では、記憶部215に、頻出パターンを保持する頻出パターンリストと最小支持回数を満たさないことが既知の項目パターンである稀少パターンを保持する稀少パターンリストを保持する領域を用意し、空にする。全てのデータ処理部202a,202b,…,202mから局所頻出パターンと支持回数を受信後、パターン抽出部201は、候補パターン生成部211において異なるデータ処理部において抽出された任意の2以上の局所頻出パターンを結合することによって支持回数が未知の項目パターンである候補パターンを生成し(S13)、支持回数計数部において候補パターンの支持回数の数え上げを行う(S14)。例えば、データ処理部202aから局所頻出パターンとしてPA1,PA2,…,PAm、データ処理部202bから局所頻出パターンとしてPB1,PB2,…,PBn、データ処理部202mから局所頻出パターンとしてPM1,PM2,…,PMsが送信されてきた場合、候補パターン生成部では、それらを網羅的に組み合わせて{PA1,PB1},{PA1,PB2},…,{PA1,PB1,PM1},…,{PAm,PBn,…,PMs}といった候補パターンを生成する。
【0034】
候補パターンの支持回数数え上げの手順を図5に示す。パターン抽出部201は、処理部位置情報を参照して任意の1つのデータ処理部(本例の場合、データ処理部202b)を、全てのIDリストの比較を行う集計データ処理部に指定する(S41)。次に、図3のステップ13において作成された候補パターンを構成する局所頻出パターンを抽出したデータ処理部に、その局所頻出パターンと集計データ処理部の位置を送信する(S42)。
【0035】
例えば、候補パターンとして{PAm,PBn,PMs}を選定し、データ処理部202bを集計データ処理部に指定した場合、データ処理部202aには局所パターンPAmとデータ処理部202bのアドレスを送信する。同様に、データ処理部202mには局所パターンPMsとデータ処理部202bのアドレスを送信する。また、データ処理部202bには局所頻出パターンPBnと集計データ処理部のアドレスとしてデータ処理部202bのアドレスを送信する。集計データ処理部のアドレスとして自分のアドレスを受け取ったデータ処理部202bは、自分が集計データ処理部に指定されたことを知る。
【0036】
集計データ処理部に指定されていないデータ処理部202a,202mでは、パターン抽出部201から送信された局所頻出パターンと集計データ処理部の位置を受信すると(S43)、集計データ処理部の位置を記憶部に記憶し、受信した局所頻出パターンに対応するIDリストを取り出す(S44)。そして、ステップ45からステップ46に進んで、取り出したIDリストを集計データ処理部に送信する(S46)。本例の場合、データ処理部202aは項目パターンPAmのIDリストを集計データ処理部202bに送信し、データ処理部202mは項目パターンPMsのIDリストを集計データ処理部202bに送信する。
【0037】
集計データ処理部に指定されたデータ処理部202bでは、ステップ45からステップ47に進み、他のデータ処理部から送信されてくるIDリストを受信する。さらに、集計データ処理部では、共通ID計数部222において、自らに指定された項目パターンPBnのIDリストと他のデータ処理部から送信された全てのIDリストとに共通するIDの数を数え上げ(S48)、その共通IDの数をパターン抽出部201に送信する(S49)。パターン抽出部201では、集計データ処理部に指定したデータ処理部202bから送信されたIDの数を受信し(S50)、候補パターンの支持回数を得る(S51)。以上の手順により、選定した候補パターン{PAm,PBn,PMs}の支持回数の数え上げを行う。
【0038】
再び図3に戻り、パターン抽出部201では、数え上げた支持回数が最小支持回数以上であるか否かを判定し(S15)、支持回数が最小支持回数以上の場合、その候補パターンを頻出パターンとし、該項目パターンと支持回数とを頻出パターンリストに追加し(S16)、ステップ20に移って次の候補パターンの作成を行う。ステップ15の判定において支持回数が最小支持回数未満の場合、その候補パターンを稀少パターンリストに追加し(S17)、該パターンから作成可能な部分パターンについて、支持回数上限値計算部213において式(1)により支持回数の上限値を計算し(S18)、計算値が最小支持回数未満の場合には、その部分パターンとその部分パターンの部分パターンすべてが最小支持回数を満たさないことが分かるため、その部分パターンおよびその部分パターンのすべての部分パターンを稀少パターンリストに追加する(S19)。部分パターンの支持回数の上限値が最小支持回数以上の場合には、ステップ19では何もしない。
【0039】
次に、支持回数が未知であり、稀少パターンリストに含まれる項目パターンの上位パターンでない候補パターンが作成可能な場合、候補パターンを作成し(S20)、ステップ21からステップ14に戻って、数え上げ処理を行う。新たな候補パターンが作成出来ない場合、処理を終了する。
【0040】
頻出パターンリストに含まれる頻出パターンと支持回数により、全体の解析結果を得る。頻出パターンと該頻出パターンの支持回数から相関ルールを作成することは、文献1などの従来の手法により行うことが出来る。相関ルールを作成する処理を図6に示す。
【0041】
相関ルールを作成する場合、頻出パターンリストに含まれる各々の頻出パターンについて、該頻出パターンから部分パターンを作成し、該部分パターンを前提部、該頻出パターンに含まれるが該部分パターンに含まれない項目のパターンを結論部とすることにより、相関ルールを作成する。該頻出パターンの支持回数が該相関ルールの支持回数となる。支持度は該支持回数のデータベースの全レコード数との商をとることにより、計算することが出来る。該相関ルールの確信度は該頻出パターンの支持回数の前提部の項目パターンの支持回数との商をとることにより計算することが出来る。結果はディスプレイ等の出力部206に表示される。
【0042】
以上が、解析方法の概要である。このようにパターン抽出部201と各々のデータ処理部202a,202b,…,202m間で局所頻出パターン、IDリスト、共通するIDの数を交換することにより、異なるデータベースにまたがる頻出パターンを抽出することができる。その際、支持回数の上限値を計算することにより、頻出パターンとなり得ない候補パターンの生成を回避して、データ解析処理を行う項目パターンの数を低減することができる。パターン抽出部201は、頻出パターンとその支持回数についての情報を得るが、解析処理の途中経過及び結果から、各々の頻出パターンを含むレコードの識別子を得ることはない。各データ処理部202a,202b,…,202mにおいては、頻出パターンの各々のデータ格納部203a,203b,…,203mに含まれる項目を得るが、全ての項目を得ることはなく、解析処理の途中経過においては、IDリスト、つまり、レコードの識別子のリストを処理するが、どの頻出パターンに対するIDリストであるかを知ることはない。集計データ処理部においても、他のデータ処理部から送信されたIDリストを処理するが、該IDリストに対応する項目のパターンを知ることはなく、頻出パターンの支持回数を得るが、頻出パターンそのものを知ることはない。
【0043】
以上のように、本実施形態によると、異なるデータベースにまたがる頻出パターンについて、頻出パターンと頻出パターンを含むレコードの識別子を同時に得ることなく、頻出パターンと頻出パターンの支持回数を得ることが出来る。また、解析処理の途中経過において、支持回数の上限値を計算することにより、頻出パターンとなり得ない候補パターンを支持回数の数え上げの前に検出し、その候補パターンに対する支持回数の数え上げ処理を回避することにより、候補パターンを限定し、解析処理負荷を低減することが出来る。
【0044】
なお、以上で説明した実施形態では支持回数を利用したが、支持回数の全レコード数との商である支持度を利用することでも同様に解析処理を実施することが可能である。各々のデータベースに含まれるレコードの数が異なる場合は、事前に全てのデータベースに共通するレコードの数を得ることにより、その数を母数として支持度を算出することが可能である。また、相関ルールが不要である場合は、相関ルール作成のステップを省略することも可能である。
以下に、遺伝子データと症例データの2つのデータベースを例にとり、各処理部において行われる処理を説明する。
【0045】
解析対象となるデータベースは複数の属性からなるレコードの集合であり、各々のデータベースに含まれるレコードの属性が異なる。医療における症例データと遺伝子データを例に取ると、1つのレコードは1人の患者に対応し、症例データにおいては各属性は性別、年齢、診断疾患名、処方薬剤など患者の疾病に関連する情報であり、遺伝子データにおいては各属性は遺伝子配列など患者の遺伝子に関連する情報である。
【0046】
症例データと遺伝子データの例を図7に示す。図7の例は、患者IDを識別子とするレコードからなる症例データベース(701)と遺伝子データベース(702)であり、全レコード数を10とする。パターン抽出部201での前処理において、ユーザから支持回数の最小値が4と入力され、データ処理部202aに接続されたデータ格納部203aに症例データが格納され、データ処理部202bに接続されたデータ格納部203bに遺伝子データが格納され、各々のデータ処理部において図8に示す局所頻出パターンが抽出された場合を考える。
【0047】
データ処理部202aにおいて症例データベースに含まれる項目からなる局所頻出パターンとその支持回数と識別子のリスト801、データ処理部202bにおいて遺伝子データベースに含まれる項目からなる局所頻出パターンとその支持回数と識別子のリスト802が抽出され、パターン抽出部201は、データ処理部202aから送信された局所頻出パターンとその支持回数の情報803及びデータ処理部202bから送信された局所頻出パターンとその支持回数の情報804を保持している。
【0048】
パターン抽出部201における候補パターン抽出処理の手順を図9のフローチャートに示す。本実施例の場合、例えば、症例データベースから抽出された局所頻出パターン{(病名=高血圧),(薬剤=薬剤A),(薬剤効果=降圧不十分)}、遺伝子データベースから抽出された局所頻出パターン{(遺伝子1=AA),(遺伝子2=AT)}を結合した場合、{(病名=高血圧),(薬剤=薬剤A),(薬剤効果=降圧不十分),(遺伝子1=AA),(遺伝子2=AT)}の候補パターンが作成される。次に、候補パターンの支持回数の数え上げが行われる。集計データ処理部を遺伝子データベースを保持するデータ処理部202bとした場合、パターン抽出部201はデータ処理部201aに項目パターン{(病名=高血圧),(薬剤=薬剤A),(薬剤効果=降圧不十分)}と集計データ処理部をデータ処理部202bとすることを送信し、データ処理部202bに項目パターン{(遺伝子1=AA),(遺伝子2=AT)}と集計データ処理部をデータ処理部202bとすることを送信する。
【0049】
データ処理部202aでは、パターン抽出部201から送信された項目パターン{(病名=高血圧),(薬剤=薬剤A)}に対応するIDリスト1,2,3,5を取り出し、集計データ処理部であるデータ処理部202bに送信する。データ処理部202bでは、パターン抽出部201から送信された項目パターン{(遺伝子1=AA),(遺伝子2=AT)}に対応するIDリスト1,3,4,6,7を取り出し、データ処理部202aから送信されたIDリスト1,2,3,5と比較し、共通するIDの数を求める。本実施例の場合、ID1,3が共通するため共通するIDの数は2となる。データ処理部202bは共通するIDの数である「2」をパターン抽出部201に送信する。
【0050】
パターン抽出部201では、集計データ処理部に指定したデータ処理部202bから送信された数から、候補パターン{(病名=高血圧),(薬剤=薬剤A),(薬剤効果=降圧不十分),(遺伝子1=AA),(遺伝子2=AT)}の支持回数が2であることを得る。本実施例では最小支持回数は4と設定されたため、この候補パターンは稀少パターンリストに追加される。
【0051】
支持回数を数え上げた項目パターンの支持回数が最小支持回数を満たさなかったため、この項目パターンの部分パターンの支持回数の上限値を計算する。例えば、部分パターン{(病名=高血圧),(薬剤=薬剤A),(遺伝子1=AA),(遺伝子2=AT)}の支持回数の上限値は式(1)から2+min[(5-2),(5-4)]=3と計算され、計算値が最小支持回数未満であることから、この部分パターンは稀少パターンに追加され、該部分パターンの部分パターンについて、再び支持回数の上限値の計算を行う。また、部分パターン{(病名=高血圧),(薬剤=薬剤A),(遺伝子1=AA)}の支持回数の上限値は式(1)から2+min[(5-4),(7-5)]+min[(4-2),(7-5)]+min[(5-2),(5-4)]=6と計算され、最小支持回数未満でないことから、稀少パターンリストには追加せず、該部分パターンの部分パターンについては支持回数の上限値の計算は行わず、支持回数の数え上げを行う候補とする。
【0052】
次に、局所頻出パターンを結合することによって項目パターンを作成し、その項目パターンが稀少パターンリストに含まれる項目パターンの上位パターンでなく、支持回数が未知である場合、作成した項目パターンを候補パターンとして支持回数の数え上げ処理を再び行う。ここで、作成する項目パターンは、既に抽出されている頻出パターンの任意の上位パターン、又は稀少パターンリストに含まれる項目パターンの任意の部分パターン、又は頻出パターンである項目パターンの部分パターンであり、支持回数の数え上げが行なわれていない項目パターンである。例えば、項目パターン{(病名=高血圧),(薬剤=薬剤A),(遺伝子1=AA)}は候補パターンとなる。該候補パターンについても同様に処理することにより、支持回数が5であることを得る。本実施例では最小支持回数は4と設定されたため、該項目パターンを頻出パターンとし、頻出パターンリストに追加する。以上の解析処理を繰り返すことによって、頻出パターンを得る。新たな候補パターンが作成されない場合に処理を終了する。
【0053】
相関ルールを作成する場合、頻出パターンリストに含まれる各々の頻出パターンについて、該頻出パターンの部分パターンを前提部及び結論部とすることにより、相関ルールを作成する。例えば、頻出パターン{(病名=高血圧),(薬剤=薬剤A),(遺伝子1=AA)}の場合、(遺伝子1=AA)を前提部、{(病名=高血圧),(薬剤=薬剤A)}を結論部とし、相関ルールif[(遺伝子1=AA)]then[(病名=高血圧),(薬剤=薬剤A)]が作成され、この相関ルールの支持度は5÷10=0.5、確信度は5÷7=0.71と計算される。その他に、該頻出パターン{(病名=高血圧),(薬剤=薬剤A),(遺伝子1=AA)}から作成可能な全ての部分パターンについて、相関ルールの作成を行うことが可能である。
【0054】
以上の解析処理によって、パターン抽出部201では、データ処理部202aにおいて抽出された局所頻出パターン{(病名=高血圧),(薬剤=薬剤A),(薬剤効果=降圧不十分)}と、データ処理部202bにおいて抽出された局所頻出パターン{(遺伝子1=AA),(遺伝子2=AT)}とを結合して作成された項目パターン{(病名=高血圧),(薬剤=薬剤A),(薬剤効果=降圧不十分),(遺伝子1=AA),(遺伝子2=AT)}について、この項目パターンを満たす患者IDを特定することなく、支持回数が2であることを獲得し、この項目パターンの部分パターン{(病名=高血圧),(薬剤=薬剤A),(遺伝子1=AA),(遺伝子2=AT)}の支持回数が最小支持回数である4以上になり得ないことを獲得する。さらに、集計データ処理部に指定されたデータ処理部202bでは、データ処理部202aから送信されたIDリストに対応する局所頻出パターンは未知であり、数え上げ処理を行っている候補パターンは未知である。データ処理部202aでは、数え上げ処理を行っている候補パターンは未知である。このように、パターン抽出部201、各データ処理部202a,202bの各々が頻出パターンと該頻出パターンに対応する患者IDを特定出来ない状態が維持される。また、項目パターン{(病名=高血圧),(薬剤=薬剤A),(遺伝子1=AA),(遺伝子2=AT)}について、数え上げ処理を行うことなく、支持回数が最小支持回数以上となり得ないことを獲得することによって、不要な項目パターンの数え上げ処理を回避し、数え上げ処理を行う項目パターンの数を低減し、解析処理の負荷を低減出来る。
【0055】
図10は、本発明の第2の実施形態のシステム構成例を示す図である。本実施形態では、1つのパターン抽出部201と1つの集計データ処理部1001と2以上のデータ処理部202a,202b,…,202mが通信路204によって結合され、各々のデータ処理部にデータ格納部203a,203b,…,203mが結合されている。この実施形態の場合、全てのデータ処理部は、図2に示したデータ処理部202aと同等の機能を有する。また、集計データ処理部1001は、図2に示したデータ処理部202bが有していた共通ID計数部222の機能を有する。
【0056】
次に、各部の処理を説明する。はじめに、パターン抽出部201は、ユーザ入力によって最小支持回数を獲得し、それを各データ処理部202a,202b,…,202mに送信する。各データ処理部202a,202b,…,202mは、パターン抽出部201から送信された最小支持回数を受信し、各自に接続されているデータ格納部203a,203b,…,203mから最小支持回数以上の局所頻出パターンを抽出し、抽出した局所頻出パターンとその支持回数をパターン抽出部201に送信する。パターン抽出部201では、全てのデータ処理部から送信される局所頻出パターンと該パターンの支持回数を受信する。
【0057】
次に、パターン抽出部201では、記憶部215に頻出パターンと稀少パターンを保持する領域を用意し、空にする。全てのデータ処理部から局所頻出パターンと支持回数を受信後、候補パターンを作成し、候補パターンを構成する局所頻出パターンを抽出したデータ処理部に対応する局所頻出パターンを送信する。各データ処理部では、パターン抽出部から送信された局所頻出パターンを受信し、該局所頻出パターンに対応するIDリストを取り出し、集計データ処理部1001に送信する。集計データ処理部1001では、各々のデータ処理部から送信されたIDリストを受信し、全てのIDリストに共通するIDの数を数え上げ、そのIDの数をパターン抽出部201に送信する。
【0058】
パターン抽出部201では、集計データ処理部1001から送信されたIDの数を受信することによって、候補パターンの支持回数を獲得する。支持回数が最小支持回数以上の場合、その候補パターンを頻出パターンリストに追加し、支持回数が最小支持回数未満の場合、稀少パターンリストに追加し、その候補パターンの部分パターンを作成し、支持回数の上限値を計算することと、最小支持回数以上となり得ない項目パターンを検出し、稀少パターンに追加することを行う。次に、パターン抽出部において、新たな候補パターンを作成し、支持回数の数え上げ処理を繰り返すことによって、頻出パターンと支持回数を抽出する。以上のように、第1の実施形態においてデータ処理部が重複して行っていた集計データ処理部を独立に配置することによって、データ解析を行うことも出来る。
【0059】
図11は、本発明の第3実施形態のシステム構成例を示す図である。本実施形態では、2以上のデータ処理部202a,202b,…,202mが通信路204によって結合され、各々のデータ処理部にデータ格納部203a,203b,…,203mが結合されている。第1の実施形態では、1つのパターン抽出部と2以上のデータ処理部が通信路により結合され、各々のデータ処理部にデータ格納部が結合されていた。第3の実施形態では、パターン抽出部は独立に配置せず、各データ処理部202a,202b,…,202mがパターン抽出部の処理を重複して行う。
【0060】
各部の処理を説明する。はじめに、任意のデータ処理部において、最小支持回数を獲得し、各々のデータ処理部に送信する。各データ処理部202a,202b,…,202mは、最小支持回数を獲得したデータ処理部から送信された最小支持回数を受信し、局所頻出パターンを抽出し、局所頻出パターンとその支持回数を他のデータ処理部に送信する。次に、他のデータ処理部から送信された局所頻出パターンと支持回数を受信し、記憶部に頻出パターンと稀少パターンを保持する領域を用意し、空にした後、候補パターンを作成し、集計データ処理部を決定する。ここで、候補パターンを作成したデータ処理部と集計データ処理部とが異なるデータ処理部となるようにする。
【0061】
次に、候補パターンを構成する局所頻出パターンを抽出したデータ処理部に各々対応する局所頻出パターンと集計データ処理部の位置を送信する。次に、候補パターンを作成したデータ処理部から送信された局所頻出パターンと集計データ処理部の位置を受信し、受信した局所頻出パターンに対応するIDリストを取り出し、そのIDリストを集計データ処理部に送信する。集計データ処理部では、各データ処理部から送信されたIDリストを受信し、全てのIDリストに共通するIDの数を数え上げ、そのIDの数を候補パターンを作成したデータ処理部に送信する。
【0062】
候補パターンを作成したデータ処理部では、集計データ処理部から送信されたIDの数を受信し、候補パターンとその支持回数を得る。支持回数が最小支持回数以上の場合、その候補パターンを頻出パターンリストに追加し、支持回数が最小支持回数未満の場合、稀少パターンリストに追加し、その候補パターンの部分パターンを作成し、支持回数の上限値を計算することと、最小支持回数以上となり得ない項目パターンを検出し、稀少パターンに追加することを行なう。次に、任意のデータ処理部において、新たな候補パターンを作成し、支持回数の数え上げ処理を繰り返すことによって、頻出パターンと支持回数を抽出する。以上のように、パターン抽出部を独立に配置せず、各々のデータ処理部がパターン抽出部の処理を重複して行うことによって、データ解析を行うことも出来る。
【0063】
なお、ここでは、全てのデータ処理部が全ての頻出パターンを抽出する場合について説明したが、各データ処理部において処理した項目パターンを他のデータ処理部に送信することによって、同一の項目パターンへの処理を回避することが可能である。また、各データ処理部が処理する項目パターンを特定することによって、同一の項目パターンの処理を回避することも可能である。また、全てのデータ処理部がパターン抽出部の処理を行わず、特定の一部のデータ処理部がパターン抽出部の処理を行うことによって、解析処理を実現することも可能である。
【0064】
図12は、本発明の第4実施形態のシステム構成例を示す図である。本実施形態では、1つのパターン抽出部201と1以上の識別子変換部1201a,…,1201nと2以上のデータ処理部202a,202b,…,202mが通信路204によって結合され、各データ処理部にデータ格納部203a,203b,…,203mが接続されている。各データ格納部203a,203b,…,203mに保持されるデータベースに含まれるレコードがデータベース間で同一の識別子によって対応付けられておらず、各々のレコードは特定の変換方式により変換された識別子によって対応付けられる場合、データ処理部から集計データ処理部に識別子のリストの送信する処理において、識別子変換部を介する。
【0065】
各部の処理においては、第1の実施形態の項目パターンの支持回数を数え上げる処理において、パターン抽出部から送信された項目パターンに対応する識別子のリストを識別子変換部に送信し、識別子変換部において特定の識別子の変換が行なわれ、変換された識別子のリストを集計データ処理部に送信する処理が第1の実施形態と異なる。以上のように識別子変換部がレコードの識別子を変換することによって、データベースに含まれるレコードの識別子が異なる構成においても、データ解析を行なうことが出来る。
以下に、遺伝子データと症例データの2つのデータベースを例にとり、各処理部において行われる処理を説明する。
【0066】
症例データベースと遺伝子データの例を図13に示す。図13の例は、患者IDを識別子とするレコードからなる症例データベース1301と検体IDを識別子とするレコードからなる遺伝子データベース1302であり、全レコード数を10とする。症例データベースのレコードは患者IDで管理され、遺伝子データベースのレコードは検体IDで管理されており、それぞれは異なる識別子で構成される。患者IDと検体IDは、識別子変換表により対応付けられている。
【0067】
パターン抽出部201での前処理において、ユーザから支持回数の最小値の入力値が4と入力され、データ処理部202aに接続されたデータ格納部203aに症例データが格納され、データ処理部202bに接続されたデータ格納部203bに遺伝子データが格納され、各々のデータ処理部において図14に示す局所頻出パターンが抽出され、識別子変換表1405が識別子変換部1201に格納された場合を考える。
【0068】
図14において、データ処理部202aにおいて症例データベースに含まれる項目からなる局所頻出パターンとその支持回数と識別子のリスト1401、データ処理部202bにおいて遺伝子データベースに含まれる項目からなる局所頻出パターンとその支持回数と識別子のリスト1402が抽出され、パターン抽出部201においてデータ処理部202aから送信された局所頻出パターンとその支持回数の情報1403及びデータ処理部202bから送信された局所頻出パターンとその支持回数の情報1404を保持している。
【0069】
この例の場合、症例データベースから抽出された局所頻出パターン{(病名=高血圧),(薬剤=薬剤A),(薬剤効果=降圧不十分)}、遺伝子データベースから抽出された局所頻出パターン{(遺伝子1=AA),(遺伝子2=AT)}を結合した場合、{(病名=高血圧),(薬剤=薬剤A),(薬剤効果=降圧不十分),(遺伝子1=AA),(遺伝子2=AT)}の候補パターンが作成される。次に、候補パターンの支持回数の数え上げが行われる。集計データ処理部を遺伝子データベースを保持するデータ処理部202bとした場合、パターン抽出部201はデータ処理部202aに項目パターン{(病名=高血圧),(薬剤=薬剤A),(薬剤効果=降圧不十分)}と集計データ処理部をデータ処理部202bとすることを送信し、データ処理部202bに項目パターン{(遺伝子1=AA),(遺伝子2=AT)}と集計データ処理部をデータ処理部202bとすることを送信する。
【0070】
データ処理部202aでは、パターン抽出部201から送信された項目パターン{(病名=高血圧),(薬剤=薬剤A)}に対応するIDリスト1,2,3,5を取り出し、集計データ処理部の位置と共に識別子変換部1201に送信する。識別子変換部1201では、受信したIDリスト1,2,3,5に対応するIDのリストa,b,c,eを受信した集計データ処理部の位置であるデータ処理部202bに送信する。データ処理部202bでは、パターン抽出部201から送信された項目パターン{(遺伝子1=AA),(遺伝子2=AT)}に対応するIDリストa,c,d,f,gを取り出し、識別子変換部1201から送信されたIDリストa,b,c,eと比較し、共通するIDの数を求める。この例の場合、IDa,cが共通するため共通するIDの数は2となる。データ処理部202bは共通するIDの数である2をパターン抽出部201に送信する。
【0071】
パターン抽出部201では、集計データ処理部に指定したデータ処理部202bから送信された数から、候補パターン{(病名=高血圧),(薬剤=薬剤A),(薬剤効果=降圧不十分),(遺伝子1=AA),(遺伝子2=AT)}の支持回数が2であることを得る。以上の処理により、候補パターンの支持回数を得る。頻出パターンか否かの判別、頻出パターンリスト又は稀少パターンリストへの追加、部分パターンの支持回数の上限値の計算、候補パターンの作成は実施例1と同様となる。
【0072】
以上の解析処理によって、データベース毎にレコードの識別子が同一でない場合においても、パターン抽出部では、データ処理部202aにおいて抽出された局所頻出パターン{(病名=高血圧),(薬剤=薬剤A),(薬剤効果=降圧不十分)}と、データ処理部202bにおいて抽出された局所頻出パターン{(遺伝子1=AA),(遺伝子2=AT)}とを結合して作成された項目パターン{(病名=高血圧),(薬剤=薬剤A),(薬剤効果=降圧不十分),(遺伝子1=AA),(遺伝子2=AT)}について、該項目パターンを満たす患者ID、検体IDを特定することなく、支持回数が2であることを獲得する。
なお、本実施例においては識別子変換部1201を独立して配置したが、識別子変換部の処理をデータ処理部が重複して行うことも可能である。
【0073】
また、以上に説明した実施形態においては、データ処理部は各々の局所頻出パターンを含むレコードの識別子のリストであるIDリストを保持する形態であったが、データ処理部はIDリストを保持せず、支持回数の数え上げ処理において、各々のデータ処理部がパターン抽出部から送信された項目パターンを含むレコードを自データ格納部を検索し、IDリストを作成することによって、頻出パターンと支持回数を抽出することも出来る。
【0074】
【発明の効果】
本発明によると、複数の異なるデータベースから、データベース間にまたがる項目パターンとその項目パターンを含むレコード数を分散処理によって抽出することが出来る。また、データベースを統合することを回避し、解析処理の途中過程においてもデータベースを統合するための情報の漏洩を防ぐため、データベースを統合することが許されない場合にもデータベース間にまたがる項目パターンを抽出することが出来る。また、含まれるレコード数が既知の項目パターンから、該項目パターンの部分集合である項目パターンを含むレコード数の上限値を推定して、探索する候補数を限定することにより、解析処理量を低減することが出来る。
【図面の簡単な説明】
【図1】 Apriori法の概要を示すフローチャート。
【図2】本発明の第1実施形態のシステム構成例を示す図。
【図3】本発明における、頻出パターン抽出の概要を示すフローチャート。
【図4】局所頻出パターン抽出処理を示すフローチャート。
【図5】候補パターンの支持回数を数え上げる処理を示すフローチャート。
【図6】相関ルールを作成する処理を示すフローチャート。
【図7】本発明の実施例における、解析対象データベースの例を示す図。
【図8】本発明の実施例における、局所頻出パターン抽出結果の例を示す図。
【図9】本発明における、候補パターン生成の処理を示すフローチャート。
【図10】本発明の第2の実施形態のシステム構成例を示す図。
【図11】本発明の第3実施形態のシステム構成例を示す図。
【図12】本発明の第4実施形態のシステム構成例を示す図。
【図13】本発明の実施例における、解析対象データベースの例を示す図。
【図14】本発明の実施例における、局所頻出パターン抽出結果の例を示す図。
【符号の説明】
201…パターン抽出装置、202…データ処理装置、203…データ格納装置、204…通信路、701…症例データベース、702…遺伝子データベース、801…症例データベースによる局所頻出パターンリスト、802…遺伝子データベースによる局所頻出パターンリスト、803…症例データベースによる局所頻出パターン表、804…遺伝子データベースによる局所頻出パターン表、1001…集計データ処理装置、1201…識別子変換装置、1301…症例データベース、1302…遺伝子データベース、1401…症例データベースによる局所頻出パターンリスト、1402…遺伝子データベースによる局所頻出パターンリスト、1403…症例データベースによる局所頻出パターン表、1404…遺伝子データベースによる局所頻出パターン表、1405…識別子変換表

Claims (11)

  1. 複数の処理部にてそれぞれ個別に管理される複数のデータベースにおける属性と属性値の組を項目、項目の組合せを項目パターンとするとき、2以上のデータベースにまたがる項目パターンを抽出する項目パターン抽出方法であって、
    前記複数の処理部が管理するデータベースから抽出した項目パターンをパターン抽出部に集中する第1のステップと、
    前記パターン抽出部において、第1のデータベースから抽出された第1の項目パターンと前記第1のデータベースとは異なる第2のデータベースから抽出された第2の項目パターンの組み合わせを含む結合項目パターンを生成し、前記第1のデータベースを管理する第1の処理部に前記第1の項目パターンを、前記第2のデータベースを管理する第2の処理部に前記第2の項目パターンを報知する第2のステップと、
    前記第1の項目パターンを含む前記第1のデータベース中のレコードの識別子リスト及び前記第2の項目パターンを含む前記第2のデータベース中のレコードの識別子リストを、前記第1及び第2の処理部から前記パターン抽出部とは異なる集計処理部に集中する第3のステップと、
    前記集計処理部において、前記集中された全ての識別子リストに共通する識別子の数を計数し、その数を前記パターン抽出部に送信する第4のステップとを含むことを特徴とする項目パターン抽出方法。
  2. 請求項1記載の項目パターン抽出方法において、前記パターン抽出部及び/又は前記集計処理部は、前記処理部が兼用していることを特徴とする項目パターン抽出方法。
  3. 請求項1記載の項目パターン抽出方法において、前記複数の処理部は、前記第1のステップにおいて項目パターンを含むレコードの数である支持回数が指定された最小支持回数以上の項目パターンを抽出し、前記パターン抽出部は、前記第2のステップにおいて支持回数が未知である結合項目パターンを作成し、更に、前記第4のステップで前記集計処理部から送信された数を参照して支持回数が最小支持回数以上となる結合項目パターンを選出することを特徴とする項目パターン抽出方法。
  4. 請求項3記載の項目パターン抽出方法において、前記パターン抽出部は、支持回数が既知の結合項目パターン中の項目の部分集合である支持回数が未知の項目パターンの支持回数の上限値を、当該結合項目パターンの支持回数及び当該結合項目パターンの部分集合である項目パターンの既知の支持回数から計算するステップと、前記計算した支持回数の上限値が前記最小支持回数未満である結合項目パターンを前記第2のステップで生成する結合項目パターンの候補から削除するステップとを更に有することを特徴とする項目パターン抽出方法。
  5. 請求項4記載の項目パターン抽出方法において、m個(mは2以上の整数)のデータベースについて、i番目のデータベースに含まれる項目からなる項目パターンをX(i)、項目パターンX(i)中の項目の部分集合からなる項目パターンをX’(i)、結合項目パターンをX(1)X(2)…X(m)、項目パターンXの支持回数をS(X)とするとき、前記結合項目パターン中の部分集合からなる項目パターンX’(1)X’(2)…X’(m)の支持回数の上限値Upper(X’(1)X’(2)…X’(m))を下式によって計算することを特徴とする項目パターン抽出方法。
    Figure 0003701633
  6. 請求項2記載の項目パターン抽出方法において、前記第2のステップにおいて前記パターン抽出部は、前記第1及び第2の処理部に前記集計処理部の位置を報知することを特徴とする項目パターン抽出方法。
  7. 請求項1記載の項目パターン抽出方法において、前記結合項目パターンの部分パターンを前提部、前記部分パターンを除いた前記結合項目パターンの残部のパターンを結論部とする相関ルールを作成するステップと、前記結合パターンの支持回数を前記部分パターンの支持回数で割り算して前記相関ルールの確信度を計算するステップとを更に有することを特徴とする項目パターン抽出方法。
  8. 複数の処理装置とパターン抽出処理装置と集計処理装置とがネットワーク接続され、前記複数のデータ処理装置にてそれぞれ個別に管理される複数のデータベースにおける属性と属性値の組を項目、項目の組合せを項目パターンとするとき、2以上のデータベースにまたがる項目パターンを抽出する機能を有するネットワークシステムであって、
    前記データ処理装置は、各々が管理しているデータベースから項目パターンと当該項目パターンを満たすレコードの識別子の組を抽出する項目パターン抽出部を備え、前記項目パターン抽出部で抽出した項目パターンを前記パターン抽出処理装置に送信し、前記送信した項目パターンのうち前記パターン抽出装置によって指定された項目パターンを含むレコードの識別子のリストを指定された集計処理装置に送信する処理を行い、
    前記パターン抽出処理装置は、前記複数のデータ処理装置から受信した項目パターンを記憶する項目パターン記憶部と、前記項目パターン記憶部に記憶されている項目パターンを参照し、異なるデータ処理装置から受信した項目パターン同士を組み合わせて結合項目パターンを生成する結合項目パターン生成部とを備え、前記結合項目パターン生成部で生成した結合項目パターンの構成要素たる項目パターンが由来するデータ処理装置に当該項目パターンと前記集計処理部の位置を送信し、前記集計処理部から受信した数値を前記結合項目パターンの支持回数として計数する処理を行い、
    前記集計処理装置は、受信した全ての識別子のリストに共通する識別子の数を計数する共通識別子計数部を備え、前記共通識別子計数部によって計数された数値を前記パターン抽出処理装置に送信する処理を行うことを特徴とするネットワークシステム。
  9. 請求項8記載のネットワークシステムにおいて、前記パターン抽出処理装置及び/又は前記集計処理装置は前記データ処理装置が兼用していることを特徴とするネットワークシステム。
  10. 複数の処理部にてそれぞれ個別に管理される複数のデータベースにおける属性と属性値の組を項目、項目の組合せを項目パターンとするとき、2以上のデータベースにまたがる項目パターンを抽出する処理の一部を行う処理装置であって、
    複数の処理部から送られてきた項目パターンを記憶する項目パターン記憶部と、
    前記項目パターン記憶部に記憶された項目パターンを参照し、第1の処理部から送られてきた第1の項目パターンと前記第1の処理部とは異なる第2の処理部から送られてきた第2の項目パターンの組み合わせを含む結合項目パターンを生成する結合項目パターン生成部と、
    前記第1の項目パターンと集計処理部の位置を前記第1の処理部に、前記第2の項目パターンと前記集計処理部の位置を前記第2の処理部に送信し、前記第1の処理部に対して前記第1の項目パターンを含むレコードの識別子リストの送信を促すと共に前記第2の処理部に対して前記第2の項目パターンを含むレコードの識別子リストの送信を促し、前記集計処理部から受信する数値を前記結合項目パターンの支持回数として計数する支持回数計数部とを含むことを特徴とする処置装置。
  11. 請求項10記載の処理装置において、m個(mは2以上の整数)のデータベースについて、i番目のデータベースに含まれる項目からなる項目パターンをX(i)、項目パターンX(i)中の項目の部分集合からなる項目パターンをX’(i)、支持回数が既知の結合項目パターンをX(1)X(2)…X(m)、項目パターンXの支持回数をS(X)とするとき、前記結合項目パターン中の部分集合からなる項目パターンX’(1)X’(2)…X’(m)の支持回数の上限値Upper(X’(1)X’(2)…X’(m))を下式によって計算する支持回数上限値計算部を備えることを特徴とする処置装置。
    Figure 0003701633
JP2002181135A 2002-06-21 2002-06-21 複数データベースにまたがる項目パターン抽出方法、ネットワークシステム及び処理装置 Expired - Fee Related JP3701633B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2002181135A JP3701633B2 (ja) 2002-06-21 2002-06-21 複数データベースにまたがる項目パターン抽出方法、ネットワークシステム及び処理装置
US10/231,259 US20030236785A1 (en) 2002-06-21 2002-08-30 Method of extracting item patterns across a plurality of databases, a network system and a processing apparatus
EP02019152A EP1376397A3 (en) 2002-06-21 2002-08-30 Method of extracting item patterns across a plurality of databases, a network system and a processing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002181135A JP3701633B2 (ja) 2002-06-21 2002-06-21 複数データベースにまたがる項目パターン抽出方法、ネットワークシステム及び処理装置

Publications (2)

Publication Number Publication Date
JP2004029902A JP2004029902A (ja) 2004-01-29
JP3701633B2 true JP3701633B2 (ja) 2005-10-05

Family

ID=29717532

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002181135A Expired - Fee Related JP3701633B2 (ja) 2002-06-21 2002-06-21 複数データベースにまたがる項目パターン抽出方法、ネットワークシステム及び処理装置

Country Status (3)

Country Link
US (1) US20030236785A1 (ja)
EP (1) EP1376397A3 (ja)
JP (1) JP3701633B2 (ja)

Families Citing this family (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100500329B1 (ko) * 2001-10-18 2005-07-11 주식회사 핸디소프트 워크플로우 마이닝 시스템 및 방법
US7756853B2 (en) * 2003-08-18 2010-07-13 Oracle International Corporation Frequent itemset counting using subsets of bitmaps
US7433879B1 (en) * 2004-06-17 2008-10-07 Versata Development Group, Inc. Attribute based association rule mining
US7698170B1 (en) 2004-08-05 2010-04-13 Versata Development Group, Inc. Retail recommendation domain model
US7720720B1 (en) 2004-08-05 2010-05-18 Versata Development Group, Inc. System and method for generating effective recommendations
US7966219B1 (en) * 2004-09-24 2011-06-21 Versata Development Group, Inc. System and method for integrated recommendations
JP2006227896A (ja) * 2005-02-17 2006-08-31 Fuji Xerox Co Ltd 情報分析装置、情報分析方法およびプログラム
US8700607B2 (en) * 2005-08-02 2014-04-15 Versata Development Group, Inc. Applying data regression and pattern mining to predict future demand
US7979473B2 (en) 2005-10-07 2011-07-12 Hitachi, Ltd. Association rule extraction method and system
JP4916713B2 (ja) * 2005-12-21 2012-04-18 株式会社エヌ・ティ・ティ・データ 遺伝子情報管理システム
WO2007124616A1 (en) * 2006-04-27 2007-11-08 Intel Corporation System based method for content-based partitioning and mining
US20080075057A1 (en) * 2006-09-25 2008-03-27 Mediatek Inc. Frequency correction burst detection
WO2008111424A1 (ja) 2007-03-09 2008-09-18 Nec Corporation フィールド照合方法及びシステムと、そのプログラム
JP4829317B2 (ja) * 2009-02-06 2011-12-07 株式会社東芝 構造化文書間整合管理装置及びプログラム
US9418120B2 (en) 2009-12-14 2016-08-16 New Bis Safe Luxco S.À R.L Method and system for optimizing the arrangement of spatial elements
JP5528292B2 (ja) * 2010-10-14 2014-06-25 インターナショナル・ビジネス・マシーンズ・コーポレーション 意味のある頻出アイテムセットを抽出するシステム、方法及びプログラム
US9213698B1 (en) * 2011-02-02 2015-12-15 Comindware Ltd. Unified data architecture for business process management and data modeling
JP5455978B2 (ja) * 2011-06-08 2014-03-26 株式会社東芝 パターン抽出装置及び方法
JP5835993B2 (ja) * 2011-08-05 2015-12-24 Juki株式会社 生産管理装置および部品実装システム
JP6245571B2 (ja) * 2013-11-08 2017-12-13 国立大学法人佐賀大学 データ構造、データ生成装置、その方法及びプログラム
CN103914528B (zh) * 2014-03-28 2017-02-15 南京邮电大学 一种关联分析算法的并行化方法
JP6223889B2 (ja) * 2014-03-31 2017-11-01 株式会社東芝 パターン発見装置、およびプログラム
CN104699755B (zh) * 2015-01-07 2017-12-29 中国电子科技集团公司第三十研究所 一种基于数据挖掘的智能化多目标综合识别方法
US11568177B2 (en) * 2015-01-19 2023-01-31 Kabushiki Kaisha Toshiba Sequential data analysis apparatus and program
CN105574350B (zh) * 2015-12-30 2018-02-06 北京锐安科技有限公司 事件预测方法
CN106682136B (zh) * 2016-12-19 2018-03-16 刘凯 一种基于数据挖掘的中医医学文献分类及存储方法
CN106777137B (zh) * 2016-12-19 2018-03-16 谭红春 一种中医学文献分析方法
CN109376181A (zh) * 2018-09-25 2019-02-22 深圳市元征科技股份有限公司 一种数据挖掘方法及相关设备
EP3758279A1 (en) * 2019-06-27 2020-12-30 Koninklijke Philips N.V. Selective disclosure of attributes and data entries of a record
WO2023228560A1 (ja) * 2022-05-23 2023-11-30 株式会社Nttドコモ データ集計装置

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5794209A (en) * 1995-03-31 1998-08-11 International Business Machines Corporation System and method for quickly mining association rules in databases
US5758147A (en) * 1995-06-28 1998-05-26 International Business Machines Corporation Efficient information collection method for parallel data mining
US5742811A (en) * 1995-10-10 1998-04-21 International Business Machines Corporation Method and system for mining generalized sequential patterns in a large database
US6952693B2 (en) * 2001-02-23 2005-10-04 Ran Wolff Distributed mining of association rules

Also Published As

Publication number Publication date
EP1376397A2 (en) 2004-01-02
US20030236785A1 (en) 2003-12-25
EP1376397A3 (en) 2005-01-05
JP2004029902A (ja) 2004-01-29

Similar Documents

Publication Publication Date Title
JP3701633B2 (ja) 複数データベースにまたがる項目パターン抽出方法、ネットワークシステム及び処理装置
Sagin et al. Determination of association rules with market basket analysis: application in the retail sector
Angst et al. Performance effects related to the sequence of integration of healthcare technologies
US5724488A (en) Fuzzy logic entity behavior profiler
US20110004626A1 (en) System and Process for Record Duplication Analysis
Varshney et al. Predicting employee expertise for talent management in the enterprise
JPH08272825A (ja) データ分析方法
US9798753B1 (en) Search result snapshot histories
CN1347529A (zh) 数据仓库环境下使信息可视化的方法
JPWO2007043199A1 (ja) 相関ルールを抽出する方法及びシステム
Enriko Comparative study of heart disease diagnosis using top ten data mining classification algorithms
Hsu et al. Exploration mining in diabetic patients databases: findings and conclusions
Lisnawati et al. Data Mining with Associated Methods to Predict Consumer Purchasing Patterns.
Pavithra et al. Effective heart disease prediction systems using data mining techniques
Wang et al. Multiple valued logic approach for matching patient records in multiple databases
Wang et al. Predicting credit card holder churn in banks of China using data mining and MCDM
KR101401225B1 (ko) 문서 분석 시스템
Choi et al. Classification and sequential pattern analysis for improving managerial efficiency and providing better medical service in public healthcare centers
CN112307028A (zh) 跨数据信息知识模态的面向本质计算的差分内容推荐方法
JP4250285B2 (ja) 疾病別診療報酬明細書分析システム
Jung et al. Hierarchical business process clustering
Agapito et al. Association rule mining from large datasets of clinical invoices document
Tamvakis et al. Optimizing voting classification using cluster analysis on medical diagnosis data
Mitchell et al. Vertical integration versus physician owners: trends in practice structure among breast cancer surgeons
Zou et al. A combinatorial optimization approach for multi-label associative classification

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20041005

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20041203

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20050308

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050407

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20050602

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20050705

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20050713

LAPS Cancellation because of no payment of annual fees