JP3667997B2 - データベース管理装置 - Google Patents

データベース管理装置 Download PDF

Info

Publication number
JP3667997B2
JP3667997B2 JP17440398A JP17440398A JP3667997B2 JP 3667997 B2 JP3667997 B2 JP 3667997B2 JP 17440398 A JP17440398 A JP 17440398A JP 17440398 A JP17440398 A JP 17440398A JP 3667997 B2 JP3667997 B2 JP 3667997B2
Authority
JP
Japan
Prior art keywords
processing
data
arithmetic processing
node
database
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP17440398A
Other languages
English (en)
Other versions
JPH10326215A (ja
Inventor
正士 土田
幸生 中野
信男 河村
和義 根岸
俊一 鳥居
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP17440398A priority Critical patent/JP3667997B2/ja
Publication of JPH10326215A publication Critical patent/JPH10326215A/ja
Application granted granted Critical
Publication of JP3667997B2 publication Critical patent/JP3667997B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Multi Processors (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

【0001】
【産業上の利用分野】
本発明は、デ−タベ−ス管理装置に関し、特に、リレ−ショナルデ−タベ−ス管理システムおよびそのシステムに適した問合せの並列処理に好適なデ−タベ−ス管理装置に関する。
【0002】
【従来の技術】
デ−タベ−ス管理システム(以下DBMSと略記)、特に、リレ−ショナルDBMSは、非手続き的な言語で表現された問合せを処理し、内部処理手順を決定し、内部処理手順に従って実行する。このデータベース言語としては、SQLが用いられる(Database Language SQL ISO 9075:1989)。従来の問合せ処理の主な方法には、予め設定した規則に基づいて単一の内部処理手順を決定するものと、各種統計情報を用いて選定された複数の候補処理手順から、コスト評価により、最適と思われるものを決定するものとがある。前者は、処理手順作成のための負荷は小さいけれども、一律に設定された規則の妥当性に問題があり、選ばれた内部処理手順の最適性にも問題がある。後者は、各種統計情報の管理し、複数の候補処理手順の作成し、それらのコスト評価のための負荷を算出して最適な処理手順を与える。上記両者の組合せ技術としては、例えば、Satoh,K.,et.al."Local and Global Optimization Mechanisms for Relational Database", Proc. VLDB, 1985.がある。該従来技術では、問い合わせの条件からデータ量を推定して処理手順を決めている。
【0003】
また、多くのDBMSは、問合せ解析処理と問合せ実行処理との2フェーズの処理を経て、問合せ処理が実現される。ホスト言語(COBOL、PL/I等)に問合せ言語を組み込む場合、当アプリケ−ションプログラム実行前に予め問合せを問合せ解析処理し、実行形式である1つの内部処理手順を作成している。この問合せ表現では、多くの場合、検索条件式にはホスト言語の変数が記述される。この変数に定数が代入されるのは、既に問合せ解析処理された結果の内部処理手順の実行時、すなわち、問合せ実行時である。この場合の問題点としては、変数に代入される値に従って複数の最適な処理手順が考えられることである。この問題を解決するために、問合せ実行処理時に複数の処理手順を作成しておき、問合せ実行時に変数に代入された値に従って処理手順を選択するものがある。コードの技術に関するものとしては、特開平1−194028号公報、および、Graefe,G.,et.al."Dynamic Query Evaluation Plans", Proc. ACM-SIGMOD, 1989.に記載されている技術がある。
【0004】
さらに、CPU性能、ディスク容量の延びを上回るような、トランザクション量の増大、データベース量の増大に対応して、スケーラブルな並列データベースシステムの提供がユーザから望まれている。データベースシステムに対するユーザの性能要件として、数万を超える同時実行ユーザ数への対応、テラバイト単位の検索トランザクションの出現、表サイズに比例しない応答時間の保証がある。並列データベースシステムは、近年のハードウェアコストの低減と相まって、注目を浴びている。並列データベースシステムについては、DeWitt,D.,et.al.:"Parallel Database Systems: The Future of High Performance Database Systems", CACM, Vol.35, No.6, 1992.に記載の技術がある。そのようなシステムでは、密結合あるいは疎結合にプロセッサを接続し、データベース処理を複数のプロセッサに静的/動的に処理を配分し、スケジュールする必要がある。並列度を増せば応答性能は向上するが、過度の並列度は逆にオーバヘッドの増大、他トランザクションの応答時間の延び等の影響がある。そのため、適度な並列度の設定が重要である。
【0005】
デ−タベ−ス処理において、処理対象となるデ−タは、二次記憶装置上に存在し、各デ−タベ−ス演算に対して大量デ−タの読み出しおよび転送が必要となる。並列デ−タベ−スシステムにおいても、転送するデ−タが大量となる場合、デ−タ転送時間がデ−タベ−スシステムの性能ネックとなる。そこで、二次記憶装置からデ−タを転送する時間を有効活用する方法が考えられる。これは、デ−タの転送時間と当該デ−タに対するデ−タベ−ス処理に要する時間とをオ−バラップさせるものであり、従来技術として良く知られている。この方式は、相互結合ネットワークで接続されるプロセッサ群間のデータ転送にも適用可能である。
【0006】
【発明が解決しようとする課題】
上記従来技術において、問合せ最適化処理とは、ユ−ザが入力した問合せからデ−タベ−スシステムの各種統計情報を基にし、最も効率の良い処理手順をDBMSが自動判定するものである。さらに、問合せの選択条件式に変数が埋め込まれている場合には、複数の処理手順を問合せ解析時に展開しておき、問合せ実行時に当変数に代入される値に従って処理手順を選択することによって、最適な処理手順が選択される。
【0007】
並列データベース処理では、各ノード(プロセッサあるいはプロセッサとディスク装置との対)へデータベース演算が分割され、各ノードで各データベース演算が並列にあるいはパイプライン的に動作する。上記従来技術によれば、この並列処理形態でも、各ノードで処理手順を選択する方法は適用可能である。
【0008】
しかし、並列に動作する処理では、同時間にそれぞれのノードが並行処理をするが、各ノードで実行するデータベース演算に対応して各ノード数を決定できないという問題がある。すなわち、ノード数を決定する基準が明確でないために、過度の並列化は逆にオーバヘッドの増大等の影響があり、最適に負荷分散することが困難である。
【0009】
また、パイプライン動作させる処理では各ノードへデータベース演算が分割格納されるが、データの分割にバラツキが存在する場合、各ノードへの均等分割方法が明確でない。
【0010】
さらに、処理時間の制約があったときなどのように、その時間内で複数の処理を行う場合において、各ノードで実行する各データベース演算をパラメータ化し、期待する処理時間に基づいて時間調整(チューニング)をする方法も明確でない。
【0011】
本発明の目的は、問合せ処理を高速化する問い合わせ処理方法およびデータベースシステムを提供することにある。
【0012】
【課題を解決するための手段】
本発明は、上記課題を解決するため、データの演算処理を行う複数の演算処理部と、自処理部に分散格納されたデータベースから取り出したデータを、当該データの演算キーおよび自処理部に設定されたデータ分配情報に従って演算処理部に分配する複数の分配処理部と、を有するデータベース管理システムに用いられ、入力された問合せに対する演算処理を実行する演算処理部を決定するデータベース管理装置であって、処理時間と演算処理部数との対応関係を用いて、前記分配処理部における処理時間に対応する演算処理部数を特定し、前記問合せに対するマージ処理を実行する前記特定した演算処理部数の演算処理部を決定する手段と、前記データベースのデータを均等に分割するための演算キーの最適化情報に従い、前記問合せに対する演算処理を実行する前記特定した演算処理部数の演算処理部各々に割当てる演算キーの分割範囲が記述されたデータ分配情報を、前記分配処理部に設定する手段と、を有する
【0013】
また、本発明は、データの演算処理を行う複数の演算処理部と、自処理部に分散格納されたデータベースから取り出したデータを、当該データの演算キーに対するハッシュ値および自処理部に設定されたデータ分配情報に従って演算処理部に分配する複数の分配処理部と、を有するデータベース管理システムに用いられ、入力された問合せに対する演算処理を実行する演算処理部を決定するデータベース管理装置であって、処理時間と演算処理部数との対応関係を用いて、前記分配処理部における処理時間に対応する演算処理部数を特定し、前記問合せに対する演算処理を実行する前記特定した演算処理部数の演算処理部を決定する手段と、前記問合せに対する演算処理を実行する前記特定した演算処理部数の演算処理部各々に割当てる、前記データベースのデータの演算キーに対するハッシュ値が記述されたデータ分配情報を、前記分配処理部に設定する手段と、を有する
【0047】
【実施例】
以下、本発明の実施例を図面に基づいて詳細に説明する。
【0048】
図2は、本実施例のデ−タベ−スシステムの概念図を示している。図2において、デ−タベ−スシステムは、ユ−ザが作成した、複数のアプリケ−ションプログラム(以下、APと略記する)10および11と、問合せ処理やリソ−ス管理等デ−タベ−スシステム全体の管理を行うDBMS20と、デ−タベ−ス処理において、入出力処理対象となるデ−タの読書きを行い、計算機システム全体の管理を受け持つオペレ−ティングシステム(以下では、オペレ−ティングシステムをOSと略記する)30と、デ−タベ−ス処理対象となるデ−タを格納するデ−タベ−ス40と、データベースの定義情報を管理するディクショナリ50とを有する。DBMS20は、他のデータベース管理システムと接続されている。ディクショナリ50には、本実施例において使用する結合カラムに関する最適化情報なども記憶されている。
【0049】
上記DBMS20は、システム全体の管理、制御に加えて、入出力の管理等を行うシステム制御部21と、問い合わせに関する論理処理を行う論理処理部22と、データベースの物理処理を実行する物理処理部23と、当DBMS20で処理対象となるデータを格納するデータベースバッファ24とを備える。また、論理処理部22は、問合せの構文解析、意味解析を行う問合せ解析220、適切な処理手順を生成する静的最適化処理221、処理手順に対応したコ−ドの生成を行なうコード生成222、静的最適化処理221で生成された処理手順候補から最適なものを選択する動的最適化処理223、および、当コードの解釈実行を行うコード解釈実行部224を備える。また、物理処理部23は、アクセスしたデ−タの条件判定、編集、レコード追加等を実現するデ−タアクセス処理230、データベースレコ−ドの読み書きを制御するデ−タベ−スバッファ制御231、入出力対象となるデ−タの格納位置を管理するマッピング処理232、および、システムで共用するリソースの排他制御を実現する排他制御233を備える。
【0050】
図3は、本発明が適用されるハードウェア構成の一例を示すものである。具体的には、図3は、プロセッサおよびディスク装置が1ノードを構成し、複数のノードを備える並列プロセッサシステムの適用構成例を示している。図3において、プロセッサ60〜65およびディスク装置70〜75が相互結合ネットワーク80で接続される。図3に示すハードウェア構成は、図2に示すデータベースシステムを複数のプロセッサで並列処理するための構成であり、各ノードに対してそれぞれ処理が分散される。
【0051】
上記各ノードごとに機能分散した場合の構成を図1に示す。図1は、本実施例が適用されたデ−タベ−スシステムの概要図を示している。以下に、並列データベースシステムの処理例を図1を参照して説明する。この例では、データベースに対する検索要求に並列処理を適用する。図1において、各ノードは、データを取り出して分配処理するソート機能と、複数のノードでそれぞれソートされたデータを結合処理するマージ機能とが各ノードごとに割り当てられている。ノードによりソート機能だけを備えるものや、ソート機能とマージ機能とを備えるものがある。デ−タベ−スは、ユ−ザから2次元のテ−ブル形式で見られる表から成るものとし、当該表は行あるいはロウごとにデータが存在するものである。また、ロウは、1つ以上の属性(これを「カラム」という)からなる。図1においては、データベースの表としてT1およびT2があり、ノード1(90)からノード4(91)に表T1が、ノード5(92)からノード8(93)に表T2が各々格納されており、これらの各ノードが分配ノードであり、分配ノードにおいて格納している表に基づいてデータ取り出し処理およびデータ分配処理が実行される。また、ノード9(94)からノード11(96)は、結合ノードであり、ノード1〜4およびノード5〜8から出力されるデータを受け取り、部分列ソート処理およびマージ処理をして完全列の作成を実行する。さらに、ノード12(97)は、問い合わせを受け付け、該問い合わせを解析し、問い合わせに対する処理を実行する分配ノードおよび結合ノードの数を決定する決定ノードである。また、ノード12(97)は、ノード9〜11から出力されたデータを受け取り出力する。これらのノード群は、相互結合ネットワーク80で接続され、ノード1〜4およびノード5〜8と、ノード9〜11とが並列に動作し、しかもノード1〜4およびノード5〜8でそれぞれ処理された結果は、すぐにノード9〜11で処理を行うというようなパイプライン的に動作する(以下、並列パイプライン動作と呼ぶ)。また、ノード9〜11とノード12とも同様にパイプライン動作する。以下では、ノード9〜11における部分列ソート処理をスロットソート処理といい、完全列作成処理をNウェイマージ処理と呼ぶ。スロットソート処理は、データが格納されるページを対象とするページ内のソート処理を指し、スロット順に読みだせば昇順にロウがアクセス可能とする。Nウェイマージ処理は、Nウェイのバッファを用いて、各マージ段でN本のソート連を入力にして最終的に1本のソート連を作成する。
【0052】
データベース検索処理のための問合せは、例えば、以下のようになる。
【0053】
Figure 0003667997
このような問い合わせが、ノード12において受け付けられると、ノード12において、最適な分配処理方法が選択され、各ノードに対してネットワークを介して指示される。上記の問い合わせにおいては、ノード1(90)からノード4(91)に表T1が、ノード5(92)からノード8(93)に表T2が各々格納されているので、各ノードにおいてデータ取り出し処理およびデータ分配処理が実行される。また、ノード9(94)からノード11(96)では、ノード1〜4およびノード5〜8から出力されるデータを逐次受け取り、ソート処理および結合処理を実行する。ノード12(97)では、ノード9〜11から出力されたデータを受け取り出力する。これによりデータベース検索は終了する。
【0054】
つぎに、上記各ノードの処理時間の関係について図4を参照して説明する。図4は、並列パイプライン動作を説明するための概要図を示す。図4において、100および101は、図1におけるノード1(90)からノード4(91)と、ノード5(92)からノード8(93)とにおける処理に対応し、データ取り出し処理およびデータ配分処理を実行する。110および111は、ノード9(94)からノード11(96)における処理に対応し、スロットソート処理、Nウェイマージ処理、突き合わせ処理が実行される。120は、ノード12(97)における処理に対応し、要求データ出力処理が実行される。時間軸に沿えば、データ取り出し処理およびデータ配分処理100および101で処理されたデータは、逐次スロットソート処理110および111に移り、パイプライン的に実行される。データ取り出し処理からスロットソート処理までを取り出しフェーズと呼ぶ。また、Nウェイマージ処理110および111は、それぞれのノードで単に並列に実行される。このNウェイマージ処理期間をマージフェーズと呼ぶ。さらに、突き合わせ処理の結果は要求データ出力処理120に逐次転送されてパイプライン的に実行される。この突き合わせから要求データ出力までを結合フェーズと呼ぶ。図4に示すタイムチャートは、図1に示す問合せ例を適用した場合の処理内容である。取り出しフェーズにおいて、ノード1(90)からノード4(91)における処理時間は、T1データ取り出し/データ分配処理時間130として示す。また、ノード5(92)からノード8(93)における処理時間は、T2データ取り出し/データ分配処理時間131で示し、相互結合ネットワーク80における転送時間をデータ分配転送時間140で示し、ノード9(94)からノード11(96)における処理時間は、T1/T2スロットソート処理時間150に示すように、各々実行される。図4において、取り出しフェーズは、スロットソート処理完了待ち合わせ180の時点までで終了する。また、マージフェーズにおいて、ノード9(94)からノード11(96)における処理時間は、T1/T2Nウェイマージ処理時間151に示す時間において実行される。このマージフェーズは、T1/T2Nウェイマージ処理待ち合わせ181までで終了する。結合フェーズは、ノード9(94)からノード11(96)における処理時間は、突き合わせ処理時間152で示し、相互結合ネットワーク80における処理時間は、結合結果転送時間160で示し、ノード12(97)における処理時間は、要求データ出力処理時間170で示し、各々その時間内に実行される。
【0055】
つぎに、図1におけるノード12の各ノード群への処理の振り分け方法について図5を参照して説明する。図5は、データ分配処理における各ノード群への振り分け方法を示す説明図である。前提として、データ取り出し/データ分配処理をするノード群は、プロセッサ200〜230とディスク装置201〜231とを備えるノード1〜10の10台からなる。また、結合処理をするノード群は、プロセッサ240〜250とディスク装置241〜251とを備えるノード11〜15の5台からなるとする。ディクショナリ50には、結合カラムに関する最適化情報51が格納されていている。該最適化情報51とは、データベースのデータを均等に分割するための情報であり、例えば、結合カラムに対するデータ件数は通常均一でないので、データ件数が均一になるように結合カラムで分割するようにするものである。図5に示すように、ノード1〜10に格納されているデータが、v1からv10の各分割範囲で均等にデータ分割可能であることを示す。この場合、ノード11〜15に均等にデータ分割するためにはv1〜v2、v3〜v4、v5〜v6、v7〜v8、v9〜v10の5区間にそれぞれノード番号11、12、13、14、15を対応付けるような分配処理手段を備えればよい。上記最適化情報が存在しない場合、適当なハッシュ関数を設定してデータ分配を行なえばよい。このようにして、図1におけるノード12では、分配処理手段を備えることにより、Nウェイマージ処理を行う際の各ノード群への処理の振り分けを行う。これにより、上記のような場合には、ノード11〜15に均等にデータ分割することができ、処理時間が均等になる。
【0056】
つぎに、Nウェイマージ処理を行う際の結合ノード数の決定方法について図6を参照して説明する。図6は、結合ノード数決定方法を説明するための概要図を示している。
【0057】
図1における並列結合処理の各フェーズ、各処理の処理時間をグラフ化し、図4に示す並列パイプライン動作概要に合わせてレイアウトしている。図6において、データ取り出し/データ分配処理が、ノード1〜8で実行され、300〜305の処理時間がそれぞれかかるものとする。ここでは、ノード5の処理時間304が最大処理時間であるとする。スロットソート処理時間は、結合処理ノード数Nと、予め決められたシステム特性(CPU性能、ディスク装置性能等)と、データベース演算方法とから導けることができ、スロットソート処理の性能特性は一般的に下記に示すような式で求めることができる。
【0058】
【数1】
E=a/N+b*N+c
パイプライン処理を行う際の効果を最大にするために、スロットソート処理の性能特性と最大処理時間304との交点となる結合ノード割当て数350をノード数として求めることができる。結合ノード割当て数350が決まると、Nウェイマージ処理時間320および突き合わせ処理時間330が、Nウェイマージ処理の性能特性と突き合わせ処理の性能特性とから同様に推定できる。これらの処理時間の合計が問い合わせに対する全体の処理時間となる。このように結合ノード数を決定し、データ取り出し/データ分配処理において分配されたデータを逐次マージして同時に処理することにより、全体の処理時間(問い合わせをしてから出力されるまでの応答時間)を短縮することができる。
【0059】
結合ノード数を決定する場合に用いられる性能特性の具体例を以下に示しておく。例えば、ロウ数が表T1および表T2とも10、000、000件あり、条件数がT1−1コ(全体ロウが1%に絞られる)とし、データ取り出し/データ分配処理をする分配ノード数が表T1および表T2ともそれぞれ16ノードで均等分割され、結合ノード数が8ノードで、プロセッサ性能が50MIPS(1秒間に5千万命令実行)で、ネットワーク転送レートが20Mバイト/秒であるとする。このような条件で実際のデータベース管理システムに処理させた結果もしくは性能モデルから算出した結果が以下のようになる。
【0060】
表T1および表T2の分配ノードの処理時間がそれぞれ180秒、T1/T2スロットソート処理時間が80秒、Nウェイマージ処理時間が380秒、突き合わせ処理時間が110秒、要求データ出力時間が10秒となる。これらの結果の処理性能に基づいて問い合わせに対する処理時間を推定する。
【0061】
つぎに、図6に示した結合ノード数決定方法を基にして、応答時間をさらに短縮するための処理時間調整方法(チューニング方法)について、図7、図8および図9を参照して説明する。以下に示す方法は、上記ノード12の分配処理手段において、各ノード群への処理の振り分けを決定する際にあらかじめ算出されて、その結果より振り分けを決定するものである。
【0062】
図7は、スロットソート前処理化の概要図を示す。データ取り出し/データ分配処理が、ノード1〜8で実行され、各300〜305の処理時間がそれぞれかかるものとする。ノードごとの処理時間には各表のデータ数によりバラツキが存在する。また、スロットソート処理は、結合処理ノード群で実行されるように設定されている。ノードごとの処理時間でバラツキがある場合には、データ取り出し/データ分配処理ノード群へスロットソート処理を移す処理手順を考える。図7に、スロットソートの前処理化として示すように、データ取り出し/データ分配処理がより早く終了したノードでスロットソート処理を行う。その処理によれば、結合ノード割当て数350のノードにおけるスロットソート処理時間が310から312に削減できる。その処理時間の差311においてNウェイマージ処理を移す。これは、スロットソート処理の連長を延ばすことにほかならない。これによって、Nウェイマージ処理時間が削減でき、結果的に応答時間が削減できる。
【0063】
図8は、スロットソート連長チューニング概要図を示している。例えば処理時間の制約があったときなどのように、その時間内で複数の処理を行う場合において、各ノードで実行する各データベース演算をパラメータ化し、期待する処理時間に基づいて時間調整(チューニング)をする方法について説明する。図6で求まる結合ノード割当て数350から最小限だけ結合処理ノードを増やし、応答時間の短縮を図る。この場合の結合ノード割当て数を351とする。結合ノード割当て数351とすると、スロットソート処理時間は310から312へ削減される。パイプライン効果を最大にするため、処理時間311においてNウェイマージ処理をスロットソート処理へ移す。これによって、Nウェイマージ処理のマージ回数が減り、処理時間が320と削減でき、結果的に応答時間が削減できる。
【0064】
図9は、Nウェイマージ回数チューニングの概要図を示す。結合ノード割当て数350で決まる突き合わせ処理時間330が要求データ出力処理時間340より小である場合には、Nウェイマージ処理の最終段のマージ処理を突き合わせ処理に移すようにできる。Nウェイマージ処理の最終段のマージ処理時間331と突き合わせ処理時間330との和が要求データ出力処理時間340を上回らなければ、当最終段のマージ処理を突き合わせ処理へ移す。これによって、応答時間が削減できる。
【0065】
つぎに、本実施例におけるデータベース管理システムの動作フローを説明する。図10、図11、図12、図13、図14および図15は、本実施例におけるDBMSの処理のフロ−チャ−トを示す。図10において、DBMSは、問合せ実行前に行われる問合せの解析処理(ステップ220)、静的最適化処理(ステップ221)およびコード生成(ステップ222)により問い合わせ解析を行う問合せ解析処理400と、変数に定数を代入し、処理手順を選択する動的最適化処理(ステップ223)および問合せのコード解釈実行(ステップ224)により問い合わせに対する実行処理を行う問合せ実行処理410とを行う。
【0066】
以下、各処理部の概要について述べる。
【0067】
(a)問合せ解析処理400
図10(a)および(c)において、問合せ解析(ステップ220)では、上記ノード12においてアプリケーションプログラムにより入力された問合せ文の構文解析、意味解析を実行する(ステップ2200)。図10(a)において静的最適化処理(ステップ221)では、上記ノード12において問合せで出現する条件式から条件を満足するデ−タの割合を推定し、予め設定している規則を基に、有効なアクセスパス候補(特にインデクスを選出する)を作成し、処理手順の候補を作成する。コード生成(ステップ222)では、上記ノード12において処理手順候補を実行形式に展開する。
【0068】
(b)問合せ実行処理410
図10(b)において、動的実行時最適化(ステップ223)では、上記ノード12において代入された定数に基づき、各ノード群で実行する処理手順を決定する。コード解釈実行(ステップ224)では、それぞれのノードにおいて処理手順を解釈し、実行する。
【0069】
つぎに、各処理部の詳細な処理フローの説明を行う。
【0070】
図10(d)において、動的最適化処理(ステップ221)では、問合せに出現する条件式の述語選択率推定し(ステップ2210)、インデクス等からなるアクセスパスの剪定をし(ステップ2211)、これらアクセスパスを組合せた処理手順候補の生成をする(ステップ2212)。
【0071】
図10(e)において、述語選択率推定(ステップ2210)では、問合せ条件式に変数が出現するか否かチェックする(ステップ22101)。変数が出現すれば、当条件式にカラム値分布情報があるかチェックする(ステップ22104)。存在すれば終了する。存在しなければ、条件式の種別に応じてディフォルト値を設定し(ステップ22105)、終了する。変数が出現しなければ、当条件式にカラム値分布情報があるかチェックする(ステップ22104)。存在しなければ、条件式の種別に応じてディフォルト値を設定し(ステップ22105)、終了する。存在すれば、カラム値分布情報を用いて選択率を算出する(ステップ22103)。
【0072】
図11において、アクセスパス剪定2212では、問合せ条件式で出現するカラムのインデクスをアクセスパス候補として登録する(ステップ22120)。つぎに、問合せでアクセス対象となる表が複数ノードに分割格納されているかチェックする(ステップ22121)。分割格納されていれば、パラレルテーブルスキャンをアクセスパス候補として登録する(ステップ22123)。分割格納されていなければ、テ−ブルスキャンをアクセスパス候補として登録する(ステップ22123)。各条件式の選択率が既に設定済みか否かチェックする(ステップ22124)。設定済みであれば、各表に関して選択率が最小となる条件式のインデクスをアクセスパスの最優先度とする(ステップ22125)。設定済みでなければ、各条件式の選択率の最大値/最小値を取得する(ステップ22126)。最後に、CPU性能、IO性能等のシステム特性より各アクセスパスの選択基準を算出し(ステップ22127)、単一あるいは複数のインデクスを組合せたアクセスパスでの選択率が上記選択基準を下回るものだけアクセスパス候補として登録する(ステップ22128)。
【0073】
図12において、処理手順候補生成2213は、問合せでアクセス対象となる表が複数ノードに分割格納されているかチェックする(ステップ22130)。分割格納されていれば、ステップ22135へ移行する。分割格納されていなければ、処理手順候補にソート処理が含まれているか否かをチェックする(ステップ22131)。含まれていれば、ステップ22135へ移行する。含まれていなければ、問合せでアクセス対象となる表のアクセスパスが唯一であるかチェックし(ステップ22132)、唯一であれば単一の処理手順を作成し(ステップ22133)、唯一でなければ複数の処理手順を作成し(ステップ22134)、終了する。ステップ22135では、結合可能な2ウェイ結合へ問合せを分解する。分割格納される表の格納ノード群に対応して、データ読みだし/データ分配処理手順を候補として登録する。また、スロットソート処理手順を候補として登録する(ステップ22136)。結合処理ノード群に対応して、スロットソート処理手順、Nウェイマージ処理手順および突き合わせ処理手順を候補として登録し、スロットソート連長およびマージ処理回数をパラメタ化しておく(ステップ22137)。要求データ出力ノードに要求データ出力処理手順を登録する(ステップ22138)。最後に、分解結果に対して評価がすべて終了すれば(ステップ22139)、終了する。
【0074】
図13において、コード生成222は、処理手順候補が唯一か否かをチェックする(ステップ2220)。唯一であれば、ステップ2223へ移行する。唯一でなければ、カラム値分布情報等からなる最適化情報を処理手順に埋込み(ステップ2221)、問合せ実行時に代入された定数に基づいて処理手順を選択するデータ構造を作成する(ステップ2222)。最後に、処理手順を実行形式へ展開する(ステップ2223)。
【0075】
図14において、動的最適化処理223は、作成されている処理手順が単一か否かをチェックする(ステップ22300)。単一であれば、終了する。単一でなければ、代入された定数を基に選択率を算出する(ステップ22301)。処理手順候補に並列な処理手順が含まれるか否かチェックする(ステップ22302)。含まれていなければ、アクセスパスの選択基準に従って処理手順を選択し(ステップ22313)、終了する。含まれていれば、ディクショナリから最適化情報(結合カラムのカラム値分布情報、アクセス対象となる表のロウ数、ページ数等)を入力し(ステップ22303)、データ取り出し/データ分配のための処理時間を各システム特性を考慮し、前述したように算出する(ステップ22304)。当処理時間から結合処理に割当てるノード数pを決定し、当処理手順a1を決定する(ステップ22305)。データ取り出し/データ分配処理時間にバラツキがあるか否かをチェックする(ステップ22306)。バラツキがあれば、データ取り出し/データ分配処理ノード群でスロットソート処理を実行する処理手順a2を設定する(ステップ22307)。つぎに、結合ノード割当て数pをα台だけ増した処理手順a3を設定する(ステップ22308)。要求データ処理時間が突き合わせ処理時間と1回分のNウェイマージ処理時間との和より大であれば(ステップ22309)、突き合わせ処理へ1回分のNウェイマージ処理を移した処理手順a4を設定する(ステップ22310)。処理手順a1〜a4で最適な処理手順を応答時間最小、各ノード負荷量最小、他トランザクション応答性能への影響小等の観点で選択する(ステップ22311)。データ分配情報を最適化情報を基にして作成する(ステップ22312)。最適化情報がなければ、ハッシュ関数の結合カラム評価値に従い、データ分配情報を作成する。アクセスパスの選択基準に従って処理手順を選択し(ステップ22313)、終了する。
【0076】
図15において、コード解釈実行処理224では、設定された各ノードにおいてそれぞれ対応する処理手順にしたがって処理を行う。
【0077】
まず、各ノードでは、データ取り出し/データ分配処理が設定されているか否かを判断する(ステップ22400)。データ取り出し/データ分配処理が設定されていれば、各ノードの記憶装置に格納されているデータベースにアクセスし、条件式を評価する(ステップ22401)。最適化情報を基に作成されたデータ分配情報に基づいて、データを取り出し、各結合ノードのバッファへ逐次データを分配する(ステップ22402)。各結合ノードのバッファが満杯か否かを判定し、満杯であれば、ページ形式で対応する結合ノードへ転送する。問い合わせに対応する全てのデータを取り出して分配すると処理が終了する(ステップ22404)。
【0078】
また、各ノードでは、スロットソート処理が設定されているか否かを判断する(ステップ22405)。スロットソート処理が設定されていれば、前記データ取り出し/データ分配処理ノードからのページ形式のデータを受信し、(ステップ22406)受信したデータについて順次スロットソート処理を行う(ステップ22407)。処理したスロットソート結果を一時保存しておき、スロットソート処理を終了する(ステップ22408)。
【0079】
また、Nウェイマージ処理が設定されているか否かを判断する(ステップ22409)。Nウェイマージ処理が設定されていれば、スロットソート結果に基づいてNウェイマージ処理を実行し(ステップ22410)、Nウェイマージ処理結果をバッファなどに一時保存し(ステップ22411)、Nウェイマージ処理を終了する。
【0080】
また、突き合わせ処理が設定されているか否かを判断する(ステップ22412)。突き合わせ処理が設定されていれば、Nウェイマージ処理結果のソートリストを突き合わせ、出力用バッファにデータを設定する(ステップ22413)。出力用バッファが満杯の場合には、ページ形式で要求データ出力ノードへ転送する(ステップ22415)。
【0081】
また、要求データ出力処理が設定されているか否かを判断する(ステップ22416)。要求データ出力処理が設定されていれば、結合ノードからページ形式のデータの転送があるかないかを判断する(ステップ22417)。ページ形式のデータの転送がある場合には、該ページ形式のデータを受信し(ステップ22418)、アプリケーションプログラムへ問い合わせ処理結果を出力し、ページ形式のデータ転送がない場合にはそのまま問い合わせ処理結果を出力する(ステップ22419)。
【0082】
また、上記コード解釈実行処理において、処理時間にバラツキがある場合などのときにデータ取り出し/データ分配処理ノード群でスロットソート処理を実行する場合には、データ取り出し/データ分配処理終了後、コード解釈実行処理224を再度実行し、スロットソート処理を行うようにする。
【0083】
さらに、ステップ22413でNウェイマージ処理結果が完全ソート列でなければ、最終段のマージと突き合わせ処理とを行う。
【0084】
以上のように処理することによりデータベース管理システムの問い合わせ応答時間を短縮することができる。
【0085】
図6に示す結合ノード割当て方法と、図7、図8および図9に示すチューニング方法とは、各々独立に適用してもよいし、また任意の組合せで適用してもよい。すなわち、動的最適化処理223では、すべての組合せが適用できる場合を想定している。さらに、データ取り出し処理においては、複数ディスク装置からなる並列入出力アクセス方法の適用と、一括入出力方法/先読み入出力方法の適用と、データ分配処理に最適化情報あるいはハッシュ関数によるデータ分配方法の適用と、Nウェイマージ処理に並列ソート方法の適用と、突き合わせ処理にノード間での突き合わせ処理方法の適用と、要求データ出力処理に複数のノードを割当て並列受け取り処理方法の適用等も考えられる。上記ステップ22309およびステップ22310では、1回分のNウェイマージ処理を仮定しているが、一般的にn回(n≧1)としてもよい。
【0086】
図4に示す並列パイプライン動作に関して、上記図6に示した結合ノード割当て方法と、図7、図8および図9に示すチューニング方法とを適用すると、取り出しフェーズ、マージフェーズ、結合フェーズの内、マージフェーズが省略可能となる場合も存在する。すなわち、スロットソート連長の延び、Nウェイマージ処理の移動により可能となる。この場合、問合せ実行処理でもマージフェーズの処理を省略する。
【0087】
本発明の問合せ処理方法は、統計情報を用いた規則とコスト評価との併用に限らず、適当なデ−タベ−ス参照特性情報を与える処理手順が得られるものであれば適用できる。例えば、コスト評価のみ、規則利用のみ、コスト評価と規則利用の併用等の最適化処理を行うDBMSにも適用できる。
【0088】
本発明は、密結合/疎結合マルチプロセッサシステム大型計算機のソフトウェアシステムを介して実現することも、また、各処理部のために専用プロセッサが用意された密結合/疎結合複合プロセッサシステムを介して実現することも可能である。また、単一プロセッサシステムでも、各処理手順のために並列なプロセスを割当てていれば、適用可能である。
【0089】
本実施例によれば、各ノードで実行するデータベース演算に対応して各ノード数を決定し、また、データの分割にバラツキが存在する場合、各ノードへデータを均等に分割させ、各ノードで実行する各データベース演算をパラメタ化し、期待する処理時間均等化させるので、各ノード間で処理時間の偏りがなく、円滑にパイプライン動作させることが可能となり、高速な問合せ処理が実現可能となる。
【0090】
【発明の効果】
行するデータベース演算に応じて演算処理部の数を決定し、各演算処理部にデータを均等に分割させ、各演算処理部で実行する処理時間均等化させるので、各演算処理部間での処理時間の偏りがなく、高速な問い合わせ処理を実現することができる。
【図面の簡単な説明】
【図1】 並列結合処理概要図
【図2】 データベースシステムの構成図
【図3】 ハードウェア構成図
【図4】 並列パイプライン動作の概要図
【図5】 データ分配処理概要図
【図6】 結合ノード割当て概要図
【図7】 スロットソート前処理化概要図
【図8】 スロットソート連長チューニング概要図
【図9】 Nウェイマージ回数チューニング概要図
【図10】 データベース管理システムのフローチャート
【図11】 データベース管理システムのフローチャート
【図12】 データベース管理システムのフローチャート
【図13】 データベース管理システムのフローチャート
【図14】 データベース管理システムのフローチャート
【図15】 データベース管理システムのフローチャート
【符号の説明】
10、11…アプリケーションプログラム、20…データベース管理システム、22…論理処理部、220…問合せ解析、221…静的最適化処理、222…コード生成、223…動的最適化処理、224…コード解釈実行、30…オペレーティングシステム、40…データベース、50…ディクショナリ、80…相互結合ネットワーク、90、91、92、93、94、95、96、97…ノード。

Claims (2)

  1. データの演算処理を行う複数の演算処理部と、自処理部に分散格納されたデータベースから取り出したデータを、当該データの演算キーおよび自処理部に設定されたデータ分配情報に従って演算処理部に分配する複数の分配処理部と、を有するデータベース管理システムに用いられ、入力された問合せに対する演算処理を実行する演算処理部を決定するデータベース管理装置であって、
    処理時間と演算処理部数との対応関係を用いて、前記分配処理部における処理時間に対応する演算処理部数を特定し、前記問合せに対するマージ処理を実行する前記特定した演算処理部数の演算処理部を決定する手段と、
    前記データベースのデータを均等に分割するための演算キーの最適化情報に従い、前記問合せに対する演算処理を実行する前記特定した演算処理部数の演算処理部各々に割当てる演算キーの分割範囲が記述されたデータ分配情報を、前記分配処理部に設定する手段と、を有すること
    を特徴とするデータベース管理装置
  2. データの演算処理を行う複数の演算処理部と、自処理部に分散格納されたデータベースから取り出したデータを、当該データの演算キーに対するハッシュ値および自処理部に設定されたデータ分配情報に従って演算処理部に分配する複数の分配処理部と、を有するデータベース管理システムに用いられ、入力された問合せに対する演算処理を実行する演算処理部を決定するデータベース管理装置であって、
    処理時間と演算処理部数との対応関係を用いて、前記分配処理部における処理時間に対応する演算処理部数を特定し、前記問合せに対する演算処理を実行する前記特定した演算処理部数の演算処理部を決定する手段と、
    前記問合せに対する演算処理を実行する前記特定した演算処理部数の演算処理部各々に割当てる、前記データベースのデータの演算キーに対するハッシュ値が記述されたデータ分配情報を、前記分配処理部に設定する手段と、を有すること
    を特徴とするデータベース管理装置。
JP17440398A 1998-06-22 1998-06-22 データベース管理装置 Expired - Fee Related JP3667997B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP17440398A JP3667997B2 (ja) 1998-06-22 1998-06-22 データベース管理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP17440398A JP3667997B2 (ja) 1998-06-22 1998-06-22 データベース管理装置

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP00780493A Division JP3266351B2 (ja) 1993-01-20 1993-01-20 データベース管理システムおよび問合せの処理方法

Publications (2)

Publication Number Publication Date
JPH10326215A JPH10326215A (ja) 1998-12-08
JP3667997B2 true JP3667997B2 (ja) 2005-07-06

Family

ID=15977964

Family Applications (1)

Application Number Title Priority Date Filing Date
JP17440398A Expired - Fee Related JP3667997B2 (ja) 1998-06-22 1998-06-22 データベース管理装置

Country Status (1)

Country Link
JP (1) JP3667997B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009276941A (ja) * 2008-05-13 2009-11-26 Internatl Business Mach Corp <Ibm> 決定装置、プログラムおよび決定方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3266351B2 (ja) * 1993-01-20 2002-03-18 株式会社日立製作所 データベース管理システムおよび問合せの処理方法

Also Published As

Publication number Publication date
JPH10326215A (ja) 1998-12-08

Similar Documents

Publication Publication Date Title
JP3266351B2 (ja) データベース管理システムおよび問合せの処理方法
US6556988B2 (en) Database management apparatus and query operation therefor, including processing plural database operation requests based on key range of hash code
US6505187B1 (en) Computing multiple order-based functions in a parallel processing database system
Armenatzoglou et al. Amazon Redshift re-invented
US5325525A (en) Method of automatically controlling the allocation of resources of a parallel processor computer system by calculating a minimum execution time of a task and scheduling subtasks against resources to execute the task in the minimum time
US5758144A (en) Database execution cost and system performance estimator
US6477523B1 (en) Selectivity prediction with compressed histograms in a parallel processing database system
JP4571609B2 (ja) リソース割当方法、リソース割当プログラム、および、管理コンピュータ
Wang et al. Elastic pipelining in an in-memory database cluster
Gates et al. Apache Pig's Optimizer.
Michiardi et al. In-memory caching for multi-query optimization of data-intensive scalable computing workloads
Michiardi et al. Cache-based multi-query optimization for data-intensive scalable computing frameworks
Chen et al. Pisces: optimizing multi-job application execution in mapreduce
JPH06309284A (ja) 問合せ処理負荷分散方法
JP3732655B2 (ja) データベース管理システム、データベース管理装置および問い合わせ処理方法
JP3667997B2 (ja) データベース管理装置
JP4422697B2 (ja) データベース管理システムおよび問合せの処理方法
JP3538322B2 (ja) データベース管理システムおよび問合せの処理方法
JP3668243B2 (ja) データベース管理システム
JP3819694B2 (ja) データベース管理システムおよび問合せの処理方法
JP3819695B2 (ja) データベース管理システムおよび問合せの処理方法
Chen et al. Parallel XPath query based on cost optimization
JP2001147847A (ja) データベース管理システムおよび問合せの処理方法
US6694324B1 (en) Determination of records with a specified number of largest or smallest values in a parallel database system
JP2000148557A (ja) デ―タベ―ス管理システムおよび問合せの処理方法

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040202

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20040316

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20040415

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040517

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20040527

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040907

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20041102

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20050405

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20050407

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090415

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090415

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100415

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110415

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees