【０００１】
【発明の属する技術分野】
本発明は、複数の中央演算装置（以後、ＣＰＵと称する）を有する並列計算機による並列計算処理方法に関する。
【０００２】
【従来の技術】
並列計算機は、ＳＭＰタイプ、ＭＰＰタイプ、およびクラスタタイプの３種類に大別される。ＳＭＰタイプは、１つのＯＳを利用して１つの共有メモリーに複数のＣＰＵを接続する構成の並列計算機であり、ＭＰＰタイプは、１つのＯＳを利用して複数のメモリーに１つないしは複数のＣＰＵを接続する構成の並列計算機である。またクラスタタイプは、単一または複数のＣＰＵを持つ計算機をネットワークにより複数台接続する構成の並列計算機である。このような並列計算機は、従来から科学技術、産業、流通、金融などの多くの分野において利用されている。
【０００３】
しかし、一般的に並列計算機の並列計算処理時には、各々のＣＰＵ稼働率は１００％とはならず、諸所の原因にて稼働率は１００％より小さい。これらの原因には、負荷バランスの不均等、通信などの同期待ち、Ｉ／Ｏ待ちなどがあげられる。この負荷バランスの不均等に対して、特にクラスタタイプの並列計算機においては、例えば、ＥｎＦｕｚｉｏｎ（ＴｕｒｂｏＬｉｎｕｘ社）やＬＳＦ（プラットフォーム社）といった負荷分散および負荷平準化ユーティリティを用いることにより、ＣＰＵを効率良く利用する工夫が行われている。また通信などの同期待ちに対しては、例えば、特開平７−９３２６５号公報に記載のようにＣＰＵの無駄時間を無くすという工夫が行われている。
【０００４】
【発明が解決しようとする課題】
しかしながら、従来の負荷分散および負荷平準化ユーティリティを用いた並列計算処理方法は、空きＣＰＵや負荷の低いＣＰＵに対してプロセスをディスパッチするだけであり、ディスパッチ後の制御を行なわない。そのため、あるＣＰＵにプロセスをディスパッチした後に、そのＣＰＵが過負荷状態になり稼働率が低下したとしても、何等解決策を持たない。さらに、多くの並列処理方法の考え方は、単一のジョブに対して、そのジョブを如何にして高速に行なうかという観点で考えられたものであるため、全体時間最適化という観点が無い。ここで全体時間最適化とは、複数のジョブを含めた場合に、ＣＰＵ稼働率を高めることによりトータルとして計算時間を最短にすることである。
【０００５】
本発明の目的は、並列計算機の処理能力を有効に活用してＣＰＵ稼働率を高めた並列計算処理方法を提供することにある。
【０００６】
【課題を解決するための手段】
本発明は上記目的を達成するために、複数の中央演算装置を有する並列計算機で複数のプロセスを同時に処理する並列計算処理方法において、各々の上記中央演算装置のプロセスに対する稼働率を監視し、上記全中央演算装置のプロセスに対する稼働率の合計値から実行状態のプロセス数の増減を行ない、改めて各々の上記中央演算装置のプロセスに対する稼働率を評価して実行状態のプロセス数の増減以前との上記全中央演算装置のプロセスに対する稼働率の合計値を比較し、全中央演算装置のプロセスに対する稼働率の合計値が小さくなった場合に実行状態のプロセスの増減以前と同じ状態に戻すことを特徴とする。
【０００７】
本発明による並列計算処理方法は、各々の中央演算装置のプロセスに対する稼働率を監視し、全中央演算装置のプロセスに対する稼働率の合計値から実行状態のプロセス数の増減を行ない、改めて各々の中央演算装置のプロセスに対する稼働率を評価して実行状態のプロセス数の増減以前との全中央演算装置のプロセスに対する稼働率の合計値を比較し、全中央演算装置のプロセスに対する稼働率の合計値が小さくなった場合に実行状態のプロセスの増減以前と同じ状態に戻すようにしたため、並列処理度数が大きくなることにより発生するメモリなどのリソース不足やプロセス間の同期待ちなどより、並列処理度数を増加させてもＣＰＵ稼働率が大きくならない場合、適切な並列処理度数を自動的に選択して処理することができ、並列計算機の処理能力を有効に活用してＣＰＵ稼働率を高めることができ、並列計算機の保有コストの低減や並列計算機の有効利用をはかることができる。
【０００８】
【発明の実施の形態】
以下、本発明の実施の形態を図面に基づいて説明する。
図１は、本発明の一実施の形態による並列計算処理方法を採用した並列計算機の要部を示すブロック構成図である。
並列計算機は、基本ソフトウェア（ＯＳ）１と、ＣＰＵ稼働率検査手段２と、プロセス停止再開手段３と、プロセス実行手段４と、主記憶手段５と、二次記憶手段６とを有して構成されている。
【０００９】
図２は、上述したプロセス停止再開手段３の処理動作を示すフローチャートである。
ここでＣＰＵ稼働率は、測定全体時間Δｔ＝１０秒で、プロセス実行にＣＰＵが利用された合計時間ｔｓ＝２＋２＋１＝５秒であったとすると、ＣＰＵ稼働率＝合計時間ｔｓ／測定全体時間Δｔ×１００（％）＝５／１０×１００（％）＝５０％となる。このＣＰＵ稼働率に注目すると、あるＣＰＵで実行されているプロセスがメモリバウンドやＩ／Ｏバウンドの場合、システムによるメモリスワップ処理やＩ／Ｏ待ち処理の時間が相対的に大きくなり、ＣＰＵ稼働率は小さくなり、逆に、プロセスがＣＰＵバウンドの場合、システムによるメモリスワップ処理やＩ／Ｏ待ち処理の時間が相対的に小さくなり、ＣＰＵ稼働率は大きくなる傾向を持っている。
【００１０】
まず、図３に示したタイミングチャートを用いてプロセス停止再開手段３の処理動作について説明する。同図は、ＣＰＵ数が４の並列計算機上で複数のプロセスを動作させたときの各ＣＰＵと合計のＣＰＵ稼働率を示したタイミングチャートである。
外部のオペレータ等からあるジョブの実行が時刻ｔ０に指示されると、基本ソフトウェア１により、プロセス実行手段４が各ＣＰＵ上でプロセスの実行を開始する。ここでは時刻ｔ０においてプロセス１〜プロセス３がＣＰＵ１〜ＣＰＵ３上で実行され、この時刻ｔ０以降ではＣＰＵ１〜ＣＰＵ３の稼働率が各々１００％となり、合計で１００％×３＝３００％とになっている。
【００１１】
また時刻ｔ０より定期的に予め決められた測定全体時間Δｔの間隔でＣＰＵ稼働率検査手段２はＣＰＵ稼働率を監視し、ＣＰＵ稼働率検査手段２で得られたＣＰＵ稼働率により、プロセス停止再開手段４は図２に示したフローチャートに従って処理を実行する。ステップＳ１において合計ＣＰＵ稼働率＜所定値、かつ、１＜実効状態プロセス数か否か判定を行ない、ここで所定値が２００％に設定されていると仮定すると、合計ＣＰＵ稼働率（３００％）＞所定値（２００％）となり、ステップＳ８の終了となる。
【００１２】
次に、このジョブは時刻ｔ１以降において主記憶手段５の利用量が大きくなり、基本ソフトウェア１により主記憶手段５と二次記憶手段６との間でメモリースワッピングが発生し、時刻ｔ１以降では、ＣＰＵ１〜ＣＰＵ３の稼働率が各々５０％となり、合計で５０％×３＝１５０％に小さくなったとする。
【００１３】
このときプロセス停止再開手段３は、ステップＳ１において、合計ＣＰＵ稼働率（１５０％）＜所定値（２００％）、かつ、１＜実行プロセス数（３）であるため、ステップＳ２へ進み時刻ｔ２でＣＰＵ３の実行プロセスを停止する。このｔ２以降では、プロセスが１つ減ったために主記憶手段５に余裕ができ、ＣＰＵ１〜ＣＰＵ２の稼働率が９０％に大きくなったとする。従って、ステップＳ３で合計ＣＰＵ稼働率が大きくなったか否かが判断させると、合計ＣＰＵ稼働率は９０％×２＝１８０％となりステップＳ２以前より大きくなっているためステップＳ８で終了となる。
【００１４】
一方、時刻ｔ２においてプロセスが１つ減ったにも拘わらず主記憶手段５に十分な余裕ができない場合について、図４に示したタイミングチャートを用いて説明する。
時刻ｔ３〜時刻ｔ５までは、図３の時刻ｔ０〜時刻ｔ２と同様に推移する。しかし時刻ｔ５において主記憶手段５に十分な余裕ができないために、ＣＰＵ１〜ＣＰＵ２の稼働率が７０％までしか大きくならなかったとする。この場合、ステップＳ３では合計ＣＰＵ稼働率が７０％×２＝１４０％と、ステップＳ２以前より小さくなっているためステップＳ４へ進み、先のステップＳ２で停止したＣＰＵ３のプロセスを時刻ｔ６で元に戻して再開する。さらにステップＳ５では時刻ｔ７で実行プロセス数を増やしてＣＰＵ４でプロセスを実行する。ここで、時刻ｔ７以降ＣＰＵ１〜ＣＰＵ４の稼働率が５０％になったとすると、ステップＳ６で合計ＣＰＵ稼働率が大きくなったか否かが判定され、合計ＣＰＵ稼働率が４０％×４＝１６０％となりステップＳ５以前より大きくなっているため、ステップＳ８で終了となる。
【００１５】
また、時刻ｔ７においてプロセスが１つ増えたために主記憶手段５に十分な余裕が無くなった場合について、図５に示したタイミングチャートを用いて説明する。
時刻ｔ８〜時刻ｔ１２までは、図４の時刻ｔ３〜時刻ｔ７と同様に推移し、時刻ｔ１２において主記憶手段５に十分な余裕ができないために、ＣＰＵ１〜ＣＰＵ４の稼働率が３０％までしか大きくならなかったとする。この場合、ステップＳ６では、合計ＣＰＵ稼働率が３０％×４＝１２０％となり、ステップＳ５以前より小さくなっているためステップＳ７へ進む。このステップＳ７では、ステップＳ５の処理を元に戻してＣＰＵ４のプロセスを停止し、その後、ステップＳ８で終了となる。
【００１６】
上述の説明から分かるように、並列処理度数が大きくなることにより発生するメモリなどのリソース不足やプロセス間の同期待ちなどより、並列処理度数を増加させてもＣＰＵ稼働率が大きくならない場合、適切な並列処理度数を自動的に選択して処理することができる。
【００１７】
また、Ｉ／Ｏバウンドの場合は使用するＣＰＵ数より大きな値を並列処理度数とすることで、ＣＰＵ稼働率を大きくすることも可能である。これは、ラウンドロビンＣＰＵ割り当て方式において、タイムクォンタムの設定値を減少させたときに、Ｉ／Ｏバウンドのプロセスの処理時間が相対的に短くなることと同じ効果を得られる。つまり、例えば１つのＣＰＵに対して２つのＩ／Ｏバウンドのプロセスを割り当てると、１つのプロセスがＩ／Ｏ処理を行なっている間に、もう一方のプロセスがＣＰＵを利用できるため、全体としてＣＰＵ稼働率が大きくなることを示している。さらに、単一のジョブの並列処理に対してだけでなく、複数の異なるジョブの同時並行処理に対しても有効である。
【００１８】
尚、上述した実施の形態では、合計ＣＰＵ稼働率と比較する所定値を設定し、合計ＣＰＵ稼働率が所定値より小さい場合、実効状態のプロセス数を減らすか、または新たに実効状態のプロセスを発生させるかの実行状態のプロセス数の増減を行なうようにしたため、合計ＣＰＵ稼働率が所定値より大きい状態では、プロセス停止再開手段３による調整をあえて行なわないので、合計ＣＰＵ稼働率の望ましい状態での不安定な動作を繰り返すこともない。しかし、このような動作が許容されるなら、所定値を必ずしも設定する必要はない。
【００１９】
【発明の効果】
以上説明したように本発明の並列計算処理方法によれば、並列計算機の処理能力を有効に活用してＣＰＵ稼働率を高めることができ、並列計算機の保有コストの低減や並列計算機の有効利用をはかることができる。
【図面の簡単な説明】
【図１】本発明の一実施の形態による並列計算処理方法を採用した並列計算機の要部を示すブロック構成図である。
【図２】図１に示した並列計算機のプロセス停止再開手段の処理動作を示すフローチャートである。
【図３】図１に示した並列計算機による並列処理を示すタイミングチャートである。
【図４】図１に示した並列計算機による他の並列処理を示すタイミングチャートである。
【図５】図１に示した並列計算機によるさらに他の並列処理を示すタイミングチャートである。
【符号の説明】
１ 基本ソフトウェア（ＯＳ）
２ ＣＰＵ稼働率検査手段
３ プロセス停止再開手段
４ プロセス実行手段
５ 主記憶手段
６ 二次記憶手段[0001]
TECHNICAL FIELD OF THE INVENTION
The present invention relates to a parallel computing method using a parallel computer having a plurality of central processing units (hereinafter, referred to as CPUs).
[0002]
[Prior art]
Parallel computers are roughly classified into three types: SMP type, MPP type, and cluster type. The SMP type is a parallel computer configured to connect a plurality of CPUs to one shared memory using one OS, and the MPP type is configured to use one OS to store one or a plurality of memories in a plurality of memories. This is a parallel computer configured to connect a CPU. The cluster type is a parallel computer having a configuration in which a plurality of computers having a single or a plurality of CPUs are connected by a network. Such parallel computers have been conventionally used in many fields such as science and technology, industry, distribution, and finance.
[0003]
However, in general, at the time of parallel calculation processing by a parallel computer, the CPU operation rate does not reach 100%, and the operation rate is smaller than 100% due to various factors. These causes include uneven load balance, synchronization waiting for communication, and I / O waiting. In order to deal with the uneven load balance, especially in a cluster type parallel computer, the CPU is efficiently used by using a load distribution and load leveling utility such as EnFuzion (TurboLinux) or LSF (Platform). Some ingenuity has been made. For synchronization waiting for communication or the like, for example, as described in JP-A-7-93265, a contrivance has been made to eliminate the dead time of the CPU.
[0004]
[Problems to be solved by the invention]
However, the conventional parallel computing method using the load distribution and load leveling utility only dispatches processes to idle CPUs or CPUs with a low load, and does not perform control after dispatching. Therefore, even if the CPU is overloaded and the operation rate is reduced after dispatching a process to a certain CPU, there is no solution. Furthermore, since many parallel processing methods are conceived from the viewpoint of how to execute a single job at high speed, there is no viewpoint of overall time optimization. Here, the overall time optimization is to minimize the total calculation time by increasing the CPU operation rate when a plurality of jobs are included.
[0005]
SUMMARY OF THE INVENTION An object of the present invention is to provide a parallel computing method in which the CPU operating rate is increased by effectively utilizing the processing capacity of a parallel computer.
[0006]
[Means for Solving the Problems]
In order to achieve the above object, the present invention provides a parallel processing method for simultaneously processing a plurality of processes by a parallel computer having a plurality of central processing units. The number of processes in the execution state is increased or decreased from the total value of the operation rates for the processes of all the central processing units, and the operation rate for each of the central processing units is evaluated again. Comparing the total value of the operation rates of the processes of all the central processing units, and when the total value of the operation ratios of the processes of all the central processing units becomes smaller, returning to the same state as before the increase or decrease of the process in the running state. I do.
[0007]
The parallel computing method according to the present invention monitors the operation rate of each central processing unit for a process, increases or decreases the number of processes in an execution state from the total value of the operation rates for all the central processing units, and renews each central processing unit. Evaluate the operation rate of the processing of the processing units and compare the total value of the operation rates of the processes of all the central processing units before and after the increase or decrease in the number of processes in the running state. When the number of processes becomes smaller, the number of running processes is returned to the same state as before. Therefore, the number of parallel processes increases due to lack of resources such as memory and synchronization waiting between processes caused by the increase in the number of parallel processes. If the CPU utilization rate does not increase even if it is performed, an appropriate parallel processing frequency can be automatically selected and processed. Processing power by effectively utilizing the can increase the CPU operation rate, it is possible to achieve effective use of reduction and parallel computer cost of ownership of a parallel computer.
[0008]
BEST MODE FOR CARRYING OUT THE INVENTION
Hereinafter, embodiments of the present invention will be described with reference to the drawings.
FIG. 1 is a block diagram showing a main part of a parallel computer adopting a parallel computing method according to an embodiment of the present invention.
The parallel computer includes basic software (OS) 1, CPU operation rate checking means 2, process stop / resume means 3, process execution means 4, main storage means 5, and secondary storage means 6. Have been.
[0009]
FIG. 2 is a flowchart showing the processing operation of the process stop / restart means 3 described above.
Here, assuming that the CPU operation rate is the total measurement time Δt = 10 seconds and the total time ts used for the process execution is ts = 2 + 2 + 1 = 5 seconds, the CPU operation rate = total time ts / total measurement time Δt × 100 (%) = 5/10 × 100 (%) = 50%. Paying attention to this CPU operation rate, when a process executed by a certain CPU is a memory bound or an I / O bound, the time of the memory swap processing or the I / O waiting processing by the system becomes relatively long, and the CPU operating rate becomes large. On the other hand, when the process is CPU bound, the time for the memory swap processing and the I / O wait processing by the system is relatively reduced, and the CPU operating rate tends to increase.
[0010]
First, the processing operation of the process stop / restart means 3 will be described with reference to the timing chart shown in FIG. FIG. 11 is a timing chart showing the CPU utilization and the total CPU operation rate when a plurality of processes are operated on a parallel computer having four CPUs.
When the execution of a certain job is instructed by an external operator or the like at time t0, the basic software 1 causes the process execution means 4 to start executing the process on each CPU. Here, at time t0, processes 1 to 3 are executed on CPU1 to CPU3, and after this time t0, the operation rates of CPU1 to CPU3 are each 100%, and the total is 100% × 3 = 300%. .
[0011]
Further, the CPU operating rate inspection means 2 periodically monitors the CPU operating rate at intervals of a predetermined total measurement time Δt from time t0, and resumes the process stop based on the CPU operating rate obtained by the CPU operating rate inspection means 2. The means 4 executes processing according to the flowchart shown in FIG. In step S1, it is determined whether or not the total CPU operation rate <predetermined value and 1 <the number of effective state processes. Here, assuming that the predetermined value is set to 200%, the total CPU operation rate (300%) > Predetermined value (200%), and step S8 ends.
[0012]
Next, in this job, the usage amount of the main storage unit 5 increases after time t1, and memory swapping occurs between the main storage unit 5 and the secondary storage unit 6 by the basic software 1, and after time t1, It is assumed that the operation rates of CPU1 to CPU3 are each 50%, and the total is reduced to 50% × 3 = 150%.
[0013]
At this time, since the total CPU operation rate (150%) <predetermined value (200%) and 1 <the number of executed processes (3) in step S1, the process stop / restart means 3 proceeds to step S2 and at time t2. The execution process of the CPU 3 is stopped. After t2, it is assumed that the main storage unit 5 has a margin because the number of processes is reduced by one, and that the operating rates of the CPU1 and the CPU2 increase to 90%. Therefore, if it is determined in step S3 whether the total CPU operation rate has increased, the total CPU operation rate is 90% × 2 = 180%, which is higher than that before step S2, and the process ends in step S8.
[0014]
On the other hand, a case where a sufficient margin cannot be provided in the main storage unit 5 even though the number of processes has decreased by one at time t2 will be described with reference to a timing chart shown in FIG.
The transition from time t3 to time t5 is similar to that from time t0 to time t2 in FIG. However, at time t5, it is assumed that the operating rate of CPU1 and CPU2 has increased only up to 70% because there is not enough room in main storage unit 5. In this case, in step S3, the total CPU operation rate is 70% × 2 = 140%, which is smaller than that before step S2, so that the process proceeds to step S4, and the process of CPU 3 stopped in the previous step S2 is restored at time t6. Return and resume. In step S5, the number of processes to be executed is increased at time t7, and the CPU 4 executes the processes. Here, assuming that the operating rates of CPU1 to CPU4 have become 50% after time t7, it is determined in step S6 whether or not the total CPU operating rate has increased, and the total CPU operating rate becomes 40% × 4 = 160%. Since it is larger than before step S5, the process ends in step S8.
[0015]
Also, a case where the main storage means 5 has no sufficient margin at time t7 due to the addition of one process will be described with reference to the timing chart shown in FIG.
The transition from the time t8 to the time t12 is similar to the transition from the time t3 to the time t7 in FIG. 4. At the time t12, the main storage unit 5 cannot have a sufficient margin. Suppose you didn't. In this case, in step S6, the total CPU operation rate is 30% × 4 = 120%, which is smaller than that before step S5, so that the process proceeds to step S7. In step S7, the process of step S5 is returned to the original state, the process of the CPU 4 is stopped, and then the process ends in step S8.
[0016]
As can be understood from the above description, if the CPU operation rate does not increase even if the parallel processing frequency is increased due to lack of resources such as memory or synchronization waiting between processes caused by the increase in the parallel processing frequency, an appropriate The degree of parallel processing can be automatically selected and processed.
[0017]
Further, in the case of I / O bound, the CPU operation rate can be increased by setting a value larger than the number of CPUs used as the parallel processing frequency. This has the same effect as reducing the set value of the time quantum in the round-robin CPU allocation method, whereby the processing time of the I / O bound process becomes relatively shorter. That is, for example, if two I / O-bound processes are assigned to one CPU, while one process is performing I / O processing, the other process can use the CPU. This indicates that the operation rate increases. Further, the present invention is effective not only for the parallel processing of a single job but also for the parallel processing of a plurality of different jobs.
[0018]
In the above-described embodiment, a predetermined value to be compared with the total CPU operation rate is set, and when the total CPU operation rate is smaller than the predetermined value, the number of processes in the effective state is reduced or a new process in the effective state is set. Since the number of processes in the execution state is increased or decreased, if the total CPU operation rate is larger than a predetermined value, no adjustment is made by the process stop / restart means 3 so that the total CPU operation rate is not desired. It does not repeat the unstable operation of. However, if such an operation is allowed, it is not necessary to set the predetermined value.
[0019]
【The invention's effect】
As described above, according to the parallel computing method of the present invention, it is possible to increase the CPU utilization rate by effectively utilizing the processing capacity of the parallel computer, to reduce the cost of holding the parallel computer and to effectively use the parallel computer. Can be measured.
[Brief description of the drawings]
FIG. 1 is a block diagram showing a main part of a parallel computer employing a parallel computing method according to an embodiment of the present invention.
FIG. 2 is a flowchart illustrating a processing operation of a process stop / restart unit of the parallel computer illustrated in FIG. 1;
FIG. 3 is a timing chart showing parallel processing by the parallel computer shown in FIG. 1;
FIG. 4 is a timing chart showing another parallel processing by the parallel computer shown in FIG. 1;
FIG. 5 is a timing chart showing still another parallel processing by the parallel computer shown in FIG. 1;
[Explanation of symbols]
1 Basic software (OS)
2 CPU operation rate inspection means 3 Process stop / resume means 4 Process execution means 5 Main storage means 6 Secondary storage means
