JP2007193423A - プログラム処理装置、並列処理プログラム、プログラム処理方法、並列処理コンパイラおよび並列処理コンパイラを格納した記録媒体 - Google Patents

Abstract

【課題】プログラマ等が逐次プログラムに簡単な記述を追加するだけで、コンピュータが高性能な並列処理を実行するための機械コードを生成することを可能にする。
【解決手段】処理部が、並列処理プログラム中の各スレッドの開始地点および終了地点を、予約されたキーワードまたは記号によって特定し、指定されたスレッド領域に含まれる各演算命令にスレッド属性を付加した中間語を生成し、中間語から命令ブロック入出力データを抽出して、データ依存枝情報を生成し、中間語から異なるスレッド同士を接続するデータ依存枝と、データ依存枝に対応するスレッド出力データ生成命令およびスレッド入力参照命令とを抽出して、スレッド間データ依存命令対情報を生成し、中間語にスレッド間で依存するデータの通信命令を挿入して、通信命令を含むプログラムを生成し、各スレッドに分割し、実行コードに変換する方法。
【選択図】図１

Description

本発明は、並列処理システムを実現するためのプログラム開発技術、特に、並列処理システムを実現するためのコンパイラの技術に関する。

従来、並列処理システムを実現するためのプログラム開発技術には、主に二つの技術が存在していた。一つは、逐次プログラムの自動並列コンパイラをベースとした開発環境を提供する技術（自動並列コンパイラ技術）であり、もう一つは、逐次処理言語を拡張した並列処理言語を用いた開発環境を提供する技術（並列処理言語技術）である。

前者の自動並列コンパイラ技術として、マルチプロセッサ用自動並列化コンパイラ技術がある（例えば、非特許文献１、２または３参照）。これは、高級プログラミング言語（主にＦｏｒｔｒａｎまたはＣ言語）によって記述された逐次プログラムから並列処理プログラムを自動生成する技術である。具体的には、ループ（繰り返し処理部分）を分割して、それぞれの分割されたループを別々のプロセッサが並列実行するループ並列や、並列して実行することが可能な処理部分を別々のプロセッサが並列実行するブロック並列などが主な並列化手法である。

また、自動並列コンパイラ技術として、命令レベル並列化コンパイラ技術がある（例えば、非特許文献４または５参照）。これは、高級プログラミング言語（主にＣ言語）またはそれに類似する言語によって記述された逐次プログラムから、ＶＬＩＷ（Very Long Instruction Word）型プロセッサ（複数の演算器を持つプロセッサ）のための実行コードを自動生成する技術である。この実行コードは、水平命令コードと言われ、すべての演算器に対する実行命令が一つの命令の中に埋め込まれたものである。また、ＶＬＩＷは、依存関係にない複数の命令を一つの命令にまとめて同時に実行するマイクロプロセッサの高速化技術の一つである。

後者の並列処理言語技術として、並列プログラミング言語がある（例えば、非特許文献６、７または８参照）。これは、マルチプロセッサ用並列処理プログラムを直接記述する言語である。高級プログラミング言語をベースに、並列実行ループや並列実行ブロックなどを明示的に記述するための拡張をしたものであり、数多くの並列プログラミング言語が提唱されている。なお、非特許文献６はＶＰＰ Fortranについて、非特許文献７はＨＰＦ（High Performance Fortran）について、非特許文献８はConcurrent Cについて記載されたものである。

また、並列処理言語技術として、メッセージ通信方式プログラミング技術がある（例えば、非特許文献９または１０参照）。これは、高級プログラミング言語（主にFortranまたはＣ言語）に、プロセッサ間メッセージ通信関数をライブラリ化した並列プログラミング環境（ＭＰＩ：Message Passing Interface， ＰＶＭ：Parallel Virtual Machine）を提供する技術である。このメッセージ通信方式プログラミング技術では、ネットワークを介して接続された複数のＰＣ（Personal Computer）や、ワークステーションなどでプログラムを並列実行する。さらに、このメッセージ通信方式プログラミング技術は、分散メモリ型マルチプロセッサシステムや共有メモリ型マルチプロセッサシステムのための並列実行プログラムの開発にも利用される。なお、非特許文献９はＭＰＩ（Message Passing Interface）について、非特許文献１０はＰＶＭ（Parallel Virtual Machine）について記載されたものである。

岡本、合田、宮沢、本多、笠原、「OSCARマルチグレインコンパイラにおける階層型マクロデータフロー処理」、情報処理学会論文誌、Vol. 35, No. 4, pp.513-521 (1994) Eigenmann, Hoeflinger, Padua, "On the Automatic Parallelization of the Perfect Benchmarks", IEEE Trans. on Parallel and Distributed Systems, Vol. 9, No.1, pp.5-21 (1998) Hall, Anderson, Amarasinghe, Murphy, Liao, Bugnion, Lam, "Maximizing Multiprocessor Performance with the SUIF Compiler", IEEE Computer, Vol. 29, No. 12, pp.84-89 (1996) Fisher, "Trace scheduling: A Technique for global Microcode Compaction", IEEE Trans. Computers, Vol. 30, No. 7, pp.478-490, 1981 Wakabayashi, Tanaka, "Global Scheduling Independent of Control Dependencies Based on Condition Vectors", Proceedings of 29th ACM/IEEE Conference on Design Automation, pp.112-115, 1992 岩下英俊、「HPFからみたVPP Fortran」、情報処理、38巻2号、pp.114-121、1997年2月 "HPF推進協議会 (HPFPC)"、[online]、[平成１７年８月１０日検索]、インターネット＜URL : http://www.hpfpc.org/＞ Gehani, et al, "Concurrent C", Software, Practice and Experience, Vol.16, No. 9, pp.821-844, 1986 "Message Passing Interface Forum"、[online]、[平成１７年８月１０日検索]、インターネット＜URL : http://www.mpi-forum.org/index.html＞ "PVM"、[online]、[平成１７年８月１０日検索]、インターネット＜URL : http://www.csm.ornl.gov/pvm/pvm＿home.html＞

しかしながら、前記自動並列コンパイラ技術によれば、逐次プログラムから並列処理プログラムを自動的に生成することが可能であるが、プログラムの分割方法や、分割されたプログラムのプロセッサへの割当方法などを柔軟に変更することができないため、プログラマがプログラム分割や、プロセッサ割当などに直接関与することができない。また、サーバ用途のＣＭＰ（Chip MultiProcessor）への応用が進んでおり、計算負荷が大きい科学計算などが主な応用分野であるが、応用分野が限定されており、例えば、システムＬＳＩ（Large Scale Integration）などといった分野に応用する技術がない。ここで、ＣＭＰとは、複数のプロセッサを１チップに集積し、共有バスで結合する技術のことをいう。

また、前記命令レベル並列化コンパイラ技術は、専用ＩＣ（Integrated Circuit）の回路設計にも応用されており、実用的な技術ではあるが、実現できる並列度が比較的低い。したがって、比較的高い並列度の並列処理システムには応用できない。

さらに、前記並列プログラミング言語は、科学技術分野などの特定の分野が対象となっており、限定された分野においてのみ使用されている。したがって、さらに幅広い分野には応用できない。

また、前記メッセージ通信方式プログラミング技術は、システムＬＳＩの上流設計においても採用されている技術であるが、個々のプロセッサ用にプログラムを開発し、通信命令を明示的に記述する必要があるために、プログラムの開発効率が悪い。つまり、プログラムのデバッグが困難であり、プロセッサに対する処理の割当の変更などのチューニングが困難である。

そこで本発明は、以上のような問題点に鑑みてなされたものであり、プログラマ等が逐次プログラムに簡単な記述を追加するだけで、マルチプロセッサシステムが高性能な並列処理を実行するための実行コードを生成することを可能にすることを課題とする。

本発明は、課題を解決するために創案されたものであり、請求項１に記載のプログラム処理装置は、スレッド記述が追加された並列処理プログラムを入力し、各スレッドに当該プログラムを分割し、マルチプロセッサシステムのための実行コードの生成を行うプログラム処理装置であって、前記プログラム処理装置が、記憶部と、処理部とを備え、前記処理部が、前記記憶部に入力された前記並列処理プログラム中の各スレッドの開始地点および終了地点を、予約されたキーワードまたは記号によって特定し、特定された開始地点および終了地点によって指定されたスレッド領域に含まれる各演算命令にスレッド属性を付加した中間語を生成する構文解析部と、前記中間語を入力し、当該中間語から命令ブロック入出力データを抽出して、当該命令ブロック入出力データに基づいて、単一演算命令によって生成または参照されるデータの依存性である単一データ依存性に関する情報と、データ構造に作用する命令間のデータ依存性であるデータ構造依存性に関する情報とを含むデータ依存枝情報を生成するデータ依存性抽出部と、前記中間語と前記データ依存枝情報とを入力し、当該データ依存枝情報に基づいて、当該中間語から異なるスレッド同士を接続するデータ依存枝と、当該データ依存枝に対応するスレッド出力データ生成命令およびスレッド入力参照命令とを抽出して、スレッド間データ依存命令対情報を生成するスレッド間データ依存性抽出部と、前記中間語と前記スレッド間データ依存命令対情報とを入力し、前記スレッド間データ依存命令対情報に基づいて、前記中間語に、前記スレッド間で依存するデータの通信命令を挿入して、当該通信命令を含むプログラムを生成する通信命令挿入部と、前記通信命令を含むプログラムを入力し、当該プログラムを各命令の前記スレッド属性に基づいて前記各スレッドに分割し、実行コードに変換するプログラム分割・コード生成部とを備える構成とした。

このような構成によれば、構文解析部は、スレッド記述が追加された並列処理プログラムからスレッド領域に含まれる各演算命令にスレッド属性を付加した中間語を生成することが可能である。また、データ依存性抽出部は、構文解析部によって生成された中間語から命令ブロック入出力データを抽出し、単一演算命令によって生成または参照されるデータの依存性である単一データ依存性に関する情報と、データ構造に作用する命令間のデータ依存性であるデータ構造依存性に関する情報とを含むデータ依存枝情報を生成することが可能である。さらに、スレッド間データ依存性抽出部は、構文解析部によって生成された中間語から、データ依存性抽出部によって抽出されたデータ依存枝情報に基づいて、異なるスレッド同士を接続するデータ依存枝と、データ依存枝に対応するスレッド出力データ生成命令およびスレッド入力参照命令とを抽出して、スレッド間データ依存命令対情報を生成することが可能である。また、通信命令挿入部は、スレッド間データ依存命令対情報に基づいて、構文解析部によって生成された中間語にスレッド間で依存するデータの通信命令を挿入して、通信命令を含むプログラムを生成することが可能である。さらに、プログラム分割・コード生成部は、通信命令を含むプログラムを、構文解析部によって各命令に付加されたスレッド属性に基づいて各スレッドに分割し、実行コードに変換することが可能である。したがって、プログラム処理装置は、スレッド記述が追加された並列処理プログラムを入力して、マルチプロセッサシステムが高性能な並列処理を実行するための実行コードを生成することが可能である。

また、請求項２に記載の並列処理プログラムは、プログラム処理装置の記憶部に入力され、前記プログラム処理装置の処理部によって、各スレッドの開始地点と終了地点が、前記並列処理プログラム内に記述された予約されたキーワードまたは記号によって特定され、特定された開始地点および終了地点によって指定されたスレッド領域に含まれる各演算命令にスレッド属性が付加され、当該スレッド属性に基づいて前記各スレッドに分割され、実行コードに変換される構成とした。

このような構成によれば、プログラム処理装置の処理部は、各スレッドの開始地点と終了地点を、プログラム処理装置の記憶部に入力された並列処理プログラム内に記述された予約されたキーワードまたは記号によって特定し、特定した開始地点および終了地点によって指定したスレッド領域に含まれる各演算命令にスレッド属性を付加し、当該スレッド属性に基づいて各スレッドに分割し、実行コードに変換することが可能である。したがって、このようなプログラムを入力することによってプログラム処理装置は、マルチプロセッサシステムが高性能な並列処理を実行するための実行コードを生成することが可能である。

さらに、請求項３に記載のプログラム処理方法は、スレッド記述が追加された並列処理プログラムを入力し、各スレッドに当該プログラムを分割し、マルチプロセッサシステムのための実行コードの生成を行うプログラム処理装置によるプログラム処理方法であって、前記プログラム処理装置が、記憶部と、処理部とを備え、前記処理部が、前記記憶部に入力された前記並列処理プログラム中の各スレッドの開始地点および終了地点を、予約されたキーワードまたは記号によって特定し、特定された開始地点および終了地点によって指定されたスレッド領域に含まれる各演算命令にスレッド属性を付加した中間語を生成し、前記中間語を入力し、当該中間語から命令ブロック入出力データを抽出して、当該命令ブロック入出力データに基づいて、単一演算命令によって生成または参照されるデータの依存性である単一データ依存性に関する情報と、データ構造に作用する命令間のデータ依存性であるデータ構造依存性に関する情報とを含むデータ依存枝情報を生成し、前記中間語と前記データ依存枝情報とを入力し、当該データ依存枝情報に基づいて、当該中間語から異なるスレッド同士を接続するデータ依存枝と、当該データ依存枝に対応するスレッド出力データ生成命令およびスレッド入力参照命令とを抽出して、スレッド間データ依存命令対情報を生成し、前記中間語と前記スレッド間データ依存命令対情報とを入力し、前記スレッド間データ依存命令対情報に基づいて、前記中間語に、前記スレッド間で依存するデータの通信命令を挿入して、当該通信命令を含むプログラムを生成し、前記通信命令を含むプログラムを入力し、当該プログラムを各命令の前記スレッド属性に基づいて前記各スレッドに分割し、実行コードに変換する方法とした。

このような方法によれば、プログラム処理装置の処理部は、スレッド記述が追加された並列処理プログラムからスレッド領域に含まれる各演算命令にスレッド属性を付加した中間語を生成することが可能である。また、プログラム処理装置の処理部は、中間語から命令ブロック入出力データを抽出し、単一演算命令によって生成または参照されるデータの依存性である単一データ依存性に関する情報と、データ構造に作用する命令間のデータ依存性であるデータ構造依存性に関する情報とを含むデータ依存枝情報を生成することが可能である。さらに、プログラム処理装置の処理部は、中間語から、データ依存枝情報に基づいて、異なるスレッド同士を接続するデータ依存枝とデータ依存枝に対応するスレッド出力データ生成命令およびスレッド入力参照命令とを抽出して、スレッド間データ依存命令対情報を生成することが可能である。また、プログラム処理装置の処理部は、スレッド間データ依存命令対情報に基づいて、中間語にスレッド間で依存するデータの通信命令を挿入して、通信命令を含むプログラムを生成することが可能である。さらに、プログラム処理装置の処理部は、通信命令を含むプログラムを、各命令に付加されたスレッド属性に基づいて各スレッドに分割し、実行コードに変換することが可能である。したがって、プログラム処理装置は、このような方法を実行することで、スレッド記述が追加された並列処理プログラムを入力して、マルチプロセッサシステムが高性能な並列処理を実行するための実行コードを生成することが可能である。

さらに、請求項４に記載の並列処理コンパイラは、請求項３に記載のプログラム処理方法をコンピュータに実行させるための並列処理コンパイラとした。

このような構成によれば、並列処理コンパイラは、コンピュータに前記したプログラム処理方法を実行させることが可能である。したがって、この並列処理コンパイラをコンピュータに組み込み、コンピュータに前記したプログラム処理方法を実行させることによって、スレッド記述が追加された並列処理プログラムを入力して、マルチプロセッサシステムが高性能な並列処理を実行するための実行コードを生成することが可能である。

また、請求項５に記載の記録媒体は、請求項４に記載の並列処理コンパイラを格納した記録媒体とした。

このような構成によれば、記録媒体に格納された並列処理コンパイラをコンピュータに組み込み、コンピュータに前記したプログラム処理方法を実行させることによって、スレッド記述が追加された並列処理プログラムを入力して、マルチプロセッサシステムが高性能な並列処理を実行するための実行コードを生成することが可能である。

請求項１に記載のプログラム処理装置によれば、スレッド記述が追加された並列処理プログラムを入力して、マルチプロセッサシステムが高性能な並列処理を実行するための実行コードを生成することが可能である。したがって、プログラマ等が逐次プログラムに簡単な記述を追加するだけで、マルチプロセッサシステムが高性能な並列処理を実行するための実行コードを生成することが可能になる。

また、請求項２に記載の並列処理プログラムによれば、並列処理プログラムがプログラム処理装置に入力されることによって、プログラム処理装置が、並列処理プログラムをマルチプロセッサシステムに高性能な並列処理を実行させるための実行コードに変換することが可能である。したがって、プログラマ等が逐次プログラムに簡単な記述を追加するだけで、マルチプロセッサシステムが高性能な並列処理を実行するための実行コードを生成することが可能になる。

さらに、請求項３に記載のプログラム処理方法によれば、プログラム処理装置が、プログラム処理方法を実行することで、スレッド記述が追加された並列処理プログラムを入力して、マルチプロセッサシステムが高性能な並列処理を実行するための実行コードを生成することが可能である。したがって、プログラマ等が逐次プログラムに簡単な記述を追加するだけで、マルチプロセッサシステムが高性能な並列処理を実行するための実行コードを生成することが可能になる。

また、請求項４に記載の並列処理コンパイラによれば、この並列処理コンパイラをコンピュータに組み込み、コンピュータに前記したプログラム処理方法を実行させることによって、コンピュータは、スレッド記述が追加された並列処理プログラムを入力して、マルチプロセッサシステムが高性能な並列処理を実行するための実行コードを生成することが可能である。したがって、プログラマ等が逐次プログラムに簡単な記述を追加するだけで、マルチプロセッサシステムが高性能な並列処理を実行するための実行コードを生成することが可能になる。

さらに、請求項５に記載の記録媒体によれば、この記録媒体に格納された並列処理コンパイラをコンピュータに組み込み、コンピュータに前記したプログラム処理方法を実行させることによって、スレッド記述が追加された並列処理プログラムを入力して、マルチプロセッサシステムが高性能な並列処理を実行するための実行コードを生成することが可能である。したがって、プログラマ等が逐次プログラムに簡単な記述を追加するだけで、マルチプロセッサシステムが高性能な並列処理を実行するための実行コードを生成することが可能になる。

（第１の実施形態）
以下、図面（図１〜図１６）を用いて本発明の第１の実施形態について説明する。
図１は、プログラム処理装置の機能例を示す機能ブロック図である。図１に示すように、プログラム処理装置１Ａは、並列処理プログラム５０Ａを入力して、通信命令を含む分割プログラム５５Ａを出力する。ここで、図２および図３を用いて、本実施形態で用いる並列処理プログラム５０Ａの説明をする。

図２に示すプログラムは、プログラマ等が記述したプログラムであり、スレッド記述を追加する前のプログラムの一例である。なお、このプログラムはＣ言語で記述されたものである。

また、図３に示すプログラムは、プログラマ等が記述したプログラムであり、図２に示したプログラムにスレッド記述を追加した後のプログラム（以下、並列処理プログラムともいう）の一例である。ここで、「スレッド」とは、一つのプロセッサが実行するプログラムの単位であるとし、これらのスレッドを別々のプロセッサで並列処理することを想定している。
なお、このプログラムは、Ｃ言語に「THREAD」という新たなキーワードが追加された拡張Ｃ言語によって記述されており、THREADに続く「（スレッド名）」によってスレッド名が指定され、これに続く括弧記号｛ … ｝で囲まれたコード領域（スレッド領域）によってスレッドの有効な範囲が示されている。スレッド記述が追加されたプログラム（並列処理プログラム）とは、このようにスレッドの有効な範囲が記述されたプログラムのことを指すものとする。なお、いずれのスレッドにも含まれないコード領域の処理は「ベーススレッド」と呼ぶことにし、その他のスレッドと同等に扱うこととする。既存のＣコンパイラを用いて、この拡張Ｃ言語によって書かれたソースコードから実行コードを生成するためには、例えばスレッド宣言を無効化するプリプロセッサ「#define THREAD(n)」を予めプログラムの最上部（またはプログラム内）に挿入すればよい。このプリプロセッサにより、例えば「THREAD(p1)」が空の文字列に変換され、これに続く括弧記号｛ … ｝が通常のＣ言語におけるスコープ宣言として解釈され、既存のＣコンパイラで正常に処理される。

図１に戻って、プログラム処理装置１Ａの説明を続ける。
図１に示すように、プログラム処理装置１Ａは、構文解析部３１と、データ依存性抽出部３２Ａと、スレッド間データ依存性抽出部３３と、通信命令挿入部３５Ａと、プログラム分割・コード生成部３９とを含んで構成されている。以下、プログラム処理装置１Ａを構成する各要素について説明する。

（構文解析部３１の説明）
構文解析部３１は、並列処理プログラム５０Ａを入力して、当該プログラムの構文を解析する。また、並列処理プログラム５０Ａから中間語を生成する。構文解析部３１は、通常のコンパイラが有する公知の構文解析の機能に加え、拡張Ｃ言語の予約語に追加されたTHREADキーワードを認識し、それに続く「（スレッド名）」でスレッド名を抽出し、これに続くスコープ（{…}）で囲まれるコード領域（スレッド領域）が、このスレッドであることを判別し、中間語に変換された各演算命令にスレッドの属性（スレッド属性）を付加する機能を有する。スレッド属性は、各演算命令がどのスレッドに含まれるかを判別するための情報であり、各スレッドに固有の番号を予め割り当てておき、スレッドに含まれるすべての演算命令にこの番号を割り振ることでスレッド属性情報を付加することができる。

ここで、スレッド領域が入れ子構造をなす場合、即ち、あるスレッド領域の中に別のスレッド領域が存在する場合、各演算命令は、これを含むスレッド領域のうち最も内側のもののスレッド属性を持つとする。例えば、
THREAD(p0){
a = 1;
THREAD(p1){
b = 2;
}
}
という入れ子構造（スレッドp0の領域内にスレッドp1が含まれる構造）が存在した場合、演算b = 2;はスレッドp0とスレッドp1とに含まれる。このとき、この演算b = 2;は、最も内側のスレッドp1のスレッド属性を持つ。また、演算a = 1;のスレッド属性はスレッドp0である。
さらに、スレッド領域に関数呼出し命令が含まれる場合、その関数のベーススレッドは関数呼出し命令が属するスレッドと同一であるものとする。例えば、図３に示した並列処理プログラム５０Ａの２１行目（RandomSignal()）および２５行目(printf())の命令は、それぞれスレッドp4内およびスレッドp5内における関数呼出し命令であり、これらの関数の処理は、これらを呼び出したスレッドで実行されることになるので、RandomSignal()およびprintf()のベーススレッドは、それぞれスレッドp4およびスレッドp5と同一となる。
また、説明の都合上、以下では、中間語として適宜、並列処理プログラム５０Ａを用いて説明することにする。

（データ依存性抽出部３２Ａの説明）
データ依存性抽出部３２Ａは、構文解析部３１によって生成された中間語を入力し、データ依存性を抽出する。データ依存性抽出部３２Ａは、命令参照・生成データ抽出部３２１と、関数内間接参照・生成データ抽出部３２３と、命令ブロック抽出部３２４と、命令ブロック入出力データ抽出部３２５Ａと、データ依存枝生成部３２６と、出力データ生成命令・入力データ参照命令抽出部３２７とを含んで構成されている。

（命令参照・生成データ抽出部３２１の説明）
命令参照・生成データ抽出部３２１は、構文解析部３１によって生成された中間語を入力し、中間語内の各命令の参照データリストおよび生成データリストを生成する。
命令参照・生成データ抽出部３２１で生成される各命令の参照データリストは、その命令が直接参照するすべてのデータからなり、単項演算命令の場合は一つの参照データを持ち、二項演算命令の場合は二つの参照データを持ち、関数呼出し命令の場合は関数呼出引数データすべてが参照データと見なされる。
また、命令参照・生成データ抽出部３２１で生成される各命令の生成データリストは、その命令が直接生成するデータからなり、戻り値のない関数の関数呼出し命令では直接生成するデータはなく、それ以外の命令では一つの直接生成するデータを持つ。
命令参照・生成データ抽出部３２１によって生成された参照データリストおよび生成データリストは、関数内間接参照・生成データ抽出部３２３に引き渡される。また、命令参照・生成データ抽出部３２１によって生成された参照データリストおよび生成データリストは、各命令の依存性を抽出する処理において、適宜利用される。

（関数内間接参照・生成データ抽出部３２３の説明）
関数内間接参照・生成データ抽出部３２３は、命令参照・生成データ抽出部３２１によって生成された参照データリストと生成データリストとを入力し、関数呼出し命令が存在した場合、呼出された関数内で参照または生成されるグローバル変数やポインタ型関数引数によるポインタ参照データ（以下、間接依存データという）を抽出するものである。
関数呼出し命令のデータ依存性解析においては、通常の演算命令としてのデータ依存性（以下、直接的データ依存性という）を考慮しなければならない他、関数内部の演算で発生したデータ依存性のうち関数呼出し側まで伝播する依存性（以下、間接的データ依存性という）を考慮しなくてはならない場合がある。直接的データ依存性を示すものとしては、関数呼出し引数（直接参照データ）や関数戻り値（直接生成データ）などがあり、この直接参照データおよび直接生成データは、命令参照・生成データ抽出部３２１から受け取った参照データリストおよび生成データリスト内に存在している。

関数内間接参照・生成データ抽出部３２３は、命令参照・生成データ抽出部３２１から受け取った参照データリストおよび生成データリストを参照して、関数内部で参照される（関数引数以外の）間接依存データ（関数内間接参照データ）を抽出し、各関数呼出し命令の参照データリストに追加する。また、関数内間接参照・生成データ抽出部３２３は、命令参照・生成データ抽出部３２１から受け取った参照データリストおよび生成データリストを参照して、関数内部で生成される（書換えられる）（関数戻り値以外の）関数依存データ（関数内間接生成データ）を抽出し、各関数呼出し命令の生成データリストに追加する。関数内間接参照・生成データ抽出部３２３の処理は、通常のコンパイラが有する公知の間接依存データを抽出する処理と特に変わらないため、説明を省略する。
関数内間接参照・生成データ抽出部３２３によって生成された関数呼出し命令の参照データリストおよび生成データリストは、各命令の依存性を抽出する処理において、適宜利用される。これにより、並列処理プログラム５０Ａ内の大局的なデータ依存性が抽出できるようになる。

（命令ブロック抽出部３２４の説明）
命令ブロック抽出部３２４は、構文解析部３１によって生成された中間語を入力し、その中間語から命令ブロックを抽出する。ここで、命令ブロックとは、プログラムを分岐点、合流点および関数呼出命令の前後と、スレッド境界とを境界線として分割した結果生じるブロックのことである。以下、図３および図４を用いて、命令ブロック抽出部３２４の機能の一例について説明する。

命令ブロック抽出部３２４は、並列処理プログラム５０Ａの７行目にある繰り返し文を見付け、条件式「t<signalLength」の前でプログラムが合流すると判定し、プログラム合流点（合流ブロック）Ｃ１を抽出する。また、命令ブロック抽出部３２４は、並列処理プログラム５０Ａの７行目にある条件式「t<signalLength」の後でプログラムが分岐すると判定し、プログラム分岐点（分岐ブロック）Ｂ１を抽出する（図４参照）。さらに、命令ブロック抽出部３２４は、並列処理プログラム５０Ａの２１行目にある関数呼出命令Ｄ１「RandomSignal」と、２５行目にある関数呼出命令Ｄ２「printf」とを抽出する（図４参照）。また、命令ブロック抽出部３２４は、並列処理プログラム５０Ａから各スレッドｐ１〜ｐ５による処理の直前と直後の各スレッド境界Ｅ１〜Ｅ６を抽出する（図４参照）。

図４は、命令ブロック抽出部３２４が、構文解析部３１によって生成された中間語から命令ブロックを抽出した結果を示すプログラムグラフである。なお、図４の各演算の左に示した記号（例えば［p1］）は、その演算を実行するスレッド名を示しており、［*］は前記説明のベーススレッドを示している。構文解析部３１によって生成された中間語における各演算処理は、２項演算または単項演算に分割される（演算が分割される際に利用される途中変数には、「$xx」という名の一時変数が割り当てられる）。

以上説明した命令ブロック抽出部３２４の機能によって、命令ブロック抽出部３２４は、並列処理プログラム５０Ａからプログラム分岐点Ｂ１、プログラム合流点Ｃ１、関数呼出命令Ｄ１、関数呼出命令Ｄ２およびスレッド境界Ｅ１〜Ｅ６を抽出することによって、図４に示すように、並列処理プログラム５０Ａを命令ブロックＡ１〜Ａ７に分割することができる。このように、命令ブロック抽出部３２４は、並列処理プログラム５０Ａ内の各命令に命令ブロックおよびスレッドを対応付けた命令ブロックに関する情報（命令ブロック情報）を生成することができる。

また、命令ブロック抽出部３２４によって生成された命令ブロックに関する情報（命令ブロック情報）は、命令ブロック入出力データ抽出部３２５Ａに引き渡される。

（命令ブロック入出力データ抽出部３２５Ａの説明）
命令ブロック入出力データ抽出部３２５Ａは、構文解析部３１によって生成された中間語と、命令ブロック抽出部３２４によって抽出された命令ブロック情報とを入力し、その命令ブロック情報を用いて、その中間語から命令ブロック入力データと、命令ブロック出力データとを抽出する。命令ブロック入力データとは、命令ブロック内の各命令が参照するデータのうち、別の命令ブロック内で生成されるものである。また、命令ブロック出力データとは、命令ブロック内の各命令が生成するデータのうち、別のブロック内で参照されるものである。以下、図３および図５を用いて、命令ブロック入出力データ抽出部３２５Ａの機能の一例について説明する。

命令ブロック入出力データ抽出部３２５Ａは、命令ブロック内の各命令が参照するデータとして、例えば、並列処理プログラム５０Ａの９行目にある変数sigIn2を見付ける。命令ブロック入出力データ抽出部３２５Ａは、命令ブロック抽出部３２４によって抽出された命令ブロック情報を参照して、この変数sigIn2が命令ブロックＡ３内の命令で参照されていると判定する。また、命令ブロック入出力データ抽出部３２５Ａは、命令ブロック抽出部３２４によって抽出された命令ブロック情報と、命令参照・生成データ抽出部３２１によって生成された参照データリストおよび生成データリストとを参照して、この変数sigIn2が、参照される命令ブロックＡ３以外の命令ブロック（命令ブロックＡ１内の命令または命令ブロックＡ４）で生成されていると判定する。その結果、命令ブロック入出力データ抽出部３２５Ａは、命令ブロック入力データとして、変数sigIn2を抽出することができる。

また、命令ブロック入出力データ抽出部３２５Ａは、命令ブロック内の各命令が生成するデータとして、例えば、並列処理プログラム５０Ａの１０行目にある変数sigOutを見付ける。命令ブロック入出力データ抽出部３２５Ａは、命令ブロック抽出部３２４によって抽出された命令ブロック情報を参照して、この変数sigOutが命令ブロックＡ３内の命令で生成されていると判定する。また、命令ブロック入出力データ抽出部３２５Ａは、命令ブロック抽出部３２４によって抽出された命令ブロック情報と、命令参照・生成データ抽出部３２１によって生成された参照データリストおよび生成データリストとを参照して、この変数sigOutが、生成される命令ブロックＡ３以外の命令ブロック（命令ブロックＡ４）で参照されていると判定する。その結果、命令ブロック入出力データ抽出部３２５Ａは、命令ブロック出力データとして、変数sigOutを抽出することができる。

図５は、命令ブロック入出力データ抽出部３２５Ａが、構文解析部３１によって生成された中間語から命令ブロック入力データと、命令ブロック出力データとを抽出した結果を示すプログラムグラフである。図５には、例として、命令ブロック入力データＦ１や、命令ブロック出力データＧ１などが示されている。

以上説明した命令ブロック入出力データ抽出部３２５Ａの機能によって、命令ブロック入出力データ抽出部３２５Ａは、命令ブロック情報を用いて、図５に示すように、並列処理プログラム５０Ａから命令ブロック入出力データを抽出することができる。このように、命令ブロック入出力データ抽出部３２５Ａは、命令ブロック抽出部３２４によって抽出された命令ブロックと、その命令ブロック内の入出力データとを対応付けた命令ブロック入出力データに関する情報（命令ブロック入出力データ情報）を生成することができる。

また、命令ブロック抽出部３２４によって生成された命令ブロック情報と、命令ブロック入出力データ抽出部３２５Ａによって生成された命令ブロック入出力データに関する情報（命令ブロック入出力データ情報）とは、データ依存枝生成部３２６に引き渡される。

（データ依存枝生成部３２６の説明）
データ依存枝生成部３２６は、構文解析部３１によって生成された中間語と、命令ブロック抽出部３２４によって生成された命令ブロック情報と、命令ブロック入出力データ抽出部３２５Ａによって生成された命令ブロック入出力データ情報とを入力し、その命令ブロック情報と命令ブロック入出力データ情報とを用いて、データ依存枝を生成する。
データ依存枝とは、入力データと出力データとの間に依存関係（あるブロックの出力データを別のブロックが入力データとして使うという関係）が存在する場合に、命令ブロックの入出力データを「ノード（頂点）」とみなし、出力データノードから入力データノードに向けて接続するものである。ただし、このデータ依存関係が分岐点や合流点を隔てる場合は、対応する分岐ブロックまたは合流ブロックにデータノードを付加して、データ依存枝がこのデータノードを経由するようにする。なお、このデータ依存枝のグラフ構造は、公知の論文であるJohnson, Pingali, "Dependence-Based Program Analysis", ACM Conference on Programming Language Design and Implementation, pp.78-89 (1993)によって提案されたDependence Flow Graphがベースとなっている。このDependence Flow Graphは、前記説明の分岐点や合流点を隔てるデータ依存関係において、対応する分岐ブロックまたは合流ブロックにデータノードを付加して、データ依存枝がこのデータノードを経由することを特徴とするデータ依存関係を表現するためのグラフ構造である。以下、図３、図５および図６を用いて、データ依存枝生成部３２６の機能の一例について説明する。

図６は、データ依存枝生成部３２６が、構文解析部３１によって生成された中間語からデータ依存枝を生成した結果を示すプログラムグラフである。

データ依存枝生成部３２６は、命令ブロック入出力データ抽出部３２５Ａによって生成された命令ブロック入出力データ情報を参照して、例えば、命令ブロックＡ５の命令ブロック入力データとしてsigIn0を見付ける。ここで、命令ブロックＡ５からプログラムグラフ上を逆方向に辿りながら、sigIn0を生成する命令ブロック（即ち出力データとしてsigIn0を持つ命令ブロック）を探索する。この逆方向探索の途中で分岐ブロックＢ１をT分岐枝（命令ブロックＡ２の条件文が成立する、即ち「True」の場合にプログラムが進行する方向）を経由して通過するので、その分岐ブロックＢ１にsigIn0(T)のデータノードを付加し、このデータノードと命令ブロックＡ５の入力データノードsigIn0の間をデータ依存枝Ｋ１で接続する。さらに探索を続けると、合流ブロックＣ１を通過するので、この合流ブロックＣ１にもsigIn0のデータノードを付加し、このデータノードと分岐ブロックＢ１のデータノードsigIn0(T)の間をデータ依存枝Ｋ２で接続する。合流ブロックＣ１からの探索は、命令ブロックＡ１と命令ブロックＡ７への２つの合流元の方向に続ける。命令ブロックＡ１は出力データとしてsigIn0を持つので、この出力データノードと合流ブロックＣ１のデータノードsigIn0をデータ依存枝Ｋ３で接続し、この方向の探索を終了する。一方、命令ブロックＡ７への探索については、その後、出力データとしてsigIn0を持つ命令ブロックＡ６に到達するので、同様に、この出力データノードと合流ブロックＣ１のデータノードsigIn0をデータ依存枝Ｋ４で接続し、全体の探索が終了する。
なお、分岐ブロックＢ１に付加された出力データノードsigIn0には、sigIn0(T)と記されているが、これは、命令ブロックＡ２の条件文が成立する場合（Trueの場合）に、分岐ブロックＢ１に付加された出力データノードsigIn0を経由することを表している。

このように、データ依存枝生成部３２６は、データ依存枝を作成することができる。また、命令ブロック抽出部３２４によって生成された命令ブロック情報を用いて命令ブロックとスレッドとの対応を把握し、命令ブロック入出力データ抽出部３２５Ａによって生成された命令ブロック入出力データ情報を用いて命令ブロックと入出力データノードとの対応を把握することで、ノード間を接続したデータ依存枝に関する情報（データ依存枝情報）を生成することができる。データ依存枝情報に関しては、図７を用いて説明する。

図７は、データ依存枝生成部３２６が、構文解析部３１によって生成された中間語と、命令ブロック抽出部３２４によって抽出された命令ブロック情報と、命令ブロック入出力データ抽出部３２５Ａによって抽出された命令ブロック入出力データ情報とを用いて生成した、データ依存枝に関する情報（データ依存枝情報）を示す表である。データ依存枝情報１００Ａは、出力データノードに関する情報（出力データノードのブロック名、スレッド名および変数名）、入力データノードに関する情報（入力データノードのブロック名、スレッド名および変数名）、先行枝および後続枝を含むものである。
ここで、先行枝とは、そのデータ依存枝の始点ノード（命令ブロック出力ノード）を終点とする別のデータ依存枝を意味する。また、後続枝とは、そのデータ依存枝の終点ノード（命令ブロック入力ノード）を始点とする別のデータ依存枝を意味する。ただし、分岐ブロックや合流ブロックに付加されたデータノードはこれらのブロックの入力ノードであると同時に出力ノードでもあると見なす。データ依存枝生成部３２６は、例えば、データ依存枝「５」の始点ノード（命令ブロック出力ノード）を終点とする別のデータ依存枝としてデータ依存枝「４」を発見し、データ依存枝「５」の先行枝としてデータ依存枝「４」を設定する。また同様に、データ依存枝生成部３２６は、例えば、データ依存枝「４」の終点ノード（命令ブロック入力ノード）を始点とする別のデータ依存枝としてデータ依存枝「５」を発見し、データ依存枝「４」の先行枝としてデータ依存枝「５」を設定する。

以上説明したデータ依存枝生成部３２６の機能によって、データ依存枝生成部３２６は、命令ブロック入出力データ抽出部３２５Ａによって抽出された命令ブロック入出力データ情報を用いて、図７に示すように、並列処理プログラム５０Ａからデータ依存枝情報１００Ａを生成することができる。

また、データ依存枝生成部３２６によって生成されたデータ依存枝情報１００Ａは、出力データ生成命令・入力データ参照命令抽出部３２７に引き渡される。

（出力データ生成命令・入力データ参照命令抽出部３２７の説明）
出力データ生成命令・入力データ参照命令抽出部３２７は、構文解析部３１によって生成された中間語と、データ依存枝生成部３２６によって生成されたデータ依存枝情報１００Ａ（図７参照）とを入力し、出力データ生成命令および入力データ参照命令を抽出する。以下、図７および図８を用いて、出力データ生成命令・入力データ参照命令抽出部３２７の機能の一例について説明する。

出力データ生成命令・入力データ参照命令抽出部３２７は、データ依存枝生成部３２６によって生成されたデータ依存枝情報１００Ａを参照して、まず、各データ依存枝の始点側の命令ブロック内でこのデータを生成する命令を探索する。データ依存枝が先行枝を持たない場合は、このデータ依存枝に関わるデータを生成する命令（データ生成命令）が始点側の命令ブロック内に存在することを意味するので、この命令ブロック内で、該当するデータ生成命令を抽出する。同一データを生成する命令が同一命令ブロック内に複数存在する場合は、これらのうち最後に実行される命令をデータ生成命令とする。逆に、データ依存枝が先行枝を持つ場合は、このデータ依存枝に関わるデータを生成する命令（データ生成命令）が始点側の命令ブロック内に存在しないことを意味する。
次に、各データ依存枝の終点側の命令ブロック内でこのデータを参照する命令を探索する。データ依存枝が後続枝を持たない場合は、このデータ依存枝に関わるデータを参照する命令（データ参照命令）が終点側の命令ブロック内に存在することを意味するので、この命令ブロック内で、該当するデータ参照命令を抽出する。同一データを参照する命令が同一命令ブロック内に複数存在する場合は、これらのうち最初に実行される命令をデータ参照命令とする。逆に、データ依存枝が後続枝を持つ場合は、このデータ依存枝に関わるデータを参照する命令（データ参照命令）が終点側の命令ブロック内に存在しないことを意味する。

図８は、出力データ生成命令・入力データ参照命令抽出部３２７が、構文解析部３１によって生成された中間語と、データ依存枝生成部３２６によって生成されたデータ依存枝情報１００Ａとを用いて前記データ生成命令探索および前記データ参照命令探索によって生成した、出力データ生成命令および入力データ参照命令に関する情報（出力データ生成命令・入力データ参照命令情報）を示す表である。出力データ生成命令・入力データ参照命令情報１１０Ａは、各データ依存枝について、その始点側の命令ブロック内のデータ生成命令に関する情報（ブロック名、スレッド名および命令）、データ生成命令記号、その終点側の命令ブロック内のデータ参照命令に関する情報（ブロック名、スレッド名および命令）およびデータ参照命令記号を含むものである。

データ生成命令記号は、データ生成命令に関する情報を記号化したものであり、「データ依存枝番号：ＤＥＦ」と標記している。また、データ参照命令記号は、データ参照命令に関する情報を記号化したものであり、「データ依存枝番号：ＵＳＥ」と標記している。
図８には、図７で示されたデータ依存枝「６」〜「９」が存在しないが、これらのデータ依存枝がデータ生成命令と参照命令とをいずれも持たないからである。

以上説明した出力データ生成命令・入力データ参照命令抽出部３２７の機能によって、出力データ生成命令・入力データ参照命令抽出部３２７は、データ依存枝生成部３２６によって生成されたデータ依存枝情報１００Ａを用いて、図８に示すように、出力データ生成命令・入力データ参照命令情報１１０Ａを生成することができる。

また、データ依存枝生成部３２６によって生成されたデータ依存枝情報１００Ａと、出力データ生成命令・入力データ参照命令抽出部３２７によって生成された出力データ生成命令・入力データ参照命令情報１１０Ａとは、スレッド間データ依存性抽出部３３に引き渡される。

（スレッド間データ依存性抽出部３３の説明）
スレッド間データ依存性抽出部３３は、データ依存枝生成部３２６によって生成されたデータ依存枝情報１００Ａ（図７参照）と、出力データ生成命令・入力データ参照命令抽出部３２７よって生成された出力データ生成命令・入力データ参照命令情報１１０Ａ（図８参照）とを入力し、スレッド間のデータ依存性を抽出する。スレッド間データ依存性抽出部３３は、スレッド入出力データ抽出部３３１と、スレッド出力データ生成命令・スレッド入力データ参照命令抽出部３３２とを含んで構成されている。

（スレッド入出力データ抽出部３３１の説明）
スレッド入出力データ抽出部３３１は、データ依存枝生成部３２６によって生成されたデータ依存枝情報１００Ａ（図７参照）を入力し、データ依存枝情報１００Ａ（図７参照）を用いて、スレッド入力データおよびスレッド出力データ（スレッド入出力データ）を抽出し、スレッド間データ依存枝情報１２０Ａ（図９参照）を生成する。
スレッド入力データとは、スレッド内の各命令が参照するデータのうち、別のスレッド内で生成されるものである。また、スレッド出力データとは、スレッド内の各命令が生成するデータのうち、別のスレッド内で参照されるものである。つまり、スレッド境界Ｅ１〜Ｅ６（図６参照）を横切るデータ依存枝がスレッド入出力データを表す。以下、図６、図７および図９を用いて、スレッド入出力データ抽出部３３１の機能の一例について説明する。

スレッド入出力データ抽出部３３１は、データ依存枝生成部３２６によって生成されたデータ依存枝情報１００Ａを参照して、データ依存枝情報１００Ａにスレッド間データ依存枝を挿入したスレッド間データ依存枝情報１２０Ａを生成する。ここで、スレッド間データ依存枝とは、異なるスレッドのデータノードを接続するデータ依存枝を意味する。
図７のデータ依存枝情報１００Ａに示すように、データ依存枝「１」〜「１０」、「１７」、「２０」、「２１」は、出力データノードのスレッドと入力データノードのスレッドとが同一であるので、出力データノードから入力データノードにスレッド間データ依存枝が接続されない。また、データ依存枝「１１」〜「１６」、「１８」、「１９」、「２２」〜「２４」は、出力データノードのスレッドと入力データノードのスレッドとが異なるので、出力データノードから入力データノードにスレッド間データ依存枝が接続される。

図９は、スレッド入出力データ抽出部３３１が、データ依存枝生成部３２６によって生成されたデータ依存枝情報１００Ａを用いて生成した、スレッド間データ依存枝情報１２０Ａを示す表である。図７のデータ依存枝情報１００Ａと比較して、「スレッド間データ依存枝」の列が追加されており、そこにスレッド間データ依存枝であるか否かを示す値が各データ依存枝に対して設定できるようになっている。

また、スレッド入出力データ抽出部３３１によって生成されたスレッド間データ依存枝情報１２０Ａは、スレッド出力データ生成命令・スレッド入力データ参照命令抽出部３３２に引き渡される。

（スレッド出力データ生成命令・スレッド入力データ参照命令抽出部３３２の説明）
スレッド出力データ生成命令・スレッド入力データ参照命令抽出部３３２は、スレッド入出力データ抽出部３３１によって生成されたスレッド間データ依存枝情報１２０Ａ（図９参照）と、出力データ生成命令・入力データ参照命令抽出部３２７によって生成された出力データ生成命令・入力データ参照命令情報１１０Ａ（図８参照）とを参照して、スレッド入力データ参照命令を抽出する。ここで、スレッド入力データ参照命令とは、スレッド間データ依存枝に関わる入力データ参照命令のことである。以下、図８ないし図１１を用いて、スレッド出力データ生成命令・スレッド入力データ参照命令抽出部３３２の機能の一例について説明する。

図９に示すスレッド間データ依存枝情報１２０Ａを用いて説明する。スレッド出力データ生成命令・スレッド入力データ参照命令抽出部３３２は、スレッド入力データ参照命令として、スレッド間データ依存枝「１１」〜「１６」、「１８」、「１９」、「２２」〜「２４」それぞれのデータ参照命令「１１：ＵＳＥ」〜「１６：ＵＳＥ」、「１８：ＵＳＥ」、「１９：ＵＳＥ」、「２２：ＵＳＥ」〜「２４：ＵＳＥ」を抽出する。また、スレッド出力データ生成命令・スレッド入力データ参照命令抽出部３３２は、抽出したデータ依存枝を用いて、出力データ生成命令・入力データ参照命令抽出部３２７によって生成された出力データ生成命令および入力データ参照命令を参照して、スレッド出力データ生成命令を抽出する。

図８に示す出力データ生成命令・入力データ参照命令情報１１０Ａを用いて説明する。スレッド出力データ生成命令・スレッド入力データ参照命令抽出部３３２は、抽出したデータ依存枝「１１」〜「１６」、「１８」、「１９」、「２２」〜「２４」のうち、スレッド入力データ参照命令の直接のデータ生成命令が存在するか否かを判定する。
判定の結果、スレッド出力データ生成命令・スレッド入力データ参照命令抽出部３３２は、データ依存枝「１３」、「１４」、「１６」、「１８」、「１９」については、スレッド入力データ参照命令の直接のデータ生成命令が存在するので（図８の出力データ生成命令・入力データ参照命令情報１１０Ａを参照すると、データ参照命令と同一行にデータ生成命令が存在するので）、このデータ生成命令をスレッド出力データ生成命令として抽出する。
また、スレッド出力データ生成命令・スレッド入力データ参照命令抽出部３３２は、データ依存枝「１１」、「１２」、「１５」については、スレッド入力データ参照命令の直接のデータ生成命令が存在しないので（図８の出力データ生成命令・入力データ参照命令情報１１０Ａを参照すると、データ参照命令と同一行にデータ生成命令が存在しないので）、スレッド出力データ生成命令を探索する必要がある。この探索方法については、図１０を用いて説明する。

図１０は、スレッド出力データ生成命令・スレッド入力データ参照命令抽出部３３２が、スレッド入力データ参照命令の直接のデータ生成命令が存在しない場合における、スレッド出力データ生成命令の探索方法を説明するための図である。
スレッド出力データ生成命令・スレッド入力データ参照命令抽出部３３２は、スレッド入力データ参照命令の直接のデータ生成命令が存在しない場合、先行枝方向にその出力データ生成命令を探索する。例えば、スレッド出力データ生成命令・スレッド入力データ参照命令抽出部３３２は、データ依存枝「１１」の先行枝「８」を抽出する。そして、スレッド出力データ生成命令・スレッド入力データ参照命令抽出部３３２は、データ依存枝「８」のデータ生成命令記号が存在しないので、データ依存枝「８」の先行枝「３」と、先行枝「２４」とを抽出する。
スレッド出力データ生成命令・スレッド入力データ参照命令抽出部３３２は、先行枝として抽出したデータ依存枝「３」のデータ生成命令記号「３：ＤＥＦ」を抽出し、探索元のデータ依存枝「１１」の生成命令リスト（スレッド入力データ参照命令のスレッド出力データ生成命令リスト）に追加する。
また、スレッド出力データ生成命令・スレッド入力データ参照命令抽出部３３２は、先行枝として抽出したデータ依存枝「２４」のデータ生成命令記号「２４：ＤＥＦ」を抽出し、探索元のデータ依存枝「１１」の生成命令リスト（スレッド入力データ参照命令のスレッド出力データ生成命令リスト）に追加する。

以上説明したスレッド抽出データ生成命令の探索方法によって、スレッド出力データ生成命令・スレッド入力データ参照命令抽出部３３２は、スレッド入力データ参照命令のスレッド出力データ生成命令リストを生成することが可能である。

図１１は、スレッド出力データ生成命令・スレッド入力データ参照命令抽出部３３２が、スレッド入力データ参照命令のスレッド出力データ生成命令リストを、スレッド入出力データ抽出部３３１が生成したスレッド間データ依存枝情報１２０Ａ（図９参照）に挿入して生成した情報（スレッド間データ依存命令対情報）を示す表である。図１１に示すように、スレッド入力データ参照命令のスレッド出力データ生成命令リストは、各データ依存枝に対して、複数存在する場合もある。

また、スレッド入出力データ抽出部３３１によって生成されたスレッド間データ依存枝情報１２０Ａと、スレッド出力データ生成命令・スレッド入力データ参照命令抽出部３３２によって生成されたスレッド間データ依存命令対情報１３０Ａ（図１１参照）とは、通信命令挿入部３５Ａに引き渡される。

（通信命令挿入部３５Ａの説明）
通信命令挿入部３５Ａは、構文解析部３１によって生成された中間語と、スレッド入出力データ抽出部３３１によって生成されたスレッド間データ依存枝情報１２０Ａ（図９参照）と、スレッド出力データ生成命令・スレッド入力データ参照命令抽出部３３２によって生成されたスレッド間データ依存命令対情報１３０Ａ（図１１参照）とを入力し、中間語に通信命令を挿入する。通信命令挿入部３５Ａは、データ送信命令挿入部３５１Ａと、データ受信同期命令挿入部３５２Ａとを含んで構成されている。

（データ送信命令挿入部３５１Ａの説明）
データ送信命令挿入部３５１Ａは、スレッド間データ依存命令対情報１３０Ａ（図１１参照）のスレッド入力データ参照命令のスレッド出力データ生成命令リストを参照して、中間語内のスレッド入力データ参照命令のスレッド出力データ生成命令の直後にデータ送信命令を挿入する。以下、図１１を用いて、データ送信命令挿入部３５１Ａの機能の一例について説明する。

データ送信命令挿入部３５１Ａは、例えば、スレッド入力データ参照命令「１３：ＵＳＥ」に対応するスレッド出力データ生成命令「１３：ＤＥＦ」の直後にデータ送信命令を挿入する。また、例えば、データ送信命令挿入部３５１Ａは、スレッド入力データ参照命令「１１：ＵＳＥ」に対応するスレッド出力データ生成命令「３：ＤＥＦ」と「２４：ＤＥＦ」のそれぞれの直後にデータ送信命令を挿入する。
この際、送信先スレッドとしてスレッド入力データ参照命令「１３：ＵＳＥ」が実行されるスレッド「ｐ２」を指定する。
データ送信命令挿入部３５１Ａは、データ送信命令として、例えば、既存の並列プログラミング用メッセージ通信ライブラリ関数のデータ送信処理を行う関数を呼び出す命令を中間語内に挿入することが可能である。
メッセージ通信方式の並列プログラミング環境であるＭＰＩを例にとると、データ送信命令挿入部３５１Ａは、データ送信処理を行う関数として、例えばＭＰＩ＿Ｓｅｎｄ（）関数を呼び出す命令を挿入し、関数呼び出し引数として、データアドレス、データサイズ、データタイプ、送信先スレッド番号（各スレッドに予め割り当てられた固有の番号）、メッセージタグ番号（スレッド入力データ参照命令のデータ依存枝番号）を設定する。

（データ受信同期命令挿入部３５２Ａの説明）
データ受信同期命令挿入部３５２Ａは、スレッド間データ依存命令対情報１３０Ａ（図１１参照）のスレッド入力データ参照命令のスレッド出力データ生成命令リストを参照して、中間語内のスレッド入力データ参照命令の直前にデータ受信同期命令を挿入する。以下、図１１を用いて、データ受信同期命令挿入部３５２Ａの機能の一例について説明する。

データ受信同期命令挿入部３５２Ａは、例えば、スレッド入力データ参照命令「１１：ＵＳＥ」の直前にデータ受信同期命令を挿入する。
データ受信同期命令挿入部３５２Ａは、データ受信同期命令として、例えば、既存の並列プログラミング用メッセージ通信ライブラリ関数のデータ受信処理を行う関数を呼び出す命令を中間語内に挿入することが可能である。
メッセージ通信方式の並列プログラミング環境であるＭＰＩを例にとると、データ受信同期命令挿入部３５２Ａは、データ受信処理を行う関数として、例えばＭＰＩ＿Ｒｅｃｖ（）関数を呼び出す命令を挿入し、関数呼び出し引数として、データアドレス、データサイズ、データタイプ、送信元スレッド番号（ＭＰＩ＿ＡＮＹ＿ＳＯＵＲＣＥ）、メッセージタグ番号（スレッド入力データ参照命令のデータ依存枝番号）を設定する。なお、送信元スレッド番号として「ＭＰＩ＿ＡＮＹ＿ＳＯＵＲＣＥ」（「送信元は任意のスレッド」の意）としているのは、スレッド入力データ参照命令に対応するスレッド出力データ生成命令が複数個存在する場合に対応するためである。

また、通信命令挿入部３５Ａによって中間語に通信命令が挿入されて生成された通信命令を含むプログラムは、プログラム分割・コード生成部３９に引き渡される。

（プログラム分割・コード生成部３９の説明）
プログラム分割・コード生成部３９は、通信命令挿入部３５Ａによって生成された通信命令を含むプログラムを各プロセッサが行うスレッド処理に分割（プログラム分割）し、実行コード（機械コード）に変換（コード生成）するものである。その結果、プログラム分割・コード生成部３９は、通信命令を含む分割プログラム５５Ａ（図１参照）を生成する。
プログラム分割の機能は、構文解析部３１によって各命令に付加されたスレッド属性を参照して、プログラムを各スレッドの処理に分割するものである。
また、コード生成の機能は、通常のコンパイラが有する公知のコード生成の機能と特に変わらないため、コード生成の機能についてのさらに詳細な説明は省略する。

以上説明した第１の実施形態によれば、プログラム処理装置１Ａは、並列処理プログラム５０Ａを解析し、既存の分散メモリシステムおよび既存の共有メモリシステムに適用可能な通信命令を含む分割プログラム５５Ａを生成することが可能である。

図１２は、プログラム処理装置１Ａ（図１参照）のハードウェア構成の一例を示す図である。
図１２に示すように、プログラム処理装置１Ａは、コンピュータであり、中央処理装置（処理部）１０と、主記憶装置（処理部）２０と、ファイル装置（記憶部）４０と、入力装置ＩＮと、出力装置ＯＵＴとを含んで構成されている。また、ファイル装置４０は、並列処理プログラム５０Ａを含んで構成され、主記憶装置２０は、並列処理コンパイラ３０Ａを含んで構成されている。

中央処理装置１０は、例えばＣＰＵ（Central Processing Unit）等から構成され、主記憶装置２０に格納されているプログラムを実行する機能を有する。
主記憶装置２０は、例えばＲＡＭ（Random Access Memory）や、ＲＯＭ（Read Only Memory）等から構成され、中央処理装置１０が実行するプログラムやデータ等を格納するものである。
並列処理コンパイラ３０Ａは、並列処理プログラム５０Ａをマルチプロセッサシステムが実行できる形式に変換する（マルチプロセッサシステムのための実行コードを生成する）ためのプログラムである。
ファイル装置４０は、ファイルを格納するための装置であり、並列処理プログラム５０Ａ等を格納するものである。
並列処理プログラム５０Ａは、マルチプロセッサシステムに並列処理を実行させるためのプログラムであり、プログラマ等によって記述されたものである。
入力装置ＩＮは、キーボードや、マウス等によって構成され、操作者からの指示を入力する機能を有する。
また、出力装置ＯＵＴは、ディスプレイや、プリンタ等によって構成され、文字や画像等を出力する機能を有する。

中央処理装置１０は、主記憶装置２０に格納された並列処理コンパイラ３０Ａの指令を受け、ファイル装置４０に保存された並列処理プログラム５０Ａを主記憶装置２０に読み出す。中央処理装置１０は、主記憶装置２０に読み出した並列処理プログラム５０Ａ中の命令の処理順序や、各命令が参照するデータと、各命令が生成するデータとを解析した結果得られるデータ依存枝情報１００Ａ（図７参照）およびスレッド間データ依存命令対情報１３０Ａ（図１１参照）を生成し、主記憶装置２０に格納する。なお、並列処理プログラム５０Ａは、例えば、プログラマ等が入力装置ＩＮを介して入力し、ファイル装置４０に格納することが可能である。

次いで、中央処理装置１０は、主記憶装置２０に格納された並列処理コンパイラ３０Ａの指令を受け、データ依存枝情報１００Ａ（図７参照）およびスレッド間データ依存命令対情報１３０Ａ（図１１参照）を参照して、通信命令を主記憶装置２０に格納された並列処理プログラム５０Ａ中に埋め込む。

次いで、中央処理装置１０は、主記憶装置２０に格納された並列処理コンパイラ３０Ａの指令を受け、通信命令が埋め込まれた並列処理プログラム５０Ａをスレッド毎に分割する。中央処理装置１０は、スレッド毎に分割された通信命令を含む分割プログラム５５Ａをファイル装置４０に保存する。また、中央処理装置１０は、出力装置ＯＵＴを介して当該プログラムを出力することが可能である。

図１３は、プログラム処理装置１Ａ（図１参照）の動作を示すフローチャートである。図１３を参照して（適宜図１参照）、プログラム処理装置１Ａの動作について説明する。

図１３に示すように、まず、構文解析部３１は、並列処理プログラム５０Ａの構文を解析する処理（構文解析処理）を行う（Ｓ１０）。次に、データ依存性抽出部３２Ａは、構文解析処理の結果生成された中間語を用いて、データ依存性を抽出する処理（データ依存性抽出処理）を行う（Ｓ２０）。スレッド間データ依存性抽出部３３は、スレッド間のデータ依存性を抽出する処理（スレッド間データ依存性抽出処理）を行う（Ｓ３０）。次に、通信命令挿入部３５Ａは、通信命令を挿入して通信命令を含むプログラムを生成する処理（通信命令挿入処理）を行う（Ｓ４０Ａ）。その後、プログラム分割・コード生成部３９は、通信命令を含むプログラムを分割し、実行コードに変換する処理（プログラム分割・コード生成処理）を行う（Ｓ５０）。

図１４は、データ依存性抽出処理Ｓ２０（図１３参照）の詳細を示すフローチャートである。図１４を参照して（適宜図１参照）、データ依存性抽出処理Ｓ２０（図１３参照）について説明する。

図１４に示すように、まず、中間語から命令参照・生成データ抽出部３２１は、各命令の参照・生成データを抽出する（Ｓ２１）。次に、関数内間接参照・生成データ抽出部３２３は、中間語から関数内間接参照・生成データを抽出する（Ｓ２２）。そして、命令ブロック抽出部３２４は、中間語から命令ブロックを抽出する（Ｓ２３）。次に、命令ブロック入出力データ抽出部３２５Ａは、中間語から命令ブロック入出力データを抽出する（Ｓ２４）。そして、データ依存枝生成部３２６は、命令ブロック出力データとこれを入力する命令ブロック入力データとの間にデータ依存枝を付加する（Ｓ２５）。この処理により、データ依存枝生成部３２６は、データ依存枝情報１００Ａ（図７参照）を生成することができる。その後、出力データ生成命令・入力データ参照命令抽出部３２７は、出力データ生成命令・入力データ参照命令を抽出する（Ｓ２６）。この処理により、出力データ生成命令・入力データ参照命令抽出部３２７は、出力データ生成命令・入力データ参照命令情報１１０Ａ（図８参照）を生成することができる。これらの処理により、データ依存性抽出部３２Ａは、中間語を用いて、データ依存枝情報１００Ａ（図７参照）および出力データ生成命令・入力データ参照命令情報１１０Ａ（図８参照）を生成することができる。

図１５は、スレッド間データ依存性抽出処理Ｓ３０（図１３参照）の詳細を示すフローチャートである。図１５を参照して（適宜図１参照）、スレッド間データ依存性抽出処理Ｓ３０（図１５参照）について説明する。

図１５に示すように、まず、スレッド入出力データ抽出部３３１は、スレッド入出力データを抽出する（Ｓ３１）。これにより、スレッド入出力データ抽出部３３１は、スレッド間データ依存枝情報１２０Ａ（図９参照）を生成することができる。次に、スレッド出力データ生成命令・スレッド入力データ参照命令抽出部３３２は、スレッド出力データ生成命令・スレッド入力データ参照命令を抽出する（Ｓ３２）。この処理により、スレッド出力データ生成命令・スレッド入力データ参照命令抽出部３３２は、スレッド間データ依存命令対情報１３０Ａ（図１１参照）を生成することができる。これらの処理により、スレッド間データ依存性抽出部３３は、スレッド間データ依存命令対情報１３０Ａ（図１１参照）を生成することができる。

図１６は、通信命令挿入処理Ｓ４０Ａ（図１３参照）の詳細を示すフローチャートである。図１６を参照して（適宜図１参照）、通信命令挿入処理Ｓ４０Ａ（図１６参照）について説明する。

図１６に示すように、まず、データ送信命令挿入部３５１Ａは、中間語内のスレッド入力データ参照命令のスレッド出力データ生成命令の直後にデータ送信命令を挿入する（Ｓ４２Ａ）。次に、データ受信同期命令挿入部３５２Ａは、データ送信命令を含む中間語内のスレッド入力データ参照命令のスレッド入力データ参照命令の直前にデータ受信同期命令を挿入する（Ｓ４３Ａ）。これらの処理により、通信命令挿入部３５Ａは、中間語に通信命令を挿入することができる。

プログラム分割・コード生成処理Ｓ５０（図１３参照）は、プログラム分割・コード生成部３９が、通信命令挿入部３５Ａによって生成された通信命令を含むプログラムを各スレッドが行う処理に分割（プログラム分割）し、実行コードに変換（コード生成）する処理である。その結果、プログラム分割・コード生成部３９は、通信命令を含む分割プログラム５５Ａ（図１参照）を生成することができる。プログラム分割およびコード生成の処理は、通常のコンパイラが有する公知のプログラム分割およびコード生成の処理と特に変わらないため、プログラム分割およびコード生成の処理についてのさらに詳細な説明は省略する。

（第２の実施形態）
続いて、図面（図１７〜図２２）を用いて本発明の第２の実施形態について説明する。第２の実施形態は、データ構造の依存性に関するものであり、並列処理プログラム内にデータ構造が含まれている場合に、データ構造に作用する命令間の依存性を抽出し、抽出結果を用いて、命令ブロックの入出力データの抽出とデータ依存枝情報の生成とを行い、その命令ブロックのデータ依存枝情報を用いて出力データ生成命令・入力データ参照命令を抽出し、出力データ生成命令・入力データ参照命令情報を生成する点が、第１の実施形態と異なる。したがって、それ以外の第１の実施形態と共通する部分については、同じ符号を付し、説明を省略する。

データ構造とは、配列データやＣ言語のstructure（structureは通称「構造体」と呼ばれる）のように複数の単一データから構成されるデータの集合体である。ここで、単一データとは、各命令によって生成・参照される情報の対象（演算命令が作用するデータの単位）のことであり、通常の「データ」のことである。以下では、説明の便宜上、各命令によって生成・参照される情報の対象を「単一データ」、複数の単一データから構成されるデータの集合体を「データ構造」と呼ぶことにする。

単一データの場合、これを生成する命令（代入命令）によって完全に書き換えられるので、データ生成命令からデータ参照命令へと単純なデータ依存性を派生する（データ参照命令がデータ生成命令に依存する）。この単純なデータ依存性がデータフローマシン（データ駆動型制御）の動作原理になる。また、このデータ依存性を単一データ依存性と呼ぶことにする。

データ構造の場合、一つの演算命令がその一部（データ構造中の一要素）だけをアクセスし（アクセス＝「書換え」または「読出し」）、しかも、アクセスするデータ構造要素の具体的な特定をコンパイル時に行うことが不可能な場合がある。例えば、変数インデックスによる配列アクセスやポインタ参照データがこれに該当する。このため、このデータ構造のアクセスの曖昧さを考慮した依存性（Read-after-write依存性（true dependency）およびWrite-after-write依存性（output dependency））を以下のように定義する。

Read-after-write依存性は、データ構造の任意の要素に対する「書換え命令」から同データ構造の任意の要素に対する「読出し命令」へ派生する依存性を意味するものとする。これは、単一データのデータ依存性と同性質のものであるが、書換え命令が作用する要素と読出し命令が作用する要素が同一であるとは限らない場合でも、前記した「アクセスの曖昧さ」を考慮して依存性を派生させるものである。

Write-after-write依存性は、データ構造の任意の要素に対する「書換え命令」から同データ構造の任意の要素に対する「書換え命令」へ派生する依存性を意味するものとする。

単一データのデータ依存性では、Write-after-write依存性は存在しない。なぜならば、単一データに対するデータ生成命令は、それ以前に実行された同一データに対するデータ生成命令によって定義されたデータを完全に無効化し（完全に書換え）、これらのデータ生成命令が派生するデータ依存性は、論理的に分離されるためである。

データ構造に対する複数の「書換え命令」については、このような書換えの無効化が必ずしも起こらない（書換える要素が異なる場合がある）ため、データ構造の過去の書換え履歴をすべて記憶しておく必要が生じる。このような過去の書換え履歴をすべて記憶する手段を用いて、書換え命令同士のデータ依存枝による逐次化を図る。このWrite-after-write依存性は、データ構造に対する書換え命令が、仮想的には、「データ構造のすべての要素を読込む」「データ構造の一要素を書き換え、他のすべての要素をそのままにしてデータ構造全体を生成する」という２つの動作で構成されていると解釈することによって、通常のデータ依存性（単一データのデータ依存性）と同様の扱いが可能になる。また、データ構造に作用する命令間のデータ依存性をデータ構造依存性と呼ぶことにする。

第２の実施形態は、データ構造を含む並列処理プログラム５０Ｂ（図１７参照）から命令ブロック入出力データを抽出し、データ依存枝情報および出力データ生成命令・入力データ参照命令を抽出することができる構成となっている。

図１７は、第２の実施形態におけるプログラム処理装置の機能例を示す機能ブロック図である。図１７に示すように、プログラム処理装置１Ｂは、データ構造を含む並列処理プログラム５０Ｂを入力して、通信命令を含む分割プログラム５５Ｂを出力する。第２の実施形態では、プログラム処理装置１Ｂのデータ依存性抽出部３２Ｂに含まれる命令ブロック入出力データ抽出部３２５Ｂの機能が、第１の実施形態の命令ブロック入出力データ抽出部３２５Ａの機能と異なる。以下、プログラム処理装置１Ｂを構成する各要素の中で、命令ブロック入出力データ抽出部３２５Ｂの機能について説明する。

図１８に示すプログラムは、プログラマ等が記述した並列処理プログラムであり、データ構造が含まれる並列処理プログラムの一例である。ここでは、構文解析部３１が並列処理プログラム５０Ｂを入力して、当該プログラムの構文を解析し、中間語を生成する場合について説明する。また、説明の都合上、以下では、中間語として適宜、並列処理プログラム５０Ｂを用いて説明することにする。

（命令ブロック入出力データ抽出部３２５Ｂの説明）
命令ブロック入出力データ抽出部３２５Ｂは、構文解析部３１によって生成された中間語と、命令ブロック抽出部３２４によって抽出された命令ブロック情報とを入力し、データ構造に作用する命令間の依存性を抽出し、その命令ブロック情報を用いて、その中間語から命令ブロック入力データと、命令ブロック出力データとを抽出する。以下、図１８ないし図２０を用いて（適宜図１７参照）、命令ブロック入出力データ抽出部３２５Ｂの機能のうち、第１の実施形態における命令ブロック入出力データ抽出部３２５Ａの機能との違い（データ構造に作用する命令間の依存性を抽出する機能）のみを説明する。

図１９は、命令ブロック入出力データ抽出部３２５Ｂが、構文解析部３１によって生成された中間語から命令ブロック入力データと、命令ブロック出力データとを抽出した結果を示すプログラムグラフである。図１９には、例として、命令ブロック入力データノードＦ２や、命令ブロック出力データノードＧ２などが示されている。以下、命令ブロック入出力データ抽出部３２５Ｂによる命令ブロック入出力データの抽出方法を説明する。

図１９に示すように、並列処理プログラム５０Ｂは、命令ブロック抽出部３２４によって命令ブロックＡ１１〜Ａ１６に分割されている。例えば、図１８に示した並列処理プログラム５０Ｂの３行目のデータ構造要素に作用する命令「a[0] = 1;」は、構文解析部３１によって、
$94 := a[0] ...... (1)
$94 = 1 ...... (2)
という２つの命令に分解される（命令ブロックＡ１１参照）。命令(1)は、配列aの0番目の要素のアドレスを計算し、中間変数$94に記憶する演算である。命令(2)は、アドレス$94に右辺式「1」を代入する演算である。なお、データ構造要素のアドレスを表す中間変数（ここでは$94）は、任意の演算命令で引用される場合（以下に示す書換え命令および読出し命令）、そのアドレスに格納されている要素データ値を指す。

命令ブロック入出力データ抽出部３２５Ｂは、例えば、配列aの要素のアドレスを計算して中間変数$94に記憶する命令「$94 := a[0]」を命令ブロックＡ１１内に見付ける。また、命令ブロック入出力データ抽出部３２５Ｂは、この中間変数（データ構造要素アドレス）$94が代入式の左辺にある命令「$94 = 1」を命令ブロックＡ１１内に見付け、この命令「$94 = 1」が、配列aに対する書換え命令（データ構造書換え命令）であると判定する。同様な方法を用いて、命令ブロック入出力データ抽出部３２５Ｂは、例えば、命令ブロックＡ１２内にデータ構造書換え命令「$95 = b」、命令ブロックＡ１４内にデータ構造書換え命令「$103 = $101」を見付ける。このようにして、命令ブロック入出力データ抽出部３２５Ｂは、データ構造書換え命令を抽出することができる。

また、命令ブロック入出力データ抽出部３２５Ｂは、例えば、配列aの要素のアドレスを計算して中間変数$96に記憶する命令「$96 := a[i]」を命令ブロックＡ１３内に見付ける。また、命令ブロック入出力データ抽出部３２５Ｂは、この中間変数（データ構造要素アドレス）$96が代入式の右辺にある命令「$97 := $96 + 1」を命令ブロックＡ１３内に見付け、この命令「$97 := $96 + 1」が、配列aに対する読出し命令（データ構造読出し命令）であると判定する。同様な方法を用いて、命令ブロック入出力データ抽出部３２５Ｂは、例えば、命令ブロックＡ１３内にデータ構造読出し命令「$100 := $99 - 1」、命令ブロックＡ１６内にデータ構造読出し命令「$107 := printf(“a[i + 1] = %d\n”, $105)」を見付ける。このようにして、命令ブロック入出力データ抽出部３２５Ｂは、データ構造読出し命令を抽出することができる。

命令ブロック入出力データ抽出部３２５Ｂは、データ構造書換え命令からデータ構造書換え命令へと派生する依存関係が存在する場合、その依存関係を前記したWrite-after-write依存性であると判定する。また、データ構造書換え命令からデータ構造読出し命令へと派生する依存関係が存在する場合、その依存関係を前記したRead-after-write依存性であると判定する。

図２０は、命令ブロック入出力データ抽出部３２５Ｂが抽出したデータ構造の依存性を説明するための図である。図２０に示すように、例えば、データ構造書換え命令「$94 = 1」からデータ構造書換え命令「$95 = b」へ派生する依存性がWrite-after-write依存性として示されている。また、例えば、データ構造書換え命令「$95 = b」からデータ構造読出し命令「$97 := $96 + 1」へ派生する依存性がRead-after-write依存性として示されている。

命令ブロック入出力データ抽出部３２５Ｂは、Write-after-write依存性またはRead-after-write依存性の依存関係にあるデータを別ブロック内に探し、それを命令ブロック入出力データとして抽出する。命令ブロック入出力データ抽出部３２５Ｂは、命令ブロック抽出部３２４によって抽出された命令ブロック情報を参照して、例えば、配列aに対するデータ構造書換え命令「$94 = 1」が命令ブロックＡ１１内にあると判定する。また、命令ブロック入出力データ抽出部３２５Ｂは、配列aに対するデータ構造書換え命令「$95 = b」が命令ブロックＡ１１以外の命令ブロック（命令ブロックＡ１２）に存在し、この命令が、データ構造書換え命令「$94 = 1」に対してWrite-after-write依存性を示すと判定する。その結果、命令ブロック入出力データ抽出部３２５Ｂは、命令ブロックＡ１１の命令ブロック出力データとして、配列aを抽出することができる。同時に、命令ブロック入出力データ抽出部３２５Ｂは、命令ブロックＡ１２の命令ブロック入力データとして、配列aを抽出することができる。図１９には、それぞれ命令ブロック出力データノードＧ２および命令ブロック入力データノードＦ２として示されている。例えば、命令ブロック出力データノードＧ２および命令ブロック入力データノードＦ２には、*a<3>と標記されているが、これは配列a[3]の任意の要素を示している。

このような方法により、命令ブロック入出力データ抽出部３２５Ｂは、命令ブロック入出力データを抽出することができる。抽出した結果得られた命令ブロック入出力データは、図１９のプログラムグラフに付加された命令ブロック入出力データノードとして示されている。このように、命令ブロック入出力データ抽出部３２５Ｂは、命令ブロック抽出部３２４によって抽出された命令ブロックと、その命令ブロック内の入出力データ（データ構造を含む）とを対応付けた命令ブロック入出力データに関する情報（命令ブロック入出力データ情報）を生成することができる。

また、命令ブロック抽出部３２４によって生成された命令ブロック情報と、命令ブロック入出力データ抽出部３２５Ｂによって生成された命令ブロック入出力データ（データ構造を含む）に関する情報（命令ブロック入出力データ情報）とは、データ依存枝生成部３２６に引き渡される。

図２１は、データ依存枝生成部３２６（図１７参照）によって生成されたデータ依存枝情報を示す表である。データ依存枝生成部３２６は、構文解析部３１によって生成された中間語と、命令ブロック抽出部３２４によって生成された命令ブロック情報と、命令ブロック入出力データ抽出部３２５Ｂによって生成された命令ブロック入出力データ情報とを入力し、単一データのデータ依存枝情報を生成する際と同様の処理によって、データ構造のデータ依存枝情報を生成することが可能である。第２の実施形態においては、並列処理プログラム５０Ｂを用いており、この場合、先行枝および後続枝が存在しないため、データ依存枝情報１００Ｂには、先行枝の項目および後続枝の項目が省略されている。

図２２は、出力データ生成命令・入力データ参照命令抽出部３２７（図１７参照）によって生成された出力データ生成命令・入力データ参照命令情報を示す表である。出力データ生成命令・入力データ参照命令抽出部３２７は、構文解析部３１によって生成された中間語と、データ依存枝生成部３２６によって生成されたデータ依存枝情報１００Ｂ（図２１参照）とを入力し、単一データのデータ依存枝情報を生成する際と同様の処理によって、出力データ生成命令および入力データ参照命令を抽出することが可能である。

以上説明した第２の実施形態によれば、プログラム処理装置１Ｂは、データ構造を含む並列処理プログラム５０Ｂを解析し、既存の分散メモリシステムおよび既存の共有メモリシステムに適用可能な通信命令を含む分割プログラム５５Ｂを生成することが可能である。

また、プログラム処理装置１Ｂのハードウェア構成については、プログラム処理装置１Ａ（図１参照）のハードウェア構成と変わらないため、説明を省略する。

以上の第１の実施形態または第２の実施形態に係るプログラム処理装置によれば、プログラマ等が逐次プログラムに簡単な記述を追加するだけで、マルチプロセッサシステムが高性能な並列処理を実行するための実行コードを生成することが可能である。

第１の実施形態に係るプログラム処理装置の機能例を示す機能ブロック図である。 第１の実施形態に係るスレッド記述追加前のプログラムの一例である。 第１の実施形態に係るスレッド記述追加後のプログラム（並列処理プログラム）の一例である。 第１の実施形態に係る中間語から命令ブロックを抽出した結果を示すプログラムグラフである。 第１の実施形態に係る中間語から命令ブロック入出力データを抽出した結果を示すプログラムグラフである。 第１の実施形態に係る中間語からデータ依存枝を生成した結果を示すプログラムグラフである。 第１の実施形態に係るデータ依存枝情報を示す表である。 第１の実施形態に係る出力データ生成命令・入力データ参照命令情報を示す表である。 第１の実施形態に係るスレッド間データ依存枝情報を示す表である。 第１の実施形態に係るスレッド出力データ生成命令の探索方法を説明するための図である。 第１の実施形態に係るスレッド間データ依存命令対情報を示す表である。 第１の実施形態に係るプログラム処理装置のハードウェア構成の一例を示す図である。 第１の実施形態に係るプログラム処理装置の動作を示すフローチャートである。 第１の実施形態に係るデータ依存性抽出処理の流れを示すフローチャートである。 第１の実施形態に係るスレッド間データ依存性抽出処理の詳細を示すフローチャートである。 第１の実施形態に係る通信命令挿入処理の詳細を示すフローチャートである。 第２の実施形態に係るプログラム処理装置の機能例を示す機能ブロック図である。 第２の実施形態に係る並列処理プログラムの一例である。 第２の実施形態に係る中間語から命令ブロック入出力データを抽出した結果を示すプログラムグラフである。 第２の実施形態に係るデータ構造の依存性を説明するための図である。 第２の実施形態に係るデータ依存枝情報を示す表である。 第２の実施形態に係る出力データ生成命令・入力データ参照命令情報を示す表である。

符号の説明

１Ａ、１Ｂ プログラム処理装置
１０ 中央処理装置（処理部）
２０ 主記憶装置（処理部）
３０Ａ 並列処理コンパイラ
３１ 構文解析部
３２Ａ、３２Ｂ データ依存性抽出部
３３ スレッド間データ依存性抽出部
３５Ａ 通信命令挿入部
３９ プログラム分割・コード生成部
４０ ファイル装置（記憶部）
５０Ａ、５０Ｂ 並列処理プログラム
５５Ａ、５５Ｂ 通信命令を含む分割プログラム
３２１ 命令参照・生成データ抽出部
３２２ ポインタエイリアス解析部
３２３ 関数内間接参照・生成データ抽出部
３２４ 命令ブロック抽出部
３２５Ａ、３２５Ｂ 命令ブロック入出力データ抽出部
３２６ データ依存枝生成部
３２７ 出力データ生成命令・入力データ参照命令抽出部
３３１ スレッド入出力データ抽出部
３３２ スレッド出力データ生成命令・スレッド入力データ参照命令抽出部
３３３ プロセッサ間通信命令挿入部
３４１ スレッド間転送ポインタ抽出部
３４２ ポインタエイリアスＩＤ演算命令挿入部
３５１Ａ データ送信命令挿入部
３５２Ａ データ受信同期命令挿入部
３５３ スレッド起動命令挿入部
ＩＮ 入力装置
ＯＵＴ 出力装置

Claims (5)

1. スレッド記述が追加された並列処理プログラムを入力し、各スレッドに当該プログラムを分割し、マルチプロセッサシステムのための実行コードの生成を行うプログラム処理装置であって、
   前記プログラム処理装置は、記憶部と、処理部とを備え、
   前記処理部は、
   前記記憶部に入力された前記並列処理プログラム中の各スレッドの開始地点および終了地点を、予約されたキーワードまたは記号によって特定し、特定された開始地点および終了地点によって指定されたスレッド領域に含まれる各演算命令にスレッド属性を付加した中間語を生成する構文解析部と、
   前記中間語を入力し、当該中間語から命令ブロック入出力データを抽出して、当該命令ブロック入出力データに基づいて、単一演算命令によって生成または参照されるデータの依存性である単一データ依存性に関する情報と、データ構造に作用する命令間のデータ依存性であるデータ構造依存性に関する情報とを含むデータ依存枝情報を生成するデータ依存性抽出部と、
   前記中間語と前記データ依存枝情報とを入力し、当該データ依存枝情報に基づいて、当該中間語から異なるスレッド同士を接続するデータ依存枝と、当該データ依存枝に対応するスレッド出力データ生成命令およびスレッド入力参照命令とを抽出して、スレッド間データ依存命令対情報を生成するスレッド間データ依存性抽出部と、
   前記中間語と前記スレッド間データ依存命令対情報とを入力し、前記スレッド間データ依存命令対情報に基づいて、前記中間語に、前記スレッド間で依存するデータの通信命令を挿入して、当該通信命令を含むプログラムを生成する通信命令挿入部と、
   前記通信命令を含むプログラムを入力し、当該プログラムを各命令の前記スレッド属性に基づいて前記各スレッドに分割し、実行コードに変換するプログラム分割・コード生成部と
   を備えることを特徴とするプログラム処理装置。
2. 請求項１に記載のプログラム処理装置の記憶部に入力される並列処理プログラムであって、
   前記プログラム処理装置の処理部によって、各スレッドの開始地点と終了地点が、前記並列処理プログラム内に記述された予約されたキーワードまたは記号によって特定され、特定された開始地点および終了地点によって指定されたスレッド領域に含まれる各演算命令にスレッド属性が付加され、当該スレッド属性に基づいて前記各スレッドに分割され、実行コードに変換される
   ことを特徴とする並列処理プログラム。
3. スレッド記述が追加された並列処理プログラムを入力し、各スレッドに当該プログラムを分割し、マルチプロセッサシステムのための実行コードの生成を行うプログラム処理装置によるプログラム処理方法であって、
   前記プログラム処理装置は、記憶部と、処理部とを備え、
   前記処理部は、
   前記記憶部に入力された前記並列処理プログラム中の各スレッドの開始地点および終了地点を、予約されたキーワードまたは記号によって特定し、特定された開始地点および終了地点によって指定されたスレッド領域に含まれる各演算命令にスレッド属性を付加した中間語を生成し、
   前記中間語を入力し、当該中間語から命令ブロック入出力データを抽出して、当該命令ブロック入出力データに基づいて、単一演算命令によって生成または参照されるデータの依存性である単一データ依存性に関する情報と、データ構造に作用する命令間のデータ依存性であるデータ構造依存性に関する情報とを含むデータ依存枝情報を生成し、
   前記中間語と前記データ依存枝情報とを入力し、当該データ依存枝情報に基づいて、当該中間語から異なるスレッド同士を接続するデータ依存枝と、当該データ依存枝に対応するスレッド出力データ生成命令およびスレッド入力参照命令とを抽出して、スレッド間データ依存命令対情報を生成し、
   前記中間語と前記スレッド間データ依存命令対情報とを入力し、前記スレッド間データ依存命令対情報に基づいて、前記中間語に、前記スレッド間で依存するデータの通信命令を挿入して、当該通信命令を含むプログラムを生成し、
   前記通信命令を含むプログラムを入力し、当該プログラムを各命令の前記スレッド属性に基づいて前記各スレッドに分割し、実行コードに変換する
   ことを特徴とするプログラム処理方法。
4. 請求項３に記載のプログラム処理方法をコンピュータに実行させるための並列処理コンパイラ。
5. 請求項４に記載の並列処理コンパイラを格納した記録媒体。

Images