JPH0644289A - 並列プロセッサのための線形回帰分散方法 - Google Patents

並列プロセッサのための線形回帰分散方法

Info

Publication number
JPH0644289A
JPH0644289A JP3031473A JP3147391A JPH0644289A JP H0644289 A JPH0644289 A JP H0644289A JP 3031473 A JP3031473 A JP 3031473A JP 3147391 A JP3147391 A JP 3147391A JP H0644289 A JPH0644289 A JP H0644289A
Authority
JP
Japan
Prior art keywords
equations
group
regression
value
equation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP3031473A
Other languages
English (en)
Inventor
Edward V Toney
エドワード・ビンセント・トニー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
International Business Machines Corp
Original Assignee
International Business Machines Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by International Business Machines Corp filed Critical International Business Machines Corp
Publication of JPH0644289A publication Critical patent/JPH0644289A/ja
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10—Complex mathematical operations
    • G06F17/11—Complex mathematical operations for solving equations, e.g. nonlinear equations, general mathematical optimization problems
    • G06F17/12—Simultaneous equations, e.g. systems of linear equations

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Computational Mathematics (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Pure & Applied Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Theoretical Computer Science (AREA)
  • Operations Research (AREA)
  • Databases & Information Systems (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Algebra (AREA)
  • Complex Calculations (AREA)
  • Executing Machine-Instructions (AREA)
  • Multi Processors (AREA)

Abstract

(57)【要約】 【目的】本発明の主目的は、線形回帰分散技法を利用し
て任意次の線形回帰を解き、所要時間を大幅に減少する
ことである。 【構成】本発明は、計算時間すなわち「所要時間」を、
並列処理装置上での従来の技術によって実施されるもの
から大幅に減少させるために、好ましくは並列処理装置
上で、Ｍ次線形回帰を解くために線形回帰技法を使用す
ることを教示する。さらに、この方法は、所要時間をさ
らに減少させるために、ベクトル機構を有する並列処理
装置を用いるデータ処理装置によって使用可能である。

Description

【発明の詳細な説明】
【０００１】
【産業上の利用分野】本発明は、ユニークな線形回帰分
散技法を使用するデータ処理システム上でＭ次線形回帰
をすばやく解くための、改良された方法と装置に関す
る。本発明は、並列処理装置、またはベクトル処理機構
を有する単一処理装置または並列処理装置で実行可能で
ある。
【０００２】
【従来の技術】一般に、データ処理装置における算術問
題のための計算時間は、解こうとする方程式の数と情報
を受け取って処理するために利用可能な処理装置の数の
関数である。Ｍ次線形回帰を解くことは、これまで直列
に行われており、この場合ｘ1が解かれ、次にｘ1を挿入
することによってｘ2が解かれ、そして次にｘ2を挿入す
ることによってｘ3が解かれる。
【０００３】発明者は、ローレンス・リバーモア研究所
での計算研究班による１次線形回帰を解く少なくとも１
つの試みを知っている。彼等の技法は、３ ｌｏｇ2Ｎの
ベクトル演算カウントを提供する長さＮの１次線形回帰
を解くために、約１．５Ｎｌｏｇ2Ｎの算術演算を必要
とする。再帰的ダブリングと呼ばれるこの方法は、１次
回帰を解くために要する時間は、本明細書に開示される
線形回帰分散技法を使用するときに必要な時間より、
０．３ｌｏｇ2Ｎ倍必要のようである。それゆえに、再
帰的ダブリングは、本明細書に開示する線形回帰分散技
法よりも大きな計算上の要件を有するようであり、線形
回帰分散技法は好ましい代替法であると見ている。
【０００４】
【発明が解決しようとする課題】本発明の主目的は、処
理装置上で任意次の線形回帰を解くために線形回帰分散
技法を利用して、所要時間を大幅な減少を行うことであ
る。この技法は、最適性能のためにベクトル処理要素を
有する並列処理装置で実行されることが好ましい。
【０００５】本発明の別の１つの目的は、すべてのグル
ープの方程式を同時に処理して任意の次の線形循環方程
式を解くために、改良された線形回帰分散技法を使用し
て、計算時間を実質的に減少することである。
【０００６】本改良の他の１つの目的は、数値のストラ
イドＳアドレス指定を使用して、一定の計算順序のため
の性能全体を実質的に改良することである。
【０００７】
【課題を解決するための手段】本発明は、Ｍ次線形回帰
を好ましくは並列処理装置上で解き、計算時間すなわち
「所要時間」を並列処理装置上の従来技術によって実施
されるものより大幅に減少するための、線形回帰分散技
法の使用を教示する。さらに、この方法は、所要時間を
さらに減少するためのベクトル機構を有する並列処理装
置を使用する、データ処理システムで利用可能である。
【０００８】本明細書に開示する発明は、次の５段階を
含むデータ処理システム上で任意次の線形回帰を定義す
る１組の方程式の中の、回帰変数の値を決定する方法に
対するものである。 （ａ）前記の１組の方程式を連続方程式グループに分割
すること、（ｂ）各方程式グループについて、回帰変数
の暫定値を決定し、次の先行方程式グループから導かれ
た回帰変数はゼロに設定されること、（ｃ）各方程式に
ついて、ゼロに設定された回帰変数のための係数の値を
決定すること、（ｄ）前記のゼロに設定された回帰変数
の最終値を決定すること、及び（ｅ）予め解かれていな
い回帰変数の最終値を決定すること。
【０００９】
【実施例】図を参照すると、図１は、Ｍ次線形回帰の一
般的な表示であり、ここでｘ1からｘNまでの方程式の解
が望まれる。図２に最もよく示すように、これまでは、
今後変数を呼ぶこともあるｘi変数に対する解を計算す
るために、ｘ1を計算して、次にｘ1の値をｘ2の方程式
に挿入し、次にｘ2の値をｘ3の方程式に挿入するなどの
スカラー方式で、連続する方程式を解くことが必要であ
った。次に続く方程式の解を、その前の方程式が解かれ
る前に計算することはできないので、従来の技術では非
常に長い時間を費やした。方程式は非常に複雑であるか
ら、一般化した断片的な形で示す。
【００１０】図３は、Ｎ個の方程式で示す２次線形回帰
である。このような回帰は、これまでは、図２で説明し
たようなより低効率の方法で解かれてきた。
【００１１】図４は、Ｎ個の方程式に分断されたＭ次線
形回帰の一般的表示である。任意次の線形回帰につい
て、解法は、従来技術のスカラー方式を用いて実施する
ときは長い時間を要する。
【００１２】本発明の線形回帰分散法を説明する前に、
それが実行されるデータ処理環境を簡単に説明する。こ
の方法は、性能が大きく異なる単一処理装置または並列
処理装置システムの中で実行することができる。いずれ
のシステムにおいても、ストライドＳアドレス指定能力
とベクトル処理要素は、性能をかなり強調することにな
る。
【００１３】したがって、図１６は好ましい実施例をダ
イアグラム的に図示するもので、並列処理システムは１
つの主記憶装置１０と複数の処理装置１１−１〜１１−
ｎを有し、各所理想値はそれぞれキャッシュ・メモリ１
２−１〜１２−ｎを有する。好ましい実施例では、処理
装置１１は複雑なベクトル処理を実施し、１１−１など
の各処理装置は、図１４、図１５に示す２０、３０、４
０及び５０の複数の処理要素を有してもよい。種々の処
理装置とそれらのベクトル処理要素が、周知の方法でプ
ログラム制御の下で、種々の段階１〜５タスクに割り当
てられる。
【００１４】図５と図６は、本改良の１次線形回帰分散
法の段階１〜５ステップを示す。段階１では、回帰を具
備するＮ個の方程式が、暫定実施例であるが制限されて
はいないＧ個の方程式グループに分割され、１方程式グ
ループは４個の方程式である。計算時間の大きな節減
は、それぞれベクトル処理能力を有する複数の並列処理
要素を使用することによって実現される。
【００１５】好ましい実施例では、複数のベクトル処理
装置要素が、多数の方程式グループのための計算を同時
に実施することになる。この計算時間は、使用される処
理装置の数によって変わる。
【００１６】図１４に見るように、段階２の計算は、好
ましい実施例の１つの処理要素において、たとえば
ｘ1、ｘ5、ｘ9、ｘ2、ｘ6、ｘ10、ｘ3などグループを通
じて行われることになる。この順序の結果は、第１（暫
定）計算が実施されるとき、ｘ4は解かれないことであ
る。この順序は、ここではストライド４アドレス指定と
呼ばれる。
【００１７】本発明によれば、任意次の線形回帰を定義
する１組の方程式における線形回帰変数が、次の５ステ
ップの処理によって計算される。
【００１８】（ａ）前記の１組の方程式を複数の連続方
程式に分割すること、
【００１９】（ｂ）各グループについて、回帰変数の暫
定値を決定（計算）し、次の先行グループの方程式から
導かれた回帰変数はゼロに設定されること（それらの値
は計算の時点では未知であると、想定される）、
【００２０】（ｃ）各方程式について、ゼロに設定され
た回帰変数について係数の値を決定すること、
【００２１】（ｄ）ゼロに設定された回帰変数の最終値
を決定すること、及び
【００２２】（ｅ）予め解かれなかった回帰変数の最終
値を決定すること。
【００２３】本開示のために、ステップ（ａ）〜（ｅ）
はそれぞれ段階１〜５に対応させることにする。
【００２４】段階１（図５）では、Ｎ個の方程式はすべ
てＧ個のグループに分断され、各グループが有する方程
式の数は同じ（例えば４個）であることが好ましい。段
階２（図５）では、計算（ｘ1、ｘ5、ｘ9、ｘ2...）の
順序によってｘ1が解かれて段階２の間にｘ2を解くため
に利用可能になるので、グループ１の方程式の解法は、
好ましい実施例では直接に行われる。しかしグループ２
〜Ｇでは、このグループの段階１で＝記号の右側に現れ
るｘi-1〜ｘi-m変数は、段階２の間は未知であるから、
ゼロに設定される。たとえばグループ２の段階２では、
ｘ4は、それが先行グループ（グループ１）に現れ、未
知であり、そして検討中のグループ（グループ２）にも
現れるので、一時的にゼロに設定される。このステップ
は、段階２のグループ２における回帰変数の暫定値また
は「部分」値を生成する。この処理法はグループ２〜Ｇ
のすべてを通して実施される。たとえば、グループ２に
示され「ｘ8T」と指定された、ｘ8の「暫定」値は、
【００２５】ａ8ａ7ａ6ｂ5＋ａ8ａ7ｂ6＋ａ8ｂ7＋ｂ8 である。これは、ｘ4は暫定的にゼロに設定され、段階
２のグループ２に置けるｘ4の係数はゼロ化するからで
ある。説明のために、段階２のグループ２におけるｘ5T
と指定するｘ5の暫定値は、ｂ5である。同様にｘ6Tと指
定するｘ6の暫定値は、
【００２６】ａ6ｂ5＋ｂ6 となる。したがってｘ7につ
いての暫定値（ｘ7T）は、
【００２７】ａ7ａ6ｂ5＋ａ7ｂ6＋ｂ7 である。
【００２８】したがって、明らかなように、ステップ
（ｂ）すなわち段階２では算術計算が実施されて、変数
を人工的に０に設定することによって生じる誤りのため
に、暫定値または「部分」値が各ｘiに与えられる。す
なわち、ゼロの暫定値をこのグループにおける＝記号の
左側ではなく右側に現れる回帰変数（または２次以上の
回帰については変数）に割り当てることによって、ｘiT
すなわち暫定回帰値は、段階４及び５の計算で使用され
るために得られる。回帰変数の暫定値を計算するために
所定の値を一時的にゼロに設定するステップの結果であ
る概算は、図１４のストライド４アドレス指定を用いる
並列処理装置要素によって実施されることが好ましい。
１つのグループにおける解は、他のグループからの解に
よる計算で後に使用されることになるが、現在は互いに
未知である。各処理装置要素における段階２の計算の結
果を、汎用レジスタ及び／またはキャッシュ・メモリ１
１−１、または図１６に示す主記憶装置１０に入れるこ
とができる。すなわち、グループ２からｇの各ｘiTに与
えられた暫定値、及びグループ１で計算されたｘ1〜ｘ4
の実際値である。
【００２９】ステップ（ｃ）すなわち段階３（図６）で
は、段階２（図５）においてゼロに設定された回帰変数
に対応する係数Ｃが開発され、グループ２〜Ｇについて
方程式あたり一般にＭで、これはステップ（ｂ）と同時
に実施することができる。この処理法は、図１５に示す
ように、グループを通じてストライド４アドレス指定に
よってベクトル化も可能である。ストライド４アドレス
指定は図１４と図１５において各グループにわたってい
る、ということに留意されたい。
【００３０】図６の段階４で見られるように、段階２で
ゼロに設定された回帰変数の最終値ｋiは順次計算され
る。これは、各計算が前の計算の結果を必要とするの
で、スカラー処理を必要とする１つの段階であり、した
がって、段階４については計算の数を最少に保つことが
望まれる。段階５では、段階３で計算された係数が、段
階４の適切な定数で乗算され、結果は段階２の適切な暫
定回帰値ｘiTに加算され、回帰変数の最終値を生成す
る。グループは、ストライド１で動かされるベクトル処
理要素によって並列に処理されてもよい。
【００３１】段階１では、解こうとするすべての方程式
が、同じ方程式数のグループに分断される。たとえば、
計算を実施するために利用可能な４つの処理装置があ
る、１０００個の方程式からなる１グループについて
は、Ｇは４に設定され、１０００個の方程式のグループ
は、それぞれ２５０個の方程式をもつ４つのグループに
分断される。この結果、元来の問題より実質的に複雑さ
の少ない改良された方法が得られる。
【００３２】スカラーｎウエイ・マシーンで改良された
方法と装置を利用するコンピュータ性能のおおよそのス
ピードアップは、Ｎ／（ｍ＋２）であり、ここでｍは線
形回帰の次数であり、Ｎは処理装置の数である。ストラ
イド１ベクトルｎウエイ・マシーンを使用すると、増加
は約ｎ／（ｍ＋１）となる。
【００３３】図７〜図１２は、２次線形回帰について実
施された本明細書に開示する線形回帰分散技法を示す。
図７は、Ｎ個の線形回帰方程式の段階１におけるＧ個の
グループへの分割を示し、段階２では、暫定値ｘiTが線
形回帰変数について計算される。
【００３４】したがって、図８に示すように、そして１
次回帰について前述したものに似た方法で、暫定的にゼ
ロに設定された回帰変数に対応するＣi、j係数が計算さ
れ、ｘ6Tの値が次の通りであることは図８から理解でき
る。
【００３５】ａ6,5ｂ5＋ｂ6 これは、ｘ4とｘ3が、それらが先行グループとそのグル
ープ（グループ２）における＝記号の右側に現れるとき
に、暫定的にゼロに設定されるが、問題にしているグル
ープ（グループ２）における＝記号の左側には現れない
からである。ｘ5Tの値がｂ5であることは、やはり図８
から理解できる。
【００３６】一般化した段階２のＸiTの計算は、現在問
題としている２次線形回帰について、図９で述べる。
【００３７】図１０は、２次線形回帰についてのＣ係数
の一般化した段階３の計算を示す。図８と図９に見るこ
とができるように、任意の特定グループにおいてゼロと
して取られた線形回帰変数の係数は、係数Ｃで表されて
いる。
【００３８】図１１は、２次線形回帰のためのｋ係数の
段階４計算の一部を示す。そして、これらの係数は、図
１２に示すように段階５における最終回帰変数の計算で
利用される。
【００３９】本明細書に開示する線形回帰分散技法の５
つのステップすなわち段階は、１次、２次またはＭ次線
形回帰などと同じであり、したがって各計算ステップ
は、回帰の次数とは関係なく同様な方法で実施される。
任意次の回帰について、グループ１の回帰変数の最終値
は段階２の最終で既知となり、グループ２〜Ｇにおける
回帰変数はグループ１における回帰変数の値に依存し、
５段階すべてを通じて解に達することを要求する。この
ため、図７〜図１２に示す例では、方程式ｘ1〜ｘ4はグ
ループ１を含み、段階２の最後で解かれ、一方、方程式
ｘ5〜ｘNは段階５まで解かれない。
【００４０】ここで使用される「ストライド」という用
語は、メモリのアクセスを意味し、この場合、連続する
それぞれのアドレス値は、ストライド値（たとえば１〜
Ｓ）で増分することによって決定される。したがってス
トライド１は、続くそれぞれのアドレス値が次に続くア
ドレスから１単位離れたもの、ということを示す。同様
に、ストライドは、次の先行アドレスからＳ単位離れて
いることを示す。ストライドＳ処理装置は、より速いデ
ータ・アクセスによって、ストライド１処理装置を通じ
て実質的に性能を向上させることができる。
【００４１】図１３は、図５〜図１２に示す単に１次と
２次の例の拡張であるＭ次方程式のための、線形回帰分
散技法の５ステップすなわち５段階の一般的な方程式を
示す。５つのステップはすべて前述の方法で実施され
る。
【００４２】図１４は、図５の１次の実施例で必要な段
階２の計算のための１対の並列ベクトル処理要素２０、
３０内でのデータの動きを示す、前記１対の並列ベクト
ル処理要素２０、３０の線図表示である。前述のよう
に、好ましい実施例では、線形回帰分散技法が実施され
るデータ処理装置は、段階２と段階３が１つのグループ
における方程式の数と同じストライドで、グループにわ
たって実施されるベクトル処理と計算によって、達成す
ることができるような、効果的な処理能力を持つべきで
ある。ベクトル処理要素２０の出力は、図１６の汎用レ
ジスタ（図示せず）またはキャッシュ１１−１または主
記憶機構に暫定的に記憶されるｘiT暫定回帰変数値であ
る。
【００４３】乗数論理要素２２は、２つの入力部２３、
２４と１つの出力部２６を有し、この出力部２６は加算
論理要素２４の第１入力部２７に接続され、加算論理要
素２４は第２入力部２８を有する。加算論理要素２４の
出力部２９は、図１６のキャッシュ１２または主記憶機
構１０に直接接続され、そしてまた乗数論理要素２２の
入力部２３に接続されたデータの流れにも結合されてい
る。
【００４４】同様に、ベクトル処理要素３０の乗数論理
要素３２は、１対の入力部３３、３５と、第２入力ポー
ト３８を有する加算論理要素３４の第１入力部３７に結
合された１つの出力部３６を持つ。加算論理要素３４
は、キャッシュ・メモリに直接結合され、同時に入力ポ
ート３３に接続されている出力ポート３９を有する。
【００４５】図１４の入力ポート２３、２５、２８に入
力するａおよびｂの上の添字によって明白なように、示
されたシステムのストライドは４である。すなわち、処
理要素２０は図５の最初の３グループのための値を計算
しており、次の処理要素３０は第２の３グループのため
の値を計算している。
【００４６】図１４と下の表は、図５の１次線形回帰の
段階２の計算を実施する好ましい方法を図示する。典型
的なベクトル処理要素２０では、論理２２（たとえばｂ
1、ａ2）における乗算の結果は、適切な値（たとえばｂ
2）に加算することができ、一方では、次の値（ｂ5、ａ
6）が入力部２３、２５に加えられている。これはシス
テムの性能を向上させる。
【００４７】しかし、入力部２３、２５、２８（図１
４）に加えられた値は、同じグループの続く方程式（ス
トライド１）ではなく、次に続くグループの方程式（ス
トライド４）、たとえばｘ1、ｘ5、ｘ9、ｘ2、ｘ6…の
中に見られる。同じグループの方程式が順序正しく処理
された場合には（ストライド１）、たとえばｘ2の計算
結果は、ｘ3の計算が始まると、入力部２３では利用可
能ではない（図１４）。システムのハードウェアに依存
して、ストライド１処理は、ｘ2の計算が完了するまで
不活動状態にされている処理要素２０と、入力部２３に
直接供給され、または汎用レジスタに入れられるｘ2の
値を必要とし、それからこのレジスタはアクセスされ、
入力部２３にｘ1を提供する。さらに、ｘ2の入力部２３
への適用は、値ａ3、ｂ3のそれぞれの入力部２５、２８
への適用に対応されなければならない。したがって、ス
トライド１処理が使用される場合には、１つまたは複数
の動作時間サイクルが処理要素２０で失われる。
【００４８】このシステムの非能率性を避けるために、
ストライドＳ（図１４ではストライド４）アドレス指定
が好ましい実施例で使用され、ｂ1、次にｂ5、
ｂ9．．．などにアクセスする。これは、最初の３方程
式グループについて下記の表により詳しく示す。
【００４９】サイクル 変数 計算結果 １ ｘ1 ＝ｂ1 ２ ｘ5T ＝０＋ｂ5 ３ ｘ9T ＝０＋ｂ9 ４ ｘ2 ＝ａ2ｘ1＋ｂ2 ただし、ｘ1＝ｂ1 ５ ｘ6T ＝０＋ａ6ｘ5T＋ｂ6 ｘ5T＝ｂ5 ６ ｘ10T ＝０＋ａ10ｘ9T＋ｂ10 ｘ9T＝ｂ9 ７ ｘ3 ＝ａ3ｘ2＋ｂ3 ｘ2＝ａ2ｂ1＋ｂ2 ８ ｘ7T ＝０＋ａ7ｘ6T＋ｂ7 ｘ6T＝ａ6ｂ5＋ｂ6 ９ ｘ11T ＝０＋ａ11ｘ10T＋ｂ11 ｘ10T＝ａ10ｂ9＋ｂ10 １０ ｘ4 ＝ａ4ｘ3＋ｂ4 ｘ3＝ａ3ａ2ｂ1＋ ａ3ｂ2＋ｂ3 １１ ｘ8T ＝０＋ａ8ｘ7T＋ｂ8 ｘ7T＝ａ7ａ6ｂ5＋ ａ7ａ6＋ｂ7 １２ ｘ12T ＝０＋ａ12ｘ11T＋ｂ12 ｘ11T＝ａ11ａ10ｂ9＋ ａ11ａ10＋ｂ11
【００５０】この表から処理要素の遅れがないことがわ
かる。たとえば各変数（たとえばｘ2）は、この先行変
数（ｘ1）が計算された後に３サイクル回計算される。
したがってｘ1は、システム特性に関係なくｘ2を計算す
るための適当な時間に使用可能である。好ましい実施例
はグループのための４つの方程式に対応するストライド
４を示しているが、本発明はそのように制限されていな
い。処理要素２０が、その次の計算サイクルを開始する
前に、前の計算結果及び／または係数を、待つ（サイク
ルを失う）原因にならないようなストライド値を準備す
ることのみが重要である。
【００５１】図１５はベクトル処理要素４０の使用を示
すが、ここに示すケースでは乗数論理要素であり、図５
と図６の１次回帰上で線形回帰分散技法を用いて、段階
３のＣiの値を計算する。乗数論理要素４０は、１対の
入力ポート４１、４２と１つの出力ポート４３を有し、
出力ポート４３は、図１６の示すキャッシュ・メモリ１
２または主記憶機構１０に接続されている。図１５と図
６の段階３とを比較すると、係数ａ6とａ5は、それぞれ
乗数論理要素４０のポート４１と４２に入力されようと
していることがわかる。したがって、それからの出力は
Ｃ6の値となる。同様に、乗数論理要素４０で乗算され
るべき次の対の係数ａ10、ａ9は、次に続くグループに
おいてＣ10として示された積を生成することになる。し
たがって、システムのストライドは、単一の処理装置が
複数のグループ（２、３、及び４）にわたって計算でき
るようにする４であることがわかる。それ故、次に続く
演算は係数ａ14とａ13を乗ずることになり、この結果
は、グループ３で生成された値Ｃ14（図示せず）として
示されることが理解される。
【００５２】さらに、所要計算回数がより少ない特殊な
ケースがいくつか存在することが理解できる。たとえ
ば、ａi,j係数がすべて定数であれば（すなわち、ａi,j
＝ａ）、計算が第２と後続のグループについてただ１回
実施されるので、段階３の計算は解法の重要部分をもは
や作ることはない。
【００５３】ａi,j係数がすべて１であるという、別の
例が存在する。段階３の計算が１次について計算される
必要はなく、他の次については計算の大幅な減少とな
る。
【００５４】第３の特殊例は、ａi,j係数がａi＋t,jか
または周期的係数であるという場合で、ここで、グルー
プの大きさが適切に選択される場合には、段階３の計算
は解法の重要部分である必要はない。
【００５５】本発明の実行は前記の５段階の使用である
ということが、理解できるようになる。しかし、少なく
ともいくつかの段階を実行する方法が、利用可能なハー
ドウェアとソフトウェアに依存することは、理解される
ようになる。すなわち、いくつかの段階の実行は、
（１）ストライド１〜ストライドＳのアドレス指定、
（２）処理装置の数、及び（３）使用されているシステ
ムがベクトル処理能力を有するか否か、の入手可能性に
依存することになる。
【００５６】本発明を、もっとも実用的で好ましい実施
例であると考えて、図示し説明した。しかし、本発明の
範囲内で前記実施例から逸脱してもよく、また今後明ら
かな変更が発生することは、当業者には認識されること
である。
【００５７】
【発明の効果】本発明は、線形回帰分散技法を使用し
て、処理装置の上で任意次の線形回帰を解き、所要時間
を大幅に減少させる。
【図面の簡単な説明】
【図１】本発明の線形回帰分散技法が迅速高能率の解法
を提案する、Ｍ次線形回帰を示す図である。
【図２】解かれるべきＮ回帰変数として表される１次線
形回帰を示す図である。
【図３】図２の１次線形回帰と同様に表現された２次線
形回帰を示す図である。
【図４】Ｍ次線形回帰を示す図である。
【図５】各グループで４つの方程式のＧグループに分割
された１組の１次線形回帰を示し、線形回帰分散法の段
階１と段階２のステップを示す図である。
【図６】図５の１次線形回帰に対する、本発明の段階３
〜５の計算を示す図である。
【図７】各グループあたり４つの方程式のＧグループに
分割された１組の２次線形回帰を示し、線形回帰分散法
の段階１と段階２のステップ２を示す図である。
【図８】図７の２次線形回帰について、係数Ｃ6,1とＣ
6,2とＸ6Tが本発明の段階３の計算でどのように形成さ
れるか、を示す図である。
【図９】一般化した段階２の計算、及び２次回帰のため
のＸiTの決定法を示す図である。
【図１０】２次回帰のための段階３におけるＣの値を決
定する一般化した式表示を示す図である。
【図１１】２次線形回帰における段階４でのｋの値を決
定する一般化した式表示を示す図である。
【図１２】２次線形回帰における最終線形回帰変数の段
階５の計算のための、一般化した表示を示す図である。
【図１３】段階１〜５についての、Ｍ次線形回帰方程式
の一般化した表示をいくつか示す図である。
【図１４】１対の並列ベクトル処理要素と、その要素が
図５のグループ１〜３と４〜６（図示せず）でデータを
処理するときの、その要素内でのデータの動きを示す図
である。
【図１５】１対の並列ベクトル処理要素を用いて、図５
の回帰を解く線形回帰分散技法を使用してＣの段階３の
値を計算するための、１対の並列ベクトル処理要素の使
用を表示する図である。
【図１６】主記憶機構と処理装置ユニット１〜Ｎを有
し、各ユニットはそれぞれキャッシュ・メモリとともに
示されている、並列データ処理要素を明示する図であ
る。
【符号の説明】
１０ 主記憶機構 ２０ ベクトル処理要素 ３０ ベクトル処理要素 ２２ 乗数論理要素 ４０ 乗数論理要素 ２３ 入力部 ２４ 入力部 ２５ 入力部 ２７ 入力部 ２６ 出力部 ２８ 出力部 ２９ 出力部 ３６ 出力部 ３３ 入力ポート ３８ 入力ポート ３４ 加算論理要素 ４１ ポート ４２ ポート ４３ 出力ポート

Claims (17)

    【特許請求の範囲】
  1. 【請求項１】任意次の線形回帰を定義する１組の方程式
    で、回帰変数の値をより効率よく決定するためのデータ
    処理システムを操作する方法であって、 （ａ）プログラム制御の下で処理システムを操作して、
    前記の１組の方程式を連続する方程式のグループに分割
    するステップと、 （ｂ）前記システムの少なくとも１つの処理装置要素を
    操作して、ゼロに設定されている次に先行するグループ
    における方程式から導かれる回帰変数によって、各グル
    ープについて回帰変数の暫定値を決定するステップと、 （ｃ）少なくとも１つの処理装置要素を操作して、各方
    程式について、ゼロに設定された回帰変数のための係数
    の値を決定するステップと、 （ｄ）少なくとも１つの処理装置要素を操作して、ゼロ
    に設定された前記の回帰変数の最終値を決定するステッ
    プと、 （ｅ）少なくとも１つの処理装置要素を操作して、予め
    解かれていない回帰変数の最終値を決定するステップ
    と、 （ｆ）各決定ステップがそれぞれ終ってから、システム
    ・メモリに決定された値の各々を記憶するステップを含
    む、前記の方法。
  2. 【請求項２】前記のグループのいくつかについての暫定
    値決定が、並列に操作される複数の処理装置要素によっ
    て他のグループの暫定値決定と同時に実施される、請求
    項１に記載の方法。
  3. 【請求項３】前記係数の値の決定が、並列に操作される
    複数の処理装置要素によって他の係数値決定と同時に実
    施される、請求項２に記載の方法。
  4. 【請求項４】前記の最終値決定のいくつかが、並列に操
    作される複数の処理装置要素によって他の最終値決定と
    同時に実施される、請求項３に記載の方法。
  5. 【請求項５】連続する方程式のグループの少なくともい
    くつかが、連続する方程式の連続グループのサブセット
    においてプログラム制御の下で、処理システムによって
    整理され、また処理システムが、サブセットの各グルー
    プにおける第１方程式の暫定値がシステムの処理装置要
    素によって順に計算される順序で、グループの各サブセ
    ットの前記暫定値決定を実施するために、ストライドＳ
    で操作され、これに第２方程式の暫定値が続き、それか
    ら残りが順に続き、サブセットの各グループにおける方
    程式が同じ処理装置要素によって計算される、 請求項１に記載の方法。
  6. 【請求項６】Ｓが１グループの方程式の個数と同じであ
    る、請求項５に記載の方法。
  7. 【請求項７】前記サブセットのいくつかの前記暫定値決
    定が、並列に操作される複数の処理装置によってたがい
    に同時に実施される、請求項５に記載の方法。
  8. 【請求項８】連続する方程式のグループの少なくともい
    くつかが、連続する方程式の連続グループのサブセット
    において、処理システムによって整理され、また前記サ
    ブセットの各々についての前記係数値の決定が、サブセ
    ットの各グループにおける第１方程式の係数値が順に計
    算される順序で実施され、これに第２方程式の係数値が
    続き、それからサブセットの各グループにおける残りの
    方程式が順に続く、 請求項１に記載の方法。
  9. 【請求項９】前記サブセットのいくつかの前記係数値の
    決定が、他とたがいに同時に実施される、請求項８に記
    載の方法。
  10. 【請求項１０】任意次の線形回帰を定義する１組の方程
    式で、回帰変数の値をより効率よく決定する方式によっ
    てデータ処理システムの処理装置要素とメモリを操作す
    る方法であって、 （ａ）プログラム制御の下で処理システムを操作して、
    前記の１組の方程式を連続する方程式のグループに分割
    するステップと、 （ｂ）前記処理装置要素の少なくとも１つを操作して、
    ゼロに設定されている次に先行するグループにおける方
    程式からの回帰変数に依存する回帰変数によって、各連
    続グループについて、第１グループの回帰変数の値と回
    帰変数の部分値を決定するステップと、 （ｃ）前記処理装置要素の少なくとも１つを操作して、
    ステップ（ｂ）でゼロに設定された前記回帰変数のため
    の係数の値を決定するステップと、 （ｄ）前記処理装置要素の少なくとも１つを操作して、
    各方程式について、ゼロに設定された前記の回帰変数の
    最終値を決定するステップと、 （ｅ）前記処理装置要素の少なくとも１つを操作して、
    すべてであるが、ステップ（ｂ）、（ｃ）、及び（ｄ）
    で決定された値を用いて、前記第１グループにおける回
    帰変数の最終値を決定するステップと、 （ｆ）決定された値の各々を、ステップ（ｂ）〜（ｅ）
    に包括されるその計算の後に、システム・メモリに記憶
    するステップを含む、前記の方法。
  11. 【請求項１１】任意次の線形回帰を定義する１組の順次
    回帰変数方程式における回帰変数の値を、データ処理シ
    ステムの中で決定するための方法であって、 （ａ）１組の順次回帰変数方程式を、さらに複数の順次
    方程式グループに分割するステップと、 （ｂ）前記の各グループについて、出現するがゼロとし
    て前記の各グループのなかで定義されていない回帰変数
    によって、サブ回帰サブセットを解くステップと、 （ｃ）前記各グループにおける方程式のための係数を、
    前記グループの前の方程式の回帰変数係数の関数とし
    て、ゼロとしてとられた外部係数によって開発するステ
    ップと、 （ｄ）順々に、前記解法ステップ（ｂ）においてゼロと
    してとられた前記回帰変数の最終値を計算するステップ
    と、 （ｅ）前記各グループにおける残りの回帰変数の最終値
    を、前記の開発ステップ（ｃ）で計算された係数によっ
    て前記計算ステップ（ｄ）で計算された回帰変数を乗算
    し、前記乗算の結果を、前記解法ステップ（ｂ）におい
    て得られた対応するサブ回帰値に加算することによっ
    て、計算するステップを含む、前記の方法。
  12. 【請求項１２】プログラム制御の下でデータについて同
    時操作を実施するための、複数の処理装置要素とメモリ
    手段を有する、データ処理システムにおいて、任意次の
    線形回帰を定義する１組の方程式で、回帰変数の値を決
    定するためにシステムをより効率よく操作するための、
    改良された方法であって、 （ａ）プログラム制御の下で処理システムを操作して、
    前記の１組の方程式を連続する方程式のグループに分割
    するステップと、 （ｂ）前記複数の処理装置要素の少なくともいくつか
    を、プログラム制御の下で並列に操作して、方程式グル
    ープの回帰変数の暫定値を、ゼロに決定するように設定
    されている次に先行するグループにおける方程式から導
    かれる回帰変数によって、決定するステップと、 （ｃ）前記複数の処理装置要素の少なくともいくつか
    を、プログラム制御の下で並列に操作して、各方程式に
    ついて、ゼロに設定された回帰変数のための係数の値を
    決定するステップと、 （ｄ）前記複数の処理装置要素の少なくとも１つを操作
    して、ゼロに設定された前記の回帰変数の最終値を決定
    するステップと、 （ｅ）前記複数の処理装置要素の少なくとも１つを操作
    して、予め解かれていない回帰変数の最終値を決定する
    ステップと、 （ｆ）決定された値の各々を、ステップ（ｂ）〜（ｃ）
    で計算されるごとに、メモリ手段に記憶するステップを
    含む、前記の方法。
  13. 【請求項１３】前記複数の処理装置要素の少なくともい
    くつかが、方程式をより速く解くためのベクトル処理要
    素である、請求項１２に記載のデータ処理方法。
  14. 【請求項１４】連続方程式のグループの少なくともいく
    つかが、連続方程式の連続するグループのサブセットの
    中でプログラム制御の下で整理され、グループの各サブ
    セットの前記暫定値決定が、処理装置要素の選択された
    １つによって実施され、ストライドＳで操作され、その
    順序は、サブセットの各グループにおける第１方程式の
    暫定値が計算されて、第２方程式の暫定値がこれに続
    き、そしてサブセットの各グループにおける方程式が続
    く、請求項１３に記載のデータ処理方法。
  15. 【請求項１５】前記ベクトル処理装置要素が、前記サブ
    セットの少なくともいくつかの暫定値の決定をたがいに
    同時に実施する、請求項１４に記載のデータ処理方法。
  16. 【請求項１６】連続方程式のグループの少なくともいく
    つかが、連続方程式の連続するグループのサブセットの
    中でプログラム制御の下で整理され、前記サブセットの
    各々についての前記係数値の決定が、処理装置要素の選
    択された１つによって実施され、その順序は、サブセッ
    トの各グループにおける第１方程式の係数値が計算され
    て、第２方程式の係数値がこれに続き、そしてサブセッ
    トの各グループにおける方程式が続く、請求項１３に記
    載のデータ処理方法。
  17. 【請求項１７】前記サブセットのいくつかの前記係数値
    の決定が、プログラム制御の下で並列に操作される前記
    ベクトル処理装置要素のいくつかによって、たがいに同
    時に実施される、請求項１６に記載のデータ処理方法。
JP3031473A 1990-02-26 1991-02-01 並列プロセッサのための線形回帰分散方法 Pending JPH0644289A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US48533690A 1990-02-26 1990-02-26
US485336 1990-02-26

Publications (1)

Publication Number Publication Date
JPH0644289A true JPH0644289A (ja) 1994-02-18

Family

ID=23927761

Family Applications (1)

Application Number Title Priority Date Filing Date
JP3031473A Pending JPH0644289A (ja) 1990-02-26 1991-02-01 並列プロセッサのための線形回帰分散方法

Country Status (2)

Country Link
EP (1) EP0444847A3 (ja)
JP (1) JPH0644289A (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5377130A (en) * 1993-01-26 1994-12-27 Texas Instruments Incorporated Method and apparatus for solving terms of a numerical sequence
WO2006040703A2 (en) * 2004-10-12 2006-04-20 Koninklijke Philips Electronics N.V. Multi-branch parallel processing method and apparatus for implementing iterative computations

Also Published As

Publication number Publication date
EP0444847A3 (en) 1993-07-21
EP0444847A2 (en) 1991-09-04

Similar Documents

Publication Publication Date Title
Wang A parallel method for tridiagonal equations
US5392429A (en) Method of operating a multiprocessor computer to solve a set of simultaneous equations
Khan et al. NPE: An FPGA-based overlay processor for natural language processing
US20150039856A1 (en) Efficient Complex Multiplication and Fast Fourier Transform (FFT) Implementation on the ManArray Architecture
JP3152279B2 (ja) 準最適割当決定方法
JPH07168717A (ja) 最適化機械コード変換方法およびコンピュータ装置
US5237685A (en) Linear recurrence dispersal structure and method for parallel processors
Wang et al. HE-Booster: an efficient polynomial arithmetic acceleration on GPUs for fully homomorphic encryption
US4225933A (en) Exponential function computing apparatus
JP2001067206A (ja) モジュラー乗算を実行するためのシステム並びに方法
US20150006604A1 (en) Method and apparatus for performing a fft computation
US7870177B2 (en) Method and system for multi-processor FFT/IFFT with minimum inter-processor data communication
JPH0644289A (ja) 並列プロセッサのための線形回帰分散方法
EP1426872A2 (en) Linear scalable FFT/IFFT computation in a multi-processor system
JP4083387B2 (ja) 離散フーリエ変換の計算
JPH04293150A (ja) コンパイル方法
Van Swaaij et al. Deriving ASIC architectures for the Hough transform
JP2806262B2 (ja) マルチプロセッサシステムのプロセス割当方法
JP3542184B2 (ja) 線形計算方法
JP2837547B2 (ja) ベクトル計算機による行列積計算方法
Genz Numerical multiple integration on parallel computers
US11853211B2 (en) Computer-readable recording medium storing data placement program, processor, and data placement method
JPH0535773A (ja) ベクトル除算方式とその装置
JP2000122999A (ja) 高速複素フーリエ変換方法及び装置
RU2239867C2 (ru) Устройство, способы и компьютерные программные продукты для определения коэффициентов функции с уменьшенной задержкой