JP5440602B2 - データ転送制御装置、システムおよび方法 - Google Patents
データ転送制御装置、システムおよび方法 Download PDFInfo
- Publication number
- JP5440602B2 JP5440602B2 JP2011508056A JP2011508056A JP5440602B2 JP 5440602 B2 JP5440602 B2 JP 5440602B2 JP 2011508056 A JP2011508056 A JP 2011508056A JP 2011508056 A JP2011508056 A JP 2011508056A JP 5440602 B2 JP5440602 B2 JP 5440602B2
- Authority
- JP
- Japan
- Prior art keywords
- node
- broadcast
- data transfer
- response
- path switching
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/54—Interprogram communication
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F13/00—Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
- G06F13/38—Information transfer, e.g. on bus
- G06F13/40—Bus structure
- G06F13/4004—Coupling between buses
- G06F13/4022—Coupling between buses using switching circuits, e.g. switching matrix, connection or expansion network
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F15/00—Digital computers in general; Data processing equipment in general
- G06F15/16—Combinations of two or more digital computers each having at least an arithmetic unit, a program unit and a register, e.g. for a simultaneous processing of several programs
- G06F15/163—Interprocessor communication
- G06F15/173—Interprocessor communication using an interconnection network, e.g. matrix, shuffle, pyramid, star, snowflake
- G06F15/17306—Intercommunication techniques
- G06F15/17318—Parallel communications techniques, e.g. gather, scatter, reduce, roadcast, multicast, all to all
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Computer Hardware Design (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- Multi Processors (AREA)
- Bus Control (AREA)
Description
図1および図2に示すマルチプロセッサシステム100は、システムボード00〜15と、クロスバXB00および01と、を備える。
(1)ノード00内のCPUは、ノード00を制御するSC00に対してブロードキャスト転送のリクエストを1つだけ発行する。以下、ブロードキャスト転送のリクエストを発行したCPUを「リクエスタ」という。
(3)SC00からリクエストを受信した各ノード01〜15のSCは、自ノードのCPUに対してリクエストを送信する。
(1)ノード00内のリクエスタ以外の各CPUは、受信したブロードキャスト転送のリクエストに対する応答をSC00に送信する。
(3)すると、各SC01〜07は、それぞれクロスバXB00を介してノード00のSC00に応答を送信する。
(5)SC00は、全CPUからの応答を受信すると、受信結果をリクエスタに通知する。
本データ転送制御装置は、上述した問題に鑑みてなされたものであり、その解決しようとする課題は、異なる装置に接続されるノード間でのデータ転送による装置間のトラフィックを低減することである。
以上に説明したデータ転送制御装置により、異なる装置に接続されるノード間でのデータ転送による装置間のトラフィックを低減することができる。
【図面の簡単な説明】
【図1】マルチプロセッサシステム100におけるブロードキャスト転送を説明する図である。
【図2】マルチプロセッサシステム100におけるブロードキャスト転送を説明する図である。
【図3】マルチプロセッサシステム300の主要部とブロードキャスト転送の概要を示す図である。
【図4】図3に示したブロードキャスト転送に対する応答処理の概要を示す図である。
【図5】SC00の主要部を説明する図である。
【図6】SC00の主要部を説明する図である。
【図7】リクエストまたはリクエストに対する応答に使用するパケットの主要部を示す図である。
【図8】宛先リストの構成例を示す図である。
【図9】宛先判定部530の処理を説明する図である。
【図10】送信先ID設定部540における宛先IDの設定処理を説明する図である。
【図11】 送信情報記憶部550に記憶される送信情報1100を説明する図である。
【図12】 送信情報記憶部550に記憶される送信情報1100を説明する図である。
【図13】 送信情報記憶部550に記憶される送信情報1100を説明する図である。
【図14】 送信情報記憶部550に記憶される送信情報1100を説明する図である。
【図15】 送信情報記憶部550に記憶される送信情報1100を説明する図である。
【図16】SCによるリクエストの送信処理を示すフローチャートである。
【図17】SCによる応答処理を示すフローチャートである。
図3は、マルチプロセッサシステム300の主要部とブロードキャスト転送の概要を示す図である。
CPU00、CPU01、CPU02およびCPU03には、ユニットを識別するユニットID(Identification Data)として、それぞれ00100(2進数)、00101(2進数)、00110(2進数)および00111(2進数)が割り当てられている。
IOC00〜03は、外部記憶装置やネットワークなどとのデータの入出力を制御する入出力制御装置(I/O Controller)である。
本実施例では、システムボード00〜15内のCPU00〜03とIOC00〜IOC03とに割り当てられるIDは、全て同一であるものとする。例えば、システムボード00〜15の全てのCPU00のIDは、00100である。同様に、システムボード00〜15の全てのIOC00のIDは、00000である。
システム制御装置301は、代表SC情報記憶部310への代表SC情報の設定の他に、各ユニットに備わるレジスタ等にIDを設定するなどマルチプロセッサシステム300の動作に必要な各種設定を行なう。
各ノード00〜07は、クロスバXB00を介して互いに通信可能である。同様に、各ノード08〜15は、クロスバXB01を介して互いに通信可能である。
SC00は、自ノード00内のCPU00からブロードキャスト転送のリクエストを受信すると、SC00内に備わる代表SC情報記憶部310から代表SC情報を取得する。そして、SC00は、代表SC情報から、自ノード00と接続するクロスバ以外のクロスバに接続する代表SCを特定する。図3および図4には、代表SCがSC00およびSC08の場合を示す。
(3)SC00は、後述する第1の宛先リスト801にしたがって、自ノード00が接続するクロスバXB00配下のSCであって自ノード以外のノードのSC01〜07に対してリクエストを送信する。
なお、図3に示したマルチプロセッサシステム300は、実施の一形態である。したがって、図3に示した構成に発明を限定する趣旨ではない。
また、上述した(2)〜(6)の処理は、ブロードキャスト転送処理の順序を限定するものではないのは当然である。
(2)SC09〜15は、自ノード内の全CPUから応答を受信すると、代表SC08に対して応答を送信する。
(4)SC01〜07は、自ノード内の全CPUから応答を受信すると、SC00に対して応答を送信する。
パケット振り分け部520は、リクエスト受信部510が送信したリクエストを、そのリクエストに設定された「メッセージの種類」に応じて宛先判定部530A〜530Zに振り分ける。なお、「メッセージ種類」については、図7で説明する。
宛先判定部530A、530B、530C、・・・、530Yおよび530Zは、図8に示す宛先リストにしたがって、それぞれリメッセージ種類A、B、C、・・・、YおよびZの宛先を判定する。そして、宛先判定部530A、530B、530C、・・・、530Yおよび530Zは、リクエストとともにそのリクエストの宛先IDを送信先ID設定部540に送信する。
リクエスト送信部560は、ノード内ユニット用リクエスト送信部560−000〜560−003と、ノード内ユニット用リクエスト送信部560−100〜560−103と、を備える。
応答受信部610は、自ノード内外のユニットから応答を受信する。そして、応答受信部610は、自ノード内外のユニットから受信した応答を送信部選択部620に送信する。
応答送信部630は、ノード内ユニット用応答送信部630−000〜630−003と、ノード内ユニット用応答送信部630−100〜630−103と、を備える。
XB内SC用応答リクエスト送信部630−201、630−202、・・・、630−206および630−207は、それぞれ自ノードが接続するXB配下のSC01、SC02、・・・、SC06およびSC07に応答を送信する。
図7に示すパケット700は、メッセージIDと、メッセージ種類と、送出元IDと、宛先IDと、ブロードキャスト代行ビットと、ターゲットアドレスと、必要なデータと、を備える情報である。
メッセージ種類は、パケット700の内容についての種類、例えば、スヌープリクエストなどを示す情報である。
宛先IDは、パケット700の送信先のユニットを示すIDである。
ブロードキャスト代行ビットは、ブロードキャスト転送を代行して実行する必要の有無を示す情報である。代表SCにブロードキャスト転送の代行を依頼する場合、SCは、ブロードキャスト代行ビットに「1」を設定する。
図8は、宛先リストの構成例を示す図である。なお、本実施例では、必要に応じて第1の宛先リストと第2の宛先リストの2つの宛先リストを使用する。
第2の宛先リスト802は、ターゲットアドレスから得られるデコード値と、そのデコード値に応じて決められた宛先のIDである宛先IDと、の対応関係を定義している。
なお、図8に示す第1の宛先リスト801および第2の宛先リスト802には、理解を容易にするために、宛先IDが示すユニットを宛先ユニットして記載しているが、この宛先ユニットの情報は必須の情報ではない。
(1)宛先判定部530は、パケット振り分け部520から受信したパケット700のメッセージ種類が格納されている領域からデータを取得する。そして、宛先判定部530は、パケット700から取得したデータをデコードする。
(2)メッセージ種類だけでは宛先IDを特定することができない場合、宛先判定部530は、宛先判定部530は、パケット700のターゲットアドレスからノード番号とユニット番号が格納されている領域からデータを取得する。そして、宛先判定部530は、ターゲットアドレスから取得したデータをデコードする。
なお、メッセージ種類だけで宛先を特定することが出来るか否かは、例えば、メッセージ種類毎に応じてあらかじめ決めておけばよい。
(1)すると、送信先ID設定部540は、自ノード00内の全CPUと、同一クロスバXB00配下の全SCと、他クロスバXB01配下の代表SC08と、に送信するリクエストであって、到来リクエストとデータ内容が同じ送出リクエストを生成する。
そして、送信先ID設定部540は、生成した送出リクエストに、宛先判定部530Bから通知された宛先ID「00101」〜「00111」、「10001」〜「10111」および「11000」を設定する。
(2)また、送信先ID設定部540は、代表SC情報記憶部310を参照する。そして、宛先IDが代表SC情報記憶部310に設定されているID「11000」と一致する場合、送信先ID設定部540は、送出リクエストのブロードキャスト代行ビットを「1」に設定する。
送信情報1100は、新メッセージIDと、有効フラグと、旧メッセージIDと、旧送信元IDと、送出先リストと、送出待ちリストと、BC(BroadCast)応答内容と、リクエストタイプと、を含む情報である。
新メッセージIDは、送出リクエストに割り当てる識別番号である。図11には、00000(2進数)から11111(2進数)の値が使用される場合の例を示している。
新メッセージID、有効フラグ、旧メッセージIDおよび旧送信元IDは、以下のように使用される。図11中に示す(1)〜(7)は、以下の(1)〜(7)に対応する。
(1)到来リクエストを受信すると、送信先ID設定部540は、プライオリティ回路等を利用して、有効フラグが「0」に設定されている新メッセージIDの中から、到来リクエストに割り当てる新メッセージIDを決定する。
(2)到来リクエストに割り当てる新メッセージIDを決定すると、送信先ID設定部540は、決定した新メッセージIDを送出リクエストに設定する。
(3)また、送信先ID設定部540は、到来リクエストからメッセージIDを取得する。そして、送信先ID設定部540は、取得したメッセージIDを送信情報の旧メッセージIDとして記憶する。
(4)同様に、送信先ID設定部540は、到来リクエストから送出元IDを取得する。そして、送信先ID設定部540は、取得した送出元IDを送信情報の旧送出元IDとして記憶する。
(5)送信先ID設定部540は、SC00自身のID「10000」を、送出リクエストの送信元IDに設定する。
(6)送信先ID設定部540は宛先判定部530から通知された宛先IDを、送出リクエストの宛先IDに設定する。この点については、図10に説明した通りである。
(7)後述する送出リクエストや送出待ちリストなどの設定が完了すると、送信先ID設定部540は、有効フラグを「1」に設定する。そして、送信先ID設定部540は、リクエスト送信部560に送出リクエストを送信する。
図12は、送信情報1100についての、送出先リストと、送出待ちリストと、を説明する図である。
例えば、自ノード内のCPU0の送出管理情報が「1」の場合、自ノード内のCPU0にリクエストを送出し、応答を待っている状態であることを示す。自ノード内のCPU0の送出管理情報が「0」の場合、自ノード内のCPU0にリクエストを送出していない、または送出したリクエストに対する応答を受信した状態であることを示す。
例えば、自ノード内のCPU0の送出待ち情報が「1」の場合、自ノード内のCPU0へのリクエストの送出待ちの状態であることを示す。自ノード内のCPU0の送出待ち情報が「0」の場合、自ノード内のCPU0へのリクエストの送出待ちでないことを示す。
(1)送信先ID設定部540は、到来リクエストを受信すると、宛先判定部530から通知された宛先IDにしたがって、通知された宛先IDが示すユニットの送出管理情報および送信待ち情報を「1」に設定する。
(2)送信先ID設定部540は、リクエストをリクエスト送信部560を介して送出すると、送出したユニットの送信待ち情報を「0」に設定する。
(3)送信部選択部620は、リクエストを送出したユニットから応答を受信すると、受信した応答を送出したユニットの「送出管理情報」を「0」に設定する。
(4)送信部選択部620は、送信先リストの全ての送出管理情報と、送出待ちリストの全ての送出待ち情報と、が「0」になると、送信情報1100の「旧送出元ID」が示すユニットに応答を送信する。このとき、送信部選択部620は、送信情報1100の有効フラグを「0」に設定する。
BC応答内容は、各ユニットから送出される応答のうち、リクエストタイプが示す優先順位決定情報によって決定される優先順位が最も高い応答である。
送信部選択部620は、リクエストに対する応答を受信すると、リクエストタイプが示す優先順位決定情報を参照する。そして、送信部選択部620は、BC応答内容に格納されている応答内容の優先順位と、受信した応答の応答内容の優先順位と、を比較し、優先順位の高い応答内容を送信情報1100のBC応答内容に格納する。
優先順位決定情報1401は、電源制御に関するリクエストに対する応答の優先順位を決定する優先順位決定情報である。優先順位決定情報1401は、優先順位と応答内容とを対応づけたテーブルである。
図15は、優先順位決定情報の使用例を説明する図である。
(1)電源制御に関するリクエストに対する最初の応答である応答1を受信すると、送信部選択部620は、応答1のデータ領域から応答内容「1001」を取得する。
(2)応答1の次に応答2を受信すると、送信部選択部620は、応答2のデータ領域から応答内容「0101」を取得する。
(3)応答2の次に応答3を受信すると、送信部選択部620は、応答3のデータ領域から応答内容「1011」を取得する。
(4)応答3の次に応答4を受信すると、送信部選択部620は、応答4のデータ領域から応答内容「0101」を取得する。
リクエスト受信部510がリクエストを受信すると、SCは、受信したリクエストの送信処理を開始する(ステップS1600)。
ステップS1607において、送信先ID設定部540は、リクエストがブロードキャスト転送を要求するリクエストであるか否かを判別する。例えば、あらかじめメッセージ種類毎にブロードキャスト転送を要求されるリクエストか否かを示す情報を設定し、その設定した情報をもとに、リクエストがブロードキャスト転送を要求するリクエストであるか否かを判別すればよい。
ステップS1609において、送信先ID設定部540は、自ノードが接続するクロスバ、すなわち自クロスバ配下の自ノード以外のSC、すなわち他SCへのリクエストを生成する。
なお、ステップS1608〜S1610の具体的な処理については、図10および図11に示した。
ステップS1612において、送信先ID設定部540は、ステップS1608〜S1610により生成したリクエストに関し、送信情報1100を設定する。送信情報1100の設定については、図11および図12に具体的な処理を示した。
一方、ステップS1614において、送信先ID設定部540は、ステップS1602〜S1605の処理で判明したユニットへのリクエストを生成する。なお、ステップS1614の具体的な処理については、図10および11に示した。
ステップS1617〜S1622の処理は、ステップS1602〜S1607の処理と同様である。
例えば、送信先ID設定部540は、自SC内に備わる代表SC情報記憶部310を参照する。そして、送信先ID設定部540は、代表SC情報記憶部310に、自SCのIDが登録されているか否かを判別する。
ステップS1627において、送信先ID設定部540は、自ノードが接続するクロスバ、すなわち自クロスバ配下の自ノード以外のSC、すなわち他SCへのリクエストを生成する。
一方、ステップS1630において、送信先ID設定部540は、自ノード内のCPUまたはIOCへのリクエストを生成する。
図17は、SCによる応答処理を示すフローチャートである。
ステップS1702において、送信部選択部620は、受信した応答からメッセージIDを取得する。そして、送信部選択部620は、送信情報記憶部550から、取得したメッセージIDの送出先リストを取得する。送出先リストについては、図12で具体例を示した。
取得した送出先リストの送出管理情報に「1」が設定されていない場合、送信部選択部620は、処理をステップS1704に移行する(ステップS1703 NO)。この場合、SCは、応答処理を異常終了する。
ステップS1705において、送信部選択部620は、「1」が設定されている送出管理情報が2以上あるか否かを判別する。
一方、ステップS1708において、送信部選択部620は、受信した応答から送信元IDを取得する。そして、送信部選択部620は、送信元IDに対応する送出管理情報を「0」に設定する。
そして、自ノード内のユニット、例えば、CPUやIOCからブロードキャスト転送のリクエストを受信すると、SCは、自ノードが接続するクロスバ配下のユニットに対してブロードキャスト転送を行なう。
Claims (18)
- 1または2以上のノードと接続する複数の経路切り替え装置が互いに通信可能に接続する演算処理装置における異なるノード間のデータ転送を制御し、前記ノード内の処理装置と接続されたデータ転送制御装置において、
第1の経路切り替え装置と接続する第1のノード内の処理装置からブロードキャスト転送の要求を受けると、前記ブロードキャスト転送を要求した前記処理装置以外の前記第1のノード内の他の処理装置と前記第1のノード以外の前記第1の経路切り替え装置配下の他のノードとに対して前記ブロードキャスト転送を実行し、前記第1の経路切り替え装置と接続する第2の経路切り替え装置配下の全ノード内のデータ転送制御装置を代表する代表データ転送制御装置に対してブロードキャスト転送の代行を要求する第1の制御部と、
前記第2の経路切り替え装置配下の第2のノードから送信されたブロードキャスト転送の代行の要求を受信すると、前記第1のノード内の処理装置と前記第1のノード以外の前記第1の経路切り替え装置と接続する前記他のノードに対して前記ブロードキャスト転送を実行する第2の制御部と、
を備えるデータ転送制御装置。 - 前記データ転送制御装置は、前記第1の経路切り替え装置配下の各ノード内に含まれる全てのデータ転送制御装置の中から選択された代表データ転送制御装置であり、
前記第2の経路切り替え装置配下の全ノード内のデータ転送制御装置を代表する前記代表データ転送制御装置は、前記第2の経路切り替え装置配下の各ノード内に含まれる全てのデータ転送制御装置の中から選択される、請求項1に記載のデータ転送制御装置。 - 前記第2の制御部は、
前記ブロードキャスト転送の実行に対する応答を受信する第1の応答受信部と、
前記第1のノード内の前記処理装置と前記第1のノード以外の前記第1の経路切り替え装置配下の前記他のノードとからの前記ブロードキャスト転送の実行に対する前記応答が前記第1の応答受信部によって受信されたか否かを判定する第1の送信選択部と、
前記第1のノード内の前記処理装置と前記第1のノード以外の前記第1の経路切り替え装置配下の前記他のノードとからの前記ブロードキャスト転送の実行に対する前記応答が前記第1の応答受信部によって受信されたと前記第1の送信選択部により判定された場合に、前記ブロードキャスト転送の代行要求に対する応答を前記ブロードキャスト転送の代行を要求した前記第2の経路切り替え装置配下の前記第2のノードへ送信する第1の応答送信部と、
を含み、
前記第1の制御部は、
前記ブロードキャスト転送の代行要求に対する応答と前記ブロードキャスト転送の実行に対する応答とを受信する第2の応答受信部と、
前記第2の経路切り替え装置配下の前記代表データ転送制御装置からの前記ブロードキャスト転送の代行要求に対する前記応答と、前記ブロードキャスト転送を要求した前記処理装置以外の前記第1のノード内の前記他の処理装置と前記第1のノード以外の前記第1の経路切り替え装置配下の前記他のノードとからの前記ブロードキャスト転送の実行に対する前記応答とが前記第2の応答受信部により受信されたか否かを判定する第2の送信選択部と、
前記第2の経路切り替え装置配下の前記代表データ転送制御装置からの前記ブロードキャスト転送の代行要求に対する前記応答と、前記ブロードキャスト転送を要求した前記処理装置以外の前記第1のノード内の前記他の処理装置と前記第1のノード以外の前記第1の経路切り替え装置配下の前記他のノードとからの前記ブロードキャスト転送の実行に対する前記応答とが前記第2の応答受信部により受信されたと前記第2の送信選択部により判断された場合に、前記ブロードキャスト転送を要求した前記処理装置へ前記ブロードキャスト転送に対する応答を送信する第2の応答送信部と、
を含む、請求項1に記載のデータ転送制御装置。 - 1または2以上のノードと接続する複数の経路切り替え装置が互いに通信可能に接続する演算処理装置における異なるノード間のデータ転送を制御し、前記ノード内の処理装置と接続されたデータ転送制御装置において、
第1の経路切り替え装置と接続する第1のノード内の処理装置からブロードキャスト転送の要求を受けると、前記第1の経路切り替え装置配下の処理装置に対して前記ブロードキャスト転送を実行し、前記第1の経路切り替え装置と接続する第2の経路切り替え装置配下の全ノード内のデータ転送制御装置を代表する代表データ転送制御装置に対してブロードキャスト転送の代行を要求する第1の制御部と、
前記第2の経路切り替え装置配下の第2のノードから送信されたブロードキャスト転送の代行の要求を受信すると、前記第1の経路切り替え装置と接続する全ノードに対して前記ブロードキャスト転送を実行する第2の制御部と、
を備え、
前記第1の制御部は、
前記第1のノード内の前記処理装置から前記ブロードキャスト転送の要求を受信する要求受信部と、
前記第1のノード内の他の処理装置と前記第1の経路切り替え装置に接続する他のノードとに送信するブロードキャスト転送用データを生成するブロードキャスト転送用データ生成部と、
前記第2の経路切り替え装置に接続する全ノード内のデータ転送制御装置を代表する代表データ転送制御装置に関する情報である代表データ転送制御装置情報に基づいて、前記第2の経路切り替え装置に接続する全ノード内のデータ転送制御装置を代表する代表データ転送制御装置を特定し、特定された前記代表データ転送制御装置に対するブロードキャスト転送の代行を要求するブロードキャスト転送代行要求データを生成する代行要求データ生成部と、
前記ブロードキャスト転送用データを前記第1のノード内の他の処理装置と前記第1の経路切り替え装置に接続する他のノードとに送信するブロードキャスト転送用データ送信部と、
前記ブロードキャスト転送代行要求データを特定された前記代表データ転送制御装置に送信する代行要求データ送信部と、
を備えるデータ転送制御装置。 - 前記第2の制御部は、
前記第1の経路切り替え装置からの要求を受信する要求受信部と、
前記第1の経路切り替え装置からの要求が前記ブロードキャスト転送の代行の要求か否かを判別する代行要求判別部と、
前記第1のノード内の処理装置に送信するブロードキャスト転送用データを生成し、前記第1の経路切り替え装置からの要求が前記ブロードキャスト転送の代行の要求の場合には、前記第1の経路切り替え装置と接続する他のノードに送信するブロードキャスト転送用データも生成するブロードキャスト転送用データ生成部と、
前記ブロードキャスト転送用データを前記第1のノード内の前記処理装置と前記第1の経路切り替え装置に接続する前記他のノードに送信するブロードキャスト転送用データ送信部と、
を備える請求項4に記載のデータ転送制御装置。 - 1または2以上のノードと接続する複数の経路切り替え装置が互いに通信可能に接続する演算処理装置における異なるノード間のデータ転送を制御し、前記ノード内の処理装置と接続されたデータ転送制御装置を含むデータ転送制御システムにおいて、
第1の経路切り替え装置と接続する第1のノード内の処理装置からブロードキャスト転送の要求を受けると、前記ブロードキャスト転送を要求した前記処理装置以外の前記第1のノード内の他の処理装置と前記第1のノード以外の前記第1の経路切り替え装置配下の他のノードとに対して前記ブロードキャスト転送を実行し、前記第1の経路切り替え装置と接続する第2の経路切り替え装置配下の全ノード内のデータ転送制御装置を代表する代表データ転送制御装置に対してブロードキャスト転送の代行を要求する第1のデータ転送制御装置と、
前記第1のデータ転送制御装置から送信された前記ブロードキャスト転送の代行の要求を受信すると、第2のデータ転送制御装置を含む第2のノード内の処理装置と前記第2のノード以外の前記第2の経路切り替え装置と接続する他のノードに対して前記ブロードキャスト転送を実行する前記第2のデータ転送制御装置と、
を備えるデータ転送制御システム。 - 前記第2の経路切り替え装置配下の全ノード内のデータ転送制御装置を代表する前記データ転送制御装置は、前記第2の経路切り替え装置配下の各ノード内に含まれる全てのデータ転送制御装置の中から選択され、
前記第2のデータ転送制御装置は、選択された前記代表データ転送制御装置である、請求項6に記載のデータ転送制御システム。 - 前記第2のデータ転送制御装置は、
前記第2の経路切り替え装置からの要求を受信する要求受信部と、
前記第2の経路切り替え装置からの要求が前記ブロードキャスト転送の代行の要求か否かを判別する代行要求判別部と、
前記第2のノード内の処理装置に送信するブロードキャスト転送用データを生成し、前記第2の経路切り替え装置からの要求が前記ブロードキャスト転送の代行の要求の場合には、前記第2の経路切り替え装置と接続する他のノードに送信するブロードキャスト転送用データも生成するブロードキャスト転送用データ生成部と、
前記ブロードキャスト転送用データを前記第2のノード内の前記処理装置と前記第2の経路切り替え装置に接続する前記他のノードに送信するブロードキャスト転送用データ送信部と、
を備える請求項6に記載のデータ転送制御システム。 - 前記第2のデータ転送制御装置は、
前記ブロードキャスト転送の実行に対する応答を受信する第1の応答受信部と、
前記第2のノード内の前記処理装置と前記第2のノード以外の前記第2の経路切り替え装置配下の他のノードとからの前記ブロードキャスト転送の実行に対する前記応答が前記第1の応答受信部によって受信されたか否かを判定する第1の送信選択部と、
前記第2のノード内の前記処理装置と前記第2のノード以外の前記第2の経路切り替え装置配下の他のノードとからの前記ブロードキャスト転送の実行に対する前記応答が前記第1の応答受信部によって受信されたと前記第1の送信選択部により判定された場合に、前記ブロードキャスト転送の代行要求に対する応答を前記ブロードキャスト転送の代行を要求した前記第1のデータ転送制御装置へ送信する第1の応答送信部と、
を含み、
前記第1のデータ転送制御装置は、
前記ブロードキャスト転送の代行要求に対する応答と前記ブロードキャスト転送の実行に対する応答とを受信する第2の応答受信部と、
前記第2の経路切り替え装置配下の前記代表データ転送制御装置からの前記ブロードキャスト転送の代行要求に対する前記応答と、前記ブロードキャスト転送を要求した前記処理装置以外の前記第1のノード内の前記他の処理装置と前記第1のノード以外の前記第1の経路切り替え装置配下の前記他のノードとからの前記ブロードキャスト転送の実行に対する前記応答とが前記第2の応答受信部により受信されたか否かを判定する第2の送信選択部と、
前記第2の経路切り替え装置配下の前記代表データ転送制御装置からの前記ブロードキャスト転送の代行要求に対する前記応答と、前記ブロードキャスト転送を要求した前記処理装置以外の前記第1のノード内の前記他の処理装置と前記第1のノード以外の前記第1の経路切り替え装置配下の前記他のノードとからの前記ブロードキャスト転送の実行に対する前記応答とが前記第2の応答受信部により受信されたと前記第2の送信選択部により判断された場合に、前記ブロードキャスト転送を要求した前記処理装置へ前記ブロードキャスト転送に対する応答を送信する第2の応答送信部と、
を含む、請求項6に記載のデータ転送制御システム。 - 1または2以上のノードと接続する複数の経路切り替え装置が互いに通信可能に接続する演算処理装置における異なるノード間のデータ転送を制御し、前記ノード内の処理装置と接続されたデータ転送制御装置を含むデータ転送制御システムにおいて、
第1の経路切り替え装置と接続する第1のノード内の処理装置からブロードキャスト転送の要求を受けると、前記第1の経路切り替え装置配下の処理装置に対して前記ブロードキャスト転送を実行し、前記第1の経路切り替え装置と接続する第2の経路切り替え装置配下の全ノード内のデータ転送制御装置を代表する代表データ転送制御装置に対してブロードキャスト転送の代行を要求する第1のデータ転送制御装置と、
前記第1のデータ転送制御装置から前記ブロードキャスト転送の代行の要求を受信すると、前記第2の経路切り替え装置と接続する全ノードに対して前記ブロードキャスト転送を実行する第2のデータ転送制御装置と、
を備え、
前記第1のデータ転送制御装置は、
前記第1のノード内の前記処理装置から前記ブロードキャスト転送の要求を受信する要求受信部と、
前記第1のノード内の他の処理装置と前記第1の経路切り替え装置に接続する他のノードとに送信するブロードキャスト転送用データを生成するブロードキャスト転送用データ生成部と、
前記第2の経路切り替え装置に接続する全ノード内のデータ転送制御装置を代表する代表データ転送制御装置に関する情報である代表データ転送制御装置情報に基づいて、前記第2の経路切り替え装置に接続する全ノード内のデータ転送制御装置を代表する代表データ転送制御装置を特定し、特定された前記代表データ転送制御装置に対するブロードキャスト転送の代行を要求するブロードキャスト転送代行要求データを生成する代行要求データ生成部と、
前記ブロードキャスト転送用データを前記第1のノード内の他の処理装置と前記第1の経路切り替え装置に接続する他のノードとに送信するブロードキャスト転送用データ送信部と、
前記ブロードキャスト転送代行要求データを特定された前記代表データ転送制御装置に送信する代行要求データ送信部と、
を備えるデータ転送制御システム。 - 1または2以上のノードと接続する複数の経路切り替え装置が互いに通信可能に接続する演算処理装置における異なるノード間のデータ転送を制御し、前記ノード内の処理装置と接続されたデータ転送制御装置によるデータ転送制御方法において、
第1のデータ転送制御装置が、第1の経路切り替え装置と接続する第1のノード内の処理装置からブロードキャスト転送の要求を受けると、前記ブロードキャスト転送を要求した前記処理装置以外の前記第1のノード内の他の処理装置と前記第1のノード以外の前記第1の経路切り替え装置配下の他のノードとに対して前記ブロードキャスト転送を実行し、前記第1の経路切り替え装置と接続する第2の経路切り替え装置配下の全ノード内のデータ転送制御装置を代表する代表データ転送制御装置に対してブロードキャスト転送の代行を要求し、
第2のデータ転送制御装置が、前記第1のデータ転送制御装置から送信された前記ブロードキャスト転送の代行の要求を受信すると、前記第2のデータ転送制御装置を含む第2のノード内の処理装置と前記第2のノード以外の前記第2の経路切り替え装置と接続する他のノードに対して前記ブロードキャスト転送を実行する、
データ転送制御方法。 - 前記第2の経路切り替え装置配下の全ノード内のデータ転送制御装置を代表する前記データ転送制御装置は、前記第2の経路切り替え装置配下の各ノード内に含まれる全てのデータ転送制御装置の中から選択され、
前記第2のデータ転送制御装置は、選択された前記代表データ転送制御装置である、請求項11に記載のデータ転送制御方法。 - 前記第2のデータ転送制御装置は、
前記第2の経路切り替え装置からの要求を受信し、
前記第2の経路切り替え装置からの要求が前記ブロードキャスト転送の代行の要求か否かを判別し、
前記第2のノード内の処理装置に送信するブロードキャスト転送用データを生成し、前記第2の経路切り替え装置からの要求が前記ブロードキャスト転送の代行の要求の場合には、前記第2の経路切り替え装置と接続する他のノードに送信するブロードキャスト転送用データも生成し、
前記ブロードキャスト転送用データを前記第2のノード内の前記処理装置と前記第2の経路切り替え装置に接続する前記他のノードに送信する、
請求項11に記載のデータ転送制御方法。 - 前記第2のデータ転送制御装置は、
前記ブロードキャスト転送の実行に対する応答を受信し、
前記第2のノード内の前記処理装置と前記第2のノード以外の前記第2の経路切り替え装置配下の他のノードとからの前記ブロードキャスト転送の実行に対する前記応答が受信されたか否かを判定し、
前記第2のノード内の前記処理装置と前記第2のノード以外の前記第2の経路切り替え装置配下の他のノードとから前記ブロードキャスト転送の実行に対する前記応答が前記第1の応答受信部によって受信されたと判定された場合に、前記ブロードキャスト転送の代行要求に対する応答を前記ブロードキャスト転送の代行を要求した前記第1のデータ転送制御装置へ送信し、
前記第1のデータ転送制御装置は、
前記ブロードキャスト転送の代行要求に対する応答と前記ブロードキャスト転送の実行に対する応答とを受信し、
前記第2の経路切り替え装置配下の前記代表データ転送制御装置からの前記ブロードキャスト転送の代行要求に対する前記応答と、前記ブロードキャスト転送を要求した前記処理装置以外の前記第1のノード内の前記他の処理装置と前記第1のノード以外の前記第1の経路切り替え装置配下の前記他のノードとからの前記ブロードキャスト転送の実行に対する前記応答とが受信されたか否かを判定し、
前記第2の経路切り替え装置配下の前記代表データ転送制御装置からの前記ブロードキャスト転送の代行要求に対する前記応答と、前記ブロードキャスト転送を要求した前記処理装置以外の前記第1のノード内の前記他の処理装置と前記第1のノード以外の前記第1の経路切り替え装置配下の前記他のノードとからの前記ブロードキャスト転送の実行に対する前記応答とが受信されたと判断された場合に、前記ブロードキャスト転送を要求した前記処理装置へ前記ブロードキャスト転送に対する応答を送信する、
請求項11に記載のデータ転送制御方法。 - 1または2以上のノードと接続する複数の経路切り替え装置が互いに通信可能に接続する演算処理装置における異なるノード間のデータ転送を制御し、前記ノード内の処理装置と接続されたデータ転送制御装置によるデータ転送制御方法において、
第1のデータ転送制御装置が、
第1の経路切り替え装置と接続する第1のノード内の処理装置からブロードキャスト転送の要求を受信して前記第1のノード内の前記処理装置から前記ブロードキャスト転送の要求を受け、
前記第1のノード内の他の処理装置と前記第1の経路切り替え装置に接続する他のノードとに送信するブロードキャスト転送用データを生成し、
前記第1の経路切り替え装置と接続する第2の経路切り替え装置に接続する全ノード内のデータ転送制御装置を代表する代表データ転送制御装置に関する情報である代表データ転送制御装置情報に基づいて、前記第2の経路切り替え装置に接続する全ノード内のデータ転送制御装置を代表する代表データ転送制御装置を特定し、特定された前記代表データ転送制御装置に対するブロードキャスト転送の代行を要求するブロードキャスト転送代行要求データを生成し、
前記ブロードキャスト転送用データを前記第1のノード内の他の処理装置と前記第1の経路切り替え装置に接続する他のノードとに送信して前記第1の経路切り替え装置配下の処理装置に対して前記ブロードキャスト転送を実行し、
前記ブロードキャスト転送代行要求データを特定された前記代表データ転送制御装置に送信して、特定された前記代表データ転送制御装置に対してブロードキャスト転送の代行を要求し、
第2のデータ転送制御装置が、前記第1のデータ転送制御装置から送信されたブロードキャスト転送の代行の要求を受信すると、前記第2の経路切り替え装置と接続する全ノードに対して前記ブロードキャスト転送を実行する、
データ転送制御方法。 - 1または2以上のノードと接続する複数の経路切り替え装置が互いに通信可能に接続する演算処理装置における異なるノード間のデータ転送を制御し、前記ノード内の処理装置と接続されたデータ転送制御装置を有する演算システムにおいて、
前記データ転送制御装置は、
第1の経路切り替え装置と接続する第1のノード内の処理装置からブロードキャスト転送の要求を受けると、前記ブロードキャスト転送を要求した前記処理装置以外の前記第1のノード内の他の処理装置と前記第1のノード以外の前記第1の経路切り替え装置配下の他のノードとに対して前記ブロードキャスト転送を実行し、前記第1の経路切り替え装置と接続する第2の経路切り替え装置配下の全ノード内のデータ転送制御装置を代表する代表データ転送制御装置に対してブロードキャスト転送の代行を要求する第1の制御部と、
前記第2の経路切り替え装置配下の第2のノードから送信されたブロードキャスト転送の代行の要求を受信すると、前記第1のノード内の処理装置と前記第1のノード以外の前記第1の経路切り替え装置と接続する前記他のノードに対して前記ブロードキャスト転送を実行する第2の制御部と、
を備える演算システム。 - 前記第2の制御部を備える前記データ転送制御装置は、前記第1の経路切り替え装置配下の各ノード内に含まれる全てのデータ転送制御装置の中から選択された代表データ転送制御装置であり、
前記第2の経路切り替え装置配下の全ノード内のデータ転送制御装置を代表する前記データ転送制御装置は、前記第2の経路切り替え装置配下の各ノード内に含まれる全てのデータ転送制御装置の中から選択される、請求項16に記載の演算システム。 - 前記第2の制御部は、
前記ブロードキャスト転送の実行に対する応答を受信する第1の応答受信部と、
前記第1のノード内の前記処理装置と前記第1のノード以外の前記第1の経路切り替え装置配下の前記他のノードとからの前記ブロードキャスト転送の実行に対する前記応答が前記第1の応答受信部によって受信されたか否かを判定する第1の送信選択部と、
前記第1のノード内の前記処理装置と前記第1のノード以外の前記第1の経路切り替え装置配下の前記他のノードとからの前記ブロードキャスト転送の実行に対する前記応答が前記第1の応答受信部によって受信されたと前記送信選択部により判定された場合に、前記ブロードキャスト転送の代行要求に対する応答を前記ブロードキャスト転送の代行を要求した前記第2の経路切り替え装置配下の前記第2のノードへ送信する第1の応答送信部と、
を含み、
前記第1の制御部は、
前記ブロードキャスト転送の代行要求に対する応答と前記ブロードキャスト転送の実行に対する応答とを受信する第2の応答受信部と、
前記第2の経路切り替え装置配下の前記代表データ転送制御装置からの前記ブロードキャスト転送の代行要求に対する前記応答と、前記ブロードキャスト転送を要求した前記処理装置以外の前記第1のノード内の前記他の処理装置と前記第1のノード以外の前記第1の経路切り替え装置配下の前記他のノードとからの前記ブロードキャスト転送の実行に対する前記応答とが前記第2の応答受信部により受信されたか否かを判定する第2の送信選択部と、
前記第2の経路切り替え装置配下の前記代表データ転送制御装置からの前記ブロードキャスト転送の代行要求に対する前記応答と、前記ブロードキャスト転送を要求した前記処理装置以外の前記第1のノード内の前記他の処理装置と前記第1のノード以外の前記第1の経路切り替え装置配下の前記他のノードとからの前記ブロードキャスト転送の実行に対する前記応答とが前記第2の応答受信部により受信されたと前記第2の送信選択部により判断された場合に、前記ブロードキャスト転送を要求した前記処理装置へ前記ブロードキャスト転送に対する応答を送信する第2の応答送信部と、
を含む、請求項16に記載の演算システム。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2009/001459 WO2010116399A1 (ja) | 2009-03-30 | 2009-03-30 | データ転送制御装置、システムおよび方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2010116399A1 JPWO2010116399A1 (ja) | 2012-10-11 |
JP5440602B2 true JP5440602B2 (ja) | 2014-03-12 |
Family
ID=42935714
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011508056A Expired - Fee Related JP5440602B2 (ja) | 2009-03-30 | 2009-03-30 | データ転送制御装置、システムおよび方法 |
Country Status (4)
Country | Link |
---|---|
US (2) | US8589596B2 (ja) |
EP (1) | EP2416255A4 (ja) |
JP (1) | JP5440602B2 (ja) |
WO (1) | WO2010116399A1 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2010116399A1 (ja) * | 2009-03-30 | 2010-10-14 | 富士通株式会社 | データ転送制御装置、システムおよび方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0362255A (ja) * | 1989-07-31 | 1991-03-18 | Hitachi Ltd | データ伝送方式 |
JPH08214015A (ja) * | 1995-02-07 | 1996-08-20 | Hitachi Ltd | 情報処理システムの通信方法および情報処理システム |
JPH10336175A (ja) * | 1997-05-29 | 1998-12-18 | Kofu Nippon Denki Kk | マルチノード情報処理システム |
JP2008176394A (ja) * | 2007-01-16 | 2008-07-31 | Hitachi Ltd | マルチプロセッサシステム |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4811210A (en) * | 1985-11-27 | 1989-03-07 | Texas Instruments Incorporated | A plurality of optical crossbar switches and exchange switches for parallel processor computer |
DE69033434T2 (de) | 1989-07-31 | 2000-08-03 | Hitachi Ltd | Datenverarbeitungssystem und Datenübertragungs- und -verarbeitungsverfahren |
US5261109A (en) * | 1990-12-21 | 1993-11-09 | Intel Corporation | Distributed arbitration method and apparatus for a computer bus using arbitration groups |
KR0169248B1 (ko) * | 1996-07-24 | 1999-02-01 | 양승택 | 패킷 상호 연결망에서의 메시지 송신 장치 및 메시지 송신 제어방법 |
JPH1097512A (ja) | 1996-09-20 | 1998-04-14 | Hitachi Ltd | プロセッサ間データ転送方法及び並列計算機 |
JPH10254843A (ja) | 1997-03-06 | 1998-09-25 | Hitachi Ltd | クロスバスイッチ、該クロスバスイッチを備えた並列計算機及びブロードキャスト通信方法 |
JPH11232236A (ja) | 1998-02-18 | 1999-08-27 | Hitachi Ltd | 並列計算機におけるモニタデータ収集方法及び並列計算機 |
US7036114B2 (en) * | 2001-08-17 | 2006-04-25 | Sun Microsystems, Inc. | Method and apparatus for cycle-based computation |
US7069392B2 (en) * | 2003-06-12 | 2006-06-27 | Newisys, Inc. | Methods and apparatus for extended packet communications between multiprocessor clusters |
JP3818381B2 (ja) | 2003-06-26 | 2006-09-06 | 日本電気株式会社 | パケット転送制御装置、送信装置、通信システムおよびパケット転送制御方法 |
JP5051121B2 (ja) * | 2006-02-28 | 2012-10-17 | 富士通株式会社 | パーティションプライオリティ制御システムおよび方法 |
WO2010116399A1 (ja) * | 2009-03-30 | 2010-10-14 | 富士通株式会社 | データ転送制御装置、システムおよび方法 |
-
2009
- 2009-03-30 WO PCT/JP2009/001459 patent/WO2010116399A1/ja active Application Filing
- 2009-03-30 EP EP09842911A patent/EP2416255A4/en not_active Withdrawn
- 2009-03-30 JP JP2011508056A patent/JP5440602B2/ja not_active Expired - Fee Related
-
2011
- 2011-09-22 US US13/240,718 patent/US8589596B2/en not_active Expired - Fee Related
-
2013
- 2013-11-12 US US14/078,094 patent/US20140068634A1/en not_active Abandoned
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0362255A (ja) * | 1989-07-31 | 1991-03-18 | Hitachi Ltd | データ伝送方式 |
JPH08214015A (ja) * | 1995-02-07 | 1996-08-20 | Hitachi Ltd | 情報処理システムの通信方法および情報処理システム |
JPH10336175A (ja) * | 1997-05-29 | 1998-12-18 | Kofu Nippon Denki Kk | マルチノード情報処理システム |
JP2008176394A (ja) * | 2007-01-16 | 2008-07-31 | Hitachi Ltd | マルチプロセッサシステム |
Also Published As
Publication number | Publication date |
---|---|
EP2416255A4 (en) | 2012-12-05 |
US8589596B2 (en) | 2013-11-19 |
US20140068634A1 (en) | 2014-03-06 |
US20120011277A1 (en) | 2012-01-12 |
WO2010116399A1 (ja) | 2010-10-14 |
EP2416255A1 (en) | 2012-02-08 |
JPWO2010116399A1 (ja) | 2012-10-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102004160B1 (ko) | 사물인터넷 환경에서 클라이언트 식별자를 이용하여 클라이언트 노드들을 논리적으로 그룹화하는 장치 및 방법 | |
US6393026B1 (en) | Data packet processing system and method for a router | |
US7139861B2 (en) | Input/output unit access switching system and method | |
US6327614B1 (en) | Network server device and file management system using cache associated with network interface processors for redirecting requested information between connection networks | |
US10432506B2 (en) | Data processing method and apparatus | |
CN111600936B (zh) | 一种适用于泛在电力物联网边缘终端的基于多容器的非对称处理系统 | |
JP2018056978A (ja) | クラウド型高度道路交通の制御システムに基づく制御サーバー | |
EP2230606A2 (en) | System having a plurality of nodes connected in multi-dimensional matrix, method of controlling system and apparatus | |
JP2006119802A (ja) | マルチプロセッサシステム | |
US7783786B1 (en) | Replicated service architecture | |
CN114697276A (zh) | 片上网络(NoC)中的广播交换机系统 | |
JP6904011B2 (ja) | サーバ、端末、制御システム、制御方法及びプログラム | |
JP5440602B2 (ja) | データ転送制御装置、システムおよび方法 | |
US10366006B2 (en) | Computing apparatus, node device, and server | |
WO2013177854A1 (zh) | 一种多核处理器的核间通信装置及方法 | |
CN113452600A (zh) | 跨地域的消息通信方法、装置、电子设备和存储介质 | |
WO2008106879A1 (fr) | Procédé et dispositif de traitement de transfert de données | |
KR101924002B1 (ko) | 칩 멀티 프로세서, 및 칩 멀티 프로세서를 위한 라우터 | |
JPWO2009034994A1 (ja) | 負荷分散システム、サービス処理サーバ、負荷分散方法及び負荷分散プログラム | |
US20110138099A1 (en) | Method for communicating between nodes and server apparatus | |
US10560527B2 (en) | Network service chains using hardware logic devices in an information handling system | |
US20060129709A1 (en) | Multipurpose scalable server communication link | |
TWI301939B (ja) | ||
CN107370652B (zh) | 一种计算机节点动态互联平台及平台组网方法 | |
JPH0537596A (ja) | N07信号方式におけるmtp上位ユーザプロセツサのmtpレベル3プロセツサ選択方式 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20130604 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130729 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20131001 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20131028 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20131119 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20131202 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |