JP2015530636A - 粒子流動のシミュレーションシステム及びその方法 - Google Patents
粒子流動のシミュレーションシステム及びその方法 Download PDFInfo
- Publication number
- JP2015530636A JP2015530636A JP2015521951A JP2015521951A JP2015530636A JP 2015530636 A JP2015530636 A JP 2015530636A JP 2015521951 A JP2015521951 A JP 2015521951A JP 2015521951 A JP2015521951 A JP 2015521951A JP 2015530636 A JP2015530636 A JP 2015530636A
- Authority
- JP
- Japan
- Prior art keywords
- gpu
- particle
- particles
- calculation
- node
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 239000002245 particle Substances 0.000 title claims abstract description 427
- 238000000034 method Methods 0.000 title claims abstract description 116
- 238000004088 simulation Methods 0.000 title claims abstract description 61
- 238000004364 calculation method Methods 0.000 claims abstract description 142
- 230000001133 acceleration Effects 0.000 claims abstract description 30
- 238000009826 distribution Methods 0.000 claims abstract description 18
- 238000003860 storage Methods 0.000 claims description 36
- 230000008569 process Effects 0.000 claims description 30
- 230000006870 function Effects 0.000 claims description 25
- 238000011439 discrete element method Methods 0.000 claims description 22
- 238000006073 displacement reaction Methods 0.000 claims description 19
- 238000012545 processing Methods 0.000 claims description 12
- 230000005540 biological transmission Effects 0.000 claims description 11
- 239000000463 material Substances 0.000 claims description 11
- 230000007704 transition Effects 0.000 claims description 11
- 239000008188 pellet Substances 0.000 claims description 7
- 238000000638 solvent extraction Methods 0.000 claims description 7
- 238000013507 mapping Methods 0.000 claims description 5
- 239000003086 colorant Substances 0.000 claims description 4
- 230000004044 response Effects 0.000 claims description 3
- GNFTZDOKVXKIBK-UHFFFAOYSA-N 3-(2-methoxyethoxy)benzohydrazide Chemical compound COCCOC1=CC=CC(C(=O)NN)=C1 GNFTZDOKVXKIBK-UHFFFAOYSA-N 0.000 claims description 2
- FGUUSXIOTUKUDN-IBGZPJMESA-N C1(=CC=CC=C1)N1C2=C(NC([C@H](C1)NC=1OC(=NN=1)C1=CC=CC=C1)=O)C=CC=C2 Chemical compound C1(=CC=CC=C1)N1C2=C(NC([C@H](C1)NC=1OC(=NN=1)C1=CC=CC=C1)=O)C=CC=C2 FGUUSXIOTUKUDN-IBGZPJMESA-N 0.000 claims description 2
- 238000005265 energy consumption Methods 0.000 abstract description 4
- 238000002474 experimental method Methods 0.000 abstract description 3
- 238000004422 calculation algorithm Methods 0.000 description 7
- HPTJABJPZMULFH-UHFFFAOYSA-N 12-[(Cyclohexylcarbamoyl)amino]dodecanoic acid Chemical compound OC(=O)CCCCCCCCCCCNC(=O)NC1CCCCC1 HPTJABJPZMULFH-UHFFFAOYSA-N 0.000 description 5
- 238000003491 array Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 238000012986 modification Methods 0.000 description 4
- 230000004048 modification Effects 0.000 description 4
- 238000011160 research Methods 0.000 description 4
- 230000001174 ascending effect Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 230000008021 deposition Effects 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 239000012530 fluid Substances 0.000 description 2
- 230000010354 integration Effects 0.000 description 2
- 238000012423 maintenance Methods 0.000 description 2
- 239000013618 particulate matter Substances 0.000 description 2
- 238000011084 recovery Methods 0.000 description 2
- 238000012827 research and development Methods 0.000 description 2
- -1 structures Substances 0.000 description 2
- 239000011800 void material Substances 0.000 description 2
- 241000321453 Paranthias colonus Species 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 239000003814 drug Substances 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 229910052500 inorganic mineral Inorganic materials 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000011707 mineral Substances 0.000 description 1
- 238000005065 mining Methods 0.000 description 1
- 238000000329 molecular dynamics simulation Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000004663 powder metallurgy Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 239000011435 rock Substances 0.000 description 1
- 239000004576 sand Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/20—Design optimisation, verification or simulation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2210/00—Indexing scheme for image generation or computer graphics
- G06T2210/52—Parallel processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2210/00—Indexing scheme for image generation or computer graphics
- G06T2210/56—Particle system, point based geometry or rendering
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Computer Hardware Design (AREA)
- Evolutionary Computation (AREA)
- Geometry (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Physics (AREA)
- Algebra (AREA)
- Mathematical Analysis (AREA)
- Mathematical Optimization (AREA)
- Computational Mathematics (AREA)
- Pure & Applied Mathematics (AREA)
- Databases & Information Systems (AREA)
- Software Systems (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
Description
上記各計算ノードのGPUは、各粒子の処理を行い、各計算ノードのGPUの各ストリーミングプロセッサは、1つの粒子を処理し、GPUの記憶空間に記憶される粒子の座標及び粒子の速度を更新するステップbと、
ステップbの処理過程において、各計算ノードが制御する粒子を確定し、各計算ノードが制御する粒子の個数をCPUの記憶空間へコピーして、各計算ノードがどれらの粒子を算出するかを均衡負荷の原則に従って動的に確定できるように、GPUの記憶空間における粒子の数に応じて動的分割を行うステップcと、
MPIインターフェースプロトコルによって、上記データが動的分割された粒子を各計算ノード間に遷移させるステップdと、
ステップcで取得した各計算ノードが制御する粒子に応じて、GPUにおいて重畳領域を算出し、データをCPUメモリへコピーしてから、MPIインターフェースプロトコルによってデータのやり取りを行うステップeと、
各計算ノードのGPUにおける各ストリーミングプロセッサは、各粒子の座標に応じて、各粒子が位置するGPUの記憶空間におけるグリッドの番号を算出するステップfと、
各計算ノードのGPUにおける各ストリーミングプロセッサは、各粒子の運動中のストレス及び加速度を処理して算出するステップgと、
各計算ノードのGPUにおける各ストリーミングプロセッサは、各粒子の速度を処理するステップhと、
指定された歩数に達するまでに、ステップbに戻すステップiと、
マスターノード及び計算ノードの記憶空間を釈放するステップjと、を含む。
粒子の材料、粒子のパラメーター、境界の条件、幾何体の形状、及び粒子の初期分布の領域を確定し、予め定められた粒子の分布領域及び数量に応じて粒子を生成するモデリングステップと、
粒子の総数及び複数の計算ノードにフリーなGPU数に応じて、最適なGPU数を確定し、最適なGPU数及び現在フリーなGPU数に応じて、算出関与のGPUを確定し、算出関与のGPUの状態をビジーに設置するタスク管理ステップと、
算出ステップと、を含み、
該算出ステップは、
各計算ノードの算出関与のGPUを初期化し、算出に必要な粒子の情報を各GPUに発信するステップと、
各GPUが、予め定められた速度を並列に更新し、受信した粒子の情報をソートして各自のソートセルリストを生成するステップと、
各GPUが、現在各自のコースにおける非ゼローのグリッドの番号及びグリッドにおける粒子数を並列に算出し、マスターノードに発信して、マスターノードによって各GPUの最適な粒子数に応じて、グリッドを動的分割し、各GPUが並列に算出するグリッドの数及びグリッドの番号を確定するステップと、
マスターノードが確定した結果に応じて、各GPUが粒子情報を並列に送受信し、各GPUにおいて各自のソートセルリストを生成し直すステップと、
各GPUにおいて現在時刻の衝突リストを生成し、現在時刻の衝突リストと一つ前の時刻の衝突リストと接線相対変位に応じて、各GPUにおいて接線相対変位の位置を並列に調整するステップと、
接触力学モデルによって、各GPUにおいて各粒子のストレス及び加速度を並列に算出するステップと、
現在の算出結果を記憶するステップと、
算出が完成していなければ、各GPUが予め定められた速度及び座標を並列に更新するステップに戻し、そうでなければ、算出ステップを終了させるステップと、を含む。
粒子の材料、粒子のパラメーター、境界の条件、幾何体の形状、及び粒子の初期分布の領域を確定し、予め定められた粒子の分布領域及び数量に応じて粒子を生成するように構成されるモデリングモジュールと、
粒子の総数及び複数の計算ノードにフリーなGPU数に応じて、最適なGPU数を確定し、最適なGPU数及び現在フリーなGPU数に応じて、算出関与のGPUを確定し、算出関与のGPUの状態をビジーに設置するように構成されるタスク管理モジュールと、
算出モジュールと、を含み、
該算出モジュールは、
各計算ノードの算出関与のGPUを初期化し、算出に必要な粒子の情報を各GPUに発信し、
各GPUが、予め定められた速度及び座標を並列に更新し、受信した粒子の情報をソートして各自のソートセルリストを生成し、
各GPUが、現在各自のコースにおける非ゼローのグリッドの番号及びグリッドにおける粒子数を並列に算出し、マスターノードに発信して、マスターノードによって各GPUの最適な粒子数に応じて、グリッドを動的分割し、各GPUが並列に算出するグリッドの数及びグリッドの番号を確定し、
マスターノードが確定した結果に応じて、各GPUが粒子情報を並列に送受信し、各GPUにおいて各自のソートセルリストを生成し直し、
各GPUにおいて現在時刻の衝突リストを生成し、現在時刻の衝突リストと一つ前の時刻の衝突リストと接線相対変位に応じて、各GPUにおいて接線相対変位の位置を並列に調整し、
接触力学モデルによって、各GPUにおいて各粒子のストレス及び加速度を並列に算出し、
現在の算出結果を記憶し、
算出が完成していなければ、各GPUが予め定められた速度及び座標を並列に更新するステップに戻し、そうでなければ、算出ステップを終了させるように構成される。
クライアントから入力される粒子のモデリング情報に応じて、粒子の情報を生成すると共に、幾何体の情報を生成するように構成される前端サーバと、
前端サーバから粒子の情報及び幾何体の情報を受信し、粒子の数及び各計算ノードにフリーなGPUの数に応じて、どれらの計算ノードにおけるどれらのGPUを使用するかを確定し、そして、確定したGPUの数及び粒子の空間における分布状況に応じてどれらの粒子がどの計算ノードのどのGPUによって算出されるかを確定し、確定した結果によって割り当てるように構成される管理ノードと、
それぞれが複数のGPUを含み、複数のGPUにおいて粒子の衝突による各粒子のストレスを並列に算出し、加速度を更に算出して、粒子の流動をシミュレーションするように構成される複数の計算ノードと、
シミュレーションの結果を表示するように構成される後端サーバと、を備える。
以下、図面及び実施例によって、本発明の技術案をより詳細に説明する。
計算ノードのGPUの各ストリーミングプロセッサは、1つの粒子の処理を行い、1歩の粒子座標及び1/2歩の粒子速度を並列に更新する。CUDAのKernel関数:
__global__void UpdateP(double*x1, double *x2, double *x3,
double *vx, double *vy, double *vz,
double *ax, double *ay, double *az,
unsigned int NumParticles);
__global__void UpdateV (double *vx, double *vy, double *vz,
double *wx, double *wy, double *wz,
double *ax, double *ay, double *az,
double *bx, double *by, double *bz,
unsigned int NumParticles);
が含まれている。呼び出す際に、CUDAのシンタックス(syntax)条件に従って、以下の方式:
UpdateV <<<gridsize, blocksize>>>(vx, vy, vz,
wx, wy, wz,
ax, ay, az,
bx, by, bz,
NumParticles);
を用いて呼び出す。この2つの関数の「block」及び「grid」は、いずれも一次元の方式を採用し、異なる粒子数に対して、block及びgridの値を調整でき、算出時間に対して一定の影響を与えている。
(1)それぞれのノードは、グリッド全体の数量Mと同じであるint型のアレイiCellCountを維持する。CUDAのコア関数calcParticleNumPerCell()を呼び出してそれぞれのグリッドにおける粒子の個数を算出し、それをiCellCountに格納する。この時、iCellCount中の粒子個数は、局所的なことであり、現在のノードが算出する粒子が、グリッドにおける個数のみを記録した。
(2)PID=0のノードをROOTノードとし、MPI減少関数MPI_Reduce()を呼び出して、全てのノードiCellCountの情報を、加算の操作によってROOTノードのiGlobalCellCountアレイに集める。このとき、iGlobalCellCountアレイに記録される各グリッドの粒子個数は、全体的なことであり、全ての粒子が各グリッドにおける個数である。
(3)iGlobalCellCountアレイを用いて、各ノードの算出グリッド範囲の分割を行う。この分割は、CPU+GPUの方式を採用している。分割のステップは、以下の通りである。
iParticlesCountPerSeg[0] - iGlobalCellCount[iDividedResult[0*2+1]],
iParticlesCountPerSeg[1]+iGlobalCellCount[iDividedResult[0*2+1]],
iDividedResult[1*2] = iDividedResult[0*2+1],
iDividedResult[0*2+1]-1,
iParticlesCountPerSeg[0]は、iParticlesPerNodeIdealと同じあるいは近接になるまでに、上記過程を繰り返して行う。若し、iParticlesCountPerSeg[0] < iParticlesPerNodeIdealであれば、ノード0が処理する範囲は小さすぎると分かる。このため、上記過程を反対の方向への処理を行う。iParticlesCountPerSeg[0]は、iParticlesPerNodeIdealと同じあるいは近接になった際に、iDividedResult[0], iDividedResult[0*2+1]は、ノード0の算出範囲となる。
MPIインターフェースプロトコルを用いて、データが分割された粒子を各ノード間に遷移させる。
受信した粒子を粒子アレイに格納すると共に、発信した粒子を粒子アレイから削除する。位置するグリッドの番号に従って、新たな粒子アレイを小さい順にソートして、iCellCount及びiSendParticlesOffsetアレイを算出し直す。
calcHash<<<gridsize, blocksize>>> (ParticleHash, ParticleIndex,
x1, x2, x3,
NumParticles);
を呼び出して、粒子が位置するグリッドの番号ParticleHashが取得される。算出領域外の粒子に対して、その粒子が位置するグリッドを算出する時、それを算出領域内のあるグリッドに人為的に入れて、算出に影響しない。
CalcCellStartEnd<<<gridsize, blocksize>>> (cellStart, cellEtart,
ParticleHash, ParticleIndex,
NumParticles)
上記の結果に応じて、以下のkernel関数、即ち、
nbrlstgen<<<gridsize, blocksize>>>(NbrLst, NbrLstcnt,
x1, x2, x3,
ParticleIndex, ParticleHash,
CellStart, CellEnd, NumParticles);
を呼び出して、各粒子の隣接リストNbrLstを生成する。新たに生成したNbrLstによって、新たな接線相対変位Uを算出する。
Claims (20)
- 並列の複数のGPU上で離散要素法(DEM)方法を実行して粒子流動のシミュレーションを行うGPUに基づく粒子流動のシミュレーション方法であって、
DEM方法で粒子をモデリングし、作られたDEMモデルを複数の粒子として割り当てし、該複数の粒子を複数の計算ノードに割り当て処理を行い、各計算ノードのCPU及びGPUに記憶空間がそれぞれ割り当てされており、CPUにおいてデータの初期化を行い、初期化されたデータをCPUの記憶空間から前記GPUの記憶空間へコピーするステップaと、
上記各計算ノードのGPUは、各粒子の処理を行い、各計算ノードのGPUの各ストリーミングプロセッサは、1つの粒子を処理し、GPUの記憶空間に記憶される粒子の座標及び粒子の速度を更新するステップbと、
ステップbの処理過程において、各計算ノードが制御する粒子を確定し、各計算ノードが制御する粒子の個数をCPUの記憶空間へコピーして、各計算ノードがどれらの粒子を算出するかを均衡負荷の原則に従って動的に確定できるように、GPUの記憶空間における粒子の数に応じて動的分割を行うステップcと、
MPIインターフェースプロトコルによって、上記データが動的分割された粒子を各計算ノード間に遷移させるステップdと、
ステップcで取得した各計算ノードが制御する粒子に応じて、GPUにおいて重畳領域を算出し、データをCPUメモリへコピーしてから、MPIインターフェースプロトコルによってデータのやり取りを行うステップeと、
各計算ノードのGPUにおける各ストリーミングプロセッサは、各粒子の座標に応じて、各粒子が位置するGPUの記憶空間におけるグリッドの番号を算出するステップfと、
各計算ノードのGPUにおける各ストリーミングプロセッサは、各粒子の運動中のストレス及び加速度を処理して算出するステップgと、
各計算ノードのGPUにおける各ストリーミングプロセッサは、各粒子の速度を処理するステップhと、
指定された歩数に達するまでに、ステップbに戻すステップiと、
マスターノード及び計算ノードの記憶空間を釈放するステップjと、を含むことを特徴とするGPUに基づく粒子流動のシミュレーション方法。 - ステップb、ステップf、ステップg及びステップhは、
GPUにおいて各粒子に対して並列なデータ処理を行う請求項1に記載のGPUに基づく粒子流動のシミュレーション方法。 - ステップdにおいて、前記粒子が各ノード間で遷移し、MPIインターフェースで関数を送受信し、粒子の各物理量の送受信を実現する請求項1に記載のGPUに基づく粒子流動のシミュレーション方法。
- ステップeにおいて、前記GPUにおいて重畳領域を算出することは、
GPUにおいて重畳領域を算出することを利用し、GPUの1つのストリーミングプロセッサが1つのグリッドを処理することを含み、
三次元の場合において、各グリッドは26個のグリッドに隣接し、隣接のグリッドが現在の計算ノードに位置するか否かを判断し、位置しなければ、重畳領域とし、他のノードから遷移して取得する請求項1に記載のGPUに基づく粒子流動のシミュレーション方法。 - GPUに基づく粒子流動のシミュレーション方法であって、
粒子の材料、粒子のパラメーター、境界の条件、幾何体の形状、及び粒子の初期分布の領域を確定し、予め定められた粒子の分布領域及び数量に応じて粒子を生成するモデリングステップと、
粒子の総数及び複数の計算ノード上にフリーなGPU数に応じて、最適なGPU数を確定し、最適なGPU数及び現在フリーなGPU数に応じて、算出関与のGPUを確定し、算出関与のGPUの状態をビジーに設置するタスク管理ステップと、
算出ステップと、を含み、
該算出ステップは、
各計算ノードの算出関与のGPUを初期化し、算出に必要な粒子の情報を各GPUに発信するステップと、
各GPUが、予め定められた速度及び座標を並列に更新し、受信した粒子の情報をソートして各自のソートセルリストを生成するステップと、
各GPUが、現在各自のコースにおける非ゼローのグリッドの番号及びグリッドにおける粒子数を並列に算出し、マスターノードに発信して、マスターノードによって各GPUの最適な粒子数に応じて、グリッドを動的分割し、各GPUが並列に算出するグリッドの数及びグリッドの番号を確定するステップと、
マスターノードが確定した結果に応じて、各GPUが粒子情報を並列に送受信し、各GPUにおいて各自のソートセルリストを生成し直すステップと、
各GPUにおいて現在時刻の衝突リストを生成し、現在時刻の衝突リストと一つ前の時刻の衝突リストと接線相対変位に応じて、各GPUにおいて接線相対変位の位置を並列に調整するステップと、
接触力学モデルによって、各GPUにおいて各粒子のストレス及び加速度を並列に算出するステップと、
現在の算出結果を記憶するステップと、
算出が完成していなければ、各GPUが予め定められた速度及び座標を並列に更新するステップに戻し、そうでなければ、算出ステップを終了させるステップと、を含むことを特徴とするGPUに基づく粒子流動のシミュレーション方法。 - 更に、表示ステップを含み、
上記表示ステップは、
境界の条件を確定し、幾何体の境界を透明な曲面で作るステップと、
粒子の位置及び粒子の直径に応じて、粒子を同じ色又は異なる色のペレットで描くステップと、
階調画像でスカラ場を表示し、粒子情報を重み付けしてグリッドにマッピングすることによって、ベクトル場を流線描き方法で描くステップとを含む請求項5に記載のGPUに基づく粒子流動のシミュレーション方法。 - 算出結果とする全ての粒子情報を外部の記憶装置に格納するステップとを更に含む請求項5に記載のGPUに基づく粒子流動のシミュレーション方法。
- 各GPUが、粒子に関する物理統計量を並列に算出することを更に含む請求項5に記載のGPUに基づく粒子流動のシミュレーション方法。
- 予め定められた粒子の分布領域及び数量に応じて粒子を生成することは、
粒子の数量条件を満たすまでに、比較的に小さい空間内でいくつかの粒子を生成して、これらの粒子を平行移動してコピーを行い、他の空間を充填することを含む請求項5に記載のGPUに基づく粒子流動のシミュレーション方法。 - ソートセルリストは、粒子が位置するグリッドに応じて、全ての粒子をソートするリストである請求項5に記載のGPUに基づく粒子流動のシミュレーション方法。
- 動的分割方法を採用して、非ゼローのグリッドの番号及びグリッドにおける粒子数をGPUにおいて並列に算出する請求項5に記載のGPUに基づく粒子流動のシミュレーション方法。
- 各GPUにおいては、
1つのスレッドが1つの粒子に対応するとの方式を用いて算出を行う請求項5に記載のGPUに基づく粒子流動のシミュレーション方法。 - 接線相対変位を算出することは、
一つ前の時刻の接線相対変位を記録し、現在時刻の衝突リストに応じてそれを更新することを含む請求項5に記載のGPUに基づく粒子流動のシミュレーション方法。 - コピー又はポインターやり取り技術を用いて、現在の算出結果をアレイに記憶する請求項5に記載のGPUに基づく粒子流動のシミュレーション方法。
- GPUに基づく粒子流動のシミュレーションシステムであって、
粒子の材料、粒子のパラメーター、境界の条件、幾何体の形状、及び粒子の初期分布の領域を確定し、予め定められた粒子の分布領域及び数量に応じて粒子を生成するように構成されるモデリングモジュールと、
粒子の総数及び複数の計算ノードにフリーなGPU数に応じて、最適なGPU数を確定し、最適なGPU数及び現在フリーなGPU数に応じて、算出関与のGPUを確定し、算出関与のGPUの状態をビジーに設置するように構成されるタスク管理モジュールと、
算出モジュールと、を含み、
該算出モジュールは、
各計算ノードの算出関与のGPUを初期化し、算出に必要な粒子の情報を各GPUに発信し、
各GPUが、予め定められた速度及び座標を並列に更新し、受信した粒子の情報をソートして各自のソートセルリストを生成し、
各GPUが、現在各自のコースにおける非ゼローのグリッドの番号及びグリッドにおける粒子数を並列に算出し、マスターノードに発信して、マスターノードによって各GPUの最適な粒子数に応じて、グリッドを動的分割し、各GPUが並列に算出するグリッドの数及びグリッドの番号を確定し、
マスターノードが確定した結果に応じて、各GPUが粒子情報を並列に送受信し、各GPUにおいて各自のソートセルリストを生成し直し、
各GPUにおいて現在時刻の衝突リストを生成し、現在時刻の衝突リストと一つ前の時刻の衝突リストと接線相対変位に応じて、各GPUにおいて接線相対変位の位置を並列に調整し、
接触力学モデルによって、各GPUにおいて各粒子のストレス及び加速度を並列に算出し、
現在の算出結果を記憶し、
算出が完成していなければ、各GPUが予め定められた速度及び座標を並列に更新するステップに戻し、そうでなければ、算出ステップを終了させるように構成されることを特徴とするGPUに基づく粒子流動のシミュレーションシステム。 - 更に、表示モジュールを含み、
上記表示モジュールは、
境界の条件を確定し、幾何体の境界を透明な曲面で作り、
粒子の位置及び粒子の直径に応じて、粒子を同じ色又は異なる色のペレットで描き、
階調画像でスカラ場を表示し、粒子情報を重み付けしてグリッドにマッピングすることによって、ベクトル場を流線描き方法で描くように構成される請求項15に記載のGPUに基づく粒子流動のシミュレーションシステム。 - GPUに基づく粒子流動のシミュレーションシステムであって、
クライアントから入力される粒子のモデリング情報に応じて、粒子の情報を生成すると共に、幾何体の情報を生成するように構成される前端サーバと、
前端サーバから粒子の情報及び幾何体の情報を受信し、粒子の数及び各計算ノード上にフリーなGPUの数に応じて、どれらの計算ノードにおけるどれらのGPUを使用するかを確定し、そして、確定したGPUの数及び粒子の空間における分布状況に応じてどれらの粒子がどの計算ノードのどのGPUによって算出されるかを確定し、確定した結果によって割り当てるように構成される管理ノードと、
それぞれが複数のGPUを含み、複数のGPUにおいて粒子の衝突による各粒子のストレスを並列に算出し、加速度を更に算出して、粒子の流動をシミュレーションするように構成される複数の計算ノードと、
シミュレーションの結果を表示するように構成される後端サーバと、を備えることを特徴とするGPUに基づく粒子流動のシミュレーションシステム。 - 前端サーバは、
幾何体を有限の曲面に分解し、これらの曲面に番号をつけることによって、幾何体の情報を生成する請求項17に記載のGPUに基づく粒子流動のシミュレーションシステム。 - 後端サーバは、
表示されるシミュレーション結果において、幾何体の境界を透明な曲面で作り、
粒子の位置及び粒子の直径に応じて、粒子を同じ色又は異なる色のペレットで描き、
且つ、階調画像でスカラ場を表示し、粒子情報を重み付けしてグリッドにマッピングすることによって、ベクトル場を流線描き方法で描く請求項17に記載のGPUに基づく粒子流動のシミュレーションシステム。 - 前端サーバ、管理ノード、計算ノード及び後端サーバは、
IB(InfiniBand)ネットワークによって通信する請求項17に記載のGPUに基づく粒子流動のシミュレーションシステム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201210558134.6 | 2012-12-20 | ||
CN201210558134 | 2012-12-20 | ||
PCT/CN2013/076045 WO2014094410A1 (zh) | 2012-12-20 | 2013-05-22 | 颗粒流动仿真系统和方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015530636A true JP2015530636A (ja) | 2015-10-15 |
JP6009075B2 JP6009075B2 (ja) | 2016-10-19 |
Family
ID=49193522
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015521951A Active JP6009075B2 (ja) | 2012-12-20 | 2013-05-22 | 粒子流動のシミュレーションシステム及びその方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US10007742B2 (ja) |
JP (1) | JP6009075B2 (ja) |
CN (1) | CN103324780B (ja) |
GB (1) | GB2523640B (ja) |
WO (1) | WO2014094410A1 (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017091262A (ja) * | 2015-11-11 | 2017-05-25 | 富士通株式会社 | 粒子シミュレーションプログラム、粒子シミュレーション装置、及び計算機資源配分方法 |
KR20190048790A (ko) * | 2017-10-31 | 2019-05-09 | 한국과학기술원 | 공간 데이터를 분산 처리하는 시스템 및 방법 |
KR20200023954A (ko) * | 2018-08-27 | 2020-03-06 | 이에이트 주식회사 | 복수의 프로세서를 이용한 입자 기반의 유체 시뮬레이션 방법 및 유체 시뮬레이션 장치 |
JP2021009568A (ja) * | 2019-07-01 | 2021-01-28 | 富士通株式会社 | 情報処理装置、粒子シミュレーション方法および粒子シミュレーションシステム |
KR20210136327A (ko) * | 2020-05-07 | 2021-11-17 | 국방과학연구소 | 도심지 유동해석 방법 및 장치 |
Families Citing this family (50)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103617088B (zh) * | 2013-11-29 | 2018-07-24 | 深圳中微电科技有限公司 | 在不同类型线程中分配内核资源的方法、装置及其处理器 |
US10210287B2 (en) | 2013-12-31 | 2019-02-19 | Disney Enterprises, Inc. | Augmented material point method for simulating phase changes and varied materials |
US10019827B2 (en) * | 2013-12-31 | 2018-07-10 | Disney Enterprises, Inc. | Material point method for simulation of granular materials |
WO2015108980A1 (en) * | 2014-01-17 | 2015-07-23 | Conocophillips Company | Advanced parallel "many-core" framework for reservoir simulation |
CN105389855B (zh) * | 2014-08-26 | 2019-11-01 | 三星电子株式会社 | 对对象进行建模的方法和设备 |
JP6547547B2 (ja) * | 2015-09-25 | 2019-07-24 | 富士通株式会社 | 粒子シミュレーションプログラム、計算機資源配分方法、および粒子シミュレーション装置 |
CN107016180A (zh) * | 2017-03-30 | 2017-08-04 | 中国石油大学(北京) | 一种颗粒流动仿真方法 |
US10262390B1 (en) * | 2017-04-14 | 2019-04-16 | EMC IP Holding Company LLC | Managing access to a resource pool of graphics processing units under fine grain control |
US10275851B1 (en) | 2017-04-25 | 2019-04-30 | EMC IP Holding Company LLC | Checkpointing for GPU-as-a-service in cloud computing environment |
CN107230242B (zh) * | 2017-06-07 | 2020-09-25 | 广州酷狗计算机科技有限公司 | 粒子映射方法和装置 |
US10325343B1 (en) | 2017-08-04 | 2019-06-18 | EMC IP Holding Company LLC | Topology aware grouping and provisioning of GPU resources in GPU-as-a-Service platform |
CN107766148B (zh) * | 2017-08-31 | 2021-02-19 | 北京百度网讯科技有限公司 | 一种异构集群及任务处理方法和装置 |
US10698766B2 (en) | 2018-04-18 | 2020-06-30 | EMC IP Holding Company LLC | Optimization of checkpoint operations for deep learning computing |
CN110795228B (zh) | 2018-08-03 | 2023-08-25 | 伊姆西Ip控股有限责任公司 | 用于训练深度学习模型的方法和制品、以及计算系统 |
US10776164B2 (en) | 2018-11-30 | 2020-09-15 | EMC IP Holding Company LLC | Dynamic composition of data pipeline in accelerator-as-a-service computing environment |
CN109753726A (zh) * | 2019-01-04 | 2019-05-14 | 东南大学 | 一种基于边界盒搜索方法和gpu的球磨机介质运动仿真方法 |
CN109977505B (zh) * | 2019-03-13 | 2024-02-09 | 南京大学 | 基于gpu矩阵计算的离散元孔隙系统快速搜索方法 |
CN110275732B (zh) * | 2019-05-28 | 2023-02-21 | 上海交通大学 | 在ARMv8处理器上质点网格法的并行实现方法 |
US11875101B2 (en) * | 2019-06-20 | 2024-01-16 | Asml Netherlands B.V. | Method for patterning process modelling |
CN110348156B (zh) * | 2019-07-18 | 2022-10-14 | 河南理工大学 | 一种炉料颗粒在高炉旋转溜槽内部运动的仿真方法 |
CN112035995B (zh) * | 2019-07-19 | 2024-07-09 | 交通运输部天津水运工程科学研究所 | 基于gpu计算技术的非结构网格潮汐潮流数值模拟方法 |
CN112528456B (zh) * | 2019-09-18 | 2024-05-07 | 曙光信息产业(北京)有限公司 | 一种异构节点计算系统及方法 |
CN110766709B (zh) * | 2019-10-30 | 2021-03-30 | 成都理工大学 | 基于图像识别的滑坡颗粒堆积特征识别方法 |
CN111222262B (zh) * | 2019-10-30 | 2023-09-29 | 中国中元国际工程有限公司 | 基于质量比影响的气浮隔振平台性能优化设计方法 |
CN110992456B (zh) * | 2019-11-19 | 2021-09-07 | 浙江大学 | 一种基于位置动力学的雪崩模拟方法 |
CN111027244B (zh) * | 2019-12-03 | 2024-03-12 | 天津大学 | 一种百亿级颗粒模型的构建方法 |
CN112001108B (zh) * | 2020-07-08 | 2024-02-02 | 中国人民解放军战略支援部队信息工程大学 | 锥束ct蒙特卡洛仿真集群并行加速方法及系统 |
CN112100939B (zh) * | 2020-09-14 | 2023-06-16 | 福建天晴在线互动科技有限公司 | 一种基于Compute Shader的实时流体仿真方法及其系统 |
CN112380788B (zh) * | 2020-11-06 | 2022-03-01 | 天津大学 | 一种超椭球颗粒与流场双向耦合的半解析计算方法 |
CN113177346B (zh) * | 2020-11-17 | 2022-06-10 | 西北工业大学 | 一种锅炉煤粉运输安全性判断方法及系统 |
CN112380793B (zh) * | 2020-11-18 | 2024-02-13 | 上海交通大学 | 基于gpu的湍流燃烧数值模拟并行加速实现方法 |
CN112464543B (zh) * | 2021-01-28 | 2021-04-06 | 北京科技大学 | 一种计算vim冶炼过程中的夹杂物运动的方法 |
CN113283048B (zh) * | 2021-03-12 | 2024-09-24 | 南京航空航天大学 | 一种多枝晶运动相场法并行模拟的碰撞检测和合并方法 |
CN113221200B (zh) * | 2021-04-15 | 2022-10-25 | 哈尔滨工程大学 | 一种适用于堆芯颗粒分布不确定性分析的三维高效随机排布方法 |
CN113239522B (zh) * | 2021-04-20 | 2022-06-28 | 四川大学 | 一种基于计算机集群的大气污染物扩散模拟方法 |
CN113282976B (zh) * | 2021-04-30 | 2023-04-11 | 重庆大学 | 基于comsol的粉床构建方法 |
CN112948643B (zh) * | 2021-05-13 | 2021-08-06 | 中国空气动力研究与发展中心计算空气动力研究所 | 一种基于线程并行的结构化网格流线积分方法 |
CN113343605B (zh) * | 2021-06-29 | 2022-03-25 | 华南理工大学 | 一种汽车涂层抗石击性标准实验的仿真对标方法 |
CN114186468B (zh) * | 2021-12-16 | 2024-03-29 | 西安交通大学 | 一种基于gpu加速的二次电子发射模拟方法及系统及设备 |
CN114254572B (zh) * | 2021-12-16 | 2024-01-02 | 西北工业大学太仓长三角研究院 | 考虑污染物沉积的航发压气机流场性能预测方法及系统 |
CN114491864B (zh) * | 2022-01-26 | 2022-12-13 | 哈尔滨工程大学 | 一种具有参数化、可重构特征的核动力管网模型预处理方法 |
CN114444362B (zh) * | 2022-02-18 | 2024-09-17 | 中国石油大学(北京) | 一种球形颗粒表面液相信息识别方法、系统和介质 |
CN115600449B (zh) * | 2022-07-05 | 2024-06-18 | 浙江大学 | 基于细长柔性物件组成的大规模颗粒系统的模拟预测方法 |
CN115719047B (zh) * | 2022-11-14 | 2023-06-06 | 沐曦集成电路(上海)有限公司 | 基于波形gpu联合仿真系统 |
CN116738806A (zh) * | 2023-04-18 | 2023-09-12 | 西北农林科技大学 | 含丁坝水流交汇区微塑料输运规律的模拟方法 |
CN116562065B (zh) * | 2023-07-12 | 2023-09-12 | 北京凌云智擎软件有限公司 | 一种网格拓扑的转换方法、设备及装置 |
CN117272769B (zh) * | 2023-09-27 | 2024-06-07 | 长江大学 | 一种颗粒混合过程仿真数据的处理方法 |
CN117217132B (zh) * | 2023-11-08 | 2024-02-09 | 四川新能源汽车创新中心有限公司 | 一种基于cfd-dem耦合的颗粒运动模拟方法 |
CN118069374B (zh) * | 2024-04-18 | 2024-06-18 | 清华大学 | 数据中心智能训练仿真事务加速方法、装置、设备及介质 |
CN118095144B (zh) * | 2024-04-23 | 2024-06-25 | 临沂大学 | 一种基于计算流体力学的高碱煤灰沉积模拟方法及系统 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009069930A (ja) * | 2007-09-11 | 2009-04-02 | Prometech Software Inc | 粒子法シミュレーションのためのスライスデータ構造、およびスライスデータ構造を利用した粒子法シミュレーションのgpuへの実装方法 |
JP2010238030A (ja) * | 2009-03-31 | 2010-10-21 | Japan Agengy For Marine-Earth Science & Technology | 粒子シミュレーション装置及び粒子シミュレーション方法 |
US20110032255A1 (en) * | 2009-08-10 | 2011-02-10 | Dem Solutions Ltd | Method and apparatus for discrete element modeling with a virtual geometry object |
WO2012034176A1 (en) * | 2010-09-15 | 2012-03-22 | Commonwealth Scientific And Industrial Research Organisation | Discrete element method |
US20120259602A1 (en) * | 2011-04-08 | 2012-10-11 | Japan Agency For Marine-Earth Science And Technology | Particle simulator and method of simulating particles |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7952583B2 (en) * | 2000-06-19 | 2011-05-31 | Mental Images Gmbh | Quasi-monte carlo light transport simulation by efficient ray tracing |
JP5124845B2 (ja) | 2007-09-14 | 2013-01-23 | 本田技研工業株式会社 | 金属リング周長補正方法 |
CN101727653B (zh) * | 2008-10-31 | 2012-03-07 | 中国科学院过程工程研究所 | 一种基于图形处理器的多组分系统离散模拟计算方法 |
US9038088B2 (en) * | 2011-03-10 | 2015-05-19 | Nec Laboratories America, Inc. | Load balancing on hetrogenous processing cluster based on exceeded load imbalance factor threshold determined by total completion time of multiple processing phases |
US9760376B1 (en) * | 2016-02-01 | 2017-09-12 | Sas Institute Inc. | Compilation for node device GPU-based parallel processing |
-
2013
- 2013-05-22 US US14/415,377 patent/US10007742B2/en active Active
- 2013-05-22 GB GB1500658.8A patent/GB2523640B/en active Active
- 2013-05-22 JP JP2015521951A patent/JP6009075B2/ja active Active
- 2013-05-22 CN CN201310195595.6A patent/CN103324780B/zh active Active
- 2013-05-22 WO PCT/CN2013/076045 patent/WO2014094410A1/zh active Application Filing
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009069930A (ja) * | 2007-09-11 | 2009-04-02 | Prometech Software Inc | 粒子法シミュレーションのためのスライスデータ構造、およびスライスデータ構造を利用した粒子法シミュレーションのgpuへの実装方法 |
JP2010238030A (ja) * | 2009-03-31 | 2010-10-21 | Japan Agengy For Marine-Earth Science & Technology | 粒子シミュレーション装置及び粒子シミュレーション方法 |
US20110032255A1 (en) * | 2009-08-10 | 2011-02-10 | Dem Solutions Ltd | Method and apparatus for discrete element modeling with a virtual geometry object |
WO2012034176A1 (en) * | 2010-09-15 | 2012-03-22 | Commonwealth Scientific And Industrial Research Organisation | Discrete element method |
US20120259602A1 (en) * | 2011-04-08 | 2012-10-11 | Japan Agency For Marine-Earth Science And Technology | Particle simulator and method of simulating particles |
Non-Patent Citations (3)
Title |
---|
JPN6016005219; 都築 怜理 外3名: '複数ノードのGPUによる大規模パッシブスカラー粒子計算の強スケーリングと動的負荷分散' 情報処理学会研究報告 2011(平成23)年度▲6▼ [DVD-ROM] , 20120415, pp.1-10, 一般社団法人情報処理学会 * |
JPN6016005220; 白幡 晃一 外2名: 'GPUを考慮したMapReduceのタスクスケジューリング' 情報処理学会研究報告 平成22年度▲3▼ [CD-ROM] , 20101015, pp.1-8, 一般社団法人情報処理学会 * |
JPN6016005221; 原田 隆宏 外3名: '複数のGPUを用いた粒子法シミュレーションの並列化' 情報処理学会論文誌 論文誌ジャーナル Vol.49 No.12 【修正版】 [CD-ROM] 第49巻 第12号, 20081215, pp.4067-4079, 社団法人情報処理学会 * |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017091262A (ja) * | 2015-11-11 | 2017-05-25 | 富士通株式会社 | 粒子シミュレーションプログラム、粒子シミュレーション装置、及び計算機資源配分方法 |
KR20190048790A (ko) * | 2017-10-31 | 2019-05-09 | 한국과학기술원 | 공간 데이터를 분산 처리하는 시스템 및 방법 |
KR101980699B1 (ko) * | 2017-10-31 | 2019-05-22 | 한국과학기술원 | 공간 데이터를 분산 처리하는 시스템 및 방법 |
KR20200023954A (ko) * | 2018-08-27 | 2020-03-06 | 이에이트 주식회사 | 복수의 프로세서를 이용한 입자 기반의 유체 시뮬레이션 방법 및 유체 시뮬레이션 장치 |
KR102181989B1 (ko) * | 2018-08-27 | 2020-11-23 | 이에이트 주식회사 | 복수의 프로세서를 이용한 입자 기반의 유체 시뮬레이션 방법 및 유체 시뮬레이션 장치 |
JP2021009568A (ja) * | 2019-07-01 | 2021-01-28 | 富士通株式会社 | 情報処理装置、粒子シミュレーション方法および粒子シミュレーションシステム |
JP7244757B2 (ja) | 2019-07-01 | 2023-03-23 | 富士通株式会社 | 情報処理装置、粒子シミュレーション方法および粒子シミュレーションシステム |
US11892387B2 (en) | 2019-07-01 | 2024-02-06 | Fujitsu Limited | Information processing apparatus and method and system for particle simulation |
KR20210136327A (ko) * | 2020-05-07 | 2021-11-17 | 국방과학연구소 | 도심지 유동해석 방법 및 장치 |
KR102371345B1 (ko) * | 2020-05-07 | 2022-03-07 | 국방과학연구소 | 도심지 유동해석 방법 및 장치 |
Also Published As
Publication number | Publication date |
---|---|
JP6009075B2 (ja) | 2016-10-19 |
US10007742B2 (en) | 2018-06-26 |
CN103324780A (zh) | 2013-09-25 |
WO2014094410A1 (zh) | 2014-06-26 |
GB201500658D0 (en) | 2015-03-04 |
CN103324780B (zh) | 2016-03-16 |
GB2523640A (en) | 2015-09-02 |
GB2523640B (en) | 2020-05-27 |
US20150213163A1 (en) | 2015-07-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6009075B2 (ja) | 粒子流動のシミュレーションシステム及びその方法 | |
CN110706341B (zh) | 一种城市信息模型的高性能渲染方法、装置及存储介质 | |
US10262392B2 (en) | Distributed and parallelized visualization framework | |
JP5227103B2 (ja) | 近傍粒子探索に用いるデータ構造の構築方法、そのプログラム、およびそのプログラムを格納した記憶媒体 | |
Valero-Lara et al. | Accelerating fluid–solid simulations (Lattice-Boltzmann & Immersed-Boundary) on heterogeneous architectures | |
Hernandez et al. | Simulating and visualizing real-time crowds on GPU clusters | |
Bruckschen et al. | Real-time out-of-core visualization of particle traces | |
CN103345580A (zh) | 基于格子Boltzmann方法的并行CFD方法 | |
CN107016180A (zh) | 一种颗粒流动仿真方法 | |
Guan et al. | pRPL 2.0: Improving the parallel raster processing library | |
CN108701275A (zh) | 粒子模拟装置、粒子模拟方法以及粒子模拟程序 | |
Akkurt et al. | An efficient edge based data structure for the compressible Reynolds‐averaged Navier–Stokes equations on hybrid unstructured meshes | |
Kuester et al. | Visualization of particle traces in virtual environments | |
CN100492371C (zh) | 分布型cad装置 | |
Hung et al. | Automatic clustering method for real-time construction simulation | |
Chen et al. | Flexible and rapid animation of brittle fracture using the smoothed particle hydrodynamics formulation | |
Plimpton et al. | Rendezvous algorithms for large-scale modeling and simulation | |
CN113628318B (zh) | 一种基于光线追踪的分布式实时神经元渲染方法和系统 | |
CN112149287B (zh) | 一种面向负载均衡的交通仿真路网图形化分割方法及系统 | |
Yong et al. | GVM based intuitive simulation web application for collision detection | |
Pacevič et al. | Visualization of cracks by using the local Voronoi decompositions and distributed software | |
Fehling | Algorithms for massively parallel generic hp-adaptive finite element methods | |
Oh et al. | Practical simulation of hierarchical brittle fracture | |
Niebling et al. | Integrated simulation workflows in computer aided engineering on hpc resources | |
Fofanov et al. | Optimization of load balancing algorithms in parallel modeling of objects using a large number of grids |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20160216 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160516 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20160830 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20160913 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6009075 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |