JP4364650B2 - データ記憶システム - Google Patents
データ記憶システム Download PDFInfo
- Publication number
- JP4364650B2 JP4364650B2 JP2003580998A JP2003580998A JP4364650B2 JP 4364650 B2 JP4364650 B2 JP 4364650B2 JP 2003580998 A JP2003580998 A JP 2003580998A JP 2003580998 A JP2003580998 A JP 2003580998A JP 4364650 B2 JP4364650 B2 JP 4364650B2
- Authority
- JP
- Japan
- Prior art keywords
- director
- memory
- directors
- board
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F12/00—Accessing, addressing or allocating within memory systems or architectures
- G06F12/02—Addressing or allocation; Relocation
- G06F12/08—Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems
- G06F12/0802—Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches
- G06F12/0866—Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches for peripheral storage systems, e.g. disk cache
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F13/00—Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
- G06F13/38—Information transfer, e.g. on bus
- G06F13/40—Bus structure
- G06F13/4004—Coupling between buses
- G06F13/4022—Coupling between buses using switching circuits, e.g. switching matrix, connection or expansion network
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F12/00—Accessing, addressing or allocating within memory systems or architectures
- G06F12/02—Addressing or allocation; Relocation
- G06F12/08—Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems
- G06F12/0802—Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches
- G06F12/0806—Multiuser, multiprocessor or multiprocessing cache systems
- G06F12/084—Multiuser, multiprocessor or multiprocessing cache systems with a shared cache
Description
の一つが読み出し完了表示を検出すると、そのフロントエンドディレクタ14は、現在キャッシュメモリ18内に格納されている要求されたデータのホストコンピュータ/サーバ12への転送を完了する。
スがある。前記第1ディレクタの一対は、前記一対の論理ネットワークへの接続に適している。
本発明のもう一つの特徴によれば、システムインターフェースを介してホストコンピュータ/サーバとディスクドライブ群との間でデータを転送するためのデータ記憶システムが提供される。このシステムインターフェースは、前記ホストコンピュータ/サーバに接続された複数の第1ディレクタと、前記ディスクドライブ群に接続された複数の第2ディレクタと、キャッシュメモリとを備える。前記キャッシュメモリは、一対の冗長なデータ/制御ポートを有する共通メモリアレイと、それぞれ一方が前記一対のデータ/制御ポートの対応する一方に接続された一対の論理ネットワークとを有する。前記ディレクタのそれぞれとグローバルキャッシュメモリとの間に別々のポイントツーポイントデータパスがある。前記第2ディレクタの一対は、前記一対の論理ネットワークへの接続に適している。
本発明の更にもう一つの特徴によれば、システムインターフェースを介してホストコンピュータ/サーバとディスクドライブ群との間でデータを転送するためのデータ記憶システムが提供される。このシステムインターフェースは、前記ホストコンピュータ/サーバに接続された複数の第1ディレクタと、前記ディスクドライブ群に接続された複数の第2ディレクタと、キャッシュメモリとを備える。前記キャッシュメモリは、一対のメモリ基板を有し、このメモリ基板のそれぞれはメモリアレイを有する。前記ディレクタのそれぞれとグローバルキャッシュメモリとの間に別々のポイントツーポイントデータパスがある。前記第1ディレクタの一対は、前記一対のメモリ基板のメモリアレイへの接続に適している。
一つの実施態様において、前記メモリ基板のそれぞれは、一対の冗長なデータ/制御ポートを有する共通メモリアレイと、一対の論理ネットワークとを有し、前記一対の論理ネットワークのそれぞれ一方は、前記一対のデータ/制御ポートの対応するいずれか一方に接続される。前記プリント回路基板は、ジャンパーでの接続を行うように配線されて、前記第1ディレクタの一対を前記一対の論理ネットワークに接続可能にすると共に、前記第2ディレクタの一対を前記一対の論理ネットワークに接続可能にする。
図2はデータ記憶システム100を示し、このデータ記憶システム100は、システムインターフェース160を介して、ホストコンピュータ/サーバ120とディスクドライブ群140の間でデータを転送する。システムインターフェース160は、図示されたように、ポート1231〜12332を介してホストコンピュータ/サーバ120に接続された複数のフロントエンドディレクタ1801〜18032と、ポート12333〜12364を介してディスクドライバ群140に接続された複数のバックエンドディレクタ2001〜20032と、複数のフロントエンドディレクタ1801〜18016とバックエンドディレクタ2001〜20016に接続された、グローバルキャッシュメモリ220を有するデータ転送部240と、複数のフロントエンドディレクタ1801〜18032と複数のバックエンドディレクタ2001〜20032に接続された、データ転送部240とは独立して動作するメッセージネットワーク260とを備えている。フロントエンドディレクタ1801〜18032とバックエンドディレクタ2001〜20032は機能的には類似しており、以下の審査中の特許出願の中で詳細に説明されている、マイクロプロセッサ(μP)299(即ち、中央処理装置(CPU)とRAM)と、メッセージエンジン/CPUコントローラ314と、データパイプ316とを備えている。
階の間に決定される。そのマップはグローバルキャッシュメモリ220内に格納される。従って、フロントエンドディレクタ1801〜18032は、グローバルキャッシュメモリ220にデータ要求を行い、要求されたデータがグローバルキャッシュメモリ内に無い(即ち、ミス)と判断したときは、そのフロントエンドディレクタ1801〜18032はまた、グローバルキャッシュメモリ220内のマップによって、ディスクドライブ群140内の、要求されたデータに対して責任のあるバックエンドディレクタ2001〜20032について知らされる。要求フロントエンドディレクタ1801〜18032はそれから、マップ指定されたバックエンドディレクタ2001〜20032に、ディスクドライブ群140内のデータを要求しなければならない。そのフロントエンドディレクタ1801〜18032と、バックエンドディレクタ2001〜20032の中の適当な一つ(グローバルキャッシュメモリ200内に格納されたマップによって決定される)との間のこの要求は、そのフロントエンドディレクタ1801〜18032からメッセージネットワーク260を経由してその適当なバックエンドディレクタ2001〜20032に至るメッセージによる。この場合、注目すべきは、メッセージは、グローバルキャッシュメモリ220を経由せずに(即ち、データ転送部240を経由せずに)、むしろ別の独立メッセージネットワーク260を経由するということである。このように、ディレクタ1801〜18032,2001〜20032間の通信は、メッセージネットワーク260を介して行われ、グローバルキャッシュメモリ220を介して行われない。従って、グローバルキャッシュメモリ220の貴重な帯域幅は、ディレクタ1801〜18032,2001〜20032間のメッセージ伝送のために使用されない。
データを要求する一方、肯定応答信号が、要求ホストコンピュータプロセッサ1211、あるいは、一つまたはそれ以上の他のホストコンピュータプロセッサ1211〜12132に、メッセージネットワーク260を通じて、マルチキャストメッセージ(即ち、一連のユニキャストメッセージ)を介して送られ、データ読み出し動作が完了する。
つのメモリ側入出力ポートを備えている。スイッチ406Xのディレクタ側ポートC1〜C4は、図示したように、また、上で参照した審査中の特許出願の中でもっと詳しく説明されているように、ディレクタ基板上の4つのディレクタに接続されている。同様に、スイッチ406Yのディレクタ側ポートC1〜C4もまた、図示したように、その基板上のデュアルポートディレクタに接続されている。このように、上で参照した審査中の特許出願の中で説明されているように、各ディレクタはデュアルポートディレクタである。
も持っている)。また、図2と図5を参照すれば以下の表のようになる。
D2とDD
D3とDC
D9とD6
D8とD7
バックエンド基板:
D0とDF
D2とDE
DBとD4
DAとD5
また、図5において、グローバルキャッシュメモリ220は、図示されたように、複数、ここでは8枚のキャッシュメモリ基板M0〜M7を備えている。更にまた、図6にキャッシュメモリ基板の代表的な一つを示す。ここで、各キャッシュメモリ基板は4つのメモリアレイ領域1〜4を有しており、その代表的な一つが、米国特許No.5,943,287「名称:故障許容メモリシステム(Fault Tolerant Memory System)、発明者:Joh n K. Walton、発行日:1999年8月24日、譲渡:本発明と同じ非譲渡人に譲渡」の
図6との関連で示され、説明されており、この特許の主題全体はここに参照の形で含まれている。キャッシュメモリ基板の代表的な一つの更なる詳細が、上で参照された審査中の特許出願の中で説明されている。
上記表Iから注目されることは、各ドメインのスイッチ(即ち、論理ネットワークA1,A2,B1,B2)のそれぞれは、一対のフロントエンドディレクタ基板と一対のバックエンドディレクタ基板に接続されるということである。例えば、論理ネットワーク2211A(即ち、論理ネットワークA1)に対しては、そのポートの二つP0とP2がフロントエンドディレクタ基板の一つに接続され、そのポートの他の二つP1とP3がバックエンドディレクタ基板の一つに接続される。図6Aを参照のこと。この機構は、論理ネットワークのいずれの一つについても負荷をバランスさせているので、システムの帯域幅を増やすことができる。
レクタ1801,1803,1805,1807、フロントエンドディレクタ1802,1804,1806,1808、フロントエンドディレクタ1809,18011,18013,18015、フロントエンドディレクタ18010,18012,18014,18016、フロントエンドディレクタ18017,18019,18021,18023、フロントエンドディレクタ18018,18020,18022,18024、フロントエンドディレクタ18025,18027,18029,18031、フロントエンドディレクタ18018,18020,18022,18024を有している。従って、ここでは、バックエンドディレクタ基板2101〜2108はその上にそれぞれ、バックエンドディレクタ2001,2003,2005,2007、バックエンドディレクタ2002,2004,2006,2008、バックエンドディレクタ2009,20011,20013,20015、バックエンドディレクタ20010,20012,20014,20016、バックエンドディレクタ20017,20019,20021,20023、バックエンドディレクタ20018,20020,20022,20024、バックエンドディレクタ20025,20027,20029,20031、バックエンドディレクタ20018,20020,20022,20024を有している。このことは上記二つの表に示されている。
ディレクタ1802を介して、メモリM0のドメインB論理を通じてアクセス可能である。従って、もっと一般的に言えば、各メモリは、一対のディレクタの一方にとってはドメインの一つを介してアクセス可能であり、その一対のディレクタのもう一方にとっては他のドメインを介してアクセス可能である。また、注目すべきは、各ディレクタは一対のメモリ基板にアクセスできるということである。この後者の機構は二重書き込み能力を可能にする。即ち、一つのディレクタ内のデータを複数のメモリ基板に書き込むことができる。即ち、図示の機構により、ディレクタは同じデータを二つの異なるメモリに書き込むことができる。従って、例えば、基板D2上のディレクタ1801は、基板D2上のスイッチ406Xを介して、メモリM0にデータを書き込むことができると共に、基板D2上のスイッチ406Yを介して、メモリM0の対のメモリM1に同じデータを書き込むことができる。これは、ポイントツーポイントメモリ/ディレクタ接続機構による二重書き込み機能である。
バックプレーンを介してのディレクタ基板とメモリ基板のポートへの接続を上記表I と表IIに示す。
,D6,D8,D7,DB,D4,DA,D5によって占められたバックプレーン302のスロットは、図11に示すダミーディレクタ基板によって置き換えられる。ジャンパーはJで示され、ここでは8つのジャンパーJ1〜J8が、図12に示すようにディレクタ基板D9,D6,D8,D7,DB,D4,DA,D5の代わりに使用されるダミーディレクタ基板のそれぞれに対して、ディレクタ基板ポート対を接続するために使用される。図11に示すように、ディレクタ基板D9,D6,DB,D4に対するジャンパー接続は、P0からP7と、P1からP6と、P2からP5と、P3からP4とであり、ディレクタ基板D8,DA,D7,D5に対するジャンパー接続は、P0からP5と、P1からP4と、P2からP7と、P3からP6とである。
注目すべきは、図7に詳しく示された完全ポピュレイテドシステムの冗長機能と二重書き込み機能は、デポピュレイテドシステム、ここでは4つのメモリ基板と8つのディレクタ基板だけを備えたシステムにおいて保持される機能であるということである。また、注目すべきは、このデポピュレイテドシステムにおいて、メモリ基板上の各論理ネットワークは、上記表III と表IVに示されるように、一対のフロントエンドディレクタと一対のバックエンドディレクタに接続されるということである。
最初に注目すべきは、図10に示すように、すべてのダミー(ジャンパー)メモリ基板は、同じジャンパー機構を有するということである。次に図11から注目されることは、ディレクタ基板D9,DB,D6,D4に対して使用されるジャンパー機構は同一であるということである。ここで、そのディレクタ基板D9,DB,D6,D4のすべては、以下にタイプAと呼ばれる構成のジャンパー機構を有している。また、ディレクタ基板D8,DA,D7,D5に対するジャンパー機構は同一である。ここで、そのディレクタ基板D8,DA,D7,D5のすべては、以下にタイプBと呼ばれる構成のジャンパー機構を有している。
Claims (4)
- システムインターフェースを介してホストコンピュータ/サーバとディスクドライブ群との間でデータを転送するためのデータ記憶システムであって、前記システムインターフェースが、複数の第1ディレクタと、複数の第2ディレクタと、グローバルメモリとを有するシステムにおいて、
前記第1ディレクタを有する複数の第1ディレクタ基板と、
前記第2ディレクタを有する複数の第2ディレクタ基板と、
前記グローバルメモリを提供する複数のメモリプリント回路基板と、
前記メモリプリント回路基板の各々は、一対の冗長なデータ/制御ポートを有する共通メモリアレイと、一対の論理ネットワークとを有し、前記一対の論理ネットワークのそれぞれ一方は、前記一対のデータ/制御ポートの対応するいずれか一方に接続されることと、
第1ジャンパーを有する複数のダミー第1ディレクタ基板と、
第2ジャンパーを有する複数のダミー第2ディレクタ基板と、
第3ジャンパーを有する複数のダミーメモリ基板とからなる、複数のプリント回路基板をプラグ接続するのに適したスロットを有するバックプレーンを備え、
前記第1ディレクタ基板、前記第2ディレクタ基板、およびメモリプリント回路基板がそれぞれ、前記ダミー第1ディレクタ基板、前記ダミー第2ディレクタ基板、および前記ダミーメモリ基板によって置き換えられたときには、前記第1ジャンパー、第2ジャンパー、および第3ジャンパーはそれぞれ、前記複数の第1ディレクタ基板を前記ホストコンピュータ/サーバに、前記複数の第2ディレクタ基板を前記ディスクドライブ群に、及び、前記グローバルメモリを前記複数の第1ディレクタ基板及び第2ディレクタ基板に接続するために使用されることによって、前記第1ディレクタのうちの一対および前記第2ディレクタのうちの一対が冗長性を有する方式にて前記一対の論理ネットワークに接続されている、データ記憶システム。 - 前記第1ディレクタ基板は前記第1のジャンパーによって接続されることで、前記第1ディレクタのうちの1つを前記1対のメモリプリント回路基板のメモリアレイに接続するために配線されている、請求項1に記載のシステム。
- 複数の前記ディレクタのそれぞれは異なるプリント回路基板にあり、前記バックプレーンは前記一対の論理ネットワークのそれぞれを、前記第1ディレクタのうちの1つと前記第2ディレクタのうちの1つとに接続すべく前記第3ジャンパーによって配線及び接続されている、請求項2に記載のシステム。
- 前記バックプレーンの前記スロットに前記ダミー基板が挿入されることによって前記複数のプリント回路基板の間を接続する、前記ダミー基板上のジャンパーは、前記ディレクタのそれぞれと前記グローバルメモリとの間で別々のポイントツーポイントデータパスを設ける、請求項3に記載のシステム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US10/112,598 US6877061B2 (en) | 2000-03-31 | 2002-03-28 | Data storage system having dummy printed circuit boards |
US10/109,583 US6907483B1 (en) | 2002-03-28 | 2002-03-28 | Data storage system having dummy printed circuit boards with jumpers |
PCT/US2003/009112 WO2003083638A2 (en) | 2002-03-28 | 2003-03-25 | Data storage system |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2005528675A JP2005528675A (ja) | 2005-09-22 |
JP4364650B2 true JP4364650B2 (ja) | 2009-11-18 |
Family
ID=28677843
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003580998A Expired - Lifetime JP4364650B2 (ja) | 2002-03-28 | 2003-03-25 | データ記憶システム |
Country Status (3)
Country | Link |
---|---|
EP (1) | EP1488315A2 (ja) |
JP (1) | JP4364650B2 (ja) |
WO (1) | WO2003083638A2 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
IL156055A0 (en) | 2000-11-30 | 2003-12-23 | Teva Pharma | Novel crystal forms of atorvastatin hemi calcium and processes for their preparation as well as novel processes for preparing other forms |
GB2412205B (en) * | 2004-02-10 | 2006-02-15 | Hitachi Ltd | Storage system |
WO2008149459A1 (ja) * | 2007-06-08 | 2008-12-11 | Fujitsu Limited | ストレージ装置および制御方法 |
US20140149785A1 (en) * | 2011-10-25 | 2014-05-29 | M. Scott Bunker | Distributed management |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE1130482B (de) * | 1961-03-07 | 1962-05-30 | Standard Elektrik Lorenz Ag | Zwischenleitungsanordnung fuer die Koppelblocks zweier oder mehrerer Koppelstufen inFernmelde-, insbesondere Fernsprechvermittlungsanlagen |
US4575780A (en) * | 1984-04-03 | 1986-03-11 | Northern Telecom Limited | Backpanel assemblies |
GB9117745D0 (en) * | 1991-08-15 | 1991-10-02 | Bicc Plc | Circuit board connector |
US7010575B1 (en) * | 2000-03-31 | 2006-03-07 | Emc Corporation | Data storage system having separate data transfer section and message network having bus arbitration |
-
2003
- 2003-03-25 JP JP2003580998A patent/JP4364650B2/ja not_active Expired - Lifetime
- 2003-03-25 EP EP03714385A patent/EP1488315A2/en not_active Withdrawn
- 2003-03-25 WO PCT/US2003/009112 patent/WO2003083638A2/en active Application Filing
Also Published As
Publication number | Publication date |
---|---|
JP2005528675A (ja) | 2005-09-22 |
EP1488315A2 (en) | 2004-12-22 |
WO2003083638A3 (en) | 2004-06-17 |
WO2003083638A2 (en) | 2003-10-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US6957285B2 (en) | Data storage system | |
US9037671B2 (en) | System and method for simple scale-out storage clusters | |
US7581060B2 (en) | Storage device control apparatus and control method for the storage device control apparatus | |
JP4413184B2 (ja) | データストレージシステム及びデータストレージ制御装置 | |
EP1695221B1 (en) | Data transferring method | |
US20050071546A1 (en) | Systems and methods for improving flexibility in scaling of a storage system | |
US6877061B2 (en) | Data storage system having dummy printed circuit boards | |
JP2007080282A (ja) | 改善されたネットワーク・インタフェースを有するデータ記憶システム | |
US7260681B2 (en) | Stripe buffer list | |
EP2517110A2 (en) | Configurable interconnection system | |
US11157204B2 (en) | Method of NVMe over fabric RAID implementation for read command execution | |
US20140223097A1 (en) | Data storage system and data storage control device | |
US7117305B1 (en) | Data storage system having cache memory manager | |
JP2003050751A (ja) | 電子装置のバックプレーンを接続する方法及びその装置 | |
JP4364650B2 (ja) | データ記憶システム | |
US20030135692A1 (en) | Method and system for configuring RAID subsystems with block I/O commands and block I/O path | |
US6907483B1 (en) | Data storage system having dummy printed circuit boards with jumpers | |
US6934158B1 (en) | Disk drive system for a data storage system | |
US6914784B1 (en) | Data storage system cabinet | |
US7099980B1 (en) | Data storage system having port disable mechanism | |
US6418511B1 (en) | Large capacity data storage systems using redundant buses | |
US7454536B1 (en) | Data system having a virtual queue | |
US6880032B1 (en) | Data storage system having concurrent ESCON channels | |
JP2006209549A (ja) | データストレージシステム及びデータストレージ制御装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20061026 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20061205 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20070305 |
|
A602 | Written permission of extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A602 Effective date: 20070322 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070605 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080422 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20080722 |
|
A602 | Written permission of extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A602 Effective date: 20080729 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20081022 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090728 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090819 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120828 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 Ref document number: 4364650 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120828 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130828 Year of fee payment: 4 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
EXPY | Cancellation because of completion of term |