JP5992577B2 - メモリ、データ処理方法、及びメモリシステム - Google Patents

メモリ、データ処理方法、及びメモリシステム Download PDF

Info

Publication number
JP5992577B2
JP5992577B2 JP2015116456A JP2015116456A JP5992577B2 JP 5992577 B2 JP5992577 B2 JP 5992577B2 JP 2015116456 A JP2015116456 A JP 2015116456A JP 2015116456 A JP2015116456 A JP 2015116456A JP 5992577 B2 JP5992577 B2 JP 5992577B2
Authority
JP
Japan
Prior art keywords
memory
key
kvs
value
address
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2015116456A
Other languages
English (en)
Other versions
JP2015181043A (ja
Inventor
敦寛 木下
敦寛 木下
孝生 丸亀
孝生 丸亀
光介 辰村
光介 辰村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2015116456A priority Critical patent/JP5992577B2/ja
Publication of JP2015181043A publication Critical patent/JP2015181043A/ja
Application granted granted Critical
Publication of JP5992577B2 publication Critical patent/JP5992577B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

本発明の実施形態は、ホストシステムによりアクセスされる、メモリ、データ処理方法、及びメモリシステムに関する。
近年のメモリシステムを備えた一般のコンピュータシステムでは、多くのデータ操作、特に、データ集合を取り扱う操作が頻発している。例えば、全文検索システム等で、AとBの二つのキーワードを含むデータを探し出したいといった操作は、Aを含むデータの集合とBを含むデータの集合との積集合を求めることに他ならない。
一般のコンピュータシステムにおいて、最も広く用いられているのは、データをアドレスによって管理するメモリシステムである。このようなデータの取り扱いだと、データとアドレスを1対1で管理することになり、先のようなデータ集合を扱うためには、一般に複雑なアルゴリズムに基づいたソフトウェア処理が必須となる。
一方で、データをアドレスではなく、その内容そのもので管理するメモリシステムも存在する。ところが、これらは特殊用途に用いられることはあっても、コストや既存システムとの互換性などの観点から、一般のコンピュータシステムに用いられることはまれであった。
従来のコンピュータシステムでは、データ集合の演算を行おうとした場合、そのメモリシステム上の制約から、複雑なソフトウェア処理が必要となり、性能の劣化や取扱いにくさといった課題があった。
特開2005−209214号公報 特許第4167359号
全文検索システム等で多発する集合演算に係るシステム負荷を著しく低減でき、さらに集合演算を高速に行うことが可能なメモリ、データ処理方法、及びメモリシステムを提供する。
一実施態様のメモリは、データと、keyと前記keyに対応するvalueが格納される第1のメモリと、前記keyと前記valueが格納される第2のメモリと、前記第1のメモリ及び前記第2のメモリを制御する制御回路と、前記制御回路と前記第1のメモリとの間に接続されたメモリコントローラとを具備する。前記メモリコントローラはダイレクトメモリアクセス(DMA)回路を有し、前記ダイレクトメモリアクセス回路は、前記制御回路を介さずに前記第1のメモリと前記第2のメモリを制御する。前記keyと前記valueは、第1のアドレスと、第1key及び前記第1keyに対応する第1valueとを有し、前記第1key及び前記第1valueは前記第1のアドレスに記憶され、第2のアドレスは前記第1valueに記憶され、前記第2のアドレスにより指定された前記第1のメモリ内の記憶場所を参照することにより、第2valueを得る
実施形態に用いられるKVSメモリの第1構成例を示す図である。 実施形態に用いられるKVSメモリの第2構成例を示す図である。 第1実施形態のメモリシステムのハードウェア構成を示すブロック図である。 第1実施形態のメインメモリにおけるデータ領域の構成例を示す図である。 第1実施形態におけるAND演算の動作を示すフローチャートである。 第1実施形態におけるOR演算の動作を示すフローチャートである。 第1実施形態におけるNOT演算の動作を示すフローチャートである。 第1実施形態における変形例1のメモリシステムのハードウェア構成を示すブロック図である。 第1実施形態における変形例2のメモリシステムのハードウェア構成を示すブロック図である。 第1実施形態における変形例3のメモリシステムのハードウェア構成を示すブロック図である。 第2実施形態のメモリシステムのハードウェア構成を示すブロック図である。 第2実施形態における変形例1のメモリシステムのハードウェア構成を示すブロック図である。 第2実施形態における変形例2のメモリシステムのハードウェア構成を示すブロック図である。
以下の説明において、同一の機能及び構成を有する構成要素については、同一符号を付し、重複説明は必要な場合にのみ行う。
本実施形態に係る、集合演算が可能なメモリシステム(検索メモリ)は、少なくとも1つのkey-valueストア機能(以下、KVSと記す)を有するメモリを備えている。KVSとは、キー(key)と値(value)の組を書き込み、キーを指定することで値を読み出せるデータベース管理方式のことを意味する。KVSでは、データはkeyとkeyに対応するvalueの組であるkey-value型データとして管理され、検索要求としてkeyが与えられると、それに対応付けられていたvalueを出力することが可能である。ここでは、このようなKVSを有するメモリを、以降、KVSメモリと記す。
以下に、KVSメモリ及びその命令について詳しく説明する。
KVSメモリは通常のメモリアクセスの命令に加え、少なくともGET、PUT、DELETEなどのKVS命令を備えたメモリであり、各命令の意味は次の通りである。
(1)GET(key, value):要素(value)が指定されなかった(NULL)場合は、keyに対応するデータ集合を得る。要素(value)が指定された場合は、データ集合の中にvalueが存在したらvalueそのもの、あるいはTRUEを返す。データ集合の中にvalueが存在しなかったら、空集合(NULL)あるいはFALSEを返す。keyに対応するデータ集合が無い場合も、空集合(NULL)あるいはFALSEを返す。
(2)PUT(key, value):keyに対応するデータ集合に要素(value)を追加する。要素がデータ集合中に既に存在する場合は何もしない。
(3)DELETE(key, value):keyに対応するデータ集合から要素(value)を削除する。要素がデータ集合中に存在しなければ何もしない。
以下に、KVSメモリの具体的な構成例と動作例を示す。
図1は、実施形態に用いられるKVSメモリの第1構成例を示す図である。
図示するように、KVSメモリ14には、例えば、メモリコントローラ13及びハッシュ生成器16が接続されている。さらに、メモリコントローラ13には、上位システム100が接続されている。ハッシュ生成器16は、任意長のデータを固定長のビット列に変換する、いわゆるハッシュ関数の機能を持つ。上位システム100は、例えば、中央演算処理装置(CPU)及びメインメモリ等を備えたホストシステムである。
KVSメモリ14には、例えばDRAM等の汎用メモリが用いられる。KVSメモリ14は、少なくともハッシュテーブル領域14Aと実データ領域14Bの2つの記憶領域に分けられる。これらの記憶領域は複数持つことができるが、ハッシュテーブル領域14Aのサイズは、ハッシュ生成器16が生成するハッシュ値(固定長ビットデータ)が表現できるサイズよりも大きい。ハッシュテーブル領域14Aは、keyの実アドレスを記憶できる領域とvalueの実アドレスを記憶できる領域とに分けられる。ハッシュテーブル領域14Aの記憶容量は、固定されているわけではなく、key-valueストアに基づく要求に応じて可変(拡張あるいは縮小)することができる。また、実データ領域14Bにはデータが記憶される。
メモリコントローラ13は、上位システム100から受け取ったKVS命令を解釈し、KVSメモリ14及びハッシュ生成器16に対して、次に述べるような動作を行う。
いま、animalというkeyがKVSメモリ14中にまだ存在しない場合を考える。ここで、PUT(animal, dog)、PUT(animal, cat)という命令をメモリコントローラ13が順に受け取ると、ハッシュ生成器16によって、animal、dog、catのそれぞれに対応するハッシュ値が生成される。これらが順に、158、98、188という固定長のビット列だったとする。
ここで、ハッシュテーブル領域14A中のハッシュ値に対応するアドレスの内容が調べられ、animalというkeyが既にストアされているかどうかを調べる。ここではまだ存在していないため(値が0なので)、それぞれの実データを記憶するための領域が確保され(1020, 1055, 1090)、これらの先頭アドレスがハッシュテーブル領域14Aのkey領域に記憶される。確保された領域(1020, 1055, 1090)には、animal、dog、cat等の実データが記憶される。
さらに、animalというkeyとデータ集合{dog, cat}とを関連付けるため、実データ領域14Bに各要素用の領域を確保し、その先頭アドレス(1100)をハッシュテーブル領域14Aのanimalに相当するvalue領域に書き込む。そして、各要素の先頭アドレスを書き並べたもの(1055, 1090)が実データ領域14B中に記憶される。
これで、KVSメモリ14内にanimalというkeyに対応するデータ集合{dog, cat}が作られたことになる。図1には、このときのKVSメモリ14内の状態が示されている。
次に、GET(animal, NULL)という命令をメモリコントローラ13が受け取ったとすると、ハッシュテーブル領域14Aのanimalのハッシュ値であるアドレス(0158)に書かれたvalue領域(1100)の中身(要素の実データの先頭アドレス)から実データが読み出される。すなわち{dog, cat}が上位システム100に出力される。
もしここで、命令がGET(animal, dog)である場合は、メモリコントローラ13は各要素を出力せずに、第二引数であるdogと一致する要素があったときだけ、dogまたはTRUEを上位システム100に出力する。また、命令がGET(animal, lion)である場合は、一致する要素がないため、NULLまたはFALSEを上位システム100に出力する。
さらに、DELETE(animal, dog)という命令をメモリコントローラ13が受け取ると、animalに対応するデータ集合よりdogが削除される。具体的には、アドレス(1100)から始まる各要素が調べられ、dogを除いた残り(1090)が値として書き込まれる。あるいは、このとき、新たに実データ領域14B中に確保されたメモリ領域にdogを除いた要素を順に書き出して行き、最後にハッシュテーブル領域14Aのanimalのvalue領域を書き換え、元のアドレス(1100)を開放する、というやり方もある。
なお、DELETEの際、dogの要素そのものがanimal以外の集合に属していない場合に、dogという要素が使用しているメモリを開放する(ガベージコレクション)という動作が伴う場合がある。
ここで、命令がGET(animal, NULL)である場合、{cat}が上位システム100に返される。さらに、命令がDELETE(animal, cat)である場合、ハッシュテーブル領域14A内のanimalのkey領域、value領域が開放され、animalというkeyに対応するデータ集合は無くなる。すなわち、命令がGET(animal, NULL)である場合、空集合(NULL)が上位システム100に返される。
また、KVSメモリの構成例としては上記のほかにもいくつかの実現方法がある。具体的には、図1に示した構成において、ハッシュテーブル領域14Aを連想メモリ(CAM:Content-Addressable Memory)を用いて構成する方法を以下に説明する。
図2は、実施形態に用いられるKVSメモリの第2構成例を示す図である。
本構成例は,KVSメモリとしてのCAM−RAM142と、上位システム100から入力されたKVS命令を解釈し、CAM−RAM142及び他のモジュールを制御するメモリコントローラ13とを備える。
CAM−RAM142は、テーブル領域としてのCAM部142Aと、データ領域としてのRAM(random access memory)部142Bとを有する。RAM部142Bには、DRAMやNAND型フラッシュメモリなどの汎用メモリを用いることができる。連想メモリ(CAM部)にはいくつか種類があるが、ここではCAM部142Aに、アドレスを介した通常の読み書きに加え、入力されたデータ(key)がCAM中に含まれていた場合に固定長のデータ(value)を返す種類のCAMを用いる。すなわち、CAM部142Aは、データ(key)の入力に対して、そのデータと全ての格納データとの一致・不一致の比較演算を同時並列に行い、一致した格納データのvalueを出力する機能を持つ。
CAM−RAMとは、コンテンツ連想メモリ(CAM)でアドレスを出力させ、アドレス指定アクセスのRAMでデータを出力させるように組み合わせたシステムである。CAM−RAMでは、ハッシュ値を介さずに、keyとvalueを直接読み書きできるため、図1に示した構成例と比べてハッシュ生成器16が不要となる。
次に、第2構成例でのKVS命令の動作について説明する。
いま、animal、dog、catというkeyがCAM部142Aにまだ存在しない場合を考える。ここで、PUT(animal, dog)、PUT(animal, cat)という命令をメモリコントローラ13が順に受け取ると、keyがCAM部142Aに既にストアされているかどうかを調べる。ここではまだ存在していないため、それぞれのkeyをCAM部142Aにストアする。そして、CAM部中の各要素(dog, cat)のvalue(ここでは先頭アドレスの1055, 1090)をRAM部142Bに記憶領域を確保して、集合としてストアする。さらに、この集合の先頭アドレス(1100)をCAM部142Aのkey(animal)のvalueとしてストアする。
このとき、前記の集合はCAM部中にストアすることもできるが、一般にCAMはRAMに比べてビットあたりのコストが高いため、上記のような実現方法を用いたほうがよい。図2には、このときのCAM−RAM142内の状態が示されている。
次に、GET(animal, NULL)という命令をメモリコントローラ13が受け取ったとすると、CAM部142Aのanimal(key)に対するvalueである1100をRAM部142Bのアドレスと読み替えたときに、集合{1055, 1090}が読み出せ、さらに集合{1055, 1090}をCAM部142Aのアドレスとして読み替えたkey領域、すなわち{dog, cat}が上位システム100に出力される。
もしここで、命令がGET(animal, dog)である場合、メモリコントローラ13は各要素を出力せずに,第二引数であるdogと一致する要素があったときだけ、dogまたはTRUEを上位システム100に出力する。また、命令がGET(animal, lion)である場合は、一致する要素がないため、NULLまたはFALSEを上位システム100に出力する。
さらに、DELETE(animal, dog)という命令をメモリコントローラ13が受け取ると,animalに対応するデータ集合よりdogが削除される.具体的には、アドレス(1100)から始まる各要素が調べられ、dogを除いた残り(1090)が値として書き込まれる。あるいは、このとき、新たにRAM部中に確保されたメモリ領域にdogを除いた要素を順に書き出して行き、最後にCAM部142Aのanimalのvalue領域を書き換え、元のアドレス(1100)を開放する、というやり方もある。
なお、DELETEの際、dogの要素そのものがanimal以外の集合に属していない場合に、dogという要素が使用しているメモリを開放する(ガベージコレクション)という動作が伴う場合がある。
ここで、命令がGET(animal, NULL)である場合、{cat}が上位システム100に返される。さらに、命令がDELETE(animal, cat)である場合、CAM部142A内のanimalのkey領域、 value領域が開放され、animalというkeyに対応するデータ集合は無くなる。すなわち、GET(animal, NULL)の場合、空集合(NULL)が上位システム100に返される。
[第1実施形態]
[1]ハードウェア構成
まず、第1実施形態のメモリシステムのハードウェア構成について説明する。
図3は、第1実施形態のメモリシステムのハードウェア構成を示すブロック図である。
図示するように、メモリシステムは、CPU11、メインメモリ12、メモリコントローラ13、及びKVSメモリ14を備える。さらに、CPU11、メインメモリ12、及びメモリコントローラ13の間は、バス15にて接続されている。
CPU11は、メインメモリ12、メモリコントローラ13、及びKVSメモリ14を制御し、後述する集合演算を行う。メモリコントローラ13は、KVSメモリ14及びその他のメモリ(図示しない)を制御する。メモリコントローラ13は、ダイレクトメモリアクセス(DMA:Direct Memory Access)機能を持つ回路を有する。DMA機能を用いれば、メモリコントローラ13とメインメモリ12との間のデータ転送を、CPU11を介さずに、直接制御することができる。
KVSメモリ14は、図1または図2に示したようなデータ領域を格納している。KVSメモリ14の構成及び動作は、図1または図2を用いて説明した通りであり、その説明は省略する。
また、図4はメインメモリ12におけるデータ領域の構成例を示す。CPU11とメインメモリ12は、key-valueストア(KVS)を有するメモリを構成する。例えば、CPU11がハッシュ値を生成する機能を有する場合、図4に示すように、メインメモリ12はハッシュテーブル領域12Aと実データ領域12Bとを有する。また、メインメモリ12は、主記憶としてデータや命令コードを記憶する。
[2]集合演算
次に、第1実施形態のメモリシステムにおける集合演算について説明する。
いま、KVSメモリ14中に、animal = {dog, tuna, cat}と、fish = {porgy, tuna, salmon}という2つのデータ集合がストアされていたとする。以下に、AND演算、OR演算、及びNOT演算の動作を述べる。
(1)AND演算
図5は、第1実施形態におけるAND演算の動作を示すフローチャートである。
具体的な例として、animal AND fishという演算を行う場合の処理を示す。まず、CPU11はメモリコントローラ13を介してKVSメモリ14に対して、GET(animal, NULL)という命令を発行する(ステップS1)。続いて、CPU11は、GET(animal, NULL)の命令に対して、KVSメモリ14から出力されたデータ集合を前述したKVS命令の動作と同様に(ハッシュ関数等をソフトウェア的に処理して)、answer集合としてメインメモリ12に記憶させる。すなわち、CPU11はメインメモリ12に対して、PUT(answer, dog)、PUT(answer, tuna)、PUT(answer, cat)という命令を発行する。この結果、answer = {dog, tuna, cat}という集合がメインメモリ12に記憶される(ステップS2)。これにより、メインメモリ12はkey-value型データを有するメモリとして機能する。すなわち、メインメモリ12には、keyとしてのanswerとvalueとしての{dog, tuna, cat}のペアが記憶される。
次に、CPU11は、メインメモリ12中のanswer集合の中の各要素が、KVSメモリ14内のfish集合の中に存在するかどうか調べる。最初は、CPU11がKVSメモリ14に対して、GET(fish, dog)という命令を発行する(ステップS3)。この返り値はFALSEであるため、CPU11はメインメモリ12中のanswer集合の中の要素dogを削除する。すなわち、CPU11はメインメモリ12に対して、DELETE(answer, dog)の命令を発行する(ステップS4)。
続いて、CPU11は、メインメモリ12中のanswer集合の中の全ての要素の処理が終了したかを判定する(ステップS5)。ここでは、answer集合の中の全ての要素の処理が終了していないため、ステップS3に戻り、ステップS3以降の処理を繰り返す。
CPU11は、KVSメモリ14中のfish集合の中からtunaを探す。すなわち、CPU11はKVSメモリ14に対して、GET(fish, tuna)という命令を発行する(ステップS3)。すると、この返り値はTRUEであるため、次に進む。
catについても同様に、CPU11はKVSメモリ14中のfish集合の中からcatを探す。すなわち、CPU11はKVSメモリ14に対して、GET(fish, cat)という命令を発行する(ステップS3)。すると、この返り値はFALSEであるため、CPU11はメインメモリ12中のanswer集合の中の要素catを削除する。すなわち、CPU11はメインメモリ12に対して、DELETE(answer, cat)の命令を発行する(ステップS4)。
ステップS5において、answer集合の中の全ての要素の処理が終了すると、結果として、メインメモリ12中のanswer集合はanswer = {tuna}となり、AND演算の解となる(ステップS6)。
なお、answerと別の名前の解集合を用意すれば、同時に複数のAND演算を行うことも可能である。
(2)OR演算
図6は、第1実施形態におけるOR演算の動作を示すフローチャートである。
具体的な例として、animal OR fishという演算を行う場合の処理を示す。まず、CPU11はメモリコントローラ13を介してKVSメモリ14に対して、GET(animal, NULL)という命令を発行する(ステップS11)。続いて、GET(animal, NULL)の命令に対して、KVSメモリ14から出力されたデータ集合を、CPU11はanswer集合としてメインメモリ12に記憶させる。すなわち、CPU11はメインメモリ12に対して、PUT(answer, dog)、PUT(answer, tuna)、PUT(answer, cat)という命令を発行する。この結果、answer = {dog, tuna, cat}という集合がメインメモリ12に記憶される(ステップS12)。これにより、メインメモリ12はkey-value型データを有するメモリとして機能する。すなわち、メインメモリ12には、keyとしてのanswerとvalueとしての{dog, tuna, cat}のペアが記憶される。
次に、CPU11は、KVSメモリ14中のfish集合の中の各要素がメインメモリ12中のanswer集合の中に存在するかどうかを調べる。最初は、CPU11がメインメモリ12に対して、GET(answer, porgy)という命令を発行する(ステップS13)。この返り値はFALSEであるため、CPU11はporgyをメインメモリ12中のanswer集合に入れる。すなわち、CPU11はメインメモリ12に対して、PUT(answer, porgy)の命令を発行する(ステップS14)。
続いて、CPU11は、KVSメモリ14中のfish集合の中の全ての要素の処理が終了したかを判定する(ステップS15)。ここでは、fish集合の中の全ての要素の処理が終了していないため、ステップS13に戻り、ステップS13以降の処理を繰り返す。
CPU11は、KVSメモリ14中のfish集合の中のtunaがメインメモリ12中のanswer集合の中に存在するかどうかを調べる。すなわち、CPU11はメインメモリ12に対して、GET(answer, tuna)という命令を発行する(ステップS13)。すると、返り値はTRUEであるため、次に進む。
salmonについても同様に、CPU11はfish集合の中のsalmonがメインメモリ12中のanswer集合の中に存在するかどうかを調べる。すなわち、CPU11はメインメモリ12に対して、GET(answer, salmon)という命令を発行する(ステップS15)。すると、この返り値はFALSEであるため、CPU11はsalmonをメインメモリ12中のanswer集合に入れる。すなわち、CPU11はメインメモリ12に対して、PUT(answer, salmon)の命令を発行する(ステップS14)。
ステップS15において、fish集合の中の全ての要素の処理が終了すると、結果として、メインメモリ12中のanswer集合はanswer = {dog, tuna, cat, porgy, salmon}となり、OR演算の解となる(ステップS16)。
なお、answerと別の名前の解集合を用意すれば、同時に複数のOR演算を行うことも可能である。
(3)NOT演算
図7は、第1実施形態におけるNOT演算の動作を示すフローチャートである。
具体的な例として、animal NOT fishという演算を行う場合の処理を示す。まず、CPU11はメモリコントローラ13を介してKVSメモリ14に対して、GET(animal, NULL)という命令を発行する(ステップS21)。続いて、GET(animal, NULL)の命令に対して、KVSメモリ14から出力されたデータ集合を、CPU11はanswer集合としてメインメモリ12に記憶させる。すなわち、CPU11はメインメモリ12に対して、PUT(answer, dog)、PUT(answer, tuna)、PUT(answer, cat)という命令を発行する。この結果、answer = {dog, tuna, cat}という集合がメインメモリ12に記憶される(ステップS22)。これにより、メインメモリ12はkey-value型データを有するメモリとして機能する。すなわち、メインメモリ12には、keyとしてのanswerとvalueとしての{dog, tuna, cat}のペアが記憶される。
次に、CPU11は、KVSメモリ14中のfish集合の中の各要素を、メインメモリ12中のanswer集合から削除する。最初は、CPU11がメインメモリ12に対して、DELETE(answer, porgy)という命令を発行する(ステップS23)。
続いて、CPU11は、KVSメモリ14中のfish集合の中の全ての要素の処理が終了したかを判定する(ステップS24)。ここでは、fish集合の中の全ての要素の処理が終了していないため、ステップS23に戻り、ステップS23以降の処理を繰り返す。
CPU11は、KVSメモリ14中のfish集合の中のtuna, salmonについても同様に、メインメモリ12中のanswer集合から削除する(ステップS23)。
ステップS24において、fish集合の中の全ての要素の処理が終了すると、結果として、メインメモリ12中のanswer集合はanswer = {dog, cat}となり、NOT演算の解となる(ステップS25)。
なお、answerと別の名前の解集合を用意すれば、同時に複数のNOT演算を行うことも可能である。
また、前述したCPU11が行っている作業は、メモリコントローラ13が有するダイレクトメモリアクセス(DMA)機能によりすべて実行することができる。CPU11が行っている作業を、メモリコントローラ13のDMA機能によって全て行うことにより、CPU11に負荷をかけることなく、前述の集合演算を行うことが可能である。
[3]変形例1
図8は、第1実施形態における変形例1のメモリシステムのハードウェア構成を示すブロック図である。
図示するように、変形例1は、図3に示した第1実施形態のメモリシステムにおいて、ハッシュ生成器16を備える構成を有する。ハッシュ生成器16は、任意長のデータを固定長のビット列に変換する、いわゆるハッシュ関数の機能を持つ。ここでは、ハッシュ生成器16は、データ(key)の入力に対して、key-value型データが記憶されたアドレスを生成する。
図8におけるKVSメモリ14は、図1に示したKVSメモリ14と同様な構成を有する。また、メインメモリ12は、図4に示したメインメモリ12と同様な構成を有する。したがってここでは、図8のKVSメモリ14及びメインメモリ12の詳細な構成及び動作の説明は省略する。
変形例1における集合演算の動作は、第1実施形態における動作と同様である。変形例1では、ハッシュ生成器16を備えることにより、集合演算の実行時におけるCPU11の負荷を低減することができる。その他の構成及び効果は前述した第1実施形態と同様である。
[4]変形例2
図9は、第1実施形態における変形例2のメモリシステムのハードウェア構成を示すブロック図である。
図示するように、変形例2は、図3に示した第1実施形態のメモリシステムにおいて、ハッシュ生成器16を備え、KVSメモリとしてDRAM141を用いている。さらに、メモリコントローラ13に接続されたメモリ装置としてNANDフラッシュメモリ17を備える。
図9におけるDRAM141は、図1に示したKVSメモリ14と同様な構成を有する。また、メインメモリ12は、図4に示したメインメモリ12と同様な構成を有する。したがってここでは、図9のDRAM141及びメインメモリ12の詳細な構成及び動作の説明は省略する。
変形例2では、第1実施形態におけるKVSメモリ14としてDRAM141が用いられており、変形例2における集合演算の動作は、第1実施形態における動作と同様である。さらに、ハッシュ生成器16を備えることにより、集合演算の実行時におけるCPU11の負荷を低減することができる。その他の構成及び効果は前述した第1実施形態と同様である。
[5]変形例3
図10は、第1実施形態における変形例3のメモリシステムのハードウェア構成を示すブロック図である。
図示するように、変形例3は、図3に示した第1実施形態のメモリシステムにおいて、KVSメモリとしてCAM−RAM142を用いている。さらに、メモリコントローラ13に接続されたメモリ装置としてNANDフラッシュメモリ17を備える。
図10におけるCAM−RAM142は、図2に示したCAM−RAM142と同様な構成を有する。また、メインメモリ12は、図4に示したメインメモリ12と同様な構成を有する。したがってここでは、図10のCAM−RAM142及びメインメモリ12の詳細な構成及び動作の説明は省略する。
変形例3では、第1実施形態におけるKVSメモリ14としてCAM−RAM142が用いられており、変形例3における集合演算の動作は、第1実施形態における動作と同様である。さらに、CAM−RAM142を備えることにより、集合演算の実行時におけるCPU11の負荷を低減することができる。その他の構成及び効果は前述した第1実施形態と同様である。
[第2実施形態]
[1]ハードウェア構成
第2実施形態のメモリシステムのハードウェア構成について説明する。
図11は、第2実施形態のメモリシステムのハードウェア構成を示すブロック図である。
図示するように、メモリシステムは、CPU11、メインメモリ12、メモリコントローラ13、第1のKVSメモリ24、及び第2のKVSメモリ34を備える。さらに、CPU11、メインメモリ12、及びメモリコントローラ13の間は、バス15にて接続されている。
CPU11は、メインメモリ12、メモリコントローラ13、及び第1、第2のKVSメモリ24、34を制御し、後述する集合演算を行う。メモリコントローラ13は、KVSメモリ24、34及びその他のメモリ(図示しない)を制御する。メモリコントローラ13は、ダイレクトメモリアクセス(DMA:Direct Memory Access)機能を持つ回路を有する。DMA機能を用いれば、メモリコントローラ13とメインメモリ12との間のデータ転送を、CPU11を介さずに、直接制御することができる。
第1、第2のKVSメモリ24、34は、図1または図2に示したようなデータ領域を格納している。KVSメモリ24、34の構成及び動作は、図1または図2を用いて説明した通りであり、その説明は省略する。
[2]集合演算
次に、第2実施形態のメモリシステムにおける集合演算について説明する。
第2実施形態における集合演算の動作は、前述した第1実施形態の集合演算の動作において、CPU11をメモリコントローラ13に置き換え、KVSメモリ14を第1のKVSメモリ24に、メインメモリ12を第2のKVSメモリ34にそれぞれ置き換えたものである。
いま、第1のKVSメモリ24中に、animal = {dog, tuna, cat}と、fish = {porgy, tuna, salmon}という2つのデータ集合がストアされていたとする。以下に、図3〜図5を参照してAND演算、OR演算、及びNOT演算の動作を述べる。
(1)AND演算
具体的な例として、animal AND fishという演算を行う場合の処理を示す。まず、メモリコントローラ13は第1のKVSメモリ24に対して、GET(animal, NULL)という命令を発行する(ステップS1)。続いて、GET(animal, NULL)の命令に対して、第1のKVSメモリ24から出力されたデータ集合を、メモリコントローラ13はanswer集合として第2のKVSメモリ34に記憶させる。すなわち、answer = {dog, tuna, cat}という集合が第2のKVSメモリ34に記憶される(ステップS2)。
次に、メモリコントローラ13は、第2のKVSメモリ34中のanswer集合の中の各要素が第1のKVSメモリ24内のfish集合の中に存在するかどうか調べる。最初は、メモリコントローラ13が第1のKVSメモリ24に対して、GET(fish, dog)という命令を発行する(ステップS3)。この返り値はFALSEであるため、メモリコントローラ13は第2のKVSメモリ34中のanswer集合の中の要素dogを削除する(ステップS4)。
続いて、メモリコントローラ13は、第2のKVSメモリ34中のanswer集合の中の全ての要素の処理が終了したかを判定する(ステップS5)。ここでは、answer集合の中の全ての要素の処理が終了していないため、ステップS3に戻り、ステップS3以降の処理を繰り返す。
メモリコントローラ13は、第1のKVSメモリ24中のfish集合の中からtunaを探す。すなわち、メモリコントローラ13は第1のKVSメモリ24に対して、GET(fish, tuna)という命令を発行する(ステップS3)。すると、この返り値はTRUEであるため、次に進む。
catについても同様に、メモリコントローラ13は第1のKVSメモリ24中のfish集合の中からcatを探す。すなわち、メモリコントローラ13は第1のKVSメモリ24に対して、GET(fish, cat)という命令を発行する(ステップS3)。すると、この返り値はFALSEであるため、メモリコントローラ13は第2のKVSメモリ34中のanswer集合の中の要素catを削除する(ステップS4)。
ステップS5において、answer集合の中の全ての要素の処理が終了すると、結果として、第2のKVSメモリ34中のanswer集合はanswer = {tuna}となり、AND演算の解となる(ステップS6)。
(2)OR演算
具体的な例として、animal OR fishという演算を行う場合の処理を示す。まず、メモリコントローラ13は第1のKVSメモリ24に対して、GET(animal, NULL)という命令を発行する(ステップS11)。続いて、GET(animal, NULL)の命令に対して、第1のKVSメモリ24から出力されたデータ集合を、メモリコントローラ13はanswer集合として第2のKVSメモリ34に記憶させる。すなわち、answer = {dog, tuna, cat}という集合が第2のKVSメモリ34に記憶される(ステップS12)。
次に、メモリコントローラ13は、第1のKVSメモリ24中のfish集合の中の各要素が第2のKVSメモリ34中のanswer集合の中に存在するかどうかを調べる。最初は、メモリコントローラ13が第2のKVSメモリ34に対して、GET(answer, porgy)という命令を発行する(ステップS13)。この返り値はFALSEであるため、メモリコントローラ13はporgyを第2のKVSメモリ34中のanswer集合に入れる(ステップS14)。
続いて、メモリコントローラ13は、第1のKVSメモリ24中のfish集合の中の全ての要素の処理が終了したかを判定する(ステップS15)。ここでは、fish集合の中の全ての要素の処理が終了していないため、ステップS13に戻り、ステップS13以降の処理を繰り返す。
メモリコントローラ13は、第1のKVSメモリ24中のfish集合の中のtunaが第2のKVSメモリ34中のanswer集合の中に存在するかどうかを調べる。すなわち、メモリコントローラ13は第2のKVSメモリ34に対して、GET(answer, tuna)という命令を発行する(ステップS13)。すると、返り値はTRUEであるため、次に進む。
salmonについても同様に、メモリコントローラ13はfish集合の中のsalmonが第2のKVSメモリ34中のanswer集合の中に存在するかどうかを調べる。すなわち、メモリコントローラ13は第2のKVSメモリ34に対して、GET(answer, salmon)という命令を発行する(ステップS15)。すると、この返り値はFALSEであるため、メモリコントローラ13はsalmonを第2のKVSメモリ34中のanswer集合に入れる(ステップS14)。
ステップS15において、fish集合の中の全ての要素の処理が終了すると、結果として、第2のKVSメモリ34中のanswer集合はanswer = {dog, tuna, cat, porgy, salmon}となり、OR演算の解となる(ステップS16)。
(3)NOT演算
具体的な例として、animal NOT fishという演算を行う場合の処理を示す。まず、メモリコントローラ13は第1のKVSメモリ24に対して、GET(animal, NULL)という命令を発行する(ステップS21)。続いて、GET(animal, NULL)の命令に対して、第1のKVSメモリ24から出力されたデータ集合を、メモリコントローラ13はanswer集合として第2のKVSメモリ34に記憶させる。すなわち、answer = {dog, tuna, cat}という集合が第2のKVSメモリ34に記憶される(ステップS22)。
次に、メモリコントローラ13は、第1のKVSメモリ24中のfish集合の中の各要素を、第2のKVSメモリ34中のanswer集合から削除する。最初は、メモリコントローラ13が第2のKVSメモリ34に対して、DELETE(answer, porgy)という命令を発行する(ステップS23)。
続いて、メモリコントローラ13は、第1のKVSメモリ24中のfish集合の中の全ての要素の処理が終了したかを判定する(ステップS24)。ここでは、fish集合の中の全ての要素の処理が終了していないため、ステップS23に戻り、ステップS23以降の処理を繰り返す。
メモリコントローラ13は、第1のKVSメモリ24中のfish集合の中のtuna, salmonについても同様に、第2のKVSメモリ34中のanswer集合から削除する(ステップS23)。
ステップS24において、fish集合の中の全ての要素の処理が終了すると、結果として、第2のKVSメモリ34中のanswer集合はanswer = {dog, cat}となり、NOT演算の解となる(ステップS25)。
また、前述のメモリコントローラ13が行っている作業は、メモリコントローラ13が有するダイレクトメモリアクセス(DMA)機能によりすべて実行することができる。メモリコントローラ13が行っている作業を、メモリコントローラ13のDMA機能によって全て行うことにより、メモリコントローラ13に負荷をかけることなく、前述の集合演算を行うことが可能である。
[3]変形例1
図12は、第2実施形態における変形例1のメモリシステムのハードウェア構成を示すブロック図である。
図示するように、変形例1は、図11に示した第2実施形態のメモリシステムにおいて、ハッシュ生成器16を備え、KVSメモリとしてDRAM241とCAM−RAM型のNANDフラッシュメモリ341を用いている。
図12におけるDRAM241は、図1に示したKVSメモリ14と同様な構成を有する。また、CAM−RAM型のNANDフラッシュメモリ341は、図2に示したCAM−RAM142と同様な構成を有する。したがってここでは、図12のDRAM241及びCAM−RAM型のNANDフラッシュメモリ341の詳細な構成及び動作の説明は省略する。
変形例1における集合演算の動作は、第2実施形態における動作と同様である。さらに、ハッシュ生成器16及びCAM−RAM型のNANDフラッシュメモリ341を備えることにより、集合演算の実行時におけるCPU11の負荷を低減することができる。その他の構成及び効果は前述した第2実施形態と同様である。
[4]変形例2
図13は、第2実施形態における変形例2のメモリシステムのハードウェア構成を示すブロック図である。
図示するように、変形例2は、図11に示した第2実施形態のメモリシステムにおいて、KVSメモリとしてCAM−RAM242とCAM−RAM型のNANDフラッシュメモリ341を用いている。
図13におけるCAM−RAM242とCAM−RAM型のメモリ341は、図2に示したCAM−RAM142と同様な構成を有する。したがってここでは、図12のCAM−RAM242とCAM−RAM型のメモリ341の詳細な構成及び動作の説明は省略する。
変形例2における集合演算の動作は、第2実施形態における動作と同様である。さらに、CAM−RAM242及びCAM−RAM型のNANDフラッシュメモリ341を備えることにより、集合演算の実行時におけるCPU11の負荷を低減することができる。その他の構成及び効果は前述した第2実施形態と同様である。
実施形態によれば、全文検索システム等で多発する集合演算に係るシステム負荷を著しく低減し、さらに高速に集合演算を行うことが可能なメモリシステムを提供できる。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
11…CPU、12…メインメモリ、12A…ハッシュテーブル領域、12B…実データ領域、13…メモリコントローラ、14…KVSメモリ、14A…ハッシュテーブル領域、14B…実データ領域、15…バス、16…ハッシュ生成器、17…NANDフラッシュメモリ、24…第1のKVSメモリ、34…第2のKVSメモリ、100…上位システム、141…DRAM、142…CAM−RAM、142A…CAM部、142B…RAM部、241…DRAM、242…CAM−RAM、341…CAM−RAM型のNANDフラッシュメモリ。

Claims (11)

  1. データと、keyと前記keyに対応するvalueが格納される第1のメモリと、
    前記keyと前記valueが格納される第2のメモリと、
    前記第1のメモリ及び前記第2のメモリを制御する制御回路と、
    前記制御回路と前記第1のメモリとの間に接続されたメモリコントローラとを具備し、
    前記メモリコントローラはダイレクトメモリアクセス(DMA)回路を有し、
    前記ダイレクトメモリアクセス回路は、前記制御回路を介さずに前記第1のメモリと前記第2のメモリを制御し、
    前記keyと前記valueは、第1のアドレスと、第1key及び前記第1keyに対応する第1valueとを有し、前記第1key及び前記第1valueは前記第1のアドレスに記憶され、第2のアドレスは前記第1valueに記憶され、
    前記第2のアドレスにより指定された前記第1のメモリ内の記憶場所を参照することにより、第2valueを得るメモリ。
  2. 前記第1keyの入力に対して、ハッシュ関数によって前記第1key及び前記第1valueが記憶された前記第1のアドレスを生成するハッシュ生成器をさらに具備する請求項に記載のメモリ。
  3. 前記第1のメモリはDRAMである請求項1または2に記載のメモリ。
  4. 前記第1のメモリは、前記第1keyの入力に対して、前記第1keyと、前記第1のメモリ内に格納されたデータとの比較を行い、一致したデータが記憶された第3のアドレスを出力する連想メモリ(Content-addressable memory:CAM)と、
    前記第3のアドレスの指定により書き込み及び読み出しが行われるRAMとを備える請求項1に記載のメモリ。
  5. 前記第2のメモリは、前記制御回路により制御されるメインメモリである請求項1乃至のいずれかに記載のメモリ。
  6. 前記メインメモリはDRAMである請求項に記載のメモリ。
  7. 前記第2のメモリは、前記第1keyの入力に対して、前記第1keyと、前記第2のメモリ内に格納されたデータとの比較を行い、一致したデータが記憶された第3のアドレスを出力するコンテンツ連想メモリ(CAM)と、
    前記第3のアドレスの指定により書き込み及び読み出しが行われるRAMとを備える請求項1乃至のいずれかに記載のメモリ。
  8. 前記第2のメモリはNAND型フラッシュメモリである請求項に記載のメモリ。
  9. 前記制御回路は、前記keyと前記valueに基づく要求に応じて前記第1のメモリに格納された前記keyと前記valueの記憶容量を可変する請求項1乃至のいずれかに記載のメモリ。
  10. 前記制御回路は、バスを介して第1、第2のメモリに接続されたCPUである請求項1乃至のいずれかに記載のメモリ。
  11. 前記制御回路は、前記第1のメモリに格納された前記key及び前記valueと、前記2のメモリに格納された前記key及び前記valueとを用いて、AND、OR、及びNOTのいずれかの集合演算を行う請求項1乃至10のいずれかに記載のメモリ。
JP2015116456A 2015-06-09 2015-06-09 メモリ、データ処理方法、及びメモリシステム Expired - Fee Related JP5992577B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015116456A JP5992577B2 (ja) 2015-06-09 2015-06-09 メモリ、データ処理方法、及びメモリシステム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015116456A JP5992577B2 (ja) 2015-06-09 2015-06-09 メモリ、データ処理方法、及びメモリシステム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2011173358A Division JP5762878B2 (ja) 2011-08-08 2011-08-08 key−valueストアを有するメモリシステム

Publications (2)

Publication Number Publication Date
JP2015181043A JP2015181043A (ja) 2015-10-15
JP5992577B2 true JP5992577B2 (ja) 2016-09-14

Family

ID=54329238

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015116456A Expired - Fee Related JP5992577B2 (ja) 2015-06-09 2015-06-09 メモリ、データ処理方法、及びメモリシステム

Country Status (1)

Country Link
JP (1) JP5992577B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11762913B2 (en) * 2019-12-31 2023-09-19 Micron Technology, Inc. Cursor seek operations using deleted record spans

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05334234A (ja) * 1992-05-27 1993-12-17 Nec Corp 高速dma転送装置
GB0200747D0 (en) * 2002-01-14 2002-02-27 Mitel Knowledge Corp Hardware-assisted tuple space

Also Published As

Publication number Publication date
JP2015181043A (ja) 2015-10-15

Similar Documents

Publication Publication Date Title
JP5762878B2 (ja) key−valueストアを有するメモリシステム
JP5524144B2 (ja) key−valueストア方式を有するメモリシステム
US11604834B2 (en) Technologies for performing stochastic similarity searches in an online clustering space
WO2015145647A1 (ja) ストレージ装置とデータ処理方法及びストレージシステム
US20180300330A1 (en) Proactive spilling of probe records in hybrid hash join
CN103914483A (zh) 文件存储方法、装置及文件读取方法、装置
US20170329852A1 (en) Page query method and data processing node in oltp cluster database
CN102959548A (zh) 数据存储方法、查找方法及装置
JP5646775B2 (ja) key−valueストア方式を有するメモリシステム
JP6258436B2 (ja) メモリシステムのローカルコントローラ
JP5992577B2 (ja) メモリ、データ処理方法、及びメモリシステム
EP3907628A1 (en) Technologies for performing random sparse lifting and procrustean orthogonal sparse hashing using column read-enabled memory
US11507799B2 (en) Information processing apparatus and method of operating neural network computing device therein
JP5833212B2 (ja) key−valueストア方式を有するメモリシステム
JP6034467B2 (ja) システム
US20160070649A1 (en) Cache unit and processor
JP6205386B2 (ja) 半導体装置及び情報書込/読出方法
US11157692B2 (en) Neural networks using data processing units
US11914587B2 (en) Systems and methods for key-based indexing in storage devices
US20160292168A1 (en) File retention
JP5208117B2 (ja) 表形式データを操作するマルチコア対応データ処理方法、マルチコア型処理装置、及び、プログラム
JP6384151B2 (ja) 記憶装置、制御装置、記憶装置の制御方法、及びプログラム
WO2010089799A1 (ja) キャッシュメモリシステム、コンピュータシステム、及びキャッシュメモリアクセス方法
CN116775699A (zh) 一种批流一体化数据处理系统及方法
JP2020030873A (ja) メモリシステム

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160411

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160419

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160615

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160719

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160817

R151 Written notification of patent or utility model registration

Ref document number: 5992577

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees