CN114064585B - 一种基于国产ai芯片架构的存储压缩系统及控制方法 - Google Patents
一种基于国产ai芯片架构的存储压缩系统及控制方法 Download PDFInfo
- Publication number
- CN114064585B CN114064585B CN202111327174.5A CN202111327174A CN114064585B CN 114064585 B CN114064585 B CN 114064585B CN 202111327174 A CN202111327174 A CN 202111327174A CN 114064585 B CN114064585 B CN 114064585B
- Authority
- CN
- China
- Prior art keywords
- data
- module
- data information
- chip
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/17—Details of further file system functions
- G06F16/1737—Details of further file system functions for reducing power consumption or coping with limited storage space, e.g. in mobile devices
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F12/00—Accessing, addressing or allocating within memory systems or architectures
- G06F12/02—Addressing or allocation; Relocation
- G06F12/06—Addressing a physical block of locations, e.g. base addressing, module addressing, memory dedication
- G06F12/0615—Address space extension
- G06F12/063—Address space extension for I/O modules, e.g. memory mapped I/O
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/17—Details of further file system functions
- G06F16/174—Redundancy elimination performed by the file system
- G06F16/1744—Redundancy elimination performed by the file system using compression, e.g. sparse files
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Abstract
本发明公开了一种基于国产AI芯片架构的存储压缩系统;包括AI芯片和存储芯片,所述AI芯片与所述存储芯片电性连接;所述存储芯片上电性连接有用于进行数据写入的数据写入接口和用于数据读取的数据读取接口;所述存储芯片中包括有压缩存储路径和压缩读取路径,所述压缩存储路径用于实现对数据信息进行有效的写入存储,所述压缩读取路径用于实现对存储的数据信息进行查询和读取;本发明通过AI芯片对存储芯片进行控制,对存储芯片的写入和读取控制调节,采用分流分段存储,使得存储速度快,防止数据信息丢失,并且在进行存储的时候,对数据信息的特征进行提取,并且对数据信息进行地址映射,对数据的读取进行快速的查询。
Description
技术领域
本发明属于存储技术技术领域,具体涉及一种基于国产AI芯片架构的存储压缩系统及控制方法。
背景技术
数据压缩是指在不丢失有用信息的前提下,缩减数据量以减少存储空间,提高其传输、存储和处理效率,或按照一定的算法对数据进行重新组织,减少数据的冗余和存储的空间的一种技术方法。数据压缩包括有损压缩和无损压缩。在计算机科学和信息论中,数据压缩或者源编码是按照特定的编码机制用比未经编码少的数据位元(或者其它信息相关的单位)表示信息的过程。例如,如果我们将“compression”编码为“comp”那么这篇文章可以用较少的数据位表示。存储就是根据不同的应用环境通过采取合理、安全、有效的方式将数据保存到某些介质上并能保证有效的访问,总的来讲可以包含两个方面的含义:一方面它是数据临时或长期驻留的物理媒介;另一方面,它是保证数据完整安全存放的方式或行为。存储就是把这两个方面结合起来,向客户提供一套数据存放解决方案,然而市面上各种的在进行压缩存储的时候仍存在各种各样的问题。
如授权公告号为CN1584829A所公开的能自动进行数据压缩和解压缩的移动存储系统,其虽然实现了存取数据的压缩和解压缩操作,完全由系统自动进行,对用户是完全透明的。用户对闪存盘进行计算机文件存取时,完全如没进行压缩/解压缩时一样操作,(象原来一样地使用操作系统的图形用户界面,并进行与原来相同的操作),但他的闪存盘的容量却好像大了许多倍,例如一个64MB的闪存盘,可能存512MB或更多的数据,而且存入和取出的数据都和原来完全一样,但是并未解决现有压缩存储中存在的不能够有效的实现对控制调节,以及不能够实现对数据信息进行处理和压缩,以及不能够实现分流和特征提取,然后进行地址映射等的问题,为此我们提出一种基于国产AI芯片架构的存储压缩系统及控制方法。
发明内容
本发明的目的在于提供一种基于国产AI芯片架构的存储压缩系统及控制方法,以解决上述背景技术中提出的问题。
为实现上述目的,本发明提供如下技术方案:一种基于国产AI芯片架构的存储压缩系统,包括AI芯片和存储芯片,所述AI芯片与所述存储芯片电性连接;
所述存储芯片上电性连接有用于进行数据写入的数据写入接口和用于数据读取的数据读取接口;
所述存储芯片中包括有压缩存储路径和压缩读取路径,所述压缩存储路径用于实现对数据信息进行有效的写入存储,所述压缩读取路径用于实现对存储的数据信息进行查询和读取;
所述压缩存储路径中包括有数据接收模块,所述数据接收模块用于实现对所述数据写入接口传输的数据信息进行接收,所述数据接收模块上电性连接有数据分流模块,所述数据分流模块用于实现对数据信息进行分段,将长数据分割成相同大小字节的数据流,所述数据分流模块上电性连接有数据处理模块,所述数据处理模块用于实现对数据信息进行处理,用于降低数据信息中的杂波和防止数据信息丢失,所述数据处理模块上电性连接有数据压缩模块,所述数据压缩模块用于实现对数据信息进行压缩处理,降低数据信息在存储时占用的资源空间,所述数据压缩模块上电性连接有数据打包模块,所述数据打包模块用于实现对压缩后的数据信息进行打包存储,所述数据打包模块上电性连接有数据存入模块,所述数据分流模块上电性连接有数据特征提取模块,所述数据特征提取模块用于实现对分流后的数据进行特征的提取,所述数据特征提取模块上电性连接有数据地址映射模块,所述数据地址映射模块用于实现对数据和地址进行映射对称,所述数据地址映射模块与所述数据存入模块电性连接,用于实现对数据信息和地址进行对称,便于进行查询;
所述压缩读取路径中包括有数据存入模块,所述数据存入模块是数据信息存储的位置,所述数据存入模块上电性连接有数据获取模块,所述数据获取模块用于实现从所述数据存入模块中提取数据信息,所述数据存入模块上电性连接有读取地址映射模块,所述读取地址映射模块用于实现对数据信息进行查询,所述读取地址映射模块上电性连接有匹配特征提取模块,所述匹配特征提取模块用于实现根据查询的信息进行匹配特征,实现对数据信息进行查询,所述数据获取模块上电性连接有数据识别模块,所述数据识别模块用于实现对数据信息进行特征匹配和判定数据信息是否是需要查询的内容,所述数据识别模块上电性连接有数据处理模块,所述数据处理模块用于实现对数据信息进行解压输出,所述数据处理模块和所述匹配特征提取模块上电性连接有数据合流模块,所述数据合流模块用于实现对获取的数据信息进行有效的整合,所述数据输出模块与所述数据读取接口电性连接。
较佳的,所述存储芯片中还包括有数据缓存模块,所述数据缓存模块电性连接有地址匹配模块,所述地址匹配模块上电性连接有指令获取模块,所述指令获取模块上电性连接有仲裁控制模块。
较佳的,所述数据缓存模块用于实现对数据进行缓存处理,实现对数据信息进行排队处理,所述地址匹配模块用于实现存储芯片的存储池地址进行判定,对数据进行连接获取,所述指令获取模块用于实现对控制指令进行获取和配置,所述仲裁控制模块用于实现对数据的写入和读取进行控制调节。
较佳的,所述存储芯片中设有若干数据存储池,若干所述数据存储池用于实现分别对不同的数据信息进行进行存储。
较佳的,所述数据分流模块用于实现将较大的数据分段成若干段数据流,且分段数据的数据大小为180字节,所述数据分流模块在解决均衡问题时采用的是轮转法、加权轮转法、最小连接优先法、最大响应优先法或者哈希法。
较佳的,所述哈希法的哈希函数的定义用如下递推公式来表示:
H0(K)=GetHashCode(K)mod hashSize
Hi(K)=[Hi-1(k)+1+(GetHashCode(K)>>5+1)mod(hashSizze-1)]modhashSize,i≥1,
通过简单的数学推导就得出其通项式公式即Hashtable的哈希函数簇为:
Hi(K)=[GetHashCode(K)mod hashSize+1+i×[(GetHashCode(K)>>5+1)mod(hashSizze-1)]]mod hashSize,i≥1
因此我们就拥有了一系列的哈希函数:H0,H1,...Hn,
当向哈希表中增加元素时,则依次尝试使用这些哈希函数,直到找到相应的空闲内存单元地址为止,这种方式称为二度哈希。
较佳的,所述数据特征提取模块和所述匹配特征提取模块主要用于图像存储,且采用的算法用SIFT、SURF和FAST。
较佳的,所述SIFT的算法主要有以下几个步骤:
高斯差分金字塔的构建:使用组和层的结构构建了一个具有线性关系的金字塔,在连续的高斯核尺度上查找图像的特征点,另外,使用一阶的高斯差分来近似高斯的拉普拉斯核,大大的减少了运算量;
尺度空间的极值检测及特征点的定位:搜索上一步建立的高斯尺度空间,通过高斯差分来识别潜在的对尺度和旋转不变的特征点,在离散空间中,局部极值点并不是真正意义的极值点,真正的极值点有可能落在离散点的间隙中,SIFT通过尺度空间DoG函数进行曲线拟合寻找极值点;
特征方向赋值:基于图像局部的梯度方向,分配给每个关键点位置一个或多个方向,后续的所有操作都是对于关键点的方向、尺度和位置进行变换,从而提供这些特征的不变性;
特征描述子的生成:通过上面的步骤已经找到的SIFT特征点的位置、方向、尺度信息,最后使用一组向量来描述特征点及其周围邻域像素的信息;
所述FAST采用的是FAST-12算法,算法公式如下:
在一个小的图像块B中,定义图像块的矩为:
通过矩找到图像块的质心,
连接图像块的几何中心o与质心C,得到一个oc的向量,把这个向量的方向定义特征点的方向,
θ=arctan(m01/m10)。
较佳的,所述数据处理模块中包括有数据中值滤波电路、运算放大电路和数据计算电路,所述中值滤波电路用于实现对数据进行滤波处理,所述运算放大电路用于实现对数据信息进行增益处理,防止数据信息丢失,所述数据计算电路用于实现对数据的大小进行计算。
一种基于国产AI芯片架构的存储压缩系统的控制方法,包括有以下方法步骤:
S1、数据写入:在数据信息进行写入的时候,数据信息通过数据写入接口进行传输给存储芯片,且在进行传输到存储芯片的时候,AI芯片进行控制调节,使得数据信息根据指令获取模块和地址匹配模块进行判定存储到固定的输数据池中,并且通过仲裁控制模块实现对数据写入的过程进行控制调节;
S2、数据写入过程的控制:在数据信息在通数据接收模块进行接收,然后通过数据分流模块实现截断成相同大小的数据流,然后通过数据特征提取模块实现对数据的特征进行提取,然后再通过数据地址映射模块实现对存储地址进行映射,且数据信息在经过数据分流模块截断后通过数据处理模块进行滤波、增益和计算处理后,通过数据压缩模块和数据打包模块进行压缩打包,然后结合数据特征提取模块提取的特征和数据地址映射模块分配的地址一起通过数据存入模块进行存储到数据池中;
S3、数据读取:AI芯片通过指令获取模块实现对需要读取的数据信息的特征和地址进行获取,然后通过仲裁控制模块进行实现对数据信息的提取;
S4、数据读取的过程:通过匹配特征提取模块和读取地址映射模块实现对数据信息的特征和地址进行在数据池中查询数据,然后通过数据存入模块中读取数据信息,读取的数据信息通数据获取模块将数据复制输出,然后通过数据识别模块判定数据内容,然后通过数据处理模块实现对数据信息进行滤波、增益和计算处理,然后通过数据合流模块实现对读取的分段数据信息进行合并,最后通过数据输出模块和数据读取接口进行输出。
与现有技术相比,本发明的有益效果是:
(1)本发明通过AI芯片实现对存储芯片进行有效的控制,实现对存储芯片的写入和读取便于进行控制调节,使得存储芯片能够精准的控制存入和读取的过程,以及能够实现控制数据写入和读取的过程,保持数据的精准度。
(2)本发发明在进行存储的时候,采用的分流分段存储,使得存储速度快,防止数据信息丢失,并且在进行存储的时候,实现对数据信息的特征进行提取,并且实现对数据信息进行地址映射,可以实现对数据的读取进行快速的查询。
附图说明
图1为本发明的系统结构示意图;
图2为本发明的方法步骤流程示意图;
图3为本发明的SIFT的算法步骤流程示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
请参阅图1和图3,本发明提供一种技术方案:一种基于国产AI芯片架构的存储压缩系统,包括AI芯片和存储芯片,所述AI芯片与所述存储芯片电性连接;
所述存储芯片上电性连接有用于进行数据写入的数据写入接口和用于数据读取的数据读取接口;
所述存储芯片中包括有压缩存储路径和压缩读取路径,所述压缩存储路径用于实现对数据信息进行有效的写入存储,所述压缩读取路径用于实现对存储的数据信息进行查询和读取;
所述压缩存储路径中包括有数据接收模块,所述数据接收模块用于实现对所述数据写入接口传输的数据信息进行接收,所述数据接收模块上电性连接有数据分流模块,所述数据分流模块用于实现对数据信息进行分段,将长数据分割成相同大小字节的数据流,所述数据分流模块上电性连接有数据处理模块,所述数据处理模块用于实现对数据信息进行处理,用于降低数据信息中的杂波和防止数据信息丢失,所述数据处理模块上电性连接有数据压缩模块,所述数据压缩模块用于实现对数据信息进行压缩处理,降低数据信息在存储时占用的资源空间,所述数据压缩模块上电性连接有数据打包模块,所述数据打包模块用于实现对压缩后的数据信息进行打包存储,所述数据打包模块上电性连接有数据存入模块,所述数据分流模块上电性连接有数据特征提取模块,所述数据特征提取模块用于实现对分流后的数据进行特征的提取,所述数据特征提取模块上电性连接有数据地址映射模块,所述数据地址映射模块用于实现对数据和地址进行映射对称,所述数据地址映射模块与所述数据存入模块电性连接,用于实现对数据信息和地址进行对称,便于进行查询;
所述压缩读取路径中包括有数据存入模块,所述数据存入模块是数据信息存储的位置,所述数据存入模块上电性连接有数据获取模块,所述数据获取模块用于实现从所述数据存入模块中提取数据信息,所述数据存入模块上电性连接有读取地址映射模块,所述读取地址映射模块用于实现对数据信息进行查询,所述读取地址映射模块上电性连接有匹配特征提取模块,所述匹配特征提取模块用于实现根据查询的信息进行匹配特征,实现对数据信息进行查询,所述数据获取模块上电性连接有数据识别模块,所述数据识别模块用于实现对数据信息进行特征匹配和判定数据信息是否是需要查询的内容,所述数据识别模块上电性连接有数据处理模块,所述数据处理模块用于实现对数据信息进行解压输出,所述数据处理模块和所述匹配特征提取模块上电性连接有数据合流模块,所述数据合流模块用于实现对获取的数据信息进行有效的整合,所述数据输出模块与所述数据读取接口电性连接。
为了实现对存储芯片进行的读写过程进行有效的控制调节,本实施例中,优选的,所述存储芯片中还包括有数据缓存模块,所述数据缓存模块电性连接有地址匹配模块,所述地址匹配模块上电性连接有指令获取模块,所述指令获取模块上电性连接有仲裁控制模块,所述数据缓存模块用于实现对数据进行缓存处理,实现对数据信息进行排队处理,所述地址匹配模块用于实现存储芯片的存储池地址进行判定,对数据进行连接获取,所述指令获取模块用于实现对控制指令进行获取和配置,所述仲裁控制模块用于实现对数据的写入和读取进行控制调节。
为了实现对数据的存储进行分类,本实施例中,优选的,所述存储芯片中设有若干数据存储池,若干所述数据存储池用于实现分别对不同的数据信息进行进行存储。
为了实现提高数据信息的存储速率,本实施例中,优选的,所述数据分流模块用于实现将较大的数据分段成若干段数据流,且分段数据的数据大小为180字节,所述数据分流模块在解决均衡问题时采用的是轮转法、加权轮转法、最小连接优先法、最大响应优先法或者哈希法。
为了实现对数据信息的分流进行计算处理,本实施例中,优选的,所述哈希法的哈希函数的定义用如下递推公式来表示:
H0(K)=GetHashCode(K)mod hashSize
Hi(K)=[Hi-1(k)+1+(GetHashCode(K)>>5+1)mod(hashSizze-1)]modhashSize,i≥1,
通过简单的数学推导就得出其通项式公式即Hashtable的哈希函数簇为:
Hi(K)=[GetHashCode(K)mod hashSize+1+i×[(GetHashCode(K)>>5+1)mod(hashSizze-1)]]mod hashSize,i≥1
因此我们就拥有了一系列的哈希函数:H0,H1,...Hn,
当向哈希表中增加元素时,则依次尝试使用这些哈希函数,直到找到相应的空闲内存单元地址为止,这种方式称为二度哈希。
为了实现对数据信息的特征提取和匹配,本实施例中,优选的,所述数据特征提取模块和所述匹配特征提取模块主要用于图像存储,且采用的算法用SIFT、SURF和FAST。
为了实现对数据信息的特征提取和匹配进行计算和处理,本实施例中,优选的,所述SIFT的算法主要有以下几个步骤:
高斯差分金字塔的构建:使用组和层的结构构建了一个具有线性关系的金字塔,在连续的高斯核尺度上查找图像的特征点,另外,使用一阶的高斯差分来近似高斯的拉普拉斯核,大大的减少了运算量;
尺度空间的极值检测及特征点的定位:搜索上一步建立的高斯尺度空间,通过高斯差分来识别潜在的对尺度和旋转不变的特征点,在离散空间中,局部极值点并不是真正意义的极值点,真正的极值点有可能落在离散点的间隙中,SIFT通过尺度空间DoG函数进行曲线拟合寻找极值点;
特征方向赋值:基于图像局部的梯度方向,分配给每个关键点位置一个或多个方向,后续的所有操作都是对于关键点的方向、尺度和位置进行变换,从而提供这些特征的不变性;
特征描述子的生成:通过上面的步骤已经找到的SIFT特征点的位置、方向、尺度信息,最后使用一组向量来描述特征点及其周围邻域像素的信息;
所述FAST采用的是FAST-12算法,算法公式如下:
在一个小的图像块B中,定义图像块的矩为:
通过矩找到图像块的质心,
连接图像块的几何中心o与质心C,得到一个oc的向量,把这个向量的方向定义特征点的方向,
θ=arctan(m01/m10)。
为了实现对数据信息进行处理,保持数据的信息的精准度,本实施例中,优选的,所述数据处理模块中包括有数据中值滤波电路、运算放大电路和数据计算电路,所述中值滤波电路用于实现对数据进行滤波处理,所述运算放大电路用于实现对数据信息进行增益处理,防止数据信息丢失,所述数据计算电路用于实现对数据的大小进行计算。
参考图2,一种基于国产AI芯片架构的存储压缩系统的控制方法,包括有以下方法步骤:
S1、数据写入:在数据信息进行写入的时候,数据信息通过数据写入接口进行传输给存储芯片,且在进行传输到存储芯片的时候,AI芯片进行控制调节,使得数据信息根据指令获取模块和地址匹配模块进行判定存储到固定的输数据池中,并且通过仲裁控制模块实现对数据写入的过程进行控制调节;
S2、数据写入过程的控制:在数据信息在通数据接收模块进行接收,然后通过数据分流模块实现截断成相同大小的数据流,然后通过数据特征提取模块实现对数据的特征进行提取,然后再通过数据地址映射模块实现对存储地址进行映射,且数据信息在经过数据分流模块截断后通过数据处理模块进行滤波、增益和计算处理后,通过数据压缩模块和数据打包模块进行压缩打包,然后结合数据特征提取模块提取的特征和数据地址映射模块分配的地址一起通过数据存入模块进行存储到数据池中;
S3、数据读取:AI芯片通过指令获取模块实现对需要读取的数据信息的特征和地址进行获取,然后通过仲裁控制模块进行实现对数据信息的提取;
S4、数据读取的过程:通过匹配特征提取模块和读取地址映射模块实现对数据信息的特征和地址进行在数据池中查询数据,然后通过数据存入模块中读取数据信息,读取的数据信息通数据获取模块将数据复制输出,然后通过数据识别模块判定数据内容,然后通过数据处理模块实现对数据信息进行滤波、增益和计算处理,然后通过数据合流模块实现对读取的分段数据信息进行合并,最后通过数据输出模块和数据读取接口进行输出。
本发明的工作原理及使用流程:
第一步、数据写入:在数据信息进行写入的时候,数据信息通过数据写入接口进行传输给存储芯片,且在进行传输到存储芯片的时候,AI芯片进行控制调节,使得数据信息根据指令获取模块和地址匹配模块进行判定存储到固定的输数据池中,并且通过仲裁控制模块实现对数据写入的过程进行控制调节;
第二步、数据写入过程的控制:在数据信息在通数据接收模块进行接收,然后通过数据分流模块实现截断成相同大小的数据流,然后通过数据特征提取模块实现对数据的特征进行提取,然后再通过数据地址映射模块实现对存储地址进行映射,且数据信息在经过数据分流模块截断后通过数据处理模块进行滤波、增益和计算处理后,通过数据压缩模块和数据打包模块进行压缩打包,然后结合数据特征提取模块提取的特征和数据地址映射模块分配的地址一起通过数据存入模块进行存储到数据池中;
第三步、数据读取:AI芯片通过指令获取模块实现对需要读取的数据信息的特征和地址进行获取,然后通过仲裁控制模块进行实现对数据信息的提取;
第四步、数据读取的过程:通过匹配特征提取模块和读取地址映射模块实现对数据信息的特征和地址进行在数据池中查询数据,然后通过数据存入模块中读取数据信息,读取的数据信息通数据获取模块将数据复制输出,然后通过数据识别模块判定数据内容,然后通过数据处理模块实现对数据信息进行滤波、增益和计算处理,然后通过数据合流模块实现对读取的分段数据信息进行合并,最后通过数据输出模块和数据读取接口进行输出。
尽管已经示出和描述了本发明的实施例,对于本领域的普通技术人员而言,可以理解在不脱离本发明的原理和精神的情况下可以对这些实施例进行多种变化、修改、替换和变型,本发明的范围由所附权利要求及其等同物限定。
Claims (10)
1.一种基于国产AI芯片架构的存储压缩系统,包括AI芯片和存储芯片,其特征在于:所述AI芯片与所述存储芯片电性连接;
所述存储芯片上电性连接有用于进行数据写入的数据写入接口和用于数据读取的数据读取接口;
所述存储芯片中包括有压缩存储路径和压缩读取路径,所述压缩存储路径用于实现对数据信息进行有效的写入存储,所述压缩读取路径用于实现对存储的数据信息进行查询和读取;
所述压缩存储路径中包括有数据接收模块,所述数据接收模块用于实现对所述数据写入接口传输的数据信息进行接收,所述数据接收模块上电性连接有数据分流模块,所述数据分流模块用于实现对数据信息进行分段,将长数据分割成相同大小字节的数据流,所述数据分流模块上电性连接有数据处理模块,所述数据处理模块用于实现对数据信息进行处理,用于降低数据信息中的杂波和防止数据信息丢失,所述数据处理模块上电性连接有数据压缩模块,所述数据压缩模块用于实现对数据信息进行压缩处理,降低数据信息在存储时占用的资源空间,所述数据压缩模块上电性连接有数据打包模块,所述数据打包模块用于实现对压缩后的数据信息进行打包存储,所述数据打包模块上电性连接有数据存入模块,所述数据分流模块上电性连接有数据特征提取模块,所述数据特征提取模块用于实现对分流后的数据进行特征的提取,所述数据特征提取模块上电性连接有数据地址映射模块,所述数据地址映射模块用于实现对数据和地址进行映射对称,所述数据地址映射模块与所述数据存入模块电性连接,用于实现对数据信息和地址进行对称,便于进行查询;
所述压缩读取路径中包括有数据存入模块,所述数据存入模块是数据信息存储的位置,所述数据存入模块上电性连接有数据获取模块,所述数据获取模块用于实现从所述数据存入模块中提取数据信息,所述数据存入模块上电性连接有读取地址映射模块,所述读取地址映射模块用于实现对数据信息进行查询,所述读取地址映射模块上电性连接有匹配特征提取模块,所述匹配特征提取模块用于实现根据查询的信息进行匹配特征,实现对数据信息进行查询,所述数据获取模块上电性连接有数据识别模块,所述数据识别模块用于实现对数据信息进行特征匹配和判定数据信息是否是需要查询的内容,所述数据识别模块上电性连接有数据处理模块,所述数据处理模块用于实现对数据信息进行解压输出,所述数据处理模块和所述匹配特征提取模块上电性连接有数据合流模块,所述数据合流模块用于实现对获取的数据信息进行有效的整合,数据输出模块与所述数据读取接口电性连接;
数据写入:在数据信息进行写入的时候,数据信息通过数据写入接口进行传输给存储芯片,且在进行传输到存储芯片的时候,AI芯片进行控制调节,使得数据信息根据指令获取模块和地址匹配模块进行判定存储到固定的输数据池中,并且通过仲裁控制模块实现对数据写入的过程进行控制调节;
数据读取:AI芯片通过指令获取模块实现对需要读取的数据信息的特征和地址进行获取,然后通过仲裁控制模块进行实现对数据信息的提取。
2.根据权利要求1所述的一种基于国产AI芯片架构的存储压缩系统,其特征在于:所述存储芯片中还包括有数据缓存模块,所述数据缓存模块电性连接有地址匹配模块,所述地址匹配模块上电性连接有指令获取模块,所述指令获取模块上电性连接有仲裁控制模块。
3.根据权利要求2所述的一种基于国产AI芯片架构的存储压缩系统,其特征在于:所述数据缓存模块用于实现对数据进行缓存处理,实现对数据信息进行排队处理,所述地址匹配模块用于实现存储芯片的存储池地址进行判定,对数据进行连接获取,所述指令获取模块用于实现对控制指令进行获取和配置,所述仲裁控制模块用于实现对数据的写入和读取进行控制调节。
4.根据权利要求1所述的一种基于国产AI芯片架构的存储压缩系统,其特征在于:所述存储芯片中设有若干数据存储池,若干所述数据存储池用于实现分别对不同的数据信息进行进行存储。
5.根据权利要求1所述的一种基于国产AI芯片架构的存储压缩系统,其特征在于:所述数据分流模块用于实现将较大的数据分段成若干段数据流,且分段数据的数据大小为180字节,所述数据分流模块在解决均衡问题时采用的是轮转法、加权轮转法、最小连接优先法、最大响应优先法或者哈希法。
6.根据权利要求5所述的一种基于国产AI芯片架构的存储压缩系统,其特征在于:所述哈希法的哈希函数的定义用如下递推公式来表示:
通过简单的数学推导就得出其通项式公式即Hashtable的哈希函数簇为:
,因此我们就拥有了一系列的哈希函数:/>,
当向哈希表中增加元素时,则依次尝试使用这些哈希函数,直到找到相应的空闲内存单元地址为止,这种方式称为二度哈希。
7.根据权利要求1所述的一种基于国产AI芯片架构的存储压缩系统,其特征在于:所述数据特征提取模块和所述匹配特征提取模块主要用于图像存储,且采用的算法用SIFT、SURF和FAST。
8.根据权利要求7所述的一种基于国产AI芯片架构的存储压缩系统,其特征在于:所述SIFT的算法主要有以下几个步骤:
高斯差分金字塔的构建:使用组和层的结构构建了一个具有线性关系的金字塔,在连续的高斯核尺度上查找图像的特征点,另外,使用一阶的高斯差分来近似高斯的拉普拉斯核,大大的减少了运算量;
尺度空间的极值检测及特征点的定位:搜索上一步建立的高斯尺度空间,通过高斯差分来识别潜在的对尺度和旋转不变的特征点,在离散空间中,局部极值点并不是真正意义的极值点,真正的极值点有可能落在离散点的间隙中,SIFT通过尺度空间DoG函数进行曲线拟合寻找极值点;
特征方向赋值:基于图像局部的梯度方向,分配给每个关键点位置一个或多个方向,后续的所有操作都是对于关键点的方向、尺度和位置进行变换,从而提供这些特征的不变性;
特征描述子的生成:通过上面的步骤已经找到的SIFT特征点的位置、方向、尺度信息,最后使用一组向量来描述特征点及其周围邻域像素的信息;
所述FAST采用的是FAST-12算法,算法公式如下:
在一个小的图像块B中,定义图像块的矩为:
,
通过矩找到图像块的质心,
,
连接图像块的几何中心o与质心C,得到一个oc的向量,把这个向量的方向定义特征点的方向,
。
9.根据权利要求1所述的一种基于国产AI芯片架构的存储压缩系统,其特征在于:所述数据处理模块中包括有数据中值滤波电路、运算放大电路和数据计算电路,所述中值滤波电路用于实现对数据进行滤波处理,所述运算放大电路用于实现对数据信息进行增益处理,防止数据信息丢失,所述数据计算电路用于实现对数据的大小进行计算。
10.一种基于国产AI芯片架构的存储压缩系统的控制方法,其特征在于:包括有以下方法步骤:
S1、数据写入:在数据信息进行写入的时候,数据信息通过数据写入接口进行传输给存储芯片,且在进行传输到存储芯片的时候,AI芯片进行控制调节,使得数据信息根据指令获取模块和地址匹配模块进行判定存储到固定的输数据池中,并且通过仲裁控制模块实现对数据写入的过程进行控制调节;
S2、数据写入过程的控制:在数据信息在通数据接收模块进行接收,然后通过数据分流模块实现截断成相同大小的数据流,然后通过数据特征提取模块实现对数据的特征进行提取,然后再通过数据地址映射模块实现对存储地址进行映射,且数据信息在经过数据分流模块截断后通过数据处理模块进行滤波、增益和计算处理后,通过数据压缩模块和数据打包模块进行压缩打包,然后结合数据特征提取模块提取的特征和数据地址映射模块分配的地址一起通过数据存入模块进行存储到数据池中;
S3、数据读取:AI芯片通过指令获取模块实现对需要读取的数据信息的特征和地址进行获取,然后通过仲裁控制模块进行实现对数据信息的提取;
S4、数据读取的过程:通过匹配特征提取模块和读取地址映射模块实现对数据信息的特征和地址进行在数据池中查询数据,然后通过数据存入模块中读取数据信息,读取的数据信息通数据获取模块将数据复制输出,然后通过数据识别模块判定数据内容,然后通过数据处理模块实现对数据信息进行滤波、增益和计算处理,然后通过数据合流模块实现对读取的分段数据信息进行合并,最后通过数据输出模块和数据读取接口进行输出。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111327174.5A CN114064585B (zh) | 2021-11-10 | 2021-11-10 | 一种基于国产ai芯片架构的存储压缩系统及控制方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111327174.5A CN114064585B (zh) | 2021-11-10 | 2021-11-10 | 一种基于国产ai芯片架构的存储压缩系统及控制方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114064585A CN114064585A (zh) | 2022-02-18 |
CN114064585B true CN114064585B (zh) | 2023-10-13 |
Family
ID=80274570
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111327174.5A Active CN114064585B (zh) | 2021-11-10 | 2021-11-10 | 一种基于国产ai芯片架构的存储压缩系统及控制方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114064585B (zh) |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE4447853C2 (de) * | 1993-09-20 | 2003-04-17 | Fujitsu Ltd | E/A-Hilfssystem und Datenspeicherverfahren in einem E/A-Hilfssystem |
WO2015097739A1 (ja) * | 2013-12-24 | 2015-07-02 | 株式会社日立製作所 | ストレージ装置及びその制御方法 |
CN106385260A (zh) * | 2016-09-28 | 2017-02-08 | 中国电子科技集团公司第二十八研究所 | 一种基于低延时的lz无损压缩算法的fpga实现系统 |
CN111010541A (zh) * | 2019-12-11 | 2020-04-14 | 重庆山淞信息技术有限公司 | 基于fpga与压缩处理器的视频处理模块 |
CN111782274A (zh) * | 2019-04-04 | 2020-10-16 | 安徽寒武纪信息科技有限公司 | 数据处理装置及相关产品 |
CN113505402A (zh) * | 2021-09-09 | 2021-10-15 | 深圳市轻生活科技有限公司 | 一种基于智能芯片的安全管控方法及系统 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015128207A (ja) * | 2013-12-27 | 2015-07-09 | 株式会社リコー | 画像読取装置、画像読取方法及びプログラム |
US20170068458A1 (en) * | 2015-09-03 | 2017-03-09 | Qualcomm Incorporated | Hardware-accelerated storage compression |
US20190243780A1 (en) * | 2019-04-10 | 2019-08-08 | Vinodh Gopal | Scalable application-customized memory compression |
-
2021
- 2021-11-10 CN CN202111327174.5A patent/CN114064585B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE4447853C2 (de) * | 1993-09-20 | 2003-04-17 | Fujitsu Ltd | E/A-Hilfssystem und Datenspeicherverfahren in einem E/A-Hilfssystem |
WO2015097739A1 (ja) * | 2013-12-24 | 2015-07-02 | 株式会社日立製作所 | ストレージ装置及びその制御方法 |
CN106385260A (zh) * | 2016-09-28 | 2017-02-08 | 中国电子科技集团公司第二十八研究所 | 一种基于低延时的lz无损压缩算法的fpga实现系统 |
CN111782274A (zh) * | 2019-04-04 | 2020-10-16 | 安徽寒武纪信息科技有限公司 | 数据处理装置及相关产品 |
CN111010541A (zh) * | 2019-12-11 | 2020-04-14 | 重庆山淞信息技术有限公司 | 基于fpga与压缩处理器的视频处理模块 |
CN113505402A (zh) * | 2021-09-09 | 2021-10-15 | 深圳市轻生活科技有限公司 | 一种基于智能芯片的安全管控方法及系统 |
Non-Patent Citations (1)
Title |
---|
基于FPGA的传感器噪声信号采集压缩存储系统的设计;杜宇宁;辛海华;张会新;亓岳岩;;电子器件(第06期);201-205 * |
Also Published As
Publication number | Publication date |
---|---|
CN114064585A (zh) | 2022-02-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11750212B2 (en) | Flexible hardware for high throughput vector dequantization with dynamic vector length and codebook size | |
KR102381944B1 (ko) | 주파수 압축과 텍스처 파이프라인 | |
CN109389212B (zh) | 一种面向低位宽卷积神经网络的可重构激活量化池化系统 | |
US20220343169A1 (en) | Cluster compression for compressing weights in neural networks | |
WO2023108995A1 (zh) | 向量相似度计算方法、装置、设备及存储介质 | |
US6396420B1 (en) | Delta compression of floating point coordinate data | |
US20210312215A1 (en) | Method for book recognition and book reading device | |
US20220329820A1 (en) | Method and device for picture coding, and storage medium | |
WO2021147276A1 (zh) | 数据处理方法、装置及芯片、电子设备、存储介质 | |
US11729268B2 (en) | Computer-implemented method, system, and storage medium for prefetching in a distributed graph architecture | |
CN111507465A (zh) | 一种可配置的卷积神经网络处理器电路 | |
WO2019095333A1 (zh) | 一种数据处理方法及设备 | |
CN111625531B (zh) | 基于可编程装置的合并装置、数据合并方法及数据库系统 | |
CN114064585B (zh) | 一种基于国产ai芯片架构的存储压缩系统及控制方法 | |
CN109697507B (zh) | 处理方法及装置 | |
WO2021082926A1 (zh) | 一种数据压缩的方法及装置 | |
CN110083743B (zh) | 一种基于统一采样的快速相似数据检测方法 | |
CN105023021A (zh) | 一种基于主方向模板的特征匹配方法 | |
US20220398442A1 (en) | Deep learning computational storage drive | |
CN110782003A (zh) | 一种基于哈希学习的神经网络压缩方法及系统 | |
CN115409150A (zh) | 一种数据压缩方法、数据解压方法及相关设备 | |
WO2020186821A1 (zh) | 一种外部存储器的协同访问方法及系统、协同访问架构 | |
CN116758175B (zh) | 图元块压缩装置、方法、图形处理器及电子设备 | |
CN116894457B (zh) | 深度学习模型的网络权重存取方法 | |
WO2024066547A1 (zh) | 数据压缩方法、装置、计算设备及存储系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |