CN114238707B - 一种基于类脑技术的数据处理系统 - Google Patents
一种基于类脑技术的数据处理系统 Download PDFInfo
- Publication number
- CN114238707B CN114238707B CN202111442496.4A CN202111442496A CN114238707B CN 114238707 B CN114238707 B CN 114238707B CN 202111442496 A CN202111442496 A CN 202111442496A CN 114238707 B CN114238707 B CN 114238707B
- Authority
- CN
- China
- Prior art keywords
- model
- data
- computing
- brain
- target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims abstract description 38
- 238000005516 engineering process Methods 0.000 title claims abstract description 12
- 210000002569 neuron Anatomy 0.000 claims abstract description 32
- 230000000946 synaptic effect Effects 0.000 claims abstract description 27
- 238000000034 method Methods 0.000 claims abstract description 19
- 230000008569 process Effects 0.000 claims abstract description 15
- 230000006870 function Effects 0.000 claims description 10
- 238000004364 calculation method Methods 0.000 claims description 7
- 238000003062 neural network model Methods 0.000 claims description 5
- 239000011159 matrix material Substances 0.000 claims description 3
- 238000012795 verification Methods 0.000 claims 2
- 210000000225 synapse Anatomy 0.000 description 8
- 210000004556 brain Anatomy 0.000 description 6
- 238000010586 diagram Methods 0.000 description 6
- 238000007726 management method Methods 0.000 description 5
- 230000007246 mechanism Effects 0.000 description 5
- 238000013499 data model Methods 0.000 description 4
- 238000004458 analytical method Methods 0.000 description 3
- 238000013461 design Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 239000000654 additive Substances 0.000 description 2
- 230000000996 additive effect Effects 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 238000013468 resource allocation Methods 0.000 description 2
- MGRVRXRGTBOSHW-UHFFFAOYSA-N (aminomethyl)phosphonic acid Chemical compound NCP(O)(O)=O MGRVRXRGTBOSHW-UHFFFAOYSA-N 0.000 description 1
- HOKKHZGPKSLGJE-GSVOUGTGSA-N N-Methyl-D-aspartic acid Chemical compound CN[C@@H](C(O)=O)CC(O)=O HOKKHZGPKSLGJE-GSVOUGTGSA-N 0.000 description 1
- 102000004108 Neurotransmitter Receptors Human genes 0.000 description 1
- 108090000590 Neurotransmitter Receptors Proteins 0.000 description 1
- 230000002159 abnormal effect Effects 0.000 description 1
- 230000037237 body shape Effects 0.000 description 1
- 239000004020 conductor Substances 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000003780 insertion Methods 0.000 description 1
- 230000037431 insertion Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000001242 postsynaptic effect Effects 0.000 description 1
- 102000005962 receptors Human genes 0.000 description 1
- 108020003175 receptors Proteins 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
Abstract
本发明提供一种基于类脑技术的数据处理系统，包括共享数据区以及与所述共享数据区通信的多个类脑计算单元，每一类脑计算单元由由计算核、执行区、数据区及片上网络组成；计算核在接收到目标数据时，计算核调用所述学习模型对输入的数据进行分析预判，配置本计算核所需的神经元模型和/或突触模型相应的参数，利用所配置的神经元模型和/或突触模型对目标数据进行处理并存储，获得下一处理环节的目标数据，计算核进一步预测下一处理环节所需的计算资源所对应模型。本系统能够实现动态资源的优化配置。
Description
技术领域
本发明涉及一种基于类脑技术的数据处理系统，属于数据智能处理技术领域。
背景技术
目前通用数据库系统DBS(Data Base System，简称DBS)由软件、硬件、数据库和数据管理员组成，如图1所示。其中，软件主要包括操作系统、应用程序以及数据库管理系统；硬件一般由高性能的计算机服务器及网络设备构成，计算机服务器包括机箱、主板、内存、硬盘、网卡、电源等部件，是数据库系统软件、功能、数据的支撑载体；数据库由数据库管理系统统一管理，数据的插入、修改和检索均要通过数据库管理系统进行；数据管理员负责创建、监控和维护整个数据库，使数据能被任何有权使用的人有效使用。
计算机服务器经历了几十年的发展，性能已经得到了大幅提升，但其基本架构还是遵从冯·诺依曼的计算机系统设计思想，以此为基础的数据库系统，存在如下缺陷：
(1)存算分离，功耗巨大：与CPU的处理速度相比，数据读取和传输要慢得多。针对这一问题，现代计算机系统设计了高IOPS的NVME、大容量的高速DDR、多级缓存的处理器，性能提升了很多。但存算分离，还是需要系统不断地从存储器中读取数据，送往处理器，这个过程中有大量的能量损失，并且速度越快，功耗越高。
(2)数据库管理程序及算法依赖人工：目前通用数据库系统内数据的处理，完全依赖于管理员，或管理程序固定的算法和处理机制，特殊场合下管理员无法及时处理，或算法和处理机制未考虑到的事件，将可能导致故障或异常情况发生，这极大地限制了通用数据库系统的使用环境或适用场景。
(3)内存占用率高，执行效率低：通用数据库系统所采用的服务器，一般会配置高速大内存，系统启动后，会将数据库或数据库索引调入内存中；一旦有搜索任务进来，处理器将执行搜索程序，频繁读取内存中数据；当搜索任务过重时，处理器、内存资源几乎全部占用，系统将严重卡顿，甚至宕机。
发明内容
有鉴于此，本发明提供一种基于类脑技术的数据处理系统，能够实现动态资源的优化配置。
实现本发明的技术方案如下：
一种基于类脑技术的数据处理系统，包括共享数据区以及与所述共享数据区通信的多个类脑计算单元，每一类脑计算单元由由计算核、执行区、数据区及片上网络组成；所述计算核调用执行区的模型，对目标数据进行处理；所述执行区存储学习模型、神经元模型和突触模型，所述数据区用于存储神经元模型处理后数据，所述共享数据区用于存储突触模型处理后的数据；所述片上网络用于交换计算核与片外的信息；每一计算单元核间互联用于传递计算核之间的信息；其中，所述计算核在接收到目标数据时，计算核调用所述学习模型对输入的数据进行分析预判，配置本计算核所需的神经元模型和/或突触模型相应的参数，利用所配置的神经元模型和/或突触模型对目标数据进行处理并存储，获得下一处理环节的目标数据，计算核进一步预测下一处理环节所需的计算资源所对应模型。
进一步地，本发明所述学习模型为神经网络模型，所述神经网络模型利用误差反向传播算法，可以根据输入数据以及经验数据，为输入数据的处理分配计算核及对应的模型。
进一步地，本发明所述计算核对目标数据的处理包括是否为有效目标的判断；是否为已识别的目标的判断；目标地址查找；目标参数提取；目标参数是否适合现有分类的判断；插入老类处理；定义新类处理，插入新类。
进一步地，本发明所述学习模型包括经验数据、加权矩阵、自主学习模块及函数集合。
进一步地，本发明所述突触模型的建模方式包括：(1)基于电流的建模和(2)基于导纳的建模。
进一步地，本发明所述神经元模型为多种层次的模型。
有益效果
第一，本发明每一类脑计算单元包含数据区和执行区，多个类脑计算单元共享数据区，存算一体设计模型，基本上没有数据传输过程中的能量损耗，空闲状态下的损耗也可以忽略不计。
第二，本发明数据处理系统，模拟人脑工作机制，海量类脑计算单元分工合作，具备学习和分析能力，可同时同步处理多个目标数据，可动态分配计算资源。
第三，本发明数据处理系统，类脑计算单元可删减，也可扩展，计算核资源可动态分配，神经元和突触数据模型可根据目标数据种类做调整优化，系统可适用的场景有很大的灵活性，因此该系统弹性可伸缩，可满足不同应用场景。
第四，本发明执行区上设有学习模型，具备自主学习和思考分析能力，能够自主学习优化，无需人工干预。
附图说明
为了更清楚地说明本发明实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其它的附图。
图1为通用数据库系统示意图；
图2为数据库处理流程图；
图3为众核架构类脑计算单元示意图；
图4为计算资源及模型分配示意图；
图5为众核架构类脑智能计算单元资源分配示意图。
具体实施方式
下面结合附图对本发明实施例进行详细描述。
需说明的是，在不冲突的情况下，以下实施例及实施例中的特征可以相互组合；并且，基于本公开中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本公开保护的范围。
需要说明的是，下文描述在所附权利要求书的范围内的实施例的各种方面。应显而易见，本文中所描述的方面可体现于广泛多种形式中，且本文中所描述的任何特定结构及/或功能仅为说明性的。基于本公开，所属领域的技术人员应了解，本文中所描述的一个方面可与任何其它方面独立地实施，且可以各种方式组合这些方面中的两者或两者以上。举例来说，可使用本文中所阐述的任何数目个方面来实施设备及/或实践方法。另外，可使用除了本文中所阐述的方面中的一或多者之外的其它结构及/或功能性实施此设备及/或实践此方法。
本申请实施例一种基于类脑技术的数据处理系统，如图3所示，该系统拟在欧盟HBP项目成果SpiNNaker2类脑芯片上实现，包括共享数据区以及与所述共享数据区通信的多个类脑计算单元，每一计算单元由由计算核、执行区、数据区、片上网络及共享数据区组成；所述计算核调用执行区的模型，对目标数据进行处理；所述执行区存储学习模型、有多个神经元模型和多个突触模型，所述数据区用于存储神经元模型处理后数据，所述共享数据区用于存储突触模型处理后的数据；所述片上网络用于交换计算核与片外的信息；每一计算单元核间互联用于传递计算核之间的信息；其中，计算核在接收到目标数据时，计算核调用所述学习模型对输出的数据进行分析预判，根据分析预判的结果配置计算核，并分别为所配置计算核对应的执行区中的神经元模型和突触模型配置相应的参数；配置的计算核调用神经元模型和突触模型对目标数据进行处理并存储，获得下一处理环节的目标数据。
本实施例计算核一般是由超低功耗的处理器组成，根据执行区的指令处理对目标数据进行处理，每个计算核可调用几百颗到数千颗模型，因此可以模拟上千颗神经元的工作；执行区存放可运行的代码，包括学习模型、神经元模型及突触模型。多个计算单元互联，并且赋予计算核中自主学习算法、不同功能的神经元模型和突触模型，共同组成一个具备自主学习能力的类脑智能系统。
本申请实施例，采用众核架构的类脑技术，通过模仿人脑的工作机制，以基于事件触发的神经网络芯片为基础平台，以海量的模拟神经元模型为计算单元，以自主学习模型为支撑架构，构建一套集智能识别、智能分类、智能查询、智能维护的数据库系统。神经元模型可以有多种类型，多种抽象层次，从最精确的Hodgkin-Huxley(HH)模型，到最简化的Leaky Integrate&Fire(LIF)模型，或者是多种介于二者之间的模型。
本申请实施例，突触模型有两种基本的建模方法，分别是：(1)基于电流的建模(Current-based)，(2)基于导纳的建模(Conductance-based)；
最简单的突触模型叫做Kick Synapses Model，简单来说就是每当发生突触输入的时候，突触后神经元直接被瞬间“充电”，并且被设定到另一个高一些的电位，用公式描述为s＝δ(t-tj)，即直接受到一个单位脉冲函数的输入。
Kick Model只能描述一个突触输入最基本的特性：即加性(Additive)，但是突触也有时域上的特性：不同类型的突触有不一样的响应速度，比如说AMPA的时间常数大概只有2ms，非常快而短，但是NMDA的时间常数高达50ms，则非常慢。第二种突触模型旨在建模这样的时间特性，这就是--Filter Model。
突触输入也不能被无限叠加，也会进入饱和状态，第三个模型用来建模这个饱和--Kinetic Model。这个模型假设突触受体遵循一个一阶微分方程，动态的结合受体。对于一个输入的spike序列tj，j＝1，2，3…，s的变化被建模为：
本申请实施例中，突触模型和神经元模型所处理的数据需要放置在不同的存储区，是因为神经元处理的是计算数据，需要高速处理，突触模型是用于传递神经元之间的数据，对速度方面的要求相对较低。
本申请又一实施例，学习模型其主要目的是从数据中自动学习到有效的特征表示，深度学习一般采用神经网络模型，神经网络模型可以使用误差反向传播算法，可以很好地解决贡献度分配问题。自主学习能力主要体型在学习算法方面，反向传播算法有效地解决了多层神经网络的学习问题，是机器自主学习能力的一个极其重要的、标志性的突破。本申请又一实施例的学习模型包括经验数据、加权矩阵、自主学习模块及函数集合。
图2所示的处理流程，及图5所示的资源分配示意图，就是模拟人脑的分层处理机制，将数据库管理系统的流程分层处理，每一层都采用学习算法，在收到来自上一层的输入后，一方面配置本层所需的计算资源和模型，另一方面通过学习已经存在的样本数据，给出本层的计算结果，并预测下一层所需要的计算资源和模型。
实例：某一目标数据，其所需的处理流程为：目标数据分析、判断是否为有效数据、判断是否为已识别的数据、查找目标地址或者提取目标参数、判断目标参数是否适合现有分类，插入老类或者是定义新类，插入新类，如图2所示。
上述流程中每个工作步骤，可分配若干个计算核来承担；如图4所示，将每个工作步骤生成的数据送入学习模型中；通过学习模型对每个步骤输出数据的分析和预判，实现合理配置各级计算单元类别，并分别给这些单元内部的模拟神经元及突触，配置最优的数据模型，以满足对应类别的功能需求，保证各个步骤的处理能力逐步达到一个合理平衡的状态，从而使整个系统性能逐步达到最优。
基于数据库处理需要动态配置计算单元数量：人脑在处理不同类型的信息、不同时机的信息，需要花费的时间不同，意味着参与的神经细胞资源也不同；通过图4所示的学习模型，让类脑数据库系统具备类似的功能，如：在处理已有目标数据时，优先足量分配实现搜索及定位功能的计算单元；处理新目标数据时，优先足量分配实现类处理功能的计算单元；各种计算单元在不同时机主要承担的职责功能，动态可变，如图5所示。
基于目标数据种类选择最优的神经元和突触模型：人脑有多种神经元和突触，在进行某种活动时，都是将此活动分割成一连串的步骤，每个步骤都是不同种类的神经元和突触分别承担不同的职责，协作配合，共同完成。类脑系统中采用多种数据模型来分别模拟这些神经元和突触，在不同的处理步骤中分别激活不同的数据模型，一方面能智能化处理小样本数事件或突发事件，另一方面能通过学习模型选择最优的模型，如图4所示。具备这种能力的类脑数据库系统，可以极大提升无人工参与的智能化管理水平。
以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到的变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以权利要求的保护范围为准。
Claims (4)
1.一种基于类脑技术的数据处理系统，其特征在于，包括共享数据区以及与所述共享数据区通信的多个类脑计算单元，每一类脑计算单元由由计算核、执行区、数据区及片上网络组成；所述计算核调用执行区的模型，对目标数据进行处理；所述执行区存储学习模型、神经元模型和突触模型，所述数据区用于存储神经元模型处理后数据，所述共享数据区用于存储突触模型处理后的数据；所述片上网络用于交换计算核与片外的信息；每一计算单元核间互联用于传递计算核之间的信息；其中，所述计算核在接收到目标数据时，计算核调用所述学习模型对输入的数据进行分析预判，配置本计算核所需的神经元模型和/或突触模型相应的参数，利用所配置的神经元模型和/或突触模型对目标数据进行处理并存储，获得下一处理环节的目标数据，计算核进一步预测下一处理环节所需的计算资源所对应模型；所述计算核对目标数据的处理包括是否为有效目标的判断；是否为已识别的目标的判断；目标地址查找；目标参数提取；目标参数是否适合现有分类的判断；插入老类处理；定义新类处理，插入新类；所述学习模型包括经验数据、加权矩阵、自主学习模块及函数集合。
2.根据权利要求1所述基于类脑技术的数据处理系统，其特征在于，所述学习模型为神经网络模型，所述神经网络模型利用误差反向传播算法，可以根据输入数据以及经验数据，为输入数据的处理分配计算核及对应的模型。
3.根据权利要求1所述基于类脑技术的数据处理系统，其特征在于，所述突触模型的建模方式包括：(1)基于电流的建模和(2)基于导纳的建模。
4.根据权利要求1所述基于类脑技术的数据处理系统，其特征在于，所述神经元模型为多种层次的模型。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111442496.4A CN114238707B (zh) | 2021-11-30 | 一种基于类脑技术的数据处理系统 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111442496.4A CN114238707B (zh) | 2021-11-30 | 一种基于类脑技术的数据处理系统 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN114238707A CN114238707A (zh) | 2022-03-25 |
| CN114238707B true CN114238707B (zh) | 2024-07-05 |
Family
ID=
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109901878A (zh) * | 2019-02-25 | 2019-06-18 | 北京灵汐科技有限公司 | 一种类脑计算芯片及计算设备 |
| CN110322010A (zh) * | 2019-07-02 | 2019-10-11 | 深圳忆海原识科技有限公司 | 用于类脑智能与认知计算的脉冲神经网络运算系统及方法 |
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109901878A (zh) * | 2019-02-25 | 2019-06-18 | 北京灵汐科技有限公司 | 一种类脑计算芯片及计算设备 |
| CN110322010A (zh) * | 2019-07-02 | 2019-10-11 | 深圳忆海原识科技有限公司 | 用于类脑智能与认知计算的脉冲神经网络运算系统及方法 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| EP3996004A1 (en) | Spiking neural network computing system and method for brain-like intelligence and cognitive computing | |
| WO2022262167A1 (zh) | 集群资源调度方法及装置、电子设备和存储介质 | |
| CN100428189C (zh) | 在基于策略的系统管理中以n步前视来推理的系统 | |
| CN110389820B (zh) | 一种基于v-TGRU模型进行资源预测的私有云任务调度方法 | |
| CN106201722A (zh) | 服务器的负载调整方法及系统 | |
| CN109740038A (zh) | 网络数据分布式采集系统及方法 | |
| Gu et al. | A parallel computing platform for training large scale neural networks | |
| CN103279392A (zh) | 一种云计算环境下虚拟机上运行的负载分类方法 | |
| Liu et al. | Integrating artificial bee colony algorithm and BP neural network for software aging prediction in IoT environment | |
| CN106471473A (zh) | 用于控制数据中心中的服务器过高分配的机制 | |
| Sîrbu et al. | Towards operator-less data centers through data-driven, predictive, proactive autonomics | |
| Chen et al. | Cost-effective resource provisioning for spark workloads | |
| CN114780233A (zh) | 基于微服务链路分析和强化学习的调度方法及装置 | |
| Chishti et al. | Memory system characterization of deep learning workloads | |
| Yan et al. | A clustering algorithm for multi-modal heterogeneous big data with abnormal data | |
| Xiao et al. | ORHRC: Optimized recommendations of heterogeneous resource configurations in cloud-fog orchestrated computing environments | |
| CN114238707B (zh) | 一种基于类脑技术的数据处理系统 | |
| CN103455364B (zh) | 一种多核环境并行程序Cache性能在线获取系统及方法 | |
| CN114444676A (zh) | 模型通道剪枝方法、装置、计算机设备和存储介质 | |
| CN117130888A (zh) | 基于历史数据和机器学习的服务器自动调优方法及系统 | |
| CN114238707A (zh) | 一种基于类脑技术的数据处理系统 | |
| CN109361539A (zh) | 一种基于发育网络的性能告警方法和装置 | |
| CN114510319A (zh) | 一种基于Kubernetes集群GPU空间共享的方法 | |
| CN112190945B (zh) | 游戏数据处理方法和装置、计算机可读存储介质、电子设备 | |
| Shadadi et al. | Hierarchical Parallel Processing for Data Clustering in GPU Using Deep Nearest Neighbor Searching. |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant |