CN105739917A - 具有学习机制的电子系统及其操作方法 - Google Patents
具有学习机制的电子系统及其操作方法 Download PDFInfo
- Publication number
- CN105739917A CN105739917A CN201511030671.3A CN201511030671A CN105739917A CN 105739917 A CN105739917 A CN 105739917A CN 201511030671 A CN201511030671 A CN 201511030671A CN 105739917 A CN105739917 A CN 105739917A
- Authority
- CN
- China
- Prior art keywords
- combination
- block
- data
- control unit
- learning
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/061—Improving I/O performance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/0604—Improving or facilitating administration, e.g. storage management
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0629—Configuration or reconfiguration of storage systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0638—Organizing or formatting or addressing of data
- G06F3/0644—Management of space entities, e.g. partitions, extents, pools
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
- G06F3/0671—In-line storage system
- G06F3/0683—Plurality of storage devices
- G06F3/0685—Hybrid storage combining heterogeneous device types, e.g. hierarchical storage, hybrid arrays
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Human Computer Interaction (AREA)
- Computing Systems (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Mathematical Physics (AREA)
- Medical Informatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Biophysics (AREA)
- Neurology (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Debugging And Monitoring (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Information Transfer Between Computers (AREA)
- User Interface Of Digital Computer (AREA)
- Stored Programmes (AREA)
Abstract
一种电子系统包括:存储接口,被配置为接收系统信息;存储控制单元,耦合到存储接口,被配置为实现:预处理块,用于基于系统信息来划分数据;以及学习块,用于处理数据的部分数据,以便分布机器学习过程。
Description
相关申请的交叉引用
本申请要求2014年12月31日递交的美国临时专利申请序列号62/099,067以及2015年10月7日递交的美国非临时专利申请序列号14/877,421的优先权,并且其主题通过引用被并入在此。
技术领域
本发明的实施例概括而言涉及电子系统,更具体而言涉及具有机器学习的系统。
背景技术
现代消费和企业电子产品,尤其是诸如图形显示系统、电视、投影仪、蜂窝电话、便携式数字助理、客户端工作站、数据中心服务器和组合设备之类的设备,正在提供越来越高水平的功能来支持现代生活。现有技术中的研究和开发可采取许多不同的方向。
越来越高水平的功能通常要求增加存储器和存储处理。处理器和存储器容量和带宽可能是增大设备或系统性能和功能的关键因素。与其他电子组件或模块一样,在存储器的面积和成本与性能和功能之间进行权衡。
处理大量数据可提高设备或系统性能和功能。不幸的是,处理大量数据可消耗大量的系统带宽,引入系统访问冲突并且消耗系统资源,所有这些都降低系统性能和功能。
从而,仍需要一种具有学习机制来处理大量数据以提高系统性能的电子系统。鉴于不断增大的商业竞争压力,以及逐渐增长的消费者期望和逐渐缩小的在市场中进行有意义的产品区分的机会,找到这些问题的答案越来越关键了。此外,对于降低成本、提高效率和性能以及应对竞争压力的需求向找到这些问题的答案的关键必要性添加了甚至更大的迫切性。
长久以来都在寻求这些问题的解决方案,但先前的开发没有教导或建议任何解决方案,从而,这些问题的解决方案一直以来都不为本领域技术人员所得。
发明内容
本发明的实施例提供了一种电子系统,包括:存储接口,被配置为接收系统信息;存储控制单元,耦合到存储接口,被配置为实现:预处理块,用于基于系统信息来划分数据;以及学习块,用于处理数据的部分数据,以便分布机器学习过程。
本发明的实施例提供了一种电子系统的操作的方法,包括:利用存储接口接收系统信息;利用被配置为实现预处理块的存储控制单元基于系统信息来划分数据;以及利用被配置为实现学习块的存储控制单元来分布机器学习过程,以便处理数据的部分数据。
本发明的实施例提供了一种非暂态计算机可读介质,包括存储在其上的指令,所述指令将被控制单元执行以执行操作,包括:利用存储接口接收系统信息;利用被配置为实现预处理块的存储控制单元基于系统信息来划分数据;以及利用存储控制单元来分布机器学习过程以便处理数据的部分数据,其中存储控制单元被配置为实现耦合到具有数据和部分数据的存储块的学习块。
除了以上提及的那些以外或者取代以上提及的那些,本发明的某些实施例具有其他步骤或元件。本领域技术人员通过参考附图阅读以下详细描述,将清楚这些步骤或元件。
附图说明
图1是本发明的实施例中的电子系统。
图2是本发明的实施例中的电子系统的电子学习系统的一部分的框图。
图3是本发明的实施例中的电子系统的电子学习系统的一部分的框图。
图4是本发明的实施例中的电子系统的电子学习系统的一部分的框图。
图5是本发明的实施例中的电子系统的电子学习系统的一部分的框图。
图6是本发明的实施例中的电子系统的电子学习系统的一部分的框图。
图7是本发明的实施例中的电子系统的存储设备的一部分的框图。
图8是本发明的实施例中的电子系统的电子学习系统的一部分的框图。
图9是本发明的实施例中的电子系统的电子学习系统的一部分的框图。
图10是本发明的实施例中的电子系统的电子学习系统的一部分的框图。
图11是本发明的实施例中的电子系统的电子学习系统的一部分的框图。
图12是本发明的实施例中的电子系统的电子学习系统的一部分的框图。
图13是本发明的实施例中的电子系统的电子学习系统的一部分的框图。
图14是本发明的实施例中的电子系统的电子学习系统的过程流程。
图15是本发明的实施例中的电子系统的电子学习系统的一部分的框图。
图16是电子系统的实施例的示例。
图17是本发明的实施例中的电子系统的操作方法的流程图。
具体实施方式
在本发明的实施例中,学习系统可包括机器学习,机器学习可包括能够从数据学习的算法,包括让计算机在没有被显式编程的情况下动作、自动化推理、自动化适应、自动化决策、自动化学习、计算机在没有被显式编程的情况下学习的能力、人工智能(artificialintelligence,AI)或者这些的组合。机器学习可被认为是一类人工智能(AI)。机器学习可包括分类、回归、特征学习、在线学习、无监督学习、监督式学习、聚类、降维、结构化预测、异常检测、神经网络或者这些的组合。
在本发明的实施例中,学习系统可包括能够处理或分析“大数据”的机器学习系统。具有存储内计算(instoragecomputing,ISC)的并行或分布式存储设备可加速大数据机器学习和分析。这种并行或分布式学习系统可将功能负担转移到ISC以获得额外的带宽并且减少存储和主机处理器的输入和输出(inputandoutput,I/O)。这种并行或分布式学习系统可提供具有ISC的机器学习。
在本发明的实施例中,并行或分布式学习系统可利用存储内计算(ISC)、调度器或者这些的组合来实现。ISC可在包括并行或分布式学习的学习系统中提供重大改善。ISC可提供另一处理器用于机器学习,提供加速器用于辅助主机中央处理单元,或者提供这两者的组合,例如在ISC处预处理以一旦检测到带宽瓶颈则减轻这种带宽瓶颈。调度器可智能地指派数据、任务、功能、操作或者这些的组合。
以下实施例被充分详细地描述以使得本领域技术人员能够做出和使用本发明。要理解,基于本公开,其他实施例将是显而易见的,并且在不脱离本发明的实施例的范围的情况下可做出系统、过程或机械变化。
在以下描述中,给出了许多具体细节以帮助透彻理解本发明。然而,将会清楚,没有这些具体细节也可实现本发明。为了避免模糊本发明的实施例,没有详细公开一些公知的电路、系统配置和过程步骤。
示出系统的实施例的图是半示意性的并且不是按比例的,并且尤其,一些尺寸是为了呈现清晰起见而给出的并且在附图中被夸大示出。类似地,虽然附图中的视图为了描述容易起见一般示出相似的取向,但附图中的这种描绘在大多数情况下是任意的。一般地,本发明可在任何取向下操作。作为描述上的便利,实施例可被编号为第一实施例、第二实施例等等,并且并不打算具有任何其他意义或者对本发明的实施例提供限制。
现在参考图1,其中示出了本发明的实施例中的电子系统100。具有学习机制的电子系统100包括第一设备102、通信路径104或者这些的组合,其中第一设备102例如是客户端或服务器,通信路径104例如是无线或有线网络。第一设备102可与第二设备106耦合,第二设备106例如是客户端或服务器。第一设备102可与通信路径104耦合以与第二设备106耦合。例如,第一设备102、第二设备106或者这些的组合可以是多种设备中的任何一种,例如客户端、服务器、显示设备、集群的节点、超级计算机的节点、蜂窝电话、个人数字助理、笔记本计算机、其他多功能设备或者这些的组合。第一设备102可直接地或间接地耦合到通信路径104以与第二设备106通信或者可以是独立的设备。
为了说明,在第二设备106和第一设备102作为通信路径104的端点的情况下示出电子系统100,但要理解电子系统100在第一设备102、第二设备106和通信路径104之间可具有不同的划分。例如,第一设备102、第二设备106或者这些的组合也可充当通信路径的一部分。
在一实施例中,通信路径104可跨越并表示多种网络。例如,通信路径104可包括系统总线、无线通信、有线通信、光学的、超声的或者这些的组合。高速外围组件互连(PeripheralComponentInterconnectExpress,PCIe)、外围组件互连(PeripheralComponentInterconnect,PCI)、工业标准体系结构(IndustryStandardArchitecture,ISA)、串行高级技术附件(SerialAdvancedTechnologyAttachment,SATA)、小型计算机串行接口(SmallComputerSerialInterface,SCSI)、增强型集成驱动电子设备(EnhancedIntegratedDriveElectronics,EIDE)、非易失性存储器主机控制器接口、高速非易失性存储器(Non-VolatileMemoryexpress,NVMe)接口、高速串行附接高级技术附件(SerialAdvancedTechnologyAttachmentexpress,SATAe)和加速图形端口(acceleratedgraphicsport,AGP)是系统总线技术的示例。卫星、蜂窝、蓝牙和无线保真(wirelessfidelity,WiFi)是无线通信的示例。以太网、10千兆比特以太网、40千兆比特以太网、100千兆比特以太网、InfiniBandTM、数字订户线路(digitalsubscriberline,DSL)和光纤到户(fibertothehome,FTTH)是有线通信的示例。上述所有都可包括在通信路径104中。
在一实施例中,第一设备102可包括第一控制单元112、第一存储单元114、第一通信单元116和第一用户界面118。第一控制单元112可包括第一控制接口122。第一控制单元112可执行第一存储介质126的第一软件以提供电子系统100的智能。第一控制单元112可以以多种不同的方式来实现。
例如,第一控制单元112可以是处理器、专用集成电路(applicationspecificintegratedcircuit,ASIC)、现场可编程门阵列(fieldprogrammablegatearray,FPGA)、片上系统(systemonachip,SOC)、嵌入式处理器、微处理器、多处理器、(一个或多个)片上多处理器(chip-multiprocessor,CMP)、硬件控制逻辑、硬件有限状态机(finitestatemachine,FSM)、数字信号处理器(digitalsignalprocessor,DSP)或者这些的组合。第一控制接口122可用于第一控制单元112与第一设备102中的其他功能单元之间的通信。第一控制接口122也可用于第一设备102外部的通信。
在一实施例中,第一控制接口122可从其他功能单元或者从外部来源接收信息,或者可向其他功能单元或向外部目的地发送信息。外部来源和外部目的地指的是第一设备102外部的来源和目的地。第一控制接口122可按不同方式来实现并且依据哪些功能单元或外部单元在与第一控制接口122接口可包括不同的实现方式。例如,第一控制接口122可利用压力传感器、惯性传感器、微机电系统(microelectromechanicalsystem,MEMS)、光学电路、波导、无线电路、有线电路或者这些的组合来实现。
在一实施例中,第一存储单元114可存储第一存储介质126的第一软件。第一存储单元114也可存储相关信息,例如包括图像、信息、声音文件、任何形式的社交网络日、用户资料、行为数据、cookie、任何形式的用户数据大集合或者这些的组合在内的数据。第一存储单元114可以是易失性存储器、非易失性存储器、内部存储器、外部存储器或者这些的组合。例如,第一存储单元114可以是诸如非易失性随机访问存储器(non-volatilerandomaccessmemory,NVRAM)、非易失性存储器(non-volatilememory,NVM)、高速非易失性存储器(non-volatilememoryexpress,NVMe)、闪存存储器、盘存储装置之类的非易失性存储装置或者诸如静态随机访问存储器(staticrandomaccessmemory,SRAM)之类的易失性存储装置。
在一实施例中,第一存储单元114可包括第一存储接口124。第一存储接口124可用于第一存储单元114与第一设备102中的其他功能单元之间的通信。第一存储接口124也可用于第一设备102外部的通信。第一存储接口124可从其他功能单元或者从外部来源接收信息,或者可向其他功能单元或向外部目的地发送信息。外部来源和外部目的地指的是第一设备102外部的来源和目的地。
在一实施例中,依据哪些功能单元或外部单元在与第一存储单元114接口,第一存储接口124可包括不同的实现方式。第一存储接口124可利用与第一控制接口122的实现方式类似的科技和技术来实现。
在一实施例中,第一通信单元116可使能去往和来自第一设备102的外部通信。例如,第一通信单元116可允许第一设备102与图1的第二设备106、诸如外围设备或计算机桌面之类的附件以及通信路径104通信。第一通信单元116也可充当通信中心,该通信中心允许了第一设备102充当通信路径104的一部分而不限于通信路径104的端点或终端单元。第一通信单元116可包括有源和无源组件,例如微电子器件或天线,用于与通信路径104交互。
在一实施例中,第一通信单元116可包括第一通信接口128。第一通信接口128可用于第一通信单元116与第一设备102中的其他功能单元之间的通信。第一通信接口128可从其他功能单元接收信息或者可向其他功能单元发送信息。依据哪些功能单元在与第一通信单元116接口,第一通信接口128可包括不同实现方式。第一通信接口128可利用与第一控制接口122的实现方式类似的科技和技术来实现。
在一实施例中,第一用户界面118允许用户(未示出)与第一设备102接口和交互。第一用户界面118可包括输入设备和输出设备。第一用户界面118的输入设备的示例可包括小键盘、鼠标、触摸板、软键、键盘、麦克风、用于接收远程信号的红外传感器、用于远程访问的虚拟显示控制台、用于远程访问的虚拟显示终端或者其任何组合,以提供数据和通信输入。在一实施例中,第一用户界面118可包括第一显示界面130。第一显示界面130可包括显示器、投影仪、视频屏幕、扬声器、远程网络显示器、虚拟网络显示器或者其任何组合。
在一实施例中,第一存储接口124以与第一控制接口122类似的方式可以为第一存储控制单元132从其他功能单元、外部来源、外部目的地或者这些的组合进行信息的接收、处理、发送或者这些的组合。第一存储控制单元132可以是处理器、专用集成电路(ASIC)、片上系统(SOC)、嵌入式处理器、微处理器、多处理器、(一个或多个)片上多处理器(CMP)、硬件控制逻辑、硬件有限状态机(FSM)、数字信号处理器(DSP)、现场可编程门阵列(FPGA)或者这些的组合。
在一实施例中,可针对在与第一设备102的多设备实施例中实现本发明的实施例来对第二设备106加以优化。与第一设备102相比,第二设备106可提供额外的或更高性能的处理力。第二设备106可包括第二控制单元134、第二通信单元136和第二用户界面138。
在一实施例中,第二用户界面138允许用户(未示出)与第二设备106接口和交互。第二用户界面138可包括输入设备和输出设备。第二用户界面138的输入设备的示例可包括小键盘、鼠标、触摸板、软键、键盘、麦克风、用于远程访问的虚拟显示控制台、用于远程访问的虚拟显示终端或者其任何组合,以提供数据和通信输入。第二用户界面138的输出设备的示例可包括第二显示界面140。第二显示界面140可包括显示器、投影仪、视频屏幕、扬声器、远程网络显示器、虚拟网络显示器或者其任何组合。
在一实施例中,第二控制单元134可执行第二存储介质142的第二软件以提供电子系统100的第二设备106的智能。第二存储介质142的第二软件可联合第一存储介质126的第一软件操作。与第一控制单元112相比,第二控制单元134可提供额外的性能。第二控制单元134可操作第二用户界面138以显示信息。第二控制单元134也可为电子系统100的其他功能执行第二存储介质142的第二软件,包括操作第二通信单元136来通过通信路径104与第一设备102通信。
在一实施例中,第二控制单元134可按多种不同的方式来实现。例如,第二控制单元134可以是处理器、专用集成电路(ASIC)、现场可编程门阵列(FPGA)、片上系统(SOC)、嵌入式处理器、微处理器、多处理器、(一个或多个)片上多处理器(CMP)、硬件控制逻辑、硬件有限状态机(FSM)、数字信号处理器(DSP)或者这些的组合。第二控制单元134可包括第二控制器接口144。第二控制器接口144可用于第二控制单元134与第二设备106中的其他功能单元之间的通信。第二控制器接口144也可用于第二设备106外部的通信。
在一实施例中,第二控制器接口144可从其他功能单元或者从外部来源接收信息,或者可向其他功能单元或向外部目的地发送信息。外部来源和外部目的地指的是第二设备106外部的来源和目的地。第二控制器接口144可按不同方式来实现并且依据哪些功能单元或外部单元在与第二控制器接口144接口可包括不同的实现方式。例如,第二控制器接口144可利用压力传感器、惯性传感器、微机电系统(MEMS)、光学电路、波导、无线电路、有线电路或者这些的组合来实现。
在一实施例中,第二存储单元146可在第二存储介质142上存储第二软件。第二存储单元146也可存储相关信息,例如包括图像、信息、声音文件、任何形式的社交网络日、用户资料、行为数据、cookie、任何形式的用户数据大集合或者这些的组合在内的数据。第二存储单元146的大小可被设定为提供额外的存储容量来补充第一存储单元114。为了说明,第二存储单元146被示为单个元件,但要理解第二存储单元146可以是存储元件的分布。同样为了说明,电子系统100被示为第二存储单元146是单层次存储系统,但要理解电子系统100可具有不同配置的第二存储单元146。
例如,第二存储单元146可利用形成包括不同级别的缓存、主存储器、旋转介质或离线存储装置的存储器层次系统的不同存储技术来形成。第二存储单元146可以是易失性存储器、非易失性存储器、内部存储器、外部存储器或者这些的组合。另外,例如,第二存储单元146可以是诸如非易失性随机访问存储器(NVRAM)、闪存存储器、盘存储装置之类的非易失性存储装置或者诸如静态随机访问存储器(SRAM)之类的易失性存储装置。
在一实施例中,第二存储单元146可包括第二存储接口148。第二存储接口148可用于第二设备106中的其他功能单元之间的通信。第二存储接口148也可用于第二设备106外部的通信。
在一实施例中,第二存储接口148可从其他功能单元或者从外部来源接收信息,或者可向其他功能单元或向外部目的地发送信息。外部来源和外部目的地指的是第二设备106外部的来源和目的地。依据哪些功能单元或外部单元在与第二存储单元146接口,第二存储接口148可包括不同的实现方式。第二存储接口148可利用与第二控制器接口144的实现方式类似的科技和技术来实现。第二通信单元136可使能去往和来自第二设备106的外部通信。例如,第二通信单元136可允许第二设备106通过通信路径104与第一设备102通信。
在一实施例中,第二通信单元136也可充当通信中心,该通信中心允许了第二设备106充当通信路径104的一部分而不限于通信路径104的端点或终端单元。第二通信单元136可包括有源和无源组件,例如微电子器件或天线,用于与通信路径104交互。第二通信单元136可包括第二通信接口150。第二通信接口150可用于第二通信单元136与第二设备106中的其他功能单元之间的通信。第二通信接口150可从其他功能单元接收信息或者可向其他功能单元发送信息。
在一实施例中,依据哪些功能单元在与第二通信单元136接口,第二通信接口150可包括不同的实现方式。第二通信接口150可利用与第二控制器接口144的实现方式类似的科技和技术来实现。第一通信单元116可与通信路径104耦合以在第一设备发送108中向第二设备106发送信息。第二设备106可在第二通信单元136中从通信路径104的第一设备发送108接收信息。
在一实施例中,第二通信单元136可与通信路径104耦合以在第二设备发送110中向第一设备102发送信息。第一设备102可在第一通信单元116中从通信路径104的第二设备发送110接收信息。电子系统100可由第一控制单元112、第二控制单元134或者这些的组合来执行。
为了说明,以具有第二用户界面138、第二存储单元146、第二控制单元134和第二通信单元136的划分示出了第二设备106,但要理解第二设备106可具有不同的划分。例如,第二存储介质142的第二软件可被不同地划分,使得其一些或全部功能可在第二控制单元134和第二通信单元136中。另外,第二设备106可包括图1中为了清晰起见没有示出的其他功能单元。
在一实施例中,第二存储接口148以与第二控制接口144类似的方式可以为第二存储控制单元152从其他功能单元、外部来源、外部目的地或者这些的组合进行信息的接收、处理、发送或者这些的组合。第二存储控制单元152可以是处理器、专用集成电路(ASIC)、片上系统(SOC)、嵌入式处理器、微处理器、多处理器、(一个或多个)片上多处理器(CMP)、硬件控制逻辑、硬件有限状态机(FSM)、数字信号处理器(DSP)、现场可编程门阵列(FPGA)或者这些的组合。
在一实施例中,第一设备102中的功能单元可单独地并且独立于其他功能单元地工作。第一设备102可单独地并且独立于第二设备106和通信路径104地工作。类似地,第二设备106中的功能单元可单独地并且独立于其他功能单元地工作。第二设备106可单独地并且独立于第一设备102和通信路径104地工作。为了说明,通过第一设备102和第二设备106的操作描述了电子系统100。要理解,第一设备102和第二设备106可操作电子系统100的任何功能、过程、应用或者这些的组合。
在一实施例中,本申请中描述的功能、过程、应用或者这些的组合可至少部分实现为存储在非暂态计算机可读介质上的指令以被控制单元112执行。非暂态计算机介质可包括存储单元114。非暂态计算机可读介质可包括非易失性存储器,例如硬盘驱动器(harddiskdrive,HDD)、非易失性随机访问存储器(non-volatilerandomaccessmemory,NVRAM)、固态存储设备(solid-statestoragedevice,SSD)、致密盘(compactdisk,CD)、数字视频盘(digitalvideodisk,DVD)、通用串行总线(universalserialbus,USB)闪存设备、蓝光盘TM、任何其他计算机可读介质或者这些的组合。非暂态计算机可读介质可集成为电子系统100的一部分或者安装为电子系统100的可移除部分。
在一实施例中,本申请中描述的功能、过程、应用或这些的组合可实现为存储在非暂态计算机可读介质上的指令以被第一控制单元112、第二控制单元134或者这些的组合执行。非暂态计算机介质可包括第一存储单元114、第二存储单元146或者这些的组合。非暂态计算机可读介质可包括非易失性存储器,例如硬盘驱动器(HDD)、非易失性随机访问存储器(NVRAM)、固态存储设备(SSD)、致密盘(CD)、数字视频盘(DVD)、通用串行总线(USB)闪存设备、蓝光盘TM、任何其他计算机可读介质或者这些的组合。非暂态计算机可读介质可集成为电子系统100的一部分或者安装为电子系统100的可移除部分。
在一实施例中,本申请中描述的功能、过程、应用或者这些的组合可以是第一存储介质126的第一软件、第二存储介质142的第二软件或者这些的组合的一部分。这些功能、过程、应用或者这些的组合也可存储在第一存储单元114、第二存储单元146或者这些的组合中。第一控制单元112、第二控制单元134或者这些的组合可执行这些功能、过程、应用或者这些的组合以便操作电子系统100。
在一实施例中,以功能、过程、应用、顺序或者这些的组合为示例描述了电子系统100。电子系统100可不同地划分这些功能、过程、应用或者这些的组合或者对这些功能、过程、应用或者这些的组合不同地排序。本申请中描述的功能、过程、应用或者这些的组合可以是第一控制单元112或第二控制单元134中的硬件实现、硬件电路或者硬件加速器。这些功能、过程、应用或者这些的组合也可以是第一设备102或第二设备106内的但分别在第一控制单元112或第二控制单元134之外的硬件实现、硬件电路或硬件加速器。
现在参考图2,其中示出了本发明的实施例中的电子系统100的电子学习系统200的一部分的框图。电子学习系统200可利用图1的第一设备102、图1的第二设备106、集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、无源设备或者这些的组合来实现。
在一实施例中,电子学习系统200可提供机器学习。机器学习可包括能够从数据学习的算法,包括让计算机在没有被显式编程的情况下动作、自动化推理、自动化适应、自动化决策、自动化学习、计算机在没有被显式编程的情况下学习的能力、人工智能(AI)或者这些的组合。机器学习可被认为是一类人工智能(AI)。机器学习可在对显式的基于规则的算法进行设计和编程不可行时实现。
在一实施例中,电子学习系统200可提供包括预测、推荐、诸如垃圾邮件过滤之类的过滤、机器学习过程、机器学习功能或者这些的组合的机器学习。在一些实施例中,预测可基于点击或选择广告或广告主,可推荐一个或多个项目,可过滤垃圾,可包括点赞过程,或者这些的组合,来提供例如用于大数据分析的机器学习。
在一实施例中,电子学习系统200也可包括并行或分布式机器学习,其中包括集群计算,用于系统处理器中以及存储内计算(ISC)处理器中的并行处理。用于并行处理的并行或分布式机器学习可至少利用图1的第一控制单元112、图1的第二控制单元134、图1的第一存储单元114、图1的第一存储介质126、图1的第二存储介质142、图1的第二存储单元146、图1的第一存储控制单元132、图1的第二存储控制单元152或者这些的组合来实现。
例如,电子学习系统200可包括例如机器学习块这样的学习块210、例如原始数据块这样的初始数据块230、处理后数据块250、模型块270或者这些的组合。处理后数据块250可包括初始数据块230的部分数据块、初始数据块230的智能更新数据块、初始数据块230的智能选择数据块、具有不同格式的数据、具有不同数据结构的数据或者这些的组合,用于进一步处理或者用于主机器学习。学习块210、初始数据块230、处理后数据块250、模型块270或者这些的组合可至少部分实现为诸如集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、无源设备或者这些的组合之类的硬件。
为了说明,学习块210、初始数据块230、处理后数据块250、模型块270或者这些的组合被示为分立的块,但要理解任何块可与任何其他块共享硬件的各部分。例如,初始数据块230、处理后数据块250、模型块270或者这些的组合可共享诸如第一存储单元114、第二存储单元146、第一存储介质126、第二存储介质142或者这些的组合之类的硬件存储器电路或组件的各部分。
在一实施例中,学习块210可提供机器学习,包括并行或分布式处理、集群计算或者这些的组合。学习块210可在系统处理器、存储内计算(ISC)处理器、第一控制单元112、第二控制单元134、第一存储控制单元132、第二存储控制单元152、第一存储单元114、第二存储单元146或者这些的组合中实现。
在一实施例中,初始数据块230可包括具有原始数据、未处理的数据、部分处理的数据或者这些的组合的存储设备。初始数据块230可在存储设备、存储器设备、第一存储单元114、第二存储单元146、第一存储介质126、第二存储介质142或者这些的组合中实现。处理后数据块250可包括具有处理之后的初始数据块230的未处理数据之类的处理后数据的存储设备。处理后数据块250可在存储设备、存储器设备、第一存储单元114、第二存储单元146、第一存储介质126、第二存储介质142或者这些的组合中实现。
在一实施例中,模型块270可包括存储设备。例如,存储设备可包括数据、信息、应用、机器学习数据、经分析的大数据、大数据分析或者这些的组合。模型块270可在存储设备、存储器设备、系统处理器、存储内计算(ISC)处理器、第一存储单元114、第二存储单元146、第一控制单元112、第二控制单元134、第一存储控制单元132、第二存储控制单元152或者这些的组合中实现。
已发现,控制诸如初始数据230、第一数据250或者这些的组合之类的所选数据的指派可提供改善的性能。控制指派可包括检测诸如图1的通信路径104之类的输入和输出(I/O)带宽的通信资源饱和、诸如中央处理单元(CPU)、控制单元、第一控制单元112、第二控制单元134、第一存储控制单元132、第二存储控制单元152之类的处理器的计算资源饱和或者这些的组合。例如,初始数据230到第一数据250的计算可引起第一控制单元112、第二控制单元134、通信路径104、接口或者这些的组合的带宽饱和,例如容量的限制,这可由下文进一步描述的用于基于系统信息在计算设备和存储设备之间指派或分配处理的预处理块来解决。
为了说明,学习块210、初始数据块230、处理后数据块250、模型块270或者这些的组合被示为分立的块,但要理解可包括块的任何数目、组合、分布、分割、划分或者这些的组合。例如,学习块210可包括分布在多个设备上的多个块。对于学习块210、初始数据块230、处理后数据块250、模型块270或者这些的组合的实施例在随后的附图描述中提供了额外的细节。
现在参考图3,其中示出了本发明的实施例中的电子系统100的电子学习系统300的一部分的框图。以与图2的电子系统200类似的方式,电子学习系统300可利用图1的第一设备102、图1的第二设备106、集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、无源设备或者这些的组合来实现。
在一实施例中,电子学习系统300可提供机器学习。机器学习可包括能够从数据学习的算法,包括让计算机在没有被显式编程的情况下动作、自动化推理、自动化适应、自动化决策、自动化学习、计算机在没有被显式编程的情况下学习的能力、人工智能(AI)或者这些的组合。机器学习可被认为是一类人工智能(AI)。机器学习可在对显式的基于规则的算法进行设计和编程不可行时实现。
在一实施例中,电子学习系统300可提供包括预测、推荐、诸如垃圾邮件过滤之类的过滤、机器学习过程、机器学习功能或者这些的组合的机器学习。在一些实施例中,预测例如可基于点击或选择广告或广告主,可推荐一个或多个项目,可过滤垃圾,可包括点赞过程,或者这些的组合,来提供例如用于大数据分析的机器学习。
在一实施例中,电子学习系统300也可包括并行或分布式机器学习,其中包括集群计算,用于系统处理器中以及存储内计算(ISC)处理器中的并行处理。用于并行处理的并行或分布式机器学习可至少利用图1的第一控制单元112、图1的第二控制单元134、图1的第一存储单元114、图1的第二存储单元146、图1的第一存储控制单元132、图1的第二存储控制单元152、图1的第一存储介质126、图1的第二存储介质142或者这些的组合来实现。
在一实施例中,电子学习系统300可包括学习设备310,例如机器学习设备,其中包括第一学习设备312、第二学习设备314、第三学习设备316或者这些的组合。电子学习系统300也可包括数据块350,例如训练数据块,其中包括第一数据块352,第二数据块354、第三数据块356或者这些的组合。电子学习系统300还可包括模型设备370,其中包括第一模型设备372、第二模型设备374或者这些的组合。设备310、数据块350、模型设备370或者这些的组合可至少部分实现为诸如集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、无源设备或者这些的组合之类的硬件。
例如,设备310可利用第一控制单元112、第二控制单元134、第一存储控制单元132、第二存储控制单元152或者这些的组合来实现。数据块350可利用第一存储单元114、第二存储单元146、第一存储介质126、第二存储介质142或者这些的组合来实现。模型设备370可利用第一控制单元112、第二控制单元134、第一存储控制单元132、第二存储控制单元152、第一存储单元114、第二存储单元146或者这些的组合来实现。为了说明,机器学习设备310、数据块350、模型设备370或者这些的组合被示为分立的块,但要理解,以与电子学习系统200类似的方式,任何块可与任何其他块共享硬件的各部分。
在一实施例中,电子学习系统300可包括用于对模型或模型参数376进行更新、修改、修正、替换、写入、记录、输入或者这些的组合的放置模型过程390,例如第一模型设备372、第二模型设备374或者这些的组合。可利用机器学习设备310在模型设备370上对模型进行更新、修改、修正、替换、写入、记录、输入或者这些的组合。
在一实施例中,放置模型过程390、机器学习过程、大数据过程、任何其他过程或者这些的组合可包括网络394。例如,网络394以与图1的通信路径104类似的方式可包括多种网络中的任何一种并且可包括网络传送396、网络容量398或者这些的组合。网络传送396可传送模型或模型参数376。网络容量398可包括网络394支持的网络传送396的量。
在一实施例中,学习系统300可提供网络394、网络传送396、网络容量398或者这些的组合的检测、识别、监视、测量、核查或者这些的组合。包括学习设备310、数据块350、模型设备370或者这些的组合的学习系统300可检测或识别网络容量398的问题或瓶颈。
已发现,学习系统300可检测并行或分布式机器学习系统中的瓶颈。学习系统300可至少检测或识别网络容量398的问题。
现在参考图4,其中示出了本发明的实施例中的电子系统100的电子学习系统400的一部分的框图。以与图2的电子系统200类似的方式,电子学习系统400可利用图1的第一设备102、图1的第二设备106、集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、无源设备或者这些的组合来实现。
在一实施例中,电子学习系统400可提供机器学习。机器学习可包括能够从数据学习的算法,包括让计算机在没有被显式编程的情况下动作、自动化推理、自动化适应、自动化决策、自动化学习、计算机在没有被显式编程的情况下学习的能力、人工智能(AI)或者这些的组合。机器学习可被认为是一类人工智能(AI)。机器学习可在对显式的基于规则的算法进行设计和编程不可行时实现。
在一实施例中,电子学习系统400可提供包括预测、推荐、诸如垃圾邮件过滤之类的过滤、机器学习过程、机器学习功能或者这些的组合的机器学习。在一些实施例中,预测可基于点击或选择广告或广告主,可推荐一个或多个项目,可过滤垃圾,可包括点赞过程,或者这些的组合,来提供例如用于大数据分析的机器学习。
在一实施例中,电子学习系统400也可包括并行或分布式机器学习,其中包括集群计算,用于系统处理器中以及存储内计算(ISC)处理器中的并行处理。用于并行处理的并行或分布式机器学习可至少利用图1的第一控制单元112、图1的第二控制单元134、图1的第一存储单元114、图1的第二存储单元146、图1的第一存储控制单元132、图1的第二存储控制单元152、图1的第一存储介质126、图1的第二存储介质142或者这些的组合来实现。
在一实施例中,电子学习系统400可包括学习设备410,例如机器学习设备,以与图3的机器学习设备310类似的方式其中包括第一学习设备412、第二学习设备414、第三机器设备416或者这些的组合。电子学习系统400也可包括数据块450,例如训练数据块,以与图3的数据块350类似的方式其中包括第一数据块452、第二数据块454、第三数据块456或者这些的组合。
在一实施例中,电子学习系统400可包括模型设备470,例如模型服务器,以与图3的模型设备370类似的方式其中包括第一模型设备472、第二模型设备474或者这些的组合。机器学习设备410、训练数据块450、模型设备470或者这些的组合可至少部分实现为诸如集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、无源设备或者这些的组合之类的硬件。
例如,设备410可利用第一控制单元112、第二控制单元134、第一存储控制单元132、第二存储控制单元152或者这些的组合来实现。数据块450可利用第一存储单元114、第二存储单元146或者这些的组合来实现。模型设备470可利用第一控制单元112、第二控制单元134、第一存储控制单元132、第二存储控制单元152、第一存储单元114、第二存储单元146或者这些的组合来实现。为了说明,机器学习设备410、训练数据块450、模型设备470或者这些的组合被示为分立的块,但要理解,以与电子学习系统200类似的方式,任何块可与任何其他块共享硬件的各部分。
在一实施例中,电子学习系统400可包括用于对模型或模型参数476进行提取、获取、获得、访问、请求、接收或者这些的组合的获得模型过程490,例如第一模型设备472、第二模型设备474、第一模型设备372、第二模型设备374或者这些的组合。可利用学习设备410、学习设备310从模型设备470或模型设备370进行模型的提取、获取、获得、访问、请求、接收或者这些的组合。
在一实施例中,获得模型过程490、机器学习过程、大数据过程、任何其他过程或者这些的组合可包括网络494。网络494以与图1的通信路径104类似的方式可包括多种网络并且可包括网络传送496、网络容量498或者这些的组合。网络传送496可传送模型或模型参数476。网络容量498可包括网络496支持的网络传送494的量。
在一实施例中,学习系统400可提供网络494、网络传送496、网络容量498或者这些的组合的检测、识别、监视、测量、核查或者这些的组合。包括学习设备410、数据块450、模型设备470或者这些的组合的学习系统400可检测或识别网络容量498的问题或瓶颈。
在一实施例中,电子学习系统400可包括获得模型过程490、按与图3的放置模型过程390类似方式的放置模型过程(未示出)、机器学习过程、大数据过程、任何其他过程或者这些的组合。这些过程可为网络494提供组合问题、瓶颈或者这些的组合。类似地,在一实施例中,图3的电子学习系统300可包括获得模型过程490、放置模型过程390、机器学习过程、大数据过程、任何其他过程或者这些的组合,可为图3的网络394提供组合问题、瓶颈或者这些的组合。
为了说明,电子学习系统400和电子学习系统300被示为分立的系统,但要理解电子学习系统400、电子学习系统300、其他系统或者这些的组合可被部分或全部组合。例如,电子学习系统400和电子学习系统300可表示具有不同模式的一个系统。
已发现,学习系统400可检测并行或分布式机器学习系统中的瓶颈。学习系统400可至少检测或识别网络容量498的问题。
现在参考图5,其中示出了本发明的实施例中的电子系统100的电子学习系统500的一部分的框图。以与图2的电子系统200类似的方式,电子学习系统500可利用图1的第一设备102、图1的第二设备106、集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、无源设备或者这些的组合来实现。
在一实施例中,电子学习系统500可提供机器学习。机器学习可包括能够从数据学习的算法,包括让计算机在没有被显式编程的情况下动作、自动化推理、自动化适应、自动化决策、自动化学习、计算机在没有被显式编程的情况下学习的能力、人工智能(AI)或者这些的组合。机器学习可被认为是一类人工智能(AI)。机器学习可在对显式的基于规则的算法进行设计和编程不可行时实现。
在一实施例中,电子学习系统500可提供包括扫描、过滤、预测、推荐、机器学习过程、机器学习功能、大数据分析或者这些的组合的机器学习。电子学习系统500也可包括并行或分布式机器学习,其中包括集群计算,用于系统处理器中以及存储内计算(ISC)处理器中的并行处理。用于并行处理的并行或分布式机器学习可至少利用图1的第一控制单元112、图1的第二控制单元134、图1的第一存储单元114、图1的第二存储单元146、图1的第一存储控制单元132、图1的第二存储控制单元152、图1的第一存储介质126、图1的第二存储介质142或者这些的组合来实现。
在一实施例中,电子学习系统500可包括系统设备512、存储设备514、例如训练数据这样的第一系统数据552、例如训练数据这样的第一存储数据554或者这些的组合。电子学习系统500也可包括第二系统数据562、第二存储数据564,其中第二系统数据562例如是训练数据、第一系统数据552的更新系统数据、第一系统数据552的部分数据、第一系统数据552的智能选择数据、第一系统数据552的智能更新数据或者这些的组合,第二存储数据564例如是训练数据、第一存储数据554的智能更新存储数据、第一存储数据554的部分数据、第一存储数据554的智能选择数据或者这些的组合。电子学习系统500可提供模型设备370。
在一实施例中,电子学习系统500可以包括网络传送596、网络容量598或者这些的组合。学习系统500可提供网络传送596、网络容量598或者这些的组合的检测、识别、监视、测量、核查或者这些的组合。包括系统设备512、存储设备514、第一系统数据552、第一存储数据554、第二系统数据562、第二存储数据564、模型设备370或者这些的组合的学习系统500可检测或识别网络容量398的问题或瓶颈。
已发现,学习系统500可检测并行或分布式机器学习系统中的瓶颈。学习系统500可至少检测或识别网络容量598的问题。
现在参考图6,其中示出了本发明的实施例中的电子系统100的电子学习系统600的一部分的框图。电子学习系统600可利用图1的第一设备102、图1的第二设备106、集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、无源设备或者这些的组合来实现。
在一实施例中,电子学习系统600可提供机器学习。机器学习可包括能够从数据学习的算法,包括让计算机在没有被显式编程的情况下动作、自动化推理、自动化适应、自动化决策、自动化学习、计算机在没有被显式编程的情况下学习的能力、人工智能(AI)或者这些的组合。机器学习可被认为是一类人工智能(AI)。机器学习可在对显式的基于规则的算法进行设计和编程不可行时实现。
在一实施例中,电子学习系统600可提供包括统计机器学习的机器学习,例如包括随机梯度下降(StochasticGradientDescent,SGD)在内的梯度下降优化方法。随机梯度方法可提供更快的收敛速率、改善的步长、并行独立运行多个处理器或者这些的组合。随机梯度方法也可包括随机平均化梯度算法,其提供随机方法的快速初始收敛,完全梯度方法的快速后期收敛——这保持了随机梯度的低廉迭代成本,或者这些的组合。
在一实施例中,电子学习系统600可包括选择块640,其可提供诸如数据选择、批选择、随机批选择或者这些的组合之类的机器学习过程。选择块640可进行接收、处理、选择、划分、发送或者这些的组合。例如,选择块640可处理诸如训练数据之类的第一数据652,诸如第一数据652的部分数据、第一数据652的智能更新数据、第一数据652的智能选择数据之类的第二数据656,或者这些的组合。另外,例如,选择块640可从第一数据652选择或划分第二数据656。
在一实施例中,电子学习系统600也可包括用于计算梯度664的计算块660、用于更新模型的至少一向量674的更新块670或者这些的组合。更新块670也可更新包括向量674在内的模型的全部。选择块640、计算块660和更新块670可至少部分实现为诸如集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、无源设备或者这些的组合之类的硬件。
在一实施例中,具有选择块640、计算块、更新块670或者这些的组合的电子学习系统600可提供包括大数据机器学习、大数据分析或者这些的组合的机器学习。选择块640、计算块、更新块670或者这些的组合可对数据、过程、功能或者这些的组合进行选择、划分或者这些的组合。选择、划分或者这些的组合可提供到存储内计算(ISC)的负荷转移,例如机器学习过程或机器学习功能的负荷转移。负荷转移可提供具有高计算复杂度、高输入和输出(I/O)开销或者这些的组合的功能的分布或划分。
为了说明,选择块640、计算块660、更新块670或者这些的组合被示为分立的块,但要理解任何块可与任何其他块共享硬件的各部分。例如,选择块640、计算块660、更新块670或者这些的组合可共享诸如第一控制单元112、第二控制单元134、第一存储单元114、第二存储单元146或者这些的组合之类的硬件存储器电路或组件的各部分。
另外,为了说明,选择块640、计算块660、更新块670或者这些的组合被示为分立的块,但要理解可包括块的任何数目、组合、分布、分割、划分或者这些的组合。例如,选择块640、计算块660、更新块670或者这些的组合可各自包括分布在多个设备上的多个块。
已发现,具有选择块640、计算块660和更新块670或者这些的组合的电子系统100的电子学习系统600可提供机器学习过程或机器学习功能的负荷转移。具有高计算复杂度、高输入和输出(I/O)开销或者这些的组合的功能可至少部分被分布或划分到存储内计算(ISC)。
现在参考图7,其中示出了本发明的实施例中的电子系统100的电子学习系统700的一部分的框图。电子学习系统700可利用图1的第一设备102、图1的第二设备106、集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、无源设备或者这些的组合来实现。
在一实施例中,电子学习系统700可提供机器学习。机器学习可包括能够从数据学习的算法,包括让计算机在没有被显式编程的情况下动作、自动化推理、自动化适应、自动化决策、自动化学习、计算机在没有被显式编程的情况下学习的能力、人工智能(AI)或者这些的组合。机器学习可被认为是一类人工智能(AI)。机器学习可在对显式的基于规则的算法进行设计和编程不可行时实现。
在一实施例中,电子学习系统700可提供机器学习,包括智能地选择或划分诸如训练数据之类的数据,来为包括并行或分布式机器学习的机器学习提供显著改善的部分数据。显著改善的部分数据可改善模型、向量或者这些的组合的更新。智能选择或划分可提供带有增加的输入和输出(I/O)的更快收敛。
例如,以与电子学习系统600类似的方式,电子学习系统700可提供统计机器学习,例如像包括随机梯度下降(SGD)在内的梯度下降优化方法之类的统计机器学习。包括随机平均化梯度算法在内的随机梯度方法可提供更快的收敛速率、改善的步长、并行独立运行的多个处理器、快速初始收敛、保持随机梯度的低廉迭代成本的全梯度方法的快速后期收敛或者这些的组合。
在一实施例中,电子学习系统700可包括扫描和选择块730,其可提供诸如扫描、选择、或者这些的组合之类的机器学习过程。扫描和选择块730可进行接收、扫描、处理、选择、划分、发送或者这些的组合。例如,扫描和选择块730可对诸如原始数据、用于预处理训练数据的输入数据之类的第一数据752、诸如经预处理的数据、第一数据752的智能选择训练数据、第一数据752的部分数据、第一数据752的智能更新数据、第一数据752的智能选择数据之类的第二数据754或者这些的组合进行智能处理,包括扫描、选择、划分、数据选择、批选择、随机批选择或者这些的组合。另外,例如,扫描块730可从第一数据752智能地选择或划分第二数据754。
在一实施例中,电子学习系统700也可包括用于计算梯度764的计算块760、用于更新包括向量774的模型的至少一向量774的更新块770。更新块770也可更新模型的全部。扫描和选择块730、计算块760和更新块770可至少部分实现为诸如集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、无源设备或者这些的组合之类的硬件。
例如,具有扫描和选择块730、计算块、更新块770或者这些的组合的电子学习系统700可提供包括大数据机器学习、大数据分析或者这些的组合的机器学习。扫描和选择块730、计算块、更新块770或者这些的组合可对数据、过程、功能或者这些的组合进行选择、划分或者这些的组合。选择、划分或者这些的组合可提供到存储内计算(ISC)的负荷转移,例如机器学习过程或机器学习功能的负荷转移。负荷转移可提供具有高计算复杂度、高输入和输出(I/O)开销或者这些的组合的功能的分布或划分。
为了说明,扫描和选择块730、计算块760、更新块770或者这些的组合被示为分立的块,但要理解任何块可与任何其他块共享硬件的各部分。例如,扫描和选择块730、计算块760、更新块770或者这些的组合可共享诸如第一控制单元112、第二控制单元134、第一存储单元114、第二存储单元146或者这些的组合之类的硬件存储器电路或组件的各部分。
另外,为了说明,扫描和选择块730、计算块760、更新块770或者这些的组合被示为分立的块,但要理解可包括块的任何数目、组合、分布、分割、划分或者这些的组合。例如,扫描和选择块730、计算块760、更新块770或者这些的组合可各自包括分布在多个设备上的多个块。
已发现,具有扫描和选择块730、计算块760和更新块770或者这些的组合的电子系统100的电子学习系统700可智能地提供机器学习过程或机器学习功能、尤其是具有增加的输入和输出(I/O)的功能的负荷转移。具有高计算复杂度、高输入和输出(I/O)开销或者这些的组合的功能可至少部分被分布或划分到存储内计算(ISC)。
现在参考图8,其中示出了本发明的实施例中的电子系统100的电子学习系统800的一部分的框图。电子学习系统800可利用图1的第一设备102、图1的第二设备106、集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、无源设备或者这些的组合来实现。
在一实施例中,电子学习系统800可提供机器学习。机器学习可包括能够从数据学习的算法,包括让计算机在没有被显式编程的情况下动作、自动化推理、自动化适应、自动化决策、自动化学习、计算机在没有被显式编程的情况下学习的能力、人工智能(AI)或者这些的组合。机器学习可被认为是一类人工智能(AI)。机器学习可在对显式的基于规则的算法进行设计和编程不可行时实现。
在一实施例中,电子学习系统800可提供包括预测、推荐、诸如垃圾邮件过滤之类的过滤、机器学习过程、机器学习功能或者这些的组合的机器学习。在一些实施例中,预测可包括点击或选择广告或广告主,可推荐一个或多个项目,可过滤垃圾,可包括点赞过程,或者这些的组合,来提供例如用于大数据分析的机器学习。
例如,电子学习系统800可包括并行或分布式机器学习,其中包括集群计算,用于系统处理器中以及存储内计算(ISC)处理器中的并行处理。用于并行处理的并行或分布式机器学习可至少利用图1的第一控制单元112、图1的第二控制单元134、图1的第一存储单元114、图1的第二存储单元146、图1的第一存储控制单元132、图1的第二存储控制单元152、图1的第一存储介质126、图1的第二存储介质142或者这些的组合来实现。
在一实施例中,电子学习系统800可包括学习块810,例如用于实现或执行机器学习算法、大数据机器学习、大数据分析或者这些的组合的机器学习块。学习块810可至少部分实现为诸如集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、无源设备或者这些的组合之类的硬件。
例如,学习块810可提供机器学习,包括并行或分布式处理、集群计算或者这些的组合。学习块810可在系统处理器、存储内计算(ISC)处理器、第一控制单元112、第二控制单元134、第一存储控制单元132、第二存储控制单元152、第一存储单元114、第二存储单元146或者这些的组合中实现。
在一实施例中,以与图6的选择块640、图7的扫描和选择块730或者这些的组合类似的方式,电子学习系统800可包括预处理块830,例如用于包括扫描、过滤、选择、划分、处理、接收、发送或者这些的组合的机器学习过程的扫描和过滤块。预处理块830可智能地选择或划分数据,例如训练数据,以提供显著改善的部分数据。显著改善的部分数据可改善模型、向量或者这些的组合的更新。智能选择或划分可提供带有增加的输入和输出(I/O)的更快收敛。预处理块830可至少部分实现为诸如集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、无源设备或者这些的组合之类的硬件。
在一实施例中,预处理块830可对包括诸如训练数据之类的第一数据块854、第二数据块856或者这些的组合在内的数据进行处理、扫描、过滤、选择、划分、接收、发送或者这些的组合。第二数据块856可包括第一数据块854的智能选择数据、第一数据块854的智能更新数据、第一数据块854的部分数据或者这些的组合。第一数据块854、第二数据块856或者这些的组合是至少部分在诸如集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、无源设备、第一存储单元114、第二存储单元146、第一存储介质126、第二存储介质142或者这些的组合之类的硬件中实现的。
例如,预处理块830可对第一数据块854的一部分或者全部进行处理、扫描、过滤、选择、划分、接收、发送或者这些的组合以提供第二数据块856。第一数据块854可包括原始数据、训练数据、初始数据或者这些的组合。预处理块830可对第一数据块854的一部分或全部进行扫描和过滤以提供第二数据块856的一部分或全部,第二数据块856可包括过滤的数据、选择的数据、划分的数据、训练数据、部分数据、部分训练数据或者这些的组合。
在一实施例中,学习块810可对第二数据块856的一部分或全部进行处理、扫描、过滤、选择、划分、接收、发送或者这些的组合,以提供模型块870的至少一部分,模型块870可包括模型参数、向量、整个模型或者这些的组合。模型870可至少部分在诸如集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、无源设备、第一存储单元114、第二存储单元146、第一存储介质126、第二存储介质142或者这些的组合之类的硬件中实现。
在一实施例中,模型块870可包括具有机器学习数据、分析的大数据、大数据分析或者这些的组合的存储设备。模型块870可在存储设备、存储器设备、系统处理器、存储内计算(ISC)处理器、第一存储单元114、第二存储单元146、第一控制单元112、第二控制单元134、第一存储控制单元132、第二存储控制单元152或者这些的组合中实现。
例如,第一数据块854可包括具有未处理的或者部分处理的数据的存储设备。第一数据块854可在存储设备、存储器设备、第一存储单元114、第二存储单元146、第一存储介质126、第二存储介质142或者这些的组合中实现。第二数据块856可包括具有处理之后的第一数据块854的未处理数据之类的处理后数据的存储设备。第二数据块856可在存储设备、存储器设备、第一存储单元114、第二存储单元146、第一存储介质126、第二存储介质142或者这些的组合中实现。
为了说明,学习块810、预处理块830、第一数据块854、第二数据块856、模型块870或者这些的组合被示为分立的块,但要理解任何块可与任何其他块共享硬件的各部分。例如,第一数据块854、第二数据块856、模型块870或者这些的组合可共享诸如第一存储单元114、第二存储单元146、第一存储介质126、第二存储介质142或者这些的组合之类的硬件存储器电路或组件的各部分。
另外,为了说明,学习块810、预处理块830、模型块870或者这些的组合被示为分立的块,但要理解可包括块的任何数目、组合、分布、分割、划分或者这些的组合。例如,学习块810、预处理块830、模型块870或者这些的组合可各自包括分布在多个设备上的多个块。
已发现,具有学习块810、预处理块830、第一数据块854、第二数据块856、模型块870或者这些的组合的电子学习系统800可提供机器学习,包括并行或分布式处理、集群计算或者这些的组合。电子学习系统800可在系统处理器、存储内计算(ISC)或者这些的组合中实现预处理块830、模型块870或者这些的组合。
现在参考图9,其中示出了本发明的实施例中的电子系统100的电子学习系统900的一部分的框图。电子学习系统900可利用图1的第一设备102、图1的第二设备106、集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、无源设备或者这些的组合来实现。
在一实施例中,电子学习系统900可提供机器学习。机器学习可包括能够从数据学习的算法,包括让计算机在没有被显式编程的情况下动作、自动化推理、自动化适应、自动化决策、自动化学习、计算机在没有被显式编程的情况下学习的能力、人工智能(AI)或者这些的组合。机器学习可被认为是一类人工智能(AI)。机器学习可在对显式的基于规则的算法进行设计和编程不可行时实现。
在一实施例中,电子学习系统900可包括并行或分布式机器学习,其中包括集群计算,用于系统处理器中以及存储内计算(ISC)处理器中的并行处理。用于并行处理的并行或分布式机器学习可至少利用图1的第一控制单元112、图1的第二控制单元134、图1的第一存储单元114、图1的第二存储单元146、图1的第一存储控制单元132、图1的第二存储控制单元152、图1的第一存储介质126、图1的第二存储介质142或者这些的组合来实现。
为了说明,在学习块910作为系统设备912的一部分的情况下示出了电子学习系统900,但要理解存储设备914也可包括其他块,其中包括诸如学习块910之类的学习块。系统设备912也可包括其他块。
在一实施例中,电子学习系统900可包括预处理块930,例如扫描和过滤块,用于扫描、过滤、选择、划分、处理、接收、发送或者这些的组合。预处理块930可智能地选择或划分数据,例如训练数据,以提供显著改善的部分数据。显著改善的部分数据可改善模型、向量或者这些的组合的更新。智能选择或划分可提供带有增加的输入和输出(I/O)的更快收敛。预处理块930可至少部分实现为诸如集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、无源设备或者这些的组合之类的硬件。
例如,预处理块930可处理包括诸如训练数据之类的第一数据块954、第二数据块956或者这些的组合的数据。第二数据块956可包括第一数据块954的智能选择数据、第一数据块954的智能更新数据、第一数据块954的部分数据或者这些的组合。预处理块930可处理从第一数据块954接收的数据并且为第二数据块956提供数据。第一数据块954、第二数据块956或者这些的组合是至少部分在诸如集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、无源设备、第一存储单元114、第二存储单元146、第一存储介质126、第二存储介质142或者这些的组合之类的硬件中实现的。
在一实施例中,学习块910可对第二数据块956的数据进行处理、分析、预测、推荐、过滤、学习、接收、发送或者这些的组合。例如,电子学习系统900可提供预测、推荐、过滤、机器学习过程、机器学习功能或者这些的组合。在一些实施例中,预测例如可基于点击或选择广告或广告主,可推荐一个或多个项目,可过滤垃圾,可包括点赞过程,或者这些的组合,来提供例如用于大数据分析的并行或分布式机器学习。
已发现,具有学习块910、预处理块930、第一数据块954、第二数据块956、系统设备912、存储设备914或者这些的组合的电子学习系统900可提供机器学习,包括并行或分布式处理、集群计算或者这些的组合。预处理块930、模型块970或者这些的组合可在系统设备912、存储设备914或者这些的组合中实现。
现在参考图10,其中示出了本发明的实施例中的电子系统100的电子学习系统1000的一部分的框图。电子学习系统1000可利用图1的第一设备102、图1的第二设备106、集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、无源设备或者这些的组合来实现。例如,预处理可由诸如系统控制单元或中央处理单元(CPU)之类的存储设备或系统设备基于电子系统100如下文进一步描述的那样分析情况或条件以确定分配或指派来执行。
在一实施例中,电子学习系统1000可提供机器学习。机器学习可包括能够从数据学习的算法,包括让计算机在没有被显式编程的情况下动作、自动化推理、自动化适应、自动化决策、自动化学习、计算机在没有被显式编程的情况下学习的能力、人工智能(AI)或者这些的组合。机器学习可被认为是一类人工智能(AI)。机器学习可在对显式的基于规则的算法进行设计和编程不可行时实现。
在一实施例中,电子学习系统1000可提供包括预测、推荐、过滤、机器学习过程、机器学习功能或者这些的组合的机器学习。在一些实施例中,预测例如可基于点击或选择广告或广告主,可推荐一个或多个项目,可过滤垃圾,可包括点赞过程,或者这些的组合,来提供例如用于大数据分析的并行或分布式机器学习。
例如,电子学习系统1000可包括并行或分布式机器学习,其中包括集群计算,用于系统处理器中以及存储内计算(ISC)处理器中的并行处理。用于并行处理的并行或分布式机器学习可至少利用图1的第一控制单元112、图1的第二控制单元134、图1的第一存储单元114、图1的第二存储单元146、图1的第一存储控制单元132、图1的第二存储控制单元152、图1的第一存储介质126、图1的第二存储介质142或者这些的组合来实现。
在一实施例中,电子学习系统1000可包括系统设备1012、存储设备1014、接口1016或者这些的组合。系统设备1012和存储设备1014可通过接口1016与彼此通信或者在每个设备内通信。系统设备1012、存储设备1014和接口1016可至少部分实现为诸如集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、布线、迹线、无源设备或者这些的组合之类的硬件。
在一实施例中,电子学习系统1000可包括学习块1020,例如用于实现或执行机器学习算法、大数据机器学习、大数据分析或者这些的组合的机器学习块。电子学习系统1000可包括存储学习块1024、系统学习块1028或者这些的组合。存储学习块1024、系统学习块1028或者这些的组合可至少部分实现为诸如集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、无源设备或者这些的组合之类的硬件。
例如,存储学习块1024、系统学习块1028或者这些的组合可提供机器学习,包括并行或分布式处理、集群计算或者这些的组合。存储学习块1024、系统学习块1028或者这些的组合可在系统处理器、存储内计算(ISC)处理器、第一控制单元112、第二控制单元134、第一存储控制单元132、第二存储控制单元152、第一存储单元114、第二存储单元146或者这些的组合中实现。
在一实施例中,电子学习系统1000可包括预处理块1030,例如扫描和过滤块,用于扫描、过滤、选择、划分、处理、接收、发送或者这些的组合。预处理块1030可智能地选择或划分数据,例如训练数据,以提供显著改善的部分数据。显著改善的部分数据可改善模型、向量或者这些的组合的更新。智能选择或划分可提供带有增加的输入和输出(I/O)的更快收敛。预处理块1030可至少部分实现为诸如集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、无源设备或者这些的组合之类的硬件。
在一实施例中,预处理块1030也可用存储控制单元1032实现。存储控制单元1032以与第一存储控制单元132或第二存储控制单元152类似的方式可以是处理器、专用集成电路(ASIC)、嵌入式处理器、微处理器、硬件控制逻辑、硬件有限状态机(FSM)、数字信号处理器(DSP)或者这些的组合。类似地,系统控制单元1034以与第二控制单元134或第一控制单元112类似的方式也可以是处理器、专用集成电路(ASIC)、嵌入式处理器、微处理器、硬件控制逻辑、硬件有限状态机(FSM)、数字信号处理器(DSP)、现场可编程门阵列(FPGA)或者这些的组合。
在一实施例中,存储设备1014的预处理块1030可将诸如扫描、过滤、学习或者这些的组合之类的功能1040的负荷从系统控制单元1034转移到存储控制单元1032。类似地,主机可将功能1040的负荷转移到存储控制单元1032。功能1040可包括机器学习、大数据处理、分析大数据、大数据分析或者这些的组合。功能1040、系统设备1012、存储设备1014或者这些的组合可提供调度算法,用于与诸如智能固态存储设备(SSD)之类的存储设备1014的分布式机器学习。
在一实施例中,电子学习系统1000可包括或定义功能1040,其中包括可负荷转移的机器学习组件或功能。可负荷转移的机器学习组件或功能可包括主机器学习算法、过滤、扫描、任何机器学习或者这些的组合。电子学习系统1000也可对可负荷转移的机器学习组件或功能进行分割、划分、选择或者这些的组合。可负荷转移的机器学习组件或功能可针对机器学习的一个或多个迭代被分割、划分、选择或者这些的组合。电子学习系统1000可提供用于动态调度的监视。
为了说明,在预处理块1030在存储设备1014内的情况下示出了电子学习系统1000,但要理解系统设备1012也可包括用于扫描、过滤的功能或块、预处理块1030或者这些的组合。存储设备1014、系统设备1012或者这些的组合也可包括任何数目或类型的块。
例如,预处理块1030可处理数据,例如训练数据、所选数据或者这些的组合,其中包括第一数据块1052、第二数据块1054、第三数据块1056或者这些的组合。预处理块1030可对从第一数据块1052接收的诸如训练数据块之类的数据进行处理、选择、划分或者这些的组合并且为第二数据块1054、第三数据块1056或者这些的组合提供数据。第二数据块1054、第三数据块1056或者这些的组合可包括第一数据块1052的智能选择数据块、第一数据块1052的智能更新数据块、第一数据块1052的部分数据块或者这些的组合。
在一实施例中,第一数据块1052、第二数据块1054、第三数据块1056或者这些的组合可提供用于机器学习的所选数据。第一数据块1052、第二数据块1054、第三数据块1056或者这些的组合可至少部分在诸如集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、无源设备、第一存储单元114、第二存储单元146、第一存储介质126、第二存储介质142或者这些的组合之类的硬件中实现。
在一实施例中,存储学习块1024可对第三数据块1056的数据进行处理、分析、预测、推荐、过滤、学习、接收、发送或者这些的组合。例如,电子学习系统1000可提供预测、推荐、过滤、机器学习过程、机器学习功能或者这些的组合。在一些实施例中,预测例如可基于点击或选择广告或广告主,可推荐一个或多个项目,可过滤垃圾,可包括点赞过程,或者这些的组合,来提供例如用于大数据分析的并行或分布式机器学习。
在一实施例中,电子学习系统1000的系统设备1012可包括编程接口1082,其中可包括应用编程接口(applicationprogramminginterface,API),用于包括系统设备1012外的机器学习过程在内的机器学习。例如,编程接口1082可包括编程语言、C、C++、脚本语言、Perl、Python或者这些的组合。编程接口1082可应用到包括大数据在内的数据,用于所有机器学习过程或算法,包括处理、扫描、过滤、分析、压缩、卡罗需库恩塔克(Karush-Kuhn-Tucker,KKT)过滤、卡罗需库恩塔克(KKT)向量误差过滤、随机过滤、预测、推荐、学习或者这些的组合。
在一实施例中,系统设备1012、存储设备1014或者这些的组合可识别包括瓶颈、资源饱和、压力、限制资源或者这些的组合在内的问题。例如,接口1016可包括饱和的输入和输出(I/O),这可为电子学习系统1000提供减少的I/O。系统设备1012、存储设备1014或者这些的组合可识别接口1016的饱和输入和输出(I/O)并且将包括功能1040在内的处理智能地负荷转移、扼流、并行化、分布或者这些的组合到存储控制单元1032、系统控制单元1034或者这些的组合。
在一实施例中,具有智能负荷转移、扼流、并行化、分布或者这些的组合的系统设备1012、存储设备1014或者这些的组合可缓和包括瓶颈、资源饱和、压力、限制资源或者这些的组合在内的问题。缓和问题可为电子学习系统1000、电子系统100或者这些的组合提供高得多的吞吐量。
例如,编程接口1082可包括“LEARN”命令。“LEARN”命令可包括包含用于利用用于并行或分布式处理的功能1040执行编程接口1082的元数据的信息。系统设备1012、存储设备1014或者这些的组合可包括调度器块1084,调度器块1084可包括高级别编程语言,用于实现功能1040、调度算法、指派功能、指派数据或者这些的组合。
在一实施例中,调度器块1084可包括自组织式每节点调度器并且访问诸如第一存储控制单元132、第二存储控制单元152或者这些的组合之类的存储设备1014的控制单元,以便利用诸如第一控制单元112、第二控制单元134或者这些的组合之类的系统设备1012的控制单元来对机器学习进行选择、划分、分割或者这些的组合。电子学习系统1000可为预处理块1030提供SSD可运行二进制文件以便基于诸如饱和的I/O之类的I/O瓶颈对扫描和过滤、主迭代算法或者这些的组合进行负荷转移以缓和压力。
例如,预处理块1030可基于确定诸如I/O瓶颈、饱和I/O或者这些的组合之类的瓶颈对包括第一数据1052在内的额外数据进行过滤。预处理块1030可基于确定有包括接口1016中的带宽在内的额外带宽而对包括第一数据1052在内的更少数据进行过滤。如果在对扫描和过滤进行负荷转移之后检测到又一个I/O瓶颈,则具有调度器块1084的电子学习系统1000可确定对主迭代算法的至少一部分进行负荷转移。数据可被系统设备1012、存储设备1014或者这些的组合以随机、定期或者这些的组合的方式取回以便确定I/O瓶颈。
在一实施例中,编程接口1082、调度器块1084或者这些的组合也可包括诸如新系统调用、扩展系统调用或者这些的组合之类的系统调用,用于实现编程接口1082、功能1040或者这些的组合。编程接口1082、功能1040或者这些的组合可基于系统信息1086来实现。另外,预处理块1030可基于系统信息1086对第一数据1052进行智能选择、划分、过滤或者这些的组合。
在一实施例中,系统信息1086可包括系统利用率、系统带宽、系统参数、输入和输出(I/O)利用率、存储器利用率、存储器访问、存储装置利用率、存储装置访问、控制单元利用率、控制单元访问、中央处理单元(CPU)利用率、CPU访问、存储器处理器利用率、存储器处理器访问或者这些的组合。系统信息1086可至少部分实现为诸如集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、无源设备、第一存储介质126、第二存储介质142或者这些的组合之类的硬件。
在一实施例中,编程接口1082、功能1040、调度器块1084或者这些的组合也可与服务接口1088通信,服务接口1088可包括web服务接口。例如,服务接口1088可提供与电子学习系统1000、电子系统100或者这些的组合外部的服务的通信。服务接口1088可与用于构建诸如代表性状态转移(representationalstatetransfer,REST)之类的客户端-服务器应用、诸如简单对象访问协议(simpleobjectaccessprotocol,SOAP)之类的用于交换数据的协议规范、电子系统100外部的服务、电子系统100外部的协议、电子系统100外部的体系结构或者这些的组合的体系结构通信。
在一实施例中,存储设备1014可包括闪存、固态驱动器(solid-statedrive,SSD)、相变存储器(phase-changememory,PCM)、自旋转矩随机访问存储器(spin-transfertorquerandomaccessmemory,STT-RAM)、电阻性随机访问存储器(resistiverandomaccessmemory,ReRAM)、磁阻性随机访问存储器(magentoresistiverandomaccessmemory,MRAM)、任何存储设备、任何存储器设备或者这些的组合。存储设备1014和系统设备1012可与接口1016连接,接口1016包括存储器总线、串行附接小型计算机系统接口(serialattachedsmallcomputersysteminterface,SAS)、串行附接高级技术附件(serialattachedadvancedtechnologyattachment,SATA)、高速非易失性存储器(non-volatilememoryexpress,NVMe)、光纤信道、以太网、远程直接存储器访问(remotedirectmemoryaccess,RDMA)、任何接口或者这些的组合。
为了说明,在每个组件有一个的情况下示出了电子学习系统1000,但要理解可包括任何数目的组件。例如,电子学习系统1000可包括多于一个存储设备1014、第一数据块1052、第二数据块1054、第三数据块1056、任何组件或者这些的组合。预测、推荐、过滤、机器学习过程、机器学习功能、或者这些的组合可提供例如用于大数据分析的机器学习。类似地,系统学习块1028、存储学习块1024或者这些的组合可对第二数据块1054的数据进行处理、分析、预测、推荐、过滤、学习、接收、发送或者这些的组合以用于预测、推荐、过滤、机器学习过程、机器学习功能或者这些的组合。
已发现,具有系统设备1012、存储设备1014的电子系统100的电子学习系统1000可利用智能处理负荷转移、扼流、并行化、分布或者这些的组合来识别并缓和问题。智能处理负荷转移、扼流、并行化、分布或者这些的组合可通过至少避免接口1016瓶颈、资源饱和、压力或者这些的组合,将存储设备1014中的更高带宽用于功能1040,来显著改善性能。
现在参考图11,其中示出了本发明的实施例中的电子系统100的电子学习系统1100的一部分的框图。电子学习系统1100可利用图1的第一设备102、图1的第二设备106、集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、无源设备或者这些的组合来实现。
在一实施例中,电子学习系统1100可提供机器学习。机器学习可包括能够从数据学习的算法,包括让计算机在没有被显式编程的情况下动作、自动化推理、自动化适应、自动化决策、自动化学习、计算机在没有被显式编程的情况下学习的能力、人工智能(AI)或者这些的组合。机器学习可被认为是一类人工智能(AI)。机器学习可在对显式的基于规则的算法进行设计和编程不可行时实现。
在一实施例中,电子学习系统1100提供包括预测、推荐、过滤、机器学习过程、机器学习功能或者这些的组合的机器学习。在一些实施例中,预测例如可基于点击或选择广告或广告主,可推荐一个或多个项目,可过滤垃圾,可包括点赞过程,或者这些的组合,来提供例如用于大数据分析的并行或分布式机器学习。
例如,电子学习系统1100可包括并行或分布式机器学习,其中包括集群计算,用于系统处理器中以及存储内计算(ISC)处理器中的并行处理。用于并行处理的并行或分布式机器学习可至少利用图1的第一控制单元112、图1的第二控制单元134、图1的第一存储单元114、图1的第二存储单元146、图1的第一存储控制单元132、图1的第二存储控制单元152、图1的第一存储介质126、图1的第二存储介质142或者这些的组合来实现。
在一实施例中,电子学习系统1100可包括系统设备1112、存储设备1114、接口1116或者这些的组合。系统设备1112和存储设备1114可通过接口1116与彼此通信或者在每个设备内通信。系统设备1112、存储设备1114和接口1116可至少部分实现为诸如集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、布线、迹线、无源设备或者这些的组合之类的硬件。
在一实施例中,电子学习系统1100可包括学习块1120,例如用于实现或执行机器学习算法、大数据机器学习、大数据分析或者这些的组合的机器学习块。电子学习系统1100可包括存储学习块1124、系统学习块1128或者这些的组合。存储学习块1124、系统学习块1128或者这些的组合可至少部分实现为诸如集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、无源设备或者这些的组合之类的硬件。
例如,存储学习块1124、系统学习块1128或者这些的组合可提供机器学习,包括并行或分布式处理、集群计算或者这些的组合。存储学习块1124、系统学习块1128或者这些的组合可在系统处理器、存储内计算(ISC)处理器、第一控制单元112、第二控制单元134、第一存储控制单元132、第二存储控制单元152、第一存储单元114、第二存储单元146或者这些的组合中实现。
在一实施例中,电子学习系统1100可包括自适应块1130,例如自适应预处理块,其可包括用于扫描、过滤、选择、划分、处理、接收、发送或者这些的组合的块。诸如扫描和过滤块之类的自适应块1130可至少部分实现为诸如集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、无源设备或者这些的组合之类的硬件。例如,作为自适应预处理块的自适应块1130可基于动态系统行为监视对诸如训练数据之类的数据进行智能选择或划分,以便提供显著改善的部分数据,这可改善模型、向量或者这些的组合的更新,并且可提供带有增加的输入和输出(I/O)的更快收敛。
在一实施例中,自适应块1130也可用存储控制单元1132实现。存储控制单元1132以与第一存储控制单元132或第二存储控制单元152类似的方式可以是处理器、专用集成电路(ASIC)、嵌入式处理器、微处理器、硬件控制逻辑、硬件有限状态机(FSM)、数字信号处理器(DSP)、现场可编程门阵列(FPGA)或者这些的组合。类似地,系统控制单元1134以与第二控制单元134或第一控制单元112类似的方式也可以是处理器、专用集成电路(ASIC)、嵌入式处理器、微处理器、硬件控制逻辑、硬件有限状态机(FSM)、数字信号处理器(DSP)、现场可编程门阵列(FPGA)或者这些的组合。
在一实施例中,自适应块1130可包括选择块1140,选择块1140可计算自适应选择比率、自适应学习比率、图7的梯度764或者这些的组合。存储设备1114的自适应块1130可将诸如扫描、过滤、选择、划分、处理、接收、发送、学习或者这些的组合之类的包括图10的功能1040在内的功能从系统控制单元1134负荷转移到存储控制单元1132、从存储控制单元1132负荷转移到系统控制单元1134或者这些的组合。功能可包括机器学习、大数据处理、分析大数据、大数据分析或者这些的组合。例如,自适应块1130可利用自适应选择比率为诸如扫描和选择之类的功能确定系统资源利用率和存储带宽,以及利用自适应学习比率为诸如机器学习之类的功能确定系统资源利用率和存储带宽。基于自适应选择比率、学习比率或者这些的组合,自适应块1130可利用负荷转移比率控制主机计算和存储计算。
在一实施例中,自适应块1130、系统设备1112、存储设备1114或者这些的组合可提供用于利用系统设备1112、存储设备1114或者这些的组合分布机器学习的调度。诸如智能固态存储设备(SSD)之类的存储设备1114中的一个或多个可提供负荷转移机器学习、分布机器学习、划分机器学习或者这些的组合。
在一实施例中,电子学习系统1100可包括或定义包括可负荷转移的机器学习组件或功能在内的功能。可负荷转移的机器学习组件或可负荷转移的机器学习过程或者机器学习功能可包括主机器学习算法、过滤、扫描、预处理功能、任何机器学习或者这些的组合。电子学习系统1100也可对可负荷转移的机器学习组件或功能进行分割、划分、选择、负荷转移或者这些的组合。可负荷转移的机器学习组件或功能可针对机器学习的一个或多个迭代被分割、划分、选择或者这些的组合。电子学习系统1100可提供用于动态调度的监视。
为了说明,利用存储设备1114的自适应块1130示出了电子学习系统1100,但要理解系统设备1112也可包括自适应块1130、例如选择块1140之类的选择块、功能、用于扫描的块、用于过滤的块或者这些的组合。存储设备1114、系统设备1112或者这些的组合也可包括任何数目或类型的块。
在一实施例中,自适应块1130可对包括第一数据块1152、第二数据块1154、第三数据块1156或者这些的组合在内的诸如训练数据、所选数据或者这些的组合之类的数据进行处理、选择、划分或者这些的组合。自适应块1130可对从第一数据块1152接收的诸如训练数据块之类的数据进行处理,并且为第二数据块1154提供诸如所选系统数据块之类的数据,为第三数据块1156提供诸如所选存储数据块之类的数据,或者这些的组合。第二数据块1154、第三数据块1156或者这些的组合可包括第一数据块1152的智能选择数据块、第一数据块1152的智能更新数据块、第一数据块1152的部分数据块或者这些的组合。
第一数据块1152、第二数据块1154、第三数据块1156或者这些的组合可提供用于并行或分布式机器学习的所选数据。第一数据块1152、第二数据块1154、第三数据块1156或者这些的组合可至少部分在诸如集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、无源设备、第一存储单元114、第二存储单元146、第一存储介质126、第二存储介质142或者这些的组合之类的硬件中实现。
在一实施例中,存储学习块1124可对第三数据块1156的数据进行处理、分析、预测、推荐、过滤、学习、接收、发送或者这些的组合。例如,电子学习系统1100可基于点击或选择广告或广告主、推荐一个或多个项目、过滤垃圾或者这些的组合来提供预测、推荐、过滤、机器学习过程、机器学习功能或者这些的组合。在一些实施例中,预测可基于点击或选择广告或广告主,可推荐一个或多个项目,可过滤垃圾,可包括点赞过程,或者这些的组合,来提供例如用于大数据分析的并行或分布式机器学习。类似地,系统学习块1128可对第二数据块1154的数据进行处理、分析、预测、推荐、过滤、学习、接收、发送或者这些的组合以用于预测、推荐、过滤、机器学习过程、机器学习功能或者这些的组合。
在一实施例中,电子学习系统1100的系统设备1112可包括编程接口,例如图10的编程接口1082,用于包括系统设备1112之外的机器学习过程在内的并行或分布式机器学习。命令可应用到包括大数据在内的数据,用于所有机器学习过程或算法,包括处理、扫描、过滤、分析、压缩、卡罗需库恩塔克(KKT)过滤、卡罗需库恩塔克(KKT)向量误差过滤、随机过滤、预测、推荐、学习或者这些的组合。
在一实施例中,系统设备1112、存储设备1114或者这些的组合可识别包括瓶颈、资源饱和、压力、限制资源或者这些的组合在内的问题。例如,接口1116可包括饱和的输入和输出(I/O),这可为电子学习系统1100提供减少的I/O。系统设备1112、存储设备1114或者这些的组合可识别接口1116的饱和输入和输出(I/O)并且将包括例如图10的功能1040之类的功能在内的处理智能地负荷转移、扼流、并行化、分布或者这些的组合在存储控制单元1132、系统控制单元1134或者这些的组合上。
在一实施例中,具有智能负荷转移、扼流、并行化、分布或者这些的组合的自适应块1130、系统设备1112、存储设备1114或者这些的组合可缓和包括瓶颈、资源饱和、压力、限制资源或者这些的组合在内的问题。缓和问题可为电子学习系统1100、电子系统110或者这些的组合提供高得多的吞吐量。
在一实施例中,系统设备1112、存储设备1114或者这些的组合可包括调度器块1184,调度器块1184可包括高级别编程语言,用于实现功能、调度算法、指派功能、指派数据或者这些的组合。调度器块1184可包括自组织式每节点调度器并且访问诸如第一存储控制单元132、第二存储控制单元152或者这些的组合之类的存储设备1114的控制单元,以便利用诸如第一控制单元112、第二控制单元134或者这些的组合之类的系统设备1112的控制单元来对并行或分布式机器学习进行选择、划分、分割或者这些的组合。电子学习系统1100可为自适应块1130提供SSD可运行二进制文件以便基于诸如饱和的I/O之类的I/O瓶颈对扫描和过滤、主迭代算法或者这些的组合进行负荷转移以缓和压力。
例如,自适应块1130可基于确定诸如I/O瓶颈、饱和I/O或者这些的组合之类的瓶颈对包括第一数据1152在内的额外数据进行过滤。自适应块1130可基于确定有包括接口1116中的带宽在内的额外带宽而对包括第一数据1152在内的更少数据进行过滤。如果在对扫描和过滤进行负荷转移之后检测到又一个I/O瓶颈,则具有调度器块1184的电子学习系统1100可确定对主迭代算法的至少一部分进行负荷转移。数据可被系统设备1112、存储设备1114或者这些的组合以随机、定期或者这些的组合的方式取回以便确定I/O瓶颈。
在一实施例中,以与电子学习系统1000类似的方式,系统设备1112、存储设备1114或者这些的组合也可包括编程接口,例如图10的调度器块1084,其可包括高级别编程语言,用于实现命令、功能、调度算法、指派功能、指派数据或者这些的组合。
在一实施例中,命令、编程接口或者这些的组合可包括诸如新系统调用、扩展系统调用、系统状态、输入和输出带宽的系统状态、计算利用率的系统状态、扼流的系统状态或者这些的组合之类的系统调用,用于实现命令、功能或者这些的组合。命令、编程接口或者这些的组合可基于系统信息1186。另外,自适应块1130可基于系统信息1186对第一数据1152进行智能选择、划分或者这些的组合。
在一实施例中,系统信息1186可包括系统利用率、系统带宽、系统参数、输入和输出(I/O)利用率、存储器利用率、存储器访问、存储装置利用率、存储装置访问、控制单元利用率、控制单元访问、中央处理单元(CPU)利用率、CPU访问、存储器处理器利用率、存储器处理器访问或者这些的组合。系统信息1186可至少部分实现为诸如集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、无源设备、第一存储介质126、第二存储介质142或者这些的组合之类的硬件。
在一实施例中,系统设备1112、存储设备1114或者这些的组合也可与服务接口通信,例如图10的服务接口1088,其可包括web服务接口。服务接口可提供与电子学习系统1100、电子系统110或者这些的组合外部的服务的通信。
在一实施例中,存储设备1114可包括闪存、固态驱动器(SSD)、相变存储器(PCM)、自旋转矩随机访问存储器(STT-RAM)、电阻性随机访问存储器(ReRAM)、磁阻性随机访问存储器(MRAM)、任何存储设备、任何存储器设备或者这些的组合。存储设备1114和系统设备1112可与接口1116连接,接口1116包括存储器总线、串行附接小型计算机系统接口(SAS)、串行附接高级技术附件(SATA)、高速非易失性存储器(NVMe)、光纤信道、以太网、远程直接存储器访问(RDMA)、任何接口或者这些的组合。
为了说明,在每个组件有一个的情况下示出了电子学习系统1100,但要理解可包括任何数目的组件。例如,电子学习系统1100可包括多于一个存储设备1114、第一数据块1152、第二数据块1154、第三数据块1156、任何组件或者这些的组合。
已发现,具有自适应块1130、存储学习块1124、系统学习块1128或者这些的组合的电子学习系统1100可利用智能处理负荷转移、扼流、并行化、分布或者这些的组合来识别并缓和问题。智能处理负荷转移、扼流、并行化、分布或者这些的组合可通过至少避免接口1116瓶颈、资源饱和、压力或者这些的组合,利用系统设备1112、存储设备1114或者这些的组合中的更高带宽,来显著改善性能。
现在参考图12,其中示出了本发明的实施例中的电子系统100的电子学习系统1200的一部分的框图。电子学习系统1200可利用图1的第一设备102、图1的第二设备106、集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、无源设备或者这些的组合来实现。
在一实施例中,电子学习系统1200可对机器学习算法进行控制、放置或者这些的组合并且可被包括在图11的自适应块1130或者图10的预处理块1030中。机器学习可包括能够从数据学习的算法,包括让计算机在没有被显式编程的情况下动作、自动化推理、自动化适应、自动化决策、自动化学习、计算机在没有被显式编程的情况下学习的能力、人工智能(AI)或者这些的组合。机器学习可被认为是一类人工智能(AI)。机器学习可在对显式的基于规则的算法进行设计和编程不可行时实现。
在一实施例中,电子学习系统1200可包括并行或分布式机器学习,其中包括集群计算,用于系统处理器中以及存储内计算(ISC)处理器中的并行处理。用于并行处理的并行或分布式机器学习可至少利用图1的第一控制单元112、图1的第二控制单元134、图1的第一存储单元114、图1的第二存储单元146、图1的第一存储控制单元132、图1的第二存储控制单元152、图1的第一存储介质126、图1的第二存储介质142或者这些的组合来实现。
在一实施例中,电子学习系统1200可包括用于诸如扫描、过滤、预测、推荐、机器学习过程、机器学习功能、大数据分析或者这些的组合之类的并行或分布式机器学习的自适应过程。自适应过程可包括控制参数、选择比率、学习比率、主机计算对存储计算比率或者这些的组合,用于包括系统、存储内计算(ISC)、固态存储设备(SSD)或者这些的组合在内的并行或分布式机器学习和硬件控制。
例如,电子学习系统1200可智能地选择或划分数据,例如训练数据,以提供显著改善的部分数据。显著改善的部分数据可改善模型、向量或者这些的组合的更新。智能选择或划分可提供带有增加的输入和输出(I/O)的更快收敛。
在一实施例中,电子学习系统1200可包括诸如机器学习块之类的学习块1220、诸如自适应机制块之类的自适应块1230、诸如负荷转移块之类的负荷块1250、存储内计算(ISC)或者这些的组合。学习块1220、自适应块1230、负荷块1250或者这些的组合可至少部分实现为诸如集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、无源设备或者这些的组合之类的硬件。例如,学习块1220可提供学习速率,这些学习速率可被输入到机器学习算法、机器学习块、图11的学习块1120、图10的学习块1020、图9的学习块910、图8的学习块810、图2的学习块210或者这些的组合中。
在一实施例中,自适应块1230可对自适应选择参数1252、自适应学习参数1254、自适应负荷参数1256或者这些的组合进行处理、计算、确定或者这些的组合。自适应选择参数1252、自适应学习参数1254、自适应负荷参数1256或者这些的组合可至少部分在诸如集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、无源设备或者这些的组合之类的硬件中实现。例如,作为自适应预处理块的自适应块1230可对用于基于动态系统行为监视划分数据的参数进行智能处理、计算、确定或者这些的组合。
例如,学习块1220、自适应块1230、负荷块1250或者这些的组合可至少部分利用第一控制单元112、第二控制单元134、第一存储控制单元132、第二存储控制单元152或者这些的组合来实现。自适应选择参数1252、自适应学习参数1254、自适应负荷参数1256或者这些的组合可至少部分利用第一存储单元114、第二存储单元146、第一存储介质126、第二存储介质142或者这些的组合来实现。
在一实施例中,自适应块1230可对包括自适应选择参数1252、自适应学习参数1254或者这些的组合在内的软件控制参数进行处理,用于包括学习块1220、预处理块1240或者这些的组合的机器学习算法的并行或分布式机器学习过程。诸如自适应选择参数1252、自适应学习参数1254或者这些的组合之类的软件控制可包括机器学习算法、选择比率、学习比率或者这些的组合的控制参数。例如,预处理块1240可提供诸如扫描、选择、任何机器学习过程、任何机器学习功能或者这些的组合之类的预处理功能,并且可基于选择比率。
在一实施例中,自适应块1230可以为负荷块1250的负荷转移过程处理包括自适应负荷参数1256在内的硬件控制参数,该负荷转移过程可包括为存储内计算(ISC)、智能固态存储设备(SSD)或者这些的组合利用并行处理对机器学习进行负荷转移。诸如自适应负荷参数1256之类的硬件控制可控制主机计算对存储计算的比率、负荷转移比率或者这些的组合。
在一实施例中,自适应选择参数1252、自适应学习参数1254、自适应负荷参数1256或者这些的组合可分别包括由自适应块1230基于系统信息1280计算出的选择比率、学习比率、负荷比率,其中系统信息1280包括系统利用率、系统带宽、系统参数、输入和输出(I/O)利用率、存储器利用率、存储器访问、存储装置利用率、存储装置访问、控制单元利用率、控制单元访问、中央处理单元(CPU)利用率、CPU访问、存储处理器利用率、存储处理器访问或者这些的组合。系统信息1280可在诸如集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、无源设备、第一存储单元114、第二存储单元146、第一存储介质126、第二存储介质142或者这些的组合之类的硬件中实现。
为了说明,在自适应块1230、自适应选择参数1252、自适应学习参数1254、自适应负荷参数1256或者这些的组合的每一者有一个的情况下示出了电子学习系统1200,但要理解电子学习系统1200可包括任何数目的块,例如自适应块1230、自适应选择参数1252、自适应学习参数1254、自适应负荷参数1256或者这些的组合。
已发现,具有系统信息1280的电子学习系统1200基于包括自适应选择参数1252、自适应学习参数1254、自适应负荷参数1256或者这些的组合的自适应块1230提供并行或分布式机器学习,包括集群计算,用于系统处理器中以及存储内计算(ISC)处理器中的并行处理,以获得带有增加的输入和输出(I/O)的更快收敛。自适应块1230利用系统信息1280可智能地选择或划分数据,例如训练数据,以提供显著改善的部分数据。
现在参考图13,其中示出了本发明的实施例中的电子系统100的电子学习系统1300的一部分的框图。电子学习系统1300可利用图1的第一设备102、图1的第二设备106、集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、无源设备或者这些的组合来实现。
在一实施例中,电子学习系统1300可提供机器学习。机器学习可包括能够从数据学习的算法,包括让计算机在没有被显式编程的情况下动作、自动化推理、自动化适应、自动化决策、自动化学习、计算机在没有被显式编程的情况下学习的能力、人工智能(AI)或者这些的组合。机器学习可被认为是一类人工智能(AI)。机器学习可在对显式的基于规则的算法进行设计和编程不可行时实现。
在一实施例中,电子学习系统1300可包括并行或分布式机器学习,其中包括集群计算,用于系统处理器中以及存储内计算(ISC)处理器中的并行处理。用于并行处理的并行或分布式机器学习可至少利用图1的第一控制单元112、图1的第二控制单元134、图1的第一存储单元114、图1的第二存储单元146、图1的第一存储控制单元132、图1的第二存储控制单元152、图1的第一存储介质126、图1的第二存储介质142或者这些的组合来实现。
在一实施例中,电子学习系统1300可包括用于诸如扫描、过滤、预测、推荐、机器学习过程、机器学习功能、大数据分析或者这些的组合之类的机器学习的自适应过程。自适应过程可包括控制参数、选择比率、学习比率、主机计算对存储计算比率或者这些的组合,用于包括系统、存储内计算(ISC)、固态存储设备(SSD)或者这些的组合在内的并行或分布式机器学习和硬件控制。
例如,电子学习系统1300可智能地选择或划分数据,例如训练数据,以提供显著改善的部分数据。显著改善的部分数据可改善模型、向量或者这些的组合的更新。智能选择或划分可提供带有增加的输入和输出(I/O)的更快收敛。
在一实施例中,电子学习系统1300可包括第一计算设备1312、第二计算设备1314、第三计算设备1316或者这些的组合。第一计算设备1312、第二计算设备1314、第三计算设备1316或者这些的组合可实现为系统设备或存储设备,例如图5的系统设备512、图5的存储设备514、图9的系统设备912、图9的存储设备914、图10的系统设备1012、图10的存储设备1014、图11的系统设备1112、图11的存储设备1114、第一设备102、第二设备106、任何计算设备或者这些的组合。为了说明,以三个计算设备示出了电子学习系统1300,但要理解可包括任何数目和类型的计算设备。
在一实施例中,电子学习系统1300可包括模型设备1370,例如模型服务器。模型设备可实现为系统设备、存储设备或者这些的组合。模型设备1370可包括但不要求计算资源。模型设备1370基于机器学习数据、大数据机器学习、分析的大数据、大数据分析或者这些的组合可包括机器学习数据、向量、参数、模型或者这些的组合。
为了说明,第一计算设备1312、第二计算设备1314、第三计算设备1316、模型服务器1370或者这些的组合被示为分立的块,但要理解任何块可与任何其他块共享硬件的各部分。例如,第一计算设备1312、第二计算设备1314、第三计算设备1316、模型服务器或者这些的组合可共享硬件电路或组件的各部分。
电子学习系统1300可包括例如存储设备计算模型之类的第一模型1372的至少一向量。电子学习系统1300也可包括诸如主机设备或系统设备计算模型之类的第二模型1374的至少一向量。电子学习系统1300可以为第一模型1372、第二模型1374或者这些的组合提供新的或更新的模型的至少一向量。第一模型1372、第二模型1374或者这些的组合可在模型设备1370上被提供、存储、更新、修改、写入、记录、输入、修正、替换或者这些的组合。
为了说明,第一模型1372被示为存储设备计算模型,但要理解可利用任何设备计算第一模型1372。类似地,为了说明,第二模型1374被示为主机或系统计算模型,但要理解可利用任何设备计算第二模型1374。
调度器1380可以为第一计算设备1312、第二计算设备1314、第三计算设备1316、模型服务器1370或者这些的组合进行数据、任务、功能、操作或者这些的组合的智能指派。诸如训练数据之类的数据的智能选择或划分可提供显著改善的部分数据。显著改善的部分数据可改善模型、向量或者这些的组合的更新。智能选择或划分可提供带有增加的输入和输出(I/O)的更快收敛。
调度器1380可包括第一调度器块1382、第二调度器块1384、第三调度器块1386或者这些的组合,并且可包括高级别编程语言,用于实现诸如图10的功能1040之类的功能、调度算法、指派功能、指派数据或者这些的组合。第一调度器块1382、第二调度器块1384、第三调度器块1386或者这些的组合可包括第一计算设备1312、第二计算设备1314、第三计算设备1316或者这些的组合的自组织式每节点调度器和访问控制单元,用于选择、划分、分割、机器学习或者这些的组合。
为了说明,调度器1380被示为有三个块,例如第一调度器块1382、第二调度器块1384、第三调度器块1386或者这些的组合,但要理解调度器1380可包括任何数目的块。调度器1380也可充当具有诸如第一调度器块1382、第二调度器块1384、第三调度器块1386或者这些的组合之类的多个子块的单个块。
已发现,具有调度器1380的电子学习系统1300可对包括大数据分析在内的并行或分布式机器学习进行智能选择、划分、分割或者这些的组合。调度器1380可对数据、过程、分析、功能、学习或者这些的组合进行智能负荷转移、选择、划分、分割或者这些的组合,用于利用第一计算设备1312、第二计算设备1314、第三计算设备1316或者这些的组合提供第一模型1372和第二模型1374。
现在参考图14,其中示出了本发明的实施例中的电子系统100的电子学习系统1400的过程流程。电子学习系统1400可利用图1的第一设备102、图1的第二设备106、集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、无源设备或者这些的组合来实现。
在一实施例中,电子学习系统1400可提供机器学习。机器学习可包括能够从数据学习的算法,包括让计算机在没有被显式编程的情况下动作、自动化推理、自动化适应、自动化决策、自动化学习、计算机在没有被显式编程的情况下学习的能力、人工智能(AI)或者这些的组合。机器学习可被认为是一类人工智能(AI)。机器学习可在对显式的基于规则的算法进行设计和编程不可行时实现。
在一实施例中,电子学习系统1400可包括并行或分布式机器学习,其中包括集群计算,用于系统处理器中以及存储内计算(ISC)处理器中的并行处理。用于并行处理的并行或分布式机器学习可至少利用图1的第一控制单元112、图1的第二控制单元134、图1的第一存储单元114、图1的第二存储单元146、图1的第一存储控制单元132、图1的第二存储控制单元152、图1的第一存储介质126、图1的第二存储介质142或者这些的组合来实现。
在一实施例中,电子学习系统1400可包括用于诸如扫描、过滤、预测、推荐、机器学习过程、机器学习功能、大数据分析或者这些的组合之类的并行或分布式机器学习的自适应过程。自适应过程可包括控制参数、选择比率、学习比率、主机计算对存储计算比率或者这些的组合,用于包括系统、存储内计算(ISC)、固态存储设备(SSD)或者这些的组合在内的并行或分布式机器学习和硬件控制。
例如,电子学习系统1400可智能地选择或划分数据,例如训练数据,以提供显著改善的部分数据。显著改善的部分数据可改善模型、向量或者这些的组合的更新。智能选择或划分可提供带有增加的输入和输出(I/O)的更快收敛。
在一实施例中,电子学习系统1400可包括过程的开始1410、第一检测过程1420、负荷转移过程1430、监视过程1440、第二检测过程1450、扼流过程1460、核查过程1470、过程的结束1480或者这些的组合。电子学习系统1400的过程流程可包括基于持续的瓶颈的每个过程的迭代。为了说明,示出了两个检测过程,但要理解可包括任何数目的检测过程。另外,为了说明,示出了其他过程的每一者的一个,但要理解可包括任何数目或类型的过程。
在一实施例中,第一检测过程1420可检测电子系统100的诸如瓶颈、资源饱和、压力、有限资源或者这些的组合之类的问题。例如,第一检测过程1420可检测系统或主机设备和存储设备的输入和输出问题。基于检测到问题,第一检测过程1420可继续、指向、取消或调用负荷转移过程1430。基于没有检测到问题,第一检测过程1420可继续、指向、取消或调用监视过程1440。
在一实施例中,负荷转移过程1430可提供智能处理,其中包括选择的处理、划分的处理、并行处理、分布式处理或者这些的组合。负荷转移过程1430可对包括数据、任务、过程、功能、大数据、分析或者这些的组合在内的机器学习进行选择、划分、并行化、分布或者这些的组合。例如,负荷转移过程1430可以从主机或系统为存储内计算(ISC)分布数据和过程。负荷转移过程1430可继续、指向或调用监视过程1440。
在一实施例中,监视过程1440可提供第一检测过程1420检测到的诸如瓶颈、资源饱和、压力、有限资源或者这些的组合之类的问题的检测、识别、监视、测量、核查或者这些的组合。监视过程1440可继续、指向或调用第二检测过程1450。
在一实施例中,第二检测过程1450可检测电子系统100的诸如瓶颈、资源饱和、压力、有限资源或者这些的组合之类的问题。例如,第二检测过程1450可检测系统或主机设备和存储设备的输入和输出问题。基于检测到问题,第二检测过程1450可继续、指向或调用扼流过程1460。基于没有检测到问题,第二检测过程1450可继续、指向或调用核查过程1470。
在一实施例中,扼流过程1460可提供智能处理,其中包括选择的处理、划分的处理、并行处理、分布式处理或者这些的组合。扼流过程1460可对包括数据、任务、过程、功能、大数据、分析或者这些的组合在内的机器学习进行选择、划分、并行化、分布或者这些的组合。例如,扼流过程1460可从主机或系统为存储内计算(ISC)分布数据和过程。扼流过程1460可继续、指向或调用核查过程1470。
在一实施例中,核查过程1470可确定电子系统100的诸如瓶颈、资源饱和、压力、有限资源或者这些的组合之类的问题的解决、完成、结束或者这些的组合。基于确定电子系统100的问题被解决,核查过程1470可继续、指向或调用过程的结束1480。基于确定电子系统100的问题未解决,核查过程1470可继续、指向或调用监视过程1440。
已发现,包括第一检测过程1420、负荷转移过程1430、监视过程1440、第二检测过程1450、扼流过程1460、核查过程1470或者这些的组合的电子学习系统1400的过程流程可包括迭代,直到瓶颈被解决为止。第一检测过程1420、第二检测过程1450、核查过程1470或者这些的组合可基于对未解决瓶颈的持续检测而迭代。
现在参考图15,其中示出了本发明的实施例中的电子系统100的电子学习系统1500的一部分的框图。电子学习系统1500可利用图1的第一设备102、图1的第二设备106、集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、无源设备或者这些的组合来实现。
在一实施例中,电子学习系统1500可提供机器学习。机器学习可包括能够从数据学习的算法,包括让计算机在没有被显式编程的情况下动作、自动化推理、自动化适应、自动化决策、自动化学习、计算机在没有被显式编程的情况下学习的能力、人工智能(AI)或者这些的组合。机器学习可被认为是一类人工智能(AI)。机器学习可在对显式的基于规则的算法进行设计和编程不可行时实现。
在一实施例中,电子学习系统1500提供包括预测、推荐、过滤、机器学习过程、机器学习功能或者这些的组合的机器学习。在一些实施例中,预测例如可基于点击或选择广告或广告主,可推荐一个或多个项目,可过滤垃圾,可包括点赞过程,或者这些的组合,来提供例如用于大数据分析的并行或分布式机器学习。
例如,电子学习系统1500可包括并行或分布式机器学习,其中包括集群计算,用于系统处理器中以及存储内计算(ISC)处理器中的并行处理。用于并行处理的并行或分布式机器学习可至少利用图1的第一控制单元112、图1的第二控制单元134、图1的第一存储单元114、图1的第二存储单元146、图1的第一存储控制单元132、图1的第二存储控制单元152、图1的第一存储介质126、图1的第二存储介质142或者这些的组合来实现。
在一实施例中,电子学习系统1500可包括诸如系统设备之类的主机设备1512、存储设备1514或者这些的组合。主机设备1512和存储设备可利用第一设备102、第一设备102的任何子组件、第二设备106、第二设备106的任何子组件、集成电路、集成电路核、集成电路组件、微机电系统(MEMS)、无源设备或者这些的组合来实现。
在一实施例中,主机设备1512可利用接口1516与存储设备1514通信。接口1516可包括串行附接小型计算机系统接口(SAS)、串行附接高级技术附件(SATA)、高速非易失性存储器(NVMe)、光纤信道(Fiberchannel,FC)、以太网、远程直接存储器访问(RDMA)、InfiniBand(IB)、任何接口或者这些的组合
在一实施例中,存储设备1514可包括学习引擎1524、存储中央处理单元(CPU)1532或者这些的组合。一个或多个存储CPU1524可提供并行或分布式机器学习,其中包括集群计算,用于系统处理器中以及存储内计算(ISC)处理器中的并行处理。为了说明,示出了四个存储CPU1532,但要理解可包括任何数目的存储CPU。
在一实施例中,存储设备1514可包括存储器1542、非易失性存储器1546、固件1548或者这些的组合。存储器1542可包括易失性存储器,例如动态随机访问存储器(dynamicrandomaccessmemory,DRAM)、静态随机访问存储器(staticrandomaccessmemory,SRAM)、其他存储器技术或者这些的组合。非易失性存储器1546可包括闪存驱动器、盘存储装置、非易失性存储器(NVM)、其他存储技术或者这些的组合。固件1548可被存储在包括只读存储器(readonlymemory,ROM)、可擦除可编程只读存储器(erasableprogrammablereadonlymemory,EPROM)、闪存存储器、其他存储技术或者这些的组合在内的非易失性存储设备中。存储器1542、非易失性存储器1546、固件1548或者这些的组合可利用集成电路、集成电路核、集成电路组件、无源设备或者这些的组合来实现。
在一实施例中,存储器1542、非易失性存储器1546、固件1548或者这些的组合可为存储设备1514存储相关信息。相关信息可包括传入的数据、先前呈现的数据、临时数据、任何形式的社交网络日、用户资料、行为数据、cookie、任何形式的用户数据大集合或者这些的组合,用于存储设备1514的操作。
在一实施例中,主机设备1512可包括诸如并行或分布式机器学习应用之类的应用1572、系统调用1582、系统命令1584、诸如设备驱动器之类的驱动器1586或者这些的组合。应用1572可以为驱动器1586提供包括系统状态、输入和输出控制(Ioctl)、诸如图10的“LEARN”命令之类的“LEARN”、元数据、任何系统调用或者这些的组合在内的系统调用1582。驱动器1586可基于系统调用1582为存储设备1514提供系统命令1584。
例如,系统调用1582、系统命令1584或者这些的组合可基于对系统资源的潜在问题或瓶颈的检测、识别、监视、测量、核查或者这些的组合。问题或瓶颈可包括任何系统资源的资源饱和、压力、有限资源或者这些的组合,其中系统资源包括接口1516。检测、识别、监视、测量、核查或者这些的组合在为学习引擎1524、系统调用1582、系统命令1584或者这些的组合实现并行或分布式处理时提供了智能。
在一实施例中,驱动器1586的系统命令1584可以为学习引擎1524、存储CPU1532、主机设备1512或者这些的组合被分割、划分、选择或者这些的组合。固件1548可将系统命令1584分割、划分、选择或者这些的组合成用于存储CPU1532的常规命令1592和用于学习引擎1524的学习命令1594。诸如机器学习命令之类的学习命令1594可提供并行或分布式机器学习,包括集群计算,用于存储CPU1532中的并行处理。常规命令1592可包括不要求机器学习的存储设备1514的系统命令1594。
已发现,具有主机设备1512、存储设备1514、系统调用1582、系统命令1584、学习引擎1524、存储CPU1532或者这些的组合的电子学习系统1500提供了用于并行处理的智能并行或分布式机器学习,包括集群计算。系统调用1582、系统命令1584或者这些的组合利用存储CPU1532为并行处理提供了智能。
现在参考图16,其中示出了电子系统100的实施例的示例。具有划分机制的电子系统100的示例实施例可包括诸如智能电话1612、汽车的仪表板1622、笔记本计算机1632、服务器1642或者这些的组合之类的电子系统100的应用示例。这些应用示例例示了本发明的各种实施例的目的或功能以及包括改善的带宽、面积效率或者这些的组合在内的处理性能的改善的重要性。
例如,图11的存储设备1114可提供显著改善的系统性能并且避免诸如智能电话1612、汽车的仪表板1622、笔记本计算机1632、服务器1642或者这些的组合之类的电子系统100中的问题、瓶颈、资源饱和、压力、有限资源或者这些的组合。存储设备1114的图11的自适应块1130、图10的调度器块1084或者这些的组合可对机器学习进行智能选择、划分、并行化、分割或者这些的组合。
例如,图13的第一计算设备1312可提供显著改善的系统性能并且避免诸如智能电话1612、汽车的仪表板1622、笔记本计算机1632、服务器1642或者这些的组合之类的电子系统100中的问题、瓶颈、资源饱和、压力、有限资源或者这些的组合。图13的调度器1380可对机器学习进行智能选择、划分、并行化、分割或者这些的组合。
例如,图15的存储设备1514可提供显著改善的系统性能并且避免诸如智能电话1612、汽车的仪表板1622、笔记本计算机1632、服务器1642或者这些的组合之类的电子系统100中的问题、瓶颈、资源饱和、压力、有限资源或者这些的组合。图15的存储设备1514的图15的学习引擎1524可对机器学习进行智能选择、划分、并行化、分割或者这些的组合。
在本发明的实施例是集成物理逻辑电路并且存储设备1114、图13的存储设备1314、存储设备1514或者这些的组合被集成在图1的控制单元112、图1的存储单元114、图1的第一存储介质126、图1的第二存储介质142或者这些的组合中的示例中,机器学习的选择、划分、并行化、分割或者这些的组合可显著改善系统性能。本发明的各种实施例提供了机器学习的选择、划分、并行化、分割或者这些的组合,从而改善了系统性能、改善了能量效率、使能了新技术、使能了与当前层次体系的兼容性、为用户应用提供了透明的实现或者这些的组合。
诸如智能电话1612、汽车的仪表板1622、笔记本计算机1632和服务器1642之类的电子系统100可包括一个或多个子系统(未示出),例如具有本发明的各种实施例的印刷电路板,或者具有本发明的各种实施例的电子装置(未示出)。电子系统100也可实现为智能电话1612、汽车的仪表板1622、笔记本计算机1632和服务器1642中的适配器卡。
从而,智能电话1612、汽车的仪表板1622、笔记本计算机1632、服务器1642、其他电子设备或者这些的组合可利用电子系统100提供快速得多的吞吐量,例如处理、输出、发送、存储、通信、显示、其他电子功能或者这些的组合。为了说明,示出了智能电话1612、汽车的仪表板1622、笔记本计算机1632、服务器1642、其他电子设备或者这些的组合,但要理解电子系统100可用在任何电子设备中。
现在参考图17,其中示出了本发明的实施例中的电子系统100的操作的方法1700的流程图。方法1700包括:在块1702中利用存储接口接收系统信息;在块1704中利用被配置为实现预处理块的存储控制单元基于该系统信息划分数据;并且在块1706中利用被配置为实现学习块的存储控制单元分布机器学习,用于处理该数据的部分数据。
在一实施例中,方法1700对于块1704可包括被配置为实现预处理块的存储控制单元。方法1700对于块1704可包括被配置为实现编程接口的存储控制单元。
在一实施例中,方法1700对于块1704可包括被配置为实现选择块的存储单元。方法1700对于块1704可包括被配置为实现扫描和选择块的存储控制单元。
方法1700对于块1706可包括被配置为实现调度器块的存储控制单元。
方法1700还可包括利用被配置为存储数据的存储介质来存储数据。
所得到的方法、过程、装置、设备、产品和/或系统是简单明确、成本划算、不复杂、高度通用、准确、灵敏且有效的,并且可通过适应性地修改已知组件以便进行容易、高效且经济的制造、应用和利用来实现。本发明的实施例的另一个重要方面是其有价值地支持并服务于降低成本、简化系统和增强性能的历史趋势。本发明的实施例的这些和其他有价值方面因此将技术水平推进到了至少下一个级别。
虽然已结合具体的最佳模式描述了本发明,但要理解本领域技术人员根据前文描述将清楚许多替换、修改和变化。因此,打算包含落在所附权利要求的范围内的所有这种替换、修改和变化。本文记载或者附图中示出的所有事项都应以说明而非限制意义来解释。
Claims (20)
1.一种电子系统,包括:
存储接口,被配置为接收系统信息;
存储控制单元,耦合到所述存储接口,被配置为实现:
预处理块,用于基于所述系统信息来划分数据;以及
学习块,用于处理所述数据的部分数据,以便分布机器学习过程。
2.如权利要求1中要求保护的系统,其中,所述存储控制单元被配置为实现自适应预处理块。
3.如权利要求1中要求保护的系统,其中,所述存储控制单元被配置为实现编程接口。
4.如权利要求1中要求保护的系统,其中,所述存储控制单元被配置为实现调度器块。
5.如权利要求1中要求保护的系统,其中,所述存储控制单元被配置为实现选择块。
6.如权利要求1中要求保护的系统,其中,所述存储控制单元被配置为实现扫描和选择块。
7.如权利要求1中要求保护的系统,还包括被配置为存储所述数据的存储介质。
8.一种电子系统的操作的方法,包括:
利用存储接口接收系统信息;
利用被配置为实现预处理块的存储控制单元基于所述系统信息来划分数据;以及
利用被配置为实现学习块的所述存储控制单元来分布机器学习过程,以便处理所述数据的部分数据。
9.如权利要求8中要求保护的方法,其中,划分所述数据包括被配置为实现自适应预处理块的所述存储控制单元。
10.如权利要求8中要求保护的方法,其中,划分所述数据包括被配置为实现编程接口的所述存储控制单元。
11.如权利要求8中要求保护的方法,其中,分布机器学习过程包括被配置为实现调度器块的所述存储控制单元。
12.如权利要求8中要求保护的方法,其中,划分所述数据包括被配置为实现选择块的所述存储控制单元。
13.如权利要求8中要求保护的方法,其中,划分所述数据包括被配置为实现扫描和选择块的所述存储控制单元。
14.如权利要求8中要求保护的方法,还包括利用被配置为存储所述数据的存储介质来存储数据。
15.一种非暂态计算机可读介质,包括存储在其上的指令,所述指令将被控制单元执行以执行操作,包括:
利用存储接口接收系统信息;
利用被配置为实现预处理块的存储控制单元基于所述系统信息来划分数据;以及
利用所述存储控制单元来分布机器学习过程以便处理所述数据的部分数据,其中所述存储控制单元被配置为实现耦合到具有所述数据和所述部分数据的存储块的学习块。
16.如权利要求15中要求保护的介质,其中,划分所述数据包括被配置为实现自适应预处理块的所述存储控制单元。
17.如权利要求15中要求保护的介质,其中,划分所述数据包括被配置为实现编程接口的所述存储控制单元。
18.如权利要求15中要求保护的介质,其中,分布机器学习过程包括被配置为实现调度器块的所述存储控制单元。
19.如权利要求15中要求保护的介质,其中,划分所述数据包括被配置为实现选择块的所述存储控制单元。
20.如权利要求15中要求保护的介质,其中,划分所述数据包括被配置为实现扫描和选择块的所述存储控制单元。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010876188.1A CN112181289A (zh) | 2014-12-31 | 2015-12-31 | 电子系统及其操作方法以及计算机可读介质 |
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201462099067P | 2014-12-31 | 2014-12-31 | |
US62/099,067 | 2014-12-31 | ||
US14/877,421 | 2015-10-07 | ||
US14/877,421 US9766818B2 (en) | 2014-12-31 | 2015-10-07 | Electronic system with learning mechanism and method of operation thereof |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010876188.1A Division CN112181289A (zh) | 2014-12-31 | 2015-12-31 | 电子系统及其操作方法以及计算机可读介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN105739917A true CN105739917A (zh) | 2016-07-06 |
CN105739917B CN105739917B (zh) | 2020-09-22 |
Family
ID=56164190
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010876188.1A Pending CN112181289A (zh) | 2014-12-31 | 2015-12-31 | 电子系统及其操作方法以及计算机可读介质 |
CN201511030671.3A Active CN105739917B (zh) | 2014-12-31 | 2015-12-31 | 具有学习机制的电子系统及其操作方法 |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010876188.1A Pending CN112181289A (zh) | 2014-12-31 | 2015-12-31 | 电子系统及其操作方法以及计算机可读介质 |
Country Status (4)
Country | Link |
---|---|
US (2) | US9766818B2 (zh) |
JP (1) | JP6533470B2 (zh) |
KR (1) | KR102509904B1 (zh) |
CN (2) | CN112181289A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108228346A (zh) * | 2016-12-13 | 2018-06-29 | 佳能株式会社 | 服务系统及其控制方法 |
CN109683806A (zh) * | 2017-10-18 | 2019-04-26 | 三星电子株式会社 | 存储装置及其操作方法以及包括存储装置的计算系统 |
CN113873538A (zh) * | 2020-06-30 | 2021-12-31 | 华为技术有限公司 | 一种模型数据传输方法及通信装置 |
Families Citing this family (29)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10261817B2 (en) * | 2014-07-29 | 2019-04-16 | Nxp Usa, Inc. | System on a chip and method for a controller supported virtual machine monitor |
US10268521B2 (en) * | 2016-01-22 | 2019-04-23 | Samsung Electronics Co., Ltd. | Electronic system with data exchange mechanism and method of operation thereof |
TWI718284B (zh) | 2016-04-07 | 2021-02-11 | 美商零質量純水股份有限公司 | 太陽能加熱單元 |
CN109641173B (zh) | 2016-05-20 | 2022-04-15 | 环球源公司 | 用于水提取控制的系统和方法 |
KR102696971B1 (ko) * | 2016-09-06 | 2024-08-21 | 삼성전자주식회사 | 불휘발성 메모리 장치를 포함하는 스토리지 장치 및 불휘발성 메모리 장치의 액세스 방법 |
US10929771B2 (en) | 2016-11-15 | 2021-02-23 | General Electric Company | Multimodal, small and big data, machine tearing systems and processes |
US11010431B2 (en) | 2016-12-30 | 2021-05-18 | Samsung Electronics Co., Ltd. | Method and apparatus for supporting machine learning algorithms and data pattern matching in ethernet SSD |
EP3616387A1 (en) | 2017-04-24 | 2020-03-04 | Carnegie Mellon University | Virtual sensor system |
US11348030B2 (en) * | 2017-05-10 | 2022-05-31 | Petuum Inc. | System and methods for distributed machine learning with multiple data sources, multiple programming languages or frameworks, and multiple devices or infrastructures |
AU2018300250B2 (en) | 2017-07-14 | 2024-04-18 | Source Global, PBC | Systems for controlled treatment of water with ozone and related methods therefor |
US20180336509A1 (en) | 2017-07-31 | 2018-11-22 | Seematics Systems Ltd | System and method for maintaining a project schedule in a dataset management system |
US11384517B2 (en) | 2017-09-05 | 2022-07-12 | Source Global, PBC | Systems and methods to produce liquid water extracted from air |
WO2019050866A1 (en) | 2017-09-05 | 2019-03-14 | Zero Mass Water, Inc. | SYSTEMS AND METHODS FOR MANAGING THE PRODUCTION AND DISTRIBUTION OF LIQUID WATER EXTRACTED FROM AIR |
US11555421B2 (en) | 2017-10-06 | 2023-01-17 | Source Global, PBC | Systems for generating water with waste heat and related methods therefor |
KR102057219B1 (ko) * | 2017-11-21 | 2019-12-18 | 연세대학교 산학협력단 | 데이터 입출력 포화 검출 장치 및 방법 |
AU2018380168B2 (en) * | 2017-12-06 | 2023-11-02 | Source Global, PBC | Systems for constructing hierarchical training data sets for use with machine-learning and related methods therefor |
WO2019153187A1 (en) * | 2018-02-08 | 2019-08-15 | Alibaba Group Holding Limited | Hybrid system-on-chip for power and performance prediction and control |
AU2019265024B2 (en) | 2018-05-11 | 2024-09-26 | Source Global, PBC | Systems for generating water using exogenously generated heat, exogenously generated electricity, and exhaust process fluids and related methods therefor |
KR102615443B1 (ko) * | 2018-05-25 | 2023-12-20 | 에스케이하이닉스 주식회사 | 머신 러닝 장치 및 이를 이용한 머신 러닝 시스템 |
US10600005B2 (en) * | 2018-06-01 | 2020-03-24 | Sas Institute Inc. | System for automatic, simultaneous feature selection and hyperparameter tuning for a machine learning model |
US11649183B2 (en) * | 2018-07-26 | 2023-05-16 | Mitsubishi Electric Corporation | Water treatment plant |
EP3866948A1 (en) | 2018-10-19 | 2021-08-25 | Source Global, Pbc | Systems and methods for generating liquid water using highly efficient techniques that optimize production |
US20200124566A1 (en) | 2018-10-22 | 2020-04-23 | Zero Mass Water, Inc. | Systems and methods for detecting and measuring oxidizing compounds in test fluids |
US10901793B2 (en) | 2019-01-23 | 2021-01-26 | International Business Machines Corporation | Determining whether to process a host request using a machine learning module |
JP7072535B2 (ja) * | 2019-03-29 | 2022-05-20 | 株式会社メガチップス | メモリシステム、コンピュータシステムおよび情報保護方法 |
WO2020219604A1 (en) | 2019-04-22 | 2020-10-29 | Zero Mass Water, Inc. | Water vapor adsorption air drying system and method for generating liquid water from air |
US11375012B2 (en) * | 2020-06-15 | 2022-06-28 | Dell Products, L.P. | Method and apparatus for determining feature usage on a set of storage systems deployed across multiple customer sites |
US11814820B2 (en) | 2021-01-19 | 2023-11-14 | Source Global, PBC | Systems and methods for generating water from air |
CN113190176B (zh) * | 2021-05-11 | 2023-01-10 | 上海华东汽车信息技术有限公司 | 一种数据存储方法、装置、电子设备及存储介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102033713A (zh) * | 2009-09-24 | 2011-04-27 | 凹凸电子(武汉)有限公司 | 电子系统、控制器及数据传输方法 |
US20130290223A1 (en) * | 2012-04-27 | 2013-10-31 | Yahoo! Inc. | Method and system for distributed machine learning |
US20130321325A1 (en) * | 2012-05-30 | 2013-12-05 | Samsung Electro-Mechanics Co., Ltd. | Apparatus and method for sensing capacitance, and touch screen apparatus |
CN103777623A (zh) * | 2012-10-22 | 2014-05-07 | 波音公司 | 实时控制系统管理 |
Family Cites Families (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20070061535A1 (en) * | 2005-09-12 | 2007-03-15 | Microsoft Corporation | Processing unit enclosed operating system |
US8127075B2 (en) * | 2007-07-20 | 2012-02-28 | Seagate Technology Llc | Non-linear stochastic processing storage device |
US8375190B2 (en) * | 2007-12-11 | 2013-02-12 | Microsoft Corporation | Dynamtic storage hierarachy management |
KR20100039179A (ko) * | 2008-10-07 | 2010-04-15 | 삼성전자주식회사 | 메모리 장치의 상태를 검사하는 메모리 시스템, 저장 장치,그리고 메모리 컨트롤러 |
US20100223213A1 (en) * | 2009-02-27 | 2010-09-02 | Optillel Solutions, Inc. | System and method for parallelization of machine learning computing code |
US8261266B2 (en) * | 2009-04-30 | 2012-09-04 | Microsoft Corporation | Deploying a virtual machine having a virtual hardware configuration matching an improved hardware profile with respect to execution of an application |
US9558247B2 (en) | 2010-08-31 | 2017-01-31 | Samsung Electronics Co., Ltd. | Storage device and stream filtering method thereof |
WO2013052555A1 (en) | 2011-10-03 | 2013-04-11 | Kyaw Thu | Systems and methods for performing contextual classification using supervised and unsupervised training |
US9436911B2 (en) * | 2012-10-19 | 2016-09-06 | Pearson Education, Inc. | Neural networking system and methods |
JP2014164568A (ja) * | 2013-02-26 | 2014-09-08 | Nippon Telegr & Teleph Corp <Ntt> | 端末装置、分散処理方法、分散処理プログラムおよび分散処理システム |
US10223327B2 (en) | 2013-03-14 | 2019-03-05 | Fisher-Rosemount Systems, Inc. | Collecting and delivering data to a big data machine in a process control system |
CN104102475B (zh) * | 2013-04-11 | 2018-10-02 | 腾讯科技(深圳)有限公司 | 分布式并行任务处理的方法、装置及系统 |
US8819335B1 (en) | 2013-08-30 | 2014-08-26 | NXGN Data, Inc. | System and method for executing map-reduce tasks in a storage device |
CN103559205A (zh) * | 2013-10-09 | 2014-02-05 | 山东省计算中心 | 基于MapReduce的并行特征选择方法 |
US20150324690A1 (en) * | 2014-05-08 | 2015-11-12 | Microsoft Corporation | Deep Learning Training System |
US10102480B2 (en) * | 2014-06-30 | 2018-10-16 | Amazon Technologies, Inc. | Machine learning service |
US10318882B2 (en) * | 2014-09-11 | 2019-06-11 | Amazon Technologies, Inc. | Optimized training of linear machine learning models |
US9626227B2 (en) * | 2015-03-27 | 2017-04-18 | Intel Corporation | Technologies for offloading and on-loading data for processor/coprocessor arrangements |
US9720738B2 (en) * | 2015-04-09 | 2017-08-01 | International Business Machines Corporation | Datacenter scheduling of applications using machine learning techniques |
US20160358099A1 (en) * | 2015-06-04 | 2016-12-08 | The Boeing Company | Advanced analytical infrastructure for machine learning |
-
2015
- 2015-10-07 US US14/877,421 patent/US9766818B2/en active Active
- 2015-12-31 KR KR1020150190830A patent/KR102509904B1/ko active IP Right Grant
- 2015-12-31 CN CN202010876188.1A patent/CN112181289A/zh active Pending
- 2015-12-31 CN CN201511030671.3A patent/CN105739917B/zh active Active
-
2016
- 2016-01-04 JP JP2016000248A patent/JP6533470B2/ja active Active
-
2017
- 2017-08-11 US US15/675,350 patent/US20170371544A1/en not_active Abandoned
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102033713A (zh) * | 2009-09-24 | 2011-04-27 | 凹凸电子(武汉)有限公司 | 电子系统、控制器及数据传输方法 |
US20130290223A1 (en) * | 2012-04-27 | 2013-10-31 | Yahoo! Inc. | Method and system for distributed machine learning |
US20130321325A1 (en) * | 2012-05-30 | 2013-12-05 | Samsung Electro-Mechanics Co., Ltd. | Apparatus and method for sensing capacitance, and touch screen apparatus |
CN103777623A (zh) * | 2012-10-22 | 2014-05-07 | 波音公司 | 实时控制系统管理 |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108228346A (zh) * | 2016-12-13 | 2018-06-29 | 佳能株式会社 | 服务系统及其控制方法 |
CN108228346B (zh) * | 2016-12-13 | 2022-01-18 | 佳能株式会社 | 服务系统及其控制方法 |
US11303546B2 (en) | 2016-12-13 | 2022-04-12 | Canon Kabushiki Kaisha | Service system and control method of the same |
CN108228346B9 (zh) * | 2016-12-13 | 2022-04-22 | 佳能株式会社 | 服务系统及其控制方法 |
CN109683806A (zh) * | 2017-10-18 | 2019-04-26 | 三星电子株式会社 | 存储装置及其操作方法以及包括存储装置的计算系统 |
CN113873538A (zh) * | 2020-06-30 | 2021-12-31 | 华为技术有限公司 | 一种模型数据传输方法及通信装置 |
Also Published As
Publication number | Publication date |
---|---|
US20170371544A1 (en) | 2017-12-28 |
KR20160082678A (ko) | 2016-07-08 |
US20160188207A1 (en) | 2016-06-30 |
CN112181289A (zh) | 2021-01-05 |
JP6533470B2 (ja) | 2019-06-19 |
US9766818B2 (en) | 2017-09-19 |
KR102509904B1 (ko) | 2023-03-14 |
JP2016126801A (ja) | 2016-07-11 |
CN105739917B (zh) | 2020-09-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105739917A (zh) | 具有学习机制的电子系统及其操作方法 | |
US11144828B2 (en) | Training task optimization system, training task optimization method and non-transitory computer readable medium for operating the same | |
EP3612933B1 (en) | Enhancing processing performance of artificial intelligence/machine hardware by data sharing and distribution as well as reuse of data in neuron buffer/line buffer | |
US20200401891A1 (en) | Methods and apparatus for hardware-aware machine learning model training | |
CN114254733A (zh) | 使用树形直接存储器存取(dma)总线的神经网络权重分布 | |
KR20220149418A (ko) | 자율 공장들에 대한 인공 지능 모델들을 자동으로 업데이트하는 방법들 및 장치들 | |
US11494321B1 (en) | State buffer memloc reshaping | |
US11544113B2 (en) | Task scheduling for machine-learning workloads | |
US20220121912A1 (en) | Data processing method and apparatus | |
US20220327359A1 (en) | Compression for split neural network computing to accommodate varying bitrate | |
US20220012592A1 (en) | Methods and apparatus to perform weight and activation compression and decompression | |
US10996860B2 (en) | Method to improve mixed workload performance on storage devices that use cached operations | |
CN115098257A (zh) | 一种资源调度方法、装置、设备以及存储介质 | |
CN114662646A (zh) | 实现神经网络的方法和装置 | |
US11704562B1 (en) | Architecture for virtual instructions | |
US10586171B2 (en) | Parallel ensemble of support vector machines | |
US11467973B1 (en) | Fine-grained access memory controller | |
US9575759B2 (en) | Memory system and electronic device including memory system | |
US11663465B2 (en) | Method of managing task performance in an artificial neural network, and system executing an artificial neural network | |
CN114968086A (zh) | 对计算装置使用配置文件的管理 | |
CN107294948A (zh) | 处理媒体数据的计算机实现方法、装置及数据处理系统 | |
CN111753988A (zh) | 用于多变量数据提供方的深度学习数据操纵 | |
CN108292265B (zh) | 对高性能存储器的存储器管理 | |
US11182314B1 (en) | Low latency neural network model loading | |
US12045648B2 (en) | Operating methods of computing devices and computer-readable storage media storing instructions |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |