CN113377295B - 多生产者单消费者的数据存储和读取方法、装置、设备 - Google Patents
多生产者单消费者的数据存储和读取方法、装置、设备 Download PDFInfo
- Publication number
- CN113377295B CN113377295B CN202110928803.3A CN202110928803A CN113377295B CN 113377295 B CN113377295 B CN 113377295B CN 202110928803 A CN202110928803 A CN 202110928803A CN 113377295 B CN113377295 B CN 113377295B
- Authority
- CN
- China
- Prior art keywords
- value
- data
- variable
- writing
- array
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/0625—Power saving in storage systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/0608—Saving storage space on storage systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0629—Configuration or reconfiguration of storage systems
- G06F3/0631—Configuration or reconfiguration of storage systems by allocating resources to storage systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
- G06F3/0671—In-line storage system
- G06F3/0683—Plurality of storage devices
Abstract
本公开的实施例提供了多生产者单消费者的数据存储和读取方法、装置、设备。方法包括生产者线程获取数组中写入位置原子变量的值以及写入位置变量的值;将写入位置原子变量的值增加预设的待存储数据的大小;若获取的写入位置原子变量的值与数组中数据写入位置变量的值相同,则基于数据写入位置变量所指的位置,向数组写入待存储数据;若获取的写入位置原子变量的值与数组中数据写入位置变量的值不相同,则有其他生产者线程正在写入,不向数组写入待存储数据,并将数值增加后的写入位置原子变量的值减去预设的待存储数据的大小。以此方式,可以在不加锁的情况下解决共享内存的方案中多个生产者线程之间的数据竞争问题,进而节约了计算资源。
Description
技术领域
本公开涉及数据存储和读取领域,尤其涉及多生产者单消费者的数据存储和读取领域。
背景技术
现代计算机大都具备多个核心,为计算机开发的软件为了有效利用多个核心会使用多线程模式,线程间交换数据有许多手段,常见的是使用共享内存的方案。
但是在共享内存的方案中,通过加锁来解决数据竞争的过程会占用部分性能开销,导致计算资源浪费。
发明内容
本公开提供了一种多生产者单消费者的数据存储和读取方法、装置、设备以及存储介质。
根据本公开的第一方面,提供了一种多生产者单消费者的数据存储和读取方法。该方法包括:
生产者线程获取数组中写入位置原子变量的值以及写入位置变量的值;
将写入位置原子变量的值增加预设的待存储数据的大小;
若获取的写入位置原子变量的值与数组中数据写入位置变量的值相同,则基于数据写入位置变量所指的位置,向数组写入待存储数据;
若获取的写入位置原子变量的值与数组中数据写入位置变量的值不相同,则有其他生产者线程正在写入,不向数组写入待存储数据,并将数值增加后的写入位置原子变量的值减去预设的待存储数据的大小。
在第一方面的一些实现方式中,数组基于数据写入位置变量所指的位置,向数组写入预设的待存储数据,还包括:
获取数组中读取位置变量的值;
根据读取位置变量的值和写入位置变量的值确定数组的剩余存储空间;
若剩余存储空间大于或等于待存储数据所占的空间,则基于数据写入位置变量所指的位置,向数组写入待存储数据。
在第一方面的一些实现方式中,根据读取位置变量的值和写入位置变量的值确定数组的剩余存储空间,包括:
若读取位置变量的值大于写入位置变量的值,则剩余存储空间为读取位置变量的值减去写入位置变量的值再减一;
若读取位置变量的值小于或等于写入位置变量的值,则剩余存储空间为数组的容量值与读取位置变量的值之和减去写入位置变量的值再减去一。
在第一方面的一些实现方式中,基于数据写入位置变量所指的位置,向数组写入预设的待存储数据,包括:
在数组的尾部元素位置写入待存储数据中的部分数据且待存储数据未完全写入数组的情况下,将待存储数据中未写入数组的部分从数组的头部元素位置进行写入。
在第一方面的一些实现方式中,该方法还包括:
在剩余存储空间小于待存储数据所占的空间的情况下,不写入待存储数据。
在第一方面的一些实现方式中,该方法还包括:
消费者线程根据读取位置变量的值和写入位置变量的值确定可消费数据的大小;
若可消费数据的大小大于期望消费数据的大小,则基于读取位置变量所指的位置,读取数组存储的数据,并更新读取位置变量的值,其中,期望消费数据的大小为待存储数据所占的空间减去剩余存储空间。
在第一方面的一些实现方式中,根据读取位置变量的值和写入位置变量的值确定可消费数据的大小,包括:
若读取位置变量的值小于或等于写入位置变量的值,则根据写入位置变量的值与读取位置变量的值的差值,确定可消费数据的大小;
若读取位置变量的值大于写入位置变量的值,则可消费数据的大小为数组的容量值与写入位置变量的值之和减去读取位置变量的值。
根据本公开的第二方面,提供了一种多生产者单消费者的数据存储和读取装置,该装置包括:
获取模块,用于生产者线程获取数组中写入位置原子变量的值以及写入位置变量的值;
写入位置原子变量值调整模块,用于将写入位置原子变量的值增加预设的待存储数据的大小;
数据写入模块,用于若获取的写入位置原子变量的值与数组中数据写入位置变量的值相同,则基于数据写入位置变量所指的位置,向数组写入待存储数据;
处理模块,用于若获取的写入位置原子变量的值与数组中数据写入位置变量的值不相同,则有其他生产者正在写入,不向数组写入待存储数据,并将数值增加后的写入位置原子变量的值减去预设的待存储数据的大小。
根据本公开的第三方面,提供了一种电子设备。该电子设备包括:存储器和处理器,所述存储器上存储有计算机程序,所述处理器执行所述程序时实现如以上所述第一方面,以及第一方面的一些实现方式中的多生产者单消费者的数据存储和读取方法。
根据本公开的第四方面,提供了一种计算机可读存储介质,其上存储有计算机程序,所述程序被处理器执行时实现如以上所述第一方面,以及第一方面的一些实现方式中的多生产者单消费者的数据存储和读取方法。
本公开提供的多生产者单消费者的数据存储和读取方法、装置、设备以及存储介质,生产者线程通过获取数组中写入位置原子变量的值以及写入位置变量的值;将写入位置原子变量的值增加预设的待存储数据的大小;若获取的写入位置原子变量的值与数组中数据写入位置变量的值相同,则基于数据写入位置变量所指的位置,向数组写入待存储数据;若获取的写入位置原子变量的值与数组中数据写入位置变量的值不相同,则有其他生产者线程正在写入,不向数组写入待存储数据,并将数值增加后的写入位置原子变量的值减去预设的待存储数据的大小。通过获取写入位置原子变量的值与数据写入位置变量的值进行比对确定是否有生产者正在写入,来实现在不加锁的情况下解决共享内存的方案中多个生产者线程之间的数据竞争问题,进而节约了计算资源,提高了资源利用率。
应当理解,发明内容部分中所描述的内容并非旨在限定本公开的实施例的关键或重要特征,亦非用于限制本公开的范围。本公开的其它特征将通过以下的描述变得容易理解。
附图说明
结合附图并参考以下详细说明,本公开各实施例的上述和其他特征、优点及方面将变得更加明显。附图用于更好地理解本方案,不构成对本公开的限定在附图中,相同或相似的附图标记表示相同或相似的元素,其中:
图1示出了根据本公开的实施例的多生产者单消费者的数据存储和读取方法的流程示意图;
图2示出了根据本公开的实施例的数据存储流程图;
图3示出了根据本公开的实施例的数据消费的流程示意图;
图4示出了根据本公开的实施例的多生产者单消费者的数据存储和读取装置的结构框图;
图5示出了能够实施本公开的实施例的示例性电子设备的结构框图。
具体实施方式
为使本公开实施例的目的、技术方案和优点更加清楚,下面将结合本公开实施例中的附图,对本公开实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本公开一部分实施例,而不是全部的实施例。基于本公开中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的全部其他实施例,都属于本公开保护的范围。
另外,本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系。
现代计算机大都具备多个核心,为计算机开发的软件为了有效利用多个核心会使用多线程模式,线程间交换数据有许多手段,常见的是使用共享内存或使用操作系统提供消息传递的功能。系统提供的消息传递功能没有数据竞争的问题,但是因为涉及到内核态和用户空间之间的多次数据复制,所以效率低且没有办法提高。共享内存的方案有数据竞争的问题,提高这种方案的效率关键在于如何解决数据竞争。常见解决数据竞争的方法是加锁,在加锁的情况下会同时只有一个核占用资源,会占用部分性能开销,导致计算资源浪费。
由此可以看出,在共享内存的方案中,通过加锁来解决数据竞争的过程会占用部分性能开销,导致计算资源浪费。
为了解决上述方案中,存在的计算资源浪费的问题,本公开中提供了一种多生产者单消费者的数据存储和读取方法、装置、设备以及存储介质,生产者线程通过获取数组中写入位置原子变量的值以及写入位置变量的值;将写入位置原子变量的值增加预设的待存储数据的大小;若获取的写入位置原子变量的值与数组中数据写入位置变量的值相同,则基于数据写入位置变量所指的位置,向数组写入待存储数据;若获取的写入位置原子变量的值与数组中数据写入位置变量的值不相同,则有其他生产者线程正在写入,不向数组写入待存储数据,并将数值增加后的写入位置原子变量的值减去预设的待存储数据的大小。通过获取写入位置原子变量的值与数据写入位置变量的值进行比对确定是否有生产者正在写入,来实现在不加锁的情况下解决共享内存的方案中多个生产者线程之间的数据竞争问题,进而节约了计算资源,提高了资源利用率。
下面结合附图对本公开实施例提供的技术方案进行描述。
图1 是本公开实施例提供的一种多生产者单消费者的数据存储和读取方法的流程示意图,该方法的执行主体可以为终端设备或其他具有计算处理能力的服务器。
需要说明的是,在执行图1所示的方法之前,需要先对用到的数据以及变量进行初始,具体可以定义数组为A,大小为n+1,可以定义读取位置变量为R,值为0,可以定义写入位置变量为W,值为0,可以定义写入位置原子变量为aW,值为0。
之后,基于定义的数组和变量,以插入I字节的数据为例,执行图1中的方法。
如图1 所示,多生产者单消费者的数据存储和读取方法具体可以包括:
S101:生产者线程获取数组中写入位置原子变量的值以及写入位置变量的值。
需要说明的是,生产者线程获取的写入位置原子变量的值和写入位置变量的值可能是初始值,也可能随着之前数据的写入与读取发生变化。
具体地,在该步骤中,生产者线程获取数组中写入位置原子变量的值的过程可以用t=atomic_read(aW)来表示,其中,t即为获取的写入位置原子变量的值。
S102:将写入位置原子变量的值增加预设的待存储数据的大小。
具体地,在该步骤中,在写入位置原子变量的值增加预设的待存储数据的大小可以用atomic_add(aW,I)表示,其中I表示I 字节数据,即为预设的待存储数据的大小。
由S102可以看出,只要系统中有生产者进程正在向数组写入数据,那定义的写入位置原子变量的值就会发生变化,而正在写入的过程中写入位置变量的值还未发生变化,所以可以基于S101中获取的原子变量的值与写入位置变量的值进行比对,来确定是否有其它生产者进程在正在进行写入,在没有其它生产者进程进行写入的情况下,写入待存储数据,在有其它生产者进程进行写入的情况下不进行写入,即,执行S103和S104,以实现在存在多生产者进程的情况下,通过无锁解决数据竞争问题。
S103:若获取的写入位置原子变量的值与数组中数据写入位置变量的值相同,则基于数据写入位置变量所指的位置,向数组写入待存储数据。
具体地,由S101可以看出,获取的写入位置原子变量的值即为t的值,因此若t等于W,则基于数据写入位置变量所指的位置,向数组写入待存储数据。
在一个实施例中,在基于数据写入位置变量所指的位置,向数组写入待存储数据的过程中,为了确保数组中的剩余存储空间可以完整存储待存储数据,可以获取数组中读取位置变量的值,根据读取位置变量的值和写入位置变量的值确定数组的剩余存储空间。
若剩余存储空间大于或等于待存储数据所占的空间,说明剩余存储空间足够完整存储上述待存储数据,则基于数据写入位置变量所指的位置,向数组写入待存储数据。在剩余存储空间小于待存储数据所占的空间的情况下,表示待存储的I 字节数据不可完整写入,则终端设备不写入待存储数据,需等待消费者消费一些数据增加数组中的剩余存储空间以实现足够容纳待存储数据,并执行atomic_sub(aW,I),返回1。
在一个实施例中,确定数组的剩余存储空间的具体过程可以为:
若读取位置变量的值大于写入位置变量的值,则剩余存储空间为读取位置变量的值减去写入位置变量的值再减一,即,若R>W,则REST=R-W-1,其中,REST即为剩余存储空间;
若读取位置变量的值小于或等于写入位置变量的值,则剩余存储空间为数组的容量值与读取位置变量的值之和减去写入位置变量的值再减去一,即,若R≤W,则REST= n-W+R。
在一个实施例中,为了使存储可以循环,该数组可以是环形数组,因此基于数据写入位置变量所指的位置,向数组写入预设的待存储数据的过程中,可以在数组的尾部元素位置写入待存储数据中的部分数据且待存储数据未完全写入数组的情况下,将待存储数据中未写入数组的部分从数组的头部元素位置进行写入。具体地,可以将待存储数据从数组的写入位置变量W 所指的位置按顺序写入,若写至数组尾部,则从数组头部继续写,计算tmpw=W+I,若tmpw<n+1,则说明待存储的数据无法写至数组尾部,将W的值更新为tmpw,若tmpw≥n+1,则说明待存储的数据能够写至数组尾部,将W的值更新为tmpw-n-1,以用于在数组n+1的大小范围内表示W的值,并将S102中数值增加后的写入位置原子变量aW的值减去数组的大小,即执行atomic_sub(aW,n+1),以用于在数组n+1的大小范围内表示aW变化后的值。
S104:若获取的写入位置原子变量的值与数组中数据写入位置变量的值不相同,则有其他生产者线程正在写入,不向数组写入待存储数据,并将数值增加后的写入位置原子变量的值减去预设的待存储数据的大小。
具体地,在该过程中,若t≠W,则表示有其它生产者进程在正在写入,当前不可写入,终端设备不向数组写入待存储数据,执行atomic_sub(aW,I),以使作差得到aW的值与原始获取的写入位置原子变量的值相同,并返回1,等待后续的生产者进程获取aW的值以进行数据存储。
为了更加清晰的描述数据存储的过程,在一个实施例中,上述S101-S104的过程,还可以如图2的数据存储流程图所示。
在一个实施例中,图1所示的方法中,还可以包括数据消费的过程,图3示出了消费者线程执行数据消费的流程示意图。
如图3所示,数据消费的过程中,消费者线程根据读取位置变量的值和写入位置变量的值确定可消费数据的大小REST。若REST≥期望消费数据的大小,则基于读取位置变量所指的位置,读取数组存储的数据,并更新读取位置变量的值,其中,期望消费数据的大小O为待存储数据所占的空间减去剩余存储空间。若REST<期望消费数据的大小O,则不读取数据,返回1。
在确定REST的过程中,若读取位置变量的值小于或等于写入位置变量的值,则根据写入位置变量的值与读取位置变量的值的差值,确定可消费数据的大小,即,若R≤W,则REST=W-R;若读取位置变量的值大于写入位置变量的值,则可消费数据的大小为数组的容量值与写入位置变量的值之和减去读取位置变量的值,即,若R> W,则REST=n+1+W-R。
还需要说明的是,在一个实施例中,在读取数组的数据时,从数组的R 位置开始读取,若读至数组尾部,则从数组头部继续读取。在更新读取位置变量的值的过程中,计算tmpr=R+O,若tmpr≤n,则设置更新后的读取位置变量R的值为tmpr,否则更新后的读取位置变量R的值为R=tmpr-n。
在本公开提供的多生产者单消费者的数据存储和读取方法中,通过获取的写入位置原子变量的值与数据写入位置变量的值进行比对确定是否有生产者正在写入,来实现在不加锁的情况下解决共享内存的方案中多个生产者线程之间的数据竞争问题,进而节约了计算资源,提高了资源利用率,有效降低了生产线程向消费线程传递数据时的性能开销。
需要说明的是,对于前述的各方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本公开并不受所描述的动作顺序的限制,因为依据本公开,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于可选实施例,所涉及的动作和模块并不一定是本公开所必须的。
与图1 所示的多生产者单消费者的数据存储和读取方法相对应,本公开还提供了一种多生产者单消费者的数据存储和读取装置。
图4示出了一种多生产者单消费者的数据存储和读取装置的结构示意图,如图4所示,多生产者单消费者的数据存储和读取装置可以包括获取模块401、写入位置原子变量值调整模块402、数据写入模块403以及处理模块404。
获取模块401,可以用于生产者线程获取数组中写入位置原子变量的值以及写入位置变量的值;
写入位置原子变量值调整模块402,可以用于将写入位置原子变量的值增加预设的待存储数据的大小;
数据写入模块403,可以用于若获取的写入位置原子变量的值与数组中数据写入位置变量的值相同,则基于数据写入位置变量所指的位置,向数组写入待存储数据;
处理模块404,可以用于若获取的写入位置原子变量的值与数组中数据写入位置变量的值不相同,则有其他生产者正在写入,不向数组写入待存储数据,并将数值增加后的写入位置原子变量的值减去预设的待存储数据的大小。
在一个实施例中,该装置还可以包括剩余存储空间确定模块(图中未示出),获取模块401,还可以用于获取数组中读取位置变量的值;
剩余存储空间确定模块,可以用于根据读取位置变量的值和写入位置变量的值确定数组的剩余存储空间;
数据写入模块403,还可以用于若剩余存储空间大于或等于待存储数据所占的空间,则基于数据写入位置变量所指的位置,向数组写入待存储数据。
在一个实施例中,剩余存储空间确定模块,还可以用于若读取位置变量的值大于写入位置变量的值,则剩余存储空间为读取位置变量的值减去写入位置变量的值再减一;还可以用于若读取位置变量的值小于或等于写入位置变量的值,则剩余存储空间为数组的容量值与读取位置变量的值之和减去写入位置变量的值再减去一。
在一个实施例中,数据写入模块403,还可以用于在数组的尾部元素位置写入待存储数据中的部分数据且待存储数据未完全写入数组的情况下,将待存储数据中未写入数组的部分从数组的头部元素位置进行写入。
在一个实施例中,处理模块404,还可以用于在剩余存储空间小于待存储数据所占的空间的情况下,不写入待存储数据。
在一个实施例中,该装置还可以包括可消费数据大小确定模块以及数据读取模块,其中,可消费数据大小确定模块,可以用于消费者线程根据读取位置变量的值和写入位置变量的值确定可消费数据的大小;
数据读取模块,可以用于若可消费数据的大小大于期望消费数据的大小,则基于读取位置变量所指的位置,读取数组存储的数据,并更新读取位置变量的值,其中,期望消费数据的大小为待存储数据所占的空间减去剩余存储空间。
在一个实施例中,可消费数据大小确定模块,还可以用于若读取位置变量的值小于或等于写入位置变量的值,则根据写入位置变量的值与读取位置变量的值的差值,确定可消费数据的大小;若读取位置变量的值大于写入位置变量的值,则可消费数据的大小为数组的容量值与写入位置变量的值之和减去读取位置变量的值。
在本公开提供的多生产者单消费者的数据存储和读取装置,通过获取的写入位置原子变量的值与数据写入位置变量的值进行比对确定是否有生产者正在写入,来实现在不加锁的情况下解决共享内存的方案中多个生产者线程之间的数据竞争问题,进而节约了计算资源,提高了资源利用率,有效降低了生产线程向消费线程传递数据时的性能开销。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,所述描述的模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
可以理解的是,图4 所示的多生产者单消费者的数据存储和读取装置中的各个模块具有实现图1 中各个步骤的功能,并能达到其相应的技术效果,为简洁描述,在此不再赘述。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图5示出了可以用来实施本公开的实施例的电子设备500的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
设备500包括计算单元501,其可以根据存储在只读存储器(ROM)502中的计算机程序或者从存储单元508加载到随机访问存储器(RAM)503中的计算机程序,来执行各种适当的动作和处理。在RAM 503中,还可存储设备500操作所需的各种程序和数据。计算单元501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。
设备500中的多个部件连接至I/O接口505,包括:输入单元506,例如键盘、鼠标等;输出单元507,例如各种类型的显示器、扬声器等;存储单元508,例如磁盘、光盘等;以及通信单元509,例如网卡、调制解调器、无线通信收发机等。通信单元509允许设备500通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元501可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元501的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元501执行上文所描述的各个方法和处理,例如图1中的多生产者单消费者的数据存储和读取方法。例如,在一些实施例中,图1中的多生产者单消费者的数据存储和读取方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元508。在一些实施例中,计算机程序的部分或者全部可以经由ROM502和/或通信单元509而被载入和/或安装到设备500上。当计算机程序加载到RAM 503并由计算单元501执行时,可以执行上文描述的多生产者单消费者的数据存储和读取方法的一个或多个步骤。备选地,在其他实施例中,计算单元501可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行图1中的多生产者单消费者的数据存储和读取方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (10)
1.一种多生产者单消费者的数据存储和读取方法,其特征在于,所述方法包括:
生产者线程获取数组中写入位置原子变量的值以及写入位置变量的值;
将所述写入位置原子变量的值增加预设的待存储数据的大小;
若获取的写入位置原子变量的值与所述数组中数据写入位置变量的值相同,则基于所述数据写入位置变量所指的位置,向所述数组写入所述待存储数据;
若获取的写入位置原子变量的值与所述数组中数据写入位置变量的值不相同,则有其他生产者线程正在写入,不向所述数组写入所述待存储数据,并将数值增加后的写入位置原子变量的值减去预设的待存储数据的大小。
2.根据权利要求1所述的方法,其特征在于,数组所述基于所述数据写入位置变量所指的位置,向所述数组写入预设的待存储数据,包括:
获取所述数组中读取位置变量的值;
根据所述读取位置变量的值和所述写入位置变量的值确定所述数组的剩余存储空间;
若所述剩余存储空间大于或等于所述待存储数据所占的空间,则基于所述数据写入位置变量所指的位置,向所述数组写入所述待存储数据。
3.根据权利要求2所述的方法,其特征在于,所述根据所述读取位置变量的值和所述写入位置变量的值确定所述数组的剩余存储空间,包括:
若所述读取位置变量的值大于所述写入位置变量的值,则所述剩余存储空间为读取位置变量的值减去所述写入位置变量的值再减一;
若所述读取位置变量的值小于或等于所述写入位置变量的值,则所述剩余存储空间为所述数组的容量值与所述读取位置变量的值之和减去所述写入位置变量的值再减去一。
4.根据权利要求1至3中任意一项所述的方法,其特征在于,所述基于所述数据写入位置变量所指的位置,向所述数组写入预设的待存储数据,包括:
在所述数组的尾部元素位置写入所述待存储数据中的部分数据且所述待存储数据未完全写入所述数组的情况下,将所述待存储数据中未写入所述数组的部分从所述数组的头部元素位置进行写入。
5.根据权利要求2所述的方法,其特征在于,所述方法还包括:
在所述剩余存储空间小于所述待存储数据所占的空间的情况下,不写入所述待存储数据。
6.根据权利要求2、3以及5中任意一项所述的方法,其特征在于,所述方法还包括:
消费者线程根据所述读取位置变量的值和所述写入位置变量的值确定可消费数据的大小;
若所述可消费数据的大小大于期望消费数据的大小,则基于所述读取位置变量所指的位置,读取所述数组存储的数据,并更新所述读取位置变量的值,其中,所述期望消费数据的大小为所述待存储数据所占的空间减去所述剩余存储空间。
7.根据权利要求6所述的方法,其特征在于,所述根据所述读取位置变量的值和所述写入位置变量的值确定可消费数据的大小,包括:
若所述读取位置变量的值小于或等于所述写入位置变量的值,则根据所述写入位置变量的值与所述读取位置变量的值的差值,确定可消费数据的大小;
若所述读取位置变量的值大于所述写入位置变量的值,则所述可消费数据的大小为所述数组的容量值与所述写入位置变量的值之和减去所述读取位置变量的值。
8.一种多生产者单消费者的数据存储和读取装置,其特征在于,所述装置包括:
获取模块,用于生产者线程获取数组中写入位置原子变量的值以及写入位置变量的值;
写入位置原子变量值调整模块,用于将所述写入位置原子变量的值增加预设的待存储数据的大小;
数据写入模块,用于若获取的写入位置原子变量的值与所述数组中数据写入位置变量的值相同,则基于所述数据写入位置变量所指的位置,向所述数组写入所述待存储数据;
处理模块,用于若获取的写入位置原子变量的值与所述数组中数据写入位置变量的值不相同,则有其他生产者正在写入,不向所述数组写入所述待存储数据,并将数值增加后的写入位置原子变量的值减去预设的待存储数据的大小。
9.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-7中任一项所述的方法。
10.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-7中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110928803.3A CN113377295B (zh) | 2021-08-13 | 2021-08-13 | 多生产者单消费者的数据存储和读取方法、装置、设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110928803.3A CN113377295B (zh) | 2021-08-13 | 2021-08-13 | 多生产者单消费者的数据存储和读取方法、装置、设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113377295A CN113377295A (zh) | 2021-09-10 |
CN113377295B true CN113377295B (zh) | 2021-12-10 |
Family
ID=77576995
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110928803.3A Active CN113377295B (zh) | 2021-08-13 | 2021-08-13 | 多生产者单消费者的数据存储和读取方法、装置、设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113377295B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114356589B (zh) * | 2021-12-09 | 2024-04-12 | 北京华云安信息技术有限公司 | 多写入者多读取者的数据存储和读取方法、装置及设备 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103218176A (zh) * | 2013-04-02 | 2013-07-24 | 中国科学院信息工程研究所 | 数据处理方法及装置 |
CN104077113A (zh) * | 2014-07-10 | 2014-10-01 | 中船重工(武汉)凌久电子有限责任公司 | 一种无锁并发消息处理机制的实现方法 |
CN104168217A (zh) * | 2014-08-15 | 2014-11-26 | 杭州华三通信技术有限公司 | 一种先入先出队列调度方法及装置 |
CN104809027A (zh) * | 2015-04-21 | 2015-07-29 | 浙江大学 | 一种基于无锁缓冲区的数据采集方法 |
CN105045632A (zh) * | 2015-08-10 | 2015-11-11 | 京信通信技术(广州)有限公司 | 一种多核环境下实现免锁队列的方法和设备 |
CN105868031A (zh) * | 2016-03-24 | 2016-08-17 | 车智互联(北京)科技有限公司 | 一种数据传输装置和方法 |
CN110134439A (zh) * | 2019-03-30 | 2019-08-16 | 北京百卓网络技术有限公司 | 无锁化的数据结构构建方法和写入数据、读取数据的方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7779165B2 (en) * | 2002-01-11 | 2010-08-17 | Oracle America, Inc. | Scalable method for producer and consumer elimination |
CN104978321B (zh) * | 2014-04-02 | 2018-12-04 | 阿里巴巴集团控股有限公司 | 构造数据队列的方法、装置及从其插入和消费对象的方法 |
-
2021
- 2021-08-13 CN CN202110928803.3A patent/CN113377295B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103218176A (zh) * | 2013-04-02 | 2013-07-24 | 中国科学院信息工程研究所 | 数据处理方法及装置 |
CN104077113A (zh) * | 2014-07-10 | 2014-10-01 | 中船重工(武汉)凌久电子有限责任公司 | 一种无锁并发消息处理机制的实现方法 |
CN104168217A (zh) * | 2014-08-15 | 2014-11-26 | 杭州华三通信技术有限公司 | 一种先入先出队列调度方法及装置 |
CN104809027A (zh) * | 2015-04-21 | 2015-07-29 | 浙江大学 | 一种基于无锁缓冲区的数据采集方法 |
CN105045632A (zh) * | 2015-08-10 | 2015-11-11 | 京信通信技术(广州)有限公司 | 一种多核环境下实现免锁队列的方法和设备 |
CN105868031A (zh) * | 2016-03-24 | 2016-08-17 | 车智互联(北京)科技有限公司 | 一种数据传输装置和方法 |
CN110134439A (zh) * | 2019-03-30 | 2019-08-16 | 北京百卓网络技术有限公司 | 无锁化的数据结构构建方法和写入数据、读取数据的方法 |
Non-Patent Citations (2)
Title |
---|
A lock-free,cache-efficient multi-core synchronization mechanism for line-rate network traffic monitoring;Lee,P.P.C;《Parallel & Distributed Processing(IPDPS),2010 IEEE International Symposium on》;20101231;全文 * |
基于无锁结构的大容量数据高性能检索系统研究;谢文韬;《中国优秀硕士学位论文全文数据库 信息科技辑》;20180131;全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN113377295A (zh) | 2021-09-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112561079A (zh) | 分布式的模型训练装置、方法及计算机程序产品 | |
CN115860128B (zh) | 量子电路运行方法、装置及电子设备 | |
CN113377295B (zh) | 多生产者单消费者的数据存储和读取方法、装置、设备 | |
CN112817660B (zh) | 扩展小程序能力的方法、装置、设备以及存储介质 | |
CN116243978A (zh) | 分布式训练中的数据规约方法、装置、介质和训练系统 | |
CN116126719A (zh) | 接口测试方法、装置、电子设备及存储介质 | |
CN115438007A (zh) | 一种文件合并方法、装置、电子设备及介质 | |
CN115904240A (zh) | 数据处理方法、装置、电子设备和存储介质 | |
CN114564149A (zh) | 一种数据存储方法、装置、设备及存储介质 | |
CN114138358A (zh) | 应用程序的启动优化方法、装置、设备和存储介质 | |
CN112632384A (zh) | 针对应用程序的数据处理方法、装置、电子设备和介质 | |
CN112559547A (zh) | 确定多存储对象副本之间一致性的方法及装置 | |
CN112817992A (zh) | 执行更改任务的方法、装置、电子设备以及可读存储介质 | |
CN114356589B (zh) | 多写入者多读取者的数据存储和读取方法、装置及设备 | |
CN114064301A (zh) | 单写入者多读取者的数据存储和读取方法、装置及设备 | |
CN115272524B (zh) | 多曲线并行绘制方法、装置、设备以及存储介质 | |
CN115599307B (zh) | 数据存取方法、装置、电子设备、存储介质 | |
CN113342413B (zh) | 用于处理组件的方法、装置、设备、介质和产品 | |
CN114610575B (zh) | 应用于计算分支的更新峰值的方法、装置、设备和介质 | |
CN116243984A (zh) | 数据处理装置、方法、电子设备和存储介质 | |
CN115357358A (zh) | 一种射电数据处理方法、装置、设备及存储介质 | |
CN115860077A (zh) | 状态数据的处理方法、装置、设备以及存储介质 | |
CN116954922A (zh) | 一种分布式存储方法、装置、设备和介质 | |
CN115390992A (zh) | 一种虚拟机创建方法、装置、设备和存储介质 | |
CN115098520A (zh) | 设备数据更新方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |