CN107333080A - 一种高速高分辨率图像数据存储方法、装置及系统 - Google Patents

一种高速高分辨率图像数据存储方法、装置及系统 Download PDF

Info

Publication number
CN107333080A
CN107333080A CN201710375392.3A CN201710375392A CN107333080A CN 107333080 A CN107333080 A CN 107333080A CN 201710375392 A CN201710375392 A CN 201710375392A CN 107333080 A CN107333080 A CN 107333080A
Authority
CN
China
Prior art keywords
memory block
view data
work station
image data
available
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201710375392.3A
Other languages
English (en)
Other versions
CN107333080B (zh
Inventor
张武生
杨广文
徐伟平
林皎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tsinghua University
Original Assignee
Tsinghua University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tsinghua University filed Critical Tsinghua University
Priority to CN201710375392.3A priority Critical patent/CN107333080B/zh
Publication of CN107333080A publication Critical patent/CN107333080A/zh
Application granted granted Critical
Publication of CN107333080B publication Critical patent/CN107333080B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/231Content storage operation, e.g. caching movies for short term storage, replicating data over plural servers, prioritizing data for deletion
    • H04N21/23103Content storage operation, e.g. caching movies for short term storage, replicating data over plural servers, prioritizing data for deletion using load balancing strategies, e.g. by placing or distributing content on different disks, different memories or different servers

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Input (AREA)
  • Memory System Of A Hierarchy Structure (AREA)
  • Image Processing (AREA)

Abstract

本发明实施例提供了一种高速高分辨率图像数据存储方法、装置及系统,所述方法包括:识别可用的工作站,并获取各工作站的可用内存空间,将各工作站的可用内存空间划分为多个存储块;实时接收图像拍摄设备发送的图像数据,并将图像数据划分为多个图像数据分块;根据各工作站的可用内存空间的大小、图像数据分块的大小以及图像数据分块的数量,将图像数据分块发送至不同工作站的存储块中进行缓存;将各工作站中缓存的同一个图像数据的图像数据分块转存至图像数据存储设备。该装置用于执行上述方法,该系统包括图像数据存储设备、至少一个图像拍摄设备、至少一个工作站和该装置。本发明实施例实现了高速高分辨率图像数据的实时记录。

Description

一种高速高分辨率图像数据存储方法、装置及系统
技术领域
本发明实施例涉及图像处理技术领域,具体涉及一种高速高分辨率图像数据存储方法、装置及系统。
背景技术
采用高速、高分辨率摄像设备对物理、化学现象进行观测记录为理论分析和工程设计提供支撑在许多领域的实验室里都被广泛采用。但高分辨率高速摄像系统每次输出的图像多达几GB乃至几十GB,并且希望数据图像在秒量级时间内导出、存储。
大多数的实验室除了拍照设备外还装备有高精度的实验装置,测量装置,反应装置等。对实验现象和过程的拍摄需在现场进行保存、回放、处理、分析并反馈到下一步实验的设计和观测。由于实验环境的客观条件限制,难以在实验室内装备大规模的并行存储系统,并为其配备专门的空调设备。这就要求在低噪音、低振动、低功耗前提下,通过有效的手段将拍摄图像进行实时保存。现有技术中,普遍使用的硬盘摄像机等系统,在低速低分辨率图像保存方面已足够成熟,但难以适用于实验室环境的高速、高分辨率图像的记录需求。
因此,如何提出一种方案,能够实现高速高分辨率图像数据的实时记录,成为亟待解决的问题。
发明内容
针对现有技术中的缺陷,本发明实施例提供了及一种高速高分辨率图像数据存储方法、装置及系统。
一方面,本发明实施例提供了一种高速高分辨率图像数据存储方法,包括:
识别可用的工作站,并获取所述各工作站的可用内存空间,将所述各工作站的可用内存空间划分为多个存储块;
实时接收图像拍摄设备发送的图像数据,并将所述图像数据划分为多个图像数据分块;
根据所述各工作站的可用内存空间的大小、所述图像数据分块的大小以及所述图像数据分块的数量,将所述图像数据分块发送至不同工作站的存储块中进行缓存;
将所述各工作站中缓存的同一个图像数据的图像数据分块转存至图像数据存储设备。
进一步地,所述将所述图像数据分块发送至不同工作站的存储块中进行缓存,包括:
步骤10:获取所述工作站的可用的目标存储块,并将所述目标存储块进行写入锁操作;
步骤20:将对应的所述图像数据分块发送至所述目标存储块,并进行标记;
步骤30:若判断获知所述图像数据未完全发送至所述各工作站的存储块,则获取下一个可用工作站的目标存储块,重复执行步骤10至步骤30,直至所述图像数据全部发送至所述各工作站的存储块,释放所述目标存储块的写入锁。
进一步地,所述方法还包括:将所述各工作站的存储块进行循环队列排序操作;
相应地,所述获取所述工作站的可用的目标存储块,包括:获取所述工作站中在所述循环队列中排序第一的可用的存储块,作为目标存储块。
进一步地,所述将所述各工作站中缓存的同一个图像数据的图像数据分块缓存至图像数据存储设备,包括:
获取同一个所述图像数据中各图像数据分块存放的位置信息;
将所述位置信息对应的存储块进行读取锁操作,将所述存储块中缓存的图像数据分块写入所述图像数据存储设备,并释放所述存储块的读取锁。
另一方面,本发明实施例提供一种高速高分辨率图像数据存储装置,包括:
存储块划分单元,用于识别可用的工作站,并获取所述各工作站的可用内存空间,将所述各工作站的可用内存空间划分为多个存储块;
图像数据划分单元,用于实时接收图像拍摄设备发送的图像数据,并将所述图像数据划分为多个图像数据分块;
图像缓存单元,用于根据所述各工作站的可用内存空间的大小、所述图像数据分块的大小以及所述图像数据分块的数量,将所述图像数据分块发送至不同工作站的存储块中进行缓存;
图像存储单元,用于将所述各工作站中缓存的同一个图像数据的图像数据分块转存至图像数据存储设备。
进一步地,所述图像缓存单元具体用于:
步骤10:获取所述工作站的可用的目标存储块,并将所述目标存储块进行写入锁操作;
步骤20:将对应的所述图像数据分块发送至所述目标存储块,并进行标记;
步骤30:若判断获知所述图像数据未完全发送至所述各工作站的存储块,则获取下一个可用工作站的目标存储块,重复执行步骤10至步骤30,直至所述图像数据全部发送至所述各工作站的存储块,释放所述目标存储块的写入锁。
进一步地,所述存储块划分单元还用于,将所述各工作站的存储块进行循环队列排序操作,相应地,所述图像缓存单元还用于:获取所述工作站中在所述循环队列中排序第一的可用的存储块,作为目标存储块。
进一步地,所述图像数据存储单元具体用于:
获取同一个所述图像数据中各图像数据分块存放的位置信息;
将所述位置信息对应的存储块进行读取锁操作,将所述存储块中缓存的图像数据分块写入所述图像数据存储设备,并释放所述存储块的读取锁。
再一方面,本发明实施例提供一种高速高分辨率图像数据存储系统,包括:
图像数据存储设备、至少一个图像拍摄设备、至少一个工作站和上述高速高分辨率图像数据存储装置。
进一步地,所述系统还包括网络交换机,所述网络交换机与所述系统的其他设备连接,用于数据的传输。
本发明实施例提供的高速高分辨率图像数据存储方法、装置及系统,通过将具有内存的工作站的可用内存空间划分成多个存储块,并将图像数据划分为多个图像数据分块,将图像数据分块分别发送至不同的工作站的存储块中存储,提高了图像数据存储速度。再将缓存在存储块中的图像数据转存至图像数据存储设备中,以使得后续的图像数据能够继续利用工作站的存储块进行缓存。将图像数据的图像数据分块缓存至不同的工作站的存储块中,实现各个工作站的并行工作,并且内利用了工作站内存空间可以实现快速缓存的功能,实现了高速高分辨率图像数据的实时记录。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例中高速高分辨率图像数据存储方法的流程示意图;
图2为本发明实施例中从图像拍摄设备中获取图像数据的方法流程示意图;
图3为本发明实施中图像数据分块缓存至工作站的存储块的示意图;
图4为本发明实施中图像数据转存的流程示意图;
图5为本发明实施例中高速高分辨率图像数据存储装置的结构示意图;
图6为本发明实施例提供的高速高分辨率图像数据存储系统的结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
图1为本发明实施例中高速高分辨率图像数据存储方法的流程示意图,如图1所示,本发明实施例提供的高速高分辨率图像数据存储方法包括:
S1、识别可用的工作站,并获取所述各工作站的可用内存空间,将所述各工作站的可用内存空间划分为多个存储块;
具体地,本发明实施例中的工作站是指具有内存空间的服务器如计算机等,在进行高速高分辨率的图像的存储时,先识别出可用的工作站,并获取各个可用的工作站的可用内存空间。将各个可用的工作站的可用内存储空间划分成多个存储块,其中存储块的大小根据实际需要进行设置,本发明实施例不作具体限定。
S2、实时接收图像拍摄设备发送的图像数据,并将所述图像数据划分为多个图像数据分块;
具体地,接收图像拍摄设备发送的图像数据,并将该图像数据划分成多个图像数据分块,以方便存储,并加快图像数据的存储速度。本发明实施例中的图像拍摄设备可以是高速相机或高速摄像机等,能够实现高速拍摄功能的设备。其中图像数据可以是实验室为了记录实验数据和实验过程的图片或视屏等,图像数据的分辨率比较高,并且数量较多,一般的存储设备不能满足实时记录图像数据的要求。
S3、根据所述各工作站的可用内存空间、所述图像数据分块的大小以及所述图像数据分块的数量,将所述图像数据分块发送至不同工作站的存储块中进行存储;
具体地,根据获取到的各个工作站的可用内存空间的大小、图像数据分块的大小以及图像数据分块的数量,将获取到的图像数据的图像数据分块分别发送至不同工作站的存储块中进行缓存。
S4、将所述各工作站中缓存的同一个图像数据的图像数据分块转存至图像数据存储设备。
具体地,在图像数据所有的图像数据分块都存储在工作站的存储块中后,将各个存储块中的同一个图像数据的图像数据分块导出至图像数据存储设备中。其中,图像数据存储设备可以是磁盘、硬盘或其他具有大容量的存储设备,本发明实施例不作具体限定。
本发明实施例提供的高速高分辨率图像数据存储方法,通过将具有内存的工作站的可用内存空间划分成多个存储块,并将图像数据划分为多个图像数据分块,将图像数据分块分别发送至不同的工作站的存储块中存储,提高了图像数据存储速度。再将缓存在存储块中的图像数据转存至图像数据存储设备中,以使得后续的图像数据能够继续利用工作站的存储块进行缓存。将图像数据的图像数据分块缓存至不同的工作站的存储块中,实现各个工作站的并行工作,并且内利用了工作站内存空间可以实现快速缓存的功能,实现了高速高分辨率图像数据的实时记录。
在上述实施例的基础上,所述将所述图像数据分块发送至不同工作站的存储块中进行缓存,包括:
步骤10:获取所述工作站的可用的目标存储块,并将所述目标存储块进行写入锁操作;
步骤20:将对应的所述图像数据分块发送至所述目标存储块,并进行标记;
步骤30:若判断获知所述图像数据未完全发送至所述各工作站的存储块,则获取下一个可用工作站的目标存储块,重复执行步骤10至步骤30,直至所述图像数据全部发送至所述各工作站的存储块,释放所述目标存储块的写入锁。
具体地,接收到图像拍摄设备发送的图像数据,并将该图像数据划分成多个图像数据分块后,获取各个工作站的可用的目标存储块,并将该目标存储块进行写入锁操作,避免其他图像存储块将数据存储至该目标存储块。本发明实施例按照获取图像数据分块的时间先后顺序,依次将图像数据分块发送至工作站的存储块中。获取到目标存储块后,将对应的图像数据分块发送至该目标存储块,并进行标记,即标记属于哪个图像数据的第几个图像数据分块,以便后期能够完整的从工作站中将图像数据转存至图像数据存储设备中。判断图像数据是否全部发送至工作站,即判断图像数据是否下载完成,若没有下载完成,则获取下一个可用工作站的目标存储块,重复执行上述动作,将下一个图像数据分块发送至对应的目标存储块中,直至图像数据全部下载完成,释放各目标存储块的写入锁,即将各目标存储块的写入锁进行解锁操作。
图2为本发明实施例中从图像拍摄设备中获取图像数据的方法流程示意图,如图2所示,本发明实施例将图像拍摄设备中获取图像数据,即将图像数据缓存至工作站中的具体流程如下:
T1、通过网络连接读取图像拍摄设备中的图像数据。识别与图像拍摄设备如各个高速相机连接的工作站,通过网络连接读取各个图像拍摄设备中的图像数据,并将该图像数据进行分块获得多个图像数据分块。
T2、选取下一个工作站的下一个存储块作为目标存储块。本发明实施例按照图像数据中的图像数据分块获取的先后顺序,依次将图像数据分块发送至各个工作站的存储块中。因为本发明实施例有多个工作站,并且每个工作站中包含多个存储块,本发明实施例会依次获取各工作站的可用的存储块作为目标存储块,以便将图像数据分块发送至指定的目标存储块中。
T3、对目标存储块施加写入锁并广播。获取到工作站的目标存储块后,将该目标存储块施加写入锁并广播,即告知高速高分辨率图像数据存储装置,其他图像数据不能再写入到该目标存储块中。
T4、将图像数据分块写入到目标存储块中,完成后标记并广播元数据信息。将对应的图像数据分块写入目标存储块中,当写入完成后标记并广播该目标存储块缓存的元数据信息,以便后期能够准确的将同一图像数据完整的存储到图像数据存储设备中如磁盘中。
T5、判断存储块是否耗尽。即判断该缓存块是否还有存储空间,若没有,即存储块资源耗尽,则执行T6,否则,即存储块没有耗尽,执行T7。
T6、提示资源耗尽。提示存储块的资源耗尽,没有存储空间,以提示及时将各个工作站中缓存的图像数据转存至图像数据存储设备中,并提示后续图像数据不能缓存至该工作站中的该存储块中。
T7、判断图像数据是否下载完毕。即判断图像数据的所有图像数据分块是否全部缓存至各个工作站的存储块中,若没有,即图像数据还有未缓存的图像数据分块,则重复执行步骤T2至步骤T7;若图像数据下载完毕,即所有的图像数据分块都缓存至各个工作站的存储块中,则执行步骤T8。
T8、广播图像数据写入结束,启动图像数据转存操作。图像数据全部下载完成后,广播该图像数据写入结束通知,以启动图像数据转存操作,即将各个工作站存储块中的图像数据转存至图像数据存储设备中。
T9、释放存储块的写入锁并广播。即在图像数据转存至图像数据存储设备中后,将各个存储块的写入锁进行解锁,并广播,已告知其他图像数据的图像数据分块可以存储至该存储块中。
本发明实施例提供的高速高分辨率图像数据存储方法,将图像数据划分为多个图像数据分块,并依次缓存至各个工作站的目标存储块中,在缓存图像数据分块之前,将目标存储块进行写入锁操作,以使得其他图像数据不能写入同一个目标存储块中,以保证后期图像数据能够完整的转存。并在图像数据转存至图像数据存储设备中后,将目标存储块的写入锁解锁,以使得各个工作站的存储块能够重新被利用,实现循环利用各个工作站的存储块进行图像数据的缓存。将图像数据的图像数据分块缓存至不同的工作站的存储块中,实现各个工作站的并行工作,提高了图像数据存储速度,实现了高速高分辨率图像数据的实时记录。
在上述实施例的基础上,所述方法还包括:将所述各工作站的存储块进行循环队列排序操作;
相应地,所述获取所述工作站的可用的目标存储块,包括:获取所述工作站中在所述循环队列中排序第一的可用的存储块,作为目标存储块。
具体地,本发明实施例将各个工作站的存储块进行循环队列排序操作,即将每一个工作站可用的存储块依次排序,在该存储块被施加写入锁后,则将该存储块从队列中删除,若该存储块的写入锁被解锁后,则将该存储块重新加入队列中,可以将该存储块加入队列的最后位置处,一遍后续进行图像数据的缓存工作。在进行图像数据的缓存时,获取的工作站的目标存储块可以是该工作站循环队列中排序第一的可用的存储块,并按照图像数据分块的获取时间依次将图像数据缓存至各个目标存储块中。
例如:一个工作站中包括三个存储块1、2、3,并且此时这三个存储块都是空闲的,在缓存第一个图像数据时,获取到该工作站排序第一的存储块1作为目标存储块,则这个目标存储块1已经被施加写入锁,将该目标存储块1从循环队列中删除,此时循环队列中原来排序第二的存储块2现在排序第一。在缓存第二个图像数据时,则将该工作站排序第一的存储块即原排序第二的存储块2作为目标存储块,并将该存储块施加写入锁,从循环队列中删除,依次类推。当各个存储块中的写入锁被解锁后,又可以重新加入循环队列中。
图3为本发明实施中图像数据分块缓存至工作站的存储块的示意图,如图3所示,本发明实施例将图像数据划分为多个图像数据分块,并按照时间先后顺序,将各个图像数据分块缓存至不同工作站的存储块中。从图3可以看出,本发明实施例中同一个图像数据中的图像数据分块首先是依次缓存至不同的工作站中,但是若图像数据比较大,每个工作站中的存储块都缓存有该图像数据的图像数据分块后,该图像数据依旧没有缓存完成,则可以重复利用同一个工作站的不同存储块进行缓存,如图3中的图像数据2。
本发明实施例提供的高速高分辨率图像数据存储方法,将各个工作站内的多个存储块进行循环队列排序操作,并将图像数据的图像数据分块依次发送至对应的目标存储块中存储,并能够循环利用工作站的存储块。将图像数据的图像数据分块缓存至不同的工作站的存储块中,实现各个工作站的并行工作,提高了图像数据存储速度,实现了高速高分辨率图像数据的实时记录。
在上述实施例的基础上,所述将所述各工作站中缓存的同一个图像数据的图像数据分块缓存至图像数据存储设备,包括:
获取同一个所述图像数据存储中各图像数据分块的存放的位置信息;
将所述位置信息对应的存储块进行读取锁操作,将所述存储块中缓存的图像数据分块写入所述图像数据存储设备,并释放所述存储块的读取锁。
具体地,本发明实施例对各个工作站、图像拍摄设备实行异步监听,在监听到一个图像数据下载完毕后,发布异步事件广播通知,并从该异步事件广播通知中获取该图像数据的各个图像数据分块存放的位置信息。即在图像数据缓存的过程中,会记录并标记图像数据的各个图像数据分块的存储位置,在该图像数据缓存完毕后,获取该图像数据各个图像数据分块的位置信息。将存放该图像数据所有的图像数据分块的存储块施加读取锁操作,以避免其他图像数据转存过程读取该图像数据的图像数据分块。将存储该图像数据的不同工作站的存储块中的图像数据分块写入到图像数据存储设备中,并释放存储块的读取锁,完成一个图像数据的转存操作。
图4为本发明实施中图像数据转存的流程示意图,如图4所示,本发明实施例中将各个工作站的缓存的图像数据转存至图像数据存储设备的流程如下:
B1、启动并行输入输出模块,监听各个工作站以及图像拍摄设备的状态。本发明实施例中采用不行输入输出模块及并行IO模块实现不同工作站的数据输入和输出,并监听各个工作站以及图像拍摄设备的状态。
B2、监听到一个图像数据缓存完毕。
B3、获取图像数据缓存的位置信息。本发明实施例中监听到各个工作站或图像拍摄设备的状态有变化时,会发布异步事件广播通知,该异步事件广播通知带有相应的状态信息。在图像数据缓存的过程中,会记录并标记图像数据的各个图像数据分块的存储位置,在该图像数据缓存完毕后,通过发布异步事件广播通知告知该图像数据缓存完毕,并带有该图像数据缓存的位置信息。通过异步事件广播通知获取图像数据中各个图像数据分块缓存的位置信息。
B4、将缓存本次图像数据分块的存储块施加读取锁。即将缓存此次图像数据的图像数据分块的存储块施加读取锁,避免转存其他图像数据时误读取该图像数据的内容,保证图像数据转存的准确性和完整性。
B5、将对应的存储块中的图像数据分块写入图像数据存储设备。通过并行IO模块发起联合输入输出操作,将缓存有本次图像数据的缓存块中的图像数据分块转存至图像数据存储设备。
B6、确认转存完成,释放对应的存储块的读取锁。即判断图像数据是否转存完毕,若是,则将缓存有该图像数据的存储块进行读取锁解锁操作,以便于后续的图像数据的读取操作。
B7、判断是否还有未转存的图像数据。本发明实施例可以同时存储多个图像数据,因此可能会有多个同时数据缓存完成,判断异步事件通知中是否还有已经缓存完毕,但未转存的图像数据,若是,则重复上述步骤B3-B7,否则,返回步骤B1。
本发明实施例提供的高速高分辨率图像数据存储方法,通过将具有内存的工作站的可用内存空间划分成多个存储块,并将图像数据划分为多个图像数据分块,将图像数据分块依次分别发送至不同的工作站的存储块中存储,提高了图像数据存储速度。再将缓存在存储块中的图像数据转存至图像数据存储设备中,以使得后续的图像数据能够继续利用工作站的存储块进行缓存。将图像数据的图像数据分块缓存至不同的工作站的存储块中,实现各个工作站的并行工作,并且内利用了工作站内存空间可以实现快速缓存的功能,实现了高速高分辨率图像数据的实时记录。
图5为本发明实施例中高速高分辨率图像数据存储装置的结构示意图,如图5所示本发明实施例提供的高速高分辨率图像数据存储装置包括:存储块划分单元51、图像数据划分单元52、图像缓存单元53和图像存储单元54,其中:
存储块划分单元51用于识别可用的工作站,并获取所述各工作站的可用内存空间,将所述各工作站的可用内存空间划分为多个存储块;图像数据划分单元52用于实时接收图像拍摄设备发送的图像数据,并将所述图像数据划分为多个图像数据分块;图像缓存单元53用于根据所述各工作站的可用内存空间的大小、所述图像数据分块的大小以及所述图像数据分块的数量,将所述图像数据分块发送至不同工作站的存储块中进行缓存;图像存储单元54用于将所述各工作站中缓存的同一个图像数据的图像数据分块转存至图像数据存储设备。
具体地,在进行高速高分辨率的图像的存储时,存储块划分单元51先识别出可用的工作站,并获取各个可用的工作站的可用内存空间。将各个可用的工作站的可用内存储空间划分成多个存储块,其中存储块的大小根据实际需要进行设置,本发明实施例不作具体限定。图像数据划分单元52接收图像拍摄设备发送的图像数据,并将该图像数据划分成多个图像数据分块,以方便存储,并加快图像数据的存储速度。图像缓存单元53根据获取到的各个工作站的可用内存空间的大小、图像数据分块的大小以及图像数据分块的数量,将获取到的图像数据的图像数据分块分别发送至不同工作站的存储块中进行缓存。图像存储单元54将各个存储块中的同一个图像数据的图像数据分块导出至图像数据存储设备中。其中,图像数据存储设备可以是磁盘、硬盘或其他具有大容量的存储设备,本发明实施例不作具体限定。
本发明实施例提供的高速高分辨率图像数据存储装置,通过将具有内存的工作站的可用内存空间划分成多个存储块,并将图像数据划分为多个图像数据分块,将图像数据分块分别发送至不同的工作站的存储块中存储,提高了图像数据存储速度。再将缓存在存储块中的图像数据转存至图像数据存储设备中,以使得后续的图像数据能够继续利用工作站的存储块进行缓存。将图像数据的图像数据分块缓存至不同的工作站的存储块中,实现各个工作站的并行工作,并且内利用了工作站内存空间可以实现快速缓存的功能,实现了高速高分辨率图像数据的实时记录。
在上述实施例的基础上,所述图像缓存单元具体用于:
步骤10:获取所述工作站的可用的目标存储块,并将所述目标存储块进行写入锁操作;
步骤20:将对应的所述图像数据分块发送至所述目标存储块,并进行标记;
步骤30:若判断获知所述图像数据未完全发送至所述各工作站的存储块,则获取下一个可用工作站的目标存储块,重复执行步骤10至步骤30,直至所述图像数据全部发送至所述各工作站的存储块,释放所述目标存储块的写入锁。
具体地,图像缓存单元接收到图像拍摄设备发送的图像数据,并将该图像数据划分成多个图像数据分块后,获取各个工作站的可用的目标存储块,并将该目标存储块进行写入锁操作,避免其他图像存储块将数据存储至该目标存储块。本发明实施例按照获取图像数据分块的时间先后顺序,依次将图像数据分块发送至工作站的存储块中。获取到目标存储块后,将对应的图像数据分块发送至该目标存储块,并进行标记,即标记属于哪个图像数据的第几个图像数据分块,以便后期能够完整的从工作站中将图像数据转存至图像数据存储设备中。判断图像数据是否全部发送至工作站,即判断图像数据是否下载完成,若没有下载完成,则获取下一个可用工作站的目标存储块,重复执行上述动作,将下一个图像数据分块发送至对应的目标存储块中,直至图像数据全部下载完成,释放各目标存储块的写入锁,即将各目标存储块的写入锁进行解锁操作。具体实现方式同上述实施例一致,此处不再赘述。
本发明实施例提供的高速高分辨率图像数据存储装置,将图像数据划分为多个图像数据分块,并依次缓存至各个工作站的目标存储块中,在缓存图像数据分块之前,将目标存储块进行写入锁操作,以使得其他图像数据不能写入同一个目标存储块中,以保证后期图像数据能够完整的转存。并在图像数据转存至图像数据存储设备中后,将目标存储块的写入锁解锁,以使得各个工作站的存储块能够重新被利用,实现循环利用各个工作站的存储块进行图像数据的缓存。将图像数据的图像数据分块缓存至不同的工作站的存储块中,实现各个工作站的并行工作,提高了图像数据存储速度,实现了高速高分辨率图像数据的实时记录。
在上述实施例的基础上,所述存储块划分单元还用于,将所述各工作站的存储块进行循环队列排序操作,相应地,所述图像缓存单元还用于:获取所述工作站中在所述循环队列中排序第一的可用的存储块,作为目标存储块。
具体地,存储块划分单元还用于将各个工作站的存储块进行循环队列排序操作,即将每一个工作站可用的存储块依次排序,在该存储块被施加写入锁后,则将该存储块从队列中删除,若该存储块的写入锁被解锁后,则将该存储块重新加入队列中,可以将该存储块加入队列的最后位置处,一遍后续进行图像数据的缓存工作。在进行图像数据的缓存时,图像缓存单元还用于获取的工作站的目标存储块可以是该工作站循环队列中排序第一的可用的存储块,并按照图像数据分块的获取时间依次将图像数据缓存至各个目标存储块中。具体实现方式同上述实施例一致,此处不再赘述。
在上述实施例的基础上,所述图像数据存储单元具体用于:
获取同一个所述图像数据中各图像数据分块存放的位置信息;
将所述位置信息对应的存储块进行读取锁操作,将所述存储块中缓存的图像数据分块写入所述图像数据存储设备,并释放所述存储块的读取锁。
具体地,本发明实施例对各个工作站、图像拍摄设备实行异步监听,在监听到一个图像数据下载完毕后,发布异步事件广播通知,图像数据存储单元从该异步事件广播通知中获取该图像数据的各个图像数据分块存放的位置信息。即在图像数据缓存的过程中,会记录并标记图像数据的各个图像数据分块的存储位置,在该图像数据缓存完毕后,图像数据存储单元获取该图像数据各个图像数据分块的位置信息。将存放该图像数据所有的图像数据分块的存储块施加读取锁操作,以避免其他图像数据转存过程读取该图像数据的图像数据分块。将存储该图像数据的不同工作站的存储块中的图像数据分块写入到图像数据存储设备中,并释放存储块的读取锁,完成一个图像数据的转存操作。
本发明实施例提供的高速高分辨率图像数据存储装置用于执行上述方法,其具体实施方式同上述实施例一致,此处不再赘述。
本发明实施例提供的高速高分辨率图像数据存储装置,通过将具有内存的工作站的可用内存空间划分成多个存储块,并将图像数据划分为多个图像数据分块,将图像数据分块依次分别发送至不同的工作站的存储块中存储,提高了图像数据存储速度。再将缓存在存储块中的图像数据转存至图像数据存储设备中,以使得后续的图像数据能够继续利用工作站的存储块进行缓存。将图像数据的图像数据分块缓存至不同的工作站的存储块中,实现各个工作站的并行工作,并且内利用了工作站内存空间可以实现快速缓存的功能,实现了高速高分辨率图像数据的实时记录。
图6为本发明实施例提供的高速高分辨率图像数据存储系统的结构示意图,如图6所示,本发明实施例中的高速高分辨率图像数据存储系统包括:图像数据存储设备61、至少一个图像拍摄设备62、至少一个工作站63和上述实施例所述的高速高分辨率图像数据存储装置64。
具体地,本发明实施例中可以将高速高分辨率图像数据存储装置64集成在每一个工作站63上,以实现控制图像数据的缓存和转存,此外,还可以将图像数据存储设备61集成在工作站63上,即在工作站63上设置大容量的磁盘或硬盘,可以在每个工作站63中设置一个图像数据存储设备61,也可以在其中一个工作站63中设置一个图像数据存储设备61,具体根据需要进行设置,本发明实施例不做具体限定。
如图6所示,在上述实施例的基础上,所述系统还包括网络交换机65,所述网络交换机与所述系统的其他设备连接,用于数据的传输。
具体地,如图6所示,网络交换机65分别与每个图像拍摄设备62、工作站63和图像数据存储设备61连接,以用于数据的传输。
其中,本发明实施例中的高速高分辨率图像数据存储装置64可以包括:联合缓存模块,并行输入输出模块,循环缓存块队列模块和异步事件通知模块,其中具体可以通过计算机程序实现控制图像数据的缓存和转存。下面介绍本发明实施例中高速高分辨率图像数据存储系统工作过程:
(1)用户工作界面(本发明实施例在任意一个工作站都可以打开用户工作界面,并执行以下操作,其中打开工作界面的工作站可以称为主控机)
a)实验者打开工作窗口,首先提示识别系统可用的工作站列表;
b)根据识别的工作站列表,执行MPI(Message Passing Interface)环境初始化,获取各工作站可用的内存空间;
c)在运行操作界面的工作站上执行一个广播,让各个工作站识别图像拍摄设备;
d)设置存储块大小以及每个服务器内存空间缓存中预留分块数;
e)据以上设置的条件和参数,在运行操作界面的工作站执行广播消息,指示各工作站初始化其存储块的循环队列;
f)各工作站根据广播消息得到的参数,初始化put/get窗口,进入异步事件监听和等待模式。
(2)从图像拍摄设备获取数据
a)实验者操作,通过广播消息,通知识别了图像拍摄设备的工作站发起与图像拍摄设备的连接,进入待机状态;
b)通过网络连接(网络交换机)传输图像数据,数据到达后,根据初始化中确定的工作站列表和图像数据分块的大小,图像数据分块的数量等参数,循环向各个工作站的开放窗口put数据块;
c)工作界面负责记录各个图像数据分块及其分布情况;
d)每传输完毕一副完整图像数据,由连接图像拍摄设备的工作站发起一个广播消息,通知联合缓存模块对存储块写入锁解锁,并对并行IO模块发起异步事件通知,通知一个图像数据缓存完毕。
(3)数据转存至图像数据存储设备
a)并行IO模块根据异步事件消息通知,启动存储块内数据的转储;
b)执行全局通信操作,确定与当前图像数据关联的存储块和图像数据分块的分布,对存储块及队列加读取锁;
c)根据从图像拍摄设备连接工作站确定的信息和时间信息,与当前图像数据关联的工作站之间通过MPI-IO接口建立并行文件;
d)图像数据并行写入图像数据存储设备后,执行启动异步事件通知的广播操作,通知图像数据转存完毕;
e)相关工作站在接到转存完毕的消息后,通知联合缓存模块解除读取锁,存储块标记为可用。
(4)图像数据读出
a)在工作主界面,打开文件系统目录,选择相应的文件名;
b)确定后,系统发起一个并行文件打开操作;
c)选择导出,将文件导出到其他目录或分析处理程序进行后续处理。
本发明实施例提供的高速高分辨率图像数据存储方法、装置以及系统,通过将具有内存的工作站的可用内存空间划分成多个存储块,并将图像数据划分为多个图像数据分块,将图像数据分块依次分别发送至不同的工作站的存储块中存储,提高了图像数据存储速度。再将缓存在存储块中的图像数据转存至图像数据存储设备中,以使得后续的图像数据能够继续利用工作站的存储块进行缓存。将图像数据的图像数据分块缓存至不同的工作站的存储块中,实现各个工作站的并行工作,并且内利用了工作站内存空间可以实现快速缓存的功能,实现了高速高分辨率图像数据的实时记录。
以上实施例仅用于说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (10)

1.一种高速高分辨率图像数据存储方法,其特征在于,包括:
识别可用的工作站,并获取所述各工作站的可用内存空间,将所述各工作站的可用内存空间划分为多个存储块;
实时接收图像拍摄设备发送的图像数据,并将所述图像数据划分为多个图像数据分块;
根据所述各工作站的可用内存空间的大小、所述图像数据分块的大小以及所述图像数据分块的数量,将所述图像数据分块发送至不同工作站的存储块中进行缓存;
将所述各工作站中缓存的同一个图像数据的图像数据分块转存至图像数据存储设备。
2.根据权利要求1所述的方法,其特征在于,所述将所述图像数据分块发送至不同工作站的存储块中进行缓存,包括:
步骤10:获取所述工作站的可用的目标存储块,并将所述目标存储块进行写入锁操作;
步骤20:将对应的所述图像数据分块发送至所述目标存储块,并进行标记;
步骤30:若判断获知所述图像数据未完全发送至所述各工作站的存储块,则获取下一个可用工作站的目标存储块,重复执行步骤10至步骤30,直至所述图像数据全部发送至所述各工作站的存储块,释放所述目标存储块的写入锁。
3.根据权利要求2所述的方法,其特征在于,所述方法还包括:将所述各工作站的存储块进行循环队列排序操作;
相应地,所述获取所述工作站的可用的目标存储块,包括:获取所述工作站中在所述循环队列中排序第一的可用的存储块,作为目标存储块。
4.根据权利要求1所述的方法,其特征在于,所述将所述各工作站中缓存的同一个图像数据的图像数据分块缓存至图像数据存储设备,包括:
获取同一个所述图像数据中各图像数据分块存放的位置信息;
将所述位置信息对应的存储块进行读取锁操作,将所述存储块中缓存的图像数据分块写入所述图像数据存储设备,并释放所述存储块的读取锁。
5.一种高速高分辨率图像数据存储装置,其特征在于,包括:
存储块划分单元,用于识别可用的工作站,并获取所述各工作站的可用内存空间,将所述各工作站的可用内存空间划分为多个存储块;
图像数据划分单元,用于实时接收图像拍摄设备发送的图像数据,并将所述图像数据划分为多个图像数据分块;
图像缓存单元,用于根据所述各工作站的可用内存空间的大小、所述图像数据分块的大小以及所述图像数据分块的数量,将所述图像数据分块发送至不同工作站的存储块中进行缓存;
图像存储单元,用于将所述各工作站中缓存的同一个图像数据的图像数据分块转存至图像数据存储设备。
6.根据权利要求5所述的装置,其特征在于,所述图像缓存单元具体用于:
步骤10:获取所述工作站的可用的目标存储块,并将所述目标存储块进行写入锁操作;
步骤20:将对应的所述图像数据分块发送至所述目标存储块,并进行标记;
步骤30:若判断获知所述图像数据未完全发送至所述各工作站的存储块,则获取下一个可用工作站的目标存储块,重复执行步骤10至步骤30,直至所述图像数据全部发送至所述各工作站的存储块,释放所述目标存储块的写入锁。
7.根据权利要求6所述的装置,其特征在于,所述存储块划分单元还用于,将所述各工作站的存储块进行循环队列排序操作,相应地,所述图像缓存单元还用于:获取所述工作站中在所述循环队列中排序第一的可用的存储块,作为目标存储块。
8.根据权利要求5所述的装置,其特征在于,所述图像数据存储单元具体用于:
获取同一个所述图像数据中各图像数据分块存放的位置信息;
将所述位置信息对应的存储块进行读取锁操作,将所述存储块中缓存的图像数据分块写入所述图像数据存储设备,并释放所述存储块的读取锁。
9.一种高速高分辨率图像数据存储系统,其特征在于,包括:图像数据存储设备、至少一个图像拍摄设备、至少一个工作站和上述权利要求5-8任一项所述的高速高分辨率图像数据存储装置。
10.根据根据权利要求9所述的系统,其特征在于,所述系统还包括网络交换机,所述网络交换机与所述系统的其他设备连接,用于数据的传输。
CN201710375392.3A 2017-05-24 2017-05-24 一种高速高分辨率图像数据存储方法、装置及系统 Active CN107333080B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710375392.3A CN107333080B (zh) 2017-05-24 2017-05-24 一种高速高分辨率图像数据存储方法、装置及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710375392.3A CN107333080B (zh) 2017-05-24 2017-05-24 一种高速高分辨率图像数据存储方法、装置及系统

Publications (2)

Publication Number Publication Date
CN107333080A true CN107333080A (zh) 2017-11-07
CN107333080B CN107333080B (zh) 2019-11-22

Family

ID=60192633

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710375392.3A Active CN107333080B (zh) 2017-05-24 2017-05-24 一种高速高分辨率图像数据存储方法、装置及系统

Country Status (1)

Country Link
CN (1) CN107333080B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114327338A (zh) * 2021-12-28 2022-04-12 威创集团股份有限公司 一种超高分图像显示系统及图像显示方法

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070043808A1 (en) * 2002-02-15 2007-02-22 Agnoli Giovanni M System, method, and computer program product for media publishing request processing
US20070124781A1 (en) * 2005-11-30 2007-05-31 Qwest Communications International Inc. Networked content storage
CN101414277A (zh) * 2008-11-06 2009-04-22 清华大学 一种基于虚拟机的按需增量恢复容灾系统及方法
US20110202633A1 (en) * 2010-02-18 2011-08-18 Masahiro Koike Cache server control device, content distribution system, method of distributing content, and program
CN102279810A (zh) * 2011-08-11 2011-12-14 浪潮(北京)电子信息产业有限公司 一种网络存储服务器及其缓存数据的方法
CN103294413A (zh) * 2013-05-08 2013-09-11 山东地纬计算机软件有限公司 支持海量采集终端的分布式内存实时存储装置及方法
CN103702057A (zh) * 2013-09-03 2014-04-02 成都竣泰科技有限公司 一种适应于多路并发写入流媒体数据的分块式存储算法
CN104581192A (zh) * 2014-12-31 2015-04-29 江苏中科梦兰电子科技有限公司 一种基于多层结构的低延时、高并发媒体流分发方法
CN104602035A (zh) * 2015-02-06 2015-05-06 深圳中兴网信科技有限公司 流媒体点播方法和流媒体点播系统

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070043808A1 (en) * 2002-02-15 2007-02-22 Agnoli Giovanni M System, method, and computer program product for media publishing request processing
US20070124781A1 (en) * 2005-11-30 2007-05-31 Qwest Communications International Inc. Networked content storage
CN101414277A (zh) * 2008-11-06 2009-04-22 清华大学 一种基于虚拟机的按需增量恢复容灾系统及方法
US20110202633A1 (en) * 2010-02-18 2011-08-18 Masahiro Koike Cache server control device, content distribution system, method of distributing content, and program
CN102279810A (zh) * 2011-08-11 2011-12-14 浪潮(北京)电子信息产业有限公司 一种网络存储服务器及其缓存数据的方法
CN103294413A (zh) * 2013-05-08 2013-09-11 山东地纬计算机软件有限公司 支持海量采集终端的分布式内存实时存储装置及方法
CN103702057A (zh) * 2013-09-03 2014-04-02 成都竣泰科技有限公司 一种适应于多路并发写入流媒体数据的分块式存储算法
CN104581192A (zh) * 2014-12-31 2015-04-29 江苏中科梦兰电子科技有限公司 一种基于多层结构的低延时、高并发媒体流分发方法
CN104602035A (zh) * 2015-02-06 2015-05-06 深圳中兴网信科技有限公司 流媒体点播方法和流媒体点播系统

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114327338A (zh) * 2021-12-28 2022-04-12 威创集团股份有限公司 一种超高分图像显示系统及图像显示方法
CN114327338B (zh) * 2021-12-28 2024-02-09 威创集团股份有限公司 一种超高分图像显示系统及图像显示方法

Also Published As

Publication number Publication date
CN107333080B (zh) 2019-11-22

Similar Documents

Publication Publication Date Title
CN106534344B (zh) 一种云平台视频处理系统及其应用方法
US10929465B2 (en) Method and apparatus for processing requests for thumbnail images in a video surveillance system
CN105979218A (zh) 一种高清实时监控视频高效传输方法
CN105893278A (zh) 系统缓存垃圾清理方法、装置和终端设备
US20080117903A1 (en) Apparatus and method for high speed and large amount of data packet capturing and replaying
CN104836992A (zh) 一种监控视频录制方法及装置
CN102831405A (zh) 基于分布式和暴力匹配的室外大规模物体识别方法和系统
CN110413282A (zh) 一种冗余资源处理方法、装置、设备及存储介质
CN107333080B (zh) 一种高速高分辨率图像数据存储方法、装置及系统
CN110493302A (zh) 一种文件传输方法、设备及计算机可读存储介质
CN110335495A (zh) 车辆位置信息处理方法、装置、计算机设备和存储介质
CN108389280A (zh) 一种基于nfc智能手机的巡检方法及系统
CN107659792A (zh) 一种绿通车的检测系统、方法及装置
CN110309100A (zh) 一种快照对象生成方法和装置
CN105893248A (zh) 获取终端设备中异常相关信息的方法和装置
JP4793025B2 (ja) 分散型画像処理装置
CN116346649A (zh) 负载均衡设备的虚服务抓包方法及装置
CN109829526A (zh) 一种条码管理方法、装置及电子设备
CN114205632A (zh) 视频预览方法、装置、电子设备及计算机可读存储介质
CN109698907A (zh) 共用摄像头通道的方法、装置、存储介质以及终端
CN111489227A (zh) 一种电商信息共享系统
CN112181986A (zh) 一种基于Flink框架的数据分析方法及装置
CN111782483A (zh) 一种可弹性伸缩的云计算监控平台
CN113470271B (zh) 智能一体化柜体通信设备和方法
CN112052110B (zh) 一种存储方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant