CN114070469A - 一种数据处理方法和系统 - Google Patents
一种数据处理方法和系统 Download PDFInfo
- Publication number
- CN114070469A CN114070469A CN202111352098.3A CN202111352098A CN114070469A CN 114070469 A CN114070469 A CN 114070469A CN 202111352098 A CN202111352098 A CN 202111352098A CN 114070469 A CN114070469 A CN 114070469A
- Authority
- CN
- China
- Prior art keywords
- data
- data points
- points
- frame
- preset
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L1/00—Arrangements for detecting or preventing errors in the information received
- H04L1/0078—Avoidance of errors by organising the transmitted data in a format specifically designed to deal with errors, e.g. location
- H04L1/0079—Formats for control data
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L1/00—Arrangements for detecting or preventing errors in the information received
- H04L1/0001—Systems modifying transmission characteristics according to link quality, e.g. power backoff
- H04L1/0006—Systems modifying transmission characteristics according to link quality, e.g. power backoff by adapting the transmission format
- H04L1/0007—Systems modifying transmission characteristics according to link quality, e.g. power backoff by adapting the transmission format by modifying the frame length
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L1/00—Arrangements for detecting or preventing errors in the information received
- H04L1/0078—Avoidance of errors by organising the transmitted data in a format specifically designed to deal with errors, e.g. location
- H04L1/0083—Formatting with frames or packets; Protocol or part of protocol for error control
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Quality & Reliability (AREA)
- Mobile Radio Communication Systems (AREA)
Abstract
本说明书实施例提供一种数据处理方法,所述方法包括:获取采集到的多个数据点;基于多个数据点确定多个数据帧,多个数据帧中的每个数据帧包含若干数据点,其中,若干数据点之间的采集时间不连续。通过该数据处理方法可以实现即使出现数据传输的丢包,也可以将丢失的数据分散化。
Description
技术领域
本说明书涉及生理数据传输技术领域,特别涉及一种数据处理方法和系统。
背景技术
数据采用无线传输的方式进行传输时,由于无线传输的传输特性(例如,无线通道不稳定等),会使得数据出现丢失、乱序的问题,这时通常会对数据进行还原,以减小重建数据与原始数据的偏差。但在采取顺序传输的数据传输方式中,若发生数据丢失,则数据一般会连续地丢失,从而会给数据还原造成困难,进而无法保证数据还原的正确性和可靠性。
因此,需要提出一种数据处理方法,以降低数据丢失的风险及其带来的影响。
发明内容
本说明书实施例之一提供一种数据处理方法,所述方法包括:获取采集到的多个数据点;基于所述多个数据点确定多个数据帧,所述多个数据帧中的每个数据帧包含若干数据点,其中,所述若干数据点之间的采集时间不连续。
本说明书实施例之一提供一种数据处理系统,所述系统包括:获取模块,用于获取采集到的多个数据点;确定模块,用于基于所述多个数据点确定多个数据帧,所述多个数据帧中的每个数据帧包含若干数据点,其中,所述若干数据点之间的采集时间不连续。
本说明书实施例之一提供一种数据处理装置,包括处理器,所述处理器用于执行所述数据处理方法。
本说明书实施例之一提供一种计算机可读存储介质,所述存储介质存储计算机指令,当计算机读取存储介质中的计算机指令后,计算机执行所述数据处理方法。
附图说明
本说明书将以示例性实施例的方式进一步说明,这些示例性实施例将通过附图进行详细描述。这些实施例并非限制性的,在这些实施例中,相同的编号表示相同的结构,其中:
图1是根据本说明书一些实施例所示的数据处理系统的应用场景示意图;
图2是根据本说明书一些实施例所示的数据处理系统的示例性模块;
图3是根据本说明书一些实施例所示的数据处理方法的示例性流程图;
图4是根据本说明书一些实施例所示的数据帧确定方法的示例性流程图;
图5是根据本说明书一些实施例所示的预估间隔值的示例性示意图。
具体实施方式
为了更清楚地说明本说明书实施例的技术方案,下面将对实施例描述中所需要使用的附图作简单的介绍。显而易见地,下面描述中的附图仅仅是本说明书的一些示例或实施例,对于本领域的普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图将本说明书应用于其它类似情景。除非从语言环境中显而易见或另做说明,图中相同标号代表相同结构或操作。
应当理解,本文使用的“系统”、“装置”、“单元”和/或“模块”是用于区分不同级别的不同组件、元件、部件、部分或装配的一种方法。然而,如果其他词语可实现相同的目的,则可通过其他表达来替换所述词语。
如本说明书和权利要求书中所示,除非上下文明确提示例外情形,“一”、“一个”、“一种”和/或“该”等词并非特指单数,也可包括复数。一般说来,术语“包括”与“包含”仅提示包括已明确标识的步骤和元素,而这些步骤和元素不构成一个排它性的罗列,方法或者设备也可能包含其它的步骤或元素。
本说明书中使用了流程图用来说明根据本说明书的实施例的系统所执行的操作。应当理解的是,前面或后面操作不一定按照顺序来精确地执行。相反,可以按照倒序或同时处理各个步骤。同时,也可以将其他操作添加到这些过程中,或从这些过程移除某一步或数步操作。
图1是根据本说明书一些实施例所示的数据处理系统的应用场景示意图。
如图1所示,本说明书实施例所涉及的应用场景100可以包括服务器110、网络120、用户终端130、存储设备140、数据采集设备150以及生理信号160。
在一些实施例中,数据处理系统可以通过实施本说明书中披露的方法和/或过程来对数据进行传输和提取等操作。
在一个典型的应用场景中,服务器110可以经由网络120通过数据采集设备150,获取生理信号160,并对生理信号160进行处理。服务器110在处理时可以获取存储设备140上的数据或将数据保存到存储设备140。上述方式仅为方便理解,本系统亦可以其他可行的操作方式实施本说明书中的方法。
服务器110可以用于获取数据采集设备150采集到的数据点的信息,并确定数据点数据的传输方式。在一些实施例中,服务器110还可以用于获取数据的具体传输情况,并根据实际传输情况修正数据传输方案。在一些实施例中,服务器110可以基于获取到的数据对确定缺失的数据的修复方法,并对缺失的数据进行修复。
在一些实施例中,服务器110可以包括中央处理单元(CPU)、数字信号处理器(DSP)等和/或其任意组合。在一些实施例中,服务器110可以是本地的、远程的、或在云平台上实现。在一些实施例中,服务器110或服务器110的一部分可以集成到数据采集设备150中。
网络120可以提供信息交换的渠道。在一些实施例中,服务器110、用户终端130、存储设备140、数据采集设备150之间可以通过网络120交换信息。例如,服务器110可以通过网络120接收数据采集设备150发送的关于生理信号160的数据信息。又例如,服务器110可以通过网络120读取存储设备140存储的数据。
用户终端130指用户所使用的一个或多个终端设备或软件。在一些实施例中,用户终端130可以是移动设备130-1、平板计算机130-2、膝上型计算机130-3、台式计算机130-4等其他具有输入和/或输出功能的设备中的一种或其任意组合。在一些实施例中,用户终端130可以作为数据发送方的显示终端,用于经由网络120获取并显示数据采集设备150采集的数据和/或信息、工作状态等。在一些实施例中,用户终端130可以作为数据接收方的数据接收设备及显示终端,用于接收及显示收到的数据信息。上述示例仅用于说明所述用户终端130设备范围的广泛性而非对其范围的限制。
存储设备140可以用于存储数据和/或指令。可以从例如服务器110、数据采集设备150、用户终端130等获得数据和/或指令。在一些实施例中,存储设备140可以储存服务器110用来执行或使用以完成本说明书中描述的示例性方法的数据和/或指令。
数据采集设备150可以用于采集被检查者的生理信号数据。数据采集设备150可以包括一个或多个设备。在一些实施例中,数据采集设备150可以包括脑电采集装置150-1、心电采集装置150-2等。在一些实施例中,数据采集设备150可以用于采集脑电信号、心率信号等生理信号160。
生理信号160可以是反映机体状态的信号。在一些实施例中,生理信号160可以包括脑电信号、肌电信号、心电信号(EGG)、容积血流脉搏波(PGG)、呼吸信号等。在一些实施例中,生理信号160可以用于反映机体的生理状态,例如,情绪、疲劳、健康等状态。
在一些实施例中,数据采集设备150采集到的生理信号160是以在各个单位时间采集的信号数据点的形式呈现。
图2是根据本说明书一些实施例所示的数据处理系统200的模块图。
在一些实施例中,所述数据处理系统200可以包括获取模块210、确定模块220和预处理模块230模块。
获取模块210可以用于获取采集到的多个数据点。数据点是指数据采集设备在单位时间点采集到的生理数据信息。在一些实施例,获取模块210可以与相应的数据采集设备直接通信来获取采集到的多个数据点,关于获取数据点的更多细节可以参见图3及其相关描述。
确定模块220可以用于基于多个数据点确定多个数据帧,多个数据帧中的每个数据帧包含若干数据点,其中,若干数据点之间的采集时间不连续。在一些实施例中,确定模块220还可以用于基于对多个数据点进行预处理得到的缓存矩阵,确定多个数据帧,其中,每个数据帧包含基于预设提取规则从缓存矩阵中提取的若干数据点。关于确定数据帧的更多细节可以参见图4及其相关描述。
预处理模块230可以用于对获取模块210获取的多个数据点进行预处理,其中,预处理包括基于预设缓存规则,对多个数据点进行缓存得到缓存矩阵。关于对多个数据点进行预处理的更多细节可以参见图4及其相关描述。
需要注意的是,以上对于候选项显示、确定系统及其模块的描述,仅为描述方便,并不能把本说明书限制在所举实施例范围之内。可以理解,对于本领域的技术人员来说,在了解该系统的原理后,可能在不背离这一原理的情况下,对各个模块进行任意组合,或者构成子系统与其他模块连接。在一些实施例中,图2中披露的获取模块210、确定模块220和预处理模块230可以是一个系统中的不同模块,也可以是一个模块实现上述的两个或两个以上模块的功能。例如,各个模块可以共用一个存储模块,各个模块也可以分别具有各自的存储模块。诸如此类的变形,均在本说明书的保护范围之内。
图3是根据本说明书一些实施例所示的数据帧处理方法的示例性流程图。如图3所示,流程300包括下述步骤。在一些实施例中,流程300可以由服务器110执行。
步骤310,获取采集到的多个数据点。在一些实施例中,获取模块210可以执行步骤310。
数据点是指数据采集设备在单位时间点采集到的生理数据信息,例如,脑电扫描设备在某毫秒采集的检查者的脑电信号即可作为一个数据点。根据单位时间点的长度不同,数据点的数据长度可以进行适应性变化,在一些实施例中,可以通过确定数据点的数据长度来确定单位时间点的长度。
在一些实施例中,每个数据点的大小相同。例如,每个数据点是3个字节。
数据点可以由获取模块210与相应的数据采集设备(例如,数据采集设备150)直接通信获取,在一些实施例中,也可以采取其他方式获取,如获取模块210从存储设备读取等。
在一些实施例中,获取模块210获取到的多个数据点可以是数据采集设备从一个或多个通道采集的生理数据,数据采集设备的通道是指数据采集设备用于获取生理数据(即生理信号)的信号端口,数据采集设备的通道数量可以根据实际需求而定,例如,若需要同时获取多种生理信号,如同时获取脑电信号、肌电信号、心电信号,则对应通道数量可以三个,若仅需获取一种生理信号,则可以仅设置一个通道。其中,一个或多个通道获取的生理信号对应被采集对象可以是同一个对象(比如,人,动物等),也可以是多个对象。
步骤320,基于所述多个数据点确定多个数据帧,所述多个数据帧中的每个数据帧包含若干数据点,其中,所述若干数据点之间的采集时间不连续。在一些实施例中,确定模块220可以执行步骤320。
数据帧是指数据链路层的协议数据单元。数据帧的数据大小可以以字节为单位。
单个数据帧可以包括多个数据点,来自每个数据点的数据可以是该时间点采集到的全部数据也可以是部分数据。该多个数据点的采集时间之间不连续。单个数据帧中的多个数据点取自于采集设备采集的数据点,但采集的数据点并非按照采集的顺序(如,时间顺序或采集点顺序等)依次存放采集的数据点生产多个数据帧。
两个数据点的采集时间不连续是指单个数据帧中两个数据点的采集时间之间存在间隔。该间隔可以包括采集时间间隔或采集点数间隔等。采集时间间隔是指两个数据点之间存在一定采集时间差。采集点数间隔是指两个数据点对应的采集时间之间间隔了其他的数据不在本帧的采集点。
同一帧中不同对采集时间相邻的两个数据点之间的间隔可以相同或不同。
如步骤310所述,数据采集设备可以通过多个通道采集数据点。相应的,获取的数据点可以来自于多个通道。单个数据帧中可以包括多个通道中的一个或多个的数据点。在一些实施例中,单个数据帧中可以包括每个数据通道的数据点。
当单个数据帧中包含不同通道的数据点时,针对每一个通道,单个数据帧中该通道的数据点之间采集时间不连续。
在一些实施例中,数据帧的数据大小可以与最大传输单元(MaximumTransmission Unit,MTU)相关。数据帧的数据大小不大于MTU的大小。例如,数据帧的数据大小等于或者接近MTU的大小。
MTU是指通信协议在某一层上面所能通过的最大数据包大小。MTU可以说明发送方能够接受的有效载荷大小。MTU的大小可以以字节为单位。
在一些实施例中,确定模块220可以基于MTU的取值,确定单个数据帧包含的数据点个数。确定模块220可以以多种方式结合MTU的取值和单个数据点的大小,确定单个数据帧中包含的数据点个数。例如,单个数据点的小大为x,MTU取值为m,单个数据帧中数据点个数为使得xy≤m时y的最大整数。
如前所述,单个数据帧中可以包含采集时多个通道的数据点。在一些实施例中,确定模块220可以基于MTU,确定单个数据帧中各个通道的数据点数。单个数据帧中不同通道的数据点个数相同或者不同。
若单个数据帧中不同通道的数据点个数相同,确定模块220可以以多种方式结合MTU的取值、数据点的大小和通道数量,确定单个数据帧中每个通道的数据点个数。例如,每个通道的数据点个数为使lxy1≤m时y1的最大整数。x和m的含义与上相同,l为通道数。
确定模块220可以获取单个数据帧中不同通道的数据点个数差异,再结合MTU的大小、通道数量,确定单个数据帧中不同通道的数据点个数。该差异可以提前预设。例如,共3个通道,分别为A、B和C,预设通道A的数量要高于B和C等。
通过MTU确定数据帧中包含的数据点个数,可以使得每次数据传输时,在满足传输要求的情况下,尽可能地多传输数据,降低传输成本,提高传输效率。
确定模块220可以通过图4的方式确定数据帧,也可以通过其他方式确定数据帧。
在一些实施例中,确定模块220可以基于预设规则从采集的数据点中提取多个数据点构成一个数据帧。预设规则可以是单个数据帧中相邻的两个数据点的采集时间之间的间隔。
图4是根据本说明书一些实施例所示的数据帧确定方法的示例性流程图。
步骤410,对多个数据点401进行预处理。在一些实施例中,预处理模块230执行步骤410。
预处理是指采集到数据点后对其进行的处理,以便后续进行数据帧的确定。在一些实施例中,预处理可以包括如数据排序等处理。
在一些实施例中,预处理包括基于预设缓存规则,对所述多个数据点401进行缓存得到缓存矩阵402。
预设缓存规则是指预先设定的对数据点进行缓存的规则,如预设缓存规则可以为对数据点进行缓存及编码处理,以得到缓存矩阵402。
在一些实施例中,预设缓存规则中可以包括数据点在缓存矩阵402中的排列顺序,例如,可以为按照采集时序一列一列或一行一行依次排序。
编码处理是指按照数据点的某个顺序(如采集时序)对各个数据点依次赋予一个编码,其中,该顺序为编码顺序。通过该编码即可确定各个数据点在采集到的整个数据中的位置。在一些实施例中,可以采用数字代码的方式给各个数据点进行编码,例如采用0、1、2、…mn-1等编码依次给在第一个、第二个、第三个、…第mn-2个单位时间点采集到的数据点进行编码,进而得到带编码的多个数据点401,如图4中多个数据点401中的数字即表示该数据点的编码。
在一些实施例中,可以在采集到数据点时即依据其采集时序对其进行编码,再依据预设缓存规则中规定的数据点在缓存矩阵中的排列顺序将带编码的数据点存入缓存矩阵中。在一些实施例中,可以先参照数据点的采集时序以及预设缓存规则将数据点存入缓存矩阵,再对缓存矩阵中的各个数据点参照一定的顺序(如按行或列的顺序)依次进行编码。如图4中缓存矩阵402中各个数字(0、1、2…mn-1)即代表各个数据点的编码。
在一些实施例中,数据点的编码信息可以同时传输至数据接收方,数据接收方可以解析出各个数据点的编码信息。若数据接收方接收的数据发生丢失,可以结合解析的编码信息,对接收到的数据进行位置还原。所谓还原是指反向确定接收到的每个数据点在采集时的采集时序。
缓存矩阵402是指由多个数据点401按照一定排列顺序构成的二维矩阵,其大小可以为m×n(列×行)。在一些实施例中,若数据采集设备为多通道设备,则可以分别给各个通道采集的设备按照前述方式构建各个通道对应的缓存矩阵。如步骤320所述,在数据采集设备为多通道设备时,单个数据帧中的数据点可以从各个缓存矩阵中提取。
将多个数据点401按照预设缓存规则中规定的数据的排列顺序依次排序即可得到缓存矩阵402。例如,若预设缓存规则为将数据在缓存矩阵m×n中一列一列依次排序,则对于获取到的多个数据点401(编码依次为0、1、2、…n、…mn-1),可以按照按列填充的方式将多个数据点401填充至大小可以为m×n的矩阵中得到缓存矩阵402。在一些实施例中,若获取到的多个数据点401不能填满缓存矩阵401,则可以用制定字符(如0)填充。
步骤420,基于所述缓存矩阵确定多个数据帧,所述多个数据帧中的每个数据帧包含基于预设提取规则从所述缓存矩阵中提取的若干数据点。在一些实施例中,确定模块220执行步骤420。
在一些实施例中,数据帧中的数据点具体由预设提取规则确定。例如,一个数据帧404中包括按照预设提取规则从缓存矩阵中提取的相应个数及相应位置的数据点。
在一些实施例中,基于缓存矩阵402确定数据帧404时,可以先基于缓存矩阵402生成缓存序列403,然后再基于预设提取规则,从缓存序列403提取对应的数据点以确定数据帧404。
缓存序列403是指将缓存矩阵402中的数据按照一定规则重新排列而生成的一维序列。在一些实施例中,缓存矩阵402中的数据在缓存序列403中的排列规则与预设缓存规则不同,例如,若预设缓存规则中规定数据点在缓存矩阵402中的排列顺序为依照采集时间由小至大依次按列填充入缓存矩阵402中,则缓存序列403可以是将缓存矩阵402中的数据按行提取并依次排列得到的一维序列。例如,缓存序列403共包括mn个数据点,其前m个数据点即是从缓存矩阵402(大小为m列×n行)中提取的第一行数据(0、n、2n、3n、…mn-n),缓存序列403的第m+1到第2m个数据点,则是从缓存矩阵402中提取的第二行数据(1、n+1、2n+1、3n+1、…mn-n+1)。
与缓存矩阵相对应的,若数据采集设备为多通道设备,则可以分别给各个通道采集的设备按照前述方式构建各个通道对应的缓存序列。同理,在数据采集设备为多通道设备时,单个数据帧中的数据点可以从各个缓存序列中提取。
缓存序列403是为了便于提取数据点确定数据帧而设置的中间序列,在一些实施例中,也可以不生成缓存序列,在确定数据帧时直接按照预设提取规则从缓存矩阵402中提取数据点。
在一些实施例中,预设提取规则可以包括构成一个数据帧的数据点的位置信息及数量信息。
数据点的位置信息可以包括一个数据帧404中相邻数据点在缓存矩阵402或缓存序列403中的间隔信息。即数据点的位置信息可以基于数据帧404中相邻两个数据点之间的间隔信息表示。在一些实施例中,间隔信息可以是具体间隔的数据点的数量,即间隔信息可以直接以间隔值表示。例如,间隔信息为间隔一个数据点,以间隔值表示即间隔值为1,表示数据帧404中相邻两个数据点在缓存序列403中的位置关系为间隔一个数据点,如数据帧404-2,数据帧404-2包括三个数据点,其编码依次为:0、2n、4n,这三个数据点在缓存序列403中是两两间均间隔一个数据点。又如,间隔信息为无间隔(即间隔值为0),即表示数据帧404中相邻两个数据点在缓存序列403中的位置关系也为相邻,如数据帧404-包括四个数据点,其编码依次为:0、n、2n、3n,这四个数据点在缓存序列403中也是相邻的四个连续的数据点。
数据点的数量信息与MTU的取值相关,具体说明参见图3。
在一些实施例中,单个数据帧中包含的数据点的数量的取值还与缓存矩阵的大小(大小为m列×n行)相关,例如,以通过一个通道采集数据点为例,若单个数据帧中包含的数据点的数量为l,则l、n、m需满足以下关系:
l∈Z,且mn mod l=0;即mn能够整除l,以实现一个缓存序列或缓存矩阵内的所有数据点都能够通过数据帧都传输完。
在一些实施例中,预设提取规则是可以根据传输情况而进行修改或变化的,例如,在数据传输的初始阶段,可以采用默认的提取规则作为预设提取规则,默认的提取规则可以为前次数据传输中采用的数据提取规则,然后根据实际的数据传输情况及反馈进一步修订预设提取规则。
在一些实施例中,预设提取规则中包括的数据点间的间隔信息可以根据实际数据接收或发射情况而定,更多说明参见图5。
在一些实施例中,预设缓存规则的数据点缓存顺序与预设提取规则的数据点提取顺序不相同。例如,若按照预设缓存规则,数据点是按列填入缓存矩阵中,则依据预设提取规则提取缓存矩阵中的数据点生成数据帧时,可以按行的顺序依次提取每行相应个数的数据点,其中,上一行的数据点提取完后默认继续提取下一行的数据。
需要说明的是,预设提取规则需要满足的要求是:一个数据帧中,按照预设提取规则提取的多个数据点在采集时间上应是不连续的。
在进行数据传输时,通过交织矩阵的方式进行数据传输,可以实现即使数据传输时出现数据丢失,也能将丢失的数据分散化,即丢失数据时,不会丢失原数据中一大段连续的数据,以便于后续依据未丢失的数据进行数据重建,降低丢失的数据对整个数据传输有效性的影响。
数据传输中可能会由于其他因素的影响出现数据丢包,如数据接收方接收到的一个数据帧中某个数据点缺失或接收到的数据中某些数据帧缺失等。在出现数据丢包时,数据接收方可以要求数据传输方重新进行数据传输,或数据接收方根据目前已经收到的数据信息进行数据重建。
数据重建是指根据现有的数据对缺失的数据进行恢复。例如,根据第一信息采集时间点及第三信息采集时间点采集的数据对丢失的第二信息采集时间点采集的数据进行恢复。
在一些实施例中,可以根据同一通道邻近数据点和同一采集时间的其他通道数据点对缺失的数据点进行恢复。关于通道的说明参见图3步骤310。
在一些实施例中,可以基于同一通道的生理数据,例如,同一通道邻近数据点的生理数据,通过三次样条插值的方式进行数据恢复。
在一些实施例中,可以基于同一通道邻近数据点和/或同一采集时间的其他通道数据点的生理数据,通过数据重建模型进行数据恢复。
在一些实施例中,数据重建模型可以采用神经网络结构或者其他可以进行数据预测的模型结构。
在一些实施例中,数据重建模型的输入可以包括同一通道邻近数据点和/或同一采集时间的其他通道数据点的生理数据,数据重建模型的输出可以包括缺失点的数据预测值。
应当注意的是,上述有关流程400的描述仅仅是为了示例和说明,而不限定本说明书的适用范围。对于本领域技术人员来说,在本说明书的指导下可以对流程400进行各种修正和改变。然而,这些修正和改变仍在本说明书的范围之内。
图5是根据本说明书一些实施例所示的训练及执行间隔值预测模型的流程500的示意图。
在一些实施例中,可以基于数据接收方接收的历史数据帧中的数据点的间隔值,预估待接收数据帧中数据点的间隔值,根据预估的间隔值确定预设提取规则。关于数据点的间隔值的说明参见步骤420的内容。
在一些实施例中,间隔值的大小是可以调整的。例如,间隔值从0调整为1,即将依次连续提取数据点调整为间隔1个数据点来提取数据点。在一些实施例中,可以根据数据接收方接收的历史数据帧中的数据点的间隔值调整后续传输的数据的间隔值的大小。从历史数据帧中的数据点的间隔值中可以确定其丢失的数据点的间隔值,若丢失的数据点的间隔值较小,说明传输中数据丢失情况较严重,则可以在后续数据传输中,从缓存序列或缓存矩阵中提取间隔值更大的数据点以构成数据帧。
根据数据丢失的严重程度来调整间隔值的大小,可以降低出现数据丢包时发生数据一大段连续丢失的可能性,以便于后续依据未丢失的数据进行数据重建。
在一些实施例中,可以先基于当前传输情况预估数据接收方收到的数据点的间隔值,再基于该预估的间隔值来确定预设提取规则中数据点间的间隔值,如,若预估得到的数据点的间隔值与数据发送方发送数据时数据点的间隔值差别不大,即表明数据丢失的情况不严重,则可以设定预设提取规则中数据点间的间隔值取较小的值或0等。在一些实施例中,也可以采取其他方式确定预设提取规则中数据点间的间隔值,例如,通过对数据接收方接收的多个历史数据帧中的数据点的间隔值进行拟合处理,进而确定预设提取规则中数据点间的间隔值。
在一些实施例中,可以基于间隔值预测模型来预估待发送数据帧中丢失数据点的间隔值。在一些实施例中,间隔值预测模型可以由深度神经网络(Deep Neural Networks,DNN)、卷积神经网络(Convolutional Neural Networks,CNN)实现等。
在一些实施例中,间隔值预测模型540的输入530可以是数据接收方与数据发送方的连接方式、校验错误率、传输速率、传输时延、噪声率MTU的大小及数量等,输出550可以是预估的数据接收方收到的数据的间隔值。数据接收方与数据发送方的连接方式是指数据接收方与数据发送方进行通信的方式。在一些实施例中,数据接收方与数据发送方的连接方式可以包括单工通信、半双工通信和全双工通信等。校验错误率是数据传输时对传输的数据是否正确进行校验得到出现差错的数据所占的比值。在一些实施例中,对传输的数据进行校验的方法可以包括奇偶校验、代码和校验、循环冗余码校验等。在一些实施例中,校验错误率可以包括误码(比特)率、误字符率等。传输速率是指单位时间内传输的数据点的数量,传输速率可以用比特率和波特率来表示。例如,传输速率可以为120bit/s或2B。传输时延是指数据发送方从开始发送数据帧到数据帧发送完毕所需要的全部时间,传输时延和发送的数据帧大小有关。例如,数据帧大小为120bit,传输速率为120bit/s,则传输时延为1s。噪声率是指数据在传输过程中受到外界噪声干扰而出现差错的数据点所占的比值。例如,传输的数据帧大小为100bit,受到外界噪声干扰而出现差错的数据点为5bit,则噪声率为5%。MTU的大小及数量的说明参见图3。
在一些实施例中,间隔值预测模型540可以基于大量带有标签的训练样本510训练得到。例如,将带有标签的训练样本510输入初始间隔值预测模型520,通过标签和初始间隔值预测模型520的预测结果构建损失函数,基于损失函数迭代更新模型的参数。当训练的模型满足预设条件时,训练结束。其中,预设条件为损失函数收敛、迭代的次数达到阈值等。
在一些实施例中,训练样本至少可以包括样本连接方式、样本校验错误率、样本传输速率、样本传输时延、样本噪声率、MTU的样本取值及数量。标签可以是实际收到的数据的间隔值。标签可以基于从存储系统获取的数据接收方接受的历史数据帧生成,标签也可以人工标注。
在一些实施例中,间隔值预测模型540的输入还可以是与数据传输相关的其他数据,例如数据接收方接收的多个历史数据帧中的数据点的间隔值以及采取该间隔值所对应的传输情况(例如数据接收方与数据发送方的相对运动速度、中间阻挡物体积等)。
通过间隔值预测模型可以准确地预测出数据点的间隔值,从而确定更为合适的预设提取规则对数据点进行提取,降低数据点连续丢失的可能性以及丢失的数据对整个数据传输有效性的影响。
本说明书实施例还提供了一种计算机可读存储介质,所述存储介质存储计算机指令,当所述计算机指令被处理器执行时实现如前述的数据处理方法。
本说明书实施例还提供了一种数据处理装置,包括处理器以及存储器;所述存储器用于存储计算机指令;所述处理器用于执行所述计算机指令中的至少部分指令以实现如前述的数据处理的方法。
本说明书实施例可能带来的有益效果包括但不限于:(1)在进行数据传输时,通过交织矩阵的方式进行数据传输,可以实现即使数据传输时出现数据丢失,也能将丢失的数据分散化,即丢失数据时,不会丢失原数据中一大段连续的数据,以便于后续依据未丢失的数据进行数据重建,降低丢失的数据对整个数据传输有效性的影响。(2)通过间隔值预测模型可以准确地预测出丢失数据点的间隔值,再根据数据丢失的严重程度来调整间隔值的大小,可以确定更为合适的预设提取规则对数据点进行提取,从而降低数据一大段连续丢失的可能性,以便于后续依据未丢失的数据进行数据重建。
需要说明的是,不同实施例可能产生的有益效果不同,在不同的实施例里,可能产生的有益效果可以是以上任意一种或几种的组合,也可以是其他任何可能获得的有益效果。
上文已对基本概念做了描述,显然,对于本领域技术人员来说,上述详细披露仅仅作为示例,而并不构成对本说明书的限定。虽然此处并没有明确说明,本领域技术人员可能会对本说明书进行各种修改、改进和修正。该类修改、改进和修正在本说明书中被建议,所以该类修改、改进、修正仍属于本说明书示范实施例的精神和范围。
同时,本说明书使用了特定词语来描述本说明书的实施例。如“一个实施例”、“一实施例”、和/或“一些实施例”意指与本说明书至少一个实施例相关的某一特征、结构或特点。因此,应强调并注意的是,本说明书中在不同位置两次或多次提及的“一实施例”或“一个实施例”或“一个替代性实施例”并不一定是指同一实施例。此外,本说明书的一个或多个实施例中的某些特征、结构或特点可以进行适当的组合。
此外,除非权利要求中明确说明,本说明书所述处理元素和序列的顺序、数字字母的使用、或其他名称的使用,并非用于限定本说明书流程和方法的顺序。尽管上述披露中通过各种示例讨论了一些目前认为有用的发明实施例,但应当理解的是,该类细节仅起到说明的目的,附加的权利要求并不仅限于披露的实施例,相反,权利要求旨在覆盖所有符合本说明书实施例实质和范围的修正和等价组合。例如,虽然以上所描述的系统组件可以通过硬件设备实现,但是也可以只通过软件的解决方案得以实现,如在现有的服务器或移动设备上安装所描述的系统。
同理,应当注意的是,为了简化本说明书披露的表述,从而帮助对一个或多个发明实施例的理解,前文对本说明书实施例的描述中,有时会将多种特征归并至一个实施例、附图或对其的描述中。但是,这种披露方法并不意味着本说明书对象所需要的特征比权利要求中提及的特征多。实际上,实施例的特征要少于上述披露的单个实施例的全部特征。
一些实施例中使用了描述成分、属性数量的数字,应当理解的是,此类用于实施例描述的数字,在一些示例中使用了修饰词“大约”、“近似”或“大体上”来修饰。除非另外说明,“大约”、“近似”或“大体上”表明所述数字允许有±20%的变化。相应地,在一些实施例中,说明书和权利要求中使用的数值参数均为近似值,该近似值根据个别实施例所需特点可以发生改变。在一些实施例中,数值参数应考虑规定的有效数位并采用一般位数保留的方法。尽管本说明书一些实施例中用于确认其范围广度的数值域和参数为近似值,在具体实施例中,此类数值的设定在可行范围内尽可能精确。
针对本说明书引用的每个专利、专利申请、专利申请公开物和其他材料,如文章、书籍、说明书、出版物、文档等,特此将其全部内容并入本说明书作为参考。与本说明书内容不一致或产生冲突的申请历史文件除外,对本说明书权利要求最广范围有限制的文件(当前或之后附加于本说明书中的)也除外。需要说明的是,如果本说明书附属材料中的描述、定义、和/或术语的使用与本说明书所述内容有不一致或冲突的地方,以本说明书的描述、定义和/或术语的使用为准。
最后,应当理解的是,本说明书中所述实施例仅用以说明本说明书实施例的原则。其他的变形也可能属于本说明书的范围。因此,作为示例而非限制,本说明书实施例的替代配置可视为与本说明书的教导一致。相应地,本说明书的实施例不仅限于本说明书明确介绍和描述的实施例。
Claims (10)
1.一种数据处理方法,包括:
获取采集到的多个数据点;
基于所述多个数据点确定多个数据帧,所述多个数据帧中的每个数据帧包含若干数据点,其中,所述若干数据点之间的采集时间不连续。
2.根据权利要求1所述的方法,所述数据帧中包含的数据点的个数基于最大传输单元的取值确定。
3.根据权利要求2所述的方法,所述数据帧中包含的若干数据点来自于多个通道;
所述数据帧中,来自同一通道的所述数据点的个数基于所述最大传输单元的取值确定。
4.根据权利要求1所述的方法,所述基于所述多个数据点确定多个数据帧之前还包括对所述多个数据点进行预处理,所述预处理包括:
基于预设缓存规则,对所述多个数据点进行缓存得到缓存矩阵;
所述基于所述多个数据点确定多个数据帧包括:
基于所述缓存矩阵确定多个数据帧,所述多个数据帧中的每个数据帧包含基于预设提取规则从所述缓存矩阵中提取的若干数据点;
其中,所述预设缓存规则的数据点缓存顺序与所述预设提取规则的数据点提取顺序不相同。
5.一种数据处理系统,包括:
获取模块,用于获取采集到的多个数据点;
确定模块,用于基于所述多个数据点确定多个数据帧,所述多个数据帧中的每个数据帧包含若干数据点,其中,所述若干数据点之间的采集时间不连续。
6.根据权利要求5所述的系统,所述数据帧中包含的数据点的个数基于最大传输单元的取值确定。
7.根据权利要求6所述的系统,所述数据帧中包含的若干数据点来自于多个通道;
所述数据帧中,来自同一通道的所述数据点的个数基于所述最大传输单元的取值确定。
8.根据权利要求5所述的系统,还包括预处理模块,所述预处理模块用于对所述获取模块获取的所述多个数据点进行预处理;
所述预处理包括:
基于预设缓存规则,对所述多个数据点进行缓存得到缓存矩阵;
所述确定模块进一步用于:
基于所述缓存矩阵确定多个数据帧;每个所述数据帧包含基于预设提取规则从所述缓存矩阵中提取的若干数据点;
其中,所述预设缓存规则的数据点缓存顺序与所述预设提取规则的数据点提取顺序不相同。
9.一种数据处理装置,所述装置包括处理器以及存储器;所述存储器用于存储指令,其特征在于,所述指令被所述处理器执行时,导致所述装置实现如权利要求1至4中任一项所述数据处理方法对应的操作。
10.一种计算机可读存储介质,其特征在于,所述存储介质存储计算机指令,当计算机读取存储介质中的计算机指令后,计算机运行如权利要求1至4中任意一项所述数据处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111352098.3A CN114070469B (zh) | 2021-11-16 | 2021-11-16 | 一种数据处理方法和系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111352098.3A CN114070469B (zh) | 2021-11-16 | 2021-11-16 | 一种数据处理方法和系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114070469A true CN114070469A (zh) | 2022-02-18 |
CN114070469B CN114070469B (zh) | 2022-12-13 |
Family
ID=80272564
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111352098.3A Active CN114070469B (zh) | 2021-11-16 | 2021-11-16 | 一种数据处理方法和系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114070469B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN118571490A (zh) * | 2024-07-31 | 2024-08-30 | 绿色医疗科技(大连)有限公司 | 基于大数据分析的孕妇孕期健康状态监测方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2259207A1 (en) * | 2009-06-02 | 2010-12-08 | Vicomtech-Visual Interaction and Communication Technologies Center | Method of detection and recognition of logos in a video data stream |
CN104605939A (zh) * | 2015-02-05 | 2015-05-13 | 腾讯科技(深圳)有限公司 | 生理信息处理方法及信息处理装置 |
JP2016024486A (ja) * | 2014-07-16 | 2016-02-08 | キヤノン株式会社 | データ活用システム及びその制御方法 |
CN112244791A (zh) * | 2020-10-27 | 2021-01-22 | 南京大学 | 一种多生理参数监测的可穿戴单臂袖带装置和检测方法 |
CN112491508A (zh) * | 2020-11-24 | 2021-03-12 | 广州技象科技有限公司 | 基于传输进程自适应的数据传输方法及装置 |
-
2021
- 2021-11-16 CN CN202111352098.3A patent/CN114070469B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2259207A1 (en) * | 2009-06-02 | 2010-12-08 | Vicomtech-Visual Interaction and Communication Technologies Center | Method of detection and recognition of logos in a video data stream |
JP2016024486A (ja) * | 2014-07-16 | 2016-02-08 | キヤノン株式会社 | データ活用システム及びその制御方法 |
CN104605939A (zh) * | 2015-02-05 | 2015-05-13 | 腾讯科技(深圳)有限公司 | 生理信息处理方法及信息处理装置 |
CN112244791A (zh) * | 2020-10-27 | 2021-01-22 | 南京大学 | 一种多生理参数监测的可穿戴单臂袖带装置和检测方法 |
CN112491508A (zh) * | 2020-11-24 | 2021-03-12 | 广州技象科技有限公司 | 基于传输进程自适应的数据传输方法及装置 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN118571490A (zh) * | 2024-07-31 | 2024-08-30 | 绿色医疗科技(大连)有限公司 | 基于大数据分析的孕妇孕期健康状态监测方法 |
CN118571490B (zh) * | 2024-07-31 | 2024-09-27 | 绿色医疗科技(大连)有限公司 | 基于大数据分析的孕妇孕期健康状态监测方法 |
Also Published As
Publication number | Publication date |
---|---|
CN114070469B (zh) | 2022-12-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
DE69925875T2 (de) | Elektronisches Identifizierungssystem mit Übertragungsfehlerkorrektursystem | |
US20210056413A1 (en) | Cross-modal neural networks for prediction | |
CN114070469B (zh) | 一种数据处理方法和系统 | |
US20180302189A1 (en) | Reliable communication algorithm for wireless medical devices and sensors within monitoring systems | |
CN107749758A (zh) | 实时生理数据无损压缩、解压缩的方法、装置和系统 | |
US9876608B2 (en) | Encoding apparatus and encoding method | |
JP2021503766A5 (zh) | ||
CN101789846A (zh) | 一种解速率匹配方法及装置 | |
CN112286666A (zh) | 基于回调机制的细粒度数据流可靠卸载方法 | |
De Polavieja | Errors drive the evolution of biological signalling to costly codes | |
KR101835930B1 (ko) | 채널상태정보의 송수신방법 및 장치 | |
Martini et al. | Flexible Macroblock Ordering for Context‐Aware Ultrasound Video Transmission over Mobile WiMAX | |
CN110381461A (zh) | 心电信号传输方法、装置、传感器、终端及存储介质 | |
Khlief et al. | Efficient eeg data compression technique for internet of health things networks | |
DE60308509T2 (de) | Blinde transportformatdetektion für übertragungsverbindung | |
CN101192903B (zh) | 数据帧编解码控制方法 | |
CN103731424B (zh) | 一种网络数据的传输方法、装置及系统 | |
CN112822495A (zh) | 红外图像压缩方法及装置、电子设备、存储介质 | |
Gnana Subha et al. | An efficient algorithm based on combined encoding techniques for compression of ECG data from multiple leads | |
Obermaier et al. | Asymmetric hemisphere modeling in an offline brain-computer interface | |
Angeline et al. | Hybrid compression of biomedical ECG and EEG signals based on differential clustering and encoding techniques | |
US11436205B2 (en) | Method and apparatus for predicting parameter values of data entries in data set | |
Jose et al. | Address-event variable-length compression for time-encoded data | |
EP1252716B1 (de) | Verfahren und anordnung zur dekodierung von informationen | |
EP1609266B1 (de) | Verfahren und messgerät zum ermitteln einer fehlerrate ohne inkrementale redundanz |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |