CN105989138A - 数据处理方法、数据处理系统和服务器 - Google Patents

数据处理方法、数据处理系统和服务器 Download PDF

Info

Publication number
CN105989138A
CN105989138A CN201510090110.6A CN201510090110A CN105989138A CN 105989138 A CN105989138 A CN 105989138A CN 201510090110 A CN201510090110 A CN 201510090110A CN 105989138 A CN105989138 A CN 105989138A
Authority
CN
China
Prior art keywords
mathematical model
verification
formula
data
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201510090110.6A
Other languages
English (en)
Other versions
CN105989138B (zh
Inventor
程帅
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
New Founder Holdings Development Co ltd
Beijing Founder Electronics Co Ltd
Original Assignee
Peking University Founder Group Co Ltd
Beijing Founder Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Peking University Founder Group Co Ltd, Beijing Founder Electronics Co Ltd filed Critical Peking University Founder Group Co Ltd
Priority to CN201510090110.6A priority Critical patent/CN105989138B/zh
Publication of CN105989138A publication Critical patent/CN105989138A/zh
Application granted granted Critical
Publication of CN105989138B publication Critical patent/CN105989138B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明提出了一种数据处理方法、一种数据处理系统和一种服务器,其中,所述方法包括:当Web服务器接收到用户输入的目标公式时,根据所述目标公式建立数学模型;将所述数学模型与非关系型数据库中的目标数据建立关联;在接收到数据处理命令时,从所述非关系型数据库中获取所述目标数据,并根据所述数学模型对所述目标数据进行计算,以得到计算结果。通过本发明的技术方案,通过数学模型对海量数据进行计算与分析,从而可以从海量数据中发现目标数据的趋势和关联关系,进而达到挖掘数据价值的目的。

Description

数据处理方法、数据处理系统和服务器
技术领域
本发明涉及计算机技术领域,具体而言,涉及一种数据处理方法、数据处理系统和一种服务器。
背景技术
目前,当今时代是大数据的时代,但是仅仅拥有海量的数据是没有意义的,唯有挖掘出数据的趋势和关联关系,大数据才具有其生命力。但是,相关技术中很难满足对数据的计算和分析。
因此,如何有效地实现对海量数据的计算和分析,从而挖掘数据的价值成为亟待解决的问题。
发明内容
本发明正是基于上述问题,提出了一种新的技术方案,通过数学模型对海量数据进行计算与分析,从而可以从海量数据中发现目标数据的趋势和关联关系,进而达到挖掘数据价值的目的。
有鉴于此,本发明的一方面提出了一种数据处理方法,包括:当Web服务器接收到用户输入的目标公式时,根据所述目标公式建立数学模型;将所述数学模型与非关系型数据库中的目标数据建立关联;在接收到数据处理命令时,从所述非关系型数据库中获取所述目标数据,并根据所述数学模型对所述目标数据进行计算,以得到计算结果。
在该技术方案中,根据用户输入的目标公式建立数学模型,以通过数学模型对目标数据进行计算,由于目标数据和数学模型存储在不同的数据库中,因此,在建立数学模型时,将该数学模型和非关系型数据库中的目标数据建立关联,这样在从非关系型数据库中获取目标数据之后就可以通过数学模型对目标数据进行计算,得出计算结果,则可以根据计算结果从海量的目标数据中发现目标数据的趋势和关联关系,从而达到挖掘数据的价值的目的。
在上述技术方案中,优选地,还包括:根据接收到的保存命令,保存所述计算结果;以及根据接收到的显示命令,对保存的所述计算结果进行显示。
在该技术方案中,在对目标数据进行计算且得出计算结果之后,可以保存计算结果,并可以对保存的计算结果进行显示,这样便于用户根据显示的计算结果发现目标数据的趋势和关联关系,从而达到挖掘数据的价值的目的。
在上述技术方案中,优选地,根据所述目标公式建立数学模型,具体包括:根据预设的自定义脚本语言将所述目标公式转换成所述数学模型;以及在将所述数学模型与非关系型数据库中的目标数据建立关联后,还包括:根据预设的校验规则和所述目标数据对所述数学模型进行校验;在所述数学模型校验通过时,将所述数学模型存储至应用服务器中;在将所述数学模型存储至所述应用服务器之后,根据所述预设的校验规则和所述目标数据对所述数学模型进行再次校验;在所述数学模型校验通过时,将所述数学模型存储至关系型数据库中。
在该技术方案中,根据预设的自定义脚本语言将用户输入的目标公式转换成数学模型,其中,自定义脚本语言包括但不限于:javascript脚本。另外,在数学模型存储至应用服务器之前,根据预设的校验规则和目标数据对数学模型进行校验,只有在校验通过时,才将数学模型存储至应用服务器中,保证了数学模型的准确性,并且在数学模型存储至关系型数据库之前,对数学模型再一次进行校验,进一步地保证了数学模型的准确性,避免了数学模型在进行第一次校验时的误校验,进而保证了计算结果的准确性。而在校验通过时,将数学模型存储至关系型数据库中,则可以实现对数学模型的统一管理。
在上述技术方案中,优选地,还包括:所述预设的校验规则包括数学运算校验规则和安全校验规则,其中,所述安全校验规则包括:跨站脚本攻击规则、漏洞校验规则和/或数据库脚本特殊字符校验规则,则在所述数学模型和所述目标数据满足所述数学运算校验规则和所述安全校验规则时,判定所述数学模型校验通过,否则,判定所述数学模型校验未通过。
在该技术方案中,预设的校验规则包括但不限于数学运算校验规则和安全校验规则,且数学模型和目标数据都满足数学运算校验规则和安全校验规则时,判断数学模型校验通过,例如,数学模型中包含有根号,而根号处理的目标数据为负数,此时,数学模型和目标数据不满足数学运算规则,则该数学模型是无效的,这种情况下数学模型校验不通过,并提示用户校验不通过,以及提示用户输入正确的目标公式,再例如,根据安全校验规则校验时,发现有黑客对数学模型进行攻击,为了保证目标数据的安全性,使数学模型校验不通过,防止目标数据遭到泄漏,并提示用户不通过,以及时发现漏洞并对其进行修补,其中,安全校验规则包括但不限于:跨站脚本攻击规则(XXS,Cross Site Scripting)、漏洞校验规则和数据库脚本特殊字符校验规则。这样,不仅保证了目标数据的安全性,还保证了数学模型的正确性和有效性。
在上述技术方案中,优选地,还包括:根据接收到的设置命令,设置公式字符库,其中,所述公式字符库中包含至少一个公式字符;根据接收到的公式显示命令,显示所述公式字符库中的公式字符;以及根据接收到的选择命令,从所述公式字符库中选择出目标公式字符,以使用所述目标公式字符组成所述目标公式。
在该技术方案中,可以设置公式字符库,且公式字符库中包括有一个或多个公式字符,该公式字符为目标公式中不常用到的公式字符(例如,log和∑等,而常用到的公式字符例如+、-、*、/),且多个公式字符中的每个公式字符都对应有标记符,这样在确定目标公式时,如果目标公式中包括有公式字符,则可以根据用户输入的标记符来确定公式字符,从而使用户在输入目标公式时更加方便与快捷,另外,可以根据用户进行数据计算的实时需求,自定义目标公式,即实现了目标公式的可定制化,从而更好地满足用户的需求。
本发明的另一方面提出了一种数据处理系统,用于服务器,包括:建立单元,当Web服务器接收到用户输入的目标公式时,根据所述目标公式建立数学模型;关联单元,将所述数学模型与非关系型数据库中的目标数据建立关联;处理单元,在接收到数据处理命令时,从所述非关系型数据库中获取所述目标数据,并根据所述数学模型对所述目标数据进行计算,以得到计算结果。
在该技术方案中,根据用户输入的目标公式建立数学模型,以通过数学模型对目标数据进行计算,由于目标数据和数学模型存储在不同的数据库中,因此,在建立数学模型时,将该数学模型和非关系型数据库中的目标数据建立关联,这样在从非关系型数据库中获取目标数据之后就可以通过数学模型对目标数据进行计算,得出计算结果,则可以根据计算结果从海量的目标数据中发现目标数据的趋势和关联关系,从而达到挖掘数据的价值的目的。
在上述技术方案中,优选地,还包括:保存单元,根据接收到的保存命令,保存所述计算结果;以及第一显示单元,根据接收到的显示命令,对保存的所述计算结果进行显示。
在该技术方案中,在对目标数据进行计算且得出计算结果之后,可以保存计算结果,并可以对保存的计算结果进行显示,这样便于用户根据显示的计算结果发现目标数据的趋势和关联关系,从而达到挖掘数据的价值的目的。
在上述技术方案中,优选地,所述建立单元,包括:转换单元,根据预设的自定义脚本语言将所述目标公式转换成所述数学模型;以及所述数据处理系统还包括:校验单元,根据预设的校验规则和所述目标数据对所述数学模型进行校验;存储单元,在所述数学模型校验通过时,将所述数学模型存储至应用服务器中;所述校验单元还用于:在将所述数学模型存储至所述应用服务器之后,根据所述预设的校验规则和所述目标数据对所述数学模型进行再次校验;所述存储单元还用于:在所述数学模型校验通过时,将所述数学模型存储至关系型数据库中。
在该技术方案中,根据预设的自定义脚本语言将用户输入的目标公式转换成数学模型,其中,自定义脚本语言包括但不限于:javascript脚本。另外,在数学模型存储至应用服务器之前,根据预设的校验规则和目标数据对数学模型进行校验,只有在校验通过时,才将数学模型存储至应用服务器中,保证了数学模型的准确性,并且在数学模型存储至关系型数据库之前,对数学模型再一次进行校验,进一步地保证了数学模型的准确性,避免了数学模型在进行第一次校验时的误校验,进而保证了计算结果的准确性。而在校验通过时,将数学模型存储至关系型数据库中,则可以实现对数学模型的统一管理。
在上述技术方案中,优选地,还包括:所述预设的校验规则包括数学运算校验规则和安全校验规则,其中,所述安全校验规则包括:跨站脚本攻击规则、漏洞校验规则和/或数据库脚本特殊字符校验规则,则所述校验单元还用于:在所述数学模型和所述目标数据满足所述数学运算校验规则和所述安全校验规则时,判定所述数学模型校验通过,否则,判定所述数学模型校验未通过。
在该技术方案中,预设的校验规则包括但不限于数学运算校验规则和安全校验规则,且数学模型和目标数据都满足数学运算校验规则和安全校验规则时,判断数学模型校验通过,例如,数学模型中包含有根号,而根号处理的目标数据为负数,此时,数学模型和目标数据不满足数学运算规则,则该数学模型是无效的,这种情况下数学模型校验不通过,并提示用户校验不通过,以及提示用户输入正确的目标公式,再例如,根据安全校验规则校验时,发现有黑客对数学模型进行攻击,为了保证目标数据的安全性,使数学模型校验不通过,防止目标数据遭到泄漏,并提示用户不通过,以及时发现漏洞并对其进行修补,其中,安全校验规则包括但不限于:跨站脚本攻击规则(XXS,Cross Site Scripting)、漏洞校验规则和数据库脚本特殊字符校验规则。这样,不仅保证了目标数据的安全性,还保证了数学模型的正确性和有效性。
在上述技术方案中,优选地,还包括:设置单元,根据接收到的设置命令,设置公式字符库,其中,所述公式字符库中包含至少一个公式字符;第二显示单元,根据接收到的公式显示命令,显示所述公式字符库中的公式字符;以及选择单元,根据接收到的选择命令,从所述公式字符库中选择出目标公式字符,以使用所述目标公式字符组成所述目标公式。
在该技术方案中,可以通过设置公式字符库,且公式字符库中包括有一个或多个公式字符,该公式字符为目标公式中不常用到的公式字符(例如,log和∑等,而常用到的公式字符例如+、-、*、/),且多个公式字符中的每个公式字符都对应有标记符,这样在确定目标公式时,如果目标公式中包括有公式字符,则可以根据用户输入的标记符来确定公式字符,从而使用户在输入目标公式时更加方便与快捷,另外,可以根据用户进行数据计算的实时需求,自定义目标公式,即实现了目标公式的可定制化,从而更好地满足用户的需求。
本发明的又一方面提出了一种服务器,包括如上述任一项技术方案所述的数据处理系统。
在该技术方案中,根据用户输入的目标公式建立数学模型,以通过数学模型对目标数据进行计算,但由于目标数据和数学模型存储在不同的数据库中,因此,在建立数学模型时,将该数学模型和非关系型数据库中的目标数据建立关联,这样在从非关系型数据库中获取目标数据之后就可以通过数学模型对目标数据进行计算,得出计算结果,则可以根据计算结果从海量的目标数据中发现目标数据的趋势和关联关系,从而达到挖掘数据的价值的目的。
通过本发明的技术方案,通过数学模型对海量数据进行计算与分析,从而可以从海量数据中发现目标数据的趋势和关联关系,进而达到挖掘数据价值的目的。
附图说明
图1示出了根据本发明的一个实施例的数据处理方法的流程示意图;
图2示出了根据本发明的一个实施例的数据处理系统的结构示意图;
图3示出了根据本发明的一个实施例的服务器的结构示意图;
图4示出了根据本发明的一个实施例的数据处理系统的原理示意图。
具体实施方式
为了可以更清楚地理解本发明的上述目的、特征和优点,下面结合附图和具体实施方式对本发明进行进一步的详细描述。需要说明的是,在不冲突的情况下,本申请的实施例及实施例中的特征可以相互组合。
在下面的描述中阐述了很多具体细节以便于充分理解本发明,但是,本发明还可以采用其他不同于在此描述的其他方式来实施,因此,本发明的保护范围并不受下面公开的具体实施例的限制。
图1示出了根据本发明的一个实施例的数据处理方法的流程示意图。
如图1所示,根据本发明的一个实施例的数据处理方法,所述方法包括:
步骤102,当Web服务器接收到用户输入的目标公式时,根据所述目标公式建立数学模型;
步骤104,将所述数学模型与非关系型数据库中的目标数据建立关联;
步骤106,在接收到数据处理命令时,从所述非关系型数据库中获取所述目标数据,并根据所述数学模型对所述目标数据进行计算,以得到计算结果。
在该技术方案中,根据用户输入的目标公式建立数学模型,以通过数学模型对目标数据进行计算,由于目标数据和数学模型存储在不同的数据库中,因此,在建立数学模型时,将该数学模型和非关系型数据库中的目标数据建立关联,这样在从非关系型数据库中获取目标数据之后就可以通过数学模型对目标数据进行计算,得出计算结果,则可以根据计算结果从海量的目标数据中发现目标数据的趋势和关联关系,从而达到挖掘数据的价值的目的。
在上述技术方案中,优选地,还包括:根据接收到的保存命令,保存所述计算结果;以及根据接收到的显示命令,对保存的所述计算结果进行显示。
在该技术方案中,在对目标数据进行计算且得出计算结果之后,可以保存计算结果,并可以对保存的计算结果进行显示,这样便于用户根据显示的计算结果发现目标数据的趋势和关联关系,从而达到挖掘数据的价值的目的。
在上述技术方案中,优选地,根据所述目标公式建立数学模型,具体包括:根据预设的自定义脚本语言将所述目标公式转换成所述数学模型;以及在将所述数学模型与非关系型数据库中的目标数据建立关联后,还包括:根据预设的校验规则和所述目标数据对所述数学模型进行校验;在所述数学模型校验通过时,将所述数学模型存储至应用服务器中;在将所述数学模型存储至所述应用服务器之后,根据所述预设的校验规则和所述目标数据对所述数学模型进行再次校验;在所述数学模型校验通过时,将所述数学模型存储至关系型数据库中。
在该技术方案中,根据预设的自定义脚本语言将用户输入的目标公式转换成数学模型,其中,自定义脚本语言包括但不限于:javascript脚本。另外,在数学模型存储至应用服务器之前,根据预设的校验规则和目标数据对数学模型进行校验,只有在校验通过时,才将数学模型存储至应用服务器中,保证了数学模型的准确性,并且在数学模型存储至关系型数据库之前,对数学模型再一次进行校验,进一步地保证了数学模型的准确性,避免了数学模型在进行第一次校验时的误校验,进而保证了计算结果的准确性。而在校验通过时,将数学模型存储至关系型数据库中,则可以实现对数学模型的统一管理。
在上述技术方案中,优选地,还包括:所述预设的校验规则包括数学运算校验规则和安全校验规则,其中,所述安全校验规则包括:跨站脚本攻击规则、漏洞校验规则和/或数据库脚本特殊字符校验规则,则在所述数学模型和所述目标数据满足所述数学运算校验规则和所述安全校验规则时,判定所述数学模型校验通过,否则,判定所述数学模型校验未通过。
在该技术方案中,预设的校验规则包括但不限于数学运算校验规则和安全校验规则,且数学模型和目标数据都满足数学运算校验规则和安全校验规则时,判断数学模型校验通过,例如,数学模型中包含有根号,而根号处理的目标数据为负数,此时,数学模型和目标数据不满足数学运算规则,则该数学模型是无效的,这种情况下数学模型校验不通过,并提示用户校验不通过,以及提示用户输入正确的目标公式,再例如,根据安全校验规则校验时,发现有黑客对数学模型进行攻击,为了保证目标数据的安全性,使数学模型校验不通过,防止目标数据遭到泄漏,并提示用户不通过,以及时发现漏洞并对其进行修补,其中,安全校验规则包括但不限于:跨站脚本攻击规则(XXS,Cross Site Scripting)、漏洞校验规则和数据库脚本特殊字符校验规则。这样,不仅保证了目标数据的安全性,还保证了数学模型的正确性和有效性。
在上述技术方案中,优选地,还包括:根据接收到的设置命令,设置公式字符库,其中,所述公式字符库中包含至少一个公式字符;根据接收到的公式显示命令,显示所述公式字符库中的公式字符;以及根据接收到的选择命令,从所述公式字符库中选择出目标公式字符,以使用所述目标公式字符组成所述目标公式。
在该技术方案中,可以通过设置公式字符库,且公式字符库中包括有一个或多个公式字符,该公式字符为目标公式中不常用到的公式字符(例如,log和∑等,而常用到的公式字符例如+、-、*、/),且多个公式字符中的每个公式字符都对应有标记符,这样在确定目标公式时,如果目标公式中包括有公式字符,则可以根据用户输入的标记符来确定公式字符,从而使用户在输入目标公式时更加方便与快捷,另外,可以根据用户进行数据计算的实时需求,自定义目标公式,即实现了目标公式的可定制化,从而更好地满足用户的需求。
图2示出了根据本发明的一个实施例的数据处理系统的结构示意图。
如图2所示,根据本发明的一个实施例的数据处理系统200,包括:建立单元202、关联单元204和处理单元206,所述建立单元202用于当Web服务器接收到用户输入的目标公式时,根据所述目标公式建立数学模型;关联单元204,将所述数学模型与非关系型数据库中的目标数据建立关联;处理单元206,在接收到数据处理命令时,从所述非关系型数据库中获取所述目标数据,并根据所述数学模型对所述目标数据进行计算,以得到计算结果。
在该技术方案中,根据用户输入的目标公式建立数学模型,以通过数学模型对目标数据进行计算,由于目标数据和数学模型存储在不同的数据库中,因此,在建立数学模型时,将该数学模型和非关系型数据库中的目标数据建立关联,这样在从非关系型数据库中获取目标数据之后就可以通过数学模型对目标数据进行计算,得出计算结果,则可以根据计算结果从海量的目标数据中发现目标数据的趋势和关联关系,从而达到挖掘数据的价值的目的。
在上述技术方案中,优选地,还包括:保存单元208,根据接收到的保存命令,保存所述计算结果;以及第一显示单元210,根据接收到的显示命令,对保存的所述计算结果进行显示。
在该技术方案中,在对目标数据进行计算且得出计算结果之后,可以保存计算结果,并可以对保存的计算结果进行显示,这样便于用户根据显示的计算结果发现目标数据的趋势和关联关系,从而达到挖掘数据的价值的目的。
在上述技术方案中,优选地,所述建立单元202,包括:转换单元2022,根据预设的自定义脚本语言将所述目标公式转换成所述数学模型;以及所述数据处理系统200还包括:校验单元212,根据预设的校验规则和所述目标数据对所述数学模型进行校验;存储单元214,在所述数学模型校验通过时,将所述数学模型存储至应用服务器中;所述校验单元212还用于:在将所述数学模型存储至所述应用服务器之后,根据所述预设的校验规则和所述目标数据对所述数学模型进行再次校验;所述存储单元214还用于:在所述数学模型校验通过时,将所述数学模型存储至关系型数据库中。
在该技术方案中,根据预设的自定义脚本语言将用户输入的目标公式转换成数学模型,其中,自定义脚本语言包括但不限于:javascript脚本。另外,在数学模型存储至应用服务器之前,根据预设的校验规则和目标数据对数学模型进行校验,只有在校验通过时,才将数学模型存储至应用服务器中,保证了数学模型的准确性,并且在数学模型存储至关系型数据库之前,对数学模型再一次进行校验,进一步地保证了数学模型的准确性,避免了数学模型在进行第一次校验时的误校验,进而保证了计算结果的准确性。而在校验通过时,将数学模型存储至关系型数据库中,则可以实现对数学模型的统一管理。
在上述技术方案中,优选地,还包括:所述预设的校验规则包括数学运算校验规则和安全校验规则,其中,所述安全校验规则包括:跨站脚本攻击规则、漏洞校验规则和/或数据库脚本特殊字符校验规则,则所述校验单元212还用于:在所述数学模型和所述目标数据满足所述数学运算校验规则和所述安全校验规则时,判定所述数学模型校验通过,否则,判定所述数学模型校验未通过。
在该技术方案中,预设的校验规则包括但不限于数学运算校验规则和安全校验规则,且数学模型和目标数据都满足数学运算校验规则和安全校验规则时,判断数学模型校验通过,例如,数学模型中包含有根号,而根号处理的目标数据为负数,此时,数学模型和目标数据不满足数学运算规则,则该数学模型是无效的,这种情况下数学模型校验不通过,并提示用户校验不通过,以及提示用户输入正确的目标公式,再例如,根据安全校验规则校验时,发现有黑客对数学模型进行攻击,为了保证目标数据的安全性,使数学模型校验不通过,防止目标数据遭到泄漏,并提示用户不通过,以及时发现漏洞并对其进行修补,其中,安全校验规则包括但不限于:跨站脚本攻击规则(XXS,Cross Site Scripting)、漏洞校验规则和数据库脚本特殊字符校验规则。这样,不仅保证了目标数据的安全性,还保证了数学模型的正确性和有效性。
在上述技术方案中,优选地,还包括:设置单元216,根据接收到的设置命令,设置公式字符库,其中,所述公式字符库中包含至少一个公式字符;第二显示单元218,根据接收到的公式显示命令,显示所述公式字符库中的公式字符;以及选择单元220,根据接收到的选择命令,从所述公式字符库中选择出目标公式字符,以使用所述目标公式字符组成所述目标公式。
在该技术方案中,可以通过设置公式字符库,且公式字符库中包括有一个或多个公式字符,该公式字符为目标公式中不常用到的公式字符(例如,log和∑等,而常用到的公式字符例如+、-、*、/),且多个公式字符中的每个公式字符都对应有标记符,这样在确定目标公式时,如果目标公式中包括有公式字符,则可以根据用户输入的标记符来确定公式字符,从而使用户在输入目标公式时更加方便与快捷,另外,可以根据用户进行数据计算的实时需求,自定义目标公式,即实现了目标公式的可定制化,从而更好地满足用户的需求。
图3示出了根据本发明的一个实施例的服务器的结构示意图。
如图3所示,根据本发明的一个实施例的服务器300,包括如上述任一项技术方案所述的数据处理系统200。
在该技术方案中,根据用户输入的目标公式建立数学模型,以通过数学模型对目标数据进行计算,但由于目标数据和数学模型存储在不同的数据库中,因此,在建立数学模型时,将该数学模型和非关系型数据库中的目标数据建立关联,这样在从非关系型数据库中获取目标数据之后就可以通过数学模型对目标数据进行计算,得出计算结果,则可以根据计算结果从海量的目标数据中发现目标数据的趋势和关联关系,从而达到挖掘数据的价值的目的。
图4示出了根据本发明的一个实施例的数据处理系统的原理示意图。
如图4所示,根据本发明的一个实施例的数据处理系统,将目标数据存储至非关系型数据库408中,Web服务器402接收到用户输入的目标公式之后,自定义脚本语言(包括javascript脚本)将公式转换成数学模型,其中,数学模型包括MathML(Mathematical Markup Language,数学标记语言),并且将数学模型与非关系型数据库408中的目标数据建立关联,在转换成数学模型之后,对数学模型进行校验,以保证数学模型的正确性和目标数据的安全性,在校验通过后,对数学模型进行保存,然后将数学模型从Web服务器402下发到应用服务器404中,并且在关系型数据库406从应用服务器404中获取数学模型之前,对数学模型再一次进行校验,以进一步地确保数学模型的准确性和目标数据的安全,避免第一次对数学模型校验时出现的误校验,在校验通过之后,将数学模型存储至关系型数据库406中,以实现对数学模型的统一管理,当接收到用户的启动运算的指令后,服务器300从关系型数据库406中获取数学模型,并从非关系型数据库408中获取目标数据,由于在生成数学模型时,数学模型与目标数据建立关联,此时,就可以通过数学模型对目标数据进行计算和分析,从而就可以从海量的目标数据中发现目标数据的趋势和关联关系,从而达到挖掘数据的价值的目的。
同时,该数据处理系统可以用于领域研究,例如:
广义熵系数(Generalised Entropy,简记为GE)的公式(目标公式)为:
GE ( α ) = 1 α 2 - α [ 1 n Σ i = 1 n ( y i y ‾ ) α - 1 ]
其中n是样本观测数,yi是个体收入,y是算数平均数。GE系数的取值范围为0到无穷大。0表示完全平等(所有人的收入都相同),GE系数越大则不平等的程度越高。参数α表示对分布不同位置给予的权重,可以取任意的实数。最常见的取值为0,1和2:当α=0,表示给予低收入部分以更大的权重;当α=1,表示给予收入分布以相同的权重;当α=2,表示给予高收入部分以较大的权重。特别当α取值为0和1时,利用洛必达法则,得到Theil衡量不平等的两个指标。
GE ( 0 ) = 1 n Σ i = 1 n ln y ‾ y i
GE ( 1 ) = 1 n Σ i = 1 n y i y ‾ ln y i y ‾
GE ( 2 ) = 1 y ‾ [ 1 n Σ i = 1 n ( y i - y ‾ ) 2 ] 1 2
GE系数有一个对于不平等分析非常有帮助的性质:可以对它分项分解。一个指标的不平等状况可以很容易地表达成,组内不平等和组间不平等的加总,即I=Iwithin-group+Ibetween-group;同时,每个组成部分(或者收入来源)都对总体指标的不平等有一定的影响,指标总体的不平等就等于所有组成部分对不平等影响的加总。这个性质使我们可以很方便地对不同因素在总体不平等当中所起作用的大小及其变化进行深入的分析。
数据处理系统可以支持复杂的运算模型,例如:
算数平均数(arithmetic mean)是度量数据集中趋势最常用的指标,其定义式如下:
X ‾ = X 1 + X 2 + . . . + X n n = Σ i = 1 n X i n
加权算数平均数(weighted arithmetic mean)是将各个数据乘以反映其重要性的权数(weight)再求平均的方法。其定义式如下:
X ‾ W = w 1 X 1 + w 2 X 2 + . . . + w n X n w 1 + w 2 + . . . w n
几何平均数(geometric mean)是n个数乘积的n次方根。一般来说几何平均数会小于或等于算数平均数。几何平均数的定义式如下:
g = X 1 × X 2 × . . . × X n n
中位数(median)表示经排序后的一列数据中位于中间位置(50%)的数。也就是说,在这组数据中,有一半的数据大于中位数,另外一半的数据小于中位数。中位数的位置为(n+1)/2。如果n是奇数,中位数即为排序序列居中位置的观测值;如果n是偶数,则中位数为排序序列两个居中位置的观测值的均值。中位数的优点是不受数据极端值的影响。
众数(mode)是指出现次数最多的那个数的数值,可从排序数组中观察得到。众数不受极值的影响,一组数据可能没有众数或有多个众数,并且对数值数据和类型数据均适用。
另外还支持表示变异程度的统计公式,比如:
方差(variance)是指每个数据与算数平均数之差的平方的算术平均数,简称为“离差平方和的平均”。它表示全部观测值相对于均值的平均变异程度,度量的是数据的离散程度。方差的定义式为:
s 2 = 1 n Σ i = 1 n ( X i - X ‾ ) 2
标准差(standard deviation)是指方差的平方根。其计算公式为:
s = s 2 = 1 n Σ i = 1 n ( X i - X ‾ ) 2
当然,该数据处理系统中的目标公式还可以是用户自定义的复杂运算公式,以及扩展的多样的公式。
以上结合附图详细说明了本发明的技术方案,通过数学模型对海量数据进行计算与分析,从而可以从海量数据中发现目标数据的趋势和关联关系,进而达到挖掘数据价值的目的。
以上所述仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (11)

1.一种数据处理方法,用于服务器,其特征在于,包括:
当Web服务器接收到用户输入的目标公式时,根据所述目标公式建立数学模型;
将所述数学模型与非关系型数据库中的目标数据建立关联;
在接收到数据处理命令时,从所述非关系型数据库中获取所述目标数据,并根据所述数学模型对所述目标数据进行计算,以得到计算结果。
2.根据权利要求1所述的数据处理方法,其特征在于,还包括:
根据接收到的保存命令,保存所述计算结果;以及
根据接收到的显示命令,对保存的所述计算结果进行显示。
3.根据权利要求1所述的数据处理方法,其特征在于,
根据所述目标公式建立数学模型,具体包括:
根据预设的自定义脚本语言将所述目标公式转换成所述数学模型;以及
在将所述数学模型与非关系型数据库中的目标数据建立关联后,还包括:
根据预设的校验规则和所述目标数据对所述数学模型进行校验;
在所述数学模型校验通过时,将所述数学模型存储至应用服务器中;
在将所述数学模型存储至所述应用服务器之后,根据所述预设的校验规则和所述目标数据对所述数学模型进行再次校验;
在所述数学模型校验通过时,将所述数学模型存储至关系型数据库中。
4.根据权利要求3所述的数据处理方法,其特征在于,
所述预设的校验规则包括数学运算校验规则和安全校验规则,其中,所述安全校验规则包括:跨站脚本攻击规则、漏洞校验规则和/或数据库脚本特殊字符校验规则,
则在所述数学模型和所述目标数据满足所述数学运算校验规则和所述安全校验规则时,判定所述数学模型校验通过,否则,判定所述数学模型校验未通过。
5.根据权利要求1至4中任一项所述的数据处理方法,其特征在于,还包括:
根据接收到的设置命令,设置公式字符库,其中,所述公式字符库中包含至少一个公式字符;
根据接收到的公式显示命令,显示所述公式字符库中的公式字符;以及
根据接收到的选择命令,从所述公式字符库中选择出目标公式字符,以使用所述目标公式字符组成所述目标公式。
6.一种数据处理系统,用于服务器,其特征在于,包括:
建立单元,当Web服务器接收到用户输入的目标公式时,根据所述目标公式建立数学模型;
关联单元,将所述数学模型与非关系型数据库中的目标数据建立关联;
处理单元,在接收到数据处理命令时,从所述非关系型数据库中获取所述目标数据,并根据所述数学模型对所述目标数据进行计算,以得到计算结果。
7.根据权利要求6所述的数据处理系统,其特征在于,还包括:
保存单元,根据接收到的保存命令,保存所述计算结果;以及
第一显示单元,根据接收到的显示命令,对保存的所述计算结果进行显示。
8.根据权利要求6所述的数据处理系统,其特征在于,
所述建立单元,包括:
转换单元,根据预设的自定义脚本语言将所述目标公式转换成所述数学模型;以及
所述数据处理系统还包括:
校验单元,根据预设的校验规则和所述目标数据对所述数学模型进行校验;
存储单元,在所述数学模型校验通过时,将所述数学模型存储至应用服务器中;以及
所述校验单元还用于:
在将所述数学模型存储至所述应用服务器之后,根据所述预设的校验规则和所述目标数据对所述数学模型进行再次校验;
所述存储单元还用于:
在所述数学模型校验通过时,将所述数学模型存储至关系型数据库中。
9.根据权利要求8所述的数据处理系统,其特征在于,
所述预设的校验规则包括数学运算校验规则和安全校验规则,其中,所述安全校验规则包括:跨站脚本攻击规则、漏洞校验规则和/或数据库脚本特殊字符校验规则,
则所述校验单元还用于:
在所述数学模型和所述目标数据满足所述数学运算校验规则和所述安全校验规则时,判定所述数学模型校验通过,否则,判定所述数学模型校验未通过。
10.根据权利要求6至9中任一项所述的数据处理系统,其特征在于,还包括:
设置单元,根据接收到的设置命令,设置公式字符库,其中,所述公式字符库中包含至少一个公式字符;
第二显示单元,根据接收到的公式显示命令,显示所述公式字符库中的公式字符;以及
选择单元,根据接收到的选择命令,从所述公式字符库中选择出目标公式字符,以使用所述目标公式字符组成所述目标公式。
11.一种服务器,其特征在于,包括:如权利要求6至10中任一项所述的数据处理系统。
CN201510090110.6A 2015-02-27 2015-02-27 数据处理方法、数据处理系统和服务器 Expired - Fee Related CN105989138B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201510090110.6A CN105989138B (zh) 2015-02-27 2015-02-27 数据处理方法、数据处理系统和服务器

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201510090110.6A CN105989138B (zh) 2015-02-27 2015-02-27 数据处理方法、数据处理系统和服务器

Publications (2)

Publication Number Publication Date
CN105989138A true CN105989138A (zh) 2016-10-05
CN105989138B CN105989138B (zh) 2019-12-31

Family

ID=57037798

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201510090110.6A Expired - Fee Related CN105989138B (zh) 2015-02-27 2015-02-27 数据处理方法、数据处理系统和服务器

Country Status (1)

Country Link
CN (1) CN105989138B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113034109A (zh) * 2021-03-26 2021-06-25 北京乐学帮网络技术有限公司 作答结果的校验方法及系统、可读存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102043858A (zh) * 2010-12-27 2011-05-04 用友软件股份有限公司 数据加工方法和装置
CN102222109A (zh) * 2011-06-28 2011-10-19 用友软件股份有限公司 数据处理装置和数据处理方法
US20130304680A1 (en) * 2012-05-10 2013-11-14 Bp Exploration Operating Company Limited Predictive corrosion coupons from data mining
CN103544299A (zh) * 2013-10-30 2014-01-29 刘峰 一种商业智能云计算系统的构建方法
CN104008457A (zh) * 2014-06-06 2014-08-27 南京南瑞继保电气有限公司 一种电力系统规划运行数据统一管理系统

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102043858A (zh) * 2010-12-27 2011-05-04 用友软件股份有限公司 数据加工方法和装置
CN102222109A (zh) * 2011-06-28 2011-10-19 用友软件股份有限公司 数据处理装置和数据处理方法
US20130304680A1 (en) * 2012-05-10 2013-11-14 Bp Exploration Operating Company Limited Predictive corrosion coupons from data mining
CN103544299A (zh) * 2013-10-30 2014-01-29 刘峰 一种商业智能云计算系统的构建方法
CN104008457A (zh) * 2014-06-06 2014-08-27 南京南瑞继保电气有限公司 一种电力系统规划运行数据统一管理系统

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113034109A (zh) * 2021-03-26 2021-06-25 北京乐学帮网络技术有限公司 作答结果的校验方法及系统、可读存储介质

Also Published As

Publication number Publication date
CN105989138B (zh) 2019-12-31

Similar Documents

Publication Publication Date Title
Yu et al. Multicollinearity in hierarchical linear models
CN106796585B (zh) 条件验证规则
Petra et al. A Bayesian approach for parameter estimation with uncertainty for dynamic power systems
Schöniger et al. Model selection on solid ground: Rigorous comparison of nine ways to evaluate B ayesian model evidence
Steidl et al. Power analysis and experimental design
Aguirre-Urreta et al. A cautionary note on the finite sample behavior of maximal reliability.
Vugrin et al. Confidence region estimation techniques for nonlinear regression in groundwater flow: Three case studies
Fang et al. On the use of the global sensitivity analysis in the reliability-based design: Insights from a tunnel support case
Buldgen et al. Using seismic inversions to obtain an indicator of internal mixing processes in main-sequence solar-like stars
Kock Using data labels to discover moderating effects in PLS-based structural equation modeling
Sion et al. Privacy risk assessment for data subject-aware threat modeling
Hook et al. Testing for trustworthiness in scientific software
Tran et al. Performance of parallel analysis in retrieving unidimensionality in the presence of binary data
Bevan Statistical data analysis for the physical sciences
Garcia-Garzon et al. Improving bi-factor exploratory modeling
Nowel Application of Monte Carlo method to statistical testing in deformation analysis based on robust M-estimation
Rahman Statistical moments of polynomial dimensional decomposition
Parker Computer simulation through an error-statistical lens
Holder et al. Evaluating the robustness of phylogenetic methods to among-site variability in substitution processes
Matarazzo et al. Sensitivity metrics for maximum likelihood system identification
Li et al. Hybrid central–WENO scheme for the large eddy simulation of turbulent flows with shocks
CN114185765A (zh) 测试数据处理方法、装置、电子设备及存储介质
CN105989138A (zh) 数据处理方法、数据处理系统和服务器
JP6192432B2 (ja) リスク計量システム
Petri et al. Impact of spurious shear on cosmological parameter estimates from weak lensing observables

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20230616

Address after: 3007, Hengqin international financial center building, No. 58, Huajin street, Hengqin new area, Zhuhai, Guangdong 519031

Patentee after: New founder holdings development Co.,Ltd.

Patentee after: BEIJING FOUNDER ELECTRONICS Co.,Ltd.

Address before: 100871, Beijing, Haidian District Cheng Fu Road 298, founder building, 9 floor

Patentee before: PEKING UNIVERSITY FOUNDER GROUP Co.,Ltd.

Patentee before: BEIJING FOUNDER ELECTRONICS Co.,Ltd.

CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20191231