CN108399177B - 一种基于数据库的数据处理方法及其系统 - Google Patents

一种基于数据库的数据处理方法及其系统 Download PDF

Info

Publication number
CN108399177B
CN108399177B CN201710068202.3A CN201710068202A CN108399177B CN 108399177 B CN108399177 B CN 108399177B CN 201710068202 A CN201710068202 A CN 201710068202A CN 108399177 B CN108399177 B CN 108399177B
Authority
CN
China
Prior art keywords
data
database
page
user
metadata
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201710068202.3A
Other languages
English (en)
Other versions
CN108399177A (zh
Inventor
蔡毅
张利江
梁协君
杨丽莎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhejiang youshuzhi Technology Co.,Ltd.
Original Assignee
Hangzhou Youhao Data Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hangzhou Youhao Data Technology Co ltd filed Critical Hangzhou Youhao Data Technology Co ltd
Priority to CN201710068202.3A priority Critical patent/CN108399177B/zh
Publication of CN108399177A publication Critical patent/CN108399177A/zh
Application granted granted Critical
Publication of CN108399177B publication Critical patent/CN108399177B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/95Retrieval from the web
    • G06F16/957Browsing optimisation, e.g. caching or content distillation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/21Design, administration or maintenance of databases
    • G06F16/211Schema design and management
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/903Querying
    • G06F16/9038Presentation of query results

Abstract

本发明适用于数据处理的技术领域,提供了基于数据库的数据处理方法及其系统,包括如下具体步骤:接收用户对数据库做出的用户操作;分析所述用户操作;将所述数据库数据与所述业务数据一起生成元数据;将所述数据库数据、所述业务数据、以及所述逻辑操作一起生成元视图数据;将所述元数据转化为数据结果;或者根据预置的页面模板,将所述元视图数据转化为页面结果。在本发明实施例中,将数据更新过程和数据展示过程相互独立,使得整个数据处理过程层次清晰、分工明确,即对一个层次的改动,并不会影响其他层次,从而不仅大大提高基于多种数据库的数据处理效率,而且还使得数据库维护人员可以专注于维护数据、页面渲染人员可以专注于网页设计。

Description

一种基于数据库的数据处理方法及其系统
技术领域
本发明属于数据处理的技术领域,尤其涉及一种基于数据库的数据处理方法及其系统。
背景技术
互联网,云计算等的迅猛发展加速了数据的快速增长,当今信息社会已经进入了大数据时代。大数据已成为与自然资源、人力资源一样重要的战略资源,隐含巨大的价值,无疑是未来影响各行行业发展的最受瞩目的技术之一。其中,由于大数据庞大的数据规模、众多的数据类型、以及数据处理的实时性要求都极大地增加了数据处理的复杂度,给传统的数据分析处理技术带来巨大的技术挑战。
如今,碍于技术层面的局限性,人们在面对多源化、机构化的大数据时,只能同时采用多种数据处理应用来分别处理某一类数据结构。然而,不同的应用对数据的一致性、数据交互、传输延时等均有不同的需求,尤其是数据库系统的不一致,导致多套数据获取方法并行使用,这无形增加了数据维护人员的开发和维护成本,而且,现有的渲染页面的过程往往会随着数据获取方法的不同而发生改变,因此,上述数据处理方法还常常导致页面渲染的难度加大,从而也增加了页面维护人员的工作强度。
综上可见,现有技术中的数据处理方法在多个应用并行处理大数据时存在数据维护和页面维护的工作成本巨大的技术问题。
发明内容
本发明实施例提供一种基于数据库的数据处理方法及其系统,旨在解决现有技术中的数据处理方法在多个应用并行处理大数据时存在数据维护和页面维护的工作成本巨大的技术问题。
本发明实施例是这样实现的,一种基于数据库的数据处理方法,包括如下具体步骤:
接收用户对数据库做出的用户操作;
分析所述用户操作,得到业务数据和与该业务数据相配合的逻辑操作,并判断所述用户操作是否属于数据操作;
如果所述用户操作属于数据操作,则调用服务层中相应数据库数据,并将所述数据库数据与所述业务数据一起生成元数据;
如果所述用户操作属于页面操作,则调用服务层中相应数据库数据,并将所述数据库数据、所述业务数据、以及所述逻辑操作一起生成元视图数据;
将所述元数据转化为数据结果,并反馈至用户;或者
根据预置的页面模板,将所述元视图数据转化为页面结果,并将相应的页面显示至用户。
本发明实施例还提供一种基于数据库的数据处理系统,包括:
接收单元,用于接收用户对数据库做出的用户操作;
分析单元,用于分析所述用户操作,得到业务数据和与该业务数据相配合的逻辑操作,并判断所述用户操作是否属于数据操作;
数据操作单元,用于当所述用户操作属于数据操作的情况,则调用服务层中相应数据库数据,并将所述数据库数据与所述业务数据一起生成元数据;
页面操作单元,用于当所述用户操作属于页面操作的情况,则调用服务层中相应数据库数据,并将所述数据库数据、所述业务数据、以及所述逻辑操作一起生成元视图数据;
数据结束单元,用于将所述元数据转化为数据结果,并反馈至用户;以及
页面结束单元,用于根据预置的页面模板,将所述元视图数据转化为页面结果,并将相应的页面显示至用户。
本发明公开的基于数据库的数据处理方法,将数据更新过程和数据展示过程相互独立,使得整个数据处理过程层次清晰、分工明确,即对一个层次的改动,并不会影响其他层次,从而不仅大大提高基于多种数据库的数据处理效率,而且还能够提高基于多套数据获取方法的页面渲染效率,使得数据库维护人员可以专注于维护数据、页面渲染人员可以专注于网页设计,同时,还采用轻量级、兼容性好的页面渲染方式,只需嵌套的数据变换即可完成页面修改,从而降低了数据存储空间的消耗量,使得整个数据处理方法更适用于数据量巨大的大数据处理。
附图说明
图1是本发明实施例提供的一种基于数据库的数据处理方法的一种工作环境图;
图2是本发明的实施例提供的一种基于数据库的数据处理方法的流程图;
图3是本发明实施例提供的分析所述用户操作,得到业务数据和与该业务数据相配合的逻辑操作,并判断所述用户操作是否属于数据操作的流程图;
图4是本发明实施例提供的如果所述用户操作属于数据操作,则调用服务层中相应数据库数据,并将所述数据库数据与所述业务数据一起生成元数据的流程图;
图5是本发明实施例提供的如果所述用户操作属于页面操作,则调用服务层中相应数据库数据,并将所述数据库数据、所述业务数据、以及所述逻辑操作一起生成元视图数据的流程图;
图6是本发明的实施例提供的将所述元数据转化为数据结果,并反馈至用户的流程图;
图7是本发明实施例提供的所述的根据预置的页面模板,将所述元视图数据转化为页面结果,并将相应的页面显示至用户的流程图;
图8是本发明实施例提供的一种基于数据库的数据处理方法在实际运用时的流程图;
图9是本发明的实施例提供的一种基于数据库的数据处理系统的结构图;
图10是本发明实施例提供的分析单元的结构图;
图11是本发明实施例提供的数据操作单元的结构图;
图12是本发明实施例提供的页面操作单元的结构图;
图13是本发明实施例提供的数据结束单元的结构图;
图14是本发明实施例提供的页面结束单元的结构图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
本发明实施例基于包含多个数据库的大数据处理,将数据更新过程和数据展示过程相互独立,使得数据库维护人员可以专注于维护数据、页面渲染人员可以专注于网页设计,并采用轻量级、兼容性好的页面渲染方式,只需嵌套的数据变换即可完成页面修改,使得整个数据处理过程层次清晰、分工明确,从而提高大数据的数据处理效率。
图1示出了本发明实施例提供的一种基于数据库的数据处理方法的一种工作环境。
服务器通过前端平台接收到用户对数据库内数据的请求,接着采用数据处理方法,一方面向多个数据库获取相应数据,另一方面生成符合用户请求的页面,此时,数据库将分析好的数据反馈至前端平台,并由前端平台调整页面渲染方式,最后将得到的数据处理结果以数据流或者网页的形式呈现给用户。
其中,前端平台可以运行在与用户交互的客户端上,并且可以同时运行在一个或多个客户端上,客户端可以是平板电脑、个人数字助理、移动电话等。
实施例1:
图2示出了本发明的实施例提供的一种基于数据库的数据处理方法的流程,详述如下:
在步骤S201中,接收用户对数据库做出的用户操作。
在本发明的实施例中,所述用户操作可以是直接对前端平台数据的数据请求,也可以是对后台数据库的数据请求,甚至是任意API请求或者数据交互。
在步骤S202中,分析所述用户操作,得到业务数据和与该业务数据相配合的逻辑操作。
本发明的实施例适用于多种数据库同时存在的情况下,因此,针对用户操作的业务数据分析和逻辑操作检查,将有助于前端平台分辨哪些数据库是用户所需要的,也就是说,业务数据分析能够得出用户操作中相应的数据结构,而逻辑操作检查则得出能够完成对该数据结构进行逻辑操作的数据库种类。
在步骤S203中,判断所述用户操作是否属于数据操作,如果是数据操作,则转至步骤S204;如果是页面操作,则转至步骤S205。
在本发明的实施例中,所述数据操作包括CRUD操作等对数据库内数据所做的更新,而所述页面操作则包括数据展示方式,例如页面渲染、图形展示等。
当然,两类操作并不是孤立的、毫无关联的,同一个用户操作可能既包括数据操作,也包括页面操作,上述步骤只是在描述整个数据处理过程中,数据操作的处理过程和页面操作的处理过程应当在数据处理开始之前做出区别,使得两者能够单独运行,而不是限定于在处理页面操作时,数据操作将无法运行之类的情况。
在步骤S204中,调用服务层中相应数据库数据,并将所述数据库数据与所述业务数据一起生成元数据。
由于本发明的实施例适用于数据量巨大的大数据环境中,因此,为了减少数据库内数据存取次数,本发明的实施例的前端平台能够存储直接运用于数据结果的业务数据,并在反馈结果时,将所述业务数据与从数据库调用的数据库数据一起,生成元数据。
在步骤S205中,调用服务层中相应数据库数据,并将所述数据库数据、所述业务数据、以及所述逻辑操作一起生成元视图数据。
同样,用户在页面操作时可能产生大量重复数据,即只有少量的数据需要向数据库获取,因此,基于相同的原因,所述业务数据将暂存于前端平台,并直接通过页面渲染呈现给用户。
在步骤S206中,将所述元数据转化为数据结果,并反馈至用户。
在步骤S207中,根据预置的页面模板,将所述元视图数据转化为页面结果,并将相应的页面显示至用户。
在本发明实施例的实际运用中,数据库维护人员可以通过数据操作对多个数据库的数据进行更新、维护、或者清理,此时,包含大量数据的数据流将呈现给数据库维护人员;网页设计人员可以通过页面操作对页面模板进行更新或者维护,此时,页面模板为可序列化的。
本发明实施例针对现有技术的数据处理方法在多个应用并行处理大数据时存在数据维护和页面维护的工作成本巨大的技术问题,将数据更新过程和数据展示过程相互独立,使得整个数据处理过程层次清晰、分工明确,即对一个层次的改动,并不会影响其他层次,从而不仅大大提高基于多种数据库的数据处理效率,而且还能够提高基于多套数据获取方法的页面渲染效率,使得数据库维护人员可以专注于维护数据、页面渲染人员可以专注于网页设计,同时,还采用轻量级、兼容性好的页面渲染方式,只需嵌套的数据变换即可完成页面修改,从而降低了数据存储空间的消耗量,使得整个数据处理方法更适用于数据量巨大的大数据处理。
当然,本发明实施例的数据关系分析方法并不仅仅限于大数据领域的运用,对于既有数据处理又有数据展示的其他领域,都可以采用本发明实施例进行相关数据处理。
实施例2:
图3示出了本发明实施例提供的分析所述用户操作,得到业务数据和与该业务数据相配合的逻辑操作,并判断所述用户操作是否属于数据操作的流程,详述如下:
在步骤S301中,将所述用户操作转换成通用格式,并进行业务数据分析和逻辑检查,得到业务数据和相配合的逻辑操作。
在本发明的实施例中,所述通用格式为前端平台所认可的数据格式,也就是说,用户在发起请求时无需了解每种数据库各自的数据结构,从而方便用户使用。
在步骤S302中,根据所述业务数据,将可用的数据暂存于缓冲区。
此时,所述缓冲区设于前端平台中,或者为另一个区别于其余数据库的存储空间。
在步骤S303中,根据所述逻辑操作,判断所述用户操作是否属于数据操作。
在用户的实际操作过程中,业务数据往往是用户多次使用的数据,因此,增设的暂存步骤能够大大提高数据处理效率,同时,在分析用户操作之前,先将其转换为统一的数据结构,不仅使得后续处理过程更加方便快捷,而且还使得用户无需考虑具体数据库格式,提高用户的使用效果。
实施例3:
图4示出了本发明实施例提供的如果所述用户操作属于数据操作,则调用服务层中相应数据库数据,并将所述数据库数据与所述业务数据一起生成元数据的流程,详述如下:
在步骤S401中,如果步骤S303中所述用户操作属于数据操作,则调用规则描述文件,所述规则描述文件包括不同的数据库信息、数据库源表、以及数据过滤条件。
在本发明的实施例中,对于数据库的类型并不做任何限制,无论是传统DB2关系型,还是新型图形数据库Neo4j,都能够并行处理并返回前端平台能够展示给用户的数据流。
此时,所述规则描述文件可能为多份,也就是说,同一个数据操作需要获取多个数据库内的数据。
在步骤S402中,分析所述数据库源表,并根据所述数据过滤条件过滤相应的数据库源表中的数据。
在步骤S403中,将过滤后的数据转化为具有通用格式的数据库数据,并将其与缓冲区的业务数据一起生成元数据。
本发明的实施例采用规则描述文件作为多种数据库数据的索引,从而提高了数据存取效率,也方便数据库维护人员针对数据库逻辑的维护和清理。
其中,所述过滤后的数据和元数据均按照JSON格式封装。
由于JSON天然具有良好的可读和便于快速编写的特性,因而,数据库返回的数据的容量也不再受限,而且,JSON格式能够直接为服务器端代码使用,大大简化了服务器端和客户端的代码开发量,易于后续的维护。
在本发明的实施例中,所述数据库数据为经过简单逻辑处理后的数据,而且,在与数据库进行数据交互的过程中,所述业务数据和相配合逻辑操作将作为新的数据元对相应的数据库进行更新。
实施例4:
图5示出了本发明实施例提供的如果所述用户操作属于页面操作,则调用服务层中相应数据库数据,并将所述数据库数据、所述业务数据、以及所述逻辑操作一起生成元视图数据的流程,详述如下:
在步骤S501中,如果步骤S303中所述用户操作属于页面操作,则调用规则描述文件,所述规则描述文件包括不同的数据库信息、数据库源表、以及数据过滤条件。
在本发明的实施例中,用于页面渲染的页面模板也存储在相应的数据库内,也就是说,处理页面操作本质上仍是处理数据操作,两者在处理过程中具有相似的步骤,即数据库的数据存取步骤。
在步骤S502中,分析所述数据库源表,并根据所述数据过滤条件过滤相应的数据库源表中的页面模板。
在步骤S503中,将过滤后的页面模板转化为具有通用格式的页面数据,并将其与缓冲区的业务数据一起生成元视图数据。
其中,所述过滤后的页面模板和元视图数据均按照JSON格式封装。
本发明的实施例将页面渲染作为独立的数据处理过程,提高页面渲染的效率,使得整个数据处理方法在数据量大的大数据环境下仍具有较佳的数据处理速率。
实施例5:
图6示出了本发明的实施例提供的将所述元数据转化为数据结果,并反馈至用户的流程,详述如下:
在步骤S601中,解析JSON格式的元数据,并将其中的数据使用预定的语言描述。
在步骤S602中,将所述数据按照通用格式封装,形成数据结果,并反馈至用户。
在本发明实施例的实际运用时,数据操作和页面操作的处理过程全部分离,分工更加的明确,层次关系也更加的清晰,美工人员可以更加专注于网页的设计,数据逻辑开发人员可以更加专精于数据库的操作。
实施例6:
图7示出了本发明实施例提供的所述的根据预置的页面模板,将所述元视图数据转化为页面结果,并将相应的页面显示至用户的流程,详述如下:
在步骤S701中,解析JSON格式的元视图数据,并将其中的数据使用预定的语言描述。
在步骤S702中,根据预置的页面模板,将所述数据进行页面渲染,形成相应的页面,并显示至用户。
本发明的实施例将页面操作单独分离开来,使得后台数据库不论返回了什么种类的数据都能比较好的兼容解析并渲染,同时,通过预置的页面模板和缓存的业务数据,整个页面操作处理过程能实现快速初始化。而且,所述页面模板及页面数据都是可序列化,用户可以在前端平台或服务器端预处理,也可以将其任意的转发至其他的终端。
当发生所述用户操作既包含数据操作又包含页面操作的情况,例如,用户在网页上修改数据库数据,此时,对数据操作的处理过程将与对页面操作的处理过程并行,并在业务数据交互时存在先后运行序列,也就是说,在本发明的实施例实际运行时,上述处理过程并不具有严格的先后运行顺序,甚至会出现后续步骤前开始处理的情况,因此,上述对数据处理方法的描述仅仅只是描述运行时所必须完成的步骤,而不是限定该处理方法一定要按照描述的运行方式一样运作。
实施例7:
图8示出了本发明实施例提供的一种基于数据库的数据处理方法在实际运用时的流程,详述如下:
在步骤S801中,接收用户对数据库做出的用户操作。
在步骤S802中,将所述用户操作转换成通用格式,并进行业务数据分析和逻辑检查,得到业务数据和相配合的逻辑操作。
在步骤S803中,根据所述业务数据,将可用的数据暂存于缓冲区。
在步骤S804中,根据所述逻辑操作,判断所述用户操作是否属于数据操作,如果是数据操作,则转至步骤S805;如果是页面操作,则转至步骤S808。
在步骤S805中,调用规则描述文件,所述规则描述文件包括不同的数据库信息、数据库源表、以及数据过滤条件。
在步骤S806中,分析所述数据库源表,并根据所述数据过滤条件过滤相应的数据库源表中的数据。
在步骤S807中,将过滤后的数据转化为具有通用格式的数据库数据,并将其与缓冲区的业务数据一起生成元数据,转至步骤S811。
在步骤S808中,调用规则描述文件,所述规则描述文件包括不同的数据库信息、数据库源表、以及数据过滤条件。
在步骤S809中,分析所述数据库源表,并根据所述数据过滤条件过滤相应的数据库源表中的页面模板。
在步骤S810中,将过滤后的页面模板转化为具有通用格式的页面数据,并将其与缓冲区的业务数据一起生成元视图数据,转至步骤S813。
在步骤S811中,解析JSON格式的元数据,并将其中的数据使用预定的语言描述。
在步骤S812中,将所述数据按照通用格式封装,形成数据结果,并反馈至用户。
在步骤S813中,解析JSON格式的元视图数据,并将其中的数据使用预定的语言描述。
在步骤S814中,根据预置的页面模板,将所述数据进行页面渲染,形成相应的页面,并显示至用户。
本发明实施例采用将数据更新过程和数据展示过程相互独立,使得整个数据处理过程层次清晰、分工明确,即对一个层次的改动,并不会影响其他层次,从而不仅大大提高基于多种数据库的数据处理效率,而且还能够提高基于多套数据获取方法的页面渲染效率,使得数据库维护人员可以专注于维护数据、页面渲染人员可以专注于网页设计,同时,还采用轻量级、兼容性好的页面渲染方式,只需嵌套的数据变换即可完成页面修改,从而降低了数据存储空间的消耗量,使得整个数据处理方法更适用于数据量巨大的大数据处理。
本领域普通技术人员可以理解,实现上述方法实施例中的全部或者部分步骤是可以通过程序和相关的硬件来完成的,所述的程序可以存储于一个计算机可读取的存储介质中,所述的存储介质,如ROM/RAM、磁盘、光盘、闪盘等。
实施例8:
图9示出了本发明的实施例提供的一种基于数据库的数据处理系统的结构,为了便于说明,仅示出与本发明实施例相关的部分。
在本发明实施例中,所述基于数据库的数据处理系统包括接收单元901、分析单元902、数据操作单元903、页面操作单元904、数据结束单元905、以及页面结束单元906,其中:
接收单元901,用于接收用户对数据库做出的用户操作。
在本发明的实施例中,所述用户操作可以是直接对前端平台数据的数据请求,也可以是对后台数据库的数据请求,甚至是任意API请求或者数据交互。
分析单元902,用于分析所述用户操作,得到业务数据和与该业务数据相配合的逻辑操作,并判断所述用户操作是否属于数据操作。
本发明的实施例适用于多种数据库同时存在的情况下,因此,针对用户操作的业务数据分析和逻辑操作检查,将有助于前端平台分辨哪些数据库是用户所需要的,也就是说,业务数据分析能够得出用户操作中相应的数据结构,而逻辑操作检查则得出能够完成对该数据结构进行逻辑操作的数据库种类。
数据操作单元903,用于当所述用户操作属于数据操作的情况,则调用服务层中相应数据库数据,并将所述数据库数据与所述业务数据一起生成元数据。
在本发明的实施例中,所述数据操作包括CRUD操作等对数据库内数据所做的更新,而所述页面操作则包括数据展示方式,例如页面渲染、图形展示等。
当然,两类操作并不是孤立的、毫无关联的,同一个用户操作可能既包括数据操作,也包括页面操作,上述步骤只是在描述整个数据处理过程中,数据操作的处理过程和页面操作的处理过程应当在数据处理开始之前做出区别,使得两者能够单独运行,而不是限定于在处理页面操作时,数据操作将无法运行之类的情况。
页面操作单元904,用于当所述用户操作属于页面操作的情况,则调用服务层中相应数据库数据,并将所述数据库数据、所述业务数据、以及所述逻辑操作一起生成元视图数据。
由于本发明的实施例适用于数据量巨大的大数据环境中,因此,为了减少数据库内数据存取次数,本发明的实施例的前端平台能够存储直接运用于数据结果的业务数据,并在反馈结果时,将所述业务数据与从数据库调用的数据库数据一起,生成元数据。
数据结束单元905,用于将所述元数据转化为数据结果,并反馈至用户。
同样,用户在页面操作时可能产生大量重复数据,即只有少量的数据需要向数据库获取,因此,基于相同的原因,所述业务数据将暂存于前端平台,并直接通过页面渲染呈现给用户。
页面结束单元906,用于根据预置的页面模板,将所述元视图数据转化为页面结果,并将相应的页面显示至用户。
在本发明实施例的实际运用中,数据库维护人员可以通过数据操作对多个数据库的数据进行更新、维护、或者清理,此时,包含大量数据的数据流将呈现给数据库维护人员;网页设计人员可以通过页面操作对页面模板进行更新或者维护,此时,页面模板为可序列化的。
本发明实施例针对现有技术的数据处理方法在多个应用并行处理大数据时存在数据维护和页面维护的工作成本巨大的技术问题,将数据更新过程和数据展示过程相互独立,使得整个数据处理过程层次清晰、分工明确,即对一个层次的改动,并不会影响其他层次,从而不仅大大提高基于多种数据库的数据处理效率,而且还能够提高基于多套数据获取方法的页面渲染效率,使得数据库维护人员可以专注于维护数据、页面渲染人员可以专注于网页设计,同时,还采用轻量级、兼容性好的页面渲染方式,只需嵌套的数据变换即可完成页面修改,从而降低了数据存储空间的消耗量,使得整个数据处理方法更适用于数据量巨大的大数据处理。
当然,本发明实施例的数据关系分析方法并不仅仅限于大数据领域的运用,对于既有数据处理又有数据展示的其他领域,都可以采用本发明实施例进行相关数据处理。
实施例9:
图10示出了本发明实施例提供的分析单元902的结构,为了便于说明,仅示出与本发明实施例相关的部分,其中:
业务分析模块1001,用于将所述用户操作转换成通用格式,并进行业务数据分析和逻辑检查,得到业务数据和相配合的逻辑操作。
在本发明的实施例中,所述通用格式为前端平台所认可的数据格式,也就是说,用户在发起请求时无需了解每种数据库各自的数据结构,从而方便用户使用。
暂存模块1002,用于根据所述业务数据,将可用的数据暂存于缓冲区。
此时,所述缓冲区设于前端平台中,或者为另一个区别于其余数据库的存储空间。
判断模块1003,用于根据所述逻辑操作,判断所述用户操作是否属于数据操作。
在用户的实际操作过程中,业务数据往往是用户多次使用的数据,因此,增设的暂存步骤能够大大提高数据处理效率,同时,在分析用户操作之前,先将其转换为统一的数据结构,不仅使得后续处理过程更加方便快捷,而且还使得用户无需考虑具体数据库格式,提高用户的使用效果。
实施例10:
图11示出了本发明实施例提供的数据操作单元903的结构,为了便于说明,仅示出与本发明实施例相关的部分,其中:
第一调用模块1101,用于当所述用户操作属于数据操作的情况,则调用规则描述文件,所述规则描述文件包括不同的数据库信息、数据库源表、以及数据过滤条件。
在本发明的实施例中,对于数据库的类型并不做任何限制,无论是传统DB2关系型,还是新型图形数据库Neo4j,都能够并行处理并返回前端平台能够展示给用户的数据流。
此时,所述规则描述文件可能为多份,也就是说,同一个数据操作需要获取多个数据库内的数据。
第一过滤模块1102,用于分析所述数据库源表,并根据所述数据过滤条件过滤相应的数据库源表中的数据。
元数据生成模块1103,用于将过滤后的数据转化为具有通用格式的数据库数据,并将其与缓冲区的业务数据一起生成元数据。
本发明的实施例采用规则描述文件作为多种数据库数据的索引,从而提高了数据存取效率,也方便数据库维护人员针对数据库逻辑的维护和清理。
其中,所述过滤后的数据和元数据均按照JSON格式封装。
由于JSON天然具有良好的可读和便于快速编写的特性,因而,数据库返回的数据的容量也不再受限,而且,JSON格式能够直接为服务器端代码使用,大大简化了服务器端和客户端的代码开发量,易于后续的维护。
在本发明的实施例中,所述数据库数据为经过简单逻辑处理后的数据,而且,在与数据库进行数据交互的过程中,所述业务数据和相配合逻辑操作将作为新的数据元对相应的数据库进行更新。
实施例11:
图12示出了本发明实施例提供的页面操作单元904的结构,为了便于说明,仅示出与本发明实施例相关的部分,其中:
第二调用模块1201,用于当所述用户操作属于页面操作的情况,则调用规则描述文件,所述规则描述文件包括不同的数据库信息、数据库源表、以及数据过滤条件。
在本发明的实施例中,用于页面渲染的页面模板也存储在相应的数据库内,也就是说,处理页面操作本质上仍是处理数据操作,两者在处理过程中具有相似的步骤,即数据库的数据存取步骤。
第二过滤模块1202,用于分析所述数据库源表,并根据所述数据过滤条件过滤相应的数据库源表中的页面模板。
元视图生成模块1203,用于将过滤后的页面模板转化为具有通用格式的页面数据,并将其与缓冲区的业务数据一起生成元视图数据。
其中,所述过滤后的页面模板和元视图数据均按照JSON格式封装。
本发明的实施例将页面渲染作为独立的数据处理过程,提高页面渲染的效率,使得整个数据处理方法在数据量大的大数据环境下仍具有较佳的数据处理速率。
实施例12:
图13示出了本发明的实施例提供的数据结束单元905的结构,为了便于说明,仅示出与本发明实施例相关的部分,其中:
第一解析模块1301,用于解析JSON格式的元数据,并将其中的数据使用预定的语言描述。
数据反馈模块1302,用于将所述数据按照通用格式封装,形成数据结果,并反馈至用户。
在本发明实施例的实际运用时,数据操作和页面操作的处理过程全部分离,分工更加的明确,层次关系也更加的清晰,美工人员可以更加专注于网页的设计,数据逻辑开发人员可以更加专精于数据库的操作。
实施例13:
图14示出了本发明的实施例提供的页面结束单元906的结构,为了便于说明,仅示出与本发明实施例相关的部分,其中:
第二解析模块1401,用于解析JSON格式的元视图数据,并将其中的数据使用预定的语言描述。
页面反馈模块1402,用于根据预置的页面模板,将所述数据进行页面渲染,形成相应的页面,并显示至用户。
本发明的实施例将页面操作单独分离开来,使得后台数据库不论返回了什么种类的数据都能比较好的兼容解析并渲染,同时,通过预置的页面模板和缓存的业务数据,整个页面操作处理过程能实现快速初始化。而且,所述页面模板及页面数据都是可序列化,用户可以在前端平台或服务器端预处理,也可以将其任意的转发至其他的终端。
在本发明实施例中,应该理解到,所述模块、单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如,多个单元或逐渐可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元相似的部件可以是或者也可以不是物理单元,即其可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本发明实施例的目的。
另外,在本发明各个实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元、模块单独物理存在,也可以两个或两个以上单元、模块集成在一个单元中。
在本申请所提供的几个实施例中,应该理解到,上述方法如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机、服务器、或者网络设备等)自行本发明各个实施例所述方法的全部或部分不再。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等,均应包含在本发明的保护范围之内。

Claims (16)

1.一种基于数据库的数据处理方法,其特征在于,包括如下具体步骤:
接收用户对数据库做出的用户操作;
分析所述用户操作,得到业务数据和与该业务数据相配合的逻辑操作,并判断所述用户操作是否属于数据操作;
如果所述用户操作属于数据操作,则调用服务层中相应数据库数据,并将所述数据库数据与所述业务数据一起生成元数据;
如果所述用户操作属于页面操作,则调用服务层中相应数据库数据,并将所述数据库数据、所述业务数据、以及所述逻辑操作一起生成元视图数据;
将所述元数据转化为数据结果,并反馈至用户;或者
根据预置的页面模板,将所述元视图数据转化为页面结果,并将相应的页面显示至用户。
2.如权利要求1所述的方法,其特征在于,所述的分析所述用户操作,得到业务数据和与该业务数据相配合的逻辑操作,并判断所述用户操作是否属于数据操作,具体包括:
将所述用户操作转换成通用格式,并进行业务数据分析和逻辑检查,得到业务数据和相配合的逻辑操作;
根据所述业务数据,将可用的数据暂存于缓冲区;
根据所述逻辑操作,判断所述用户操作是否属于数据操作。
3.如权利要求2所述的方法,其特征在于,所述的如果所述用户操作属于数据操作,则调用服务层中相应数据库数据,并将所述数据库数据与所述业务数据一起生成元数据,具体包括:
若所述用户操作属于数据操作,则调用规则描述文件,所述规则描述文件包括不同的数据库信息、数据库源表、以及数据过滤条件;
分析所述数据库源表,并根据所述数据过滤条件过滤相应的数据库源表中的数据;
将过滤后的数据转化为具有通用格式的数据库数据,并将其与缓冲区的业务数据一起生成元数据。
4.如权利要求3所述的方法,其特征在于,所述过滤后的数据和元数据均按照JSON格式封装。
5.如权利要求2所述的方法,其特征在于,所述的如果所述用户操作属于页面操作,则调用服务层中相应数据库数据,并将所述数据库数据、所述业务数据、以及所述逻辑操作一起生成元视图数据,具体包括:
若所述用户操作属于页面操作,则调用规则描述文件,所述规则描述文件包括不同的数据库信息、数据库源表、以及数据过滤条件;
分析所述数据库源表,并根据所述数据过滤条件过滤相应的数据库源表中的页面模板;
将过滤后的页面模板转化为具有通用格式的页面数据,并将其与缓冲区的业务数据一起生成元视图数据。
6.如权利要求5所述的方法,其特征在于,所述过滤后的页面模板和元视图数据均按照JSON格式封装。
7.如权利要求4所述的方法,其特征在于,所述的将所述元数据转化为数据结果,并反馈至用户,具体包括:
解析JSON格式的元数据,并将其中的数据使用预定的语言描述;
将所述数据按照通用格式封装,形成数据结果,并反馈至用户。
8.如权利要求6所述的方法,其特征在于,所述的根据预置的页面模板,将所述元视图数据转化为页面结果,并将相应的页面显示至用户,具体包括:
解析JSON格式的元视图数据,并将其中的数据使用预定的语言描述;
根据预置的页面模板,将所述数据进行页面渲染,形成相应的页面,并显示至用户。
9.一种基于数据库的数据处理系统,其特征在于,包括:
接收单元,用于接收用户对数据库做出的用户操作;
分析单元,用于分析所述用户操作,得到业务数据和与该业务数据相配合的逻辑操作,并判断所述用户操作是否属于数据操作;
数据操作单元,用于当所述用户操作属于数据操作的情况,则调用服务层中相应数据库数据,并将所述数据库数据与所述业务数据一起生成元数据;
页面操作单元,用于当所述用户操作属于页面操作的情况,则调用服务层中相应数据库数据,并将所述数据库数据、所述业务数据、以及所述逻辑操作一起生成元视图数据;
数据结束单元,用于将所述元数据转化为数据结果,并反馈至用户;以及
页面结束单元,用于根据预置的页面模板,将所述元视图数据转化为页面结果,并将相应的页面显示至用户。
10.如权利要求9所述的系统,其特征在于,所述的分析单元具体包括:
业务分析模块,用于将所述用户操作转换成通用格式,并进行业务数据分析和逻辑检查,得到业务数据和相配合的逻辑操作;
暂存模块,用于根据所述业务数据,将可用的数据暂存于缓冲区;以及
判断模块,用于根据所述逻辑操作,判断所述用户操作是否属于数据操作。
11.如权利要求10所述的系统,其特征在于,所述的数据操作单元具体包括:
第一调用模块,用于当所述用户操作属于数据操作的情况,则调用规则描述文件,所述规则描述文件包括不同的数据库信息、数据库源表、以及数据过滤条件;
第一过滤模块,用于分析所述数据库源表,并根据所述数据过滤条件过滤相应的数据库源表中的数据;以及
元数据生成模块,用于将过滤后的数据转化为具有通用格式的数据库数据,并将其与缓冲区的业务数据一起生成元数据。
12.如权利要求11所述的系统,其特征在于,所述过滤后的数据和元数据均按照JSON格式封装。
13.如权利要求10所述的系统,其特征在于,所述的页面操作单元具体包括:
第二调用模块,用于当所述用户操作属于页面操作的情况,则调用规则描述文件,所述规则描述文件包括不同的数据库信息、数据库源表、以及数据过滤条件;
第二过滤模块,用于分析所述数据库源表,并根据所述数据过滤条件过滤相应的数据库源表中的页面模板;以及
元视图生成模块,用于将过滤后的页面模板转化为具有通用格式的页面数据,并将其与缓冲区的业务数据一起生成元视图数据。
14.如权利要求13所述的系统,其特征在于,所述过滤后的页面模板和元视图数据均按照JSON格式封装。
15.如权利要求12所述的系统,其特征在于,所述的数据结束单元具体包括:
第一解析模块,用于解析JSON格式的元数据,并将其中的数据使用预定的语言描述;以及
数据反馈模块,用于将所述数据按照通用格式封装,形成数据结果,并反馈至用户。
16.如权利要求14所述的系统,其特征在于,所述的页面结束单元具体包括:
第二解析模块,用于解析JSON格式的元视图数据,并将其中的数据使用预定的语言描述;
页面反馈模块,用于根据预置的页面模板,将所述数据进行页面渲染,形成相应的页面,并显示至用户。
CN201710068202.3A 2017-02-07 2017-02-07 一种基于数据库的数据处理方法及其系统 Active CN108399177B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710068202.3A CN108399177B (zh) 2017-02-07 2017-02-07 一种基于数据库的数据处理方法及其系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710068202.3A CN108399177B (zh) 2017-02-07 2017-02-07 一种基于数据库的数据处理方法及其系统

Publications (2)

Publication Number Publication Date
CN108399177A CN108399177A (zh) 2018-08-14
CN108399177B true CN108399177B (zh) 2020-09-11

Family

ID=63093818

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710068202.3A Active CN108399177B (zh) 2017-02-07 2017-02-07 一种基于数据库的数据处理方法及其系统

Country Status (1)

Country Link
CN (1) CN108399177B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112486955B (zh) * 2020-12-04 2021-07-27 北京神州慧安科技有限公司 基于大数据和人工智能的数据维护方法及大数据服务器
CN112612774B (zh) * 2020-12-17 2022-07-26 武汉达梦数据技术有限公司 一种基于页面和数据库对比的元数据分析方法及装置

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1588369A (zh) * 2004-09-06 2005-03-02 杭州恒生电子股份有限公司 一种关系型数据库系统及其查询和报表方法
CN105354237A (zh) * 2015-10-09 2016-02-24 上海瀚之友信息技术服务有限公司 一种业务数据展示方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8122340B2 (en) * 2008-09-29 2012-02-21 Tow Bruce System and method for management of common decentralized applications data and logic

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1588369A (zh) * 2004-09-06 2005-03-02 杭州恒生电子股份有限公司 一种关系型数据库系统及其查询和报表方法
CN105354237A (zh) * 2015-10-09 2016-02-24 上海瀚之友信息技术服务有限公司 一种业务数据展示方法

Also Published As

Publication number Publication date
CN108399177A (zh) 2018-08-14

Similar Documents

Publication Publication Date Title
US11847131B2 (en) Optimizing incremental loading of warehouse data
Ali et al. Comparison between SQL and NoSQL databases and their relationship with big data analytics
US11899681B2 (en) Knowledge graph building method, electronic apparatus and non-transitory computer readable storage medium
CN110032604B (zh) 数据存储装置、转译装置及数据库访问方法
US10275475B2 (en) Scalable analysis platform for semi-structured data
EP2595072A1 (en) System and method implementing a text analysis repository
EP2874077B1 (en) Stateless database cache
CN104699742B (zh) 使能扩展大型数据集的极端可视化的方法、系统和产品
US8103705B2 (en) System and method for storing text annotations with associated type information in a structured data store
US9753960B1 (en) System, method, and computer program for dynamically generating a visual representation of a subset of a graph for display, based on search criteria
US20090125536A1 (en) Implementing event processors
KR20110010598A (ko) 상태 비저장 프로토콜들을 통한 문서 동기화
JP2010129001A (ja) 情報処理装置、データベース・システム、情報処理方法、およびプログラム
US20190361999A1 (en) Data analysis over the combination of relational and big data
CN111611304A (zh) 知识驱动的联合大数据查询和分析平台
CN111611266A (zh) 知识驱动的联合大数据查询和分析平台
US20180165307A1 (en) Executing Queries Referencing Data Stored in a Unified Data Layer
CN114356971A (zh) 数据处理方法、装置以及系统
US10671625B2 (en) Processing a query primitive call on a value identifier set
CN111611448A (zh) 知识驱动的联合大数据查询和分析平台
US20190213188A1 (en) Distributed computing framework and distributed computing method
EP3474158A1 (en) Method and device for executing distributed computing task
CN108399177B (zh) 一种基于数据库的数据处理方法及其系统
US20120256926A1 (en) Gesture, text, and shape recognition based data visualization
US20200183934A1 (en) Efficient database searching for queries using wildcards

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CP01 Change in the name or title of a patent holder

Address after: 310019 room 808, building 4, No.9, Jiuhuan Road, Jianggan District, Hangzhou City, Zhejiang Province

Patentee after: Zhejiang Digital Technology Co.,Ltd.

Address before: 310019 room 808, building 4, No.9, Jiuhuan Road, Jianggan District, Hangzhou City, Zhejiang Province

Patentee before: HANGZHOU YOUHAO DATA TECHNOLOGY Co.,Ltd.

CP01 Change in the name or title of a patent holder
TR01 Transfer of patent right

Effective date of registration: 20210324

Address after: 310019 room 808, building 4, No.9, Jiuhuan Road, Jianggan District, Hangzhou City, Zhejiang Province

Patentee after: HANGZHOU YOUSHU FINANCE INFORMATION SERVICES Co.,Ltd.

Address before: 310019 room 808, building 4, No.9, Jiuhuan Road, Jianggan District, Hangzhou City, Zhejiang Province

Patentee before: Zhejiang Digital Technology Co.,Ltd.

TR01 Transfer of patent right
CP03 Change of name, title or address

Address after: 310019 room 808, floor 8, building 1, No. 8 and 10, Jiuhe Road, Jiubao street, Shangcheng District, Hangzhou, Zhejiang Province

Patentee after: Zhejiang youshuzhi Technology Co.,Ltd.

Address before: 310019 room 808, building 4, No.9, Jiuhuan Road, Jianggan District, Hangzhou City, Zhejiang Province

Patentee before: HANGZHOU YOUSHU FINANCE INFORMATION SERVICES CO.,LTD.

CP03 Change of name, title or address