CN113076285A

CN113076285A - 用于上传数据文件的处理方法及系统

Info

Publication number: CN113076285A
Application number: CN202110243447.1A
Authority: CN
Inventors: 李鑫
Original assignee: Shanghai Minglue Artificial Intelligence Group Co Ltd
Current assignee: Shanghai Minglue Artificial Intelligence Group Co Ltd
Priority date: 2021-03-05
Filing date: 2021-03-05
Publication date: 2021-07-06

Abstract

本申请公开了一种用于上传数据文件的处理方法及系统，方法包括：接收步骤：接收一上传的数据文件；第一校验步骤：通过展示组件根据第一校验规则对所述数据文件进行初步校验并对所述数据文件中的错误数据进行标记输出第一校验结果；第二校验步骤：通过编辑组件对所述第一校验结果中的所述错误数据进行修改获得修改数据，并根据第二校验规则对所述修改数据进行动态实时校验输出第二校验结果；输出步骤：根据所述校验结果提供给用户错误提示信息或保存修改后的所述数据文件。本发明对于上传的批量数据文件，先进行数据校验和筛选，极大的加快后续数据的计算及后期数据的维护。

Description

用于上传数据文件的处理方法及系统

技术领域

本发明属于用于上传数据文件的处理方法领域，具体涉及一种用于上传数据文件的处理方法及系统。

背景技术

在批量上传数据进行存储和计算时，Excle数据文件在上传前和上传后往往都无法校验和准确得知错误数据，这将会给后期维护和计算带来很多无法预知的困难。所以我们提供了支持对上传的数据进行校验并修改的方法。

对于大数据量的数据上传，很多程序都直接忽略校验工作。

发明内容

本申请实施例提供了一种用于上传数据文件的处理方法及系统，以至少解决大数据量的数据上传，很多程序都直接忽略校验工作的问题。

本发明提供了一种用于上传数据文件的处理方法，其中，包括：

接收步骤：接收一上传的数据文件；

第一校验步骤：通过展示组件根据第一校验规则对所述数据文件进行初步校验并对所述数据文件中的错误数据进行标记输出第一校验结果；

第二校验步骤：通过编辑组件对所述第一校验结果中的所述错误数据进行修改获得修改数据，并根据第二校验规则对所述修改数据进行动态实时校验输出第二校验结果；

输出步骤：根据所述校验结果提供给用户错误提示信息或保存修改后的所述数据文件。

上述处理方法，其中，所述第一校验步骤包括：

预置步骤：在所述展示组件中预置表格头部的列信息；

上传步骤：通过上传组件上传所述数据文件；

过滤校验步骤：对所述数据文件进行过滤后，通过所述展示组件对过滤后的所述数据文件进行初步校验；

标记步骤：对过滤后的所述数据文件中的所述错误数据进行标记输出所述第一校验结果。

上述处理方法，其中，所述展示组件主要包括列信息和表格数据信息，所述列信息中的dataIndex和所述表格数据信息中的key相对应。

上述处理方法，其中，所述第二校验步骤包括：

包装步骤：通过Form.create方法对所述编辑组件进行包装；

编辑步骤：通过所述编辑组件对所述错误数据进行修改获得修改数据；

动态校验步骤：通过所述编辑组件根据所述第二校验规则对所述修改数据进行动态实时校验输出所述第二校验结果。

上述处理方法，其中，所述第二校验步骤还包括：

删除步骤，通过所述删除组件对所述错误数据进行删除。

本发明还包括一种用于上传数据文件的处理系统，其中，包括：

接收模块，所述接收模块接收一上传的数据文件；

第一校验模块，所述第一校验模块通过展示组件根据第一校验规则对所述数据文件进行初步校验并对所述数据文件中的错误数据进行标记输出第一校验结果；

第二校验模块，所述第二校验模块通过编辑组件对所述第一校验结果中的所述错误数据进行修改获得修改数据，并根据第二校验规则对所述修改数据进行动态实时校验输出第二校验结果；

输出模块，所述输出模块根据所述校验结果提供给用户错误提示信息或保存修改后的所述数据文件。

上述处理系统，其中，所述第一校验模块包括：

预置单元，所述预置单元在所述展示组件中预置表格头部的列信息；

上传单元，所述上传单元通过上传组件上传所述数据文件；

过滤校验单元，所述过滤校验单元对所述数据文件进行过滤后，通过所述展示组件对过滤后的所述数据文件进行初步校验；

标记单元，所述标记模块对过滤后的所述数据文件中的所述错误数据进行标记输出所述第一校验结果。

上述处理系统，其中，所述展示组件主要包括列信息和表格数据信息，所述列信息中的dataIndex和所述表格数据信息中的key相对应。

上述处理系统，其中，所述第二校验模块包括：

包装单元，所述包装单元通过Form.create方法对所述编辑组件进行包装；

编辑单元，所述编辑单元通过所述编辑组件对所述错误数据进行修改获得修改数据；

动态校验单元，所述动态校验单元通过所述编辑组件根据所述第二校验规则对所述修改数据进行动态实时校验输出所述第二校验结果。

上述处理系统，其中，所述第二校验模块还包括：

删除单元，通过删除组件对所述错误数据进行删除。

本发明的有益效果在于：

本发明提供了一种用于上传数据文件的处理方法，对于上传的批量数据，我们先进行数据校验和筛选，这样会极大的加快后续数据的计算及后期数据的维护。

附图说明

此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。

在附图中：

图1是用于上传数据文件的处理方法的流程图；

图2是图1中步骤S2的分步骤流程图；

图3是图1中步骤S3的分步骤流程图；

图4是本发明的用于上传数据文件的处理系统的结构示意图；

图5是根据本发明实施例的计算机设备的框架图；

图6是展示组件的表格头信息预设格式示例图；

图7是上传数据的数据源格式示例图；

图8是展示组件示意图；

图9是校验规则预设示例图；

图10是编辑组件示意图；

图11是用于上传数据文件的处理方法的应用流程图。

具体实施方式

为了使本申请的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本申请进行描述和说明。应当理解，此处所描述的具体实施例仅仅用以解释本申请，并不用于限定本申请。基于本申请提供的实施例，本领域普通技术人员在没有作出创造性劳动的前提下所获得的所有其他实施例，都属于本申请保护的范围。

显而易见地，下面描述中的附图仅仅是本申请的一些示例或实施例，对于本领域的普通技术人员而言，在不付出创造性劳动的前提下，还可以根据这些附图将本申请应用于其他类似情景。此外，还可以理解的是，虽然这种开发过程中所作出的努力可能是复杂并且冗长的，然而对于与本申请公开的内容相关的本领域的普通技术人员而言，在本申请揭露的技术内容的基础上进行的一些设计，制造或者生产等变更只是常规的技术手段，不应当理解为本申请公开的内容不充分。

在本申请中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域普通技术人员显式地和隐式地理解的是，本申请所描述的实施例在不冲突的情况下，可以与其它实施例相结合。

除非另作定义，本申请所涉及的技术术语或者科学术语应当为本申请所属技术领域内具有一般技能的人士所理解的通常意义。本申请所涉及的“一”、“一个”、“一种”、“该”等类似词语并不表示数量限制，可表示单数或复数。本申请所涉及的术语“包括”、“包含”、“具有”以及它们任何变形，意图在于覆盖不排他的包含；例如包含了一系列步骤或模块(单元)的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元，而是可以还包括没有列出的步骤或单元，或可以还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。本申请所涉及的“连接”、“相连”、“耦接”等类似的词语并非限定于物理的或者机械的连接，而是可以包括电气的连接，不管是直接的还是间接的。本申请所涉及的“多个”是指两个或两个以上。“和/或”描述关联对象的关联关系，表示可以存在三种关系，例如，“A和/或B”可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。本申请所涉及的术语“第一”、“第二”、“第三”等仅仅是区别类似的对象，不代表针对对象的特定排序。

下面结合附图所示的各实施方式对本发明进行详细说明，但应当说明的是，这些实施方式并非对本发明的限制，本领域普通技术人员根据这些实施方式所作的功能、方法、或者结构上的等效变换或替代，均属于本发明的保护范围之内。

在详细阐述本发明各个实施例之前，对本发明的核心发明思想予以概述，并通过下述若干实施例予以详细阐述。

请参照图1，图1是用于上传数据文件的处理方法的流程图。如图1所示，本发明的用于上传数据文件的处理方法包括：

接收步骤S1：接收一上传的数据文件；

第一校验步骤S2：通过展示组件根据第一校验规则对所述数据文件进行初步校验并对所述数据文件中的错误数据进行标记输出第一校验结果；

第二校验步骤S3：通过编辑组件对所述第一校验结果中的所述错误数据进行修改获得修改数据，并根据第二校验规则对所述修改数据进行动态实时校验输出第二校验结果；

输出步骤S4：根据所述校验结果提供给用户错误提示信息或保存修改后的所述数据文件。

请参照图2，图2是图1中步骤S2的分步骤流程图。如图2所示，所述第一校验步骤S2包括：

预置步骤S21：在所述展示组件中预置表格头部的列信息；

上传步骤S22：通过上传组件上传所述数据文件；

过滤校验步骤S23：对所述数据文件进行过滤后，通过所述展示组件对过滤后的所述数据文件进行初步校验；

标记步骤S24：对过滤后的所述数据文件中的所述错误数据进行标记输出所述第一校验结果。

其中，所述展示组件主要包括列信息和表格数据信息，所述列信息中的dataIndex和所述表格数据信息中的key相对应。

请参照图3，图3是图1中步骤S3的分步骤流程图。如图3所示，所述第二校验步骤S3包括：

包装步骤S31：通过Form.create方法对所述编辑组件进行包装；

编辑步骤S32：通过所述编辑组件对所述错误数据进行修改获得修改数据；

动态校验步骤S33：通过所述编辑组件根据所述第二校验规则对所述修改数据进行动态实时校验输出所述第二校验结果。

删除步骤S34：通过删除组件对所述错误数据进行删除。

以下，列举实施例具体说明本发明的用于上传数据文件的处理方法如下。

实施例一：

本实例揭示了用于上传数据文件的处理方法(以下简称“方法”)的具体实施方式。

本方案由两处校验组件组成：

展示组件中校验一次，错误数据标红，提示用户哪些数据有问题；

编辑组件中动态实时校验，会实时校验用户修改的内容，提供给用户详细的错误提示信息。

以下是具体校验流程：

使用antd-table组件来展示数据，先在展示组件中预置表格头部的列信息，前端通过上传组件上传Excle文件后，后台会过滤返回错误数据，然后前端获取到这些数据后，传入展示组件进行第一次校验。

展示组件主要包括列信息和表格数据信息，列信息中的dataIndex和表格数据信息中的key一一对应，保证表格数据正确展示。

展示组件的表格头信息预设格式如图6所示：

展示组件预置列信息：

dataIndex：列数据在数据项中对应的key，以便数据和表格一一对应；

title：列标题；

editable:是否可以修改此列数据；

render:生成复杂数据的渲染函数，在此函数里面可以进行校验操作，不符合校验条件的可以高亮标红，当然也可以对错误数据进行其他操作，如置为黄色、加粗、下划线等等；其中校验规则可以是判空、正则匹配、内容长度及其他自定义校验规则。

如下的示例中使用了身份证的格式正则匹配；身份证的格式为15位数字或18位数字或17位数字和最后一位x/y；

姓名用了或||来判空，所有不符合校验规则的均标红；

注：在预置信息中，此方案提供了编辑和删除两个操作按钮，对接编辑组件和删除组件，点击按钮将每条数据传到相关组件中进行操作。

返回的数据源格式如图7所示：

所有的key值与上述columns中的dataIndex一一对应，从而实现数据填充到表格。当没有此列数据时，展示表格中为空。

展示组件如图8所示：

展示组件进行初步校验后，用户可以一目了然的看到哪些数据有误。下一步，此方案提供给用户修改编辑和删除的接口。其中编辑组件提供了编辑的接口和实时校验的功能，删除组件提供了删除错误数据的功能。

在本发明中编辑组件使用antd-form组件，首先要使用Form.create方法包装组件，经过其包装的组件才可以使用如下方法：

getFieldDecorator方法用于输入数据和表单双向绑定，是针对每列数据且提供rules的的校验入口，用户可以在此方法内预置输入的校验规则。getFieldDecorator可包装输入框，下拉选择框、复选框等等类型的表单。

校验规则如图9所示：

enum：枚举类型；

len：字段长度；

max：最大长度；

min：最小长度；

message：校验错误文案；

pattern：正则表达式校验；

required：是否必选；

ralidator：自定义校验方法；

getFieldsValue方法获取一组输入控件的值，如不传入，则获取全部组件的值，可以使用此方法获取输入内容，校验通过后再次传到后台进行保存。

编辑组件如图10所示：

在编辑组件中，可以预设校验规则和错误提示。rules为数组类型，里面可以内置多条校验规则，即对同一数据进行多纬度校验，如针对电话，既可以先校验是否必填，又可以校验是否符合预设的电话格式。message为校验不通过时候提示信息。在rules可以编写各种校验规则，如是否必填、邮箱/手机号/身份证/密码等格式要求及其他自定义校验规则，这样就极大丰富了对于上传数据的校验。

在编辑组件中，我们可以详细得知每条错误数据的准确错误原因，并且提供在线修改实时校验功能，修改完成后点击保存按钮把数据传给后台保存起来，形成一个完整闭环。

在编辑组件中，无法对错误信息进行保存，除非所有输入内容均正确；或者点击取消按钮，不对此条错误数据编辑，还原至最初校验错误状态。

在删除组件中，我们提供删除接口，删除单条数据不做修改，给上传的数据提供了另一种容错处理。

综上所述，由图11所示的应用流程图实现本发明方法。

实施例二：

请参照图4，图4是本发明的用于上传数据文件的处理系统的结构示意图。如图4所示本发明的一种用于上传数据文件的处理系统，其中，包括：

接收模块，所述接收模块接收一上传的数据文件；

其中，所述第一校验模块包括：

预置单元，所述预置模块在所述展示组件中预置表格头部的列信息；

上传单元，所述上传模块通过上传组件上传所述数据文件；

过滤校验单元，所述过滤校验模块对所述数据文件进行过滤后，通过所述展示组件对过滤后的所述数据文件进行初步校验；

进一步地，所述第二校验模块包括：

更进一步地，所述第二校验模块还包括：

删除单元，通过删除组件对所述错误数据进行删除。

实施例三：

结合图5所示，本实施例揭示了一种计算机设备的一种具体实施方式。计算机设备可以包括处理器81以及存储有计算机程序指令的存储器82。

具体地，上述处理器81可以包括中央处理器(CPU)，或者特定集成电路(Application Specific Integrated Circuit，简称为ASIC)，或者可以被配置成实施本申请实施例的一个或多个集成电路。

其中，存储器82可以包括用于数据或指令的大容量存储器。举例来说而非限制，存储器82可包括硬盘驱动器(Hard Disk Drive，简称为HDD)、软盘驱动器、固态驱动器(SolidState Drive，简称为SSD)、闪存、光盘、磁光盘、磁带或通用串行总线(Universal SerialBus，简称为USB)驱动器或者两个或更多个以上这些的组合。在合适的情况下，存储器82可包括可移除或不可移除(或固定)的介质。在合适的情况下，存储器82可在数据处理装置的内部或外部。在特定实施例中，存储器82是非易失性(Non-Volatile)存储器。在特定实施例中，存储器82包括只读存储器(Read-Only Memory，简称为ROM)和随机存取存储器(RandomAccess Memory，简称为RAM)。在合适的情况下，该ROM可以是掩模编程的ROM、可编程ROM(Programmable Read-Only Memory，简称为PROM)、可擦除PROM(Erasable ProgrammableRead-Only Memory，简称为EPROM)、电可擦除PROM(Electrically Erasable ProgrammableRead-Only Memory，简称为EEPROM)、电可改写ROM(ElectricallyAlterable Read-OnlyMemory，简称为EAROM)或闪存(FLASH)或者两个或更多个以上这些的组合。在合适的情况下，该RAM可以是静态随机存取存储器(Static Random-Access Memory，简称为SRAM)或动态随机存取存储器(Dynamic Random Access Memory，简称为DRAM)，其中，DRAM可以是快速页模式动态随机存取存储器(Fast Page Mode Dynamic Random Access Memory，简称为FPMDRAM)、扩展数据输出动态随机存取存储器(Extended Date Out Dynamic RandomAccess Memory，简称为EDODRAM)、同步动态随机存取内存(Synchronous Dynamic Random-Access Memory，简称SDRAM)等。

存储器82可以用来存储或者缓存需要处理和/或通信使用的各种数据文件，以及处理器81所执行的可能的计算机程序指令。

处理器81通过读取并执行存储器82中存储的计算机程序指令，以实现上述实施例中的任意一种用于上传数据文件的处理方法。

在其中一些实施例中，计算机设备还可包括通信接口83和总线80。其中，如图5所示，处理器81、存储器82、通信接口83通过总线80连接并完成相互间的通信。

通信接口83用于实现本申请实施例中各模块、装置、单元和/或设备之间的通信。通信端口83还可以实现与其他部件例如：外接设备、图像/数据采集设备、数据库、外部存储以及图像/数据处理工作站等之间进行数据通信。

总线80包括硬件、软件或两者，将计算机设备的部件彼此耦接在一起。总线80包括但不限于以下至少之一：数据总线(Data Bus)、地址总线(Address Bus)、控制总线(Control Bus)、扩展总线(Expansion Bus)、局部总线(Local Bus)。举例来说而非限制，总线80可包括图形加速接口(Accelerated Graphics Port，简称为AGP)或其他图形总线、增强工业标准架构(Extended Industry Standard Architecture，简称为EISA)总线、前端总线(Front Side Bus，简称为FSB)、超传输(Hyper Transport，简称为HT)互连、工业标准架构(Industry Standard Architecture，简称为ISA)总线、无线带宽(InfiniBand)互连、低引脚数(Low Pin Count，简称为LPC)总线、存储器总线、微信道架构(Micro ChannelArchitecture，简称为MCA)总线、外围组件互连(Peripheral Component Interconnect，简称为PCI)总线、PCI-Express(PCI-X)总线、串行高级技术附件(Serial AdvancedTechnology Attachment，简称为SATA)总线、视频电子标准协会局部(Video ElectronicsStandards Association Local Bus，简称为VLB)总线或其他合适的总线或者两个或更多个以上这些的组合。在合适的情况下，总线80可包括一个或多个总线。尽管本申请实施例描述和示出了特定的总线，但本申请考虑任何合适的总线或互连。

该计算机设备可以用于上传数据文件的处理，从而实现结合图1-图3描述的方法。

另外，结合上述实施例中用于上传数据文件的处理方法，本申请实施例可提供一种计算机可读存储介质来实现。该计算机可读存储介质上存储有计算机程序指令；该计算机程序指令被处理器执行时实现上述实施例中的任意一种用于上传数据文件的处理方法。

以上所述实施例的各技术特征可以进行任意的组合，为使描述简洁，未对上述实施例中的各个技术特征所有可能的组合都进行描述，然而，只要这些技术特征的组合不存在矛盾，都应当认为是本说明书记载的范围。

综上所述，基于本发明的有益效果在于，本专利提供了一种用于上传数据文件的处理方法，对于上传的批量数据，我们先进行数据校验和筛选，这样会极大的加快后续数据的计算及后期数据的维护。

以上所述实施例仅表达了本申请的几种实施方式，其描述较为具体和详细，但并不能因此而理解为对发明专利范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本申请构思的前提下，还可以做出若干变形和改进，这些都属于本申请的保护范围。因此，本申请专利的保护范围应以所附权利要求为准。

Claims

1.一种用于上传数据文件的处理方法，其特征在于，包括

接收步骤：接收一上传的数据文件；

2.如权利要求1所述的处理方法，其特征在于，所述第一校验步骤包括：

预置步骤：在所述展示组件中预置表格头部的列信息；

上传步骤：通过上传组件上传所述数据文件；

3.如权利要求1所述的处理方法，其特征在于，所述展示组件主要包括列信息和表格数据信息，所述列信息中的dataIndex和所述表格数据信息中的key相对应。

4.如权利要求1所述的处理方法，其特征在于，所述第二校验步骤包括：

包装步骤：通过Form.create方法对所述编辑组件进行包装；

5.如权利要求4所述的上传数据的校验、清洗方法，其特征在于，所述第二校验步骤还包括：

删除步骤，通过删除组件对所述错误数据进行删除。

6.一种用于上传数据文件的处理系统，其特征在于，包括：

接收模块，所述接收模块接收一上传的数据文件；

7.如权利要求6所述的处理系统，其特征在于，所述第一校验模块包括：

上传单元，所述上传单元通过上传组件上传所述数据文件；

标记单元，所述标记单元对过滤后的所述数据文件中的所述错误数据进行标记输出所述第一校验结果。

8.如权利要求6所述的处理系统，其特征在于，所述展示组件主要包括列信息和表格数据信息，所述列信息中的dataIndex和所述表格数据信息中的key相对应。

9.如权利要求6所述的处理系统，其特征在于，所述第二校验模块包括：

10.如权利要求9所述的上传数据的校验、清洗系统，其特征在于，所述第二校验模块还包括：

删除单元，通过删除组件对所述错误数据进行删除。