CN108664610B - 用于处理数据的方法和装置 - Google Patents

用于处理数据的方法和装置 Download PDF

Info

Publication number
CN108664610B
CN108664610B CN201810449453.0A CN201810449453A CN108664610B CN 108664610 B CN108664610 B CN 108664610B CN 201810449453 A CN201810449453 A CN 201810449453A CN 108664610 B CN108664610 B CN 108664610B
Authority
CN
China
Prior art keywords
data
processing
processed
result
preset
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201810449453.0A
Other languages
English (en)
Other versions
CN108664610A (zh
Inventor
罗扬
李磊鑫
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
JD Digital Technology Holdings Co Ltd
Jingdong Technology Holding Co Ltd
Original Assignee
JD Digital Technology Holdings Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by JD Digital Technology Holdings Co Ltd filed Critical JD Digital Technology Holdings Co Ltd
Priority to CN201810449453.0A priority Critical patent/CN108664610B/zh
Publication of CN108664610A publication Critical patent/CN108664610A/zh
Application granted granted Critical
Publication of CN108664610B publication Critical patent/CN108664610B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Image Analysis (AREA)

Abstract

本申请实施例公开了用于处理数据的方法和装置。上述方法的一具体实施方式包括:接收待处理数据以及对待处理数据的处理方式信息,待处理数据包括图片、音频、文字、视频中的一种;对待处理数据进行切分,得到切分后的待处理数据形成的数据集合;解析处理方式信息,根据解析结果从预设的数据处理模型集合中确定处理数据集合中切分后的待处理数据的数据处理模型;从数据集合中选取预设比例的切分后的待处理数据;利用所确定的数据处理模型处理所选取的数据,得到至少一个处理结果。该实施方式实现了快速地对数据进行处理。

Description

用于处理数据的方法和装置
技术领域
本申请实施例涉及数据处理技术领域,具体涉及用于处理数据的方法和装置。
背景技术
人工智能(Artificial Intelligence,AI)是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。随着大数据存储技术和高性能计算资源的日趋成熟,人工智能技术在语音识别、语音合成、自然语言处理、图像识别等领域迅速发展。
发明内容
本申请实施例提出了用于处理数据的方法和装置。
第一方面,本申请实施例提供了一种用于处理数据的方法,包括:接收待处理数据以及对上述待处理数据的处理方式信息,上述待处理数据包括图片、音频、文字、视频中的一种;对上述待处理数据进行切分,得到切分后的待处理数据形成的数据集合;解析上述处理方式信息,根据解析结果从预设的数据处理模型集合中确定处理上述数据集合中切分后的待处理数据的数据处理模型;从上述数据集合中选取预设比例的切分后的待处理数据;利用所确定的数据处理模型处理所选取的数据,得到至少一个处理结果。
在一些实施例中,上述方法还包括:根据上述待处理数据,确定上述所选取数据的拼接关系;根据上述拼接关系,拼接上述至少一个处理结果,输出拼接后的处理结果。
在一些实施例中,上述方法还包括:验证所选取数据的至少两个处理结果是否满足第一预设条件;响应于确定上述至少两个处理结果满足第一预设条件,增大上述预设比例的值。
在一些实施例中,上述方法还包括:接收上述至少一个处理结果的至少一个校正结果;确定上述至少一个处理结果与上述至少一个校正结果的匹配度;响应于上述匹配度小于预设阈值,利用上述至少一个校正结果以及上述至少一个校正结果对应的所选取数据训练所确定的数据处理模型。
在一些实施例中,上述方法还包括:响应于上述匹配度大于上述预设阈值,增大上述预设比例的值。
在一些实施例中,上述对上述待处理数据进行切分,包括:检测上述待处理数据是否满足第二预设条件;响应于确定上述待处理数据满足第二预设条件,对上述待处理数据进行切分。
第二方面,本申请实施例提供了一种用于处理数据的装置,包括:数据接收单元,被配置成接收待处理数据以及对上述待处理数据的处理方式信息,上述待处理数据包括图片、音频、文字、视频中的一种;数据切分单元,被配置成对上述待处理数据进行切分,得到切分后的待处理数据形成的数据集合;模型确定单元,被配置成解析上述处理方式信息,根据解析结果从预设的数据处理模型集合中确定处理上述数据集合中切分后的待处理数据的数据处理模型;数据选取单元,被配置成从上述数据集合中选取预设比例的切分后的待处理数据;数据处理单元,被配置成利用所确定的数据处理模型处理所选取的数据,得到至少一个处理结果。
在一些实施例中,上述装置还包括:拼接关系确定单元,被配置成根据上述待处理数据,确定上述所选取数据的拼接关系;数据拼接单元,被配置成根据上述拼接关系,拼接上述至少一个处理结果,输出拼接后的处理结果。
在一些实施例中,上述装置还包括:结果验证单元,被配置成验证所选取数据的至少两个处理结果是否满足第一预设条件;第一更新单元,被配置成响应于确定上述至少两个处理结果满足第一预设条件,增大上述预设比例的值。
在一些实施例中,上述装置还包括:校正结果接收单元,被配置成接收上述至少一个处理结果的至少一个校正结果;匹配度确定单元,被配置成确定上述至少一个处理结果与上述至少一个校正结果的匹配度;模型训练单元,被配置成响应于上述匹配度小于预设阈值,利用上述至少一个校正结果以及上述至少一个校正结果对应的所选取数据训练所确定的数据处理模型。
在一些实施例中,上述装置还包括:第二更新单元,被配置成响应于上述匹配度大于上述预设阈值,增大上述预设比例的值。
在一些实施例中,上述数据切分单元进一步被配置成:检测上述待处理数据是否满足第二预设条件;响应于确定上述待处理数据满足第二预设条件,对上述待处理数据进行切分。
第三方面,本申请实施例提供了一种设备,包括:一个或多个处理器;存储装置,其上存储有一个或多个程序,当上述一个或多个程序被上述一个或多个处理器执行,使得上述一个或多个处理器实现如第一方面任一实施例所描述的方法。
第四方面,本申请实施例提供了一种计算机可读介质,其上存储有计算机程序,该程序被处理器执行时实现如第一方面任一实施例所描述的方法。
本申请的上述实施例提供的用于处理数据的方法和装置,首先接收待处理数据和对上述待处理数据的处理方式信息,然后对待处理数据进行切分,得到切分后的待处理数据形成的数据集合,然后解析处理方式信息,并根据解析结果从预设的数据处理模型集合中确定处理上述数据集合中数据的数据处理模型,然后从上述数据集合中选取预设比例的切分后的待处理数据,利用确定的数据处理模型处理所选取的数据,得到至少一个处理结果。本实施例的方法和装置,可以快速地对数据进行处理。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本申请的其它特征、目的和优点将会变得更明显:
图1是本申请可以应用于其中的示例性系统架构图;
图2是根据本申请的用于处理数据的方法的一个实施例的流程图;
图3是根据本申请的用于处理数据的方法的一个应用场景的示意图;
图4是根据本申请的用于处理数据的方法的又一个实施例的流程图;
图5是根据本申请的用于处理数据的装置的一个实施例的结构示意图;
图6是适于用来实现本申请实施例的设备的计算机系统的结构示意图。
具体实施方式
下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释相关发明,而非对该发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
图1示出了可以应用本申请的用于处理数据的方法或用于处理数据的装置的实施例的示例性系统架构100。
如图1所示,系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如数据发送应用、网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。
终端设备101、102、103硬件,也可以是软件。当终端设备101、102、103为硬件时,可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、电子书阅读器、MP3播放器(Moving Picture Experts Group Audio Layer III,动态影像专家压缩标准音频层面3)、MP4(Moving Picture Experts Group Audio Layer IV,动态影像专家压缩标准音频层面4)播放器、膝上型便携计算机和台式计算机等等。当终端设备101、102、103为软件时,可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供分布式服务),也可以实现成单个软件或软件模块。在此不做具体限定。
服务器105可以是提供各种服务的服务器,例如对终端设备101、102、103发送的数据进行处理的数据处理服务器。数据处理服务器可以对接收到的待处理数据进行处理,并将处理结果反馈给终端设备。
需要说明的是,本申请实施例所提供的用于处理数据的方法可以由终端设备101、102、103来执行,也可以由服务器105执行。相应地,用于处理数据的装置可以设置于终端设备101、102、103中,也可以设置于服务器105中。
需要说明的是,服务器可以是硬件,也可以是软件。当服务器为硬件时,可以实现成多个服务器组成的分布式服务器集群,也可以实现成单个服务器。当服务器为软件时,可以实现成多个软件或软件模块(例如用来提供分布式服务),也可以实现成单个软件或软件模块。在此不做具体限定。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
继续参考图2,示出了根据本申请的用于处理数据的方法的一个实施例的流程200。本实施例的用于处理数据的方法,包括以下步骤:
步骤201,接收待处理数据以及对待处理数据的处理方式信息。
在本实施例中,用于处理数据的方法的执行主体(例如图1所示的终端设备或服务器)可以接收待处理数据以及对待处理数据的处理方式信息。作为示例,当上述执行主体为终端设备时,可以直接接收用户发送的待处理数据和待处理数据的处理方式信息。当上述执行主体为服务器时,可以通过有线连接方式或者无线连接方式从用户所使用的终端处接收待处理数据和处理方式信息。
上述待处理数据可以为可读取并展现的任意信息,例如图片、音频、文字或视频。例如,待处理数据为多张增值税普通发票图片,或待处理数据为一段文字。处理方式信息用于表示对上述待处理信息的处理方式,其可以包括文字,例如为“文字识别”。执行主体还可以预先设定不同的符号或数字代表不同的处理方式,例如,“1”代表语音合成,“2”代表语义分析。这样,处理方式信息可以包括符号或数字。
需要指出的是,上述无线连接方式可以包括但不限于3G/4G连接、WiFi连接、蓝牙连接、WiMAX连接、Zigbee连接、UWB(ultra wideband)连接以及其他现在已知或将来开发的无线连接方式。
步骤202,对待处理数据进行切分,得到切分后的待处理数据形成的数据集合。
在得到待处理数据后,执行主体可以对待处理数据进行切分。例如,待处理数据为身份证图片时,可以将身份证图片切分成包括文字或数字的多张图片。待处理数据为音频时,可以将音频切分为多个时长较小的音频。可以理解的是,切分后得到的多张图片或多个音频都属于待处理数据的一部分,可以作为待处理子数据。将这些待处理子数据加入数据集合,则数据集合中的每个对象为待处理子数据。
步骤203,解析处理方式信息,根据解析结果从预设的数据处理模型集合中确定处理数据集合中切分后的待处理数据的数据处理模型。
在接收到处理方式信息后,执行主体可以采用各种方式对上述处理方式信息进行解析。例如,采用文本识别方法识别出处理方式信息中包括的文字。可以理解的是,识别出的全部文字或部分文字即为解析结果。上述数据处理模型集合中可以包括多个数据处理模型,例如语音合成模型(如基于基音同步叠加算法得到的模型)、语音识别模型(如基于高斯混合模型和隐马尔可夫模型得到的语音识别模型)等。上述数据处理模型可以为算法构建而成的初始模型,也可以为对初始模型进行训练后得到的模型。例如,上述数据处理模型可以为初始神经网络,也可以为对初始神经网络进行训练后得到的神经网络。
数据处理模型集合中的各数据处理模型可以具有标识信息,上述标识信息可以为数字或文字。执行主体在得到解析结果后,可以从预设的数据处理模型集合中确定处理数据集合中数据的数据处理模型。例如,当解析结果为数字时,执行主体可以选取数据处理模型集合中标识与所解析出的数字相同的数据处理模型,并利用其处理数据集合中的数据。
举例来说,执行主体对处理方式信息解析后得到文字“语音识别”,则执行主体在数据处理模型集合中确定标识中包括“语音识别”的数据处理模型。然后,将所确定的数据处理模型作为待使用的数据处理模型。当数据处理模型集合中存在多个标识中包括“语音识别”的数据处理模型时,可以任取一个作为待使用的数据处理模型。
步骤204,从数据集合中选取预设比例的切分后的待处理数据。
在步骤202中得到数据集合后,执行主体可以选取预设比例的切分后的待处理数据。对于未经训练的初始模型或者训练程度不足的模型,其得到的处理结果的正确率较低,因此可以从数据集合中取部分待处理数据,将所选取的数据作为数据处理模型的待处理对象。上述数据集合中未被选取的部分可以发送给技术人员,进行人工处理。例如,可以选取数据集合中10%的数据作为数据处理模型的待处理对象,其余90%的数据发送给技术人员进行处理。
步骤205,利用所确定的数据处理模型处理所选取的数据,得到至少一个处理结果。
在选取数据后,可以利用所确定的数据处理模型处理上述选取的数据。由于所选取的数据至少包括一个待处理对象,所以会得到至少一个处理结果。
继续参见图3,图3是根据本实施例的用于处理数据的方法的应用场景的一个示意图。在图3的应用场景中,待处理数据为包含文字的图片,处理方式信息为“对图片中的文字进行文本识别”。首先上述图片切分,得到4张图片,切分后的每张图片中都包含文字。然后,解析处理方式信息,得到解析结果“文本识别”。然后从数据处理模型集合中选取名称中包含“文本识别”的“文本识别模型”作为待用的数据处理模型。然后,从切分得到的4张图片中选取包含有“床前明月光”的图片进行识别。利用选取得到的“文本识别模型”识别选取出的图片,得到识别结果为“床前明月光”。
本申请的上述实施例提供的用于处理数据的方法,首先接收待处理数据和对上述待处理数据的处理方式信息,然后对待处理数据进行切分,得到切分后的待处理数据形成的数据集合,然后解析处理方式信息,并根据解析结果从预设的数据处理模型集合中确定处理上述数据集合中数据的数据处理模型,然后从上述数据集合中选取预设比例的切分后的待处理数据,利用确定的数据处理模型处理所选取的数据,得到至少一个处理结果。本实施例的方法和装置,可以快速地对数据进行处理。
在本实施例的一些可选的实现方式中,上述方法还可以包括图2中未示出的以下步骤:首先,根据待处理数据,确定至少一个处理结果对应的所选取数据的拼接关系。然后,根据上述拼接关系,拼接至少一个处理结果,输出拼接后的处理结果。
本实现方式中,在得到所选取数据的处理结果后,可以根据待处理数据,来确定所选取数据的拼接关系。上述拼接关系可以表示切分后的数据在原始的待处理数据中的位置关系。例如,待处理数据为包含有“床前明月光”的图片,对该图片切分后,分别得到包含有“床”、“前”、“明”、“月”和“光”的图片。结合图片“床前明月光”,可以确定切分后的五张图片中,包含有“床”的图片之后需拼接包含有“前”的图片,包含有“前”的图片之后需拼接包含有“明”的图片……。在确定上述拼接关系后,可以将得到的处理结果进行拼接,将拼接后的处理结果输出。
在本实施例的一些可选的实现方式中,上述方法还可以包括图2中未示出的以下步骤:首先,验证所选取数据的至少两个处理结果是否满足第一预设条件。然后,响应于确定上述至少两个处理结果满足第一预设条件,增大预设比例的值。
本实现方式中,可以根据待处理数据预先设定验证条件,以检验处理结果的正确性。例如,当待处理数据为增值税普通发票的图片时,可以计算文本识别模型识别得到的“金额”、“税额”以及“价税合计”字段对应的数字是否满足“金额+税额=价税合计”。如果满足,则认为文本识别模型得到的处理结果的正确率较高,则可以增大预设比例的值,以增大文本识别模型的数据处理量,减少技术人员的工作量。
在本实施例的一些可选的实现方式中,上述步骤202可以进一步包括图2中未示出的以下步骤:首先,检测待处理数据是否满足第二预设条件。然后,响应于确定待处理数据满足第二预设条件,对待处理数据进行切分。
本实现方式中,可以通过预先设置条件以检测待处理数据的有效性。例如,第二预设条件可以包括:图片的分辨率大于A*B(A和B均为常数)、图片的格式为JPEG格式、音频文件的长度小于30分钟、音频文件的大小小于300M等。当确定待处理数据满足上述第二预设条件后,认定待处理数据为有效数据,则继续对待处理数据进行切分。
在本实施例的一些可选的实现方式中,在对待处理数据进行切分前,执行主体还可以对上述待处理数据进行数据脱敏。数据脱敏是指对某些敏感信息通过脱敏规则进行数据的变形,实现敏感隐私数据的可靠保护。在涉及用户安全数据或者一些商业性敏感数据的情况下,在不违反系统规则条件下,对真实数据进行改造并提供测试使用,如身份证号、手机号、卡号等个人信息都可以进行数据脱敏。
继续参见图4,其示出了根据本申请的用于处理数据的方法的另一个实施例的流程400。如图4所示,本实施例的用于处理数据的方法在得到至少一个处理结果后还可以包括以下步骤:
步骤401,接收上述至少一个处理结果的至少一个校正结果。
在得到数据处理模型对所选取的数据的至少一个处理结果后,可以将上述至少一个处理结果输出给技术人员,以供技术人员对处理错误的结果进行校正,得到至少一个校正结果。执行主体可以接收上述至少一个校正结果。例如,图3中所选取的图片的识别结果为“床前明目光”,则对应的校正结果为“床前明月光”。
步骤402,确定上述至少一个处理结果与至少一个校正结果的匹配度。
本实施例中,在接收了上述各校正结果后,可计算各处理结果与各校正结果的匹配度。上述匹配度可以根据校正结果的数量与处理结果的数量确定,也可以由每个校正结果与对应的处理结果的匹配度确定。例如,处理结果“床前明目光”与校正结果“床前明月光”的匹配度可以为4/5。
步骤403,响应于匹配度小于预设阈值,利用上述至少一个校正结果以及上述至少一个校正结果对应的所选取数据训练所确定的数据处理模型。
当计算得到的匹配度小于预设阈值时,说明所确定的数据处理模型的正确率较低,需要进一步通过训练来提高其数据处理的准确率。则利用上述校正结果以及与每个校正结果对应的所选取数据来训练所确定的数据处理模型。例如,图3中所选取图片的识别结果为“床前明目光”,校正后为“床前明月光”,则可以利用“床前明月光”与所选取图片来训练文本识别模型。
步骤404,响应于匹配度大于预设阈值,增大预设比例的值。
当计算得到的匹配度大于预设阈值时,说明所确定的数据处理模型的正确率较高。为了减少技术人员的工作量,可以增大预设比例的值,以使得数据处理模型能够处理更多的数据。同时,为了保证待处理数据整体的正确率,可以使技术人员处理少部分的数据。
本申请的上述实施例提供的用于处理数据的方法,可以根据处理结果与校正结果的匹配度来调整预设比例的值,从而可以更好的调整数据处理模型的正确率,减少了人工智能模型的测试时间。
进一步参考图5,作为对上述各图所示方法的实现,本申请提供了一种用于处理数据的装置的一个实施例,该装置实施例与图2所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图5所示,本实施例的用于处理数据的装置500包括数据接收单元501、数据切分单元502、模型确定单元503、数据选取单元504以及数据处理单元505。
其中,数据接收单元501,被配置成接收待处理数据以及对待处理数据的处理方式信息。上述待处理数据包括图片、音频、文字、视频中的一种。
数据切分单元502,被配置成对待处理数据进行切分,得到切分后的待处理数据形成的数据集合。
模型确定单元503,被配置成解析处理方式信息,根据解析结果从预设的数据处理模型集合中确定处理数据集合中切分后的待处理数据的数据处理模型。
数据选取单元504,被配置成从数据集合中选取预设比例的切分后的待处理数据。
数据处理单元505,被配置成利用所确定的数据处理模型处理所选取的数据,得到至少一个处理结果。
在本实施例的一些可选的实现方式中,上述装置500还可以进一步包括图5中未示出的拼接关系确定单元和数据拼接单元。
拼接关系确定单元,被配置成根据待处理数据,确定所选取数据的拼接关系。
数据拼接单元,被配置成根据拼接关系,拼接至少一个处理结果,输出拼接后的处理结果。
在本实施例的一些可选的实现方式中,上述装置500还可以进一步包括图5中未示出的结果验证单元和第一更新单元。
结果验证单元,被配置成验证所选取数据的至少两个处理结果是否满足第一预设条件。
第一更新单元,被配置成响应于确定至少两个处理结果满足第一预设条件,增大预设比例的值。
在本实施例的一些可选的实现方式中,上述装置500还可以进一步包括图5中未示出的校正结果接收单元、匹配度确定单元以及模型训练单元。
校正结果接收单元,被配置成接收上述至少一个处理结果的至少一个校正结果。
匹配度确定单元,被配置成确定上述至少一个处理结果与上述至少一个校正结果的匹配度。
模型训练单元,被配置成响应于匹配度小于预设阈值,利用上述至少一个校正结果以及上述至少一个校正结果对应的所选取数据训练所确定的数据处理模型。
在本实施例的一些可选的实现方式中,上述装置500还可以进一步包括图5中未示出的第二更新单元,被配置成响应于匹配度大于预设阈值,增大预设比例的值。
在本实施例的一些可选的实现方式中,上述数据切分单元502还可以进一步被配置成:检测待处理数据是否满足第二预设条件。然后,响应于确定待处理数据满足第二预设条件,对待处理数据进行切分。
本申请的上述实施例提供的用于处理数据的装置,首先接收待处理数据和对上述待处理数据的处理方式信息,然后对待处理数据进行切分,得到切分后的待处理数据形成的数据集合,然后解析处理方式信息,并根据解析结果从预设的数据处理模型集合中确定处理上述数据集合中数据的数据处理模型,然后从上述数据集合中选取预设比例的切分后的待处理数据,利用确定的数据处理模型处理所选取的数据,得到至少一个处理结果。本实施例的装置,可以快速地对数据进行处理。
应当理解,用于处理数据的装置500中记载的单元501至单元505分别与参考图2中描述的方法中的各个步骤相对应。由此,上文针对用于处理数据的方法描述的操作和特征同样适用于装置500及其中包含的单元,在此不再赘述。
下面参考图6,其示出了适于用来实现本申请实施例的终端设备或服务器的计算机系统600的结构示意图。图6示出的终端设备/服务器仅仅是一个示例,不应对本申请实施例的功能和使用范围带来任何限制。
如图6所示,计算机系统600包括中央处理单元(CPU)601,其可以根据存储在只读存储器(ROM)602中的程序或者从存储部分608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中,还存储有系统600操作所需的各种程序和数据。CPU 601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
以下部件连接至I/O接口605:包括键盘、鼠标等的输入部分606;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分607;包括硬盘等的存储部分608;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至I/O接口605。可拆卸介质611,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器610上,以便于从其上读出的计算机程序根据需要被安装入存储部分608。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在机器可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分609从网络上被下载和安装,和/或从可拆卸介质611被安装。在该计算机程序被中央处理单元(CPU)601执行时,执行本申请的方法中限定的上述功能。
需要说明的是,本申请所描述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
在本申请中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本申请的操作的计算机程序代码,上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本申请实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中,例如,可以描述为:一种处理器包括数据接收单元、数据切分单元、模型确定单元、数据选取单元和数据处理单元。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定,例如,数据接收单元还可以被描述为“接收待处理数据以及对待处理数据的处理方式信息的单元”。
作为另一方面,本申请还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的装置中所包含的;也可以是单独存在,而未装配入该装置中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该装置执行时,使得该装置:接收待处理数据以及对待处理数据的处理方式信息,待处理数据包括图片、音频、文字、视频中的一种;对待处理数据进行切分,得到切分后的待处理数据形成的数据集合;解析处理方式信息,根据解析结果从预设的数据处理模型集合中确定处理数据集合中切分后的待处理数据的数据处理模型;从数据集合中选取预设比例的切分后的待处理数据;利用所确定的数据处理模型处理所选取的数据,得到至少一个处理结果。
以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本申请中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (12)

1.一种用于处理数据的方法,包括:
接收待处理数据以及对所述待处理数据的处理方式信息,所述待处理数据包括图片、音频、文字、视频中的一种;
对所述待处理数据进行切分,得到切分后的待处理数据形成的数据集合;
解析所述处理方式信息,根据解析结果从预设的数据处理模型集合中确定处理所述数据集合中切分后的待处理数据的数据处理模型;
从所述数据集合中选取预设比例的切分后的待处理数据,将所述数据集合中未被选取的部分进行人工处理;
利用所确定的数据处理模型处理所选取的数据,得到至少一个处理结果;
所述方法还包括:
验证所选取数据的至少两个处理结果是否满足第一预设条件,所述第一预设条件包括检验处理结果正确性的验证条件;
响应于确定所述至少两个处理结果满足第一预设条件,增大所述预设比例的值;
所述方法还包括:
对所述待处理数据进行数据脱敏。
2.根据权利要求1所述的方法,其中,所述方法还包括:
根据所述待处理数据,确定所述所选取数据的拼接关系;
根据所述拼接关系,拼接所述至少一个处理结果,输出拼接后的处理结果。
3.根据权利要求1所述的方法,其中,所述方法还包括:
接收所述至少一个处理结果的至少一个校正结果;
确定所述至少一个处理结果与所述至少一个校正结果的匹配度;
响应于所述匹配度小于预设阈值,利用所述至少一个校正结果以及所述至少一个校正结果对应的所选取数据训练所确定的数据处理模型。
4.根据权利要求3所述的方法,其中,所述方法还包括:
响应于所述匹配度大于所述预设阈值,增大所述预设比例的值。
5.根据权利要求1-4任一项所述的方法,其中,所述对所述待处理数据进行切分,包括:
检测所述待处理数据是否满足第二预设条件;
响应于确定所述待处理数据满足第二预设条件,对所述待处理数据进行切分。
6.一种用于处理数据的装置,包括:
数据接收单元,被配置成接收待处理数据以及对所述待处理数据的处理方式信息,所述待处理数据包括图片、音频、文字、视频中的一种;
数据切分单元,被配置成对所述待处理数据进行切分,得到切分后的待处理数据形成的数据集合;
模型确定单元,被配置成解析所述处理方式信息,根据解析结果从预设的数据处理模型集合中确定处理所述数据集合中切分后的待处理数据的数据处理模型;
数据选取单元,被配置成从所述数据集合中选取预设比例的切分后的待处理数据,将所述数据集合中未被选取的部分进行人工处理;
数据处理单元,被配置成利用所确定的数据处理模型处理所选取的数据,得到至少一个处理结果;
所述装置还包括:
结果验证单元,被配置成验证所选取数据的至少两个处理结果是否满足第一预设条件,所述第一预设条件包括检验处理结果正确性的验证条件;
第一更新单元,被配置成响应于确定所述至少两个处理结果满足第一预设条件,增大所述预设比例的值;
所述装置还包括:
对所述待处理数据进行数据脱敏的单元。
7.根据权利要求6所述的装置,其中,所述装置还包括:
拼接关系确定单元,被配置成根据所述待处理数据,确定所述所选取数据的拼接关系;
数据拼接单元,被配置成根据所述拼接关系,拼接所述至少一个处理结果,输出拼接后的处理结果。
8.根据权利要求6所述的装置,其中,所述装置还包括:
校正结果接收单元,被配置成接收所述至少一个处理结果的至少一个校正结果;
匹配度确定单元,被配置成确定所述至少一个处理结果与所述至少一个校正结果的匹配度;
模型训练单元,被配置成响应于所述匹配度小于预设阈值,利用所述至少一个校正结果以及所述至少一个校正结果对应的所选取数据训练所确定的数据处理模型。
9.根据权利要求8所述的装置,其中,所述装置还包括:
第二更新单元,被配置成响应于所述匹配度大于所述预设阈值,增大所述预设比例的值。
10.根据权利要求6-9任一项所述的装置,其中,所述数据切分单元进一步被配置成:
检测所述待处理数据是否满足第二预设条件;
响应于确定所述待处理数据满足第二预设条件,对所述待处理数据进行切分。
11.一种用于处理数据的设备,包括:
一个或多个处理器;
存储装置,其上存储有一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-5中任一所述的方法。
12.一种计算机可读介质,其上存储有计算机程序,其中,该程序被处理器执行时实现如权利要求1-5中任一所述的方法。
CN201810449453.0A 2018-05-11 2018-05-11 用于处理数据的方法和装置 Active CN108664610B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810449453.0A CN108664610B (zh) 2018-05-11 2018-05-11 用于处理数据的方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810449453.0A CN108664610B (zh) 2018-05-11 2018-05-11 用于处理数据的方法和装置

Publications (2)

Publication Number Publication Date
CN108664610A CN108664610A (zh) 2018-10-16
CN108664610B true CN108664610B (zh) 2020-11-03

Family

ID=63779274

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810449453.0A Active CN108664610B (zh) 2018-05-11 2018-05-11 用于处理数据的方法和装置

Country Status (1)

Country Link
CN (1) CN108664610B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109711194B (zh) * 2018-12-25 2020-12-11 北京天融信网络安全技术有限公司 一种数据处理方法及数据处理装置
CN113592059A (zh) * 2020-04-30 2021-11-02 伊姆西Ip控股有限责任公司 用于处理数据的方法、设备和计算机程序产品

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8194933B2 (en) * 2007-12-12 2012-06-05 3M Innovative Properties Company Identification and verification of an unknown document according to an eigen image process
US9576195B2 (en) * 2010-08-09 2017-02-21 Sk Planet Co., Ltd. Integrated image searching system and service method thereof
CN107492135A (zh) * 2017-08-21 2017-12-19 维沃移动通信有限公司 一种图像分割标注方法、装置及计算机可读存储介质
CN107766940B (zh) * 2017-11-20 2021-07-23 北京百度网讯科技有限公司 用于生成模型的方法和装置

Also Published As

Publication number Publication date
CN108664610A (zh) 2018-10-16

Similar Documents

Publication Publication Date Title
CN108989882B (zh) 用于输出视频中的音乐片段的方法和装置
US11758088B2 (en) Method and apparatus for aligning paragraph and video
CN107943877B (zh) 待播放多媒体内容的生成方法和装置
CN111104482A (zh) 数据处理方法和装置
CN110213614B (zh) 从视频文件中提取关键帧的方法和装置
CN109359194B (zh) 用于预测信息类别的方法和装置
CN111382228B (zh) 用于输出信息的方法和装置
CN109981787B (zh) 用于展示信息的方法和装置
CN106919711B (zh) 基于人工智能的标注信息的方法和装置
CN112509562B (zh) 用于文本后处理的方法、装置、电子设备和介质
US11750898B2 (en) Method for generating target video, apparatus, server, and medium
CN109815448B (zh) 幻灯片生成方法及装置
CN109190123B (zh) 用于输出信息的方法和装置
WO2024099171A1 (zh) 视频生成方法和装置
CN111897950A (zh) 用于生成信息的方法和装置
CN108664610B (zh) 用于处理数据的方法和装置
CN109816023B (zh) 用于生成图片标签模型的方法和装置
CN110675865B (zh) 用于训练混合语言识别模型的方法和装置
CN113011169A (zh) 一种会议纪要的处理方法、装置、设备及介质
CN109816670B (zh) 用于生成图像分割模型的方法和装置
CN112348615A (zh) 用于审核信息的方法和装置
CN109857838B (zh) 用于生成信息的方法和装置
CN111767290B (zh) 用于更新用户画像的方法和装置
CN113255819A (zh) 用于识别信息的方法和装置
CN113221554A (zh) 文本处理方法、装置、电子设备和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
CB02 Change of applicant information
CB02 Change of applicant information

Address after: Room 221, 2nd floor, Block C, 18 Kechuang 11th Street, Daxing Economic and Technological Development Zone, Beijing, 100176

Applicant after: JINGDONG DIGITAL TECHNOLOGY HOLDINGS Co.,Ltd.

Address before: Room 221, 2nd floor, Block C, 18 Kechuang 11th Street, Daxing Economic and Technological Development Zone, Beijing, 100176

Applicant before: BEIJING JINGDONG FINANCIAL TECHNOLOGY HOLDING Co.,Ltd.

GR01 Patent grant
GR01 Patent grant
CP01 Change in the name or title of a patent holder
CP01 Change in the name or title of a patent holder

Address after: Room 221, 2nd floor, Block C, 18 Kechuang 11th Street, Daxing Economic and Technological Development Zone, Beijing, 100176

Patentee after: Jingdong Technology Holding Co.,Ltd.

Address before: Room 221, 2nd floor, Block C, 18 Kechuang 11th Street, Daxing Economic and Technological Development Zone, Beijing, 100176

Patentee before: Jingdong Digital Technology Holding Co.,Ltd.

Address after: Room 221, 2nd floor, Block C, 18 Kechuang 11th Street, Daxing Economic and Technological Development Zone, Beijing, 100176

Patentee after: Jingdong Digital Technology Holding Co.,Ltd.

Address before: Room 221, 2nd floor, Block C, 18 Kechuang 11th Street, Daxing Economic and Technological Development Zone, Beijing, 100176

Patentee before: JINGDONG DIGITAL TECHNOLOGY HOLDINGS Co.,Ltd.