CN115600155B - 一种数据处理方法、装置及设备 - Google Patents
一种数据处理方法、装置及设备 Download PDFInfo
- Publication number
- CN115600155B CN115600155B CN202211399727.2A CN202211399727A CN115600155B CN 115600155 B CN115600155 B CN 115600155B CN 202211399727 A CN202211399727 A CN 202211399727A CN 115600155 B CN115600155 B CN 115600155B
- Authority
- CN
- China
- Prior art keywords
- data
- sequence
- information
- target
- marking
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/28—Databases characterised by their database models, e.g. relational or object models
- G06F16/284—Relational databases
- G06F16/285—Clustering or classification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/906—Clustering; Classification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q20/00—Payment architectures, schemes or protocols
- G06Q20/38—Payment protocols; Details thereof
- G06Q20/40—Authorisation, e.g. identification of payer or payee, verification of customer or shop credentials; Review and approval of payers, e.g. check credit lines or negative lists
- G06Q20/401—Transaction verification
- G06Q20/4016—Transaction verification involving fraud or risk level assessment in transaction processing
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Business, Economics & Management (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Accounting & Taxation (AREA)
- Computer Security & Cryptography (AREA)
- Finance (AREA)
- Strategic Management (AREA)
- General Business, Economics & Management (AREA)
- Document Processing Apparatus (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本说明书实施例公开了一种数据处理方法、装置及设备,该方法包括:获取目标用户执行目标业务时产生的目标数据,目标数据中包括结构化数据和/或非结构化数据,非结构化数据中包括文本数据、图像数据和时序数据中的一种或多种;将目标数据转换为标记序列,并根据目标数据中包含的数据内容和标记序列的对应关系,为标记序列中的每个标记信息设置相应的位置,根据目标数据中包含的数据类型的不同,为标记序列设置相应的数据分块信息;将标记序列、设置的相应位置和设置的相应数据分块信息输入到预设的编码模型中,得到标记序列中的每个标记信息对应的编码信息;基于标记序列中的每个标记信息对应的编码信息进行相应的业务处理。
Description
技术领域
本文件涉及计算机技术领域,尤其涉及一种数据处理方法、装置及设备。
背景技术
在对用户的非法金融活动进行解限或其他风险识别领域中,需要对用户是否存在风险进行识别,通常是将用户的交易或身份等信息清洗成velocity特征进行模型训练,得到相应的模型,然后,可以通过该模型判断是否进行解限或进行识别等,但是,除了上述数据的特征外,用户还有很多其他的特征,例如,操作行为时序特征、提供的图像类的凭证、以及文本信息等,而这些特征也是进行上述风险识别的重要信息,可以提高通过模型进行风险识别的准确率,然而,如何将上述信息和基础的velocity特征进行融合进而对模型训练,从而提高风险识别的准确率成为需要解决的重要问题。为此,需要提供一种融合了结构化数据和非结构化数据的多模态风险信息统一建模框架,进而可以很好的解决上述问题,以提高识别风险的准确率和覆盖率。
发明内容
本说明书实施例的目的是提供一种融合了结构化数据和非结构化数据的多模态风险信息统一建模框架,进而可以很好的解决上述问题,以提高识别风险的准确率和覆盖率。
为了实现上述技术方案,本说明书实施例是这样实现的:
本说明书实施例提供的一种数据处理方法,所述方法包括:获取目标用户执行目标业务时产生的目标数据,所述目标数据中包括结构化数据和/或非结构化数据,所述非结构化数据中包括文本数据、图像数据和时序数据中的一种或多种。将所述目标数据转换为标记序列,并根据所述目标数据中包含的数据内容和所述标记序列的对应关系,为所述标记序列中的每个标记信息设置相应的位置,根据所述目标数据中包含的数据类型的不同,为所述标记序列设置相应的数据分块信息。将所述标记序列、所述标记序列中的每个标记信息设置的相应位置和所述标记序列设置的相应数据分块信息输入到预设的编码模型中,得到所述标记序列中的每个标记信息对应的编码信息。基于所述标记序列中的每个标记信息对应的编码信息进行相应的业务处理。
本说明书实施例提供的一种数据处理装置,所述装置包括:数据获取模块,获取目标用户执行目标业务时产生的目标数据,所述目标数据中包括结构化数据和/或非结构化数据,所述非结构化数据中包括文本数据、图像数据和时序数据中的一种或多种。转换模块,将所述目标数据转换为标记序列,并根据所述目标数据中包含的数据内容和所述标记序列的对应关系,为所述标记序列中的每个标记信息设置相应的位置,根据所述目标数据中包含的数据类型的不同,为所述标记序列设置相应的数据分块信息。编码模块,将所述标记序列、所述标记序列中的每个标记信息设置的相应位置和所述标记序列设置的相应数据分块信息输入到预设的编码模型中,得到所述标记序列中的每个标记信息对应的编码信息。业务处理模块,基于所述标记序列中的每个标记信息对应的编码信息进行相应的业务处理。
本说明书实施例提供的一种数据处理设备,所述数据处理设备包括:处理器;以及被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器:获取目标用户执行目标业务时产生的目标数据,所述目标数据中包括结构化数据和/或非结构化数据,所述非结构化数据中包括文本数据、图像数据和时序数据中的一种或多种。将所述目标数据转换为标记序列,并根据所述目标数据中包含的数据内容和所述标记序列的对应关系,为所述标记序列中的每个标记信息设置相应的位置,根据所述目标数据中包含的数据类型的不同,为所述标记序列设置相应的数据分块信息。将所述标记序列、所述标记序列中的每个标记信息设置的相应位置和所述标记序列设置的相应数据分块信息输入到预设的编码模型中,得到所述标记序列中的每个标记信息对应的编码信息。基于所述标记序列中的每个标记信息对应的编码信息进行相应的业务处理。
本说明书实施例还提供了一种存储介质,所述存储介质用于存储计算机可执行指令,所述可执行指令在被处理器执行时实现以下流程:获取目标用户执行目标业务时产生的目标数据,所述目标数据中包括结构化数据和/或非结构化数据,所述非结构化数据中包括文本数据、图像数据和时序数据中的一种或多种。将所述目标数据转换为标记序列,并根据所述目标数据中包含的数据内容和所述标记序列的对应关系,为所述标记序列中的每个标记信息设置相应的位置,根据所述目标数据中包含的数据类型的不同,为所述标记序列设置相应的数据分块信息。将所述标记序列、所述标记序列中的每个标记信息设置的相应位置和所述标记序列设置的相应数据分块信息输入到预设的编码模型中,得到所述标记序列中的每个标记信息对应的编码信息。基于所述标记序列中的每个标记信息对应的编码信息进行相应的业务处理。
附图说明
为了更清楚地说明本说明书实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本说明书中记载的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图;
图1为本说明书一种数据处理方法实施例;
图2为本说明书一种数据转换的示意图;
图3为本说明书另一种数据处理方法实施例;
图4为本说明书一种数据处理过程的示意图;
图5为本说明书又一种数据处理方法实施例;
图6为本说明书又一种数据处理方法实施例;
图7为本说明书又一种数据处理方法实施例;
图8为本说明书又一种数据处理方法实施例;
图9为本说明书又一种数据处理方法实施例;
图10为本说明书一种数据处理装置实施例;
图11为本说明书一种数据处理设备实施例。
具体实施方式
本说明书实施例提供一种数据处理方法、装置及设备。
为了使本技术领域的人员更好地理解本说明书中的技术方案,下面将结合本说明书实施例中的附图,对本说明书实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本说明书一部分实施例,而不是全部的实施例。基于本说明书中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都应当属于本说明书保护的范围。
如图1所示,本说明书实施例提供一种数据处理方法,该方法的执行主体可以为终端设备或服务器,其中,该终端设备可以如手机、平板电脑等一定终端设备,还可以如笔记本电脑或台式电脑等计算机设备,或者,也可以为IoT设备(具体如智能手表、车载设备等)等。该服务器可以是独立的一个服务器,还可以是由多个服务器构成的服务器集群等,该服务器可以是如金融业务或网络购物业务等的后台服务器,也可以是某应用程序的后台服务器等。本实施例中以服务器为例进行详细说明,对于终端设备的执行过程可以参见下述相关内容,在此不再赘述。该方法具体可以包括以下步骤:
在步骤S102中,获取目标用户执行目标业务时产生的目标数据,目标数据中包括结构化数据和/或非结构化数据,该非结构化数据中包括文本数据、图像数据和时序数据中的一种或多种。
其中,目标用户可以是任意用户,在本实施例中,目标用户可以是执行目标业务的用户。目标业务可以包括多种,例如,交易业务、面部识别业务等,交易业务可以是任意用于进行交易的业务,例如,交易业务可以为在线购物、实物交易、营销事件、转账业务、支付业务等,具体可以根据实际情况设定,本说明书实施例对此不做限定。结构化数据也可以称为行数据,是由二维表结构来逻辑表达和实现的数据,包含属性和元组,例如,成绩单为属性,90分为其对应的元组,结构化数据严格地遵循数据格式与长度规范,主要通过关系型数据库进行存储和管理,对于结构化数据,数据以行为单位,一行数据表示一个实体的信息,每一行数据的属性是相同的,存储在数据库中,能够用数据或统一的结构加以表示,如数字或符号等,结构化的数据的存储和排列是很有规律的,这对查询和修改等操作很有帮助。非结构化数据可以是不适于由数据库二维表来表现的数据,即没有固定结构的数据,包括所有格式的办公文档、XML、HTML、各类报表、图片、音频和视频信息等,支持非结构化数据的数据库采用多值字段、了字段和变长字段机制进行数据项的创建和管理,广泛应用于全文检索和各种多媒体信息处理领域。本实施例中的非结构化数据中可以包括文本数据、图像数据和时序数据中的一种或多种,此外,还可以包括如XML、HTML、各类报表、来自社交媒体的数据、来自即时通讯应用的数据、传感器数据中的一种或多种等。
在实施中,在对用户的非法金融活动进行解限或其他风险识别领域中,需要对用户是否存在风险进行识别,通常是将用户的交易或身份等信息清洗成velocity特征进行模型训练,得到相应的模型,然后,可以通过该模型判断是否进行解限或进行识别等,但是,除了上述数据的特征外,用户还有很多其他的特征,例如,操作行为时序特征、提供的图像类的凭证、以及文本信息等,而这些特征也是进行上述风险识别的重要信息,可以提高通过模型进行风险识别的准确率,然而,如何将上述信息和基础的velocity特征进行融合进而对模型训练,从而提高风险识别的准确率成为需要解决的重要问题。通常,可以将结构化数据、非结构化数据分别使用不同的编码器编码后,再将各自的向量进行追加或者点乘输入到模型中进行模型训练。但是,不同的数据需要不同的编码器,例如,用于对结构化数据进行处理的编码器、用于对时序数据进行处理的编码器、用于对文本数据进行处理的编码器、用于对结构化数据进行处理的编码器等,而不同的编码器需要不同的算法设计和模型训练,五发通过统一的框架来进行编码处理,为此,需要提供一种融合了结构化数据和非结构化数据的多模态风险信息统一建模框架,进而可以很好的解决上述问题,以提高识别风险的准确率和覆盖率。本说明书实施例提供一种可以实现的技术方案,具体可以包括以下内容:
针对目标业务,目标用户每次执行目标业务时,服务器可以记录目标用户执行目标业务的相关信息,记录的信息可以包括目标业务相关的信息(如交易类的信息)、身份类信息、等级类信息、执行目标业务的时间、执行目标业务过程中目标用户每次的操作所产生的信息、位置信息等,如目标用户第一次执行目标业务时,可以记录为x1,x1的属性信息可以包括目标业务相关的信息(如交易类的信息)、身份类信息、等级类信息、执行目标业务的时间、执行目标业务过程中目标用户每次的操作所产生的信息、位置信息等,目标用户第二执行目标业务时,可以记录为x2,x2的属性信息可以包括目标业务相关的信息(如交易类的信息)、身份类信息、等级类信息、执行目标业务的时间、执行目标业务过程中目标用户每次的操作所产生的信息、位置信息等,目标用户第三次执行目标业务时,可以记录为x3,x3的属性信息可以包括目标业务相关的信息(如交易类的信息)、身份类信息、等级类信息、执行目标业务的时间、执行目标业务过程中目标用户每次的操作所产生的信息、位置信息等,……目标用户第N次执行目标业务时,可以记录为xN,xN的属性信息可以包括目标业务相关的信息(如交易类的信息)、身份类信息、等级类信息、执行目标业务的时间、执行目标业务过程中目标用户每次的操作所产生的信息、位置信息等。基于上述内容,可以按照目标用户执行目标业务的时间顺序依次排列相应的数据,得到时序数据,即X=[x1,2,…,N],其中,按照时间顺序依次排列的数据x1,2,…,N的属性信息分别包括目标用户执行目标业务所产生的用户行为数据、目标业务相关的信息(如交易类的信息)、身份类信息、等级类信息、执行目标业务的时间、位置信息等,具体可以根据实际情况设定,本说明书实施例对此不做限定。
通过上述方式可以得到目标用户执行目标业务所产生的目标用户执行目标业务所产生的用户行为数据、目标业务相关的信息(如交易类的信息)、身份类信息、等级类信息、执行目标业务的时间、位置信息等构建的目标数据,当需要确定目标用户执行目标业务的目标数据时,可以从上述存储的数据中获取目标用户执行目标业务过程中的目标数据,其中的目标数可以包括目标用户执行目标业务所产生的用户行为数据、目标业务相关的信息(如交易类的信息)、身份类信息、等级类信息、执行目标业务的时间、位置信息等中的一项或多项,即目标数据可以包括结构化数据和/或非结构化数据,该非结构化数据中包括文本数据、图像数据和时序数据中的一种或多种,时序数据可以如按照时间顺序依次排列的、目标用户执行目标业务所产生的用户行为数据等,具体可以根据实际情况设定,本说明书实施例对此不做限定。
需要说明的是,目标数据中可以包括多种数据,例如,可以包括交易类、身份类、等级类等结构化数据,上述结构化数据的获取相对容易,上述结构化数据的特征构成了其中的基础特征,可以从上述结构化数据提取出多维特征,具体如可以提取出636维特征或可以提取出728维特征等,具体可以根据实际情况设定,此外,还可以包括时序数据,对于时序数据,可以获取目标用户最近一定数量的数据,然后,可以从中提取出一定维度的特征,具体如,可以获取目标用户最近10笔交易的数据,可以从每一笔交易的数据中提取出18维(或20维或24维等)的特征,具体可以根据实际情况设定。
在步骤S104中,将目标数据转换为标记序列,并根据目标数据中包含的数据内容和标记序列的对应关系,为标记序列中的每个标记信息设置相应的位置,根据目标数据中包含的数据类型的不同,为标记序列设置相应的数据分块信息。
在实施中,为了使得不同类型的数据可以使用相同的编码方式进行处理,本实施例提供一种可选的编码方式,具体地,可以基于目标数据的内容和相关信息,将目标数据转换为相应的标记信息、位置和数据分块信息三个部分的数据,其中的标记信息可以为token的信息,位置可以为position,表示标记信息的位置,也可以称为标记位置,数据分块信息可以为segment,具体可以基于数据类型等确定,例如,结构化数据对应的数据分块信息可以0,时序数据对应的数据分块信息可以1等,具体可以根据实际情况设定,本说明书实施例对此不做限定。
例如,以目标数据中包括文本数据为例,可以将文本数据中的字符序列转换为标记序列,例如,文本数据的内容为“我给我朋友还钱”,相应的字符序列为“我给我朋友还钱”,则将上述字符序列转换为标记序列,即为:[CLS]我给我朋友还钱,其中,[CLS]、我、给、我、朋、友、还、钱等8个字符分别为一个token,总计8个token,对于位置position,可以根据目标数据中包含的数据内容(即“我给我朋友还钱”)和标记序列([CLS]我给我朋友还钱中的8个token的信息构成的标记序列)的对应关系,确定标记序列中的每个标记信息的位置,即信息内容为“[CLS]”的token对应的位置为0,信息内容为“我”的token对应的位置为1,信息内容为“给”的token对应的位置为2,信息内容为“我”的token对应的位置为3,信息内容为“朋”的token对应的位置为4,信息内容为“友”的token对应的位置为5,信息内容为“还”的token对应的位置为6,信息内容为“钱”的token对应的位置为7。
对于存在多个不同文本数据的情况,可以将不同的文本数据进行拼接,例如,共有2个不同文本数据,分别为“我给我朋友还钱”、“朋友有点事需要用钱”等,则可以对“我给我朋友还钱”、“朋友有点事需要用钱”进行拼接,得到的字符序列可以为“我给我朋友还钱。朋友有点事需要用钱。”,可以将上述字符序列转换为标记序列,即为:[CLS]我给我朋友还钱[SEP]朋友有点事需要用钱,其中,前8个字符分别设置一个token,“[SEP]朋友有点事需要用钱”中的每个字符分别设置一个token,上述标记序列总计18个token,基于上述内容,信息内容为“[SEP]”的token对应的位置为8,信息内容为“[朋]”的token对应的位置为9,信息内容为“[友]”的token对应的位置为10,信息内容为“[有]”的token对应的位置为11,…,信息内容为“[钱]”的token对应的位置为17。
可以根据文本数据的数据类型,为标记序列设置相应的数据分块信息,例如,文本数据对应的数据分块信息为1,则上述得到的标记序列中的每个标记信息对应的数据分块信息为1,具体如图2所示。
上述仅是以文本数据为例进行说明,在实际应用中,目标数据中还可以包括时序数据、图像数据和结构化数据中的一种或多种,对于时序数据,其数据内容可以根据文本数据转换为标记序列的方式执行,对于标记位置,可以根据时序数据的时间顺序,并以上述方式进行设置,此外,还可以根据时序数据的数据类型为其设置相应的数据分块信息;对于图像数据,可以将图像数据转换为字符形式,例如,转换为二进制形式,或者,可以通过傅里叶变换进行转换等,具体可以根据实际情况设定,本说明书实施例对此不做限定,然后,可以将转换后的数据,通过执行如文本数据的转换方式进行转换,得到相应的标记序列、标记序列中的每个标记信息设置的相应位置和数据分块信息;对于结构化数据,可以对结构化数据中的数值转换为标记序列,并可以根据如文本数据的设置方式为结构化数据设置相应的位置和数据分块信息,具体可以参见上述相关内容,在此不再赘述。
在步骤S106中,将上述标记序列、该标记序列中的每个标记信息设置的相应位置和该标记序列设置的相应数据分块信息输入到预设的编码模型中,得到该标记序列中的每个标记信息对应的编码信息。
其中,编码模型可以通过多种不同的算法构建,例如,可以通过指定的神经网络模型构建,该神经网络模型可以包括多种,如卷积神经网络模型等,还可以通过transformer模型构建等,具体可以根据实际情况设定,本说明书实施例对此不做限定。编码模型可以用于将转换后得到的标记序列、该标记序列中的每个标记信息设置的相应位置和该标记序列设置的相应数据分块信息进行编码处理,得到每个标记信息的向量表征作为编码信息。
在实施中,可以获取相应的算法,并可以基于该算法构建编码模型,该编码模型的输入数据可以为对目标数据进行转换后得到的标记序列、该标记序列中的每个标记信息设置的相应位置和该标记序列设置的相应数据分块信息,输出数据可以为该标记序列中的每个标记信息对应的向量表征,然后,可以获取用于训练编码模型的训练样本(即用户执行某业务所产生的历史数据,该历史数据包括结构化数据和/或非结构化数据等,具体如目标用户执行目标业务所产生的用户行为数据、目标业务相关的信息(如交易类的信息)、身份类信息、等级类信息、执行目标业务的时间、位置信息等),可以使用该训练样本对编码模型进行模型训练,在进行模型训练的过程中,考虑到在实际业务场景下,简单的对训练样本进行编码处理,得到相应的向量特征,可以预先设定目标函数,可以基于该目标函数对编码模型中的模型参数进行优化处理,其中,针对目标函数,可以对上述编码模型进行调整。之后,可以使用训练样本对编码模型进行模型训练,同时通过上述目标函数对模型参数进行优化处理,最终得到训练后的编码模型。
通过上述方式将目标数据转换为标记序列,并根据目标数据中包含的数据内容和标记序列的对应关系,为标记序列中的每个标记信息设置相应的位置,根据目标数据中包含的数据类型的不同,为标记序列设置相应的数据分块信息后,可以将上述标记序列、该标记序列中的每个标记信息设置的相应位置和该标记序列设置的相应数据分块信息输入到上述预先训练的编码模型中,通过编码模型的处理,可以得到该标记序列中的每个标记信息对应的向量表征,即该标记序列中的每个标记信息对应的编码信息。
需要说明的是,上述是通过编码模型,将上述标记序列、该标记序列中的每个标记信息设置的相应位置和该标记序列设置的相应数据分块信息编码为向量表征作为编码信息进行说明的,在实际应用,得到的编码信息还可以不是以向量的形式呈现,还可以通过其它方式呈现,例如,可以以一个或多个数值来呈现,或者,还可以通过矩阵的形式呈现等,具体可以根据实际情况设定,本说明书实施例对此不做限定。
在步骤S108中,基于上述标记序列中的每个标记信息对应的编码信息进行相应的业务处理。
在实施中,通过上述方式得到上述标记序列中的每个标记信息对应的编码信息后,可以基于上述标记序列中的每个标记信息对应的编码信息继续执行相应的业务,例如,可以基于上述标记序列中的每个标记信息对应的编码信息对目标用户执行目标业务进行风险检测,得到相应的风险检测结果,具体如,可以将上述标记序列中的每个标记信息对应的编码信息输入到预先训练的风险检测模型中,得到相应的风险检测结果等,或者,可以将上述标记序列中的每个标记信息对应的编码信息作为基础数据,可以基于该基础数据确定或生成其它数据,例如,可以基于该基础数据生成某文本数据,或者,可以基于该基础数据生成相应的指令数据,以便后续执行该指令数据等,具体可以根据实际情况设定,本说明书实施例对此不做限定。
本说明书实施例提供一种数据处理方法,通过获取目标用户执行目标业务时产生的目标数据,目标数据中包括结构化数据和/或非结构化数据,非结构化数据中包括文本数据、图像数据和时序数据中的一种或多种,然后,可以将目标数据转换为标记序列,并根据目标数据中包含的数据内容和标记序列的对应关系,为标记序列中的每个标记信息设置相应的位置,根据目标数据中包含的数据类型的不同,为标记序列设置相应的数据分块信息,将标记序列、设置的相应位置和设置的相应数据分块信息输入到预设的编码模型中,得到标记序列中的每个标记信息对应的编码信息,最终,可以基于标记序列中的每个标记信息对应的编码信息进行相应的业务处理,这样,通过上述方式提供了一种对不同类型数据(比如结构化数据、非结构化数据(包括图像数据、文本数据、时序数据等))使用统一的编码框架,即都可以通过标记信息token和标记序列,以及加上position和segment分别标识token的位置和数据类型的设计形式进行统一编码处理,进而输入到编码模型中进行编码处理,解决了不同数据需要不同的编码器的问题,此外,基于标记序列中的每个标记信息对应的编码信息设计下游任务时,不仅可以设计打标的任务,还可以设计生成任务(如文本生成任务等),从而扩宽了编码模型的使用范围。
进一步地,如图3所示,对于目标数据中包括结构化数据,上述步骤S104的处理可以多种多样,以下提供一种可选的处理方式,具体可以参见以下步骤S1042和步骤S1044的处理:
在步骤S1042中,将目标数据转换为时序数据结构形式的第一数据,第一数据中包括目标用户的结构化特征和每个结构化特征对应的编码信息。
在实施中,可以将目标数据中的结构化数据统一处理成为时序数据结构形式的第一数据,结构化数据中可以包括键-值对,可以将结构化数据中的值作为第一数据中的目标用户的结构化特征,将将结构化数据中的键作为第一数据中的“时间”,即每个结构化特征对应的编码信息,具体如下表1所示的第一数据。
表1
col0 | col1 | col2 | …… | coln | |
用户1 | v0 | v1 | v2 | …… | vn |
用户2 | - | - | - | …… | - |
用户3 | - | - | - | …… | - |
…… | …… | …… | …… | …… | …… |
用户n | - | - | - | …… | - |
如上述表1所示,各个用户的数值(即v0、v1、v2…vn…)即为目标用户的结构化特征,每个结构化特征对应的编码信息即为col0、col1、col2…coln。
在步骤S1044中,基于第一数据中的结构化特征确定目标数据对应的标记序列,并基于每个结构化特征对应的编码信息确定该标记序列中的每个标记信息设置的相应位置,基于该结构化数据对应的数据类型,为该标记序列设置相应的数据分块信息。
在实施中,如图4所示,可以将第一数据中的结构化特征转换为标记序列,例如,目标用户为上述表1中的用户1,则第一数据中的结构化特征的内容为“v0、v1、v2…vn”,相应的字符序列为“v0v1v2…vn”,则将上述字符序列转换为标记序列,即v0、v1、v2…vn等n个字符分别为一个token,总计n个token,对于位置position,可以基于每个结构化特征对应的编码信息col0、col1、col2…coln,确定标记序列中的每个标记信息的位置,即信息内容为“v0”的token对应的位置为1,信息内容为“v1”的token对应的位置为2,信息内容为“v2”的token对应的位置为3,信息内容为“v3”的token对应的位置为4,…,信息内容为“vn”的token对应的位置为n。可以根据结构化数据的数据类型,为标记序列设置相应的数据分块信息,例如,结构化数据对应的数据分块信息为0,则上述得到的标记序列中的每个标记信息对应的数据分块信息为0。
进一步地,如图5所示,对于目标数据中包括非结构化数据,且非结构化数据中包括文本数据的情况,上述步骤S104的处理可以多种多样,以下提供一种可选的处理方式,具体可以参见以下步骤S1046的处理。
在步骤S1046中,基于目标数据中的文本数据中包含的字符确定目标数据对应的标记信息,并基于该文本数据中字符排列的顺序确定目标数据对应的标记序列,基于该文本数据中字符排列的顺序,为标记序列中的每个标记信息设置相应的位置,基于该文本数据对应的数据类型,为该标记序列设置相应的数据分块信息。
上述具体处理过程可以参见上述步骤S104中的相关内容,在此不再赘述。
进一步地,如图6所示,对于目标数据中包括非结构化数据,且非结构化数据中包括图像数据的情况,上述步骤S104的处理可以多种多样,以下提供一种可选的处理方式,具体可以参见以下步骤S1048的处理。
在步骤S1048中,将目标数据中的图像数据划分为多个不同的图像块,基于每个图像块确定目标数据对应的标记信息,并基于多个不同的图像块在图像数据中的排列顺序确定目标数据对应的标记序列,基于多个不同的图像块在图像数据中的排列顺序,为该标记序列中的每个标记信息设置相应的位置,基于图像数据对应的数据类型,为该标记序列设置相应的数据分块信息。
在实施中,可以预先设定图像的分割规则,然后,可以基于该分割规则将目标数据中的图像数据划分为多个不同的图像块。可以为每个图像块设置一个token(即标记信息),图像块的数量即为token的数量,可以基于多个不同的图像块在图像数据中的排列顺序,对上述token进行排序,得到目标数据对应的标记序列。可以基于多个不同的图像块在图像数据中的排列顺序,为该标记序列中的每个标记信息设置相应的位置,即排列顺序中的第一个图像块对应的标记信息设置位置为0,排列顺序中的第二个图像块对应的标记信息设置位置为1,排列顺序中的第三个图像块对应的标记信息设置位置为2,排列顺序中的第四个图像块对应的标记信息设置位置为3,…。可以基于图像数据对应的数据类型,为该标记序列设置相应的数据分块信息,例如,图像数据对应的数据分块信息为1,则上述得到的标记序列中的每个标记信息对应的数据分块信息为1。
进一步地,如图7所示,对于目标数据中包括非结构化数据,且非结构化数据中包括时序数据的情况,上述步骤S104的处理可以多种多样,以下提供一种可选的处理方式,具体可以参见以下步骤S10410的处理。
在步骤S10410中,将目标数据中的时序数据中的不同时间对应的数据内容转换为标记序列,并根据时序数据中包含的不同时间对应的数据内容与标记序列的对应关系,以及时序数据中包含的时间及其相应的数据内容,为该标记序列中的每个标记信息设置相应的位置,基于该时序数据对应的数据类型,为该标记序列设置相应的数据分块信息。
在实施中,如图4所示,基于时序数据的数据内容,可以根据文本数据转换为标记序列的方式将目标数据中的时序数据中的不同时间对应的数据内容转换为标记序列,对于标记位置,可以根据时序数据的时间顺序,并以上述方式进行设置,此外,还可以根据时序数据的数据类型为其设置相应的数据分块信息,具体可以参见上述相关内容,在此不再赘述。
进一步地,对于目标数据中包括时序数据的情况,上述步骤S102的处理可以通过下述步骤A2和步骤A4处理。
在步骤A2中,获取目标用户多次执行目标业务时产生的时序数据。
在实施中,例如,可以获取目标用户10次执行目标业务时产生的时序数据,其中,具体可以是获取目标用户最近10次执行目标业务时产生的时序数据,具体如,可以获取目标用户最近10笔交易的数据,可以将最近10笔交易的数据作为目标用户多次执行目标业务时产生的时序数据。
在步骤A4中,将多次执行目标业务时产生的时序数据进行拼接处理,得到目标数据。
基于上述步骤A2和步骤A4的处理,上述将目标数据中的时序数据中的不同时间对应的数据内容转换为标记序列,并根据时序数据中包含的不同时间对应的数据内容与标记序列的对应关系,以及时序数据中包含的时间及其相应的数据内容,为该标记序列中的每个标记信息设置相应的位置,基于该时序数据对应的数据类型,为该标记序列设置相应的数据分块信息的处理,可以为获取目标用户最近10笔交易的数据,可以从每一笔交易的数据中提取出18维(或20维或24维等)的特征,可以为10*18维特征分别设置token,可以得到10*18个token,可以根据10*18维特征的顺序将上述token进行排列,得到相应的标记序列,然后,根据时序数据中包含的不同时间对应的数据内容与标记序列的对应关系,以及时序数据中包含的时间及其相应的数据内容,为该标记序列中的每个标记信息设置相应的位置,即第一个token对应的位置为0,第二个token对应的位置为1,第三个token对应的位置为2,第四个token对应的位置为3,…第180个token对应的位置为179。如果该时序数据对应的数据类型为1,在可以为该标记序列设置相应的数据分块信息为1。
进一步地,如图8所示,上述步骤S108的处理可以多种多样,以下提供一种可选的处理方式,具体可以参见以下步骤S10802~步骤S10806的处理:
在步骤S10802中,基于上述标记序列中的每个标记信息对应的编码信息,确定目标数据对应的编码特征。
在实施中,如图4所示,通过上述方式,可以得到上述标记序列中的每个标记信息对应的编码信息,该编码信息可以为一个向量,这样,通过上述方式,可以得到上述标记序列中的每个标记信息对应的编码信息Z1~Zn,可以计算编码信息Z1~Zn的平均值,得到平均值Z,可以将平均值Z作为目标数据对应的编码特征。
在步骤S10804中,将目标数据对应的编码特征输入到预先训练的风险检测模型中,得到目标数据是否存在风险的检测结果。
其中,风险检测模型可以通过多种不同的算法构建,具体如,可以通过卷积神经网络模型构建风险检测模型,或者,可以通过分类算法(具体如二分类算法等)构建风险检测模型,具体可以根据实际情况设定,本说明书实施例对此不做限定。在实际应用中,风险检测模型可以基于多个全连接的网络层构建,具体如图4所示,风险检测模型可以基于2个全连接的网络层构建等。
此外,可以获取相应的算法,并可以基于该算法构建风险检测模型,该风险检测模型的输入数据可以为目标数据对应的编码特征,输出数据可以为风险检测结果,然后,可以获取用于训练风险检测模型的训练样本(即用户执行某业务所产生的历史数据对应的编码特征,该历史数据包括结构化数据和/或非结构化数据等,具体如目标用户执行目标业务所产生的用户行为数据、目标业务相关的信息(如交易类的信息)、身份类信息、等级类信息、执行目标业务的时间、位置信息等),可以使用该训练样本对风险检测模型进行模型训练,在进行模型训练的过程中,考虑到在实际业务场景下,简单的对训练样本进行编码处理,得到相应的向量特征,可以预先设定目标函数,可以基于该目标函数对风险检测模型中的模型参数进行优化处理,其中,针对目标函数,可以对上述风险检测模型进行调整。之后,可以使用训练样本对风险检测模型进行模型训练,同时通过上述目标函数对模型参数进行优化处理,最终得到训练后的风险检测模型。
在步骤S10806中,基于上述检测结果对目标数据进行相应的风险防控处理。
在实施中,如果该检测结果指示目标数据存在预设风险,则可以对目标用户的账户进行风险防控处理,其中,预设风险可以根据实际情况设定,具体如欺诈风险、非法金融活动等。如果该检测结果指示目标数据不存在预设风险,则可以确定目标用户的账户是安全的,此时,可以允许目标用户继续执行相应的业务。
进一步地,如图9所示,上述步骤S108的处理可以多种多样,以下提供一种可选的处理方式,具体可以参见以下步骤S10808~步骤S10812的处理:
在步骤S10808中,基于上述标记序列中的每个标记信息对应的编码信息,确定目标数据对应的编码特征。
在步骤S10810中,将目标数据对应的编码特征输入到预先训练的任务生成模型中,得到目标数据对应的任务信息。
其中,任务生成模型可以通过多种不同的算法构建,具体如,可以通过卷积神经网络模型构建任务生成模型,或者,可以通过循环神经网络模型等构建任务生成模型,具体可以根据实际情况设定,本说明书实施例对此不做限定。在实际应用中,任务生成模型可以基于多层的长短期记忆LSTM构建,具体如图4所示,风险检测模型可以基于2层的长短期记忆LSTM构建等。
在实施中,可以将目标数据对应的编码特征输入到预先训练的任务生成模型中,通过任务生成模型进行生成,在每一个时刻可以得到一个输出结果,即可以生成一个文字或词语,循环执行上述处理多次,即可以生成一个文本,即目标数据对应的任务信息。
此外,可以获取相应的算法,并可以基于该算法构建任务生成模型,该任务生成模型的输入数据可以为目标数据对应的编码特征,输出数据可以为目标数据对应的任务信息,然后,可以获取用于训练任务生成模型的训练样本(即用户执行某业务所产生的历史数据对应的编码特征,该历史数据包括结构化数据和/或非结构化数据等,具体如目标用户执行目标业务所产生的用户行为数据、目标业务相关的信息(如交易类的信息)、身份类信息、等级类信息、执行目标业务的时间、位置信息等),可以使用该训练样本对任务生成模型进行模型训练,在进行模型训练的过程中,考虑到在实际业务场景下,简单的对训练样本进行编码处理,得到相应的向量特征,可以预先设定目标函数,可以基于该目标函数对任务生成模型中的模型参数进行优化处理,其中,针对目标函数,可以对上述任务生成模型进行调整。之后,可以使用训练样本对任务生成模型进行模型训练,同时通过上述目标函数对模型参数进行优化处理,最终得到训练后的任务生成模型。
在步骤S10812中,基于上述任务信息执行相应的业务处理。
此外,本实施例中的编码模型可以基于Transformer Block构建,或者,编码模型可以基于长短期记忆LSTM构建,或者,编码模型可以基于门控循环单元GRU构建。
本说明书实施例提供一种数据处理方法,通过获取目标用户执行目标业务时产生的目标数据,目标数据中包括结构化数据和/或非结构化数据,非结构化数据中包括文本数据、图像数据和时序数据中的一种或多种,然后,可以将目标数据转换为标记序列,并根据目标数据中包含的数据内容和标记序列的对应关系,为标记序列中的每个标记信息设置相应的位置,根据目标数据中包含的数据类型的不同,为标记序列设置相应的数据分块信息,将标记序列、设置的相应位置和设置的相应数据分块信息输入到预设的编码模型中,得到标记序列中的每个标记信息对应的编码信息,最终,可以基于标记序列中的每个标记信息对应的编码信息进行相应的业务处理,这样,通过上述方式提供了一种对不同类型数据(比如结构化数据、非结构化数据(包括图像数据、文本数据、时序数据等))使用统一的编码框架,即都可以通过标记信息token和标记序列,以及加上position和segment分别标识token的位置和数据类型的设计形式进行统一编码处理,进而输入到编码模型中进行编码处理,解决了不同数据需要不同的编码器的问题,此外,基于标记序列中的每个标记信息对应的编码信息设计下游任务时,不仅可以设计打标的任务,还可以设计生成任务(如文本生成任务等),从而扩宽了编码模型的使用范围。
以上为本说明书实施例提供的数据处理方法,基于同样的思路,本说明书实施例还提供一种数据处理装置,如图10所示。
该数据处理装置包括:数据获取模块1001、转换模块1002、编码模块1003和业务处理模块1004,其中:
数据获取模块1001,获取目标用户执行目标业务时产生的目标数据,所述目标数据中包括结构化数据和/或非结构化数据,所述非结构化数据中包括文本数据、图像数据和时序数据中的一种或多种;
转换模块1002,将所述目标数据转换为标记序列,并根据所述目标数据中包含的数据内容和所述标记序列的对应关系,为所述标记序列中的每个标记信息设置相应的位置,根据所述目标数据中包含的数据类型的不同,为所述标记序列设置相应的数据分块信息;
编码模块1003,将所述标记序列、所述标记序列中的每个标记信息设置的相应位置和所述标记序列设置的相应数据分块信息输入到预设的编码模型中,得到所述标记序列中的每个标记信息对应的编码信息;
业务处理模块1004,基于所述标记序列中的每个标记信息对应的编码信息进行相应的业务处理。
本说明书实施例中,所述目标数据中包括结构化数据,所述转换模块1002,包括:
第一转换单元,将所述目标数据转换为时序数据结构形式的第一数据,所述第一数据中包括所述目标用户的结构化特征和每个结构化特征对应的编码信息;
第二转换单元,基于所述第一数据中的结构化特征确定所述目标数据对应的标记序列,并基于每个结构化特征对应的编码信息确定所述标记序列中的每个标记信息设置的相应位置,基于所述结构化数据对应的数据类型,为所述标记序列设置相应的数据分块信息。
本说明书实施例中,所述目标数据中包括非结构化数据,所述非结构化数据中包括文本数据,所述转换模块1002,基于所述目标数据中的文本数据中包含的字符确定所述目标数据对应的标记信息,并基于所述文本数据中字符排列的顺序确定所述目标数据对应的标记序列,基于所述文本数据中字符排列的顺序,为所述标记序列中的每个标记信息设置相应的位置,基于所述文本数据对应的数据类型,为所述标记序列设置相应的数据分块信息。
本说明书实施例中,所述目标数据中包括非结构化数据,所述非结构化数据中包括图像数据,所述转换模块1002,将所述目标数据中的图像数据划分为多个不同的图像块,基于每个图像块确定所述目标数据对应的标记信息,并基于多个不同的图像块在所述图像数据中的排列顺序确定所述目标数据对应的标记序列,基于多个不同的图像块在所述图像数据中的排列顺序,为所述标记序列中的每个标记信息设置相应的位置,基于所述图像数据对应的数据类型,为所述标记序列设置相应的数据分块信息。
本说明书实施例中,所述目标数据中包括非结构化数据,所述非结构化数据中包括时序数据,所述转换模块1002,将所述目标数据中的时序数据中的不同时间对应的数据内容转换为标记序列,并根据所述时序数据中包含的不同时间对应的数据内容与所述标记序列的对应关系,以及所述时序数据中包含的时间及其相应的数据内容,为所述标记序列中的每个标记信息设置相应的位置,基于所述时序数据对应的数据类型,为所述标记序列设置相应的数据分块信息。
本说明书实施例中,所述数据获取模块1001,包括:
时序数据获取单元,获取所述目标用户多次执行目标业务时产生的时序数据;
数据获取单元,将多次执行目标业务时产生的时序数据进行拼接处理,得到所述目标数据。
本说明书实施例中,所述业务处理模块1004,包括:
特征确定单元,基于所述标记序列中的每个标记信息对应的编码信息,确定所述目标数据对应的编码特征;
风险检测单元,将所述目标数据对应的编码特征输入到预先训练的风险检测模型中,得到所述目标数据是否存在风险的检测结果;
风险防控单元,基于所述检测结果对所述目标数据进行相应的风险防控处理。
本说明书实施例中,所述风险检测模型基于多个全连接的网络层构建。
本说明书实施例中,所述业务处理模块1004,包括:
特征确定单元,基于所述标记序列中的每个标记信息对应的编码信息,确定所述目标数据对应的编码特征;
任务生成单元,将所述目标数据对应的编码特征输入到预先训练的任务生成模型中,得到所述目标数据对应的任务信息;
业务处理单元,基于所述任务信息执行相应的业务处理。
本说明书实施例中,所述任务生成模型基于多层的长短期记忆LSTM构建。
本说明书实施例中,所述编码模型基于Transformer Block构建,或者,所述编码模型基于长短期记忆LSTM构建,或者,所述编码模型基于门控循环单元GRU构建。
本说明书实施例提供一种数据处理装置,通过获取目标用户执行目标业务时产生的目标数据,目标数据中包括结构化数据和/或非结构化数据,非结构化数据中包括文本数据、图像数据和时序数据中的一种或多种,然后,可以将目标数据转换为标记序列,并根据目标数据中包含的数据内容和标记序列的对应关系,为标记序列中的每个标记信息设置相应的位置,根据目标数据中包含的数据类型的不同,为标记序列设置相应的数据分块信息,将标记序列、设置的相应位置和设置的相应数据分块信息输入到预设的编码模型中,得到标记序列中的每个标记信息对应的编码信息,最终,可以基于标记序列中的每个标记信息对应的编码信息进行相应的业务处理,这样,通过上述方式提供了一种对不同类型数据(比如结构化数据、非结构化数据(包括图像数据、文本数据、时序数据等))使用统一的编码框架,即都可以通过标记信息token和标记序列,以及加上position和segment分别标识token的位置和数据类型的设计形式进行统一编码处理,进而输入到编码模型中进行编码处理,解决了不同数据需要不同的编码器的问题,此外,基于标记序列中的每个标记信息对应的编码信息设计下游任务时,不仅可以设计打标的任务,还可以设计生成任务(如文本生成任务等),从而扩宽了编码模型的使用范围。
以上为本说明书实施例提供的数据处理装置,基于同样的思路,本说明书实施例还提供一种数据处理设备,如图11所示。
所述数据处理设备可以为上述实施例提供终端设备或服务器等。
数据处理设备可因配置或性能不同而产生比较大的差异,可以包括一个或一个以上的处理器1101和存储器1102,存储器1102中可以存储有一个或一个以上存储应用程序或数据。其中,存储器1102可以是短暂存储或持久存储。存储在存储器1102的应用程序可以包括一个或一个以上模块(图示未示出),每个模块可以包括对数据处理设备中的一系列计算机可执行指令。更进一步地,处理器1101可以设置为与存储器1102通信,在数据处理设备上执行存储器1102中的一系列计算机可执行指令。数据处理设备还可以包括一个或一个以上电源1103,一个或一个以上有线或无线网络接口1104,一个或一个以上输入输出接口1105,一个或一个以上键盘1106。
具体在本实施例中,数据处理设备包括有存储器,以及一个或一个以上的程序,其中一个或者一个以上程序存储于存储器中,且一个或者一个以上程序可以包括一个或一个以上模块,且每个模块可以包括对数据处理设备中的一系列计算机可执行指令,且经配置以由一个或者一个以上处理器执行该一个或者一个以上程序包含用于进行以下计算机可执行指令:
获取目标用户执行目标业务时产生的目标数据,所述目标数据中包括结构化数据和/或非结构化数据,所述非结构化数据中包括文本数据、图像数据和时序数据中的一种或多种;
将所述目标数据转换为标记序列,并根据所述目标数据中包含的数据内容和所述标记序列的对应关系,为所述标记序列中的每个标记信息设置相应的位置,根据所述目标数据中包含的数据类型的不同,为所述标记序列设置相应的数据分块信息;
将所述标记序列、所述标记序列中的每个标记信息设置的相应位置和所述标记序列设置的相应数据分块信息输入到预设的编码模型中,得到所述标记序列中的每个标记信息对应的编码信息;
基于所述标记序列中的每个标记信息对应的编码信息进行相应的业务处理。
本说明书实施例中,所述目标数据中包括结构化数据,所述将所述目标数据转换为标记序列,并根据所述目标数据中包含的数据内容和所述标记序列的对应关系,为所述标记序列中的每个标记信息设置相应的位置,根据所述目标数据中包含的数据类型的不同,为所述标记序列设置相应的数据分块信息,包括:
将所述目标数据转换为时序数据结构形式的第一数据,所述第一数据中包括所述目标用户的结构化特征和每个结构化特征对应的编码信息;
基于所述第一数据中的结构化特征确定所述目标数据对应的标记序列,并基于每个结构化特征对应的编码信息确定所述标记序列中的每个标记信息设置的相应位置,基于所述结构化数据对应的数据类型,为所述标记序列设置相应的数据分块信息。
本说明书实施例中,所述目标数据中包括非结构化数据,所述非结构化数据中包括文本数据,所述将所述目标数据转换为标记序列,并根据所述目标数据中包含的数据内容和所述标记序列的对应关系,为所述标记序列中的每个标记信息设置相应的位置,根据所述目标数据中包含的数据类型的不同,为所述标记序列设置相应的数据分块信息,包括:
基于所述目标数据中的文本数据中包含的字符确定所述目标数据对应的标记信息,并基于所述文本数据中字符排列的顺序确定所述目标数据对应的标记序列,基于所述文本数据中字符排列的顺序,为所述标记序列中的每个标记信息设置相应的位置,基于所述文本数据对应的数据类型,为所述标记序列设置相应的数据分块信息。
本说明书实施例中,所述目标数据中包括非结构化数据,所述非结构化数据中包括图像数据,所述将所述目标数据转换为标记序列,并根据所述目标数据中包含的数据内容和所述标记序列的对应关系,为所述标记序列中的每个标记信息设置相应的位置,根据所述目标数据中包含的数据类型的不同,为所述标记序列设置相应的数据分块信息,包括:
将所述目标数据中的图像数据划分为多个不同的图像块,基于每个图像块确定所述目标数据对应的标记信息,并基于多个不同的图像块在所述图像数据中的排列顺序确定所述目标数据对应的标记序列,基于多个不同的图像块在所述图像数据中的排列顺序,为所述标记序列中的每个标记信息设置相应的位置,基于所述图像数据对应的数据类型,为所述标记序列设置相应的数据分块信息。
本说明书实施例中,所述目标数据中包括非结构化数据,所述非结构化数据中包括时序数据,所述将所述目标数据转换为标记序列,并根据所述目标数据中包含的数据内容和所述标记序列的对应关系,为所述标记序列中的每个标记信息设置相应的位置,根据所述目标数据中包含的数据类型的不同,为所述标记序列设置相应的数据分块信息,包括:
将所述目标数据中的时序数据中的不同时间对应的数据内容转换为标记序列,并根据所述时序数据中包含的不同时间对应的数据内容与所述标记序列的对应关系,以及所述时序数据中包含的时间及其相应的数据内容,为所述标记序列中的每个标记信息设置相应的位置,基于所述时序数据对应的数据类型,为所述标记序列设置相应的数据分块信息。
本说明书实施例中,所述获取目标用户执行目标业务时产生的目标数据,包括:
获取所述目标用户多次执行目标业务时产生的时序数据;
将多次执行目标业务时产生的时序数据进行拼接处理,得到所述目标数据。
本说明书实施例中,所述基于所述标记序列中的每个标记信息对应的编码信息进行相应的业务处理,包括:
基于所述标记序列中的每个标记信息对应的编码信息,确定所述目标数据对应的编码特征;
将所述目标数据对应的编码特征输入到预先训练的风险检测模型中,得到所述目标数据是否存在风险的检测结果;
基于所述检测结果对所述目标数据进行相应的风险防控处理。
本说明书实施例中,所述风险检测模型基于多个全连接的网络层构建。
本说明书实施例中,所述基于所述标记序列中的每个标记对应的编码信息进行相应的业务处理,包括:
基于所述标记序列中的每个标记信息对应的编码信息,确定所述目标数据对应的编码特征;
将所述目标数据对应的编码特征输入到预先训练的任务生成模型中,得到所述目标数据对应的任务信息;
基于所述任务信息执行相应的业务处理。
本说明书实施例中,所述任务生成模型基于多层的长短期记忆LSTM构建。
本说明书实施例中,所述编码模型基于Transformer Block构建,或者,所述编码模型基于长短期记忆LSTM构建,或者,所述编码模型基于门控循环单元GRU构建。
本说明书实施例提供一种数据处理设备,通过获取目标用户执行目标业务时产生的目标数据,目标数据中包括结构化数据和/或非结构化数据,非结构化数据中包括文本数据、图像数据和时序数据中的一种或多种,然后,可以将目标数据转换为标记序列,并根据目标数据中包含的数据内容和标记序列的对应关系,为标记序列中的每个标记信息设置相应的位置,根据目标数据中包含的数据类型的不同,为标记序列设置相应的数据分块信息,将标记序列、设置的相应位置和设置的相应数据分块信息输入到预设的编码模型中,得到标记序列中的每个标记信息对应的编码信息,最终,可以基于标记序列中的每个标记信息对应的编码信息进行相应的业务处理,这样,通过上述方式提供了一种对不同类型数据(比如结构化数据、非结构化数据(包括图像数据、文本数据、时序数据等))使用统一的编码框架,即都可以通过标记信息token和标记序列,以及加上position和segment分别标识token的位置和数据类型的设计形式进行统一编码处理,进而输入到编码模型中进行编码处理,解决了不同数据需要不同的编码器的问题,此外,基于标记序列中的每个标记信息对应的编码信息设计下游任务时,不仅可以设计打标的任务,还可以设计生成任务(如文本生成任务等),从而扩宽了编码模型的使用范围。
进一步地,基于上述图1到图9所示的方法,本说明书一个或多个实施例还提供了一种存储介质,用于存储计算机可执行指令信息,一种具体的实施例中,该存储介质可以为U盘、光盘、硬盘等,该存储介质存储的计算机可执行指令信息在被处理器执行时,能实现以下流程:
获取目标用户执行目标业务时产生的目标数据,所述目标数据中包括结构化数据和/或非结构化数据,所述非结构化数据中包括文本数据、图像数据和时序数据中的一种或多种;
将所述目标数据转换为标记序列,并根据所述目标数据中包含的数据内容和所述标记序列的对应关系,为所述标记序列中的每个标记信息设置相应的位置,根据所述目标数据中包含的数据类型的不同,为所述标记序列设置相应的数据分块信息;
将所述标记序列、所述标记序列中的每个标记信息设置的相应位置和所述标记序列设置的相应数据分块信息输入到预设的编码模型中,得到所述标记序列中的每个标记信息对应的编码信息;
基于所述标记序列中的每个标记信息对应的编码信息进行相应的业务处理。
本说明书实施例中,所述目标数据中包括结构化数据,所述将所述目标数据转换为标记序列,并根据所述目标数据中包含的数据内容和所述标记序列的对应关系,为所述标记序列中的每个标记信息设置相应的位置,根据所述目标数据中包含的数据类型的不同,为所述标记序列设置相应的数据分块信息,包括:
将所述目标数据转换为时序数据结构形式的第一数据,所述第一数据中包括所述目标用户的结构化特征和每个结构化特征对应的编码信息;
基于所述第一数据中的结构化特征确定所述目标数据对应的标记序列,并基于每个结构化特征对应的编码信息确定所述标记序列中的每个标记信息设置的相应位置,基于所述结构化数据对应的数据类型,为所述标记序列设置相应的数据分块信息。
本说明书实施例中,所述目标数据中包括非结构化数据,所述非结构化数据中包括文本数据,所述将所述目标数据转换为标记序列,并根据所述目标数据中包含的数据内容和所述标记序列的对应关系,为所述标记序列中的每个标记信息设置相应的位置,根据所述目标数据中包含的数据类型的不同,为所述标记序列设置相应的数据分块信息,包括:
基于所述目标数据中的文本数据中包含的字符确定所述目标数据对应的标记信息,并基于所述文本数据中字符排列的顺序确定所述目标数据对应的标记序列,基于所述文本数据中字符排列的顺序,为所述标记序列中的每个标记信息设置相应的位置,基于所述文本数据对应的数据类型,为所述标记序列设置相应的数据分块信息。
本说明书实施例中,所述目标数据中包括非结构化数据,所述非结构化数据中包括图像数据,所述将所述目标数据转换为标记序列,并根据所述目标数据中包含的数据内容和所述标记序列的对应关系,为所述标记序列中的每个标记信息设置相应的位置,根据所述目标数据中包含的数据类型的不同,为所述标记序列设置相应的数据分块信息,包括:
将所述目标数据中的图像数据划分为多个不同的图像块,基于每个图像块确定所述目标数据对应的标记信息,并基于多个不同的图像块在所述图像数据中的排列顺序确定所述目标数据对应的标记序列,基于多个不同的图像块在所述图像数据中的排列顺序,为所述标记序列中的每个标记信息设置相应的位置,基于所述图像数据对应的数据类型,为所述标记序列设置相应的数据分块信息。
本说明书实施例中,所述目标数据中包括非结构化数据,所述非结构化数据中包括时序数据,所述将所述目标数据转换为标记序列,并根据所述目标数据中包含的数据内容和所述标记序列的对应关系,为所述标记序列中的每个标记信息设置相应的位置,根据所述目标数据中包含的数据类型的不同,为所述标记序列设置相应的数据分块信息,包括:
将所述目标数据中的时序数据中的不同时间对应的数据内容转换为标记序列,并根据所述时序数据中包含的不同时间对应的数据内容与所述标记序列的对应关系,以及所述时序数据中包含的时间及其相应的数据内容,为所述标记序列中的每个标记信息设置相应的位置,基于所述时序数据对应的数据类型,为所述标记序列设置相应的数据分块信息。
本说明书实施例中,所述获取目标用户执行目标业务时产生的目标数据,包括:
获取所述目标用户多次执行目标业务时产生的时序数据;
将多次执行目标业务时产生的时序数据进行拼接处理,得到所述目标数据。
本说明书实施例中,所述基于所述标记序列中的每个标记信息对应的编码信息进行相应的业务处理,包括:
基于所述标记序列中的每个标记信息对应的编码信息,确定所述目标数据对应的编码特征;
将所述目标数据对应的编码特征输入到预先训练的风险检测模型中,得到所述目标数据是否存在风险的检测结果;
基于所述检测结果对所述目标数据进行相应的风险防控处理。
本说明书实施例中,所述风险检测模型基于多个全连接的网络层构建。
本说明书实施例中,所述基于所述标记序列中的每个标记对应的编码信息进行相应的业务处理,包括:
基于所述标记序列中的每个标记信息对应的编码信息,确定所述目标数据对应的编码特征;
将所述目标数据对应的编码特征输入到预先训练的任务生成模型中,得到所述目标数据对应的任务信息;
基于所述任务信息执行相应的业务处理。
本说明书实施例中,所述任务生成模型基于多层的长短期记忆LSTM构建。
本说明书实施例中,所述编码模型基于Transformer Block构建,或者,所述编码模型基于长短期记忆LSTM构建,或者,所述编码模型基于门控循环单元GRU构建。
本说明书实施例提供一种存储介质,通过获取目标用户执行目标业务时产生的目标数据,目标数据中包括结构化数据和/或非结构化数据,非结构化数据中包括文本数据、图像数据和时序数据中的一种或多种,然后,可以将目标数据转换为标记序列,并根据目标数据中包含的数据内容和标记序列的对应关系,为标记序列中的每个标记信息设置相应的位置,根据目标数据中包含的数据类型的不同,为标记序列设置相应的数据分块信息,将标记序列、设置的相应位置和设置的相应数据分块信息输入到预设的编码模型中,得到标记序列中的每个标记信息对应的编码信息,最终,可以基于标记序列中的每个标记信息对应的编码信息进行相应的业务处理,这样,通过上述方式提供了一种对不同类型数据(比如结构化数据、非结构化数据(包括图像数据、文本数据、时序数据等))使用统一的编码框架,即都可以通过标记信息token和标记序列,以及加上position和segment分别标识token的位置和数据类型的设计形式进行统一编码处理,进而输入到编码模型中进行编码处理,解决了不同数据需要不同的编码器的问题,此外,基于标记序列中的每个标记信息对应的编码信息设计下游任务时,不仅可以设计打标的任务,还可以设计生成任务(如文本生成任务等),从而扩宽了编码模型的使用范围。
上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下,在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外,在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中,多任务处理和并行处理也是可以的或者可能是有利的。
在20世纪90年代,对于一个技术的改进可以很明显地区分是硬件上的改进(例如,对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而,随着技术的发展,当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此,不能说一个方法流程的改进就不能用硬件实体模块来实现。例如,可编程逻辑器件(Programmable Logic Device,PLD)(例如现场可编程门阵列(Field Programmable GateArray,FPGA))就是这样一种集成电路,其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上,而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且,如今,取代手工地制作集成电路芯片,这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现,它与程序开发撰写时所用的软件编译器相类似,而要编译之前的原始代码也得用特定的编程语言来撰写,此称之为硬件描述语言(Hardware Description Language,HDL),而HDL也并非仅有一种,而是有许多种,如ABEL(Advanced Boolean Expression Language)、AHDL(Altera Hardware DescriptionLanguage)、Confluence、CUPL(Cornell University Programming Language)、HDCal、JHDL(Java Hardware Description Language)、Lava、Lola、MyHDL、PALASM、RHDL(RubyHardware Description Language)等,目前最普遍使用的是VHDL(Very-High-SpeedIntegrated Circuit Hardware Description Language)与Verilog。本领域技术人员也应该清楚,只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中,就可以很容易得到实现该逻辑方法流程的硬件电路。
控制器可以按任何适当的方式实现,例如,控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit,ASIC)、可编程逻辑控制器和嵌入微控制器的形式,控制器的例子包括但不限于以下微控制器:ARC625D、Atmel AT91SAM、Microchip PIC18F26K20以及Silicone Labs C8051F320,存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道,除了以纯计算机可读程序代码方式实现控制器以外,完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件,而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至,可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
上述实施例阐明的系统、装置、模块或单元,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的,计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便,描述以上装置时以功能分为各种单元分别描述。当然,在实施本说明书一个或多个实施例时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白,本说明书的实施例可提供为方法、系统、或计算机程序产品。因此,本说明书一个或多个实施例可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本说明书一个或多个实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书的实施例是参照根据本说明书实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程欺诈案例的串并设备的处理器以产生一个机器,使得通过计算机或其他可编程欺诈案例的串并设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程欺诈案例的串并设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程欺诈案例的串并设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白,本说明书的实施例可提供为方法、系统或计算机程序产品。因此,本说明书一个或多个实施例可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本说明书一个或多个实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书一个或多个实施例可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书一个或多个实施例,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本说明书的实施例而已,并不用于限制本申请。对于本领域技术人员来说,本说明书可以有各种更改和变化。凡在本说明书的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本说明书的权利要求范围之内。
Claims (14)
1.一种数据处理方法,所述方法包括:
获取目标用户执行目标业务时产生的目标数据,所述目标数据中包括结构化数据和/或非结构化数据,所述非结构化数据中包括文本数据、图像数据和时序数据中的一种或多种;
将所述目标数据转换为标记序列,并根据所述目标数据中包含的数据内容和所述标记序列的对应关系,为所述标记序列中的每个标记信息设置相应的位置,根据所述目标数据中包含的数据类型的不同,为所述标记序列设置相应的数据分块信息;
将所述标记序列、所述标记序列中的每个标记信息设置的相应位置和所述标记序列设置的相应数据分块信息输入到预设的编码模型中,得到所述标记序列中的每个标记信息对应的编码信息;
基于所述标记序列中的每个标记信息对应的编码信息进行相应的业务处理。
2.根据权利要求1所述的方法,所述目标数据中包括结构化数据,所述将所述目标数据转换为标记序列,并根据所述目标数据中包含的数据内容和所述标记序列的对应关系,为所述标记序列中的每个标记信息设置相应的位置,根据所述目标数据中包含的数据类型的不同,为所述标记序列设置相应的数据分块信息,包括:
将所述目标数据转换为时序数据结构形式的第一数据,所述第一数据中包括所述目标用户的结构化特征和每个结构化特征对应的编码信息;
基于所述第一数据中的结构化特征确定所述目标数据对应的标记序列,并基于每个结构化特征对应的编码信息确定所述标记序列中的每个标记信息设置的相应位置,基于所述结构化数据对应的数据类型,为所述标记序列设置相应的数据分块信息。
3.根据权利要求1所述的方法,所述目标数据中包括非结构化数据,所述非结构化数据中包括文本数据,所述将所述目标数据转换为标记序列,并根据所述目标数据中包含的数据内容和所述标记序列的对应关系,为所述标记序列中的每个标记信息设置相应的位置,根据所述目标数据中包含的数据类型的不同,为所述标记序列设置相应的数据分块信息,包括:
基于所述目标数据中的文本数据中包含的字符确定所述目标数据对应的标记信息,并基于所述文本数据中字符排列的顺序确定所述目标数据对应的标记序列,基于所述文本数据中字符排列的顺序,为所述标记序列中的每个标记信息设置相应的位置,基于所述文本数据对应的数据类型,为所述标记序列设置相应的数据分块信息。
4.根据权利要求1所述的方法,所述目标数据中包括非结构化数据,所述非结构化数据中包括图像数据,所述将所述目标数据转换为标记序列,并根据所述目标数据中包含的数据内容和所述标记序列的对应关系,为所述标记序列中的每个标记信息设置相应的位置,根据所述目标数据中包含的数据类型的不同,为所述标记序列设置相应的数据分块信息,包括:
将所述目标数据中的图像数据划分为多个不同的图像块,基于每个图像块确定所述目标数据对应的标记信息,并基于多个不同的图像块在所述图像数据中的排列顺序确定所述目标数据对应的标记序列,基于多个不同的图像块在所述图像数据中的排列顺序,为所述标记序列中的每个标记信息设置相应的位置,基于所述图像数据对应的数据类型,为所述标记序列设置相应的数据分块信息。
5.根据权利要求1所述的方法,所述目标数据中包括非结构化数据,所述非结构化数据中包括时序数据,所述将所述目标数据转换为标记序列,并根据所述目标数据中包含的数据内容和所述标记序列的对应关系,为所述标记序列中的每个标记信息设置相应的位置,根据所述目标数据中包含的数据类型的不同,为所述标记序列设置相应的数据分块信息,包括:
将所述目标数据中的时序数据中的不同时间对应的数据内容转换为标记序列,并根据所述时序数据中包含的不同时间对应的数据内容与所述标记序列的对应关系,以及所述时序数据中包含的时间及其相应的数据内容,为所述标记序列中的每个标记信息设置相应的位置,基于所述时序数据对应的数据类型,为所述标记序列设置相应的数据分块信息。
6.根据权利要求5所述的方法,所述获取目标用户执行目标业务时产生的目标数据,包括:
获取所述目标用户多次执行目标业务时产生的时序数据;
将多次执行目标业务时产生的时序数据进行拼接处理,得到所述目标数据。
7.根据权利要求1所述的方法,所述基于所述标记序列中的每个标记信息对应的编码信息进行相应的业务处理,包括:
基于所述标记序列中的每个标记信息对应的编码信息,确定所述目标数据对应的编码特征;
将所述目标数据对应的编码特征输入到预先训练的风险检测模型中,得到所述目标数据是否存在风险的检测结果;
基于所述检测结果对所述目标数据进行相应的风险防控处理。
8.根据权利要求7所述的方法,所述风险检测模型基于多个全连接的网络层构建。
9.根据权利要求1所述的方法,所述基于所述标记序列中的每个标记对应的编码信息进行相应的业务处理,包括:
基于所述标记序列中的每个标记信息对应的编码信息,确定所述目标数据对应的编码特征;
将所述目标数据对应的编码特征输入到预先训练的任务生成模型中,得到所述目标数据对应的任务信息;
基于所述任务信息执行相应的业务处理。
10.根据权利要求9所述的方法,所述任务生成模型基于多层的长短期记忆LSTM构建。
11.根据权利要求1-10中任一项所述的方法,所述编码模型基于Transformer Block构建,或者,所述编码模型基于长短期记忆LSTM构建,或者,所述编码模型基于门控循环单元GRU构建。
12.一种数据处理装置,所述装置包括:
数据获取模块,获取目标用户执行目标业务时产生的目标数据,所述目标数据中包括结构化数据和/或非结构化数据,所述非结构化数据中包括文本数据、图像数据和时序数据中的一种或多种;
转换模块,将所述目标数据转换为标记序列,并根据所述目标数据中包含的数据内容和所述标记序列的对应关系,为所述标记序列中的每个标记信息设置相应的位置,根据所述目标数据中包含的数据类型的不同,为所述标记序列设置相应的数据分块信息;
编码模块,将所述标记序列、所述标记序列中的每个标记信息设置的相应位置和所述标记序列设置的相应数据分块信息输入到预设的编码模型中,得到所述标记序列中的每个标记信息对应的编码信息;
业务处理模块,基于所述标记序列中的每个标记信息对应的编码信息进行相应的业务处理。
13.一种数据处理设备,所述数据处理设备包括:
处理器;以及
被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器:
获取目标用户执行目标业务时产生的目标数据,所述目标数据中包括结构化数据和/或非结构化数据,所述非结构化数据中包括文本数据、图像数据和时序数据中的一种或多种;
将所述目标数据转换为标记序列,并根据所述目标数据中包含的数据内容和所述标记序列的对应关系,为所述标记序列中的每个标记信息设置相应的位置,根据所述目标数据中包含的数据类型的不同,为所述标记序列设置相应的数据分块信息;
将所述标记序列、所述标记序列中的每个标记信息设置的相应位置和所述标记序列设置的相应数据分块信息输入到预设的编码模型中,得到所述标记序列中的每个标记信息对应的编码信息;
基于所述标记序列中的每个标记信息对应的编码信息进行相应的业务处理。
14.一种存储介质,所述存储介质用于存储计算机可执行指令,所述可执行指令在被处理器执行时实现以下流程:
获取目标用户执行目标业务时产生的目标数据,所述目标数据中包括结构化数据和/或非结构化数据,所述非结构化数据中包括文本数据、图像数据和时序数据中的一种或多种;
将所述目标数据转换为标记序列,并根据所述目标数据中包含的数据内容和所述标记序列的对应关系,为所述标记序列中的每个标记信息设置相应的位置,根据所述目标数据中包含的数据类型的不同,为所述标记序列设置相应的数据分块信息;
将所述标记序列、所述标记序列中的每个标记信息设置的相应位置和所述标记序列设置的相应数据分块信息输入到预设的编码模型中,得到所述标记序列中的每个标记信息对应的编码信息;
基于所述标记序列中的每个标记信息对应的编码信息进行相应的业务处理。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211399727.2A CN115600155B (zh) | 2022-11-09 | 2022-11-09 | 一种数据处理方法、装置及设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211399727.2A CN115600155B (zh) | 2022-11-09 | 2022-11-09 | 一种数据处理方法、装置及设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115600155A CN115600155A (zh) | 2023-01-13 |
CN115600155B true CN115600155B (zh) | 2023-05-12 |
Family
ID=84852941
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211399727.2A Active CN115600155B (zh) | 2022-11-09 | 2022-11-09 | 一种数据处理方法、装置及设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115600155B (zh) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112908473A (zh) * | 2021-03-24 | 2021-06-04 | 平安科技(深圳)有限公司 | 基于模型的数据处理方法、装置、计算机设备和存储介质 |
CN113157941A (zh) * | 2021-04-08 | 2021-07-23 | 支付宝(杭州)信息技术有限公司 | 业务特征数据处理、文本生成方法、装置及电子设备 |
CN113792112A (zh) * | 2020-07-31 | 2021-12-14 | 北京京东尚科信息技术有限公司 | 视觉语言任务处理系统、训练方法、装置、设备及介质 |
CN114356924A (zh) * | 2021-12-31 | 2022-04-15 | 胜斗士(上海)科技技术发展有限公司 | 用于从结构化文档提取数据的方法和设备 |
CN115147227A (zh) * | 2022-08-29 | 2022-10-04 | 支付宝(杭州)信息技术有限公司 | 一种交易风险的检测方法、装置及设备 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11373120B2 (en) * | 2019-11-25 | 2022-06-28 | Sap Se | Attention mechanism for natural language processing |
US11983210B2 (en) * | 2020-06-16 | 2024-05-14 | Virginia Tech Intellectual Properties, Inc. | Methods and systems for generating summaries given documents with questions and answers |
US20210406739A1 (en) * | 2020-06-29 | 2021-12-30 | Optum Services (Ireland) Limited | Predictive data analysis techniques using bidirectional encodings of structured data fields |
-
2022
- 2022-11-09 CN CN202211399727.2A patent/CN115600155B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113792112A (zh) * | 2020-07-31 | 2021-12-14 | 北京京东尚科信息技术有限公司 | 视觉语言任务处理系统、训练方法、装置、设备及介质 |
CN112908473A (zh) * | 2021-03-24 | 2021-06-04 | 平安科技(深圳)有限公司 | 基于模型的数据处理方法、装置、计算机设备和存储介质 |
CN113157941A (zh) * | 2021-04-08 | 2021-07-23 | 支付宝(杭州)信息技术有限公司 | 业务特征数据处理、文本生成方法、装置及电子设备 |
CN114356924A (zh) * | 2021-12-31 | 2022-04-15 | 胜斗士(上海)科技技术发展有限公司 | 用于从结构化文档提取数据的方法和设备 |
CN115147227A (zh) * | 2022-08-29 | 2022-10-04 | 支付宝(杭州)信息技术有限公司 | 一种交易风险的检测方法、装置及设备 |
Non-Patent Citations (2)
Title |
---|
Pretrained Language Models for Text Generation:A Survey;Junyi Li et al.;《ARXIV》;1-9页 * |
面向非结构化数据知识图谱的信息抽取与融合研究;廖静茹;《中国优秀硕士学位论文全文数据库 信息科技辑》;I138-3605 * |
Also Published As
Publication number | Publication date |
---|---|
CN115600155A (zh) | 2023-01-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110569428B (zh) | 一种推荐模型的构建方法、装置及设备 | |
CN110020427B (zh) | 策略确定方法和装置 | |
CN110032582B (zh) | 一种数据处理方法、装置、设备及系统 | |
CN110738562B (zh) | 一种风险提醒信息的生成方法、装置及设备 | |
CN110008394B (zh) | 一种舆情信息的识别方法、装置及设备 | |
CN115712866B (zh) | 数据处理方法、装置及设备 | |
CN113221717B (zh) | 一种基于隐私保护的模型构建方法、装置及设备 | |
CN116630480B (zh) | 一种交互式文本驱动图像编辑的方法、装置和电子设备 | |
CN111143461B (zh) | 映射关系处理系统、方法和电子设备 | |
CN115600155B (zh) | 一种数据处理方法、装置及设备 | |
CN111782813B (zh) | 一种用户社群的评价方法、装置及设备 | |
CN111242195B (zh) | 模型、保险风控模型训练方法、装置及电子设备 | |
CN115827935B (zh) | 一种数据处理方法、装置及设备 | |
CN115905624B (zh) | 一种用户行为状态的确定方法、装置及设备 | |
CN116596645A (zh) | 一种模型的处理方法、装置及设备 | |
CN117688351B (zh) | 一种基于模型处理结果的辅助甄别方法、装置及设备 | |
CN114662706B (zh) | 一种模型训练方法、装置及设备 | |
CN115860749B (zh) | 一种数据处理方法、装置及设备 | |
CN116070916B (zh) | 数据处理方法、装置及设备 | |
CN117093863A (zh) | 一种模型的处理方法、装置及设备 | |
CN118070922A (zh) | 一种模型的处理方法、装置及设备 | |
CN116933131A (zh) | 一种模型的处理方法、装置及设备 | |
CN116186607A (zh) | 一种模型的处理方法、装置及设备 | |
CN116843181A (zh) | 风险识别方法及装置 | |
CN118349901A (zh) | 数据处理方法、装置及设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |