CN111737922A - 基于循环神经网络的数据处理方法、装置、设备及介质 - Google Patents

基于循环神经网络的数据处理方法、装置、设备及介质 Download PDF

Info

Publication number
CN111737922A
CN111737922A CN202010596089.8A CN202010596089A CN111737922A CN 111737922 A CN111737922 A CN 111737922A CN 202010596089 A CN202010596089 A CN 202010596089A CN 111737922 A CN111737922 A CN 111737922A
Authority
CN
China
Prior art keywords
neural network
recurrent neural
preset
model
data processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010596089.8A
Other languages
English (en)
Inventor
康焱
张天豫
刘洋
陈天健
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
WeBank Co Ltd
Original Assignee
WeBank Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by WeBank Co Ltd filed Critical WeBank Co Ltd
Priority to CN202010596089.8A priority Critical patent/CN111737922A/zh
Publication of CN111737922A publication Critical patent/CN111737922A/zh
Priority to PCT/CN2021/093152 priority patent/WO2021258882A1/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00—Computer-aided design [CAD]
    • G06F30/20—Design optimisation, verification or simulation
    • G06F30/27—Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2111/00—Details relating to CAD techniques
    • G06F2111/10—Numerical modelling

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Computer Hardware Design (AREA)
  • Geometry (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本申请公开了一种基于循环神经网络的数据处理方法、装置、设备和介质，该方法包括：获取待处理时序数据，将所述待处理时序数据输入至数据处理模型中；所述数据处理模型为基于用户非相同时刻的时序数据对不同时刻的循环神经网络模型进行联邦前向训练后，再对联邦前向训练完成的不同时刻的循环神经网络模型进行各个时刻的联邦反向训练后得到的；基于所述数据处理模型对所述待处理时序数据执行预设数据处理流程，得到所述待处理时序数据的目标预测标签。本申请解决用户非相同时刻的时序数据存储在不同参与方或者不同设备中，处于隐私保护等限制条件难以有效利用，从而致使建模后得到的模型难以达到预期的预测效果等问题。

Description

基于循环神经网络的数据处理方法、装置、设备及介质
技术领域
本申请涉及人工智能技术领域，尤其涉及一种基于循环神经网络的数据处理方法、装置、设备及介质。
背景技术
随着互联网的不断发展，越来越多的技术(如分布式、区块链Blockchain、人工智能等)等得到应用，但互联网也对技术提出了更高的要求，如对数据处理也有更高的要求。
循环神经网络(Recurrent Neural Network，RNN)模型常用于处理用户非相同时刻的时序数据，其中，时序数据指的是基于时间序列排列的数据，用户非相同时刻的时序数据包括同一用户在不同时刻，在不同数据源如不同参与方或者不同设备上的特征数据，例如，同一病人可能在不同的时间访问过几家不同的医疗机构来对同一种(或相似)病情进行诊断，同一病人在不同的时间(不同时刻)访问的不同医疗机构(不同参与方或者不同设备)对同一种病情的诊断时序数据，为同一用户的不同时刻，在不同数据源如不同服务器上的特征数据。
目前，用户非相同时刻的时序数据存储在不同参与方或者不同设备中，出于隐私保护，不同参与方或者不同设备之间不能直接进行用户非相同时刻的时序数据的交互，即各参与方或者不同设备之间不能共享用户非相同时刻的时序数据以进行联合建模，进而导致各参与方或者不同设备只能基于各自少量的用户非相同时刻的时序数据进行建模，只能基于少量的时序数据进行建模，致使需要训练更长时间才能使得训练后的模型达到目标性能，进而导致计算机需要耗费大量资源算力，致使计算机算力资源的利用率低。
发明内容
本申请的主要目的在于提供一种基于循环神经网络的数据处理方法、装置、设备和介质，旨在解决现有技术中，不同参与方或者不同设备之间不能直接进行用户非相同时刻的时序数据的交互，导致各参与方或者不同设备只能基于各自少量的用户非相同时刻的时序数据进行建模，致使建模后得到的模型难以达到预期的预测效果的技术问题。
为实现上述目的，本申请提供一种基于循环神经网络的数据处理方法，预设时序数据指的是用户非相同时刻的时序数据，所述基于循环神经网络的数据处理方法包括：
获取待处理时序数据，将所述待处理时序数据输入至数据处理模型中；
所述数据处理模型为基于用户非相同时刻的时序数据对不同时刻的循环神经网络模型进行联邦前向训练后，再对联邦前向训练完成的不同时刻的循环神经网络模型进行各个时刻的联邦反向训练后得到的；
基于所述数据处理模型对所述待处理时序数据执行预设数据处理流程，得到所述待处理时序数据的目标预测标签。
本申请还提供一种基于循环神经网络的数据处理装置，预设时序数据指的是用户非相同时刻的时序数据，所述基于循环神经网络的数据处理装置包括：
第一获取模块，用于获取待处理时序数据，将所述待处理时序数据输入至数据处理模型中；
所述数据处理模型为基于用户非相同时刻的时序数据对不同时刻的循环神经网络模型进行联邦前向训练后，再对联邦前向训练完成的不同时刻的循环神经网络模型进行各个时刻的联邦反向训练后得到的；
第二获取模块，用于基于所述数据处理模型对所述待处理时序数据执行预设数据处理流程，得到所述待处理时序数据的目标预测标签。
本申请还提供一种基于循环神经网络的数据处理设备，所述基于循环神经网络的数据处理设备为实体设备，所述基于循环神经网络的数据处理设备包括：存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的所述基于循环神经网络的数据处理方法的程序，所述基于循环神经网络的数据处理方法的程序被处理器执行时可实现如上述的基于循环神经网络的数据处理方法的步骤。
本申请还提供一种介质，所述介质上存储有实现上述基于循环神经网络的数据处理方法的程序，所述基于循环神经网络的数据处理方法的程序被处理器执行时实现如上述的基于循环神经网络的数据处理方法的步骤。
本申请通过获取待处理时序数据，将所述待处理时序数据输入至数据处理模型中；所述数据处理模型为基于用户非相同时刻的时序数据对不同时刻的循环神经网络模型进行联邦前向训练后，再对联邦前向训练完成的不同时刻的循环神经网络模型进行各个时刻的联邦反向训练后得到的；基于所述数据处理模型对所述待处理时序数据执行预设数据处理流程，得到所述待处理时序数据的目标预测标签。与现有技术中基于少量时序数据进行建模，进而处理待处理时序数据相比，在本申请中，采用在得到待处理时序数据后，基于已经训练完成的，数据处理模型对所述待处理时序数据执行预设数据处理流程，以得到所述待处理时序数据的目标预测标签的技术手段，由于所述数据处理模型为基于用户非相同时刻的时序数据对不同时刻的循环神经网络模型进行联邦前向训练后，再对联邦前向训练完成的不同时刻的循环神经网络模型进行各个时刻的联邦反向训练后得到的，进而在保护隐私的同时，实现了基于非相同时刻时序数据联邦构建模型，客服了现有技术中大量耗费计算机算力资源的缺陷，减少训练后的模型达到目标性能的时间耗费，提升计算机算力资源的利用率，且在本申请中由于基于非相同时刻时序数据联邦构建模型，因而提升了对待处理时序数据进行类型等预测的准确性，解决现有技术中，不同参与方或者不同设备之间不能直接进行用户非相同时刻的时序数据的交互，导致各参与方或者不同设备只能基于少量的用户非相同时刻的时序数据进行建模，进而致使建模后得到的模型难以达到预期的预测效果的技术问题。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本申请的实施例，并与说明书一起用于解释本申请的原理。
为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，对于本领域普通技术人员而言，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1为本申请基于循环神经网络的数据处理方法第一实施例的流程示意图；
图2为本申请基于循环神经网络的数据处理方法第二实施例中基于所述最后时刻的中间参数，所述具有预设标签的标签时序数据以及所述预设循环神经网络模型的预设预测模型，确定所述最后时刻对应预测时刻的中间梯度的步骤的细化流程示意图；
图3为本申请实施例方案涉及的硬件运行环境的设备结构示意图；
图4为本申请基于循环神经网络的数据处理方法中的第一场景示意图；
图5为本申请基于循环神经网络的数据处理方法中的第二场景示意图。
本申请目的实现、功能特点及优点将结合实施例，参照附图做进一步说明。
具体实施方式
应当理解，此处所描述的具体实施例仅仅用以解释本申请，并不用于限定本申请。
本申请实施例提供一种基于循环神经网络的数据处理方法，在本申请基于循环神经网络的数据处理方法的第一实施例中，参照图1，所述基于循环神经网络的数据处理方法包括：
步骤S10，获取待处理时序数据，将所述待处理时序数据输入至数据处理模型中；
所述数据处理模型为基于用户非相同时刻的时序数据对不同时刻的循环神经网络模型进行联邦前向训练后，再对联邦前向训练完成的不同时刻的循环神经网络模型进行各个时刻的联邦反向训练后得到的；
步骤S20，基于所述数据处理模型对所述待处理时序数据执行预设数据处理流程，得到所述待处理时序数据的目标预测标签。
具体步骤如下：
步骤S10，获取待处理时序数据，将所述待处理时序数据输入至数据处理模型中；
所述数据处理模型为基于用户非相同时刻的时序数据对不同时刻的循环神经网络模型进行联邦前向训练后，再对联邦前向训练完成的不同时刻的循环神经网络模型进行各个时刻的联邦反向训练后得到的；
在本实施例中，基于循环神经网络的数据处理方法可以应用于基于循环神经网络的数据处理系统，该基于循环神经网络的数据处理系统中包括多个不同的参与方或者设备，该多个不同的参与方或者设备中，包含具有预设标签的标签时序数据的参与方是主参与方(或者主设备)，其中，基于循环神经网络的数据处理方法还可以应用于主参与方或者主设备中，在本实施例中，以基于循环神经网络的数据处理方法应用于基于循环神经网络的数据处理系统中而不是某一个设备中为例进行具体说明。具体地，在获取待处理时序数据后，将所述待处理时序数据输入至基于循环神经网络的数据处理系统的数据处理模型中，以便数据处理模型对待处理时序数据进行处理，即在本实施例中，通过已经训练好的，数据处理模型处理时序数据，其中，时序数据指的是基于时间序列排列的数据，具体地，本实施例中的时序数据指的是用户非相同时刻的时序数据，特别地，指的是预设样本集中用户非相同时刻的时序数据，用户非相同时刻的时序数据包括同一用户的不同时刻，在不同数据源如不同参与方或者不同设备上的特征数据，需要说明的是，该不同数据源可以是类型相同，例如，同一病人可能在不同的时间访问过几家不同的医疗机构(尽管具体机构不同，但是都是医疗机构类型)来对同一种病情进行诊断，同一病人在不同的时间(不同时刻)访问的不同医疗机构(不同参与方或者不同设备)对同一种病情的诊断时序数据，为同一用户的不同时刻，在不同数据源如不同服务器上的特征数据。需要说明的是，在本实施例中，用户非相同时刻的时序数据是不包括同一用户的同一时刻，在不同数据源(参与方或者设备)上的特征数据的，例如，用户m在医疗机构(参与方或者设备)购买了A药品，在医疗机构的服务器中产生一条新的销售记录，同时，用户m在银行系统(参与方或者设备)的服务器也伴随着产生一条新的支出记录，这是时序数据包括的同一用户的同一时刻，在不同数据源(参与方或者设备)的特征数据，本实施例中的时序数据不包括这种情况。
在本实施例中，所述数据处理模型为基于用户非相同时刻的时序数据对不同时刻的循环神经网络模型进行联邦前向训练后，再对联邦前向训练完成的不同时刻的循环神经网络模型进行各个时刻的联邦反向训练后得到的目标模型，其中，基于用户非相同时刻的时序数据对不同时刻的循环神经网络模型进行联邦前向训练后，再对联邦前向训练完成的不同时刻的循环神经网络模型进行各个时刻的联邦反向训练具体指的是：基于用户非相同时刻的预设时序数据如用户t1时刻的预设时序数据，对t1时刻的预设循环神经网络模型进行联邦前向训练，得到第一时刻的联邦前向传播的预设循环神经网络模型(可以是t2时刻的预设循环神经网络模型)，然后基于用户非相同时刻的预设时序数据如用户t2时刻的预设时序数据，对t2时刻的预设循环神经网络模型进行联邦前向训练，得到第二时刻的联邦前向传播的预设循环神经网络模型(可以是t3时刻的预设循环神经网络模型)，基于此不断进行联邦前向训练，直至得到最后时刻的循环神经网络模型，在得到最后时刻的循环神经网络模型后，基于最后时刻的用户非相同时刻的预设时序数据如用户t(N)时刻的预设时序数据，进行最后时刻的循环神经网络模型的联邦反向训练，得到最后时刻的联邦反向更新的循环神经网络模型，基于用户非相同时刻的预设时序数据如用户t(N-1)时刻的预设时序数据，对最后时刻的上一时刻的循环神经网络模型进行联邦反向更新，并对后续各个时刻的循环神经网络模型进行联邦反向更新，直至最初时刻的预设循环神经网络模型得到更新。需要说明的是，在本实施例中，除了具有具有预设标签的时序数据外，涉及的不具有预设标签的时序数据即用户非相同时刻的预设时序数据，该非相同时刻的预设时序数据在不同的设备或者参与方中，以实现基于用户非相同时刻的预设时序数据获取用于联邦的参数，当然，在各个时刻的用户非相同时刻的预设时序数据还可以是在同一个参与方中。
在本实施例中，需要强调的是，对于每次的联邦前向训练以及联邦反向训练，都是按照时序进行的。
其中，所述基于所述数据处理模型对所述待处理时序数据执行预设数据处理流程，得到所述待处理时序数据的目标预测标签的步骤之前，所述方法包括：
步骤S11，基于用户非相同时刻的时序数据,对不同时刻的循环神经网络模型进行联邦前向训练后，再对联邦前向训练完成的不同时刻的循环神经网络模型进行各个时刻的联邦反向训练，以得到联合模型；
在本实施例中，获取具有预设标签的标签时序数据，其中，预设标签包括类型标签等类型，具有预设标签的标签时序数据指的是具有预设标签的按照时间排列的数据。
在得到所述标签时序数据后，基于所述标签时序数据以及用户非相同时刻的时序数据，对不同时刻的循环神经网络模型进行联邦前向训练后，再对联邦前向训练完成的不同时刻的循环神经网络模型进行各个时刻的联邦反向训练，以得到联合模型，具体地，指的是，对不同时刻的循环神经网络模型进行基于多个数据源(参与方或者设备)的用户非相同时刻的预设时序数据，进行联邦前向训练后，基于所述标签时序数据，以及基于所述多个数据源(参与方或者设备)的用户非相同时刻的预设时序数据，再对联邦前向训练完成的不同时刻的循环神经网络模型进行各个时刻的联邦反向训练，以得到联合模型，也即，时刻不同，用户非相同时刻的预设时序数据是不同参与方的时序数据，例如，第一时刻的预设时序数据在第一医疗机构中，第二时刻的预设时序数据在第二医疗机构中。
其中，各个参与方之间进行预设联邦通信，所述用户非相同时刻的预设时序数据包括在各个时刻的预设时序数据；
所述用户非相同时刻的预设时序数据包括在各个时刻的预设时序数据；
所述基于用户非相同时刻的时序数据,对不同时刻的循环神经网络模型进行联邦前向训练后，再对联邦前向训练完成的不同时刻的循环神经网络模型进行各个时刻的联邦反向训练，以得到联合模型的步骤，包括：
步骤a1，基于接收的在目标时刻对应上一时刻的前向传播的中间参数，所述目标时刻的预设时序数据和所述预设循环神经网络模型在目标时刻的模型参数，确定在目标时刻的前向传播的中间参数，并基于所述在目标时刻的前向传播的中间参数进行对后续各个时刻的联邦前向训练，直到得到最后时刻的中间参数；
在本实施例中，中间参数即是为状态信息h，初始参数即为初始化状态信息
Figure BDA0002556267970000081
各个中间参数包括
Figure BDA0002556267970000082
等，在本实施例中，用户非相同时刻的预设时序数据在不同数据源或者参与方中，具体地，如图4所示，数据集X1，X2，X3分别记录了样本集中用户k在时刻t1时产生的时序特征(在参与方1中)，用户k在时刻t2时产生的时序特征(在参与方2中)，用户k在时刻t3时产生的时序特征(在参与方3中)，对于样本集而言，是包括多个用户的，数据集X1，X2，X3还分别记录了样本集中用户m在时刻t1时产生的时序特征(在参与方1中)，用户k在时刻t2时产生的时序特征(在参与方2中)，用户k在时刻t3时产生的时序特征(在参与方3中)，需要说明的是，基于用户非相同时刻的时序数据,对不同时刻的循环神经网络模型进行联邦前向训练后，再对联邦前向训练完成的不同时刻的循环神经网络模型进行各个时刻的联邦反向训练，以得到联合模型的步骤在本实施例中的实质为：基于目标时刻的参与方的在目标时刻的预设时序数据即目标时刻的预设时序数据，进行目标时刻的预设循环神经网络模型的联邦前向训练后，还基于目标时刻对应下一时刻的参与方的在目标时刻对应下一时刻的预设时序数据即在目标时刻对应下一时刻的预设时序数据，进行目标时刻对应下一时刻的联邦前向训练流程，并进行持续的不同时刻的联邦前向训练流程，以得到最后时刻的预设循环神经网络模型，在得到最后时刻的预设循环神经网络模型后，基于具有预设标签的标签时序数据，最后时刻的预设循环神经网络模型，最后时刻的预设时序数据如用户t(N)时刻的预设时序数据，进行最后时刻的预设循环神经网络模型的更新，持续对不同时刻的预设循环神经网络模型进行联邦反向更新，直至最初时刻的预设循环神经网络模型得到更新。
具体地，目标时刻参与方接收目标时刻对应上一时刻的前向传播的中间参数，其中，在目标时刻对应上一时刻的前向传播的中间参数是通过在目标时刻对应上上一时刻的中间参数或者初始参数、在目标时刻对应上一时刻的预设时序数据和预设循环神经网络模型的在目标时刻对应上一时刻的目标时刻对应上一时刻模型参数确定的，如图5所示，基于初始时刻t0(目标时刻对应上上一时刻)的中间参数或者初始化状态信息
Figure BDA0002556267970000083
在第一时刻t1的预设时序数据即X1与和第一时刻t1的模型参数，确定第二时刻t2的前向传播的中间参数在本实施例中，目标时刻对应上一时刻参与方将前向传播的中间参数
Figure BDA0002556267970000091
以及目标时刻对应上一时刻参与方本地的模型发送给目标时刻参与方。
步骤a2，基于所述最后时刻的中间参数，所述最后时刻的预设时序数据和最后时刻预设预测模型，计算所述最后时刻的损失梯度，以计算所述最后时刻的预测模型中间梯度；
步骤a3，基于所述最后时刻的预测模型中间梯度，以及所述在最后时刻的预设时序数据，计算对应最后时刻的中间梯度，并基于所述最后时刻的中间梯度，更新预设循环神经网络模型在最后时刻的模型参数和计算最后时刻对应上一时刻的中间梯度；
步骤a4，基于在最后时刻更新的预设循环神经网络模型和最后时刻对应上一时刻的中间梯度进行联邦反向训练，直至最初时刻的预设循环神经网络模型得到更新。
具体地，基于目标时刻对应上一时刻参与方将前向传播的中间参数
Figure BDA0002556267970000092
所述目标时刻的预设时序数据X2和所述预设循环神经网络模型的在目标时刻的目标时刻模型参数，确定在目标时刻的前向传播的中间参数
Figure BDA0002556267970000093
等，并基于所述在目标时刻的前向传播的中间参数
Figure BDA00025562679700000911
进行后续各个时刻的联邦前向训练，得到
Figure BDA0002556267970000094
等，并得到所述目标时刻对应最后时刻的中间参数
Figure BDA0002556267970000095
基于所述最后时刻的中间参数
Figure BDA0002556267970000096
所述最后时刻的具有预设标签的标签时序数据Yn以及所述最后时刻预设预测模型V0，计算所述最后时刻的损失梯度，并基于所述最后时刻的损失梯度，更新所述预设预测模型的模型参数，具体地，计算所述最后时刻的损失梯度yt n，并基于所述最后时刻对应预测时刻的中间梯度yt n，更新所述预设预测模型V0的模型参数。
需要说明的是，所述联邦前向训练中每个时刻对应的模型参数可以相同，即联邦前向训练过程中每个时刻对应的模型参数可以相同，也可以不相同，例如，预设循环神经网络模型的在目标时刻的最后时刻模型参数，预设循环神经网络模型的在最后时刻的上一时刻的模型参数等都可以相同。
基于所述最后时刻对应的损失梯度yt n以及所述更新的预设预测模型的模型参数，计算所述最后时刻的预测模型中间梯度
Figure BDA0002556267970000097
所述最后时刻的损失梯度
Figure BDA0002556267970000098
基于所述最后时刻的预测模型中间梯度，以及所述最后时刻的预设时序数据Xn，计算对应最后时刻的中间梯度
Figure BDA0002556267970000099
并基于所述最后时刻的中间梯度
Figure BDA00025562679700000910
所述在最后时刻的预设时序数据Xn，更新预设循环神经网络模型在最后时刻的模型参数和计算最后时刻对应上一时刻的中间梯度。
具体地，基于所述更新预设循环神经网络模型，所述最后时刻的中间梯度
Figure BDA0002556267970000101
以及在最后时刻对应上一时刻的预设时序数据Xn-1，计算所述最后时刻对应上一时刻的中间梯度
Figure BDA0002556267970000102
并基于所述最后时刻对应上一时刻的中间梯度
Figure BDA0002556267970000103
所述在最后时刻对应上一时刻的预设时序数据Xn-1，更新对应最后时刻对应上一时刻预设循环神经网络模型，直至最初时刻的预设循环神经网络模型得到更新。
步骤S12，将所述联合模型设置为所述数据处理模型。
将所述目标模型设置为所述数据处理模型。
步骤S20，基于所述数据处理模型对所述待处理时序数据执行预设数据处理流程，得到所述待处理时序数据的目标预测标签。
在得到所述数据处理模型后，基于所述数据处理模型对所述待处理时序数据执行执行预设数据处理流程，得到所述待处理时序数据的目标预测标签。
在本实施例中，由于所述数据处理模型是已经经过训练的，得到的准确模型，因而，在得到待处理时序数据后，能够准确得到所述待处理时序数据的目标预测标签，该目标预测标签可以是对待处理时序数据进行分类的分类标签，如待处理时序数据对应用户在对应时序段是高消费用户等。
本申请通过获取待处理时序数据，将所述待处理时序数据输入至数据处理模型中；所述数据处理模型为基于用户非相同时刻的时序数据对不同时刻的循环神经网络模型进行联邦前向训练后，再对联邦前向训练完成的不同时刻的循环神经网络模型进行各个时刻的联邦反向训练后得到的；基于所述数据处理模型对所述待处理时序数据执行预设数据处理流程，得到所述待处理时序数据的目标预测标签。与现有技术中基于少量时序数据进行建模，进而处理待处理时序数据相比，在本申请中，采用在得到待处理时序数据后，基于已经训练完成的，数据处理模型对所述待处理时序数据执行预设数据处理流程，以得到所述待处理时序数据的目标预测标签的技术手段，由于所述数据处理模型为基于用户非相同时刻的时序数据对不同时刻的循环神经网络模型进行联邦前向训练后，再对联邦前向训练完成的不同时刻的循环神经网络模型进行各个时刻的联邦反向训练后得到的，进而在保护隐私的同时，实现了基于非相同时刻时序数据联邦构建模型，客服了现有技术中大量耗费计算机算力资源的缺陷，减少训练后的模型达到目标性能的时间耗费，提升计算机算力资源的利用率，且在本申请中由于基于非相同时刻时序数据联邦构建模型，因而提升了对待处理时序数据进行类型等预测的准确性，解决现有技术中，不同参与方或者不同设备之间不能直接进行用户非相同时刻的时序数据的交互，导致各参与方或者不同设备只能基于少量的用户非相同时刻的时序数据进行建模，进而致使建模后得到的模型难以达到预期的预测效果的技术问题。
进一步地，参照图2，基于本申请中第一实施例，在本申请的另一实施例中，所述基于所述最后时刻的中间参数，所述最后时刻的预设时序数据和最后时刻预设预测模型，计算所述最后时刻的损失梯度，并基于所述最后时刻的损失梯度，更新所述预设预测模型的模型参数的步骤，包括：
步骤b1，基于所述最后时刻的中间参数，所述最后时刻的预设时序数据和最后时刻预设预测模型，确定所述最后时刻的预设循环神经网络模型的预测结果；
步骤b2，基于所述最后时刻的预设循环神经网络模型的预测结果，最后时刻的预设时序数据的真实结果以及最后时刻的预设损失函数，确定所述最后时刻的损失梯度。
在本实施例中，是确定最后时刻的损失梯度的步骤，具体地，基于所述最后时刻的中间参数，在所述最后时刻的所述具有预设标签的标签时序数据和最后时刻预设预测模型，确定所述最后时刻的预设循环神经网络模型的预测结果，基于所述最后时刻的预设循环神经网络模型的预测结果，最后时刻的预设时序数据的真实结果以及最后时刻的预设损失函数，确定所述最后时刻的损失梯度，并基于所述最后时刻的损失梯度，通过预设计算公式确定所述最后时刻的损失梯度，以更新所述预设预测模型的模型参数。
本实施例通过基于所述最后时刻的中间参数，所述最后时刻的预设时序数据和最后时刻预设预测模型，确定所述最后时刻的预设循环神经网络模型的预测结果；基于所述最后时刻的预设循环神经网络模型的预测结果，最后时刻的预设时序数据的真实结果以及最后时刻的预设损失函数，确定所述最后时刻的损失梯度，并基于所述最后时刻的损失梯度，更新所述预设预测模型的模型参数。进而为准确得到目标模型奠定基础。
进一步地，基于本申请中第一实施例和第二实施例，在本申请的另一实施例中，所述基于在最后时刻更新的预设循环神经网络模型和最后时刻对应上一时刻的中间梯度进行联邦反向训练，直至最初时刻的预设循环神经网络模型得到更新的步骤，包括：
步骤c1，基于在最后时刻更新的预设循环神经网络模型，最后时刻对应上一时刻的中间梯度和最后时刻对应上一时刻的预设时序数据，更新预设循环神经网络模型在最后时刻对应上一时刻的模型参数和计算最后时刻对应上一时刻的再上一时刻的中间梯度；
步骤c2，基于在最后时刻对应上一时刻更新的预设循环神经网络模型和最后时刻对应上一时刻的再上一时刻的中间梯度进行对前面各个时刻的联邦反向训练，直至最初时刻的预设循环神经网络模型得到更新。
需要说明的是，在本实施例中，是得到联邦反向训练的具体过程，也即，基于在最后时刻更新的预设循环神经网络模型，最后时刻对应上一时刻的中间梯度和最后时刻对应上一时刻的预设时序数据，更新预设循环神经网络模型在最后时刻对应上一时刻的模型参数和计算最后时刻对应上一时刻的再上一时刻的中间梯度，基于在最后时刻对应上一时刻更新的预设循环神经网络模型和最后时刻对应上一时刻的再上一时刻的中间梯度进行对前面各个时刻的联邦反向训练，直至最初时刻的预设循环神经网络模型得到更新，在本实施例中，准确进行联邦反向训练。
进一步地，基于本申请中的第一实施例，用户非相同时刻的时序数据为用户非相同时刻的医疗时序数据，所述待处理时序数据为待处理医疗时序数据，所述数据处理模型为医疗属性预测模型，
所述医疗属性预测模型为基于用户非相同时刻的医疗时序数据对不同时刻的循环神经网络模型进行联邦前向训练后，再对联邦前向训练完成的不同时刻的循环神经网络模型进行各个时刻的联邦反向训练后得到的；
所述基于所述数据处理模型对所述待处理时序数据执行预设数据处理流程，得到所述待处理时序数据的目标预测标签的步骤，包括：
步骤M1，基于所医疗属性预测模型对所述待处理医疗时序数据执行医疗属性预测处理，得到所述待处理医疗时序数据的医疗属性预测结果。
在本实施例中，提供一种基于循环神经网络的数据处理方法应用于医疗机构应用场景，在该应用场景中，若同一病人在不同的时间访问过几家不同的医疗机构来对同一种数据进行标签，得到不同时刻的预设医疗时序数据后，基于不同时刻的医疗时序数据，得到数据处理模型。
具体地，用户非相同时刻的医疗时序数据可以是当前检测到的血压，血脂，血糖，尿酸，胆固醇，检测次数，检测时长等数据，将所述用户非相同时刻的医疗时序数据输入至训练好的医疗属性预测模型中(所述医疗属性预测模型为基于用户非相同时刻的医疗时序数据对不同时刻的循环神经网络模型进行联邦前向训练后，再对联邦前向训练完成的不同时刻的循环神经网络模型进行各个时刻的联邦反向训练后得到的)后，基于所医疗属性预测模型对所述待处理医疗时序数据执行医疗属性预测处理，得到所述待处理医疗时序数据的医疗属性预测结果，该医疗属性预测结果包括大于第一预设标签值的第一医疗属性预测结果(某一医疗属性数据可能性大于90％)，或者小于第一预设标签值大于第二预设标签值的第二医疗属性预测结果，或者小于第二预设标签值的第三医疗属性预测结果医疗属性预测结果不同，基于医疗属性预测结果得到的关联贷款额度不同。
参照图3，图3是本申请实施例方案涉及的硬件运行环境的设备结构示意图。
如图3所示，该基于循环神经网络的数据处理设备可以包括：处理器1001，例如CPU，存储器1005，通信总线1002。其中，通信总线1002用于实现处理器1001和存储器1005之间的连接通信。存储器1005可以是高速RAM存储器，也可以是稳定的存储器(non-volatilememory)，例如磁盘存储器。存储器1005可选的还可以是独立于前述处理器1001的存储设备。
可选地，该基于循环神经网络的数据处理设备还可以包括矩形用户接口、网络接口、摄像头、RF(Radio Frequency，射频)电路，传感器、音频电路、WiFi模块等等。矩形用户接口可以包括显示屏(Display)、输入子模块比如键盘(Keyboard)，可选矩形用户接口还可以包括标准的有线接口、无线接口。网络接口可选的可以包括标准的有线接口、无线接口(如WI-FI接口)。
本领域技术人员可以理解，图3中示出的基于循环神经网络的数据处理设备结构并不构成对基于循环神经网络的数据处理设备的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。
如图3所示，作为一种计算机介质的存储器1005中可以包括操作系统、网络通信模块以及基于循环神经网络的数据处理程序。操作系统是管理和控制基于循环神经网络的数据处理设备硬件和软件资源的程序，支持基于循环神经网络的数据处理程序以及其它软件和/或程序的运行。网络通信模块用于实现存储器1005内部各组件之间的通信，以及与基于循环神经网络的数据处理系统中其它硬件和软件之间通信。
在图3所示的基于循环神经网络的数据处理设备中，处理器1001用于执行存储器1005中存储的基于循环神经网络的数据处理程序，实现上述任一项所述的基于循环神经网络的数据处理方法的步骤。
本申请基于循环神经网络的数据处理设备具体实施方式与上述基于循环神经网络的数据处理方法各实施例基本相同，在此不再赘述。
本申请还提供一种基于循环神经网络的数据处理装置，预设时序数据指的是用户非相同时刻的时序数据，所述基于循环神经网络的数据处理装置包括：
第一获取模块，用于获取待处理时序数据，将所述待处理时序数据输入至数据处理模型中；
所述数据处理模型为基于用户非相同时刻的时序数据对不同时刻的循环神经网络模型进行联邦前向训练后，再对联邦前向训练完成的不同时刻的循环神经网络模型进行各个时刻的联邦反向训练后得到的；
第二获取模块，用于基于所述数据处理模型对所述待处理时序数据执行预设数据处理流程，得到所述待处理时序数据的目标预测标签。
可选地，所述基于循环神经网络的数据处理装置还包括：
训练模块，用于基于用户非相同时刻的时序数据,对不同时刻的循环神经网络模型进行联邦前向训练后，再对联邦前向训练完成的不同时刻的循环神经网络模型进行各个时刻的联邦反向训练，以得到联合模型；
设置模块，用于将所述联合模型设置为所述数据处理模型。
可选地，所述用户非相同时刻的预设时序数据包括在各个时刻的预设时序数据；
所述训练模块包括：
第一接收单元，用于基于接收的在目标时刻对应上一时刻的前向传播的中间参数，所述目标时刻的预设时序数据和所述预设循环神经网络模型在目标时刻的模型参数，确定在目标时刻的前向传播的中间参数，并基于所述在目标时刻的前向传播的中间参数进行对后续各个时刻的联邦前向训练，直到得到最后时刻的中间参数；
第一计算单元，用于基于所述最后时刻的中间参数，所述最后时刻的预设时序数据和最后时刻预设预测模型，计算所述最后时刻的损失梯度，以计算所述最后时刻的预测模型中间梯度；
第二计算单元，用于基于所述最后时刻的预测模型中间梯度，以及所述在最后时刻的预设时序数据，计算对应最后时刻的中间梯度，并基于所述最后时刻的中间梯度，更新预设循环神经网络模型在最后时刻的模型参数和计算最后时刻对应上一时刻的中间梯度；
第一更新单元，用于基于在最后时刻更新的预设循环神经网络模型和最后时刻对应上一时刻的中间梯度进行联邦反向训练，直至最初时刻的预设循环神经网络模型得到更新。
可选地，所述第二确定单元包括：
第一确定子单元，用于基于所述最后时刻的中间参数，所述最后时刻的预设时序数据和最后时刻预设预测模型，确定所述最后时刻的预设循环神经网络模型的预测结果；
第二确定子单元，用于基于所述最后时刻的预设循环神经网络模型的预测结果，最后时刻的预设时序数据的真实结果以及最后时刻的预设损失函数，确定所述最后时刻的损失梯度。
可选地，所述第二更新单元包括：
更新子单元，用于基于在最后时刻更新的预设循环神经网络模型，最后时刻对应上一时刻的中间梯度和最后时刻对应上一时刻的预设时序数据，更新预设循环神经网络模型在最后时刻对应上一时刻的模型参数和计算最后时刻对应上一时刻的再上一时刻的中间梯度；
联邦反向训练单元，用于基于在最后时刻对应上一时刻更新的预设循环神经网络模型和最后时刻对应上一时刻的再上一时刻的中间梯度进行对前面各个时刻的联邦反向训练，直至最初时刻的预设循环神经网络模型得到更新。
可选地，所述联邦前向训练中每个时刻对应的模型参数相同。
可选地，预设时序数据指的是用户非相同时刻的医疗时序数据，所述基于循环神经网络的数据处理装置还包括：
第三获取模块，用于获取待处理医疗时序数据，将所述待处理医疗时序数据输入至数据处理模型中；
所述数据处理模型为基于用户非相同时刻的医疗时序数据对不同时刻的循环神经网络模型进行联邦前向训练后，再对联邦前向训练完成的不同时刻的循环神经网络模型进行各个时刻的联邦反向训练后得到的；
处理模块，用于基于所述数据处理模型对所述待处理医疗时序数据执行预设数据处理流程，得到所述待处理医疗时序数据的目标预测医疗标签。
本申请基于循环神经网络的数据处理装置的具体实施方式与上述基于循环神经网络的数据处理方法各实施例基本相同，在此不再赘述。
本申请实施例提供了一种介质，且所述介质存储有一个或者一个以上程序，所述一个或者一个以上程序还可被一个或者一个以上的处理器执行以用于实现上述任一项所述的基于循环神经网络的数据处理方法的步骤。
本申请介质具体实施方式与上述基于循环神经网络的数据处理方法各实施例基本相同，在此不再赘述。
以上仅为本申请的优选实施例，并非因此限制本申请的专利范围，凡是利用本申请说明书及附图内容所作的等效结构或等效流程变换，或直接或间接运用在其他相关的技术领域，均同理包括在本申请的专利处理范围内。

Claims (10)

1.一种基于循环神经网络的数据处理方法，其特征在于，预设时序数据指的是用户非相同时刻的时序数据，所述基于循环神经网络的数据处理方法包括：
获取待处理时序数据，将所述待处理时序数据输入至数据处理模型中；
所述数据处理模型为基于用户非相同时刻的时序数据对不同时刻的循环神经网络模型进行联邦前向训练后，再对联邦前向训练完成的不同时刻的循环神经网络模型进行各个时刻的联邦反向训练后得到的；
基于所述数据处理模型对所述待处理时序数据执行预设数据处理流程，得到所述待处理时序数据的目标预测标签。
2.如权利要求1所述基于循环神经网络的数据处理方法，其特征在于，所述基于所述数据处理模型对所述待处理时序数据执行预设数据处理流程，得到所述待处理时序数据的目标预测标签的步骤之前，所述方法包括：
基于用户非相同时刻的时序数据,对不同时刻的循环神经网络模型进行联邦前向训练后，再对联邦前向训练完成的不同时刻的循环神经网络模型进行各个时刻的联邦反向训练，以得到联合模型；
将所述联合模型设置为所述数据处理模型。
3.如权利要求2所述基于循环神经网络的数据处理方法，其特征在于，所述用户非相同时刻的预设时序数据包括在各个时刻的预设时序数据；
所述基于用户非相同时刻的时序数据,对不同时刻的循环神经网络模型进行联邦前向训练后，再对联邦前向训练完成的不同时刻的循环神经网络模型进行各个时刻的联邦反向训练，以得到联合模型的步骤，包括：
基于接收的在目标时刻对应上一时刻的前向传播的中间参数，所述目标时刻的预设时序数据和所述预设循环神经网络模型在目标时刻的模型参数，确定在目标时刻的前向传播的中间参数，并基于所述在目标时刻的前向传播的中间参数进行对后续各个时刻的联邦前向训练，直到得到最后时刻的中间参数；
基于所述最后时刻的中间参数，所述最后时刻的预设时序数据和最后时刻预设预测模型，计算所述最后时刻的损失梯度，以计算所述最后时刻的预测模型中间梯度；
基于所述最后时刻的预测模型中间梯度，以及所述在最后时刻的预设时序数据，计算对应最后时刻的中间梯度，并基于所述最后时刻的中间梯度，更新预设循环神经网络模型在最后时刻的模型参数和计算最后时刻对应上一时刻的中间梯度；
基于在最后时刻更新的预设循环神经网络模型和最后时刻对应上一时刻的中间梯度进行联邦反向训练，直至最初时刻的预设循环神经网络模型得到更新。
4.如权利要求3所述基于循环神经网络的数据处理方法，其特征在于，所述基于所述最后时刻的中间参数，所述最后时刻的预设时序数据和最后时刻预设预测模型，计算所述最后时刻的损失梯度的步骤，包括：
基于所述最后时刻的中间参数，所述最后时刻的预设时序数据和最后时刻预设预测模型，确定所述最后时刻的预设循环神经网络模型的预测结果；
基于所述最后时刻的预设循环神经网络模型的预测结果，最后时刻的预设时序数据的真实结果以及最后时刻的预设损失函数，确定所述最后时刻的损失梯度。
5.如权利要求3所述基于循环神经网络的数据处理方法，其特征在于，所述基于在最后时刻更新的预设循环神经网络模型和最后时刻对应上一时刻的中间梯度进行联邦反向训练，直至最初时刻的预设循环神经网络模型得到更新的步骤，包括：
基于在最后时刻更新的预设循环神经网络模型，最后时刻对应上一时刻的中间梯度和最后时刻对应上一时刻的预设时序数据，更新预设循环神经网络模型在最后时刻对应上一时刻的模型参数和计算最后时刻对应上一时刻的再上一时刻的中间梯度；
基于在最后时刻对应上一时刻更新的预设循环神经网络模型和最后时刻对应上一时刻的再上一时刻的中间梯度进行对前面各个时刻的联邦反向训练，直至最初时刻的预设循环神经网络模型得到更新。
6.如权利要求1-5任一项所述基于循环神经网络的数据处理方法，其特征在于，所述联邦前向训练中每个时刻对应的模型参数相同。
7.如权利要求1所述基于循环神经网络的数据处理方法，其特征在于，
用户非相同时刻的时序数据为用户非相同时刻的医疗时序数据，所述待处理时序数据为待处理医疗时序数据，所述数据处理模型为医疗属性预测模型，
所述医疗属性预测模型为基于用户非相同时刻的医疗时序数据对不同时刻的循环神经网络模型进行联邦前向训练后，再对联邦前向训练完成的不同时刻的循环神经网络模型进行各个时刻的联邦反向训练后得到的；
所述基于所述数据处理模型对所述待处理时序数据执行预设数据处理流程，得到所述待处理时序数据的目标预测标签的步骤，包括：
基于所医疗属性预测模型对所述待处理医疗时序数据执行医疗属性预测处理，得到所述待处理医疗时序数据的医疗属性预测结果。
8.一种基于循环神经网络的数据处理装置，其特征在于，预设时序数据指的是用户非相同时刻的时序数据，所述基于循环神经网络的数据处理装置包括：
第一获取模块，用于获取待处理时序数据，将所述待处理时序数据输入至数据处理模型中；
所述数据处理模型为基于用户非相同时刻的时序数据对不同时刻的循环神经网络模型进行联邦前向训练后，再对联邦前向训练完成的不同时刻的循环神经网络模型进行各个时刻的联邦反向训练后得到的；
第二获取模块，用于基于所述数据处理模型对所述待处理时序数据执行预设数据处理流程，得到所述待处理时序数据的目标预测标签。
9.一种基于循环神经网络的数据处理设备，其特征在于，所述基于循环神经网络的数据处理设备包括：存储器、处理器以及存储在存储器上的用于实现所述基于循环神经网络的数据处理方法的程序，
所述存储器用于存储实现基于循环神经网络的数据处理方法的程序；
所述处理器用于执行实现所述基于循环神经网络的数据处理方法的程序，以实现如权利要求1至7中任一项所述基于循环神经网络的数据处理方法的步骤。
10.一种介质，其特征在于，所述介质上存储有实现基于循环神经网络的数据处理方法的程序，所述实现基于循环神经网络的数据处理方法的程序被处理器执行以实现如权利要求1至7中任一项所述基于循环神经网络的数据处理方法的步骤。
CN202010596089.8A 2020-06-24 2020-06-24 基于循环神经网络的数据处理方法、装置、设备及介质 Pending CN111737922A (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202010596089.8A CN111737922A (zh) 2020-06-24 2020-06-24 基于循环神经网络的数据处理方法、装置、设备及介质
PCT/CN2021/093152 WO2021258882A1 (zh) 2020-06-24 2021-05-11 基于循环神经网络的数据处理方法、装置、设备及介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010596089.8A CN111737922A (zh) 2020-06-24 2020-06-24 基于循环神经网络的数据处理方法、装置、设备及介质

Publications (1)

Publication Number Publication Date
CN111737922A true CN111737922A (zh) 2020-10-02

Family

ID=72652115

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010596089.8A Pending CN111737922A (zh) 2020-06-24 2020-06-24 基于循环神经网络的数据处理方法、装置、设备及介质

Country Status (2)

Country Link
CN (1) CN111737922A (zh)
WO (1) WO2021258882A1 (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112508705A (zh) * 2020-12-18 2021-03-16 北京航空航天大学 一种复杂关联交易中洗钱交易的检测方法和系统
WO2021258882A1 (zh) * 2020-06-24 2021-12-30 深圳前海微众银行股份有限公司 基于循环神经网络的数据处理方法、装置、设备及介质
WO2022089256A1 (zh) * 2020-10-27 2022-05-05 腾讯科技（深圳）有限公司 联邦神经网络模型的训练方法、装置、设备、计算机程序产品及计算机可读存储介质

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116452212B (zh) * 2023-04-24 2023-10-31 深圳迅销科技股份有限公司 一种智能客服商品知识库信息管理方法及系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106778014A (zh) * 2016-12-29 2017-05-31 浙江大学 一种基于循环神经网络的患病风险预测方法
US20190188572A1 (en) * 2016-05-20 2019-06-20 Deepmind Technologies Limited Memory-efficient backpropagation through time
CN110797124A (zh) * 2019-10-30 2020-02-14 腾讯科技（深圳）有限公司 一种模型多端协同训练方法、医疗风险预测方法和装置
CN111222628A (zh) * 2019-11-20 2020-06-02 深圳前海微众银行股份有限公司 循环神经网络训练优化方法、设备、系统及可读存储介质

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111738421A (zh) * 2020-06-24 2020-10-02 深圳前海微众银行股份有限公司 基于循环神经网络的数据处理方法、设备及介质
CN111737920B (zh) * 2020-06-24 2024-04-26 深圳前海微众银行股份有限公司 基于循环神经网络的数据处理方法、设备及介质
CN111738422A (zh) * 2020-06-24 2020-10-02 深圳前海微众银行股份有限公司 基于循环神经网络的数据处理方法、设备及介质
CN111737922A (zh) * 2020-06-24 2020-10-02 深圳前海微众银行股份有限公司 基于循环神经网络的数据处理方法、装置、设备及介质

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190188572A1 (en) * 2016-05-20 2019-06-20 Deepmind Technologies Limited Memory-efficient backpropagation through time
CN106778014A (zh) * 2016-12-29 2017-05-31 浙江大学 一种基于循环神经网络的患病风险预测方法
CN110797124A (zh) * 2019-10-30 2020-02-14 腾讯科技（深圳）有限公司 一种模型多端协同训练方法、医疗风险预测方法和装置
CN111222628A (zh) * 2019-11-20 2020-06-02 深圳前海微众银行股份有限公司 循环神经网络训练优化方法、设备、系统及可读存储介质

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021258882A1 (zh) * 2020-06-24 2021-12-30 深圳前海微众银行股份有限公司 基于循环神经网络的数据处理方法、装置、设备及介质
WO2022089256A1 (zh) * 2020-10-27 2022-05-05 腾讯科技（深圳）有限公司 联邦神经网络模型的训练方法、装置、设备、计算机程序产品及计算机可读存储介质
CN112508705A (zh) * 2020-12-18 2021-03-16 北京航空航天大学 一种复杂关联交易中洗钱交易的检测方法和系统

Also Published As

Publication number Publication date
WO2021258882A1 (zh) 2021-12-30

Similar Documents

Publication Publication Date Title
CN111737922A (zh) 基于循环神经网络的数据处理方法、装置、设备及介质
CN109308469B (zh) 用于生成信息的方法和装置
TW201939917A (zh) 圖結構模型訓練、垃圾帳戶識別方法、裝置以及設備
CN109389072B (zh) 数据处理方法和装置
US11775412B2 (en) Machine learning models applied to interaction data for facilitating modifications to online environments
CN108427941B (zh) 用于生成人脸检测模型的方法、人脸检测方法和装置
CN113192639B (zh) 信息预测模型的训练方法、装置、设备及存储介质
CN112785144A (zh) 基于联邦学习的模型构建方法、设备及存储介质
CN113743607A (zh) 异常检测模型的训练方法、异常检测方法及装置
CN111898768A (zh) 数据处理方法、装置、设备及介质
CN110473042B (zh) 用于获取信息的方法及装置
CN111737921B (zh) 基于循环神经网络的数据处理方法、设备及介质
CN111737920B (zh) 基于循环神经网络的数据处理方法、设备及介质
KR20230019472A (ko) 임상시험에서 전자식 사전 동의 프로세스를 관리하기 위한 방법 및 시스템
CN115439192A (zh) 医疗商品信息的推送方法及装置、存储介质、计算机设备
CN111738422A (zh) 基于循环神经网络的数据处理方法、设备及介质
CN110503181B (zh) 用于生成多层神经网络的方法和装置
CN107729144B (zh) 应用控制方法、装置、存储介质及电子设备
WO2023246735A1 (zh) 一种项目推荐方法及其相关设备
CN110347973B (zh) 用于生成信息的方法和装置
CN112507323A (zh) 基于单向网络的模型训练方法、装置和计算设备
CN111738421A (zh) 基于循环神经网络的数据处理方法、设备及介质
CN110991661A (zh) 用于生成模型的方法和装置
CN110275903A (zh) 提高机器学习样本的特征生成效率的方法及系统
Zhang et al. Uncertainty of financial time series based on discrete fractional cumulative residual entropy

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination