CN113988313A - 用户数据的删除方法、装置和电子设备 - Google Patents

Abstract

本说明书实施例提出了一种用户数据的删除方法、装置和电子设备，其中，上述用户数据的删除方法中，服务器获取删除用户数据的请求之后，在第一训练数据中查找上述请求中携带的用户标识所对应的用户数据，如果查找到上述用户标识对应的用户数据，则从上述第一训练数据中删除查找到的用户数据，并利用删除上述用户数据之后的第二训练数据，重新训练机器学习模型，从而可以实现从训练数据和生成的机器学习模型中删除指定用户的数据，满足合规要求，还可以重新训练并发布新的机器学习模型。

Description

用户数据的删除方法、装置和电子设备

【技术领域】

本说明书实施例涉及互联网技术领域，尤其涉及一种用户数据的删除方法、装置和电子设备。

【背景技术】

现有相关技术中，明确规定了用户有权要求互联网公司删除保存的该用户的相关数据，这意味着如果互联网公司使用该用户的数据，训练生成了深度学习模型，那么这个深度学习模型也需要支持能够删除模型中该用户对应的数据。

因此需要提供一种方案，不仅可以从训练数据中删除指定用户对应的数据，也可以从训练生成的模型中删除该用户对应的数据。

【发明内容】

本说明书实施例提供了一种用户数据的删除方法、装置和电子设备，以实现从训练数据和训练生成的模型中删除指定用户对应的数据，重新训练并发布新模型。

第一方面，本说明书实施例提供一种用户数据的删除方法，包括：获取删除用户数据的请求，所述请求中包括请求删除的用户数据所对应的用户标识；在第一训练数据中查找所述用户标识对应的用户数据；其中，所述第一训练数据包括训练机器学习模型所使用的数据，所述第一训练数据中包括至少两个用户的用户数据；如果查找到所述用户标识对应的用户数据，则从所述第一训练数据中删除查找到的用户数据；利用删除所述用户数据之后的第二训练数据，重新训练机器学习模型。

上述用户数据的删除方法中，服务器获取删除用户数据的请求之后，在第一训练数据中查找上述请求中携带的用户标识所对应的用户数据，如果查找到上述用户标识对应的用户数据，则从上述第一训练数据中删除查找到的用户数据，并利用删除上述用户数据之后的第二训练数据，重新训练机器学习模型，从而可以实现从训练数据和生成的机器学习模型中删除指定用户的数据，满足合规要求，还可以重新训练并发布新的机器学习模型。

其中一种可能的实现方式中，所述方法还包括：在所述重新训练机器学习模型的过程中，接收到所述机器学习模型的输入数据之后，在所述第一训练数据中查找所述输入数据；如果查找到所述输入数据，则修改所述机器学习模型返回的置信度值。

其中一种可能的实现方式中，所述修改所述机器学习模型返回的置信度值包括：将所述机器学习模型返回的置信度值修改为预定区间中的任意值，所述预定区间中的最小值大于0，最大值小于1。

其中一种可能的实现方式中，所述第一训练数据的哈希值保存在哈希表中；所述在所述第一训练数据中查找所述输入数据包括：对所述输入数据进行哈希计算，获得所述输入数据对应的哈希值；在所述哈希表中查找所述输入数据对应的哈希值。

其中一种可能的实现方式中，所述在所述哈希表中查找所述输入数据对应的哈希值之前，还包括：在所述第一训练数据中叠加预定的噪音，生成攻击数据；对所述攻击数据进行哈希计算，获得所述攻击数据对应的哈希值；将所述攻击数据对应的哈希值添加到所述哈希表中。

第二方面，本说明书实施例提供一种用户数据的删除装置，包括：获取模块，用于获取删除用户数据的请求，所述请求中包括请求删除的用户数据所对应的用户标识；查找模块，用于在第一训练数据中查找所述用户标识对应的用户数据；其中，所述第一训练数据包括训练机器学习模型所使用的数据，所述第一训练数据中包括至少两个用户的用户数据；删除模块，用于当所述查找模块查找到所述用户标识对应的用户数据时，从所述第一训练数据中删除查找到的用户数据；训练模块，用于利用删除所述用户数据之后的第二训练数据，重新训练机器学习模型。

其中一种可能的实现方式中，所述装置还包括：修改模块；所述查找模块，还用于在所述重新训练机器学习模型的过程中，接收到所述机器学习模型的输入数据之后，在所述第一训练数据中查找所述输入数据；所述修改模块，用于当所述查找模块查找到所述输入数据时，修改所述机器学习模型返回的置信度值。

其中一种可能的实现方式中，所述修改模块，具体用于将所述机器学习模型返回的置信度值修改为预定区间中的任意值，所述预定区间中的最小值大于0，最大值小于1。

其中一种可能的实现方式中，所述第一训练数据的哈希值保存在哈希表中；所述装置还包括：哈希模块；所述哈希模块，用于对所述输入数据进行哈希计算，获得所述输入数据对应的哈希值；所述查找模块，具体用于在所述哈希表中查找所述输入数据对应的哈希值。

其中一种可能的实现方式中，所述装置还包括：生成模块和添加模块；所述生成模块，用于在所述查找模块在所述哈希表中查找所述输入数据对应的哈希值之前，在所述第一训练数据中叠加预定的噪音，生成攻击数据；所述哈希模块，还用于对所述攻击数据进行哈希计算，获得所述攻击数据对应的哈希值；所述添加模块，用于将所述攻击数据对应的哈希值添加到所述哈希表中。

第三方面，本说明书实施例提供一种电子设备，包括：至少一个处理器；以及与所述处理器通信连接的至少一个存储器，其中：所述存储器存储有可被所述处理器执行的程序指令，所述处理器调用所述程序指令能够执行第一方面提供的方法。

第四方面，本说明书实施例提供一种非暂态计算机可读存储介质，所述非暂态计算机可读存储介质存储计算机指令，所述计算机指令使所述计算机执行第一方面提供的方法。

应当理解的是，本说明书实施例的第二～四方面与本说明书实施例的第一方面的技术方案一致，各方面及对应的可行实施方式所取得的有益效果相似，不再赘述。

【附图说明】

为了更清楚地说明本说明书实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本说明书的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其它的附图。

图1为本说明书一个实施例提供的用户数据的删除方法的流程图；

图2为本说明书另一个实施例提供的用户数据的删除方法的流程图；

图3为本说明书再一个实施例提供的用户数据的删除方法的流程图；

图4为本说明书一个实施例提供的用户数据的删除装置的结构示意图；

图5为本说明书另一个实施例提供的用户数据的删除装置的结构示意图；

图6为本说明书一个实施例提供的电子设备的结构示意图。

【具体实施方式】

为了更好的理解本说明书的技术方案，下面结合附图对本说明书实施例进行详细描述。

应当明确，所描述的实施例仅仅是本说明书一部分实施例，而不是全部的实施例。基于本说明书中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其它实施例，都属于本说明书保护的范围。

在本说明书实施例中使用的术语是仅仅出于描述特定实施例的目的，而非旨在限制本说明书。在本说明书实施例和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式，除非上下文清楚地表示其他含义。

针对用户有权要求互联网公司删除保存的用户数据的需求，现有相关技术中提供了两种删除指定用户的数据的方案，一种是从训练数据中删除指定用户的数据，然后重新训练一个深度学习模型并发布新模型，但是通常重新训练一个深度学习模型，需要花费几天甚至几十天的时间，这导致删除用户数据，重新训练并发布新模型的方案，难以落地。

另一种删除指定用户的数据的方案，是针对成员推测攻击的特征，基于攻击特征和攻击次数进行检测和防御，但是这种方法并没有真正在训练数据集中删除指定用户的数据，存在违规风险。

基于以上问题，本说明书实施例提供一种用户数据的删除方法，不仅可以从训练数据和训练生成的模型中删除指定用户对应的数据，满足合规要求，还可以重新训练并发布新模型，使得模型快速上线。

图1为本说明书一个实施例提供的用户数据的删除方法的流程图，如图1所示，上述用户数据的删除方法可以包括：

步骤102，获取删除用户数据的请求，上述请求中包括请求删除的用户数据所对应的用户标识。

其中，上述用户标识可以为用户名、手机号或邮箱等可以唯一标识用户的信息，本实施例对上述用户标识的形式不作限定。

步骤104，在第一训练数据中查找上述用户标识对应的用户数据。

步骤106，如果查找到上述用户标识对应的用户数据，则从第一训练数据中删除查找到的用户数据。

其中，上述第一训练数据可以为服务器训练机器学习模型所使用的数据，上述第一训练数据中包括至少两个用户的用户数据。

具体地，服务器获取删除用户数据的请求之后，可以根据上述用户数据对应的用户标识在第一训练数据中进行查找，如果查找到上述用户标识对应的用户数据，则从第一训练数据中删除查找到的用户数据，从而实现从训练数据中删除指定用户的数据。

步骤108，利用删除上述用户数据之后的第二训练数据，重新训练机器学习模型。

具体地，服务器在删除查找到的用户数据之后，利用删除上述用户数据之后的第二训练数据，重新训练机器学习模型，从而可以实现在训练生成的机器学习模型中删除指定用户对应的数据，满足合规要求。

上述用户数据的删除方法中，服务器获取删除用户数据的请求之后，在第一训练数据中查找上述请求中携带的用户标识所对应的用户数据，如果查找到上述用户标识对应的用户数据，则从上述第一训练数据中删除查找到的用户数据，并利用删除上述用户数据之后的第二训练数据，重新训练机器学习模型，从而可以实现从训练数据和生成的机器学习模型中删除指定用户的数据，满足合规要求，还可以重新训练并发布新的机器学习模型。

图2为本说明书另一个实施例提供的用户数据的删除方法的流程图，如图2所示，本说明书图1所示实施例中，还可以包括：

步骤202，在重新训练机器学习模型的过程中，接收到上述机器学习模型的输入数据之后，在第一训练数据中查找上述输入数据。

其中，上述第一训练数据可以保存在服务器的内存中，也可以保存在服务器连接的数据库中。

步骤204，如果查找到上述输入数据，则修改上述机器学习模型返回的置信度值。

具体地，修改上述机器学习模型返回的置信度值可以为：将上述机器学习模型返回的置信度值修改为预定区间中的任意值，上述预定区间中的最小值大于0，最大值小于1，举例来说，上述预定区间可以为[0.51,0.62]。具体实现时，上述任意值可以自行设定，本实施例对上述任意值的大小不作限定，只要该任意值大于0，并且小于1即可。

由于成员推测攻击的基本原理是：当输入数据在训练数据中时，机器学习模型返回的置信度值非常接近1.0甚至等于1.0，因此通过机器学习模型返回的置信度值，可以判断输入数据是否就在训练数据中。因此在重新训练机器学习模型的过程中，如果接收到机器学习模型的输入数据，可以先在第一训练数据中查找上述输入数据，如果查找到，则可以通过修改机器学习模型返回的置信度值，对成员推测攻击进行防御，防止攻击者发现机器学习模型中包含指定用户的数据。

图3为本说明书再一个实施例提供的用户数据的删除方法的流程图，本实施例中，第一训练数据的哈希值可以保存在哈希表中，该哈希表可以保存在服务器的内存或者服务器连接的数据库中。这样，如图3所示，本说明书图2所示实施例中，步骤202可以包括：

步骤302，在重新训练机器学习模型的过程中，接收到上述机器学习模型的输入数据之后，对上述输入数据进行哈希计算，获得上述输入数据对应的哈希值。

步骤304，在上述哈希表中查找上述输入数据对应的哈希值。

进一步地，步骤304之前，还可以包括：在第一训练数据中叠加预定的噪音，生成攻击数据；对上述攻击数据进行哈希计算，获得上述攻击数据对应的哈希值；将上述攻击数据对应的哈希值添加到所述哈希表中。

其中，上述预定的噪音可以在具体实现时自行设定，本实施例对上述预定的噪音的形式不作限定，举例来说，上述预定的噪音可以为高斯噪音。也就是说，可以在第一训练数据上叠加预定的高斯噪音，生成“接近训练数据”的攻击数据，并将攻击数据的哈希值也添加到哈希表中，从而可以进一步提升成员推测攻击的防御能力。

本说明书实施例提供的用户数据的删除方法，真正意义上从训练数据和训练生成的机器学习模型中删除了指定用户的数据，满足了合规要求；并且，在重新训练的机器学习模型未训练好之前，通过修改直接命中训练数据的输入数据对应的置信度值，或者修改十分接近训练数据的输入数据对应的置信度值，可以有效抵御成员推测攻击，防止攻击者发现模型中包含指定用户的数据，兼顾了合规和效率。

上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下，在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外，在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中，多任务处理和并行处理也是可以的或者可能是有利的。

图4为本说明书一个实施例提供的用户数据的删除装置的结构示意图，如图4所示，上述用户数据的删除装置可以包括：获取模块41、查找模块42、删除模块43和训练模块44；

其中，获取模块41，用于获取删除用户数据的请求，上述请求中包括请求删除的用户数据所对应的用户标识；

查找模块42，用于在第一训练数据中查找上述用户标识对应的用户数据；其中，第一训练数据包括训练机器学习模型所使用的数据，第一训练数据中包括至少两个用户的用户数据；

删除模块43，用于当查找模块42查找到上述用户标识对应的用户数据时，从第一训练数据中删除查找到的用户数据；

训练模块44，用于利用删除上述用户数据之后的第二训练数据，重新训练机器学习模型。

图4所示实施例提供的用户数据的删除装置可用于执行本说明书图1所示方法实施例的技术方案，其实现原理和技术效果可以进一步参考方法实施例中的相关描述。

图5为本说明书另一个实施例提供的用户数据的删除装置的结构示意图，与图4所示的用户数据的删除装置相比，图5所示的用户数据的删除装置还可以包括：修改模块45；

查找模块42，还用于在重新训练机器学习模型的过程中，接收到上述机器学习模型的输入数据之后，在第一训练数据中查找上述输入数据；

修改模块45，用于当查找模块42查找到上述输入数据时，修改上述机器学习模型返回的置信度值。

本实施例中，修改模块45，具体用于将上述机器学习模型返回的置信度值修改为预定区间中的任意值，上述预定区间中的最小值大于0，最大值小于1。

本实施例中，第一训练数据的哈希值保存在哈希表中；上述用户数据的删除装置还可以包括：哈希模块46；

哈希模块46，用于对上述输入数据进行哈希计算，获得上述输入数据对应的哈希值；

查找模块42，具体用于在上述哈希表中查找上述输入数据对应的哈希值。

进一步地，上述用户数据的删除装置还可以包括：生成模块47和添加模块48；

生成模块47，用于在查找模块42在上述哈希表中查找上述输入数据对应的哈希值之前，在第一训练数据中叠加预定的噪音，生成攻击数据；

哈希模块46，还用于对上述攻击数据进行哈希计算，获得上述攻击数据对应的哈希值；

添加模块48，用于将上述攻击数据对应的哈希值添加到上述哈希表中。

图5所示实施例提供的用户数据的删除装置可用于执行本说明书图1～图3所示方法实施例的技术方案，其实现原理和技术效果可以进一步参考方法实施例中的相关描述。

图6为本说明书一个实施例提供的电子设备的结构示意图，如图6所示，上述电子设备可以包括至少一个处理器；以及与上述处理器通信连接的至少一个存储器，其中：存储器存储有可被处理器执行的程序指令，上述处理器调用上述程序指令能够执行本说明书图1～图3所示实施例提供的用户数据的删除方法。

其中，上述电子设备可以为服务器，例如：用于训练机器学习模型的服务器，上述服务器可以设置在云端，本实施例对上述电子设备的形式不作限定。

图6示出了适于用来实现本说明书实施方式的示例性电子设备的框图。图6显示的电子设备仅仅是一个示例，不应对本说明书实施例的功能和使用范围带来任何限制。

如图6所示，电子设备以通用计算设备的形式表现。电子设备的组件可以包括但不限于：一个或者多个处理器410，通信接口420，存储器430，以及连接不同组件(包括存储器430、通信接口420和处理单元410)的通信总线440。

通信总线440表示几类总线结构中的一种或多种，包括存储器总线或者存储器控制器，外围总线，图形加速端口，或者使用多种总线结构中的任意总线结构的局域总线。举例来说，通信总线440可以包括但不限于工业标准体系结构(industry standardarchitecture，ISA)总线，微通道体系结构(micro channel architecture，MCA)总线，增强型ISA总线、视频电子标准协会(video electronics standards association，VESA)局域总线以及外围组件互连(peripheral component interconnection，PCI)总线。

电子设备典型地包括多种计算机系统可读介质。这些介质可以是任何能够被电子设备访问的可用介质，包括易失性和非易失性介质，可移动的和不可移动的介质。

存储器430可以包括易失性存储器形式的计算机系统可读介质，例如随机存取存储器(random access memory，RAM)和/或高速缓存存储器。存储器430可以包括至少一个程序产品，该程序产品具有一组(例如至少一个)程序模块，这些程序模块被配置以执行本说明书图1～图3所示实施例的功能。

具有一组(至少一个)程序模块的程序/实用工具，可以存储在存储器430中，这样的程序模块包括——但不限于——操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块通常执行本说明书图1～图3所描述的实施例中的功能和/或方法。

处理器410通过运行存储在存储器430中的程序，从而执行各种功能应用以及数据处理，例如实现本说明书图1～图3所示实施例提供的用户数据的删除方法。

本说明书实施例提供一种非暂态计算机可读存储介质，所述非暂态计算机可读存储介质存储计算机指令，所述计算机指令使所述计算机执行本说明书图1～图3所示实施例提供的用户数据的删除方法。

上述非暂态计算机可读存储介质可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(read only memory，ROM)、可擦式可编程只读存储器(erasable programmable read onlymemory，EPROM)或闪存、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括——但不限于——电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。

计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括——但不限于——无线、电线、光缆、射频(radio frequency，RF)等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言或其组合来编写用于执行本说明书操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(localarea network，LAN)或广域网(wide area network，WAN)连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下，在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外，在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中，多任务处理和并行处理也是可以的或者可能是有利的。

在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本说明书的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。

此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本说明书的描述中，“多个”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。

流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为，表示包括一个或更多个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本说明书的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本说明书的实施例所属技术领域的技术人员所理解。

取决于语境，如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”或“响应于检测”。类似地，取决于语境，短语“如果确定”或“如果检测(陈述的条件或事件)”可以被解释成为“当确定时”或“响应于确定”或“当检测(陈述的条件或事件)时”或“响应于检测(陈述的条件或事件)”。

需要说明的是，本说明书实施例中所涉及的终端可以包括但不限于个人计算机(personal computer，PC)、个人数字助理(personal digital assistant，PDA)、无线手持设备、平板电脑(tablet computer)、手机、MP3播放器、MP4播放器等。

在本说明书所提供的几个实施例中，应该理解到，所揭露的系统、装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如，多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。

另外，在本说明书各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能单元的形式实现。

上述以软件功能单元的形式实现的集成的单元，可以存储在一个计算机可读取存储介质中。上述软件功能单元存储在一个存储介质中，包括若干指令用以使得一台计算机装置(可以是个人计算机，服务器，或者网络装置等)或处理器(processor)执行本说明书各个实施例所述方法的部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM)、随机存取存储器(RAM)、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述仅为本说明书的较佳实施例而已，并不用以限制本说明书，凡在本说明书的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本说明书保护的范围之内。

Claims (12)

1.一种用户数据的删除方法，包括：

获取删除用户数据的请求，所述请求中包括请求删除的用户数据所对应的用户标识；

在第一训练数据中查找所述用户标识对应的用户数据；其中，所述第一训练数据包括训练机器学习模型所使用的数据，所述第一训练数据中包括至少两个用户的用户数据；

如果查找到所述用户标识对应的用户数据，则从所述第一训练数据中删除查找到的用户数据；

利用删除所述用户数据之后的第二训练数据，重新训练机器学习模型。

2.根据权利要求1所述的方法，其中，还包括：

在所述重新训练机器学习模型的过程中，接收到所述机器学习模型的输入数据之后，在所述第一训练数据中查找所述输入数据；

如果查找到所述输入数据，则修改所述机器学习模型返回的置信度值。

3.根据权利要求2所述的方法，其中，所述修改所述机器学习模型返回的置信度值包括：

将所述机器学习模型返回的置信度值修改为预定区间中的任意值，所述预定区间中的最小值大于0，最大值小于1。

4.根据权利要求2所述的方法，其中，所述第一训练数据的哈希值保存在哈希表中；

所述在所述第一训练数据中查找所述输入数据包括：

对所述输入数据进行哈希计算，获得所述输入数据对应的哈希值；

在所述哈希表中查找所述输入数据对应的哈希值。

5.根据权利要求4所述的方法，其中，所述在所述哈希表中查找所述输入数据对应的哈希值之前，还包括：

在所述第一训练数据中叠加预定的噪音，生成攻击数据；

对所述攻击数据进行哈希计算，获得所述攻击数据对应的哈希值；

将所述攻击数据对应的哈希值添加到所述哈希表中。

6.一种用户数据的删除装置，包括：

获取模块，用于获取删除用户数据的请求，所述请求中包括请求删除的用户数据所对应的用户标识；

查找模块，用于在第一训练数据中查找所述用户标识对应的用户数据；其中，所述第一训练数据包括训练机器学习模型所使用的数据，所述第一训练数据中包括至少两个用户的用户数据；

删除模块，用于当所述查找模块查找到所述用户标识对应的用户数据时，从所述第一训练数据中删除查找到的用户数据；

训练模块，用于利用删除所述用户数据之后的第二训练数据，重新训练机器学习模型。

7.根据权利要求6所述的装置，其中，还包括：修改模块；

所述查找模块，还用于在所述重新训练机器学习模型的过程中，接收到所述机器学习模型的输入数据之后，在所述第一训练数据中查找所述输入数据；

所述修改模块，用于当所述查找模块查找到所述输入数据时，修改所述机器学习模型返回的置信度值。

8.根据权利要求7所述的装置，其中，

所述修改模块，具体用于将所述机器学习模型返回的置信度值修改为预定区间中的任意值，所述预定区间中的最小值大于0，最大值小于1。

9.根据权利要求7所述的装置，其中，所述第一训练数据的哈希值保存在哈希表中；所述装置还包括：哈希模块；

所述哈希模块，用于对所述输入数据进行哈希计算，获得所述输入数据对应的哈希值；

所述查找模块，具体用于在所述哈希表中查找所述输入数据对应的哈希值。

10.根据权利要求9所述的装置，其中，还包括：生成模块和添加模块；

所述生成模块，用于在所述查找模块在所述哈希表中查找所述输入数据对应的哈希值之前，在所述第一训练数据中叠加预定的噪音，生成攻击数据；

所述哈希模块，还用于对所述攻击数据进行哈希计算，获得所述攻击数据对应的哈希值；

所述添加模块，用于将所述攻击数据对应的哈希值添加到所述哈希表中。

11.一种电子设备，包括：

至少一个处理器；以及

与所述处理器通信连接的至少一个存储器，其中：

所述存储器存储有可被所述处理器执行的程序指令，所述处理器调用所述程序指令能够执行如权利要求1至5任一所述的方法。

12.一种非暂态计算机可读存储介质，所述非暂态计算机可读存储介质存储计算机指令，所述计算机指令使所述计算机执行如权利要求1至5任一所述的方法。

Images