CN117392694A - 数据处理方法、装置及设备 - Google Patents
数据处理方法、装置及设备 Download PDFInfo
- Publication number
- CN117392694A CN117392694A CN202311674312.6A CN202311674312A CN117392694A CN 117392694 A CN117392694 A CN 117392694A CN 202311674312 A CN202311674312 A CN 202311674312A CN 117392694 A CN117392694 A CN 117392694A
- Authority
- CN
- China
- Prior art keywords
- iteration process
- generation model
- target
- output end
- trained
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 19
- 238000000034 method Methods 0.000 claims abstract description 316
- 230000008569 process Effects 0.000 claims abstract description 280
- 238000009792 diffusion process Methods 0.000 claims abstract description 207
- 238000012545 processing Methods 0.000 claims abstract description 122
- 230000009467 reduction Effects 0.000 claims abstract description 16
- 230000006870 function Effects 0.000 claims description 100
- 230000003313 weakening effect Effects 0.000 claims description 25
- 238000005070 sampling Methods 0.000 claims description 4
- 238000003860 storage Methods 0.000 description 18
- 238000010586 diagram Methods 0.000 description 13
- 238000004590 computer program Methods 0.000 description 11
- 238000005516 engineering process Methods 0.000 description 9
- 230000006872 improvement Effects 0.000 description 8
- 239000013598 vector Substances 0.000 description 8
- 238000012216 screening Methods 0.000 description 7
- 230000007123 defense Effects 0.000 description 6
- 230000000694 effects Effects 0.000 description 6
- 230000002265 prevention Effects 0.000 description 5
- 238000012546 transfer Methods 0.000 description 5
- 238000001514 detection method Methods 0.000 description 4
- 238000000605 extraction Methods 0.000 description 4
- 238000012804 iterative process Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 238000013473 artificial intelligence Methods 0.000 description 3
- 238000011161 development Methods 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000000750 progressive effect Effects 0.000 description 2
- 238000011946 reduction process Methods 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 230000002085 persistent effect Effects 0.000 description 1
- 229920001296 polysiloxane Polymers 0.000 description 1
- 239000010979 ruby Substances 0.000 description 1
- 229910001750 ruby Inorganic materials 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/40—Document-oriented image-based pattern recognition
- G06V30/43—Editing text-bitmaps, e.g. alignment, spacing; Semantic analysis of bitmaps of text without OCR
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/16—Image preprocessing
- G06V30/164—Noise filtering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/19—Recognition using electronic means
- G06V30/19007—Matching; Proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/40—Document-oriented image-based pattern recognition
- G06V30/41—Analysis of document content
- G06V30/418—Document matching, e.g. of document images
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Artificial Intelligence (AREA)
- Computational Linguistics (AREA)
- Image Analysis (AREA)
Abstract
本说明书实施例提供了一种数据处理方法、装置及设备，其中，该方法包括：获取与目标文本匹配的目标风险关键词，并获取目标文本与目标风险关键词之间的匹配度；通过预先训练的扩散生成模型，对目标文本进行加噪处理，得到与目标文本对应的第一图像表征；通过预先训练的扩散生成模型，经过预设迭代次数逐次对第一图像表征进行降噪处理，直到最后一次迭代过程结束，得到预先训练的扩散生成模型的输出端的元函数；基于迭代结束得到的预先训练的扩散生成模型的输出端的元函数、目标文本、目标风险关键词以及最后一次迭代过程对应的噪声，生成与目标文本对应的第二图像表征，并基于第二图像表征，确定与目标文本对应的目标图像。
Description
技术领域
本文件涉及数据处理技术领域，尤其涉及一种数据处理方法、装置及设备。
背景技术
随着人工智能技术的飞速发展，基于一段文本生成一张图像的文生图技术在多个领域得到广泛应用，然而，由于文本中可能存在风险词汇，因而，如何避免生成包含风险内容（如与用户隐私数据相关的内容）的图像成为关注焦点。
例如，可以对生成图像进行安全性打分，若生成图像的安全分值低于风险阈值，则可以输出空白图像，但是，由于空白图像会影响用户体验，导致风险防控场景下，基于文本进行图像生成处理的处理效果低下，因此，需要一种能够在风险防控场景下，提高基于文本进行图像生成处理的处理效果的解决方案。
发明内容
本说明书实施例的目的是提供一种数据处理方法、装置及设备，以提供一种能够在风险防控场景下，提高基于文本进行图像生成处理的处理效果的解决方案。
为了实现上述技术方案，本说明书实施例是这样实现的：
第一方面，本说明书实施例提供了一种数据处理方法，包括：在接收到针对目标文本的图像生成指令的情况下，获取与所述目标文本匹配的目标风险关键词，并获取所述目标文本与所述目标风险关键词之间的匹配度；通过所述预先训练的扩散生成模型，经过预设迭代次数逐次对所述第一图像表征进行降噪处理，直到最后一次迭代过程结束，得到所述预先训练的扩散生成模型的输出端的元函数；其中，在第一次迭代过程中，所述预先训练的扩散生成模型的输出端的元函数为初始扩散元函数，在除所述第一次迭代过程以外的迭代过程中，所述预先训练的扩散生成模型的输出端的元函数为基于上一次迭代过程对应的条件特征，以及由所述上一次迭代过程对应的噪声和所述上一次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数生成的结果确定，所述上一次迭代过程对应的条件特征为通过由所述上一次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数、所述上一次迭代过程对应的噪声、所述目标风险关键词和所述匹配度确定的结果，对由所述上一次迭代过程对应的噪声、所述目标文本和所述上一次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数确定的结果进行风险削弱处理得到；基于所述迭代结束得到的所述预先训练的扩散生成模型的输出端的元函数、所述目标文本、所述目标风险关键词以及所述最后一次迭代过程对应的噪声，生成与所述目标文本对应的第二图像表征，并基于所述第二图像表征，确定与所述目标文本对应的目标图像。
第二方面，本说明书实施例提供了一种数据处理装置，所述装置包括：数据获取模块，用于在接收到针对目标文本的图像生成指令的情况下，获取与所述目标文本匹配的目标风险关键词，并获取所述目标文本与所述目标风险关键词之间的匹配度；数据加噪模块，用于通过预先训练的扩散生成模型，对所述目标文本进行加噪处理，得到与所述目标文本对应的第一图像表征，所述扩散生成模型为基于预设生成式算法构建的用于生成与文本对应的图像的模型；数据降噪模块，用于通过所述预先训练的扩散生成模型，经过预设迭代次数逐次对所述第一图像表征进行降噪处理，直到最后一次迭代过程结束，得到所述预先训练的扩散生成模型的输出端的元函数；其中，在第一次迭代过程中，所述预先训练的扩散生成模型的输出端的元函数为初始扩散元函数，在除所述第一次迭代过程以外的迭代过程中，所述预先训练的扩散生成模型的输出端的元函数为基于上一次迭代过程对应的条件特征，以及由所述上一次迭代过程对应的噪声和所述上一次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数生成的结果确定，所述上一次迭代过程对应的条件特征为通过由所述上一次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数、所述上一次迭代过程对应的噪声、所述目标风险关键词和所述匹配度确定的结果，对由所述上一次迭代过程对应的噪声、所述目标文本和所述上一次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数确定的结果进行风险削弱处理得到；图像生成模块，用于基于所述迭代结束得到的所述预先训练的扩散生成模型的输出端的元函数、所述目标文本、所述目标风险关键词以及所述最后一次迭代过程对应的噪声，生成与所述目标文本对应的第二图像表征，并基于所述第二图像表征，确定与所述目标文本对应的目标图像。
第三方面，本说明书实施例提供了一种数据处理设备，所述数据处理设备包括：处理器；以及被安排成存储计算机可执行指令的存储器，所述可执行指令在被执行时使所述处理器：在接收到针对目标文本的图像生成指令的情况下，获取与所述目标文本匹配的目标风险关键词，并获取所述目标文本与所述目标风险关键词之间的匹配度；通过所述预先训练的扩散生成模型，经过预设迭代次数逐次对所述第一图像表征进行降噪处理，直到最后一次迭代过程结束，得到所述预先训练的扩散生成模型的输出端的元函数；其中，在第一次迭代过程中，所述预先训练的扩散生成模型的输出端的元函数为初始扩散元函数，在除所述第一次迭代过程以外的迭代过程中，所述预先训练的扩散生成模型的输出端的元函数为基于上一次迭代过程对应的条件特征，以及由所述上一次迭代过程对应的噪声和所述上一次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数生成的结果确定，所述上一次迭代过程对应的条件特征为通过由所述上一次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数、所述上一次迭代过程对应的噪声、所述目标风险关键词和所述匹配度确定的结果，对由所述上一次迭代过程对应的噪声、所述目标文本和所述上一次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数确定的结果进行风险削弱处理得到；基于所述迭代结束得到的所述预先训练的扩散生成模型的输出端的元函数、所述目标文本、所述目标风险关键词以及所述最后一次迭代过程对应的噪声，生成与所述目标文本对应的第二图像表征，并基于所述第二图像表征，确定与所述目标文本对应的目标图像。
第四方面，本说明书实施例提供一种存储介质，所述存储介质用于存储计算机可执行指令，所述可执行指令在被执行时实现以下流程：在接收到针对目标文本的图像生成指令的情况下，获取与所述目标文本匹配的目标风险关键词，并获取所述目标文本与所述目标风险关键词之间的匹配度；通过所述预先训练的扩散生成模型，经过预设迭代次数逐次对所述第一图像表征进行降噪处理，直到最后一次迭代过程结束，得到所述预先训练的扩散生成模型的输出端的元函数；其中，在第一次迭代过程中，所述预先训练的扩散生成模型的输出端的元函数为初始扩散元函数，在除所述第一次迭代过程以外的迭代过程中，所述预先训练的扩散生成模型的输出端的元函数为基于上一次迭代过程对应的条件特征，以及由所述上一次迭代过程对应的噪声和所述上一次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数生成的结果确定，所述上一次迭代过程对应的条件特征为通过由所述上一次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数、所述上一次迭代过程对应的噪声、所述目标风险关键词和所述匹配度确定的结果，对由所述上一次迭代过程对应的噪声、所述目标文本和所述上一次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数确定的结果进行风险削弱处理得到；基于所述迭代结束得到的所述预先训练的扩散生成模型的输出端的元函数、所述目标文本、所述目标风险关键词以及所述最后一次迭代过程对应的噪声，生成与所述目标文本对应的第二图像表征，并基于所述第二图像表征，确定与所述目标文本对应的目标图像。
附图说明
为了更清楚地说明本说明书实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本说明书中记载的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1为本说明书一种数据处理系统的示意图；
图2A为本说明书一种数据处理方法实施例的流程图；
图2B为本说明书一种数据处理方法的处理过程示意图；
图3为本说明书一种扩散生成模型的模型结构的示意图；
图4为本说明书一种包含风险关键词的生成图像的示意图；
图5为本说明书一种生成的目标图像的示意图；
图6为本说明书又一种数据处理方法的处理过程示意图；
图7为本说明书一种数据处理装置实施例的结构示意图；
图8为本说明书一种数据处理设备的结构示意图。
具体实施方式
本说明书实施例提供一种数据处理方法、装置及设备。
为了使本技术领域的人员更好地理解本说明书中的技术方案，下面将结合本说明书实施例中的附图，对本说明书实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本说明书一部分实施例，而不是全部的实施例。基于本说明书中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本说明书保护的范围。
本说明书实施例提供一种数据处理方法、装置及设备。
为了使本技术领域的人员更好地理解本说明书中的技术方案，下面将结合本说明书实施例中的附图，对本说明书实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本说明书一部分实施例，而不是全部的实施例。基于本说明书中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本说明书保护的范围。
本说明书的技术方案，可以应用于数据处理系统中，如图1所示，该数据处理系统中可以有终端设备和服务器，其中，服务器可以是独立的服务器，也可以是由多个服务器组成的服务器集群，终端设备可以如个人计算机等设备，也可以如手机、平板电脑等移动终端设备。
其中，数据处理系统中可以包括n个终端设备和m个服务器，n和m为大于等于1的正整数，终端设备（或服务器）可以用于接收用户针对目标文本的图像生成指令，并将图像生成指令和目标文本发送给数据处理系统中的服务器进行处理。
在进行数据处理时，服务器可以通过本地或数据处理系统中的其他服务器（或终端设备）获取与目标文本匹配的目标风险关键词，以及目标文本和目标风险关键词之间的匹配度，进而通过预先训练的扩散生成模型，先对目标文本进行加噪处理，得到与目标文本对应的第一图像表征，再经过预设迭代次数逐次对第一图像表征进行降噪处理，直到最后一次迭代过程结束，得到预先训练的扩散生成模型的输出端的元函数。最后，服务器可以基于迭代结束得到的预先训练的扩散生成模型的输出端的元函数、目标文本、目标风险关键词以及最后一次迭代过程对应的噪声，生成与目标文本对应的第二图像表征，并基于第二图像表征，确定与目标文本对应的目标图像。
最后，服务器可以将生成的目标图像返回给图像生成指令的发送端（即终端设备或服务器等）。
此外，如图1所示，数据处理系统中还可以有用于对扩散生成模型进行训练的服务器，（如服务器1），服务器1可以基于历史文本数据和历史图像对扩散生成模型进行训练，并将训练后的扩散生成模型的模型参数发送给数据处理系统中的其他服务器（如服务器2~服务器m中的任意一个或多个服务器），以使数据处理系统中的其他服务器可以通过训练后的扩散生成模型的模型参数，得到训练后的扩散生成模型，以通过训练后的扩散生成模型进行图像生成处理。
基于上述数据处理系统结构可以实现下述实施例中的数据处理方法。
实施例一
如图2A和图2B所示，本说明书实施例提供一种数据处理方法，该方法的执行主体可以是服务器，其中，服务器可以是独立的服务器，也可以是由多个服务器组成的服务器集群。该方法具体可以包括以下步骤：
在S202中，在接收到针对目标文本的图像生成指令的情况下，获取与目标文本匹配的目标风险关键词，并获取目标文本与目标风险关键词之间的匹配度。
其中，目标文本可以是包含人物、物体、时间、地点、状态等词汇的文本，例如，目标文本可以是“一辆汽车在马路中间”、“一群人在街道上行走”等。
在实施中，随着人工智能技术的飞速发展，基于一段文本生成一张图像的文生图技术在多个领域得到广泛应用，然而，由于文本中可能存在风险词汇，因而，如何避免生成包含风险内容（如与用户隐私数据相关的内容）的图像成为关注焦点。例如，可以对生成图像进行安全性打分，若生成图像的安全分值低于风险阈值，则可以输出空白图像，但是，由于空白图像会影响用户体验，导致风险防控场景下，基于文本进行图像生成处理的处理效果低下，因此，需要一种能够在风险防控场景下，提高基于文本进行图像生成处理的处理效果的解决方案。为此，本说明书实施例提供一种可以解决上述问题的技术方案，具体可以参见下述内容。
在实施中，终端设备中可以安装有具备图像生成功能的应用程序，用户可以在终端设备中触发该应用程序，并触发图像生成指令，此时，终端设备可以接收用户的输入数据，并根据输入数据确定与图像生成指令对应的目标文本。其中，用户可以通过文本输入、语音输入、图像输入等多种方式输入数据，即在用户的输入数据为语音数据的情况下，终端设备可以将用户输入的语音数据转换为文本数据作为目标文本，在用户的输入数据为图像数据的情况下，终端设备可以对用户输入的图像数据进行文字提取处理，并将得到的文本数据确定为目标文本。终端设备可以将针对目标文本的图像生成指令发送给服务器，即服务器可以接收针对目标文本的图像生成指令，图像生成指令携带有目标文本。
此外，终端设备还可以将用户的输入数据和图像生成指令发送给服务器，服务器可以基于上述通过输入数据确定目标文本的方法，获取目标文本。
服务器可以基于预先构建的风险词库，对目标文本是否包含风险关键词进行匹配检测，并获取风险词库中包含的风险关键词与目标文本匹配的目标风险关键词。其中，风险词库可以是针对多个预设风险场景构建的风险词库，例如，风险词库可以包含内容安全场景对应的风险关键词、伦理安全场景对应的风险关键词、科技安全场景对应的风险关键词等。
服务器可以基于预设匹配度检测规则，确定目标文本和目标风险关键词之间的匹配度，例如，服务器可以基于预先训练的匹配度检测模型，对目标文本和目标风险关键词进行匹配度检测处理，得到目标文本和目标风险关键词之间的匹配度，或者，服务器还可以对目标文本和目标风险关键词分别进行文本编码处理，得到与目标文本对应的文本向量，以及与目标风险关键词对应的文本向量，进而通过预设距离算法（如欧式距离算法、余弦距离算法等）计算这两个文本向量之间的距离，可以将该距离确定为目标文本和目标风险关键词之间的匹配度等。
在S204中，通过预先训练的扩散生成模型，对目标文本进行加噪处理，得到与目标文本对应的第一图像表征。
其中，扩散生成模型为基于预设生成式算法（Artificial IntelligenceGenerated Content，AIGC）构建的用于生成与文本对应的图像的模型。
在实施中，如图3所示，服务器可以通过文本编码器、图像信息生成器和图像解码器构建扩散生成模模型，其中，文本编码器可以用于对输入文本进行编码处理，得到与输入文本对应的文本向量，图像信息生成器可以通过T1次迭代次数逐次对文本向量进行加噪处理，得到与文本向量对应的图像表征，图像解码器可以通过预设迭代次数（如T2次迭代次数）逐次对图像表征进行降噪处理，得到与输入文本对应的生成图像。其中，T1与T2可以相同，也可以不同，可以根据实际应用场景选取不同的T1和T2。
服务器可以获取历史文本以及对应的历史图像，对构建的扩散生成模型进行训练，得到训练后的扩散生成模型。
服务器可以将目标文本输入训练后的扩散生成模型的文本编码器器，以得到与目标文本对应的目标文本向量，在通过预先训练的扩散生成模型的图像信息生成器对目标文本向量进行加噪处理，得到与目标文本对应的第一图像表征。
在S206中， 通过预先训练的扩散生成模型，经过预设迭代次数逐次对第一图像表征进行降噪处理，直到最后一次迭代过程结束，得到预先训练的扩散生成模型的输出端的元函数。
其中，在第一次迭代过程中，预先训练的扩散生成模型的输出端的元函数可以为初始扩散元函数，在除第一次迭代过程以外的迭代过程中，预先训练的扩散生成模型的输出端的元函数为基于上一次迭代过程对应的条件特征，以及由上一次迭代过程对应的噪声和上一次迭代过程对应的预先训练的扩散生成模型的输出端的元函数生成的结果确定，上一次迭代过程对应的条件特征为通过由上一次迭代过程对应的预先训练的扩散生成模型的输出端的元函数、上一次迭代过程对应的噪声、目标风险关键词和匹配度确定的结果，对由上一次迭代过程对应的噪声、目标文本和上一次迭代过程对应的预先训练的扩散生成模型的输出端的元函数确定的结果进行风险削弱处理得到。
在实施中，为使输出生图像偏离风险关键词，同时尽量保证生成图片与输入文本的对齐度，可以在每一次迭代过程中，基于目标文本进行去噪处理，并通过与目标文本匹配的目标风险关键词进行风险削弱处理，以进行针对性防御。同时，服务器还可以在每一次迭代过程中，尽量保证生成图像与输入文本之间的对齐度。
即服务器在每一次迭代过程中，可以通过目标风险关键词和匹配度进行风险削弱处理，得到条件特征，在通过条件特征确定下次迭代过程对应的预先训练的扩散生成模型的输出端的元函数。
在S208中，基于迭代结束得到的预先训练的扩散生成模型的输出端的元函数、目标文本、目标风险关键词以及最后一次迭代过程对应的噪声，生成与目标文本对应的第二图像表征，并基于第二图像表征，确定与目标文本对应的目标图像。
在实施中，服务器可以将目标文本、目标风险关键词以及最后一次迭代过程对应的噪声输入迭代结束得到的预先训练的扩散生成模型的输出端的元函数，得到与目标文本对应的第二图像表征。最后，服务器可以基于第二图像表征，确定与目标文本对应的目标图像。这样，得到的目标图像就是不包含目标风险关键字的图像，可以避免产生风险图像，例如，假设目标文本为“在一个大的矩形上叠加一个小的圆形”，而与该目标文本匹配的目标风险关键词可以为圆形，若仅通过预先训练的扩散生成模型进行图像生成处理，得到的图像可以如图4所示，但由于圆形为风险关键词，因而在风险判断过程中，可能会将生成的图像确定为风险图像，造成无法为用户提供生成图像导致用户体验较差的问题。但是，在降噪过程中，通过目标风险关键词及匹配度进行风险削弱处理，在进行对齐处理，可以得到如图5所示的不包含目标风险关键词信息的目标图像（即在一个大的矩形上叠加一个小的球形），其中，球形为非风险关键词。这样，就可以在规避风险词汇的同时生成与输入文本匹配的图像。
本说明书实施例提供一种数据处理方法，可以获取与目标文本匹配的目标风险关键词，以及目标文本和目标风险关键词之间的匹配度，进而通过预先训练的扩散生成模型，先对目标文本进行加噪处理，得到与目标文本对应的第一图像表征，再经过预设迭代次数逐次对第一图像表征进行降噪处理，直到最后一次迭代过程结束，得到预先训练的扩散生成模型的输出端的元函数。最后，服务器可以基于迭代结束得到的预先训练的扩散生成模型的输出端的元函数、目标文本、目标风险关键词以及最后一次迭代过程对应的噪声，生成与目标文本对应的第二图像表征，并基于第二图像表征，确定与目标文本对应的目标图像。为使输出生图像偏离风险关键词，同时尽量保证生成图片与输入文本的对齐度，可以在每一次迭代过程中，基于目标文本进行去噪处理，并通过与目标文本匹配的目标风险关键词进行风险削弱处理，以进行针对性防御。同时，服务器还可以在每一次迭代过程中，通过条件特征尽量保证生成图像与输入文本之间的对齐度。即可以在不损害用户体验度的情况下，生成不包含风险的且与用户输入的目标文本相匹配的目标图像，另外，通过预先训练的扩散生成模型生成目标图像，具有很强的迁移性，可以缓解开源生成模型带来的风险性，降低负面社会影响。
实施例二
如图6所示，本说明书实施例提供一种数据处理方法，该方法的执行主体可以是服务器，其中，服务器可以是独立的服务器，也可以是由多个服务器组成的服务器集群。该方法具体可以包括以下步骤：
在S602中，在接收到针对第一文本的图像生成指令的情况下，对第一文本进行语义划分处理，得到与第一文本对应的第一关键词，并基于第一关键词，确定目标文本。
在实施中，服务器可以在接收到针对第一文本的图像生成指令的情况下，基于预设划分算法，对第一文本进行语义划分处理，得到与第一文本对应的第一关键词，例如，服务器可以通过预先训练的关键词提取模型，对第一文本进行语义划分处理，得到与第一文本对应的第一关键词，其中，关键词提取模型可以是基于预设机器学习算法构建的用于进行关键词提取的模型。或者，服务器还可以通过命名实体识别（Name Entity Recognition，NER）模型对第一文本进行命名实体识别处理，并将识别结果确定为第一文本对应的第一关键词。
服务器可以将第一关键词确定为目标文本，或者，服务器还可以对第一关键词进行筛选处理，并将筛选后的第一关键词确定为目标文本，其中，服务器可以基于与第一文本对应的业务类型，确定对应的筛选规则，以通过确定的筛选规则对第一关键词进行筛选处理，例如，若第一文本对应的业务类型为资源转移业务，对应的筛选规则可以为筛选出资源转移方式和资源转移数量，即可以将第一关键词中与资源转移方式和资源转移数量对应的关键词，确定为目标文本。
上述目标文本的确定方法是一种可选地、可实现的确定方法，在实际应用场景中，还可以有多种不同的确定方法，可以根据实际应用场景的不同而有所不同，本说明书实施例对此不做具体限定。
在S604中，将预设风险词库中与第一关键词匹配的关键词确定为目标风险关键词。
在实施中，服务器可以对预设风险词库中包含的关键词与第一关键词进行匹配处理，以确定目标风险关键词。其中，服务器可以基于预设距离算法（如欧式距离算法、余弦距离算法等）分别确定预设风险词库中包含的关键词与每个第一关键词之间的匹配度，并基于匹配度进行筛选处理，将匹配度最高的关键词（或将匹配度大于预设匹配度阈值的关键词），确定为与第一关键词对应的目标风险关键词。
在S202中，获取目标文本与目标风险关键词之间的匹配度。
在S606中，通过预先训练的扩散生成模型，经过第一迭代次数逐次对目标文本进行加噪处理，得到与目标文本对应的第一图像表征。
其中，预设迭代次数可以为基于预设间隔对第一迭代次数进行采样得到。
在实施中，服务器在扩散生成模型的图像信息生成器中，可以经过第一迭代次数逐次对目标文本进行加噪处理，得到与目标文本对应的第一图像表征，并在图像解码器中，经过预设迭代次数逐次对第一图像表征进行降噪处理。例如，第一迭代次数可以为1000次，可以每隔2步（即预设间隔为2步）对第一迭代次数进行采样，得到预设迭代次数。
在S608中，在第一次迭代过程中，将第一次迭代过程对应的噪声和目标风险关键词输入预先训练的扩散生成模型，得到第一次迭代过程对应的第一中间结果，并基于第一中间结果和匹配度，得到第二中间结果。
在实施中，在第一次迭代过程中，服务器可以第一次迭代过程对应的噪声和目标风险关键词输入预先训练的扩散生成模型，得到第一次迭代过程对应的第一中间结果，并将第一中间结果和匹配度的乘积，确定为第二中间结果。
在S610中，基于第二中间结果对第一图像表征进行风险削弱处理，得到第一次迭代过程对应的条件特征。
在实施中，可以将第一图像表征与第二中间结果之间的差值，确定为第一次迭代过程对应的条件特征。
此外，在目标风险关键词有多个的情况下，可以将第一图像表征、第一次迭代过程对应的噪声、目标风险关键词及对应的匹配度代入下述公式，
，
得到第一次迭代过程对应的条件特征，其中，为第一次迭代过程对应的条件特征，/>为第一次迭代过程对应的噪声，T为目标文本，D为由多个目标风险关键词构成的集合，/>为第一图像表征，n为目标风险关键词的数量，/>为D中第i个目标风险关键词，/>为目标文本与D中第i个目标风险关键词之间的匹配度，/>为将第一中间结果。
在S612中，将第一次迭代过程对应的噪声输入预先训练的扩散生成模型，得到第三中间结果，并基于第三中间结果和第一次迭代过程对应的条件特征，确定第二次迭代过程对应的预先训练的扩散生成模型的输出端的元函数。
在实施中，服务器可以基于预设幅值对第一次迭代过程对应的条件特征和第三中间结果之间的差值进行加权处理，并将加权处理的结果与第三中间结果之间的和值，确定为第二次迭代过程对应的预先训练的扩散生成模型的输出端的元函数。
服务器可以将第一次迭代过程对应的条件特征和第三中间结果代入下述公式，
，
得到第二次迭代过程对应的预先训练的扩散生成模型的输出端的元函数，其中，为第二次迭代过程对应的预先训练的扩散生成模型的输出端的元函数，V为预设幅值。
在S614中，在第二次迭代过程中，基于第二次迭代过程对应的预先训练的扩散生成模型的输出端的元函数、第二次迭代过程对应的噪声和目标风险关键词，得到第四中间结果，并基于第四中间结果和匹配度，得到第五中间结果。
在实施中，服务器可以将第二次迭代过程对应的噪声和目标风险关键词，输入第二次迭代过程对应的预先训练的扩散生成模型的输出端的元函数，得到第四中间结果，并将第四中间结果和匹配度的乘积，确定为第五中间结果。
其中，在目标风险关键词有多个的情况下，服务器可以将每个目标风险关键词与第二次迭代过程对应的噪声进行组合，并分别将组合后的数据，输入第二次迭代过程对应的预先训练的扩散生成模型的输出端的元函数，得到每个目标风险关键词对应的子结果。
然后，服务器可以获取每个目标风险关键词对应的子结果和目标风险关键词对应的匹配度之间的乘积，并将乘积之和确定为第五中间结果。
在S616中，基于第二次迭代过程对应的预先训练的扩散生成模型的输出端的元函数、第二次迭代过程对应的噪声和目标文本，得到第六中间结果，并基于五中间结果对第六中间结果进行风险削弱处理，得到第二次迭代过程对应的条件特征。
在实施中，服务器可以将第二次迭代过程对应的噪声和目标文本，输入第二次迭代过程对应的预先训练的扩散生成模型的输出端的元函数，得到第六中间结果，并将第六中间结果与五中间结果之间的差值，确定为第二次迭代过程对应的条件特征。
在S618中，基于第二次迭代过程对应的预先训练的扩散生成模型的输出端的元函数和第二次迭代过程对应的噪声，确定第七中间结果，并基于第二次迭代过程对应的条件特征和第七中间结果，确定第三次迭代过程对应的预先训练的扩散生成模型的输出端的元函数。
在实施中，服务器可以基于预设幅值对第二次迭代过程对应的条件特征和第七中间结果之间的差值进行加权处理，并将加权处理的结果与第七中间结果之间的和值，确定为第三次迭代过程对应的预先训练的扩散生成模型的输出端的元函数。
在S620中，基于上述通过第二次迭代过程对应的预先训练的扩散生成模型的输出端的元函数确定第三次迭代过程对应的预先训练的扩散生成模型的输出端的元函数的方法，继续逐次对第一图像表征进行降噪处理，直到最后一次迭代过程结束，得到预先训练的扩散生成模型的输出端的元函数。
在实施中，服务器可以通过预先训练的扩散生成模型，经过第一迭代次数（如T次，T为大于等于1的正整数）逐次对目标文本进行加噪处理，得到与目标文本对应的第一图像表征，在基于预设间隔对第一迭代次数进行采样得到预设迭代次数（可以基于预设间隔对T进行采样得到t，t为大于等于1的正整数），并经过预设迭代次数逐次对第一图像表征进行降噪处理。
在降噪过程的第t次迭代过程中，预先训练的扩散生成模型的输出端的元函数为初始扩散元函数。在t-1次迭代过程中，服务器可以将第t次迭代过程对应的噪声、目标文本、目标风险关键词及匹配度代入下述公式，
得到第t次迭代过程对应的条件特征，其中，为第t-1次迭代过程对应的条件特征，/>为第t次迭代过程对应的噪声，T为目标文本，D为由多个目标风险关键词构成的集合，/>为将第t次迭代过程对应的噪声和目标文本输入第t次迭代过程对应的预先训练的扩散生成模型的输出端的元函数（即/>）得到的中间结果，n为目标风险关键词的数量，/>为D中第i个目标风险关键词，/>为目标文本与D中第i个目标风险关键词之间的匹配度，/>为将第t次迭代过程对应的噪声以及D中第i个目标风险关键词输入第t次迭代过程对应的预先训练的扩散生成模型的输出端的元函数得到的中间结果。
然后，服务器可以将预设幅值、第t次迭代过程对应的噪声、第t次迭代过程对应的条件特征代入下述公式，
得到第t-1次迭代过程对应的预先训练的扩散生成模型的输出端的元函数，其中，为第t-1次迭代过程对应的预先训练的扩散生成模型的输出端的元函数。
在t=1时，迭代结束，得到，即迭代结束得到的预先训练的扩散生成模型的输出端的元函数。
在S208中，基于迭代结束得到的预先训练的扩散生成模型的输出端的元函数、目标文本、目标风险关键词以及最后一次迭代过程对应的噪声，生成与目标文本对应的第二图像表征，并基于第二图像表征，确定与目标文本对应的目标图像。
本说明书实施例提供一种数据处理方法，可以获取与目标文本匹配的目标风险关键词，以及目标文本和目标风险关键词之间的匹配度，进而通过预先训练的扩散生成模型，先对目标文本进行加噪处理，得到与目标文本对应的第一图像表征，再经过预设迭代次数逐次对第一图像表征进行降噪处理，直到最后一次迭代过程结束，得到预先训练的扩散生成模型的输出端的元函数。最后，服务器可以基于迭代结束得到的预先训练的扩散生成模型的输出端的元函数、目标文本、目标风险关键词以及最后一次迭代过程对应的噪声，生成与目标文本对应的第二图像表征，并基于第二图像表征，确定与目标文本对应的目标图像。为使输出生图像偏离风险关键词，同时尽量保证生成图片与输入文本的对齐度，可以在每一次迭代过程中，基于目标文本进行去噪处理，并通过与目标文本匹配的目标风险关键词进行风险削弱处理，以进行针对性防御。同时，服务器还可以在每一次迭代过程中，通过条件特征尽量保证生成图像与输入文本之间的对齐度。即可以在不损害用户体验度的情况下，生成不包含风险的且与用户输入的目标文本相匹配的目标图像，另外，通过预先训练的扩散生成模型生成目标图像，具有很强的迁移性，可以缓解开源生成模型带来的风险性，降低负面社会影响。
实施例三
以上为本说明书实施例提供的数据处理方法，基于同样的思路，本说明书实施例还提供一种数据处理装置，如图7所示。
该数据处理装置包括：数据获取模块701、数据加噪模块702、数据降噪模块703和图像生成模块704，其中：
数据获取模块701，用于在接收到针对目标文本的图像生成指令的情况下，获取与所述目标文本匹配的目标风险关键词，并获取所述目标文本与所述目标风险关键词之间的匹配度；
数据加噪模块702，用于通过预先训练的扩散生成模型，对所述目标文本进行加噪处理，得到与所述目标文本对应的第一图像表征，所述扩散生成模型为基于预设生成式算法构建的用于生成与文本对应的图像的模型；
数据降噪模块703，用于通过所述预先训练的扩散生成模型，经过预设迭代次数逐次对所述第一图像表征进行降噪处理，直到最后一次迭代过程结束，得到所述预先训练的扩散生成模型的输出端的元函数；其中，在第一次迭代过程中，所述预先训练的扩散生成模型的输出端的元函数为初始扩散元函数，在除所述第一次迭代过程以外的迭代过程中，所述预先训练的扩散生成模型的输出端的元函数为基于上一次迭代过程对应的条件特征，以及由所述上一次迭代过程对应的噪声和所述上一次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数生成的结果确定，所述上一次迭代过程对应的条件特征为通过由所述上一次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数、所述上一次迭代过程对应的噪声、所述目标风险关键词和所述匹配度确定的结果，对由所述上一次迭代过程对应的噪声、所述目标文本和所述上一次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数确定的结果进行风险削弱处理得到；
图像生成模块704，用于基于所述迭代结束得到的所述预先训练的扩散生成模型的输出端的元函数、所述目标文本、所述目标风险关键词以及所述最后一次迭代过程对应的噪声，生成与所述目标文本对应的第二图像表征，并基于所述第二图像表征，确定与所述目标文本对应的目标图像。
本说明书实施例中，所述数据获取模块701，用于：
在接收到针对第一文本的图像生成指令的情况下，对所述第一文本进行语义划分处理，得到与所述第一文本对应的第一关键词，并基于所述第一关键词，确定所述目标文本；
将预设风险词库中与所述第一关键词匹配的关键词确定为所述目标风险关键词。
本说明书实施例中，所述数据降噪模块703，用于：
在所述第一次迭代过程中，将第一次迭代过程对应的噪声和所述目标风险关键词输入所述预先训练的扩散生成模型，得到所述第一次迭代过程对应的第一中间结果，并基于所述第一中间结果和所述匹配度，得到第二中间结果；
基于所述第二中间结果对所述第一图像表征进行风险削弱处理，得到所述第一次迭代过程对应的条件特征；
将所述第一次迭代过程对应的噪声输入所述预先训练的扩散生成模型，得到第三中间结果，并基于所述第三中间结果和所述第一次迭代过程对应的条件特征，确定所述第二次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数；
在第二次迭代过程中，基于所述第二次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数、所述第二次迭代过程对应的噪声和所述目标风险关键词，得到所述第四中间结果，并基于所述第四中间结果和所述匹配度，得到所述第五中间结果；
基于所述第二次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数、所述第二次迭代过程对应的噪声和所述目标文本，得到所述第六中间结果，并基于所述五中间结果对所述第六中间结果进行风险削弱处理，得到所述第二次迭代过程对应的条件特征；
基于所述第二次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数和所述第二次迭代过程对应的噪声，确定第七中间结果，并基于所述第二次迭代过程对应的条件特征和所述第七中间结果，确定所述第三次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数；
基于上述通过所述第二次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数确定所述第三次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数的方法，继续逐次对所述第一图像表征进行降噪处理，直到最后一次迭代过程结束，得到所述预先训练的扩散生成模型的输出端的元函数。
本说明书实施例中，所述数据降噪模块703，用于：
基于预设幅值对所述第二次迭代过程对应的条件特征和所述第七中间结果之间的差值进行加权处理，并将加权处理的结果与所述第七中间结果之间的和值，确定为所述第三次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数。
本说明书实施例中，所述数据降噪模块703，用于：
将所述第二次迭代过程对应的噪声和所述目标风险关键词，输入所述第二次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数，得到所述第四中间结果，并将所述第四中间结果和所述匹配度的乘积，确定为所述第五中间结果。
本说明书实施例中，所述目标风险关键词有多个，所述数据降噪模块703，用于：
将每个所述目标风险关键词与所述第二次迭代过程对应的噪声进行组合，并分别将组合后的数据，输入所述第二次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数，得到每个所述目标风险关键词对应的子结果；
获取每个所述目标风险关键词对应的子结果和所述目标风险关键词对应的所述匹配度之间的乘积，并将所述乘积之和确定为所述第五中间结果。
本说明书实施例中，所述数据降噪模块703，用于：
将所述第二次迭代过程对应的噪声和所述目标文本，输入所述第二次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数，得到所述第六中间结果，并将所述第六中间结果与所述五中间结果之间的差值，确定为所述第二次迭代过程对应的条件特征。
本说明书实施例中，所述数据加噪模块702，用于：
通过所述预先训练的扩散生成模型，经过第一迭代次数逐次对所述目标文本进行加噪处理，得到与所述目标文本对应的第一图像表征，所述预设迭代次数为基于预设间隔对所述第一迭代次数进行采样得到。
本说明书实施例提供一种数据处理装置，可以获取与目标文本匹配的目标风险关键词，以及目标文本和目标风险关键词之间的匹配度，进而通过预先训练的扩散生成模型，先对目标文本进行加噪处理，得到与目标文本对应的第一图像表征，再经过预设迭代次数逐次对第一图像表征进行降噪处理，直到最后一次迭代过程结束，得到预先训练的扩散生成模型的输出端的元函数。最后，服务器可以基于迭代结束得到的预先训练的扩散生成模型的输出端的元函数、目标文本、目标风险关键词以及最后一次迭代过程对应的噪声，生成与目标文本对应的第二图像表征，并基于第二图像表征，确定与目标文本对应的目标图像。为使输出生图像偏离风险关键词，同时尽量保证生成图片与输入文本的对齐度，可以在每一次迭代过程中，基于目标文本进行去噪处理，并通过与目标文本匹配的目标风险关键词进行风险削弱处理，以进行针对性防御。同时，服务器还可以在每一次迭代过程中，通过条件特征尽量保证生成图像与输入文本之间的对齐度。即可以在不损害用户体验度的情况下，生成不包含风险的且与用户输入的目标文本相匹配的目标图像，另外，通过预先训练的扩散生成模型生成目标图像，具有很强的迁移性，可以缓解开源生成模型带来的风险性，降低负面社会影响。
实施例四
基于同样的思路，本说明书实施例还提供一种数据处理设备，如图8所示。
数据处理设备可因配置或性能不同而产生比较大的差异，可以包括一个或一个以上的处理器801和存储器802，存储器802中可以存储有一个或一个以上存储应用程序或数据。其中，存储器802可以是短暂存储或持久存储。存储在存储器802的应用程序可以包括一个或一个以上模块（图示未示出），每个模块可以包括对数据处理设备中的一系列计算机可执行指令。更进一步地，处理器801可以设置为与存储器802通信，在数据处理设备上执行存储器802中的一系列计算机可执行指令。数据处理设备还可以包括一个或一个以上电源803，一个或一个以上有线或无线网络接口804，一个或一个以上输入输出接口805，一个或一个以上键盘806。
具体在本实施例中，数据处理设备包括有存储器，以及一个或一个以上的程序，其中一个或者一个以上程序存储于存储器中，且一个或者一个以上程序可以包括一个或一个以上模块，且每个模块可以包括对数据处理设备中的一系列计算机可执行指令，且经配置以由一个或者一个以上处理器执行该一个或者一个以上程序包含用于进行以下计算机可执行指令：
在接收到针对目标文本的图像生成指令的情况下，获取与所述目标文本匹配的目标风险关键词，并获取所述目标文本与所述目标风险关键词之间的匹配度；
通过预先训练的扩散生成模型，对所述目标文本进行加噪处理，得到与所述目标文本对应的第一图像表征，所述扩散生成模型为基于预设生成式算法构建的用于生成与文本对应的图像的模型；
通过所述预先训练的扩散生成模型，经过预设迭代次数逐次对所述第一图像表征进行降噪处理，直到最后一次迭代过程结束，得到所述预先训练的扩散生成模型的输出端的元函数；其中，在第一次迭代过程中，所述预先训练的扩散生成模型的输出端的元函数为初始扩散元函数，在除所述第一次迭代过程以外的迭代过程中，所述预先训练的扩散生成模型的输出端的元函数为基于上一次迭代过程对应的条件特征，以及由所述上一次迭代过程对应的噪声和所述上一次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数生成的结果确定，所述上一次迭代过程对应的条件特征为通过由所述上一次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数、所述上一次迭代过程对应的噪声、所述目标风险关键词和所述匹配度确定的结果，对由所述上一次迭代过程对应的噪声、所述目标文本和所述上一次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数确定的结果进行风险削弱处理得到；
基于所述迭代结束得到的所述预先训练的扩散生成模型的输出端的元函数、所述目标文本、所述目标风险关键词以及所述最后一次迭代过程对应的噪声，生成与所述目标文本对应的第二图像表征，并基于所述第二图像表征，确定与所述目标文本对应的目标图像。本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于数据处理设备实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
本说明书实施例提供一种数据处理设备，可以获取与目标文本匹配的目标风险关键词，以及目标文本和目标风险关键词之间的匹配度，进而通过预先训练的扩散生成模型，先对目标文本进行加噪处理，得到与目标文本对应的第一图像表征，再经过预设迭代次数逐次对第一图像表征进行降噪处理，直到最后一次迭代过程结束，得到预先训练的扩散生成模型的输出端的元函数。最后，服务器可以基于迭代结束得到的预先训练的扩散生成模型的输出端的元函数、目标文本、目标风险关键词以及最后一次迭代过程对应的噪声，生成与目标文本对应的第二图像表征，并基于第二图像表征，确定与目标文本对应的目标图像。为使输出生图像偏离风险关键词，同时尽量保证生成图片与输入文本的对齐度，可以在每一次迭代过程中，基于目标文本进行去噪处理，并通过与目标文本匹配的目标风险关键词进行风险削弱处理，以进行针对性防御。同时，服务器还可以在每一次迭代过程中，通过条件特征尽量保证生成图像与输入文本之间的对齐度。即可以在不损害用户体验度的情况下，生成不包含风险的且与用户输入的目标文本相匹配的目标图像，另外，通过预先训练的扩散生成模型生成目标图像，具有很强的迁移性，可以缓解开源生成模型带来的风险性，降低负面社会影响。
实施例五
本说明书实施例还提供一种计算机可读存储介质，计算机可读存储介质上存储有计算机程序，该计算机程序被处理器执行时实现上述数据处理方法实施例的各个过程，且能达到相同的技术效果，为避免重复，这里不再赘述。其中，所述的计算机可读存储介质，如只读存储器（Read-Only Memory，简称ROM）、随机存取存储器（Random Access Memory，简称RAM）、磁碟或者光盘等。
本说明书实施例提供一种计算机可读存储介质，可以获取与目标文本匹配的目标风险关键词，以及目标文本和目标风险关键词之间的匹配度，进而通过预先训练的扩散生成模型，先对目标文本进行加噪处理，得到与目标文本对应的第一图像表征，再经过预设迭代次数逐次对第一图像表征进行降噪处理，直到最后一次迭代过程结束，得到预先训练的扩散生成模型的输出端的元函数。最后，服务器可以基于迭代结束得到的预先训练的扩散生成模型的输出端的元函数、目标文本、目标风险关键词以及最后一次迭代过程对应的噪声，生成与目标文本对应的第二图像表征，并基于第二图像表征，确定与目标文本对应的目标图像。为使输出生图像偏离风险关键词，同时尽量保证生成图片与输入文本的对齐度，可以在每一次迭代过程中，基于目标文本进行去噪处理，并通过与目标文本匹配的目标风险关键词进行风险削弱处理，以进行针对性防御。同时，服务器还可以在每一次迭代过程中，通过条件特征尽量保证生成图像与输入文本之间的对齐度。即可以在不损害用户体验度的情况下，生成不包含风险的且与用户输入的目标文本相匹配的目标图像，另外，通过预先训练的扩散生成模型生成目标图像，具有很强的迁移性，可以缓解开源生成模型带来的风险性，降低负面社会影响。
上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下，在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外，在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中，多任务处理和并行处理也是可以的或者可能是有利的。
在20世纪90年代，对于一个技术的改进可以很明显地区分是硬件上的改进（例如，对二极管、晶体管、开关等电路结构的改进）还是软件上的改进（对于方法流程的改进）。然而，随着技术的发展，当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此，不能说一个方法流程的改进就不能用硬件实体模块来实现。例如，可编程逻辑器件（Programmable Logic Device，PLD）（例如现场可编程门阵列（Field Programmable GateArray，FPGA））就是这样一种集成电路，其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上，而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且，如今，取代手工地制作集成电路芯片，这种编程也多半改用“逻辑编译器（logic compiler）”软件来实现，它与程序开发撰写时所用的软件编译器相类似，而要编译之前的原始代码也得用特定的编程语言来撰写，此称之为硬件描述语言（Hardware Description Language，HDL），而HDL也并非仅有一种，而是有许多种，如ABEL（Advanced Boolean Expression Language）、AHDL（Altera Hardware DescriptionLanguage）、Confluence、CUPL（Cornell University Programming Language）、HDCal、JHDL（Java Hardware Description Language）、Lava、Lola、MyHDL、PALASM、RHDL（RubyHardware Description Language）等，目前最普遍使用的是VHDL（Very-High-SpeedIntegrated Circuit Hardware Description Language）与Verilog。本领域技术人员也应该清楚，只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中，就可以很容易得到实现该逻辑方法流程的硬件电路。
控制器可以按任何适当的方式实现，例如，控制器可以采取例如微处理器或处理器以及存储可由该（微）处理器执行的计算机可读程序代码（例如软件或固件）的计算机可读介质、逻辑门、开关、专用集成电路（Application Specific Integrated Circuit，ASIC）、可编程逻辑控制器和嵌入微控制器的形式，控制器的例子包括但不限于以下微控制器：ARC 625D、Atmel AT91SAM、Microchip PIC18F26K20 以及Silicone Labs C8051F320，存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道，除了以纯计算机可读程序代码方式实现控制器以外，完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件，而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至，可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
上述实施例阐明的系统、装置、模块或单元，具体可以由计算机芯片或实体实现，或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的，计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便，描述以上装置时以功能分为各种单元分别描述。当然，在实施本说明书一个或多个实施例时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白，本说明书的实施例可提供为方法、系统、或计算机程序产品。因此，本说明书一个或多个实施例可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本说明书一个或多个实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质（包括但不限于磁盘存储器、CD-ROM、光学存储器等）上实施的计算机程序产品的形式。
本说明书的实施例是参照根据本说明书实施例的方法、设备（系统）、和计算机程序产品的流程图和／或方框图来描述的。应理解可由计算机程序指令实现流程图和／或方框图中的每一流程和／或方框、以及流程图和／或方框图中的流程和／或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中，计算设备包括一个或多个处理器（CPU）、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器（RAM）和/或非易失性内存等形式，如只读存储器（ROM）或闪存（flash RAM）。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存（PRAM）、静态随机存取存储器（SRAM）、动态随机存取存储器（DRAM）、其他类型的随机存取存储器（RAM）、只读存储器（ROM）、电可擦除可编程只读存储器（EEPROM）、快闪记忆体或其他内存技术、只读光盘只读存储器（CD-ROM）、数字多功能光盘（DVD）或其他光学存储、磁盒式磁带，磁带磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体（transitory media），如调制的数据信号和载波。
还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白，本说明书的实施例可提供为方法、系统或计算机程序产品。因此，本说明书一个或多个实施例可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本说明书一个或多个实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质（包括但不限于磁盘存储器、CD-ROM、光学存储器等）上实施的计算机程序产品的形式。
本说明书一个或多个实施例可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书一个或多个实施例，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于系统实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
以上所述仅为本说明书的实施例而已，并不用于限制本说明书。对于本领域技术人员来说，本说明书可以有各种更改和变化。凡在本说明书的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本说明书的权利要求范围之内。
Claims (10)
1.一种数据处理方法，包括：
在接收到针对目标文本的图像生成指令的情况下，获取与所述目标文本匹配的目标风险关键词，并获取所述目标文本与所述目标风险关键词之间的匹配度；
通过预先训练的扩散生成模型，对所述目标文本进行加噪处理，得到与所述目标文本对应的第一图像表征，所述扩散生成模型为基于预设生成式算法构建的用于生成与文本对应的图像的模型；
通过所述预先训练的扩散生成模型，经过预设迭代次数逐次对所述第一图像表征进行降噪处理，直到最后一次迭代过程结束，得到所述预先训练的扩散生成模型的输出端的元函数；其中，在第一次迭代过程中，所述预先训练的扩散生成模型的输出端的元函数为初始扩散元函数，在除所述第一次迭代过程以外的迭代过程中，所述预先训练的扩散生成模型的输出端的元函数为基于上一次迭代过程对应的条件特征，以及由所述上一次迭代过程对应的噪声和所述上一次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数生成的结果确定，所述上一次迭代过程对应的条件特征为通过由所述上一次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数、所述上一次迭代过程对应的噪声、所述目标风险关键词和所述匹配度确定的结果，对由所述上一次迭代过程对应的噪声、所述目标文本和所述上一次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数确定的结果进行风险削弱处理得到；
基于所述迭代结束得到的所述预先训练的扩散生成模型的输出端的元函数、所述目标文本、所述目标风险关键词以及所述最后一次迭代过程对应的噪声，生成与所述目标文本对应的第二图像表征，并基于所述第二图像表征，确定与所述目标文本对应的目标图像。
2.根据权利要求1所述的方法，所述在接收到针对目标文本的图像生成指令的情况下，获取与所述目标文本匹配的目标风险关键词，包括：
在接收到针对第一文本的图像生成指令的情况下，对所述第一文本进行语义划分处理，得到与所述第一文本对应的第一关键词，并基于所述第一关键词，确定所述目标文本；
将预设风险词库中与所述第一关键词匹配的关键词确定为所述目标风险关键词。
3.根据权利要求2所述的方法，所述通过所述预先训练的扩散生成模型，经过预设迭代步数逐步对所述第一图像表征进行降噪处理，直到最后一次迭代过程结束，得到所述预先训练的扩散生成模型的输出端的元函数，包括：
在所述第一次迭代过程中，将第一次迭代过程对应的噪声和所述目标风险关键词输入所述预先训练的扩散生成模型，得到所述第一次迭代过程对应的第一中间结果，并基于所述第一中间结果和所述匹配度，得到第二中间结果；
基于所述第二中间结果对所述第一图像表征进行风险削弱处理，得到所述第一次迭代过程对应的条件特征；
将所述第一次迭代过程对应的噪声输入所述预先训练的扩散生成模型，得到第三中间结果，并基于所述第三中间结果和所述第一次迭代过程对应的条件特征，确定第二次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数；
在第二次迭代过程中，基于所述第二次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数、所述第二次迭代过程对应的噪声和所述目标风险关键词，得到第四中间结果，并基于所述第四中间结果和所述匹配度，得到第五中间结果；
基于所述第二次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数、所述第二次迭代过程对应的噪声和所述目标文本，得到第六中间结果，并基于所述五中间结果对所述第六中间结果进行风险削弱处理，得到所述第二次迭代过程对应的条件特征；
基于所述第二次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数和所述第二次迭代过程对应的噪声，确定第七中间结果，并基于所述第二次迭代过程对应的条件特征和所述第七中间结果，确定第三次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数；
基于上述通过所述第二次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数确定所述第三次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数的方法，继续逐次对所述第一图像表征进行降噪处理，直到最后一次迭代过程结束，得到所述预先训练的扩散生成模型的输出端的元函数。
4.根据权利要求3所述的方法，所述基于所述第二次迭代过程对应的条件特征和所述第七中间结果，确定所述第三次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数，包括：
基于预设幅值对所述第二次迭代过程对应的条件特征和所述第七中间结果之间的差值进行加权处理，并将加权处理的结果与所述第七中间结果之间的和值，确定为所述第三次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数。
5.根据权利要求3所述的方法，所述基于所述第二次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数、所述第二次迭代过程对应的噪声和所述目标风险关键词，得到所述第四中间结果，并基于所述第四中间结果和所述匹配度，得到所述第五中间结果，包括：
将所述第二次迭代过程对应的噪声和所述目标风险关键词，输入所述第二次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数，得到所述第四中间结果，并将所述第四中间结果和所述匹配度的乘积，确定为所述第五中间结果。
6.根据权利要求5所述的方法，所述目标风险关键词有多个，所述将所述第二次迭代过程对应的噪声和所述目标风险关键词，输入所述第二次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数，得到所述第四中间结果，并将所述第四中间结果和所述匹配度的乘积，确定为所述第五中间结果，包括：
将每个所述目标风险关键词与所述第二次迭代过程对应的噪声进行组合，并分别将组合后的数据，输入所述第二次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数，得到每个所述目标风险关键词对应的子结果；
获取每个所述目标风险关键词对应的子结果和所述目标风险关键词对应的所述匹配度之间的乘积，并将所述乘积之和确定为所述第五中间结果。
7.根据权利要求3所述的方法，所述基于所述第二次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数、所述第二次迭代过程对应的噪声和所述目标文本，得到所述第六中间结果，并基于所述五中间结果对所述第六中间结果进行风险削弱处理，得到所述第二次迭代过程对应的条件特征，包括：
将所述第二次迭代过程对应的噪声和所述目标文本，输入所述第二次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数，得到所述第六中间结果，并将所述第六中间结果与所述五中间结果之间的差值，确定为所述第二次迭代过程对应的条件特征。
8.根据权利要求1所述的方法，所述通过预先训练的扩散生成模型，对所述目标文本进行加噪处理，得到与所述目标文本对应的第一图像表征，包括：
通过所述预先训练的扩散生成模型，经过第一迭代次数逐次对所述目标文本进行加噪处理，得到与所述目标文本对应的第一图像表征，所述预设迭代次数为基于预设间隔对所述第一迭代次数进行采样得到。
9.一种数据处理装置，包括：
数据获取模块，用于在接收到针对目标文本的图像生成指令的情况下，获取与所述目标文本匹配的目标风险关键词，并获取所述目标文本与所述目标风险关键词之间的匹配度；
数据加噪模块，用于通过预先训练的扩散生成模型，对所述目标文本进行加噪处理，得到与所述目标文本对应的第一图像表征，所述扩散生成模型为基于预设生成式算法构建的用于生成与文本对应的图像的模型；
数据降噪模块，用于通过所述预先训练的扩散生成模型，经过预设迭代次数逐次对所述第一图像表征进行降噪处理，直到最后一次迭代过程结束，得到所述预先训练的扩散生成模型的输出端的元函数；其中，在第一次迭代过程中，所述预先训练的扩散生成模型的输出端的元函数为初始扩散元函数，在除所述第一次迭代过程以外的迭代过程中，所述预先训练的扩散生成模型的输出端的元函数为基于上一次迭代过程对应的条件特征，以及由所述上一次迭代过程对应的噪声和所述上一次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数生成的结果确定，所述上一次迭代过程对应的条件特征为通过由所述上一次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数、所述上一次迭代过程对应的噪声、所述目标风险关键词和所述匹配度确定的结果，对由所述上一次迭代过程对应的噪声、所述目标文本和所述上一次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数确定的结果进行风险削弱处理得到；
图像生成模块，用于基于所述迭代结束得到的所述预先训练的扩散生成模型的输出端的元函数、所述目标文本、所述目标风险关键词以及所述最后一次迭代过程对应的噪声，生成与所述目标文本对应的第二图像表征，并基于所述第二图像表征，确定与所述目标文本对应的目标图像。
10.一种数据处理设备，所述数据处理设备包括：
处理器；以及
被安排成存储计算机可执行指令的存储器，所述可执行指令在被执行时使所述处理器：
在接收到针对目标文本的图像生成指令的情况下，获取与所述目标文本匹配的目标风险关键词，并获取所述目标文本与所述目标风险关键词之间的匹配度；
通过预先训练的扩散生成模型，对所述目标文本进行加噪处理，得到与所述目标文本对应的第一图像表征，所述扩散生成模型为基于预设生成式算法构建的用于生成与文本对应的图像的模型；
通过所述预先训练的扩散生成模型，经过预设迭代次数逐次对所述第一图像表征进行降噪处理，直到最后一次迭代过程结束，得到所述预先训练的扩散生成模型的输出端的元函数；其中，在第一次迭代过程中，所述预先训练的扩散生成模型的输出端的元函数为初始扩散元函数，在除所述第一次迭代过程以外的迭代过程中，所述预先训练的扩散生成模型的输出端的元函数为基于上一次迭代过程对应的条件特征，以及由所述上一次迭代过程对应的噪声和所述上一次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数生成的结果确定，所述上一次迭代过程对应的条件特征为通过由所述上一次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数、所述上一次迭代过程对应的噪声、所述目标风险关键词和所述匹配度确定的结果，对由所述上一次迭代过程对应的噪声、所述目标文本和所述上一次迭代过程对应的所述预先训练的扩散生成模型的输出端的元函数确定的结果进行风险削弱处理得到；
基于所述迭代结束得到的所述预先训练的扩散生成模型的输出端的元函数、所述目标文本、所述目标风险关键词以及所述最后一次迭代过程对应的噪声，生成与所述目标文本对应的第二图像表征，并基于所述第二图像表征，确定与所述目标文本对应的目标图像。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202311674312.6A CN117392694B (zh) | 2023-12-07 | 2023-12-07 | 数据处理方法、装置及设备 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202311674312.6A CN117392694B (zh) | 2023-12-07 | 2023-12-07 | 数据处理方法、装置及设备 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN117392694A true CN117392694A (zh) | 2024-01-12 |
| CN117392694B CN117392694B (zh) | 2024-04-19 |
Family
ID=89441283
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202311674312.6A Active CN117392694B (zh) | 2023-12-07 | 2023-12-07 | 数据处理方法、装置及设备 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN117392694B (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117710510A (zh) * | 2024-02-04 | 2024-03-15 | 支付宝(杭州)信息技术有限公司 | 一种图像生成方法及装置 |
| CN117710510B (zh) * | 2024-02-04 | 2024-06-11 | 支付宝(杭州)信息技术有限公司 | 一种图像生成方法及装置 |
Citations (15)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108897734A (zh) * | 2018-06-13 | 2018-11-27 | 康键信息技术（深圳）有限公司 | 用户画像生成方法、装置、计算机设备和存储介质 |
| WO2020077895A1 (zh) * | 2018-10-16 | 2020-04-23 | 深圳壹账通智能科技有限公司 | 签约意向判断方法、装置、计算机设备和存储介质 |
| CN115204886A (zh) * | 2021-04-12 | 2022-10-18 | 腾讯科技（深圳）有限公司 | 账户识别的方法、装置、电子设备和存储介质 |
| CN115221523A (zh) * | 2022-09-20 | 2022-10-21 | 支付宝(杭州)信息技术有限公司 | 数据处理方法、装置及设备 |
| CN115424088A (zh) * | 2022-08-23 | 2022-12-02 | 阿里巴巴（中国）有限公司 | 图像处理模型训练方法以及装置 |
| CN116204672A (zh) * | 2023-02-21 | 2023-06-02 | 百度在线网络技术（北京）有限公司 | 图像识别、模型训练方法、装置、设备及存储介质 |
| CN116664719A (zh) * | 2023-07-28 | 2023-08-29 | 腾讯科技（深圳）有限公司 | 一种图像重绘模型训练方法、图像重绘方法及装置 |
| CN116757208A (zh) * | 2023-04-26 | 2023-09-15 | 支付宝(杭州)信息技术有限公司 | 数据处理方法、装置及设备 |
| CN116797684A (zh) * | 2023-08-21 | 2023-09-22 | 腾讯科技（深圳）有限公司 | 图像生成方法、装置、电子设备及存储介质 |
| CN116797868A (zh) * | 2023-05-23 | 2023-09-22 | 阿里巴巴（中国）有限公司 | 文本图像生成方法以及扩散生成模型训练方法 |
| CN116910572A (zh) * | 2023-09-13 | 2023-10-20 | 浪潮(北京)电子信息产业有限公司 | 基于预训练语言模型的三维内容生成模型训练方法及装置 |
| CN116935169A (zh) * | 2023-09-13 | 2023-10-24 | 腾讯科技（深圳）有限公司 | 文生图模型训练方法以及文生图方法 |
| CN116975347A (zh) * | 2023-05-26 | 2023-10-31 | 腾讯科技（深圳）有限公司 | 图像生成模型训练方法及相关装置 |
| CN117093864A (zh) * | 2023-08-11 | 2023-11-21 | 阿里巴巴达摩院(杭州)科技有限公司 | 文本生成模型训练方法以及装置 |
| WO2023226766A1 (zh) * | 2022-05-26 | 2023-11-30 | 支付宝(杭州)信息技术有限公司 | 数据处理方法、装置及设备 |
-
2023
- 2023-12-07 CN CN202311674312.6A patent/CN117392694B/zh active Active
Patent Citations (15)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108897734A (zh) * | 2018-06-13 | 2018-11-27 | 康键信息技术（深圳）有限公司 | 用户画像生成方法、装置、计算机设备和存储介质 |
| WO2020077895A1 (zh) * | 2018-10-16 | 2020-04-23 | 深圳壹账通智能科技有限公司 | 签约意向判断方法、装置、计算机设备和存储介质 |
| CN115204886A (zh) * | 2021-04-12 | 2022-10-18 | 腾讯科技（深圳）有限公司 | 账户识别的方法、装置、电子设备和存储介质 |
| WO2023226766A1 (zh) * | 2022-05-26 | 2023-11-30 | 支付宝(杭州)信息技术有限公司 | 数据处理方法、装置及设备 |
| CN115424088A (zh) * | 2022-08-23 | 2022-12-02 | 阿里巴巴（中国）有限公司 | 图像处理模型训练方法以及装置 |
| CN115221523A (zh) * | 2022-09-20 | 2022-10-21 | 支付宝(杭州)信息技术有限公司 | 数据处理方法、装置及设备 |
| CN116204672A (zh) * | 2023-02-21 | 2023-06-02 | 百度在线网络技术（北京）有限公司 | 图像识别、模型训练方法、装置、设备及存储介质 |
| CN116757208A (zh) * | 2023-04-26 | 2023-09-15 | 支付宝(杭州)信息技术有限公司 | 数据处理方法、装置及设备 |
| CN116797868A (zh) * | 2023-05-23 | 2023-09-22 | 阿里巴巴（中国）有限公司 | 文本图像生成方法以及扩散生成模型训练方法 |
| CN116975347A (zh) * | 2023-05-26 | 2023-10-31 | 腾讯科技（深圳）有限公司 | 图像生成模型训练方法及相关装置 |
| CN116664719A (zh) * | 2023-07-28 | 2023-08-29 | 腾讯科技（深圳）有限公司 | 一种图像重绘模型训练方法、图像重绘方法及装置 |
| CN117093864A (zh) * | 2023-08-11 | 2023-11-21 | 阿里巴巴达摩院(杭州)科技有限公司 | 文本生成模型训练方法以及装置 |
| CN116797684A (zh) * | 2023-08-21 | 2023-09-22 | 腾讯科技（深圳）有限公司 | 图像生成方法、装置、电子设备及存储介质 |
| CN116910572A (zh) * | 2023-09-13 | 2023-10-20 | 浪潮(北京)电子信息产业有限公司 | 基于预训练语言模型的三维内容生成模型训练方法及装置 |
| CN116935169A (zh) * | 2023-09-13 | 2023-10-24 | 腾讯科技（深圳）有限公司 | 文生图模型训练方法以及文生图方法 |
Non-Patent Citations (3)
| Title |
|---|
| ZICHENG ZHANG等: "A Perceptual Quality Assessment Exploration for AIGC Images", IEEE, 28 August 2023 (2023-08-28) * |
| 乔喆: "人工智能生成内容技术在内容安全治理领域的风险和对策", CNKI, 31 October 2023 (2023-10-31) * |
| 魏忠钰;范智昊;王瑞泽;承怡菁;赵王榕;黄萱菁;: "从视觉到文本:图像描述生成的研究进展综述", 中文信息学报, no. 07, 15 July 2020 (2020-07-15) * |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117710510A (zh) * | 2024-02-04 | 2024-03-15 | 支付宝(杭州)信息技术有限公司 | 一种图像生成方法及装置 |
| CN117710510B (zh) * | 2024-02-04 | 2024-06-11 | 支付宝(杭州)信息技术有限公司 | 一种图像生成方法及装置 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN117392694B (zh) | 2024-04-19 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN112200132B (zh) | 一种基于隐私保护的数据处理方法、装置及设备 | |
| CN109934253B (zh) | 一种对抗样本生成方法及装置 | |
| CN111507726B (zh) | 一种报文生成方法、装置及设备 | |
| CN114819614A (zh) | 数据处理方法、装置、系统及设备 | |
| CN116049761A (zh) | 数据处理方法、装置及设备 | |
| CN116543264A (zh) | 图像分类模型的训练方法、图像分类方法及装置 | |
| CN116630480B (zh) | 一种交互式文本驱动图像编辑的方法、装置和电子设备 | |
| CN113221717A (zh) | 一种基于隐私保护的模型构建方法、装置及设备 | |
| CN117113174A (zh) | 一种模型训练的方法、装置、存储介质及电子设备 | |
| CN117392694B (zh) | 数据处理方法、装置及设备 | |
| CN116522939A (zh) | 数据处理方法、装置及设备 | |
| CN117252250A (zh) | 大模型预训练方法及装置 | |
| CN115620706B (zh) | 一种模型训练方法、装置、设备及存储介质 | |
| CN116186231A (zh) | 一种回复文本的生成方法、装置、存储介质及电子设备 | |
| CN116757208A (zh) | 数据处理方法、装置及设备 | |
| CN115204395A (zh) | 数据的处理方法、装置及设备 | |
| CN113704466B (zh) | 基于迭代网络的文本多标签分类方法、装置及电子设备 | |
| CN111539520A (zh) | 增强深度学习模型鲁棒性的方法及装置 | |
| CN117079646B (zh) | 一种语音识别模型的训练方法、装置、设备及存储介质 | |
| CN115423485B (zh) | 数据处理方法、装置及设备 | |
| CN114817469B (zh) | 文本增强方法、文本增强模型的训练方法及装置 | |
| CN116501852B (zh) | 一种可控对话模型训练方法、装置、存储介质及电子设备 | |
| CN115859975B (zh) | 数据处理方法、装置及设备 | |
| CN115964491A (zh) | 文本分类方法、变分自编码器的训练方法及装置 | |
| CN117612556A (zh) | 数据处理方法、装置及设备 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |