CN116670664A - 对自动响应的查询的对抗性强化 - Google Patents

Abstract

提出了一种用于管理检查的系统、计算机程序产品和方法，该检查具有针对自动响应的查询的对抗性强化。该方法包括电子地接收原始查询(502)。对原始查询的响应要由人类电子地提交。该方法还包括修改原始查询，从而生成修改的查询(504)。修改的查询被配置为人类可理解，并且在没有人类支持的情况下不能通过电子装置适当地响应。

Description

对自动响应的查询的对抗性强化

背景技术

本公开涉及管理检查，并且更具体地涉及改进针对自动响应的查询的对抗性强化。

许多已知的检查事件通过在线手段发生，其中受检者位于远程并且由检查官员亲自立案是不实用的。随着互联网在我们的社会中持续存在普遍的存在，对信息的访问变得更容易获得，并且互联网充当对查询的回答的主要前往目的地。例如，可以通过众所周知的和几乎无处不在的人工智能(AI)代理(诸如数字助理和聊天机器人)相当方便地获得对查询的答案，这些代理易于通过所有形式的计算设备(包括移动设备)来访问。因此，利用此类技术来生成对检查查询的自动响应的检查的可能性需要某种形式的远程检查监考以维持检查过程的完整性。至少一些已知的远程的在线检查的管理和处理方法包括侵入式监视，诸如受检者的基于视频的监视和相关联的屏幕和屏幕共享。两种方法都需要人类监视人员的全部、未分隔和不间断的注意。此外，两种方法都使用可能影响检查硬件和软件的性能的附加计算资源，这对于定时检查可能是繁重的。此外，两种方法通过使用人类监视人员和附加的硬件和软件而增加检查的成本。

发明内容

提供了一种用于管理检查的系统、计算机程序产品和方法，所述检查具有针对自动响应的查询的对抗性强化。

在一个方面，提供了一种用于管理检查的计算机系统，这些检查具有针对自动响应的查询的对抗性强化。该系统包括一个或多个处理设备和可操作地耦合到一个或多个处理设备的至少一个存储器设备。一个或多个处理设备被配置成电子地接收原始查询。对所述原始查询的响应要由人类电子地提交。所述一个或多个处理设备还被配置成修改所述原始查询，从而生成修改的查询。修改的查询被配置为人类可理解，并且在没有人类支持的情况下不能通过电子装置适当地响应。

在另一方面，提供了一种用于管理检查的计算机程序产品，这些检查具有针对自动响应的查询的对抗性强化。所述计算机程序产品包括一个或多个计算机可读存储介质，以及共同存储在所述一个或多个计算机存储介质上的程序指令。该产品还包括用于电子地接收原始查询的程序指令。对所述原始查询的响应要由人类电子地提交。该产品还包括用于修改原始查询，从而生成修改的查询的程序指令。修改的查询被配置为人类可理解，并且在没有人类支持的情况下不能通过电子装置适当地响应。

在又一方面，提供了一种用于管理检查的计算机实现的方法，该检查具有针对自动响应的查询的对抗性强化。该方法包括电子地接收原始查询。对所述原始查询的响应要由人类电子地提交。该方法还包括修改原始查询，从而生成修改的查询。修改的查询被配置为人类可理解，并且在没有人类支持的情况下不能通过电子装置适当地响应。

本发明内容并不旨在展示本公开的每个方面、每个实现方式、和/或每个实施例。结合附图，从本实施方式的以下具体实施方式中，这些和其他特征和优点将变得显而易见。

附图说明

本申请包括的附图被结合到说明书中并且形成说明书的一部分。它们示出了本公开的实施例，并且与具体实施方式一起用于解释本公开的原理。附图说明某些实施例并且不限制本公开。

图1是示出根据本公开的一些实施例的云计算机环境的示意图。

图2是示出根据本发明的一些实施例的由云计算环境提供的一组功能抽象模型层的框图。

图3是示出根据本公开的一些实施例的可以用作基于云的支持系统，以实现本文所描述的过程的计算机系统/服务器的框图。

图4是示出根据本公开的一些实施例的被配置成用于管理具有针对自动响应的查询的对抗性强化的检查的计算机系统的框图。

图5A是根据本公开的一些实施例展示了用于管理具有针对自动响应的查询的对抗性强化的检查的过程的流程图。

图5B是根据本公开的一些实施例的来自图5A的流程图的延续。

图5C是根据本发明的一些实施例的来自图5B的流程图的延续。

图6A是示出根据本公开的一些实施例的与检查查询相关联的示例图像的图形图像。

图6B是图6A的图形图像，示出了根据本公开的一些实施例的与至少部分修改的检查查询相关联的示例至少部分修改的图像。

图6C是图6A的图形图像，示出了根据本公开的一些实施例的与进一步修改的检查查询相关联的示例进一步修改的图像。

图6D是是图6A的图形图像，示出了根据本公开的一些实施例的与经修改的检查查询相关联的示例的修改的图像。

图7A是示出根据本公开的一些实施例的示例文本检查查询的文本表示。

图7B是示出根据本公开一些实施例的基于图7A的文本检查查询的示例音频检查查询的框图。

图7C是根据本公开的一些实施例示出了基于图7A的至少部分修改的文本检查查询的示例音频检查查询的框图。

图7D是根据本公开的一些实施例示出了基于添加了音频噪声信号的图7A的文本检查查询的示例音频检查查询的框图。

虽然本公开服从不同修改和替代形式，但其细节已经通过举例在附图中示出并且将被详细描述。然而，应当理解，本发明并不局限于所描述的具体实施例。相反，意图是覆盖落入本公开的范围内的所有修改、等同物和替换。

具体实施方式

将容易理解的是，如本文的附图中总体上描述和展示的，本发明实施例的部件可以按多种不同的构型来安排和设计。由此，如附图中所呈现的本实施例的装置、系统、方法和计算机程序产品的实施例的以下具体实施方式并不旨在限制所要求保护的实施例的范围，而仅表示所选实施例。此外，应当理解，尽管为了说明的目的本文已经描述了特定实施例，但是在不脱离实施例的范围的情况下，可以做出各种修改。

贯穿本说明书提及“一个选择实施例”、“至少一个实施例”、“一个实施例”、“另一个实施例”、“其他实施例”、或“实施例”以及类似语言是指结合该实施例所描述的特定特征、结构、或特性被包括在至少一个实施例中。因此，贯穿本说明书在不同地方出现的短语“一个选择的实施例”、“至少一个实施例”、“在一个实施例中”、“另一个实施例”、“其他实施例”、或“实施例”不一定是指同一个实施例。

通过参考附图，将最好地理解所展示的实施例，其中，贯穿全文，相同的部件由相同的数字表示。以下描述仅旨在通过举例的方式，并且简单地展示了与本文所要求保护的实施例一致的设备、系统、和过程的某些所选实施例。

应当理解，尽管本公开包括关于云计算的详细描述，但本文所叙述的教导的实现不限于云计算环境。相反，本公开的实施例能够结合现在已知的或以后开发的任何其他类型的计算环境来实现。

云计算是一种服务交付模型，用于使得能够方便的、按需的网络访问可配置计算资源(例如，网络、网络带宽、服务器、处理、存储器、存储、应用、虚拟机和服务)的共享池，所述可配置计算资源可以用最小的管理努力或与所述服务的提供者的交互来快速供应和释放。该云模型可以包括至少五个特性、至少三个服务模型和至少四个部署模型。

特性如下。

按需自助服务：云消费者可以单方面地根据需要自动提供计算能力，如服务器时间和网络存储，而不需要与服务提供商进行人为交互。

广泛的网络接入：能力可通过网络获得并且通过促进由异构薄或厚客户端平台(例如，移动电话、膝上计算机、和PDA)使用的标准机制访问。

资源池：提供商的计算资源被池化以使用多租户模型服务于多个消费者，其中根据需求动态地分配和重新分配不同的物理和虚拟资源。存在位置独立性的感觉，因为消费者通常不具有对所提供的资源的确切位置的控制或了解，但可能能够以较高抽象级别(例如，国家、州或数据中心)指定位置。

快速弹性：能够快速和弹性地提供能力，在一些情况下自动地快速缩小和快速释放以快速放大。对于消费者而言，可用于供应的能力通常显得不受限制并且可以在任何时间以任何数量购买。

可测量的服务：云系统通过在适合于服务类型(例如，存储、处理、带宽、和活动用户账户)的某个抽象级别处利用计量能力来自动控制和优化资源使用。可以监视、控制和报告资源使用，为所利用的服务的提供者和消费者提供透明度。

服务模型如下。

软件即服务(SaaS)：提供给消费者的能力是使用在云基础设施上运行的提供商的应用。可通过诸如web浏览器(例如，基于web的电子邮件)之类的瘦客户端接口从不同客户端设备访问应用。消费者不管理或控制包括网络、服务器、操作系统、存储或甚至单独的应用能力的底层云基础设施，可能的例外是有限的用户特定应用配置设置。

平台即服务(PaaS)：提供给消费者的能力是将消费者创建的或获取的使用由提供商支持的编程语言和工具创建的应用程序部署到云基础设施上。消费者不管理或控制包括网络、服务器、操作系统或存储的底层云基础设施，但是对所部署的应用和可能的应用托管环境配置具有控制。

基础设施即服务(IaaS)：向消费者提供的能力是提供处理、存储、网络和消费者能够部署和运行任意软件的其他基本计算资源，所述软件可以包括操作系统和应用程序。消费者不管理或控制底层云基础设施，而是具有对操作系统、存储、所部署的应用的控制以及对所选联网组件(例如，主机防火墙)的可能受限的控制。

部署模型如下。

私有云：云基础架构仅为组织运作。它可以由组织或第三方管理，并且可以存在于场所内或场所外。

社区云：云基础设施由若干组织共享并且支持共享了关注(例如，任务、安全要求、策略、和合规性考虑)的特定社区。它可以由组织或第三方管理，并且可以存在于场所内或场所外。

公共云：云基础架构可用于大众或大型行业团体并且由出售云服务的组织拥有。

混合云：云基础设施是两个或更多个云(私有、社区或公共)的组合，这些云保持唯一实体但通过使数据和应用能够移植的标准化或专有技术(例如，云突发以用于云之间的负载平衡)绑定在一起。

云计算环境是面向服务的，集中于无状态、低耦合、模块化和语义互操作性。云计算的核心是包括互连节点网络的基础设施。

现在参见图1，描绘了说明性云计算环境50。如图所示，云计算环境50包括云消费者使用的本地计算设备可以与其通信的一个或多个云计算节点10，本地计算设备诸如例如个人数字助理(PDA)或蜂窝电话54A、台式计算机54B、膝上型计算机54C和/或汽车计算机系统54N。节点10可彼此通信。它们可以物理地或虚拟地分组(未示出)在一个或多个网络中，诸如如上所述的私有云、社区云、公共云或混合云、或其组合。这允许云计算环境50提供基础设施、平台和/或软件作为云消费者不需要为其维护本地计算设备上的资源的服务。应当理解，图1中所示的计算装置54A-N的类型仅旨在是说明性的，并且计算节点10和云计算环境50可通过任何类型的网络和/或网络可寻址连接(例如，使用网络浏览器)与任何类型的计算机化装置通信。

现在参见图2，示出了由云计算环境50(图1)提供的一组功能抽象层。应提前理解，图2中所示的组件、层和功能仅旨在是说明性的，并且本公开的实施例不限于此。

如所描述，提供以下层和对应功能：

硬件和软件层60包括硬件和软件组件。硬件组件的示例包括：大型机61；基于RISC(精简指令集计算机)架构的服务器62；服务器63；刀片服务器64；存储设备65；以及网络和联网组件66。在一些实施例中，软件组件包括网络应用服务器软件67和数据库软件68。

虚拟化层70提供抽象层，从该抽象层可以提供虚拟实体的以下示例：虚拟服务器71；虚拟存储器72；虚拟网络73，包括虚拟专用网络；虚拟应用和操作系统74；以及虚拟客户端75。

在一个示例中，管理层80可以提供以下描述的功能。资源供应81提供用于在云计算环境内执行任务的计算资源和其他资源的动态采购。计量和定价82在云计算环境内利用资源时提供成本跟踪，并为这些资源的消费开账单或发票。在一个示例中，这些资源可以包括应用软件许可证。安全性为云消费者和任务提供身份验证，以及为数据和其他资源提供保护。用户门户83为消费者和系统管理员提供对云计算环境的访问。服务水平管理84提供云计算资源分配和管理，使得满足所需的服务水平。服务水平协议(SLA)规划和履行85提供根据SLA预期未来需求的云计算资源的预安排和采购。

工作负载层90提供可以利用云计算环境的功能的示例。可以从该层提供的工作负荷和功能的示例包括：地图和导航91；软件开发和生命周期管理92；虚拟课堂教育交付93；数据分析处理94；事务处理95；以及针对对自动响应96的查询的对抗性强化。

参考图3，提供了示例数据处理系统的框图，本文被称为计算机系统100。系统100可体现在单个位置中的计算机系统/服务器中，或者在至少一个实施例中，可配置在共享计算资源的基于云的系统中。例如但不限于，计算机系统100可以用作云计算节点10。

计算机系统100的多个方面可以体现在单个位置中的计算机系统/服务器中，或者在至少一个实施例中，可以被配置在作为基于云的支持系统的共享计算资源的基于云的系统中，以实现本文所描述的系统、工具和过程。计算机系统100可与许多其他通用或专用计算机系统环境或配置一起操作。适于与计算机系统100一起使用的众所周知的计算机系统、环境和/或配置的示例包括但不限于个人计算机系统、服务器计算机系统、瘦客户机、厚客户机、手持式或膝上型设备、多处理器系统、基于微处理器的系统、机顶盒、可编程消费电子产品、网络PC、小型计算机系统、大型计算机系统和包括以上系统、设备及其等效物中的任一者的文件系统(例如，分布式存储环境和分布式云计算环境)。

计算机系统100可以在由计算机系统100执行的计算机系统可执行指令(如程序模块)的一般背景下描述。一般而言，程序模块可包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、逻辑、数据结构等。计算机系统100可以在其中任务由通过通信网络链接的远程处理设备执行的分布式云计算环境中实践。在分布式云计算环境中，程序模块可以位于包括存储器存储设备的本地和远程计算机系统存储介质中。

如图3所示，计算机系统100以通用计算设备的形式示出。计算机系统100的组件可以包括但不限于：一个或多个处理器或处理设备104(有时被称为处理器和处理单元)，例如，硬件处理器、系统存储器106(有时被称为存储器设备)、以及将包括系统存储器106的不同系统组件耦合至处理设备104的通信总线102。通信总线102表示若干类型的总线结构中的任何一种或多种，包括存储器总线或存储器控制器、外围总线、加速图形端口、以及使用各种总线架构中的任一种的处理器或局部总线。作为示例而非限制，此类体系结构包括工业标准体系结构(ISA)总线、微通道体系结构(MCA)总线、增强型ISA(EISA)总线、视频电子标准协会(VESA)局部总线以及外围组件互连(PCI)总线。计算机系统100通常包括各种计算机系统可读介质。这样的介质可以是可由计算机系统100访问的任何可用介质，并且其包括易失性和非易失性介质、可移动和不可移动介质。此外，计算机系统100可以包括一个或多个永久性存储装置108、通信单元110、输入/输出(I/O)单元112、以及显示器114。

处理设备104用于执行可以加载到系统存储器106中的软件的指令。根据特定实现方式，处理设备104可以是数个处理器、多核处理器或一些其他类型的处理器。如本文参照项目所使用的，多个意指一个或多个项目。进一步，处理设备104可使用多个异构处理器系统来实现，其中主处理器与次要处理器存在于单个芯片上。作为另一说明性示例，处理设备104可以是包含多个相同类型的处理器的对称多处理器系统。

系统存储器106和持久性存储装置108是存储设备116的示例。存储设备可以是能够暂时地和/或永久地存储信息(例如但不限于，数据、功能形式的程序代码、和/或其他合适的信息)的任何一块硬件。在这些示例中，系统存储器106可以是例如随机存取存储器或任何其他合适的易失性或非易失性存储设备。系统存储器106可以包括易失性存储器形式的计算机系统可读介质，诸如随机存取存储器(RAM)和/或高速缓存存储器。

持久性存储器108可以根据特定实现方式采取不同形式。例如，永久性存储器108可以包含一个或多个组件或设备。例如，但不限于，永久性存储器108可以被提供用于从不可移动、非易失性磁介质(未示出，并且通常称为“硬盘驱动器”)中读取和向其写入。尽管未示出，可以提供用于从可移动非易失性磁盘(例如，“软盘”)读取或向其写入的磁盘驱动器，以及用于从可移动非易失性光盘(如CD-ROM、DVD-ROM或其他光学介质)读取或向其写入的光盘驱动器。在这样的情况下，每一个可以通过一个或多个数据介质接口连接到通信总线102。

在这些实例中，通信单元110可以提供与其他计算机系统或装置的通信。在这些实例中，通信单元110是网络接口卡。通信单元110可通过使用物理和无线通信链路中的任一个或两者提供通信。

输入/输出单元112可以允许与可以连接至计算机系统100的其他设备进行数据的输入和输出。例如，输入/输出单元112可以通过键盘、鼠标和/或一些其他合适的输入设备为用户输入提供连接。此外，输入/输出单元112可以将输出发送到打印机。显示器114可以提供向用户显示信息的机制。促进在计算机系统100内的各种设备之间建立通信的输入/输出单元112的示例包括但不限于网卡、调制解调器和输入/输出接口卡。此外，计算机系统100可经由网络适配器(图3中未示出)与诸如局域网(LAN)、通用广域网(WAN)和/或公共网络(例如，互联网)的一个或多个网络通信。应当理解，虽然未示出，但是其他硬件和/或软件组件可以与计算机系统100结合使用。这样的组件的示例包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器和数据归档存储系统。

用于操作系统、应用和/或程序的指令可以位于存储设备116中，该存储设备通过通信总线102与处理设备104进行通信。在这些说明性的示例中，指令在永久性存储器108上具有功能形式。这些指令可被加载到系统存储器106中以供处理设备104执行。不同实施例的过程可以由处理设备104使用计算机实施的指令来执行，这些指令可以位于存储器中，例如系统存储器106。这些指令被称为可以由处理设备104中的处理器读取和执行的程序代码、计算机可用程序代码或计算机可读程序代码。不同实施例中的程序代码可实施在不同的物理或有形计算机可读介质上，诸如系统存储器106或永久性存储器108。

程序代码118可以以功能形式位于可选择性移除的计算机可读介质120上，并且可以被加载到或转移到计算机系统100上以供处理设备104执行。在这些示例中，程序代码118和计算机可读介质120可以形成计算机程序产品122。在一个示例中，计算机可读介质120可以是计算机可读存储介质124或计算机可读信号介质126。计算机可读存储介质124可以包括例如光盘或磁盘，该光盘或磁盘被插入或放置到作为永久性存储器108的一部分的驱动器或其他设备中，用于转移到作为永久性存储器108的一部分的存储设备(如硬盘驱动器)上。计算机可读存储介质124还可以采取连接到计算机系统100的永久性存储器的形式，例如硬盘驱动器、拇指驱动器或闪存。在一些实例中，计算机可读存储介质124可以不可从计算机系统100中移除。

可替代地，可以使用计算机可读信号介质126将程序代码118传输至计算机系统100。计算机可读信号介质126可以是例如包含程序代码118的传播数据信号。例如，计算机可读信号介质126可以是电磁信号、光信号和/或任何其他合适类型的信号。这些信号可以通过通信链路(例如，无线通信链路、光纤电缆、同轴电缆、电线和/或任何其他合适类型的通信链路)传输。换言之，在说明性实例中，通信链路和/或连接可以是物理或无线的。

在某些说明性实施例中，程序代码118可以经由网络从另一个设备或计算机系统通过计算机可读信号介质126下载到持久性存储器108中以便在计算机系统100内使用。例如，存储在服务器计算机系统中的计算机可读存储介质中的程序代码可通过网络从服务器下载到计算机系统100。提供程序代码118的计算机系统可以是服务器计算机、客户端计算机或能够存储和传输程序代码118的一些其他设备。

程序代码118可以包括一个或多个程序模块(图3中未示出)以及操作系统、一个或多个应用程序、其他程序模块和程序数据，该一个或多个程序模块可以通过示例而非限制的方式存储在系统存储器106中。操作系统、一个或多个应用程序、其他程序模块和程序数据中的每一个或它们的一些组合可以包括网络环境的实现方式。程序代码118的程序模块通常执行如本文所描述的实施例的功能和/或方法。

针对计算机系统100展示的不同组件并不意味着对可以实施不同实施例的方式提供架构限制。不同的说明性实施例可以在计算机系统中实现，该计算机系统包括除计算机系统100所示的那些组件之外或代替计算机系统100所示的那些组件的组件。

本公开可以是在任何可能的技术细节集成度处的系统、方法、和/或计算机程序产品。所述计算机程序产品可包含上面具有用于致使处理器执行本发明的方面的计算机可读程序指令的计算机可读存储介质(或介质)。

计算机可读存储介质可以是能够保留和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质可以是，例如但不限于，电子存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备、或者上述的任意合适的组合。计算机可读存储介质的更具体示例的非穷尽列表包括以下各项：便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式紧凑盘只读存储器(CD-ROM)、数字通用盘(DVD)、记忆棒、软盘、诸如穿孔卡之类的机械编码设备或具有记录在其上的指令的槽中的凸出结构、以及上述各项的任何合适的组合。如本文所使用的计算机可读存储介质不应被解释为暂时性信号本身，例如无线电波或其他自由传播的电磁波、通过波导或其他传输介质传播的电磁波(例如，穿过光纤电缆的光脉冲)或通过电线发射的电信号。

本文所描述的计算机可读程序指令可以经由网络(例如，互联网、局域网、广域网和/或无线网络)从计算机可读存储介质下载至相应的计算/处理装置或者下载至外部计算机或外部存储装置。网络可以包括铜传输电缆、光传输纤维、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配器卡或网络接口接收来自网络的计算机可读程序指令，并转发计算机可读程序指令以存储在相应计算/处理设备内的计算机可读存储介质中。

本文所描述的计算机可读程序指令可以经由网络(例如，互联网、局域网、广域网和/或无线网络)从计算机可读存储介质下载至对应的计算/处理装置或者下载至外部计算机或外部存储装置。网络可以包括铜传输电缆、光传输纤维、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配器卡或网络接口接收来自网络的计算机可读程序指令，并转发计算机可读程序指令以存储在相应计算/处理设备内的计算机可读存储介质中。

用于执行本公开的操作的计算机可读程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、集成电路的配置数据、或以一种或多种程序设计语言的任何组合编写的源代码或目标代码，这些程序设计语言包括面向对象的程序设计语言(诸如Smalltalk、C++等)和过程程序设计语言(诸如“C”程序设计语言或类似程序设计语言)。计算机可读程序指令可以完全地在用户计算机上执行、部分在用户计算机上执行、作为独立软件包执行、部分在用户计算机上部分在远程计算机上执行或者完全在远程计算机或服务器上执行。在后一种情况下，远程计算机可通过任何类型的网络(包括局域网(LAN)或广域网(WAN))连接至用户计算机，或者可连接至外部计算机(例如，使用互联网服务提供商通过互联网)。在一些实施例中，包括例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA)的电子电路可以通过利用计算机可读程序指令的状态信息来使电子电路个性化来执行计算机可读程序指令，以便执行本公开的各方面。

本文参照根据本公开的实施例的方法、装置(系统)和计算机程序产品的流程图图示和/或框图描述了本公开的多个方面。应当理解，流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合，都可以由计算机可读程序指令实现。

这些计算机可读程序指令可以被提供给计算机的处理器或其他可编程数据处理装置以产生机器，这样使得经由计算机的处理器或其他可编程数据处理装置执行的这些指令创建用于实现在流程图和/或框图的或多个框中指定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中，这些指令使得计算机、可编程数据处理装置、和/或其他设备以特定方式工作，从而，其中存储有指令的计算机可读存储介质包括包含实现流程图和/或框图中的或多个方框中规定的功能/动作的方面的指令的制造品。

这些计算机可读程序指令还可以被加载到计算机、其他可编程数据处理装置、或其他设备上，以便使得在该计算机、其他可编程装置或其他设备上执行一系列操作步骤以产生计算机实现的过程，从而使得在该计算机、其他可编程装置、或其他设备上执行的指令实现流程图和/或框图的或多个框中所指定的功能/动作。

图中的流程图和框图展示了根据本公开的不同实施例的系统、方法和计算机程序产品的可能实现方式的架构、功能和操作。对此，流程图或框图中的每个框可表示指令的模块、段或部分，其包括用于实现指定的逻辑功能的一个或多个可执行指令。在一些备选实现中，框中标注的功能可以不按照图中标注的顺序发生。例如，连续示出的两个方框实际上可以作为一个步骤完成，同时、基本上同时、以部分或完全时间上重叠的方式执行，或者方框有时可以以相反的顺序执行，这取决于所涉及的功能。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作或执行专用硬件与计算机指令的组合的专用的基于硬件的系统来实现。

许多已知的检查事件通过在线手段发生，其中受检者位于远程并且由检查官员亲自立案是不实用的。随着互联网在我们的社会中持续具有普遍的存在，对信息的访问变得更容易获得，并且互联网充当对查询的回答的主要前往目的地。例如，可以通过公知的和几乎无处不在的人工智能(AI)代理(例如，数字助理和聊天机器人，其通过所有形式的计算设备(包括移动设备)容易地访问)相当方便地获得对查询的答案。一个例子是使用反向图像搜索引擎来响应基于图像的检查查询。因此，利用此类技术来生成对检查查询的自动响应的检查的可能性需要某种形式的远程检查过程以维持检查过程的完整性。至少一些已知的在线检查的远程管理和处理方法包括侵入式监视，诸如受检者的基于视频的监视和相关联的屏幕和屏幕共享。两种方法都需要人类监视人员的全部、未分隔和不间断的注意。此外，两种方法都使用可能影响检查硬件和软件的性能的附加计算资源，这对于定时检查可能是繁重的。此外，两种方法通过使用人类监视人员和附加的硬件和软件来增加检查的成本。至少部分解决AI代理的使用的内容操纵的至少一些已知方法包括对文本和图片内容加水印，以及向音频内容添加经典的对抗性噪声，然而，这些方法被加权以保持语义内容，其中，修改被约束为不可感知的，并且AI代理的识别最多被稍微抑制。此外，当设计对检查的查询时，由受检者对AI代理的潜在使用可限制或排除许多形式的问题，例如，音乐、图像或文本段落的识别。

本文公开并描述了一种系统、计算机程序产品和方法，该系统、计算机程序产品和方法针对利用对抗性机器学习来促进用户不能通过人工智能(AI)代理容易地解决的检查查询的设计，由此增强测试序列的参数以排他地测试实际人类受检者。在至少一些实施例中，通过重新配置查询到受检者的递送(包括操纵查询的内容)，如果不是绝对阻挠，使用任何AI代理来生成自动检查查询响应而会基本上更困难。查询可被操纵的程度被约束为保留语义内容，即，允许受检者完全理解查询。然而，不像纯加水印和经典的对抗性噪声插入(其中修改必须被约束为对受检者无法感知)，本公开描述对查询内容的清晰可感知的修改。具体地，与试图完全隐藏信息同时确保内容是可恢复的纯隐写术相反，本公开描述了从查询剥离至少一些非必要信息，然而不允许完全模糊。在一些实施例中，内容操纵是多模式的，即，对查询的修改不受限于维持相同的模式。例如，文本描述可被转换成音频，随后添加对抗性噪声。

参照图4，呈现了展示了计算机系统的框图，即，检查查询自动化响应对抗性强化系统400(本文被称为系统400)，该系统被配置成用于利用针对自动化响应的查询的对抗性强化来管理检查。系统400包括通信地和可操作地耦接至一个或多个存储器设备406(仅示出一个)的一个或多个处理设备404(仅示出一个)。系统400还包括通过通信总线402通信地耦合到处理设备404和存储器设备406的数据存储系统408。在一个或多个实施方式中，通信总线402、处理设备404、存储器设备406、以及数据存储系统408分别与图3中示出的它们的对应物(即，通信总线102、处理设备104、系统存储器106、以及永久性存储设备108)相似。系统400进一步包括通信地耦合到通信总线402的一个或多个输入设备410和一个或多个输出设备412。此外，系统400包括具有一个或多个人工智能(AI)代理416(仅示出一个)的一个或多个互联网连接414(仅示出一个)。

在一个或多个实施例中，对抗性自动化响应强化引擎420(本文被称为引擎420)驻留在存储器设备406内。引擎420包括检查模块422、过滤/编辑模块424、语义服务模块426和AI代理通信模块428。将参见图4至图7进一步讨论这些模块。所存储的数据430被维护在数据存储系统408中以供存储器设备406访问。

在一个或多个实施例中，系统400(包括引擎420)的实际实现方式是如本文关于图1和图2所描述的云服务。作为云服务，引擎420可以驻留在基于云的基础架构内的任何计算设备内以递送本文中所描述的服务。通常，引擎420的任何部分都不驻留在检查的设备上，即，检查的设备被配置为接收经修改的原始检查查询的最终版本(如本文进一步讨论的)并提供来自检查的非自动响应。因此，在这样的实施例中，云服务通过输入设备410从其作者接收原始查询和一个或多个可接受的响应。基于云的服务使用引擎420来修改原始查询。修改的查询可通过输出设备412返回给作者以供其人工检查，其中如果作者可接受，则修改的查询可作为存储的数据430的一部分被存储在作者的计算设备上或数据存储系统408内。在一些实施例中，修改的查询可以通过输出设备412被直接传输到一个或多个受检者。在一些实施例中，引擎420是静态算法，其中定制至多是最小的。在一些实施例中，引擎420可由作者更灵活地定制。因此，仅需要递送修改的查询和检验的响应所需的带宽。

在至少一个实施例中，系统400(包括引擎420)的实际实现方式是嵌入在作者可直接访问的计算系统内的独立系统，例如，作者的个人或雇主提供的计算系统，包括但不限于台式计算机54B和膝上型计算机54C(在图1中示出)和服务器63(在图2中示出)。在这样的实施例中，如同上面描述的基于云的实现方式，除了最终形式修改的查询之外，检查的设备不应接收或存储任何东西。

参照图5A，提供了流程图，该流程图展示了用于通过针对自动化响应对查询的对抗性强化来管理检查的过程500。此外，参考图4，在实施方式中，引擎420电子地接收502原始查询，其中受检者被期望电子地提交响应作为远程检查过程的一部分。原始检查查询由检查的管理员创作，并且配置有图像、一个或多个文本段落和音频剪辑中的一个或多个的形式。原始查询的作者可能担心受检者可使用AI代理来生成自动响应。例如，诸如图像搜索引擎或数字助理的可商购的AI代理可以对这样的查询做出响应，该查询提供例如图像标题或作为描述检查查询中寻求的信息的句子。因此，在实施例中，作者可以利用引擎420在递送至一个或多个受检者之前通过经由输入设备410将原始查询和响应传输至引擎420来修改原始查询。

原始查询被传输至引擎420中的检查模块422。作为迭代循环的一部分，如本文进一步描述的，检查模块422被配置为执行原始查询和随后修改的查询的接收操作502。检查模块422被进一步配置为，作为接收操作的一部分，检查针对如本文中所述提供的任何对抗性特征的传入查询，并且然后在其在原始查询中没有发现时启动迭代循环。另外，如果相对于当前检查查询确定了至少一些对抗性机制，则检查模块422还确定原始查询中的对抗性特征是完全满意的还是不完全满意的。此外，当执行将原始查询转换成最终修改的查询的迭代周期时，检查模块422促进迭代周期的继续，直到用于将修改的查询传递到受检者的准则满足为止。

如此，在实施例中，原始查询被修改504，从而生成至少部分修改的查询。为了将修改的查询传输至受检者，至少部分修改的查询将被配置为满足两个要求，即，最终修改的查询必须被人类受检者理解，并且在没有直接人类支持的情况下最终查询必须不能通过电子装置响应，即，受检者必须在没有AI代理的帮助的情况下直接响应修改的查询。因而，原始查询被转换506成至少部分修改的查询。更具体地，原始查询被传输至一个或多个过滤组件，即，作为包括查询转换操作506的原始查询至最终修改的查询迭代循环的至少一部分的过滤/编辑模块424。

在一个或多个实施例中，过滤/编辑模块424电子地接收原始查询，其中，原始查询包括原始文本查询、原始图像查询以及原始音频查询中的一个或组合的模态。原始查询可通过具有预定参数的一个或多个操作来转换506。例如，图像可被模糊，其中模糊程度是根据所建立的准则和参数来管理的。此外，图像的一个或多个方面可经历一个或多个扰动或操纵。此外，例如，可通过添加对抗性噪声以至少部分地模糊图像的一个或多个特征来操纵图像。参考图6A至图6D进一步讨论图像修改。音频修改可以包括具有效果的扰动或调制，包括但不限于反向播放相应的音频文件、添加回声、移除某些频率范围、添加背景噪声、分解成小块并重新布置、以及反转歌词。参考图7A至图7D进一步讨论音频修改。文本查询可经历文本到音频转换(也在图7A-7D中示出)或文本到图像转换，从而通过转换查询的模态来转换查询，同时保持原始查询的本质。对于文本到音频的转换，可以使用先前描述的音频扰动和调制。此外，文本可被转换成一个或多个图像，其中文本可被转换成不可着色和不可隐藏的图像。除了扰乱文本之外，在一些实施例中，随机单词可被添加到每隔句子或从每隔句子移除。因而，至少部分地作为原始检查查询的模态的函数来执行转换操作506。

在至少一些实施例中，该至少部分修改的查询和原始查询被传输510至语义服务模块426。语义服务模块426被配置为执行512原始查询与至少部分修改的查询之间的相似性评估以确定语义相似性。参考图5B，提供来自图5A的过程500的继续。还继续参照图4，并且更具体地，语义服务模块426被配置为执行确定操作514，以决定迄今为止的转换是否保留了足以供人类受检者理解的信息。例如，转换操作506可以调制音频查询以移除音频文件的至少一部分；然而，如果查询包括语音识别和分配给特定个体，则可以实现背景噪声的添加，并且语义服务模块426将确定514背景噪声频率的幅度是否淹没音频查询的要由受检者分析的部分。在一些实施例中，所存储的数据430可以包括人类可理解和人类不可理解的修改的查询的示例。在一些实施例中，语义服务模块426确保包含在经编辑的查询中的信息保持足够不变以促进人类识别。这样的服务可以采取从人工注释器到通过大型数据库训练的查询的各种形式。下面将进一步讨论对确定操作514的“是”响应。对确定操作514的“否”响应导致将至少部分修改的查询传输516至过滤/编辑模块424，其中至少部分修改的查询被进一步转换518。过程500返回到相似性评估执行操作512，并且进一步转换的查询经历通过操作512-518的迭代循环，直至获得确定操作514的“是”结果。此外，将来自原始查询与至少部分修改的查询之间的相似性评估操作512的用于确定语义相似性的反馈以及确定操作514传送到进一步的转换操作518。

此外，在至少一些实施例中，通过AI代理通信模块418和互联网连接414向预定AI代理416传输520至少部分修改的查询。在一些实施例中，AI代理416在引擎420外部。在一些实施例中，一个或多个AI代理416被包括在引擎420内或者驻留在存储器设备406和数据存储系统408中的一个或多个内。引擎420与AI代理416的性质无关。AI代理416被配置为通过相应AI代理内存在的一个或多个机器学习模型对至少部分修改的查询执行522尝试的标记操作。AI代理416向AI代理通信模块428返回尝试的标记操作522的结果，该AI代理通信模块428还被配置为执行确定操作524，以确定是否可以通过没有人类支持的电子手段(即，人类响应)来响应至少部分修改的查询。如果未标记至少部分修改的查询，即，AI代理416未能将标签分配给至少部分修改的查询，则确定操作524的结果为“否”，并且将在下面进一步讨论对确定操作524的“否”响应。如果标记了至少部分修改的查询，则确定操作524的结果为“是”。对确定操作524的“是”响应导致将至少部分修改的查询传输526至过滤/编辑模块424，其中至少部分修改的查询被进一步转换518。

此外，在一些实施例中，AI代理416，或在一些实施例中，AI代理通信模块428将置信度分数分配给来自AI代理416的响应。在一些实施例中，置信度分数是沿着0％到100％标度的数值，其中置信度分数至少部分地指示AI代理416已经正确识别和标记至少部分修改的查询的置信度。

此外，在一些实施例中，AI代理416可以被提示提供对查询的响应。还可以执行确定操作524以确定AI代理提供的响应是否充分接近于作者在接收操作502中提供的检查查询回答(响应)。如果AI代理416可以提供足够精确的响应，那么来自确定操作524的结果为“是”。如果AI代理416不能提供足够精确的响应，包括不正确的响应，那么来自确定操作的结果是“否”。过程500返回到所尝试的标记执行操作522，并且经过操作520-524-518进行进一步转换的查询经历迭代循环，直到获得确定操作524的“否”结果。此外，来自所尝试的标记操作522和确定操作524的反馈被传输到进一步的转换操作518。

如所讨论的，存在两个被处理的迭代周期或循环。第一迭代循环包括通过语义服务模块426执行的操作512-514-516，以生成人类受检者可理解的最终修改的检查查询。第二迭代循环包括通过AI代理通信模块428和AI代理416执行的操作522-524-526以生成不能通过AI代理416响应的最终修改的检查查询。在一些实施例中，可以并行执行两个迭代循环。在一些实施方式中，在包括第一循环-第二循环-第一循环等的循环中，可以串联执行两个迭代循环，直到实现确定操作514和524的两个要求。在一些实施例中，可以以两个循环中的一个产生满意的修改的查询(其进而被提供给另一个循环)的方式来执行两个迭代循环。

参考图5C，呈现了来自图5B的过程500的继续。继续参考图4、图5A和图5B，在来自确定操作514的结果为“是”并且来自确定操作524的结果为“否”的那些实施方式中，将最终修改的查询和结果传输至与检查模块422相关联的合并操作530。来自合并操作530的结果导致完全修改的查询通过检查模块422和输出装置412被传输532到人类受检者，并且处理500结束。在其他实施例中，其中来自确定操作514的“否”结果或来自确定操作524的“是”结果将促进检查模块422阻止修改的查询传给人类受检者并且如上所述执行对查询的进一步修改。

提出了修改基于图像的检查查询的示例。参考图6A，呈现了示出与原始检查查询相关联的乌龟的示例原始图像600的图片图像。乌龟图像600以黑白示出；然而，彩色图像也可被呈现为原始查询。参考图6B，提供了图6A的原始图像600，其示出了与至少部分修改的检查查询相关联的至少部分修改的图像610的示例。还参考图4、图5A、图5B和图5C，语义服务模块426分析图像610并且确定因为图像610中的特征的边缘被保留并且图像610中的足够的信息被保留以允许人识别乌龟，所以来自确定操作514的结果是“是”。然而，来自确定操作524的结果是“是”，其中AI代理416将图像610正确地识别(标记)为具有99％的置信水平的乌龟。因此，如上所述，来自确定操作514的“是”结果和来自确定操作524的“是”结果将禁止检查模块422向人类受检者传递修改的查询，并且如上所述执行对查询的进一步修改。

参考图6C，呈现了图6A中的乌龟的图片，该图片展示了与进一步修改的检查查询相关联的示例进一步修改的图像620。还参考图4、图5A、图5B和图5C，语义服务模块426分析图像620，并且确定因为在图像620中基本上不存在图像600中的大部分特征，并且对乌龟的人类识别是全部但不可能的，所以来自确定操作514的结果为“否”。然而，来自确定操作524的结果是“否”，其中AI代理416不能将图像620识别(标记)为乌龟并且因此不提供置信水平。因此，如上所述，来自确定操作514的“否”结果和来自确定操作524的“否”结果将禁止通过检查模块422向人类受检者传递修改的查询，并且如上所述执行对查询的进一步修改。

参考图6D，呈现了图6A中的乌龟的图片，展示了与经修改的检查查询相关联的最终修改的图像630的示例。语义服务模块426分析图像630并且确定因为图像630中的特征的大部分边缘被保留并且图像630中的足够信息被保留以允许人类识别乌龟，所以来自确定操作514的结果是“是”。来自确定操作524的结果是“否”，其中AI代理416不能将图像630识别(标记)为乌龟并且因此不提供置信水平。如上所述，来自确定操作514的“是”结果和来自确定操作524的“否”结果允许通过检查模块422向人类受检者传输532传输到合并操作530的最终修改的查询和结果，并且处理500结束。

因此，检查模块422通过合并操作530检查简单的AND条件，即，语义服务模块426是否认为修改的查询的语义特征被充分保留以保持人类可理解，并且AI代理416是否给出错误的、基本上模糊的或者没有回答(完全禁用)？如果两个条件都满足，则检查模块422中断循环周期，并且向受检者传输532完全修改的查询，否则循环周期继续。

呈现了修改基于文本至音频的检查查询的示例。参考图7A，提供了示出示例文本检查查询和回答/响应700的文本表示。参考图7B，提供了示出基于图7A的文本检查查询700的示例音频检查查询710的框图。语义服务模块426将确定人类受检者可理解的音频检查查询710。此外，AI代理416将处理音频检查查询710并提供具有99％置信度值的正确响应。因此，不满足检查模块422允许修改的检查查询传输给受检者的两个要求。参考图7C，提供了示出基于从图7A的示例文本检查查询700导出的至少部分修改的文本检查查询722的示例经编辑的经转换的音频查询720的框图。经编辑的经转换的音频查询720对于人类和AI代理416两者基本上是不可理解的，从而将经编辑的经转换的音频查询720呈现为不可由检查模块422传输给人类受检者。参考图7D，提供了示出基于添加特定频率和幅度的音频噪声信号732的图7A的文本检查查询700的示例音频检查查询730的框图。语义服务模块426能够通过噪声732辨别转换的音频，并且AI代理416不能对有噪声的转换的音频查询730进行标记，使得满足检查模块422的两个要求，并且有噪声的转换的音频查询730可以被传输532到人类受检者。

在一些实施例中，可能存在语义服务模块426和AI代理416结果两者都不能被满足的机会，即，来自确定操作514和524的两个结果中的仅一个被满足以满足检查模块422的要求，而不管迭代的数量。对于这样的条件，引擎420包括迭代计数器和在预定数量的迭代处停止迭代操作的足够逻辑。一旦停止循环迭代，可以向作者提供通知，其中作者将做出关于如何继续的决定，包括但不限于从检查库消除检查查询、通过试错手动改变查询、或者使用修改的查询的最新迭代，预期完全消除AI代理416的潜在使用对于相应的查询是不可行的。

此外，在一些实施例中，原始查询可以被配置成使得检查模块422的两个要求得到满足，而不需要任何修改。在这样的实施例中，过滤/编辑模块424可以被配置成利用“什么也不做”命令来执行第一迭代，使得未修改的检查查询将触发来自确定操作514的“是”结果和来自确定操作524的“否”结果，终止迭代循环，并触发合并操作530以允许未修改的检查查询被传输532给受检者。

如本文公开的系统、计算机程序产品和方法有助于克服用于对要求受检者访问互联网的个人实施远程检查的已知系统和方法的缺点和限制。具体地，本公开描述了用于从常规查询生成查询的自动化过程和系统，该常规查询以测试人类检查的认知但避开AI代理的当前能力的方式被模糊。本文描述的测试机制便于减少对广泛的远程进程的需要，由此减少对侵入性和资源密集的计算环境的需要，包括建立和维持要建立的稳定的、高带宽通信链路。此外，可以提升对测试的模态的许多先前的限制，包括使用音乐、图像和文本段落。因此，通过本公开实现了对已知远程检查系统的行为和完整性的显著改进。

已经出于说明的目的呈现了本公开的不同实施例的描述，但并不旨在是详尽的或限于所公开的实施例。在不脱离所描述的实施例的范围的情况下，许多修改和变化对于本领域普通技术人员来说是显而易见的。这里使用的术语被选择来最好地解释实施例的原理、实际应用或对在市场中找到的技术的技术改进，或者使得本领域普通技术人员能够理解这里公开的实施例。

Claims (20)

1.一种计算机系统，包括：

一个或多个处理设备和可操作地耦合到所述一个或多个处理设备的至少一个存储器设备，所述一个或多个处理设备被配置成：

电子地接收原始查询，其中对所述原始查询的响应要由人类电子地提交；以及

修改所述原始查询，从而生成修改的查询，其中所述修改的查询被配置为：

可被该人类理解；以及

在没有人类支持的情况下不能通过电子装置适当地响应。

2.根据权利要求1所述的系统，还包括：

通信地耦合到所述一个或多个处理设备的一个或多个过滤组件，其中，所述一个或多个处理设备还被配置成：

将所述原始查询传输至所述一个或多个过滤组件，从而实现对所述原始查询的一个或多个转换。

3.根据权利要求2所述的系统，还包括：

通信地耦合到所述一个或多个处理设备的一个或多个语义服务，其中所述一个或多个处理设备还被配置为：

向所述一个或多个语义服务传输所述修改的查询；

将所述原始查询传输至所述一个或多个语义服务；以及

通过所述一个或多个语义服务来执行所述原始查询与所述修改的查询之间的相似性评估。

4.根据权利要求3所述的系统，其中，所述一个或多个处理设备还被配置为：

通过所述一个或多个语义服务确定所述修改的查询是该人类可理解的。

5.根据权利要求3所述的系统，还包括：

访问通信地耦合到所述一个或多个处理设备的一个或多个人工智能(AI)代理，其中，所述一个或多个处理设备还被配置为：

将所述修改的查询传输至所述一个或多个AI代理；以及

通过所述一个或多个AI代理对修改的查询执行尝试的标记操作。

6.根据权利要求5所述的系统，其中，所述一个或多个处理设备还被配置为进行以下中的一个或多个：

通过所述一个或多个AI代理将标签分配给所述修改的查询；

通过所述一个或多个AI代理将置信度值分配给所述修改的查询；以及

通过所述一个或多个AI代理生成对所述修改的查询的响应。

7.根据权利要求5所述的系统，其中，所述一个或多个处理设备还被配置为进行以下中的一个或多个：

未能通过所述一个或多个AI代理将标签分配给所述修改的查询；

通过所述一个或多个AI代理不生成对所述修改的查询的响应；以及

通过所述一个或多个AI代理生成对所述修改的查询的不正确响应。

8.根据权利要求1所述的系统，其中：

所述原始查询包括以下各项中的一项或多项的模态：

原始文本查询；

原始图像查询；以及

原始音频查询；以及

所述一个或多个处理设备还被配置为修改所述原始查询，包括修改所述原始查询的模态，包括将所述原始文本查询转换成以下中的一个或多个：

至少部分修改的音频查询，所述音频查询包括至少一些对抗性噪声；以及

至少部分修改的图像查询。

9.根据权利要求1所述的系统，还包括：

通信地耦合到所述一个或多个处理设备的一个或多个过滤组件；

通信地耦合到所述一个或多个过滤部件的一个或多个语义服务；

访问通信地耦合到所述一个或多个过滤部件的一个或多个人工智能(AI)代理，其中，所述一个或多个处理设备还被配置成：

通过所述一个或多个过滤组件将所述原始查询转换成至少部分修改的查询；

迭代地将所述原始查询和所述至少部分修改的查询传输到所述一个或多个语义服务；

迭代地将所述至少部分修改的查询传输至所述一个或多个AI代理；

迭代地将所述至少部分修改的查询传输至所述一个或多个过滤组件；

迭代地确定：

通过所述一个或多个语义服务，所述人类对所述至少部分修改的查询的可理解性；以及

通过所述一个或多个AI代理，不能在没有所述人类支持的情况下通过所述电子装置适当地对所述至少部分修改的查询做出响应，从而建立所述至少部分修改的查询是完全修改的查询；以及

将所述完全修改的查询传输至所述人类。

10.一种计算机程序产品，所述计算机程序产品包括：

一个或多个计算机可读存储介质；以及

共同存储在所述一个或多个计算机可读存储介质上的程序指令，所述程序指令包括：

电子地接收原始查询的程序指令，其中对所述原始查询的响应要由人类电子地提交；以及

修改所述原始查询，从而生成修改的查询的程序指令，其中，所述修改的查询被配置为：

可被该人类理解；以及

在没有人类支持的情况下不能通过电子装置适当地响应。

11.根据权利要求10所述的计算机程序产品，还包括：

用于通过所述一个或多个过滤组件将所述原始查询转换成至少部分修改的查询的程序指令；

迭代地将所述原始查询和所述至少部分修改的查询传输到所述一个或多个语义服务的程序指令；

迭代地将至少部分修改的查询传输至所述一个或多个AI代理的程序指令；

迭代地将所述至少部分修改的查询传输至所述一个或多个过滤组件的程序指令；

程序指令，用于迭代地确定：

通过所述一个或多个语义服务，所述人对所述至少部分修改的查询的可理解性；以及

通过所述一个或多个AI代理，不能在没有所述人类支持的情况下通过所述电子装置适当地响应所述至少部分修改的查询，从而建立所述至少部分修改的查询是完全修改的查询；以及

将所述完全修改的查询传输至所述人的程序指令。

12.一种计算机实现方法，包括：

电子地接收原始查询，其中对所述原始查询的响应要由人类电子地提交；以及

修改所述原始查询，从而生成修改的查询，其中所述修改的查询被配置为：

可被该人类理解；以及

在没有人类支持的情况下不能通过电子装置适当地响应。

13.根据权利要求12所述的方法，其中，生成修改的查询包括：

将所述原始查询传输至一个或多个过滤组件，从而实现对所述原始查询的一个或多个转换。

14.根据权利要求13所述的方法，还包括：

向一个或多个语义服务传输所述修改的查询；

将所述原始查询传输至所述一个或多个语义服务；以及

通过所述一个或多个语义服务来执行所述原始查询与所述修改的查询之间的相似性评估。

15.根据权利要求14所述的方法，其中，执行所述相似性评估包括：

通过所述一个或多个语义服务确定所述修改的查询是该人类可理解的。

16.根据权利要求14所述的方法，还包括：

将所述经修改该的查询传输至一个或多个人工智能(AI)代理；以及

通过所述一个或多个AI代理对所述修改的查询执行尝试的标记操作。

17.根据权利要求16所述的方法，其中对所述修改的查询执行尝试的标记操作包括以下中的一个或多个：

为修改后的查询分配标签；

将置信度值分配给所述修改的查询；以及

生成对所述修改后的查询的响应。

18.根据权利要求16所述的方法，其中，对所述修改的查询执行尝试的标记操作包括以下中的一个或多个：

未能将标签分配给所述修改的查询；

不生成对所述修改的查询的响应；以及

生成对所述修改的查询的不正确的响应。

19.根据权利要求12所述的方法，其中：

电子地接收所述原始查询包括以下列中的一个或多个的模态接收所述原始查询：

原始文本查询；

原始图像查询；以及

原始音频查询；以及

所述修改所述原始查询包括修改所述原始查询的模态，包括将所述原始文本查询转换成以下中的一个或多个：

至少部分修改的音频查询，所述音频查询包括至少一些对抗性噪声；以及

至少部分修改的图像查询。

20.根据权利要求12所述的方法，还包括：

通过所述一个或多个过滤组件将所述原始查询转换成至少部分修改的查询；

迭代地将所述原始查询和所述至少部分修改的查询传输到所述一个或多个语义服务；

迭代地将所述至少部分修改的查询传输至所述一个或多个AI代理；

迭代地将所述至少部分修改的查询传输至所述一个或多个过滤组件；

迭代地确定：

通过所述一个或多个语义服务，所述人类对所述至少部分修改的查询的可理解性；以及

不能在没有人类支持的情况下通过电子装置适当地对至少部分修改的查询做出响应，从而建立所述至少部分修改的查询是完全修改的查询；以及

将所述完全修改的查询传输至所述人类。