CN114586049A - 使用机器学习来自动完成机器人流程自动化工作流 - Google Patents

使用机器学习来自动完成机器人流程自动化工作流 Download PDF

Info

Publication number
CN114586049A
CN114586049A CN202080072312.7A CN202080072312A CN114586049A CN 114586049 A CN114586049 A CN 114586049A CN 202080072312 A CN202080072312 A CN 202080072312A CN 114586049 A CN114586049 A CN 114586049A
Authority
CN
China
Prior art keywords
activities
workflow
model
user
models
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202080072312.7A
Other languages
English (en)
Inventor
K·耶尔
R·耶尔
N·K·艾姆
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yupas Co
Original Assignee
Yupas Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yupas Co filed Critical Yupas Co
Publication of CN114586049A publication Critical patent/CN114586049A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G06F16/901—Indexing; Data structures therefor; Storage structures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0631—Resource planning, allocation, distributing or scheduling for enterprises or organisations
    • G06Q10/06316—Sequencing of tasks or work
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0633—Workflow analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/10—Office automation; Time management

Abstract

公开了使用机器学习(ML)自动完成机器人流程自动化(RPA)工作流。训练的ML模型可以智能地和自动地预测和完成RPA工作流中的下一活动系列(例如，一个工作流、多个工作流、数个工作流、工作流的剩余部分等)。用户在一段时间内创建工作流时所采取的动作可以被捕捉并且被存储。ML模型然后可以被训练并且用于将存储的动作与存储的动作的工作流序列相匹配，以便预测和完成工作流。当越来越多的工作流序列随着时间被捕获和被存储时，ML模型可以被再训练以预测更多的序列和/或更准确地进行预测。在一些实施例中，自动完成可以实时地发生，以节省用户的时间和精力。

Description

使用机器学习来自动完成机器人流程自动化工作流
相关申请的交叉引用
本申请要求了2019年12月4日提交的申请号为16/702,966的美国非临时专利申请的权益，该美国非临时专利申请要求了2019年10月15日提交的申请号为201911041766的印度临时专利申请的权益。这些较早提交的申请的主题通过引用其整体而并入本文。
技术领域
本发明总体上涉及机器人流程自动化(RPA)，更具体地涉及使用机器学习(ML)来自动完成RPA工作流。
背景技术
RPA工作流可以包括数个模块和/或序列。当创建针对类似任务的工作流时，用户通常倾向于重复某些步骤或者序列。在工作流中重复这些步骤会花费开发方更多的时间并且降低生产率。现有的解决方案针对业务自动化提供了模板驱动(“template-driven”)的工作流设计生成。然而，这些模板是预设的，并且不包括预测用户意图或者需求的智能，更不用说考虑其中的变化。因此，在工作流创建期间减少或者避免这种重复的改进解决方案可以是有益的。
发明内容
本发明的某些实施例可以为由当前RPA技术尚未被完全标识、理解或者解决的现有技术中的问题和需求提供解决方案。例如，本发明的一些实施例涉及使用ML来自动完成RPA工作流。
在实施例中，系统包括多个开发方计算系统，该多个开发方计算系统包括相应的设计器应用和存储工作流的数据库。工作流包括活动系列。系统还包括被配置为训练一个或多个ML模型的服务器。设计器应用被配置为当相应的用户正在创建RPA工作流时监控活动，捕获相应的工作流中的活动序列，使相应的工作流中的捕获的活动序列、相应的工作流本身或两者被存储在数据库中，以及调用经训练的一个或多个ML模型。服务器被配置为，使用存储的工作流来训练一个或多个ML模型，以在开发方添加和/或修改工作流中的一个或多个活动之后标识一个或多个下一活动序列。经训练的一个或多个ML模型被配置为，在当前用户添加或者修改在当前工作流中的活动时分析当前工作流，通过至少一个建议置信度阈值来检测被添加的活动和/或被修改的活动中的一个或多个活动指示下一活动序列，以及当经训练的一个或多个ML模型检测到建议置信度阈值针对下一活动序列已经被满足或者被超过时，向用户建议下一活动序列。
在另一实施例中，计算机程序被具化在非暂态计算机可读介质上。程序被配置为，当用户正在创建RPA工作流时，使至少一个处理器监控RPA工作流中的活动，并且捕获RPA工作流中的监控的活动序列、RPA工作流本身或两者。程序还被配置为，使至少一个处理器向第一ML模型发送捕获的活动序列、RPA工作流或两者用于分析。程序还被配置为，使至少一个处理器从第一ML模型接收一个或多个建议的下一活动序列，并且向用户建议一个或多个建议的下一活动序列。
在又一实施例中，计算机实现的方法包括：从一个或多个RPA设计器应用接收多个收集的工作流，并且在开发方添加和/或修改工作流中的一个或多个活动之后，使用多个收集的工作流来训练一个或多个ML模型，以标识一个或多个下一活动序列。计算机实现的方法还包括：在训练之后，使经训练的一个或多个ML模型可用于一个或多个RPA设计器应用。
附图说明
为了便于理解本发明某些实施例的优点，将参考附图中所示的具体实施例，对上文简要描述的本发明进行更详细的描述。虽然应当理解，这些附图仅描绘了本发明的典型实施例，因此不被认为是对其范围的限制，但是将通过使用附图利用附加的特征和细节来描述和解释本发明，在附图中：
图1是图示根据本发明实施例的RPA系统的架构图。
图2是图示根据本发明实施例的已部署的RPA系统的架构图。
图3是图示根据本发明实施例的设计器、活动和驱动器之间关系的架构图。
图4是图示根据本发明实施例的RPA系统的架构图。
图5是图示根据本发明实施例的被配置为使用ML自动地完成RPA工作流的计算系统的架构图。
图6A是图示根据本发明实施例的在ML模型检测到潜在的下一活动系列之后设计器应用的屏幕截图。
图6B是图示根据本发明实施例的在用户已经指示建议的下一活动序列正确并且序列已被添加至工作流之后图6A的设计器应用的屏幕截图。
图6C是图示根据本发明实施例的自动完成的变量选项卡的屏幕截图。
图6D是图示根据本发明实施例的自动完成的属性选项卡的屏幕截图。
图7是图示根据本发明实施例的用于拒绝或者接受并且自动完成针对RPA工作流的建议的下一活动系列的过程的流程图。
图8是根据本发明实施例的针对个性化和通用化流程两者的自动完成架构图。
图9是图示根据本发明实施例的使用ML来自动完成RPA工作流的过程的流程图。
具体实施方式
根一些实施例涉及使用ML来自动完成RPA工作流。如本文所使用的，ML可以指深度学习(DL)(例如，深度学习神经网络(DLNN))、浅层学习(例如，浅层学习神经网络(SLNN))、任何其他合适类型的机器学习、或者不脱离本发明范围的其任何组合。这样的实施例可以使用ML技术来智能地和自动地预测和完成工作流中的下一活动系列(例如，一个工作流、多个工作流、数个工作流、工作流的剩余部分等)。用户在创建工作流时创建和/或修改的活动可以被捕获并且在一段时间内被存储在数据库中。然后，可以在合适的数据集(例如，可扩展应用标记语言(XAML)文件数据集)上训练ML模型，该数据集包括工作流，该工作流包含由RPA开发方创建的活动序列。XAML文件可以包含用于创建RPA工作流的信息(例如，活动、参数、活动流程等)。
一旦ML模型被训练，存储关于开发方当前正在构建的工作流的信息的文件(例如，XAML文件)可以由RPA设计器应用作为输入数据而被传递至ML模型。ML模型然后可以消费此输入并且预测下一活动序列以用于自动完成。在一些实施例中，此预测输出的格式也可以是XAML文件。如果工作流中的当前活动序列没有导致具有至少预定置信度阈值(即，建议置信度阈值)的下一活动序列的预测，则当开发方继续创建工作流时，设计器应用可以继续周期性地将工作流信息传递给XAML模型，并且此时，如果预测满足建议置信度阈值，则可以提供下一活动序列的建议。
全局ML模型的训练可以发生在服务器侧，因此可以存储和分析来自RPA开发方的工作流数据的较大缓存，以找到模式。此外，服务器往往具有大量的处理资源和图形处理单元(GPU)资源，这使训练可以更快地发生。然而，一个或多个ML模型的训练可以发生在相同的计算系统上、不同的计算系统上、客户端侧、服务器侧或者任何其他(多个)计算系统和/或(多个)位置上，而不脱离本发明的范围。
在一些实施例中，可以针对每个RPA开发方训练局部模型，以考虑个人开发方风格和偏好。例如，开发方可能更喜欢在活动系列之后发送某个的电子邮件，可能更喜欢某个的变量类型等。一旦被训练后，全局ML模型和局部ML模型可以被推送到RPA开发方应用，或者远程地对RPA应用可用(例如，在RPA开发方应用的请求处的服务器侧上执行)。如果没有针对该用户开发局部ML模型，则可以使用全局ML模型。在一些实施例中，可以首先应用局部ML模型，并且如果没有预测到下一序列(例如，不满足针对局部模型的置信度阈值)，则可以应用全局ML模型来尝试找到用于建议的序列。在某些实施例中，局部ML模型和全局ML模型可以具有不同的置信度阈值。
由于其从来自多个或数个RPA开发方的工作流数据中学习，全局ML模型可以较不频繁地更新，并且可以采用更长的训练时间。另一方面，局部模型使用来自给定开发方的工作流数据。因此，在一些实施例中，全局模型可以每几周而被更新，而局部模型可以每几天而被更新。自然，训练每个模型的速度和频率取决于给定的实现和处理资源。
一旦被训练后，ML模型或者多个模型可以接收关于自动创建的工作流序列的用户确认，以完成工作流的该部分。当越来越多的工作流序列随着时间被捕获和被存储时，一个或多个ML模型可以被再训练以预测更多的序列和/或更准确地进行预测。在一些实施例中，自动完成可以实时地发生，以节省用户或者开发方的时间和精力。
在一些实施例中，开发方可以从头开始构建他的或者她的工作流。当步骤(即，活动)被添加到工作流中时，ML模型(局部、全局或两者)可以分析步骤以及潜在地分析序列中一个或多个前面的步骤，并且检查在满足至少预定概率阈值的步骤之后是否可能潜在地期望一个或多个序列。一旦用户将活动添加到工作流后，ML模型可以考虑最后N个活动(包括这个新添加的活动)，以检查活动的下一逻辑序列是否可以被预测和被自动完成。这种可能性可以由模型预测的阈值置信等级来确定，在一些实施例中，阈值置信等级可以高于90％。如果基于工作流中当前序列活动所建议的存储序列的置信等级小于阈值置信等级，则可以不提供建议。然后，当添加下一活动时，可以再次运行ML模型，直到满足建议置信度阈值。因此，存在针对每个可能被建议的序列所确定的置信度阈值，也存在这些序列为了被建议而必须满足的建议置信度阈值两者。
多于一个的可能下一活动序列可以超过建议置信度阈值是可能的。如果是这种情况，可以向用户/开发方呈现这些序列作为完成工作流中的一个或多个下一步骤的选项。在某些实施例中，序列按照它们相应的置信度阈值排序。然后，用户/开发方可以选择被自动添加到工作流中的相关的下一序列。
在某些实施例中，这可以包括：将活动添加至工作流、设置变量(即，编程变量)的声明和使用、读取/写入某些文件、和/或任何其他所需的相关步骤以逻辑地结束工作流中的序列，而不偏离本发明范围。RPA工作流有点类似于编程语言，通常具有在工作流执行期间使用的不同类型的变量。如果这些变量没有被声明为正确的数据类型，工作流可能会运行出错。因此，应该选择正确的变量数据类型来保存数字(例如，整数)、文本(例如，字符串)等。因此，一些实施例执行工作流的自动完成并且智能地在内部声明正确类型的相关变量两者。
如上所述，在一些实施例中，ML模型提供满足或者超过建议置信度得分的序列预测(即，由ML模型在给定步骤或者活动或者其序列之后将使用子序列的估计概率)。ML模型可以基于使用数个工作流作为整体和这些工作流内的序列进行训练来学习置信度得分。同样根据上述内容，如果多个序列超过针对给定步骤的置信度阈值(例如，由于两个或更多个序列具有满足或者超过阈值的置信度得分，因此存在至少两个逻辑分支)，则可以利用这些序列来提示开发方。开发方然后可以选择哪个序列是正确的(或者在一些实施例中，指示没有序列是正确的)。如果选择了序列，所选择的序列会自动添加到工作流中。如果没有，开发方继续工作流开发过程。在一些实施例中，经过一段时间，ML模型可以越来越多地了解开发方的个人风格、逻辑和惯例。然后ML模型可以使用此信息来预测和完成基于ML模型如何估计开发人员个人期望的工作流程。
在一些实施例中，可以经由有人值守的反馈、无人值守的反馈或两者来训练ML模型。有人值守的反馈包括开发方积极值守生成训练数据的情况。例如，RPA开发方可以被提示他或者她不想使用预测的下一活动序列的原因，并且将其提供给服务器侧用于训练。无人值守的反馈包括收集信息而不用用户主动值守。例如，仅用户已经拒绝活动序列的事实就可以提供ML模型可能没有如给定用户预期的那样工作的信息。开发方在拒绝建议之后包括在工作流中的活动然后可以被用于训练模型以了解开发方实际寻找什么。如果全局地都是这种情况，这种信息也可以用于训练全局ML模型。
有人值守的反馈、无人值守的反馈或两者，提供用于训练局部ML模型和全局ML模型的输入。全局ML模型是针对所有RPA开发方或者RPA开发方子集的通用模型，而局部ML模型是个性化的和用户特定的。如果局部ML模型不存在或者没有找到满足或者超过建议置信度阈值的序列，则可以参考全局ML模型来试图找到满足或者超过针对预测的建议置信度阈值的建议。在某些实施例中，可以使用多于两个的ML模型。例如，一些实施例可以针对给定开发方采用局部模型，然后采用适用于越来越大的开发团队的N个下一模型(例如，编程团队、然后组、然后公司等)，直到全局模型。
图1是图示根据本发明实施例的RPA系统100的架构图。RPA系统100包括允许开发方设计和实现工作流的设计器110。设计器110可以提供用于应用集成以及自动化第三方应用、管理信息技术(IT)任务和商业IT过程的解决方案。设计器110可以促进自动化项目的开发，该自动化项目是业务过程的图形表示。简而言之，设计器110促进工作流和机器人的开发和部署。
自动化项目通过给予开发方对执行顺序和在工作流中开发的自定义步骤集之间的关系的控制，来启用基于规则的过程的自动化，在本文中工作流被限定为“活动”。设计器110的实施例的一个商业示例是UiPath StudioTM。每个活动可以包括动作，诸如点击按钮、读取文件、写入记录面板等。在一些实施例中，工作流可以是嵌套的或者嵌入的。
工作流的一些类型可以包括但不限于序列、流程图、有限状态机(FSM)和/或全局异常处理程序。序列可以特别适合线性过程，使能够从一个活动流向另一活动，而不会使工作流变得混乱。流程图可以特别适合更复杂的业务逻辑，通过多个分支逻辑操作符以更多样化的方式启用决策的集成和活动的连接。FSM可以特别适合大型工作流。FSM可以在它们的执行中使用有限数目的状态，这些状态由条件(即，转换)或者活动触发。全局异常处理程序可以特别适合用于在遇到执行错误时确定工作流行为以及用于调试过程。
一旦在设计器110中开发出工作流之后，指挥方120协调业务过程的执行，指挥方120协调一个或多个机器人130执行设计器110中已开发的工作流。指挥方120的实施例的一个商业示例是UiPath OrchestratorTM。指挥方120促进管理环境中资源的创建、监控和部署。指挥方120可以充当与第三方解决方案和应用的集成点。
指挥方120可以管理机器人130的编队、从集中点连接和执行机器人130。可以被管理的机器人130的类型包括但不限于：有人值守机器人132、无人值守机器人134、开发机器人(类似于无人值守机器人134，但用于开发和测试目的)和非生产机器人(类似于有人值守机器人132，但用于开发和测试目的)。有人值守机器人132由用户事件触发，并且在同一计算系统上与人类一起工作。有人值守机器人132可以与指挥方120一起用于集中式过程部署和记录介质。有人值守机器人132可以帮助人类用户完成各种任务，并且可以由用户事件触发。在一些实施例中，过程不能从这种类型的机器人上的指挥方120启动，和/或它们不能在锁定的屏幕下运行。在某些实施例中，有人值守机器人132只能从机器人托盘或者从命令提示符来启动。在一些实施例中，有人值守机器人132应当在人类的监督下运行。
无人值守机器人134在虚拟环境中无人值守地运行并且可以自动化数个过程。无人值守机器人134可以负责远程执行、监控、调度和针对工作队列提供支持。在一些实施例中，针对所有机器人类型的调试可以在设计器110中运行。有人值守机器人和无人值守机器人两者可以自动化各种系统和应用，包括但不限于大型机、web应用、VM、企业应用(例如，由
Figure BDA0003596167150000091
等生产的应用)、以及计算系统应用(例如，桌面和膝上型应用、移动设备应用、可穿戴计算机应用等)。
指挥方120可以具有各种功能，包括但不限于供应、部署、配置、排队、监控、记录和/或提供互连性。供应可以包括：创建和维护机器人130与指挥方120之间的连接(例如，web应用)。部署可以包括：确保将数据包版本正确地递送给指定的机器人130用于执行。配置可以包括机器人环境和过程配置的维护和递送。排队可以包括：提供队列和队列项的管理。监控可以包括：跟踪机器人标识数据和维护用户许可。记录可以包括：将记录存储到和索引到数据库(例如，SQL数据库)和/或另一存储机制(例如，提供存储和快速查询大型数据集的能力的
Figure BDA0003596167150000092
)。指挥方120可以通过充当针对第三方解决方案和/或应用的集中通信点来提供互连性。
机器人130是运行设计器110内置工作流的执行代理。(多个)机器人130的一些实施例的一个商业示例是UiPath RobotsTM。在一些实施例中，机器人130默认安装微软
Figure BDA0003596167150000093
服务控制管理器(SCM)管理的服务。因此，此类机器人130可以在本地系统账户下打开交互式
Figure BDA0003596167150000094
会话，并且具有
Figure BDA0003596167150000095
服务的权限。
在一些实施例中，机器人130可以以用户模式安装。针对这种机器人130，这意味着它们具有与已经安装的给定机器人130的用户相同的权利。此功能也可以用于高密度(HD)机器人，确保机器中的每个机器的最大潜能得到充分利用。在一些实施例中，可以在HD环境中配置任何类型的机器人130。
某些实施例中的机器人130分为多个组件，每个组件专用于特定的自动化任务。一些实施例中的机器人组件包括但不限于SCM管理的机器人服务、用户模式机器人服务、执行方、代理和命令行。SCM管理的机器人服务对
Figure BDA0003596167150000101
会话进行管理和监控，并且充当指挥方120与执行主机(即，机器人130在其上被执行的计算系统)之间的代理。这些服务可以被委托并且管理针对机器人130的凭证。本地系统下的SCM启动控制台应用。
在一些实施例中，用户模式机器人服务管理和监控
Figure BDA0003596167150000102
会话，并且充当指挥方120与执行主机之间的代理。用户模式机器人服务可以被委托并且管理针对机器人130的凭证。如果没有安装SCM管理的机器人服务，则
Figure BDA0003596167150000103
应用可以自动启动。
执行方可以在
Figure BDA0003596167150000104
会话下运行给定作业(即，它们可以执行工作流)。执行方可以知道每个监控器的每英寸点数(DPI)设置。代理可以是在系统托盘窗口中显示可用作业的
Figure BDA0003596167150000105
呈现基础(WPF)应用。代理可以是服务的客户端。代理可以请求启动或者停止作业以及更改设置。命令行是服务的客户端。命令行是控制台应用，其可以请求启动作业并且等待其输出。
如上所述地将机器人130的组件分开有助于开发方、支持用户和计算系统更轻松地运行、标识和跟踪每个组件正在执行什么。可以以这种方式为每个组件配置特殊行为，诸如针对执行方和服务设置不同的防火墙规则。在一些实施例中，执行方可以总是知道每个监控器的DPI设置。因此，工作流可以在任何DPI处执行，而无论创建工作流的计算系统的配置如何。在一些实施例中，来自设计器110的项目也可以独立于浏览器缩放级别。对于不知道DPI或者故意地标记为不知道的应用，在一些实施例中可以禁用DPI。
图2是图示根据本发明实施例的已部署RPA系统200的架构图。在一些实施例中，RPA系统200可以是图1的RPA系统100，或者可以是其部分。应当注意，客户端侧、服务器侧或两者可以包括任何期望数目的计算系统，而不脱离本发明的范围。在客户端侧，机器人应用210包括执行方212、代理214和设计器216。然而，在一些实施例中，设计器216可以不在计算系统210上运行。执行方212正在运行过程。多个业务项目可以同时运行，如图2所示。在本实施例中，代理214(例如，
Figure BDA0003596167150000111
服务)是针对所有执行方212的单联系点。本实施例中的所有消息都被记录到指挥方230中，指挥方230经由数据库服务器240、索引器服务器250或两者进一步处理它们。如上关于图1所述，执行方212可以是机器人组件。
在一些实施例中，机器人代表机器名称与用户名之间的关联。机器人可以同时管理多个执行方。在支持同时运行的多个交互式会话的计算系统(例如，
Figure BDA0003596167150000112
服务器2012)上，多个机器人可以同时运行，每个机器人使用唯一的用户名在单独的
Figure BDA0003596167150000113
会话中运行。这就是上面提到的HD机器人。
代理214还负责发送机器人的状态(例如，定期地发送指示机器人仍在运行的“心跳”消息)和下载要执行的数据包的所需版本。在一些实施例中，代理214与指挥方230之间的通信总是由代理214发起。在通知场景中，代理214可以打开随后由指挥方230用来向机器人发送命令(例如，开始、停止等)的WebSocket通道。
在服务器侧，包括了表示层(web应用232、开放数据协议(OData)代表状态传输(REST)应用编程接口(API)端点234以及通知和监控236)、服务层(API实现/业务逻辑238)和持久层(数据库服务器240和索引器服务器250)。指挥方230包括web应用232、OData RESTAPI端点234、通知和监控236以及API实现/业务逻辑238。在一些实施例中，用户在指挥方230的界面中执行的大多数动作(例如，经由浏览器220)是通过调用各种API来执行的。这种动作可以包括但不限于在机器人上启动作业、在队列中添加/移除数据、调度作业以进行无人值守运行等，而不脱离本发明的范围。Web应用232是服务器平台的可视层。在本实施例中，web应用232使用超文本标记语言(HTML)和JavaScript(JS)。然而，在不脱离本发明的范围的情况下，可以使用任何期望的标记语言、脚本语言或者任何其他格式。在本实施例中，用户经由浏览器220与来自web应用232的网页交互，以便执行各种动作来控制指挥方230。例如，用户可以创建机器人组、向机器人分配数据包、分析每个机器人的和/或每个过程的记录、启动和停止机器人等。
除了web应用232，指挥方230还包括公开OData REST API端点234的服务层。然而，可以包括其他端点，而不脱离本发明的范围。REST API由web应用232和代理214两者消费。在本实施例中，代理214是客户端计算机上的一个或多个机器人的监管方。
本实施例中的REST API涵盖配置、记录、监控和排队功能。在一些实施例中，配置端点可以用于限定和配置应用用户、许可、机器人、资产、发布和环境。记录REST端点可以用于记录不同的信息，诸如错误、由机器人发送的明确消息以及其他特定于环境的信息。如果在指挥方230中使用启动作业命令，则机器人可以使用部署REST端点来查询应该被执行的数据包版本。排队REST端点可以负责队列和队列项管理，诸如向队列添加数据、从队列获取事务(transaction)、设置事务的状态等。
监控REST端点可以监控web应用232和代理214。通知和监控API 236可以是REST端点，其用于注册代理214、向代理214递送配置设置、以及用于从服务器和代理214发送/接收通知。在一些实施例中，通知和监控API 236也可以使用WebSocket通信。
在本实施例中，持久层包括服务器对——数据库服务器240(例如，SQL服务器)和索引器服务器250。本实施例中的数据库服务器240存储机器人、机器人组、相关过程、用户、角色、调度等的配置。在一些实施例中，该信息通过web应用232而被管理。数据库服务器240可以管理队列和队列项。在一些实施例中，数据库服务器240可以存储由机器人记录的消息(附加于索引器服务器250或者代替索引器服务器250)。
索引器服务器250(其在一些实施例中为可选的)存储并且索引由机器人记录的信息。在某些实施例中，可以通过配置设置来禁用索引器服务器250。在一些实施例中，索引器服务器250使用
Figure BDA0003596167150000131
(其是开源项目全文搜索引擎)。由机器人记录的消息(例如，使用记录消息或者写入行等的活动)可以通过(多个)记录REST端点而被发送到索引器服务器250，在索引器服务器250处它们被索引用于将来使用。
图3是图示根据本发明实施例的设计器310、活动320、330和驱动器340之间的关系300的架构图。如上所述，开发方使用设计器310来开发由机器人执行的工作流。工作流可以包括用户限定的活动320和UI自动化活动330。一些实施例能够标识图像中的非文本视觉成分，这在本文中被称为计算机视觉(CV)。与这些组件相关的一些CV活动可以包括但不限于点击、键入、获取文本、悬停、元素存在、刷新范围、突出显示等。在一些实施例中，点击使用例如CV、光学字符标识(OCR)、模糊文本匹配和多锚点来标识元素，并且点击元素。键入可以使用上述和元素中的类型来标识元素。获取文本可以标识特定文本的位置并且使用OCR对其扫描。悬停可以标识元素并且悬停在其上。元素存在可以使用上述技术来检查元素是否存在于屏幕上。在一些实施例中，可能有数百甚至数千个活动可以在设计器310中实现。然而，任何数目和/或类型的活动都是可用的，而不脱离本发明的范围。
UI自动化活动330是以较低等级代码编写的特殊较低等级活动的子集(例如，CV活动)并且有益于与屏幕的互动。UI自动化活动330经由驱动器340来促进这些交互，该驱动器340允许机器人与期望的软件交互。例如，驱动器340可以包括OS驱动器342、浏览器驱动器344、VM驱动器346、企业应用驱动器348等。
驱动器340可以在较低等级处与OS互动，寻找挂钩，监控密钥等。它们可以促进与
Figure BDA0003596167150000132
等的集成。例如，“点击”活动经由驱动器340在这些不同的应用中执行相同的角色。
图4是图示根据本发明实施例的RPA系统400的架构图。在一些实施例中，RPA系统400可以是或者可以包括图1和/或图2的RPA系统100和/或200。RPA系统400包括运行机器人的多个客户端计算系统410。计算系统410能够经由运行在其上的web应用来与指挥方计算系统420通信。指挥方计算系统420转而又能够与数据库服务器430和可选的索引器服务器440通信。
关于图1和图3，应注意的是，虽然在这些实施例中使用了web应用，可以使用任何合适的客户/服务器软件，而不脱离本发明范围。例如，指挥方可以运行与客户端计算系统上的非基于网络的客户软件应用通信的服务器侧应用。
图5是图示根据本发明实施例的被配置为使用ML自动完成RPA工作流的计算系统500的架构图。在一些实施例中，计算系统500可以是本文描绘和/或描述的计算系统中的一个或多个计算系统。计算系统500包括总线505或者用于传递信息的其他通信机制，以及耦合到总线505用于处理信息的(多个)处理器510。(多个)处理器510可以是任何类型的通用处理器或者专用处理器，包括中央处理单元(CPU)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)、图形处理单元(GPU)、其多个实例和/或其任何组合。(多个)处理器510还可以具有多个处理核，并且这些核中的至少一些核可以被配置为执行特定功能。在一些实施例中可以使用多并行处理。在某些实施例中，(多个)处理器510中的至少一个处理器可以是包括模拟生物神经元的处理元件的神经形态电路。在一些实施例中，神经形态电路可以不需要冯诺依曼计算架构的典型组件。
计算系统500还包括存储器515，用于存储信息和要由(多个)处理器510执行的指令。存储器515可以由随机存取存储器(RAM)、只读存储器(ROM)、闪存、高速缓存、诸如磁盘或者光盘静态存储器或者任何其他类型的非暂态计算机可读介质或者其组合的任意组合组成。非暂态计算机可读介质可以是能够由(多个)处理器510访问的任何可用介质，并且可以包括易失性介质、非易失性介质或两者。介质也可以是可移动的、不可移动的或两者。
附加地，计算系统500包括通信设备520，诸如收发器，以经由无线和/或有线连接提供对通信网络的访问。在一些实施例中，通信设备520可以被配置为使用频分多址(FDMA)、单载波FDMA(SC-FDMA)、时分多址(TDMA)、码分多址(CDMA)、正交频分复用(OFDM)、正交频分多址(OFDMA)、全局移动通信系统(GSM)、通用分组无线业务(GPRS)、通用移动电信系统(UMTS)、cdma2000、宽带CDMA(W-CDMA)、高速下行链路分组接入(HSDPA)、高速上行链路分组接入(HSUPA)、高速分组接入(HSPA)高级LTE(LTE-A)、802.11x、Wi-Fi、Zigbee、超宽带(UWB)、802.16x、802.15、家庭节点B(HnB)、蓝牙、射频标识(RFID)、红外数据协会(IrDA)、近场通信(NFC)、第五代(5G)、新无线电(NR)、它们的任何组合、和/或任何其他当前存在的或者未来实现的通信标准和/或协议，而不脱离本发明的范围。在一些实施例中，通信设备520可以包括一个或多个天线，这些天线是单一的、阵列的、相控的、切换的、波束成形的、波束控制的、它们的组合，和/或任何其他天线配置，而不脱离本发明的范围。
(多个)处理器510还经由总线505耦合至显示器525，诸如等离子显示器、液晶显示器(LCD)、发光二极管(LED)显示器、场发射显示器(FED)、有机发光二极管(OLED)显示器、柔性OLED显示器、柔性基板显示器、投影显示器、4K显示器、高清显示器、
Figure BDA0003596167150000151
显示器、面内切换(IPS)显示器或者任何其他适用于向用户显示信息的显示器。显示器525可以被配置为触摸(触觉)显示器、三维(3D)触摸显示器、多输入触摸显示器、多点触摸显示器等。使用电阻、电容、表面声波(SAW)电容、红外、光学成像、色散信号技术、声脉冲标识、受抑全内反射等。可以使用任何合适的显示设备和触觉I/O，而不脱离本发明的范围。
键盘530和光标控制设备535(诸如，计算机鼠标、触摸板等)还耦合至总线505，以使用户能够与计算系统交互。然而，在某些实施例中，可以不存在物理键盘和鼠标，并且用户可以仅通过显示器525和/或触摸板(未示出)来与设备交互。根据设计选择，可以使用任何类型和组合的输入设备。在某些实施例中，不存在物理输入设备和/或显示器。例如，用户可以经由与计算系统500通信的另一计算系统远程地与计算系统500交互，或者计算系统500可以自主地操作。
存储器515存储由(多个)处理器510执行时提供功能的软件模块。这些模块包括针对计算系统500的操作系统540。这些模块还包括自动工作流完成模块545，其被配置为执行本文描述的全部或部分过程或者其导出。计算系统500可以包括一个或多个包括附加功能的附加功能模块550。
本领域技术人员将理解，“系统”可以被具化为服务器、嵌入式计算系统、个人计算机、控制台、个人数字助理(PDA)、蜂窝电话、平板计算设备、量子计算系统或者任何其他合适的计算设备或者设备组合，而不脱离本发明范围。将上述功能表示为由“系统”执行并且不旨在以任何方式限制本发明的范围，而是旨在提供本发明的多个实施例中的一个示例。实际上，本文公开的方法、系统和设备可以以与计算技术(包括云计算系统)一致的局部化和分布式形式来实现。
应注意的是，本说明书中描述的一些系统特征已作为模块而被表示，以便更具体地强调其实现独立性。例如，模块可以被实现为硬件电路，包括定制的超大规模集成(VLSI)电路或门阵列、诸如逻辑芯片、晶体管或者其他分立元件的现成半导体。模块也可以在可编程硬件设备中实现，例如现场可编程门阵列、可编程阵列逻辑、可编程逻辑设备、图形处理单元等。
模块也可以至少部分地在软件中实现，用于由各种类型的处理器执行。可执行代码的标识的单元可以例如包括计算机指令的一个或多个物理块或逻辑块，其可以例如被组织为对象、程序或者功能。然而，标识的模块的可执行文件不需要在物理上位于一起，而是可以包括存储在不同位置的不同指令，当这些指令在逻辑上结合在一起时，构成该模块并且实现针对该模块的所描述目的。此外，模块可以存储在计算机可读介质上，计算机可读介质可以是例如硬盘驱动、闪存设备、RAM、磁带和/或用于存储数据的任何其他这种非暂态计算机可读介质，而不脱离本发明的范围。
实际上，可执行代码模块可以为单个指令或者多个指令，甚至可以在多个不同代码段上、不同程序中以及跨多个存储设备中分布。类似地，操作数据在本文可以在模块内被标识和示出，并且可以以任何合适的形式被具化并且被组织在任何合适类型的数据结构内。操作数据可以作为单个数据集来收集，或者可以分布在不同的位置，包括在不同的存储设备上，并且可以至少部分地仅作为系统或者网络上的电子信号而存在。
以非限制性示例的方式，考虑RPA设计器应用的用户包括用于打开网页浏览器和在互联网上搜索特定信息的序列的工作流，其中浏览的网页包含表格。则用户可以添加活动来打开
Figure BDA0003596167150000171
工作簿，并且将该表格复制和粘贴到
Figure BDA0003596167150000172
电子表格中。在后台，设计器应用可以在用户创建工作流时跟踪用户采取的动作，并且在每个活动或者活动系列之后咨询一个或多个ML模型。如果用户倾向于在添加某个活动之后重复地包括该活动序列，则(多个)ML模型可以学习基于某个上下文和开始活动来预测用户将有可能执行该动作序列(例如，当用户添加启动web浏览器的活动时，则用户添加访问网站的活动并且将表格复制和粘贴到
Figure BDA0003596167150000173
电子表格中)。
一旦该序列被学习(例如，用户特定的、公司内用户共有的、全局共有的等)后，在添加任务以打开web浏览器时，ML模型可以指示一个或多个下一活动序列满足或者超过建议置信度等级，并且设计器应用可以提示用户选择下一序列以添加到工作流。备选地，在一些实施例中，当满足或者超过建议置信度阈值时，设计器应用可以自动将序列添加到工作流，而不用用户输入，或者当多个序列满足或者超过建议置信度阈值时，选择具有最高置信度阈值的下一序列。在其他实施例中，如果下一活动序列的置信度等级低于相对确定性阈值但高于建议置信度阈值，则设计器应用可以提示用户选择将学习序列添加到工作流，并且如果下一活动序列的置信度等级等于或者高于相对确定性阈值，则自动将该序列添加到工作流，而不用用户输入。例如，工作流的序列可以包括：在Excel应用范围内自动添加工作簿路径、基于ML模型放下“写单元格”或者“写范围”活动、按照惯例重命名工作表以适合当前问题、将结果写入
Figure BDA0003596167150000181
电子表格，以及放下“记录消息”活动以写关于进度的记录。例如，当用户点击屏幕上的“回车键”时，设计器应用可以自动完成工作流。此外，在预测到用户希望在
Figure BDA0003596167150000182
电子表格中写入表格之后，该示例中的设计器应用给文件、起始单元格和工作表名称赋予适当的名称、提供变量声明、提供属性声明、并且向用户记录关于操作是否成功的消息。
通常，针对有经验的用户完成工作流，诸如打开
Figure BDA0003596167150000183
命名文件、输入起始单元格、输入工作表名称和声明变量，需要约65至75秒。为了节省完成这些步骤的时间，这些步骤对于Excel写操作来说是通用的，一些实施例的ML模型可以预测工作流的下一序列，可以向开发方提供建议，并且开发方可以根据计算能力在2至3秒内接受该建议。在本例中，这可能会减少一分钟以上的开发时间。如果RPA开发方经常创建具有这种序列的工作流，开发时间的节省可能会非常可观。
如果用户对预测的下一活动序列满意，可以将该下一活动序列添加到工作流中。如果用户对ML模型提供的工作流的预测的下一序列不满意(例如，用户的个人偏好不同、用户构建工作流的风格不同、业务用例要求其他东西、存在逻辑错误等)，可以给出反馈以对ML模型进行再训练。如果反馈是用户特定的，则可以针对该用户的偏好对ML模型进行再训练，并且可以创建定制模型。随着时间的推移，ML模型了解用户正在做什么，并且相应地建议下一工作流序列。如果反馈不是用户特定的(例如，针对全局模型或者针对比单个用户更大的用户组的模型)，则可以在一段时间内与来自其他用户的反馈一起收集反馈，然后可以对ML模型进行再训练，以针对所有用户或者用户组更准确。
图6A是图示根据本发明实施例的在ML模型检测到潜在的下一活动系列之后设计器应用600的屏幕截图600。本文中开发方已经将
Figure BDA0003596167150000191
应用范围活动610放到工作流中。在本实施例中由设计器应用运行的ML模型分析工作流的逻辑，并且确定用户可能期望的后续的活动序列。然后，ML模型向设计器应用提供建议的序列，设计器应用向用户显示该序列以及自动完成工作流的建议(即，提供“按回车键以自动完成”提示620)。
在开发方按下回车键后，序列自动添加到工作流中，如图6B所示。在一些实施例中，序列还可以考虑开发方的个人风格和/或偏好。工作流可能没有完成，或者如果要完成进一步的任务，开发方可以选择向工作流添加附加动作。变量和属性也分别基于变量标签630(见图6C)和属性标签640(见图6D)中的当前工作流逻辑而被自动完成。
图7是图示根据本发明实施例的用于拒绝或者接受并且自动完成RPA工作流的建议下一活动系列的过程700的流程图。过程开始于开发方在设计器应用中创建工作流，当用户在工作流中添加和修改活动时，设计器应用将工作流保存为XAML工作流。当用户添加或者修改活动时，当前的XAML工作流被发送到ML模型用于预处理。在预处理过程中，从XAML文件中提取相关数据，剥离不相关的数据。在某些实施例中，预处理可以包括添加或者导出用于ML模型考虑的相关数据，以进一步提高准确性(例如，添加更多相关的元数据变量)。
预处理之后，从模型库存数据库中提取最新的ML模型，并且在预处理数据上加载和执行最新的ML模型。从ML模型的执行得到的数据随后被传递给设计器应用以用于推断(例如，包括建议的下一活动序列的XAML文件)，并且设计器应用使用该数据向用户显示建议。如果用户随后接受该建议，则开发方应用将下一活动序列添加到工作流，并且用户可以继续开发工作流。
如果用户拒绝建议，用户仍可以继续开发工作流。然而，被拒绝的工作流的XAML随后被发送到被拒绝的XAML自动完成建议的数据库存数据库。经过一段时间后，或者当手动指示这样做时，用于训练ML模型的训练模块从数据库存数据库中取出被拒绝的自动完成建议，并且使用这些来对ML模型进行再训练。一旦再训练后，ML模型的这个最新版本就被保存在模型库存数据库中，以由设计器应用使用。
图8是图示根据本发明实施例的个性化流程和通用化流程两者的自动完成架构图800。当用户开始开发工作流时，并且在一个或多个活动被添加到工作流之后，从(1)设计器应用向一个或多个取回的(2)ML模型传递初始XAML工作流，以预测一个或多个潜在的下一活动序列，用于向用户建议。在一些实施例中，预训练的ML模型是个性化的(局部的)和通用化的(全局的)。如果局部ML模型未能找到超过建议置信区间的建议序列，则可以使用全局ML模型。如果不存在满足建议置信度阈值的建议，则当用户添加和/或修改工作流时，设计器应用可以继续发送XAML工作流。
如果提供了一个或多个建议(例如，作为XAML工作流)，则在设计器应用中向用户建议(3)这些建议。用户是否接受或者拒绝(多个)建议以及选择了哪个建议(如果有的话)，可以用于更新与预测活动有关的度量(4)(例如，给定度量的概率得分)，从而提供关于给定ML模型表现如何的指示。如果用户拒绝建议的活动或者活动序列，用户可以继续构建自己的工作流。然后，设计器应用继续监控用户的工作流，并且在其完成之后，将完成的工作流(5)发送到训练数据库作为反馈以便将来被用作训练数据。在一些实施例中，该数据可以用于对局部ML模型、全局ML模型或两者进行再训练。
在将用户的工作流存储在训练数据库中后的某个时间点，(多个)ML模型被再训练(6)。如果预测得分比先前训练的(多个)ML模型有所提高，则新训练的(多个)ML模型将被认为是最新的最佳模型，并且将被上传(7)到模型数据库以用作(多个)ML模型用于将来的处理。
在一些实施例中，当加载设计者应用时，可以下载和使用多个ML模型。例如，可以加载为用户定制的局部ML模型和使用来自多个或者数个用户的工作流训练的全局ML模型。设计器应用可以首先调用局部ML模型，并且查看它是否返回任何建议(例如，一个或多个序列满足或者超过90％的建议置信度阈值)。如果是，则可以向用户提供(多个)建议。如果不是，则可以调用全局ML模型来查看一个或多个建议是否满足或者超过建议置信度阈值。
在一些实施例中，可以在模型数据库的单独表格中更新相应ML模型(例如，局部和全局)的模型细节。例如，模型数据库可以包括诸如模型ID、模型版本、模型路径、模型状态的字段，和/或任何其他合适的字段，而不脱离本发明的范围。当服务于相应的ML模型时，可以提供这样的字段。
图9是图示根据本发明实施例的使用ML自动完成RPA工作流的过程900的流程图。在905过程开始由设计器应用捕捉所创建的工作流、所创建的工作流中的活动序列或两者，并且将它们存储在数据库中。在一些实施例中，工作流、活动序列或两者可以是XAML格式。然后，在910存储的工作流、活动序列或两者被用于训练一个或多个ML模型。在915已训练的(多个)ML模型随后被部署到用户计算系统或者以其他方式对用户可用。
一旦被部署或者变得可用之后，设计者应用在工作流开发期间监控用户活动，并且在920将这些活动提供给一个或多个ML模型中的至少一个。在一些实施例中，如果先前执行的ML模型没有检测到下一活动序列，则多个ML模型可以被调用并且串行执行。如果在925(多个)ML模型没有检测到一个或多个潜在的下一活动序列满足或者超过建议置信度阈值，则过程返回到步骤920。然而，如果在925检测到满足或者超过建议置信度阈值的一个或多个潜在的下一活动序列，则在930向用户建议(多个)序列。
如果用户在935接受建议，则在940建议的活动序列自动添加到工作流中。然而，如果用户拒绝该建议，则在945设计器应用等待用户完成工作流，然后使完成的工作流被存储。然后，在950完成的工作流和潜在的一些或者许多其他完成的工作流被用于对(多个)ML模型进行再训练，并且在955经再训练的(多个)ML模型被部署或者变得可用。
根据本发明的实施例，图9中执行的过程步骤可以由计算机程序执行，针对(多个)处理器的指令进行编码，以执行图9中描述的至少部分过程。计算机程序可以被具化在非暂态计算机可读介质上。计算机可读介质可以是但不限于硬盘驱动器、闪存设备、RAM、磁带和/或用于存储数据的任何其他这样的介质或者介质的组合。计算机程序可以包括用于控制计算系统的(多个)处理器(例如，图5的计算系统500的(多个)处理器510)以实现图9中描述的全部或者部分过程步骤的编码指令，该编码指令也可以存储在计算机可读介质上。
计算机程序可以在硬件、软件或者混合实施方式中实现。计算机程序可以由彼此可操作通信的模块组成，并且被设计为传递信息或者指令以显示。计算机程序可以被配置为在通用计算机、ASIC或者任何其他合适的设备上运行。
容易理解的是，本发明各种实施例的组件，如本文附图中一般描述和说明的，可以按各种不同配置进行排列和设计。因此，如附图中所示，本发明的实施例的详细描述不旨在限制所要求保护的本发明的范围，而仅是本发明的所选择的实施例的代表。
本说明书中描述的本发明的特征、结构或者特性可以在一个或多个实施例中以任何合适的方式进行组合。例如，在整个说明书中，对“某些实施例”、“一些实施例”或者类似语言的引用意味着结合本实施例所描述的特定特征、结构或者特性包括在本发明的至少一个实施例中。因此，在整个说明书中出现的短语“在某些实施例中”、“在一些实施例中”、“在其他实施例中”或者类似语言不必然都指同一组实施例，并且所描述的特征、结构或者特性可以以任何合适的方式组合在一个或多个实施例中。
应注意，贯穿本说明书中提及的特征、优点或者类似语言并且不意味着本发明可以实现的所有特征和优点应当位于本发明的任何单个实施例中。相反，关于特征和优点的语言被理解为意味着结合实施例描述的特定特征、优点或者特性被包括在本发明的至少一个实施例中。因此，贯穿本说明书的特征和优点的讨论以及类似的语言可以但不必然指同一实施例。
此外，本发明的所述特征、优点和特性可以在一个或多个实施例中以任何合适的方式进行组合。相关领域的技术人员将认识到，本发明可以在没有特定实施例的一个或多个具体特征或者优点的情况下实践。在其他实例中，可以在某些实施例中认识到附加的特征和优点，这些特征和优点可能不存在于本发明的所有实施例中。
本领域普通技术人员将容易理解，上述本发明可以利用不同顺序的步骤和/或利用不同于所公开配置的硬件元件而被实践。因此，尽管已经基于这些优选实施例描述了本发明，但是对于本领域的技术人员，在保持在本发明的精神和范围内的同时，某些修改、变型和备选结构将是明显的。因此，为了确定本发明的界限和边界，应当参考所附权利要求。

Claims (37)

1.一种系统，包括：
多个开发方计算系统，包括相应的设计器应用；
存储工作流的数据库，所述工作流包括活动序列；以及
服务器，被配置为训练一个或多个机器学习(ML)模型，其中
所述设计器应用被配置为：当相应的用户正在创建机器人流程自动化(RPA)工作流时监控活动，捕获相应的所述工作流中的所述活动序列，使相应的所述工作流中的被捕获的所述活动序列、相应的所述工作流本身、或两者被存储在所述数据库中，以及调用经训练的所述一个或多个ML模型，
所述服务器被配置为：使用所存储的所述工作流来训练所述一个或多个ML模型，以在开发方添加和/或修改工作流中的一个或多个活动之后标识一个或多个下一活动序列，并且
经训练的所述一个或多个ML模型被配置为：
在当前用户添加或者修改当前工作流中的活动时，分析所述当前工作流，
通过至少一个建议置信度阈值来检测被添加和/或被修改的所述活动中的一个或多个活动指示下一活动序列，以及
当经训练的所述一个或多个ML模型检测到所述建议置信度阈值针对所述下一活动序列已经被满足或者被超过时，向所述用户建议所述下一活动序列。
2.根据权利要求1所述的系统，其中在经训练的所述一个或多个ML模型建议所述下一活动序列之后，在所述当前用户在所述设计器应用中提供所述下一活动序列正确的确认时，所述设计器应用被配置为自动将所述下一活动序列添加到所述工作流。
3.根据权利要求2所述的系统，其中自动将所述下一活动序列添加到所述工作流包括：设置变量的声明和使用、设置属性、从文件读取和/或向文件写入、或者其任何组合。
4.根据权利要求1所述的系统，其中在经训练的所述一个或多个ML模型建议所述下一活动序列之后，当用户在所述设计器应用中提供所述下一活动序列不正确的指示时，所述设计器应用被配置为使所述当前工作流被存储在所述数据库中，以用于在所述当前用户完成所述当前工作流之后对经训练的所述一个或多个ML模型的后续再训练。
5.根据权利要求1所述的系统，其中当多于一个下一活动序列满足或者超过所述建议置信度阈值时，所述设计器应用被配置为：向所述用户提供从满足或者超过所述建议置信度阈值的所述多于一个活动序列中选择的选项。
6.根据权利要求1所述的系统，其中所述建议置信度阈值是基于在经训练的所述一个或多个ML模型的所述训练期间学习到的置信度得分的概率阈值。
7.根据权利要求1所述的系统，其中所述服务器被配置为：在已经经过预定时间段之后、在自从经训练的所述一个或多个ML模型的所述训练以来预定量的数据已经被收集之后、在预定数目的用户已经自动完成工作流之后、在预定数目或者百分比的用户已经拒绝来自经训练的所述一个或多个ML模型的建议之后、或者其任何组合，对经训练的所述一个或多个ML模型进行再训练。
8.根据权利要求7所述的系统，其中经训练的所述一个或多个ML模型中的至少一个ML模型被配置为：
在用户随着时间开发工作流时，学习用户特定的风格、逻辑、惯例、或者其任何组合；以及
基于学习到的所述用户特定的风格、逻辑、惯例、或者其任何组合，建议下一活动序列。
9.根据权利要求1所述的系统，其中所述系统被配置为：自动完成所述下一活动系列，而无需进一步的用户输入。
10.根据权利要求1所述的系统，其中
经训练的所述一个或多个ML模型包括局部ML模型和全局ML模型，
所述设计器应用被配置为首先调用所述局部ML模型，
当所述局部ML模型建议满足或者超过所述建议置信度阈值的一个或多个下一活动序列时，所述设计器应用被配置为向所述用户提供来自所述局部ML模型的所述一个或多个下一活动序列，以及
当所述局部ML模型没有建议满足或者超过所述建议置信度阈值的至少一个下一活动序列时，所述设计器应用被配置为调用所述全局ML模型。
11.根据权利要求10所述的系统，其中所述局部ML模型和所述全局ML模型利用不同的建议置信度阈值。
12.根据权利要求1所述的系统，其中当经训练的所述一个或多个ML模型中的第一ML模型没有提供满足或者超过所述建议置信度阈值的至少一个下一活动序列的建议时，所述设计器应用被配置为：调用经训练的所述一个或多个ML模型中的第二ML模型、经训练的所述一个或多个ML模型中的第三ML模型并且依此类推，直到满足或者超过所述建议置信度阈值的至少一个下一活动序列已经被找到，或者直到经训练的所述一个或多个ML模型中的所有ML模型已经被调用、而没有标识出满足或者超过所述建议置信度阈值的至少一个下一活动序列。
13.根据权利要求1所述的系统，其中经训练的所述一个或多个ML模型在所述多个开发方计算系统上被执行。
14.根据权利要求1所述的系统，其中经训练的所述一个或多个ML模型是使用有人值守的用户反馈、无人值守的用户反馈或两者而被训练的。
15.根据权利要求1所述的系统，其中所述工作流是可扩展应用标记语言(XAML)格式。
16.一种具化在非暂态计算机可读介质上的计算机程序，所述程序被配置为使至少一个处理器：
当用户正在创建机器人流程自动化(RPA)工作流时，监控所述RPA工作流中的活动；
捕获所述RPA工作流中的被监控的所述活动序列、所述RPA工作流本身、或者两者；
向第一机器学习(ML)模型发送所捕获的所述活动序列、所述RPA工作流、或者两者以供分析；
从所述第一ML模型接收一个或多个建议的下一活动序列；以及
向用户建议所述一个或多个建议的下一活动序列。
17.根据权利要求16所述的计算机程序，其中所述第一ML模型被配置为：
分析所捕获的所述活动序列、所述RPA工作流、或者两者；
通过至少一个建议置信度阈值来检测所捕获的所述活动序列、所述RPA工作流、或者两者指示一个或多个下一活动序列；以及
建议所述一个或多个建议的下一活动序列。
18.根据权利要求17所述的计算机程序，其中当多于一个下一活动序列满足或者超过所述建议置信度阈值时，所述程序被配置为：使所述至少一个处理器向所述用户提供从满足或者超过所述建议置信度阈值的所述多于一个活动序列中选择的选项。
19.根据权利要求17所述的计算机程序，其中所述建议置信度阈值是基于在所述第一ML模型的所述训练期间学习到的置信度得分的概率阈值。
20.根据权利要求16所述的计算机程序，其中所述第一ML模型被配置为：
在所述用户随着时间开发工作流时，学习用户特定的风格、逻辑、惯例、或者其任何组合；以及
基于学习的所述用户特定的风格、逻辑、惯例、或者其任何组合，建议下一活动序列。
21.根据权利要求16所述的计算机程序，其中所述程序还被配置为：使所述至少一个处理器自动完成所述下一活动系列，而无需进一步的用户输入。
22.根据权利要求16所述的计算机程序，其中
所述第一ML模型是局部ML模型，
所述程序被配置为使所述至少一个处理器首先调用所述局部ML模型，
当所述局部ML模型建议满足或者超过所述建议置信度阈值的一个或多个下一活动序列时，所述程序被配置为使所述至少一个处理器向所述用户提供来自所述局部ML模型的所述一个或多个下一活动序列，以及
当所述局部ML模型没有建议满足或者超过所述建议置信度阈值的至少一个下一活动序列时，所述程序还被配置为使所述至少一个处理器调用所述全局ML模型。
23.根据权利要求22所述的计算机程序，其中所述局部ML模型和所述全局ML模型利用不同的建议置信度阈值。
24.根据权利要求16所述的计算机程序，其中当所述第一ML模型没有提供满足或者超过建议置信度阈值的至少一个下一活动序列的建议时，所述设计器应用被配置为：调用第二ML模型、第三ML模型并且以此类推，直到满足或者超过所述建议置信度阈值的至少一个下一活动序列已经被找到，或者直到所有所述ML模型已经被调用、而没有标识出满足或者超过所述建议置信度阈值的至少一个下一活动序列。
25.根据权利要求16所述的计算机程序，其中在向所述用户建议所述一个或多个建议的下一活动序列之后，当所述用户提供所述下一活动序列中的序列正确的确认时，所述程序还被配置为：使所述至少一个处理器自动将所述用户选择的下一活动序列添加到所述工作流中。
26.根据权利要求25所述的计算机程序，其中将所述下一活动序列自动添加到所述工作流包括：设置变量的声明和使用、设置属性、从文件读取和/或向文件写入、或者其任何组合。
27.根据权利要求16所述的计算机程序，其中在向所述用户建议所述一个或多个建议的下一活动序列之后，当用户提供所述下一活动序列不正确的指示时，所述程序还被配置为：使所述至少一个处理器来使所述当前工作流被存储在数据库中，以用于在所述用户完成所述工作流之后对所述第一ML模型的后续再训练。
28.根据权利要求16所述的计算机程序，其中所述第一ML模型使用有人值守的用户反馈、无人值守的用户反馈、或者两者而被训练。
29.一种计算机实现的方法，包括：
从一个或多个机器人流程自动化(RPA)设计器应用接收多个收集的工作流；
在开发方添加和/或修改工作流中的一个或多个活动之后，使用所述多个收集的工作流来训练一个或多个机器学习(ML)模型，以标识一个或多个下一活动序列；以及
在所述训练之后，使得经训练的所述一个或多个ML模型可用于所述一个或多个RPA设计器应用。
30.根据权利要求29所述的计算机实现的方法，其中经训练的所述一个或多个ML模型被配置为：
在当前用户添加或者修改当前工作流中的活动时，分析所述当前工作流，
通过至少一个建议置信度阈值来检测被添加和/或被修改的所述活动中的一个或多个活动指示下一活动序列，以及
当经训练的所述一个或多个ML模型检测到所述建议置信度阈值针对所述下一活动序列已经被满足或者被超过时，向所述用户建议所述下一活动序列。
31.根据权利要求30所述的计算机程序，其中所述建议置信度阈值是基于在经训练的所述一个或多个ML模型的所述训练期间学习到的置信度得分的概率阈值。
32.根据权利要求29所述的计算机实现的方法，还包括：
接收其中用户拒绝了建议的下一活动序列的工作流；
使用接收到的其中所述用户拒绝了所述建议的下一活动序列的所述工作流来对经训练的所述一个或多个ML模型进行再训练；
利用经再训练的所述一个或多个ML模型来替换经训练的所述一个或多个ML模型；以及
在所述再训练之后，使得经再训练的所述一个或多个ML模型可用于所述一个或多个RPA设计器应用。
33.根据权利要求32所述的计算机实现的方法，其中所述再训练发生在已经经过预定时间段之后、在自从经训练的所述一个或多个ML模型的所述训练以来预定量的数据已经被收集之后、在预定数目的用户已经自动完成工作流之后、在预定数目或者百分比的用户已经拒绝来自经训练的所述一个或多个ML模型的建议之后、或者其任何组合。
34.根据权利要求29所述的计算机实现的方法，其中经训练的所述一个或多个ML模型中的至少一个ML模型被配置为：
在用户随着时间开发工作流时，学习用户特定的风格、逻辑、惯例、或者其任何组合；以及
基于学习到的所述用户特定的风格、逻辑、惯例、或者其任何组合，建议下一活动序列。
35.根据权利要求29所述的计算机程序，其中经训练的所述一个或多个ML模型包括局部ML模型和全局ML模型。
36.根据权利要求35所述的计算机实现的方法，其中所述局部ML模型和所述全局ML模型利用不同的建议置信度阈值。
37.根据权利要求29所述的计算机实现的方法，其中经训练的所述一个或多个ML模型使用有人值守的用户反馈、无人值守的用户反馈、或者两者而被训练。
CN202080072312.7A 2019-10-15 2020-08-28 使用机器学习来自动完成机器人流程自动化工作流 Pending CN114586049A (zh)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
IN201911041766 2019-10-15
IN201911041766 2019-10-15
US16/702,966 US11200539B2 (en) 2019-10-15 2019-12-04 Automatic completion of robotic process automation workflows using machine learning
US16/702,966 2019-12-04
PCT/US2020/048512 WO2021076240A1 (en) 2019-10-15 2020-08-28 Automatic completion of robotic process automation workflows using machine learning

Publications (1)

Publication Number Publication Date
CN114586049A true CN114586049A (zh) 2022-06-03

Family

ID=75382158

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202080072312.7A Pending CN114586049A (zh) 2019-10-15 2020-08-28 使用机器学习来自动完成机器人流程自动化工作流

Country Status (6)

Country Link
US (1) US11200539B2 (zh)
EP (1) EP4046105A4 (zh)
JP (1) JP2023524327A (zh)
KR (1) KR20220079836A (zh)
CN (1) CN114586049A (zh)
WO (1) WO2021076240A1 (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114926151A (zh) * 2022-06-21 2022-08-19 中关村科学城城市大脑股份有限公司 一种基于强化学习的rpa流程自动生成方法和装置
CN115082766A (zh) * 2022-07-25 2022-09-20 珠海金智维信息科技有限公司 一种rpa业务场景识别方法、系统、装置及存储介质

Families Citing this family (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11847040B2 (en) 2016-03-16 2023-12-19 Asg Technologies Group, Inc. Systems and methods for detecting data alteration from source to target
AU2018200877A1 (en) * 2017-03-30 2018-10-18 Accenture Global Solutions Limited Closed loop nodal analysis
US11057500B2 (en) 2017-11-20 2021-07-06 Asg Technologies Group, Inc. Publication of applications using server-side virtual screen change capture
US10877740B2 (en) 2017-12-29 2020-12-29 Asg Technologies Group, Inc. Dynamically deploying a component in an application
US11611633B2 (en) 2017-12-29 2023-03-21 Asg Technologies Group, Inc. Systems and methods for platform-independent application publishing to a front-end interface
US11762634B2 (en) 2019-06-28 2023-09-19 Asg Technologies Group, Inc. Systems and methods for seamlessly integrating multiple products by using a common visual modeler
US20220075605A1 (en) * 2019-10-15 2022-03-10 UiPath, Inc. Training and using artificial intelligence (ai) / machine learning (ml) models to automatically supplement and/or complete code of robotic process automation workflows
US11593709B2 (en) * 2019-10-15 2023-02-28 UiPath, Inc. Inserting and/or replacing machine learning models in a pipeline for robotic process automation workflows
US11941137B2 (en) 2019-10-18 2024-03-26 Asg Technologies Group, Inc. Use of multi-faceted trust scores for decision making, action triggering, and data analysis and interpretation
US11886397B2 (en) 2019-10-18 2024-01-30 Asg Technologies Group, Inc. Multi-faceted trust system
US11269660B2 (en) 2019-10-18 2022-03-08 Asg Technologies Group, Inc. Methods and systems for integrated development environment editor support with a single code base
US11055067B2 (en) 2019-10-18 2021-07-06 Asg Technologies Group, Inc. Unified digital automation platform
US11755760B2 (en) 2019-10-18 2023-09-12 Asg Technologies Group, Inc. Systems and methods for secure policies-based information governance
US11110601B2 (en) * 2019-11-20 2021-09-07 UiPath, Inc. Scheduling robots for robotic process automation
US11379772B2 (en) * 2020-08-04 2022-07-05 Nice Ltd. Systems and methods for analyzing computer input to provide suggested next action for automation
EP4229534A1 (en) 2020-10-13 2023-08-23 ASG Technologies Group, Inc. DBA ASG Technologies Geolocation-based policy rules
KR20220049296A (ko) * 2020-10-14 2022-04-21 삼성에스디에스 주식회사 로그 기반 워크플로우 생성 방법 및 그 장치
US11301269B1 (en) * 2020-10-14 2022-04-12 UiPath, Inc. Determining sequences of interactions, process extraction, and robot generation using artificial intelligence / machine learning models
US11429351B2 (en) * 2021-01-21 2022-08-30 Intuit Inc. Methods and systems for building custom automation workflows to integrate multiple applications
US11763228B2 (en) 2021-04-06 2023-09-19 Nice Ltd. Systems and methods for analyzing and connecting automation sequences
WO2022266129A1 (en) * 2021-06-17 2022-12-22 Microsoft Technology Licensing, Llc Machine learning assisted automation of workflows based on observation of user interaction with operating system platform features
US11495119B1 (en) 2021-08-16 2022-11-08 Motorola Solutions, Inc. Security ecosystem
CN113807068B (zh) * 2021-09-30 2024-01-26 杭州分叉智能科技有限公司 一种基于RPA的Excel自动化方法
US20230101223A1 (en) * 2021-09-30 2023-03-30 UiPath, Inc. Digital assistant using robotic process automation
US11856030B2 (en) 2021-10-04 2023-12-26 Motorola Solutions, Inc. Security ecosystem
US20230267396A1 (en) * 2022-02-22 2023-08-24 International Business Machines Corporation Generating automation recommendations for ad hoc processes
US11816420B2 (en) * 2022-04-13 2023-11-14 Dell Products, L.P. Automatic template and logic generation from a codified user experience design
CN116703339B (zh) * 2023-08-09 2023-11-24 安徽思高智能科技有限公司 一种基于图Transformer模型的RPA流程推荐方法及系统

Family Cites Families (54)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US365799A (en) * 1887-07-05 Self feeding cotton peess
US5172313A (en) * 1987-12-11 1992-12-15 Schumacher Billy G Computerized management system
US7356583B2 (en) * 2002-10-11 2008-04-08 Northrop Grumman Corporation Indirect measurement of business processes
US7346892B2 (en) * 2003-05-27 2008-03-18 Microsoft Corporation Prediction and pre-selection of an element in syntax completion
US20040260591A1 (en) * 2003-06-17 2004-12-23 Oracle International Corporation Business process change administration
CA2451164C (en) * 2003-09-11 2016-08-30 Teamplate Inc. Customizable components
US7499897B2 (en) 2004-04-16 2009-03-03 Fortelligent, Inc. Predictive model variable management
US8170901B2 (en) * 2004-10-01 2012-05-01 Microsoft Corporation Extensible framework for designing workflows
US20060136490A1 (en) 2004-12-17 2006-06-22 International Business Machines Corporation Autonomic creation of shared workflow components in a provisioning management system using multi-level resource pools
WO2007068527A1 (en) * 2005-12-15 2007-06-21 International Business Machines Corporation Method and system for assisting a software developer in creating source code for a computer program
US20070276714A1 (en) * 2006-05-15 2007-11-29 Sap Ag Business process map management
US8762871B2 (en) * 2008-02-03 2014-06-24 Microsoft Corporation Dynamic preview of diagram elements to be inserted into a diagram
US8635593B2 (en) * 2008-05-13 2014-01-21 Hewlett-Packard Development Company, L.P. Dynamic autocompletion tool
US20100269032A1 (en) * 2009-04-15 2010-10-21 Microsoft Corporation Advanced text completion, such as for markup languages
US8898442B2 (en) * 2009-09-29 2014-11-25 Sap Se Scenario-based process modeling for business processes including exception flow to handle an error in a task of the series of tasks
US8321251B2 (en) * 2010-03-04 2012-11-27 Accenture Global Services Limited Evolutionary process system
US8448089B2 (en) * 2010-10-26 2013-05-21 Microsoft Corporation Context-aware user input prediction
US9116672B2 (en) * 2010-11-24 2015-08-25 iNTERFACEWARE Inc. Method and system for displaying selectable autocompletion suggestions and annotations in mapping tool
US20170109639A1 (en) * 2011-05-08 2017-04-20 Panaya Ltd. General Model for Linking Between Nonconsecutively Performed Steps in Business Processes
US20170109636A1 (en) * 2011-05-08 2017-04-20 Panaya Ltd. Crowd-Based Model for Identifying Executions of a Business Process
US20170109640A1 (en) * 2011-05-08 2017-04-20 Panaya Ltd. Generation of Candidate Sequences Using Crowd-Based Seeds of Commonly-Performed Steps of a Business Process
US20170109676A1 (en) * 2011-05-08 2017-04-20 Panaya Ltd. Generation of Candidate Sequences Using Links Between Nonconsecutively Performed Steps of a Business Process
US8756171B2 (en) * 2011-06-15 2014-06-17 International Business Machines Corporation Generating predictions from a probabilistic process model
US8862975B2 (en) * 2011-09-19 2014-10-14 Microsoft Corporation Web-based workflow service visualization and navigation
US8639555B1 (en) * 2011-10-12 2014-01-28 Amazon Technologies, Inc. Workflow discovery through user action monitoring
US20130152038A1 (en) * 2011-12-09 2013-06-13 Microsoft Corporation Project management workflows
US20130179208A1 (en) * 2012-01-11 2013-07-11 Microsoft Corporation Workflow tasks
US9063764B2 (en) * 2012-05-24 2015-06-23 Kaseya Limited Automated software script creator and editor
US8904355B2 (en) 2013-03-14 2014-12-02 Accenture Global Services Limited Test script generation system
US20140310053A1 (en) * 2013-04-10 2014-10-16 Xerox Corporation Method and systems for providing business process suggestions and recommendations utilizing a business process modeler
US20140350994A1 (en) * 2013-05-23 2014-11-27 International Business Machines Corporation Providing best practice workflow to aid user in completing project that is constantly updated based on user feedback
US10013238B2 (en) * 2013-08-12 2018-07-03 Telefonaktiebolaget Lm Ericsson (Publ) Predicting elements for workflow development
US10607165B2 (en) * 2013-11-14 2020-03-31 Salesforce.Com, Inc. Systems and methods for automatic suggestions in a relationship management system
GB2529516A (en) * 2014-06-18 2016-02-24 Alfresco Software Inc Configurable and self-optimizing business process applications
US9824079B1 (en) * 2014-07-11 2017-11-21 Google Llc Providing actions for mobile onscreen content
US9436507B2 (en) 2014-07-12 2016-09-06 Microsoft Technology Licensing, Llc Composing and executing workflows made up of functional pluggable building blocks
US9740462B2 (en) * 2014-08-27 2017-08-22 Sap Se Adaptive, context-aware, model-based suggestions
US10114619B2 (en) * 2015-08-06 2018-10-30 Sap Se Integrated development environment with multiple editors
US10365799B2 (en) 2016-02-09 2019-07-30 Wipro Limited System and methods for creating on-demand robotic process automation
US10678874B2 (en) * 2016-04-28 2020-06-09 Conduent Business Services, Llc Method and system for recommendation of a succession of one or more services for a service workflow
US10466863B1 (en) * 2016-06-01 2019-11-05 Google Llc Predictive insertion of graphical objects in a development environment
US20180046956A1 (en) * 2016-08-11 2018-02-15 Panaya Ltd. Warning About Steps That Lead to an Unsuccessful Execution of a Business Process
US10339027B2 (en) * 2016-09-06 2019-07-02 Accenture Global Solutions Limited Automation identification diagnostic tool
US20190205792A1 (en) 2016-11-02 2019-07-04 Intel Corporation Automated generation of workflows
US9817967B1 (en) 2017-01-13 2017-11-14 Accenture Global Solutions Limited Integrated robotics and access management for target systems
US10298757B2 (en) * 2017-02-23 2019-05-21 Accenture Global Solutions Limited Integrated service centre support
US20180294059A1 (en) * 2017-03-22 2018-10-11 Savant Care Inc. Mental Health Modeling Language
US20190155225A1 (en) 2017-11-21 2019-05-23 Accenture Global Solutions Limited Bot management framework for robotic process automation systems
US10983843B2 (en) * 2018-01-16 2021-04-20 Enterpriseweb Llc Event-driven programming model based on asynchronous, massively parallel dataflow processes for highly-scalable distributed applications
US11586463B2 (en) * 2018-04-17 2023-02-21 Oracle International Corporation Automated process flow learning
US20190324781A1 (en) * 2018-04-24 2019-10-24 Epiance Software Pvt. Ltd. Robotic script generation based on process variation detection
US10812627B2 (en) * 2019-03-05 2020-10-20 Sap Se Frontend process mining
US11481420B2 (en) * 2019-08-08 2022-10-25 Nice Ltd. Systems and methods for analyzing computer input to provide next action
US10990876B1 (en) * 2019-10-08 2021-04-27 UiPath, Inc. Detecting user interface elements in robotic process automation using convolutional neural networks

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114926151A (zh) * 2022-06-21 2022-08-19 中关村科学城城市大脑股份有限公司 一种基于强化学习的rpa流程自动生成方法和装置
CN115082766A (zh) * 2022-07-25 2022-09-20 珠海金智维信息科技有限公司 一种rpa业务场景识别方法、系统、装置及存储介质
CN115082766B (zh) * 2022-07-25 2022-11-25 珠海金智维信息科技有限公司 一种rpa业务场景识别方法、系统、装置及存储介质

Also Published As

Publication number Publication date
US11200539B2 (en) 2021-12-14
EP4046105A1 (en) 2022-08-24
WO2021076240A1 (en) 2021-04-22
EP4046105A4 (en) 2023-09-27
US20210110345A1 (en) 2021-04-15
KR20220079836A (ko) 2022-06-14
JP2023524327A (ja) 2023-06-12

Similar Documents

Publication Publication Date Title
US11200539B2 (en) Automatic completion of robotic process automation workflows using machine learning
KR102453988B1 (ko) 런타임시 디지털 프로세스에서의 동적 인공 지능/머신 러닝 모델 업데이트, 또는 재트레이닝 및 업데이트
US11541548B2 (en) Artificial intelligence-based process identification, extraction, and automation for robotic process automation
KR102453990B1 (ko) 인공 지능(ai)을 사용한 미디어 대 워크플로우 생성
US20210109503A1 (en) Human-in-the-loop robot training for robotic process automation
US11571811B2 (en) Process evolution for robotic process automation and workflow micro-optimization
US11650874B2 (en) Anomaly detection and self-healing for robotic process automation via artificial intelligence / machine learning
US20230093280A1 (en) Artificial intelligence layer-based process extraction for robotic process automation
US11775860B2 (en) Reinforcement learning in robotic process automation
CN114585480A (zh) 用于机器人流程自动化的自动分析、优先化和机器人生成
EP3809347A1 (en) Media-to-workflow generation using artificial intelligence (ai)
CN113748436A (zh) 用于机器人流程自动化的机器学习模型再训练流水线
US11797770B2 (en) Self-improving document classification and splitting for document processing in robotic process automation
CN114127696A (zh) 用于机器人过程自动化的测试自动化
CN113168169A (zh) 用于机器人过程自动化的测试自动化
CN113366492A (zh) 专用图形元素检测
CN114341788A (zh) 使用根据两种或更多种图形元素检测技术的用户接口描述符属性的组合的图形元素检测

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination