CN116680032A - 应用操作引导方法和装置、电子设备及存储介质 - Google Patents

应用操作引导方法和装置、电子设备及存储介质 Download PDF

Info

Publication number
CN116680032A
CN116680032A CN202310720325.6A CN202310720325A CN116680032A CN 116680032 A CN116680032 A CN 116680032A CN 202310720325 A CN202310720325 A CN 202310720325A CN 116680032 A CN116680032 A CN 116680032A
Authority
CN
China
Prior art keywords
user
target
interface position
application
intention
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310720325.6A
Other languages
English (en)
Inventor
陶德威
王健宗
于凤英
程宁
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Technology Shenzhen Co Ltd
Original Assignee
Ping An Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Technology Shenzhen Co Ltd filed Critical Ping An Technology Shenzhen Co Ltd
Priority to CN202310720325.6A priority Critical patent/CN116680032A/zh
Publication of CN116680032A publication Critical patent/CN116680032A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G06F9/451—Execution arrangements for user interfaces
    • G06F9/453—Help systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G06F9/451—Execution arrangements for user interfaces
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/26—Speech to text systems
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Acoustics & Sound (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本申请实施例提供了一种应用操作引导方法和装置、电子设备及存储介质，属于金融科技技术领域。该方法包括：获取用户操作目标应用的意图信息；根据意图信息确认用户在目标应用的操作意图；识别用户操作目标应用所在的当前界面位置；根据操作意图确定目标应用的目标界面位置；根据当前界面位置和目标界面位置生成操作引导结果，返回操作引导结果给用户。基于此，本申请实施例能够自动生成应用操作引导结果，同时还能和用户进行交互，确认用户的意图，可以引导用户快速找到应用的目标位置，从而达到更好的应用操作指引效果。

Description

应用操作引导方法和装置、电子设备及存储介质
技术领域
本申请涉及金融科技(Fintech)技术领域，尤其涉及一种应用操作引导方法和装置、电子设备及存储介质。
背景技术
随着诸如APP/小程序的应用内容逐渐丰富，其加入的内容越来越多，用户有时会难以找到目标位置。例如，可以领取XX保险赠送的福利，但是不知道具体从该应用的哪个入口进行领取。
在相关技术中，当前的应用指引一般是由人工来手动划分完成，消耗成本较高。而且，当前的应用指引一般是通过预先的设置来引导客户，无法临时做出调整，难以针对当前客户的情况进行分析并反馈。
在金融业务办理场景下，APP界面的应用内容日益繁杂，客户由于不熟悉APP而无法在短时间内找到相关入口进行操作，会给客户造成不佳的使用体验而导致客户黏性下降，因而存在流失客户的风险。
发明内容
本申请实施例的主要目的在于提出一种应用操作引导方法和装置、电子设备及存储介质，能够自动生成应用操作引导结果，同时还能和用户进行交互，确认用户的意图，可以引导用户快速找到应用的目标位置，从而达到更好的应用操作指引效果，尤其在金融业务办理场景下，可以提升用户使用体验，提高客户留存率，从而避免发生流失客户的风险。
为实现上述目的，本申请实施例的第一方面提出了一种应用操作引导方法，所述方法包括：
获取用户操作目标应用的意图信息；
根据所述意图信息确认所述用户在所述目标应用的操作意图；
识别所述用户操作所述目标应用所在的当前界面位置；
根据所述操作意图确定所述目标应用的目标界面位置；
根据所述当前界面位置和所述目标界面位置生成操作引导结果，返回所述操作引导结果给所述用户。
在一些实施例，所述获取用户操作目标应用的意图信息，包括：
获取用户操作目标应用的截图图片和语音信息；
基于自动语音识别ASR对所述语音信息进行转译处理，得到语音文本。
在一些实施例，所述根据所述意图信息确认所述用户在所述目标应用的操作意图，包括：
根据所述语音文本确定所述用户在所述目标应用的操作意图；或者，
根据所述语音文本和所述截图图片确定所述用户在所述目标应用的操作意图。
在一些实施例，所述识别所述用户操作所述目标应用所在的当前界面位置，包括：
将所述截图图片与预设在图库中的界面截图逐个进行对比；
基于二分类算法计算各个所述界面截图与所述截图图片进行对比得到的分数值；
根据得分最高的所述界面截图来定位所述用户操作所述目标应用所在的当前界面位置。
在一些实施例，所述根据所述当前界面位置和所述目标界面位置生成操作引导结果，返回所述操作引导结果给所述用户，包括：
基于深度优先遍历搜索算法或广度优先遍历搜索算法获得从所述当前界面位置至所述目标界面位置的超链接路径；
根据所述超链接路径确定目标图标；
在所述截图图片上框选出所述目标图标，得到操作引导截图；
返回所述操作引导截图给所述用户。
在一些实施例，所述根据所述当前界面位置和所述目标界面位置生成操作引导结果，返回所述操作引导结果给所述用户，包括：
基于深度优先遍历搜索算法或广度优先遍历搜索算法获得从所述当前界面位置至所述目标界面位置的超链接路径；
根据所述超链接路径确定目标图标和所述目标图标对应在所述目标应用的位置；
基于所述目标图标和所述目标图标对应在所述目标应用的位置生成操作引导文本信息或者操作引导视频流信息；
返回所述操作引导文本信息或者操作引导视频流信息给所述用户。
在一些实施例，所述根据所述当前界面位置和所述目标界面位置生成操作引导结果，返回所述操作引导结果给所述用户，包括：
基于深度优先遍历搜索算法或广度优先遍历搜索算法获得从所述当前界面位置至所述目标界面位置的超链接路径；
返回所述超链接路径给所述用户。
为实现上述目的，本申请实施例的第二方面提出了一种应用操作引导装置，所述装置包括：
获取模块，用于获取用户操作目标应用的意图信息；
确认模块，用于根据所述意图信息确认所述用户在所述目标应用的操作意图；
识别模块，用于识别所述用户操作所述目标应用所在的当前界面位置；
确定模块，用于根据所述操作意图确定所述目标应用的目标界面位置；
引导模块，用于根据所述当前界面位置和所述目标界面位置生成操作引导结果，返回所述操作引导结果给所述用户。
为实现上述目的，本申请实施例的第三方面提出了一种电子设备，所述电子设备包括存储器和处理器，所述存储器存储有计算机程序，所述处理器执行所述计算机程序时实现上述第一方面所述的方法。
为实现上述目的，本申请实施例的第四方面提出了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现上述第一方面所述的方法。
本申请提出的应用操作引导方法和装置、电子设备及存储介质,获取用户操作目标应用的意图信息；根据意图信息确认用户在目标应用的操作意图；识别用户操作目标应用所在的当前界面位置；根据操作意图确定目标应用的目标界面位置；根据当前界面位置和目标界面位置生成操作引导结果，返回操作引导结果给用户。基于此，通过与用户进行交互的方式获取用户操作目标应用的意图信息，并基于用户输入的意图信息确认用户在目标应用的操作意图，识别出当前界面位置和用户指定的目标界面位置，根据当前界面位置和目标界面位置自动输出操作引导结果给用户，因此，本申请实施例能够自动生成应用操作引导结果，同时还能和用户进行交互，确认用户的意图，可以引导用户快速找到应用的目标位置，从而达到更好的应用操作指引效果，尤其在金融业务办理场景下，可以提升用户使用体验，提高客户留存率，从而避免发生流失客户的风险。
附图说明
图1是本申请实施例提供的应用操作引导方法的流程图；
图2是图1中的步骤S101的流程图；
图3是图1中的步骤S102的流程图；
图4是图1中的步骤S103的流程图；
图5是图1中的步骤S105的流程图；
图6是图1中的步骤S105的流程图；
图7是图1中的步骤S105的流程图；
图8是本申请实施例提供的应用操作引导装置的结构示意图；
图9是本申请实施例提供的电子设备的硬件结构示意图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本申请进行进一步详细说明。应当理解，此处所描述的具体实施例仅用以解释本申请，并不用于限定本申请。
需要说明的是，虽然在装置示意图中进行了功能模块划分，在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于装置中的模块划分，或流程图中的顺序执行所示出或描述的步骤。说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。
除非另有定义，本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同。本文中所使用的术语只是为了描述本申请实施例的目的，不是旨在限制本申请。
首先，对本申请中涉及的若干名词进行解析：
人工智能(artificial intelligence，AI)：是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学；人工智能是计算机科学的一个分支，人工智能企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器，该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。人工智能可以对人的意识、思维的信息过程的模拟。人工智能还是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
保险：是指投保人根据合同约定，向保险人支付保险费，保险人对于合同约定的可能发生的事故因其发生所造成的财产损失承担赔偿保险金责任，或者被保险人死亡、伤残、疾病或者达到合同约定的年龄、期限等条件时承担给付保险金责任的商业保险行为。从经济角度看，保险是分摊意外事故损失的一种财务安排；从法律角度看，保险是一种合同行为，是一方同意补偿另一方损失的一种合同安排；从社会角度看，保险是社会经济保障制度的重要组成部分，是社会生产和社会生活“精巧的稳定器”；从风险管理角度看，保险是风险管理的一种方法。
APP：应用程序，一般指手机软件。手机软件主要指安装在智能手机上的软件，完善原始系统的不足与个性化。使手机完善其功能，为用户提供更丰富的使用体验的主要手段。手机软件的运行需要有相应的手机系统，市场常用的手机系统：苹果公司的iOS、谷歌公司的Android(安卓)系统、华为公司的(鸿蒙)系统、塞班平台和微软平台。
小程序：是一种不需要下载安装即可使用的应用，它实现了应用“触手可及”的梦想，用户扫一扫或者搜一下即可打开应用。也体现了“用完即走”的理念，用户不用关心是否安装太多应用的问题。应用将无处不在，随时可用，但又无需安装卸载。
用户界面(User Interface)：是指对软件的人机交互、操作逻辑、界面美观的整体设计。好的UI设计不仅是让软件变得有个性有品味，还要让软件的操作变得舒适、简单、自由、充分体现软件的定位和特点。用户界面(简称UI，亦称使用者界面)是系统和用户之间进行交互和信息交换的媒介，它实现信息的内部形式与人类可以接受形式之间的转换。用户界面是介于用户与硬件而设计彼此之间交互沟通相关软件，目的在使得用户能够方便有效率地去操作硬件以达成双向之交互，完成所希望借助硬件完成之工作，用户界面定义广泛，包含了人机交互与图形用户接口，凡参与人类与机械的信息交流的领域都存在着用户界面。
超链接：简单来讲就是指按内容链接。超级链接在本质上属于一个网页的一部分，它是一种允许我们同其他网页或站点之间进行连接的元素。各个网页链接在一起后，才能真正构成一个网站。所谓的超链接是指从一个网页指向一个目标的连接关系，这个目标可以是另一个网页，也可以是相同网页上的不同位置，还可以是一个图片，一个电子邮件地址，一个文件，甚至是一个应用程序。而在一个网页中用来超链接的对象，可以是一段文本或者是一个图片。当浏览者单击已经链接的文字或图片后，链接目标将显示在浏览器上，并且根据目标的类型来打开或运行。
视频流：是指视频数据的传输，例如，它能够被作为一个稳定的和连续的流通过网络处理。因为流动，客户机浏览器或插件能够在整个文件被传输完成前显示多媒体数据。
在相关技术中，当前的应用指引一般是由人工来手动划分完成，消耗成本较高。而且，当前的应用指引一般是通过预先的设置来引导客户，无法临时做出调整，难以针对当前客户的情况进行分析并反馈。
基于此，本申请实施例提供了一种应用操作引导方法和装置、电子设备及存储介质，获取用户操作目标应用的意图信息；根据意图信息确认用户在目标应用的操作意图；识别用户操作目标应用所在的当前界面位置；根据操作意图确定目标应用的目标界面位置；根据当前界面位置和目标界面位置生成操作引导结果，返回操作引导结果给用户。基于此，通过与用户进行交互的方式获取用户操作目标应用的意图信息，并基于用户输入的意图信息确认用户在目标应用的操作意图，识别出当前界面位置和用户指定的目标界面位置，根据当前界面位置和目标界面位置自动输出操作引导结果给用户，因此，本申请实施例能够自动生成应用操作引导结果，同时还能和用户进行交互，确认用户的意图，可以引导用户快速找到应用的目标位置，从而达到更好的应用操作指引效果，尤其在金融业务办理场景下，可以提升用户使用体验，提高客户留存率，从而避免发生流失客户的风险。
本申请实施例提供的应用操作引导方法和装置、电子设备及存储介质，具体通过如下实施例进行说明，首先描述本申请实施例中的应用操作引导方法。
本申请实施例可以基于人工智能技术对相关的数据进行获取和处理。其中，人工智能(Artificial Intelligence，AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
本申请实施例提供的应用操作引导方法，涉及人工智能技术领域。本申请实施例提供的应用操作引导方法可应用于终端中，也可应用于服务器端中，还可以是运行于终端或服务器端中的软件。在一些实施例中，终端可以是智能手机、平板电脑、笔记本电脑、台式计算机等；服务器端可以配置成独立的物理服务器，也可以配置成多个物理服务器构成的服务器集群或者分布式系统，还可以配置成提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、CDN以及大数据和人工智能平台等基础云计算服务的云服务器；软件可以是实现应用操作引导方法的应用等，但并不局限于以上形式。
本申请可用于众多通用或专用的计算机系统环境或配置中。例如：个人计算机、服务器计算机、手持设备或便携式设备、平板型设备、多处理器系统、基于微处理器的系统、置顶盒、可编程的消费电子设备、网络PC、小型计算机、大型计算机、包括以上任何系统或设备的分布式计算环境等等。本申请可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本申请，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
需要说明的是，在本申请的各个具体实施方式中，当涉及到需要根据用户信息、用户行为数据，用户历史数据以及用户位置信息等与用户身份或特性相关的数据进行相关处理时，都会先获得用户的许可或者同意，而且，对这些数据的收集、使用和处理等，都会遵守相关法律法规和标准。此外，当本申请实施例需要获取用户的敏感个人信息时，会通过弹窗或者跳转到确认页面等方式获得用户的单独许可或者单独同意，在明确获得用户的单独许可或者单独同意之后，再获取用于使本申请实施例能够正常运行的必要的用户相关数据。
图1是本申请实施例提供的应用操作引导方法的一个可选的流程图，图1中的方法可以包括但不限于包括步骤S101至步骤S105。
步骤S101，获取用户操作目标应用的意图信息；
步骤S102，根据意图信息确认用户在目标应用的操作意图；
步骤S103，识别用户操作目标应用所在的当前界面位置；
步骤S104，根据操作意图确定目标应用的目标界面位置；
步骤S105，根据当前界面位置和目标界面位置生成操作引导结果，返回操作引导结果给用户。
在一些实施例的步骤S101中，获取用户操作目标应用的意图信息，目标应用包括但不限于APP和小程序，意图信息包括但不限于用户操作目标应用的截图图片和语音信息。其中，截图图片为用户使用终端(例如手机、平板电脑)时，对当前应用(例如APP、小程序)界面进行截屏的图片；而语音信息为用户询问的语音，在金融业务办理场景下，用户会对感兴趣的业务进行询问，例如，“XX保险业务办理入口在哪？”，又例如，“APP福利在哪？”等。语音会经过自动语音识别ASR转译得到语音文本，从而知道用户操作目标应用的意图。需要说明的是，截图图片可以是一张图片，也可以是多张图片。
在一些实施例的步骤S102中，根据意图信息确认用户在目标应用的操作意图。可以通过意图信息进行分类来知道客户的操作意图是什么，意图信息包括但不限于用户操作目标应用的截图图片和语音信息。例如，想要引导去哪里，或是其他需求。意图信息分类主要可分为两种方式：一是，直接可通过语音文本来得到操作意图。例如：APP福利在哪？二是，需要通过语音文本和截图图片结合的方式获取操作意图。例如：是要点上面这个首页的图标吗？是要点红色的这个图标吗？将语音文本和截图图片结合的话，除去需要判断操作意图，同时也需要提取响应的关键词给后续的处理。
在一些实施例的步骤S103中，识别用户操作目标应用所在的当前界面位置。用户在使用目标应用时，为了识别用户操作目标应用所在的当前界面位置，可以对用户操作目标应用所在的当前界面进行分析，例如，由于APP/小程序的截图是固定的或是相似的界面，当用户截屏当前界面时得到截图图片，可以将截图图片直接跟预设在图库中的界面截图进行对比，并做一个二分类，根据得到分数最高的界面截图即可定位当前界面位置。
在一些实施例的步骤S104中，根据操作意图确定目标应用的目标界面位置。根据用户输入的语音文本或者语音文本和截图图片相结合的意图信息，可以确定客户的操作意图，从而知道用户想要找到的目标应用的目标界面位置。例如，可以根据用户的语音文本：“APP福利在哪？”，从而知道用户想要找到的目标应用的目标界面位置为：APP福利领取的入口图标。
在一些实施例的步骤S105中，根据当前界面位置和目标界面位置生成操作引导结果，返回操作引导结果给用户。根据当前界面位置和目标界面位置来生成操作引导结果，其中，操作引导结果可以包括超链接路径、超链接路径对应的目标图标、带框选目标图标的截图、文本和视频流等。对于操作引导结果的生成，例如用户想返回超链接，可以基于深度优先遍历(Depth First Search，DFS)搜索算法或广度优先遍历(Breadth First Search，BFS)搜索算法获得从当前界面位置至目标界面位置的超链接路径与对应的目标图标，用户通过点击目标图标即可触发超链接路径，从而跳转到目标界面位置。对于获取的目标图标以及其对应的位置，可以在截图上进行框选出目标图标，并将框选出目标图标的截图依次进行返回给客户进行确认。操作引导结果还可以包括其他形式，例如文本，可对框选的位置以及目标图标进行描述，再一次返回。又例如用户想返回视频流，可对截图做局部高亮的动画，将数个截图拼接起来，即可完成视频流的返回。
在一些实施例中，在金融业务办理场景下，通过与用户进行交互的方式获取用户操作目标应用的意图信息，并基于用户输入的意图信息确认用户在目标应用的操作意图，识别出当前界面位置和用户指定的目标界面位置，根据当前界面位置和目标界面位置自动输出操作引导结果给用户，使得客户可以在短时间内找到相关入口，以便快速进行诸如业务办理、进度查询、问题咨询、福利领取等一系列应用操作。基于此，本申请实施例能够自动生成应用操作引导结果，同时还能和用户进行交互，确认用户的意图，可以引导用户快速找到应用的目标位置，从而达到更好的应用操作指引效果。因此，在金融业务办理场景下，本申请实施例可以提升用户使用体验，提高客户留存率，从而避免发生流失客户的风险。
本申请实施例所示意的步骤S101至步骤S105，获取用户操作目标应用的意图信息；根据意图信息确认用户在目标应用的操作意图；识别用户操作目标应用所在的当前界面位置；根据操作意图确定目标应用的目标界面位置；根据当前界面位置和目标界面位置生成操作引导结果，返回操作引导结果给用户。基于此，通过与用户进行交互的方式获取用户操作目标应用的意图信息，并基于用户输入的意图信息确认用户在目标应用的操作意图，识别出当前界面位置和用户指定的目标界面位置，根据当前界面位置和目标界面位置自动输出操作引导结果给用户，因此，本申请实施例能够自动生成应用操作引导结果，同时还能和用户进行交互，确认用户的意图，可以引导用户快速找到应用的目标位置，从而达到更好的应用操作指引效果，尤其在金融业务办理场景下，可以提升用户使用体验，提高客户留存率，从而避免发生流失客户的风险。同时，意图信息可支持多种方式的输入，如截图、文本，而操作引导结果则可以支持多种格式的输出，如截图、文本、视频、超链接等，从而可以满足业务上的不同需求。
请参阅图2，在一些实施例中，步骤S101可以包括但不限于包括步骤S201至步骤S202：
步骤S201，获取用户操作目标应用的截图图片和语音信息；
步骤S202，基于自动语音识别ASR对语音信息进行转译处理，得到语音文本。
在一些实施例中，以App指引针对在电话中对客户进行引导的场景为例，在引导过程中会接收到客户询问的语音，为了更好的定位当前位置，还会要求客户进行截图进行发送。在此场景下，通过获取用户操作目标应用的截图图片和语音信息了解用户的需求，并作为用户输入的意图信息，基于自动语音识别ASR对语音信息进行转译处理，得到语音文本。例如，用户截屏当前APP/小程序位置发送到平台，同时会收到询问的语音信息，语音信息会经过ASR转译得到语音文本，这样就得到了引导的起始位置与需求信息。需要说明的是，对于开始引导的起始位置，也可以直接从目标应用的指定位置开始引导。
请参阅图3，在一些实施例中，步骤S102可以包括但不限于包括步骤S301：
步骤S301，根据语音文本确定用户在目标应用的操作意图；或者，根据语音文本和截图图片确定用户在目标应用的操作意图。
在一些实施例中，根据意图信息可以确认用户在目标应用的操作意图。例如，可以通过意图信息进行分类来知道客户的操作意图是什么，意图信息包括但不限于用户操作目标应用的截图图片和语音信息。例如，想要引导去哪里，或是其他需求。意图信息分类主要可分为两种方式：一是，直接可通过语音文本来得到操作意图。例如：APP福利在哪？二是，需要通过语音文本和截图图片结合的方式获取操作意图。例如：是要点上面这个首页的图标吗？是要点红色的这个图标吗？将语音文本和截图图片结合的话，除了需要判断操作意图，同时也需要提取响应的关键词给后续的处理，以“APP福利在哪”为例，提取“福利”作为关键词，以确认用户操作意图“要寻找领取APP福利的入口图标”以及后续与用户进行确认“是否为该APP福利”来做引导交互。
请参阅图4，在一些实施例中，步骤S103可以包括但不限于包括步骤S401至步骤S403：
步骤S401，将截图图片与预设在图库中的界面截图逐个进行对比；
步骤S402，基于二分类算法计算各个界面截图与截图图片进行对比得到的分数值；
步骤S403，根据得分最高的界面截图来定位用户操作目标应用所在的当前界面位置。
在一些实施例中，将截图图片与预设在图库中的界面截图逐个进行对比，基于二分类算法计算各个界面截图与截图图片进行对比得到的分数值，由于分数值越高代表该界面截图与截图图片的相似度越高，因此可以根据得分最高的界面截图来定位用户操作目标应用所在的当前界面位置。例如，由于APP/小程序的截图是固定的或是相似的界面，当用户截屏当前界面时得到截图图片，可以将截图图片直接跟预设在图库中的界面截图进行对比，并基于二分类算法进行计算，相似度最高的界面截图对应的分数最高，根据得到分数最高的界面截图即可定位当前界面位置。
请参阅图5，在一些实施例中，步骤S105可以包括但不限于包括步骤S501至步骤S504：
步骤S501，基于深度优先遍历搜索算法或广度优先遍历搜索算法获得从当前界面位置至目标界面位置的超链接路径；
步骤S502，根据超链接路径确定目标图标；
步骤S503，在截图图片上框选出目标图标，得到操作引导截图；
步骤S504，返回操作引导截图给用户。
在一些实施例中，对于操作引导结果的生成，可以基于深度优先遍历(DepthFirst Search，DFS)搜索算法或广度优先遍历(Breadth First Search，BFS)搜索算法获得从当前界面位置至目标界面位置的超链接路径与对应的目标图标。获取到目标图标以及其对应的位置，可以在截图上进行框选出目标图标，并将框选出目标图标的截图依次进行返回给客户进行确认。需要说明的是，目标图标的位置可以预先进行存储。例如，可以通过分析图片的元素，对图片进行目标检测，将元素进行划分，随后对每个元素分别打上其对应含义的标签。
请参阅图6，在一些实施例中，步骤S105可以包括但不限于包括步骤S601至步骤S604：
步骤S601，基于深度优先遍历搜索算法或广度优先遍历搜索算法获得从当前界面位置至目标界面位置的超链接路径；
步骤S602，根据超链接路径确定目标图标和目标图标对应在目标应用的位置；
步骤S603，基于目标图标和目标图标对应在目标应用的位置生成操作引导文本信息或者操作引导视频流信息；
步骤S604，返回操作引导文本信息或者操作引导视频流信息给用户。
在一些实施例中，对于操作引导结果的生成，可以基于深度优先遍历(DepthFirst Search，DFS)搜索算法或广度优先遍历(Breadth First Search，BFS)搜索算法获得从当前界面位置至目标界面位置的超链接路径与对应的目标图标。获取目标图标以及其对应的位置，可以在截图上进行框选出目标图标。当用户想返回操作引导文本，可对框选的位置以及目标图标进行描述，生成操作引导文本信息，再返回操作引导文本信息给用户。当用户想返回操作引导视频流，可对截图做局部高亮的动画，将数个截图拼接起来，以完成操作引导视频流信息，再返回完成的操作引导视频流信息给用户即可。
请参阅图7，在一些实施例中，步骤S105可以包括但不限于包括步骤S701至步骤S704：
步骤S701，基于深度优先遍历搜索算法或广度优先遍历搜索算法获得从当前界面位置至目标界面位置的超链接路径；
步骤S702，返回超链接路径给用户。
在一些实施例中，对于操作引导结果的生成，例如用户想返回超链接，可以基于深度优先遍历(Depth First Search，DFS)搜索算法或广度优先遍历(Breadth FirstSearch，BFS)搜索算法获得从当前界面位置至目标界面位置的超链接路径与对应的目标图标，用户通过点击目标图标即可触发超链接路径，从而跳转到目标界面位置。
以下结合具体实施例进一步说明本申请的应用操作引导方法。
以App指引针对在电话中对客户进行引导的场景为例，APP指引流程可以分为以下步骤：
①收到截图与文本
客户截屏当前APP/小程序位置，发送到平台。同时收到询问的语音。语音会经过ASR转译得到文本。这样就得到了引导的起始位置，与需求信息。当然此步可进行跳过，直接从指定位置开始引导。
②确认文本意图
通过对文本的意图进行分类来知道客户的意图是什么。例如，想要引导去哪里，或是其他需求。此步如果能从上游给到具体意图，此步也可跳过。
意图分类主要可分为两种方式：
1、直接可通过文本来得到意图。例如：APP福利在哪？
2、需要通过文本和图片结合的方式获取意图。例如：是要点上面这个首页的图标吗？是要点红色的这个图标吗？
③识别当前界面位置与指定界面位置
由于APP/小程序的截图是固定的或是相似的界面，所以可以直接跟库中的界面截图进行对比，做一个二分类。得到分数最高的截图即可定位当前位置。通过步骤②获得的意图来确定目标界面。
④链接从当前界面到指定界面的流程
通过业务方给定的截图与对应的链接，可以利用DFS/BFS的方式来获得从起始到目标截图的超链接路径与对应的图标。图标即触发超链接的部分，这部分可以预先处理完成，可参考第⑤步的方案。
⑤框选出位置
从第④步中获取图标以及其对应的位置，对其在截图上进行框选。同时这步可通过位置及图标的判断，来确认第②步客户的意图是否正确，从而回复客户。
图标的位置可以预先进行存储。例如，可以通过分析图片的元素，对图片进行目标检测，将元素进行划分，随后对每个元素分别打上其对应含义的标签。
⑥返回截图或其他形式
将框选出来的截图依次进行返回。
如果想返回其他形式，例如文本，可对框选的位置以及图标进行描述，一次返回。如果想返回视频流，可对截图做局部高亮的动画，将数个截图拼接起来，即可完成视频流的返回。如果想返回超链接，那么可直接通过返回目标的超链接，来使客户直达目的位置。
基于此，本申请实施例通过获取通话文本，获取用户操作目标应用的意图信息；根据意图信息确认用户在目标应用的操作意图；识别用户操作目标应用所在的当前界面位置；根据操作意图确定目标应用的目标界面位置；根据当前界面位置和目标界面位置生成操作引导结果，返回操作引导结果给用户。基于此，通过与用户进行交互的方式获取用户操作目标应用的意图信息，并基于用户输入的意图信息确认用户在目标应用的操作意图，识别出当前界面位置和用户指定的目标界面位置，根据当前界面位置和目标界面位置自动输出操作引导结果给用户，因此，本申请实施例能够自动生成应用操作引导结果，同时还能和用户进行交互，确认用户的意图，可以引导用户快速找到应用的目标位置，从而达到更好的应用操作指引效果，尤其在金融业务办理场景下，可以提升用户使用体验，提高客户留存率，从而避免发生流失客户的风险。同时，意图信息可支持多种方式的输入，如截图、文本，而操作引导结果则可以支持多种格式的输出，如截图、文本、视频、超链接等，从而可以满足业务上的不同需求。
请参阅图8，本申请实施例还提供一种应用操作引导装置，可以实现上述应用操作引导方法，该装置包括：
获取模块810，用于获取用户操作目标应用的意图信息；
确认模块820，用于根据意图信息确认用户在目标应用的操作意图；
识别模块830，用于识别用户操作目标应用所在的当前界面位置；
确定模块840，用于根据操作意图确定目标应用的目标界面位置；
引导模块850，用于根据当前界面位置和目标界面位置生成操作引导结果，返回操作引导结果给用户。
在本申请的一些实施例中，获取模块810获取用户操作目标应用的意图信息；确认模块820根据意图信息确认用户在目标应用的操作意图；识别模块830识别用户操作目标应用所在的当前界面位置；确定模块840根据操作意图确定目标应用的目标界面位置；引导模块850根据当前界面位置和目标界面位置生成操作引导结果，返回操作引导结果给用户。
在本申请的一些实施例中，获取模块810获取用户操作目标应用的意图信息，目标应用包括但不限于APP和小程序，意图信息包括但不限于用户操作目标应用的截图图片和语音信息。其中，截图图片为用户使用终端(例如手机、平板电脑)时，对当前应用(例如APP、小程序)界面进行截屏的图片；而语音信息为用户询问的语音，在金融业务办理场景下，用户会对感兴趣的业务进行询问，例如，“XX保险业务办理入口在哪？”，又例如，“APP福利在哪？”等。语音会经过自动语音识别ASR转译得到语音文本，从而知道用户操作目标应用的意图。需要说明的是，截图图片可以是一张图片，也可以是多张图片。
在本申请的一些实施例中，确认模块820根据意图信息确认用户在目标应用的操作意图。可以通过意图信息进行分类来知道客户的操作意图是什么，意图信息包括但不限于用户操作目标应用的截图图片和语音信息。例如，想要引导去哪里，或是其他需求。意图信息分类主要可分为两种方式：一是，直接可通过语音文本来得到操作意图。例如：APP福利在哪？二是，需要通过语音文本和截图图片结合的方式获取操作意图。例如：是要点上面这个首页的图标吗？是要点红色的这个图标吗？将语音文本和截图图片结合的话，除去需要判断操作意图，同时也需要提取响应的关键词给后续的处理。
在本申请的一些实施例中，识别模块830识别用户操作目标应用所在的当前界面位置。用户在使用目标应用时，为了识别用户操作目标应用所在的当前界面位置，可以对用户操作目标应用所在的当前界面进行分析，例如，由于APP/小程序的截图是固定的或是相似的界面，当用户截屏当前界面时得到截图图片，可以将截图图片直接跟预设在图库中的界面截图进行对比，并做一个二分类，根据得到分数最高的界面截图即可定位当前界面位置。
在本申请的一些实施例中，确定模块840根据操作意图确定目标应用的目标界面位置。根据用户输入的语音文本或者语音文本和截图图片相结合的意图信息，可以确定客户的操作意图，从而知道用户想要找到的目标应用的目标界面位置。例如，可以根据用户的语音文本：“APP福利在哪？”，从而知道用户想要找到的目标应用的目标界面位置为：APP福利领取的入口图标。
在本申请的一些实施例中，引导模块850根据当前界面位置和目标界面位置生成操作引导结果，返回操作引导结果给用户。根据当前界面位置和目标界面位置来生成操作引导结果，其中，操作引导结果可以包括超链接路径、超链接路径对应的目标图标、带框选目标图标的截图、文本和视频流等。对于操作引导结果的生成，例如用户想返回超链接，可以基于深度优先遍历(Depth First Search，DFS)搜索算法或广度优先遍历(BreadthFirst Search，BFS)搜索算法获得从当前界面位置至目标界面位置的超链接路径与对应的目标图标，用户通过点击目标图标即可触发超链接路径，从而跳转到目标界面位置。对于获取的目标图标以及其对应的位置，可以在截图上进行框选出目标图标，并将框选出目标图标的截图依次进行返回给客户进行确认。操作引导结果还可以包括其他形式，例如文本，可对框选的位置以及目标图标进行描述，再一次返回。又例如用户想返回视频流，可对截图做局部高亮的动画，将数个截图拼接起来，即可完成视频流的返回。
基于此，本申请实施例的应用操作引导装置，获取模块810获取用户操作目标应用的意图信息；确认模块820根据意图信息确认用户在目标应用的操作意图；识别模块830识别用户操作目标应用所在的当前界面位置；确定模块840根据操作意图确定目标应用的目标界面位置；引导模块850根据当前界面位置和目标界面位置生成操作引导结果，返回操作引导结果给用户。本申请通过获取用户操作目标应用的意图信息；根据意图信息确认用户在目标应用的操作意图；识别用户操作目标应用所在的当前界面位置；根据操作意图确定目标应用的目标界面位置；根据当前界面位置和目标界面位置生成操作引导结果，返回操作引导结果给用户。基于此，通过与用户进行交互的方式获取用户操作目标应用的意图信息，并基于用户输入的意图信息确认用户在目标应用的操作意图，识别出当前界面位置和用户指定的目标界面位置，根据当前界面位置和目标界面位置自动输出操作引导结果给用户，因此，本申请实施例能够自动生成应用操作引导结果，同时还能和用户进行交互，确认用户的意图，可以引导用户快速找到应用的目标位置，从而达到更好的应用操作指引效果，尤其在金融业务办理场景下，可以提升用户使用体验，提高客户留存率，从而避免发生流失客户的风险。同时，意图信息可支持多种方式的输入，如截图、文本，而操作引导结果则可以支持多种格式的输出，如截图、文本、视频、超链接等，从而可以满足业务上的不同需求。
该应用操作引导装置的具体实施方式与上述应用操作引导方法的具体实施例基本相同，在此不再赘述。
本申请实施例还提供了一种电子设备，电子设备包括存储器和处理器，存储器存储有计算机程序，处理器执行计算机程序时实现上述应用操作引导方法。该电子设备可以为包括平板电脑、车载电脑等任意智能终端。
请参阅图9，图9示意了另一实施例的电子设备的硬件结构，电子设备包括：
处理器901，可以采用通用的CPU(CentralProcessingUnit，中央处理器)、微处理器、应用专用集成电路(ApplicationSpecificIntegratedCircuit，ASIC)、或者一个或多个集成电路等方式实现，用于执行相关程序，以实现本申请实施例所提供的技术方案。
存储器902，可以采用只读存储器(ReadOnlyMemory，ROM)、静态存储设备、动态存储设备或者随机存取存储器(RandomAccessMemory，RAM)等形式实现。存储器902可以存储操作系统和其他应用程序，在通过软件或者固件来实现本说明书实施例所提供的技术方案时，相关的程序代码保存在存储器902中，并由处理器901来调用执行本申请实施例的应用操作引导方法，即通过获取用户操作目标应用的意图信息；根据意图信息确认用户在目标应用的操作意图；识别用户操作目标应用所在的当前界面位置；根据操作意图确定目标应用的目标界面位置；根据当前界面位置和目标界面位置生成操作引导结果，返回操作引导结果给用户。基于此，通过与用户进行交互的方式获取用户操作目标应用的意图信息，并基于用户输入的意图信息确认用户在目标应用的操作意图，识别出当前界面位置和用户指定的目标界面位置，根据当前界面位置和目标界面位置自动输出操作引导结果给用户，因此，本申请实施例能够自动生成应用操作引导结果，同时还能和用户进行交互，确认用户的意图，可以引导用户快速找到应用的目标位置，从而达到更好的应用操作指引效果，尤其在金融业务办理场景下，可以提升用户使用体验，提高客户留存率，从而避免发生流失客户的风险。同时，意图信息可支持多种方式的输入，如截图、文本，而操作引导结果则可以支持多种格式的输出，如截图、文本、视频、超链接等，从而可以满足业务上的不同需求。
输入/输出接口903，用于实现信息输入及输出。
通信接口904，用于实现本设备与其他设备的通信交互，可以通过有线方式(例如USB、网线等)实现通信，也可以通过无线方式(例如移动网络、WIFI、蓝牙等)实现通信。
总线，在设备的各个组件(例如处理器901、存储器902、输入/输出接口903和通信接口904)之间传输信息。
其中处理器901、存储器902、输入/输出接口903和通信接口904通过总线实现彼此之间在设备内部的通信连接。
本申请实施例还提供了一种计算机可读存储介质，该计算机可读存储介质存储有计算机程序，该计算机程序被处理器执行时实现上述应用操作引导方法。
存储器作为一种非暂态计算机可读存储介质，可用于存储非暂态软件程序以及非暂态性计算机可执行程序。此外，存储器可以包括高速随机存取存储器，还可以包括非暂态存储器，例如至少一个磁盘存储器件、闪存器件、或其他非暂态固态存储器件。在一些实施方式中，存储器可选包括相对于处理器远程设置的存储器，这些远程存储器可以通过网络连接至该处理器。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
本申请实施例提供的应用操作引导方法、应用操作引导装置、电子设备及存储介质，通过获取用户操作目标应用的意图信息；根据意图信息确认用户在目标应用的操作意图；识别用户操作目标应用所在的当前界面位置；根据操作意图确定目标应用的目标界面位置；根据当前界面位置和目标界面位置生成操作引导结果，返回操作引导结果给用户。基于此，通过与用户进行交互的方式获取用户操作目标应用的意图信息，并基于用户输入的意图信息确认用户在目标应用的操作意图，识别出当前界面位置和用户指定的目标界面位置，根据当前界面位置和目标界面位置自动输出操作引导结果给用户，因此，本申请实施例能够自动生成应用操作引导结果，同时还能和用户进行交互，确认用户的意图，可以引导用户快速找到应用的目标位置，从而达到更好的应用操作指引效果，尤其在金融业务办理场景下，可以提升用户使用体验，提高客户留存率，从而避免发生流失客户的风险。同时，意图信息可支持多种方式的输入，如截图、文本，而操作引导结果则可以支持多种格式的输出，如截图、文本、视频、超链接等，从而可以满足业务上的不同需求。
本领域普通技术人员可以理解，上文中所公开方法中的全部或某些步骤、系统可以被实施为软件、固件、硬件及其适当的组合。某些物理组件或所有物理组件可以被实施为由处理器，如中央处理器、数字信号处理器或微处理器执行的软件，或者被实施为硬件，或者被实施为集成电路，如专用集成电路。这样的软件可以分布在计算机可读介质上，计算机可读介质可以包括计算机存储介质(或非暂时性介质)和通信介质(或暂时性介质)。如本领域普通技术人员公知的，术语计算机存储介质包括在用于存储信息(诸如计算机可读程序、数据结构、程序模块或其他数据)的任何方法或技术中实施的易失性和非易失性、可移除和不可移除介质。计算机存储介质包括但不限于RAM、ROM、EEPROM、闪存或其他存储器技术、CD-ROM、数字多功能盘(DVD)或其他光盘存储、磁盒、磁带、磁盘存储或其他磁存储装置、或者可以用于存储期望的信息并且可以被计算机访问的任何其他的介质。此外，本领域普通技术人员公知的是，通信介质通常包含计算机可读程序、数据结构、程序模块或者诸如载波或其他传输机制之类的调制数据信号中的其他数据，并且可包括任何信息递送介质。
本申请实施例描述的实施例是为了更加清楚的说明本申请实施例的技术方案，并不构成对于本申请实施例提供的技术方案的限定，本领域技术人员可知，随着技术的演变和新应用场景的出现，本申请实施例提供的技术方案对于类似的技术问题，同样适用。
本领域技术人员可以理解的是，图中示出的技术方案并不构成对本申请实施例的限定，可以包括比图示更多或更少的步骤，或者组合某些步骤，或者不同的步骤。
以上所描述的装置实施例仅仅是示意性的，其中作为分离部件说明的单元可以是或者也可以不是物理上分开的，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
本领域普通技术人员可以理解，上文中所公开方法中的全部或某些步骤、系统、设备中的功能模块/单元可以被实施为软件、固件、硬件及其适当的组合。
本申请的说明书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
应当理解，在本申请中，“至少一个(项)”是指一个或者多个，“多个”是指两个或两个以上。“和/或”，用于描述关联对象的关联关系，表示可以存在三种关系，例如，“A和/或B”可以表示：只存在A，只存在B以及同时存在A和B三种情况，其中A，B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达，是指这些项中的任意组合，包括单项(个)或复数项(个)的任意组合。例如，a，b或c中的至少一项(个)，可以表示：a，b，c，“a和b”，“a和c”，“b和c”，或“a和b和c”，其中a，b，c可以是单个，也可以是多个。
在本申请所提供的几个实施例中，应该理解到，所揭露的装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，上述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。
上述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本申请各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括多指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本申请各个实施例的方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(Read-Only Memory，简称ROM)、随机存取存储器(Random Access Memory，简称RAM)、磁碟或者光盘等各种可以存储程序的介质。
以上参照附图说明了本申请实施例的优选实施例，并非因此局限本申请实施例的权利范围。本领域技术人员不脱离本申请实施例的范围和实质内所作的任何修改、等同替换和改进，均应在本申请实施例的权利范围之内。

Claims (10)

1.一种应用操作引导方法，其特征在于，所述方法包括：
获取用户操作目标应用的意图信息；
根据所述意图信息确认所述用户在所述目标应用的操作意图；
识别所述用户操作所述目标应用所在的当前界面位置；
根据所述操作意图确定所述目标应用的目标界面位置；
根据所述当前界面位置和所述目标界面位置生成操作引导结果，返回所述操作引导结果给所述用户。
2.根据权利要求1所述的方法，其特征在于，所述获取用户操作目标应用的意图信息，包括：
获取用户操作目标应用的截图图片和语音信息；
基于自动语音识别ASR对所述语音信息进行转译处理，得到语音文本。
3.根据权利要求2所述的方法，其特征在于，所述根据所述意图信息确认所述用户在所述目标应用的操作意图，包括：
根据所述语音文本确定所述用户在所述目标应用的操作意图；或者，
根据所述语音文本和所述截图图片确定所述用户在所述目标应用的操作意图。
4.根据权利要求2所述的方法，其特征在于，所述识别所述用户操作所述目标应用所在的当前界面位置，包括：
将所述截图图片与预设在图库中的界面截图逐个进行对比；
基于二分类算法计算各个所述界面截图与所述截图图片进行对比得到的分数值；
根据得分最高的所述界面截图来定位所述用户操作所述目标应用所在的当前界面位置。
5.根据权利要求2所述的方法，其特征在于，所述根据所述当前界面位置和所述目标界面位置生成操作引导结果，返回所述操作引导结果给所述用户，包括：
基于深度优先遍历搜索算法或广度优先遍历搜索算法获得从所述当前界面位置至所述目标界面位置的超链接路径；
根据所述超链接路径确定目标图标；
在所述截图图片上框选出所述目标图标，得到操作引导截图；
返回所述操作引导截图给所述用户。
6.根据权利要求2所述的方法，其特征在于，所述根据所述当前界面位置和所述目标界面位置生成操作引导结果，返回所述操作引导结果给所述用户，包括：
基于深度优先遍历搜索算法或广度优先遍历搜索算法获得从所述当前界面位置至所述目标界面位置的超链接路径；
根据所述超链接路径确定目标图标和所述目标图标对应在所述目标应用的位置；
基于所述目标图标和所述目标图标对应在所述目标应用的位置生成操作引导文本信息或者操作引导视频流信息；
返回所述操作引导文本信息或者操作引导视频流信息给所述用户。
7.根据权利要求2所述的方法，其特征在于，所述根据所述当前界面位置和所述目标界面位置生成操作引导结果，返回所述操作引导结果给所述用户，包括：
基于深度优先遍历搜索算法或广度优先遍历搜索算法获得从所述当前界面位置至所述目标界面位置的超链接路径；
返回所述超链接路径给所述用户。
8.一种应用操作引导装置，其特征在于，所述装置包括：
获取模块，用于获取用户操作目标应用的意图信息；
确认模块，用于根据所述意图信息确认所述用户在所述目标应用的操作意图；
识别模块，用于识别所述用户操作所述目标应用所在的当前界面位置；
确定模块，用于根据所述操作意图确定所述目标应用的目标界面位置；
引导模块，用于根据所述当前界面位置和所述目标界面位置生成操作引导结果，返回所述操作引导结果给所述用户。
9.一种电子设备，其特征在于，所述电子设备包括存储器和处理器，所述存储器存储有计算机程序，所述处理器执行所述计算机程序时实现权利要求1至7任一项所述的应用操作引导方法。
10.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1至7中任一项所述的应用操作引导方法。
CN202310720325.6A 2023-06-16 2023-06-16 应用操作引导方法和装置、电子设备及存储介质 Pending CN116680032A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310720325.6A CN116680032A (zh) 2023-06-16 2023-06-16 应用操作引导方法和装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310720325.6A CN116680032A (zh) 2023-06-16 2023-06-16 应用操作引导方法和装置、电子设备及存储介质

Publications (1)

Publication Number Publication Date
CN116680032A true CN116680032A (zh) 2023-09-01

Family

ID=87785294

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310720325.6A Pending CN116680032A (zh) 2023-06-16 2023-06-16 应用操作引导方法和装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN116680032A (zh)

Similar Documents

Publication Publication Date Title
US20210042662A1 (en) Interactive Information Capture and Retrieval with User-Defined and/or Machine Intelligence Augmented Prompts and Prompt Processing
US10726091B2 (en) Dynamic content modifications
WO2019079071A1 (en) INTEGRATION OF EXTERNAL DATA PROCESSING TECHNIQUES IN A CLOUD COLLABORATION PLATFORM
AU2019204285A1 (en) Artificial intelligence (ai) based chatbot creation and communication system
US20150120816A1 (en) Tracking use of content of an online library
US20190334979A1 (en) System and method for providing more appropriate question/answer responses based upon profiles
CN115982376B (zh) 基于文本、多模数据和知识训练模型的方法和装置
WO2021184896A1 (zh) 一种页面截图方法及装置
US20190147029A1 (en) Method and system for generating conversational user interface
CN110704102A (zh) 页面跳转协议接口文档生成方法、系统、介质和电子设备
CN109325173B (zh) 基于ai开放平台的阅读内容个性化推荐方法及系统
CN106528835A (zh) 信息获取方法和装置
WO2023142451A1 (zh) 工作流生成方法、装置、电子设备
CN106471497A (zh) 使用上下文的辅助浏览
CN116992081A (zh) 页面表单的数据处理方法、装置和用户终端
US9298689B2 (en) Multiple template based search function
CN108804448A (zh) 生成待推送信息的方法和装置
US20190227634A1 (en) Contextual gesture-based image searching
US9489360B2 (en) Identifying extra material in companion content
CN114625699A (zh) 对先前呈现的材料的识别和重构
CN113869789A (zh) 一种风险监控的方法、装置、计算机设备及存储介质
CN116595241A (zh) 新媒体信息展示方法、装置、电子设备及计算机可读介质
CN108509442B (zh) 搜索方法和装置、服务器以及计算机可读存储介质
CN112100491A (zh) 基于用户数据的信息推荐方法、装置、设备及存储介质
US20150046443A1 (en) Document-based search with facet information

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination