CN108154197A - 实现虚拟场景中图像标注验证的方法及装置 - Google Patents

实现虚拟场景中图像标注验证的方法及装置 Download PDF

Info

Publication number
CN108154197A
CN108154197A CN201810057572.1A CN201810057572A CN108154197A CN 108154197 A CN108154197 A CN 108154197A CN 201810057572 A CN201810057572 A CN 201810057572A CN 108154197 A CN108154197 A CN 108154197A
Authority
CN
China
Prior art keywords
image
virtual scene
virtual
task
mark
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201810057572.1A
Other languages
English (en)
Other versions
CN108154197B (zh
Inventor
张力柯
何庆玮
艾长青
申俊峰
周大军
荆彦青
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent Technology Shenzhen Co Ltd
Original Assignee
Tencent Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent Technology Shenzhen Co Ltd filed Critical Tencent Technology Shenzhen Co Ltd
Priority to CN201810057572.1A priority Critical patent/CN108154197B/zh
Publication of CN108154197A publication Critical patent/CN108154197A/zh
Application granted granted Critical
Publication of CN108154197B publication Critical patent/CN108154197B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting

Landscapes

  • Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Processing Or Creating Images (AREA)
  • Image Analysis (AREA)

Abstract

本发明涉及了一种实现虚拟场景中图像标注验证的方法及装置,所述实现虚拟场景中图像标注验证的方法,包括:获取标注图像序列,所述标注图像序列包括对虚拟场景中展示图像进行图像标注而生成的标注图像;由所述标注图像中的标签识别得到所述虚拟场景中的控制行为;根据所述控制行为模拟执行由所述标注图像序列描述的虚拟场景流程;通过所述虚拟场景流程的执行生成所述标注图像的验证结果,所述验证结果在所述虚拟场景流程成功执行时指示所述标注图像通过图像标注验证。采用本发明所提供的实现虚拟场景中图像标注验证的方法及装置能够有效地保障标注图像的正确性。

Description

实现虚拟场景中图像标注验证的方法及装置
技术领域
本发明涉及互联网技术领域,尤其涉及一种实现虚拟场景中图像标注验证的方法及装置。
背景技术
随着互联网技术的发展,为用户娱乐设置了各种虚拟任务的虚拟交互平台盛行,例如,设置虚拟物品消除任务的虚拟交互平台、设置虚拟角色对抗任务的虚拟交互平台、设置虚拟角色扮演任务的虚拟交互平台。
在上述虚拟交互平台中,由于虚拟任务的多元化,将相应地形成不同的虚拟场景,进而通过虚拟场景的多元化而向用户提供多元化的虚拟任务。
即使是提供同一虚拟任务的虚拟场景,其中展示的图像也可能相对变化频繁,为保证图像标注的正确性,目前,对虚拟场景中展示图像进行图像标注主要基于人工实现,并将人工标注生成的标注图像作为训练样本进行模型构建和训练,以此验证虚拟交互平台的正确性,进而使得虚拟交互平台更好地服务于用户。
由上可知,标注图像的正确性关乎模型构建和训练的准确度,进而将影响虚拟交互平台的正确性,然而,图像标注的人工实现尚无法有效地保障标注图像的正确性,尤其是在虚拟场景中展示的图像已经发生变化的情况下,如何验证标注图像的正确性亟待解决。
发明内容
为了解决上述技术问题,本发明的一个目的在于提供一种实现虚拟场景中图像标注验证的方法及装置。
其中,本发明所采用的技术方案为:
一种实现虚拟场景中图像标注验证的方法,包括:获取标注图像序列,所述标注图像序列包括对虚拟场景中展示图像进行图像标注而生成的标注图像;由所述标注图像中的标签识别得到所述虚拟场景中的控制行为;根据所述控制行为模拟执行由所述标注图像序列描述的虚拟场景流程;通过所述虚拟场景流程的执行生成所述标注图像的验证结果,所述验证结果在所述虚拟场景流程成功执行时指示所述标注图像通过图像标注验证。
一种实现虚拟场景中图像标注验证的方法,包括:根据触发的标注操作对虚拟场景中展示图像进行图像标注生成标注图像,并将所述标注图像添加至标注图像序列;为所述标注图像序列请求服务端进行图像标注验证,所述图像标注验证包括由所述标注图像中的标签识别得到所述虚拟场景中的控制行为,并根据所述控制行为模拟执行由所述标注图像序列描述的虚拟场景流程;接收所述服务端通过所述虚拟场景流程的执行而返回的验证结果,所述验证结果在所述虚拟场景流程成功执行时指示所述标注图像通过图像标注验证;显示所述验证结果,以在所述标注图像未通过所述图像标注验证时对所述标注图像进行标签修正。
一种实现虚拟场景中图像标注验证的装置,包括:图像获取模块,用于获取标注图像序列,所述标注图像序列包括对虚拟场景中展示图像进行图像标注而生成的标注图像;行为识别模块,用于由所述标注图像中的标签识别得到所述虚拟场景中的控制行为;流程执行模块,用于根据所述控制行为模拟执行由所述标注图像序列描述的虚拟场景流程;结果生成模块,用于通过所述虚拟场景流程的执行生成所述标注图像的验证结果,所述验证结果在所述虚拟场景流程成功执行时指示所述标注图像通过图像标注验证。
一种实现虚拟场景中图像标注验证的装置,包括:根据触发的标注操作对虚拟场景中展示图像进行图像标注,生成标注图像,并将所述标注图像添加至标注图像序列;为所述标注图像序列请求服务端进行图像标注验证,所述图像标注验证包括由所述标注图像中的标签识别得到所述虚拟场景中的控制行为,并根据所述控制行为模拟执行由所述标注图像序列描述的虚拟场景流程;接收所述服务端通过所述虚拟场景流程的执行而返回的验证结果,所述验证结果在所述虚拟场景流程成功执行时指示所述标注图像通过图像标注验证;显示所述验证结果,以在所述标注图像未通过所述图像标注验证时对所述标注图像进行标签修正。
一种实现虚拟场景中图像标注验证的装置,包括处理器及存储器,所述存储器上存储有计算机可读指令,所述计算机可读指令被所述处理器执行时实现如上所述的实现虚拟场景中图像标注验证的方法。
一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如上所述的实现虚拟场景中图像标注验证的方法。
在上述技术方案中,获取包括标注图像的标注图像序列,并对该标注图像中的标签进行虚拟场景中控制行为的识别,以及根据识别得到的控制行为模拟执行由标注图像序列描述的虚拟场景流程,进而通过虚拟场景流程的执行生成该标注图像的验证结果,也就是说,利用标注图像中标签所识别得到的控制行为来模拟虚拟场景中虚拟场景流程的执行,进而根据虚拟场景流程是否成功执行来验证标注图像的正确性,从而解决了现有技术中无法有效保障标注图像正确性的问题,以此实现了虚拟场景中的图像标注验证。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本发明。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本发明的实施例,并于说明书一起用于解释本发明的原理。
图1是根据本发明所涉及的实施环境的示意图。
图2是根据一示例性实施例示出的一种服务端的硬件结构框图。
图3是根据一示例性实施例示出的一种实现虚拟场景中图像标注验证的方法的流程图。
图4是图3对应实施例中步骤330在一个实施例的流程图。
图5是图3对应实施例中步骤330在另一个实施例的流程图。
图6是图3对应实施例中步骤350在一个实施例的流程图。
图7是图3对应实施例中步骤350在另一个实施例的流程图。
图8是根据一示例性实施例示出的另一种实现虚拟场景中图像标注验证的方法的流程图。
图9是根据一示例性实施例示出的另一种实现虚拟场景中图像标注验证的方法的流程图。
图10是一应用场景中一种实现虚拟场景中图像标注验证的方法的具体实现示意图。
图11是一应用场景中标签识别过程的具体实现示意图。
图12是一应用场景中虚拟流程进入开始状态时对应的图像标注的示意图。
图13是一应用场景中虚拟流程处于开始状态时对应的图像标注的另一示意图。
图14是一应用场景中虚拟流程处于开始状态时对应的图像标注的另一示意图。
图15是一应用场景中虚拟流程由开始状态转入结束状态时对应的图像标注的示意图。
图16是一应用场景中以标注图像序列发起验证请求的示意图。
图17是一应用场景中进行标注图像的验证结果显示的示意图。
图18是根据一示例性实施例示出的一种实现虚拟场景中图像标注验证的装置的框图。
图19是图18对应实施例中标签识别模块930在一个实施例的框图。
图20是根据一示例性实施例示出的状态遍历单元1050在一个实施例的框图。
图21是图20对应实施例中状态遍历单元1050在另一个实施例的框图。
图22是图20对应实施例中状态遍历单元1050在另一个实施例的框图。
图23是根据一示例性实施例示出的另一种实现虚拟场景中图像标注验证的装置的框图。
图24是根据一示例性实施例示出的另一种实现虚拟场景中图像标注验证的装置的框图。
通过上述附图,已示出本发明明确的实施例,后文中将有更详细的描述,这些附图和文字描述并不是为了通过任何方式限制本发明构思的范围,而是通过参考特定实施例为本领域技术人员说明本发明的概念。
具体实施方式
这里将详细地对示例性实施例执行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本发明相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本发明的一些方面相一致的装置和方法的例子。
如前所述,图像标注的人工实现尚无法有效地保障标注图像的正确性,这就导致难以获得可靠的训练样本进行图像识别相关的机器学习,进而导致相关的图像识别实现难以在虚拟场景中获得足够稳定性,并最终影响虚拟交互平台的稳定性。
因此,针对虚拟场景中展示图像的变化,如何进行图像标注验证仍亟待解决。
目前,针对非实时的数据标注,提出了一种验证解决方案,即以众包的形式,通过大量外包人员的校验结果对数据标注的正确性进行交叉验证。
所谓的非实时,即是指数据本身比较稳定,并不会频繁地变化,因此,可以在大量外包人员完成校验后再人工收集校验结果进行数据标注的修正,该种验证解决方案更适用于面向学术研究的大型静态数据集。
然而,虚拟场景中图像的相对变化频繁,即使提供同一虚拟任务时也可能展示出相对不同的图像,进而造成不同标注图像的急剧增加,如果仅依赖于人工校验,不仅效率低,而且可靠性也不高。
换而言之,上述验证解决方案并不适用于虚拟场景中的图像标注验证。
为此,本发明特提出了一种实现虚拟场景中图像标注验证的方法,能够有效地保证标注图像的正确性。该实现虚拟场景中图像标注验证的方法由计算机程序实现,与之相对应的,所构建的实现虚拟场景中图像标注验证的装置则适用于架构冯诺依曼体系的电子设备,例如,计算机、服务器等,以此实现虚拟场景中的图像标注验证。
图1为一种实现虚拟场景中图像标注验证的方法所涉及的实施环境的示意图。该实施环境包括用户端100和服务端200。
其中,用户端100可以是台式电脑、笔记本电脑、平板电脑、智能手机、或者能够向用户呈现出虚拟场景的其他电子设备,在此不进行限定。
用户端100与服务端200之间可以建立有线或者无线网络连接,由此,用户端100与服务端200之间便能够基于该网络连接进行数据传输。
对于用户端100而言,可以在其自身所提供的操作系统中安装部署虚拟交互平台,以通过虚拟交互平台的启动运行为用户呈现相应的虚拟场景,或者,虚拟交互平台被安装部署于服务端200,用户端100则通过与服务端200之间的网络连接,接入虚拟交互平台以此来向用户呈现相应的虚拟场景。其中,虚拟交互平台可以是应用程序客户端,也可以是网页客户端,在此不进行限定。
在对虚拟场景中展示的图像进行图像标注生成标注图像之后,用户端100便能够将向服务端200请求进行虚拟场景中的图像标注验证,进而接收服务端200返回的标注图像的验证结果,以便于根据验证结果指示的标注图像未通过图像标注验证而对标注图像进行修改。
对于服务端200而言,可以处理海量用户端所发起的请求,进而响应于请求而分别向海量用户端反馈标注图像的验证结果,以此指示用户端所请求验证的标注图像是否通过图像标注验证。
根据实际的运营需要,服务端200可以是一台服务器,也可以是由多台服务器构成的服务器集群、云计算中心等等,在此不加以限定。
图2是根据一示例性实施例示出的一种服务端的硬件结构框图。需要说明的是,该服务端只是一个适配于本发明的示例,不能认为是提供了对本发明的使用范围的任何限制。该服务端也不能解释为需要依赖于或者必须具有图2中示出的示例性的服务端200中的一个或者多个组件。
该服务端200的硬件结构可因配置或者性能的不同而产生较大的差异,如图2所示,服务端200包括:电源210、接口230、至少一存储器250、以及至少一中央处理器(CPU,Central Processing Units)270。
其中,电源210用于为服务端200上的各硬件设备提供工作电压。
接口230包括至少一有线或无线网络接口231、至少一串并转换接口233、至少一输入输出接口235以及至少一USB接口237等,用于与外部设备通信。
存储器250作为资源存储的载体,可以是只读存储器、随机存储器、磁盘或者光盘等,其上所存储的资源包括操作系统251、应用程序253及数据255等,存储方式可以是短暂存储或者永久存储。其中,操作系统251用于管理与控制服务端200上的各硬件设备以及应用程序253,以实现中央处理器270对海量数据255的计算与处理,其可以是WindowsServerTM、Mac OS XTM、UnixTM、LinuxTM、FreeBSDTM等。应用程序253是基于操作系统251之上完成至少一项特定工作的计算机程序,其可以包括至少一模块(图2中未示出),每个模块都可以分别包含有对服务端200的一系列计算机可读指令。数据255可以是存储于磁盘中的照片、图片等。
中央处理器270可以包括一个或多个以上的处理器,并设置为通过总线与存储器250通信,用于运算与处理存储器250中的海量数据255。
如上面所详细描述的,适用本发明的服务端200将通过中央处理器270读取存储器250中存储的一系列计算机可读指令的形式来实现虚拟场景中图像标注验证的方法。
此外,通过硬件电路或者硬件电路结合软件也能同样实现本发明,因此,实现本发明并不限于任何特定硬件电路、软件以及两者的组合。
请参阅图3,在一示例性实施例中,一种实现虚拟场景中图像标注验证的方法适用于图1所示实施环境的服务端200,该服务端200的结构可以如图2所示。
该种实现虚拟场景中图像标注验证的方法可以由服务端200执行,可以包括以下步骤:
步骤310,获取标注图像序列。
其中,标注图像序列包括对虚拟场景中展示图像进行图像标注而生成的标注图像。
标注图像,即携带了标签的图像,也可以理解为,在虚拟场景展示的图像中,对指定内容所在图像区域加以特殊标记进行标识而形成的。其中,标签是指被特殊标记标识的指定内容,特殊标记则可以是方框标记,还可以是圆形标记,或者文字标记等等,此处不加以限定。
举例来说,在提供虚拟角色对抗任务的虚拟场景中,指定内容为虚拟角色的生命值,特殊标记为方框标记,因此,图像标注,即是指对图像中虚拟角色的生命值所在图像区域添加方框标记,相应地,标注图像,即是虚拟角色的生命值处被标识了方框标记的图像,被标识了方框标记的虚拟角色的生命值即视为标注图像所携带的标签。
又或者,在提供虚拟角色扮演任务的虚拟场景中,该虚拟角色扮演任务包括任务启动步骤、角色选择步骤、角色扮演步骤、任务结束步骤等任务步骤,指定内容则是用于区别该虚拟角色扮演任务中不同任务步骤的关键字,例如,“任务结束”,特殊标记为圆形标记。因此,图像标注,即是指在虚拟角色扮演任务中不同任务步骤被执行时,为图像中被执行任务步骤的关键字所在图像区域添加圆形标记,相应地,标注图像,即是被执行任务步骤的关键字处被标识了圆形标记的图像,被标识了圆形标记的被执行任务步骤的关键字即视为标注图像中的标签。
标注图像可以来源于用户端对原始图像进行图像标注所生成的标注图像,也可以是服务端中预先存储的标注图像。
需要说明的是,即使是提供同一虚拟任务的虚拟场景中也可能展示出不同的图像,但也可能存在所展示图像未发生变化的情况,为此,服务端中标注图像的预先存储,是针对一历史时间段内用户端上报的标注图像所进行的,以此避免对虚拟场景中所展示的相同图像进行了重复的图像标注,不仅降低了人力成本,提高了图像标注验证的重用率,而且有利于提高图像标注验证的验证效率。
此处,有必要对进行图像标注的原始图像加以说明。
首先说明的是,虚拟场景所提供的虚拟任务,包括若干任务步骤,不同任务步骤可能对应于虚拟场景中展示出的相同图像,也可能对应于虚拟场景中展示出的不同图像,为此,当虚拟任务中的任务步骤被顺序执行,虚拟场景中将进行图像的连续展示,以此完成由虚拟场景所提供的虚拟任务。
针对虚拟场景中连续展示的图像,进行图像标注的原始图像可以是动态图像,例如包含多帧图像的视频,也可以是静态图像,例如包含一帧图像的图片,也就是说,进行图像标注的原始图像,并未限定其所包含的图像帧数。
原始图像可以是用户端预先录制的一段视频,也可以是用户端实时接收到的一组图像,在此不进行限定。
举例来说,在虚拟交互平台启动运行于用户端之后,对虚拟场景中连续展示的图像进行录制,形成包含多帧图像的视频,以此作为原始图像,以便于后续通过视频回放进行图像标注,以此来保证图像标注的正确性。
或者,随着安装部署于服务端的虚拟交互平台的接入,用户端将实时接收到服务端在线传输的图像,并在虚拟场景中进行在线传输图像的连续展示,此时,用户端以接收到的图像作为原始图像进行图像标注,以此避免图像录制。
应当说明的是,由于原始图像可以是包含多帧图像的视频,还可以是包含单帧图像的图片,因此,在对原始图像进行图像标注时,是以帧为单位进行的,即对原始图像中的每一帧图像进行图像标注以生成标注图像。
进一步说明的是,无论原始图像可以生成多少帧标注图像,在时间上该些标注图像是连续的,即是以虚拟场景连续展示的图像作为原始图像生成的。相应地,标注图像序列包含的标注图像也是时间上连续的。
就用户端来说,在获得包括标注图像的标注图像序列之后,便能够为该标注图像序列向服务端发起验证请求,以请求服务端对该标注图像序列中的标注图像进行图像标注验证。
相应地,服务端接收到该验证请求之后,便能够由标注图像序列中获取到待进行图像标注验证的标注图像。
步骤330,由标注图像中的标签识别得到虚拟场景中的控制行为。
虚拟场景,是针对虚拟交互平台所设置的虚拟任务而形成的,进而通过不同的虚拟场景来向用户提供多元化的虚拟任务。例如,提供虚拟物品消除任务的虚拟场景、提供虚拟角色对抗任务的虚拟场景、提供虚拟角色扮演任务的虚拟场景。
为此,控制行为,指的是在虚拟场景中控制虚拟任务所包含任务步骤被执行的操作。
具体地,虚拟场景中,为用户完成虚拟任务提供了入口,当用户在该入口触发了相应的操作时,用户端将按照被触发的操作执行虚拟任务中的相关任务步骤。入口针对用户端所配置的各种输入装置而言,例如,入口可以是键盘的按键,还可以是触控屏中的触控点,或者游戏手柄的按钮等,在此不进行限定。
举例来说,在提供虚拟物品消除任务的虚拟场景中,该虚拟物品消除任务包括多个虚拟物品消除步骤。当用户为了消除虚拟物品,在其携带的智能手机所配置的触控屏中针对待消除的虚拟物品触发了一次点击操作,以此消除了该虚拟物品,进而执行了该虚拟物品消除任务中的一个虚拟物品消除步骤。相应地,触控屏中的触控点即为虚拟场景中为用户完成虚拟物品消除任务所提供的入口,而在该入口触发的点击操作即视为虚拟场景中的控制行为。
应当理解,虚拟场景所连续展示的图像变化中,有些图像变化与虚拟任务中被执行的任务步骤无关,而有些图像变化则与虚拟任务中被执行的任务步骤密切相关。例如,若待执行的任务步骤是任务开始步骤,当用户触发的操作执行了任务开始步骤,则图像中显示“任务开始”;若待执行的任务步骤是任务结束步骤,当用户触发的操作执行了任务结束步骤,则图像中显示“任务结束”,此时,虚拟场景中的图像变化即反映了不同任务步骤的执行。
为此,本实施例中,图像标注是针对与虚拟任务中被执行任务步骤相关的图像变化进行的,例如,在图像中显示“任务开始”时,对“任务开始”进行图像标记,以此形成开始标签,当图像中的显示变化为“任务结束”时,对“任务结束”进行图像标记,则形成结束标签。由此,通过标注图像中的标签便能够反映出任务步骤的执行,进而表示控制任务步骤被执行的操作,即控制行为。
换而言之,标注图像中的标签实现了对控制行为的准确描述,进而以图像数据的形式唯一地标识控制行为。应当理解,如果虚拟任务中待执行的任务步骤不同,则控制虚拟任务中任务步骤被执行的操作将有所区别,即控制行为不同,进而使得标注图像中的标签各不相同。
基于此,对于服务端而言,在由标注图像序列中获得标注图像之后,便能够根据标注图像中的标签识别得到虚拟场景中的控制行为。
进一步地,如前所述,标注图像序列所包含的标注图像在时间上是连续的,由此,对时间上连续的标注图像中标签进行虚拟场景中控制行为的识别,将获得虚拟场景中连续的控制行为,以利于后续根据该连续的控制行为在服务端中模拟虚拟任务中任务步骤的顺序执行。
步骤350,根据控制行为模拟执行由标注图像序列描述的虚拟场景流程。
虚拟场景流程,是指虚拟任务中任务步骤顺序执行的过程,也可以理解为,虚拟场景流程包括虚拟场景所提供虚拟任务中可顺序执行的任务步骤。
其中,虚拟场景流程可以是包括虚拟任务中的所有任务步骤,以此完成对所有任务步骤的遍历,进而充分地保障图像标注验证的完整性;也可以仅包括虚拟任务中的关键任务步骤,例如,虚拟物品消除任务中的虚拟物品消除步骤,以此来提高图像标注验证的验证效率。
进一步地,虚拟场景流程由标注图像序列描述,指的是虚拟场景流程所包括的任务步骤随着标注图像序列中标注图像的变化而变化。也就是说,虚拟场景流程所包括的任务步骤取决于标注图像序列,亦即进一步地取决于原始图像。例如,原始图像是用户端预先录制的虚拟场景中完成虚拟任务的一段完整视频,相应地,标注图像序列包括时间上连续的若干标注图像,则虚拟场景流程包括该虚拟任务中的所有任务步骤。
就提供虚拟物品消除任务的虚拟场景来说,首先用户端响应用户触发的加载操作,在虚拟场景中加载虚拟物品消除任务列表,待虚拟物品消除任务列表完成加载,根据用户触发的选择操作从虚拟物品消除任务列表中选择一个待完成的虚拟物品消除任务,进而响应于用户连续触发的多次消除操作执行多个虚拟物品消除步骤,以实现虚拟物品的消除,从而完成所选择的虚拟物品消除任务,最终根据用户触发的退出操作退出该虚拟物品消除任务。
基于此,对于服务端而言,识别得到的控制行为包括:加载操作、选择操作、消除操作和退出操作,相应地,根据上述操作所模拟执行的虚拟场景流程,即反映了上述虚拟场景所提供虚拟物品消除任务中任务步骤顺序执行的完整过程。
更进一步地,虚拟任务按照任务步骤进行任务状态划分。当虚拟场景流程进入不同任务状态时,将根据所进入任务状态的指定来执行虚拟任务中不同的任务步骤。
仍以上述提供虚拟物品消除任务的虚拟场景为例进行说明,虚拟物品消除任务包括任务列表加载步骤、任务选择步骤、虚拟物品消除步骤和任务退出步骤,相应地,虚拟物品消除任务包括启动状态、选择状态、开始状态和结束状态。
也就是说,对于虚拟物品消除任务而言,当虚拟场景流程进入启动状态时,待执行的任务步骤为任务列表加载步骤,当虚拟场景流程进入选择状态时,待执行的任务步骤为任务选择步骤,当虚拟场景流程进入开始状态时,待执行的任务步骤为虚拟物品消除步骤,当虚拟场景流程进入结束状态时,待执行的任务步骤为任务退出步骤。
换而言之,在一实施例中,虚拟场景流程的模拟执行是按照识别得到的控制行为控制进行虚拟任务中任务状态的遍历,进而按照遍历的任务状态执行所指定的任务步骤,即对虚拟任务中的所有任务步骤进行遍历,从而保证了图像标注验证的完整性,为图像标注验证的正确性提供了充分地保障。
步骤370,通过虚拟场景流程的执行生成标注图像的验证结果。
其中,验证结果,指示了标注图像是否通过图像标注验证。
如果虚拟场景流程成功执行,即虚拟任务中任务步骤执行成功,则验证结果指示标注图像通过图像标注验证,反之,如果虚拟场景流程执行失败,即虚拟任务中任务步骤执行失败,则验证结果指示标注图像未通过图像标注验证。
也可以理解为,因为标注图像中包含了标注错误的标签,使得由该标签识别得到的控制行为有误,而造成虚拟任务中任务步骤执行失败,进而导致了虚拟场景流程的执行失败。
服务端在生成验证结果之后,便能够向用户端反馈其所请求验证的标注图像的验证结果。
对于用户端而言,在接收到服务端通过虚拟场景流程的执行而返回的验证结果之后,便能够进行验证结果的显示,进而根据显示的验证结果对标注图像进行相应的处理。例如,在显示的验证结果指示标注图像通过图像标注验证时,存储标注图像,以供后续模型构建和训练时使用,或者,在显示的验证结果指示标注图像未通过图像标注验证时,对标注图像进行标签修正。
当然,验证结果的显示方式还可以根据实际需求灵活地调整,例如,仅当验证结果指示标注图像未通过图像标注验证时显示验证结果,或者,根据用户触发的显示操作显示验证结果。
进一步地,显示时,可以显示全部标注图像的验证结果,也可以仅显示未通过图像标注验证的标注图像的验证结果,在此不进行限定。
通过如上所述的过程,实现了对标注图像正确性的验证,即利用标注图像中标签所识别得到的控制行为来模拟虚拟场景中虚拟场景流程的执行,由此,无论虚拟场景中图像发生了何种变化,只要标注图像能够促使虚拟场景流程成功执行,则证明该标注图像正确,以此有效地保证了图像标注的正确性,有利于提高模型构建和训练的准确性,进而有利于提高虚拟交互平台的正确性。
请参阅图4,在一示例性实施例中,步骤330可以包括以下步骤:
步骤331,检测标注图像在虚拟场景中的相对变化程度。
相对变化程度,针对发生变化的虚拟场景而言,描述的是标注图像随着虚拟场景所发生变化而变化的可能性。例如,用户端对虚拟交互平台重新安装部署,或者,用户端所接入的虚拟交互平台在服务端中进行了更新,均可能造成虚拟场景发生变化。
如果标注图像随着虚拟场景变化而发生变化的可能性较小,则视为该标注图像在虚拟场景中的相对变化稳定,反之,如果标注图像随着虚拟场景变化而发生变化的可能性较大,则视为该标注图像在虚拟场景中的相对变化频繁。
如前所述,虚拟任务可以包括若干任务状态,任务状态可以是启动状态、选择状态、开始状态、结束状态等等。其中,启动状态用于虚拟任务加载,例如,以任务列表的形式加载若干虚拟任务,选择状态用于虚拟任务选择,开始状态则用于虚拟任务完成,而结束状态用于虚拟任务退出。
当然,随着虚拟场景所提供虚拟任务的不同,各任务状态所实现的功能也会相应地有所变化,例如,提供虚拟角色对抗任务的虚拟场景中,选择状态还用于虚拟角色选择、虚拟装备选择等,结束状态也可用于虚拟场景退出等。
针对不同任务状态,虚拟场景中展示图像随着虚拟场景所发生变化而变化的可能性将有所区别。例如,对启动状态和选择状态而言,除非任务列表中的虚拟任务发生了变化,否则虚拟场景中展示的图像基本不变,即相对变化稳定。而就开始状态来说,只要虚拟任务中任意一个任务步骤发生了变化,虚拟场景中展示的图像都可能发生相应的变化,即相对变化频繁。
基于上述,本实施例中,相对变化程度的检测是通过虚拟场景流程是否进入开始状态进行的。即,以虚拟场景流程是否进入开始状态为分界节点,相对变化程度的检测结果指示标注图像在虚拟场景中的相对变化稳定或者相对变化频繁。
具体地,开始标签是用于指示控制虚拟场景流程进入开始状态的标签。也可以理解为,如果标注图像包含开始标签,则由开始标签识别得到的控制行为将控制虚拟场景流程进入开始状态。
由此,在标注图像所包含标签中进行开始标签查找,如果标注图像所包含标签中未查找到开始标签,即确认虚拟场景流程尚未进入开始状态,则相对变化程度的检测结果指示标注图像在虚拟场景中的相对变化稳定,进而跳转执行步骤333,利用存储标签完成标注图像中标签的识别。
反之,如果标注图像所包含标签中查找到开始标签,即确认虚拟场景流程已进入开始状态,则相对变化程度的检测结果指示标注图像在虚拟场景中的相对变化频繁,进而跳转执行步骤337,利用随机学习模型来识别标注图像中的标签。
步骤333,进行标注图像中标签与存储标签之间的匹配,得到匹配度最高的存储标签。
应当理解,基于虚拟场景所展示出的相对变化稳定的图像,无论进行多少次图像标注,所生成的标注图像及其携带的标签也基本不变。
存储标签,是通过图像标注验证的标注图像中的标签,而该标注图像则是针对虚拟场景所展示出的相对变化稳定的图像进行图像标注生成的。
由此,在虚拟场景流程未进入开始状态时,便能够通过存储标签与标注图像中标签进行匹配,获得匹配度最高的存储标签,进而得到关联的控制行为。
其中,匹配度表示标注图像中标签与存储标签的相似程度,可以根据实际的应用场景灵活地调整,例如,匹配度为99%。
步骤335,对匹配度最高的存储标签进行行为关联,得到控制行为。
需要说明的是,不论是存储标签,还是关联存储标签与对应的控制行为均是预先进行的,即是在此之前的图像标注验证中完成的。
例如,在此之前进行的图像标注验证中,如果验证结果指示标注图像通过了图像标注验证,则存储该标注图像中的标签,形成存储标签,并且对应存储由该存储标签识别得到的控制行为,进而建立了该存储标签与控制行为之间的关联。
由此,通过行为关联即可得到与匹配度最高的存储标签相应的控制行为。
当然,如果标注图像中的标签未能得到匹配度最高的存储标签,即表示该标注图像中的标签标注有误,则该标注图像未通过图像标注验证。
进一步地,如图4所示,在一示例性实施例中,步骤330还可以包括以下步骤:
步骤337,调用随机学习模型对标注图像中的标签进行学习,得到控制行为。
随机学习模型,是采用指定模型所描述的数学结构来表示标注图像。由于标注图像是携带了标签的图像,而标签又是对控制行为的准确描述,故而,随机学习模型,实质上是在图像与控制行为之间初步建立了映射关系。应当说明的是,初步建立,是指随机学习模型并未进行训练,从而并未使得映射关系达到最优,适用于后端先验,即图像标注验证中的标签学习。
基于图像与控制行为之间的映射关系,如果标注图像与映射关系中某个图像极为相似甚至一致,则与该某个图像具有映射关系的控制行为,即视为该标注图像中标签所识别得到的控制行为,由此便完成了标注图像中标签的学习。
其中,指定模型包括但不限于:运用了DQN算法、A3C算法、或者Unreal算法中任意一种算法的增强学习模型。
在上述实施例的作用下,针对虚拟场景中展示图像的相对变化程度,实现了不同的标签识别方式,在标注图像的相对变化稳定时采用高效的标签匹配方式,而在标注图像的相对变化频繁时则使用更精准的标签学习方式,从而有利于提高图像标注验证的验证效率和准确率。
当然,在另一实施例的具体实现中,如图5所示,标注图像中的标签也可以不必针对标注图像在虚拟场景中的相对变化程度而进行不同的控制行为识别。
具体地,步骤333,进行标注图像中标签与存储标签之间的匹配,得到匹配度最高的存储标签。
可以理解,因为不再确认标注图像在虚拟场景中的相对变化程度,故而无法判断标注图像在虚拟场景中的相对变化是否频繁,如果标注图像在虚拟场景中发生了频繁的相对变化,则匹配得到的存储标签将不能够真实地代表标注图像中的标签,因此,跳转执行步骤339,判断该匹配度最高的存储标签的匹配度是否达到匹配阈值(例如99%)。
如果达到,则跳转执行步骤335,对匹配度最高的存储标签进行行为关联,得到控制行为。
反之,如果未达到,则跳转执行步骤337,调用随机学习模型对标注图像中的标签进行学习,得到控制行为。
在上述过程中,扩展了标签识别的通用性和可靠性,有利于保障图像标注验证的准确性。
在一示例性实施例中,步骤350可以包括以下步骤:
按照控制行为控制虚拟场景流程进行虚拟任务中任务状态的遍历,按照遍历的任务状态执行任务状态指定的任务步骤。
如前所述,虚拟任务将按照任务步骤的不同进行任务状态划分,也可以理解为,当虚拟场景流程进入不同任务状态时,将根据所进入任务状态的指定来执行不同的任务步骤。
为此,对于同一虚拟任务而言,任务状态的遍历,即是对该虚拟任务中所有任务步骤进行遍历,相应地,虚拟场景流程包括了虚拟任务中可顺序执行的所有任务步骤。
具体地,虚拟任务包括开始状态和结束状态,相应地,如图6所示,任务状态的遍历过程可以包括以下步骤:
步骤410,控制虚拟场景流程进入开始状态,并确认控制行为对应的场景动作。
如前所述,控制行为是控制虚拟任务中任务步骤被执行的操作,即控制行为是现实场景中输入装置被触发所产生的操作,而场景动作,对应于控制行为,则是用于描述虚拟场景中的虚拟行为。
例如,虚拟场景所提供的虚拟角色对抗任务中,控制行为可以是玩家利用触控屏操控虚拟角色对抗虚拟目标而触发进行的点击操作,而场景动作则是指虚拟场景中虚拟角色为对抗虚拟目标所实施的虚拟行为,例如,虚拟行为包括但不限于:利用虚拟装备对虚拟目标所实施的目标射击,或者,对虚拟目标所实施的追踪,譬如跑跳动作等。
应当说明的是,控制行为与场景动作之间的对应,是在虚拟交互平台安装部署时预先设置的,即随着虚拟交互平台的安装部署,在获知控制任务步骤被执行的控制行为之后,便能够确认其所对应的场景动作。
步骤430,进行场景动作的渲染,通过场景动作的渲染执行开始状态指定的任务步骤。
场景动作的渲染,是指进行虚拟场景中场景动作与服务端所展示图像之间的映射,即在服务端所展示图像中显示场景动作。
由此,在服务端中进行场景动作的渲染,即认为该场景动作所对应的控制行为被触发进行,进而使得虚拟任务中的任务步骤被模拟执行。
可以理解,虚拟场景流程在开始状态与结束状态之间切换往往受控于若干操作的触发。例如,虚拟物品消除任务中,虚拟场景流程进入开始状态之后,虚拟物品的消除,需要用户连续触发多次的消除操作,又或者,虚拟角色对抗任务中,在玩家所操控的虚拟角色消灭了若干虚拟目标之后,才视为对抗虚拟目标胜利,使得虚拟场景流程由开始状态切换至结束状态。
因此,随着一系列场景动作的渲染,连续的控制行为被触发进行,则服务端中将模拟开始状态所指定的任务步骤顺序执行,直至开始状态指定的任务步骤全部执行完毕,控制虚拟场景流程由开始状态转入结束状态。
步骤450,待开始状态指定的任务步骤执行完毕,控制虚拟场景流程由开始状态转入结束状态。
步骤470,通过执行结束状态指定的任务步骤完成虚拟场景流程的模拟执行。
也就是说,当结束状态指定的任务步骤执行完毕时,虚拟场景流程的模拟执行相应地完成。
通过上述过程,完成了虚拟场景流程在开始状态与结束状态之间的遍历,进而使得虚拟任务中关键步骤被遍历,充分地保障了一些重要的标注图像的正确性,有利于提高图像标注验证的验证效率。
请参阅图7,在一示例性实施例中,任务状态的遍历过程还可以包括以下步骤:
步骤510,获取激励配置参数,并根据激励配置参数计算场景动作对应的激励值。
可以理解,对于同一任务步骤而言,可以由不同的控制行为来执行,即被不同的操作所执行,为此,虚拟交互平台将为不同的操作设置不同的激励措施,以此来增加虚拟任务完成的趣味性。
基于此,针对不同控制行为的触发进行,不同的场景动作便能够获得不同的激励值。例如,虚拟角色对抗任务中,对同一虚拟目标实施的目标射击中,一击即中的激励值要高于多击才中的激励值。
其中,激励配置参数,在虚拟交互平台被安装部署时预先设置,并且在虚拟任务进行前,可以根据实际需求灵活地进行调整,在此不加以限定。例如,激励配置参数包括但不限于:启动状态中的激励值、开始状态中的最大激励值和最小激励值、结束状态中的激励值等等。
进一步地,根据虚拟任务的不同,激励配置参数也可以灵活增加。例如,虚拟角色对抗任务中,激励配置参数还包括但不限于:虚拟角色的生命值减少时的最大激励值和最小激励值、虚拟目标的生命值减少时的最大激励值和最小激励值、对抗虚拟目标胜利时的激励值、对抗虚拟目标失败时的激励值等等。
步骤530,根据激励值进行状态参数更新,通过状态参数更新确认开始状态指定的任务步骤是否成功执行。
本实施例中,状态参数更新按照公式(1)实施,公式(1)如下:
Q(s,a)=r+R(max(Q(s’,a’))) (1)。
其中,Q(s,a)表示状态参数,即当前任务状态的激励值,s表示当前任务状态,a表示当前任务状态中的当前场景动作,r表示当前任务状态s中当前场景动作a所对应的实际激励值,s’表示后续的某个任务状态,a’表示后续某个任务状态中的某个场景动作,Q(s’,a’)表示后续某个任务状态s’的激励值,R表示后续所有任务状态的所有场景动作所对应激励值中的最大预估激励值。
应当说明的是,在图像标注验证中,由于调用的是随机学习模型,因此,公式(1)中的R是随机值,而并非经过训练的最优值。
由此,在开始状态中,基于任一场景动作所对应的激励值,都能够按照上述公式(1)进行状态参数的更新。
换而言之,如果状态参数按照上述公式(1)被更新,则表示该公式(1)运算正确,进而证明了场景动作的正确性,亦即反映了开始状态指定的任务步骤能够成功执行。
在上述实施例的配合下,为图像标注验证的正确性提供了进一步地参考依据,从而充分地保证了后续图像标注验证的正确性。
进一步地,在一示例性实施例中,虚拟任务还包括启动状态和选择状态。
任务状态的遍历过程还可以包括以下步骤:
根据控制行为控制虚拟场景流程依次进入启动状态和选择状态,以顺序执行启动状态和选择状态分别指定的任务步骤。
待选择状态指定的任务步骤执行完毕,跳转执行步骤410,即控制虚拟场景流程进入开始状态。
也就是说,虚拟场景流程依照启动状态、选择状态、开始状态、结束状态的顺序逐步进入,进而使得各任务状态所指定的任务步骤被顺序执行,以最终完成虚拟任务的完整过程。
通过上述过程,基于虚拟场景流程在开始状态和结束状态之间的遍历,进一步地完成了虚拟场景流程由启动状态到选择状态的遍历,使得虚拟任务中所有步骤得以遍历,充分地保证了图像标注验证的完整性,为后续验证虚拟交互平台的正确性提供了有利保障。
请参阅图8,在一示例性实施例中,如上所述的方法还可以包括以下步骤:
步骤610,获取训练样本。
其中,训练样本是验证结果指示通过了图像标注验证的被标注图像。
也就是说,在开始模型训练之前,由于对作为训练样本的被标注图像已经进行了后端先验,即被标注图像是通过了图像标注验证的,由此,充分地保障了所提供的训练样本能够准确无误地支持模型训练的完整过程,进而有利于保证模型训练的准确性。
步骤630,根据获取到的训练样本进行模型构建。
本实施例中,模型构建是借助指定模型所描述的数学结构来反映训练样本与样本标签之间的映射关系,亦即图像与控制行为之间的映射关系。
也就是说,模型构建将基于训练样本初步建立图像与控制行为之间的映射关系,以便于后续针对所构建模型进行模型训练,使得图像与控制行为之间的映射关系达到最优。
步骤650,对所构建模型的训练参数进行迭代优化,得到人工智能学习模型,通过人工智能学习模型进行虚拟场景学习。
本实施例中,模型训练是指对所构建模型的训练参数进行迭代优化,以使图像与控制行为之间的映射关系最优。此处,所构建模型即为未经过训练的随机学习模型,相应地,训练参数即为上述公式(1)中的R。
首先,对所构建模型的训练参数进行随机初始化,然后针对随机初始化的训练参数进行迭代优化。
当映射关系未达到最优时,则以优化后的训练参数进行训练参数的更新,并基于更新的训练参数继续迭代优化的过程。
当映射关系达到最优时,即视为优化后的训练参数使得模型收敛,而收敛的模型即为人工智能学习模型,进而便能够基于该人工智能学习模型对虚拟场景进行学习,以此来验证虚拟交互平台。
在上述实施例的作用下,实现了对虚拟场景的学习,以此提高了对未知控制行为的预测能力,从而有利于保障虚拟交互平台的正确性。
此外,基于后端先验,即对作为训练样本的标注图像提前进行图像标注验证,充分保证了所获得的训练样本的可靠性,并以此进行图像识别相关的机器学习,有利于模型训练得到准确无误的支持,进而使得相关的图像识别实现能够在虚拟场景中获得足够的稳定性,并最终保证虚拟交互平台的稳定性。
请参阅图9,在一示例性实施例中,一种实现虚拟场景中图像标注验证的方法适用于图1所示实施环境的用户端100,可以包括以下步骤:
步骤710,根据触发的标注操作对虚拟场景中展示图像进行图像标注生成标注图像,并将标注图像添加至标注图像序列。
步骤730,为标注图像序列请求服务端进行图像标注验证。
其中,图像标注验证包括由标注图像中的标签识别得到虚拟场景中的控制行为,并根据控制行为模拟执行由标注图像序列描述的虚拟场景流程。
步骤750,接收服务端通过虚拟场景流程的执行而返回的验证结果,验证结果在虚拟场景流程成功执行时指示标注图像通过图像标注验证。
步骤770,显示验证结果,以在标注图像未通过图像标注验证时对标注图像进行标签修正。
下面结合具体的应用场景对实现虚拟场景中图像标注验证的方法加以说明。
图10是一应用场景中一种实现虚拟场景中图像标注验证的方法的具体实现示意图。
该应用场景中,虚拟场景提供虚拟角色对抗任务,实现虚拟场景中图像标注验证的方法适用于服务端200,该服务端200包括网络服务器201、分发服务器202、训练服务器203和验证服务器204。
其中,网络服务器201负责接收海量用户端100发起的任务请求,并存储形成任务列表,进而再将任务请求转发至分发服务器202进行请求分发。任务请求可以是为验证虚拟场景中图像标注而发起的验证请求,还可以是进行虚拟场景学习的训练请求。
由此,分发服务器202在接收到网络服务器201转发的任务请求之后,便按照任务请求的指示进行分发,将验证请求发送至验证服务器204,而将训练请求发送至训练服务器203。
验证服务器204响应于验证请求,对用户端请求验证的标注图像进行图像标注验证,包括:根据标注图像中的标签进行虚拟场景中控制行为的识别、以及根据识别得到的控制行为模拟执行虚拟场景流程,以在虚拟场景流程成功执行时生成指示该标注图像通过图像标注验证的验证结果,进而反馈至用户端100。
关于标签识别过程,如图11所示,在用户端中触发进行了操作801时,对虚拟场景中展示图像进行图像标注生成标注图像(该标注图像中的标签与操作801有关),并上传至服务端200。服务端200将依据该标注图像在虚拟场景中的相对变化程度分别执行两种不同的标签识别方式:当标注图像在虚拟场景中的相对变化稳定时,利用存储标签803进行标签匹配802;当标注图像在虚拟场景中的相对变化频繁时,利用随机学习模型805进行标签学习804,由此得到控制行为,进而反馈至用户端100。
进一步地,关于标注图像生成过程,图12至图15是一应用场景中虚拟流程被控制进行任务状态遍历时的图像标注的示意图。
首先说明的是,标注图像中的标签被划分为三大类:界面标签、激励标签和动作标签。
界面标签与虚拟场景所展示图像中布局的界面元素有关,应当理解,界面标签所描述的界面元素随着虚拟场景所发生变化而变化的可能性较小,属于相对变化稳定的特殊图像。界面标签包括但不限于:启动标签、选择标签、开始标签、结束标签、胜利标签、失败标签等等。如图12所示,虚拟流程进入开始状态时,对界面元素“任务开始”806进行图像标注时,相应地将其定义为界面标签中的开始标签806’,由此形成包含开始标签806’的标注图像8091。如图15所示,当虚拟目标被虚拟角色击败,此时虚拟角色对抗虚拟目标胜利,虚拟流程转入结束状态,相应的界面元素806将在虚拟场景中显示,为此,标注图像8094中包含了结束标签806’和胜利标签806’。
激励标签与虚拟场景所展示图像中显示出的激励值、重复次数(例如连接次数)有关。如图13所示,在提供虚拟角色对抗任务的虚拟场景中,虚拟角色的生命值807即视为激励值,在对其进行图像标注时,相应地将其定义为激励标签中的激励值标签807’,由此形成包含激励值标签807’的标注图像8092。同理,在标注图像8093、8094中均包含激励值标签807’,如图14至图15所示。
动作标签与虚拟场景所展示图像中显示出的场景动作有关,实质上描述的是与该场景动作对应的控制行为。如图13所示,虚拟角色进行跑动进攻的场景动作808时,虚拟场景中将显示出与该场景动作808相关的表达,例如,文字表达,在对其进行图像标注时,相应地将其定义为动作标签中的滑动标签808’,由此形成了还包含有滑动标签808’的标注图像8092。同理,标注图像8093、8094中均还包含有动作标签,譬如按住标签808’、点击标签808’,如图14至图15所示。
在生成上述标注图像之后,便能够将该些标注图像添加至标注图像序列809,并以此向服务端200发起验证请求,如图16所示。
对于服务端而言,将根据标注图像序列809中标注图像8091、8092、8093、8094所包含的界面标签、激励标签、动作标签分别进行虚拟场景中的控制行为识别,并以此模拟执行虚拟场景流程,包括进入开始状态、执行若干虚拟角色对抗步骤(跑动进攻、踢、打)、在对抗胜利时转入结束状态,由此,生成各标注图像的验证结果,并返回至用户端100。
用户端侧,如图17所示,即可在线查看显示的验证结果集合810,以此对未通过图像标注验证的标注图像进行标签修正。例如,标注图像8092的验证结果8092’指示标注图像8092未通过图像标注验证,对该标注图像8092中标签修改后即可在此发起验证请求。
训练服务器203响应于训练请求,获取训练相关的数据,例如,待学习的虚拟场景及相应的训练样本,该训练样本是由该虚拟场景中展示图像进行图像标注而生成的标注图像且通过了图像标注验证的,并根据获得的数据进行模型构建和训练,以此生成进行虚拟场景学习的人工智能学习模型,进而实现虚拟交互平台的验证。
在本应用场景中,实现了虚拟场景中图像标注的快速验证,避免人工实现校验,有利于降低对验证人员的要求,进而降低人力成本,还有利于提高图像标注验证的验证效率和可靠性。
此外,将验证任务和训练任务分开处理,不仅利用验证服务器等低端服务器即可保证图像标注验证的可靠性,进而为模型训练提供正确的训练样本,以此充分地保障模型训练的正确性,而且有利于减少对训练服务器等高端服务器的占用,有效地降低了高端服务器的任务处理压力。
下述为本发明装置实施例,可以用于执行本发明所涉及的实现虚拟场景中图像标注验证的方法。对于本发明装置实施例中未披露的细节,请参照本发明所涉及的实现虚拟场景中图像标注验证的方法的实施例。
请参阅图18,在一示例性实施例中,一种实现虚拟场景中图像标注验证的装置900包括但不限于:图像获取模块910、标签识别模块930、流程执行模块950和结果生成模块970。
其中,图像获取模块910用于获取标注图像序列,标注图像序列包括对虚拟场景中展示图像进行图像标注而生成的标注图像。
标签识别模块930用于由标注图像中的标签识别得到虚拟场景中的控制行为。
流程执行模块950用于根据控制行为模拟执行由标注图像序列描述的虚拟场景流程。
结果生成模块970用于通过虚拟场景流程的执行生成标注图像的验证结果,验证结果在虚拟场景流程成功执行时指示标注图像通过图像标注验证。
请参阅图19,在一示例性实施例中,标签识别模块930包括但不限于:变化检测元931、标签匹配单元933和行为关联单元935。
其中,变化检测元931用于检测标注图像在虚拟场景中的相对变化程度。
标签匹配单元933用于当检测结果指示标注图像在虚拟场景中的相对变化稳定时,进行标注图像中标签与存储标签之间的匹配,得到匹配度最高的存储标签。
行为关联单元935用于对匹配度最高的存储标签进行行为关联,得到控制行为。
在一示例性实施例中,如图19所示,标签识别模块930还包括但不限于:标签学习单元937。
其中,标签学习单元937用于检测结果指示标注图像在虚拟场景中的相对变化频繁时,调用随机学习模型对标注图像中的标签进行学习,得到控制行为。
在一示例性实施例中,流程执行模块950包括但不限于:状态遍历单元。
其中,状态遍历单元用于按照控制行为控制虚拟场景流程进行虚拟任务中任务状态的遍历,按照遍历的任务状态执行任务状态指定的任务步骤,虚拟任务由虚拟场景提供。
请参阅图20,在一示例性实施例中,虚拟任务包括开始状态和结束状态。
相应地,状态遍历单元1050包括但不限于:动作确认单元1051、动作渲染单元1053、状态控制单元1055和模拟完成单元1057。
其中,动作确认单元1051用于控制虚拟场景流程进入开始状态,并确认控制行为对应的场景动作。
动作渲染单元1053用于进行场景动作的渲染,通过场景动作的渲染执行开始状态指定的任务步骤。
状态控制单元1055用于待开始状态指定的任务步骤执行完毕,控制虚拟场景流程由开始状态转入结束状态。
模拟完成单元1057用于通过执行结束状态指定的任务步骤完成虚拟场景流程的模拟执行。
请参阅图21,在一示例性实施例中,状态遍历单元1050还包括但不限于:激励计算单元1052和参数更新单元1054。
其中,激励计算单元1052用于获取激励配置参数,并根据激励配置参数计算场景动作对应的激励值。
参数更新单元1054用于根据激励值进行状态参数更新,通过状态参数更新确认开始状态指定的任务步骤是否成功执行。
请参阅图22,在一示例性实施例中,虚拟任务还包括启动状态和选择状态。
相应地,状态遍历单元1050还包括但不限于:步骤执行单元1056和状态进入单元1058。
步骤执行单元1056用于根据控制行为控制虚拟场景流程依次进入启动状态和选择状态,以顺序执行启动状态和选择状态分别指定的任务步骤。
状态进入单元1058用于待选择状态指定的任务步骤执行完毕,控制虚拟场景流程进入开始状态。
请参阅图23,在一示例性实施例中,如上所述的装置900还包括但不限于:样本获取模块1110、模型构建模块1130和模型训练模块1150。
其中,样本获取模块1110用于获取训练样本,训练样本是验证结果指示通过了图像标注验证的被标注图像。
模型构建模块1130用于根据获取到的训练样本进行模型构建。
模型训练模块1150用于对所构建模型的训练参数进行迭代优化,得到人工智能学习模型,通过人工智能学习模型进行虚拟场景学习。
请参阅图24,在一示例性实施例中,一种实现虚拟场景中图像标注验证的装置1300包括但不限于:图像生成模块1310、请求验证模块1330、结果接收模块1350和结果显示模块1370。
其中,图像生成模块1310用于根据触发的标注操作对虚拟场景中展示图像进行图像标注生成标注图像,并将标注图像添加至标注图像序列。
请求验证模块1330用于为标注图像序列请求服务端进行图像标注验证,图像标注验证包括由标注图像中的标签识别得到虚拟场景中的控制行为,并根据控制行为模拟执行由标注图像序列描述的虚拟场景流程。
结果接收模块1350用于接收服务端通过虚拟场景流程的执行而返回的验证结果,验证结果在虚拟场景流程成功执行时指示标注图像通过图像标注验证。
结果显示模块1370用于显示验证结果,以在标注图像未通过图像标注验证时对标注图像进行标签修正。
需要说明的是,上述实施例所提供的实现虚拟场景中图像标注验证的装置在进行实现虚拟场景中图像标注验证的处理时,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即实现虚拟场景中图像标注验证的装置的内部结构将划分为不同的功能模块,以完成以上描述的全部或者部分功能。
另外,上述实施例所提供的实现虚拟场景中图像标注验证的装置与实现虚拟场景中图像标注验证的方法的实施例属于同一构思,其中各个模块执行操作的具体方式已经在方法实施例中进行了详细描述,此处不再赘述。
在一示例性实施例中,一种实现虚拟场景中图像标注验证的装置,包括处理器及存储器。
其中,存储器上存储有计算机可读指令,该计算机可读指令被处理器执行时实现上述各实施例中的实现虚拟场景中图像标注验证的方法。
在一示例性实施例中,一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现上述各实施例中的实现虚拟场景中图像标注验证的方法。
上述内容,仅为本发明的较佳示例性实施例,并非用于限制本发明的实施方案,本领域普通技术人员根据本发明的主要构思和精神,可以十分方便地进行相应的变通或修改,故本发明的保护范围应以权利要求书所要求的保护范围为准。

Claims (15)

1.一种实现虚拟场景中图像标注验证的方法,其特征在于,包括:
获取标注图像序列,所述标注图像序列包括对虚拟场景中展示图像进行图像标注而生成的标注图像;
由所述标注图像中的标签识别得到所述虚拟场景中的控制行为;
根据所述控制行为模拟执行由所述标注图像序列描述的虚拟场景流程;
通过所述虚拟场景流程的执行生成所述标注图像的验证结果,所述验证结果在所述虚拟场景流程成功执行时指示所述标注图像通过图像标注验证。
2.如权利要求1所述的方法,其特征在于,所述由所述标注图像中的标签识别得到所述虚拟场景中的控制行为,包括:
检测所述标注图像在所述虚拟场景中的相对变化程度;
当检测结果指示所述标注图像在所述虚拟场景中的相对变化稳定时,进行所述标注图像中标签与存储标签之间的匹配,得到匹配度最高的存储标签;
对匹配度最高的存储标签进行行为关联,得到所述控制行为。
3.如权利要求2所述的方法,其特征在于,所述由所述标注图像中的标签识别得到所述虚拟场景中的控制行为,还包括:
当检测结果指示所述标注图像在所述虚拟场景中的相对变化频繁时,调用随机学习模型对所述标注图像中的标签进行学习,得到所述控制行为。
4.如权利要求1所述的方法,其特征在于,所述根据所述控制行为模拟执行由所述标注图像序列描述的虚拟场景流程,包括:
按照所述控制行为控制所述虚拟场景流程进行虚拟任务中任务状态的遍历,按照遍历的所述任务状态执行所述任务状态指定的任务步骤,所述虚拟任务由所述虚拟场景提供。
5.如权利要求4所述的方法,其特征在于,所述虚拟任务包括开始状态和结束状态,所述按照所述控制行为控制所述虚拟场景流程进行虚拟任务中任务状态的遍历,包括:
控制所述虚拟场景流程进入所述开始状态,并确认所述控制行为对应的场景动作;
进行所述场景动作的渲染,通过所述场景动作的渲染执行所述开始状态指定的任务步骤;
待所述开始状态指定的任务步骤执行完毕,控制所述虚拟场景流程由所述开始状态转入所述结束状态;
通过执行所述结束状态指定的任务步骤完成所述虚拟场景流程的模拟执行。
6.如权利要求5所述的方法,其特征在于,所述按照所述控制行为控制所述虚拟场景流程进行虚拟任务中任务状态的遍历,还包括:
获取激励配置参数,并根据所述激励配置参数计算所述场景动作对应的激励值;
根据所述激励值进行状态参数更新,通过所述状态参数更新确认所述开始状态指定的任务步骤是否成功执行。
7.如权利要求5所述的方法,其特征在于,所述虚拟任务还包括启动状态和选择状态,所述按照所述控制行为控制所述虚拟场景流程进行虚拟任务中任务状态的遍历,还包括:
根据所述控制行为控制所述虚拟场景流程依次进入启动状态和选择状态,以顺序执行所述启动状态和选择状态分别指定的任务步骤;
待所述选择状态指定的任务步骤执行完毕,控制所述虚拟场景流程进入所述开始状态。
8.如权利要求1至7任一项所述的方法,其特征在于,所述方法还包括:
获取训练样本,所述训练样本是验证结果指示通过了图像标注验证的被标注图像;
根据获取到的训练样本进行模型构建;
对所构建模型的训练参数进行迭代优化,得到人工智能学习模型,通过所述人工智能学习模型进行虚拟场景学习。
9.一种实现虚拟场景中图像标注验证的方法,其特征在于,包括:
根据触发的标注操作对虚拟场景中展示图像进行图像标注生成标注图像,并将所述标注图像添加至标注图像序列;
为所述标注图像序列请求服务端进行图像标注验证,所述图像标注验证包括由所述标注图像中的标签识别得到所述虚拟场景中的控制行为,并根据所述控制行为模拟执行由所述标注图像序列描述的虚拟场景流程;
接收所述服务端通过所述虚拟场景流程的执行而返回的验证结果,所述验证结果在所述虚拟场景流程成功执行时指示所述标注图像通过图像标注验证;
显示所述验证结果,以在所述标注图像未通过所述图像标注验证时对所述标注图像进行标签修正。
10.一种实现虚拟场景中图像标注验证的装置,其特征在于,包括:
图像获取模块,用于获取标注图像序列,所述标注图像序列包括对虚拟场景中展示图像进行图像标注而生成的标注图像;
标签识别模块,用于由所述标注图像中的标签识别得到所述虚拟场景中的控制行为;
流程执行模块,用于根据所述控制行为模拟执行由所述标注图像序列描述的虚拟场景流程;
结果生成模块,用于通过所述虚拟场景流程的执行生成所述标注图像的验证结果,所述验证结果在所述虚拟场景流程成功执行时指示所述标注图像通过图像标注验证。
11.如权利要求10所述的装置,其特征在于,所述标签识别模块包括:
变化检测元,用于检测所述标注图像在所述虚拟场景中的相对变化程度;
标签匹配单元,用于当检测结果指示所述标注图像在所述虚拟场景中的相对变化稳定时,进行所述标注图像中标签与存储标签之间的匹配,得到匹配度最高的存储标签;
行为关联单元,用于对匹配度最高的存储标签进行行为关联,得到所述控制行为。
12.如权利要求11所述的装置,其特征在于,所述标签识别模块还包括:
标签学习单元,用于检测结果指示所述标注图像在所述虚拟场景中的相对变化频繁时,调用随机学习模型对所述标注图像中的标签进行学习,得到所述控制行为。
13.如权利要求10所述的装置,其特征在于,所述流程执行模块包括:
状态遍历单元,用于按照所述控制行为控制所述虚拟场景流程进行虚拟任务中任务状态的遍历,按照遍历的所述任务状态执行所述任务状态指定的任务步骤,所述虚拟任务由所述虚拟场景提供。
14.一种实现虚拟场景中图像标注验证的装置,其特征在于,包括:
图像生成模块,用于根据触发的标注操作对虚拟场景中展示图像进行图像标注生成标注图像,并将所述标注图像添加至标注图像序列;
请求验证模块,用于为所述标注图像序列请求服务端进行图像标注验证,所述图像标注验证包括由所述标注图像中的标签识别得到所述虚拟场景中的控制行为,并根据所述控制行为模拟执行由所述标注图像序列描述的虚拟场景流程;
结果接收模块,用于接收所述服务端通过所述虚拟场景流程的执行而返回的验证结果,所述验证结果在所述虚拟场景流程成功执行时指示所述标注图像通过图像标注验证;
结果显示模块,用于显示所述验证结果,以在所述标注图像未通过所述图像标注验证时对所述标注图像进行标签修正。
15.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至9中任一项所述的实现虚拟场景中图像标注验证的方法。
CN201810057572.1A 2018-01-22 2018-01-22 实现虚拟场景中图像标注验证的方法及装置 Active CN108154197B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810057572.1A CN108154197B (zh) 2018-01-22 2018-01-22 实现虚拟场景中图像标注验证的方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810057572.1A CN108154197B (zh) 2018-01-22 2018-01-22 实现虚拟场景中图像标注验证的方法及装置

Publications (2)

Publication Number Publication Date
CN108154197A true CN108154197A (zh) 2018-06-12
CN108154197B CN108154197B (zh) 2022-03-15

Family

ID=62461787

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810057572.1A Active CN108154197B (zh) 2018-01-22 2018-01-22 实现虚拟场景中图像标注验证的方法及装置

Country Status (1)

Country Link
CN (1) CN108154197B (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109784381A (zh) * 2018-12-27 2019-05-21 广州华多网络科技有限公司 标注信息处理方法、装置及电子设备
CN110163377A (zh) * 2019-01-21 2019-08-23 腾讯科技(深圳)有限公司 交互数据处理方法、装置、计算机可读存储介质和计算机设备
CN110446063A (zh) * 2019-07-26 2019-11-12 腾讯科技(深圳)有限公司 视频封面的生成方法、装置及电子设备
CN110740231A (zh) * 2019-09-27 2020-01-31 浙江省北大信息技术高等研究院 视频数据标注方法、装置、电子设备及介质
CN110797101A (zh) * 2019-10-28 2020-02-14 腾讯医疗健康(深圳)有限公司 医学数据处理方法、装置、可读存储介质和计算机设备
CN111340131A (zh) * 2020-03-09 2020-06-26 北京字节跳动网络技术有限公司 图像的标注方法、装置、可读介质和电子设备
CN112316435A (zh) * 2020-11-18 2021-02-05 网易(杭州)网络有限公司 一种虚拟河流模型制作方法、装置、设备和存储介质
CN112836732A (zh) * 2021-01-25 2021-05-25 深圳市声扬科技有限公司 数据标注的校验方法、装置、电子设备及存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100027896A1 (en) * 2006-06-28 2010-02-04 Amir Geva Automated application interaction using a virtual operator
CN105404896A (zh) * 2015-11-03 2016-03-16 北京旷视科技有限公司 标注数据处理方法和标注数据处理系统
CN105701502A (zh) * 2016-01-06 2016-06-22 福州大学 一种基于蒙特卡罗数据均衡的图像自动标注方法
US20170293640A1 (en) * 2016-03-28 2017-10-12 Cogniac, Corp. Dynamic Adaptation of Feature Identification and Annotation
CN107256428A (zh) * 2017-05-25 2017-10-17 腾讯科技(深圳)有限公司 数据处理方法、数据处理装置、存储设备及网络设备

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100027896A1 (en) * 2006-06-28 2010-02-04 Amir Geva Automated application interaction using a virtual operator
CN105404896A (zh) * 2015-11-03 2016-03-16 北京旷视科技有限公司 标注数据处理方法和标注数据处理系统
CN105701502A (zh) * 2016-01-06 2016-06-22 福州大学 一种基于蒙特卡罗数据均衡的图像自动标注方法
US20170293640A1 (en) * 2016-03-28 2017-10-12 Cogniac, Corp. Dynamic Adaptation of Feature Identification and Annotation
CN107256428A (zh) * 2017-05-25 2017-10-17 腾讯科技(深圳)有限公司 数据处理方法、数据处理装置、存储设备及网络设备

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109784381A (zh) * 2018-12-27 2019-05-21 广州华多网络科技有限公司 标注信息处理方法、装置及电子设备
CN110163377A (zh) * 2019-01-21 2019-08-23 腾讯科技(深圳)有限公司 交互数据处理方法、装置、计算机可读存储介质和计算机设备
CN110163377B (zh) * 2019-01-21 2021-03-16 腾讯科技(深圳)有限公司 交互数据处理方法、装置、计算机可读存储介质和计算机设备
CN110446063A (zh) * 2019-07-26 2019-11-12 腾讯科技(深圳)有限公司 视频封面的生成方法、装置及电子设备
CN110446063B (zh) * 2019-07-26 2021-09-07 腾讯科技(深圳)有限公司 视频封面的生成方法、装置及电子设备
CN110740231A (zh) * 2019-09-27 2020-01-31 浙江省北大信息技术高等研究院 视频数据标注方法、装置、电子设备及介质
CN110797101A (zh) * 2019-10-28 2020-02-14 腾讯医疗健康(深圳)有限公司 医学数据处理方法、装置、可读存储介质和计算机设备
CN110797101B (zh) * 2019-10-28 2023-11-03 腾讯医疗健康(深圳)有限公司 医学数据处理方法、装置、可读存储介质和计算机设备
CN111340131A (zh) * 2020-03-09 2020-06-26 北京字节跳动网络技术有限公司 图像的标注方法、装置、可读介质和电子设备
CN112316435A (zh) * 2020-11-18 2021-02-05 网易(杭州)网络有限公司 一种虚拟河流模型制作方法、装置、设备和存储介质
CN112836732A (zh) * 2021-01-25 2021-05-25 深圳市声扬科技有限公司 数据标注的校验方法、装置、电子设备及存储介质
CN112836732B (zh) * 2021-01-25 2024-04-19 深圳市声扬科技有限公司 数据标注的校验方法、装置、电子设备及存储介质

Also Published As

Publication number Publication date
CN108154197B (zh) 2022-03-15

Similar Documents

Publication Publication Date Title
CN108154197A (zh) 实现虚拟场景中图像标注验证的方法及装置
US11135514B2 (en) Data processing method and apparatus, and storage medium for concurrently executing event characters on a game client
CN110366734A (zh) 优化神经网络架构
CN113853241A (zh) 用于云游戏的测试即服务
CN109847366B (zh) 用于游戏的数据处理方法和装置
CN109246027B (zh) 一种网络维护的方法、装置和终端设备
CN114503108A (zh) 向经过训练的机器学习模型添加对抗鲁棒性
CN109688428B (zh) 视频评论生成方法和装置
US11765196B2 (en) Attack scenario simulation device, attack scenario generation system, and attack scenario generation method
WO2020047314A1 (en) Secure exploration for reinforcement learning
US20050160404A1 (en) Non-deterministic testing
US20200122039A1 (en) Method and system for a behavior generator using deep learning and an auto planner
CN114139637B (zh) 多智能体信息融合方法、装置、电子设备及可读存储介质
CN106022349A (zh) 用于设备类型确定的方法和系统
CN110235149A (zh) 神经情节控制
CN109740567A (zh) 关键点定位模型训练方法、定位方法、装置及设备
CN113069769A (zh) 云游戏界面显示方法、装置、电子设备以及存储介质
US10850201B2 (en) Method and apparatus for awarding trophies
US20190311215A1 (en) Systems and methods for adaptive data processing associated with complex dynamics
CN115712571A (zh) 一种交互服务测试、装置、计算机设备及存储介质
CN117018635A (zh) 数据处理方法、装置、电子设备以及存储介质
CN110738318B (zh) 网络结构运行时间评估及评估模型生成方法、系统和装置
Thabet et al. Towards intelligent serious games: deep knowledge tracing with hybrid prediction models
Wang et al. DQfD‐AIPT: An Intelligent Penetration Testing Framework Incorporating Expert Demonstration Data
CN115994588B (zh) 基于区块链与合同理论的数据处理方法、装置及设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant