CN113570679A - 一种图形绘制方法、装置、设备以及存储介质 - Google Patents

Abstract

本公开提供了一种图形绘制方法、装置、设备以及存储介质，涉及计算机视觉、虚拟现实、增强现实等人工智能领域。具体实现方案为：获取多个交互点在虚拟空间中的空间位置信息；基于多个交互点的空间位置信息，生成涂鸦模型数据；利用涂鸦模型数据进行图形绘制。可以在虚拟空间中进行图形绘制，丰富交互方式，提高用户交互体验。

Description

一种图形绘制方法、装置、设备以及存储介质

技术领域

本公开涉及人工智能技术领域，尤其计算机视觉、虚拟现实、增强现实等领域。

背景技术

图形绘制是计算机应用中的重要内容。可以通过图形绘制实现人机交互等等。

发明内容

本公开提供了一种图形绘制方法、装置、设备以及存储介质。

根据本公开的第一方面，提供了一种图形绘制方法，包括：

获取多个交互点在虚拟空间中的空间位置信息；

基于多个交互点的所述空间位置信息，生成涂鸦模型数据；

利用所述涂鸦模型数据进行图形绘制。

根据本公开的第二方面，提供了一种图形绘制装置，包括：

获取模块，用于获取多个交互点在虚拟空间中的空间位置信息；

生成模块，用于基于多个交互点的所述空间位置信息，生成涂鸦模型数据；

绘制模块，用于利用所述涂鸦模型数据进行图形绘制。

根据本公开的第三方面，提供了一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行第一方面中任一项所述的方法。

根据本公开的第四方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据第一方面中任一项所述的方法。

根据本公开的第五方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据第一方面中任一项所述的方法。

本公开实施例中，可以在虚拟空间中进行图形绘制，丰富交互方式，提高用户交互体验。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本公开的限定。其中：

图1是根据本公开第一实施例提供的图形绘制方法的流程图；

图2是应用本公开第一实施例提供的图形绘制方法的示意图；

图3是根据本公开第二实施例提供的获取多个交互点在虚拟空间中的空间位置信息的流程图；

图4是根据本公开第三实施例提供的图形绘制方法的流程图；

图5是应用本公开第四实施例提供的图形绘制方法的示意图；

图6是根据本公开第五实施例提供的图形绘制装置的结构示意图；

图7是根据本公开第六实施例提供的图形绘制装置的结构示意图；

图8是用来实现本公开实施例的图形绘制方法的电子设备的框图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

本公开实施例提供的图形绘制方法可以应用于电子设备，例如：手机、摄像机、虚拟现实(Virtual Reality，VR)设备如VR眼镜、增强现实(Augmented Reality，AR)设备如AR眼镜等等。

本公开实施例提供了一种图形绘制方法，如图1所示，可以包括：

S101，获取多个交互点在虚拟空间中的空间位置信息；

S102，基于多个交互点的空间位置信息，生成涂鸦模型数据；

S103，利用涂鸦模型数据进行图形绘制。

本公开实施例中，可以在虚拟空间中进行图形绘制，丰富交互方式，提高用户交互体验。

参照图1，对本公开实施例提供的图形绘制方法进行详细说明。

S101，获取多个交互点在虚拟空间中的空间位置信息。

虚拟空间可以包括基于图像采集设备获得的虚拟空间。例如，通过手机摄像头、摄像机、VR设备、AR设备等获得的空间环境。可以是通过电子设备中的图像采集设备扫描空间环境，基于扫描得到的信息在电子设备的屏幕上渲染得到该空间环境对应的虚拟空间。

空间位置信息可以包括三维空间坐标，例如，可以是基于世界坐标系的三维坐标。

交互点可以包括触摸电子设备的触摸点、通过手势识别与电子设备交互的点，等等。

S102，基于多个交互点的空间位置信息，生成涂鸦模型数据。

可以包括：将空间位置信息组成涂鸦模型数据。

S103，利用涂鸦模型数据进行图形绘制。

多个交互点的位置信息可以理解为图像轨迹，基于涂鸦参数绘制图形轨迹。具体地，可以利用三角形图元类型进行绘制。

除了多个交互点的空间位置信息，涂鸦模型数据还可以包括涂鸦参数。其中，涂鸦参数可以包括外形数据，例如，涂鸦线条的形状以及材质参数，材质参数如在光照下反射的颜色，也即涂鸦绘制成的颜色，等等。

具体地是在虚拟空间中进行图形绘制。本公开实施例在整个图形绘制的过程中可以保持图像采集设备持续打开，如手机摄像头、摄像机、VR设备、AR设备保持扫描空间环境等，通过电子设备中的图像采集设备扫描空间环境，基于扫描得到的信息在电子设备的屏幕上渲染得到该空间环境对应的虚拟空间，如此可以使得在该虚拟空间进行图形绘制。例如，图2所示在手机屏幕上绘制的五角星图案。

也可以理解为实现空间涂鸦，即在虚拟空间绘制任意图形，如通过3D摄像机采集空间环境在屏幕上显示的虚拟空间，在屏幕上绘制任意图像。

可以在交互界面上基于虚拟空间绘制多个图形。例如，当多个用户相互交互的过程中，基于一用户分别与不同用户交互的交互点的位置信息，分别绘制图形。

本公开实施例中，可以在虚拟空间中进行图形绘制，提高用户交互体验。同时，提供一种新的更加直观地、形象地交互方式，能够提高沟通效率。

一种可选的实施例中，多个交互点可以包括手指在移动过程中触摸交互界面的多个触摸点。交互界面包括通过图像采集设备得到的虚拟空间的交互界面上，例如，交互界面可以是获得虚拟空间的图像采集设备的屏幕。

获取多个交互点在虚拟空间中的空间位置信息，即获取手指在交互界面上移动过程中多个触摸点的空间位置信息。

如图3所示，S101：获取多个交互点在虚拟空间中的空间位置信息，可以包括：

S301，针对各个交互点，获取交互位置信息。

交互位置信息包括交互点的二维坐标。

获取交互位置信息，包括：

获取触摸交互界面的触摸点的位置信息。

具体地，可以获取用户触摸图像采集设备的屏幕的触摸点的位置信息。

S302，获取交互点的深度信息。

深度信息可以包括交互点与图像采集设备的距离。

可以通过AR-Kit接口或AR-Engine Hittest接口获取该距离。

S303，基于交互位置信息和深度信息，通过反投影算法，计算交互点的空间位置信息。

一种方式中可以理解为，利用交互点的二维坐标和深度信息，通过反投影算法，计算交互点的三维坐标。

在计算三维坐标的过程中，还可以结合图像采集设备的设备参数，例如，摄像机的参数，如摄像机的方向等。

本公开实施例不对反投影算法进行限制，任何可以实现的反投影算法均在本公开实施例的保护范围内。

如此可以计算得到空间三维信息，基于交互点的空间三维信息可以实现在虚拟空间中进行图形绘制，也可以理解为实现空间涂鸦。

本公开实施例提供的图形绘制方法计算的是手指在移动过程中触摸交互界面的多个触摸点的空间位置信息，即是基于手指在移动过程中触摸交互界面的多个触摸点的空间位置信息进行图形绘制，故本公开实施例提供的图形绘制方法可以理解为：通过手指滑动屏幕的方式，在AR-Kit和AR-Engine等构建的摄像机虚拟空间中进行涂鸦，通过手指在屏幕上滑动进行涂鸦实现交互，提供了一种更加方便地、直观地沟通方式。

一种可实现方式中，可以将空间点的空间位置信息保存起来。

针对每一交互点，在得到该交互点的空间位置信息后将该交互点的空间位置信息进行保存，如此，在得到所有交互点的空间位置信息之后，可以从存储位置获取所有交互点的空间位置信息，并基于交互点的空间位置信息，生成涂鸦模型数据。

在检测到一交互点时，可以创建一个涂鸦节点，并将该涂鸦节点添加至场景树中，场景树是一种数据存储形式，场景树中的涂鸦节点可以理解为为交互点分配的存储空间。当得到该交互点的空间位置信息后，可以将该空间位置信息保存在涂鸦节点对应的存储空间处。

一种可实现方式中，可以在一交互界面上绘制多个图案，针对每一图案的交互点可以保存在一场景树，如此，电子设备从不同场景树中获取场景树中交互点的空间位置信息，进而基于不同场景树中保存的空间位置信息绘制不同图案。

一种可选的实施例中，如图4所示，在S103：在利用涂鸦模型数据进行图形绘制之后，还包括：

S104，在接收到撤销指令后，撤销绘制的图形。

撤销指令可以是通过交互界面上的撤销按钮触发的指令。例如，用户点击该撤销按钮，电子设备在检测到该撤销按钮被触发时，撤销电子设备的屏幕上已经绘制的图形。如此，可以按照用户实际需求撤销图形，丰富交互功能。

一种可选的实施例中，本公开实施例提供的图形绘制方法可以应用于远程协助场景中。远程协助场景可以包括：工程师与专家沟通以协助指导设备安装、维修、技术支持等过程中。

工程师和专家可以理解为本公开实施例提供的图形绘制方法的用户。

交互点是运程协助指导过程中针对某个物体或者任意标记的标记图案的点。

打开电子设备的图像采集设备，如手机摄像头，拍摄当前所处的环境，如待维修的设备，并在屏幕上显示拍摄的内容，也可以理解为基于拍摄的内容渲染一虚拟空间。

用户可以在手机屏幕进行触摸等操作，如对设备中出现故障的位置进行标注，用户触摸位置即可以理解为交互点。一般情况下，通过图案的方式进行标注，如一个圆圈等，故包括多个触摸点，也即交互点。

电子设备检测到屏幕上一位置被触摸时，确定该位置的位置信息，即交互位置信息，也可以通过AR-Kit接口或AR-Engine Hittest接口获取该触摸点的深度信息，如获取触摸点与手机摄像头的距离。然后，基于该触摸点的位置信息和深度信息，通过反投射算法，计算该触摸点的空间位置信息，如世界坐标系下的坐标。

在得到各个触摸点的空间位置信息之后，可以通过一引擎，基于多个触摸点的空间位置信息，生成涂鸦模型数据，并利用涂鸦模型数据进行图形绘制。具体地，可以将得到的空间位置信息绑定到引擎中的部件MeshRenderComponent，按照三角形图元类型进行图形绘制。

其中，在利用涂鸦模型数据进行图形绘制的过程中，可以是基于涂鸦参数绘制图形轨迹。图形轨迹即可以理解为多个触摸点的空间位置信息形成的图形轨迹。

涂鸦参数可以是预先配置的参数信息。或者，也可以在交互界面上通过用户点击参数选项进行确定。例如，交互界面可以提供涂鸦参数选项，用户通过该涂鸦参数选项配置涂鸦参数。可以采用不同粗细的画笔绘制线条粗细不同的圆圈，如图5所示，依次采用画笔粗细分别为1cm，2cm，3cm绘制的图案。

另外，可以在交互界面，如手机屏幕上提供撤销按钮，用户可以点击该撤销按钮，电子设备在检测到该撤销按钮被触发时，撤销已经绘制的图形，如图5绘制的圆圈。其中，撤销按钮可以位于交互界面的任意位置处，例如，交互界面上不会覆盖其他内容的位置处。

在AR-远程协助指导过程中，专家或者工程师可以标记空间中的某个特定物体或者在空间中绘制任意形状标记。通过空间涂鸦技术，丰富了工程师和专家沟通的手段，提升了专家和工程师沟通效率。

远程协助场景中进行空间涂鸦可以是一应用程序中的一个功能。该功能可以通过电子设备的交互界面上的选项进行触发，例如，该交互界面上包括“涂鸦标注”选项，当用户需要进行空间涂鸦时，例如，有设备出现故障时，设备工程师标记设备中出现故障的地方或者绘制图案标记；或者，专家指导维修，标记出存在问题需要维修的地方等，点击该“涂鸦标注”选项，电子设备检测到该“涂鸦标注”选项被点击时，则开始空间涂鸦功能。具体地，打开电子设备的图像采集设备，如手机摄像头开始扫描，且在整个涂鸦过程中图像采集设备持续打开进行扫描。另外，也可以在交互界面上提供关闭涂鸦的按钮，当检测到该按钮被触发后关闭涂鸦功能。

整个空间涂鸦的过程可以是用户与另一用户交互的过程，例如上述工程师请求专家指导过程中，工程师与专家视频通话的过程中，也可以理解为实现空间涂鸦的同时实现视频通话，一用户在电子设备上绘制的图形可以显示给另一用户，该另一用户可以更加直观地、清楚地、立体地观察到标记的内容，如专家可以更加直观地、清楚地、立体地看到工程师标记的设备出现故障地位置，进而可以有针对性地进行指导，而专家也可以通过空间涂鸦，更直观地、清楚地、立体地标记出维修所针对的位置，如此可以使得工程师可以准确地、快速地理解专家标记的内容，以帮助设备维修等，能够提高指导的质量以及指导双方沟通的效率。

对应于上述公开实施例提供的图形绘制方法，本公开实施例还提供了一种图形绘制装置，如图6所示，可以包括：

获取模块601，用于获取多个交互点在虚拟空间中的空间位置信息；

生成模块602，用于基于多个交互点的空间位置信息，生成涂鸦模型数据；

绘制模块603，用于利用涂鸦模型数据进行图形绘制。

可选的，获取模块601，具体用于针对各个交互点，获取交互位置信息，交互位置信息包括交互点的二维坐标；获取交互点的深度信息；基于交互位置信息和深度信息，通过反投影算法，计算交互点的空间位置信息。

可选的，多个交互点包括手指在移动过程中触摸交互界面的多个触摸点；交互界面包括通过图像采集设备得到的虚拟空间的交互界面上，获得虚拟空间的图像采集设备的屏幕；

获取模块601，具体用于获取触摸交互界面的触摸点的位置信息。

可选的，如图7所示，该装置还包括：

撤销模块701，用于在接收到撤销指令后，撤销绘制的图形。

本公开的技术方案中，所涉及的用户个人信息的获取，存储和应用等，均符合相关法律法规的规定，且不违背公序良俗。

根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。

图8示出了可以用来实施本公开的实施例的示例电子设备800的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图8所示，设备800包括计算单元801，其可以根据存储在只读存储器(ROM)802中的计算机程序或者从存储单元808加载到随机访问存储器(RAM)803中的计算机程序，来执行各种适当的动作和处理。在RAM 803中，还可存储设备800操作所需的各种程序和数据。计算单元801、ROM 802以及RAM 803通过总线804彼此相连。输入/输出(I/O)接口805也连接至总线804。

设备800中的多个部件连接至I/O接口805，包括：输入单元806，例如键盘、鼠标等；输出单元807，例如各种类型的显示器、扬声器等；存储单元808，例如磁盘、光盘等；以及通信单元809，例如网卡、调制解调器、无线通信收发机等。通信单元809允许设备800通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

计算单元801可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元801的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元801执行上文所描述的各个方法和处理，例如图形绘制方法。例如，在一些实施例中，图形绘制方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元808。在一些实施例中，计算机程序的部分或者全部可以经由ROM 802和/或通信单元809而被载入和/或安装到设备800上。当计算机程序加载到RAM 803并由计算单元801执行时，可以执行上文描述的图形绘制方法的一个或多个步骤。备选地，在其他实施例中，计算单元801可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行图形绘制方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，也可以为分布式系统的服务器，或者是结合了区块链的服务器。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (11)

1.一种图形绘制方法，包括：

获取多个交互点在虚拟空间中的空间位置信息；

基于多个交互点的所述空间位置信息，生成涂鸦模型数据；

利用所述涂鸦模型数据进行图形绘制。

2.根据权利要求1所述的方法，其中，所述获取多个交互点在虚拟空间中的空间位置信息，包括：

针对各个交互点，获取交互位置信息，所述交互位置信息包括所述交互点的二维坐标；

获取所述交互点的深度信息；

基于所述交互位置信息和所述深度信息，通过反投影算法，计算所述交互点的空间位置信息。

3.根据权利要求2所述的方法，其中，多个交互点包括手指在移动过程中触摸交互界面的多个触摸点；所述交互界面包括通过图像采集设备得到的所述虚拟空间的交互界面上，获得所述虚拟空间的图像采集设备的屏幕；

所述获取交互位置信息，包括：

获取触摸所述交互界面的触摸点的位置信息。

4.根据权利要求1所述的方法，在所述利用所述涂鸦模型数据进行图形绘制之后，还包括：

在接收到撤销指令后，撤销绘制的所述图形。

5.一种图形绘制装置，包括：

获取模块，用于获取多个交互点在虚拟空间中的空间位置信息；

生成模块，用于基于多个交互点的所述空间位置信息，生成涂鸦模型数据；

绘制模块，用于利用所述涂鸦模型数据进行图形绘制。

6.根据权利要求5所述的装置，其中，所述获取模块，具体用于针对各个交互点，获取交互位置信息，所述交互位置信息包括所述交互点的二维坐标；获取所述交互点的深度信息；基于所述交互位置信息和所述深度信息，通过反投影算法，计算所述交互点的空间位置信息。

7.根据权利要求6所述的装置，其中，多个交互点包括手指在移动过程中触摸交互界面的多个触摸点；所述交互界面包括通过图像采集设备得到的所述虚拟空间的交互界面上，获得所述虚拟空间的图像采集设备的屏幕；

所述获取模块，具体用于获取触摸所述交互界面的触摸点的位置信息。

8.根据权利要求5所述的装置，还包括：

撤销模块，用于在接收到撤销指令后，撤销绘制的所述图形。

9.一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-4中任一项所述的方法。

10.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据权利要求1-4中任一项所述的方法。

11.一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据权利要求1-4中任一项所述的方法。

Images