CN116940966A - 指示虚拟位置的真实世界信标 - Google Patents
指示虚拟位置的真实世界信标 Download PDFInfo
- Publication number
- CN116940966A CN116940966A CN202180078666.7A CN202180078666A CN116940966A CN 116940966 A CN116940966 A CN 116940966A CN 202180078666 A CN202180078666 A CN 202180078666A CN 116940966 A CN116940966 A CN 116940966A
- Authority
- CN
- China
- Prior art keywords
- prop
- location
- director
- beacon
- virtual
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 claims abstract description 12
- 230000001052 transient effect Effects 0.000 claims description 3
- 230000000694 effects Effects 0.000 abstract description 4
- 239000004575 stone Substances 0.000 description 8
- 230000000007 visual effect Effects 0.000 description 8
- 238000013528 artificial neural network Methods 0.000 description 6
- 238000004891 communication Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 230000015654 memory Effects 0.000 description 5
- 238000012545 processing Methods 0.000 description 5
- 210000003811 finger Anatomy 0.000 description 3
- 230000001755 vocal effect Effects 0.000 description 3
- 238000013473 artificial intelligence Methods 0.000 description 2
- 238000005094 computer simulation Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 238000004566 IR spectroscopy Methods 0.000 description 1
- 241001112258 Moca Species 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 210000004247 hand Anatomy 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000001931 thermography Methods 0.000 description 1
- 210000003813 thumb Anatomy 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/47—End-user applications
- H04N21/478—Supplemental services, e.g. displaying phone caller identification, shopping application
- H04N21/4788—Supplemental services, e.g. displaying phone caller identification, shopping application communicating with other users, e.g. chatting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/003—Navigation within 3D models or images
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/41—Structure of client; Structure of client peripherals
- H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
- H04N21/4227—Providing Remote input by a user located remotely from the client device, e.g. at work
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/442—Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
- H04N21/44213—Monitoring of end-user related data
- H04N21/44218—Detecting physical presence or behaviour of the user, e.g. using sensors to detect if the user is leaving the room or changes his face expression during a TV program
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/81—Monomedia components thereof
- H04N21/816—Monomedia components thereof involving special video data, e.g 3D video
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Signal Processing (AREA)
- Multimedia (AREA)
- Computer Graphics (AREA)
- Computer Hardware Design (AREA)
- Human Computer Interaction (AREA)
- Social Psychology (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Computer Networks & Wireless Communication (AREA)
- Databases & Information Systems (AREA)
- User Interface Of Digital Computer (AREA)
- Processing Or Creating Images (AREA)
Abstract
描述了用于使用在彼此远离的相应位置的多个演员来促进音频视频(AV)制作的协调,使得可通过协调彼此一致的多个远程演员的活动来生成集成式AV产品的技术。导演(200)可以在虚拟世界中指示舞台道具(206)的期望位置,并且随后可以朝向对应于该期望位置的真实世界位置传输信标(302),以帮助放置该道具。
Description
技术领域
本申请总体上涉及技术上创新的非常规解决方案,这些解决方案必须源于计算机技术并产生具体的技术改进。具体地,本申请涉及用于在多个位置实现协作远程表演的技术。
背景技术
出于健康和成本的考虑,人们越来越多地从远程位置一同协作。如在本文中所理解,使用远程演员的协作电影和计算机模拟(例如计算机游戏)生成可能会产生独特的协调问题,因为导演必须在制作电影以及诸如动作捕捉(MoCap)的计算机模拟相关活动时指导多个演员,这些演员各自可能位于他或她自己的工作室或摄影棚中。例如,在以协调动作的方式向远程演员提供关于他们各自的舞台或工作室的物理参考方面存在挑战。本发明原理提供了用于解决这些协调挑战中的一些挑战的技术。
发明内容
因此,本发明原理提供了一种设备,该设备包括至少一个处理器,该至少一个处理器编程有指令以在虚拟现实(VR)空间中识别视频道具期望被定位的位置,并且在真实世界(RW)空间中朝向对应于在VR空间中视频道具将被定位的位置的RW位置传输至少一个信标。
在一些示例具体实现方式中,信标可以包括可见信标,诸如激光束。另外地或替代地,信标可以包括可听声音和/或手机上的屏幕显示。
再此外,如果需要,则可以执行指令以识别道具在RW中随时间的位置。
另外,在一些示例实施方案中,可以执行指令以至少部分地基于道具在RW中的位置来传输信标。
在另一方面,一种装置包括至少一个计算机存储装置,该至少一个计算机存储装置不是瞬时信号。该计算机存储装置包括指令,该指令可由至少一个处理器执行,以接收在虚拟现实(VR)空间中对虚拟位置的指示,并且在真实世界(RW)中传输指示虚拟位置的信标。
在又另一方面,一种计算机实现的方法包括指示在虚拟空间中对象期望被定位的位置,以及呈现在真实世界(RW)中指向对应于虚拟位置的RW位置的信标。
本申请的关于其结构和操作两者的细节可参考附图得到最好的理解,在附图中相同的附图标记指代相同的部分,并且在附图中:
附图说明
图1是符合本发明原理的示例系统的框图;
图2示出了导演指向虚拟现实(VR)显示器以控制电影布景内的活动;
图3示出了用于根据导演命令来照亮电影布景的信标;
图4以示例流程图格式示出了符合本发明原理的示例逻辑;
图5示出了示例屏幕显示的屏幕截图;
图6是示例导演显示的屏幕截图;
图7是示例舞台管理员屏幕显示的屏幕截图;
图8以示例流程图格式示出了符合本发明原理的额外示例逻辑;图9是示例导演显示的又另一屏幕截图;并且
图10示出了符合本发明原理的可在显示器上呈现的示例设置图形用户界面(GUI)。
具体实施方式
现在参考图1,本公开总体上涉及计算机生态系统,包括可包括消费性电子(CE)装置的计算机网络的各方面。本文中的系统可以包括通过网络连接的服务器部件和客户端部件,使得可以在客户端部件与服务器部件之间交换数据。客户端部件可以包括一个或多个计算装置,所述一个或多个计算装置包括便携式电视(例如,智能TV、支持互联网的TV)、诸如膝上型计算机和平板计算机的便携式计算机,以及包括智能电话和下面讨论的附加示例的其他移动装置。这些客户端装置可在多种操作环境下操作。例如,客户端计算机中的一些可以采用例如微软的操作系统,或Unix操作系统,或苹果计算机(Apple Computer)或谷歌(Google)生产的操作系统。可使用这些操作环境来执行一个或多个浏览程序,诸如由微软或谷歌或摩斯拉(Mozilla)制作的浏览器,或可访问由下文论述的互联网服务器托管的网站的其他浏览器程序。
服务器和/或网关可包括执行指令的一个或多个处理器,所述指令将服务器配置为通过诸如互联网的网络来接收和传输数据。或者,客户端和服务器可经由本地内联网或虚拟专用网络连接。服务器或控制器可由游戏控制台(诸如Sony)、个人计算机等实例化。
可通过网络在客户端与服务器之间交换信息。为此并且为了安全起见,服务器和/或客户端可包括防火墙、负载平衡器、临时存储装置和代理,以及用于可靠性和安全性的其他网络基础设施。
如本文使用,指令是指用于处理系统中的信息的计算机实现的步骤。指令可以在软件、固件或硬件中实施,并且包括由系统的部件执行的任何类型的编程步骤。
处理器可以是通用单芯片或多芯片处理器,所述单芯片或多芯片处理器可借助于各种线(诸如地址线、数据线和控制线)以及寄存器和移位寄存器来执行逻辑。
通过本文的流程图和用户界面描述的软件模块可包括各种子例程、程序等。在不限制本公开的情况下,被陈述为由特定模块执行的逻辑可被再分配到其他软件模块和/或一起组合在单个模块中和/或使得在可共享库中可用。虽然可以使用流程图格式,但是应理解,软件可以实现为状态机或其他逻辑方法。
本文描述的本发明原理可以实现为硬件、软件、固件或它们的组合;因此,说明性部件、框、模块、电路和步骤是依据它们的功能性进行阐述的。
除上文已经提到的内容之外,下文描述的逻辑块、模块和电路可以用被设计来执行本文描述的功能的通用处理器、数字信号处理器(DSP)、现场可编程门阵列(FPGA)或其他可编程逻辑装置(诸如专用集成电路(ASIC)、离散门或晶体管逻辑、离散硬件部件或其任何组合)来实施或执行。处理器可由控制器或状态机或计算装置的组合来实现。
当在软件中实现下文描述的功能和方法时,所述功能和方法可通过诸如但不限于C#或C++的适当语言来编写,并且可存储在计算机可读存储介质上或通过计算机可读存储介质进行传输,所述计算机可读存储介质诸如随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、光盘只读存储器(CD-ROM)或其他光盘存储装置(诸如数字多功能光盘(DVD))、磁盘存储装置或包括可移除拇指驱动器的其他磁存储装置等。连接可建立计算机可读介质。此类连接可包括例如硬连线电缆,包括光纤和同轴线以及数字用户线(DSL)和双绞线。
一个实施方案中包括的部件可以任何适当的组合用于其他实施方案中。例如,本文中所描述且/或在图中所描绘的各种部件中的任一者可被组合、互换或从其他实施方案排除。
“具有A、B和C中的至少一者的系统”(同样地,“具有A、B或C中的至少一者的系统”和“具有A、B、C中的至少一者的系统”)包括以下系统:仅具有A;仅具有B;仅具有C;同时具有A和B;同时具有A和C;同时具有B和C;和/或同时具有A、B和C等。
现在具体地参考图1,示出了示例系统10,该示例系统可以包括根据本发明原理的上文所提及且下文进一步描述的示例装置中的一个或多个装置。应注意,本文附图中描述的计算机化装置可以包括针对图1中的各种装置阐述的部件中的一些或所有部件。
系统10中包括的示例装置中的第一装置是被配置为示例主显示装置的消费电子(CE)装置,并且在所示出的实施方案中为音频视频显示装置(AVDD)12,诸如但不限于带有TV调谐器(等效地,控制TV的机顶盒)的支持互联网的TV。AVDD 12可以是基于的系统。替代地,AVDD 12也可以是计算机化的支持互联网的(“智能”)电话、平板计算机、笔记本计算机、可佩戴的计算机化装置例如诸如计算机化的支持互联网的手表、计算机化的支持互联网的手镯、其他计算机化的支持互联网的装置、计算机化的支持互联网的音乐播放器、计算机化的支持互联网的耳机、计算机化的支持互联网的可植入装置诸如可植入皮肤装置等。无论如何,应理解,AVDD 12和/或本文中描述的其他计算机被配置成实现本发明原理(例如使用5G无线标准与其他CE装置通信以实现本发明原理、执行本文中描述的逻辑,以及执行本文中描述的任何其他功能和/或操作)。
因此,为了实现此类原理,AVDD 12可由图1所示的部件中的一些或全部建立。例如,AVDD 12可包括一个或多个显示器14,该一个或多个显示器可由高清晰度或超高清晰度“4K”或更高的平面屏幕实现,并且可支持或可不支持触摸以用于经由显示器上的触摸来接收用户输入信号。AVDD 12还可包括:一个或多个扬声器16,该一个或多个扬声器用于根据本发明原理输出音频;以及至少一个额外的输入装置18(诸如音频接收器传声器),该至少一个额外的输入装置用于例如向AVDD 12输入可听命令以控制AVDD 12。示例AVDD 12还可包括一个或多个网络接口20,该一个或多个网络接口用于在一个或多个处理器24的控制下通过至少一个网络22(诸如互联网、无线5G网络、其他广域网(WAN)、局域网(LAN)、个人区域网(PAN)等)进行通信。因此,接口20可以是但不限于Wi-Fi收发器,该Wi-Fi收发器是无线计算机网络接口的示例,诸如但不限于网状网络收发器。接口20可以是但不限于蓝牙收发器、Zigbee收发器、IrDA收发器、无线USB收发器、有线USB、有线LAN、Powerline或MoCA。应理解,处理器24控制AVDD 12来实现本发明原理,包括本文描述的AVDD 12的其他元件,诸如控制显示器14以在显示器上呈现图像以及从显示器接收输入。此外,应注意,网络接口20可以是例如有线或无线调制解调器或路由器或其他适当接口,诸如无线电话收发器,或如上所提及的Wi-Fi收发器等。
除前述内容之外,AVDD 12还可包括一个或多个输入端口26,诸如用于物理地连接(例如,使用有线连接)至另一个CE装置的高清晰度多媒体接口(HDMI)端口或USB端口和/或用于将耳机连接至AVDD 12以用于通过耳机将来自AVDD 12的音频呈现给用户的耳机端口。例如,输入端口26可经由有线或以无线方式连接至音频视频内容的有线或卫星源26a。因此,源26a可以是例如单独的或集成的机顶盒或卫星接收器。或者,源26a可以是游戏控制台或磁盘播放器。
AVDD 12还可包括不是瞬态信号的一个或多个计算机存储器28,诸如基于磁盘的存储装置或固态存储装置,在一些情况下,所述一个或多个计算机存储器在AVDD的机壳中体现为独立装置,或者在AVDD的机壳内部或外部体现为用于回放AV节目的个人视频记录装置(PVR)或视频磁盘播放器,或者体现为可移除存储器介质。此外,在一些实施方案中,AVDD12可包括位置或地点接收器(诸如但不限于手机接收器、GPS接收器和/或高度计30),所述位置或地点接收器被配置为例如从至少一个卫星或手机塔接收地理位置信息并且向处理器24提供所述信息和/或结合处理器24来确定AVDD 12被设置的高度。然而,应理解,根据本发明原理,可以使用除手机接收器、GPS接收器和/或高度计之外的另一个合适的位置接收器来例如确定AVDD 12在例如所有三个维度中的位置。
继续对AVDD 12的描述,在一些实施方案中,根据本发明原理,AVDD 12可包括一个或多个相机32,所述一个或多个相机可以是例如热成像相机、数字相机(诸如网络摄像头)和/或集成到AVDD 12中并且可由处理器24控制以搜集图片/图像和/或视频的相机。在AVDD12上还可包括蓝牙收发器34和其他近场通信(NFC)元件36,以用于分别使用蓝牙和/或NFC技术与其他装置进行通信。示例NFC元件可以是射频识别(RFID)元件。
此外,AVDD 12可包括向处理器24提供输入的一个或多个辅助传感器38(例如,运动传感器,诸如加速度计、陀螺仪、计程器或磁传感器、用于从遥控器接收IR命令的红外(IR)传感器、光学传感器、速度和/或节奏传感器、手势传感器(例如,用于感测手势命令)等)。AVDD 12可包括向处理器24提供输入的无线TV广播端口40,以用于接收OTA TV广播。除前述内容之外,应注意,AVDD 12还可包括红外(IR)发射器和/或IR接收器和/或IR收发器42,诸如IR数据关联(IRDA)装置。可提供电池(未示出)以用于为AVDD 12供电。
此外,在一些实施方案中,AVDD 12可包括图形处理单元(GPU)44和/或现场可编程门阵列(FPGA)46。AVDD 12可以将GPU和/或FPGA用于例如人工智能处理,诸如根据本发明原理训练神经网络和执行神经网络的操作(例如推理)。然而,应注意,处理器24也可以用于人工智能处理,诸如处理器24可能是中央处理单元(CPU)。
仍参考图1,除AVDD 12之外,系统10还可包括一种或多种其他计算机装置类型,所述计算机装置类型可包括针对AVDD 12示出的部件中的一些或全部。在一个示例中,第一装置48和第二装置50被示出并且可以包括与AVDD 12的部件中的一些或全部类似的部件。可以使用比所示更少或更多的装置。
系统10还可以包括一个或多个服务器52。服务器52可以包括至少一个服务器处理器54、至少一个计算机存储器56(诸如基于磁盘的存储装置或固态存储装置)以及至少一个网络接口58,所述网络接口在服务器处理器54的控制下允许通过网络22与图1的其他装置通信,并且实际上可以根据本发明原理促进服务器、控制器和客户端装置之间的通信。应注意,网络接口58可为例如有线或无线调制解调器或路由器、Wi-Fi收发器或其他适当接口,诸如无线电话收发器。
因此,在一些实施方案中,服务器52可为互联网服务器并且可包括并执行“云”功能,使得系统10的装置可以在示例实施方案中经由服务器52访问“云”环境。或者,服务器52可由与图1中示出的其他装置在同一房间或在附近的游戏控制台或其他计算机来实现。
下文描述的装置可以结合上文描述的元件中的一些或全部元件。
现在参考图2,该图示出了导演200指向虚拟现实(VR)显示器202以控制电影布景内和/或跨多个电影布景的活动,一些演员可被远程定位在所述电影布景中。VR显示器202可以是安装在墙上的电视、计算机监视器,或者甚至是由导演200佩戴的VR头戴式耳机的平视显示器。
与本发明原理相符合,导演200的手和臂204的图像可以由在其视野内示出导演200的一个或多个相机采集,如果导演200佩戴了VR头戴式耳机,则该一个或多个相机可能包括VR头戴式耳机本身上的一个或多个面向外的相机。随后可以使用来自相机的图像来执行计算机视觉和/或手势识别,以跟踪和识别导演200用其右手的食指进行指向的手势,如所示出。
如图2中所示出,在第一时间T1处,导演200用食指指向如在VR显示器202上呈现的VR空间中表示的真实世界(RW)视频道具206,以向VR系统指示导演200正在提供针对道具206的输入。导演200随后可以如所示出那样从左向右逐渐移动他的右臂,同时用食指指向(或者根据需要指向另一方向),直到在稍后的时间T2处,导演的臂在指向道具206在VR空间中的期望虚拟位置时停止移动。虚拟位置可以对应于布景上的道具206应被放置在RW中的RW位置,以与也在布景上的一个或多个演员进行交互,以将针对道具206的RW演员动作转化成虚拟空间角色动作。在一些示例中,来自导演200的口头提示也可用于道具移动,诸如当导演200指向道具的期望虚拟位置时“将此道具移动到这里”。
在继续描述其他图之前,应注意,RW有形道具206可以是许多事物,包括真实世界无生命舞台对象,诸如桌子、椅子等。道具206也可以是“虚设”武器,诸如假枪或假剑。道具206也可以是人的剪影、表示地理特征的雕塑,或者在形状和可能的大小方面对应于VR空间中的虚拟对象(例如视频游戏对象)的任何元素等。
图3示出了符合本发明原理的用于根据导演命令来照亮电影布景的信标装置300。信标装置300可以包括硬件以传输或呈现可见信标,诸如激光束302。例如,激光束302可以与激光束302指向的表面上的点或位置304相交。
可以基于导演命令并且使用装置300内的马达或其他元件来引导激光束302,以便在RW中将激光朝向RW道具将被放置在的RW位置传输,以对应于导演期望道具306在VR空间中被展现的VR位置。同样如图3中所示出,道具306可以包括位置传感器308,诸如GPS收发器或者用于随时间进行位置跟踪的其他合适的位置传感器。传感器308还可以包括例如Wi-Fi或其他无线信号收发器,该无线信号收发器可用于基于与收发器通信的其他装置的已知位置,随时间在所有三个维度上对道具306的位置进行三角测量和跟踪。
蜂鸣器310也可以被包括在道具306上或者附接到该道具,并且可以是例如扬声器,该扬声器被配置成发出可听的“哔哔声”、其他可听声音,或者甚至是指示期望道具放置的可听计算机化口头指令。如果例如舞台管理员在最初放置或移动道具306时单独携带手机,则跟踪其相对于道具306的位置的单独的手机也可用于发出哔哔声或其他声音。但无论如何,随着随时间跟踪道具306朝向导演所指示的RW道具306将被放置的RW位置移动,呈现哔哔声的频率和/或音量可以例如逐渐且递增地增加。相反,随着随时间跟踪道具306远离导演所指示的RW道具306将被放置的RW位置移动,呈现哔哔声的频率和/或音量可以逐渐且递增地减小。随后,当道具306最终位于期望RW位置处时,蜂鸣器310可以产生与哔哔声相同音高的恒定噪声,并且/或者可以产生不同音高的音调,以指示道具306已位于期望RW位置处。
另外地或替代地,在一些实施方案中,蜂鸣器310还可以包括视频显示器,在该视频显示器上可以呈现视觉方向导引,诸如以三维(3D)箭头或其他视觉导引的形式。但无论在蜂鸣器310处呈现可听导引还是视觉导引,都应理解,该导引可以指导舞台管理员或其他人员最初朝向RW位置放置或移动道具306,使得道具306也在VR空间中被呈现在与RW位置关联的期望VR位置处。
还应注意,除了使用由蜂鸣器310产生的导引以外或者代替使用该导引,舞台管理员还可以基于舞台管理员在视觉上将激光束302识别为与建立位置304的表面相交而将道具306朝向位置304移动。
现在描述图4,该图以示例流程图格式示出了示例逻辑,该示例逻辑可以由一个或多个装置单独执行或者与本发明原理相符合地组合执行。例如,图4的逻辑可以由服务器或者将所记录的RW空间动作与VR空间角色动作相协调以反映VR空间中的动作的其他装置来执行。图4的逻辑也可以由与导演的VR头戴式耳机、显示器202、信标300和/或蜂鸣器310通信的另一装置来执行以实现本发明原理。
在任何情况下,该逻辑可以开始于框400处,其中该装置可以诸如从GPS收发器或道具上的其他位置收发器接收指示道具的当前位置的RW道具位置信号。该逻辑随后可以前进到框402,其中该装置可以接收道具在VR空间中的位置,例如,如在该装置处或其他地方运行的VR模拟引擎所促进,该VR模拟引擎将如RW中的一个或多个相机所捕获的RW空间坐标与VR空间坐标关联。
在框402之后,该逻辑可以前进到框404。在框404处,该装置可以接收导演在VR空间中对道具的移动,诸如导演在VR空间中虚拟地移动道具的表示以及/或者通过经由手势或口头提示来指定道具的VR表示应位于VR空间中的何处。此后,该逻辑可以前进到框406。
在框406处,当道具静止和/或在RW空间中移动时,该装置可以跟踪道具的RW位置。在框406之后,该逻辑可以前进到框408。在框408处,该装置可以生成和/或传输关于道具应位于RW空间中的何处以对应于导演所指示的VR位置的音频信号和视觉信号中的一者或两者。例如,在框408处,该装置可以控制装置300发出如上文所描述的激光,并且/或者控制蜂鸣器310呈现如上文所描述的可听辅助和视觉辅助。
继续参考图5的详细描述,该图示出了示例屏幕显示的示例屏幕截图500。例如,屏幕显示可以呈现在手机的显示器上,该手机诸如专用道具装置手机或者甚至智能手机。在蜂鸣器310包括视频显示器的实施方案中,屏幕截图500也可以呈现在上文描述的蜂鸣器310的视频显示器上。
在任何情况下,如图5中所示出,道具图像502可以使用来自相机的道具的实际图像或者使用道具的计算机生成的表示而呈现在屏幕显示上。屏幕显示还可以包括在屏幕显示上表示的位置指示504,该位置指示对应于道具本身应被移动到的RW舞台位置。
同样如图5中所示出,箭头506或其他图形指示符也可以作为屏幕显示的部分被呈现,并且在道具于RW空间中移动时被实时调整,以指示相对于道具的当前位置道具应被移动到的位置。因此,箭头506可以以3D形式呈现在屏幕显示上,以指向指示504,从而在舞台管理员移动道具时引导他/她从道具的与图像502关联的当前RW位置到达导演的期望道具位置的如与指示504关联的RW位置。
图6至图9进一步示出了符合本发明原理的使得导演能够命令真实世界道具(真实世界无生命舞台对象,诸如桌子、椅子等)在一个或多个工作室或舞台中移动。在此示例中,假设通过使用工作室中的相机对道具进行成像或者通过从诸如道具上的全球定位卫星(GPS)接收器的位置接收器接收例如道具的位置信息来跟踪真实世界道具。
图6示出了导演计算机604上的虚拟空间中的真实世界道具的图像600。操作导演计算机604的导演可以使用语音命令以及/或者呈现在计算机604的显示器上的选择器元素602来移动图像600,以使得命令能够被传输到图7中所示出并且位于对应于图像600的道具所定位的真实位置处的舞台管理员装置700。舞台管理员装置700可以是便携式计算机,诸如蜂窝电话或平板电脑,或者可包括例如有机发光二极管(OLED)显示器的其他适当的装置。
该命令包括道具的位置信息,可以根据该位置信息将道具的图像702放置在虚拟空间中,并且呈现在舞台管理员装置700上。如704处所指示,导演命令以图形和/或文本和/或可听的方式呈现在舞台管理员显示器上,以在706处指示道具的期望新位置。当真实世界道具被移动时,如本文中所讨论那样跟踪该真实世界道具,并且其在虚拟空间中的位置呈现在导演计算机604和舞台管理员装置700两者上,使得导演和舞台管理员都可以监视道具在虚拟空间中的移动,直到该道具位于期望位置706处为止。
图8进一步反映了上述讨论。在框800处,舞台管理员装置700从导演计算机604接收导演命令。移动到框802,道具的图像以可听和/或可见的方式呈现在舞台管理员显示器上。当道具被移动时,在框804处,该道具的真实世界位置被跟踪并被转换到虚拟空间,而在框806处,道具移动的反馈被发送到导演计算机604,并且在舞台管理员装置700上进行更新,诸如通过更新道具在相应显示器上的图像600、702的虚拟位置。
图9示出了导演可以选择向舞台管理员给出反馈,以在真实世界中对道具进行定位以到达导演的期望位置。导演计算机604可以呈现道具在初始位置处的图像900、道具在其正被移动时的当前位置中的图像902,以及道具在期望位置中的图像904,其中提供输入元素906以允许导演输入并传输命令以使舞台管理员继续在所指示的方向上移动道具,例如使用对应于建立元素906的各种箭头的上、下、左和右命令。
现在描述图10,该图示出了可以呈现在被配置成与本发明原理相符合地进行操作的装置或系统的显示器上的示例设置图形用户界面(GUI)1000。例如,GUI 1000可以呈现在导演计算机604、导演的头戴式耳机或所连接的膝上型计算机、远程定位的服务器或者与本发明原理相符合地控制信标使用的另一装置的显示器上。应注意,将在下文讨论的每个选项可以通过将触摸或光标输入指向与相应选项相邻的复选框来选择。
如图10中所示出,GUI 1000可以包括第一选项1002,该第一选项可以是可选择的,以设置或启用VR装置或系统来实现本发明原理。例如,可以选择选项1002以将一个或多个装置设置或配置成执行图4和/或图8的逻辑,以呈现或传输如本文中所公开的信标以及实现上文描述的其他功能。图10还示出了GUI 1000可以包括第二选项1004,该第二选项可以是可选择的,以设置或启用装置或系统来专门使用符合本发明原理的可听信标。GUI 1000还可以包括第三选项1006,该第三选项可以是可选择的,以设置或启用装置或系统来专门使用符合本发明原理的视觉信标,诸如如本文中描述的激光和屏幕显示。
因此,可以基于前述附图的描述而了解,可以促进VR指导和/或远程拍摄,使得导演可以从导演或虚拟场景内的游戏玩家的视角看到虚拟场景本身,并且获得演员在环境中的空间感。在一些示例中,除了导演使用VR头戴式耳机来查看VR场景并且指定道具放置/位置以外,或者代替导演使用VR头戴式耳机来查看VR场景并且指定道具放置/位置,导演还可以使用具有远程控制器的RW装备来“持有”虚拟空间中的相应虚拟装备,并且看到VR场景中的相应视角,以便四处移动VR装备,并且因此使导演的VR第一人称视角在虚拟空间中四处移动。在一些示例中,导演甚至会“拿起”VR装备并且将其放在他/她想要的地方,并且随后放开它,使得向导演表示的VR视角被展现为VR装备在处于指定位置时VR装备上现在静止的虚拟相机的视角。
无论哪种方式,在看到虚拟相机在VR场景内的视角时,导演随后都可以与舞台管理员以及位于各种远程定位的舞台处的其他助手通信,对于这些远程定位的舞台,在舞台处执行的RW动作将被合并到单个VR场景中,以便给出道具放置的指令。在一些示例中,可以对具有输入层、输出层以及其间的一个或多个隐藏层的人工神经网络(ANN)进行编码,以监听导演的命令,并且基于此而向舞台管理员呈现方向辅助。因此,语音命令、RW道具位置和道具的对应VR位置可以在训练期间作为输入被提供给ANN,以训练ANN以可听的哔哔声、激光、屏幕显示等形式输出方向辅助,如本文中所公开。
因此,本公开可以有助于导演不仅记录帮助创建VR场景的各种演员的表演,而且还记录或呈现导演的视角的能力,并且帮助增强导演与在VR空间中对应于RW空间中的RW道具的虚拟对象进行交互的能力。所生成的数据、交互等随后可用于后处理,以将来自远程定位的舞台的所记录的RW场景合并到单个VR场景中。
在此情况下,导演的虚拟相机(例如导演在VR场景内的视角)可以通过移动导演的RW相机或者通过切换到不同的RW相机来改变,使得导演在处于VR场景内部时可以看到虚拟“布景”(例如VR场景本身),在演员基于他们所跟踪的RW移动而在场景内虚拟地四处移动时看到演员在VR场景内的位置,并且甚至可以看到道具的如由VR系统跟踪的位置,使得导演将知晓道具何时处于导演的期望虚拟位置处。
这可以由导演在沉浸于VR场景中时,使用他/她的RW臂点击或指向他/她想要道具位于VR场景中的位置来完成。位于RW物理布景中的一个RW物理布景上的导演助手随后可以得到音频和/或视觉导引,以将他们引导到对应于VR场景内的位置的被指向的RW舞台位置,从而在助理更接近与导演期望的道具位置的VR坐标相匹配的正确RW坐标时帮助助理,同时有可能补偿RW空间与对应VR空间之间的XYZ维度偏移。因此,可以向助手给出反馈,以在RW舞台上将道具定位在导演的期望位置处。
因此,在为道具建立新的静态位置的一些示例中,反馈可以呈具有显示屏幕的手机的形式,该显示屏幕指示将把RW道具移动到何处以将其放置在导演希望的位置。助手也可以使用音频听筒或其他类型的扬声器在RW空间中将道具导航到导演的期望位置。
另外地或替代地,在一些示例中,无人机或其他装置本身可以在RW中自主导航,并且穿过空中到达期望道具位置。助手随后可以将道具本身带到无人机的在期望道具位置处的位置,并且在该位置处使用道具替换无人机。
因此,符合本发明原理的信标可以采取各种形式来告诉助手(或其他人员)导演对道具的期望VR位置的坐标位于布景的对应真实空间中的何处。因此,导演可以沉浸在VR场景中并看着VR场景(例如使用VR头戴式耳机),并且说出如“我认为这块石头需要在这里”的话。该系统可以使用数字助理、自然语言理解和/或语音识别技术来识别导演的话语,并且识别出该话语是在导演点击、指向或以其他方式选择该石头(例如使用VR控制器在虚拟空间中选择该石头)时说出的。基于这两个输入,VR系统可以命令可能处于偏移位置的如手机的另一装置使用振动器发出嗡嗡声,以指示导演已经建立石头应被放置的坐标。助手随后可能会注意到这一点,拿起手机,并且使用手机呈现的箭头或其他导引来拿起RW石头本身,并且将RW石头导航到布景或舞台上与导演所建立的坐标相对应的RW地点。
如果石头的位置仍然不是导演希望的,则导演可以说“向左移动”、“向右移动”等等,并且可以将额外的提示提供给手机以进一步导引助手。或者导演可以再次点击或选择对应于他/她希望放置石头(或其他道具)的RW位置的虚拟空间位置。
应了解,虽然已经参考一些示例实施方案描述了本发明原理,但这些实施方案并不意图进行限制,并且可使用各种替代布置来实现本文所要求保护的主题。
Claims (20)
1.一种设备,其包括:
至少一个处理器,所述至少一个处理器编程有指令以:
在虚拟现实(VR)空间中识别视频道具期望被定位的位置;以及
在真实世界(RW)空间中朝向对应于VR空间中所述视频道具将被定位的所述位置的RW位置传输至少一个信标。
2.如权利要求1所述的设备,其中所述信标包括可见信标。
3.如权利要求2所述的设备,其中所述信标包括激光束。
4.如权利要求1所述的设备,其中所述指令能够执行以:
识别所述道具在所述RW中随时间的位置。
5.如权利要求4所述的设备,其中所述指令能够执行以:
至少部分地基于所述道具在所述RW中的所述位置来传输所述信标。
6.如权利要求1所述的设备,其中所述信标包括可听声音。
7.如权利要求1所述的设备,其中所述信标包括手机上的屏幕显示。
8.一种装置,其包括:
至少一个计算机存储装置,所述至少一个计算机存储装置不是瞬时信号并且包括指令,所述指令能够由至少一个处理器执行以:
在虚拟现实(VR)空间中接收虚拟位置的指示;以及
在真实世界(RW)中传输指示所述虚拟位置的信标。
9.如权利要求8所述的装置,其中所述虚拟位置是RW道具的期望位置。
10.如权利要求8所述的装置,其中所述信标包括可见信标。
11.如权利要求10所述的装置,其中所述信标包括激光束。
12.如权利要求8所述的装置,其中所述指令能够执行以:
识别所述道具在所述RW中随时间的位置。
13.如权利要求12所述的装置,其中所述指令能够执行以:
至少部分地基于所述道具在所述RW中的所述位置来传输所述信标。
14.如权利要求8所述的装置,其中所述信标包括可听声音。
15.如权利要求8所述的装置,其中所述信标包括手机上的屏幕显示。
16.一种计算机实现的方法,其包括:
指示虚拟空间中对象期望被定位的位置;以及
在真实世界(RW)中呈现指向对应于虚拟位置的RW位置的信标。
17.如权利要求16所述的方法,其中所述信标包括可见信标。
18.如权利要求16所述的方法,其包括:
识别所述对象在所述RW中随时间的位置。
19.如权利要求16所述的方法,其包括:
至少部分地基于所述对象在所述RW中的所述位置来呈现所述信标。
20.如权利要求16所述的方法,其中所述信标包括可听声音。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US17/106,992 | 2020-11-30 | ||
US17/106,992 US11527046B2 (en) | 2020-11-30 | 2020-11-30 | Real world beacons indicating virtual locations |
PCT/US2021/061100 WO2022115743A1 (en) | 2020-11-30 | 2021-11-30 | Real world beacons indicating virtual locations |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116940966A true CN116940966A (zh) | 2023-10-24 |
Family
ID=81751472
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202180078666.7A Pending CN116940966A (zh) | 2020-11-30 | 2021-11-30 | 指示虚拟位置的真实世界信标 |
Country Status (5)
Country | Link |
---|---|
US (1) | US11527046B2 (zh) |
EP (1) | EP4252195A1 (zh) |
JP (1) | JP2023551665A (zh) |
CN (1) | CN116940966A (zh) |
WO (1) | WO2022115743A1 (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11527045B2 (en) | 2020-07-27 | 2022-12-13 | Shopify Inc. | Systems and methods for generating multi-user augmented reality content |
US11935202B2 (en) * | 2022-05-25 | 2024-03-19 | Shopify Inc. | Augmented reality enabled dynamic product presentation |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2012151395A2 (en) * | 2011-05-03 | 2012-11-08 | Ivi Media Llc | Providing an adaptive media experience |
CN111742560B (zh) * | 2017-09-29 | 2022-06-24 | 华纳兄弟娱乐公司 | 向用户提供影视内容的方法和装置 |
US10497182B2 (en) * | 2017-10-03 | 2019-12-03 | Blueprint Reality Inc. | Mixed reality cinematography using remote activity stations |
US10630870B2 (en) * | 2018-06-20 | 2020-04-21 | Gdc Technology (Shenzhen) Limited | System and method for augmented reality movie screenings |
-
2020
- 2020-11-30 US US17/106,992 patent/US11527046B2/en active Active
-
2021
- 2021-11-30 JP JP2023531042A patent/JP2023551665A/ja active Pending
- 2021-11-30 EP EP21899206.3A patent/EP4252195A1/en active Pending
- 2021-11-30 WO PCT/US2021/061100 patent/WO2022115743A1/en active Application Filing
- 2021-11-30 CN CN202180078666.7A patent/CN116940966A/zh active Pending
Also Published As
Publication number | Publication date |
---|---|
JP2023551665A (ja) | 2023-12-12 |
US20220172437A1 (en) | 2022-06-02 |
US11527046B2 (en) | 2022-12-13 |
EP4252195A1 (en) | 2023-10-04 |
WO2022115743A1 (en) | 2022-06-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11669298B2 (en) | Virtual and real object recording in mixed reality device | |
US10445941B2 (en) | Interactive mixed reality system for a real-world event | |
US11087551B2 (en) | Systems and methods for attaching synchronized information between physical and virtual environments | |
CN107205202B (zh) | 用于产生音频的系统、方法和设备 | |
JP2020501265A (ja) | 対話型拡張現実表示を表示するためのシステム、方法、及び媒体 | |
JP6447844B2 (ja) | オーディオ空間効果のための超音波スピーカアセンブリ | |
US20130127907A1 (en) | Apparatus and method for providing augmented reality service for mobile terminal | |
CN116940966A (zh) | 指示虚拟位置的真实世界信标 | |
US20220248162A1 (en) | Method and apparatus for providing audio content in immersive reality | |
CN111699529A (zh) | 用于社交虚拟现实(vr)的面部动画 | |
EP3264228A1 (en) | Mediated reality | |
US20230218984A1 (en) | Methods and systems for interactive gaming platform scene generation utilizing captured visual data and artificial intelligence-generated environment | |
US20210405739A1 (en) | Motion matching for vr full body reconstruction | |
KR20230070308A (ko) | 웨어러블 장치를 이용한 제어가능한 장치의 위치 식별 | |
JP7462069B2 (ja) | 複数のカメラからの合成入力を使用してビデオを生成するための仮想カメラ位置のユーザ選択 | |
TWI628634B (zh) | 互動式教學系統以及方法 | |
US20220180664A1 (en) | Frame of reference for motion capture | |
CN116941234A (zh) | 用于运动捕捉的参考系 | |
CN116206090A (zh) | 基于虚拟现实空间的拍摄方法、装置、设备及介质 | |
CN117940976A (zh) | 游戏根据装置能力的自适应渲染 | |
CN118338237A (zh) | 用于在沉浸式现实中提供音频内容的方法和装置 | |
TWM530455U (zh) | 互動式教學系統 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |