CN112740147A - 特效通信技术 - Google Patents

特效通信技术 Download PDF

Info

Publication number
CN112740147A
CN112740147A CN201980063711.4A CN201980063711A CN112740147A CN 112740147 A CN112740147 A CN 112740147A CN 201980063711 A CN201980063711 A CN 201980063711A CN 112740147 A CN112740147 A CN 112740147A
Authority
CN
China
Prior art keywords
user
special effects
communication system
data set
location
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201980063711.4A
Other languages
English (en)
Inventor
C·M·瓦莫斯
B·R·本恩
G·C·海恩斯
R·M·保罗
J·A·海尔
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Universal City Studios LLC
Original Assignee
Universal City Studios LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Universal City Studios LLC filed Critical Universal City Studios LLC
Publication of CN112740147A publication Critical patent/CN112740147A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63JDEVICES FOR THEATRES, CIRCUSES, OR THE LIKE; CONJURING APPLIANCES OR THE LIKE
    • A63J5/00Auxiliaries for producing special effects on stages, or in circuses or arenas
    • A63J5/02Arrangements for making stage effects; Auxiliary stage appliances
    • A63J5/023Arrangements for making stage effects; Auxiliary stage appliances for making fire and flame simulations
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63JDEVICES FOR THEATRES, CIRCUSES, OR THE LIKE; CONJURING APPLIANCES OR THE LIKE
    • A63J21/00Conjuring appliances; Auxiliary apparatus for conjurers
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63JDEVICES FOR THEATRES, CIRCUSES, OR THE LIKE; CONJURING APPLIANCES OR THE LIKE
    • A63J5/00Auxiliaries for producing special effects on stages, or in circuses or arenas
    • A63J5/02Arrangements for making stage effects; Auxiliary stage appliances
    • A63J5/025Devices for making mist or smoke effects, e.g. with liquid air
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09FDISPLAYING; ADVERTISING; SIGNS; LABELS OR NAME-PLATES; SEALS
    • G09F19/00Advertising or display means not otherwise provided for
    • G09F19/12Advertising or display means not otherwise provided for using special optical effects
    • G09F19/18Advertising or display means not otherwise provided for using special optical effects involving the use of optical projection means, e.g. projection of images on clouds
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/141Systems for two-way working between two video terminals, e.g. videophone
    • H04N7/142Constructional details of the terminal equipment, e.g. arrangements of the camera and the display
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/141Systems for two-way working between two video terminals, e.g. videophone
    • H04N7/147Communication arrangements, e.g. identifying the communication as a video-communication, intermediate storage of the signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/15Conference systems
    • H04N7/157Conference systems defining a virtual conference space and using avatars or agents
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor

Abstract

特效通信系统10可以包括在第一位置处的相机系统,其基于在第一位置处的第一用户的一个或多个图像或印象来生成第一数据集。特效通信系统10还可以包括通信地耦合到相机系统的控制系统66和特效系统68。当第一用户存在于第一位置处时,控制系统66可以接收对应于存在于第二位置处的第二用户或对应于一个或多个位置处的一个或多个用户的第二数据集。控制系统66还可以提供一个或多个控制信号,以使得第一位置处的特效系统68生成特效,以使用特效材料和/或介质呈现第二用户的视觉和/或听觉模拟像。

Description

特效通信技术
技术领域
本公开总体上涉及通信技术,并且更具体地涉及用于向通信系统的用户提供沉浸式和/或变换式(transformative)通信体验的系统和方法。
背景技术
许多通信系统准许第一用户与在不同位置处的第二用户通信。在对话的过程中,第一用户可以与第二用户说话,并且在一些情况下,可以经由音频和视频通信设备视觉地和听觉地与第二用户通信。即使通信系统准许这些用户彼此通信,通信系统也可能不向用户提供沉浸式通信体验。随着现代电子器件和通信技术的增加的精致化和复杂性,期望改进的和更加沉浸式的和/或变换式的通信体验。
发明内容
下面概述了与最初要求保护的主题在范围上相称的某些实施例。这些实施例不旨在限制所要求保护的主题的范围,而是这些实施例仅旨在提供主题的可能形式的简要概述。实际上,主题可以涵盖可以与下面阐述的实施例类似或不同的多种形式。
在实施例中,特效通信系统可以包括在第一位置处的相机系统,其基于在第一位置处的第一用户的一个或多个图像生成第一数据集。特效通信系统还可以包括在第一位置处使用特效材料生成特效的特效系统。特效通信系统还可以包括通信地耦合到相机系统和特效系统的控制系统。当第一用户存在于第一位置处时,控制系统可以接收对应于存在于第二位置处的第二用户的第二数据集。控制系统还可以提供基于的一个或多个控制信号,以使得第一位置处的特效系统使用特效材料生成特效,以呈现第二用户的模拟像(likeness)。
在另一个实施例中,特效通信系统可以包括捕获在第一位置处的第一用户的一个或多个图像的相机系统和通信电路。通信电路可发射对应于第一用户的一个或多个图像的第一数据集,并且从目的地设备接收对应于第二位置处的第二用户的一个或多个图像的第二数据集。特效通信系统还可以包括基于第二数据集生成一个或多个控制信号以驱动物理介质的三维操纵来呈现第二用户的模拟像的特效系统。
在又一个实施例中,一种方法可以包括捕获包括与第一位置相关联的第一音频数据和第一图像数据的第一数据集,并建立与控制所有效果系统的起点设备或中央设备的通信链接。所述方法还可以包括将第一数据集发射到起点设备,并且在发射第一数据集的同时,接收包括与第二位置相关联的第二音频数据以及第二图像数据的第二数据集。所述方法还可以包括至少部分地基于第二数据集生成一个或多个控制信号,并且至少部分地基于一个或多个控制信号来驱动物理介质的三维操纵。
附图说明
当参考附图阅读下面的具体实施方式时,本发明的这些和其它特征、方面和优点将变得更好理解,在所述附图中,贯穿附图,相同的字符表示相同的部分,其中:
图1是根据本公开的各方面的第一特效通信系统的图示,该第一特效通信系统将第一用户的模拟像发射到第二特效通信系统,该第二特效通信系统接收并结合一个或多个特效显示第一用户的模拟像;
图2是根据本公开的各方面的图1的第一特效通信系统的图示,该第一特效通信系统接收并显示第二用户的模拟像,同时发射结合一个或多个特效的第一用户的模拟像;
图3是根据本公开的各方面的图1的第二特效通信系统的图示,该第二特效通信系统接收第一用户的模拟像,同时发射结合一个或多个特效的第二用户的模拟像;
图4是根据本公开的各方面的图1的第二特效通信系统的实施例的图示,该第二特效通信系统接收并显示第一用户的模拟像,同时发射结合一个或多个特效的第二用户的模拟像;
图5是根据本公开的各方面的图1的特效通信系统的框图;以及
图6是根据本公开的各方面的用于提供沉浸式和/或变换式通信系统的过程的流程图。
具体实施方式
下面将描述本公开的一个或多个具体实施例。为了提供这些实施例的简明描述,在说明书中可能不描述实际实现方式的所有特征。应当认识到,在任何这样的实际实现方式的开发中,如在任何工程或设计项目中,可做出许多特定于实现方式的决策以实现开发者的具体目标,诸如符合系统相关和商业相关的约束,该约束可因实现方式而异。此外,应当认识到,这样的开发努力可能是复杂且耗时的,但是尽管如此,对于受益于本公开的普通技术人员而言,这将是设计、制作和制造的例行任务。
通信系统可以包括各种各样的通信体验,诸如即时消息传送能力、将表情符号添加到句子中以传达感觉或情感的能力、视频通信选项等。这些不同的通信体验可以增强关于通信系统的用户体验。例如,表情符号可以经由仅基于文本的通信系统来促进情感通信,从而通过增强用户与不同用户之间的对话来增强关于通信系统的用户体验。然而,这些通信系统可以继续提供子沉浸式通信体验。因此,可能期望向通信系统的用户提供沉浸式和/或变换式通信体验,以改进用户之间的对话质量和整体用户体验。
因此,本公开涉及利用材料致动、传感器数据和/或特效来改进对话质量并增强通信系统的用户之间的用户体验的系统和方法。更特别地,本公开涉及包括一个或多个捕获和显示系统(例如,图像、视频或空间捕获系统、投影系统)的特效通信系统。捕获和投影系统可以促进改进用户之间的对话质量,并且可以使第一用户沉浸在第二用户的相应环境中,所述第一用户和所述第二用户与所述环境通信。通过使用户沉浸到那些用户正在与之通信的用户的环境中,第一位置处的第一用户可以至少部分地体验沉浸在与第二用户(所述第一用户与所述第二用户进行对话)对应的第二位置中的幻视。以此方式,第二用户可以接收第一用户的投影或印象以改进通信并且(例如,通过使第二用户至少部分地相信第一用户处于与第二用户交互的环境中)使第二用户进一步沉浸在对话中。例如,如果第一用户在草原中,则第二用户不仅可以使用音频/视频通信来体验草原的景象和声音,而且特效通信系统还可以触发用于第二用户的风和嗅觉效果,风和嗅觉效果提供以下幻视:第一用户的环境的一部分已经与它们一起迁移并且第一用户物理地存在而不仅仅是经由远程位置处的音频/视觉显示器可见。
在一个实施例中,起点处的特效通信系统建立与目的地设备(例如,第二特效通信系统)的通信链接。响应于所建立的通信链接,起点特效通信系统或目的地特效通信系统中的一个或两个可以将音频数据、图像数据以及,在实施例中,附加传感器数据发射到彼此,以传达和传送其相应用户的模拟像(例如,视觉描绘以及相关联的音频和/或环境条件)。音频数据与图像数据基本上同时地并且结合一个或多个特效被发射和呈现(例如,大声播放),以向特效通信系统的一个或两个用户提供沉浸式和/或变换式通信体验。此外,可以以增强并发特效的方式显示或投影用户中的一个或两个(即,起点或目的地)的模拟像。例如,特效通信系统的用户的模拟像可以通过操纵火、水、烟云、油灰、体积显示器和/或全息显示器或任何合适的物理材料或介质在起点或目的地设备处生成,以向目的地设备的用户呈现模拟像。在这些示例中,由特效通信系统生成的附加传感器数据和/或特效可以传达物理介质的温度或质量,该物理介质诸如针对水的烟雾和冷空气或针对火的暖空气和附加音频(例如,噼啪声)。此外,一些实施例可以基于图像数据生成多种控制信号。控制信号可以用于操纵物理介质和/或用于部件的致动。例如,多个撑杆或气囊(例如,包含在塑料内的空气)可以响应于控制信号而被致动和改变,其中在一些实施例中,利用柔性和/或弹性材料(例如,橡胶皮、织物、皮革)包覆多个撑杆或气泡。以此方式,柔性材料被形成并且看起来响应于基于控制信号的致动而移动,并且可以用于传送与特效通信系统的用户相关联的(例如,与头部移动和/或面部表情相关联的、与说话相关联的)运动,以提供与在物理介质中表现的用户的化身说话的幻视。
如可以认识到的,在一些实施例中,目的地设备可能不具有用户,并且因此可以将目的地设备的外界周围环境的模拟像发射到特效通信系统。例如,与空房间相关联的模拟像可以被发射到特效通信系统以用于呈现给对应的用户。如还可以认识到的,发起通信链接的特效通信系统可以不呈现特效。相反,充当目的地设备的特效通信系统可以呈现特效。
在某些实施例中,所公开的特效通信系统被提供在诸如游乐园或主题公园之类的娱乐场所内。主题公园提供可以与增强沉浸式和/或变换式体验的难忘的效果相关联的受控环境。也就是说,特定景点环境可以具有冰、火、烟、光和其它感官主题元素,这些感官主题元素至少部分地针对特效通信系统的用户重做,以向用户提供在环境中和/或与环境中的个人通信的感觉。因此,在作为娱乐叙述的部分并且增强用户的沉浸式和/或变换式娱乐体验的特效的上下文中公开了本公开的某些实施例。在一个实施例中,用户可以采用与主题公园内的景点相关联的角色,诸如具有不同物理特征并且在虚构行星环境中操作的外星人。因此,通信效果和特效被选择并一致操作以增强期望的叙述。应当理解,可以选择通信效果和特效以适合其它叙述环境,并且所描绘的外星人叙述仅作为示例。
现在转到附图,图1是包括一个或多个特效通信系统10(例如,第一特效通信系统10A)的系统20的实施例的图示。第一特效通信系统10A可以包括一个或多个捕获和显示系统12(例如,捕获/显示系统12),其捕获位于第一特效通信系统10A的位置处的并且用于传输到第二特效通信系统10B的第一用户的模拟像。在所描绘的示例中,第一用户被定位在增强第一用户将被运输到第二位置的叙述的平台上。第二位置处的第二特效通信系统10B可以接收指示第一用户的模拟像的数据集,并且可以操作以使用该数据集呈现图像14,从而向第二用户显示或以其它方式传送第一用户的模拟像。图像14可以与如本文中所提供的支持特效一致地呈现。此外,取决于期望的叙述或幻视效果,系统20可以处理或改变模拟像以向第二用户呈现幻视。例如,图像可以呈现在边缘处被拉伸或逐渐消失的第一用户的面部的特征,以增强全息显示或用户正被传输到光束中的幻视。在其它实施例中,所显示的图像可以基于来自第一用户的提取的面部特征。系统20可以将这些提取的特征并入类似于用户的期望的角色化身(例如,来自叙述的角色)的一部分。某些角色化身可以与诸如在一团烟中出现/消失之类的特定特效相关联,并且化身的图像的显示和特效的触发(例如,投影周围的烟的释放)的组合可以增强通信的某些叙述特征。在所描绘的实施例中,用户在目的地侧或第二特效通信系统10B处被表现或呈现为外星人,并且被烟云束特效包围。
从第一特效通信系统10A发射到第二特效通信系统10B的第一用户的模拟像可以包括任何合适的数字数据和/或模拟数据,以传送第一用户的外表和/或存在,所述数字数据和/或模拟数据包括但不限于图像数据、音频数据、传感器数据等。以此方式,与第一用户对应的图像数据可以由第二特效通信系统10B与音频数据、传感器数据或任何其它合适的数字数据和/或模拟数据基本上同时地发射,以将第一用户的外表和/或存在传送给第二用户。类似地,第二特效通信系统10B可以捕获第二用户的模拟像并将其发射给第一用户。
如所描绘的,第一用户位于第一特效通信系统10A内或邻近第一特效通信系统10A。响应于检测到第一用户的存在,第一特效通信系统10A可以建立与第二特效通信系统10B的通信链接(例如,发起的通信)。当在特效通信系统10之间建立通信链接时,在特效通信系统10之间发射用户中的一个或两个的模拟像。以此方式,第一特效通信系统10A接收与第二用户的模拟像相关联的数据,同时将第一用户的模拟像发射到第二特效通信系统10B。在特效通信系统10(例如,10A、10B)之间发射的数据可以包括用于提供特效的数据,诸如用于向用户之一传送与每个相应用户的位置对应的外界环境温度的温度传感器数据。可以作为输入提供给特效子系统的数据的其它示例可以包括位置跟踪数据、湿度或水分数据、压力数据、用于传送环境条件的任何合适的数据等。
第一特效通信系统10A和第二特效通信系统10B可以经由系统20的实时图形引擎16C发射一个或多个数据集。一个或多个数据集还可以包括多种合适的元数据,包括目的地标识符、源标识符、幻视标识符等,以促进数据集的传输和/或处理,来为一个或多个用户提供沉浸式和/或变换式娱乐体验。实时图形引擎16C、第一特效通信系统10A和/或第二特效通信系统10B可以各自包括处理电路和存储电路,以处理在特效通信系统10之间发送的一个或多个数据集。处理电路可以用于运行程序、执行指令、解释输入、生成控制信号和/或其它类似功能。存储电路可用于存储数据、程序、指令等。在其它实施例中,处理和存储功能性可以至少部分地驻留在中央控制器上。此外,在一些实施例中,特效通信系统10可以各自包括实时图形引擎16(例如,16A、16B)中的相应的实时图形引擎。以此方式,特效通信系统10之一可以在将一个或多个数据集发射到特效通信系统10中的另一个之前使用实时图形引擎16对一个或多个数据集进行更改、处理、修改、调整等。
数据集(例如,音频数据、图像数据和附加传感器数据)可以经由通信网络18在部件之间发射。通信网络18可以包括任何数量的输入/输出(I/O)接口和/或网络接口。这样的通信网络可以实现多种有线或无线网络上的数据传输,该有线或无线网络诸如个域网(PAN)(诸如蓝牙)、局域网(LAN)或无线局域网(WLAN)(诸如Wi-Fi)和/或用于广域网(WAN)(诸如蜂窝网络)。在一些实施例中,第二特效通信系统10B的存储电路可以在将数据集发射到第一特效通信系统10A之前存储一个或多个数据集达一段时间。以此方式,在一些实施例中,第一特效通信系统10A可以向第一特效通信系统10A的用户提供预先记录的收听和/或观看体验。
在一些实施例中,第二特效通信系统10B包括特效系统,该特效系统使用特效材料(例如,物理材料)来将第一用户的模拟像生成到某处上、到某处中或到某处外,或创建第一用户的模拟像。与经由第二特效通信系统10B提供第一用户的三维模拟像相关联的数据可以由第一特效通信系统10A或由实时图形引擎16生成并且被发射到第二特效通信系统10B,或者由第二特效通信系统10B响应于来自第一特效通信系统10A的接收的数据而实时地生成。例如,第二特效通信系统10B可以接收一个或多个控制信号以操纵物理材料,诸如改变激光或烟云的输出,以生成第一用户的描绘。如所描绘的,第二特效通信系统10B提供投影到烟云屏幕或烟云束中的第一用户的描绘,然而,应当理解,任何合适的物理材料可以与光输出(例如,投影系统)组合使用,以提供第一用户的三维或二维图像。例如,可以使用火、水、烟云、烟、油灰等作为物理材料。通常,第一用户和/或第二用户的模拟像可以基于用户的一个或多个图像和/或印象而被修改为一个或多个幻视的部分。
图2图示了通常从第一用户的角度获取的第一特效通信系统10A的示例。如所描绘的,第一特效通信系统10A已经建立了与第二特效通信系统10B的通信链接,并且因此正在接收第二用户的模拟像。如上所讨论,在接收第二用户的模拟像时,第一特效通信系统10A通过发射从相机传感器、音频传感器和任何合适的附加传感器的组合收集的数据来同时捕获和发射第一用户的模拟像。
第一特效通信系统10A可以接收和发射音频数据、图像数据和/或附加传感器数据,以接收和发射用户的模拟像。音频数据可以由第一特效通信系统10A内部的处理电路或通过通信网络18通信地耦合到第一特效通信系统10A的其它合适的电路来解释。在接收到音频数据时,第一特效通信系统10A可以处理(例如,以改进信号完整性或准备音频数据以用于输出)音频数据并将音频数据(例如,经由扬声器)呈现给第一用户,以促进第一用户和第二用户之间的通信。该处理基于要呈现给第一用户的第二用户的模拟像促进幻视。以此方式,如所描绘的,作为幻视或以变形的方式(例如,具有变形的或不同特征(诸如具有受影响的语音)的发出由滤波、话音识别译音(transliteration)等产生的一个或多个非人类声音的不是人类的外星人)向第一用户描绘第二用户(例如,人类)。
类似地,图像数据可以由第一特效通信系统10A内部的处理电路接收和/或解释,或者由通过通信网络18通信地耦合到第一特效通信系统10A的其它合适的电路(诸如实时图形引擎16)接收和/或解释。该处理电路可以接收图像数据并且生成一个或多个控制信号以使得向第一用户呈现第二用户的模拟像(例如,呈现示例28)。这些控制信号可以控制像素、投影系统、物理介质等,以准许到任何合适的物理材料或光中的、到任何合适的物理材料或光上的或到任何合适的物理材料或光外的第二用户的模拟像的呈现。此外,可以至少部分地基于附加传感器数据来生成这些控制信号。例如,附加传感器数据可以传送第二用户相对于第二特效通信系统10B的捕获/显示系统12B的定向,并且因此可以用于改变向第一用户呈现第二用户的模拟像的方式。附加传感器数据还可以用于促进第一特效通信系统10A内的特效,诸如以动态地调整与被生成以触及第一用户的烟雾相关联的温度输出。
如所描绘的,捕获/显示系统12A在处于第一特效通信系统10A内或非常接近于第一特效通信系统10A时捕获第一用户的一个或多个图像。第一特效通信系统10A同时发射和接收音频数据、图像数据和/或附加传感器数据,以使得第一用户能够与第二用户通信。响应于所接收的图像数据和附加传感器数据,第一特效通信系统10A的捕获/显示系统12A操作来与从第二用户输出音频数据基本上同时地呈现第二用户的模拟像。此外,特效系统30A可以在所接收的音频数据和图像数据的输出期间基本上同时地输出一个或多个特效,其中该一个或多个特效促进在一个位置处的外界环境到第一用户的通信。以此方式,第一特效通信系统10A操作以向第一用户提供沉浸式和/或变换式通信体验。特效系统30可以驱动特效材料或物理介质(例如,水、烟云、烟、火、油灰等)的操纵,并且结合其它感官效果(诸如增强期望的幻视的触觉、光和/或声音效果)。
当第一用户正在使用第一特效通信系统10A时,第二用户可以使用第二特效通信系统10B。图3是通常从第二用户的角度获取的第二特效通信系统10B的示例的图示。如所描绘的,第二特效通信系统10B已经建立了与第一特效通信系统10A的通信链接,并且因此正在接收第一用户的模拟像。如上所讨论,在接收第一用户的模拟像时,第二特效通信系统10B通过发射从相机传感器、音频传感器和任何合适的附加传感器的组合收集的数据来同时捕获和发射第二用户的模拟像。
第二特效通信系统10B可以包括捕获和显示系统12B和特效系统30B。尽管两个特效通信系统10都可以包括特效系统30,但是应当理解,在任何给定时间,特效可以与一个用户的模拟像一起传送。在向第二用户呈现到物理介质中、到物理介质上或到物理介质外的投影的同时,可以向第一用户发射特效。在一些实施例中,可以经由每个特效通信系统10同时地发射一个或多个特效。因此,在一些实施例中,两个特效通信系统10可以不同时向相应用户发射特效。然而,在一些实施例中,两个特效通信系统10可以同时向相应用户发射一个或多个特效,其中一个或多个特效可以相同或不同。
如所描绘的,图2中所述的特效与图3中所描绘的被呈现给第二用户的到物理介质中、到物理介质上或到物理介质外的第一用户的投影基本上同时地呈现。第二特效通信系统10B通过呈现技术(诸如,烟云的操纵)基于第一用户的模拟像来向第二用户呈现幻视(例如,外星人)。以此方式,第一用户的模拟像的三维幻视经由图像投影被发射到被照明的烟云锥(例如,呈现示例40)或烟云屏幕上。虽然被描绘为执行到被照明的烟云锥上的图像投影,但是如将认识到的,可以使用任何合适的投影和/或呈现方法和/或技术以经由第二特效通信系统10B供应第一用户的模拟像。
现在参考图2和图3,呈现示例40可以与图2的呈现示例28基本上同时发生。这意味着,当图3的第二用户正在看第一用户的三维投影时,例如,第一用户经由投影到水幕上的光阵列看到发射的第二用户的二维投影。二维投影可以与特效(诸如附加音频或(例如,由一个或多个风扇响应于控制信号而发起的)轻风)同时发射。附加传感器数据可用于跟踪第一用户的定向,使得当第一用户移动他们的头部或身体时,图3的三维投影与第一用户运动基本上同时移动。特效、二维投影和三维投影的组合可以使两个用户进一步沉浸到他们的对话中,并且因此可以改进和/或增强对话。
图4是通常从第二用户的角度获取的第二特效通信系统10B的另一示例的图示。第二特效通信系统10B的该示例描绘了从壁挂式投影系统52显出的第一用户的三维幻视呈现示例50。三维幻视呈现示例50是基于第一参与者的捕获的模拟像。捕获/显示系统12B可以操纵与捕获的模拟像相关联的数据集,以传达不同外观的幻视。在该示例中,第一用户(例如,人类)被转换成外星人或其它合适的幻视,以用于呈现给第二用户(例如,人类)。如上所讨论,在一些实施例中,第二特效通信系统图10B包括与可控物理介质相关联的一个或多个物件,诸如撑杆、气囊或油灰,其致动以对第二用户形成第一用户(例如,远程用户)的可识别且代表性的轮廓。一个或多个物件响应于控制信号而致动,该控制信号响应于由第二特效通信系统10B从第一特效通信系统10A接收的图像数据而生成。
如所描绘的,第二特效通信系统10B已经从第一特效通信系统10A接收到图像数据的至少一部分,并且已经操作了一个或多个物件,以在控制或驱动或控制信号下并基于图像数据来致动。以此方式,一个或多个物价已经创建了第一用户的三维表示。附加传感器数据可以用于跟踪第一用户的定向,并且因此可以用于调整一个或多个输出的控制信号,以响应于运动适当地调整一个或多个物件的致动。例如,第一用户可以将其自身定向成较靠近捕获系统,并且因此可以以与当被定向或定位成较远离捕获系统时不同的方式呈现给第二用户(例如,以传达相对定位)。
现在参考图2-3参考图4,呈现示例50可以与呈现示例28同时或在与呈现示例28基本上类似的时间发生。以此方式,第二特效通信系统10B可以在从第一特效通信系统10A接收类似的数据集的同时(例如,经由捕获/显示系统12B)捕获图像数据、音频数据、空间数据和/或附加传感器数据并将其发射到第一特效通信系统10A。此外,呈现示例50还可以与第一特效通信系统10A的特效(或多个特效)同时发生。
考虑到前述内容,图5是特效通信系统10(例如,10A、10B)的框图。特效通信系统图10包括捕获系统62(例如,62A、62B)、显示系统64(例如,64A、64B)、控制系统66(例如,66A、66B)和特效系统68(例如,68A、68B)。这些系统(例如,10、62、64、66、68)中的每个可以经由通信网络18彼此通信。此外,在特效通信系统10之间发射的数据可以可选地由实时图形引擎16和/或在特效通信系统10端点之内和/或外部的附加或可替代实时图形引擎进行处理。
如先前所述,实时图形引擎16和控制系统66可以包括处理电路70(例如,70A、70B、70C)和存储电路72(例如,72A、72B、72C),以处理在特效通信系统10之间发送的一个或多个数据集。处理电路70可以用于运行程序、执行指令、解释输入、生成控制信号和/或其它类似功能,并且可以包括基于硬件和/或基于软件的功能或应用的组合来这样做。存储电路72可以用于将数据、程序、指令、诊断数据和最终数据等存储在多种合适的存储器或存储装置类型中,所述类型诸如随机存取存储器、只读存储器、闪速存储器、硬盘驱动器、当前时间已知和未知的未来储存技术(例如,脱氧核糖核酸(DNA)上的数据储存等)等等。
数据集(例如,音频数据、图像数据和附加传感器数据)可以经由通信网络18在部件之间发射。通信网络可以包括任何数量的输入/输出(I/O)接口和/或网络接口。如先前所述,这样的通信网络18可以实现在多种有线或无线网络上的数据传输。以此方式,可以在模拟或数字域中记录或感测数据集,并且可以在模拟或数字域中的特效通信系统10之间发射数据集,或其任何组合。
控制系统66可以操作捕获系统62、显示系统64和特效系统68,以向用户提供沉浸式和/或变换式通信体验。以此方式,控制系统66可以生成一个或多个控制信号,以分别控制相应的捕获系统62、显示系统64和特效系统68的各种功能。例如,控制系统66A可以将一个或多个控制信号发射到特效系统68A,以引起至少部分地对应于控制信号的特效的执行。
继续描述特效通信系统10的每个子系统(例如,捕获系统62、显示系统64和特效系统68),捕获系统62可以感测并记录(例如,捕获)用户的模拟像(例如,捕获系统62A感测第一用户的模拟像)。以此方式,控制系统66可以操作相应的捕获系统62以感测相应用户的模拟像。控制系统66可以操作图像捕获设备74(例如,74A、74B)以感测相应用户的视觉模拟像(例如,捕获图像)。收集的数据集不仅可以包括图形信息,而且可以包括与相应用户的热量、体积和/或形状对应的数据。图像捕获设备74可以是任何合适的图像捕获设备,诸如二维捕获系统、三维捕获系统、视频捕获系统等。响应于感测到相应用户的视觉模拟像,通过特效通信系统10之间的通信网络18从捕获系统发射图像数据。控制系统66还可以操作音频捕获设备76(例如,76A、76B)以支持与相应用户相关联的音频传输和捕获(例如,记录音频)。与用户相关联的音频数据可以经由诸如麦克风之类的任何合适的音频记录设备来捕获。音频捕获设备76A还可以包括一个或多个波束控制麦克风阵列,以将外部和/或环境噪声与音频捕获隔离。例如,波束控制麦克风阵列可以准许用户在没有来自背景噪声的干扰的情况下进行通信。在一些实施例中,与一个或多个波束控制麦克风阵列相关联的捕获的数据可以用于(诸如通过建议用户相对于麦克风的定向)呈现空间图像。
对于显示系统64,控制系统66可以操作呈现设备78(例如,78A、78B)以传送接收的图像或其它数据。呈现设备78可以是用于操纵物理材料以实质上创建显示器或投影系统的任何合适的显示器或系统。呈现设备78可以接收用于经由呈现设备78直接改变或引起图像的呈现的一个或多个控制信号。控制信号可以由控制系统66或由显示系统64的子部件(诸如响应于接收的图像数据的驱动电路(未描绘))生成。控制系统66可以与音频输出设备80(例如,80A、80B)基本上同时操作呈现设备78。音频输出设备80可以是能够响应于音频数据而输出音频(例如,噪声、声音)的任何合适的设备,诸如扬声器或触觉换能器。呈现设备78和音频输出设备80的组合提供了正被显示的用户正在说话的图像或模拟像的幻视,或者所呈现的图像以与音频输出改变相同的速度改变的幻视。
此外,控制系统66可以操作特效系统10以提供对应于音频数据和图像或其它数据的特效。如上所述,特效可以传送例如第一用户实际上正被发射到物理介质中的幻视以呈现给第二用户。以此方式,特效可以促进向第一用户和第二用户两者提供沉浸式和/或变换式幻视。沉浸式幻视可以使得第一用户相信他们的确正被发射到对应的物理介质中或对应的物理介质外。例如,如果第一用户的模拟像正被投影到火的幻视中,则第一用户可以接收热幻视(例如,暖空气),或者如果第一用户的模拟像正被投影到水屏幕上和/或物理地用成形的水显示器形成,则第一用户可以接收冷水(例如,冷空气和烟雾)幻视。以此方式,特效系统10可以包括特效材料82(例如,82A、82B)和控制器84(例如,84A、84B)。控制器84可以致动或控制部件(诸如阀、致动器、水平仪等),以操纵特效材料82来生成特效或特效幻视。例如,水可以是特效材料82A,以生成第一用户正被用水呈现给第二用户的特效幻视。
在一些实施例中,控制系统66可以分别控制跟踪设备86(例如,86A、86B)以监视要发射到第二特效通信系统10B的第一用户和/或第一用户正持有的任何物体(例如,第一用户的手中持有的物体)的定向或位置。响应于接收到该附加传感器数据,控制系统66B可以(例如,经由一个或多个控制信号)操作显示器或特效系统64B,以基于附加传感器数据改变接收到的数据的输出,以将第一用户(或第二用户)和/或由第一用户拥有的相关联的对象的定向或位置传送到第二用户(或第一用户)。
如可以认识到的,可以使用密集处理来提供沉浸式和/或变换式通信体验。类似于如先前所述,实时图形引擎16和控制系统66可以包括处理电路70,以处理在特效通信系统10之间发送的一个或多个数据集。以此方式,一个或多个数据集的一些或全部处理可以在控制系统66和实时图形引擎16之间共享。因此,第一特效通信系统10A可以部分地处理第一数据集,并且实时图形引擎16可以在传输到第二特效通信系统10B上之前最终处理第一数据集。数据集的处理可以在数据传输继续的同时发生。以此方式,数据集用于在处理相关联的数据集生成和数据集呈现之间以及实时地生成控制信号(例如,以引起特效、以经由物理材料的致动或塑形来驱动用户的模拟像的呈现)。此外,实时图形引擎16可以(例如,通过与通信网络18类似或相同的耦合)通信地耦合到中央控制器90。中央控制器90可以对从一个或多个用户设备92接收的数据集和/或输入进行聚合、处理、解释或执行任何其它合适的动作。存储器或处理部件的任何合适的组合可以包括在中央控制器90内。用户设备92可以主管和操作以向使用用户设备92的人呈现多种软件应用或用户界面,以促进通过到中央控制器90的通信耦合的与特效通信系统10的交互。例如,用户通过用户设备92可以操作设备以改变由第一特效通信系统10A在将参与者的模拟像发射到也可以具有用户设备的第二特效通信系统10B时使用的幻视或变形。以此方式,特效通信系统10可以准许第一用户改变他们体验或发射的幻视,如除了准许第二用户改变他们体验和/或发射的幻视之外那样,其中幻视可以不是相同或相关的幻视。尽管未如此描绘,但是每个特效通信系统10可以具有与其相关联的用户设备92中的相应用户设备(例如,属于第一用户的用户设备、属于第二用户的用户设备、物理地设置在特效通信系统10上或内但可由第一用户和/或第二用户访问的用户设备)。因此,该技术可以准许多个设备之间(诸如在第一用户设备和第一特效通信系统10A之间以及同时在第二用户设备和第二特效通信系统10B之间)的基本上同时的、多方向、全双工通信,以同时准许更改第二用户和/或第一用户的外观。
图6是用于提供沉浸式和/或变换式通信系统的并参照图1-5呈现的过程100的流程图。虽然下面将过程100描述为由第一特效通信系统10A和/或第二特效通信系统10B执行,但是应当理解,过程100可以由如本文中所提供的系统20的其它部件执行。此外,尽管以特定顺序描述了过程100的以下描述,但是应当注意,过程100可以以任何合适的顺序执行。
在框102处,第一特效通信系统10A的控制系统66A检测参与者。控制系统66A可以响应于接收到的传感器数据或经由另一合适的方法来检测参与者(例如,第一用户)。例如,超声波传感器、光传感器、压力垫等可以用在(例如,存在于起点设备内部的)第一特效通信系统10A的物理空间内,以检测用户何时进入第一特效通信系统10A的物理空间。此外,检测可以响应于基于由控制系统66A检测(例如,识别)的物理物质、道具或材料的触发而发生。可以响应于部分或全部身体进入空间中而检测进入第一特效通信系统10A的用户。例如,在一些实施例中,用户可以将他们的头部、整个身体或他们的身体的不同部分放置到第一特效通信系统10A的物理空间中。在一些实施例中,第一特效通信系统10A可以通过从与参与者相关联的计算设备和/或经由与第一特效通信系统10A相关联的输入设备接收起始输入来检测参与者。起始输入可以向控制系统66A指示开始与一个或多个目的地设备的呼叫或通信。此外,中央控制器90可以将一个或多个起始输入发射到控制系统66A以开始通信操作。
在框104处,第一特效通信系统10A可以接收目的地(例如,目的地设备)的选择。目的地的选择可以经由输入设备(诸如拨号盘、语音控件、触摸板、按钮等)的用户致动来接收,以向第一特效通信系统10A传送用户希望与多个目的地中的哪个进行通信。在一些实施例中,第一用户可以经由在显示设备上呈现的图形、空间和/或物理用户界面来选择目的地,其中图形用户界面可以通过例如匹配与通信幻视对应的特定主题来促进增强用户体验。目的地是第一用户的模拟像要从起点设备(例如,第一特效通信系统10A)被发射到的地方。在一些实施例中,第二特效通信系统10B可以操作以将音频数据、图像数据和任何附加传感器数据发射到第一特效通信系统10A,而不管存在使用第二特效通信系统10B的参与者。此外,在一些实施例中,可以做出目的地的多于一个选择,使得第一用户的模拟像被发射到多个目的地和/或被准许同时体验多个目的地。如本文中所述,第二特效通信系统10B可以在具有或不具有第二用户的情况下发射外界周围环境(例如,外界环境)的模拟像。
响应于目的地的选择,在框106处,第一特效通信系统10A建立与目的地的通信链接,并且在框108处,第二特效通信系统10B(例如,目的地)交替以建立通信链接。在一些实施例中,广播信道可以用于在特效通信系统10之间发射数据集,并且因此可以通过有线(例如,双绞线、线缆、光纤线缆)或无线(例如,微波、卫星、无线电、红外)通信介质来提供通信链接。通过通信链接,相应的特效通信系统10(例如,10A、10B)可以发射和接收图像数据、音频数据和任何附加收集的数据,以传送特效通信系统10的用户的模拟像。可以使用任何合适的通信链接方法,包括涉及布线、无线传输、通信总线、光纤等的技术以及尚不知道的未来技术。通信链接的建立使得特效通信系统10能够通过通信网络18发射数据。
在框110处,第一特效通信系统10A使用捕获系统62A捕获参与者的模拟像。捕获参与者的模拟像包括记录、收集和发射与经由音频捕获设备76A从参与者发出的话音或声音对应的音频数据;经由图像捕获设备74A收集与参与者的视觉外观对应的图像和/或空间数据;以及经由跟踪设备86A测量诸如位置或定向数据之类的任何附加传感器数据,以进一步增强经由第二特效通信系统10B的呈现处的参与者的模拟像。类似地,在框112处,第二特效通信系统10B使用捕获系统62B捕获具有或不具有第二参与者的外界周围环境的模拟像。由捕获系统62B生成的数据集可以将外界周围环境以及与外界周围环境相关联的任何声音、景象或其它数据传送到第一特效通信系统10A。可以使用任何合适的图像捕获、音频捕获和/或数据捕获设备,包括麦克风、记录器、二维捕获系统、三维捕获系统、视频捕获系统、热捕获系统等。
在框114处,第一特效通信系统10A触发特效,以用于参与者经由特效系统68A进行体验。特效可以涉及在第二特效通信系统10B中的第一用户的模拟像的投影或产生中使用的物理介质、第二特效通信系统10B的外界周围环境的环境方面、第一特效通信系统10A的外界周围环境的环境方面,以进一步增强参与者的模拟像的捕获等。特效可以增强并且进一步使参与者沉浸或变换到与第二特效通信系统10B的通信中。例如并且如上所述,与第二特效通信系统10B(其用烟云和/或水的致动来投影或生成参与者模拟像)通信的参与者可以使用特效系统68A来触发(例如,发起、开始、呈现)冷温度相关的特效,诸如轻风特效、冷却烟雾特效、冷空气吹送特效等,以使参与者沉浸到第二特效通信系统10B的介质中。在一些实施例中,第二特效通信系统10B通过特效系统68B触发并向外界周围环境呈现特效,包括第二特效通信系统10B的任何参与者。
在框116处,第一特效通信系统10A将在框110处测量、记录或收集的图像数据、音频数据和附加传感器数据发射到第二特效通信系统10B。在框118处,第二特效通信系统10B将在框112处测量、记录或收集的图像数据、音频数据和附加传感器数据发射到第一特效通信系统10A。这些传输活动可以基本上彼此同时发生,并且以此方式,特效通信系统10可以实现参与者和/或外界周围环境之间的实时通信。
在框120处,第二特效通信系统10B接收由第一特效通信系统10A捕获的图像数据、音频数据和附加传感器数据。在框122处,第一特效通信系统10A接收由第二特效通信系统10B捕获的图像数据、音频数据和附加传感器数据。以此方式,特效通信系统10实时地传送参与者和/或外界周围环境的模拟像。数据集经由通信网络18进行发射。
响应于接收到数据集,在框124处,第一特效通信系统10A生成一个或多个目的地控制信号,以将目的地的外界周围环境传送给参与者。目的地控制信号由第一特效通信系统10A响应于从第二特效通信系统10B发射的数据集而生成。因此,一个或多个控制信号可以对应于用于显示图像数据的控制信号(诸如像素控制信号、基于图像数据引起光发射的编程电压、或者用于驱动物理介质的物理操纵的控制信号),诸如以生成投影表面以经由光投影来投影外界周围环境的视觉模拟像。控制信号可以包括准许根据音频数据的音频发射的任何合适的信号和/或准许附加传感器数据被用于向参与者传送外界周围环境的模拟像的任何合适的信号。在框126处,由第一特效通信系统10A使用这些控制信号来驱动系统以经由目的地控制信号显示目的地的外界周围环境。
类似地,在框128处,第二特效通信系统10B基于从第一特效通信系统10A接收的图像数据、音频数据和附加传感器数据生成一个或多个控制信号。在框130处,可以由第二特效通信系统10B使用使用一个或多个控制信号来驱动物理介质的三维操纵,以使用第一特效通信系统10A显示参与者的模拟像。在呈现参与者的模拟像之后,第二特效通信系统10B继续到框112上,以向第二特效通信系统10B重复外界周围环境的模拟像的捕获。该捕获和呈现操作可以继续,直到第一特效通信系统10A检测不到参与者或者经由控制信号被发给停止命令。在一些实施例中,由第一特效通信系统10A确定参与者是否仍然活跃引起的通信中的任何时间延迟可以利用数据集的处理来进行补偿,以继续提供实时、沉浸式和/或变换式通信的幻视。
在框132处,第一特效通信系统10A确定是否仍然检测到参与者。第一特效通信系统10A可以以参考框102讨论的多种方式检测参与者。因此,为了确定是否仍然检测到参与者,第一特效通信系统10A可以分析特定传感器输出或读数、或者可以分析或确定输出的改变、或者可以检测状态改变来作为确定是否仍然检测到参与者的过程的部分。如果仍然检测到参与者,则第一特效通信系统10A可以在框110处重复过程100的一部分,以捕获参与者的模拟像。
然而,响应于检测不到参与者,在框134处,第一特效通信系统10A可以终止与第二特效通信系统10B的通信链接,以结束通信。响应于通信链接的终止,第二特效通信系统10B可以终止外界周围环境的模拟像的捕获,并且第一特效通信系统10A可以终止参与者的模拟像的捕获。此外,可以执行某些操作以减少或消除来自第一特效通信系统10A的物理空间的特效残余属性。例如,第一特效通信系统10A可以操作以消除或减少来自第一特效通信系统10A的物理空间的残余烟雾、烟云、烟等,以给予下一参与者对第一特效通信系统10A的中性的(neutral)进入体验。以此方式,第二参与者(例如,下一参与者)可以不体验与原始选择的目的地相关联的先前外界周围环境。在一些实施例中,第二特效通信系统10B还可以减少或消除来自第二特效通信系统10B的物理空间的特效残余属性。
如上所述,特效通信系统10准许一个或多个参与者与一个或多个附加参与者或外界周围环境之间的沉浸式和变换式通信。以此方式,二维(2D)至2D、2D至三维(3D)、3D至2D、3D至3D或任何合适的通信通过这些技术是有效的。因此,参与者的捕获的2D图像或视频可以被投影到大体上2D表面(例如,烟云幕)上、投影到大体上2D表面外或内(例如,用水射流的选择性致动形成的模拟像,使得水幕的负(negative)空间形成参与者的模拟像)、投影在2D表面中(例如,用来自像素的光进行投影)、投影到3D表面上(例如,到3D烟云球面上的光投影,使得参与者的模拟像在烟云球面内似乎是3D)、经由物理介质或3D材料的操纵而投影(例如,投影到大体上3D体积中的由不同强度的火、烟云、水等形成的参与者模拟像,或由油灰或撑杆的致动形成的参与者模拟像,以使得3D模拟像从平坦表面显出)等。此外,应当认识到,投影材料(例如,投影表面、投影平面)可以是静态或动态材料和/或对于投影材料的视图可以显得静态或动态。还可以使用实际、视觉和/或戏剧效果将物理介质模拟为似乎是不同的物理介质。例如,烟云锥或烟云投影屏幕可以通过使用视觉和戏剧效果(例如,音频和视觉特效)来生成火焰幻视。总之,由显示系统64使用的投影和/或显示表面可以是任何合适的基于印象的材料或系统、任何合适的平坦呈现系统和/或任何合适的体积投影系统。此外,在一些实施例中,显示系统64可以在呈现的图像(例如,介质)、有限视图显示器、虚拟现实视镜(goggles)、专用透镜或其它戏剧效果上至少部分地使用专用隐私膜或过滤器。这些显示增强和特征也可以被使用并应用于为局部化声音创造条件的音频信号,这可以帮助隐私考虑。这些附加特征可以至少部分地帮助将第一用户对准到诸如相对于捕获系统62A的期望的捕获位置中。
在一些实施例中,诸如镜子或其它反射表面之类的附加部件可以被包括在特效通信系统10内或邻近特效通信系统10,以作为使特效通信系统10的部件隐蔽或隐藏或增强、变形或加倍的方式。以此方式,当第一用户在(例如,使用第一特效通信系统10A的)设备的物理空间内时,可以对第一用户隐藏第一特效通信系统10A。相对于不隐藏设备,隐藏特效通信系统10中的一个或多个可以进一步改进用户体验。此外,在一些实施例中,还可以使用面部识别、语音识别、内容集策(curation)(例如,话音到文本、文本到话音)和/或用于内容审查的话音检测(例如,俚语或粗话预防)来增强用户体验。此外,本文中已经描述了一个或多个传感器,然而,应当理解,可以在特效通信系统中使用任何合适的传感器来提供沉浸式和/或变换式通信体验,所述传感器包括热传感器、空间传感器、超声传感器、红外传感器等。
考虑到前述内容,在一些实施例中,特效通信系统10准许无订户广播,该无订户广播准许第一特效通信系统10A通信地链接到一个或多个其它特效通信系统10,以接收一个或多个呼叫。此外,要重申,上面在一些实施例中描述的技术可以准许第一特效通信系统10A的第一用户在没有第二、第三等附加用户处于一个或多个其它特效通信系统10内或附近的情况下发起对一个或多个其它特效通信系统10的呼叫。在一些实施例中,特效通信系统10准许会议呼叫和/或多点通信,其中与特效通信系统10相关联的一个或多个用户可以各自在基本上相同的时间与一个或多个其它用户交互、视觉地看见一个或多个其它用户和/或与一个或多个其它用户通信。
此外,虽然过程100被描述为以第一用户终止通信链接结束,但是应当理解,附加的或可替代的事件可以终止通信链接。例如,第二特效通信系统10B的第二用户可以决定终止通信链接(例如,首先挂断或不应答来自第一特效通信系统10A的呼叫)。作为附加示例,中央控制器90可以终止通信链接。在一些实施例中,通信链接可以立即终止,而不管过程100在什么点处执行。
技术效果包括通过改进通信系统提供沉浸式和/或变换式通信体验的能力来对通信系统进行改进。用于在发射和接收与参与者模拟像对应的数据的同时提供特效的技术可以通过使得用户能够体验他们与之通信的目的地设备的外界周围环境来增强用户体验。改进的通信系统还可以准许在通信链接期间在目的地通信系统处同时驱动物理介质,诸如以准许致动参与者中的一个或多个的三维呈现。
虽然本文中已经图示和描述了本发明的仅某些特征,但是本领域技术人员将想到许多修改和改变。因此,应当理解,所附权利要求旨在覆盖如落入本发明的真实精神内的所有这样的修改和改变。
本文中提出和要求保护的技术被引用并应用于实际性质的材料对象和具体示例,其可论证地改进了本技术领域,并且因此不是抽象的、无形的或纯粹理论的。此外,如果附到本说明书末尾的任何权利要求包含被指定为“用于[执行]……[功能]的装置”或“用于[执行]……[功能]的步骤”的一个或多个元件,则意图是根据35 U.S.C. 112(f)来解释这样的元件。然而,对于包含以任何其它方式指定的元件的任何权利要求,意图是不根据35U.S.C. 112(f)来解释这样的元件。

Claims (24)

1.一种特效通信系统,包括:
相机系统,所述相机系统在第一位置处并且被配置成基于第一用户的一个或多个图像或印象来生成第一数据集,其中所述第一用户存在于所述第一位置处;
特效系统,所述特效系统被配置成在所述第一位置处使用特效材料来生成特效;以及
控制系统,所述控制系统通信地耦合到所述相机系统和所述特效系统,其中所述控制系统被配置成:
将所述第一数据集发射到目的地设备;
当所述第一用户存在于所述第一位置处时,从所述目的地设备接收第二数据集或基于存在于第二位置处的第二用户的一个或多个图像或印象的存储的数据集;以及
基于所述接收的第二数据集提供一个或多个控制信号,所述一个或多个控制信号被配置成使得所述第一位置处的所述特效系统生成所述特效,以使用所述特效材料向所述第一用户呈现所述第二用户的模拟像。
2.根据权利要求1所述的系统,其中所述特效材料包括火、激光、等离子体、电、空气、水、烟云、油灰、沙、柔性或形状形成材料或其任何组合。
3.根据权利要求1所述的系统,其中所述特效系统将所述第二用户的所述一个或多个图像或印象显示到所述特效材料上,以呈现所述第二用户的模拟像。
4.根据权利要求3所述的系统,其中所述特效系统生成烟云屏幕或水屏幕,所述第二用户的所述一个或多个图像或印象被投影到所述烟云屏幕或水屏幕上。
5.根据权利要求1所述的系统,其中所述特效系统使用所述特效材料来形成所述第二用户的所述模拟像,以呈现所述第二用户的所述模拟像。
6.根据权利要求1所述的系统,其中所述特效系统被配置成驱动所述特效材料的物理操纵,所述物理操纵用所述特效材料对所述第二用户的三维模拟像塑形。
7.根据权利要求1所述的系统,其中所述控制系统被配置成从所述接收的第二数据集提取所述第二用户的所述一个或多个图像中的可识别特征,并且其中所述模拟像基于所述提取的可识别特征。
8.根据权利要求7所述的系统,其中所述控制系统被配置成基于所述特效材料的特性来对所述提取的可识别特征进行操纵或变形,并且其中所述模拟像基于所述操纵的或变形的可识别特征。
9.根据权利要求1所述的系统,包括在所述第一位置处的音频捕获设备,所述音频捕获设备被配置成记录并发射与所述第一用户对应的音频数据及其相关联的元数据,其中所述第一数据集包括所述音频数据。
10.根据权利要求1所述的系统,其中所述第一数据集通过通信链接发射,并且其中所述控制系统被配置成:
检测所述第一用户;以及
响应于检测到所述第一用户而建立与所述目的地设备、广播信道或其任何组合的所述通信链接。
11.一种特效通信系统,包括:
相机系统,所述相机系统被配置成捕获在第一位置处的第一用户的一个或多个图像或印象;
通信电路,所述通信电路被配置成发射对应于所述第一用户的所述一个或多个图像或印象的第一数据集,并且配置成从目的地设备接收对应于在第二位置处的第二用户的一个或多个图像或印象的第二数据集;以及
特效系统,所述特效系统被配置成基于所述第二数据集生成一个或多个控制信号,以驱动物理介质的三维操纵来呈现所述第二用户的模拟像。
12.根据权利要求11所述的系统,其中所述物理介质包括火、激光、等离子体、电、空气、水、烟云、油灰、沙、柔性或形状形成材料或其任何组合。
13.根据权利要求11所述的系统,包括传感器,所述传感器被配置成检测所述第一用户的存在,并且其中所述特效系统响应于所述第一用户的所述存在和所述接收的第二数据集而被发起。
14.根据权利要求13所述的系统,其中所述传感器包括热传感器、空间传感器、超声传感器、红外传感器、压力传感器或其任何组合。
15.根据权利要求11所述的系统,包括所述目的地设备,其中所述目的地设备包括第二特效系统,所述第二特效系统被配置成在所述第二位置处生成特效,其中所述特效基于所述第一数据集,并且其中所述特效至少部分地使用特效材料来生成。
16.根据权利要求15所述的系统,其中所述物理介质是烟或烟云,并且其中所述特效包括热效果,并且其中所述特效材料包括烟或烟云。
17.根据权利要求11所述的系统,其中所述物理介质是烟云或烟雾,并且其中所述特效包括冷却效果,并且其中所述特效材料包括烟雾或烟云。
18.一种方法,包括:
捕获包括与第一位置相关联的第一音频数据和第一图像或印象数据的第一数据集;
建立与起点设备或广播信道的通信链接;
将所述第一数据集发射到所述起点设备;
在发射所述第一数据集的同时接收第二数据集,所述第二数据集包括与第二位置相关联的第二音频数据和第二图像或印象数据;
至少部分地基于所述第二数据集生成一个或多个控制信号;以及
至少部分地基于所述生成的一个或多个控制信号来驱动物理介质的三维操纵。
19.根据权利要求18所述的方法,包括:
检测第一用户;
接收来自所述第一用户的从多个起点设备中对所述起点设备的选择,其中所述选择的起点设备是多个起点设备中的一个起点设备;以及
基于所述选择来建立所述通信链接。
20.根据权利要求18所述的方法,其中所述第一数据集包括用于在所述起点设备处驱动特效的附加传感器数据。
21.根据权利要求18所述的方法,其中所述生成的一个或多个控制信号驱动所述物理介质的所述三维操纵,以在所述第一位置处呈现存在于所述第二位置处的用户的模拟像。
22.根据权利要求21所述的方法,其中所述第二数据集包括用于跟踪与所述第二用户相关联的位置、定向、移动或其任何组合的附加传感器数据,并且其中基于所述附加传感器数据来更新所述控制信号。
23.根据权利要求18所述的方法,包括:
至少部分地基于所述捕获的第一数据集生成附加控制信号;以及
基于所述生成的附加控制信号在所述第二位置处使用特效材料来生成特效,其中所述特效在所述第一位置处的所述物理介质的所述三维操纵期间在所述第二位置处生成。
24.根据权利要求18所述的方法,包括:
检测来自所述起点设备的起始输入;
接收来自所述第一用户的从多个起点设备中对所述起点设备的选择,其中所述选择的起点设备是多个起点设备中的一个起点设备;以及
基于所述选择来建立所述通信链接。
CN201980063711.4A 2018-09-28 2019-09-18 特效通信技术 Pending CN112740147A (zh)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201862738767P 2018-09-28 2018-09-28
US62/738767 2018-09-28
US16/414,564 US10841536B2 (en) 2018-09-28 2019-05-16 Special effects communication techniques
US16/414564 2019-05-16
PCT/US2019/051766 WO2020068518A1 (en) 2018-09-28 2019-09-18 Special effects communication techniques

Publications (1)

Publication Number Publication Date
CN112740147A true CN112740147A (zh) 2021-04-30

Family

ID=69945269

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201980063711.4A Pending CN112740147A (zh) 2018-09-28 2019-09-18 特效通信技术

Country Status (8)

Country Link
US (2) US10841536B2 (zh)
EP (1) EP3857341A1 (zh)
JP (1) JP2022502937A (zh)
KR (1) KR20210068078A (zh)
CN (1) CN112740147A (zh)
CA (1) CA3112423A1 (zh)
SG (1) SG11202102103UA (zh)
WO (1) WO2020068518A1 (zh)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0522753A (ja) * 1991-07-12 1993-01-29 Koudo Eizou Gijutsu Kenkyusho:Kk 立体映像表示装置
US20120038739A1 (en) * 2009-03-06 2012-02-16 Gregory Francis Welch Methods, systems, and computer readable media for shader-lamps based physical avatars of real and virtual people
CN103929456A (zh) * 2013-01-16 2014-07-16 陈进 虚拟远端空间状态的方法
CN104345801A (zh) * 2013-08-09 2015-02-11 三星电子株式会社 混合视觉通信
US20160059145A1 (en) * 2014-08-26 2016-03-03 Universal City Studios Llc Special effects techniques

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3655272A (en) 1970-03-25 1972-04-11 Carlos Valadez Illusion display apparatus
JPH0451690A (ja) * 1990-06-19 1992-02-20 Fujitsu Ltd テレビ会議録画制御方式
JPH08205197A (ja) * 1995-01-27 1996-08-09 Hitachi Ltd ヒューマンインタフェース装置
US5719561A (en) 1995-10-25 1998-02-17 Gilbert R. Gonzales Tactile communication device and method
CN2703581Y (zh) 2002-10-08 2005-06-08 湖南大学 雾幕生成器
US7106358B2 (en) 2002-12-30 2006-09-12 Motorola, Inc. Method, system and apparatus for telepresence communications
US8144181B2 (en) * 2008-06-12 2012-03-27 Cisco Technology, Inc. Ad hoc telepresence manager
WO2010024415A1 (ja) 2008-08-28 2010-03-04 京セラ株式会社 通信機器
US8262226B2 (en) 2009-08-11 2012-09-11 Disney Enterprises, Inc. Apparatus and method for an anamorphic Pepper's ghost illusion
US8878894B2 (en) * 2010-09-15 2014-11-04 Hewlett-Packard Development Company, L.P. Estimating video cross-talk
JP5645758B2 (ja) * 2011-06-17 2014-12-24 株式会社ナカヨ Ip電話装置およびip電話装置を用いた通信方法
US8567954B2 (en) 2011-06-30 2013-10-29 Disney Enterprises, Inc. 3D display system with rear projection screens formed of water mist or spray
US8795096B2 (en) 2012-05-30 2014-08-05 Daniel James Stoker Motion ride method and apparatus for illusion of teleportation
KR101190456B1 (ko) * 2012-06-05 2012-10-11 이충영 3차원 디지털 만화 뷰어 제공 시스템 및 그 방법
WO2015036003A1 (en) * 2013-09-14 2015-03-19 Taskin Sakarya Virtual transportation machine
JP2015179131A (ja) * 2014-03-18 2015-10-08 カシオ計算機株式会社 スクリーン形成装置、投影システム及びスクリーン制御方法
US20170013251A1 (en) 2015-07-10 2017-01-12 Samuel Arledge Thigpen Three-dimensional projection
US20180054720A1 (en) * 2016-08-18 2018-02-22 Hearsay Social, Inc. Shared Numbers in a Multi-Phone Environment

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0522753A (ja) * 1991-07-12 1993-01-29 Koudo Eizou Gijutsu Kenkyusho:Kk 立体映像表示装置
US20120038739A1 (en) * 2009-03-06 2012-02-16 Gregory Francis Welch Methods, systems, and computer readable media for shader-lamps based physical avatars of real and virtual people
CN103929456A (zh) * 2013-01-16 2014-07-16 陈进 虚拟远端空间状态的方法
CN104345801A (zh) * 2013-08-09 2015-02-11 三星电子株式会社 混合视觉通信
US20160059145A1 (en) * 2014-08-26 2016-03-03 Universal City Studios Llc Special effects techniques

Also Published As

Publication number Publication date
CA3112423A1 (en) 2020-04-02
KR20210068078A (ko) 2021-06-08
US20210037212A1 (en) 2021-02-04
WO2020068518A1 (en) 2020-04-02
US20200106989A1 (en) 2020-04-02
SG11202102103UA (en) 2021-04-29
US10841536B2 (en) 2020-11-17
US11323662B2 (en) 2022-05-03
EP3857341A1 (en) 2021-08-04
JP2022502937A (ja) 2022-01-11

Similar Documents

Publication Publication Date Title
Al Moubayed et al. Furhat: a back-projected human-like robot head for multiparty human-machine interaction
CN113228625A (zh) 支持复合视频流的视频会议
US20220215640A1 (en) Systems and methods for artificial intelligence-based virtual and augmented reality
US11645823B2 (en) Neutral avatars
US11900520B1 (en) Specifying effects for entering or exiting a computer-generated reality environment
CN110715647A (zh) 使用多次三维扫描进行对象检测
CN114514493A (zh) 增强设备
JP2021077255A (ja) 画像処理装置、画像処理方法及び画像処理システム
JP2003150978A5 (zh)
KR101192314B1 (ko) 실감형 3차원 게임 시스템
KR20190014895A (ko) 가상 현실 기반의 고인 맞춤형 추모 시스템
CN113574849A (zh) 用于后续对象检测的对象扫描
JP7104539B2 (ja) シミュレーションシステム及びプログラム
CN112740147A (zh) 特效通信技术
Tang et al. Emerging human-toy interaction techniques with augmented and mixed reality
CN112912151B (zh) 特殊效果可视化技术
KR20210056414A (ko) 혼합 현실 환경들에서 오디오-가능 접속된 디바이스들을 제어하기 위한 시스템
JP7379427B2 (ja) 配信ユーザの動きに基づいて生成されるキャラクタオブジェクトのアニメーションを含む動画をライブ配信する動画配信システム、動画配信方法及び動画配信プログラム
CN112106020B (zh) 用于合成现实布景的声音处理的方法和设备
JP7312550B2 (ja) 仮想空間提供システム、仮想空間提供方法及びプログラム
US20220309755A1 (en) Systems and methods of implementing real-world ambient variance in augmented environments
JP7397883B2 (ja) 環境に基づく通信データの提示
CN111615832B (zh) 用于生成平面视频内容的合成现实重构的方法和设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
REG Reference to a national code

Ref country code: HK

Ref legal event code: DE

Ref document number: 40051535

Country of ref document: HK