CN111448536A - 数据替换装置、终端及数据替换程序 - Google Patents
数据替换装置、终端及数据替换程序 Download PDFInfo
- Publication number
- CN111448536A CN111448536A CN201980006187.7A CN201980006187A CN111448536A CN 111448536 A CN111448536 A CN 111448536A CN 201980006187 A CN201980006187 A CN 201980006187A CN 111448536 A CN111448536 A CN 111448536A
- Authority
- CN
- China
- Prior art keywords
- control data
- height
- equipment
- data
- user
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
- G02B27/0172—Head mounted characterised by optical features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F13/00—Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/012—Head tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
- G06F3/0346—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Optics & Photonics (AREA)
- Processing Or Creating Images (AREA)
- User Interface Of Digital Computer (AREA)
- Information Transfer Between Computers (AREA)
Abstract
本发明某一实施例涉及的数据替换装置,包括获取部、判断部和替换部。获取部获取含有基于以下位置数值的第1控制数据:用户可穿戴于头部的第1装备位置、用户可持握的第2装备位置。判断部判断是否满足既定条件。判断满足条件时,替换部将第1控制数据替换为第2控制数据。第2控制数据含有未基于第1装备和第2装备至少其中一方位置的数值。
Description
技术领域
本发明涉及VR(Virtual Reality,虚拟现实)、AR(Augmented Reality,增强现实)和MR(Mixed Reality,混合现实)技术。
背景技术
已知穿戴HMD(Head Mounted Display,头盔显示器)的多名用户一直通过网络共享虚拟体验,即VR体验。具体说来就是根据用户的姿势(例如,视线、头部朝向等),控制该用户在虚拟空间的分身即虚拟化身的姿势。
专利文献1的目的是,针对第1用户取下HMD后,第2用户因不知道第1用户未穿戴HMD而对第1虚拟化身(第1用户)不做反应感到不协调([0004])的问题进行改进,为用户提供丰富的虚拟体验([0005])。具体说来,据专利文献1记载,根据HMD110的倾斜信息判断用户A是否已取下HMD110[0095],如判断用户A已取下HMD110则生成未穿戴信息[0100],用户终端1B在接到未穿戴信息后,将虚拟化身4A的面部表情设置为默认表情[0101]。此外还要判断用户A是否再次穿戴HMD110[0113],如判断已穿戴则更新虚拟化身4A的面部表情[0115]。
现有技术文献
专利文献
专利文献1:日本国特许第6212666号公报
发明内容
如根据用户姿势控制虚拟空间里该用户的虚拟化身姿势,虚拟化身可能会采取不符合用户意图的姿势,例如不自然的姿势。特别是当HMD显示第一人称视角的虚拟空间图像时,用户无法直接看到自己的虚拟化身,则难以察觉其异常姿势并尝试修正。
如果用户的虚拟化身姿势不自然,不仅该用户本人在意识到该事实后会感到羞愧或不悦,其他用户也可能因为包括虚拟化身在内的虚拟空间不够逼真而感到扫兴。上述情况不是VR体验中独有的现象,它在AR或MR等含有虚拟元素的体验(以下称“虚拟体验”)中均可能出现。
本发明的目的是,防止因虚拟化身图像拉低用户的虚拟体验。
本发明某一实施例涉及的数据替换装置包括获取部、判断部和替换部。获取部获取含有基于以下位置数值的第1控制数据:用户可穿戴于头部的第1装备位置、用户可持握的第2装备位置。判断部判断是否满足既定条件。判断满足条件时,替换部将第1控制数据替换为第2控制数据。第2控制数据含有未基于第1装备和第2装备至少其中一方位置的数值。
根据本发明可知,其目的是防止因虚拟化身图像拉低用户的虚拟体验。
附图说明
图1是表示实施例涉及的数据替换装置的区块示例图。
图2是表示虚拟体验共享系统的区块示例图,其中包括已组装实施例涉及的数据替换装置的终端。
图3是表示已组装实施例涉及的数据替换装置之终端的区块示例图。
图4是表示HMD、手柄和用户状态的示例图。
图5是使用第1控制数据生成的用户虚拟化身图像之示例图,该数据基于图4的HMD和手柄位置。
图6是另一个表示HMD、手柄和用户状态的示例图。
图7是使用第2控制数据生成的用户虚拟化身图像的示例图,该数据已替换基于图6的HMD和手柄位置的第1控制数据。
图8是另一个表示HMD、手柄和用户状态的示例图。
图9是表示图3之终端动作的流程示例图。
图10是表示图3之变形例的区块示例图
具体实施方式
下面参照附图说明实施例。另,对于和已做过说明之要素相同或相似的要素,下文将使用相同或相似符号表示,原则上省略重复性说明。例如,当存在多个相同或相似要素,会为了不在说明时区分各要素而使用通用符号,也会为了在说明时区分各要素而在该通用符号后添加副编号使用。
(实施例)
实施例涉及的数据替换装置,可组装在构成虚拟体验共享系统的终端上。该系统如图2所示。该系统中,终端200通过因特网等网络相连,可互相收发数据。
另,图2之系统中,出于减少数据传输时的延迟、共享高实时性的虚拟体验等目的,采用多个终端200直接收发数据的P2P(Peer to Peer,点对点)型网络,而非多个终端200通过服务器收发信息的C/S(Client/Server,客户机服务器)型网络。然而,即使采用C/S型网络,也可使用已组装本实施例涉及的数据替换装置之终端200构筑虚拟体验共享系统。
终端200是一种计算机,用于控制用户可穿戴于头部的HMD(第1装置)10上显示的VR/AR/MR图像,分别连接该HMD10和用户可持握的手柄(第2装置)20。另,关于手柄20,可为每名用户准备2只(双手用),也可准备1只(单手用)。手柄20还可穿戴于手部以外的部位。终端200还可进一步连接图2中未显示的定位器,它是用于检测HMD10和/或手柄20位置的传感器系统中的一个要素。
终端200连接HMD10、手柄20和/或定位器时,可采用有线通信方式,如USB(Universal Serial Bus,通用串行总线)、HDMI(注册商标)(High-Definition MultimediaInterface,高清多媒体接口)线缆等;也可采用无线通信方式,如Bluetooth、Wireless HD、WHDI(WirelessHome Digital Interface,无线家庭数字接口)等。
终端200如后文所述,获取含有基于HMD10和手柄20位置之数值的第1控制数据,有条件地将该第1控制数据替换为第2控制数据。如后文所述,第2控制数据含有未基于HMD10和手柄20至少其中一方位置的数值。如已进行替换,终端200则向其他终端200发送第2控制数据,否则就向其他终端200发送第1控制数据。
接到第1控制数据或第2控制数据的其他终端200,根据接到的控制数据生成用户的虚拟化身图像。换言之,用户可通过活动已穿戴HMD10的头部或持握手柄20的手部,让自己的分身,即虚拟化身采取自由的姿势。
终端还可进一步向其他终端200发送将在后文提及的话筒生成之声音数据。其他终端200播放该声音数据后输出。由此,用户可在VR/AR/MR空间实现语音聊天或演唱会等身临其境的活动。
具体说来,其他终端200根据所接控制数据显示的HMD10位置决定虚拟化身图像的头部位置,又根据该控制数据显示的手柄20位置决定虚拟化身图像的手部位置。假设用户在将HMD10穿戴于头部,且两手分别持握(右手用)手柄21和(左手用)手柄22(两者均可与上述手柄20相同)的状态下,采取图4所示姿势。此时,用户的虚拟化身将采取图5所示的姿势。虚拟化身的姿势可使用IK(Inverse Kinematics,反向动力学)技术进行控制。
除用于显示包括虚拟化身图像之VR/AR/MR图像的显示装置外,HMD10还可能包括各种传感器、扬声器和话筒等。各种传感器可能包括动作传感器、穿戴传感器或位置传感器系统中的部分要素(将在后文提及的标记器或摄像头)。HMD10接收来自终端200的图像数据或声音数据后输出,向终端200发送各种传感器的传感器数据。
显示装置可以是透射式显示屏,也可以是非透射式显示屏。例如,将显示装置的尺寸和配置定为,覆盖HMD10穿戴者即用户的至少部分视野。显示装置可由左眼用显示装置和右眼用显示装置构成,也可将两者一体化。
动作传感器可以是加速度传感器、陀螺仪或磁传感器等。动作传感器检测出的传感器数据,可用于推测用户头部姿势(如倾斜)。具体说来,可按照该传感器数据推测出用户的头部三维旋转角度,即偏航角(Yaw)、翻滚角(Roll)和俯仰角(Pitch),继而根据该数据控制决定用户视野的虚拟摄像头的视轴和虚拟化身的头部姿势。
穿戴传感器生成传感器数据(活动数据),表示用户穿戴/取下HMD10。穿戴传感器的机制是任意的,但可根据以下因素的变化生成活动数据,例如,HMD10中所设弹簧的弹力、穿戴HMD10时在接触用户鼻子等身体部位的触点间流动的电流等。
扬声器接收来自终端200的声音数据,基于此输出声音。典型的扬声器是头戴式的,也可由除此之外的扬声器系统组成。另外,扬声器可以和HMD10分离。话筒收集声音(主要是用户发言)。话筒基于收集到的声音生成声音数据,发送至终端200。
手柄20除用于接收用户输入的按钮外,还可包括与HMD10相同的动作传感器、位置传感器系统中的部分要素等。再者,手柄20还可包括生成传感器数据(活动数据)的持握传感器,该数据表示用户持握/放开手柄20。持握传感器的机制是任意的,但可根据以下因素的变化生成活动数据,例如,用户握力给手柄20施加的压力、手柄20表面所设传感器电极和人体间的静电容量等。手柄20向终端200发送用户输入数据、各种传感器的传感器数据等。
位置传感器系统依靠摄像头(位置追踪摄像头)和标记器(又叫“追踪器”)的组合来实现。标记器可以是红外线或可视光的发射极(如LED(Light Emitting Diode,发光二极管)),也可以是用于在摄像头拍摄时反射发射极发出的红外线或可视光的反射材料。如标记器照射或反射红外线,摄像头可能是红外线传感器;如标记器照射或反射可视光,摄像头可能是可视光摄像头。
典型的安装方式如下:在HMD10/手柄20上安装多个标记器,在距离HMD10/手柄20较远处设置的装置(定位器)上安装摄像头。基于摄像头的拍摄图像,可推测HMD10/手柄20的位置。具体说来,定位器可根据拍摄图像检测出检测点的位置、倾斜或发光强度等。定位器可基于上述检测点数据计算HMD10/手柄20的位置(坐标)数据,也可将上述计算交由终端200执行。另,作为变形例,可将摄像头设置于HMD10/手柄20端,将标记器设置于定位器端。除在HMD10和手柄20安装标记器外,还可在用户的关节、末梢部等安装更多标记器。由此,可更加准确地推测用户姿势。
接下来,说明终端200的硬件结构。终端200是可控制HMD10的各种电子设备,包括但不限于PC(Personal Computer,个人计算机)、移动终端(如平板电脑、平板手机、智能手机、笔记本电脑、功能手机、可穿戴设备、便携式游戏机等)、家用游戏机等。
另,终端200可以不必和HMD10或其他设备(手柄20、定位器等)分离。例如,终端200可以是HMD10或定位器中内置的,也可将终端200用作手柄20。
终端200包括执行以下处理的处理器:作为实施例涉及的数据替换装置执行的处理、输入输出控制、通信控制、图像/声音处理等。此处的处理器,典型的有CPU(CentralProcessing Unit,中央处理器)和/或GPU(Graphics Processing Unit,图形处理器),但也可以是微型计算机、FPGA(Field Programmable Gate Array,现场可编程门阵列)、DSP(Digital Signal Processor,数字信号处理器)或者其他通用或专用处理器等。
另外,终端200还包括临时储存以下内容的存储器:处理器实现上述处理时运行的程序,以及该处理器所用的数据,例如,虚拟化身、背景等用于营造VR/AR/MR体验的各种操作对象之原始图像数据。存储器可包括展开上述程序/数据的工作区之RAM(Random AccessMemory,随机存取存储器)。
另,终端200可在On Memory状态下处理所有数据,也可将部分数据保存在辅助记忆装置中。辅助记忆装置可以是终端200内置或外接的HDD(Hard Disc Drive,硬盘驱动器)、SSD(Solid State Drive,固态驱动器)或快闪存储器等,也可以是终端200能够访问的数据库服务器。
终端200还可以使用通信I/F(接口)联网。通信I/F可以是终端200中内置的,也可以是终端200外接的。通信I/F是可让其他终端200和/或外部装置,如HMD10、手柄20或定位器等用于通信的模块,可能包括用于收发的信号处理电路、天线和LAN(Local AreaNetwork,局域网)端子等。通信I/F可能是移动通信等广域网通信用的模块、无线/有线LAN用的模块或Bluetooth(注册商标)用的模块等。
终端200还可进一步使用通过线缆连接HMD10、手柄20和定位器等外部装置的输入输出I/F。输入输出I/F指USB端子、DVI(Digital VisualInterface,数字视频接口)端子、HDMI端子或其他传输数据用线缆的端子等。
终端200还包括用于在各要素,如处理器、存储器、辅助记忆装置、通信I/F和输入输出I/F等之间传输数据的总线。
接下来,说明实施例涉及的数据替换装置。图1展示了实施例涉及的数据替换装置100的功能结构示例。数据替换装置100包括数据获取部101、状态判断部102和数据替换部103。
数据获取部101可通过上述通信I/F、输入输出I/F或处理器实现。数据获取部101获取第1控制数据,发送至状态判断部102。此处的第1控制数据含有基于HMD10和手柄20位置的数值。如上所述,HMD10/手柄20的位置可使用位置传感器系统进行推测。
当外部装置,如HMD10、手柄20和/或定位器推测HMD10/手柄20的位置,生成第1控制数据,数据获取部101可从该外部装置获取第1控制数据。另一方面,当终端200(图中未显示的位置推测部)根据位置传感器系统的输出数据(如表示检测点的位置、倾斜和发光强度等的数据)推测HMD10/手柄20的位置,生成第1控制数据,数据获取部101可从终端200的存储器或辅助记忆装置获取第1控制数据。
上述说明的前提是,数据替换装置100在向其他终端200发送第1控制数据前,有条件地进行替换。然而,如下文的变形例1中所述,终端200向其他终端200发送自己的第1控制数据时不替换,可由组装在该其他终端200上的数据替换装置100有条件地对所接第1控制数据进行替换。如以后者结构为前提,数据获取部101则获取通过网络接到的第1控制数据。
另,如HMD10/手柄20包括上述穿戴传感器/持握传感器,则数据获取部101可进一步获取来自该穿戴传感器/持握传感器的活动数据,发送至状态判断部102。
状态判断部102可通过上述处理器实现。状态判断部102接收来自数据获取部101的第1控制数据(和活动数据)。状态判断部102判断第1控制数据是否满足既定的替换开始条件。然后,状态判断部102同时将表示判断结果的数据和第1控制数据发送至数据替换部103。
此处,状态判断部102可根据第1控制数据判断是否满足替换开始条件,也可根据活动数据判断是否满足替换开始条件。替换开始条件可定义为符合以下情况,例如,控制虚拟化身时如完全忠实于第1控制数据,则预计该虚拟化身将采取不自然的姿势。
具体说来,状态判断部102可判断以下情况作为替换开始条件,例如,用户是否将HMD10穿戴于头部。用户从头部取下HMD10后,HMD10位置最早是与用户头部位置断开连接,可能移动至极低或极高位置,或者距离用户手部(更准确地说是手柄20)位置极远的位置。此时,如结合HMD10位置决定虚拟化身的头部位置,虚拟化身的姿势则可能变得不自然。
状态判断部102可根据穿戴/取下HMD10进行活动时,穿戴传感器输出的活动数据,判断用户是否将HMD10穿戴于头部。
另外,用户从头部取下HMD10时,还可能将HMD10举到远高于头部的位置。因此,状态判断部102可判断以下情况作为替换开始条件,例如,第1控制数据是否含有表示HMD10高度高于既定第1高度的数值。
第1高度意味着为避免将虚拟化身的姿势定义得不自然而规定的头部高度上限值。第1高度可按用户单位定义,也可按虚拟体验共享系统单位定义。例如,第1高度可能是用户个人或用户平均头部高度加上偏移量后的高度等。
另外,用户从头部取下HMD10后,可能将其放在地板等低地上。此时,如结合HMD10位置决定虚拟化身的头部位置,虚拟化身可能采取头部朝下栽倒在低地的姿势。
因此,状态判断部102可判断以下情况作为替换开始条件,例如,第1控制数据是否含有表示HMD10高度不足既定第2高度的数值。在图6示例中,第2高度被定为H0,且HMD10高度低于H0,因此,状态判断部102判断满足替换开始条件。
第2高度意味着为避免将虚拟化身的姿势定义得不自然而规定的头部高度下限值。第2高度可按用户单位定义,也可按虚拟体验共享系统单位定义。例如,第2高度可能是用户个人或用户平均腰部高度、膝盖高度或前屈时的头部高度等。
替换开始条件还可以是,第1控制数据含有表示HMD10高度高于上述第1高度或低于上述第2高度的数值。在图8示例中,第1高度和第2高度分别被定为H1和H2,且HMD10高度高于H1,因此,状态判断部102判断满足替换开始条件。由此,如HMD10的高度不在上述下限值到上限值的区间内,则执行数据替换,即可防止虚拟化身姿势损毁。
另外,用户从头部取下HMD10前,可能放开手柄20,以解放手部。因此,状态判断部102可判断以下情况作为替换开始条件,例如,除关于上述HMD10高度的任一条件外,第1控制数据是否含有表示手柄20已静止的数值。根据第1控制数据中手柄20位置的历史、手柄20的活动传感器或持握传感器的输出数据等,可判断手柄20是否已静止。
并且,只要用户将HMD10穿戴于头部,且持握手柄20,两者不会相距极远。换言之,当HMD10和手柄20相距极远,用户就可能未穿戴HMD10和手柄20中至少其中一方。所以,此时,如控制虚拟化身时完全忠实于HMD10/手柄20的位置数据,虚拟化身则可能采取不自然的姿势。因此,状态判断部102可判断以下情况作为替换开始条件,例如,第1控制数据是否含有表示HMD10和手柄20相距超过既定距离的数值。
既定距离意味着为避免将虚拟化身的姿势定义得不自然而要求的头部与手部之间距离的上限值。既定距离可按用户单位定义,也可按虚拟体验共享系统单位定义。例如,既定距离可能由用户个人或用户平均头部与手部之间距离决定。具体说来,既定距离可以是用户采取头部与手部相距最远的姿势,例如立正时,用户的头部与手部之间距离加上偏移量的距离等。
状态判断部102判断满足替换开始条件后,还要判断是否满足既定的替换结束条件。接着,状态判断部102判断满足替换结束条件后,还要再次判断是否满足替换开始条件。替换结束条件可定义为符合以下情况时,例如,即使控制虚拟化身时完全忠实于第1控制数据,也预计该虚拟化身不会采取不自然的姿势。通过定义替换结束条件,虚拟化身从自然姿势(如直立)过渡到模型姿势(如蹲下)后,可再次恢复此前同样或不同的自然姿势(如站立挥手)而不夹杂不自然的姿势。
典型的替换结束条件是对替换开始条件的否定,即相当于不满足替换开始条件。例如,当替换开始条件是“用户将HMD10穿戴于头部”,替换结束条件可定为“用户未将HMD穿戴于头部”。
然而,替换结束条件也可不相当于对替换开始条件的否定。具体说来,当替换开始条件是“第1控制数据含有表示HMD10高度高于第1高度且手柄20已静止的数值”,替换结束条件可以是“第1控制数据含有HMD10高度不足第1高度(且高于第2高度)且手柄20未静止的数值”。
数据替换部103可通过上述处理器实现。当判断满足替换开始条件,数据替换部103将第1控制数据替换为第2控制数据,向数据替换装置100的外部输出该第2控制数据;而当判断不满足替换开始条件,数据替换部103直接向数据替换装置100的外部输出第1控制数据。另,数据替换一旦开始,数据替换部103将持续执行数据替换,直至状态判断部102判断满足替换结束条件。此处的第2控制数据是用于避免虚拟化身采取不自然姿势的模型数据,以下就具体示例进行说明。
例如,当替换开始条件是用户将HMD10穿戴于头部,或者与HMD10高度有关,第2控制数据可能含有未基于HMD10高度的数值。具体说来,第2控制数据可能含有表示以下高度的数值:HMD10高度不足上述第1高度的高度、高于上述第2高度的高度,或者不足第1高度但高于第2高度的高度。由此,如图6所示,即使HMD10高度不足第2高度H0,也可让虚拟化身采取图7所示的蹲姿,避免头部不自然地下落。除了蹲姿之外,还可根据控制虚拟化身姿势的算法和表示第2控制数据的HMD10高度,让虚拟化身采取坐姿、跪姿或站姿等各种姿势。
另外,当替换开始条件与HMD10和手柄20之间距离有关,第2控制数据含有未基于HMD10和手柄20至少其中一方位置的数值。具体说来,第2控制数据含有表示HMD10和手柄20相距不足既定距离的数值。
如用户未穿戴HMD10,可预计HMD10已静止;如用户未持握手柄20,可预计手柄20已静止。因此,第2控制数据含有未基于HMD10和手柄20中已静止的一方或两方位置的数值。换言之,在第2控制数据中,可维持第1控制数据中HMD10和手柄20中未静止的设备(非静止设备)位置,而将静止设备的位置改写为与非静止设备的位置相距不足上述既定距离的位置。根据第1控制数据中HMD10/手柄20位置的历史、HMD10/手柄20的活动传感器或穿戴传感器/持握传感器的输出数据等,可判断HMD10/手柄20是否已静止。
接下来,说明组装该数据替换装置100的终端200。图3展示了已组装数据替换装置100的终端200之功能结构示例。终端200包括数据替换装置100、发送部201、接收部211和图像生成部212。
发送部201可通过上述通信I/F实现。发送部201接收数据替换装置100的输出数据,通过网络,发送至其他终端200即通信对象。此处,数据替换装置100的输出数据,如上所述,当数据替换已执行,则是第2控制数据,否则就是第1控制数据。
另,除第1或第2控制数据外,发送部201还接收话筒生成的声音数据,可通过网络,将这些数据发送至其他终端200即通信对象。
接收部211可通过上述通信I/F实现。接收部211通过网络,从其他终端200即通信对象接收控制数据,该数据用于控制该终端200之用户的虚拟化身。接到的控制数据可能是第1控制数据,也可能是第2控制数据,无论是哪种数据,均不影响后续阶段的处理。接收部211向图像生成部212发送控制数据。
除控制数据外,接收部211还接收声音数据。接收部211将声音数据发送至图中未显示的声音处理部。该声音处理部播放声音数据,使上述扬声器输出声音。
图像生成部212可通过上述处理器实现。图像生成部212执行VR/AR/MR图像的生成(更新),包括根据保存于终端200之存储器或辅助记忆装置中的操作对象图像数据,以及来自接收部211的控制数据,控制对应该控制数据的用户虚拟化身图像。此处的控制数据,如已进行数据替换,则相当于第2控制数据,否则就相当于第1控制数据。图像生成部212向HMD10发送已生成的图像数据。
图像生成部212,如上所述,根据控制数据所示HMD10/手柄20位置,决定虚拟化身图像的头部/手部位置,例如,可使用IK技术控制虚拟化身的姿势。
接下来,使用图9说明终端200的动作。每当第1控制数据生成,就会执行图9之动作。
首先,数据替换部100内的数据获取部101获取第1控制数据(步骤S301)。接着,数据替换部100内的状态判断部102判断是否满足既定条件(步骤S302)。如满足既定条件,则进入到步骤S303进行处理;否则跳过步骤S303,进入步骤S304。
另,步骤S302中的既定条件,如替换开始条件一次也未满足,则意味着替换开始条件;如处于满足替换开始条件和满足替换结束条件之间,则意味着相当于对替换结束条件的否定;如处于满足替换结束条件和再次满足替换开始条件之间,则意味着替换开始条件。
在步骤S303中,数据替换装置100内的数据替换部103将第1控制数据替换为第2控制数据,其中含有未基于HMD10和手柄20至少其中一方位置的数值。
发送部201继而发送控制数据(步骤S304),图9之动作结束。另,如步骤S304之前已执行步骤S303,则发送部201发送第2控制数据;如步骤S304之前跳过步骤S303,则发送部201发送第1控制数据。
如上所述,如满足既定的替换开始条件,实施例涉及的数据替换装置会将含有基于HMD和手柄位置之数值的第1控制数据,替换为含有未基于HMD和手柄至少其中一方位置之数值的第2控制数据。因此,由该数据替换装置可知,如控制虚拟化身时完全忠实于第1控制数据,可能导致该虚拟化身采取不自然的姿势,那么,此时可使用模型的第2控制数据代替该第1控制数据控制该虚拟化身。换言之,无论HMD和手柄实际位置如何,也能让虚拟化身维持自然姿势,所以,至少可以防止因虚拟化身图像的不自然拉低用户的虚拟体验。
(变形例1)
在上述实施例中,发送第1控制数据的终端有条件地对第1控制数据进行替换。然而,该第1控制数据的替换可在接收端,而非发送端执行。上述变形例之终端400如图10所示。
终端400包括数据获取部402、发送部201、接收部211、数据替换装置100和图像生成部212。此处,由于发送部201、接收部211、数据替换装置100和图像生成部212与图3中同名要素相同或相似,所以下文主要以两者的差异以及数据获取部402为中心展开说明。
数据获取部402可通过上述通信I/F、输入输出I/F或处理器实现。数据获取部402获取第1控制数据,发送至发送部201。如上所述,HMD10/手柄20的位置可使用位置传感器系统进行推测。
当外部装置,如HMD10、手柄20和/或定位器推测HMD10/手柄20的位置,生成第1控制数据,数据获取部402可从该外部装置获取第1控制数据。另一方面,当终端200(图中未显示的位置推测部)基于位置传感器系统的输出数据(如表示检测点的位置、倾斜和发光强度等的数据)推测HMD10/手柄20的位置,生成第1控制数据,数据获取部402可从终端200的存储器或辅助记忆装置获取第1控制数据。
另,如HMD10/手柄20包括上述穿戴传感器/持握传感器,则数据获取部402可进一步获取来自该穿戴传感器/持握传感器的活动数据,发送至发送部201。此时,为判断数据接收终端400中的既定条件,除第1控制数据外,发送部201还可向该终端400发送活动数据。并且,除其他终端400发来的第1控制数据外,接收部211也可接收活动数据,发送至数据替换装置100。
如上所述,在此变形例中,数据替换处理分散在第1控制数据的接收端,而非发送端执行。因此,由此变形例可知,可以减小发送端的负荷。
(变形例2)
在上述实施例中,各终端可通过P2P型网络互相传送数据;各终端还可通过C/S型网络互相传送数据。此时,数据替换装置100可组装在服务器上。服务器不只是终端间传输第1控制数据的中继节点,还可有条件地对接收自发送端的第1控制数据进行数据替换,然后再发送至第1或第2控制数据的接收端。
虽然像该变形例这样,采用C/S型网络传输控制数据产生的延迟可能大于采用P2P型网络时产生的延迟,但由于服务器集中执行数据替换处理,可减少各终端的负荷。
上述实施例中只展示了有助于理解本发明之概念的具体示例,无意限制本发明的范围。实施例可在不偏离本发明要旨的范围内,添加、删除或转换各种构成要素。
上述实施例中虽然说明了多个功能部,但这些只是各功能部的安装示例。例如,说明中安装在1个装置上的多个功能部,可安装在不同的多个装置上;反之,说明中安装在不同的多个装置上的功能部,也可安装在1个装置上。
上述各实施例中说明的各种功能部,可通过使用回路来实现。回路既可以是实现特定功能的专用回路,也可以是像处理器那样的通用回路。
上述各实施例的至少部分处理可通过使用基本硬件实现,例如通用计算机上配备的处理器。实现上述处理的程序可保存在计算机可读的记录媒体上提供。程序要以可安装或可运行的文件形式存储在记忆媒体上。记录媒体有磁盘、光盘(CD-ROM、CD-R、DVD等)、光磁盘(MO等)和半导体存储器等;只要是可存储程序且计算机可读取的记忆媒体即可。另外,实现上述处理的程序可保存在连接因特网等网络的计算机(服务器)上,通过网络下载至计算机(客户机)上。
Claims (15)
1.一种数据替换装置,其特征在于,包括:
获取第1控制数据的获取部,数据中含有基于用户可穿戴于头部的第1装备位置和上述用户可持握的第2装备位置的数值;
判断是否满足既定条件的判断部;
判断满足所述条件时,将所述第1控制数据替换为第2控制数据的替换部;
所述第2控制数据含有未基于第1装备和第2装备至少其中一方位置的数值。
2.根据权利要求1所述的数据替换装置,其特征在于,所述判断部判断所述第1装备是否已穿戴于所述用户头部;
当判断所述第1装备未穿戴于所述用户头部时,所述替换部将所述第1控制数据替换为含有未基于所述第1装备高度之数值的第2控制数据。
3.根据权利要求1所述的数据替换装置,其特征在于,所述判断部至少基于所述第1控制数据数值所示的所述第1装备高度,判断是否满足所述既定条件。
4.根据权利要求3所述的数据替换装置,其特征在于,所述判断部判断所述第1控制数据是否含有表示所述第1装备高度不足既定高度的数值;
当判断所述第1控制数据含有表示所述第1装备高度不足所述既定高度的数值时,所述替换部将所述第1控制数据替换为含有未基于所述第1装备高度之数值的第2控制数据。
5.根据权利要求4所述的数据替换装置,其特征在于,所述第2控制数据含有表示所述第1装置高度高于所述既定高度的数值。
6.根据权利要求3所述的数据替换装置,其特征在于,所述判断部判断所述第1控制数据是否含有表示所述第1装备高度高于既定第1高度或不足既定第2高度的数值;
当判断所述第1控制数据含有表示所述第1装备高度高于所述第1高度或不足所述第2高度的数值时,所述替换部将所述第1控制数据替换为含有未基于所述第1装备高度之数值的第2控制数据;
所述第2高度低于所述第1高度。
7.根据权利要求3所述的数据替换装置,其特征在于,所述判断部判断所述第1控制数据是否含有表示所述第1装备高度高于既定第1高度或不足既定第2高度、且所述第2装备已静止的数值;
当判断所述第1控制数据含有表示所述第1装备高度高于所述第1高度或不足所述第2高度、且所述第2装备已静止时,所述替换部将所述第1控制数据替换为含有未基于所述第1装备高度之数值的第2控制数据;
所述第2高度低于所述第1高度。
8.根据权利要求7所述的数据替换装置,其特征在于,所述判断部在判断所述第1控制数据是否含有表示所述第1装备高度高于所述第1高度或不足所述第2高度、且所述第2装备已静止的数值后,继而判断所述第1控制数据是否含有表示所述第1装备高度不足所述第1高度但高于所述第2高度、且所述第2装备未静止的数值;
当判断所述第1控制数据含有表示所述第1装备高度高于所述第1高度或不足所述第2高度、且所述第2装备已静止的数值后,直至判断所述第1控制数据含有表示所述第1装备高度不足所述第1高度但高于所述第2高度、且所述第2装备未静止的数值,所述替换部持续将所述第1控制数据替换为所述第2控制数据。
9.根据权利要求6-8中任一项所述的数据替换装置,其特征在于,所述第2控制数据含有表示所述第1装置高度不足所述第1高度但高于所述第2高度的数值。
10.根据权利要求6-9所述的数据替换装置,其特征在于,述第1高度高于所述用户头部高度。
11.根据权利要求1所述的数据替换装置,其特征在于,所述判断部判断所述第1控制数据是否含有表示所述第1装备和所述第2装置相距超过既定距离的数值;
所述替换部在判断所述第1控制数据含有表示所述第1装备和所述第2装置相距超过既定距离的数值时,将所述第1控制数据替换为第2控制数据,而该第2控制数据含有未基于所述第1装备和所述第2装备至少其中一方位置的数值。
12.根据权利要求11所述的数据替换装置,其特征在于,所述第2控制数据在判断所述第1控制数据含有表示所述第1装备已静止的数值时,含有未基于所述第1装备位置的数值,而在该第1控制数据含有表示所述第2装备已静止的数值时,含有未基于所述第2装备位置的数据。
13.根据权利要求11或12所述的数据替换装置,其特征在于,所述第2控制数据含有表示所述第1装置和所述第2装置相距不足所述既定距离的数值。
14.一种终端,其特征在于,包括以下部分:
权利要求1-13中任一项所述的数据替换装置;
所述第1控制数据被替换为所述第2控制数据时,根据所述第2控制数据生成所述用户虚拟化身图像的图像生成部。
15.一种数据替换程序,其特征在于,使计算机发挥以下功能:
获取第1控制数据的获取手段,该数据中含有基于用户可穿戴于头部的第1装备位置和所述用户可持握的第2装备位置的数值;
判断是否满足既定条件的判断手段;
判断满足所述条件时,将所述第1控制数据替换为第2控制数据的数据替换手段;
所述第2控制数据含有未基于第1装备和第2装备至少其中一方位置的数值。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018113563A JP6506454B1 (ja) | 2018-06-14 | 2018-06-14 | データ差し替え装置、端末、およびデータ差し替えプログラム |
JP2018-113563 | 2018-06-14 | ||
PCT/JP2019/023728 WO2019240276A1 (ja) | 2018-06-14 | 2019-06-14 | データ差し替え装置、端末、およびデータ差し替えプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111448536A true CN111448536A (zh) | 2020-07-24 |
CN111448536B CN111448536B (zh) | 2023-06-30 |
Family
ID=66324300
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201980006187.7A Active CN111448536B (zh) | 2018-06-14 | 2019-06-14 | 数据替换装置、终端及数据替换程序 |
Country Status (4)
Country | Link |
---|---|
US (2) | US11209911B2 (zh) |
JP (1) | JP6506454B1 (zh) |
CN (1) | CN111448536B (zh) |
WO (1) | WO2019240276A1 (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7467104B2 (ja) * | 2019-12-20 | 2024-04-15 | キヤノン株式会社 | 端末機器、電源供給制御方法、並びにプログラム |
WO2021163418A1 (en) * | 2020-02-12 | 2021-08-19 | University Of Florida Research Foundation | Human eyes design: first person vr characters for testing inclusive design solutions |
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004258123A (ja) * | 2003-02-24 | 2004-09-16 | Canon Inc | 表示制御方法、及び表示制御装置 |
US20150153825A1 (en) * | 2013-11-29 | 2015-06-04 | Samsung Electronics Co., Ltd. | Method for controlling display screen in head-mounted display device, and head-mounted display device |
US20150181087A1 (en) * | 2012-11-20 | 2015-06-25 | Samsung Electronics Company, Ltd. | Wearable Electronic Device |
WO2016002318A1 (ja) * | 2014-06-30 | 2016-01-07 | ソニー株式会社 | 情報処理装置及び情報処理方法、コンピューター・プログラム、並びに画像処理システム |
US20160063944A1 (en) * | 2014-09-01 | 2016-03-03 | Lenovo (Beijing) Co., Ltd. | Information Processing Method And Electronic Device |
JP2017004457A (ja) * | 2015-06-16 | 2017-01-05 | 株式会社ファイン | 仮想現実表示システム、仮想現実表示方法及びコンピュータプログラム |
JP6212666B1 (ja) * | 2017-03-02 | 2017-10-11 | 株式会社コロプラ | 情報処理方法、プログラム、仮想空間配信システム及び装置 |
JP6220937B1 (ja) * | 2016-08-26 | 2017-10-25 | 株式会社コロプラ | 情報処理方法、当該情報処理方法をコンピュータに実行させるためのプログラム及びコンピュータ |
CN107330978A (zh) * | 2017-06-26 | 2017-11-07 | 山东大学 | 基于位置映射的增强现实建模体验系统及方法 |
US20170323479A1 (en) * | 2014-10-20 | 2017-11-09 | Seiko Epson Corporation | Head mounted display apparatus and control method therefor, and computer program |
JP2018074294A (ja) * | 2016-10-26 | 2018-05-10 | 学校法人幾徳学園 | 情報処理システムおよび情報処理方法 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS54592A (en) * | 1977-06-03 | 1979-01-05 | Hitachi Ltd | Iil device |
US4267812A (en) | 1979-10-09 | 1981-05-19 | Ford Motor Company | Engine EGR cooler |
JP3059852B2 (ja) * | 1993-01-18 | 2000-07-04 | ヤンマーディーゼル株式会社 | 旋回作業車 |
JPH06257825A (ja) | 1993-03-08 | 1994-09-16 | Matsushita Seiko Co Ltd | 空気調和機の結露防止装置 |
JP6257825B1 (ja) * | 2017-05-26 | 2018-01-10 | 株式会社コロプラ | 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置 |
-
2018
- 2018-06-14 JP JP2018113563A patent/JP6506454B1/ja active Active
-
2019
- 2019-06-14 US US17/059,312 patent/US11209911B2/en active Active
- 2019-06-14 CN CN201980006187.7A patent/CN111448536B/zh active Active
- 2019-06-14 WO PCT/JP2019/023728 patent/WO2019240276A1/ja active Application Filing
-
2021
- 2021-11-12 US US17/525,031 patent/US11531401B2/en active Active
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004258123A (ja) * | 2003-02-24 | 2004-09-16 | Canon Inc | 表示制御方法、及び表示制御装置 |
US20150181087A1 (en) * | 2012-11-20 | 2015-06-25 | Samsung Electronics Company, Ltd. | Wearable Electronic Device |
US20150153825A1 (en) * | 2013-11-29 | 2015-06-04 | Samsung Electronics Co., Ltd. | Method for controlling display screen in head-mounted display device, and head-mounted display device |
WO2016002318A1 (ja) * | 2014-06-30 | 2016-01-07 | ソニー株式会社 | 情報処理装置及び情報処理方法、コンピューター・プログラム、並びに画像処理システム |
US20160063944A1 (en) * | 2014-09-01 | 2016-03-03 | Lenovo (Beijing) Co., Ltd. | Information Processing Method And Electronic Device |
US20170323479A1 (en) * | 2014-10-20 | 2017-11-09 | Seiko Epson Corporation | Head mounted display apparatus and control method therefor, and computer program |
JP2017004457A (ja) * | 2015-06-16 | 2017-01-05 | 株式会社ファイン | 仮想現実表示システム、仮想現実表示方法及びコンピュータプログラム |
JP6220937B1 (ja) * | 2016-08-26 | 2017-10-25 | 株式会社コロプラ | 情報処理方法、当該情報処理方法をコンピュータに実行させるためのプログラム及びコンピュータ |
JP2018074294A (ja) * | 2016-10-26 | 2018-05-10 | 学校法人幾徳学園 | 情報処理システムおよび情報処理方法 |
JP6212666B1 (ja) * | 2017-03-02 | 2017-10-11 | 株式会社コロプラ | 情報処理方法、プログラム、仮想空間配信システム及び装置 |
CN107330978A (zh) * | 2017-06-26 | 2017-11-07 | 山东大学 | 基于位置映射的增强现实建模体验系统及方法 |
Also Published As
Publication number | Publication date |
---|---|
US20220075454A1 (en) | 2022-03-10 |
JP2019215782A (ja) | 2019-12-19 |
US11531401B2 (en) | 2022-12-20 |
JP6506454B1 (ja) | 2019-04-24 |
US11209911B2 (en) | 2021-12-28 |
CN111448536B (zh) | 2023-06-30 |
WO2019240276A1 (ja) | 2019-12-19 |
US20210165495A1 (en) | 2021-06-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6266736B1 (ja) | 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置 | |
CN108304063B (zh) | 信息处理装置、信息处理方法和计算机可读介质 | |
JP6807455B2 (ja) | 情報処理装置および画像生成方法 | |
JP2016522463A5 (zh) | ||
WO2018225187A1 (ja) | 情報処理システム、情報処理装置、サーバ装置、画像提供方法および画像生成方法 | |
JP6306765B1 (ja) | 仮想空間を移動するためにコンピュータで実行される方法、当該方法をコンピュータに実行させるプログラムおよび情報処理装置 | |
JP6242473B1 (ja) | 仮想空間を提供するための方法、および当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置 | |
JP6615732B2 (ja) | 情報処理装置および画像生成方法 | |
KR20200060361A (ko) | 정보 처리 장치, 정보 처리 방법, 및 프로그램 | |
JP2019087226A (ja) | 情報処理装置、情報処理システムおよび表情画像出力方法 | |
US20220075454A1 (en) | Data replacement apparatus, terminal, and data replacement program | |
JP2017220224A (ja) | 仮想空間を提供するための方法、当該方法をコンピュータに実現させるためのプログラム、および仮想空間を提供するためのシステム | |
JP6518645B2 (ja) | 情報処理装置および画像生成方法 | |
CN109791436B (zh) | 用于提供虚拟场景的装置及方法 | |
JP6203346B1 (ja) | 仮想空間を提供する方法、プログラム、および記録媒体 | |
CN112099529A (zh) | 虚拟现实设备控制系统和方法 | |
JP6382928B2 (ja) | 仮想空間における画像の表示を制御するためにコンピュータによって実行される方法、当該方法をコンピュータに実現させるためのプログラム、および、コンピュータ装置 | |
JP7111645B2 (ja) | 制御プログラム | |
JP2018170013A (ja) | 仮想空間における画像の表示を制御するためにコンピュータによって実行される方法、当該方法をコンピュータに実現させるためのプログラム、および、コンピュータ装置 | |
JP7166983B2 (ja) | 端末およびプログラム | |
JP2018142319A (ja) | 仮想空間を移動するためにコンピュータで実行される方法、当該方法をコンピュータに実行させるプログラムおよび情報処理装置 | |
JP6526879B1 (ja) | データ送信装置、およびプログラム | |
JP2018067157A (ja) | 通信装置およびその制御方法 | |
WO2021095537A1 (ja) | 情報処理装置、情報処理方法、並びにプログラム | |
JP2018097879A (ja) | 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |