CN113377190A - 漂浮影像显示设备、互动方法与其系统 - Google Patents

漂浮影像显示设备、互动方法与其系统 Download PDF

Info

Publication number
CN113377190A
CN113377190A CN202010155793.XA CN202010155793A CN113377190A CN 113377190 A CN113377190 A CN 113377190A CN 202010155793 A CN202010155793 A CN 202010155793A CN 113377190 A CN113377190 A CN 113377190A
Authority
CN
China
Prior art keywords
floating image
image data
floating
computer system
display device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010155793.XA
Other languages
English (en)
Inventor
杨钧翔
张凯杰
丁志宏
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mirage Start Co ltd
Lixel Inc
Original Assignee
Mirage Start Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mirage Start Co ltd filed Critical Mirage Start Co ltd
Priority to CN202010155793.XA priority Critical patent/CN113377190A/zh
Publication of CN113377190A publication Critical patent/CN113377190A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality

Abstract

一种漂浮影像显示设备以及一种使用漂浮影像显示设备的互动方法与系统,所述方法执行于漂浮影像显示设备中,显示设备连接一计算机系统,计算机系统中运行一驱动程序,用以建立计算机系统与显示设备之间沟通的接口。在方法中,漂浮影像显示设备自计算机系统接收影像数据,并据此得出漂浮影像数据,经转换后,可通过显示面板显示出一漂浮影像,接着,使用者可于漂浮影像上操作手势,运行于显示设备的程序能根据其中立体坐标变化量判断出一互动指令,经传送互动指令至计算机系统后,由计算机系统响应此互动指令,产生新的影像数据,再传送至漂浮影像显示设备后显示新的漂浮影像。

Description

漂浮影像显示设备、互动方法与其系统
技术领域
说明书公开一种漂浮影像显示技术的应用,特别是提出一种漂浮影像显示设备,以及将此装置连接一计算机系统所执行的互动方法,以及结合形成的系统。
背景技术
一般已知的立体显示设备所采用的技术多半是利用人类双眼视差在脑中组合成具有深度的立体影像的方式,通过显示器显示的影像即设计成两张有差异的画面,当使用者使用特定装置,如红蓝眼镜、偏光眼镜或是快门眼镜,甚至是一种头戴式显示器,就可以将显示器显示的两张有差异的画面分别投射到双眼,之后再于脑中组合成立体影像。
另有裸视立体显示的技术,通过光学组件(透镜、光栅)的设计,可将显示器中影像分别直接投射在人的双眼上,使得在无须特殊装置的情况下直接感受到立体影像。
在各式立体显示技术中,都仍是显示的技术,并未提出让使用者可以直接操作立体影像的互动技术,主要原因是,常见的立体影像显示技术都是在脑中组合的虚像,无法直接与影像产生互动。
若以影像互动技术而言,其中的一个如由使用者操作电容式或电阻式显示器上进行手势操作,这类通过触控技术进行互动的技术是由触控显示器感测手势,再以软件程序根据手势显示互动后的影像,互动行为例如是在平面显示器上以单点或多点手势在二维平面上进行平移、旋转的动作。
另外在增强现实(Augmented Reality,AR)或是虚拟现实(VirtualReality,VR)的技术中也有互动的操作方法,增强现实或虚拟现实一般是通过平面显示器或是头戴式显示器(Head-Mounted Display,HMD)先显示出影像,使用者可以用手势操作当中的影像,额外再以摄影机拍摄手势,经图像处理后可以产生互动后的画面,产生互动的效果。
发明内容
说明书公开一种使用漂浮影像显示设备的互动方法、系统以及其中的漂浮影像显示设备,其中漂浮影像显示设备用以显示一个漂浮影像,经连接于计算机系统后,提供使用者实际操作漂浮的立体影像的新的使用者体验。
所述漂浮影像显示系统主要包括一漂浮影像显示设备与运行于计算机系统中的驱动程序,其中漂浮影像显示设备设有一手势传感器,漂浮影像显示设备可以内建或外接方式连接计算机系统。
根据一实施例,所述使用漂浮影像显示设备的互动方法运行于漂浮影像显示设备中,漂浮影像显示设备连接一计算机系统,包括可以通过一联机连接一计算机装置,也可以模块化的装置内建于计算机装置中。
在方法中,漂浮影像显示设备自计算机系统接收一影像数据,之后可以根据影像数据得出一漂浮影像数据,并由其中显示面板显示出一漂浮影像。之后,让使用者以一手势操作漂浮影像,手势由一手势传感器感测到,取得手势产生的立体坐标变化量,并能据此判断一互动指令。
接着,将互动指令传送至计算机系统,由计算机系统响应此互动指令,可得出对照此立体坐标变化量的一新的影像数据,之后再将新的影像数据传送到漂浮影像显示设备,使得可以根据新的影像数据得出一新的漂浮影像数据,经转换后,再通过显示面板显示出新的漂浮影像。
进一步地,计算机系统中运行一软件程序,软件程序可根据所接收到的互动指令执行一对应的程序,使计算机系统对照立体坐标变化量产生新的影像数据,这个新的影像数据也就在漂浮影像显示设备显示出新的漂浮影像,产生因为手势操作的新的影像。
优选地,所述手势为反映使用者的手指、手掌位置与指关节的立体坐标的变化,而对应立体坐标变化量产生的互动指令将指出移动、旋转与缩放动作的其中的一个或任意组合,使软件程序执行对应的程序。
进一步地,计算机系统中运行一驱动程序,驱动程序建立计算机系统与漂浮影像显示设备沟通的接口,用以解译与编译计算机系统与漂浮影像显示设备交换的信息。在计算机系统中,由驱动程序根据计算机系统响应互动指令产生的信息,可向一影像服务器发出请求而下载得到提供至漂浮影像显示设备的影像数据或新的影像数据。优选地,数据中记载描述漂浮影像的色彩信息与三维空间信息。
根据漂浮影像显示设备实施例,主要电路包括一图像处理器,用以处理形成漂浮影像的影像数据;一输入接口,用以连接手势传感器,以接收由手势传感器感测手势产生的信息,使得能通过图像处理器计算立体坐标变化量,以形成互动指令;一显示驱动单元,为根据漂浮影像数据的描述得出漂浮影像,再通过显示单元显示漂浮影像;以及一计算机连接单元,漂浮影像显示设备通过此计算机连接单元连接计算机装置。
当漂浮影像显示设备自计算机系统接收影像数据,可以根据影像数据得出漂浮影像数据,经显示驱动单元转换漂浮影像数据后,可通过显示单元显示出漂浮影像,再提供使用者直接在漂浮影像上进行手势操作,通过与计算机系统之间的来往信息,让使用者可以操作漂浮影像而控制计算机系统中软件程序。
附图说明
图1显示漂浮影像显示设备的实施例示意图;
图2显示漂浮影像显示设备的电路实施例图;
图3显示漂浮影像通过计算机系统连接外部系统的实施例示意图;
图4显示以漂浮影像显示设备执行互动方法的实施例流程图之一;
图5显示以漂浮影像显示设备执行互动方法的实施例流程图之二;
图6显示以漂浮影像显示系统通过显示设备执行互动方法的实施例流程图之三;
图7显示在计算机装置中设置漂浮影像显示设备的实施例示意图;
图8显示在计算机装置中内建漂浮影像显示模块的实施例示意图;
图9显示计算机装置与漂浮影像显示设备联机使用的实施例示意图之一;
图10显示计算机装置与漂浮影像显示设备联机使用的实施例示意图之二;
图11显示计算机装置与漂浮影像显示设备联机使用的实施例示意图之三;以及
图12显示以漂浮影像显示设备产生虚拟助理的实施例示意图。
具体实施方式
公开书公开一种漂浮影像显示设备、利用此显示设备执行的互动方法,以及相关的漂浮影像显示系统,利用漂浮影像进行互动的技术是提供使用者可以在观看显示在漂浮影像显示设备上的漂浮影像时,还能通过手势操控其中漂浮影像,其中主要方法是利用手势传感器感测到在漂浮影像上的手势,如移动、旋转或缩放动作,再得出对应手势的漂浮坐标变化量,根据所判断的互动指令,对应显示随着手势产生的漂浮影像,提供使用者实现以手势与漂浮影像互动的技术目的。需要一提的是,这个漂浮影像可为一静态物件的一漂浮影像,或是动态物件的连续漂浮影像。
在一实施态样中,在所述漂浮影像显示设备中的显示技术可以是一种浮空显示立体影像的技术,这种技术是由一平面显示面板显示多个子影像(单元影像),多个子影像的组成一个完整的影像(集成影像),显示时,平面显示面板上显示的影像通过一层光学组件(如透镜数组)显示,每个子影像会通过对应的透镜成像,通过多个透镜可在显示设备上形成一个完整的影像,如此,可以产生一个浮空影像的显示效果。
值得一提的是,与现有增强现实(AR)或虚拟现实(VR)的显示技术不同除了显示设备的不同外,投射立体影像的技术与效果也不同。所述AR或VR采用的显示技术是将立体影像投影在眼前的屏幕上并通过人的左右眼对影像反应出三维效果的显示技术,而公开书所提出的漂浮影像显示技术是真实将影像通过光学组件投射在使用者的眼前位置,让使用者可以手势操作漂浮影像,通过手势感测得出操作手势,而再演算出反应手势产生的新的漂浮影像,提供真实体验在影像上操作的互动效果。
图1显示漂浮影像显示设备的实施例示意图。
此例显示有一漂浮影像显示设备10,如以上描述的实施例,此漂浮影像显示设备10由一层光学组件101与显示面板102组成,其中具备图像处理器,可以处理显示内容,并具备通信能力,可以从外部影像提供来源取得漂浮影像数据,经图像处理后显示出漂浮影像103。
进一步地,漂浮影像显示设备10设有一手势传感器105,用以感测使用者以手12在漂浮影像103上的动作。所述手势传感器105可以一影像检测手段实现,主要方式是利用照相机取得手12的几个关键部位(如手指、手掌、指关节)的连续画面,通过图像处理,可以取得在一时间间隔前后的影像变化,主要为每个关键部分在手势传感器坐标系的立体坐标(如直角坐标系表示的Xsensor,Ysensor,Zsensor,或球坐标系表示的γ,θ,φ),经连续取得后,可以得出立体坐标变化量,再转换成漂浮影像显示设备10坐标系的立体坐标(Xdevice,Ydevice,Zdevice)的变化量,如向量(位移、方向)、速率(距离与时间)等信息,最后可以判断出移动、旋转与缩放动作的其中的一个或任意组合的互动指令。
在另一实施例中,手势传感器105可以采用光线遮断的原理来感测出手势,相关技术是先以一光源投射出感测光线,当手12进入这个光线范围内,可以光传感器检测出光线被遮断时在手部产生的光点,再从其中得出每个关键部位反射光线的量(反映变化部位)与时间差(反映深度),同样地,根据连续取得这些光线信息,可以得出手势造成的立体坐标变化量,再判断出移动、旋转与缩放动作的其中的一个或任意组合的互动指令。
于再一实施例中,手势传感器105可以包括声波产生器与接收器,利用声波反射的信息判断手势。当手12在手势传感器105的感测范围中,会阻断声波,同样地产生反射波,使得声波接收器可以根据声波的变化,也就可以检测到手12的几个关键部位在空间的变化量,进而转换为立体坐标变化量,能够据此判断出移动、旋转与缩放动作的其中的一个或任意组合的互动指令。
如此,利用各种感测手势技术的手势传感器105所实现的互动方法,可以依据手势所反映出手12的手指、手掌位置与指关节的立体坐标的变化,以判断得出移动、旋转与缩放动作的其中的一个或任意组合的互动指令,之后,经对照影像数据库中记载的漂浮影像数据,得出漂浮影像103在各种手势操作下的下一个漂浮影像数据,显示出下一个漂浮影像,漂浮影像数据可以包括一个静态漂浮影像,或是连续影像形成的漂浮影片。当其中感测到变化、坐标转换与立体影像演算等的处理程序可以高速演算,可实时反应手势产生实时互动的效果。
图2接着显示漂浮影像显示设备的电路实施例图。
图中显示的漂浮影像显示设备20连接手势传感器22,根据实施例,两者可整合在一个装置内,漂浮影像显示设备20与手势传感器22为两个内建的模块,或是,漂浮影像显示设备20与手势传感器22为两个独立装置,再以联机连接,能互相传递信息。
在漂浮影像显示设备20中,设有执行图像处理与所公开的互动方法的图像处理器203,电性链接其他电路组件,如输入接口201,漂浮影像显示设备20通过输入接口201自手势传感器22接收到感测手势的信息,输入接口201为一通信接口。根据实施例,通过输入接口201所接收的信息为手势传感器22感测到手势形成的立体坐标变化量,使得图像处理器203可以根据立体坐标变化量判断得出的互动指令,再根据互动指令演算出新的漂浮影像的影像坐标信息。
在图像处理器203中,当取得由手势传感器22得出的手势对应的立体坐标变化量后,可演算出旋转、放大、缩放等互动指令,依据这些互动指令,查询存储单元206中的影像数据库,以得出对应变化的漂浮影像数据,或是以图像处理器203根据互动指令实时演算得出新的漂浮影像数据,且可为静态漂浮影像或连续影像形成的立体影片。其中漂浮影像数据用于描述以漂浮影像显示设备20显示漂浮影像的色彩信息与三维空间信息。图像处理器203电性连接显示驱动单元204,可以根据漂浮影像数据的描述得出漂浮影像,通过显示单元205显示出来。
漂浮影像显示设备20以有线或无线通信方式连接手势传感器22中的接口单元223,这是一个通信接口,通过此通信接口传递信息。手势传感器22设有感测组件221,实现利用光线、声波、影像等方式感测手势的技术,所谓手势可以为手部的几个关键部位产生的姿势变化,包括手指、手掌位置、指关节所代表的手势位置。
控制单元222为手势传感器22中的控制电路,通过接口单元223连接漂浮影像显示设备20,控制单元222能够根据感测组件221得到的感测信息得出手势反映出的立体坐标变化量。
在此一提的是,由手势传感器22感测到手势对应的立体坐标变化量是为以手势传感器22的坐标系的坐标信息,之后提供给漂浮影像显示设备20时,应执行坐标转换,将互动指令在以手势传感器22形成的坐标系的坐标信息转换至以漂浮影像显示设备20形成的坐标系中,才能继续对照显示的漂浮影像的影像坐标信息。
其中,以漂浮影像显示设备20显示的漂浮影像,其中影像的每个位置都是已知,因此可以判断出手势经坐标转换后在相同坐标系中的相关性,这个相关性表达手势形成的立体坐标与显示中的漂浮影像的关系。举例来说,移动手势造成漂浮影像朝某个方向的移动,因此漂浮影像的立体坐标应加入这个方向的变化量,因此在新的位置重新得出新的漂浮影像,在图像处理器203中,实时查询或是实时演算出一个新的漂浮影像数据,提供给显示驱动单元204形成显示影像。若为旋转手势,将造成漂浮影像朝一个方向旋转,因此原本漂浮影像的立体坐标应加入旋转变化量,也就形成新的漂浮影像数据,用以显示新的漂浮影像数据。同理,若为缩放手势,将漂浮影像在相同参考点位置上的大小变化,该相关的立体坐标也随着变化,图像处理器203查询影像数据库或实时演算,产生新的漂浮影像数据,提供给显示驱动单元204形成显示影像。
上述移动、旋转与缩放等手势可以任意组合,形成互动指令,再由图像处理器203运算产生新的漂浮影像数据,漂浮影像数据为提供漂浮影像显示设备20直接显示漂浮影像的数据。
于公开书所提出应用漂浮影像显示设备执行互动方法的再一实施例中,漂浮影像显示设备20设有计算机连接单元202,计算机连接单元202电性连接显示设备中的图像处理器203,计算机连接单元202让漂浮影像显示设备20通过特定通信接口以无线(如WiFi、蓝牙等)或有线(如USB、RS232等工业标准接口)手段连接一计算机装置25,计算机装置25中运行一计算机系统,并执行与漂浮影像显示设备20进行沟通的驱动程序,使得在漂浮影像显示设备20经过手势操作产生的互动指令可以传送到计算机系统,由计算机系统再反应此互动指令,通过计算机系统中程序演算产生新的漂浮影像数据,再传回漂浮影像显示设备20显示新的漂浮影像。
根据实施例,所述运行于计算机系统的驱动程序用以建立计算机系统与漂浮影像显示设备20沟通的接口,用以解译与编译计算机系统与漂浮影像显示设备20交换的信息。进一步地,驱动程序可根据计算机系统响应互动指令产生的信息,向一外部系统(如影像服务器)发出一请求而下载得到提供至漂浮影像显示设备20的影像数据或新的影像数据,影像数据如上述漂浮影像资源文件,其中记载描述漂浮影像的色彩信息与三维空间信息,让显示设备中的图像处理器203可以据此演算出距离显示面板有一距离高度的漂浮影像。
续根据图3所示漂浮影像显示设备通过计算机系统连接外部系统的实施例示意图,此例显示漂浮影像显示设备10通过计算机系统35经网络30联机的影像服务器301,上述漂浮影像数据可由影像服务器301提供,影像服务器301设有影像数据库303,提供查询得到在各种互动指令对应的漂浮影像数据。
根据实际运作的方式,当使用者在漂浮影像上执行互动时,可先查询目前在漂浮影像显示设备10中存储的数据是否包括了对应互动指令的下一个显示样态,若已经包括新的显示样态,则漂浮影像显示设备10可自行运算后产生漂浮影像数据,并显示;若并未包括互动产生的下一个显示样态,产生的互动指令传送到计算机系统35,可立即通过网络30向影像服务器301发出新漂浮影像资源文件的请求,以下载新的漂浮影像数据,再经由计算机系统35加载至漂浮影像显示设备10,显示出下一个经过互动产生的漂浮影像。
可参考图1,当使用者以手12在漂浮影像显示设备10上与漂浮影像互动时,产生的手势形成立体坐标变化量,并据此得出互动指令,这时,通过特定通信接口传送到计算机系统35,其中执行的软件程序可以根据互动指令执行特定程序,还可通过网络30传送至影像服务器301,由影像服务器301根据互动指令提供新的漂浮影像数据。
接着,如图4所示,其中流程图描述以漂浮影像显示设备配合计算机系统执行互动方法的实施例。
漂浮影像显示设备连接计算机装置的方式的一个为通过模块化内建于计算机装置中,或是通过特定通信方式以外接方式连接计算机装置,在此实施例流程中,漂浮影像显示设备所显示的漂浮影像主要为根据计算机系统中运行的特定软件程序互动而产生的影像,实施例流程一开始,漂浮影像显示设备与计算机系统实现联机后,可自计算机系统接收数据(步骤S401),其中记载了演算出漂浮影像中的色彩信息与三维空间信息,使得漂浮影像显示设备中图像处理器可得出影像数据(步骤S403),并转换出漂浮影像数据(步骤S405)。
接着,如步骤S407,由漂浮影像显示设备显示漂浮影像,并让使用者在此漂浮影像显示设备上进行操作,如步骤S409,漂浮影像显示设备中的手势传感器将感测到手势,如步骤S411,可以取得对应手势的坐标变化,再如步骤S413,通过漂浮影像显示设备图像处理器的运算,能根据手势形成的立体坐标变化量,包括特定部位在特定方向产生的移动、旋转与/或缩放产生的立体坐标变化量,判断出互动指令。
之后,如步骤S415,将互动指令通过与计算机系统的通信接口传送到计算机系统,再如步骤S417,由计算机系统中运行的软件程序根据此互动指令执行一对应的程序,这个程序驱使计算机系统显示新的画面,如此软件程序的下一步动作的画面,此时,如步骤S419,计算机系统根据软件程序反应此互动指令所产生的动作(对照立体坐标变化量的动作)转换形成提供至漂浮影像显示设备的影像数据或新的影像数据;或者,软件程序自漂浮影像显示设备接收手势形成的互动指令后,根据互动指令执行对应的程序后,使用者操作计算机系统中的软件程序,产生新的指令,作业程序能根据软件程序新产生的指令转换形成提供至漂浮影像显示设备的新的影像数据。
在步骤S421中,计算机系统将得出本次手势形成的互动指令所对应的新的影像数据,也就是新的色彩与立体坐标信息,传送到漂浮影像显示设备中,在步骤S423中,使得漂浮影像显示设备得出新的漂浮影像数据,再通过其中显示功能显示新的漂浮影像。
图5以另一个流程图描述以手势传感器根据手势产生互动指令以执行互动方法的实施例流程。
在此例中,一开始如步骤S501,使用者通过漂浮影像显示设备观看到漂浮影像,并能在影像上操作手势,显示设备利用手势传感器感测到使用者在漂浮影像显示设备显示的漂浮影像上的手势,这时,如步骤S503,可以取得关键部位(如手指、指关节、手掌等)的立体坐标变化,如步骤S505,立体坐标变化为手势传感器在一个持续时间感测到手势所造成的,必要时,应由手势传感器形成的坐标系的坐标信息转换至以漂浮影像显示设备形成的坐标系中,使得在相同坐标系中,可让图像处理器得知手势形成的互动指令与漂浮影像的相关性。
在步骤S507,从手势判断出其中一或多个关键部位的立体坐标的变化量,可以据此判断出互动指令,在一实施例中,可将此互动指令传送到计算机系统,在对照原本显示的漂浮影像的影像坐标信息后,演算出新的漂浮影像的影像坐标信息(步骤S509)。其中,根据实施例的一个,在漂浮影像显示设备中,当根据手势判断出互动指令时,显示设备中的图像处理器可根据此互动指令查询其中存储单元中的影像数据,若有对应手势的影像数据,即得出对应立体坐标变化量的漂浮影像数据,或是可由图像处理器根据互动指令而实时演算得出对应立体坐标变化量的漂浮影像数据。
而在一实施例中,运行于计算机系统的驱动程序可以根据计算机系统响应该互动指令产生的信息,而向影像服务器发出请求而查询其中影像数据库,之后下载得到对应的影像数据,使得漂浮影像显示设备自计算机系统得到漂浮影像在各种手势操作下的下一个漂浮影像数据(步骤S511),用于显示新的漂浮影像(步骤S513)。
图6接着显示以漂浮影像显示设备执行互动方法的实施例流程图,此流程图描述手势传感器61、漂浮影像显示设备62、计算机系统63以及应用服务器64之间的互动流程。
根据此流程实施例,应用此互动方法的计算机装置连接着漂浮影像显示设备62,当使用者操作计算机系统63中某个应用程序,形成一个软件程序,此软件程序自应用服务器64加载所请求的内容,如一网页内容(步骤S601),这时在计算机系统63中显示一计算机影像(步骤S603),操作过程,即产生指令数据,其中包括了显示漂浮影像的相关信息,并经特定通信接口传送到漂浮影像显示设备62(步骤S605),使得漂浮影像显示设备62中的图像处理器根据描述漂浮影像的色彩信息与三维空间信息演算得出漂浮影像数据(步骤S607),可以据此通过显示面板显示出漂浮影像。
使用者可以观看到漂浮影像显示设备62产生的漂浮影像,这时,可以通过手势操作漂浮影像,漂浮影像显示设备62通过手势传感器61感测到手势(步骤S609),并经演算得到从移动、旋转与缩放动作所产生的立体坐标的变化量,以能产生对应的互动指令(步骤S611)。
之后,由漂浮影像显示设备62传送互动指令至计算机系统63(步骤S613),使得计算机系统63中运行的软件程序可以根据互动指令产生一对应的程序,包括显示互动后计算机影像(步骤S615)。此时,计算机系统63响应互动指令的过程中可包括再与应用服务器64取得进一步内容,同时也得出对照立体坐标变化量的新的影像数据,形成的指令封包再次传送到漂浮影像显示设备62(步骤S617)。
在漂浮影像显示设备62中,即根据接收的指令封包取得其中影像数据,并演算形成显示漂浮影像的数据,之后通过显示面板显示本次互动的结果形成的漂浮影像(步骤S619),并还持续等待并感测下一个手势(步骤S621)。
根据实施例,所述漂浮影像显示设备可以多种方式与计算机装置搭配,包括可经模块化后内建于计算机系统的结构中,而手势传感器则根据所采用的感测技术安装于适当可感测手势的位置。
实施例的一个可参考图7所示在计算机装置中设置漂浮影像显示设备的实施例示意图。
图中显示一如同笔记本电脑的计算机装置70,在其键盘结构的部分装设了一经过模块化的漂浮影像显示设备,即图中显示内建于计算机装置70的漂浮影像显示模块72,其中结构与电路可参考上述图1与图2所示意显示的实施例。
漂浮影像显示模块72中的处理电路可以根据计算机系统所提供的影像数据转换得出而显示的漂浮影像721,在计算机装置70的特定位置装设有手势传感器74,手势传感器74与漂浮影像显示模块72电性连接,能以影像检测手段、光线遮断手段或声波反射手段等技术判断使用者的手势,得到的手势即反映出使用者的手指、手掌位置与指关节的立体坐标的变化,或是其他物件或身体部位在漂浮影像上显示的互动。准确地说,手势传感器74采用的技术实现一种立体空间的触控技术,其中实现一种空间传感器,如一种以二维摄影机(2D Camera)、深度照相机(Depth Camera)、光栅式传感器等实现的光学式传感器,或可为以雷达(Radar)、超声波(Ultrasonic)等实现悬浮触控(Hovering touch)的传感器。如此,通过以上所述的手势感测技术能持续追踪使用者手部(或特定物件、部位)的动作,包括执行追踪演算、手部关节位置分析、坐标转换等,手势传感器74可以根据预先定义好的手势与互动指令对照表,根据特定部位在漂浮影像显示范围内的移动、旋转与缩放动作的其中的一个或任意组合判断出互动指令。
图8显示在计算机装置80中内建漂浮影像显示模块82的实施例示意图,这是通过机构内建模块化的漂浮影像显示设备的实施例,通过漂浮影像显示模块82在计算机装置80上的某个位置显示出一漂浮影像821,而对照计算机装置80中运行的软件程序,可以显示对应的计算机影像801。
图9显示另一实施例示意图,此图显示计算机装置90自外部应用服务器取得内容,此例为电子商务平台,附图中在计算机装置90显示一商品影像901,并可标注其商品名称与价格等数据,并让使用者进行其他选择(收藏、放入购物车)。同时,以外接方式连接计算机装置90的漂浮影像显示设备92同步显示了一商品漂浮影像921。
这时,使用者除了可以通过漂浮影像显示设备92看到商品的漂浮影像921外,还可通过手势操作观看商品的各个角度的立体影像,其中因为商品漂浮影像921的立体影像,因此手势可参考图示箭头,可以包括空间上各种方向的转动,如左右水平转动、上下垂直转动以及其他各向转动,其中根据手势演算形成漂浮影像的方法如上实施例所描述,包括漂浮影像显示设备92内部可载有此商品的完整影像数据,或是需要根据使用者操作而从计算机装置90或外部影像服务器得到影像数据。
举例来说,可以通过漂浮影像显示设备92显示单笔或数笔使用者感兴趣的商品,使用者可以经由单个或多个组合手势进行选择,可以从各个方向移动商品,包括前后与左右水平移动、垂直上下移动,并能自由旋转商品以在各个角度观赏商品,包括放大商品以看到更多细节或缩小商品以看到更多其他商品,也可通过手势浏览上一个或下一个立体商品列表,包括选择某个立体商品完成购物。
图10显示的示意图表示计算机装置90中计算机系统执行了一或多个应用程序,显示屏幕即显示出应用程序影像902,此例同步由外接的漂浮影像显示设备92显示对应一或多个应用程序的软件漂浮影像922,其中也能通过选单方式呈现出多个应用程序的图样(icon),使得使用者可以手势操作软件漂浮影像922,以选择所要执行或观看的应用程序内容,相关互动指令将传送到计算机系统,显示出对应的应用程序影像902。
举例来说,当使用者通过漂浮影像显示设备92观看到多个应用程序图样,可以浮空操作软件漂浮影像922,让漂浮影像显示设备92一次显示单个或多个浮空的图样,使用者可以经由单个或多个组合手势以缩放所要看到的漂浮影像。
图11接着显示计算机装置90中执行一影音播放程序,对应的画面为影音播放影像903,此例外接的漂浮影像显示设备92显示的漂浮影像为提供使用者操作此影音播放功能的音乐播放工具漂浮影像923,附图示意表示为几个影音播放的按钮,如暂停、停止、播放、往前快转、往后快转等功能按键。使用者可以利用漂浮影像显示设备92上显示的音乐播放工具漂浮影像923播放、暂停、停止或前后快转影音内容。
举例来说,使用者通过操作漂浮影像显示设备92上显示的音乐播放工具漂浮影像923选择拨放音乐影片,还可直接呈现音乐影片的画面,如图示的影音播放影像903’,使得使用者可以通过漂浮影像显示设备92以手势旋转影片以观看不同角度的内容,包括可以放大或缩小漂浮影像,以及执行浮空拨放、暂停、上一首、下一首等动作。
图12显示有一计算机装置120,在计算机装置120上的某个位置内建了漂浮影像显示模块122,通过计算机系统的运行,由漂浮影像显示模块122显示一虚拟助理漂浮影像123,同步可以在计算机装置120上显示一计算机影像121,例如是操作虚拟助理漂浮影像123产生的结果。
举例来说,计算机系统通过漂浮影像显示模块122显示一个实现虚拟助理的虚拟助理漂浮影像123,使用者可以与此漂浮助理互动,可以通过碰触此虚拟助理漂浮影像123的不同部位产生不同后续影像反应,如碰头会打招呼、碰脚会跌倒等互动效果。
综上所述,说明书公开一种漂浮影像显示技术的应用,特别是提出一种漂浮影像显示设备,以及将此装置连接一计算机系统所执行的互动方法,以及结合形成的系统。漂浮影像显示设备产生的漂浮影像是通过各光束投射产生的真实影像,而非双眼视差产生的三维效果,因此应用此显示设备产生的互动效果,以及与计算机系统之间的互动程序相对于现有技术具有新颖的特征。
以上所公开的内容仅为本发明的优选可行实施例,并非因此局限本发明的权利要求,所以凡是运用本发明说明书及附图内容所做的等效技术变化,均包含于本发明的权利要求内。

Claims (16)

1.一种使用漂浮影像显示设备的互动方法,执行于一漂浮影像显示设备中,该漂浮影像显示设备连接一计算机系统,其特征在于,所述的方法包括:
自该计算机系统接收一影像数据,根据该影像数据得出一漂浮影像数据;
经转换该漂浮影像数据后,通过该漂浮影像显示设备的一显示面板显示出一漂浮影像;
以一手势传感器感测一手势,并取得该手势的一立体坐标变化量;
根据该立体坐标变化量判断一互动指令;
传送该互动指令至该计算机系统,由该计算机系统响应该互动指令,得出对照该立体坐标变化量的一新的影像数据;
自该计算机系统接收该新的影像数据,根据该新的影像数据得出一新的漂浮影像数据;以及
经转换该新的漂浮影像数据后,通过该显示面板显示出一新的漂浮影像。
2.如权利要求1所述的使用漂浮影像显示设备的互动方法,其特征在于,所述的计算机系统中运行一软件程序,该软件程序根据该互动指令执行一对应的程序,使该计算机系统对照该立体坐标变化量产生该新的影像数据。
3.如权利要求2所述的使用漂浮影像显示设备的互动方法,其特征在于,由该计算机系统根据该软件程序所产生的指令转换形成提供至该漂浮影像显示设备的该影像数据或该新的影像数据。
4.如权利要求3所述的使用漂浮影像显示设备的互动方法,其特征在于,所述的软件程序执行该对应的程序后,由一使用者操作该软件程序产生一新的指令,使得该计算机系统根据该软件程序新产生的指令转换形成提供至该漂浮影像显示设备的该新的影像数据。
5.如权利要求4所述的使用漂浮影像显示设备的互动方法,其特征在于,所述的手势反映一手的手指、手掌位置与指关节的立体坐标的变化,而该互动指令指出移动、旋转与缩放动作的其中的一个或任意组合,使该软件程序执行该对应的程序。
6.如权利要求1至5中任一权利要求所述的使用漂浮影像显示设备的互动方法,其特征在于,所述的计算机系统中运行一驱动程序,该驱动程序建立该计算机系统与该漂浮影像显示设备沟通的接口,用以解译与编译该计算机系统与该漂浮影像显示设备交换的信息。
7.如权利要求6所述的使用漂浮影像显示设备的互动方法,其特征在于,所述的驱动程序根据该计算机系统响应该互动指令产生的信息,向一影像服务器发出一请求而下载得到提供至该漂浮影像显示设备的该影像数据或该新的影像数据,其中记载描述该漂浮影像的色彩信息与三维空间信息。
8.一种漂浮影像显示设备,其特征在于,所述的设备包括:
一图像处理器,处理形成一漂浮影像的影像数据;
一输入接口,电性连接该图像处理器,连接一手势传感器,接收由该手势传感器感测一手势产生的信息,通过该图像处理器计算一立体坐标变化量,以形成一互动指令;
一显示驱动单元,电性连接该图像处理器,根据一漂浮影像数据的描述得出该漂浮影像,再通过一显示单元显示该漂浮影像;
一计算机连接单元,电性连接该图像处理器,通过一通信接口连接一计算机装置,该计算机装置运行一计算机系统;
其中该漂浮影像显示设备自该计算机系统接收影像数据,根据影像数据得出该漂浮影像数据,经该显示驱动单元转换该漂浮影像数据后,通过该显示单元显示出该漂浮影像,之后使用该漂浮影像显示设备的互动方法包括:
以该手势传感器感测该手势,并取得该手势的该立体坐标变化量;
根据该立体坐标变化量判断该互动指令;
通过该计算机连接单元传送该互动指令至该计算机系统,由该计算机系统响应该互动指令,得出对照该立体坐标变化量的一新的影像数据;
自该计算机系统接收该新的影像数据,根据该新的影像数据得出一新的漂浮影像数据;以及
经转换该新的漂浮影像数据后,通过该显示单元显示出一新的漂浮影像。
9.如权利要求8所述的漂浮影像显示设备,其特征在于,所述的漂浮影像显示设备经模块化后内建于该计算机系统的结构中,该手势传感器设于能感测到该手势的位置。
10.如权利要求9所述的漂浮影像显示设备,其特征在于,所述的手势传感器以一影像检测手段、一光线遮断手段或一声波反射手段判断该手势,该手势反映一手的手指、手掌位置与指关节的立体坐标的变化,该互动指令指出移动、旋转与缩放动作的其中的一个或任意组合。
11.如权利要求8所述的漂浮影像显示设备,其特征在于,所述的图像处理器根据该互动指令查询一存储单元中的影像数据,以得出对应该立体坐标变化量的漂浮影像数据;或是该图像处理器根据该互动指令而实时演算得出对应该立体坐标变化量的漂浮影像数据。
12.一种漂浮影像显示系统,其特征在于,所述的系统包括:
一漂浮影像显示设备,设有一手势传感器,该漂浮影像显示设备包括:
一图像处理器,处理形成一漂浮影像的影像数据;
一输入接口,电性连接该图像处理器,连接该手势传感器,接收由该手势传感器感测一手势产生的信息,通过该图像处理器计算一立体坐标变化量,以形成一互动指令;
一显示驱动单元,电性连接该图像处理器,根据一漂浮影像数据的描述得出该漂浮影像,再通过一显示单元显示该漂浮影像;
一计算机连接单元,电性连接该图像处理器,通过一通信接口连接一计算机装置,该计算机装置运行一计算机系统,包括运行于该计算机系统内的一驱动程序,该驱动程序建立该计算机系统与该漂浮影像显示设备沟通的接口,用以解译与编译该计算机系统与该漂浮影像显示设备交换的信息;
其中该漂浮影像显示设备自该计算机系统接收影像数据,根据影像数据得出该漂浮影像数据,经该显示驱动单元转换该漂浮影像数据后,通过该显示单元显示出该漂浮影像,之后使用该漂浮影像显示设备的互动方法包括:
以该手势传感器感测该手势,并取得该手势的该立体坐标变化量;
根据该立体坐标变化量判断该互动指令;
通过该计算机连接单元传送该互动指令至该计算机系统,响应该互动指令,得出对照该立体坐标变化量的一新的影像数据;
自该计算机系统接收该新的影像数据,根据该新的影像数据得出一新的漂浮影像数据;以及
经转换该新的漂浮影像数据后,通过该显示单元显示出一新的漂浮影像。
13.如权利要求12所述的漂浮影像显示系统,其特征在于,所述的计算机系统中运行一软件程序,该软件程序根据该互动指令执行一对应的程序,使该计算机系统中运行的该驱动程序对照该立体坐标变化量产生该新的影像数据。
14.如权利要求13所述的漂浮影像显示系统,其特征在于,所述的软件程序自该漂浮影像显示设备接收该手势形成的该互动指令后,根据该互动指令执行一对应的程序,再由该计算机系统根据该软件程序新产生的指令转换形成提供至该漂浮影像显示设备的该新的影像数据。
15.如权利要求14所述的漂浮影像显示系统,其特征在于,所述的手势反映一手的手指、手掌位置与指关节的立体坐标的变化,而该互动指令指出移动、旋转与缩放动作的其中的一个或任意组合,使该软件程序执行该对应的程序。
16.如权利要求12至15中任一权利要求所述的漂浮影像显示系统,其特征在于,所述的驱动程序根据该计算机系统响应该互动指令产生的信息,向一影像服务器发出一请求而下载得到提供至该漂浮影像显示设备的该影像数据或该新的影像数据,其中记载描述该漂浮影像的色彩信息与三维空间信息。
CN202010155793.XA 2020-03-09 2020-03-09 漂浮影像显示设备、互动方法与其系统 Pending CN113377190A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010155793.XA CN113377190A (zh) 2020-03-09 2020-03-09 漂浮影像显示设备、互动方法与其系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010155793.XA CN113377190A (zh) 2020-03-09 2020-03-09 漂浮影像显示设备、互动方法与其系统

Publications (1)

Publication Number Publication Date
CN113377190A true CN113377190A (zh) 2021-09-10

Family

ID=77569400

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010155793.XA Pending CN113377190A (zh) 2020-03-09 2020-03-09 漂浮影像显示设备、互动方法与其系统

Country Status (1)

Country Link
CN (1) CN113377190A (zh)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150242101A1 (en) * 2013-06-26 2015-08-27 Panasonic Intellectual Property Corporation Of America User interface device and display object operating method
CN109782452A (zh) * 2017-11-13 2019-05-21 群睿股份有限公司 立体影像产生方法、成像方法与系统

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150242101A1 (en) * 2013-06-26 2015-08-27 Panasonic Intellectual Property Corporation Of America User interface device and display object operating method
CN109782452A (zh) * 2017-11-13 2019-05-21 群睿股份有限公司 立体影像产生方法、成像方法与系统

Similar Documents

Publication Publication Date Title
US20200320793A1 (en) Systems and methods of rerendering image hands to create a realistic grab experience in virtual reality/augmented reality environments
CN110603509B (zh) 计算机介导的现实环境中直接和间接交互的联合
Burdea et al. Virtual reality technology
CN110753899B (zh) 计算机介导现实中的位移取向交互
US10521028B2 (en) System and method for facilitating virtual interactions with a three-dimensional virtual environment in response to sensor input into a control device having sensors
KR101074940B1 (ko) 입체이미지 상호 연동 시스템
JP3242079U (ja) 浮遊画像表示装置、及び浮遊画像表示システム
US20130154913A1 (en) Systems and methods for a gaze and gesture interface
TWI700516B (zh) 互動式立體顯示裝置與互動感應方法
Steinicke et al. Multi-touching 3D data: Towards direct interaction in stereoscopic display environments coupled with mobile devices
KR102147430B1 (ko) 가상 공간 멀티 터치 인터랙션 장치 및 방법
CN105264572A (zh) 信息处理设备、信息处理方法和程序
CN103793060A (zh) 一种用户交互系统和方法
US11194402B1 (en) Floating image display, interactive method and system for the same
CN109313510A (zh) 集成的自由空间和表面输入设备
CN111161396B (zh) 虚拟内容的控制方法、装置、终端设备及存储介质
KR101539087B1 (ko) 모바일 기기를 이용한 증강 현실 구현 장치 및 증강 현실 구현 방법
JP7292597B2 (ja) 表示システム、画像処理装置、およびプログラム
WO2019127325A1 (zh) 信息处理方法、装置、云处理设备及计算机程序产品
CN113377190A (zh) 漂浮影像显示设备、互动方法与其系统
Lacolina et al. Natural exploration of 3D models
CN112130659A (zh) 互动式立体显示装置与互动感应方法
JP7450289B2 (ja) 立体視画像に対する対話操作方法および立体視画像表示システム
Luo et al. Camera-based selection with cardboard head-mounted displays
TWI719834B (zh) 互動式立體顯示裝置與互動感應方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination