CN111104042A - 人机交互系统及其方法、终端设备 - Google Patents

人机交互系统及其方法、终端设备 Download PDF

Info

Publication number
CN111104042A
CN111104042A CN201911382440.7A CN201911382440A CN111104042A CN 111104042 A CN111104042 A CN 111104042A CN 201911382440 A CN201911382440 A CN 201911382440A CN 111104042 A CN111104042 A CN 111104042A
Authority
CN
China
Prior art keywords
display
display screen
equipment
human
touch
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201911382440.7A
Other languages
English (en)
Inventor
洪旭杰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Huizhou TCL Mobile Communication Co Ltd
Original Assignee
Huizhou TCL Mobile Communication Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Huizhou TCL Mobile Communication Co Ltd filed Critical Huizhou TCL Mobile Communication Co Ltd
Priority to CN201911382440.7A priority Critical patent/CN111104042A/zh
Priority to PCT/CN2020/076422 priority patent/WO2021128561A1/zh
Publication of CN111104042A publication Critical patent/CN111104042A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F13/00—Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
    • G06F13/38—Information transfer, e.g. on bus
    • G06F13/40—Bus structure
    • G06F13/4063—Device-to-bus coupling
    • G06F13/4068—Electrical coupling
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012—Head tracking input arrangements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/147—Digital output to display device ; Cooperation and interconnection of the display device with other functional units using display panels
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2213/00—Indexing scheme relating to interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
    • G06F2213/0042—Universal serial bus [USB]

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Computer Hardware Design (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本发明公开了一种人机交互系统及其方法、终端设备，所述人机交互系统包括：一显示设备；以及一终端设备，所述终端设备通过一连接线与所述显示设备连接；其中，所述显示设备通过USB‑TP连接协议与终端设备相互通信，以在所述显示设备上投射所述终端设备的显示屏所输出的显示内容。本发明中通过显示设备通过USB‑TP连接协议与终端设备相互通信，并在所述显示设备上投射所述终端设备的显示屏所输出的显示内容。

Description

人机交互系统及其方法、终端设备
技术领域
本发明涉及计算机技术领域，尤其涉及一种人机交互系统及其方法、终端设备。
背景技术
增强现实(Augmented Reality简称AR)/虚拟现实(Virtual Reality简称VR)设备可以使用户不再受终端设备的显示屏物理尺寸限制，随时随地以较大的显示屏浏览自己想查看的信息。AR技术不仅可以展现真实世界的信息，而且将虚拟的信息同时显示出来，两种信息互相补充和叠加将虚拟的信息投影到真实世界，被人类感官所感知。而VR技术可以渲染整个场景，从而使人类获得超越现实的感官体验。
但是市场上的AR/VR设备存在以下问题，首先AR/VR设备的应用生态匮乏，内容单一，用户无法获得多样化的体验；其次市面上普通的AR/VR设备受第三方手机权限的限制，导致第三方应用程序使用受限，影响用户体验。
发明内容
本发明实施例提供一种人机交互系统及其方法、终端设备，能够有效解决目前用户在佩戴AR/VR设备时，无法实现终端设备同步操作的问题。
根据本申请的一方面，本发明实施例提供一种人机交互系统，包括：一显示设备；以及一终端设备，所述终端设备通过一连接线与所述显示设备连接；其中，所述显示设备通过USB-TP连接协议与终端设备相互通信，以在所述显示设备上投射所述终端设备的显示屏所输出的显示内容。
进一步地，所述显示设备包括一头部追踪模块，用于获取所述显示设备的移动路径。
进一步地，所述显示设备包括一模拟显示屏触摸模块，与所述头部追踪模块连接，用于获取所述显示设备中的感应光标的移动路径。
进一步地，所述终端设备包括一显示屏触摸模块，用于获取用户触摸所述终端设备的显示屏的触摸路径，并传送至所述显示装置。
进一步地，所述终端设备还包括一语音识别模块，与所述显示屏触摸模块连接，所述语音识别模块用于将用户的语音转换为文本。
进一步地，所述连接线为USB Type-C线或DP线。
根据本申请的另一方面，本发明实施例提供一种人机交互方法，包括以下步骤：检测是否连接至显示设备；当检测到连接至显示设备时，获取用户触摸终端设备的显示屏的触摸路径；当所述触摸路径位于所述终端设备显示屏中部的直线时，显示所述终端设备的显示屏的主界面；当所述触摸路径位于所述终端设备显示屏两侧的直线时，显示所述终端设备的显示屏的当前显示界面的上一个显示界面；以及当所述触摸路径为折线时，激活所述显示设备中的感应光标。
进一步地，在当所述触摸路径为折线时激活所述显示设备中的感应光标步骤之后，所述方法还包括步骤：检测用户触摸所述终端设备的显示屏的压力值是否大于预设值；当检测到用户触摸所述终端设备的显示屏的压力值大于预设值时，开启语音识别服务；以及当检测到用户触摸终端设备显示屏的压力值不大于预设值时，关闭语音识别服务。
进一步地，当检测到连接至显示设备，所述方法还包括步骤：显示设备获取所述显示设备的移动路径；以及当所述移动路径为折线时，显示设备激活所述显示设备中的感应光标。
根据本申请的又一方面，本发明实施例提供一种终端设备，包括处理器和存储器，所述处理器与所述存储器电性连接，所述存储器用于存储指令和数据，所述处理器用于执行上述所述的人机交互方法中的步骤。
本发明的优点在于，显示设备通过USB Type-C线或DP线与终端设备连接，并通过USB-TP连接协议与终端设备相互通信，通过USB-TP连接协议在所述显示设备上投射所述终端设备的显示屏所输出的显示内容。另外在具体操作场景中，在终端设备的显示屏上模拟触摸板设备，并结合终端设备的显示屏和显示设备上的操作，完成对终端设备中第三方应用的切换和操作。通过用户不同的触摸路径，终端设备做出与之相对应的操作，并将最终显示内容通过连接线投射至显示设备中，为用户营造良好的沉浸式体验。
附图说明
下面结合附图，通过对本发明的具体实施方式详细描述，将使本发明的技术方案及其它有益效果显而易见。
图1为本发明实施例所提供的人机交互系统的结构示意图。
图2为本发明实施例所提供的人机交互方法的步骤流程图。
图3为本发明实施例所提供的终端设备的结构示意图。
图4为本发明实施例所提供的终端设备的另一结构示意图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述。显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
在本发明的描述中，需要理解的是，术语“中心”、“纵向”、“横向”、“长度”、“宽度”、“厚度”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”、“内”、“外”、“顺时针”、“逆时针”等指示的方位或位置关系为基于附图所示的方位或位置关系，仅是为了便于描述本发明和简化描述，而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作，因此不能理解为对本发明的限制。此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个所述特征。在本发明的描述中，“多个”的含义是两个或两个以上，除非另有明确具体的限定。
在本发明的描述中，需要说明的是，除非另有明确的规定和限定，术语“安装”、“相连”、“连接”应做广义理解，例如，可以是固定连接，也可以是可拆卸连接，或一体地连接；可以是机械连接，也可以是电连接或可以相互通讯；可以是直接相连，也可以通过中间媒介间接相连，可以是两个元件内部的连通或两个元件的相互作用关系。对于本领域的普通技术人员而言，可以根据具体情况理解上述术语在本发明中的具体含义。在本实施例中，所述模拟显示屏触摸模块与所述头部追踪模块连接，用于获取所述显示设备中的感应光标的移动路径。
在本发明中，除非另有明确的规定和限定，第一特征在第二特征之“上”或之“下”可以包括第一和第二特征直接接触，也可以包括第一和第二特征不是直接接触而是通过它们之间的另外的特征接触。而且，第一特征在第二特征“之上”、“上方”和“上面”包括第一特征在第二特征正上方和斜上方，或仅仅表示第一特征水平高度高于第二特征。第一特征在第二特征“之下”、“下方”和“下面”包括第一特征在第二特征正下方和斜下方，或仅仅表示第一特征水平高度小于第二特征。
下文的公开提供了许多不同的实施方式或例子用来实现本发明的不同结构。为了简化本发明的公开，下文中对特定例子的部件和设置进行描述。当然，它们仅仅为示例，并且目的不在于限制本发明。此外，本发明可以在不同例子中重复参考数字和/或参考字母，这种重复是为了简化和清楚的目的，其本身不指示所讨论各种实施方式和/或设置之间的关系。此外，本发明提供了的各种特定的工艺和材料的例子，但是本领域普通技术人员可以意识到其他工艺的应用和/或其他材料的使用。
如图1所示，为本发明实施例提供的人机交互系统的结构示意图，包括：一显示设备10及一终端设备20。
所述终端设备20通过一连接线5与所述显示设备10连接，所述连接线5为USBType-C线(即C型USB接口)或DP(DisplayPort，显示接口)线。如此设置的目的在于，显示设备通过USB Type-C线或DP线与终端设备连接，并通过USB-TP连接协议与终端设备相互通信，通过USB-TP连接协议在所述显示设备上投射所述终端设备的显示屏所输出的显示内容。
在本实施例中，所述显示设备10为增强现实(Augmented Reality简称AR)或虚拟现实(Virtual Reality简称VR)设备，即为一种可穿戴式显示设备。其中所述显示设备10包括：一头部追踪模块1及一模拟显示屏触摸模块2。
在本实施例中，所述头部追踪模块1用于获取所述显示设备10的移动路径。需要说明的是所述头部追踪模块1主要由陀螺仪传感器组成，当用户在佩戴AR/VR设备时，通过捕捉头部的运动事件，获取AR/VR设备的运动轨迹，AR/VR设备的运动轨迹即为所述显示设备10的所述移动路径。
在本实施例中，所述模拟显示屏触摸模块2与所述头部追踪模块1连接，用于获取所述显示设备10中的感应光标的移动路径。所述模拟显示屏触摸模块2的功能是由所述显示设备10通过USB-TP连接协议与终端设备20相互通信实现。结合所述头部追踪模块1，模拟感应光标在AR/VR设备上的移动路径。
在本实施例中，所述终端设备20为手机，所述终端设备包括：一显示屏触摸模3块及一语音识别模块4。
在本实施例中，所述显示屏触摸模块3用于获取用户触摸所述终端设备的显示屏的触摸路径，并传送至所述显示装置。当用户打开AR/VR设备之后，手机的显示屏显示为一层空白的应用布局(即显示屏画面为空白)。获取用户的手势输入的触摸路径，识别用户从手机下方不同位置的上划手势，并识别用户单指点击手势，并将识别结果上传给AR/VR设备。
在本实施例中，所述语音识别模块4与所述显示屏触摸模块3连接，所述语音识别模块4用于将用户的语音转换为文本。所述语音识别模块4帮助用户在不同的应用中完成输入功能。用户通过按压终端设备的显示屏来启动和结束语音识别功能，所述语音识别模块将获取到的语音转换为文本输出。
本发明的优点在于，显示设备通过USB Type-C线或DP线与终端设备连接，并通过USB-TP连接协议与终端设备相互通信，通过USB-TP连接协议在所述显示设备上投射所述终端设备的显示屏所输出的显示内容。
如图2所示，为本发明实施例提供的人机交互方法步骤流程图，包括以下步骤：
步骤S210：检测是否连接至显示设备。
在本实施例中，所述终端设备通过一连接线与所述显示设备连接，所述连接线为USB Type-C线(即C型USB接口)或DP(DisplayPort，显示接口)线。所述显示设备为增强现实(Augmented Reality简称AR)或虚拟现实(Virtual Reality简称VR)设备，其中所述显示设备包括：一头部追踪模块及一模拟显示屏触摸模块。显示设备通过USB-TP连接协议与终端设备相互通信，并在所述显示设备上投射所述终端设备的显示屏所输出的显示内容。
步骤S220：当检测到连接至显示设备时，获取用户触摸终端设备的显示屏的触摸路径。
在本实施例中，当用户打开AR/VR设备之后，终端设备的显示屏显示为一层空白的应用布局(即显示屏画面为空白)。获取用户的手势输入的触摸路径，识别用户从终端设备下方不同位置的上划手势，并识别用户单指点击手势，并将识别结果上传给AR/VR设备。
其中用户终端设备下方不同位置的上划手势，具体可以分为步骤S230-S233中的场景：
步骤S230：当所述触摸路径位于所述终端设备显示屏中部的直线时，显示所述终端设备的显示屏的主界面，并将主界面的内容投射到用户的AR/VR设备上。
步骤S231：当所述触摸路径位于所述终端设备显示屏两侧的直线时，显示所述终端设备的显示屏的当前显示界面的上一个显示界面，并将主界面的内容投射到用户的AR/VR设备上。
步骤S232：当所述触摸路径为折线时，激活所述显示设备中的感应光标。
通过步骤S230、S231及S232中，通过在具体操作场景中，在终端设备的显示屏上模拟触摸板设备，并结合终端设备的显示屏和显示设备上的操作，完成对终端设备中第三方应用的切换和操作。通过用户不同的触摸路径，终端设备做出与之相对应的操作，并将最终显示内容通过连接线投射至显示设备中，为用户营造良好的沉浸式体验。
另外在步骤S232中为通过终端设备激活感应光标的方法，在其他实施例中，也可以通过显示设备激活感应光标。例如步骤S221及步骤S233。
步骤S221：显示设备获取所述显示设备的移动路径。
在本实施例中，移动路径是由所述显示设备中的陀螺仪传感器获得。
步骤S233当所述移动路径为折线时，显示设备激活所述显示设备中的感应光标。
步骤S240：检测用户触摸所述终端设备的显示屏的压力值是否大于预设值。
在本实施例中，用户的语音转换为文本。协助用户在不同的应用中完成输入功能。用户通过按压终端设备的显示屏来启动和结束语音识别功能，所述语音识别模块将获取到的语音转换为文本输出。
步骤S250：当检测到用户触摸所述终端设备的显示屏的压力值大于预设值时，开启语音识别服务。
步骤S251：当检测到用户触摸终端设备显示屏的压力值不大于预设值时，关闭语音识别服务。
在步骤S250和S251中，用户通过触摸所述终端设备的显示屏的压力值来控制语音输入的时间。
本发明的优点在于，显示设备通过USB Type-C线或DP线与终端设备连接，并通过USB-TP连接协议与终端设备相互通信，通过USB-TP连接协议在所述显示设备上投射所述终端设备的显示屏所输出的显示内容。另外在具体操作场景中，在终端设备的显示屏上模拟触摸板设备，并结合终端设备的显示屏和显示设备上的操作，完成对终端设备中第三方应用的切换和操作。通过用户不同的触摸路径，终端设备做出与之相对应的操作，并将最终显示内容通过连接线投射至显示设备中，为用户营造良好的沉浸式体验。
另外，本发明实施例还提供一种终端设备，该终端设备可以是智能手机、平板电脑等设备。具体地，如图3所示，终端设备200包括处理器201和存储器202。其中，处理器201与存储器202电性连接。
处理器201是终端设备200的控制中心，利用各种接口和线路连接整个终端设备的各个部分，通过运行或加载存储在存储器202内的应用程序，以及调用存储在存储器202内的数据，执行终端设备的各种功能和处理数据，从而对终端设备进行整体监控。
在本实施例中，该终端设备200设有多个存储分区，该多个存储分区包括系统分区和目标分区，终端设备200中的处理器201会按照如下的步骤，将一个或一个以上的应用程序的进程对应的指令加载到存储器202中，并由处理器201来运行存储在存储器202中的应用程序，从而实现各种功能：
检测是否连接至显示设备；
当检测到连接至显示设备时，获取用户触摸终端设备的显示屏的触摸路径；
当所述触摸路径位于所述终端设备显示屏中部的直线时，显示所述终端设备的显示屏的主界面；
当所述触摸路径位于所述终端设备显示屏两侧的直线时，显示所述终端设备的显示屏的当前显示界面的上一个显示界面；以及
当所述触摸路径为折线时，激活所述显示设备中的感应光标。
图4示出了本发明实施例提供的终端设备的具体结构框图，该终端设备可以用于实施上述实施例中提供的人机交互方法。该终端设备300可以为智能手机或平板电脑。
RF电路310用于接收以及发送电磁波，实现电磁波与电信号的相互转换，从而与通讯网络或者其他设备进行通讯。RF电路310可包括各种现有的用于执行这些功能的电路元件，例如，天线、射频收发器、数字信号处理器、加密/解密芯片、用户身份模块(SIM)卡、存储器等等。RF电路310可与各种网络如互联网、企业内部网、无线网络进行通讯或者通过无线网络与其他设备进行通讯。上述的无线网络可包括蜂窝式电话网、无线局域网或者城域网。上述的无线网络可以使用各种通信标准、协议及技术，包括但并不限于全球移动通信系统(Global System for Mobile Communication,GSM)、增强型移动通信技术(Enhanced DataGSM Environment,EDGE)，宽带码分多址技术(Wideband Code Division MultipleAccess,WCDMA)，码分多址技术(Code Division Access,CDMA)、时分多址技术(TimeDivision Multiple Access,TDMA)，无线保真技术(Wireless Fidelity，Wi-Fi)(如美国电气和电子工程师协会标准IEEE 802.11a，IEEE 802.11b,IEEE802.11g和/或IEEE802.11n)、网络电话(Voice over Internet Protocol,VoIP)、全球微波互联接入(Worldwide Interoperability for Microwave Access，Wi-Max)、其他用于邮件、即时通讯及短消息的协议，以及任何其他合适的通讯协议，甚至可包括那些当前仍未被开发出来的协议。
存储器320可用于存储软件程序以及模块，如上述实施例中人机交互方法对应的程序指令/模块，处理器380通过运行存储在存储器320内的软件程序以及模块，从而执行各种功能应用以及数据处理，即实现人机交互的功能。存储器320可包括高速随机存储器，还可包括非易失性存储器，如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中，存储器320可进一步包括相对于处理器380远程设置的存储器，这些远程存储器可以通过网络连接至终端设备300。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
输入单元330可用于接收输入的数字或字符信息，以及产生与用户设置以及功能控制有关的键盘、鼠标、操作杆、光学或者轨迹球信号输入。具体地，输入单元330可包括触敏表面331以及其他输入设备332。触敏表面331，也称为触摸显示屏或者触控板，可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触敏表面331上或在触敏表面331附近的操作)，并根据预先设定的程式驱动相应的连接装置。可选的，触敏表面331可包括触摸检测装置和触摸控制器两个部分。其中，触摸检测装置检测用户的触摸方位，并检测触摸操作带来的信号，将信号传送给触摸控制器；触摸控制器从触摸检测装置上接收触摸信息，并将它转换成触点坐标，再送给处理器380，并能接收处理器380发来的命令并加以执行。此外，可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触敏表面331。除了触敏表面331，输入单元330还可以包括其他输入设备332。具体地，其他输入设备332可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种。
显示单元340可用于显示由用户输入的信息或提供给用户的信息以及终端设备300的各种图形用户接口，这些图形用户接口可以由图形、文本、图标、视频和其任意组合来构成。显示单元340可包括显示面板341，可选的，可以采用LCD(Liquid Crystal Display，液晶显示器)、OLED(Organic Light-Emitting Diode,有机发光二极管)等形式来配置显示面板341。进一步的，触敏表面331可覆盖显示面板341，当触敏表面331检测到在其上或附近的触摸操作后，传送给处理器380以确定触摸事件的类型，随后处理器380根据触摸事件的类型在显示面板341上提供相应的视觉输出。虽然在图4中，触敏表面331与显示面板341是作为两个独立的部件来实现输入和输出功能，但是在某些实施例中，可以将触敏表面331与显示面板341集成而实现输入和输出功能。
终端设备300还可包括至少一种传感器350，比如光传感器、运动传感器以及其他传感器。具体地，光传感器可包括环境光传感器及接近传感器，其中，环境光传感器可根据环境光线的明暗来调节显示面板341的亮度，接近传感器可在终端设备300移动到耳边时，关闭显示面板341和/或背光。作为运动传感器的一种，重力加速度传感器可检测各个方向上(一般为三轴)加速度的大小，静止时可检测出重力的大小及方向，可用于识别手机姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等；至于终端设备300还可配置的陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器，在此不再赘述。
音频电路360、扬声器361，传声器362可提供用户与终端设备300之间的音频接口。音频电路360可将接收到的音频数据转换后的电信号，传输到扬声器361，由扬声器361转换为声音信号输出；另一方面，传声器362将收集的声音信号转换为电信号，由音频电路360接收后转换为音频数据，再将音频数据输出处理器380处理后，经RF电路310以发送给比如另一终端，或者将音频数据输出至存储器320以便进一步处理。音频电路360还可能包括耳塞插孔，以提供外设耳机与终端设备300的通信。
终端设备300通过传输模块370(例如Wi-Fi模块)可以帮助用户收发电子邮件、浏览网页和访问流式媒体等，它为用户提供了无线的宽带互联网访问。虽然图4示出了传输模块370，但是可以理解的是，其并不属于终端设备300的必须构成，完全可以根据需要在不改变发明的本质的范围内而省略。
处理器380是终端设备300的控制中心，利用各种接口和线路连接整个手机的各个部分，通过运行或执行存储在存储器320内的软件程序和/或模块，以及调用存储在存储器320内的数据，执行终端设备300的各种功能和处理数据，从而对手机进行整体监控。可选的，处理器380可包括一个或多个处理核心；在一些实施例中，处理器380可集成应用处理器和调制解调处理器，其中，应用处理器主要处理操作系统、用户界面和应用程序等，调制解调处理器主要处理无线通信。可以理解的是，上述调制解调处理器也可以不集成到处理器380中。
终端设备300还包括给各个部件供电的电源390(比如电池)，在一些实施例中，电源可以通过电源管理系统与处理器380逻辑相连，从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。电源390还可以包括一个或一个以上的直流或交流电源、再充电系统、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。
尽管未示出，终端设备300还可以包括摄像头(如前置摄像头、后置摄像头)、蓝牙模块等，在此不再赘述。具体在本实施例中，终端设备的显示单元是触摸屏显示器，终端设备还包括有存储器，以及一个或者一个以上的程序，其中一个或者一个以上程序存储于存储器中，且经配置以由一个或者一个以上处理器执行一个或者一个以上程序包含用于进行以下操作的指令：
检测是否连接至显示设备；
当检测到连接至显示设备时，获取用户触摸终端设备的显示屏的触摸路径；
当所述触摸路径位于所述终端设备显示屏中部的直线时，显示所述终端设备的显示屏的主界面；
当所述触摸路径位于所述终端设备显示屏两侧的直线时，显示所述终端设备的显示屏的当前显示界面的上一个显示界面；以及
当所述触摸路径为折线时，激活所述显示设备中的感应光标。
具体实施时，以上各个模块可以作为独立的实体来实现，也可以进行任意组合，作为同一或若干个实体来实现，以上各个模块的具体实施可参见前面的方法实施例，在此不再赘述。
本领域普通技术人员可以理解，上述实施例的各种方法中的全部或部分步骤可以通过指令来完成，或通过指令控制相关的硬件来完成，该指令可以存储于一计算机可读存储介质中，并由处理器进行加载和执行。
为此，本发明实施例提供一种存储介质，其中存储有多条指令，该指令能够被处理器进行加载，以执行本发明实施例所提供的任一种人机交互方法中的步骤。
其中，该存储介质可以包括：只读存储器(ROM，Read Only Memory)、随机存取记忆体(RAM，Random Access Memory)、磁盘或光盘等。
由于该存储介质中所存储的指令，可以执行本发明实施例所提供的任一种人机交互方法中的步骤，因此，可以实现本发明实施例所提供的任一种人机交互方法所能实现的有益效果，详见前面的实施例，在此不再赘述。
以上各个操作的具体实施可参见前面的实施例，在此不再赘述。
在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其他实施例的相关描述。
本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的技术方案及其核心思想；本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例的技术方案的范围。

Claims (10)

1.一种人机交互系统，其特征在于，包括：
一显示设备；以及
一终端设备，所述终端设备通过一连接线与所述显示设备连接；
其中，所述显示设备通过USB-TP连接协议与终端设备相互通信，以在所述显示设备上投射所述终端设备的显示屏所输出的显示内容。
2.根据权利要求1所述的人机交互系统，其特征在于，所述显示设备包括一头部追踪模块，用于获取所述显示设备的移动路径。
3.根据权利要求2所述的人机交互系统，其特征在于，所述显示设备包括一模拟显示屏触摸模块，与所述头部追踪模块连接，用于获取所述显示设备中的感应光标的移动路径。
4.根据权利要求1所述的人机交互系统，其特征在于，所述终端设备包括一显示屏触摸模块，用于获取用户触摸所述终端设备的显示屏的触摸路径，并传送至所述显示装置。
5.根据权利要求4所述的人机交互系统，其特征在于，所述终端设备还包括一语音识别模块，与所述显示屏触摸模块连接，所述语音识别模块用于将用户的语音转换为文本。
6.根据权利要求1所述的人机交互系统，其特征在于，所述连接线为USB Type-C线或DP线。
7.一种人机交互方法，所述人机交互方法是基于权利要求1-6所述人机交互系统的方法，其特征在于，包括以下步骤：
检测是否连接至显示设备；
当检测到连接至显示设备时，获取用户触摸终端设备的显示屏的触摸路径；
当所述触摸路径位于所述终端设备显示屏中部的直线时，显示所述终端设备的显示屏的主界面；
当所述触摸路径位于所述终端设备显示屏两侧的直线时，显示所述终端设备的显示屏的当前显示界面的上一个显示界面；以及
当所述触摸路径为折线时，激活所述显示设备中的感应光标。
8.根据权利要求7所述的人机交互方法，其特征在于，在当所述触摸路径为折线时激活所述显示设备中的感应光标步骤之后，所述方法还包括步骤：
检测用户触摸所述终端设备的显示屏的压力值是否大于预设值；当检测到用户触摸所述终端设备的显示屏的压力值大于预设值时，开启语音识别服务；以及
当检测到用户触摸终端设备显示屏的压力值不大于预设值时，关闭语音识别服务。
9.根据权利要求7所述的人机交互方法，其特征在于，当检测到连接至显示设备，所述方法还包括步骤：
显示设备获取所述显示设备的移动路径；以及
当所述移动路径为折线时，显示设备激活所述显示设备中的感应光标。
10.一种终端设备，其特征在于，包括处理器和存储器，所述处理器与所述存储器电性连接，所述存储器用于存储指令和数据，所述处理器用于执行权利要求7至9所述的人机交互方法中的步骤。
CN201911382440.7A 2019-12-27 2019-12-27 人机交互系统及其方法、终端设备 Pending CN111104042A (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN201911382440.7A CN111104042A (zh) 2019-12-27 2019-12-27 人机交互系统及其方法、终端设备
PCT/CN2020/076422 WO2021128561A1 (zh) 2019-12-27 2020-02-24 人机交互系统及其方法、终端设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911382440.7A CN111104042A (zh) 2019-12-27 2019-12-27 人机交互系统及其方法、终端设备

Publications (1)

Publication Number Publication Date
CN111104042A true CN111104042A (zh) 2020-05-05

Family

ID=70423503

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911382440.7A Pending CN111104042A (zh) 2019-12-27 2019-12-27 人机交互系统及其方法、终端设备

Country Status (2)

Country Link
CN (1) CN111104042A (zh)
WO (1) WO2021128561A1 (zh)

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105786245A (zh) * 2016-02-04 2016-07-20 网易（杭州）网络有限公司 一种触摸屏操作控制方法和装置
CN105867609A (zh) * 2015-12-28 2016-08-17 乐视移动智能信息技术（北京）有限公司 基于虚拟现实头盔观看视频的方法和装置
CN106200927A (zh) * 2016-06-30 2016-12-07 乐视控股（北京）有限公司 一种信息处理方法及头戴式设备
CN106383635A (zh) * 2016-10-14 2017-02-08 福建中金在线信息科技有限公司 一种当前显示界面的上一级界面的显示方法及装置
CN107071136A (zh) * 2015-12-07 2017-08-18 Lg电子株式会社 移动终端及其控制方法
CN107122096A (zh) * 2017-04-06 2017-09-01 青岛海信移动通信技术股份有限公司 基于vr显示的终端触摸控制方法及终端
CN107423098A (zh) * 2017-07-28 2017-12-01 珠海市魅族科技有限公司 一种语音助手启动方法、装置、计算机装置及计算机可读存储介质
CN108710615A (zh) * 2018-05-03 2018-10-26 Oppo广东移动通信有限公司 翻译方法及相关设备
CN108845739A (zh) * 2018-05-29 2018-11-20 维沃移动通信有限公司 一种导航键的控制方法及移动终端

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102156513A (zh) * 2011-04-20 2011-08-17 上海交通大学 穿戴式多媒体服装系统
CN102595244B (zh) * 2012-02-24 2018-08-28 康佳集团股份有限公司 基于多点触摸手势切换电视界面的人机交互方法及系统
CN104836886A (zh) * 2014-12-19 2015-08-12 北汽福田汽车股份有限公司 手机操控车载游戏的实现方法
CN105652442A (zh) * 2015-12-31 2016-06-08 北京小鸟看看科技有限公司 头戴显示设备及该头戴显示设备与智能终端的交互方法
CN106843511A (zh) * 2017-04-14 2017-06-13 上海翊视皓瞳信息科技有限公司 一种全场景覆盖的智能显示设备系统及应用
CN108513016A (zh) * 2018-05-25 2018-09-07 中瑞福宁机器人（沈阳）有限公司 一种可搭配ar眼镜使用的智能手机装置

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107071136A (zh) * 2015-12-07 2017-08-18 Lg电子株式会社 移动终端及其控制方法
CN105867609A (zh) * 2015-12-28 2016-08-17 乐视移动智能信息技术（北京）有限公司 基于虚拟现实头盔观看视频的方法和装置
CN105786245A (zh) * 2016-02-04 2016-07-20 网易（杭州）网络有限公司 一种触摸屏操作控制方法和装置
CN106200927A (zh) * 2016-06-30 2016-12-07 乐视控股（北京）有限公司 一种信息处理方法及头戴式设备
CN106383635A (zh) * 2016-10-14 2017-02-08 福建中金在线信息科技有限公司 一种当前显示界面的上一级界面的显示方法及装置
CN107122096A (zh) * 2017-04-06 2017-09-01 青岛海信移动通信技术股份有限公司 基于vr显示的终端触摸控制方法及终端
CN107423098A (zh) * 2017-07-28 2017-12-01 珠海市魅族科技有限公司 一种语音助手启动方法、装置、计算机装置及计算机可读存储介质
CN108710615A (zh) * 2018-05-03 2018-10-26 Oppo广东移动通信有限公司 翻译方法及相关设备
CN108845739A (zh) * 2018-05-29 2018-11-20 维沃移动通信有限公司 一种导航键的控制方法及移动终端

Also Published As

Publication number Publication date
WO2021128561A1 (zh) 2021-07-01

Similar Documents

Publication Publication Date Title
CN108762954B (zh) 一种对象分享方法及移动终端
CN108255378B (zh) 一种显示控制方法及移动终端
EP2851779A1 (en) Method, device, storage medium and terminal for displaying a virtual keyboard
CN110413315B (zh) 一种应用程序控制方法及电子设备
US10768881B2 (en) Multi-screen interaction method and system in augmented reality scene
CN109240577B (zh) 一种截屏方法及终端
CN110531915B (zh) 屏幕操作方法及终端设备
CN109343788B (zh) 一种移动终端的操作控制方法及移动终端
CN108958629B (zh) 分屏退出方法、装置、存储介质和电子设备
CN110673770B (zh) 消息展示方法及终端设备
WO2020007114A1 (zh) 分屏应用切换方法、装置、存储介质和电子设备
US20150089431A1 (en) Method and terminal for displaying virtual keyboard and storage medium
CN110096203B (zh) 一种截图方法及移动终端
WO2021208890A1 (zh) 截屏方法及电子设备
CN108958587B (zh) 分屏处理方法、装置、存储介质和电子设备
US11928260B2 (en) Control method and electronic device having touch positions with different pressure value
CN110764675A (zh) 一种控制方法及电子设备
CN110796438B (zh) 消息发送方法及移动终端
CN113050863A (zh) 页面切换方法、装置、存储介质及电子设备
WO2015018277A1 (en) Methods and apparatus for implementing sound events
CN111443968A (zh) 一种截图方法及电子设备
CN108920086B (zh) 分屏退出方法、装置、存储介质和电子设备
CN109634503B (zh) 一种操作响应方法及移动终端
CN108563376B (zh) 一种应用程序启动方法及移动终端
CN108845755A (zh) 分屏处理方法、装置、存储介质及电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20200505

RJ01 Rejection of invention patent application after publication