CN113805487B - 控制指令的生成方法、装置、终端设备及可读存储介质 - Google Patents
控制指令的生成方法、装置、终端设备及可读存储介质 Download PDFInfo
- Publication number
- CN113805487B CN113805487B CN202010721153.0A CN202010721153A CN113805487B CN 113805487 B CN113805487 B CN 113805487B CN 202010721153 A CN202010721153 A CN 202010721153A CN 113805487 B CN113805487 B CN 113805487B
- Authority
- CN
- China
- Prior art keywords
- control instruction
- touch operation
- touch
- terminal device
- pose
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 69
- 238000003860 storage Methods 0.000 title claims abstract description 18
- 238000004891 communication Methods 0.000 claims description 46
- 230000006854 communication Effects 0.000 claims description 46
- 238000004590 computer program Methods 0.000 claims description 23
- 230000001976 improved effect Effects 0.000 abstract description 17
- 210000001145 finger joint Anatomy 0.000 abstract description 15
- 230000002829 reductive effect Effects 0.000 abstract description 12
- 230000006870 function Effects 0.000 description 33
- 238000010586 diagram Methods 0.000 description 28
- 239000010410 layer Substances 0.000 description 26
- 238000007726 management method Methods 0.000 description 20
- 230000008569 process Effects 0.000 description 20
- 238000012545 processing Methods 0.000 description 20
- 230000004044 response Effects 0.000 description 15
- 230000009471 action Effects 0.000 description 12
- 238000010295 mobile communication Methods 0.000 description 11
- 238000003825 pressing Methods 0.000 description 11
- 230000005236 sound signal Effects 0.000 description 11
- 230000001133 acceleration Effects 0.000 description 10
- 210000000988 bone and bone Anatomy 0.000 description 10
- 238000005516 engineering process Methods 0.000 description 8
- 230000000694 effects Effects 0.000 description 7
- 230000002159 abnormal effect Effects 0.000 description 6
- 230000001965 increasing effect Effects 0.000 description 6
- 230000005540 biological transmission Effects 0.000 description 5
- 238000004364 calculation method Methods 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 5
- 210000001015 abdomen Anatomy 0.000 description 4
- 230000003993 interaction Effects 0.000 description 4
- 230000033001 locomotion Effects 0.000 description 4
- 230000005855 radiation Effects 0.000 description 4
- 230000001960 triggered effect Effects 0.000 description 4
- 229920001621 AMOLED Polymers 0.000 description 3
- 238000004378 air conditioning Methods 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 3
- 230000001413 cellular effect Effects 0.000 description 3
- 230000008859 change Effects 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 230000036772 blood pressure Effects 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 230000002452 interceptive effect Effects 0.000 description 2
- 230000000670 limiting effect Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 238000009877 rendering Methods 0.000 description 2
- 238000010079 rubber tapping Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 230000003321 amplification Effects 0.000 description 1
- 230000003416 augmentation Effects 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 238000010009 beating Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000007175 bidirectional communication Effects 0.000 description 1
- 238000013529 biological neural network Methods 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 239000012141 concentrate Substances 0.000 description 1
- 239000004020 conductor Substances 0.000 description 1
- 239000012792 core layer Substances 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 230000001939 inductive effect Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000000977 initiatory effect Effects 0.000 description 1
- 239000010985 leather Substances 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 210000002569 neuron Anatomy 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000036961 partial effect Effects 0.000 description 1
- 230000010349 pulsation Effects 0.000 description 1
- 239000002096 quantum dot Substances 0.000 description 1
- 230000001172 regenerating effect Effects 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000004984 smart glass Substances 0.000 description 1
- 230000003238 somatosensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000001755 vocal effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B15/00—Systems controlled by a computer
- G05B15/02—Systems controlled by a computer electric
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B19/00—Programme-control systems
- G05B19/02—Programme-control systems electric
- G05B19/418—Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM]
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/20—Pc systems
- G05B2219/26—Pc applications
- G05B2219/2642—Domotique, domestic, home control, automation, smart house
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/02—Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Automation & Control Theory (AREA)
- Manufacturing & Machinery (AREA)
- Quality & Reliability (AREA)
- User Interface Of Digital Computer (AREA)
- Telephone Function (AREA)
Abstract
本申请适用于设备控制技术领域,提供了一种控制指令的生成方法、装置、终端设备以及可读存储介质,该方法包括:响应于用户在触控式显示屏上的第一触控操作,识别所述第一触控操作对应的触摸物类型;若所述触摸物类型为指关节类型,则确定所述第一触控操作关联的控制指令;基于所述控制指令包含的设备标识确定目标设备,并向所述目标设备发送所述控制指令。本申请提供的技术方案无需启动指定的应用程序,而是可以在任一界面通过指关节进行触控操作,则生成触控操作对应的控制指令,减少了用户开启指定的应用程序的步骤,提高了设备控制的便捷性,从而提高了控制效率。
Description
技术领域
本申请属于图像处理技术领域,尤其涉及一种控制指令的生成方法、装置、终端设备以及可读存储介质。
背景技术
随着智能家电的不断发展,家庭内的智能家电也越来越多,在需要对智能家电进行控制时,需要通过与智能家电对应的控制器发送控制指令,大大降低了家电控制的灵活性。现有的设备控制技术,可以在智能终端上安装对应的控制应用程序,通过启动控制应用程序点击控制指令对应的控件,以向智能家电发送控制指令,上述方式虽然无需通过对应的控制器对设备进行控制,但需要启动对应的控制应用程序才能发送控制指令,增加了操作步骤,降低了控制效率。
发明内容
本申请实施例提供了一种控制指令的生成方法、装置、终端以及存储介质,可以解决现有的设备控制技术,需要启动对应的控制应用程序才能发送控制指令,增加了操作步骤,降低了控制效率的问题。
第一方面,本申请实施例提供了一种控制指令的生成方法,包括:
响应于用户在触控式显示屏上的第一触控操作,识别所述第一触控操作对应的触摸物类型;
若所述触摸物类型为指关节类型,则确定所述第一触控操作关联的控制指令;
基于所述控制指令包含的设备标识确定目标设备,并向所述目标设备发送所述控制指令。
在第一方面的一种可能实现方式中,所述若所述触摸物类型为指关节类型,则确定所述第一触控操作关联的控制指令,包括:
确定所述第一触控操作与预存的标准操作之间的匹配度;
选取所述匹配度最高的所述标准操作对应的控制指令,作为所述第一触控操作的控制指令。
在第一方面的一种可能实现方式中,所述若所述触摸物类型为指关节类型,则确定所述第一触控操作关联的控制指令,包括:
获取检测到所述第一触控操作时刻的设备位姿;
基于所述设备位姿确定有效投射区域,并将所述有效投射区域在预设的设备布放图上覆盖的已登记设备识别为候选设备;
计算各个所述候选设备与所述设备位姿之间的关联度;
选取所述关联度最高的所述候选设备作为所述目标设备,并将所述目标设备的所述设备标识添加到所述控制指令。
在第一方面的一种可能实现方式中,所述计算各个所述候选设备与所述设备位姿之间的关联度,包括:
基于所述候选设备的放置位姿以及所述设备位姿,得到位姿关联因子;
根据所述设备位姿与所述放置位姿之间的连线与所述有效投射区域的中心轴线之间的偏差角,得到偏移关联因子;
基于所述位姿关联因子以及所述偏移关联因子,计算所述候选设备对应的所述关联度。
在第一方面的一种可能实现方式中,所述响应于用户在触控式显示屏上的第一触控操作,识别所述第一触控操作对应的触摸物类型,包括:
若在任一界面检测到第一触控操作,则获取检测到所述第一触控操作时刻的位置信息;
若所述位置信息在预设的有效控制场景内,则执行识别所述第一触控操作对应的触摸物类型的操作。
在第一方面的一种可能实现方式中,所述若所述触摸物类型为指关节类型,则确定所述第一触控操作关联的控制指令,包括:
若未识别得到与所述第一触控操作关联的所述控制指令,则进入关联指令配置界面;
获取在所述关联指令配置界面内检测到的第二触控操作;
响应于所述第二触控操作,识别所述第二触控操作在所述关联指令配置界面中对应的目标指令,建立所述第一触控操作与所述目标指令之间的关联关系。
在第一方面的一种可能实现方式中,所述向所述目标设备发送所述控制指令,包括:
接入所述目标设备关联的无线网络;
通过所述无线网络将所述控制指令发送给所述目标设备。
在第一方面的一种可能实现方式中,所述无线网络包括:WIFI网络、通信网络、蓝牙网络或广域网。
本申请实施例可以在满足对显示内容进行切换的条件时,在显示有第一显示内容的交互界面上,叠加显示第二显示内容,并基于第一显示内容的第一脸部与第二显示内容的第二脸部进行脸部对齐,减少了叠加显示时两个显示内容的差异度,在叠加显示的初始时刻,该第二显示内容的初始可视度为零,并在后续的显示过程中,逐渐增加第二显示内容的可视度,直到第一显示内容在交互界面中不可视,并在增加可视度的过程中,保持第一脸部与第二脸部的重合度大于重合阈值,保持脸部对齐,实现了渐变切换的目的,提高了显示内容切换的流畅度,以及切换过程的显示效果。
第二方面,本申请实施例提供了一种控制指令的生成装置,包括:
触摸物类型识别单元,用于响应于用户在触控式显示屏上的第一触控操作,识别所述第一触控操作对应的触摸物类型;
控制指令确定单元,用于若所述触摸物类型为指关节类型,则确定所述第一触控操作关联的控制指令;
控制指令发送单元,用于基于所述控制指令包含的设备标识确定目标设备,并向所述目标设备发送所述控制指令。
第三方面,本申请实施例提供了一种终端设备,存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现上述第一方面中任一项所述控制指令的生成方法。
第四方面,本申请实施例提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现上述第一方面中任一项所述控制指令的生成方法。
第五方面,本申请实施例提供了一种计算机程序产品,当计算机程序产品在终端设备上运行时,使得终端设备执行上述第一方面中任一项所述控制指令的生成方法。
第六方面,本申请实施例提供一种芯片系统,包括处理器,处理器与存储器耦合,所述处理器执行存储器中存储的计算机程序,以实现如第一方面中任一项所述控制指令的生成方法。
可以理解的是,上述第二方面至第六方面的有益效果可以参见上述第一方面中的相关描述,在此不再赘述。
附图说明
图1是本申请实施例提供的终端设备的结构示意图;
图2是本申请实施例的手机的软件结构框图;
图3是本申请一实施例提供的终端设备的界面示意图;
图4是本申请一实施例提供的控制指令的生成方法的实现流程图;
图5是本申请一实施例提供的界面类型示意图;
图6是本申请一实施例提供的控制指令的生成方法中S401的具体实现流程图;
图7是本申请一实施例提供的控制指令与触控操作的对应关系的界面示意图;
图8是本申请一实施例提供的触摸物类型的示意图;
图9是本申请一实施例提供的控制指令的生成方法中S402的具体实现流程图;
图10是本申请一实施例提供的控制指令的生成方法中S402的具体实现流程图;
图11是本申请一实施例提供的控制方向与握持方式的对应关系示意图;
图12是本申请一实施例提供的候选设备的识别示意图;
图13是本申请一实施例提供的偏差角的示意图;
图14是本申请一实施例提供的控制指令的生成方法中S402的具体实现流程图;
图15是本申请一实施例提供的控制指令的生成方法中S403的具体实现流程图;
图16是本申请一实施例提供的控制指令的生成装置的结构框图;
图17是本申请一实施例提供的一种终端的示意图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本申请实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中,省略对众所周知的系统、装置、电路以及方法的详细说明,以免不必要的细节妨碍本申请的描述。
应当理解,当在本申请说明书和所附权利要求书中使用时,术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
如在本申请说明书和所附权利要求书中所使用的那样,术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地,短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
另外,在本申请说明书和所附权利要求书的描述中,术语“第一”、“第二”、“第三”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
在本申请说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本申请的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此,在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例,而是意味着“一个或多个但不是所有的实施例”,除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”,除非是以其他方式另外特别强调。
本申请实施例提供的指纹解锁的方法可以应用于手机、平板电脑、可穿戴设备、车载设备、增强现实(augmented reality,AR)/虚拟现实(virtual reality,VR)设备、笔记本电脑、超级移动个人计算机(ultra-mobile personal computer,UMPC)、上网本、个人数字助理(personal digital assistant,PDA)等终端设备上本申请实施例对终端设备的具体类型不作任何限制。
例如,所述终端设备可以是WLAN中的站点(STAION,ST),可以是蜂窝电话、无绳电话、会话启动协议(Session InitiationProtocol,SIP)电话、无线本地环路(WirelessLocal Loop,WLL)站、个人数字处理(Personal Digital Assistant,PDA)设备、具有无线通信功能的手持设备、计算设备或连接到无线调制解调器的其它处理设备、电脑、膝上型计算机、手持式通信设备、手持式计算设备、和/或用于在无线系统上进行通信的其它设备以及下一代通信系统,例如,5G网络中的移动终端或者未来演进的公共陆地移动网络(PublicLand Mobile Network,PLMN)网络中的移动终端等。
作为示例而非限定,当所述终端设备为可穿戴设备时,该可穿戴设备还可以是应用穿戴式技术对日常穿戴进行智能化设计、开发出可以穿戴的设备的总称,如眼镜、手套、手表、服饰及鞋等。可穿戴设备即直接穿在身上,或是整合到用户的衣服或配件的一种便携式设备,通过附着与用户身上,采集用户的生物特征数据。可穿戴设备不仅仅是一种硬件设备,更是通过软件支持以及数据交互、云端交互来实现强大的功能。广义穿戴式智能设备包括功能全、尺寸大、可不依赖智能手机实现完整或者部分的功能,如智能手表或智能眼镜等,以及只专注于某一类应用功能,需要和其它设备如智能手机配合使用,如各类包含可解锁的触控屏的智能手环、智能首饰等。
图1示出了终端设备100的结构示意图。
终端设备100可以包括处理器110,外部存储器接口120,内部存储器121,通用串行总线(universal serial bus,USB)接口130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,传感器模块180,按键190,马达191,指示器192,摄像头193,显示屏194,以及用户标识模块(subscriber identification module,SIM)卡接口195等。其中传感器模块180可以包括压力传感器180A,陀螺仪传感器180B,气压传感器180C,磁传感器180D,加速度传感器180E,距离传感器180F,接近光传感器180G,指纹传感器180H,温度传感器180J,触摸传感器180K,环境光传感器180L,骨传导传感器180M等。
可以理解的是,本发明实施例示意的结构并不构成对终端设备100的具体限定。在本申请另一些实施例中,终端设备100可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器(application processor,AP),调制解调处理器,图形处理器(graphics processingunit,GPU),图像信号处理器(image signal processor,ISP),控制器,视频编解码器,数字信号处理器(digital signal processor,DSP),基带处理器,和/或神经网络处理器(neural-network processing unit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从所述存储器中直接调用。避免了重复存取,减少了处理器110的等待时间,因而提高了系统的效率。
在一些实施例中,处理器110可以包括一个或多个接口。接口可以包括集成电路(inter-integrated circuit,I2C)接口,集成电路内置音频(inter-integrated circuitsound,I2S)接口,脉冲编码调制(pulse code modulation,PCM)接口,通用异步收发传输器(universal asynchronous receiver/transmitter,UART)接口,移动产业处理器接口(mobile industry processor interface,MIPI),通用输入输出(general-purposeinput/output,GPIO)接口,用户标识模块(subscriber identity module,SIM)接口,和/或通用串行总线(universal serial bus,USB)接口等。
I2C接口是一种双向同步串行总线,包括一根串行数据线(serial data line,SDA)和一根串行时钟线(derail clock line,SCL)。在一些实施例中,处理器110可以包含多组I2C总线。处理器110可以通过不同的I2C总线接口分别耦合触摸传感器180K,充电器,闪光灯,摄像头193等。例如:处理器110可以通过I2C接口耦合触摸传感器180K,使处理器110与触摸传感器180K通过I2C总线接口通信,实现终端设备100的触摸功能。
I2S接口可以用于音频通信。在一些实施例中,处理器110可以包含多组I2S总线。处理器110可以通过I2S总线与音频模块170耦合,实现处理器110与音频模块170之间的通信。在一些实施例中,音频模块170可以通过I2S接口向无线通信模块160传递音频信号,实现通过蓝牙耳机接听电话的功能。
PCM接口也可以用于音频通信,将模拟信号抽样,量化和编码。在一些实施例中,音频模块170与无线通信模块160可以通过PCM总线接口耦合。在一些实施例中,音频模块170也可以通过PCM接口向无线通信模块160传递音频信号,实现通过蓝牙耳机接听电话的功能。所述I2S接口和所述PCM接口都可以用于音频通信。
UART接口是一种通用串行数据总线,用于异步通信。该总线可以为双向通信总线。它将要传输的数据在串行通信与并行通信之间转换。在一些实施例中,UART接口通常被用于连接处理器110与无线通信模块160。例如:处理器110通过UART接口与无线通信模块160中的蓝牙模块通信,实现蓝牙功能。在一些实施例中,音频模块170可以通过UART接口向无线通信模块160传递音频信号,实现通过蓝牙耳机播放音乐的功能。
MIPI接口可以被用于连接处理器110与显示屏194,摄像头193等外围器件。MIPI接口包括摄像头串行接口(camera serial interface,CSI),显示屏串行接口(displayserial interface,DSI)等。在一些实施例中,处理器110和摄像头193通过CSI接口通信,实现终端设备100的拍摄功能。处理器110和显示屏194通过DSI接口通信,实现终端设备100的显示功能。
GPIO接口可以通过软件配置。GPIO接口可以被配置为控制信号,也可被配置为数据信号。在一些实施例中,GPIO接口可以用于连接处理器110与摄像头193,显示屏194,无线通信模块160,音频模块170,传感器模块180等。GPIO接口还可以被配置为I2C接口,I2S接口,UART接口,MIPI接口等。
USB接口130是符合USB标准规范的接口,具体可以是Mini USB接口,Micro USB接口,USB Type C接口等。USB接口130可以用于连接充电器为终端设备100充电,也可以用于终端设备100与外围设备之间传输数据。也可以用于连接耳机,通过耳机播放音频。该接口还可以用于连接其他终端设备,例如AR设备等。
可以理解的是,本发明实施例示意的各模块间的接口连接关系,只是示意性说明,并不构成对终端设备100的结构限定。在本申请另一些实施例中,终端设备100也可以采用上述实施例中不同的接口连接方式,或多种接口连接方式的组合。
充电管理模块140用于从充电器接收充电输入。其中,充电器可以是无线充电器,也可以是有线充电器。在一些有线充电的实施例中,充电管理模块140可以通过USB接口130接收有线充电器的充电输入。在一些无线充电的实施例中,充电管理模块140可以通过终端设备100的无线充电线圈接收无线充电输入。充电管理模块140为电池142充电的同时,还可以通过电源管理模块141为终端设备供电。
电源管理模块141用于连接电池142,充电管理模块140与处理器110。电源管理模块141接收电池142和/或充电管理模块140的输入,为处理器110,内部存储器121,显示屏194,摄像头193,和无线通信模块160等供电。电源管理模块141还可以用于监测电池容量,电池循环次数,电池健康状态(漏电,阻抗)等参数。在其他一些实施例中,电源管理模块141也可以设置于处理器110中。在另一些实施例中,电源管理模块141和充电管理模块140也可以设置于同一个器件中。
终端设备100的无线通信功能可以通过天线1,天线2,移动通信模块150,无线通信模块160,调制解调处理器以及基带处理器等实现。
天线1和天线2用于发射和接收电磁波信号。终端设备100中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线1复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。
移动通信模块150可以提供应用在终端设备100上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块150可以包括至少一个滤波器,开关,功率放大器,低噪声放大器(low noise amplifier,LNA)等。移动通信模块150可以由天线1接收电磁波,并对接收的电磁波进行滤波,放大等处理,传送至调制解调处理器进行解调。移动通信模块150还可以对经调制解调处理器调制后的信号放大,经天线1转为电磁波辐射出去。在一些实施例中,移动通信模块150的至少部分功能模块可以被设置于处理器110中。在一些实施例中,移动通信模块150的至少部分功能模块可以与处理器110的至少部分模块被设置在同一个器件中。
调制解调处理器可以包括调制器和解调器。其中,调制器用于将待发送的低频基带信号调制成中高频信号。解调器用于将接收的电磁波信号解调为低频基带信号。随后解调器将解调得到的低频基带信号传送至基带处理器处理。低频基带信号经基带处理器处理后,被传递给应用处理器。应用处理器通过音频设备(不限于扬声器170A,受话器170B等)输出声音信号,或通过显示屏194显示图像或视频。在一些实施例中,调制解调处理器可以是独立的器件。在另一些实施例中,调制解调处理器可以独立于处理器110,与移动通信模块150或其他功能模块设置在同一个器件中。
无线通信模块160可以提供应用在终端设备100上的包括无线局域网(wirelesslocal area networks,WLAN)(如无线保真(wireless fidelity,Wi-Fi)网络),蓝牙(bluetooth,BT),全球导航卫星系统(global navigation satellite system,GNSS),调频(frequency modulation,FM),近距离无线通信技术(near field communication,NFC),红外技术(infrared,IR)等无线通信的解决方案。无线通信模块160可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块160经由天线2接收电磁波,将电磁波信号调频以及滤波处理,将处理后的信号发送到处理器110。无线通信模块160还可以从处理器110接收待发送的信号,对其进行调频,放大,经天线2转为电磁波辐射出去。
在一些实施例中,终端设备100的天线1和移动通信模块150耦合,天线2和无线通信模块160耦合,使得终端设备100可以通过无线通信技术与网络以及其他设备通信。所述无线通信技术可以包括全球移动通讯系统(global system for mobile communications,GSM),通用分组无线服务(general packet radio service,GPRS),码分多址接入(codedivision multiple access,CDMA),宽带码分多址(wideband code division multipleaccess,WCDMA),时分码分多址(time-division code division multiple access,TD-SCDMA),长期演进(long term evolution,LTE),BT,GNSS,WLAN,NFC,FM,和/或IR技术等。所述GNSS可以包括全球卫星定位系统(global positioning system,GPS),全球导航卫星系统(global navigation satellite system,GLONASS),北斗卫星导航系统(beidounavigation satellite system,BDS),准天顶卫星系统(quasi-zenith satellitesystem,QZSS)和/或星基增强系统(satellite based augmentation systems,SBAS)。
终端设备100通过GPU,显示屏194,以及应用处理器等实现显示功能。GPU为图像处理的微处理器,连接显示屏194和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
显示屏194用于显示图像,视频等。显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display,LCD),有机发光二极管(organic light-emittingdiode,OLED),有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrixorganic light emitting diode 的,AMOLED),柔性发光二极管(flex light-emittingdiode,FLED),Miniled,MicroLed,Micro-oLed,量子点发光二极管(quantum dot lightemitting diodes,QLED)等。在一些实施例中,终端设备100可以包括1个或N个显示屏194,N为大于1的正整数。显示屏194可包括触控面板以及其他输入设备。
终端设备100可以通过ISP,摄像头193,视频编解码器,GPU,显示屏194以及应用处理器等实现拍摄功能。
ISP用于处理摄像头193反馈的数据。例如,拍照时,打开快门,光线通过镜头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将所述电信号传递给ISP处理,转化为肉眼可见的图像。ISP还可以对图像的噪点,亮度,肤色进行算法优化。ISP还可以对拍摄场景的曝光,色温等参数优化。在一些实施例中,ISP可以设置在摄像头193中。
摄像头193用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB,YUV等格式的图像信号。在一些实施例中,终端设备100可以包括1个或N个摄像头193,N为大于1的正整数。
数字信号处理器用于处理数字信号,除了可以处理数字图像信号,还可以处理其他数字信号。例如,当终端设备100在频点选择时,数字信号处理器用于对频点能量进行傅里叶变换等。
视频编解码器用于对数字视频压缩或解压缩。终端设备100可以支持一种或多种视频编解码器。这样,终端设备100可以播放或录制多种编码格式的视频,例如:动态图像专家组(moving picture experts group,MPEG)1,MPEG2,MPEG3,MPEG4等。
NPU为神经网络(neural-network,NN)计算处理器,通过借鉴生物神经网络结构,例如借鉴人脑神经元之间传递模式,对输入信息快速处理,还可以不断的自学习。通过NPU可以实现终端设备100的智能认知等应用,例如:图像识别,脸部识别,语音识别,文本理解等。
外部存储器接口120可以用于连接外部存储卡,例如Micro SD卡,实现扩展终端设备100的存储能力。外部存储卡通过外部存储器接口120与处理器110通信,实现数据存储功能。例如将音乐,视频等文件保存在外部存储卡中。
内部存储器121可以用于存储计算机可执行程序代码,所述可执行程序代码包括指令。内部存储器121可以包括存储程序区和存储数据区。其中,存储程序区可存储操作系统,至少一个功能所需的应用程序(比如声音播放功能,图像播放功能等)等。存储数据区可存储终端设备100使用过程中所创建的数据(比如音频数据,电话本等)等。此外,内部存储器121可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universal flash storage,UFS)等。处理器110通过运行存储在内部存储器121的指令,和/或存储在设置于处理器中的存储器的指令,执行终端设备100的各种功能应用以及数据处理。
终端设备100可以通过音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,以及应用处理器等实现音频功能。例如音乐播放,录音等。
音频模块170用于将数字音频信息转换成模拟音频信号输出,也用于将模拟音频输入转换为数字音频信号。音频模块170还可以用于对音频信号编码和解码。在一些实施例中,音频模块170可以设置于处理器110中,或将音频模块170的部分功能模块设置于处理器110中。
扬声器170A,也称“喇叭”,用于将音频电信号转换为声音信号。终端设备100可以通过扬声器170A收听音乐,或收听免提通话。
受话器170B,也称“听筒”,用于将音频电信号转换成声音信号。当终端设备100接听电话或语音信息时,可以通过将受话器170B靠近人耳接听语音。
麦克风170C,也称“话筒”,“传声器”,用于将声音信号转换为电信号。当拨打电话或发送语音信息时,用户可以通过人嘴靠近麦克风170C发声,将声音信号输入到麦克风170C。终端设备100可以设置至少一个麦克风170C。在另一些实施例中,终端设备100可以设置两个麦克风170C,除了采集声音信号,还可以实现降噪功能。在另一些实施例中,终端设备100还可以设置三个,四个或更多麦克风170C,实现采集声音信号,降噪,还可以识别声音来源,实现定向录音功能等。
耳机接口170D用于连接有线耳机。耳机接口170D可以是USB接口130,也可以是3.5mm的开放移动终端设备平台(open mobile terminal platform,OMTP)标准接口,美国蜂窝电信工业协会(cellular telecommunications industry association of the USA,CTIA)标准接口。
压力传感器180A用于感受压力信号,可以将压力信号转换成电信号。在一些实施例中,压力传感器180A可以设置于显示屏194。压力传感器180A的种类很多,如电阻式压力传感器,电感式压力传感器,电容式压力传感器等。电容式压力传感器可以是包括至少两个具有导电材料的平行板。当有力作用于压力传感器180A,电极之间的电容改变。终端设备100根据电容的变化确定压力的强度。当有触摸操作作用于显示屏194,终端设备100根据压力传感器180A检测所述触摸操作强度。终端设备100也可以根据压力传感器180A的检测信号计算触摸的位置。在一些实施例中,作用于相同触摸位置,但不同触摸操作强度的触摸操作,可以对应不同的操作指令。例如:当有触摸操作强度小于第一压力阈值的触摸操作作用于短消息应用图标时,执行查看短消息的指令。当有触摸操作强度大于或等于第一压力阈值的触摸操作作用于短消息应用图标时,执行新建短消息的指令。
陀螺仪传感器180B可以用于确定终端设备100的运动姿态。在一些实施例中,可以通过陀螺仪传感器180B确定终端设备100围绕三个轴(即,x,y和z轴)的角速度。陀螺仪传感器180B可以用于拍摄防抖。示例性的,当按下快门,陀螺仪传感器180B检测终端设备100抖动的角度,根据角度计算出镜头模组需要补偿的距离,让镜头通过反向运动抵消终端设备100的抖动,实现防抖。陀螺仪传感器180B还可以用于导航,体感游戏场景。
气压传感器180C用于测量气压。在一些实施例中,终端设备100通过气压传感器180C测得的气压值计算海拔高度,辅助定位和导航。
磁传感器180D包括霍尔传感器。终端设备100可以利用磁传感器180D检测翻盖皮套的开合。在一些实施例中,当终端设备100是翻盖机时,终端设备100可以根据磁传感器180D检测翻盖的开合。进而根据检测到的皮套的开合状态或翻盖的开合状态,设置翻盖自动解锁等特性。
加速度传感器180E可检测终端设备100在各个方向上(一般为三轴)加速度的大小。当终端设备100静止时可检测出重力的大小及方向。还可以用于识别终端设备姿态,应用于横竖屏切换,计步器等应用。
距离传感器180F,用于测量距离。终端设备100可以通过红外或激光测量距离。在一些实施例中,拍摄场景,终端设备100可以利用距离传感器180F测距以实现快速对焦。
接近光传感器180G可以包括例如发光二极管(LED)和光检测器,例如光电二极管。发光二极管可以是红外发光二极管。终端设备100通过发光二极管向外发射红外光。终端设备100使用光电二极管检测来自附近物体的红外反射光。当检测到充分的反射光时,可以确定终端设备100附近有物体。当检测到不充分的反射光时,终端设备100可以确定终端设备100附近没有物体。终端设备100可以利用接近光传感器180G检测用户手持终端设备100贴近耳朵通话,以便自动熄灭屏幕达到省电的目的。接近光传感器180G也可用于皮套模式,口袋模式自动解锁与锁屏。
环境光传感器180L用于感知环境光亮度。终端设备100可以根据感知的环境光亮度自适应调节显示屏194亮度。环境光传感器180L也可用于拍照时自动调节白平衡。环境光传感器180L还可以与接近光传感器180G配合,检测终端设备100是否在口袋里,以防误触。
指纹传感器180H用于采集指纹。终端设备100可以利用采集的指纹特性实现指纹解锁,访问应用锁,指纹拍照,指纹接听来电等。
温度传感器180J用于检测温度。在一些实施例中,终端设备100利用温度传感器180J检测的温度,执行温度处理策略。例如,当温度传感器180J上报的温度超过阈值,终端设备100执行降低位于温度传感器180J附近的处理器的性能,以便降低功耗实施热保护。在另一些实施例中,当温度低于另一阈值时,终端设备100对电池142加热,以避免低温导致终端设备100异常关机。在其他一些实施例中,当温度低于又一阈值时,终端设备100对电池142的输出电压执行升压,以避免低温导致的异常关机。
触摸传感器180K,也称“触控器件”。触摸传感器180K可以设置于显示屏194,由触摸传感器180K与显示屏194组成触摸屏,也称“触控屏”。触摸传感器180K用于检测作用于其上或附近的触摸操作。触摸传感器可以将检测到的触摸操作传递给应用处理器,以确定触摸事件类型。可以通过显示屏194提供与触摸操作相关的视觉输出。在另一些实施例中,触摸传感器180K也可以设置于终端设备100的表面,与显示屏194所处的位置不同。
骨传导传感器180M可以获取振动信号。在一些实施例中,骨传导传感器180M可以获取人体声部振动骨块的振动信号。骨传导传感器180M也可以接触人体脉搏,接收血压跳动信号。在一些实施例中,骨传导传感器180M也可以设置于耳机中,结合成骨传导耳机。音频模块170可以基于所述骨传导传感器180M获取的声部振动骨块的振动信号,解析出语音信号,实现语音功能。应用处理器可以基于所述骨传导传感器180M获取的血压跳动信号解析心率信息,实现心率检测功能。
按键190包括开机键,音量键等。按键190可以是机械按键。也可以是触摸式按键。终端设备100可以接收按键输入,产生与终端设备100的用户设置以及功能控制有关的键信号输入。
马达191可以产生振动提示。马达191可以用于来电振动提示,也可以用于触摸振动反馈。例如,作用于不同应用(例如拍照,音频播放等)的触摸操作,可以对应不同的振动反馈效果。作用于显示屏194不同区域的触摸操作,马达191也可对应不同的振动反馈效果。不同的应用场景(例如:时间提醒,接收信息,闹钟,游戏等)也可以对应不同的振动反馈效果。触摸振动反馈效果还可以支持自定义。
指示器192可以是指示灯,可以用于指示充电状态,电量变化,也可以用于指示消息,未接来电,通知等。
SIM卡接口195用于连接SIM卡。SIM卡可以通过插入SIM卡接口195,或从SIM卡接口195拔出,实现和终端设备100的接触和分离。终端设备100可以支持1个或N个SIM卡接口,N为大于1的正整数。SIM卡接口195可以支持Nano SIM卡,Micro SIM卡,SIM卡等。同一个SIM卡接口195可以同时插入多张卡。所述多张卡的类型可以相同,也可以不同。SIM卡接口195也可以兼容不同类型的SIM卡。SIM卡接口195也可以兼容外部存储卡。终端设备100通过SIM卡和网络交互,实现通话以及数据通信等功能。在一些实施例中,终端设备100采用eSIM,即:嵌入式SIM卡。eSIM卡可以嵌在终端设备100中,不能和终端设备100分离。
终端设备100的软件系统可以采用分层架构,事件驱动架构,微核架构,微服务架构,或云架构。本发明实施例以分层架构的Android系统为例,示例性说明终端设备100的软件结构。
图2是本发明实施例的终端设备100的软件结构框图。
分层架构将软件分成若干个层,每一层都有清晰的角色和分工。层与层之间通过软件接口通信。在一些实施例中,将Android系统分为四层,从上至下分别为应用程序层,应用程序框架层,安卓运行时(Android runtime)和系统库,以及内核层。
应用程序层可以包括一系列应用程序包。
如图2所示,应用程序包可以包括相机,图库,日历,通话,地图,导航,WLAN,蓝牙,音乐,视频,短信息等应用程序。
应用程序框架层为应用程序层的应用程序提供应用编程接口(applicationprogramming interface,API)和编程框架。应用程序框架层包括一些预先定义的函数。
如图2所示,应用程序框架层可以包括窗口管理器,内容提供器,视图系统,电话管理器,资源管理器,通知管理器等。
窗口管理器用于管理窗口程序。窗口管理器可以获取显示屏大小,判断是否有状态栏,锁定屏幕,截取屏幕等。
内容提供器用来存放和获取数据,并使这些数据可以被应用程序访问。所述数据可以包括视频,图像,音频,拨打和接听的电话,浏览历史和书签,电话簿等。
视图系统包括可视控件,例如显示文字的控件,显示图片的控件等。视图系统可用于构建应用程序。显示界面可以由一个或多个视图组成的。例如,包括短信通知图标的显示界面,可以包括显示文字的视图以及显示图片的视图。
电话管理器用于提供终端设备100的通信功能。例如通话状态的管理(包括接通,挂断等)。
资源管理器为应用程序提供各种资源,比如本地化字符串,图标,图片,布局文件,视频文件等等。
通知管理器使应用程序可以在状态栏中显示通知信息,可以用于传达告知类型的消息,可以短暂停留后自动消失,无需用户交互。比如通知管理器被用于告知下载完成,消息提醒等。通知管理器还可以是以图表或者滚动条文本形式出现在系统顶部状态栏的通知,例如后台运行的应用程序的通知,还可以是以对话窗口形式出现在屏幕上的通知。例如在状态栏提示文本信息,发出提示音,终端设备振动,指示灯闪烁等。
Android Runtime包括核心库和虚拟机。Android runtime负责安卓系统的调度和管理。
核心库包含两部分:一部分是java语言需要调用的功能函数,另一部分是安卓的核心库。
应用程序层和应用程序框架层运行在虚拟机中。虚拟机将应用程序层和应用程序框架层的java文件执行为二进制文件。虚拟机用于执行对象生命周期的管理,堆栈管理,线程管理,安全和异常的管理,以及垃圾回收等功能。
系统库可以包括多个功能模块。例如:表面管理器(surface manager),媒体库(Media Libraries),三维图形处理库(例如:OpenGL ES),2D图形引擎(例如:SGL)等。
表面管理器用于对显示子系统进行管理,并且为多个应用程序提供了2D和3D图层的融合。
媒体库支持多种常用的音频,视频格式回放和录制,以及静态图像文件等。媒体库可以支持多种音视频编码格式,例如:MPEG4,H.264,MP3,AAC,AMR,JPG,PNG等。
三维图形处理库用于实现三维图形绘图,图像渲染,合成,和图层处理等。
2D图形引擎是2D绘图的绘图引擎。
内核层是硬件和软件之间的层。内核层至少包含显示驱动,摄像头驱动,音频驱动,传感器驱动。
下面结合捕获拍照场景,示例性说明终端设备100软件以及硬件的工作流程。
当触摸传感器180K接收到触摸操作,相应的硬件中断被发给内核层。内核层将触摸操作加工成原始输入事件(包括触摸坐标,触摸操作的时间戳等信息)。原始输入事件被存储在内核层。应用程序框架层从内核层获取原始输入事件,识别该输入事件所对应的控件。以该触摸操作是触摸单击操作,该单击操作所对应的控件为相机应用图标的控件为例,相机应用调用应用框架层的接口,启动相机应用,进而通过调用内核层启动摄像头驱动,通过摄像头193捕获静态图像或视频。
实施例一:
现有的设备控制技术,终端设备可以安装用于控制智能家电的应用程序。图3示出了本申请一实施例提供的终端设备的界面示意图。参见图3中的(a)所示,终端设备可以接收用户对于应用301的点击操作,该应用301具体为上述用于控制智能家电的应用程序。终端设备在接收到上述点击操作后,可以进入智能家电的控制界面,如图3中的(b)所示,终端设别可以接收用户在该控制界面内触发的点击操作,例如检测到用户点击“开启指令”的控件302,终端设备可以生成一用于指示智能家电开启的控制指令,并将该控制指令发送给对应的终端设备;可选地,该智能家电的控制界面还可以如图3中的(c)所示,配置有手势绘制区域,终端设备可以接收用户在手势绘制区域生成的滑动手势,并生成与滑动手势对应的控制指令,将控制指令发送给对应的目标设备。虽然上述方式无需通过智能家电特定的控制器进行控制操作,但仍然需要用户进入特定的应用,在指定的操作界面中生成触控操作才能生成控制指令,从而大大降低了操作效率,增加了用户的操作步骤。为了解决上述控制指令的生成过程的缺陷,本申请提供一种控制指令的生成方法,具体详述如下:
参见图4所示,该控制指令的生成方法的执行主体为一终端设备,该终端设备可以为一智能手机、平板电脑、计算机以及配置有显示模块的任一设备。图4示出了本申请一实施例提供的控制指令的生成方法的实现流程图,详述如下:
在S401中,响应于用户在触控式显示屏上的第一触控操作,识别所述第一触控操作对应的触摸物类型。
在本实施例中,终端设备可以配置有触控模块,该触控模块可以为触控屏或触控板,触控模块可以采集用户发起的触控操作,该触控操作包括但不限于:点击操作、长按操作以及滑动操作。当终端设备的触控模块检测到触控操作时,则触发S401的操作,即判断触发该第一触控操作所对应的触摸物类型。
在一种可能的实现方式中,终端设备可以配置有效触控间隔,对于部分触控操作,例如连续点击操作,触控模块采集该类型的触控操作时,会检测到按压中断,此时,若上述按压中断的持续时长小于或等于上述的有效触控间隔,则识别两次按压操作属于同一触控操作,并继续记录该触控操作,直到按压中断的持续时长大于上述的有效触控间隔,并将记录得到的多次按压动作识别为一个触控操作。
举例性地,终端设备检测到用户对于触控模块的第一次按压动作,并在第一按压动作结束时,指尖离开触控模块,并且0.5s后,终端设备再次检测到用户对于触控模块的第二次按压动作,由于终端设备预设的有效触控间隔为0.8s,上述两个按压动作之间的间隔为0.5s,此时,终端设备会识别第一按压动作以及第二按压动作属于同一触控操作,并继续进行记录,在第二按压动作结束时,指尖再次离开触控模块,并且经过0.8s后,触控模块没有再次检测到第三按压动作,此时,终端设备会识别触控操作已完成,该触控操作包含两次按压动作,识别该触控操作的操作类型为双击操作。
在本实施例中,终端设备可以在任一界面上接收用于生成控制指令的触控操作。该界面包括设备的主界面,也可以为任一应用程序内的主界面和子界面,在此不做限定。示例性地,图5示出了本申请一实施例提供的界面类型示意图。参见图5中的(a)所示,该界面为设备的主界面,终端设备可以接收用户对于主界面内任一应用程序的图标,以将应用程序对应的界面于前台显示或启动对应的应用程序。参见图5中(b)所示,该界面为一相册应用程序的界面,该界面内包含有多个已存储图像的缩略图。在一种可能的实现方式中,用户可以在上述任一一个界面中触发上述的第一触控操作,终端设备可以先对第一触控操作的触摸物类型进行识别,并在识别得到该触摸物类型为指关节类型时,执行S402的操作;在识别得到的触摸物类型为非指关节类型时,在界面上执行所述第一触控操作对应的响应操作。
在一种可能的实现方式中,控制指令的生成流程的响应优先级高于各个应用程序的响应优先级,即终端设备会先判断用户发起的触控操作是否需要生成对应的控制指令后,再执行当前界面对应的应用程序的识别流程,从而保证了终端设备能够在任意界面上均能够唤醒控制指令的生成流程,避免了用户需要在特定应用或者特定界面内才能够生成控制指令,提高了控制指令的生成效率。
在一种可能的实现方式中,终端设备可以在锁屏界面下获取第一触控操作,并识别该第一触控操作对应的触摸物类型。在该情况下,终端设备在检测到触控模块存在按压动作时,可以点亮屏幕,并显示锁屏界面,以提示用于进行解锁操作,并监测用户发起的该按压动作对应的第一触控操作,并在第一触控操作完成时,确定该第一触控操作对应的触摸物类型,若该触摸物类型为指关节类型,则执行S402的操作。反之,若该触摸物类型为非指关节类型,则判断该第一触控操作是否为解锁操作,并基于识别结果判定是否执行解锁操作。具体地,若该第一触控操作与解锁操作匹配,则执行解锁操作;反之,若该第一触控操作与解锁操作不匹配,则输出解锁失败的提示信息,并在预设点亮时间内没有接收到其他触控操作,则熄灭屏幕。
在本实施例中,终端设备可以识别触发上述触控操作对应的触摸物类型。该触摸物类型至少包括指关节类型以及非指关节类型。在一种可能的实现方式中,非指关节类型至少包括:指腹类型以及触控笔类型等。终端设备配置有触摸物类型的识别算法,可以确定第一触控操作对应的触摸物类型,并在识别得到第一触控操作对应的触摸物类型为指关节类型时,执行S402的操作。
在一种可能的实现方式中,识别触摸物类型的方式可以为:终端设备可以获取第一触控操作时对应的触摸面积以及终端设备检测到的设备加速度。若该触摸面积小于预设的面积阈值,并且设备加速度大于预设的加速度阈值,则识别该第一触控操作对应的触摸物为指关节类型;反之,若该触摸面积大于或等于面积阈值,或设备加速度小于或等于加速度阈值,则识别该第一触控操作对应的触摸物为非指关节类型。由于通过指关节进行触控操作时,是通过叩击的方式接触触控模块,此时,触控面积相对于指腹而言会较小,并且由于叩击力度较大,对设备施加的加速度也越大,基于此,可以通过获取触摸面积以及设备加速度,判断该触摸物类型是否为指关节类型。
在一种可能的实现方式中,若触摸物类型为非指关节类型,则在所述界面上响应所述第一触控操作。不同的界面对于触控操作有不同的响应流程,例如上述第一触控操作为点击操作,则终端设备在识别得到该第一触控操作为非指关节类型的触控操作时,可以根据点击操作的点击区域确定目标控件,激活目标控制对应的响应流程;又例如上述第一触控操作为滑动操作,则终端设备在识别得到该第一触控操作为非指关节类型的触控操作时,可以根据滑动操作的滑动方向切换对应的显示内容等。不同的界面有不同的响应流程,在此不对非指关节类型的响应方式进行限定。
需要说明的是,通过指关节触控方式进入控制指令的生成流程,能够提高控制指令生成的便捷性,无需启动特定的应用程序即可进入生成流程,而且指关节类型的触控方式与日常的触控方式存在较大的差异,用户在日常使用过程中往往使用指腹对设备进行操控,除非激活特定的功能,并不会采用指关节生成触控操作。因此,通过特定的触摸物来执行触控操作,以激活控制指令的生成流程,从而能够提高生成控制指令的便捷性的同时,也能够减少对于日常操作的影响,提高了用户的使用体验。
进一步地,作为本申请的另一实施例,图6示出了本申请一实施例提供的控制指令的生成方法中S401的具体实现流程图。参见图6所示,相对于图4,本实施例中的S401具体包括S4011以及S4012,具体描述如下:
在S4011中,若在任一界面检测到第一触控操作,则获取检测到所述第一触控操作时刻的位置信息。
在本实施例中,由于对智能家电进行控制时,往往是在室内场景下,又或者在常用的场所,例如在家或在公司等固定场景。基于此,终端设备可以存储有至少一个有效控制场景,该有效控制场景可以为具体的场景位置,也可以为某一场景类型。终端设备在判断是否需要执行控制指令生成流程时,需要对终端设备所处的场景进行识别,由于场景识别的过程相当于触控物类型识别的过程而言,数据运算量较小,对于系统资源的占用率相对较低,因此首先通过对场景进行识别后,再进行触摸物类型的识别,不仅提高控制指令生成流程执行的准确性,避免生成不必要的控制指令,还可以减少占用系统资源。
在一种可能的实现方式中,终端设备可以存储有有效控制场景,每个有效控制场景可以对应一个场景位置范围,终端设备砸获取了检测到第一触控操作时刻的位置信息后,可以判断该位置信息是否在上述有效控制场景对应的场景位置范围内,若是,则识别位置信息在有效控制场景,执行S4012的操作;反之,则识别位置信息不在有效控制场景。
在一种可能的实现方式中,终端设备可以存储有有效控制场景对应的至少一个场景类型,例如为公司、家、商场等。上述场景类型可以通过用户手动配置,还可以通过第三方地图应用自动标注得到。终端设备在获取了第一触控指令对应的位置信息后,可以确定该位置信息对应的场景类型,并判断位置信息的场景类型是否与有效控制场景对应的任一场景类型相匹配,若是,则识别位置信息在有效控制场景内,执行S4012的操作;反之,则识别位置信息不在有效控制场景内。其中,位置信息的场景类型的确定也可以通过第三方地图应用自动标注得到。
在一种可能的实现方式中,终端设备可以通过用户的日常活动轨迹自动生成有效控制场景,实现的方式如下:终端设备可以以预设的时间间隔记录用户的历史位置,并统计相同或相似的历史位置的个数以及在各个历史位置对应的停留时长;若该历史位置的个数大于预设的个数阈值,且该历史位置对应的停留时长大于预设的有效停留阈值,则识别该历史位置为用户对应的常规停留点,基于常规停留点生成上述的有效控制场景。
在一种可能的实现方式中,终端设备在检测到位置信息不在有效控制场景内时,可以基于当前显示的界面响应第一触控指令,即无需至S402以及S403的操作,停止触发控制指令的生成流程。
在S4012中,若所述位置信息在预设的有效控制场景内,则执行识别所述第一触控操作对应的触摸物类型的操作。
在本实施例中,终端设备在确定了位置信息在有效控制场景内时,表示处于可对家电设备进行控制的场景之下,此时第一触控操作有可能是对应生成控制指令的操作,因此,可以执行第一触控操作的触摸物类型的识别操作。
在本申请实施例中,通过在识别第一触控操作对应的触摸物类型之前,判断终端设备是否在有效控制场景内,从而能够提高控制指令生成操作的准确性。例如用户在街道行走的过程中,通过指关节生成触控指令,但是在街道行走的场景下并不存在可以控制的目标设备,此时,则无需生成控制指令,只需基于当前显示的界面响应触控指令即可。
在S402中,若所述触摸物类型为指关节类型,则确定所述第一触控操作关联的控制指令。
在本实施例中,终端设备当识别触摸物类型为指关节类型时,可以从控制指令库中选取与第一触控操作对应的控制指令,作为需要生成的控制指令。其中,该控制指令可以包含有所需控制的目标设备的设备标识。
在一种可能的实现方式中,终端设备可以存储有一控制指令与触控操作的对应关系。该预设的对应关系可以是用户预先设置的,即为控制指令预先配置至少一个触控样板,终端设备可以将第一触控操作与各个触控样板进行比对,根据比对结果以及上述预设的对应关系,确定第一触控操作关联的控制指令。
在一种可能的实现方式中,终端设备配置有控制指令的管理程序。终端设备可以通过上述管理程序,生成上述的控制指令与触控操作的对应关系。在该情况下,用户可以通过激活终端设备内的管理程序,终端设备则生成管理程序对应的对应关系的配置界面,用户可以在上述配置界面内生成触控样板,并为该触控样板设置关联的控制指令,例如通过指关节单击屏幕对应开启指令,通过指关节双击屏幕对应关闭指令等,基于用户的设置操作生成上述的对应关系,并存储于存储器内。
示例性地,图7示出了本申请一实施例提供的控制指令与触控操作的对应关系的界面示意图。参见图7所示,该界面示意图内存储有至少4组的对应关系。其中,通过指关节进行单击的操作对应开启指令,即701;通过指关节进行双击的操作对应暂停指令,即702;通过指关节进行上滑的操作对应调高指令,即703;通过指关节绘制“z”型对应关机指令,即704。
示例性地,图8示出了本申请一实施例提供的触摸物类型的示意图。参见图8所示,触摸物类型至少可以划分为非指关节类型以及指关节类型,其中,非指关节类型可以包含指腹类型以及触控笔类型;指关节类型则可以通过手指多个不同的关节触发生成。
进一步地,作为本申请的另一实施例,终端设备可以通过与各个预存储的控制指令对应的标准操作进行匹配确定与第一触控操作关联的控制指令。图9示出了本申请一实施例提供的控制指令的生成方法中S402的具体实现流程图。参见图9所示,相对于图4,本实施例中的S402具体包括S901以及S902,具体描述如下:
在S901中,确定所述第一触控操作与预存的标准操作之间的匹配度。
在本实施例中,终端设备可以存储有多个不同的控制指令,每个控制指令关联有至少一个标准操作。如上所述,可以将通过指关节进行单击的操作配置为开启指令关联的标准操作,将通过指关节双击的操作配置为暂停指令关联的标准操作等。终端设备可以将本次采集得到的第一触控操作与各个已经存储有的标准操作进行匹配,并得到两个操作之间的匹配度。
在一种可能的实现方式中,终端设备可以首先识别第一触控操作的操作类型,例如属于点击操作类型或是滑动操作类型,并从标准操作中选取与上述识别得到操作类型为候选操作,并计算各个候选操作与第一触控操作之间的匹配度,而对于操作类型不一致的标准操作,则无需与第一操作类型进行匹配,可选地,将操作类型不一致的标准操作与第一触控操作之间的匹配度设置为0。
在一种可能的实现方式中,若第一触控操作为滑动操作,则终端设备可以根据第一触控操作对应的第一滑动轨迹与各个标准操作对应的第二滑动轨迹,计算两个滑动轨迹之间的重合率,并基于上述重合率得到两个操作之间的匹配度。
在S902中,选取所述匹配度最高的所述标准操作对应的控制指令,作为所述第一触控操作的控制指令。
在本实施例中,终端设备在确定了第一触控操作与各个标准操作之间的匹配度后,可以选取匹配度最高的一个标准操作作为第一触控操作对应的相关操作,并将相关操作预先关联的控制指令作为第一触控操作的控制指令。
在一种可能的实现方式中,终端设备可以配置有匹配度阈值。终端设备可以判断数值最高的匹配度是否大于上述的匹配度阈值,若是,则将匹配度最高的标准操作对应的控制指令作为所述第一触控操作的控制指令;反之,若数值最大的匹配度小于或等于匹配度阈值,则识别该第一触控操作没有对应的标准操作。通过设置匹配度阈值,终端设备可以避免对于所有指关节类型的触控操作均生成对应的控制指令,提高了控制指令的生成准确性。
在本申请实施例中,通过计算第一触控操作与各个关联有控制指令的标准操作进行匹配,并基于两者之间的匹配度确定第一触控操作对应的控制指令,实现了控制指令的自动识别,提高了控制指令生成的准确性。
在本实施例中,终端设备在生成控制指令时,可以将所需控制的目标设备的设备标识添加到控制指令中。终端设备可以为不同设备的各个控制指令配置对应的标准操作,在进行标准操作的匹配时,即可以确定所需控制的目标设备。若所有设备对于同一类型的控制指令对应相同标准操作,例如对于空调的开启指令以及洗碗机的开启指令,对应的标准操作均为单击,此时,终端设备可以生成多个控制指令,每个控制指令对应一个设备的设备标识,也可以根据用户生成控制指令的位姿,确定对应的目标设备,并将目标设备的设备标识封装于上述控制指令内。
具体地,根据用户位姿确定目标设备的方式如图10所示。图10示出了本申请一实施例提供的控制指令的生成方法中S402的具体实现流程图。参见图10所示,相对于图4,本实施例中的S402具体包括S1001~S1004,具体描述如下:
在S1001中,获取检测到所述第一触控操作时刻的设备位姿。
在本实施例中,终端设备内置有定位模块以及运动传感器,例如陀螺仪以及指南针模块等。终端设备可以通过定位模块以及运动传感器,确定终端设备在检测到第一触控操作时刻对应的设备位姿,该设备位姿包括终端设备所在的位置以及姿态角。
在一种可能的实现方式中,终端设备可以通过定位模块确定终端设备的位置,通过陀螺仪以及指南针模块确定终端设备的姿态角,根据终端设备的位置以及姿态角,得到上述的设备位姿。其中,终端设备可以根据陀螺仪确定终端设备的握持方式,该握持方式包括有竖直握持以及水平握持,通过确定终端设备的握持方式,可以确定控制方向。示例性地,图11示出了本申请一实施例提供的控制方向与握持方式的对应关系示意图。参见图11所示,终端设备处于竖直握持方式下,其对应的控制方向为终端设备上边线所对应的方向,如图11中的(a);终端设备处于水平握持方向下,其对应的控制方向为终端设备的左边线或右边线对应的方向(根据水平握持时设备位姿确定),如图11中的(b)。
在S1002中,基于所述设备位姿确定有效投射区域,并将所述有效投射区域在预设的设备布放图上覆盖的已登记设备识别为候选设备。
在本实施例中,终端设备可以根据终端设备的设备位姿,以及对应的有效辐射角度与辐射距离,得到终端设备对应的有效投射区域,该有效投射区域具体为以终端设备的设备位姿为起始点,以有效辐射区域为半径构成的扇形区域,其中,该扇形区域的角度为上述的有效辐射角度。
在本实施例中,终端设备可以存储有设备布放图,该设备布放图上标记有各个已登记设备的放置位置。由于家电设备的放置位置相对固定,因此可以通过预先建立关于各个已登记设备的设备布放图,并根据终端设备对应的有效投射区域,在上述的设备布放图上进行区域标记,并将该有效投射区域所覆盖的已登记设备识别为可能需要进行控制的候选设备。示例性地,图12示出了本申请一实施例提供的候选设备的识别示意图。参见图12所示,该设备布放图上标记有多个已登记设备,终端设备可以根据当前对应的有效投射区域,在上述设备布放图上进行区域标记,即区域01,并将区域01内的已登记设备识别为候选设备,即设备02以及设备03为上述的候选设备。
在S1003中,计算各个所述候选设备与所述设备位姿之间的关联度。
在本实施例中,终端设备选取出候选设备后,可以分别根据各个候选设备与设备位姿之间的相对位置关系,确定出两者之间的关联度,从而能够确定出控制指令所需控制的目标设备。在一种可能的实现方式中,候选设备与设备位置之间的距离越小,则对应的关联度越大;候选设备的正面面向与设备姿态角之间的夹角越小,则对应的关联度越大,通过上述两个参量,转换为候选设备对应的关联度。
进一步地,作为本申请的另一实施例,计算上述候选设备与设备位姿之间的关联度的方式可以为:
1.基于所述候选设备的放置位姿以及所述设备位姿,得到位姿关联因子。
在本实施例中,终端设备可以获取候选设备的放置位姿,该放置位姿包含有候选设备的放置位置以及对应的姿态角。终端设备可以计算候选设备的放置位置与终端设备的位置之间的距离,得到上述的位姿关联因子。可选地,终端设备可以从候选设备中选取出有效设备,具体为:将候选设备的正面面向与终端设备的指令投射方向相对的候选设备作为有效设备,反之,则识别为无效设备。
2.根据所述设备位姿与所述放置位姿之间的连线与所述有效投射区域的中心轴线之间的偏差角,得到偏移关联因子。
在本实施例中,确定设备位姿与放置位姿之间的连线的方式可以为:根据放置位姿确定候选设备对应的正面面向,例如,对于空调设备,其对应的正面具体为出风口所对应的设备面;对于电视机,其对应的正面具体为显示屏所在的设备面,不同的设备类型对应的正面面向的定义不同,终端设备可以根据候选类型确定对应的正面面向,并连接设备正面面向的中心点与终端设备的设备中心,作为上述的设备位姿与放置位姿之间的连线。基于上述连续与有效投射区域的中心轴线之间的夹角,作为上述的偏差角,并将偏差角转换为对应的偏移关联因子。示例性地,图13示出了本申请一实施例提供的偏差角的示意图。参见图13所示,候选设备为一空调设备,将空调设备的出风口作为正面面向,并基于正面面向的中心与终端设备的设备中心,得到上述设备位姿与放置位姿之间的连线,因此,上述的偏差角即为∠1。
3.基于所述位姿关联因子以及所述偏移关联因子,计算所述候选设备对应的所述关联度。
在本实施例中,终端设备可以分别为上述两个关联因子配置对应的权重值,将上述两个关联因子进行加权求和,则计算得到候选设备与终端设备之间的关联度。其中,候选设备的放置位姿与设备位姿之间的距离越短,则对应的位姿关联因子越大;候选设备的设备位姿与放置位置之间的联系与中心轴线之间的偏差角越小,则对应的偏移关联因子越大。
在本申请实施例中,从位姿与偏差角两个维度计算候选设备对应的关联度,可以提高关联度计算的准确性。
在S1004中,选取所述关联度最高的所述候选设备作为所述目标设备,并将所述目标设备的所述设备标识添加到所述控制指令。
在本实施例中,终端设备计算得到各个候选设备对应的关联度后,选取关联度最高的候选设备作为需要进行控制的目标设备,将目标设备的设备标识添加到控制指令内,从而在发送控制指令时,可以将控制指令发送给对应的目标设备。
在本申请实施例中,通过设备位姿选取出目标设备,并将目标设备的设备标识添加到控制指令内,从而无需指定所需控制的目标设备,若需要为不同的目标设备的各个控制指令配置对应的标准操作,则标准操作的配置过程较为复杂,且为了区分不同设备的控制指令,则往往增加了触控操作的复杂度,若复杂度过低则会降低了不同触控操作之间的差异度,从而影响了识别的准确性。因此,通过设备位姿确定目标设备,能够有效减少控制指令的个数,提高了识别准确性的同时,减少触控操作的复杂度。
在一种可能的实现方式中,若终端设备检测到第一触控操作不存在对应的控制指令,可以结束控制指令的生成流程,例如基于当前显示的界面响应第一控制指令。
作为本申请的另一实施例,若终端设备检测到第一触控操作并不存在对应的控制指令时,可以执行控制指令的设置流程。图14示出了本申请一实施例提供的控制指令的生成方法中S402的具体实现流程图。参见图14所示,相对于图4,本实施例中的S402具体包括S1401~S1403,具体描述如下:
在S1401中,若未识别得到与所述第一触控操作关联的所述控制指令,则进入关联指令配置界面。
在本实施例中,终端设备在检测到第一触控该操作不存在任何对应的控制指令时,可以进入控制指令的配置流程,以指示用于对本次触发的第一触控操作配置关联的控制指令,具体地,终端设备可以输出一个关联指令配置界面,该关联指令配置界面内可以显示有至少有一个可以建立关联关系的控制指令。上述控制指令可以关联有触控操作,也可以未关联有任何触控操作。
在S1402中,获取在所述关联指令配置界面内检测到的第二触控操作。
在本实施例中,终端设备可以接收用户发起的第二触控操作,该第二触控操作用于在关联指令配置界面中选取所需要进行关联配置的目标指令。
在S1403中,响应于所述第二触控操作,识别所述第二触控操作在所述关联指令配置界面中对应的目标指令,建立所述第一触控操作与所述目标指令之间的关联关系。
在本实施例中,终端设备可以根据第二触控操作所选择目标指令,作为所需要与第一触控操作建立关联关系的控制指令,因此,会建立第一触控操作与目标指令之间的关联关系。
在本申请实施例中,在没有检测到与第一触控操作关联的控制指令时,可以进入关联指令配置界面,以创建与第一触控操作与目标指令之间的关联关系,无需用户手动进入对应的设置界面,提高了设置操作的准确性。
在S403中,基于所述控制指令包含的设备标识确定目标设备,并向所述目标设备发送所述控制指令。
在本实施例中,终端设备在确定了控制指令后,可以从控制指令中提取得到关于所需控制的目标设备的设备标识,并根据该设备标识确定目标设备。在一种可能的实现方式中,终端设备记录有设备标识索引表,在确定了控制指令内包含的设备标识后,可以通过查询上述设备标识索引表确定其对应的目标设备。
在本实施例中,终端设备可以将生成的控制指令发送给目标设备,以实现对目标设备的控制。在一种可能的实现方式中,终端设备可以通过内置的红外发射模块,对控制指令进行红外编码得到红外信号,并通过红外发射模块将红外信号发送给目标设备,以实现对目标设备的控制。
在一种可能的实现方式中,不同的目标设备对应不同的编码规则,终端设备可以根据设备标识获取与目标设备关联的编码规则,并查询该编码规则对应的控制指令的红外编码,并生成与编码规则相匹配的红外编码,将生成的红外编码通过红外发射模块发送给目标设备。
在一种可能的实现方式中,终端设备还可以对控制指令是否成功发送给目标设备进行结果检测,若该控制指令成功发送给目标设备,则目标设备的设备状态会与控制指令对应的设备状态相一致;反之,若该控制指令并非发送成功,则目标设备会维持原有的设备状态,即目标设备的设备状态会与控制指令对应的设备状态不一致。在该情况下,终端设备可以在预设的响应时间后的任一时刻,获取目标设备的设备状态,并将该设备状态与控制指令的目标状态进行匹配,若匹配成功,则识别控制指令已成功发送给目标设备;反之,若匹配失败,则识别控制指令未成功发送给目标设备,则重新生成上述控制指令,再次向目标设备发送控制指令。可选地,若终端设备是通过红外发射模块发送控制指令,则可以调整红外发射模块的发射角度,例如根据目标设备与终端设备之间的相对位置,确定发射角度;将控制指令基于发射角度重新发送给目标设备。终端设备可以配置有重发阈值,若检测到重新发送控制指令的次数大于上述的重发阈值,则输出异常信息,以通知用户存在异常情况。该控制指令无法送达存在多种原因,可能是由于目标设备的指令编码规则更新,或者目标设备的指令接收端口异常,也有可能是终端设备的指令发送端口异常,无法将控制指令发送给目标设备,因此,可以生成异常信息,以提示用户对异常情况进行处理。
作为本申请的另一实施例,不同的目标设备对应不同的控制指令发送方式,在该情况下,终端设备可以确定目标设备后,需要确定目标设备对应的发送方式,具体实现过程如图15所示,图15示出了本申请一实施例提供的控制指令的生成方法中S403的具体实现流程图。参见图15所示,相对于图4,本实施例中的S403具体包括S4031~S4032,具体描述如下:
在S4031中,接入所述目标设备关联的无线网络。
在本实施例中,终端设备可以存储有各个已登记设备的指令发送方式,例如,通过红外方式进行发送、通过蓝牙网络方式进行发送,或通过无线局域网的方式进行发送等。不同的发送模式需要调用的通信模块不同,因此,终端设备可以根据目标设备的设备标识,查询对应的指令发送方式,并基于指令发送方式确定目标设备关联的无线网络。
举例性地,若目标设备配置有WIFI通信模块,并接入至无线局域网,并且可以WIFI通信模块接收控制指令,则将无线局域网识别为目标设备关联的无线网络;若目标设备配置有蓝牙通信模块,并发射有蓝牙无线网络,则将蓝牙无线网络识别为目标设备关联的无线网络;若目标设备通过通信接口接入了广域网,并且可以通过广域网接收控制指令,则将广域网识别为目标设备关联的无线网络。
在本实施例中,终端设备可以通过与目标设备关联的无线网络对应的通信模块,接入到上述关联的无线网络。
在S4032中,通过所述无线网络将所述控制指令发送给所述目标设备。
在本实施例中,终端设备在接入了无线网络后,可以通过无线网络将控制指令发送给目标是被饿,以对目标设备进行控制。
在一种可能的实现方式中,若目标设备关联有多个无线网络,则可以为不同的无线网络配置对应的优先级,将优先级最高的无线网络作为首选网络,通过接入首选网络将控制指令发送给目标设备。
在本申请实施例中,通过识别目标设备的无线网络,并通过对应的方式将控制指令发送给目标设备,提高了目标设备发送的准确性。
以上可以看出,本申请实施例提供的一种控制指令的生成方法可以在任一一个界面中检测到指关节类型的触控操作时,可以生成该触控操作关联的控制指令,并向该控制指令对应的目标设备发送生成的控制指令,实现了对目标设备进行快速控制的目的。与现有的设备控制技术相比,无需启动指定的应用程序,而是可以在任一界面通过指关节进行触控操作,则生成触控操作对应的控制指令,减少了用户开启指定的应用程序的步骤,提高了设备控制的便捷性,从而提高了控制效率。
应理解,上述实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请实施例的实施过程构成任何限定。
实施例二:
对应于上文实施例所述的控制指令的生成方法,图16示出了本申请实施例提供的控制指令的生成装置的结构框图,为了便于说明,仅示出了与本申请实施例相关的部分。
参照图16,该控制指令的生成装置包括:
触摸物类型识别单元161,用于响应于用户在触控式显示屏上的第一触控操作,识别所述第一触控操作对应的触摸物类型;
控制指令确定单元162,用于若所述触摸物类型为指关节类型,则确定所述第一触控操作关联的控制指令;
控制指令发送单元163,用于基于所述控制指令包含的设备标识确定目标设备,并向所述目标设备发送所述控制指令。
可选地,所述控制指令确定单元162,包括:
匹配度确定单元,用于确定所述第一触控操作与预存的标准操作之间的匹配度;
匹配度比对单元,用于选取所述匹配度最高的所述标准操作对应的控制指令,作为所述第一触控操作的控制指令。
可选地,所述控制指令确定单元162包括:
设备位姿获取单元,用于获取检测到所述第一触控操作时刻的设备位姿;
候选设备确定单元,用于基于所述设备位姿确定有效投射区域,并将所述有效投射区域在预设的设备布放图上覆盖的已登记设备识别为候选设备;
关联度计算单元,用于计算各个所述候选设备与所述设备位姿之间的关联度;
关联度比对单元,用于选取所述关联度最高的所述候选设备作为所述目标设备,并将所述目标设备的所述设备标识添加到所述控制指令。
可选地,所述关联度计算单元包括:
位姿关联因子确定单元,用于基于所述候选设备的放置位姿以及所述设备位姿,得到位姿关联因子;
偏移关联因子确定单元,用于根据所述设备位姿与所述放置位姿之间的连线与所述有效投射区域的中心轴线之间的偏差角,得到偏移关联因子;
关联因子转换单元,用于基于所述位姿关联因子以及所述偏移关联因子,计算所述候选设备对应的所述关联度。
可选地,所述触摸物类型识别单元161包括:
位置信息获取单元,用于若在任一界面检测到第一触控操作,则获取检测到所述第一触控操作时刻的位置信息;
位置信息比对单元,用于若所述位置信息在预设的有效控制场景内,则执行识别所述第一触控操作对应的触摸物类型的操作。
可选地,所述控制指令确定单元162包括:
若未识别得到与所述第一触控操作关联的所述控制指令,则进入关联指令配置界面;
获取在所述关联指令配置界面内检测到的第二触控操作;
响应于所述第二触控操作,识别所述第二触控操作在所述关联指令配置界面中对应的目标指令,建立所述第一触控操作与所述目标指令之间的关联关系。
可选地,所述控制指令发送单元163包括:
接入所述目标设备关联的无线网络;
通过所述无线网络将所述控制指令发送给所述目标设备。
可选地,所述无线网络包括:无线局域网、广域网以及基于蓝牙模块发射的网络。
因此,本申请实施例提供的控制指令的生成装置同样可以无需启动指定的应用程序,而是可以在任一界面通过指关节进行触控操作,则生成触控操作对应的控制指令,减少了用户开启指定的应用程序的步骤,提高了设备控制的便捷性,从而提高了控制效率。
图17为本申请一实施例提供的终端设备的结构示意图。如图17所示,该实施例的终端设备17包括:至少一个处理器170(图17中仅示出一个)处理器、存储器171以及存储在所述存储器171中并可在所述至少一个处理器170上运行的计算机程序172,所述处理器170执行所述计算机程序172时实现上述任意各个控制指令的生成方法实施例中的步骤。
所述终端设备17可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。该终端设备可包括,但不仅限于,处理器170、存储器171。本领域技术人员可以理解,图17仅仅是终端设备17的举例,并不构成对终端设备17的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如还可以包括输入输出设备、网络接入设备等。
所称处理器170可以是中央处理单元(Central Processing Unit,CPU),该处理器170还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field-Programmable GateArray,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
所述存储器171在一些实施例中可以是所述终端设备17的内部存储单元,例如终端设备17的硬盘或内存。所述存储器171在另一些实施例中也可以是所述**装置/终端设备17的外部存储设备,例如所述终端设备17上配备的插接式硬盘,智能存储卡(Smart MediaCard,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。进一步地,所述存储器171还可以既包括所述终端设备17的内部存储单元也包括外部存储设备。所述存储器171用于存储操作系统、应用程序、引导装载程序(BootLoader)、数据以及其他程序等,例如所述计算机程序的程序代码等。所述存储器171还可以用于暂时地存储已经输出或者将要输出的数据。
需要说明的是,上述装置/单元之间的信息交互、执行过程等内容,由于与本申请方法实施例基于同一构思,其具体功能及带来的技术效果,具体可参见方法实施例部分,此处不再赘述。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将所述装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
本申请实施例还提供了一种网络设备,该网络设备包括:至少一个处理器、存储器以及存储在所述存储器中并可在所述至少一个处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上述任意各个方法实施例中的步骤。
本申请实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现可实现上述各个方法实施例中的步骤。
本申请实施例提供了一种计算机程序产品,当计算机程序产品在移动终端上运行时,使得移动终端执行时实现可实现上述各个方法实施例中的步骤。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实现上述实施例方法中的全部或部分流程,可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质至少可以包括:能够将计算机程序代码携带到拍照装置/终端设备的任何实体或装置、记录介质、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,RandomAccess Memory)、电载波信号、电信信号以及软件分发介质。例如U盘、移动硬盘、磁碟或者光盘等。在某些司法管辖区,根据立法和专利实践,计算机可读介质不可以是电载波信号和电信信号。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
在本申请所提供的实施例中,应该理解到,所揭露的装置/网络设备和方法,可以通过其它的方式实现。例如,以上所描述的装置/网络设备实施例仅仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
以上所述实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围,均应包含在本申请的保护范围之内。
Claims (9)
1.一种控制指令的生成方法,其特征在于,包括:
响应于用户在触控式显示屏上的第一触控操作,识别所述第一触控操作对应的触摸物类型;
若所述触摸物类型为指关节类型,获取检测到所述第一触控操作时刻的设备位姿;
基于所述设备位姿确定有效投射区域,并将所述有效投射区域在预设的设备布放图上覆盖的已登记设备识别为候选设备;
基于所述候选设备的放置位姿以及所述设备位姿,得到位姿关联因子;
根据所述设备位姿与所述放置位姿之间的连线与所述有效投射区域的中心轴线之间的偏差角,得到偏移关联因子;
基于所述位姿关联因子以及所述偏移关联因子,计算所述候选设备对应的关联度;
选取所述关联度最高的所述候选设备作为目标设备,并将所述目标设备的设备标识添加到控制指令;
向所述目标设备发送所述控制指令。
2.根据权利要求1所述的生成方法,其特征在于,所述若所述触摸物类型为指关节类型,则确定所述第一触控操作关联的控制指令,包括:
确定所述第一触控操作与预存的标准操作之间的匹配度;
选取所述匹配度最高的所述标准操作对应的控制指令,作为所述第一触控操作的控制指令。
3.根据权利要求1所述的生成方法,其特征在于,所述识别所述第一触控操作对应的触摸物类型,包括:
获取检测到所述第一触控操作时刻的位置信息;
若所述位置信息在预设的有效控制场景内,则执行识别所述第一触控操作对应的触摸物类型的操作。
4.根据权利要求1-3任一项所述的生成方法,其特征在于,所述若所述触摸物类型为指关节类型,则确定所述第一触控操作关联的控制指令,包括:
若未识别得到与所述第一触控操作关联的所述控制指令,则进入关联指令配置界面;
获取在所述关联指令配置界面内检测到的第二触控操作;
响应于所述第二触控操作,识别所述第二触控操作在所述关联指令配置界面中对应的目标指令,建立所述第一触控操作与所述目标指令之间的关联关系。
5.根据权利要求1-3任一项所述的生成方法,其特征在于,所述向所述目标设备发送所述控制指令,包括:
接入所述目标设备关联的无线网络;
通过所述无线网络将所述控制指令发送给所述目标设备。
6.根据权利要求5所述的生成方法,其特征在于,所述无线网络包括:WIFI网络、通信网络、蓝牙网络或广域网。
7.一种控制指令的生成装置,其特征在于,包括:
触摸物类型识别单元,用于响应于用户在触控式显示屏上的第一触控操作,识别所述第一触控操作对应的触摸物类型;
控制指令确定单元,用于若所述触摸物类型为指关节类型,获取检测到所述第一触控操作时刻的设备位姿;基于所述设备位姿确定有效投射区域,并将所述有效投射区域在预设的设备布放图上覆盖的已登记设备识别为候选设备;基于所述候选设备的放置位姿以及所述设备位姿,得到位姿关联因子;根据所述设备位姿与所述放置位姿之间的连线与所述有效投射区域的中心轴线之间的偏差角,得到偏移关联因子;基于所述位姿关联因子以及所述偏移关联因子,计算所述候选设备对应的关联度;选取所述关联度最高的所述候选设备作为目标设备,并将所述目标设备的设备标识添加到控制指令;;
控制指令发送单元,用于向所述目标设备发送所述控制指令。
8.一种终端设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至6任一项所述的方法。
9.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至6任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010721153.0A CN113805487B (zh) | 2020-07-23 | 2020-07-23 | 控制指令的生成方法、装置、终端设备及可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010721153.0A CN113805487B (zh) | 2020-07-23 | 2020-07-23 | 控制指令的生成方法、装置、终端设备及可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113805487A CN113805487A (zh) | 2021-12-17 |
CN113805487B true CN113805487B (zh) | 2022-09-23 |
Family
ID=78943398
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010721153.0A Active CN113805487B (zh) | 2020-07-23 | 2020-07-23 | 控制指令的生成方法、装置、终端设备及可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113805487B (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114326507B (zh) * | 2021-12-29 | 2023-10-31 | 赛美特科技有限公司 | 机台控制方法、装置、电子设备及计算机可读存储介质 |
CN116027953A (zh) * | 2022-08-15 | 2023-04-28 | 荣耀终端有限公司 | 指关节触控操作的识别方法、电子设备及可读存储介质 |
CN116225274A (zh) * | 2023-04-28 | 2023-06-06 | 荣耀终端有限公司 | 触控操作的识别方法、装置、电子设备及存储介质 |
CN116434514B (zh) * | 2023-06-02 | 2023-09-01 | 永林电子股份有限公司 | 一种红外遥控方法以及红外遥控装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105608861A (zh) * | 2015-10-29 | 2016-05-25 | 小米科技有限责任公司 | 电子设备控制方法及装置 |
CN106415472A (zh) * | 2015-04-14 | 2017-02-15 | 华为技术有限公司 | 一种手势控制方法、装置、终端设备和存储介质 |
CN107003759A (zh) * | 2015-08-31 | 2017-08-01 | 华为技术有限公司 | 一种选择文本的方法 |
CN107466387A (zh) * | 2015-08-21 | 2017-12-12 | 华为技术有限公司 | 一种检测触摸方式的方法及装置 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10642483B2 (en) * | 2015-11-25 | 2020-05-05 | Huawei Technologies Co., Ltd. | Quick screen splitting method, apparatus, and electronic device, display UI, and storage medium |
-
2020
- 2020-07-23 CN CN202010721153.0A patent/CN113805487B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106415472A (zh) * | 2015-04-14 | 2017-02-15 | 华为技术有限公司 | 一种手势控制方法、装置、终端设备和存储介质 |
CN107466387A (zh) * | 2015-08-21 | 2017-12-12 | 华为技术有限公司 | 一种检测触摸方式的方法及装置 |
CN107003759A (zh) * | 2015-08-31 | 2017-08-01 | 华为技术有限公司 | 一种选择文本的方法 |
CN105608861A (zh) * | 2015-10-29 | 2016-05-25 | 小米科技有限责任公司 | 电子设备控制方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN113805487A (zh) | 2021-12-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113645351B (zh) | 应用界面交互方法、电子设备和计算机可读存储介质 | |
CN113805487B (zh) | 控制指令的生成方法、装置、终端设备及可读存储介质 | |
US11994918B2 (en) | Electronic device control method and electronic device | |
CN112751954B (zh) | 一种操作提示的方法和电子设备 | |
CN110633043A (zh) | 一种分屏处理方法及终端设备 | |
WO2020024108A1 (zh) | 一种应用图标的显示方法及终端 | |
WO2022007707A1 (zh) | 家居设备控制方法、终端设备及计算机可读存储介质 | |
CN113641271A (zh) | 应用窗口的管理方法、终端设备及计算机可读存储介质 | |
CN114125130A (zh) | 控制通信服务状态的方法、终端设备和可读存储介质 | |
CN113010076A (zh) | 一种显示要素的显示方法和电子设备 | |
CN114995715B (zh) | 悬浮球的控制方法和相关装置 | |
CN111431968B (zh) | 服务元素的跨设备分配方法、终端设备及存储介质 | |
CN113438366B (zh) | 信息通知的交互方法、电子设备和存储介质 | |
CN113971271A (zh) | 一种指纹解锁的方法、装置、终端以及存储介质 | |
CN112740148A (zh) | 一种向输入框中输入信息的方法及电子设备 | |
CN114201738A (zh) | 解锁方法及电子设备 | |
CN113391775A (zh) | 一种人机交互方法及设备 | |
US20220317841A1 (en) | Screenshot Method and Related Device | |
CN114764300B (zh) | 一种窗口页面的交互方法、装置、电子设备以及可读存储介质 | |
CN116048236B (zh) | 通信方法及相关装置 | |
CN114006976B (zh) | 一种界面显示方法及终端设备 | |
WO2023124829A1 (zh) | 语音协同输入方法、电子设备及计算机可读存储介质 | |
CN118131891A (zh) | 一种人机交互的方法和装置 | |
CN115906033A (zh) | 声纹认证应答方法、系统及电子设备 | |
CN114490006A (zh) | 任务确定方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |