CN116088741A - 一种电子设备性能优化方法及装置 - Google Patents
一种电子设备性能优化方法及装置 Download PDFInfo
- Publication number
- CN116088741A CN116088741A CN202111309724.0A CN202111309724A CN116088741A CN 116088741 A CN116088741 A CN 116088741A CN 202111309724 A CN202111309724 A CN 202111309724A CN 116088741 A CN116088741 A CN 116088741A
- Authority
- CN
- China
- Prior art keywords
- electronic device
- voice assistant
- key
- related process
- touch input
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/16—Sound input; Sound output
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/16—Sound input; Sound output
- G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/451—Execution arrangements for user interfaces
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D30/00—Reducing energy consumption in communication networks
- Y02D30/70—Reducing energy consumption in communication networks in wireless communication networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Multimedia (AREA)
- Telephone Function (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本申请提供了一种电子设备性能优化方法及装置。本申请提供的电子设备性能优方法包括:电子设备中运行有语音助手相关进程,电子设备将麦克风实时采集的音频流送至语音助手相关进程进行处理;在电子设备接收到按键或触摸输入的情况下,电子设备暂停将音频流送至所述语音助手相关进程,和/或,语音助手相关进程暂停处理音频流。从而,可以保证在用户通过触摸或按键等非语音交互方式与电子设备进行交互时,电子设备的处理器不会因为语音助手相关进程占用了过多的计算资源而无法为其他进程提供足够的运算资源,有效避免电子设备卡顿,提升用户体验。
Description
技术领域
本申请属于电子设备技术领域,尤其涉及一种电子设备性能优化方法及装置。
背景技术
随着人工智能技术的发展,目前很多电子设备都支持语音唤醒等功能,用户可以通过唤醒词唤醒电子设备的语音助手,与之进行语音交互。为了能够及时响应用户随时可能发出的唤醒词,唤醒词检测、降噪和回声消除等进程需要一直在电子设备中运行,占用电子设备的处理器资源,使得电子设备处理其他进程可利用的处理器资源非常有限,有时甚至会影响用户使用电子设备的体验。
发明内容
有鉴于此,本申请实施例提供了一种电子设备性能优化方法及装置,可以保证在用户通过触摸或按键等非语音交互方式与电子设备进行交互时,使得电子设备的处理器不会因为语音助手相关进程占用了过多的计算资源而无法为其他进程提供足够的运算资源,有效避免电子设备卡顿,提升用户体验。
本申请实施例的第一方面提供了一种电子设备性能优化方法,该方法包括以下步骤:首先,电子设备中运行有语音助手相关进程,电子设备将麦克风实时采集的音频流送至语音助手相关进程进行处理;在电子设备接收到按键或触摸输入的情况下,电子设备暂停将音频流送至语音助手相关进程,和/或,语音助手相关进程暂停处理接收到的音频流。
从而,本申请实施例第一方面提供的方法中,在用户通过按键或触摸方式与电子设备交互的情况下,语音助手相关进程暂停获取或暂停处理音频流,因此可以降低语音助手相关进程对处理器运算资源的占用率,使得处理器能够为其他进程(例如GUI相关进程)提供足够的运算资源,保证其他进程的流畅运行,避免用户体验上的卡顿感。
根据第一方面,在一些实施例中,在电子设备暂停将音频流送至语音助手相关进程,和/或,语音助手相关进程暂停处理音频流之后,所述方法还包括:在电子设备判断已超过第一时长未接收到按键或触摸输入的情况下,电子设备恢复为将麦克风实时采集的音频流送至语音助手相关进程进行处理。此时,可以倾向性认为用户不再通过按键或触摸等非语音交互方式与电子设备进行交互了,因此处理器的计算资源又可以充分提供给语音助手相关进程使用了,语音助手相关进程能够继续处理输入的音频流,使得用户可以与电子设备通过语音进行交互。
根据第一方面,在一些实施例中,第一时长是预先设定的时长,或者,第一时长是根据用户身份、用户历史使用习惯、电子设备当前前台运行的应用程序、电子设备当前展示的用户界面中的一种或多种因素确定的。当第一时长是预先设定的时长时,该第一时长也可以是开发者根据统计数据设定的,例如开发者根据大部分情况下连续操作的两次输入一般小于500毫秒,将第一时长设定为500毫秒,从而若电子设备超过500毫秒未接收到按键或触摸输入,则电子设备可以认为用户此次的输入操作已经结束。当然,第一时长也可以是电子设备根据以上所述的一种或多种其他因素确定的,使得第一时长的设定能够更加符合当前应用场景,避免频繁切换是否将音频流送至语音助手相关进程,或者语音助手频繁切换是否处理接收到的音频流。
根据第一方面,在一些实施例中,所述在电子设备接收到按键或触摸输入的情况下,电子设备暂停将音频流送至语音助手相关进程,和/或,语音助手相关进程暂停处理音频流,具体包括:电子设备判断接收到的按键或触摸输入是否为连续的按键或触摸输入;在电子设备接收到连续的按键或触摸输入的情况下,电子设备暂停将音频流送至语音助手相关进程,和/或,语音助手相关进程暂停处理音频流。在该实施例中,电子设备至少需要接收到两次按键或触摸输入后才可以判断该按键或触摸输入是否为连续的,可以避免偶发性接收到一次按键或触摸输入的情况下电子设备就暂停将音频流送至语音助手,相关进程,或语音助手相关进程暂停处理音频流,避免来回切换。
根据第一方面,在一些实施例中,电子设备判断接收到的按键或触摸输入是否为连续的按键或触摸输入,具体包括:电子设备通过判断按键或触摸输入的间隔时长和/或频率,来判断接收到的按键或触摸输入是否为连续的按键或触摸输入。
根据第一方面,在一些实施例中,所述方法还包括:在电子设备的前台显示有语音助手交互界面,或者,电子设备处于灭屏状态的情况下,电子设备接收到按键或触摸输入,电子设备仍将麦克风实时采集的音频流送至语音助手相关进程进行处理。在该实施例所述的情况下,用户仍旧有较高的概率通过语音的方式与电子设备进行交互,从而,在用户有较高的可能性与电子设备进行语音交互的情况下,电子设备不会暂停将音频流送至语音助手相关进程或者语音助手相关进程不会暂停处理音频流,保证这种情况下电子设备的语音助手能够正常与用户进行交互。
根据第一方面,在一些实施例中,所述的按键或触摸输入来自于电子设备的按键或触摸屏,或者,来自于与电子设备外接的输入设备。其中,电子设备的按键可以是电子设备上的实体按键,也可以是电子设备上的虚拟按键,如电子设备显示界面中的按键;外接的输入设备可以是例如遥控器、键盘、鼠标、触控板、游戏手柄等。
根据第一方面,在一些实施例中,语音助手相关进程对音频流进行的处理包括以下项中的一种或多种:降噪、回声消除、唤醒词识别。
本申请实施例的第二方面提供了一种电子设备,该电子设备包括处理器、存储器,存储器被配置为存储有计算机指令,当计算机指令由处理器执行时,电子设备执行如上述第一方面所述的任一种方法。
本申请实施例的第三方面提供一种计算机可读存储介质,该计算机可读存储介质被配置为存储有计算机程序,计算机程序被处理器执行时实现如上述第一方面所述的任一种方法。
本申请实施例第四方面提供一种计算机程序产品,该计算机程序产品被配置为在电子设备上运行时,使得电子设备执行如上述第一方面所述的任一种方法。
本申请实施例第五方面提供一种芯片系统,该芯片系统包括存储器和处理器,处理器被配置为执行存储器中存储的计算机程序,以实现如上述第一方面所述的任一种方法。
附图说明
图1是本申请一实施例提供的一种用户通过遥控器操作智能电视的场景示意图;
图2是本申请一实施例提供的一种电子设备的结构示意图;
图3是本申请一实施例提供的一种电子设备的软件结构框图;
图4是本申请一实施例提供的一种电子设备性能优化方法流程图;
图5是本申请一实施例提供的另一种电子设备性能优化方法流程图;
图6是本申请一实施例提供的一种电子设备的功能模块示意图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本申请实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中,省略对众所周知的系统、装置、电路以及方法的详细说明,以免不必要的细节妨碍本申请的描述。
应当理解,当在本申请说明书和所附权利要求书中使用时,术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
如在本申请说明书和所附权利要求书中所使用的那样,术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地,短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
另外,在本申请说明书和所附权利要求书的描述中,术语“第一”、“第二”、“第三”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
在本申请说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本申请的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此,在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例,而是意味着“一个或多个但不是所有的实施例”,除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”,除非是以其他方式另外特别强调。
随着人工智能技术的发展,目前很多电子设备都支持语音唤醒等功能,用户可以通过唤醒词唤醒电子设备的语音助手,与之进行语音交互。语音交互可以给用户提供极大的便利性,可以解放用户的双手。
例如,手机中安装有语音助手,用户可以通过说出智能语音助手的唤醒词“小艺小艺”唤醒手机的语音助手,用户可以通过说出“小艺小艺,帮我给Sam发一封邮件”来实现语音控制手机执行发邮件功能;又例如,智能电视中安装有语音助手,用户可以通过说出“小艺小艺,帮我调到新闻频道”来实现语音换台。
为了保证电子设备随时都能够响应于唤醒词来与用户进行语音交互,电子设备的后台需要持续运行有语音交互相关的进程,例如唤醒词检测、降噪、回声消除等进程。其中,唤醒词检测进程用于识别电子设备的麦克风采集的音频流中是否出现了预设的唤醒词;降噪进程用于对电子设备的麦克风采集的音频流进行降噪处理,使得人声更容易被识别出来;回声消除进程用于消除电子设备的麦克风采集的音频流中由电子设备自己的扬声器发出的那部分声音,使得电子设备在自身正发出声音的情况下,语音助手也能够正常工作。这些语音交互进程会占用电子设备的处理器资源。
然而,实际的产品功能使用情况市场调研表明,仅有少量用户会较为频繁地使用电子设备提供的语音助手、进行语音交互,大部分用户仍旧习惯于使用传统的交互方式与电子设备进行交互,例如通过触摸屏进行触摸操作来操作手机、通过遥控器按键操作来切换智能电视的频道。
另一方面,电子设备也需要运行其他的必要进程,包括但不限于图形用户界面(graphical user interface,GUI)相关的进程,GUI进程用于渲染图形用户界面,使得电子设备的显示屏能够呈现出用户可操作的GUI,并能够响应于用户的操作改变显示的内容。这些电子设备中的其他进程也需要处理器运算资源的支撑。
语音助手进程和其他必要进程的持续运行,使得一些电子设备的处理器占用率始终较高,影响用户使用电子设备时的体验。
典型地,例如对于智能电视,智能电视本身的处理器运算资源总量就比较有限,在同时运行语音助手相关进程和GUI相关进程的情况下,处理器的占用率会非常高。处理器占用率较高时,通常会影响进程的流畅运转。这种情况下如果用户操作智能电视,智能电视会出现用户可感知的、较为明显的卡顿现象。
例如,如图1所示,假设用户是通过遥控器1003操作智能电视1000的。
在第一时刻,智能电视1000显示用户界面1001,用户界面1001可以为智能电视1000的应用程序(application,APP)选择界面,可以显示有一个或多个APP的图标控件,例如APP1至APP4。假设用户界面1001中,APP1的图标处于焦点选中状态,此时智能电视1000如果接收到遥控器1003发送的确认指令,智能电视1000会打开APP1、显示APP1的界面。其中,“焦点”通常在基于遥控操作的交互方式中使用,用于使得用户知道当前如果点击按键会作用到哪个显示界面元素(例如图标、控件、按钮、输入框、单选框、复选框等)上。处于焦点选中状态的显示界面元素与处于焦点未选中状态的显示界面元素通常具有不同的显示效果,例如不同的颜色、大小等。例如,图1所示的用户界面1001中,处于焦点选中状态的APP1的图标比处于焦点未选中状态的APP2、APP3、APP4的图标,周围多了一个圆角矩形框。
在第二时刻,用户按下遥控器1003的“右”方向按键1004。从而遥控器1003响应于“右”方向按键1004的按压,向智能电视1000发送“右”指令。相应地,智能电视1000接收到“右”指令,并分析应响应于“右”指令作出哪些改变。
在第三时刻,智能电视1000显示用户界面1002,焦点从APP1的图标转移到位于APP1的图标右侧的APP2的图标上,APP1的图标由焦点选中状态变为焦点未选中状态,APP2的图标由焦点未选中状态变为焦点选中状态。其中,用户界面的变化是通过GUI进程对GUI界面的渲染实现的。
如前所述,如果智能电视1000此时由于同时运行语音助手相关进程和其他必要进程(如GUI相关进程)而导致处理器占用率较高,则很可能导致正在运行的GUI进程无法流畅运转,渲染速度变慢,焦点转移的过程产生用户可感知的明显卡顿。也就是说,用户按下“右”方向键1004的第二时刻,到焦点发声转移的第三时刻之间时延较长。从用户体验上来说,用户会觉得智能电视1000反应慢,不能够及时响应用户对遥控器1003的按键操作,十分影响用户体验,导致用户投诉。又如前所述,仅有少量用户会频繁使用语音交互功能,大部分用户仍旧习惯于使用传统的交互方式,这就使得这种卡顿的发生对大部分用户的体验产生严重影响。
在一些实现方式中,可以通过在确定电子设备满足预设条件时关闭语音助手相关进程的方式,来实现降低电子设备功耗的效果。预设条件可以包括电子设备的屏幕处于灭屏状态的时间超过预设时间长度、电子设备未检测到用户操作的时间超过预设时间长度等。然而,这些实现方式是为了解决在用户不需要与电子设备进行交互时仍旧运行语音助手进程导致的功耗较高的问题,并不能够解决语音进程的运行导致的影响电子设备其他功能正常使用的问题。并且,这些实现方式还会导致灭屏状态/长时间未操作的电子设备无法响应于用户的唤醒词与用户进行语音交互的新的问题。
有鉴于此,本申请实施例提供一种电子设备性能优化方法,当用户通过非语音交互的方式控制电子设备时,不将麦克风采集的音频流送至语音助手相关进程,语音助手相关进程没有了输入数据,就不会产生大量计算量,从而降低语音助手相关进程对处理器运算资源的占用率,使处理器有足够的运算资源用于保证用户采用的非语音交互控制方式涉及的进程能够流畅运转,避免卡顿;当用户不再通过非语音交互的方式控制电子设备的时间超过一定时长后,重新将麦克风采集的音频流送至语音助手相关进程,保证电子设备仍能够与用户进行语音交互。
图2示例性展示了本申请实施例提供的一种电子设备100的结构示意图。
电子设备100可以包括手机、可折叠电子设备、平板电脑、桌面型计算机、膝上型计算机、手持计算机、笔记本电脑、超级移动个人计算机(ultra-mobile personal computer,UMPC)、上网本、蜂窝电话、个人数字助理(personal digital assistant,PDA)、增强现实(augmented reality,AR)设备、虚拟现实(virtual reality,VR)设备、人工智能(artificial intelligence,AI)设备、可穿戴式设备、车载设备、智能家居设备、或智慧城市设备中的至少一种。其中,智能家居设备可以包括但不限于以下举例:智能大屏、智能电视、智能音箱、扫地机、智能灯、智能马桶。本申请实施例对该电子设备100的具体类型不作特殊限制。
电子设备100可以包括处理器110,外部存储器接口120,内部存储器121,通用串行总线(universal serial bus,USB)接头130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,传感器模块180,按键190,马达191,指示器192,摄像头193,显示屏194,以及用户标识模块(subscriber identification module,SIM)卡接口195等。其中传感器模块180可以包括压力传感器180A,陀螺仪传感器180B,气压传感器180C,磁传感器180D,加速度传感器180E,距离传感器180F,接近光传感器180G,指纹传感器180H,温度传感器180J,触摸传感器180K,环境光传感器180L,骨传导传感器180M等。
可以理解的是,本申请实施例示意的结构并不构成对电子设备100的具体限定。在本申请另一些实施例中,电子设备100可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器(application processor,AP),调制解调处理器,图形处理器(graphics processingunit,GPU),图像信号处理器(image signal processor,ISP),控制器,视频编解码器,数字信号处理器(digital signal processor,DSP),基带处理器,和/或神经网络处理器(neural-network processing unit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
处理器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
在本申请一些实施例中,在处理器110占用率(或者说处理器运算资源占用率)比较低的情况下,正在运行的进程能够流畅运行;在处理器110占用率比较高的情况下,例如80%、90%以上,正在运行的进程的运行流畅度会受到一定程度的影响。
处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器可以为高速缓冲存储器。该存储器可以保存处理器110用过或使用频率较高的指令或数据。如果处理器110需要使用该指令或数据,可从该存储器中直接调用。避免了重复存取,减少了处理器110的等待时间,因而提高了系统的效率。
在一些实施例中,处理器110可以包括一个或多个接口。接口可以包括集成电路(inter-integrated circuit,I2C)接口,集成电路内置音频(inter-integrated circuitsound,I2S)接口,脉冲编码调制(pulse code modulation,PCM)接口,通用异步收发传输器(universal asynchronous receiver/transmitter,UART)接口,移动产业处理器接口(mobile industry processor interface,MIPI),通用输入输出(general-purposeinput/output,GPIO)接口,用户标识模块(subscriber identity module,SIM)接口,和/或通用串行总线(universal serial bus,USB)接口等。处理器110可以通过以上至少一种接口连接触摸传感器、音频模块、无线通信模块、显示器、摄像头等模块。
可以理解的是,本申请实施例示意的各模块间的接口连接关系,只是示意性说明,并不构成对电子设备100的结构限定。在本申请另一些实施例中,电子设备100也可以采用上述实施例中不同的接口连接方式,或多种接口连接方式的组合。
USB接头130是一种符合USB标准规范的接口,可以用于连接电子设备100和外围设备,具体可以是Mini USB接头,Micro USB接头,USB Type C接头等。USB接头130可以用于连接充电器,实现充电器为该电子设备100充电,也可以用于连接其他电子设备,实现电子设备100与其他电子设备之间传输数据。也可以用于连接耳机,通过耳机输出电子设备中存储的音频。该接头还可以用于连接其他电子设备,例如VR设备等。在一些实施例中,通用串行总线的标准规范可以为USB1.x、USB2.0、USB3.x和USB4。
充电管理模块140用于接收充电器的充电输入。其中,充电器可以是无线充电器,也可以是有线充电器。在一些有线充电的实施例中,充电管理模块140可以通过USB接口130接收有线充电器的充电输入。在一些无线充电的实施例中,充电管理模块140可以通过电子设备100的无线充电线圈接收无线充电输入。充电管理模块140为电池142充电的同时,还可以通过电源管理模块141为电子设备供电。
电源管理模块141用于连接电池142,充电管理模块140与处理器110。电源管理模块141接收电池142和/或充电管理模块140的输入,为处理器110,内部存储器121,显示屏194,摄像头193,和无线通信模块160等供电。电源管理模块141还可以用于监测电池容量,电池循环次数,电池健康状态(漏电,阻抗)等参数。在其他一些实施例中,电源管理模块141也可以设置于处理器110中。在另一些实施例中,电源管理模块141和充电管理模块140也可以设置于同一个器件中。
电子设备100的无线通信功能可以通过天线1,天线2,移动通信模块150,无线通信模块160,调制解调处理器以及基带处理器等实现。
天线1和天线2用于发射和接收电磁波信号。电子设备100中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线1复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。
移动通信模块150可以提供应用在电子设备100上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块150可以包括至少一个滤波器,开关,功率放大器,低噪声放大器(low noise amplifier,LNA)等。移动通信模块150可以由天线1接收电磁波,并对接收的电磁波进行滤波,放大等处理,传送至调制解调处理器进行解调。移动通信模块150还可以对经调制解调处理器调制后的信号放大,经天线1转为电磁波辐射出去。在一些实施例中,移动通信模块150的至少部分功能模块可以被设置于处理器110中。在一些实施例中,移动通信模块150的至少部分功能模块可以与处理器110的至少部分模块被设置在同一个器件中。
调制解调处理器可以包括调制器和解调器。其中,调制器用于将待发送的低频基带信号调制成中高频信号。解调器用于将接收的电磁波信号解调为低频基带信号。随后解调器将解调得到的低频基带信号传送至基带处理器处理。低频基带信号经基带处理器处理后,被传递给应用处理器。应用处理器通过音频设备(不限于扬声器170A,受话器170B等)输出声音信号,或通过显示屏194显示图像或视频。在一些实施例中,调制解调处理器可以是独立的器件。在另一些实施例中,调制解调处理器可以独立于处理器110,与移动通信模块150或其他功能模块设置在同一个器件中。
无线通信模块160可以提供应用在电子设备100上的包括无线局域网(wirelesslocal area networks,WLAN)(如无线保真(wireless fidelity,Wi-Fi)网络),蓝牙(bluetooth,BT),蓝牙低功耗(bluetooth low energy,BLE),超宽带(ultra wide band,UWB),全球导航卫星系统(global navigation satellite system,GNSS),调频(frequencymodulation,FM),近距离无线通信技术(near field communication,NFC),红外技术(infrared,IR)等无线通信的解决方案。无线通信模块160可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块160经由天线2接收电磁波,将电磁波信号调频以及滤波处理,将处理后的信号发送到处理器110。无线通信模块160还可以从处理器110接收待发送的信号,对其进行调频,放大,经天线2转为电磁波辐射出去。
在一些实施例中,电子设备100的天线1和移动通信模块150耦合,天线2和无线通信模块160耦合,使得电子设备100可以通过无线通信技术与网络和其他电子设备通信。该无线通信技术可以包括全球移动通讯系统(global system for mobile communications,GSM),通用分组无线服务(general packet radio service,GPRS),码分多址接入(codedivision multiple access,CDMA),宽带码分多址(wideband code division multipleaccess,WCDMA),时分码分多址(time-division code division multiple access,TD-SCDMA),长期演进(long term evolution,LTE),BT,GNSS,WLAN,NFC,FM,和/或IR技术等。该GNSS可以包括全球卫星定位系统(global positioning system,GPS),全球导航卫星系统(global navigation satellite system,GLONASS),北斗卫星导航系统(beidounavigation satellite system,BDS),准天顶卫星系统(quasi-zenith satellitesystem,QZSS)和/或星基增强系统(satellite based augmentation systems,SBAS)。
电子设备100可以通过GPU,显示屏194,以及应用处理器等实现显示功能。GPU为图像处理的微处理器,连接显示屏194和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。当然,处理器也可不包括GPU,使用非GPU处理单元来实现上述功能。
在本申请一些实施例中,当处理器110占用率较高时,会一定程度上影响处理器110执行程序指令以生成或改变显示信息这一过程的流畅程度,使得显示画面的变更产生卡顿。
显示屏194用于显示图像,视频等。显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display,LCD),有机发光二极管(organic light-emittingdiode,OLED),有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrixorganic light emitting diode的,AMOLED),柔性发光二极管(flex light-emittingdiode,FLED),Miniled,MicroLed,Micro-oLed,量子点发光二极管(quantum dot lightemitting diodes,QLED)等。在一些实施例中,电子设备100可以包括1个或多个显示屏194。
电子设备100可以通过摄像模组193,ISP,视频编解码器,GPU,显示屏194以及应用处理器AP、神经网络处理器NPU等实现摄像功能。
摄像模组193可用于采集拍摄对象的彩色图像数据以及深度数据。ISP可用于处理摄像模组193采集的彩色图像数据。例如,拍照时,打开快门,光线通过镜头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将该电信号传递给ISP处理,转化为肉眼可见的图像。ISP还可以对图像的噪点,亮度,肤色进行算法优化。ISP还可以对拍摄场景的曝光,色温等参数优化。在一些实施例中,ISP可以设置在摄像模组193中。
在一些实施例中,摄像模组193可以由彩色摄像模组和3D感测模组组成。
在一些实施例中,彩色摄像模组的摄像头的感光元件可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB,YUV等格式的图像信号。
在一些实施例中,3D感测模组可以是(time of flight,TOF)3D感测模块或结构光(structured light)3D感测模块。其中,结构光3D感测是一种主动式深度感测技术,结构光3D感测模组的基本零组件可包括红外线(Infrared)发射器、IR相机模等。结构光3D感测模组的工作原理是先对被拍摄物体发射特定图案的光斑(pattern),再接收该物体表面上的光斑图案编码(light coding),进而比对与原始投射光斑的异同,并利用三角原理计算出物体的三维坐标。该三维坐标中就包括电子设备100距离被拍摄物体的距离。其中,TOF 3D感测可以是主动式深度感测技术,TOF 3D感测模组的基本组件可包括红外线(Infrared)发射器、IR相机模等。TOF 3D感测模组的工作原理是通过红外线折返的时间去计算TOF 3D感测模组跟被拍摄物体之间的距离(即深度),以得到3D景深图。
结构光3D感测模组还可应用于人脸识别、体感游戏机、工业用机器视觉检测等领域。TOF 3D感测模组还可应用于游戏机、增强现实(augmented reality,AR)/虚拟现实(virtual reality,VR)等领域。
在另一些实施例中,摄像模组193还可以由两个或更多个摄像头构成。这两个或更多个摄像头可包括彩色摄像头,彩色摄像头可用于采集被拍摄物体的彩色图像数据。这两个或更多个摄像头可采用立体视觉(stereo vision)技术来采集被拍摄物体的深度数据。立体视觉技术是基于人眼视差的原理,在自然光源下,透过两个或两个以上的摄像头从不同的角度对同一物体拍摄影像,再进行三角测量法等运算来得到电子设备100与被拍摄物之间的距离信息,即深度信息。
在一些实施例中,电子设备100可以包括1个或多个摄像模组193。具体的,电子设备100可以包括1个前置摄像模组193以及1个后置摄像模组193。其中,前置摄像模组193通常可用于采集面对显示屏194的拍摄者自己的彩色图像数据以及深度数据,后置摄像模组可用于采集拍摄者所面对的拍摄对象(如人物、风景等)的彩色图像数据以及深度数据。
在一些实施例中,处理器110中的CPU或GPU或NPU可以对摄像模组193所采集的彩色图像数据和深度数据进行处理。在一些实施例中,NPU可以通过骨骼点识别技术所基于的神经网络算法,例如卷积神经网络算法(CNN),来识别摄像模组193(具体是彩色摄像模组)所采集的彩色图像数据,以确定被拍摄人物的骨骼点。CPU或GPU也可来运行神经网络算法以实现根据彩色图像数据确定被拍摄人物的骨骼点。在一些实施例中,CPU或GPU或NPU还可用于根据摄像模组193(可以是3D感测模组)所采集的深度数据和已识别出的骨骼点来确认被拍摄人物的身材(如身体比例、骨骼点之间的身体部位的胖瘦情况),并可以进一步确定针对该被拍摄人物的身体美化参数,最终根据该身体美化参数对被拍摄人物的拍摄图像进行处理,以使得该拍摄图像中该被拍摄人物的体型被美化。后续实施例中会详细介绍如何基于摄像模组193所采集的彩色图像数据和深度数据对被拍摄人物的图像进行美体处理,这里先不赘述。
数字信号处理器用于处理数字信号,还可以处理其他数字信号。例如,当电子设备100在频点选择时,数字信号处理器用于对频点能量进行傅里叶变换等。
视频编解码器用于对数字视频压缩或解压缩。电子设备100可以支持一种或多种视频编解码器。这样,电子设备100可以播放或录制多种编码格式的视频,例如:动态图像专家组(moving picture experts group,MPEG)1,MPEG2,MPEG3,MPEG4等。
NPU为神经网络(neural-network,NN)计算处理器,通过借鉴生物神经网络结构,例如借鉴人脑神经元之间传递模式,对输入信息快速处理,还可以不断的自学习。通过NPU可以实现电子设备100的智能认知等应用,例如:图像识别,人脸识别,语音识别,文本理解等。
外部存储器接口120可以用于连接外部存储卡,例如Micro SD卡,实现扩展电子设备100的存储能力。外部存储卡通过外部存储器接口120与处理器110通信,实现数据存储功能。例如将音乐,视频等文件保存在外部存储卡中。或将音乐,视频等文件从电子设备传输至外部存储卡中。
内部存储器121可以用于存储计算机可执行程序代码,该可执行程序代码包括指令。内部存储器121可以包括存储程序区和存储数据区。其中,存储程序区可存储操作系统,至少一个功能所需的应用程序(比如声音播放功能,图像播放功能等)等。存储数据区可存储电子设备100使用过程中所创建的数据(比如音频数据,电话本等)等。此外,内部存储器121可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universal flash storage,UFS)等。处理器110通过运行存储在内部存储器121的指令,和/或存储在设置于处理器中的存储器的指令,执行电子设备100的各种功能方法或数据处理。
电子设备100可以通过音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,以及应用处理器等实现音频功能。例如音乐播放,录音等。
音频模块170用于将数字音频信息转换成模拟音频信号输出,也用于将模拟音频输入转换为数字音频信号。音频模块170还可以用于对音频信号编码和解码。在一些实施例中,音频模块170可以设置于处理器110中,或将音频模块170的部分功能模块设置于处理器110中。
扬声器170A,也称“喇叭”,用于将音频电信号转换为声音信号。电子设备100可以通过扬声器170A收听音乐,或输出免提通话的音频信号。
受话器170B,也称“听筒”,用于将音频电信号转换成声音信号。当电子设备100接听电话或语音信息时,可以通过将受话器170B靠近人耳接听语音。
麦克风170C,也称“话筒”,“传声器”,用于将声音信号转换为电信号。当拨打电话或发送语音信息时,用户可以通过人嘴靠近麦克风170C发声,将声音信号输入到麦克风170C。电子设备100可以设置至少一个麦克风170C。在另一些实施例中,电子设备100可以设置两个麦克风170C,除了采集声音信号,还可以实现降噪功能。在另一些实施例中,电子设备100还可以设置三个,四个或更多麦克风170C,实现采集声音信号,降噪,还可以识别声音来源,实现定向录音功能等。
在本申请一些实施例中,麦克风170C可将实时采集的音频流(或者说音频数据、音频信号)送至处理器110,处理器110可对音频流进行处理,判断其中是否包括人声或者是否包括唤醒词。其中,唤醒词可以是预先设置的用于唤醒电子设备100的语音助手的词语,例如“小艺小艺”。从而电子设备100可以实现与用户进行语音交互的功能。
耳机接口170D用于连接有线耳机。耳机接口170D可以是USB接口130,也可以是3.5mm的开放移动电子设备平台(open mobile terminal platform,OMTP)标准接口,美国蜂窝电信工业协会(cellular telecommunications industry association of the USA,CTIA)标准接口。
压力传感器180A用于感受压力信号,可以将压力信号转换成电信号。在一些实施例中,压力传感器180A可以设置于显示屏194。压力传感器180A的种类很多,如电阻式压力传感器,电感式压力传感器,电容式压力传感器等。电容式压力传感器可以是包括至少两个具有导电材料的平行板。当有力作用于压力传感器180A,电极之间的电容改变。电子设备100根据电容的变化确定压力的强度。当有触摸操作作用于显示屏194,电子设备100根据压力传感器180A检测该触摸操作强度。电子设备100也可以根据压力传感器180A的检测信号计算触摸的位置。在一些实施例中,作用于相同触摸位置,但不同触摸操作强度的触摸操作,可以对应不同的操作指令。例如:当有触摸操作强度小于第一压力阈值的触摸操作作用于短消息应用图标时,执行查看短消息的指令。当有触摸操作强度大于或等于第一压力阈值的触摸操作作用于短消息应用图标时,执行新建短消息的指令。
陀螺仪传感器180B可以用于确定电子设备100的运动姿态。在一些实施例中,可以通过陀螺仪传感器180B确定电子设备100围绕三个轴(即,x,y和z轴)的角速度。陀螺仪传感器180B可以用于拍摄防抖。示例性的,当按下快门,陀螺仪传感器180B检测电子设备100抖动的角度,根据角度计算出镜头模组需要补偿的距离,控制镜头反向运动抵消电子设备100的抖动,实现防抖。陀螺仪传感器180B还可以用于导航,体感游戏场景。
气压传感器180C用于测量气压。在一些实施例中,电子设备100根据气压传感器180C测得的气压值计算海拔高度,辅助定位和导航。
磁传感器180D包括霍尔传感器。电子设备100可以利用磁传感器180D检测翻盖皮套的开合。当电子设备为可折叠电子设备,磁传感器180D可以用于检测电子设备的折叠或展开,或折叠角度。在一些实施例中,当电子设备100是翻盖机时,电子设备100可以根据磁传感器180D检测翻盖的开合。进而根据检测到的皮套的开合状态或翻盖的开合状态,设置翻盖自动解锁等特性。
加速度传感器180E可检测电子设备100在各个方向上(一般为三轴)加速度的大小。当电子设备100静止时可检测出重力的大小及方向。还可以用于识别电子设备姿态,应用于横竖屏切换,计步器等应用。
距离传感器180F,用于测量距离。电子设备100可以通过红外或激光测量距离。在一些实施例中,拍摄场景,电子设备100可以利用距离传感器180F测距以实现快速对焦。
接近光传感器180G可以包括例如发光二极管(LED)和光检测器,例如光电二极管。发光二极管可以是红外发光二极管。电子设备100通过发光二极管向外发射红外光。电子设备100使用光电二极管检测来自附近物体的红外反射光。当检测到的反射光的强度大于阈值时,可以确定电子设备100附近有物体。当检测到的反射光的强度小于阈值时,电子设备100可以确定电子设备100附近没有物体。电子设备100可以利用接近光传感器180G检测用户手持电子设备100贴近耳朵通话,以便自动熄灭屏幕达到省电的目的。接近光传感器180G也可用于皮套模式,口袋模式自动解锁与锁屏。
环境光传感器180L可以用于感知环境光亮度。电子设备100可以根据感知的环境光亮度自适应调节显示屏194亮度。环境光传感器180L也可用于拍照时自动调节白平衡。环境光传感器180L还可以与接近光传感器180G配合,检测电子设备100是否被遮挡,例如电子设备在口袋里。当检测到电子设备被遮挡或在口袋里,可以使部分功能(例如触控功能)处于禁用状态,以防误操作。
指纹传感器180H用于采集指纹。电子设备100可以利用采集的指纹特性实现指纹解锁,访问应用锁,指纹拍照,指纹接听来电等。
温度传感器180J用于检测温度。在一些实施例中,电子设备100利用温度传感器180J检测的温度,执行温度处理策略。例如,当通过温度传感器180J检测的温度超过阈值,电子设备100执行降低处理器的性能,以便降低电子设备的功耗以实施热保护。在另一些实施例中,当通过温度传感器180J检测的温度低于另一阈值时,电子设备100对电池142加热。在其他一些实施例中,当温度低于又一阈值时,电子设备100可以对电池142的输出电压升压。
触摸传感器180K,也称“触控器件”。触摸传感器180K可以设置于显示屏194,由触摸传感器180K与显示屏194组成触摸屏,也称“触控屏”。触摸传感器180K用于检测作用于其上或附近的触摸操作。触摸传感器可以将检测到的触摸操作传递给应用处理器,以确定触摸事件类型。可以通过显示屏194提供与触摸操作相关的视觉输出。在另一些实施例中,触摸传感器180K也可以设置于电子设备100的表面,与显示屏194所处的位置不同。
在本申请一些实施例中,触摸传感器180K将触摸事件相关的信号发送给处理器110,处理器110可响应于该信号,使得显示屏194显示的画面发生改变。
骨传导传感器180M可以获取振动信号。在一些实施例中,骨传导传感器180M可以获取人体声部振动骨块的振动信号。骨传导传感器180M也可以接触人体脉搏,接收血压跳动信号。在一些实施例中,骨传导传感器180M也可以设置于耳机中,结合成骨传导耳机。音频模块170可以基于该骨传导传感器180M获取的声部振动骨块的振动信号,解析出语音信号,实现语音功能。应用处理器可以基于该骨传导传感器180M获取的血压跳动信号解析心率信息,实现心率检测功能。
按键190可以包括开机键,音量键等。按键190可以是机械按键。也可以是触摸式按键。电子设备100可以接收按键输入,产生与电子设备100的用户设置以及功能控制有关的键信号输入。
在本申请一些实施例中,按键190也可以理解为与电子设备100连接的遥控设备(如遥控器)上的按键,例如音量键、上下左右键、确认键等。处理器110可以在接收到按键输入相关的信号后,使得显示屏194显示的画面发生改变。
马达191可以产生振动提示。马达191可以用于来电振动提示,也可以用于触摸振动反馈。例如,作用于不同应用(例如拍照,音频播放等)的触摸操作,可以对应不同的振动反馈效果。作用于显示屏194不同区域的触摸操作,马达191也可对应不同的振动反馈效果。不同的应用场景(例如:时间提醒,接收信息,闹钟,游戏等)也可以对应不同的振动反馈效果。触摸振动反馈效果还可以支持自定义。
指示器192可以是指示灯,可以用于指示充电状态,电量变化,也可以用于指示消息,未接来电,通知等。
SIM卡接口195用于连接SIM卡。SIM卡可以通过插入SIM卡接口195,或从SIM卡接口195拔出,实现和电子设备100的接触和分离。电子设备100可以支持1个或多个SIM卡接口。SIM卡接口195可以支持Nano SIM卡,Micro SIM卡,SIM卡等。同一个SIM卡接口195可以同时插入多张卡。多张卡的类型可以相同,也可以不同。SIM卡接口195也可以兼容不同类型的SIM卡。SIM卡接口195也可以兼容外部存储卡。电子设备100通过SIM卡和网络交互,实现通话以及数据通信等功能。在一些实施例中,电子设备100采用eSIM,即:嵌入式SIM卡。eSIM卡可以嵌在电子设备100中,不能和电子设备100分离。
电子设备100的软件系统可以采用分层架构,事件驱动架构,微核架构,微服务架构,或云架构。本申请实施例以分层架构的Android系统为例,示例性说明电子设备100的软件结构。
图3示例性展示了本申请实施例提供的一种电子设备100的软件结构框图。
分层架构将软件分成若干个层,每一层都有清晰的角色和分工。层与层之间通过软件接口通信。在一些实施例中,将Android系统分为五层,从上至下分别为应用程序层,应用程序框架层,安卓运行时(Android runtime,ART)和原生C/C++库,硬件抽象层(HardwareAbstract Layer,HAL)以及内核层。
应用程序层可以包括一系列应用程序包。
如图3所示,应用程序包可以包括相机,图库,日历,通话,地图,导航,WLAN,蓝牙,音乐,视频,短信息等应用程序。
应用程序框架层为应用程序层的应用程序提供应用编程接口(applicationprogramming interface,API)和编程框架。应用程序框架层包括一些预先定义的函数。
如图3所示,应用程序框架层可以包括窗口管理器,内容提供器,视图系统,资源管理器,通知管理器,活动管理器,输入管理器等。
窗口管理器提供窗口管理服务(Window Manager Service,WMS),WMS可以用于窗口管理、窗口动画管理、surface管理以及作为输入系统的中转站。
内容提供器用来存放和获取数据,并使这些数据可以被应用程序访问。该数据可以包括视频,图像,音频,拨打和接听的电话,浏览历史和书签,电话簿等。
视图系统包括可视控件,例如显示文字的控件,显示图片的控件等。视图系统可用于构建应用程序。显示界面可以由一个或多个视图组成的。例如,包括短信通知图标的显示界面,可以包括显示文字的视图以及显示图片的视图。
资源管理器为应用程序提供各种资源,比如本地化字符串,图标,图片,布局文件,视频文件等等。
通知管理器使应用程序可以在状态栏中显示通知信息,可以用于传达告知类型的消息,可以短暂停留后自动消失,无需用户交互。比如通知管理器被用于告知下载完成,消息提醒等。通知管理器还可以是以图表或者滚动条文本形式出现在系统顶部状态栏的通知,例如后台运行的应用程序的通知,还可以是以对话窗口形式出现在屏幕上的通知。例如在状态栏提示文本信息,发出提示音,电子设备振动,指示灯闪烁等。
活动管理器可以提供活动管理服务(Activity Manager Service,AMS),AMS可以用于系统组件(例如活动、服务、内容提供者、广播接收器)的启动、切换、调度以及应用进程的管理和调度工作。
输入管理器可以提供输入管理服务(Input Manager Service,IMS),IMS可以用于管理系统的输入,例如触摸屏输入、按键输入、传感器输入等。IMS从输入设备节点取出事件,通过和WMS的交互,将事件分配至合适的窗口。
安卓运行时包括核心库和安卓运行时。安卓运行时负责将源代码转换为机器码。安卓运行时主要包括采用提前(ahead or time,AOT)编译技术和及时(just in time,JIT)编译技术。
核心库主要用于提供基本的Java类库的功能,例如基础数据结构、数学、IO、工具、数据库、网络等库。核心库为用户进行安卓应用开发提供了API。。
原生C/C++库可以包括多个功能模块。例如:表面管理器(surface manager),媒体框架(Media Framework),libc,OpenGL ES、SQLite、Webkit等。
其中,表面管理器用于对显示子系统进行管理,并且为多个应用程序提供了2D和3D图层的融合。媒体框架支持多种常用的音频,视频格式回放和录制,以及静态图像文件等。媒体库可以支持多种音视频编码格式,例如:MPEG4,H.264,MP3,AAC,AMR,JPG,PNG等。OpenGL ES提供应用程序中2D图形和3D图形的绘制和操作。SQLite为电子设备100的应用程序提供轻量级关系型数据库。
硬件抽象层运行于用户空间(user space),对内核层驱动进行封装,向上层提供调用接口。
内核层是硬件和软件之间的层。内核层至少包含显示驱动,摄像头驱动,音频驱动,传感器驱动。
在本申请一些实施例中,语音助手应用程序或者语音助手相关进程可以运行在图3所示分层架构中的任意一层或多层中。具体运行在哪一层或哪些层取决于软件开发者的设计,本申请实施例对此不做限定。在本申请一些实施例中,语音助手应用程序或者语音助手相关进程(可简称为“语音助手”)可以在电子设备100开机状态下持续运行,在电子设备100的后台一直维持有相关的进程,以使得电子设备100随时都能够响应用户的语音输入。
下面结合捕获拍照场景,示例性说明电子设备100软件以及硬件的工作流程。
当触摸传感器180K接收到触摸操作,相应的硬件中断被发给内核层。内核层将触摸操作加工成原始输入事件(包括触摸坐标,触摸操作的时间戳等信息)。原始输入事件被存储在内核层。应用程序框架层从内核层获取原始输入事件,识别该输入事件所对应的控件。以该触摸操作是触摸单击操作,该单击操作所对应的控件为相机应用图标的控件为例,相机应用调用应用框架层的接口,启动相机应用,进而通过调用内核层启动摄像头驱动,通过摄像头193捕获静态图像或视频。
接下来结合附图详细介绍本申请实施例提供的电子设备性能优化方法。
图4示例性展示了本申请实施例提供的一种电子设备性能优化方法流程图。如图4所示,该方法可以包括步骤401至步骤405:
步骤401、电子设备中运行有语音助手相关进程。
如前所述,在一些实施例中,语音助手相关进程用于使得电子设备能够与用户进行语音交互,可以包括唤醒词检测、降噪、回声消除等进程。若想要保证电子设备只要在开机状态下无论何时都能够响应用户的唤醒词,语音助手相关进程需要持续运行在电子设备的后台,因此始终会占用一部分处理器运算资源。
在一些实施例中,语音助手相关进行可以在电子设备处于开机状态下时持续运行,也就是说,电子设备开机后,不需要用户手动打开语音助手应用程序,语音助手相关进行就可自行启动运行。
在一些实施例中,电子设备中也可包括一设置项,用于关闭或启用语音助手功能。若该设置项为关闭,则电子设备不会自行运行语音助手相关进程,可选地,只有在用户手动打开语音助手应用程序时,语音助手相关进程才会启动运行。若该设置项为开启,则电子设备可以如上一段所述,在开机后就自行启动语音助手相关进程。
在一些实施例中,在电子设备中包括所述设置项的情况下,电子设备出厂状态下通常默认将该设置项配置为开启,使得电子设备能够响应用户的唤醒词。用户可通过手动操作,将该设置项关闭。
在一些实施例中,电子设备开机状态下可以具有不同的工作模式,例如正常模式、高性能模式、省电模式。电子设备可以被配置为在一些工作模式下运行语音助手相关进程,在另一些模式下不运行语音助手相关进程。例如在正常模式、高性能模式下运行,在省电模式下不运行,以节省电量。
在一些实施例中,语音助手相关进程可以作为电子设备操作系统的系统应用存在。在展示“后台正在运行的应用程序”的界面中,即使语音助手相关进程正在运行,也不向用户展示。从而使得用户不会手动杀掉语音助手相关进程,保证电子设备随时都能够响应用户的唤醒词。
应理解,本申请实施例不限定电子设备运行有语音助手相关进程的前提条件、内外部环境,只要电子设备中运行有语音助手相关进程即可。
步骤402、电子设备将麦克风实时采集的音频流送至语音助手相关进程进行处理。
在一些实施例中,所述麦克风可以是电子设备自身的麦克风,也可以是电子设备外接的麦克风。麦克风可以将实时采集外界环境的声音形成的音频流(或者说音频数据、音频信号)送入电子设备的音频模块。音频模块可将该音频流持续送至语音助手相关进行进行处理。
例如,语音助手相关进程可以依次对输入的音频流进行降噪处理、回声消除、关键词识别,从而判断音频流中是否出现了唤醒词(例如“小艺小艺”),和/或,是否出现了预设的控制指令词(例如“打开”、“关闭”、“调大”、“调小”)。
在一些实施例中,只要在步骤401成立的情况下,步骤402就同时执行。也就是说,在电子设备中运行有语音助手相关进程的情况下,电子设备就持续将麦克风实时采集的音频流送至语音助手相关进程进行处理。
在一些实施例中,音频流作为语音助手相关进程的输入数据,语音助手相关进程在有输入数据输入的情况下,就会对输入数据进行处理。语音助手相关进程对输入数据的处理需要占用处理器的运算资源。也就是说,电子设备只要持续将音频流送至语音助手相关进程,语音助手相关进程就会持续处理音频流,就会持续占用处理器的运算资源。
例如,目前的语音助手相关进程在有音频流输入、持续处理输入的音频流的情况下,通常会占用处理器的0.8至2个核心。
步骤403、电子设备判断是否接收到按键或触摸输入,若是,则执行步骤404,若否,则继续执行步骤402。
电子设备的交互方式可以包括语音、按键、触摸等。其中,基于按键、触摸的交互方式可以理解为如前所述的非语音交互方式。当然,非语音交互方式不限于此。
在一些实施例中,所述按键可以是电子设备自身的按键,例如音量“+”键、音量“-”键、字母和/或数字按键等,或者,也可以是电子设备外接设备上的按键。外接设备可以包括遥控器、键盘、鼠标等。
在一些实施例中,电子设备自身的显示屏可以是触敏显示屏,触敏显示屏既可以显示内容又可以接收用户的触摸输入;或者,电子设备显示屏以外的区域也可以包括触摸传感器,用于接收用户的触摸输入。在一些实施例中,触摸输入也可以来自于电子设备外接输入设备,外接输入设备可以包括触摸板等。
本申请实施例不限定按键或触摸输入来自于何处。应理解,图4实施例所述的按键或触摸输入,也可以上位概括为非语音交互方式的输入。
在用户使用按键或触摸方式与电子设备进行交互时,大多数情况下,用户不会同时也使用语音与电子设备进行交互。例如,若电子设备为智能电视,用户在通过遥控器调节音量、换台时,用户已经处于与电子设备通过按键进行交互的状态,用户大概率不会同时使用语音来控制电子设备,例如,用户不会同时说出“小艺小艺,帮我调大一些音量”。另一方面,用户通过语音与电子设备进行交互,通常发生在用户正在干其他事情、未与电子设备通过按键或触摸进行交互的场景下,例如开车时用户说“小艺小艺,帮我导航到地下车库”、做饭时用户说出“小艺小艺,红烧肉怎么做”。
也就是说,大绝大多数场景下,语音交互方式和非语音交互方式(例如按键、触摸)的使用,是互斥的关系。用户使用语音方式与电子设备交互时,大概率不会同时使用非语音交互方式;用户使用非语音方式与电子设备交互时,大概率不会同时使用语音交互方式。
因此,本申请实施例基于该实际情况,提出了如图4所示的电子设备性能优化方法流程:在步骤403判断为“是”的情况下,用户正通过按键或触摸方式与电子设备进行交互,因此执行步骤404,电子设备暂停将音频流送至语音助手相关进程,语音助手相关进程没有了可处理的输入数据,就会降低对处理器资源的占用率;否则,继续执行步骤402,电子设备继续将音频流送至语音助手相关进程。
从而本申请实施例提供的电子设备性能优化方法,通过在用户使用按键或触摸方式与电子设备进行交互时,降低语音助手相关进程对处理器运算资源的占用率,来保证处理器能够有足够的运算资源用于处理按键或触摸交互方式涉及的相关进程,保证在用户体验上来说电子设备是能够流程运转的。
例如,若应用了本申请实施例提供的电子设备性能优化方法,则图1实施例所示的场景中,在用户按下“右”方向按键1004的第二时刻后,智能电视1000响应于接收到遥控指令,就立即暂停将音频流送至语音助手相关进程,语音助手相关进程没有了输入数据可以处理,语音助手相关进程对处理器的占用率降低,从而智能电视1000的处理器可以提供足够的运算资源用于GUI相关进行的运行,来进行用户界面的渲染。因此,从第二时刻到智能电视1000的用户界面变更为用户界面1002的第三时刻之间的时延就会非常小,用户基本上感知不到该时延,因此用户体验上来说智能电视1000的运转非常流畅,用户按下某个按键,智能电视1000就会立即做出响应,不再会给用户带来界面卡顿的感受,用户体验得到了提升。
在一些实施例中,可以进一步限定步骤403的执行条件为:在电子设备处于亮屏状态时。这是因为在一些情况下,电子设备处于灭屏状态下也会接收到按键或触摸输入。示例性地,当用户用手握持着手机但并没有点亮手机屏幕、使用手机的情况下,用户的手指接触到手机的触敏显示屏也会使得手机接收到触摸输入。这种情况下,用户仍旧有可能想要用语音唤醒语音助手。例如,用户手持手机跑步,用户的手指由于抓握手机导致接触到了手机的触摸显示屏,使得手机的触摸显示屏接收到触摸输入,但手机可以判定此时接收到的触摸输入属于误触摸,用户并非希望点亮手机屏幕,因此手机屏幕仍处于熄灭状态;用户此时正在跑步,相比于通过触摸方式与手机交互,用户更有可能通过语音方式与手机交互,因此用户此时亦有可能说出“小艺小艺,帮我播放一首适合运动时听的歌曲”。
因此,可以将步骤403进一步限定为:在电子设备处于亮屏状态时,电子设备判断是否接收到按键或触摸输入,若是,则执行步骤404,若否,则继续执行步骤402。或者:在电子设备处于亮屏状态,且接收到按键或触摸输入时,执行步骤404;否则,执行步骤402。
这样可以保证电子设备处于灭屏状态下语音助手持续运行,灭屏状态下电子设备接收到触摸或按键输入时,电子设备也能够响应用户的语音唤醒、与用户进行语音交互。
在一些实施例中,也可以将步骤403限定为:在电子设备处于亮屏状态时,电子设备判断是否接收到不是误按键的按键输入或不是误触摸的触摸输入。在此实施例中,电子设备可以使用预设的程序、算法,来判断某个按键或触摸输入是否为误按键或误触摸。在电子设备处于亮屏状态且电子设备判断所接收到的按键或触摸输入不是由误按键或误触摸产生的时,电子设备才执行步骤404;否则,执行步骤402。其中,预设的用于判断是否为误按键、误触摸的程序、算法的具体形式,本申请实施例对此不做限定。
在一些实施例中,步骤403也可以为:电子设备判断是否接收到不是误按键的按键输入或不是误触摸的触摸输入。相较于上一段所述实施例,此实施例中,电子设备不再需要判断是否亮屏;电子设备在判断接收的按键或触摸输入不是误按键或误触摸时,执行步骤403;否则,执行步骤402。
步骤404、电子设备暂停将麦克风实时采集的音频流送至语音助手相关进程。
在一些实施例中,在电子设备接收到按键或触摸输入时,电子设备的音频模块可以接收到预设指令,音频模块响应于所述预设指令,暂停将麦克风实时采集的音频流送至语音助手相关进程。语音助手相关进程没有了输入数据可以处理,自然会降低对处理器运算资源的占用率,使得处理器能够有足够多的运算资源用于当前用户正在使用的按键或触摸交互方式涉及的进程,例如GUI相关进程。保证用户在使用按键或触摸方式与电子设备进行交互时,不会产生卡顿的体验。
步骤405、电子设备判断是否已超过第一时长未接收到按键或触摸输入,若是,则执行步骤402,若否,则继续执行步骤404。
用户在使用按键或触摸方式与电子设备进行交互时,会产生一至多个按键或触摸输入。在一些实施例中,电子设备可以记录距离电子设备最后一次接收到按键或触摸输入的时长。如果该时长超过了第一时长,则表明用户可能已经暂时不通过按键或触摸方式与电子设备进行交互了,因此可以执行步骤402,继续将音频流送至语音助手相关进程。如果该时长未超过第一时长,则表明用户可能还没有结束与电子设备通过按键或触摸方式进行交互,因此可以继续执行步骤404,电子设备仍处于不将音频流送至语音助手相关进程的状态,和/或,语音助手相关进程仍处于不处理输入数据的状态,保证电子设备的处理器能提供足够的运算资源用于处理按键或触摸交互方式涉及的进程。
在一些实施例中,第一时长可以是预先设定的时长,例如根据经验值将第一时长设定为500毫秒。例如,大部分用户通过遥控器的方向键选择要在智能电视中开启的应用程序时,前后两次按压方向键之间的时间间隔通常小于500毫米,因此若第一时长超过500毫米,可以认为用户此次的通过按键操作选择应用程序的行为已结束。
在一些实施例中,第一时长可以是根据用户使用电子设备的历史行为确定的。例如用户A在进行按键或触摸操作时,两次操作之间的时间间隔比较短,用户B的比较长。则可以将用户A使用的电子设备A的第一时长设定得比用户B使用的电子设备B的第一时长更短一些。如果用户A和用户B共同使用同一个电子设备,则可以先判断此次使用电子设备的用户的身份,再根据用户身份将第一时长设定为与当前用户的历史行为相匹配的时长。
在一些实施例中,第一时长可以是与电子设备当前前台运行的应用程序相关联的。例如,如果电子设备前台当前正在运行输入法应用程序,则用户此时很可能正在进行文字输入,用户的相邻两次按键或触摸输入之间的时间间隔较短,则此时的第一时长可以设定得相对短一些。如果电子设备前台当前正在运行新闻应用程序,则用户此时很可能正在浏览新闻,每当浏览完一部分内容才进行翻页操作,用户的相邻两次按键或触摸输入之间的时间间隔较长,则此时的第一时长可以设定得相对长一些。
在一些实施例中,第一时长可以是与电子设备当前所展示的用户界面相关联的。例如,如果电子设备当前所展示的用户界面是应用程序选择界面,则用户很有可能连续进行按压遥控器方向键的操作,或者连续进行左右、上下滑动的触摸操作,则此时第一时长可以设定得相对短一些。如果电子设备当前所展示的用户界面是某个游戏的界面,则用户很有可能以不均匀的时间间隔点击该游戏界面中的不同控件,为了保证游戏的流畅运行,则此时第一时长可以设定得相对长一些。
应理解,本申请实施例不限定第一时长的设定方式。以上所述仅作为几种可能实现方式的举例而非限定。在实施时,也可以将以上所述几种实现方式中的多种因素进行结合,综合考量大部分用户的使用习惯、特定用户的历史行为、电子设备当前前台运行的应用程序、电子设备当前展示的用户界面,来确定第一时长。
在一些实施例中,电子设备中存在一计时器,该计时器用于记录距离最新一次接收到的按键或触摸输入过了多长时间;每当电子设备接收到最新一次的按键或触摸输入,就将该计时器置零,使得该计时器始终用于记录距离最新一次接收到的按键或触摸输入过了多长时间。如果该计时器记录的时长超过了第一时长,则步骤405判断为“是”。
在一些实施例中,电子设备也可以为每一次按键或触摸输入都启动一计时器,用于记录距离每一次按键或触摸输入过了多长时间,如果这些计时器所记录的时长中的最短时长也超过了第一时长,则步骤405判断为“是”。
图5示例性展示了本申请实施例提供的另一种电子设备性能优化方法流程图。如图5所示,该方法可以包括步骤501和步骤502:
步骤501、电子设备中运行有语音助手相关进程。
此步骤可以参考图4实施例中的步骤401,此处不再重复描述。
步骤502、在电子设备接收到连续按键或触摸输入的情况下,电子设备不将麦克风实时采集的音频流送至语音助手相关进程。
相应地,在一些实施例中,在电子设备未接收到连续按键或触摸输入的情况下,电子设备将麦克风实时采集的音频流送至语音助手相关进程。
在一些实施例中,电子设备可以根据一判定方法,判断接收到的按键或触摸输入是否为连续的按键或触摸输入。
所述判定方法可以为:相邻两次按键或触摸输入的时间间隔是否小于第二时长,或者,多次按键或触摸输入中每相邻两次按键或触摸输入的时间间隔的平均值是否小于第二时长;其中,第二时长的确定方式可以参考前述实施例中第一时长的确定方式,此处不再赘述。
所述判定方法还可以为:在第一时间段内接收到的按键或触摸输入超过第一数量。例如,在1秒内接收到了3次以上的按键或触摸输入。其中,第一时间段、第一数量的确定方式可以是预先设定的,也可以是基于大部分用户的使用习惯、特定用户的历史行为、电子设备当前前台运行的应用程序、电子设备当前展示的用户界面等因素中的一种或多种确定的。
在电子设备判定接收到的按键或触摸输入为连续的情况下:电子设备不将麦克风实时采集的音频流送至语音助手相关进程。从而,在用户连续通过按键或触摸方式与电子设备交互时,语音助手相关进程没有了输入数据可以处理,可以降低语音助手相关进程对处理器运算资源的占用率,使得处理器能够提供足够的运算资源用于处理按键或触摸交互方式涉及的进程,避免卡顿的产生,提升用户体验。
图4与图5所示实施例的主要区别点在于:图4实施例中,只要电子设备接收到一次按键或触摸输入,即刻,电子设备就先暂停将音频流送至语音助手相关进程,超过第一时长不再有按键或触摸输入之后,再恢复为将音频流送至语音助手相关进程。图5实施例中,在判定为接收到的按键或触摸输入为连续的按键或触摸输入的情况下,才不将音频流送至语音助手相关进程。
也就是说,图5实施例在电子设备只接收到一次按键或触摸输入的情况下,不会即刻就进入不将音频流送至语音助手相关进程的状态。电子设备需要在至少接收到两次按键或触摸输入且判定按键或触摸输入是连续的情况下,才进入不将音频流送至语音助手相关进程的状态。这样可以避免用户偶发性的单次按键或触摸输入也触发不将音频流送至语音助手相关进程的情况。
以上所述图4和图5实施例,是在符合一定条件的情况下,暂停将音频流送至语音助手相关进程。也就是说,语音助手相关进程一直是运行在电子设备后台的,在暂停将音频流送至语音助手相关进程的情况下,不会将后台运行的语音助手相关进程关闭掉,而是通过不送音频流给语音助手相关进程的手段,来实现降低语音助手相关进程对处理器运算资源的占用率的效果。这样可以保证当不再符合一定条件时,不需要重新启动语音助手相关进程、进行语音助手相关进程的初始化,就能够快速切换为继续送音频流给语音助手相关进程,能够快速使电子设备重新进入能够与用户进行语音交互的状态。
但应理解,这并不构成对本申请实施例提供的电子设备性能优化方法的限定。在另一些实施例中,在符合一定条件的情况下,也可以直接将电子设备后台运行的语音助手相关进程关闭掉。来最大限度地减少语音助手相关进程对处理器运算资源的占用率。当不再符合一定条件时,再重新启动、初始化语音助手相关进程,使得电子设备恢复为能够与用户进行语音交互的状态。
以上所述图4和图5实施例,电子设备是通过控制是否将音频流送至语音助手相关进程,来控制语音助手相关进程对处理器的占用率的。在另一些实施例中,电子设备也可以一直处于将音频流送至语音助手的状态,此时,电子设备可以通过控制语音助手相关进程是否处理接收到的输入数据,来控制语音助手相关进程对处理器的占用率。若语音助手相关进程接收到了输入数据但不处理,则也可以降低语音助手相关进程对处理器的占用率。此时,图4所示实施例中的步骤402可以为:电子设备将麦克风实时采集的音频流送至语音助手相关进程,语音助手相关进程处理所述音频流;步骤404可以为:电子设备中的语音助手相关进程暂停处理接收到的音频流。此时,图5所示实施例中的步骤502可以为:在电子设备接收到连续按键或触摸输入的情况下,电子设备中的语音助手相关进程不处理接收到的音频流。
当然,也应理解,在一些实施例中,电子设备也可以既暂停将麦克风实时采集的音频流送至语音助手相关进程,又通知语音助手相关进程暂停处理接收到的输入数据(例如将输入数据丢弃)。这样可以双重保证在电子设备接收到按键或触摸输入的情况下,语音助手相关进程不会占用过多的处理器运算资源。图4、图5实施例中的相关步骤可以按照类似如上所述的方式进行替换,此处不做赘述。
在一些电子设备中,用户可以通过操作(例如长按、双击等)语音助手控件,触发电子设备的显示界面中显示语音助手界面,来与语音助手进行交互。因此,在一些实施例中,可以将作用于语音助手控件上的按键或触摸操作排除掉。例如,对于图4、图5所示实施例,可以将“按键或触摸输入”替换为“不是作用在语音助手控件上的按键或触摸输入”。从而,若电子设备判断接收到的按键或触摸输入为作用在语音助手控件上的输入时,也不会暂停将音频流送至语音助手相关进程;当用户操作语音助手控件来与语音助手进行交互时,也不会导致语音助手无法工作、无法响应用户。
在一些电子设备中,如上一段实施例所述,在一些情况下,电子设备的前台可以显示语音助手界面,比如用户通过操作语音助手控件触发电子设备在前台显示语音助手界面。这种情况是由用户主动触发,因此可以认为在这种情况下,用户与语音助手进行交互的可能性是非常高的。因此,在一些实施例中,可以进一步限定当电子设备的前台显示有语音助手交互界面时,电子设备不再按照本申请实施例提供的如图4、图5所示的方式来控制是否将音频流送至语音助手相关进程,此时电子设备不论是否接收到按键或触摸输入,都会将麦克风实时采集的音频流送至语音助手相关进程,从而保证在用户有极高的概率使用语音助手的情况下,不会因语音助手无法获取输入数据而导致语音助手无法工作;当电子设备前台不再显示语音助手交互界面时,电子设备重新按照本申请实施例提供的如图4、图5所示的方式来控制是否将音频流送至语音助手相关进程,从而保证在用户使用语音助手的概率较小的情况下(如电子设备接收到按键或触摸输入的情况下),电子设备不会因处理器大部分运算资源被语音助手相关进程占用而影响其他进程的正常运行。
图6示例性展示了本申请实施例提供的一种电子设备的功能模块示意图。如图6所示,电子设备的功能模块可以包括音频模块601、判断模块602、语音助手模块603,可选地,判断模块602可以包括第一判断模块6021和第二判断模块6022。其中,语音助手模块603可以包括前述实施例中所述的语音助手相关进程。
在一些实施例中,以上所述各个模块的功能分别为:
音频模块601可用于将麦克风采集的音频流送入或不送入语音助手模块603。在一些实施例中,音频模块601默认将音频流送入语音助手模块603。在一些实施例中,在音频模块601处于将音频流送至语音助手模块603的状态时,若音频模块601接收到判断模块602(或第一判断模块6021)的第一指示信号,则音频模块601暂停将音频流送至语音助手模块603。在一些实施例中,在音频模块601处于暂停将音频流送至语音助手模块603的状态时,若音频模块601接收到判断模块602(或第二判断模块6022)的第二指示信号,则音频模块601恢复为将音频流送至语音助手模块603。
判断模块602可用于判断当前电子设备是否进入了以较低概率通过语音交互方式与用户进行交互的状态。在一些实施例中,当电子设备接收到按键或触摸输入时,电子设备进入了以较低概率通过语音交互方式与用户进行交互的状态,因此判断模块602(或第一判断模块6021)可用于判断电子设备是否接收到按键或触摸输入;在判断为“是”时,判断模块602(或第一判断模块6021)可以向音频模块601发送第一指示信号。判断模块602还用于判断当前电子设备是否不再处于以较低概率通过语音交互方式与用户进行交互的状态。在一些实施例中,当电子设备超过第一时长未接收到按键或触摸输入时,电子设备不再处于以较低概率通过语音交互方式与用户进行交互的状态,因此判断模块602(或第二判断模块6022)可用于判断电子设备是否超过第一时长未接收到按键或触摸输入;在判断为“是”时,判断模块602(或第二判断模块6022)可以向音频模块601发送第二指示信号。
在一些实施例中,判断模块602可用于判断电子设备是否接收到连续按键或触摸输入。在判断为“是”时,判断模块602可以向音频模块601发送第一指示信号;在判断为“否”时,判断模块602可以向音频模块601发送第二指示信号。
语音助手模块603可用于处理接收到的输入数据,输入数据可以包括麦克风实时采集的音频流。例如,对音频流进行降噪、回声消除、唤醒词识别等处理。
以上所述图6实施例,是通过判断模块602向音频模块601发送指示信号,来影响音频模块601是否将音频流送至语音助手模块603的。在另一些实施例中,判断模块602也可以通过向语音助手模块603发送指示信号,来影响语音助手模块603是否处理接收到的输入数据。此时有:
音频模块601可用于将麦克风采集的音频流送入语音助手模块603。
判断模块602可用于判断当前电子设备是否进入了以较低概率通过语音交互方式与用户进行交互的状态。在一些实施例中,当电子设备接收到按键或触摸输入时,电子设备进入了以较低概率通过语音交互方式与用户进行交互的状态,因此判断模块602(或第一判断模块6021)可用于判断电子设备是否接收到按键或触摸输入;在判断为“是”时,判断模块602(或第一判断模块6021)可以向语音助手模块603发送第一指示信号。判断模块602还用于判断当前电子设备是否不再处于以较低概率通过语音交互方式与用户进行交互的状态。在一些实施例中,当电子设备超过第一时长未接收到按键或触摸输入时,电子设备不再处于以较低概率通过语音交互方式与用户进行交互的状态,因此判断模块602(或第二判断模块6022)可用于判断电子设备是否超过第一时长未接收到按键或触摸输入;在判断为“是”时,判断模块602(或第二判断模块6022)可以向语音助手模块603发送第二指示信号。
在一些实施例中,判断模块602可用于判断电子设备是否接收到连续按键或触摸输入。在判断为“是”时,判断模块602可以向语音助手模块603发送第一指示信号;在判断为“否”时,判断模块602可以向语音助手模块603发送第二指示信号。
语音助手模块603可用于处理或不处理接收到的输入数据,输入数据可以包括麦克风实时采集的音频流。处理输入数据可以包括对音频流进行降噪、回声消除、唤醒词识别等处理。语音助手模块603默认会处理接收到的输入数据。在一些实施例中,在语音助手模块603处于处理接收到的输入数据的状态时,若语音助手模块603接收到判断模块602(或第一判断模块6021)的第一指示信号,则语音助手模块603暂停处理接收到的输入数据(或者说,不处理接收到的输入数据)。在一些所述中,在语音助手模块603处于不处理接收到的输入数据的状态时,若语音助手模块603接收到判断模块602(或第二判断模块6022)的第二指示信号,则语音助手模块603恢复为处理接收到的输入数据。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
在本申请所提供的实施例中,应该理解到,所揭露的装置/电子设备和方法,可以通过其它的方式实现。例如,以上所描述的装置/电子设备实施例仅仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读存储介质中。基于这样的理解,本申请实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读存储介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是,所述计算机可读存储介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如在某些司法管辖区,根据立法和专利实践,计算机可读存储介质不包括电载波信号和电信信号。
最后应说明的是:以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何在本申请揭露的技术范围内的变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以所述权利要求的保护范围为准。
Claims (12)
1.一种电子设备性能优化方法,其特征在于,所述方法包括:
所述电子设备中运行有语音助手相关进程,所述电子设备将麦克风实时采集的音频流送至所述语音助手相关进程进行处理;
在所述电子设备接收到按键或触摸输入的情况下,所述电子设备暂停将所述音频流送至所述语音助手相关进程,和/或,所述语音助手相关进程暂停处理所述音频流。
2.根据权利要求1所述的方法,其特征在于,在所述电子设备暂停将所述音频流送至所述语音助手相关进程,和/或,所述语音助手相关进程暂停处理所述音频流之后,所述方法还包括:
在所述电子设备判断已超过第一时长未接收到所述按键或触摸输入的情况下,所述电子设备恢复为将所述麦克风实时采集的所述音频流送至所述语音助手相关进程进行处理。
3.根据权利要求2所述的方法,其特征在于,所述第一时长是预先设定的时长,或者,所述第一时长是根据用户身份、用户历史使用习惯、所述电子设备当前前台运行的应用程序、所述电子设备当前展示的用户界面中的一种或多种因素确定的。
4.根据权利要求1-3中任一项所述的方法,其特征在于,所述在所述电子设备接收到按键或触摸输入的情况下,所述电子设备暂停将所述音频流送至所述语音助手相关进程,和/或,所述语音助手相关进程暂停处理所述音频流,具体包括:
所述电子设备判断接收到的按键或触摸输入是否为连续的按键或触摸输入;
在所述电子设备接收到所述连续的按键或触摸输入的情况下,所述电子设备暂停将所述音频流送至所述语音助手相关进程,和/或,所述语音助手相关进程暂停处理所述音频流。
5.根据权利要求4所述的方法,其特征在于,所述电子设备判断接收到的按键或触摸输入是否为连续的按键或触摸输入,具体包括:
所述电子设备通过判断所述按键或触摸输入的间隔时长和/或频率,来判断接收到的按键或触摸输入是否为所述连续的按键或触摸输入。
6.根据权利要求1-5中任一项所述的方法,其特征在于,所述方法还包括:
在所述电子设备的前台显示有语音助手交互界面,或者,所述电子设备处于灭屏状态的情况下,所述电子设备接收到所述按键或触摸输入,所述电子设备仍将所述麦克风实时采集的所述音频流送至所述语音助手相关进程进行处理。
7.根据权利要求1-6中任一项所述的方法,其特征在于,所述按键或触摸输入来自于所述电子设备的按键或触摸屏,或者,来自于与所述电子设备外接的输入设备。
8.根据权利要求1-7中任一项所述的方法,其特征在于,所述语音助手相关进程对所述音频流进行的处理包括以下项中的一种或多种:降噪、回声消除、唤醒词识别。
9.一种电子设备,其特征在于,所述电子设备包括处理器、存储器,所述存储器被配置为存储有计算机指令,当所述计算机指令由所述处理器执行时,所述电子设备执行如权利要求1-8中任一项所述的方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质被配置为存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1-8中任一项所述的方法。
11.一种计算机程序产品,其特征在于,所述计算机程序产品被配置为在电子设备上运行时,使得所述电子设备执行如权利要求1-8中任一项所述的方法。
12.一种芯片系统,其特征在于,所述芯片系统包括存储器和处理器,所述处理器被配置为执行所述存储器中存储的计算机程序,以实现如权利要求1-8中任一项所述的方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111309724.0A CN116088741A (zh) | 2021-11-07 | 2021-11-07 | 一种电子设备性能优化方法及装置 |
PCT/CN2022/128850 WO2023078223A1 (zh) | 2021-11-07 | 2022-11-01 | 一种电子设备性能优化方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111309724.0A CN116088741A (zh) | 2021-11-07 | 2021-11-07 | 一种电子设备性能优化方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116088741A true CN116088741A (zh) | 2023-05-09 |
Family
ID=86187382
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111309724.0A Pending CN116088741A (zh) | 2021-11-07 | 2021-11-07 | 一种电子设备性能优化方法及装置 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN116088741A (zh) |
WO (1) | WO2023078223A1 (zh) |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10178603B2 (en) * | 2017-02-20 | 2019-01-08 | International Business Machines Corporation | Pausing functions of an assistant device during an active telephone call |
CN108804010B (zh) * | 2018-05-31 | 2021-07-30 | 北京小米移动软件有限公司 | 终端控制方法、装置及计算机可读存储介质 |
CN109462694A (zh) * | 2018-11-19 | 2019-03-12 | 维沃移动通信有限公司 | 一种语音助手的控制方法及移动终端 |
CN109656512A (zh) * | 2018-12-20 | 2019-04-19 | Oppo广东移动通信有限公司 | 基于语音助手的交互方法、装置、存储介质及终端 |
CN109830233A (zh) * | 2019-01-22 | 2019-05-31 | Oppo广东移动通信有限公司 | 语音助手的交互方法、装置、存储介质及终端 |
-
2021
- 2021-11-07 CN CN202111309724.0A patent/CN116088741A/zh active Pending
-
2022
- 2022-11-01 WO PCT/CN2022/128850 patent/WO2023078223A1/zh unknown
Also Published As
Publication number | Publication date |
---|---|
WO2023078223A1 (zh) | 2023-05-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110910872B (zh) | 语音交互方法及装置 | |
CN113645351B (zh) | 应用界面交互方法、电子设备和计算机可读存储介质 | |
CN114397981A (zh) | 一种应用显示方法及电子设备 | |
WO2021036770A1 (zh) | 一种分屏处理方法及终端设备 | |
WO2022127632A1 (zh) | 一种资源管控方法及设备 | |
WO2021008589A1 (zh) | 一种应用的运行方法及电子设备 | |
JP2023503281A (ja) | エネルギー効率の良い表示処理方法およびデバイス | |
CN113805487B (zh) | 控制指令的生成方法、装置、终端设备及可读存储介质 | |
CN113728295B (zh) | 控屏方法、装置、设备及存储介质 | |
CN115016869A (zh) | 帧率调整方法、终端设备及帧率调整系统 | |
WO2022095744A1 (zh) | Vr显示控制方法、电子设备及计算机可读存储介质 | |
CN114077365A (zh) | 分屏显示方法和电子设备 | |
CN114995715B (zh) | 悬浮球的控制方法和相关装置 | |
CN111431968A (zh) | 服务元素的跨设备分配方法、终端设备及存储介质 | |
CN113805825B (zh) | 设备之间的数据通信方法、设备及可读存储介质 | |
WO2021129453A1 (zh) | 一种截屏方法及相关设备 | |
CN115206308A (zh) | 一种人机交互的方法及电子设备 | |
WO2023078223A1 (zh) | 一种电子设备性能优化方法及装置 | |
CN114860178A (zh) | 一种投屏的方法和电子设备 | |
CN116048236B (zh) | 通信方法及相关装置 | |
WO2022222702A1 (zh) | 屏幕解锁方法和电子设备 | |
WO2022222705A1 (zh) | 设备控制方法和电子设备 | |
WO2024114493A1 (zh) | 一种人机交互的方法和装置 | |
WO2022206709A1 (zh) | 应用程序的组件加载方法及相关装置 | |
CN115509651A (zh) | 一种屏幕共享的方法及相关设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |