CN112334978A - 支持个性化装置连接的电子装置及其方法 - Google Patents

支持个性化装置连接的电子装置及其方法 Download PDF

Info

Publication number
CN112334978A
CN112334978A CN201980042626.XA CN201980042626A CN112334978A CN 112334978 A CN112334978 A CN 112334978A CN 201980042626 A CN201980042626 A CN 201980042626A CN 112334978 A CN112334978 A CN 112334978A
Authority
CN
China
Prior art keywords
electronic device
external electronic
information
server
speaker
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201980042626.XA
Other languages
English (en)
Inventor
延智铉
元晟准
徐昊彻
赵山
姜斗锡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Publication of CN112334978A publication Critical patent/CN112334978A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/167Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M3/00Automatic or semi-automatic exchanges
    • H04M3/42Systems providing special services or facilities to subscribers
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/26Speech to text systems
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L17/00Speaker identification or verification
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • G10L2015/088Word spotting
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/223Execution procedure of a spoken command
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/225Feedback of the input speech
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M2201/00Electronic components, circuits, software, systems or apparatus used in telephone systems
    • H04M2201/34Microprocessors

Abstract

公开了一种电子装置,包括:至少一个通信电路;声音输入电路;处理器,可操作地连接到所述至少一个通信电路和声音输入电路;以及存储器,可操作地连接到处理器。当使用声音输入电路检测到话语时,电子装置可获得与检测到的话语相应的语音数据,可至少基于对语音数据的语音辨识来识别语音数据的说话者信息,可使用与说话者信息相关联的第一外部电子装置的地址信息将电子装置通信地连接到第一外部电子装置,并且可通过使用所述至少一个通信电路与第一外部电子装置一起执行与语音数据相应的动作。

Description

支持个性化装置连接的电子装置及其方法
技术领域
本公开总体上涉及一种支持个性化装置连接的电子装置及其方法。
背景技术
基于语音辨识的电子装置的控制已经被广泛使用。例如,电子装置可使用语音辨识作为人工智能(AI)语音助理进行操作。电子装置可被配置为使用各种语音辨识技术(例如,文本到语音(TTS)和自然语言辨识)来执行与用户的语音命令相应的动作。在特定情况下,电子装置可控制另一电子装置执行与用户的语音命令相应的动作。
在另一示例中,另一电子装置可以是能够实现AI语音助理功能的AI扬声器。电子装置可支持各种标准的无线连接(例如,Wi-Fi、蓝牙、蓝牙低功耗(BLE)、装置到装置连接和/或蜂窝通信)。除了简单的音乐回放和互联网搜索之外,电子装置可作为能够使用与其它电子装置的连接来控制其它电子装置的枢纽进行操作。
以上信息作为背景信息被呈现仅用于帮助理解本公开。至于以上信息中的任何信息是否可应用为针对本公开的现有技术,尚未做出确定并且尚未进行声明。
发明内容
技术问题
电子装置可基于用户的语音命令进行语音呼叫,并且在这样做时使用另一电子装置。例如,电子装置可通过用户的外部电子装置(例如,移动电话)向用户选择的对应方进行呼出呼叫。在一个示例中,电子装置可通过诸如蓝牙的短程通信网络被连接到外部电子装置。
为了使用外部电子装置和电子装置进行呼出呼叫和/或呼入呼叫,用户可使用蓝牙通信将电子装置连接到外部电子装置。在这种情况下,在用户激活电子装置和外部电子装置的蓝牙功能之后,用户可通过选择通过装置扫描找到的外部电子装置来执行连接。此外,当另一外部电子装置(例如,移动电话)已连接到电子装置时,用户可能需要在将电子装置连接到外部电子装置之前首先断开另一外部电子装置的连接。然而,当电子装置与多个外部电子装置相关联时,电子装置可能难以选择适当的外部电子装置进行呼出呼叫。例如,当AI扬声器被房屋中的多个用户(例如,家庭成员)使用时,当选择错误的外部电子装置进行呼叫时,隐私可能被侵犯。也就是说,当AI扬声器使用不属于用户的第一电子装置进行呼叫时,第一电子装置的用户的隐私可能被侵犯。
本公开的各方面在于至少解决上述问题和/或缺点,并且至少提供下面描述的优点。因此,本公开的一方面在于提供一种支持个性化连接的电子装置。
技术方案
根据本公开的一方面,电子装置可包括:至少一个通信电路;声音输入电路;处理器,可操作地连接到所述至少一个通信电路和声音输入电路;以及存储器,可操作地连接到处理器。存储器可存储指令,其中,所述指令在被执行时使处理器进行以下操作:当使用声音输入电路检测到话语时,获得与检测到的话语相应的语音数据,至少基于对语音数据的语音辨识来识别语音数据的说话者信息,使用与说话者信息相关联的第一外部电子装置的地址信息将所述电子装置通信地连接到第一外部电子装置,并且通过使用所述至少一个通信电路与第一外部电子装置一起执行与语音数据相应的动作。
根据本公开的另一方面,电子装置的通信连接方法可包括:当检测到话语时,获得与检测到的话语相应的语音数据,至少基于对语音数据的语音辨识来识别语音数据的说话者信息,使用与说话者信息相关联的第一外部电子装置的地址信息将所述电子装置通信地连接到第一外部电子装置,并且与第一外部电子装置一起执行与语音数据相应的动作。
根据本公开的另一方面,电子装置可包括:至少一个通信电路;声音输入电路;处理器,可操作地连接到所述至少一个通信电路和声音输入电路;以及存储器,可操作地连接到处理器并存储与至少一个外部电子装置相关联的账户信息和地址信息。存储器可存储指令,其中,所述指令在被执行时使处理器进行以下操作:使用声音输入电路接收语音数据,至少基于对语音数据的语音辨识来识别与语音数据相关联的说话者的账户信息,从存储器获得与账户信息相关联的第一外部电子装置的地址信息,并且使用所述至少一个通信电路将所述电子装置通信地连接到第一外部电子装置。
根据以下结合附图公开了本公开的各种实施例的详细描述,本公开的其它方面、优点和显著特征对于本领域技术人员将变得显而易见。
有益效果
根据本公开中公开的特定实施例,可通过基于说话者辨识选择外部电子装置来支持个性化连接。
根据本公开中公开的特定实施例,可基于说话者辨识使用个性化连接来防止隐私的侵犯。
此外,可提供通过本公开直接或间接理解的各种效果和/或优点。
附图说明
通过以下结合附图进行的描述,本公开的特定实施例的以上和其它方面、特征和优点将更加明显,其中:
图1是示出根据实施例的网络中的电子装置的框图;
图2是示出根据实施例的网络环境中的电子装置之间的连接的框图;
图3是示出根据实施例的网络中的电子装置之间的通信的框图;
图4是示出根据实施例的外部电子装置的注册方法的信号流程图;
图5是示出根据实施例的语音命令运行方法的流程图;
图6是示出根据实施例的基于动作信息的通信连接建立方法的信号流程图;
图7是示出根据实施例的基于语音辨识和通信连接的并行执行的语音呼叫执行方法的信号流程图;
图8是示出根据实施例的基于本地语音辨识的语音呼叫执行方法的信号流程图;
图9是示出根据实施例的进行呼叫方法的流程图;
图10是示出根据实施例的呼叫接收方法的流程图;以及
图11是示出根据实施例的外部电子装置连接方法的流程图。
具体实施方式
下面,可参照附图描述本公开的特定实施例。实施例和关于实施例使用的术语不旨在将本文描述的技术限于具体实施例,并且应被理解为包括实施例的各种修改、等同物和/或替代物。
图1是示出根据各种实施例的网络环境100中的电子装置101的框图。参照图1,网络环境100中的电子装置101可经由第一网络198(例如,短距离无线通信网络)与电子装置102进行通信,或者经由第二网络199(例如,长距离无线通信网络)与电子装置104或服务器108进行通信。根据实施例,电子装置101可经由服务器108与电子装置104进行通信。根据实施例,电子装置101可包括处理器120、存储器130、输入装置150、声音输出装置155、显示装置160、音频模块170、传感器模块176、接口177、触觉模块179、相机模块180、电力管理模块188、电池189、通信模块190、用户识别模块(SIM)196或天线模块197。在一些实施例中,可从电子装置101中省略组件中的至少一个组件(例如,显示装置160或相机模块180),或者可将一个或更多个其它组件添加到电子装置101中。在一些实施例中,可将所述组件中的一些组件实现为单个集成电路。例如,可将传感器模块176(例如,指纹传感器、虹膜传感器、或照度传感器)实现为嵌入在显示装置160(例如,显示器)中。
处理器120可运行例如软件(例如,程序140)来控制电子装置101的与处理器120连接的至少一个其它组件(例如,硬件组件或软件组件),并可执行各种数据处理或计算。根据一个实施例,作为所述数据处理或计算的至少部分,处理器120可将从另一组件(例如,传感器模块176或通信模块190)接收到的命令或数据加载到易失性存储器132中,对存储在易失性存储器132中的命令或数据进行处理,并将结果数据存储在非易失性存储器134中。根据实施例,处理器120可包括主处理器121(例如,中央处理器(CPU)或应用处理器(AP))以及与主处理器121在操作上独立的或者相结合的辅助处理器123(例如,图形处理单元(GPU)、图像信号处理器(ISP)、传感器中枢处理器或通信处理器(CP))。另外地或者可选地,辅助处理器123可被适配为比主处理器121耗电更少,或者被适配为具体用于指定的功能。可将辅助处理器123实现为与主处理器121分离,或者实现为主处理器121的部分。
在主处理器121处于未激活(例如,睡眠)状态时,辅助处理器123(而非主处理器121)可控制与电子装置101的组件之中的至少一个组件(例如,显示装置160、传感器模块176或通信模块190)相关的功能或状态中的至少一些,或者在主处理器121处于激活状态(例如,运行应用)时,辅助处理器123可与主处理器121一起来控制与电子装置101的组件之中的至少一个组件(例如,显示装置160、传感器模块176或通信模块190)相关的功能或状态中的至少一些。根据实施例,可将辅助处理器123(例如,图像信号处理器或通信处理器)实现为在功能上与辅助处理器123相关的另一组件(例如,相机模块180或通信模块190)的部分。
存储器130可存储由电子装置101的至少一个组件(例如,处理器120或传感器模块176)使用的各种数据。所述各种数据可包括例如软件(例如,程序140)以及针对与其相关的命令的输入数据或输出数据。存储器130可包括易失性存储器132或非易失性存储器134。
可将程序140作为软件存储在存储器130中,并且程序140可包括例如操作系统(OS)142、中间件144或应用146。
输入装置150可从电子装置101的外部(例如,用户)接收将由电子装置101的其它组件(例如,处理器120)使用的命令或数据。输入装置150可包括例如麦克风、鼠标、键盘或数字笔(例如,手写笔)。
声音输出装置155可将声音信号输出到电子装置101的外部。声音输出装置155可包括例如扬声器或接收器。扬声器可用于诸如播放多媒体或播放唱片的通用目的,接收器可用于呼入呼叫。根据实施例,可将接收器实现为与扬声器分离,或实现为扬声器的部分。
显示装置160可向电子装置101的外部(例如,用户)视觉地提供信息。显示装置160可包括例如显示器、全息装置或投影仪以及用于控制显示器、全息装置和投影仪中的相应一个的控制电路。根据实施例,显示装置160可包括被适配为检测触摸的触摸电路或被适配为测量由触摸引起的力的强度的传感器电路(例如,压力传感器)。
音频模块170可将声音转换为电信号,反之亦可。根据实施例,音频模块170可经由输入装置150获得声音,或者经由声音输出装置155或与电子装置101直接(例如,有线地)连接或无线连接的外部电子装置(例如,电子装置102)的耳机输出声音。
传感器模块176可检测电子装置101的操作状态(例如,功率或温度)或电子装置101外部的环境状态(例如,用户的状态),然后生成与检测到的状态相应的电信号或数据值。根据实施例,传感器模块176可包括例如手势传感器、陀螺仪传感器、大气压力传感器、磁性传感器、加速度传感器、握持传感器、接近传感器、颜色传感器、红外(IR)传感器、生物特征传感器、温度传感器、湿度传感器或照度传感器。
接口177可支持将用来使电子装置101与外部电子装置(例如,电子装置102)直接(例如,有线地)或无线连接的一个或更多个特定协议。根据实施例,接口177可包括例如高清晰度多媒体接口(HDMI)、通用串行总线(USB)接口、安全数字(SD)卡接口或音频接口。
连接端178可包括连接器,其中,电子装置101可经由所述连接器与外部电子装置(例如,电子装置102)物理连接。根据实施例,连接端178可包括例如HDMI连接器、USB连接器、SD卡连接器或音频连接器(例如,耳机连接器)。
触觉模块179可将电信号转换为可被用户经由他的触觉或动觉识别的机械刺激(例如,振动或运动)或电刺激。根据实施例,触觉模块179可包括例如电机、压电元件或电刺激器。
相机模块180可捕获静止图像或运动图像。根据实施例,相机模块180可包括一个或更多个透镜、图像传感器、图像信号处理器或闪光灯。
电力管理模块188可管理对电子装置101的供电。根据实施例,可将电力管理模块188实现为例如电力管理集成电路(PMIC)的至少部分。
电池189可对电子装置101的至少一个组件供电。根据实施例,电池189可包括例如不可再充电的原电池、可再充电的蓄电池、或燃料电池。
通信模块190可支持在电子装置101与外部电子装置(例如,电子装置102、电子装置104或服务器108)之间建立直接(例如,有线)通信信道或无线通信信道,并经由建立的通信信道执行通信。通信模块190可包括能够与处理器120(例如,应用处理器(AP))独立操作的一个或更多个通信处理器,并支持直接(例如,有线)通信或无线通信。根据实施例,通信模块190可包括无线通信模块192(例如,蜂窝通信模块、短距离无线通信模块或全球导航卫星系统(GNSS)通信模块)或有线通信模块194(例如,局域网(LAN)通信模块或电力线通信(PLC)模块)。这些通信模块中的相应一个可经由第一网络198(例如,短距离通信网络,诸如蓝牙、无线保真(Wi-Fi)直连或红外数据协会(IrDA))或第二网络199(例如,长距离通信网络,诸如蜂窝网络、互联网、或计算机网络(例如,LAN或广域网(WAN)))与外部电子装置进行通信。可将这些各种类型的通信模块实现为单个组件(例如,单个芯片),或可将这些各种类型的通信模块实现为彼此分离的多个组件(例如,多个芯片)。无线通信模块192可使用存储在用户识别模块196中的用户信息(例如,国际移动用户识别码(IMSI))识别并验证通信网络(诸如第一网络198或第二网络199)中的电子装置101。
天线模块197可向电子装置101的外部(例如,外部电子装置)发送信号或电力或者从电子装置101的外部(例如,外部电子装置)接收信号或电力。根据实施例,天线模块197可包括天线,该天线包括由形成在基板(例如,PCB)中或基板上的导电材料或导电图案构成的辐射元件。根据实施例,天线模块197可包括多个天线。在这种情况下,可例如由通信模块190(例如,无线通信模块192)从多个天线中选择适合于在诸如第一网络198或第二网络199的通信网络中使用的通信方案的至少一个天线。然后可经由所选择的至少一个天线在通信模块190与外部电子装置之间发送或接收信号或电力。根据实施例,除了辐射元件之外的另一组件(例如,射频集成电路(RFIC))可另外形成为天线模块197的一部分。
上述组件中的至少一些组件可经由外设间通信方案(例如,总线、通用输入输出(GPIO)、串行外设接口(SPI)或移动工业处理器接口(MIPI))相互连接并在它们之间通信地传送信号(例如,命令或数据)。
根据实施例,可经由与第二网络199连接的服务器108在电子装置101与外部电子装置104之间发送或接收命令或数据。电子装置102和电子装置104中的每一个可以是与电子装置101相同类型的装置,或者是与电子装置101不同类型的装置。根据实施例,将在电子装置101运行的全部操作或一些操作可在外部电子装置102、外部电子装置104或服务器108中的一个或更多个运行。例如,如果电子装置101应自动执行功能或服务或者应响应于来自用户或另一装置的请求执行功能或服务,则电子装置101可请求所述一个或更多个外部电子装置执行所述功能或服务中的至少部分,而不是运行所述功能或服务,或者电子装置101除了运行所述功能或服务以外,还可请求所述一个或更多个外部电子装置执行所述功能或服务中的至少部分。接收到请求的所述一个或更多个外部电子装置可执行所述功能或服务中的所请求的至少部分,或者执行与请求相关的另外功能或另外服务,并将执行的结果传送到电子装置101。电子装置101可在对所述结果进行进一步处理的情况下或者在不对所述结果进行进一步处理的情况下将所述结果提供作为对请求的至少部分答复。为此,可使用例如云计算技术、分布式计算技术或客户机-服务器计算技术。
图2是示出根据实施例的网络环境200中的电子装置之间的连接的框图。
参照图2,例如,电子装置201可支持与第一外部电子装置202、第二外部电子装置203和第三外部电子装置204的通信。例如,第一外部电子装置202可以是与第一用户212相关联的电子装置;第二外部电子装置203可以是与第二用户213相关联的电子装置;第三外部电子装置204可以是与第三用户214相关联的电子装置。在该示例中,电子装置201可以是人工智能(AI)扬声器或智能扬声器。例如,电子装置201、第一外部电子装置202、第二外部电子装置203和第三外部电子装置204中的每一个可以是包括与图1的电子装置101的配置类似的配置的电子装置。根据实施例,第一外部电子装置202、第二外部电子装置203和第三外部电子装置204可以是位于距电子装置201指定距离内的个人电子装置(例如,移动电话)。根据实施例,电子装置201可以是车辆的声音系统(例如,车载套件),并且第一外部电子装置202、第二外部电子装置203和第三外部电子装置204可以是位于车辆中的移动电话。根据实施例,电子装置201可以是具有AI语音助理功能的家用电器(例如,冰箱、TV、PC或打印机),并且第一外部电子装置202、第二外部电子装置203和第三外部电子装置204可以是房屋内的移动电话。
根据实施例,电子装置201可包括处理器220(例如,图1的处理器120)、存储器230(例如,图1的存储器130)、声音输入装置250(例如,图1的输入装置150)、声音输出装置255(例如,图1的声音输出装置155)和/或通信电路290(例如,图1的通信模块190)。图2中所示的电子装置201的配置是示例性的,并且电子装置201可不包括图2中所示的组件中的至少一些组件,或者还可包括图2中未示出的附加组件。
根据实施例,处理器220可被可操作地连接到电子装置201的其它组件(例如,存储器230、声音输入装置250、声音输出装置255和/或通信电路290)。处理器220可被配置为执行电子装置201的操作。例如,处理器220可基于存储在存储器230中的指令来执行稍后描述的动作。处理器220可包括微处理器或任何合适类型的处理电路,诸如一个或更多个通用处理器(例如,基于ARM的处理器)、数字信号处理器(DSP)、可编程逻辑器件(PLD)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)、图形处理单元(GPU)、视频卡控制器等。此外,将认识到,当通用计算机访问用于实现本文所示的处理的代码时,代码的运行将通用计算机转换为用于运行本文所示的处理的专用计算机。附图中提供的特定功能和步骤可以以硬件、软件或两者的组合被实现,并且可全部或部分地在计算机的编程指令内被执行。除非使用短语“用于……的装置”明确地叙述元素,否则本文的权利要求元素将不在35 U.S.C.§112(f)的规定下被解释。此外,技术人员理解并认识到,“处理器”或“微处理器”可以是所要求保护的公开中的硬件。在最广泛的合理解释下,所附权利要求是符合35U.S.C.§112(f)的法定主题。
根据实施例,存储器230可存储用于控制处理器220的动作的指令和数据。例如,存储器230可存储对各种外部电子装置和用户进行映射的信息。
根据实施例,声音输入装置250可检测模拟声音信号,并且可将检测到的信号转换为数字信号。例如,声音输入装置250可物理地检测声波,并且可将声波转换为电信号。例如,声音输入装置250可包括至少一个麦克风。
根据实施例,声音输出装置255可输出声音信号。例如,声音输出装置255可包括至少一个扬声器,诸如定向、非定向或全向扬声器。
根据实施例,通信电路290可通过各种通信网络与外部电子装置通信。例如,通信电路290可通过短距离无线网络(例如,图1的第一网络198)(例如,蓝牙、BLE、邻居感知网络(NAN)、ZigBee、NFC、Wi-Fi和/或WLAN)执行通信。通信电路290还可通过远程无线网络(例如,图1的第二网络199)(例如,蜂窝网络)执行通信。在另一示例中,通信电路290可基于有线连接与另一外部电子装置通信。
根据实施例,电子装置201可基于语音命令执行动作。例如,电子装置201可使用利用声音输入装置250接收的语音命令来执行指定动作。根据实施例,电子装置201可检测话语并且可接收与话语相应的语音命令。例如,电子装置201可通过使用声音输入装置250检测话语,并且可接收语音命令。在另一示例中,电子装置201可通过使用连接到电子装置201的另一电子装置(未示出)检测话语,并且可接收语音命令。根据实施例,电子装置201可从语音命令辨识至少一个文本(例如,关键字),且可执行与辨识的文本相关联的动作(例如,关键字的互联网搜索)。例如,电子装置201可通过使用电子装置201的语音辨识功能从语音命令辨识至少一个文本(例如,关键字)。在另一示例中,电子装置201可将接收到的语音命令发送到外部服务器,并且可接收与由服务器辨识的至少一个文本相关联的路径规则。例如,路径规则(例如,用于执行用户请求的任务的电子装置201的状态的序列信息)可包括关于用于执行应用的功能的动作(或操作)的信息(例如,动作信息)和/或关于用于执行动作的参数(例如,关键字的至少一部分)的信息。例如,路径规则可包括关于应用的动作序列的信息。电子装置201可从外部服务器接收路径规则,可基于路径规则选择应用,并且可在选择的应用中执行包括在路径规则中的动作。根据实施例,电子装置201可仅在接收到指定语音命令时执行语音辨识。例如,电子装置201可在接收到唤醒命令时执行语音辨识。根据实施例,电子装置201可使用电子装置201的语音辨识功能来辨识与唤醒命令相应的语音,并且可使用外部电子装置(例如,服务器)对语音命令执行语音辨识。根据实施例,电子装置201可使用与语音命令和/或动作信息相关联的路径规则的参数(例如,关键字)来执行指定动作。
根据实施例,电子装置201可使用连接的外部电子装置中的一个或更多个外部电子装置来执行指定动作。例如,在图2的实施例中,指定动作可以是进行呼叫。根据实施例,电子装置201可从第一用户212接收用于进行呼叫的语音命令(例如,“呼叫Teresa”)。如上解释的,可在诸如唤醒命令的指定语音命令之后接收用于进行呼叫的语音命令。根据实施例,电子装置201可使用连接的外部电子装置来执行与用于进行呼叫的语音命令相应的动作。例如,电子装置201可指导外部电子装置202对与存储在外部电子装置202中的“Teresa”相应的联系人进行呼叫。
根据实施例,电子装置201可支持多重配对。例如,电子装置201可与第一外部电子装置202、第二外部电子装置203和/或第三外部电子装置204配对。例如,电子装置201可将关于配对的外部电子装置的信息存储在存储器230中。关于外部电子装置的信息可包括外部电子装置的标识符。根据实施例,电子装置201可将配对的外部电子装置的信息发送到外部服务器。根据实施例,电子装置201可基于与外部服务器相关联的电子装置201的账户来管理配对的外部电子装置的信息。
根据实施例,电子装置201可支持多点连接。例如,电子装置201可被连接到第一外部电子装置202、第二外部电子装置203和/或第三外部电子装置204。根据实施例,并且如下面详细解释的,当电子装置201与多个外部电子装置相关联时(例如,当电子装置201支持多配对和/或多点连接时),电子装置201可基于语音命令选择外部电子装置以执行与语音命令相应的动作。例如,当检测到第一用户212的语音命令(呼叫Teresa)并且电子装置201与多个外部电子装置202、203和204相关联时,电子装置201可通过基于关于第一用户212的信息(例如,账户信息和/或映射到账户信息的说话者信息)选择第一外部电子装置202来支持个性化装置连接。
根据实施例,电子装置201可选择与语音命令相应的外部电子装置,并且可连接到选择的外部电子装置。在一个示例中,电子装置201可基于接收到的语音命令与预先连接的外部电子装置断开连接并且可连接到选择的外部电子装置。在另一示例中,电子装置201可保持到预先连接的外部电子装置的连接,并且可基于接收到的语音命令连接到选择的外部电子装置。电子装置201可在连接到选择的外部电子装置之后执行指定动作。电子装置201可连接到选择的外部电子装置,而无需单独的用户输入。根据不同的实施例,电子装置201可被直接连接到外部电子装置,或者经由外部服务器被连接到外部电子装置。
根据实施例,电子装置201可至少基于说话者辨识来选择外部电子装置。例如,电子装置201可辨识与语音命令相应的说话者(例如,第一用户212),并且可使用与说话者相关联的外部电子装置(例如,第一外部电子装置202)来执行指定动作(例如,呼叫“Teresa”)。例如,电子装置201可使用存储在存储器230中的至少一个外部电子装置与至少一个用户之间的映射信息来选择适当的外部电子装置。
根据实施例,电子装置201可至少基于说话者辨识和关键字(例如,路径规则的参数)来选择外部电子装置。例如,电子装置201可基于针对语音命令“呼叫Teresa”的语音辨识(例如,通过电子装置201或外部服务器的语音辨识)来识别至少一个关键字(例如,“呼叫”和/或“Teresa”)。关键字可包括从语音命令辨识出的词语、从语音命令的至少部分辨识出的连续音节、基于辨识出的音节概率性地辨识的词语和/或从语音命令辨识出的音节的组合。在此实例中,电子装置201可辨识说话者(例如,第一用户212),并且可通过使用辨识出的关键字中的至少一个关键字(例如,Teresa)来选择与说话者相应的外部电子装置。根据实施例,当存在与辨识出的说话者相关联的多个外部电子装置时,电子装置201可使用关键字在多个外部电子装置中选择一个外部电子装置。例如,当与辨识出的第一用户212相关联的一个外部电子装置存储“Teresa”的联系人信息时,电子装置201可使用存储有适当的联系人信息的外部电子装置来执行指定动作(例如,呼叫“Teresa”)。
根据实施例,当存在与辨识出的说话者相关联的多个外部电子装置时,电子装置201可基于指定条件来选择外部电子装置。例如,指定条件可包括连接频率、接近程度、连接时间点、优先级或用户指定。例如,电子装置201可从与辨识出的说话者相关联的多个外部电子装置中选择被最频繁地连接到电子装置201的外部电子装置。在另一示例中,电子装置201可从与辨识出的说话者相关联的多个外部电子装置中选择在空间上最靠近电子装置201的外部电子装置。在另一示例中,电子装置201可从与辨识出的说话者相关联的多个外部电子装置中选择最近被连接到电子装置201的外部电子装置。在另一示例中,电子装置201可从与辨识出的说话者相关联的多个外部电子装置中选择具有最高优先级的外部电子装置。在另一示例中,电子装置201可从与辨识出的说话者相关联的多个外部电子装置中选择由用户(例如,辨识出的说话者)指定的外部电子装置。
在下文中,将参照图3至图11描述各种实施例。在图3至图11的示例性实施例中,基于第一用户212的话语使用第一外部电子装置202。然而,本公开的实施例不限于此。例如,关于第一外部电子装置202描述的细节可同样地被应用于第二外部电子装置203和/或第三外部电子装置204。
图3是示出根据实施例的网络300中的电子装置之间的通信的框图。
参照图3,电子装置201和第一外部电子装置202可通过第二网络199与第一服务器301和/或第二服务器302通信。例如,第二网络199可以是互联网。
根据实施例,第一服务器301可从外部电子装置(例如,电子装置201和/或第一外部电子装置202)接收包括语音命令的数据,并且可对接收到的数据执行语音辨识。例如,第一服务器301可基于语音辨识来识别语音中的说话者和/或关键字,并且可将关于辨识出的说话者的信息、参数(例如,关键字)和/或动作信息发送到外部电子装置。例如,第一服务器301可以是BixbyTM服务器。根据实施例,第一服务器301可从外部电子装置接收包括语音命令的数据和包括外部电子装置的标识符的数据。在该示例中,第一服务器301可使用外部电子装置的标识符来识别外部电子装置。第一服务器301可从第二服务器302获得与外部电子装置的标识符相应的外部电子装置的信息。
根据实施例,第一服务器301可基于各种用户的语音信息来识别与语音命令相关联的说话者。例如,第一服务器301可使用指定方法形成由用户的语音训练的用户的语音模型。语音模型可包括与说话者的语音相应的特征点,并且可用于说话者识别。第一服务器301可从各种电子装置(例如,电子装置201)接收一个或更多个用户语音,并且可生成与不同的用户语音相应的各种说话者的语音模型。可使用深度神经网络(DNN)通过接收到的用户语音来训练各种模型。例如,电子装置201可向用户呈现指定句子,并且可接收说出指定句子的用户的语音。语音可被发送到第一服务器301。在另一示例中,语音模型的训练可在电子装置201上本地完成,并且第一服务器301可从电子装置201接收由电子装置201训练的语音模型。
根据实施例,第一服务器301可将语音模型与电子装置201的账户信息一起存储。例如,当在电子装置201被登录到用户账户的同时从电子装置201接收到用户语音和/或语音模型时,第一服务器301可将语音模型映射到电子装置201的账户信息(例如,用户账户)并存储映射结果。例如,第一服务器301可从第二服务器302和/或电子装置201获得电子装置201的用户账户信息。对于另一示例,第一服务器301可从电子装置201或第二服务器302接收与用户账户相关联的信息(例如,名称或用户标识符),并且可将与用户账户相关联的信息与语音模型一起存储。
根据实施例,当从电子装置201接收到语音命令时,第一服务器301可使用与语音命令相应的语音模型来识别说话者(例如,与语音模型相关联的账户)。例如,第一服务器301可至少基于与发送语音命令的电子装置(例如,电子装置201)的账户相关联的语音模型与接收到的语音命令之间的比较来识别说话者。
根据实施例,第一服务器301可从语音命令识别至少一个关键字。例如,第一服务器301可从电子装置201接收与“呼叫Teresa”相应的语音命令,并且可从语音命令识别关键字“呼叫”和“Teresa”。例如,第一服务器301可根据从语音命令辨识出的词语、从语音命令的至少部分辨识出的连续音节、基于辨识出的音节概率性地辨识出的词语和/或从语音命令辨识出的音节的组合来识别关键字。
根据实施例,第一服务器301可从语音命令生成路径规则中的动作信息。例如,第一服务器301可基于从语音命令识别出的关键字生成动作信息。例如,第一服务器301可从关键字“呼叫”识别与进行呼叫相关联的动作,并且可生成包括与识别出的动作相应的动作标识符(例如,关于与动作相应的状态序列的信息)的动作信息。
根据实施例,第一服务器301可将包括至少一个参数(例如,识别出的说话者和/或关键字)和动作信息的路径规则发送到电子装置201。例如,第一服务器301可基于从电子装置201接收到的语音命令将识别出的第一用户212的标识信息(例如,用户的姓名、用户的标识符和/或用户的账户信息)、识别出的关键字(例如,与动作相关联的参数)“Teresa”和/或与进行呼叫相关联的动作信息发送到电子装置201。
根据实施例,第一服务器301可基于从电子装置201接收到的语音命令和电子装置的功能信息将路径规则发送到第一外部电子装置202。例如,当从电子装置201接收到语音命令时,第一服务器301可从第二服务器302获得电子装置201的功能信息。当基于功能信息确定电子装置201不支持与语音命令相应的动作(例如,进行呼叫)时,第一服务器301可经由电子装置201将路径规则发送到与基于语音命令识别出的第一用户212相关联的外部电子装置(例如,第一外部电子装置202)。例如,第一服务器301可将路径规则和指示将路径规则发送到第一外部电子装置202的指令发送到电子装置201。
根据实施例,第一服务器301可基于从电子装置201接收到的语音命令将识别出的关键字(例如,参数)“Teresa”和/或与进行呼叫相关联的动作信息(例如,路径规则)发送到与识别出第一用户212的账户相关联的第一外部电子装置202。例如,第一服务器301可经由第二服务器302将识别出的关键字和/或动作信息发送到第一外部电子装置202。
根据实施例,第二服务器302可管理用户账户和与用户账户相关联的电子装置的信息。例如,第二服务器302可管理第一用户212的用户账户和与用户账户相关联(例如,注册有用户账户)的电子装置(例如,第一外部电子装置202和/或电子装置201)的信息。例如,第二服务器302可存储关于与用户账户相关联的电子装置的功能(例如,进行呼叫的能力、语音输出、连接和/或语音输入)的信息。
根据实施例,第二服务器302可从第一外部电子装置202接收与第一用户212和/或第一外部电子装置202相关联的标识信息(例如,账户信息、电话号码、电子邮件地址和/或唯一标识符(UID))和地址信息(例如,第一外部电子装置202的地址(例如,蓝牙地址))。根据实施例,第一外部电子装置202可将电子装置201的标识信息(例如,电子装置201的标识符和/或电子装置201的账户信息)、与第一外部电子装置202相关联的标识信息以及与第一外部电子装置202相关联的地址信息发送到第二服务器302。例如,第一外部电子装置202的第一用户212可使用第一外部电子装置202将电子装置201注册在第一外部电子装置202的账户中。第一外部电子装置202可提供用于注册另一电子装置的用户接口,并且可基于对用户接口的输入将电子装置201的标识信息发送到第二服务器302。在另一示例中,当第一外部电子装置202与电子装置201配对或被连接到电子装置201时,第一外部电子装置202可将电子装置201的标识信息发送到第二服务器302。
根据实施例,第二服务器302可基于来自第一外部电子装置202或第一服务器301的请求将与第一外部电子装置202相关联的标识信息和地址信息发送到电子装置201。例如,第二服务器302可基于从第一外部电子装置202接收到的电子装置201的标识信息来识别电子装置201,并且可将与第一外部电子装置202相关联的标识信息和地址信息发送到识别出的电子装置201。
根据实施例,第一外部电子装置202和电子装置201可处于第一外部电子装置202和电子装置201被登录到第二服务器302的状态。例如,第一外部电子装置202和电子装置201可使用同一账户(例如,第一用户212的账户)被登录到第二服务器302。在另一示例中,第一外部电子装置202和电子装置201可使用属于同一组账户的账户被登录到第二服务器302。在另一示例中,第一外部电子装置202可使用第二账户被登录到第二服务器302,并且电子装置201可使用与第二账户不同的第一账户被登录到第二服务器302。
根据实施例,电子装置201可包括控制与第一服务器301的通信的第一服务器客户端。例如,第一服务器客户端可包括存储在存储器230中的应用和/或服务。例如,第一服务器客户端可执行语音辨识。根据实施例,电子装置201可包括用于管理联系人信息的联系人应用。联系人应用可管理外部电子装置的联系人信息,其中,外部电子装置向电子装置201注册、与电子装置201配对、或被连接到电子装置201。联系人应用可基于第一服务器客户端的请求来搜索联系人信息。根据实施例,电子装置201可包括账户管理员。例如,账户管理员可管理与第二服务器302相关联的电子装置201的账户信息以及外部电子装置(例如,第一外部电子装置202)的账户信息。根据实施例,电子装置201可包括呼叫应用。例如,呼叫应用可控制使用外部电子装置进行语音呼叫的功能。根据实施例,电子装置201可包括通信框架。例如,通信框架可基于指定协议来控制与外部电子装置的通信。例如,通信框架可包括蓝牙框架。
根据实施例,第一外部电子装置202可以是向电子装置201注册的电子装置。例如,电子装置201可存储第一外部电子装置202的标识信息和地址信息。
图4是示出根据实施例的外部电子装置的注册方法的信号流400的信号流程图。
在图4中,假设第一外部电子装置202和电子装置201被登录到第二服务器302。例如,第一外部电子装置202和电子装置201可使用同一账户、属于同一组账户的账户或不同的账户被登录到第二服务器302。根据实施例,在操作405,第一外部电子装置202可在第一外部电子装置202的显示器上显示第一UI。例如,第一外部电子装置202可基于用户输入(例如,显示第一UI的选择)在显示器上显示第一UI。根据实施例,第一UI可以是与呼叫应用相应的UI。例如,第一UI可包括用于连接到电子装置201的图标(例如,蓝牙图标)。与呼叫应用相应的第一UI仅是示例,并且本公开不限于此。例如,第一UI可以是支持与电子装置201的连接的任意应用(例如,SmartThings或BixbyTM)的UI。按照这样,第一UI可包括用于连接到电子装置201的UI。
根据实施例,在操作410,第一外部电子装置202可接收对第一UI的指定输入。例如,指定输入可以是指示第一外部电子装置202应连接到电子装置201的输入。
根据实施例,在操作415,第一外部电子装置202可将第一外部电子装置202的标识信息和地址信息发送到第二服务器302。根据实施例,第一外部电子装置202可响应于指定输入而连接到电子装置201,并且可获得与连接相关联的第一外部电子装置202的地址信息。根据实施例,在连接到电子装置201之后,第一外部电子装置202可将与第一外部电子装置202相关联的标识信息、与第一外部电子装置202相关联的地址信息和/或电子装置201的标识信息发送到第二服务器302。例如,第一外部电子装置202可将与第一外部电子装置202相关联的标识信息(例如,账户信息、电话号码、电子邮件地址和/或UID)、与第一外部电子装置202相关联的地址信息(例如,第一外部电子装置202的地址(例如,蓝牙地址))和/或电子装置201的标识信息(例如,电子装置201的标识符和/或电子装置201的账户信息)发送到第二服务器302。
根据实施例,在操作417,第二服务器302可将第一外部电子装置202的标识信息和地址信息发送到电子装置201。例如,第二服务器302可至少基于从第一外部电子装置202接收到的电子装置201的标识信息,将第一外部电子装置202的标识信息和地址信息发送到电子装置201。在另一示例中,第一外部电子装置202和电子装置201可属于同一账户或在第二服务器302中彼此相关联的多个账户。在这种情况下,第二服务器302可将第一外部电子装置202的标识信息和地址信息发送到与同一账户或相关联的多个账户相应的电子装置(例如,电子装置201)。
根据实施例,第一外部电子装置202可将第一外部电子装置202的标识信息和地址信息发送到电子装置201。例如,第一外部电子装置202可通过到电子装置201的连接将第一外部电子装置202的标识信息和地址信息发送到电子装置201。在这种情况下,可跳过操作417。
根据实施例,在操作420,电子装置201可确定与第一外部电子装置相关联的地址是否存在于电子装置201的存储器230中。例如,电子装置201的存储器230可存储包括向电子装置201注册的外部电子装置的标识信息和地址信息的映射的数据库。
根据实施例,当存在关于第一外部电子装置202的地址信息时,在操作425,电子装置201可删除存储的地址,并且在操作430,电子装置201可将标识信息和地址信息存储在存储器230中。因此,电子装置201可更新存储的第一外部电子装置202的地址信息。
根据实施例,当不存在关于第一外部电子装置202的信息时,在操作430,电子装置201可将第一外部电子装置202的接收到的标识信息和接收到的地址信息存储在存储器230中。
在下面的描述中,除非另有描述,否则可假设第一外部电子装置202向电子装置201注册。
图5是示出根据实施例的语音命令运行方法500的流程图。
将参照图5描述通过第一外部电子装置202与电子装置201之间的连接的语音命令运行方法。在图5的实施例中,第一外部电子装置202可处于先前已经与电子装置201配对但当前未被连接到电子装置201的状态。例如,第一外部电子装置202可能过去已经被连接到电子装置201,并且第一外部电子装置202的信息(例如,标识信息或地址信息)被存储在电子装置201的存储器(例如,图2的存储器230)中。
根据实施例,在操作505,电子装置201可检测用户(例如,图2的第一用户212)的话语。例如,电子装置201可使用电子装置201的声音输入装置(例如,图2的声音输入装置250)来检测用户的话语。
根据实施例,在操作510,电子装置201的状态可从第一状态转换到第二状态。例如,电子装置201的状态可响应于检测到话语而从第一状态(例如,空闲状态或待机状态)转换到第二状态(例如,唤醒状态或活动状态)。例如,第二状态可以是功耗高于第一状态的功耗的状态。根据实施例,可跳过操作510。例如,在检测(操作505)到话语之前,电子装置201可处于第二状态。
根据实施例,在操作515,电子装置201可获得与话语相应的语音数据。根据实施例,电子装置201可通过使用语音输入装置接收语音信号(例如,用户的话语)来获得语音数据。例如,与话语相应的语音数据可包括指定的语音命令(例如,唤醒命令)和语音命令。在另一示例中,与话语相应的语音数据可包括在指定的语音命令(例如,唤醒命令)之后接收到的语音命令。在另一示例中,与话语相应的语音数据可仅包括指定的语音命令(例如,唤醒命令)。
根据实施例,在操作520,电子装置201可获得与语音数据相关联的动作信息和说话者信息。
根据实施例,电子装置201可至少基于对语音数据的语音辨识来获得说话者信息。例如,电子装置201可使用嵌入在电子装置201中的语音辨识功能来辨识与语音数据相应的说话者(例如,第一用户212)。在另一示例中,电子装置201可使用存储在电子装置201中的语音模型和映射到存储在电子装置201中的语音模型的账户信息来识别与接收到的语音命令相应的账户。电子装置201可识别与语音命令相应的说话者,并且可识别与说话者相关联的账户。因此,电子装置201可识别与语音数据相应的账户。电子装置201可确定与识别出的账户相关联的电子装置。在另一示例中,电子装置201可使用通信电路(例如,图2的通信电路290)将语音数据发送到外部电子装置(例如,图3的第一服务器301),并且可从外部电子装置获得说话者信息。例如,电子装置201可从外部电子装置接收与语音数据相应的账户的信息。
根据实施例,说话者信息可包括说话者或与说话者相关联的电子装置(例如,图2的第一外部电子装置202)的标识信息。例如,说话者信息可包括说话者或与说话者相关联的电子装置的账户信息(例如,存储在图3的第二服务器302中的账户信息、电话号码和/或电子邮件地址)。
根据实施例,电子装置201可至少基于对语音数据的语音辨识来获得动作信息。例如,电子装置201可使用嵌入在电子装置201中的语音辨识功能来辨识与语音数据相应的关键字,并且可获得与关键字相应的动作信息。对于另一示例,电子装置201可将语音数据发送到外部电子装置,并且可从外部电子装置接收基于语音辨识生成的路径规则(例如,参数和动作信息)。例如,在图2的实施例中,“呼叫Teresa”可包括关键字“呼叫”和“Teresa”,并且动作信息可指示进行呼叫的动作。路径规则可包括与关键字“Teresa”相应的参数以及与进行呼叫相应的动作信息。例如,路径规则可以是指示与进行与参数“Teresa”相关联的呼叫相应的动作的信息。
根据实施例,在操作525,电子装置201可确定与说话者相关联的外部电子装置。根据实施例,电子装置201可从存储器230获得关于与识别出的说话者相关联(例如,映射到识别出的说话者的账户)的外部电子装置的信息。例如,电子装置201可使用存储在存储器230中的外部电子装置的账户信息与地址信息之间的映射来获得与识别出的说话者相关联的外部电子装置的信息。例如,电子装置201可从存储器230获得与说话者相关联的外部电子装置的地址(例如,蓝牙地址)和/或外部电子装置的标识信息。例如,电子装置201可获得与第一用户212相关联的第一外部电子装置202的信息。
根据实施例,当存在与识别出的说话者相关联的多个外部电子装置时,电子装置201可从多个外部电子装置中选择一个外部电子装置。例如,电子装置201可确定与动作信息、包括在动作信息中的关键字和/或识别出的说话者相关联的一个外部电子装置。例如,当存在与第一用户212相关联的多个外部电子装置时,电子装置201可将存储与识别出的关键字“Teresa”相应的联系人信息的外部电子装置确定为将被连接的外部电子装置。因此,电子装置201可使用存储在多个外部电子装置的存储器中的联系人信息和/或存储在外部服务器(例如,图3的第二服务器302)中的多个外部电子装置的联系人信息来识别包括与识别出的关键字相应的联系人信息的外部电子装置。
根据实施例,电子装置201可基于与识别出的说话者相关联的多个外部电子装置中的每个外部电子装置的接近程度和/或连接频率来从多个外部电子装置中确定一个外部电子装置。例如,当存在与第一用户212相关联的多个外部电子装置时,电子装置201可在接收话语时选择在空间上最靠近电子装置201或最频繁地被连接到电子装置201的外部电子装置。
根据实施例,电子装置201可基于外部电子装置的状态从多个外部电子装置中确定一个外部电子装置。例如,可存在与第一用户212相关联的多个电子装置,电子装置201可使用外部服务器(例如,IoT服务器)获得外部电子装置的状态信息。例如,当外部电子装置中的第一外部电子装置正在运行游戏并且第二外部电子装置处于待机状态时,电子装置201可使用第二外部电子装置执行指定动作(例如,进行呼叫)。
根据实施例,电子装置201可从与识别出的说话者相关联的多个外部电子装置中选择最近被连接到电子装置201的外部电子装置。
根据实施例,在操作530,电子装置201可连接到确定的外部电子装置。例如,电子装置201可使用确定的外部电子装置的地址和/或外部电子装置的标识信息连接到确定的外部电子装置。例如,电子装置201可通过使用从电子装置201的蓝牙框架获得的外部电子装置的地址信息进行连接请求而连接到确定的外部电子装置。在先前的示例中,电子装置201可连接到第一外部电子装置202。
在上述示例中,选择与单个说话者相关联的多个外部电子装置中的一个外部电子装置。然而,多个说话者(例如,用户)可向一个外部电子装置注册。例如,孩子可向父母的电子装置中的每个电子装置注册。在这种情况下,父亲和孩子向父亲的电子装置注册,并且母亲和孩子向母亲的电子装置注册。当从孩子接收到语音命令时,电子装置201可辨识多个说话者以选择外部电子装置。例如,当基于语音辨识确定孩子和母亲聚集在一起时,电子装置201可使用母亲的电子装置执行指定动作(例如,进行呼叫)。在另一示例中,当基于语音辨识确定孩子和父亲聚集在一起时,电子装置201可使用父亲的电子装置执行指定动作。
根据实施例,在操作535,电子装置201可使用连接的外部电子装置执行与动作信息相应的动作。例如,电子装置201可通过使用通信电路290将允许外部电子装置执行与动作信息相应的动作的信号发送到连接的外部电子装置。例如,电子装置201可指导第一外部电子装置202对与识别出的关键字“Teresa”相应的号码进行呼出呼叫。根据实施例,电子装置201可执行与由第一外部电子装置202进行的呼出呼叫相关联的动作。例如,电子装置201可输出从第一外部电子装置202接收到的语音,并且可将由电子装置201接收到的语音发送到第一外部电子装置202。
图5的操作是用于描述的示例,并且本公开的实施例不限于此。例如,在执行操作535时,电子装置201可通过外部服务器(例如,图3的第二服务器302)将用于指示执行与动作信息相应的动作的信号发送到外部电子装置。在这种情况下,可跳过操作530。
在下文中,将参照图6至图8描述与图5的语音命令运行方法相应的各种信号流。在图6至图8中,为了便于描述,可假设语音命令与进行呼叫相关联。
图6是示出根据实施例的基于动作信息的通信连接建立方法600的信号流程图。
根据实施例,电子装置201可包括用于控制与第一服务器301的通信的第一服务器客户端、管理联系人信息的联系人应用、管理与第二服务器302相关联的账户信息和外部电子装置(例如,第一外部电子装置202)的账户信息的账户管理员、控制执行语音呼叫的功能的呼叫应用、以及基于指定协议控制与外部电子装置的通信的通信框架(例如,蓝牙框架)。
根据实施例,在操作605,电子装置201可接收语音数据。操作605的描述可与关联于图5的操作515的描述相同或相似。
根据实施例,在操作610,电子装置201可将语音数据发送到第一服务器301。例如,电子装置201可使用通信电路(例如,图2的通信电路290)经由第二网络(例如,图1的第二网络199)将语音数据发送到第一服务器301。根据实施例,电子装置201可包括控制与第一服务器301的通信的第一服务器客户端。例如,电子装置201可在第一服务器客户端的控制下将语音数据发送到第一服务器301。
根据实施例,在操作615,第一服务器301可基于对接收到的语音数据的语音辨识来辨识说话者和关键字。根据实施例,第一服务器301可通过对接收到的语音数据执行语音辨识来辨识说话者。例如,第一服务器301可通过使用存储的说话者的语音模型来辨识说话者。第一服务器301可存储从图3的电子装置201或第二服务器302接收到的向电子装置201注册的外部电子装置的信息(例如,外部电子装置的账户信息)。根据实施例,第一服务器301可使用与向电子装置201注册的外部电子装置相关联的语音模型(例如,映射到外部电子装置的账户的语音模型)对语音数据执行语音辨识。根据实施例,第一服务器301可通过对接收到的语音数据执行语音辨识来辨识关键字。例如,第一服务器301可基于接收到的语音数据辨识关键字(例如,“呼叫”和“Teresa”)。
根据实施例,在操作620,第一服务器301可将说话者信息和关键字信息(例如,路径规则的参数)发送到电子装置201。例如,说话者信息可包括与识别出的说话者相关联的账户信息、电子邮件地址和/或电话号码。例如,关键字信息可包括辨识出的关键字(例如,Teresa)。根据实施例,在操作620,由第一服务器301发送说话者信息和关键字信息可被称为发送第一路径规则,其中,第一路径规则包括说话者信息和关键字信息作为参数并且包括指示搜索说话者信息和关键字信息的动作信息。例如,可由电子装置201的第一服务器客户端接收说话者信息和关键字信息。
根据实施例,在操作625,电子装置201可将与说话者信息和关键字信息相关联的联系人信息发送到第一服务器301。例如,电子装置201可使用接收到的说话者信息和关键字信息来搜索存储在电子装置201的存储器(例如,图2的存储器230)中的用户和外部电子装置的映射信息以及与外部电子装置相关联的联系人信息。根据实施例,电子装置201可使用说话者信息确定与说话者相关联的至少一个外部电子装置。根据实施例,电子装置201可在确定的至少一个外部电子装置(例如,与说话者相应的外部电子装置)的联系人中搜索与关键字(例如,Teresa)相应的联系人信息。例如,电子装置201可使用与关键字相应的联系人信息从至少一个外部电子装置中确定将执行通信连接的外部电子装置(例如,第一外部电子装置202)。
根据实施例,电子装置201可使用第一服务器代理接收说话者信息和关键字信息,并且可使用联系人应用执行针对接收到的说话者和关键字信息的联系人信息的搜索。第一服务器代理可从联系人应用接收联系人信息(例如,电话号码),并且可通过通信电路将接收到的联系人信息发送到第一服务器301。
根据实施例,电子装置201可基于与识别出的说话者相关联的多个外部电子装置中的每个外部电子装置的接近程度和/或连接频率来确定多个外部电子装置中的一个外部电子装置。例如,当存在与第一用户212相关联的多个外部电子装置时,电子装置201可在接收话语时选择最靠近电子装置201或最频繁地被连接到电子装置201的外部电子装置。
根据实施例,电子装置201可从与识别出的说话者相关联的多个外部电子装置中选择最频繁地被连接到电子装置201的外部电子装置。
根据实施例,在操作630,第一服务器301可将基于联系人信息的动作信息发送到电子装置201。例如,动作信息可包括与第一外部电子装置202相应的联系人信息和账户信息。根据实施例,在操作630,基于第一服务器301的联系人信息的动作信息可被称为发送包括指示电子装置201与第一外部电子装置202之间的通信连接的动作信息的第二路径规则。例如,可由电子装置201的第一服务器客户端接收动作信息。
例如,上述操作610、操作615、操作620、操作625和操作630可与图5的操作520和操作525相应。
根据实施例,在操作635,电子装置201可至少基于从第一服务器301接收到的动作信息来建立到第一外部电子装置202的通信连接。例如,电子装置201的第一服务器客户端可将包括在动作信息中的联系人信息和账户信息发送到呼叫应用。呼叫应用可从账户管理员获得与账户信息相应的地址信息。呼叫应用可请求蓝牙框架通过使用获得的地址信息建立到第一外部电子装置202的通信连接。例如,操作635可与图5的操作530相应。
根据实施例,在操作640,电子装置201可使用第一外部电子装置202通过通信连接进行呼叫。例如,当从蓝牙框架接收到指示建立通信连接的信息时,呼叫应用可通过到第一外部电子装置202的连接进行呼出呼叫。例如,操作640的描述可与图5的操作535相应。
根据实施例,当从第一服务器301接收到说话者信息和关键字信息(例如,“呼叫”和“Teresa”)时(例如,操作620),电子装置201可使用说话者信息和关键字信息建立(例如,操作635)到第一外部电子装置202的通信连接,并且可通过通信连接进行呼叫(例如,操作640)。在这种情况下,可省略操作625和操作630。例如,电子装置201可使用与说话者信息和关键字信息相关联的联系人信息来搜索存储在电子装置201的存储器(例如,图2的存储器290)中的用户与外部电子装置之间的映射信息以及与外部电子装置相关联的联系人信息。根据实施例,电子装置201可使用说话者信息确定与说话者相关联的至少一个外部电子装置。根据实施例,电子装置201可搜索与存储在确定的至少一个外部电子装置的联系人中的关键字(例如,“Teresa”)相应的联系人信息。例如,电子装置201可使用与关键字相应的联系人信息从至少一个外部电子装置中确定将执行通信连接的外部电子装置(例如,第一外部电子装置202)。根据实施例,电子装置201可执行与确定的外部电子装置和关键字(例如,“呼叫”)相应的动作(例如,操作635和操作640)。
图7是示出根据实施例的基于语音辨识和通信连接的并行执行的语音呼叫执行方法700的信号流程图。
根据实施例,电子装置201可包括控制与第一服务器301的通信的第一服务器客户端、管理联系人信息的联系人应用、管理与第二服务器302相关联的账户信息和外部电子装置(例如,第一外部电子装置202)的账户信息的账户管理员、控制执行语音呼叫的功能的呼叫应用、以及基于指定协议控制与外部电子装置的通信的通信框架(例如,蓝牙框架)。
根据实施例,在操作705,电子装置201可接收语音数据。操作705的描述可与关联于图6的操作605的描述相同或相似。
根据实施例,在操作710,电子装置201可将语音数据发送到第一服务器301。操作710的描述可与关联于图6的操作610的描述相同或相似。
根据实施例,在操作715,第一服务器301可辨识说话者和关键字。操作715的描述可与关联于图6的操作615的描述相同或相似。
根据实施例,在操作720,电子装置201可接收说话者信息和关键字信息。第一服务器301可将路径规则的参数(例如,说话者信息和关键字信息)发送到电子装置201。例如,说话者信息可包括与识别出的说话者相关联的账户信息、电子邮件地址和/或电话号码。关键字信息可包括辨识出的关键字(例如,“Teresa”和“呼叫”)。根据实施例,在操作720,由第一服务器301发送说话者信息和关键字信息可被称为发送第一路径规则,其中,第一路径规则包括指示搜索说话者信息和关键字信息(例如,“Teresa”)的第一动作信息以及与关键字(例如,“呼叫”)相应的动作(例如,建立通信连接)。例如,可由电子装置201的第一服务器客户端接收说话者信息和关键字信息。
操作720的描述可与关联于图6的操作620的描述相同或相似。
根据实施例,电子装置201可使用接收到的说话者信息和关键字信息搜索存储在电子装置201的存储器(例如,图2的存储器290)中的用户与外部电子装置之间的映射信息以及与外部电子装置相关联的联系人信息。根据实施例,电子装置201可使用说话者信息确定与说话者相关联的至少一个外部电子装置。根据实施例,电子装置201可在确定的至少一个外部电子装置的联系人中搜索与关键字(例如,Teresa)相应的联系人信息。例如,电子装置201可基于联系人信息从多个外部电子装置中确定将执行通信连接的外部电子装置(例如,第一外部电子装置202)。根据实施例,电子装置201可使用安装在电子装置201中的联系人应用搜索联系人信息。根据实施例,电子装置201可使用第一服务器代理接收说话者信息和关键字信息,并且可使用联系人应用基于接收到的说话者信息和关键字信息执行搜索。
根据实施例,在操作725,电子装置201可建立到第一外部电子装置202的通信连接。例如,电子装置201的联系人应用可将用于请求连接的消息发送到电子装置201的呼叫应用。根据实施例,电子装置201可使用说话者和/或关键字(例如,“Teresa”)确定到第一外部电子装置202的连接。根据实施例,电子装置201可建立与至少基于从第一服务器301接收到的说话者信息和关键字信息确定的第一外部电子装置202的通信连接。例如,电子装置201的第一服务器客户端可使用包括在第一动作信息中的关键字(例如,“呼叫”)建立通信连接。电子装置201的第一服务器客户端可将联系人信息和账户信息发送到呼叫应用。呼叫应用可从账户管理员获得与账户信息相应的地址信息。呼叫应用可请求蓝牙框架通过使用获得的地址信息建立到第一外部电子装置202的通信连接。
根据实施例,在操作730,电子装置201可将与说话者信息和关键字信息相关联的联系人信息发送到第一服务器301。例如,操作730的描述可与关联于图6的操作625的描述相同或相似。
根据实施例,在操作735,电子装置201可从第一服务器301接收基于联系人信息的动作信息。例如,操作735的描述可与关联于图6的操作630的描述相同或相似。
根据实施例,在操作740,电子装置201可通过通信连接进行呼叫。操作740的描述可与关联于图6的操作640的描述相同或相似。
在图7的实施例中,电子装置201可并行地执行通信连接的建立(例如,操作725)和联系人信息的发送(例如,操作730)。例如,可基本上同时执行通信连接的建立和联系人信息的发送。电子装置201可并行地执行通信连接的建立和联系人信息的发送,从而减少进行语音呼叫所需的时间。
图8是示出根据实施例的基于本地语音辨识的语音呼叫执行方法800的信号流程图。
根据实施例,电子装置201可包括控制与第一服务器301的通信的第一服务器客户端、管理联系人信息的联系人应用、管理与第二服务器302相关联的账户信息以及外部电子装置(例如,第一外部电子装置202)的账户信息的账户管理员、控制执行语音呼叫的功能的呼叫应用、以及基于指定协议控制与外部电子装置的通信的通信框架(例如,蓝牙框架)。
根据实施例,在操作805,电子装置201可接收语音数据。操作805的描述可与关联于图6的操作605的描述相同或相似。
根据实施例,在操作810,电子装置201可使用电子装置201的语音辨识功能从语音数据辨识动作关键字(例如,“呼叫”)。根据实施例,电子装置201可使用第一服务器客户端从语音数据辨识动作关键字。例如,电子装置201可从语音数据辨识与“呼叫”相应的动作关键字。
根据实施例,在操作815,电子装置201可执行连接准备。例如,电子装置201的第一服务器客户端可将用于请求蓝牙连接的消息发送到呼叫应用。例如,当接收到蓝牙连接请求消息时,呼叫应用可请求到蓝牙框架的蓝牙连接。
根据实施例,在操作820,电子装置201可将语音数据发送到第一服务器301。操作820的描述可与关联于图6的操作610的描述相同或相似。
例如,电子装置201可并行地执行操作815和操作820。
根据实施例,在操作825,第一服务器301可辨识说话者和关键字。操作825的描述可与关联于图6的操作615的描述相同或相似。
根据实施例,在操作830,电子装置201可接收说话者信息和关键字信息。例如,说话者信息可包括与识别出的说话者相关联的账户信息、电子邮件地址和/或电话号码。例如,关键字信息可包括辨识出的关键字(例如,“Teresa”)。根据实施例,在操作830,由第一服务器301发送说话者信息和关键字信息可被称为发送指示搜索说话者信息和关键字信息的第一动作信息。例如,可由电子装置201的第一服务器客户端接收说话者信息和关键字信息。根据实施例,第一服务器客户端可通过电子装置201的联系人应用或直接将接收到的说话者信息和接收到的关键字信息发送到电子装置201的呼叫应用。
根据实施例,在操作835,电子装置201可建立到第一外部电子装置202的通信连接。操作835的描述可与关联于图6的操作635的描述相同或相似。
根据实施例,在操作840,电子装置201可将与说话者信息和关键字信息相关联的联系人信息发送到第一服务器301。例如,操作840的描述可与关联于图6的操作625的描述相同或相似。
根据实施例,在操作845,电子装置201可从第一服务器301接收基于联系人信息的动作信息。操作845的描述可与关联于图6的操作630的描述相同或相似。
根据实施例,在操作850,电子装置201可通过通信连接进行呼叫。操作850的描述可与关联于图6的操作640的描述相同或相似。
在图8的实施例中,电子装置201基于语音数据内的动作关键字的辨识(例如,操作810)执行通信连接建立的准备动作(例如,操作815),从而减少进行语音呼叫所需的时间。
图9是示出根据实施例的呼叫进行方法900的流程图。
根据实施例,电子装置201可包括控制与第一服务器301的通信的第一服务器客户端、管理联系人信息的联系人应用、管理与第二服务器302相关联的账户信息以及外部电子装置(例如,第一外部电子装置202)的账户信息的账户管理员、控制执行语音呼叫的功能的呼叫应用、以及基于指定协议控制与外部电子装置的通信的通信框架(例如,蓝牙框架)。
根据实施例,在操作905,电子装置201可接收语音数据。例如,语音数据可包括与进行呼叫相应的语音命令。操作905的描述可与关联于图5的操作515或图6的操作605的描述相同或相似。
根据实施例,在操作910,电子装置201可接收说话者信息和关键字。例如,电子装置201可将语音数据发送到图3的第一服务器301,并且可从第一服务器301接收包括动作信息和路径规则的参数(例如,说话者信息和关键字)的路径规则。操作910的描述可与关联于图5的操作520的描述相同或相似。例如,动作信息可以是允许电子装置201使用外部电子装置执行指定动作(例如,建立通信连接)的动作信息。路径规则可以是用于指示通过使用参数来执行动作的信息。
根据实施例,在操作915,电子装置201可确定说话者是否是向电子装置201注册的说话者。例如,在执行与关键字相应的指定动作之前,电子装置201可通过使用电子装置201的账户管理员确定说话者是否是向电子装置201注册的说话者。当说话者未向电子装置201注册时,在操作920,电子装置201可提供未注册说话者指引。例如,电子装置201可提供指示针对未注册的说话者的访问拒绝的听觉和/或视觉指引。对于另一示例,电子装置201可忽略未注册的说话者的话语。
根据实施例,当说话者是注册的说话者时,在操作925,电子装置201可确定是否存在与说话者相关联的外部电子装置。例如,电子装置201可确定是否存在映射到说话者的外部电子装置或向说话者注册的外部电子装置。电子装置201可使用账户管理员确定是否存在与说话者相关联的外部电子装置。
根据实施例,当不存在与说话者相关联的外部电子装置时,电子装置201可能无法执行与路径规则相应的指定动作。根据实施例,在操作930,电子装置201可提供用于外部电子装置的注册的指引。例如,电子装置201可提供引导用于注册外部电子装置的程序的听觉和/或视觉指引。在另一示例中,电子装置201可忽略其装置未被注册的说话者的话语。
根据实施例,当存在与说话者相关联的外部电子装置时,在操作935,电子装置201可确定关键字(例如,路径规则的参数)是否包括电话号码。根据实施例,当关键字包含电话号码时,电子装置201可使用与说话者相关联的外部电子装置对电话号码进行呼叫。例如,电子装置201可在连接到相关联的外部电子装置之后进行呼叫。
根据实施例,当关键字不包括电话号码时,在操作945,电子装置201可确定是否存在与关键字相应的联系人信息。根据实施例,当不存在与关键字相应的联系人信息时,在操作950,电子装置201可提供指示接收者信息未被识别的指引(例如,用户界面屏幕)。例如,电子装置201可提供指示不存在联系人信息的指引、推荐互联网搜索的指引和/或重复语音命令的指引。
根据实施例,在操作955,电子装置201可使用与说话者相关联的外部电子装置对与联系人信息相应的电话号码进行呼叫。操作955的描述可与关联于图5的操作535的描述相同或相似。
图10是示出根据实施例的呼叫接收方法1000的流程图。
根据实施例,在操作1005,可由第一外部电子装置202接收呼叫。例如,在操作1005,第一外部电子装置202可响应于呼入呼叫而播放指定的铃声。
根据实施例,在操作1007,第一外部电子装置202可将接收呼叫的通知发送到第二服务器302。第一外部电子装置202可响应于接收呼叫而发送通知。根据实施例,第一外部电子装置202可在发现电子装置201时将通知发送到第二服务器302。例如,第一外部电子装置202可请求第二服务器302将通知发送到电子装置201。根据实施例,第一外部电子装置202可请求与第一外部电子装置202的账户相关联的其它电子装置(例如,具有与接收呼叫相关联的功能的电子装置)发送接收呼叫的通知。
根据实施例,在操作1010,第二服务器302可将接收呼叫的通知发送到电子装置201。例如,通知可包括第一外部电子装置202的标识信息(例如,与第一外部电子装置202相关联的账户信息(例如,关于与图2的第一用户212相关联的第二服务器302的账户信息)、电子邮件地址和/或电话号码)以及第一外部电子装置202的地址信息(例如,第一外部电子装置202的蓝牙地址)。第二服务器302可基于接收到来自第一外部电子装置202的通知将通知发送到电子装置201。
根据实施例,在操作1015,电子装置201可响应于接收到呼叫的通知而播放通知铃声。例如,当包括在通知中的第一外部电子装置202的标识信息是向电子装置201注册的标识信息时,电子装置201可播放通知铃声。在另一示例中,当接收到第一外部电子装置202的铃声和通知时,电子装置201可播放通知铃声。
根据实施例,在操作1020,电子装置201可接收用于接收呼叫的语音命令。例如,可由第一外部电子装置202的用户(例如,图2的第一用户212)执行语音命令。
根据实施例,在操作1025,电子装置201可执行说话者辨识。例如,电子装置201可对用于接收呼叫的语音命令执行说话者辨识。例如,电子装置201可将与语音命令相应的语音数据发送到图3的第一服务器301,并且第一服务器301可执行说话者辨识。在另一示例中,电子装置201可使用语音数据和存储在电子装置201中的语音模型来执行说话者辨识。
根据实施例,电子装置201可确定辨识出的说话者是否是与接收呼叫的通知相关联的第一外部电子装置202的用户。例如,电子装置201可获得第一外部电子装置202的账户信息,其中,该账户信息可被包括在来自第二服务器302的通知中。电子装置201可确定与辨识出的说话者相关联的账户是否与第一外部电子装置202的账户相同。当确定辨识出的说话者是第一外部电子装置202的用户时,电子装置201可执行与第一外部电子装置202的通信连接。
根据实施例,在操作1030,电子装置201可执行到第一外部电子装置202的通信连接。例如,电子装置201可使用通过来自第二服务器302的通知接收到的第一外部电子装置202的地址信息来执行到第一外部电子装置202的通信连接。
根据实施例,在操作1035,电子装置201可使用第一外部电子装置202执行与呼入呼叫相应的呼叫连接或呼叫相关动作。
图11是示出根据实施例的外部电子装置连接方法1100的流程图。
根据实施例,在操作1105,电子装置201可检测用户(例如,图2的第一用户212)的话语。例如,电子装置201可使用电子装置201的声音输入装置或可操作地连接到电子装置201的外部电子装置来检测话语。响应于检测到话语,电子装置201的状态可从第一状态转换到第二状态。例如,电子装置201的状态可响应于检测到话语而从第一状态(例如,空闲状态或待机状态)转换到第二状态(例如,唤醒状态或活动状态)。在另一示例中,在检测到话语之前,电子装置201可处于第二状态。
根据实施例,在操作1110,电子装置201可至少部分地基于与检测到的话语相应的语音数据来识别说话者信息。例如,与话语相应的语音数据可包括指定的语音命令(例如,唤醒命令)和语音命令。在另一示例中,与话语相应的语音数据可包括在指定的语音命令之后接收到的语音命令。在另一示例中,与话语相应的语音数据可包括指定的语音命令(例如,唤醒命令)。根据实施例,电子装置201可至少基于对语音数据的语音辨识来获得说话者信息。例如,电子装置201可使用嵌入在电子装置201中的语音辨识功能辨识与语音数据相应的说话者(例如,第一用户212)。在另一示例中,电子装置201可使用通信电路(例如,图2的通信电路290)将语音数据发送到外部电子装置(例如,图3的第一服务器301),并且可从外部电子装置获得基于语音辨识获得的说话者信息。根据实施例,说话者信息可包括说话者或与说话者相关联的电子装置(例如,图2的第一外部电子装置202)的标识信息。例如,说话者信息可包括说话者或与说话者相关联的电子装置的账户信息(例如,存储在图3的第二服务器302中的账户信息、电话号码和/或电子邮件地址)。
根据实施例,电子装置201可至少基于对语音数据的语音辨识来获得动作信息。例如,电子装置201可使用嵌入在电子装置201中的语音辨识功能来辨识与语音数据相应的关键字,并且可获得与关键字相应的动作信息。在另一示例中,电子装置201可将语音数据发送到外部电子装置(例如,图3的第一服务器301),并且可从外部电子装置接收基于语音辨识生成的动作信息。
根据实施例,在操作1115,电子装置201可确定是否找到与说话者信息相关联的外部电子装置信息。例如,电子装置201可基于存储在电子装置201的存储器(例如,图2的存储器230)中的账户以及与账户相关联的外部电子装置列表信息来搜索与说话者相关联的外部电子装置信息。
根据实施例,当找到与说话者相关联的外部电子装置信息时,在操作1120,电子装置201可经由通信电路(例如,图2的通信电路290)连接到找到的外部电子装置(例如,图2的第一外部电子装置202)。根据实施例,电子装置201可获得与说话者相关联的外部电子装置的地址(例如,蓝牙地址)和/或外部电子装置的标识信息。例如,电子装置201可从电子装置201的存储器230获得与第一用户212相关联的第一外部电子装置202的信息。根据实施例,可从账户管理服务器(例如,图3的第二服务器302)接收外部电子装置的地址。根据实施例,电子装置201可连接与外部电子装置的通信。例如,电子装置201可使用外部电子装置的地址和/或外部电子装置的标识信息来连接与外部电子装置的通信。例如,电子装置201可通过使用获得的外部电子装置的地址信息向电子装置201的蓝牙框架请求连接来连接与外部电子装置的通信。
根据实施例,电子装置201可至少基于对语音数据的语音辨识来获得动作信息。根据实施例,电子装置201可确定与识别出的说话者相关联的多个外部电子装置中的一个外部电子装置。例如,电子装置201可确定与从语音数据辨识出的动作信息、包括在动作信息中的关键字和/或使用关键字识别出的说话者相关联的多个外部电子装置中的一个外部电子装置。例如,电子装置201可基于与识别出的说话者相关联的多个外部电子装置中的每个外部电子装置的接近程度和/或连接频率来确定多个外部电子装置中的一个外部电子装置。例如,电子装置201可从与识别出的说话者相关联的多个外部电子装置中选择最近被连接到电子装置201的外部电子装置。
根据实施例,在与外部电子装置通信连接之后,电子装置201可使用外部电子装置执行与动作信息和/或关键字相应的动作。例如,电子装置201可通过使用连接的外部电子装置执行呼入呼叫、呼出呼叫、音乐回放、数据接收和/或数据发送。根据实施例,电子装置201可基于动作信息和/或关键字有区别地设置到外部电子装置的通信连接的配置文件。
根据实施例,当未找到与说话者信息相关联的外部电子装置时,在操作1125,电子装置201可提供用于注册电子装置的指引。例如,电子装置201可提供用于注册电子装置的视觉和/或听觉指引。
根据实施例,电子装置(例如,图2的电子装置201)可包括至少一个通信电路(例如,图2的通信电路290)、声音输入电路(例如,图2的声音输入装置250)、可操作地连接到至少一个通信电路和声音输入电路的处理器(例如,图2的处理器220)、以及可操作地连接到处理器的存储器(例如,图2的存储器230)。根据实施例,存储器可存储指令,其中,所述指令在被执行时使处理器执行将被描述的电子装置的动作。
根据实施例,当使用声音输入电路检测到话语时,电子装置201可获得与检测到的话语相应的语音数据,可至少基于对语音数据的语音辨识来识别语音数据的说话者信息,可使用与说话者信息相关联的第一外部电子装置(例如,第一外部电子装置202)的地址信息将电子装置通信地连接到第一外部电子装置202,并且可通过使用至少一个通信电路与第一外部电子装置一起执行与语音数据相应的动作。
根据实施例,电子装置201可使用至少一个通信电路将获得的语音数据发送到第一服务器(例如,图3的第一服务器301),并且可从第一服务器301接收说话者信息。
根据实施例,电子装置201可从第一服务器接收基于对语音数据的语音辨识而识别的至少一个关键字。
根据实施例,电子装置201可使用识别出的说话者信息和至少一个关键字搜索与识别出的说话者信息和至少一个关键字相应的联系人信息,并且可将联系人信息发送到第一服务器301。
根据实施例,电子装置可至少基于至少一个关键字从与识别出的说话者信息相关联的多个外部电子装置中选择第一外部电子装置。例如,第一电子装置可与联系人信息相关联。
根据实施例,电子装置可从第一服务器301接收基于联系人信息的动作信息。
根据实施例,动作信息可包括与进行呼叫相关联的动作。电子装置可使用第一外部电子装置202进行呼叫。
根据实施例,电子装置201可基于多个外部电子装置中的每个外部电子装置的接近程度和/或连接频率从与识别出的说话者信息相关联的多个外部电子装置中选择第一外部电子装置202。
根据实施例,电子装置和第一外部电子装置可基于蓝牙通信标准被连接。
根据实施例,说话者信息可包括与说话者信息相关联的账户信息、电子邮件地址和/或电话号码,并且可从第二服务器(例如,图3的第二服务器302)接收与说话者信息相关联的账户信息、电子邮件地址和电话号码以及与说话者信息相关联的第一外部电子装置的地址信息。
根据实施例,电子装置201的通信连接方法可包括:当检测到话语时,获得与检测到的话语相应的语音数据,至少基于对语音数据的语音辨识来识别语音数据的说话者信息,使用与说话者信息相关联的第一外部电子装置202的地址信息将电子装置通信地连接到第一外部电子装置202,并且与第一外部电子装置一起执行与语音数据相应的动作。
根据实施例,识别说话者信息的步骤包括:将获得的语音数据发送到第一服务器301,并且从第一服务器301接收说话者信息。
根据实施例,通信连接方法还可包括从第一服务器301接收基于对语音数据的语音辨识而识别出的至少一个关键字。
根据实施例,通信连接方法还可包括:使用识别出的说话者信息和至少一个关键字搜索与识别出的说话者信息和至少一个关键字相应的联系人信息,并且将联系人信息发送到第一服务器301。
根据实施例,通信连接方法还可包括:至少基于至少一个关键字,从与识别出的说话者信息相关联的多个外部电子装置中选择第一外部电子装置。第一外部电子装置202可与联系人信息相关联。
根据实施例,电子装置(例如,图2的电子装置201)可包括至少一个通信电路(例如,图2的通信电路290)、声音输入电路(例如,图2的声音输入装置250)、可操作地连接到至少一个通信电路和声音输入电路的处理器(例如,图2的处理器220)、以及可操作地连接到处理器的存储器(例如,图2的存储器230)。根据实施例,存储器可存储与至少一个外部电子装置(例如,图2的第一外部电子装置202)相关联的账户信息和地址信息。存储器可存储指令,其中,所述指令在被执行时使处理器执行将被描述的电子装置的动作。
根据实施例,电子装置201可使用声音输入电路接收语音数据,可至少基于对语音数据的语音辨识来识别与语音数据相关联的说话者的账户信息,可从存储器获得与账户信息相关联的第一外部电子装置202的地址信息,并且可使用至少一个通信电路将电子装置通信地连接到第一外部电子装置。
根据实施例,电子装置201可使用至少一个通信电路将接收到的语音数据发送到第一服务器301,并且可从第一服务器接收说话者信息的账户信息。
根据实施例,电子装置201可至少基于对语音数据的语音辨识来识别与语音数据相关联的至少一个关键字。例如,至少一个关键字可与使用第一外部电子装置的动作相应。
根据实施例,电子装置201可使用至少一个通信电路将接收到的语音数据发送到第一服务器,并且可从第一服务器接收至少一个关键字。
根据实施例,第一外部电子装置202可以是最近被连接到电子装置201的装置。
根据特定实施例的电子装置可以是各种类型的电子装置之一。电子装置可包括例如便携式通信装置(例如,智能电话)、计算机装置、便携式多媒体装置、便携式医疗装置、相机、可穿戴装置或家用电器。根据本公开的实施例,电子装置不限于以上描述的那些电子装置。
应理解的是,本公开的特定实施例以及其中使用的术语并不意图将本文阐述的技术特征限于特定实施例,并且包括针对相应实施例的各种改变、等同物或替换物。对于附图的描述,相似的参考标号可用于指相似或相关的元件。将理解的是,除非相关上下文另有明确指示,否则与术语相应的单数形式的名词可包括一个或更多个事物。如本文使用的,诸如“A或B”、“A和B中的至少一个”、“A或B中的至少一个”、“A、B或C”、“A、B和C中的至少一个”以及“A、B或C中的至少一个”的这些短语中的每个短语可包括在多个短语中的相应一个短语中一起列举出的项的任意一项或所有可能组合。如本文使用的,诸如“第一”和“第二”的这些术语可用于将相应组件与另一组件简单地区分开,并且不在其它方面(例如,重要性或顺序)限制组件。将理解的是,在使用了术语“可操作地”或“通信地”的情况下或者在不使用术语“可操作地”或“通信地”的情况下,如果元件(例如,第一元件)被称为“与另一元件(例如,第二元件)耦合”、“耦合到另一元件(例如,第二元件)”、“与另一元件(例如,第二元件)连接”或“连接到另一元件(例如,第二元件)”,则意味着所述元件可与所述另一元件直接(例如,有线地)连接、与所述另一元件无线连接、或经由第三元件与所述另一元件连接。
如本文使用的,术语“模块”可包括以硬件、软件或固件实现的单元,并且可与其它术语(例如,“逻辑”、“逻辑块”、“部件”或“电路”)可互换地使用。模块可以是被适配为执行一个或更多个功能的单个集成组件或者是该单个集成组件的最小单元或部分。例如,根据实施例,可以以专用集成电路(ASIC)的形式来实现模块。
可将本文阐述的特定实施例实现为包括存储在可由机器(例如,电子装置101)读取的存储介质(例如,内部存储器136或外部存储器138)中的一个或更多个指令的软件(例如,程序140)。例如,在处理器的控制下,机器(例如,电子装置101)的处理器(例如,处理器120)可在使用或不使用一个或更多个其它组件的情况下调用存储在存储介质中的所述一个或更多个指令中的至少一个指令并运行所述至少一个指令。这使得所述机器能够被操作以根据调用的所述至少一个指令执行至少一个功能。所述一个或更多个指令可包括由编译器生成的代码或可由解释器运行的代码。可以以非暂时性存储介质的形式来提供机器可读存储介质。其中,术语“非暂时性”仅意味着存储介质是有形装置,并且不包括信号(例如,电磁波),但该术语并不在数据被半永久性地存储在存储介质中与数据被临时存储在存储介质中之间进行区分。
根据实施例,可在计算机程序产品中包括和提供根据本公开的特定实施例的方法。计算机程序产品可作为产品在销售者与购买者之间进行交易。可以以机器可读存储介质(例如,紧凑盘只读存储器(CD-ROM))的形式来发布计算机程序产品,或者可经由应用商店(例如,PlayStoreTM)在线发布(例如,下载或上传)计算机程序产品,或者可直接在两个用户装置(例如,智能电话)之间发布(例如,下载或上传)计算机程序产品。如果是在线发布的,则计算机程序产品的至少部分可被临时生成,或者可至少被临时存储在机器可读存储介质(诸如制造商的服务器、应用商店的服务器或转发服务器的存储器)中。
根据特定实施例,上述组件中的每个组件(例如,模块或程序)可包括单个实体或多个实体。根据特定实施例,可省略上述组件中的一个或更多个组件,或者可添加一个或更多个其它组件。可选地或另外地,可将多个组件(例如,模块或程序)集成为单个组件。在这种情况下,根据特定实施例,集成组件可仍旧按照与所述多个组件中的相应一个组件在集成之前执行所述多个组件中的每个组件的一个或更多个功能相同或相似的方式,执行所述一个或更多个功能。根据特定实施例,由模块、程序或另一组件执行的操作可顺序地、并行地、重复地或以启发式方式被执行,或者操作中的一个或更多个操作可按照不同的顺序被运行或被省略,或者可添加一个或更多个其它操作。
本公开的上述实施例中的特定实施例可以以硬件、固件、或者通过运行可存储在记录介质(诸如CD ROM、数字通用盘(DVD)、磁带、RAM、软盘、硬盘或磁光盘)中的软件或计算机代码、或通过网络下载最初存储在远程记录介质或非暂时性机器可读介质上并将被存储在本地记录介质上的计算机代码被实现,使得本文描述的方法可经由使用通用计算机或专用处理器或在可编程或专用硬件(诸如ASIC或FPGA)中存储在记录介质上的这种软件被呈现。如本领域将理解的,计算机、处理器、微处理器控制器或可编程硬件包括可存储或接收软件或计算机代码的存储器组件(例如,RAM、ROM、闪存等),其中,当所述软件或计算机代码被计算机、处理器或硬件访问和运行时,实现本文描述的处理方法。
尽管已经参照本公开的各种实施例示出和描述了本公开,但本领域技术人员将理解,在不脱离由所附权利要求及其等同物限定的本公开的精神和范围的情况下,可在其中进行形式和细节上的各种改变。

Claims (15)

1.一种电子装置,包括:
至少一个通信电路;
声音输入电路;
处理器,可操作地连接到所述至少一个通信电路和声音输入电路;以及
存储器,可操作地连接到处理器,其中,存储器存储指令,其中,所述指令在被运行时使处理器进行以下操作:
当使用声音输入电路检测到话语时,获得与检测到的话语相应的语音数据,
至少部分地基于对语音数据的语音辨识来识别语音数据的说话者信息,
使用与说话者信息相关联的第一外部电子装置的地址信息,将所述电子装置通信地连接到第一外部电子装置,并且
通过使用所述至少一个通信电路与第一外部电子装置一起执行与语音数据相应的动作。
2.如权利要求1所述的电子装置,其中,所述指令在被执行时还使处理器进行以下操作:
使用所述至少一个通信电路将获得的语音数据发送到第一服务器,并且
从第一服务器接收说话者信息。
3.如权利要求2所述的电子装置,其中,所述指令在被执行时还使处理器进行以下操作:
从第一服务器接收基于对语音数据的语音辨识而识别出的至少一个关键字。
4.如权利要求3所述的电子装置,其中,所述指令在被执行时还使处理器进行以下操作:
使用识别出的说话者信息和所述至少一个关键字搜索与识别出的说话者信息和所述至少一个关键字相应的联系人信息,并且
将联系人信息发送到第一服务器。
5.如权利要求4所述的电子装置,其中,所述指令在被执行时还使处理器进行以下操作:
至少基于所述至少一个关键字从与识别出的说话者信息相关联的多个外部电子装置中选择第一外部电子装置,
其中,第一外部电子装置与联系人信息相关联。
6.如权利要求4所述的电子装置,其中,所述指令在被执行时还使处理器进行以下操作:
从第一服务器接收基于联系人信息的动作信息。
7.如权利要求6所述的电子装置,其中,动作信息包括与进行呼叫相关联的动作,并且
其中,所述指令在被执行时还使处理器进行以下操作:
使用第一外部电子装置进行呼叫。
8.如权利要求1所述的电子装置,其中,所述指令在被执行时还使处理器进行以下操作:
基于与识别出的说话者信息相关联的多个外部电子装置中的每个外部电子装置的接近程度和/或连接频率从所述多个外部电子装置中选择第一外部电子装置。
9.如权利要求1所述的电子装置,其中,所述电子装置和第一外部电子装置基于蓝牙通信标准被连接。
10.如权利要求1所述的电子装置,其中,说话者信息包括与说话者信息相关联的账户信息、电子邮件地址和/或电话号码,并且
其中,与说话者信息相关联的账户信息、电子邮件地址和电话号码以及与说话者信息相关联的第一外部电子装置的地址信息从第二服务器被接收。
11.一种电子装置的通信连接方法,所述方法包括:
当检测到话语时,获得与检测到的话语相应的语音数据;
至少基于对语音数据的语音辨识来识别语音数据的说话者信息;
使用与说话者信息相关联的第一外部电子装置的地址信息将所述电子装置通信地连接到第一外部电子装置;并且
与第一外部电子装置一起执行与语音数据相应的动作。
12.如权利要求11所述的方法,其中,识别说话者信息的步骤包括:
将获得的语音数据发送到第一服务器;并且
从第一服务器接收说话者信息。
13.如权利要求12所述的方法,还包括:
从第一服务器接收基于对语音数据的语音辨识而识别出的至少一个关键字。
14.如权利要求13所述的方法,还包括:
使用识别出的说话者信息和所述至少一个关键字搜索与识别出的说话者信息和所述至少一个关键字相应的联系人信息;并且
将联系人信息发送到第一服务器。
15.如权利要求14所述的方法,还包括:
至少基于所述至少一个关键字从与识别出的说话者信息相关联的多个外部电子装置中选择第一外部电子装置,并且
其中,第一外部电子装置与联系人信息相关联。
CN201980042626.XA 2018-08-08 2019-07-25 支持个性化装置连接的电子装置及其方法 Pending CN112334978A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
KR1020180092704A KR102574903B1 (ko) 2018-08-08 2018-08-08 개인화된 장치 연결을 지원하는 전자 장치 및 그 방법
KR10-2018-0092704 2018-08-08
PCT/KR2019/009260 WO2020032443A1 (en) 2018-08-08 2019-07-25 Electronic device supporting personalized device connection and method thereof

Publications (1)

Publication Number Publication Date
CN112334978A true CN112334978A (zh) 2021-02-05

Family

ID=69406352

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201980042626.XA Pending CN112334978A (zh) 2018-08-08 2019-07-25 支持个性化装置连接的电子装置及其方法

Country Status (5)

Country Link
US (1) US20200051558A1 (zh)
EP (1) EP3777115A4 (zh)
KR (1) KR102574903B1 (zh)
CN (1) CN112334978A (zh)
WO (1) WO2020032443A1 (zh)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11003419B2 (en) 2019-03-19 2021-05-11 Spotify Ab Refinement of voice query interpretation
US11862175B2 (en) * 2021-01-28 2024-01-02 Verizon Patent And Licensing Inc. User identification and authentication
US11715487B2 (en) * 2021-03-31 2023-08-01 Accenture Global Solutions Limited Utilizing machine learning models to provide cognitive speaker fractionalization with empathy recognition
US11914537B2 (en) 2021-04-15 2024-02-27 Apple Inc. Techniques for load balancing with a hub device and multiple endpoints
GB2619894A (en) * 2021-04-15 2023-12-20 Apple Inc Techniques for communication between hub device and multiple endpoints
WO2022221360A1 (en) * 2021-04-15 2022-10-20 Apple Inc. Techniques for communication between hub device and multiple endpoints
DE102021204310A1 (de) 2021-04-29 2022-11-03 Psa Automobiles Sa Auswahl aus mehreren mit einem Fahrzeug verbundenen Mobilgeräten

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003218996A (ja) * 2002-01-18 2003-07-31 Alpine Electronics Inc 携帯電話のハンズフリー装置
KR20090032053A (ko) * 2009-02-11 2009-03-31 이문섭 음성인식을 이용한 개인전화번호부 데이터베이스 구축방법과, 그를 이용한 자동 전화연결 서비스 방법 및 시스템
CN106448678A (zh) * 2012-05-29 2017-02-22 三星电子株式会社 用于在电子装置中执行语音命令的方法和设备
US20170094511A1 (en) * 2015-09-24 2017-03-30 Samsung Electronics Co., Ltd. Method of performing communication and electronic device supporting same

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6931104B1 (en) * 1996-09-03 2005-08-16 Koninklijke Philips Electronics N.V. Intelligent call processing platform for home telephone system
KR20120009189A (ko) * 2010-07-23 2012-02-01 현대모비스 주식회사 차량 상태 표시 시스템 및 그의 이동 단말기 상태 표시 방법
US8489398B1 (en) * 2011-01-14 2013-07-16 Google Inc. Disambiguation of spoken proper names
KR20140078328A (ko) * 2012-12-17 2014-06-25 주식회사 케이티 무선 자원 제어 비활성화 타이머 설정 시스템 및 방법
US9111214B1 (en) * 2014-01-30 2015-08-18 Vishal Sharma Virtual assistant system to remotely control external services and selectively share control
US9812126B2 (en) 2014-11-28 2017-11-07 Microsoft Technology Licensing, Llc Device arbitration for listening devices
US10127926B2 (en) * 2016-06-10 2018-11-13 Google Llc Securely executing voice actions with speaker identification and authentication input types
US10453449B2 (en) * 2016-09-01 2019-10-22 Amazon Technologies, Inc. Indicator for voice-based communications
US10332523B2 (en) 2016-11-18 2019-06-25 Google Llc Virtual assistant identification of nearby computing devices
US11546400B2 (en) * 2016-12-31 2023-01-03 Turner Broadcasting System, Inc. Generating a live media segment asset
KR101883301B1 (ko) * 2017-01-11 2018-07-30 (주)파워보이스 인공 지능 자동 화자 식별 방법을 이용하는 개인 맞춤형 음성 인식 서비스 제공 방법 및 이에 사용되는 서비스 제공 서버
WO2018169380A1 (ko) * 2017-03-17 2018-09-20 엘지전자(주) 블루투스 기술을 이용하여 오디오 신호를 처리하기 위한 방법 및 장치
US10102855B1 (en) * 2017-03-30 2018-10-16 Amazon Technologies, Inc. Embedded instructions for voice user interface
KR102582517B1 (ko) * 2017-05-16 2023-09-26 구글 엘엘씨 공유된 음성 작동 디바이스상의 호출 핸들링
US11100922B1 (en) * 2017-09-26 2021-08-24 Amazon Technologies, Inc. System and methods for triggering sequences of operations based on voice commands
KR102455199B1 (ko) * 2017-10-27 2022-10-18 엘지전자 주식회사 인공지능 디바이스
KR102576388B1 (ko) * 2018-02-21 2023-09-08 엘지전자 주식회사 디스플레이 장치 및 그의 동작 방법

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003218996A (ja) * 2002-01-18 2003-07-31 Alpine Electronics Inc 携帯電話のハンズフリー装置
KR20090032053A (ko) * 2009-02-11 2009-03-31 이문섭 음성인식을 이용한 개인전화번호부 데이터베이스 구축방법과, 그를 이용한 자동 전화연결 서비스 방법 및 시스템
CN106448678A (zh) * 2012-05-29 2017-02-22 三星电子株式会社 用于在电子装置中执行语音命令的方法和设备
US20170094511A1 (en) * 2015-09-24 2017-03-30 Samsung Electronics Co., Ltd. Method of performing communication and electronic device supporting same

Also Published As

Publication number Publication date
WO2020032443A1 (en) 2020-02-13
US20200051558A1 (en) 2020-02-13
KR20200017296A (ko) 2020-02-18
KR102574903B1 (ko) 2023-09-05
EP3777115A4 (en) 2021-06-02
EP3777115A1 (en) 2021-02-17

Similar Documents

Publication Publication Date Title
US11443744B2 (en) Electronic device and voice recognition control method of electronic device
CN112334978A (zh) 支持个性化装置连接的电子装置及其方法
US20200043490A1 (en) Electronic device and method for determining electronic device to perform speech recognition
CN112331196A (zh) 管理多个智能代理的电子设备及其操作方法
CN110858481A (zh) 用于处理用户语音话语的系统和用于操作该系统的方法
KR102447381B1 (ko) 통화 중 인공지능 서비스를 제공하기 위한 방법 및 그 전자 장치
CN112806067B (zh) 语音切换方法、电子设备及系统
US11250870B2 (en) Electronic device for supporting audio enhancement and method for the same
US20220172722A1 (en) Electronic device for processing user utterance and method for operating same
US11636867B2 (en) Electronic device supporting improved speech recognition
KR20190122457A (ko) 음성 인식을 수행하는 전자 장치 및 전자 장치의 동작 방법
CN111640429A (zh) 提供语音识别服务的方法和用于该方法的电子装置
US11862178B2 (en) Electronic device for supporting artificial intelligence agent services to talk to users
AU2019201441B2 (en) Electronic device for processing user voice input
US20200125603A1 (en) Electronic device and system which provides service based on voice recognition
US11425081B2 (en) Message reception notification method and electronic device supporting same
US20230032366A1 (en) Method and apparatus for wireless connection between electronic devices
CN113678119A (zh) 用于生成自然语言响应的电子装置及其方法
US20220286757A1 (en) Electronic device and method for processing voice input and recording in the same
US20210027765A1 (en) Electronic device and operating method thereof
US20230095294A1 (en) Server and electronic device for processing user utterance and operating method thereof
US20230422009A1 (en) Electronic device and offline device registration method
CN112165552A (zh) 控制语音助手的方法以及使用该方法的电子装置
US20230129555A1 (en) Electronic device and operating method thereof
US20240096331A1 (en) Electronic device and method for providing operating state of plurality of devices

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination