CN111770131A - 负载平衡的持久连接技术 - Google Patents

负载平衡的持久连接技术 Download PDF

Info

Publication number
CN111770131A
CN111770131A CN202010404896.5A CN202010404896A CN111770131A CN 111770131 A CN111770131 A CN 111770131A CN 202010404896 A CN202010404896 A CN 202010404896A CN 111770131 A CN111770131 A CN 111770131A
Authority
CN
China
Prior art keywords
server instance
connection
address
client device
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010404896.5A
Other languages
English (en)
Other versions
CN111770131B (zh
Inventor
弗雷德·托罗
彼得·斯伯丁·万兰德
弗雷德里克·约翰·乔治斯·德拉马
维克拉姆·库马尔·贡德蒂
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Amazon Technologies Inc
Original Assignee
Amazon Technologies Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Amazon Technologies Inc filed Critical Amazon Technologies Inc
Priority to CN202010404896.5A priority Critical patent/CN111770131B/zh
Publication of CN111770131A publication Critical patent/CN111770131A/zh
Application granted granted Critical
Publication of CN111770131B publication Critical patent/CN111770131B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/14—Session management
    • H04L67/142—Managing session states for stateless protocols; Signalling session states; State transitions; Keeping-state mechanisms
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L61/00—Network arrangements, protocols or services for addressing or naming
    • H04L61/09—Mapping addresses
    • H04L61/25—Mapping addresses of the same type
    • H04L61/2503—Translation of Internet protocol [IP] addresses
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L61/00—Network arrangements, protocols or services for addressing or naming
    • H04L61/45—Network directories; Name-to-address mapping
    • H04L61/4552—Lookup mechanisms between a plurality of directories; Synchronisation of directories, e.g. metadirectories
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/1006—Server selection for load balancing with static server selection, e.g. the same server being selected for a specific client
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1027—Persistence of sessions during load balancing
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/14—Session management
    • H04L67/143—Termination or inactivation of sessions, e.g. event-controlled end of session
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/2866—Architectures; Arrangements
    • H04L67/30—Profiles
    • H04L67/303—Terminal profiles
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L69/00—Network arrangements, protocols or services independent of the application payload and not provided for in the other groups of this subclass
    • H04L69/14—Multichannel or multilink protocols
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W76/00—Connection management
    • H04W76/20—Manipulation of established connections
    • H04W76/25—Maintenance of established connections
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L12/00—Data switching networks
    • H04L12/28—Data switching networks characterised by path configuration, e.g. LAN [Local Area Networks] or WAN [Wide Area Networks]
    • H04L12/2803—Home automation networks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/14—Session management
    • H04L67/143—Termination or inactivation of sessions, e.g. event-controlled end of session
    • H04L67/145—Termination or inactivation of sessions, e.g. event-controlled end of session avoiding end of session, e.g. keep-alive, heartbeats, resumption message or wake-up for inactive or interrupted session

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computer Security & Cryptography (AREA)
  • Telephonic Communication Services (AREA)
  • Computer And Data Communications (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)
  • Communication Control (AREA)
  • Stored Programmes (AREA)

Abstract

用于在客户端装置与一个或多个远程计算资源之间创建持久连接的技术，其可形成网络可访问计算平台的一部分。这种连接可被认为是“永久的”或“几乎永久的”以允许客户端装置在几乎任何时间同时发送数据到远程资源并且从所述远程资源接收数据。此外，客户端装置与远程资源可通过这种单个连接建立虚拟信道。如果在阈值时间量内在客户端装置与远程计算资源之间没有数据交换，那么可切断连接并且所述客户端装置可尝试与所述远程计算资源建立新的连接。

Description

负载平衡的持久连接技术
本申请是分案申请，其原申请的国际申请号为PCT/US2014/033210,国际申请日是2014年4月7日，中国国家申请号为201480032600.4，进入中国的日期为2015年12月7日，发明名称为“负载平衡的持久连接技术”。
相关申请
本申请要求2013年4月8日提交的名称为“负载平衡的持久连接技术(Load-Balanced,Persistent Connection Techniques)”的美国专利申请号13/858,753的优先权，所述申请的全部内容以引用的方式并入本文。
背景技术
随着计算装置(如台式计算机、平板计算机、娱乐系统和便携式通信装置)的激增，家庭正变得更加有线的和连接的。随着计算装置发展，已引进了许多不同的方法以便允许用户与这些装置交互，如通过机械装置(例如，键盘、鼠标等)、触摸屏、动作和手势。与计算装置交互的另一种方法是通过语音。
附图说明
参考附图来描述详细的说明。在图中，参考数字的最左侧的数字标识在其中所述参考数字首次出现的图。在不同的图中使用的相同参考数字指示类似或相同的部件或特征。
图1示出设置在家庭环境中的说明性语音交互计算结构。所述结构包括物理上位于家中并且通信地耦合至远程计算资源的语音控制装置。
图2附加详细示出图1的结构。如图所示，每个语音控制装置通过负载平衡服务连接至远程计算资源述负载平衡服务将连接请求路由至不同的服务器实例。
图3示出图2的语音控制装置与服务器实例之间的示例性连接。这种单个物理连接包括多个虚拟信道，通过所述多个虚拟信道可多路复用发送至客户端装置并且由其接收的数据。
图4描绘图1的语音控制装置或其他客户端装置可实施的示例性过程的流程图。
图5描绘图1的远程计算资源可实施的示例性过程的流程图。
图6示出在图1的语音控制装置中实施的所选择的功能部件的框图。
具体实施方式
本公开部分地描述了用于在客户端装置与一个或多个远程计算资源之间创建持久连接的技术，所述持久连接可形成网络可访问的计算平台的一部分。这种连接可被认为是“永久的”或“几乎永久的”，以便允许客户端装置在几乎任何时间同时将数据发送至远程资源并且从其接收数据。因为客户端装置需要能够在任何时间发送和/或接收数据，当客户端装置通电时，可建立这些“永久的”或“几乎永久的”连接。也就是说，当每个客户端装置通电时，各自的客户端装置可尝试与网络可访问的计算平台建立连接。
为了创建此类连接，本文所描述的客户端装置可被配置来请求到虚拟互联网协议(VIP)地址的连接。因为远程计算资源可服务大量的客户端装置，所述客户端装置可被预先配置来连接到一些不同的VIP地址中的特定的一个，所述一些不同的VIP地址中的每一个可对应于网络可访问的计算平台的服务器实例的多个IP地址。
当客户端装置通过调用与特定的客户端装置相关联的VIP地址请求连接时，可通过与VIP相关联的负载平衡服务接收所述请求。这种服务随后可识别哪些IP地址对应于VIP，并且可选择将路由对其的请求的所述IP地址中的一个(以及，因此服务器实例中的一个)。由此，负载平衡服务可平衡在服务器实例上的负载。此后客户端装置建立到与所选择的IP地址相关联的服务器实例的连接，虽然对于客户端它看起来好像它已经与VIP地址本身简单地建立了连接。
在已经在客户端装置与远程计算资源之间建立了单个连接之后，客户端装置和/或远程计算资源可通过所述连接创建一个或多个虚拟信道，所述虚拟信道可为双边的，以使得在一些实例中，可能以一个或两个方向发送通信。例如，客户端装置可建立第一虚拟信道用于将第一音频信号上传到远程计算资源，同时远程计算资源可建立第二虚拟信道用于将音频信号发送到客户端装置并且用于通过客户端输出。在每帧或多帧的基础上可多路复用通过这些虚拟信道发送的数据，以使得双向通信看起来像被并行发送。例如，连接的第一帧可用于通过第一虚拟信道将数据发送到远程计算资源，第二帧可用于通过第二虚拟信道将数据发送到客户端装置，等等。通过多路复用多个虚拟信道，对于客户端装置和远程计算资源两者呈现出各自的虚拟信道为不同连接，虽然在客户端装置与远程计算资源之间仅存在单个连接。通过利用单个连接而不是多个连接，减少了耦合客户端装置和远程计算资源的成本。
另外，在客户端装置连接到远程计算资源的服务器实例之后，服务器实例或负载平衡服务可在装置定位服务处注册所述实例已经与哪个客户端装置连接的指示。例如，当客户端装置与具有特定的IP地址的服务器实例建立连接时，所述服务器实例可在由装置定位服务保持的表格中存储客户端装置的装置标识符(DID)的指示。装置定位服务保持的表格可存储DID到IP地址的映射。由此，当远程计算资源的另一个服务器实例发送旨在用于特定的客户端装置的数据时，这种服务器实例可根据映射识别连接到期望的客户端装置的服务器实例。其他服务器实例随后可将数据提供到保持连接的服务器实例，以使得后者的服务器实例可将数据依次提供到客户端装置。
另外，可断开在客户端装置和服务器实例之间的连接，并且在其中一定量时间内在客户端装置和服务器实例之间没有数据或少于阈值量的数据被交换的实例中可重新建立后续连接。例如，如果在阈值时间量内客户端装置既没有接收也没有发送数据到其连接的服务器实例，那么客户端装置可被配置来切断在其自身与远程计算资源之间的连接。此后，客户端装置可再次通过调用与客户端装置相关联的VIP地址与远程计算资源建立连接。此外，负载平衡服务可接收请求并且路由所述请求，以便潜在地在客户端装置和与VIP地址相关联的不同的服务器实例之间建立连接。
另外，如果在阈值时间量之后客户端装置不切断连接，那么在稍微高于第一阈值的第二阈值时间量之后，服务器实例可被配置来切断连接。在这个实例中，服务器实例作为在客户端装置未能切断连接的事件中的故障保护。当意识到连接已被断开(由于服务器实例切断连接)时，客户端装置此后可调用VIP地址以便建立新的连接。
尽管上文实例描述当在一段时间内在客户端装置与服务器实例之间少于阈值量的数据被交换时切断连接，但是可出于许多其他原因切断连接。例如，如果客户端装置未能认证但是从服务器实例请求数据，或如果在托管实例的物理服务器上的处理负载太大，那么响应于托管实例的物理服务器关闭，可仅基于连接的时间量(例如，建立连接后十五分钟)、在一段时间内从客户端装置发送到服务器实例的数据量、在一段时间内从服务器实例发送到客户端装置的数据量切断连接。在其他实例中，如果在这两个实体之间的流量太慢、如果带宽太受限制、如果连接的质量太差等等，那么客户端装置或服务器实例可切断连接。在又一些实例中，如果在一定量的时间内客户端装置没有认证、如果客户端装置发送除认证请求以外的某个请求作为初始请求等等，那么服务器实例可切断与客户端装置形成的连接，所述客户端装置与已被确定为恶意的IP地址相关联。尽管已提供了一些实例，但是应当理解，客户端装置和/或服务器实例可出于一系列不同的原因切断这些连接。
上文介绍的装置和技术可在各种不同的结构和背景下实施。下文描述了一个非限制性和示例性实施方式。尽管这个实施方式示出客户端装置作为语音控制装置，但是应当理解，在其他实施方式中，客户端装置可包括移动电话、平板计算装置、膝上型计算机、台式计算机、电子书阅读器装置和/或类似物。
图1示出设置在包括用户104的家庭环境102中的说明性语音交互计算结构100。结构100还包括电子语音控制装置106，用户104可与所述电子语音控制装置106交互。在示出的实施方式中，语音控制装置106定位在家庭环境102的房间内的桌子上。在其他实施方式中，它可被放置或安装在任何数量的位置处(例如，天花板、墙壁、灯中、桌子下、椅子下等)。另外，多于一个的装置106可定位在单个房间中，或一个装置可用于适应来自多于一个的房间的用户交互。
一般来说，语音控制装置106具有包括至少一个麦克风108的麦克风单元和包括至少一个扬声器110的扬声器单元，以便促进与用户104和/或其他用户的音频交互。在一些实例中，在没有触觉输入组件(例如，键盘、按键、触摸屏、操纵杆、控制按钮等)或显示器的情况下实施语音控制装置106。在某些实施方式中，可采用有限组的一个或多个触觉输入组件(例如，启动配置的专用按钮、电源开/关等)。然而，用户与电子装置106交互的主要模式以及可能的唯一模式可为通过语音输入和音频输出。下文参考图6更详细地提供了语音控制装置106的一个示例性实施方式。
语音控制装置106的麦克风108检测来自环境102的音频，如从用户104发出的声音。如图所示，语音控制装置106包括处理器112和存储器114，所述存储器114存储或以另外访问语音识别引擎116。如本文所用，处理器可包括多个处理器和/或具有多核的处理器。语音识别引擎116执行对基于由麦克风捕获的声音(如由用户104所说的话语)产生的音频信号的语音识别。语音控制装置106可响应于识别来自用户104的不同语音执行某些动作。用户可讲出预先定义的命令(例如，“唤醒”、“睡眠”)，或当与装置106交互时可使用更随意的谈话风格(例如，“我想去看电影。请告诉我当地电影院在放映什么。”)。
在一些实例中，语音控制装置106可结合计算资源118运行，或以另外利用远离环境102的计算资源118。例如，语音控制装置106可通过网络120耦合到远程计算资源118。如图所示，远程计算资源118可被实施作为一个或多个服务器122(1)、122(2)、…、122(P)，并且在一些实例中，可形成被实施作为通过网络(如互联网)保持和访问的处理器、存储器、软件、数据访问等的计算基础设施的网络可访问计算平台的一部分。远程计算资源118不需要终端用户知道递送服务的系统的物理位置和配置。用于这些远程计算资源118的相关联的通用表达包括“按需计算”、“软件即服务(SaaS)”、“平台计算”、“网络可访问平台”、“云服务”、“数据中心”，等等。
服务器122(1)-(P)可包括处理器和存储器。如图所示，服务器122(1)-(P)可保持一个或多个服务器实例124(1)-(N)。每个物理服务器可保持一个或多个服务器实例，并且每个服务器实例可被配置来保持与一个或多个客户端装置(如语音控制装置106)的连接。在这个实例中，服务器实例124(N)保持与语音控制装置的连接。如图所示，示例性服务器实例124(N)可存储和利用语音处理引擎126，用于从装置106接收音频信号、识别语音、以及潜在地促使动作的执行作为响应。例如，引擎126可通过对音频信号执行自然语言理解(NLU)技术来识别在音频信号内的语音。另外，引擎126可提供用于通过文本到语音(TTS)在客户端装置(例如，装置106)上输出的音频。在一些实例中，假定服务器实例124(N)可具有远超过语音控制装置106的计算能力的计算能力，那么语音控制装置106可将音频数据上传到服务器实例124(N)用于处理。因此，语音控制装置106可利用语音处理引擎126用于对从环境102捕获的在音频执行相对复杂的分析。
不管语音识别本地发生或离开环境102远程地发生，语音控制装置106可从用户104接收语音输入，并且装置106和/或资源118可执行语音识别以便解释用户的操作请求或命令。所述请求可用于基本上任何类型的操作，如数据库查询、请求和消费娱乐(例如，游戏、寻找并播放音乐、电影或其他内容等)、个人管理(例如，排日历、记录笔记等)、在线购物、金融交易，等等。在一些实例中，装置106还与存储在用户104的一个或多个客户端装置上的客户端应用程序交互。在一些实例中，用户104还可通过这种“伴随应用程序”与装置104交互。例如，用户104可利用伴随应用程序的图形用户界面(GUI)以便替代语音命令做出对装置106的请求。另外或可替换地，装置106可与伴随应用程序通信以便使信息浮现至用户104，如由用户提供到装置106的向前的语音命令(以及装置如何解释这些命令)，为对由用户发出的语音命令的补充的内容(例如，用于由用户104所请求的在装置106上播放的歌曲的封面艺术)，等等。另外，在一些实例中，装置106可响应于接收语音命令将授权请求发送到伴随应用程序，以使得装置106不符合语音命令直到接收以通过伴随应用程序接收用户响应的形式的许可。
语音控制装置106可通过有线技术(例如，导线、USB、光纤电缆等)、无线技术(例如，WiFi、RF、蜂窝、卫星、蓝牙等)或其他连接技术可通信地耦合到网络120。网络120代表任何类型的通信网络，其包括数据和/或语音网络，并且可使用有线基础设施(例如，电缆、CAT5、光纤电缆等)、无线基础设施(例如，WiFi、RF、蜂窝、微波、卫星、蓝牙等)和/或其他连接技术来实施。
如图所示，语音控制装置106的存储器114还存储或以另外访问语音识别引擎116和连接模块128。连接模块128起到建立到服务器实例124(1)-(N)中一个的连接的作用。如图所示，连接模块128被预先配置来调用特定的VIP地址130。装置106和其他装置的制造商可使用多个VIP地址中的一个来配置每个装置，所述VIP地址中的每一个映射到各自服务器实例的一个或多个IP地址。如下文所述，通过改变分配到客户端装置(如语音控制装置106)的VIP地址，可平衡分配到服务器实例的负载。
如下文详细描述，连接模块128还包括虚拟信道模块132、计时器134和预先配置的时间延迟136。
为了创建与远程计算资源的连接(例如，当装置106通电时)，连接模块128可调用预先配置的VIP地址130，所述预配置的VIP地址130对应于远程计算资源118的负载平衡服务138的服务器。负载平衡服务138起到通过路由连接请求到与每个VIP地址相关联的不同的实例来将负载分配在服务器实例124(1)-(N)上的作用。如图所示，负载平衡服务138对应于一个或多个VIP地址140，其包括VIP地址130，并且还存储VIP到IP映射142。VIP到IP映射142指示哪些服务器实例IP地址对应于哪些VIP(预先配置在客户端装置上，如装置106)。因此，当装置106发出使用VIP地址130的连接请求时，负载平衡服务138识别哪些IP地址对应于这个VIP地址130。服务138随后选择这些IP地址中的一个，并且将连接请求路由到对应的服务器实例，如在这个实例中的服务器实例124(N)。在这个实例中，尽管映射142指示服务器实例通过它们的IP地址来识别，但是在其他实施方式中，这些实例可通过它们的各自主机名称或通过在其他实施方案中的其他识别信息来识别。
如图所示，示例性服务器实例124(N)包括IP地址144和注册模块146。当装置106与服务器实例124(N)建立连接时，注册模块146可指示到装置定位服务148的这种连接。装置定位服务148包括装置标识符(DID)到IP映射150，所述映射150映射哪些客户端装置连接到哪些服务器实例。此外，尽管在这个实例中，映射150指示服务器实例通过它们的IP地址来识别，但是在其他实施方式中，这些实例可由它们的各自主机名称或通过在其他实施方案中的其他识别信息来识别。
因此，当服务器实例具有待发送到特定的客户端装置的数据，但是不直接地连接到特定的客户端装置时，服务器实例可查找哪些服务器实例保持与客户端装置的连接并且可将这个数据提供到对应的实例。接收数据的服务器实例可依次将数据提供到特定的客户端装置。尽管这个实例描述服务器实例124(N)的注册模块146在装置定位服务148处注册这个信息，但是在其他实例中，负载平衡服务138或另一实体可将这个信息发送到装置定位服务148。
如图所示，服务器实例124(N)还包括虚拟信道模块152。一旦装置106已经与服务器实例124(N)建立这样的连接，虚拟信道模块132(在语音控制装置106上)和虚拟信道模块152就各自起到通过连接创建一个或多个虚拟信道的作用。例如，如果装置106产生音频信号(例如，基于由麦克风108检测的声音等)，那么虚拟信道模块132可创建用于将音频信号发送到服务器实例124(N)的虚拟信道。类似地，如果服务器实例124(N)具有待发送到客户端装置的数据(例如，用于在扬声器110上输出的音频信号、控制装置106的部件的控制消息等)，那么虚拟信道模块152可创建用于将这个数据发送到装置106的虚拟信道。
在一些实例中，可多路复用通过单个连接的多个虚拟信道发送的数据。例如，连接可实施在每帧或多帧的基础上，在通过虚拟信道发送数据之间重复的协议。例如，第一虚拟信道可在第一帧期间发送数据，第二虚拟信道可在第二帧期间发送数据，等等。
服务器实例124(N)还可包括连接模块154，所述连接模块154还包括计时器156。连接模块154起到保持到语音控制装置106(并且可能，同时到多个其他客户端装置)的连接的作用。回到语音控制装置106的计时器134，计时器134起到测量装置106保持连接到服务器实例的时间量、既没有从服务器实例124(N)接收数据也没有发送数据到服务器实例124(N)(从语音控制装置106)的时间量等的作用。在计时器134指示在阈值时间量内没有数据(或少于阈值量的数据)已经被发送或接收之后，连接模块128可切断与服务器实例124(N)的连接。此后，连接模块128可再次尝试创建连接，在尝试进行这个连接之前，等待由时间延迟136指示的时间量。可被预先配置用于装置106的时间延迟136可指示模块132等待一定量的时间，所述一定量的时间包括一定程度的随机性。例如，时间延迟136可指示在失去或切断与服务器实例的连接之后，模块132在一秒(加或减半秒)之后应首先尝试重新连接。如果那个尝试没有成功，那么时间延迟136可指示模块132应等待两秒(加或减一秒)。预先配置的随机性程度，以及因此时间延迟136可随着客户端装置而变化。通过以这种方法改变时间延迟，如果托管多个服务器实例的一个服务器离线(例如，由于维护、故障，等等)，那么改变的时间延迟确保连接到托管在那个服务器上的服务器实例的每个客户端装置将不尝试在完全相同的时间重新连接到远程计算资源118，这可能在给定时刻导致不期望的负载。
连接模块154的计时器156可同时起到与计时器134相似的作用。例如，计时器156可测量既没有发送数据到语音控制装置106也没有从其接收数据的时间量。在阈值时间量之后，计时器156可指导连接模块154切断与装置106的连接。在一些实例中，计时器134可被设置来在计时器156之前切断连接，使得计时器156作为在连接模块128在经过阈值时间量(与计时器134相关联)流逝之后未成功切断连接的事件中的故障保护。例如，如果十四分钟之后没有发送也没有接收数据，那么连接模块128可被配置来切断连接，尽管如果十五分钟之后没有发送也没有接收数据并且客户端装置还没有切断连接，那么连接模块154可被配置来切断连接。当然，在其他实施方式中，本协议可被倒转。
图1另外示出可包括查找模块158的服务器实例124(N)。如上所述，在一些实例中，服务器实例124(N)可具有待发送到另一个客户端装置的数据，所述服务器实例124(N)没有连接到所述另一个客户端装置。查找模块158可起到查找对应于客户端装置的DID的IP地址的作用，实例124(N)具有用于所述IP地址的数据。在确定来自映射150的这个信息之后，服务器实例124(N)可将数据提供到合适的服务器实例，所述服务器实例可依次将数据提供到客户端装置。
最后，图1示出示例性服务器实例124(N)包括一个或多个应用程序160。应用程序可能以任何数目的方式与客户端装置(如语音控制装置106)交互。例如，应用程序160可包括提供用于在装置106处输出提醒用户104执行特定任务(例如，买牛奶)的音频的提醒应用程序，发用于送在装置106处输出的音乐的应用程序，等等。在一些实例中，存储在特定的服务器实例上的应用程序利用查找模块158来确定特定的客户端装置与远程计算资源118的哪个服务器实例连接。由此，应用程序能够将某个内容(例如，提醒)提供到这个客户端装置。此外，尽管图1示出应用程序160驻留在服务器实例124(N)上，但是在其他实施方式中，应用程序160(以及其他应用程序)可另外地和/或可选择地驻留在其他服务器或第三方服务器上。
图2示出结构100的实例200的另外细节。在这个实例中，示例性结构200包括语音控制装置202(1)、202(2)、202(3)、…、202(R)。这些装置的每一个已被预先配置来通过调用特定的VIP地址建立连接。例如，装置202(1)已被配置来调用VIP地址204(1)，装置202(2)已被配置来调用VIP地址204(2)，装置202(3)已被配置来调用VIP地址204(3)，以及装置202(R)已被配置来调用VIP地址204(1)。另外，每个装置202(1)-(R)与各自的装置ID(DID)206(1)，206(2)、…、206(R)相关联，所述装置ID可包括装置的序列号等等。
如图所示，负载平衡服务138将每个VIP地址204(1)-(Q)映射到对应于各自的服务器实例210(1)、210(2)、210(3)、…、210(S)的一个或多个对应的IP地址208(1)、208(2)、208(3)、…、208(S)。负载平衡服务138还从客户端装置202(1)-(R)接收连接请求，这些请求定址到特定的VIP地址。服务138随后将这个信息映射到对应的IP地址，并且选择将路由对其的请求的IP地址。在这个实例中，假定装置202(1)-(R)与其相关联的变化VIP地址，客户端装置202(1)与服务器实例210(1)连接，客户端装置202(2)与服务器实例210(2)连接，客户端装置202(3)与服务器实例210(3)连接，并且客户端装置202(R)与服务器实例210(S)连接。如图所示并且如上文所述，在客户端装置与服务器实例建立连接之后，各自的服务器实例在装置定位服务148处存储所述关联的指示。
图3示出在语音控制装置202(1)与服务器实例210(1)之间的示例性连接300。如图所示，可通过这种单个连接300建立多个虚拟信道302(1)、302(2)、…、302(M)。装置202(1)可响应于识别装置具有待发送到服务器实例210(1)的数据建立虚拟信道。类似地，服务器实例210(1)可响应于识别其具有待发送到装置202(1)的数据建立虚拟信道。如上所述，连接300可实施多路复用发送到客户端装置并从其接收的数据的协议。在这个实例中，装置202(1)通过虚拟信道302(1)发送数据到服务器实例210(1)，同时服务器实例210(1)通过虚拟信道302(2)和302(M)发送数据到装置202(1)时。尽管图1-3示出装置106通过负载平衡服务138连接到服务器实例，但是在连接300形成之后装置106可直接与服务器实例通信(即，可绕过服务器138)。另外，尽管一些实施方案在客户端装置与服务器实例之间实施单个连接，但是在其他实施方案中，可建立多个连接(例如，用于将TTS提供到客户端装置的一个、用于将音乐提供到装置的一个、用于从装置上传音频信号的一个等)。
图4示出语音控制装置或其他客户端装置可实施的示例性过程400的流程图。本文所述的每个过程如逻辑流程图所示，所述每个过程的每个操作代表能够在硬件、软件或其组合中实施的操作序列。在软件的背景下，操作表示存储在一个或多个计算机可读介质上的计算机可执行指令，当所述计算机可执行指令由一个或多个处理器执行时，执行所叙述的操作。一般来说，计算机可执行指令包括执行特定功能或实施特定抽象数据类型的例行程序、程序、对象、部件、数据结构等。
计算机可读介质可包括非暂时性计算机可读存储介质，所述非暂时性计算机可读存储介质可包括硬盘、软盘、光盘、CD-ROM、DVD、只读存储器(ROM)、随机存取存储器(RAM)、EPROM、EEPROM、闪存存储器、磁卡或光卡、固态存储装置或适合于存储电子指令的其他类型的存储介质。另外，在一些实施方案中，计算机可读介质可包括瞬时计算机可读信号(以压缩或非压缩形式)。不管是否使用载体调剂，计算机可读信号的实例包括但不限于，计算机系统托管或运行计算机程序的信号，所述计算机程序可被配置来访问包括通过互联网或其他网络下载的信号。最后，不希望将描述操作的次序理解为限制性，并且任何数量的所描述的操作可能以任何次序和/或并行结合来实施所述过程。
过程400包括在402处，客户端装置使用存储在客户端装置上的VIP地址与网络可访问平台的服务器实例建立连接。在成功地建立连接之后，在404处客户端装置可通过连接建立第一虚拟信道。在406处，客户端装置进行到通过第一虚拟信道将数据发送到服务器实例，并且在408处，可通过第二虚拟信道从服务器实例接收数据。
在410处，客户端装置可确定在阈值时间量内是否既没有发送也没有接收数据。如果否，则意味着在该时间量内至少一些数据已被发送或接收，那么在412处客户端装置保持与服务器实例的连接。如果是，然而(意味着既没有发送也没有接收数据)，那么在414处客户端装置切断与服务器实例的连接。客户端随后装置进行到通过调用在装置配置上的VIP地址重新建立连接。尽管图4描述用于切断在客户端装置和服务器实例之间的连接的一个实例，但是如上所述可出于各种其他原因切断这些连接。
图5描述远程计算资源118可实施的示例性过程500的流程图。这个过程500可由单个服务器或通过资源118的多个服务器执行。在502处，资源118从客户端装置接收请求以便与资源118建立连接。在504处，资源将请求路由到服务器实例以便与服务器实例创建连接。例如，可在特定的VIP地址处接收请求，所述请求可被映射到一个或多个IP地址，在这之后可选择一个或多个地址的IP地址。随后可将请求路由到对应于所选择的IP地址的服务器实例。
在506处，资源118存储在客户端装置的DID与服务器实例的IP地址之间的映射。另外，在508处资源(例如，连接的服务器实例)可建立第一虚拟信道。在510处，资源(例如，资源实施的协议)可在通过第一虚拟信道发送数据与通过第二虚拟信道从客户端装置接收数据之间多路复用。
在512处，资源可确定在阈值时间量内是否还没有发送也没有接收数据。如果否，则意味着在这个时间量内至少一些数据已被发送或接收，随后在514处，资源(例如，服务器实例)保持与客户端装置的连接。
另外，以及如上所述，应用程序可具有待发送到客户端装置的数据。如果是，那么在516处，应用程序参考在DID与IP地址之间的映射，以便识别客户端装置连接到的IP地址。在518处，应用程序随后将数据发送到与所识别的IP地址相关联的服务器实例，所述服务器实例依次将这个数据发送到合适的客户端装置。所描述的过程500还示出假定在512处一些数据被确定已在客户端装置与服务器实例之间被发送或接收，在520处，服务器实例可保持与其连接至的客户端装置的连接。
然而，如果在512处服务器实例确定在阈值时间量内没有数据被发送或接收，并且如果客户端装置保持连接到所述实例，那么在522处服务器实例切断与客户端装置的连接。此后一段时间，远程计算资源可再次从相同的客户端装置或不同的客户端装置接收请求以便与资源建立连接。此外，尽管图5描述用于切断在客户端装置和服务器实例之间的连接的一个实例，但是如上所述，可出于各种其他原因切断这些连接。
图6更详细地示出语音控制装置106的一个实施方式的选择的功能组件。一般来说，语音控制装置106可被实施作为独立装置，所述独立装置在功能能力(具有有限的输入/输出部件、存储器)和处理能力方面相对简单。例如，语音控制装置106既没有键盘、按键或在一些实施方式中的其他形式的机械输入，它也没有为促进可视显示和用户触觉输入的显示器和触摸屏。相反，可实施装置106，其具有接收和输出音频的能力、网络接口(基于无线或有线)、电源和有限的处理/存储能力。
在示出的实施方式中，语音控制装置106包括处理器112和存储器114。存储器114可包括计算机可读存储介质(“CRSM”)，所述计算机可读存储介质可为可由处理器112访问以便执行存储在存储器上的指令的任何可用的物理介质。在一种基本的实施方式中，CRSM可包括随机存取存储器(“RAM”)和闪存存储器。在其他实施方式中，CRSM可包括但不限于，只读存储器(“ROM”)、电可擦除可编程只读存储器(“EEPROM”)、或可用于存储所需信息并且可由处理器112访问的任何其他介质。
语音控制装置106包括麦克风单元，所述麦克风单元包括一个或多个麦克风108以便接收音频输入(如用户语音输入)。装置106还包括扬声器单元，所述扬声器单元包括一个或多个扬声器110以便输出音频声音。将一个或多个编解码器602耦合到麦克风108和扬声器110，以便编码和/或解码音频信号。编解码器可在模拟格式与数字格式之间转换音频数据。用户可通过对装置106讲话来与其交互，并且麦克风108捕获声音以及产生包括用户语音的音频信号。编解码器602编码用户语音并且将那个音频数据传输到其他组件。装置106可通过扬声器110发出可听的语句来对用户进行反向通信。以这种方式，用户仅通过语音来与语音控制装置交互，而不使用对其他类型的装置常见的键盘或显示器。
在示出的实例中，语音控制装置106包括耦合到一个或多个天线606的一个或多个无线接口604以便促进无线连接到网络。无线接口604可实施各种无线技术中的一个或多个，如wifi、蓝牙、RF等等。
一个或多个装置接口608(例如，USB、宽带连接等)可被进一步设置成装置106的一部分，以便促进有线连接到网络，或与其他无线网络通信的插式网络装置。一个或多个功率单元610被进一步设置以便将功率分配到装置106上的各种组件。
语音控制装置106被设计成以从用户接收语音命令(例如，单词、短语、句子等)以及输出可听的反馈到用户的形式支持与用户的音频交互。因此，在示出的实施方式中，没有或几乎没有触觉输入装置，如导航按钮、按键、操纵杆、键盘、触摸屏，等等。也没有用于文本或图形输出的显示器。在一个实施方式中，语音控制装置106可包括非输入控制机制，如用于增加/减少音量的基本音量控制按钮以及电源和重启按钮。也可以有一个或多个简单的发光元件(例如，围绕装置的顶部周围的LED)以便指示如当电源开着时的状态或指示何时命令被接收。但在其他方面，装置106不使用或者在一些实例中需要使用任何输入装置或显示器。
几个模块(如指令、数据存储等)可存储在存数器114内并且被配置成在处理器112上执行。操作系统模块612被配置成在装置106内管理硬件和服务(例如，无线单元、编解码器等)并且耦合到装置106以利于其他模块。另外，存储器114可包括语音识别引擎116和连接模块128。
虽然已用特定于结构特征的语言描述了主题，但是应当理解，所附权利要求中定义的主题不必限于所描述的具体特征。相反地，具体特征作为实施权利要求的说明性形式来公开。
条款：
1.一种系统，其包括：
一个或多个处理器；以及
存储计算机可执行指令的一个或多个计算机可读介质，当所述计算机可执行指令由所述一个或多个处理器执行时，促使所述一个或多个处理器执行包括以下各项的动作：
从客户端装置接收第一请求以在所述客户端装置与服务器实例之间建立连接；
至少部分地响应于接收所述第一请求，在所述客户端装置与多个服务器实例的第一服务器实例之间建立连接；
至少部分地基于在一段时间内在所述客户端装置与所述第一服务器实例之间传输的数据量断开所述连接；以及
至少部分地响应于所述断开，从所述客户端装置接收第二请求以与服务器实例建立连接。
2.如条款1所述的系统，所述动作还包括，在所述断开之前，在通过所述连接的第一信道从所述客户端装置发送数据到第一所述服务器实例与在所述客户端装置处通过所述连接的第二信道从所述第一服务器实例接收数据之间重复。
3.如条款1所述的系统，所述动作还包括存储所述客户端装置已与所述第一服务器实例建立所述连接的指示，所述指示包括与所述客户端装置相关联的装置标识符(DID)和所述第一服务器实例的标识符。
4.如条款1所述的系统，其中至少部分地基于在一段时间内在所述客户端装置和所述第一服务器实例之间传输的数据量断开所述连接包括当在15分钟内在所述客户端装置与所述第一服务器实例之间还没有数据传输时断开所述连接。
5.一种设备，其包括：
麦克风单元，所述麦克风单元检测声音并基于所述声音产生第一音频信号；
扬声器，所述扬声器输出对应于从一个或多个网络可访问计算资源接收的第二音频信号的声音；
一个或多个处理器；以及
存储器，所述存储器存储地址和计算机可执行指令，当所述计算机可执行指令由所述一个或多个处理器执行时，促使所述一个或多个处理器执行包括以下各项的动作：
使用所述地址在所述设备与所述一个或多个网络可访问计算资源之间建立连接；
经由所述连接将所述第一音频信号发送到所述一个或多个网络可访问计算资源；
经由所述连接从所述一个或多个网络可访问计算资源接收所述第二音频信号；以及
至少部分地基于在一段时间内从所述设备传输到所述一个或多个网络可访问计算资源的数据量或在一段时间内从所述一个或多个网络可访问计算资源传输到所述设备的数据量中的至少一个切断所述连接。
6.如条款5所述的设备，其中所述第一音频信号的所述发送和第二音频信号的所述接收包括在通过所述连接的第一信道发送所述第一音频信号的一个或多个帧与通过所述连接的第二信道接收所述第二音频信号的一个或多个帧之间重复。
7.如条款5所述的设备，其中所述地址包括映射到所述一个或多个网络可访问计算资源的多个服务器实例的虚拟互联网协议(VIP)地址。
8.如条款5所述的设备，其中所述连接是第一连接，并且所述切断包括：
确定在一段时间内在所述设备与所述一个或多个网络可访问计算资源之间没有数据被传输；
切断所述第一连接；以及
使用所述地址在所述设备与所述一个或多个网络可访问计算资源之间建立第二连接。
9.一个或多个计算机可读介质，其存储计算机可执行指令，当所述计算机可执行指令由一个或多个处理器执行时，促使所述一个或多个处理器执行包括以下各项的动作：
在客户端装置与服务器实例之间建立连接；
在所述客户端装置的麦克风处产生音频信号，所述音频信号包括来自用户的语音命令；
将所述音频信号提供到所述服务器实例；
从所述服务器实例接收对所述语音命令的响应；
经由所述客户端装置的扬声器输出所述响应；
断开所述连接并且至少部分地基于所述连接的属性重新建立后续连接。
10.如条款9所述的一个或多个计算机可读介质，其中所述连接的所述属性包括：在一段时间内在所述客户端装置与所述服务器实例之间传输的数据量、在一段时间内从所述客户端装置传输到所述服务器实例的数据量、在一段时间内从所述服务器实例传输到所述客户端装置的数据量、所述连接的持续时间、或所述连接的带宽。
11.如条款9所述的一个或多个计算机可读介质，所述动作还包括在通过所述连接的第一信道将数据从所述客户端装置发送到所述服务器实例与在所述客户端装置处通过所述连接的第二信道从所述服务器实例接收数据之间重复。
12.如条款9所述的一个或多个计算机可读介质，其中所述连接的所述建立至少部分地响应于所述客户端装置的通电而发生。
13.如条款9所述的一个或多个计算机可读介质，其中所述连接的所述建立包括使用虚拟互联网协议(VIP)地址，所述VIP地址对应在所述服务器实例与一个或多个其他服务器实例之间平衡负载的负载平衡服务。
14.如条款9所述的一个或多个计算机可读介质，其中：
所述服务器实例形成网络可访问计算平台的一部分；以及
所述连接的所述建立不管所述客户端装置是否具有待发送到所述网络可访问计算平台的数据而发生。
15.如条款9所述的一个或多个计算机可读介质，所述动作还包括在通过所述连接的第一信道从所述客户端装置发送数据到所述服务器实例与在所述客户端装置处通过所述连接的第二信道从所述服务器实例接收数据之间重复，并且其中通过所述第一信道从所述客户端装置的所述数据的所述发送包括发送基于在环境内检测的声音由所述客户端装置产生的音频信号，所述客户端装置驻留在所述环境内。
16.如条款9所述的一个或多个计算机可读介质，其中所述重新建立包括在所述断开后的一定时间量尝试重新建立后续连接，所述一定时间量包括随机性的程度。
17.一个或多个计算装置，其包括：
一个或多个处理器；以及
存储计算机可执行指令的一个或多个计算机可读介质，当所述计算机可执行指令由所述一个或多个处理器执行时，促使所述一个或多个处理器执行包括以下各项的动作：
从客户端装置接收请求以与服务器实例建立连接；
路由所述请求，以使得所述客户端装置与多个服务器实例的第一服务器实例建立连接；以及
基于至少部分地响应于所述连接的属性、所述第一服务器实例的属性或所述客户端装置的属性切断所述连接。
18.如条款17所述的一个或多个计算装置，其中所述连接的所述属性包括在一段时间内从所述第一服务器实例发送到所述客户端装置或从所述客户端装置由所述第一服务器实例接收的数据量。
19.如条款17所述的一个或多个计算装置，其中所述第一服务器实例的所述属性包括托管所述第一服务器实例的物理服务器关闭的指示。
20.如条款17所述的一个或多个计算装置，其中所述请求由负载平衡服务接收，所述负载平衡服务与由所述客户端装置调用的虚拟互联网协议(VIP)地址相关联。
21.如条款17所述的一个或多个计算装置，其中所述客户端装置的所述属性是所述客户端装置未被授权连接到所述第一服务器实例。
22.如条款17所述的一个或多个计算装置，所述动作还包括存储所述客户端装置已与所述第一服务器实例建立所述连接的指示，所述指示包括与所述客户端装置相关联的装置标识符(DID)以及与所述第一服务器实例相关联的标识符。
23.如条款22所述的一个或多个计算装置，所述动作还包括：
通过计算装置访问所述指示以获得所述第一服务器实例的标识符；
通过所述计算装置发送数据到所述第一服务器实例，所述数据旨在用于所述客户端装置；以及
通过所述第一服务器实例发送所述数据到所述客户端装置。
24.如条款23所述的一个或多个计算装置，其中所述数据包括用于在所述客户端装置的扬声器上输出的音频信号。
25.如条款23所述的一个或多个计算装置，其中所述数据包括指导所述客户端装置执行特定操作的控制消息。
26.如条款17所述的一个或多个计算装置，所述动作还包括通过所述服务器实例建立所述连接的第一信道，通过所述第一信道将数据发送到所述客户端装置并且在所述服务器实例处以及通过所述连接的第二信道从所述客户端装置接收数据。
27.如条款26所述的一个或多个计算装置，其中所述第一信道和所述第二信道被多路复用。

Claims (15)

1.一种装置，其包括：
麦克风单元，所述麦克风单元检测声音并且基于所述声音生成第一音频信号；
扬声器，所述扬声器输出对应于从第一服务器实例接收的第二音频信号的声音；
一个或多个处理器；以及
存储器，所述存储器存储：
与第一服务器实例地址和第二服务器实例地址相关联的地址，所述第一服务器实例地址与所述第一服务器实例相关联，并且所述第二服务器实例地址与第二服务器实例相关联；以及
计算机可执行指令，当所述计算机可执行指令由所述一个或多个处理器执行时，使得所述一个或多个处理器执行包括以下各项的动作：
使用所述地址，在所述装置与所述第一服务器实例之间建立第一连接；
经由所述第一连接，将所述第一音频信号发送到所述第一服务器实例；
经由所述第一连接，从所述第一服务器实例接收所述第二音频信号；
确定在一段时间内所述装置和所述第一服务器实例之间已经传输了少于阈值量的数据；
至少部分地基于所述确定，切断所述装置和所述第一服务器实例之间的所述第一连接；以及
响应于切断所述装置和所述第一服务器实例之间的所述第一连接，使用所述地址在所述装置和所述第二服务器实例之间建立第二连接。
2.如权利要求1所述的装置，其中所述动作还包括：
在通过所述第一连接的第一信道将所述第一音频信号发送至所述第一服务器实例与通过所述第一连接的第二信道从所述第一服务器实例接收所述第二音频信号之间迭代，
其中基于所述装置所驻于的环境中所检测到的声音，由所述麦克风生成所述第一音频信号。
3.如权利要求1所述的装置，其中所述动作还包括：
基于所述第一连接上的流量速度或所述第一连接的质量中的至少一个来确定切断所述装置和所述第一服务器实例之间的所述第一连接，
其中至少部分地基于确定要切断所述装置和所述第一服务器实例之间的所述第一连接，切断所述装置和所述第一服务器实例之间的所述第一连接。
4.如权利要求5所述的装置，其中：
所述第一服务器实例形成网络可访问计算平台的一部分；并且
发生对所述第一连接的建立，而不管所述装置是否有将要发送至所述网络可访问计算平台的数据。
5.一种或多种非暂时性计算机可读介质，其存储有计算机可执行指令，当所述计算机可执行指令由一个或多个处理器执行时，使得所述一个或多个处理器执行动作，所述动作包括：
使用存储在客户端装置上的地址，在所述客户端装置与第一服务器实例之间建立第一连接；
在所述客户端装置的麦克风处，生成代表来自用户的语音命令的音频信号；
将所述音频信号提供给所述第一服务器实例；
从所述第一服务器实例接收对所述语音命令的响应；
经由所述客户端装置的扬声器输出所述响应；
至少部分地基于所述第一连接的属性，丢弃所述第一连接；以及
至少部分地基于丢弃所述第一连接，使用存储在所述客户端装置上的所述地址，在所述客户端装置和第二服务器实例之间建立第二连接。
6.如权利要求5所述的一种或多种非暂时性计算机可读介质，其中所述第一连接的所述属性包括：在一段时间内所述客户端装置和所述第一服务器实例之间传输的数据量，在一段时间内从所述客户端装置向所述第一服务器实例传输的数据量，在一段时间内从所述第一服务器实例向所述客户端装置传输的数据量，所述第一连接的持续时间，或所述第一连接的带宽。
7.如权利要求5所述的一种或多种非暂时性计算机可读介质，其中所述第一连接的所述属性包括：在所述客户端装置与所述第一服务器实例之间建立所述第一连接之后，所述客户端装置已经连接至所述第一服务器实例的时间量。
8.如权利要求5所述的一种或多种非暂时性计算机可读介质，其中所述第一连接的所述属性包括：所述客户端装置和所述第一服务器实例之间的所述第一连接的质量。
9.如权利要求5所述的一种或多种非暂时性计算机可读介质，所述动作还包括：
在通过所述第一连接的第一信道从所述客户端装置向所述第一服务器实例发送数据与通过所述第一连接的第二信道在所述客户端装置处从所述第一服务器实例接收数据之间进行迭代。
10.如权利要求5所述的一种或多种非暂时性计算机可读介质，其中所述地址包括虚拟互联网协议(VIP)地址，所述VIP地址对应于负载平衡服务，所述负载平衡服务平衡所述第一服务器实例和所述第二服务器实例之间的负载。
11.如权利要求5所述的一种或多种非暂时性计算机可读介质，其中所述建立所述第二连接包括：在所述丢弃所述第一连接的一定量的时间之后尝试建立所述第二连接，所述一定量的时间包括一定程度的随机性。
12.如权利要求5所述的一种或多种非暂时性计算机可读介质，其中：
所述第一服务器实例与第一服务器实例地址相关联，所述第一服务器实例地址与所述地址相关联；并且
所述第二服务器实例与第二服务器实例地址相关联，所述第二服务器实例地址与所述地址相关联。
13.一种系统，其包括：
一个或多个处理器；以及
存储计算机可执行指令的一个或多个计算机可读介质，当所述计算机可执行指令由所述一个或多个处理器执行时，使得所述一个或多个处理器执行包括以下各项的动作：
使用地址在装置和第一服务器实例之间建立第一连接，其中所述地址与第一服务器实例地址和第二服务器实例地址相关联，所述第一服务器实例地址与所述第一服务器实例相关联，并且所述第二服务器实例地址与第二服务器实例相关联，并且其中，所述装置包括：
麦克风单元，所述麦克风单元检测声音并且基于所述声音生成第一音频信号；以及
扬声器，所述扬声器输出对应于从所述第一服务器实例接收的第二音频信号的声音；
经由所述第一连接，将所述第一音频信号发送至所述第一服务器实例；
经由所述第一连接，从所述第一服务器实例接收所述第二音频数据；
至少部分地基于在一段时间内从所述装置传输至所述第一服务器实例的数据量或在所述一段时间内从所述第一服务器实例传输至所述装置的数据量中的至少一个，切断所述第一连接；以及
至少部分地基于切断所述第一连接，使用所述地址在所述装置和所述第二服务器实例之间建立第二连接。
14.如权利要求13所述的系统，其中：
所述地址包括虚拟互联网协议(VIP)地址；并且
所述第一服务器实例地址包括互联网协议(IP)地址。
15.如权利要求13所述的系统，其中所述动作还包括：
确定在所述一段时间内所述装置和所述第一服务器实例之间已经没有数据传输；
其中至少部分地基于所述确定，切断所述第一连接。
CN202010404896.5A 2013-04-08 2014-04-07 负载平衡的持久连接装置、系统及计算机可读介质 Active CN111770131B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010404896.5A CN111770131B (zh) 2013-04-08 2014-04-07 负载平衡的持久连接装置、系统及计算机可读介质

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US13/858,753 2013-04-08
US13/858,753 US9781214B2 (en) 2013-04-08 2013-04-08 Load-balanced, persistent connection techniques
CN201480032600.4A CN105518645B (zh) 2013-04-08 2014-04-07 负载平衡的持久连接技术
PCT/US2014/033210 WO2014168882A1 (en) 2013-04-08 2014-04-07 Load-balanced, persistent connection techniques
CN202010404896.5A CN111770131B (zh) 2013-04-08 2014-04-07 负载平衡的持久连接装置、系统及计算机可读介质

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
CN201480032600.4A Division CN105518645B (zh) 2013-04-08 2014-04-07 负载平衡的持久连接技术

Publications (2)

Publication Number Publication Date
CN111770131A true CN111770131A (zh) 2020-10-13
CN111770131B CN111770131B (zh) 2023-05-30

Family

ID=51655301

Family Applications (2)

Application Number Title Priority Date Filing Date
CN201480032600.4A Active CN105518645B (zh) 2013-04-08 2014-04-07 负载平衡的持久连接技术
CN202010404896.5A Active CN111770131B (zh) 2013-04-08 2014-04-07 负载平衡的持久连接装置、系统及计算机可读介质

Family Applications Before (1)

Application Number Title Priority Date Filing Date
CN201480032600.4A Active CN105518645B (zh) 2013-04-08 2014-04-07 负载平衡的持久连接技术

Country Status (5)

Country Link
US (2) US9781214B2 (zh)
EP (1) EP2984578B1 (zh)
JP (1) JP6401242B2 (zh)
CN (2) CN105518645B (zh)
WO (1) WO2014168882A1 (zh)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9781214B2 (en) 2013-04-08 2017-10-03 Amazon Technologies, Inc. Load-balanced, persistent connection techniques
US10205611B2 (en) 2015-02-11 2019-02-12 Dell Products L.P. Middleware as a service
US10243915B2 (en) * 2015-12-31 2019-03-26 Dell Products L.P. Method and system for managing flat and routed clients in a cluster using single type of VIPs
CN105939241B (zh) * 2016-03-10 2019-03-15 杭州迪普科技股份有限公司 连接断开方法及装置
CN107846425A (zh) * 2016-09-06 2018-03-27 鸿富锦精密电子(天津)有限公司 负载均衡系统及负载均衡方法
USD864466S1 (en) 2017-05-05 2019-10-22 Hubbell Incorporated Lighting fixture
US10607606B2 (en) * 2017-06-19 2020-03-31 Lenovo (Singapore) Pte. Ltd. Systems and methods for execution of digital assistant
EP3729650B1 (en) 2017-12-20 2024-06-12 Hubbell Incorporated Gesture control for in-wall device
CA3086506A1 (en) 2017-12-20 2019-06-27 Hubbell Incorporated Voice responsive in-wall device
USD927433S1 (en) 2018-01-05 2021-08-10 Hubbell Incorporated Front panel of in-wall fan controller with indicator component
US10812445B2 (en) * 2018-02-13 2020-10-20 Sling Media Pvt Ltd Cloud access to local network addresses
US11343329B1 (en) * 2019-05-20 2022-05-24 Amazon Technologies, Inc. Techniques for increasing persistent connection scalability
USD947137S1 (en) 2019-10-22 2022-03-29 Hubbell Incorporated Front panel of in-wall fan controller with indicator component

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6363411B1 (en) * 1998-08-05 2002-03-26 Mci Worldcom, Inc. Intelligent network
CN101272384A (zh) * 2004-05-21 2008-09-24 语音移动有限公司 远程访问系统和方法以及其智能代理
CN102170614A (zh) * 2011-04-29 2011-08-31 杭州东信北邮信息技术有限公司 一种交互式语音数据应答系统及其实现方法
US20120056971A1 (en) * 2010-09-03 2012-03-08 At&T Intellectual Property I, L.P. Virtual Presence Via Mobile
CN102946409A (zh) * 2011-10-14 2013-02-27 微软公司 从多个服务器向客户机递送单个终端用户体验

Family Cites Families (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1996017306A2 (en) 1994-11-21 1996-06-06 Oracle Corporation Media server
JP2581476B2 (ja) 1994-12-07 1997-02-12 日本電気株式会社 情報処理装置
US5999979A (en) 1997-01-30 1999-12-07 Microsoft Corporation Method and apparatus for determining a most advantageous protocol for use in a computer network
WO2000016517A2 (en) * 1998-09-11 2000-03-23 Sharewave, Inc. Method and apparatus for accessing a computer network communication channel
JP3821424B2 (ja) * 1998-09-11 2006-09-13 シェアウェーブ・インコーポレーテッド コンピュータ・ネットワークのための動的通信チャネル切替え
US7324544B1 (en) * 1998-09-11 2008-01-29 Cirrus Logic, Inc. Network slot synchronization scheme for a computer network communication channel
JP2002525913A (ja) * 1998-09-11 2002-08-13 シェアウェーブ・インコーポレーテッド コンピュータ・ネットワーク内の通信を制御するための方法および装置
AU5027200A (en) * 1999-05-20 2000-12-12 Intensifi, Inc. Method and apparatus for access to, and delivery of, multimedia information
US20020124100A1 (en) * 1999-05-20 2002-09-05 Jeffrey B Adams Method and apparatus for access to, and delivery of, multimedia information
US6934752B1 (en) * 2000-03-23 2005-08-23 Sharewave, Inc. Quality of service extensions for multimedia applications in wireless computer networks
US7454500B1 (en) 2000-09-26 2008-11-18 Foundry Networks, Inc. Global server load balancing
US20020133598A1 (en) 2001-03-16 2002-09-19 Strahm Frederick William Network communication
ES2348260T3 (es) * 2003-01-31 2010-12-02 Visto Corporation Recuperacion asincrona de datos en tiempo real.
US7287082B1 (en) * 2003-03-03 2007-10-23 Cisco Technology, Inc. System using idle connection metric indicating a value based on connection characteristic for performing connection drop sequence
US7720683B1 (en) 2003-06-13 2010-05-18 Sensory, Inc. Method and apparatus of specifying and performing speech recognition operations
JP2007515819A (ja) 2003-08-21 2007-06-14 株式会社エヌ・ティ・ティ・ドコモ 分散型媒体アクセス制御を用いた無線ネットワークにおけるリソース予約
US7418392B1 (en) 2003-09-25 2008-08-26 Sensory, Inc. System and method for controlling the operation of a device by voice commands
JP4910274B2 (ja) 2004-09-17 2012-04-04 富士通株式会社 プログラム及びサーバ装置
JP2006172241A (ja) 2004-12-17 2006-06-29 Fujitsu Ltd 負荷分散装置，負荷分散方法および負荷分散プログラム
US7844691B2 (en) 2004-12-30 2010-11-30 Xstor Systems, Inc. Scalable distributed storage and delivery
US7852831B2 (en) 2005-02-22 2010-12-14 Akbar Imran M Method and system for providing private virtual secure Voice over Internet Protocol communications
US8943181B2 (en) * 2005-11-29 2015-01-27 Ebay Inc. Method and system for reducing connections to a database
US8131718B2 (en) 2005-12-13 2012-03-06 Muse Green Investments LLC Intelligent data retrieval system
JP4719613B2 (ja) 2006-04-21 2011-07-06 株式会社Ｐｆｕ 帳票配信システム、および帳票配信方法
US9318108B2 (en) * 2010-01-18 2016-04-19 Apple Inc. Intelligent automated assistant
CN101459881B (zh) * 2007-12-12 2010-09-08 中国移动通信集团公司 消息承载方法以及客户端、消息服务器
US7844712B2 (en) * 2008-10-15 2010-11-30 Patentvc Ltd. Hybrid open-loop and closed-loop erasure-coded fragment retrieval process
US8024423B2 (en) 2009-04-29 2011-09-20 Ianywhere Solutions, Inc. Maintaining connections between mobile devices and servers
US8065419B2 (en) * 2009-06-23 2011-11-22 Core Wireless Licensing S.A.R.L. Method and apparatus for a keep alive probe service
US20110060801A1 (en) * 2009-09-10 2011-03-10 Research In Motion Limited Automatic integration of a mail server with internet server (is)
EP2355425B1 (en) * 2010-02-04 2012-06-20 Research In Motion Limited Communication system with server for identification information retrieval and related methods
US20120223885A1 (en) 2011-03-02 2012-09-06 Microsoft Corporation Immersive display experience
US9781214B2 (en) 2013-04-08 2017-10-03 Amazon Technologies, Inc. Load-balanced, persistent connection techniques

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6363411B1 (en) * 1998-08-05 2002-03-26 Mci Worldcom, Inc. Intelligent network
CN101272384A (zh) * 2004-05-21 2008-09-24 语音移动有限公司 远程访问系统和方法以及其智能代理
US20120056971A1 (en) * 2010-09-03 2012-03-08 At&T Intellectual Property I, L.P. Virtual Presence Via Mobile
CN102170614A (zh) * 2011-04-29 2011-08-31 杭州东信北邮信息技术有限公司 一种交互式语音数据应答系统及其实现方法
CN102946409A (zh) * 2011-10-14 2013-02-27 微软公司 从多个服务器向客户机递送单个终端用户体验

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
KUMAR等: "A Review of Smart Volume Controllers for Consumer Electronics.", 《 IEEE TRANSACTIONS ON CONSUMER ELECTRONICS》 *
TORSTEN KLEINOW等: "Client/Server based Statistical Computing", 《COMPUTATIONAL STATISTICS》 *
李大伟等: "基于Blackfin处理器的蓝牙语音网接入点的设计", 《电子技术应用》 *

Also Published As

Publication number Publication date
US20140304418A1 (en) 2014-10-09
WO2014168882A1 (en) 2014-10-16
EP2984578A4 (en) 2017-04-05
CN111770131B (zh) 2023-05-30
EP2984578B1 (en) 2021-06-02
CN105518645A (zh) 2016-04-20
US20170244793A1 (en) 2017-08-24
CN105518645B (zh) 2020-06-02
JP6401242B2 (ja) 2018-10-10
EP2984578A1 (en) 2016-02-17
US9781214B2 (en) 2017-10-03
JP2016521413A (ja) 2016-07-21
US10178185B2 (en) 2019-01-08

Similar Documents

Publication Publication Date Title
CN105518645B (zh) 负载平衡的持久连接技术
US10055190B2 (en) Attribute-based audio channel arbitration
US11671826B2 (en) Voice control and telecommunications service integration
JP6556849B2 (ja) オペレーティングシステムドングル
CN111147357B (zh) 数字助手在通信中的使用
US9641954B1 (en) Phone communication via a voice-controlled device
US9293138B2 (en) Storing state information from network-based user devices
KR102304086B1 (ko) 대화형 콘텐츠를 제공하는 전자 장치, 서버 및 이를 위한 방법
CN104144093A (zh) 一种智能设备控制方法及相关设备、系统
WO2012055315A1 (zh) 一种提供和管理互动服务的系统和方法
CN105072537A (zh) 一种基于蓝牙连接的音频播放方法及装置
WO2022017007A1 (zh) 音频数据处理方法、服务器及存储介质
WO2014194647A1 (en) Data exchange method, device, and system for group communication
CN114217989A (zh) 设备间的服务调用方法、装置、设备、介质及计算机程序
CN113489805A (zh) 一种云桌面系统的对接方法、装置、设备及存储介质
US11947640B2 (en) Adaptive, multi-channel, embedded application programming interface (API)
CN112770078A (zh) 一种视频会议终端融合方法、装置及可读存储介质
KR102002872B1 (ko) 외부 디바이스를 통한 모바일 디바이스에서의 채팅 방법 및 시스템
CN113302682A (zh) 语音聊天装置、语音聊天方法和程序
US11722572B2 (en) Communication platform shifting for voice-enabled device
WO2016154788A1 (zh) 一种移动终端、基站、系统及运行应用的方法
JP2021139953A (ja) 音声会議支援装置、プログラム、音声会議支援方法、および音声会議支援システム
KR20120107172A (ko) 게임 서비스 제공 방법, 이를 적용한 시스템 및 단말기
CN113141292A (zh) 一种消息处理方法、装置及电子设备
JP2015135608A (ja) 情報処理装置およびコンピュータプログラム

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant