CN102379103A - 用于使用周围音频在设备之间建立协同通信的方法和系统 - Google Patents
用于使用周围音频在设备之间建立协同通信的方法和系统 Download PDFInfo
- Publication number
- CN102379103A CN102379103A CN2009801584479A CN200980158447A CN102379103A CN 102379103 A CN102379103 A CN 102379103A CN 2009801584479 A CN2009801584479 A CN 2009801584479A CN 200980158447 A CN200980158447 A CN 200980158447A CN 102379103 A CN102379103 A CN 102379103A
- Authority
- CN
- China
- Prior art keywords
- client
- side interface
- audio frequency
- server
- audio
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/14—Session management
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/1066—Session management
- H04L65/1069—Session establishment or de-establishment
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/40—Support for services or applications
- H04L65/403—Arrangements for multi-party communication, e.g. for conferences
- H04L65/4038—Arrangements for multi-party communication, e.g. for conferences with floor control
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/51—Discovery or management thereof, e.g. service location protocol [SLP] or web services
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Multimedia (AREA)
- Business, Economics & Management (AREA)
- General Business, Economics & Management (AREA)
- Telephonic Communication Services (AREA)
Abstract
本发明的不同实施例涉及这样的系统和方法,其用于使得相同周围音频环境中的两个或更多设备能够变得自动地互连,从而能够在这些设备之间交换信息。所述两个或更多设备检测基本上相同的声音,例如人在会议中谈话,自动地确定该事实并且经由网络使设备进入信息和文档共享关系。
Description
技术领域
本发明的实施例涉及用于交换信息的协同系统和方法。
背景技术
有效的观念沟通通常由一起密切工作的协同方表征。然而,常规会议场合中的参与者经常因必须采取不自然的步骤以实现简单形式的协同而被妨碍。例如,听演示的听众成员可能必须拷下文件名称或URL以便获得说话者的幻灯片,或者等待幻灯片在演示之后用电子邮件发送,这意味着听众成员必须把他们的电子邮件地址提供给说话者或者另一组织。电话会议呼叫是一种其中参与者可以交换观念和信息的受限制的方式。远程参与者可能必须要求且拷下联网IP地址以便获得文档或者把他们的电子邮件地址提供给其他参与者。此外,通过手机倾听电话会议的、希望转变到更高质量固定电话的远程参与者必须第二次拨打一长组会议代码并且倾听分散注意力的提示。
仅仅举几例而言,常规的用于使设备彼此识别的方法和系统包括发送密码、IP地址直接输入,利用电缆、通用即插即用物理地连接设备,以及使用包含配置信息的USB存储设备。所有这些常规的方法和系统要求使参与者从演示中分散注意力的用户干预,要求准备时间并且增加参与者的挫折感。换言之,常规的用于使设备在协同设置中通信的方法和系统并没有反映参与语言通信的人们共享的自然的信任关系。希望的是拥有使得协同参与者使用的设备能够以有限的参与者努力建立通信的方法和系统。
附图说明
图1示出了依照本发明实施例的用于通过网络提供信息的协同交换的第一交会(rendezvous)和协同系统。
图2示出了依照本发明实施例的用于参与交会和协同的客户端接口硬件的示意性表示。
图3示出了依照本发明实施例实现的第一交会用户体验。
图4示出了依照本发明实施例实现的第二交会用户体验。
图5A-5B示出了依照本发明实施例实现的第三交会用户体验。
图6示出了依照本发明实施例的在建立交会和协同时由客户端接口和服务器执行的操作的第一控制流程图。
图7示出了依照本发明实施例配置的第二交会和协同系统。
图8示出了依照本发明实施例的在建立交会和协同时由客户端接口和服务器执行的操作的第二控制流程图。
图9示出了依照本发明实施例配置的第三交会和协同系统。
图10示出了依照本申请实施例的在建立交会和协同时由服务器执行的操作的控制流程图。
具体实施方式
本发明的实施例涉及这样的系统和方法,其允许共同的周围音频(ambient audio)环境中的两个或更多设备通过网络自动地变得互连,从而可以在有限的设备用户干预的情况下在设备之间交换信息。系统和方法实施例也包括允许共同的周围音频环境中的两个或更多设备通过网络变得自动地互连,从而可以在有限的设备用户干预的情况下在设备之间建立音频和视觉信息。
详细的描述组织如下。在第一子节中提供交会和协同系统的一般描述。在第二子节中提供客户端接口硬件的描述。在第三子节中提供依照本发明实施例实现的交会用户体验的描述。在第四子节中提供交会过程的描述。最后,在第五子节中提供其他实施例的描述。
I. 交会和协同系统
图1示出了依照本发明实施例的用于通过网络提供信息的协同交换的交会和协同系统100。系统100包括一个或多个客户端接口102以及交会和协同服务器104,所有这些都通过网络106通信。服务器104是这样的相关设备,其确定哪些客户端接口102处于共同的音频环境中并且只与处于该共同的音频环境中的那些客户端接口102互连,从而可以交换文档和其他信息和/或也可以建立语音和视频通信。网络106可以是因特网、局域网、内联网、广域网、无线网络或者允许客户端接口通信和交换信息的任何其他系统。
在特定实施例中,客户端接口102可以是允许用户输入和接收信息并且能够在显示屏幕上呈现用户界面的任何设备,包括但不限于:台式计算机、膝上型计算机、便携式计算机、电话、移动电话、显示系统、电视、计算机监视器、导航系统、便携式媒体播放器、个人数字助理(“PDA”)、游戏控制台、手持式电子设备、嵌入式电子设备或者器具。每个客户端接口102包括诸如麦克风之类的周围音频检测器,用于监视、记录和收集周围音频,例如语音。
在特定实施例中,客户端接口102可以由安装在房间(例如会议室)中的分离的部件组成。换言之,客户端接口的诸如显示器和麦克风之类的部件不必限于特定的设备。例如,客户端接口102可以由会议室中的一个或多个麦克风和/或共享工作空间组成。所述一个或多个麦克风操作来连续地监视房间中产生的周围音频。当麦克风和关联的处理设备检测到房间中的噪声时,麦克风发起与交会服务器104的通信以便确定与周围音频匹配的电话会议是否在进行当中。如果是,并且如果电话会议具有关联的协同工作空间,那么交会服务器104将也存在于会议室中的显示系统配置成显示与进行中的电话会议关联的共享工作空间。例如,共享工作空间可以是共享的虚拟白板或者共享的演示。
在特定实施例中,客户端接口102并不包括显示屏幕。例如,客户端接口102可以仅仅由音频输入端、音频输出端和数字小键盘组成;或者客户端接口102可以仅仅由音频输入端、音频输出端以及“打开”和“关闭”客户端接口且激活与服务器104的通信的单个按钮组成。在又一些实施例中,客户端接口102可以由音频输入端和音频输出端组成,并且在客户端接口102检测到诸如人类话音之类的噪声时自动地激活与服务器104的通信。
每个客户端接口102收集一个或多个称为“片段”的周围音频段并且将每个片段转换成多个帧。帧可以是固定或可变长度的数据分组,其由对比滤波器(contrast filter)处理并且阈值化以产生k比特描述符。对比滤波器减去相邻矩形波谱图区域。例如,每个片段可以是5s的记录的音频,其被转换成415个隔开近似12ms的帧,并且每帧可以被转换成32比特描述符。与所述一个或多个收集的片段关联的32比特描述符的集合称为“音频摘要(audio summary)”。用于产生音频摘要的技术是公知的。例如,Ke, Y., Hoiem, D., Sukthankar, R., “Computer Vision for Music Identification,” In Proc. Computer Vision and Pattern Recognition, (2005)描述了用于在音乐识别中产生音频摘要的方法。Ke等人提出的音乐识别方法可以适于为诸如通信方发出的语音之类的其他周围音频源产生音频摘要。也参见Fink, M., Covell, M., Shumeet, B., “Mass Personalization: Social and Interactive Applications using Sound-track Identification,” Multimed Tools Appl (2008) 36:115-132。
音频摘要和用于标识特定客户端接口102的关联的用户标识符(“用户id”)经由网络106发送到服务器104。在特定实施例中,如Ke等人中所描述的,可以将描述符压缩成周围音频的统计摘要。通过发送统计摘要,维持了用户的声学隐私,因为统计摘要是不可逆的。换言之,原始音频不可能从描述符中恢复。因此,音频环境中收集的用户或其他个人的任何交谈都不可能从描述符中复现。在特定实施例中,为了额外的隐私和安全性,可以使用一种或多种诸如非对称或对称密钥加密和椭圆加密之类的已知加密技术对描述符进行加密。
对于客户端接口102提供的每个音频摘要,服务器104将该音频摘要与从其他客户端接口102发送给服务器104的整个音频摘要集合进行比较。换言之,可以将包括由一个客户端接口102提供的音频摘要的描述符与由每个其他客户端接口102提供的音频摘要中的描述符进行比较。服务器104比较这些音频摘要并且确定哪些音频摘要与共同的音频环境足够相似。在特定实施例中,可以对音频摘要加时间戳以便确保由服务器104比较的音频摘要在基本上相同的时间收集。可以允许特定的时间错位量以考虑到处理延迟或时钟不准确。在特定实施例中,服务器104经由网络106向共同的音频环境中的每个客户端接口102发送处于共同的音频环境中的其他客户端接口的列表和关联的用户id。共同的音频环境中的客户端接口102可以经由网络106依照协同应用来共享文档和/或建立音频和视频通信。
II. 客户端接口硬件
图2示出了依照本发明实施例配置的客户端接口硬件系统200的示意性表示。系统200包括一个或多个处理器202,例如中央处理单元;可选地一个或多个显示设备204,例如监视器;麦克风接口206;一个或多个网络接口208,例如USB端口、以太网或FireWire(火线)端口;以及一个或多个计算机可读介质210。这些部件中的每一个操作时耦合到一个或多个总线212。例如,总线212可以是EISA、PCI、USB、FireWire、NuBus或者PDS。
在其他实施例中,系统200可能不包括显示设备或输入设备,例如键盘或小键盘;并且系统200可以被配置成在没有用户输入的情况下产生背景中的音频摘要。
计算机可读介质210可以是参与向处理器202提供指令以供执行的任何介质。例如,计算机可读介质210可以是非易失性介质,例如光盘或磁盘;易失性介质,例如内存;以及传输介质,例如同轴电缆、铜线和光纤。传输介质也可以采取声、光或射频波的形式。
计算机可读介质210也包括操作系统214,例如Mac OS、Windows、Unix和Linux;网络通信模块216;交会应用218;以及协同应用220。操作系统214可以是多用户、多处理、多任务、多线程、实时的等等。操作系统214也可以执行基本的任务,例如识别来自诸如键盘或小键盘之类的输入设备的输入;将输出发送给显示器204;跟踪介质210上的文件和目录;控制诸如盘驱动器、打印机、图像捕获设备之类的外设;以及管理所述一个或多个总线212上的业务。网络应用216包括用于建立和维持网络连接的不同部件,例如用于实现包括TCP/IP、HTTP、以太网、USB和FireWire的通信协议的软件。
如以下在子节III-V中所描述的,交会和协同应用218和220提供用于允许在相同周围环境中的客户端接口之间进行交会和协同的不同软件部件。如下文所描述的,服务器104容纳特定的交会和协同功能,这些功能使得服务器104能够在交会和协同应用被激活时与客户端接口102交互。在特定实施例中,应用218和220执行的一些或全部过程可以集成到操作系统214中。在特定实施例中,这些过程可以至少部分地在数字电子电路中或者在计算机硬件、固件、软件中或者在其任意组合中实现。
计算机可读介质210也可以存储其他的软件应用,包括文字处理器、浏览器、电子邮件、即时消息传送、媒体播放器和电话软件。
III. 交会用户体验
在该子节中,描述了依照本发明实施例实现的三个示例性交会体验。应当指出的是,本发明的实施例并不意在限于这三个体验。本发明的系统和方法实施例可以用来创建任意数量的不同种类的交会体验。
图3示出了依照本发明实施例实现的第一交会用户体验。在图3中,五个客户端接口301-305设置在共同的场所中。该场所可以是房间,例如会议室、礼堂、大会堂,或者任何其他适当的封闭或未封闭环境。如图3中所示,客户端接口301和303为膝上型计算机,客户端接口302为PDA或者包括像计算机那样的功能的智能电话,客户端接口304为移动电话,并且客户端接口305为台式计算机。客户端接口301和305分别包括外部麦克风306和308,并且客户端接口302-304包括内部麦克风。如上面在子节I中所描述的,客户端接口301-305都假设经由共同的网络106(未示出)连接到服务器104。图3也包括周围音频源310,其可以是说话的人产生的语音,或者例如围绕会议桌或者白板自由谈话的客户端接口301-305的各用户基本上同时地或者在不同的时间发出的两个或更多语音的组合。
为了开始依照本发明实施例的交会过程,每个操作客户端接口301-305之一的用户激活存储在每个客户端接口301-305上的交会应用。例如,用户可以通过按压位于键盘上的特定按钮或者通过鼠标点击监视器312上显示的图标而激活客户端接口301上存储的交会应用。因此,用户可以在不中断交谈或演示的情况下激活交会应用。每个客户端接口的交会应用经由网络106建立与服务器104的联系,并且开始收集房间中产生的周围音频以便产生发送给服务器104的音频摘要。服务器104使用音频摘要以确定哪些客户端接口301-305正在收集基本上相同的周围音频并且因而是共同的音频环境的部分。数秒钟之后,在特定实施例中,服务器104可以向每个客户端接口301-305呈现界面,询问关联的用户他们是否想要处于共同的音频环境中的客户端接口的列表,或者在其他实施例中,服务器104可以激活弹出窗口或其他显示,其列出如上面在子节I中所描述的识别为处于共同的音频环境中的客户端接口301-305和关联的用户id。所述显示也可以包括每个用户可以点击以接受客户端接口301-305列表的“好的”按钮。当接受该列表时,利用包括识别的计算机和关联的用户id的参与者列表来激活协同应用。协同应用促进了文档的共享。例如,假定客户端接口303的用户具有成为讨论的主题的文档,并且客户端305的用户想要拥有该文档的拷贝。位于客户端接口303上的协同应用使得用户能够将文档的拷贝和客户端接口305的用户id上传到服务器104。服务器104可以激活客户端接口305上的弹出窗口,指示文档的拷贝现在可用于从服务器104下载。
图4示出了依照本发明实施例实现的第二交会用户体验。在图4中,位于第一场所的第一用户拥有第一移动电话401和第一膝上型计算机402,并且位于第二场所的第二用户拥有第二移动电话403和第二膝上型计算机404。第一场所和第二场所可以是相同建筑物内的不同的房间、位于相同城市、州、国家或者甚至不同国家的两个不同建筑物内的房间,并且这些建筑物可以分开数十、数百和数千英里。第一用户和第二用户起初分别通过手机401和403进行交谈。为了开始依照本发明实施例的交会过程,第一用户和第二用户激活各自的存储在膝上型计算机402和404上的交会应用。每个交会应用建立到服务器104的单独的连接,并且开始收集各自场所处的音频样本。在特定实施例中,第一用户和第二用户这二者可以分别激活移动电话401和403上的扬声器。如图4中所示,说话的第一用户提供由移动电话401的麦克风和连接到膝上型计算机402的麦克风407收集的周围音频源406。说话的第二用户提供由移动电话403的麦克风和连接到膝上型计算机404的麦克风409收集的周围音频源408。当第一用户激活移动电话401上的扬声器时,输入到移动电话403的第二用户的语音变成第一场所处的第二周围音频源410,并且当第二用户激活移动电话403上的扬声器时,输入到移动电话401的第一用户的语音变成第二场所处的第二周围音频源412。因此,第一用户和第二用户发出的语音同时由两个场所的麦克风407和409收集,并且用来产生单独地发送到服务器104的可比较的音频摘要。服务器104处理这些音频摘要,确定膝上型计算机402和404处于共同的音频环境中,并且继续以发送列表和用户id给膝上型计算机402和404,从而第一和第二用户可以激活如上面参照图3所描述的协同应用。
在其他实施例中,在建立交会过程时可以激活仅仅一个移动电话的扬声器。例如,假定第一用户激活第一移动电话401上的扬声器,并且第二用户不激活第二移动电话403上的扬声器。因此,第二场所处的周围音频408仅仅包括第二用户的语音,该语音由麦克风409收集并且用来产生发送到服务器104的音频摘要。同时,在第一场所处,麦克风407收集的周围音频406和410为第一用户的语音和从第一移动电话401的扬声器广播的第二用户的语音的组合。该组合的周围音频406和410用来产生也发送到服务器104的音频摘要。第二用户的语音对于服务器104接收的两个音频摘要是共同的,并且可以用来确定膝上型计算机402和404处于共同的音频环境中。服务器104继续以发送列表和用户id,从而第一和第二用户可以激活如上面参照图3所描述的协同应用。
应当指出的是,图4中描述的音频体验并不限于使用移动电话来建立交会。在其他实施例中,可以使用具有扬声器的固定电话,或者可以使用能够广播声音的任何其他适当的通信设备。此外,可以使用如上面在子节I中所描述的任何适当的用户接口代替膝上型计算机402和404。
在其他用户体验实施例中,假定在打移动电话或固定电话的人已经参与电话会议并且想要转变为膝上型计算机网际协议语音(“VoIP”)呼叫。图5A-5B示出了依照本发明实施例实现的第三交会用户体验。交会和协同服务器104与会议桥502通信,该会议桥是链接电话线并且用来连接参与电话会议的多方的设备。如图5A-5B中所示,会议桥502可以服务器104分开,并且在其他实施例中,会议桥502可以与服务器104集成在一起。图5A-5B示出仅仅一个用户经由移动电话504拨入505会议桥502,但是其他用户(未示出)可以拨入会议桥502。用户可以使用特定会议号码拨入会议桥。除了为拨入会议桥502的电话提供电信之外,会议桥502被配置成作为客户端接口而操作,其收集同时发生的不同交谈的音频样本并且将与每个交谈关联的音频摘要发送到服务器104。
在图5A所表示的第一实施例中,移动电话504的用户可以通过激活膝上型计算机506上的交会应用而切换到膝上型计算机506上的VoIP呼叫,这建立与服务器104的网络连接508。服务器104如上面所描述的那样响应从膝上型计算机506发送的音频摘要,并且相对于与经由会议桥502发生的每个交谈关联的音频摘要检查膝上型计算机506提供的音频摘要。当服务器104识别适当的交谈时,服务器104指示膝上型计算机506发起到会议桥502的适当VoIP呼叫510,使得膝上型计算机506加入电话会议。
在图5B所表示的第二实施例中,用户可以发起从膝上型计算机506到会议桥502的VoIP呼叫512。会议桥502将膝上型计算机506收集的周围音频的音频摘要发送到服务器104。当服务器104发现经由会议桥502发生的现有电话会议的音频摘要基本上与膝上型计算机506提供的音频摘要匹配时,服务器104指示会议桥502将膝上型计算机506 VoIP呼叫加入到现有的电话会议。
在其他实施例中,不是从移动电话504切换到膝上型计算机506,而是服务器104可以被配置成使得用户可以经由固定电话(未示出)加入电话会议。用户使用固定电话拨入会议桥502。用户可以继续说话以产生由移动电话504和固定电话收集的周围音频。服务器104将移动电话504和固定电话这二者经由会议桥502提供的音频摘要进行比较,并且确定固定电话和移动电话504是共同的音频环境的部分。服务器104将固定电话加入到会议电话并且可以终止移动电话504的呼叫。
IV. 交会和协同过程
图6示出了依照本申请实施例的在建立某个客户端接口与其他客户端接口之间的交会和协同体验时由该客户端接口以及交会和协同服务器执行的操作的控制流程图。步骤601-604和步骤611-614由每个客户端接口单独地执行,并且步骤605-610由交会和协同服务器执行。客户端接口都预先加载了服务器的名称。
在步骤602中,用户如上面在子节II和III中所描述的那样激活客户端接口上存储的交会应用。在步骤602中,交会应用激活周围音频检测器(例如麦克风)并且开始如上面在子节I和III中所描述的那样收集周围音频样本或片段。在步骤603中,交会应用将每个片段转换成m个帧,并且每帧由对比滤波器处理并且阈值化以便产生k比特描述符。k比特描述符形成音频摘要。在步骤604中,交会应用经由网络将来自客户端接口的音频摘要发送到服务器。
在步骤605中,服务器经由网络接收来自客户端接口102的音频摘要。在步骤606中,服务器将该音频摘要与从其他客户端接口接收的其他音频摘要中的每一个进行比较。在步骤607中,当服务器确定该音频摘要基本上与从其他客户端接口接收的音频摘要匹配时,服务器继续到步骤608,否则,服务器继续到步骤610。在步骤608中,服务器如上面在子节III中所描述的那样将该客户端接口添加到所有参与共同的音频环境的其他客户端接口的列表。该列表也包括每个客户端接口的用户id。在步骤609中,服务器将参与客户端接口和用户id的列表返回该客户端接口。在步骤610中,服务器向该客户端接口返回对交会的访问被拒绝的通知,指示该客户端接口不是该共同的音频环境的一部分。
回到客户端执行的操作,在步骤611中,当该客户端接口接收到来自服务器的参与客户端接口的列表时,继续到步骤612,否则,交会应用可以返回步骤601并且步骤601-604可以重复。在步骤612中,该客户端接口可以联系服务器或者列表中提供的另一个参与客户端接口。在步骤613中,该客户端接收与另一个参与客户端加入交换文档的提示。在步骤614中,该客户端启动协同应用,从而使得该客户端接口能够经由网络与列表中提供的选定的客户端接口交换文档。
在特定实施例中,交会应用可以被配置成周期性地检查某个客户端接口是否是共同的音频环境的一部分,从而使得用户能够在不同的时间离开该音频环境。特别地,交会应用可以被配置成周期性地重复步骤602-604,并且服务器上存储的交会功能也可以周期性地重复步骤605-610。当用户完成参与该协同时,用户简单地从音频环境移除关联的客户端接口,例如膝上型计算机或PDA。服务器接收来自移除的客户端接口的音频摘要以及来自该共同的音频环境中剩余的客户端接口的音频摘要并且确定该移除的客户端接口的音频摘要不再与从共同的音频环境中剩余的那些客户端接口接收的音频摘要匹配。因此,服务器从列表中移除该客户端,并且切断该客户端接口与仍然在共同的音频环境中的其他客户端接口的连接。
在其他实施例中,客户端接口也可以加入如上面在子节I-III中所描述的建立的已经存在的音频环境。用户激活交会应用,该交会应用如上面在步骤601-604中所描述的那样产生音频摘要并且将该音频摘要发送到服务器。由于服务器周期性地重复步骤605-610,因而服务器接收来自最近进入的客户端接口的音频摘要并且确定该音频摘要基本上与从已经在共同的音频环境中的那些客户端接口接收的音频摘要匹配。然后,服务器将最近进入的客户端接口加入到已经存在的音频环境。
V. 其他实施例
在其他实施例中,可以采用两个单独的服务器,第一服务器被配置成处理客户端接口之间的交会,并且第二服务器被配置成处理其中交换文档和其他信息的协同。图7示出了依照本发明实施例的用于通过网络提供协同信息交换的交会和协同系统700。除了服务器104被交会服务器702和协同服务器704代替之外,系统700与图1中所示的系统100相同。如上面在子节I中所描述的那样,交会服务器702是相关设备。交会服务器702接收来自客户端接口102的音频摘要并且将共享安全令牌返回给如上面在子节I-III中所描述的仅仅那些由服务器702确定为处于共同的音频环境中的客户端接口。安全令牌也发送到协同服务器704。安全令牌可以是数据分组,其包括由交会服务器702创建的二进制密码部分以便像密码那样操作。当客户端接口102接收到安全令牌时,关联的用户激活将安全令牌发送到协同服务器704的协同应用,该协同服务器将从客户端接口102接收的安全令牌与从服务器104接收的安全令牌进行比较。与交会服务器702提供的安全令牌匹配的安全令牌被假定处于共同的音频环境,并且被允许通过经由协同服务器704交换文档而协同。
图8示出了依照本申请实施例的在建立客户端接口102与其他客户端接口102之间的交会和协同时由该客户端接口102和交会服务器702执行的操作的控制流程图。步骤601-604和步骤803-805由每个客户端接口102单独地执行,并且步骤605-607、801和802由交会服务器702执行。
客户端接口102执行步骤601-604并且交会服务器702执行步骤601-607、801和802。在步骤607中,当音频摘要基本上与其他客户端接口提供的音频摘要匹配时,交会服务器702继续到步骤801,否则,交会服务器702继续到步骤802。在步骤801中,交会服务器702将共享安全令牌发送给客户端接口102,如上面参照图7所描述的。在步骤802中,交会服务器702向客户端接口102返回对交会的访问被拒绝的通知,指示客户端接口102不是共同的音频环境的一部分。
返回客户端接口执行的操作,在步骤803中,当客户端接口102接收到来自交会服务器702的安全令牌时,继续到步骤804,否则交会应用可以返回步骤601并且步骤601-604可以重复。在步骤804中,客户端启动协同应用,从而使得客户端能够经由网络106和协同服务器704交换文档。在步骤805中,客户端将安全令牌发送到协同服务器704。
在其他实施例中,系统可以被配置成在客户端接口处于不同的音频环境但是碰巧基于相同的广播事件而形成音频摘要时,防止客户端加入非预期的协同会话。图9示出了依照本发明实施例的用于通过网络提供协同信息交换的交会和协同系统900。除了交会和协同服务器902连接到广播信号数据库904之外,系统900与图1中示出的系统100相同。数据库904存储从电视以及服务器902和客户端接口102所在的区域内的无线电广播获得的周围音频的音频摘要。该区域可以是市、郡、州或者多州区域。数据库904中存储的音频摘要在交会过程开始时更新,并且这些音频摘要在客户端接口参与协同会议时更新。服务器104将客户端接口102提供的音频摘要与数据库902中存储的音频摘要进行比较以便消除客户端接口在事实上它们不是共同的音频环境中的协同者时被错误地识别为这样的协同者。考虑例如位于分开的房间中但是交会应用被激活的两个PDA。假定这些PDA收集到来自碰巧调谐到相同频道的两个电视机的周围音频。服务器104将这些PDA提供的音频摘要与数据库902中存储的音频摘要进行比较并且确定这些PDA基本上与从相同广播获得的音频摘要匹配。服务器104拒绝将这些PDA加入协同会话。
图10示出了依照本申请实施例的在建立某个客户端接口与其他客户端接口之间的交会和协同会话时由交会服务器执行的操作的控制流程图。步骤1001-1008可以代替上面参照图6所描述的控制流程图中的步骤605-610。在步骤1001中,服务器经由网络接收来自客户端接口的音频摘要。在步骤1002中,服务器将该客户端接口提供的音频摘要与广播信号数据库中存储的音频摘要进行比较,如上面参照图9所描述的。在步骤1003中,当该客户端接口提供的音频摘要与数据库中存储的音频摘要匹配时,继续到步骤1004,否则继续到步骤1005。在步骤1004中,服务器向该客户端接口返回对交会的访问被拒绝的通知。在步骤1005中,服务器将该客户端接口提供的音频摘要与从其他客户端接口接收的其他音频摘要的集合进行比较。在步骤1006中,当服务器确定该音频摘要基本上与从其他客户端接口接收的音频摘要匹配时,服务器继续到步骤1007,否则,服务器继续到步骤1004。在步骤1007中,服务器将该客户端接口添加到包括共同的音频环境的其他客户端接口的列表,如上面在子节III和IV中所描述的。该列表也包括每个客户端接口的用户id。在步骤1008中,服务器向该客户端接口返回参与客户端接口和用户id的列表。
前面的描述出于解释的目的使用了特定的术语以便提供对于本发明的透彻理解。然而,本领域技术人员应当清楚的是,并不需要这些特定细节以便实施本发明。前面的对于本发明特定实施例的描述出于说明和描述的目的而被提供。它们并不预期是穷举的或者将本发明限于所公开的精确形式。显然,鉴于上面的教导,许多修改和变型都是可能的。所述实施例被示出和描述以便最佳地解释本发明的原理及其实际应用,从而允许本领域技术人员最佳地利用本发明以及具有适于设想的特定用途的各种修改的不同实施例。本发明的范围意在由下面的权利要求及其等效物限定。
Claims (15)
1.一种用于建立第一客户端接口与第二客户端接口之间的互连的方法,该方法包括:
在第一客户端接口处形成第一音频摘要(603)并且在第二客户端接口处形成第二音频摘要;
将第一音频摘要(603)和第二音频摘要提交给能够将第一音频摘要与第二音频摘要进行比较的相关设备;以及
在第一客户端接口和第二客户端接口处从相关设备接收(611)成功或失败的指示,以便基于第一音频摘要是否基本上与第二音频摘要匹配而建立第一客户端接口与第二客户端接口之间的互连。
2.权利要求1的方法,进一步包括当第一音频摘要基本上与第二音频摘要匹配时将第一客户端接口与第二客户端接口互连(614)。
3.权利要求1的方法,其中形成第一音频摘要和第二音频摘要进一步包括第一客户端接口和第二客户端接口中的每一个使用关联的周围音频检测器收集从一个或多个说话的人输出的周围音频的音频样本(602)。
4.权利要求1的方法,其中接收成功的指示进一步包括当第一音频摘要基本上与第二音频摘要匹配时,第一客户端接口接收与第二客户端接口关联的用户标识符并且第二客户端接口接收与第一客户端接口关联的用户标识符。
5.权利要求1的方法,其中接收成功的指示进一步包括第一客户端接口接收第一安全令牌,第二客户端接口接收第二安全令牌,并且协同服务器接收第三安全令牌,第一、第二和第三安全令牌由所述相关设备产生,其中协同服务器比较这些安全令牌并且当第一、第二和第三安全令牌匹配时建立第一客户端接口与第二客户端接口之间的互连。
6.一种用于建立第一客户端接口与第二客户端接口之间的互连的方法,该方法包括:
从第一客户端接口接收第一音频摘要(605)并且从第二客户端接口接收第二音频摘要;
基于第一音频摘要是否基本上与第二音频摘要匹配而将成功或失败的指示(609,610)发送给第一客户端接口和第二客户端接口;以及
当第一音频摘要基本上与第二音频摘要匹配时,将第一客户端接口和第二客户端接口互连,使得第一客户端接口和第二客户端接口能够交换信息。
7.权利要求6的方法,其中第一音频摘要和第二音频摘要中的每一个进一步包括从一个或多个说话的人输出的周围音频的音频样本的集合。
8.权利要求6的方法,其中发送成功的指示进一步包括当第一音频摘要基本上与第二音频摘要匹配时,将与第二客户端接口关联的用户标识符发送给第一客户端接口并且将与第一客户端接口关联的用户标识符发送给第二客户端接口。
9.权利要求6的方法,其中发送成功的指示进一步包括当第一音频摘要基本上与第二音频摘要匹配时,发送第一安全令牌给第一客户端接口,发送第二安全令牌给第二客户端接口,并且发送第三安全令牌给协同服务器。
10.权利要求13的方法,进一步包括第一客户端接口和第二客户端接口将第一和第二安全令牌提交给协同服务器,该协同服务器将第一和第二安全令牌与第三安全令牌进行比较并且在第一、第二和第三安全令牌匹配时建立第一客户端接口与第二客户端接口之间的互连。
11.一种系统,包括:
第一客户端接口(102),其被配置成收集周围音频并且形成第一音频摘要;
第二客户端接口(102),其被配置成收集周围音频并且形成第二音频摘要;以及
相关设备(104,702),其被配置成接收第一音频摘要和第二音频摘要,并且在第一音频摘要基本上与第二音频摘要匹配时将第一客户端接口和第二客户端接口互连,使得第一客户端接口和第二客户端接口能够交换信息。
12.权利要求11的系统,其中第一客户端接口和第二客户端接口中的每一个进一步包括台式计算机、膝上型计算机、便携式计算机、电话、移动电话、显示系统、电视、计算机监视器、导航系统、便携式媒体播放器、个人数字助理、游戏控制台、手持式电子设备、嵌入式电子设备或器具、会议桥之一。
13.权利要求11的系统,其中第一客户端接口和第二客户端接口中的每一个进一步包括周围音频检测器。
14.权利要求11的系统,其中相关设备被配置成当第一音频摘要基本上与第二音频摘要匹配时,将与第二客户端接口关联的用户标识符发送给第一客户端接口并且将与第二客户端接口关联的用户标识符发送给第一客户端接口。
15.权利要求11的系统,其中相关设备被配置成发送第一安全令牌给第一客户端接口,发送第二安全令牌给第二客户端接口,并且发送第三安全令牌给协同服务器,该协同服务器被配置成分别从第一和第二客户端接口接收第一和第二安全令牌,并且在第一、第二和第三安全令牌匹配时建立第一客户端接口与第二客户端接口之间的互连。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/US2009/000620 WO2010087797A1 (en) | 2009-01-30 | 2009-01-30 | Methods and systems for establishing collaborative communications between devices using ambient audio |
Publications (1)
Publication Number | Publication Date |
---|---|
CN102379103A true CN102379103A (zh) | 2012-03-14 |
Family
ID=42395855
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2009801584479A Pending CN102379103A (zh) | 2009-01-30 | 2009-01-30 | 用于使用周围音频在设备之间建立协同通信的方法和系统 |
Country Status (4)
Country | Link |
---|---|
US (1) | US9742849B2 (zh) |
EP (1) | EP2384565B1 (zh) |
CN (1) | CN102379103A (zh) |
WO (1) | WO2010087797A1 (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103220151A (zh) * | 2013-04-17 | 2013-07-24 | 合肥华恒电子科技有限责任公司 | 一种基于声音识别的用户关联方法 |
CN103428250A (zh) * | 2012-05-23 | 2013-12-04 | 联想(北京)有限公司 | 匹配设备的方法、服务器和终端设备 |
Families Citing this family (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20100211911A1 (en) * | 2009-02-13 | 2010-08-19 | Adrian Logan | Method of altering a user interface |
US9189143B2 (en) * | 2010-04-30 | 2015-11-17 | American Teleconferencing Services, Ltd. | Sharing social networking content in a conference user interface |
US9965756B2 (en) | 2013-02-26 | 2018-05-08 | Digimarc Corporation | Methods and arrangements for smartphone payments |
KR20120100514A (ko) * | 2011-03-04 | 2012-09-12 | 삼성전자주식회사 | 디바이스 그룹핑 방법 및 이를 적용한 서버 |
US20120224711A1 (en) * | 2011-03-04 | 2012-09-06 | Qualcomm Incorporated | Method and apparatus for grouping client devices based on context similarity |
KR101497386B1 (ko) | 2011-05-24 | 2015-03-02 | 엠파이어 테크놀로지 디벨롭먼트 엘엘씨 | 실제 물체를 사용하는 암호화 |
US8868039B2 (en) | 2011-10-12 | 2014-10-21 | Digimarc Corporation | Context-related arrangements |
CN103178878B (zh) * | 2011-12-21 | 2015-07-22 | 国际商业机器公司 | 一种用于连接无线设备的方法和系统 |
WO2013143573A1 (en) * | 2012-03-26 | 2013-10-03 | Brainlab Ag | Pairing medical devices within a working environment |
KR20140058996A (ko) | 2012-11-07 | 2014-05-15 | 삼성전자주식회사 | 사용자 단말, 외부 장치, 데이터 송수신 시스템 및 데이터 송수신 방법 |
US9830588B2 (en) | 2013-02-26 | 2017-11-28 | Digimarc Corporation | Methods and arrangements for smartphone payments |
US9774743B2 (en) | 2013-03-29 | 2017-09-26 | Hewlett-Packard Development Company, L.P. | Silence signatures of audio signals |
US10705788B2 (en) * | 2013-07-09 | 2020-07-07 | Nokia Technologies Oy | Method and apparatus for controlling audio output |
GB201319687D0 (en) * | 2013-11-07 | 2013-12-25 | Microsoft Corp | Call handling |
US9854439B2 (en) * | 2014-02-07 | 2017-12-26 | First Principles, Inc. | Device and method for authenticating a user of a voice user interface and selectively managing incoming communications |
US9311639B2 (en) | 2014-02-11 | 2016-04-12 | Digimarc Corporation | Methods, apparatus and arrangements for device to device communication |
US10218749B2 (en) * | 2016-11-04 | 2019-02-26 | American Teleconferencing Services, Ltd. | Systems, methods, and computer programs for establishing a screen share session for a remote voice call |
US10097538B1 (en) | 2017-08-12 | 2018-10-09 | Growpath, Inc. | User authentication systems and methods |
US20190297119A1 (en) * | 2018-03-23 | 2019-09-26 | Cisco Technology, Inc. | Establishing direct secure connection between collaboration devices in a room or space |
US11222625B2 (en) * | 2019-04-15 | 2022-01-11 | Ademco Inc. | Systems and methods for training devices to recognize sound patterns |
US11930082B1 (en) | 2022-12-15 | 2024-03-12 | Amazon Technologies, Inc. | Multiple zone communications and controls |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5689641A (en) * | 1993-10-01 | 1997-11-18 | Vicor, Inc. | Multimedia collaboration system arrangement for routing compressed AV signal through a participant site without decompressing the AV signal |
US20020032730A1 (en) * | 2000-09-11 | 2002-03-14 | Rami Amit | System and method for correlating data sessions |
US7545758B2 (en) * | 2002-12-11 | 2009-06-09 | Siemens Communications, Inc. | System and method for collaboration summarization playback |
US7222305B2 (en) * | 2003-03-13 | 2007-05-22 | Oracle International Corp. | Method of sharing a desktop with attendees of a real-time collaboration |
US20050147256A1 (en) * | 2003-12-30 | 2005-07-07 | Peters Geoffrey W. | Automated presentation of entertainment content in response to received ambient audio |
US7634533B2 (en) * | 2004-04-30 | 2009-12-15 | Microsoft Corporation | Systems and methods for real-time audio-visual communication and data collaboration in a network conference environment |
US8280948B1 (en) * | 2004-06-08 | 2012-10-02 | Persony Inc. | System and method for enabling online collaboration amongst a plurality of terminals using a web server |
US7707249B2 (en) * | 2004-09-03 | 2010-04-27 | Open Text Corporation | Systems and methods for collaboration |
EP1708528A1 (en) | 2005-03-31 | 2006-10-04 | BRITISH TELECOMMUNICATIONS public limited company | Location based authentication |
US20070050448A1 (en) * | 2005-08-25 | 2007-03-01 | Polycom, Inc. | Method and system for information collaboration over an IP network via handheld wireless communication devices |
ES2386977T3 (es) * | 2005-11-29 | 2012-09-10 | Google Inc. | Aplicaciones sociales e interactivas para medios masivos |
US20070130473A1 (en) * | 2005-12-02 | 2007-06-07 | Mazotas James S | System and method for access control |
US20070294224A1 (en) * | 2006-06-16 | 2007-12-20 | Jean-Jacques Heler | Tracking discrete elements of distributed transactions |
US7769806B2 (en) * | 2007-10-24 | 2010-08-03 | Social Communications Company | Automated real-time data stream switching in a shared virtual area communication environment |
US8379870B2 (en) * | 2008-10-03 | 2013-02-19 | Adaptive Sound Technologies, Inc. | Ambient audio transformation modes |
-
2009
- 2009-01-30 WO PCT/US2009/000620 patent/WO2010087797A1/en active Application Filing
- 2009-01-30 US US13/146,941 patent/US9742849B2/en active Active
- 2009-01-30 CN CN2009801584479A patent/CN102379103A/zh active Pending
- 2009-01-30 EP EP09839374.7A patent/EP2384565B1/en not_active Not-in-force
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103428250A (zh) * | 2012-05-23 | 2013-12-04 | 联想(北京)有限公司 | 匹配设备的方法、服务器和终端设备 |
CN103428250B (zh) * | 2012-05-23 | 2016-12-28 | 联想(北京)有限公司 | 匹配设备的方法、服务器和终端设备 |
CN103220151A (zh) * | 2013-04-17 | 2013-07-24 | 合肥华恒电子科技有限责任公司 | 一种基于声音识别的用户关联方法 |
Also Published As
Publication number | Publication date |
---|---|
EP2384565B1 (en) | 2018-09-26 |
US20110289224A1 (en) | 2011-11-24 |
WO2010087797A1 (en) | 2010-08-05 |
EP2384565A4 (en) | 2015-02-11 |
EP2384565A1 (en) | 2011-11-09 |
US9742849B2 (en) | 2017-08-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102379103A (zh) | 用于使用周围音频在设备之间建立协同通信的方法和系统 | |
CN105915436B (zh) | 基于主题的即时消息隔离的系统和方法 | |
US6721703B2 (en) | Remote deposition system and method | |
EP2454844B1 (en) | Systems, methods, and media for identifying and associating user devices with media cues | |
CN104067602B (zh) | 语音链接系统 | |
US8817061B2 (en) | Recognition of human gestures by a mobile phone | |
CN101536511B (zh) | 单一动作启动视频会议的系统和方法 | |
US20120017149A1 (en) | Video whisper sessions during online collaborative computing sessions | |
US20160050394A1 (en) | System for immersive telepresence | |
US20110150200A1 (en) | Web guided collaborative audio | |
CN102257791A (zh) | 用于电话的通信会话的音频和非音频部分的高效按需汇合 | |
WO2014120848A1 (en) | Video conference call conversation topic sharing system | |
CN101223766A (zh) | 电子会议系统、电子会议管理装置、终端装置、电子会议管理方法、控制程序及记录了控制程序的计算机可读取的记录媒体 | |
CN1989497A (zh) | 用于即时消息自相关的方法和装置 | |
US9538011B1 (en) | Mobile microphone system portal app for meetings | |
CN102594793A (zh) | 生成示出情境中的应用工件的协作时间线的方法和系统 | |
CN103891271A (zh) | 用于提供在会议中产生的数据的方法和设备 | |
CN110493556A (zh) | 一种会议终端之间动态转移入会的方法和装置 | |
US20240283832A1 (en) | Capturing and presenting audience response at scale | |
CN114979545A (zh) | 多终端的通话方法和存储介质及电子设备 | |
CN102387154B (zh) | 一种实现多方多媒体通讯的方法 | |
CN102165767A (zh) | 用于创建第二事件的事件管理系统 | |
CN102016816A (zh) | 事件之间的消息传送 | |
WO2011010563A1 (ja) | ビデオ通話システム、主側端末、従側端末、プログラム | |
CN102017620A (zh) | 安排好的事件之前的通信 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C02 | Deemed withdrawal of patent application after publication (patent law 2001) | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20120314 |