CN104469397A - 分配管理设备和分配管理系统 - Google Patents
分配管理设备和分配管理系统 Download PDFInfo
- Publication number
- CN104469397A CN104469397A CN201410460819.6A CN201410460819A CN104469397A CN 104469397 A CN104469397 A CN 104469397A CN 201410460819 A CN201410460819 A CN 201410460819A CN 104469397 A CN104469397 A CN 104469397A
- Authority
- CN
- China
- Prior art keywords
- communication terminal
- data
- video
- sound
- allocation manager
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
- H04N21/2343—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
- H04N21/234309—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by transcoding between formats or standards, e.g. from MPEG-2 to MPEG-4 or from Quicktime to Realvideo
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/47—End-user applications
- H04N21/478—Supplemental services, e.g. displaying phone caller identification, shopping application
- H04N21/4788—Supplemental services, e.g. displaying phone caller identification, shopping application communicating with other users, e.g. chatting
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/14—Systems for two-way working
- H04N7/15—Conference systems
Abstract
一种分配管理设备,包括:生成单元,配置用以渲染内容数据从而生成视频数据;转换器,配置用以将视频数据的数据格式转换为允许视频数据被分配至通信终端的数据格式,通信终端包括第一通信终端和第二通信终端;发送机/接收机,配置用以将已转换的视频数据分配至通信终端;接收器,配置用以从第一通信终端接收表示由第一通信终端所绘制的操作路径的路径信息以及操作路径的绘制时序;获取单元,配置用以获取标识信息,标识信息标识与由第二通信终端以绘制时序再现的视频数据相对应的内容数据;以及存储单元,配置用以在其中彼此相关联地存储路径信息与标识信息。
Description
技术领域
本发明涉及分配(distribution)管理设备以及分配管理系统。
背景技术
已知一种系统,当正被再现的内容中的特定位置或部分被指定时,可提供与所述内容相关的信息(例如,参照日本待审公开专利申请NO.2009-65551)。在日本待审公开专利申请NO.2009-65551中,内容以及与所述内容中的任何元素相对应的相关信息被预先登记在服务器中的数据库中。当服务器从被提供有所述内容的终端接收到所述内容以及用于所述内容中的特定元素的指定信息时,所述服务器将相应的信息发送至所述终端。
然而,传统上已要求预先将要分配的内容中所包括的元素与相关信息彼此相关联地登记。正因为如此,例如传统上在用作投影仪的通信终端再现视频并且另一通信终端绘制诸如线条、图像以及备忘录中的字符的操作路径的情形中,操作路径与正被再现的视频不能彼此相关联。换言之,传统上难以动态地将由用户通过一个通信终端所绘制的诸如线条和图像的操作路径与关于正由另一通信终端再现的视频的信息彼此相关联。
因此,需要提供一种分配管理设备和分配管理系统,所述分配管理设备和所述分配管理系统能够动态地将由一个通信终端所绘制的操作路径与关于正由另一通信终端再现的视频的信息相关联。
发明内容
本发明的目的是至少部分地解决传统技术中的问题。
根据一个实施例,提供一种分配管理设备,包括:生成单元,配置用以渲染内容数据从而生成视频数据;转换器,配置用以将所述视频数据的数据格式转换为允许所述视频数据被分配至通信终端的数据格式,所述通信终端包括第一通信终端和第二通信终端;发送机/接收机,配置用以将已转换的视频数据分配至所述通信终端;接收器,配置用以从所述第一通信终端接收表示由所述第一通信终端所绘制的操作路径的路径信息以及所述操作路径的绘制时序;获取单元,配置用以获取标识信息,所述标识信息标识与由所述第二通信终端以所述绘图时序再现的视频数据相对应的内容数据;以及存储单元,所述存储单元配置用以在其中彼此相关联地存储所述路径信息与所述标识信息。
根据另一实施例,提供一种分配管理系统,包括分配管理设备以及通信终端,所述通信终端包括通过网络与所述分配管理设备连接的第一通信终端和第二通信终端。所述分配管理设备包括:生成单元,配置用以渲染内容数据,从而生成视频数据;转换单元,配置用以将所述视频数据的数据格式转换成允许所述视频数据被分配至包括所述第一通信终端和所述第二通信终端的所述通信终端;发送机/接收机,配置以将已转换的视频数据分配至所述通信终端;接收器,配置用以从所述第一通信终端接收表示由所述第一通信终端所绘制的操作路径的路径信息以及所述操作路径的绘制时序;获取单元,配置用以获取标识信息,所述标识信息标识与由所述第二通信终端以所述绘图时序再现的视频数据相对应的内容数据;以及存储单元,所述存储单元配置用以在其中彼此相关联地存储所述路径信息与所述标识信息。
当结合附图考虑时,通过阅读下文详细说明的本发明的当前优选实施例,将更好地理解本发明的上述及其它目的、特征、优点以及技术和工业意义。
附图说明
图1是根据实施例的分配系统的示意图;
图2是当软件保护器(dongle)附接至通信终端时的概念图;
图3是示出基本分配方法的概念图;
图4是多播的概念图;
图5是多显示器的概念图;
图6是复合分配的概念图;
图7是示出分配管理设备的硬件配置的实例的示图;
图8是示出分配管理设备的功能的功能框图;
图9是绘制表的概念图;
图10是主要示出通信终端的功能的功能框图;
图11是示出终端管理设备的功能的功能框图;
图12是分配目的地选择菜单屏幕的概念图;
图13是终端管理表的概念图;
图14是可用终端管理表的概念图;
图15是编码器桥接(bridge)单元的详细示图;
图16是示出转换器的功能的功能框图;
图17是示出分配管理设备的基本分配处理的顺序图;
图18是示出在分配管理设备与通信终端之间所执行的时间调整的处理的顺序图;
图19是示出对从分配管理设备发送至通信终端的数据进行信道自适应控制的处理的顺序图;
图20是示出对从通信终端发送至分配管理设备的数据进行信道自适应控制的处理的顺序图;
图21是示出多显示器的处理的顺序图;
图22是示出多显示器的处理的顺序图;
图23是示出多显示器的处理的顺序图;
图24是示出通过分配管理设备进行远程共享处理的顺序图;以及
图25是示出绘制处理的流程图。
具体实施方式
下面参照附图对根据实施例的分配系统进行说明。下文的实施例是分配系统的应用实例,该分配系统将网页内容转换为视频数据、声音数据或视频声音数据并通过云计算将该数据分配至通信终端,例如个人计算机和电子黑板。在下文中,当表示视频和音频中的至少一个时,其将由“视频(声音)”来表示。
系统配置的概况
首先对分配系统1的配置的概况进行说明。
图1是根据本实施例的分配系统1的示意图。如图1中所示,根据本实施例的分配系统1由分配管理设备2、多个通信终端5a至5f、终端管理设备7以及网页服务器(web server)8构建。在下文中,通信终端5a至5f中的任何通信终端均由“通信终端5”来表示。分配管理设备2、终端管理设备7以及网页服务器8均由服务器计算机构建。
通信终端5是由接收分配系统1的服务的用户所使用的终端。通信终端5a是笔记本式个人计算机(PC)。通信终端5b是移动终端,例如智能手机和平板终端。通信终端5c是多功能外围设备/打印机/产品(MFP),其中组合有复制、扫描、打印和传真功能。通信终端5d是投影仪。通信终端5e是具有相机、麦克风和扬声器的TV(视频)会议终端。通信终端5f是电子黑板(白板),其可接收由用户绘制的操作路径并电性地转换该操作路径。
通信终端5不仅可以是图1中所示的终端,而且还可以是手表、自动售卖机、煤气表(gas meter)、车载导航设备、游戏机、空调、照明灯具、相机单元、麦克风单元以及扬声器单元。
分配管理设备2、通信终端5、终端管理设备7以及网页服务器8可通过诸如因特网和局域网(LAN)的通信网络9彼此通信。通信终端9包括诸如第三代(3G)、全球微波互联接入(WiMAX)以及长期演进(LTE)的无线通信网络。
通信终端5、例如通信终端5d可以不具有通过通信网络9与其它终端和系统通信的功能。然而,如图2中所示,用户将软件保护器99插入到通信终端5d的通用串行总线(USB)接口或高清多媒体接口(HDMI)(注册商标),因而使其可与其它终端和系统通信。图2是当软件保护器99附接至通信终端时的概念图。
分配管理设备2包括作为在云上出现的网页浏览器的所谓的云浏览器(下文称为“浏览器20”)。分配管理设备2通过浏览器20来在云上渲染网页内容,从而再现符合H.264或MPEG-4的视频(声音)数据,并且将该视频(声音)数据分配至通信终端5。
终端管理设备7具有作为管理服务器的功能,并且例如执行对通信终端5的登录验证以及通信终端5的合同信息的管理。终端管理设备7具有用于发送电子邮件的简单邮件传输协议(SMTP)服务器的功能。终端管理设备7可例如被实现为在云服务(IaaS:基础架构即服务)上开发的虚拟机。理想的是,终端管理设备7应以多路复用的方式来操作,以便寻址意外事件,从而执行连续服务供应。
分配管理设备2的浏览器20能够进行实时通信/协作(RTC)。此外,下文所述的分配管理设备2的编码器桥接单元30包括编码单元19(参照稍后说明的图15)。尽管将在稍后对细节进行说明,但是编码单元19可对由浏览器20生成的视频(声音)数据进行实时编码。结果,分配管理设备2的处理与例如其中在DVD中记录的非实时视频(声音)数据由DVD播放器读出并分配的情形不同。
各种分配方法的概况
下面将对各种分配方法的概况进行说明。
基本分配
图3是示出根据本实施例的分配系统1的基本分配方法的概念图。在分配系统1中,如图3中所示,分配管理设备2的浏览器20从网页服务器8获取网页内容数据[A]并渲染该网页内容数据[A],从而生成多个视频(声音)数据[A]的。编码器桥接单元30对视频(声音)数据[A]进行编码并将该视频(声音)数据[A]发送至通信终端5。因此,即使当依据超文本标记语言(HTML)、层叠样式表(CSS)等所生成的网页内容很丰富时,网页内容也被分配为符合H.264或MPEG-4的视频(声音)数据,从而甚至能够使低规格的通信终端5流畅地再现视频(声音)。根据本实施例的分配系统1更新(update)分配管理设备2的浏览器20,从而能够使最新丰富的网页内容在通信终端5上再现而无需更新通信终端5的本地浏览器。
如图4至图6中所示,分配系统1通过采用上述分配方法还可将作为视频(声音)数据的网路内容分配至同一站点或多个站点的多个通信终端5。下面将对图4至图6中所示的分配方法进行说明。
多播(Multicast)
图4是多播的概念图。如图4中所示,分配管理设备2的单个浏览器20从网页服务器8获取网页内容数据[A]并渲染该网页内容数据[A,从而生成多个视频(声音)数据[A]。编码器桥接单元30对多个视频(声音)数据[A]进行编码。然后,分配管理设备2将视频(声音)数据[A]分配至多个通信终端5f1、5f2、5f3。因此,例如,位于多个站点的通信终端5f1、5f2、5f3可输出相同的视频(声音)。在该情形中,通信终端5f1、5f2、5f3并不需要具有相同的显示再现能力(例如,相同的分辨率)。像这样的分配方法例如称为“多播”。
多显示器(Multidisplay)
图5是多显示器的概念图。如图5中所示,分配管理设备2的单个浏览器20从网页服务器8获取网页内容数据[XYZ]并渲染该网页内容数据[XYZ],从而生成一个视频(声音)数据[XYZ]。编码器桥接单元30将一个视频(声音)数据[XYZ]划分成多个视频(声音)数据[X]、[Y]、[Z],然后对它们进行编码。随后,分配管理设备2将划分后的视频(声音)数据[X]分配至通信终端5f1。相似地,分配管理设备2将划分后的视频(声音)数据[Y]分配至通信终端5f2,并且将划分后的视频(声音)数据[Z]分配至通信终端5f3。从而,例如,即使对于景观(landscape)网路内容数据[XYZ],也可通过划分方式由通信终端5f1、5f2、5f3来显示视频。结果,当通信终端5f1、5f2、5f3安装在一行时,可获得与一个大视频的显示相同的效果。在该情形中,通信终端5f1、5f2、5f3需要具有相同的显示再现能力(例如,相同的分辨率)。像这样的分配方法例如称为“多显示器(multidisplay)”。
复合分配
图6是通过分配管理设备2使用多个通信终端5的复合分配的概念图。图6还是远程共享处理的概念图。如图6中所示,在第一站点处(图6中的右侧),使用作为电子黑板的通信终端5f1和作为TV会议终端的通信终端5e1,并且在第二站点处(图6中的左侧),相似地,使用作为电子黑板的通信终端5f2和作为TV会议终端的通信终端5e2。在第一站点处,电子笔P1被用于在通信终端5f1上显示操作信息,例如具有操作路径的字符。在第二站点处,电子笔P2被用于在通信终端5f2上显示操作信息,例如具有操作路径的字符。在图6中所示的实例中,在第一站点处,作为TV会议终端的通信终端5e1与作为电子黑板的通信终端5f1连接,并且通信终端5e1的相机/麦克风/扬声器被用作通信终端5f1的外部相机/麦克风/扬声器。相似地,在第二站点处,作为TV会议终端的通信终端5e2与作为电子黑板的通信终端5f2连接,并且通信终端5e2的相机/麦克风/扬声器被用作通信终端5f2的外部相机/麦克风/扬声器。
在第一站点处,由通信终端5e1获取的视频(声音)数据[E1]被编码单元60编码,然后该视频(声音)数据[E1]被发送至分配管理设备2。之后,该视频(声音)数据[E1]被分配管理设备2的解码单元40解码,然后被输入至浏览器20。表示通过电子笔P1由通信终端5f1绘制的操作路径的操作信息[p1]等被发送至分配管理设备2,从而被输入至浏览器20。此外,在第二站点处,由通信终端5e2获取的视频(声音)数据[E2]被编码单元60编码,然后该视频(声音)数据[E2]被发送至分配管理设备2。之后,该视频(声音)数据[E2]被分配管理设备2的解码单元40解码,然后被输入至浏览器20。诸如通过电子笔P2由通信终端5f2绘制的操作路径的操作信息[p2]被发送至分配管理设备2,从而被输入至浏览器20。
例如,浏览器20从网页服务器8获取表示要显示在通信终端5f1、5f2的各个显示器上的背景图像的网页内容数据[A]。浏览器20将网页内容数据[A]、操作信息[p1]、[p2]与视频(声音)数据[E1]、[E2]相结合并渲染,从而生成由所需布局设置(install)的视频(声音)数据。编码器桥接单元30对视频(声音)数据进行编码,并且分配管理设备2将相同的视频(声音)数据分配至各个站点。因而,在第一站点处,视频([A]、[p1]、[p2]、[E1(视频部分)]以及[E2(视频部分)])被显示在通信终端5f1的显示器上,并且声音[E2(声音部分)]从通信终端5e1的扬声器输出。此外,在第二站点处,视频([A]、[p1]、[p2]、[E1(视频部分)]以及[E2(视频部分)])被显示在通信终端5f2的显示器上,并且声音[E1(声音部分)]从通信终端5e2的扬声器输出。在第一站点处,由于通信终端5f1的回声消除功能,所以该站点自身的声音[E1(声音部分)]并不输出。在第二站点处,由于通信终端5f2的回声消除功能,该站点自身的声音[E2(声音部分)]并不输出。
因而,在第一站点和第二站点处,可执行远程共享处理,在远程站点处实时共享相同信息,从而使根据本实施例的分配系统1在电话会议等中起作用。
本实施例的详细说明
下面将参照图7至图25对本实施例进行详细说明。
本实施例的硬件配置
首先参照图7对本实施例的硬件配置进行说明。图7是示出分配管理设备2的硬件配置的实例的示图。由于通信终端5、终端管理设备7以及网页服务器8的硬件配置与图7中所示的分配管理系统2的硬件配置相同,所以将省略对其的说明。
如图7中所示,分配管理设备2包括:CPU201,控制分配管理系统2的整体操作;ROM202,例如初始程序加载器(IPL),其中存储有用于驱动CPU201的程序;RAM203,用作CPU201的工作区;HDD204,其中存储有诸如程序的各种数据;硬盘控制器(HDC)205,在CPU201的控制下从HDD204读出各种数据以及将各种数据写入HDD204;介质驱动器207,控制从诸如闪存的存储介质206读出数据以及控制向诸如闪存的存储介质206写入数据;显示器208,显示各种信息;I/F209,用于通过通信网络9发送数据以及用于连接软件保护器99;键盘211;鼠标212;麦克风213、扬声器214、图形处理单元(GPU)215;以及总线220,例如地址总线和数据总线,用于将上述组件电连接。
用于各个通信终端、各个系统以及各个服务器的程序可被存储在诸如存储介质206的计算机可读介质中,并可作为可安装或可运行的文件而被分配。
本实施例的功能配置
下面参照图8至图16对本实施例的功能配置进行说明。图8是示出分配管理设备2的功能的功能框图。图8示出了当分配管理系统2将视频(声音)数据分配至通信终端5f1(对应于第一通信终端)和通信终端5f3(对应于第二通信终端)时的功能配置。然而,该功能配置对于除了通信终端5f1或通信终端5f3以外的分配目的地是相似的。尽管分配管理设备2包括多个分配引擎服务器,但是为了简化说明,下文所述的是包括有一个分配引擎服务器的情形。
分配管理设备的功能配置
分配管理设备2通过图7中所例示的硬件配置和程序实现图8中所示的功能组件。具体地,分配管理设备2包括浏览器20、发送机/接收机21、浏览器管理单元22、发送先进先出(FIFO)24、时间管理单元25、时间获取单元26、信道自适应控制器27、编码器桥接单元30、发送机/接收机31、接收FIFO34、识别单元35、延迟信息获取单元37a、信道自适应控制器37b以及解码单元40。
分配管理设备2还包括由图7中所示的HDD204所构建的存储单元23。所述存储单元23在其中存储有从识别单元35输出的、下文所述的识别信息23A。由浏览器20所获取的内容数据可被暂时存储在作为高速缓存的存储单元23中。存储单元23在其中存储有路径属性信息23B和绘制表(drawingtable)23C(将在下文详细说明)。
在上述功能组件中,浏览器20是在分配管理设备2中操作的浏览器。浏览器20渲染诸如网页内容数据的内容数据,由此将视频(声音)数据生成为RGB数据(或脉冲编码调制(PCM)数据)。浏览器20始终与网页内容的丰富相对应地进行更新。
根据本实施例的分配系统1将浏览器20提供在分配管理设备2中,并且从浏览器20选择在用户会话中使用的云浏览器。
本实施例描述了分配管理设备2包括作为浏览器20的浏览器20a和浏览器20b的情形。浏览器20a是与通信终端5f1相对应的浏览器20。浏览器20b是与通信终端5f3相对应的浏览器20。当这些浏览器20a和浏览器20b被共同提及时,它们称为浏览器20。
浏览器20包括,例如,媒体播放器、Flash播放器、JavaScript(注册商标)、CSS以及HTML渲染器。JavaScript(注册商标)包括标准产品以及分配系统1特有的一个产品。媒体播放器是用于在浏览器20中再现诸如视频(声音)文件的多媒体文件的浏览器插件(plug-in)。Flash播放器是用于在浏览器20中再现flash内容的浏览器插件。特有的JavaScript(注册商标)是JavaScript组,所述JavaScript组提供分配系统1特有的服务的应用编程接口(API)。CSS是用于高效地定义以HTML描述的网页页面的外观和风格的技术。HTML渲染器是HTML渲染引擎。
发送机/接收机21向终端管理设备7和网页服务器8发送各种数据、各种请求、各种指令等,并且从终端管理设备7和网页服务器8接收各种数据、各种请求、各种指令等。例如,发送机/接收机21从网页服务器8的内容站点获取网页内容数据。
浏览器管理单元22管理浏览器20和编码器桥接单元30。例如,浏览器管理单元22指令浏览器20和编码器桥接单元30启动或退出,并且在启动或退出时浏览器管理单元22对编码器ID进行编号。编码器ID是浏览器管理单元22编号以便管理编码器桥接单元30的处理的标识信息。浏览器管理单元22在每次浏览器20启动时对浏览器ID进行编号并管理。浏览器ID是浏览器管理单元22编号以便管理浏览器20的处理从而标识浏览器20的标识信息。
浏览器管理单元22通过发送机/接收机31从通信终端5获取各种操作信息[p],并且将它们输出至浏览器20a。浏览器20a包括获取单元201。获取单元201通过浏览器管理单元22和发送机/接收机31从通信终端5f1获取操作信息[p]。
操作信息[p]是关于通信终端5的操作事件(通过键盘211、鼠标212或其它装置的指令信息,以及通过电子笔P、鼠标212或其它装置的操作路径)。
在本实施例中,操作信息[p]包括路径信息、绘制时序、指令信息、以及表示作为发送源的通信终端5的终端ID。
路径信息是表示在通信终端5上由用户通过电子笔P等的操作所绘制的诸如字符、线以及图像的操作路径的信息。路径信息包括路径属性信息以及页面(显示屏幕)上表示路径的位置坐标组。
路径属性信息表示操作路径的显示形式,例如操作路经的线条类型(点状线、虚线等)、该路径的厚度以及该路径的颜色。
绘制时序表示当操作路径已由用户绘制时的时序。绘制时序由时间、在正被再现的视频中从再现开始经过的时间、再现位置(例如帧)或其它指标来表示,但并不限于此。
指令信息是表示由操作通信终端5的用户所指令的处理内容的信息。在本实施例中,指令信息包括:表示绘制处理的绘制处理指令、表示新绘制的绘制模式、表示擦除已绘制的绘制的擦除模式、或菜单处理指令。
当指令信息包括擦除模式时,操作信息[p]包括在屏幕上要擦除的对象的操作路径的位置信息,以代替路径信息和绘制时序。
浏览器20a基于由获取单元201所获取的操作信息来执行下文所述的绘制处理。所述绘制处理更新存储单元23中的绘制表23c。绘制处理将在下文进行详细说明。
图9是绘制表23c的概念图。绘制表23c是与终端ID、路径信息、标识信息以及表示主页统一资源定位器(URL)的设置信息相关联的表。
终端ID是唯一地标识通信终端5的标识信息。设置信息表示由相应的终端ID所标识的通信终端5的主页URL。设置信息是URL,表示与每个通信终端5相对应的浏览器20的访问目的地。
在本实施例中,绘制表23c在其中存储有页面上的坐标以及根据从通信终端5所获取的操作信息[p]中所包括的路径信息所生成的路径图。路径图是表示图像的绘制指令的命令,该图像的绘制指令表示由浏览器20a根据操作信息[p]中所包括的路径信息所生成的操作路径。例如,当在路径信息中所包括的路径属性信息表示操作路径是厚的、红色波浪线时,表示所述厚的、红色波浪线并且继续着表示该路径的位置坐标组的图像的绘制指令是路径图。存储在绘制表23c中的页面上的坐标表示操作路径的绘制起始位置。
标识信息是用以标识与视频数据相对应的内容数据的信息,所述视频数据由作为远程共享处理的对象的另一通信终端5(例如,通信终端5f3)以从一个通信终端(例如,通信终端5f1)所接收的操作信息[p]中所包括的绘制时序来再现。在本实施例中,标识信息包括目的地URL以及目的地RUL终端ID。目的地URL表示作为远程共享处理的对象的、基于内容数据的视频(声音)数据被分配至的通信终端5的设置信息(主页URL)。目的地URL终端ID是通信终端5的终端ID。
回到图8,当通信终端5提供诸如温度传感器、湿度传感器或加速度传感器的各种传感器时,浏览器管理单元22获取传感器信息,即来自通信终端5的传感器的输出信号,并将该传感器信息输出至浏览器20。
发送FIFO24是缓冲器,其中存储有由浏览器20所生成的多个视频(声音)数据。在本实施例中,目的地管理设备2包括发送FIFO24a和发送FIFO24b。发送FIFO24a是缓冲器,其中存储有由浏览器20a所生成的视频(声音)数据。发送FIFO24b是缓冲器,其中存储有由浏览器20b所生成的视频(声音)数据。
时间管理单元25管理分配管理设备2所唯一的时间T。时间获取单元26与下文所述的通信终端5中的时间控制器56协同执行时间调整处理。具体地,时间获取单元26从时间管理单元25获取表示分配管理设备2中的时间T的时间信息(T),通过发送机/接收机31以及发送机/接收机51从下文所述的时间控制器56接收表示通信终端5中的时间t的时间信息(t),并且将时间信息(t)和时间信息(T)发送至时间控制器56。
信道自适应控制器27基于下文所述的传输延迟时间信息(D)来计算再现延迟时间U,并且计算操作条件,例如编码桥接单元30中的转换器10的帧率和数据分辨率。所述再现延迟时间U是用于通过缓冲数据直到被再现为止来延迟再现的时间。
编码器桥接单元30执行对由浏览器20所生成的并被存储在发送FIFO24中的视频(声音)数据的处理,例如数据格式转换。编码器桥接单元30将数据格式已经被转换了的视频(声音)数据分配至作为分配对象的通信终端(通信终端5f1和通信终端5f3)。将参照图15和图16对编码器桥接单元30进行更加详细的说明。图15是编码器桥接单元30的详细示图。图16是示出转换器10的功能的功能框图。
如图15中所示,编码器桥接单元30包括生成/选择单元310、选择单元320、以及提供在生成/选择单元310与选择单元320之间的多个转换器10a、10b。尽管这里示出了两个转换器10a、10b,但是可提供任意数量的转换器。在下文中,任何转换器均由“转换器10”表示。
此外,如图16中所示,转换器10包括修剪单元(trimming unit)11、尺寸调整单元12、划分单元(dividing unit)13、以及编码单元19。修剪单元11、尺寸调整单元12以及划分单元13并不对声音数据执行任何处理。
修剪单元11执行用以仅切出视频(图像)的一部分的处理。尺寸调整单元12改变视频(图像)的缩小比例。划分单元13,如图5中所示,将从网页服务器8获取的网页内容进行划分。
下文所述的图16中的编码单元19对由浏览器20所生成的多个视频(声音)数据进行编码,从而对它们进行转换,使得视频(声音)数据可通过通信网络9被分配至通信终端5。当视频不运动时(当没有帧间更新(改变)时),从那时开始插入跳帧(有时可称为帧跳过)直到视频运动为止,以便节省带宽。当仅生成音频数据时,仅执行编码。
生成/选择单元310生成新的转换器10并且选择要输入至已经生成的转换器10的多个视频(声音)数据。在生成/选择单元310新生成转换器10的情形的实例可包括选择已经生成的转换器10以及生成能够响应于通信终端5中的视频(声音)数据的再现能力进行转换的转换器10。在生成/选择单元310选择要输入至转换器10的视频(声音)数据的情形的实例可包括在开始除了分配至通信终端5f1以外还分配至通信终端5f3时,将与正被分配至通信终端5f1的视频(声音)数据相同的视频(声音)数据分配至通信终端5f3。并且,在该情形中,当通信终端5f3具有与通信终端5f1的视频(声音)数据的再现能力相同的再现能力时,生成/选择单元310利用已经为通信终端5f1生成的转换器10a,而无需为通信终端5f3生成新的转换器10b。
选择单元320从已经生成的转换器10中选择所需的一个。由生成/选择单元310和选择单元320进行的选择可执行如图6中所示各种模式的分配。
回到图8,发送机/接收机31向通信终端5发送各种数据、请求等并从通信终端5接收各种数据、请求等。例如,在通信终端5的登录处理中,发送机/接收机31将用于提示用户登录请求的验证屏幕数据发送至通信终端5的下文所述的发送机/接收机51。发送机/接收机31还通过安全套接层上的超文本传输协议(Hypertext Transfer Protocol over Secure Socket Layer,HTTPS)服务器来执行向安装在通信终端5中的应用程序(用户应用或装置应用)发送数据以及从安装在通信终端5中的应用程序(用户应用或装置应用)接收数据,以便根据分配系统1特有的协议来接收分配系统1的服务。所述特有的协议是基于HTTPS的应用层协议,用于在分配管理设备2与通信终端5之间实时发送和接收数据而不被中断。发送机/接收机31还执行发送响应控制、实时数据生成、命令发送、接收响应控制、接收数据分析、以及手势(gesture)转换的处理。
发送响应控制是用以管理用于下载的HTTPS会话的处理,所述用于下载的HTTPS会话由通信终端5请求以便将数据从分配管理设备2发送至通信终端5。用于下载的HTTPS会话的响应并不立即结束,而是保持一定的时间段(一分钟至数分钟)。发送机/接收机31将要发送至通信终端5的数据动态地写入所述响应的主体部分。为了消除用于重新连接的成本,在前一会话结束之前,允许从通信终端5得到另一请求。通过使发送机/接收机31待命直到前一请求完成为止,即使当执行重新连接时,也可消除开销。
实时数据生成是这样的处理:该处理用以将特有的报头(header)加入由稍后所述的图16中的编码单元19所生成的已压缩的视频(以及已压缩的音频)的数据(RTP数据),并且用以在至通信终端5的下行HTTPS的主体部分中写入该报头。
客户命令发送是这样的处理:该处理用以生成要发送至通信终端5的命令数据,并且将该命令数据写入用于分配(下行)至通信终端5的HTTPS的主体部分中。
接收响应控制是这样的处理:该处理用以管理从通信终端5所请求的HTTPS会话,以便分配管理设备2从通信终端5接收数据。所述HTTPS会话的响应并不立即结束,而是被保持一定的时间段(一分钟或数分钟)。通信终端5将要发送至分配管理设备2的发送机/接收机31的数据动态地写入请求的主体部分。
接收数据分析是这样的处理:该处理用以根据类型来分析从通信终端5发送的数据,并将该数据传递至必要的处理。
手势转换是这样的处理:该处理用以对由用户通过电子笔P输入至作为电子黑板的通信终端5f或者在手写为能够由浏览器20接收的格式的手势事件进行转换。
接收FIFO34是缓冲器,其中存储有由解码单元40所解码的视频(声音)数据。
识别单元35对从通信终端5所接收的视频(声音)数据[E]执行处理。具体地,例如,识别单元35基于由下文所述的相机62所采集的视频将人或动物的面部、年龄、性别等识别为标志图案(signage)。对于办公室,识别单元35基于由下文所述的相机62所采集的视频通过面部识别来进行姓名标签并且执行替换背景视频的处理。识别单元35将表示已识别的细节的识别信息23A存储在存储单元23中。识别单元35通过与识别扩展板执行处理来实现加速。
延迟信息获取单元37a对应于被用于上行信道自适应控制的处理(用于从通信终端5到分配管理设备2的通信)的延迟信息获取单元57,并且延迟信息获取单元37a被用于下行信道自适应控制的处理(用于从分配管理设备2到通信终端5的通信)。具体地,延迟信息获取单元37a从解码单元40获取表示传输延迟时间d1的传输延迟时间信息(d1),并且保持传输延迟时间信息(d1)一定的时间段,并且当延迟信息获取单元37a获取了多个传输延迟时间信息(d1)时,通过多个传输延迟时间d1将表示频率分布信息(frequencydistribution information)的传输延迟时间信息(d)输出至信道自适应控制器37b。
比照上文所述的、在下行信道自适应控制的处理中所使用的信道自适应控制器27,信道自适应控制器37b被用于上行信道自适应控制的处理。具体地,信道自适应控制器37b基于传输延迟时间信息(d)来计算编码单元60的操作状态。信道自适应控制器37b通过下文所述的发送机/接收机31和发送机/接收机51将表示诸如帧率和数据分辨率的操作条件的信道自适应控制信号发送至通信终端5的编码单元60。
解码单元40对从通信终端5发送的视频(声音)数据[E]进行解码。
通信终端的功能配置
下面参照图10对通信终端5的功能配置进行说明。图10是主要示出通信终端5的功能的功能框图。尽管图10将通信终端5f1示出作为通信终端5的实例,但是除了通信终端5f1以外的任何通信终端都具有相似的功能组件。在多个通信终端5中,其中安装有用户应用的任何通信终端5均用作用于使用户能够执行对分配系统1的登录、开始或停止视频(声音)数据的分配、以及其它操作的接口。其中安装有装置应用的任何通信终端5仅发送和接收视频(声音)数据并且发送操作信息,而不具有接口。为了方便起见,下面对其中安装有用户应用的通信终端5进行说明。
通信终端5通过与图7中的硬件配置和程序(用户应用)相同的硬件配置和程序(用户应用)被提供有图10中所示的功能组件。具体地,通信终端5包括解码单元50、发送机/接收机51、操作单元52、再现控制器53、渲染单元55、时间控制器56、延迟信息获取单元57、显示单元58、以及编码单元60。通信终端5还包括由图7中所示的RAM203所构建的存储单元5000。所述存储单元5000在其中存储表示下文所述的时间差Δ的时间差信息(Δ)以及表示通信终端5中的时间t的时间信息(t)。
解码单元50对从分配管理设备2分配并从再现控制器53输出的视频(声音)数据[AEp]进行解码。
发送机/接收机51向分配管理设备2的发送机/接收机31以及下文所述的终端管理设备7的发送机/接收机71a发送各种数据、请求等,并且从分配管理设备2的发送机/接收机31以及下文所述的终端管理设备7的发送机/接收机71a接收各种数据、请求等。例如,在通信终端5的登录处理中,发送机/接收机51通过操作单元52基于通信终端5的启动来执行对终端管理设备7的发送机/接收机71的登录请求。
操作单元52执行用以接收由用户输入的操作的处理。例如,操作单元52通过电源开关、键盘、鼠标、电子笔P等来接收输入、选择等,并且将所述输入、所述选择等作为操作信息[p]发送至分配管理设备2的浏览器管理单元22。
再现控制器53考虑再现延迟时间U,而对从发送机/接收机51接收的视频(声音)数据[AEp]进行缓冲,并且将所述视频(声音)数据[AEp]输出至解码单元50。
渲染单元55对由解码单元50所解码的数据进行渲染。
时间控制器56结合分配管理设备2的时间获取单元26来执行时间调整处理。具体地,时间控制器56从存储单元5000获取表示通信终端5中的时间t的时间信息(t)。时间控制器56通过发送机/接收机51和发送机/接收机31将对表示分配管理设备2中的时间T的时间信息(T)的请求发出至分配管理设备2的时间获取单元26。在该情形中,时间信息(t)与对时间信息(T)的请求同时被发送。
延迟信息获取单元57从再现控制器53获取表示传输延迟时间D1的传输延迟时间信息(D1),并且保持所述传输延迟时间信息(D1)一定的时间段,并且当延迟信息获取单元57获取多个传输延迟时间信息(D1)时,通过发送机/接收机51和发送机/接收机31通过多个传输延迟时间D1将表示频率分布信息的传输延迟时间信息(D)输出至信道自适应控制器27。传输延迟时间信息(D)例如一百帧中被发送一次。
显示单元58再现由渲染单元55所渲染的数据。
编码单元60通过发送机/接收机51和发送机/接收机31将视频(声音)数据[E]、时间信息(t0)以及时间差信息(Δ)发送至分配管理设备2的解码单元40,其中视频(声音)数据[E]从内置麦克风213(参照图7)或外部附接的相机62和麦克风63被获取并被编码,时间信息(t0)表示从存储单元5000获取的通信终端5中的当前时间t0,时间差信息(Δ)表示从存储单元5000获取的时间差Δ。编码单元60的操作条件基于从信道自适应控制器37b所接收的信道自适应控制信号而被改变。当操作条件被改变时,编码单元60根据新的操作条件,通过发送机/接收机51和发送机/接收机31将从相机62和麦克风63所获取并被编码的视频(声音)数据[E]、表示从存储单元5000所获取的通信终端5中的当前时间t0的时间信息(t0)以及表示从存储单元5000获取的时间差Δ的时间差信息(Δ)发送至分配管理设备2的解码单元40。
内置麦克风213以及外部附接的相机62和麦克风63是输入单元的实例,并且是需要编码和解码的装置。输入单元除了视频(声音)数据以外还可输出触摸数据和嗅觉数据。输入单元包括各种传感器,例如温度传感器、方向传感器、加速度传感器等。
图10示出了其中通信终端5e作为TV会议终端而与作为电子黑板的通信终端5f1连接的实例。具体地,所示的是这样的情形:所述黑板能够接收由用户绘制的操作路径并且能够电性转换该操作路径。在该示图中,通信终端5e的相机和麦克风用作通信终端5f1的外部相机62和麦克风63。图10假定这样的情形:作为远程共享处理的对象的通信终端5f1和通信终端5f3是再现视频(声音)的投影仪。
终端管理设备的功能配置
下面参照图11对终端管理设备7的功能配置进行说明。图11是示出终端管理设备7的功能的功能框图。
终端管理设备7通过与图7中的硬件配置和程序相似的硬件配置和程序来实现图11中所示的功能组件。具体地,终端管理设备7包括发送机/接收机71a、发送机/接收机71b、以及验证单元75。终端管理设备7还包括由图7中所示的HDD204所构建的存储单元7000。存储单元7000在其中存储有分配目的地选择菜单数据、终端管理表7010、以及可用终端管理表7020。
分配目的地选择菜单是表示诸如图12中所示的目的地选择菜单屏幕的数据。图12是分配目的地选择菜单屏幕的概念图。图12中所示的分配目的地选择菜单屏幕为可被选择作为视频(声音)数据的分配目的地的通信终端5以列表形式显示共享的ID和显示器名称(下文进行说明)。用户在所述分配目的地选择菜单屏幕上勾选(check)表示所需作为视频(声音)数据的分配目的地的通信终端5的项,并按下“OK”按钮,从而视频(声音)数据被分配至所需的通信终端5。
图13是终端管理表7010的概念图。如图13中所示,终端管理表7010将已登记的通信终端5的终端ID、用户证书、当用户使用分配系统1的服务时的合同信息、通信终端5的终端类型、表示各个通信终端5的主页统一资源定位器(URL)的设置信息、各个通信终端5的运行环境信息、共享ID、排列位置、已链接的URL、以及显示器名称信息彼此相互关联地管理。表示排列位置的信息在下文可称为排列位置信息。
用户证书是证明通信终端5被允许与分配系统1连接的证书。用户证书预先被发出给被允许与分配系统1连接的通信终端。合同信息表示当使用由终端ID所标识的通信终端5的用户使用分配系统1的服务时的合同的内容。终端类型表示通信终端5的类型。终端ID、设置信息(主页URL)以及目的地URL与绘制表23c(参照图9)中的终端ID、设置信息(主页URL)以及目的地URL相同。
运行环境信息包括各个通信终端5的“收藏夹”、“以前的Cookie信息”以及“缓存文件”,所述“收藏夹”、所述“以前的Cookie信息”以及所述“缓存文件”在每个通信终端5登录之后与设置信息一起被发出至分配管理设备2并且用于在每个通信终端5上执行单独服务。
共享ID是当每个用户将与正被分配至他/她自己的通信终端5的视频(声音)数据相同的视频(声音)数据分配至其它通信终端5从而执行远程共享处理时所使用的ID,并且共享ID是标识其它通信终端和其它通信终端组的标识信息。在图13中所示的实例中,终端ID“t006”的共享ID是“v006”,并且终端ID“t007”的共享ID是“v006”。在该情形中,当对与具有共享ID“v006”的通信终端5f1、5f3进行远程共享处理的请求从具有终端ID“t001”的通信终端5a发出时,分配管理设备2将与正被分配至通信终端5a的视频(声音)数据相同的视频(声音)数据分配至通信终端5f1、5f3。然而,当通信终端5和通信终端5f1、5f3的显示单元58的分辨率不同时,分配管理设备2相应地分配视频(声音)数据。
例如,如图5中所示,排列位置表示当通信终端5f1、5f2、5f3并排排列时的安装位置。显示器名称是表示在图12中所示的分配目的地选择菜单中的显示器名称的细节的信息。
图14是可用终端管理表7020的概念图。可用终端管理表7020与每个终端ID相关联地管理表示另一通信终端或另一通信终端组的共享ID,所述另一通信终端或所述另一通信终端组可与由终端ID所表示的通信终端5执行远程共享处理。
返回图11,存储单元7000在其中存储有分配系统1的服务所需要的用户信息以及诸如装置信息的永久数据。存储单元7000在其中存储有用于管理分配系统1的各种信息,例如,表示通信终端5的状态(已连接状态/等待状态/忙碌)的分配信息以及表示分配管理设备2的负载状态的负载信息。
存储单元7000可被存储在外部存储装置中,并且可被配置为从分配管理设备7分离。在该情形中,存储单元7000可例如通过传输控制协议/因特网协议(TCP/IP)与分配管理设备7连接。
发送机/接收机71a将各种数据、请求等发送至通信终端5并且从通信终端5接收各种数据、请求等。例如,发送机/接收机71a从通信终端5的发送机/接收机51接收登录请求,并且将登录请求的验证结果发送至发送机/接收机51。登录请求是通信终端5至分配系统1的验证请求。登录请求包括用户证书以及唯一地标识通信终端5的终端ID。
发送机/接收机71b将各种数据、请求等发送至分配管理设备2并且从分配管理设备2接收各种数据、请求等。例如,发送机/接收机71b从分配选择设备2的发送机/接收机21接收对分配目的地选择菜单的数据的请求,并且将分配目的地选择菜单的数据发送至发送机/接收机21。
验证单元75基于从通信终端5所接收的登录请求中的终端ID和用户证书来搜索终端管理表7010,从而判断是否存在相同组合的任何终端ID与用户证书,由此验证通信终端5a。
实施例的操作或处理
下面参照图17至图25对本实施例的操作或多个处理进行说明。
基本分配处理
首先参照图17对分配管理设备2的基本分配方法中的具体分配处理进行说明。图17是示出分配管理设备2的基本分配处理的顺序图。尽管对其中通过通信终端5a请求登录的情形进行说明,但是登录可通过除了通信终端5a以外的通信终端5来执行。
如图17中所示,当用户接通通信终端5a的电源时,通信终端5a的发送机/接收机51通过终端管理设备7的发送机/接收机71a将登录请求发出至验证单元75(步骤S21)。所述登录请求包括通信终端5a的终端ID和用户证书。
终端管理设备7的验证单元75基于从通信终端5a所接收的终端ID和用户证书来搜索终端管理表7010,从而判断是否存在相同组合的任何终端ID与用户证书,由此验证通信终端5a(步骤S22)。下面继续说明的是在终端管理表7010中出现相同组合的终端ID与用户证书的情形,即,通信终端5a被判断为分配系统1中的合适的终端的情形。
终端管理设备7的验证单元75通过发送机/接收机71a将分配管理设备2的IP地址发送至通信终端5a的发送机/接收机51(步骤S23)。分配管理设备2的IP地址预先由终端管理设备7获取并存储在存储单元7000中。
终端管理设备7的发送机/接收机71b通过分配管理设备2的发送机/接收机21将浏览器20启动请求发出至浏览器管理单元22(步骤S24)。响应于所述启动请求,分配管理设备2的浏览器管理单元启动浏览器20(步骤S25)。编码器桥接单元30的生成/选择单元310根据通信终端5a的再现能力(显示器的分辨率等)以及内容的类型来生成转换器10(步骤S26)。
接下来,浏览器20将对内容数据[A]的请求发出至网页服务器8(步骤S27)。响应于此,网页服务器8从其自身的存储单元(未示出)读出所请求的内容该数据[A](步骤S28)。网页服务器8通过分配管理设备2的发送机/接收机21将内容数据[A]发送至浏览器20,即请求源(步骤S29)。
浏览器20渲染内容数据[A],从而生成视频(声音)数据[A],并且将视频(声音)数据[A]发送至发送FIFO24(步骤S30)。转换器10对存储在发送FIFO24中的多个图像(声音)数据[A]进行编码,从而将它们转换为要输出至通信终端5a的视频(声音)数据[A](步骤S31)。
编码器桥接单元30通过发送机/接收机31和发送机/接收机51将视频(声音)数据[A]发送至再现控制器53(步骤S32)。响应于此,通信终端5a将来自再现控制器53的视频(声音)数据[A]输出至解码单元50,由此由扬声器61再现声音并且通过渲染单元55在显示单元58上再现视频(步骤S33)。
时间调整的处理
下面参照图18对时间调整的处理进行说明。图18是示出在分配管理设备2与通信终端5之间所执行的时间调整的处理的顺序图。
为了获取表示当发送机/接收机51将对时间信息(T)的请求发出至分配管理设备2时的时间点的时间,通信终端5的时间控制器56从存储单元5000获取通信终端5中的时间信息(ts)(步骤S81)。发送机/接收机51将对分配管理设备2中的时间信息(T)的请求发出至发送机/接收机31(步骤S82)。在该情形中,时间信息(ts)与对时间信息(T)的请求同时被发送。
为了获取表示在步骤S82发送机/接收机31接收请求时的时间点的时间,时间获取单元26从时间管理单元25获取分配管理设备2中的时间信息(Tr)(步骤S83)。为了获取表示在步骤S82发送机/接收机31对请求进行响应时的时间点的时间,时间获取单元26进一步从时间管理单元25获取分配管理设备2中的时间信息(Ts)(步骤S84)。然后,发送机/接收机31将时间信息(ts、Tr、Ts)发送至发送机/接收机51(步骤S85)。
为了获取表示在步骤S85发送机/接收机51接收响应时的时间点的时间,通信终端5的时间控制器56从存储单元5000获取通信终端5中的时间信息(tr)(步骤S86)。通信终端5的时间控制器56计算分配管理设备2与通信终端5之间的时间差Δ(步骤S87)。所述时间差Δ由下面的方程式(1)来表示。
Δ=((Tr+Ts)/2)-((tr+ts)/2) (1)
时间控制器56将表示时间差Δ的时间差信息(Δ)存储在存储单元5000中(步骤S88)。例如,有规律地每分钟执行这一系列时间调整处理。
下行信道自适应控制的处理
下面参照图19对从分配管理设备2发送至通信终端5的数据进行信道自适应控制的处理进行说明(下行)。图19是示出对从分配管理设备2发送至通信终端5的数据进行信道自适应控制的处理的顺序图。
首先,分配管理设备2的编码器桥接单元30通过发送机/接收机31和发送机/接收机51将用于缓冲从而延迟再现的再现延迟时间信息(U)发送至通信终端5的再现控制器53(步骤S101)。编码器桥接单元30将作为从时间管理单元25所获取的时间戳的当前时间T0加入至从发送FIFO24所获取的并且经历了编码或其它操作的视频(声音)数据,并且通过发送机/接收机31和发送机/接收机51将当前时间T0和视频(声音)数据发送至通信终端5的再现控制器53(步骤S102)。
在通信终端5中,再现控制器53等待直到通信终端5中的时间(T0+U-Δ)为止,然后将视频(声音)数据输出至解码单元50,由此使扬声器61再现声音并且通过渲染单元55使显示单元58再现视频(步骤S103)。这仅使得在由下面的方程式(2)所表示的再现延迟时间U的范围内所接收的通信终端5的视频(声音)数据被再现,同时该范围外的视频(声音)数据被删除而不被再现。
U≥(t0+Δ)-T0 (2)
再现控制器53从存储单元5000读出通信终端5中的当前时间t0(步骤S104)。所述时间t0表示在通信终端5从分配管理设备2接收到视频(声音)数据时的时间点的通信终端5中的时间。再现控制单元53进一步从存储单元5000读出表示在步骤S86所存储的时间差Δ的时间差信息(Δ)(步骤S105)。然后,再现控制器53通过使用时间T0、时间t0以及时间差Δ来计算传输延迟时间D1,所述传输延迟时间D1表示从视频(声音)数据被从分配管理设备2发送时至通信终端5接收该视频(声音)数据时的时间(步骤S106)。所述计算由下面的方程式(3)来执行;当通信网络9变拥塞时,传输延迟时间D1变长。
D1=(t0+Δ)-T0 (3)
延迟信息获取单元57从再现控制器53获取表示传输延迟时间D1的传输延迟时间信息(D1),并且保持该传输延迟时间信息(D1)一定时间,并且当获取了多个传输延迟时间信息(D1)时,延迟信息获取单元57通过发送机/接收机31和发送机/接收机51将表示关于多个传输延迟时间D1的频率分布信息的传输延迟时间信息(D)发送至分配管理设备2的信道自适应控制器27(步骤S107)。
分配管理设备2的信道自适应控制器27基于传输延迟时间信息(D)重新计算再现延迟信息U’,并且计算操作条件,例如转换器10的帧率和数据分辨率(步骤S108)。
分配管理设备2的编码器桥接单元30通过发送机/接收机31和发送机/接收机51将表示在步骤S108所计算的新再现延迟时间U’的再现延迟时间信息(U’)发送至通信终端5的再现控制器53(步骤S109)。
编码器桥接单元30的转换器10进一步基于信道自适应控制信号改变操作条件(步骤S110)。例如,当传输延迟时间D1过长时,当再现延迟时间U根据传输延迟时间D1而变长时,扬声器61和显示单元58的再现时间也被延迟。结果,存在使再现延迟时间U变长的限度。鉴于此,信道自适应控制器27不仅使编码器桥接单元30将再现延迟时间U变为再现延迟时间U’,而且还使转换器10降低视频(声音)数据的帧率并且降低视频(声音)数据的分辨率,由此解决通信网络9的拥塞。响应于此,编码器桥接单元30根据如步骤S102已改变的操作条件将具有被加入作为时间戳的当前时间T0的视频(声音)数据发送至通信终端5的再现控制器53(步骤S111)。
在通信终端5中,再现延迟时间信息(U’)再现控制器53等待直到通信终端5中的时间(T0+U'-Δ)为止,然后将在再现延迟时间(U’)所接收的视频(声音)数据输出至解码单元50,由此,正如步骤S103一样,使扬声器61输出声音并且通过渲染单元55使显示单元58再现视频(步骤S112)。此后,连续执行步骤S104以及该步骤S104之后的处理。因而,连续地执行下行信道自适应控制的处理。
上行信道自适应控制的处理
下面参照图20说明对从通信终端5发送至分配管理设备2(上行)的数据进行信道自适应控制的处理。图20是示出对从通信终端5发送至分配管理设备2的数据进行信道自适应控制的处理的顺序图。
首先,通信终端5的编码单元60将从相机62和麦克风63获取的视频和声音编码为视频(声音)数据[E],之后,通过发送机/接收机31和发送机/接收机51将视频(声音)数据[E]、表示从存储单元5000获取的通信终端5中的当前时间t0的时间信息(t0)、以及表示从存储单元5000获取的时间差Δ的时间差信息(Δ)发送至分配管理设备2的解码单元40(步骤S121)。
在分配管理设备2中,解码单元40从时间管理单元25读出表示在步骤S121视频(声音)数据[E]等被接收时的时间点的时间T0(步骤S122)。然后,解码单元40计算传输延迟时间d1,所述传输延迟时间d1表示从视频(声音)数据从通信终端5发送时至视频(声音)数据由分配管理设备2接收时的时间(步骤S123)。所述计算由下面的方程式(4)来执行;当通信网络9变拥塞时,传输延迟时间D1变长。
d1=T0-(t0+Δ) (4)
正如具有通信终端5的延迟信息获取单元57的情形一样,分配管理设备2的延迟信息获取单元37a从解码单元40获取表示传输延迟时间d1的传输延迟时间信息(d1)并且保持所述传输延迟时间信息(d1)一定的时间段,并且当获取了多个传输延迟时间信息(d1)时,延迟信息获取单元37a通过多个传输延迟时间d1将表示频率分布信息的延迟时间信息(d)输出至信道自适应控制器37b(步骤S124)。
信道自适应控制器37b基于传输延迟时间信息(d)来计算通信终端5的编码单元60的操作条件(步骤S125)。信道自适应控制器37b通过发送机/接收机31和发送机/接收机51将表示诸如帧率和数据分辨率的操作条件的信道自适应控制信号发送至通信终端5的编码单元60(步骤S126)。换言之,用于下行情形的信道自适应控制器27将信道自适应控制信号输出至同一分配管理设备2中的编码器桥接单元30,而用于上行情形的信道自适应控制器37b通过通信网络9将信道自适应控制信号从分配管理设备2输出至通信终端5。
通信终端5的编码单元60基于已接收的信道自适应控制信号来改变操作条件(步骤S127)。基于新的操作条件,编码单元60将从相机62和麦克风63所获取的视频和声音编码为视频(声音)数据[E],之后,如同步骤S121,通过发送机/接收机31和发送机/接收机51将视频(声音)数据[E]、表示从存储单元5000获取的通信终端5中的当前时间t0的时间信息(t0)、以及表示同样从存储单元5000获取的时间差Δ的时间差信息(Δ)发送至分配管理设备2的解码单元40(步骤S128)。之后,连续地执行步骤S122以及该步骤S122之后的处理。因此,连续地执行上行信道自适应控制的处理。
多显示器的处理
下面参照图21至图23对多显示器的处理进行说明。图21至图23是示出图5中所示的多显示器的处理的顺序图。这里所说明的实例是以划分方式将正被再现在通信终端5a上的视频(声音)[XYZ]也再现在通信终端(5f1、5f2、5f3)上。
用于显示网页内容的浏览器20被表示为“浏览器20a”,并且用于为用户显示设置屏幕的浏览器20被表示为“浏览器20b”。首先说明与图17中的步骤S30相对应的处理。
首先,如图21中所示,分配管理设备2的浏览器20a对从网页服务器8所获取的网页内容数据[XYZ]进行渲染,从而生成图像(声音)数据,并且将图像(声音)数据输出至发送FIFO24(步骤S201)。编码器桥接单元30的转换器10对存储在发送FIFO24中的图像(声音)数据进行编码,由此将图像(声音)数据转换为要被分配至通信终端5a的视频(声音)数据[XYZ](步骤S202)。
编码器桥接单元30通过发送机/接收机31和发送机/接收机51将视频(声音)数据[XYZ]发送至通信终端5a的再现控制器53(步骤S203)。响应于此,通信终端5a将视频(声音)数据[XYZ]从再现控制器53输出至解码单元50,由此通过渲染单元55在显示器58上再现视频(声音)(步骤S204)。
在显示单元58上显示的屏幕被通信终端5a的用户切换至菜单请求屏幕(未示出),并且操作单元52接收对菜单请求屏幕上的“分配目的地选择菜单”(未示出)的按压(步骤S205)。这使得发送机/接收机51请求切换至分配目的地选择菜单至终端管理设备7的发送机/接收机71a(步骤S206)。在这种情况下,通信终端5a的终端ID也被发送。响应于此,发送机/接收机71b通过发送机/接收机21将浏览器20b启动请求发出至分配管理设备2的浏览器管理单元22(步骤S207)。
编码器桥接单元30的生成/选择单元310启动浏览器20b(步骤S208)并且将从浏览器20a至转换器10(例如,转换器10a)的输出切换为从浏览器20b至转换器10(例如,转换器10b)的输出(步骤S209)。当通信终端5a与另一通信终端5(例如,通信终端5b)通过共享的转换器10(例如,转换器10a)在步骤S203接收视频(声音)数据时,由于另一通信终端5(例如,通信终端5b)正在使用对应浏览器20a的转换器10(例如,转换器10a),所以编码器桥接单元30的生成/选择单元310新生成转换器10(例如,转换器10b)。
浏览器20b通过发送机/接收机21和发送机/接收机71b从分配管理设备7的存储单元7000请求分配目的地选择菜单(步骤S210)。响应于此,分配管理设备7的存储单元7000基于从通信终端5a接收的终端ID来搜索存储在存储单元7000中的可用的终端管理表7020,由此提取共享ID(步骤S211)。所述共享ID表示可由通信终端5a执行远程共享处理的通信终端5。例如,当通信终端5a的终端ID是“t001”时,图14中示出的可用的终端管理表7020被搜索,由此提取共享ID“v003”和“v006”。
存储单元7000进一步基于已提取的共享ID来搜索终端管理表7010,由此提取表示相应的显示器名称的显示器名称信息(步骤S212)。如图13中所示,与已提取的共享ID“v003”和“v006”相对应的显示器名称分别是“东京总部办公室10层多功能一体机”以及“大阪展览馆1层多功能投影仪”。
存储单元7000通过发送机/接收机71b和发送机/接收机21将分配目的地选择菜单的数据作为内容数据发送至分配管理设备2的浏览器20b(步骤S213)。所述分配目的地选择菜单包括如图12中所示的勾选框(check box)、共享ID以及显示器名称。
如图22中所示,分配管理设备2的浏览器20b渲染表示从分配管理设备7所获取的分配目的地选择菜单[M]的内容数据从而生成图像(声音)数据,并且将所述图像(声音)数据输出至发送FIFO24(步骤S221)。编码器桥接单元30的转换器对存储在发送FIFO24中的图像(声音)数据[M]进行编码,由此转换成要被分配至通信终端5a的视频(声音)数据[M](步骤S222)。
然后,编码器桥接单元30通过发送机/接收机31和发送机/接收机51将视频(声音)数据[M]发送至通信终端5a的再现控制器53(步骤S223)。响应于此,通信终端5a将视频(声音)数据[M]从再现控制器53输出至解码单元50,由此通过渲染单元55在显示单元58上再现如图12中所示的分配目的地选择菜单的视频(声音)(步骤S224)。
当操作指定要用于多显示器的通信终端5时,例如图12中所示的分配目的地选择菜单屏幕的共享ID“v006”的勾选框被勾选,然后“OK”按钮被用户按下(步骤S225),操作单元52通过发送机/接收机51和发送机/接收机31将勾选操作的结果发送至分配管理设备2的浏览器管理单元22(步骤S226)。
分配管理设备2的浏览器20b根据勾选操作的结果选择共享ID(步骤S227)。浏览器20b通过发送机/接收机21和发送机/接收机71b将用以增加分配目的地的请求发出至分配管理设备7的存储单元7000(步骤S228)。所述用以增加分配目的地的请求包括在步骤S227所选择的共享ID。然后,浏览器290b结束其角色(步骤S229)。之后,编码器桥接单元30的生成/选择单元310将从浏览器20b至转换器10的输出切换至浏览器20a至转换器10的输出(步骤S230)。
如图23中所示,在终端管理设备7的存储单元7000中,基于通过步骤S228所发送的共享ID来搜索终端管理表7010,由此提取相应的终端ID以及排列位置信息(步骤S241)。存储单元7000通过发送机/接收机71b和发送机/接收机21将用以增加分配目的地的指令发出至分配管理设备2的浏览器管理单元22(步骤S242)。所述用以增加分配目的地的指令包括在步骤S241所提取的终端ID和排列位置信息。这里包括三组终端ID与排列位置信息,即:终端ID和排列位置信息分别是“t006”和“左”,终端ID和排列位置信息分别是“t007”和“中”,以及终端ID和排列位置信息分别是“t008”和“右”。由终端ID“t006”“t007”和“t008”所标识的通信终端5分别是通信终端5f1、通信终端5f2以及通信终端5f3。
编码器桥接单元30的生成/选择单元310生成用于多显示器的转换器10(步骤S243)。在该情形中,编码器桥接单元30的生成/选择单元310从浏览器管理单元22获取终端ID和排列位置信息。在步骤S243所生成的转换器10的划分单元13划分存储在发送FIFO24中的多个视频(声音)数据[XYZ],并且编码单元19对已划分的多个数据进行编码(步骤S244)。
编码器桥接单元30基于终端ID(“t006”)以及排列位置信息(“左”)通过发送机/接收机31和通信终端5f1的发送机/接收机51将视频(声音)数据[X]发送至通信终端5f1的再现控制器53(步骤S245-1)。响应于此,通信终端5f1将视频(声音)数据[X]从再现控制器53发出至解码单元50,由此由扬声器61再现声音,并且通过渲染单元55在显示单元58上再现视频(步骤S246-1)。
相似地,编码器桥接单元30基于终端ID(“t007”)以及排列位置信息(“中”)通过发送机/接收机31和通信终端5f2的发送机/接收机51将视频(声音)数据[Y]发送至通信终端5f2的再现控制器53(步骤S245-2)。响应于此,通信终端5f2将视频(声音)数据[Y]从再现控制器53发出至解码单元50,由此由扬声器61再现声音,并且通过渲染单元55在显示单元58上再现视频(步骤S246-2)。
相似地,编码器桥接单元30基于终端ID(“t008”)以及排列位置信息(“右”)通过发送机/接收机31和通信终端5f3的发送机/接收机51将视频(声音)数据[Z]发送至通信终端5f3的再现控制器53(步骤S245-3)。响应于此,通信终端5f3将视频(声音)数据[Z]从再现控制器53发出至解码单元50,由此由扬声器61再现声音,并且通过渲染单元55在显示单元58上再现视频(步骤S246-3)。
与多个通信终端进行通信的处理
下面参照图24对通过分配管理设备2的远程共享处理进行说明。图24是示出通过分配管理设备2的远程共享处理的顺序图。这里假定将通信终端5f1、5f3作为通信终端,对用于图8中所示的模式的特定处理进行说明。
图8和图24假定:通信终端5f1(第一通信终端)是能够接收由用户绘制的操作路径并且电性转换所述操作路径的电子黑板。还假定作为与通信终端5f1进行远程共享处理的另一通信终端是通信终端5f3(第二通信终端),并且假定通信终端5f3是再现视频(声音)的投影仪。
尽管这里也执行与图17中的步骤S21至步骤S29相似的登录处理、浏览器启动以及其它操作,但是省略了对与图17中的步骤S21至步骤S28相对应的处理的说明,并且首先对与步骤S29相对应的步骤S41的处理进行说明。
如图24中所示,分配管理设备2的浏览器20b通过发送机/接收机21从网页服务器8b接收内容数据[B](步骤S41)。浏览器20b渲染内容数据[B],由此生成视频(声音)数据,并且将视频(声音)数据输出至发送FIFO24b(步骤S42)。
编码器桥接单元30的转换器10将存储在发送FIFO24b中的视频(声音)数据[B]的数据格式转换为允许视频(声音)数据[B]分配至通信终端5f3的数据格式(步骤S43)。分配管理设备2将已转换的视频(声音)数据[B]发送至通信终端5f3(步骤S44)。
已转换的视频(声音)数据([B])由通信终端5f3的解码单元50解码,从而作为声音从扬声器61输出,或者由渲染单元55渲染,从而作为视频而被输出至显示单元58(步骤S45)。
分配管理设备2的浏览器20a通过发送机/接收机21从网页服务器8a接收内容数据[A](步骤S46)。浏览器20a渲染内容数据[A],由此生成视频(声音)数据,并且将视频(声音)数据输出至发送FIFO24a(步骤S47)。
假定通信终端5f1的编码单元60已从相机62和麦克风63接收到内容数据[E]的输入。在该情形中,通信终端5f1的编码单元60对内容数据[E]进行编码,然后通过发送机/接收机51和发送机/接收机31将内容数据[E]发送至分配管理设备2的解码单元40(步骤S48)。
由分配管理设备2所接收的内容数据[E]被解码单元40解码,然后通过接收FIFO34输出至浏览器20a。浏览器20a渲染内容数据[E],由此生成图像(声音)数据[E],并且将图像(声音)数据[E]输出至发送FIFO24a(步骤S49)。在该情形中,浏览器20a输出结合有已获取的内容数据[A]的内容数据[E]。
通信终端5f1的操作单元52通过电子笔P1等接收用户的操作(步骤S50)。操作单元52通过发送机/接收机51和发送机/接收机31将操作信息[p]发送至浏览器管理单元22(步骤S51)。通过这种方式,操作信息[p]被输入至分配管理设备2的浏览器管理单元22的浏览器20a。在浏览器20a中,获取单元201获取操作信息[p]。
接下来,浏览器20a执行绘制处理(步骤S53)。
图25是示出绘制处理的流程图。浏览器20a判断是否执行绘制处理(步骤S60)。作为步骤S60的判断,浏览器20a判断由在步骤S51(参照图24)所获取的操作信息[p]中所包括的指令信息所指令的处理内容是否是绘制处理指令。
当执行绘制处理时(步骤S60的是),浏览器20a执行模式判断(步骤S61)。作为步骤S61的判断,浏览器20a判断由在步骤S51(参照图24)所获取的操作信息[p]中所包括的指令信息所指示的模式是否是绘制模式。
如果模式是绘制模式(步骤S61的是),则浏览器20a读出在步骤S51(参照图24)所获取的操作信息[p]中所包括的路径信息(步骤S62)。通过步骤S62的处理,浏览器20a读出路径属性信息以及表示路径的位置坐标组,所述路径属性信息例如操作路径的线条类型、该路径的厚度以及该路径的颜色。当操作路径表示“点”时,表示路径的该位置坐标组可以是一对位置坐标。
浏览器20a生成路径图(path image)(步骤S63)。具体地,浏览器20a对路经属性信息以及表示由操作信息[p]中所包括的路径信息所表示的路径的该位置坐标组进行渲染,由此生成路径图p,作为表示图像的绘制指令的命令,所述图像表示操作路径。浏览器20a根据表示在操作信息[p]中所包括的路径的该位置坐标组来生成操作路径的绘制起始位置的坐标,作为页面上的坐标。通过这种方式,浏览器20a生成路径信息(参照图9),所述路径信息包括路径图p和页面上的坐标。
浏览器20a将已生成的路径信息存储在绘制表23c中(步骤S64)。在这种情况下,浏览器20a将步骤S51(参照图24)所接收的操作信息[p]中所包括的终端ID和由所述终端ID所标识的通信终端5f1的主页URL(设置信息)与路径信息相关联地存储在绘制表23c中。
浏览器20a将已生成的路径图p加入绘制层(步骤S65)。
在本实施例中,由浏览器20所生成的视频数据采用分层结构。本实施例假定如下这样的分层结构:其中背景图像层、输出图像层、绘制层以及按钮层按顺序堆叠。堆叠的顺序并不限于所述顺序。背景图像层是其上排列有诸如网格线的背景图像的层。输出图像层是其上排列有由浏览器20根据从网页服务器8或其它设施所获取的内容数据所生成的视频数据的层。绘制层是其上排列有路径图的层。按钮层时其上排列有用于用户输入各种指令的按钮图像的层。
浏览器20a生成差异图(differential drawing)(步骤S66)。在步骤S65的处理中,当路径图已经绘制在绘制层上时,浏览器20a将已生成的路径图p加入绘制层。然后,浏览器20a将步骤S66所生成的差异图存储在存储单元23中(步骤S67)。
浏览器20a以在步骤S51(参照图24)从通信终端5f1所获取的操作信息[p]中所包括的绘制时序来检索(call up)用于标识作为远程共享处理的对象的另一通信终端(本实施例中的通信终端5f3)中正被再现的视频(声音)数据的标识信息(步骤S68)。所述步骤S68与图24中的步骤S52相对应。
浏览器20a将对标识信息的获取请求发送至浏览器20b。获取请求包括绘制时序。浏览器20b当接收到获取请求时,以获取请求中所包括的绘制时序来标识与正从发送FIFO24b分配至通信终端5f3的视频(声音)数据相对应的内容数据。浏览器20b将用于标识已标识的内容数据的标识信息发送至浏览器20a(参照图24中的步骤S52)。
如上所述,所述标识信息包括目的地URL和目的地URL终端ID,所述目的地URL表示内容数据所被分配至的浏览器20的URL。
通过从浏览器20b接收标识信息,浏览器20a获取标识信息(步骤S69)。然后,浏览器20a将已获取的标识信息和步骤S63所生成的路径信息彼此相关联地存储在绘制表23c中(步骤S70)。
通过步骤S70的处理,例如,如图9中所示,终端ID(“t006”)、设置信息(“www.ricoh.co.jp”)、路径信息(页面上的坐标“x1、y2”以及“波浪、蓝色、厚路径图”)、标识信息(目的地URL“http:www.skydrive.com”,以及目的地URL终端ID“t007”)彼此相关联地存储在绘制表23c中。
尽管本实施例中说明了其中存储在绘制表23c中的路径信息包括页面上的坐标和路径图的情形,然而在从通信终端5(本实施例中的通信终端5f1)所接收的操作信息[p]中所包括的全部条路径信息(路径属性信息以及表示路径的位置坐标组)均可被存储。
回到图25,浏览器20a堆叠背景图像层、已经被获取的内容数据([A]、[E])所被加入至的输出图像层、路径图p所被加入至的绘制层、以及单独准备的按钮层,由此将这些视频(声音)数据与路径图p组合(步骤S71)。然后,本例程(routine)结束。
在步骤S61,如果由步骤S51(参照图24)所获取的操作信息[p]中所包括的指令信息所表示的模式是擦除模式,则执行否定的判断(步骤S61的否)。浏览器20a从绘制表23c选择与操作信息[p]中所包括的、要被擦除的操作路径的屏幕上的位置信息相匹配的路径图(步骤S72)。
浏览器20a从绘制层擦除已选择的路径图(步骤S73)。浏览器20a从绘制表23c删除包括已选择的路径图的行(步骤S74)。换言之,已选择的路径图以及与该路径图对应的终端ID、设置信息、页面上的坐标和标识信息被从绘制表32c删除。处理进行至步骤S71。
如果在步骤S60浏览器20a判断不执行绘制处理(步骤S60的否),则处理进行至步骤S75。当判断出由步骤S51(参照图24)所获取的操作信息[p]中所包括的指令信息所表示的处理内容包括菜单处理指令时,浏览器20a在步骤S60执行否定的判断。
浏览器20a执行由操作信息[p]中所包括的菜单处理所指令的处理(步骤S75)。菜单处理指令包括这样的指令:例如改变显示内容、改变显示颜色、改变路径属性信息(显示颜色、线条类型、厚度等)、放大、缩小以及捕获。
浏览器20a通过步骤S75所执行的菜单处理来反映设置的改变(步骤S76)。然后,浏览器20a在该设置由步骤S75的菜单处理改变之后将该设置存储在存储单元23中(步骤S77)。处理进行至步骤S71。通过步骤S75至S77的处理,当用于路径图的显示颜色的改变指令被接收作为菜单处理时,例如,浏览器20a将存储在存储单元23中的路径属性信息23B变为取决于该改变指令的内容。
假定在由浏览器20a所获取的操作信息[p]中所包括的路径属性信息是“与以前相同”。在该情形中,浏览器20a在步骤S63的处理中根据存储在存储单元23中的路径属性信息23B以及表示在操作信息[p]中所包括的路径的位置坐标组来生成路径图。
回到图24,浏览器20a对步骤S71所结合的内容数据[A]、内容数据[E]、以及操作图像p进行渲染,并且将视频(声音)数据([A]、[E]、[p])输出至发送FIFO24a(步骤S54)。
转换器10对存储在发送FIFO24a中的视频(声音)数据([A]、[E]、[p])进行编码,由此将该视频(声音)数据([A]、[E]、[p])转换为要被分配至通信终端5f1的视频(声音)数据([A]、[E]、[p])(步骤S55)。编码器桥接单元30通过发送机/接收机31和发送机/接收机51将视频(声音)数据([A]、[E]、[p])发送至通信终端5f1的再现控制器53(步骤S56)。之后,视频(声音)数据([A]、[E]、[p])由通信终端5f1的解码单元50解码从而作为声音输出至扬声器61,或者由渲染单元55渲染从而作为视频被输出至显示单元58(步骤S57)。
一旦参照图24和图25所说明的从步骤S46至步骤S57的处理被执行,则通信终端5f1就再现视频(声音)数据([A]、[E]、[p]),在所述视频(声音)数据([A]、[E]、[p])中,操作路径的路径图p与根据内容数据[A]、[E]的视频(声音)数据相结合。与表示由通信终端5f1所绘制的操作路径的路径信息相对应的标识信息被依次存储在分配管理设备2的绘制表23c中。如上所示,所述标识信息是以操作路径的绘制时序来标识与正由通信终端5f3所再现的视频(声音)数据相对应的内容数据的信息。
因此,根据本实施例的分配管理设备2可动态地将由一个通信终端绘制的操作路径与关于正由另一通信终端所再现的视频的信息相关联。
下面对当通信终端5获取标识信息时的处理过程进行说明。
通信终端5f1将对标识信息的获取请求发送至分配管理设备2。分配管理设备2当接收到来自通信终端5f1的获取请求时,使浏览器20a读出在该获取请求中所包括的与通信终端5f1的终端ID相对应的路径信息并且使浏览器20a从绘制表23c读出标识信息。浏览器20a以与步骤S65(参照图25)相同的方式将已读出的路径信息中所包括的路径图[p]加入至绘制层。然后,浏览器20a以与步骤S71相同的方式将路径图与由标识信息所标识的内容数据(例如,内容数据[B])进行结合并渲染,由此生成视频(声音)数据([B]、[p]),并且将视频(声音)数据([B]、[p])输出至发送FIFO24a。
浏览器20a对视频(声音)数据([B]、[p])进行编码,由此将所述视频(声音)数据([B]、[p])转换为要被分配至通信终端5f1的视频(声音)数据([B]、[p])。编码器桥接单元30通过发送机/接收机31和发送机/接收机51将视频(声音)数据([B]、[p])发送至通信终端5f1的再现控制器53。之后,视频(声音)数据([B]、[p])由通信终端5f1的解码单元50解码从而作为声音而被输出至扬声器61,或者由渲染单元55渲染从而作为视频输出至显示单元58。
其上绘制有操作路径的通信终端5f1响应于操作通信终端5f1的用户的请求而被设置有已绘制的操作路径的路径图以及以绘制操作路径的绘制时序而正由另一通信终端再现的视频(声音)数据。这使得当操作路径被绘制时,操作通信终端5f1的用户能够轻易地检查操作路径的细节以及在另一通信终端5上显示的视频(声音)的细节。
本实施例的主要效果
如上所示,根据本实施例的分配管理设备2执行参照图24和图25所说明的步骤S46至步骤S57的处理,由此执行以下处理:以操作路径的绘制时序将表示由通信终端5f1所绘制的操作路径的路径信息与标识与正由通信终端5f3再现的视频(声音)数据相对应的内容信息的标识信息相关联;并且随后将所述路径信息和所述标识信息存储在绘制表23c中。
本实施例因此能够动态地将由一个通信终端所绘制的操作路径与关于正由另一通信终端再现的视频的信息相关联。
当对标识信息的获取请求被从通信终端5f1接收时,视频(声音)数据被分配至通信终端5f1,在该视频(声音)数据中结合有路径图和以路径图的绘制时序正由通信终端5f3再现的视频(声音)数据。
一种情形假定:其中例如电子黑板被用作通信终端5f1并且投影仪被用作通信终端5f3。在该情形中,用户在观看由通信终端5f3再现的视频(声音)数据的同时通过电子笔P绘制操作路径,由此使操作信息被输入至通信终端5f1。在该情形中,表示由通信终端5f1即电子黑板所输入的操作路径的路径信息以及与以操作路径的绘制时序正由通信终端5f3即投影仪再现的视频(声音)数据相对应的内容数据的标识信息彼此动态关联。响应于通过用户的操作指令的对标识信息的获取请求,操作路径的路径图以及以操作路径的绘制时序正由另一通信终端5再现的视频(声音)数据被从分配管理设备2分配至通信终端5。
这使本实施例除了上文的效果以外还易于将以操作路径的绘制时序正由另一通信终端5再现的视频(声音)数据以可重复使用的方式且容易地提供给用户。
在根据本实施例的分配系统1中,分配管理设备2包括浏览器20以及在云上执行编码和其它操作的编码器桥接单元30。通过这种配置,浏览器20从通过特定描述语言所表达的内容数据来生成视频数据或声音数据,并且编码器桥接单元30转换已生成的数据的格式以便通过通信网络9而被分配并且编码器桥接单元30将已转换的数据分配至通信终端5。这减少了通信终端5中的用以接收通过特定描述语言所表达的内容的负载以及用以将已接收的内容转换为视频数据或声音数据的负载。这可尤其解决当利用已丰富的内容时通信终端5的负载高的问题。
特别地,浏览器20使实时通信能够进行,并且转换器10对由浏览器20所生成的视频(声音)数据执行实施编码。因此,例如,与其中如在按需分配视频(声音)数据中所看到的DVD播放器非实时(即,预编码地)选择和分配视频(声音)数据的情形不同,分配管理设备2紧邻所获取的内容被分配之前渲染所获取的内容,然后对所获取的内容进行编码,因而允许实时视频(声音)数据的分配。
补充说明
尽管根据本实施例的分配管理设备2假定两个通信终端5包括作为输入操作路径的电子黑板的通信终端5f1以及作为投影仪等的另一通信终端5f3,然而另一通信终端5f3可以是多个通信终端。
在该情形中,分配管理设备2可将路径信息与多个标识信息彼此相关联,并且将所述路径信息和所述多个标识信息存储在绘制表23c中,其中所述多个标识信息用于标识与由各个通信终端5f3以通信终端5f1中的绘制时序再现的各条视频(声音)数据相对应的各条内容数据。当对标识信息的浏览请求被从通信终端5f1接收时,浏览器20a从绘制表23c读出多个标识信息以及与在浏览请求中所包括的通信终端5f1的终端ID相对应的路径信息。浏览器20a以与步骤S65(参照图25)相同的方式将已读出的路径信息中所包括的路径图[p]加入至绘制层。然后,浏览器20a将路径图与由多个标识信息所识别的多个内容数据相结合,并且以与步骤S71相同的方式将所述内容数据输出至发送FIFO24a。
浏览器20a对存储在FIFO24a中的、路径图与多个内容数据相对应的多个视频(声音)数据的已结合的图像进行编码,由此将已结合的图像转换为要分配至通信终端5f1的视频(声音)数据。编码器桥接单元30通过发送机/接收机31和发送机/接收机51将视频(声音)数据发送至通信终端5f1的再现控制器53。之后,视频(声音)数据由通信终端5f1的解码单元50解码,从而作为声音被输出至扬声器61,或者由渲染单元55所渲染,从而作为视频被输出至显示单元58。
根据本实施例的分配系统1包括作为独立系统的终端管理设备7和分配管理设备2。例如,通过使分配管理设备2具有终端管理设备7的功能,可将终端管理设备7和分配管理设备2构建为一个整体系统。
根据上述实施例的分配管理设备2和终端管理设备7可由单个计算机来构建,或者可由其中各个部分(功能、方法或存储单元)被任意划分和指定的多个计算机来构建。
可在内部或外部提供存储介质,例如存储上述实施例的程序的CD-ROM以及存储这些程序的HDD。
本发明可以产生动态地将由一个通信终端所绘制的操作路径与关于正由另一通信终端再现的视频的信息相关联的效果。
尽管为了完整且清楚的公开,已经参照特定实施例对本发明进行了说明,然而所附权利要求并不因此而首先,而应被解释为包含本领域技术人员可想到的完全落入本文所阐述的基本教导范围内的所有修改和替代结构。
Claims (6)
1.一种分配管理设备,包括:
生成单元,配置用以渲染内容数据从而生成视频数据;
转换器,配置用以将所述视频数据的数据格式转换为允许所述视频数据被分配至通信终端的数据格式,所述通信终端包括第一通信终端和第二通信终端;
发送机/接收机,配置用以将已转换的视频数据分配至所述通信终端;
接收器,配置用以从所述第一通信终端接收表示由所述第一通信终端所绘制的操作路径的路径信息以及所述操作路径的绘制时序;
获取单元,配置用以获取标识信息,所述标识信息标识与由所述第二通信终端以所述绘图时序再现的视频数据相对应的内容数据;以及
存储单元,配置用以在其中彼此相关联地存储所述路径信息与所述标识信息。
2.根据权利要求1所述的分配管理设备,其中所述第二通信终端包括所述通信终端。
3.根据权利要求1或2所述的分配管理设备,其中所述生成单元配置用以在从所述通信终端接收到对所述标识信息的获取请求时,渲染由所述标识信息所标识的内容数据并且生成视频数据。
4.根据权利要求1或2所述的分配管理设备,其中
所述生成单元配置用以将所述内容数据与所述路径信息相结合并渲染,从而生成视频数据,
所述转换单元配置用以将所述视频数据的数据格式转换为允许所述视频数据被分配至所述第一通信终端的数据格式,并且
所述发送机/接收机配置用以将已转换的视频数据分配至所述第一通信终端。
5.根据权利要求1或2所述的分配管理设备,其中所述第一通信终端是能够接收由用户绘制的操作路径并且能够电性地转换所述操作路径的电子黑板。
6.一种分配管理系统,包括分配管理设备以及通信终端,所述通信终端包括通过网络与所述分配管理设备连接的第一通信终端和第二通信终端,其中
所述分配管理设备包括
生成单元,配置用以渲染内容数据,从而生成视频数据;
转换单元,配置用以将所述视频数据的数据格式转换成允许所述视频数据被分配至包括所述第一通信终端和所述第二通信终端的所述通信终端的数据格式;
发送机/接收机,配置以将已转换的视频数据分配至所述通信终端;
接收器,配置用以从所述第一通信终端接收表示由所述第一通信终端所绘制的操作路径的路径信息以及所述操作路径的绘制时序;
获取单元,配置用以获取标识信息,所述标识信息标识与由所述第二通信终端以所述绘图时序再现的视频数据相对应的内容数据;以及
存储单元,所述存储单元配置用以在其中彼此相关联地存储所述路径信息与所述标识信息。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013-190689 | 2013-09-13 | ||
JP2013190689A JP2015056855A (ja) | 2013-09-13 | 2013-09-13 | 配信管理装置、及び配信管理システム |
Publications (1)
Publication Number | Publication Date |
---|---|
CN104469397A true CN104469397A (zh) | 2015-03-25 |
Family
ID=51492824
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201410460819.6A Pending CN104469397A (zh) | 2013-09-13 | 2014-09-11 | 分配管理设备和分配管理系统 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20150082359A1 (zh) |
EP (1) | EP2849455A1 (zh) |
JP (1) | JP2015056855A (zh) |
CN (1) | CN104469397A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111770316A (zh) * | 2020-07-22 | 2020-10-13 | 广州芯象科技有限公司 | 一种音视频编码器 |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9807459B2 (en) | 2015-05-14 | 2017-10-31 | At&T Intellectual Property I, L.P. | Media interface device |
CN105072507B (zh) * | 2015-07-24 | 2019-01-25 | 南京信通科技有限责任公司 | 一种多媒体数据的传输方法及系统 |
JP2017058829A (ja) * | 2015-09-15 | 2017-03-23 | 株式会社オプティム | 無人航空機制御システム、無人航空機制御方法 |
JP6623876B2 (ja) * | 2016-03-24 | 2019-12-25 | 富士通株式会社 | 描画処理装置、方法、及びプログラム |
JP2017215833A (ja) | 2016-06-01 | 2017-12-07 | 株式会社リコー | 情報処理システム、情報処理方法、情報処理装置およびプログラム |
JP2019180027A (ja) * | 2018-03-30 | 2019-10-17 | 株式会社リコー | 通信端末、画像通信システム、表示方法、及びプログラム |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101998106A (zh) * | 2009-08-20 | 2011-03-30 | 夏普株式会社 | 信息处理装置、会议系统以及信息处理方法 |
US20110107238A1 (en) * | 2009-10-29 | 2011-05-05 | Dong Liu | Network-Based Collaborated Telestration on Video, Images or Other Shared Visual Content |
US20110126127A1 (en) * | 2009-11-23 | 2011-05-26 | Foresight Imaging LLC | System and method for collaboratively communicating on images and saving those communications and images in a standard known format |
CN103004187A (zh) * | 2010-05-17 | 2013-03-27 | 株式会社理光 | 多地点绘制图像共享装置、多地点绘制图像共享系统、由多地点绘制图像共享装置执行的方法、程序和记录介质 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7657913B2 (en) * | 2000-06-14 | 2010-02-02 | Sony Corporation | Method and apparatus for correcting corrupted digital video transport streams |
US8576846B2 (en) * | 2005-10-05 | 2013-11-05 | Qualcomm Incorporated | Peer-to-peer communication in ad hoc wireless network |
JP2009065551A (ja) | 2007-09-07 | 2009-03-26 | Fujifilm Corp | 関連情報伝達方法、関連情報伝達サーバ、端末装置、関連情報伝達システム |
US20130125013A1 (en) * | 2008-02-29 | 2013-05-16 | Adobe Systems Incorporated | Distributed media player branding |
EP2466475B1 (en) * | 2009-08-12 | 2017-04-12 | Sony Interactive Entertainment Inc. | Information processing system and information processing device |
JP5621421B2 (ja) * | 2010-09-06 | 2014-11-12 | ソニー株式会社 | 画像処理装置、プログラム及び画像処理方法 |
IN2014MN01774A (zh) * | 2012-02-13 | 2015-07-03 | Tata Comm America Inc |
-
2013
- 2013-09-13 JP JP2013190689A patent/JP2015056855A/ja active Pending
-
2014
- 2014-08-21 US US14/465,789 patent/US20150082359A1/en not_active Abandoned
- 2014-09-01 EP EP14183078.6A patent/EP2849455A1/en not_active Withdrawn
- 2014-09-11 CN CN201410460819.6A patent/CN104469397A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101998106A (zh) * | 2009-08-20 | 2011-03-30 | 夏普株式会社 | 信息处理装置、会议系统以及信息处理方法 |
US20110107238A1 (en) * | 2009-10-29 | 2011-05-05 | Dong Liu | Network-Based Collaborated Telestration on Video, Images or Other Shared Visual Content |
US20110126127A1 (en) * | 2009-11-23 | 2011-05-26 | Foresight Imaging LLC | System and method for collaboratively communicating on images and saving those communications and images in a standard known format |
CN103004187A (zh) * | 2010-05-17 | 2013-03-27 | 株式会社理光 | 多地点绘制图像共享装置、多地点绘制图像共享系统、由多地点绘制图像共享装置执行的方法、程序和记录介质 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111770316A (zh) * | 2020-07-22 | 2020-10-13 | 广州芯象科技有限公司 | 一种音视频编码器 |
Also Published As
Publication number | Publication date |
---|---|
US20150082359A1 (en) | 2015-03-19 |
EP2849455A1 (en) | 2015-03-18 |
JP2015056855A (ja) | 2015-03-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104052798B (zh) | 分布式控制系统和分布式控制方法 | |
CN104469397A (zh) | 分配管理设备和分配管理系统 | |
CN105580378B (zh) | 分发管理设备和分发方法 | |
CN105247875B (zh) | 分发控制系统和分发系统 | |
JP6398215B2 (ja) | 配信制御システム、配信システム、配信制御方法、及びプログラム | |
CN104052797B (zh) | 分发控制系统、分发系统和分发控制方法 | |
CN104053070B (zh) | 分发控制系统、分发系统以及分发控制方法 | |
EP2974319A1 (en) | Distribution control system, distribution control method, and computer-readable storage medium | |
EP2778981B1 (en) | Distribution control system, distribution system, distribution control method, and computer-readable storage medium | |
EP2779661A1 (en) | Distribution control system, distribution system, distribution control method, and computer-readable storage medium | |
EP2974317B1 (en) | Computer system, distribution control system, distribution control method, and computer-readable storage medium | |
CN105122224A (zh) | 分发控制系统、分发控制方法和计算机可读存储介质 | |
CN104053072A (zh) | 分发控制系统、分发系统以及分发控制方法 | |
JP2014200072A (ja) | 配信制御システム、配信システム、配信制御方法、及びプログラム | |
CN105580398A (zh) | 分发管理设备、终端和分发管理方法 | |
EP2849453A1 (en) | Distribution management apparatus, distribution system, and distribution management method | |
JP6248492B2 (ja) | 配信管理装置、配信管理システム、及び配信管理方法 | |
JP6442832B2 (ja) | 配信制御システム、配信システム、配信制御方法、及びプログラム | |
JP6197535B2 (ja) | 配信システム、配信方法、及びプログラム | |
JP6387623B2 (ja) | 配信制御システム | |
JP6375638B2 (ja) | 配信制御システム、配信システム、配信制御方法、及びプログラム | |
JP2016058959A (ja) | 配信制御システム、配信システム、配信制御方法及びプログラム | |
JP2015092322A (ja) | 配信制御システム、配信システム、配信制御方法、及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20150325 |
|
WD01 | Invention patent application deemed withdrawn after publication |