CN103581733A - 远程显示装置 - Google Patents

远程显示装置 Download PDF

Info

Publication number
CN103581733A
CN103581733A CN201310292454.6A CN201310292454A CN103581733A CN 103581733 A CN103581733 A CN 103581733A CN 201310292454 A CN201310292454 A CN 201310292454A CN 103581733 A CN103581733 A CN 103581733A
Authority
CN
China
Prior art keywords
image
data
image region
region
network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201310292454.6A
Other languages
English (en)
Inventor
纲岛健次
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of CN103581733A publication Critical patent/CN103581733A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/4104Peripherals receiving signals from specially adapted client devices
    • H04N21/4122Peripherals receiving signals from specially adapted client devices additional display device, e.g. video projector
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/436Interfacing a local distribution network, e.g. communicating with another STB or one or more peripheral devices inside the home
    • H04N21/43615Interfacing a Home Network, e.g. for connecting the client to a plurality of peripherals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/436Interfacing a local distribution network, e.g. communicating with another STB or one or more peripheral devices inside the home
    • H04N21/4363Adapting the video stream to a specific local network, e.g. a Bluetooth® network

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Digital Computer Display Output (AREA)
  • Transforming Electric Information Into Light Information (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

本发明提供一种远程显示装置,能够不对数字电视接收器追加硬件,即可在数字电视接收器的显示画面上显示为了信息处理装置的显示画面上的显示而生成的包含动态图像区域的显示图像。信息处理装置(100)对表示动态图像区域的图像的数据进行压缩编码并发送,将静态图像区域的数据作为位图数据进行发送,数字电视接收器(200)对压缩后的动态图像区域的数据进行解码,并与静态图像区域的数据进行合成。

Description

远程显示装置
技术领域
本发明涉及在经由网络与个人计算机(PC)等信息处理装置连接的数字电视接收器的显示画面上显示为了该信息处理装置的显示画面上的显示而生成的图像(显示图像)的远程显示装置。
背景技术
随着办公室和家庭内的网络普及,提出了将信息处理装置、例如PC的显示图像显示在经由网络与该PC连接的显示装置的显示画面上的方法(专利文献1)。在这种用途中,一般使用被称作RFB(Remote Frame Buffer:远程帧缓冲)的协议。但是,该协议基本上用于位图数据的传送处理,不适于动态图像的传送。
此外,在专利文献2中记载了有效实现动态图像的传送的方法。在专利文献2的方法中,在画面中仅提取图像发生了变化的区域的像素数据,进行图像压缩而传送。
【专利文献1】日本特开2005-284195号公报
【专利文献2】日本特开2004-086550号公报
在专利文献1和2的结构中,在显示图像包含动态图像的情况下,为了快速的画面更新需要增加软件负荷和/或追加专用硬件等,从而在产品化时可能带来成本上升。
发明内容
本发明的目的在于,通过将在信息处理装置中为了其显示画面上的显示而生成的图像显示在经由网络与该信息处理装置连接的数字电视接收器的显示画面上,将软件的复杂化抑制到最小限度,并且直接使用一直以来使用的数字电视接收器的硬件来实现例如放置于某个场所、例如一个房间的信息处理装置由处于例如另一个场所、例如另一个房间的数字电视接收器进行操作的情况等。
本发明的第1方式的远程显示装置在经由网络与信息处理装置连接的数字电视接收器的显示画面上显示为了该信息处理装置的显示画面上的显示而生成的显示图像,所述信息处理装置对通过保持所述显示图像内的动态图像区域的像素的像素值、并用预先确定的固定值置换其他区域的像素的像素值而生成的动态图像帧数据进行压缩编码,并作为视频流送出到所述网络,经由所述网络将所述显示图像内的静态图像区域的数据作为位图数据送出到所述网络,所述数字电视接收器从所述网络接收所述视频流和所述位图数据,对接收到的所述视频流进行解码而再现包含动态图像区域的图像,根据接收到的所述位图数据再现所述静态图像区域的图像,对所再现的所述包含动态图像区域的图像和所再现的所述静态图像区域的图像进行合成,由所述数字电视接收器的显示部显示通过合成得到的合成图像。
本发明的第2方式的远程显示装置在经由网络与信息处理装置连接的数字电视接收器的显示画面上显示为了该信息处理装置的显示画面上的显示而生成的显示图像,所述显示图像所包含的动态图像区域的图像通过在所述信息处理装置内对原图像进行放大而得到,所述信息处理装置对表示所述原图像的数据进行压缩编码,并作为视频流送出到所述网络,将所述显示图像内的静态图像区域的数据作为位图数据送出到所述网络,所述数字电视接收器从所述网络接收所述视频流和所述位图数据,对接收到的所述视频流进行解码,并且利用画中画功能进行放大来再现所述动态图像区域的图像,根据接收到的所述位图数据再现所述静态图像区域的图像,对所再现的所述动态图像区域的图像和所再现的所述静态图像区域的图像进行合成,由所述数字电视接收器的显示部显示通过合成得到的合成图像。
本发明的第3方式的远程显示装置在经由网络与信息处理装置连接的数字电视接收器的显示画面上显示为了该信息处理装置的显示画面上的显示而生成的显示图像,所述信息处理装置进行所述显示图像所包含的动态图像区域的图像是否为在所述信息处理装置内对原图像进行放大而得到的图像的判定,在所述动态图像区域的图像是通过对所述原图像进行放大而得到的图像的情况下,对表示所述原图像的数据进行压缩编码,并作为视频流送出到所述网络,在所述动态图像区域的图像是未对所述原图像进行放大而得到的图像的情况下,对表示所述动态图像区域的图像的数据进行压缩编码,并作为视频流送出到所述网络,将所述显示图像内的静态图像区域的数据作为位图数据送出到所述网络,所述数字电视接收器从所述网络接收所述视频流和所述位图数据,在所述动态图像区域的图像是通过对所述原图像进行放大而得到的图像的情况下,对接收到的所述视频流进行解码,并且利用画中画功能进行放大来再现所述动态图像区域的图像,在所述动态图像区域的图像是未对所述原图像进行放大而得到的图像的情况下,对接收到的所述视频流进行解码来再现所述动态图像区域的图像,根据接收到的所述位图数据再现所述静态图像区域的图像,对所再现的所述动态图像区域的图像和所再现的所述静态图像区域的图像进行合成,由所述数字电视接收器的显示部显示通过合成得到的合成图像。
根据本发明,能够在不对数字电视接收器追加硬件的情况下,将包含动态图像的信息处理装置的显示图像显示在数字电视接收器的显示画面上。
附图说明
图1是示出本发明实施方式1的远程显示装置的整体结构的框图。
图2是示出图1的PC的结构的框图。
图3是与显示图像生成部、显示部和网络接口部一起示出用于实现图2的PC的区域判定部、分离部、视频编码部、位图送出部和控制部的功能的结构的框图。
图4是示出图1的数字电视接收器的结构的框图。
图5的(a)~(d)是示出图2和图4所示的远程显示装置中的处理流程的概念图。
图6是示出本发明实施方式2的远程显示装置的PC的结构的框图。
图7是示出本发明实施方式2的远程显示装置的数字电视接收器的结构的框图。
图8的(a)~(f)是示出图6和图7所示的远程显示装置中的处理流程的概念图。
图9是示出本发明实施方式3的远程显示装置的PC的结构的框图。
图10是示出本发明实施方式3的远程显示装置的数字电视接收器的结构的框图。
标号说明
100个人计算机(PC)、101显示图像生成部、102区域判定部、103分离部、104视频编码部、105位图送出部、106网络接口部、107显示部、108控制部、110软件、121流解码部、123分离部、131选择部、200数字电视接收器、201网络接口部、202视频流接收部、203视频解码部、204位图接收部、205图形处理部、206合成部、207显示部、208控制部、209输入部、210数字电视接收器用集成电路、221子画面生成部、231选择部、300网络。
具体实施方式
实施方式1.
图1示出本发明实施方式1的远程显示装置,作为信息处理装置的一例的PC100与数字电视接收器200经由网络300连接。
PC100配置于一个场所,例如一个房间、家庭内的书房等,数字电视接收器200配置于另一个场所、例如另一个房间、起居室等。
图1的远程显示装置用于利用PC100将表示为了其显示画面的显示而生成的图像(显示图像)的数据(画面数据)发送到数字电视接收器200,并显示在数字电视接收器200的显示画面上。
例如图2所示,PC100具有显示图像生成部101、区域判定部102、分离部103、视频编码部104、位图送出部105、网络接口部106、显示部107和控制部108。
上述各部中的区域判定部102、分离部103、视频编码部104、位图送出部105和控制部108通过软件110、即程序控制的计算机实现。即,如图3所示,PC100除了显示图像生成部101、显示部107和网络接口部106以外,还具有CPU111、程序存储器112和数据存储器113,CPU111通过执行程序存储器112所存储的程序,实现区域判定部102、分离部103、视频编码部104、位图送出部105和控制部108的功能。在CPU111执行程序时生成的运算结果、数据等被临时存储在数据存储器113中。
显示图像生成部101生成表示用于显示部107的显示画面107a上的显示的图像(显示图像)的图像数据(画面数据)。该显示图像有时画面整体是动态图像,有时画面整体是静态图像。此外,有时画面中的一部分是动态图像,而其他部分是静态图像。
显示图像生成部101由内置在PC100中的图形处理电路构成。在该电路中安装有帧缓冲器101a,在帧缓冲器101a中,蓄积1帧的表示显示部107的显示画面107a上的显示图像的图像数据。
区域判定部102读入表示由显示图像生成部101生成的显示图像的数据,进行各帧的显示图像(显示画面)中的各部分是否构成动态图像的判定。
分离部103将显示图像分离为由区域判定部102判定为构成动态图像的部分(动态图像区域)和除此以外的部分(静态图像区域)。
视频编码部104对由分离部103分离后的动态图像区域的图像数据进行压缩编码来生成编码数据,并作为视频流输出。
位图送出部105将静态图像区域的图像数据作为位图数据输出。
网络接口部106将从视频编码部104输出的动态图像区域的图像数据和从位图送出部105输出的静态图像区域的图像数据送出到网络300。
例如图4所示,数字电视接收器200具有网络接口部201、视频流接收部202、视频解码部203、位图接收部204、图形处理部205、合成部206、显示部207、控制部208和输入部209。
网络接口部201接收从PC100经由网络300送出的图像数据。
视频流接收部202在网络接口部201接收到的图像数据中,取出动态图像区域的图像数据(通过压缩编码生成的视频流),并提供给视频解码部203。
视频解码部203对由视频流接收部202接收到的动态图像区域的图像数据进行解码。
位图接收部204在网络接口部201接收到的图像数据中,取出静态图像区域的图像数据(位图数据)并提供给图形处理部205。
图形处理部205将由位图接收部204接收到的静态图像区域的图像数据转换为适于数字电视接收器200的显示画面207a上的显示的形式的数据。
合成部206对视频解码部203的输出和图形处理部205的输出进行合成来生成表示应显示在数字电视接收器200的显示部207的显示画面207a上的图像(电视显示图像)的数据(画面数据),并提供给显示部207。
显示部207显示与从合成部206提供的数据对应的图像。
上述各部中的视频流接收部202、视频解码部203、位图接收部204、图形处理部205和控制部208由数字电视接收器用集成电路(DTV解码器芯片)210构成。
输入部209生成与用户的操作输入对应的信号。
该操作输入例如根据显示画面207a上的显示图像所包含的GUI(图形用户界面)进行。
与操作输入对应的信号作为用户事件(表示用户事件的)Ue被输入到控制部208,并从控制部208经由网络接口部201被送出到网络300,在PC100中,用网络接口106接收表示上述用户事件的信号Ue,传递到控制部108,控制部108根据该用户事件,进行PC100的各部的控制。作为该控制的一环,控制显示图像生成部101,对通过显示图像生成部101生成的图像施加变更。例如,在显示菜单选择画面时,如果通过操作输入按下操作按钮而选择了一个选择项,则根据该选择项的选择显示提示下一个操作的画面。通过反复进行这种处理,而进行利用输入部209进行的对PC100的远程操作。
以下,参照图5的(a)~(d)对上述远程显示装置的动作更详细地进行说明。
图5的(a)示出由显示图像生成部101生成、并蓄积在帧缓冲器101a中的图像的一例。图示的图像310包含动态图像区域311、312以及除此以外的区域(静态图像区域)313。
在区域判定部102中,读出蓄积在帧缓冲器101a中的图像数据,进行用图像数据表示的图像的各部分是否为动态图像区域(动态图像部分)的判定,并输出表示判定结果的信息MS。作为该信息MS,可以输出表示判定为动态图像区域的部分的位置的信息(帧缓冲地址)。
作为判定图像的各部分是否为动态图像区域的判定方法,提出了各种方法,可以使用任意一种方法。
例如,在连续的(前后的)帧之间取相同显示位置的像素数据之差,将包含较多检测到大于预定值的差的像素的区域判定为动态图像区域。
在这种判定中,将画面分割为多个矩形区域,关于各区域,可以在上述差(绝对值)大于预定值的像素所占比例大于预定值的情况下将该区域判定为动态图像区域。
此外,可以在用显示图像生成部101对从其外部提供的动态图像和静态图像进行合成来生成显示图像数据、且与动态图像的图像数据和静态图像的图像数据一起提供表示是动态图像还是静态图像的附加信息的情况下,将该附加信息发送到区域判定部102,并由区域判定部102根据上述附加信息进行各部分是否为动态图像的判定。
该情况下同样,例如可以针对将画面分割为多个矩形区域而形成的各个区域,根据上述附加信息输出是否为动态图像区域的判定结果。
分离部103将各帧的显示图像(显示画面)分离为由区域判定部102判定为动态图像的部分(动态图像区域)和除此以外的部分(静态图像区域),从而生成包含动态图像区域的图像数据的动态图像帧数据320(图5的(b))、和包含静态图像区域的图像数据的静态图像帧数据330(图5的(c))。
动态图像帧数据320保持检测到的动态图像区域311、312的像素的像素值,并且将静态图像区域313的像素的像素值置换为预先确定的固定值,通过上述置换生成的区域用标号323表示。
静态图像帧数据330保持静态图像区域313的像素的像素值,并且将动态图像区域311、312的像素的像素值置换为与图形数据中的透明部分对应的值,通过上述置换生成的区域用标号331、332表示。
用动态图像帧数据320表示的图像和用静态图像帧数据330表示的图像均与PC100的显示画面107a的图像具有相同大小(像素数)。
图5的(b)所示的动态图像帧数据320由视频编码部104进行压缩编码,从而生成编码画面。将编码画面(表示编码画面的数据)存储到由数据存储器113内的存储区域构成的帧缓冲器后,将其作为编码后的视频流发送到网络接口部106,并从网络接口部106发送到网络300。
视频编码部104中的压缩使用可由数字电视接收器200内的视频解码部203进行解码的方式进行。
一般而言,数字电视接收器搭载与在数字广播中使用的压缩方式MPEG-2对应的硬件解码器作为数字电视接收器用集成电路210的一部分,并将该硬件解码器用作图4的视频解码部203,因此视频编码部104中的编码期望依照MPEG-2进行。
如果使用MPEG-2TS(传输流)方式作为流(streaming)方式,则在数字电视接收器200中能够以与广播接收时相同的处理进行解码来显示动态图像,因此比较适合。
从分离部103输出的静态图像帧数据330(图5的(c))通过位图送出部105转换为适于网络传送形式的数据(表示位图画面的数据),在存储到数据存储器113内后,经由网络接口部106送出到网络300,并经由数字电视接收器200的网络接口部201到达至位图接收部204。
作为由图像生成部101生成的位图画面的图像数据(位图数据)的形式,可以采用包含透明度(阿尔法值)的颜色格式ARGB32(阿尔法值8位、红8位、绿8位、蓝8位),以及ARGB1555(阿尔法值1位、红5位、绿5位、蓝5位),关于动态图像区域311、312,设定为表示完全透明的值(阿尔法值:0)。
在不能使用上述颜色格式的情况下,可以采用所谓的被称作色度键合成的方法,在该方法中,将动态图像区域的各像素的像素值置换为表示预先确定的颜色的值后的数据作为静态图像帧数据,从位图送出部105经由网络接口部106、201、位图接收部204和图形显示部205提供给合成部206,当合成部206从图形处理部205接收到上述动态图像区域的各像素的像素值时,使该部分透明,显示用视频解码部203的输出表示的动态图像。
作为位图图像的网络传送方式,例如能够使用RFB协议(远程帧缓冲协议)。例如,能够通过导入被称作VNC(Virtual Network Computing:虚拟网络计算)的软件包实现基于RFB协议的经由网络的位图传送。
本实施方式中,在使用VNC时,在PC100中安装VNC服务器软件,在数字电视接收器200中安装VNC客户端软件,将由安装有VNC服务器软件的PC100生成的GUI(图形用户界面)作为位图数据的一部分,经由网络送出到安装有VNC客户端软件的数字电视接收器200,在数字电视接收器200中,使显示部207显示与该GUI对应的画面,并将与通过输入部209输入的操作对应的用户事件回送到PC100,由此进行PC100的远程操作。
在本实施方式中,在数字电视接收器200中,作为输入部209,除了设置于主体的操作键、和利用红外线通信对主体的接收部(未图示)发送信号的遥控器以外,还假定了能够连接键盘和鼠标的情况。在该情况下,需要在构成数字电视接收器200的控制部208的处理器(嵌入式处理器)中,安装连接键盘、鼠标所需的软件(驱动程序)。
通常操作按钮等PC画面上的GUI通过位图传送进行,因此即使分离动态图像区域,对VNC动作也没有影响,能够通过连接包含与数字电视接收器200连接的键盘、鼠标等的输入部209,一边观看数字电视接收器200的画面,一边进行选择待再现的动态图像的操作。
在数字电视接收器200中,经由网络300接收到的动态图像区域的图像数据(视频编码部104的输出)和静态图像区域的图像数据(位图送出部105的输出)分别通过视频流接收部202和位图接收部204从网络接口部201取出,并分别提供给视频解码部203和图形处理部205。
在视频解码部203中,在画面整体中与动态图像区域(图5的(b)的区域311、312)对应的、数字电视接收器200的显示画面207a上的位置,进行与动态图像区域的图像数据对应的描绘,从而再现和/或复原与图5的(b)所示的画面相同内容的画面(表示画面的数据)。
在图形处理部205中,在画面整体中与静态图像区域(图5的(c)的区域313)对应的、数字电视接收器200的显示画面207a上的位置,进行与静态图像区域的图像数据(位图数据)对应的描绘,从而再现和/或复原与图5的(c)所示的画面相同内容的画面(表示画面的数据)。
视频解码部203的输出和图形处理部205的输出由合成部206合成从而成为合成图像340(图5的(d)),被提供给显示部207,并显示在显示部207的显示画面207a上。
动态图像区域由于配置在原位置(与PC画面上的位置对应的位置),因此仅通过与从图形处理部205输出的位图图像对准坐标位置地重叠视频解码部203的输出图像,就能够再现原来的PC画面(为了PC画面上的显示而生成的图像)。
即,得到提取图5的(b)的画面中的动态图像区域311、312的数据并嵌入到图5的(c)的画面中的区域331、332(透明部分)后的合成图像。
在数字电视接收器200的显示画面207a的大小(像素数)与PC100的显示画面的107a的大小(像素数)不同的情况下,进行缩放。
该缩放可以由合成部206在画面合成后进行,也可以在合成前分别在动态图像区域和静态图像区域中进行。
数字电视接收器用集成电路210通常也具备缩放的功能。
在数字电视接收器200中进行的处理一般全部能够由在数字电视的产品化时导入的数字电视接收器用集成电路进行,因此能够在不特别追加硬件的情况下实现。
如上所述,在视频编码部104中使用根据MPEG-2标准进行压缩编码的软件,由此能够使用集成电路210内的MPEG-2解码器,能够在不需要追加硬件的情况下进行动态图像的再现。
关于位图图像,也能够通过执行用于在数字电视接收器控制用的处理器208上显示屏幕显示(OSD)等的图形功能来容易地实现。
因此,图4所示的结构能够通过对以往的数字电视接收器的软件进行部分变更或追加来实现。
此外,PC100的区域判定部102、分离部103、视频编码部104和位图送出部105能够如上述那样仅用软件实现。
特别是,位图数据的收发能够通过利用广泛使用的VNC软件容易地实现。此时,利用VNC功能在数字电视接收器200上连接鼠标和/或键盘,由此能够一边观察数字电视接收器200的显示部207所显示的图像(本来为了在PC100的显示部107上进行显示而生成的图像)一边操作PC100。
显示画面207a上的GUI的操作按钮等配置在动态图像区域以外的区域,被发送位图。因此,通过操作而产生的PC的显示图像的变化不会受到伴随动态图像编码而产生的延迟等的影响,显示图像的相对于操作的变化基本不产生延迟。
实施方式2.
图6和图7示出构成本发明实施方式2的远程显示装置的PC100和数字电视接收器200。
图示的PC100和数字电视接收器200与参照图2和图4说明的实施方式1的PC100和数字电视接收器200大致相同,但在以下方面不同:在PC100中附加流解码部121,在数字电视接收器200中附加子画面生成部221,并且替代图2的分离部103而设置了分离部123。
在PC中显示动态图像的情况下,有时将从外部送来的影像在显示图像生成部101中进行放大后显示在画面上。在放大图像较大的情况下,例如占据画面的几乎整个区域的情况下,如果以上述实施方式1的方法进行处理,则视频编码部104的处理负荷增大。在实施方式2中,在这种情况下,减轻视频编码部104的处理负荷,从而即使进行视频编码部104等的处理的CPU111的性能较低,也能够与实施方式1同样地,在不改变数字电视接收器的硬件结构的情况下,在数字电视接收器上显示包含动态图像区域和静态图像区域的图像。
图6和图7是示出实施方式2的远程显示装置的PC100和数字电视接收器200的框图,对与图2和图4相同的部件标注相同标号。
流解码部121接收经由互联网等网络发送的表示影像的流数据并进行解码。
流解码部121的输出351(图8的(a))被提供给显示图像生成部101,并且直接被提供给视频编码部104。
提供给显示图像生成部101的动态图像数据351(图8的(a))与另外生成的位图图像数据合成从而成为合成图像350(图8的(b))。在该合成时,动态图像351被放大从而如图8的(b)所示那样占据区域352,位图图像配置于动态图像占据的区域352以外的区域353。在图8的(b)所示的例子中,在被放大的动态图像占据的矩形区域352的周围,形成位图图像的区域353。
在经由互联网送出影像的情况下,不一定总能充分确保传送频带,因此送出远低于PC画面的显示分辨率的影像的情况较多,在视听时利用PC100的显示图像生成部101的图形功能,频繁放大进行显示。在这种情况下,将放大后的图像数据存储到帧缓冲器101a。
因此,在读出显示图像生成部101的帧缓冲器101a的内容并由视频编码部104对动态图像区域的图像数据进行编码时,与对原尺寸的图像进行编码的情况相比,处理负荷增加,而且可能会导致图像质量劣化。
在本实施方式中,为了避免这种情况,将表示放大前的动态图像的数据送出到视频编码部104进行编码。为了这样的处理,变更PC100的软件并将表示放大前的动态图像的数据提供给视频编码部104,另一方面,在分离部123中,可以不生成保持有动态图像区域的像素的像素值的图像数据(实施方式1中的“动态图像帧数据”)。
在视频编码部104中,对表示从流解码部121提供的动态图像的图像数据(图8的(a))进行压缩编码,从而生成视频流361(图8的(c))。
视频流361(图8的(c))由网络接口部106送出到网络300。
区域判定部102进行由从显示图像生成部101输出的图像数据表示的图像的各部分是否表示动态图像的判定。在该判定中,在显示图像生成部101中的图像合成时,在对来自流解码部121的图像进行放大后得到表示所配置的画面上的位置的数据(配置数据),能够根据该配置数据,进行画面的各区域是否为动态图像区域的判定。
分离部123根据区域判定部102的判定结果提取静态图像区域。即,将动态图像区域352的像素的像素值置换为与图形数据中的透明部分对应的值(置换后的区域用标号362表示),从而生成了用原像素的像素值构成其他区域353的静态图像帧数据360(图8的(d))。
位图送出部105将由分离部123分离后的静态图像帧数据360转换为适于网络传送形式的数据,并经由网络接口部106送出到网络300。
送出到网络300的视频编码部104的输出和位图送出部105的输出由数字电视接收器200的网络接口部201接收。
视频流接收部202在网络接口部201接收到的数据中,取出视频编码部104的输出并提供给视频解码部203。
位图接收部204在网络接口部201接收到的数据中,取出位图送出部105的输出并提供给图形处理部205。
到达位图接收部204的静态图像区域的图像数据被提供给图形处理部205。
在图形处理部205中,在画面整体中与静态图像区域(图8的(b)、图8的(d)的353)对应的、数字电视接收器200的显示画面207a上的位置,进行与静态图像区域的图像数据(位图数据)对应的描绘,从而再现和/或复原与图8的(d)所示的画面相同的画面(表示画面的数据)。
另一方面,视频解码部203对视频流361(图8的(c))进行解码,再现和/或复原与用流解码部121的输出表示的图像351(图8的(a))相同内容的图像371(图8的(e))。
视频解码部203的输出371被提供给子画面生成部221。
子画面生成部221具有生成画中画(PIP)中的子画面的功能,对用视频解码部203的输出表示的图像进行放大,设为与PC画面上的动态图像区域(图8的(b)的352)相同的大小,因此设为与静态图像帧数据的透明部分362相同的大小,将该画面上的配置位置决定为与静态图像帧数据的透明区域362的位置一致。放大率根据动态图像371的尺寸和透明部分362的尺寸计算。从图形处理部205提供表示透明部分362的尺寸和位置的信息SP。也可以对其进行替代,在PC100的显示图像生成部101中进行动态图像的放大,将在生成合成图像350时使用的、表示放大率和动态图像区域352的位置的信息从PC100发送到数字电视接收器200,并在子画面生成部221中利用该信息。
在合成部206中,对由子画面生成部221生成的动态图像、和从图形处理部205输出的静态图像进行合成,从而生成合成图像380(图8的(f))。
通过该合成,得到将由子画面生成部221生成的图像(被放大且决定位置后的图像)嵌入到图8的(d)所示的图像中的区域362(透明部分)后的合成图像。在合成图像中,由子画面生成部221生成的嵌入图像用标号381表示。
大多数字电视接收器安装了PIP的功能。
PIP是将原本两个影像资源中的任意一个显示在画面整体,将另一个影像作为子画面显示在画面的一部分上的功能。灵活运用该功能,由此通过对送来的动态图像进行放大而成为预定尺寸的影像,与显示位图图像的图形画面合成,由此对PC100的显示图像进行再现。
在实施方式2的结构的情况下,也能够通过利用大多数字电视接收器用集成电路支持的功能之一的PIP功能,在不准备特别的硬件和软件的情况下在数字电视接收器的画面上显示还包含动态图像的PC的显示图像。
实施方式3.
图9和图10示出构成本发明实施方式3的远程显示装置的PC100和数字电视接收器200。
图示的PC100和数字电视接收器200与参照图6和图7说明的实施方式2的PC100和数字电视接收器200大致相同,但在PC100中附加选择部131、在数字电视接收器200中附加选择部231。
选择部131接收表示是否由显示图像生成部101对所输入的动态图像进行了放大的信息Ey,并根据该信息,选择表示从流解码部121输出的动态图像的数据、和从分离部103输出的动态图像帧数据中的任意一个并输出。即,在进行了放大的情况下,将流解码部121的输出提供给视频编码部104,在没有进行放大的情况下,将从分离部103输出的动态图像帧数据提供给视频编码部104。
表示是否进行了放大的信息Ey还被传送到数字电视接收器200的选择部231,选择部231根据该信息,选择子画面生成部221的输出、和视频解码部203的输出中的任意一个并输出。即,在进行了放大的情况下,将子画面生成部221的输出提供给合成部206,在没有进行放大的情况下,将视频解码部203的输出提供给合成部206。
如图10中虚线所示,还将表示是否进行了放大的信息Ey送出到数字电视接收器200内的子画面生成部221,在没有进行放大的情况下,可以中止子画面生成部221中的放大处理。并且,如图9中虚线所示,还将表示是否进行了放大的信息Ey送出到分离部103,在进行了放大的情况下,可以不进行分离部103中的、动态图像帧数据的生成。
能够通过这种处理,根据由显示图像生成部101生成的图像的状态进行切换动作,能够在各种情况下进行最佳的处理。

Claims (10)

1.一种远程显示装置,其在经由网络与信息处理装置连接的数字电视接收器的显示画面上显示为了该信息处理装置的显示画面上的显示而生成的显示图像,其特征在于,
所述信息处理装置
对通过保持所述显示图像内的动态图像区域的像素的像素值、并用预先确定的固定值置换其他区域的像素的像素值而生成的动态图像帧数据进行压缩编码,并作为视频流送出到所述网络,
经由所述网络将所述显示图像内的静态图像区域的数据作为位图数据送出到所述网络,
所述数字电视接收器
从所述网络接收所述视频流和所述位图数据,
对接收到的所述视频流进行解码而再现包含动态图像区域的图像,
根据接收到的所述位图数据再现所述静态图像区域的图像,
对所再现的所述包含动态图像区域的图像和所再现的所述静态图像区域的图像进行合成,由所述数字电视接收器的显示部显示通过合成得到的合成图像。
2.根据权利要求1所述的远程显示装置,其特征在于,
所述信息处理装置具有:
分离部,其生成所述动态图像帧数据和静态图像帧数据,该静态图像帧数据将所述动态图像区域的像素的像素值置换为与图形数据中的透明部分相当的值并保持了其他区域的像素的像素值;
视频编码部,其通过对所述动态图像帧数据进行压缩编码来生成所述视频流并送出到所述网络;以及
位图送出部,其用位图数据的形式将由所述分离部生成的所述静态图像帧数据送出到所述网络,
所述数字电视接收器具有:
视频解码部,其对从所述网络接收到的所述视频流进行解码而输出解码图像;
图形处理部,其将从所述网络接收到的所述位图数据转换为适于所述数字电视接收器的显示画面上的显示的形式来对所述静态图像区域的图像进行再现;以及
合成部,其对由所述视频解码部生成的所述解码图像、和由所述图形处理部再现的所述静态图像区域的图像进行合成来生成所述合成图像。
3.一种远程显示装置,其在经由网络与信息处理装置连接的数字电视接收器的显示画面上显示为了该信息处理装置的显示画面上的显示而生成的显示图像,其特征在于,
所述显示图像所包含的动态图像区域的图像是通过在所述信息处理装置内对原图像进行放大而得到的,
所述信息处理装置
对表示所述原图像的数据进行压缩编码,并作为视频流送出到所述网络,
将所述显示图像内的静态图像区域的数据作为位图数据送出到所述网络,
所述数字电视接收器
从所述网络接收所述视频流和所述位图数据,
对接收到的所述视频流进行解码,并且利用画中画功能进行放大来再现所述动态图像区域的图像,
根据接收到的所述位图数据再现所述静态图像区域的图像,
对所再现的所述动态图像区域的图像和所再现的所述静态图像区域的图像进行合成,由所述数字电视接收器的显示部显示通过合成得到的合成图像。
4.根据权利要求3所述的远程显示装置,其特征在于,
所述信息处理装置具有:
视频编码部,其通过取得表示所述原图像的数据并进行压缩编码来生成所述视频流并送出到网络;
分离部,其输出将所述显示图像内的所述动态图像区域的像素的像素值置换为与图形数据中的透明部分相当的值,并保持了其他区域的像素值的静态图像帧数据;以及
位图送出部,其用位图数据的形式将由所述分离部生成的所述静态图像帧数据送出到所述网络,
所述数字电视接收器具有:
视频解码部,其对从所述网络接收到的所述视频流进行解码并输出解码图像;
子画面生成部,其将从所述视频解码部输出的所述解码图像作为画中画的子画面进行处理,进行放大和定位,生成放大和定位后的图像;
图形处理部,其将从所述网络接收到的所述位图数据转换为适于所述数字电视接收器的显示画面上的显示的形式来对所述静态图像区域的图像进行再现;以及
合成部,其对由所述子画面生成部生成的图像、和由所述图形处理部再现的所述静态图像区域的图像进行合成来生成所述合成图像,
所述子画面生成部以与所述静态图像帧数据表示的帧的所述透明部分的尺寸和位置匹配的方式,进行所述解码图像的放大和定位。
5.一种远程显示装置,其在经由网络与信息处理装置连接的数字电视接收器的显示画面上显示为了该信息处理装置的显示画面上的显示而生成的显示图像,其特征在于,
所述信息处理装置
进行所述显示图像所包含的动态图像区域的图像是否为在所述信息处理装置内对原图像进行放大而得到的图像的判定,
在所述动态图像区域的图像是通过对所述原图像进行放大而得到的图像的情况下,对表示所述原图像的数据进行压缩编码,并作为视频流送出到所述网络,
在所述动态图像区域的图像是未对所述原图像进行放大而得到的图像的情况下,对表示所述动态图像区域的图像的数据进行压缩编码,并作为视频流送出到所述网络,
将所述显示图像内的静态图像区域的数据作为位图数据送出到所述网络,
所述数字电视接收器
从所述网络接收所述视频流和所述位图数据,
在所述动态图像区域的图像是通过对所述原图像进行放大而得到的图像的情况下,对接收到的所述视频流进行解码,并且利用画中画功能进行放大来再现所述动态图像区域的图像,
在所述动态图像区域的图像是未对所述原图像进行放大而得到的图像的情况下,对接收到的所述视频流进行解码来再现所述动态图像区域的图像,
根据接收到的所述位图数据再现所述静态图像区域的图像,
对所再现的所述动态图像区域的图像和所再现的所述静态图像区域的图像进行合成,由所述数字电视接收器的显示部显示通过合成得到的合成图像。
6.根据权利要求5所述的远程显示装置,其特征在于,
所述信息处理装置具有:
分离部,其生成动态图像帧数据和静态图像帧数据,所述动态图像帧数据保持所述显示图像内的所述动态图像区域的像素的像素值,并用预先确定的固定值置换其他区域的像素的像素值,所述静态图像帧数据将所述动态图像区域的像素的像素值置换为与图形数据中的透明部分相当的值,并保持其他区域的像素的像素值;
第1选择部,其在所述动态图像区域的图像是通过对所述原图像进行放大而得到的图像的情况下,选择表示所述原图像的数据并输出,在所述动态图像区域的图像是未对所述原图像进行放大而得到的图像的情况下,选择所述动态图像帧数据并输出;
视频编码部,其通过对由所述第1选择部选择的数据进行压缩编码来生成所述视频流并送出到所述网络;以及
位图送出部,其用位图数据的形式将由所述分离部生成的所述静态图像帧数据送出到所述网络,
所述数字电视接收器具有:
视频解码部,其对从所述网络接收到的所述视频流进行解码并输出解码图像;
子画面生成部,其将从所述视频解码部输出的所述解码图像作为画中画的子画面进行处理,进行放大和定位,生成放大和定位后的图像;
第2选择部,其在所述动态图像区域的图像是通过对所述原图像进行放大而得到的图像的情况下,选择由所述子画面生成部生成的图像,在所述动态图像区域的图像是未对所述原图像进行放大而得到的图像的情况下,选择从所述视频解码部输出的所述解码图像;
图形处理部,其将从所述网络接收到的所述位图数据转换为适于所述数字电视接收器的显示画面上的显示的形式来对所述静态图像区域的图像进行再现;以及
合成部,其对由所述第2选择部选择的图像、和由所述图形处理部再现的所述静态图像区域的图像进行合成来生成所述合成图像,
所述子画面生成部以与所述静态图像帧数据表示的帧的所述透明部分的尺寸和位置匹配的方式,进行所述解码图像的放大和定位。
7.根据权利要求2、4或6所述的远程显示装置,其特征在于,
使用RFB协议从所述信息处理装置向所述数字电视接收器发送所述静态图像帧数据。
8.根据权利要求2、4或6所述的远程显示装置,其特征在于,
所述视频编码部进行基于MPEG-2标准的压缩编码。
9.根据权利要求2、4或6所述的远程显示装置,其特征在于,
所述静态图像帧数据包含用于GUI显示的数据,
所述数字电视接收器具有受理根据所述GUI显示进行的操作输入的输入部,并且将由所述输入部受理的操作输入发送到所述信息处理装置,
在所述信息处理装置中,根据所述操作输入,变更所述GUI显示的内容。
10.根据权利要求2、4或6所述的远程显示装置,其特征在于,
所述信息处理装置还具有进行所述显示图像内的各区域是否为动态图像区域的判定的区域判定部,
所述分离部根据所述区域判定部的判定结果,进行所述动态图像帧数据和所述静态图像帧数据中的至少一方的生成。
CN201310292454.6A 2012-07-23 2013-07-12 远程显示装置 Pending CN103581733A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2012-162365 2012-07-23
JP2012162365A JP5959353B2 (ja) 2012-07-23 2012-07-23 遠隔表示装置

Publications (1)

Publication Number Publication Date
CN103581733A true CN103581733A (zh) 2014-02-12

Family

ID=49946530

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201310292454.6A Pending CN103581733A (zh) 2012-07-23 2013-07-12 远程显示装置

Country Status (3)

Country Link
US (1) US20140023143A1 (zh)
JP (1) JP5959353B2 (zh)
CN (1) CN103581733A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107368269A (zh) * 2016-05-11 2017-11-21 北京京东尚科信息技术有限公司 传输屏幕图像的方法、装置和系统

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102247892B1 (ko) * 2014-12-02 2021-05-04 에스케이플래닛 주식회사 클라우드 스트리밍 서비스 시스템, 어플리케이션 코드를 이용한 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치
KR101780782B1 (ko) 2016-07-08 2017-09-21 엔트릭스 주식회사 클라우드 스트리밍 서비스 제공 방법 및 이를 위한 장치

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06197337A (ja) * 1992-12-25 1994-07-15 Mitsubishi Electric Corp 画像伝送装置
US6675387B1 (en) * 1999-04-06 2004-01-06 Liberate Technologies System and methods for preparing multimedia data using digital video data compression
US6717622B2 (en) * 2001-03-30 2004-04-06 Koninklijke Philips Electronics N.V. System and method for scalable resolution enhancement of a video image
JP4287621B2 (ja) * 2001-06-11 2009-07-01 パナソニック株式会社 テレビジョン受信機およびこれに対する情報提供方法
US20050193342A1 (en) * 2004-02-04 2005-09-01 Yueting Yen Simultaneous wireless broadcasting of video and graphical content
US20070089137A1 (en) * 2005-10-18 2007-04-19 Clark Christopher M Television interface system
JP4577267B2 (ja) * 2006-05-17 2010-11-10 株式会社日立製作所 シンクライアントシステム
JP2011066577A (ja) * 2009-09-16 2011-03-31 Fujitsu Broad Solution & Consulting Inc 画像処理プログラム、表示システム、画像処理装置および画像処理方法
JP5627413B2 (ja) * 2010-06-04 2014-11-19 三菱電機株式会社 放送受信装置及び放送受信システム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107368269A (zh) * 2016-05-11 2017-11-21 北京京东尚科信息技术有限公司 传输屏幕图像的方法、装置和系统

Also Published As

Publication number Publication date
US20140023143A1 (en) 2014-01-23
JP2014021423A (ja) 2014-02-03
JP5959353B2 (ja) 2016-08-02

Similar Documents

Publication Publication Date Title
CN102577366B (zh) 用于分发嵌入在视频数据中的辅助数据的系统和方法
US7836193B2 (en) Method and apparatus for providing graphical overlays in a multimedia system
US11985386B2 (en) Remote user interface
CN102948160B (zh) 用于画中画视频生成中的存储器缩减的机制
US20220377429A1 (en) Methods, systems, and media for presenting media content using integrated content sources
JP7117664B2 (ja) 映像処理システム及び映像処理方法
US8358363B2 (en) Video-processing apparatus, method and system
US7202912B2 (en) Method and system for using single OSD pixmap across multiple video raster sizes by chaining OSD headers
CN111107428A (zh) 一种双路媒体流数据的播放方法及显示设备
CN111193928B (zh) 用于传递视频中的感兴趣区域信息的方法和设备
US6750918B2 (en) Method and system for using single OSD pixmap across multiple video raster sizes by using multiple headers
CN103581733A (zh) 远程显示装置
JP6735643B2 (ja) 受信装置およびプログラム
KR100693510B1 (ko) 오브젝트 기반 영상 효과 처리 장치 및 그 방법
CN103188449A (zh) 显示设备和可与其连接的外部外围装置以及图像显示方法
JP2014021423A5 (zh)
JP2006211120A (ja) 文字情報表示機能を備えた映像表示システム
KR20160011158A (ko) 화면 공유 시스템 및 방법
JP2017112561A (ja) デジタル信号の伝送装置及びデジタル信号の伝送方法
JP2000092006A (ja) デジタル放送番組送出システムとデジタル放送番組受信装置
US7233366B2 (en) Method and apparatus for sending and receiving and for encoding and decoding a telop image
KR20090002810A (ko) 데이터방송에서의 방송 저장방법 및 이를 적용한 영상기기
KR20110071736A (ko) 단말기 원격 공유 장치 및 방법
KR101295575B1 (ko) 이동통신 단말기 및 데이터 연동 방법
US20210385549A1 (en) Video transmitting device

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20140212

WD01 Invention patent application deemed withdrawn after publication